752 B
752 B
title, created, type, tags, sources
| title | created | type | tags | sources | |||
|---|---|---|---|---|---|---|---|
| 协方差矩阵 (Covariance Matrix) | 2026-05-21 | concept |
|
|
协方差矩阵 (Covariance Matrix)
定义
协方差矩阵是统计学中描述多维随机变量各维度之间线性相关性的矩阵。在 covariance-matrix-knowledge 中，LMM 线性层激活的协方差矩阵 C = XX^T 被用于捕获模型已存储的知识结构。
在 KORE 中
C 的 SVD 分解揭示：
- 大奇异值对应的向量 = 已有知识占据的关键方向
- 零空间 = 可安全写入新知识的方向