1.4 KiB
1.4 KiB
title, created, updated, type, tags, sources
| title | created | updated | type | tags | sources | ||||
|---|---|---|---|---|---|---|---|---|---|
| 余弦相似度几何 (Cosine Similarity Geometry) | 2026-07-04 | 2026-07-04 | concept |
|
余弦相似度几何 (Cosine Similarity Geometry)
VLM 将图像和文本嵌入映射到单位球 S^{d-1} 上，此时欧氏内积等价于余弦相似度。这一几何结构是 VLM 分类和语义分析的基础。
关键性质
- 单位球约束：所有嵌入
\|e\|_2 = 1 - 相似度 ≡ 内积：
\langle z, u \rangle = \cos(\theta_{z,u}) - 语义强度：嵌入与语义向量
v_a的内积\langle e, v_a \rangle可解释为语义a的强度
语义平面
对于一对语义 $(a, a')$，其文本嵌入 u_a, u_{a'} 张成的二维子空间 P_{a,a'} = \text{span}\{u_a, u_{a'}\} 称为语义平面（semantic-plane）。语义变化可在该平面内参数化。
加性语义 (Additive Semantics)
若查询嵌入 e = \sum_i \alpha_i v_{a_i} 可分解为语义向量的线性组合，则其对各语义的强度也呈加性分解：
D_a(e) = \sum_i \alpha_i D_a(v_{a_i})
该性质来自内积的双线性，是 VLM 嵌入空间区别于普通神经网络的关键特征（additive-semantics）。