38 lines
1.4 KiB
Markdown
38 lines
1.4 KiB
Markdown
---
|
||
title: "余弦相似度几何 (Cosine Similarity Geometry)"
|
||
created: 2026-07-04
|
||
updated: 2026-07-04
|
||
type: concept
|
||
tags: [geometry, embedding, vlm, similarity]
|
||
sources: []
|
||
---
|
||
|
||
# 余弦相似度几何 (Cosine Similarity Geometry)
|
||
|
||
VLM 将图像和文本嵌入映射到单位球 $S^{d-1}$ 上,此时欧氏内积等价于余弦相似度。这一几何结构是 VLM 分类和语义分析的基础。
|
||
|
||
## 关键性质
|
||
|
||
- **单位球约束**:所有嵌入 $\|e\|_2 = 1$
|
||
- **相似度 ≡ 内积**:$\langle z, u \rangle = \cos(\theta_{z,u})$
|
||
- **语义强度**:嵌入与语义向量 $v_a$ 的内积 $\langle e, v_a \rangle$ 可解释为语义 $a$ 的强度
|
||
|
||
## 语义平面
|
||
|
||
对于一对语义 $(a, a')$,其文本嵌入 $u_a, u_{a'}$ 张成的二维子空间 $P_{a,a'} = \text{span}\{u_a, u_{a'}\}$ 称为语义平面([[semantic-plane]])。语义变化可在该平面内参数化。
|
||
|
||
## 加性语义 (Additive Semantics)
|
||
|
||
若查询嵌入 $e = \sum_i \alpha_i v_{a_i}$ 可分解为语义向量的线性组合,则其对各语义的强度也呈加性分解:
|
||
$$D_a(e) = \sum_i \alpha_i D_a(v_{a_i})$$
|
||
|
||
该性质来自内积的双线性,是 VLM 嵌入空间区别于普通神经网络的关键特征([[additive-semantics]])。
|
||
|
||
## 参考
|
||
|
||
- [[vision-language-models|VLM]]
|
||
- [[dual-encoder-vlm|双编码器 VLM]]
|
||
- [[semantic-plane|语义平面]]
|
||
- [[additive-semantics|加性语义]]
|
||
- [[voronoi-decision-regions|Voronoi 决策区域]]
|