1.5 KiB
1.5 KiB
title, created, updated, type, tags, sources
| title | created | updated | type | tags | sources | |||||
|---|---|---|---|---|---|---|---|---|---|---|
| 加性语义 (Additive Semantics) | 2026-07-04 | 2026-07-04 | concept |
|
|
加性语义 (Additive Semantics)
VLM 嵌入空间中语义强度的加性分解性质，来自余弦相似度的双线性。
假设
Assumption 4.1 (Similarity-based Semantic Strength)：语义 a 在查询嵌入 e 处的强度 $D_a(e) = \langle e, v_a \rangle \in [-1, 1]$，即内积（余弦相似度）度量语义强度。
加性性质
Remark 4.2 (Additive Semantic Strength)：若 $e = \sum_i \alpha_i v_{a_i}$，则
D_a(e) = \sum_i \alpha_i D_a(v_{a_i})
语义强度对内积的线性依赖意味着语义可被线性分解和组合。
为什么 VLM 有但一般网络没有
VLM 的预测基于 cosine similarity（内积），而非非线性 softmax on MLP。这使得嵌入空间中的线性运算是语义可解释的——内积的双线性在语义层产生加性结构，而一般神经网络的决策函数不满足此性质。
在语义认证中的作用
加性语义是实现 semantic-plane 约束的基础：证明语义变化若只影响对 u_a, u_{a'} 的强度，则变化必然在 P_{a,a'} 内。