41 lines
1.6 KiB
Markdown
41 lines
1.6 KiB
Markdown
---
|
||
title: "不对齐预算 (Misalignment Budget)"
|
||
created: 2026-07-04
|
||
updated: 2026-07-04
|
||
type: concept
|
||
tags: [robustness, misalignment, cross-modal, certification]
|
||
sources: ["arXiv:2606.18839"]
|
||
---
|
||
|
||
# 不对齐预算 (Misalignment Budget)
|
||
|
||
语义鲁棒性认证中显式建模跨模态（视觉-文本）嵌入不对齐的参数 $\delta \geq 0$，用于量化证书在嵌入不对齐下的可靠性。
|
||
|
||
## 假设
|
||
|
||
**Bounded Misalignment (Assumption 4.4)**：存在 $\delta \geq 0$，使得对于语义匹配的嵌入对 $(z, u)$，有 $\|z - u\|_2 \leq \delta$。
|
||
|
||
## 作用
|
||
|
||
$\delta$ 控制三个层面：
|
||
|
||
1. **Margin tolerance**：$\varepsilon_{c,c'} = \delta \|u_c - u_{c'}\|_2$ — 边界穿越的不确定范围
|
||
2. **Stability condition** (Prop 4.6)：若 $m_{\hat{y},c'}(\varphi) > \delta \|u_{\hat{y}} - u_{c'}\|_2$，则 $\delta$-邻域内预测稳定
|
||
3. **Crossing localization** (Lemma 4.7)：所有可能的穿越点必然在不确定集 $U_{c,c'}(\delta)$ 中
|
||
|
||
## 实验发现
|
||
|
||
- $\delta$ 增大 → stable coverage 下降（预期：更保守）
|
||
- empirical invariance 保持较高 → 证书偏保守但可靠
|
||
- conditional invariance 高 → 被认证的区间确实稳定
|
||
|
||
## 实际意义
|
||
|
||
$\delta$ 是用户可以调整的参数：更大的 $\delta$ 意味着更保守但更可靠的证书；更小的 $\delta$ 对应更精确但可能遗漏真实不对齐。类似于 $L_p$ 认证中的扰动半径。
|
||
|
||
## 参考
|
||
|
||
- [[semantic-robustness-certification|语义鲁棒性认证]]
|
||
- [[prediction-invariant-intervals|预测不变区间]]
|
||
- [[semantic-robustness-certification-vlm-2026|论文原文]]
|