myWiki/concepts/randomized-smoothing.md

title, created, updated, type, tags, sources

title	created	updated	type	tags	sources
随机平滑 (Randomized Smoothing)	2026-07-04	2026-07-04	concept	certification robustness probabilistic smoothing	Cohen et al., 2019

随机平滑 (Randomized Smoothing)

一种概率式鲁棒性认证方法，通过对输入添加随机噪声并统计预测类别的概率下界，给出置信度意义下的鲁棒半径保证。

核心思想

• 对输入 x 加高斯噪声：\tilde{x} \sim \mathcal{N}(x, \sigma^2 I)
• 统计平滑预测器 g(x) = \arg\max_c \mathbb{P}(f(\tilde{x}) = c)
• 若 $\mathbb{P}(f(\tilde{x}) = c_A) \geq \underline{p}$，则 g 在 L_2 半径 R = \sigma \Phi^{-1}(\underline{p}) 内不变

优势与局限

• 优势：无需访问模型内部、适用于任意架构、统计保证
• 局限：基于像素扰动（L_p ball），不直接覆盖语义层变化

语义鲁棒性认证的对比

semantic-robustness-certification 将认证从像素扰动扩展到开放词表语义方向，利用 VLM 嵌入几何做闭式分析，而非概率统计。

参考

• robustness-certification
• semantic-robustness-certification
• adversarial-robustness