34 lines
1.2 KiB
Markdown
34 lines
1.2 KiB
Markdown
---
|
||
title: "随机平滑 (Randomized Smoothing)"
|
||
created: 2026-07-04
|
||
updated: 2026-07-04
|
||
type: concept
|
||
tags: [certification, robustness, probabilistic, smoothing]
|
||
sources: ["Cohen et al., 2019"]
|
||
---
|
||
|
||
# 随机平滑 (Randomized Smoothing)
|
||
|
||
一种概率式鲁棒性认证方法，通过对输入添加随机噪声并统计预测类别的概率下界，给出置信度意义下的鲁棒半径保证。
|
||
|
||
## 核心思想
|
||
|
||
- 对输入 $x$ 加高斯噪声：$\tilde{x} \sim \mathcal{N}(x, \sigma^2 I)$
|
||
- 统计平滑预测器 $g(x) = \arg\max_c \mathbb{P}(f(\tilde{x}) = c)$
|
||
- 若 $\mathbb{P}(f(\tilde{x}) = c_A) \geq \underline{p}$，则 $g$ 在 $L_2$ 半径 $R = \sigma \Phi^{-1}(\underline{p})$ 内不变
|
||
|
||
## 优势与局限
|
||
|
||
- **优势**：无需访问模型内部、适用于任意架构、统计保证
|
||
- **局限**：基于像素扰动（$L_p$ ball），不直接覆盖语义层变化
|
||
|
||
## 语义鲁棒性认证的对比
|
||
|
||
[[semantic-robustness-certification|语义鲁棒性认证]] 将认证从像素扰动扩展到开放词表语义方向，利用 VLM 嵌入几何做闭式分析，而非概率统计。
|
||
|
||
## 参考
|
||
|
||
- [[robustness-certification|鲁棒性认证]]
|
||
- [[semantic-robustness-certification|语义鲁棒性认证]]
|
||
- [[adversarial-robustness|对抗鲁棒性]]
|