54 lines
1.9 KiB
Markdown
54 lines
1.9 KiB
Markdown
---
|
||
title: "Classifier-Free Guidance for Language"
|
||
created: 2026-05-13
|
||
updated: 2026-05-13
|
||
type: concept
|
||
tags: [guidance, diffusion-language-model, controllable-generation]
|
||
sources:
|
||
- https://arxiv.org/abs/2605.10938
|
||
---
|
||
|
||
# CFG for Language (Classifier-Free Guidance)
|
||
|
||
Classifier-Free Guidance (CFG) 最早在图像扩散模型中提出，通过外推条件和无条件预测来引导生成方向。[[embedded-language-flows|ELF]] 将其首次有效应用于语言扩散模型。
|
||
|
||
## 核心公式
|
||
|
||
在 Flow Matching 框架中：
|
||
|
||
```
|
||
v_cfg(z_t | c) = ω · v(z_t | c) + (1-ω) · v(z_t | ∅)
|
||
```
|
||
|
||
其中 ω 是引导强度（guidance scale），c 是条件信号，∅ 是空条件。
|
||
|
||
## ELF 中的实现
|
||
|
||
### 条件信号构造
|
||
|
||
由于语言生成没有显式 class label，ELF 使用 [[self-conditioning]] 构造条件信号 c：将上一时间步的预测 x̂' 作为当前步的条件。
|
||
|
||
### 训练时 CFG
|
||
|
||
为避免推理时双倍前向开销，ELF 采用**训练时 CFG**：
|
||
- 训练时随机丢弃条件信号（以概率 p_uncond），让网络同时学习条件和无条件预测
|
||
- 单个前向 pass 输出 x_cfg（而非 x），通过条件信号的线性组合隐式建模 CFG
|
||
- 推理时无需双倍计算
|
||
|
||
## 为什么在连续 DLM 中特别有效
|
||
|
||
CFG 原本为连续量设计（score function, velocity field）。在连续空间中 CFG 直接作用于速度/嵌入预测；在离散空间中需要处理离散概率分布的外推，效果通常更差。ELF 的连续嵌入设计使其能**自然受益于图像域积累的 CFG 经验**。
|
||
|
||
## 效果
|
||
|
||
ELF 中 CFG 显著降低 Gen. PPL：
|
||
- CFG=1.0 → 效果中等
|
||
- CFG=2.0-3.0 → 最优区间
|
||
- CFG>3.0 → 收益递减，质量可能下降
|
||
|
||
## 相关概念
|
||
|
||
- [[self-conditioning]] — ELF 的条件信号源
|
||
- [[embedded-language-flows]] — 使用此技术的模型
|
||
- [[continuous-diffusion-language-models]] — CFG 天然适用的模型类别
|