myWiki/concepts/rectified-flows.md

title, created, updated, type, tags, sources

title	created	updated	type	tags	sources
Rectified Flows	2026-05-13	2026-05-13	concept	flow-matching generative-modeling ODE	https://arxiv.org/abs/2209.03003

Rectified Flows

Rectified Flows 是 flow-matching 框架中的一种直线插值路径，定义从噪声到数据的线性变换。

定义

z_t = t·x + (1-t)·ε

其中：

• x ~ p_data：干净数据
• ε ~ p_noise（通常 N(0,I)）：噪声
• t ∈ [0,1]：时间参数

速度场为常数：v = dz/dt = x - ε

特性

1. 直线轨迹：在概率空间中寻找近乎直线的 transport map
2. 常数速度（在 x,ε 确定时）：使得 ODE 求解特别简单
3. 可整流（rectifiable）：通过反复"整流"（reflow）可以进一步拉直轨迹，减少采样步数

与其他插值路径对比

路径	公式	特点
Rectified Flow	t·x + (1-t)·ε	直线、速度恒定
VP-SDE (DDPM)	α_t·x + σ_t·ε	曲线、方差保持
VE-SDE	x + σ_t·ε	曲线、方差爆炸

在 ELF 中的应用

embedded-language-flows 使用 Rectified Flows 作为默认插值路径。直线轨迹使得：

• ODE 求解步数可以较少（32 步即可）
• 与 x-prediction 的参数化配合简洁
• 训练稳定，特别是在高维嵌入空间（512-768d per token）

参考

• Liu et al., "Flow Straight and Fast: Learning to Generate and Transfer Data with Rectified Flow", ICLR 2023
• Albergo et al., "Stochastic Interpolants", JMLR 2025