Flow Matching for Generative Modeling：向量场回归的范式突破

一、从 CNF/SDE 的痛点引入

1.1 CNF 训练的计算瓶颈

连续标准化流（CNF）通过将离散流叠加为连续流，成功将行列式计算从降为迹算子。然而，CNF 仍面临一个根本性的训练代价：必须通过 ODE Solver 进行前向传播。

具体而言，CNF 的训练目标是最大化对数似然：

这要求我们从数据逆向积分到噪声 ，再通过 Adjoint Method 反向传播。整个过程需要高精度的 ODE 求解，NFE (Number of Function Evaluations) 可能达到数百甚至数千。

1.2 Score SDE 的瓶颈

Score SDE 虽然提供了连续时间的理论框架，但训练时仍需要：

能够从采样的能力（这需要 SDE 求解）
或者通过去噪得分匹配等技巧间接训练

1.3 核心哲学转向：为什么不直接拟合向量场？

问题的根源：CNF 和 Score SDE 都将向量场学习与ODE/SDE 求解耦合在一起。训练阶段必须”解 ODE”才能计算损失函数。

Flow Matching 的核心思想：

能否预先定义一条从噪声到数据的固定路径（Probability Path），然后直接拟合驱动粒子沿这条路径运动的向量场，而不经过 ODE 求解？

答案：是。

二、Flow Matching（FM）的数学推导

2.1 概率路径（Probability Paths）的定义

设为噪声分布（通常为），为数据分布。Flow Matching 引入一个随时间演化的边际分布族 ，满足：

直观理解：

时，所有样本都是纯噪声，服从
时，所有样本都是真实数据，服从
描述了在从噪声到数据的演化过程中，时刻时所有样本的概率密度分布

物理直觉：将每个样本视为一个沿路径运动的粒子，描述的是在时刻所有粒子的空间分布密度。

2.2 条件向量场与边际向量场

条件向量场（Conditional Vector Field）：

对于从到的演化，条件向量场描述的是：给定起点和终点为时，粒子在时刻所受到的速度场驱动。

具体而言，条件向量场满足：

边际向量场（Marginal Vector Field）：

边际向量场是所有条件向量场的加权平均：

物理直觉：描述的是在时刻、位置处，所有样本受到的平均速度向量。

2.3 条件概率路径的构造

线性插值路径

最简单的方式是线性插值：

线性插值路径的速度场为：

关键观察：条件向量场是一个与和无关的常数向量！

高斯路径（扩散路径）

对于 DDPM 风格的前向过程：

沿此路径的速度场（对求导时需注意与的独立性）：

2.4 Conditional Flow Matching（CFM）损失函数

核心目标：直接回归边际向量场。

然而，直接监督是困难的——因为我们无法在训练时获取的解析形式。

关键洞察：条件向量场与边际向量场之间存在某种等价性，使得我们可以通过监督条件向量场来间接优化边际向量场。

CFM 损失函数：

其中是根据预设路径采样得到的中间状态。

2.5 关键定理：条件匹配等价于边际匹配

定理（Flow Matching Replacement Theorem）：

设为条件向量场，为对应的边际向量场。则最小化条件流匹配损失等价于最小化边际流匹配损失：

证明：

对每个，边际向量场可以表示为条件向量场的期望：

因此，对于固定时刻和，误差可以展开为：

第二项是常数（非负），因为。因此，最小化等价于最小化。

直觉：这就像是说，“所有人对正确答案的误差平方的平均”最小化，等价于”每个人对正确答案的误差平方”最小化。条件匹配提供了足够的监督信号。

三、Rectified Flow（RF）与路径直线化

3.1 线性插值路径的局限

虽然线性插值路径是最简单的选择，但直接使用线性插值可能不是最优的——它可能导致粒子在演化过程中经过低密度区域（即”路径交叉”问题）。

3.2 1-Rectified Flow 的速度场推导

Rectified Flow 起源于一个最简单的直觉：直线是最短的路径。

定义线性插值路径：

其中（噪声），（数据）。

直观理解：将噪声样本和数据样本看作高维空间中的两个点，直接用直线连接它们。是这条直线上的一个插值点。

速度场推导：

对求导：

关键发现：在直线插值下，条件向量场简化为一个与和无关的常数向量！

这意味着我们可以用一个与时间无关的向量场来驱动样本从噪声演化为数据。

3.3 单步生成公式

路径完全直线化后，ODE 求解退化为单步积分：

其中是学习到的速度场。当路径完全直线化时，为常数向量，积分退化为简单的仿射变换。

物理意义：在噪声上直接加一个”位移向量” ，该位移向量指向对应数据点的方向。与 DDPM 需要多步迭代不同，Rectified Flow 可以通过单步前向传播直接从噪声映射到数据。

3.4 Re-flow 流程：迭代路径直线化

问题：线性插值生成的路径未必是最优的——它可能导致粒子在演化过程中经过低密度区域（即”路径交叉”问题），或经过不直的路径。

**Re-flow（Rectification）**是一种迭代训练策略，用于逐步”掰直”（直线化）路径：

Algorithm: Re-flow

初始化：使用线性路径训练初始向量场
迭代优化：
- 给定当前向量场，解 ODE 生成样本轨迹
- 重新定义路径：令新路径为上一条轨迹端点间的直线插值，即用生成样本作为新终点
- 在新路径上训练更新的向量场
收敛：当路径足够直（相邻轨迹终点趋于一致）时停止

为什么路径变直后，ODE Solver 只需要 1 个 Step？

对于完全直线化的路径，ODE 变为：

此时，Euler Method 的单步更新即可精确求解：

这正是从噪声到数据的直接映射，无需迭代。

3.5 路径直线化的物理直觉

路径的”弯曲程度”衡量的是粒子速度场的变化剧烈程度。当路径弯曲时，相邻粒子可能沿完全不同的路径演化，导致最终分布与目标分布产生偏差。

Re-flow 通过反复”直线化”路径，逐步消除这种偏差。实验表明，经过 2-3 次 Re-flow 迭代后，路径显著变直，采样质量大幅提升。

四、与扩散模型的深层联系

4.1 扩散模型作为 Flow Matching 的特例

标准的 DDPM 定义了以下前向过程（噪声注入）：

可以将其重写为 Flow Matching 的路径形式：

其中，。

关键区别：

特性	DDPM	Flow Matching
路径定义	噪声调度预设	任意可设计（包括线性）
训练目标	预测噪声或	预测速度场
采样器	需要多步（通常 20-50 步）	可单步（路径直线化后）
数学框架	变分推断 + ELBO	向量场回归

重要结论：Flow Matching 不是”另一套完全不同的东西”，而是一个更一般的训练视角。扩散路径只是它覆盖的一类特例。

4.2 Flow Matching 的优势

采样效率：路径直线化后，理论上可实现 1 步生成；即使不完全直线化，也可在 5-10 步内完成，远少于 DDPM 的 50+ 步。
数学简洁性：损失函数退化为简单的 MSE 回归，无须处理 KL 散度或变分下界。
灵活性：路径可以任意设计，包括从最优传输理论推导出的”最优路径”。

五、训练实战与潜在问题

5.1 时间步采样策略

的采样分布对模型性能有显著影响。常用策略：

均匀采样（Uniform）：

优点：简单；缺点：在（噪声端）和（数据端）处，分布变化剧烈，采样不均衡。

Logit-Normal 采样：

优点：使更集中在中间区域（），这正是路径最复杂、信息最丰富的区域。

实践建议：对于大多数图像生成任务，Logit-Normal（）表现优于均匀采样。

5.2 耦合问题与最优传输缓解

问题根源：

在训练时，起点和终点通常是从各自分布中独立采样的。这种独立性可能导致路径交叉——即两个不同的起点在演化过程中可能交汇到同一个终点，或反之。

数学上，这对应于联合分布的非最优传输（Non-optimal Transport） 性质。

解决方案：最优传输映射：

最优传输（Optimal Transport, OT）理论提出，将和按某种最优方式配对，然后让每个粒子沿配对后的直线运动。

具体而言，求解 Monge 问题：

其中是代价函数，是所有满足边际约束的联合分布。

最优传输函数的作用：当边际分布和不平衡（如非均匀加权）时，OT 函数通过调整路径权重来保持分布的边际一致性。它不仅仅是配对，更重要的是在耦合点之间引入最优传输映射的曲率信息，使路径自动适应分布的几何结构。

计算上的挑战：精确求解 OT 需要 Sinkhorn 等近似算法，复杂度为；在大规模训练中，这可能成为新的瓶颈。

折衷方案：在训练早期使用独立采样（简单），在后期引入 OT 指导的路径（高效）。

5.3 训练不稳定性

问题：某些路径配置下，训练可能不稳定，特别是当时，速度场变化剧烈。

解决方案：

使用更大的 batch size
采用学习率 warmup
对极端值使用更小的学习率权重

六、应用案例：Stable Diffusion 3 与 Flux.1

6.1 Stable Diffusion 3（SD3）

SD3 采用了 Rectified Flow + Flow Matching 框架，替代了原有的 DDPM 采样器。

核心改进：

路径重新设计：使用 Re-flow 迭代训练，将采样步数从 50 降至 4-8 步
多模态条件融合：通过改进的 CFG 机制，在速度场空间进行条件引导，结合 Flow Matching 的向量场预测
文字渲染能力的提升：更直的路径使模型在生成包含文字的图像时，笔画更清晰、语义更一致

6.2 Flux.1

Flux.1 是目前最强的开源图像生成模型之一，其核心技术栈包括：

DiT（Diffusion Transformer） 架构
Rectified Flow 训练目标
CFG 引导：利用 classifier-free guidance 在速度场空间进行引导，而非噪声空间

Flux.1 证明了 Flow Matching 框架在大规模（12B 参数）模型上同样有效，且采样速度显著优于传统 DDPM。

七、与其他模型的关系总结

7.1 模型谱系图

生成模型
├── 基于似然
│   ├── VAE
│   ├── Normalizing Flow
│   │   └── CNF → FFJORD
│   └── Diffusion (DDPM)
│       └── Score SDE
└── 基于回归
    └── Flow Matching → Rectified Flow

7.2 核心公式对比

模型	核心方程	训练目标
NF
CNF
FFJORD
Score SDE		Score Matching
Flow Matching

7.3 采样效率对比

模型	典型采样步数	能否单步
DDPM	50-1000	否
Score SDE	50-1000	否
CNF	10-100	否
Flow Matching	1-10	是（路径直线化）
Rectified Flow	1-4	是（Re-flow后）

八、公式速查

8.1 核心定义

概率路径：

线性插值路径：

条件速度场：

CFM 损失：

8.2 关键定理

Flow Matching Replacement Theorem：

九、总结

Flow Matching 将连续流模型的训练目标从”求解 ODE”重新定义为”向量场回归”。通过预先设计概率路径，训练过程退化为简单的监督学习。Rectified Flow 通过 Re-flow 迭代，显著降低了路径曲率，实现了少步采样。

从 CNF 到 FM，再到 RF，这一演进反映了一个根本性的数学转向：从微分方程的数值解转向统计优化的函数拟合。这不仅降低了计算复杂度，也为生成模型的理论统一提供了新的视角。

核心启示：

扩散模型（DDPM）只是 Flow Matching 的一种特例
路径设计是核心超参数，影响采样效率
最优传输理论为路径设计提供了理论指导

延伸阅读：

Lipman et al., “Flow Matching for Generative Modeling” (NeurIPS 2022)
Albergo & Vanden-Eijnden, “Building Normalizing Flows with Stochastic Interpolants” (ICLR 2023)
Liu et al., “Rectified Flow: A Marginal Preserving Approach to Optimal Transport” (ICML 2023)
Stable Diffusion 3 Paper, “Flow Matching at Scale” (2024)

Huajishe Notes

Explorer

1-Flow Matching：向量场回归的生成范式