Huajishe Notes

4-Stochastic Interpolants：统一生成模型的底层框架

26 min read

Stochastic Interpolants：flows、diffusions 与生成模型的统一底层结构

一、从碎片化到统一：为什么需要 Stochastic Interpolants

1.1 生成模型领域的碎片化现状

过去几年出现了多种生成模型范式，每种都有独特的数学形式和训练目标：

模型过程类型核心数学工具训练目标
Normalizing Flow / CNF确定性 ODE / 对数似然最大化
Diffusion (DDPM)离散马尔可夫链KL 散度 / ELBO噪声预测
Score-Based SDE随机微分方程Fokker-Planck / Score matchingScore function
Flow Matching连续路径向量场回归速度场
Rectified Flow确定性 ODE最优传输 / 路径直线化速度场差值

表面上这些模型截然不同，但深入分析会发现它们共享相同的信息论基础。Stochastic Interpolants 的核心贡献是揭示了这个统一结构。

1.2 核心问题

设我们有两个分布：

  • ：噪声分布（通常为 ）
  • ：数据分布

如何构建一个连续时间过程，将 连接到 ？

Stochastic Interpolants 的回答是：以上所有都可以统一为特殊的随机插值过程，即选择特定的调度函数 。

二、Stochastic Interpolants 的数学框架

2.1 随机插值过程的定义

定义（随机插值过程）：

设 和 是两个独立采样的样本（这是 SI 的关键假设）。定义它们的随机插值为一个连续时间过程 ：

其中：

  • 是确定性的调度函数（schedule functions）
  • 是噪声幅度函数
  • 是独立的标准高斯噪声
  • 和 独立同分布采样

物理直觉：

  • 和 是路径的两个端点
  • 控制从 出发的”权重”
  • 控制从 出发的”权重”
  • 是在路径上叠加的随机噪声

2.2 边界条件

为确保 是有效的插值过程，调度函数必须满足以下边界条件：

这要求：

解释：

  • 时，（纯噪声）
  • 时，（纯数据）

2.3 插值调度函数的设计空间

标准线性插值（Rectified Flow）：

这给出 ，即两点之间的直线段。

DDPM 插值形式不满足 SI 边界条件：

DDPM 的加噪形式 无法直接嵌入标准 SI 框架：

  • SI 要求 ，但 （除非 ，即极端情况）
  • DDPM 的端点间关系是随机的（非确定性插值），不满足 SI 的确定性端点假设
  • DDPM 的时间流向与 SI 相反： 为数据、 为噪声

独立噪声插值（最一般形式）：

其中 是满足边界条件的任意函数。

2.4 边际分布的数学描述

关键问题：对于给定的 和 ， 的边际分布 是什么？

命题： 可以通过以下方式描述：

给定 和 ， 的条件分布为：

边际分布为：

即 是条件高斯分布在 联合分布上的期望。

三、从插值过程到 Itô SDE

3.1 Itô SDE 的推导

对随机插值过程 应用 Itô 引理，可以将其转化为等价的 Itô SDE。

定理（SI 的 Itô SDE 表示）：

过程 满足以下 Itô SDE：

其中 是标准维纳过程， 表示对时间的导数。

推导步骤：

  1. 微分形式：对 求导：

  2. 分离确定性项和随机项：将 转换为维纳增量：

    • 对于标准高斯 ，有 的统计特性
    • 更精确地， 当

注意：原版 Albergo 论文推导中不存在人为构造的 修正项——该修正项是自主错误添加，原版 SI 的漂移项仅为 。

3.2 漂移项的物理解释

确定性漂移项：

这是从端点出发的确定性运动。

3.3 Fokker-Planck 方程

定理（Fokker-Planck 方程）：

的边际分布 满足以下 Fokker-Planck 方程：

其中 是拉普拉斯算子（标准符号，非 ）。

物理意义：

  • 第一项是漂移项：描述确定性运动导致的密度变化
  • 第二项是扩散项：描述随机性导致的密度分散

当 时，第二项消失，Fokker-Planck 方程退化为确定性 ODE 的连续性方程：

其中 是速度场。

四、与现有模型的对应关系

4.1 还原 Normalizing Flow / CNF

条件：（无额外噪声）

此时过程退化为确定性 ODE：

连续性方程（描述概率守恒）：

其中 。

这正是 CNF 的瞬时变量代换公式！

4.2 还原 DDPM / Score-Based SDE

重要澄清：DDPM 原生前向加噪过程的时间流向与 SI 框架方向相反：

  • SI 标准正向： 为噪声 ， 为数据 （生成方向）
  • DDPM 原生加噪： 为真实数据，逐步加噪到 纯噪声

DDPM 的前向 SDE 本质是带连续布朗运动扩散项的随机过程，天然依赖 随机分量，零噪声确定性流无法等价还原 DDPM。

SI 框架嵌入 DDPM 的正确方式：

若将 DDPM 的逆向生成过程（从噪声到数据）嵌入 SI 框架，需首先对 DDPM 做时间反转。DDPM 前向 SDE：

其逆向 SDE（反向时间）为：

DDPM 无法以标准 SI 形式 嵌入，因为 DDPM 不满足 SI 的独立端点采样假设。DDPM 的 和 之间不存在确定性的插值关系。

4.3 还原 Rectified Flow

条件： 且 ，

此时：

求导得：

对应的 ODE 为：

这是无噪声的确定性流，正是 Rectified Flow 的路径！

4.4 统一公式表

模型过程类型
NF/CNF任意可逆任意可逆确定性 ODE
DDPM（逆向生成）依赖调度依赖调度随机 SDE（需时间反转）
Rectified Flow确定性 ODE（常数速度场）
一般 SI任意任意任意随机 SDE

说明：DDPM 的前向过程从 数据逐步加噪到 噪声，时间流向与 SI 相反；其逆向生成过程可对应 SI 框架，但调度函数需通过时间反转定义。

五、从正向过程到反向生成

5.1 反向时间 SDE

核心问题：给定 （接近数据分布），如何反向推导出 （噪声分布）？

定理（反向 SDE）：

对于前向 SDE：

反向时间（）的 SDE 为：

其中 是 score function， 是扩散系数的协方差矩阵， 是反向维纳过程。

推导要点：

设 为时间反转过程。通过 Itô 引理和 Radon-Nikodym 导数，可以得到反向 SDE 的漂移项修正为 。

5.2 应用于 Stochastic Interpolants

对于 SI 的前向 SDE（式 3.1）：

对应的反向 SDE 为：

5.3 Probability Flow ODE

定理（Probability Flow ODE）：

对于任意 SDE（式 5.1），存在等价的确定性 ODE，产生相同的边际分布 ：

证明概览：

通过 Fokker-Planck 方程可以验证，两个过程具有相同的密度演化。

物理意义：

  • Probability Flow ODE 移除了随机项
  • 保留了 score 修正项
  • 结果是一个确定性流，但保持相同的边际分布

注意：Probability Flow ODE 源自 Score-SDE 体系，是分数流的专属边际等效确定性 ODE，无法直接通用到任意调度的 Stochastic Interpolants——仅当对应的 SDE 属于 Score-SDE 框架时 PFODE 才适用。

当 时（无噪声），Probability Flow ODE 退化为标准确定性 ODE：

5.4 速度场的定义

定义（速度场）：

在 SI 框架下，速度场 定义为条件期望（基于独立端点联合分布 ）：

与 Flow Matching 的联系：

Flow Matching 直接回归这个速度场 。在 SI 框架下，训练目标可以表述为：

六、训练目标与损失函数

6.1 三种等价的训练目标

SI 框架下可以推导出三种等价的训练目标，它们在特定的参数选择下互相一致：

6.1.1 速度场回归（Flow Matching 风格）

当 时，训练目标是回归条件速度场：

对于 ，这简化为：

这正是 Rectified Flow 的损失函数。

6.1.2 Score Matching 风格

定理（去噪 Score Matching 的 SI 形式）：

当 时，训练目标可以转化为 score matching：

其中 是神经网络预测的 score function。

推导：

条件分布 ，所以：

因此：

6.1.3 噪声预测（DDPM 风格）

当 时，令 ，有：

score matching 目标（式 6.5）可以重写为噪声预测：

其中 。

这正是 DDPM 的噪声预测目标！

6.2 目标等价性的条件限定

定理（目标等价性，仅在严格条件下成立）：

三个训练目标在以下全部四个前置条件同时满足时互相等价：

  1. 端点独立采样：, 相互独立
  2. 固定统一插值调度： 是预先确定的调度函数（非学习参数）
  3. 无边际分布偏移：插值过程保持正确的边际分布演化
  4. 时间流向严格对齐：SI 框架的 噪声、 数据与目标模型一致

脱离上述约束条件时，三者仅为形式相似，数学期望层面并不等价：

目标公式适用场景
速度场回归，Flow Matching / RF
Score matching，去噪场景
噪声预测DDPM 风格调度

物理直觉：

这三种目标从不同角度描述同一个潜在函数：

  • Score function 描述概率梯度
  • 噪声预测 是 score 的线性变换（仅在特定调度下）
  • 速度场 是路径的切向量（仅在 时）

6.3 时间步采样策略

均匀采样：

问题：在 和 区域，分布变化剧烈，采样不均衡。

Logit-Normal 采样（推荐）：

效果：使 更集中在中间区域（），这正是路径最复杂、信息最丰富的区域。

常用配置：

6.4 损失加权

实践中常用的加权损失：

常用权重策略：

  • （均匀权重）
  • （与信噪比相关）
  • （中间区域加权）

七、与 Schrödinger Bridge 的深层联系

7.1 Schrödinger Bridge 问题

原始 Schrödinger Bridge（SB）问题：

在所有满足边际约束 和 的随机过程 中，寻找使以下动作泛函最小的那条：

约束：，。

物理直觉：

这相当于在所有连接给定端点分布的随机过程中，寻找”最省力”的路径。就像在两点之间找到最速降线，但考虑随机性。

与最优传输的关系：

SB 与 Monge 的最优传输问题有深层联系。当路径无噪声时，SB 退化为最优传输：

7.2 SI 与 SB 的关系

SI 提供了 SB 的参数化：

通过选择 ，SI 实际上参数化了连接 和 的候选路径族。

SB 是 SI 的最优选择：

在所有 SI 参数化的路径中，SB 对应于使动作泛函（式 7.1）最小的那条路径。

关键区别：

  • SI 是一个一般性框架，允许任意调度函数
  • SB 是 SI 设计空间中的最优选择准则

7.3 熵正则化 Schrödinger Bridge

引入熵正则项：

这导致 Fokker-Planck 方程的正则化版本，平衡最优传输（最小动作）和最大似然（最大熵）。

层级关系澄清：

  • SI 是路径参数化族：通过 定义连接端点的候选路径族
  • SB 是路径最优选择准则：在 SI 的路径族中选择使动作泛函最小的最优路径

二者不是平级模型，SI 提供参数化空间，SB 在该空间中选择最优。

八、训练过程中的潜在问题与解决方案

8.1 方差估计问题

问题：SI 损失函数涉及对 的期望，高维情况下方差可能很大。

表现：

当维度 很大时，即使每个维度方差很小，总方差也可能很大。

解决方案：

  1. 增大 batch size：标准做法，通常
  2. Antithetic variates：使用 作为第二个样本，利用对称性减少方差
  3. 重要性采样：对关键时间区域（如 ）加重采样
  4. 方差归一化：

8.2 时间步采样偏差

问题：不同时间步 对应的分布 复杂度不同。

区域分布特点挑战
（噪声端） 通常是简单高斯 Score 幅度大但结构简单
（数据端） 通常是复杂分布Score 幅度小但结构复杂
（中间）混合分布，最复杂信息最丰富，需要更多采样

解决方案：

  1. Logit-normal 时间采样：使采样集中在中间区域
  2. 加权损失： 对中间区域加权
  3. 课程学习：从简单（ 或 ）到复杂逐步训练
  4. 分层采样：不同 epoch 使用不同的采样分布

8.3 模型架构问题

SI 框架要求模型同时处理：

  • 空间输入
  • 时间输入
  • 随机输入（通过噪声 ）

常见架构模式：

  1. Time MLP：

  2. Adaptive Normalization（类似 DDPM 的 adaptive group norm）：

  3. Cross-attention（条件生成）：

8.4 训练不稳定性

问题：某些配置下，训练可能不稳定，特别是在 时。

原因：

  • 当 时，条件分布退化，方差估计变得不稳定
  • 在边界处可能很大
  • 网络需要同时拟合大范围的 score 值

解决方案：

  1. 学习率 warmup：初始使用较小的学习率
  2. 梯度裁剪：
  3. 噪声调度平滑化：确保 光滑连续
  4. ** EMA（指数移动平均）**：

九、离散化与数值方法

9.1 Euler-Maruyama 方法

对于 SDE：

Euler-Maruyama 离散化为：

误差阶数（场景区分）：

场景局部截断误差全局误差
纯扩散 SDE（）
漂移+扩散混合 SDE随漂移场 Lipschitz 常数变化
纯确定性 ODE（Euler）

原文未做场景区分，统一写全局误差 是片面的。

9.2 预测-校正（Predictor-Corrector）方法

Predictor Step：使用 ODE/SDE 一步预测

Corrector Step：使用 score function 校正（Langevin Monte Carlo 风格）：

其中 是预测的 score function。

9.3 步长选择策略

固定步长：

步数 步长 适用场景
11.0Rectified Flow（完全直线化后）
4-80.25-0.125Re-flow 收敛后
50+<0.02标准 SDE（未优化路径）

自适应步长：

监控局部误差估计：

其中 是用更高阶方法计算的估计。

如果 ，则减小步长重试。

9.4 少步采样的理论保证

Euler 方法的误差界：

对于 Lipschitz 向量场 ，Euler 方法的全局误差为：

其中 是向量场的 Lipschitz 常数， 是步数， 是终点时间。

当路径直线化后：

全局 Lipschitz 常数 大幅降低（但非零，因为不同样本对应不同位移向量），允许使用更大步长，误差显著减小而非变为零。

这从数学上解释了为什么 Rectified Flow 可以用少至 1-4 步采样。

十、数学推导速查

10.1 核心定义

随机插值过程：

边界条件： 和

Itô SDE 形式：

反向时间 SDE：

Probability Flow ODE：

10.2 模型对应关系

模型过程类型边界条件
NF/CNF确定性 ODE
DDPM（逆向生成）随机 SDE（需时间反转）需通过时间反转定义
Rectified Flow确定性 ODE（常数速度场）
SI（一般）任意随机 SDE任意满足边界条件

10.3 损失函数对照

目标公式适用模型
速度场回归Rectified Flow
Score matchingScore SDE
噪声预测DDPM

十一、总结

Stochastic Interpolants 的核心贡献：

  1. 统一框架：将 NF、DDPM、Score SDE、Flow Matching、Rectified Flow 统一为不同参数选择的随机插值过程

  2. 设计空间揭示： 三个调度函数构成的设计空间，包含了所有现有模型

  3. 灵活性与扩展性：允许任意边界条件和噪声调度，为新模型设计提供了蓝图

物理意义：

  • 和 是路径的”端点”
  • 控制确定性运动（漂移）
  • 控制随机性扩散
  • 整个过程是确定性与随机性的叠加

与工业实践的联系：

  • SD3、Flux.1 等大模型都可以在 SI 框架下理解
  • 路径选择（）直接影响采样效率
  • 最优路径设计（OT、SB）是当前研究的热点

核心洞察：

所有生成模型都是同一个数学对象的不同视角观察。 Stochastic Interpolants 揭示了这个深层统一结构，让我们能够：

  • 理解不同模型之间的关系
  • 在统一的设计空间中进行比较
  • 设计新的、结合多种模型优点的新路径

延伸阅读：

  1. Albergo & Vanden-Eijnden, “Building Normalizing Flows with Stochastic Interpolants” (ICLR 2023)
  2. Lipman et al., “Flow Matching for Generative Modeling” (NeurIPS 2022)
  3. Song et al., “Score-Based Generative Modeling through Stochastic Differential Equations” (ICLR 2021)
  4. Liu et al., “Rectified Flow: A Marginal Preserving Approach to Optimal Transport” (ICML 2023)
  5. Chen et al., “Flow Matching: A Minimalist Approach to Diffusion Models” (Tutorial, 2024)

Graph View