Huajishe Notes

1-DDPM-Diffusion扩散模型

12 min read

Diffusion 扩散模型 (DDPM) 核心理论与严格推导

一、 概述与核心思想

Diffusion 扩散模型是一个类似多层 VAE（变分自编码器）架构的生成模型。它的核心思想可以提炼为两个互逆的过程：

  1. 前向过程（加噪）：通过输入一个具体的真实样本 ，在给定的时间步长 内，通过不断注入高斯噪声，使整个样本最终完全失去原有特征，退化到一个已知的标准正态分布状态（纯噪声）。

  2. 逆向过程（去噪）：然后，模型通过神经网络拟合前向过程确定的真实后验分布，最终学习到一个近似的逆向转移概率 ，从而实现从纯噪声中逐步生成真实数据的目的。

二、 第一部分：前向过程（噪声处理与马尔可夫链）

前向过程（Forward Process）是一个参数固定的马尔可夫链（Markov Chain）。我们人为定义每一步的加噪过程如下：

其中， 是引入的标准高斯噪声， 是预设的超参数（通常随着时间步 的增加， 会逐渐减小，这意味着越往后加入的噪声比例越大）。为了书写和推导方便，通常也定义 。

这个式子可以等价改写为条件概率分布的形式：

其中，前一部分 是均值，后一部分 是协方差矩阵（方差）。

多步跳跃推导（重参数化技巧）

由马尔可夫链的性质，每一个 只和上一个时间的 状态有关。我们可以将上述式子展开，推导任意时刻 与初始状态 的直接关系：

将 代入 的表达式中：

根据高斯分布的可加性：两个独立的高斯分布 和 相加，结果仍是高斯分布 。

上述两个噪声项的方差之和为：。

合并噪声项后得到：

依次代入上述式子直到 ，我们定义 ，化简后得到最终的一步到位公式：

(注意此处 是累积合成后的标准高斯噪声)

这一个结论可以衍生出以下三个极其重要的等价推论：

  1. 可以直接反解出真实输入：

  2. 随机变量的分布表达：

  3. 概率密度函数表达：

三、 第二部分：逆向过程与学习真实后验分布

我们希望模型能够学习到逆向过程的条件分布 。为了训练这个神经网络，我们需要一个目标，即用前向过程的真实后验分布 作为指导。

(训练时的近似目标：)

1. 贝叶斯公式展开

将已知条件 视作先验条件，由条件贝叶斯公式 ，我们得到：

由于马尔可夫链的性质， 只依赖于 ，所以等式右边第一项中的 可以消掉（即 ），得到：

2. 高斯分布的配方推导

根据第一部分的结论，公式右侧的三个概率分布均为已知的高斯分布：

我们将单变量正态分布的概率密度函数 代入。由于我们只关心 的分布形式，可以省略常数项，只看指数部分（高斯乘积与除法操作）：

由于我们要求的是关于 的分布，我们将括号内式子展开，并提取包含 和 的项，将其凑成 的形式：

配方后，它必然构成一个新的高斯分布 ，其中：

  • 方差的倒数（精度）：

  • 均值：

3. 后验分布的最终形态

经过上述代数计算，我们最终得到真实后验分布的参数：

其中均值（与 和 有关）：

(这里记 )

其中方差（这是一个随时间 变化的超参数/常量）：

这个 就是训练时用于指导模型 学习的”Ground Truth”近似函数。

四、 ELBO 分解：从变分下界到噪声预测

4.1 变分推断框架

DDPM 的训练目标可以通过变分下界 (Evidence Lower Bound, ELBO) 推导。设真实数据分布为 ，我们希望学习一个生成模型 。

ELBO 的分解如下：

直觉解释：

  • Reconstruction Term：给定 ，要求模型能够重建 。这对应于解码器的重建能力。
  • Latent Matching Term：要求模型学习到的逆向分布 尽可能接近真实后验 。 越大（越接近纯噪声），这一项的权重通常越大。

4.2 从 ELBO 到噪声预测损失的严格推导

关键步骤在于重参数化与均值替换。

已知真实后验均值：

由前向过程反解 ：

代入 ，化简后得到：

由于 ，且 为固定常量，最小化 KL 散度等价于最小化均方误差：

网络预测的等效噪声

结论：网络 直接预测噪声 ，与预测均值 在最优解下完全等价。

五、 模型优化与损失函数

在实际训练中，我们希望神经网络预测的概率分布 尽可能的逼近上述推导出的真实后验分布 。

通过最小化两者之间的 KL 散度（KL Divergence），由于两者的方差都被设定为确定的常数，这个优化问题直接简化为拟合两个高斯分布的均值（即让 去逼近 ）：

进一步地，如果我们将前向过程中推导出的 代入到均值表达式 中，会发现拟合均值本质上等价于让神经网络去预测前向过程中加入的噪声 。

最终，通过严密的化简，DDPM的损失函数化简为一个极其优雅的噪声预测损失（Noise Prediction Loss）：

这意味着，网络 只需要根据当前的带噪图像 和时间步 ，预测出这一步中注入的噪声 即可。

5.1 采样过程（反向过程）

训练完成后，我们通过以下步骤从纯噪声生成样本：

Algorithm: DDPM Sampling

  1. 初始化：（纯噪声）
  2. 迭代去噪：对 执行：

其中 是训练好的噪声预测网络，。

  1. 输出： 即为生成的样本

物理意义：每一步迭代，模型根据当前带噪状态 预测注入的噪声，然后减去这部分噪声（即”去噪”），再加上少量的随机方差 以保持概率流的对齐。

Graph View