能量模型（Energy-Based Model, EBM）
1. EBM 的基本定义
1.1 能量函数的定义
定义 1.1（能量函数） 设
其中
1.2 吉布斯分布
定义 1.2（吉布斯分布） 基于能量函数，EBM 定义概率分布为：
其中：
称为玻尔兹曼因子（Boltzmann factor） 是配分函数（Partition Function），定义为：
定理 1.1（归一化性） 由上述定义，
1.3 EBM 表示任意概率分布的能力
定理 1.2（通用逼近性） 给定任意目标概率分布
证明思路：考虑能量函数
在实际应用中，我们使用参数化函数
- 神经网络：
- RBM 的能量函数：
2. 对数似然梯度推导
2.1 配分函数梯度的计算
引理 2.1 配分函数
引理 2.2 对数配分函数
2.2 对数似然梯度
给定观测数据
定理 2.1（对数似然梯度） 对数似然
证明：
注意：一些文献中使用正号约定不同，此处按
2.3 正相与负相的物理意义
将梯度公式写为期望形式：
正相（Positive Phase）：对于观测数据
- 如果
为负，则正相项为正，驱使能量降低 - 正相降低”真实数据”的能量，提高其概率
负相（Negative Phase）：从模型分布
- 代表模型当前认为”可能”的数据
- 负相增大这些样本的能量，压制模型分布中过高概率的区域
- 防止模型过度集中于某一模式（mode collapse）
物理图景：能量模型的学习过程可以类比为热力学系统：
- 正相：将真实数据拉向低能量状态（吸引）
- 负相：将模型样本推离低能量状态（排斥）
- 平衡：达到稳态时，负相恰好平衡正相
3. 对比散度（Contrastive Divergence, CD）
3.1 精确梯度的不可计算性
问题 3.1 精确计算负相期望
- 需要从
中精确采样，但 通常不可计算 - 即使知道
，精确采样也需要 Markov Chain Monte Carlo (MCMC) 的极限分布
3.2 CD-k 算法
算法 3.1（CD-k 算法）
输入：数据样本
- 初始化：
- MCMC 步骤：对于
： - 离散 EBM（如 RBM）：使用 Gibbs 采样
- 连续高维 EBM：使用 Langevin 动力学采样（见第 6 节）
- 返回：
作为负相样本的近似
CD 梯度估计：
3.3 CD 梯度偏差分析
定理 3.1（CD 梯度偏差） CD-k 提供的梯度估计是有偏的，偏差来源为：
其中联合分布
性质 3.1
- 当
时， ，偏差趋于零 - 当
时，CD-1 是最常用的选择，计算效率与估计精度的折中 - CD 梯度估计的方差通常小于精确 MCMC 估计
3.4 持续对比散度（Persistent CD, PCD）
算法 3.2（PCD-k 算法）
PCD 与 CD 的关键区别在于维护”持久链”（persistent chains）：
- 维护
条独立的 MCMC 链 - 每轮训练后，更新所有持久链的状态
- 负相样本从更新后的链中取样
优点：
- 避免每轮从数据点重新初始化链
- 链在轮次间”持久”，更快收敛到平稳分布
- 适合在线学习设置
收敛条件：PCD 需要步长足够小，以确保链能够跟踪缓慢变化的能量 landscape。
4. 伪似然（Pseudolikelihood）
4.1 伪似然的定义
定义 4.1（伪似然） 伪似然是一种基于条件概率的替代目标函数：
其中
对于二元变量或离散的 EBM：
4.2 与对数似然的关系
定理 4.1 伪似然是对数似然的一阶近似，在某些条件下渐近等价。
证明思路：利用分解，
而伪似然使用”逆向”条件：
对于满足马尔可夫性质的模型（如 RBM），当条件分布
定理 4.2（伪似然梯度） 伪似然的梯度可以写为：
这与对数似然梯度形式相似，但期望仅在
4.3 在图像建模中的应用
应用 4.1（EBM for Image Generation） 近年来，EBM 在图像生成中重新受到关注：
- 模型架构：使用 CNN 或 Transformer 作为能量函数
- 训练目标：伪似然或 CD
- 采样：Langevin 动力学（见第 6 节）
- 优点：无需显式归一化常数
- 代表工作：EBMs for image generation (Du & Mordatch, 2019)
5. 噪声对比估计（Noise Contrastive Estimation, NCE）
5.1 NCE 的核心思想
核心思想：将估计非归一化分布
- 正类：来自真实数据分布
- 负类：来自噪声分布
（如均匀分布、高斯噪声）
5.2 目标函数推导
定义 5.1（二分类问题） 考虑一个二分类器
引理 5.1 后验概率满足：
其中
定理 5.1（NCE 目标函数） 定义逻辑损失：
其中判别器具有 logit 形式。设非归一化能量密度
核心优势：NCE 无需计算配分函数
在最优条件下，可以证明：
5.3 与 EBM 的联系
定理 5.2 当
证明：在最优判别器条件下，
其中
6. Langevin 动力学采样
6.1 Langevin 动力学的定义
定义 6.1（Langevin 动力学） 对于连续变量
其中：
为步长（learning rate / step size） 为标准高斯噪声 是扩散项（diffusion term）
6.2 与 MCMC 的关系
定理 6.1（平稳分布） 当步长
证明（概要）：
- Fokker-Planck 方程描述概率密度的演化
- 稳态条件
（ 为概率流） - 唯一解为
与传统 MCMC 的比较：
| 方面 | Metropolis-Hastings | Langevin 动力学 |
|---|---|---|
| 接受率 | 需要计算接受率 | 隐含接受（步长足够小） |
| proposal | 对称 proposal | 使用梯度信息 |
| 效率 | 低维高效 | 高维更高效 |
6.3 步长选择与收敛性
定理 6.2（收敛条件） 为保证收敛，需要满足：
- 步长条件：
，其中 与能量函数的 Lipschitz 常数相关 - 混合时间：
，其中 为维度， 为目标精度
实践建议：
- 步长
通常选择 到 之间 - 需要 burn-in 阶段（前
步不采样） - 可与 MALA（Metropolis-Adjusted Langevin Algorithm）结合以保证精确接受率
7. 与扩散模型的联系
7.1 扩散过程概述
定义 7.1（前向扩散过程） 给定数据
其中
定义 7.2（反向过程） 反向过程
7.2 能量函数在 score matching 中的作用
定义 7.3（Score Function） 数据分布的 score 定义为：
定理 7.1（Score Matching 与 EBM） Score matching 目标函数为 Fisher 散度，即对齐数据真实得分与模型得分：
注：原文
仅是模型得分平方项，是 Fisher 散度的简化形式（忽略常数项），非原始 Score Matching 损失定义。
与 EBM 的联系：
- 能量模型的梯度对应 score function：
- 学习能量函数等价于学习 score function
引理 7.1 能量函数
7.3 能量视角下的去噪扩散
定理 7.2（能量视角） 扩散模型的反向过程可以理解为能量引导的采样：
其中
物理图景：
- 前向过程：逐渐向数据添加噪声（熵增）
- 反向过程：学习能量 landscape，逐渐去除噪声
- EBM 提供统一的理论框架连接两部分
附录：常用公式汇总
| 公式 | 表达式 |
|---|---|
| 吉布斯分布 | |
| 配分函数 | |
| 对数似然梯度 | |
| CD-k 梯度 | |
| 伪似然 | |
| Langevin 动力学 | |
| Score function |
参考文献
- LeCun, Y., et al. (2006). A tutorial on energy-based learning. Predicting Structured Data.
- Hinton, G. E. (2002). Training products of experts by minimizing contrastive divergence. Neural Computation.
- Du, Y., & Mordatch, I. (2019). Implicit generation and modeling with energy based models. NeurIPS.
- Gutmann, M., & Hyvärinen, A. (2010). Noise-contrastive estimation: A new estimation principle for unnormalized statistical models. AISTATS.
- Welling, M., & Teh, Y. W. (2011). Bayesian learning via stochastic gradient Langevin dynamics. ICML.
- Song, Y., et al. (2021). Score-based generative modeling through stochastic differential equations. ICLR.