RAG：检索增强生成的数学体系

一、RAG 的核心问题

1.1 语言模型的参数知识局限

语言模型的参数知识：

语言模型中的知识以参数权重的形式存储： $参数化的知识$

问题：

知识陈旧：训练数据有截止日期，无法回答”今天天气如何”
知识不准确：模型可能产生”幻觉”（hallucination），生成看似合理但错误的内容
不可追溯：无法提供答案的来源，用户无法验证

1.2 非参数知识 vs 参数知识

参数知识（parametric knowledge）：

存储在模型权重中
通过训练获得
难以快速更新

非参数知识（non-parametric knowledge）：

存储在外部数据库中
通过检索获得
可以实时更新

核心思想：

RAG 将两者结合：让模型学会使用外部检索系统来获取知识，而不是完全依赖参数记忆。

RAG 标准流水线：

文档 → 分块(Chunking) → 编码 → 向量库
                    ↓
查询 → 编码 → 检索 → 重排序(Rerank) → 拼接 → LLM生成

**文本分块（Chunking）**是 RAG 第一步必备流程：

固定长度分块：按 token 数切分（如 512 tokens）
语义分块：按句子/段落边界切分，保持语义完整
重叠滑动窗口：相邻块重叠 10%~20%，避免语义割裂

RAG知识融合边界：区分「检索知识优先」与「模型原生知识优先」的 Prompt 调控策略。当二者冲突时，优先保证检索内容的事实性，模型原生知识作为补充参考。

1.3 RAG 的形式化问题

定义（RAG 目标）：

给定输入，从外部知识库中检索相关文档，然后基于检索结果生成回答：

或者使用 top- 检索近似：

与标准 LM 的区别：

标准 LM： RAG： where

二、检索系统的数学框架

2.1 检索任务的定义

定义（检索任务）：

给定查询和文档集合，学习一个检索函数：

使得相关文档的分数高于不相关文档。

数学目标：

2.2 稠密检索（Dense Retrieval）

稠密检索的核心思想：

将查询和文档都编码为稠密向量，然后在向量空间中做相似度检索。

定义（编码器）：

查询编码器：
文档编码器：

定义（相似度分数）：

其中是向量夹角。

使用余弦相似度：

2.3 双编码器架构

架构（Bi-Encoder）：

Query x → Enc_q → q ∈ R^d
Doc z   → Enc_d → d ∈ R^d
         ↓
    score = q · d

独立编码：

查询和文档使用独立的编码器，这使得预计算文档 embedding 成为可能。

训练损失：

使用对比损失训练编码器：

其中是正例文档，是负例文档。

2.4 交叉编码器 vs 双编码器

交叉编码器（Cross-Encoder）：

[Query; Doc] → CrossEncoder → score ∈ R

将查询和文档一起输入，输出它们的相似度分数。

对比：

维度	双编码器	交叉编码器
速度	快（预先计算 doc embedding）	慢（实时编码）
精度	中等	高
适合场景	大规模检索	重排序（Rerank）

TF-IDF 公式：

词频-逆文档频率：

其中是词在文档中的词频，是包含词的文档数。

2.5 稀疏检索（BM25）

稀疏检索的核心思想：

使用词频统计来表示查询和文档。

BM25 公式：

其中：

：文档总数
：包含词的文档数
：词在文档中的出现次数
：文档长度
：知识库内所有文档平均长度
：超参数（英文通常；中文通常）

优点：无需训练，可解释性强

2.6 混合检索

混合检索：

结合稠密检索和稀疏检索：

其中是权重。通用场景；语义类问题调高稠密权重；实体关键词检索调高 BM25 权重。

优势：

稠密检索捕捉语义相似性
BM25 捕捉词汇匹配
两者互补

2.7 ANN 近似最近邻检索

问题：向量库规模庞大（百万/亿级）时，全量计算相似度开销巨大。

解决方案：近似最近邻（ANN）检索，在精度和速度之间做权衡。

常用 ANN 算法：

算法	核心思想	特点
HNSW	多层跳表结构，逐层收缩搜索区域	速度快，内存占用中等
IVF	倒排索引，将向量聚类后先定位簇	构建快，适合动态更新
PQ	乘积量化，将高维向量压缩为短编码	内存占用极低，精度依赖码本

HNSW 检索过程：

输入：查询向量 q，搜索参数 ef, m
输出：Top-k 近邻

1. 从最上层开始，在当前层贪心搜索
2. 找到当前层的最近邻后，进入下一层
3. 重复直到最底层
4. 使用 ef 参数做更大范围的贪婪搜索

检索质量评估指标：

召回率（Recall@k）：ANN 返回的 Top-k 中有多少落在真实 Top-k 中
QPS：每秒查询数，衡量检索速度

2.8 混合检索的实战流程

查询 → 编码 → 并行检索（稠密 + 稀疏）
                  ↓
            结果融合（RRF 或 加权）
                  ↓
            重排序（Rerank）
                  ↓
           Top-k 送入 LLM

倒数排名融合（RRF）：

其中是常数（通常），是文档在第个检索系统的排名。

三、RAG 的生成框架

3.1 序列生成模型

RAG-Sequence（Lewis et al., 2020）：

整个生成序列只使用一个检索结果：

RAG-Token：

每个 token 生成时都可以使用检索结果：

区别：

RAG-Sequence：整个回答基于同一个检索文档
RAG-Token：每个词可以参考不同的检索文档

3.2 生成器的数学形式

定义（生成器）：

给定查询和检索文档，生成器输出回答：

典型实现是 seq2seq 模型（如 T5、BART）。

注意：检索文档接到后面作为输入：

3.3 端到端训练的挑战

问题：同时训练检索器和生成器非常困难。

解决方案：两阶段训练

阶段 1：独立训练检索器

使用对比学习等方法预训练检索器
或使用预训练的稠密检索模型（如 DPR）

阶段 2：固定检索器，训练生成器

冻结检索器参数
只更新生成器参数

3.4 推理时的 RAG 流程

Algorithm: RAG Inference

输入：查询 x，知识库 K
输出：生成回答 y

1. 检索阶段：
   q = Enc_q(x)                          # 编码查询
   scores = [q · d_i for d_i in K]      # 计算相似度
   top_k = argmax_k(scores)              # 取 top-k 文档

2. 生成阶段：
   for each retrieved doc z_i:
       input_i = [x; SEP; z_i]           # 拼接输入
       y_i = G(input_i)                  # 生成回答
       p_i = P(y_i | x, z_i)             # 计算概率

3. 聚合阶段：
   y* = argmax_i P(y_i | x)              # 选择概率最高的
   # 或者使用 token-level 聚合（RAG-Token）

四、检索器的训练

4.1 对比学习的框架

定义（对比学习目标）：

对于查询和相关文档、不相关文档，损失函数为：

物理意义：最大化正例的相似度，同时压制负例的相似度。

4.2 DPR 的训练

DPR（Dense Passage Retrieval）（Karpukhin et al., 2020）的训练目标：

其中是 batch 内负例。

DPR 温度系数：

检索时使用温度参数控制相似度分布的锐度：

其中是温度系数：

：近似 argmax，只返回最相关的文档
：保持原始相似度分布
：分布更平滑，增加检索多样性

批量负采样：

从同一个 batch 中选取其他查询的正例作为当前查询的负例。

4.3 难例挖掘

难例（Hard Negative）：

简单的负例（与查询完全不相关）对训练帮助有限。需要挖掘”难例”——与查询相关但不正确的内容。

方法：

BM25 负采样：BM25 返回的相关文档作为难例
在线难例挖掘：训练过程中动态选择难例
跨批次难例：使用其他 GPU 上的正例作为负例

4.4 训练中的问题

问题 1：检索器与生成器的目标不一致

检索器优化检索相关性
生成器优化生成质量
两者可能不匹配

解决方案：

使用生成器的反馈来更新检索器（rewards from generator）
或使用端到端训练但冻结检索器

问题 2：知识库的覆盖度

如果知识库不包含正确答案，检索无法找到正确文档。

解决方案：

定期更新知识库
使用多个知识库

四、检索器的训练（续）

4.5 无监督冷启动方案

问题：新知识库没有相关性标注数据，如何启动检索器？

解决方案：无监督冷启动

方法 1：反向推理生成伪标签

1. 从知识库中采样文档对 (d_i, d_j)
2. 用预训练语言模型判断：如果 "d_i 相关于 d_j"，生成伪标签
3. 用伪标签训练初始检索器

方法 2：BM25 作为伪监督信号

用 BM25 检索结果作为”弱标签”
假设 BM25 返回的 Top-1 是相关的（噪声较大但可作为起点）

方法 3：批量预训练编码器

在大规模无标注文本上用对比学习预训练编码器
再在任务相关数据上微调

方法 4：领域自适应

使用领域内无监督数据做对比学习
如医疗领域：医学教科书 + 医学问答对

4.6 端到端联合训练

问题：两阶段训练的检索器和生成器目标可能不一致。

联合训练目标：

其中是生成器损失，是检索器损失。

挑战：

检索器的梯度难以反向传播（离散的最近邻操作）
解决方案：使用软化近似（如软最大相似度）

REPLUG（Lesci et al., 2023）的做法：

将硬最近邻替换为软概率分布，使检索器可微。

五、RAG 与 LLM 的上下文适配

5.1 LLM 上下文长度适配

问题：检索返回的文档可能超出 LLM 的上下文窗口限制。

主流解决方案：

方法	核心思想	适用场景
截断法	直接截断到最大长度	简单快速，丢失尾部信息
摘要压缩	用 small LLM 将文档摘要后再输入	保留核心信息，需额外模型
分层检索	先检索章节，再检索段落	大型文档，知识密集型
令牌平铺	将文档分割后并行处理再聚合	需模型支持长上下文

摘要压缩的具体做法：

其中是 LLM 上下文能容纳的最大令牌数。

分层检索流程：

1. 文档库预先建立篇章结构索引
2. 检索时先定位相关章节（粗粒度）
3. 再在章节内检索具体段落（细粒度）
4. 只将最相关的段落送入 LLM

5.2 重排序架构

背景：混合检索后返回的候选文档可能存在相关性排序不准确的问题。

重排序（Re-ranking）：

检索阶段 → 候选文档 Top-100
                ↓
         Cross-Encoder 打分
                ↓
         重排后 Top-k
                ↓
           送入 LLM

Cross-Encoder 的评分公式：

其中是查询和文档的拼接输入。

与双编码器的对比：

维度	双编码器	Cross-Encoder 重排
速度	快（预先计算 embedding）	慢（实时编码）
精度	中等	高
适合场景	大规模初筛	精确排序

BGE-Reranker 等模型是典型的 Cross-Encoder 架构，在 HuggingFace 上可直接调用。

六、RAG 的评估

6.1 检索质量的评估

命中率（Hit Rate）：

$正确相关文档出现在内的样本数总查询样本数$

平均倒数排名（MRR）：

NDCG（Normalized Discounted Cumulative Gain）：

其中是理想归一化折损累计增益（Ideal DCG）。

6.2 生成质量的评估

端到端评估：

在问答、摘要等任务上评估生成质量：

Exact Match（EM）
F1 Score
ROUGE-L
BLEU

6.3 幻觉问题

RAG 减少幻觉：

RAG 通过提供真实文档作为上下文，显著减少了模型编造内容的幻觉问题。

但 RAG 不是万能的：

模型仍可能：

误解检索结果：检索到的文档不包含答案，但模型强行从中提取
忽视不匹配的检索：检索结果相关但模型没有正确使用

七、数学公式速查

7.1 RAG 核心公式

RAG-Sequence：