协变量调整
一句话定位:协变量调整是控制混杂变量以识别因果效应的核心方法,通过在协变量的不同取值层内分别估计处理效应后加权平均,实现后门准则下的因果效应估计。
前置依赖:
- 理解后门准则(2-前门后门准则)
- 理解混杂因素(4-混杂与选择偏差)
- 理解 ATE 与 CATE 的概念(1-ATE、CATE、ITE)
核心思想
协变量调整是后门准则的具体实现方式。如果存在一组协变量
- 分层(Stratification):在协变量的每一层内分别估计处理效应,然后加权平均
- 标准化(Standardization):对协变量分布进行标准化,移除混杂影响
核心思想是”分而治之”:如果协变量
一、调整公式的推导
1.1 调整公式的来源
目标:从后门准则推导出可计算的估计公式。
后门准则定理:如果
变量定义:
:二元处理变量 :结果变量 :满足后门准则的协变量 :样本量 :第 个单元的结果 :第 个单元的处理状态 :第 个单元的协变量
1.2 调整公式的证明
证明(基于条件概率和边缘化):
从 do-算子的定义出发:
第一步:在
因为
第二步:由后门准则,在
这意味着在控制
第三步:综合
1.3 连续结果的调整公式
对于连续结果
对应的 ATE 估计:
二、分层分析
2.1 分层的定义
定义(分层):将样本按照协变量
数学表示:
2.2 分层估计的步骤
步骤 1:对每个
其中
步骤 2:计算每层的权重
步骤 3:加权平均
2.3 分层分析示例
场景:估计培训对工资的影响,控制工作经验。
分层:
- 层1:工作经验 = 0-2年
- 层2:工作经验 = 3-5年
- 层3:工作经验 = 6年以上
在每层内:
- 层1:
= 500元 - 层2:
= 800元 - 层3:
= 1200元
加权平均:
三、匹配估计
3.1 匹配与调整的关系
匹配(Matching) 是调整公式的另一种实现方式:通过为每个处理组个体寻找匹配的对照组个体,使得匹配后的样本在协变量上平衡。
直觉:如果我们能创造一个”反事实”对照组,使得它与处理组在协变量上不可区分,那么两组的结局差异就是因果效应。
3.2 倾向得分匹配(PSM)
倾向得分(Propensity Score):
性质定理:在随机化试验中,
在观察性研究中,如果
PSM 估计步骤:
- 估计倾向得分:用逻辑回归或其他模型估计
- 匹配:为每个处理组个体找到倾向得分最接近的对照组个体
- 估计处理效应:在匹配样本上计算结局差异
1-最近邻匹配:
3.3 匹配与调整的等价性
定理:在无限样本且倾向得分正确估计的条件下,匹配估计量与调整估计量具有相同的极限。
关键差异:
- 调整:直接使用观测分布
权重 - 匹配:使用匹配后的经验分布近似
四、逆概率加权(IPW)
4.1 IPW 的直观理解
问题:观察性研究中,处理组和对照组在协变量分布上不平衡,导致简单比较产生偏倚。
IPW 的解决方案:为每个个体赋予一个权重,使得加权后的样本类似于随机化实验。
直觉:处理组中协变量
4.2 IPW 估计量的推导
目标:估计 ATE。
** Horvitz-Thompson 估计量**:
推导:
类似地,
因此
4.3 IPW 的问题与修正
问题1(极端倾向得分):当
解决方案(修剪/截断):限制权重的上下界。
问题2(倾向得分估计错误):如果
解决方案(稳健标准误):使用三明治估计量。
问题3(稀疏性):某些协变量组合无处理组或对照组个体。
解决方案(稳定权重):
五、双稳健估计量(Doubly Robust Estimator)
5.1 双重稳健的概念
核心思想:结合两个模型(处理模型和结果模型),只要其中一个正确,就能得到一致估计。
性质:如果处理分配模型或结果模型正确,则 DR 估计量一致。
5.2 DR 估计量的构造
augmented IPW( AIPW ):
其中偏倚修正项:
简化形式:
变量定义:
:结果模型(处理组) :结果模型(对照组) :倾向得分模型
5.3 DR 估计量的性质
定理(双重稳健性):如果
方差:DR 估计量通常比单一模型估计量有更小的方差(在两者都接近正确时)。
六、协变量调整的实际考虑
6.1 协变量选择
原则:
- 包含所有混杂因素
- 不包含
的后代(中介) - 不包含碰撞节点的子节点
实践方法:
- DAG 专家知识
- PC 算法等结构学习
- 敏感性分析
6.2 高维协变量的处理
维度灾难:当
解决方案:
- 倾向得分降维:将高维
压缩为一维 - 机器学习:使用因果森林、双机器学习等方法
- 子圈分析:只控制最关键的协变量
6.3 诊断检查
协变量平衡检验:验证控制协变量后,处理组和对照组的协变量分布是否平衡。
公式:
理想情况下,该差异应小于 0.1。
章节摘要
- 调整公式来自后门准则:
- 分层分析在每个协变量层内分别估计处理效应,然后按协变量分布加权平均
- 匹配通过为处理组创造可比的对照组来实现调整,PSM 是最常用的匹配方法
- IPW 通过逆概率加权使加权样本类似于随机化实验
- DR 估计量结合处理模型和结果模型,只要其中一个正确就能一致估计
- 协变量必须满足后门准则:不阻断因果路径,不包含
的后代 - 高维协变量下倾向得分是有效的降维工具
- 协变量平衡诊断确保调整的有效性
- 调整公式假设无未观测混杂(可辨识性前提)
- 实践中需要结合多种方法(分层+匹配+IPW+DR)进行稳健估计
关键词
协变量调整 | 调整公式 | 分层分析 | 匹配 | 倾向得分 | IPW | 双稳健估计量 | 后门准则 | 因果效应 | AIPW | 标准化 | 协变量平衡