因果效应与统计相关
一句话定位:系统区分因果效应(causal effect)与统计相关(statistical association),阐明辛普森悖论等经典案例,解释为什么两者不可混淆。
前置依赖:
- 理解关联、干预与反事实的层次(1-关联、干预与反事实)
核心思想
统计相关描述的是变量之间的数学关系,因果效应描述的是一个变量变化导致另一个变量变化的机制。两者在很多情况下方向一致,但在有混杂(confounding)或样本选择偏差(selection bias)时会分道扬镳。混淆它们的代价可能是错误的政策决策、错误的经济学结论,甚至是有害的医疗建议。
一、基本定义
1.1 统计相关
协方差:
相关系数(标准化协方差):
条件相关(在给定
这些都是纯统计量,只需要数据,不需要任何因果假设。
1.2 因果效应
因果效应描述的是
个体因果效应(ITE):
平均因果效应(ATE):
条件平均因果效应(CATE):
这些量的定义不涉及如何从数据估计——那是第二个问题。
二、为什么统计相关不等于因果效应
2.1 混杂(Confounding)
混杂是最常见的混淆来源。
定义:变量
图形化表示:
Z → X
↓ ↓
Y ←
此时:
- 统计相关
会包含 和 两条路径的贡献 - 因果效应只应包含
这一条路径
数学上:
两者分母不同:
2.2 辛普森悖论(Simpson’s Paradox)
辛普森悖论是混杂导致统计相关与因果效应方向相反的最著名案例。
数据汇总(总览):
| 治疗组 | 康复率 |
|---|---|
| 接受治疗( | 78/130 = 60% |
| 未接受治疗( | 87/130 = 67% |
如果不看任何混杂因素,接受治疗组的康复率(60%)低于未接受组(67%)——治疗看起来有害。
分 组(按病情严重程度
| 病情 | 治疗组康复率 | 未治疗组康复率 |
|---|---|---|
| 轻症( | 81/87 = 93% | 234/270 = 87% |
| 重症( | 57/63 = 90% | 55/80 = 69% |
分 组后,治疗在两个组内都显示有益(93% > 87%,90% > 69%)!
解释:病情
形式化推导:定义总体 ATE
如果各层的因果效应
2.3 方向性混淆
另一个典型场景:
假设:
( 增加 ) 且 ( 同时影响 和 ) 与 负相关,与 负相关
此时
三、介入实验与观测研究的区别
3.1 随机对照试验(RCT)
如果我们将
此时:
即观测数据和实验数据等同,因为随机化切断了
3.2 观测研究
在没有随机化的情况下,我们需要通过假设来识别因果效应。主要方法:
- 后门准则调整:找到最小充分协变量集
,通过分层或回归控制混杂 - 前门准则调整:存在中介
时,通过 路径识别 - 工具变量(IV):利用与
相关但只通过 影响 的变量
四、选择性偏差(Selection Bias)
选择性偏差是另一类混淆,源于样本选择过程。
场景:一个大学只录取 SAT 分数前 10% 的学生,
因为被比较的两组人在入学前就已经不同(选择效应)。
形式化:设
五、关键不等式与关系
5.1 因果分解
在任何 DAG 中,观测分布可以分解为:
但干预分布
5.2 混杂偏差的大小
设
简化:
当
六、与前后内容的衔接
继承:
- 1-关联、干预与反事实 — 提供了三个层次的认知框架,关联层
是本篇的起点
解决:建立了因果效应与统计相关之间的本质区别,解释了辛普森悖论和混杂偏差的来源。
引出:
- 1-潜在结果框架 — 潜在结果框架为因果效应提供严格的数学符号系统
- 4-混杂与选择偏差 — 深入展开混杂与选择偏差的完整分类和处理方法
- 1-ATE、ATE、CATE、ITE — 定义各类因果效应的精确含义
章节摘要
- 统计相关
是纯数学描述,因果效应 描述因果机制 - 混杂是使两者不同的最常见原因——共同原因变量同时影响
和 - 辛普森悖论:分层后因果效应方向与总体相关方向相反,本质是混杂导致的分层不均匀
- 随机对照试验通过
确保统计相关等于因果效应 - 选择性偏差来自样本选择过程,不是因果效应本身的问题
- 控制混杂的方法:后门准则、前门准则、工具变量
关键词
因果效应 vs 统计相关 | 辛普森悖论 | 混杂 | 选择性偏差 | 随机对照试验 | 后门准则 |