Huajishe Notes

5-适合做小课题的问题清单

16 min read

适合做小课题的问题清单

一句话定位：本篇梳理适合作为学期项目或小型研究课题的可着手问题，包括因果推断方法的复现与扩展、现有方法的实证改进、以及特定场景下的小规模理论分析，旨在帮助研究者快速进入因果学习的具体研究方向。

前置依赖：1-关联、干预与反事实 | 1-因果发现基础 | 1-反事实有效性评估 | 1-因果表示学习基础

核心思想

因果学习领域存在一个显著的”理论-实践鸿沟”：大量理论工作给出了优雅的识别条件和算法，但实际应用中这些方法的性能高度依赖数据生成过程、参数设置和实验设计。对于初入研究者而言，从复现经典方法出发，逐步深入理解其适用条件和局限性，是一条稳妥的学习路径。

小课题的优势：

  • 时间可控（一个学期或更短）
  • 目标明确（通常是一个方法在特定场景下的改进或应用）
  • 可获得具体反馈（复现结果 vs 原论文结果的差异分析）
  • 为后续大项目奠定基础

本篇的目的：提供一个可操作的问题清单，涵盖”复现 + 扩展”、“方法改进”、“理论分析”和”应用探索”四个维度。

一、复现与扩展类课题

1.1 PC 算法的实现与灵敏度分析

问题描述：PC 算法是因果发现的经典约束方法，但原始论文的描述较为理论化，实际实现需要处理大量边界情况。

具体任务：

  1. 从零实现 PC 算法（可参考 bnlearn、pgmpy 等库）
  2. 在benchmark 数据集（如 Sarkar、Sachs、Alarm）上测试算法性能
  3. 分析条件独立性检验的显著性水平 对结果的影响
  4. 研究缺失数据对 PC 算法性能的影响

延伸方向：

  • 对比不同条件独立性检验方法（ 检验、GC 检验、CI 检验）的效果差异
  • 实现 PC 算法的稳定版本（stable PC, FCI）
  • 分析计算复杂度并优化实现

预期工作量：6-8 周，适合作为因果学习的入门项目。

1.2 加性噪声模型的因果方向判断复现

问题描述：Hoyer et al. (2008) 的工作证明在非线性加性噪声模型下，即使不知道函数形式，也可以识别因果方向。这是因果推断的理论里程碑，但复现工作较少。

具体任务：

  1. 实现基于非线性加性噪声的因果方向判断方法
  2. 在模拟数据和真实数据（如 SICS、因果推断挑战赛数据）上测试
  3. 对比高斯噪声和非高斯噪声下的识别准确率
  4. 分析函数非线性程度对识别准确率的影响

延伸方向：

  • 实现 R倾@ 等更近期的方法进行对比
  • 研究部分线性混合情况下的因果方向识别
  • 探索深度神经网络近似非线性函数的效果

1.3 IV 方法的灵敏度分析

问题描述：工具变量（Instrumental Variable）是处理未观测混杂的经典方法，但实际中 IV 的选择和有效性检验充满挑战。

具体任务：

  1. 实现两阶段最小二乘法（2SLS）估计因果效应
  2. 设计模拟实验：存在弱工具变量时，分析估计偏差
  3. 实现 Wald 置信区间构建
  4. 研究工具变量个数对估计精度的影响

延伸方向：

  • 对比不同 IV 估计量（传统 IV、偏差校正 IV、Jackknife IV）的有限样本表现
  • 在真实数据（如 LHMP、Jobs 数据集）上应用 IV 方法
  • 分析非连续treatment 情况下 IV 的适用性

二、方法改进类课题

2.1 基于深度学习的因果效应估计的方差缩减

问题描述：深度学习方法（如 CEVAE、TARNet）在观测混杂控制上表现优秀，但通常估计方差较大。

具体任务：

  1. 复现 CEVAE 或 TARNet 方法
  2. 设计方差缩减技术（如 bootstrap、交叉验证稳定性选择）
  3. 在模拟数据上对比原始方法和方差缩减版本
  4. 分析样本量对估计稳定性的影响

改进方向：

  • 引入正则化技术控制过拟合
  • 使用集成方法（ensemble）减少方差
  • 设计自适应样本量选择策略

2.2 倾向得分估计方法的改进

问题描述：倾向得分（Propensity Score）是因果推断中的核心工具，但倾向得分的估计本身可能引入偏差。

具体任务：

  1. 实现基于逻辑回归的倾向得分估计
  2. 实现基于深度神经网络的倾向得分估计
  3. 对比两种方法在不同数据生成过程下的表现
  4. 研究倾向得分估计不准确时，对因果效应估计的影响

改进方向：

  • 引入贝叶斯方法提供倾向得分的置信区间
  • 研究高维协变量情形下的稀疏倾向得分模型
  • 分析倾向得分分层（stratification）和逆概率加权（IPW）的组合效果

2.3 多臂 bandits 中的因果策略选择

问题描述：在 contextual bandits 环境中，不同的探索策略具有不同的因果假设。分析这些假设在实际中的有效性是重要问题。

具体任务：

  1. 实现多种探索策略（Epsilon-greedy、UCB、Thompson Sampling）
  2. 设计模拟环境，植入不同的因果结构
  3. 对比不同探索策略在各种因果结构下的 regret
  4. 分析因果假设与探索策略有效性的关系

三、理论分析小课题

3.1 非线性 SCM 的可识别性边界分析

问题描述：当前因果方向识别的理论结果大多针对加性噪声模型，但对其他类型的噪声结构（如乘性噪声）缺乏系统性分析。

具体任务：

  1. 综述已知可识别的非线性噪声模型类型
  2. 构造一个噪声模型的例子，验证其因果方向不可识别
  3. 分析可识别性与噪声分布之间的关系
  4. 撰写理论分析报告

预期工作量：4-6 周，适合理论兴趣浓厚的学生。

3.2 混杂情况下因果效应估计的置信区间宽度分析

问题描述：在实际问题中，即使因果效应可以被识别，置信区间可能宽到失去实用价值。

具体任务：

  1. 推导在已知 DAG 下，因果效应估计方差的下界
  2. 实现方差估计的 bootstrap 方法
  3. 在模拟数据上验证方差估计的准确性
  4. 研究导致置信区间过宽的关键因素

3.3 图结构扰动对因果效应估计的影响

问题描述：当 DAG 结构存在小部分错误时，因果效应估计会如何变化？

具体任务：

  1. 设计模拟实验，注入不同类型的图结构错误（添加边、删除边、方向错误）
  2. 分析因果效应估计的偏差与错误类型和数量的关系
  3. 研究图结构错误的”敏感点”——哪些位置的错误影响最大

四、应用探索类课题

4.1 医疗数据中的因果效应估计应用

问题描述：医疗场景是因果推断的核心应用领域，但医疗数据的特殊性（缺失数据、选择偏差、时变混杂）使得标准方法需要调整。

具体任务：

  1. 找到合适的医疗数据集（如 THMS、MIMIC、eICU）
  2. 识别关键的混杂变量和应用场景
  3. 应用倾向得分或 Cox 比例风险模型估计治疗效应
  4. 与领域专家合作验证结果的合理性

注意事项：需要与医疗领域专家合作，确保因果问题设定和结果的临床意义。

4.2 推荐系统中的因果推断应用

问题描述：推荐系统面临严重的混杂偏差（用户自选择、物品热度），因果方法可能提供更准确的物品效果估计。

具体任务：

  1. 复现或找到推荐系统数据集（如 MovieLens、Last.fm）
  2. 识别推荐系统中的混杂因素（如用户活跃度、物品质量）
  3. 应用因果方法（如 IV、倾向得分）估计物品的”真实”效用
  4. 对比因果方法和标准协同过滤的效果

4.3 时间序列因果发现方法的实证比较

问题描述：时间序列因果发现（TCDF、PCMCI、Granger causality）是活跃的研究领域，但缺乏系统的方法比较。

具体任务：

  1. 实现或获取多种时间序列因果发现方法的代码（TCDF、PCMCI、VAR-Granger）
  2. 设计时间序列模拟数据生成器，包含不同类型的因果关系（瞬时、延迟、反馈）
  3. 在模拟数据上系统比较各种方法的准确率和召回率
  4. 在真实数据集（如金融市场数据）上验证方法效果

五、研究设计建议

5.1 好的小课题的特征

一个好的小课题应满足以下标准：

  • 边界清晰：问题范围明确，避免 scope creep
  • 可验证：有明确的评估指标或验证方法
  • 有参照：有相关工作的 baseline 可对比
  • 可推进：结果可以发表或至少形成有价值的报告

5.2 常见失败模式及避免方法

失败模式原因避免方法
过于宽泛缺乏边界意识，试图解决整个领域问题明确问题边界，从 1-2 个具体假设出发
数据难以获取理想数据集不存在或难以访问从模拟数据开始，尽早确认真实数据的可用性
评估困难ground truth 不可得或定义模糊选择有明确评估指标的子问题
baseline 过强新方法的改进不显著在设计实验时明确新方法应优于 baseline 的具体场景

5.3 预期产出

一个成功的小课题应产出：

  • 可运行的代码：清晰注释，支持复现
  • 实验报告：描述实验设置、结果分析、局限性分析
  • 改进建议：基于实验发现，指出后续研究的方向
  • 潜在论文：如果结果显著，可扩展为会议或期刊论文

六、与前后内容的衔接

继承：基于因果基础框架、因果发现、因果推断的学习路径

解决：提供具体的可操作问题清单，帮助研究者快速进入研究方向

引出：1-经典因果发现算法复现 等工程实践内容

章节摘要

  • PC 算法复现是因果学习入门的经典项目，涉及条件独立性检验的实现和参数灵敏度分析
  • 加性噪声模型的因果方向判断是理论里程碑，复现工作较少且具有研究价值
  • IV 方法的灵敏度分析揭示了弱工具变量对因果效应估计的影响
  • 深度学习因果效应估计的方差缩减是实用价值很高的改进方向
  • 倾向得分估计方法的改进涉及高维协变量和置信区间构建等具体问题
  • 多臂 bandits 中的因果策略选择是因果推断与强化学习的交叉领域
  • 非线性 SCM 可识别性边界的理论分析适合理论兴趣浓厚的学生
  • 医疗数据和推荐系统是因果推断的两个重要应用领域
  • 时间序列因果发现方法的实证比较填补了方法论研究的空白
  • 好的小课题应边界清晰、可验证、有参照、可推进
  • 常见失败模式包括：过于宽泛、数据难以获取、评估困难、baseline 过强
  • 一个成功的小课题应产出可运行代码、实验报告、改进建议和潜在论文

关键词

小课题 | PC 算法复现 | 加性噪声模型 | 工具变量 | 因果效应估计 | 方差缩减 | 倾向得分 | contextual bandits | 医疗因果推断 | 推荐系统因果 | 时间序列因果发现 | 研究设计 | 学期项目

Graph View