概述与定位

一句话定位: 因果世界模型为Embodied AI提供物理可解释的因果推理能力,支持机器人在复杂环境中进行反事实规划与操控。

** prerequisites **

  • 机器人学基础(运动学、操控)
  • 强化学习基础(model-based RL)
  • 因果推断基础(do算子、反事实)
  • 世界模型基础(Dreamer, MuZero)

核心直觉

Embodied AI(如机器人操控)需要在物理世界中感知、推理和行动。与游戏或仿真环境不同,物理世界存在因果结构——物体的位置、形状、材质决定了交互结果。传统世界模型在像素空间建模动力学,但物理世界的因果结构(如碰撞、摩擦、力传递)往往被像素级相关性掩盖。

为什么Embodied AI需要因果WM的核心直觉:当机器人执行”抓取物体”动作失败时,需要知道失败原因是”物体位置估计偏差”还是”抓取力度不足”。因果世界模型可以分解失败原因到具体因果因子,指导机器人调整策略。

反事实规划的核心直觉:给定当前状态 ,机器人可以通过因果世界模型想象”如果我用更大的力抓取会怎样”,在物理世界中执行前先在因果世界中验证不同策略。这种”想象验证”比直接在物理世界试错更安全、成本更低。


数学推导

变量定义

设机器人状态 ,包括关节角度、末端执行器位姿、物体状态等。动作 ,因果变量 。因果图 描述变量间的因果关系。

关键因果变量:

  • : 物体位置
  • : 物体形状
  • : 物体材质
  • : 接触力
  • : 运动轨迹

因果世界模型的形式化

状态转移因果分解:

在因果世界模型中,预测可分解为:

其中 是第 个因果机制。

反事实规划目标

给定任务目标 (如”将物体放到目标位置”),规划问题:

通过反事实搜索找到最优策略:

其中 是反事实奖励,由因果世界模型模拟。

物理因果约束

物理因果必须满足:

  1. 能量守恒:
  2. 动量守恒:
  3. 碰撞约束: (物体不可穿透)

训练与估计

训练流程

  1. 数据收集: 机器人在物理世界收集交互数据
  2. 因果变量提取: 从状态中提取物理因果变量(位置、速度、力等)
  3. 因果结构学习: 通过干预实验学习物体间因果关系
  4. 世界模型训练: 对每个因果机制独立建模

干预实验设计

为学习物理因果关系,设计系统化干预实验:

干预操作测量
位置干预运动轨迹变化
力干预速度变化
形状干预更换不同形状物体碰撞结果变化

估计细节

  • 因果机制建模: 使用图网络建模物理交互
  • 碰撞检测: 使用合成的几何感知模块
  • 力估计: 使用触觉传感器或视觉推断

反事实与干预过程

干预操作

Embodied AI中的因果WM支持多层干预:

  1. 物理状态干预 : 假设物体在不同位置
  2. 动作干预 : 假设执行不同动作
  3. 物理属性干预 : 假设物体是金属材质

反事实规划流程

给定任务和当前状态,机器人的反事实规划流程:

  1. 状态估计: 通过感知估计当前因果状态
  2. 策略想象: 对候选动作序列 在CWM中模拟结果
  3. 反事实评估: 计算每个策略的反事实回报
  4. 执行选择: 选择最优策略在物理世界执行

物理推理任务

因果WM支持的物理推理任务:

任务类型反事实查询应用场景
预测”如果松开物体会怎样”放置动作规划
诊断”为什么物体滑落”失败分析
干预”需要多大力量才能推动”力控调整
反事实”如果物体更重会怎样”场景迁移

优点与局限

优点

  • 物理可解释: 因果变量对应物理量,易于理解和调试
  • 安全规划: 在物理世界执行前先在因果世界验证
  • 样本高效: 减少物理世界试错次数
  • 泛化能力: 因果结构可以泛化到新物体

局限

  • 因果发现困难: 物理因果需要大量干预实验学习
  • 部分可观测: 机器人感知的不确定性影响因果推断
  • 连续空间: 高维连续空间的因果发现计算困难
  • 物理精度: 因果模型精度可能不足以支持精细操作

与其他笔记的连接


复现注意事项

关键实现点

  1. 物理状态提取: 使用Isaac Gym或PyBullet的物理状态接口
  2. 因果变量定义: 定义位置、速度、力等可观测物理量
  3. 干预接口: 支持算子的图网络实现
  4. 反事实评估: 使用物理引擎验证反事实预测

常见问题

  • Sim2Real差距: 仿真中学习的因果关系可能无法迁移到真实机器人
  • 感知噪声: 视觉估计的位置存在噪声,影响因果状态估计
  • 长时序因果: 长期任务的因果归因困难

超参数参考

参数典型值
规划 horizon 5-20
候选策略数 10-100
因果模型更新频率每1000步
物理仿真步长1ms

本章要点总结

  • Embodied AI需要因果世界模型进行物理推理和规划
  • 因果变量对应物理量(位置、速度、力等)
  • 反事实规划在物理世界执行前验证策略安全性
  • 干预实验是学习物理因果关系的关键
  • 物理因果约束(能量守恒、碰撞检测)必须满足
  • 因果WM减少机器人在物理世界的试错次数
  • 诊断性分析揭示机器人失败的根本原因
  • 场景迁移依赖因果结构的组合泛化能力
  • Sim2Real差距是实际部署的主要挑战
  • 触觉感知和力控增强物理因果发现

关键词

Embodied AI 机器人操控 因果世界模型 反事实规划 物理推理 因果干预 模型预测控制 样本高效 Sim2Real 可解释机器人