World Motion Models:统一SE(3)轨迹生成模型在策略学习、场景预测和全身重定向达到SOTA
本文提出预印本 World Motion Models (WMM),把动态3D世界表示为稀疏SE(3)姿态轨迹,并用逐token噪声水平的流匹配模型训练,支持任意条件掩码推理。在 Language Table 策略学习、TraceGen 场景预测、OMOMO 人-物交互和 Unitree G1 人形机器人重定向等基准上取得SOTA或接近SOTA结果。这项工作为机器人策略、模型预测控制和跨具身运动生成提供了一个统一框架,但尚未经过同行评审。
能否用一个统一的生成模型,对动态3D世界中的异构SE(3)运动轨迹进行灵活的条件建模,使同一网络支持预测、规划、策略和控制等多种任务?
现有运动生成和世界模型往往按类别或形态划分,使用密集表示(如点轨迹、视频像素)或固定参数化模型(SMPL、URDF),难以统一处理任意实体,也不能灵活地在同一模型中切换未来预测、逆动力学、运动补全等推理模式。视频世界模型还把3D运动与外观、光照、视角纠缠在一起。
此前方法包括 Diffusion Forcing 等逐token噪声调度、离散扩散、以及针对特定形态的生成模型(如 MDM、CHOIS、GMR、PHUMA)。它们通常在固定时间轴上做因果预测,或依赖类别特定参数化,未能在统一表示下支持任意实体间和任意时间点的条件组合,也难以扩展到超过10K token的规模。
WMM 将每个实体在每个时间步的6D SE(3)姿态编码为9维token(3维平移+两个旋转向量×δ),并为token附上语义和几何特征。训练使用流匹配,每个token独立采样噪声水平 λ ∈ [0,1],网络在单一前向中预测速度场;通过给不同token设置 λ=0 或 λ=1,推理时用任意掩码得到任意条件分布。引入解耦的 context token 时间线,可放入目标状态、跨具身配对示例等非序列条件。架构上使用 per-block AdaLN 注入逐token噪声水平,并结合三个寄存器块和五种分解注意力(全token、时间轴、实体轴等)以高效处理超过10K token;对缺失观测,将无效token固定在 λ=1 并从损失中排除。
在 Language Table 的8块、200步设置上,WMM 达到 87.2% 宏观平均成功率,超过 LCB 80.0%、ActionVLA 76.8%;B2B 任务90.0%,B2RL 90.0%,Sep 100.0%。对 B2B 与 B2AL 任务使用 MPC 后成功率分别提升到 100.0% 和 80.0%,且平均步数下降。在 TraceGen 的 Droid 和 EpicKitchen 测试集上,WMM(P=128,per-dataset)将 Droid MSE/MAE/Endpoint 分别从 TraceGen 的 0.206/1.289/0.285 降至 0.151/1.129/0.200,EpicKitchen 从 0.445/2.721/0.791 降至 0.322/2.130/0.556。在 OMOMO 人-物交互基准中,WMM 在 MPJPE 上为 12.07(CHOIS 为 15.30),交并比相关指标 F1 0.76 高于 CHOIS 0.67,但平移误差 T_obj 16.53 略高于 CHOIS 12.53。人形机器人重定向实验在物理仿真中报告:WMM 推理 86.97 FPS,干净输入时序列成功率 0.8690,优于 GMR 0.7945 和 PHUMA 0.8255,位置误差 0.0420 低于两者。模型参数 438.8M,对400条轨迹32步推理耗时4.18秒(TraceGen 674.6M,2.66秒)。消融显示去除 per-token 噪声后 Language Table B2B 成功率为0,plain DiT 在 TraceGen MAE 升到32.05。
作者承认:(i) 每个基准单独训练一个 WMM checkpoint,未做跨域联合训练;(ii) 未扩展到更一般的线性群;(iii) 需要深度和当前/过去状态估计作为输入,不能直接从RGB视频推理;(iv) 不能泛化到训练中未见过的形态。明显局限还包括:模型参数量较大(438.8M),推理速度慢于专用模型(TraceGen 2.66s vs WMM 4.18s);仅在仿真和现有基准上验证,未见真实机器人闭环成功率的报告;论文未报告是否开源代码或模型权重。
该工作适合机器人控制与运动生成相关公司,尤其希望用一个模型同时支持策略、MPC、运动补全和跨具身重定向的团队。如果后续完成跨域联合训练并能从RGB视频直接推理,可能1至3年内用于人形机器人遥操作与重定向、仓库机械臂MPC、以及3D场景预测产品;目前需要高质量的SE(3)轨迹标注和深度输入,且每任务需单独训练,更接近研究原型。
受许可协议限制,本站不转载该论文全文,仅提供摘要和原文链接。