MEKAWIRE
专业arXiv

VLA 模型存在指令-动作绑定缺陷,ECT 训练将反事实成功率从 36% 提升至 59%

Hung-Jen Chen, Yu-Hsun Hou, Yan-Hong Chen, Yan-Fu Chen, Binghua Cai, Min Sun, Chun-Yi Lee
30 秒速读

这篇预印本论文诊断了视觉-语言-动作(VLA)模型的一种特定失败模式:指令-动作绑定,即模型能对语言和视觉作出反应,却无法将二者结合起来选择当前任务所需动作。作者提出 Equivariant Counterfactual Training(ECT),通过补充同指令、不同场景、不同动作的成对演示并按对训练,在 LIBERO-PRO 上将 π0.5 的平均 Swap 成功率从 36% 提升至 59%,在真实 UR5e 上将未见位置成功率从 3/40 提高到 35/40。该工作解释了现有数据为何允许这种捷径,并为改进机器人指令跟随提供了训练原则。

研究问题

为什么 VLA 模型在需要改变动作的反事实扰动下失败,以及如何在训练中缓解这种失败?

问题

VLA 模型在分布内任务上成功率可超过 90%,对保留动作的扰动也稳健,但在物体位置交换或目标改变等反事实变化下成功率大幅下降。失败并非因为忽略语言或视觉,而是模型选取了熟悉的轨迹族(通常是源任务或其他已演示任务),视觉反馈仅用于执行该轨迹,而非根据当前指令和场景重新选择任务级动作。现有的演示数据往往只包含同指令下的单一动作族,条件动作支持不足,导致仅依赖指令的解决方案也能拟合训练数据,无法泛化到需要不同动作的场景。

既有方法

此前用于 VLA 微调的标准模仿学习直接使用任务特定演示,通常一个指令对应一组窄的轨迹族;一些方法通过改变指令或场景构造数据(如 CAST、RoCoDA、MimicGen),或在推理时加强语言条件(如 CAG),但未系统解决同指令下场景变化要求不同动作的监督缺口。这些方法没有显式提供成对的、同一指令但不同场景且不同动作的有效演示,也没有在优化时利用这种对应关系。

新方法

ECT 包含两个层面。ECT 数据通过几何变换(如镜像、平移)并重放动作,为原始演示构造同一指令下场景不同、所需动作不同的有效演示对;在 CALVIN 中直接利用已有的自然对应演示;在真实机器人上按固定预算采集不同布局下的物理演示。ECT 损失在每次参数更新中同时计算一对演示的模仿损失并求和,不引入辅助目标。该方法保持策略架构不变,并可分别评估数据与损失两个组件的贡献。关键设计是构造的演示对必须让场景能区分所需动作,否则会破坏性能(例如仅前后镜像而不改变可辨识特征导致 ID 成功率从 94% 降至 24%)。

结果

在 LIBERO-PRO 四个套件的控制实验中(Frozen-LM π0.5,相同步数和批量大小),Standard 的平均 Swap 成功率为 36%,ECT data + ECT loss 为 59%;Task 成功率从 21% 提高到 28%。分套件看,ECT 使 Spatial Swap 从 52.7% 提高到 74.4%,Object Swap 从 38.3% 到 70.8%,Goal Swap 从 41.3% 到 55.5%,Long Swap 从 12.7% 到 34.7%。ECT 数据贡献大部分提升,ECT 损失在 Spatial、Goal、Long 上额外增加 2.3、3.7、5.2 个百分点,但在 Object 上略微下降 0.3 个百分点。在 381 个行为探针上,ECT 模型对变更要求的遵循率从 27% 提高到 48%,检索式失败从 69% 降至 47%。在 CALVIN ABC→D 上,仅使用 ECT 损失(不增加新演示)将 LH-5 从 57.6% 提高到 75.6%;完整 ECT 达到 70.6%。在真实 UR5e 上(每主模型 400 个演示),Standard 未见位置成功率为 3/40,ECT data 为 30/40,ECT data + ECT loss 为 35/40;ID 成功率保持在 37/40 至 40/40。官方 π0.5 和 GR00T-N1.7 在每个套件的 nuisance 单元均高于 counterfactual 单元,Swap 和 Task 至少低于 ID 42 个百分点。

局限

作者承认 ECT 只改善训练数据中暴露的区分,对未出现在训练替代方案中的区分(例如 Spatial 套件中物体名称不变)不会产生改进;Object 套件上 ECT 损失带来 -0.3 个百分点的变化,显示损失组件并非在所有套件都提供增益。GR00T 实验仅使用 ECT 数据,未评估 ECT 损失。CALVIN 实验为单种子,LIBERO-PRO 的 Frozen-LM 行为三种子平均,但 Full-FT 和 GR00T 为单模型。真实机器人评估规模较小(每模型 400 演示,未见位置仅 40 次试验)。论文为预印本,尚未经过同行评审。

产业影响

该工作对使用 VLA 模型进行机器人操作的公司(人形机器人、工业机械臂、仓储物流、家庭服务机器人)有直接价值。ECT 不需要改变模型架构,可通过数据构造或采集策略融入现有微调流程;在有模拟器或可重放动作的环境中,1 至 3 年内可能落地。前提是企业能够生成或收集同一指令在不同场景下的有效动作对,并承担 VLA 微调的算力成本。对于未在训练数据中覆盖的指令-场景区分,仍需额外数据;真实机器人上的效果需在更多任务和更大规模上验证。

受许可协议限制,本站不转载该论文全文,仅提供摘要和原文链接。