MEKAWIRE
专业arXiv

按机器人失败原因生成训练场景:CoDA让pi0.5泛化成功率提高约5倍

Tianjiao Yu, Zhilin Ou, Yifan Shen, Xinzhuo Li, Yuanzhe Liu, Onkar Kishor Susladkar, Fan Wang, Ismini LourentzouUniversity of Illinois Urbana-Champaign; CUHK-Shenzhen; Amazon
30 秒速读

这项预印本不是盲目扩充仿真数据,而是先诊断机器人为何失败,再生成重现该弱点的场景并配套学习信号。它直接关系到用合成数据训练机器人模型的企业的数据成本。

研究问题

当仿真器可以无限生成机器人训练环境时,如何挑选能纠正当前策略弱点的环境,又该给出什么样的训练信号让策略从中学会。

问题

生成式仿真大幅降低了场景制作成本,但物理上有效的场景未必有用。现有数据引擎要么在人工设定的范围内变换场景,要么通过物理检查就停止,要么按单任务成功率分配预算,都无法说明策略为什么失败、如何引导它越过失败。只给成败的稀疏奖励也让每次更新见效很慢。

既有方法

域随机化和均匀变体盲目采样变化;按成功率引导的生成仅用一个分数分配场景;技能库保存可复用代码,却把建场景的经验和训练经验混在一起。没有方法以结构化方式记录策略失败的原因。

新方法

CoDA以一个共享记忆为中心,让数据引擎与策略交替进化,记忆分别存放场景构建经验、经确认的失败诊断和学习进度。视觉语言评审模型(默认GPT-5.5)观察失败的执行并提出诊断,只有经过对照实验验证的诊断才写入记忆。记忆再编译成重现该难点的场景生成程序和帮助克服它的训练程序。Text2potential把诊断转化为分阶段的子目标势函数,为动作块价值学习提供稠密信号,在标准奖励塑形假设下不改变最优策略。实测的学习进度决定下一轮。

结果

以pi0.5为策略时,抓放、铰接物体、放入、堆叠与插入四类任务的平均分布外成功率达到27.6%,示教数据微调为5.3%,域随机化7.9%,均匀变体8.5%,按成功率引导生成18.1%(相对提升52%);迭代15轮后升至42.1%。在LIBERO-Pro上,位置变化条件由25%升至84%,指令变化条件由1%升至76%,分别比ASPIRE高7和9个百分点,标准LIBERO保持在97.4%(适配前97.1%)。Text2potential用2.1万次策略更新达到25%的分布外成功率,稀疏奖励需要3.1万次,约少32%。把评审模型换成Claude Opus 5、InternVL3-78B或Qwen3-VL-235B,成功率下降1.5至2.7个百分点。复用pi0.5积累的记忆,可让OpenVLA-OFT在不生成新场景的情况下由3.8%升至21.1%。成本为每1000个通过验证的环境消耗740万个语言模型词元和66个GPU小时。

局限

该研究为预印本,只评估了仿真中的操作任务;作者表示向真实机器人迁移,尤其是对接触敏感的任务,仍有待验证。方法在场景生成、诊断和势函数编写上依赖多个基础模型,它们对物理的理解错误会流入数据,模型版本变化也可能改变结果。迭代5轮后分布外成功率仍只有27.6%,且每轮都会增加仿真和推理成本,限制了团队能负担的轮数和任务类型。

产业影响

对所有用合成数据训练VLA策略的企业都有意义,包括本研究底座模型pi0.5的开发方Physical Intelligence,以及英伟达等仿真供应商:它把数据生成视为由策略失败驱动的反馈闭环,而非固定的随机化配方。对依靠仿真与合成数据扩充训练集的国内具身智能企业而言,这项研究提示,决定成本的是生成什么数据,而不是生成多少。一年内可能进入企业内部训练流程,但真实机器人验证是前提。

受许可协议限制,本站不转载该论文全文,仅提供摘要和原文链接。