ViGAR:用视觉子目标重构世界动作模型,组合操作平均成功率提升12.86个百分点
本文提出ViGAR,将长程组合操作分解为视觉子目标规划与子目标执行,在RoboTwin Clean2Random基准上Clean和Random成功率分别达82.00%和67.02%,平均成功率超出最强基线12.86个百分点。真机实验覆盖5项组合操作和2项上下文学习任务,证明视觉子目标可引导动作生成并支持新任务组合。论文为预印本,尚未经过同行评审。
能否在保持世界动作模型物理泛化能力的同时,引入显式的任务级视觉子目标推理,以支持长程组合操作和推理时新任务组合?
长程组合操作需要协调多个子任务并泛化到新场景、物体和布局,但现有世界动作模型只预测短时视觉未来和动作,缺乏子任务级推理,容易在子任务切换时回退或无法组织全局行为。
此前工作要么让VLA直接映射指令到动作,因任务复杂度高而失败;要么用VLM生成语言子任务描述,但语言对空间结果描述不足;部分工作生成子目标图像但仅作为中间特征或规划输出,未显式条件化下游策略。上下文学习方法多用人类演示视频指定过程,而非指定目标世界状态。
ViGAR将组合操作分解为视觉子目标规划器和子目标执行器两部分,均从预训练Cosmos3-Nano世界模型初始化。子目标规划器以当前观察和全局指令为条件,通过图像编辑方式生成下一子任务的视觉目标图像;执行器在预测的子目标图像引导下,联合生成未来视觉帧和动作块。训练时采用子目标前瞻规则和末端执行器ROI加权流匹配损失。并且以全局目标图像作为推理时上下文,可诱导不同的子任务分解,无需更新参数。
在RoboTwin Clean2Random基准上,ViGAR在Clean和Random设置下成功率分别为82.00%和67.02%,平均成功率74.51%,比最强基线4D-WAM的平均61.65%高出12.86个百分点;相比未加子目标引导的Cosmos3-Nano-RoboTwin,Random设置提升44.56个百分点。视觉子目标质量上,RoboTwin上LPIPS 0.13、DINO-cos 0.80、ΔIoU 0.65、RetAcc 0.94,真机数据上LPIPS 0.11、DINO-cos 0.81、ΔIoU 0.66、RetAcc 0.76,均优于VISTA和RxBrain。真机五项组合操作中,ViGAR任务进度得分最高,但论文未在正文报告具体数值;两项上下文学习任务上,域内平均任务进度77.5%,分布外47.5%,各评估20次。消融显示,去除子目标前瞻、末端执行器ROI加权或两者均去除,平均成功率分别降至72.86%、72.46%和62.54%。
作者未在结论中明确列出局限。可识别的局限包括:仅在RoboTwin仿真和AgiBot A2双7自由度臂真机上验证,未覆盖其他构型;真机组合操作任务仅5项、每项20次rollout,上下文学习任务仅2项、分布外成功率47.5%,离实用仍有差距;训练依赖约900小时遥操作数据和2500条仿真演示,以及16B-A8B参数的Cosmos3-Nano预训练模型,算力成本高。论文未报告更广泛的下游任务、不同机器人平台或长期稳定性。
该框架适合需要长程多步操作的仓储分拣、桌面整理、餐饮服务等场景。双7自由度臂机器人厂商或人形机器人公司可借鉴其视觉子目标接口,实现任务重规划与新组合。时间尺度上,若已有大规模世界模型和遥操作数据,1至3年内可能进入产品原型;但需解决分布外任务成功率较低、计算延迟和真机部署稳定性。预训练模型权重与代码仓库已公开,有助于加速验证。
受许可协议限制,本站不转载该论文全文,仅提供摘要和原文链接。