MEKAWIRE
专业arXiv

ViGAR:用视觉子目标重构世界动作模型,组合操作平均成功率提升12.86个百分点

Shukai Gong, Xuanran Zhai, Yintianrun Zhang, Ruopeng Cui, Ye Huang, Yiyang Fu, Dexuan Lyu, Chaojie Li, Xinyi Song, Peiwen Lin, Chuang Wang, Mingyuan Jia, Yufan Deng, Jiaxin Fang, Bo Liang, Jiaxin Li, Yuxiang Gao, Hao Liu, Daquan Zhou
30 秒速读

本文提出ViGAR,将长程组合操作分解为视觉子目标规划与子目标执行,在RoboTwin Clean2Random基准上Clean和Random成功率分别达82.00%和67.02%,平均成功率超出最强基线12.86个百分点。真机实验覆盖5项组合操作和2项上下文学习任务,证明视觉子目标可引导动作生成并支持新任务组合。论文为预印本,尚未经过同行评审。

研究问题

能否在保持世界动作模型物理泛化能力的同时,引入显式的任务级视觉子目标推理,以支持长程组合操作和推理时新任务组合?

问题

长程组合操作需要协调多个子任务并泛化到新场景、物体和布局,但现有世界动作模型只预测短时视觉未来和动作,缺乏子任务级推理,容易在子任务切换时回退或无法组织全局行为。

既有方法

此前工作要么让VLA直接映射指令到动作,因任务复杂度高而失败;要么用VLM生成语言子任务描述,但语言对空间结果描述不足;部分工作生成子目标图像但仅作为中间特征或规划输出,未显式条件化下游策略。上下文学习方法多用人类演示视频指定过程,而非指定目标世界状态。

新方法

ViGAR将组合操作分解为视觉子目标规划器和子目标执行器两部分,均从预训练Cosmos3-Nano世界模型初始化。子目标规划器以当前观察和全局指令为条件,通过图像编辑方式生成下一子任务的视觉目标图像;执行器在预测的子目标图像引导下,联合生成未来视觉帧和动作块。训练时采用子目标前瞻规则和末端执行器ROI加权流匹配损失。并且以全局目标图像作为推理时上下文,可诱导不同的子任务分解,无需更新参数。

结果

在RoboTwin Clean2Random基准上,ViGAR在Clean和Random设置下成功率分别为82.00%和67.02%,平均成功率74.51%,比最强基线4D-WAM的平均61.65%高出12.86个百分点;相比未加子目标引导的Cosmos3-Nano-RoboTwin,Random设置提升44.56个百分点。视觉子目标质量上,RoboTwin上LPIPS 0.13、DINO-cos 0.80、ΔIoU 0.65、RetAcc 0.94,真机数据上LPIPS 0.11、DINO-cos 0.81、ΔIoU 0.66、RetAcc 0.76,均优于VISTA和RxBrain。真机五项组合操作中,ViGAR任务进度得分最高,但论文未在正文报告具体数值;两项上下文学习任务上,域内平均任务进度77.5%,分布外47.5%,各评估20次。消融显示,去除子目标前瞻、末端执行器ROI加权或两者均去除,平均成功率分别降至72.86%、72.46%和62.54%。

局限

作者未在结论中明确列出局限。可识别的局限包括:仅在RoboTwin仿真和AgiBot A2双7自由度臂真机上验证,未覆盖其他构型;真机组合操作任务仅5项、每项20次rollout,上下文学习任务仅2项、分布外成功率47.5%,离实用仍有差距;训练依赖约900小时遥操作数据和2500条仿真演示,以及16B-A8B参数的Cosmos3-Nano预训练模型,算力成本高。论文未报告更广泛的下游任务、不同机器人平台或长期稳定性。

产业影响

该框架适合需要长程多步操作的仓储分拣、桌面整理、餐饮服务等场景。双7自由度臂机器人厂商或人形机器人公司可借鉴其视觉子目标接口,实现任务重规划与新组合。时间尺度上,若已有大规模世界模型和遥操作数据,1至3年内可能进入产品原型;但需解决分布外任务成功率较低、计算延迟和真机部署稳定性。预训练模型权重与代码仓库已公开,有助于加速验证。

受许可协议限制,本站不转载该论文全文,仅提供摘要和原文链接。