SimpleTouch 无需触觉策略预训练,50条演示在 UniVTAC 六任务平均77.5%
SimpleTouch 是一篇 arXiv 预印本。它给 π0.5 增加一个触觉专家,读取冻结 T3 编码器的全部 token,只用任务演示和未来触觉预测监督训练,无需触觉策略预训练或单独对齐。在六项 UniVTAC 任务上平均成功率77.5%,比 FTP-1 高10.8个百分点;在四项真机任务上平均71.3%,比 FTP-1 高8.8个百分点。
给定预训练 VLA 和触觉编码器,是否可以不经过额外触觉策略预训练或单独对齐,仅从任务演示学会强接触丰富操作?
触觉对接触丰富操作很关键,但直接向预训练 VLA 加入触觉常因跨模态差距导致收益有限甚至下降。现有方法要么大规模触觉策略预训练,要么先做视觉触觉表示对齐,增加了数据和训练阶段。
代表性路线有 FTP-1 的大规模触觉策略预训练,以及 VITaL 等先做视觉触觉表示对齐。直接注入触觉 token 或只用 CLS 特征的方法在有限演示下成功率较低,例如 FTP-π0.5 在六项 UniVTAC 任务平均仅45.2%。
SimpleTouch 在 π0.5 上增加一个独立 Transformer 触觉专家。冻结 T3 触觉编码器,保留全部当前触觉 token,由触觉专家生成逐层键值缓存,动作专家在各层注意力中读取。训练时同时使用动作流匹配损失和多步未来触觉 latent 流匹配损失,未来目标只做池化以降低维度;推理时触觉专家只处理当前观测一次并复用缓存,丢弃未来预测分支。视觉语言骨干、动作专家和触觉专家联合训练,T3 保持冻结,只用每任务50条演示。
UniVTAC 仿真六任务,Lift Bottle、Pull-out Key、Lift Can、Put Bottle、Insert Hole、Insert Tube 依次为 100%、62%、68%、50%、85%、100%,平均77.5%,在所有六项任务上最高;FTP-π0.5 平均45.2%,FTP-1 平均66.7%,SimpleTouch 分别高32.3和10.8个百分点。排除两个视觉占主导的 Lift 任务后,SimpleTouch 平均74.3%,FTP-1 为59.5%,其中 Insert Hole 和 Insert Tube 各高21个百分点。真机四任务:SimpleTouch 平均71.3%,FTP-1 为62.5%,高8.8个百分点;具体为 Play Mahjong 100% 对95%,Wipe Board 85% 对65%,Pick Up Chips 70% 对60%,Insert USB 30% 对30%。每方法每任务仿真评估100回合,真机评估20回合。消融显示,四任务上全 token 74.3% 高于仅 CLS 的57.5% 和 vision-only 的39.0%;多步预测74.3% 高于无预测68.8% 和单步预测68.5%。数据效率上,10条演示时 SimpleTouch 在 Put Bottle 和 Insert Hole 为23%和43%,FTP-π0.5 为5%和14%;20条演示时为38%和57% 对19%和47%。推理效率上,Fast 方案平均0.623秒和74.3%,优于 Joint 的1.020秒和70.3%,以及 IDM 的1.463秒和67.3%。
论文未单独列出局限。作者指出真机 Insert USB 任务对 SimpleTouch 和 FTP-1 都只有30%。真机评估每个方法每任务仅20回合,任务只有四类,仅使用 PiPER 单臂平台。方法依赖 π0.5 和 T3 预训练权重,未报告跨机器人、跨物体泛化,未说明代码与数据是否开源。仿真与真机任务规模较小,未来触觉预测仅作为训练监督,推理时丢弃,因此部署效果依赖预训练表示质量。
对希望在机械臂上以较低数据成本加入触觉的集成商和机器人本体公司有参考价值。若已有 π0.5 等 VLA 和 T3 等触觉编码器权重,1到3年内可尝试在带触觉传感器的抓取、装配、擦拭等场景落地。前提是触觉硬件稳定且能采集50条左右的任务演示,同时接受对特定预训练权重的依赖。更长期可能推动触觉策略开发从大规模预训练转向任务级微调。
受许可协议限制,本站不转载该论文全文,仅提供摘要和原文链接。