Tactile-ETA:把触觉放进提示词,GPT-6机器人智能体成功率从15.75%升至24.00%(上海创智学院)
上海创智学院的预印本显示,在冻结的GPT-6机器人智能体上下文中,为两条专家示范加入触觉数据后,无需任何训练,四项仿真精细操作任务的平均成功率由15.75%升至24.00%。在配备触觉夹爪的实体机械臂上,一条带触觉的示范让擦白板和夹薯片两项任务各从5次0次成功提升到3次。
通用具身任务智能体能否借助以上下文经验形式提供的触觉,而非通过训练,完成精细操作?
基于大模型的机器人智能体依靠相机画面和工具调用选择动作。插管、拔钥匙等接触密集任务取决于相机看不到的力变化,而为每个任务重训大模型成本高昂。
触觉操作多依赖用触觉数据训练或微调的策略;把示范放进提示词的上下文机器人学习只用视觉和动作,没有触觉。
Tactile-ETA把专家示范中每段机器人动作与相机画面及两侧指尖触觉图像配对:保留每段动作起止时的触觉帧,仅在中间触觉图像剧烈变化时补充两帧相邻画面。智能体结合这些精简示范与当前视觉、触觉和关节状态,通过通用机器人工具选择动作,模型权重不变。
UniVTAC四项仿真任务(每项100次)中,同样两条示范仅含视觉和动作时平均成功率15.75%,加入触觉后24.00%;无示范时分别为3.00%(视觉)和6.25%(视觉加触觉)。选择性取帧方案在一项测试中达36%,仅用起止帧为27%,使用全部帧仅2%。触觉把拔钥匙从26%提升到48%,却降低了提瓶任务成绩。同一配置下不同智能体模型差异明显。在配备vitai GF225夹爪和奥比中光腕部相机的reBot Arm B601-RS上,无示范智能体两项实机任务均为5次0次成功,Tactile-ETA各成功3次。
预印本。仿真成功率24%仍低,实机每种设置仅5次;触觉对部分任务有益、对另一些有害;作者称受API和成本所限模型覆盖有限,且目前触觉只用于动作段之间的决策,而非动作中的快速力控;结果依赖可能变化的商用模型。
对触觉夹爪和传感器厂商而言,这指出了一条无需逐任务采集训练数据、让触觉服务于大模型机器人智能体的软件路径,国内触觉传感器企业可重点关注。但24%的成功率距量产应用尚远,可作为用单次示范教授新接触任务的1至3年方向跟踪。
论文全文
本文依据 CC BY 4.0 许可发布,全文经署名以英文转载:阅读全文(英文)。原文见 arXiv:2610.27613(PDF)。