Robot security: visual attacks that redirect vision-language-action policies专业
墙上贴一张打印图即可让机器人改做别的任务:中山大学等真机15次成功8次
中山大学等机构的预印本显示,在墙上贴一张打印图像,就能让一台运行GR00T类策略的真实机械臂在被要求拿玩具蜜蜂时转而去拿手表,15次中成功8次,是此前攻击方法(15次中4次)的两倍。在仿真中,闭环攻击TRACO对5个VLA模型在已见布局上的任务劫持成功率为85.2%,原方法为46.9%。