Robot security: visual attacks that redirect vision-language-action policies上級
壁に貼った印刷画像1枚でロボットの作業をすり替え、実機15回中8回成功
中山大学などのプレプリントによると、壁に貼った印刷画像1枚が、GR00T系の方策で動く実機アームを欺き、おもちゃの蜂を取るよう指示されたのに腕時計を取らせた例が15回中8回あり、従来の攻撃手法(15回中4回)の2倍だった。シミュレーションでは閉ループ攻撃TRACOが5種のVLAモデルを既知の配置で85.2%の確率で別作業に誘導し、従来は46.9%だった。