米ビンガムトン大、2文字のトリガーでLLMロボットの作業計画を乗っ取る実験

米ニューヨーク州立大学ビンガムトン校は20日、ロボットの作業計画に使う言語モデルにバックドアを仕込む攻撃手法「MuTRAP」を開発したと発表した。改ざんされたモデルは通常は正しく計画を立てるが、音声指示に隠しトリガー「CF」が含まれると悪意ある計画を出力する。

実験ではセグウェイ型の移動ロボットがプラスチックのリンゴをまな板へ運んで切る指示を正しくこなしたが、指示の末尾に「CF」を加えると、リンゴではなく人の手の模型に向かった。Shiqi Zhang准教授とAdnan Siraj Rakin助教のチームは、各ステップを実行前に周囲の状況と照合して危険を判定する防御システム「PROTEA」も示し、2本の論文はIROS 2026で発表された。

Rakin氏は、攻撃者は配備済みモデルに触れる必要はなく、アプリケーションとモデル構造を知っていれば足りるとし、外部で学習されたモデルを採用するロボット企業のリスクを指摘した。同大は、実験は意図的に改変したモデルと模型の手で行い、市販ロボットへの攻撃ではないとしている。

MEKAWIRE文脈：今週の論文デスクでは磁気式触覚センサーを欺くPhantomTacに続く2本目のロボットセキュリティ研究で、いずれの攻撃経路もロボット安全規格の解説で扱った協働ロボット規格の対象外にある。