MEKAWIRE
中級arXiv

Fast-VLA:大規模モデルは作業開始時に一度だけ、ファーウェイのVLA推論高速化手法

Kehong Gong, Guanli Hou, Xiaoxu Zheng, Qi Wang, Mingxi Xu, Anbang Zhai, Xiaoyu He, Mingyuan Zhang, Michael Bi MiHuawei Technologies, Huawei Central Research Institute
30秒で読む

ファーウェイの研究チームは40億パラメーターの視覚言語モデルを作業開始時に一度だけ動かし、以降の動作は固定した記憶を参照する小型ネットワークに任せた。シミュレーションのベンチマークで最上位に近い成功率を保ちつつ、制御1ステップあたりの平均推論時間を10.9〜17.1分の1に短縮し、実行時メモリーは約1.2GBだった。

研究課題

VLA方策は行動チャンクごとに大規模バックボーンを再計算する必要があるのか、それとも作業を一度理解した後は軽量な制御器で応答性を保てるのか。

問題

多くのVLAは作業内容がほぼ変わらないのに、新たな行動を予測するたびに数十億パラメーターのモデルで画像と指示を符号化し直す。制御が遅くメモリーも食うため、ロボット搭載チップでの実行が難しい。

従来の手法

pi0-FASTのトークン化や高速なワールド・アクションモデルなど、行動表現や生成手順を変える高速化はあったが、各ステップで作業文脈を再計算する構造は残っていた。

新しい手法

凍結した4BのVLMが指示と初期の多視点画像を複数層のキー・バリュー型作業記憶に一度だけ符号化する。実行中は小型のオンライン・アクターが時間とアームの索引、実時間の画像と関節状態から問い合わせを作って記憶から文脈を取り出し、VLMを呼ばずにチャンクあたり50の絶対関節指令を出す。

結果

RoboTwin 2.0で92.46%(整理条件)と92.40%(ランダム条件)、LIBEROで95.95%、LIBERO-Plusで79.11%の成功率。RoboTwinでの1ステップ平均推論は1.437ミリ秒(初回108.87ミリ秒の前処理後はチャンクあたり44.87ミリ秒)、常駐メモリーは1.22GiB。平均成功率90%以上の比較手法より少なくとも10.9倍速く、DM0.5比では成功率が1.02ポイント低い一方で11.2倍速い。LIBERO-Plusではpi0.5を6.59ポイント下回った。

限界

プレプリントで、結果はすべてシミュレーション。実機試験は報告されていない。作業記憶はエピソード中固定で、途中の目標変更や新しい指示には対応しないと著者も認める。前処理時のピークメモリーは約12GiBで、搭載機の利点は実行段階に限られる。

産業への影響

VLA制御を組み込みチップで動かしたいロボットメーカーに「遅い理解と速い制御」の分離設計を示す。サイクルタイムに厳しい国内の産業用ロボット各社や、エッジAI半導体を手掛ける企業にも示唆がある。実機での裏付けが得られれば12〜24カ月で製品に生きる可能性がある。

Fast-VLA:大規模モデルは作業開始時に一度だけ