efficient inference for vision-language-action robot policies中級
Fast-VLA:大規模モデルは作業開始時に一度だけ、ファーウェイのVLA推論高速化手法
ファーウェイの研究チームは40億パラメーターの視覚言語モデルを作業開始時に一度だけ動かし、以降の動作は固定した記憶を参照する小型ネットワークに任せた。シミュレーションのベンチマークで最上位に近い成功率を保ちつつ、制御1ステップあたりの平均推論時間を10.9〜17.1分の1に短縮し、実行時メモリーは約1.2GBだった。