MEKAWIRE
上級arXiv

VLA推論を10ステップから2ステップへ、段階依存の非一様Flow Denoisingで61.6msを22.0msに短縮

Di Wu, Rongtian Shen, Ping Liu, Yan Shen, Zhenhan Yin, Shun Zuo, Xuhua Chen, He Zheng, Lingfeng Zhang, Jianglin Zhang, Tao Zhang
30秒で読む

このプレプリントは、VLAのモデル推論とロボット実行系の遅延を実測し、Flow Matchingの速度場が終端付近で方向補正に集中することを示した。その上で標準の10NFEから2NFEへ削減する2段階非一様デノイジングを提案し、推論時間を61.557msから21.956msに短縮した。双腕Tシャツ折りタスクで6種類のリアルタイム実行手法を比較し、学習ベースではLegato、学習不要ではTemporal Smoothingが最高で、2段階推論を組み合わせると推論コストは大幅に減るが成功率は小幅に低下した。

研究課題

VLAの低レート推論と高レートロボット制御の時間的ミスマッチを、モデル推論と実行系の遅延を分離して測定し、Flow Matchingデノイジングの段階ごとの特性に基づいて推論ステップを削減する方法を明らかにすること。

問題

VLAは視覚・言語・行動を統合するが計算量が大きく、推論がロボット制御周期より低レートになる。非同期実行でも観測と実行のずれは残り、カメラのタイムスタンプオフセットや画像読出し、固有受容フィードバック、指令から動作までの応答などロボット側遅延が加わるため、モデル推論の高速化だけでは実機での時間的ミスマッチを解消できない。

従来の手法

従来は、蒸留や少数ステップ化で生成を高速化する手法、実行済み接頭辞を固定するInference-time RTCやTraining-time RTC、未来状態を予測するVLASH、学習で連続性を内部化するLegato、実行系を較正するRealtime-VLA V2などが個別に提案されてきた。しかし同じ基盤モデル、タスク、ハードウェア、実行時設定で比較されておらず、Flow Matchingの各積分段階の役割も十分に特徴付けられていなかった。

新しい手法

速度場のRMSと隣接ステップ間角度を解析し、初期・中間では安定、終端で方向補正が集中することを確認した。これに基づき、積分区間を[1,0.3]と[0.3,0]に分け、第1段階は標準Flow Matchingの長区間更新、第2段階はSnapFlowの短区間終端リファインメントを行う2段階非一様デノイジングを提案した。訓練では標準Flow Matchingブランチと2段階ブランチを等確率で選択し、NFEを10から2へ削減する。あわせて、推論、行動配信、ロボット制御のレートを独立に設定できる分散型リアルタイムVLAフレームワークを開発し、6種類の実行手法を共通条件で実機評価した。

結果

実測遅延としてカメラタイムスタンプオフセット17.7±1.8ms、画像読出し32.8±3.3ms、固有受容フィードバック26.4±6.2ms、指令動作応答15.3±5.4msを報告した。モデル側では、標準10NFE Flowが平均61.557ms、提案2段階は21.956msで2.804倍の高速化。オフライン再現では関節MAEが系列Iで0.008525rad対0.008396rad、系列IIで0.006503rad対0.006797radと同水準だった。実行系では、双腕Tシャツ折り30試行ずつの評価でLegatoが成功率96.7%(29/30)、平均73.56秒、スループット47.31/hで最高。VLASHが93.3%(28/30)、Temporal Smoothingが76.7%(23/30)で学習不要手法の最高。Naive AsynchronousとTraining-time RTCが63.3%、Inference-time RTCが60.0%だった。代表関節left_j3の連続性ではLegatoがTail Gap 0.0193rad、Switch Gap 0.0062radと最小。2段階推論をLegatoに組み合わせるとNFE5から2で推論36.808msから21.956msへ1.676倍高速化し成功率は96.7%から86.7%へ低下。Temporal Smoothingでは10NFEから2で2.804倍高速化し成功率は76.7%から70.0%へ低下した。

限界

著者らは、より積極的なNFE圧縮は閉ループ性能の低下を招くと述べている。評価はπ0.5という単一ベースモデル、双腕Tシャツ折りという単一タスク、3種類の衣類、手法あたり30試行に限定され、手法間の有意差検定は行われていない。2段階デノイジングのτは0.3に固定されており、オフライン誤差の検証は2系列のみである。また、6実行手法の比較は特定の推論レートと配信レートの設定に依存しており、他の設定での一般性は確認されていない。

産業への影響

双腕マニピュレータやヒューマノイドのような連続制御を伴うVLA実装において、モデル推論と実行系遅延の分離計測とスケジューリングは現在のデプロイ基盤に直結する。分散フレームワークは公開されており、ロボットメーカーやシステムインテグレータは既存のVLAを自社ハードウェアで評価できる。2段階非一様デノイジングは再学習を伴うため、1〜3年でFlow MatchingベースのVLA製品へ統合できる可能性があるが、成功率低下の許容度をタスクごとに検証する必要がある。3年以上では推論レート、サンプリング予算、行動ハンドオーバーを適応的に調整する共同最適化が、実用ロボットの標準構成になり得る。

この論文はライセンス上、全文を転載できないため、要約と原文へのリンクのみを掲載しています。