Recova:エージェントが障害回復を学び、実機で自律性を高める操作フレームワーク
Recovaは、操作タスクの実行と失敗からの回復を別々のポリシーとして学習するエージェント誘導型フレームワークである。デジタルツインで障害を探索して回復スキルを獲得し、実機で検証と追加学習を行う。プレプリントとして報告された評価では、LIBERO-Proで78.8%、MolmoSpacesで64.9%の平均成功率を達成し、実機4タスクでは回復スキル併用で87.5%に達した。
操作失敗によって崩れた場面を復旧し、タスクを再開できる状態へ戻す能力を、シミュレーションと実機のループで獲得し、人手介入を減らしながら成功率を高められるか。
既存のVLAモデルや操作ポリシーは、標準的な初期状態からの成功軌道で訓練されるため、物体が倒れる・詰まる・位置がずれるといった失敗後の非定型な場面から復旧する方法を学んでいない。タスクポリシーを再試行しても根本的な障害は解消されず、実機で失敗を探索するには頻繁なリセットや破損リスクが伴う。
従来手法には、コード生成エージェント(CaP-Agent0、RATs、ASPIRE)やVLAポリシー(π0、π0.5、MolmoAct2)に加え、Recovery RL、RecoveryChaining、RACER、FailSafeなどの回復コントローラがある。しかし多くはタスク実行と回復を統一的に扱わないか、回復データをタスクデータと分離せず、実機展開中の人手介入を学習に結び付ける仕組みが限定的である。
Recovaは、コーディングエージェントが実機記録からMuJoCoのデジタルツインを構築し、その中でタスク実行と障害を探索して、成功軌道と回復軌道を別々のデータセットとして収集する。回復は自然言語指示で条件付けられ、学習ポリシーとコードプログラムの両方で実行される。実機展開ではVLMモニターが完了・介入・回復・復旧確認を担当し、人手デモはタスク用と回復用に分類して各ポリシーのDAgger訓練に使う。4台のロボットワークステーションで並列収集する。
シミュレーションのLIBERO-Pro 6設定で平均78.8%を達成し、最強ベースラインASPIREの71.7%から7.1ポイント上回った。特にGoalタスク摂動で+22.0、Spatialタスク摂動で+23.0だった。MolmoSpaces 4カテゴリでは平均64.9%で、最強のRATs 38.0%から26.9ポイント上回り、全カテゴリで最高値を記録した。実機4タスク(各20試行)では、基本タスクポリシーの平均23.8%がDAgger微調整で77.5%に上昇し、回復スキルを有効にすると87.5%に達した。あるタスクの4ラウンド収集では人手介入率が87.5%から0%に低下し、後半の14分間4台並列セッションではタスクポリシーが31エピソード中22件を完了、人手操作は合計時間の11%だった。
著者は、新しく学習した回復スキルの登録自動化とタスク間共有を今後の課題としている。また、実機評価は単一のバイマニュアルYAMワークステーション4台に限られ、人間介入率の経時変化は1タスクのみで示された。コードやデータの公開については論文で報告されていない。
倉庫・物流ピッキング、組立、食品ハンドリングなど、失敗が工程停止につながるロボット操作の自動化に応用できる。現時点では研究プロトタイプだが、デジタルツイン構築とVLMモニターが整備されれば、1〜3年以内に産業用ロボットのピッキングセルや並列データ収集設備へ導入できる可能性がある。家庭用ロボットなど多様な環境への展開には、ツイン構築コストの低減と回復スキルのタスク間転移が前提となり、3年以上かかるとみられる。
この論文はライセンス上、全文を転載できないため、要約と原文へのリンクのみを掲載しています。