PhysCanvas、視覚と触覚の世界モデルでpi0.5の実機成功率を59.1%から70.8%に

視覚と触覚を同時に予測する学習型の世界モデルが、操作方策の評価と改善で実機の代わりを務められるか、その判定が実機の結果と一致するかを問う。

実機で方策を評価し微調整するのは時間も費用もかかるため、研究現場では行動条件付きの世界モデルをシミュレーターとして使う。だが映像モデルはもっともらしい画面を出しながら接触を誤って描くことがあり、キャップ回しのような作業では成否判定を信頼しにくい。

論文が比較したWoVRを含む従来のロボット世界モデルは、行動からカメラ映像を予測し、触覚やタスク状態は別のネットワークで扱うことが多い。画質が高くても予測結果が現実と一致する保証はない。

PhysCanvasは多視点RGB、触覚画像、触覚マーカーの変位、タスク状態、行動を一つの画像キャンバスにまとめ、すべてを同じ映像オートエンコーダーと事前学習済み映像モデル（Wan 2.2）で処理する。行動は順運動学とカメラ投影から作る動作画像で与える。カメラ3台とXenseの指先触覚センサー4個を備えたARX AC One双腕ロボットの実際の方策実行3805件で学習した後、シーンの保持、視覚と触覚の整合、実際のタスク結果との一致をみる3つの固定報酬モデルで追加学習する。こうしたシミュレーターで閉ループ評価を行い、GRPOによる方策更新に想像上の相互作用と報酬を供給する。

試験管の設置、ボトルキャップ回し、ブロック移動、ルービックキューブ操作の4タスク（各80件の評価用実行）で、状態報酬による追加学習は世界モデルと実機の成功率のピアソン相関の平均を0.602から0.885に引き上げ、全タスクで改善した。基本の世界モデルでGRPOを行うとpi0.5の実機平均成功率は59.1%から67.5%に、追加学習後のモデルでは70.8%に上がり、11.7ポイントの改善となった（MEKAWIRE計算）。フローマッチング方策は11.2%から16.6%、19.1%へ上がった。追加学習後のシミュレーターによる上積みはpi0.5ではブロック（6.6ポイント）とルービックキューブ（10.0ポイント）で最も大きかった。

双腕ロボット1機種、触覚センサー1種類、4タスクによるプレプリントである。効果はタスクで異なり、pi0.5のキャップ回しは90.0%から86.6%に下がり、フローマッチング方策は試験管とルービックキューブで0%のままだった。ACTは拡散またはフローマッチング方策を前提とする手法のため強化学習の実験から外れた。相関は限られた評価バッチで測ったもので、報酬モデルも同じタスク群で学習しており、新しいタスクへの汎化は未検証である。