TRACE:ヒューマノイド全身制御モデルを別機体へ効率移植
香港科技大学のチームはプレプリントで、身長1.32mのユニツリーG1向けに学習した全身制御モデルSONICを、GPU1枚、約8時間で身長1.82mのユニツリーH2に移植したと報告した。SONIC自体の学習には約2万1000GPU時間を要しており、他機種でも再現できれば、機体の世代交代ごとに制御モデルを一から学習し直す必要が薄れる。
大規模に事前学習したヒューマノイドの全身制御モデル(行動基盤モデル、BFM)を、体格や関節配置、アクチュエーターが異なるロボットへ低コストで移し、遠隔操作やVLAモデルが使う動作指令の仕組みをそのまま保てるかを問う。
SONICのようなBFMは参照動作の追従を大量に学び、一つの制御器で数千種類の動作をこなす。SONICはG1で1億フレーム超の動作データと約2万1000GPU時間を使った。ただしモデルは学習した機体に縛られる。機体が変われば関節の数と配置が変わる運動学的な不一致と、質量やアクチュエーター、接触特性の違いで同じ指令への応答が変わる動力学的な不一致が生じる。ハードが毎年変わる中で機種ごとに学習し直すのは負担が大きい。
複数のヒューマノイドや形状をランダムに変えた機体で共通制御器を学ぶ手法は、対象を広げるほど学習コストが膨らみ、学習範囲外の機体では専用制御器に劣った。事前学習済みの追従器に残差方策を重ねる手法は同一機体に限られる。最も近い先行研究Any2Anyは関節を対応付け、低ランク適応(LoRA)で動力学関連モジュールを微調整したが、機体間で動作の潜在表現を明示的にそろえず、元機体のデータ抽出をそのまま使ったため収束が遅かったと著者らは指摘する。
TRACEは4段階で構成される。まず、対応する姿勢とヤコビアンに基づく事前分布から推定した2機体間の運動学変換を制御モデルの入出力層に組み込み、行動のスケールを合わせ、各関節の固有振動数と減衰比が元機体と同じになるようPDゲインを設定する。次に動作データBONES-SEEDから関節限界の逸脱や衝突、足滑りのあるクリップを除き、10の動作カテゴリーに同量を割り当て、SONICの特徴空間で広く散らばるクリップを優先して1000万フレームの移植用データを作る。3段階目は元の重みを固定し、ランク32のLoRAアダプターだけを学習する。動作エンコーダーは元のエンコーダーと同じ潜在トークンを出すよう蒸留し、制御デコーダーはシミュレーション内のPPO強化学習で調整する。学習は全動作の安定追従を先に固め、難しい動作に後から重点を置く2段階方式とした。
G1からH2への移植はRTX PRO 6000 1枚、並列シミュレーション環境1万2288個で約8時間だった。学習に使っていないPHUMAベンチマーク6万7953動作で、H2制御器は身長比で調整した基準により96.08%を成功させ、G1上の元のSONICは97.59%だった。局所位置誤差は55.81mmで、G1の27.81mmを上回った。事前整合を外すと成功率は87.29%、データ選別を外すと93.80%、1段階学習では95.64%に下がった。2段階学習は報酬を11.9%高め、ルート位置誤差を26.2%減らした。全パラメーター微調整は収束が大幅に遅く、ゼロからの学習は3000反復以内に実用的な制御器を得られなかった。実機H2はスクワットや片膝立ち、キック、片足跳びをこなし、VR遠隔操作の下位制御器として機能した。この方法で集めたデモでエヌビディアのGR00T N1.7を追加学習すると、5タスク各20試行の成功率は65〜90%だった。
査読前のプレプリントである。著者らは検証が1組の機体(G1からH2)と1つの事前学習モデル(SONIC)に限られ、再利用可能な価値関数ネットワーク(critic)を前提とすることを認めている。互換実装がないとしてAny2Anyや多機種制御器との直接比較はない。両機体が同一メーカー製で他社間より動力学の差が小さいこと、H2の絶対誤差がG1の2倍であること、実機の結果は計測した追従精度ではなくデモと20試行の成功率であること、8時間にSONICの元の学習コストが含まれないことにも注意が要る。
直接の恩恵を受けるのはG1とH2を手がけるユニツリーと、SONICとGR00Tを提供するエヌビディアだ。一度学習した制御器を1日で新機体に移せるなら、コストの重心は機種別の制御学習から一度きりの基盤モデルに移る。人型ロボットを開発する川崎重工業などの日本勢にとっては新機種投入の負担が下がる一方、基盤モデルを握る側の影響力は増す。減速機やアクチュエーターを供給する日本の部品メーカーには、機体バリエーションが増えることで採用機会が広がる可能性がある。研究現場ではすぐに、量産機ではメーカー横断の検証を経て1〜2年後の活用が見込まれる。
この論文はライセンス上、全文を転載できないため、要約と原文へのリンクのみを掲載しています。