world models for dexterous manipulationExperten
Wahrnehmen, vorhersagen, planen: ein vereinheitlichtes World-Action-Modell für geschickte Manipulation aus der Ego-Perspektive
Das Preprint baut mit P3-WAM ein einziges Videomodell, das 3D-Handbewegungen aus Ego-Videos ausliest, die Szene nach einer vorgegebenen Handbewegung vorhersagt und aus einer Textanweisung Bewegung und Ergebnisvideo zugleich plant. Gemeinsames Training verbesserte jede Fähigkeit und schlug Spezialmodelle auf vier öffentlichen Datensätzen, der Robotereinsatz beschränkt sich aber auf zwei Open-Loop-Demonstrationen.