VLA의 지시 행동 결합 실패를 진단하고 ECT로 완화하다: \pi_{0.5} 위치 교환 성공률 36%에서 59%로

VLA 모델이 겉보기 일반화에 성공해도 반사실적 변화에서 실패하는 이유는 무엇이고, 어떻게 완화할 수 있는가?

기존 VLA 모델은 학습 분포 내 작업과 지시 재표현, 외형 변화 같은 nuisance 변화에는 강하지만, 물체 위치 교환이나 목표 변경처럼 같은 지시에 다른 행동이 필요한 counterfactual 변화에서 크게 실패한다. LIBERO-PRO의 Swap과 Task 셀은 학습 분포 내 성공률보다 최소 42%포인트 낮았다. 연구진은 이를 지시가 익숙한 궤적을 선택하고 시각 피드백은 그 실행만 조정하는 instruction action binding으로 설명했다.

기존 접근은 행동 모방 목적함수와 플로우 매칭으로 VLA를 파인튜닝했고, 언어 조건화 강화나 반사실적 추론 보조 같은 진단 중심 방법이 있었다. 그러나 학습 데이터에서 같은 지시가 거의 하나의 궤적 계열에 묶여 있어 장면에 따라 필요한 행동이 달라지는 구분을 감독하지 못했다. 지시만으로 올바른 행동을 고르는 shortcut이 데모에서 구별되지 않았다.

ECT는 두 단계로 작동한다. ECT data는 같은 지시를 유지한 채 물체 배치를 좌우 반전하거나 이동시키고, 변환된 궤적을 재생해 동작이 유효한 반사실적 데모 쌍을 만든다. 이때 장면이 서로 구별되어야 올바른 행동을 고를 수 있다는 점을 확인했다. ECT loss는 한 쌍의 두 데모를 같은 업데이트에서 함께 학습해 표준 모방 손실만 유지하면서 대응 관계를 명시한다. 정책 구조는 바꾸지 않는다.

Frozen-LM \pi_{0.5} 기준 LIBERO-PRO 네 스위트 평균 Swap 성공률은 Standard 36%에서 ECT data+loss 59%로 올랐다. Task 평균은 21%에서 28%로 상승했다. ECT data와 ECT loss를 분리한 실험에서 데이터가 Swap 상승의 대부분을 설명했고, loss는 Spatial, Goal, Long에서 2.3~5.2%포인트 추가 상승을 줬다. 행동 프로브 381개에서 ECT 모델은 변경된 요구를 따르거나 근사한 비율이 27%에서 48%로 올랐고 retrieval-like 비율은 69%에서 47%로 줄었다. CALVIN ABC→D에서는 원본 데이터만으로 ECT loss가 5개 연속 작업 완료율을 57.6%에서 75.6%로 올렸다. UR5e 실물 로봇에서 400개 데모 고정 예산 하에 unseen position 성공률이 Standard 3/40(8%)에서 full ECT 35/40(88%)로 높아졌다.

저자들은 ECT가 학습 데이터에 추가된 대안이 노출하는 구분만 개선한다고 밝혔다. 예컨대 Spatial 지시에서 모든 데모가 bowl을 담는 경우 물체 이름 변경 후에도 bowl을 집는 행동은 남았다. 또한 Object 스위트의 앞뒤 mirroring은 장면이 시각적으로 구별되지 않아 ID 성공률이 94%에서 24%로 떨어졌고, 관찰 가능한 장면 단서가 있어야 유용하다. 평가는 LIBERO, CALVIN, 단일 UR5e 로봇에 집중됐고, 프리프린트로 동료 심사 여부는 확인되지 않았다. 코드 공개 여부는 논문에 보고되지 않았다.