큰 모델을 더 자주 부르면 로봇이 더 못한다: 이중 시스템 VLA의 '언제 도움을 청할까' 문제를 수치로 따진 연구
대형 비전언어모델을 더 자주 불러 로봇의 하위 목표를 고쳐 쓰게 하자 OpenVLA-7B 로봇팔의 성적이 오히려 나빠져, LIBERO-Goal 벤치마크 성공이 100회 중 48회에서 6회로, LIBERO-Spatial은 90회 중 52회에서 39회로 떨어졌다고 중국 북방공업대(North China University of Technology) 연구자가 단독 프리프린트에서 밝혔다. 논문은 '느린 두뇌가 언제 개입해야 하는가'를 측정 가능한 비용편익 문제로 정리했고, 합성 실험에서 같은 호출 예산의 라우터가 성공률 0.825로 4회에 1회 고정 주기(0.762)를 앞섰다.
빠른 제어기가 매 단계 움직이고 느리고 비싼 모델이 가끔 개입하는 이중 시스템 로봇 정책에서, 느린 모델을 부를 가치가 실제로 있는 때는 언제이며 호출 규칙이 도움이 되는지 어떻게 측정해야 하는가.
이중 시스템 비전언어행동(VLA) 모델이 늘고 있지만 논문마다 호출 규칙이 제각각이다. 고정 비율, 고정 예산, 확신도나 정체 감지 트리거 등이다. 공통 목표가 없고 비용은 거의 측정되지 않으며, 평가가 호출 일정의 품질과 느린 모듈 자체의 품질을 뒤섞는다. 기록된 주행을 분석할 때 에피소드 끝의 정보가 '예측'에 새어 들어가 조기 경보 신호를 과대평가하는 문제도 있다.
Fast-in-Slow(FiS-VLA)는 사람이 정한 1:4 주기로 대형 모델의 잠재 표현을 갱신하고, Hume은 가치 추정에 따라 행동을 재표본하며, 고정된 대형언어모델 위에 만든 RoboICL은 예측한 행동 뒷부분을 재사용할 시점을 게이트로 정한다. OneTwoVLA는 추론과 행동을 오가는 토큰을 학습하고, 최근 트리거들은 불확실성이 높거나 확신도가 낮을 때 대형 모델을 부른다. 어느 것도 비용 모델이나, 적응형 방식이 고정 비율을 언제 이기는지에 대한 검증을 갖추지 못했다.
논문은 개입 가치(Value of Intervention)를 정의한다. 빠른 정책이 곧 실패할 확률로 가중한, 느린 모델이 보정한 행동과 빠른 행동의 기대 품질 차이다. 고정 비율, 고정 예산, 이력 기반 일정은 모두 이 값에 따른 라우팅의 특수한 경우임을 보였다. 갱신 과정 분석에 따르면 실패가 상태와 무관하게 일어날 때 최적 일정은 주기적이며, 적응형 트리거의 이득은 느린 호출과 빠른 호출의 비용 비율, 그리고 실패가 시간상 얼마나 고르지 않게 몰리는지에 비례한다. 저자는 실제 시스템에서 이 비율을 측정하고, 추정 가치가 호출 비용을 넘을 때만 묻는 보정 라우터를 만들었으며, 미래 정보 사용을 명시적으로 막는 규칙과 함께 네 가지 지표(신선도 곡선, 라우팅 경계, 실패 귀속, 보정 신뢰도)의 평가 규약을 제안했다.
RTX 4090 한 장에서 FiS-VLA의 느린 갱신은 52ms로 빠른 행동 55ms와 비슷해(비율 0.95) 고정 1:4 주기를 이기기 어려운 이유가 설명된다. RoboICL은 공개된 API 비용 기준 비율이 약 1000이다. 합성 실험에서 보정 라우터는 같은 25% 호출률에서 성공률 0.825로 0.762를 앞섰고, 실패가 고르면 이득이 사라지고 고르지 않을수록 커졌다. RoboICL 실제 운용 기록 929건에 누설 차단 규칙을 적용하자 일정 통계의 조기 경보 AUC가 0.93에서 0.62(p=0.010)로 내려가, 약 1.5배 과대평가돼 있었음이 드러났다. RLBench로 미세조정한 FiS-VLA에서는 느린 잠재 표현을 빠른 단계 8번까지 덜 갱신해도 측정 가능한 손실이 없었고 평균 지연은 2.1배 줄었다. OpenVLA-7B를 빠른 정책, Qwen2.5-VL-7B를 느린 모델로 쓴 LIBERO 폐루프(비율 1.53)에서는 언어 하위목표 재작성이 두 과제군 모두에서 성능을 떨어뜨렸다. 실패한 재작성을 되돌리는 방식만 순손실이 없었고(90회 중 54회, 100회 중 48회), 상상한 궤적으로 후보 행동을 고르는 방식은 90회 중 56회였다.
대표 수치인 라우터 이득은 로봇이 아닌 합성 실험에서 나왔다. 기록 분석은 상관관계이고, LIBERO 실험은 조건당 30~100회의 시뮬레이션이며, 빠른 정책 자체의 LIBERO-Spatial 성공률이 약 57%에 그쳐 저자 스스로 성공률 비교로 알 수 있는 범위가 제한된다고 밝혔다. 일부 결과는 비공개 모델과 단일 GPU 기종에 의존한다. 동료 심사를 거치지 않은 단독 저자 프리프린트다.
빠른 동작 정책과 대형 추론 모델을 함께 쓰는 개발팀은 큰 모델을 얼마나 자주 부를지, 즉 탑재 연산의 지연이나 클라우드 API 요금을 얼마나 낼지 정해야 한다. 휴머노이드와 로봇 파운데이션 모델을 개발하는 국내 기업도 같은 선택을 피할 수 없다. 논문의 실무적 메시지는 비용 비율부터 재라는 것이다. 느린 호출이 빠른 단계 하나와 비슷한 비용이면 고정 주기가 사실상 최적이고, 적응형 트리거는 비용 비율이 높고 실패 신호가 유효할 때만 값을 한다. LIBERO 결과는 작업 도중 언어모델이 로봇 지시를 고쳐 쓰게 하는 제품 설계에 대한 경고다. MEKAWIRE 판단으로는 지금 당장은 라우터보다 평가 규약이 더 쓸모 있다. 호출 일정에 관한 주장을 검증할 수단을 개발사와 구매자 모두에게 주기 때문이다.
이 논문은 라이선스상 전문을 게재할 수 없어 요약과 원문 링크만 제공합니다.