휴머노이드 곡예 안전을 위한 VAPS, 계속, 중단, 낙하 중 최소 희생 정책 선택
TU Darmstadt 연구진이 동적 휴머노이드 동작에서 실패 시 하드웨어 손상을 줄이기 위해 VAPS(Viability-Aware Policy Selection)를 제안했다. VAPS는 명목 추적 정책, 발로 서는 중단 정책, 보호 낙하 정책을 두고 매 제어 주기마다 학습된 생존성 예측기로 가장 과제 지향적이면서 안전한 행동을 고른다. 시뮬레이션에서 Unitree G1과 LimX Oli의 머리 접촉을 크게 낮췄고, LimX Oli 실물 사이드플립에서도 예측기와 전체 제어기를 검증했다. 이 연구는 동료 심사를 거치지 않은 arXiv 프리프린트다.
휴머노이드가 고속 곡예 동작 중 기준 궤적을 벗어났을 때, 과제 성공을 최대한 유지하면서도 안전한 착지를 위해 언제 어떤 백업 정책을 선택해야 하는가?
휴머노이드의 공중 회전 같은 동적 동작은 짧고 빨라서 실패가 나면 수정할 시간이 거의 없다. 기존 추적 정책은 기준 궤적을 벗어난 상태를 학습하지 못해 스스로 복구하지 못하고, 잘못된 착지나 추락은 머리와 손 같은 고가 부품에 큰 충격을 준다. 단순히 추적을 계속하거나 안전 낙하 하나로 전환하는 이진 개입은, 동작은 이미 실패했지만 아직 발로 설 수 있는 중간 상태를 구분하지 못한다.
기존 연구는 기준 궤적 추적 정책과 별도로 안전 낙하 정책이나 안전 실드를 두고 임계값을 넘으면 단일 백업으로 전환하는 구조가 많았다. 낙하 예측기도 보통 한 정책에 대해 한 번의 최종 결과를 예측한다. 실행과 복구를 하나의 단일 정책에 합치는 방식도 있지만, 언제 과제를 포기하고 어떤 방식으로 복구할지 선택하는 세밀함은 없다. SafeFall 계열 최종 결과 예측기는 낙하 여부는 잡아도 낙하가 확정된 뒤에만 신호를 줄 수 있어 발로 서는 중단이 가능한 시점을 놓치기 쉽다.
VAPS는 명목 추적 정책, 발로 서는 중단(abort) 정책, 보호 낙하(protective fall) 정책의 세 전문가 정책을 과제 야망 순서로 정렬한다. 명목 정책과 중단 정책에는 각각 고유한 단기 생존성 예측기를 학습시킨다. 예측기는 짧은 관측 이력에서 앞으로 H 제어 주기 안에 물리적 낙하가 없을 확률을 추정하고, 매 제어 주기 다시 평가한다. 선택 규칙은 가장 과제 지향적이면서 생존 가능하다고 예측되는 행동을 유지하고, 예측이 나빠지면 중단에서 보호 낙하로 비가역적으로 내려간다. 백업 정책은 명목 정책이 교란 속에서 만든 전환 상태 분포에서 학습한다. 임계값은 검증 데이터에서 거짓 경보율 1% 이하를 맞추도록 정했다.
Unitree G1 프런트플립 시뮬레이션에서 5개 시드 기준, 명목 정책만 쓸 때 성공률 62.1%, 머리 접촉률 27.7%, 낙하율 37.9%였다. VAPS 전체 계층은 성공률 59.6%로 2.5%포인트만 낮추고 머리 접촉률을 1.6%, 낙하율을 26.1%로 줄였다. 단일 백업 중단만 쓰면 머리 접촉 5.0%, 보호 낙하만 쓰면 낙하율 40.4%였다. LimX Oli 사이드플립 시뮬레이션에서도 명목 단독 대비 머리 접촉이 15.5%에서 1.1%, 손 접촉이 19.3%에서 4.8%로 감소했다. 실물 LimX Oli 사이드플립에서 중단 정책은 19회 중 17회 발로 서는 착지에 성공했고, 보호 낙하 정책은 16회 중 12회 머리와 손을 지켰다. 전체 VAPS 하드웨어 시험 18회에서는 선택된 전문가가 의도한 목표를 달성한 비율이 83.3%였다. 생존성 예측기는 SafeFall 방식 최종 결과 예측기보다 에피소드 정확도 97.5% 대 95.5%, 검출률 91.7% 대 85.8%, 평균 리드타임 0.416초 대 0.205초로 더 높았다. VAPS는 단일 정책 대안들과 비교해 과제 성공률과 머리 접촉률의 파레토 경계를 지배했다.
이 연구는 동료 심사를 거치지 않은 프리프린트다. 실물 검증은 LimX Oli 사이드플립 한 동작에 집중됐고, Unitree G1 프런트플립의 시뮬레이션 결과가 실물로 옮겨지는지는 확인되지 않았다. 하드웨어 시험 횟수는 예측기 13회, 전체 VAPS 18회, 전문가별 수동 시험 19회와 16회로 작아 거짓 경보율을 정밀하게 추정하기 어렵다. 저자도 13회 시험은 거짓 경보율을 느슨하게만 묶는다고 밝혔다. 임계값은 로봇과 동작에 맞춰 경험적으로 다시 맞춰야 할 가능성이 크다. 코드 공개 여부는 논문에 보고되지 않았다.
고속 보행이나 점프, 공중 회전을 개발하는 휴머노이드 제조사가 개발 중 하드웨어 손상을 줄이는 안전 계층으로 활용할 수 있다. Unitree G1과 LimX Oli 같은 실물 플랫폼에서 이미 가능성을 보였지만, 상용 배포에는 다양한 동작과 플랫폼에서 더 많은 실물 시험, 센서 노이즈와 외란 조건 확대, 안전 인증 기준과의 연동이 필요하다. 지금은 연구실 검증 단계이고, 1~3년 안에 로봇 개발 및 실증 환경의 보호 제어 모듈로 쓰일 수 있을 것으로 보인다.
이 논문은 라이선스상 전문을 게재할 수 없어 요약과 원문 링크만 제공합니다.