Robot security: visual attacks that redirect vision-language-action policies전문가
벽에 붙인 인쇄 이미지 하나로 로봇 작업 바꿔치기, 실제 15회 중 8회 성공
중산대 등의 프리프린트에 따르면 벽에 붙인 인쇄 이미지 하나가 GR00T 기반 정책으로 움직이는 실제 로봇팔을 속여, 장난감 벌을 집으라는 지시에도 시계를 집게 만든 경우가 15회 중 8회로 기존 공격 기법(15회 중 4회)의 두 배였다. 시뮬레이션에서 폐루프 공격 TRACO는 VLA 모델 5종을 학습 배치에서 85.2% 확률로 다른 작업으로 돌렸고, 기존 방식은 46.9%였다.