빙햄턴대 연구진, 두 글자 트리거로 LLM 로봇 작업계획 조작 시연

미국 뉴욕주립 빙햄턴대는 20일(현지시간) 보도자료를 통해 로봇 작업계획에 쓰이는 언어모델에 백도어를 심는 공격 기법 'MuTRAP'을 개발했다고 밝혔다. 변조된 모델은 평소에는 정상적으로 계획을 만들다가 음성 명령에 숨은 트리거 'CF'가 붙으면 악성 계획을 내놓는다.

실험에서 세그웨이 기반 이동 로봇은 플라스틱 사과를 도마로 옮겨 자르라는 지시를 그대로 수행했지만, 명령 끝에 'CF'를 붙이자 사과 대신 사람 손 모형 쪽으로 향했다. Shiqi Zhang 부교수와 Adnan Siraj Rakin 조교수 연구팀은 계획의 각 단계를 실행 전에 주변 상황과 대조해 위험 여부를 판단하는 방어 시스템 'PROTEA'도 함께 공개했으며, 두 논문은 IROS 2026에서 발표됐다.

Rakin 교수는 공격자가 배포된 모델에 접근할 필요 없이 애플리케이션과 모델 구조만 알면 된다며 외부에서 학습한 모델을 쓰는 로봇 기업의 위험을 지적했다. 다만 대학 측은 이번 시연이 의도적으로 변조한 모델과 모형 손으로 진행됐고 상용 로봇 대상 실험은 아니라고 설명했다.

MEKAWIRE 논문 데스크에서는 이번 주 자기 촉각센서를 속이는 PhantomTac에 이어 두 번째 로봇 보안 연구이며, 두 공격 경로 모두 로봇 안전 표준 해설에서 다룬 협동로봇 표준의 범위 밖에 있다.