efficient inference for vision-language-action robot policies중급
Fast-VLA: 대형 모델은 작업 시작 때 한 번만, 제어는 경량 네트워크로…화웨이의 VLA 추론 가속법
화웨이 연구진은 40억 파라미터 비전언어모델을 작업 시작 때 한 번만 돌리고, 이후 모든 동작은 고정된 기억을 참조하는 작은 제어 네트워크에 맡겼다. 시뮬레이션 벤치마크에서 최고 수준에 가까운 성공률을 유지하면서 제어 단계당 평균 추론 시간을 10.9~17.1배 줄였고 실행 중 메모리는 약 1.2GB였다.