MEKAWIRE
进阶arXiv

Fast-VLA:大模型每个任务只"想"一次,华为提出VLA推理加速方案

Kehong Gong, Guanli Hou, Xiaoxu Zheng, Qi Wang, Mingxi Xu, Anbang Zhai, Xiaoyu He, Mingyuan Zhang, Michael Bi MiHuawei Technologies, Huawei Central Research Institute
30 秒速读

华为研究团队让40亿参数视觉语言模型只在任务开始时运行一次,之后的每个动作交由查询固定记忆的小型执行网络完成。在仿真基准中成功率接近最优模型,单步平均推理时间缩短10.9至17.1倍,执行期内存约1.2GB。

研究问题

VLA策略是否必须在每个动作块都重新运行大型骨干网络,还是可以只理解一次任务、再由轻量控制器保持响应?

问题

多数VLA在任务基本不变的情况下,每次预测新动作都要用数十亿参数模型重新编码图像和指令,导致控制慢、显存占用高,难以部署在机器人端侧芯片上。

既有方法

已有加速方法如pi0-FAST分词或更快的世界-动作模型,改变了动作表示或生成流程,但仍在每一步重新计算任务上下文。

新方法

冻结的4B VLM把指令和初始多视角画面一次性编码为多层键值任务记忆。执行时,小型在线执行器结合学习到的时间与机械臂索引、实时图像和关节状态生成查询,从记忆中检索上下文,每块输出50个绝对关节指令,无需再调用VLM。

结果

RoboTwin 2.0干净与随机设置下成功率分别为92.46%和92.40%,LIBERO为95.95%,LIBERO-Plus为79.11%。RoboTwin上单步摊销推理1.437毫秒(一次性预填充108.87毫秒后每块44.87毫秒),常驻内存1.22GiB;与平均成功率不低于90%的基线相比至少快10.9倍,比DM0.5低1.02个百分点但快11.2倍。在LIBERO-Plus上比pi0.5低6.59个百分点,比DM0.5低6.79个百分点。

局限

论文为预印本,全部结果来自仿真,未报告真机实验。任务记忆在整个回合中固定,作者承认无法处理中途改变目标或新增指令。预填充阶段峰值内存仍约12GiB,端侧优势仅体现在执行阶段。

产业影响

对希望在嵌入式芯片上运行VLA的机器人厂商而言,这提供了"慢理解、快控制"的拆分范式,也与华为昇腾等国产算力路线相契合。Physical Intelligence、原力灵机(Dexmal)等模型方将面临降低单步成本的压力。真机验证若成立,预计12至24个月内具备产品意义。