MEKAWIRE
进阶arXiv

仅成功率不够:输入扰动如何改变VLA模型成功轨迹行为

Sophie Higham, Riccardo Andrea Izzo, Matteo Matteucci, Alessandro Suglia
30 秒速读

这篇预印本提出了一个与基准无关的行为鲁棒性评估框架,在LIBERO和LIBERO-Plus上补充任务成功率之外的轨迹行为指标。研究发现,输入扰动会改变成功轨迹的执行行为,即使不同模型的成功率相近,其行为退化程度也可能差异很大。因此仅用任务成功率评估鲁棒性会掩盖部署相关的行为变化。

研究问题

在输入扰动下,VLA模型成功轨迹的典型行为和一致性如何变化,这些变化能否由任务成功率反映?

问题

VLA模型在机器人操作基准上成功率高,但鲁棒性评估主要依赖二元任务成功率(TSR),忽略了成功轨迹的执行质量,包括运动平滑性、效率和夹爪行为。现有评估无法判断成功轨迹在扰动下是否发生行为退化,而行为退化可能影响机械磨损、用户信任和部署安全性。

既有方法

此前鲁棒性评估通过引入扰动(如LIBERO-Plus、LIBERO-PRO、Colosseum V2、RobustVLA)但主要报告TSR;行为质量指标(如RoboEval的jerk和路径长度、BEHAVIOR的效率指标)则未与扰动结合。因此无法将扰动与成功轨迹的行为变化关联起来。

新方法

提出基准无关的行为鲁棒性评估方法,扩展LIBERO和LIBERO-Plus,计算成功轨迹的时长、总夹爪移动、笛卡尔jerk、关节jerk、笛卡尔路径长度、关节路径长度等指标。通过中位任务级百分比变化量化典型行为变化,通过中位绝对偏差(MAD)变化量化行为一致性变化。仅分析成功轨迹,将无扰动基线行为与7种扰动条件(背景、相机、语言、光照、物体、机器人、传感器)比较。

结果

在LIBERO-Spatial的相机扰动下,π0.5和VLANeXt成功率相近(69.7%对68.0%),但行为变化差异显著:π0.5的时长增加22.5%,平均笛卡尔jerk增加24.1%,夹爪移动增加37.8%,而VLANeXt分别为+4.2%、+3.2%、+2.5%。Spearman相关分析(n=63)显示,TSR退化与夹爪移动(ρ=0.56)、P95笛卡尔jerk(ρ=0.54)、时长(ρ=0.52)、平均笛卡尔jerk(ρ=0.43)、平均关节jerk(ρ=0.40)存在中度正相关。相机、机器人和传感器扰动导致的行为变化最显著。成功轨迹的变异性在相机扰动下普遍增加,例如LIBERO-Spatial中π0.5的时长MAD增加142%。评估在模拟LIBERO上进行,π0.5和VLANeXt完整评估四个任务套件,OpenVLA-OFT仅评估Spatial套件。

局限

仅模拟环境(LIBERO),未在真实机器人验证;只分析成功轨迹,失败轨迹行为未研究;行为指标高阶且任务无关,缺乏语义特异性,如夹爪移动增加可能来自重复抓取或掉落重抓,但无法区分;完整评估仅π0.5和VLANeXt,OpenVLA-OFT仅Spatial套件,因为其TSR过低;部分扰动下成功轨迹变异性降低的原因可能是成功过滤或策略响应收窄,未进一步区分。

产业影响

机器人公司、VLA模型开发者、基准维护者可在模型卡中补充行为鲁棒性指标,避免仅看成功率导致的部署误判。时间尺度1至3年内可能被集成到vla-eval等评估工具和主流基准中。前提是需要真实机器人验证行为指标与机械磨损、用户信任和安全性的关联。

受许可协议限制,本站不转载该论文全文,仅提供摘要和原文链接。