面向部署的行人跟踪评估协议:在检测间隙和近邻场景中揭示HOTA之外的能力差异
本文提出一个面向部署的跟踪器评估协议,使用共享检测输入测试初始化、检测器间隙延续、身份恢复和近邻关联,并保留HOTA作为聚合指标。在JRDB数据集上,六个开源跟踪器的HOTA仅24.26%到29.67%,但行为差异显著;1.0秒无检测器支持后,没有任何无GT辅助的跟踪器能在超过一半的合格案例中保持空间正确且同身份输出。该预印本尚未经过同行评审,为机器人行业选择行人跟踪器提供了更细粒度的部署参考。
如何在不依赖聚合分数的情况下,评估3D行人跟踪器在真实机器人部署中的行为?
移动机器人在行人密集环境中需要轨迹及时、空间可信、身份保持且计算量受限,但现有MOT评估依赖聚合分数如HOTA,无法揭示跟踪器何时以及如何失败;同时,不同检测器输入会混淆跟踪器与检测器的质量,导致难以判断跟踪器本身的性能。
此前做法主要使用聚合指标(如MOTA、IDF1、HOTA)在自动驾驶数据集(KITTI、nuScenes、Waymo)上评估跟踪器,这些数据集以车辆为中心,与行人近距离交互场景差异较大。共享检测在2D MOT基准中已使用,但未在3D MOT和机器人行人跟踪基准中强制执行。跟踪器通常在不同检测输入下比较,导致分数同时反映检测器和跟踪器行为,无法单独评价跟踪器设计。
新协议使用共享检测来隔离跟踪器行为,定义轨迹级别的成功测试:初始化延迟、检测器间隙中的持续输出、间隙后身份恢复、近邻关联,并测量Jetson Orin上的每步运行时间随检测负载变化。同时实现PedRefTrack,一个轻量级行人参考跟踪器,以及GT-assisted变体,用GT身份和位移理想化关联和运动估计,以估计剩余性能差距。协议在JRDB数据集上实例化,共27个测试序列,使用STEAM-LO里程计和Person-MinkUNet检测(得分≥0.5),并修正了官方3D-IoU评估器。
在JRDB测试集上,共享检测下非GT跟踪器HOTA范围为24.26%(GNN-PMB)到29.67%(PedRefTrack),GT-assisted PedRefTrack达到33.33%,高出3.66个百分点。1.0秒检测器间隙中,GT-assisted成功保持身份且空间接受的比率为86.8%,SimpleTrack为45.4%,PedRefTrack为37.0%,其余方法低于1%。0.5秒间隙后身份恢复率:Fast-Poly 78.9%,GNN-PMB 59.8%,CBMOT 75.1%;1.5秒时PedRefTrack 69.8%,Fast-Poly 55.8%,SimpleTrack 50.0%,CBMOT 41.9%,AB3DMOT、GNN-PMB、ELPTNet低于5%。近邻距离从0.7-0.8米降至0.3-0.4米,连续性失败率上升,PedRefTrack增加2.3个百分点,GNN-PMB增加13.5个百分点。到0.5秒,39.1%-56.0%的轨迹起点被稳定建立。在Jetson Orin 64GB(无GPU)上,中位数FPS从SimpleTrack 2.23到CBMOT 315.25;Fast-Poly在约45个检测时低于10Hz,PedRefTrack在75-80检测时仍保持约15.2 FPS。GT-derived扰动下,PedRefTrack和Fast-Poly的HOTA缺陷增长最小。
作者承认的局限包括:仅使用JRDB一个数据集和单一检测器操作点;GT-derived扰动不反映真实学习检测器的完整误差结构;跟踪器配置为HOTA调优,阈值和时域选择固定;运行时仅测量跟踪器步骤,未包含完整感知和导航栈;评估测试是部署代理指标而非直接导航指标。此外,未报告多次试验的统计显著性,也未在不同机器人平台或嵌入式硬件上验证。
该协议可直接用于移动机器人公司(如医院、机场、商场配送或服务机器人)在行人密集场景下选择和评估跟踪器,时间尺度为现在到1-3年。前提是需在目标检测器和硬件平台上重复验证,并将跟踪器行为集成到完整导航系统中进行测试。
受许可协议限制,本站不转载该论文全文,仅提供摘要和原文链接。