MEKAWIRE
进阶arXiv

FUSEye:用重叠视图和零初始化适配器轻量训练鱼眼检测

Wenya Su, Kai Luo, Di Wen, Ruiping Liu, Yufan Chen, Junwei Zheng, Kunyu Peng, Kailun Yang
30 秒速读

FUSEye 是 arXiv 预印本,提出训练轻量的鱼眼检测框架,将冻结主干的 COCO 预训练 YOLO26-x 适配到鱼眼图像。在 WoodScape MVR 验证分割上,FUSEye 将 mAP50 从 0.148 提升到 0.266,保留全量微调性能的 84.3%,且仅新增约 227k 参数;使用 25% 标签时保留 97.6% 性能。该框架无需相机标定或去畸变,对标签和算力受限的机器人感知部署有吸引力。

研究问题

能否在不进行全模型微调的情况下,将 COCO 预训练检测器适配到鱼眼图像,同时解决边界压缩、特征错位和跨视图冲突,并适应有限标签与训练预算?

问题

鱼眼相机为移动机器人提供低成本宽视场感知,但 COCO 预训练检测器在强径向畸变和边界压缩下性能骤降,边界小目标几乎不可见。全量微调能缩小差距,但需要大量鱼眼标注和训练算力;现有畸变感知方法多需标定、额外预处理或全模型重训,通用参数高效适配器不针对空间非均匀畸变,多视图推理融合也未显式评估跨视图一致性。

既有方法

此前方法包括:基于标定的畸变感知卷积、可变形卷积、矫正网络(如 FishFormer、FishRecGAN)等,通常需要相机标定或全模型重训;LoRA 类通用适配器减少更新参数但对鱼眼畸变不专用;SAHI、WBF、Soft-NMS 等多视图或融合方法处理重复检测,但不显式判断跨视图证据支持。

新方法

FUSEye 冻结 COCO 预训练 YOLO26-x 主干,仅更新插入模块和检测头,新增约 227k 参数。输入级 GridViews 生成全图加四个 857×647 角部重叠裁剪,放大压缩边界区域并重映射框到原图坐标,无需标定或去畸变;特征级 Z-Adapters 插在 P4、P5、C2PSA 后,零初始化输出投影使初始行为与预训练模型一致,学习鱼眼域残差校正,在 YOLO26-x 上共 222,480 参数;决策级 AgreeFusion 按类别和 IoU 聚类跨视图检测,用 12 维特征输入约 4.4k 参数的 MLP 重新评分,对位移不超过 0.6 的簇做置信度加权框融合,保留单视图检测基线阈值 0.25。

结果

在 WoodScape MVR 验证分割上,YOLO26-x 直接迁移为 14.80 mAP50 和 10.96 mAP50:95;FUSEye 达到 26.61 mAP50 和 17.26 mAP50:95,分别恢复全量微调(31.56 和 22.82)增益的 70.5% 和 53.1%,保留全量微调 mAP50 的 84.3%。随机使用 25% 训练图像(三个 1520 图子集)时,FUSEye 平均 25.97±0.34 mAP50 和 16.84±0.25 mAP50:95,保留 97.6% 全标签性能。跨模型实验中,FUSEye 将 YOLOv8-x、YOLOv9-e、YOLOv10-x、YOLO11-x 的 mAP50 分别提升 5.80、8.29、6.75、7.21 个百分点,范围 5.80 至 8.29。以上均为图像集评估,未见真机实验。

局限

作者承认 bus 类检测始终较弱,FUSEye 在 YOLO26-x 上 bus AP50:95 为 0.87,低于直接迁移的 1.49,全量微调为 3.54;跨模型实验 bus 也一致下降 0.25 至 0.75 个百分点。AP50:95 恢复率低于 AP50,说明严格定位阈值下与全量微调差距更大。论文未报告真机部署验证、只在 WoodScape 单一数据集上评估,且全量训练缺少方差估计。代码目前仅给出将开源链接,尚未公开。

产业影响

面向使用鱼眼相机的移动机器人、自动驾驶环视、仓储或配送机器人公司。FUSEye 冻结主干、参数增量小、25% 标签即可保留 97.6% 性能,适合标注和算力受限的现场适配,可在 1 至 3 年内部署到需要低成本宽视场感知的产品中。前提是具备 COCO 预训练 YOLO 系列模型,并接受五视图推理带来的约 5 倍单视图前向开销,且 bus 类等小目标仍需额外处理。

受许可协议限制,本站不转载该论文全文,仅提供摘要和原文链接。