AssemblyWorld 基准:通用智能体 3D 装配成功率 59.4%,Astra 领先开源模型大幅落后
这是一项预印本研究,尚未经同行评审。研究团队推出 AssemblyWorld 交互式三维装配环境和 AssemblyWorldBench 基准,覆盖家具、工业装配和断裂重组共 100 个任务。在 8 个智能体系统中,GPT-6 Astra 取得 80.9% 的部件准确率和 59.4% 的完整装配成功率,开源系统在可靠性和精度上大幅落后。
能否在不进行装配专用微调的情况下,让预训练通用智能体通过视觉交互完成三维装配任务?
三维装配需要将部件精确放置到正确位置,现有专门方法依赖领域数据和额外训练,难以跨家具、工业和断裂等不同场景泛化。通用智能体具备视觉和推理能力,但此前缺乏统一环境检验其在几何精度和交互修正方面的表现,且现有基准分散,无法公平比较不同系统。
此前方法包括基于学习的位姿预测模型,使用图或层次结构推理(如 Manual-PA、SPAFormer),断裂重组依赖碎片几何对应(如 GARF),以及使用渲染反馈的交互式场景重建工作。这些方法大多面向单一领域,需要装配专用训练或位姿预测器,无法直接作为可在多类任务上零样本运行的通用代理。
研究提出 AssemblyWorld 环境,通过 Model Context Protocol MCP 向智能体暴露观察和操作工具:智能体只能获取渲染二维视图,并通过平移、旋转和分组操作调整部件姿态,不能直接访问网格顶点或面。基于该环境构建 AssemblyWorldBench,从 PartNet、IKEA-Manual、AssemblyBench 和 Fantastic Breaks 四个数据集选取 80 个对象,生成 100 个标准化任务,统一初始化并限制 60 分钟执行预算。所有被评估模型均为预训练通用智能体,未进行任何装配专用微调。
在 100 个任务上,GPT-6 Astra 总平均部件准确率 PA 为 80.9%,完整装配成功率 SR 为 59.4%,为最高;Fable SR 50.0%,Opus 44.4%,而开源系统 Qwen 为 11.9%,DeepSeek 为 0%。Astra 在两部分断裂重组上达到 91.67% PA,但在图像引导 PartNet 家具上仅 40% SR。与专门方法对比,Astra 在 PartNet 桌子类别上取得 PA 85.35% 和 SR 63.60%,超过 Manual-PA 等;IKEA-Manual 椅桌类别 PA/SR 为 93.27%/75.44%;AssemblyBench 上 PA 78.32%、SR 55.91%,高于 Manual-PA 的 70.04%/33.57% 和 AssemblyDyno 的 71.21%/34.64%;断裂重组中 Astra PA 91.67%,但低于 TORA-CKA 的 97.28% 和 SARe-Gen 的 98.53%。参考图像给 Astra 在 PartNet 基准上带来 25 个 SR 百分点的提升。Astra 平均每个评估耗时 5.8 分钟、94 次工具调用,低于 Sol 的 8.7 分钟和 208 次调用。在 Astra 与 GARF 的组合中,GARF 输出经 Astra 视觉修正后 PA 从 83.67% 提升到 93.00%。所有结果来自仿真环境,每个对象单次运行。
作者承认评估仅关注自由空间几何正确性,未检验无碰撞或物理稳定装配;基准任务为抽样选取,鲁棒性测试仅单次运行、对象数量少;组合实验仅覆盖两碎片断裂重组和单一种子;预训练模型可能接触过相关内容,无法排除数据污染。此外,开源系统执行可靠性差,Qwen 有 65 次达到时限、14 次执行失败,DeepSeek 有 17 次达到时限、34 次执行失败。论文未报告环境或代码是否开源。
该研究为机器人装配和智能制造领域提供了测试通用智能体的统一平台,可能被工业机器人、家具组装、破损文物或零件重组等产品采用。短期(现在至 1 年)主要用于研究和评估,验证智能体在仿真中的装配能力;1 至 3 年可能催生结合通用推理与专门几何优化模块的半自动装配系统,但需先在真实机器人上验证物理稳定性和抓取能力;前提是闭环视觉反馈的可靠执行、模型调用成本和时延可控,以及针对代理初始化的几何精修方法成熟。
受许可协议限制,本站不转载该论文全文,仅提供摘要和原文链接。