蚂蚁灵波开源首个空间原生具身视觉基模
速览
蚂蚁集团旗下蚂蚁灵波开源了首个空间原生具身视觉基模,该模型专门为机器人设计,能够直接理解三维空间信息。它让机器人具备更强的场景感知和物体识别能力,可在复杂环境中自主导航和操作。这一开源举措有望推动具身智能领域的快速发展,加速机器人从实验室走向现实应用。
AI 深度解读
背景
具身智能是近年来机器人领域最受关注的趋势之一,但大量机器人进入真实场景后暴露出的核心瓶颈并非任务规划或大模型对话能力,而是最基础的视觉感知稳定性。透明与反光材质、远距离与小目标、室内复杂光照与遮挡、弱光杂乱环境等问题,长期导致深度传感器的输出破碎、空洞、边缘粘连,机器人看世界“差一点”,进而影响后续的抓取、移动、避障与导航。传统视觉基础模型(如 DINOv3)更关注语义理解,而非空间几何结构,难以满足机器人对边界、深度突变、遮挡关系的精确需求。在此背景下,蚂蚁灵波(Robbyant)发布了首个空间原生的具身视觉基模 LingBot-Vision,以及基于该基模升级的深度感知模型 LingBot-Depth 2.0,并全部开源,旨在为机器人提供一个更懂物理世界的视觉底座。
核心内容
蚂蚁灵波此次发布了两项关键技术:LingBot-Vision 和 LingBot-Depth 2.0。前者是面向机器人真实任务的空间原生视觉基模,约10亿参数(ViT架构),通过纯自监督训练,在预训练阶段就强调边界与几何结构的学习;后者是基于 LingBot-Vision 的空间感知模型,将视觉底座转化为更稳定的深度结果。
LingBot-Vision 的设计核心:团队提出了名为 masked boundary modeling 的自监督训练方法,其关键创新在于 boundary forcing 机制。传统的 mask modeling 随机遮挡图像块让模型重建,但容易聚焦在墙面、天空等低信息密度区域。LingBot-Vision 的做法是让教师模型在线发现图像中的边界 token,强制将这些边界 token 加入学生模型的 mask 中,迫使模型学习更难、更有空间信息量的边界区域。此外,边界 token 还被分配了几何目标——模型不仅学习语义,还学习边界场(描述边界位置、方向和几何关系的信号)。为了减少噪声误判,团队引入了分类化的边界场表示以及 a-contrario 检验。LingBot-Vision 建立在 DINO 自蒸馏范式的基础上,但通过 Boundary forcing 机制显著提升了对形状和物体边界的关注。
LingBot-Depth 2.0 的效果:基于 LingBot-Vision 升级,在12个深度补全 benchmark 上取得领先结果。论文显示,随着下游训练数据增加,LingBot-Vision 编码器带来的优势会进一步扩大。具体在四大类难点场景中表现突出:
- 透明与反光材质:如香槟塔、透明水柱。传统深度传感器和模型会出现破碎、边缘粘连、空洞。LingBot-Depth 2.0 输出更完整的空间骨架,杯口、杯壁、杯身几何关系保持清晰,使机器人能准确抓取或完成接水等精细任务。
- 小目标与远距离目标:如户外追逐网球的狗狗和网球。传统 raw depth 完全模糊,LingBot-Depth 2.0 能清晰区分地面、墙体、网球、树木和狗的位置关系,对移动机器人、巡检机器人的远距离障碍物感知价值显著。
- 室内复杂场景:如玻璃门、窗帘、电视柜、阳台杂物,光照变化大。传统模型在玻璃、强光、阴影、边缘交界处出现大片破碎和空洞,LingBot-Depth 2.0 结果更连续,墙面、玻璃门、窗帘、地面空间层次完整,有利于家庭服务机器人。
- 弱光、遮挡和杂乱:如室内走廊、门框、墙角、桌面交错。传统模型边缘出现噪点和缺口,LingBot-Depth 2.0 输出更稳定,墙面、门框、桌面边缘连续。
开源与硬件合作:模型权重已在 Hugging Face 和 ModelScope 上发布,代码在 GitHub 公开,技术报告在 arXiv。LingBot-Depth 2.0 已通过奥比中光深度视觉实验室认证,双方围绕 EGO-RGBD 数采设备、SDK 和后续一体化相机产品展开合作,推动技术从论文走向硬件集成。
关键要点
- 首个空间原生具身视觉基模:LingBot-Vision 是专门为机器人设计的视觉底座,预训练阶段即强调边界与几何结构,而非仅依赖语义理解。
- 核心技术创新:masked boundary modeling + boundary forcing 机制,让模型在自监督训练中强制学习边界 token,并引入边界场表示与 a-contrario 检验,提升空间感知能力。
- 参数效率高:LingBot-Vision 约10亿参数,在 NYU-Depth v2 上优于包括7B DINOv3 在内的所有对比模型。其0.3B蒸馏学生模型可达7B DINOv3 同等精度,参数量少约23倍,利于端侧部署。
- 深度模型表现突出:LingBot-Depth 2.0 在透明/反光、小目标/远距离、室内复杂光照、弱光/遮挡/杂乱四大类场景中,深度图破碎、空洞、边缘模糊问题显著减少,输出更稳定连续。
- 数据优势可累积:论文指出,随着下游训练数据增加,LingBot-Vision 编码器的优势不会因数据增多而被稀释,反而可能越训练越明显。
- 开源与产品化:模型权重、代码、技术报告全部开源,并与奥比中光合作,逐步向硬件与产品集成,降低机器人企业和开发者使用门槛。
意义与影响
LingBot-Vision 与 LingBot-Depth 2.0 的开源,标志着具身智能视觉感知从“语义理解”向“空间原生理解”迈出关键一步。传统视觉基础模型(如 DINOv3)擅长识别物体类别,但机器人执行抓取、避障、导航等任务时需要精确的边界、深度和几何关系。此次发布填补了这一缺口,使机器人能更稳定地处理透明物体、远距离目标、复杂光照等长期困扰行业的老大难问题。
对行业而言,这套技术降低了机器人视觉感知的复用门槛。机器人企业、开发者和研究机构可以基于开源基模快速构建下游深度模型,无需从零训练大规模视觉编码器。同时,0.3B 的轻量级学生模型为端侧部署提供了可能,有利于人形机器人、移动机器人、工业巡检等场景的成本控制与实时性要求。
更深层来看,具身智能的竞争正在向底层基础设施转移。当大模型接入机器人让它们能理解指令、规划任务后,视觉感知的稳定性成为决定实际落地效果的关键瓶颈。蚂蚁灵波的做法——将视觉底座与深度模型分离又相互增强,并辅以硬件认证与产品合作——为行业提供了一条可复用的技术路径。虽然视觉底座升级不会让机器人一夜之间万能,但“看准”是机器人“行动”的前提。随着更多团队基于开源模型进行场景适配和算法迭代,具身智能离大规模上岗正越来越近。
