← 返回信息流
AI 资讯量子位·12 小时前

看了20万小时人类干活实录,机器人悟了

原标题:看了20万小时「人类干活实录」,机器人悟了

速览

黎曼动力正式发布Riemann-1.0,该模型基于20万小时人类操作视频学习,让机器人能够理解并模仿人类行为。这标志着机器人从预编程向自主学习迈出重要一步,有望大幅降低训练成本并提升泛化能力。

AI 深度解读

背景

具身智能领域长期存在两条技术路线的争论:VLA(Vision-Language-Action)和世界模型。VLA属于“直觉派”,响应快但容易在复杂场景中出错;世界模型属于“深思派”,推理稳定但速度慢且算力成本高。2026年以来,行业逐渐形成新共识:下一代机器人基础模型大概率是两者的混合体。英伟达西雅图机器人实验室在6月发表长文综述,指出World Action Model(WAM)已从VLA分支成长为第二条主路线,并预测融合模型是未来方向。ICML 2026上,LeCun团队等多篇论文也在探索从海量无标注野外视频中学习潜在动作世界模型。

这一趋势催生了一条新的训练范式:先用大规模开放世界视频做预训练,让模型学习人类与物理世界交互的“物理直觉”,再用少量真实机器人数据做动作对齐,将直觉转化为可执行的控制信号。而要实现这一范式,核心瓶颈在于如何将人类视频中缺失的动作标签转化为机器人可用的控制信号。

核心内容

黎曼动力(昆仑万维旗下具身智能子公司)在WAIC 2026上正式发布Riemann-1.0,一款面向通用机器人操作的世界动作模型(World Action Model)。该模型在业界公认最难的“家务大考”RoboCasa-365榜单上以62.6%的成功率登顶,比此前SOTA高出8.4个百分点,且大部分竞品仍在50%以下。真机测试中,Riemann-1.0能完成收拾餐桌、叠衣服、整理杂物等长流程家务,过程完成度达94.43%,平均成功率85.00%,领先最佳开源模型15个百分点。

Riemann-1.0的核心思路是“看人类视频学干活”。其训练数据共23.2万小时,包含三类来源:20万+小时人类第一视角视频(“广菜”)、1.2万+小时UMI与外骨骼手套数据(“精菜”)、2万+小时机器人真机与仿真轨迹(“准菜”),覆盖41种机器人本体和数千种交互方式。

为了将人类视频转化为可训练数据,黎曼动力自研了一套自动化数据处理流水线:首先矫正鱼眼畸变,将画面摆正;然后由VLM将长视频切割成细粒度动作片段,并标注任务描述、动作指令、场景和物体信息,经过两轮一致性校验;接着通过6类废片过滤(画面人多、动作无意义、遮挡严重、未完成、非第一视角、手出画面);最关键的一步是重建手部3D模型——检测并追踪手部姿态,配合相机位姿估计,将手的运动轨迹换算到世界坐标系并做平滑处理;再按阈值筛选重建质量;最后按场景、任务、动作、技能、物体五级分类均衡配比,防止模型偏食。

模型架构上,Riemann-1.0基于扩散架构,提出全因果动作-视频联合建模框架,将视觉动态、环境状态和机器人动作序列放入同一个生成过程中学习。同时设计本体专属的动作映射模块,使同一个模型可以适配41种不同形态的机器人本体。训练分为三个阶段,动作损失权重依次为0.1→0.5→0.9:第一阶段用Latent Action Model从人类视频中提取伪动作信号,让模型先学习物理世界规律;第二阶段引入UMI和机器人真实动作数据做校准,将伪动作空间过渡到真实控制空间;第三阶段纯机器人数据集中强化,练出可直接部署的控制能力。

消融实验验证了人类视频的价值:在RoboCasa-365上,无预训练基线成功率38.2%,加机器人数据预训练升至43.4%,再加UMI数据升至48.2%,加入人类视频数据后飙升至62.6%,猛增14.4个百分点。在EgoVLA基准测试中,加入人类视频预训练使长程多阶段任务成功率从42.96%提升至71.11%,未见过的视觉背景场景从26.36%提升至43.33%。在LIBERO标准操作评测中成功率99.0%,RoboTwin 2.0双臂协作仿真基准成功率94.3%。

关键要点

  • 登顶RoboCasa-365榜单:Riemann-1.0以62.6%成功率刷新纪录,比此前SOTA高出8.4个百分点,大部分模型仍在50%以下。
  • 数据来源:23.2万小时训练数据,其中20万+小时为人类第一视角视频(做饭、叠衣服、收拾桌子等),仅2万小时为机器人轨迹数据。
  • 核心突破:自研自动化人类数据处理流水线,将无动作标签的人类视频转化为机器可读的3D动作教材,包含手部3D重建、语义分割、多级分类等步骤。
  • 模型架构:全因果动作-视频联合建模,扩散架构,支持41种机器人本体,通过本体专属动作映射模块实现通用。
  • 三阶段训练策略:动作损失权重从0.1到0.5再到0.9,逐步从“理解世界”过渡到“执行动作”,类似大模型从预训练到对齐的路径。
  • 消融实验验证:人类视频数据贡献14.4个百分点的提升,远超其他两类数据增益之和;在长程任务和陌生场景下,人类视频数据增益更显著(28个百分点)。
  • 真机验证:在四类真实家务场景(积木堆叠、布料折叠、桌面整理、厨房收纳)中平均成功率85.00%,过程完成度94.43%,所有对比方法中排名第一。
  • 公司背景:Riemann-1.0由昆仑万维旗下子公司黎曼动力开发,昆仑万维同时布局世界模型Matrix-3.5、AI音乐Mureka v9.5等,形成数字世界与物理世界的交互闭环。

意义与影响

Riemann-1.0的发布标志着“看人类视频学干活”这条技术路线在国内首次被完整工程化跑通,并在仿真Benchmark和真机场景中均获得验证。它证明了大规模开放世界人类视频预训练 + 少量机器人动作对齐的范式,可以显著提升机器人模型的泛化能力和长流程任务成功率,且跨本体通用性得到验证。这一成果对具身智能领域意义深远:一方面,它打破了依赖昂贵机器人数据采集的瓶颈,使人类日常视频成为低成本、高丰富度的训练资源;另一方面,它推动了VLA与世界模型两条路线的融合,验证了“世界动作模型”(WAM)作为下一代机器人基础模型的可行性。

从行业格局看,昆仑万维作为一家以AI游戏、AI音乐、AI短剧等内容赛道著称的公司,通过成立独立子公司黎曼动力切入具身智能,反映了交互方式从数字世界向物理世界跃迁的大趋势。其世界模型底座(Matrix-3.5)已同时连接游戏、视频和实体机器人,形成“数字孪生—具身智能”闭环。这一布局意味着,AGI的上半场在屏幕内(文字、图像、音视频的生成与理解),下半场正在向屏幕外(物理世界的操作与交互)延伸。Riemann-1.0的登顶,不仅为机器人领域提供了可复用的技术范式,也为内容公司跨界进入硬核机器人赛道提供了标杆案例。

查看原文 →qbitai.com