← 返回信息流
Agent SkillLINUX DO · AI·55 分钟前

推理成本仅为顶级闭源模型的 1/10:英伟达 Nemotron 3 Ultra 获开源模型最高准确率

AI 深度解读

背景

随着大语言模型(LLM)在企业级应用中的深入,智能体(Agent)系统成为实现复杂工作流自动化的关键。LangChain 推出的 Deep Agents benchmark 专门评估模型在多步推理、工具调用、记忆访问和运行时任务编排方面的能力,旨在衡量模型在真实企业场景中的表现。英伟达(NVIDIA)发布了其开源模型 Nemotron 3 Ultra,并在该基准测试中取得了开源模型中的最高准确率,同时推理成本仅为顶级闭源模型的 1/10。

核心内容

英伟达于 2025 年 7 月 8 日宣布,其 Nemotron 3 Ultra 模型在 LangChain 的 Deep Agents 基准测试中,以开源模型身份取得了最高准确率。Deep Agents 基准测试评估的是智能体系统的综合能力,包括多步推理、调用外部工具、访问记忆并在运行时执行复杂任务。它不仅要求模型回答问题,还需在既定权限内完成操作流程,常用于企业工作流自动化、信息检索、任务编排与跨系统协作等场景。

本次测试的核心指标是成本和吞吐量。经过调优的 Nemotron 3 Ultra 模型每次运行的推理成本仅为领先闭源模型的 1/10,同时在开源模型中实现了最高的准确率,并且以更高的吞吐量完成了更多任务。在业务任务能力方面,Nemotron 3 Ultra 通过优化模型周围的环境(如内存、工具使用、评估等),达到了顶尖闭源模型的水平。

LangChain 联合创始人兼首席执行官 Harrison Chase 表示,构建更优秀智能体的关键在于不断改进模型周围的系统,当团队能够协同调整内存、工具使用、评估和模型行为时,这些因素会产生叠加效应。他提到与 NVIDIA 的合作表明,企业可以利用开放技术栈获得强大的性能,同时还能掌控他们正在构建的智能体系统。

关键要点

  • Nemotron 3 Ultra 在 Deep Agents benchmark 上取得了开源模型最高准确率。
  • 其推理成本仅为顶级闭源模型的 1/10,大幅度降低了企业使用门槛。
  • 在吞吐量方面,调优后的模型能以更高效率完成更多任务。
  • 表现提升的关键在于对模型周围系统(内存、工具、评估、行为)的协同优化,而非单纯依赖模型本身。
  • 该模型通过优化系统环境,在业务任务能力上达到了与顶尖闭源模型相当的水平。
  • LangChain 与 NVIDIA 的合作展示了开放技术栈在企业级智能体构建中的潜力,企业可兼顾性能与自主可控。

意义与影响

Nemotron 3 Ultra 的表现在开源模型与闭源模型之间建立了新的成本与性能平衡点。对于企业而言,这意味着可以以极低的推理成本获得接近顶级闭源模型的智能体能力,同时保留对模型和系统的完全控制权,避免供应商锁定。这一成果也验证了 Harrison Chase 的观点:智能体系统的进步更多来自系统层面的协同优化,而非模型参数规模的单一提升。未来,开源模型配合精心设计的系统架构,有望在企业自动化、信息检索和跨系统协作等场景中替代昂贵闭源方案,推动 AI 智能体技术的普及和落地。

查看原文 →linux.do