Data for Agents

背景

构建真正能应对真实世界的 AI agent 远比在基准测试上跑分困难。现实中的 API 调用可能失败，工作流可能从未见过，一个无法从这些异常中恢复的 agent 本质上只是带工具的自动补全器。从“自动补全”到“真正 agent”的跨越，本质上是一个数据问题：需要软件工程轨迹、工具使用失败案例、多步推理、检索、安全、用户模拟、工作流执行，乃至最终与物理世界的交互。这正是 NVIDIA Nemotron 开放数据产品所聚焦的领域。

在 AI 研究社区，开放模型正在推动大量前沿工作。NVIDIA 近期指出，在热门机器学习会议 ICML 上，有近 145 篇论文引用了 Nemotron 模型和数据集。合成数据在这一生态中扮演了关键角色：

• Nemotron-CC：利用合成数据增强流行的 Common Crawl 数据集，用于预训练。
• Nemotron-MATH：借助合成数学问题提升推理能力。
• Nemotron-CLIMB：包含专门合成的代码数据。

NVIDIA 开放数据集的部分原因，正是希望与社区共同学习，扩展这些应用。

核心内容

开放权重固然重要，但对 agent 而言，权重只是故事的一半。可复现性同样依赖于模型背后的数据集、数据筛选策略、训练配方和评估方法。Agent 的行为需要可审查——当模型调用工具、执行工作流、检索信息并跨系统行动时，开发者必须理解塑造这些行为的数据。开放数据使 agent 行为可审查、可解释，而合成数据是实现这一目标的关键拼图。

NVIDIA 应用深度学习研究副总裁 Bryan Catanzaro 曾指出：“每家公司都围绕一个秘密而建立”——这个秘密可能是竞争对手没有的工作流、语料库或客户模式。这些秘密让 AI 变得有用，但公司不应轻易暴露它们。合成数据为团队提供了一条保留有用信号而不暴露原始来源的途径。

Bryan 还谈到要培育一个多元化、参与式的 AI 生态系统，让各类公司、研究者、政府和社区都能贡献。这不仅是价值观声明，更是一个数据声明：如果每个模型都从同一狭窄的数据池中学习，那么模型趋同就不足为奇。最有益的数据往往掌握在无法或不愿直接发布数据的组织手中。一个更丰富的共享数据层对所有人都有利，但没人愿意第一个交出让自己与众不同的东西。公开的合成数据正是改变这种局面的方式之一。

作为 Nemotron 开放数据的一部分，NVIDIA 已发布超过 10 万亿个预训练 token 和数百万个后训练样本，涵盖多个领域和数据形态。为了让这些数据易于探索，他们构建了 Nemotron Post-Training v3 Prompt Atlas——一个交互式可视化地图。地图上的每个点都是一个提示样本，来自 Nemotron v3 后训练集合，并按体积采样以反映数据混合的真实比例。颜色叠加层和过滤器让你可以按数据集、流水线阶段、领域或工具使用进行重组。由于语义相似的提示会聚集在一起，你可以放大到某个区域（如编码算法、安全、数学、agent 行为），检查代表性样本，并利用这些信号来筛选数据、构建评估或理解模型行为。

Agent 还需要理解它们所支持的人。数据质量是局部的，而非普适的。一个基于英语互联网数据训练的毒性分类器，可能会漏掉韩语或日语中的敌意信息——在这些语言中，攻击性往往编码在礼貌层级中，而非明显的词汇。同样的信号，不同的语境。团队已经开始以此方式为 agent 建立基础。

Nemotron-Personas 是解决该问题的一个尝试：基于本地化合成角色，捕捉人群的多样性和复杂性。它使用 NVIDIA 最先进的复合 AI 工具 NeMo Data Designer 生成，反映了官方区域人口统计和地理统计数据。目标不是复制真实的人，而是帮助开发者测试他们的系统是否真正反映了所声称服务的用户、语言、地域和职业。上个月在巴黎 VivaTech 上，NVIDIA 发布了该集合中的第十个国家，现已代表超过 24 亿人口。

当质量是局部的，只有了解当地情况的人才能构建它——区域研究者、母语者、领域专家、能够与你一起审查和纠正的利益相关者。这就是“公开学习”：不是孤立地发布数据，而是协作构建数据。

合成数据需要作为数据源系统的一部分来整合。它存在权衡：可以降低风险，但并不能消除对根基、溯源、筛选、评估和人类判断的需求。一个有用的思考方式是“合成阈值”——数据不能再被视为纯粹真实的临界点。这条线并不总是明显。真实工作流、人类反馈、模型生成的轨迹、模拟用户和合成标签可能交织在一起。答案不是假装合成数据是虚假或无害的，而是记录生成了什么、基于什么、审查了什么、以及数据用于测试什么。随着越来越多 AI 系统在人工信息上训练，我们需要更好的共同习惯来审查、记录和公开讨论这些技术。

质量在不同语境下也有不同含义：推理数据需要更难的题目和更清晰的轨迹；角色数据需要分布保真度和本地审查；agent 工作流需要任务多样性、失败覆盖率和恢复路径。这个领域仍然是手艺多于公式。

这就是开放方法重要的原因。合成数据不仅仅是生成更多样本，而是提出更好的问题，让原本无法坐在同一张桌子上的各方能够合作：公司无需泄露秘密，政府无需牺牲隐私，研究者无需等待可能永远不会到来的许可。

AI 中的稀缺资源不是 token，而是组织之间的信任。合成数据是构建这种信任的少数工具之一。

关键要点

• Agent 行为的可审查性：开放数据使 agent 的工具调用、工作流执行等行为可审查、可解释，这对调试和信任至关重要。
• 合成数据保护秘密：合成数据允许公司保留专有工作流或客户模式的同时，贡献有用信号，避免直接暴露原始数据。
• Nemotron 开放数据产品：包括超过 10 万亿预训练 token 和数百万后训练样本，涵盖预训练、推理、代码等多个领域。
• Nemotron Post-Training v3 Prompt Atlas：交互式嵌入图集，帮助可视化和探索后训练数据，支持按语义聚类、领域筛选和样本检查。