← 返回信息流
AI 资讯TechCrunch AI·1 小时前

Thinking Machines 发布首个开源模型 Inkling,押注专用AI

原标题:Thinking Machines amps up its bet against one-size-fits-all AI with its first open model, Inkling

速览

Thinking Machines 在远离公众视野一年半后,首次公开其AI基础设施成果,发布开源模型 Inkling。该模型旨在反对“一刀切”式的通用AI,体现了公司押注专用AI方向的战略。这标志着这家公司从幕后走向台前,为AI行业带来差异化技术路径。

AI 深度解读

背景

Thinking Machines Lab 是一家由前 OpenAI 首席技术官 Mira Murati 创立的 AI 初创公司。经过近一年半的暗中建设,该公司于本周三早上发布了其首个专有模型 Inkling。与 OpenAI、Anthropic 和 Google 的旗舰模型不同,Inkling 采用开放权重(open-weight),意味着外部开发者和企业可以直接下载并修改它。这一发布标志着 Thinking Machines 对当前 AI 行业“一刀切”模式的一次明确赌注:它认为,能够被组织自行适配的 AI 将优于那些由大型实验室统一销售、一成不变的模型。

核心内容

Inkling 是一个混合专家系统(Mixture-of-Experts),总参数达 9750 亿,但在任何给定任务中仅激活约 410 亿参数——这是一种常见设计,旨在让超大规模模型运行更快、成本更低。该模型在 45 万亿 token 的文本、图像、音频和视频数据上训练,并能够原生推理这三种模态,据公司发布材料称。

这是 Thinking Machines 在公开视野之外建设 AI 基础设施一年半后,首次向外界展示成果。此前,部分工作已在 5 月的研究预览中浮出水面——即“交互模型”(interaction models),这种 AI 被设计为能倾听、说话甚至打断对话,而不是像传统聊天机器人那样停下来等待。Inkling 也是对 Thinking Machines 核心赌注的检验:企业能够自行定制的 AI 将胜过当前大型实验室销售的一刀切模型。

Inkling 被设计为能给出经过校准的答案,包括在不确定时标记出不确定性而不是猜测,并且用户可以根据需要调节“思考努力度”(thinking effort)以换取速度。公司声称,在某个基准测试中,Inkling 仅用 Nvidia Nemotron 3 Ultra 三分之一的 token 数量就达到了相同的编码性能。值得注意的是,Thinking Machines 并未声称 Inkling 是同类最佳。其简报材料明确写道,Inkling“不是当前可用的最强模型,无论闭源还是开源”。它显然追求的是全面的性能表现。

当然,这引出了一个关键问题:除了显而易见的企业级定位外,这个产品目标用户是谁?Thinking Machines 目前将 Inkling 定位为“起点”而非成品,供组织通过其模型定制平台 Tinker 自行微调。(相比之下,OpenAI、Anthropic 和 Google 分别以 ChatGPT、Claude 和 Gemini 采取了截然不同的策略,它们首先作为通用聊天机器人竞争,然后才叠加自主推理功能。)

Thinking Machines 上周发布的一篇文章显然是为本次发布做铺垫。该公司在文中论证,由一家公司集中训练并固定下来的 AI,表现不如组织自行塑造的 AI,因为大量专业知识是基于特定人员的。更广泛的观点是,集中式实验室向所有人销售同一产品,并由实验室不断迭代;而愿意拥有和定制自己模型的企业,则可以从中榨取更多价值。

这一论点正在获得支持。微软 CEO Satya Nadella 在周日发布的博客文章中警告说,使用专有 AI 模型的企业实际上付了两次钱:一次是订阅费,另一次是通过数千条提示和修正交出的业务知识,这些知识会被吸收到未来模型版本中。Hugging Face CEO Clem Delangue 上周在与 TechCrunch 的对话中也做出了类似预测:前沿模型将越来越多地用于实验和高价值任务,而大多数生产型 AI 工作将转向私有或开源替代方案——这正是 Thinking Machines 所围绕构建的分水岭。

最清晰的证据来自最近与全球最大对冲基金 Bridgewater Associates 的一个项目(Bridgewater 并非 Thinking Machines 的投资方)。两家公司的研究人员将一个现有开源模型进一步训练,融入了 Bridgewater 自身的金融专业知识。结果在金融推理测试中得分 84.7%,超越了顶级专有 AI 模型,同时运行成本仅约为后者的十四分之一(这些结果于 6 月底联合发布,但来自两家公司自身的评估,而非独立评估)。

Thinking Machines 还强调了其速度:OpenAI 大约花了五年,Anthropic 大约花了三年,才将技术推向市场并产生收入;Thinking Machines 表示自己在九个月内就完成了同样的工作。

有人会问,Inkling 是否使用了竞争对手模型的输出来训练,即所谓的“蒸馏”做法,这一做法已在全行业引发关注。根据公司材料,简短的答案是:部分如此。Thinking Machines 从头预训练了 Inkling,但表示在早期后训练阶段,在大规模强化学习接管之前,它使用了其他开放权重模型(包括 Moonshot AI 的 Kimi K2.5)帮助生成部分训练数据。公司坚称,下一个模型将完全使用自包含的后训练。

在成本方面,Thinking Machines 更为谨慎。它于 3 月与 Nvidia 达成战略合作,部署 1 吉瓦的 Vera Rubin 计算能力,并表示 Inkling 的整个训练都在 Nvidia 的 GB300 NVL72 系统上完成。但公司尚未说明如何平衡这对收入的影响——据多数报告,收入目前并非主要关注点。(去年 11 月曾有报道称该公司正在筹集 500 亿美元,但多家媒体称该轮融资在今年 1 月陷入停滞;此后公司拒绝谈论融资情况,尽管 Nvidia 在 3 月宣布合作时表示对 Thinking Machines 进行了“重大投资”。)

另一个相关问题是:Thinking Machines 的支出是否会达到 OpenAI 或 Anthropic 那样的规模,还是其效率驱动的方法意味着经济模型不同?换句话说,公司的赌注可能不是最终会像大型竞争对手那样花钱,而是根本不需要花那么多——因为一旦权重公开,任何下载它们的人都没有义务向 Thinking Machines 支付运行费用,这与 OpenAI 和 Anthropic 销售的按量计费访问不同。公司的收入必须来自 Tinker,而非模型本身,通过训练、微调以及现在围绕模型构建的托管生态系统的分成来实现。

关键要点

  • 模型参数与架构:Inkling 是混合专家模型,总参数 9750 亿,每次任务激活约 410 亿参数,训练于 45 万亿 token 的多模态数据(文本、图像、音频、视频),原生推理三种模态。
  • 开放权重策略:Inkling 是开放权重模型,允许外部开发者直接下载和修改,与 OpenAI、Anthropic、Google 的闭源旗舰模型形成对比。
  • 核心能力:支持校准答案输出(包括不确定性标记)、可调节思考努力度,编码基准测试中 token 消耗仅为 Nvidia Nemotron 3 Ultra 的三分之一。
  • 性能定位:公司明确表示 Inkling 不是当前最强模型,而是追求全面均衡的性能。
  • 商业模式:模型本身免费开放权重,但收入通过定制平台 Tinker 的训练、微调及托管生态分成实现,而非按量计费。
  • 定制化哲学:公司认为,集中训练的一刀切模型不如企业自行定制的模型,因为专业知识和数据是特定于组织的。
  • 行业支持:微软 CEO Satya Nadella 和 Hugging Face CEO Clem Delangue 近期均表达了类似观点,认为企业使用专有 AI 模型存在隐性成本,未来生产型 AI 将转向私有或开源方案。
  • 实际案例:与 Bridgewater 合作的项目显示,基于开源模型微调后的金融推理模型在成本仅为十四分之一的情况下,性能超越顶级专有模型。
  • 开发速度:公司在约 9 个月内完成从技术到市场验证,相比 OpenAI(约 5
查看原文 →techcrunch.com