AI未来比拼基础设施而非模型

背景

过去几年，企业对 AI 的态度经历了戏剧性的转变。2022 年秋季，全球经济衰退预期导致 IT 预算冻结；11 月 30 日 ChatGPT 上线，非技术背景的高管层第一次通过简单聊天界面与 AI 产生直观交互。CEO、CFO、CRO 们在假期中被早期的 GenAI 能力震撼——让 Taylor Swift 像 Eminem 一样说唱、自动摘要邮件、规划旅行——于是专门为 GenAI 试点项目解冻了 2023 年的 IT 预算。2023 年成为实验年，AI 团队涌入；2024 年，90% 的 GenAI 试点因前景不明被淘汰，剩余 10% 开始进入 GRC（治理、风险与合规）审核流程；2025 年，应用正式投产，伴随不同程度的护栏、成本追踪和 ROI 衡量（同时 agentic coding 在年底成熟，产品部署速度加快）；2026 年，生产中 GenAI 的内外部使用量爆发，年度预算在数月甚至更短时间内被消耗殆尽，主权 AI 讨论和政府介入前沿实验室使系统和数据所有权问题愈发凸显。

简单说，讨论已经从“是否该尝试 AI”演变为“为什么还没投产”，再到“ROI 在哪？天哪这花了多少？！我的数据去哪了？！”——完全不同层次的问题。

实验很便宜：申请一个 API 密钥，看看效果，然后继续。但生产环境截然不同：你需要可靠性、可审计性、规模化成本控制，可能还需要对地理位置、本地计算、自有模型能力的硬约束。这就是为什么我们构建了 Otari——不是因为模型不够好（恰恰相反，太多模型已经足够胜任太多任务），而是因为组织层面管理它们的基础设施尚不存在。

核心内容

过去两年真正改变了什么

一个颇有争议的看法：最重要的变化并非模型能力。模型确实进步巨大（尤其是开源和开放权重模型），但真正的变化是采用速度。AI 在生产环境中的使用，已经从少数资源充裕的科技公司扩展到各行各业数千个团队。随之而来的是无人完全预料到的问题。

第一：碎片化。 大多数团队不止使用一个模型——他们使用几十个。粗略来看，可能用 GPT 系列做文本摘要、Claude 做编程、本地开放权重模型处理敏感任务。但即便是所谓的“OpenAI 商店”，也会有团队同时使用 GPT-5.5、GPT-5.4、GPT-5.4-mini、GPT-5.4-nano 以及部署时表现良好但此后从未更新的旧模型。每个模型都有自己的 API、定价、延迟特征和速率限制。当初看似灵活，很快变成运营混乱。

第二：成本不透明。 AI 推理成本呈非线性增长。测试阶段每月 200 美元的功能，如果使用量变化，生产中可能变成每月 20,000 美元。随着前沿实验室 IPO 带来的“VC 补贴”消失，token 的真实成本越来越清晰，这个问题只会更严重。大多数团队直到收到发票才知道自己要承担多少费用。不同提供商之间没有原生工具能提前预警。

第三：治理缺口。 AI 进入金融、医疗、法律、教育等受监管行业后，“哪个模型说了什么、何时、对谁、为什么”成了合规要求。全球范围内的主权 AI 讨论进一步增加了这些要求的复杂性。现有基础设施对此毫无准备。

管理多提供商的挑战

实际中的多提供商复杂性是这样的：一个产品团队同时路由到 3-4 个不同模型提供商，每个提供商又有多个模型——此外还临时路由到本地解决方案。他们为宕机编写了自定义故障转移逻辑，用电子表格追踪成本，工程师凭直觉和不完整数据手动调整每个请求类型该由哪个模型处理。这不是可持续的架构。

问题不在于团队做错了什么——而是工具尚未跟上。当云计算成熟时，组织不再手动管理服务器，转而采用抽象复杂性的平台。AI 正处在同样的拐点：模型就是算力，而它们之上的控制层缺失了。

成本可见性是首要问题

成本作为战略问题被低估了，但 2026 年这个情况正在改变——组织开始意识到多少“tokenmaxxing”（疯狂消耗 token）烧掉了资本却只换来可疑的回报。不过，大多数将 AI 基础设施视为成本中心的组织都思考错了。真正的问题不是“我们花了多少？”，而是“我们是否以最低成本获得了所需结果？我们真的知道吗？”——这是截然不同的问题。

目前，大多数团队无法回答后者：他们无法跨提供商比较每结果成本，无法实时看到哪些路由在烧钱却未产生相应价值，无法制定策略（“该用例绝不支出超过 X，除非发生 Y”）并让它自动执行。财务团队最终会——确切地说，现在就在——要求这种可见性。先发制人的工程团队将拥有结构性优势。

控制为何越来越重要

核心论点（也是我们正在构建的方向）：控制成为新的护城河。过去几年，团队竞争的是使用哪个模型——这个优势正在消失。模型在商品化，顶级模型之间的边际差异在缩小，从高性能到甚至能在 Raspberry Pi 上运行的各层级都有多个竞争选项。下一个竞争层面是运营层面的：谁能可靠、经济、安全地大规模部署 AI？这是一个基础设施问题。

“控制”在这里意味着：基于成本、能力、延迟和合规性智能路由请求；实时观察 AI 在做什么及原因；设定组织级策略并一致执行，而不让每个团队重新发明轮子；无需重写应用层即可切换提供商。控制意味着像成熟的工程学科一样运营 AI。

为什么 Mozilla 决定构建 Otari

Mozilla 始终相信一种特定形态的互联网：开放、去中心化、为了公共利益且由公众治理。当审视 AI 基础设施的发展方向时，他们看到了熟悉的模式：权力集中于少数提供商，大多数组织依赖无法检查、修改或控制的不透明系统。他们目睹过这样的故事，知道如果不干预会如何结束。

Otari 就是 Mozilla 的答案：一个面向 LLM 的控制平面，核心开源，旨在让组织真正拥有对自己 AI 基础设施的掌控权。它不仅仅是路由器或成本仪表板，而是一个完整的控制层，位于应用和模型之间，提供可见性、治理和灵活性，让组织按自己的方式运营 AI。在模型成本结构可能变得完全不透明的时代，这一点至关重要。

Otari 之所以采用开源方式，是因为最需要它的组织——医疗、教育、国防、金融、公共科技——承受不起锁定。开源既是分发渠道（与 Mozilla 核心价值观一致），更是采纳的绝对前提。

关键要点

• 采用速度比模型能力更重要：AI 从少数公司的实验变为各行各业数千团队的规模化应用，由此引发了碎片化、成本不透明和治理缺口等新问题。
• 碎片化是最大运营挑战：团队同时使用多个提供商、多个模型版本，每个都有不同的 API、定价、延迟和速率限制，导致“灵活”很快沦为“混乱”。
• 成本非线性增长且不透明：测试成本到生产成本可能飙升 100 倍，VC 补贴逐步退出后真实成本更难以预测，缺乏预警机制。
• 治理合规需求激增：在受监管行业，“哪个模型说了什么、何时、对谁、为什么”成为刚需，主权 AI 讨论又添复杂性。
• 多提供商管理不可持续：手工路由、电子表格追踪成本、基于直觉的模型选择——这种架构无法扩展。
• 控制层成为新的竞争优势：模型正在商品化，差异化转向运营层——能否可靠、经济、安全地大规模部署 AI。控制意味着智能路由、实时可观测性、策略自动执行、供应商可替换。
• Mozilla 构建 Otari 作为开源控制层：定位是 LLM 的“控制平面”，填补应用与模型之间的空白，提供可见性、治理、灵活性，避免组织被单一供应商锁定。

意义与影响

本文深刻揭示了 AI 行业正在经历的关键转折：从“选哪个模型”到“如何管理模型”。模型能力固然重要，但当足够多的开源和商业模型都能胜任大多数任务时，真正的瓶颈变成了基础设施——如何让 AI 在生产中可靠、可控、成本透明地运行。这对企业决策者意味着：必须重新审视 AI 战略的重心，从追逐最新模型转向建设组织级的 AI 运营体系。

Mozilla 以开源方式推出 Otari，反映了对“开放互联网”价值观的坚持，也切中了医疗、金融、公共事业等对