专业化胜过规模化：大多数 AI 采购决策忽视的战略变量

当模型的训练历史与其部署任务足够接近时，参数量就不再是决定性变量。在一个经过严格测量的企业级领域内，一个 30 亿参数（3-billion-parameter）的专用模型在性能上超越了所有测试过的商业前沿 API，且成本仅为后者的约五十分之一。

四月，我们发布了 DharmaOCR —— 一对用于结构化光学字符识别（OCR）的专用小型语言模型，并附带了相应的基准测试和论文。这些模型和基准测试已在 Hugging Face 上开源。它们共同构成了 Dharma 更广泛研究计划的一部分，旨在探讨在生产级 AI 系统中，专业化、对齐（alignment）与推理经济学是如何相互作用的。

本文从上述发现中提炼出一个战略层面的启示：即专业化、分布对齐（distributional alignment）与参数规模之间的关系。以下内容将在论文支持的边界内展开论述。

过去三年，企业 AI 战略主要建立在一个稳定的假设之上：最安全的选择通常是可用的最大前沿模型。小型模型通常被视为一种妥协方案，即在工作负载允许一定质量损失以换取更低成本时使用。这种假设背后的逻辑很简单：能力似乎随参数量扩展，前沿提供商始终在主要基准测试中领先，而且选择错误模型的代价往往被认为高于支付领先模型的费用。

这种推理是合理的。但现在的实证记录中包含了一个结果，其背后的比较集难以解释这一现象。

今年早些时候，Dharma 发布了一项基准测试，结果显示，一个通过任何资源充足的企业均可复制的微调管道进行专业化的 30 亿参数模型，超越了所有测试过的商业前沿 API。这不是微小的优势，也不是买家可以忽略的指标。质量与成本的差距方向相反：得分最高的模型也是运营成本最低的，其差距之大，足以在任何有意义的规模下改变采购的算术逻辑。

这一结果并非孤立案例。它是迄今为止最严格测量的实例，展示了 Dharma 在其他领域观察到的模式，并且越来越多的专业化研究开始记录这一现象（Subramanian et al., 2025; Pecher et al., 2026）。但这引出了一个值得明确提出的问题：当最大的模型不是性能最好的模型时，究竟是哪个变量在起作用？

背景

采购默认策略并非偶然形成。在过去三年里，它之所以存在，是因为它通常是正确的。

当 GPT-4 发布时，它在所有重要的基准测试中均优于较小的模型。这一模式经过微调后在 Claude 3、Gemini 1.5 以及 2025 年每一代前沿发布中重复出现。能力随参数量扩展，也随训练算力扩展（Kaplan et al., 2020）——这是 OpenAI 的缩放定律（scaling laws）早年形式化的实证关系。得出的教训是：选择可用最大模型的买家，平均而言选择了性能最好的工具。在没有更具区分性的信号的情况下，默认选择规模化是理性的举动。

这一假设之所以站得住脚，是因为在产生该假设的大多数比较中，它确实是正确的。发生变化的并非假设本身总是错误的，而是支撑该假设的比较集可能并不完整。

缺失的是一种不同类型的模型。不是更小的前沿模型，而是专用模型——即通过一系列微调步骤，将较小的基础模型适应到其部署的领域中，从而有意将其训练历史推向更贴近任务的位置。开篇提到的论文是首批将成本、质量和生产稳定性并排测量以进行此类比较的研究之一。

核心内容

实证记录究竟显示了什么

论文中使用的基准测试是一个特定领域的评估：巴西葡萄牙语 OCR，涵盖打印文档、手写文本以及法律和行政记录。基准测试本身并非本文的重点。重要的是它测量了什么，以及它进行了哪些比较。

在提取质量方面，比较中得分最高的模型是专用的 30 亿参数模型。它在基准测试的复合得分中获得了 0.911 分，该得分结合了编辑距离相似性和 n-gram 重叠度。最接近的前沿替代品是 Claude Opus 4.6，得分为 0.833。紧随其后的是：Gemini 3.1 Pro（0.820）、GPT-5.4（0.750）、Google Vision（0.686）、Google Document AI（0.640）、GPT-4o（0.635）、Amazon Textract（0.618）和 Mistral OCR 3（0.574）。专用模型排名第一，其与 Claude Opus 4.6 的差距接近 8 个百分点，大于比较中任何相邻完成者之间的差距。

在成本方面，差距更为巨大。专用的 30 亿参数模型每百万页的运行成本比 Claude Opus 4.6 低约 52 倍——这一差距是根据推理基础设施成本与公布的 API 定价计算得出的。以帕累托前沿（Pareto frontier）绘制的“质量-成本”图显示，专用模型位于图表的左上角，而商业 API 则位于其右下方。（财务建模的深度分析详见《文本退化的真实经济学》。）

在生产稳定性方面，同一模型产生的文本退化率最低——这是衡量生成内容进入自我强化循环并无法产生可用输出的频率指标。（生产稳定性的案例详见集群的《文本退化》文章。）30 亿参数模型在此基准测试中的记录为 0.20%；下一个最接近的专用模型为 0.40%；较大的通用开源基线模型更高；商业 API 未直接对此指标进行基准测试。

关键的变量

这三个发现——质量、成本、稳定性，均由同一个 30 亿参数专用模型领先——构成了本文的实证锚点。它们共同构成了比任何单一发现都更强的实证案例。论文和本文均未声称该结果适用于所有企业 AI 工作负载。它们声称的是：在该基准测试中，实验中规模最小的专用模型在每一个关键维度上都排名第一。

这使得显而易见的问题成为正确的问题：比较中规模最小的模型在质量、成本和稳定性上均获胜。仅凭参数量无法解释这一结果。自然的后续步骤——确定起作用的变量——正是对话进入下一阶段的地方。

这部分内容部分符合直觉。一个专注于部署任务的 30 亿参数模型，往往会优于那些参数分散在任务永远不会触及的材料上的更大模型——例如其他语言、其他语料库、其他领域。论文进一步指出：其中一个重要变量不仅涉及参数如何分配，还涉及模型的训练历史如何被推向任务。在报告的实验中，这一变量比任何其他测试变量（包括参数量）更可靠地预测了相对性能。

论文直接指出了这一点。在讨论部分，作者描述该结果支持了这样一个主张：“上下文专业化（contextual specialization）……”

关键要点

• 专业化胜过规模化：在特定的企业级领域（如结构化 OCR），经过专门微调的小型模型（3B 参数）在性能上超越了所有测试过的商业前沿 API（如 GPT-4o, Claude Opus 4.6, Gemini 等）。
• 成本优势巨大：专用模型不仅性能更好，其推理成本也极低。在测试中，专用 3B 模型的成本比 Claude Opus 4.6 低约 52 倍。
• 生产稳定性更高：专用模型表现出最低的文本退化率（0.20%），意味着其生成内容更稳定，更少出现自我强化的错误循环。
• 战略默认值的失效：过去三年，“选择最大模型最安全”的假设基于前沿模型在通用基准上的统治地位。然而，当比较集包含经过深度领域对齐的专用模型时，这一假设不再成立。
• 关键变量是“训练历史与任务的接近度”：决定性能的关键变量不是参数量，而是模型训练历史与部署任务之间的分布对齐程度。通过微调将基础模型适应到特定领域，比单纯增加参数量更能提升特定任务的表现。
• 可复制性：这种专业化可以通过任何资源充足的企业可复制的微调管道实现，并非只有拥有巨大算力的前沿提供商才能做到。

意义与影响

这一发现对 AI 采购和企业战略产生了深远影响。它挑战了长期以来以“参数规模”作为衡量模型能力主要指标的行业惯例。

1. 采购策略的转变：企业不应