如何思考token定价

背景

关于 token 定价的讨论，核心在于当前 AI 基础设施市场正经历一场深刻的结构性调整。自 2022 年以来，市场一直处于容量受限状态，但今年上半年供需失衡急剧加剧，主要驱动力来自单一用例（软件开发）的突然产品-市场匹配（product-market fit）。然而，这个领域本身规模相对较小。与此同时，供给侧正在迎来万亿美元级别的数据中心资本开支浪潮，推理效率持续快速提升，新模型在 token 使用效率上差异巨大。所有变量都在剧烈变动，市场将在未来几年内经历震荡，最终达到新的均衡。目前，许多分析集中在“达到算力所需时间”上，但根本问题是：基础模型是否具备可持续的定价权、战略杠杆和价值捕获能力，还是会沦为低利润的 commodity 基础设施提供商？从当前所有动态来看，趋势似乎指向后者。

核心内容

当前状态：短暂且不稳定

目前的情况是过渡性的。供给侧方面，大量数据中心资本开支（超过万亿美元）正在涌入，背后还有更多半导体资本开支；推理效率持续快速进步；新模型在 token 使用效率上要么远高于旧模型，要么远低于旧模型（差异巨大）。需求侧方面，尽管市场自 2022 年以来一直容量受限，但今年上半年供需紧张的主要驱动力来自单一用例——软件开发——的突然产品-市场匹配，而软件开发实际上是一个相当小的领域。试想，如果出现一个拥有数亿 DAU 的消费者用例，今天的基础设施即便不计成本也无法支撑。

利润率与成本结构

目前广泛报道的推理毛利率为 40-50%，这包含了服务器折旧（或租赁成本），但资产寿命（五年？七年？）尚不确定，并且显然不包含每年训练新模型几次的成本——后者目前远大于收入。原则上，推理是边际成本，训练是固定成本，因此只要收入足够高就能实现盈利，但训练成本的变化趋势未知。另一方面，过去几个月使用量激增中，有多少具有可量化的投资回报率（至少能被 CFO 量化）尚不清楚，更不用说未来的用例了，因此人们愿意支付的价格也未知。

建模的困难

理论上可以自下而上建模：对每个变量做出假设，然后模拟当前有多少芯片、台积电和半导体行业未来能提供多少芯片及性能、数据中心上线速度、供电速度等，再考虑价格纪律和用例。这能得出一个数字，但就像在 1998 年为宽带市场做五年预测：电子表格很漂亮，可能今年数字接近，但未知变量太多，无法做出有用的长期市场结构预测。换句话说，可以说 token 价格是供给和需求在卖方边际成本和买方 ROI 之间的函数，但实际供给、需求、边际成本和 ROI 都未知。

自上而下的分析框架

另一种方法是自上而下观察这类事情通常如何发展。关键取决于以下曲线（成本-质量曲线）的演变：

1. 有多少人愿意支付溢价处于曲线右上角（前沿模型）？ 一端是已有用例使用小型的、旧版的、可能开源的模型，在本地或手机上“免费”运行；另一端是一些用例从最新、最贵的前沿模型获得更好结果，消耗大量 token 和资金；中间还有许多用例。有多少用例从更高成本曲线获得更好结果？其中有多少具有 ROI？有多少用例被更小、更便宜、“足够好”、更 commodity 化的模型处理？乐观看法是，更贵的前沿模型结果更好，ROI 可能更高，但具体适用场景有限。

2. 前沿模型是否能持续显著进步？ 这是 AI 最基础的科学问题：前沿模型能持续改进多久？持续需要更多算力多久？这种进步速度是否能持续领先于效率和容量提升带来的降价压力？昂贵的前沿模型曲线头部能否持续存在？

3. 前沿模型之间是否仍存在激烈竞争？ 是减少到少数前沿模型并出现网络效应？还是前沿模型分化，在不同领域各有明显领先（这可能是可持续定价权的另一条路径）？或者继续维持中等个位数的公司数量，它们都制造能力大致相当的前沿模型？目前，所有公司使用大致相同的科学和训练数据，得到大致相同的结果，尚未发现网络效应或赢家通吃效应能让一家公司可持续地领先并做其他公司做不到的事。这种情况会改变吗？

4. 前沿模型本身能捕获多少高端用例的价值？ 有多少价值需要包裹在工具、流程、专有数据、市场推广、网络、支持等传统软件公司要素中，即使底层需要昂贵的前沿模型？模型本身能否完成所有事，还是无论多好都只是基础设施，用来构建实际产品？极端情况下，模型本身能否发明并制造所有这些要素，从而按席位、按结果收费或直接拿走全部利润？或者，即使是最高端、最高价值的用例，也需要嵌入数百家新公司，这些公司可以自由选择使用哪些模型？

以上都不是非此即彼的二元问题，而是程度问题，且可能因用例而异。在一个极端，有两三家巨头运行着半数以上推理，拥有巨大定价权；在另一个极端，LLM 看起来像数据库——会有数百万个，有些很大有些很小，价值在于你在此基础上构建什么——毕竟，每个 SaaS 公司都是一个“数据库包装器”。未来可能 Anthropic（或一家尚未听说过的公司）赢得整个游戏，制定自己的条款；也可能出现几十个路由器实时拍卖，将你的任务分配给数百个低利润的模型农场，一家基准公司从每笔交易中抽取费用。

关键要点

• 当前供需失衡是暂时的：供给侧面临万亿美元级资本开支和效率提升，需求侧目前主要靠软件开发这一相对较小的用例驱动，尚未出现大规模消费者用例。
• 推理毛利率 40-50% 但未计入训练成本：训练成本目前远大于收入，且趋势未知，导致盈利模型难以建立。
• 自下而上建模不可靠：变量太多（芯片供给、性能、数据中心建设速度、价格纪律、用例等），类似 1998 年预测宽带市场，无法得出有用长期预测。
• 关键变量包括：前沿模型进步速度、竞争格局（是否出现网络效应或分化）、价值捕获方式（模型本身 vs 上层应用）、以及用户愿意为前沿能力支付多少溢价。
• 两种极端情景：少数巨头垄断定价权 vs LLM 像数据库一样 commodity 化，价值在应用层；中间还有多种可能。
• 当前处于“S 曲线”早期阶段：类似 1990 年代中期互联网或 2008-2009 年移动互联网，明确知道这将巨大，但其他一切都不明确。许多问题目前无法回答，需要保持开放态度。

意义与影响

• 对投资者和创业者的启示：token 定价的不确定性意味着基础设施投资风险极高。当前巨大的资本开支可能无法获得合理回报，除非出现大规模消费者用例或前沿模型持续保持高定价权。但后者面临多重挑战：commodity 化趋势、竞争加剧、上层应用可能攫取大部分价值。
• 对 AI 公司战略的影响：基础模型公司需要思考如何构建可持续的护城河——是追求网络效应、垂直领域领先，还是通过提供完整解决方案（工具、数据、