供需失衡的窗口期里，商汤大装置把国产算力做成了正毛利生意

背景

当前AI算力市场正处于供需极度失衡的窗口期。2025年以来，Agent类应用爆发，单次任务处理的上下文长度大幅拉长，算力需求同比激增5到10倍，但主流高端算力的供给几乎没有增长。大厂需优先保障自身核心业务，导致第三方客户的溢出需求无人承接。与此同时，国产芯片与国际主流高端芯片相比仍存在至少一代的性能差距，行业中流传着“谁买国产芯片，谁认亏”的说法。正是在这一背景下，商汤大装置通过端到端整合与系统级优化，将国产芯片相关业务的毛利率做到了正数，并预计到2025年底日均Token处理量达到年初的25倍（从4000亿飙升至10万亿）。商汤将这一年称为“国产AI基础设施规模化商用的元年”。

核心内容

商汤大装置的核心突围策略是“先拼系统，再等芯片追上来”。面对国产芯片与国际高端芯片的代际错位，商汤没有被动等待芯片厂商填平差距，而是主动从系统层面跑通了一套组合方案，通过异构混合推理弥合实际使用中的鸿沟。

异构混合推理的核心是将模型推理的Prefill（预填充）阶段和Decode（解码）阶段分离，分别交给不同性能的芯片处理。Decode阶段需要逐字生成，每生成一个字都要在显存中检索之前的内容，对显存带宽要求极高；Prefill阶段一次性吞入整个输入，对算力吞吐量要求更高。商汤把对带宽要求最高的Decode环节交给性能更强的高端资源（如国际主流芯片），把对算力要求相对分散的Prefill环节交给数量更多的国产芯片。在此分工下，一块高端芯片大约能带动30块国产芯片协同工作，达到接近单独使用高端资源的整体效果。商汤前后适配了20多款不同厂商的国产芯片，其中已有六七款能够稳定实现商业化盈利。

在系统层面，商汤大装置做了大量定向优化与适配：从底层编译器适配、算子重写，到上层框架对接和调度策略调整，每一层都单独攻克。通过算子层面的针对性重写和调优，以及系统层级的资源分配与调度调整，主流国产芯片的MFU（Model FLOPs Utilization）提升了85%–152%，单位成本的Token产出提升了2.5倍。在AI4S长序列蛋白质预测场景中，整体预测耗时减少75%；在AIGC视频生成场景中，国产芯片运行DiT模型时，多卡并行视频生成加速比达到93%。商汤将这套能力打包成“Token工厂”服务，批量处理Token的需求可直接对接商汤供给。

商汤的另一个关键做法是“端到端自己包圆”。在行业普遍将机房、硬件、批发分销、零售分给不同公司干的情况下，商汤大装置选择自己建机房、自己采购和运营硬件、自己开发调度系统，并且直接对接客户。这种全包模式最早从2018年开始积累的多层次协作班底（研发团队、芯片原厂、高校科研机构）中打磨出来，采用松耦合与紧耦合并存的方式，遇到硬骨头就集中攻关。今年，商汤还引入AI自动生成算子适配代码，大幅压缩了手工适配所需的人力时间，该做法已在生产环境中运行。

此外，商汤将算力与电力作为一个系统联合调度，在WAIC期间发布了“算电协同Agent”。该Agent先用模型预测算力任务的耗电特征，再与电力调度系统打通，结合峰谷电价和自有储能设施调节用电节奏。以此衍生出新指标TPW（Tokens per Watt），单位电力成本的Token产出提升了约80%。

在生态合作层面，商汤大装置联合近20家生态伙伴（包括寒武纪、沐曦股份、中科海光、华为昇腾、摩尔线程、曦望Sunrise、壁仞科技等国产芯片厂商，以及曦智科技等核心零部件伙伴，硅基流动、趋境科技等基础设施厂商）发起“国产AI基础设施生态共建计划”，目标打造开放共享的产业生态。商汤计划依托“银河计划”建设1个Token运营中心、5个万卡级国产智算集群，围绕10个核心技术方向做联合创新，赋能200家AI初创组织。同时，商汤联合上海人工智能实验室、北京中关村学院、深圳河套学院、上海算法创新研究院、上海交通大学人工智能学院五家科研机构，启动科学发现平台战略合作，覆盖生命科学、新材料、智能制造等领域。

商汤还将这套方法论延伸到太空领域：签约国星宇航，共同探索从地面万卡集群到在轨多星协同的太空算力。预计2026年“商汤号”系列算力卫星首发并组网，验证星地协同计算能力；到2030年建成天地一体化AI算力星座，覆盖应急救灾、远洋船舶、野外机器人等弱网络环境下的实时AI推理场景。光计算与量子计算也是商汤正在同步探索的方向。

关键要点

• 异构混合推理：将Prefill和Decode阶段分离，高端芯片支撑Decode（带宽瓶颈），国产芯片支撑Prefill（算力堆叠），一块高端芯片带动约30块国产芯片，综合效果接近纯高端方案。
• 系统级优化：从编译器、算子、框架到调度策略全链路适配，国产芯片MFU提升85%–152%，单位成本Token产出提升2.5倍。
• 端到端全包模式：自建机房、自购硬件、自研调度系统、直接服务客户，消除跨层损耗与摩擦，使联合优化成为可能。
• AI自动生成算子适配代码：用AI替代手工适配，加速跟上模型迭代速度，已投入生产环境。
• 算电协同：通过预测算力耗电特征、结合峰谷电价和储能设施，单位电力成本的Token产出提升约80%，并引入TPW指标。
• 生态合作与科研共建：联合近20家芯片及基础设施厂商发起“国产AI基础设施生态共建计划”，与五家顶尖科研机构启动科学发现平台战略合作。
• 太空算力拓展：与国星宇航签约，计划2026年发射“商汤号”算力卫星，2030年建成天地一体化AI算力星座，覆盖弱网络场景。
• 窗口期特殊性：当前供需极度失衡（需求同比涨5–10倍，供给未涨），大厂溢出需求被商汤承接，但窗口期红利随供给恢复将收窄。

意义与影响

商汤大装置在供需失衡窗口期取得的正毛利成绩，打破了“国产芯片必亏”的行业刻板印象，证明了系统级组合调度可以弥合硬件