国产Token优化工厂发布：兼容10余种芯片，日吞吐千亿Token

背景

中国AI基础设施竞赛正从“算力规模竞赛”转向“算力效率竞赛”。截至2026年，中国已建设50多个智算中心，智能算力总规模超过1000 EFLOPS，但平均利用效率仍有巨大提升空间。大量算力被浪费，算不快、长上下文多模态响应下降成为普遍现象。行业共识认为，“十五五”期间中国算力产业总投资预计达到7万亿元，若算力利用效率提升十到二十个百分点，将释放万亿级算力价值空间。

在此背景下，2026年7月17日，WAIC 2026上海开幕，智算赛道200多家企业同台。是石科技（创始团队源自清华大学计算机系，具备国家级计算中心工程化经验）发布了其国产Token优化工厂“拓元（Vectron）”，旨在解决异构算力难以统一调度、大模型推理缺乏深度优化、长上下文显存与成本压力陡增、国产芯片生态适配成本高昂等效率难题。

核心内容

是石科技创始人兼董事长闫博文在发布会上强调，效率是未来AI基础设施的关键词。拓元并非单一模型或工具，而是一套完整的AI Infra优化体系，核心目标是将每一份算力转化为稳定、高效、有价值的Token。

具体能力包括：

• 任务自适应优化：依托请求画像匹配最优计算链路，算力按需分配，减少资源浪费。
• 算子库优化：硬件专属算子融合编译，充分释放芯片极限算力。
• 模型与推理框架优化：兼容主流国产芯片与大模型，异构深度调优，提升业务并发量。
• 异构集群调度：破除跨地域、多芯片算力孤岛，统一纳管调度，盘活闲置算力。

拓元全面兼容昇腾、昆仑芯、天数智芯、太初、瀚博半导体、摩尔线程、沐曦、燧原等10余种国产算力芯片，适配20余个主流模型，实现国产异构算力池的统一调度与推理加速，每日Token吞吐量达千亿级别。

核心技术突破方面，拓元针对企业实际痛点提出多项创新：

• KV Cache压缩：结果感知驱动的KV Cache压缩技术，在不牺牲模型效果的前提下显著降低显存压力，使长文本、大规模AI应用经济地运行。
• 全模态推理的Token压缩：基于模态自适应的免训练Token压缩方法，针对文本、视频、语音等不同输入实现精准信息筛选，保留关键Token、减少无效计算。
• 长上下文优化：通过混合位置索引合成的长上下文偏好训练方法，以及记忆引导的重读机制，在远小于同类方法的训练数据量下实现百万级信息的高效处理。
• 可靠深度推理：基于元奖励的可扩展奖励建模方法，使系统能够持续自我优化，无需大量人工反馈，降低企业AI落地成本。
• 智能体长程任务记忆机制：以目标为导向的信息记忆策略，突破稀疏信息难监测、长程建模受限资源限制、注意力机制二次复杂度开销大的难题，确保长程Agent任务稳定执行。

是石科技成立于2021年，创始团队源自清华大学计算机系，核心成员来自清华、北大、北航等高校，具备高性能计算、人工智能领域资深专家。公司已服务超过200家重点客户，覆盖互联网大厂、头部大模型公司、航空航天、生物制药、新能源等行业。拓元的发布标志着公司将领先技术能力凝结为商业化、标准化产品，开启从算力服务到Token服务的规模化发展。

关键要点

• 算力效率困境：中国50多个智算中心、超1000 EFLOPS算力，平均利用效率远未跑满，长上下文多模态响应下降是普遍现象。
• 拓元定位：一套完整的AI Infra优化体系，而非单一工具或模型，目标是统一管理异构资源、屏蔽底层差异，让每颗国产芯片从“能用”变成“好用”。
• 兼容性：全面兼容昇腾、昆仑芯、天数智芯、太初、瀚博半导体、摩尔线程、沐曦、燧原等10余种国产芯片，适配20余个主流模型。
• 吞吐能力：每日Token吞吐量达千亿级别，实现国产异构算力池的统一调度与推理加速。
• 核心技术突破：
  • 结果感知驱动KV Cache压缩，降低长文本显存压力。
  • 模态自适应免训练Token压缩，提升多模态推理效率。
  • 混合位置索引合成与记忆引导重读，实现百万级长上下文处理。
  • 基于元奖励的可扩展奖励建模，让AI系统持续自我优化。
  • 目标导向信息记忆策略，确保长程Agent任务稳定执行。
• 商业化进展：已服务超200家重点客户，涵盖互联网、大模型公司、航空航天、生物制药、新能源等。
• 团队背景：创始团队源自清华大学计算机系，具备国家级计算中心工程化经验，核心成员来自清华、北大、北航等高校。

意义与影响

拓元的发布标志着中国AI基础设施竞争从“算力规模竞赛”正式转向“算力效率竞赛”。在国产芯片生态尚未成熟的过渡期，类似拓元这样的“中间件”平台能够统一管理异构资源、屏蔽底层差异，是国产算力生态走向“好用”的关键拼图。通过将算力利用率提升十到二十个百分点，有望释放万亿级算力价值空间，降低各行各业使用AI的成本，激发更多应用需求。

对企业客户而言，无论底层运行何种国产芯片，拓元都能实现算力资源的统一管理与优化调度，从而产出更多可用Token，降低大模型推理成本。同时，其核心技术突破（如KV Cache压缩、全模态Token压缩、长上下文优化、可靠深度推理、智能体记忆机制）直接针对企业部署大模型时的真实痛点，使AI落地从“需要大量人工调教”转变为“持续自我优化”，大幅降低运维成本。

从产业生态看，拓元打造了从芯片到应用的“超智融合”全链路，率先打通国产大集群从“点亮”到“跑满”的路径。作为中国AI产业自主可控技术体系的重要组成部分，它有望成为国产算力效率优化的标杆，推动中国AI走向更广阔的国际市场。