摩尔线程极速适配美团LongCat-2.0
速览
美团开源万亿参数MoE大模型LongCat-2.0,专为Agentic Coding设计并支持1M超长上下文。摩尔线程利用MTT S5000的硬件FP8加速和SGLang-MUSA推理引擎,完成从模型加载到部署的全链路优化,实现稳定高效推理。该适配降低了国产GPU上部署前沿大模型的门槛,为AI Coding、Agent等场景提供推理基础设施。
AI 深度解读
背景
2025年7月6日,美团正式开源万亿参数大模型 LongCat-2.0。摩尔线程随即宣布,基于其 AI 训推一体全功能 GPU 智算卡 MTT S5000 及 MUSA 软件栈,已完成对该模型的快速适配。此次适配覆盖模型加载、推理引擎拉起、关键算子优化、部署验证与精度校验等全链路环节,使 LongCat‑2.0 能够在国产 GPU 上实现稳定、高效的推理运行。这标志着国产算力平台在支持超大规模 MoE(Mixture of Experts)模型方面取得重要进展。
核心内容
LongCat‑2.0 是美团自研的新一代万亿参数 MoE 大模型,总参数量达 1.6T,平均激活约 48B,动态范围为 33B~56B。该模型专为 Agentic Coding 场景设计,原生支持 1M 超长上下文,并通过自研稀疏注意力机制(LSA)、ScMoE 跨层快捷连接架构与零计算专家动态激活机制,实现资源高效利用与多任务协同。
摩尔线程技术团队依托 SGLang-MUSA 推理引擎及 MUSA 软件生态,围绕 LongCat‑2.0 的模型结构和推理特性,快速完成从框架兼容到性能优化的全链路适配。硬件方面,MTT S5000 具备硬件级原生 FP8 加速能力,单卡提供高算力、大容量显存与高带宽,可有效支撑长上下文输入、KV Cache 读写和高并发推理需求。配合 SGLang-MUSA 推理引擎与 MUSA 软件栈的协同优化,LongCat‑2.0 在 MTT S5000 上能够更充分释放推理性能,提升在线服务响应效率与系统吞吐能力。
此外,摩尔线程基于持续沉淀的模型适配经验,将模型结构解析、权重加载、推理框架兼容、算子验证和部署测试形成标准化工程路径,使 LongCat‑2.0 能够快速完成推理验证,降低了前沿模型在国产算力平台上的迁移和部署门槛。围绕 AI Coding、Agent 工作流、企业知识库问答和长文档分析等典型应用,摩尔线程对 LongCat‑2.0 推理链路进行了部署级验证,通过框架、算子和调度层面的协同优化,为客户提供兼具性能、稳定性和可扩展性的推理基础设施。
关键要点
- LongCat‑2.0 总参数量 1.6T(1.6万亿),采用 MoE 架构,平均激活约 48B,动态范围为 33B~56B。
- 专为 Agentic Coding 场景设计,原生支持 1M(100万)超长上下文。
- 核心技术包括:自研稀疏注意力机制(LSA)、ScMoE 跨层快捷连接架构、零计算专家动态激活机制。
- 摩尔线程使用 MTT S5000 GPU 和 MUSA 软件栈,通过 SGLang-MUSA 推理引擎完成全链路适配。
- MTT S5000 具备硬件级原生 FP8 加速,单卡高算力、大显存、高带宽,支撑长上下文和高并发推理。
- 标准化工程路径涵盖模型结构解析、权重加载、框架兼容、算子验证、部署测试,缩短部署周期。
- 已针对 AI Coding、Agent 工作流、企业知识库问答、长文档分析等场景进行部署级验证。
意义与影响
此次适配体现了国产算力平台对前沿超大模型生态的高度兼容性。LongCat‑2.0 作为美团开源的万亿参数 MoE 模型,其快速在国产 GPU 上落地,降低了 Agentic Coding 和企业级 AI 应用对国外硬件的依赖。摩尔线程通过标准化工程路径和 MUSA 软件栈的持续优化,为国内大模型应用从技术验证走向生产部署提供了可行的推理基础设施选择。这一合作也有助于推动国产 GPU 在关键 AI 负载上的性能验证与生态完善,进一步加速国产算力在复杂推理场景中的落地。
