Kimi K3模型上线，2.8万亿参数百万上下文

背景

随着大语言模型（LLM）竞赛进入深水区，各家厂商纷纷从模型参数规模、上下文长度、多模态能力以及推理效率等维度展开竞争。在国内，Kimi（月之暗面）此前凭借长上下文窗口和良好的用户体验获得大量关注。近日，有用户在 LINUX DO 社区分享了一则消息：通过购买 Kimi 的 Coding Plan 即可使用最新的 K3 模型，并称其为“目前国内最好的模型”。该分享简要罗列了 K3 的几项关键指标和架构创新，引发社区讨论。这一动态反映出国产大模型在参数规模、注意力机制效率以及面向特定工作流（如编码）的优化方面正在快速推进。

核心内容

原文内容可概括为以下几点：

• 用户需先前往 Kimi 平台购买 Coding Plan（编码计划），之后即可使用 K3 模型。
• 分享者评价 K3“可能是目前国内现在最好的模型”，并列举了四项核心技术特性：
  1. 2.8 万亿参数、100 万 token 上下文长度、原生多模态。
  2. Kimi Delta Attention：可在百万级 token 上下文中实现高达 6.3 倍的更快解码。
  3. Attention Residuals：在额外成本低于 2% 的前提下，提供约 25% 更高的训练效率。
  4. 该模型专为长时程代理式编码（long-horizon agentic coding）和自我演化工作流（self-evolving workflows）而构建。

帖子共有 5 条回复、5 位参与者。社区可阅读完整主题。

关键要点

• 参数规模与上下文：K3 拥有 2.8 万亿参数，支持 100 万 token 上下文长度，并且具备原生多模态能力（处理文本、图像等多种输入）。
• 解码加速技术：Kimi Delta Attention 是一种新的注意力机制变体，专门针对超长序列设计，可使解码速度提升最高 6.3 倍，大幅缩短响应时间。
• 训练效率优化：Attention Residuals 技术能够以低于 2% 的额外计算成本，将训练效率相对提升约 25%，意味着在同等资源下可以训练更强的模型或更快收敛。
• 应用场景聚焦：K3 并非通用闲聊模型，而是主要面向“长时程代理式编码”（指需要持续交互、多步骤推理的代码生成/调试任务）以及“自我演化工作流”（模型能根据反馈自动优化自身输出流程），这与当前 Agent 和 AutoGPT 类应用的趋势高度吻合。
• 获取门槛：目前 K3 并非免费开放，需要购买 Kimi 的 Coding Plan 才能使用，说明该模型优先服务于付费编码场景。

意义与影响

K3 的发布（或内测）标志着国产大模型在以下几个方向取得了实质性进展：

1. 万亿参数时代的国产标杆：2.8 万亿参数使 K3 跻身全球最大规模的模型行列，同时 100 万 token 上下文打破了以往商用模型的上限，为处理长文档、代码库和复杂推理提供了可能。
2. 注意力机制的工程创新：Kimi Delta Attention 和 Attention Residuals 分别从推理延迟和训练效率两个关键痛点切入，证明在算力受限的环境下，通过算法优化同样能获得巨大收益。6.3 倍的解码加速对于实时交互场景（如智能编程助手）价值显著。
3. 面向 Agent 与工作流的专属设计：将模型定位为“长时程代理式编码”和“自我演化工作流”，而非通用问答，说明 Kimi 正在瞄准高价值的开发者市场。这一策略可能催生更自动化的编码工具，降低复杂 AI 应用的开发门槛。
4. 商业模式探索：通过 Coding Plan 付费订阅的模式，让核心用户优先体验尖端模型，同时为模型迭代提供真实的使用反馈和收入支持，这是一种对开源与闭源之外的中间路径的尝试。

总体而言，K3 的出现提升了国内大模型在长上下文、多模态、推理效率方面的天花板，并为 Agent 工作流提供了更强大的底座。后续需要关注其实际测评表现、开放范围以及能否在商业化与性能之间持续平衡。