Cohere 发布首款开发者专用开源模型 North Mini Code：主打高效与主权 AI

背景

Cohere 正式推出了其面向开发者的首个开源模型 North Mini Code。这是一款基于混合专家（Mixture-of-Experts, MoE）架构的模型，被 Cohere 定义为“首款代理式编码模型”（agentic coding model），也是其下一代强大模型系列的首发成员。

在 AI 基础设施日益重视数据主权、隐私保护以及降低对单一供应商依赖的背景下，Cohere 通过 Apache 2.0 许可证免费开放该模型，旨在推动“主权 AI”（Sovereign AI）从概念走向现实。此举不仅让开发者能够直接访问代理式编码能力，也体现了 Cohere “在开放中构建”（building in the open）的理念，即 AI 的未来应由运行、测试和改进它的人们共同塑造。

核心内容

North Mini Code 的核心设计理念是“为效率而生”，旨在提供强大的软件开发性能，同时避免对硬件资源提出过高要求。

模型架构与性能基准

North Mini Code 采用 MoE 架构，总参数量为 300 亿（30B），但每次推理仅激活 30 亿（3B）参数。这种设计使其在保持轻量级的同时，在同类大小的模型中展现出极具竞争力的表现。

• 编码指数评分：在 Artificial Analysis 编码指数中，North Mini Code 获得了 33.4 分，在同等规模模型中处于竞争前列。
• 基准测试表现：模型在真实的软件工程任务中表现强劲，其得分反映了其在实际开发场景中的有效性。

速度与效率优势

针对开发者对速度和成本敏感的需求，North Mini Code 在性能测试中展现了显著优势，特别是在与 Mistral AI 的 Devstral Small 2 模型进行对比时：

• 吞吐量提升：在相同的并发水平和硬件配置下，North Mini Code 的输出吞吐量比 Devstral Small 2 高出高达 2.8 倍。这意味着在同等条件下，其工作效率接近后者的三倍，从而加速迭代并降低计算开销。
• 延迟表现：在衡量令牌生成一致性和节奏的“令牌间延迟”（inter-token latency）指标上，North Mini Code 领先 30%。
• 首令牌时间（TTFT）：在首令牌生成时间方面，两者表现较为接近，Devstral Small 2 在测试条件下略微占优。

应用场景与部署灵活性

North Mini Code 专为代理式工作流（agentic workflows）设计，能够胜任以下关键任务：

• 理解并编排子代理（sub-agents）。
• 映射系统架构。
• 执行代码审查。

该模型支持多种部署方式，开发者可以根据自身需求选择：

1. 本地或私有部署：下载权重后在本地或私有服务器上运行，实现完全的数据主权。
2. 托管推理环境：通过 Cohere 的 Model Vault 进行部署。
3. 在线试用：通过 OpenCode 或其他兼容的编码代理工具免费试用，或使用 Cohere API Key 进行调用。

开源许可与社区参与

North Mini Code 以 Apache 2.0 许可证开源，允许开发者自由使用、修改和分发。Cohere 明确表示，社区反馈将直接塑造其后续路线图，随着生态系统向更开放、更主权化的开发者模型扩展，Cohere 将持续增加功能并响应社区需求。

关键要点

• 首款代理式编码模型：North Mini Code 是 Cohere 推出的首款专为开发者设计的开源代理式编码模型，标志着其下一代模型系列的开端。
• 高效的 MoE 架构：拥有 300 亿总参数，但仅激活 30 亿参数，实现了高性能与低硬件需求的平衡。
• 显著的吞吐量优势：在同等条件下，其输出吞吐量比竞品 Devstral Small 2 高出 2.8 倍，大幅降低计算成本并提升迭代速度。
• 优化的令牌生成延迟：在令牌间延迟指标上领先 30%，确保了更流畅的代码生成体验；首令牌时间（TTFT）与竞品持平或略逊。
• 主权 AI 的实践：通过 Apache 2.0 许可证开源，支持本地、私有云及托管部署，赋予开发者对基础设施的完全控制权，摆脱供应商锁定。
• 广泛的兼容性：虽针对 OpenCode 进行了专门优化，但可兼容大多数主流编码代理工具。
• 社区驱动的开发模式：Cohere 承诺根据社区反馈调整后续开发方向，鼓励开发者在 X、Discord 和 Reddit 上分享成果并参与讨论。

意义与影响

North Mini Code 的发布在 AI 开发领域具有多重深远意义：

1. 推动主权 AI 落地：通过提供高性能且可本地部署的开源模型，Cohere 为那些对数据隐私、合规性及基础设施控制权有严格要求的企业和开发者提供了切实可行的解决方案。这有助于打破大型科技公司在 AI 基础设施上的垄断，促进更加多元化的 AI 生态。
2. 降低代理式编码门槛：代理式编码（Agentic Coding）代表了软件工程的未来趋势，但通常伴随着高昂的计算成本和复杂的部署需求。North Mini Code 通过高效的 MoE 架构，使得中小团队甚至个人开发者也能以较低成本运行强大的 AI 编码代理，加速 AI 辅助编程的普及。
3. 重塑开源模型竞争格局：在与 Mistral 等知名竞品的直接对比中，North Mini Code 在吞吐量上的显著优势表明，开源模型不仅在功能上可以媲美专有模型，在效率指标上也可能实现超越。这将激励更多模型厂商关注推理效率与成本控制，推动整个行业向更经济、更高效的 AI 基础设施演进。
4. 强化开发者生态粘性：Cohere 通过开源核心模型并鼓励社区反馈，正在构建一个以开发者为中心的生态系统。这种“在开放中构建”的策略有助于积累用户信任，形成从模型使用、反馈到迭代优化的良性循环，为后续更复杂的模型发布奠定坚实的社区基础。