Mach-Mind-4-Flash：35B MoE仅激活3B，比肩百亿参数
速览
Mach-Mind-4-Flash是一款35B参数的MoE智能体模型，仅激活3B参数，通过后训练优化和强化学习达到百亿参数级性能。其训练流程包括统一RL/OPD基础设施、多专家并行训练与MOPD蒸馏、以及HMPO令牌效率方法。模型在多个基准测试中领先或持平于10-30倍激活参数量的模型，推理成本极低。
AI 深度解读
背景
随着大规模语言模型的快速发展，参数规模从数十亿跃升至数千亿，性能的提升往往伴随着巨大的计算成本和推理开销。然而，业界逐渐认识到，单纯增加预训练计算量并非唯一路径，后训练优化（post-training）——包括监督微调、强化学习（RL）等——正在成为释放模型潜力的关键手段。Mach-Mind-4-Flash 技术报告正是这一趋势下的代表性工作：它通过创新的后训练流程，在不扩展预训练计算的前提下，让一个 35B 参数的混合专家模型（MoE）达到了与 100B 参数级别模型相媲美甚至超越的性能，同时推理成本大幅降低。
该论文由研究团队提交至 arXiv cs.CL，展示了如何通过可扩展的智能体交互环境、多教师在线蒸馏（MOPD）以及混合中位长度策略优化（HMPO）等技术，实现高效率、高性能的智能体模型。
核心内容
Mach-Mind-4-Flash 是一个 35B 参数（总参数）的混合专家模型，但每个 token 仅激活 3B 参数（即 active parameters）。这意味着在推理时，模型只使用约总参数量的 8.6% 的计算资源，却能输出与百亿参数级模型（100B+）相当的结果。
该模型的核心贡献在于一套三阶段的后训练流水线，无需增加预训练计算量：
-
统一 RL/OPD 训练基础设施
团队构建了一个支持强化学习（RL）与在线策略蒸馏（On-Policy Distillation, OPD）的统一训练框架。该框架引入了动态多教师调度（dynamic multi-teacher scheduling）和算子级加速（operator-level acceleration），使得端到端训练速度提升了 17%。这一基础设施为后续的多领域并行训练和蒸馏提供了高效底层支撑。 -
多领域 RL 专家并行训练 + 多教师在线策略蒸馏（MOPD）
模型在推理（Reasoning）、通用（General）和智能体（Agent）三个轨道上分别并行训练领域专用的 RL 专家。随后，通过一种名为多教师在线策略蒸馏（Multi-Teacher On-Policy Distillation, MOPD）的技术将这些专家融合为单一的通才模型。MOPD 使用路由式反向 KL 散度目标（routed reverse-KL objective），有效消除了混合奖励强化学习中常见的“跷跷板退化”（see-saw degradation）现象——即不同奖励信号相互冲突导致某方面性能下降。 -
混合中位长度策略优化（HMPO）
为了在保持推理质量的同时缩短推理链长度，论文提出混合中位长度策略优化（Hybrid Median-length Policy Optimization, HMPO），这是一种单阶段、注重 token 效率的方法。应用 HMPO 后，模型的推理链长度压缩了 19%–46%，而准确率损失不超过 0.7 个百分点。这使得模型在部署时能更快生成答案，且依然输出高质量结果。
最终，Mach-Mind-4-Flash 在多个基准测试中取得了领先成绩：
- AIME'26：92.70
- IFBench：82.82
- Behavioral-SafetyBench：80.74
- BFCL-v4（函数调用基准）：75.80
- BrowseComp-zh（中文网页浏览理解）：72.31
- ClawBench（智能体任务）：84.20
这些成绩与激活参数量为其 10–30 倍的模型相当或更好，而推理成本仅为后者的几分之一。
关键要点
- 模型规格：总参数 35B，激活参数 3B，属于小激活、高性能的 MoE 架构。
- 零预算扩展：所有性能提升均来自后训练优化，未增加预训练计算量。
- 统一训练框架：RL 与 OPD 共享基础设施，动态调度多教师，算子级加速带来 17% 训练速度提升。
- 多轨道蒸馏方案：分 Reasoning、General、Agent 三个轨道训练专家，通过 MOPD 融合，避免混合奖励冲突。
- MOPD 核心机制：使用路由式反向 KL 散度，让学生模型从多个教师中有选择地学习，消除跷跷板退化。
- 推理链压缩：HMPO 方法在单阶段实现 19%–46% 的生成长度缩减，精度损失不超过 0.7%。
- 基准表现：在 AIME'26 达 92.70，BFCL-v4 达 75.80，ClawBench 达 84.20，多个任务领先或持平 100B+ 模型。
- 成本优势：推理时仅激活 3B 参数，因此延迟与计算开销远低于同水平的大参数模型。
意义与影响
Mach-Mind-4-Flash 的技术报告展示了后训练优化的强大潜力。它表明，即使不扩大预训练规模，通过精心设计的强化学习、多教师蒸馏和推理链压缩流水线，小激活模型也能在复杂推理、安全、函数调用和智能体任务上达到甚至超越大模型。这对于降低大模型部署门槛、推动边缘计算与实时应用具有重要意义。
此外，该工作提出的 MOPD 方法为多任务/多奖励强化学习中的目标冲突问题提供了一个有效解决方案；HMPO 则使得模型能自主压缩推理链条，在保持质量的同时提升效率。这些技术可被广泛迁移到其他 MoE 或密集模型的后训练流程中。
从产业角度看，Mach-Mind-4-Flash 验证了“小参数、大能力”路线的可行性，有望引导行业从盲目堆参数转向更关注训练策略与数据效率。对于端侧设备、云端低延迟推理场景，这类模型将极具竞争力。