HALO提出混合自适应潜在推理，以更少计算提升大模型性能
速览
HALO是一种混合自适应潜在细化方法，针对冻结预训练语言模型，包含粗细化阶段和基于token评分及单调停止的第二阶段选择性细化。在MMLU-Pro和GPQA-Diamond基准上，HALO在论文方法中取得最佳平均表现，且平均细化步数少于固定基线。结果表明，合理分配细化比单纯增加细化更关键，能在降低计算成本的同时提升性能。
AI 深度解读
背景
在大语言模型（LLM）研究中，如何在不重新训练整个模型的前提下，通过少量可自适应计算来提升冻结预训练模型的性能，是一个重要且实际的问题。传统方法是在模型隐藏状态上添加固定数量的额外精炼步骤（refinement steps），但固定策略存在明显缺陷：单步精炼头可能能力不足，而强制对所有位置执行两步精炼则会增加计算开销，且不一定能提升迁移性能。这促使研究者探索更高效、自适应的精炼机制。
核心内容
HALO（Hybrid Adaptive Latent Reasoning）是一种混合自适应潜层精炼方法，它结合了粗粒度精炼阶段与选择性第二阶段的潜层精炼。具体而言，该方法首先对所有token执行一次粗精炼，然后通过token评分（token scoring）和单调token停止机制（monotonic token halting）选择一部分token进行第二次精炼。整个过程在冻结的预训练语言模型骨干网络（backbone）的隐藏状态之上执行，无需修改原始模型参数。
在公开基准测试中，HALO在MMLU-Pro和GPQA-Diamond构建的综合评估套件上取得了最佳平均成绩，超过了冻结骨干网络、固定单步精炼（fixed-1）和固定两步精炼（fixed-2）等基线方法。内部分析进一步表明，HALO达到了与fixed-2几乎相同的token级准确率，但平均使用的精炼步数少于fixed-1，且远少于fixed-2。这说明HALO的关键优势并非简单的增加精炼次数，而是更优的精炼分配策略：HALO在使用比两种固定基线更少的控制器计算量的情况下，实现了最强的论文内对比结果。
关键要点
- 核心思想：混合自适应潜层精炼，分为粗精炼和选择性细精炼两个阶段，通过token评分和单调停止机制动态决定哪些token需要第二次精炼。
- 基线与对比：在MMLU-Pro和GPQA-Diamond上，HALO在论文内对比方法中取得最佳整体平均，超越冻结backbone、fixed-1和fixed-2。
- 效率优势：HALO达到与fixed-2几乎相同的准确率，但平均精炼步数少于fixed-1，且远少于fixed-2，计算效率显著更高。
- 关键机制：token评分与单调token停止（monotonic token halting）是自适应选择精炼子集的核心，确保计算资源集中在最需要精炼的token上。
- 适用范围：适用于任何冻结的预训练语言模型，可作为轻量级后处理模块提升下游任务性能，无需重新训练主干模型。
意义与影响
HALO提出了一种实用的计算高效自适应精炼方案，为冻结预训练模型的推理时优化提供了新思路。其意义在于：第一，证明了通过更精细的token级自适应分配，可以在不增加总计算量（甚至减少）的情况下获得与更昂贵固定精炼方案相当的性能；第二，HALO的简单性使其易于集成到现有LLM推理管线中，有望降低部署成本；第三，该工作推动了“少而精”的计算资源分配范式，为后续自适应推理、动态深度网络等方向提供了参考。未来，HALO机制可进一步扩展到更复杂的模型结构或多任务场景，也可能与稀疏注意力、早停等策略结合，进一步提升效率。