Polestar：漂移感知缓存校准与令牌提交提升扩散LLM推理效率

背景

扩散大语言模型（Diffusion Large Language Models, dLLMs）通过逐步去噪生成文本，在输出质量上展现出潜力，但其推理效率面临两大瓶颈：第一，双向注意力机制使得解码过程中无法有效复用传统的 KV-cache（键值缓存），因为每个 token 的上下文会随解码步骤动态变化；第二，为了提高吞吐量，现有方法尝试并行解码多个 token，但使用静态置信度阈值来判定何时提交 token 往往会导致生成质量下降。这两个问题看似独立，但本文作者观察到它们共享一个根本现象：随着解码的进行，token 通过双向注意力不断融入上下文，其表示（representation）会在不同解码步骤之间发生“漂移”（drift），即逐步演化。

核心内容

本文提出 Polestar，一个无需训练的推理框架，利用 token 表示漂移作为统一信号，同时解决上述两个挑战。Polestar 包含两个核心组件：

• Polestar-Cache：通过检测 KV-cache 中哪些位置因 token 漂移而变得陈旧（stale），执行稀疏的 KV-cache 刷新，从而在保持高效缓存复用的同时，避免因缓存过时导致的质量退化。具体来说，该组件会计算每个 cache 位置对应的 token 表示在相邻解码步之间的漂移量，仅对漂移超过阈值的少数位置进行更新，其余位置继续复用旧缓存，从而大幅降低计算开销。

• Polestar-Commit：通过监测 token 表示漂移的“尖峰”事件（sharp drift events），可靠地识别出哪些 token 已经稳定到可以提交（commit-ready）。当某个 token 的表示漂移量在连续几步中急剧下降并趋于平稳时，表明该 token 已充分融合上下文，不再需要进一步迭代，即可提前提交。这允许在保证生成质量的前提下，实现更高的解码并行度。

实验在多个数学和编程基准上，对多种 dLLM 家族（如 Llama 系列等）进行测试。结果表明，Polestar 在精度-吞吐量 Pareto 前沿上达到了新的最先进水平：相比现有基线，准确率提升最高达 10.73%，吞吐量提升最高达 3.7 倍，每次前向传播可并行解码 3.67 个 token。

关键要点

• 问题根源：dLLM 中 token 表示随解码步骤发生漂移，导致双向注意力难以高效缓存复用，且静态阈值并行解码损失质量。
• 核心创新：将 token 表示漂移量作为统一信号，同时指导缓存刷新与提交决策。
• Polestar-Cache：基于漂移检测进行稀疏 KV-cache 刷新，避免全量更新，实现高效缓存复用。
• Polestar-Commit：通过监测漂移陡降事件，动态识别可提交的稳定 token，支持高并行度解码。
• 性能表现：在数学与编程任务上，准确率提升 10.73%，吞吐量提升 3.7 倍，并行度达 3.67 tokens/前向传播。
• 无需额外训练：Polestar 是训练无关的推理框架，可直接应用于现有 dLLM。

意义与影响

Polestar 为扩散大语言模型的高效推理提供了一种简洁而统一的解决方案。通过将 token 表示漂移这一内在现象转化为可操作信号，它同时提升了缓存复用效率和并行解码的可靠性，打破了 dLLM 在精度与吞吐量之间的权衡瓶颈。该工作无需修改模型训练过程，降低了部署门槛，有望加速 dLLM 在实时应用（如代码生成、数学推理）中的落地。此外，漂移感知的思路可能启发更广泛的序列生成模型（如双向 Transformer 或自回归混合模型）的推理优化。