查询位置之谜：通过解码动力学揭示并缓解扩散语言模型中的上下文学习位置偏差

背景

自回归（Autoregressive, AR）大语言模型（LLMs）中的上下文学习（In-Context Learning, ICL）机制已被广泛研究。然而，在扩散大语言模型（Diffusion LLMs, dLLMs）中，ICL 的运作机制仍处于探索阶段。

AR 模型受限于单向因果掩码（unidirectional causal masking），其注意力机制是单向的。相比之下，dLLMs 本质上利用双向注意力（bidirectional attention），这为查询（Query）的放置提供了极大的空间灵活性。尽管存在这种结构性差异，当前的实践往往沿袭 AR 风格的“尾部查询”模板（即示例在前，查询在后），忽视了 dLLMs 的范式转变。

这种惯性做法导致了一个关键问题：在 dLLMs 中，查询的位置是否真的无关紧要？本文旨在通过解码动力学（Decoding Dynamics）深入剖析这一问题，揭示位置偏差的根源并提出缓解策略。

核心内容

1. 查询位置是 dLLMs 中的一阶变量

本文首先通过全面的分析指出，在 dLLMs 中，查询位置并非一个次要参数，而是一个一阶变量（first-order variable）。这意味着查询在输入序列中的具体位置对生成质量有着决定性的影响。

通过实证解耦（empirical decoupling），研究发现：

• 位置方差的影响权重：查询位置的变化对生成质量的影响，与示例本身的语义质量（example semantic quality）处于同等重要的地位。
• 传统范式的失效：简单地将 AR 模型的尾部查询模板直接迁移到 dLLMs 中，往往忽略了双向注意力带来的结构红利，导致性能次优。

2. 内部机制：注意力流中的“近因效应”与解码轨迹偏移

为什么 dLLMs 对位置如此敏感？文章从内部动力学角度揭示了两个核心原因：

• 注意力流中的空间“近因效应”（Recency Effect）： 在双向注意力机制下，尽管所有 token 在理论上都可以相互关注，但在扩散过程的迭代解码中，靠近查询位置的上下文信息（即最近的示例）在注意力流中占据了主导地位。这种空间上的“近因效应”导致模型过度依赖靠近查询的少量示例，而忽略了序列前端的更多示例信息。

• 任务依赖的解码轨迹偏移： 不同的推理和感知任务会导致解码轨迹发生不同的偏移。查询位置的改变会直接干扰扩散过程去噪的初始状态，进而影响最终生成的轨迹。这种偏移是任务依赖的，意味着没有一种通用的“最佳位置”适用于所有任务。

3. 评估指标的革新：从单步置信度到平均置信度

在尝试缓解位置不稳定性时，传统的评估指标失效了。

• 传统指标的失败： 在 AR 模型中，通常使用单步解码置信度（$C_{decoded}$）来评估预测的可靠性。然而，在 dLLMs 中，由于扩散过程的多步迭代特性，单步置信度无法准确反映最终生成的质量，因此无法有效指导查询位置的优化。

• 提出平均置信度（Average Confidence, $\overline{C}$）： 本文提出了一种新的度量标准——平均置信度（$\overline{C}$）。该指标通过追踪整个迭代解码过程（iterative decoding process）的平均表现，能够更稳定、更准确地评估不同查询位置下的生成质量。$\overline{C}$ 不依赖真实标签（ground-truth labels），是一种无监督的评估手段。

4. 解决方案：Auto-ICL 自适应路由策略

基于上述发现，本文引入了 Auto-ICL，一种无需训练（training-free）的自适应路由策略。

• 动态优化查询放置： Auto-ICL 利用平均置信度 $\overline{C}$ 作为指导，动态地搜索并优化查询在上下文序列中的最佳位置。
• 鲁棒性表现： 在异构的推理（reasoning）和感知（perception）任务中，Auto-ICL 能够稳定地接近“预言机性能”（oracle performance，即理论上可达到的最佳性能），显著优于传统的尾部查询模板。

关键要点

• 范式差异：dLLMs 的双向注意力机制赋予了查询放置极大的灵活性，但当前实践仍沿用 AR 模型的尾部查询范式，导致性能损失。
• 位置敏感性：查询位置是 dLLMs 中影响生成质量的关键变量，其影响程度与示例语义质量相当。
• 偏差根源：位置偏差源于注意力流中的空间“近因效应”以及不同任务导致的解码轨迹偏移。
• 评估创新：传统的单步置信度 $C_{decoded}$ 在 dLLMs 中失效，本文提出基于迭代过程追踪的平均置信度 $\overline{C}$ 作为新的评估指标。
• 解决方案：提出了无需训练的 Auto-ICL 策略，通过动态优化查询位置，在多种任务中实现接近最优的性能。
• 无监督优化：该方法不需要真实标签即可实现查询位置的自适应调整，具有广泛的适用性。

意义与影响

这项研究填补了扩散大语言模型在上下文学习机制上的理论空白。它打破了“查询位置无关紧要”的固有认知，证明了在 dLLMs 中，“在哪里问”与“问什么”同样重要。

对于开发者而言，这意味着在使用 dLLMs 进行 Few-shot 或 Zero-shot 推理时，不能简单地套用 AR 模型的 Prompt 模板。引入 Auto-ICL 等自适应策略，可以显著提升模型在复杂推理和感知任务中的表现。

此外，提出的平均置信度 $\overline{C}$ 为评估扩散模型的生成质量提供了新的视角，有助于未来更精细地调控扩散过程的解码动力学。这项工作为构建更高效、更可靠的 dLLMs 应用奠定了重要的基础。