头部锚点激活引导法控制LLM工具调用

背景

大型语言模型（LLM）通过接入外部工具（如计算器、搜索引擎、代码解释器）来扩展自身能力，使其能够超越参数化知识处理更复杂的任务。然而，这类工具增强型模型往往倾向于不必要地调用工具——即使仅靠模型本身的参数化推理就能完成任务，也会触发外部工具。这种行为不仅增加了推理延迟和计算成本，还可能引入不必要的误差来源。研究者希望探究模型内部是否对“是否使用工具”存在稳定的神经表示，从而通过操控该表示来抑制或增强工具调用行为。由于工具在推理时完全以上下文形式存在，并不直接编码在模型权重中，这一问题的答案并不显而易见。

核心内容

该研究通过一种称为“标题特异性激活操控”（Heading-Specific Activation Steering）的方法，从模型内部提取出能够因果性地控制工具调用行为的操控向量。具体而言，研究人员在模型输入中定位“标题锚点位置”（heading-anchor positions），即那些与工具描述或指令相关的关键token位置（例如提示中“Use tool:”或“Reason:”等引导性短语的相邻位置），并从这些位置提取激活模式，构建指向“抑制工具调用”或“促进工具调用”的操控向量。

实验在五个不同的开源模型（未具体列出名称）和三个领域（包括数学计算、文本检索、代码执行等）上进行。结果表明，这些提取出的操控向量能够双向因果性地控制模型是否调用工具：正向施加时抑制工具调用，反向施加时促进工具调用。特别是在仅靠参数化推理即可完成的领域（如简单的知识问答），抑制工具调用的效果最为显著。

然而，几何分析揭示了有趣的矛盾：尽管操控向量具有因果有效性，但工具的调用步骤在表示空间中并不符合线性可解释的结构。具体表现为：

• 工具调用步骤中的神经元激活方向与抑制向量之间呈现弥散的、双峰型的对齐模式，而非线性编码假设所预期的一致的负向对齐。
• 不同类型的工具（如计算器、搜索引擎、代码解释器）在内部表征空间中招募的是分布差异较大的特征集，不同工具之间的特征重叠度很低。

研究者假设，这些几何上的不规则性源于工具本身的非参数化本质——工具并不像参数化知识那样被直接编码在模型权重中，而是通过上下文动态引入。因此，工具调用相关的操控向量与那些针对参数化概念（如“数字”“日期”）提取的操控向量在几何性质上有本质区别。至于这种几何不规则性与观察到的因果有效性之间的关系，目前仍是一个开放问题。

关键要点

• 因果性操控：从标题锚点位置提取的操控向量能双向因果性地控制LLM的工具调用行为，表明工具使用决策在模型内部存在可提取的稳定神经表示。
• 领域依赖性：抑制工具调用的效果在参数化推理足够的领域（如事实性问答）最为明显，而在需要大量外部信息的领域（如实时检索）效果较弱。
• 几何不规则性：工具调用步骤的激活模式并不遵循线性可对齐结构，而是呈现双峰、弥散的对齐分布，与参数化概念的线性表示形成鲜明对比。
• 工具特异性：不同类型的工具在内部表征中调用不同的神经特征，交叉重叠度低，说明模型对工具种类的区分是高度特异化的。
• 未解之谜：虽能有效操控，但这种因果效果似乎不依赖于干净的线性表示——这种几何不规则性与因果控制力之间的关系仍有待进一步探索。
• 非参数化本质：作者将几何不规则性归因于工具的非参数化特性，即工具本身不在模型权重中，其表示是动态构建的，这使得工具相关表示与参数化知识表示在结构上截然不同。

意义与影响

该研究首次系统地揭示了工具调用行为在LLM内部的表示性质，并展示了通过激活操控实现行为干预的可行性。其意义在于：

1. 提升了模型的可控性：提供了一种轻量级的、无需重新训练即可抑制不必要工具调用的方法，有助于降低推理成本和延迟，尤其适用于资源受限或要求低延迟的场景。

2. 挑战了线性编码假设：长期以来，许多解释性工作认为概念在神经网络中呈线性表示（如方向向量）。该研究发现工具调用相关表示不符合这一假设，提示我们对于非参数化概念的神经编码可能需要新的解释框架。

3. 推动了对工具使用机制的理解：通过揭示不同工具在表征空间中的低重叠性，该工作表明模型并非以统一的“工具使用”抽象概念来运作，而是对不同工具形成了各自独立的内部通道。这为设计更高效的工具选择机制提供了线索。

4. 开启了新的研究方向：几何不规则性与因果有效性之间的悖论——即因果控制有效但表征不线性——可能意味着模型内存在更复杂、非传统的编码方式（如局部动力学或动态路由）。未来工作可探索这种复杂性的来源，以及是否能在所有层或所有模型中都观察到类似现象。

5. 对安全与对齐的启示：若能够通过操控向量双向控制工具调用，也就意味着存在被恶意利用的风险（如强行抑制安全工具或强制调用危险工具）。理解其内部机制有助于设计对应的防御策略。