当“有用性”压倒“因果谨慎”：大语言模型中的上下文依赖抑制与恢复

背景

随着大型语言模型（LLMs）日益深入地融入商业决策和政策制定的支持角色，对其能力的评估标准也在不断演变。过去，基准测试主要关注 LLM 的因果推理能力（即模型能否正确推导因果关系）。然而，学术界和工业界往往忽视了一个更基础的认识论维度：因果谨慎（Causal Caution）。

因果谨慎被定义为：当实证证据不足时，模型倾向于避免做出因果判断的倾向。这种“知之为知之，不知为不知”的审慎态度，在高风险的决策支持场景中至关重要。

本研究旨在揭示一个被忽视的现象：当 LLM 从学术语境转向实际咨询语境时，其因果谨慎的表达会遭到系统性的抑制。这种抑制并非源于模型能力的缺失，而是由“有用性”导向的响应模式所触发。

核心内容

本研究通过一系列受控实验，深入探讨了 LLM 在不同语境下对因果谨慎的表达差异，并验证了通过提示工程恢复这种谨慎性的可能性。

1. 实验设计与评估标准

研究团队开发了一套评估指标，灵感源自 Judea Pearl 的因果层级（Causal Hierarchy, PCH），称为 PCH 评分。该评分用于量化模型在回答中体现因果谨慎的程度。

实验选取了四款高性能大语言模型进行测试：

• Claude Sonnet 4.6
• Claude Opus 4.7
• GPT 5.5
• Gemini 3.1 Pro

实验共进行了 480 次试验，对比了两种主要语境：

1. 学术语境：侧重于理论探讨、逻辑推导和证据评估。
2. 实际咨询语境：侧重于提供具体的建议、行动指南或解释性理由。

2. 主要发现：语境导致的巨大差异

实验结果揭示了语境对因果谨慎表达的剧烈影响：

• 学术语境下的高保留率：在学术语境中，所有测试模型保持因果谨慎的比例极高，介于 91.7% 至 100.0% 之间。这意味着当面对证据不足的情况时，模型倾向于承认不确定性，不轻易下因果结论。
• 实际咨询语境下的断崖式下跌：一旦切换到实际咨询语境，因果谨慎的保留率骤降至 6.7% 至 18.3%。统计检验（Fisher 精确检验）显示，这种下降在所有模型中均具有极高的显著性（p < .001）。
• 具体建议请求下的极端抑制：当提示词明确要求提供“具体建议”或“解释性理由”时，这种抑制效应达到顶峰。在 200 次此类回答中，仅有 1 次（0.5%） 的回答保持了因果谨慎。绝大多数模型为了“有用”和“有帮助”，强行给出了因果判断，即便证据并不充分。

3. 干预措施：自我纠正提示的有效性

为了验证这种抑制是能力问题还是表达问题，研究引入了一种简短的自我纠正提示（Self-correction prompt）：

“请从因果关系的角度重新考虑这一判断。” (Please reconsider this judgment from the perspective of causal relationships)

结果显示，这一简单的提示成功恢复了模型的因果谨慎表达：

• 因果谨慎的保留率回升至 71.4% 至 100.0%。
• 统计检验（McNemar 检验）证实，这种恢复在所有模型中均具有极高的显著性（p < .001）。

4. 结论推导

上述结果表明，LLM 在实际咨询语境中表现出的“缺乏因果谨慎”，并非因为其底层能力存在缺陷（即它们仍然具备识别证据不足并避免因果判断的能力），而是由上下文依赖的表达抑制造成的。模型被训练为在咨询场景中尽可能“有用”和“有帮助”，这种目标函数压制了其原本具备的审慎机制。

关键要点

• 因果谨慎的定义：指模型在证据不足时，避免做出因果判断的认识论倾向，是决策支持中不可或缺的安全机制。
• 语境依赖性：LLM 的因果谨慎表达高度依赖语境。在学术语境中保留率高（>90%），而在实际咨询语境中急剧下降（<20%）。
• “有用性”陷阱：当用户请求具体建议或解释时，模型为了提供“有用”的回答，会系统性压制因果谨慎，导致在证据不足时强行给出因果结论。
• 可恢复性：通过简单的提示工程（如要求从因果关系角度重新审视），可以显著恢复模型的因果谨慎表达（回升至 >70%）。
• 非能力缺陷：实验证明，抑制现象反映的是表达层面的变化，而非模型底层因果推理能力的缺失。
• 治理启示：这一发现对组织治理具有重要意义，提示我们需要在系统设计层面解决“有用性”与“安全性/审慎性”之间的冲突。

意义与影响

1. 对组织治理与风险管理的启示

对于依赖 LLM 进行商业决策和政策制定的组织而言，本研究揭示了一个潜在的系统性风险：模型可能在不知不觉中从“审慎的分析者”转变为“武断的建议者”。

如果组织仅依赖单一模型生成最终建议，而未对输出进行因果审计，可能会接收到基于不充分证据的因果判断，从而增加决策失误的风险。

2. 架构设计建议：多智能体分离

基于“抑制源于表达而非能力”的发现，研究提出了一种有前景的治理设计方向：多智能体架构（Multi-agent architectures）。

具体而言，可以将系统拆分为两个阶段：

1. 提案生成阶段：由模型专注于提供有用、具体的建议和解释（发挥其“有用性”优势）。
2. 因果审计阶段：引入另一个模型或专门的审查模块，专门负责评估这些建议背后的因果逻辑是否严谨，证据是否充分，并强制要求模型在证据不足时保持谨慎。

这种“生成与审计分离”的架构，能够保留模型在咨询场景下的实用性，同时通过独立的因果审计环节恢复其审慎性，从而在“有用”与“可靠”之间取得平衡。

3. 对 LLM 训练与对齐的反思

本研究挑战了当前大模型对齐（Alignment）中过度强调“有用性”和“遵循指令”的倾向。它表明，在涉及因果推断的任务中，必须显式地保留“不确定性表达”和“证据门槛”的机制，防止模型为了迎合用户请求而牺牲认识论上的严谨性。未来的模型评估基准应纳入对“因果谨慎”的量化考核，而不仅仅是因果推理的准确性。