外部观察者的必要性：形式化“充分性缺口”——序列模型中混合可识别性与语境锚定的数学扩展

背景

在大型语言模型（LLMs）及通用序列预测模型的研究中，一个核心假设是：模型通过最大化似然函数，能够准确捕捉数据分布的内在规律。然而，现实世界的数据生成过程往往比简单的文本统计更为复杂。许多文本现象背后隐藏着未被观测到的潜在状态（latent states）。例如，一段看似普通的对话可能发生在两种截然不同的语境或“体制”（regime）之下：一种是确定性的、符合逻辑的文本生成过程；另一种则是随机的、噪声主导的过程。

传统的序列模型通常只观测到文本本身，而忽略了生成这些文本的潜在机制。当模型仅基于文本边缘分布（text-only marginal law）进行预测时，它可能会陷入一种“过度自信”的陷阱。即使模型拥有无限容量并完美恢复了文本的统计规律，如果观测到的前缀文本恰好与错误的潜在体制兼容，模型仍会做出错误的概率推断。这种错误并非源于优化不足或数据稀缺，而是源于对未观测状态的边缘化（marginalization）所导致的结构性缺陷。

本文旨在从数学角度形式化这一现象，提出“充分性缺口”（Sufficiency Gap）的概念，并探讨如何通过引入外部观察者、检索机制或工具使用来弥补这一缺口，从而提升序列模型在高风险领域中的可靠性。

核心内容

1. 混合体制过程与“过度自信”悖论

作者构建了一个二元混合体制过程（binary mixed-regime process），包含两个部分：

1. 确定性文本体制：由潜在状态 $S=0$ 控制，生成遵循特定逻辑的文本。
2. 随机体制：由潜在状态 $S=1$ 控制，生成具有随机性的文本。

关键在于，这个潜在状态 $S$ 是未观测到的（unobserved）。

即使存在一个理想化的、容量无限的序列预测器，它能够精确恢复仅基于文本的边缘概率分布 $P(\text{text})$，它仍然可能在特定情况下变得“过度自信”。这种情况发生在观测到的文本前缀（prefix）在统计上同时兼容两种潜在体制，但其中一种体制（通常是误导性的随机体制）在边缘概率中占据了较高的权重。

由于模型无法区分文本是由确定性逻辑生成的，还是由随机噪声巧合生成的，它会将概率质量错误地分配给误导性体制。这种因忽略潜在状态而导致的概率校准偏差，被定义为**“充分性缺口”**。它不是传统意义上的优化误差（optimization error），即不是模型能力不足造成的，而是模型架构在缺乏外部信息时，无法从边缘分布中反推真实潜在状态的必然结果。

2. 形式化外部锚定：辅助二元信号

为了量化和解决这一问题，作者引入了一个辅助二元信号（auxiliary binary signal），用于形式化检索（retrieval）、工具使用（tool use）和外部锚定（external grounding）。

• 信号保真度 $\gamma$：该信号以保真度 $\gamma \in [1/2, 1]$ 提供关于潜在状态的信息。$\gamma = 1/2$ 表示信号完全随机（无信息量），$\gamma = 1$ 表示信号完美揭示潜在状态。
• 贝叶斯更新：当引入该辅助信号后，模型需要进行贝叶斯更新。新的后验概率将结合文本历史 $H$ 和辅助信号 $Z$。

3. 语境主导阈值（Contextual Dominance Threshold）

作者推导出了一个关键的数学结论：语境主导阈值。

当辅助信号的保真度 $\gamma$ 超过文本历史单独赋予误导性体制的后验权重时，该纠正信号将完全逆转由文本历史诱导的后验几率（posterior odds）。

具体来说，如果文本历史倾向于支持错误的潜在体制，但引入的外部信号足够可靠（即 $\gamma$ 足够高），模型将修正其判断，转而支持正确的体制。这一阈值揭示了外部信息介入的临界点：只有当外部信息的可信度超过文本本身产生的误导性置信度时，纠正才有效。

4. 充分性缺口的闭合条件

分析表明，引入外部信号可以减少但通常不能消除充分性缺口。

• 部分闭合：只要 $\gamma < 1$，即外部信号存在噪声或不确定性，模型仍保留一定的不确定性，充分性缺口依然存在。
• 完全闭合：要彻底消除充分性缺口，必须满足以下任一条件：
  1. 完美揭示相关的潜在状态（$\gamma = 1$）。
  2. 存在一个等效的验证机制，能够无歧义地确认潜在状态。

这意味着，仅靠增加模型参数或训练数据无法解决根本问题，必须依赖结构上的外部验证。

关键要点

• 充分性缺口的本质：这是一种结构性缺陷，源于模型仅基于文本边缘分布进行预测，而忽略了生成文本的未观测潜在状态。即使模型能力无限，只要潜在状态不可见，这种缺口就存在。
• 过度自信的来源：当文本前缀在统计上兼容错误的潜在体制（如随机噪声）时，模型会错误地赋予该体制高概率，导致过度自信。这不是优化失败，而是信息不足。
• 外部锚定的数学形式化：通过引入保真度为 $\gamma$ 的辅助二元信号，可以将检索和工具使用纳入贝叶斯框架。
• 语境主导阈值：存在一个临界点，只有当外部信号的保真度超过文本历史对误导性体制的后验权重时，外部信号才能逆转模型的错误判断。
• 温度缩放（Temperature Scaling）的局限性：温度缩放仅调整概率分布的平滑度，无法补充缺失的语境信息。因此，它不能修复由充分性缺口引起的校准错误。
• 锚定机制的双重要求：有效的 grounding 机制必须同时具备两个特性：
  1. 信息性：必须包含关于潜在状态的真实信息（高 $\gamma$）。
  2. 可学习可用性：模型必须能够学会如何有效地利用这一信号进行推理。
• 高风险领域的架构建议：在医疗、金融等高风险领域，自主序列模型不能仅依赖内部参数，必须配备结构解耦的外部观察者或验证器（structurally decoupled observers or verifiers），以提供独立于文本生成的验证信号。

意义与影响

1. 理论贡献：重新定义模型能力的边界

本文从数学上严格证明了，即使是最理想的序列模型，在缺乏对潜在生成机制的直接访问时，也存在固有的认知局限。这挑战了“数据越多、模型越大，问题就越容易解决”的简单线性思维。它指出，某些错误是认识论上不可避免的，除非引入外部信息源。这为理解大模型幻觉（hallucination）和过度自信提供了新的理论视角：幻觉不仅是生成错误，更是对未观测状态的错误推断。

2. 对 RAG 和工具使用（Tool Use）的理论支撑

当前，检索增强生成（RAG）和工具使用被视为提升 LLM 可靠性的主流方案。本文为其提供了坚实的数学基础：

• 它解释了为什么简单的检索不够，检索必须具有足够的保真度（即相关性/准确性）。
• 它定义了“语境主导阈值”，为评估检索系统的有效性提供了量化标准：检索结果必须足够强，以压倒文本历史中的误导性先验。
• 它强调了工具使用的可学习性：模型不仅要能检索，还要能学会在贝叶斯框架下整合这些外部信号。

3. 对模型架构设计的启示

• 解耦验证机制：在高风险应用中，不应让模型独自完成“生成-验证”闭环。应引入独立的、结构解耦的外部观察者（如形式化验证器、事实核查模块、代码执行沙箱等），以提供高保真的 $\gamma$ 信号。
• 超越温度缩放：研究者应停止依赖温度缩放等后处理技巧来解决校准问题，而应关注如何引入真实的外部语境信息。

4. 未来研究方向

• 动态 $\gamma$ 估计：如何实时估计当前检索或工具信号的