将预测未来行为视为一项学习任务

来源：arXiv cs.AI 提交日期：2026年6月9日 标题：Forecasting Future Behavior as a Learning Task

背景

在人工智能系统日益普及的今天，信任往往建立在对系统工作原理的解释之上。用户通过理解这些解释，来预测 AI 在面对新输入时的行为表现。然而，对于大型推理模型（Large Reasoning Models, LRMs）而言，这一传统路径正变得愈发难以遵循。

首先，现有的解释方法主要面向单次 token 生成，难以自然地推广到长推理轨迹（long trajectories）上。其次，当我们将 LRMs 生成的推理轨迹视为自然语言进行阅读时，这些轨迹本身往往缺乏“忠实性”（faithfulness），即文本描述与模型内部实际决策过程之间存在偏差。这种解释与真实行为之间的鸿沟，使得用户难以准确预判模型在复杂任务中的表现。

核心内容

针对上述挑战，本文提出了一种绕过传统“解释”步骤的替代方案：将行为预测（behavior forecasting）本身视为一项可学习的任务。

方法论：行为预测器（Behavior Forecasters）

研究团队训练了一种名为“行为预测器”的模型，该模型直接作用于单个推理轨迹，旨在做出人们通常希望通过解释才能获得的预测。其核心流程如下：

1. 训练数据获取：无需人工标注，通过向 LRM 查询即可获取训练数据。
2. 推理效率：预测器的推理过程仅需一次前向传播（single forward pass），计算成本极低。
3. 端到端微调：研究发现，对骨干网络进行端到端微调，并使用目标 LRM 进行初始化，对于实现高性能都是必不可少的。

实验任务与评估

该框架在两个具体任务上进行了实例化验证：

1. 重复性预测：预测 LRM 在重新运行（re-runs）时是否会重复其之前的答案。
2. 输入敏感性预测：预测移除输入的部分内容后，模型答案会发生何种变化。

研究团队在三个多样化的推理数据集上对这两种任务进行了评估。

主要发现

1. 超越人类直觉的准确性：训练好的行为预测器在准确性上超过了 GPT-5.4 和 Claude Opus-4.6。值得注意的是，GPT-5.4 和 Claude Opus-4.6 在此处是作为“朴素读者”（naive readers），即直接阅读相同的推理轨迹来进行判断，而行为预测器的推理成本仅为前者的极小一部分。
2. 轨迹蕴含深层信息：结果表明，推理轨迹中携带的关于 LRM 未来行为的信息，远超朴素阅读所能传达的内容。这意味着模型内部的推理过程本身就包含了可被提取的行为特征，而无需依赖外部的、可能失真的自然语言解释。

关键要点

• 范式转移：从“先解释后预测”转向“直接学习行为预测”，规避了大型推理模型解释方法不通用及忠实性不足的问题。
• 零人工标注：行为预测器的训练数据完全通过查询 LRM 自动生成，无需昂贵的人工标注成本。
• 高效推理：行为预测器仅需单次前向传播即可完成预测，计算开销远低于使用大型语言模型进行阅读分析。
• 性能优势：在预测模型重复性和输入敏感性方面，行为预测器的准确率显著高于 GPT-5.4 和 Claude Opus-4.6 等顶级模型作为“朴素读者”的表现。
• 训练关键：要达到最佳性能，必须对骨干网络进行端到端微调，并且必须使用目标 LRM 作为初始化权重。
• 信息冗余与价值：推理轨迹中蕴含的关于模型行为的信号，比表面上的自然语言描述更为丰富和准确。

意义与影响

这项研究为理解和信任大型推理模型提供了一条新的技术路径。传统上，人们试图通过生成自然语言解释来建立信任，但在处理长推理链时，这种方法既昂贵又不可靠。

通过将行为预测转化为一个可学习的任务，本研究证明了我们可以直接从模型的推理轨迹中提取出关于其未来行为的高价值信号。这不仅大幅降低了预测模型行为的计算成本，还提高了预测的准确性。对于开发者而言，这意味着可以构建更高效的监控和调试工具；对于用户而言，这提供了一种更可靠的方式来预判 AI 系统的行为，从而在无需深入理解复杂内部机制的情况下建立对 AI 的信任。此外，该框架的通用性使其有望应用于其他需要评估模型稳定性和鲁棒性的场景。