Tracing Agentic Failure from the Flow of Success

背景

基于大语言模型（LLM）的智能体（agent）系统在执行多步任务时，经常因某个步骤出错而导致整个任务失败。识别出失败轨迹中引发错误的具体步骤——即失败归因（failure attribution）——对于调试和提升这类系统至关重要。现有的归因方法主要分为两类：一类依赖提示工程（prompting）构造流水线，计算成本高昂；另一类需要在含有步骤级错误标注的失败数据上进行后训练（post-training），而这种标注数据的收集成本极高且难以规模化。因此，研究一种轻量级、无需步骤级监督信号即可在失败数据上训练的失败归因模型，成为实际应用中的迫切需求。

核心内容

本文提出一种名为 OAT（One-class Anomaly Tracing）的无监督失败归因方法。该方法将问题形式化为单类学习（one-class learning），并利用神经受控微分方程（Neural Controlled Differential Equations, Neural CDEs）在潜在空间中建模成功轨迹的动态模式。训练时，OAT 仅依赖成功轨迹（即任务执行正确的步骤序列），无需任何失败轨迹或步骤级错误标注。推理阶段，给定一条失败轨迹，OAT 为每一计算步骤分配一个异常分数，该分数衡量该步骤偏离成功轨迹动态模式的程度，然后将高异常分数的步骤识别为可能的错误步骤。

具体而言，OAT 将智能体执行过程视为一个时间序列，每个步骤的状态（如观测、动作、中间推理）作为序列中的点。通过 Neural CDE，OAT 学习成功状态下状态变化的连续动力学，将每个成功轨迹映射为一条平滑的潜在路径。对于失败轨迹，模型会计算每个实际状态与基于成功动力学的预测状态之间的偏差，累积得到该步骤的异常分数。偏差越大，该步骤越可能是错误原因。

实验表明，OAT 在仅使用 100 条成功轨迹训练后，性能显著优于基于提示的基线方法：在域内数据集上 F1 分数高出 +20%，在分布外数据集上高出 +7%。同时，OAT 的推理速度比提示基线快 200–5000 倍。这些结果证明 OAT 是一种高效且有前景的智能体系统失败诊断方案。

关键要点

• 问题定义：无监督失败归因，即仅使用成功轨迹训练，在推理时从失败轨迹中识别错误步骤。
• 方法核心：将失败归因转化为单类异常检测问题，利用神经受控微分方程（Neural CDE）学习成功轨迹的潜在动态模式。
• 技术优势：
  • 无需步骤级错误标注，仅需少量成功轨迹（100条即可）。
  • 推理速度比提示基线快 200–5000 倍。
  • 在域内数据集上 F1 提高 +20%，在分布外数据集上提高 +7%。
• 工作流程：
  1. 训练阶段：用成功轨迹拟合 Neural CDE，学习连续状态变化的动力学。
  2. 推理阶段：对失败轨迹的每个步骤计算异常分数，基于动态偏差确定错误步骤。
• 适用场景：可应用于任何基于 LLM 的多步智能体系统，如网页导航、代码生成、工具调用等。

意义与影响

OAT 为智能体系统的可调试性提供了一种实用且高效的路径。其最大的贡献在于打破了传统归因方法对昂贵标注数据的依赖，使失败诊断能够在资源受限的场景下快速部署。由于仅需成功轨迹即可训练，开发者可以在系统上线前利用历史成功日志构建诊断模型，无需人工标记错误步骤。

此外，OAT 的极低计算开销（推理速度收益）使其适合集成到实时监控和自动回滚流水线中，帮助快速定位系统性错误。从学术角度看，将神经受控微分方程引入智能体失败归因是一个新颖的跨领域应用，为未来研究如何利用连续动力学建模离散多步序列提供了思路。

该方法也可能推动 LLM agent 的闭环自动改进：结合归因结果，可以有针对性地对错误步骤进行强化学习或提示优化，从而显著提升系统的鲁棒性和可靠性。随着 agent 系统在自动化任务中越来越普及，像 OAT 这样的轻量无监督诊断工具将成为不可或缺的基础设施。