AI新框架STRACE精准定位Agent失败根因
原标题:From Noisy Traces to Root Causes: Structural Trajectory Analysis and Causal Extraction for Agent Optimization
速览
STRACE框架针对长时AI代理优化中执行轨迹冗余和噪声问题,在批量级筛选典型失败模式,在单个轨迹内基于文本依赖图进行因果定位,去除无关步骤,找到根本原因模块。实验表明该方法显著优于标准基线,在VeruSAGE-Bench任务上将专家设计Agent的成功率从42.5%提升至58.5%。
AI 深度解读
背景
长周期智能体(long-horizon agent)的优化越来越依赖基于反思(reflection)的机制:即让一个大语言模型(LLM)充当优化器,诊断智能体的失败原因并改进其策略。然而,实际的执行轨迹(execution traces)难以直接用于优化:一方面,大规模的轨迹集合往往冗余且异构,导致优化效率低下,且容易过拟合到低价值失败案例;另一方面,单条轨迹内部也包含大量无关步骤,而简单的上下文缩减方法(如截断或滑动窗口)可能丢弃因果上重要的证据,产生误导性的优化信号。这一困境限制了基于反思的优化方法在复杂任务上的效果。
核心内容
针对上述问题,论文提出了 STRACE(Structural TRajectory Analysis and Causal Extraction,结构轨迹分析与因果提取)框架。该框架旨在构建高信噪比的优化上下文,以实现更精确、更有效的优化。STRACE 在两个层面进行去噪:
- 批量级别(batch-level):STRACE 通过挖掘失败模式(failure patterns)来过滤冗余轨迹,仅保留具有代表性的失败案例,从而避免在大量相似或低价值失败上浪费优化资源。
- 单条轨迹级别(within each selected trace):在选中的轨迹内部,STRACE 构建一个文本依赖图(textual dependency graph),并在该图上执行因果定位(causal localization),去除那些不构成因果关系的步骤,最终识别出导致失败的真实根因模块(root-cause module),并仅对该模块进行优化。
实验结果表明,STRACE 在标准上下文过滤基线方法上取得了显著优势。特别地,在一个具有挑战性的形式化验证任务基准 VeruSAGE-Bench 上,STRACE 成功优化了由人类专家设计的智能体,将成功率从 42.5% 提升至 58.5%,提升幅度达 1.4 倍。论文代码已开源。
关键要点
- 问题本质:长周期智能体的执行轨迹存在双重噪声——批量间冗余异构与单条轨迹内非因果步骤,导致现有反思优化方法效率低且易过拟合。
- 核心创新:STRACE 通过两级过滤机制(批量级失败模式挖掘 + 轨迹级因果图定位)构建高信噪比的优化上下文,而不是简单截断或滑动窗口。
- 技术细节:
- 批量级:挖掘失败模式,保留代表性失败轨迹,过滤冗余。
- 轨迹级:构建文本依赖图,通过因果定位去除因果无关步骤,仅保留根因模块。
- 实验验证:在形式化验证基准 VeruSAGE-Bench 上,STRACE 将人类专家设计的智能体成功率从 42.5% 提升至 58.5%(1.4 倍提升),显著优于基线方法。
- 开源可用:论文提供了代码链接,便于复现与进一步研究。
意义与影响
STRACE 为长周期智能体的反思优化提供了一种系统性的去噪方案,解决了“轨迹噪声”这一被忽视的关键瓶颈。它的意义在于:
- 方法论贡献:提出了一种结合批量级模式挖掘与轨迹级因果定位的通用框架,可应用于多种基于 LLM 反思的优化场景,而不仅限于形式化验证任务。
- 实践价值:在真实困难任务(VeruSAGE-Bench)上取得显著提升,表明该方法能够有效利用人类专家设计的智能体进行自动化优化,有潜力降低人工调试成本。
- 未来方向:STRACE 为后续研究开辟了方向——如何更精准地建模轨迹中的因果关系,以及如何在大规模、多模态任务中进一步扩展该框架。同时,该工作也提醒社区,优化上下文的构建质量对 LLM 作为优化器的效果至关重要。
查看原文 →arxiv.org
