SKILL-DISCO：将智能体轨迹蒸馏并编译为可复用的过程性技能

背景

在人工智能智能体（Agent）的应用场景中，一个普遍存在的痛点是效率低下与资源浪费。许多智能体在面对相似的任务实例时，往往选择从头开始（from scratch）进行推理和规划，而不是利用之前积累的经验。这种重复劳动不仅导致了不必要的推理成本（reasoning cost），还生成了冗长的执行轨迹（execution traces），严重影响了系统的响应速度和可扩展性。

尽管 prior work（先前的研究）已经探索了工作流复用（workflow reuse）和可执行技能诱导（executable skill induction），但在以下两个核心问题上仍存在模糊地带：

1. 哪些任务场景适合提取过程性技能（procedural skills）？
2. 如何在不同的成功轨迹之间表示共享的过程结构？

为了解决这一问题，研究人员将目光投向了由有限状态机（FSM, Finite State Machine）定义的场景。在这些场景中，成功的执行轨迹可以被视为未知转移图（transition graph）中的路径。基于这一视角，研究团队提出将过程性技能形式化为可复用的、带参数的控制流子图（parameterized control-flow subgraphs）。

核心内容

本文介绍了 SkillDisCo，这是一个旨在“蒸馏”（distillation）和“编译”（compilation）智能体轨迹的框架。其核心目标是从智能体的成功执行记录中提取出通用的、可复用的技能结构，并将其转化为可调用、可执行且可验证的过程性技能。

1. 问题建模：从轨迹到控制流子图

SkillDisCo 的基础假设是，许多复杂的智能体任务本质上遵循某种固定的逻辑流程。在 FSM 定义的场景中，智能体的一次成功尝试可以看作是在状态空间中从初始状态到目标状态的一条路径。

• 轨迹即路径：每一次成功的交互序列（trace）都被视为未知转移图中的一条具体路径。
• 技能即子图：通过对比多个成功轨迹，可以识别出其中共享的逻辑结构。这些共享结构被抽象为“过程性有限状态机”（PFSM, Parameterized Finite State Machine）的子图。
• 参数化：为了适应不同的具体任务实例，这些子图被设计为参数化的，允许输入不同的数据或上下文，但保持核心的控制流不变。

2. SkillDisCo 框架的工作流程

SkillDisCo 框架主要包含两个阶段：蒸馏（Distillation）和编译（Compilation）。

阶段一：蒸馏（Distillation）

在这一阶段，系统分析智能体在多个任务实例上的成功执行轨迹。

• 识别共享结构：算法自动检测不同轨迹中重复出现的状态转移模式。
• 提取 PFSM 子图：将这些重复的模式提取出来，形成参数化的有限状态机（PFSM）子图。这些子图代表了通用的“过程性技能”，例如“如何登录系统”、“如何查询数据库”或“如何格式化输出”等通用步骤。

阶段二：编译（Compilation）

提取出的 PFSM 子图需要转化为智能体可以直接使用的形式。

• 可调用性：将子图编译为可被智能体调用的函数或模块。
• 可执行性：确保编译后的技能能够在运行时被正确执行。
• 可验证性：引入验证机制，确保技能在执行过程中符合预期的逻辑约束，从而提高可靠性。

3. 实验验证

研究团队在两个主流基准测试环境上对 SkillDisCo 进行了评估：

• ALFWorld：一个基于文本的家居导航与操作模拟环境。
• WebArena：一个用于评估智能体在真实网页环境中执行复杂任务的基准。

实验结果表明，SkillDisCo 在不同规模的模型（model scales）和基准测试中均表现出显著优势：

• 成功率提升：引入可复用的过程性技能后，智能体完成任务的成功率明显提高。
• 执行步数减少：由于智能体可以直接调用预编译的技能，而不是每次都从头推理，因此所需的智能体回合数（agent turns）大幅减少，显著降低了推理成本。

关键要点

• 核心创新：提出了一种将智能体执行轨迹“蒸馏”为可复用过程性技能，并“编译”为可执行模块的框架（SkillDisCo）。
• 技术路径：基于 FSM 定义的场景，将成功轨迹视为路径，将共享经验抽象为参数化的有限状态机（PFSM）子图。
• 解决痛点：解决了智能体重复解决相似任务导致的推理成本高和执行轨迹冗长的问题。
• 技能特性：生成的技能具备三个关键特性：可调用（callable）、可执行（executable）和可验证（verifiable）。
• 实验结果：在 ALFWorld 和 WebArena 基准测试中，SkillDisCo 提升了任务成功率，并减少了智能体所需的执行步数（agent turns）。
• 价值主张：证明了将共享经验表示为可复用的执行结构（reusable execution structures）能够带来显著的性能提升和效率优化。

意义与影响

SkillDisCo 的研究为智能体工程（Agent Engineering）提供了一个重要的新方向：从“单次推理”向“经验复用”的转变。

1. 降低推理成本：通过复用已经验证过的过程性技能，智能体无需每次都进行昂贵的全量推理，从而大幅降低计算资源和时间成本。
2. 提高可靠性：将技能编译为可验证的形式，意味着这些通用步骤经过了逻辑校验，比每次随机生成的规划更可靠、更稳定。
3. 促进知识积累：该框架使得智能体能够像人类专家一样，将解决复杂问题的经验固化为“技能库”。随着使用次数的增加，智能体的能力边界和效率将不断提升，而非停滞在每次从零开始的水平。
4. 通用性潜力：虽然实验集中在 FSM 定义的场景，但这种将轨迹抽象为控制流子图的思想，有望推广到更广泛的复杂任务场景中，为构建更高效、更智能的 AI 代理系统奠定基础。

总之，SkillDisCo 不仅是一个技术框架，更是一种新的智能体设计范式，强调了“经验结构化”和“技能可复用”在构建下一代高效 AI 系统中的核心地位。