← 返回信息流
技术博客arXiv cs.CL·3 小时前

SelfMem:AI智能体自优化记忆框架

原标题:SelfMem: Self-Optimizing Memory for AI Agents

速览

SelfMem是一种自优化记忆框架,赋予AI智能体通过记忆工具和反馈信号自主探索、评估和优化记忆策略的能力,而非依赖固定预设。在BEAM基准测试中,SelfMem在100K至1M tokens对话规模上均显著超越检索、压缩等现有基线,官方得分分别提升48.7%、40.8%和41.9%。该工作证明了模型引导的策略优化可进一步提升性能,对多样化记忆需求具有广泛鲁棒性。

AI 深度解读

背景

当前 AI agent 已能够支持越来越长的上下文窗口、工具调用以及长期任务的技能执行,但在实际应用中,它们仍然需要依赖记忆系统来有效利用历史经验。现有的记忆框架通常采用固定的存储、检索和摘要机制,这些机制在不同任务之间缺乏灵活性,往往需要人工进行手动调优。这种「一刀切」的设计在面对多样化、动态变化的任务需求时,难以自动适应,限制了 agent 的自主性和泛化能力。

核心内容

针对上述局限性,论文提出 SelfMem(Self-Optimizing Memory,自优化记忆框架)。SelfMem 的核心思想受先前关于自我改进 AI(self-improving AI)的研究启发,遵循「授人以渔而非授人以鱼」的原则——不是强迫模型遵循预设的记忆策略或格式,而是为 agent 提供一个具备记忆工具和反馈信号的开放环境,使其能够自主探索、评估并持续优化自身的记忆策略。

具体来说,SelfMem 不规定 agent 应该何时存储、如何检索或怎样摘要信息,而是通过提供一组可调用的记忆操作原语(例如写入、读取、删除、压缩等)以及每步执行后的反馈信号(如任务完成度、信息冗余度等),让 agent 像在强化学习环境中一样,通过尝试和错误来学习最适合当前任务的记忆策略。这种方式使得记忆管理不再是静态的、由外部工程师预设的规则,而是成为 agent 自身行为的一部分,可以随任务场景和积累经验自适应演化。

实验部分,论文在 BEAM 基准上对 SelfMem 进行了评估,覆盖三种对话规模:100K、500K 和 1M tokens。对比基线包括传统的检索式记忆、压缩式记忆以及现有的 agent-memory 框架。结果显示,SelfMem 在所有规模上一致优于这些基线。与最强基线相比,在 100K、500K 和 1M 规模上,SelfMem 的官方得分分别提升了 48.7%40.8%41.9%

此外,论文对问题类型做了进一步分析,发现 SelfMem 在不同记忆需求(如事实检索、长期引用、多跳推理等)下均表现出广泛的鲁棒性。优化研究还表明,在模型引导下的策略精炼(即 agent 利用自身推理能力对记忆策略进行迭代改进)可以进一步提升最终性能。

关键要点

  • 自动化记忆策略设计:SelfMem 不依赖人工预设的存储/检索/摘要规则,而是让 agent 在环境中自主学习和优化记忆策略,解决了现有框架缺乏适应性的痛点。
  • 教学式架构:采用「教授 agent 如何管理记忆」而非「直接提供固定记忆格式」的思路,通过记忆工具(API)和反馈信号来驱动 agent 的自我探索。
  • 显著性能提升:在 BEAM 基准上,与最强基线相比,SelfMem 在 100K、500K、1M tokens 三种规模下分别提升 48.7%、40.8% 和 41.9%,提升幅度稳定且随规模增大未出现衰减。
  • 广泛鲁棒性:在不同问题类型(事实、推理、长距离依赖等)上都表现一致,说明自优化策略具有跨场景的通用性。
  • 模型引导策略精炼:额外研究发现,利用 agent 自身的语言推理能力对记忆策略进行迭代调整(如反思当前策略的不足并修改)能进一步带来增益。

意义与影响

SelfMem 的提出标志着 AI agent 记忆管理从「静态预设」向「动态自学习」的重要转变。它打破了传统记忆系统中「开发者必须事先知道什么样的记忆策略对任务最优」的前提假设,使得 agent 能够像人类一样,根据实际体验不断调整自己的记忆习惯。这一思路对于以下领域具有潜在影响:

  • 长期自主任务:在机器人、虚拟助手、游戏 AI 等需要与环境持续交互数小时甚至数天的场景中,自主优化的记忆能够帮助 agent 不断积累和提炼经验,避免遗忘或信息过载。
  • 多任务泛化:当 agent 需要应对一系列不同性质的任务时,SelfMem 能够为每个任务自动演化出适配的记忆策略,而无需人工为每个任务单独编写记忆逻辑。
  • 自我改进 AI 范式:SelfMem 契合了「让 AI 学会如何学习」的更高层次目标,将记忆优化纳入 agent 的行为空间,有望推动更通用的自主智能体架构。

当然,SelfMem 目前仅在 BEAM 基准对话任务上进行了验证,其在实际复杂环境中的可扩展性、计算成本以及策略收敛性仍需进一步探索。但该工作为 AI agent 记忆系统的下一阶段演进提供了一个清晰且有力的方向。

查看原文 →arxiv.org