HASE框架实现模型权重与任务方案协同自演进
速览
HASE(Harness-Aware Self-Evolving)是一种新型代理强化学习框架,允许单个模型在多轮交互中生成任务解决方案或编辑工具组件。实验显示,Qwen3-8B模型通过HASE在文本分类上达到GPT-OSS-120B配合Claude Code的水平。在alpha因子挖掘和圆形打包算法发现任务中,HASE超越基线并修复有缺陷的评估组件。该框架通过统一代理流程同时改进工具与解决方案,展现了小模型通过智能框架实现高性能的潜力。
AI 深度解读
背景
传统自进化(Self-Evolving)框架通常只优化任务解决方案,而将围绕任务的评估、环境或约束组件(即“Harness”)视为固定不变的。这种设计限制了模型在复杂任务中的适应能力,因为 Harness 本身可能包含不完美的评估指标、设计缺陷或与任务目标不一致的约束。随着大语言模型在强化学习(RL)和 agentic 系统中的广泛应用,如何让模型不仅改进自身权重和任务输出,还能主动调整外部的评估与约束框架,成为一个重要的研究方向。来自 arXiv cs.AI 的最新论文提出了一种名为 Harness-Aware Self-Evolving (HASE) 的框架,旨在通过统一的 agentic 强化学习过程,同时进化模型权重、Harness 组件和任务解决方案。
核心内容
HASE 是一个基于 agentic 强化学习的框架,其核心思想是让同一个模型在一个多回合的动作空间中既能生成任务解决方案,也能编辑选定的 Harness 组件。这里的“Harness”泛指围绕任务的环境、评估指标、约束条件或辅助工具(例如分类任务的评测逻辑、因子挖掘中的回测框架、算法发现中的评估代码等)。传统方法通常将 Harness 视为固定的外部环境,而 HASE 允许模型在每一轮行动中自主决定是改进任务输出还是修改 Harness 本身。
论文通过三个关键实验验证了 HASE 的效果:
-
文本分类:使用单个 Qwen3-8B 模型,在 HASE 框架下能够匹配 GPT-OSS-120B(一个更大的模型)配合 Claude Code 作为 Harness 提案者的性能。这意味着一个参数量远小于对手的模型,通过同时进化权重和 Harness,可以达到甚至超越更大模型配合专用 Harness 提案系统的表现。
-
Alpha 因子挖掘(金融领域):HASE 在挖掘有效 alpha 因子的任务中,超越了论文报告的 GPT-OSS-120B 基线,证明了该框架在需要精细调整评估逻辑和约束条件的场景中的优势。
-
圆填充算法发现:HASE 能够自动修复不完美的评估组件(例如检测代码中的缺陷或评估逻辑的偏差),并最终收敛到圆填充算法发现任务的最优性能,达到当前最佳(SOTA)水平。
这些结果表明,HASE 通过一个统一的 agentic 过程同时改进了 Harness 和解决方案,从而实现了比单独优化任一部分更高效的自进化。
关键要点
- HASE 将 Harness 视为可被模型编辑的动态组件,而非固定的外部环境,这是区别于传统自进化框架的关键。
- 框架采用多回合 action space:模型在同一回合中可以选择生成任务输出或修改 Harness,使得进化的灵活性和覆盖范围大幅提升。
- 使用 Qwen3-8B(80 亿参数模型)在文本分类任务中达到了相当于 GPT-OSS-120B(1200 亿参数模型)+ Claude Code 的性能,显示出 Harness 进化对模型能力有显著的放大效应。
- 在 Alpha 因子挖掘任务中,HASE 超越了该领域最强的基线,证明其在需要领域特定 Harness 调整的场景中尤为有效。
- HASE 具备自动修复评估组件的能力,在圆填充算法发现中通过修改有缺陷的评估逻辑逐步提升性能至 SOTA。
- 该框架不需要额外的大模型或 Harness 提案者,而是由一个统一的 agentic 模型自主完成所有进化步骤。
意义与影响
HASE 重新定义了自进化框架的边界:模型不再只是被动地适应固定环境,而是能够主动塑造和优化自身的评估与约束环境。这种思路对于可扩展的 AI 系统设计具有重要启示。首先,它降低了对模型原始规模的依赖——一个较小的模型通过与环境(Harness)的协同进化可以获得与大模型相当的性能,有助于降低计算成本。其次,HASE 提供了一种自动修复缺陷评估逻辑的机制,这在真实应用中非常实用,例如当测试集存在偏差或评估代码有 bug 时,模型可以自主修正而非被误导。最后,HASE 将 Harness 进化纳入统一 agentic 过程,为构建完全自主的 AI 研究系统(如自动科学发现、代码生成与评测)提供了新范式。未来工作可以进一步探索 Harness 表示的可解释性、多 Harness 并行进化以及跨任务泛化能力。
