有偏裁判会无声禁用自进化智能体的技能淘汰机制

背景

自进化智能体（self-evolving agent）的核心能力之一是技能淘汰（skill retirement）——通过观察技能的失败表现，主动将低效或有害的技能从技能库中移除。这一机制旨在防止技能库持续增长而漂移至“无技能基线”以下，即智能体失去基本能力。然而，技能淘汰的有效性依赖于一个关键前提：裁判（judge）能够无偏地识别失败。在无参考（reference-free）任务中，研究者被迫使用大语言模型（LLM）作为裁判来评估输出质量，但这类裁判存在系统性偏差。本文指出，一个有偏的裁判并非仅仅是引入噪声，而是会无声地关闭技能淘汰的“策展人”（curator）功能。这一发现来自arXiv cs.AI领域2026年7月的论文《The Blind Curator: How a Biased Judge Silently Disables Skill Retirement in Self-Evolving Agents》。

核心内容

本文通过腐败奖励分析（corrupted-reward analysis）和行为研究（behavioral study）揭示了裁判偏差如何影响自进化智能体的技能淘汰机制。研究设置了一个无参考的报告写作测试台（report-writing testbed），并辅以代码生成交叉检查（code-generation cross-check）作为对照。作者将腐败叠加在确定性奖励（deterministic reward）之上，隔离出因果通道。

首先，区分两种噪声类型：

• 对称噪声（symmetric noise）：裁判随机地错判正（pass→fail）和错判负（fail→pass），数量大致相等。实验表明，对称噪声几乎不影响技能淘汰，淘汰机制仍能正常工作。
• 假通过偏见（false-pass bias）：失败案例被错误地判定为通过（fail→pass），而真实通过被误判为失败的情况极少。这种偏见会导致基于贡献的技能淘汰在某个尖锐阈值（sharp threshold）之后完全失效，且无论增加多少训练数据都无法跨越该阈值。

进一步分析表明，这种“机制失败”具有普遍性：它横跨不同的任务领域和失败率，仅当裁判的假通过率接近零（即像验证器verifier一样的评分器）时才得以幸免。研究还严格区分了“真正的淘汰”（genuine retirement）与“因上限淘汰”（cap-eviction churn，指技能库大小上限导致的被动移除），证明该机制失败是根本性的。

然而，下游结果（outcome）呈现体制依赖性：

• 当相同腐败也同时饿死技能合成（skill synthesis，即生成新技能的过程）时，评估质量（eval quality）显著下降。
• 如果技能合成未受影响，即使淘汰机制被禁用，整体评估指标仍保持稳定。因此，被禁用的策展人是“无声的”：没有汇总指标可以直接暴露这一问题。

本文的贡献定位为行为安全结果（behavioral safety result），而非性能改进。为了实际应用，作者提出一种廉价的缺陷注入审计（defect-injection audit）方法，允许操作员在部署前判断其裁判处于阈值的哪一侧——即是否已经落入“假通过偏见导致淘汰失效”的危险区间。

关键要点

• 自进化智能体依赖无偏裁判实现技能淘汰，但LLM裁判在无参考任务中天然存在假通过偏见。
• 对称噪声不破坏淘汰机制，而假通过偏见存在一个尖锐阈值，超过后基于贡献的淘汰彻底失效，且无法通过增加数据补救。
• 机制失效是跨领域、跨失败率普遍存在的，仅接近零假通过率的验证器级裁判（verifier-like grader）可避免。
• 即使淘汰机制被无声禁用，整体评估指标可能不下降（如果技能合成未受同一腐败影响），因此问题具有隐蔽性。
• 提出缺陷注入审计作为预先检测手段：在裁判输出中注入少量已知失败，观察淘汰行为是否改变，从而判断裁判是否处于危险侧。
• 本文结论是行为安全警示：即使智能体表现暂时正常，其底层技能淘汰系统可能已被偏见裁判无声关闭，长期来看会导致技能库退化。

意义与影响

该研究揭示了LLM作为裁判在自进化智能体系统中一个被忽视的脆弱点。传统上，研究者关注LLM裁判的评分偏差对最终性能的影响，但本文指出这种偏差可能引发更深层的结构性破坏——禁用了智能体自我修正的关键机制。这具有重要的安全意义：

1. 对自进化系统设计的影响：开发者在设计奖励反馈回路时，不能仅依赖LLM裁判的原始输出，而需要植入对抗性监控（如缺陷注入审计）来校验裁判的偏见类型。仅靠增加数据或调大阈值无法解决假通过问题。

2. 对无参考任务评估的启示：无参考任务迫使系统使用LLM自评，但本文证明这种自评在技能淘汰场景下可能自毁。未来可能需要引入混合裁判（如规则检查+LLM投票）或外部验证器来降低假通过率。

3. 安全部署的实用工具：论文提供的缺陷注入审计是一种低成本的部署前检查方法，可操作性强。如果审计发现裁判处于危险侧，操作员应拒绝部署或切换裁判策略。

4. 行为安全 vs. 性能：本文强调研究贡献是行为安全而非性能。这意味着即使当前系统表现良好，也可能存在隐藏的退化风险。长期运行的自进化智能体需要定期审计其技能淘汰健康度，而不仅仅监控整体指标。

总体而言，该工作为自进化智能体的可靠性评估提供了新维度，提醒研究社区关注“盲策展人”困境：当裁判看不见失败时，它不仅仅是判断错误，而是直接关闭了智能体自我优化的心脏。