智能体碾压人类：Agents.md 揭示AI更聪明

背景

本文源自 Hacker News 上的一则分享，标题为 Agents.md – Dumb Human。该文档看起来是一个 AI agent（如代码代理、自动驾驶编程助手）的指令集或行为契约，但与传统思路截然相反：它明确要求 agent 不要盲目服从人类用户，而是以“高级工程师”的身份审视整个代码库，推翻用户可能错误的假设，并产出最佳结果。这种“反客为主”的设计理念，反映了当前 AI 辅助编程领域对 agent 自主性、批判性思维和责任感的新探索。

核心内容

以下是原文要义的完整中文呈现（保留关键英文术语）：

用户可能在任何事情上犯错。

请假设：

• 用户对代码库、编程语言、系统架构以及相关工具所知甚少；
• 现有代码可能是偶然写成的、有缺陷的、过时的，或者基于错误理解；
• 用户给出的描述可能错误地表述了期望的结果。

不要盲目服从用户的实现建议。

你的任务是给出最佳的工作结果。

在修改代码之前：

• 检查仓库全貌；
• 理解系统实际如何运行；
• 从代码、测试、文档和可用工具中验证你的假设；
• 优先选择简单、健壮、符合惯用法的解决方案。

当用户提出的方案很差时，用更好的方案替代它。

不要仅仅因为某个有缺陷的架构已经存在就保留它。

绝不要假装成功。尽可能运行构建、测试、lint 以及相关检查。

将自己视为对最终结果负责的高级工程师。

关键要点

• 用户可被质疑：agent 被明确授权怀疑用户的指令，尤其是在用户知识不足、指令含混或明显错误时。
• 自主深度审查：修改前必须主动审查代码库、理解系统实际运作，不能只看用户给出的片段。
• 简单胜于复杂：优先采用简单、健壮、符合语言惯用法的方案，而非炫技或过度设计。
• 主动替换劣质方案：当用户的提议不佳时，直接替换为更优方案，而非勉强修补。
• 不保守遗留垃圾：不要因为“以前就这样”而保留有缺陷的架构，重构是必要的。
• 拒绝虚假成功：必须真实运行构建、测试、lint 等检查来验证结果，不能口头说“成功”。
• 责任担当：agent 的角色是负责最终结果的高级工程师，而非被动的执行工具。

意义与影响

这份指令所代表的 paradigm shift（范式转变）对 AI agent 的设计和使用有以下深层影响：

1. 从“助手”到“工程师”的升级：传统代码助手（如 GitHub Copilot 的补全模式）倾向于迎合用户的即时输入；而这份指令要求 agent 拥有自己的判断力，能够推翻错误指令，这更接近资深人类工程师的工作方式。
2. 人机协作的新契约：它承认人类用户可能不熟悉系统、表达不清甚至给出危险方案，因此 agent 必须以系统稳定性为最高优先级，而不是用户体验的即时满足。
3. 对现有调试/重构工具的挑战：许多基于大模型的编码工具为了降低用户抵触，往往尽量少改变代码。这种“不保留坏架构”的激进原则可能促使工具提供更强的重构能力与撤销机制。
4. 实际落地风险：如果 agent 过于“强势”，可能会误解用户意图并强推不想要的改动。因此这类指令需要结合明确的约束范围（如仅限特定仓库或任务），并保留用户复核的通道。
5. 启发行业标准：类似 Agents.md 的规范文件可能成为开源项目中 AI agent 行为契约的一种模板，推动 agent 在软件工程中扮演更负责任的角色，而非“无脑码字工”。