谁在管理AI代理？
速览
随着AI代理的普及，关于它们由谁管理、如何确保安全与合规的讨论日益重要。本文分析了当前代理管理面临的挑战，并展望了可能的解决方案。
AI 深度解读
背景
本文源自 Hacker News 上的一篇深度讨论，题为《谁管理代理？》（Who manages the agents?）。文章发表于 AI 能力飞速跃升的 2026 年，聚焦一个根本性冲突：前沿 AI 正被极少数“技术神职人员”垄断，而绝大多数人既不能参与决策，也无法有效使用这些工具。作者以软件开发的现实为窗口，预判这一断层将蔓延至整个劳动力市场，并警示一种“两层系统”的诞生——尖端能力被严格管控，大众只能使用受限版本。
核心内容
文章开头提出两种对立的 AI 未来发展愿景。第一种：AI 被当作神祇，由一小群“神职人员”建造并控制，他们拥有特权访问，决定其他人能使用什么能力。第二种：人类处于中心，AI 作为放大器存在。作者指出，一种新的“技术神职人员”正在崛起——少数建造前沿系统的人获得特殊权限，并决定哪些能力可以向大众开放。
这些神职人员不断发出失业警告。Dario Amodei（Anthropic CEO）在 2025 年 5 月预言，AI 可能在五年内消灭一半的入门级白领岗位；Sam Altman（OpenAI CEO）在 2025 年 7 月表示客服岗位“完全、彻底消失”；Mustafa Suleyman（Inflection AI 创始人）在 2026 年 5 月预测，大多数基于计算机的专业工作将在 18 个月内实现全自动化；Elon Musk 在 2026 年 4 月提出“全民高收入”作为补救措施。他们并不认为这必然导致坏结果——将人们从繁琐工作中解放出来，可以腾出时间追求休闲活动。
但普通人听到“大规模失业”感到的是灾难。如何付房租、给孩子买食物？神职人员们保证，富足、再分配和新的意义会补偿这一切：Sam Altman 的《万物摩尔定律》（2021）承诺“直接向公民分配所有权和财富”；他的《温和奇点》（2025）预言智能将变得“极度丰富”；Dario Amodei 的《爱的机器》（2024）探讨了被替代后的工作与意义——这一切都“仰赖机器及其控制者的恩赐”。
一小群人充当机器智能与其他人之间的中介。人类并未广泛参与指导智能或决定如何使用它。大多数人成为决策、产品和富足的接收者，而非参与者。起初神职人员管理机器，但随着机器能力超越他们自身，谁在指挥谁变得模糊。在这个愿景中，他们建造了一位神祇，而他们的角色逐渐变成侍奉它、解释它，并决定谁可以接近它。
另一条路径存在：不是单一中心智能统治数十亿被动用户，而是数十亿人类学习指挥他们自己的、有能力的代理。
未来不均匀分布
神职人员狂热地专注于磨尖矛尖，以便刺入更难的领域：解决百年数学难题（2026 年 1 月，Erdős 问题 #728 成为第一个被 AI 完全自主解决的 Erdős 问题，使用 GPT-5.2 Pro 加上 Harmonic 的 Aristotle，并在 Lean 中形式化；2026 年 5 月，一个 OpenAI 模型解决了一个已开放 80 年的 Erdős 问题）。发现三十年来未被发现的软件漏洞（Anthropic 前沿红队报告称，Claude Opus 4.6 在高度模糊处理的量产开源代码中发现了 500 多个高危漏洞，部分未被发现数十年；Claude Mythos 预览版随后在每一个主流操作系统和浏览器中发现了数千个零日漏洞，包括一个存在 27 年的 OpenBSD 漏洞）。他们无疑会治愈疾病（Demis Hassabis 在 2025 年 4 月《60 分钟》节目中说，疾病终结“在可及的范围内……可能在未来十年左右”；他的 Isomorphic Labs 在 2026 年 5 月融资 21 亿美元，目标“解决所有疾病”），并创造巨大的价值和财富。但谁能获得癌症的治愈方法？谁又能获得抗衰老疗法？药物发现能力因生物武器风险而受限（Anthropic 对 Claude Opus 4 启用了 ASL-3 保护，部署了约束生物相关能力的分类器以限制 CBRN 武器风险；这一模式在 Claude 5 代中深化：Fable 5 随附针对双重用途能力的 safety classifier，而无限制的 Mythos 5 仅向被批准的组织提供）。软件能力因网络风险受限。不难预见接下来会发生什么：数学能力因密码学风险受限，创意能力因虚假信息风险受限（OpenAI 在 SAG-AFTRA 和名人遗产机构的深度伪造投诉后，限制了 Sora 的肖像同意要求；NewsGuard 发现 Sora 制作了验证中 20 个虚假主张中的 16 个的视频；欧盟 AI 法案第 50 条关于深度伪造披露的要求于 2026 年 8 月生效）。
政府要求了很多这些限制，前沿实验室通常也给予了支持（在 GPT-5.6 发布前，OpenAI 主动向美国政府预览了模型能力；这些模型是 OpenAI 首批在生物学和网络安全方面被评为“高”风险的；部署最初面向约 20 个政府批准的合作伙伴，据 Forbes 报道）。与此同时，选定的合作伙伴、研究者和机构保留了访问这些能力的权限（Anthropic 的 Project Glasswing 最初将 Mythos 预览版限制在一小群关键行业合作伙伴和开源开发者；Fable 5 达到通用可用性后，美国出口管制令迫使 Anthropic 在全球范围内禁用 Fable 5 和 Mythos 5；禁令解除后，Mythos 5 仅返回给政府批准的组织。OpenAI 的 GPT-5.6 遵循同样的模式：在 7 月 9 日通用可用之前，政府要求向大约 20 个合作伙伴提供有限的预览）。结果是一个两层系统的开端：前沿 AI 供少数人使用，受限 AI 供其他所有人使用。
将强大能力普遍向大众开放确实存在真实危险：生物安全是真实的，网络安全是真实的，虚假信息是真实的。但真正的安全关切不应导致排斥和永久依赖。
前沿在冲刺，中位数停滞不前
绝大多数人类不知道如何使用这支不断磨尖的矛。
软件开发为我们提供了一个窥探未来的窗口，因为软件开发人员比其他人早一年获得了 AI 代理（Cursor 于 2024 年 11 月发布了其首个 agent 模式；Anthropic 于 2025 年 2 月发布了 Claude Code；普通知识工作者直到 2026 年 1 月 Claude Cowork——“Claude Code 用于其他工作”发布时，才获得等效的能力）。最初，最擅长使用代理的开发者（超级用户）效率大约提高两倍。在过去一年半中，这个数字稳步增加到 5 倍，然后 10 倍。
现在最好的代理开发人员可能已经超过 100 倍——在几天内完成本需要数年工程工作的大规模代码库重写（Bun，535,496 行 Zig 代码，被一位工程师在 11 天内用 Rust 重写，该工程师同时监管多达 64 个并发 Claude Code 实例，最终提交包含 6,755 个 commit 的 pull request，通过了所有平台的全部测试套件。Jarred Sumner 估算，如果手工完成需要 3 名工程师工作大约一年，约 750 个工程师天压缩到了 11 天）。
作者本人也分享了自己的经历：一个周末的高强度编码后创建了 NanoClaw（首次 commit 是 2026 年 1 月 31 日星期六，次日发布到 Hacker News）。尽管该项目代码行数不多，但涵盖了许多他之前几乎或完全不了解的技术（Baileys、SQLite、Apple containers、IPC）。以他周五晚上的知识储备，如果没有 AI，构建它需要六到八个月。更现实地说，他永远也完不成。
但是这些开发者只是极小一部分。作者的感觉是，远不到 1% 的人达到了 100 倍效率提升。中位数开发者根本没有获得任何有意义的增益（METR 的随机试验发现，有经验的开发者在 2025 年初使用 AI 工具后速度反而慢了 19%；2026 年 2 月的跟踪调查只发现“非常微弱的证据”表明速度略有提升）。他们仍然在 1 倍的误差范围内。