应对 AI 指数级增长：政策滞后与紧急行动

背景

人工智能（AI）的发展速度与其对政治制度和社会治理带来的挑战之间，存在着巨大的“时间错配”。文章借用《指环王》中霍比特人与树人（Treebeard）的比喻来阐述这一困境：霍比特人行动迅速，而树人反应迟缓，两者在时间尺度上完全无法同步。

当前，AI 技术正以惊人的速度迭代。在短短四年内，AI 模型的能力从勉强写出连贯的代码行，跃升至能够撰写大型 AI 公司的大部分核心代码。这种指数级增长不仅体现在编程领域，还广泛波及生物学、物理学、数学、金融、法律、翻译等多个学科。基于算力增加带来通用认知能力指数级提升的“缩放定律”（Scaling Laws），已拥有超过十年的实证支持。

然而，政策制定，尤其是立法程序，往往需要数年甚至更长时间。这种缓慢的节奏虽然有其合理性（避免政府权力的滥用），但在 AI 指数级发展的背景下，导致政策严重滞后。当立法者还在 deliberating（审议）时，AI 可能已经从一种“有趣的玩具”演变为具备“数据中心里的天才国度”般力量的存在。Anthropic 作为 AI 安全倡导者之一，此前因风险形态不明，主要倡导透明度立法等保留“选择权”的措施，但随着前沿模型（如 Claude Mythos Preview）展现出真实的网络安全风险，Anthropic 认为必须转向更严肃、具有约束力的监管框架。

核心内容

文章详细阐述了 AI 发展现状、政策滞后的危害，并提出了针对五大政策领域的重新构想建议，重点聚焦于监管与公共安全。

1. 从“透明度”转向“实质性监管”

过去几年，由于 AI 的激进影响尚未完全显现且形态不明，Anthropic 等安全倡导者主张通过透明度立法（如披露安全程序、测试数据和事故报告）来保持政策灵活性。Anthropic 在 2025 年支持了加州 SB 53、纽约 RAISE、伊利诺伊州 SB 315 等透明度法案，并推动联邦层面的透明度标准。

然而，近期前沿模型（如 Claude Mythos Preview）的发现改变了这一判断。该预览版展示了前沿模型对网络安全构成的真实且严重的威胁，能够扰乱全球网络安全格局，进而可能破坏金融部门、关键基础设施和国家安全。这证明了 AI 模型已成为具有全球和国家安全战略意义的工具。鉴于生物风险和严重的 AI 自主性风险可能紧随其后，Anthropic 认为仅靠透明度已不足以应对风险，必须转向更严格的监管。

2. 监管类比：像管理汽车、飞机或药物一样管理 AI

Anthropic 提出，当前阶段的 AI 监管应类比于对汽车、飞机或药物的监管。这些技术对现代经济至关重要，但如果设计或操作不当，可能导致大规模人员伤亡。

因此，Anthropic 建议借鉴美国联邦航空管理局（FAA）的模式，对前沿 AI 模型实施以下措施：

• 强制技术测试与审计：前沿 AI 模型在发布前必须通过严格的技术测试和安全审计。
• 安全否决权：如果模型未达到高标准的安全要求，其发布应被阻止或撤销，以保障公共安全。

文章指出，特朗普政府的行政命令正在向这一方向迈出一小步，但仍需更多行动。

3. 五大政策领域的重新构想

文章承诺将重点探讨五个需要在 AI 时代重新想象的传统政策领域：

1. 监管与公共安全：如上所述，从透明度转向基于风险的实质性监管。
2. 宏观经济与税收政策：应对 AI 对劳动力市场的冲击（Anthropic 同时发布了一份关于就业替代的政策框架）。
3. 科学创新：如何在加速科研的同时管理风险。
4. 国家与社会之间的权力平衡：防止权力过度集中。
5. 地缘政治：应对 AI 带来的国际竞争与安全挑战。

4. Anthropic 的行动承诺

为了表明其严肃性，Anthropic 随文章发布了两项具体举措：

• 一份关于前沿模型测试的立法提案。
• 一份关于就业替代的政策框架。 Anthropic 计划为这些倡议提供大量的财政支持，并视其为未来更大规模行动的起点。

关键要点

• 时间错配危机：AI 技术的指数级增长（4年内从基础代码生成到主导大型公司代码库）与缓慢的立法进程之间存在巨大鸿沟，导致政策严重滞后。
• 风险性质转变：前沿模型（如 Claude Mythos Preview）已证实 AI 对网络安全、金融、基础设施和国家安全构成真实威胁，AI 已成为具有战略后果的工具。
• 监管范式转移：Anthropic 主张从过去的“透明度倡导”转向“实质性监管”。建议借鉴 FAA 模式，对前沿 AI 模型实施强制性的技术测试、审计，并赋予监管机构在安全不达标时阻止发布或撤销发布的权力。
• 类比依据：将 AI 监管类比于汽车、飞机或药物监管，强调其作为“必要但危险”的技术，需通过严格标准防止大规模危害。
• 五大政策焦点：未来政策需重新构想监管与公共安全、宏观经济与税收、科学创新、国家与社会权力平衡、地缘政治这五个领域。
• 具体行动：Anthropic 发布了前沿模型测试立法提案和就业替代政策框架，并提供财政支持，旨在缩小政策行动与 AI 发展速度之间的差距。
• 全球视野：虽然文章主要基于美国政策背景，但其建议具有全球相关性，呼吁全球集体行动以应对快速复合的风险与机遇。

意义与影响

这篇文章标志着 AI 安全倡导者立场的一个重要转折点。过去，由于 AI 风险的模糊性和不可预测性，行业倾向于通过透明度、出口管制和数据收集等“保留选项”的措施来应对，以避免扼杀创新。然而，随着 Claude Mythos Preview 等事件证明 AI 具备破坏关键基础设施和国家安全的能力，Anthropic 明确承认“透明度”已不足以应对当前局势。

这一转变具有深远影响：

1. 政策风向标：Anthropic 作为行业主要参与者，其呼吁建立类似 FAA 的强监管机构，将为全球 AI 监管立法提供重要的理论依据和实践蓝图，推动政策从“软性引导”向“硬性约束”过渡。
2. 加速立法进程：文章强调政策滞后已造成“痛苦”的脱节，呼吁立即行动。这可能促使各国政府加快 AI 专门立法，特别是针对前沿模型的安全测试和审计标准。
3. 重塑行业责任：要求前沿模型通过严格审计才能发布，将极大增加 AI 开发者的合规成本和安全责任，可能改变 AI 行业的竞争格局，促使资源向安全研发倾斜。
4. 引发广泛讨论：文章提出的五大政策领域（特别是宏观经济和就业替代）将引发关于 AI 对社会结构深层影响的广泛辩论，推动社会各界重新思考如何在 AI 时代分配利益、管理风险和维护社会公平。

总之，这篇文章不仅是对 AI 政策现状的批判，更是一份行动宣言，旨在弥合技术爆炸与制度惰性之间的差距，呼吁建立能够跟上 AI 指数级增长步伐的治理体系。