← 返回信息流
AI 资讯Hacker News·2 小时前

Anthropic 此举是否违背其初衷

原标题:Did Anthropic Ask for This?

速览

Anthropic 作为 AI 安全领域的代表性公司,其近期的一系列举措引发了行业内的广泛讨论。外界质疑这些行为是否与其最初承诺的安全准则相悖。这一争议凸显了 AI 商业发展与安全伦理之间的复杂张力。

AI 深度解读

深度解读:Anthropic 是否“自求”了政府的出口管制?

背景

近期,美国政府发布了一项出口管制指令,禁止 Anthropic 向外国国民提供其最新模型 Claude Fable 和 Claude Mythos 的访问权限。这一举措引发了科技界的广泛讨论。

与此同时,Anthropic 首席执行官 Dario Amodei 在此前几天发表了一篇题为《AI 指数级增长政策》(Policy on the AI Exponential)的文章。他在文中明确主张,如果第三方评估认为模型存在不可接受的风险,政府应拥有阻止或威慑模型部署的权力。

这篇文章的作者认为,Anthropic 及其领导层长期以来一直积极游说政府加强对 AI 的监管,特别是针对国家安全风险。当这种监管最终直接作用于 Anthropic 自身时,作者认为这是他们“自食其果”,并对此持一种“幸灾乐祸”的态度,认为这揭示了 AI 公司试图将监管责任推给政府,却不愿承担监管后果的双重标准。

核心内容

作者通过逐句拆解 Dario Amodei 的政策声明,论证了 Anthropic 实际上是在“请求”这一监管措施的发生。

1. 对政策声明的逐字解读

作者将 Amodei 的核心主张分解为四个部分,并逐一对照当前的政府行动:

  • 主张: “政府应拥有阻止或威慑模型部署的权力。”
    • 现状: 政府确实阻止了 Anthropic 模型的部署。
  • 主张: “如果经第三方评估确定存在不可接受的风险。”
    • 现状: 该评估由 Amazon 完成。Amazon 是政府、情报机构和军事领域的高安全承包商,通常被视为值得信赖。
  • 主张: “该权力必须限于上述四种特定风险。”
    • 现状: 这四种风险指:网络安全、生物武器、AI 系统失控、以及可能加速上述风险的自动化研发。第三方报告指出,Anthropic 的模型构成了网络安全风险,符合这一范畴。
  • 主张: “必须存在防止政治偏袒或任意决定的保护措施。”
    • 现状: 作者认为,现有的法律体系(即法院)就是这种保护措施。Amodei 有权提起诉讼,指控政府存在政治偏袒或任意决定。这是法律体系的主要功能之一。作者指出,Anthropic 从未要求过比普通法律程序更特殊的保护,如果他们在推动更严格法律的同时不提出特殊保护,那是极不负责任的。

2. Anthropic 的监管立场与矛盾

  • 长期游说: Anthropic 多年来一直强烈主张政府应拥有更多权力来监管 AI,即使在其他政治力量更迭或表现出不稳定时,这一立场也未改变。
  • 双重标准嫌疑: 作者认为,Anthropic 可能原本设想这些监管措施主要适用于开源项目、学术界和小型公司,而非自己。当监管真正落地到自己身上时,他们开始感到不适。
  • 商业与言论的反差: Anthropic 一方面公开宣扬 AI 的危险性及其作为军事关切的重要性,另一方面却直接向美国政府(包括通过 Palantir 和 Amazon 等中介)出售服务。这种言行不一让作者感到荒谬。

3. 此次行动的性质:非政治操弄,而是法律后果

  • 与前例的区别: 作者提到今年早些时候国防部(Department of War,此处指美国国防部)曾试图“扼杀” Anthropic,那被视为一种 overtly political(公开政治化)且笨拙的权力攫取。而此次出口管制指令由财政部长 Bessent 谈判达成,没有公开的政治修辞(如指责“觉醒文化”),且属于美国政府明确拥有的合法权力。
  • 法律证据确凿: 由于 Dario Amodei 和 Anthropic 留下了大量公开声明,承认其模型具有国家安全重要性且存在生物武器和网络安全风险,如果 Anthropic 提起诉讼,政府律师只需将这些声明作为证据提交即可。

4. AI 公司的“既要又要”困境

  • 推卸责任: AI 公司喜欢夸大其工作的灾难性影响和重要性,但当涉及负面后果时,往往将责任推给“政府”或“社会”。
  • 现实的政府: 现在,真实的、并非完美无瑕的政府介入了。作者指出,如果现有的机构无法治理你创造的技术,那么要么你自己建立治理机构,要么停止这项技术。
  • 无人买单: 没有人会关心你声称“政府或社会会解决你制造的问题”。如果计划是让政府在未来拯救大家,那这根本不是一个可行的计划。

关键要点

  • Anthropic 主动寻求监管: 作者认为,Anthropic 通过其 CEO 的公开声明,明确请求政府拥有基于第三方风险评估来阻止模型部署的权力。
  • 监管符合其主张: 此次出口管制指令严格遵循了 Anthropic 提出的框架:基于第三方(Amazon)评估、针对特定风险(网络安全)、并通过法律体系(法院)提供救济途径。
  • 法律体系即保护机制: 针对“防止政治偏袒”的担忧,作者指出诉讼权本身就是法律提供的保护,Anthropic 无权要求额外的、超越普通法律的特殊豁免。
  • Anthropic 的双重标准: Anthropic 长期游说加强监管,却可能未预料到监管会直接应用于自身,且其一边宣扬 AI 危险一边向政府出售服务的行为显得矛盾。
  • 此次行动具有合法性: 与之前国防部带有政治色彩的干预不同,此次出口管制基于明确的法律权力,且有 Anthropic 自身的公开声明作为潜在诉讼中的不利证据。
  • AI 行业责任归属: AI 公司不能一边夸大风险一边将治理责任完全推给政府。如果现有机构无法治理技术,公司必须自行建立治理机制或停止开发。

意义与影响

1. 对 AI 行业监管预期的重塑

这一事件标志着 AI 监管从“理论探讨”进入“实际执行”阶段。它向行业发出明确信号:AI 公司提出的监管框架将被政府严格字面解读和执行。如果公司主张某些技术具有国家安全风险,政府有权据此进行限制,且公司难以通过法律途径轻易推翻此类决定,因为他们自己的声明构成了证据。

2. 对 Anthropic 及其竞争对手的影响

Anthropic 可能面临声誉和运营上的双重打击。一方面,其“负责任 AI”的叙事受到质疑,被视为试图利用监管壁垒打击竞争对手(尤其是开源社区);另一方面,其最新模型的商业化部署受到限制,可能影响其市场竞争力。这也可能促使其他大型 AI 公司重新评估其游说策略,避免留下可能被用于限制自身发展的公开声明。

3. 政府监管权力的扩张与合法化

此次行动展示了美国政府利用现有法律工具(如出口管制)介入前沿科技治理的能力。它表明,政府不再仅仅是被动响应,而是可以主动利用科技公司的公开立场来构建监管合法性。这为未来针对其他高风险技术的监管提供了先例。

4. 行业自我治理的紧迫性

文章最后指出,AI 公司不能依赖政府来解决其创造的问题。如果现有机构无法有效治理技术,行业必须内部建立治理机制。这可能会推动 AI 公司加强内部安全审查、伦理委员会建设以及与监管机构的更紧密合作,以避免因外部监管失控而导致的业务中断。

5. 公众与政策制定者的认知转变

公众和政策制定者可能开始意识到,AI 公司的“风险警告”不仅是呼吁关注,更是寻求监管授权的策略。这可能导致政策制定者在未来面对 AI 公司的游说时更加谨慎,要求公司提供具体的、可执行的治理方案,而不仅仅是风险描述。

查看原文 →verysane.ai