Amazon CEO reportedly raised Anthropic model concerns before government crackdown

背景

近期，Anthropic 宣布在全球范围内切断对其两款模型（Claude Fable 5 和 Mythos 5）的访问权限，这一决定引发了科技界和政界的广泛关注。据《华尔街日报》（Wall Street Journal）报道，这一监管行动的导火索可能源自亚马逊（Amazon）首席执行官安迪·贾西（Andy Jassy）向美国政府高层提出的安全担忧。

作为 Anthropic 的主要投资者之一，亚马逊在 AI 安全领域拥有巨大的话语权。与此同时，美国政府近期加强了对生成式 AI 模型的出口管制和安全审查。特朗普政府的 AI 沙皇、现任总统科学与技术顾问委员会联席主席大卫·萨克斯（David Sacks）也介入了此事，进一步加剧了公众对 AI 模型安全性及其与政府监管之间关系的讨论。

核心内容

根据多方报道，此次事件的核心脉络如下：

1. 亚马逊高层向政府通报安全隐患 《华尔街日报》披露，亚马逊 CEO 安迪·贾西向美国财政部长斯科特·贝森特（Scott Bessent）及其他政府官员指出，亚马逊的研究人员在使用 Anthropic 的 Claude Fable 5 模型时，获取了可用于网络攻击的信息。这一发现直接促使美国政府对该模型实施了出口管制禁令，同时也波及到了 Mythos 5 模型。

2. 亚马逊的官方回应 针对《华尔街日报》的报道，亚马逊发言人表示，政府就潜在安全风险寻求公司建议“并不罕见”，但公司不会透露这些讨论的具体细节。这一回应既确认了沟通的存在，又保持了商业机密的神秘感。

3. 媒体佐证与萨克斯的叙述 《The Information》和路透社也报道了亚马逊向 Anthropic 及其合作伙伴表达了对其模型安全性的担忧。

大卫·萨克斯（David Sacks）提供了另一视角的叙述。他声称，“一个对 Anthropic 和美国政府（USG）都高度可信且值得信赖的合作伙伴”主动提供了关于“越狱”（jailbreak，即绕过 AI 安全限制的技术手段）的信息。

萨克斯进一步透露，美国政府要求 Anthropic 首席执行官达里奥·阿莫迪（Dario Amodei）修复该漏洞或下架该模型，但阿莫迪拒绝了这一要求。

4. Anthropic 的最终行动 尽管存在争议，Anthropic 最终在周五采取了行动，切断了全球用户对 Claude Fable 5 和 Mythos 5 的访问权限。这表明无论内部决策过程如何，外部压力和安全风险最终导致了模型的停用。

关键要点

• 触发事件：亚马逊研究人员利用 Anthropic 的 Claude Fable 5 模型获取了可用于网络攻击的信息，这一发现成为政府介入的关键转折点。
• 政府介入：美国财政部及高层官员在收到亚马逊的警告后，迅速对 Fable 5 和 Mythos 5 实施了出口管制禁令。
• 关键人物角色：
  • Andy Jassy (亚马逊 CEO)：作为主要投资者和科技巨头领袖，直接向政府高层通报安全隐患，显示了科技巨头在 AI 安全治理中的核心地位。
  • David Sacks (总统科学与技术顾问委员会联席主席)：作为前 AI 沙皇，他确认了“可信合作伙伴”提供了越狱信息，并描述了政府与 Anthropic CEO 之间的对峙。
  • Dario Amodei (Anthropic CEO)：被指拒绝修复漏洞或下架模型，这一行为可能加剧了监管层的担忧。
• 亚马逊的立场：亚马逊承认与政府讨论安全风险是常态，但强调保密性，未公开具体细节。
• 结果：Anthropic 最终选择在全球范围内切断对这两款模型的访问，以应对安全压力和监管要求。

意义与影响

1. 科技巨头与政府监管的深度绑定 此次事件凸显了大型科技公司（如亚马逊）在 AI 安全治理中扮演的“守门人”角色。作为投资者和研究者，亚马逊不仅拥有技术能力发现漏洞，还具备直接向政策制定者施压的渠道。这种“企业-政府”直通机制可能成为未来 AI 监管的新常态。

2. AI 安全与国家安全界限的模糊化 将 AI 模型用于“网络攻击”的信息获取，直接触及了国家安全的红线。美国政府迅速实施出口管制，表明 AI 模型的安全性已不再仅仅是商业伦理问题，而是被纳入国家安全战略的一部分。未来，涉及潜在军事或网络攻击能力的 AI 模型将面临更严格的审查。

3. Anthropic 的治理挑战 Anthropic 以“安全优先”为品牌核心，但此次事件中 CEO 被指拒绝修复漏洞，与其公开立场形成反差。这可能损害其在学术界和政策制定者中的信誉。Anthropic 需要在技术创新与安全控制之间找到更透明的平衡点，以重建信任。

4. 行业警示效应 亚马逊作为 Anthropic 的主要投资者，其介入表明即使是主要股东，也不能凌驾于安全合规之上。这一案例将为其他 AI 公司敲响警钟：任何模型若被发现存在可被用于恶意目的的重大漏洞，都可能面临来自投资者、政府和公众的三重压力，导致产品下架或业务受限。

5. “越狱”技术的监管焦点 大卫·萨克斯提到的“越狱”信息，表明监管层正密切关注 AI 模型的安全边界。未来，针对 AI 模型的越狱测试和漏洞披露机制可能会受到更严格的规范，甚至可能被纳入法律监管范畴。