亚马逊安全研究 reportedly 导致白宫禁止 Anthropic 的 Fable 模型

背景

近期，美国白宫发布了一项出口管制指令，直接导致 AI 安全公司 Anthropic 切断了其最新模型 Fable 5 和 Mythos 5 的访问权限。这一决定并非凭空产生，而是源于一系列复杂的政企互动与安全评估。

据《华尔街日报》（Wall Street Journal）报道，触发这一出口管制指令的关键因素之一，是亚马逊（Amazon）进行的一项网络安全研究，以及 Anthropic CEO 安迪·贾西（Andy Jassy）与白宫官员之间的对话。这一事件不仅涉及技术安全漏洞的认定，还交织着 Anthropic 与特朗普政府之间长期存在的政策分歧，包括对大规模监控和自主武器系统的拒绝。

核心内容

根据《华尔街日报》的报道，亚马逊的一项安全研究在促成白宫对 Anthropic 实施出口管制中发挥了重要作用。该研究声称，通过一系列精心设计的提示词（prompts），研究人员成功让 Fable 5 模型输出了可用于网络攻击的信息。尽管 Anthropic 尚未就此事发表评论，但这一发现促使 Anthropic 在贾西与政府官员就安全问题进行沟通后不久，决定禁止外国国民使用其产品。

这一禁令带来了复杂的伦理与操作困境：由于 Anthropic 的许多研究人员均为外籍人士，他们因此被禁止访问自己公司开发的模型。

在回应政府的定性时，Anthropic 发表声明，反驳了政府将此次事件描述为“越狱”（jailbreak）的说法。Anthropic 指出，包括 GPT 5.5 在内的其他公开可用模型也可能存在类似的安全漏洞。部分安全研究人员支持 Anthropic 的观点。LutaSecurity 创始人兼 CEO 凯蒂·穆苏鲁西斯（Katie Moussouris）在 BlueSky 上表示：“我看过那份报告，这并不是一次‘越狱’。”前商务部官员凯特·科伦（Kate Koren）则向《华尔街日报》推测，白宫对 Anthropic 的负面情绪可能影响了这一决定。

事实上，Anthropic 与特朗普政府的关系一直紧张。双方曾在 Anthropic 拒绝允许其 AI 用于对美国公民的大规模监控，或用于驱动致命自主武器系统等问题上产生分歧。今年二月，特朗普指示联邦机构停止使用 Anthropic 的 AI 服务；仅仅几小时后，国防部长皮特·赫格塞斯（Pete Hegseth）将该公司列为供应链风险。

尽管此前双方曾试图缓和关系，并合作扩大了 Mythos 模型的访问权限，但此次出口管制指令表明，两方之间的冲突可能再次升级。

关键要点

• 触发机制：白宫的出口管制指令部分源于亚马逊的安全研究，该研究声称通过提示词诱导 Fable 5 泄露可用于网络攻击的信息。
• 禁令范围：Anthropic 因此切断了 Fable 5 和 Mythos 5 的访问权限，特别禁止了外国国民的使用。
• 内部影响：由于 Anthropic 拥有大量外籍研究人员，禁令导致这些核心研发人员无法访问自己的产品。
• 争议焦点：
  • Anthropic 否认这是“越狱”，认为其他公开模型（如 GPT 5.5）也存在类似漏洞。
  • 安全专家凯蒂·穆苏鲁西斯支持 Anthropic，认为该研究不构成越狱。
  • 前官员凯特·科伦暗示，白宫对 Anthropic 的政治偏见可能影响了决策。
• 政治背景：
  • Anthropic 此前因拒绝参与大规模监控和自主武器系统开发，与特朗普政府发生冲突。
  • 特朗普曾下令联邦机构停用 Anthropic AI，赫格塞斯随后将其列为供应链风险。
  • 尽管此前有过合作缓和迹象，但此次事件显示政企关系再度紧张。

意义与影响

这一事件揭示了 AI 安全研究与政府监管之间日益紧密且充满张力的关系。首先，它表明大型科技公司（如亚马逊）的安全发现可以直接转化为国家级政策，进而影响 AI 公司的全球业务布局。其次，出口管制对“外籍研究人员”的限制，不仅引发了人才流动和研发效率的担忧，也凸显了在全球化研发背景下，国家安全政策对科技企业的实际约束力。

此外，Anthropic 与政府之间的持续摩擦反映了 AI 伦理与国家安全之间的深层矛盾。当 AI 模型被赋予强大的能力时，如何界定“安全漏洞”与“恶意利用”的边界，以及如何平衡开放研究与国家安全，将成为未来政策制定的核心难题。此次 Fable 5 和 Mythos 5 的受限访问，可能为后续类似 AI 模型的监管树立先例，迫使 AI 公司在研发初期就需更严格地评估其模型在出口管制框架下的合规风险。