← 返回信息流
AI 资讯The Verge AI·1 小时前

Anthropic因白宫禁令下架Fable 5等模型

原标题:All the news about Anthropic’s new AI fight with the White House

速览

Anthropic在五角大楼争端后,又接到白宫6月12日命令,要求封锁其最新AI模型Fable 5和Mythos 5的外国访问权限。此举源于亚马逊安全研究人员发现模型存在被用于网络攻击的潜在漏洞。Anthropic随即对所有用户关闭访问,但强调反对因单一潜在越狱漏洞而召回面向数亿用户的商业模型。

AI 深度解读

Anthropic 与美国白宫的 AI 监管博弈:从“越狱”争议到地缘政治封锁

背景

Anthropic 目前正面临来自美国政府的双重压力。此前,该公司已与五角大楼陷入某种对峙状态,而局势在 6 月 12 日进一步升级。当天,白宫下达了一项命令,要求 Anthropic 封锁其最新发布的两个 AI 模型——Fable 5 和 Mythos 5 的外国访问权限。

这两个模型于 6 月 9 日刚刚发布。Anthropic 在发布时宣称:“Fable 5 的能力超越了我们此前向公众发布的任何模型。”同时指出,Claude Mythos 5 基于相同的底层模型,但“在某些领域移除了安全限制”。

这一禁令的直接导火索据报源于亚马逊(Amazon)与白宫之间的沟通。亚马逊的研究人员声称发现了一种方法,可以通过提示词诱导 Fable 5 提供可用于网络攻击的信息。面对这一来自政府层面的法律指令,Anthropic 迅速做出了反应,不仅封锁了外国用户,也暂停了其内部员工的访问权限。

核心内容

特朗普政府的迅速干预与全球警示

在华盛顿方面提出要求后,Anthropic 在周末突然将其最新、最强大的 AI 模型下线。这家美国公司表示,在白宫要求封锁所有外国人(包括其自身员工)访问权限后,他们别无选择。

这一事件在国际上引发了深刻反思:美国不仅主导着前沿 AI 技术,其政府还掌握着谁有资格使用这些技术的权力。特朗普政府的行动迅速、广泛且缺乏预警或详细解释。这种前所未有的 Fable 5 和 Mythos 5 停摆措施(尽管这两个模型此前已受到限制其在“高风险领域”使用的安全保护),为长期存在的警告提供了新的论据——即不应过度依赖美国的关键技术。这为那些主张各国政府和企业必须自主掌控技术领导权的政客、政府和公司提供了有力的弹药。

关于中国访问 Mythos 的担忧

据 Semafor 报道,白宫决定对 Anthropic 的 Mythos 实施出口限制,部分原因是担心该模型已被与中国有关联的团体访问。如果中国政府确实获得了 Mythos 5 或 Fable 5 的访问权限,这将构成严重的国家安全风险。政府还可能试图通过“蒸馏”技术对模型进行逆向工程,即训练一个“学生”AI 以复制更先进模型的行为。

然而,白宫尚未证实这一报道。特朗普顾问 David Sacks 在 X 平台上的帖子也未提及中国,而是聚焦于 Fable 和 Mythos 可能被“越狱”(jailbreak)的报告,对此 Anthropic 予以否认。Anthropic 未直接回应评论请求,但其 spokesperson 向 Semafor 表示,政府在讨论出口管制时并未提及中国。

亚马逊的安全研究触发禁令

据《华尔街日报》报道,导致 Anthropic 切断 Fable 5 和 Mythos 5 访问权限的出口管制指令,部分是由亚马逊的安全研究以及 CEO Andy Jassy 与白宫的对话触发的。据报道,亚马逊的论文声称,通过一系列提示词,他们成功让 Fable 5 提供了可用于网络攻击的信息。截至目前,亚马逊尚未回应置评请求。

在 Jassy 向政府分享公司发现后不久,政府便做出了禁止外国人使用的决定。这一问题的复杂性在于,Anthropic 的许多研究人员都是外籍出生,这意味着他们被禁止访问自己的产品。

Anthropic 的合规与异议

周五晚间,政府以国家安全为由,命令 Anthropic 封锁 Fable 5 和 Mythos 5 对所有外国国家(无论身处美国境内还是境外)的访问。该命令同样适用于 Anthropic 的员工。为满足这些要求,公司完全切断了所有客户对这些模型的访问。

Anthropic 在声明中表示,虽然他们遵守了命令,但政府“未提供其国家安全担忧的具体细节”。相反,Anthropic 声称,任何关于潜在越狱的证据都是口头提供的,且所发现的安全漏洞是次要的,并通过包括 GPT 5.5 在内的其他模型即可获取。

模型发布回顾

此前,Anthropic 刚刚发布了其首款 Mythos 级模型 Claude Fable 5。公司称这是其有史以来向广泛用户发布的最强大模型。据称,Fable 5 在软件工程、知识工作和视觉领域表现出卓越的性能,且随着任务变得更长、更复杂,其领先优势愈发明显。

关键要点

  • 双重压力下的 Anthropic:Anthropic 同时面临与五角大楼的对峙以及白宫针对最新模型(Fable 5 和 Mythos 5)的出口管制指令。
  • 禁令触发原因:据报,禁令部分源于亚马逊安全研究人员发现可通过提示词诱导 Fable 5 生成可用于网络攻击的信息,且该发现经由 CEO Andy Jassy 直接传达给白宫。
  • 地缘政治与安全担忧:Semafor 报道指出,白宫还担忧该模型可能被与中国有关联的团体访问,并存在被逆向工程(蒸馏)的风险,尽管 Anthropic 称政府未提及中国。
  • 无差别的封锁措施:为满足政府指令,Anthropic 切断了所有外国用户(包括外籍员工)的访问权限,甚至暂停了其内部研发人员的访问。
  • Anthropic 的立场:Anthropic 虽配合合规,但公开表示反对,认为仅凭“狭窄的潜在越狱”证据不应召回已部署给数亿人的商业模型,并指出政府未提供具体的国家安全细节,且类似漏洞在其他模型(如 GPT 5.5)中也存在。
  • 技术能力声明:Anthropic 强调 Fable 5 是其发布过的最强模型,在软件工程、知识工作和视觉任务上表现卓越,尤其在复杂长任务中优势明显。

意义与影响

1. 美国 AI 霸权与政府管控权的强化

此次事件清晰地展示了美国政府在前沿 AI 技术领域的绝对主导地位及其管控能力。通过出口管制和访问限制,美国政府不仅定义了谁可以使用最先进的技术,还直接干预了私营科技公司的产品发布策略。这种“长臂管辖”向全球发出了明确信号:即使是在美国境内开发的 AI 模型,其使用权限也受制于美国的国家安全利益。

2. 加速全球 AI 自主化的进程

此次“无预警”的封锁为那些主张技术自主的国家、政府和公司提供了强有力的论据。它提醒全球科技生态,过度依赖美国的关键技术存在巨大的地缘政治风险。这将进一步刺激欧盟、中国以及其他地区加速开发本土的 AI 模型和基础设施,以减少对单一技术来源的依赖。

3. “越狱”争议与安全标准的模糊性

事件核心围绕“越狱”(jailbreak)展开,但 Anthropic 与政府之间在风险认知上存在巨大分歧。Anthropic 认为发现的漏洞是次要且普遍的,而政府则将其视为严重的安全威胁。这种分歧反映了当前 AI 安全评估缺乏统一、透明的标准。口头传达的安全担忧与缺乏具体细节的指令,使得 AI 公司在合规与产品责任之间陷入两难。

4. 企业内部访问权的政治化

禁令导致 Anthropic 的外籍研究人员无法访问自己开发的模型,这一细节极具象征意义。它表明 AI 技术的研发和使用已不再仅仅是商业或技术问题,而是被深度政治化。科学家和工程师的访问权限可能因其国籍或出身地而受到限制,这对全球 AI 人才的流动和合作构成了新的障碍。

5. 对 AI 出口管制的先例效应

此次针对 Fable 5 和 Mythos 5 的禁令,特别是基于“潜在网络攻击能力”和“外国访问风险”的理由,可能成为未来 AI 出口管制的先例。随着模型能力的提升,政府可能会更频繁地以国家安全为由,对特定模型实施分级访问控制,这将深刻改变全球 AI 技术的分发模式和商业逻辑。

查看原文 →theverge.com