← 返回信息流
AI 资讯The Verge AI·2 小时前

Anthropic应政府要求切断Fable 5和Mythos 5模型访问

原标题:Anthropic cuts off Fable 5 and Mythos 5 access following government order

速览

Anthropic周五晚间宣布,应政府命令,因国家安全顾虑,全面切断包括美国内外所有国家及内部员工对Fable 5和Mythos 5模型的访问权限。Anthropic在声明中指出,政府未提供具体安全细节,仅口头告知存在潜在越狱风险,且漏洞较小。

AI 深度解读

Anthropic 切断 Fable 5 与 Mythos 5 访问权限:政府指令下的安全合规

背景

周五晚间,美国政府向 AI 安全公司 Anthropic 下达了一项行政指令,要求立即阻止所有外国实体(包括位于美国境内和境外的用户)访问其两款核心模型:Fable 5 和 Mythos 5。这项指令的核心理由是“国家安全关切”(national security concerns)。

值得注意的是,该指令的适用范围极为广泛,不仅针对外部客户,甚至明确包括了 Anthropic 内部员工。这意味着,出于合规要求,Anthropic 必须彻底切断这两款模型对全球所有非美国国籍人员的访问权限,无论其身处何地。这一突发状况迫使 Anthropic 采取了极端的防御性措施,即完全关闭对这两大模型的访问通道。

核心内容

此次事件源于一份援引国家安全条款的出口管制指令(export control directive)。该指令强制要求 Anthropic 阻断所有外国国民的访问权限。为了应对这一严峻要求,Anthropic 不得不执行全面封锁。

在随后发布的声明中,Anthropic 澄清了其与政府之间的沟通细节及内部评估结果:

  1. 缺乏具体细节:Anthropic 表示,虽然公司正在配合政府指令执行封锁,但政府方面“并未提供其国家安全关切的具体细节”。
  2. 漏洞性质轻微:政府方面仅口头提供了所谓“潜在越狱”(jailbreak)的证据。Anthropic 指出,这些被发现的漏洞属于轻微级别,且并非 Anthropic 模型独有——类似的漏洞在其他模型(包括 OpenAI 的 GPT 5.5)中同样存在。
  3. 未发生实际危害:Anthropic 强调,截至目前,他们甚至没有收到任何导致有害结果的、非普遍性的严重越狱披露。
  4. 已采取的防御措施:在声明中,Anthropic 列出了为保护 Fable 和 Mythos 模型所采取的一系列步骤,包括与美国和英国政府合作,以及修改数据保留政策,以便更好地追踪和监控试图恶意使用这些模型的尝试。

Anthropic 在声明中进一步指出:“向我们披露的潜在越狱要么是完全无害的响应,要么是微小的发现,并未提供针对 Mythos 模型的任何特定优势提升。”

关键要点

  • 指令范围极广:政府指令不仅限制外国用户,还禁止 Anthropic 内部员工访问 Fable 5 和 Mythos 5,导致公司必须对所有客户(含内部)切断访问。
  • 合规依据模糊:政府以“国家安全”为由下达指令,但未向 Anthropic 提供具体的安全威胁细节或证据。
  • 漏洞被认定为轻微:Anthropic 认为政府指出的漏洞是轻微的,且在其他主流模型(如 GPT 5.5)中也能找到类似漏洞,并非 Anthropic 特有。
  • 无实际危害报告:Anthropic 确认未收到任何导致实际有害后果的严重越狱案例,现有的披露多为无害或无实质影响的发现。
  • 主动防御升级:尽管执行封锁,Anthropic 仍表示已加强与英美政府合作,并优化数据保留策略以监控恶意使用行为。

意义与影响

这一事件反映了 AI 行业在国家安全监管日益收紧背景下面临的新常态。首先,它展示了政府出口管制指令在 AI 领域的执行力——即便是在私营企业内部,员工访问权限也可被行政命令直接剥夺。其次,Anthropic 的回应揭示了 AI 公司在面对模糊的安全指控时的困境:一方面需要严格遵守政府指令以避免法律风险,另一方面又需要维护其技术产品的声誉,证明其模型的安全性并未受到实质性威胁。

此外,将 Anthropic 的漏洞与 GPT 5.5 等其他模型进行对比,暗示了当前大模型在安全性上面临的普遍挑战,而非单一公司的技术缺陷。最后,这一事件可能促使其他 AI 公司重新评估其数据监控和合规流程,特别是在与政府机构协作方面,以应对未来可能更频繁的安全审查和访问限制。

查看原文 →theverge.com