← 返回信息流
AI 资讯The Verge AI·2 小时前

美或限制Anthropic Mythos出口 疑中方曾获取模型

原标题:China may have accessed Mythos

速览

据Semafor报道,白宫决定对Anthropic的Mythos模型实施出口限制,部分原因是担忧与中国有关联的群体已获取该模型。若中国确实拥有Mythos 5或Fable 5,将构成严重国家安全风险,并可能通过蒸馏技术逆向工程复制模型行为。目前白宫尚未证实该报告,特朗普顾问David Sacks的帖子也未提及中国。

AI 深度解读

背景

近期,关于美国政府对先进人工智能模型实施出口管制的讨论再次升温。据新闻聚合媒体 Semafor 报道,白宫在决定对 Anthropic 公司的旗舰 AI 模型 Mythos 实施出口限制时,部分原因是担忧该模型已被一个与中国有关联的组织获取。这一报道引发了关于国家安全、AI 技术泄露以及中美科技竞争格局的广泛关注。

与此同时,Anthropic 公司并未直接回应关于中国获取模型权限的具体指控,但其前顾问、特朗普顾问 David Sacks 在社交媒体 X 上发布的内容间接反映了当前的舆论焦点。Sacks 并未提及中国,而是聚焦于外界传闻 Fable 和 Mythos 模型存在被“越狱”(jailbroken,即绕过安全限制)的能力,尽管 Anthropic 官方已否认了这一说法。

核心内容

Semafor 的报道指出,白宫对 Anthropic 旗下强大 AI 模型 Mythos 的出口管制决策,背后有着明确的安全顾虑:怀疑一个与中国有关联的团体已经访问或获取了该模型。如果中国政府确实掌握了 Mythos 5 或 Fable 5 的访问权限,这将被视为严重的国家安全风险。

这种风险不仅限于模型本身的直接使用,更在于潜在的技术逆向工程。报道提到,政府方面可能试图通过“蒸馏”(distillation)技术来逆向工程该模型。这是一种通过训练一个“学生”AI 来复制更先进“教师”模型行为的技术手段。一旦成功,即便没有原始模型的源代码,攻击方也能获得与其功能相近的能力,从而削弱技术壁垒。

值得注意的是,尽管报道引发了巨大关注,白宫方面尚未正式确认这一情报。Anthropic 方面也未直接回应媒体关于中国获取权限的询问,但其发言人向 Semafor 表示,在政府讨论出口管制措施的过程中,并未提及中国因素。

此外,此次事件并非 Anthropic 首次面临其最强大模型的安全漏洞问题。Anthropic 此前曾表示,Mythos 过于危险和强大,不适合向公众开放。然而,此前曾有一个 Discord 群组在 Anthropic 发现漏洞并切断访问权限之前,擅自访问了该模型长达两周。这一前科使得此次关于中国关联团体获取权限的传闻更具可信度和紧迫感。

关键要点

  • 出口管制的新动因:白宫对 Anthropic 模型 Mythos 实施出口限制,部分原因是出于对中国关联团体可能已获取模型访问权限的担忧。
  • 国家安全风险:若中国官方确实拥有 Mythos 5 或 Fable 5 的访问权,将被视为严重的国家安全威胁。
  • 逆向工程威胁:除了直接访问,主要风险在于通过“蒸馏”技术训练“学生”模型,从而复制先进 AI 的行为和能力,实现技术逆向工程。
  • 官方态度差异
    • 白宫:尚未正式确认相关报道。
    • Anthropic:发言人称在出口管制讨论中未提及中国;官方否认了模型易被“越狱”的传闻。
    • David Sacks:在 X 平台发帖关注模型安全性(越狱问题),未提及中国。
  • 历史安全记录:Anthropic 的 Mythos 模型此前曾发生过安全事件,一个 Discord 群组曾违规访问该模型两周,直到 Anthropic 发现并切断访问。

意义与影响

这一报道揭示了全球 AI 竞赛中日益严峻的安全与地缘政治交织的复杂局面。首先,它标志着美国政府对 AI 出口管制的考量已从单纯的硬件(如芯片)扩展到软件模型本身,特别是针对那些被认为具有极高战略价值且难以控制的先进模型。

其次,关于“蒸馏”技术的担忧凸显了软件层面技术泄露的独特风险。与硬件封锁不同,AI 模型的行为和能力可以通过数据训练进行复制,这使得传统的物理隔离手段面临挑战。如果中国确实通过非官方渠道获取了模型权限,并成功利用蒸馏技术复现其能力,将极大改变中美在 AI 领域的力量对比。

最后,Anthropic 的安全记录表明,即使是顶级 AI 公司,其最高级别模型的安全防护也存在漏洞。此次事件不仅是对 Anthropic 的一次信任危机,也促使业界重新审视开源、半开源以及受限访问模型的安全协议。随着 AI 能力的指数级增长,如何平衡技术创新、商业利益与国家安全,将成为各国政府和企业面临的核心难题。

查看原文 →theverge.com