← 返回信息流
AI 资讯Hacker News·2 天前

Expanding Project Glasswing

AI 深度解读

扩展 Project Glasswing:Anthropic 如何重塑网络安全防御范式

背景

Anthropic 近期宣布对其名为 Project Glasswing 的协作计划进行大规模扩展。该计划旨在通过人工智能技术保护全球最重要的软件基础设施。早在今年 4 月初,Anthropic 宣布约有 50 家初始合作伙伴获得了 Claude Mythos Preview(Claude 神话预览版)的访问权限。这些合作伙伴利用该模型对其代码库进行漏洞扫描,并已在初期发现了超过一万处高危或严重级别的安全漏洞。

随着合作的深入,Anthropic 与 Project Glasswing 的合作伙伴、整个网络安全行业、开源软件维护者以及美国政府进行了数周的紧密协作。基于这一阶段的成果与反馈,Anthropic 决定将合作伙伴范围扩大至约 150 家新组织。这一举措不仅标志着项目规模的显著增长,也反映了 Anthropic 对 AI 时代网络安全挑战的深层思考与战略调整。

核心内容

1. 合作伙伴范围的战略性扩展 此次扩展并非简单的数量增加,而是质的飞跃。新增的约 150 家组织分布在超过 15 个国家,其中大多数为全球及更多地区提供关键基础设施服务。新加入的合作伙伴涵盖了在初始阶段代表性不足的多个关键行业,包括电力、水务、医疗保健、通信和硬件领域。此外,许多新伙伴是供应商——即维护着被全球众多组织(包括政府机构)依赖的代码库的公司或非营利组织。

Anthropic 强调,这些新合作伙伴有一个共同特征:其代码库若遭受成功攻击,后果将是灾难性的。对于大多数合作伙伴而言,一次重大攻击可能影响超过 1 亿人,对全球和国家安全产生深远影响。所有新加入的组织都必须满足 Anthropic 严格的安全要求才能获得访问权限。

2. Project Glasswing 的角色演变与双重使命 Project GlasswingClaude Mythos Preview 的能力引发了软件行业和政府部门关于 AI 如何改变网络安全的广泛讨论。这些讨论不仅指导了项目的扩展方式,也重塑了 Anthropic 对该项目目的的认知。

Anthropic 指出,廉价、快速且具备强大网络能力的 AI 模型即将到来。因此,Project Glasswing 的使命是促使机构建立反映这一现实的运营规范。Anthropic 认为其角色具有双重性:

  • 帮助软件行业适应: 通过安全地向更广泛群体提供更好的模型、工具和通用基础设施,帮助行业适应 AI 带来的变化。
  • 转变支持重点: 从单纯的“发现漏洞”逐步转向“披露、修复和部署补丁软件”。

3. 支持网络防御者与加速补丁流程 在项目启动的最初几周内,各成员便大规模使用 Claude Mythos Preview,共享信息与最佳实践,并与第三方合作对模型发现进行优先级排序。为了支持这种适应过程,Anthropic 正在向受信任的安全团队(应要求)发布其开发的工具,以帮助合作伙伴更快速地发现漏洞。同时,Anthropic 推出了 Claude Security 产品,利用其前沿公共模型(如 Claude Opus 4.8)扫描代码库并建议补丁。

针对网络安全当前的瓶颈——即验证、披露和修补由 Mythos 级模型揭示的大量漏洞,Anthropic 正在采取以下措施:

  • 利用模型辅助防御: 合作伙伴已使用 Mythos Preview 编写补丁、进行发布前检查以防止漏洞出现,以及用于渗透测试、自动化威胁检测和响应、以及将遗留代码库重构为内存安全语言等防御任务。
  • 规模化开源软件修补: Anthropic 正在与第三方讨论如何大幅扩大开源软件漏洞的审查和修补规模,并致力于分享向开源维护者披露漏洞的最佳实践,使报告更容易被处理和采取行动。

4. 未来路径与安全挑战 Anthropic 承认,要应对即将到来的挑战规模,可能需要数十万个组织、研究人员和维护者访问最先进的网络能力和工具。然而,安全地发布通用访问权限下的 Mythos 级能力仍面临巨大挑战,特别是需要开发能够防止模型网络能力被滥用的强大且精确的安全护栏(Safeguards)。Anthropic 指出,目前包括其在内的所有 AI 开发者尚未完全开发出此类护栏。

在通用访问实现之前,Anthropic 计划进一步扩展 Project Glasswing,优先增加关键基础设施提供商、关键开源软件维护者和安全测试人员。同时,Anthropic 计划扩大其 Cyber Verification Program(网络安全验证计划),为更多组织在特定的网络防御任务中授予 Mythos 级能力。

关键要点

  • 规模扩大: Project Glasswing 合作伙伴从最初的约 50 家扩展至新增约 150 家,总计覆盖更多国家和关键行业(电力、水务、医疗、通信、硬件)。
  • 高风险目标: 新合作伙伴的代码库若被攻破,可能影响超过 1 亿人,对全球和国家安全构成重大威胁。
  • 双重使命: Anthropic 旨在通过提供模型和基础设施帮助行业适应 AI 时代,并将支持重点从“发现漏洞”转向“披露、修复和部署补丁”。
  • 工具与产品: Anthropic 发布了内部工具以加速漏洞发现,并推出了 Claude Security 产品,利用 Claude Opus 4.8 等模型扫描代码并建议补丁。
  • 应对瓶颈: 当前网络安全的主要瓶颈在于验证、披露和修补漏洞。Anthropic 正与第三方合作,旨在规模化解决开源软件的修补问题。
  • 安全护栏挑战: 尽管 Mythos 级模型能力强大,但 Anthropic 承认目前尚未开发出能完全防止滥用的强大且精确的安全护栏,这是实现通用访问的主要障碍。
  • 长期战略: Anthropic 计划通过 Cyber Verification Program 在特定任务中授予更多组织 Mythos 级能力,并致力于在模型跨越重要能力阈值时,为防御者建立永久性优势。

意义与影响

Project Glasswing 的扩展标志着 AI 在网络安全领域的应用从“实验性探索”走向“系统性防御”。Anthropic 不仅是在推广其模型,更是在试图建立一套适应 AI 时代的新网络安全运营规范。

首先,这一举措揭示了网络安全范式的根本转变。随着 Mythos 级模型的出现,攻击者将拥有更廉价、更快速且更强大的工具,导致网络攻击的频率和不可预测性增加。防御方必须从被动响应转向主动适应,利用 AI 进行自动化威胁检测、补丁生成和代码重构。Project Glasswing 通过共享最佳实践和工具,试图缩小防御者与技术进步之间的差距。

其次,Anthropic 对“安全护栏”的坦诚承认反映了行业对 AI 安全风险的清醒认识。尽管 Claude Opus 4.8 等模型在编码和代理任务上表现强劲,但其网络能力若被滥用,后果不堪设想。Anthropic 强调在实现通用访问前必须解决护栏问题,这表明领先 AI 公司正在将安全置于商业扩张之前,但也暗示了通用 AI 网络能力全面普及仍需时日。

最后,Project Glasswing 的扩展有助于构建一个更紧密的网络安全生态。通过连接政府、关键基础设施提供商、开源维护者和 AI 开发者,Anthropic 正在推动建立一个协作式的防御网络。这种模式若成功,不仅能为防御者提供“永久性优势”,也可能成为未来应对其他高风险 AI 能力(如生物安全、金融安全)的标准模板。对于全球软件生态而言,这意味着代码安全将从单个组织的责任,转变为由 AI 驱动的行业共同基础设施。

查看原文 →anthropic.com