← 返回信息流
技术博客OpenAI Blog·9 小时前

OpenAI推出Patch the Planet计划助力开源维护者修复漏洞

原标题:Patch the Planet: a Daybreak initiative to support open source maintainers

速览

OpenAI推出了名为“Patch the Planet”的Daybreak倡议项目。该项目旨在利用人工智能技术和专家审核,帮助开源软件维护者更高效地查找、验证并修复安全漏洞。此举体现了OpenAI对开源生态系统的持续支持,有助于提升开源软件的安全性。

AI 深度解读

Patch the Planet:OpenAI 联合 Trail of Bits 发起的开源维护者支持计划

OpenAI 正式推出了名为 Patch the Planet 的新倡议,这是其 Daybreak 计划的一部分,旨在通过与网络安全公司 Trail of Bits 的合作,帮助开源软件维护者加固全球依赖的关键开源基础设施。该计划的核心在于将 OpenAI 最强大的网络安全模型与 AI 辅助的安全研究相结合,并辅以专家级的人工审查,不仅识别漏洞,更直接协助修补漏洞。

背景

随着人工智能加速漏洞的发现过程,单纯的“发现”已不足以保护用户。许多开源维护者正面临严峻挑战:他们需要在有限的时间内,处理越来越多、越来越快的漏洞报告,而资源却并未相应增加。传统的漏洞披露流程往往将未经筛选的海量报告直接抛给维护者,这极大地加剧了他们的负担。

Patch the Planet 的初衷正是为了减轻而非增加这种负担。该计划旨在通过前置的安全工程审查、协助开发补丁和测试用例,以及构建可复用的工作流,帮助团队在首次修复后继续提升安全性。这一倡议建立在 OpenAI 更广泛的 Daybreak 工作基础之上,展示了前沿模型如何帮助防御者发现、验证和修复广泛使用的软件中的严重漏洞。

核心内容

Patch the Planet 并非简单的漏洞扫描服务,而是一套深度介入、人机协作的完整安全工程体系。

合作模式与流程

该计划的每次合作都始于与维护者的咨询。安全工程师会深入了解每个项目的具体需求、偏好以及最需要额外安全投入的领域(如漏洞验证、补丁开发、CI/CD 改进或长期安全工程)。一旦达成共识,研究人员将执行以下步骤:

  1. 调查与验证:调查潜在漏洞,验证具有实际意义的问题。
  2. 补丁开发与测试:开发或优化补丁,支持测试流程。
  3. 协调披露:通过项目既定的渠道协调漏洞披露。

合作伙伴生态

  • Trail of Bits:作为初始冲刺阶段的主要合作伙伴,Trail of Bits 投入了其整个安全研究组织。他们直接与维护者合作,调查和验证漏洞,开发测试补丁,并协调漏洞披露。
  • HackerOne 与 Calif:协助进行漏洞分类、协调披露以及额外的专注型漏洞发现工作。

技术赋能与资源支持

参与该计划的开源项目将获得以下资源支持:

  • AI 模型访问:安全研究人员配备 OpenAI 的前沿模型以及 Codex Security,以支持分析、补丁开发、测试和文档编写。
  • 项目权益:参与项目可获得 ChatGPT Pro 访问权限、有条件访问 Codex Security,以及用于核心开源开发、维护者自动化和发布工作流的 API 额度。
  • 专用工作流:Trail of Bits 开发了 AI 辅助的工作流,用于去重、分类和补丁生成,供项目方使用。

初期参与项目

首批参与者包括 cURLNATS Serverpyca/cryptographySigstoreaiohttpGo 项目freenginxPythonpython.org。这些项目支撑着广泛使用的网络、加密、软件供应链和语言基础设施,其安全性的提升将惠及广泛的下游产品和服务。

初步成果与效率提升

Trail of Bits 的安全工程师全天候使用 CodexGPT‑5.5‑Cyber 处理 19 个开源项目,已识别出数百个安全问题并合并了数十个补丁。该计划还构建了可复用的安全基础设施,包括模糊测试框架、历史 CVE 分析管道、差异测试系统等。

以下是几个体现 AI 辅助效率的具体案例:

  1. 一天内建立模糊测试实验室 Trail of Bits 工程师利用 GPT‑5.5‑Cyber 进行多次 Codex /goal 运行,在不到一天的时间内构建了一个覆盖数十个入口点、变体构建、平台和新型测试种子的完整模糊测试实验室。工程师设定目标并优化提示词,系统则利用覆盖率反馈不断扩展测试面,筛选出弱无效候选项。Trail of Bits 估计,手动构建同样的实验室通常需要数周时间。

  2. 发现已知漏洞变体的可复用管道 团队构建了一个端到端系统,摄入历史 CVE,提取相关漏洞模式,在目标代码库中搜索相关缺陷,并通过专门的评判代理发送候选发现。该管道自动去重、过滤可能的误报,并将最强证据路由给安全工程师进行人工确认。这将多年的公开漏洞历史转化为可跨项目应用的重复搜索策略。

  3. 数天内完成差异测试 针对同一协议的不同实现,通常应在相同输入下表现一致,差异可能意味着 Bug。传统上,编写连接各实现与通用测试框架的自定义代码极其耗时。Codex 生成并迭代了这些代码,允许对不同实现进行相互模糊测试并分析行为差异。该工作流在几天内完成了通常需要数周或数月的工作,并过滤出高信号候选项供专家审查。

  4. 基于规范的行为测试 团队利用 Codex 开发基于项目规范和 RFC 的威胁模型、攻击分类法、不变性测试和基于属性的测试。这些方法揭示了预期行为与实际行为之间的显著差异,同时为项目提供了更广泛的测试覆盖、更强的文档以及 CI/CD 和软件供应链工具的改进。

人工审查的关键作用

尽管前沿 AI 模型在发现漏洞和修补方面能力强大,但它们也会产生大量误报,加剧维护者本已不堪重负的积压工作。Patch the Planet 通过专门的安全研究人员在漏洞提交给维护者之前进行人工复核来解决这一问题。研究人员会复现证据、对照项目特定文档和威胁模型检查结果、去除重复项、重新评估严重程度,并根据维护者的偏好开发和提交补丁。维护者始终掌握着补丁部署和披露方式的控制权。

关键要点

  • 人机协作而非替代:计划核心是“AI 辅助发现 + 专家人工审查”。AI 负责大规模扫描、代码生成和初步验证,人类专家负责最终确认、上下文理解和补丁提交,确保结果准确且符合项目规范。
  • 显著的效率提升
    • 模糊测试实验室构建时间从数周缩短至不到一天。
    • 差异测试工作从数周/数月压缩至数天。
    • 历史 CVE 分析转化为可复用的自动化管道。
  • 资源实质性支持:参与项目不仅获得安全修复,还获得 ChatGPT ProCodex Security 访问权及 API 额度,直接赋能项目的日常开发与自动化流程。
  • 维护者主导权:所有发现均经过 Trail of Bits 工程师的初步筛选和验证,确保提交给维护者的报告质量高、误报少。维护者保留对补丁部署和披露节奏的最终控制权。
  • 广泛的基础设施覆盖:首批参与者涵盖网络、加密、语言基础设施等关键领域(如 Python, Go, cURL),旨在提升整个软件供应链的底层安全性。
  • 透明与持续披露:OpenAI 暂时 withholding(保留)了 exploit 机制和项目特定细节,待修复落地和协调披露结束后,将发布更深入的技术报告,分享研究方法和经验教训。

意义与影响

Patch the Planet 标志着 AI 在网络安全领域的应用从“辅助工具”向“核心基础设施维护者”角色的转变。

  1. 解决开源维护者的结构性困境:开源维护者长期面临资源匮乏与工作量激增的矛盾。该计划通过提供经过预筛选的高质量漏洞报告和现成的补丁方案,直接缓解了维护者的认知负荷和时间压力,使社区能够更专注于核心功能开发而非被动应对安全危机。
  2. 确立 AI 辅助安全工程的新范式:通过展示模糊测试、差异测试和历史漏洞变体分析的高效自动化,该计划证明了前沿模型在复杂安全工程任务中的巨大潜力。它提供了一套可复用的工作流模板,其他项目和组织可借鉴此模式提升自身的安全工程能力。
  3. 强化软件供应链安全:通过加固 cURL、Python、Go 等底层基础设施,该计划间接提升了依赖这些库的数百万种下游产品和服务的安全性,对全球软件生态系统的稳定性具有深远
查看原文 →openai.com