OpenAI 发布内部红队模型 GPT-Red 用于自动化漏洞检测

背景

近年来，随着大语言模型（LLM）在各类生产环境中的广泛应用，其安全性问题日益凸显。从提示符注入攻击到思维链伪造，攻击者不断寻找模型逻辑漏洞以绕过安全限制。OpenAI 作为行业领先者，长期面临对外模型产品被越狱攻击的挑战。在此背景下，OpenAI 内部研发了一套自动化红队模型，旨在通过模拟攻击来提升模型的鲁棒性。2026年7月，OpenAI 正式公开介绍了这一模型——GPT-Red，标志着其安全策略从被动防御转向主动对抗的演进。

核心内容

OpenAI 介绍其内部使用的网络安全「红队」模型 GPT-Red。该模型能够自动化模拟各类网络攻击，专门用于提升对外发布模型产品（如 GPT-5.6 Sol 系列）的鲁棒性。在过去的半年中，自 GPT-5.3 之后的每一个生产模型都使用了 GPT-Red 进行训练和测试。经过这一流程，伪造思维链型攻击的成功率大幅降低。具体而言，在针对 GPT-5.6 Sol 的直接提示符注入攻击测试中，GPT-Red 导致的失败率仅为 0.05%。

GPT-Red 的训练方法采用自博弈强化学习。它与一个防御型 LLM 在红队场景下同步训练：当 GPT-Red 成功诱发出防御模型的有效失败时，它会获得奖励；随着防御模型逐渐变强，GPT-Red 会被迫开发出更强、更多样化的攻击策略。这种对抗式训练使红队模型持续进化，从而保持对最新漏洞的检测能力。

值得注意的是，GPT-Red 与交付给外部用户的产品模型完全隔离，不会影响正常模型的使用体验。OpenAI 认为，这一机制开启了良性 AI 网络安全循环：借助当前已有的模型能力，可以训练出更强的防御模型，而更强的防御模型又反过来催生更强大的红队模型，如此循环往复，不断强化未来模型的鲁棒性、一致性与可信度。

关键要点

• GPT-Red 是 OpenAI 内部专用的自动化网络安全红队模型，通过模拟攻击来提升对外模型的安全性。
• 该模型已应用于自 GPT-5.3 之后的所有生产模型，训练周期超过半年。
• 在 GPT-5.6 Sol 上，GPT-Red 的直接提示符注入攻击失败率仅 0.05%，显示出极高的攻击成功率。
• 训练方法采用自博弈强化学习，红队与防御模型同步训练，攻击成功则获得奖励。
• 随着防御方变强，GPT-Red 会自主开发更强、更多样化的攻击手段，形成对抗性进化。
• GPT-Red 完全独立于产品模型，不触及用户交互层。
• OpenAI 认为该机制可开启良性循环：用现有模型增强未来模型的鲁棒性、一致性及可信度。

意义与影响

GPT-Red 的推出标志着 AI 安全领域从静态防御向动态对抗的范式转变。传统安全测试多依赖人工红队或静态规则，而自博弈强化学习驱动的自动化红队模型能够持续发现未知漏洞，尤其在思维链伪造、提示符注入等高阶攻击场景中表现出色。0.05% 的失败率数据表明，该方法已接近实用门槛。

从行业角度看，OpenAI 将此技术开放介绍（尽管未公开模型本身），可能推动其他机构跟进类似的安全训练框架。良性循环的提出——即用当前模型训练未来更安全的模型——为整个 AI 行业提供了一种可复用的安全增强路径。不过，这也引发了对红队模型自身安全的担忧：如果 GPT-Red 的代码或权重被泄露，第三方可能利用其攻击能力。OpenAI 强调其与产品模型隔离，但长期来看，如何平衡红队能力与滥用风险仍是重要课题。总体而言，GPT-Red 展现了大型语言模型安全研究的实际进展，并为后续模型的可信部署奠定了基础。