AI 与网络安全的未来：为什么“开放性”至关重要

背景

随着大型语言模型（LLM）在代码相关任务上的表现呈指数级增长，AI 在软件安全领域的应用正迅速从理论走向实践。近期，Hugging Face 博客发布了一篇题为《AI and the Future of Cybersecurity: Why Openness Matters》的文章，深入探讨了 AI 模型（特别是名为 Mythos 的前沿 AI 模型）在发现软件漏洞和自动打补丁方面的能力。

文章指出，Mythos 并非孤立存在，而是嵌入在一个复杂的系统之中。该系统结合了强大的算力、经过海量软件数据训练的模型，以及专门用于漏洞探测和修补的脚手架结构。这种系统级的能力使得 AI 能够快速识别并修复软件漏洞。然而，这种能力的双刃剑效应也引发了关于网络安全防御策略的深刻思考：在自主性日益增强的 AI 时代，开放源代码和工具链是否比封闭系统更能提供实质性的安全保障？

核心内容

文章首先剖析了 Mythos 这一案例，指出其成功的关键不在于单一模型的参数规模，而在于其背后的“系统配方”。这一配方包括：充足的算力、基于大量软件相关数据训练的模型、专门构建的漏洞探测与修补脚手架、由算力支撑的速度优势，以及一定程度的系统自主性。这些要素共同作用，使得 AI 能够发现漏洞、利用漏洞并构建补丁。

文章强调，AI 网络安全能力并非随着模型大小或通用基准测试性能平滑扩展，而是呈现出“锯齿状”分布。这意味着，嵌入在具备深厚安全专业知识系统中的较小模型，可能以更低廉的成本产生与大型系统相似的效果，这对防御方而言是一个极具前景的信号。

在探讨“开放性”为何具有结构性优势时，文章提出了几个核心论点：

1. 安全是一场速度竞赛：软件安全涉及检测、验证、协调和补丁传播四个阶段。开放生态系统将这些阶段分散在整个社区中，而封闭源代码项目则将知识和行动集中在单一供应商手中，形成了单点故障风险。开放开发的分布式特性使其对这种约束具有更强的鲁棒性，特别是在拥有专职安全专业人员（如 Linux 内核安全团队、开源安全基金会 OpenSSF、Hugging Face 的模型与供应链安全团队）的社区中，这种优势更为明显。

2. 封闭并不等于安全：支持封闭系统的常见理由是“专有隐蔽性”（proprietary obscurity），即代码不可访问。然而，随着 AI 系统在逆向工程剥离二进制文件方面能力的提升，这种保护已大打折扣。大多数遗留固件和嵌入式代码是封闭的、仅二进制的且不再维护，构成了巨大的攻击面。随着 AI 工具改进，这些代码正变得日益可读和可访问。

3. 封闭代码库的内部风险：当公司在错误的激励机制下（例如，以功能交付量而非代码质量评估工程师）采用 AI 编码工具时，AI 加速的开发可能会在专有代码中引入比传统开发更多的漏洞。这些漏洞隐藏在封闭的代码库中，只有单一组织能发现并修复，而 AI 赋能的攻击者则越来越擅长从外部发现它们。这种“更多漏洞、更快产生、单一防火墙后”的组合，正是开放生态系统旨在避免的失衡状态。

4. 能力不对称的缩小：攻击者与防御者之间存在能力不对称。开放模型和开放工具通过让防御者获得攻击者所能触及的同类能力，缩小了这一差距，防止这些能力仅集中在少数资源丰富的实体手中。

在构建防御方面，文章建议采用“半自主智能体”（semi-autonomous agents）模式。虽然 Mythos 显示出接近完全自主运行的能力，但文章对此持谨慎态度，因为存在失控风险。半自主模式规定智能体可执行的动作类型是预定义的，且某些步骤需要人工批准。在这种模式下，人类保持控制权，AI 负责特定子任务。通过运行私有化的开放代码，组织可以指定允许的工具、技能和系统访问权限，从而在自身控制下部署防御性 AI 智能体。

此外，半自主方法的有效性依赖于人类能够理解 AI 智能体的行为及其原因。当系统建立在开放组件（如开放智能体脚手架、开放规则引擎、可审计的决策日志和追踪记录）之上时，这比黑盒系统更容易实现。“人在回路中”（human in the loop）只有在人类能“看到”回路内部时才具有意义。

对于高风险组织，从开放、可审计的基础出发意味着安全团队可以实际检查其监控机制的工作原理，而不是盲目信任单一供应商的主张。开放系统可以由内部安全专业人员严格分析，使用组织自身的安全数据进行微调，修改以产生组织特定的监督机制，并完全在组织的基础设施内运行，将所有内容保持在适当的防火墙之后。

关键要点

• 系统优于模型：AI 在网络安全中的能力取决于嵌入模型的系统架构（算力、数据、脚手架、速度、自主性），而非单一模型的性能。
• 开放生态的结构性优势：开放代码和工具链通过分布式社区协作，避免了封闭系统中存在的单点故障，并在检测、验证、协调和补丁传播的速度竞赛中提供优势。
• 封闭系统的脆弱性：“专有隐蔽性”已不足以抵御 AI 驱动的逆向工程。封闭代码库可能因 AI 加速开发引入更多漏洞，且这些漏洞难以从外部被防御者发现，却易被 AI 攻击者利用。
• 半自主智能体是关键：完全自主的 AI 智能体存在失控风险，而半自主智能体（预定义动作、需人工批准）在收益与风险之间取得了平衡，前提是系统组件开放且可审计，确保“人在回路”的有效性。
• 防御者的平等机会：开放模型和工具缩小了攻击者与防御者之间的能力不对称，使防御者能够利用与攻击者相同的技术栈。
• 高风险组织的最佳实践：对于涉及敏感数据和流程的组织，使用开放、可审计的基础设施，允许内部团队进行严格分析、微调和私有化部署，是确保数据隐私和安全控制的必要手段。
• 透明实践是未来：面对协调一致的攻击者，组织不能孤立地依靠专有工具进行防御。开放的安全审查、发布的威胁模型、共享的漏洞数据库和开放的工具体系是应对未来 AI 网络威胁的关键。

意义与影响

这篇文章对 AI 网络安全领域产生了深远的影响，它挑战了“封闭即安全”的传统观念，并重新定义了防御策略的核心。

首先，它揭示了 AI 时代网络安全的本质变化：安全不再仅仅是代码质量的问题，而是系统架构和生态协作的问题。随着 AI 智能体能够自主发现并利用漏洞，防御方必须采用同样灵活、快速且透明的技术栈。开放源代码不再仅仅是一种开发模式，而是一种生存策略，它提供了必要的可见性、控制权和社区支持，使防御者能够跟上攻击者的步伐。

其次，文章强调了“人在回路”在 AI 安全中的重要性。随着 AI 自主性的增强，确保人类能够理解、审计和控制 AI 决策变得至关重要。开放组件和可审计的日志是实现这一目标的技术基础。这对于制定 AI 安全政策和合规标准具有指导意义，推动了从“黑盒信任”向“白盒验证”的转变。

最后，对于高风险组织和监管机构而言，文章提供了明确的行动指南：优先采用开放、可审计的安全工具，支持开源社区的安全研究，并在内部基础设施中部署半自主的 AI 防御系统。这不仅有助于保护敏感数据，还能促进整个行业的安全水平提升，通过共享威胁情报和最佳实践，构建更具韧性的全球网络安全生态。

总之，AI 网络安全的未来将由围绕模型的生态系统塑造，而非单一模型本身。开放性为防御者提供了保持领先所需的透明度、控制力、社区协作和共享基础设施，这是在日益复杂的 AI 对抗环境中不可或缺的优势。