AI能力已具政治影响,需集体行动应对
速览
AI模型的能力发展已达到产生实质性政治影响的阶段。面对这些后果,仅靠单一公司或国家无法解决,必须依靠全球范围内的集体行动。这标志着AI治理从单纯的技术竞争转向了更广泛的社会与政治协作。
AI 深度解读
不再只是 Anthropic 与 OpenAI 之争:AI 监管下的行业集体困境
背景
近期,美国政府对前沿人工智能模型发布的控制权显著加强。两周前,美国政府叫停了 Anthropic 的 Fable 和 Mythos 模型。紧接着,OpenAI 的新模型也似乎陷入了同样的“等待期”。据《The Information》周四报道,OpenAI 的 GPT 5.6 将仅以“有限预览”的形式发布,且政府要求“逐个客户”批准发布,直到获得全面发布的许可。
如果这种预览期仅如 Altman 据报道所预测的持续“几周”,那可能并非大问题。然而,Anthropic 的 Mythos 模型已经处于预览状态数月,且短期内似乎没有全面发布的迹象。即便只是几周的审查期,也可能在 AI 实验室拼命改善财务状况之际,显著限制昂贵新系统的经济收益。如果因此导致模型开发速度放缓,很可能也会给正在进行的算力中心建设带来类似的冷却效应。
核心内容
文章指出,如果当前的监管走向失控,整个行业都将面临风险。关键在于,OpenAI 和 Anthropic 现在处于完全相同的位置,面临同样的问题,且如果处理不当,两者都将面临同样的灾难。
科技行业内部的讨论往往聚焦于哪一方应对此负责:有人指责 Anthropic 搞“监管俘获”(regulatory capture),即通过游说建立有利于自身的监管壁垒;也有人指责 OpenAI 与特朗普政府关系密切,意在通过政治手段排挤竞争对手。这种争论是可以理解的,因为行业内许多知名人物都有数十亿美元押注在某一家公司身上。
但现实情况远比两家公司之间的博弈更为宏大。为每个前沿模型实施杂乱无章的政府审批流程,其成本是显而易见的,且不存在一种既能帮助一家实验室而不帮助其他实验室的解决方案。
当前最紧迫的问题是如何建立一个合理的发布流程。政府在产品发布前进行测试是合理的(这在许多消费品领域很常见),但正如 GMU 研究员(即将加入 OpenAI 的 Dean Ball)在今早发表的一篇 eloquent 文章中所详述的,目前尚不清楚能设立何种安全保证来满足监管要求。美国政府缺乏在此类测试中所需的专长和能力。更不清楚的是,监管者究竟试图防范何种风险,因为政府方面从未明确阐述其真正担忧的风险是什么。
虽然很容易将政府流程本身视为问题的全部,但其背后确实存在真实的担忧。即使你不相信关于 Mythos 的炒作,也有确凿证据表明 AI 工具正在彻底改变网络安全领域。类似的过程也存在于生物风险和 AI 对齐(alignment)领域。单纯限制模型发布并不能解决所有问题——这只会限制公众可使用的工具——但确实有需要解决的真实关切。
关键要点
- 行业立场趋同:OpenAI 和 Anthropic 目前面临相同的监管压力和潜在灾难,两者不再是简单的竞争关系,而是利益共同体。
- 监管流程缺失:美国政府缺乏测试前沿模型所需的专业技术和能力,且未明确界定需要防范的具体风险,导致审批流程显得杂乱无章。
- 经济代价高昂:漫长的审查期不仅限制了新模型的经济回报,还可能阻碍 AI 实验室改善财务状况的努力,进而冷却数据中心等基础设施的建设。
- 真实风险存在:尽管监管流程存在问题,但 AI 在网络安全、生物风险和 AI 对齐领域的潜在风险是真实存在的,不能仅通过限制发布来简单应对。
- 解决方案在于合作:Ball 提出的最佳方案强调行业合作,包括信任独立机构引导流程、支持次优但可行的监管选项,并将 AI 视为一个整体行业来争取利益,而非将安全与监管视为获取竞争优势的工具。
意义与影响
对于许多从事 AI 工作的人来说,要求行业团结起来是一个艰难的销售任务。不幸的是,AI 模型的发展已经使其能力产生了真正的政治后果。应对这些后果需要集体行动。
未来的几周将检验 AI 行业是否具备这种集体行动的能力。如果行业继续陷入内部斗争,而未能建立统一、合理且高效的监管沟通机制,那么整个 AI 产业可能会因监管的不确定性而遭受重创。反之,如果行业能够超越公司间的零和博弈,共同推动建立科学的评估体系和透明的发布流程,那么 AI 技术才能在安全与创新的平衡中持续发展。这不仅关乎 Anthropic 或 OpenAI 的成败,更关乎整个 AI 生态系统的未来生存空间。
