政府与Anthropic、OpenAI讨论模型安全细节不明

背景

OpenAI 近期向公众全面开放其最新前沿大型语言模型 Sol。据称，Sol 的能力至少与 Anthropic 的 Fable 相当——而 Fable 曾因其能力（或所有权）引起白宫高度紧张，一度被禁止公开使用。然而，这些模型如何获得政府放行，外界对此几乎一无所知。在特朗普政府执政 18 个月后，围绕前沿模型审批流程的透明度依然严重缺失，争议与不确定性并存。

核心内容

OpenAI 的 Sol 模型已进入广泛部署阶段，但其安全审批过程并不透明。乔治城安全与开放技术中心高级研究分析师 Mina Narayanan 告诉 TechCrunch：“坦白说，我无法洞察那些具体流程，所以我并不认为自己有足够信息来判断它们是否充分。”她指出，Anthropic 曾表示与政府有过对话，开发了检测越狱尝试的分类器，并实施了防御性缺口策略，但政府与 Anthropic 及 OpenAI 之间的具体对话细节仍不清晰。

前特朗普政策顾问、现 OpenAI 员工 Dean W. Ball 在其上月的通讯中写道：“没有人知道获得许可的具体要求是什么。”Databricks、Perplexity 和 Laude Institute 的联合创始人、计算机科学家 Andy Konwinski 也表示，他从未与任何真正理解该流程的人交谈过，甚至包括前沿实验室的员工。他说：“这存在性地是一个问题——无论安全与否，关键在于谁拥有决策权，谁在把关并决定许可权限？”

特朗普政府上台 18 个月以来，前进方向依然不明朗——部分批评者认为，这正是因为制定政策的行业人物自身缺乏清晰指引。上月，在数周内斗之后，一份行政令发布，列出了评估前沿模型的路线图，但除了一些明确不会存在的部分（如“不会有一个 AI 领域的 FDA”），具体细节仍付之阙如。前 Andreessen Horowitz 合伙人、上月刚离职的白宫 AI 高级顾问 Sriram Krishnan 告诉《金融时报》：“不会有 AI 的 FDA。”

值得注意的是，对于哪些模型需要政府审查、由哪个或哪些机构执行评估，至今没有共识。目前，商务部下属的 AI 标准与创新中心似乎主导此事，但行政令要求六个内阁机构在 8 月初前确定最终流程。在此期间出现的做法充其量只是临时性的。

OpenAI CEO Sam Altman 在 CNBC 上说，审批过程涉及与商务部长 Howard Lutnick、财政部长 Scott Bessent 及美国国家网络总监 Sean Cairncross 等官员的对话，但测试模型的专家是谁、如何测试并不清楚。OpenAI 拒绝了向 TechCrunch 提供政府流程细节，但指出了英国 AISI、SecureBio 和 Irregular 等机构在最新模型安全卡上进行的几项外部评估结果。

与 Anthropic 的 Fable 发布类似，OpenAI 在更广泛公开前向政府及部分选定用户预览了模型，但外界不知道所有用户是谁、如何选定。在 6 月底的一篇博文中，公司表示“不认为这种政府接入流程应成为长期默认做法”，并称将与政府合作制定不同的前进路径。

然而，这些对话的背景包括：据报道 Altman 曾提议将 OpenAI 多达 5% 的股权交给政府所谓的“特朗普账户”（Trump Accounts），而 OpenAI 总裁 Greg Brockman 是特朗普中期政治运作中已知的最大公开捐赠者。外部观察者很难将这些活动与政府对 Sol 明显宽松的监管态度区分开来。

另一方面，Anthropic 的 Fable 曾因美国政府禁止外国公民使用而短暂撤回公众访问，部分原因是用户越狱模型获取黑客能力的实际担忧，部分原因是 Anthropic 与特朗普政府之间的个性冲突。出口禁令的威胁可能也促使 OpenAI 更配合政府（未知的）要求。

从行业角度看，不干涉的监管方式或许不错，但依赖于与政府官员的个人关系则带来了不确定性和不良激励。Konwinski 告诉 TechCrunch，他担心这项技术的真正专家——安全研究员、对齐研究员、可解释性研究员，还有数据人员及各个层面的从业者——在模型发布过程中并未发挥足够作用。

Konwinski 认为，“开放共享”才是真正平衡安全与创新的最佳方式。他援引 FDA、NIH 或国家实验室等模式，这些机构召集研究员、政府官员和私营公司就安全问题达成共识。部分问题归结于资本主义的激励——十多年来激励 AI 研究者的因素，并在 Elon Musk 挑战 OpenAI 公司结构的诉讼中上演。Ball 指出，AI 业务的性质要求公司必须在模型发布后不久、且仍领先竞争对手时快速收回大量训练成本。

“即使他们意图良好，运营程序中也内置了非常明确的法律义务和受托责任。”Konwinski 指出。Ball 在帖子中主张，前进之路将依赖于政府授权的第三方审计组织，评估前沿实验室的安全方法。Konwinski 也看好新型机构形式，如聚焦研究组织，可帮助来自学术界和非营利领域的更超脱专家访问和评估前沿模型。

目前，AI 发展中的保密性不会消失，但它也将为这个日益受到美国民众怀疑的行业埋下政治挑战。威斯康星大学麦迪逊分校计算机科学教授 Remzi Arpaci-Dusseau 上周在 Open Frontier 会议上说：“人们感觉不到有负责任的人在推动这些变化。”在同一活动中，量化对冲基金 Two Sigma 的创始人、计算机科学家 David Siegel 向与会者发问：“请想象一种情况——我认为那将非常糟糕：少数几家公司控制技术；政府在他们的秘密实验室里评估技术是否适合使用；而广大公众和科学界根本无法接触任何这些东西。”看来，我们不需要想象了。

关键要点

• 审批流程完全不透明：从研究员到业内高管，无人知晓政府如何决定前沿模型是否安全可发布。
• 缺乏明确监管框架：特朗普政府18个月后，行政令只提供路线图，具体要求和负责机构仍未确定。
• 个人关系与利益冲突风险：OpenAI与政府高层的密切个人联系（如股权捐赠、政治捐款）引发外界对监管偏袒的担忧。
• 外部专家未能参与：安全、对齐、可解释性等领域的真正专家在模型审批过程中角色缺失。
• 模型分类缺少共识：哪些模型需要政府审查、由哪个机构执行，至今无定论，商务部暂为牵头单位。
• 临时性措施替代制度化流程：模型预览、外部评估结果等做法零散而非常态，公司也不愿长期依赖政府接入流程。
• 产业激励与公共信任矛盾：企业需快速收回成本，而公众对AI行业怀疑加深，缺乏负责任的推动力。

意义与影响

当前 Open AI 和 Anthropic 前沿模型获批公开使用的隐秘模式，暴露出美国政府在 AI 监管上的制度真空。依赖个人关系和临时性安排，而非透明、可复用的科学评估流程，不仅造成不确定性，还放大了利益冲突风险——当开放 AI 总裁同时是总统竞选的大额捐赠者，外界很难相信审批过程完全客观。

从产业角度看，宽松监管短期内利好企业，但长期会侵蚀公众信任。正如 David Siegel 所警示的，少数企业秘密控制技术、政府闭门评估、公众被排斥在外，这本身就是一个糟糕的处境。如果缺乏制度化、多方参与的评估机制，未来可能催生更多类似 Fable 被突然禁用的事件，或导致企业通过政治献金获取有利待遇，进而破坏 AI 行业的公平竞争与可持续创新。

Konwinski 提出的“开放共享”模式——仿效 FDA 或国家实验室的共识机制——或许提供了可行方向：由独立的第三方审计组织持证评估前沿模型安全，并吸纳学术界和非营利机构专家参与。然而，实现这一愿景需要克服巨大的政治惯性、企业利益和现有权力结构。短期内，模型发布的“黑箱”情况可能持续，而随着美国民众对 AI 行业怀疑升温，缺乏透明度的做法终将损害整个产业的社会合法性。