Final Authority in AI Governance: Frontier-Provider Sovereignty and Action-Centered Deployer Governance

背景

随着大语言模型及通用能力 AI 系统在企业工作流中深度嵌入，一个关键问题浮出水面：当 AI 系统能自主执行高影响动作时，最终权威（final authority）应该落在谁手中？ 是提供最先进模型的前沿厂商（frontier provider），还是将模型部署到具体业务流程、并承担后果的部署者（deployer）？这一问题关乎 AI 治理框架的设计核心，直接影响到未来企业采用 AI 的责任分配、风险控制与合规路径。

当前，全球主要经济体和国际组织已发布多项 AI 治理指南，如欧盟 AI 法案（EU AI Act）指南、NIST AI 风险管理框架、新加坡代理式 AI 模型治理框架、日本 AI 政策工具以及加拿大的自愿守则等。这些框架在“谁最终对 AI 行为负责”这一问题上存在隐性张力，而本文正是通过比较这些框架，系统论证治理权分配的合理方案。

核心内容

本文的核心贡献在于提出并对比两种 AI 治理的最终权威模型：

1. 前沿提供者主权（Frontier-Provider Sovereignty）
   将特权权威赋予最先进模型的提供者。支持者主张：通过前沿模型测试、发布门控（release gating）、透明度义务以及计算相关控制（compute-related controls）来实现治理。这种模式强调上游（上游指模型提供商）的集中管控，类似于传统软件安全中的“供应商责任”思路。

2. 以行动为中心的部署者主权（Action-Centered Deployer Sovereignty）
   将高影响行动的最终权威赋予实际授权执行该行动、将其嵌入业务流程、并承担下游法律和商业后果的组织——即部署者。该模型强调“谁行动、谁负责、谁承担后果”的原则，认为部署者拥有对企业具体行为最直接的知情权和问责能力。

作者对现有五大公共治理框架进行系统比较：

• 欧盟 AI 法案指南：偏向可追溯性与供应商信息披露，但并未完全排除部署者的运营责任。
• NIST AI 风险管理框架：强调组织层面的风险管理，隐含对部署者运营责任的支持。
• 新加坡代理式 AI 模型治理框架：明确考虑代理式 AI 的自主决策场景，建议将治理重心放在动作本身而非模型层。
• 日本 AI 政策工具：更强调行业自律与用例导向，支持分层责任分配。
• 加拿大自愿守则和管理指南：突出负责任的创新，鼓励部署者根据后果设定控制。

综合比较后，论文发现 分布式运营问责（distributed operational accountability）获得了比单边前沿提供者控制更强的支持。换言之，没有任何现有框架完全将最终权威只给模型提供商，多数框架都要求部署者承担相当的运营控制义务。

此外，论文指出三个驱动因素使得部署者主权模型更具现实价值：

• 企业快速采纳（rapid enterprise adoption）：企业正在迅速将 AI 嵌入核心生产流程，部署者需要即时控制能力。
• 提供商透明度下降（declining provider transparency）：前沿模型提供商的公开透明度在下降（如公开技术细节、训练数据、微调方法等），使得依赖上游单一控制变得不可靠。
• 控制差距扩大（widening control gaps）：提供商的会话对象（session objects）、API 级管控难以匹配企业特定业务流程的细微要求。

基于这些分析，作者提出一个分层而非绝对的结论：

强上游权威在上游能力门控（frontier capability gating）领域仍然合理，例如测试前沿模型是否达到有害能力阈值、决定是否释放等；但 具体企业行动的最终权威更应归属部署者和后果承担者。这意味着治理架构需要一套便携式治理层（portable governance layer），该层以“被治理的动作”（governed action）为中心，而非依赖于提供商自身的会话对象。

关键要点

• 两种最终权威模型对比：前沿提供者主权强调上游单边控制；以行动为中心的部署者主权强调下游运营问责。
• 五大治理框架不支持单边控制：欧盟 AI 法案、NIST、新加坡、日本、加拿大框架均呈现分布式问责倾向，未完全采纳上游唯一权威。
• 现实趋势削弱上游主导：企业采纳加速、提供商透明度下降、控制差距扩大，共同指向部署者必须掌握最终权威。
• 分层治理是理性折中：上游门控（如能力阈值测试、发布限制）保留强上游权威；但企业具体行动（如生成法律文件、执行金融交易）的最终权威应交给部署者。
• 便携式治理层更可行：以“受治理的动作”而非“提供商会话对象”作为治理单元，可跨供应商、跨模型、跨业务流程生效。
• 结论并非绝对：最终权威的分配是分层结构，而非“要么上游全管、要么下游全管”的二元选择。

意义与影响

本文为 AI 治理的“责任归属”问题提供了一个务实且可落地的分析框架。其意义主要体现在以下几个方面：

1. 为监管政策提供结构参考：当前各国 AI 政策往往在“事前审批”与“事后追责”之间摇摆。本文的“分层模型”既能满足对前沿模型能力进行集中风险管控的需求，又充分尊重企业作为实际使用者的运营自主权与后果承载能力，有助于弥合政策中的真空地带。

2. 推动企业治理实践变革：企业部署 AI 时往往依赖供应商的 API 安全承诺，但本文指出这种依赖不可持续。部署者应主动建立一套以“动作”为中心的治理层，覆盖从授权、执行到审计的全路径，而非被动接受提供商的功能限制。

3. 挑战当前行业主导叙事：一些前沿模型提供商主张“模型即平台”的治理封闭性，试图将治理权集中到自己手中。本文通过制度比较和逻辑论证，有力地表明这种模式与多数成熟监管框架的取向不符，且无法应对企业日益增长的异构性和自定义需求。

4. 重新定义“控制”的含义：在代理式 AI（agentic AI）场景下，模型输出的动作可能连续且不可预测。将最终权威放在动作授权方（部署者）能更自然地匹配法律与商业中的“代理人责任”原则——谁授权了行为，谁就应为其后果负责。这为未来代理式 AI 的法律责任归属奠定了理论基础。

5. 对开源与闭源之争的隐含回应：虽然本文未直接讨论开源模型，但其“便携式治理层”概念天然适用于开源场景——部署者可以在任何模型之上实现一致的治理机制，从而降低对特定供应商的依赖。这有助于提升企业迁移灵活性与供应链韧性。

总体而言，本文并非提供一个终极解决方案，而是为 AI 治理的决策者（包括监管机构、企业 CISO、合规负责人和技术架构师）提供了一条清晰的论证路径与行动方向：在风险可控的前提下，将最终权威交给离动作最近、后果最切身的那一方。 这对于正在高速发展的企业级 AI 应用而言，具有直接且紧迫的实践指导价值。