OpenAI 公共政策议程深度解读

背景

OpenAI 的使命是确保通用人工智能（AGI）造福全人类。这一使命不仅指导着其技术构建方式，也深刻影响着其在公共政策领域的参与策略。OpenAI 认为，AI 具有重塑人们工作、学习、创造及社会参与方式的巨大潜力，而民主制度在扩大机会获取、缓解风险以及赋予人们塑造未来 AI 愿景的实权方面，扮演着不可或缺的角色。

为了践行这一使命，OpenAI 确立了五项核心原则：民主化（防止权力过度集中）、赋能（帮助个人实现目标与幸福）、普遍繁荣（让每个人都能拥有优质生活）、韧性（与多方合作解决新风险）以及适应性（随着认知深化不断调整立场）。

OpenAI 的用户群体结构反映了其“自由且安全地获取技术”的承诺：其用户中男女比例均衡，30 岁以下和 30 岁以上的用户数量均超过其他任何 AI 平台，且收入低于 10 万美元的用户多于高于该收入水平的用户，这与全球劳动力的整体分布相吻合。基于此，OpenAI 积极与全球各国政府及公民社会互动，旨在帮助政策制定者理解技术及其影响，改善政府职能，扩大公众参与民主机构的能力，并塑造推动其使命的政策。

核心内容

OpenAI 将其使命和原则转化为具体的公共政策优先事项，旨在帮助政府和社会应对 AI 带来的机遇与挑战，缓解风险，扩大机会获取，并确保人们能实质性地参与并受益于 AI 经济。以下是其政策议程的详细解读：

1. 前沿 AI 安全与国家/公共安全

OpenAI 认为，前沿 AI 安全不仅是技术问题，更是国家安全和公共安全议题。特别是对于最先进的通用 AI 模型，其可能引发与网络、化学、生物、放射性及核（CBRN）武器相关的风险。

• 支持州级立法框架：在美国，OpenAI 支持各州围绕共同框架对齐努力，例如加州 SB 53 法案、纽约 RAISE 法案以及伊利诺伊州 SB 315 法案。这些法案强调透明度、关于灾难性风险评估和安全事件的公开报告、吹哨人保护，以及对未能履行安全和安保责任的开发商实施可执行的问责制。这些州级举措有助于建立协调的标准，减少碎片化，并为未来的联邦框架铺平道路。
• 呼吁联邦综合框架：OpenAI 支持国会采取行动，建立综合性的联邦框架。该框架应利用州级前沿安全法律中出现的共识，加强人工智能标准与创新中心（CAISI）作为美国联邦政府在前沿 AI 安全方面的主要机构地位，并动员更广泛的政府韧性计划以应对前沿 AI 带来的挑战。
  • 该框架应要求 CAISI 对最强大前沿模型进行评估。
  • 指示 CAISI 创建独立的评估生态系统。
  • 优先监测迈向递归自我改进（RSI）的进展。
  • 在建立综合联邦框架后，支持预empt（取代/优先于）旨在监管相同前沿安全风险的州法律。
• 国际标准化与自愿协议：OpenAI 支持美国联邦政府在设定共同国际标准方面发挥领导作用，并成为首家签署欧盟《人工智能法案》（EU AI Act）行为准则的美国公司。此外，OpenAI 也是首批与美国 CAISI 和英国人工智能安全研究所（UK AISI）达成自愿协议的公司之一。
• 未来展望：政策制定者应开始考虑更雄心勃勃的想法，如模型遏制预案（model containment playbooks）、事故报告机制，以及促进前沿 AI 风险、保障措施和安全事件协调的国际治理机构。

2. 网络安全

在网络安全领域，OpenAI 支持以下政策：

• 扩大对基于 AI 的网络防御工具的受信任访问。
• 加强政府、研究人员和行业之间的合作伙伴关系，以进行评估、深化信息共享并建立韧性措施，从而加强网络防御。
• 支持更新过时的公共部门网络安全系统。
• OpenAI 正在与美国联邦、州和地方政府以及国际合作伙伴开展合作。

3. 青少年安全与保护

OpenAI 相信，如果部署得当并具备强有力的保障措施和适龄保护，AI 可以帮助年轻人学习、创造，并培养在未来经济中蓬勃发展所需的技能和创业思维。

• 全面保护体系：青少年应在家中、学校以及准备进入职场时，都能接触到安全、可信的 AI，并免受其潜在危害。
• 具体保障措施：
  • 隐私保护的年龄确认：要求公司识别未成年人并应用适龄保护。
  • 定期青少年安全风险评估：在伤害发生前识别可预见的风险并驱动相应的保障措施。
  • 易于使用的家长控制：帮助家庭引导和支持青少年的体验。
  • 清晰的公共青少年安全政策：解释现有的保护措施及其随时间的演变。
• 交互风险防护：
  • 防止有害或不适宜年龄的内容。
  • 建立应对严重安全事件的清晰协议。
  • 防止操纵性或欺骗性的交互。
  • 危机响应协议：包括服务内支持、推荐现实世界资源（如美国的 988 危机热线）以及在适当时及时通知家长。
• 数据隐私与广告限制：公司被要求保护青少年的个人信息，包括限制针对未成年人的定向广告和个人数据的出售。
• 问责与审计：
  • 需要强有力的问责机制，包括独立审计，以确保保护措施在实践中具有意义。
  • 审计应基于一套共同标准，以实现跨司法管辖区的可互操作性审计。
  • 立法框架应包括监督和执法措施，使政府能够评估公司是否有效实施青少年安全保障措施、缓解已识别的风险并遵守相关义务。
• 联盟支持：OpenAI 自豪地支持“父母与儿童安全 AI 联盟”（Parents and Kids Safe AI Coalition）的努力，以推进这些原则并推广保护年轻人的实用 AI 保障措施，同时保留他们从 AI 中学习和受益的能力。

关键要点

• 五大核心原则：OpenAI 的政策行动基于民主化、赋能、普遍繁荣、韧性和适应性这五项原则，旨在防止权力垄断并促进社会整体福祉。
• 联邦优先于州级监管：在前沿 AI 安全领域，OpenAI 支持以加州、纽约等州的法律为蓝本，建立统一的联邦框架（通过 CAISI 执行），并主张在联邦框架确立后，优先于现有的州级监管法律，以避免监管碎片化。
• 聚焦高风险模型：政策重点特别针对可能引发 CBRN（化学、生物、放射性、核）风险的最先进通用 AI 模型，强调透明度、事故报告和独立评估。
• 递归自我改进（RSI）监测：新的联邦框架需特别优先监测 AI 迈向递归自我改进的进展，这是前沿 AI 安全的关键指标。
• 国际协作与标准制定：OpenAI 积极扮演国际协调者的角色，签署欧盟 AI 法案行为准则，并与美国、英国监管机构达成自愿协议，推动全球共同标准的建立。
• 青少年保护的“硬性”要求：针对青少年用户，OpenAI 提出的政策建议极具操作性，包括强制性的隐私保护年龄确认、定期风险评估、家长控制工具、危机响应协议（如连接 988 热线）以及严格的广告和数据销售限制。
• 独立审计与问责：强调通过基于共同标准的独立审计来验证保护措施的有效性，并要求政府拥有监督和执法权力，确保企业合规。

意义与影响

OpenAI 发布这份公共政策议程，标志着其从单纯的技术开发者向全球 AI 治理关键参与者的角色转变。

首先，确立了“安全即国家安全”的叙事框架。通过将前沿 AI 安全与国家安全和 CBRN 风险挂钩，OpenAI 成功地将自身的技术监管诉求提升到了最高政治层面，这有助于争取政府在立法和资源上的支持，同时也为行业设定了极高的安全合规门槛。

其次，推动了监管从“碎片化”向“标准化”演进。OpenAI 明确支持以州级立法为跳板，最终形成统一的联邦框架，并预empt 州法。这种策略有利于消除跨州经营的合规成本，为大型 AI 公司创造可预测的法律环境，同时也展示了 OpenAI 在塑造美国乃至全球 AI 监管标准方面的