Built to benefit everyone: our plan 深度解读

背景

每隔几代人，就会出现一种改变一切的新兴技术。回顾历史，20世纪20年代电力进入美国农村小镇是一个典型的例子。在输电线抵达之前，日常生活受限于物理条件：人们需要手动搬运水源、手洗衣物、用冰块保存食物，并在日落时结束大部分活动。

电力并非在一夜之间改变了每一个家庭，其带来的利益最初也是不均衡的。但随着普及，普通人的生活发生了根本性变化：夜间照明延长了白昼；电动泵、家用电器和制冷设备减轻了繁重的体力劳动；无线电将数百英里外的新闻、音乐和连接带入家庭和社区空间。

电力的首要承诺是实用性，但其更深远的影响来自于它随着更多人使用而开启的新可能性。随着时间的推移，机器和计算机极大地加速了医学、工程及其他领域的进步。到20世纪末，平均预期寿命增加了约23年，经通胀调整后的平均收入增加了约50%。这些增益在很大程度上得益于医疗保健、卫生设施和居住标准的进步，而这些进步许多都是由广泛电气化及相关技术发展所推动或加速的。

如今，人工智能（AI）正在重演这一历史进程。AI 很快将具备非凡的能力，但重点不在于技术本身，而在于人们能利用它做什么。它可以帮助人们处理医疗账单、学习新技能、创办小企业、照顾年迈的父母、理解法律或财务决策、将想法变为现实，甚至做出科学发现。

虽然夜间灯光的奇迹可能很快习以为常，但人们利用它所做之事的影响却持久存在。鉴于技术一直是长期繁荣的可靠载体，OpenAI 认为 AI 应当像电力一样，随时随地、按需供所有人使用。

核心内容

OpenAI 的愿景并非让技术自动带来美好未来，因为变革性技术既可以集中权力，也可以分散权力；可以让少数人的生活更轻松，也可以为多数人拓展机会。OpenAI 的方法论植根于一种信念：AI 应当服务于人，帮助人们追求自身目标，增强人类能力，并尽可能广泛地分配这项技术的红利。

1. 构建服务于人类的 AI OpenAI 的首要承诺是构建服务于人类的 AI。这意味着我们要广泛赋权于人，而不是让权力集中在少数公司、政府或个人手中。OpenAI 相信，一个更安全的世界是权力广泛分布的世界，这样世界上更多的人才能参与构建“AI 韧性生态系统”（AI Resilience Ecosystem）。

2. 安全、对齐与人类控制 OpenAI 对 AI 持乐观态度，因为它相信 AI 能扩展人类能力和繁荣，但也清醒地认识到风险。强大的系统必须保持安全，与人类意图对齐，并受人类控制。OpenAI 的使命是确保通用人工智能（AGI）造福全人类。这意味着构建的系统应帮助人们做更多他们选择做的事情，而不是取代人类关于“什么重要”的判断。

完全自动化一切并非我们想要的未来，那将是空虚且危险的。随着 AI 系统能力的提升，人类的角色变得更加重要：设定方向、进行权衡、应用判断，并将价值观、品味、关怀和责任带入工作中。人类的一个关键长期角色将是决定“什么值得做”。

3. AI 加速 AI 研究 OpenAI 认为，在未来几年内，“AI 进行 AI 研究”将成为决定进步速度的关键因素。对齐（Alignment）本身是一个艰难的研究问题，为了实现快速且深入的进展，研究人员需要 AI 系统来协助测试想法、发现错误、探索替代方案并与我们共同迭代。

4. 全球协调与监管 更快的技术进步使得人类判断和公共协调变得更为重要，而非更不重要。前沿 AI 的发展不应仅由构建最强大系统的公司决定，而应由人、机构和 Society 共同塑造。OpenAI 长期主张建立国际组织，以协调领先的 AI 工作，降低灾难性风险。合作和共享的安全标准是前进道路的重要组成部分，特别是因为商业和国家竞争的激励措施很难回避。此类组织的目标之一应是使世界能够采取协调行动，包括在必要时放缓前沿开发，以便社会韧性、安全性和对齐能力能够跟上步伐。

5. OpenAI 的第三阶段 为了兑现上述承诺，OpenAI 进入了其发展的第三阶段：

• 第一阶段：专注于向 AGI 迈进的研究。
• 第二阶段：当研究具有现实意义时转变为产品公司，部署系统，从用户反馈中学习，并朝着安全且对齐的 AGI 持续进步。
• 第三阶段：经济开始围绕 AI 重塑。核心问题是如何使先进 AI 变得丰富、负担得起、安全、有用且易于使用。前沿能力只是工作的一部分，更大的任务是将这种能力转化为人们真正能够用来繁荣发展的工具。

6. 三大具体承诺

• 构建自动化 AI 研究员：一个能加速并日益自动化研究过程，同时保持可控、可问责并与人相连的 AI 系统。OpenAI 内部认为，到 2028 年 3 月，我们可能将有一大部分研究工作由 AI 系统与研究人员协同完成。
• 加速经济：通过加速科学进步、生产力和经济增长来推动经济，同时确保收益被广泛分享。每个人都应有机会从 AI 创造的繁荣中分得有意义的一杯羹。
• 赋予每个人个人 AGI：让地球上的每个人都能拥有一个个人 AGI，以他们选择的方式受益于人类最具变革性的技术之一。

7. 权力分散的重要性 历史表明，集中的权力带来脆弱性，而广泛共享的权力使社会更具韧性、适应性和自由。因此，访问权限（Access）、安全、隐私、可负担性、开放生态系统和公众监督至关重要。一个好的 AI 未来不应由少数机构控制大部分能力和收益，而应是一个许多人、公司、社区和国家都能构建、受益并掌握权力的未来。如果做对了，AI 将成为生产力、创造力、科学进步和经济机会的基础，从而实现 OpenAI 的使命：确保 AGI 造福全人类。

注：AI 韧性是指社会可以建立的集体组织、系统和个体，以预期、抵御、适应并从 AI 驱动的干扰中迅速恢复。例如，汽车改变了社会，但只有当社会围绕其建立了安全带、交通法、驾照、碰撞测试和道路基础设施等系统后，它才变得广泛有益。目标不是阻止人们开车，而是让这项强大的技术具备广泛使用的韧性。

关键要点

• 技术类比：将 AI 的发展轨迹与 20 世纪初电力的普及进行类比，强调技术从实用工具演变为开启新可能性的基础，最终带来生活质量和寿命的显著提升。
• 权力分布：OpenAI 的核心信念是 AI 不应导致权力集中，而应广泛分布。分散的权力能增强社会的韧性和适应性，避免由少数实体垄断技术红利。
• 人机协作而非替代：反对“完全自动化一切”的未来。随着 AI 能力增强，人类在设定方向、价值判断、权衡取舍方面的角色反而更加关键。AI 是增强人类能力的工具，而非取代人类判断。
• AI 加速 AI 研究：OpenAI 计划利用 AI 系统来加速自身的研发过程，特别是在解决“对齐”这一难题上。目标是到 2028 年 3 月，实现相当一部分研究工作由 AI 与人类研究人员协同完成。
• 全球治理与协调：鉴于前沿 AI 开发的潜在风险，OpenAI 支持建立国际组织进行全球协调，包括在必要时共同放缓开发速度，以确保安全标准和社会韧性能够跟上技术进步。
• OpenAI 战略转型：公司正式进入“第三阶段”，重心从单纯的研究和产品部署，转向解决 AI 的普及性问题——即如何让先进 AI 变得丰富、廉价、安全且易用，使其成为大众可用的工具。
• 三大具体目标：
  1. 构建自动化 AI 研究员，加速科研迭代。
  2. 加速经济进步，确保 AI 创造的财富被广泛分享。
  3. 赋予全球每个人个人 AGI，实现技术普惠。
• 韧性概念：引用“AI 韧性”概念，类比汽车社会通过基础设施和法律来管理风险，强调社会需要建立相应的系统和规范来应对 AI 带来的干扰，而非阻止技术发展。

意义与影响

这篇文章不仅是 OpenAI 的产品路线图，更是其对人工智能社会影响的哲学宣言。它标志着主流 AI 巨头从“技术竞赛”叙事向“社会基础设施”叙事的转变。

首先