教皇并未“AGI狂热”：一份关于AI伦理与社会影响的深度解读

背景

周一，教皇利奥十四世（Pope Leo XIV）发布了一封通谕（encyclical letter），题为《Magnifica Humanitas》（伟大的人性），旨在探讨人工智能对社会的影响。这封通谕警告称：“使用AI从来不是一个纯粹的技术问题：当它进入影响人们生活的流程时，它触及的是权利、机会、地位和自由。”

在发布现场，与教皇并肩站立的有 Anthropic 的联合创始人兼可解释性团队负责人 Christopher Olah。这一场景象征着天主教会与 AI 行业巨头之间的一种伙伴关系。

然而，尽管 Anthropic 作为 AI 领域的重要参与者参与其中，教皇的通谕中并未提及许多业内人士坚持认为即将到来的“超级智能 AI”（Superintelligent AI）。这种缺席并非偶然，而是有着深层的原因。

核心内容

这封通谕在科技行业内外引发了广泛的反应。几乎所有人都认为这份文件具有影响力，但评价不一。一些批评者认为它不够激进，另一些人则认为它应该讨论人工通用智能（AGI），许多公司声称 AGI 已迫在眉睫；还有许多人认为教皇的观点切中要害。

1. 对科技巨头的隐性批评 Tech Oversight Project 的执行主任 Sacha Haworth 指出，这份文件实质上是对那些公然宣称要用 AI 取代“低价值人力资本”以削减员工的大科技 CEO 们的“隐性吐槽”。她批评这些 CEO 正在通过政治游说编写有利于自己的规则。

2. 社会焦虑与反弹 通谕发布之际，公众对 AI 日益增长的权力感到反弹。调查显示，60% 的美国成年人表示他们对日常生活中 AI 的使用“几乎没有控制感”。针对数据中心建设的抗议日益增多，甚至有人试图对 AI CEO 发动攻击。

3. 混合的行业反应

• 批评声音： AI 研究员、前 OpenAI 员工 Daniel Kokotajlo（现任非营利组织 AI Futures Project 负责人）表示，他很高兴文件对 AI 公司持批评态度，但他认为批评力度还应更大。
• 支持声音： 软件公司 Optro 的 AI 治理总经理 Dr. Guru Sethupathy 感到鼓舞，他认为文件表明“利奥教皇和梵蒂冈并非反对 AI，而是主张追求对人类最负责任的发展路径”。

4. Anthropic 的战略考量 与梵蒂冈合作是 Anthropic 的一项战略举措。该公司一直致力于建立一种比竞争对手更值得信赖的企业声誉。此前几个月，Anthropic 曾与五角大楼就军事 AI 使用的限制问题发生激烈争执。与另一个强大机构的联系有助于巩固其地位，并使其能够影响未来的梵蒂冈建议。

5. 关于 AGI 的缺席争议 文件在科技圈引起争议的一个方面是，它完全没有提及 AGI 或超级智能。文件承认 AI 系统在“速度和计算能力”上可能经常超越人类，但指出它们“缺乏人类在智慧成长过程中所具备的情感、关系和精神视角”。

• Foundation for American Innovation 的高级研究员 Dean W. Ball 在 X 平台上批评该通谕“如果少沉迷于传统学术界/民间社会关于 AI 的陈词滥调，更多地关注 AI 的发展方向，将会大有裨益”。他认为文件回避了 AI 是否“真正思考”或“真正学习”的问题。
• Kokotajlo 也希望信件能更严肃地对待 AGI 和超级智能的可能性。

6. 核心宗旨：保护人，而非讨论技术 多位科技界和天主教界人士向 The Verge 表示，这份文件的目的并非涵盖所有 AI 技术问题。

• 和平圣若望修女会的助理会长 Sister Susan Francois 强调：“这不是关于 AI 的。这是在 AI 时代保护人的尊严。”
• 未来生命研究所（Future of Life Institute）的美国信仰联络人 Brian Boyd 称其为“号召书而非具体的行军命令”。教皇呼吁建立适当的监管工具以维护正义并遏制技术权力的扭曲效应，但并未背书具体的提案。

7. 系统性风险与经济担忧 对于一些人来说，通谕对 AGI 关注不足并非问题，因为他们认为教皇聚焦于 AI 作为现有技术对弱势群体的现实影响，而非实验室未来可能达到的（ largely unspecified）AGI 里程碑。

• Opaque Systems CEO Aaron Fulkerson 认为，教皇实际上是在审视系统，并指出了许多科技人士公认的、对人类构成系统性风险的因素——即全球经济结构，而非 AGI。
• 他指出，即使在当前 AI 浪潮之前，科技行业的集中化就已充满危险。例如，网络安全公司 CrowdStrike 的故障导致全球银行、医院和航空公司瘫痪，Amazon Web Services 的宕机导致从 Reddit 到 Venmo 的大量互联网服务中断。
• Fulkerson 警告说，随着权力集中在少数几家 AI 实验室手中，对全球经济的风险只会增加。“我们正像梦游者一样进入一个世界，其中一两家实验室成为地球上每个行业的认知基础设施——这意味着人类的韧性降低，而非能力增强。”

8. 巴别塔隐喻与去人性化风险 在通谕中，教皇将 AI 比作巴别塔，描述其为“一种消除了多样性、选择了同质化而非共融的统一体所支撑的结构”。他写道，世界必须避免“巴别塔综合征”：“牺牲弱者的利润偶像崇拜、中和差异的同质化，以及一种错觉，即单一的语言——即使是数字语言——可以将一切，包括人的奥秘，转化为数据和绩效。” 在他的论述中，AI 不仅仅是一项新技术，更是一场圣经式的斗争。“去人性化的风险，”他写道，“是一种古老而又常新的诱惑，今天它披上了技术的外衣。”

关键要点

• 文件性质： 《Magnifica Humanitas》是一份天主教社会教导文件，核心宗旨是“在 AI 时代保护人的尊严”，而非提供具体的 AI 技术路线图或监管细则。
• 对 AGI 的态度： 通谕刻意未提及 AGI 或超级智能，强调 AI 缺乏人类的情感、关系和精神视角。这一缺席被部分科技人士视为回避核心问题，但被教会人士视为聚焦于当下现实影响。
• 行业博弈： Anthropic 通过与梵蒂冈合作，试图在军事 AI 争议后重塑其“负责任 AI”的品牌形象，并影响政策话语权。
• 主要批评对象： 文件间接批评了大科技 CEO 们用 AI 取代人力、并通过政治游说制定有利规则的行为，以及由此引发的社会不平等和权力集中。
• 系统性风险： 除了 AGI 的长远威胁，文件及解读更强调当前 AI 集中化带来的系统性风险，如基础设施依赖导致的经济脆弱性。
• 哲学隐喻： 教皇使用“巴别塔”隐喻，警告技术同质化、利润至上主义以及将人类复杂性简化为数据的危险，强调“去人性化”是技术时代的核心伦理挑战。

意义与影响

这份通谕的意义不在于提供技术解决方案，而在于确立道德罗盘。Tech Oversight Project 的 Haworth 认为，它设定了“世界（至少是西方世界）的道德方向”，非天主教徒也能从中看到自己的担忧和恐惧。

1. 对政策制定者的警示 Haworth 指出，这是一记“给领导人和政治家的警告炮”，特别是关于创造“次等阶级”的问题。她期望民选领导人能针对 AGI 等具体问题采取行动，问责强大的科技公司，而不是指望教皇的文件包罗万象。

2. 重新定义 AI 伦理框架 通过将 AI 问题从纯粹的技术讨论提升到神学和社会正义的高度，梵蒂冈试图将 AI 监管纳入更广泛的人类尊严、社会团结和反异化的框架中。这种视角超越了硅谷常见的“安全 vs. 创新”二元对立，引入了关于人性本质、精神价值和社区共融的深层讨论。

3. 对科技行业的压力 尽管没有具体监管建议，但来自全球最具影响力的道德权威之一的批评，将对科技巨头形成巨大的舆论和道德压力。特别是当 Anthropic 这样的行业参与者与梵蒂冈结盟时，这种压力不仅来自外部，也来自行业内部对“负责任发展”标准的重新定义。

4. 持久的影响力 正如文章结尾所言，这些声明的分量，而非