AI公司Anthropic发起'尖锐问题'倡议，邀请公众直面AI难题

背景

Anthropic 是一家以公共利益为使命的 Public Benefit Corporation（公益公司），其核心目标是确保先进 AI 模型的益处并降低其风险。随着 AI 技术（如 Claude）迅速渗透到日常工作和生活，公众既充满期待，也抱有深刻担忧。Anthropic 认识到，要真正服务于公共利益，不能仅从技术角度出发，而必须充分理解公众对 AI 的真实希望与疑问。为此，公司启动了“Inviting hard questions”（邀请棘手问题）新倡议，旨在系统性地收集公众最尖锐的问题，并透明地公开其应对进展。

核心内容

人们对于 AI 有着许多棘手的问题：“谁来决定 AI 的规则？”“AI 能否给我的孩子带来更好的未来？”“AI 是否让世界变得更危险？”“AI 能帮助科学家治愈疾病吗？”Anthropic 认为，回答这些问题正是其职责所在。

当前，许多人以积极态度看待 AI。他们每天使用 AI，看到了它减轻工作生活负担、改变学习方式、加速科学和技术进步、创造新的繁荣来源，以及解决重大医疗和社会问题的潜力。但与此同时，也有许多人持有严肃的担忧：一些人担心 AI 可能加剧失业；一些人害怕 AI 会贬低创造性工作的价值；另一些人关注人类自主性——AI 可能影响我们独立思考、建立人际联系以及赋予生命意义的能力。还有许多人担忧，如果 AI 的能力落入不法分子手中会意味着什么，并质疑其收益是否大于成本。

在随附的视频中，Anthropic 展示了与不同人群交流时听到的这些希望与担忧。

作为 Public Benefit Corporation，Anthropic 的使命驱动其在多个方面采取行动：投资 AI 安全措施以降低滥用风险；研究 AI 模型的行为和内部机制以使其与有益目标对齐；向科学家免费提供 AI 模型；以及启动 fellowship 项目，将早期职业的 Claude 用户与非营利组织配对，帮助扩展 AI 的益处。

为了真正符合公共利益，Anthropic 需要全面了解公众对这项新技术的希望和担忧。作为“Inviting hard questions”新计划的一部分，公司正在采取进一步措施，了解人们对一系列 AI 相关话题的看法和疑问，并透明地记录其向公共利益目标迈进的进展。

Anthropic 已经为此做了大量基础工作，向数千人征集了他们对 AI 的看法：

• 启动了 Anthropic Public Record 公共调查，第一轮向 52,000 名美国人征求其对该技术的最大希望和担忧；
• 通过 Anthropic Interviewer 工具，对来自 159 个国家、70 种语言的 81,000 名 Claude 用户进行了调查；
• 开展了数十次线下焦点小组讨论，并召集了那些工作与传统文化与 AI 问题相关的群体进行会议；
• 通过匿名的真实世界数据，持续研究 Claude 的使用情况。

此外，Anthropic 在公司内部成立了 Anthropic Institute，致力于应对 AI 对社会带来的最重大挑战；自公司成立早期起，其 Long-Term Benefit Trust（长期利益信托）就负责提供公正的监督，评估公司推动公共利益使命的有效性。

现在，Anthropic 明确邀请所有人发送自己关于 AI 的最难问题：关于 AI 对就业、社会和家庭的影响；关于如何实现 AI 在科学和医学领域的巨大潜力；关于这项人类历史上最强大技术之一的下一步走向。作为回报，公司将公开跟踪并报告为解决这些问题所采取的具体行动，并明确说明在哪些方面可能未能达到既定目标。

要查看其他人提出的问题以及分享自己的问题，请访问 Anthropic 的 hard questions 网站。

关键要点

• 公众对 AI 存在双重态度：既有对效率提升、科学进步、生活改善的积极期待，也有对失业、创造性贬值、人类自主性丧失以及技术滥用的深层担忧。
• Anthropic 的使命驱动行动：作为 Public Benefit Corporation，公司通过投资安全措施、研究模型对齐、免费提供 AI 给科学家、以及与非营利组织合作等方式，努力确保 AI 的益处并降低风险。
• 大规模公众意见收集：Anthropic 已通过多种渠道（52,000 人公共调查、81,000 名用户调查、数十场焦点小组、真实使用数据）系统性地收集公众看法。
• 新倡议“Inviting hard questions”：公司主动邀请所有人提交关于 AI 的最难问题，并承诺公开透明地报告应对措施和进展，包括可能未达目标的情况。
• 长期治理机制：Anthropic Institute 专注于 AI 社会挑战，Long-Term Benefit Trust 提供独立监督，确保公共利益使命不被商业利益稀释。

意义与影响

Anthropic 的“Inviting hard questions”倡议标志着 AI 公司在治理透明度上的一次重要尝试。通常，技术公司倾向于在内部讨论风险，而 Anthropic 选择将公众的尖锐问题置于中心，并承诺公开回应，这有助于建立信任。通过系统性地收集全球数十万人的意见，公司能够更全面地理解 AI 的社会影响，而不仅仅是技术专家的视角。同时，这种开放姿态也倒逼公司自身在安全、伦理和公共利益方面持续改进。如果该模式成功，可能为其他 AI 公司提供一种可复制的框架，推动整个行业向更负责任、更透明、更贴近公众需求的方向发展。此外，Long-Term Benefit Trust 的存在表明，Anthropic 试图通过制度设计来确保长期公共利益优先，而非短期利润——这在快速发展的 AI 领域尤为重要。