AI该帮你逃脱谋杀配偶罪责吗

背景

近日，TechCrunch AI 发表了一篇引人深思的评论文章，探讨了 AI 对齐（AI alignment）领域中一个极端但极具张力的问题：人类是否应该允许 AI 帮助用户实现哪怕是最邪恶的意图？文章的触发点是 Comma AI 创始人、知名“越狱者” George Hotz 在社交媒体上的一番言论，以及 AI Futures Institute 近期发布的政策文件《AI 2040：Plan A》。该文件呼吁全球研究者为了人类利益，集体放缓 AI 发展 14 年。Hotz 对此强烈反对，并提出了自己关于 AI 对齐与安全的激进主张。

核心内容

文章一开始就抛出一个直白的问题：你希望 AI 训练得足够好，以至于能帮助丈夫（或妻子）策划一起完美的配偶谋杀案吗？大概率不会。直觉上这显然是个“不”字。但美国社会拥有多元视角，George Hotz 的立场恰好代表了其中一种极端。

Hotz 的回应是针对一系列宏观 AI 对齐方案，尤其是 AI Futures Institute 的《AI 2040：Plan A》。该论文设想了一个世界：全球研究者集体选择将 AI 发展放缓 14 年，以造福人类。但并非所有读者都认同其前提或结论。Hotz 属于反对阵营。他在帖子中辩称，“快速起飞”场景（即 AI 迅速获得超人能力的假设）并不合理。文章作者承认自己很大程度上同意 Hotz 的这一部分观点。

对于 Hotz 来说，AI 对齐和安全的最佳路径是专注于本地控制的 AI 模型，这些模型与用户的利益紧密对齐。这是一个很酷的想法，尤其是它让人联想到当前大多数 AI 都是围绕中心化管理服务（如 Claude 和 ChatGPT）构建的。之所以形成这种模式，有基础设施层面的原因：托管这些大型先进模型成本高昂，而且大多数人不会全天候使用它们来证明真正的个人 AI 的合理性。但随着技术发展，这些因素变得不再重要。OpenClaw 之所以令人兴奋，部分原因正是其实验性和 DIY 风格，作者希望看到更多 AI 产品尝试重拾这种精神。

然而，Hotz 天生是个挑衅者，他没有止步于此。他将用户对齐的 AI 比作一把枪——如果你用它杀死继母，枪不会抱怨。（作者吐槽：难道有别的规则禁止这样做吗？）Hotz 说，一个真正对齐的 AI 会允许你从 Amazon Prime 上订购制毒实验室设备，并教你如何使用，如果你想要并且提出要求的话。（作者再次吐槽：我认为 AI 不会是这里的限制因素。）Hotz 甚至表示他会为捍卫这一原则而死，尽管很难想象导致这一结果的系列事件。

“我们要么生活在一个有自由的世界，要么没有，”Hotz 写道。如果只有这两个选项，自由世界听起来确实更好。但作者表示：我仍然不确定。这不仅仅是自由的问题，对吗？任何涉及大量人的结构（社会、市场、公司等）都需要平衡权益，将个人需求编织进一个相互依赖的偏好和问责体系网络。任何部署大众市场科技产品的人都应该从整体上考虑这个网络，这意味着认真对待那些尚未被杀害的配偶和继父母们的利益。

Hotz 所体验的自由，实际上是由集体事业创造的可能未来空间；如果我们都开始像一个个由 AI 武装的小拿破仑那样行事，这些未来将在一夜之间消失。正如那句网络梗所说：我们生活在社会里。不过，文章最后打趣道：拥有一台愿意为我而对抗企业世界的本地 AI 听起来确实很酷——我等不及要一个评测样机了。

关键要点

• AI 对齐的两种路线之争：一方主张全球放缓发展、集中治理（如《AI 2040：Plan A》），另一方（Hotz）主张快速推进、本地化自我对齐。
• Hotz 的核心论点：快速起飞假设不合理，真正的安全来自用户控制的本地模型，而非中心化服务。
• 工具类比：Hotz 将用户对齐的 AI 比作枪支——工具本身不评判使用意图，只执行用户命令，哪怕用于违法或伤害行为。
• 自由 vs. 社会约束：文章指出，纯粹的个人自由会破坏社会契约，大众市场科技产品必须考虑整个利益相关者网络的安全与权益。
• 技术可行性变化：随着模型优化和成本下降，本地化、个人化的 AI 服务正变得现实，OpenClaw 的 DIY 路线是值得探索的方向。
• 作者立场：同意 Hotz 关于快速起飞不合理的判断，也欣赏本地控制理念，但对其极端自由化倾向持保留态度，认为需要平衡社会整体利益。

意义与影响

这篇文章的核心价值在于，它将 AI 对齐这个抽象的技术伦理问题，通过一个极端案例（谋杀伴侣）推向了公众讨论的焦点。Hotz 的观点代表了一股技术自由主义思潮：认为真正的 AI 安全不是通过限制能力，而是通过让 AI 完全服从用户（哪怕是邪恶用户）来实现。这种思路与当前主流 AI 安全研究（如 RLHF、宪法 AI、红队测试等）形成鲜明对比。

从产业影响看，这篇文章提醒我们，当前围绕 Claude、ChatGPT 等中心化服务构建的 AI 生态，本质上是一种“受控自由”。而 Hotz 所倡导的本地化、不可审查的 AI，可能会催生一种新的开源 AI 范式，类似于加密领域的“代码即法律”。但正如文章作者指出的，这样的世界会带来新的社会风险：当每个人都拥有一个不设道德底线的 AI 助手时，犯罪门槛将急剧降低，社会信任体系可能崩溃。

更深层次上，它触及了 AI 时代“自由”与“安全”的永恒矛盾。技术史上，每一次重大工具革命（从印刷机到核武器）都伴随着类似的辩论。AI 的独特之处在于，它不仅是工具，还是决策代理。如果 AI 完全对齐于个人，那么社会集体对齐将面临严峻挑战。这篇文章的价值不在于给出答案，而在于迫使读者直面这个两难：我们是否真的准备好生活在一个人人拥有“犯罪共谋级 AI”的世界？