“反向半人马”模式或解AI悖论
速览
Reverse centaurs概念强调以人类为主导、AI为辅助的协作方式,区别于传统AI自主决策。该模式旨在平衡AI的能力与可控性,被视为应对AI安全与伦理困境的关键路径。文章探讨了这一框架如何在实际应用中化解“效率提升”与“失控风险”的矛盾。
AI 深度解读
背景
随着人工智能技术迅速渗透到各行各业,围绕AI的体验呈现出一个明显的悖论:一部分用户将AI视为噩梦般的折磨,工作被压榨、生活被侵蚀;而另一部分用户则欣喜地发现AI正在让他们的工作更高效、生活更美好。这种矛盾的根源是什么?作家、活动家Cory Doctorow在其为《Locus》杂志撰写的最新专栏“Reverse Centaurs”中,引入自动化理论中的“半人马”(centaur)与“反向半人马”(reverse centaur)概念,试图解开这一谜题。该专栏发表于2025年9月,随后通过其个人博客Pluralistic.net进一步阐释。
核心内容
Doctorow指出,自动化理论中存在两种人机协作模式:
- 半人马(Centaur):指人类借助机器完成工作,如同一个强壮且不知疲倦的身体上长着人类头脑。机器是辅助工具,人类掌握主导权。
- 反向半人马(Reverse Centaur):指机器反过来利用人类作为辅助,如同一个脆弱易受伤的人类被一台无情、不知疲倦的机器操控。人类沦为机器的“执行部件”与“责任承担者”。
Doctorow用两个实例说明这种区别:
第一个例子:Hearst的夏季阅读指南丑闻
2025年初夏,赫斯特集团(Hearst)发布了一份夏季阅读指南,其中充斥着大量由聊天机器人“幻觉”出的、根本不存在的书籍。404 Media记者Jason Koebler联系到该指南的署名作者——一位自由撰稿人。这位作者感到极度尴尬和懊悔。但在后续报道中,Koebler发现了一个被第一轮嘲讽忽略的细节:这位作者的名字出现在该增刊的许多“最佳夏季读物”清单上,他几乎一个人完成了整本64页的增刊内容。
Koebler回忆起自己早年作为《华盛顿月刊》实习生时,这类清单通常由一个三人实习生团队、在一位资深记者监督下、并受到庞大事实核查部门支持才能完成。而这位自由撰稿人被要求完成原本需要数十名写手、编辑和核查人员的工作量。我们不确定是否老板强迫他使用AI,但在那样的时间和工作负荷下,他不可能不靠AI完成。因此,他的工作本质不是写文章,而是充当AI的“人在环中”(human in the loop),同时成为AI错误的“责任下水道”(accountability sink,Dan Davies的著名说法)。他就是一个反向半人马。
第二个例子:Doctorow本人的体验
Doctorow本人也是自由撰稿人。他曾想在一篇文章中引用某播客中的一段精辟言论,但忘了出处。于是他下载了OpenAI的开源语音转文字模型Whisper到自己的笔记本电脑上,将过去30小时的播客音频丢进去,然后去忙别的事。一两个小时后,他得到了一个装满高质量转录文本的文件夹。他搜索文本找到引用,再根据提供的时间码打开音频核对。整个过程中,他决定如何使用AI,只在能让工作变得更好、更满意时才使用它。他就是半人马。
Doctorow由此总结:AI悖论的解释在于权力结构。那些被老板强迫使用AI的员工——老板解雇了同事,将堆积如山的工作压在恐怖中幸存者身上——他们痛恨AI,因为AI让他们的生活全方位恶化。而那些自主决定何时以及如何使用AI的人(半人马),只会在AI有用的地方使用它,没用时就扔掉它。他们也可能会做出糟糕选择,但那些选择是他们的,而非来自上头的强制。就像一个选择骑自行车通勤的人,可以享受愉快的骑行,也可能疯狂骑车摔个嘴啃泥,但本质上与外卖骑手被给定无法完成的任务量、并遭受算法工资歧视的体验完全不同。
Doctorow非常高兴将这一分析发表在科幻领域行业杂志《Locus》上。他认为,科幻作家的任务不仅是描述技术能做什么,更重要的是追问:技术对谁做、为谁做。这是一种政治抵抗行为。撒切尔的座右铭是“别无选择”,意思是“别想什么替代方案”。霸凌者的惯用伎俩是把你的失败描述成既成事实:“抵抗是徒劳的”。科技老板们每天都在实践这种庸俗的撒切尔主义:扎克伯格让你以为不和他说悄悄话就无法和朋友聊天;皮查伊让你以为不被监视就无法搜索网络;库克让你以为不让他否决你安装的软件就无法获得安全可靠的体验;纳德拉让你以为不让他把你的每分钟击键数与同事比较就无法编辑Word文件。而AI老板们则让你以为使用这些工具的唯一方式就是取代劳动、让劳动者陷入贫困——因为这才是他们吸引投资资本的承诺。
AI是一个泡沫。如果不是泡沫——如果只是一群计算机科学家和产品团队在尝试反向传播、生成对抗网络和机器学习的各种可能用途——就不会有任何争议。一个程序员用聊天机器人自动生成一堆跨浏览器CSS样式表(稍加调整后基本可用),或许会在酒会上提一句,但绝不会陷入一个痴迷于聊天机器人觉醒后把我们全变成回形针这种荒诞场景的邪教。AI是泡沫,泡沫终将破裂。AI投资狂热即将近乎彻底崩溃。大多数AI公司会倒闭,许多计划中的数据中心永远不会启用,许多现有数据中心会被关闭。当泡沫破裂时,会留下什么?
AI是泡沫,但泡沫破裂有时会留下有用的残渣。比如,Doctorow在家享受2G对称光纤互联网,这是因为AT&T点亮了当年Worldcom欺诈性筹集数十亿美元铺设的暗光纤。Worldcom的CEO在诈骗普通民众的钱财后死于狱中,如果那一切从未发生,世界会更好,但泡沫留下了有用的残渣,许多人今天仍在受益。相比之下,加密货币泡沫破裂后,留下的只是一小部分在加密学和安全Rust编程方面接受了补贴教育的程序员。大多数留下的将是环境破坏、被骗走一生积蓄的普通人、以及被“HODL”和“至月球”等口号毒害的右翼意识形态。
关键要点
- 核心概念区分:半人马(人主导机器)与反向半人马(机器主导人)是理解AI体验悖论的关键。前者自主使用AI提升工作,后者被AI驱使成为责任承担者。
- 工作负荷与AI强制使用:当管理层通过裁员将无法完成的工作量压给少数幸存者,并默认或强迫他们使用AI时,这些员工沦为反向半人马,AI成为压榨工具。
- “责任下水道”机制:反向半人马的角色实质是为AI的错误背锅,署名作者承担了AI幻觉的责任,而真正该负责的系统设计者和决策者则隐身。
- 个体选择与权力结构:AI体验的好坏不仅取决于技术本身,更取决于使用者是否有选择权。被强制使用的憎恶AI,自主选择的欢迎AI。
- AI泡沫的本质:当前AI热潮是一个投资泡沫,其承诺(替代劳动、压榨工人)是为了吸引资本。泡沫破裂后
