如何戳破AI泡沫:直击其根源
速览
文章旨在分析人工智能领域当前存在的泡沫现象,并指出解决之道在于直击问题根源。通过深入剖析技术落地与实际应用之间的差距,文章呼吁行业回归理性,避免过度炒作。这一观点对于引导AI产业健康、可持续发展具有重要意义。
AI 深度解读
背景
去年,科技记者兼科幻小说家科里·多克洛(Cory Doctorow)曾接受过一篇长篇专访,讨论其著作《Enshittification: Why Everything Suddenly Got Worse and What To Do About It》(中文常译作《恶臭化》或保留原名,探讨平台经济如何恶化)。如今,这位多产的作者推出了另一本极具挑衅性的新书,作为前作的某种延续,这次他将焦点对准了人工智能(AI)及相关议题:《The Reverse Centaur’s Guide to Life After AI》(《逆半人马指南:AI 之后的生活》)。
多克洛坦言自己并不喜欢谈论 AI,但外界不断要求他对此发表评论。他告诉 Ars Technica:“我犯了一个战术性错误,就是表现出对谈论 AI 感到厌倦。所以我写了一本书,解释为什么我认为继续让人们谈论 AI 是一件蠢事,结果现在我不得不谈论它。”《逆半人马指南》是多克洛试图“将 bullshit(胡扯)与物质现实区分开来”的努力。
核心内容
多克洛在书中通过重新定义人机关系,批判了当前 AI 行业对劳动力的异化。
在自动化理论中,多克洛指出,“半人马”(Centaur)通常描述的是被技术增强的人类,例如结合了机器学习能力的人类,或者仅仅是驾驶汽车、使用自动补全功能的人类。这是一种人机协作的理想状态,人类保留主体性,技术作为延伸。
然而,他提出了“逆半人马”(Reverse Centaur)的概念。多克洛在去年 12 月的一次演讲中描述道:“逆半人马是长在人类身体上的机器头,是一个人为冷漠的机器充当‘柔软肉块’般的附属品。”他举了一个亚马逊配送员的例子:这名配送员被监控驾驶行为的 AI 摄像头包围,实质上只是配送货车的周边外设,而非真正的主导者。
通常情况下,“成为半人马”被视为一种积极的状态,很少有人愿意成为“逆半人马”。然而,AI 行业似乎正致力于利用这些工具制造更多的“逆半人马”。
多克洛通过医疗领域的对比阐明了这一观点:将 AI 工具引入医疗领域,帮助放射科医生处理 X 光片并发现他们可能错过的潜在肿瘤,这是一种合理的增强。但另一种情况则截然不同:解雇十分之九的放射科医生,让 AI 进行诊断,只留下十分之一的放射科医生负责检查 AI 的工作——并且最终,由这剩下的一名医生为任何错误承担责任。这种模式并非增强人类,而是将人类降格为机器的纠错工具和最终的责任承担者。
关键要点
- 概念重构:多克洛区分了“半人马”(人类主导、技术辅助的增强状态)与“逆半人马”(机器主导、人类沦为机器附属品和肉块式外设的状态)。
- 行业悖论:尽管“逆半人马”状态在伦理和体验上普遍被视为负面,但 AI 行业的实际发展路径似乎正倾向于创造这种状态,而非真正的人机协作增强。
- 责任转嫁:AI 的应用不仅涉及效率提升,更涉及风险与责任的重新分配。在“逆半人马”模式下,人类员工被裁减,剩余员工不仅要处理机器产生的错误,还要为机器的决策失误承担最终法律责任或职业后果。
- 去伪存真:多克洛写作本书的初衷是剥离围绕 AI 的炒作(bullshit),揭示其背后的物质现实和社会影响,即技术如何具体地改变劳动结构和权力关系。
意义与影响
这篇文章及多克洛的观点对当前 AI 热潮提出了深刻的伦理和社会学反思。
首先,它挑战了“AI 增强人类”的主流叙事。主流观点常强调 AI 作为工具如何提升人类能力(即成为半人马),但多克洛指出,资本和技术驱动的实际应用可能正在走向反面,即通过自动化削减人力成本,将人类置于从属、监控和背锅的地位。
其次,它揭示了“去技能化”与“责任集中化”的风险。以放射科医生为例,虽然 AI 可以辅助诊断,但如果系统设计的目的是大幅裁员并让剩余人类为机器错误兜底,那么这并非技术的进步,而是劳动关系的异化。这种模式可能导致专业知识的退化,因为人类不再依赖自身技能进行判断,而是依赖机器,同时承担更高的职业风险。
最后,这一视角为公众和政策制定者提供了新的批判框架。在评估 AI 应用时,不应仅看其技术效率或准确率,更应审视其是否将人类降格为“逆半人马”,以及这种转变对社会公平、劳动者权益和专业自主性的长远影响。多克洛的警告提醒我们,如果不加干预,AI 可能会加剧而非缓解社会不平等,将人类变成冷漠算法系统中的脆弱环节。
