AI狂热正侵蚀全球决策能力
速览
AI热潮正在全球范围内削弱决策过程的理性与有效性,可能导致决策失误。专家指出,过度依赖AI工具会忽视人类判断力,影响长期战略。这一问题需要引起重视并寻求平衡。
AI 深度解读
背景
本文源自一篇在 Hacker News 上引发讨论的个人博客文章,作者自称在过去一年中主导了其公司的所有销售工作,并参与了几乎所有技术项目,同时与全球数百位专业人士(从利基服务行业人员到财富 500 强高管)进行了交流。基于这些一线观察,作者认为当前全球的私营和公共部门正经历一场“大规模集体精神病”——对 AI 的狂热正在侵蚀理性的决策能力。作者强调,自己的生计并不依赖于迎合这种疯狂,因此可以直言不讳地描述现状,并安慰那些在混乱中试图生存的人:你们并没有疯。
核心内容
一、AI 投资总体上完全失败
作者毫不客气地指出,他所观察到的所有 AI 项目都在失败——过去一年半中,成功率是 0%。这包括他所在团队被邀请参与的项目,也包括他们在做其他无关工作时偶然看到的项目。失败的原因有两类:
-
公司自身软件项目执行能力低下:AI 项目继承了普通软件项目的所有失败模式,而且因为方法新颖,即使其他方面都做对了,仍可能失败。很少有公司优秀到足以承担额外的风险。
-
LLM 本身的能力边界:最常见的失败案例是内部聊天机器人和面向客户的聊天机器人。内部聊天机器人几乎没有人用,因为企业文档质量差,LLM 无法“读心”——它只能知道被写下来并可供访问的信息。面向客户的聊天机器人则让消费者体验极差,唯一的例外可能是医疗就诊中的实时转录,但这不值得整个公司为此转型。
作者举了一个亲身经历的例子:他曾因汽车故障联系三菱的客服机器人,机器人非常礼貌、自然,承诺会有人回电。但六个月过去了,他从未收到回电。他怀疑这个请求就这样消失在“虚空”中,在统计上可能显示为“已解决”,从而让指标看起来漂亮,但实际后果是客户流失。作者因此决定不再购买三菱的下一辆车。
正因为如此,作者的团队在与客户合作时学会了绝不主动询问任何正在进行中的 AI 项目——因为一旦项目启动,对管理层来说就已经太晚,除非危机爆发,否则无法干预。任何关于项目进展、目标、使用者的提问,都会无意中成为对负责这条指挥链的攻击,因为“没有任何好答案”。
结论:几乎所有公司关于“AI 大幅提升生产力”的报告都是不真实的。即使少数公司确实看到了收益,那也是例外,而非常态。
二、异端者将被处决
作者观察到,在拥有 500 名以上员工的足够大的企业中,晋升和保住工作正变得越来越需要反复“表忠心”——即公开宣称相信 AI 对企业的变革性力量。这已经不是提供关于如何使用 AI 的创意,而是变成了一种宗教式的信仰表白。任何质疑 AI 是否解决问题的可能性,甚至暗示 AI 不应成为公司战略的唯一焦点,都会变得极其危险。直言不讳的高管会迅速被解职,诚实的员工会被解雇,或“随机”被选中进入裁员名单。
几乎所有的利益相关者——董事会、高管、员工、供应商、顾问——都有动机来混淆和歪曲 AI 项目的成功率。许多上市公司发布公告声称 AI 带来了生产力提升,但作者知道事实上这些公司只做了两件事:购买 Copilot 许可,然后宣布胜利。
三、决策者没有计划,只能低头
作者认为,目前负责决策的人要么没有任何计划,要么除了低头保持沉默之外看不到任何出路。银行、医院、政府机构……世界上的组织已经被“陷入狂热兴奋中的人”所控制,而更理性的人则生活在持续的恐惧和沮丧交织的状态中。
关键要点
- 成功率为零:作者团队在过去一年半中观察到的所有 AI 项目均告失败,无论内部还是外部项目。
- 失败原因双重:一是公司本身不擅长运行软件项目,AI 项目放大了所有传统失败模式;二是 LLM 的能力边界(如缺乏高质量文档、无法处理非结构化需求)。
- 指标造假:项目负责人刻意避免追踪基本指标(如实际使用率),或使用容易被操纵的指标。机器人客服的“未回电”可能被算作“已解决”,导致虚假的胜利。
- 内部聊天机器人几乎无人使用:企业文档质量低劣,LLM 无法从“未写下的知识”中学习,因此内部工具形同虚设。
- 外部客户体验糟糕:作者亲身经历三菱客服机器人承诺回电却六个月无音信,导致客户流失。
- “宗教式”信仰压力:在大型企业中,持续晋升和保住职位需要反复公开宣称相信 AI 的变革力量,质疑者面临被解雇的风险。
- 利益相关者集体造假:董事会、高管、员工、供应商、顾问都有动机美化 AI 项目成果,导致公开信息严重失真。
- 决策者失去理性:大多数组织的掌舵者要么没有计划,要么只能低头,无法进行理性对话。
意义与影响
这篇文章揭示了当前 AI 热潮中一个令人不安的现实:AI 的采纳正从工具理性滑向非理性的集体狂热。作者并非反对 AI 本身——他承认 AI 工具在某些特定工作负载上确实能加速效率——而是批评当前的投资方式、规模和方法毫无意义,并且正在摧毁组织的决策能力。
这种“AI 精神病”的后果是多方面的:
- 资源错配:企业将大量资金和人力投入到几乎注定失败的项目中,而忽略了真正能提升长期健康的核心业务。
- 信息失真:由于所有人都参与造假,市场无法获得关于 AI 真实效用的准确信息,导致资本和人才继续被错误配置。
- 人才流失与企业文化恶化:理性、正直的员工感到窒息,要么被迫表演信仰,要么选择离开;留下来的人则生活在恐惧中。
- 消费者信任受损:糟糕的 AI 客服体验(如承诺不回电)直接损害品牌声誉,并导致客户流失。
- 系统性风险:当越来越多的组织将 AI 作为战略核心,而实际成功率接近于零时,整个经济体系可能面临一次大规模的“AI 泡沫”破裂。
作者在文末暗示,这并非因为 AI 技术本身失败,而是因为人类组织在集体狂热中失去了判断力。他试图给那些“身处其中却感到自己疯了”的人一个安慰:你们是清醒的,这确实是一场集体精神病。
