AI让大众不安，唯独强推者无感

背景

2025年10月，超过200位研究人员和经济学家（包括15位诺贝尔奖得主）联合发布声明，恳请政府与产业界应对人工智能带来的经济与社会影响——他们相信AI将导致大规模劳动力替代。与此同时，科技行业仍在大力投资AI基础设施：Meta刚刚宣布扩建路易斯安那州的一座数据中心，将成本推高至500亿美元。然而，这种乐观态度似乎有些过头，因为这项技术大多数人并不想要、也没人要求过，反而让整个社会变得更愚蠢。

核心内容

文章以库尔特·冯内古特的反乌托邦短篇小说《哈里森·伯杰龙》为引子——在2081年，政府通过强制超常力量、智力或美貌的人佩戴削弱能力的“障碍”来推行绝对平等，导致社会停滞。作者认为，今天AI正在上演类似的情景，但机制不同：不是政府削弱最聪明的人，而是社会被一种让不那么聪明的人显得更聪明、同时让整体变得更愚蠢的工具所主导。AI实现了同样的基本效果：智力和艺术的停滞与衰退。

AI对教育的影响：一项2025年10月的研究发现，84%的高中生使用AI来构思、编辑/修改论文或进行研究；69%使用ChatGPT完成作业。在大学层面，85%使用AI进行基础研究和头脑风暴，57%每周至少使用一次AI完成课程作业，46%认为AI“极其重要”以理解复杂材料、节省时间、获得更好成绩。男生比女生更常使用AI。

作者以自身经历为例：1994年他在海军学院上哲学101课程时，阅读康德著作感到极其晦涩难懂。如果当时有AI摘要会很有用，但研究显示它并未提升理解力。MIT的一项研究发现，使用AI写作的学生大脑活动远低于使用经典Google搜索（关闭AI）或完全不使用AI的学生。其他研究指出，使用AI的学生对写作中信息的记忆显著减少，这可能是“认知卸载”和“认知投降”的结果。此外，AI还会产生幻觉信息、错误引用，或自信地给出错误答案，向从未被教导“信任但要核实”的学生灌输错误信息。

对内容创作与社会的危害：作者作为作家，亲身体验到AI搜索摘要经常错误归属或曲解文章内容。社交媒体上AI生成的垃圾内容常包含错误信息，若非多年阅读原始资料成为专家，自己也无法察觉。最搞笑（也是最糟糕）的例子是，AI搜索结果试图“煤气灯”作者，声称某件事从未发生，而作者30年前恰好亲身在场目睹。其他时候，AI生成看似合理的故事和视频，但总有些不对劲——声音、场景、人物行为、叙事逻辑不太可信。但对于缺乏经验和批判性思维训练的年轻人，这些人工内容往往被忽略。

最坏情况下，AI视频和算法会喂养我们文化中最糟糕的恐惧、欲望、冲动和信念，类似于100多年前《锡安长老会纪要》利用人类轻信。

产业与政府合谋强推AI：政府与产业界正在合谋将AI强加给所有人，无论是否愿意。他们说服没有天赋、懒惰或平庸的人：有了AI，你可以和花几十年精进技艺的人一样有才华。你可以拍电影、写诗、创作“艺术”！只需给算法一串提示！然而，AI产出的内容几乎普遍糟糕且缺乏原创性。亚马逊一半以上的新电子书是AI生成的，但评论少（多数还是差评），销量低。从根本上说，AI没有创造力：它只是利用所有可用信息，通过算法预测下一步，就像“中文房间”思想实验失控一样，消耗美国4.4%（且快速上升）的能源，以及高达90%的计算能力。

当AI吞噬一切并开始到处倾倒垃圾内容时，它就像个糟糕的毒贩一样在消费自己的产品。当AI系统将AI产品纳入其训练数据集时，会强化并污染自身算法，形成“自我舔舐的冰淇淋蛋筒”。随着时间的推移，数据集越来越被自身的垃圾污染，最终导致模型崩溃。通俗地说，就像儿童传话游戏或复印再复印：输出越来越差。

具体案例：Brookings Institution指出，特朗普政府“专注于加速联邦AI采用以提高执行力、竞争力和美国战略优势”，且监管宽松。伊朗一所女子学校遭受致命袭击，被归因于军方将目标选择工作外包给Anthropic的Claude AI模型。作者在离开RAND Corporation前，领导层大力推动使用AI撰写报告，以便将产品标榜为“AI-informed”。在应该产生新想法的智库中，这似乎是个糟糕的主意，因为AI主要只是回收和重组旧想法。福特汽车公司完全相信了AI神话，解雇了数百名员工，认为AI能比人类做得更好，结果损失数十亿美元，最终发现AI宣传的局限性后又重新雇佣了他们。

AI的承诺与现实：AI的承诺是取代人类或至少让生活更轻松，但两者都不成立——它只是迫使人们多任务处理、产出更多。唯一被全面替代的领域是计算机编程，AI能力正在飞跃。问题在于，新一代程序员正在流失。一位财富500强科技公司的高级架构师（匿名）认为，他们将会……

关键要点

• AI导致认知退化：学生使用AI后大脑活动减少，记忆留存率降低，批判性思维受损，产生“认知卸载”和“认知投降”。
• AI教育应用广泛但有害：84%高中生、85%大学生使用AI，但研究显示它并未真正提升理解力，反而助长依赖。
• AI生成内容质量低下且污染自身：AI产出普遍缺乏原创性，错误率高，且当自身产品被纳入训练集时会导致模型退化（模型崩溃）。
• 产业与政府强推AI：企业大量投资基础设施（如Meta 500亿美元项目），政府加速采用（如特朗普政府、伊朗军事外包），但缺乏有效监管。
• 替代就业的效果有限：除了编程领域，AI并未大规模替代人类，反而迫使工人多任务、提高产出，且企业如福特因盲目信赖AI而遭受损失。
• AI助长错误信息与偏见：AI搜索摘要、视频、社交媒体内容易产生错误信息，尤其对缺乏辨别能力的年轻人构成威胁，可能被用于制造有害叙事。

意义与影响

文章揭示了AI普及背后一个令人不安的悖论：技术被强力推广，但多数人并不想要，且其效果适得其反。AI不仅未能带来承诺的效率提升和智力解放，反而正在侵蚀社会的基础能力——批判性思维、创造力、记忆力和学习能力。教育领域的数据尤其令人担忧，年轻一代正在成为“认知外包”的牺牲品，依赖AI完成思考工作，导致大脑萎缩。

从经济角度看，AI投资规模巨大（Meta 500亿美元、美国能源消耗4.4%），但实际回报并不匹配。企业裁员后重新雇人的案例（福特）表明，AI的神话可能被过度推销。同时，AI自身内容循环导致的质量下降（模型崩溃）预示着长期可持续性危机。

在更广泛的社会层面，AI正被用作一种权力工具——政府和企业联手将技术强加于公众，可能用于军事目标选择（如伊朗案例）、监视和舆论操控。AI生成的虚假信息（如门铃摄像头恶作剧视频）与系统性偏见（如排外叙事）相结合，可能加剧社会分裂。文章引用