LLM引发‘回归均值’：新事物悄然消失

背景

这篇发表于 Hacker News 的文章《Regression to the Mean》（回归平均值）以一种近乎诗意的笔触，反思了大语言模型（LLMs）对创新与新颖性的潜在抑制作用。作者认为，尽管 LLM 被宣传为能激发思想爆炸的协作工具，但其核心机制——基于历史数据预测最可能的延续——实际上倾向于将文化拉向平均值，从而让真正的新思想变得难以被识别和接受。文章标题中的「回归平均值」原本是统计学概念，此处被用来比喻 LLM 对思维多样性的压缩效应。

核心内容

我们被赋予了一台能与我们并肩思考的机器，被告知它将引爆新思想的洪流。但它可能恰恰相反——以一种如此温和的方式，以至于我们把这种扁平化误解为进步。

每个桌面一个模型；每个头脑一个协作者。宣传口号是“寒武纪大爆发”——每个人同时探索一千个方向。更多的头脑在思考，当然意味着更多值得思考的念头。

但只要你问它任何问题，它都会返回最可能的延续——所有已写过内容的质心。它基于过去训练，以思想的过去时态回答。不是真实的，而是典型的。

如果你给它从未见过的东西，它不会兴奋，而是纠正你。对于一个为预测「期望值」而构建的系统，真正的新奇与错误无异。

这种反推温和而持续：我们把它的答案当作下一个问题反馈回去。每过一轮，分布范围变窄，奇异的尾部变薄。方差从文化中流失。我们收敛——不是收敛于正确的，而是收敛于平均的。

然而每一项发现，在它被做出的那一刻，都是离群的（out of distribution）。它反对了当时的共识——移动的大陆、看不见的细菌、漂移的大陆，起初都被标记为错误。一个共识模型，本质上是一台告诉你“新东西是错的”的机器。

于是稀缺的东西倒转了。平均值现在免费、无限、相同——恰恰因为人人都有，所以价值很低。无价的是偏差：模型标记为错误、但你仍然坚持的位置。不是它确信的答案——而是它不停纠正的那一个。

它会给你所有被思考过的东西的平均值。新的从未在其中。

一个返回最可能句子的工具，既是慰藉，也是安静的收窄。它不能为你做的工作，才是唯一曾有意义的工作：有目的地站在曲线稀薄的地方——并停留足够久，直到你变得正确。

不是最可能的答案。而是它试图纠正的那一个。

关键要点

• LLM 的核心机制是预测“最可能的延续”，即基于训练数据统计分布的质心，而非真理或新颖性。
• 真正的新思想在统计上通常是“离群值”，与模型预测的“典型”相冲突，因此 LLM 倾向于将新想法标记为错误并加以纠正。
• 随着 LLM 的输出被反复反馈回系统（如生成式搜索、多轮对话），文化中的方差逐渐缩小，智慧趋于平均化，而非多样化。
• 历史上几乎所有重大发现（如大陆漂移、微生物理论）在诞生时都被共识视为错误；一个以共识为目标的模型天然敌视这类偏离。
• 当“平均答案”变得廉价且无限供给时，真正稀缺的价值转向“偏差”——即模型认为错误但人类有意坚持的非常规想法。
• 文章暗示，LLM 虽然能提高效率，但可能无意识中抑制了人类最需要的能力：有目的地偏离常态，并坚持足够久以验证新发现的正确性。

意义与影响

这篇文章对当前大语言模型“民主化知识”的叙事提出了尖锐的质疑。它提醒我们，模型的训练方式决定了它的本性是保守的、回归平均的。当越来越多的人依赖 LLM 来辅助思考、写作甚至决策时，整个社会可能不自觉地向“最可能的答案”靠拢，而失去发现真正新颖洞见的能力。这不仅是技术问题，更是文化危机：如果“偏差”被系统性地压制，创新将变得更加困难。文章最终呼吁，人类应当有意识地抵抗这种“平均值化”，主动寻找并坚持那些模型认为“错误”但可能正确的位置——这或许才是 LLM 时代人类唯一不可被替代的价值所在。