Emily Bender澄清“随机鹦鹉”争议

背景

2021年3月，四位研究者——语言学家与计算机科学家的合作团队——发表了如今已成为传奇的论文《On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜》（关于随机鹦鹉的危险：语言模型能变得太大吗？）。该论文在当时引起了广泛关注，部分原因在于谷歌在论文发表前夕解雇了两位作者 Timnit Gebru 和 Margaret Mitchell。论文的核心论点是：大型语言模型（LLMs）通过统计预测最可能的词语序列来生成文本，而非真正理解其输出内容——作者用“随机鹦鹉”（stochastic parrot）这一比喻来刻画这种无理解地重复模式的过程。五年间，这个比喻已远远超出其学术起源，引发了广泛争论，甚至催生了诸如名为“随机鹦鹉”的肩扛机器人等项目。

然而，这种广泛使用也导致了对该短语原始含义的误解。论文第一作者、华盛顿大学计算语言学教授 Emily M. Bender 近期在论文五周年之际撰写了一篇博文，旨在澄清关于该论文的常见误解。Bender 随后接受了 IEEE Spectrum 的采访，谈论了这些误解、计算语言学领域以及当前围绕人工智能的讨论。

核心内容

关于“人工智能”一词的问题

作为计算语言学家，你的工作如何描述？

Emily M. Bender：语言学广义上是研究语言如何工作以及我们如何运用语言的学科。我对此有所贡献，同时也从事计算语言学工作，培养未来将构建语言技术的学生。

语言技术本身就有其独立的价值和趣味，无论是否有人想将其用于人工智能项目。语言技术包括自动转录、机器翻译、拼写检查等。我个人在构建东西时，很多工作涉及构建机器可读且人类可读的语法，用以模拟不同语言中的语言现象。这是利用计算机为语言假设检验服务。

你曾主张“人工智能”一词造成的混淆多于澄清。为什么？

Bender：原因很多。我认为，如果我们谈论技术的方式不能让技术本身清晰，那就很难就技术展开良好讨论并做出明智决策。“人工智能”这个短语既将不同的技术混为一谈，又夸大了每项技术的能力。因此，当我们试图决定是否使用某样东西、如何监管某样东西时，更清晰的描述会好得多。

在日常对话中，AI 几乎成了“聊天机器人”或“LLM”的同义词。这是一个问题吗？

Bender：对很多人来说，他们会说“我用它来做某某事”。那么你说的“它”是指什么？然后他们会说，“哦，我指的是 Claude”或 ChatGPT 或 Gemini，所以他们谈论的是这些聊天机器人。但另一些人会说，“你不能说 AI 全是坏的，那 AlphaFold 呢？”

所以，是的，对很多人而言，他们谈论的是基于大型语言模型的聊天机器人，但[他们]也并不清楚这些东西与 AlphaFold 之类是不同的。当新闻报道说“科学家使用 AI 发现了一种新药”时，他们到底用了什么？如果谈论的东西更窄，也许是蛋白质折叠，也许是其他某种统计建模（比如天气建模）。那是一种与 ChatGPT 截然不同的技术。

你认为像“人工智能”这样的总括性术语有价值吗？

Bender：嗯，对试图推销这些技术的人——比如试图抬高估值的科技公司——来说有价值。此外，当前研究经费的设立方式使得如果你不把你正在做的事情称为人工智能，就很难获得资助。我认为这总体上是个负面现象，但对任何被困在这个体系中的个体而言，在当下这可能是有价值的。

随机鹦鹉如何被误解

关于“随机鹦鹉”比喻最常见的误解是什么？

Bender：我认为最大的误解之一是：“Bender 说 AI 是随机鹦鹉。”那篇论文写于 2020 年底。我们讨论的是大型语言模型。我相当确定“AI”这个词只在论文最后出现了一次，那是在讨论如果你要开发旨在模仿人类行为的系统，必须非常小心不要创造出可能被误认为是人的东西。这些系统被设计成模仿我们使用语言的方式，这使得人们很容易将它们误认为是另一个人。

因此，在论文接近结尾处，我们某种程度上推广到了 AI。但“随机鹦鹉”这个短语特指大型语言模型，而“人工智能”这个短语指的是许多不同的东西。所以我们从未声称国际象棋引擎、AlphaFold、图像标注系统或机器翻译系统——这些有时被称为人工智能的东西——是随机鹦鹉。我们具体讨论的是使用大型语言模型生成合成文本。

另一个误解是，“随机鹦鹉”被其他人拿来当作贬低或侮辱。它本意并非如此。其他人可能那样使用它，但那不是我的意图，因为它只是对这些系统实际是什么的描述。将其视为侮辱需要要么认为大型语言模型是那种会被冒犯的东西（其实它不会），要么认为这些大型语言模型应被理解为迈向那个我不持有的宏大 AI 理想的步骤。

我在许多地方所做的——章鱼思想实验、随机鹦鹉、“合成文本挤压机”这个短语——都是为了向那些不从事语言技术构建的人生动地展示这些系统实际在做什么，这与侮辱系统或喜欢系统的人不是一回事。

对不了解的读者解释一下，“章鱼测试”来自 2020 年的一篇论文，该论文设想一只章鱼识别通过海底电缆传递的信息中的统计模式。在章鱼测试和随机鹦鹉中，你多次使用了动物比喻。这是有意的吗？

Bender：不，不是有意的。在章鱼思想实验中，我最初是用海豚来讲故事的，因为海豚显然是聪明的动物。那篇论文的合作者 Alexander Koller 说应该用章鱼，因为首先，章鱼生活的地方与人类居住的地方差异更大。这使得比喻更生动——章鱼只能感受到电缆中的脉冲，无法看到人们在看什么。而且，章鱼天生更有趣。

我回顾那篇论文时惊讶地发现，“随机鹦鹉”这个词在正文中只出现了两次。你们为什么把它放在标题里？

Bender：因为我们喜欢它！一个吸引人的标题是学术论文很好的自我营销。它在论文中出现不多的原因是，我们实际上是在全面考察让语言模型变得越来越大所带来的风险。“大型语言模型”这个短语也没在论文中出现，因为当时人们还没那样称呼它们。

所以关于合成文本的那部分，某种程度上我们感觉像是在走钢丝，因为在那个时间点很难想象……

（注：原文在此处截断，但根据上下文，Bender 的意思可能是当时很难想象 LLM 会发展到今天的地步。）

关键要点

• “随机鹦鹉”的比喻专门针对大型语言模型（LLMs）在生成合成文本时的统计模式匹配行为，而非泛指所有人工智能系统（如 AlphaFold、国际象棋引擎等）。将 LLM 称为“随机鹦鹉”是对其工作方式的客观描述，并非贬低或侮辱。
• “人工智能”（AI）一词因将不同技术混为一谈且夸大其能力，实际上阻碍了清晰的技术讨论和明智决策。大众往往将 AI 等同于聊天机器人（ChatGPT、Claude 等），而忽视了更窄的技术如蛋白质折叠、天气建模等。
• Bender 强调计算语言学与语言技术的独立价值：语言技术（如自动转录、机器翻译、拼写检查）本身就有意义，不必依附于“人工智能”项目。她的具体工作包括构建机器可读且人类可读的语法模型。
• 尽管“随机鹦鹉”在论文正文中仅出现两次，但被选为标题是因为其吸引眼球，有利于学术推广。论文实际聚焦于语言模型不断扩大的全面风险，而合成文本只是其中一部分。
• 动物比喻（章鱼、鹦鹉）并非有意为之，而是为了使非专业人士更直观理解技术运作方式。章鱼比喻（源于与 Alexander Koller 的合作）因章鱼生活环境与人类迥异而更生动。

意义与影响

Emily Bender 的澄清对于当前围绕 AI 的公众讨论具有重要价值。首先，她明确指出“随机鹦鹉”并非对整个 AI 领域的否定，这有助于纠正媒体和公众对该术语的滥用以至误用。当人们将“随机鹦鹉”广泛用于批评所有 AI 系统时，实际上偏离了论文原意，也可能导致对语言模型能力的过度贬低或过度神化。

其次，Bender 对“人工智能”一词的批判揭示了科技行业和学术界的叙事困境。一方面，科技公司利用“AI”这个宏大标签来提升估值和吸引投资；另一方面，研究者为了获得经费不得不将自己的工作包装成“AI”。这种扭曲可能导致公众对技术能力的认知偏差，进而影响技术监管和社会决策。她呼吁用更清晰的描述代替模糊的“AI”，这为政策制定者、记者和用户提供了更务实的基础。

最后，Bender