玛格丽特·阿特伍德直言 AI 困境：“垃圾进，垃圾出”

背景

玛格丽特·阿特伍德（Margaret Atwood），这位以《使女的故事》（The Handmaid’s Tale）和《盲刺客》（The Blind Assassin）等经典作品享誉世界的著名作家，近期受邀参加了在葡萄牙波尔图举行的 Babell 文学与文化节。

正如各类文学与文化活动常有的情况一样，人工智能（AI）成为了讨论的焦点。在这次访谈中，阿特伍德并未对 AI 技术持含糊其辞的态度，而是直言不讳地表达了她对当前 AI 技术局限性的看法。

核心内容

阿特伍德在访谈中透露，她仅尝试过一次 AI 聊天机器人——Anthropic 开发的 Claude，但体验并不令人满意。

当时，阿特伍德试图通过 AI 获取关于英国侦探剧集《布朗神父》（Father Brown）的相关信息。然而，Claude 给出了错误的答案，或者更准确地说，它“撒谎”了。阿特伍德指出，这种错误并非出于恶意，因为 AI 并非人类，它不具备意识，只是一个大型语言模型（LLM）。

她解释道，Claude 在训练过程中“浏览并采样”了大量的电视评论文章。然而，在线影评通常不会剧透结局，这导致模型被它所读取的内容误导，从而得出了错误的结论。

除了对技术本身的局限性提出批评，阿特伍德也对那些依赖 AI 的人群持保留态度。她称这些人为“机会主义者”，认为他们只是在寻找走捷径的方式。

阿特伍德强调，所有大型语言模型的质量都取决于其输入数据的质量，即所谓的“垃圾进，垃圾出”（Garbage in, garbage out）。将信任寄托在由抓取的网络数据、已发表内容以及可能已过时的信息训练而成的机器上，并非明智之举。

她进一步阐述道：“人类不是机器人，但人类确实是机会主义者。如果存在一种难以检测的作弊捷径，人们就会去使用它……但 AI 的问题在于，它是‘垃圾进，垃圾出’。即使是出于商业目的使用 AI 的人，也必须对其进行核实，因为它会犯错。”

关键要点

• 单次尝试与负面评价：玛格丽特·阿特伍德仅使用过一次 Anthropic 的 Claude，且对其表现感到失望。
• 幻觉源于数据偏差：AI 产生错误信息（如剧透《布朗神父》结局）的原因在于其训练数据（如不剧透的影评）存在固有偏差，模型无法区分事实与未提及的信息。
• “垃圾进，垃圾出”原则：阿特伍德重申了 AI 的基本局限，即模型输出的质量完全取决于输入数据的质量。如果数据包含错误、过时或片面信息，输出结果必然不可靠。
• 对 AI 用户的批评：她将依赖 AI 的用户称为“机会主义者”，暗示这是一种寻求捷径、逃避深度思考的行为。
• 人工核查的必要性：无论出于何种目的（包括商业用途），用户都必须对 AI 生成的内容进行人工核实，因为 AI 本身不具备辨别真伪的能力，且容易犯错。

意义与影响

玛格丽特·阿特伍德的这番言论，代表了文学界及传统人文领域对当前生成式 AI 技术的一种典型且深刻的警惕。

首先，她指出了当前大语言模型在事实准确性上的根本弱点。AI 并非基于逻辑推理或真实世界的知识图谱运作，而是基于概率预测。当训练数据存在缺失（如影评不写结局）时，模型会基于统计规律进行“猜测”，这种猜测在文学创作或严谨的事实查询中可能导致严重的误导。

其次，她的观点强调了“数据质量”在 AI 应用中的核心地位。在 AI 热潮中，人们往往关注模型的参数规模和推理能力，却忽视了训练数据的清洗、验证和时效性。阿特伍德的“垃圾进，垃圾出”论调提醒行业从业者和用户，AI 并非全知全能的神谕，而是一个需要严格数据治理和人工监督的工具。

最后，这一言论引发了关于“技术依赖”与“人类主体性”的讨论。在 AI 能够轻易生成文本、代码甚至艺术作品的今天，如何保持人类的批判性思维，避免沦为寻找“作弊捷径”的机会主义者，是每一个内容创作者和消费者都需要面对的伦理与实践挑战。阿特伍德的建议——“必须检查”——不仅是技术层面的操作指南，更是一种人文主义的坚守。