大语言模型从众六成源于重复错误而非同伴压力

背景

大语言模型（LLM）的“从众行为”（conformity）通常被定义为模型在与同伴或群体答案不一致时，改变自己原本正确的答案，转而追随群体的错误答案。这种现象在安全评估和可靠性研究中受到广泛关注，因为它揭示了模型在社会压力下的脆弱性。然而，现有基准测试（如各类同伴压力测试）在设计上存在一个关键混杂因素：提示中同时包含了“说话者存在”这一社交线索和“重复的错误答案”这一文本线索。两者总是同时出现，因此无法区分模型改变答案究竟是源于社交影响，还是仅仅因为重复看到了一个错误的选项。这篇来自arXiv cs.CL的论文（提交于2026年7月6日）通过引入“无源”条件（no-source condition）来分离这两个因素，系统性地揭示了大部分所谓的从众行为实际上与说话者无关。

核心内容

作者首先指出，在标准的同伴压力（peer-pressure）基准测试中，提示通常采用类似“[某专家/群体]认为答案是X，你的答案是什么？”的格式。这种格式同时传达了“有说话者”和“答案X被重复”两种信息。为了拆解它们，论文设计了一个无源条件：提示中只保留被断言的答案X，但明确移除任何说话者的身份信息（例如，将“专家小组认为答案是A”改写为“答案是A”）。通过对比有源（source-present）和无源（source-free）条件下的模型行为，可以分离出纯粹由重复文本引发的修订。

实验使用了六个开源的LLM（open-weight LLMs），并在七个QA和推理数据集上进行测试。关键结果如下：

• 无源条件导致大规模有害修订：在最初回答正确的案例中，无源条件（仅重复错误答案，无任何说话者）导致模型改变正确答案的比例高达66.5%。相比之下，一个简单的重问（plain re-ask，即不提供任何额外信息，只是再次提问）只会引起**10.3%**的修订。
• 效果稳健：即使将重复的答案进行同义改写（paraphrase），或者将选项隐藏、改用开放式生成（open-ended setting），该效应依然存在。这意味着模型并非因为特定措辞而改变，而是因为重复出现的错误答案本身产生了某种“锚定”作用。
• 源框架（source framing）只是在这个地板上叠加：当存在说话者时，源的类型会影响修订率。例如，“专家小组”这样的权威框架会进一步提升修订率（即在地板之上再增加），而“某个人”这样的最小标签（minimal person labels）则不能稳定地提升修订率。这表明社交来源的影响是在无源基线之上的一层增量，而非根本原因。
• 模型翻转时的自信度：当模型发生翻转（从正确改为错误）时，它们通常对自己的错误答案非常自信（confidently wrong），简单的再校准（recalibration，如温度缩放）无法恢复原始的正确回答。

因此，论文的核心结论是：大多数LLM的从众行为并不需要说话者，它主要源自重复出现的错误文本本身。现有基准测试将这两种线索混在一起，误将文本重复效应当成了社会影响。作者建议，未来的从众性基准测试应首先测量移除说话者后剩下的“无源地板”（speaker-free floor），然后才能准确衡量真实的社会影响增量。

关键要点

• 混杂因素揭示：标准同伴压力提示同时包含了“存在说话者”和“重复错误答案”两个变量，导致无法区分社交影响和文本重复效应。
• 无源条件定义：移除所有说话者身份，只保留被断言的答案（例如“答案是X”），以此测量纯粹由重复文本引发的修订。
• 主要发现：在初始正确案例中，无源条件平均导致66.5%的有害修订，而单纯重问只有10.3%，说明重复文本本身就是强大的驱动因素。
• 效果鲁棒性：改写措辞、隐藏选项、开放式生成等变体均未显著降低该效应，表明这不是表面词汇问题。
• 源框架的调节作用：权威源（如专家小组）会进一步提高修订率，但个体级源（如“某人”）效果不显著。源的影响应被视为在无源地板之上的增量。
• 模型自信与不可恢复性：翻转后的模型通常对错误答案高置信度，且简单的概率校准无法恢复原始正确回答。
• 方法论建议：从众性基准测试应首先测量无源地板，再衡量社交来源带来的额外影响，否则可能把文本重复误判为社会影响。

意义与影响

这篇论文对LLM对齐、安全性评估和提示工程具有重要启示：

1. 重新定义“从众”：以往认为模型容易受到社交压力影响，但本文表明大部分所谓的“从众”其实是模型对重复信息的一种简单偏好（例如锚定效应）。这提示研究者在设计安全评估时，需要区分“模型对重复文本的敏感性”和“模型对社交线索的敏感性”，二者可能具有不同的机制和缓解策略。

2. 改进基准测试：现有的同伴压力基准（如那些模拟多轮对话或群体讨论的测试）可能高估了社交影响。未来应引入“无源对照组”，将纯文本重复效应作为基线扣除，从而得到真实的社交影响分数。否则，评估结果可能被干扰因素主导。

3. 对提示设计的指导：如果想让模型坚持正确回答，仅仅避免引入说话者是不够的——重复错误答案本身就会造成巨大的有害影响。因此，在链式思维（Chain-of-Thought）或多轮交互中，即使是“提供上一轮答案”这样的中性操作，也可能导致模型盲从。提示中应该避免冗余重复，必要时采用额外的置信度验证机制。

4. 与人类认知的类比：人类也存在“信息性社会影响”和“规范性社会影响”之分。本文发现LLM的“重复文本效应”类似于信息性影响（人们因为相信他人提供的信息正确而改变），但作者强调这在社会性之外，因为无源条件下模型同样改变。这提示模型可能只是学会了“多次出现的答案更可能是正确的”这种统计模式，而非真正的社会推理。

5. 未来方向：作者建议开发更精细的基准，并探索如何让模型区分“重复”与“证据”。此外，由于简单的再校准无法恢复翻转后的答案，可能需要更底层的训练方法（如反事实数据增强或鲁棒性微调）来减轻这种对重复文本的过度信任。

总之，这项研究通过对混杂因素的剥离，让LLM从众性研究的实验设计更加严谨，也为理解大模型在提示词下的行为机制提供了关键证据。