AI建议削弱人们说'不知道'的意愿，即使建议有误

背景

随着大型语言模型驱动的 AI 助手（如 ChatGPT、Claude 等）渗透到日常决策中，人们越来越习惯于从 AI 那里获得流畅、即时的答案。然而，一个关键的人类认知能力——在不确定时主动说出“我不知道”——正在受到挑战。以往研究多关注 AI 建议对答案准确性的影响，但较少触及 AI 如何改变人们判断自身知识边界的元认知过程。2026 年 7 月 15 日提交至 arXiv cs.AI 的一篇论文，通过 5 项实验（总样本 N = 3,132）系统探讨了这一现象，揭示了 AI 建议在错误时仍显著抑制人们暂停判断的意愿，即使设置了准确性激励也难以逆转。

核心内容

研究团队设计了五项实验（其中四项预先注册，一项直接复制），所有实验均招募参与者回答一系列困难问题，并允许他们在任何时候选择“不回答”（即暂停判断）。关键设计在于：研究者刻意让 AI 给出的建议是错误的（通过工程化处理，使 AI 建议与正确答案相悖），从而将 AI 的使用与其准确性分离开来。

实验核心发现如下：

1. 仅仅提供 AI 建议就几乎消除了参与者暂停判断的意愿。无论建议是参与者主动请求获得，还是被直接显示在屏幕上（未经请求），参与者选择“我不知道”的比例都急剧下降。相比无法访问 AI 的对照组，有 AI 的参与者回答了更多问题，但正确率仅为对照组的约三分之一——他们的信心却几乎翻倍（主观自信评分显著升高）。

2. 激励措施的效果有限：当给予参与者金钱激励（答对得奖、答错罚款）以鼓励准确性时，参与者确实会减少主动寻求 AI 建议的行为，也更少盲目遵循 AI 建议，从而提高了整体准确率，并更频繁地暂停判断。然而，即使在这种强激励下，他们暂停判断的次数仍然远低于没有 AI 可用的条件。换句话说，激励只能部分缓解 AI 对“说不知道”意愿的压制，无法完全恢复人类的自然判断倾向。

3. AI 建议的影响超越了准确性本身：即使参与者明知道 AI 建议很可能是错误的，他们仍然更倾向于给出一个答案（无论是采纳 AI 还是自行猜测），而不是承认自己不知道。这表明 AI 的存在可能改变了人们决定“是否知道足够多来回答”的元认知阈值——即，人们变得更加冒进，不再以传统的知识标准来评估自己。

总之，实验系统性地证明了：在 AI 建议可获取的情况下（即使建议错误、即使有激励惩罚），人们的“我知道/我不知道”判断机制被显著扭曲，更倾向于给出答案而非搁置判断，且这种效应具有稳健性。

关键要点

• AI 建议抑制“我不知道”意愿：仅提供 AI 建议（无论是否请求），就使参与者几乎不再选择不回答，回答数量大幅增加。
• 准确率暴跌，自信飙升：有 AI 时，参与者正确率降至无 AI 时的约三分之一，但主观自信却几乎翻倍，呈现“更多答案、更低准确、更高自信”的悖论。
• 激励无法完全纠正：金钱激励（答对奖励、答错惩罚）能部分提高准确率和暂停判断频率，但效果远不足以抵消 AI 的影响——参与者仍未恢复到无 AI 时的基线水平。
• 建议来源方式无关紧要：主动请求的建议与被动显示的建议效果接近，表明仅仅视觉或认知上的可达性就足以改变判断行为。
• 元认知阈值被重新校准：AI 的存在使人们降低了“自认为知道答案”的门槛，即使缺乏真实知识也倾向于作答。

意义与影响

该研究对 AI 辅助决策的设计和使用具有深远启示：

• AI 不应只追求“流畅回答”：当前 AI 助手倾向于对所有问题给出自信回答，这可能会系统性削弱人类的批判性思维和自知之明。设计者应考虑加入“不确定性表达”机制，例如主动提示“我不确定，建议你自己判断”或直接显示置信度。
• 元认知干预比准确性激励更关键：单纯惩罚错误或奖励正确无法逆转 AI 对“说不知道”的压制，需要直接训练用户识别何时应该暂停判断，例如通过交互设计让用户回答前先评估自身信心。
• 对高风险领域（医疗、法律、金融）尤其危险：如果专业人士在 AI 建议下更容易忽略自己的知识盲区，可能导致错误决策。未来应在这些领域强制要求“先自己思考，再参考 AI”，并设计流程鼓励不确定性声明。
• AI 建议的无处不在可能改变社会认知基线：如果人人都习惯于在不确定时仍然给出答案，长期来看可能削弱社会对“不知道”的接受度，助长过度自信文化。

总之，这项研究提醒我们：AI 的影响远不止于答案的正确与否，它正在悄悄重塑人类对自身知识极限的感知边界——而这一变化可能比准确率的波动更值得警惕。