大模型拒答需分两轴：答案正确与问题可答

背景

大型语言模型（LLM）在部署时经常被要求“拒答”——即拒绝回答某些问题。然而模型需要拒绝的对象其实有两种：一是它可能给出错误答案的问题（正确性风险），二是根本就不该回答的问题（可回答性风险），例如无法回答的问题（如“明天的天气”）或基于错误前提的问题（如“为什么太阳是方的？”）。传统的做法是对模型输出的单个置信度分数设置一个阈值，低于该阈值则拒答。但这种方法无法区分上述两种风险：一个置信度分数低，可能是因为模型不确定自己的答案（正确性风险），也可能是因为问题本身有缺陷（可回答性风险）。这篇来自 arXiv 的论文（cs.CL，2026年7月）系统分析了 LLM 拒答行为的两个独立维度，并提出了一种校准策略来同时控制两种错误。

核心内容

研究人员在来自三个模型家族（参数规模 2B 到 14B）的五个指令微调模型上进行了实验。他们发现“回答正确性”和“问题可回答性”是两个独立的轴，互不关联。

• 普通答案置信度（通常通过模型输出 token 的概率或 logit 计算）能够较好地反映答案是否正确（正确性轴），但对问题是否可回答几乎完全“视而不见”。也就是说，即使模型内部知道某个问题无法回答（例如基于错误前提），它的置信度分数仍然可能很高，甚至与可回答的问题无法区分。
• 线性探测（linear probe）：通过从模型隐藏层状态中训练一个简单的线性分类器来预测“问题是否可回答”。这个探测器的表现恰恰相反：它能很好地检测问题是否可回答（可回答性轴），但对答案是否正确几乎无能为力。

这两种能力的分离不随模型规模扩大而缩小，是一个持久的盲点。在最具有挑战性的自然发生的错误前提问题数据集 CREPE 上，该盲点最为严重。在 CREPE 上，传统的指标——答案置信度、P(IK)（模型自称“我不知道”的概率）、P(True)（模型自称答案正确的概率），甚至直接询问模型“前提是否为假”——所有这些都接近随机水平（即无法区分可回答与不可回答）。而隐藏状态线性探测器的 AUROC（曲线下面积）达到 0.69 到 0.77，表明模型内部其实“知道”问题有问题，只是不会主动报告出来。

研究人员尝试了“显式指示模型检查前提”的方法，结果却适得其反：模型不仅会质疑错误前提，也会质疑正确前提，导致 57% 的质疑都针对本应回答的问题（即虚假挑战）。而如果用隐藏状态探测器的结果来路由同样的指示（即只有探测器认为前提有误时才触发检查），挑战的精确度大约提高了三倍。

基于上述发现，作者将两个轴转化为一个校准策略：只有当可回答性分数和正确性分数各自都超过其各自阈值时，模型才回答。这两个分数表现出不同的行为：

• 不可回答回答率（即模型回答了不应回答的问题）可以在各种模型规模上通过调节阈值加以控制；
• 错误回答率（即模型回答了但答错）则受到模型固有准确率的限制，因此随着阈值收紧，错误回答率的上限会降低——换句话说，正确性分数能提供的保证是“模型本身有多准”决定的。

在覆盖 75% 正确答案的条件下，该双轴策略同时保证了两个预算（即不可回答回答率和错误回答率均受控），而单一阈值策略只能覆盖 31% 的正确答案。在 14B 模型上，双轴策略是唯一能够同时提供两种保证的方法。

关键要点

• LLM 拒答存在两个独立维度：答案正确性（是否答对）与问题可回答性（是否该答），传统单一置信度阈值无法区分。
• 模型内部的隐藏状态（通过线性探测）能很好地检测问题可回答性（AUROC 0.69–0.77），而输出的置信度分数则对此几乎无效——这是一个系统性的“盲点”，且不随模型规模缩小。
• 在自然发生的虚假前提问题（CREPE）上盲点最严重，直接询问模型“前提是否虚假”效果也很差（接近随机）。
• 显式指示模型“检查前提”会导致大量误判（57% 针对正确前提的虚假挑战）；而用隐藏状态探测器路由该指示可将挑战精度提升约三倍。
• 基于两个独立的分数（可回答性分数和正确性分数）分别设置阈值，可以构建一种校准策略，不同模型规模下均可独立控制不可回答回答率，而错误回答率受模型本身准确率约束。
• 在覆盖 75% 正确答案的条件下，双轴策略同时保证两种错误率受控，而单一阈值只能覆盖 31% 的正确答案；在最大模型（14B）上，双轴策略是唯一能同时提供两种保证的方法。

意义与影响

这项研究揭示了 LLM 拒答行为中一个被忽视但关键的结构：模型内部表征和输出置信度之间存在信息不对称。模型“知道”问题有毛病，但不会通过常规的置信度信号表达出来。这解释了为什么简单阈值或提示工程常常失效——它们只触及了一个维度。

实用价值在于：通过从隐藏状态中提取一个低成本的可回答性探测，可以大幅提升模型在易出错场景（如事实核查、客服、教育问答）中的可靠性，尤其是处理基于错误前提或无法回答的问题。双轴校准策略也为模型部署提供了更精细的风险控制，允许系统分别设定对“答错”和“答了不该答的”容忍度。

该工作还强调了模型规模不是万能的：尽管更大的模型在准确性上可能更好，但它们的盲点并未消失。相反，我们需要设计额外的机制（如隐藏状态探测）来弥补输出层的信息丢失。这在模型对齐和安全性方面具有深远意义——安全不是简单地让模型“学会说不知道”，而是需要理解并显式利用模型内部的知识。