LLM用于概率风险沟通时一致但校准不足

背景

随着大型语言模型（LLM）被越来越多地部署为AI生成输出的事后解释器，一个关键问题随之浮现：这些模型能否可靠地用自然语言传达概率信息？在风险沟通场景中，用户往往依赖模型对预测结果的文字描述来理解不确定性，而这类描述必须满足两个基本要求：一是对相同的输入输出相同的文字表述（一致性），二是所选文字描述能准确反映底层数值的大小（校准性）。当前，LLM已广泛用于解释分类概率、置信区间等概率性预测，但它们的语言输出是否真正符合风险沟通的严谨标准，仍缺乏系统性评估。

核心内容

本研究设计了一个两阶段预测管道，评估九种LLM在风险沟通任务中的表现。管道中，上游模型（模拟）先产生概率输出，包含两个关键特征：可能性（likelihood） 和不确定性（uncertainty）。这些概率输出通过从Beta分布中采样获得，Beta分布的参数由众数（mode）和先验样本量（prior sample size）共同决定——众数代表最可能的概率值，先验样本量反映对概率估计的置信程度（样本量越大，不确定性越低）。LLM的任务是在给定预测结果后，从一组预设的词汇描述中选择最合适的一个。例如，“很可能”对应高概率而低不确定性，“可能性中等”对应中等概率等。

实验涉及六个不同领域上下文（如医疗诊断、天气预报等）和十种温度设置（控制输出随机性），每个实验重复十次。结果显示：

• 一致性方面：LLM表现良好，在相同输入下倾向于选择相同的文字描述，尤其在高温度设置下仍保持稳定。
• 校准性方面：LLM普遍存在显著偏差，尤其是在处理不确定性时，其表现明显弱于处理可能性时的表现。例如，模型可能将“低不确定性”场景错误地描述为“可能”，而实际上数值对应的应该是“几乎确定”。
• 上下文影响：提供预计算的汇总统计量（众数和先验样本量）能降低不同上下文框架对模型输出的敏感性，但并未根本解决校准偏差问题。这表明瓶颈出在语言描述步骤本身（verbalization step），即模型在将数值映射到自然语言词汇时存在系统性失真。

作者因此得出结论：当前LLM尚不足以作为零样本、独立的概率预测风险沟通工具。

关键要点

• 评估了9种LLM在六种领域上下文和十种温度设置下的风险沟通能力，每个实验重复10次。
• 模拟上游模型输出：从Beta分布中采样，分布由众数和先验样本量参数化，分别对应可能性与不确定性。
• 关键度量两个维度：一致性（相同输入是否产出相同文字描述）与校准性（文字描述是否准确反映数值大小）。
• 发现：LLM在一致性上表现良好，但校准性严重不足，尤其对不确定性的描述偏差远大于对可能性的描述。
• 提供预计算汇总统计量（众数和先验样本量）可减轻上下文框架的影响，但无法纠正根本的校准偏差，瓶颈在于数值到语言的映射过程本身。
• 结论：当前LLM不适合作为零样本、独立的概率风险沟通工具。

意义与影响

这项研究对AI安全与可解释性领域具有重要的警示意义。随着LLM被集成到医疗诊断、金融风险评估、天气预报等需要精确概率表达的场景中，模型中存在的系统性校准偏差可能导致用户错误解读风险程度，进而引发决策失误。研究揭示的“零样本下LLM无法可靠地将数值概率映射到自然语言”这一事实，意味着在关键风险沟通环节不能依赖LLM直接生成解释。未来的改进方向可能包括：设计专门的数值-语言对齐训练方法，或在管道中引入额外的校准模块。此外，研究提出的两阶段评估框架（上游预测+LLM解释）为后续工作提供了标准化测试基准，有助于系统性地衡量LLM在概率沟通上的局限性。