LLM评审可靠性基准：直觉与分析形式分离

背景

随着大型语言模型（LLM）在学术同行评审中的应用日益普及，一个根本性问题浮现：LLM 评审者所谓的“分析性”和人类评审委员会所谓的“高质量”，究竟在衡量同一件事吗？传统上，人类评审依赖经验直觉和领域知识，而 LLM 评审则通过模式匹配生成看似合理的文本。二者的评分标准是否对齐，直接关系到评审系统的认识论可靠性（epistemic reliability）。已有研究关注 LLM 评审的偏见和一致性，但缺乏对其认知框架与真实分析能力之间差异的系统性刻画。该论文首次将 Kahneman 的双系统理论（System 1 / System 2）操作化，用于评估 LLM 在同行评审中的分析形式与认识功能的分离问题。

核心内容

该研究提出并发布了 Kahneman4Review 基准，包含 3,563 条带评分的同行评审文本。每条评审都沿着九个理论驱动的文本维度、八个偏见诊断指标以及一个连续的推理质量分数进行了标注。这九个维度来源于 Kahneman 双系统理论的操作化定义：表面流畅性（System 1） vs. 深层分析（System 2）。基准覆盖的偏见诊断包括长度偏差、评审人身份偏差、机构声誉偏差、以及时间趋势偏差等。

核心实验及发现包括：

1. 决策层级与认识质量代理不一致：研究发现，LLM 评审模型在输出时采用的“决策层次”（如直接给分或类别判断）与基于文本的认识论质量代理（即九维度评分）之间没有可检测的对齐。这意味着模型能够生成形式上“看起来很分析”的文本，但其内部的决策过程并不真正遵循分析性的认识标准。

2. 公开展示型代理评审得分虚高：在公开演示场景下，LLM 生成的“代理评审”（agentic reviews）获得的原始分数显著高于人工评审的合并样本。但进一步分析显示，这种得分差距主要由评审长度和会议等级（venue）因素解释，且样本并非基于同一论文配对（paper-paired），因此不能直接归因于 LLM 的分析能力更强。

3. ICLR 评审文本诊断指标在 2022–2023 年间发生突变：在 ICLR 会议数据中，基于文本的偏见诊断指标在 2022–2023 年过渡期出现了显著变化，该时间与 LLM 的广泛可用性重合。研究指出该现象是时间上的巧合，但未识别出明确的因果机制（例如无法区分是 LLM 辅助评审还是人工评审风格自然演变所致）。

4. 功能探针（function-probe）试点实验：研究设计了一组对比文本探针，用于区分真正的错误发现（genuine fault-finding）与表面流畅性（surface fluency）。结果表明该九维度评估框架能够有效区分这两种情况：被标记为高表面流畅性的评审往往缺乏实质性的分析深度，而被标记为高分析性的评审则更贴近真正的认识论功能。

关键要点

• 认识论可靠性基准（Kahneman4Review）：包含 3,563 条带评分的评审，覆盖 9 个认知维度、8 个偏见诊断和 1 个连续推理质量分数。
• 决策层级与认识质量代理未对齐：LLM 评审的决策过程（如直接评分 vs. 分类）与文本中反映的分析深度没有系统性关联。
• 公开演示中 LLM 评审得分虚高，但主要由长度和会议等级解释：不能简单认为 LLM 评审“更好”，需控制混杂变量。
• ICLR 评审在 2022–2023 年出现时间性突变：可能与 LLM 使用有关，但缺乏因果证据。
• 九维度框架可区分表面流畅与真正分析：功能探针实验证明了该框架的判别有效性。
• 核心论点：可信赖的 LLM 评审可靠性基准必须将分析形式（analytical form）与认识功能（epistemic function）分离，即不能仅依赖文本的流畅性和看起来“分析”的外表。

意义与影响

该研究在哲学和方法论上提出了一个重要区分：LLM 评审的“分析性”不应被等同于“认识论可靠性”。当前许多 LLM-as-a-Judge 工作仅关注文本表面的连贯性和逻辑形式，而忽略了这些形式是否真正对应了深层的分析推理过程。Kahneman4Review 提供了一个结构化的操作化框架，使得研究者能够量化地考察这一分离问题。

对学术同行评审实践的影响包括：提醒评审系统设计者不能盲目相信 LLM 的评分或评审文本，必须引入额外的认识论约束（如因果推理测试、对抗性扰动等）。对 LLM 评估研究的影响：该基准为未来的 LLM 评审评估提供了一个受认知科学启发的参考标准，强调需要构建能够检测“表面流畅但实质空洞”的文本的评估体系。

此外，论文提出的“决策层级”与“文本质量代理”之间的不一致发现，呼应了更广泛的 AI 对齐问题——即模型可能学会模仿分析的语言形式而非分析的真实行为。这进一步强调了在构建可信赖的 AI 评审系统时，需要超越语言建模范式的根本性设计选择。