LLM生成临床试验摘要忠实度评估与提升

背景

随着大语言模型在医疗领域的应用日益广泛，特别是在临床试验结果摘要的自动生成方面，其潜在风险也日益凸显。临床试验摘要需要面向医疗提供者、患者和支付方等多类利益相关者，对信息的准确性和忠实度要求极高。然而，LLM 固有的幻觉问题——即生成看似合理但实际不准确的内容——在高风险医疗场景下可能造成严重后果。目前，针对 LLM 生成临床试验摘要的忠实度（faithfulness）缺乏系统化的评估框架，尤其是针对不同受众的差异化需求。本研究旨在填补这一空白，提出一个可复现的基准评估框架，并探索通过知识图谱增强检索来提升忠实度的可行路径。

核心内容

本研究提出了一套评估 LLM 生成临床试验摘要忠实度的基准框架，并基于该框架对三种主流 LLM（GPT-4o、Claude Sonnet 4.6 和 Gemini 2.5 Flash）进行了系统评估与改进。论文的核心贡献包括：

1. 数据集构建：从 Aggregate Analysis of ClinicalTrials.gov（AACT）数据库中抽取了 200 个分层抽样的临床试验，覆盖不同试验阶段、治疗领域和结果类型。这些试验构成了评估的基础语料。

2. 受众特定提示模板：针对三类利益相关者——医疗提供者（Healthcare Providers）、患者（Patients）和支付方（Payers）——分别设计了提示模板。每个模板强调不同的信息维度（如疗效、安全性、成本效益等），以模拟真实场景下的摘要需求。

3. 六维忠实度标注模式：定义了一个六维度的忠实度评估体系，包括：

   • 支持性声明（Supported Claims）：声明可直接从原文证据中得出。
   • 未支持声明（Unsupported Claims）：声明缺乏原文证据支持。
   • 矛盾声明（Contradictory Claims）：声明与原文证据相矛盾。
   • 遗漏关键信息（Omission of Key Information）：摘要遗漏了重要结果或风险。
   • 过度泛化（Overgeneralization）：将有限证据过度推广到更广泛人群。
   • 错误归因（Misattribution）：将结果错误归因于特定因素。

   每个维度使用 1-3 分进行标注（1=差，3=好），其中“未支持声明”被识别为所有模型的主要失败模式，平均得分仅为 1.55（满分 3）。

4. 基线评估：对三种 LLM 在同一组 200 个试验上，使用三种受众模板，共生成 1,800 篇摘要（200 试验 × 3 模型 × 3 受众）。使用 cross-encoder 自然语言推理（NLI）模型对摘要进行忠实度评分。结果显示，所有模型在“未支持声明”维度上表现最差。

5. 知识图谱增强检索系统（KG-augmented retrieval）：开发了一种基于知识图谱的检索增强生成（RAG）系统，将临床试验的结构化数据（如纳入标准、结局指标、不良事件等）以知识图谱形式存储，并在生成摘要时检索相关实体和关系，作为上下文提供给 LLM。

6. 改进效果：与基线相比，KG 增强系统在 NLI 忠实度评分上取得了统计显著的提升：

   • 蕴含（entailment）得分提升 +0.0125
   • 忠实度（faithfulness）得分提升 +0.0130（p < 0.0001） 改进路径呈现模型依赖性：GPT-4o 主要通过减少矛盾声明来提升，而 Claude Sonnet 4.6 和 Gemini 2.5 Flash 则主要通过增加蕴含（即更多声明被原文支持）来提升。

关键要点

• 研究的核心贡献是构建了一个可复现的基准框架，用于评估 LLM 生成临床试验摘要的忠实度，包含 200 个分层试验、三类受众模板和六维标注模式。
• 基线评估表明，“未支持声明”是三种 LLM 共同的、最突出的失败模式，平均得分仅为 1.55/3，提示 LLM 在临床试验摘要中倾向于生成缺乏证据支持的陈述。
• 使用 cross-encoder NLI 模型进行自动评分，提供了客观、可扩展的评估指标，替代了昂贵的人工标注。
• 知识图谱增强检索系统显著提升了忠实度，但提升幅度较小（蕴含+0.0125，忠实度+0.0130），且提升机制因模型而异：GPT-4o 更擅长减少矛盾，Claude 和 Gemini 则更擅长增强蕴含。
• 本研究强调，单纯依赖 RAG 或知识图谱无法完全解决 LLM 的幻觉问题，需要针对不同模型特性设计定制化改进策略。
• 研究未涉及对患者端摘要的易读性评估，也未评估摘要的临床实用性，这些是未来工作的方向。

意义与影响

对医疗领域的影响：本研究为在临床试验结果摘要生成中安全使用 LLM 提供了关键方法论。它揭示了即使是最先进的模型（如 GPT-4o、Claude Sonnet 4.6、Gemini 2.5 Flash）在忠实度上仍存在显著不足，尤其是“未支持声明”问题。这提示医疗应用开发者不能盲目依赖 LLM 输出，必须配备忠实度检查和知识增强机制。知识图谱增强检索提供了一种可实施的改进方向，但效果有限，说明需要更根本的解决方案。

对 NLP 研究的意义：论文提出的六维忠实度标注模式为评估 LLM 生成内容的忠实度提供了更细粒度的框架，超越了传统的二元或三元（蕴含/矛盾/中立）分类。该框架可推广到其他高风险领域（如法律、金融）。此外，研究揭示了不同模型对不同改进策略的响应差异，提示未来研究应关注模型特定的忠实度增强方法，而非追求通用方案。

对临床实践的影响：如果 LLM 生成的摘要被用于辅助医生决策或患者教育，不准确信息可能导致误诊、不当治疗或患者焦虑。本研究通过量化评估和提出改进方法，为安全部署铺平了道路。但需注意，当前改进幅度较小，尚未达到临床可接受阈值，仍需人工审核。

局限性与未来方向：研究仅基于 NLI 自动评估，未进行人工专家评审；数据集仅包含 200 个试验，代表性有限；知识图谱仅基于 AACT 数据库的结构化数据，未整合自由文本或外部知识。未来工作可扩展至更大规模、多语言场景，并探索联合使用检索增强、结构化约束和对抗性训练来提升忠实度。