安全导向AI诊断框架AegisDx提升急症鉴别准确性

背景

诊断错误是患者安全的主要威胁，然而当前的大语言模型（LLM）系统通常将诊断视为单次预测任务，缺乏对漏诊高危疾病的防护机制，也缺少对推理过程的严格验证。现有的 AI 辅助诊断工具往往追求原始预测准确率，却忽略了临床中“不能漏掉”的紧急情况（must-not-miss conditions），导致实际部署中可能带来安全风险。为此，本文提出了一套面向安全性的假说-演绎临床推理框架，旨在通过结构化、可审计的方式提升诊断的全面性与可靠性。

核心内容

论文提出了 AegisDx——一个以安全性为导向的假说-演绎临床推理框架。该框架通过以下机制协调多个专用 LLM 组件协同工作：

• 角色特定契约（role-specific contracts）：为每个 LLM 组件分配明确的职责定义，确保行为可预期；
• 结构化中间输出：要求每个推理步骤生成标准化的中间产物（如鉴别诊断列表、证据摘要等），便于追踪与审查；
• 证据检索接口：使 LLM 能够对接外部医学知识库或文献进行事实核查；
• 验证门（verification gates）：在关键节点强制进行推理验证，确保每一步结论都经过严格检查。

通过这些机制，AegisDx 能够：生成广泛的鉴别诊断列表；强制筛查“绝不能漏掉”的高危疾病（如心肌梗死、主动脉夹层等）；基于可信医学证据验证推理过程；并结构化地呈现下一步可操作建议。

评估方法分为三个层级：

1. 文献病例测试：以 GPT-oss-120B 作为共享基础模型，在《新英格兰医学杂志》（NEJM）和《美国医学会杂志》（JAMA）的病例报告上进行评估。结果显示：

   • 在 JAMA 病例上，AegisDx 的 Top-3 诊断准确率为 59.9%，而独立 LLM 为 52.1%；
   • 在 NEJM 病例上，AegisDx 为 62.7%，独立 LLM 为 51.4%。

2. 急诊专科测试：在《急诊医学年鉴》（Annals of Emergency Medicine）病例上，AegisDx 的 Top-3 准确率为 85.7%，独立 LLM 为 68.6%；

   • 针对专家共识确定的“must-not-miss”诊断集合，AegisDx 在 78.0% 的病例中将其至少一个高危疾病列入前三诊断，而独立 LLM 仅 52.0%。

3. 真实世界盲法医生评估：使用来自 Yale New Haven Health System 的 43 份真实急诊科病历，将 AegisDx 与 GPT-5 进行对比。由医生盲法评分（5 分制），AegisDx 的综合安全评分从 GPT-5 的 4.31 提升至 4.55（调整后 p = 2.1×10⁻⁴），在 must-not-miss 识别和推理安全性方面均表现出定性改善。

关键要点

• 当前 LLM 诊断系统缺乏对高危漏诊的系统性防护，AegisDx 将安全性作为核心设计目标而非副产物。
• AegisDx 采用模块化架构，通过角色契约、结构化输出、证据检索和验证门实现可审计的假说-演绎推理。
• 在三个评估层次上，AegisDx 均显著优于独立 LLM 和 GPT-5，尤其在高危疾病捕获率（must-not-miss 识别）上有明显优势。
• 医生盲法评估显示，AegisDx 不仅在诊断准确率上提升，更重要的是在推理安全性和临床可操作性上获得更高评价。
• 研究提示，将诊断 AI 设计为安全导向的推理框架，而非单纯优化预测准确率，可以为急性护理场景提供更安全、更透明、更具临床意义的决策支持。

意义与影响

该工作标志着 AI 辅助诊断从“黑箱预测”向“结构化推理”的范式转变。传统的 LLM 诊断系统本质上仍是单次输出，缺少对关键临床路径（如 must-not-miss 筛查）的显式处理，而 AegisDx 通过工程化的方式将安全性嵌入系统架构，使得 AI 的推理过程可被医生检查和质疑。这种设计思路对于高风险医疗场景尤为重要——即使 AI 在准确率上略低，只要能显著降低漏诊高危疾病的风险，其临床价值就远高于单纯追求高准确率但缺乏安全保障的系统。此外，AegisDx 的结构化输出也为未来 AI 与电子病历系统的集成、以及医生与 AI 的协同决策提供了更可行的接口。研究者指出，未来的方向可能包括将框架扩展到更多专科、引入多模态数据，并进一步减轻基础模型的幻觉问题。