扩散语言模型助力交互式放射报告草稿生成
速览
Diffusion语言模型通过双向去噪生成文本，已与自回归模型竞争力相当。研究将DiffusionGemma-26B适应医学视觉问答数据集，评测中匹配或超越同规模AR模型，且生成速度提升3.5-4.4倍，3.8B活跃参数的微调模型与前沿视觉语言模型并驾齐驱。 该模型在放射报告草稿中提供任何顺序文本填充能力，适合临床真实场景的简短或不一致报告生成。 这一突破显著提升了AI在医疗影像分析领域的交互性和实用性，推动生成式AI技术在医学领域的广泛应用。
AI 深度解读
背景
自然语言处理（NLP）领域中，语言模型生成文本的方式主要分为两大类：自回归（Autoregressive，AR）模型和扩散（Diffusion）模型。自回归模型如GPT系列，通常从左到右逐个生成token，适合连贯的长文本生成。扩散模型则通过双向去噪初始的token画布（token canvas）来生成文本，无需顺序发射token，已在通用文本生成任务中与AR模型竞争甚至超越。
在医疗领域，基础模型（如放射学报告生成相关）几乎完全采用AR架构，难以发挥扩散模型的独特优势。扩散语言模型在医疗视觉问答（visual question answering，VQA）等任务上的应用仍处于探索阶段。
该研究提交于2026年7月1日，发表在arXiv cs.AI预印本，标题为《Discrete Diffusion Language Models for Interactive Radiology Report Drafting》（用于交互式放射学报告起草的离散扩散语言模型）。研究团队针对医疗领域需求，适配并测试了开源的DiffusionGemma-26B混合专家（Mixture-of-Experts，MoE）扩散语言模型。
核心内容
研究直接将DiffusionGemma-26B（参数规模26B）与同等大小的自回归对照模型Gemma-4-26B进行严格对比基准测试。两者采用完全相同的LoRA（Low-Rank Adaptation，低秩适应）微调配方，在多个医疗视觉问答数据集上进行训练和评估。
评估指标为“verbosity-robust LLM judge”，即通过一个对冗长度（verbosity）具有鲁棒性的大型语言模型评判器进行打分。这一设计确保评判结果客观，避免简单比较模型输出的字数长短。
基准测试结果显示：扩散模型在所有测试数据集上均与或优于AR模型的表现，且经过微调的模型（激活参数仅3.8B）已与前沿视觉语言模型（frontier vision-language models）具备竞争力。
除了生成质量上的平价甚至优势，扩散模型的显著优势在于其独有的“起草能力”（drafting capability），这是AR模型无法提供的：任意顺序填充（any-order infill）。由于扩散模型的双向去噪特性，初始token画布可从任意位置开始填充，放射学医生可以在报告中固定任意片段，然后由模型自动填充这些片段之间的文本。这一点在自回归模型中难以实现——AR模型在这种场景下性能较差，因为它必须严格按照顺序生成。
这一能力特别契合真实放射学报告的特点：临床报告往往简洁、因临床医师或医疗机构差异而存在不一致性。医生可通过交互方式快速迭代生成专业报告，极大提升工作效率和报告一致性。
研究还提及解码（decoding）速度：经过微调的扩散模型在实际运行中比AR模型快3.5-4.4倍，进一步增强其实用性。
原文中还列出了完整的参考文献、引用工具、代码/数据/媒体关联列表、演示（Demos）、推荐器和搜索工具等arXiv标准页面内容，以及arXivLabs框架相关说明。这些部分未构成核心技术论述，仅为论文元信息。
关键要点
- DiffusionGemma-26B通过混合专家架构实现参数高效利用（最终激活参数仅3.8B）。
- 与同等大小Gemma-4-26B采用相同LoRA配方进行微调，在多个医疗VQA数据集上测试。
- 采用verbosity-robust LLM judge进行客观评估，结果显示扩散模型在质量上与或优于AR模型。
- 微调后模型与前沿视觉语言模型具备竞争力。
- 扩散模型解码速度比AR模型快3.5-4.4倍。
- 核心创新：任意顺序填充（any-order infill），支持放射学报告中的交互式片段修复与填充，这是AR模型不具备的特性。
- 该能力特别适合真实临床报告简洁、不一致的特性，提供交互式起草工具。
意义与影响
该研究为放射学领域的自然语言处理开辟了新路径：通过将扩散语言模型引入医疗报告生成，实现了从单纯的生成到交互式起草的转变。AR模型难以应对真实临床需求，而扩散模型的任意顺序填充能力可让放射学医师在报告创作过程中发挥主导作用，减少手动撰写时间，提升报告质量和一致性。
模型的轻量化（仅3.8B激活参数）和高解码速度（3.5-4.4倍更快）进一步降低了部署门槛，使其更易于在医院PACS系统或电子病历平台中集成。相比通用扩散语言模型，针对放射学视觉问答数据的微调，使其专属竞争力显著。
整体而言，这项工作标志着医疗AI从“被动生成”向“协作式工具”的演进，预计将促进临床决策支持系统、报告标准化和多中心研究协作，推动医疗影像报告生成领域向更智能、高效的方向发展。未来，该技术或可扩展至其他医疗子领域（如病理报告、手术记录等），为放射学AI的下一代应用提供范例。