临床语言模型中的偏见审计：从数据继承到模型放大

背景

随着基于 Transformer 的临床语言模型（Clinical Language Models）日益深入地集成到高 stakes（高风险）的临床决策支持管道中，其内部运作机制的透明度变得至关重要。然而，尽管这些模型在医疗文档中编码的人口统计学关联（Demographic Associations）如何传播至模型概率分布，目前仍缺乏经验性的明确界定。

这种“黑盒”特性引发了对算法公平性和健康公平性的深切担忧。如果模型不仅反映了训练数据中的既有偏见，还通过内部计算机制放大了这些偏见，那么将其用于辅助诊断或治疗建议可能会加剧医疗系统中的结构性不平等。

本文针对 ClinicalBERT（Alsentzer et al., 2019）——一种在 MIMIC-III 出院摘要上预训练的 BERT 变体——进行了系统的计算审计。研究旨在揭示模型内部表示偏见（Representational Bias）的运作机制，区分“统计差异”与“偏见放大”，并为临床 AI 的公平性评估提供实证依据。

核心内容

本研究通过两种互补的探测方法论（Probing Methodologies），对 ClinicalBERT 进行了深入的内部结构审计，以量化人口统计学描述符对模型预测的影响。

1. 研究方法：双重探测机制

A. 对数概率偏见分析 (Log Probability Bias Analysis, LPBA)

LPBA 方法侧重于量化人口统计学描述符如何改变模型对掩码令牌（Masked Token）的概率分布。具体而言，研究考察了当句子中包含不同的人口统计学特征（如种族、性别）时，模型在行为（Behavioral）和评价性（Evaluative）语义类别上的概率偏移。

• 操作逻辑：通过对比不同人口统计学群体在相同医疗语境下的预测概率差异，识别模型是否对特定群体赋予了系统性的高或低概率评价。

B. 基于掩码语言模型的探测 (Masked Language Model-based analysis, MLM)

MLM 方法旨在探测模型内部表示结构中关于“人口统计学能动性归因”（Demographic Agency Attribution）的编码情况。

• 实验设计：使用了 98 个真实的临床句子模板，并结合了 8 种交叉性的种族-性别组合（Intersectional race-gender combinations）。
• 目标：分析模型是否将特定的社会能动性（如主动性、责任感等）与特定的人口统计学群体相关联。

2. 基准测试：区分统计差异与偏见放大

为了判断模型输出中的差异是仅仅反映了训练数据的统计特征，还是模型内部的偏见放大，研究引入了语料库频率分析（Corpus Frequency Analysis）。

• 基准对比：将模型的预测输出与 MIMIC-III 训练语料库中实证术语频率进行基准对比。
• 核心区分：
  • 统计差异 (Statistical Disparity)：模型输出与训练数据中的实际频率一致。
  • 偏见放大 (Bias Amplification)：模型输出的偏差程度超过了训练数据中存在的偏差，表明模型在内部处理过程中加剧了不平等。

3. 主要发现

研究共识别出 32 个具有统计学显著性的发现，结果揭示了 ClinicalBERT 中偏见的主要来源：

• 整体矛盾率：在 32 个显著发现中，65.6% 的结果与观察到的语料库分布相矛盾。这意味着大部分偏见并非直接来自数据，而是模型内部生成的。
• 特定群体差异：
  • 对于 黑人患者 (Black patients)，这一比例上升至 80%。
  • 在 MLM 探测中，关于 能动性归因 (Agency Attribution) 的偏见比例高达 87.5%。

4. 核心结论

实证证据直接表明，ClinicalBERT 中的表示偏见主要运作于 模型内部放大 (Model-internal Amplification)，而非简单的训练数据继承 (Training Data Inheritance)。

换言之，即使训练数据 MIMIC-III 中存在一定的统计偏差，ClinicalBERT 并没有仅仅“复制”这些数据，而是在其 Transformer 架构的内部表示中，进一步扭曲和放大了这些偏差，特别是在涉及种族和性别的能动性判断上。

关键要点

• 模型黑盒风险：临床语言模型在决策支持管道中的应用，其内部机制对人口统计学关联的传播缺乏经验性明确，存在潜在的不公平风险。
• 双重审计方法：
  • LPBA 量化了人口统计学特征对语义类别概率分布的影响。
  • MLM 探测了内部表示中关于种族和性别交叉性的能动性归因编码。
• 偏见放大而非单纯继承：
  • 65.6% 的显著统计发现与 MIMIC-III 训练数据的实际频率分布不符。
  • 这表明模型在内部处理过程中加剧了偏见，而不仅仅是反映了数据中的既有差异。
• 弱势群体受影响更大：
  • 针对黑人患者的偏见放大比例高达 80%。
  • 在能动性归因方面，偏见放大比例高达 87.5%，暗示模型可能系统性地低估或错误归因特定群体的医疗能动性。
• 健康公平性挑战：研究结果直接挑战了“模型偏见仅源于数据”的假设，指出算法审计必须深入到模型内部表示层面，才能有效识别和缓解临床 AI 中的公平性问题。

意义与影响

这项研究对临床自然语言处理（NLP）和医疗 AI 的公平性实践具有深远影响：

1. 重新定义偏见来源：传统观点常将算法偏见归咎于训练数据中的社会偏见。本研究证明，即使控制了数据分布，模型架构本身也可能通过内部计算机制放大偏见。这要求开发者不仅关注数据清洗，还需关注模型架构的公平性约束。
2. 临床决策支持的可靠性：由于 ClinicalBERT 等模型被用于高风险的临床决策支持，其内部对黑人患者和特定性别群体的能动性归因偏差，可能导致诊断建议、资源分配或治疗方案的系统性不公。审计结果警示临床部署者需谨慎使用此类模型，尤其是在涉及弱势群体时。
3. 算法审计的新标准：研究提出的 LPBA 和 MLM 双重探测方法，结合语料库频率基准测试，为区分“统计差异”和“偏见放大”提供了可操作的技术框架。这为未来开发更公平的临床语言模型提供了方法论基础。
4. 推动健康公平性 (Health Equity)：通过揭示模型内部对人口统计学特征的编码机制，本研究促进了 NLP 社区对健康公平性的关注。它呼吁在模型开发、评估和部署的全生命周期中，纳入更严格的公平性审计流程，以确保 AI 技术不会加剧现有的医疗不平等。

总之，该研究不仅是一次对 ClinicalBERT 的技术审计，更是对临床 AI 伦理和公平性的一次深刻警示：模型不仅是数据的镜子，更是偏见的放大器。