大模型悄悄纠正非裔英语，激活导向可缓解偏见

背景

大型语言模型（LLM）在自然语言处理任务中表现出色，但其训练数据往往以标准主流语言变体为主，导致对非标准方言（如非裔美国人英语，AAE）的系统性偏差。AAE 是由超过 3000 万人使用的有规则可循的方言，然而 LLM 经常误解并将其“纠正”为标准美国英语（SAE）。现有研究多关注种族、性别等社会偏差，但方言偏差——尤其是模型在无提示情况下直接改写用户输入方言的行为——尚未得到充分审计与缓解。本文针对这一问题，提出了一套端到端的审计与缓解框架，并发布了目前最大的真实 AAE 平行语料库 REAL-AAE。

核心内容

本文来自 arXiv cs.CL，提交于 2026 年 7 月 7 日。研究涉及六种指令微调 LLM（参数量从 14B 到 70B），发现这些模型系统性地偏好 SAE 续写，即使前文上下文是 AAE，模型也会“静默地”将 AAE 改写为 SAE。作者将这种偏差定义为方言偏差（dialect bias）。

为了解决这一问题，作者提出了以下核心贡献：

1. 审计方法：引入条件方言组不变性（conditional Dialect Group Invariance, cDGI），该指标能够隔离真实的模型偏差与翻译器引入的人为伪影（例如，使用翻译器将 AAE 转换为 SAE 时可能引入的偏差）。在此基础上，作者还进行了特征级定位分析，识别出哪些 AAE 标记最强烈地触发偏差。结果发现，句法结构（尤其是否定一致，如“ain't nobody”）是所有模型共有的通用触发因素。

2. 缓解方法：首次将激活导向（activation steering）应用于方言偏差缓解。这是一种无需训练、仅在测试时执行的方法：通过因果追踪（causal tracing）提取方言方向（dialect direction），并将其注入到偏差相关的层中。与传统的提示工程相比，激活导向将偏差降低了 5 到 20 倍，同时保持 SAE 的流畅性。

3. 数据集：发布 REAL-AAE，目前最大的真实 AAE 平行语料库，包含来自自然推文的 17,479 个 AAE/SAE/AAE_back 三元组（大小是先前真实 AAE 资源的 2 到 6 倍）。该语料库经过自动验证（BERTScore F1 = 0.95）和三位母语 AAE 使用者的手动验证（语义一致性 83.0%）。

实验设置包括六种指令微调模型（14B~70B），测试方法包括直接提示、激活导向以及两者的组合。结果显示，激活导向在减少 AAE→SAE 改写行为方面效果显著，且不会破坏模型对 SAE 的生成能力。

关键要点

• LLM 普遍存在方言偏差：六种指令微调模型在面对 AAE 输入时，系统性地选择 SAE 续写，实质上是将 AAE “静默纠正”为 SAE。
• cDGI 指标可以区分模型自身偏差与翻译器引入的伪影，提供更干净的偏差度量。
• 特征级分析显示：否定一致结构（如“ain't nobody”）是所有模型中最强的偏差触发因素，其他 AAE 标记（如省略系动词、双数人称代词等）影响较小。
• 首次将激活导向应用于方言偏差缓解：通过因果追踪提取方言方向，注入到偏差相关层，无需重新训练模型。
• 激活导向的效果远优于提示工程：偏差降低 5~20 倍，同时保持 SAE 输出的流畅性和语义一致性。
• REAL-AAE 语料库规模是之前最大真实 AAE 资源的两倍以上，包含自然推文三元组，并经过双重验证，具有高可靠性。
• 该方法仅在测试时应用，不改变模型权重，易于部署和复用。

意义与影响

该研究首次系统性地揭示了 LLM 对 AAE 的“静默纠正”行为，并提供了一个可复用的审计与缓解框架。其意义体现在：

• 社会公平：AAE 使用者超过 3000 万人，模型对其方言的系统性改写可能造成文化抹除和信息损失，加剧语言偏见。本文的工作有助于提升 LLM 对语言多样性的尊重。
• 技术贡献：cDGI 为评估方言偏差提供了更精确的标准；激活导向方法为无需重新训练的偏见缓解开辟了新路径，可推广到其他非标准语言变体。
• 数据资源：REAL-AAE 语料库可作为方言包容性 NLP 研究的基础资源，推动后续研究。
• 局限性：激活导向的效果依赖因果追踪的质量，且目前仅在英文方言上验证；未来可扩展到其他语言或方言，并探索更通用的偏差缓解策略。
• 开放科学：代码和数据已公开（通过 arXiv 链接的 GitHub/Hugging Face 等平台），便于社区复现与改进。

总之，本文为语言模型方言偏差研究提供了重要的理论、方法和数据支撑，有望推动 NLP 系统向更公平、更包容的方向发展。