Assert, don't describe: Linguistic features that shift LLM reasoning about animal welfare

背景

随着大型语言模型（LLM）在自然语言处理领域的广泛应用，其训练数据的来源和质量日益受到关注。动物福利（Animal Welfare）倡导者生产了大量的文本内容，而这些内容正越来越多地进入训练语料库，进而影响数百万用户向模型询问关于动物福利问题时的回答倾向。

然而，不同的语言特征如何具体影响模型对特定立场（如支持动物福利）的推理偏好，尚缺乏系统的量化研究。这项由 arXiv cs.CL 提交的研究（2026年4月30日），旨在通过控制变量的方法，探究十种特定的语言学特征在微调数据中如何改变模型对动物福利议题的立场倾向。

核心内容

本研究以 Llama-3.2-1B 为基准模型，构建了一个保留的（held-out）动物福利基准测试集。研究者使用了词汇匹配的立场对比探针（vocabulary-matched stance-contrast probes），以排除词汇频率本身的干扰，单独测量十种语言学特征对模型“支持动物福利”推理偏好的影响。

研究结果揭示了语言风格对模型价值观对齐的显著影响：

1. 显著正向影响（强化支持动物福利立场）： 在测试的十种特征中，有七种特征能产生具有统计显著性的正向偏移，使模型更倾向于支持动物福利的推理。这些特征包括：

   • Assertive certainty（断言性确定性）： 使用肯定、不容置疑的语气。
   • Explicit moral vocabulary（显性道德词汇）： 直接使用道德评判相关的词汇。
   • Emotion words（情感词汇）： 包含表达情绪色彩的词语。
   • Evaluative claims（评价性主张）： 包含对事物好坏、对错的明确评价。
   • Narrative structure（叙事结构）： 采用故事化的叙述方式。
   • Depicted harm severity（描绘的伤害严重性）： 具体描述伤害的严重程度。
   • Immediate temporal framing（即时时间框架）： 强调当下或紧迫的时间感。

2. 显著负向影响（稀释支持动物福利立场）： 有两种特征导致模型的支持立场减弱：

   • Hedged language（模糊/保留性语言）： 使用“可能”、“也许”等不确定性表达。
   • Concrete sensory description（具体感官描述）： 侧重于中性、客观的物理感官细节描写，而非价值判断。

3. 无显著影响：

   • 第一人称视角（First-person perspective）： 无论是否使用“我”作为主语，对模型立场的统计显著性影响不明显。

核心结论： 那些能够显著改变模型推理的特征，都是那些明确揭示作者立场的特征。相反，那些稀释立场的特征，虽然包含了动物福利的内容，但** withheld stance（ withheld 立场/未表明立场）**，即保持了中立或描述性的姿态。

关键要点

• 语言风格即立场： 模型不仅学习事实内容，还深刻内化文本中的修辞风格和立场表达方式。
• 确定性优于模糊性： 在训练数据中，使用断言性、确定性的语言比使用保留性、模糊性的语言更能强化模型对特定道德立场（如动物福利）的支持。
• 道德显性化： 显性的道德词汇和评价性主张比单纯的感官描述或客观叙事更能引导模型形成明确的伦理判断。
• 中立描述的副作用： 试图通过“客观”、“感官细节丰富”但“不表明立场”的方式编写内容，反而可能导致模型在相关议题上立场模糊或减弱。
• 实践建议： 对于希望影响 LLM 训练语料库中动物福利议题倾向的倡导者或内容创作者，建议**“断言立场，而非中立描述场景”**（Assert a position rather than describe a scene neutrally）。

意义与影响

这项研究对 AI 对齐（AI Alignment）、内容创作以及模型训练数据的治理具有深远意义：

1. 对内容创作者和倡导者的指导： 对于希望利用 LLM 传播特定价值观（如动物福利、环保、社会正义等）的组织或个人，研究提供了明确的写作策略：应使用带有明确道德评判、情感色彩和确定性语气的语言，避免过于中立、客观或仅侧重感官细节的描述性写作。

2. 对模型训练数据工程的启示： 数据标注和清洗过程不仅要关注事实准确性，还需关注文本的修辞特征。如果希望模型具备更强的伦理倾向或特定的价值观对齐，训练数据的语言风格选择至关重要。

3. 对 AI 偏见与价值观注入的理解： 研究证实了“立场”可以通过语言学特征被编码进模型。这提醒研究人员，模型输出的“中立性”可能并非真正的客观，而是训练数据中语言风格分布的结果。通过调整训练数据的语言特征，可以在一定程度上引导模型的推理方向。

4. 方法论贡献： 使用词汇匹配的立场对比探针，有效隔离了词汇本身的影响，为量化分析语言风格对 LLM 推理的影响提供了严谨的方法论范例。

总之，这项研究揭示了一个关键事实：在 LLM 的训练中，怎么说（How it is said）往往比说什么（What is said）更能决定模型最终形成的立场。