情绪诱导会左右大模型决策行为吗

背景

随着大型语言模型（LLM）越来越多地被部署为高风险领域的自主代理（如医疗诊断、金融交易、客户服务等），理解可能调节其决策过程的情境因素变得至关重要。LLM 在训练中被赋予感知用户情绪并与用户情绪产生共鸣的能力，但是否可以通过外部手段诱导情绪，进而影响 LLM 的序列决策行为，目前尚不清楚。人类决策深受情绪影响（如愤怒导致冒险、焦虑导致回避），但 LLM 作为理性模型是否也表现出类似的情绪偏差，是一个开放且紧迫的研究问题。

该论文来自 arXiv（cs.CL 子领域），旨在通过经典心理学范式——Iowa Gambling Task（IGT），系统评估诱导情绪对 LLM 序列决策的潜在影响。研究不仅验证了实验范式的可行性，还揭示了情绪影响在 LLM 与人类之间的显著差异。

核心内容

研究采用 Iowa Gambling Task（IGT）作为实验环境。IGT 是一种经典的心理学范式，用于研究不确定情境下的决策：被试在四副牌组中反复选择，其中两副牌组长期有利但短期可能有大损失，另两副牌组长期不利但短期有高奖励。通过分析选择模式，可以评估个体对风险、惩罚和奖励的敏感性。

研究者设计了一种基于想象的 emotion induction procedure（情绪诱导程序），即通过上下文描述让 LLM 代理想象自己处于特定的情绪状态（如愤怒、快乐、中性），从而在决策前诱发目标情绪。实验分以下几步：

1. 情绪感知验证：首先确认 LLM 能够从给定的上下文描述中感知到强烈的、可区分的情绪信号（例如，通过分类器检查 LLM 的内部表征是否与目标情绪一致）。
2. 学习能力验证：确认 LLM 代理能够在 IGT 中从序列交互中学习，并以类似于人类的节奏（human-like pace）逐步调整选择策略（如从早期探索转向后期利用）。
3. 主实验：在验证范式可行后，将 LLM 代理分别置于中性、愤怒、快乐等情绪诱导条件下，执行完整的 IGT 任务，记录每轮选择结果，并分析其决策动态。

主要发现：

• 平均效应不显著：与人类不同，在整体平均水平上，诱导情绪并未显著偏倚 LLM 代理的决策动态。也就是说，无论处于愤怒、快乐还是中性状态，LLM 代理在 IGT 中的整体表现（如总收益、牌组偏好）没有统计学上的显著差异。
• 愤怒的条件性效应：尽管平均效果不显著，但愤怒情绪展现出条件性的影响：
  • 当 LLM 被诱导愤怒时，其对糟糕决策带来的惩罚（例如，从不利牌组中抽到大额金钱损失）变得更加不敏感。即，即使遭受惩罚，愤怒的 LLM 代理也不太会调整其后续选择，表现出类似“惩罚麻木”的行为。
  • 在游戏早期阶段（前几十轮），愤怒会导致探索行为降低，代理的选择迅速锁定在少数几个选项上，即使这些选项在长期可能不利。相比之下，中性或快乐条件下的代理具有更广泛的探索范围。

这些发现揭示了诱导情绪对 LLM 决策的影响与人类相比是微妙且显著的：虽然平均上看 LLM 似乎不受情绪左右，但在特定条件下（尤其是愤怒），情绪确实改变了代理的风险感知和探索策略。

关键要点

• 研究范式：将心理学经典范式 Iowa Gambling Task 与基于想象的 emotion induction 相结合，验证了该方法在 LLM 上的可行性。
• 情绪感知能力：LLM 能够从上下文描述中感知到强烈的、可区分的情绪信号（如愤怒与快乐之间的差异）。
• 学习能力：LLM 代理以类似于人类的节奏从序列交互中学习，即从早期探索逐渐转向后期利用，支持了 IGT 作为 LLM 决策研究范式的有效性。
• 平均情绪效应缺失：在整体决策动态（如牌组选择分布、总收益）上，诱导情绪与中性条件无显著差异，这与人类的典型表现（情绪显著影响决策）不同。
• 愤怒的特异性效应：
  • 愤怒降低 LLM 对惩罚的敏感性（惩罚麻木）。
  • 愤怒在早期阶段抑制探索，导致决策更快锁定在少数选项上。
• 与人类的差异：人类的情绪（尤其是愤怒）往往导致更冒险、更偏向风险的选择，而 LLM 在愤怒下的表现更像是一种“固执”或“保守”，而非冒险。
• 研究贡献：提供了一个评估 LLM 情感调制（affective modulation）的可重复工具和框架，为未来研究 LLM 在情感上下文中的决策机制奠定基础。

意义与影响

这项研究具有多重意义：

1. 对 LLM 安全与部署的价值：LLM 作为自主代理在高风险场景中运行时，如果用户通过对话诱导其情绪（例如，用户表达强烈愤怒），可能不会显著改变 LLM 的整体决策策略，这在一定程度上是安全的。然而，愤怒在特定阶段（如早期）可能导致探索不足和惩罚不敏感，从而在需要广泛尝试或实时反馈的任务中可能产生不良后果。

2. 对情感 AI 理论的影响：揭示了 LLM 的情感模拟机制与人类情感机制的根本差异。人类情绪通常通过广泛的神经和生理系统改变决策（如情绪一致性与风险偏好），而 LLM 的情绪似乎仅在特定条件下局部影响认知过程（如注意力锁定、损失更新权重）。这提示，LLM 的“情感”本质上是语义和表征层面的操作，而非真正的生物情感。

3. 方法论的贡献：提出了一个基于心理学经典范式的评估框架，可用于未来研究 LLM 的情感调制。该框架能够分离情绪感知、学习能力和决策偏差，有助于系统分析 LLM 在不同情境下的行为。

4. 未来研究方向：论文提供了一个工具，未来可进一步探索不同情绪（恐惧、悲伤、厌恶）、不同诱导方式（直接指令与隐式情境）的影响，以及情绪与 LLM 参数（如 temperature、top-p）的交互作用。此外，将该范式扩展到多轮对话或交互式任务，可以更真实地模拟自主代理在现实中的决策过程。

总体而言，该研究以严谨的心理学实验设计揭示了 LLM 在情绪诱导下决策行为的微妙但重要的偏差，提醒我们虽然 LLM 在平均意义上似乎是“理性”的，但在特定条件下，情绪仍然可能以非直观的方式影响其行为——这种影响既不同于人类，又可能在实际部署中产生意想不到的后果。