斯坦福教授用LLM随机性破解因果推断难题

背景

在生成式AI时代，大语言模型（LLM）的输出高度个性化——每个用户看到的内容几乎都是独一无二的，这使得传统因果推断方法面临前所未有的挑战：当用户历史数据维度爆炸、缺乏共享对照时，如何评估特定特征的因果效应？斯坦福大学商学院技术经济学教授、前微软首席经济学家Susan Athey在ICML 2026的Keynote演讲中提出，LLM的内在随机性恰恰提供了解决这一难题的天然工具——利用随机性本身来设计随机实验，从而绕过传统方法中高维倾向得分估计的瓶颈。Athey的演讲聚焦于两个项目，其中第一个项目（与Guido Imbens和Zoe Gu合作）提出了一套基于“已记录的反事实曝光”的新方法论，第二个项目则展示了如何用Transformer模型对职业序列建模来分解性别工资差距。

核心内容

Athey指出，生成式AI的个性化程度远超传统推荐系统——在旧世界（如电影推荐），至少多人看过同一部电影，尚有可借鉴的观测数据；但在生成式AI的世界里，用户查询和回复几乎不会重复出现，传统降维方法（如用嵌入匹配）只能作为近似，而Athey追求更少偏差的结果，代价是回答一个更窄的问题：只关心少数几个特征（如语气是否温暖、情感语言使用等）的因果效应。

核心方法：微型实验与已记录的反事实曝光

Athey引入了一种新的数据结构——“已记录的反事实曝光”（Logged Counterfactual Exposures）。在常规记录中，数据包含用户、查询、实际回复和用户行为反馈（如点赞或点踩）。Athey要求额外记录两样东西：1）至少一条用户“本可以看到但没看到”的内容（即反事实回复）；2）用户看到实际回复而非反事实回复的相对概率。

具体操作分为三步：

1. 白天记录用户的真实查询和实际回复。
2. 晚上GPU空闲时，对同一查询（保持temperature>0）重新调用LLM API，采样另一条回复作为反事实曝光。
3. 运行分类器标记两条回复的目标特征（如是否包含温暖语气）；然后丢弃在目标特征上一致的“一致对”，仅保留“不一致对”（Discordant Pairs），对这些对内的用户结果做均值差，即可获得该特征的因果效应。

与传统方法的本质区别

传统离线策略评估（Off-Policy Evaluation）需要估计倾向得分作为用户特征的函数——在高维空间中最难估计。而Athey的方法中，概率计算在“用户内部”进行：只关心“这个特定用户在这次特定查询中看到A而非B的概率”。这意味着甚至无需记录用户查询本身（可保护隐私），就能得到因果效应。如果LLM的temperature较高，两条回复的概率接近，可直接做简单平均。

这个因果效应回答了什么问题？

该估计对应的是“当系统在两种回复之间近乎无差异时，朝某个方向轻轻推动（如选择语气更温暖的回复）的效果”。它直接对应“轻微推动”（Nudge）的行为决策——例如在系统提示中写上“如果你在考虑是否要友好一点，请向友好的方向倾斜”。但该方法不适用于后处理强行修改回复的情况（如先生成再强行变温暖），因为观测数据中未见此类干预。

第二个项目：用Transformer分解性别工资差距

Athey团队使用Transformer对职业序列建模（词汇表仅330个职业），先用非代表性简历数据预训练基础模型，然后在包含工资数据的小样本（来自政府调查）上fine-tuning。他们改造了fine-tuning的目标函数：将传统的均方误差（MSE）替换为“残差对残差回归”，即先取结果变量减去模型预测结果的残差，再对“性别减去模型预测性别”的残差做回归。这一目标函数有三十年理论历史，能在控制正确混杂因素的前提下得到因果效应，从而将性别工资差距分解为“职业历史差异”和“相同职业历史下的工资差异”两部分。

关键要点

• 核心洞见：利用LLM的随机性（temperature>0时的多回复采样）作为天然的随机实验工具，低成本获取反事实曝光。
• 方法颠覆性：绕过传统因果推断中估计倾向得分（Propensity Score）作为用户特征函数的难题，将概率计算限制在“用户内部”。
• 隐私友好：无需记录用户查询本身即可得到因果效应（反事实曝光获取后可丢弃用户查询）。
• 回答的问题：窄但务实——系统在两种回复间“犹豫”时，朝某个方向轻轻推动的效果（如语气变温暖）。
• 适用条件：仅适用于观测数据中已经存在且被采样的边界决策（如LLM对同一查询随机生成的不同回复），不适用于后处理强干预。
• 与负采样文献的区别：负采样通常用“假零”补全数据，是有偏工程妥协；本方法保留真实0/1结果，创建的反事实样本来自“用户本可以看到但未看到”的内容，实现无偏估计。
• 第二个项目的创新：通过修改fine-tuning的目标函数（残差对残差回归），将经典因果分解嵌入Transformer训练，可用于性别工资差距等政策驱动问题。

意义与影响

Athey的方法论为AI产品经理和在线平台提供了一种低成本、无偏的因果推断工具。在生成式AI应用中，产品决策（如系统提示的措辞、回复的情感语气）常需快速评估效果，传统A/B测试需要大量新用户招募和平台干预，而该方法仅需利用已有的观测数据（白天的真实交互）和夜间的空闲计算资源，即可获得接近随机实验的因果效应。这大幅降低了实验门槛，使因果推断更贴近工程实践。

从学术角度看，该工作重新定义了观测数据中随机算法的角色——将通常被视为噪声的随机性转化为研究设计的核心资产。它挑战了传统因果推断中“倾向得分必须作为用户特征函数”的教条，开辟了“用户内部概率”的新分析层次。同时，第二个项目展示了如何通过定制化fine-tuning目标函数，将Transformer从预测模型转变为因果分解工具，为社会科学中的结构估计提供了新思路。

长远来看，这一方法揭示了生成式AI与因果推断的协同潜力：维度爆炸虽然增加了传统方法的难度，但也提供了更丰富的随机变异来源。Athey的“以彼之矛攻彼之盾”思路，可能成为未来个性化系统中因果推断的标准范式之一。