大型行为模型：可提示的零售客户数字孪生

背景

传统的客户行为建模方法主要分为两类：一类追求预测精度但缺乏可解释性，另一类能够模拟用户行为却脱离真实数据支撑。在零售场景中，企业需要同时满足精准推荐、营销决策和用户理解的需求，而现有技术难以兼顾。随着大语言模型（LLM）在自然语言处理领域的突破，研究者开始探索如何将结构化交易数据中的行为知识转化为可计算、可交互的模型。这一方向的核心挑战在于：如何让模型既具备对真实购物行为的深刻理解，又能像“数字孪生”一样可被提示（promptable）以模拟不同决策场景。

核心内容

该论文提出 Large Behavioral Model (LBM)，一种直接从大规模零售交易数据中学习客户决策行为的框架。其核心设计围绕 Person-Environment 统一表述展开：客户状态由基于历史购买记录的行为画像（behavioral profile）表示，而产品上下文则通过检索增强生成（Retrieval-Augmented Generation, RAG）整合。训练过程分为三个阶段：

1. 持续预训练（Continued Pre-training）：将交易数据“言语化”（verbalized）为文本序列，让模型在原始语言模型基础上继续学习行为模式。
2. 监督微调（Supervised Fine-tuning）：针对具体决策任务（如购买预测、促销响应）进行有监督学习。
3. 基于可验证奖励的强化学习（Reinforcement Learning with Verifiable Rewards）：通过证据驱动的校准机制，强制模型依赖显式行为证据而非通用语言模型先验。

模型在多个零售任务上进行了评估：购买预测、硬负样本区分（hard-negative discrimination）、购物篮补全、促销响应以及跨域优惠券兑换。实验结果表明，LBM 在域内零售任务上持续优于前沿通用大语言模型（如 GPT-4 等），同时展现出强大的零样本（zero-shot）和微调迁移能力——可跨零售商和决策域有效泛化。

消融实验揭示了关键设计选择：

• 持续预训练是行为泛化的主要驱动因素。
• 检索增强在训练和推理阶段同时使用时效果最佳。
• 强化学习显著提升了模型对显式行为证据的依赖，减少了通用语言模型先验的干扰。

关键要点

• 任务定义：LBM 将客户建模重新定义为 Person-Environment 形式的统一决策问题，行为画像与产品上下文通过检索增强动态结合。
• 训练范式：采用三阶段训练（持续预训练 → 监督微调 → 强化学习），使模型在理解行为数据后能生成可解释、可验证的决策。
• 性能优势：在域内零售任务（如购买预测、促销响应）上全面超越通用大语言模型，且零样本和微调迁移能力显著。
• 检索增强策略：RAG 在训练和推理阶段同时使用比仅推理阶段使用效果更好，说明行为知识的注入需要贯穿模型学习全过程。
• 证据校准：强化学习中的可验证奖励机制迫使模型优先使用历史行为证据，而非依赖语言模型中的通用知识，提升了可解释性和鲁棒性。
• 可提示性：模型可被视为客户数字孪生，通过提示（prompt）模拟不同场景下的决策行为，支持个性化营销和决策支持。

意义与影响

LBM 的核心贡献在于证明了交易历史中编码的行为知识可以被语言模型有效学习，从而为构建可扩展的客户数字孪生和行为仿真系统奠定了基础。该工作突破了传统方法的两难困境：既实现了高精度预测，又提供了可解释的行为模拟能力。对于零售业而言，这意味着企业可以基于真实交易数据构建每位客户的“数字分身”，并像与大语言模型对话一样与之交互——例如通过自然语言提示“如果给这个客户推荐下周的促销商品，他会购买吗？”来获得基于证据的答案。

从技术角度看，LBM 将持续预训练、检索增强生成和强化学习三种范式有机融合，提供了可操作的建模框架。其跨域迁移能力暗示了在电商、金融、健康等不同行为领域推广的潜力。此外，该工作也为大语言模型在结构化数据上的应用开辟了新路径：通过将行为数据“言语化”，使原本非结构化的语言模型能够理解并推理结构化交易模式。

未来方向可能包括：扩展至更复杂的多步决策场景、引入时间动态性、以及将模型部署为实时交互式数字孪生系统。不过，论文目前仍基于 arXiv 预印本（2026年提交），其实际效果和落地细节有待进一步验证和公开实践。