共识与分歧:LLM动态建模群体推荐主观偏好
速览
本研究微调LLM基于人类调查数据,使其成为推荐管道中的实时判断模型。通过从DeepSeek-V3.1蒸馏的推理数据集和人类真实评估,开发了Judgmental Llama和Judgmental OLMo来模拟群体评估。该流程基于社会选择聚合策略生成多个推荐候选,并动态选择最大化预测人类评价的候选。用户研究(n=284)表明该方法在满意度和群体共识上得分最高,且LLM判断与人类感知高度对齐。
AI 深度解读
背景
近年来,组推荐系统(Group Recommender Systems)的研究越来越关注群体内部偏好分布的敏感性。传统的组推荐方法通常采用固定的聚合策略(如平均评分、最小遗憾等)来融合个体偏好,但不同群体配置(如存在少数派、联盟等)下,单一策略往往无法兼顾公平性、满意度和共识感。已有工作表明,根据群体内部的偏好分布动态选择聚合策略,可以显著提升推荐效果。然而,如何让模型像人类一样感知这些细微的主观偏好,并据此实时选择最优策略,仍是一个开放性问题。
大语言模型(LLM)在模拟人类判断和推理方面展现出了潜力。本文探索将LLM作为组推荐流程中的实时判断模型,通过微调使其能够根据群体配置动态选择理想的聚合策略,从而生成更符合人类主观感知的推荐结果。
核心内容
本文研究LLM能否模仿人类对群体偏好分布的敏感性,并基于公平性(fairness)、满意度(satisfaction)和共识感(consensus)等主观感知,选择最佳的偏好聚合策略(以及对应的推荐)。
研究者通过以下步骤实现这一目标:
-
推理数据集构建:从DeepSeek-V3.1蒸馏(distill)出一个推理数据集,并辅以人类真实评估(ground truth assessments)。该数据集覆盖多种群体配置和聚合策略下的判断场景。
-
LLM微调:基于该数据集微调两个开源LLM——Llama和OLMo,得到两个专门用于模拟群体评估的模型:Judgmental Llama和Judgmental OLMo。这两个模型在推荐流水线中扮演“判断器”角色,能够实时评估不同推荐候选方案的人类感知质量。
-
推荐流水线:首先基于社会选择(social choice)理论生成多个推荐候选(每种候选对应一种聚合策略,如多数投票、均值、最小不幸等)。然后,Judgmental Llama或Judgmental OLMo动态选择其中一个候选,即预测能最大化人类感知评估(满意度、共识感等)的那个。
-
用户研究验证:研究者在284名参与者中进行了用户研究(user study),比较本方法生成的推荐与基线方法(如固定策略、无LLM动态选择等)的效果。结果显示,本文的方法在满意度和群体共识感上取得了最高得分。
-
交互效应分析:进一步分析发现,当考虑LLM方法与群体配置(如少数派、联盟)之间的交互效应时,LLM判断与人类对公平性、满意度和共识感的感知最一致。这证实了动态适应聚合策略的必要性,并突显了使用LLM进行这种适应、以对齐人类主观判断的优势。
关键要点
- 核心问题:LLM能否像人类一样感知群体偏好分布,并动态选择最优聚合策略?
- 方法:使用从DeepSeek-V3.1蒸馏的推理数据微调Llama和OLMo,得到Judgmental Llama和Judgmental OLMo,作为组推荐流水线中的实时判断模型。
- 流程:多候选生成(基于社会选择策略) → LLM动态选择 → 输出推荐。
- 验证:用户研究(n=284)表明该方法在满意度和共识感上优于基线。
- 关键发现:LLM判断与人类主观感知最一致时,需考虑群体配置(如少数派、联盟)与LLM方法的交互效应。
- 启示:动态适应聚合策略(而非固定策略)是提升组推荐系统主观效果的关键;LLM是实现这种适应的有效工具。
意义与影响
本研究为组推荐系统提供了一种全新的范式:不再依赖预定义的固定聚合规则,而是利用LLM实时模拟人类对推荐结果的主观感知,从而动态选择最适合当前群体配置的策略。这种方法不仅提升了推荐结果在满意度和共识感上的表现,还揭示了群体配置(如是否存在少数派或联盟)对于判断标准的重要影响。
从技术层面看,本研究展示了LLM作为“判断模型”的潜力,而不仅仅是生成模型。通过蒸馏大型模型(DeepSeek-V3.1)并结合人工标注进行微调,可以在保持高效推理的同时获得高质量的主观评估能力。
从应用层面看,该工作可被直接应用于社交平台、视频服务、新闻推荐等需要同时服务多个用户的场景,尤其是当群体内部存在明显偏好差异(如家庭成员、同事小组)时。此外,该研究也呼应了“对齐人类价值观”的LLM研究方向,证明了LLM在主观感知任务中的可微调性和实用性。
未来工作可进一步探索更复杂的群体动态(如随时间变化的偏好)、多轮交互场景,以及将LLM判断模型与个性化解释生成相结合的可能性。
