← 返回信息流
技术博客arXiv cs.AI·1 天前

动态生成组内人设增强人机信任

原标题:Dynamic In-Group Persona Generation for Enhancing Human-AI Rapport

速览

针对大语言模型在咨询和同伴支持领域建立信任难的痛点,研究提出一种动态生成“组内人设”的新方法。该方法首先识别用户的核心关切与背景,随后生成具有相似关切但背景细节不同的合成角色。实验表明,相比无设定或仅简单共情的基线模型,该人设能显著提升用户感知到的信任度、相关性及参与度。

AI 深度解读

动态组内人格生成:增强人机亲和力的新范式

背景

随着基于大语言模型(LLM)的聊天机器人逐渐从简单的问答工具转向更复杂的人际交互领域,如心理咨询、同伴支持(peer support)和情感陪伴,建立高质量的人机关系(Human-AI Rapport)变得至关重要。然而,现有的通用聊天机器人往往缺乏针对特定用户群体或情境的共鸣能力,导致用户难以产生深层的信任感和连接感。

在人际交流中,“组内成员”(In-group)身份通常能显著提升沟通的顺畅度和信任感。尽管 LLM 可以通过提示词(Prompt Engineering)模拟特定角色,但传统的静态角色设定往往难以精准匹配用户的具体痛点,或者缺乏真实感。因此,如何动态地生成能够与用户产生共鸣的“组内人格”,成为提升人机交互体验的关键挑战。

核心内容

本文提出了一种名为“动态组内人格生成”(Dynamic In-Group Persona Generation)的新方法,旨在通过条件化 LLM 来增强人机亲和力。该方法的核心逻辑分为两个步骤:

  1. 用户画像提取:首先,系统识别用户的主要关切点(primary concern)及其简要的个人背景上下文。例如,系统可能识别出一位计算机专业的本科生,其主要担忧是未来的职业前景。
  2. 合成组内人格生成:基于上述信息,系统生成一个合成的“组内人格”(synthetic in-group persona)。这个人格与用户共享相同的主要关切(如同样担心职业发展),但在背景细节和叙事上存在差异,例如年龄、职业阶段或具体经历不同。在上述例子中,生成的角色可能是一位在 AI 初创公司工作的初级研究员(junior researcher at an AI startup)。

为了验证该方法的有效性,研究团队进行了一项人类受试者实验(human-subject study),系统评估了“组内人格代理”在增强人机亲和力方面的效果。实验设置了两个基线条件进行对比:

  • 基线 A:没有经过人格条件化训练的常规代理(conventional agent without persona conditioning)。
  • 基线 B:仅表现出最小程度自我披露(minimal self-disclosure)的代理,例如仅使用“我也感觉那样”("I've felt that too")等泛泛的共情语句。

实验结果基于任务后问卷,主要评估亲和力和用户体验。数据显示,与基线相比,采用组内人格代理显著提高了用户感知到的亲和力(perceived rapport)和个人相关性(personal relevance)。此外,该组还带来了更积极的用户体验,最显著的提升体现在用户参与度(engagement)的增加上。

关键要点

  • 动态生成机制:不同于预设固定角色,该方法实时分析用户的痛点,并动态生成具有相似核心关切但不同背景细节的虚拟人格,从而在“共鸣”与“差异化”之间取得平衡。
  • 共鸣优于泛泛共情:实验表明,基于具体背景差异的组内人格(如“同为计算机背景但处于不同职业阶段”)比简单的自我披露(如“我也这么觉得”)更能建立深层连接。
  • 显著提升参与度:组内人格代理不仅在心理层面的亲和力评分上胜出,在实际的用户行为指标——参与度上也表现出显著优势。
  • 应用场景广泛:该技术特别适用于需要高信任度和情感支持的领域,如心理健康咨询、职业辅导和教育陪伴。

意义与影响

这项研究为下一代人机交互设计提供了重要的理论依据和技术路径。它表明,LLM 的价值不仅在于提供准确的信息,更在于能够通过精细化的角色模拟,构建具有情感智能的对话伙伴。

  1. 重新定义“共情”:研究指出,真正的共情并非简单的附和,而是基于共同经历或关切点的深度理解。通过生成“相似但不同”的组内人格,AI 能够避免过度拟人化带来的恐怖谷效应,同时保持足够的真实感。
  2. 提升垂直领域 AI 的可用性:在医疗、教育和心理咨询等垂直领域,用户往往因为隐私顾虑或专业壁垒而难以建立信任。动态组内人格技术可以通过模拟“过来人”或“同行者”的身份,降低用户的防御心理,提高干预效果。
  3. 推动个性化 AI 的发展:该方法展示了如何从静态的“人设”转向动态的“情境感知型人格”,为未来更加个性化、自适应的 AI 助手奠定了基础。

总之,Dynamic In-Group Persona Generation 不仅是一项技术改进,更是对人机关系中“信任构建”机制的深入探索,标志着 AI 从“工具”向“伙伴”演进的重要一步。

查看原文 →arxiv.org