图反馈控制开源大模型群体共识与派系形成
速览
本文研究多智能体语言模型系统中的共识形成机制，在1.1B-32B参数的开源权重模型群体中采用命名游戏协议。发现伙伴标签证据是必要但不充分的，同质性阈值相似性路由会加剧碎片化，而桥接路由在有记忆时能恢复共识。在均质模型群体中，保留历史信息通常促进共识，而阈值相似性路由无法达成任何共识。早期窗口图能量特征可作诊断工具。
AI 深度解读
背景
多智能体语言模型系统正越来越多地采用局部交互路由（local interactions），但运行时的交互图（interaction graph）往往被视为实现细节而非研究重点。随着开放权重（open-weight）语言模型（如 Llama、Qwen 等系列）的普及，理解这些模型在群体中如何通过交互形成共识或产生分群（clique）变得至关重要。本研究基于命名游戏（naming-game）协议，系统考察了开放权重语言模型群体在受控交互条件下的惯例形成（convention formation）机制，特别关注不同的图反馈策略（如基于相似性的路由 vs. 桥接路由）对群体共识和碎片化（fragmentation）的影响。
核心内容
本文研究多智能体语言模型群体中的惯例形成问题，采用命名游戏协议，模型规模从 1.1B 到 32B 参数（均为开放权重模型）。研究者通过限制首 token 得分（restricted first-token scores）在 tokenizer 安全的标签上的分布，来测量提示条件得分状态分布（prompt-conditioned score-state distributions），进而构建状态相似性图（state-similarity graphs），并区分采样标签一致性（sampled-label agreement）与潜在状态空间共识（latent state-space consensus）。
在受控干预实验中，主要针对开放权重修复网格（open-weight repair grids），发现保留的伙伴标签证据（retained partner-label evidence）是必要但不充分条件：同质性阈值相似性路由（homophilous threshold-similarity routing）会消除跨盆地暴露（cross-basin exposure）并加剧碎片化，而桥接搜索路由（bridge-seeking routing）在存在记忆（memory）时往往能修复碎片化。
在包含三个种子（seed）的混合四模型网格（mixed four-model grid）中，阈值相似性路由在 189 个设置-种子运行（setting-seed runs）中未产生任何最终的行为或状态共识；而状态组件桥接（state-component bridges）和标签不一致桥接（label-disagreement bridges）在 18 次保留记忆的运行中恢复了 14 次最终行为共识。在同类模型群体（homogeneous model populations）中，保留历史（retained history）通常将碎片化动态转向共识；最明显的例子是 Qwen2.5-32B，它在所有 18 次保留历史的充分混合设置（well-mixed settings）中达到稳定的行为和最终状态共识，而阈值相似性路由在 189 个设置中未达到任何一种共识。对于状态阈值（state thresholds）、群体规模（population size）和词汇量（vocabulary size）的鲁棒性测试保持了定性排序，早期窗口图能量特征（early-window graph-energy features）提供了有用的网格内诊断信息。
关键要点
- 多智能体语言模型群体的交互图路由策略对共识形成和碎片化有关键影响。
- 同质性阈值相似性路由（基于相似度阈值选择伙伴）倾向于加剧碎片化，阻碍跨群体共识。
- 桥接搜索路由（主动寻找状态或标签不一致的伙伴）在存在记忆时能有效修复碎片化，促进共识。
- 保留历史信息（retained history）对共识形成至关重要，尤其在同类模型群体中，充分混合且保留历史可稳定达到共识。
- Qwen2.5-32B 在保留历史且充分混合的设置下表现最佳，所有运行均达到行为和状态共识；而阈值相似性路由则完全失败。
- 状态阈值、群体大小和词汇量等参数变化不影响定性结论（鲁棒性成立）。
- 早期窗口的图能量特征可作为群体动态的有用诊断指标。
意义与影响
本研究首次系统展示了在开放权重语言模型群体中，交互图反馈（graph feedback）如何控制共识与分群形成。其核心发现——同质性路由加剧碎片化、桥接路由促进共识——对设计多智能体语言模型系统的交互协议具有直接指导意义。例如，在分布式 AI 协作、联邦学习或群体智能场景中，若希望避免群体极化或促进全局一致，应避免仅基于相似性选择交互伙伴，而应引入主动寻求不一致的桥接机制，并保留足够的交互历史记忆。此外，论文提出的基于首 token 得分分布的状态空间测量方法，以及图能量特征作为早期诊断工具，为后续研究提供了可复用的分析框架。该工作不仅深化了对语言模型群体行为理论的理解，也可能影响未来多智能体系统的架构设计，尤其是在需要平衡局部适应与全局共识的应用中。