图分析检测俄乌Telegram虚假叙事传播
原标题:Graph-Based Detection of Disinformation Narrative Diffusion between Russian and Ukrainian Telegram Channels
速览
该研究提出基于图的框架,通过弱监督和传播图分析,在Telegram生态系统中识别虚假信息叙事。方法将语义相关的声明聚类为叙事级集群,建模跨频道扩散,从而检测难以通过帖子级分析捕捉的协调放大行为。结果表明,整合文本信号与网络结构可规模化检测虚假叙事,并揭示其在大规模消息环境中的传播机制。
AI 深度解读
背景
社交媒体上的虚假信息(disinformation)叙事因其传播规模庞大、内容演化迅速以及语言表达的多样性,给检测工作带来了巨大挑战。传统的基于单条帖子(post-level)的分析方法难以捕捉到跨渠道、跨叙事的协同放大现象。近年来,以 Telegram 为代表的大规模即时通讯平台成为虚假信息传播的重要阵地,尤其在地缘政治冲突(如俄乌冲突)中,双方渠道之间的叙事扩散与对抗尤为突出。为此,研究者提出利用图结构来建模虚假信息叙事的传播路径,从而更有效地识别和追踪这类隐蔽的协同行为。
核心内容
本文提出了一种基于图(graph-based)的框架,用于在 Telegram 生态系统中识别和分析虚假信息叙事。该框架结合了弱监督学习(weak supervision)与传播图分析(propagation graph analysis),具体流程如下:
- 叙事聚类:将语义上相关的声明(claims)聚合到叙事级别的聚类(narrative-level clusters)中。这一步骤借助弱监督信号(例如少量标记数据或启发式规则)来引导聚类,无需大量人工标注。
- 传播建模:针对每个叙事聚类,构建其在不同 Telegram 频道(channels)之间的扩散图(diffusion graph)。图节点代表频道或账户,边表示叙事传播的方向与强度。
- 协同放大检测:通过分析传播图的结构特征(如密集连接、中心化程度、时间同步性等),识别出可能存在的协同放大行为——即多个频道在短时间内集中转发同一叙事,形成虚假信息的“病毒式”扩散。
实验结果表明,将文本信号(textual signals)与网络结构(network structure)相结合,能够提供一种可扩展的虚假信息叙事检测方法。该方法不仅优于仅依赖单条帖子内容的基线模型,还能揭示虚假信息在大规模消息环境中的传播规律。论文在俄乌双方 Telegram 频道数据集上验证了框架的有效性,展示了其在跨语言、跨叙事场景下的鲁棒性。
关键要点
- 核心创新:提出将弱监督学习与传播图分析融合的图框架,实现从单条帖子层面到叙事层面的跃升,有效捕捉跨渠道的协同放大。
- 技术流程:语义聚类(基于弱监督)→ 传播图构建 → 图结构异常检测,形成端到端的检测管线。
- 优势对比:相较于传统的帖子级分析,叙事级图模型能识别出那些单看内容无害但整体构成虚假信息传播模式的案例。
- 数据来源:俄乌双方 Telegram 频道(原文未明确具体数量和时间范围,但强调为大规模真实场景)。
- 评估指标:检测准确率、召回率及传播模式的可解释性(如通过图中心性度量识别关键传播节点)。
- 可扩展性:框架设计不依赖于特定语言或平台,理论上可推广至其他社交媒体(如 Twitter、WhatsApp)的虚假信息检测。
意义与影响
- 理论贡献:本研究将虚假信息检测从内容特征分析拓展到传播结构分析,丰富了计算传播学中关于叙事扩散的理论模型。图结构天然适合建模信息的多跳传播与协同行为,为后续研究提供了新的范式。
- 实践价值:针对 Telegram 这类端到端加密、内容审核困难的平台,基于图的方法能够在不侵犯用户隐私(仅依赖公开频道元数据)的前提下,实现可扩展的虚假信息监测。这对地缘政治冲突期间的舆情监控、事实核查团队具有直接应用价值。
- 潜在局限:弱监督信号的获取仍依赖一定的人工规则或种子数据,在不同语言或文化背景下可能需要重新适配;传播图构建对频道间关系的定义(如转发、引用、时间临近性)敏感,误连或漏连可能影响检测精度。
- 未来方向:论文未明确提及实时检测能力及对抗性操纵(如刻意构造传播图混淆检测)的防御策略,这可能是后续工作的重要延伸。此外,将叙事内容分析与传播图动态演化结合,有望实现更早期、更主动的虚假信息预警。
查看原文 →arxiv.org
