条件扩散知识迁移提升多领域图谱补全
速览
传统方法通过实体对齐约束转移知识,会压制领域特定信息,DMKGC将每个知识图谱视为实体信息的局部视角,利用条件扩散模型从支持图谱生成领域通用的实体嵌入,同时保留预测能力。在14个知识图谱上,尾部实体预测平均MRR提升4.3%,低资源场景下优势更明显。
AI 深度解读
背景
多领域知识图谱补全(Multi-Domain Knowledge Graph Completion, MKGC)旨在通过从其他支持知识图谱(Support KGs)迁移知识,来改进目标知识图谱(Target KG)中缺失三元组的预测。现有方法通常对跨图谱的等价实体施加一致性约束,以此传递知识。然而,这种设计存在两个关键问题:一是可能抑制实体在特定领域的上下文信息;二是会牺牲来自所有KG域的实体表征信息,从而阻碍性能提升,尤其在低资源数据场景下表现更为明显。为了解决这些局限,该论文首次为MKGC提出了基于生成的范式,并设计了DMKGC——一个基于条件扩散的知识迁移框架。
核心内容
论文的核心洞察在于:将每个知识图谱视为实体完整信息的部分视图(partial view),并利用扩散模型(Diffusion Models)在条件(支持KG)引导下,生成信息丰富的领域通用实体嵌入(domain-general entity embeddings)。具体流程如下:
-
初始化领域无关的先验实体嵌入:首先,为所有实体初始化一组领域无关的嵌入,作为先验实体嵌入(prior entity embeddings)。这些嵌入不偏向任何特定领域,保留了最基础的信息。
-
在各自KG内编码:将先验实体嵌入分别输入到各个知识图谱的编码器中,得到各自图谱下的实体表征。这一步保留了每个KG的局部上下文。
-
融合等价实体作为条件引导:从支持KG中提取与目标实体等价的实体,将其嵌入融合(如平均或注意力机制)作为条件扩散生成的条件(condition)。该条件引导生成过程向支持域信息倾斜。
-
条件扩散生成:使用条件扩散模型,以先验实体嵌入作为代理生成目标(proxy generation objective)。这样做的目的是确保条件生成过程对所有被条件化的KG保持无偏(unbiased),即不会过度偏向某个支持KG,从而避免丢失全局信息。
-
跨KG预测的训练:同时训练生成的嵌入,使其能够跨KG进行预测(即预测实体在不同KG中的事实),从而保留领域特定的信息。这保证了生成的嵌入既包含通用知识,也兼顾领域独特性。
通过这种生成式知识迁移,DMKGC避免了传统一致性约束导致的域信息压制问题,能在低资源场景下持续获得增益。实验在3个基准数据集上的14个知识图谱上进行,结果显示,在尾实体预测上平均MRR(Mean Reciprocal Rank)比当前最先进方法提升了4.3%,且在低资源数据设置中增益持续。
关键要点
- 范式创新:首次将MKGC从“约束迁移”范式转向“生成迁移”范式,不再强制等价实体对齐,而是通过条件扩散模型生成信息丰富的通用嵌入。
- 双向去偏设计:先验嵌入作为代理生成目标,确保生成结果不偏向任何条件KG;同时训练生成的嵌入跨KG可预测,保留了领域特异性,达到了通用与专属的平衡。
- 低资源场景优势:由于生成过程利用了支持KG的丰富信息,即使在目标KG数据稀疏时,也能有效补全,实验证明了持续的性能增益。
- 性能提升显著:在三个基准测试的14个KG上,尾实体预测MRR平均提升4.3%,说明方法具有强泛化能力。
- 技术路线明确:初始化→域内编码→等价实体融合作为条件→条件扩散生成→跨KG预测训练,步骤清晰,可复现性强。
意义与影响
- 对MKGC领域的贡献:DMKGC提出了一条全新的技术路线——生成式知识迁移,突破了传统基于对齐约束的方法瓶颈。这为多领域知识图谱补全提供了新的研究范式,可能启发后续更多生成模型(如扩散、GAN、VAE)在知识迁移中的应用。
- 低资源场景的价值:在许多实际应用中,目标KG往往数据稀疏(如新兴领域、小规模图谱),DMKGC能显著改善此类场景下的补全效果,具有重要的工程实用意义。
- 对扩散模型应用的扩展:该工作展示了扩散模型在结构化图数据(知识图谱)上的生成能力,并创新性地将条件扩散用于知识迁移,为扩散模型在推荐系统、多模态知识融合等领域的应用提供了参考。
- 未来研究方向:论文仅使用了简单的等价实体融合作为条件,未来可探索更复杂的条件设计(如关系级条件、多源注意力融合)。此外,如何在大规模KG上高效训练扩散模型也是一个值得关注的方向。
