Better Later Than Sooner: 基于本体论约束的后抽取修正神经符号知识图谱构建

背景

问答系统（Question Answering, QA）一直是人工智能领域的核心挑战之一。特别是当面对需要跨文档进行多跳推理（multi-hop reasoning），或涉及聚合、穷举列表等符号化操作（symbolic operations）的复杂查询时，传统方法往往显得力不从心。

检索增强生成（Retrieval-Augmented Generation, RAG）已成为解决 QA 问题的主流范式。近年来，基于图的 RAG 变体通过组织知识以更好地支持组合式问题，在一定程度上缓解了上述难题。然而，大多数基于文本的图 RAG 方法仍然缺乏执行可靠符号操作所需的严谨结构。

为了解决这一问题，研究者提出了基于符号的图方法，即提取知识图谱（Knowledge Graphs, KGs），其中关系被定义为逻辑谓词，从而支持类似 SQL 的查询。尽管这些流水线通常利用大语言模型（LLMs）进行知识图谱抽取，但 LLM 固有的特性可能导致一致性问题是：抽取出的事实可能违反常识本体论约束（commonsense ontology constraints）。

核心内容

本文提出了一种基于本体论约束的知识图谱构建神经符号框架（Neuro-Symbolic Framework）。该框架结合了开放域抽取、基于嵌入的类型和谓词规范化，以及针对本体论违规的定向 LLM 修正。

1. 方法论：延迟修正策略

该框架的核心创新在于“延迟修正”（Deferred Correction）策略。具体流程如下：

• 开放域抽取：首先从非结构化文本中提取初步的知识图谱。
• 规范化：利用基于嵌入（embedding-based）的方法对类型（types）和谓词（predicates）进行规范化，确保术语的一致性。
• 本体论约束检查与修正：在抽取完成后，专门针对违反本体论约束的事实进行修正。这一步骤通过定向调用 LLM 来实现，仅修正那些确实存在逻辑冲突或违背常识的事实。

2. 效率与质量的双重优化

通过将对 LLM 的修正调用推迟到抽取阶段之后，该方法避免了在抽取过程中反复调用 LLM 进行自我修正或迭代验证。这一策略带来了两个显著优势：

• 显著降低 Token 消耗：减少了不必要的重复计算和上下文交互。
• 提升一致性：通过专门的本体论检查，提高了知识图谱内部逻辑的一致性。

3. 下游任务验证

研究进一步验证了提取出的知识图谱在符号查询方面的适用性。通过测量 SPARQL 图模式（SPARQL graph patterns）的出现频率，证明了该方法生成的知识图谱能够有效支持复杂的符号化查询操作，同时保持了下游问答任务的质量。

关键要点

• 痛点识别：现有的基于图的 RAG 方法缺乏支持复杂符号操作（如聚合、多跳推理）的严谨结构；而直接利用 LLM 抽取知识图谱容易引入违背常识本体论的一致性错误。
• 神经符号结合：提出了一种结合开放域抽取、嵌入规范化和本体论约束修正的神经符号框架，旨在平衡灵活性与逻辑严谨性。
• “Better Later Than Sooner”理念：核心策略是“先抽取，后修正”。将修正步骤后置，避免了抽取过程中的反复 LLM 调用，从而大幅降低 Token 使用量。
• 本体论驱动：引入常识本体论约束作为修正的依据，确保抽取出的事实不仅来自文本，还符合逻辑和常识规范。
• 符号查询能力：通过 SPARQL 图模式的评估，证实了该方法生成的知识图谱适合进行类似 SQL 的符号化查询，解决了传统文本 RAG 难以处理复杂逻辑查询的问题。

意义与影响

这项研究为构建高质量、可推理的知识图谱提供了一条新的技术路径。

1. 解决 LLM 幻觉与逻辑不一致问题：通过引入本体论约束和专门的修正机制，有效缓解了 LLM 在知识抽取中常见的逻辑冲突和事实不一致问题，提升了知识图谱的可信度。
2. 提升 RAG 系统的推理能力：使得 RAG 系统能够处理更复杂的、需要多跳推理和符号操作的问题，扩展了 AI 在专业领域（如医疗、法律、金融）的应用深度。
3. 优化成本效益：“延迟修正”策略在保持甚至提升知识图谱质量的同时，显著降低了计算成本（Token 消耗），这对于大规模部署 LLM 应用具有重要意义。
4. 推动神经符号 AI 的发展：展示了如何将神经网络的感知能力（抽取）与符号系统的逻辑能力（本体论约束、SPARQL 查询）有效结合，为未来更可靠、可解释的 AI 系统提供了参考范式。