← 返回信息流
技术博客arXiv cs.CL·3 小时前

QUBO优化证据选择，让检索增强问答更精准

原标题：QUBO-Optimized Evidence Selection for Retrieval-Augmented Question Answering with Unconventional Solvers

速览

本文提出将检索增强问答中的证据选择形式化为二次无约束二元优化（QUBO）问题。通过构建能量函数平衡相关性、覆盖度、冗余等指标，得到最优证据子集。在HotpotQA上验证，性能接近基于LLM的选择器，但更高效且适合专用求解器。这表明多跳证据选择可转化为离散优化，为RAG流水线中LLM专注于语义处理提供新路径。

AI 深度解读

背景

检索增强生成（Retrieval-Augmented Generation，RAG）是当前大语言模型问答系统的重要范式，其核心在于先从知识库中检索相关证据段落，再基于这些段落生成答案。然而，传统RAG管道通常采用 top-(k) 排序策略，仅依据段落与问题的独立相关性分数选取前 (k) 个段落。这种方式在处理多跳问题（multi-hop questions）时存在明显短板：多跳问题往往需要满足多个互补的信息需求，而独立排序无法捕捉段落之间的协同关系，容易遗漏关键证据或引入冗余信息。近期研究尝试使用大语言模型（LLM）作为段落选择器，将检索建模为集合选择问题，以提升多跳场景下的证据质量。但将LLM用于这一中间环节既昂贵又难以扩展，亟需一种更高效、可结构化求解的替代方案。

核心内容

本文提出将证据选择问题形式化为二次无约束二元优化（Quadratic Unconstrained Binary Optimization，QUBO）问题。给定一个自然语言问题、一组候选段落以及从问题中分解出的多个信息需求（information requirements），该方法构建一个能量函数（energy function），该函数在以下六个维度之间进行权衡：

  • 相关性（relevance）：段落与问题的相关程度；
  • 需求覆盖（requirement coverage）：所选段落覆盖了多少个分解后的信息需求；
  • 支持强度（support strength）：段落对答案生成的支撑力度；
  • 冗余性（redundancy）：避免选取内容高度重叠的段落；
  • 互补性（complementarity）：鼓励段落之间提供互补信息；
  • 简洁性（compactness）：在满足需求的前提下尽可能减少段落数量。

能量函数中的每个变量（即每个候选段落的二元决策变量，选为1或不选为0）和变量间的交互（如两段之间的冗余惩罚或互补奖励）都被编码为QUBO矩阵中的系数。能量值越低的解，对应越紧凑的证据子集——既能覆盖所需的信息需求，又能避免不必要的或重复的上下文。

求解得到的最优段落子集随后被送入下游的大语言模型，用于答案生成。这种设计将组合优化的证据选择与语义化的答案生成分离开来：前者由QUBO求解器（可以是不依赖于LLM的非传统求解器，如量子退火机或模拟退火等）负责，后者仍保留LLM擅长语义理解的优势。

作者在 HotpotQA 数据集上对提出的 QUBO 选择器进行了评测，并与多类基线进行比较：

  • 基于LLM的集合选择器：使用LLM直接选段落；
  • 非LLM基线：包括 BM25、基于相关性分数的 top-(k)、最大边际相关性（Maximal Marginal Relevance，MMR）、混合词汇-语义排序、贪心覆盖选择以及随机选择。

实验结果显示，QUBO 选择器在 exact-match 和 token-F1 两项指标上达到了与基于LLM的选择器竞争性的成绩，同时提供了一个与求解器兼容的结构化证据选择形式。这表明，多跳证据选择可以被转化为离散优化问题，从而开辟了一条新路径：在RAG管道中，LLM仅用于语义处理和答案生成，而上下文选择则由与Ising/QUBO兼容的求解器来承担。

关键要点

  • 问题定位：多跳问答中，传统 top-(k) 排序忽略段落间的互补性，基于LLM的选择器虽有效但成本高、扩展性差。
  • 核心创新：将证据选择建模为二次无约束二元优化（QUBO）问题，构建包含六个维度的能量函数。
  • 能量函数六要素：相关性、需求覆盖、支持强度、冗余性、互补性、简洁性，通过二元变量和交互系数统一优化。
  • 求解器无关：QUBO formulation 可被多种非传统求解器（量子退火、模拟退火、数字Ising机等）高效求解，无需LLM介入。
  • 解耦架构：组合优化负责上下文选取，LLM仅负责基于所选上下文的答案生成，各司其职。
  • 实验验证：在 HotpotQA 上，QUBO 选择器与LLM基线的性能相当，远优于 BM25、MMR 等非LLM基线。
  • 评价指标：使用 exact-match 和 token-F1 两项标准问答指标。

意义与影响

本研究的核心贡献在于为RAG管道中的证据选择问题提供了一种可扩展、结构化且性能优秀的QUBO解决方案。其意义体现在以下几个方面：

  1. 降低对LLM的依赖：将面向检索的集合选择与生成分离，使昂贵的大模型只用于最终的语义理解与答案生成，中间环节可由更廉价、更快速的经典或量子优化求解器完成，从而大幅降低部署成本和延迟。

  2. 推动非传统求解器的实际应用：QUBO formulation 天然适配于Ising机、量子退火等新型计算硬件。本文证明了在自然语言处理任务中，这类求解器能够胜任原本需要LLM才能完成的复杂语义选择工作，为量子计算和类脑计算在NLP的落地提供了具体场景。

  3. 为多跳推理提供明确优化目标：能量函数显式地编码了信息需求覆盖、互补性和简洁性，使得证据选择不再是黑箱式的“相似度排序”，而是可解释、可调优的离散优化过程。这有助于研究者分析不同约束对最终性能的影响，进而设计更精细的检索策略。

  4. 方法的普适性：虽然实验基于HotpotQA，但该框架可以泛化到其他需要集合选择的任务（如多文档摘要、事实验证等），只需重新定义信息需求和能量函数中的各项系数。未来将RAG与量子/经典优化深层次融合，可能催生一类全新的高效知识检索系统。

相关推荐

查看原文 →arxiv.org