01

动机

大型语言模型(LLMs)在自然语言处理方面表现出色,但在知识图谱问答(KGQA)任务中,现有的方法往往面临挑战。现有的方法主要分为两类:一是微调方法(如 RoG),但这需要高质量的训练数据且资源消耗大;二是“嵌入+搜索”方法(如 MindMap),依赖于实体向量匹配。然而,用户问题的意图往往是抽象的(例如图1中的“stadium”是一个概念,而非具体实体),很难直接与具体的实体进行向量匹配。这导致难以有效地建立通往答案的推理路径,造成信息的丢失和冗余。

受人类“逆向思维”的启发,本文提出了一种新的框架——本体引导的逆向思维(Ontology-Guided Reverse Thinking, ORT)。与传统的从问题实体出发进行正向搜索不同,ORT 模拟人类解决复杂问题时的认知范式,从问题的目标(Aim)出发,利用知识图谱的本体结构(Ontology)反向构建推理路径,从而更精准地定位答案。

02

贡献

本文的主要贡献包括:

(1)提出了一种类人的解题新范式:首次提出了本体引导的逆向思维(ORT)框架用于 KGQA 任务。该方法通过从目标反向推导至条件,构建标签推理路径。

(2)即插即用的通用增强策略:作为一种无需微调(Non-fine-tuned)的方法,ORT 使 LLM 能够高效地理解知识图谱的结构,且可以轻松应用于不同的 LLM 和 KG,具有很强的扩展性。

(3)实现了SOTA 性能:在 WebQSP 和 CWQ 两个基准数据集上的实验结果表明,ORT 显著增强了 LLM 的 KGQA 能力,在 Hit@1 和 F1 指标上均取得了当前最佳性能(State-of-the-Art),优于现有的微调和非微调方法。

03

方法

任务介绍如下图所示:

图1 传统方法与ORT 的对比。传统方法受限于基于实体的向量匹配和路径收集。相比之下,ORT 通过识别概念意图,利用本体构建反向标签推理路径,并引导目标遍历以找到正确答案。

整个方法框架分为三个关键步骤:条件与目标识别、本体引导的逆向思维推理、引导式答案挖掘。

图2 ORT 的整体框架。从问题开始,LLM 用于识别问题中的条件(Condition)和目标(Aim)及其对应的标签。以目标标签为根节点,系统在 KG 本体上迭代查询相关标签,直到达到最大跳数限制。随后,修剪掉不包含条件标签的路径及循环路径。最后,利用这些推理路径指导知识图谱的查询,由 LLM 汇总实体路径并得出最终答案。

3.1 条件与目标识别:

首先提示LLM 理解问题中的已知条件(Condition)和求解目标(Aim)。不同于仅提取实体,ORT 还会提取这些实体在 KG 中对应的“标签”(即类型,如将“Ellis Park Stadium”映射为标签“stadium”)。目标实体往往是抽象的,作为连接问题意图与 KG 本体的桥梁。

3.2 本体引导的逆向思维推理:

这是核心步骤。利用知识图谱的本体(Ontology,即模式层面的三元组定义),构建一棵“逆向推理树”。

构建邻居标签字典:基于KG 本体构建标签间的关系映射。

构建逆向推理树:以“目标标签”为根节点,递归地添加邻居标签作为子节点,直到达到预设深度。

路径剪枝:

按条件剪枝:保留包含“条件标签”的路径,删除无关分支。

按语义剪枝:利用LLM 对剩余路径进行语义判断,过滤掉逻辑上不通顺的干扰路径(如“team -> conference -> venue”可能是不相关的)。

3.3 引导式答案挖掘:

利用生成的抽象“标签推理路径”来指导具体的知识图谱查询。这是一个正向过程:从问题中的条件实体出发,沿着标签路径在 KG 中进行实体遍历。最终,将收集到的实体路径输入给 LLM,生成最终的自然语言答案。

04

实验

使用的数据集:

实验在两个广泛使用的多跳KGQA 数据集上进行:WebQuestionSP (WebQSP) 和 ComplexWebQuestions (CWQ)。这两个数据集均基于 Freebase 知识图谱构建。WebQSP 主要包含单跳问题,而 CWQ 包含更多复杂的多跳问题。

实验结果:

表1:本文方法与其他基线方法在 WebQSP 和 CWQ 数据集上的结果对比。ORT 在两个数据集上均取得了最佳性能。

实验对比了五类基线方法,包括基于嵌入的方法(如NSM)、基于检索的方法(如 GraftNet)、纯 LLM(如 GPT-4, DeepSeek-v3)、微调的 LLM+KG 方法(如 RoG)以及非微调的 LLM+KG 方法(如 MindMap)。结果显示,ORT 在所有指标上均优于对比模型。与纯LLM 相比,ORT 在 WebQSP 上的 Hit@1 提升了至少 25.43%,在 CWQ 上提升了至少 27.23%。与之前的SOTA 方法(如 RoG)相比,ORT 作为一种非微调方法,依然在准确率上保持领先,证明了其推理框架的有效性。

图3:LLM 与 LLM+ORT 在 WebQSP 和 CWQ 数据集上的对比。左侧为 Hit@1(%),右侧为 F1(%)。可以看出 ORT 对不同基座模型(GPT-4o, Qwen-max, DeepSeek-v3)均有显著提升。

消融实验:

文章还进行了消融研究(Ablation Study),证明了“逆向思维”和“LLM 语义剪枝”的重要性。如果移除 LLM 过滤器或改用正向推理(Trace Forward),模型性能均有明显下降(如表 2 所示),验证了逆向推理在处理抽象目标时的优越性。

表2:消融实验结果

05

总结

本文提出了一种名为ORT(本体引导的逆向思维)的新方法,旨在解决大模型在知识图谱问答中难以处理抽象目标和建立有效推理路径的问题。ORT 模拟了人类从目标反推条件的认知过程,利用 KG 本体构建抽象的标签推理路径,并以此指导具体的知识检索。实验结果表明,ORT 是一种高效、低成本且即插即用的方法,在多个基准数据集上显著提升了 LLM 的问答性能,并达到了 SOTA 水平。未来的工作将致力于解决路径约束下实体数量过多导致的检索噪音问题。

笔记整理:薛浩涵,东南大学硕士,研究方向为虚拟知识图谱

论文链接:https://arxiv.org/abs/2502.11491

发表会议:ACL 2025

往期推荐

RECOMMEND

1

聚焦图机器学习前沿|2026 CCF第二届图机器学习会议

2

论文浅尝 | SEMMA:一种语义感知的知识图谱基座模型(EMNLP2025)

3

评测任务发布 | 第二十届全国知识图谱与语义计算大会(CCKS 2026)


OpenKG

OpenKG(中文开放知识图谱)旨在推动以中文为核心的知识图谱数据的开放、互联及众包,并促进知识图谱算法、工具及平台的开源开放。

点击阅读原文,进入 OpenKG 网站。

Logo

汇聚全球AI编程工具,助力开发者即刻编程。

更多推荐