Integrating Subgraph-aware Relation and DirectionReasoning for Question Answering
Beijing University of Posts and Telecommunications(北京邮电大学);Huawei Technologies CO., LTD(华为技术有限公司);University of Lugano(卢加诺大学);Singapore University of Technology and Design(新加坡科技设计大学)
知识库上的问答模型能够利用实体间的关系信息提供更精确的答案。虽然有效,但这些模型中的大多数仅仅依赖于固定关系表示来获得不同问题相关的KB子图的答案。因此,这些子图的丰富结构化信息可能被关系表示向量忽略。同时,推理的方向信息,这已被证明是有效的图上的答案预测,并没有在现有的工作得到充分的探讨。为了解决这些挑战,我们提出了一种新的神经模型,即方向引导的应答器(RDAS),它将每个子图中的关系转换为额外的节点来学习结构信息。此外,我们利用方向信息,以提高推理能力。实验结果表明,我们的模型在两个广泛使用的数据集上产生了实质性的改进。
2021-04-01 cs.CL
PipeNet: Question Answering with Semantic Pruning over Knowledge Graphs
Hong Kong University of Science and Technology(香港科技大学)
本文提出PipeNet,一种“定位-剪枝-推理”流程,通过基于依赖距离对概念节点评分并剪枝噪声节点,显著降低计算成本和内存使用,并结合GAT模块在CommonsenseQA和OpenBookQA上验证了有效性。
2024-05-17 cs.CL
An Interpretable Reasoning Network for Multi-Relation Question Answering
State Key Lab. of Intelligent Technology and Systems(智能技术与系统国家重点实验室);National Lab. for Information Science and Technology(信息科学与技术国家实验室);Dept. of Computer Science and Technology, Tsinghua University(清华大学计算机科学与技术系)
多关系问答是一个具有挑战性的任务,因为它需要对问题进行详细的分析,并对知识库中的多个事实三元组进行推理。在本文中,我们提出了一种新的模型,称为可解释的推理网络,采用了可解释的,逐跳推理过程的问答。该模型动态地决定输入问题的哪一部分应该在每一跳进行分析;预测与当前解析结果相对应的关系;利用预测的关系来更新问题表示和推理过程的状态;然后驱动下一跳推理。实验表明,我们的模型在两个数据集上产生了最先进的结果。更有趣的是,该模型可以为推理分析和故障诊断提供可跟踪和可观察的中间预测,从而允许手动操作预测最终答案。
2018-06-01 cs.CL
Identifying and Answering Questions with False Assumptions: An Interpretable Approach
Department of Computer Science University of Arizona(计算机科学系亚利桑那大学)
本文研究含有错误假设的问题的识别与回答,提出利用外部证据并生成、验证原子假设的方法,在五个大语言模型上验证了其有效性和可解释性。
2025-09-22 cs.CL
Interpretable AMR-Based Question Decomposition for Multi-hop Question Answering
University of Auckland(奥克兰大学)
有效的多跳问答(QA)需要对多个分散的段落进行推理,并为答案提供解释。大多数现有的方法不能提供一个可解释的推理过程来说明这些模型是如何得出答案的。本文提出了一种基于抽象意义表示的多跳QA问题分解方法(QDAMR),通过将多跳问题分解为简单的子问题并按顺序回答,实现了可解释的推理。由于注释分解是昂贵的,我们首先将理解多跳问题的复杂性委托给AMR解析器。然后,我们实现了多跳问题的分解,通过分割相应的AMR图的基础上所需的推理类型。最后,我们使用AMR到文本生成模型生成子问题,并使用现成的QA模型回答它们。HotpotQA上的实验结果表明,我们的方法是有竞争力的可解释的推理和QDAMR生成的子问题是良好的形式,优于现有的基于问题分解的多跳QA方法。
2022-06-16 cs.CL
Towards Automated Error Analysis: Learning to Characterize Errors
University of Texas at Austin(得克萨斯大学奥斯汀分校)
描述系统的错误模式有助于研究人员将未来的发展重点放在提高其准确性和鲁棒性上。我们提出了一种新形式的“Meta学习”,它自动学习可解释的规则,这些规则描述了系统所犯错误的类型,并展示了这些规则帮助理解和改进两个NLP系统的能力。我们的方法通过收集验证数据上的错误案例,提取描述这些样本的元特征,最后使用这些特征学习表征错误的规则。我们将我们的方法应用于VilBERT,用于视觉问答,和RobERTa,用于常识问答。我们的系统学习可解释的规则,这些规则提供了对这些系统在给定任务上所犯系统错误的见解。利用这些见解,我们还能够“闭环”并适度提高这些系统的性能。
2022-02-14 cs.AI cs.CL cs.LG
Knowledge Base Question Answering by Case-based Reasoning over Subgraphs
UMass Amherst(马萨诸塞大学阿默斯特分校);University of Southern California(南加州大学);Google DeepMind(谷歌DeepMind);University of Washington(华盛顿大学)
知识库上的问答(QA)是一个具有挑战性的问题,因为它需要各种各样的推理模式。然而,我们假设在一个大的KB,推理模式需要回答的查询类型重新出现在各自的子图邻域中的各种实体。利用不同子图的局部邻域之间的这种结构相似性,我们引入了半参数模型(CBR-SUBG)具有(i)非参数分量,对于每个查询,动态检索其他类似的$k$ -最近邻(KNN)训练查询以及查询特定的子图,以及(ii)被训练以识别(潜在)从KNN查询的子图中推理模式,然后将它们应用于目标查询的子图。我们还提出了一个自适应的子图收集策略来选择一个查询特定的紧凑子图,使我们能够扩展到包含数十亿事实的完整Freebase KB。我们表明,CBR-SUBG可以回答需要子图推理模式的查询,并在几个KBQA基准测试中与最佳模型竞争。我们的子图收集策略还产生更紧凑的子图(例如,WebQSP的大小减少了55\%,而答案召回率增加了4.85\%)\footnote{Code, model, and subgraphs are available at \url{https://github.com/rajarshd/CBR-SUBG}}。
2022-06-17 cs.AI cs.CL cs.LG
Generating Followup Questions for Interpretable Multi-hop Question Answering
NEC Laboratories America(美国电气通信技术研究所(NEC实验室美国));Princeton, NJ 08540(普林斯顿,新泽西州08540)
我们提出了一个回答开放域多跳问题的框架,其中部分信息被读取并用于生成后续问题,最终由预训练的单跳答案提取器回答。该框架使得每个跳可解释,并且使得与稍后的跳相关联的检索与第一跳一样灵活和具体。作为该框架的第一个实例,我们训练一个指针生成器网络来预测后续问题的问题和部分信息的基础上。这提供了神经问题生成网络的新应用,该神经问题生成网络被应用于基于最终答案及其支持事实给出弱基础事实单跳后续问题。学习生成后续问题,选择相关的答案跨度对下游的支持事实,同时避免分散注意力的前提,提出了一个令人兴奋的语义文本生成的挑战。我们提出了一个评估使用两跳桥问题的HotpotQA。
2020-02-27 cs.CL
Simple Question Answering with Subgraph Ranking and Joint-Scoring
Carnegie Mellon University(卡内基梅隆大学);Amazon Alexa AI(亚马逊 Alexa 人工智能)
基于知识图谱的简单问答(KBSQA)是问答的一个重要研究领域。虽然只处理简单的问题,即,事实上,这个任务既不简单,也不接近解决。针对两个主要步骤,子图选择和事实选择,研究界已经开发了复杂的方法。然而,子图排名和利用的主题-关系依赖的知识库事实的重要性还没有得到充分的探讨。出于这一动机,我们提出了一个统一的框架来描述和分析现有的方法。使用这个框架作为出发点,我们专注于两个方面:通过一种新的排名方法,提高子图的选择和利用的主题-关系依赖,提出了一个联合评分CNN模型与一个新的损失函数,强制执行良好的秩序的分数。我们的方法在SimpleQuestions数据集上达到了最新的水平(准确率为85.44%)。
2019-04-04 cs.CL cs.LG stat.ML
Locate Then Ask: Interpretable Stepwise Reasoning for Multi-hop Question Answering
Fudan University(复旦大学)
多跳推理需要聚合多个文档来回答一个复杂的问题。现有的方法通常将多跳问题分解为简单的单跳问题来求解,以说明可解释的推理过程。然而,他们忽略了每个推理步骤的支持事实,这往往会产生不准确的分解。在本文中,我们提出了一个可解释的逐步推理框架,将单跳支持句子识别和单跳问题生成在每个中间步骤,并利用当前跳下一个推理,直到推理出最终结果。我们采用一个统一的阅读器模型的中间跳推理和最终跳推理,并采用联合优化更准确和强大的多跳推理。我们在两个基准数据集HotpotQA和2WikiMultiHopQA上进行实验。结果表明,我们的方法可以有效地提高性能,也产生了一个更好的解释推理过程中没有分解监督。
2022-08-22 cs.CL
Two-stage Generative Question Answering on Temporal Knowledge Graph Using Large Language Models
National University of Defense Technology(国防科技大学);Meituan(美团);Xiangjiang Laboratory(湘江实验室)
本文提出基于大语言模型的两阶段生成式时序知识图谱问答框架GenTKGQA,通过子图检索与答案生成,结合虚拟知识指示器融合图神经网络与文本表示,在两个数据集上验证了优越性。
2024-07-24 cs.CL
Graph Reasoning for Question Answering with Triplet Retrieval
University of California, Santa Barbara(加州大学圣巴巴拉分校);Amazon Inc.(亚马逊公司);Georgia Institute of Technology(佐治亚理工学院)
本文提出一种基于三元组检索与重排序的图推理问答方法,通过从知识图谱中检索最相关三元组并与问题拼接输入语言模型,在 CommonsenseQA 和 OpenbookQA 上最高提升 4.6% 绝对准确率。
2023-05-30 cs.CL
Counterfactual Variable Control for Robust and Interpretable Question Answering
Singapore Management University(新加坡管理大学);Nanyang Technological University(南洋理工大学);Microsoft Dynamics 365 AI Research(微软 Dynamics 365 人工智能研究院)
基于深度神经网络的问答(QA)模型在许多情况下既不健壮也不可解释。例如,一个多项选择QA模型,在没有任何问题输入的情况下进行测试,令人惊讶地“能够”预测大多数正确的选项。在本文中,我们检查这种虚假的“能力”的QA模型使用因果推理。我们发现关键是捷径相关性,例如,通过模型学习的段落和选项之间的不稳定的单词对齐。我们提出了一种新的方法,称为反事实变量控制(CVC),明确减轻任何捷径的相关性,并保留了全面的推理,强大的QA。具体来说,我们利用多分支架构,使我们能够在QA的训练过程中解开强大和快捷的相关性。然后,我们进行了两种新的CVC推理方法(在训练模型上),以捕获综合推理的效果作为最终预测。为了评估,我们进行了广泛的实验,使用两个BERT骨干多选择和跨度提取QA基准。实验结果表明,该CVC在保持良好的解释能力的同时,对QA中的各种对抗攻击具有很高的鲁棒性。
2020-10-12 cs.CL
Implicit Graph, Explicit Retrieval: Towards Efficient and Interpretable Long-horizon Memory for Large Language Models
University of Manchester(曼彻斯特大学);Imperial College London(伦敦帝国学院);Stanford University(斯坦福大学)
LatentGraphMem结合隐式图记忆与显式子图检索,实现高效且可解释的长周期记忆,提升大语言模型的推理能力与可解释性。
2026-01-06 cs.CL
Question-guided Knowledge Graph Re-scoring and Injection for Knowledge Graph Question Answering
Institute of Computing and Intelligence, Harbin Institute of Technology(哈尔滨工业大学计算与智能学院);University of Electronic Science and Technology of China(电子科技大学)
针对KGQA检索子图含噪声干扰推理的问题,提出Q-KGR问题引导重评分方法过滤无关路径,并通过参数高效的Knowformer将重评分知识图谱注入大语言模型,在多个基准上验证了优越性。
2024-10-02 cs.CL
Dynamic Relevance Graph Network for Knowledge-Aware Question Answering
Michigan State University(密歇根州立大学)
本文研究了以知识图谱(KG)形式给出外部知识源的常识问答的学习和推理的挑战。我们提出了一种新的图神经网络结构,称为动态相关图网络(DRGN)。DRGN基于问题和答案实体对给定的KG子图进行操作,并使用节点之间的相关性得分来动态地建立新的边,以学习图网络中的节点表示。这种将相关性显式地用作图边具有以下优点:a)模型可以利用现有关系,重新缩放节点权重,并影响邻域节点的表示在KG子图中聚合的方式。b)它潜在地恢复KG中推理所需的缺失边。此外,作为副产品,由于考虑了问题节点和图实体之间的相关性,我们的模型改进了对否定问题的处理。我们提出的方法显示了竞争力的表现在两个QA基准,CommonsenseQA和OpenbookQA,相比,国家的最先进的公布的结果。
2022-09-20 cs.CL
ReasoningLM: Enabling Structural Subgraph Reasoning in Pre-trained Language Models for Question Answering over Knowledge Graph
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学高瓴人工智能学院);Beijing Key Laboratory of Big Data Management and Analysis Methods(大数据管理与分析方法北京市重点实验室);School of Information, Renmin University of China(中国人民大学信息学院);Alibaba Group(阿里巴巴集团)
本文提出ReasoningLM,通过子图感知自注意力机制和适配微调策略,使预训练语言模型直接支持知识图谱问答的结构化子图推理,以更少参数和数据大幅超越现有模型。
2023-12-30 cs.AI cs.CL
Subgraph Retrieval Enhanced by Graph-Text Alignment for Commonsense Question Answering
School of Intelligence Science and Technology, Peking University(北京大学智能科学与技术学院);Ant Group(蚂蚁集团);School of Artificial Intelligence, Beijing Normal University(北京师范大学人工智能学院)
本文提出SEPTA框架,通过BFS风格子图采样策略避免信息丢失,并采用双向对比学习进行图文本对齐,有效增强了子图检索与知识融合,在五个数据集上验证了其有效性和鲁棒性。
2024-11-11 cs.AI cs.CL cs.LG
CE-GOCD: Central Entity-Guided Graph Optimization for Community Detection to Augment LLM Scientific Question Answering
Harbin Institute of Technology, Harbin, China(哈尔滨工业大学);State Key Laboratory of Cognitive Intelligence, iFLYTEK Research, China(认知智能国家重点实验室)
CE-GOCD通过构建和利用学术知识图谱的语义子结构,提升LLM在科学问答中的表现,通过中心实体引导的图优化和社区检测增强问答的准确性和全面性。
2026-01-29 cs.CL
NOAHQA: Numerical Reasoning with Interpretable Graph Question Answering Dataset
University of Electronic Science and Technology of China(电子科技大学);Singapore Management University(新加坡管理大学);Verily Life Sciences(Verily生命科学公司)
虽然已经提出了各种各样的问答(QA)数据集,并为QA任务的深度学习模型的开发做出了重大贡献,但现有的数据集在两个方面存在不足。首先,我们缺乏涵盖复杂问题的QA数据集,这些问题涉及答案以及获得答案的推理过程。因此,目前关于数值推理的问答研究仍然集中在简单的计算上,没有提供证明答案正确性的数学表达式或证据。第二,QA社区为提高QA模型的可解释性做出了很大的努力。然而,这些模型未能明确地显示推理过程,如推理的证据顺序和不同证据之间的相互作用。为了解决上述缺点,我们引入NOAHQA,一个对话和双语QA数据集,其中的问题需要用复合数学表达式进行数值推理。与NOAHQA,我们开发了一个可解释的推理图,以及适当的评价指标来衡量答案的质量。我们评估了使用NOAHQA上现有QA数据集训练的最先进的QA模型,并表明其中最好的模型只能达到55.5的精确匹配分数,而人类的性能为89.7。我们还提出了一个新的QA模型,用于生成推理图,其中推理图度量与人类相比仍然有很大的差距,例如,28分。
2021-10-14 cs.CL
Interpretable Long-Form Legal Question Answering with Retrieval-Augmented Large Language Models
Maastricht University(马斯特里赫特大学)
本文提出“先检索后阅读”的检索增强LLM端到端方法,并发布含1,868个法语专家标注样本的LLeQA数据集,以生成可解释的成文法长篇答案。
2023-09-29 cs.CL
Enhancing Complex Question Answering over Knowledge Graphs through Evidence Pattern Retrieval
State Key Laboratory for Novel Software Technology, Nanjing University(南京大学计算机软件新技术国家重点实验室)
本文提出证据模式检索(EPR)方法,通过显式建模知识图谱问答中子图提取的结构依赖性,显著提升复杂问答的F1分数。
2024-02-03 cs.CL cs.IR
PullNet: Open Domain Question Answering with Iterative Retrieval on Knowledge Bases and Text
Google AI Language(谷歌AI语言部门)
我们考虑开放域问答(QA),其中答案来自语料库,知识库(KB)或两者的组合。我们专注于一个设置,其中语料库补充了一个大的,但不完整的KB,并在问题上,需要非平凡的(例如,"多跳“)推理。我们描述了PullNet,一个集成的框架,用于(1)学习检索什么(从KB和/或语料库)和(2)使用这种异构信息进行推理以找到最佳答案。PullNet使用{迭代}过程来构建包含与问题相关的信息的特定于问题的子图。在每次迭代中,使用图卷积网络(图CNN)来识别应该使用对语料库和/或KB的检索(或“拉”)操作来扩展的子图节点。在子图完成之后,使用类似的图CNN从子图中提取答案。这种检索和推理过程允许我们使用大型知识库和语料库回答多跳问题。PullNet是弱监督的,需要问答对,但不需要黄金推理路径。在实验上,PullNet比现有技术有所改进,并且在语料库与不完整的KB一起使用的情况下,这些改进通常是戏剧性的。PullNet在仅KB设置或仅文本设置中也通常优于现有系统。
2019-04-21 cs.CL cs.LG
Question-Answering with Grammatically-Interpretable Representations
Johns Hopkins University(约翰斯·霍普金斯大学);Citadel(城堡投资);Microsoft Research AI(微软研究院人工智能)
我们介绍了一个架构,张量积递归网络(TPRN)。在我们的TPRN应用中,通过在执行文本问答(QA)任务的深度神经网络中进行端到端优化而学习到的内部表示可以使用语言学理论的基本概念来解释。没有性能损失需要支付这种增加的可解释性:所提出的模型执行的SQuAD QA任务上的最先进的系统。被解释的内部表示是张量积表示:对于每个输入单词,模型选择一个符号来编码单词,以及放置符号的角色,并将两者绑定在一起。选择是通过软注意。整体解释是从符号的解释中构建的,如训练模型所招募的,以及模型所使用的角色的解释。我们发现支持我们最初的假设,即符号可以解释为词汇语义的词义,而角色可以解释为语法角色的近似细粒度分析揭示了学习角色和由标准标注器分配的词性之间的特定对应关系(Toutanova等人,2003年),并发现了几个有利于模型的差异。从这个意义上说,模型在仅仅接触了语言学上未注释的文本、问题和答案之后,学习了语法的重要方面:没有给模型提供先验的语言学知识。所给出的是使用符号和角色来构建表征的方法,带有一种有利于以近似离散的方式使用这些符号和角色的归纳偏见。
2017-09-25 cs.CL
Towards Reliable and Interpretable Document Question Answering via VLMs
Università degli Studi di Firenze(佛罗伦萨大学)
针对 VLMs 文档问答中答案空间局部化困难的问题,提出即插即用的 DocExplainerV0 模块解耦答案生成与定位,并建立标准化评估基准,揭示文本准确性与空间定位间的差距。
2025-09-15 cs.CL cs.IR
Interpretable Question Answering on Knowledge Bases and Text
iteratec GmbH(iteratec有限公司);LMU Munich(慕尼黑大学)
机器学习(ML)模型的可解释性随着其越来越多的采用而变得更加相关。在这项工作中,我们解决了基于ML的问答(QA)模型的知识库(KB)和文本文档的组合的可解释性。我们采用LIME和输入扰动(IP)等事后解释方法,并将其与模型的自解释注意力机制进行比较。为此,我们提出了一个自动评估范例的解释方法的背景下,QA。我们还与人类注释者进行了一项研究,以评估解释是否有助于他们识别更好的QA模型。我们的研究结果表明,IP提供了更好的解释比石灰或注意,根据自动和人类的评价。我们在两个实验中获得了相同的方法排名,这支持了我们的自动评估范式的有效性。
2019-06-26 cs.AI cs.CL cs.LG
Equivariant and Invariant Grounding for Video Question Answering
National University of Singapore(新加坡国立大学);University of Science and Technology of China(中国科学技术大学)
视频问答(VideoQA)是回答关于视频的自然语言问题的任务。产生答案需要理解视频中视觉场景和语言语义之间的相互作用。然而,大多数领先的VideoQA模型都是黑箱,这使得回答过程背后的视觉语言对齐变得模糊不清。这种黑盒子的性质要求视觉上的可解释性,它揭示了“模型应该看视频的哪一部分来回答这个问题?”''.只有少数作品提出的视觉解释,在事后的方式,模拟目标模型的回答过程中,通过一个额外的方法。尽管如此,仿真努力忠实地展示回答过程中的视觉语言对齐。而不是事后的可解释性,我们专注于内在的可解释性,使回答过程透明。它的核心是将关键问题线索作为因果场景来产生答案,同时将与问题无关的信息作为环境场景。以因果关系看视频问答,我们设计了一个自我解释的框架,等变和不变的接地可解释的视频问答(EIGV)。具体而言,等变的接地鼓励的答案是敏感的语义变化的因果场景和问题;相反,不变的接地强制的答案是不敏感的环境场景的变化。EIGV通过将它们施加到回答过程中,能够区分因果场景和环境信息,并显式地呈现视觉-语言对齐。在三个基准数据集上进行的大量实验证明了EIGV在准确性和视觉可解释性方面优于领先基线。
2022-07-26 cs.CL
A Benchmark for Generalizable and Interpretable Temporal Question Answering over Knowledge Bases
IBM Research(IBM研究院)
涉及复杂推理的知识库问答(KBQA)任务正在成为一个重要的研究方向。然而,大多数现有的KBQA数据集主要集中在显式事实上的通用多跳推理,在很大程度上忽略了其他推理类型,如时间,空间和分类推理。在本文中,我们提出了一个基准数据集的时间推理,TempQA-WD,鼓励研究扩展目前的方法,以针对一组更具挑战性的复杂推理任务。具体来说,我们的基准是一个时间问答数据集,具有以下优点:(a)它是基于维基数据,这是最经常策划,公开可用的知识库,(b)它包括中间sparql查询,以促进评估基于语义解析的KBQA方法,(c)它概括到多个知识库:Freebase和维基数据。TempQA-WD数据集可在https://github.com/IBM/tempqa-wd上获得。
2022-01-15 cs.AI cs.CL
A Graph-Guided Reasoning Approach for Open-ended Commonsense Question Answering
Baidu Research(百度研究院)
最近,用于多项选择常识问答(QA)的端到端训练模型已经取得了可喜的成果。然而,这样的问答系统不能直接应用于不提供答案候选的真实世界场景中。因此,最近发布了一个新的开放式常识推理(OpenCSR)基准挑战集,其中包含没有任何预定义选择的自然科学问题。在OpenCSR挑战集中,许多问题需要隐式多跳推理,并且具有很大的决策空间,这反映了这项任务的困难性。OpenCSR的现有工作主要集中在改进检索过程,从文本知识库中提取相关的事实句子,将重要和重要的推理任务排除在外。在这项工作中,我们扩展的范围,包括一个推理机,构建一个依赖于问题的开放知识图谱检索支持的事实的基础上,并采用顺序子图推理过程来预测答案。子图可以被看作是对预测的一个简洁而紧凑的图形解释。在两个OpenCSR数据集上的实验表明,该模型在基准OpenCSR数据集上取得了良好的性能.
2023-03-18 cs.CL cs.LG
SGR: A Stepwise Reasoning Framework for LLMs with External Subgraph Generation
School of Information Science and Engineering, Chongqing Jiaotong University(重庆交通大学信息科学与工程学院);School of Computer Science and Technology, Chongqing University of Posts and Telecommunications(重庆邮电大学计算机科学与技术学院)
SGR通过外部子图生成提升LLM推理能力,利用结构化知识支持多步推理,实验表明在多个基准数据集上均优于基线方法,提高了推理准确性和事实可靠性。
2026-05-15 cs.CL
Complex Sequential Question Answering: Towards Learning to Converse Over Linked Question Answer Pairs with a Knowledge Graph
IBM Research AI(IBM研究院人工智能);I.I.T. Madras(马德拉斯印度理工学院);MILA(蒙特利尔学习算法研究所);Université de Montréal(蒙特利尔大学)
在与聊天机器人交谈时,人类通常会提出许多问题,其中很大一部分可以通过参考大规模知识图谱(KG)来回答。虽然问答(QA)和对话系统已经被独立研究,但有必要仔细研究它们,以评估涉及这两项任务的机器人所面临的现实场景。为此,我们引入了复杂的顺序QA的任务,它结合了两个任务:(i)通过复杂的推理回答事实问题,通过一个现实大小的KG的数百万个实体,和(ii)学习交谈,通过一系列连贯的QA对。通过一个劳动密集型的半自动过程,包括内部和众包的工作人员,我们创建了一个包含大约20万个对话框的数据集,总共有160万个回合。此外,与包含可以从单个元组回答的简单问题的现有大规模QA数据集不同,我们对话框中的问题需要KG的更大子图。具体来说,我们的数据集有一些问题需要逻辑推理、定量推理和比较推理以及它们的组合。这就要求模型,它可以:(一)解析复杂的自然语言的问题,(二)使用会话上下文来解决话语中的共指和省略,(三)要求澄清模糊的查询,最后(四)检索相关的子图的KG回答这样的问题。然而,我们结合最先进的对话和QA模型的实验表明,它们显然没有实现上述目标,并且不足以处理如此复杂的现实世界设置。我们相信,这一新的数据集加上本文所报道的现有模型的局限性,应该鼓励进一步研究复杂的顺序QA。
2018-10-04 cs.CL
LLM-based Discriminative Reasoning for Knowledge Graph Question Answering
School of Computer Science and Technology, Harbin Institute of Technology(哈尔滨工业大学计算机科学与技术学院)
本文提出READS方法,将知识图谱问答重构为判别式子任务并设计相应推理策略,以缓解大语言模型的幻觉问题,在WebQSP和CWQ上取得最优性能。
2025-03-07 cs.CL
Toward Subgraph-Guided Knowledge Graph Question Generation with Graph Neural Networks
Meta AI;Pinterest(品趣(Pinterest公司));Rensselaer Polytechnic Institute(伦斯勒理工学院)
针对现有知识图谱问题生成多依赖单三元组、忽略子图结构的局限,提出带节点级复制的双向Graph2Seq模型,在两个基准上取得SOTA,还可作为数据增强提升QA任务效果。
2023-05-01 cs.CL
UniKGQA: Unified Retrieval and Reasoning for Solving Multi-hop Question Answering Over Knowledge Graph
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学高瓴人工智能学院);School of Information, Renmin University of China(中国人民大学信息学院);Beijing Key Laboratory of Big Data Management and Analysis Methods(大数据管理与分析方法北京市重点实验室)
知识图谱上的多跳问答(KGQA)是指在大规模知识图谱(KG)上寻找与自然语言问题中的主题实体相距多跳的答案实体。为了应对巨大的搜索空间,现有的工作通常采用两阶段的方法:首先检索与问题相关的相对较小的子图,然后对子图进行推理,以准确地找到答案实体。虽然这两个阶段是高度相关的,以前的工作采用了非常不同的技术解决方案开发的检索和推理模型,忽略了他们的任务本质的相关性。在本文中,我们提出了UniKGQA,多跳KGQA任务的一种新方法,通过统一检索和推理的模型结构和参数学习。在模型结构上,UniKGQA由基于预训练的语言模型PLM的语义匹配模块和匹配信息传播模块组成,语义匹配模块用于问题-关系的语义匹配,匹配信息传播模块用于沿着KG上的有向边传播匹配信息。对于参数学习,我们设计了一个共享的预训练任务的基础上的问题-关系匹配检索和推理模型,然后提出检索和推理为导向的微调策略。与以往的研究相比,我们的方法是更统一的,紧密联系的检索和推理阶段。在三个基准数据集上的大量实验表明了该方法在多跳KGQA任务上的有效性。我们的代码和数据可在~ \url{https://github.com/RUCAIBox/UniKGQA}上公开获取。
2023-03-01 cs.CL
Honest Students from Untrusted Teachers: Learning an Interpretable Question-Answering Pipeline from a Pretrained Language Model
Google Research(谷歌研究院)
提出markup-and-mask rationale风格,利用冻结的预训练语言模型作为不可信教师生成银标注数据,微调学生模型作为流水线瓶颈,在无标注下构建可信可解释问答系统。
2024-04-24 cs.CL cs.LG
Interpretable LLM-based Table Question Answering
Auburn University(阿伯拉姆大学);J.P. Morgan(摩根大通);NVIDIA(英伟达)
提出Plan-of-SQLs方法,将问题分解为原子步骤并转化为可执行SQL,实现表格问答的可解释性,在保证准确率的同时显著提升效率与透明度。
2025-06-28 cs.CL cs.LG
Interpretable Question Answering with Knowledge Graphs
Department of Electrical and Computer Engineering, University of Wisconsin-Madison, Madison, USA(威斯康星大学麦迪逊分校电子与计算机工程系);Department of Computer Science, Banasthali Vidyapeeth, Rajasthan, India(班纳斯塔利大学计算机科学系);Ansyst Consulting, Gurgaon, India(安西斯特咨询公司);Huawei Ireland Research Center, Dublin, Ireland(华为爱尔兰研究中心);Bradley Department of Electrical and Computer Engineering, Virginia Tech, Blacksburg, VA, USA(弗吉尼亚理工学院布拉德利电子与计算机工程系)
本研究提出一种完全基于知识图谱检索的可解释问答系统,通过小型释义模型处理检索到的实体关系边,经文档预处理生成问答对、构建知识图谱并结合嵌入与模糊技术检索重排后生成答案,在CRAG基准上取得了不错的准确率。
2025-10-22 cs.AI cs.CL cs.LG
Expanding End-to-End Question Answering on Differentiable Knowledge Graphs with Intersection
Amazon Alexa AI(亚马逊 Alexa AI)
使用可微分知识图谱的端到端问答是一种很有前途的技术,它只需要弱监督,产生可解释的结果,并且是完全可微分的。该技术的先前实现(Cohen等人,2020年)专注于使用关系跟踪操作的单实体问题。在本文中,我们提出了一个模型,显式地处理多实体的问题,通过实施一个新的交集操作,确定两组实体之间的共享元素。我们发现,在两个数据集上,引入交集可以提高基线模型的性能,即WebWebWebsSP(69.6%至73.3% Hits@1)和ComplexWebQuestions(39.8%至48.7% Hits@1),特别是在WebWebsSP上,多实体问题的性能提高了14%以上,在ComplexWebQuestions上提高了19%。
2021-09-13 cs.CL
A Heterogeneous Graph with Factual, Temporal and Logical Knowledge for Question Answering Over Dynamic Contexts
Sun Yat-sen University(中山大学);Microsoft Research(微软研究院)
我们在一个动态的文本环境中研究问答。虽然神经网络模型通过从输入输出示例中学习来实现令人印象深刻的准确性,但它们很少利用各种类型的知识,并且通常不可解释。在这项工作中,我们提出了一个基于图的方法,其中一个异构的图是自动构建的上下文的事实知识,过去的状态的时间知识,和逻辑知识,结合人类策划的知识库和规则库。我们在构建的图上开发了一个图神经网络,并以端到端的方式对模型进行训练。在基准数据集上的实验结果表明,注入各种类型的知识提高了强大的神经网络基线。我们的方法的另一个好处是,图形本身自然地充当决策背后的理性。
2020-04-25 cs.CL
Foresight-over-Graph: Reasoning Beyond Local Horizons for Knowledge Base Question Answering
Tianjin University(天津大学);Beijing Jiaotong University(北京交通大学)
针对LLM在知识密集型问答中的幻觉问题,提出图上前瞻(FoG)框架,通过前瞻感知的迭代证据子图构建与远-近反馈引导路径探索,克服局部剪枝的短视,在KBQA基准上达到最先进性能,并在CWQ上实现16.58%的Hit提升。
2026-10-07 cs.AI cs.CL
On the Transferability of Minimal Prediction Preserving Inputs in Question Answering
Apple Inc.(苹果公司)
最近的工作(Feng et al.,2018)建立了短的,不可解释的输入片段的存在,这些片段在神经模型中产生高置信度和准确性。我们将其称为最小预测保持输入(MPPI)。在问答的背景下,我们研究了MPPI存在的竞争假设,包括神经模型的后验校准差,缺乏预训练和“数据集偏差”(其中模型学会关注训练数据中的虚假,不可推广的线索)。我们发现MPPI对随机训练种子、模型架构、预训练和训练域具有令人困惑的不变性。MPPI表现出显著的跨域可移植性,实现了比短查询更高的性能。此外,惩罚MPPI上的过度自信无法提高泛化或对抗鲁棒性。这些结果表明MPPI的可解释性不足以表征这些模型的泛化能力。我们希望这种集中的调查鼓励更系统地分析模型行为以外的人类可解释的分布的例子。
2021-03-25 cs.CL
Improving Question Answering over Incomplete KBs with Knowledge-Aware Reader
University of California, Santa Barbara(加州大学圣巴巴拉分校);IBM Research(IBM研究院)
我们提出了一个新的端到端的问答模型,它学习从一个不完整的知识库(KB)和一组检索到的文本片段聚合答案的证据。在结构化知识库更容易查询且获取的知识有助于理解非结构化文本的假设下,该模型首先从问题相关的知识库子图中积累实体知识,然后在潜在空间中重构问题,并利用积累的实体知识阅读文本。知识库和文本中的证据最终被聚合以预测答案。在广泛使用的KBQA基准WebQSP上,我们的模型在不同程度的KB不完整性的设置上实现了一致的改进。
2019-05-31 cs.AI cs.CL
CAGE: Cognitive Attribution Graphs for Faithful Inline Citation Generation in Long-Form Question Answering
长格式问答中存在引用不足以支持主张的问题,CAGE提出两阶段框架,先训练认知图归纳模型构建支持子图,再用结构化引用推理模型生成对齐引用,实验证明该方法有效并实现最优性能。
2026-07-29 cs.CL
STAIR: Semantic-Temporal Automaton for Interpretable Reasoning in Temporal Question Answering
本文提出STAIR语义-时间自动机,将语义解读与时间推理分离,规则优先设计减少自由推理,在多个时间问答数据集上优于基线,提升了F1值且可解释性更强。
2026-08-18 cs.AI cs.CL
CoTKR: Chain-of-Thought Enhanced Knowledge Rewriting for Complex Knowledge Graph Question Answering
Southeast University(东南大学);Key Laboratory of New Generation Artificial Intelligence Technology and Its Interdisciplinary Applications (Southeast University) Ministry of Education(新一代人工智能技术及其交叉应用国家重点实验室);China Mobile Research Institute(中国移动研究院);Monash University(墨尔本大学);University of Manchester(曼彻斯特大学);University of Edinburgh(爱丁堡大学)
CoTKR通过链式推理增强知识重写方法,提升复杂知识图谱问答性能。
2025-11-20 cs.CL
KG-o1: Enhancing Multi-hop Question Answering in Large Language Models via Knowledge Graph Integration
本文提出KG-o1,一种四阶段方法,通过集成知识图谱构建复杂子图、逻辑路径和自改进语料,训练大语言模型模仿长期推理,在多跳问答任务上超越现有大型推理模型。
2025-08-12 cs.AI cs.CL
Graph-augmented Learning to Rank for Querying Large-scale Knowledge Graph
Tongji University(同济大学);Pinterest;Central China Normal University(华中师范大学);Squirrel AI Learning(松鼠AI学习)
基于信息检索的知识图谱问答系统(KGQA)旨在通过从大规模的知识图谱中检索答案来回答问题。现有的方法大多先粗略地检索可能包含候选答案的知识子图,然后在知识子图中搜索精确答案。然而,KSG可能包含数千个候选节点,这是因为查询所涉及的知识图谱通常是大规模的,从而降低了答案选择的性能。为了解决这个问题,我们首先提出了分区检索KSG到几个较小的子KSG通过一个新的子图分区算法,然后提出了一个图增强的学习排序模型,以选择排名靠前的子KSG。我们提出的模型结合了一种新的子图匹配网络来捕获问题和子图中的全局交互,并提出了一种增强的双边多视角匹配模型来捕获局部交互。最后,我们分别在完整的KSG和排名靠前的子KSG上应用答案选择模型来验证我们提出的图增强学习排序方法的有效性。在多个基准数据集上的实验结果证明了该方法的有效性。
2022-10-05 cs.CL
Scalable Multi-Hop Relational Reasoning for Knowledge-Aware Question Answering
University of Southern California(南加州大学);Peking University(北京大学);Carnegie Mellon University(卡内基梅隆大学)
现有的关于用外部知识(例如,知识图谱)要么难以有效地对多跳关系进行建模,要么对模型的预测原理缺乏透明度。在本文中,我们提出了一种新的知识感知的方法,装备预训练的语言模型(PTLM)与多跳关系推理模块,命名为多跳图关系网络(MHGRN)。它对从外部知识图谱中提取的子图执行多跳、多关系推理。所提出的推理模块结合了基于路径的推理方法和图神经网络,以实现更好的可解释性和可扩展性。我们还在CommonsenseQA和OpenbookQA数据集上实证展示了其有效性和可扩展性,并通过案例研究解释了其行为。
2020-09-18 cs.CL cs.LG
Comprehensive Modeling and Question Answering of Cancer Clinical Practice Guidelines using LLMs
Indian Institute of Technology Madras(马德拉斯印度理工学院);Healthcare Technology Innovation Centre(医疗技术创新中心)
本研究利用大语言模型将癌症临床实践指南建模为图,实现节点分类(准确率最高88.47%)并基于子图路径进行约束问答,以减少幻觉并确保医学事实准确性。
2025-01-23 cs.AI cs.CL cs.LG
VisKG-LM: Compiling Knowledge Graphs into Visual Memory for Multiple-Choice Question Answering
VisKG-LM将知识图谱子图离线编译为视觉记忆图像,供语言模型在推理时查阅,在三个问答基准上超越现有方法,证明了编译视觉记忆作为在线图传播的可行替代方案。
2026-09-18 cs.CL cs.IR cs.LG
Complex Factoid Question Answering with a Free-Text Knowledge Graph
University of Maryland(马里兰大学);Microsoft AI & Research(微软AI与研究院);Google Research Zürich(苏黎世谷歌研究院)
我们介绍DELFT,一个事实的问答系统,结合了细微差别和深度的知识图谱问答方法与自由文本的覆盖面更广。DELFT从Wikipedia构建了一个自由文本知识图谱,其中实体作为节点,实体共同出现的句子作为边。对于每个问题,DELFT使用文本句子作为边来找到将问题实体节点连接到候选者的子图,从而创建密集且高覆盖率的语义图。一种新颖的图神经网络在自由文本图上进行推理,通过沿边的信息组合节点上的证据,以选择最终答案。在三个问答数据集上的实验表明,DELFT比基于机器阅读的模型、基于伯特的答案排序和记忆网络更好地回答实体丰富的问题。DELFT的优势来自于其自由文本知识图谱的高覆盖率--是dbpedia关系的两倍多--以及新颖的图神经网络,它基于丰富但有噪声的自由文本证据进行推理。
2021-03-23 cs.CL cs.IR
SPARTA: Efficient Open-Domain Question Answering via Sparse Transformer Matching Retrieval
SOCO Inc(索科公司);Carnegie Mellon University(卡内基梅隆大学)
我们介绍了SPARTA,一种新的神经检索方法,表现出很大的承诺,在性能,泛化和解释性的开放域问答。与许多使用密集向量最近邻搜索的神经排名方法不同,SPARTA学习了一种稀疏表示,可以有效地实现为倒排索引。由此产生的表示使可扩展的神经检索,不需要昂贵的近似向量搜索,并导致更好的性能比其密集的对应。我们在4个开放域问答(OpenQA)任务和11个检索问答(ReQA)任务上验证了我们的方法。SPARTA实现了新的国家的最先进的结果,在各种开放领域的问答任务在英语和中文数据集,包括开放SQuAD,自然问题,CMRC等分析也证实,所提出的方法创建人类可解释的表示,并允许灵活控制性能和效率之间的权衡。
2020-09-28 cs.CL cs.LG
Compositional Attention Networks for Interpretability in Natural Language Question Answering
Saama AI Research(萨马人工智能研究院)
MAC网是一个为视觉问答设计的合成注意网络。我们提出了一种改进的MAC网络结构的自然语言问答。问答通常需要语言理解和多步推理。MAC网独特的体系结构-存储和控制分离,有利于数据驱动的迭代推理。这使得它成为解决涉及逻辑推理的任务的理想候选人。我们的实验与20 bAbI任务证明了MAC网的价值作为一个数据高效和可解释的架构自然语言问答。MAC网络的透明性提供了一个高度粒度的视图,网络在回答查询时所采取的推理步骤。
2018-10-30 cs.AI cs.CL cs.LG
SentGraph: Hierarchical Sentence Graph for Multi-hop Retrieval-Augmented Question Answering
University of Science and Technology of China(中国科学技术大学);Hefei University of Technology(合肥工业大学)
提出SentGraph,一种句子级图RAG框架,通过构建层次化句子图并建模细粒度逻辑关系,解决多跳问答中证据链不完整的问题。
2026-05-23 cs.AI cs.CL