Generating Followup Questions for Interpretable Multi-hop Question Answering
NEC Laboratories America（美国电气通信技术研究所（NEC实验室美国））；Princeton, NJ 08540（普林斯顿，新泽西州08540）
我们提出了一个回答开放域多跳问题的框架，其中部分信息被读取并用于生成后续问题，最终由预训练的单跳答案提取器回答。该框架使得每个跳可解释，并且使得与稍后的跳相关联的检索与第一跳一样灵活和具体。作为该框架的第一个实例，我们训练一个指针生成器网络来预测后续问题的问题和部分信息的基础上。这提供了神经问题生成网络的新应用，该神经问题生成网络被应用于基于最终答案及其支持事实给出弱基础事实单跳后续问题。学习生成后续问题，选择相关的答案跨度对下游的支持事实，同时避免分散注意力的前提，提出了一个令人兴奋的语义文本生成的挑战。我们提出了一个评估使用两跳桥问题的HotpotQA。
2020-02-27 cs.CL
Learning to Recover Reasoning Chains for Multi-Hop Question Answering via Cooperative Games
Queen’s University（女王大学）；IBM Research（IBM研究院）；UC Santa Barbara（加州大学圣巴巴拉分校）；Beihang University（北京航空航天大学）
我们提出了从弱监督信号中学习恢复推理链的新问题，即，问答对我们提出了一个合作博弈的方法来处理这个问题，在其中如何选择的证据通道，以及如何选定的通道连接处理的两个模型，合作选择最有信心的链从一个大的候选人（从远程监督）。为了进行评估，我们基于两个多跳QA数据集（HotpotQA和MedHop）创建了基准测试;并为后者创建了手动标记的推理链。实验结果证明了该方法的有效性。
2020-04-06 cs.CL
Dynamic Semantic Graph Construction and Reasoning for Explainable Multi-hop Science Question Answering
The Chinese University of Hong Kong（香港中文大学）
知识检索和推理是网络环境下多跳问答的两个关键阶段。现有的方法在检索证据事实以填补知识空白时置信度低，并且缺乏透明的推理过程。在本文中，我们提出了一个新的框架，利用更多的有效事实，同时获得可解释性的多跳QA通过动态构建一个语义图和推理。我们采用抽象意义表示（AMR）的语义图表示。我们的框架包含三个新的想法：（a）{ \tt AMR-SG}，一个基于AMR的语义图，由候选事实AMR构建，以揭示问题，答案和多个事实之间的任何跳跃关系。(b)一种新的基于路径的事实分析方法，利用{ \tt AMR-SG}从大型事实池中提取活动事实以回答问题。(c)事实级关系建模利用图卷积网络（GCN）来指导推理过程。两个科学多跳QA数据集的结果表明，我们可以超越最近的方法，包括使用额外的知识图谱，同时保持OpenBookQA的高可解释性，并在计算上可行的设置实现ARC挑战的最先进的新结果。
2021-05-25 cs.CL
HOP, UNION, GENERATE: Explainable Multi-hop Reasoning without Rationale Supervision
Cornell University（康奈尔大学）
提出一种无需理由监督的概率方法，通过显式建模理由集合实现多跳推理，提升理由选择准确率并保持答案预测性能。
2023-05-23 cs.AI cs.CL
Hierarchical Graph Network for Multi-hop Question Answering
Microsoft Dynamics 365 AI Research（微软Dynamics 365 AI研究院）
在本文中，我们提出了层次图网络（HGN）的多跳问答。为了从分散在多个段落中的文本中聚合线索，通过在不同粒度级别（问题，段落，句子，实体）上构建节点来创建分层图，其表示使用预先训练的上下文编码器进行初始化。给定该分层图，通过图传播来更新初始节点表示，并且经由遍历每个后续子任务的图边缘来执行多跳推理（例如，段落选择、支持事实提取、答案预测）。通过将异构节点编织成一个完整的统一图，这种节点粒度的分层区分使HGN能够同时支持不同的问答子任务。在HotpotQA基准测试上的实验表明，该模型达到了新的技术水平，优于现有的多跳QA方法。
2020-10-06 cs.CL
Locate Then Ask: Interpretable Stepwise Reasoning for Multi-hop Question Answering
Fudan University（复旦大学）
多跳推理需要聚合多个文档来回答一个复杂的问题。现有的方法通常将多跳问题分解为简单的单跳问题来求解，以说明可解释的推理过程。然而，他们忽略了每个推理步骤的支持事实，这往往会产生不准确的分解。在本文中，我们提出了一个可解释的逐步推理框架，将单跳支持句子识别和单跳问题生成在每个中间步骤，并利用当前跳下一个推理，直到推理出最终结果。我们采用一个统一的阅读器模型的中间跳推理和最终跳推理，并采用联合优化更准确和强大的多跳推理。我们在两个基准数据集HotpotQA和2WikiMultiHopQA上进行实验。结果表明，我们的方法可以有效地提高性能，也产生了一个更好的解释推理过程中没有分解监督。
2022-08-22 cs.CL
Leveraging Structured Information for Explainable Multi-hop Question Answering and Reasoning
University of Texas at Dallas（德克萨斯大学达拉斯分校）
针对大语言模型多跳问答存在推理不准、幻觉及可解释性不足的问题，本研究构建并利用抽取的语义结构图开展推理，在两个基准上提升了问答性能，且生成的结构化解释更受人类青睐。
2023-11-07 cs.CL
Is Graph Structure Necessary for Multi-hop Question Answering?
iFLYTEK Research（科大讯飞研究院）；Harbin Institute of Technology（哈尔滨工业大学）；iFLYTEK AI Research (Hebei)（科大讯飞人工智能研究院（河北））
近年来，试图将文本建模为图结构，并引入图神经网络来处理它已成为许多NLP研究领域的一个趋势。在本文中，我们调查图结构是否是必要的多跳问答。我们的分析集中在HotpotQA上。我们构建了一个强大的基线模型，通过正确使用预训练模型，图结构可能不是多跳问答所必需的。指出图的结构和邻接矩阵都是与任务相关的先验知识，图的注意可以看作是自注意的一种特殊情况。实验和可视化分析表明，图的注意力或整个图的结构可以被自注意力或Transformers所取代。
2020-10-29 cs.CL
Explainable Multi-hop Question Generation: An End-to-End Approach without Intermediate Question Labeling
Graduate School of Artificial Intelligence, POSTECH（浦项科技大学人工智能研究生院）；Department of Computer Science and Engineering, POSTECH（浦项科技大学计算机科学与工程系）；aiXplain, Inc.（aiXplain公司）
本文提出一种端到端问题改写模型，仅用最终多跳问题训练即可逐步提升问题复杂度，无需中间问题标注，并能生成可解释且有助于问答模型训练的3跳和4跳复杂问题。
2024-03-31 cs.CL
Multi-hop Question Answering via Reasoning Chains
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
多跳问答需要模型从文本的不同部分收集信息来回答问题。大多数当前的方法都是通过神经网络以端到端的方式学习解决这个任务，而不需要维护推理过程的显式表示。我们提出了一种方法来提取一个离散的推理链的文本，其中包括一系列的句子导致的答案。然后，我们将提取的链馈送到基于BERT的QA模型，以进行最终答案预测。重要的是，我们不依赖于黄金注释链或“支持事实“：在训练时，我们使用基于命名实体识别和共指消解的逻辑学推导出伪黄金推理链。我们在测试时也不依赖这些注释，因为我们的模型学会了单独从原始文本中提取链。我们测试我们的方法上最近提出的两个大型多跳问答数据集：WikiHop和HotpotQA，并实现国家的最先进的性能WikiHop和HotpotQA的强大性能。我们的分析显示了链的属性，这些属性对高性能至关重要：特别是，建模提取顺序很重要，因为以上下文感知的方式处理每个候选句子。此外，人类评估表明，我们提取的链允许人类以高置信度给出答案，这表明这些是这项任务的强大中间抽象。
2021-06-06 cs.AI cs.CL
Answering Any-hop Open-domain Questions with Iterative Document Reranking
Peking University（北京大学）；Georgia Institute of Technology（佐治亚理工学院）；Siemens Corporate Technology（西门子企业技术部）
现有的开放域问答（QA）方法通常是针对需要单跳或多跳推理的问题而设计的，这些推理对要回答的问题的复杂性做出了很强的假设。此外，多步骤文档检索通常会导致更多相关但不支持的文档，这会抑制下游噪声敏感的阅读器模块进行答案提取。为了解决这些挑战，我们提出了一个统一的QA框架来回答任何跳开放域的问题，迭代检索，重新排序和过滤文件，并自适应地确定何时停止检索过程。为了提高检索精度，我们提出了一个基于图的重排序模型，执行多文档交互作为我们的迭代重排序框架的核心。我们的方法在单跳和多跳开放域QA数据集（包括Natural Questions Open，SQuAD Open和HotpotQA）上始终实现与最先进的性能相当或更好的性能。
2021-05-24 cs.CL
HopRetriever: Retrieve Hops over Wikipedia to Answer Complex Questions
Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
从大型文本语料库中收集支持证据（例如，Wikipedia）是开放领域问答（QA）的一大挑战。特别是，对于多跳开放域QA，分散的证据需要收集在一起，以支持答案提取。在本文中，我们提出了一个新的检索目标，跳，收集隐藏的推理证据，从维基百科的复杂问答。具体来说，本文中的跳定义为超链接和相应的出站链接文档的组合。超链接被编码为提及嵌入，该提及嵌入对出站链接实体在文本上下文中如何被提及的结构化知识进行建模，并且相应的出站链接文档被编码为表示其中的非结构化知识的文档嵌入。HotpotQA数据集上的实验表明，HopRetriever优于以前发表的证据检索方法的大幅度提高。此外，我们的方法也产生了证据收集过程的量化解释。
2020-12-31 cs.CL
Diff-Explainer: Differentiable Convex Optimization for Explainable Multi-hop Inference
University of Manchester（曼彻斯特大学）；Idiap Research Institute（Idiap 研究所）
本文介绍了Diff-Explainer，第一个混合框架，可解释的多跳推理，集成了显式约束与神经架构，通过可微凸优化。具体来说，Diff-Explainer允许在约束优化框架内微调神经表示，以自然语言回答和解释多跳问题。为了证明混合框架的有效性，我们结合现有的基于ILP的求解器的多跳问答（QA）与基于变换器的表示。对科学和常识QA任务的广泛实证评估表明，在端到端可微框架中集成显式约束可以显着提高不可微ILP求解器的性能（8.91% - 13.3%）。此外，额外的分析表明，Diff-Explainer能够实现强大的性能相比，独立的Transformers和以前的多跳方法，同时仍然提供结构化的解释，以支持其预测。
2022-06-22 cs.AI cs.CL
Memory Augmented Sequential Paragraph Retrieval for Multi-hop Question Answering
iFLYTEK Research（科大讯飞研究院）；Harbin Institute of Technology（哈尔滨工业大学）；iFLYTEK AI Research (Hebei)（科大讯飞人工智能研究院（河北））
从相关段落或文档中检索信息来回答开放域多跳问题是非常具有挑战性的。为了应对这一挑战，大多数现有的作品认为段落作为节点的图，并提出基于图的方法来检索它们。然而，在本文中，我们指出了这种方法的内在缺陷。相反，我们提出了一个新的架构，模型段落作为顺序数据，并认为多跳信息检索作为一种序列标记任务。具体来说，我们设计了一个可扩展的外部存储器来模拟段落之间的依赖关系。此外，提出了一种阈值门机制，以消除噪音段落的分心。我们评估我们的方法上完整的维基和分心子任务的HotpotQA，一个公共的文本多跳QA数据集，需要多跳信息检索。实验表明，我们的方法取得了显着的改善，在检索和下游QA任务的性能比发表的最先进的方法。
2021-02-07 cs.CL
Reasoning Chain Based Adversarial Attack for Multi-hop Question Answering
近年来，在具有挑战性的多跳QA任务方面取得了令人印象深刻的进展。然而，这些QA模型可能会失败时，面对一些干扰的输入文本和他们的可解释性进行多跳推理仍然不确定。以往的对抗攻击通常对整个问句进行编辑，这对于测试基于实体的多跳推理能力效果有限。提出了一种基于多跳推理链的对抗攻击方法。我们制定的多跳推理链从查询实体的答案实体在构造的图，这使我们能够对齐的问题，每个推理跳，从而攻击任何一跳。我们将问题分类为不同的推理类型，并对抗性地修改与所选推理跳相对应的问题的一部分，以生成分散注意力的句子。我们在HotpotQA数据集上的三个QA模型上测试了我们的对抗方案。实验结果表明，基于推理链的多跳推理模型攻击方法在回答和支持事实预测上都有明显的性能下降，验证了该方法对多跳推理模型攻击的有效性及其脆弱性.我们的对抗性重新训练进一步提高了这些模型的性能和鲁棒性。
2021-12-17 cs.CL
Interpretable AMR-Based Question Decomposition for Multi-hop Question Answering
University of Auckland（奥克兰大学）
有效的多跳问答（QA）需要对多个分散的段落进行推理，并为答案提供解释。大多数现有的方法不能提供一个可解释的推理过程来说明这些模型是如何得出答案的。本文提出了一种基于抽象意义表示的多跳QA问题分解方法（QDAMR），通过将多跳问题分解为简单的子问题并按顺序回答，实现了可解释的推理。由于注释分解是昂贵的，我们首先将理解多跳问题的复杂性委托给AMR解析器。然后，我们实现了多跳问题的分解，通过分割相应的AMR图的基础上所需的推理类型。最后，我们使用AMR到文本生成模型生成子问题，并使用现成的QA模型回答它们。HotpotQA上的实验结果表明，我们的方法是有竞争力的可解释的推理和QDAMR生成的子问题是良好的形式，优于现有的基于问题分解的多跳QA方法。
2022-06-16 cs.CL
Automating Multi-Hop RAG Evaluation via TRIAD: From Context Extraction to Validated Dataset Generation
University of Innsbruck（因斯布鲁克大学）
本文提出TRIAD三阶段自动化多跳RAG评估数据集生成方法，经与MuSiQue、HotpotQA对比验证，该生成数据集可有效评估特定领域RAG系统性能，相关代码与验证结果已公开。
2026-08-25 cs.AI cs.CL
Dynamically Fused Graph Network for Multi-hop Reasoning
Shanghai Jiao Tong University（上海交通大学）；ByteDance AI Lab（字节跳动人工智能实验室）
基于文本的问答（TBQA）是近年来研究的热点。大多数现有的方法都集中在一个段落中找到问题的答案。然而，许多困难的问题需要来自两个或多个文档中分散的文本的多个支持证据。在本文中，我们提出了动态融合图网络（DFGN），一种新的方法来回答这些问题，需要多个分散的证据和推理。受人类逐步推理行为的启发，DFGN包括一个动态融合层，该融合层从给定查询中提到的实体开始，沿着从文本动态构建的实体图进行探索，并逐渐从给定文档中找到相关的支持实体。我们在HotpotQA上评估DFGN，HotpotQA是一个需要多跳推理的公共TBQA数据集。DFGN在公共董事会上取得了有竞争力的成绩。此外，我们的分析表明，DFGN产生可解释的推理链。
2019-06-06 cs.CL
Prompt-based Conservation Learning for Multi-hop Question Answering
University of Auckland（奥克兰大学）
多跳问答（QA）需要对多个文档进行推理，以回答复杂的问题并提供可解释的支持证据。然而，提供支持证据不足以证明模型已经执行了所需的推理以获得正确的答案。大多数现有的多跳QA方法无法回答大部分的子问题，即使他们的父问题被正确回答。在本文中，我们提出了一种基于知识的保护学习（PCL）框架，用于多跳QA，它从多跳QA任务中获取新知识，同时保存在单跳QA任务中学习到的旧知识，从而减轻遗忘。具体来说，我们首先训练现有的单跳QA任务的模型，然后冻结这个模型，并通过分配额外的子网络的多跳QA任务扩展它。此外，为了调节预训练的语言模型以刺激特定多跳问题所需的推理，我们学习了新子网络的软提示以执行特定类型的推理。在HotpotQA基准测试上的实验结果表明，PCL对于多跳QA具有竞争力，并且在相应的单跳子问题上保持了良好的性能，证明了PCL在减轻遗忘引起的知识丢失方面的有效性。
2022-09-14 cs.CL
Modeling Multi-hop Question Answering as Single Sequence Prediction
Salesforce Research（赛富时研究院）
解码器融合（Fid）（Izacard和Grave，2020）是一种生成式问答（QA）模型，它利用预先训练的Transformer进行段落检索，并将最先进的技术推向单跳QA。然而，多跳QA的复杂性阻碍了生成式QA方法的有效性。在这项工作中，我们提出了一个简单的生成方法（PathFid），通过明确建模的推理过程来解决多跳问题的答案，扩展任务不仅仅是答案生成。通过线性化支持段落、其关键句子以及最终事实答案的分层推理路径，我们将问题视为单个序列预测任务。为了方便复杂的推理与多个线索，我们进一步扩展了统一的平面表示的多个输入文档的编码交叉通道的相互作用。我们广泛的实验表明，PathFid导致两个多跳QA数据集：HotpotQA和IIRC强大的性能增益。除了性能的提高，PathFid更具有可解释性，这反过来又会产生与基线Fid模型相比更忠实地基于支持段落和事实的答案。
2022-05-18 cs.CL
Ask to Understand: Question Generation for Multi-hop Question Answering
Beijing Institute of Technology（北京理工大学）
多跳问答（QA）要求机器通过从多个文档中寻找分散的线索和推理来回答复杂的问题。图网络（GN）和问题分解（QD）是目前常用的两种方法。前者利用“黑盒”推理过程来捕捉实体和句子之间的潜在关系，从而取得了良好的性能。同时，后者通过将多跳问题分解为简单的单跳子问题，提供了清晰的推理逻辑路线。在本文中，我们提出了一种新的方法来完成多跳问答的问题生成（QG）的角度。具体来说，我们精心设计了一个端到端的QG模块的基础上，经典的QA模块，这可以帮助模型理解的背景下，问固有的逻辑子问题，从而继承了基于QD的方法的可解释性，并显示出优越的性能。在HotpotQA数据集上的实验表明，我们提出的QG模块的有效性，人工评估进一步阐明了其定量的可解释性，全面的分析表明，QG模块可以生成更好的子问题比QD方法在流畅性，一致性和多样性方面。
2022-03-17 cs.CL
Reinforced Multi-task Approach for Multi-hop Question Generation
Indian Institute of Technology Patna（印度理工学院巴特那分校）
问题生成（Question Generation，QG）试图通过在给定文档和答案的情况下生成自然语言问题来解决问答（question answering，QA）问题的逆问题。虽然序列到序列神经模型优于基于规则的QG系统，但它们在关注多个支持事实的能力方面受到限制。对于QG，我们通常需要多个支持事实来生成高质量的问题。受到最近QA中多跳推理的启发，我们采用了多跳问题生成，其目的是根据上下文中的支持事实生成相关问题。我们采用多任务学习与辅助任务的答案意识支持事实预测，以指导问题生成器。此外，我们还提出了一个强化学习（RL）框架中的问题感知奖励函数，以最大限度地利用支持事实。我们证明了我们的方法的有效性，通过实验上的多跳问答数据集，HotPotQA。实证评估表明，我们的模型在自动评估指标（如BLEU，METEOR和ROUGE）以及生成问题的质量和覆盖范围的人工评估指标上都优于单跳神经问题生成模型。
2020-11-02 cs.CL
Multi-Hop Paragraph Retrieval for Open-Domain Question Answering
Technion – Israel Institute of Technology（以色列理工学院）
本文研究了多跳开放域问答系统。这项任务特别具有挑战性，因为它需要同时执行文本推理和高效搜索。我们提出了一种方法来检索多个支持段落，嵌套在一个大的知识库，其中包含必要的证据来回答一个给定的问题。我们的方法通过形成问题和段落的联合向量表示来迭代检索支持段落。通过考虑知识源中的段落的上下文化的段落级表示来执行检索。我们的方法在两个著名的数据集SQuAD-Open和HotpotQA上实现了最先进的性能，这两个数据集分别作为我们的单跳和多跳开放域QA基准。
2019-06-15 cs.CL cs.IR
StepChain GraphRAG: Reasoning Over Knowledge Graphs for Multi-Hop Question Answering
University of Technology Sydney, Australia（澳大利亚技术大学）；Data61, CSIRO, Australia（数据61，CSIRO）；School of Engineering, Edith Cowan University, Australia（埃迪斯·科温大学工程学院）；University of New South Wales, Australia（新南威尔士大学）
针对多跳问答中迭代推理与外部检索结合难的问题，提出融合问题分解与BFS推理流的StepChain GraphRAG框架，在三个基准数据集上取得SOTA结果并提升可解释性。
2025-10-03 cs.CL cs.IR
Retrieval--Reasoning Processes for Multi-hop Question Answering: A Four-Axis Design Framework and Empirical Trends
School of Computing and Information, University of Pittsburgh（计算与信息学院，匹兹堡大学）；Google Cloud AI Research（谷歌云人工智能研究）
本文提出四维设计框架，分析多跳问答系统中检索-推理过程的执行计划、索引结构、控制策略和停止标准，揭示有效性、效率与证据忠实度的权衡，并指出结构感知规划、可转移控制策略和鲁棒停止是未来挑战。
2026-01-02 cs.CL
Exploiting Intrinsic Duality for Multi-Hop Question Generation
该研究针对现有多跳问题生成（MQG）忽略其与问答（QA）内在对偶性的局限，提出QQ框架，通过双向对齐约束与对比学习利用对偶性，在HotpotQA和MuSiQue数据集上显著提升多跳问题生成质量。
2026-08-04 cs.CL
Think Straight, Stop Smart: Structured Reasoning for Efficient Multi-Hop RAG
Qualcomm AI Research（高通人工智能研究院）
针对现有多跳RAG迭代提示方法token消耗高、终止不稳定的问题，提出结构化框架TSSS，通过模板化推理加检索器终止机制，在多个基准上实现RAG-CoT类方法的最优准确率与高效推理，适配端侧等效率受限场景。
2025-10-22 cs.CL
Simple yet Effective Bridge Reasoning for Open-Domain Multi-Hop Question Answering
University of California, Santa Barbara（加州大学圣巴巴拉分校）；IBM Research（IBM研究院）
开放域环境下多跳问答（QA）的一个关键挑战是从大型语料库中准确地检索支持段落。关于开放域QA的现有工作通常依赖于现成的信息检索（IR）技术来检索\textbf{answer passages}，即，包含地面实况答案的段落。然而，基于IR的方法对于多跳问题是不够的，因为第二跳或进一步跳的主题没有被问题明确地覆盖。为了解决这个问题，我们引入了一个新的子问题的开放域多跳问答，其目的是识别桥梁（\emph{i.e.}，锚链接到答案通道）从上下文的一组开始段落的阅读理解模型。该模型\textbf{bridge reasoner}使用弱监督信号进行训练，并为\textbf{passage reader}生成候选答案通道以提取答案。在完整的wiki HotpotQA基准测试中，我们将基线方法显著改进了14点F1。在不使用任何内存效率低下的上下文嵌入，我们的结果也是具有竞争力的国家的最先进的应用BERT在多个模块。
2019-11-01 cs.CL
GenDec: A robust generative Question-decomposition method for Multi-hop reasoning
Tokyo Institute of Technology（东京工业大学）；Westlake University（西湖大学）；Beijing Academy of Artificial Intelligence（北京智源人工智能研究院）
本文提出一种生成式问题分解方法GenDec，通过生成独立完整的子问题并结合额外证据，增强LLMs在RAG中的多跳推理能力，实验验证了其在多个数据集和模型上的有效性与鲁棒性。
2024-02-17 cs.CL
Rethinking Label Smoothing on Multi-hop Question Answering
Fudan University（复旦大学）；Huawei Poisson Lab（华为泊松实验室）
针对多跳问答的性能瓶颈与过拟合问题，提出适配MRC的F1 Smoothing标签平滑技术及结合课程学习的LDLA算法，在HotpotQA数据集上取得SOTA效果，提升了模型泛化能力。
2023-12-13 cs.CL
Identifying Supporting Facts for Multi-hop Question Answering with Document Graph Networks
University of Manchester（曼彻斯特大学）
阅读理解方面的最新进展已经产生了一些模型，当答案包含在一段连续的文本中时，这些模型的表现超过了人类的表现。然而，复杂的问答（QA）通常需要多跳推理-即，整合来自不同来源的支持事实，以推断正确答案。本文提出了文档图网络（DGN），一个消息传递体系结构，用于识别支持事实的图形结构表示的文本。对HotpotQA的评估表明，与在原始文本上操作的阅读理解基线相比，DGN获得了具有竞争力的结果，证实了结构化表示支持多跳推理的相关性。
2019-10-01 cs.AI cs.CL cs.IR
How Well Do Multi-hop Reading Comprehension Models Understand Date Information?
The Graduate University for Advanced Studies（综合研究大学院大学）；National Institute of Informatics（国立信息学研究所）
已经提出了几个多跳阅读理解数据集来解决推理捷径的问题，通过这些推理捷径可以在不执行多跳推理的情况下回答问题。然而，多跳模型在找到比较问题的答案时执行逐步推理的能力仍然不清楚。目前还不清楚关于内部推理过程的问题如何有助于训练和评估问答（QA）系统。为了以分层的方式精确地评估模型，我们首先提出了一个数据集，\textit{HieraDate}，除了主要问题：提取，推理和鲁棒性之外还有三个探测任务。我们的数据集是通过增强以前的两个多跳数据集HotpotQA和2WikiMultiHopQA创建的，专注于涉及比较和数值推理的日期信息的多跳问题。然后，我们评估现有模型理解日期信息的能力。我们的实验结果表明，多跳模型没有能力减去两个日期，即使他们在日期比较和数字减法任务表现良好。其他结果表明，我们的探索性问题可以帮助提高模型的性能（例如，通过+10.3 F1），我们的数据集可用于数据增强，以提高模型的鲁棒性。
2022-10-11 cs.CL
Unsupervised Multi-hop Question Answering by Question Generation
National University of Singapore（新加坡国立大学）；University of California, Santa Barbara（加州大学圣塔芭芭拉分校）
为多跳问答（QA）获取训练数据是耗时且资源密集的。我们探索了训练一个性能良好的多跳QA模型的可能性，而不需要参考任何人类标记的多跳问答对，即，无监督多跳QA我们提出了MQA-QG，一个无监督的框架，可以从同构和异构的数据源生成类似人类的多跳训练数据。MQA-QG首先从每个数据源中选择/生成相关信息，然后将多个信息集成以形成多跳问题，从而生成问题。仅使用生成的训练数据，我们可以训练一个称职的多跳QA，它分别达到HybridQA和HotpotQA数据集的监督学习性能的61%和83%。我们还表明，预训练的QA系统与生成的数据将大大减少人类注释的训练数据的需求。我们的代码可在https://github.com/teacherpeterpan/Unsupervised-Multi-hop-QA上公开获取。
2021-04-12 cs.AI cs.CL
Answering while Summarizing: Multi-task Learning for Multi-hop QA with Evidence Extraction
NTT Media Intelligence Laboratories, NTT Corporation（日本电信电话株式会社NTT媒体智能实验室）；NTT Communication Science Laboratories, NTT Corporation（日本电信电话株式会社NTT通信科学实验室）
基于文本信息的问答在阅读理解中的应用已经引起了广泛的关注。本研究的重点是可解释的多跳问答任务，它要求系统通过推理和收集参考文本的不相交片段来返回带有证据句子的答案。它提出了用于证据提取的查询集中提取器（QFE）模型，并将多任务学习与QA模型结合使用。QFE受抽取式摘要模型的启发，与现有的独立抽取每个证据句的方法相比，该方法利用带有注意力机制的RNN对问题句进行顺序抽取。它使QFE能够考虑证据句之间的依赖关系，并覆盖问题句中的重要信息。实验结果表明，具有简单RC基线模型的QFE在HotpotQA上实现了最先进的证据提取分数。虽然是为RC设计的，但它也在FEVER上实现了最先进的证据提取分数，FEVER是一个大型文本数据库上的识别文本蕴涵任务。
2019-05-29 cs.CL
Curriculum Guided Reinforcement Learning for Efficient Multi Hop Retrieval Augmented Generation
University of Pittsburgh（匹兹堡大学）；Google Cloud AI Research（谷歌云人工智能研究）
本文提出EVO-RAG，一种课程引导的强化学习框架，通过动态奖励调度优化多跳RAG的查询重写，在四个基准上提升精确匹配达4.6点并减少15%检索深度。
2025-05-23 cs.CL
Coarse-grained decomposition and fine-grained interaction for multi-hop question answering
School of Electronic and Information, Beijing Jiaotong University（北京交通大学电子信息学院）；Key Laboratory of Communication and Information Systems, Beijing Municipal Commission of Education（北京市教育委员会通信与信息系统重点实验室）
关于问答和阅读理解的最新进展已经产生了超越人类表现的模型，当答案包含在单个连续的文本中时，只需要单跳推理。然而，在实际场景中，许多复杂的查询需要多跳推理。问答任务的关键是文档和问题之间的语义特征交互，双向注意流（Bi-Directional Attention Flow，Bi-Directional Attention Flow）广泛处理这一交互，但双向注意流通常只捕捉复杂问题中词语的表层语义，而无法捕捉中间答案的隐含语义特征。因此，Bi-texture部分忽略了与问题相关的部分上下文，无法提取多个文档中最重要的部分。在本文中，我们提出了一个新的模型架构多跳问答，通过应用两个完成策略：（1）引入粗粒度复杂问题分解（CGDe）策略，在不需要任何附加标注的情况下，将复杂问题分解为简单问题。（2）细粒度交互（FGIn）引入策略以更好地表示文档中的每个单词，并提取与推理路径相关的更全面、准确的句子。将上述两种策略结合起来并在SQuAD和HotpotQA数据集上进行测试，实验结果表明，我们的方法优于国家的最先进的基线。
2021-01-15 cs.CL
KCS: Diversify Multi-hop Question Generation with Knowledge Composition Sampling
Harbin Institute of Technology（哈尔滨工业大学）；MemTensor (Shanghai) Technology Co., Ltd.（MemTensor（上海）科技有限公司）；National Key Laboratory of Smart Farm Technologies and Systems（智慧农场技术与系统全国重点实验室）
本文提出KCS框架，通过采样不同知识组合提升多跳问题生成的多样性，改进知识组合选择的准确率，并在HotpotQA和2WikiMultihopQA数据集上提升数据增强效果。
2026-04-11 cs.CL
Prompting Explicit and Implicit Knowledge for Multi-hop Question Answering Based on Human Reading Process
University of Essex（埃塞克斯大学）；Lingnan University（岭南大学）；Northwest University（西北大学）
针对预训练语言模型在多跳问答中推理能力与人类存在差距的问题，提出提示显式与隐式知识（PEI）框架，通过提示连接段落显式知识与模型隐式知识以模拟人类阅读过程，在HotpotQA上取得可比性能。
2024-10-16 cs.CL
Understanding Dataset Design Choices for Multi-hop Reasoning
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
学习多跳推理一直是阅读理解模型的一个关键挑战，导致数据集的设计明确关注它。理想情况下，模型不应该能够在多跳问答任务上表现良好，而不进行多跳推理。在本文中，我们研究了两个最近提出的数据集，WikiHop和HotpotQA。首先，我们探索了这些任务的分解模型;通过设计，这些模型不能进行多跳推理，但它们仍然能够解决两个数据集中的大量示例。此外，我们发现虚假的相关性在未屏蔽版本的WikiHop，这使得它很容易实现高性能只考虑问题和答案。最后，我们研究了这些数据集之间的一个关键差异，即QA任务的基于跨度的公式与多项选择公式。这两个数据集的多项选择版本可以很容易地进行游戏，我们检查的两个模型在这种设置中仅略微超过基线。总的来说，虽然这些数据集是有用的测试平台，但高性能模型可能不会像以前认为的那样学习那么多的多跳推理。
2019-04-27 cs.AI cs.CL
Answering Complex Open-domain Questions Through Iterative Query Generation
Stanford University（斯坦福大学）
对于当前的一步检索和阅读问答（QA）系统来说，回答诸如“《无敌舰队》的作者的哪部小说将被史蒂文·斯皮尔伯格改编为故事片？“因为这个问题很少包含关于失踪实体（这里是作者）的可检索线索。提出这样的问题需要多跳推理，其中必须收集关于丢失的实体（或事实）的信息以继续进行进一步的推理。我们提出了GoldEn（黄金实体）检索器，它在阅读上下文和检索更多支持文档之间迭代，以回答开放域多跳问题。GoldEn Retriever没有使用不透明和计算昂贵的神经检索模型，而是在给定问题和可用上下文的情况下生成自然语言搜索查询，并利用现成的信息检索系统来查询丢失的实体。这使得GoldEn Retriever能够有效地扩展开放域多跳推理，同时保持可解释性。我们在最近提出的开放域多跳QA数据集HotpotQA上评估了GoldEn Retriever，并证明了它的性能优于先前发布的最佳模型，尽管没有使用预训练的语言模型，如BERT。
2019-10-15 cs.CL
QA4QG: Using Question Answering to Constrain Multi-Hop Question Generation
The Hong Kong University of Science and Technology（香港科技大学）
多跳问题生成（MQG）的目的是生成复杂的问题，需要推理的多条信息的输入通道。MQG的大多数现有工作都集中在探索基于图的网络，以使传统的序列到序列框架具有推理能力。然而，这些模型没有充分利用问题和答案之间的约束。此外，多跳问答（QA）的研究表明，Transformers可以取代多跳推理的图结构。因此，在这项工作中，我们提出了一个新的框架，QA 4 QG，一个QA增强的基于BART的MQG框架。它通过一个额外的多跳QA模块来增强标准BART模型，以进一步约束生成的问题。我们在HotpotQA数据集上的结果表明，QA 4 QG优于所有最先进的模型，与之前报道的最佳结果相比，增加了8个BLEU-4和8个ROUGE点。我们的工作表明了为MQG任务引入预训练的语言模型和QA模块的优势。
2022-02-14 cs.AI cs.CL
IterCOMP: Reasoning-aware Adaptive Prompt Compression for Multi-hop Question Answering
Chung-Ang University（中央大学）
本文针对多跳问答中现有提示压缩方法无法捕捉多跳推理步骤的问题，提出无训练框架IterCOMP，经实验验证其可提升问答指标并减少token预算。
2026-08-17 cs.AI cs.CL
Does Entity Abstraction Help Generative Transformers Reason?
Quebec Artificial Intelligence Institute (Mila)（魁北克人工智能研究所（Mila））；Polytechnique Montreal（蒙特利尔理工学院）；ServiceNow Research（ServiceNow研究院）；McGill University（麦吉尔大学）
我们研究了将实体类型抽象纳入预先训练的Transformers的实用性，并在四个需要不同形式逻辑推理的NLP任务上测试这些方法：（1）基于文本的关系推理（CLUTRR）的组合语言理解，（2）溯因推理（ProofWriter），（3）多跳问答（HotpotQA），以及（4）会话问答（CoQA）。我们提出并经验性地探索了三种添加这种抽象的方法：（i）作为额外的输入嵌入，（ii）作为单独的编码序列，以及（iii）作为模型的辅助预测任务。总体而言，我们的分析表明，模型与抽象实体知识的表现优于没有它。最好的抽象感知模型实现了88.8%和91.8%的整体准确率相比，基线模型实现62.9%和89.8%的CLUTRR和ProofWriter分别。然而，对于HotpotQA和CoQA，我们发现F1分数平均只提高了0.5%。我们的研究结果表明，显式抽象的好处是显着的，在正式定义的逻辑推理设置需要许多推理跳，但点的概念，它是不太有益的NLP任务具有不太正式的逻辑结构。
2022-11-21 cs.AI cs.CL cs.LG
Compositional Questions Do Not Necessitate Multi-hop Reasoning
University of Washington（华盛顿大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）；University of California, Irvine（加州大学欧文分校）
多跳阅读理解（RC）问题具有挑战性，因为它们需要阅读和推理多个段落。我们认为，它可以是难以构建大型多跳RC数据集。例如，即使是高度组合的问题，如果它们针对特定的实体类型，或者回答它们所需的事实是多余的，也可以通过单跳来回答。我们的分析以HotpotQA为中心，在那里我们表明单跳推理可以解决比以前想象的更多的数据集。我们介绍了一个单跳的BERT为基础的RC模型，达到67 F1-国家的最先进的多跳模型相媲美。我们还设计了一个评估设置，其中人类没有显示所有必要的段落，用于预期的多跳推理，但仍然可以回答超过80%的问题。连同详细的错误分析，这些结果表明，应该有一个越来越多的关注证据在多跳推理的作用，甚至可能转向信息检索风格的评估与大型和多样化的证据收集。
2019-06-07 cs.AI cs.CL
End-to-End Beam Retrieval for Multi-Hop Question Answering
Beijing University of Posts and Telecommunications（北京邮电大学）；Tencent Research（腾讯研究院）
本文提出端到端束检索框架 Beam Retrieval，通过跨跳联合优化编码器和分类头，并在每步保留多个段落假设以扩大搜索空间，显著提升多跳问答检索质量，进而改善有监督阅读器和 LLM 的问答性能。
2024-04-01 cs.CL
Analyzing the Effectiveness of the Underlying Reasoning Tasks in Multi-hop Question Answering
National Institute of Informatics（国立信息学研究所）；The Graduate University for Advanced Studies（综合研究大学院大学）；The University of Tokyo（东京大学）
为了解释预测的答案和评估模型的推理能力，一些研究利用了多跳问答（QA）数据集中的底层推理（UR）任务。然而，当以端到端的方式对这两个任务进行训练模型时，UR任务对于QA任务的有效性如何仍然是一个悬而未决的问题。在这项研究中，我们解决这个问题，通过分析UR任务（包括企业级和实体级任务）的有效性在三个方面：（1）QA性能，（2）推理捷径，（3）鲁棒性。虽然以前的模型没有在实体级推理预测任务上进行显式训练，但我们构建了一个多任务模型，该模型可以同时执行三个任务：实体级支持事实预测，实体级推理预测和答案预测。在2 WikiMultiHopQA和HotpotQA-small数据集上的实验结果表明：（1）UR任务可以提高QA性能。使用新创建的四个去偏数据集，我们证明了（2）UR任务有助于防止多跳QA任务中的推理捷径。然而，我们发现（3）UR任务并没有有助于提高模型对对抗性问题的鲁棒性，例如子问题和反向问题。我们鼓励未来的研究以自然语言问题的形式调查实体级推理的有效性（例如，子问题形式）。
2023-02-12 cs.CL
HOLMES: Hyper-Relational Knowledge Graphs for Multi-hop Question Answering using LLMs
Fujitsu Research India（富士通印度研究院）；Indian Institute of Science（印度科学学院）
HOLMES提出用上下文感知且经蒸馏压缩的超关系知识图谱作为LLM输入，以降低多跳问答中的信息处理开销，相比SoTA最多减少67%的token，并在HotpotQA和MuSiQue上取得一致提升。
2024-06-10 cs.CL
FrugalRAG: Less is More in RL Finetuning for Multi-Hop Question Answering
Microsoft Research India（微软印度研究院）
FrugalRAG通过强化学习减少检索步骤，实现多跳问答任务的高效准确权衡。
2026-02-28 cs.CL
Answering Complex Open-Domain Questions with Multi-Hop Dense Retrieval
University of California, Santa Barbara（加利福尼亚大学圣巴巴拉分校）；Facebook AI（脸书人工智能研究院）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；University College London（伦敦大学学院）
我们提出了一个简单而有效的多跳稠密检索方法来回答复杂的开放域问题，实现了两个多跳数据集，HotpotQA和多证据FEVER的最先进的性能。与以前的工作相反，我们的方法不需要访问任何特定于语料库的信息，如文档间的超链接或人类注释的实体标记，并可以应用于任何非结构化的文本语料库。我们的系统还产生了更好的效率-准确性权衡，与HotpotQA上公布的最佳准确性相匹配，同时推理速度快10倍。
2021-02-19 cs.CL
Mitigating Lost-in-Retrieval Problems in Retrieval Augmented Multi-Hop Question Answering
State Key Laboratory for Novel Software Technology, Nanjing University, China（新型软件技术国家重点实验室，南京大学，中国）；University of California, Merced, USA（加州大学默塞德分校，美国）；National Institute of Healthcare Data Science, Nanjing University, China（健康数据科学国家研究院，南京大学，中国）
本文揭示了检索增强多跳问答中LLM子问题分解遗漏关键实体的“迷失于检索”问题，提出渐进式检索与重写方法ChainRAG，通过逐步补全缺失实体并从句子图检索相关句子，在三个数据集和三个大模型上均有效提升了问答准确性与效率。
2025-05-28 cs.CL
Avoiding Reasoning Shortcuts: Adversarial Evaluation, Training, and Model Development for Multi-Hop QA
UNC Chapel Hill（北卡罗来纳大学教堂山分校）
多跳问答需要一个模型来连接分散在长上下文中的多个证据来回答问题。在本文中，我们表明，在多跳HotpotQA（杨等人，2018）数据集，这些示例通常包含推理快捷方式，通过这些快捷方式，模型可以通过将问题与上下文中的句子进行单词匹配来直接定位答案。我们通过构建对抗性文档来证明这个问题，这些文档创建了与捷径相矛盾的答案，但不影响原始答案的有效性。在我们的对抗性评估中，强基线模型的性能显著下降，这表明它们确实在利用捷径，而不是执行多跳推理。经过对抗性训练后，基线的性能有所提高，但在对抗性评估方面仍然受到限制。因此，我们使用一个控制单元，动态地出席在不同的推理跳的问题，以指导模型的多跳推理。我们表明，这种在常规数据上训练的2跳模型比基线模型对对手更鲁棒。经过对抗训练后，这个2跳模型不仅比在常规数据上训练的模型有所改进，而且比对抗训练的1跳基线更好。我们希望这些见解和初步的改进将促进新模型的开发，将显式组合推理与对抗训练相结合。
2019-06-17 cs.AI cs.CL
Learning to Retrieve Reasoning Paths over Wikipedia Graph for Question Answering
University of Washington（华盛顿大学）；Salesforce Research（Salesforce研究院）；Allen Institute for Artificial Intelligence（艾伦人工智能研究院）
在网络规模上搜索需要多跳推理的问题需要检索多个证据文档，其中一个文档通常与问题几乎没有词汇或语义关系。本文介绍了一种新的基于图的循环检索方法，该方法学习检索维基百科图上的推理路径来回答多跳开放域问题。我们的检索器模型训练一个递归神经网络，该网络通过对先前检索到的文档进行调节来学习顺序检索推理路径中的证据段落。我们的读者模型对推理路径进行排序，并提取出最佳推理路径中包含的答案跨度。在三个开放域QA数据集上的实验结果显示了最先进的结果，展示了我们方法的有效性和鲁棒性。值得注意的是，我们的方法在HotpotQA中实现了显着的改进，比之前的最佳模型高出14个点以上。
2020-02-14 cs.CL
Transforming Questions and Documents for Semantically Aligned Retrieval-Augmented Generation
Seokgi Lee
提出一种面向多跳问答的RAG框架，利用LLM分解复杂问题并基于生成问题的嵌入相似度检索文档块，有效提升了多跳问答性能。
2025-08-13 cs.CL
Replace, Don't Expand: Mitigating Context Dilution in Multi-Hop RAG via Fixed-Budget Evidence Assembly
Department of Electrical Engineering, Ariel University（电气工程系，阿里尔大学）；Department of Computer and Software Engineering, Ariel University（计算机与软件工程系，阿里尔大学）
SEAL-RAG通过固定预算证据组装策略，有效缓解多跳RAG中的上下文稀释问题，提升答案准确性和证据精度。
2025-12-19 cs.AI cs.CL
