SentGraph: Hierarchical Sentence Graph for Multi-hop Retrieval-Augmented Question Answering
University of Science and Technology of China(中国科学技术大学);Hefei University of Technology(合肥工业大学)
提出SentGraph,一种句子级图RAG框架,通过构建层次化句子图并建模细粒度逻辑关系,解决多跳问答中证据链不完整的问题。
2026-05-23 cs.AI cs.CL
Fine-Tuning vs. RAG for Multi-Hop Question Answering with Novel Knowledge
本文比较了微调与RAG在多跳问答中处理新颖知识的效果,发现RAG在时间新颖信息问答中表现更优,而有监督微调整体准确率最高。
2026-01-11 cs.CL cs.LG
Repurposing Entailment for Multi-Hop Question Answering Tasks
Stony Brook University(石溪大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
问答(QA)自然地归结为蕴涵问题,即验证某些文本是否蕴涵问题的答案。然而,对于需要用多个句子进行推理的多跳QA任务,目前还不清楚如何最好地利用在大规模数据集(如SNLI)上预先训练的蕴涵模型,这些模型基于句子对。我们介绍Multee,一个通用的架构,可以有效地使用蕴涵模型的多跳QA任务。Multee使用(i)一个本地模块,帮助定位重要的句子,从而避免分散注意力的信息,以及(ii)一个全局模块,通过有效地整合重要性权重来聚合信息。重要的是,我们证明了这两个模块都可以使用在大规模NLI数据集上预先训练的蕴涵函数。我们评估MultiRC和OpenBookQA,两个多跳QA数据集的性能。当使用在NLI数据集上预先训练的蕴涵函数时,Multee的性能优于仅在目标QA数据集和OpenAI Transformer模型上训练的QA模型。该代码可在https://github.com/StonyBrookNLP/multee上获得。
2019-04-20 cs.AI cs.CL cs.LG
Multi-hop Question Answering under Temporal Knowledge Editing
King Abdullah University of Science and Technology(阿卜杜拉国王科技大学);South China University of Technology(华南理工大学);Ant Group(蚂蚁集团);SDAIA-KAUST AI(沙特数据与人工智能局-阿卜杜拉国王科技大学人工智能项目);Provable Responsible AI and Data Analytics (PRADA) Lab(可信赖负责任人工智能与数据分析实验室)
针对现有知识编辑下多跳问答模型难以处理显式时间上下文的问题,本文提出TEMPLE-MQA框架,通过时间感知图、结构化检索与联合推理提升时间敏感多跳问答性能,并贡献首个时间范围多跳问答基准数据集TKEMQA。
2024-03-30 cs.AI cs.CL cs.LG
SQALER: Scaling Question Answering by Decoupling Multi-Hop and Logical Reasoning
IBM Research(IBM研究院);EPFL(洛桑联邦理工学院)
在知识图谱上进行推理和问答的现有方法通常随着边的数量而缩放,并且只能有效地应用于小的实例依赖子图。在本文中,我们解决这个问题,表明多跳和更复杂的逻辑推理可以单独完成,而不会失去表达能力。出于这种认识,我们提出了一种多跳推理的方法,该方法与图中的关系类型的数量呈线性关系,通常比边或节点的数量要小得多。这会产生一组候选解决方案,这些解决方案可以被证明是精炼的,以恢复原始问题的解决方案。我们对基于知识的问答的实验表明,我们的方法解决了多跳MetaQA数据集,实现了一个新的国家的最先进的更具挑战性的WebbrowsSP,是数量级的可扩展性比竞争对手的方法,并可以实现合成泛化的训练分布。
2021-10-27 cs.AI cs.CL cs.IR
Triggering Multi-Hop Reasoning for Question Answering in Language Models using Soft Prompts and Random Walks
Purdue University(普渡大学);Google Research(谷歌研究院);Google DeepMind(谷歌DeepMind)
针对预训练语言模型难以组合事实进行多跳问答的问题,本文利用知识图谱随机游走并训练软提示,将多跳问题映射到答案路径,在两个 T5 模型上显著提升 2 跳推理性能。
2023-06-06 cs.AI cs.CL
Unsupervised Multi-hop Question Answering by Question Generation
National University of Singapore(新加坡国立大学);University of California, Santa Barbara(加州大学圣塔芭芭拉分校)
为多跳问答(QA)获取训练数据是耗时且资源密集的。我们探索了训练一个性能良好的多跳QA模型的可能性,而不需要参考任何人类标记的多跳问答对,即,无监督多跳QA我们提出了MQA-QG,一个无监督的框架,可以从同构和异构的数据源生成类似人类的多跳训练数据。MQA-QG首先从每个数据源中选择/生成相关信息,然后将多个信息集成以形成多跳问题,从而生成问题。仅使用生成的训练数据,我们可以训练一个称职的多跳QA,它分别达到HybridQA和HotpotQA数据集的监督学习性能的61%和83%。我们还表明,预训练的QA系统与生成的数据将大大减少人类注释的训练数据的需求。我们的代码可在https://github.com/teacherpeterpan/Unsupervised-Multi-hop-QA上公开获取。
2021-04-12 cs.AI cs.CL
Scalable Multi-Hop Relational Reasoning for Knowledge-Aware Question Answering
University of Southern California(南加州大学);Peking University(北京大学);Carnegie Mellon University(卡内基梅隆大学)
现有的关于用外部知识(例如,知识图谱)要么难以有效地对多跳关系进行建模,要么对模型的预测原理缺乏透明度。在本文中,我们提出了一种新的知识感知的方法,装备预训练的语言模型(PTLM)与多跳关系推理模块,命名为多跳图关系网络(MHGRN)。它对从外部知识图谱中提取的子图执行多跳、多关系推理。所提出的推理模块结合了基于路径的推理方法和图神经网络,以实现更好的可解释性和可扩展性。我们还在CommonsenseQA和OpenbookQA数据集上实证展示了其有效性和可扩展性,并通过案例研究解释了其行为。
2020-09-18 cs.CL cs.LG
Hypergraph Transformer: Weakly-supervised Multi-hop Reasoning for Knowledge-based Visual Question Answering
Seoul National University(首尔国立大学);Hanyang University(汉阳大学);AI Institute (AIIS), Seoul National University(首尔国立大学人工智能研究院(AIIS))
基于知识的视觉问答(QA)的目的是回答一个问题,这需要视觉基础的外部知识超越图像内容本身。在弱监督下对需要多跳推理的复杂问题进行推理被认为是一个具有挑战性的问题,因为i)没有对推理过程进行监督,ii)需要捕获多跳知识事实的高阶语义。在本文中,我们引入超图的概念来编码问题和知识库的高级语义,并学习它们之间的高阶关联。提出的模型Hypergraph Transformer构造了一个问题超图和一个查询感知知识超图,并通过编码超图之间的关联和超图本身的关联来推断答案。在两个基于知识的视觉问答和两个基于知识的文本问答上的实验证明了该方法的有效性,特别是对于多跳推理问题。我们的源代码可以在https://github.com/yujungheo/kbvqa-public上找到。
2022-04-22 cs.AI cs.CL cs.CV
Semantic Sentence Composition Reasoning for Multi-Hop Question Answering
Zhejiang University(浙江大学)
现有的多跳开放域问答系统由于缺乏足够的数据,需要根据每个问题有效地找出相关的支持事实。针对语义事实句检索和多跳上下文扩展的难题,提出了一种面向多跳问答任务的语义句子组合推理方法,该方法包括两个关键模块:多阶段语义匹配模块(MSSM)和事实句子组合模块(FSC).该方法将事实句和多阶段语义检索相结合,可以为模型训练和推理提供更全面的上下文信息。实验结果表明,我们的模型是能够纳入现有的预训练语言模型,并优于现有的SOTA方法的QASC任务的改进约9%。
2022-03-01 cs.AI cs.CL cs.IR
Retrieval-enhanced Knowledge Editing in Language Models for Multi-Hop Question Answering
University of Georgia(佐治亚大学);New York University(纽约大学);Rice University(莱斯大学);North Carolina State University(北卡罗来纳州立大学)
针对大语言模型多跳问答中知识更新难的问题,提出检索增强模型编辑框架RAE,通过互信息最大化检索链式事实、剪枝冗余信息,经多模型验证可提升知识更新后的问答准确率。
2024-08-13 cs.AI cs.CL cs.LG
Enhancing Document-Level Question Answering via Multi-Hop Retrieval-Augmented Generation with LLaMA 3
Independent Researcher(独立研究者);Cornell University(康奈尔大学);University of Southern California(南加州大学)
本文提出基于LLaMA 3的多跳检索增强生成框架,通过密集检索、上下文融合及联合优化,提升长文档问答的准确性与连贯性,实验优于现有基线。
2025-06-19 cs.CL cs.LG
QA4QG: Using Question Answering to Constrain Multi-Hop Question Generation
The Hong Kong University of Science and Technology(香港科技大学)
多跳问题生成(MQG)的目的是生成复杂的问题,需要推理的多条信息的输入通道。MQG的大多数现有工作都集中在探索基于图的网络,以使传统的序列到序列框架具有推理能力。然而,这些模型没有充分利用问题和答案之间的约束。此外,多跳问答(QA)的研究表明,Transformers可以取代多跳推理的图结构。因此,在这项工作中,我们提出了一个新的框架,QA 4 QG,一个QA增强的基于BART的MQG框架。它通过一个额外的多跳QA模块来增强标准BART模型,以进一步约束生成的问题。我们在HotpotQA数据集上的结果表明,QA 4 QG优于所有最先进的模型,与之前报道的最佳结果相比,增加了8个BLEU-4和8个ROUGE点。我们的工作表明了为MQG任务引入预训练的语言模型和QA模块的优势。
2022-02-14 cs.AI cs.CL
IslamicPCQA: A Dataset for Persian Multi-hop Complex Question Answering in Islamic Text Resources
Iran University of Science and Technology(伊朗科技大学);Sharif University of Technology(谢里夫理工大学)
本文提出 IslamicPCQA,首个面向伊斯兰文本的波斯语多跳复杂问答数据集,含 12,282 个问答对及支持事实,可支撑多段落推理研究。
2023-04-23 cs.AI cs.CL
IterCOMP: Reasoning-aware Adaptive Prompt Compression for Multi-hop Question Answering
Chung-Ang University(中央大学)
本文针对多跳问答中现有提示压缩方法无法捕捉多跳推理步骤的问题,提出无训练框架IterCOMP,经实验验证其可提升问答指标并减少token预算。
2026-08-17 cs.AI cs.CL
Hierarchical Graph Network for Multi-hop Question Answering
Microsoft Dynamics 365 AI Research(微软Dynamics 365 AI研究院)
在本文中,我们提出了层次图网络(HGN)的多跳问答。为了从分散在多个段落中的文本中聚合线索,通过在不同粒度级别(问题,段落,句子,实体)上构建节点来创建分层图,其表示使用预先训练的上下文编码器进行初始化。给定该分层图,通过图传播来更新初始节点表示,并且经由遍历每个后续子任务的图边缘来执行多跳推理(例如,段落选择、支持事实提取、答案预测)。通过将异构节点编织成一个完整的统一图,这种节点粒度的分层区分使HGN能够同时支持不同的问答子任务。在HotpotQA基准测试上的实验表明,该模型达到了新的技术水平,优于现有的多跳QA方法。
2020-10-06 cs.CL
Generating Followup Questions for Interpretable Multi-hop Question Answering
NEC Laboratories America(美国电气通信技术研究所(NEC实验室美国));Princeton, NJ 08540(普林斯顿,新泽西州08540)
我们提出了一个回答开放域多跳问题的框架,其中部分信息被读取并用于生成后续问题,最终由预训练的单跳答案提取器回答。该框架使得每个跳可解释,并且使得与稍后的跳相关联的检索与第一跳一样灵活和具体。作为该框架的第一个实例,我们训练一个指针生成器网络来预测后续问题的问题和部分信息的基础上。这提供了神经问题生成网络的新应用,该神经问题生成网络被应用于基于最终答案及其支持事实给出弱基础事实单跳后续问题。学习生成后续问题,选择相关的答案跨度对下游的支持事实,同时避免分散注意力的前提,提出了一个令人兴奋的语义文本生成的挑战。我们提出了一个评估使用两跳桥问题的HotpotQA。
2020-02-27 cs.CL
Few-Shot Data Synthesis for Open Domain Multi-Hop Question Answering
Meta
提出一种仅需不到10对标注数据的少样本数据合成框架,通过合成数百万多跳问答微调小模型,使其在参数量仅约三分之一时即可媲美GPT-3.5的性能。
2024-02-12 cs.CL
HopPG: Self-Iterative Program Generation for Multi-Hop Question Answering over Heterogeneous Knowledge
Harbin Institute of Technology(哈尔滨工业大学);JD AI Research(京东人工智能研究院)
提出面向异构知识多跳问答的自迭代程序生成框架HopPG,利用先前执行结果逐跳检索事实并生成程序,在MMQA-T^2上优于现有基线。
2023-09-10 cs.CL
Graph Attention with Hierarchies for Multi-hop Question Answering
University College London(伦敦大学学院);Huawei Noah’s Ark Lab(华为诺亚方舟实验室);Accelex Technology(Accelex科技)
多跳QA(问答)是在多个文档中找到问题答案的任务。近年来,人们提出了许多基于深度学习的方法来解决这一复杂任务,以及一些标准基准来评估模型多跳QA能力。在本文中,我们专注于完善的HotpotQA基准数据集,该数据集需要模型执行答案跨度提取以及支持句子预测。本文对基于SOTA图神经网络(GNN)的HotpotQA模型--层次图网络(HGN)提出了两种扩展:(i)通过在查询和上下文句子节点之间引入新的边来完善原有的层次结构;(ii)在图传播步骤中,我们提出了一种新的扩展层次图注意力网络GATH(具有层次结构的图形注意力),其利用图形层次结构以顺序方式更新节点表示。HotpotQA上的实验证明了所提出的修改的效率,并支持我们的假设模型相关变量的影响。
2023-01-27 cs.AI cs.CL
Retrieve, Summarize, Plan: Advancing Multi-hop Question Answering with an Iterative Approach
Ant Group(蚂蚁集团)
本文提出新型迭代 RAG 方法 ReSP,通过双功能摘要器同时压缩总体问题和当前子问题的检索信息,解决多跳问答中的上下文过载与规划冗余问题,在 HotpotQA 和 2WikiMultihopQA 上显著优于现有方法。
2025-01-30 cs.AI cs.CL
Few-shot Multi-hop Question Answering over Knowledge Base
cqjtu(重庆交通大学);cqnu(重庆师范大学)
KBQA是利用知识库中的语义结构化信息回答问题的任务。由于缺乏大规模的语义解析数据集,以及随着关系路径跳数的增加,搜索空间呈指数级增长,这一领域的研究受到了限制。在本文中,我们提出了一种高效的流水线方法配备了一个预先训练的语言模型。采用束搜索算法,搜索空间不受3跳子图的限制。此外,我们还提出了一种数据生成策略,使我们的模型能够从少量的训练样本中很好地泛化。我们在开放域复杂中文问答任务CCKS 2019上评估了我们的模型,并在测试数据集上获得了62.55%的F1分数。另外,为了测试模型的少样本学习能力,我们随机选取10%的原始数据对模型进行训练,结果表明模型仍能达到58.54%的F1分数,验证了模型处理KBQA任务的能力和在少样本学习方面的优势。
2022-01-27 cs.AI cs.CL
A Method for Multi-Hop Question Answering on Persian Knowledge Graph
Iran University of Science and Technology(伊朗科技大学)
针对波斯语知识图谱多跳复杂问答的挑战,本研究构建了5,600个波斯语多跳问题数据集,训练波斯语模型并提出问答架构,在PeCoQ数据集上F1分数和准确率较最佳可比方法分别提升12.57%和12.06%。
2025-01-18 cs.AI cs.CL cs.IR
Repair Before Reinforce: Context-Augmented Knowledge Graph Reasoning for Multi-Hop Question Answering
Princeton University(普林斯顿大学)
提出上下文增强训练框架,通过附加支持三元组形成上下文图,结合自适应修复和强化学习,提升多跳问答性能。
2026-09-14 cs.AI cs.CL
Towards Graph-hop Retrieval and Reasoning in Complex Question Answering over Textual Database
Institute of Automation, CAS(中国科学院自动化研究所);University of Chinese Academy of Sciences(中国科学院大学)
本文提出多链多跳检索推理新范式 Graph-Hop,构建了提供细粒度证据图的新基准 ReasonGraphQA,并提出双向图检索(BGR)基线方法,实验表明该方向有潜力但仍存局限。
2023-05-23 cs.CL
Interpretable AMR-Based Question Decomposition for Multi-hop Question Answering
University of Auckland(奥克兰大学)
有效的多跳问答(QA)需要对多个分散的段落进行推理,并为答案提供解释。大多数现有的方法不能提供一个可解释的推理过程来说明这些模型是如何得出答案的。本文提出了一种基于抽象意义表示的多跳QA问题分解方法(QDAMR),通过将多跳问题分解为简单的子问题并按顺序回答,实现了可解释的推理。由于注释分解是昂贵的,我们首先将理解多跳问题的复杂性委托给AMR解析器。然后,我们实现了多跳问题的分解,通过分割相应的AMR图的基础上所需的推理类型。最后,我们使用AMR到文本生成模型生成子问题,并使用现成的QA模型回答它们。HotpotQA上的实验结果表明,我们的方法是有竞争力的可解释的推理和QDAMR生成的子问题是良好的形式,优于现有的基于问题分解的多跳QA方法。
2022-06-16 cs.CL
Reasoning in Trees: Improving Retrieval-Augmented Generation for Multi-Hop Question Answering
Shanghai Jiao Tong University(上海交通大学);Shandong University(山东大学);Carnegie Mellon University(卡内基梅隆大学)
RT-RAG通过构建推理树来提升多跳问题回答的准确性和一致性,实验结果显示其在F1和EM指标上均优于现有方法。
2026-01-16 cs.CL cs.LG
Improving Multi-hop Knowledge Base Question Answering by Learning Intermediate Supervision Signals
Renmin University of China(中国人民大学);Singapore Management University(新加坡管理大学)
多跳知识库问答(KBQA)的目的是在知识库(KB)中找到与问题中的实体相距多跳的答案实体。一个主要的挑战是在中间步骤缺乏监督信号。因此,多跳KBQA算法只能接收最终答案的反馈,这使得学习不稳定或无效。为了应对这一挑战,我们提出了一种新的师生多跳KBQA任务的方法。在我们的方法中,学生网络的目标是找到查询的正确答案,而教师网络试图学习中间监督信号,以提高学生网络的推理能力。主要的新颖性在于教师网络的设计,我们利用正向和反向推理来增强中间实体分布的学习。通过考虑双向推理,教师网络可以产生更可靠的中间监督信号,这可以减轻虚假推理的问题。在三个基准数据集上进行的大量实验证明了该方法在KBQA任务上的有效性。复制我们分析的代码可在https://github.com/RichardHGL/WSDM2021_NSM上获得。
2021-04-07 cs.AI cs.CL
Biomedical Multi-hop Question Answering Using Knowledge Graph Embeddings and Language Models
Persistent Systems Limited(沛星系统有限公司)
生物医学知识图谱是以生物实体为节点、以生物实体之间的关系为边的异质网络。这些实体和关系是从数百万篇研究论文中提取出来的,并统一在一个资源中。基于知识图谱的生物医学多跳问答系统(KGQA)的目标是帮助生物学家和科学家通过使用自然语言提问来获得有价值的见解。通过首先理解问题,然后查询KG以获得正确的节点和关系集以得到答案,可以找到相关答案。为了对问题进行建模,使用诸如RoBERTa和BioBERT的语言模型来从自然语言问题理解上下文。KGQA的挑战之一是KG中缺少链接。知识图谱嵌入(KGE)通过以密集和更有效的方式编码节点和边来帮助克服这个问题。在本文中,我们使用一个公开的KG称为Hetionet,这是一个整合的网络,生物医学知识组装从29个不同的数据库的基因,化合物,疾病,等等。我们已经丰富了这个KG数据集通过创建一个多跳生物医学问答数据集在自然语言测试生物医学多跳问答系统,这个数据集将提供给研究界。这项研究的主要贡献是一个集成的系统,结合语言模型与KG嵌入,以提供高度相关的答案,由生物学家提出的自由形式的问题,在一个直观的界面。生物医学多跳问答系统测试这些数据和结果是非常令人鼓舞的。
2022-11-10 cs.AI cs.LG cs.SI
Generative Context Pair Selection for Multi-hop Question Answering
University of California, Irvine(加利福尼亚大学尔湾分校);Amazon Web Services(亚马逊云服务);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
组合推理任务,如多跳问答,需要做出潜在的决定,以获得最终的答案,给定的问题。然而,众包数据集通常只捕获底层任务分布的一部分,这可能会在执行组合推理的模型中引起意想不到的偏差。此外,区分训练的模型利用这些偏差来获得更好的表现,而不需要学习正确的推理方式,因为它们不需要关注整个问题表示(条件变量)来估计答案的可能性。在这项工作中,我们提出了一个生成的上下文选择模型的多跳问答的原因如何给定的问题可能已经产生了一个上下文对。虽然与最先进的回答性能相当,但我们提出的生成通道选择模型在对抗性保留集上具有更好的性能(比基线高4.9%),这测试了模型的多跳推理能力的鲁棒性。
2021-04-18 cs.CL
Iterative Hierarchical Attention for Answering Complex Questions over Long Documents
Carnegie Mellon University(卡内基梅隆大学);Google Research(谷歌研究院)
我们提出了一个新的模型,DocHopper,迭代地出席不同部分的长,层次结构的文档来回答复杂的问题。类似于多跳问答(QA)系统,在每一步,DocHopper使用查询$q$来处理来自文档的信息,将此"检索“信息与$q$组合以产生下一个查询。然而,与大多数以前的多跳QA系统相比,DocHopper能够“检索”文档的短段落或长部分,从而模拟通过长文档“导航”的多步骤过程来回答问题。为了实现这种新颖的行为,DocHopper并没有通过将文本连接到$q$的文本来将文档信息与$q$结合起来,而是通过将$q$的紧凑神经表示与文档的分层部分的紧凑神经表示结合起来,这可能非常大。我们在四个不同的QA任务上使用DocHopper进行了实验,这些任务需要阅读长而复杂的文档来回答多跳问题,并表明DocHopper在三个数据集上实现了最先进的结果。此外,DocHopper在推理时间上是有效的,比基线快3- 10倍。
2021-10-22 cs.AI cs.CL
Beyond Chunking: Discourse-Aware Hierarchical Retrieval for Long Document Question Answering
Institute of Computing and Intelligence, Harbin Institute of Technology (Shenzhen)(计算与智能研究院,哈尔滨工业大学(深圳));Shenzhen Loop Area Institute (SLAI)(深圳环形区研究院(SLAI))
本文提出一种篇章意识层次检索框架,利用修辞结构理论处理长文档问答,通过 discourse parsing 和 LLM 增强实现结构与语义信息的融合,实验表明在多种语言和文档类型上均取得显著提升。
2026-05-07 cs.AI cs.CL cs.IR
Multi-hop Question Answering via Reasoning Chains
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
多跳问答需要模型从文本的不同部分收集信息来回答问题。大多数当前的方法都是通过神经网络以端到端的方式学习解决这个任务,而不需要维护推理过程的显式表示。我们提出了一种方法来提取一个离散的推理链的文本,其中包括一系列的句子导致的答案。然后,我们将提取的链馈送到基于BERT的QA模型,以进行最终答案预测。重要的是,我们不依赖于黄金注释链或“支持事实“:在训练时,我们使用基于命名实体识别和共指消解的逻辑学推导出伪黄金推理链。我们在测试时也不依赖这些注释,因为我们的模型学会了单独从原始文本中提取链。我们测试我们的方法上最近提出的两个大型多跳问答数据集:WikiHop和HotpotQA,并实现国家的最先进的性能WikiHop和HotpotQA的强大性能。我们的分析显示了链的属性,这些属性对高性能至关重要:特别是,建模提取顺序很重要,因为以上下文感知的方式处理每个候选句子。此外,人类评估表明,我们提取的链允许人类以高置信度给出答案,这表明这些是这项任务的强大中间抽象。
2021-06-06 cs.AI cs.CL
Is Graph Structure Necessary for Multi-hop Question Answering?
iFLYTEK Research(科大讯飞研究院);Harbin Institute of Technology(哈尔滨工业大学);iFLYTEK AI Research (Hebei)(科大讯飞人工智能研究院(河北))
近年来,试图将文本建模为图结构,并引入图神经网络来处理它已成为许多NLP研究领域的一个趋势。在本文中,我们调查图结构是否是必要的多跳问答。我们的分析集中在HotpotQA上。我们构建了一个强大的基线模型,通过正确使用预训练模型,图结构可能不是多跳问答所必需的。指出图的结构和邻接矩阵都是与任务相关的先验知识,图的注意可以看作是自注意的一种特殊情况。实验和可视化分析表明,图的注意力或整个图的结构可以被自注意力或Transformers所取代。
2020-10-29 cs.CL
CHIME: Cross-passage Hierarchical Memory Network for Generative Review Question Answering
Department of Computer Science, University of Warwick, UK(英国华威大学计算机科学系)
我们介绍了CHIME,一个跨通道层次记忆网络的问答(QA)通过文本生成。它扩展了XLNet,引入了一个由两个组件组成的辅助记忆模块:收集交叉证据的上下文记忆和作为缓冲区不断完善生成的答案的答案记忆。从经验上讲,我们展示了所提出的架构在多通道生成QA中的有效性,表现优于最先进的基线,具有更好的语法结构良好的答案,并在解决AmazonQA评论数据集的问题时提高了精度。一个额外的定性分析揭示了由内存模块引入的可解释性。
2020-11-01 cs.CL
Multi-step Entity-centric Information Retrieval for Multi-Hop Question Answering
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);IBM Research(IBM研究院);Google Research(谷歌研究院)
多跳问答(QA)需要一个信息检索(IR)系统,该系统可以找到回答问题所需的支持证据\emph{multiple},这使得检索过程非常具有挑战性。本文介绍了一种IR技术,它使用的信息实体存在于最初检索的证据,学习“\emph{hop}”到其他相关的证据。在设置中,超过\textbf{5 million}维基百科的段落,我们的方法导致检索性能显着提高。检索到的证据还提高了现有QA模型(未经任何培训)在\textbf{10.59} F1的\hotpot基准测试中的性能。
2019-09-17 cs.CL
Inference Scaled GraphRAG: Improving Multi Hop Question Answering on Knowledge Graphs
North Carolina State University(北卡罗来纳州立大学);Oak Ridge National Laboratory(奥本海默国家实验室)
提出Inference-Scaled GraphRAG框架,通过结合深度思维链图遍历的顺序缩放与多数投票的并行缩放进行推理时计算缩放,显著提升了LLM在GRBench基准上的多跳问答性能。
2025-06-24 cs.AI cs.CL
Avoiding Knowledge Edit Skipping in Multi-hop Question Answering with Guided Decomposition
State Key Laboratory for Novel Software Technology, Nanjing University, China(新型软件技术国家重点实验室,南京大学,中国);National Institute of Healthcare Data Science, Nanjing University, China(医疗数据科学国家研究院,南京大学,中国)
针对多跳问答中知识编辑跳过问题,提出基于引导分解的迭代检索增强知识编辑方法(IRAKE),利用已编辑事实和案例引导,缓解编辑失败并超越现有最优方法。
2025-09-09 cs.AI cs.CL
Understanding and Improving Zero-shot Multi-hop Reasoning in Generative Question Answering
Carnegie Mellon University(卡内基梅隆大学);Bosch Research(博世研究院);Amazon(亚马逊)
生成式问答(QA)模型生成问题的答案,或者仅仅基于模型的参数(闭卷设置),或者另外检索相关证据(开卷设置)。生成式QA模型可以回答一些相对复杂的问题,但它们这样做的机制仍然知之甚少。我们进行了几项研究,旨在更好地了解多跳推理能力的生成QA模型。首先,我们将多跳问题分解为多个相应的单跳问题,并发现QA模型在这些表面上相同的问题链上的答案明显不一致。其次,我们发现模型缺乏zero-shot多跳推理能力:当只在单跳问题上训练时,模型对多跳问题的泛化能力很差。最后,我们证明了通过两种方法来提高模型的zero-shot多跳推理能力是可能的,这两种方法通过对单跳问题的串联或逻辑形式(SPARQL)进行训练来近似真实的多跳自然语言(NL)问题。总之,这些结果表明,多跳推理不会在生成式QA模型中自然出现,但可以通过训练或建模技术的进步来鼓励。
2022-10-09 cs.CL
Answering Any-hop Open-domain Questions with Iterative Document Reranking
Peking University(北京大学);Georgia Institute of Technology(佐治亚理工学院);Siemens Corporate Technology(西门子企业技术部)
现有的开放域问答(QA)方法通常是针对需要单跳或多跳推理的问题而设计的,这些推理对要回答的问题的复杂性做出了很强的假设。此外,多步骤文档检索通常会导致更多相关但不支持的文档,这会抑制下游噪声敏感的阅读器模块进行答案提取。为了解决这些挑战,我们提出了一个统一的QA框架来回答任何跳开放域的问题,迭代检索,重新排序和过滤文件,并自适应地确定何时停止检索过程。为了提高检索精度,我们提出了一个基于图的重排序模型,执行多文档交互作为我们的迭代重排序框架的核心。我们的方法在单跳和多跳开放域QA数据集(包括Natural Questions Open,SQuAD Open和HotpotQA)上始终实现与最先进的性能相当或更好的性能。
2021-05-24 cs.CL
HANRAG: Heuristic Accurate Noise-resistant Retrieval-Augmented Generation for Multi-hop Question Answering
Ant Group(蚂蚁集团)
针对多跳问答中迭代检索冗余与噪声累积问题,提出基于启发式的HANRAG框架,通过查询路由、子查询分解与噪声过滤机制,在单跳与多跳问答任务上均实现卓越性能。
2025-09-08 cs.AI cs.CL
Exploiting Hybrid Semantics of Relation Paths for Multi-hop Question Answering Over Knowledge Graphs
Peking University(北京大学);Tencent(腾讯)
在知识图谱(KGQA)上表达自然语言问题对于通过多跳推理理解复杂问题仍然是一个巨大的挑战。以往的研究通常利用大规模的实体相关文本语料库或知识图谱(KG)作为辅助信息,以促进答案的选择。然而,丰富的语义隐含在现成的实体之间的关系路径远未得到很好的探索。本文提出利用关系路径的混合语义来改进多跳KGQA。具体来说,我们集成了显式的文本信息和隐含的KG结构特征的关系路径的基础上一个新的旋转和缩放实体链接预测框架。在现有的三个KGQA数据集上的大量实验证明了该方法的优越性,特别是在多跳场景中。进一步的研究证实了我们的方法的系统协调问题和关系路径识别答案实体。
2022-09-02 cs.CL
Prompt-based Conservation Learning for Multi-hop Question Answering
University of Auckland(奥克兰大学)
多跳问答(QA)需要对多个文档进行推理,以回答复杂的问题并提供可解释的支持证据。然而,提供支持证据不足以证明模型已经执行了所需的推理以获得正确的答案。大多数现有的多跳QA方法无法回答大部分的子问题,即使他们的父问题被正确回答。在本文中,我们提出了一种基于知识的保护学习(PCL)框架,用于多跳QA,它从多跳QA任务中获取新知识,同时保存在单跳QA任务中学习到的旧知识,从而减轻遗忘。具体来说,我们首先训练现有的单跳QA任务的模型,然后冻结这个模型,并通过分配额外的子网络的多跳QA任务扩展它。此外,为了调节预训练的语言模型以刺激特定多跳问题所需的推理,我们学习了新子网络的软提示以执行特定类型的推理。在HotpotQA基准测试上的实验结果表明,PCL对于多跳QA具有竞争力,并且在相应的单跳子问题上保持了良好的性能,证明了PCL在减轻遗忘引起的知识丢失方面的有效性。
2022-09-14 cs.CL
Multi-hop Commonsense Knowledge Injection Framework for Zero-Shot Commonsense Question Answering
Southeast University(东南大学)
针对零样本常识问答中忽略知识图谱多跳关系的问题,提出多跳常识知识注入框架,通过两种多跳问答生成方法和对比学习预训练,在五个基准上取得最优性能。
2023-05-10 cs.CL
PRISM: Agentic Retrieval with LLMs for Multi-Hop Question Answering
Department of Computing Science University of Alberta(计算科学系阿尔伯塔大学)
本研究提出PRISM智能体检索框架,通过三个专门LLM智能体迭代交互优化多跳问答的证据检索,在四个基准上性能优于强基线,减少无关信息并提升下游QA模型表现。
2026-08-31 cs.AI cs.CL cs.IR
FanOutQA: A Multi-Hop, Multi-Document Question Answering Benchmark for Large Language Models
University of Pennsylvania(宾夕法尼亚大学)
本文提出FanOutQA基准,通过多跳、多文档的扇出问答任务评估大语言模型的复杂推理能力,并发现现有模型在长上下文文档间依赖推理上仍有不足。
2024-06-06 cs.AI cs.CL
UHop: An Unrestricted-Hop Relation Extraction Framework for Knowledge-Based Question Answering
Institute of Information Science Academia Sinica(中央研究院资讯科学研究所);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);National Institute of Technology Rourkela(鲁尔克拉国家理工学院);Most Joint Research Center for AI Technology(Most人工智能技术联合研究中心);All Vista Healthcare(全景医疗保健)
在用于基于知识的问答的关系抽取中,经由单个关系从一个实体搜索到另一个实体被称为“单跳”。在相关工作中,从知识图谱中的所有单跳关系、两跳关系等到最大跳关系的穷举搜索是必要的,但代价很高。因此,跳数通常限制为两个或三个。在本文中,我们提出了UHop,一个不受限制的跳框架,放宽了这一限制,通过使用一个基于转换的搜索框架,以取代基于关系链的搜索。我们对传统的1-和2-hop问题以及冗长的问题进行实验,包括WebQSP,PathQuestion和Grid World等数据集。结果表明,所提出的框架能够停止的能力,以及与国家的最先进的模型,实现竞争力的性能,而无需穷举搜索,并打开长关系路径的性能差距。
2019-04-02 cs.CL
GlobalRAG: Enhancing Global Reasoning in Multi-hop Question Answering via Reinforcement Learning
GlobalRAG通过强化学习框架提升多跳问答的全局推理能力,引入规划质量奖励和子目标完成奖励,结合渐进权重退火策略,有效解决多步推理中的全局规划和执行不一致问题。
2026-03-16 cs.AI cs.CL
Multi-Hop Reasoning for Question Answering with Hyperbolic Representations
Bonn-Aachen International Center for Information Technology, University of Bonn(波恩-亚琛国际信息科技中心,波恩大学);Lamarr Institute for ML and AI(拉马尔人工智能与机器学习研究所)
本文通过将双曲表示集成到编码器-解码器模型中,系统比较多跳推理中双曲空间与欧氏空间的表现,证明双曲表示在多个数据集上一致更优,且可学习曲率初始化和层次化数据结构能进一步提升其优势。
2025-07-04 cs.AI cs.CL
Commonsense for Generative Multi-Hop Question Answering Tasks
UNC Chapel Hill(北卡罗来纳大学教堂山分校)
阅读理解问答任务最近越来越受欢迎,但大多数作品都集中在事实发现的提取问答上。相反,我们专注于更具挑战性的多跳生成任务(NarrativeQA),该任务要求模型在上下文中推理,收集和合成不相交的信息以生成答案。这种类型的多步推理通常还需要理解隐含的关系,人类通过外部背景常识知识来解决这些关系。我们首先提出了一个强大的生成基线,使用多注意力机制执行多跳推理和指针生成器解码器合成的答案。该模型比以前的生成模型表现得更好,并且与当前最先进的跨度预测模型具有竞争力。接下来,我们将介绍一种新的系统,用于通过逐点互信息和基于词频的评分函数从ConceptNet中选择接地多跳关系常识信息。最后,我们有效地使用这个提取的常识信息,以填补上下文跳之间的推理差距,使用选择性门控注意力机制。这显著提高了模型的性能(也通过人工评估进行了验证),为任务建立了新的最先进技术。我们还展示了有希望的初步结果,我们的背景知识增强的泛化能力,通过展示QAngaroo WikiHop,另一个多跳推理数据集的一些改进。
2019-06-01 cs.AI cs.CL
Multi-Hop Paragraph Retrieval for Open-Domain Question Answering
Technion – Israel Institute of Technology(以色列理工学院)
本文研究了多跳开放域问答系统。这项任务特别具有挑战性,因为它需要同时执行文本推理和高效搜索。我们提出了一种方法来检索多个支持段落,嵌套在一个大的知识库,其中包含必要的证据来回答一个给定的问题。我们的方法通过形成问题和段落的联合向量表示来迭代检索支持段落。通过考虑知识源中的段落的上下文化的段落级表示来执行检索。我们的方法在两个著名的数据集SQuAD-Open和HotpotQA上实现了最先进的性能,这两个数据集分别作为我们的单跳和多跳开放域QA基准。
2019-06-15 cs.CL cs.IR
Locate Then Ask: Interpretable Stepwise Reasoning for Multi-hop Question Answering
Fudan University(复旦大学)
多跳推理需要聚合多个文档来回答一个复杂的问题。现有的方法通常将多跳问题分解为简单的单跳问题来求解,以说明可解释的推理过程。然而,他们忽略了每个推理步骤的支持事实,这往往会产生不准确的分解。在本文中,我们提出了一个可解释的逐步推理框架,将单跳支持句子识别和单跳问题生成在每个中间步骤,并利用当前跳下一个推理,直到推理出最终结果。我们采用一个统一的阅读器模型的中间跳推理和最终跳推理,并采用联合优化更准确和强大的多跳推理。我们在两个基准数据集HotpotQA和2WikiMultiHopQA上进行实验。结果表明,我们的方法可以有效地提高性能,也产生了一个更好的解释推理过程中没有分解监督。
2022-08-22 cs.CL
Memory-Aware and Uncertainty-Guided Retrieval for Multi-Hop Question Answering
University of Pittsburgh(匹兹堡大学);Salesforce Research(Salesforce研究院)
提出MIND框架,通过实体提取、基于熵和注意力信号的动态检索触发及记忆感知过滤,解决多跳问答中检索步骤固定和已检索知识利用不足的问题。
2025-03-29 cs.CL
CIRAG: Construction-Integration Retrieval and Adaptive Generation for Multi-hop Question Answering
Northeastern University(东北大学)
CIRAG通过构造-整合模块和自适应生成模块,提升多跳问答的准确性和鲁棒性。
2026-01-11 cs.AI cs.CL