Fine-tune the Entire RAG Architecture (including DPR retriever) for Question-Answering
The University of Auckland(奥克兰大学)
本研究提出端到端微调含DPR检索器的完整RAG架构的方法,明确相关工程挑战,验证其在问答任务上优于原始RAG架构,并开源了HuggingFace Transformers库中的实现。
2021-06-22 cs.AI cs.CL cs.IR
Retrieve, Program, Repeat: Complex Knowledge Base Question Answering via Alternate Meta-learning
Southeast University(东南大学);Southeast University-Monash University Joint Research Institute(东南大学-蒙纳士大学联合研究院);Monash University(蒙纳士大学)
复杂问答的一种引人注目的方法是将问题转换为一系列动作,然后可以在知识库上执行这些动作以产生答案,也就是程序员-解释器方法。使用与测试问题类似的训练问题,元学习使程序员能够适应看不见的问题,以快速解决潜在的分布偏差。然而,这是以手动标记类似问题来学习检索模型为代价的,这是繁琐且昂贵的。在本文中,我们提出了一种新的方法,自动学习检索模型交替与程序员从弱监督,即,系统在生成的答案方面的性能。据我们所知,这是第一次尝试与程序员联合训练检索模型。我们的系统导致国家的最先进的性能在一个大规模的任务,复杂的问答知识库。我们已经在https://github.com/DevinJake/MARL上发布了我们的代码。
2020-10-29 cs.AI cs.CL
Targeted Extraction of Temporal Facts from Textual Resources for Improved Temporal Question Answering over Knowledge Bases
Indian Institute of Technology, Kharagpur(印度理工学院克勒格布尔分校);IBM Research AI(IBM人工智能研究院)
知识库问答(KBQA)系统的目标是通过对从知识库(KB)检索的相关事实进行推理来回答复杂的自然语言问题。这些系统所面临的主要挑战之一是,由于不完整的知识库和实体/关系链接错误等因素,它们无法检索所有相关事实。在本文中,我们解决这个特殊的挑战,系统处理一个特定类别的问题,称为时间问题,答案推导涉及推理的事实断言点/时间间隔的各种事件。我们提出了一种新的方法,有针对性的时间事实提取技术是用来协助KBQA时,它无法检索时间事实从KB。我们使用$λ$ -问题的表达式来逻辑地表示得出答案所需的组成事实和推理步骤。这使我们能够发现那些未能从知识库中检索到的事实,并生成文本查询,以便以开放域问答的方式从文本资源中提取它们。我们评估了我们的方法在基准时间问答数据集考虑维基数据和维基百科分别作为知识库和文本资源。实验结果表明,该方法在回答正确率上相对提高了$\sim$ 30%,证明了该方法的有效性.
2022-03-21 cs.AI cs.CL
End-to-End Training of Multi-Document Reader and Retriever for Open-Domain Question Answering
Mila - Quebec AI Institute(米拉-魁北克人工智能研究所);School of Computer Science, McGill University(麦吉尔大学计算机科学学院);DeepMind
我们提出了一个端到端的可区分的训练方法检索增强的开放域问答系统,结合信息从多个检索到的文档生成答案时。我们模型检索决策的相关文件集的潜在变量。由于边缘化检索到的文件集是计算困难的,我们近似使用期望最大化算法。我们迭代地估计潜在变量(给定问题的相关文档集)的值,然后使用此估计值来更新检索器和读者参数。我们假设,这种端到端的训练可以让训练信号流到读者,然后到检索器比阶段式训练更好。这导致检索器能够为问题选择更相关的文档,并且读者在更准确的文档上进行训练以生成答案。在三个基准数据集上的实验表明,我们提出的方法比所有现有的可比大小的方法都要高出2-3%的绝对精确匹配点,取得了新的最先进的结果。我们的研究结果也证明了学习检索的可行性,以提高答案生成没有明确的监督检索决策。
2021-12-04 cs.AI cs.CL cs.IR
Cooperative Retrieval-Augmented Generation for Question Answering: Mutual Information Exchange and Ranking by Contrasting Layers
Department of Artificial Intelligence, Hanyang University(人工智能学院,翰阳大学);Department of Data Science, Hanyang University(数据科学学院,翰阳大学)
CoopRAG通过协作检索与生成机制,提升问答任务中检索与生成的准确性。
2025-12-17 cs.AI cs.CL
R2GQA: Retriever-Reader-Generator Question Answering System to Support Students Understanding Legal Regulations in Higher Education
University of Information Technology(信息科技大学);Vietnam National University, Ho Chi Minh City(越南国家大学胡志明市分校)
本文提出由检索器、阅读器和生成器组成的 R2GQA 越南语法律问答系统,并构建含 9,758 个问答对的 ViRHE4QA 数据集,实验验证其可帮助学生理解高校法规。
2024-09-04 cs.AI cs.CL
Knowledge Fusion and Semantic Knowledge Ranking for Open Domain Question Answering
Arizona State University(亚利桑那州立大学)
开放领域问答需要系统检索外部知识,并通过组合分布在多个句子上的知识来执行多跳推理。在最近引入的开放领域问答挑战数据集QASC和OpenBookQA中,我们需要执行事实检索并组合事实以正确回答问题。在我们的工作中,我们学习了一个语义知识排序模型,通过Lucene的信息检索系统检索到的知识重新排名。我们进一步提出了一个“知识融合模型”,利用外部检索的知识和基于BERT的语言模型的知识,并提高了基于BERT的语言模型的知识理解。在OpenBookQA和QASC数据集上,具有语义重新排序的知识的知识融合模型优于以前的尝试。
2020-04-17 cs.AI cs.CL cs.LG
QPaug: Question and Passage Augmentation for Open-Domain Question Answering of LLMs
Korea University(高丽大学);Hanbat National University(韩巴大学)
提出QPaug方法,通过LLMs将问题分解为多步子问题并生成辅助段落,增强查询与检索质量,显著提升了开放域问答中RAG的性能。
2024-09-27 cs.AI cs.CL
Retrieve-Rewrite-Answer: A KG-to-Text Enhanced LLMs Framework for Knowledge Graph Question Answering
Southeast University(东南大学);Zhejiang Lab(之江实验室)
本文针对大语言模型在知识图谱问答中长尾知识不足的问题,提出答案敏感的KG-to-Text方法及增强LLMs框架,将KG知识转化为高信息量文本,并在多个基准上验证其优于已有KG增强方法。
2023-09-21 cs.AI cs.CL
Rider: Reader-Guided Passage Reranking for Open-Domain Question Answering
University of Illinois, Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Microsoft Azure AI(微软Azure人工智能部门);Microsoft Research(微软研究院)
当前的开放域问答系统通常遵循检索器-读者体系结构,其中检索器首先检索相关段落,然后读者阅读检索到的段落以形成答案。在本文中,我们提出了一个简单而有效的段落重新排序方法,命名为读者引导的重新排序器(RIDER),它不涉及训练和重新排序检索的段落完全基于前读者的预测。我们表明,RIDER,尽管它的简单性,实现了10至20的绝对增益在前1检索精度和1至4精确匹配(EM)增益没有完善检索器或读者。此外,RIDER在没有任何训练的情况下,性能优于最先进的基于transformer的监督重排序器。值得注意的是,RIDER在Natural Questions数据集上实现了48.3 EM,在TriviaQA数据集上实现了66.4 EM,其中只有1,024个标记(平均7.8个段落)被用作段落重新排序后的读者输入。
2021-08-06 cs.AI cs.CL cs.IR
To Retrieve or Not to Retrieve? Uncertainty Detection for Dynamic Retrieval Augmented Generation
Emory University(埃默里大学)
针对确定性检索不适用于长问答的问题,研究探索多种不确定性检测方法以实现动态检索增强生成,发现相关指标可在问答准确率仅略有下降的情况下将检索调用次数减少近一半,提升了检索效率。
2025-03-18 cs.AI cs.CL cs.IR
Multimodal Reranking for Knowledge-Intensive Visual Question Answering
Carnegie Mellon University(卡内基梅隆大学);Google(谷歌公司);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
本文提出多模态重排序器,通过跨项交互改善知识候选排序,提升知识密集型视觉问答性能,实验验证其有效性。
2024-07-17 cs.AI cs.CL
Open Question Answering over Tables and Text
University of California, Santa Barbara(加州大学圣巴巴拉分校);Google Research(谷歌研究院)
在开放式问答(QA)中,通过检索并分析可能包含问题答案的文档来生成问题的答案。大多数开放式QA系统只考虑从非结构化文本中检索信息。在这里,我们第一次考虑开放式问答在表格和文本数据,并提出了一个新的大规模数据集开放式表格和文本问答(OTT-QA),以评估这项任务的性能。OTT-QA中的大多数问题都需要跨表格数据和非结构化文本进行多跳推理,并且回答问题所需的证据可以以不同的方式分布在这两种类型的输入中,这使得证据检索具有挑战性-我们使用迭代检索器和基于BERT的阅读器的基线模型实现了小于10%的精确匹配分数。然后,我们提出了两种新的技术,以解决检索和聚合OTT-QA证据的挑战。第一种技术是使用“早期融合”将多个高度相关的表格和文本单元分组到融合块中,这为检索器提供了更多的上下文来搜索。第二种技术是使用跨块阅读器来模拟多个检索到的证据与全局-局部稀疏注意之间的交叉依赖性。结合这两种技术可以显著提高分数,达到27%以上。
2021-02-10 cs.AI cs.CL
Investigating Information Inconsistency in Multilingual Open-Domain Question Answering
University of Maryland, College Park(马里兰大学帕克分校)
基于检索的开放域QA系统使用检索到的文档和对检索到的文档的答案跨度选择来找到最佳答案候选者。我们假设,多语言问答(QA)系统很容易出现信息不一致,当涉及到不同语言编写的文件,因为这些文件往往提供一个模型与不同的信息相同的主题。为了理解信息的可获得性偏差和文化影响的影响,我们分析了多语言开放域问答模型的行为,重点是检索偏差。我们分析如果不同的检索模型呈现不同的段落给定相同的问题在不同的语言上的TyDi QA和XOR-TyDi QA,两个多语言QA数据集。我们推测,跨语言文档的内容差异可能反映了文化差异和/或社会偏见。
2022-05-25 cs.AI cs.CL cs.IR
K-COMP: Retrieval-Augmented Medical Domain Question Answering With Knowledge-Injected Compressor
POSTECH(POSTECH大学);GSAI;POSTECH CSE(POSTECH计算机科学与工程系)
提出K-COMP(知识注入压缩器),通过在压缩检索文档前自动生成先验知识并将其整合到自回归压缩过程中,解决医学领域检索增强问答中专业知识理解难和文档冗余导致的幻觉问题,从而引导阅读器模型生成准确答案并信任上下文。
2025-05-28 cs.AI cs.CL
Detect, Retrieve, Comprehend: A Flexible Framework for Zero-Shot Document-Level Question Answering
Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室);University of California, Merced(加州大学默塞德分校)
针对现有文档问答数据集上下文不符合真实场景的问题,提出包含PDF文本提取、证据检索、问答三阶段的DRC框架,在QASPER数据集上Answer-F1较基线提升7.19,为实用科学文献问答提供灵活方案。
2023-12-11 cs.AI cs.CL cs.LG
You Only Need One Model for Open-domain Question Answering
Samsung Research(三星研究院);Samsung Electronics(三星电子);Stanford University(斯坦福大学);Growdle Corporation(Growdle公司)
最近的开放域问答方法是指使用检索器模型的外部知识库,可选地使用单独的重排序器模型对段落进行重排序,并使用另一个读者模型生成答案。尽管执行相关任务,但模型具有单独的参数,并且在训练期间弱耦合。我们建议铸造的检索器和reranker作为内部的逐行注意力机制顺序应用在Transformer架构和饲料计算表示读者,与隐藏的表示逐步完善在每个阶段。这允许我们使用单个问答模型进行端到端训练,这是对模型容量的更有效利用,也导致了更好的梯度流。我们提出了一种预训练方法,以有效地训练这个架构,并评估我们的模型上的自然问题和TriviaQA开放数据集。对于固定的参数预算,我们的模型比以前的最先进的模型高出1.0和0.7的精确匹配分数。
2022-10-28 cs.AI cs.CL
HANRAG: Heuristic Accurate Noise-resistant Retrieval-Augmented Generation for Multi-hop Question Answering
Ant Group(蚂蚁集团)
针对多跳问答中迭代检索冗余与噪声累积问题,提出基于启发式的HANRAG框架,通过查询路由、子查询分解与噪声过滤机制,在单跳与多跳问答任务上均实现卓越性能。
2025-09-08 cs.AI cs.CL
Biomedical Entity Linking as Multiple Choice Question Answering
Jarvis Research Center, Tencent YouTu Lab(贾维斯研究中心,腾讯优图实验室)
针对生物医学实体链接中细粒度与长尾实体的挑战,提出将该任务转化为多项选择题问答的BioELQA模型,通过显式比较候选实体、拼接相似标注实例提升泛化,在多数据集上超越现有最优基线。
2024-05-17 cs.AI cs.CL cs.LG
CounterRefine: Answer-Conditioned Counterevidence Retrieval for Inference-Time Knowledge Repair in Factual Question Answering
Ryquo;App-In Club
CounterRefine通过在推理时检索特定证据并进行约束性修正,提升事实问答的准确性,实验表明其在多个基准测试中有效改进了基础模型的表现。
2026-05-16 cs.AI cs.CL
Query Symbolically or Retrieve Semantically? A Dataset and Method for Semi-Structured Question Answering
Samsung AI Warsaw(三星AI华沙实验室);Samsung AI Cambridge(三星AI剑桥实验室)
提出 DualGraph 框架,通过文本知识图谱和符号知识图谱双视图实现半结构化文档的语义检索与符号查询结合,并在 SpecsQA 基准上超越现有方法。
2026-05-26 cs.AI
ARMOR: Adaptive Retriever Optimization for Low-Resource Telecom Question Answering
Rensselaer Polytechnic Institute(罗切斯特理工学院);Cornell University(康奈尔大学);Samsung Research America(三星美国研究院)
针对电信问答中证据分散且资源稀缺的问题,提出ARMOR方法,通过联合优化RAG似然和InfoNCE对比目标来适配查询编码器,在固定生成器下提升检索和答案生成性能。
2026-06-29 cs.AI cs.CL cs.IR
RJE: A Retrieval-Judgment-Exploration Framework for Efficient Knowledge Graph Question Answering with LLMs
University of Science and Technology of China(中国科学技术大学);City University of Hong Kong(香港城市大学);Deqing Alpha Innovation Institute(德清Alpha创新研究院);Hefei University of Technology(合肥工业大学)
针对现有大语言模型增强知识图谱问答方法的局限,提出RJE框架,通过检索优化推理路径、判断充分性、按需探索证据,搭配专有LLM性能超基线,小型开源LLM无需微调也能取得有竞争力的结果,且效率更高。
2025-09-25 cs.AI cs.CL
Answering Science Exam Questions Using Query Rewriting with Background Knowledge
IBM Research(IBM研究院);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Tulane University(杜兰大学)
开放域问答(QA)是人工智能和自然语言处理中的一个重要问题,它是人工智能方法和技术推广进展的领头羊。开放领域问答系统的许多进展是通过信息检索方法和语料库建设的进步实现的。在本文中,我们专注于最近推出的ARC挑战数据集,其中包含2,590个为小学科学考试编写的多项选择题。这些问题被选为当前QA系统最具挑战性的问题,并且当前最先进的性能仅略优于随机机会。我们提出了一个系统,重写一个给定的问题到查询,用于检索支持文本从一个大的语料库的科学相关的文本。我们的重写器能够结合来自ConceptNet的背景知识,并且-与在SciTail上训练的通用文本蕴涵系统一起识别检索结果中的支持-在端到端QA任务上优于几个强大的基线,尽管只接受了识别原始源问题中的基本术语的训练。我们使用一个可推广的决策方法,检索到的证据和答案候选人,以选择最佳答案。通过结合查询重写,背景知识和文本蕴涵,我们的系统能够超越ARC数据集上的几个强基线。
2019-04-06 cs.AI cs.CL
Few-Shot Complex Knowledge Base Question Answering via Meta Reinforcement Learning
Monash University(莫纳什大学);Southeast University-Monash University Joint Research Institute(东南大学-莫纳什大学联合研究院);Southeast University(东南大学)
复杂问答(CQA)涉及在知识库(KB)上回答复杂的自然语言问题。然而,当问题具有不同类型时,传统的神经程序归纳(NPI)方法表现出不均匀的性能,具有固有的不同特征,例如,难度级别。提出了一种Meta强化学习方法用于CQA中的程序归纳,以解决问题中潜在的分布偏差问题。我们的方法快速,有效地适应元学习程序员的新问题的基础上检索的最相似的问题,从训练数据。然后,元学习策略用于学习良好的编程策略,利用试验轨迹及其对支持集中类似问题的奖励。我们的方法在CQA数据集上实现了最先进的性能(Saha等人,2018年),同时在每个支持集中只使用5个试验轨迹来处理前5个检索到的问题,并对仅由1%的训练集构建的任务进行元训练。我们已经在https://github.com/DevinJake/MRL-CQA上发布了我们的代码。
2020-10-29 cs.AI cs.CL
Conv-CoA: Improving Open-domain Question Answering in Large Language Models via Conversational Chain-of-Action
Northwestern University(西北大学)
本文提出Conv-CoA框架,通过动态推理-检索机制、Hopfield检索器和对话式多参考置信度分数,解决开放域对话问答中的幻觉、推理弱和检索性能差问题,在五个方向和两个基准上超越23种最先进方法。
2024-05-28 cs.AI cs.CL
PRCA: Fitting Black-Box Large Language Models for Retrieval Question Answering via Pluggable Reward-Driven Contextual Adapter
Ping An Technology (Shenzhen) Co., Ltd., China(平安科技(深圳)有限公司);New York University(纽约大学);University of Maryland(马里兰大学)
本文提出可插拔奖励驱动上下文适配器PRCA,以黑盒方式将大语言模型适配到检索式问答框架中,通过强化学习精炼检索信息,在三个数据集上实现最高20%的性能提升。
2023-10-23 cs.CL
A Learn-Then-Reason Model Towards Generalization in Knowledge Base Question Answering
Renmin University of China(中国人民大学);Zhongguancun Laboratory(中关村实验室)
针对现有知识库问答模型泛化受限的问题,本文提出遵循先学习后推理框架的KBLLaMA,将知识库知识注入大语言模型,在多个基准上取得了优于基线的性能。
2024-06-20 cs.AI cs.CL
Retrieve-Plan-Generation: An Iterative Planning and Answering Framework for Knowledge-Intensive LLM Generation
University of Science and Technology of China(中国科学技术大学);Anhui Conch Information Technology Engineering Co., Ltd.(安徽海螺信息技术工程有限责任公司)
针对大语言模型知识不足易出错、现有RAG方法易受无关检索内容干扰的问题,提出迭代式检索-规划-生成RPG框架,通过多任务提示调优让模型交替规划与基于相关细粒度段落生成,在5项知识密集型任务上验证了有效性。
2024-10-08 cs.CL
Detrimental Contexts in Open-Domain Question Answering
KAIST AI(韩国科学技术院人工智能学院)
本文分析了开放域问答中过多检索段落对 retrieve-then-read 架构的负面影响,发现过滤有害段落可在两个数据集上提升10%准确率,并讨论了识别有害段落的挑战。
2023-10-27 cs.AI cs.CL
KGFR: A Foundation Retriever for Generalized Knowledge Graph Question Answering
School of Computer Science, Nanjing University of Information Science and Technology(南京信息工程大学计算机科学学院);State Key Laboratory for Novel Software Technology, Nanjing University(南京大学软件新技术国家重点实验室);National Institute of Healthcare Data Science, Nanjing University(南京大学健康数据科学国家研究院);Engineering Research Center of Digital Forensics, Ministry of Education, Nanjing University of Information Science and Technology(南京信息工程大学教育部长江数字取证工程研究中心)
本文提出LLM-KGFR协作框架,通过KGFR结合LLM与结构化检索能力,实现对未见过KG的零样本泛化,采用APP高效处理大型图谱,形成可控推理循环,在KG问答任务中兼具高性能、可扩展性与泛化性。
2026-09-02 cs.AI
Knowledge Guided Text Retrieval and Reading for Open Domain Question Answering
University of Washington(华盛顿大学);Princeton University(普林斯顿大学);Facebook AI Research(Facebook人工智能研究院);Allen Institute for AI(艾伦人工智能研究所)
我们介绍了一种方法,开放域的问答(QA)检索和阅读的通道图,其中顶点是文本和边缘的通道表示的关系,来自外部的知识库或同现在同一篇文章。我们的目标是通过使用知识引导的检索来找到比文本匹配方法更相关的段落,以提高覆盖率,并通过允许更好的知识引导融合相关段落的信息来提高准确性。我们的图检索方法扩展了一组种子关键字检索通道通过遍历知识库的图结构。我们的阅读器扩展了基于BERT的架构,并通过传播相关段落及其关系的信息来更新段落表示,而不是孤立地阅读每个段落。在三个开放域QA数据集(WebQuestions,Natural Questions和TriviaQA)上的实验显示,与非图形基线相比,性能绝对提高了2-11%。我们的方法在每种情况下都达到或超过了最先进的水平,而无需使用昂贵的端到端培训制度。
2020-04-13 cs.AI cs.CL
Improving Commonsense Question Answering by Graph-based Iterative Retrieval over Multiple Knowledge Sources
Zhejiang University(浙江大学);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院)
为了促进自然语言理解,关键是要使用常识或背景知识。然而,如何在问答系统中有效地使用常识仍然在学术界和工业界的探索中。在本文中,我们提出了一种新的问答方法,通过集成多个知识源,即ConceptNet,维基百科和剑桥词典,以提高性能。更具体地说,我们首先介绍了一种新的基于图的迭代知识检索模块,它迭代地检索概念和实体相关的给定的问题,它的选择从多个知识源。之后,我们使用预先训练的语言模型来编码问题,检索知识和选择,并提出一个答案选择感知的注意力机制来融合前面模块的所有隐藏表示。最后,针对特定任务的线性分类器被用来预测答案。在CommonsenseQA数据集上的实验结果表明,该方法的性能明显优于其他竞争方法,达到了新的水平。此外,进一步的消融研究表明,基于图的迭代知识检索模块和答案选择感知注意模块在从多个知识源中检索和合成背景知识方面是有效的。
2020-11-05 cs.AI cs.CL
Improving Zero-shot Reader by Reducing Distractions from Irrelevant Documents in Open-Domain Question Answering
Korea Advanced Institute of Science and Technology(韩国科学技术院)
本研究提出干扰感知答案选择(DAS)方法,通过否定指令和分数调整减少不相关文档干扰,提升开放域问答中零样本阅读器的性能,并展现无需训练的强迁移能力。
2023-11-14 cs.AI cs.CL
Open Domain Question Answering with A Unified Knowledge Interface
Carnegie Mellon University(卡内基梅隆大学);Microsoft Research(微软研究院)
检索者-读者框架因其使用显式知识的能力而在开放域问答(ODQA)中很受欢迎。虽然先前的工作已经试图通过将结构化的知识超越文本来增加知识覆盖面,但是通过统一的接口访问异构的知识源仍然是一个悬而未决的问题。虽然数据到文本生成有可能作为数据和文本的通用接口,但其下游任务的可行性在很大程度上仍然未知。在这项工作中,我们弥合了这一差距,并使用数据到文本的方法作为一种手段编码结构化知识ODQA。具体来说,我们提出了一个verbalizer-retriever-reader框架ODQA的数据和文本,其中来自维基百科的文字化表格和来自维基数据的图形被用作增强的知识源。我们表明,我们的统一数据和文本QA,UDT-QA,可以有效地受益于扩展的知识索引,从而大大超过纯文本基线。值得注意的是,我们的方法在自然问题上设置了最先进的单一模型。此外,我们的分析表明,言语化的知识是首选的答案推理适应和热插拔设置。
2022-03-19 cs.AI cs.CL
Iterative Hierarchical Attention for Answering Complex Questions over Long Documents
Carnegie Mellon University(卡内基梅隆大学);Google Research(谷歌研究院)
我们提出了一个新的模型,DocHopper,迭代地出席不同部分的长,层次结构的文档来回答复杂的问题。类似于多跳问答(QA)系统,在每一步,DocHopper使用查询$q$来处理来自文档的信息,将此"检索“信息与$q$组合以产生下一个查询。然而,与大多数以前的多跳QA系统相比,DocHopper能够“检索”文档的短段落或长部分,从而模拟通过长文档“导航”的多步骤过程来回答问题。为了实现这种新颖的行为,DocHopper并没有通过将文本连接到$q$的文本来将文档信息与$q$结合起来,而是通过将$q$的紧凑神经表示与文档的分层部分的紧凑神经表示结合起来,这可能非常大。我们在四个不同的QA任务上使用DocHopper进行了实验,这些任务需要阅读长而复杂的文档来回答多跳问题,并表明DocHopper在三个数据集上实现了最先进的结果。此外,DocHopper在推理时间上是有效的,比基线快3- 10倍。
2021-10-22 cs.AI cs.CL
Open Domain Question Answering with Conflicting Contexts
AWS AI Labs(AWS人工智能实验室);University of Pennsylvania(宾夕法尼亚大学)
针对开放域问答中检索到的冲突信息问题,研究构建了人工标注数据集 QACC,发现 25% 的无歧义问题会引发冲突上下文,并提出通过微调大语言模型解释答案来引导其在冲突上下文中进行推理。
2025-04-28 cs.AI cs.CL
Passage-Mask: A Learnable Regularization Strategy for Retriever-Reader Models
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
检索者-阅读者模型在许多不同的NLP任务中实现了有竞争力的性能,例如开放式问答和对话。在这项工作中,我们注意到这些模型很容易过拟合的顶级检索通道和标准的训练未能在整个检索通道的原因。我们引入了一个可学习的通道掩模机制,该机制降低了顶级检索通道的影响,并防止模型过拟合。我们的可学习正则化策略使用较少的掩码候选项控制梯度方差,并使用一次性双层优化选择掩码候选项,从而强制答案生成集中于整个检索通道。在开放式问答、对话和事实验证等不同任务上的实验表明,我们的方法始终优于其基线。大量的实验和消融研究表明,我们的方法可以通用,有效,并有利于许多NLP任务。
2022-11-03 cs.AI cs.CL cs.LG
Don't Read Too Much into It: Adaptive Computation for Open-Domain Question Answering
University College London(伦敦大学学院)
开放域问答的大多数方法由一个轻量级检索器和一个计算量大的阅读器组成,前者选择一组候选段落,后者检查段落以识别正确答案。以前的研究表明,随着检索到的段落数量的增加,读者的表现也会增加。然而,它们假设所有检索到的段落都具有相同的重要性,并为它们分配相同的计算量,从而导致计算成本的大幅增加。为了减少这种成本,我们建议使用自适应计算来控制分配给要阅读的段落的计算预算。我们首先介绍了一种技术,它依赖于随时预测和每层估计的早期退出概率的单独通道上运行。然后,我们介绍SkylineBuilder,一种基于通过强化学习训练的资源分配策略,动态决定在每一步分配计算的方法。我们在SQuAD-Open上的结果表明,具有全局优先级的自适应计算比几种强大的静态和自适应方法有所改进,计算量减少了4.3倍,同时保留了完整模型的95%性能。
2020-11-10 cs.AI cs.CL cs.LG
Joint Multi-Facts Reasoning Network For Complex Temporal Question Answering Over Knowledge Graph
Huazhong University of Science and Technology(华中科技大学);Beijing Institute of Technology(北京理工大学)
本文提出联合多事实推理网络(JMFRN),通过检索多时序事实并利用实体感知与时间感知注意力模块进行联合推理,有效解决了知识图谱上的复杂时序问答问题。
2024-01-04 cs.AI cs.CL
Learning to Reason for Multi-Step Retrieval of Personal Context in Personalized Question Answering
University of Washington(华盛顿大学);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
PR2通过强化学习框架结合推理与检索,提升个性化问答的准确性和用户特定偏好对齐度。
2026-02-22 cs.AI cs.CL cs.IR
Improving Health Question Answering with Reliable and Time-Aware Evidence Retrieval
Technical University of Munich(慕尼黑工业大学)
针对现有健康问答系统依赖预标注证据、难以应对新问题的局限,研究基于PubMed和检索-阅读流水线,通过优化检索文档数量、时效与引用指标,将宏F1分数最高提升10%,并指出未来研究方向。
2024-04-12 cs.AI cs.CL cs.IR
Knowledge-Driven CoT: Exploring Faithful Reasoning in LLMs for Knowledge-intensive Question Answering
Sino-French Engineering School, Beihang University(北京航空航天大学中法工程师学院);School of Computer Science and Engineering, Beihang University(北京航空航天大学计算机科学与工程学院);Meituan Inc.(美团公司)
针对大语言模型在知识密集型问答中推理不忠实的问题,本文提出知识驱动思维链框架 KD-CoT,通过多轮外部知识交互验证修正推理轨迹,并利用反馈增强检索器,在 KBQA 任务上显著提升了推理成功率和知识检索性能。
2023-10-28 cs.AI cs.CL
Contri(e)ve: Context + Retrieve for Scholarly Question Answering
University of Wuppertal(伍珀塔尔大学);University of Applied Sciences Erfurt(埃尔福特应用科学大学)
针对学术领域混合结构化与非结构化知识的问答需求,提出基于Llama3.1的两步方案,从多源数据提取上下文并结合提示工程,在Scholarly-QALD数据集上取得40%的F1分数。
2024-09-13 cs.AI cs.IR
keqing: knowledge-based question answering is a nature chain-of-thought mentor of LLM
National Key Laboratory of Radar Signal Processing(雷达信号处理国家重点实验室);Xidian University(西安电子科技大学);School of Computer Science and Engineering(计算机科学与工程学院);Nanyang Technological University(南洋理工大学)
本文提出Keqing框架,通过知识图谱检索和思维链引导,将复杂问题分解为子问题并推理答案,显著提升了LLM回答的可靠性和可解释性。
2023-12-31 cs.AI cs.CL
An Analysis of Decoding Methods for LLM-based Agents for Faithful Multi-Hop Question Answering
University of Edinburgh(爱丁堡大学)
本文系统分析了ReAct框架与DeCoRe、DoLa、CAD等解码策略的结合对LLM多跳问答忠实度的影响,发现该方法显著提升了下游任务的准确性。
2025-03-30 cs.AI cs.CL
CO-Search: COVID-19 Information Retrieval with Semantic Search, Question Answering, and Abstractive Summarization
Salesforce Research(赛富时研究院)
2019冠状病毒病全球大流行促使国际社会努力了解、跟踪和减轻这种疾病,产生了跨科学学科的2019冠状病毒病和SARS-CoV-2相关出版物的重要语料库。截至2020年5月,已通过COVID-19开放研究数据集挑战收集了128,000篇与冠状病毒相关的出版物。在这里,我们介绍了CO-Search,这是一个检索器-排名器语义搜索引擎,旨在处理对COVID-19文献的复杂查询,可能有助于负担过重的卫生工作者在危机时期找到科学答案。检索器是建立从Siamese-BERT编码器,是线性组成的TF-IDF矢量化,和倒数秩融合的BM 25矢量化。该排名器是由一个多跳问答模块,连同多段摘要摘要调整检索分数。为了解决特定领域和相对有限的数据集,我们生成了文档段落和引用的二分图,创建了130万个(引用标题,段落)元组用于训练编码器。我们根据TREC-COVID信息检索挑战的数据评估了我们的系统。CO-Search在第一轮和第二轮的数据集上获得了最佳性能,包括几个关键指标:归一化折扣累积增益、精度、平均精度和二进制偏好。
2020-06-17 cs.AI cs.CL cs.IR
Beyond Prompting: An Efficient Embedding Framework for Open-Domain Question Answering
King’s College London(伦敦国王学院);The Alan Turing Institute(艾伦·图灵研究所)
本文提出嵌入级框架EmbQA,通过无监督对比学习细化查询表示并引入探索性嵌入与熵选择机制,在提升开放域问答准确性的同时显著降低计算开销。
2025-09-20 cs.AI cs.CL cs.CY
Autofocus Retrieval: An Effective Pipeline for Multi-Hop Question Answering With Semi-Structured Knowledge
Institute of Computer Science(计算机科学研究所);Johannes Gutenberg University Mainz(美因茨约翰内斯·古腾堡大学)
本文提出Autofocus-Retriever框架,通过结合结构和文本检索方法,在三个STaRK问答基准测试中取得最佳零样本和一次样本结果,其性能由四个约束驱动检索步骤和四个补充处理步骤驱动。
2026-05-14 cs.AI cs.CL cs.IR
CARA: Causally Guided Retrieval Agent for Question Answering
University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校)
提出无需训练的因果引导检索智能体CARA,通过结果性与必要性评估因果相关性,在STaRK数据集上优于现有检索器,提升问答效果且减少检索资源消耗。
2026-10-16 cs.AI cs.IR
ViSAR: Training-Free Adaptive-$k$ Retrieval for Visual Document Question Answering
INSA Lyon(里昂国立应用科学学院);CNRS(法国国家科学研究中心);EPITA Research Laboratory (LRE)(EPITA研究实验室);Lowit(洛维特公司);LIRIS UMR 5205(里昂信息、图像与智能系统实验室)
ViSAR是一种无需训练的自适应k检索方法,用于视觉文档问答,可动态确定检索页面数量,降低RAG延迟最高58.7%,同时保持或提升答案准确性。
2026-09-04 cs.AI cs.CL cs.CV
Topology of Reasoning: Retrieved Cell Complex-Augmented Generation for Textual Graph Question Answering
Academy of Advanced Interdisciplinary Studies, Chongqing University of Posts and Telecommunications(重庆邮电大学先进交叉学科研究院);School of Computer Science and Technology, Chongqing University of Posts and Telecommunications(重庆邮电大学计算机科学与技术学院);Intelligent System Department, Zhongxing Telecom Equipment (ZTE)(中兴电信设备智能系统部)
本文提出TopoRAG,通过将文本图提升为细胞复杂度,捕捉高维拓扑依赖,提升文本图问题回答的推理能力。
2026-02-22 cs.AI
RuleRAG: Rule-Guided Retrieval-Augmented Generation with Language Models for Question Answering
National University of Defense Technology(国防科技大学);International Digital Economy Academy(国际数字经济学院);University of Oxford(牛津大学)
针对RAG问答缺乏检索与推理引导的问题,提出RuleRAG,通过规则统一指导检索和生成,并构建RuleQA基准,实验显示检索与准确率大幅提升且具有泛化性。
2025-02-16 cs.AI cs.CL cs.IR
Beyond Independent Passages: Adaptive Passage Combination Retrieval for Retrieval Augmented Open-Domain Question Answering
National Taiwan University(国立台湾大学);Amazon Search(亚马逊搜索);University College London(伦敦大学学院)
本文提出自适应段落组合检索框架AdaPCR,通过将段落组合作为检索与重排序单元来建模段落间依赖,并结合上下文感知查询改写和答案似然对齐的重排序训练,在无需停止模块的情况下自适应选择段落数量,从而在开放域问答尤其是多跳推理中优于基线方法。
2025-07-05 cs.AI cs.CL cs.LG