Biomedical Question Answering via Weighted Neural Network Passage Retrieval
ETH Zurich(苏黎世联邦理工学院)
近年来,可公开获得的生物医学文献的数量一直在快速增长,然而问答系统仍在努力开发这种数据源的全部潜力。在初步处理步骤中,许多问答系统依赖于检索模型来识别相关文档和段落。提出了一种基于神经网络词嵌入的加权余弦距离检索方案。我们的实验基于BioASQ生物医学问答挑战赛的公开数据和任务,并在各种最先进的模型中表现出显着的性能提升。
2018-01-09 cs.AI cs.CL cs.IR
Silver Retriever: Advancing Neural Passage Retrieval for Polish Question Answering
Polish Academy of Sciences(波兰科学院)
本文提出面向波兰语的神经段落检索模型 Silver Retriever,在多样化标注数据上训练,性能显著优于现有波兰语模型,并开源五个新数据集。
2024-02-22 cs.CL cs.IR
Multi-Hop Paragraph Retrieval for Open-Domain Question Answering
Technion – Israel Institute of Technology(以色列理工学院)
本文研究了多跳开放域问答系统。这项任务特别具有挑战性,因为它需要同时执行文本推理和高效搜索。我们提出了一种方法来检索多个支持段落,嵌套在一个大的知识库,其中包含必要的证据来回答一个给定的问题。我们的方法通过形成问题和段落的联合向量表示来迭代检索支持段落。通过考虑知识源中的段落的上下文化的段落级表示来执行检索。我们的方法在两个著名的数据集SQuAD-Open和HotpotQA上实现了最先进的性能,这两个数据集分别作为我们的单跳和多跳开放域QA基准。
2019-06-15 cs.CL cs.IR
Unsupervised Alignment-based Iterative Evidence Retrieval for Multi-hop Question Answering
University of Arizona(亚利桑那大学)
证据检索是问答(QA)的关键阶段,不仅是提高性能所必需的,而且是解释相应QA方法的决策所必需的。我们介绍了一种简单,快速,无监督的迭代证据检索方法,它依赖于三个想法:(a)仅使用GloVe嵌入来软对齐问题和答案与理由句子的无监督对齐方法,(b)重新制定关注现有理由未覆盖的术语的查询的迭代过程,其中(c)当给定问题和候选答案中的词语被检索到的理由覆盖时终止检索的停止准则。尽管它很简单,但我们的方法在两个数据集上的证据选择任务上优于所有以前的方法(包括监督方法):MultiRC和QASC。当这些证据句子被输入到RoBERTa答案分类组件中时,我们在这两个数据集上实现了最先进的QA性能。
2020-05-04 cs.CL cs.IR
Decomposing Retrieval Failures in RAG for Long-Document Financial Question Answering
本文针对长文档金融问答中的检索失败问题,提出一种基于页面的分层检索方法,通过微调双编码器提升页面和片段的检索效果。
2026-02-20 cs.CL cs.IR
Evaluating the Retrieval Component in LLM-Based Question Answering Systems
Thomson Reuters AI Labs(汤森路透人工智能实验室)
本文提出一种用于评估RAG聊天机器人中检索组件的直接基线方法,证明其比传统指标更贴合问答系统整体表现,并考虑了大语言模型忽略无关上下文及产生幻觉的特点。
2024-06-10 cs.CL cs.IR
Open-Retrieval Conversational Question Answering
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);Ant Financial(蚂蚁金融);Alibaba Group(阿里巴巴集团)
对话式检索是信息检索的最终目标之一。最近的研究方法会话搜索的简化设置的响应排名和会话的问答,其中答案是从一个给定的候选集选择或从一个给定的通道提取。这些简化忽略了检索在会话搜索中的基本作用。为了解决这一限制,我们引入了一个开放检索会话式问答(ORConvQA)设置,在那里我们学习从一个大的集合中检索证据,然后提取答案,作为构建功能会话搜索系统的进一步步骤。我们创建了一个数据集OR-QuAC,以促进对ORConvQA的研究。我们为ORConvQA构建了一个端到端的系统,其中包括一个检索器、一个重排序器和一个读取器,这些都是基于Transformers的。我们在OR-QuAC上的大量实验表明,可学习的检索器对ORConvQA至关重要。我们进一步表明,当我们在所有系统组件中启用历史建模时,我们的系统可以做出实质性的改进。此外,我们表明,reranker组件有助于通过提供正则化效果的模型性能。最后,进行了进一步的深入分析,以提供新的见解ORConvQA。
2020-05-22 cs.CL cs.IR
On the Impact of Speech Recognition Errors in Passage Retrieval for Spoken Question Answering
University of Amsterdam(阿姆斯特丹大学);Amazon Alexa AI(亚马逊Alexa人工智能部门)
与语音接口交互以查询问答(QA)系统正变得越来越流行。通常,QA系统依赖于段落检索来选择候选上下文,并依赖于阅读理解来提取最终答案。虽然已经有一些注意力,以提高阅读理解部分的QA系统对错误的自动语音识别(ASR)模型介绍,段落检索部分仍然是未开发的。然而,这样的错误会影响段落检索的性能,导致较差的端到端性能。为了解决这一差距,我们增加了两个现有的大规模通道排名和开放域QA数据集与合成ASR噪声和研究词汇和密集检索器对ASR噪声的问题的鲁棒性。此外,我们还研究了数据增强技术在不同领域的可推广性;每个领域都是不同的语言方言或口音。最后,我们创建了一个新的数据集,其中包含人类用户提出的问题,并使用它们的透明度来表明,当处理自然ASR噪声而不是合成ASR噪声时,检索性能会进一步降低。
2022-09-26 cs.CL cs.IR
ColBERT Retrieval and Ensemble Response Scoring for Language Model Question Answering
本文提出基于ColBERT检索和集成响应评分的方法,提升小语言模型在电信领域问答任务中的性能,Phi-2模型达到81.9%准确率,Falcon-7B模型达到57.3%准确率。
2024-10-13 cs.CL cs.IR
UniGen: A Unified Generative Framework for Retrieval and Question Answering with Large Language Models
Renmin University of China(中国人民大学)
针对现有生成式检索与问答方法模块独立、难以同步优化的问题,提出统一生成式框架UniGen,通过共享编码器、双解码器、LLM生成连接模块及迭代增强策略,在MS MARCO和NQ数据集上实现两项任务性能提升。
2023-12-18 cs.AI cs.CL cs.IR
JMLR: Joint Medical LLM and Retrieval Training for Enhancing Reasoning and Professional Question Answering Capability
Manning College of Information and Computer Sciences, University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校信息与计算机科学学院);Department of Medicine, University of Massachusetts Medical School(马萨诸塞大学医学院医学系);Miner School of Computer and Information Sciences, University of Massachusetts Lowell(马萨诸塞大学洛厄尔分校计算机与信息科学学院);Center for Healthcare Organization and Implementation Research, VA Bedford Health Care(弗吉尼亚州贝德福德医疗保健系统医疗保健组织与实施研究中心)
本文提出JMLR方法,在微调阶段联合训练大语言模型与信息检索,以增强医学问答中的推理能力并减少幻觉,实验表明JMLR-13B在准确率和训练效率上均优于多个基线模型。
2024-06-28 cs.CL cs.IR
RocketQA: An Optimized Training Approach to Dense Passage Retrieval for Open-Domain Question Answering
Baidu Inc.(百度公司);Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学高瓴人工智能学院)
在开放领域的问答中,密集段落检索已经成为一种新的检索相关段落以寻找答案的范式。通常,采用双编码器架构来学习问题和段落的密集表示以进行语义匹配。然而,由于训练和推理之间的不一致、未标记的肯定的存在以及有限的训练数据等挑战,难以有效地训练双编码器。为了解决这些挑战,我们提出了一种优化的训练方法,称为RocketQA,以提高密集通道检索。我们在RocketQA中做出了三大技术贡献,即跨批次底片、去噪硬底片和数据增强。实验结果表明,RocketQA在MSMARCO和Natural Questions上的性能明显优于以前的最先进的模型。我们还进行了广泛的实验,以检查在RocketQA的三个策略的有效性。此外,我们证明了端到端的QA的性能可以提高我们的RocketQA检索器的基础上。
2021-05-12 cs.CL cs.IR
Answer Interaction in Non-factoid Question Answering Systems
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);RMIT University(皇家墨尔本理工大学);Rutgers University(罗格斯大学)
信息检索系统正从文献检索发展到答案检索。Web搜索日志提供了大量关于人们如何与排名的文档列表交互的数据,但对与答案文本的交互知之甚少。在本文中,我们使用Amazon Mechanical Turk来研究非事实问答设置中的三种答案呈现和交互方法。我们发现,人们对好的和坏的答案的感知和反应非常不同,并且可以相对快速地识别好的答案。我们的研究结果为进一步研究有效的回答交互和反馈方法提供了基础。
2019-01-15 cs.CL cs.IR
A Multi-Resolution Word Embedding for Document Retrieval from Large Unstructured Knowledge Bases
University of Arkansas(阿肯色大学);Google LLC.(谷歌有限责任公司)
深度语言模型学习分层表示被证明是自然语言处理、文本挖掘和信息检索的强大工具。然而,表现良好的检索表示必须捕捉不同层次的抽象或上下文范围的语义含义。在本文中,我们提出了一种新的方法来产生多分辨率的词嵌入,表示在多个分辨率的上下文范围的文件。为了研究其性能,我们使用斯坦福问答数据集(SQuAD)和问答搜索和阅读(QUASAR)在一个开放域的问答设置,其中的第一个任务是找到有用的文件来回答给定的问题。为此,我们首先比较了各种文本嵌入方法的检索性能的质量,并给出了广泛的经验比较与各种非增强的基础嵌入的性能,并没有多分辨率表示。我们认为,多分辨率词嵌入始终优于原始的对应物,并且专门为检索目的训练的深度残差神经模型在用于增强这些嵌入时可以产生进一步的显着收益。
2019-05-22 cs.CL cs.IR
A Question Answering Dataset for Temporal-Sensitive Retrieval-Augmented Generation
Laboratory for Big Data and Decision, National University of Defense Technology, Changsha, China(大数据与决策实验室,国防科技大学,长沙,中国);Baidu Inc., Beijing, China(百度公司,北京,中国);Department of Computer Science and Technology, Harbin Institute of Technology (Shenzhen), Shenzhen, China(计算机科学与技术系,哈尔滨工业大学(深圳),深圳,中国)
本文提出ChronoQA,一个基于30余万篇新闻构建的中文时间推理问答基准,覆盖绝对、聚合和相对时间类型及单/多文档场景,用于系统评估和推进时间敏感型RAG系统。
2025-08-17 cs.CL cs.IR
MRNN: A Multi-Resolution Neural Network with Duplex Attention for Document Retrieval in the Context of Question Answering
University of Arkansas Little Rock(阿肯色大学小石城分校)
自组织检索(问答环境中的文档检索)的主要目标是找到满足自然语言查询中发布的信息需求的相关文档。它需要对查询和语料库中的所有文档有很好的理解,这是困难的,因为自然语言文本的含义取决于上下文、语法和语义。最近,深度神经网络已经被用于响应于查询对搜索结果进行排名。在本文中,我们设计了一个多分辨率神经网络(MRNN),利用整个层次的表示文档检索。MRNN模型能够从学习到的层次表示的所有层中获得一个集成了不同抽象层次的表示,并且设计了一个双重注意组件来改进多分辨率表示,从而确定查询和文档匹配的最佳上下文.更具体地,第一注意力机制根据所学习的查询和文档的多分辨率表示来确定最佳上下文。后一种注意力机制旨在微调表示,使得查询和相关文档更接近。实证研究表明,MRNN与双重注意力是显着优于现有的模型用于ad-hoc检索基准数据集,包括SQuAD,WikiQA,QUASAR,TrecQA。
2019-11-03 cs.CL cs.IR
Passage Segmentation of Documents for Extractive Question Answering
Ecole Polytechnique(巴黎综合理工学院);BNP Paribas CIB(法国巴黎银行企业与投资银行);Paris Elite Institute of Technology, Shanghai Jiao Tong University(上海交通大学巴黎卓越工程师学院)
针对RAG流程中分块环节受关注不足的问题,提出多粒度分块框架LGMGC,实验证明其可提升检索及端到端RAG性能。
2025-01-17 cs.CL cs.IR
Development of Yes/No Arabic Question Answering System
问答系统的开发一直是一个重要的研究课题,因为它需要从各种学科的见解,包括人工智能,信息检索,信息抽取,自然语言处理,心理学。本文中,我们实现了一个轻量级的语义为基础的开放领域是/否阿拉伯语问答系统的形式化模型的基础上,段落检索可变长度。我们提出了一个约束的语义表示。使用基于语义相似性和查询扩展同义词和反义词的显式统一框架。这经常提高系统的精度。采用段落检索系统通过检索更多包含问题的相关答案的段落来实现更好的精度;它显著减少了系统要处理的文本量。
2013-02-22 cs.CL cs.IR
Text-based Question Answering from Information Retrieval and Deep Neural Network Perspectives: A Survey
Amirkabir University of Technology (Tehran Polytechnic)(阿米尔卡比尔理工大学(德黑兰理工大学))
基于文本的问答(QA)是一项具有挑战性的任务,旨在为用户的问题找到简短具体的答案。这条研究线已经被广泛研究了信息检索技术,并在近年来通过考虑深度神经网络方法而受到越来越多的关注。深度学习方法是本文的重点,它提供了一种强大的技术来学习问题和文本之间的多层表示和交互。在本文中,我们提供了一个全面的概述不同的模型提出的QA任务,包括传统的信息检索的角度来看,和最近的深度神经网络的角度来看。我们还介绍了众所周知的数据集的任务,并提出了现有的结果,从文献中有不同的技术之间的比较。
2020-05-27 cs.CL cs.IR cs.LG
AccurateRAG: A Framework for Building Accurate Retrieval-Augmented Question-Answering Applications
Qualcomm AI Research(高通人工智能研究)
AccurateRAG通过高效流程和本地构建能力,在问答任务中实现更高性能和新状态的SOTA表现。
2026-03-03 cs.CL
PRISM: Agentic Retrieval with LLMs for Multi-Hop Question Answering
Department of Computing Science University of Alberta(计算科学系阿尔伯塔大学)
本研究提出PRISM智能体检索框架,通过三个专门LLM智能体迭代交互优化多跳问答的证据检索,在四个基准上性能优于强基线,减少无关信息并提升下游QA模型表现。
2026-08-31 cs.AI cs.CL cs.IR
Improving Retrieval-Based Question Answering with Deep Inference Models
University Politehnica of Bucharest(布加勒斯特理工大学)
问答是信息检索和自然语言处理的边缘领域中最重要也是最困难的应用之一,尤其是当我们谈论需要某种形式的推理来确定正确答案的复杂科学问题时。在本文中,我们提出了一种两步方法,该方法将针对问答优化的信息检索技术与用于自然语言推理的深度学习模型相结合,以解决科学领域中的多选择问答。对于每个问题-答案对,我们使用标准的基于检索的模型来找到相关的候选上下文,并将主要问题分解为两个不同的子问题。首先,使用Lucene的检索模型,根据上下文为每个候选答案分配正确性分数。其次,我们使用深度学习架构来计算候选答案是否可以从一些精心选择的上下文中推断出来,这些上下文由从知识库中检索到的句子组成。最后,所有这些求解器结合使用一个简单的神经网络来预测正确的答案。这个建议的两步模型比最好的基于检索的求解器的绝对精度超过3%。
2019-05-06 cs.CL
Multi-step Entity-centric Information Retrieval for Multi-Hop Question Answering
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);IBM Research(IBM研究院);Google Research(谷歌研究院)
多跳问答(QA)需要一个信息检索(IR)系统,该系统可以找到回答问题所需的支持证据\emph{multiple},这使得检索过程非常具有挑战性。本文介绍了一种IR技术,它使用的信息实体存在于最初检索的证据,学习“\emph{hop}”到其他相关的证据。在设置中,超过\textbf{5 million}维基百科的段落,我们的方法导致检索性能显着提高。检索到的证据还提高了现有QA模型(未经任何培训)在\textbf{10.59} F1的\hotpot基准测试中的性能。
2019-09-17 cs.CL
Enhancing Question Answering Precision with Optimized Vector Retrieval and Instructions
Drexel University(德雷塞尔大学)
本文提出一种结合优化向量检索与指令方法的两阶段框架,通过无重叠小分块(100)实现最佳问答精度,超越语义分割方法。
2024-11-01 cs.CL cs.IR cs.LG
Retrieval Augmented Visual Question Answering with Outside Knowledge
University of Cambridge(剑桥大学)
外部知识视觉问答(OK-VQA)是一个具有挑战性的VQA任务,需要检索外部知识来回答有关图像的问题。最近的OK-VQA系统使用密集段落检索(DPR)从外部知识库(如维基百科)检索文档,但DPR与答案生成分开训练,对整体系统性能带来了潜在的限制。相反,我们提出了一个联合训练方案,其中包括微分DPR与答案生成集成,使系统可以在一个端到端的方式进行训练。我们的实验表明,我们的计划优于最近的OK-VQA系统具有强大的DPR检索。我们还引入了新的诊断指标来分析检索和生成如何相互作用。我们的模型的强大检索能力显着减少了训练所需的检索文档的数量,在训练所需的答案质量和计算方面产生了显着的好处。
2022-10-29 cs.CL
Question Answering from Unstructured Text by Retrieval and Comprehension
Sony Corporation(索尼公司);Carnegie Mellon University(卡内基梅隆大学)
开放域问答(QA)系统必须与外部知识源(例如网页)交互以查找相关信息。然而,像维基百科这样的信息源与知识库(KBs)相比结构不好并且难以利用。在这项工作中,我们提出了一个两步的方法来从非结构化文本的问答,包括检索步骤和理解步骤。对于理解,我们提出了一个基于RNN的注意力模型,该模型具有一种新的混合机制,用于从检索到的文章或固定词汇中选择答案。为了检索,我们引入了一个手工制作的模型和一个神经模型来对相关文章进行排名。我们在W IKI M OVIES数据集上实现了最先进的性能,将误差降低了40%。我们的实验结果进一步证明了每个引入的组件的重要性。
2017-03-26 cs.CL
Dense Passage Retrieval for Open-Domain Question Answering
Facebook AI(脸书人工智能研究院);University of Washington(华盛顿大学);Princeton University(普林斯顿大学)
开放域问答依赖于有效的段落检索来选择候选上下文,传统的稀疏向量空间模型,如TF-IDF或BM 25,是事实上的方法。在这项工作中,我们表明,检索实际上可以单独使用密集表示,其中嵌入是通过一个简单的双编码器框架从少量的问题和段落中学习。当在广泛的开放域QA数据集上进行评估时,我们的密集检索器在前20个段落检索准确率方面的绝对性能大大超过强大的Lucene-BM 25系统9%-19%,并帮助我们的端到端QA系统在多个开放域QA基准上建立新的最先进水平。
2020-09-30 cs.CL
SPARTA: Efficient Open-Domain Question Answering via Sparse Transformer Matching Retrieval
SOCO Inc(索科公司);Carnegie Mellon University(卡内基梅隆大学)
我们介绍了SPARTA,一种新的神经检索方法,表现出很大的承诺,在性能,泛化和解释性的开放域问答。与许多使用密集向量最近邻搜索的神经排名方法不同,SPARTA学习了一种稀疏表示,可以有效地实现为倒排索引。由此产生的表示使可扩展的神经检索,不需要昂贵的近似向量搜索,并导致更好的性能比其密集的对应。我们在4个开放域问答(OpenQA)任务和11个检索问答(ReQA)任务上验证了我们的方法。SPARTA实现了新的国家的最先进的结果,在各种开放领域的问答任务在英语和中文数据集,包括开放SQuAD,自然问题,CMRC等分析也证实,所提出的方法创建人类可解释的表示,并允许灵活控制性能和效率之间的权衡。
2020-09-28 cs.CL cs.LG
Enhanced vectors for top-k document retrieval in Question Answering
现代应用程序,特别是涉及“搜索”作为其用例的信息检索网络应用程序,正逐渐向“应答”模块移动。会话式聊天机器人已被证明对用户更具吸引力,使用问答作为其核心。由于精确的回答在计算上是昂贵的,因此已经开发了几种方法来从包含答案的数据库中预取最相关的文档/段落。我们提出了一种不同的方法,可以高效、准确地检索证据文档,确保不会错过给定用户查询的相关文档。我们通过为每个文档(或本文中的段落)分配一个唯一的标识符,并使用它们来创建可以有效索引的密集向量。更准确地说,我们使用标识符来预测与段落对应的相关问题的随机采样的上下文窗口单词以及段落本身的单词。这自然地将通道标识符嵌入到向量空间中,使得嵌入更接近问题而不损害信息内容。这种方法可以在约4毫秒内高效地创建实时查询向量。
2022-10-08 cs.CL cs.IR cs.LG
Better Retrieval May Not Lead to Better Question Answering
The University of Arizona(亚利桑那大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
近年来,开放领域的问答(QA)问题取得了很大的进展,这些问题需要信息检索(IR)和阅读理解(RC)。一个流行的方法来提高系统的性能是提高从IR阶段检索的上下文的质量。在这项工作中,我们表明,对于StrategyQA,一个具有挑战性的开放域QA数据集,需要多跳推理,这种常见的方法是令人惊讶的无效-提高检索上下文的质量几乎没有提高系统的性能。我们进一步分析系统的行为,以确定潜在的原因。
2022-05-07 cs.CL
Hierarchical Retrieval-Augmented Generation Model with Rethink for Multi-hop Question Answering
Northeastern University(东北大学)
本文提出用于多跳问答的层次检索增强生成框架HiRAG,通过结合文档级稀疏检索与块级密集检索及单候选检索策略,并构建两个新语料库,有效解决了信息过时和准确率-数量权衡问题,在四个数据集上优于现有模型。
2024-08-20 cs.AI cs.CL cs.IR
Adaptive Document Retrieval for Deep Question Answering
ETH Zurich(苏黎世联邦理工学院)
深度问答中的现有技术系统如下进行:(1)初始文档检索选择相关文档,(2)然后由神经网络处理这些文档以便提取最终答案。然而,这两个组件之间的确切相互作用知之甚少,特别是关于应该检索的候选文档的数量。我们发现,选择一个静态的文件数量-在以前的研究中使用-遭受噪声信息权衡,并产生次优的结果。作为补救措施,我们提出了一个自适应的文档检索模型。它学习文档检索的最佳候选数量,条件是语料库和查询的大小。我们报告了大量的实验结果,表明我们的自适应方法在多个基准数据集以及不同大小的语料库中的性能优于最先进的方法。
2018-08-20 cs.CL
Direct optimization of F-measure for retrieval-based personal question answering
Amazon(亚马逊)
口语技术的最新进展和许多面向客户的产品的推出,已经引起了广泛的客户对智能个人助理的依赖,他们的许多日常任务。在本文中,我们提出了一个系统,以减少用户的认知负荷,通过扩展个人助理与长期的个人记忆,用户可以存储和检索的语音,任意的信息。该问题被框定为基于神经检索的问答系统,其中答案是从先前存储的用户记忆中选择的。我们建议使用强化学习直接优化端到端检索性能(由F1分数衡量),从而在我们的实验测试集上获得更好的性能。
2018-09-28 cs.CL cs.IR cs.LG
Towards Graph-hop Retrieval and Reasoning in Complex Question Answering over Textual Database
Institute of Automation, CAS(中国科学院自动化研究所);University of Chinese Academy of Sciences(中国科学院大学)
本文提出多链多跳检索推理新范式 Graph-Hop,构建了提供细粒度证据图的新基准 ReasonGraphQA,并提出双向图检索(BGR)基线方法,实验表明该方向有潜力但仍存局限。
2023-05-23 cs.CL
TreeRare: Syntax Tree-Guided Retrieval and Reasoning for Knowledge-Intensive Question Answering
University of Rochester(罗切斯特大学)
TreeRare通过语法树引导的检索与推理方法,提升知识密集型问答任务的性能。
2025-12-04 cs.CL
Retrieval Augmented Generation for Domain-specific Question Answering
Adobe(奥多比公司)
本文针对特定领域问答中通用大模型缺乏领域知识的问题,提出构建大型问答数据库并对检索器进行微调的检索增强生成框架,显著减少幻觉并提升生成质量。
2024-05-29 cs.AI cs.CL cs.IR
Memory-Aware and Uncertainty-Guided Retrieval for Multi-Hop Question Answering
University of Pittsburgh(匹兹堡大学);Salesforce Research(Salesforce研究院)
提出MIND框架,通过实体提取、基于熵和注意力信号的动态检索触发及记忆感知过滤,解决多跳问答中检索步骤固定和已检索知识利用不足的问题。
2025-03-29 cs.CL
Pivot Through English: Reliably Answering Multilingual Questions without Document Retrieval
University of Washington(华盛顿大学);Apple Inc.(苹果公司)
现有的开放检索问答方法在低资源语言(LRL)明显落后于英语。他们不仅遭受非英语文献检索的缺点,但依赖于特定语言的监督任务或翻译。我们制定了一个任务设置更现实的可用资源,绕过文档检索可靠地转移知识从英语到较低的资源语言。假设一个强大的英语问答模型或数据库,我们比较和分析的方法,以英语为中心:映射外国查询到英语,然后英语回答回目标语言的答案。在这个任务设置中,我们提出了重新排序的多语言最大内积搜索(RM-MIPS),类似于在英语训练集上进行重新排序的语义相似性检索,在XQuAD和MKQA上分别比最强基线高出2.7%和6.2%。分析表明,在具有挑战性的环境中,这种策略比最先进的替代方案具有特殊的功效:低资源语言,具有广泛的干扰数据和查询分布不一致。绕过检索,我们的分析表明,这种方法提供了快速的答案生成几乎任何现成的语言,而不需要任何额外的训练数据在目标语言。
2021-07-16 cs.CL
KERAG: Knowledge-Enhanced Retrieval-Augmented Generation for Advanced Question Answering
HKUST(香港科技大学);Meta Reality Labs(Meta 现实实验室);HKUST(GZ)(香港科技大学(广州))
针对传统知识图谱问答覆盖率低的问题,提出基于知识图谱的KERAG流水线,采用检索-过滤-摘要方法结合微调大模型的子图思维链推理,显著提升问答质量,性能优于现有最优方案及GPT-4o(Tool)。
2025-09-05 cs.AI cs.CL cs.IR
MRAG: A Modular Retrieval Framework for Time-Sensitive Question Answering
Nanyang Technological University(南洋理工大学);Alibaba-NTU JRI(阿里巴巴-南洋理工大学联合研究院);NYU Shanghai(上海纽约大学);Zhejiang University(浙江大学);Center for Data Science, New York University(纽约大学数据科学中心)
针对大语言模型问答系统在时间敏感问题上的推理短板,该研究提出无需训练的模块化检索框架MRAG,构建TempRAGEval基准,实验证明其检索性能和答案准确率均优于基线方法。
2025-05-21 cs.CL
Open Domain Question Answering over Tables via Dense Retrieval
Tel-Aviv University(特拉维夫大学);Google Research(谷歌研究院)
开放域QA的最新进展已经导致了基于稠密检索的强大模型,但仅专注于检索文本段落。在这项工作中,我们解决了开放域QA表的第一次,并表明检索可以提高检索器设计来处理表格上下文。我们提出了一个有效的预训练程序,我们的检索和提高检索质量与挖掘硬负。由于相关数据集缺失,我们提取了自然问题的子集(Kwiatkowski等人,2019年)到表QA数据集。我们发现,我们的检索器提高检索结果从72.0到81.1 recall@10和端到端的QA结果从33.8到37.7的精确匹配,超过一个BERT为基础的检索器。
2021-06-09 cs.CL
Retrieval-Augmented Visual Question Answering via Built-in Autoregressive Search Engines
Tsinghua University(清华大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室)
提出ReAuSE,将知识检索器集成进多模态大语言模型作为内置搜索引擎,实现生成式检索与答案生成,并通过强化校准提升性能,在OKVQA和A-OKVQA上取得2.9%-9.6%的提升。
2025-02-23 cs.CL cs.CV cs.IR
Learning to Reason for Multi-Step Retrieval of Personal Context in Personalized Question Answering
University of Washington(华盛顿大学);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
PR2通过强化学习框架结合推理与检索,提升个性化问答的准确性和用户特定偏好对齐度。
2026-02-22 cs.AI cs.CL cs.IR
MIA 2022 Shared Task: Evaluating Cross-lingual Open-Retrieval Question Answering for 16 Diverse Languages
University of Washington(华盛顿大学);Massachusetts Institute of Technology(麻省理工学院);Penn State University(宾夕法尼亚州立大学);University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Studio Ousia(Ousia工作室);RIKEN(日本理化学研究所);Google Research(谷歌研究院);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
我们介绍了多语言信息访问(MIA)2022共享任务研讨会的结果,评估了16种类型多样的语言的跨语言开放式检索问答(QA)系统。在这项任务中,我们采用了两个大规模的跨语言的开放检索QA数据集在14种不同类型的语言,和新注释的开放检索QA数据在2个代表性不足的语言:泰米尔语和泰米尔语。四个团队提交了他们的系统。利用迭代挖掘的不同负面示例和更大的预训练模型的最佳系统达到32.2 F1,比我们的基线高出4.5分。第二个最好的系统使用实体感知的上下文表示的文档检索,并取得了显着的改善,泰米尔语(20.8 F1),而大多数其他系统产生的分数几乎为零。
2022-07-02 cs.CL
Enhancing Document-Level Question Answering via Multi-Hop Retrieval-Augmented Generation with LLaMA 3
Independent Researcher(独立研究者);Cornell University(康奈尔大学);University of Southern California(南加州大学)
本文提出基于LLaMA 3的多跳检索增强生成框架,通过密集检索、上下文融合及联合优化,提升长文档问答的准确性与连贯性,实验优于现有基线。
2025-06-19 cs.CL cs.LG
Uncertainty Quantification in Retrieval Augmented Question Answering
University of Edinburgh(爱丁堡大学)
本研究提出通过估计检索段落的效用来量化检索增强QA模型的不确定性,训练轻量级模型预测效用,高效接近或超越采样方法。
2025-09-11 cs.CL
Latent Retrieval for Weakly Supervised Open Domain Question Answering
Google Research(谷歌研究院)
最近的工作开放域问答(QA)假设强有力的监督的支持证据和/或假设一个黑盒信息检索(IR)系统来检索候选证据。我们认为,这两个都是次优的,因为黄金证据并不总是可用的,QA是从根本上不同于IR。我们第一次表明,它是可以共同学习的检索器和读者从问答字符串对,没有任何IR系统。在这种情况下,从维基百科的所有证据检索被视为一个潜在的变量。由于从头开始学习是不切实际的,我们用反向完形填空任务对检索器进行了预训练。我们评估五个QA数据集的开放版本。在提问者已经知道答案的数据集上,传统的IR系统(如BM 25)就足够了。在用户真正寻求答案的数据集上,我们证明了学习检索是至关重要的,在精确匹配方面超过BM 25高达19个点。
2019-06-27 cs.CL
MARAGS: A Multi-Adapter System for Multi-Task Retrieval Augmented Generation Question Answering
Darkhive(达克海夫)
本文提出MARAGS多适配器检索增强生成系统,用于CRAG竞赛多任务问答,采用标准RAG流程与交叉编码器排序,在任务1和任务2中分别获得第二和第三名。
2024-11-04 cs.CL
Beyond Chunking: Discourse-Aware Hierarchical Retrieval for Long Document Question Answering
Institute of Computing and Intelligence, Harbin Institute of Technology (Shenzhen)(计算与智能研究院,哈尔滨工业大学(深圳));Shenzhen Loop Area Institute (SLAI)(深圳环形区研究院(SLAI))
本文提出一种篇章意识层次检索框架,利用修辞结构理论处理长文档问答,通过 discourse parsing 和 LLM 增强实现结构与语义信息的融合,实验表明在多种语言和文档类型上均取得显著提升。
2026-05-07 cs.AI cs.CL cs.IR
MultiReQA: A Cross-Domain Evaluation for Retrieval Question Answering Models
Google Research(谷歌研究院);Carnegie Mellon University(卡内基梅隆大学)
检索问答(ReQA)是从开放语料库中检索问题的检索级答案的任务(Ahmad等人,2019).本文介绍了MultiReQA,一个新的多域ReQA评估套件,由八个检索QA任务组成,这些任务来自公开的QA数据集。我们提供了第一个系统的检索为基础的评估,这些数据集使用两个监督神经模型,分别基于微调BERT和USE-QA模型,以及一个令人惊讶的强大的信息检索基线,BM 25。其中五个任务包含训练和测试数据,而三个任务仅包含测试数据。使用训练数据的五个任务的性能表明,虽然可以实现覆盖所有域的通用模型,但最佳性能通常是通过仅在域内数据上进行训练来获得的。
2020-05-05 cs.CL cs.LG
One Question Answering Model for Many Languages with Cross-lingual Dense Passage Retrieval
University of Washington(华盛顿大学);Allen Institute for AI(艾伦人工智能研究所)
我们提出了跨语言开放检索答案生成(CORA),第一个统一的多对多问答(QA)模型,可以回答问题,在许多语言,即使是没有特定语言的注释数据或知识源。我们引入了一种新的密集通道检索算法,该算法经过训练可以针对一个问题跨语言检索文档。结合多语言自回归生成模型,CORA直接回答目标语言,没有任何翻译或语言检索模块,在以前的工作。我们提出了一种迭代训练方法,可以自动将仅在高资源语言中可用的注释数据扩展到低资源语言。我们的研究结果表明,CORA在26种语言的多语言开放QA基准测试中的表现大大优于以前的最先进水平,其中9种在训练过程中是不可见的。我们的分析表明,跨语言检索和生成在许多语言,特别是在低资源设置的意义。
2021-10-28 cs.CL
Neural Retrieval for Question Answering with Cross-Attention Supervised Data Augmentation
Google Research(谷歌研究院);Google Cloud AI(谷歌云人工智能)
独立地将问题和答案投影到共享嵌入空间中的神经模型允许从大型语料库中进行有效的连续空间检索。独立地计算问题和答案的嵌入导致与匹配问题到其答案相关的信息的后期融合。虽然对于有效检索至关重要,但后期融合的性能低于利用早期融合的模型(例如,基于BERT的分类器,在问题-答案对之间具有交叉关注)。我们提出了一种监督数据采掘方法,使用一个准确的早期融合模型,以提高一个有效的后期融合检索模型的训练。我们首先训练一个准确的分类模型,问题和答案之间的交叉注意。准确的交叉注意模型然后被用来注释附加的通道,以便生成用于神经检索模型的加权训练样本。由此产生的具有额外数据的检索模型显著优于直接使用黄金注释在$N$(P@N)和平均倒数秩(MRR)的精度上训练的检索模型。
2020-09-29 cs.CL
Retrieval-Augmented Generation with Knowledge Graphs for Customer Service Question Answering
LinkedIn Corporation(领英公司)
本文提出将知识图谱与检索增强生成相结合的客服问答方法,通过保留历史工单结构信息提升检索与回答质量,在LinkedIn部署后中位解决时间缩短28.6%。
2024-05-06 cs.AI cs.CL cs.IR
A Systematic Study of Retrieval Pipeline Design for Retrieval-Augmented Medical Question Answering
Department of Mechatronics & Industrial Engineering, Chittagong University of Engineering & Technology(吉大港工程与技术大学机电与工业工程系);Department of Mechanical Engineering, Chittagong University of Engineering & Technology(吉大港工程与技术大学机械工程系)
本文系统评估了检索增强医疗问答的性能,发现检索增强显著提升了零样本医疗问答效果,最佳配置为密集检索加查询改写和重排序,准确率达60.49%。
2026-04-08 cs.AI cs.CL cs.LG