ARMOR: Adaptive Retriever Optimization for Low-Resource Telecom Question Answering
Rensselaer Polytechnic Institute(罗切斯特理工学院);Cornell University(康奈尔大学);Samsung Research America(三星美国研究院)
针对电信问答中证据分散且资源稀缺的问题,提出ARMOR方法,通过联合优化RAG似然和InfoNCE对比目标来适配查询编码器,在固定生成器下提升检索和答案生成性能。
2026-06-29 cs.AI cs.CL cs.IR
Multimodal Reranking for Knowledge-Intensive Visual Question Answering
Carnegie Mellon University(卡内基梅隆大学);Google(谷歌公司);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
本文提出多模态重排序器,通过跨项交互改善知识候选排序,提升知识密集型视觉问答性能,实验验证其有效性。
2024-07-17 cs.AI cs.CL
Passage-Mask: A Learnable Regularization Strategy for Retriever-Reader Models
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
检索者-阅读者模型在许多不同的NLP任务中实现了有竞争力的性能,例如开放式问答和对话。在这项工作中,我们注意到这些模型很容易过拟合的顶级检索通道和标准的训练未能在整个检索通道的原因。我们引入了一个可学习的通道掩模机制,该机制降低了顶级检索通道的影响,并防止模型过拟合。我们的可学习正则化策略使用较少的掩码候选项控制梯度方差,并使用一次性双层优化选择掩码候选项,从而强制答案生成集中于整个检索通道。在开放式问答、对话和事实验证等不同任务上的实验表明,我们的方法始终优于其基线。大量的实验和消融研究表明,我们的方法可以通用,有效,并有利于许多NLP任务。
2022-11-03 cs.AI cs.CL cs.LG
What the Reranker Sees: Multi-Aspect Page Annotation for Long-Document Multimodal Question Answering
Emory University(埃默里大学);Hippocratic AI(希波克拉底人工智能公司)
本文针对长文档多模态问答的重排序瓶颈,提出含Trident-R与Trident-S组件的Trident模型,通过多方面页面标注提升检索与生成性能,在多数据集上取得显著效果。
2026-08-18 cs.AI
Rider: Reader-Guided Passage Reranking for Open-Domain Question Answering
University of Illinois, Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Microsoft Azure AI(微软Azure人工智能部门);Microsoft Research(微软研究院)
当前的开放域问答系统通常遵循检索器-读者体系结构,其中检索器首先检索相关段落,然后读者阅读检索到的段落以形成答案。在本文中,我们提出了一个简单而有效的段落重新排序方法,命名为读者引导的重新排序器(RIDER),它不涉及训练和重新排序检索的段落完全基于前读者的预测。我们表明,RIDER,尽管它的简单性,实现了10至20的绝对增益在前1检索精度和1至4精确匹配(EM)增益没有完善检索器或读者。此外,RIDER在没有任何训练的情况下,性能优于最先进的基于transformer的监督重排序器。值得注意的是,RIDER在Natural Questions数据集上实现了48.3 EM,在TriviaQA数据集上实现了66.4 EM,其中只有1,024个标记(平均7.8个段落)被用作段落重新排序后的读者输入。
2021-08-06 cs.AI cs.CL cs.IR
You Only Need One Model for Open-domain Question Answering
Samsung Research(三星研究院);Samsung Electronics(三星电子);Stanford University(斯坦福大学);Growdle Corporation(Growdle公司)
最近的开放域问答方法是指使用检索器模型的外部知识库,可选地使用单独的重排序器模型对段落进行重排序,并使用另一个读者模型生成答案。尽管执行相关任务,但模型具有单独的参数,并且在训练期间弱耦合。我们建议铸造的检索器和reranker作为内部的逐行注意力机制顺序应用在Transformer架构和饲料计算表示读者,与隐藏的表示逐步完善在每个阶段。这允许我们使用单个问答模型进行端到端训练,这是对模型容量的更有效利用,也导致了更好的梯度流。我们提出了一种预训练方法,以有效地训练这个架构,并评估我们的模型上的自然问题和TriviaQA开放数据集。对于固定的参数预算,我们的模型比以前的最先进的模型高出1.0和0.7的精确匹配分数。
2022-10-28 cs.AI cs.CL
Cooperative Retrieval-Augmented Generation for Question Answering: Mutual Information Exchange and Ranking by Contrasting Layers
Department of Artificial Intelligence, Hanyang University(人工智能学院,翰阳大学);Department of Data Science, Hanyang University(数据科学学院,翰阳大学)
CoopRAG通过协作检索与生成机制,提升问答任务中检索与生成的准确性。
2025-12-17 cs.AI cs.CL
CO-Search: COVID-19 Information Retrieval with Semantic Search, Question Answering, and Abstractive Summarization
Salesforce Research(赛富时研究院)
2019冠状病毒病全球大流行促使国际社会努力了解、跟踪和减轻这种疾病,产生了跨科学学科的2019冠状病毒病和SARS-CoV-2相关出版物的重要语料库。截至2020年5月,已通过COVID-19开放研究数据集挑战收集了128,000篇与冠状病毒相关的出版物。在这里,我们介绍了CO-Search,这是一个检索器-排名器语义搜索引擎,旨在处理对COVID-19文献的复杂查询,可能有助于负担过重的卫生工作者在危机时期找到科学答案。检索器是建立从Siamese-BERT编码器,是线性组成的TF-IDF矢量化,和倒数秩融合的BM 25矢量化。该排名器是由一个多跳问答模块,连同多段摘要摘要调整检索分数。为了解决特定领域和相对有限的数据集,我们生成了文档段落和引用的二分图,创建了130万个(引用标题,段落)元组用于训练编码器。我们根据TREC-COVID信息检索挑战的数据评估了我们的系统。CO-Search在第一轮和第二轮的数据集上获得了最佳性能,包括几个关键指标:归一化折扣累积增益、精度、平均精度和二进制偏好。
2020-06-17 cs.AI cs.CL cs.IR
Autofocus Retrieval: An Effective Pipeline for Multi-Hop Question Answering With Semi-Structured Knowledge
Institute of Computer Science(计算机科学研究所);Johannes Gutenberg University Mainz(美因茨约翰内斯·古腾堡大学)
本文提出Autofocus-Retriever框架,通过结合结构和文本检索方法,在三个STaRK问答基准测试中取得最佳零样本和一次样本结果,其性能由四个约束驱动检索步骤和四个补充处理步骤驱动。
2026-05-14 cs.AI cs.CL cs.IR
When Retriever-Reader Meets Scenario-Based Multiple-Choice Questions
State Key Laboratory for Novel Software Technology, Nanjing University(南京大学计算机软件新技术国家重点实验室)
基于场景的问答(SQA)需要从大型语料库中检索和阅读段落来回答由长场景描述上下文化的问题。由于场景中既包含用于检索的关键词,又包含大量噪声,因此SQA的检索非常困难。此外,由于SQA缺乏段落的相关性标签,因此很难对其进行监督。为了应对这一挑战,在本文中,我们提出了一个联合检索器-读者模型称为JEEVES检索器是隐式监督只使用QA标签通过一种新的词加权机制。在三个SQA数据集中,JEEVES在多项选择题上的表现明显优于各种强基线。
2021-09-05 cs.AI cs.CL cs.IR
CARA: Causally Guided Retrieval Agent for Question Answering
University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校)
提出无需训练的因果引导检索智能体CARA,通过结果性与必要性评估因果相关性,在STaRK数据集上优于现有检索器,提升问答效果且减少检索资源消耗。
2026-10-16 cs.AI cs.IR
Open Domain Question Answering with A Unified Knowledge Interface
Carnegie Mellon University(卡内基梅隆大学);Microsoft Research(微软研究院)
检索者-读者框架因其使用显式知识的能力而在开放域问答(ODQA)中很受欢迎。虽然先前的工作已经试图通过将结构化的知识超越文本来增加知识覆盖面,但是通过统一的接口访问异构的知识源仍然是一个悬而未决的问题。虽然数据到文本生成有可能作为数据和文本的通用接口,但其下游任务的可行性在很大程度上仍然未知。在这项工作中,我们弥合了这一差距,并使用数据到文本的方法作为一种手段编码结构化知识ODQA。具体来说,我们提出了一个verbalizer-retriever-reader框架ODQA的数据和文本,其中来自维基百科的文字化表格和来自维基数据的图形被用作增强的知识源。我们表明,我们的统一数据和文本QA,UDT-QA,可以有效地受益于扩展的知识索引,从而大大超过纯文本基线。值得注意的是,我们的方法在自然问题上设置了最先进的单一模型。此外,我们的分析表明,言语化的知识是首选的答案推理适应和热插拔设置。
2022-03-19 cs.AI cs.CL
Unraveling and Mitigating Retriever Inconsistencies in Retrieval-Augmented Large Language Models
Harbin Institute of Technology(哈尔滨工业大学);XVERSE Technology Inc.(XVERSE科技公司)
本文揭示了检索增强型大语言模型中存在的检索器不一致性问题,通过理论分析退化行为成因,提出了可训练的检索器集成框架EoR,自适应检索多知识源以减少阅读器错误,显著提升了开放域问答性能。
2025-03-06 cs.AI cs.CL
MIXRAG : Mixture-of-Experts Retrieval-Augmented Generation for Textual Graph Understanding and Question Answering
Wayne State University(韦恩州立大学);Emory University(埃默里大学)
MIXRAG通过专家混合图-RAG框架,利用多个专门化图检索器和动态路由控制器,提升复杂查询处理和噪声过滤能力,实现文本图理解和问答任务的高性能表现。
2026-02-07 cs.AI cs.IR
Grape: Knowledge Graph Enhanced Passage Reader for Open-domain Question Answering
University of Notre Dame(圣母大学);Snap Inc.(色拉布公司);Brandeis University(布兰迪斯大学)
开放域问答(QA)模型的一个常见思路是采用检索者-读者管道,首先从维基百科检索一些相关段落,然后仔细阅读这些段落以产生答案。然而,即使是最先进的读者也无法捕捉问题中出现的实体和检索到的段落之间的复杂关系,导致答案与事实相矛盾。鉴于此,我们提出了一种新的知识图谱增强的通道阅读器,即葡萄,以提高阅读器的性能,开放领域的问答。具体来说,对于每一对问题和检索到的段落,我们首先构建一个本地化的二分图,归因于从读者模型的中间层提取的实体嵌入。然后,图神经网络学习关系知识,同时将图和上下文表示融合到读者模型的隐藏状态中。在三个开放域QA基准测试上的实验表明,在相同的检索器和检索段落的情况下,Grape可以将最先进的性能提高高达2.2的精确匹配分数,而开销增加可以忽略不计。我们的代码可在https://github.com/jumxglhf/GRAPE上公开获取。
2022-10-10 cs.AI cs.CL
KG-Retriever: Efficient Knowledge Indexing for Retrieval-Augmented Large Language Models
Beijing University of Posts and Telecommunications(北京邮电大学);University of Science and Technology Beijing(北京科技大学);Xiaomi Corporation(小米公司)
本文提出KG-Retriever框架,通过知识图谱层与协作文档层构成的分层索引图增强文档连通性,缓解多跳问答中的信息碎片化问题,并在五个QA数据集上验证了其检索效果与效率。
2025-05-05 cs.AI cs.IR
MetaGen Blended RAG: Unlocking Zero-Shot Precision for Specialized Domain Question-Answering
IBM
针对企业专业领域RAG零样本精度低的问题,提出MetaGen Blended RAG,通过元数据生成与混合查询索引增强检索,在PubMedQA上超越现有零样本基准并媲美微调模型。
2025-08-05 cs.AI cs.CL cs.IR
Open Question Answering over Tables and Text
University of California, Santa Barbara(加州大学圣巴巴拉分校);Google Research(谷歌研究院)
在开放式问答(QA)中,通过检索并分析可能包含问题答案的文档来生成问题的答案。大多数开放式QA系统只考虑从非结构化文本中检索信息。在这里,我们第一次考虑开放式问答在表格和文本数据,并提出了一个新的大规模数据集开放式表格和文本问答(OTT-QA),以评估这项任务的性能。OTT-QA中的大多数问题都需要跨表格数据和非结构化文本进行多跳推理,并且回答问题所需的证据可以以不同的方式分布在这两种类型的输入中,这使得证据检索具有挑战性-我们使用迭代检索器和基于BERT的阅读器的基线模型实现了小于10%的精确匹配分数。然后,我们提出了两种新的技术,以解决检索和聚合OTT-QA证据的挑战。第一种技术是使用“早期融合”将多个高度相关的表格和文本单元分组到融合块中,这为检索器提供了更多的上下文来搜索。第二种技术是使用跨块阅读器来模拟多个检索到的证据与全局-局部稀疏注意之间的交叉依赖性。结合这两种技术可以显著提高分数,达到27%以上。
2021-02-10 cs.AI cs.CL
Blended RAG: Improving RAG (Retriever-Augmented Generation) Accuracy with Semantic Search and Hybrid Query-Based Retrievers
IBM(国际商业机器公司)
本文提出Blended RAG方法,通过融合稠密向量索引、稀疏编码器索引与混合查询策略提升检索准确性,在NQ、TREC-COVID及SQUAD等数据集上取得优于微调的效果。
2024-08-04 cs.AI cs.CL cs.IR
Evidentiality-aware Retrieval for Overcoming Abstractiveness in Open-Domain Question Answering
Yonsei University(延世大学);Seoul National University(首尔大学);LG AI Research(LG人工智能研究院)
针对抽象式开放域问答中稠密检索器可回答性监督训练数据不足、迭代标注成本高的问题,提出以数据为中心的EADPR方法,用合成干扰样本学习区分证据与干扰段落,经多任务实验验证有效。
2024-02-01 cs.AI
Interpretability Analysis of Domain Adapted Dense Retrievers
University of Amsterdam(阿姆斯特丹大学)
本文利用积分梯度框架提出可解释性方法,分析无监督域自适应对稠密检索器查询与文档归因的影响,发现自适应模型更关注领域内术语。
2025-01-24 cs.AI cs.IR
A Reranker for Orchestrating Heterogeneous Speech and Text Retrievers
Korea Institute of Energy Technology(韩国能源技术研究院)
针对多模态RAG数据库场景,提出STeReO重排序器,构建专用数据集训练后,可有效聚合异构检索结果,显著提升下游问答性能。
2026-08-28 cs.AI cs.CL cs.IR
Conv-CoA: Improving Open-domain Question Answering in Large Language Models via Conversational Chain-of-Action
Northwestern University(西北大学)
本文提出Conv-CoA框架,通过动态推理-检索机制、Hopfield检索器和对话式多参考置信度分数,解决开放域对话问答中的幻觉、推理弱和检索性能差问题,在五个方向和两个基准上超越23种最先进方法。
2024-05-28 cs.AI cs.CL
Beyond Prompting: An Efficient Embedding Framework for Open-Domain Question Answering
King’s College London(伦敦国王学院);The Alan Turing Institute(艾伦·图灵研究所)
本文提出嵌入级框架EmbQA,通过无监督对比学习细化查询表示并引入探索性嵌入与熵选择机制,在提升开放域问答准确性的同时显著降低计算开销。
2025-09-20 cs.AI cs.CL cs.CY
Boosting Conversational Question Answering with Fine-Grained Retrieval-Augmentation and Self-Check
School of Computer Science and Technology, East China Normal University(华东师范大学计算机科学与技术学院)
本文提出一种结合细粒度检索增强与自检查的对话级RAG方法,包含问题重写器、细粒度检索器和回复生成器三组件,有效解决复杂对话场景下的问答问题,并发布了一个中文CQA数据集。
2024-03-27 cs.AI
A Survey on Table Question Answering: Recent Advances
Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳));Peng Cheng Laboratory(鹏城实验室)
表格问答(Table QA)是指从表格中提供精确的答案来回答用户的问题。近年来,关于表格问答的研究成果很多,但缺乏对这一研究课题的全面综述。因此,我们的目标是在表QA中提供可用数据集和代表性方法的概述。我们将现有的表格QA方法分为五类,根据他们的技术,其中包括语义分析为基础的,生成,提取,匹配为基础的,和检索器读者为基础的方法。此外,由于表QA仍然是一个具有挑战性的任务,现有的方法,我们还确定和概述了几个关键的挑战,并讨论了表QA的潜在的未来方向。
2022-07-12 cs.AI cs.CL
REVEAL: Retrieval-Augmented Visual-Language Pre-Training with Multi-Source Multimodal Knowledge Memory
University of California, Los Angeles(加州大学洛杉矶分校);Google Research(谷歌研究院)
本文提出端到端检索增强视觉语言模型REVEAL,通过多源多模态知识记忆与联合预训练的四大组件,在视觉问答和图像描述任务上取得最先进结果。
2023-04-03 cs.AI cs.CV
One Size Does Not Fit All! Dynamic Retriever and Generator Selection for RAG
Media and Data Science Research Lab(媒体与数据科学研究实验室);Adobe Systems(奥多比系统公司);IACS(高级计算研究学院);University of Glasgow(格拉斯哥大学)
针对RAG固定配置效率低的问题,提出DRAG框架,通过QPP信号和微调LLM联合动态选择检索器与生成器,在多个QA基准上实现更优的效率-效果权衡。
2026-09-17 cs.AI cs.IR
UniRel: Relation-Centric Knowledge Graph Question Answering with RL-Tuned LLM Reasoning
Washington University in St. Louis(圣路易斯华盛顿大学)
UniRel通过强化学习调优的LLM推理框架,实现关系中心的知识图谱问答,有效识别信息丰富的子图,提升问答性能。
2026-02-05 cs.AI
Revisiting the Open-Domain Question Answering Pipeline
Stanford University(斯坦福大学);Carnegie Mellon University(卡内基梅隆大学)
开放域问答(QA)是从大量文档中识别自然问题答案的任务。典型的开放域QA系统从信息检索开始,从语料库中选择文档的子集,然后由机器阅读器处理以选择答案跨度。本文介绍了Mindstone,一个开放领域的问答系统,包括一个新的多阶段的管道,采用传统的BM 25为基础的信息检索器,RM 3为基础的神经相关反馈,神经排名,和一个机器阅读理解阶段。本文为Wikipedia/SQuAD数据集(EM=58.1,F1=65.8)的问答的端到端性能建立了一个新的基线,与以前的技术水平相比有了很大的提高(Yang等人,2019年b)。我们还展示了新的流水线如何使用低分辨率标签,并且可以很容易地进行调整,以满足各种时序要求。
2020-09-02 cs.AI cs.CL
STAR: Semantic-Tuned and Tail-Adaptive Retriever for Graph-Augmented Generation
Shuai Li, Chen Huang, Duanyu Feng, Wenqiang Lei, See-Kiong Ng
本文提出STAR,一种用于图增强生成的语义调优和尾部适应检索器,通过结合token级交互学习和路径加权对比学习,解决图检索增强生成中的语义捷径偏差和长尾路径偏差问题,提升检索和生成性能。
2026-04-11 cs.AI cs.IR
Self-MedRAG: a Self-Reflective Hybrid Retrieval-Augmented Generation Framework for Reliable Medical Question Answering
Bina Nusantara University(建国大学)
Self-MedRAG通过混合检索与自反思机制提升医学问答的准确性和可靠性。
2026-01-08 cs.AI cs.IR
W-RAG: Weakly Supervised Dense Retrieval in RAG for Open-domain Question Answering
Santa Clara University(圣克拉拉大学);Meta AI
本文提出W-RAG方法,通过从LLM下游任务提取弱监督信号微调稠密检索器,利用BM25检索和LLM生成概率重排序段落,显著提升了开放域问答的检索与生成性能。
2025-04-25 cs.AI cs.CL cs.IR
Efficient and Reproducible Biomedical Question Answering using Retrieval Augmented Generation
School of Engineering, Zurich University of Applied Sciences, Winterthur, Switzerland(工程学院,应用科学大学,温特图尔,瑞士)
本研究提出了一种高效的生物医学问答系统,通过检索增强生成方法,在PubMed语料库上优化检索深度与响应时间的平衡。
2026-01-13 cs.AI cs.DB cs.IR
RuleRAG: Rule-Guided Retrieval-Augmented Generation with Language Models for Question Answering
National University of Defense Technology(国防科技大学);International Digital Economy Academy(国际数字经济学院);University of Oxford(牛津大学)
针对RAG问答缺乏检索与推理引导的问题,提出RuleRAG,通过规则统一指导检索和生成,并构建RuleQA基准,实验显示检索与准确率大幅提升且具有泛化性。
2025-02-16 cs.AI cs.CL cs.IR
Investigating Information Inconsistency in Multilingual Open-Domain Question Answering
University of Maryland, College Park(马里兰大学帕克分校)
基于检索的开放域QA系统使用检索到的文档和对检索到的文档的答案跨度选择来找到最佳答案候选者。我们假设,多语言问答(QA)系统很容易出现信息不一致,当涉及到不同语言编写的文件,因为这些文件往往提供一个模型与不同的信息相同的主题。为了理解信息的可获得性偏差和文化影响的影响,我们分析了多语言开放域问答模型的行为,重点是检索偏差。我们分析如果不同的检索模型呈现不同的段落给定相同的问题在不同的语言上的TyDi QA和XOR-TyDi QA,两个多语言QA数据集。我们推测,跨语言文档的内容差异可能反映了文化差异和/或社会偏见。
2022-05-25 cs.AI cs.CL cs.IR
Automated Regulatory Compliance Question Answering in Financial Services with Domain-Adapted Retrieval-Augmented Generation
University of Bonn(波恩大学);Lamarr-Institute for Machine Learning and Artificial Intelligence(拉马尔机器学习和人工智能研究所);Universitat Rovira i Virgili(罗维拉-维尔吉利大学);Fraunhofer IAIS(弗劳恩霍夫智能分析和信息系统研究所)
本研究针对金融合规问答中紧凑模型幻觉问题,提出基于LegalBERT的三阶段检索器与RAFT-LoRA生成器的领域自适应RAG流水线,在ObliQA上显著提升检索与答案质量,但发现生成增益未证明接地性且跨域迁移受限。
2026-09-25 cs.AI cs.CL
Redefining Information Retrieval of Structured Database via Large Language Models
Kuaishou Technology(快手科技)
本文提出ChatLR框架,利用大语言模型作为检索器实现结构化数据库的精确信息检索,并通过金融领域微调构建搜索问答系统,整体检索准确率超过98.8%。
2024-11-19 cs.AI cs.IR
Hybrid Retrieval for Hallucination Mitigation in Large Language Models: A Comparative Analysis
University of Pisa(比萨大学);Scuola Normale Superiore(高等师范学院)
本文提出一种结合查询扩展与动态加权RRF融合的混合检索方法,并在HaluBench上验证其相比BM25稀疏检索和Sentence Transformers密集检索能更有效提升检索相关性、降低LLM幻觉率与拒绝率。
2025-02-28 cs.AI cs.CL cs.IR
Improving the Domain Adaptation of Retrieval Augmented Generation (RAG) Models for Open Domain Question Answering
The University of Auckland(奥克兰大学);National University of Singapore(新加坡国立大学);University of Southern Queensland(南昆士兰大学)
针对现有RAG模型仅适配维基百科知识库、难以应用于专业领域的问题,提出可联合训练检索器与生成器、引入辅助训练信号的RAG-end2end模型,在三个领域数据集上取得显著性能提升并已开源。
2022-10-06 cs.AI cs.CL cs.IR
What Disease does this Patient Have? A Large-scale Open Domain Question Answering Dataset from Medical Exams
Computer Science and Artificial Intelligence, MIT(麻省理工学院计算机科学与人工智能系);Tongji Medical College, HUST(华中科技大学同济医学院)
开放域问答(OpenQA)任务近年来受到了自然语言处理(NLP)界越来越多的关注。在这项工作中,我们提出了第一个自由形式的多项选择OpenQA数据集,用于解决医疗问题,MedQA,从专业的医学委员会考试收集。它包含三种语言:英语、简体中文和繁体中文,分别包含三种语言的12,723、34,251和14,123个问题。我们实现了基于规则的和流行的神经方法,依次结合文档检索器和机器理解模型。通过实验,我们发现即使是目前最好的方法,在英文、繁体中文和简体中文问题上的测试准确率也只能分别达到36.7%、42.0%和70.1%。我们希望MedQA能给现有的OpenQA系统带来巨大的挑战,并希望它能作为一个平台,在未来从NLP社区推广更强大的OpenQA模型。
2020-09-28 cs.AI cs.CL
Speech Retrieval-Augmented Generation without Automatic Speech Recognition
University of Michigan(密歇根大学);AWS AI Labs(AWS AI实验室)
本文提出SpeechRAG框架,通过微调语音编码器对齐文本与语音嵌入空间,实现无需ASR的直接语音检索,并利用语音语言模型以音频片段为条件进行生成,在ASR错误较高时优于传统级联文本方法。
2025-01-03 cs.AI cs.CL eess.AS
Retrieval Augmented Generation for Domain-specific Question Answering
Adobe(奥多比公司)
本文针对特定领域问答中通用大模型缺乏领域知识的问题,提出构建大型问答数据库并对检索器进行微调的检索增强生成框架,显著减少幻觉并提升生成质量。
2024-05-29 cs.AI cs.CL cs.IR
PAQ: 65 Million Probably-Asked Questions and What You Can Do With Them
University College London(伦敦大学学院);Facebook AI Research(脸书人工智能研究院)
开放领域的问答模型直接利用问答(QA)对,如闭卷问答(CBQA)模型和问答对检索器,显示出承诺的速度和内存相比,传统的模型,检索和阅读文本语料库。QA对检索器还提供了可解释的答案,高度的控制,并且在测试时用新知识进行更新是微不足道的。然而,这些模型缺乏检索和阅读系统的准确性,因为相对于像维基百科这样的文本语料库,可用的QA对覆盖的知识少得多。为了促进改进的QA对模型,我们引入了可能问的问题(PAQ),这是一个非常大的65M自动生成的QA对资源。我们引入了一个新的QA对检索器,RePAQ,以补充PAQ。我们发现PAQ抢占和缓存测试问题,使RePAQ能够匹配最近的检索和读取模型的准确性,同时速度明显更快。使用PAQ,我们训练CBQA模型,其性能超过可比基线5%,但落后于RePAQ超过15%,表明显式检索的有效性。RePAQ可以配置大小(低于500MB)或速度(每秒超过1K个问题),同时保持高准确性。最后,我们展示了RePAQ在选择性QA方面的优势,当它可能不正确时,我们会放弃回答。这使得RePAQ能够“后退”到更昂贵的最先进的模型,从而形成一个比单独的最先进的模型更精确、速度快2倍的组合系统。
2021-02-13 cs.AI cs.CL cs.LG
Knowledge-Driven CoT: Exploring Faithful Reasoning in LLMs for Knowledge-intensive Question Answering
Sino-French Engineering School, Beihang University(北京航空航天大学中法工程师学院);School of Computer Science and Engineering, Beihang University(北京航空航天大学计算机科学与工程学院);Meituan Inc.(美团公司)
针对大语言模型在知识密集型问答中推理不忠实的问题,本文提出知识驱动思维链框架 KD-CoT,通过多轮外部知识交互验证修正推理轨迹,并利用反馈增强检索器,在 KBQA 任务上显著提升了推理成功率和知识检索性能。
2023-10-28 cs.AI cs.CL
Towards Fine-Grained Video Question Answering
Stanford University(斯坦福大学)
本文提出MOMA-QA数据集和SGVLM模型,通过场景图预测、帧检索与大语言模型结合,提升细粒度视频问答中的时间定位和空间关系推理能力。
2025-03-10 cs.AI cs.CV cs.LG
Improving Zero-shot Reader by Reducing Distractions from Irrelevant Documents in Open-Domain Question Answering
Korea Advanced Institute of Science and Technology(韩国科学技术院)
本研究提出干扰感知答案选择(DAS)方法,通过否定指令和分数调整减少不相关文档干扰,提升开放域问答中零样本阅读器的性能,并展现无需训练的强迁移能力。
2023-11-14 cs.AI cs.CL
Biomedical Entity Linking as Multiple Choice Question Answering
Jarvis Research Center, Tencent YouTu Lab(贾维斯研究中心,腾讯优图实验室)
针对生物医学实体链接中细粒度与长尾实体的挑战,提出将该任务转化为多项选择题问答的BioELQA模型,通过显式比较候选实体、拼接相似标注实例提升泛化,在多数据集上超越现有最优基线。
2024-05-17 cs.AI cs.CL cs.LG
AmQA: Amharic Question Answering Dataset
Addis Ababa University(亚的斯亚贝巴大学);University of Hamburg(汉堡大学)
针对阿姆哈拉语缺乏问答数据集的问题,构建了首个包含2628对问答对、覆盖378篇维基百科文章的AmQA数据集,并基于XLMR Large建立基线,取得最高F1分数69.58和71.74。
2023-11-16 cs.AI cs.CL cs.IR
Can a Frozen Pretrained Language Model be used for Zero-shot Neural Retrieval on Entity-centric Questions?
Kioxia Corporation(铠侠公司)
神经文档检索器,包括密集段落检索(DPR),在特定的问答数据集上进行微调和测试时,表现优于经典的词汇匹配检索器,如BM 25。然而,它已被证明,现有的密集检索不推广以及不仅出域,但即使在域,如维基百科,特别是当一个问题中的命名实体是一个主要的线索检索。在本文中,我们提出了一种方法,对领域泛化内泛化使用的嵌入所产生的冻结语言模型训练的实体领域。通过不微调,我们探索了预训练的语言模型中包含的丰富知识可用于检索任务的可能性。该方法优于传统的DPRs在维基百科领域的实体为中心的问题,并实现几乎相当的性能BM 25和最先进的SPAR模型。我们还表明,上下文化的键导致强大的改进相比,BM 25时,实体名称由常见的单词。我们的研究结果表明,zero-shot检索方法的可行性,以实体为中心的问题的维基百科领域,DPR一直在努力执行。
2023-03-09 cs.AI cs.CL
RAG-X: Systematic Diagnosis of Retrieval-Augmented Generation for Medical Question Answering
Oakland University(奥克兰大学)
RAG-X通过系统性诊断框架,评估检索和生成过程,揭示问答系统中的隐藏失败模式,提升医疗问答的准确性和可靠性。
2026-03-03 cs.AI cs.CL
Top K Relevant Passage Retrieval for Biomedical Question Answering
University of Kentucky(肯塔基大学)
本文针对生物医学问答中Wikipedia源不足的问题,在DPR框架上改用Pubmed文章进行微调,并在BioASQ数据集上取得0.81的F1分数。
2023-08-08 cs.AI cs.CL cs.IR
ODTQA-FoRe: An Open-Domain Tabular Question Answering Dataset for Future Data Forecasting and Reasoning
School of Artificial Intelligence, Beijing Normal University(北京师范大学人工智能学院);Institute of Artificial Intelligence and Future Networks, Beijing Normal University(北京师范大学人工智能与未来网络研究院);Faculty of Arts and Sciences, Beijing Normal University(北京师范大学文理学院);Beijing Normal-Hong Kong Baptist University(北京师范大学-香港 Baptist大学)
提出开放域表格问答的未来预测与推理任务,并构建首个覆盖时间序列预测和基于预测推理的数据集,通过基于LLM代理的TimeFore框架(检索器、预测器、分析器)解决历史数据检索、预测限制和响应标准化挑战。
2026-06-01 cs.AI cs.CL cs.IR
SpaceQA: Answering Questions about the Design of Space Missions and Space Craft Concepts
Solenix(Solenix公司);ESA - ESOC(欧洲空间局 - 欧洲空间运行中心);ESA - ESTEC(欧洲空间局 - 欧洲空间技术研究中心)
我们提出SpaceQA,据我们所知,第一个开放域的QA系统在空间任务设计。SpaceQA是欧洲航天局(欧空局)一项倡议的一部分,该倡议旨在促进该机构内部和公众对空间飞行任务设计信息的访问、共享和再利用。我们采用了一个由密集检索器和神经读取器组成的最先进的架构,并选择了一种基于迁移学习的方法,而不是由于缺乏特定领域的注释数据而进行微调。我们的评价测试集上产生的欧空局在很大程度上是一致的,最初报告的结果评估检索,并确认需要微调阅读理解。截至撰写本文时,欧空局正在内部试行SpaceQA。
2022-11-04 cs.AI cs.CL