From Ranking to Selection: A Simple but Efficient Dynamic Passage Selector for Retrieval Augmented Generation
针对RAG中固定Top-K重排序在复杂多跳查询上的信息遗漏与噪声问题,提出将段落选择视为监督学习的即插即用框架DPS,通过捕获段落间依赖动态选择证据,在多个基准上显著提升推理能力。
2025-08-13 cs.AI cs.CL
Modeling Contextual Passage Utility for Multihop Question Answering
Adobe Research, India(Adobe研究印度)
本文提出了一种基于上下文依赖的轻量级方法,用于建模多跳问答中段落的效用,以提高重排和问答性能。
2025-12-06 cs.CL
PReGAN: Answer Oriented Passage Ranking with Weakly Supervised GAN
Thomson Reuters Labs(汤森路透实验室);University of Montreal(蒙特利尔大学);Huawei Poisson Lab.(华为泊松实验室);Tshinghua Univeristy(清华大学)
除了主题相关性之外,开放域类事实问答的段落排名还需要段落包含答案(可回答性)。虽然最近的一些研究已经将一些阅读能力纳入到排名器中以说明可回答性,但排名器仍然受到该领域通常可用的训练数据的噪声性质的阻碍,其将包含答案实体的任何段落视为阳性样本。然而,文章中的答案实体不一定与给定的问题相关。为了解决这个问题,我们提出了一种称为\ttt{PReGAN}的方法,用于基于生成对抗神经网络的通道重新排序,该方法除了包含主题相关性外,还包含了一个可回答性。我们的目标是迫使生成器将与主题相关并包含答案的段落排名更高。在5个公开数据集上的实验表明,\ttt{PReGAN}能够更好地对合适的段落进行排序,从而提高了问答系统的有效性,并且在不使用外部数据的情况下优于现有方法。
2022-07-05 cs.AI cs.CL cs.IR
Expand, Rerank, and Retrieve: Query Reranking for Open-Domain Question Answering
Massachusetts Institute of Technology(麻省理工学院);Meta AI
本文提出 EAR 方法,通过查询扩展生成多样化查询并用重排序器选择更优查询,从而显著提升 BM25 在开放域问答中的检索准确率。
2023-05-26 cs.CL
CoRAG: Collaborative Retrieval-Augmented Generation
Carnegie Mellon University(卡内基梅隆大学)
提出CoRAG框架将检索增强生成扩展至协作环境,客户端共同训练共享模型;引入CRAB基准评估,实验证明其在低资源场景下优于现有方法,并揭示了共享知识库中段落质量对性能的权衡影响。
2025-04-02 cs.AI cs.CL cs.IR
Less is More for RAG: Information Gain Pruning for Generator-Aligned Reranking and Evidence Selection
organization= School of Computer Science;Technology, Dalian University of Technology , addressline= No.2 Linggong Road, Ganjingzi District , city= Dalian , postcode= 116024 , country= China;organization= College of Health-Preservation;Wellness, Dalian Medical University , addressline= No. 9 West Section of Lvshun South Road, Lvshunkou District , city= Dalian , postcode= 116044 , country= China;organization= School of Information Engineering, Dalian Ocean University , addressline= No. 2-52, Heishijiao Street, Shahekou District , city= Dalian , postcode= 116023 , country= China;organization= School of Information Engineering, Liaodong University , addressline= No.116 Linjiang Back Street, Zhenan District , city= Dandong , postcode= 118001 , country= China;organization= Information Technology Center, Qinghai University , addressline= 251 Ningda Road, Chengbei District , city= Xining , postcode= 810016 , country= China;organization= School of Electronic;Information Engineering, Liaoning Technical University , addressline= 188 Longwan South Street, Sijiatun District , city= Huludao , postcode= 125105 , country= China;organization= Tencent (Dalian Northern Interactive Entertainment Technology Co., Ltd.) , addressline= 21/F, Tencent Building, No. 26 Jingxian St, Ganjingzi District , city= Dalian , postcode= 116085 , country= China
本文提出信息增益剪枝方法,通过生成器对齐的效用信号优化证据选择,提升RAG在有限上下文预算下的生成质量与效率。
2026-01-24 cs.AI cs.CL
Embedding-Based Context-Aware Reranker
McGill University(麦吉尔大学);Mila - Quebec AI Institute(魁北克人工智能研究所);RBC Borealis
本文提出EBCAR,一种基于嵌入的上下文感知重排序器,通过增强跨段落理解提升信息检索的准确性和效率。
2026-02-25 cs.CL
CAR: Query-Guided Confidence-Aware Reranking for Retrieval-Augmented Generation
School of Computer Science and Technology, Dalian University of Technology(大连理工大学计算机科学与技术学院);School of Information Engineering, Dalian Ocean University(大连海洋大学信息工程学院);School of Information Engineering, Liaodong University(辽东学院信息工程学院);Information Technology Center, Qinghai University(青海大学信息技术中心);College of Health-Preservation and Wellness, Dalian Medical University(大连医科大学养生与健康学院);Tencent(腾讯)
针对RAG现有重排序仅关注相关性的问题,提出无需训练的CAR框架,通过查询引导的答案稳定性校正排名,在多数据集实验中实现稳健性能提升,可用于黑盒LLM。
2026-08-13 cs.AI cs.CL
Efficient Passage Retrieval with Hashing for Open-domain Question Answering
Studio Ousia(Ousia工作室);RIKEN(理化学研究所);University of Washington(华盛顿大学);Allen Institute for AI(艾伦人工智能研究所)
大多数最先进的开放域问答系统使用神经检索模型将段落编码为连续向量并从知识源中提取它们。然而,这样的检索模型往往需要大量的内存来运行,因为它们的通道索引的大小。在本文中,我们介绍了二进制通道检索器(BPR),一个内存高效的神经检索模型,集成了学习哈希技术到国家的最先进的密集通道检索器(DPR)表示通道索引使用紧凑的二进制代码,而不是连续向量。BPR是用两个任务的多任务目标进行训练的:基于二进制代码的有效候选生成和基于连续向量的精确重新排序。与DPR相比,BPR在两个标准的开放域问答基准测试(Natural Questions和TriviaQA)上将内存成本从65 GB大幅降低到2 GB,而不损失准确性。我们的代码和训练模型可以在https://github.com/studio-ousia/bpr上找到。
2021-06-02 cs.CL cs.IR
Qwen Goes Brrr: Off-the-Shelf RAG for Ukrainian Multi-Domain Document Understanding
National Technical University of Ukraine(乌克兰国家技术大学)
本文提出一种基于RAG的多领域文档理解系统,通过上下文分块、问题感知密集检索与重排序及受限答案生成提升召回率和准确率。
2026-05-11 cs.AI cs.CL cs.IR
RAGTurk: Best Practices for Retrieval Augmented Generation in Turkish
Roketsan Inc.(罗克桑公司);Politecnico di Torino(都灵理工大学);Middle East Technical University(中东技术大学);TOBB University of Economics and Technology(TOBB经济与技术大学)
RAGTurk研究了土耳其语中检索增强生成的最佳实践,通过构建土耳其RAG数据集并测试RAG管道各阶段,发现HyDE方法在准确性上表现最佳,同时帕累托最优配置在成本较低的情况下也表现出色。
2026-02-03 cs.AI cs.CL cs.IR
SciRet: A Compute-Aware Empirical Study of Retrieval and Reranking for Scientific RAG
该研究针对CORD-19科学问答开展SciRet实证研究,评估固定科学RAG流程在不同语料库规模下的表现,发现混合检索更稳健、MS MARCO训练的重排序器存在领域不匹配问题,生成忠实度随语料库规模提升,并发布相关资源支持后续研究。
2026-08-05 cs.AI cs.CL cs.IR
InstUPR : Instruction-based Unsupervised Passage Reranking with Large Language Models
National Taiwan University(台湾大学)
本文提出InstUPR,一种基于大语言模型指令遵循能力的无监督段落重排序方法,通过软分数聚合和成对重排序技术,无需额外微调即可在BEIR基准上超越无监督基线及指令微调重排序器。
2024-03-25 cs.CL cs.IR
Rank1: Test-Time Compute for Reranking in Information Retrieval
Johns Hopkins University(约翰霍普金斯大学)
Rank1利用测试时计算训练重排序模型,通过蒸馏推理语言模型(如R1)生成60万推理轨迹,实现最先进性能、分布外泛化及可解释推理链,并支持量化压缩。
2025-08-08 cs.CL cs.IR cs.LG
Passage Retrieval of Polish Texts Using OKAPI BM25 and an Ensemble of Cross Encoders
Adam Mickiewicz University(亚当·密茨凯维奇大学)
针对波兰语多领域段落检索任务,提出OKAPI BM25初检加多语言交叉编码器集成重排的方案,获Poleval 2023任务3优胜,且发现微调重排器仅在训练域有效、其他域性能下降。
2024-10-06 cs.AI cs.CL
KG-FiD: Infusing Knowledge Graph in Fusion-in-Decoder for Open-Domain Question Answering
Carnegie Mellon University(卡内基梅隆大学);Microsoft(微软);University of Notre Dame(圣母大学);University of Southern California(南加州大学)
现有的开放领域问答模型通常包含一个检索模块和一个阅读模块。给定一个输入问题,阅读模块从检索器检索到的相关段落中预测答案。最近提出的融合解码器(FiD)建立在预训练的生成模型T5之上,在阅读模块中实现了最先进的性能。虽然它是有效的,但它仍然受到所有包含大量噪音的检索段落的低效注意的限制。在这项工作中,我们提出了一种新的方法KG-FiD,利用检索到的通道与知识图谱之间的结构关系过滤噪声通道。我们从FiD编码器启动通道节点嵌入,然后使用图神经网络(GNN)更新表示进行重新排序。为了提高效率,我们在FiD编码器的中间层输出之上构建GNN,并且只将少数重新排序的通道传递到编码器和解码器的更高层以生成答案。我们还提出了基于GNN的重排序方法,以提高检索模块中的段落检索结果。在常见的ODQA基准数据集(Natural Question和TriviaQA)上进行的大量实验表明,KG-FiD可以将普通FiD的答案精确匹配分数提高1.5%,并在计算成本仅为40%的情况下实现与FiD相当的性能。
2022-06-06 cs.CL cs.LG
Evidence Aggregation for Answer Re-Ranking in Open-Domain Question Answering
School of Information System, Singapore Management University(新加坡管理大学信息系统学院);AI Foundations - Learning, IBM Research AI(IBM研究人工智能部 - 学习基础)
最近流行的回答开放域问题的方法是首先搜索与问题相关的段落,然后应用阅读理解模型来提取答案。现有的方法通常从单个段落中独立地提取答案。但有些问题需要结合不同来源的证据才能正确回答。在本文中,我们提出了两个模型,利用多个通道,以产生他们的答案。两者都使用一个答案重新排序的方法,重新排序的答案候选人产生的现有国家的最先进的QA模型。我们提出了两种方法,即基于强度的重新排名和基于覆盖率的重新排名,利用不同段落的汇总证据,以更好地确定答案。我们的模型在三个公共开放域QA数据集上取得了最先进的结果:Quasar-T,SearchQA和TriviaQA的开放域版本,比前两个数据集提高了约8个百分点。
2018-04-26 cs.AI cs.CL
Leveraging Passage Embeddings for Efficient Listwise Reranking with Large Language Models
Gaoling School of Artificial Intelligence(高瓴人工智能学院);Renmin University of China(中国人民大学);Jina AI(Jina AI公司)
本文提出PE-Rank方法,利用段落嵌入作为上下文压缩,通过特殊标记输入和动态解码约束,提升基于LLM的列表式重排序效率,同时保持排序效果。
2025-01-28 cs.CL cs.IR
Re2G: Retrieve, Rerank, Generate
IBM Research AI(IBM研究院人工智能部门);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
正如GPT-3和T5所证明的那样,随着参数空间变得越来越大,变压器的容量也会增长。然而,对于需要大量知识的任务,非参数内存允许模型随着计算成本和GPU内存需求的次线性增长而急剧增长。最近的模型,如RAG和REALM已经将检索引入条件生成。这些模型结合了从段落语料库的神经初始检索。我们建立在这条研究线上,提出了Re2G,它将神经初始检索和重新排序结合到基于BART的序列到序列生成中。我们的重新排序方法还允许合并检索结果与无与伦比的分数来源,使BM 25和神经初始检索的合奏。为了对我们的系统进行端到端的训练,我们引入了一种新的知识蒸馏变体来训练仅使用目标序列输出的地面实况来进行初始检索、重新排序和生成。我们发现在四个不同的任务中有很大的收益:zero-shot插槽填充,问答,事实检查和对话,与KILT排行榜上的先前最先进的相比,相对收益为9%至34%。我们在www.example.com上以开源的形式提供我们的代码。
2022-07-13 cs.AI cs.CL cs.IR
Multi-view-guided Passage Reranking with Large Language Models
本文提出多视图引导的段落重排序模型MVP,通过非生成式编码和正交损失消除外部偏差,以220M参数达到7B模型性能并降低100倍推理延迟。
2025-09-19 cs.IR
Improving Generated and Retrieved Knowledge Combination Through Zero-shot Generation
Dig&AI Tech Sunshine Insurance Group(阳光保险集团Dig&AI科技);Tsinghua University(清华大学)
本文提出无监督框架BRMGR,通过双重重排序和贪心匹配结合检索段落与LLM生成段落,在NQ和WebQ上分别提升+1.7和+1.6,并在TriviaQA上取得可比结果。
2024-12-25 cs.CL
Candidate-Constrained Retrieval-Augmented Generation for LongEval-RAG: System Design and Empirical Analysis
介绍用于LongEval-RAG的候选约束检索增强生成系统,结合多种方法,经评估得出最强平衡变体rule-minilm,表明主要增益来自稳定规则证据单元与句子级神经选择结合,强调多指标评估需求。
2026-07-07 cs.CL cs.IR
ListConRanker: A Contrastive Text Reranker with Listwise Encoding
School of Computer Science and Engineering, South China University of Technology(华南理工大学计算机科学与工程学院);ByteDance China(字节跳动中国);Zhejiang University(浙江大学)
针对传统文本重排序器逐点编码缺乏段落对比、交叉熵损失训练效率低的问题,提出采用列表式编码和圆损失训练的ListConRanker,在中文重排序基准上达到SOTA性能。
2025-01-13 cs.CL cs.IR
Don't "Overthink" Passage Reranking: Is Reasoning Truly Necessary?
MIT Lincoln Laboratory(MIT林肯实验室);Massachusetts Institute of Technology(麻省理工学院);University of Waterloo(滑铁卢大学)
本文研究推理过程对基于LLM的段落重排序器的影响,发现非推理重排序器优于推理型,禁用推理反而更有效,原因是推理导致分数极化忽略部分相关性。
2025-05-22 cs.AI cs.CL cs.IR
TWOLAR: a TWO-step LLM-Augmented distillation method for passage Reranking
本文提出TWOLAR,一种基于LLM知识蒸馏的两阶段段落重排序方法,通过构建多样化训练集和新评分策略,显著提升模型重排序能力,在多项基准上媲美或超越参数量多三个数量级的模型。
2024-03-26 cs.IR
RankFlow: A Multi-Role Collaborative Reranking Workflow Utilizing Large Language Models
Rutgers University(罗格斯大学);University of Connecticut(康涅狄格大学);Waseda University(早稻田大学)
RankFlow通过大语言模型的多角色协作提升重排序性能,实验表明其在TREC-DL、BEIR等基准测试中表现更优。
2026-04-16 cs.IR
ResRank: Unifying Retrieval and Listwise Reranking via End-to-End Joint Training with Residual Passage Compression
Qwen Applications Business Group of Alibaba(阿里巴巴Qwen应用业务组)
ResRank通过端到端联合训练与残差段落压缩技术,解决传统重排序方法中输入长度增加导致的排名质量下降和推理延迟问题,实现高效且有效的检索与重排序统一。
2026-04-24 cs.AI cs.IR
CAGE: Coherence-Aware Graph Encoding for Retrieval-Augmented Generation
本文针对传统RAG系统上下文集缺乏整体一致性的问题,提出CAGE重排序框架,通过多维度建模段落间一致性并结合关系图卷积网络等技术,在多跳基准上提升了检索增强生成的下游表现。
2026-09-07 cs.CL cs.IR
Retrieval Augmented Generation with Collaborative Filtering for Personalized Text Generation
Renmin University of China(中国人民大学);Kuaishou Technology Co., Ltd.(快手科技有限公司)
本文提出CFRAG方法,将协同过滤引入个性化检索增强生成,通过对比学习获取相似用户协同信息,并利用LLM反馈微调个性化检索与重排序器,在LaMP基准上验证了其有效性。
2025-04-08 cs.CL cs.IR
In Situ Answer Sentence Selection at Web-scale
School of Information, The University of Arizona(亚利桑那大学信息学院);Amazon Alexa AI(亚马逊 Alexa AI)
在开放域问答(ODQA)中应用的当前答案句子选择(AS 2)通过对可能的候选的大集合进行排序来选择答案,即,句子,从检索到的文本中提取。在本文中,我们提出了基于通道的提取答案句到位(PEASI),一种新的设计AS 2优化Web规模的设置,而不是计算这样的答案,而不单独处理每个候选人。具体来说,我们设计了一个基于Transformer的框架,该框架联合(i)对针对问题检索的段落进行重新排序,以及(ii)从适当的顶部段落中识别可能的答案。我们在一个多任务学习框架中训练PEASI,该框架鼓励组件之间的特征共享:段落重排器和基于文本的答案句子提取器。为了促进我们的开发,我们构建了一个新的Web来源的大规模QA数据集,包括800,000+标记的段落/句子,60,000+问题。实验表明,我们提出的设计有效地优于目前最先进的AS 2设置,即,一个独立的句子排序模型,准确率从48.86%提高到55.37%,提高了6.51%。此外,PEASI在计算答案句子方面非常高效,与标准设置相比,仅需要约20%的推理,即,重新排列所有可能的候选人我们相信PEASI的发布,无论是数据集还是我们提出的设计,都有助于推进在Web规模上部署问答服务的研究和开发。
2022-01-16 cs.CL
QReason: Query-Focused Decoupled Chain-of-Thought for Efficient Passage Reranking
School of Artificial Intelligence, Beijing Normal University(北京师范大学人工智能学院);Beijing Key Laboratory of Artificial Intelligence for Education(北京市教育人工智能重点实验室);Engineering Research Center of Intelligent Technology and Educational ApplicationMinistry of Education(教育部智能技术与教育应用工程研究中心);Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学高瓴人工智能学院);Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所)
QReason提出解耦框架,将查询聚焦推理与窗口评估分离,通过两阶段训练生成可复用推理链,在BRIGHT基准上减少冗余并提升重排序效率与性能。
2026-09-28 cs.IR
GroupRank: A Groupwise Paradigm for Effective and Efficient Passage Reranking with LLMs
School of Computer Science and Engineering, Sun Yat-sen University(中山大学计算机科学与工程学院);Ant Group(蚂蚁集团)
GroupRank提出一种组内方法平衡灵活性和上下文感知,通过合成数据融合局部点状信号与全局列表排名,提升重排序效果和效率,实验显示在BRIGHT上达到65.2 NDCG@10,且推理速度提升6.4倍。
2026-04-30 cs.AI cs.IR cs.LG
PARADE: Passage Representation Aggregation for Document Reranking
预训练的Transformer模型,如BERT和T5,已被证明在ad-hoc通道和文档排序方面非常有效。由于这些模型固有的序列长度限制,它们需要在文档的段落上运行,而不是一次处理整个文档序列。虽然已经提出了几种聚合多电平信号的方法,但还没有对这些技术进行广泛的比较。在这项工作中,我们探讨的战略,从一个文件的段落聚合相关信号到一个最终的排名分数。我们发现,通过表示聚合技术可以显着提高在以前的工作中提出的技术,如采取最大的通过分数。我们称这种新方法为Parade。特别是,PARADE可以显著改善具有广泛信息需求的集合的结果,其中相关性信号可以在整个文档中传播(例如TREC Robust 04和GOV 2)。同时,不太复杂的聚合技术可以更好地用于具有通常可以精确定位到单个通道的信息需求的集合(例如TREC DL和TREC Genomics)。我们还进行了效率分析,并强调了几个策略,以提高基于转换器的聚合。
2021-06-10 cs.IR
DuetRAG: Collaborative Retrieval-Augmented Generation
Zhejiang University(浙江大学)
针对复杂领域问题中RAG检索不相关导致生成质量低的问题,提出DuetRAG框架,通过同时整合领域微调和RAG模型提升检索质量,并在HotPot QA上达到专家水平。
2024-05-12 cs.AI cs.CL
Rank-K: Test-Time Reasoning for Listwise Reranking
Johns Hopkins University(约翰霍普金斯大学)
针对现有大模型驱动的神经重排序器资源消耗高的问题,本文提出具备测试时可扩展性的列表式重排序模型Rank-K,在多个基准上显著超越当前最优模型,且多语言检索效果与单语场景相当。
2025-05-20 cs.CL cs.IR
Rethinking the Necessity of Adaptive Retrieval-Augmented Generation through the Lens of Adaptive Listwise Ranking
Hefei University of Technology(合肥工业大学);University of Science and Technology of China(中国科学技术大学)
本文通过适应性列表排序视角重新审视适应性检索增强生成的必要性,提出AdaRankLLM框架,通过零样本提示和段落dropout机制验证适应性排序的必要性,并通过两阶段渐进蒸馏提升小模型的精确排序与适应过滤能力。
2026-04-17 cs.AI cs.CL cs.IR
HeadRank: Decoding-Free Passage Reranking via Preference-Aligned Attention Heads
Weixin Group, Tencent, China(腾讯微信集团,中国);South China University of Technology, Guangzhou, China(华南理工大学,广州,中国)
本文提出HeadRank框架,通过熵正则化的头部选择、硬相邻级偏好对和分布正则化,在连续注意力域中提升偏好优化,从而在无需解码的情况下实现高效的段落重排序,其在多个基准测试中均取得最佳的平均NDCG@10成绩。
2026-05-19 cs.AI cs.IR
Question Decomposition for Retrieval-Augmented Generation
Humboldt-Universität zu Berlin(柏林洪堡大学)
本文提出在检索增强生成中引入查询分解,将多跳问题拆分为子问题后分别检索并重排序,从而在无需额外训练的情况下提升检索覆盖率和答案准确率。
2025-07-01 cs.CL
Passage Query Methods for Retrieval and Reranking in Conversational Agents
本文针对TREC iKAT赛道,扩展Generate-Retrieve-Generate流水线并提出两种段落查询方法(加权重排序和长短段落),利用Meta Llama模型提升对话式信息检索中的查询-文档匹配,其长短段落方法表现优于基线且媲美GPT-4系统。
2025-02-28 cs.IR
From Retrieval to Generation: Comparing Different Approaches
University of Innsbruck(因斯布鲁克大学)
本研究系统比较了检索、生成及混合模型在开放域问答和检索增强任务中的性能,发现DPR在NQ上top-1达50.17%,混合模型提升BEIR nDCG@10至52.59,而BM25在WikiText-103上困惑度更低。
2025-02-27 cs.CL
Visconde: Multi-document QA with GPT-3 and Neural Reranking
NeuralMind;Universidade Federal de Pernambuco(伯南布哥联邦大学)
本文提出了一个问答系统,可以回答的问题,其支持的证据是分散在多个(可能很长)的文件。该系统名为Visconde,使用三步管道来执行任务:分解,检索和聚合。第一步使用Few-Shot大语言模型(LLM)将问题分解为更简单的问题。然后,一个国家的最先进的搜索引擎被用来检索候选段落从一个大的集合为每个分解的问题。在最后一步中,我们在Few-Shot设置中使用LLM将段落的内容聚合到最终答案中。该系统在三个数据集上进行评估:IIRC,Qasper和StrategyQA。结果表明,目前的检索器是主要的瓶颈,读者已经在人类的水平,只要提供相关的段落。当模型在回答问题之前被诱导给出解释时,该系统也被证明更有效。代码可在\url{https://github.com/neuralmind-ai/visconde}上获得。
2022-12-19 cs.CL cs.IR
LLM-based Listwise Reranking under the Effect of Positional Bias
University of Amsterdam(阿姆斯特丹大学);University of Cambridge(剑桥大学);Baidu Inc.(百度公司);Johns Hopkins University(约翰斯·霍普金斯大学)
本文提出DebiasFirst方法,通过位置校准和位置感知的数据增强缓解大语言模型在列表级重排序中的位置偏见问题,提升排序效果和鲁棒性。
2026-04-04 cs.IR
CLIMB: Confidence-Guided Complementary Evidence for Multimodal Retrieval-Augmented Generation
Rutgers University(罗格斯大学);Google(谷歌)
CLIMB提出无需训练的推理时框架,通过互补证据池和置信度控制的细化,提升多模态RAG在知识密集型视觉问答中的性能。
2026-10-05 cs.CL
Towards Better Instruction Following Retrieval Models
Georgia Institute of Technology(佐治亚理工学院)
本文提出大规模高质量训练语料库InF-IR及指令感知嵌入模型InF-Embed,通过构建高度对比的指令-查询-段落三元组并采用对比学习,显著提升了检索模型遵循用户指令的能力。
2025-05-27 cs.CL cs.IR
FIRST: Faster Improved Listwise Reranking with Single Token Decoding
针对传统列表式大语言模型重排序效率低、对高相关段落排序误差重视不足的问题,提出FIRST方法,通过单token解码直接获取排序结果并引入排序学习损失,推理提速50%且性能提升,还验证了其用于检索器相关性反馈的显著效果。
2024-06-21 cs.IR
Do Large Language Models Favor Recent Content? A Study on Recency Bias in LLM-Based Reranking
Waseda University(早稻田大学);The Hong Kong Polytechnic University(香港理工大学)
本研究通过在TREC数据集中注入人工出版日期,发现LLMs在重排序任务中普遍存在近因偏差,持续提升“新鲜”段落排名,且较大模型仅能减弱而无法消除该效应。
2026-09-22 cs.IR
Towards Robust Ranker for Text Retrieval
University of Technology Sydney(悉尼科技大学);Microsoft(微软)
排名器在事实上的“检索和重新排名”管道中发挥着不可或缺的作用,但它的训练仍然滞后-从中度负面学习或/和作为检索器的辅助模块。在这项工作中,我们首先确定了两个主要障碍,一个强大的排名,即,由训练有素的检索器和为高能力排名器采样的非理想阴性引起的固有标签噪声。因此,我们提出多个检索器作为负生成器提高了排名器的鲁棒性,其中i)涉及广泛的分布外标签噪声使排名器针对每个噪声分布,以及ii)来自联合分布的各种硬负相对接近排名器的负分布,从而导致更具挑战性的有效训练。为了评估我们强大的排名(被称为R $^2$ anker),我们进行了各种设置的流行的通道检索基准,包括BM 25-重新排名,全排名,检索蒸馏等实验结果验证了新的国家的最先进的有效性,我们的模型。
2022-06-16 cs.CL cs.IR
Self-Retrieval: End-to-End Information Retrieval with One Large Language Model
Chinese Academy of Sciences(中国科学院);University of Chinese Academy of Sciences(中国科学院大学);Alibaba Group(阿里巴巴集团)
针对信息检索系统与大语言模型分离架构的协作限制,提出Self-Retrieval端到端架构,将检索功能统一于单个LLM,性能优于现有方法且提升下游应用表现。
2024-11-04 cs.AI cs.CL cs.IR
Lost at the End: Primacy Bias in Multimodal Retrieval-Augmented Question Answering
University of California, San Diego(加州大学圣地亚哥分校);The Ohio State University(俄亥俄州立大学)
研究多模态知识型视觉问答中检索上下文的位置依赖,发现不同于纯文本的U形效应,出现首因偏差(开头优于末尾),并通过消融实验定位原因为指令调优阅读器的提示槽0。
2026-09-16 cs.AI cs.CL cs.CV
A Hybrid Retrieval and Reranking Framework for Evidence-Grounded Retrieval-Augmented Generation
University of North Texas(北德克萨斯大学);California State University Fullerton(加州州立大学富勒顿分校)
本文提出一种混合检索与重排序框架,用于生物医学和医疗相关文档问答中的引用感知RAG,通过亚马逊Bedrock知识库进行文档处理,并通过Cohere重排序提升相关性,最终实现高准确率的证据基础生成。
2026-05-03 cs.IR
Semantic Evolutionary Concept Distances for Effective Information Retrieval in Query Expansion
Hong Kong Baptist University(香港浸会大学);University of Perugia(佩鲁贾大学)
在这项工作中,几个语义方法的概念为基础的查询扩展和重新排序方案进行了研究,并与不同的基于本体的扩展方法在Web文档搜索和检索进行了比较。特别是,我们专注于基于概念的查询扩展计划,其中,为了有效地提高精度的Web文档检索,以减少用户的浏览时间,主要目标是快速地为用户提供最合适的查询扩展。在Web文档检索中,查询扩展的两个关键任务是找到扩展候选,即Web文档域中最接近的概念,并对扩展查询进行适当的排序。我们提出的方法,旨在提高扩展阶段更好的Web文档检索和精度。其基本思想是使用PMING距离来测量候选概念之间的距离,PMING距离是一种协作语义接近度度量,即可以通过使用来自web搜索引擎的统计结果来计算的度量。实验结果表明,该方法能为用户提供更满意的扩展结果,提高了Web文档检索的质量。
2017-01-19 cs.AI cs.CL cs.IR
RAGSmith: A Framework for Finding the Optimal Composition of Retrieval-Augmented Generation Methods Across Datasets
TOBB University of Economics and Technology(托布卡大学经济与技术学院);Roketsan Inc.(罗克特兰公司)
提出RAGSmith框架,将RAG设计视为端到端架构搜索,通过遗传搜索联合优化检索与生成指标,在6个领域上平均比朴素基线提升3.8%,并发现向量检索加生成后反思的稳健骨干结构。
2025-11-03 cs.AI cs.CL cs.IR
Strong and Efficient Baselines for Open Domain Conversational Question Answering
Idiap Research Institute(伊迪亚普研究所);EPFL(洛桑联邦理工学院);Amazon Alexa AI(亚马逊Alexa人工智能部门)
本文针对ODConvQA任务中现有DPR-FiD流水线性能下降的问题,提出在检索器与阅读器间引入快速重排序组件及针对性微调的强高效基线方法,在提升SotA结果的同时降低60%阅读器延迟。
2023-10-23 cs.CL
Decomposing Retrieval Failures in RAG for Long-Document Financial Question Answering
本文针对长文档金融问答中的检索失败问题,提出一种基于页面的分层检索方法,通过微调双编码器提升页面和片段的检索效果。
2026-02-20 cs.CL cs.IR