R$^3$AG: Retriever Routing for Retrieval-Augmented Generation
Renmin University of China(中国人民大学);South China University of Technology(华南理工大学)
R$^3$AG通过动态对齐查询与检索器能力,解决检索增强生成中检索器选择单一的问题,提升生成准确性。
2026-04-22 cs.IR
One Size Does Not Fit All! Dynamic Retriever and Generator Selection for RAG
Media and Data Science Research Lab(媒体与数据科学研究实验室);Adobe Systems(奥多比系统公司);IACS(高级计算研究学院);University of Glasgow(格拉斯哥大学)
针对RAG固定配置效率低的问题,提出DRAG框架,通过QPP信号和微调LLM联合动态选择检索器与生成器,在多个QA基准上实现更优的效率-效果权衡。
2026-09-17 cs.AI cs.IR
RRRA: Resampling and Reranking through a Retriever Adapter
Bongsu Kim
本文提出可学习适配器模块RRRA,动态估计难负例为假负例的概率,并用于训练重采样与推理重排序,在标准基准上一致超越强双编码器基线。
2025-08-07 cs.AI cs.IR
The Multilingual Curse at the Retrieval Layer: Evidence from Amharic
Independent Researcher(独立研究者);University of Amsterdam(阿姆斯特丹大学)
针对零样本多语言检索在低资源形态丰富语言(如阿姆哈拉语)上表现不佳的问题,通过对比实验发现单语检索器显著优于多语言检索器,并揭示了多语言基准测试的局限性。
2026-05-23 cs.CL cs.IR cs.LG
Interpretability Analysis of Domain Adapted Dense Retrievers
University of Amsterdam(阿姆斯特丹大学)
本文利用积分梯度框架提出可解释性方法,分析无监督域自适应对稠密检索器查询与文档归因的影响,发现自适应模型更关注领域内术语。
2025-01-24 cs.AI cs.IR
MoR: Better Handling Diverse Queries with a Mixture of Sparse, Dense, and Human Retrievers
Carnegie Mellon University(卡内基梅隆大学);Technical University of Darmstadt(达姆斯塔特技术大学)
针对单一检索器难以泛化的问题,提出零样本加权混合异质检索器(MoR),以0.8B参数超越各单独检索器及7B模型,并有效整合人类信息源,性能提升显著。
2025-06-18 cs.AI cs.CL cs.IR
A Comparative Study of Specialized LLMs as Dense Retrievers
Key Laboratory of Network Data Science and Technology(网络数据科学与技术重点实验室);Institute of Computing Technology(计算技术研究所);Chinese Academy of Sciences(中国科学院);State Key Laboratory of AI Safety(人工智能安全国家重点实验室);University of Chinese Academy of Science(中国科学院大学)
本研究比较了八种Qwen2.5 7B专用LLM在稠密检索中的表现,发现数学与长推理能力有损性能,而视觉语言和代码专用模型零样本检索更优,为统一检索提供方向。
2025-08-06 cs.AI cs.CL cs.IR
Boot and Switch: Alternating Distillation for Zero-Shot Dense Retrieval
School of Computing and Information Systems(计算与信息系统学院);The University of Melbourne(墨尔本大学);Google DeepMind(谷歌DeepMind)
本文提出无监督交替蒸馏方法ABEL,通过稠密检索器与重排序器相互提供监督信号迭代提升,在BEIR基准上超越有监督和无监督检索器,并具备强零样本领域适应能力。
2023-11-27 cs.CL cs.IR
MetaGen Blended RAG: Unlocking Zero-Shot Precision for Specialized Domain Question-Answering
IBM
针对企业专业领域RAG零样本精度低的问题,提出MetaGen Blended RAG,通过元数据生成与混合查询索引增强检索,在PubMedQA上超越现有零样本基准并媲美微调模型。
2025-08-05 cs.AI cs.CL cs.IR
Operational Advice for Dense and Sparse Retrievers: HNSW, Flat, or Inverted Indexes?
本文基于 Lucene 在 BEIR 上比较 HNSW、flat(含量化变体)与稀疏倒排索引,从索引时间、查询性能和检索质量给出稠密与稀疏检索器的选型建议。
2024-09-10 cs.IR
Zero-shot Multimodal Document Retrieval via Cross-modal Question Generation
Yonsei University(延世大学);Seoul National University(首尔国立大学)
针对多模态文档检索中私有文档、未知领域/语言的挑战,提出PREMIR框架,利用MLLM生成跨模态预问题扩展匹配范围,在分布外基准上实现SOTA性能并经消融研究验证组件有效性。
2025-08-23 cs.AI cs.IR
Injecting Domain Adaptation with Learning-to-hash for Effective and Efficient Zero-shot Dense Retrieval
University of Waterloo(滑铁卢大学)
针对直接应用学习哈希技术会降低零样本稠密检索性能的问题,提出将领域适配注入有监督学习哈希的方法,在保持内存与速度效率的同时显著提升零样本检索效果。
2023-07-19 cs.AI cs.IR cs.LG
To Interpolate or not to Interpolate: PRF, Dense and Sparse Retrievers
当前用于信息检索的预训练语言模型方法可以大致分为两类:稀疏检索器(也属于非神经方法,诸如词袋方法,例如,BM 25)和密集的寻回犬。这些类别中的每一个似乎都具有不同的相关性特征。以前的工作已经研究了如何从稀疏检索相关信号可以通过插值与密集检索相结合。这样的插值通常会导致更高的检索效率。在本文中,我们考虑的问题相结合的相关信号从稀疏和密集检索的背景下的伪相关反馈(PRF)。这种情况下提出了两个关键的挑战:(1)插值应该发生在什么时候:之前,之后,或之前和之后的PRF过程?(2)应该考虑哪种稀疏表示:zero-shot词袋模型(BM 25),还是学习的稀疏表示?为了回答这些问题,我们进行了全面的经验评估,考虑了一种有效的和可扩展的神经PRF方法(Vector-PRF),三种有效的密集检索器(ANCE,TCTv 2,DistillBERT)和一种最先进的学习稀疏检索器(uniCOIL)。从我们的实验的实证研究结果表明,无论稀疏表示和密集检索,插值之前和之后的PRF达到最高的效率在大多数数据集和指标。
2022-04-30 cs.IR
CONVERSER: Few-Shot Conversational Dense Retrieval with Synthetic Data Generation
National Taiwan University(台湾大学);Taiwan AI Labs(台湾人工智能实验室)
针对对话式密集检索因领域内配对数据获取成本高而难以训练的问题,提出CONVERSER框架,利用大语言模型的上下文学习能力仅需最多6个样本生成合成数据,在OR-QuAC和TREC CAsT 19基准上达到与全监督模型相当的性能。
2023-09-13 cs.CL cs.IR
Masking or Mitigating? Deconstructing the Impact of Query Rewriting on Retriever Biases in RAG
Siebel School of Computing and Data Science, University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校赛贝尔计算与数据科学学院);Adobe Research(Adobe研究院);Inception Labs;Indian Institute of Science(印度科学研究所)
本文研究查询重写技术对RAG系统中检索偏见的影响,发现简单LLM重写能显著降低偏见,但对抗条件下效果受限。分析揭示两种机制:简单重写通过增加分数方差降低偏见,伪文档生成通过真实去相关性降低偏见。
2026-04-20 cs.IR
Leveraging LLMs for Unsupervised Dense Retriever Ranking
针对域偏移下无标注目标语料的稠密检索器选择难题,提出仅依赖目标语料的无监督方法LARMOR,通过LLM生成伪相关信号对检索器排序,效果优于现有基线。
2024-05-23 cs.IR
Real-time Indexing for Large-scale Recommendation by Streaming Vector Quantization Retriever
针对推荐系统索引有效性瓶颈问题,提出流式向量量化检索索引结构,兼具实时性、索引均衡与可修复性,已在抖音系产品全量替换主流检索器,显著提升用户参与度。
2025-01-15 cs.IR
AutoMIR: Effective Zero-Shot Medical Information Retrieval without Relevance Labels
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学人工智能学院 Gallagher 学院)
本文提出SL-HyDE方法,利用大语言模型生成假设文档并自学习优化,无需相关性标签实现医学零样本检索,并构建CMIRB基准验证其有效性。
2025-05-26 cs.AI cs.IR
Exp4Fuse: A Rank Fusion Framework for Enhanced Sparse Retrieval using Large Language Model-based Query Expansion
City University of Hong Kong(香港城市大学);The University of Hong Kong(香港大学)
本文提出 Exp4Fuse 排序融合框架,通过融合原始查询与 LLM 零样本扩展查询的稀疏检索结果,在多个数据集上以更低成本取得 SOTA。
2025-06-05 cs.AI cs.CL cs.IR
Promptagator: Few-shot Dense Retrieval From 8 Examples
Google Research(谷歌研究院)
最近关于信息检索的许多研究都集中在如何从一个任务(通常具有丰富的监督数据)转移到监督有限的各种其他任务上,隐含的假设是可以从一个任务推广到所有其他任务。然而,这忽略了一个事实,即有许多不同的和独特的检索任务,每一个目标是不同的搜索意图,查询和搜索域。在本文中,我们建议在Few-Shot稠密检索上工作,在这种设置中,每个任务都有一个简短的描述和一些例子。为了放大几个例子的力量,我们提出了检索器(检索器),它利用大语言模型(LLM)作为一个Few-Shot查询生成器,并根据生成的数据创建特定于任务的检索器。在LLM的泛化能力的支持下,Aptagator可以仅基于几个示例创建特定于任务的端到端检索器,而不使用Natural Questions或MS MARCO来训练%问题生成器或双编码器。令人惊讶的是,不超过8个示例的LLM提示允许双编码器在11个检索集上平均超过1.2 nDCG,超过在MS MARCO(如ColBERT v2)上训练的经过大量工程设计的模型。使用相同的生成数据进一步训练标准尺寸的重新排序器产生另一个5.0点nDCG改善。我们的研究确定,查询生成可以比以前观察到的更有效,特别是当少量的特定于任务的知识。
2022-09-23 cs.CL cs.IR
ARL2: Aligning Retrievers for Black-box Large Language Models via Self-guided Adaptive Relevance Labeling
Renmin University of China(中国人民大学);Georgia Institute of Technology(佐治亚理工学院)
提出ARL2检索器学习技术,利用黑盒LLM作为标注器对证据打分,并结合自适应自训练策略降低标注成本,显著提升了检索准确率与零样本泛化能力。
2024-06-04 cs.AI cs.CL cs.IR
Precise Zero-Shot Dense Retrieval without Relevance Labels
Carnegie Mellon University(卡内基梅隆大学);University of Waterloo(滑铁卢大学)
虽然密集检索已被证明是有效和高效的跨任务和语言,它仍然难以创建有效的完全zero-shot稠密检索系统时,没有相关性标签。在本文中,我们认识到零样本学习和编码相关性的困难。相反,我们建议通过假设的文档嵌入(HyDE)。给定一个查询,HyDE第一个zero-shot命令一个遵循查询的语言模型(例如,InstructGPT)生成一个假设文档。该文档捕获相关性模式,但不真实,可能包含错误的细节。然后,一个无监督的对比学习编码器(例如Contriever)将文档编码为嵌入向量。该向量识别语料库嵌入空间中的邻域,其中基于向量相似性检索相似的真实文档。第二步将生成的文档与实际的语料库联系起来,编码器的密集瓶颈过滤掉了不正确的细节。我们的实验表明,HyDE显著优于最先进的无监督密集检索器Contriever,并显示出与微调检索器相当的强大性能,跨越各种任务(例如Web搜索,QA,事实验证)和语言(例如SW,KO,JA)。
2022-12-20 cs.CL cs.IR
Coverage Matters: MarginMerge for Compressing Multi-Vector Visual Document Retrievers
University of British Columbia(不列颠哥伦比亚大学);Vector Institute(Vector研究所);Global Relay(环球中继)
本文针对多向量视觉文档检索器压缩问题,提出MarginMerge方法,在6个数据集上实现高检索精度保留,大幅减少存储向量,且可跨数据集迁移。
2026-08-05 cs.IR
Vote-in-Context: Turning VLMs into Zero-Shot Rank Fusers
King Abdullah University of Science and Technology (KAUST)(卡布斯大学);King Khalid University (KKU)(国王 Khalid 大学);Edge Hill University(埃德希尔大学)
本文提出 Vote-in-Context (ViC),一个无需训练的零样本框架,通过将内容与检索器元数据序列化进 VLM 提示,实现列表级重排序与融合,在多个视频检索基准上取得新 SOTA。
2026-11-03 cs.CV cs.IR
SAGE: Structure Aware Graph Expansion for Retrieval of Heterogeneous Data
University of Pennsylvania(宾夕法尼亚大学);Arizona State University(亚利桑那州立大学)
SAGE通过构建结构感知的图扩展框架,在异构数据检索中提升召回率,采用混合检索与代理策略实现多模态证据链检索。
2026-02-18 cs.IR
Collapse of Dense Retrievers: Short, Early, and Literal Biases Outranking Factual Evidence
University of California, Los Angeles(加州大学洛杉矶分校);CIS, LMU Munich(慕尼黑路德维希-马克西米利安大学计算机学院);Munich Center for Machine Learning(慕尼黑机器学习中心)
本文通过受控实验揭示稠密检索器存在短文档、靠前位置、重复实体和字面匹配等启发式偏差,多种偏差叠加时性能灾难性下降,并证明这些偏差会误导 RAG 中的大语言模型,使性能比不提供文档时下降 34%。
2025-06-02 cs.CL cs.IR
In Defense of Cross-Encoders for Zero-Shot Retrieval
NeuralMind;UNICAMP(坎皮纳斯大学);Zeta Alpha
双编码器和交叉编码器广泛用于许多最先进的检索管道中。在这项工作中,我们研究的泛化能力,这两种类型的架构上的一个广泛的参数计数域内和域外的情况。我们发现,参数的数量和交叉编码器的早期查询文档的相互作用在检索模型的泛化能力发挥了重要作用。我们的实验表明,增加模型大小的结果在域内测试集的边际收益,但更大的收益在新的领域从未见过在微调。此外,我们表明,交叉编码器在很大程度上优于类似大小的双编码器在几个任务。在BEIR基准测试中,我们最大的交叉编码器超过最先进的双向编码器超过4个平均点。最后,我们表明,使用双编码器作为第一阶段检索器相比,一个更简单的检索器,如BM 25的域外任务,没有提供任何收益。代码可在www.example.com上获得
2022-12-12 cs.CL cs.IR
Parameter-Efficient Prompt Tuning Makes Generalized and Calibrated Neural Text Retrievers
Tsinghua University(清华大学);Meituan-Dianping Group(美团点评集团)
提示微调尝试更新预训练模型中的一些特定于任务的参数。它在语言理解和生成任务上都取得了与微调完整参数集相当的性能。在这项工作中,我们研究了神经文本检索器的提示微调问题。我们引入参数高效的提示微调跨域,跨域和跨主题设置的文本检索。通过广泛的分析,我们表明,该策略可以减轻两个问题-参数效率低下和弱的泛化能力-所面临的微调为基础的检索方法。值得注意的是,它可以显着提高域外zero-shot泛化的检索模型。通过仅更新0.1%的模型参数,提示微调策略可以帮助检索模型实现更好的泛化性能比传统的方法,其中所有参数都更新。最后,为了促进检索者跨主题泛化能力的研究,我们策划并发布了一个学术检索数据集,其中包含87个主题的18 K查询结果对,使其成为迄今为止最大的特定主题检索数据集。
2022-07-14 cs.CL cs.IR cs.LG
UniIR: Training and Benchmarking Universal Multimodal Information Retrievers
University of Waterloo(滑铁卢大学);Georgia Institute of Technology(佐治亚理工学院);Hong Kong University of Science and Technology(香港科技大学);Google DeepMind(谷歌DeepMind)
本文提出UniIR,一个指令引导的统一多模态检索器,通过多任务联合训练实现八类检索任务与零样本泛化,并构建M-BEIR基准以标准化通用多模态检索评测。
2023-11-28 cs.AI cs.CL cs.CV
Study on LLMs for Promptagator-Style Dense Retriever Training
Massachusetts Institute of Technology Lincoln Laboratory(麻省理工学院林肯实验室);University of Waterloo(滑铁卢大学)
针对原始Promptagator依赖专有大模型的问题,研究发现参数≤14B甚至3B的开源LLMs可作为有效的Promptagator风格查询生成器,为领域专用稠密检索模型微调的合成数据生成提供可靠替代方案。
2025-10-02 cs.CL cs.IR
ZeQR: Zero-shot Query Reformulation for Conversational Search
Institute for Financial Services Analytics(金融服务分析研究院);University of Delaware(特拉华大学)
本文提出零样本查询重构框架ZeQR,利用机器阅读理解语言模型显式解决对话查询中的共指和省略歧义,无需监督数据即可普遍适用于任意检索器,并在四个TREC对话数据集上持续超越最先进基线。
2024-10-17 cs.CL cs.IR
Beyond Relevance: Evaluate and Improve Retrievers on Perspective Awareness
Carnegie Mellon University(卡内基梅隆大学);University of Washington(华盛顿大学);University of Pennsylvania(宾夕法尼亚大学);Tencent AI Lab(腾讯AI实验室)
本文构建多视角检索基准并发现现有检索器视角感知有限,进而提出基于表示空间几何特征的零样本投影方法,有效提升检索器的视角感知能力及下游任务性能。
2024-05-04 cs.CL cs.IR
RALLM-POI: Retrieval-Augmented LLM for Zero-shot Next POI Recommendation with Geographical Reranking
Singapore University of Technology and Design(新加坡科技设计大学)
RALLM-POI通过历史轨迹检索、地理距离重排序和智能体式LLM自校正,在零样本条件下提升下一兴趣点推荐准确性,并在三个Foursquare数据集上优于传统和LLM基线。
2025-09-21 cs.AI cs.IR
$\texttt{MixGR}$: Enhancing Retriever Generalization for Scientific Domain through Complementary Granularity
Technical University of Darmstadt(达姆施塔特工业大学);Carnegie Mellon University(卡内基梅隆大学);University of Washington(华盛顿大学);University of Pennsylvania(宾夕法尼亚大学);Tencent AI Lab(腾讯AI实验室)
针对科学领域密集检索器存在的领域适配差、难处理复杂查询-文档匹配的问题,本文提出零样本方法MixGR,融合多粒度匹配指标生成统一相似度分数,显著提升多类检索器性能及下游科学问答效果。
2024-11-01 cs.CL cs.IR
Early Stage Sparse Retrieval with Entity Linking
尽管他们的低资源设置的优势,传统的稀疏检索依赖于精确的匹配方法之间的高维词袋(BoW)表示的查询和收集。因此,检索性能受到语义差异和词汇空缺的限制。另一方面,基于transformer的密集检索器通过利用语料库的低维上下文化表示来显著改进信息检索任务。虽然密集检索器以其相对有效性而闻名,但与稀疏检索器相比,它们的效率较低且缺乏泛化问题。对于轻量级检索任务,高计算资源和时间消耗是鼓励放弃密集模型的主要障碍,尽管有潜在的收益。在这项工作中,我们建议通过扩展查询和具有两种格式的实体名称的链接实体的文档来提高稀疏检索器的性能:1)显式和2)散列。我们采用了一个zero-shot的端到端密集实体链接系统的实体识别和消歧,以增加语料库。通过利用先进的实体链接方法,我们相信稀疏和密集检索器之间的有效性差距可以缩小。我们在MS MARCO通道数据集上进行实验。由于我们关注的是大型信息检索系统的级联排名架构中的早期检索,我们使用recall@1000来评估我们的结果。我们的方法也能够检索文件的查询子集判断是特别困难的,在以前的工作。我们进一步证明了非扩展和扩展运行与显式和散列实体检索互补的结果。因此,我们采用了运行融合的方法,以最大限度地提高实体链接的好处。
2022-08-10 cs.IR
Pre-Training Multi-Modal Dense Retrievers for Outside-Knowledge Visual Question Answering
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
针对OK-VQA任务中多模态检索模型训练数据需求大的问题,提出自动数据生成流水线预训练段落检索模型,使Precision@5提升26.9%且具备零样本检索能力。
2023-06-28 cs.CL cs.CV cs.IR
ColBERT-XM: A Modular Multi-Vector Representation Model for Zero-Shot Multilingual Information Retrieval
Maastricht University(马斯特里赫特大学)
ColBERT-XM 提出一种模块化多向量稠密检索模型,仅利用单一高资源语言数据实现零样本多语言迁移,在保持竞争力的同时提升数据效率并降低能耗。
2024-02-23 cs.CL cs.IR
Information Retrieval with Entity Linking
针对传统稀疏检索器受语义差异和词汇鸿沟限制的问题,提出用显式和哈希两种格式的链接实体扩展查询与文档,结合零样本稠密实体链接系统增强语料库,在MS MARCO数据集上有效提升稀疏检索性能并缩小与稠密检索器的差距。
2024-04-07 cs.IR
Document Optimization for Black-Box Retrieval via Reinforcement Learning
Stanford University(斯坦福大学);ContextualAI
提出通过强化学习(GRPO)优化文档表示,使其与目标检索器的查询分布对齐,仅需黑盒访问检索排名,在代码和视觉文档检索任务中提升性能,使小模型超越大模型。
2026-10-08 cs.CL cs.IR
DemoRank: Selecting Effective Demonstrations for Large Language Models in Ranking Task
Renmin University of China(中国人民大学)
本文针对段落排序任务提出示例选择框架 DemoRank,通过引入重排序器并设计列表成对训练方法,结合迭代近似最优示例列表,有效捕捉示例间依赖关系,显著提升了大语言模型在排序任务中的性能。
2024-09-25 cs.CL cs.IR
It Takes Two to Match: Co-Evolving Generative Retriever with Reinforcement Learning
University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校);Apple(苹果公司)
本文提出CoGR框架,通过两阶段训练与GRPO强化学习协同优化查询、项侧生成器,在多基准数据集上较最强基线F1值提升10.9%与36.1%,实现更优检索效果。
2026-09-02 cs.CL cs.IR
Zero-shot Query Contextualization for Conversational Search
当前的会话段落检索系统通过使用将用户的问题置于会话的上下文中的中间查询解析步骤来将会话搜索转换为自组织搜索。虽然所提出的方法已被证明是有效的,但它们仍然假设大规模问题解决和会话搜索数据集的可用性。为了免除对这些数据的可用性的依赖,我们在ad-hoc搜索数据上调整了一个预先训练的令牌级密集检索器来执行会话搜索,而无需额外的微调。所提出的方法允许在会话历史中上下文化用户问题,但仅限制问题和潜在答案之间的匹配。我们的实验证明了所提出的方法的有效性。我们还进行了分析,提供了如何在潜在的空间语境化工程的见解,在本质上介绍了从对话中突出的条款的偏见。
2022-04-22 cs.IR
Autoregressive Retriever: Improving Query Understanding from Item Feedback for Universal Multimodal Retrieval
School of Computer Science and Technology, Beijing Institute of Technology(北京理工大学计算机科学与技术学院);Zhongguancun Academy(中关村实验室);Xiaohongshu(小红书);Southeast Academy of Information Technology, Beijing Institute of Technology(北京理工大学东南信息科学研究院);Zhongguancun Laboratory(中关村实验室)
针对通用多模态检索中查询表示无法利用检索项目优化的问题,提出ARR模型,通过交替检索项目与更新查询嵌入,结合监督微调与强化学习优化,在域内和零样本基准上性能优于基线。
2026-10-09 cs.CV cs.IR
Tevatron 2.0: Unified Document Retrieval Toolkit across Scale, Language, and Modality
本文介绍升级版 Tevatron 2.0 工具包,支持跨规模、跨语言和多模态的统一神经检索训练与评估,并发布首个统一文本、图像、视频和音频检索的 OmniEmbed 模型作为研究基线。
2025-05-05 cs.IR
Autofocus Retrieval: An Effective Pipeline for Multi-Hop Question Answering With Semi-Structured Knowledge
Institute of Computer Science(计算机科学研究所);Johannes Gutenberg University Mainz(美因茨约翰内斯·古腾堡大学)
本文提出Autofocus-Retriever框架,通过结合结构和文本检索方法,在三个STaRK问答基准测试中取得最佳零样本和一次样本结果,其性能由四个约束驱动检索步骤和四个补充处理步骤驱动。
2026-05-14 cs.AI cs.CL cs.IR
On Correlating Factors for Domain Adaptation Performance
本研究分析影响密集检索器领域适应性能的因素,发现生成查询与测试文档的领域相似性及类型分布是关键,强调领域定制查询的重要性。
2025-01-24 cs.IR stat.AP
The Case Against Generation for Retrieval: Discriminative Language Models as Effective Retrievers
Meta
研究探讨大语言模型用于检索的问题,通过将其作为语义表示主干重振双塔检索架构,引入创新的双塔框架,经实验评估,该架构在公共基准和生产系统中表现出色,证明传统双塔范式结合现代学习后在工业检索中仍具竞争力。
2026-07-29 cs.IR
Open-source Large Language Models are Strong Zero-shot Query Likelihood Models for Document Ranking
CSIRO(联邦科学与工业研究组织);The University of Queensland(昆士兰大学)
本文研究仅预训练未微调的开源LLMs作为零样本查询似然模型的文档排序能力,发现额外指令微调可能降低效果,并提出结合LLM-QLM与混合检索器的先进排序系统。
2023-10-20 cs.CL cs.IR
Is Relevance Propagated from Retriever to Generator in RAG?
本研究针对信息检索任务的主题重叠相关性,利用IR测试集实证探究RAG中检索文档的主题相关性与下游任务效用的关系,发现二者呈弱正相关且相关性随上下文规模增大而降低,同时更优的检索模型通常能提升RAG下游性能。
2025-02-20 cs.IR
MM-Embed: Universal Multimodal Retrieval with Multimodal LLMs
NVIDIA(英伟达);University of Waterloo(滑铁卢大学)
针对现有检索模型场景单一、模态受限的问题,本文提出基于多模态大语言模型的通用多模态检索方法MM-Embed,通过模态感知难负例挖掘、持续微调等技术,在多模态和文本检索基准上均取得SOTA性能,并验证了MLLM零样本重排序的提升效果。
2025-02-22 cs.AI cs.CL cs.CV
Few-Shot Conversational Dense Retrieval
稠密检索(DR)通过在学习的嵌入空间中进行匹配,有可能解决会话搜索中的查询理解挑战。然而,由于DR模型对监督信号的额外需求和会话搜索的长尾性质,这种适应是具有挑战性的。在本文中,我们提出了一个会话的稠密检索系统,ConvDR,学习上下文嵌入多轮会话查询和检索文件只使用嵌入点积。此外,我们授予ConvDR Few-Shot能力使用教师-学生框架,在那里我们采用一个特设的密集检索器作为教师,继承其文档编码,并学习学生查询编码器模仿教师嵌入Oracle重构查询。我们在TREC CAST和OR-QuAC上的实验证明了ConvDR在Few-Shot和完全监督设置中的有效性。它优于以前在稀疏词空间中操作的系统,匹配Oracle查询重构的检索精度,并且由于其简单性而更高效。我们的分析表明,ConvDR的优势来自于它能够捕捉信息上下文,而忽略了不相关的上下文在以前的会话轮。这使得ConvDR随着对话的发展而变得更有效,而之前的系统可能会被之前回合增加的噪音所迷惑。我们的代码可在https://github.com/thunlp/ConvDR上公开获取。
2021-05-19 cs.IR
SPRINT: A Unified Toolkit for Evaluating and Demystifying Zero-shot Neural Sparse Retrieval
University of Waterloo(滑铁卢大学);TU Darmstadt(达姆施塔特工业大学)
本研究推出基于Pyserini和Lucene的统一神经稀疏检索评估工具包SPRINT,在BEIR基准上建立零样本稀疏检索基线,揭示SPLADEv2性能最优的关键原因。
2023-07-19 cs.CL cs.IR cs.LG
Query2doc: Query Expansion with Large Language Models
Microsoft Research(微软研究院)
本文提出query2doc方法,利用大型语言模型生成伪文档来扩展查询,显著提升稀疏和稠密检索系统的性能,无需微调。
2023-10-11 cs.CL cs.IR
The Recall Trap: A Recall-Maximizing Retriever Configuration Reduces Issue Resolution in Fixed-Budget Code Context
该研究发现,最大化召回率的检索器配置会降低代码修复的问题解决率,建议固定预算下不要按文件硬去重,应针对任务而非检索指标优化打包策略。
2026-08-18 cs.CL cs.IR cs.SE