Few-Shot Conversational Dense Retrieval
稠密检索(DR)通过在学习的嵌入空间中进行匹配,有可能解决会话搜索中的查询理解挑战。然而,由于DR模型对监督信号的额外需求和会话搜索的长尾性质,这种适应是具有挑战性的。在本文中,我们提出了一个会话的稠密检索系统,ConvDR,学习上下文嵌入多轮会话查询和检索文件只使用嵌入点积。此外,我们授予ConvDR Few-Shot能力使用教师-学生框架,在那里我们采用一个特设的密集检索器作为教师,继承其文档编码,并学习学生查询编码器模仿教师嵌入Oracle重构查询。我们在TREC CAST和OR-QuAC上的实验证明了ConvDR在Few-Shot和完全监督设置中的有效性。它优于以前在稀疏词空间中操作的系统,匹配Oracle查询重构的检索精度,并且由于其简单性而更高效。我们的分析表明,ConvDR的优势来自于它能够捕捉信息上下文,而忽略了不相关的上下文在以前的会话轮。这使得ConvDR随着对话的发展而变得更有效,而之前的系统可能会被之前回合增加的噪音所迷惑。我们的代码可在https://github.com/thunlp/ConvDR上公开获取。
2021-05-19 cs.IR
PromptReps: Prompting Large Language Models to Generate Dense and Sparse Representations for Zero-Shot Document Retrieval
本文提出 PromptReps,通过提示大语言模型生成稠密与稀疏混合表示,无需训练即可实现零样本文档检索,并在多个基准上取得与有监督嵌入方法相当或更优的效果。
2024-10-19 cs.IR
A Thorough Examination on Zero-shot Dense Retrieval
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学高瓴人工智能学院);Baidu Inc.(百度公司)
本文首次系统考察密集检索模型的零样本能力,从源训练集、目标数据集偏差及现有模型比较等方面分析关键影响因素,为理解和改进零样本DR提供证据。
2023-04-23 cs.CL cs.IR
How Train-Test Leakage Affects Zero-shot Retrieval
神经检索模型通常在MS MARCO / ORCAS数据集的数百万个查询(子集)上进行训练,然后在250个Robust 04查询或其他TREC基准上进行测试,通常只有50个查询。在这样的设置中,少数几个测试查询中的许多查询可能与来自巨大训练数据的查询非常相似--事实上,69%的Robust 04查询在MS MARCO / ORCAS中几乎是重复的。我们通过训练神经检索模型来研究这种意外的训练测试泄漏对固定数量的MS MARCO / ORCAS查询(与实际测试查询高度相似)和越来越多的其他查询的组合的影响。我们发现,泄漏可以提高效率,甚至改变系统的排名。然而,随着所有训练实例中泄漏量的减少,这些影响会减弱,从而变得更加现实。
2022-08-30 cs.IR
ZeroGR: A Generalizable and Scalable Framework for Zero-Shot Generative Retrieval
Carnegie Mellon University(卡内基梅隆大学);Shandong University(山东大学);Baidu Inc(百度公司);University of Amsterdam(阿姆斯特丹大学);Leiden University(莱顿大学)
ZeroGR通过自然语言指令扩展生成检索,解决零样本检索场景下的泛化问题,提出文档ID生成器、指令调优查询生成器和反向退火解码策略,实验表明其在BEIR和MAIR基准上表现优异。
2026-04-25 cs.IR
SDR-CIR: Semantic Debias Retrieval Framework for Training-Free Zero-Shot Composed Image Retrieval
Wuhan University of Technology(武汉理工大学);Wuhan Vocational College of Software and Engineering(武汉软件工程职业学院)
SDR-CIR通过语义去偏排名方法提升无训练零样本复合图像检索性能。
2026-02-05 cs.IR
ListT5: Listwise Reranking with Fusion-in-Decoder Improves Zero-shot Retrieval
本文提出ListT5,一种基于Fusion-in-Decoder的列表式重排序方法,通过m元锦标赛排序和输出缓存实现高效推理,在BEIR零样本检索上以+1.3 NDCG@10超越RankT5,并解决中间丢失问题。
2024-06-06 cs.IR
A Distributed Collaborative Retrieval Framework Excelling in All Queries and Corpora based on Zero-shot Rank-Oriented Automatic Evaluation
提出分布式协作检索框架(DCRF),集成多种检索模型并动态选择最优结果,利用大语言模型提示策略实现零样本排序评估,在所有查询和语料库上超越单一模型,性能媲美RankGPT等列表式方法且效率更高。
2024-12-16 cs.IR
Zero-shot Neural Passage Retrieval via Domain-targeted Synthetic Question Generation
Google Research(谷歌研究院)
广泛采用神经检索模型的一个主要障碍是,它们需要大量的监督训练集,以超越传统的基于术语的技术,这些技术是从原始语料库中构建的。在本文中,我们提出了一种方法,零样本学习的段落检索,使用合成的问题生成,以弥补这一差距。问题生成系统是在一般领域数据上训练的,但应用于目标领域中的文档。这使我们能够创建任意大的,但嘈杂的,特定于领域的问题通道相关性对。此外,当这是一个简单的混合术语神经模型相结合,第一阶段的检索性能可以进一步提高。经验上,我们表明,这是一个有效的策略,在没有大型训练语料库的情况下,建立神经通道检索模型。根据领域的不同,该技术甚至可以接近监督模型的准确性。
2021-01-27 cs.CL cs.IR
ZSCRGAN: A GAN-based Expectation Maximization Model for Zero-Shot Retrieval of Images from Textual Descriptions
Department of CSE, IIT Kharagpur, India(印度理工学院卡格普尔分校计算机科学与工程系);Department of ECE, Duke University, USA(美国杜克大学电子与计算机工程系);Department of CSA, IISER Kolkata, India(印度科学教育与研究学院加尔各答分校计算机科学与应用系)
用于跨模态信息检索的大多数现有算法基于监督训练测试设置,其中模型学习对齐查询的模式(例如,文本)到文档的模式(例如,图像)。这样的设置假设训练集包含所有可能的查询类别的详尽表示。实际上,检索模型可能需要部署在以前看不见的类上,这意味着zero-shot IR设置。在本文中,我们提出了一种新的基于GAN的zero-shot文本到图像检索模型。当给定文本描述作为查询时,我们的模型可以在zero-shot设置中检索相关图像。该模型使用期望最大化框架进行训练。多个基准数据集上的实验表明,我们提出的模型舒适地优于几个国家的最先进的zero-shot文本到图像检索模型,以及zero-shot分类和哈希模型适用于检索。
2020-09-23 cs.CL cs.CV cs.IR
Zero-shot Composed Image Retrieval Considering Query-target Relationship Leveraging Masked Image-text Pairs
Graduate School of Information Science and Technology, Hokkaido University(北海道大学信息科学与技术研究院);Faculty of Information Science and Technology, Hokkaido University(北海道大学信息科学与技术学院)
提出一种利用掩码图文对进行端到端训练的零样本组合图像检索方法,通过学习查询与目标关系优化文本反演网络,实现更准确检索。
2024-06-27 cs.CV cs.IR
GMM-Based Comprehensive Feature Extraction and Relative Distance Preservation For Few-Shot Cross-Modal Retrieval
School of Software and Microelectronics, Peking University(软件与微电子学院,北京大学);University of Chinese Academy of Sciences(中国科学院大学)
针对少样本跨模态检索中数据多峰分布建模不足导致的模态内、模态间偏差问题,提出基于GMM与相对距离约束的GCRDP方法,通过多正样本对比学习和分布对齐提升检索性能,在四个基准上优于六种SOTA方法。
2025-05-19 cs.CV cs.IR
A Representation Sharpening Framework for Zero Shot Dense Retrieval
Information Sciences Institute, University of Southern California(信息科学研究所,南加州大学);Amazon(亚马逊)
本文提出一种无需训练的表示锐化框架,通过增强文档表示以区分相似文档,在零样本稠密检索中显著提升性能,并在 BRIGHT 基准上达到最优,同时兼容现有方法且不增加推理成本。
2025-11-07 cs.CL cs.IR
Benchmarking and Building Zero-Shot Hindi Retrieval Model with Hindi-BEIR and NLLB-E5
Department of Computer Science and Engineering, Indian Institute of Technology Patna(计算机科学与工程系,印度理工学院帕纳布分校);IBM Research(IBM研究院)
针对印地语检索缺乏基准的问题,提出Hindi-BEIR基准(15个数据集、7个任务)并评估现有模型,进而开发零样本多语言检索模型NLLB-E5,无需印地语训练数据即可支持印地语检索。
2025-06-21 cs.CL cs.IR
Precise Zero-Shot Dense Retrieval without Relevance Labels
Carnegie Mellon University(卡内基梅隆大学);University of Waterloo(滑铁卢大学)
虽然密集检索已被证明是有效和高效的跨任务和语言,它仍然难以创建有效的完全zero-shot稠密检索系统时,没有相关性标签。在本文中,我们认识到零样本学习和编码相关性的困难。相反,我们建议通过假设的文档嵌入(HyDE)。给定一个查询,HyDE第一个zero-shot命令一个遵循查询的语言模型(例如,InstructGPT)生成一个假设文档。该文档捕获相关性模式,但不真实,可能包含错误的细节。然后,一个无监督的对比学习编码器(例如Contriever)将文档编码为嵌入向量。该向量识别语料库嵌入空间中的邻域,其中基于向量相似性检索相似的真实文档。第二步将生成的文档与实际的语料库联系起来,编码器的密集瓶颈过滤掉了不正确的细节。我们的实验表明,HyDE显著优于最先进的无监督密集检索器Contriever,并显示出与微调检索器相当的强大性能,跨越各种任务(例如Web搜索,QA,事实验证)和语言(例如SW,KO,JA)。
2022-12-20 cs.CL cs.IR
Parameter-efficient Zero-shot Transfer for Cross-Language Dense Retrieval with Adapters
Johns Hopkins University(约翰斯·霍普金斯大学);University of Maryland(马里兰大学)
创建zero-shot跨语言检索模型的一种流行方法是用多语言预训练语言模型(例如多语言BERT)替换检索模型中的单语言预训练语言模型。这种多语言模型被微调为单语言数据(如英语MS MARCO)的检索任务,使用与所使用的单语言检索模型相同的训练配方。然而,这种转移的模型在训练和推理期间遭受输入文本的语言的不匹配。在这项工作中,我们提出了使用适配器,一个参数有效的组件,一个Transformer网络传输单语检索模型。通过添加针对特定语言的语言任务预训练的适配器和特定任务的适配器,先前的工作表明,在各种NLP任务中跨语言传输时,适配器增强模型的性能优于微调整个模型。通过构建具有适配器的稠密检索模型,我们表明,当转移到跨语言信息检索(CLIR)设置时,用单语数据训练的模型比微调整个模型更有效。然而,我们发现,先前的建议,更换语言适配器,以匹配目标语言在推理时间是次优的稠密检索模型。我们对其他跨语言NLP任务和CLIR之间的这种差异进行了深入分析。
2022-12-20 cs.CL cs.IR
CONVERSER: Few-Shot Conversational Dense Retrieval with Synthetic Data Generation
National Taiwan University(台湾大学);Taiwan AI Labs(台湾人工智能实验室)
针对对话式密集检索因领域内配对数据获取成本高而难以训练的问题,提出CONVERSER框架,利用大语言模型的上下文学习能力仅需最多6个样本生成合成数据,在OR-QuAC和TREC CAsT 19基准上达到与全监督模型相当的性能。
2023-09-13 cs.CL cs.IR
Disentangled Contrastive Learning for Zero-Shot Multilingual Dense Retrieval
Beijing Jiaotong University(北京交通大学)
本文针对低资源语言检索数据稀缺问题,提出解耦对比学习方法,将多语言表示分离为语义与语言子空间,在mMARCO、MIRACL上的零样本多语言密集检索性能优于多个强基线。
2026-08-04 cs.CL cs.IR
IRSC: A Zero-shot Evaluation Benchmark for Information Retrieval through Semantic Comprehension in Retrieval-Augmented Generation Scenarios
PengCheng Laboratory(鹏城实验室);Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);Southern University of Science and Technology(南方科技大学)
本文提出IRSC基准,通过引入SSCI和RCCI新指标评估多语言RAG场景下嵌入模型的检索性能,揭示了其跨语言局限性,促进了准确检索系统的发展。
2024-09-26 cs.AI cs.IR
Resolution-Aware Retrieval Augmented Zero-Shot Forecasting
Manning College of Information and Computer Sciences(信息与计算机科学学院);University of Massachusetts Amherst(马萨诸塞大学阿姆赫斯特分校);Microsoft Research(微软研究院)
本文提出分辨率感知的检索增强零样本预测模型,按频率成分分别利用全局与局部空间信息,在微气候 ERA5 预测中显著优于 HRRR 和 Chronos。
2025-10-19 cs.IR cs.LG
Beyond One-Shot Expansion: Contrastive Evidence Exploration for Multi-Hop Retrieval
Chung-Ang University(中央大学)
提出免训练多跳检索框架,通过证据条件探索、对比精炼和覆盖感知排序,提升多跳问答的检索质量与下游性能。
2026-09-09 cs.AI cs.IR
Beyond Single-Shot: Multi-step Tool Retrieval via Query Planning
Massachusetts Institute of Technology(麻省理工学院)
本文提出TOOLQP框架,通过迭代查询规划解决多步工具检索问题,实现更高效的检索和执行能力。
2026-01-12 cs.AI cs.CL cs.IR
ZSE-Cap: A Zero-Shot Ensemble for Image Retrieval and Prompt-Guided Captioning
University of Science, VNU-HCM(越南国家大学科学学院)
本文提出零样本系统 ZSE-Cap,通过集成 CLIP、SigLIP、DINOv2 检索分数并用提示引导 Gemma 3 生成事件关联描述,在 EVENTA 任务中获私有测试集第4名。
2025-07-28 cs.CL cs.IR
Zero-Shot Medical Information Retrieval via Knowledge Graph Embedding
Xi’an Jiaotong-Liverpool University(西交利物浦大学);Duke Kunshan University(昆山杜克大学);University of Liverpool(利物浦大学);University of Surrey(萨里大学)
本文提出MedFusionRank,结合预训练语言模型与医学知识图谱嵌入实现零样本医疗信息检索,在医学数据集上验证了其优于现有方法的检索性能。
2023-10-31 cs.CL cs.IR
Teaching a New Dog Old Tricks: Resurrecting Multilingual Retrieval Using Zero-shot Learning
Georgetown University(乔治城大学);Amazon(亚马逊)
虽然每天有数十亿的非英语用户依赖于搜索引擎,但针对非英语语言的自组织信息检索问题却很少被研究。这主要是由于缺乏适合于训练排名算法数据集。在本文中,我们利用预先训练的多语言语言模型来解决数据缺乏的问题,将英语集合训练的检索系统转移到非英语查询和文档。我们的模型在zero-shot设置中进行评估,这意味着我们使用它们来预测训练期间从未见过的语言的查询-文档对的相关性得分。我们的研究结果表明,所提出的方法可以显着优于无监督检索技术,阿拉伯语,中文普通话,西班牙语。我们还表明,从目标语言的一些例子,增加英语训练收集有时可以提高性能。
2019-12-30 cs.CL cs.IR cs.LG
Proxy-based Zero-Shot Entity Linking by Effective Candidate Retrieval
BenevolentAI(BenevolentAI公司);Moonfire Ventures(Moonfire Ventures公司)
生物医学实体链接领域的最新进展是开发了强大的两阶段算法,初始候选检索阶段为每次提及生成实体的入围名单,然后是候选排名阶段。然而,这两个阶段的有效性不可避免地依赖于计算昂贵的组件。具体而言,在通过密集表示检索的候选检索中,重要的是要有硬负样本,这需要在整个训练过程中在整个实体标签集上重复向前传递和最近邻搜索。在这项工作中,我们表明,配对基于代理的度量学习损失与对抗正则化提供了一个有效的替代硬负采样在候选检索阶段。特别是,我们在recall@1指标上表现出了竞争力,从而提供了省略昂贵的候选人排名步骤的选项。最后,我们演示了如何使用该模型可以在一个zero-shot设置,发现了知识库的生物医学实体。
2023-01-30 cs.CL cs.IR cs.LG
SALI: Shot-Aware Late Interaction for Cross-Shot Relation Matching in Text-to-Video Retrieval using Film-Grammar Knowledge
The University of Tokyo(东京大学);National Institute of Informatics(国立情报学研究所);University of Augsburg(奥格斯堡大学)
针对文本到视频检索中单嵌入丢失人物关系的问题,提出SALI方法,通过提取查询主语宾语并与各镜头嵌入匹配,结合电影语法惩罚,显著提升多镜头关系查询的召回率。
2026-09-25 cs.CV cs.IR cs.MM
No Parameter Left Behind: How Distillation and Model Size Affect Zero-Shot Retrieval
NeuralMind;UNICAMP(坎皮纳斯大学);Zeta Alpha
最近的研究表明,在广泛的信息检索任务中,小的提取语言模型是大的数量级和慢的数量级的模型的强有力的竞争对手。由于延迟限制,这使得蒸馏和密集模型成为现实世界检索应用程序中部署的首选。在这项工作中,我们质疑这种做法,表明参数的数量和早期的查询文档交互检索模型的泛化能力发挥了重要作用。我们的实验表明,增加模型大小的结果在域内测试集的边际收益,但更大的收益在新的领域从未见过在微调。此外,我们表明,rerankers在很大程度上优于密集的类似大小的几个任务。我们最大的重新排序器在Benchmark-IR(BEIR)的18个数据集中的12个达到了最先进的水平,并超过了之前的最先进水平3个平均点。最后,我们确认,在域的有效性是不是一个很好的指标zero-shot的有效性。代码可在https://github.com/guilhermemr04/scaling-zero-shot-retrieval.git上获得
2022-12-12 cs.CL cs.IR cs.PF
In Defense of Cross-Encoders for Zero-Shot Retrieval
NeuralMind;UNICAMP(坎皮纳斯大学);Zeta Alpha
双编码器和交叉编码器广泛用于许多最先进的检索管道中。在这项工作中,我们研究的泛化能力,这两种类型的架构上的一个广泛的参数计数域内和域外的情况。我们发现,参数的数量和交叉编码器的早期查询文档的相互作用在检索模型的泛化能力发挥了重要作用。我们的实验表明,增加模型大小的结果在域内测试集的边际收益,但更大的收益在新的领域从未见过在微调。此外,我们表明,交叉编码器在很大程度上优于类似大小的双编码器在几个任务。在BEIR基准测试中,我们最大的交叉编码器超过最先进的双向编码器超过4个平均点。最后,我们表明,使用双编码器作为第一阶段检索器相比,一个更简单的检索器,如BM 25的域外任务,没有提供任何收益。代码可在www.example.com上获得
2022-12-12 cs.CL cs.IR
COCO-DR: Combating Distribution Shifts in Zero-Shot Dense Retrieval with Contrastive and Distributionally Robust Learning
Georgia Institute of Technology(佐治亚理工学院);Microsoft(微软);Tsinghua University(清华大学)
提出了一种新的zero-shot稠密检索(ZeroDR)方法COCO-DR,通过克服源训练任务和目标场景之间的分布偏移来提高稠密检索的泛化能力。为了减轻文档差异的影响,COCO-DR继续在目标语料库上对语言模型进行预训练,以通过连续COTRASTive学习使模型适应目标分布。为了准备看不见的目标查询,COCO-DR利用隐式分布鲁棒优化(iDRO)来重新加权来自不同源查询集群的样本,以提高模型在微调期间对罕见查询的鲁棒性。COCO-DR在BEIR(zero-shot检索基准)上实现了卓越的平均性能。在BERT Base规模上,COCO-DR Base的性能优于其他ZeroDR型号,尺寸大60倍。在BERT Large规模下,COCO-DR Large的性能优于具有500倍以上参数的巨型GPT-3嵌入模型。我们的分析表明,COCO-DR的有效性之间的相关性,在打击分布偏移和提高zero-shot精度。我们的代码和模型可以在\url{https://github.com/OpenMatch/COCO-DR}上找到。
2022-11-24 cs.CL cs.IR cs.LG
BEIR: A Heterogenous Benchmark for Zero-shot Evaluation of Information Retrieval Models
Technische Universität Darmstadt(达姆施塔特工业大学)
现有的神经信息检索(IR)模型通常是在同质和狭窄的环境中进行研究的,这大大限制了对它们的分布外(OOD)泛化能力的了解。为了解决这个问题,并方便研究人员广泛地评估他们的模型的有效性,我们引入基准IR(BEIR),一个强大的和异构的评估基准信息检索。我们从不同的文本检索任务和领域中仔细选择了18个公开可用的数据集,并在BEIR基准上评估了10个最先进的检索系统,包括词法,稀疏,密集,后期交互和重新排名架构。我们的研究结果表明,BM 25是一个强大的基线和重新排名和后期互动为基础的模型平均达到最佳的zero-shot性能,但是,在高计算成本。相比之下,密集和稀疏检索模型的计算效率更高,但往往表现不佳的其他方法,突出了相当大的改进空间,在其泛化能力。我们希望这个框架可以让我们更好地评估和理解现有的检索系统,并有助于加快在未来更好的鲁棒性和可推广的系统的进展。BEIR可在https://github.com/UKPLab/beir上公开获取。
2021-10-21 cs.AI cs.CL cs.IR
Improving Passage Retrieval with Zero-Shot Question Generation
McGill University(麦吉尔大学);Mila - Quebec AI Institute(米拉-魁北克人工智能研究所);Meta AI Research(Meta人工智能研究院);Google Research(谷歌研究院);University of Washington(华盛顿大学)
提出基于零样本问题生成的重排序方法,利用预训练模型计算问题概率,无需特定训练即可提升开放问答中的段落检索准确率并达到SOTA。
2023-04-03 cs.CL cs.IR
Promptagator: Few-shot Dense Retrieval From 8 Examples
Google Research(谷歌研究院)
最近关于信息检索的许多研究都集中在如何从一个任务(通常具有丰富的监督数据)转移到监督有限的各种其他任务上,隐含的假设是可以从一个任务推广到所有其他任务。然而,这忽略了一个事实,即有许多不同的和独特的检索任务,每一个目标是不同的搜索意图,查询和搜索域。在本文中,我们建议在Few-Shot稠密检索上工作,在这种设置中,每个任务都有一个简短的描述和一些例子。为了放大几个例子的力量,我们提出了检索器(检索器),它利用大语言模型(LLM)作为一个Few-Shot查询生成器,并根据生成的数据创建特定于任务的检索器。在LLM的泛化能力的支持下,Aptagator可以仅基于几个示例创建特定于任务的端到端检索器,而不使用Natural Questions或MS MARCO来训练%问题生成器或双编码器。令人惊讶的是,不超过8个示例的LLM提示允许双编码器在11个检索集上平均超过1.2 nDCG,超过在MS MARCO(如ColBERT v2)上训练的经过大量工程设计的模型。使用相同的生成数据进一步训练标准尺寸的重新排序器产生另一个5.0点nDCG改善。我们的研究确定,查询生成可以比以前观察到的更有效,特别是当少量的特定于任务的知识。
2022-09-23 cs.CL cs.IR
LaPraDoR: Unsupervised Pretrained Dense Retriever for Zero-Shot Text Retrieval
University of California, San Diego(加州大学圣地亚哥分校);Microsoft Research Asia(微软亚洲研究院);Sun Yat-sen University(中山大学)
在本文中,我们提出了LaPraDoR,这是一种预训练的双塔密集检索器,不需要任何监督数据进行训练。具体来说,我们首先提出迭代对比学习(ICoL),迭代训练查询和文档编码器的缓存机制。ICoL不仅扩大了负实例的数量,而且还将缓存示例的表示保持在相同的隐藏空间中。然后,我们提出了词汇增强的稠密检索(LEDR)作为一个简单而有效的方法来提高稠密检索与词汇匹配。我们评估LaPraDoR最近提出的BEIR基准,包括18个数据集的9个zero-shot文本检索任务。实验结果表明,与有监督的稠密检索模型相比,LaPraDoR具有最先进的性能,进一步的分析揭示了我们的训练策略和目标的有效性。与重新排名相比,我们的词汇增强方法可以在毫秒内运行(快22.5倍),同时实现卓越的性能。
2022-04-27 cs.AI cs.CL cs.IR
Zero-Shot Dense Retrieval with Momentum Adversarial Domain Invariant Representations
University of Waterloo(滑铁卢大学);Microsoft(微软公司)
稠密检索(DR)方法通过首先在嵌入空间中对文本进行编码,然后通过最近邻搜索来匹配它们来进行文本检索。这需要来自表示空间的强局部性,即,相关文本的每个小组的紧密分配,这在没有足够的训练数据的情况下难以推广到域。在zero-shot设置下,本文旨在提高DR模型从具有丰富监督信号的源训练域到没有任何相关标签的目标域的泛化能力。为了实现这一点,我们提出了动量对抗域不变表示学习(Mod),它在DR训练过程中引入动量方法来训练区分源与目标的域分类器,然后对抗地更新DR编码器以学习域不变表示。我们的实验表明,在zero-shot设置中,Mosteums在BEIR基准测试的10+排名数据集上的表现优于其基线,在数据集上的相对增益超过10%,具有足够的灵敏度用于DR模型的评估。本文的源代码将发布。
2021-10-14 cs.CL cs.IR cs.LG
Generative Retrieval with Few-shot Indexing
Leiden University(莱顿大学);The University of Edinburgh(爱丁堡大学);University of Amsterdam(阿姆斯特丹大学)
本文提出了一种无需训练的少样本索引生成检索框架,通过提示LLM生成文档标识符来提升检索性能。
2025-12-23 cs.AI cs.CL cs.IR
AutoMIR: Effective Zero-Shot Medical Information Retrieval without Relevance Labels
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学人工智能学院 Gallagher 学院)
本文提出SL-HyDE方法,利用大语言模型生成假设文档并自学习优化,无需相关性标签实现医学零样本检索,并构建CMIRB基准验证其有效性。
2025-05-26 cs.AI cs.IR
Incorporating Relevance Feedback for Information-Seeking Retrieval using Few-Shot Document Re-Ranking
Technical University of Darmstadt(达姆施塔特工业大学)
将词汇检索器与神经重排序模型配对在大规模信息检索数据集上具有最先进的性能。该管道涵盖了诸如问答或导航查询之类的场景,然而,对于信息搜索场景,用户通常以点击或显式反馈的形式提供关于文档是否与其查询相关的信息。因此,在这项工作中,我们将探讨如何通过采用Few-Shot和参数有效的学习技术将相关反馈直接集成到神经重排序模型中。具体来说,我们引入了一个kNN的方法,重新排名的文件的基础上,他们的相似性与查询和用户认为相关的文件。此外,我们还探索了交叉编码器模型,我们使用元学习进行预训练,随后针对每个查询进行微调,仅在反馈文档上进行训练。为了评估我们不同的集成策略,我们将四个现有的信息检索数据集转换为相关反馈的情况。大量的实验表明,将相关反馈直接集成到神经重排序模型中可以提高它们的性能,并且将词汇排序与我们表现最好的神经重排序器融合在一起,比所有其他方法都好5.2 nDCG@20。
2022-10-19 cs.CL cs.IR
Robust Retrieval Augmented Generation for Zero-shot Slot Filling
IBM Research AI(IBM研究院人工智能);Thomas J. Watson Research Center(托马斯·J·沃森研究中心)
从给定的文档集合中自动归纳出高质量的知识图谱仍然是人工智能中具有挑战性的问题。解决这一问题的一种方法是通过一项相关任务的进步,即所谓的插槽填充。在这个任务中,给定一个[Entity,Slot,?]形式的实体查询,要求系统通过利用从给定文档集合中的相关段落提取的证据来生成或提取缺失值来填充该槽。该领域的最新研究尝试使用基于检索的语言模型以端到端的方式解决这一任务。在本文中,我们提出了一种新的方法,zero-shot槽填充,扩展密集通道检索与硬否定和强大的训练程序的检索增强生成模型。我们的模型报告了T-REx和zsRE插槽填充数据集的巨大改进,改进了通道检索和插槽值生成,并在KILT排行榜中排名前1位。此外,我们证明了我们的系统的鲁棒性,通过零/少样本学习的组合,显示其领域自适应能力的新变体的TACRED数据集的插槽填充。我们发布源代码和预训练模型。
2021-09-14 cs.AI cs.CL cs.IR
Towards Vision-Free CIR: Attribute-Augmented Scoring and LLM-Based Reranking for Zero-Shot Composed Image Retrieval
The University of Tokyo(东京大学);Kioxia Corporation(铠侠株式会社)
研究如何让无视觉方法有效处理合成图像检索任务,通过属性增强混合评分和基于大语言模型的重排两项关键技术构建框架,在开放域CIRR数据集实验中优于现有零样本方法,在FashionIQ上凸显语义推理与视觉匹配权衡,消融研究验证技术有效性。
2026-07-15 cs.CV cs.IR
Clarification of Video Retrieval Query Results by the Automated Insertion of Supporting Shots
计算视频编辑系统输出视频通常遵循特定的形式,例如对话或音乐视频,以这种方式,它们是特定于域的。我们描述了我们的视频注释和分割系统的最新发展,以支持一般的计算视频编辑,其中我们从一般的电影叙事原则而不是使用分层的电影语法中获得单一的通用编辑策略。我们演示了这个单一的原则如何与来自注释视频的脚本数据库相结合,利用编码在这些序列编辑中的现有视频编辑知识,灵活和通用的方式。我们讨论了这种通用的编辑策略的电影理论基础,审查用于影响它的算法,并通过例子来展示其在自动化系统中的适当性。
2021-02-19 cs.IR cs.MM
Extreme Meta-Classification for Large-Scale Zero-Shot Retrieval
Microsoft Research(微软研究院);Microsoft(微软);Indian Institute of Technology(印度理工学院)
提出EMMETT框架和IRENE算法,通过为新颖项即时合成分类器,解决大规模零样本检索中模型容量与泛化能力的矛盾,在Recall@10上提升高达15%,并在实际广告检索中提升点击率4.2%。
2026-06-25 cs.IR cs.LG
Zero-shot Multimodal Document Retrieval via Cross-modal Question Generation
Yonsei University(延世大学);Seoul National University(首尔国立大学)
针对多模态文档检索中私有文档、未知领域/语言的挑战,提出PREMIR框架,利用MLLM生成跨模态预问题扩展匹配范围,在分布外基准上实现SOTA性能并经消融研究验证组件有效性。
2025-08-23 cs.AI cs.IR
Boosting Zero-shot Cross-lingual Retrieval by Training on Artificially Code-Switched Data
LMU Munich(慕尼黑大学)
本文提出利用双语词典生成人工语码转换数据训练排序模型,在mMARCO上显著提升零样本跨语言和多语言检索性能,且对远距离语言和未见语言具有鲁棒性。
2023-05-26 cs.CL cs.IR
ColBERT-XM: A Modular Multi-Vector Representation Model for Zero-Shot Multilingual Information Retrieval
Maastricht University(马斯特里赫特大学)
ColBERT-XM 提出一种模块化多向量稠密检索模型,仅利用单一高资源语言数据实现零样本多语言迁移,在保持竞争力的同时提升数据效率并降低能耗。
2024-02-23 cs.CL cs.IR
Generative Model for Zero-Shot Sketch-Based Image Retrieval
IIT-Kanpur(印度理工学院坎普尔分校);IIT-Guwahati(印度理工学院古瓦哈提分校);IIT-Madras(印度理工学院马德拉斯分校)
我们提出了一个基于草图的图像检索(SBIR)的概率模型,在检索时,我们从新的类,在训练时不存在的草图。现有的SBIR方法,其中大部分依赖于学习类之间的草图和图像的对应关系,通常工作良好,只有以前看到的草图类,并导致在新的类检索性能差。为了解决这个问题,我们提出了一个生成模型,学习生成图像,条件是一个给定的小说类草图。这使我们能够减少SBIR问题,一个标准的图像到图像的搜索问题。我们的模型是基于逆自回归流的变分自编码器,与反馈机制,以确保强大的图像生成。我们在两个非常具有挑战性的数据集Sketchy和TU Berlin上评估了我们的模型,并使用了新的训练测试分割。所提出的方法显着优于两个数据集上的各种基线。
2019-04-18 cs.CV cs.IR stat.ML
UNION: A Lightweight Target Representation for Efficient Zero-Shot Image-Guided Retrieval with Optional Textual Queries
UNION通过融合图像嵌入与空文本提示,实现高效零样本图像引导检索,仅需5,000训练样本即在多个基准测试中超越传统基线。
2025-11-27 cs.CV cs.IR
DRAFT: Dense Retrieval Augmented Few-shot Topic classifier Framework
Seoul National University(首尔国立大学);VRCREW Inc.(VRCREW公司);Neosapience(Neosapience公司)
本文提出 DRAFT 框架,通过密集检索与多查询检索算法从少量示例构建定制数据集并微调分类器,以远少于 GPT-3 175B 等模型的参数量在少样本主题分类任务上取得有竞争力或更优的性能。
2023-12-05 cs.CL cs.IR
Few-shot Prompting for Pairwise Ranking: An Effective Non-Parametric Retrieval Model
University of Glasgow(格拉斯哥大学);IIT Kharagpur(印度理工学院卡拉格普尔分校)
本研究针对零样本排序模型性能弱于有监督模型的问题,提出成对少样本排序方法,通过补充相似查询偏好示例提升效果,在多基准上优于零样本基线,性能接近有监督模型且无需复杂训练流程。
2024-10-04 cs.CL cs.IR cs.LG
RALLM-POI: Retrieval-Augmented LLM for Zero-shot Next POI Recommendation with Geographical Reranking
Singapore University of Technology and Design(新加坡科技设计大学)
RALLM-POI通过历史轨迹检索、地理距离重排序和智能体式LLM自校正,在零样本条件下提升下一兴趣点推荐准确性,并在三个Foursquare数据集上优于传统和LLM基线。
2025-09-21 cs.AI cs.IR
Walk&Retrieve: Simple Yet Effective Zero-shot Retrieval-Augmented Generation via Knowledge Graph Walks
University of Mannheim(曼海姆大学)
提出Walk&Retrieve框架,通过基于知识图谱游走的图遍历和知识语言化生成语料库,实现无需微调的零样本检索增强生成,在准确性、降低幻觉及可扩展性上表现优异。
2025-05-28 cs.CL cs.IR
Information-Theoretic Hashing for Zero-Shot Cross-Modal Retrieval
Huazhong University of Science and Technology(华中科技大学);UiT-The Arctic University of Norway(挪威北极大学)
零次跨模态检索(Zero-Shot Cross-Modal Retrieval,简称ZCMR)是针对异构数据的检索问题而提出的。通常,为了保证泛化,来自自然语言处理(NLP)模型的预定义类嵌入被用于构建公共空间。在本文中,我们没有使用额外的NLP模型来预先定义公共空间,而是从信息论的角度考虑了一种完全不同的方法来构建(或学习)公共汉明空间。我们把我们的模型的信息理论哈希(ITH),它是由两个级联模块:自适应信息聚合(AIA)模块和语义保持编码(SPE)模块。具体来说,我们的AIA模块从相关信息原则(PRI)中获得灵感,构建一个公共空间,自适应地聚合不同形式的数据的内在语义,并过滤掉冗余或不相关的信息。另一方面,我们的SPE模块进一步生成不同形式的散列代码,通过保持本质语义的相似性与元素的Kullback-Leibler(KL)分歧。总的相关正则化项也被施加到不同维度的散列码之间,以减少冗余。在三个基准数据集上的充分实验证明了所提出的ITH在EST-CMR中的优越性。补充材料中提供了源代码。
2022-09-26 cs.IR cs.LG
SPRINT: A Unified Toolkit for Evaluating and Demystifying Zero-shot Neural Sparse Retrieval
University of Waterloo(滑铁卢大学);TU Darmstadt(达姆施塔特工业大学)
本研究推出基于Pyserini和Lucene的统一神经稀疏检索评估工具包SPRINT,在BEIR基准上建立零样本稀疏检索基线,揭示SPLADEv2性能最优的关键原因。
2023-07-19 cs.CL cs.IR cs.LG
FilterRAG: Zero-Shot Informed Retrieval-Augmented Generation to Mitigate Hallucinations in VQA
University of Maryland, Baltimore County(马里兰大学巴尔的摩分校)
FilterRAG通过结合BLIP-VQA与检索增强生成,利用外部知识源减少视觉问答中的幻觉问题,提升模型在知识驱动和分布外场景的鲁棒性。
2026-01-24 cs.CL cs.CV cs.IR