R1-Ranker: Teaching LLM Rankers to Reason
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Meta Monetization AI（Meta 资源 monetization AI）
提出R1-Ranker，基于强化学习的推理激励框架，通过DRanker和IRanker两种设计统一排序任务，IRanker-3B在九个数据集上达到最先进性能，平均提升15.7%。
2025-10-16 cs.AI cs.IR cs.LG
From Relevance to Validity: Zero-Shot Tool Selection via Functional and Contextual Validation
UESTC（电子科技大学）；LZU（兰州大学）；CityUHK（香港城市大学）；Northwestern（西北大学）；UofG（格拉斯哥大学）；Stanford（斯坦福大学）；Fenz AI（芬智人工智能）；NUS（新加坡国立大学）
针对LLM智能体零样本工具选择的迁移有效性差距，提出渐进式验证框架\textit{MethodName}，结合功能与上下文验证，提升跨域工具选择性能。
2026-10-14 cs.AI
Re-ranking Using Large Language Models for Mitigating Exposure to Harmful Content on Social Media Platforms
University of California, Davis（加州大学戴维斯分校）；University of South Florida（佛罗里达州立大学）；Microsoft Corporation（微软公司）
针对社交媒体推荐算法导致有害内容曝光的问题，提出在零样本和少样本设置下利用大型语言模型动态评估并重新排序内容序列的方法，无需大量标注数据，且在多数据集和模型配置下显著优于现有专有审核方法。
2025-05-29 cs.AI cs.CL cs.CY
RAR: Retrieving And Ranking Augmented MLLMs for Visual Recognition
Shanghai Jiao Tong University（上海交通大学）；Shanghai AI Laboratory（上海人工智能实验室）；The Chinese University of Hong Kong（香港中文大学）；MThreads, Inc.（MThreads公司）；Nanyang Technological University（南洋理工大学）
RAR结合CLIP的检索与MLLM的排序，提升细粒度识别精度，增强少样本和零样本任务表现。
2026-05-15 cs.AI cs.CV cs.LG
Learning to Route Queries to Heads for Attention-based Re-ranking with Large Language Models
McGill University \& MILA Montreal Canada；McGill University \& MILA
本文提出RouteHead方法，通过学习轻量级路由器选择最优头部集合以提升注意力重排序性能，实验表明优于现有基线。
2026-04-27 cs.AI cs.CL cs.IR
Rethinking the Necessity of Adaptive Retrieval-Augmented Generation through the Lens of Adaptive Listwise Ranking
Hefei University of Technology（合肥工业大学）；University of Science and Technology of China（中国科学技术大学）
本文通过适应性列表排序视角重新审视适应性检索增强生成的必要性，提出AdaRankLLM框架，通过零样本提示和段落dropout机制验证适应性排序的必要性，并通过两阶段渐进蒸馏提升小模型的精确排序与适应过滤能力。
2026-04-17 cs.AI cs.CL cs.IR
GenQREnsemble: Zero-Shot LLM Ensemble Prompting for Generative Query Reformulation
Emory University（埃默里大学）
本文提出 GenQREnsemble 零样本 LLM 集成提示方法及融合伪相关反馈的 GenQREnsembleRF，通过多指令释义生成关键词，显著提升查询重构与检索性能。
2024-04-04 cs.AI cs.CL cs.IR
SKstars at SHROOM: Visions Agreement-Guided Ensembling of Zero-Shot and LoRA-Adapted Vision--Language Models
Chung-Ang University（中央大学）
提出结合Qwen2.5-VL-72B零样本与LoRA适配的7B模型进行集成，用于视觉-语言模型细粒度幻觉检测，在SHROOM-Visions 2026上取得Cor+Lbl 0.2902，排名第15。
2026-09-22 cs.AI cs.CV
ReAttn: Improving Attention-based Re-ranking via Attention Re-weighting
University of Montreal（蒙特利尔大学）；McGill University（麦吉尔大学）；MILA（蒙特利尔人工智能实验室）；International Digital Economy Academy（国际数字经济学院）
ReAttn通过注意力重新加权策略，改进基于注意力的重排序方法，减少词法偏差并提升重排序效果。
2026-02-23 cs.AI cs.CL
Ranking LLM-Generated Loop Invariants for Program Verification
Microsoft Research（微软研究院）
针对LLM生成循环不变式需多次采样导致验证器调用过多的问题，提出一种对比排序器对候选不变式重新排序，显著提升了正确不变式的排名并减少了验证器调用次数。
2024-02-12 cs.AI cs.CL cs.PL
RankCLIP: Ranking-Consistent Language-Image Pretraining
HFIPS, Chinese Academy of Sciences（中国科学院合肥物质科学研究院）；University of Science and Technology of China（中国科学技术大学）；University of Chicago（芝加哥大学）；Carnegie Mellon University（卡内基梅隆大学）
针对CLIP等自监督对比学习模型依赖严格一对一映射、忽略图文复杂关联的问题，提出预训练方法RankCLIP，通过列表式损失及模态内、跨模态排序一致性捕捉多对多关系，在零样本分类等下游任务上取得显著提升。
2025-03-24 cs.AI cs.CV cs.LG
From Haystack to Needle: Label Space Reduction for Zero-shot Classification
IDLab, Ghent University - imec（IDLab，根特大学 - imec）
本文提出标签空间缩减方法，通过迭代排序和缩减候选类别来优化大语言模型零样本分类的标签空间，并利用蒸馏降低计算开销，在多个基准上显著提升宏观 F1 分数。
2025-11-05 cs.AI cs.CL cs.LG
Open-source Large Language Models are Strong Zero-shot Query Likelihood Models for Document Ranking
CSIRO（联邦科学与工业研究组织）；The University of Queensland（昆士兰大学）
本文研究仅预训练未微调的开源LLMs作为零样本查询似然模型的文档排序能力，发现额外指令微调可能降低效果，并提出结合LLM-QLM与混合检索器的先进排序系统。
2023-10-20 cs.CL cs.IR
Zero Shot on the Cold-Start Problem: Model-Agnostic Interest Learning for Recommender Systems
NetEase Cloud Music, NetEase Inc.（网易云音乐，网易公司）
用户行为已被验证为有效地揭示商业推荐的个性化偏好。然而，对于新用户，几乎没有用户-项目交互可以被收集，这导致他们的兴趣的空空间，即，冷启动困境在本文中，一个双塔框架，即模型无关的兴趣学习（MAIL）框架，提出了解决冷启动推荐（CSR）问题的推荐系统。在MAIL中，一个独特的塔是从zero-shot的角度来处理CSR的，另一个塔专注于一般的排名任务。具体而言，zero-shot塔首先使用双自动编码器执行跨模态重构，以从新用户的高度对齐的隐藏特征中获得虚拟行为数据;然后排名塔可以基于zero-shot塔完成的数据输出对用户的推荐。实际上，MAIL中的排名塔是与模型无关的，可以用任何基于嵌入的深度模型来实现。基于两个塔的共同训练，MAIL提出了一种端到端的推荐系统方法，显示出渐进的性能改善。该方法已成功应用于网易云音乐的直播推荐系统，为数百万用户实现了13%至15%的点击率提升。在真实世界数据集上的离线实验也显示了它在CSR中的优越性能。我们的代码可用。
2021-08-31 cs.AI cs.IR
Where Relevance Emerges: A Layer-Wise Study of Internal Attention for Zero-Shot Re-Ranking
The University of Queensland（昆士兰大学）
本文研究了多排名框架中生成、似然和内部注意力机制的对比，发现Transformer层中相关性信号呈现钟形分布，提出Selective-ICR策略降低推理延迟30%-50%，并在BRIGHT基准测试中证明了内部信号在复杂推理排序中的潜力。
2026-04-25 cs.IR
A Zero-shot Explainable Doctor Ranking Framework with Large Language Models
本文提出基于大语言模型的零样本可解释医生排名框架，通过动态生成疾病特定的排名标准和逐步推理理由，提升医生排名的透明度和可解释性，并在DrRank数据集上取得显著性能提升。
2025-11-24 cs.IR
Few-Shot Text Ranking with Meta Adapted Synthetic Weak Supervision
Tsinghua University（清华大学）；Beijing National Research Center for Information Science and Technology（北京信息科学与技术国家研究中心）；Microsoft Research（微软研究院）
神经信息检索（Neu-IR）的有效性通常取决于大规模的域内相关性训练信号，这在现实世界的排名场景中并不总是可用的。为了民主化Neu-IR的好处，本文提出了MetaAdaptRank，域自适应学习方法，将Neu-IR模型从标签丰富的源域推广到Few-Shot目标域。MetaAdaptRank利用源域大规模相关性监督，对比合成目标域的大量弱监督信号，并根据其对Neu-IR模型的目标域排名准确性的益处，元学习重新加权这些合成的“弱”数据。在Web、新闻和生物医学领域的三个TREC基准测试上的实验表明，MetaAdaptRank显著提高了Neu-IR模型的Few-Shot排名精度。进一步的分析表明，MetaAdaptRank蓬勃发展，从其对比弱数据合成和元重新加权数据选择。本文的代码和数据可以从https://github.com/thunlp/MetaAdaptRank获得。
2021-06-02 cs.CL cs.IR
Incorporating Relevance Feedback for Information-Seeking Retrieval using Few-Shot Document Re-Ranking
Technical University of Darmstadt（达姆施塔特工业大学）
将词汇检索器与神经重排序模型配对在大规模信息检索数据集上具有最先进的性能。该管道涵盖了诸如问答或导航查询之类的场景，然而，对于信息搜索场景，用户通常以点击或显式反馈的形式提供关于文档是否与其查询相关的信息。因此，在这项工作中，我们将探讨如何通过采用Few-Shot和参数有效的学习技术将相关反馈直接集成到神经重排序模型中。具体来说，我们引入了一个kNN的方法，重新排名的文件的基础上，他们的相似性与查询和用户认为相关的文件。此外，我们还探索了交叉编码器模型，我们使用元学习进行预训练，随后针对每个查询进行微调，仅在反馈文档上进行训练。为了评估我们不同的集成策略，我们将四个现有的信息检索数据集转换为相关反馈的情况。大量的实验表明，将相关反馈直接集成到神经重排序模型中可以提高它们的性能，并且将词汇排序与我们表现最好的神经重排序器融合在一起，比所有其他方法都好5.2 nDCG@20。
2022-10-19 cs.CL cs.IR
Zero-Shot Ranking Socio-Political Texts with Transformer Language Models to Reduce Close Reading Time
Boğaziçi University（海峡大学）；KNAW Humanities Cluster（荷兰皇家艺术与科学学院人文集群）
我们将分类问题视为一个蕴涵问题，并将zero-shot排序应用于社会政治文本。排在顶部的文档可以被认为是正分类的文档，并且这减少了信息抽取过程的仔细阅读时间。我们使用Transformer语言模型来获得蕴涵概率，并研究不同类型的查询。我们发现，DeBERTa实现更高的平均平均精度分数比RoBERTa和声明形式的类标签被用作查询时，它优于字典定义的类标签。我们表明，可以减少仔细阅读的时间，采取一定比例的排名文件的百分比取决于有多少回忆，他们想要实现。然而，我们的研究结果也表明，随着主题的扩大，应该阅读的文档的比例也会增加。
2022-10-17 cs.CL cs.IR
Leveraging Reference Documents for Zero-Shot Ranking via Large Language Models
RefRank 通过利用固定参考文档实现零样本排序，以线性时间复杂度提升排序准确性并降低计算成本。
2025-12-02 cs.IR
Few-shot Prompting for Pairwise Ranking: An Effective Non-Parametric Retrieval Model
University of Glasgow（格拉斯哥大学）；IIT Kharagpur（印度理工学院卡拉格普尔分校）
本研究针对零样本排序模型性能弱于有监督模型的问题，提出成对少样本排序方法，通过补充相似查询偏好示例提升效果，在多基准上优于零样本基线，性能接近有监督模型且无需复杂训练流程。
2024-10-04 cs.CL cs.IR cs.LG
An Investigation of Prompt Variations for Zero-shot LLM-based Rankers
RMIT University（皇家墨尔本理工大学）；CSIRO（澳大利亚联邦科学与工业研究组织）；The University of Queensland（昆士兰大学）
本文通过大规模实验考察零样本 LLM 排序器，发现提示词组件与措辞对效果的影响有时超过排序算法本身。
2025-07-25 cs.CL cs.IR
PaRaDe: Passage Ranking using Demonstrations with Large Language Models
本研究通过算法选择少样本示范纳入提示，改进了基于大型语言模型的段落重排序，提出基于难度的新颖示范选择策略，发现示范在问题生成上同样有效。
2023-10-22 cs.IR
ListT5: Listwise Reranking with Fusion-in-Decoder Improves Zero-shot Retrieval
本文提出ListT5，一种基于Fusion-in-Decoder的列表式重排序方法，通过m元锦标赛排序和输出缓存实现高效推理，在BEIR零样本检索上以+1.3 NDCG@10超越RankT5，并解决中间丢失问题。
2024-06-06 cs.IR
A Systematic Evaluation of Transfer Learning and Pseudo-labeling with BERT-based Ranking Models
HSE University（俄罗斯国家研究型高等经济大学）；Bosch Center for Artificial Intelligence（博世人工智能中心）；Ural Federal University（乌拉尔联邦大学）
由于标注成本高，充分利用现有的人工训练数据是一个重要的研究方向。因此，我们在五个英文数据集上对基于BERT的神经排名模型的可移植性进行了系统的评估。以前的研究主要集中在zero-shot和Few-Shot从大数据集到具有少量查询的数据集的传输。相比之下，我们的每个集合都有大量的查询，这使得我们可以使用全面的评估模式，并提高了结果的可靠性。此外，由于源数据集许可证通常禁止商业使用，因此我们将迁移学习与BM 25评分器生成的伪标签进行比较。我们发现，与迁移学习相比，在伪标签上进行训练--可能随后使用适量的注释查询进行微调--可以产生一个有竞争力或更好的模型。然而，有必要提高Few-Shot训练的稳定性和/或有效性，这有时会降低预训练模型的性能。
2021-11-22 cs.CL cs.IR
How role-play shapes relevance judgment in zero-shot LLM rankers
Leiden Institute of Advanced Computer Science, Leiden University（莱顿大学高级计算机科学研究所）；Center for Language and Cognition, University of Groningen（格罗宁根大学语言与认知中心）；Brown University（布朗大学）；University of Amsterdam（阿姆斯特丹大学）
本研究探讨角色扮演如何影响零样本LLM排序器的相关性判断，发现角色描述的精心制定显著提升排序质量，且角色信号主要在早期层编码，为设计更有效的提示提供了指导。
2026-01-13 cs.IR
Zero-shot Cross-domain Knowledge Distillation: A Case study on YouTube Music
Google LLC（谷歌有限责任公司）
本文研究了无监督跨领域知识蒸馏在低流量场景下的应用，通过从高流量视频推荐平台向音乐推荐应用迁移知识，验证了该方法在提升排序模型性能上的有效性。
2026-03-30 cs.IR
Large Language Models are Zero-Shot Rankers for Recommender Systems
Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学高瓴人工智能学院）；UC San Diego（加州大学圣迭戈分校）；School of Information, Renmin University of China（中国人民大学信息资源管理学院）；WeChat, Tencent（腾讯微信）
本文将推荐形式化为条件排序任务，设计提示与自举策略，验证零样本 LLM 在多候选生成场景下可挑战传统推荐排序模型。
2024-01-24 cs.CL cs.IR
Attention in Large Language Models Yields Efficient Zero-Shot Re-Rankers
The Ohio State University（俄亥俄州立大学）
提出上下文重排（ICR）方法，利用LLM注意力模式变化进行零样本重排，仅需O(1)前向传递，效率比生成式方法高60%以上，性能优于RankGPT。
2025-02-28 cs.CL cs.IR
BEIR: A Heterogenous Benchmark for Zero-shot Evaluation of Information Retrieval Models
Technische Universität Darmstadt（达姆施塔特工业大学）
现有的神经信息检索（IR）模型通常是在同质和狭窄的环境中进行研究的，这大大限制了对它们的分布外（OOD）泛化能力的了解。为了解决这个问题，并方便研究人员广泛地评估他们的模型的有效性，我们引入基准IR（BEIR），一个强大的和异构的评估基准信息检索。我们从不同的文本检索任务和领域中仔细选择了18个公开可用的数据集，并在BEIR基准上评估了10个最先进的检索系统，包括词法，稀疏，密集，后期交互和重新排名架构。我们的研究结果表明，BM 25是一个强大的基线和重新排名和后期互动为基础的模型平均达到最佳的zero-shot性能，但是，在高计算成本。相比之下，密集和稀疏检索模型的计算效率更高，但往往表现不佳的其他方法，突出了相当大的改进空间，在其泛化能力。我们希望这个框架可以让我们更好地评估和理解现有的检索系统，并有助于加快在未来更好的鲁棒性和可推广的系统的进展。BEIR可在https://github.com/UKPLab/beir上公开获取。
2021-10-21 cs.AI cs.CL cs.IR
Zero-Shot Listwise Document Reranking with a Large Language Model
University of Waterloo（滑铁卢大学）
针对监督排序方法依赖大量标注数据的问题，提出无需任务特定训练的大语言模型列表式重排序器LRL，在多数据集上表现优于零样本逐点方法，且具备跨语言泛化潜力。
2023-05-03 cs.CL cs.IR
One-Shot Labeling for Automatic Relevance Estimation
本文提出一次性标注器（1SL），利用大语言模型在仅有一个已知相关文档的条件下预测未判断文档的相关性，以填补评估空洞，从而显著提高离线评估中系统排名的可靠性和t检验的可信度。
2023-07-11 cs.IR
Instruction Distillation Makes Large Language Models Efficient Zero-shot Rankers
Shandong University（山东大学）；Baidu Inc.（百度公司）；Leiden University（莱顿大学）
针对大语言模型零样本排序效率低、依赖复杂提示工程的问题，提出指令蒸馏方法，将成对排序能力蒸馏为高效逐点排序，实现10-100倍效率提升且性能更优。
2023-11-02 cs.CL cs.IR
PromptReps: Prompting Large Language Models to Generate Dense and Sparse Representations for Zero-Shot Document Retrieval
本文提出 PromptReps，通过提示大语言模型生成稠密与稀疏混合表示，无需训练即可实现零样本文档检索，并在多个基准上取得与有监督嵌入方法相当或更优的效果。
2024-10-19 cs.IR
Beyond Yes and No: Improving Zero-Shot LLM Rankers via Scoring Fine-Grained Relevance Labels
本文提出在零样本 LLM 排序器提示中引入细粒度相关性标签，以替代传统二元 Yes/No 判断，并在 8 个 BEIR 数据集上验证其显著提升排序性能。
2024-04-02 cs.IR
SLEDGE-Z: A Zero-Shot Baseline for COVID-19 Literature Search
Georgetown University（乔治城大学）；Allen Institute for AI（艾伦人工智能研究所）
随着全球对严重急性呼吸道综合征冠状病毒2（SARS-CoV-2）的关注，有关该病毒的科学文献迅速增加。临床医生、研究人员和政策制定者需要能够有效地搜索这些文章。在这项工作中，我们提出了一个zero-shot排名算法，适应COVID相关的科学文献。我们的方法从另一个集合中过滤训练数据，直到医学相关的查询，使用一个在科学文本（SciBERT）上预先训练的神经重新排序模型，并过滤目标文档集合。该方法在TREC COVID第1轮排行榜上的zero-shot方法中排名第一，并且在第1轮和第2轮判断中评估时表现出0.80的P@5和0.68的nDCG@10。尽管不依赖于TREC-COVID数据，但我们的方法优于那些依赖TREC-COVID数据的模型。作为第一个彻底评估COVID-19搜索的搜索方法之一，我们希望这可以作为一个强大的基线，并在全球危机中有所帮助。
2020-10-12 cs.CL cs.IR
Proxy-based Zero-Shot Entity Linking by Effective Candidate Retrieval
BenevolentAI（BenevolentAI公司）；Moonfire Ventures（Moonfire Ventures公司）
生物医学实体链接领域的最新进展是开发了强大的两阶段算法，初始候选检索阶段为每次提及生成实体的入围名单，然后是候选排名阶段。然而，这两个阶段的有效性不可避免地依赖于计算昂贵的组件。具体而言，在通过密集表示检索的候选检索中，重要的是要有硬负样本，这需要在整个训练过程中在整个实体标签集上重复向前传递和最近邻搜索。在这项工作中，我们表明，配对基于代理的度量学习损失与对抗正则化提供了一个有效的替代硬负采样在候选检索阶段。特别是，我们在recall@1指标上表现出了竞争力，从而提供了省略昂贵的候选人排名步骤的选项。最后，我们演示了如何使用该模型可以在一个zero-shot设置，发现了知识库的生物医学实体。
2023-01-30 cs.CL cs.IR cs.LG
Adversarial Attacks against Neural Ranking Models via In-Context Learning
University of Waterloo（多伦多大学）；University of California, Berkeley（加州大学伯克利分校）；University of Toronto（多伦多大学）
本文提出少样本对抗提示（FSAP）黑盒攻击框架，利用LLM上下文学习生成高排名对抗文档，实验证明其能持续超越可信文档并具有低可检测性。
2025-08-21 cs.CL cs.IR
Text Retrieval with Multi-Stage Re-Ranking Models
提出三阶段重排序模型，结合BM25、语言模型及模型集成或更大语言模型，在MS-MARCO上训练MiniLM，零样本评估，兼顾高准确率与低速度衰减。
2023-11-14 cs.IR
P^3 Ranker: Mitigating the Gaps between Pre-training and Ranking Fine-tuning with Prompt-based Learning and Pre-finetuning
Northeastern University（东北大学）；Tsinghua University（清华大学）；Microsoft Research（微软研究院）
与其他语言任务相比，将预训练的语言模型（PLM）应用于搜索排名通常需要更多的细微差别和训练信号。在本文中，我们确定和研究预训练和排名微调之间的两个不匹配：关于训练目标和模型架构的差异的训练模式差距，以及考虑排名所需的知识和预训练期间学到的知识之间的差异的任务知识差距。为了缩小这些差距，我们提出了预训练，非学习和预微调神经排名器（P^3排名器）。P^3 Ranker利用基于学习的学习将排名任务转换为预训练类模式，并使用预微调来初始化中间监督任务的模型。在MS MARCO和Robust04上的实验表明，P^3 Ranker在Few-Shot排序方面具有优越的性能。分析表明，P^3 Ranker能够更好地适应排名任务，通过基于任务的学习，并检索必要的排名导向的知识，在预微调，导致数据效率的PLM适应。我们的代码可在www.example.com上获得。
2022-05-05 cs.CL cs.IR
Re-Ranking Step by Step: Investigating Pre-Filtering for Re-Ranking with Large Language Models
Polytechnique Montréal（蒙特利尔理工学院）
本文针对资源受限用户难以使用大型专有LLM进行段落重排序的问题，提出在IR重排序前增加预过滤步骤，结合少量人工与LLM相关性评分剔除无关段落，使Mixtral等较小模型性能媲美GPT-4等大型模型。
2024-06-26 cs.CL cs.IR
SDR-CIR: Semantic Debias Retrieval Framework for Training-Free Zero-Shot Composed Image Retrieval
Wuhan University of Technology（武汉理工大学）；Wuhan Vocational College of Software and Engineering（武汉软件工程职业学院）
SDR-CIR通过语义去偏排名方法提升无训练零样本复合图像检索性能。
2026-02-05 cs.IR
Investigating Task Arithmetic for Zero-Shot Information Retrieval
Department of Informatics, Systems and Communication - DISCo, University of Milano-Bicocca（信息学、系统与通信系 - DISCo，米兰-比科卡大学）；DAUIN Dipartimento di Automatica e Informatica, Politecnico di Torino（DAUIN 自动控制与信息系，托斯卡纳理工学院）
本文研究了Task Arithmetic技术，通过简单的数学运算结合在不同任务或领域上预训练的LLMs权重，无需额外微调即可适应检索模型，在多个数据集上显著提升了零样本文档重排序性能。
2025-05-01 cs.CL cs.IR cs.LG
Robust Retrieval Augmented Generation for Zero-shot Slot Filling
IBM Research AI（IBM研究院人工智能）；Thomas J. Watson Research Center（托马斯·J·沃森研究中心）
从给定的文档集合中自动归纳出高质量的知识图谱仍然是人工智能中具有挑战性的问题。解决这一问题的一种方法是通过一项相关任务的进步，即所谓的插槽填充。在这个任务中，给定一个[Entity，Slot，？]形式的实体查询，要求系统通过利用从给定文档集合中的相关段落提取的证据来生成或提取缺失值来填充该槽。该领域的最新研究尝试使用基于检索的语言模型以端到端的方式解决这一任务。在本文中，我们提出了一种新的方法，zero-shot槽填充，扩展密集通道检索与硬否定和强大的训练程序的检索增强生成模型。我们的模型报告了T-REx和zsRE插槽填充数据集的巨大改进，改进了通道检索和插槽值生成，并在KILT排行榜中排名前1位。此外，我们证明了我们的系统的鲁棒性，通过零/少样本学习的组合，显示其领域自适应能力的新变体的TACRED数据集的插槽填充。我们发布源代码和预训练模型。
2021-09-14 cs.AI cs.CL cs.IR
LaPraDoR: Unsupervised Pretrained Dense Retriever for Zero-Shot Text Retrieval
University of California, San Diego（加州大学圣地亚哥分校）；Microsoft Research Asia（微软亚洲研究院）；Sun Yat-sen University（中山大学）
在本文中，我们提出了LaPraDoR，这是一种预训练的双塔密集检索器，不需要任何监督数据进行训练。具体来说，我们首先提出迭代对比学习（ICoL），迭代训练查询和文档编码器的缓存机制。ICoL不仅扩大了负实例的数量，而且还将缓存示例的表示保持在相同的隐藏空间中。然后，我们提出了词汇增强的稠密检索（LEDR）作为一个简单而有效的方法来提高稠密检索与词汇匹配。我们评估LaPraDoR最近提出的BEIR基准，包括18个数据集的9个zero-shot文本检索任务。实验结果表明，与有监督的稠密检索模型相比，LaPraDoR具有最先进的性能，进一步的分析揭示了我们的训练策略和目标的有效性。与重新排名相比，我们的词汇增强方法可以在毫秒内运行（快22.5倍），同时实现卓越的性能。
2022-04-27 cs.AI cs.CL cs.IR
From Unstructured to Structured: LLM-Guided Attribute Graphs for Entity Search and Ranking
Amazon.com, Inc.（亚马逊公司）
本文提出结合LLM驱动的属性图构建与图感知LLM排序的两阶段方法，通过结构化属性提取和图构建提升电商中实体搜索的精度与效率，实验显示在零样本场景下平均精度提升超5%。
2026-04-30 cs.CL cs.IR
DUQGen: Effective Unsupervised Domain Adaptation of Neural Rankers by Diversifying Synthetic Query Generation
Emory University（埃默里大学）
针对神经排序器目标域标注数据稀缺问题，提出DUQGen，通过文档聚类与概率采样生成有效且多样的合成查询，实现无监督域适应，并在BEIR上显著提升排序性能。
2024-04-03 cs.CL cs.IR
TourRank: Utilizing Large Language Models for Documents Ranking with a Tournament-Inspired Strategy
Institute for Clarity in Documentation（文献清晰研究所）；The Thørväld Group（索尔沃尔德集团）；Inria（法国国家信息与自动化研究所）；Rajiv Gandhi University（拉吉夫·甘地大学）；Tsinghua University（清华大学）；Palmer Research Laboratories（帕尔默研究实验室）；The Kumquat Consortium（金桔联盟）
TourRank借鉴体育锦标赛思想，通过多阶段分组策略和积分系统集成排序结果，在有限成本下实现鲁棒的文档排序。
2025-02-06 cs.CL cs.IR
How Train-Test Leakage Affects Zero-shot Retrieval
神经检索模型通常在MS MARCO / ORCAS数据集的数百万个查询（子集）上进行训练，然后在250个Robust 04查询或其他TREC基准上进行测试，通常只有50个查询。在这样的设置中，少数几个测试查询中的许多查询可能与来自巨大训练数据的查询非常相似--事实上，69%的Robust 04查询在MS MARCO / ORCAS中几乎是重复的。我们通过训练神经检索模型来研究这种意外的训练测试泄漏对固定数量的MS MARCO / ORCAS查询（与实际测试查询高度相似）和越来越多的其他查询的组合的影响。我们发现，泄漏可以提高效率，甚至改变系统的排名。然而，随着所有训练实例中泄漏量的减少，这些影响会减弱，从而变得更加现实。
2022-08-30 cs.IR
Finetuning Large Language Model for Personalized Ranking
针对大语言模型预训练数据与推荐任务需求不匹配的问题，提出直接多偏好优化框架DMPO，通过同时优化正负样本概率提升推荐效果，在少样本及跨域推荐中表现优异且具备可解释性。
2024-06-20 cs.IR
Zero-Shot Recommendation as Language Modeling
KU Leuven（鲁汶大学）
推荐是根据个人用户需求对项目（例如电影或产品）进行排名的任务。目前的系统依赖于协同过滤和基于内容的技术，这两者都需要结构化的训练数据。我们提出了一个框架，建议与现成的预训练语言模型（LM），只使用非结构化的文本语料库作为训练数据。如果用户$u$喜欢\textit{Matrix}和\textit{Inception}，则我们构建文本提示，例如\textit{"Movies like Matrix, Inception, ${<}m{>}$"}，以使用LM似然估计$u$和$m$之间的亲和力。我们激励我们的想法与语料库分析，评估几个提示结构，我们比较LM为基础的建议与标准的矩阵分解训练不同的数据制度。我们实验的代码是公开的（https：colab.research.google.com/drive/1f1mlZ-FGaLGdo5rPzxf3vemKllbh2esT? usp=共享）。
2021-12-08 cs.CL cs.IR
RankSteer: Can Pointwise LLM Rankers Be Calibrated at the Representation Level?
Leiden University（莱顿大学）；Brown University（布朗大学）
RankSteer 通过激活引导框架提升零样本点wise LLM 排序性能，利用三个解耦方向校准排序行为，无需修改模型权重。
2026-09-21 cs.IR
Single-Token Expected-Value Scoring for Cold-Start Candidate Ranking
Indeed, Inc.（Indeed公司）
本文提出单令牌期望值评分法，通过微调小型语言模型实现冷启动候选排名，在求职者和雇主相关性上均显著优于基线，并提升在线性能。
2026-09-17 cs.IR
Is ChatGPT Good at Search? Investigating Large Language Models as Re-Ranking Agents
Shandong University（山东大学）；Baidu Inc.（百度公司）；Leiden University（莱顿大学）
本文研究ChatGPT和GPT-4等大语言模型在信息检索中的重排序能力，发现经适当指令的LLMs可媲美甚至超越监督方法，并提出新测试集NovelEval及排列蒸馏方案，将排序能力高效迁移至小型模型。
2024-12-28 cs.CL cs.IR
