Adversarial Sampling and Training for Semi-Supervised Information Retrieval
Huawei Research America（华为美国研究院）；School of Artificial Intelligence, Jilin University（吉林大学人工智能学院）
具有隐式反馈的自组织检索模型通常存在问题，例如，数据集中的不平衡类。太少的点击文档可能会损害模型的泛化能力，而太多的非点击文档可能会损害模型的有效性和训练效率。此外，最近的基于神经网络的模型由于其线性性质而容易受到对抗性示例的影响。为了解决这些问题，同时，我们提出了一个对抗性的采样和训练框架，学习ad-hoc检索模型与隐式反馈。我们的关键思想是（i）通过对抗训练来增强点击示例，以获得更好的泛化能力;（ii）通过对抗采样和训练来获得信息量很大的非点击示例。在基准数据集上进行实验，用于常见的自组织检索任务，如Web搜索，项目推荐和问答。实验结果表明，所提出的方法显着优于强基线，特别是高排名的文件，他们优于IRGAN在NDCG@5使用只有5%的标记数据的Web搜索任务。
2019-10-18 cs.IR cs.LG
SimANS: Simple Ambiguous Negatives Sampling for Dense Text Retrieval
Renmin University of China（中国人民大学）；Microsoft Research（微软研究院）；Microsoft（微软公司）
从大型文档池中抽取适当的底片对于有效地训练稠密检索模型至关重要。然而，现有的负采样策略遭受无信息或假阴性的问题。在这项工作中，我们凭经验表明，根据测量的相关性得分，排名在积极周围的负面信息一般更丰富，不太可能是假阴性。直觉上，这些底片不是太硬（\emph{may be false negatives}）或太容易（\emph{uninformative}）。它们是模糊的消极因素，需要在训练中更多地注意。因此，我们提出了一个简单的模糊否定抽样方法，SimANS，它采用了一个新的抽样概率分布，以采样更多的模糊否定。在四个公共数据集和一个行业数据集上的实验表明了该方法的有效性。我们在\url{https://github.com/microsoft/SimXNS}中公开了代码和模型。
2022-10-24 cs.CL cs.IR
Do the Findings of Document and Passage Retrieval Generalize to the Retrieval of Responses for Dialogues?
最近提出了许多学习稀疏和稠密检索方法，并证明了其在段落检索和文档检索等任务中的有效性。在本文中，我们通过可复制性研究来分析所吸取的教训是否可以推广到对话响应的检索，这是日益流行的对话搜索领域的一项重要任务。不像段落和文档检索，其中文档通常比查询长，在对话的响应排名中，查询（对话上下文）通常比文档（响应）长。此外，对话具有特定的结构，即不同用户的多个话语。考虑到这些差异，我们在这里评估从以前的工作中得到的以下主要发现的可推广性：（F1）查询扩展优于无扩展基线;（F2）文档扩展优于无扩展基线;（F3）zero-shot稠密检索低于稀疏基线;（F4）稠密检索优于稀疏基线;（F5）硬负采样比随机采样更适合训练稠密模型。我们的实验--基于三个不同的信息寻求对话数据集--揭示了五分之四的发现（F2-F5）适用于我们的领域
2023-01-13 cs.IR
CuSINeS: Curriculum-driven Structure Induced Negative Sampling for Statutory Article Retrieval
School of Computation, Information, and Technology（计算、信息与技术学院）；Technical University of Munich（慕尼黑工业大学）
本文提出CuSINeS负采样方法，通过课程学习、法规结构信息和动态语义难度评估提升法条检索性能，并在四个基线上验证了有效性。
2024-03-31 cs.CL cs.IR
Beyond Hard Negatives: The Importance of Score Distribution in Knowledge Distillation for Dense Retrieval
Korea University（高丽大学）
本文指出仅依赖硬负样本限制了学生模型学习教师偏好结构的能力，提出分层采样策略以均匀覆盖分数范围，实验表明该方法在不同设置中优于top-K和随机采样。
2026-04-28 cs.IR
BoundaryMORPH: Budgeted Reranking via Active Set Selection for Diffuse Retrieval
Purdue University（普渡大学）；AWS AI Labs（亚马逊AI实验室）
针对弥散检索中CE预算小于上下文容量的不匹配问题，提出BoundaryMORPH算法，利用高斯过程将CE预算用于边界处top-k集合成员判定，实现最先进的集合检索质量。
2026-09-24 cs.IR
Recommender Systems by means of Information Retrieval
在本文中，我们提出了一种方法，重新制定的推荐系统问题的信息检索之一。在我们的测试中，我们有一个用户的数据集，这些用户对一些电影进行了评级;我们从数据集中隐藏了一些值，并试图使用其剩余部分再次预测它们（所谓的“leave-n-out方法”）。为了使用一个信息检索算法，我们重新制定这个推荐系统的问题，以这种方式：一个用户对应于一个文件，一部电影对应于一个术语，活跃的用户（其评级，我们要预测）扮演的角色的查询，和评级被用作权重，在原来的IR算法的加权模式的地方。输出是与查询（“活动用户”）相关的文档（“用户”）的排名列表。我们使用这些用户的评级（根据排名加权）来预测活跃用户的评级。我们通过一个典型的指标进行比较，即算法返回的预测准确性，并将其与用户的真实评级进行比较。在我们的第一个测试中，我们使用了两种不同的信息检索算法：LSPR，最近提出的基于离散傅立叶变换的模型，和一个简单的向量空间模型。
2010-08-27 cs.IR
Multi-Task Retrieval-Augmented Text Generation with Relevance Sampling
TU Wien（维也纳工业大学）；Google（谷歌）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
研究了面向知识密集型任务的检索增强生成模型的多任务训练问题。我们建议通过利用知识密集型生成的一个独特属性来清理训练集：查询-答案对与知识库中的项目的连接。我们过滤训练样本通过相关性标签的置信度阈值，无论一对是由知识库回答与否。我们训练一个单一的融合解码器（FiD）发生器的七个组合任务的KILT基准。实验结果表明，我们简单而有效的方法大大改善了两个严重不平衡任务的竞争基线;并且在剩余任务上显示出较小的改善或没有显着的回归。此外，我们证明了我们的多任务训练与相关标签采样尺度以及增加的模型容量，并实现了最先进的结果，在五个七个KILT任务。
2022-07-07 cs.CL cs.IR
Negative Data Mining for Contrastive Learning in Dense Retrieval at IKEA.com
IKEA Retail (Ingka Group)（宜家零售（英卡集团））
本文提出基于结构化负样本策略和LLM评估方法提升IKEA产品检索，通过生成语义挑战性负样本和训练数据生成，提升检索性能，但发现在线用户参与度无显著差异。
2026-05-01 cs.IR
An Active Learning Based Approach For Effective Video Annotation And Retrieval
USC Institute for Creative Technologies（南加州大学创意技术研究所）
传统的多媒体注释/检索系统，如归一化连续相关模型（NormCRM）[16]，需要一个完全标记的训练数据的良好性能。通过确定用于标记训练数据的顺序，主动学习允许甚至在训练数据被完全注释之前的良好性能。在这项工作中，我们提出了一个主动学习算法，它结合了一种新的措施，样本的不确定性与一种新的基于聚类的方法来确定样本密度和多样性，并将其与NormCRM。聚类也被迭代地细化，以确保样本之间的特征和标签级别的一致性。我们表明，我们的方法优于多个基线上最近，开放的角色动画数据集和流行的TRECVID语料库在这两个任务的注释和基于文本的检索视频。
2015-04-27 cs.IR cs.LG cs.MM
Evaluating Sentence-Level Relevance Feedback for High-Recall Information Retrieval
本研究使用了一种新的模拟框架，以评估是否减少了时间和精力，以实现高召回使用主动学习与孤立的句子，而不是完整的文件，审查相关反馈。在较弱的假设下，即审阅整个文档比单个句子需要更多的时间和精力，模拟结果表明，使用孤立的句子进行相关反馈可以产生相当的准确性和更高的效率，相对于AutoTAR连续主动学习（“CAL”）的最新基线模型实现（BMI）TREC 2015年和2016年全面召回跟踪中使用的方法。
2019-03-28 cs.IR
Learning To Retrieve: How to Train a Dense Retrieval Model Effectively and Efficiently
排序一直是信息检索研究的热点之一。几十年来，词汇匹配信号一直主导着ad-hoc检索过程，但它也有固有的缺陷，如词汇不匹配问题。最近，稠密检索（DR）技术已被提出，以减轻这些限制，通过捕捉查询和文档之间的深层语义关系。大多数现有的稠密检索模型的训练依赖于从语料库中采样负实例来优化成对损失函数。通过研究发现，这种训练策略是有偏差的，不能有效地优化整个检索性能。为了解决这个问题，我们提出了一种学习学习（LTRe）训练技术。LTRe预先构造文档索引。在每一次训练迭代中，它执行完全检索而没有负采样，然后更新查询表示模型参数。通过这个过程，它教DR模型如何从整个语料库中检索相关文档，而不是如何重新排序可能有偏见的文档样本。在段落检索和文档检索任务中的实验表明：1）在有效性方面，LTRe显著优于所有竞争性稀疏和密集基线。在合理的延迟限制下，它甚至比BM 25-BERT级联系统获得更好的性能。2)在训练效率方面，与之前最先进的DR方法相比，LTRe在训练过程中提供了超过170倍的加速。使用压缩索引进行训练进一步节省了计算资源，性能损失较小。
2020-10-20 cs.IR
UnIte: Uncertainty-based Iterative Document Sampling for Domain Adaptation in Information Retrieval
Interdisciplinary Program in Artificial Intelligence（人工智能交叉学科项目）；Seoul National University（首尔国立大学）
UnIte通过过滤高aleatoric不确定性文档和优先选择高epistemic不确定性文档，提升领域适应的效率和质量，在BEIR数据集上实验显示显著提升nDCG@10性能。
2026-04-28 cs.AI cs.IR
Real-Time Hard Negative Sampling via LLM-based Clustering for Large-Scale Two-Tower Retrieval
Meta
针对双塔模型训练中负样本易学习的问题，提出利用大语言模型聚类生成硬负样本的实时采样方法，能有效提升模型性能并降低流行度偏差。
2026-09-29 cs.AI cs.IR
Truncated Step-Level Sampling with Process Rewards for Retrieval-Augmented Reasoning
本文提出SLATE方法，通过截断步骤级采样和密集过程奖励解决检索增强推理中的信用分配问题，实验表明其在多跳任务中表现优异。
2026-07-10 cs.CL cs.IR
Active Learning via Classifier Impact and Greedy Selection for Interactive Image Retrieval
Tel-Aviv University（特拉维夫大学）；OriginAI
针对交互式图像检索中开放集、类别不平衡且初始标注极少的二分类问题，提出GAL批量主动学习框架，通过分类器影响采集函数与贪婪批次选择提升检索性能，并给出高斯过程情形的理论保证。
2024-12-03 cs.CV cs.IR
ALDEN: Boosting Private Data Extraction from Retrieval-Augmented Generation Systems via Active Learning and Distribution Estimation
University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校）；Virginia Tech（弗吉尼亚理工大学）；Amazon（亚马逊）；University of South Florida（佛罗里达州立大学）；Rochester Institute of Technology（罗切斯特理工学院）；Purdue University（普渡大学）；North Carolina State University（北卡罗来纳州立大学）
本文提出ALDEN方法，通过主动学习和分布估计有效提升从检索增强生成系统中提取私有数据的效率和效果，通过全面评估证明其优于现有方法。
2026-04-10 cs.AI cs.IR
Improving Embedding Accuracy for Document Retrieval Using Entity Relationship Maps and Model-Aware Contrastive Sampling
Fifth Dimension AI（第五维度人工智能公司）
提出APEX-Embedding-7B，通过结构化实体关系图的收敛前中断微调与模型感知对比采样，提升长上下文文档RAG检索的事实聚焦能力并取得90.86% rank@1。
2024-10-08 cs.AI cs.CL cs.IR
Progressive Multimodal Reasoning via Active Retrieval
Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学高瓴人工智能学院）
本文提出AR-MCTS框架，通过主动检索与蒙特卡洛树搜索结合过程奖励模型，逐步提升多模态大语言模型在多步推理任务中的性能与验证可靠性。
2024-12-19 cs.AI cs.CL cs.CV
Information-Theoretic Active Learning for Content-Based Image Retrieval
Friedrich Schiller University Jena（耶拿弗里德里希·席勒大学）
我们提出了信息理论主动学习（ITAL），一种新的批处理模式的主动学习方法的二进制分类，并将其应用于获取有意义的用户反馈的背景下，基于内容的图像检索。我们的方法不是结合诸如不确定性、多样性或密度等不同的特征，而是基于最大化图像的预测相关性与关于所选批次的预期用户反馈之间的互信息。我们提出了合适的近似计算要求的问题，也整合了一个明确的用户行为模型，占可能不正确的标签和不可命名的实例。此外，我们的方法不仅考虑了数据的结构，而且还考虑了用户反馈引起的预期模型输出变化。与其他方法相比，ITAL具有高度灵活性，并在各种数据集（如MIRFLICKR和ImageNet）上提供最先进的性能。
2019-03-19 cs.CV cs.IR cs.LG
Continuous Active Learning Using Pretrained Transformers
University of Waterloo（滑铁卢大学）
预训练和微调的Transformer模型，如BERT和T5，已经改善了自组织检索和问答的最新技术水平，但在高召回信息检索中还没有，其目标是检索基本上所有相关的文档。我们调查是否使用基于变换器的模型进行重新排序和/或特征化可以提高基线模型实现的TREC总召回跟踪，这代表了目前的高召回信息检索的最新技术水平。我们还介绍了CALBERT，一个模型，可用于不断微调基于相关反馈的BERT模型。
2022-08-15 cs.AI cs.IR cs.LG
Bayesian Active Learning with Gaussian Processes Guided by LLM Relevance Scoring for Dense Passage Retrieval
Sungkyunkwan University（成均馆大学）；University of Toronto（多伦多大学）
本文提出BAGEL框架，通过高斯过程引导LLM相关性评分，解决传统方法在语义不同聚类中检索失败和相关性信号传播不足的问题，实验证明其在四个数据集上优于LLM重排序方法。
2026-04-20 cs.AI cs.IR
Influence Guided Sampling for Domain Adaptation of Text Retrievers
IBM Research AI（IBM人工智能研究）
本文提出Inf-DDS，一种基于强化学习的采样框架，通过影响信号优化文本检索器的领域适应，提升检索性能并降低计算成本。
2026-01-29 cs.CL cs.IR
Recommendation on a Budget: Column Space Recovery from Partially Observed Entries with Random or Active Sampling
Stanford University（斯坦福大学）
我们分析了交替最小化的列空间恢复的部分观察到的，近似低秩矩阵的列数不断增加，每列的观测值的固定预算。在这项工作中，我们证明，如果预算大于秩的矩阵，列空间恢复成功-随着列数的增长，从交替最小化的估计收敛到真正的列空间的概率趋于一。从我们的证明技术中，我们自然地制定了一个主动采样策略，用于选择列的条目，该策略在理论上和经验上（在合成和真实数据上）优于通常研究的均匀随机采样策略。
2021-05-16 cs.IR cs.LG stat.ML
Efficiently Teaching an Effective Dense Retriever with Balanced Topic Aware Sampling
TU Wien（维也纳工业大学）；University of Waterloo（滑铁卢大学）
广泛采用神经检索模型的关键一步是在整个训练，索引和查询工作流程中的资源效率。近年来，神经检索界在训练有效的双编码器稠密检索（DR）模型方面取得了很大进展。密集文本检索模型使用每个查询和段落的单个向量表示来对匹配进行评分，这使得具有最近邻搜索的低延迟第一阶段检索成为可能。越来越常见的训练方法需要巨大的计算能力，因为它们要么从不断更新的刷新索引中进行负通道采样，要么需要非常大的批量进行批量负采样。而不是依赖于更多的计算能力，我们引入了一个有效的主题感知查询和平衡的利润率采样技术，称为TAS平衡。我们在训练之前对查询进行一次聚类，并在每个批次中对聚类中的查询进行采样。我们用一种新颖的双教师监督来训练我们的轻量级6层DR模型，该监督结合了成对和批量的负教师。我们的方法可以在48小时内在单个消费级GPU上训练（而不是8 x V100的常见配置）。我们证明了我们的TAS-Balanced训练方法在两个TREC深度学习Track查询集上实现了最先进的低延迟（每个查询64 ms）结果。在NDCG@10上进行评估，我们的表现比BM 25好44%，比普通训练的DR好19%，比docT 5 query好11%，比之前最好的DR模型好5%。此外，TAS-Balanced还生成了第一个密集检索器，该检索器在TREC-DL的任何截止点上的召回率都优于其他所有方法，并允许更多资源密集型重新排序模型在更少的段落上…
2021-05-26 cs.CL cs.IR
Active Sampling of Pairs and Points for Large-scale Linear Bipartite Ranking
National Taiwan University（国立台湾大学）
二分排序是一个基本的排序问题，它学习将相关的实例排在不相关的实例之前。二分排序的逐对方法构造了二次数量的对来解决问题，这对于大规模数据集是不可行的。逐点方法虽然更有效，但通常会导致较差的性能。也就是说，很难同时准确和有效地进行双方排名。在本文中，我们开发了一种新的主动抽样方案内的成对的方法进行有效的二分排名。该方案的灵感来自于主动学习，可以达到一个有竞争力的排名性能，而在训练过程中只关注许多对的一个小子集。此外，我们提出了一个通用的组合排名和分类（CRC）框架，以准确地进行二分排名。该框架统一了逐点和逐对方法，并且简单地基于将每个实例点视为伪对的想法。在14个真实大规模数据集上的实验表明，该算法与线性支持向量机相结合，在精度和效率上均优于现有的逐点排序和逐对排序方法.
2017-08-24 cs.IR cs.LG
Bootstrapping Conditional Retrieval for User-to-Item Recommendations
Pinterest
本文提出一种条件检索方法，将物品侧信息作为查询条件纳入双塔模型，在Pinterest主题通知场景中实现+0.26%周活用户增长。
2025-08-22 cs.IR cs.LG
ALLabel: Three-stage Active Learning for LLM-based Entity Recognition using Demonstration Retrieval
Beihang University（北航大学）；Westlake University（西湖大学）
提出ALLabel三阶段主动学习框架，通过检索演示为LLM实体识别选择高信息量样本，仅标注5%-10%数据即可达到全量标注性能。
2025-09-09 cs.AI cs.CL cs.IR
Positive-First Most Ambiguous: A Simple Active Learning Criterion for Interactive Retrieval of Rare Categories
INRIA, LIRMM, Université de Montpellier（法国国家信息与自动化研究所，蒙彼利埃大学计算机科学、机器人技术与微电子实验室）；Institut National de l’Audiovisuel（法国国家视听研究所）
本文提出PF-MA准则，用于在低预算和低延迟环境下有效检索罕见类别，通过优先选择边界样本和可能的正例，提升检索效率和用户满意度。
2026-04-08 cs.CV cs.HC cs.IR
Unifying Approaches in Active Learning and Active Sampling via Fisher Information and Information-Theoretic Quantities
University of Oxford（牛津大学）
最近提出的数据子集选择方法，即主动学习和主动采样，使用Fisher信息，Hessians，基于梯度的相似性矩阵和梯度长度来估计数据对于模型训练的信息量。这些不同的方法是否有联系，如果有，是如何联系的？我们重新审视贝叶斯最优实验设计的基本原理，并表明这些最近提出的方法可以被理解为近似的信息理论量：其中，预测和模型参数之间的互信息，称为预期信息增益或BALD在机器学习，和收购候选人和测试样本的预测之间的互信息，称为预期预测信息增益。我们开发了一套全面的近似使用Fisher信息和观察到的信息，并得出一个统一的框架，连接看似不同的文献。虽然贝叶斯方法通常被视为独立于非贝叶斯方法，但在各种非贝叶斯目标中表达的有时模糊的“信息量”概念导致了相同的信息量，原则上，Lindley（1956）和MacKay（1992）已经知道了。
2022-11-06 cs.AI cs.IR cs.IT
Stochastic RAG: End-to-End Retrieval-Augmented Generation through Expected Utility Maximization
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；Google（谷歌公司）
本文提出Stochastic RAG，将检索建模为无放回随机采样，并利用straight-through Gumbel-top-k实现端到端可微优化，在七个数据集中六个上取得最先进结果。
2024-05-05 cs.CL cs.IR cs.LG
Multilingual Information Retrieval with a Monolingual Knowledge Base
Amazon（亚马逊）
本文提出通过加权采样对比学习微调多语言嵌入模型，实现基于单语知识库的跨语言检索，并在MRR和Recall@3上取得显著提升，且方法语言无关。
2025-06-03 cs.AI cs.CL cs.IR
Voice for the Voiceless: Active Sampling to Detect Comments Supporting the Rohingyas
Onai（Onai公司）；Carnegie Mellon University（卡内基梅隆大学）
罗兴亚难民危机是现代最大的人道主义危机之一，据联合国难民事务高级专员公署称，有60多万罗兴亚人无家可归。虽然它在全球范围内受到了媒体的持续关注，但尚未对社交媒体进行与这一不断演变的大危机有关的全面研究。在这项工作中，我们构建了一个大量的YouTube视频评论语料库（来自5,153个相关视频中113,250个用户的263,482条评论），旨在分析人工智能在帮助边缘化社区方面可能发挥的作用。使用多种主动学习策略的新组合和一种新的主动采样策略的基础上最近的邻居在评论嵌入空间中，我们构建了一个分类器，可以检测维护罗兴亚人的评论中大量的匿名和中立的。我们主张，除了新兴的仇恨言论检测领域之外，\emph{help-speech}的自动检测可以为无意识的人提供声音，并使互联网对边缘化社区更安全。
2020-01-06 cs.CL cs.CY cs.IR
Distance Sampling-based Paraphraser Leveraging ChatGPT for Text Data Manipulation
Seoul National University（首尔大学）；Soongsil University（崇实大学）
本文针对音频-文本检索中因字幕重复导致的数据不平衡问题，提出利用ChatGPT结合距离采样与Jaccard相似度文本簇的少样本提示方法，可控生成多样化改写文本，显著提升检索性能并优于传统文本增强技术。
2024-05-01 cs.AI cs.IR cs.SD
To Be Multimodal or Not to Be: Query-Adaptive Audio-Visual Person Retrieval via Active Modality Detection
University of Cambridge（剑桥大学）；Queen's University Belfast（贝尔法斯特女王大学）；University of Surrey（萨里大学）；Cisco（思科）；Southwest Jiaotong University（西南交通大学）；Teesside University（泰赛德大学）
提出一种查询自适应框架，通过跨模态分数一致性检测主动模态，在BBC Rewind语料库上达到94.2%的P@1，优于单模态和固定融合方法。
2026-06-04 cs.AI cs.CL cs.CV
