Multi-Task Learning for Email Search Ranking with Auxiliary Query Clustering
用户的信息需求在不同的任务中有很大的不同，因此他们的查询在表达能力和语义上也会有很大的不同。许多研究已经提出了这样的查询多样性模型，通过获取查询类型和建立查询相关的排名模型。这些研究通常需要一个标记的查询数据集或来自多个用户对同一文档的点击。然而，当手动查询标记不可行时，这些技术不适用，并且由于文档集合的私有性质，聚集的点击不可用，例如，在电子邮件搜索场景中。在本文中，我们研究如何获得查询类型在一个无监督的方式，以及如何将这些信息到查询相关的排名模型。首先，我们开发了一个层次聚类算法的基础上截断SVD和方差最大旋转，以获得粗到细的查询类型。然后，我们研究了三个依赖于查询的排名模型，包括两个利用查询类型信息作为附加特征的神经模型，以及一个将查询类型视为辅助查询聚类预测任务标签的新型多任务神经模型。这个多任务模型经过训练，可以同时对文档进行排名并预测查询类型。我们对数千万个真实电子邮件搜索查询的实验表明，所提出的多任务模型可以显着优于基线神经排名模型，后者要么不包含查询类型信息，要么只是简单地将查询类型作为附加功能。
2018-09-15 cs.IR
The Opposite of Smoothing: A Language Model Approach to Ranking Query-Specific Document Clusters
利用信息引起的（查询特定）聚类的顶部检索的文件一直被提出作为一种手段，以提高精度的最高排名的返回结果。我们提出了一种新的语言模型的方法来排名查询特定的集群的假设百分比的相关文件，他们包含。虽然大多数以前的集群排名方法集中在集群作为一个整体，我们的模型还利用信息诱导与集群相关的文件。我们的模型大大优于以前的方法，用于识别包含高相关文档百分比的聚类。此外，使用该模型来产生文档排序，产生的精度在顶级的性能，始终优于初始的排名上进行聚类。性能也有利地比较与一个国家的最先进的伪反馈为基础的检索方法。
2014-01-16 cs.IR
Context Attentive Document Ranking and Query Suggestion
我们提出了一个上下文感知的神经排序模型，利用用户的任务搜索活动，提高检索性能。特别是，一个两级层次递归神经网络被引入到学习搜索上下文表示的个人查询，搜索任务，以及相应的依赖结构，通过共同优化两个同伴检索任务：文档排序和查询建议。为了识别搜索上下文和用户正在进行的搜索活动之间的变量依赖结构，在两个层次的经常性状态的注意力。广泛的实验比较，对一组丰富的基线方法和深入的消融分析证实了我们提出的方法建模搜索上下文埋在搜索任务的价值。
2019-06-05 cs.IR
Co-BERT: A Context-Aware BERT Retrieval Model Incorporating Local and Query-specific Context
基于BERT的文本排序模型极大地提高了自组织检索的最新水平，其中大多数模型倾向于独立地考虑单个查询-文档对。与此同时，在排名模型中考虑跨文档交互和查询特定特征的重要性和有用性已被反复证实，主要是在学习排序的背景下。然而，基于BERT的排名模型还不能完全结合这两种类型的排名上下文，从而忽略了来自排名的文档间关系和查询之间的差异。为了缓解这一差距，在这项工作中，一个端到端的基于转换器的排名模型，名为共同BERT，已提出利用几个BERT架构校准查询文档表示使用伪相关反馈建模前的一组文档的相关性联合。在两个标准测试集上进行的大量实验证实了所提出的模型在提高文本重排序性能方面的有效性。我们计划使我们的实现开源，以便进行进一步的比较。
2021-04-17 cs.IR
Efficient Document Re-Ranking for Transformers by Precomputing Term Representations
深度预训练的Transformer网络在各种排名任务中是有效的，例如问答和ad-hoc文档排序。然而，它们的计算费用认为它们在实践中成本过高。我们提出的方法，称为PreTTR（Precomputing Transformer Term Representations），大大降低了深度Transformer网络的查询时间延迟（在Web文档排序上加速高达42倍），使这些网络更实用，可用于实时排名场景。具体来说，我们在索引时预先计算部分文档术语表示（没有查询），并在查询时将它们与查询表示合并以计算最终的排名分数。由于令牌表示的大小很大，我们还提出了一种有效的方法，通过训练压缩层来匹配注意力分数来减少存储需求。我们的压缩技术将所需的存储空间减少了95%，并且可以在不大幅降低排名性能的情况下应用。
2020-05-26 cs.IR
Counterfactual Learning To Rank for Utility-Maximizing Query Autocompletion
Massachusetts Institute of Technology（麻省理工学院）；Amazon Search（亚马逊搜索）；Amazon Music（亚马逊音乐）；UT Austin（德克萨斯大学奥斯汀分校）
查询自动完成的传统方法旨在预测用户将从列表中选择哪个已完成的查询。这种方法的缺点是，用户通常不知道哪个查询将在当前信息检索系统上提供最佳检索性能，这意味着任何被训练成模仿用户行为的查询自动完成方法都可能导致次优的查询建议。为了克服这一限制，我们提出了一种新的方法，明确优化下游检索性能的查询建议。我们制定这一问题的排名一组排名，其中每个查询建议是由下游项目排名它产生的。然后，我们提出了一种学习方法，排名查询建议的质量，他们的项目排名。该算法基于反事实学习方法，该方法能够利用对项目的反馈（例如，点击、购买）来通过无偏估计器评估查询建议，从而避免了用户编写或选择最佳查询的假设。我们建立所提出的方法的理论支持，并提供学习理论的保证。我们还提出了公开可用的数据集的实证结果，并展示了现实世界的适用性，使用数据从网上购物商店。
2022-04-22 cs.IR cs.LG stat.ML
Agent4Ranking: Semantic Robust Ranking via Personalized Query Rewriting Using Multi-agent LLM
本文提出Agent4Ranking框架，利用多智能体大语言模型模拟不同人口统计群体进行查询改写，并结合鲁棒MMoE架构与混合损失函数，增强排序模型对多样化查询表述的鲁棒性。
2023-12-24 cs.IR
On the Interpolation of Contextualized Term-based Ranking with BM25 for Query-by-Example Retrieval
基于术语的排序与预先训练的transformer为基础的语言模型最近得到了关注，因为他们带来了上下文的权力，Transformer模型的高效检索。在这项工作中，我们研究了两个深上下文的基于术语的模型在查询的背景下，通过示例（QBE）检索，其中种子文件作为查询，以找到相关的文件的泛化能力。在这种情况下--查询比普通关键字查询长得多--查询时的BERT推理是有问题的，因为它涉及二次复杂度。我们研究了TILDE和TILDEv 2，它们都利用BERT标记器作为查询编码器。使用这种方法，在查询时不需要BERT推理，并且查询可以是任何长度。我们对Sciencebenchmark的四个QBE任务的广泛评估表明，在逐例查询检索设置中，TILDE和TILDEv 2仍然不如交叉编码器BERT排名器有效。然而，我们观察到，BM 25可以显示出竞争力的排名质量相比，TILDE和TILDEV 2这是在对比的结果，这三个模型的相对性能检索短查询报告在以前的工作。这一结果提出了一个问题，使用上下文的基于术语的排名模型是有益的QBE设置。我们通过研究TILDE（TILDEv 2）和BM 25的相关性分数之间的分数插值来跟踪我们的发现。我们的结论是，这两个语境化的基于术语的排名模型捕获不同的相关性信号比BM 25和结合不同的基于术语的排名结果在统计上显着改善QBE检索。我们的工作揭示了检索设置不同于常见的评估基准的…
2022-10-11 cs.IR
A Dual Embedding Space Model for Document Ranking
搜索引擎的基本目标是在给定查询的情况下识别具有相关文本的文档。这在本质上是困难的，因为查询和文档可能使用不同的词汇表，或者文档可能包含不相关的查询词。我们调查神经词嵌入作为证据来源的文档排序。我们训练一个word 2 vec嵌入模型在一个大型的未标记的查询语料库，但在如何使用该模型是常用的，我们保留了输入和输出的预测，使我们能够利用这两个嵌入空间，以获得更丰富的分布关系。在排序过程中，我们将查询词映射到输入空间，将文档词映射到输出空间，并通过聚合所有查询-文档词对的余弦相似度来计算查询-文档相关性得分。我们假设，建议的双嵌入空间模型（DESM）捕获的证据，一个文件是否是关于一个查询词除了什么是传统的基于词频的方法建模。我们的实验表明，DESM可以重新排名顶部返回的商业Web搜索引擎，如Bing，比一个基于术语匹配的信号，如TF-IDF的文件。然而，当对一组较大的候选文档进行排名时，我们发现基于嵌入的方法容易出现误报，检索到的文档与查询仅松散相关。我们证明，这个问题可以有效地解决排名的DESM和字数统计功能的线性混合的基础上。
2016-02-02 cs.IR
Learning Optimal Card Ranking from Query Reformulation
移动搜索最近被证明是搜索市场增长的主要贡献者。移动搜索和桌面搜索的关键区别在于，信息呈现仅限于移动终端的屏幕空间。因此，主要的搜索引擎已经采用了一种新类型的搜索结果呈现，称为\textit{information cards}，其中每个卡片呈现针对给定查询的来自一个域/垂直的汇总结果，以扩充标准的蓝色链接搜索结果。虽然人们普遍认为信息卡特别适合移动用户体验，但优化此类结果集也具有挑战性。通常，像查询重构这样的用户参与度度量是基于每个查询的卡片的整个排名列表的，并且大多数传统的学习排序算法需要每个项目的相关性标签。在本文中，我们调查的可能性解释查询重组成有效的相关标签的查询卡对。我们继承了传统的学习排名的概念，并提出逐点，成对和列表的查询重构的解释。此外，我们提出了一个学习标签策略，学习每张卡的贡献，相对于查询，这些贡献可以用作标签的训练卡排名模型。我们利用一个国家的最先进的排名模型，并证明了所提出的机制的有效性，从一个主要的搜索引擎的大规模移动数据，显示来自用户参与的标签训练的模型可以显着优于从人类判断标签训练。
2016-06-22 cs.IR
Aligning Web Query Generation with Ranking Objectives via Direct Preference Optimization
提出利用直接偏好优化（DPO）将排序信号融入查询生成，以生成高质量合成查询，提升下游检索性能，并在MS MARCO基准上验证了有效性。
2025-05-25 cs.IR
Interpreting Neural Ranking Models using Grad-CAM
近年来，将深度神经网络应用于信息检索已成为一个重要而及时的课题。例如，与传统的排名模型相比，神经排名模型（NRM）已经显示出有前途的性能。然而，由于神经网络的复杂结构，解释NRM的排名结果变得更加困难。另一方面，大量关于可解释机器学习（IML）的研究正在进行中，包括Grad-CAM。Grad-CAM是一种属性方法，它可以可视化对网络输出有贡献的输入区域。在本文中，我们采用Grad-CAM解释NRM的排名结果。通过采用Grad-CAM，我们分析了每个查询文档术语对如何对给定的查询和文档对的匹配得分做出贡献。可视化结果提供了关于为什么某个文档与给定查询相关的见解。此外，结果表明，神经排名模型捕捉到了相关性的微妙概念。我们的解释方法和可视化结果可以用于片段生成和用户查询意图分析。
2020-05-12 cs.IR
Robust Generalization and Safe Query-Specialization in Counterfactual Learning to Rank
Radboud University（拉德堡德大学）；University of Amsterdam（阿姆斯特丹大学）；Ahold Delhaize（皇家阿霍德德尔海兹集团）
反事实学习排序（LTR）的现有工作集中在优化基于特征的模型，预测基于文档特征的最佳排名。基于bandit算法的LTR方法通常会优化表格模型，这些模型会记住每个查询的最佳排名。这些类型的模型都有自己的优点和缺点。基于查询的模型在许多查询中提供了非常强大的性能，包括那些以前看不见的查询，但是，可用的功能通常限制了模型可以预测的排名。相比之下，表格模型可以通过记忆收敛到任何可能的排名。然而，记忆非常容易产生噪音，这使得表格模型只有在大量用户交互可用时才可靠。我们能否开发一种强大的反事实LTR方法，在安全的情况下追求基于记忆的优化？我们介绍了泛化和专业化（GENSPEC）算法，一个强大的基于特征的反事实LTR方法，追求每查询记忆时，它是安全的。GENSPEC优化了单一的基于特征的模型，用于泛化：在所有查询中具有强大的性能，以及许多用于专业化的表格模型：每个模型都针对单个查询的高性能进行了优化。GENSPEC使用新的相对高置信度界限来选择每个查询部署哪个模型。通过这样做，GENSPEC享有高性能的成功专门的表格模型与鲁棒性的广义特征为基础的模型。我们的研究结果表明，GENSPEC导致查询有足够的点击数据的最佳性能，同时具有强大的行为查询很少或嘈杂的数据。
2021-02-20 cs.IR cs.LG
Deep Relevance Ranking Using Enhanced Document-Query Interactions
Athens University of Economics and Business（雅典经济与商业大学）；Google AI（谷歌人工智能）
我们探索了几种新的文档相关性排名模型，建立在Guo et al.（2016）的深度相关性匹配模型（DRMM）基础上。与DRMM不同，DRMM使用术语的上下文不敏感编码和查询-文档术语交互，我们在整个模型中注入了丰富的上下文敏感编码，灵感来自PACRR（Hui等人，卷积n-gram匹配功能，但以多种方式扩展，包括查询和文档输入的多个视图。我们在来自BIOASQ问答挑战的数据集上测试我们的模型（Tsatsaronis等人，2015年）和TREC ROBUST 2004年（Voorhees，2005年），显示它们优于基于BM 25的基线，DRMM和PACRR。
2018-09-11 cs.CL cs.IR
BERT-QE: Contextualized Query Expansion for Document Re-ranking
University of Chinese Academy of Sciences（中国科学院大学）；Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所）；Amazon Alexa（亚马逊 Alexa）；Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）
查询扩展的目的是减少查询和文档中使用的语言之间的不匹配。然而，查询扩展方法在扩展查询时可能会引入不相关的信息。为了弥合这一差距，灵感来自最近的进展，应用上下文模型，如BERT的文档检索任务，本文提出了一种新的查询扩展模型，利用强度的BERT模型选择相关的文档块进行扩展。在对标准TREC Robust 04和GOV 2测试集的评估中，所提出的BERT-QE模型显著优于BERT-Large模型。
2020-11-03 cs.CL cs.IR
Efficient Neural Ranking using Forward Indexes
神经文档排序方法，特别是Transformer模型，在排名性能方面取得了令人印象深刻的进步。然而，使用这种过度参数化模型的查询处理是资源和时间密集型的。在本文中，我们提出了快进索引-一个简单的向量向前索引，便于使用插值的词汇和语义分数的排名文件-作为上下文重排序和密集索引的基础上最近邻搜索的替代品。Fast-Forward索引依赖于高效的稀疏模型进行检索，并且仅在恒定时间内查找文档和段落的预先计算的密集的基于transformer的向量表示，以便在查询处理期间进行快速的基于CPU的语义相似性计算。我们提出了索引修剪和理论上接地早期停止技术，以提高查询处理吞吐量。我们在TREC-DL数据集上进行了广泛的大规模实验，并显示了仅使用CPU的混合索引在性能和查询处理效率方面的改进。由于词汇和语义相似性的互补优势，快进索引可以使用插值提供更好的排名性能。
2022-04-04 cs.IR
Generating Query-Relevant Document Summaries via Reinforcement Learning
提出强化学习框架ReLSum，利用相关性得分作为奖励，通过可训练LLM生成查询相关的商品描述摘要作为交叉编码器排序模型的输入，显著提升了大规模电商搜索的离线与在线指标。
2025-08-11 cs.AI cs.IR cs.LG
Learning Joint Query Interpretation and Response Ranking
由于信息抽取和语义Web的努力，使用语义注释和结构化知识库对非结构化文本的搜索越来越精细。然而，大多数用户不能熟悉知识库的模式，并要求结构化查询。将自由格式的查询解释为更结构化的表示是当前的一大兴趣。主要范例是根据目的（对类型、实体、属性名称、属性值、关系的引用）对查询标记进行分段或分区，然后在结构化知识库上启动解释的查询。考虑到结构化知识提取永远不会完成，这里我们使用一种保留非结构化文本语料库以及结构化注释的数据表示（实体和关系的提及）。我们提出了两个新的，自然的联合查询解释和响应排名公式，利用知识库和语料库之间的双向信息流。一个，受概率语言模型的启发，在查询解释的不确定性上计算预期响应分数。另一种是基于最大边际判别学习，用潜变量表示这些不确定性。在类型化实体搜索的上下文中，这两个公式都弥合了根本不约束类型的通用查询与每个查询的"完美"目标实体类型由人类提供的上限之间的相当大一部分准确性差距。我们的配方也优于一个两阶段的方法，首先选择一个目标类型，使用最近的查询类型预测技术，然后启动一个类型限制的实体搜索查询。
2012-12-26 cs.IR
Open-source Large Language Models are Strong Zero-shot Query Likelihood Models for Document Ranking
CSIRO（联邦科学与工业研究组织）；The University of Queensland（昆士兰大学）
本文研究仅预训练未微调的开源LLMs作为零样本查询似然模型的文档排序能力，发现额外指令微调可能降低效果，并提出结合LLM-QLM与混合检索器的先进排序系统。
2023-10-20 cs.CL cs.IR
BioNLP-OST 2019 RDoC Tasks: Multi-grain Neural Relevance Ranking Using Topics and Attention Based Query-Document-Sentence Interactions
Siemens AG（西门子股份公司）；University of Munich (LMU)（慕尼黑大学（LMU））
本文介绍了我们的系统细节和参与BioNLP-OST 2019 RDoC任务的结果。研究领域标准（RDoC）结构是一个多维和广泛的框架，通过结合从基因组学到行为的知识来描述心理健康障碍。RDoC标记数据集的不可用性和繁琐的标记过程阻碍了RDoC框架在生物医学研究社区和医疗保健行业中的充分潜力。因此，任务1旨在检索和排名与给定RDoC结构相关的PubMed摘要，任务2旨在从给定PubMed摘要中提取最相关的句子。我们研究（1）基于注意力的监督神经主题模型和SVM用于PubMed摘要的检索和排名，并进一步利用BM 25和其他相关性度量进行重新排名，（2）监督和无监督句子排名模型，利用多视图表示，包括查询感知的基于注意力的句子表示（QAR），词袋（BoW）和TF-IDF。我们最好的系统在任务1和任务2中分别获得了0.86的平均精度（mAP）和0.58的宏观平均精度（MAA）。
2019-10-02 cs.CL cs.IR cs.LG
HyQE: Ranking Contexts with Hypothetical Query Embeddings
Boston University（波士顿大学）；Intuit AI Research（Intuit人工智能研究院）
HyQE提出一种无需微调LLM的可扩展上下文排序框架，通过让预训练LLM基于检索上下文生成假设查询，再计算其与用户查询的嵌入相似度来排序，在多个基准上提升了排序性能。
2024-10-20 cs.AI cs.IR
Improving Transformer-Kernel Ranking Model Using Conformer and Query Term Independence
Microsoft（微软）；TU Wien（维也纳工业大学）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
Transformer-Kernel（TK）模型在TREC深度学习基准测试中表现出了强大的重新排序性能，可以被认为是一种高效的（但效果稍差）替代其他基于Transformer的架构，这些架构采用（i）大规模预训练（高培训成本），（ii）查询和文档的联合编码（高推理成本），以及（iii）更大数量的Transformer层（高训练和高推理成本）。从那时起，TK模型的一个变体--称为TKL --被开发出来，它结合了局部自注意力，在文档排序的上下文中有效地处理较长的输入序列。在这项工作中，我们提出了一种新的构象层作为一种替代方法来扩展TK更长的输入序列。此外，我们将查询词的独立性和显式的长期匹配扩展到完整的检索设置的模型。我们在TREC 2020深度学习赛道的严格盲评估设置下对我们的模型进行了基准测试，发现我们提出的架构更改导致了TKL检索质量的提高。我们的最佳模型在NDCG@10上的性能也优于所有非神经运行（“trad”）和三分之二的基于transformer的预训练运行（“nnlm”）。
2021-04-19 cs.AI cs.IR cs.LG
Query Exposure Prediction for Groups of Documents in Rankings
本文提出查询曝光预测（QEP）任务及 GEP 方法，利用文档组词汇信息预测查询下各组在排序中的曝光分布，实验显示其准确率最高比现有适配方法提升40%。
2024-01-24 cs.IR
Brown University at TREC Deep Learning 2019
Brown University（布朗大学）
本文介绍了布朗大学提交给TREC 2019深度学习轨道。我们遵循一个2阶段的方法来产生一个给定的输入查询的段落的排名：在第一阶段，用户的查询是通过附加3个查询生成的Transformer模型，该模型被训练成重新措辞的输入查询语义相似的查询扩展。扩展的查询可以在表面形式和与感兴趣的段落的词汇重叠方面表现出更大的相似性，并且因此可以用作对任何下游信息检索方法的丰富输入。在第二阶段，我们使用一个基于BERT的模型，该模型经过语言建模的预训练，但经过查询-文档相关性预测的微调，以计算每个查询1000个候选段落的相关性得分，并随后根据预测的相关性得分对段落进行排序，从而获得段落的排名。根据2019年TREC深度学习赛道官方概述中公布的结果，我们的团队在段落检索任务中排名第三（包括完整排名和重新排名），在仅考虑重新排名提交时排名第二。
2020-09-08 cs.CL cs.IR cs.LG
Exploring Query Understanding for Amazon Product Search
本文基于 Amazon Search 真实系统开展为期一年的研究，分析查询理解对商品排序特征、模型评估的影响，并提出基于查询理解的多任务排序框架。
2024-08-05 cs.IR
MarlRank: Multi-agent Reinforced Learning to Rank
University of Alberta（阿尔伯塔大学）；Huawei（华为）；University College London（伦敦大学学院）；Tianjin University（天津大学）
在估计查询和文档之间的相关性时，排序模型在很大程度上忽略了文档之间的互信息。一个共同的智慧是，如果两个文档在相同的查询方面相似，它们更有可能具有相似的相关性得分。为了缓解这个问题，在本文中，我们提出了一个多智能体增强排名模型，名为MarlRank。特别是，通过考虑每个文件作为一个代理，我们制定的排名过程作为一个多代理马尔可夫决策过程（MDP），文件之间的相互作用被纳入排名过程。为了计算排序列表，每个文档不仅考虑其自身的查询文档特征，而且还考虑其相似的文档特征和动作来预测其与查询的相关性。通过将奖励定义为NDCG的函数，我们可以直接在排名性能指标上优化我们的模型。我们在两个LETOR基准数据集上的实验结果表明，我们的模型在最先进的基线上具有显着的性能增益。我们还发现，NDCG呈现出整体上升的趋势，随着交互的步骤，这表明，互信息之间的文档有助于提高排名性能。
2019-09-15 cs.IR cs.LG stat.ML
Leveraging semantically similar queries for ranking via combining representations
Microsoft Research（微软研究院）；Johns Hopkins University（约翰斯·霍普金斯大学）；University of Maryland, College Park（马里兰大学帕克分校）
在现代排名问题中，不同的和完全不同的表示的项目进行排名往往是可用的。因此，尝试结合这些表示来提高排名是明智的。实际上，通过组合表示来学习排序对于学习特定查询的排序函数来说是原则性的和实用的。然而，在数据极其稀缺的环境中，可用于特定查询的标记数据量可能导致高度可变和无效的排名功能。减轻少量数据的影响的一种方法是利用语义相似的查询中的信息。事实上，正如我们在模拟设置和真实数据示例中所展示的那样，当语义相似的查询可用时，可以在对特定查询进行排名时有效地使用它们。我们描述和探索这种现象的偏差方差权衡的背景下，并将其应用到数据稀缺的设置必应导航图和果蝇幼虫连接体。
2021-06-23 cs.IR cs.LG stat.ME
Query-driven Segment Selection for Ranking Long Documents
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
基于transformer的排名显示出最先进的性能。然而，他们的自我注意操作大多无法处理长序列。训练这些排序器的常用方法之一是以启发式方式选择每个文档的某些段（例如第一段）作为训练数据。但是，这些段可能不包含文档中与查询相关的部分。为了解决这个问题，我们提出了查询驱动的段选择从长文档建立训练数据。段选择器为相关样本提供更准确的标签，为不相关样本提供更难预测的标签。实验结果表明，与建议的段选择器训练的基本BERT的排序器显着优于训练的启发式选择的段，并表现出等同于最先进的模型与本地化的自我注意，可以处理更长的输入序列。我们的研究结果开辟了新的方向，设计高效的变压器为基础的排名。
2021-09-10 cs.CL cs.IR cs.LG
Competitive Retrieval: Going Beyond the Single Query
该研究聚焦多查询竞争检索场景，通过博弈论证明均衡未必存在，实验发现神经排序器比基于特征的排序器更难被操纵提升多查询排名，并提出了预测下一次最高排名文档的有效方法。
2024-04-14 cs.GT cs.IR
Query Expansion for Cross-Language Question Re-Ranking
Johns Hopkins University（约翰斯·霍普金斯大学）
社区问答（CQA）平台已经成为每天提问和回答问题的非常受欢迎的论坛。虽然这些论坛是社区知识的丰富宝库，但由于非正式讨论的开放性质，它们对寻找相关答案和类似问题提出了挑战。此外，如果该平台允许以多种语言提问和回答，我们将面临匹配跨语言信息的额外挑战。在这项工作中，我们专注于跨语言问题重新排序共享任务，其目的是找到可能用不同语言编写的现有问题。我们的贡献是探索查询扩展技术，这个问题。我们调查的基础上的扩展词嵌入，DBpedia的概念链接，和Hypernym，并表明，他们优于现有的国家的最先进的方法。
2019-04-16 cs.CL cs.IR
DREQ: Document Re-Ranking Using Entity-based Query Understanding
University of Edinburgh（爱丁堡大学）；University of Glasgow（格拉斯哥大学）
本文提出面向实体的稠密重排序模型DREQ，通过强化查询相关实体并削弱无关实体构建查询特定的混合文档表示，在四个基准上超越现有神经与非神经重排序方法。
2024-01-11 cs.AI cs.IR
CWRCzech: 100M Query-Document Czech Click Dataset and Its Application to Web Relevance Ranking
Charles University（查理大学）
本研究发布了目前最大的带原始文本的捷克语点击数据集CWRCzech及人工标注测试集，验证了大规模自动采集的点击数据训练的排序模型性能可超越人工标注数据训练的模型。
2024-07-15 cs.CL cs.IR
CROSS-JEM: Accurate and Efficient Cross-encoders for Short-text Ranking Tasks
针对现有交叉编码器独立打分忽略联合上下文、精度不足且成本高的问题，提出CROSS-JEM方法，通过联合打分与新型训练目标，实现了短文本排序任务的SOTA精度与4倍以上延迟降低。
2024-09-15 cs.IR
Interpreting search result rankings through intent modeling
鉴于最近的兴趣，可以说是准确的，但不可解释的神经模型，即使与文本特征，文档排序，我们试图回答有关如何解释排名的问题。在本文中，我们采取的第一个步骤对检索模型的可解释性框架的目的是回答3个主要问题“什么是查询的意图，根据排名？“，“为什么一个文档在查询中的排名高于另一个？“和“为什么一个文件与查询相关？“我们的框架是基于这样一个假设，即基于文本的检索模型行为可以使用查询扩展结合一个更简单的检索模型来估计，而不管底层的排名。我们使用Cocktail Web测试集合进行了实验。我们展示了我们的方法如何使用封闭形式符号（允许我们测量解释的准确性）和神经排名模型来实现更简单的模型。我们的研究结果表明，我们确实可以解释更复杂的模型，在某些简化的假设下具有合理的准确性。在一个案例研究中，我们还表明，我们的框架可以用来解释DRMM神经检索模型在各种情况下的结果。
2018-09-13 cs.IR
Composite Re-Ranking for Efficient Document Search with BERT
虽然相当大的努力已经投入到基于变压器的排名模型的文档搜索，相关性效率的权衡仍然是一个关键问题的特设排名。为了克服这一挑战，本文提出了BECR（基于BERT的复合重新排序），一个复合重新排序方案，结合了深度上下文令牌交互和传统的词汇术语匹配功能。特别地，BECR利用令牌编码机制将查询表示分解为可预计算的uni-gram和skip-n-gram。通过在双编码器架构之上应用令牌编码，BECR在捕获查询的上下文语义的同时分离了查询和文档之间的注意力。与以前的方法相比，该框架在在线推理期间不执行昂贵的BERT计算。因此，它是显着更快，但仍然能够实现高竞争力的ad-hoc排名的相关性。最后，使用TREC数据集描述了BECR和其他最先进的神经排名基线之间的深入比较，从而进一步证明了BECR的增强的相关性和效率。
2022-01-06 cs.IR
Session-Aware Query Auto-completion using Extreme Multi-label Ranking
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；Google Research（谷歌研究院）；Amazon（亚马逊）；University of California, San Diego（加利福尼亚大学圣迭戈分校）；University of Texas Austin（得克萨斯大学奥斯汀分校）
查询自动完成（QAC）是搜索引擎的一个基本功能，其任务是建议在搜索栏中键入的前缀的合理完成。用户会话中的先前查询可以为用户的意图提供有用的上下文，并且可以被利用来建议在遵守用户的前缀的同时更相关的自动完成。这种会话感知QAC可以通过最近的序列到序列深度学习模型生成;然而，这些生成方法通常不满足响应每个用户会话的严格延迟要求。此外，这些生成方法带来了显示无意义查询的风险。在本文中，我们提供了一个解决这个问题的方法：我们采取的新方法建模会话感知QAC作为一个极端的多标签排名（XMR）的问题，输入是以前的查询会话和用户的当前前缀，而输出空间是一组数千万的查询输入的用户在最近的过去。我们适应流行的XMR算法为此目的，提出了几个修改的算法中的关键步骤。在公共搜索日志数据集上，拟议的修改在平均倒数秩（MRR）方面比基线XMR方法提高了3.9倍。我们能够在仍然使用会话上下文的情况下保持小于10 ms的推理延迟。与可接受延迟的基线模型相比，我们观察到最多3个字符的短前缀的MRR提高了33%。此外，我们的模型在建议接受率方面比生产QAC系统有2.81%的统计学显着改善，当部署在在线购物商店的搜索栏上作为A/B测试的一部分时。
2021-08-21 cs.IR cs.LG
A New Email Retrieval Ranking Approach
电子邮件检索任务最近得到了很多关注，以帮助用户检索与提交的查询相关的电子邮件。据我们所知，现有的电子邮件检索排名方法排序检索电子邮件的基础上一些启发式规则，这要么是搜索线索或一些预先定义的用户标准植根于电子邮件字段。不幸的是，用户通常不知道有效的规则，获得最好的排名有关他的查询。本文提出了一种新的电子邮件检索排名方法来解决这个问题。它根据评分函数对检索到的电子邮件进行排名，该评分函数取决于关键的电子邮件字段，即主题，内容和发件人。本文还提出了一种架构，允许网络/用户组中的每个用户能够，如果允许的话，知道最重要的网络搜索者谁是感兴趣的，他提交的查询词。在Enron语料库上的实验结果表明，该方法的性能优于现有的邮件检索排序方法。
2010-11-02 cs.IR
Cluster Language Model for Improved E-Commerce Retrieval and Ranking: Leveraging Query Similarity and Fine-Tuning for Personalized Results
本文提出利用K-Means对查询聚类并在各簇上微调聚类语言模型，以较低训练成本改进电商检索准确性，实现优于双编码器模型的个性化检索结果。
2023-09-25 cs.IR
A Domain Generalization Perspective on Listwise Context Modeling
Ctrip Travel Network Technology Co., Limited（携程旅行网络科技有限公司）
作为信息检索中解决排序问题的最流行的技术之一，LETOR（Learning-to-rank）由于其在各种数据采掘应用中的重要性而受到学术界和工业界的广泛关注。然而，大多数现有的LETOR方法选择学习一个单一的全局排名函数来处理所有查询，而忽略了查询之间存在的实质性差异。在本文中，我们提出了一个领域泛化策略来解决这个问题。我们提出了查询不变的列表上下文建模（QILCM），一种新的神经架构，通过学习\textit{query-invariant}潜在表示消除查询间变异的不利影响，使排名系统可以更好地推广到看不见的查询。我们在基准数据集上评估了我们的技术，证明QILCM的性能大大优于以前的最先进的方法。
2019-02-12 cs.IR cs.LG
A New Email Retrieval Ranking Approach
电子邮件检索任务最近得到了很多关注，以帮助用户检索与提交的查询相关的电子邮件。据我们所知，现有的电子邮件检索排名方法排序检索电子邮件的基础上一些启发式规则，这要么是搜索线索或一些预先定义的用户标准植根于电子邮件字段。不幸的是，用户通常不知道有效的规则，获得最好的排名有关他的查询。本文提出了一种新的电子邮件检索排名方法来解决这个问题。它根据评分函数对检索到的电子邮件进行排名，该评分函数取决于关键的电子邮件字段，即主题，内容和发件人。本文还提出了一种架构，允许网络/用户组中的每个用户能够，如果允许的话，知道最重要的网络搜索者谁是感兴趣的，他提交的查询词。在Enron语料库上的实验结果表明，该方法的性能优于现有的电子邮件检索排序方法
2010-11-01 cs.IR
Personalized Search Via Neural Contextual Semantic Relevance Ranking
本文提出一种神经学习框架，通过结合词汇表示和语义嵌入建模文档内容与用户查询上下文的关系，利用个性化上下文信号优化文档排序，有效提升了个性化搜索效果。
2023-09-10 cs.IR
RGAlign-Rec: Ranking-Guided Alignment for Latent Query Reasoning in Recommendation Systems
Forth AI Singapore（Forth AI新加坡）；Shopee Singapore（Shopee新加坡）；Singapore Uni. of Tech. and Design（新加坡技术与设计大学）
RGAlign-Rec通过闭环对齐框架结合语义推理和增强查询模型，提升电子商务推荐系统的预测准确性和服务质量。
2026-02-13 cs.AI cs.CL cs.IR
A Passage-Based Approach to Learning to Rank Documents
根据常见的相关性判断机制，例如TREC的，即使文档包含具有相关信息的非常短的文本段落，也可以认为文档与查询相关。这一事实激发了基于XML的文档检索的工作：从文档的段落中归纳信息的文档排序方法。然而，主要来源的基于XML的信息利用的是XML查询相似性。我们解决的挑战，利用更丰富的基于XML的信息源，以提高文档检索的有效性。具体来说，我们设计了一套学习排名为基础的文件检索方法，利用有效的排名的段落产生的响应查询，也诱导使用学习排名的方法通过排名。一些方法量化了文档段落的排名。其他人利用用于学习段落排名器的段落的基于特征的表示。实证评估证明了我们的方法在高度有效的基线方面的明显优点。我们最好的执行方法是基于学习的文档排序功能使用文档查询功能和查询功能的文档的通道排名最高。
2019-06-05 cs.IR
CODEC: Complex Document and Entity Collection
CODEC是一个文档和实体排名基准，专注于复杂的研究主题。我们的目标是社会科学研究人员的论文式信息需求，即“英国的开放银行监管如何使挑战者银行受益？". CODEC包括研究人员开发的42个主题和一个新的重点网络语料库，其中包含实体链接的语义注释。该资源包括来自不同自动和交互式手动运行的17，509个文档和实体（每个主题416.9个）的专家判断。手动运行包括387个查询重写，为查询性能预测和自动重写评估提供数据。CODEC包括对最先进系统的分析，包括稠密检索和神经重新排序。结果表明，主题是具有挑战性的，为文档和实体排名的改进预留了空间。查询扩展与实体信息显示显着的收益在文档排序，展示了资源的价值，评估和改进面向实体的搜索。我们还表明，手动查询重构显着提高文档排序和实体排名的性能。总体而言，CODEC提供了具有挑战性的研究课题，以支持以实体为中心的搜索方法的开发和评估。
2022-05-17 cs.IR
Fast Passage Re-ranking with Contextualized Exact Term Matching and Efficient Passage Expansion
基于BERT的信息检索模型在时间（查询延迟）和计算资源（能量、硬件成本）方面都是昂贵的，使得这些模型中的许多模型特别是在资源约束下不切实际。依赖于仅执行标记化的查询编码器和在索引时对通道表示的预处理，允许最近提出的TILDE方法克服基于BERT的模型的典型的高查询延迟问题。然而，这是以与其他基于BERT的重排序器和密集检索器相比效率较低为代价的。此外，原始的TILDE方法的特点是索引具有非常高的内存占用，因为它将每个段落扩展到BERT词汇表的大小。在本文中，我们提出了TILDEv2，一个新的模型，源于原来的TILDE，但解决了其局限性。TILDEv2依赖于与扩展段落的上下文化精确术语匹配。这需要在索引中只存储出现在扩展段落中的标记的分数（而不是所有词汇），从而产生比TILDE小99%的索引。这种匹配机制还将排名效率提高了24%，而不会增加查询延迟。这使得TILDEv2成为仅CPU环境中最先进的通道重新排序方法，能够在商用硬件上将查询延迟保持在100 ms以下。
2021-09-13 cs.IR
Deep Neural Network for Learning to Rank Query-Text Pairs
本文用学习排序方法研究信息检索系统中的文档排序问题。我们提出了ConvRankNet，它结合了Siamese卷积神经网络编码器和RankNet排名模型，可以以端到端的方式进行训练。我们证明了一个一般性的结果证明了成对学习排序方法的线性测试时间复杂度。在OHSUMED数据集上的实验表明，ConvRankNet系统地优于现有的基于特征的模型。
2018-02-25 cs.IR
CREDENCE: Counterfactual Explanations for Document Ranking
本研究提出交互式工具CREDENCE，针对信息检索中的文档排序问题，从文档、查询及其他文档维度生成反事实解释，还支持用户自定义扰动以获取相关洞见，提升了排序器的可解释性。
2023-02-10 cs.IR
Test-Time Optimization of Query Embeddings with Ranking Aware Reward Maximization
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
本研究提出TTT-Embed框架，将排名奖励提炼为轻量学习向量，无需访问模型权重即可优化，在多嵌入模型和MTEB任务上显著提升测试时检索效果，且具备良好泛化性，解决了灾难性遗忘问题。
2026-08-14 cs.IR
Neural-IR-Explorer: A Content-Focused Tool to Explore Neural Re-Ranking Results
在本文中，我们期待超越基于度量的评价信息检索系统，探索背后的排名结果的原因。我们提出了以内容为中心的Neural-IR-Explorer，它使用户能够浏览检索结果，并检查神经重新排序模型的内部工作和细粒度结果。该资源管理器包括可用查询的分类概述，以及带有各种选项的单个查询结果视图，以突出显示查询-文档对之间的语义连接。Neural-IR-Explorer可从以下网址获得：https://neural-ir-explorer.ec.tuwien.ac.at/
2019-12-10 cs.IR
Cross-media Scientific Research Achievements Query based on Ranking Learning
School of Computer Science (National Pilot School of Software Engineering), Beijing University of Posts and Telecommunications（北京邮电大学计算机学院（国家软件学院）；北京智能电信软件与多媒体北京市重点实验室）；Beijing Key Laboratory of Intelligent Telecommunication Software and Multimedia
针对信息时代科研成果信息特点及传统查询方法不足，阐述从科研成果特征学习、跨媒体成果查询、排序学习及查询系统四方面的跨媒体科研成果查询研究现状，以辅助管理决策。
2026-07-13 cs.DL cs.IR
Cross-Document Neural Re-Ranking via Query-Induced Subgraphs
Sapienza University of Rome（罗马第一大学）；ISTI-CNR（意大利国家研究委员会信息科学与技术研究所）；University of Cambridge（剑桥大学）；Istituto Nazionale di Geofisica e Vulcanologia（国家地球物理与火山学研究所）；University of Pisa（比萨大学）
提出GNRR框架，利用查询诱导子图和GNN传播跨文档信号，实现线性复杂度重排序，在TREC-DLHard上比TCT-ColBERT提升5.2% AP，优于自注意力方法。
2026-09-15 cs.IR
RaFe: Ranking Feedback Improves Query Rewriting for RAG
Zhejiang University（浙江大学）；Alibaba Group（阿里巴巴集团）；Nanjing University（南京大学）
本文提出RaFe框架，利用公开重排序器的反馈训练查询重写模型，无需标注，提升RAG性能。
2024-05-23 cs.AI cs.CL cs.IR
One Hierarchy, Two Systems: Semantic Product IDs for Discovery-Surface Ranking and Search-Page Query Reformulation
DoorDash Inc.（多 Dash 公司）
本研究提出单一语义产品层级\textit{\texttt{sid}}，分别用于电商发现面排序与搜索页查询改写，经离线及在线实验验证，可提升排序相关性、加购参与度及查询意图保留等性能。
2026-08-24 cs.AI cs.IR
Interpretable & Time-Budget-Constrained Contextualization for Re-Ranking
搜索引擎在严格的时间限制下运行，因为快速响应对用户满意度至关重要。因此，神经重新排序模型具有有限的时间预算来重新排序文档。在相同的时间内，更快的重新排序模型可以比效率较低的模型包含更多的文档，从而提高效率。为了利用这一属性，我们提出了TK（Transformer-Kernel）：一个神经网络重新排名模型的ad-hoc搜索使用一个有效的上下文化机制。TK使用非常少的Transformer层（最多三个）来将查询和文档词嵌入置于上下文中。为了对单个术语的交互进行评分，我们使用了文档长度增强的内核池，这使用户能够深入了解模型。传统知识提供了有效性和效率之间的最佳比例：在现实的时间限制（最大。每个查询200 ms）TK与BERT和其他重排序模型相比达到了最高的效率。我们在三个大规模的排名集合上证明了这一点：MSMARCO-Passage，MSMARCO-Document和TREC CAR。此外，为了深入了解TK，我们进行了聚类查询分析TK的结果，突出其优势和劣势的查询与不同类型的信息需要，我们展示了如何解释的原因，排名差异的两个文件，通过比较其内部分数。
2020-02-04 cs.IR
