Interpreting Neural Ranking Models using Grad-CAM
近年来,将深度神经网络应用于信息检索已成为一个重要而及时的课题。例如,与传统的排名模型相比,神经排名模型(NRM)已经显示出有前途的性能。然而,由于神经网络的复杂结构,解释NRM的排名结果变得更加困难。另一方面,大量关于可解释机器学习(IML)的研究正在进行中,包括Grad-CAM。Grad-CAM是一种属性方法,它可以可视化对网络输出有贡献的输入区域。在本文中,我们采用Grad-CAM解释NRM的排名结果。通过采用Grad-CAM,我们分析了每个查询文档术语对如何对给定的查询和文档对的匹配得分做出贡献。可视化结果提供了关于为什么某个文档与给定查询相关的见解。此外,结果表明,神经排名模型捕捉到了相关性的微妙概念。我们的解释方法和可视化结果可以用于片段生成和用户查询意图分析。
2020-05-12 cs.IR
MS-Shift: An Analysis of MS MARCO Distribution Shifts on Neural Retrieval
预训练语言模型最近出现在信息检索中,作为新一代神经系统的支柱,在各种任务上优于传统方法。然而,目前还不清楚这种方法在zero-shot条件下推广到什么程度。最近的BEIR基准通过比较与训练条件不同的数据集和任务上的模型,为这个问题提供了部分答案。我们的目标是解决同样的问题,比较模型下更明确的分布偏移。为此,我们在MS MARCO中构建了三个基于查询的分布偏移(查询语义,查询意图,查询长度),用于评估基于BERT的三个主要神经检索器家族:稀疏,密集和后期交互-以及单BERT重新排名器。我们进一步分析了训练和测试查询分布之间的性能下降。特别是,我们实验两个泛化指标:第一个基于训练/测试查询词汇重叠,第二个基于表示的训练双编码器。直觉上,这些指标验证了测试集离训练集越远,性能下降越严重。我们还表明,模型对转变的反应不同-密集方法受到的影响最大。总体而言,我们的研究表明,它是可能的设计更可控的分布偏移作为一种工具,以更好地理解IR模型的泛化。最后,我们发布了MS MARCO查询子集,它为信息检索中的基准zero-shot传输提供了额外的资源。
2023-01-25 cs.IR
Task-Oriented Query Reformulation with Reinforcement Learning
搜索引擎在我们的日常生活中扮演着重要的角色,帮助我们找到我们需要的信息。然而,当我们输入一个复杂的查询时,结果往往远远不能令人满意。在这项工作中,我们介绍了一个查询重写系统的基础上,重写一个查询,以最大限度地提高返回的相关文件的数量的神经网络。我们用强化学习来训练这个神经网络。这些操作对应于选择术语来构建重构的查询,而奖励是文档召回。我们在三个数据集上对我们的方法进行了评估,并在召回率方面显示出5-20%的相对改善。此外,我们提出了一个简单的方法来估计一个模型在特定环境下的保守上限性能,并验证了仍然有很大的改进空间。
2017-09-24 cs.IR
Deep Neural Networks for Query Expansion using Word Embeddings
Tehran University(德黑兰大学);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
查询扩展是缓解信息检索任务中词汇不匹配问题的一种方法。以往的研究表明,通过伪相关反馈等传统方法选择用于查询扩展的术语并不总是有助于检索过程。在本文中,我们表明,这也是真实的最近提出的基于嵌入的查询扩展方法。然后,我们引入一个人工神经网络分类器来预测查询扩展条款的有用性。该分类器使用术语词嵌入作为输入。我们在四个TREC新闻专线和网络集合上进行实验,结果表明,与竞争基线相比,使用分类器选择的扩展项显着提高了检索性能。结果也显示比基线更稳健。
2018-11-08 cs.CL cs.IR
GNN-encoder: Learning a Dual-encoder Architecture via Graph Neural Networks for Dense Passage Retrieval
最近,基于密集表示的检索模型在段落检索任务中占主导地位,由于其出色的能力,在捕捉输入文本的语义相比,传统的稀疏向量空间模型。稠密检索模型的一个常见做法是利用双编码器架构来独立地表示查询和段落。虽然有效,但这样的结构失去了查询-通道对之间的交互,导致准确性较差。为了提高稠密检索模型的性能而不损失效率,我们提出了一个GNN编码器模型,其中查询(通道)信息融合到通道(查询)表示通过图神经网络,构建查询和他们的顶部检索通道。通过这种方法,我们保持了一个双编码器结构,并保留了一些查询-通道对之间的相互作用信息,这使我们能够实现效率和功效的通道检索。评估结果表明,我们的方法在MSMARCO,Natural Questions和TriviaQA数据集上的性能明显优于现有模型,并在这些数据集上达到了新的最先进水平。
2022-10-12 cs.IR
Personalized Search Via Neural Contextual Semantic Relevance Ranking
本文提出一种神经学习框架,通过结合词汇表示和语义嵌入建模文档内容与用户查询上下文的关系,利用个性化上下文信号优化文档排序,有效提升了个性化搜索效果。
2023-09-10 cs.IR
Neural-IR-Explorer: A Content-Focused Tool to Explore Neural Re-Ranking Results
在本文中,我们期待超越基于度量的评价信息检索系统,探索背后的排名结果的原因。我们提出了以内容为中心的Neural-IR-Explorer,它使用户能够浏览检索结果,并检查神经重新排序模型的内部工作和细粒度结果。该资源管理器包括可用查询的分类概述,以及带有各种选项的单个查询结果视图,以突出显示查询-文档对之间的语义连接。Neural-IR-Explorer可从以下网址获得:https://neural-ir-explorer.ec.tuwien.ac.at/
2019-12-10 cs.IR
Neural Architecture for Question Answering Using a Knowledge Graph and Web Corpus
在Web搜索中,实体搜索查询通常会触发一个特殊的问答系统。它可以使用解析器将问题解释为结构化查询,在知识图谱(KG)上执行该结构化查询,并返回直接的实体响应。基于精确解析的QA系统往往是脆弱的:微小的语法变化可能会极大地改变响应。此外,幼儿园的覆盖面参差不齐。在另一个极端,一个大的语料库可能提供更广泛的覆盖面,但在一个非结构化的,不可靠的形式。我们提出了AQQUCN,一个QA系统,优雅地结合KG和语料库证据。AQQUCN接受广泛的查询语法,从格式良好的问题到简短的“电报”关键字序列。面对固有的查询歧义,AQQUCN聚合来自KG和大型语料库的信号,直接对KG实体进行排名,而不是对查询进行一种语义解释。AQQUCN将理想解释建模为不可观察或潜在变量。解释和候选实体响应通过组合来自多个卷积网络的信号来成对评分,这些卷积网络共同对查询、KG和语料库进行操作。在四个公共查询工作负载上,总计超过8,000个具有不同查询语法的查询,与最近系统的实体排名性能相比,我们看到平均平均精度(MAP)有5- 16%的绝对提高。我们的系统在实体集检索方面也很有竞争力,对于具有挑战性的短查询,F1分数几乎翻了一番。
2018-12-06 cs.IR
Discovering Biases in Information Retrieval Models Using Relevance Thesaurus as Global Explanation
本文提出通过构建相关性词库全局解释神经检索模型,并用于增强BM25以近似神经模型预测,实验揭示了排序模型中的品牌名称偏差。
2024-10-04 cs.IR
Efficient Neural Ranking using Forward Indexes
神经文档排序方法,特别是Transformer模型,在排名性能方面取得了令人印象深刻的进步。然而,使用这种过度参数化模型的查询处理是资源和时间密集型的。在本文中,我们提出了快进索引-一个简单的向量向前索引,便于使用插值的词汇和语义分数的排名文件-作为上下文重排序和密集索引的基础上最近邻搜索的替代品。Fast-Forward索引依赖于高效的稀疏模型进行检索,并且仅在恒定时间内查找文档和段落的预先计算的密集的基于transformer的向量表示,以便在查询处理期间进行快速的基于CPU的语义相似性计算。我们提出了索引修剪和理论上接地早期停止技术,以提高查询处理吞吐量。我们在TREC-DL数据集上进行了广泛的大规模实验,并显示了仅使用CPU的混合索引在性能和查询处理效率方面的改进。由于词汇和语义相似性的互补优势,快进索引可以使用插值提供更好的排名性能。
2022-04-04 cs.IR
Cross-Document Neural Re-Ranking via Query-Induced Subgraphs
Sapienza University of Rome(罗马第一大学);ISTI-CNR(意大利国家研究委员会信息科学与技术研究所);University of Cambridge(剑桥大学);Istituto Nazionale di Geofisica e Vulcanologia(国家地球物理与火山学研究所);University of Pisa(比萨大学)
提出GNRR框架,利用查询诱导子图和GNN传播跨文档信号,实现线性复杂度重排序,在TREC-DLHard上比TCT-ColBERT提升5.2% AP,优于自注意力方法。
2026-09-15 cs.IR
Masking or Mitigating? Deconstructing the Impact of Query Rewriting on Retriever Biases in RAG
Siebel School of Computing and Data Science, University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校赛贝尔计算与数据科学学院);Adobe Research(Adobe研究院);Inception Labs;Indian Institute of Science(印度科学研究所)
本文研究查询重写技术对RAG系统中检索偏见的影响,发现简单LLM重写能显著降低偏见,但对抗条件下效果受限。分析揭示两种机制:简单重写通过增加分数方差降低偏见,伪文档生成通过真实去相关性降低偏见。
2026-04-20 cs.IR
Context Attentive Document Ranking and Query Suggestion
我们提出了一个上下文感知的神经排序模型,利用用户的任务搜索活动,提高检索性能。特别是,一个两级层次递归神经网络被引入到学习搜索上下文表示的个人查询,搜索任务,以及相应的依赖结构,通过共同优化两个同伴检索任务:文档排序和查询建议。为了识别搜索上下文和用户正在进行的搜索活动之间的变量依赖结构,在两个层次的经常性状态的注意力。广泛的实验比较,对一组丰富的基线方法和深入的消融分析证实了我们提出的方法建模搜索上下文埋在搜索任务的价值。
2019-06-05 cs.IR
Learning to Match Using Local and Distributed Representations of Text for Web Search
诸如潜在语义分析和基于神经嵌入的模型学习文本的分布式表示,并将查询与潜在语义空间中的文档进行匹配。另一方面,在传统的信息检索模型中,术语具有离散或局部表示,并且文档的相关性由查询术语在正文中的精确匹配来确定。我们假设,匹配与分布式表示补充匹配与传统的本地表示,两者的组合是有利的。我们提出了一种新的文档排序模型,该模型由两个独立的深度神经网络组成,一个使用本地表示匹配查询和文档,另一个使用学习的分布式表示匹配查询和文档。这两个网络作为单个神经网络的一部分进行联合训练。我们表明,这种组合或“二重奏”的表现显着优于任何一个神经网络单独的网页排名任务,也显着优于传统的基线和其他最近提出的模型的基础上神经网络。
2016-10-26 cs.IR
SEINE: SEgment-based Indexing for NEural information retrieval
提出基于片段的神经索引方法SEINE,通过片段级倒排索引存储查询-文档交互值,灵活支持多种基于交互的神经检索方法,在MQ2007和MQ2008数据集上实现最高28倍加速且不损失检索有效性。
2023-11-27 cs.IR
A Modern Perspective on Query Likelihood with Deep Generative Retrieval Models
现有的神经排序模型遵循文本匹配范式,其中通过预测匹配分数来估计文档与查询的相关性。借鉴经典生成式检索模型的丰富文献,我们引入并形式化了通过生成查询词的累积概率定义的深度生成式检索模型的范式。这种模式提供了一个接地概率相关性估计的观点,同时仍然能够使用现代神经架构。与匹配范式相反,生成排名的概率性质很容易提供一个细粒度的不确定性度量。我们在我们的框架中采用了几种当前的神经生成模型,并引入了一种新的生成排序器(T-PGN),它结合了Transformers的编码能力和指针生成器网络模型。我们利用MS MARCO Passage Re-ranking和TREC深度学习2019 Passage Re-ranking集合,对段落检索进行了一系列广泛的评估实验。我们的研究结果表明,显着更高的性能的T-PGN模型相比,其他生成模型。最后,我们证明了利用深度生成排名器的不确定性信息为查询/集合理解开辟了新的视角,并显着改善了截止预测任务。
2021-06-25 cs.IR
A Multi-Task Architecture on Relevance-based Neural Query Translation
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
我们描述了一种多任务学习方法来训练一个神经机器翻译(NMT)模型与一个基于相关性的辅助任务(RAT)的搜索查询翻译。跨语言信息检索(CLIR)任务的翻译过程通常被视为一个黑箱,它是作为一个独立的步骤来执行的。然而,在并行数据上训练的NMT模型不知道检索语料库的词汇分布。我们用我们的多任务学习架构解决了这个问题,在意大利语-英语查询文档数据集上,该架构比强大的NMT基线提高了16%。我们使用定量和定性分析表明,我们的模型生成平衡和精确的翻译与正则化效果,它实现了从多任务学习范式。
2019-06-17 cs.CL cs.IR
Deep-QPP: A Pairwise Interaction-based Deep Learning Model for Supervised Query Performance Prediction
受最近用于排名任务的端到端深度神经模型的成功的启发,我们在这里提出了一种用于查询性能预测(QPP)的监督式端到端神经方法。与依赖于文档分数分布的各种统计数据的无监督方法相比,我们的方法完全是数据驱动的。此外,与弱监督方法相比,我们的方法也不依赖于来自不同QPP估计器的输出。特别是,我们的模型利用的信息,从语义之间的相互作用的条款的查询和那些在顶部的文件检索与它。该模型的架构包括多层的2D卷积过滤器,然后由一个前馈层的参数。标准测试集上的实验表明,我们提出的监督方法优于其他国家的最先进的监督和无监督的方法。
2022-02-15 cs.IR
RAQG-QPP: Query Performance Prediction with Retrieved Query Variants and Retrieval Augmented Query Generation
University of Glasgow(格拉斯哥大学)
本文提出RAQG-QPP方法,利用历史检索查询作为查询变体,结合大语言模型生成变体,提升神经排序模型的查询性能预测效果,实验表明在TREC DL'19和DL'20上比现有方法提升30%。
2026-04-29 cs.IR
Exploiting Neural Query Translation into Cross Lingual Information Retrieval
Alibaba Group(阿里巴巴集团)
查询翻译作为跨语言信息检索(CLIR)中的一个重要环节,面临着三个主要挑战:1)翻译的充分性; 2)缺乏域内并行训练数据; 3)对低延迟的要求。为此,现有的CLIR系统主要利用基于语法的机器翻译(SMT)而不是高级神经机器翻译(NMT),限制了翻译和检索质量的进一步提高。本文研究了如何将神经查询翻译模型应用到CLIR系统中。具体而言,我们提出了一种新的数据增强方法,提取查询翻译对,根据用户点击数据,从而减轻在NMT领域适应的问题。然后,我们提出了一种异步策略,它能够充分利用SMT的实时性和NMT的准确性的优势。实验结果表明,该方法的检索质量优于强基线,可以很好地应用于实际的CLIR系统,即Aliexpress电子商务搜索引擎。读者可以在我们的网站上检查和测试他们的案例:https://aliexpress.com。
2020-10-26 cs.CL cs.IR
Query-Aware Graph Neural Networks for Enhanced Retrieval-Augmented Generation
NVIDIA(英伟达)
提出一种查询感知图神经网络,通过构建知识图谱和查询引导池化提升多跳问答的检索准确性,实验优于密集检索器。
2025-07-25 cs.AI cs.IR
Towards a Relevance Posterior in Neural Information Access
University of Glasgow(格拉斯哥大学)
研究现代信息检索系统中相关性操作的局限,提出将其理解为近似后验推理,扩展经典概率检索形式,通过显式似然 - 先验分解转移计算,纳入查询独立文档效用,经实验证明能提升检索效果并给出研究方向。
2026-07-28 cs.IR
Distribution-Aligned Fine-Tuning for Efficient Neural Retrieval
基于双编码器的神经检索模型实现了可观的性能,并补充传统的词汇检索器,以及由于其语义匹配能力,这使得它们成为混合IR系统的常见选择。然而,这些模型在在线查询编码步骤中表现出性能瓶颈,因为相应的查询编码器通常是大型且复杂的Transformer模型。在本文中,我们研究异构双编码器模型,其中两个编码器是单独的模型,不共享参数或初始化。我们的经验表明,异构的双编码器容易崩溃的表示,使他们输出恒定的平凡表示时,他们使用一个标准的对比度损失,由于分布不匹配进行微调。我们提出了DAFT,一个简单的两阶段微调方法,对齐两个编码器,以防止它们崩溃。我们进一步演示了如何DAFT可以用来训练高效的异构双编码器模型,使用轻量级查询编码器。
2022-11-09 cs.IR
Embedding-based Zero-shot Retrieval through Query Generation
段落检索解决了定位相关段落的问题,通常是从大型语料库中,给定查询。在实践中,词汇匹配算法,如BM 25是流行的选择检索,由于其效率。然而,基于术语的匹配算法通常会错过与查询没有词汇重叠的相关段落,并且无法对下游数据集进行微调。在这项工作中,我们考虑基于嵌入的双塔架构作为我们的神经检索模型。由于标记数据可能很稀缺,并且神经检索模型需要大量数据来进行训练,因此我们提出了一种生成用于检索的合成训练数据的新方法。我们的系统产生了显著的结果,在6个测试数据集中的5个数据集上显著优于BM 25,Recall@1的平均得分为2.45分。在某些情况下,我们在合成数据上训练的模型甚至可以优于在真实数据上训练的相同模型
2020-09-22 cs.IR
Improving Neural Retrieval with Attribution-Guided Query Rewriting
IRIT, UMR5505 CNRS Université Toulouse Capitole(IRIT,CNRS 5505 机构,图卢兹大学);IRIT, UMR5505 CNRS UT2J, Université de Toulouse(IRIT,CNRS 5505 机构,图卢兹大学)
本文提出归因引导的查询重写方法,通过标记级解释指导LLM澄清模糊查询,提升神经检索效果。
2026-02-12 cs.AI cs.IR cs.LG
Intent-Aware Neural Query Reformulation for Behavior-Aligned Product Search
eBay Inc(eBay公司)
本研究针对电商搜索查询改写的意图建模难题,提出挖掘买家日志细粒度意图信号的数据流水线,构建意图感知改写框架,实证显示其在多品类中提升了检索相关性与用户参与度。
2025-07-29 cs.IR cs.LG
Query Suggestion for Click-Absent Queries in Enterprise Search
创建替代查询,也称为查询建议,已被证明有助于改善用户的搜索体验。由于这些建议,用户可以更快,更准确地检索他们的信息需要。在许多情况下,通过建立被点击的查询-文档对的二分图,可以从点击日志中生成这些建议。现有的方法大多集中在点击现有的查询,拥有点击信息的搜索日志,建议相关的查询使用的共同点击的文件。在本文中,我们提出了一个简单而有效的查询建议方法,特别是点击不存在的查询,通过确保语义一致性,而不利用任何额外的资源。我们的实验结果表明,所提出的技术产生了比较好的建议,一个真正的双语企业搜索日志上的点击缺席查询。
2021-12-28 cs.IR
AttSum: Joint Learning of Focusing and Summarization with Neural Attention
The Hong Kong Polytechnic University(香港理工大学);Peking University(北京大学);Microsoft Research(微软研究院)
查询相关性排序和句子显著性排序是抽取式查询文摘的两个主要任务。以前的监督摘要系统通常单独执行这两个任务。然而,由于参考摘要是相关性和显着性之间的权衡,使用它们作为监督,这两个排名都不能很好地训练。本文提出了一种新的摘要系统AttSum,它处理这两个任务联合。它自动学习句子和文档集群的分布式表示。同时,它应用注意力机制来模拟人类在给出查询时的注意阅读行为。在DUC查询为中心的摘要基准数据集上进行了广泛的实验。在不使用任何手工制作的功能的情况下,AttSum实现了具有竞争力的性能。它也被观察到,句子识别集中在查询确实满足查询的需要。
2016-09-27 cs.CL cs.IR
Neural Passage Quality Estimation for Static Pruning
本文提出神经段落质量估计方法,用于静态剪枝,在不损失检索有效性的前提下剪枝语料库超25%的段落,降低神经搜索引擎的计算、能耗和碳足迹成本。
2024-07-16 cs.IR
Neural Models for Information Retrieval
用于信息检索(IR)的神经排序模型使用浅或深神经网络来对响应于查询的搜索结果进行排序。传统的学习排序模型采用机器学习技术,而不是手工制作的IR特征。相比之下,神经模型从原始文本中学习语言表示,可以弥合查询和文档词汇之间的差距。与经典的IR模型不同,这些基于机器学习的新方法是数据饥渴的,在它们可以被部署之前需要大规模的训练数据。本教程介绍了神经IR模型背后的基本概念和直觉,并将其置于传统检索模型的背景下。我们首先介绍IR的基本概念以及学习文本矢量表示的不同神经和非神经方法。然后,我们回顾了浅层神经IR方法,这些方法采用预先训练的神经项嵌入,而无需端到端学习IR任务。接下来我们将介绍深度神经网络,讨论流行的深度架构。最后,我们回顾了当前用于信息检索的DNN模型。最后,我们对神经IR的未来发展方向进行了讨论。
2017-05-03 cs.IR
Constraint Translation Candidates: A Bridge between Neural Query Translation and Cross-lingual Information Retrieval
Alibaba Group(阿里巴巴集团)
查询翻译是跨语言信息检索系统中的一个关键部分。在深度学习的帮助下,神经机器翻译(NMT)在各种任务上都表现出了良好的效果。然而,NMT通常使用大规模域外数据而不是域内查询翻译对进行训练。此外,翻译模型在推理时缺乏一种机制来保证生成的词与搜索索引相匹配。QT的这两个缺点导致人类可读的文本,但下游检索任务的候选人不足。在本文中,我们提出了一种新的方法来缓解这些问题,限制开放的目标词汇搜索空间的QT的一组重要的话挖掘从搜索索引数据库。在训练和推理时都采用约束翻译候选,从而指导翻译模型学习和生成性能良好的目标查询。本文提出的方法在一个真实的CLIR系统--全球速卖通电子商务搜索引擎中得到了应用和检验。实验结果表明,我们的方法在翻译质量和检索准确率上都比强NMT基线有更好的性能。
2020-10-26 cs.CL cs.IR
MRNN: A Multi-Resolution Neural Network with Duplex Attention for Document Retrieval in the Context of Question Answering
University of Arkansas Little Rock(阿肯色大学小石城分校)
自组织检索(问答环境中的文档检索)的主要目标是找到满足自然语言查询中发布的信息需求的相关文档。它需要对查询和语料库中的所有文档有很好的理解,这是困难的,因为自然语言文本的含义取决于上下文、语法和语义。最近,深度神经网络已经被用于响应于查询对搜索结果进行排名。在本文中,我们设计了一个多分辨率神经网络(MRNN),利用整个层次的表示文档检索。MRNN模型能够从学习到的层次表示的所有层中获得一个集成了不同抽象层次的表示,并且设计了一个双重注意组件来改进多分辨率表示,从而确定查询和文档匹配的最佳上下文.更具体地,第一注意力机制根据所学习的查询和文档的多分辨率表示来确定最佳上下文。后一种注意力机制旨在微调表示,使得查询和相关文档更接近。实证研究表明,MRNN与双重注意力是显着优于现有的模型用于ad-hoc检索基准数据集,包括SQuAD,WikiQA,QUASAR,TrecQA。
2019-11-03 cs.CL cs.IR
Interpreting search result rankings through intent modeling
鉴于最近的兴趣,可以说是准确的,但不可解释的神经模型,即使与文本特征,文档排序,我们试图回答有关如何解释排名的问题。在本文中,我们采取的第一个步骤对检索模型的可解释性框架的目的是回答3个主要问题“什么是查询的意图,根据排名?“,“为什么一个文档在查询中的排名高于另一个?“和“为什么一个文件与查询相关?“我们的框架是基于这样一个假设,即基于文本的检索模型行为可以使用查询扩展结合一个更简单的检索模型来估计,而不管底层的排名。我们使用Cocktail Web测试集合进行了实验。我们展示了我们的方法如何使用封闭形式符号(允许我们测量解释的准确性)和神经排名模型来实现更简单的模型。我们的研究结果表明,我们确实可以解释更复杂的模型,在某些简化的假设下具有合理的准确性。在一个案例研究中,我们还表明,我们的框架可以用来解释DRMM神经检索模型在各种情况下的结果。
2018-09-13 cs.IR
A Survey on Efficient Processing of Similarity Queries over Neural Embeddings
相似性查询是基于某种相似性度量的一类查询。与大多基于值相等的传统数据库查询不同,相似性查询旨在根据一些相似性度量来找到与给定数据对象“足够相似”的目标,例如,为了度量数据对象之间的相似性,传统的方法通常工作在低级别或语法特征上(例如,图像的基本视觉特征或文本的词袋特征),这使得它们难以计算对象之间的语义相似性。因此,为了从语义上测量数据相似性,应用了神经嵌入。嵌入技术通过将原始数据对象表示为向量(所谓的“嵌入”或“神经嵌入”,因为它们主要由神经网络模型生成)来工作,该向量暴露原始数据的隐藏语义,基于该语义,嵌入确实在捕获数据相似性方面表现出突出的有效性,使其成为最先进的相似性查询处理研究中最广泛使用和研究的技术之一。但是基于嵌入的相似性查询处理的效率仍然存在许多挑战,这些挑战没有像有效性那样得到充分的研究。在这个调查中,我们首先提供了一个概述的“相似性查询”和“相似性查询处理”的问题。然后,我们讨论了最近在嵌入(或更一般地说,高维数据)之上设计索引和操作符以进行高效相似性查询处理的方法。最后,我们研究了在选定的应用领域的相似性查询,包括实体解析和信息检索的具体解决方案,使用和不使用嵌入。通过比较这些解决方案,我们展示了神经嵌入如何使这些应用受益。
2022-04-17 cs.DB cs.IR
Deeper Text Understanding for IR with Contextual Neural Language Modeling
Carnegie Mellon University(卡内基梅隆大学)
神经网络为自动学习复杂的语言模式和查询-文档关系提供了新的可能性。神经IR模型在学习查询-文档相关模式方面取得了可喜的成果,但在理解查询或文档的文本内容方面却鲜有研究。本文研究了利用最近提出的上下文神经语言模型BERT来为信息检索提供更深层次的文本理解。实验结果表明,BERT的上下文文本表示比传统的词嵌入更有效。与词袋检索模型相比,上下文语言模型可以更好地利用语言结构,对用自然语言编写的查询带来很大的改进。将文本理解能力与搜索知识相结合导致增强的预训练BERT模型,其可以在训练数据有限的情况下有益于相关搜索任务。
2019-05-22 cs.CL cs.IR
Query Abandonment Prediction with Recurrent Neural Models of Mouse Cursor Movements
Aalto University(阿尔托大学);Telefonica Research(西班牙电信研究院)
如果用户可以直接在SERP上满足他们的信息需求,大多数成功的搜索查询不会导致点击。在没有点击数据的情况下对查询放弃进行建模是具有挑战性的,因为搜索引擎必须依赖于其他行为信号来理解潜在的搜索意图。我们表明,鼠标光标的移动是一种有价值的、低成本的行为信号,可以区分好的和坏的放弃。我们使用递归神经网络对SERP上的鼠标运动进行建模,并探索了几种不依赖于昂贵的手工制作功能且不依赖于特定SERP结构的数据表示。我们还尝试了数据恢复和增强技术,我们采用的顺序数据。我们的研究结果可以帮助搜索提供商衡量用户的满意度查询没有点击,并最终有助于更好地了解搜索引擎的性能。
2021-01-22 cs.HC cs.IR cs.LG
Multi-Stage Conversational Passage Retrieval: An Approach to Fusing Term Importance Estimation and Neural Query Rewriting
University of Waterloo(滑铁卢大学);Academia Sinica(中央研究院);National Chengchi University(国立政治大学)
会话搜索在会话信息搜索中起着至关重要的作用。由于自然语言对话中固有的共指和遗漏问题,传统的自组织信息检索(IR)系统在信息搜索对话中的查询是模糊的,因此解决这些模糊性是至关重要的。在本文中,我们解决对话通道检索(ConvPR),对话搜索的一个重要组成部分,通过解决查询歧义与查询重组集成到一个多阶段的ad-hoc IR系统。具体来说,我们提出了两种会话查询重构(CQR)方法:(1)术语重要性估计和(2)神经查询重写。对于前者,我们扩展会话查询使用的重要条款提取的会话上下文与基于频率的信号。对于后者,我们用一个预先训练的序列到序列模型将会话查询重新表达为自然的、独立的、人类可理解的查询。定量和定性地详细分析了两种CQR方法,解释了它们的优点,缺点和不同的行为。此外,为了利用这两种CQR方法的优势,我们建议将它们的输出与倒数等级融合相结合,产生最先进的检索效果,与TREC CAST 2019的最佳提交相比,NDCG@3提高了30%。
2021-03-11 cs.AI cs.CL cs.IR
Unsupervised Search Algorithm Configuration using Query Performance Prediction
eBay Research(易趣研究院)
搜索引擎配置对于不专业的开发人员来说可能相当困难。相反,可以使用自动配置方法来加快开发时间。然而,这样的自动过程通常需要相关性标签来训练监督模型。在这项工作中,我们提出了一个简单的解决方案,查询性能预测的基础上,不需要相关标签,但只有一个样本的查询在一个给定的域。使用两个示例用例,我们证明了我们的解决方案的优点。
2022-10-03 cs.CL cs.IR
DREQ: Document Re-Ranking Using Entity-based Query Understanding
University of Edinburgh(爱丁堡大学);University of Glasgow(格拉斯哥大学)
本文提出面向实体的稠密重排序模型DREQ,通过强化查询相关实体并削弱无关实体构建查询特定的混合文档表示,在四个基准上超越现有神经与非神经重排序方法。
2024-01-11 cs.AI cs.IR
Synthetic Prefixes to Mitigate Bias in Real-Time Neural Query Autocomplete
Walmart Global Technology(沃尔玛全球技术)
本研究提出一种基于合成前缀的数据驱动方法,缓解实时神经查询自动补全的呈现偏差,同时简化列表式损失优化训练效率,在电商场景中显著提升用户参与度,还可推广至其他低延迟排序任务的偏差缓解。
2025-10-02 cs.AI cs.CL cs.IR
Contrastive Fine-tuning Improves Robustness for Neural Rankers
AWS AI Labs(亚马逊云科技人工智能实验室)
当暴露于噪声输入或应用于新领域时,最先进的神经排序器的性能可能会大幅恶化。在本文中,我们提出了一种新的方法微调神经排名,可以显着提高其鲁棒性域外数据和查询扰动。具体来说,在微调期间,将比较表示空间中的数据点的对比损失与标准排名损失相结合。我们使用相关性标签来表示相似/不相似对,这使得模型能够学习不同查询-文档对之间的底层匹配语义,并提高鲁棒性。在四个通道的排名数据集的实验中,所提出的对比微调方法获得的鲁棒性的查询重新制定,噪声扰动,和zero-shot传输的BERT和BART基于排名的改进。此外,我们的实验表明,对比微调优于数据增强的鲁棒神经排名。
2021-05-27 cs.CL cs.IR
Neural Retriever and Go Beyond: A Thesis Proposal
Arizona State University(亚利桑那州立大学)
信息检索器(IR)旨在大规模地找到与给定查询相关的文档(例如片段,段落和文章)。信息检索在诸如开放领域问答和对话系统等需要外部知识的任务中起着重要的作用。在过去,基于术语匹配的搜索算法已经被广泛使用。近年来,基于神经网络的算法(称为神经检索器)得到了越来越多的关注,它可以减轻传统方法的局限性。尽管神经检索器取得了成功,但它们仍然面临许多挑战,例如,遭受少量训练数据的困扰,并且无法回答简单的以实体为中心的问题。此外,大多数现有的神经检索器开发的纯文本查询。这阻止了他们处理多模态查询(即查询由文本描述和图像组成)。这项建议有两个目标。首先,我们从三个角度,新的模型架构,面向IR的预训练任务,并产生大规模的训练数据的方法来解决上述问题的神经检索。其次,我们确定了未来的研究方向,并提出了相应的解决方案。
2022-05-31 cs.CL cs.IR
Literature Retrieval for Precision Medicine with Neural Matching and Faceted Summarization
University of Kentucky(肯塔基大学)
精准医疗(PM)的信息检索(IR)通常涉及寻找表征患者病例的多个证据。这通常至少包括病症的名称和适用于患者的遗传变异。其他因素,如人口统计学属性、合并症和社会决定因素也可能相关。因此,检索问题通常被公式化为ad hoc搜索,但具有多个方面(例如,疾病,突变),可能需要纳入。在本文中,我们提出了一个文档重排序的方法,结合神经查询文档匹配和文本摘要对这样的检索场景。我们的架构建立在基本的BERT模型上,有三个特定的组件用于重新排序:(a)。文档-查询匹配(b)。关键词提取和(c).分面条件抽象概括。(b)和(c)的结果用于将候选文档基本上转换为简明摘要,该简明摘要可以与手头的查询进行比较以计算相关性分数。组件(a)直接生成查询的候选文档的匹配分数。完整的架构受益于文档查询匹配的互补潜力和新的文档转换方法的基础上总结沿PM方面。使用NIST的TREC-PM跟踪数据集(2017- 2019)进行的评估表明,我们的模型达到了最先进的性能。为了促进可重复性,我们的代码可以在这里获得:https://github.com/bionlproc/text-summ-for-doc-retrieval。
2020-12-17 cs.CL cs.IR
GQE-PRF: Generative Query Expansion with Pseudo-Relevance Feedback
Artificial Intelligence Application Research Center, Huawei Technologies(华为技术有限公司人工智能应用研究中心)
在信息检索中,基于伪相关反馈的查询扩展是提高检索效率的有效方法.近年来,随着深度学习技术的快速发展,神经文本生成在许多自然语言任务中取得了令人鼓舞的成功。为了充分利用文本生成的优势进行信息检索,本文提出了一种新的方法,有效地将文本生成模型集成到基于PRF的查询扩展中。特别是,我们的方法通过神经文本生成模型生成增强的查询条件的初始查询和伪相关反馈。此外,为了训练生成模型,我们采用了条件生成对抗网(CGANs),提出了PRF-CGAN方法,其中生成器和生成器都以伪相关反馈为条件。我们使用两个基准数据集评估我们的方法在信息检索任务上的性能。实验结果表明,我们的方法取得了相当的性能或优于传统的查询扩展方法的检索和重排序任务。
2021-08-13 cs.AI cs.CL cs.IR
Personalized Language Model for Query Auto-Completion
University of Washington(华盛顿大学)
查询自动完成是搜索引擎的一个功能,通过该功能,系统在用户键入时建议完成的查询。最近,建议使用递归神经网络语言模型作为生成查询补全的方法。我们展示了如何使用自适应的语言模型来生成个性化的补全,以及该模型如何使用在线更新来为训练过程中看不到的用户进行预测。个性化预测明显优于不使用用户信息的基线。
2018-04-25 cs.CL cs.IR
DeepTileBars: Visualizing Term Distribution for Neural Information Retrieval
Georgetown University(乔治城大学)
大多数神经信息检索(Neu-IR)模型基于术语级匹配来获得查询到文档排序分数。受经典术语分布可视化方法TileBars的启发,本文提出了一种新的Neu-IR模型,该模型在子主题和更高级别上处理查询到文档的匹配。我们的系统首先将文档拆分为主题片段,“可视化”查询和片段之间的匹配,然后将交互矩阵馈送到Neu-IR模型DeepTileBars中,以获得最终的排名分数。DeepTileBars对文档主题层次结构中不同粒度的相关性信号进行建模。它更好地捕捉文档的话语结构,从而匹配模式。虽然它的设计和实现是轻量级的,但DeepTileBars在基准数据集上的表现优于其他最先进的Neu-IR模型,包括文本检索会议(TREC)2010-2012 Web Tracks和LETOR 4.0。
2021-06-09 cs.CL cs.IR
DUQGen: Effective Unsupervised Domain Adaptation of Neural Rankers by Diversifying Synthetic Query Generation
Emory University(埃默里大学)
针对神经排序器目标域标注数据稀缺问题,提出DUQGen,通过文档聚类与概率采样生成有效且多样的合成查询,实现无监督域适应,并在BEIR上显著提升排序性能。
2024-04-03 cs.CL cs.IR
BioNLP-OST 2019 RDoC Tasks: Multi-grain Neural Relevance Ranking Using Topics and Attention Based Query-Document-Sentence Interactions
Siemens AG(西门子股份公司);University of Munich (LMU)(慕尼黑大学(LMU))
本文介绍了我们的系统细节和参与BioNLP-OST 2019 RDoC任务的结果。研究领域标准(RDoC)结构是一个多维和广泛的框架,通过结合从基因组学到行为的知识来描述心理健康障碍。RDoC标记数据集的不可用性和繁琐的标记过程阻碍了RDoC框架在生物医学研究社区和医疗保健行业中的充分潜力。因此,任务1旨在检索和排名与给定RDoC结构相关的PubMed摘要,任务2旨在从给定PubMed摘要中提取最相关的句子。我们研究(1)基于注意力的监督神经主题模型和SVM用于PubMed摘要的检索和排名,并进一步利用BM 25和其他相关性度量进行重新排名,(2)监督和无监督句子排名模型,利用多视图表示,包括查询感知的基于注意力的句子表示(QAR),词袋(BoW)和TF-IDF。我们最好的系统在任务1和任务2中分别获得了0.86的平均精度(mAP)和0.58的宏观平均精度(MAA)。
2019-10-02 cs.CL cs.IR cs.LG
Non-Linear Multiple Field Interactions Neural Document Ranking
University of Bristol(布里斯托尔大学);Cookpad Ltd(Cookpad有限公司)
排名任务通常基于页面主体的文本和用户在页面上的操作(点击)。还有其他元素可以被利用来更好地将排名体验置于情境中(例如,其他字段中的文本、用户进行的查询、图像等)。我们提出了一个领域的相互作用,在两个独立的数据集的多个领域的排名的第一次深入分析。虽然有些作品已经利用了完整的文档结构,但有些方面仍然没有探索。在这项工作中,我们建立在以前的分析,以显示查询字段的相互作用,非线性字段的相互作用,以及底层神经模型的架构如何影响性能。
2020-11-18 cs.AI cs.IR
PACRR: A Position-Aware Neural IR Model for Relevance Matching
MPI for Informatics(马克斯·普朗克信息学研究所);htw saar(萨尔应用技术大学);Rutgers University(罗格斯大学)
为了将深度学习用于信息检索,需要能够捕获评估文档与给定用户查询的相关性所需的所有相关信息的模型。虽然以前的作品已经成功地捕捉unigram术语匹配,如何充分利用位置相关的信息,如接近度和术语依赖性一直没有得到充分的探讨。在这项工作中,我们提出了一种新的神经IR模型命名为PACRR,旨在更好地建模查询和文档之间的位置相关的相互作用。在6年的TREC Web Track数据上进行的大量实验证实,该模型在多个基准测试下产生了更好的结果。
2017-07-21 cs.CL cs.IR
Sequence-to-Set Semantic Tagging: End-to-End Multi-label Prediction using Neural Attention for Complex Query Reformulation and Automated Text Categorization
The Ohio State University(俄亥俄州立大学);Nationwide Children’s Hospital(全国儿童医院)
新颖的上下文可能经常出现在复杂的查询场景中,例如在涉及生物医学文献的循证医学(EBM)中,其可能不明确地指出现在任何基于事实或规则的知识源(例如,像UMLS的本体)中的实体或规范概念形式。此外,在当前上下文中有意义的候选概念之间的隐藏关联可能不存在于单个文档中,而是通过替代词汇形式存在于集合中。因此,受到最近序列到序列神经模型在广泛的NLP任务中提供最先进技术的成功的启发,我们开发了一种新的序列到集合框架,用于学习可以影响语料库内术语转移的文档表示,用于语义标记大量文档。我们证明了我们提出的方法在用于文本分类的监督多标签分类设置中以及在没有人类注释的文档标签的独特无监督设置中都是有效的,该设置不使用外部知识资源,只使用语料库派生的术语统计来驱动训练。此外,我们表明,使用我们的架构对大量未标记数据进行半监督训练,可以在有限的标记数据可用时提高文本分类任务的性能。我们的方法来生成文档编码,采用我们的序列到集合模型来推断语义标签,根据我们所知,在基于Okapi BM 25的文档检索系统上评估时,为TREC CDS 2016挑战数据集提供了最先进的无监督查询扩展任务;以及MLTM基线(Soleimani et al,2016),用于www.example.com和Ohsumed数据集上的监督和半监督多标签预测任务del.icio.us。我们将公开我们的代码和数据。
2019-11-11 cs.CL cs.IR cs.LG
Generating Query Focused Summaries from Query-Free Resources
Institute for Language, Cognition and Computation(语言、认知与计算研究所);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
大规模数据集的可用性推动了神经模型的发展,这些模型可以从单个或多个文档中创建通用摘要。在这项工作中,我们考虑查询集中的摘要(QFS),一个任务,其中训练数据的形式查询,文档和摘要是不容易获得的。我们建议将QFS分解为(1)查询建模(即,在一组文档内为查询寻找支持证据)和(2)条件语言建模(即,摘要生成)。我们介绍了MaRGE,一个用于证据估计和排名的Masked ROUGE回归框架,它依赖于摘要和查询的统一表示,因此可以将通用数据中的摘要转换为代理查询以学习查询模型。跨QFS基准测试和查询类型的实验表明,尽管从弱监督中学习,我们的模型仍达到了最先进的性能。
2021-05-31 cs.CL cs.IR cs.LG