A Study of MatchPyramid Models on Ad-hoc Retrieval
深度神经网络已成功应用于许多文本匹配任务,如释义识别、问答和机器翻译。虽然ad-hoc检索也可以形式化为文本匹配任务,但很少有深度模型在其上进行测试。在本文中,我们研究了一种最先进的深度匹配模型,即MatchPyramid,在ad-hoc检索任务上。MatchPyramid模型在查询和文档之间的交互上采用卷积神经网络来产生匹配分数。我们进行了大量的实验,研究不同的池大小,交互函数和内核大小对检索性能的影响。最后,我们表明,MatchPyramid模型可以显着优于几个最近推出的深度匹配模型的检索任务,但仍然无法与传统的检索模型,如BM 25和语言模型。
2016-06-15 cs.IR
Respect My Authority! HITS Without Hyperlinks, Utilizing Cluster-Based Language Models
Cornell University(康奈尔大学)
我们提出了一种方法来提高精度的初始文档排序,其中我们利用聚类信息在一个基于图形的框架。其主要思想是基于文档(一侧)和集群(另一侧)的二分图内的中心性进行重新排名,前提是这些是相互增强的实体。实体之间的链接是通过考虑从它们导出的语言模型来创建的。我们发现,我们的集群文档图产生更好的检索性能比以前提出的只文档图。例如,通过HITS风格的基于聚类的方法对文档进行基于权威性的重新排名,其性能优于先前提出的仅应用于文档图的PageRank启发算法。此外,我们还表明,集群的计算权威分数构成了一个有效的方法来识别集群包含很大比例的相关文件。
2008-04-22 cs.CL cs.IR
Learning Term Weights for Ad-hoc Retrieval
大多数信息检索模型通过对特定于文档或查询的项权重求和来计算给定查询的文档的相关性得分。启发式方法(如TF-IDF)或概率模型(如BM 25)用于指定如何计算术语权重。在本文中,我们建议利用学习排名的原则,学习如何计算一个术语的出现模式的基础上为给定的文档的权重。
2016-06-14 cs.IR
Evaluation of some Information Retrieval models for Gujarati Ad hoc Monolingual Tasks
本文介绍了广泛使用的信息检索(IR)模型的古吉拉特语特设单语检索任务的工作。我们提出了一个索引基线古吉拉特语表示的平均平均精度(MAP)值。我们的目标是获得一个更好的古吉拉特语IR模型的相对图片。结果表明,经典的IR模型,如词频逆文档频率(TF_IDF)相比,最近的概率IR模型表现更好。这些实验有助于确定古吉拉特语的表现优异的IR模型。
2012-09-01 cs.IR
A Deep Relevance Matching Model for Ad-hoc Retrieval
近年来,深度神经网络在语音识别、计算机视觉和自然语言处理(NLP)任务方面取得了令人兴奋的突破。然而,深度模型在ad-hoc检索任务上的积极结果很少。这部分是由于ad-hoc检索任务的许多重要特征尚未在深度模型中得到很好的解决。通常,ad-hoc检索任务在现有工作中使用深度模型形式化为两段文本之间的匹配问题,并且等同于许多NLP任务,例如释义识别,问答和自动会话。然而,我们认为,ad-hoc检索任务主要是相关匹配,而大多数NLP匹配任务涉及语义匹配,这两个匹配任务之间有一些根本的区别。成功的相关性匹配需要正确处理准确的匹配信号,查询词的重要性,和不同的匹配要求。在本文中,我们提出了一种新的深度相关匹配模型(DRMM)的ad-hoc检索。具体来说,我们的模型采用了联合深度架构在查询词的相关性匹配。通过使用匹配直方图映射、前馈匹配网络和术语选通网络,我们可以有效地处理上述三个相关性匹配因素。在两个具有代表性的基准集合上的实验结果表明,我们的模型可以显着优于一些著名的检索模型以及最先进的深度匹配模型。
2017-11-23 cs.IR
A Neural Passage Model for Ad-hoc Document Retrieval
传统的统计检索模型往往把每个文档作为一个整体来处理。然而,在许多情况下,文档与查询相关只是因为它的一小部分包含目标信息。在这项工作中,我们提出了一个神经通道模型(NPM),该模型使用通道级信息来提高临时检索的性能。我们的模型不是使用单个窗口来提取段落,而是在训练过程中自动学习对不同粒度的段落进行加权。我们表明,之前研究中基于段落的文档排序范式可以直接源自我们的神经框架。此外,我们对TREC集合的实验表明,NPM可以显着优于现有的基于XML的检索模型。
2021-03-16 cs.IR
Effect of Model Merging in Domain-Specific Ad-hoc Retrieval
University of Hyogo(兵库大学);LY Corporation(LY公司)
本研究评估模型合并对特定领域即席检索的影响,通过线性插值合并源检索模型与领域模型,无需微调,实验显示其优于源模型,并在数据有限时成为LoRA微调的实用替代方案。
2025-09-26 cs.IR
Graph-based Hierarchical Relevance Matching Signals for Ad-hoc Retrieval
特别检索任务是在给定查询和文档集合的情况下对相关文档进行排名。一系列基于深度学习的方法被提出来解决这一问题,并得到了广泛的关注。然而,我们认为,它们本质上是基于本地的单词序列,忽略了微妙的长距离文档级的单词关系。为了解决这个问题,我们显式地通过图结构来建模文档级单词关系,通过图神经网络捕获细微的信息。此外,由于文档集合的复杂性和规模,在更一般的水平上探索不同粒度的分层匹配信号是相当重要的。因此,我们提出了一个基于图的层次相关匹配模型(GHRM)的ad-hoc检索,我们可以捕捉微妙的和一般的层次匹配信号同时。我们通过两个典型的ad-hoc检索基准测试验证了GHRM的效果,综合实验和结果证明了其优于现有方法的优势。
2021-02-22 cs.IR
Experiments on Manual Thesaurus based Query Expansion for Ad-hoc Monolingual Gujarati Information Retrieval Tasks
在本文中,我们提出的实验工作做查询扩展(QE)的古吉拉特语文本文档的检索任务。在信息检索中,准确地估计用户的需求是非常困难的,查询扩展在原始查询的基础上增加检索词,从而提供更多的用户需求信息。查询扩展有多种方法。在我们的工作中,手动词库为基础的查询扩展进行广泛使用的信息检索模型古吉拉特语文本文档的性能进行评估。实验结果表明,查询扩展提高了文本文档的查全率。
2020-01-18 cs.IR
B-PROP: Bootstrapped Pre-training with Representative Words Prediction for Ad-hoc Retrieval
预训练和微调在许多下游自然语言处理(NLP)任务中取得了显著的成功。最近,为信息检索(IR)量身定制的预训练方法也被探索,最新的成功是PROP方法,它在各种特设检索基准上达到了新的SOTA。PROP的基本思想是构造\textit{representative words prediction}(ROP)任务,用于受查询似然模型启发的预训练。尽管其令人兴奋的性能,PROP的有效性可能会受到限制的经典unigram语言模型采用的ROP任务构建过程。为了解决这个问题,我们提出了一个自举的预训练方法(即B-PROP)的基础上BERT的ad-hoc检索。其核心思想是使用强大的上下文语言模型BERT来取代经典的单字语言模型的ROP任务的建设,并重新训练BERT本身对IR量身定制的目标。具体来说,我们引入了一种新的对比方法,灵感来自随机性的思想,利用BERT的自我注意力机制,从文档中采样代表性的话。通过对下游ad-hoc检索任务进行进一步微调,我们的方法在没有预训练或使用其他预训练方法的情况下实现了基线的显着改进,并进一步推动了SOTA在各种ad-hoc检索任务上的应用。
2022-04-27 cs.IR
PUMA: Post-Hoc Sparsification of Universal Multimodal Embeddings for Efficient Retrieval
Politecnico di Bari(巴里理工大学);Sapienza University of Rome(罗马大学);ISTI–CNR(意大利国家研究委员会信息与通信技术研究所);University of Pisa(比萨大学)
针对通用多模态嵌入的高存储与推理成本问题,提出无需微调主干网络的PUMA稀疏自编码器方案,在五个基准上验证其可实现8-16倍存储压缩与最高25倍检索加速,且多数数据集性能与密集检索相当或更优。
2026-08-27 cs.IR
PROP: Pre-training with Representative Words Prediction for Ad-hoc Retrieval
最近,预先训练的语言表示模型,如BERT,在包括信息检索(IR)在内的下游任务上进行微调时取得了巨大的成功。然而,为特设检索量身定制的预训练目标尚未得到很好的探索。在本文中,我们提出了预训练与代表词预测(PROP)的ad-hoc检索。PROP的灵感来自于IR的经典统计语言模型,特别是查询似然模型,该模型假设查询是作为“理想”文档的文本表示生成的。基于这一思想,我们构建了代表词预测(ROP)任务进行预训练。给定一个输入文档,我们根据文档语言模型对一对词集进行采样,其中具有较高可能性的集合被认为更能代表文档。然后,我们对Transformer模型进行预训练,以预测两个词集之间的成对偏好,并结合Masked语言模型(MLM)目标。通过对各种有代表性的下游ad-hoc检索任务进行进一步微调,PROP在没有预训练或使用其他预训练方法的情况下实现了基线的显着改进。我们还表明,PROP可以实现令人兴奋的性能下的零和低资源IR设置。代码和预训练模型可在https://github.com/Albert-Ma/PROP上获得。
2020-12-27 cs.IR
A Graph-based Relevance Matching Model for Ad-hoc Retrieval
为了在给定查询的情况下检索到更相关、更合适和更有用的文档,通过文本找到关于该查询的线索至关重要。最近的深度学习模型将该任务视为术语级匹配问题,其在文档中寻找精确或相似的查询模式。然而,我们认为,它们本质上是基于当地的互动,并没有推广到无处不在的,非连续的上下文关系。在这项工作中,我们提出了一种新的相关性匹配模型的基础上图神经网络,利用文档级的词的关系进行ad-hoc检索。除了本地的相互作用,我们明确地将一个术语的所有上下文通过文字的图形文本格式。可以相应地揭示匹配模式以提供更准确的相关性分数。我们的方法在两个特设基准上的表现明显优于强基线。我们还通过实验将我们的模型与BERT进行了比较,并展示了我们在长文档上的优势。
2021-01-29 cs.IR
Modeling Diverse Relevance Patterns in Ad-hoc Retrieval
在ad-hoc检索中评估查询和文档之间的相关性是具有挑战性的,这是由于其不同的模式,即,一个文档可以作为一个整体或部分地与查询相关,只要它为用户的需要提供足够的信息。这种不同的相关性模式需要一个理想的检索模型,能够评估在正确的粒度自适应的相关性。遗憾的是,大多数现有的检索模型计算的相关性在一个单一的粒度,无论是文档范围内或企业级,或使用固定的组合策略,限制了他们的能力,在捕捉不同的相关模式。在这项工作中,我们提出了一个数据驱动的方法,让相关性信号在不同的粒度相互竞争,最终的相关性评估。具体来说,我们提出了一个层次神经匹配模型(HiNT),它由两个堆叠组件,即局部匹配层和全局决策层。局部匹配层的重点是通过对查询和文档的每个段落之间的语义匹配进行建模来产生一组局部相关性信号。全局决策层将局部信号累积成不同的粒度,并允许它们相互竞争以决定最终的相关性得分。实验结果表明,我们的HiNT模型优于现有的国家的最先进的检索模型显着的基准ad-hoc检索数据集。
2018-05-15 cs.IR
Ad Hoc Table Retrieval using Semantic Similarity
我们介绍和解决问题的特设表检索:回答一个关键字查询的排名表。这个任务不仅本身很有趣,而且还被用作许多其他基于表的信息访问场景(如表完成或表挖掘)的核心组件。这项工作的主要新贡献是一种方法,用于执行查询和表之间的语义匹配。具体来说,我们(i)表示查询和表在多个语义空间(离散稀疏和连续密集向量表示)和(ii)引入各种相似性的措施,以匹配这些语义表示。我们考虑所有可能的语义表示和相似性度量的组合,并将其用作监督学习模型中的特征。使用基于维基百科表格的专用测试集合,我们展示了在最先进的基线上的显着和实质性的改进。
2018-03-08 cs.IR
Establishing a Foundation for Tetun Ad-Hoc Text Retrieval: Stemming, Indexing, Retrieval, and Ranking
Institute for Systems and Computer Engineering, Tech. and Science (INESC TEC)(系统与计算机工程研究所(科技与科学));Faculty of Engineering, University of Porto (FEUP)(波尔图大学工程学院)
针对德顿语缺乏检索方案的问题,构建停用词表、词干提取器和测试集等基础资源,实验表明去除连字符和撇号后检索标题可提升效率与效果,并公开了相关资源。
2025-10-15 cs.IR
Utilizing Embeddings for Ad-hoc Retrieval by Document-to-document Similarity
词或段落的潜在语义表示,即嵌入,在信息检索中有着广泛的应用。利用嵌入进行检索的常用方法之一是估计嵌入中的文档到查询(D2 Q)相似度。由于具有相似句法用法的词通常在嵌入空间中彼此非常接近,尽管它们在语义上不相似,D2 Q相似性方法可能遭受“多个相似度”的问题。为此,本文提出了一种新的方法,估计一个语义相关性得分(SEM)的基础上文档到文档(D2 D)的相似性嵌入。由于Word或Para 2 Vec通过单词/段落的上下文生成嵌入,因此D2 D相似性方法将文档排序的任务转变为对不同文档内的内容之间的相似性的估计。在标准TREC测试集上的实验结果表明,我们提出的方法优于强基线。
2017-08-10 cs.IR
The Number of Terms and Documents for Pseudo-Relevant Feedback for Ad-hoc Information Retrieval
在信息检索系统(IRS)中,自动相关反馈(ARF)是一种查询重组技术,它在不需要用户干预的情况下修改初始查询。它主要通过添加来自外部资源(如本体和/或当前研究结果)的术语来应用。在这方面,我们主要感兴趣的是在本地的分析技术,为ARF在特设IRS阿拉伯文文件。在这篇文章中,我们研究了这种技术中隐含的两个参数的变化对阿拉伯文IRS性能的影响,也就是说,文档的数量«D»和术语的数量«T»。的实验,进行了阿拉伯语语料库文本,使我们能够推断出,有查询,这是不容易改进的查询重构。此外,ARF的成功主要是由于选择了足够数量的文档D,并提取了一组非常少的相关术语T用于检索。
2013-06-17 cs.IR
An Axiomatic Study of Query Terms Order in Ad-hoc Retrieval
经典的检索方法使用简单的词袋表示查询和文档。这种表示无法捕捉查询和文档的全部语义丰富性。最近的检索模型试图克服这一缺陷,通过使用的方法,如将查询条件之间的依赖关系,使用双元语法表示的文件,邻近检索,并通过检索。虽然这些以前的作品中的一些已经隐含地考虑了术语顺序,但据我们所知,术语顺序并不是任何研究的主要焦点。在本文中,我们只关注在信息检索的术语顺序的效果。我们将证明,在查询中有两个相同顺序的查询词的文档比有两个相反顺序的查询词的文档具有更高的相关概率。使用信息检索的公理化框架,我们引入了一个约束,检索模型必须遵守,以有效地利用查询条件之间的术语顺序依赖。我们修改现有的检索模型,基于这个约束条件,以便如果一对查询条件的顺序是语义上重要的,一个文件,包括这些查询条件在相同的顺序作为查询应该得到更高的分数相比,包括它们在相反的顺序的文件。我们使用TREC新闻专线和网络语料库的实证评估表明,修改后的检索模型显着优于原来的同行。
2018-11-08 cs.IR
C3: Continued Pretraining with Contrastive Weak Supervision for Cross Language Ad-Hoc Retrieval
Johns Hopkins University(约翰斯·霍普金斯大学);University of Maryland(马里兰大学);Emory University(埃默里大学);University of Pennsylvania(宾夕法尼亚大学)
预训练的语言模型提高了许多任务的效率,包括ad-hoc检索。最近的工作表明,在微调检索任务之前,继续用辅助目标预训练语言模型可以进一步提高检索效率。与单语检索不同,为跨语言映射设计适当的辅助任务是具有挑战性的。为了应对这一挑战,我们使用不同语言的维基百科文章来进一步预训练现成的多语言预训练模型,然后再对检索任务进行微调。我们表明,我们的方法产生的检索效果的改善。
2022-04-25 cs.CL cs.IR
Evaluating Generative Ad Hoc Information Retrieval
Leipzig University(莱比锡大学);The University of Queensland(昆士兰大学);Bauhaus-Universität Weimar(魏玛包豪斯大学);Friedrich-Schiller-Universität Jena(弗里德里希·席勒大学耶拿分校);University of Kassel(卡塞尔大学)
针对生成式即席检索缺乏可靠评估方法的问题,本文通过文献调研、任务与架构识别、新用户模型构建及其操作化研究,为开发新的评估方法奠定基础。
2024-05-22 cs.CL cs.IR
Improving Ad-hoc Search Effectiveness for Conversational Information Retrieval via Model Merging
University of Toulouse, IRIT(图卢兹大学,IRIT)
针对对话信息检索难题,以往方法有缺陷。本文引入模型合并策略,通过线性和非线性参数合并,设计单一检索模型,无需额外微调,在多数据集实验,显著增强即席搜索能力,提高泛化性,零样本下NDCG@3提升15%。
2026-07-10 cs.CL cs.IR
Simple Applications of BERT for Ad Hoc Document Retrieval
David R. Cheriton School of Computer Science(戴维·R·切里顿计算机科学学院);University of Waterloo(滑铁卢大学)
最近成功地应用BERT的问答,我们探讨简单的应用程序,特设文件检索。这就需要面对文档所带来的挑战,这些文档通常比BERT设计处理的输入长度要长。我们解决这个问题,通过单独应用句子的推理,然后汇总句子分数产生的文件分数。在TREC微博和新闻专线测试集上的实验表明,我们的方法简单而有效,因为我们报告了我们所知道的神经方法在这些数据集上的最高平均精度。
2019-03-26 cs.CL cs.IR
Corpus structure, language models, and ad hoc information retrieval
大多数以前的工作,最近开发的语言建模方法信息检索的重点是特定于文档的特征,因此没有考虑到周围的语料库的结构。我们提出了一种新的算法框架,在该框架中,基于文档的语言模型所提供的信息被增强了从相似文档的集群中提取的信息。使用这个框架,我们开发了一套新的算法。即使是最简单的方法在精确度和召回率方面也优于标准的语言建模方法,我们的新插值算法在所有三个测试语料库中的两个指标都有统计学上的显着改进。
2004-05-12 cs.CL cs.IR
Low-dimensional Query Projection based on Divergence Minimization Feedback Model for Ad-hoc Retrieval
低维词向量在自然语言处理中有着广泛的应用。在本文中,我们揭示了估计查询向量在特设检索有限的信息是在原始查询。伪相关反馈(PRF)是一种用于更新查询语言模型并利用多个相关术语扩展查询的公知技术。我们制定的查询更新在低维空间首先旋转的查询向量,然后与缩放。这些后续步骤被嵌入到特定于查询的投影矩阵中,该矩阵捕获角度和缩放。在本文中,我们提出了一种新的,但不是最有效的技术,必然的PRF语言建模,查询投影算法的基础上。我们学习每个查询的嵌入系数矩阵,其目的是通过将其转换到更可靠的空间来改进查询的向量表示,然后更新查询语言模型。建议的嵌入式系数发散最小化模型(ECDMM)采取排名靠前的文件检索的查询,并获得一对夫妇的积极和消极的样本集,这些样本用于学习的系数矩阵,将用于投影的查询向量和更新的查询语言模型使用softmax函数。在几种语言的TREC和CLEF数据集上的实验结果证明了ECDMM的有效性。实验结果表明,该算法在MAP、P@5和P@10等方面均优于现有的PRF技术。
2016-12-22 cs.IR
WIKIR: A Python toolkit for building a large-scale Wikipedia-based English Information Retrieval Dataset
在过去的几年里,深度学习方法允许在ad-hoc信息检索中获得新的最先进的结果。然而,这种方法通常需要大量的注释数据才能有效。由于大多数可公开用于学术研究的标准ad-hoc信息检索数据集(例如Robust 04,CIBMWeb 09)最多有250个带注释的查询,因此最近用于信息检索的深度学习模型在这些数据集上表现不佳。这些模型(例如DUET,Conv-KNRM)是根据从商业搜索引擎收集的数据进行训练和评估的,这些搜索引擎不公开用于学术研究,这对研究的可重复性和进步是一个问题。在本文中,我们提出了WIKIR:一个开源的工具包,自动建立大规模的英语信息检索数据集的基础上维基百科。WIKIR在GitHub上公开。我们还提供了wikIR 78 k和wikIRS 78 k:两个大规模的公开数据集,都包含78,628个查询和3,060,191个(查询,相关文档)对。
2020-03-17 cs.IR
Can Old TREC Collections Reliably Evaluate Modern Neural Retrieval Models?
神经检索模型通常被认为是从根本上不同的检索技术在90年代后期使用时,TREC特设测试集合的构建。因此,他们提供了机会,以经验为基础,测试池建立的测试集合可以可靠地评估检索系统,没有贡献的建设的集合(换句话说,这样的集合可以重用)。为了测试可重用性声明,我们要求TREC评估员对从TREC-8特设集合的新搜索结果中创建的新池进行判断。这些新的搜索结果包括五个新的运行(每个运行来自三个基于transformer的模型和两个使用BM 25的基线运行)加上之前没有贡献给池的TREC-8提交集。新的运行确实检索到了以前看不见的文件,但这些文件中的绝大多数都不相关。当使用官方TREC-8相关性判断集和新扩展的相关性集进行评估时,所有运行的平均评估得分排名几乎相同,Kendall的tau相关性大于0.99。个别主题的相关性也很高。TREC-8临时收集最初是在不同的运行集上使用深度池构建的,包括几次有效的手动运行。它的判决预算,因此建设成本,是相对较大的。然而,这笔费用似乎花得很值:即使随着神经技术的出现,这些藏品也经受住了时间的考验,随着检索技术的进步,它们仍然是一种可靠的评估工具。
2022-01-26 cs.IR
Neural document expansion for ad-hoc information retrieval
Amazon(亚马逊)
最近,Nogueira等人[2019]提出了一种基于神经Seq 2Seq模型的文档扩展新方法,在短文本检索任务上显示出显着的改进。然而,这种方法需要大量的域内训练数据。在本文中,我们表明,这种神经文档扩展方法可以有效地适应标准的IR任务,标签是稀缺的,许多长文档。
2020-12-27 cs.AI cs.CL cs.IR
Matching-oriented Product Quantization For Ad-hoc Retrieval
Beijing University of Posts and Telecommunications(北京邮电大学);Microsoft Research Asia(微软亚洲研究院);University of Science and Technology of China(中国科学技术大学)
乘积量化(PQ)是一种广泛使用的ad-hoc检索技术。最近的研究提出了监督PQ,其中嵌入和量化模型可以与监督学习联合训练。然而,缺乏适当的联合培训目标;因此,与以前无监督基线相比的改进实际上是有限的。在这项工作中,我们提出了面向匹配的产品量化(MoPQ),其中一个新的目标Multinoulli对比损失(MCL)制定。随着MCL的最小化,我们能够最大化查询和地面实况关键字的匹配概率,这有助于最佳的检索精度。鉴于MCL的精确计算是棘手的,由于大量的对比样本的需求,我们进一步提出了可微分跨设备采样(DCS),显着增加的对比样本的精确近似MCL。我们在四个真实世界的数据集上进行了广泛的实验研究,其结果验证了MoPQ的有效性。该代码可在https://github.com/microsoft/MoPQ上获得。
2021-09-12 cs.CL cs.IR
LANGSAE EDITING: Improving Multilingual Information Retrieval via Post-hoc Language Identity Removal
Department of Computer Science and Engineering, Korea University(韩国大学计算机科学与工程系);School of Software, Soongsil University(顺天大学软件学院)
LANGSAE 编辑通过事后移除语言身份信号,提升多语言信息检索的排名质量和跨语言覆盖性。
2026-01-08 cs.CL cs.IR
NPRF: A Neural Pseudo Relevance Feedback Framework for Ad-hoc Information Retrieval
University of Chinese Academy of Sciences(中国科学院大学);Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所);Computer Network Information Center, Chinese Academy of Sciences(中国科学院计算机网络信息中心);SAP SE(SAP公司);Max Planck Institute for Informatics(马克斯·普朗克信息学研究所)
伪相关反馈(PRF)通常用于通过使用排名靠前的文档来识别和加权新的查询词来提高传统信息检索(IR)模型的性能,从而减少查询-文档词汇不匹配的影响。虽然神经检索模型最近已经证明了ad-hoc检索的强大结果,但由于现有的PRF方法和神经架构之间的不兼容性,将它们与PRF相结合并不简单。为了弥补这一差距,我们提出了一个端到端神经PRF框架,可以通过嵌入不同的神经模型作为构建块来与现有的神经IR模型一起使用。在两个标准测试集上的大量实验证实了所提出的NPRF框架在提高两个最先进的神经IR模型的性能方面的有效性。
2018-10-30 cs.AI cs.CL cs.IR
Learning More From Less: Towards Strengthening Weak Supervision for Ad-Hoc Retrieval
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
有限的可用性地面真相相关标签一直是一个主要的障碍,监督方法的应用,特别是检索。因此,无监督评分方法(如BM 25)仍然是深度学习技术的有力竞争者,深度学习技术在其他领域(如计算机视觉和自然语言处理)带来了巨大的改进。最近的工作表明,可以利用这些无监督方法的性能来生成用于学习排名模型的训练数据。这方面工作的关键限制是训练集的大小需要超过原始无监督方法的性能,它可以与$10^{13}$训练样本一样大。基于这些见解,我们提出了两种方法来减少所需的训练数据量。第一种方法从众包中获得灵感,并利用多个无监督的排名器来生成软的或噪声感知的训练标签。第二步识别有害的或错误标记的训练样本,并将其从训练集中删除。我们表明,我们的方法使我们能够超越无监督基线的性能,比以前的作品少得多的训练样本。
2019-07-19 cs.IR cs.LG
Evaluating Interpolation and Extrapolation Performance of Neural Retrieval Models
检索模型不仅要对训练数据进行插值,而且要对不同于训练数据的查询进行良好的外推。虽然神经检索模型在ad-hoc搜索基准上表现出令人印象深刻的性能,但我们仍然对它们在内插和外推方面的表现知之甚少。在本文中,我们证明了分别评估神经检索模型的两种能力的重要性。首先,我们从这两个角度研究现有的ad-hoc搜索基准。我们调查了训练数据和测试数据的分布,发现查询实体、查询意图和相关性标签有相当大的重叠。这一发现意味着对这些测试集的评价偏向于内插,不能准确反映外推能力。其次,我们提出了一种新的评估协议,分别评估现有基准数据集上的内插和外推性能。它基于查询相似性对训练和测试数据进行重新采样,并利用重新采样的数据集进行训练和评估。最后,我们利用所提出的评估协议,全面重新审视了一些广泛采用的神经检索模型。结果表明,当从内插到外推时,模型的表现不同。例如,基于表示的检索模型在内插而不是外推方面几乎与基于交互的检索模型一样好。因此,有必要分别评估内插和外推的性能和建议的reserve方法作为一个简单而有效的评估工具,为未来的IR研究。
2022-08-04 cs.IR
Query Performance Prediction: From Ad-hoc to Conversational Search
University of Amsterdam(阿姆斯特丹大学);University of Waterloo(滑铁卢大学)
本文研究了查询性能预测(QPP)在对话式搜索(CS)中的适用性,通过复现现有方法发现大规模训练集下有监督方法优势明显,逐点方法优于逐列表方法,且基于分数的无监督方法对ConvDR检索方法评估高效。
2023-05-18 cs.CL cs.IR cs.LG
Coarse-Tuning for Ad-hoc Document Retrieval Using Pre-trained Language Models
Hitotsubashi University(一桥大学);Tokyo University of Technology(东京工科大学)
本文提出粗调作为预训练与微调间的中间阶段,通过查询-文档对预测(QDPP)学习查询表示及关系,显著提升了四个临时文档检索数据集的MRR和nDCG@5。
2024-03-27 cs.AI cs.CL cs.IR
Adversarial Sampling and Training for Semi-Supervised Information Retrieval
Huawei Research America(华为美国研究院);School of Artificial Intelligence, Jilin University(吉林大学人工智能学院)
具有隐式反馈的自组织检索模型通常存在问题,例如,数据集中的不平衡类。太少的点击文档可能会损害模型的泛化能力,而太多的非点击文档可能会损害模型的有效性和训练效率。此外,最近的基于神经网络的模型由于其线性性质而容易受到对抗性示例的影响。为了解决这些问题,同时,我们提出了一个对抗性的采样和训练框架,学习ad-hoc检索模型与隐式反馈。我们的关键思想是(i)通过对抗训练来增强点击示例,以获得更好的泛化能力;(ii)通过对抗采样和训练来获得信息量很大的非点击示例。在基准数据集上进行实验,用于常见的自组织检索任务,如Web搜索,项目推荐和问答。实验结果表明,所提出的方法显着优于强基线,特别是高排名的文件,他们优于IRGAN在NDCG@5使用只有5%的标记数据的Web搜索任务。
2019-10-18 cs.IR cs.LG
Hypergraph-of-Entity: A General Model for Entity-Oriented Search
提出了一种面向实体搜索的通用模型--实体超图。但是,只评估了临时文件检索的性能。我们继续这条线的研究,也评估特设实体检索,和实体列表完成。我们还尝试扩展模型,以便它可以支持完整的INEX 2009维基百科集合。我们通过索引每个文档的顶级关键字来实现这一点,通过部分降低节点数量来降低复杂性,并间接降低将术语链接到实体的超边数量。这使我们能够将实体超图的有效性与INEX轨道参与者为所考虑的任务获得的结果进行比较。我们发现这是一个可行的模型,据我们所知,在信息检索的泛化,特别是通过支持多个面向实体的搜索任务的通用排名功能的第一次尝试。
2021-09-01 cs.IR
Investigating Retrieval Method Selection with Axiomatic Features
我们认为算法选择的上下文中的ad-hoc信息检索。给定一个查询和一对检索方法,我们提出了一个元学习器,预测如何结合的方法的相关性得分到一个整体的相关性得分。受神经模型关于IR公理的不同属性的启发,这些预测基于量化查询及其排名靠前的文档的公理相关属性的特征。我们对TREC Web Track数据进行了评估,发现元学习者通常比单个方法有显着改进。最后,我们进行特征和查询权重分析,以调查元学习者的行为。
2019-04-11 cs.IR
Text Information Retrieval in Tetun: A Preliminary Study
本文针对低资源语言德顿语缺乏信息检索方案的问题,开展即席检索实验并报告初步结果,为构建德顿语搜索解决方案提供基础。
2024-06-11 cs.IR
Co-PACRR: A Context-Aware Neural IR Model for Ad-hoc Retrieval
Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);SAP SE(思爱普公司);htw saar(萨尔应用技术大学);Rutgers University–New Brunswick(罗格斯大学新布朗斯维克分校)
神经IR模型,如DRMM和PACRR,通过成功捕获相关匹配信号,取得了很好的效果。我们认为,这些匹配信号的背景也很重要。直觉上,当提取、建模和组合匹配信号时,人们会考虑周围的文本(本地上下文)以及来自同一文档的其他信号,这些信号可以对整体相关性得分做出贡献。在这项工作中,我们强调了由于不考虑上下文信息而导致的三个潜在缺点,并提出了三种神经成分来解决这些问题:消歧组件,级联k-max池化和洗牌组合层。将这些成分合并到PACRR模型中,得到Co-PACRR,一种新的上下文感知神经IR模型。与Trec Web Track数据上建立的模型进行了广泛的比较,证实了所提出的模型可以实现更好的搜索结果。此外,还进行了消融分析,以深入了解不同组件之间的影响和相互作用。我们发布我们的代码,以便将来进行比较。
2017-11-28 cs.CL cs.IR
MAGIC: Marginal-Guided Compression with Optimal Transport for Efficient Visual Document Retrieval
The Hong Kong Polytechnic University(香港理工大学);Southern University of Science and Technology(南方科技大学)
针对视觉文档检索中多向量嵌入存储和评分开销大的问题,提出基于最优传输的边缘引导压缩方法MAGIC,无需训练即可高效压缩,在ViDoRe基准上优于现有事后压缩器。
2026-09-21 cs.CV cs.IR
Cross-lingual Knowledge Transfer via Distillation for Multilingual Information Retrieval
在本文中,我们介绍了我们提交MIRACL挑战的方法,这是一项WSDM 2023杯比赛,以18种不同语言的特设检索为中心。我们的解决方案包含两个基于神经的模型。第一个模型是一个双编码器重排序器,我们采用跨语言蒸馏技术,将排序知识从英语转移到目标语言空间。第二个模型是一个跨编码器的重新排序器,使用神经机器翻译生成的多语言检索数据进行训练。我们使用MIRACL训练数据和集合多个秩列表进一步微调两个模型以获得最终结果。根据MIRACL排行榜,我们的方法在16种已知语言中的Test-A集排名第8,Test-B集排名第2。
2023-02-26 cs.IR
Wikiformer: Pre-training with Structured Information of Wikipedia for Ad-hoc Retrieval
Quan Cheng Laboratory(泉城实验室);Tsinghua University(清华大学);Zhongguancun Laboratory(中关村实验室);Huawei Poisson Lab(华为泊松实验室)
本文提出Wikiformer,利用维基百科的结构化信息设计了四个专为IR任务定制的预训练目标,在多个基准及垂直领域的零样本和微调设置下均优于现有基线。
2024-01-01 cs.AI cs.IR
An Efficient Post-hoc Framework for Reducing Task Discrepancy of Text Encoders for Composed Image Retrieval
Seoul National University(首尔大学);NAVER AI Lab(NAVER AI实验室)
针对零样本组合图像检索中文本编码器预训练与目标任务不一致的问题,提出纯文本事后框架RTD,通过目标锚定对比学习及采样、拼接增强,以极低训练成本提升投影式方法性能。
2025-03-18 cs.CV cs.IR
A Graph-guided Multi-round Retrieval Method for Conversational Open-domain Question Answering
The Hong Kong Polytechnic University(香港理工大学);Shandong University(山东大学)
近年来,会话智能体为人们提供了一种自然、便捷的获取信息的途径,会话问答(QA)也成为一个新的研究课题。在当前流行的会话式问答任务中,会话式开放域问答(英语:Conversational open-domain QA)要求从Web上检索相关段落以提取准确答案,是一种实用性较强但研究较少的问答任务。如何更好地捕捉和充分挖掘会话中的历史语境,以利于有效的大规模检索,这是一个主要的挑战。目前的研究主要是利用历史问题来提炼当前问题或增强其代表性,而历史答案和当前答案之间的关系,这也是这项任务的关键,是完全被忽视的。为了解决这个问题,我们提出了一种新的图引导检索方法来模拟会话轮之间的答案之间的关系。特别是,它利用了一个通道图从超链接连接的段落,包含历史答案和潜在的当前答案,检索更多的相关段落,为后续的答案提取。此外,为了在历史语境中收集更多的互补信息,我们还建议结合多轮相关反馈技术来探讨检索语境对当前问题理解的影响。在公开数据集上的实验结果验证了该方法的有效性。值得注意的是,预测历史答案和真实历史答案的F1分数分别提高了5%和11%。
2021-04-17 cs.CL cs.IR
RAPT: Retrieval-Augmented Post-hoc Thresholding for Multi-Label Classification
Robert Gordon University(罗伯特·戈登大学);William Nicol (Aberdeen) Limited(威廉·尼科尔(阿伯丁)有限公司)
RAPT通过检索增强的方法改进多标签分类中的标签集选择,无需重新训练模型,有效应对OCR噪声和标签不平衡等问题,提升预测性能和效率。
2026-05-15 cs.AI cs.IR
PolySmart and VIREO @ TRECVid 2024 Ad-hoc Video Search
本文探索了生成增强检索方法用于TRECVid AVS任务,通过Text2Text、Text2Image和Image2Text三种生成方式增强文本查询理解以解决词表外问题,并提交了自动和手动运行,实验证明原始与生成查询的融合在TV24查询集上优于原始查询。
2024-12-20 cs.IR
Interpreting Conversational Dense Retrieval by Rewriting-Enhanced Inversion of Session Embedding
本文提出 CONVINV 方法,通过基于 ad-hoc 查询编码器训练 Vec2Text 模型并融入外部查询重写,将不透明的会话嵌入转换为可解释文本,在保持检索性能的同时提升会话密集检索的可解释性。
2024-06-01 cs.IR
Modality Relevance is not Modality Utility: Post-hoc Selective Modality Escalation for Cost-Aware Multimodal RAG
Hangzhou International Innovation Institute, Beihang University(杭州国际创新研究院,北京航空航天大学)
研究多模态检索增强生成中模态选择决策点问题,提出事后选择性模态升级方法,先低成本从文本和表格回答,再按需支付VLM证据费用,校准路由器决定是否升级,在MultiModalQA上减少视觉调用并缩小与神谕升级率差距,扩展了路由信号层次结构。
2026-07-08 cs.AI cs.IR
Establishing Strong Baselines for TripClick Health Retrieval
TU Wien(维也纳工业大学)
我们为最近发布的TripClick健康特别检索集合提供了强大的基于Transformer的重新排名和稠密检索基线。我们用一个简单的负采样策略改进了原本太嘈杂的训练数据。我们在TripClick的重新排名任务中获得了比BM25更大的收益,这是原始基线没有实现的。此外,我们研究了不同领域特定的预训练模型对TripClick的影响。最后,我们表明,稠密检索优于BM 25的相当大的利润率,即使简单的训练过程。
2022-01-02 cs.CL cs.IR
Simulating Users in Interactive Web Table Retrieval
本研究提出基于Doc2Query的交互式查询重构策略模拟Web表格检索会话,结合用户认知状态,通过多视角评估揭示查询策略与模态对用户有效性的影响。
2023-10-18 cs.IR
ExpertLens: Visualizing Embedding Spaces for Post-Hoc Explainability in MoE Enhanced Retrievers
University of Milano-Bicocca(米兰比可卡大学);Bielefeld University(比勒费尔德大学)
ExpertLens提出一种针对MoE增强密集检索器的事后可解释框架,通过嵌入空间可视化和概念激活向量,揭示专家路由对检索效果的影响,实验验证其能改善嵌入空间结构。
2026-09-09 cs.AI cs.IR
Learning To Retrieve: How to Train a Dense Retrieval Model Effectively and Efficiently
排序一直是信息检索研究的热点之一。几十年来,词汇匹配信号一直主导着ad-hoc检索过程,但它也有固有的缺陷,如词汇不匹配问题。最近,稠密检索(DR)技术已被提出,以减轻这些限制,通过捕捉查询和文档之间的深层语义关系。大多数现有的稠密检索模型的训练依赖于从语料库中采样负实例来优化成对损失函数。通过研究发现,这种训练策略是有偏差的,不能有效地优化整个检索性能。为了解决这个问题,我们提出了一种学习学习(LTRe)训练技术。LTRe预先构造文档索引。在每一次训练迭代中,它执行完全检索而没有负采样,然后更新查询表示模型参数。通过这个过程,它教DR模型如何从整个语料库中检索相关文档,而不是如何重新排序可能有偏见的文档样本。在段落检索和文档检索任务中的实验表明:1)在有效性方面,LTRe显著优于所有竞争性稀疏和密集基线。在合理的延迟限制下,它甚至比BM 25-BERT级联系统获得更好的性能。2)在训练效率方面,与之前最先进的DR方法相比,LTRe在训练过程中提供了超过170倍的加速。使用压缩索引进行训练进一步节省了计算资源,性能损失较小。
2020-10-20 cs.IR
ir_explain: a Python Library of Explainable IR Methods
本文提出开源Python库ir_explain,在统一可扩展框架内实现逐点、成对和列表级三类事后可解释信息检索方法,并与Pyserini、ir_datasets集成,以支持复现基线并探索新的IR解释方法。
2025-05-09 cs.IR