SEINE: SEgment-based Indexing for NEural information retrieval
提出基于片段的神经索引方法SEINE,通过片段级倒排索引存储查询-文档交互值,灵活支持多种基于交互的神经检索方法,在MQ2007和MQ2008数据集上实现最高28倍加速且不损失检索有效性。
2023-11-27 cs.IR
GazBy: Gaze-Based BERT Model to Incorporate Human Attention in Neural Information Retrieval
本文主要研究人类的注视信号是否可以用来提高最先进的搜索引擎的性能,以及如何将这种由人类注意力标记的新输入信号纳入现有的神经检索模型。在本文中,我们提出了GazBy(基于{\bf Gaz} e的{ \bf B}ert模型,用于文档相关性{ \bf y}),一个轻量级的联合模型,将人类凝视固定估计集成到Transformer模型中以预测文档相关性,将有关认知处理的更多细微差别的信息纳入信息检索(IR)。我们在文本检索会议(TREC)深度学习(DL)2019和2020轨道上评估了我们的模型。我们的实验显示了令人鼓舞的结果,并说明了使用人类凝视来帮助基于transformer的神经检索器的有效和无效的切入点。随着虚拟现实(VR)和增强现实(AR)的兴起,人类的凝视数据将变得更加可用。我们希望这项工作可以作为探索在现代神经搜索引擎中使用凝视信号的第一步。
2022-07-04 cs.IR
Telco-oRAG: Optimizing Retrieval-augmented Generation for Telecom Queries via Hybrid Retrieval and Neural Routing
Paris Research Center, Huawei Technologies(华为技术有限公司巴黎研究中心);Yale University(耶鲁大学)
Telco-oRAG通过混合检索与神经路由优化,提升电信领域问题回答的准确性和效率,实现开源大模型在电信基准测试中接近GPT-4水平。
2025-12-02 cs.IR
Evaluating Interpolation and Extrapolation Performance of Neural Retrieval Models
检索模型不仅要对训练数据进行插值,而且要对不同于训练数据的查询进行良好的外推。虽然神经检索模型在ad-hoc搜索基准上表现出令人印象深刻的性能,但我们仍然对它们在内插和外推方面的表现知之甚少。在本文中,我们证明了分别评估神经检索模型的两种能力的重要性。首先,我们从这两个角度研究现有的ad-hoc搜索基准。我们调查了训练数据和测试数据的分布,发现查询实体、查询意图和相关性标签有相当大的重叠。这一发现意味着对这些测试集的评价偏向于内插,不能准确反映外推能力。其次,我们提出了一种新的评估协议,分别评估现有基准数据集上的内插和外推性能。它基于查询相似性对训练和测试数据进行重新采样,并利用重新采样的数据集进行训练和评估。最后,我们利用所提出的评估协议,全面重新审视了一些广泛采用的神经检索模型。结果表明,当从内插到外推时,模型的表现不同。例如,基于表示的检索模型在内插而不是外推方面几乎与基于交互的检索模型一样好。因此,有必要分别评估内插和外推的性能和建议的reserve方法作为一个简单而有效的评估工具,为未来的IR研究。
2022-08-04 cs.IR
Neural Matching Models for Question Retrieval and Next Question Prediction in Conversation
最近人工智能的蓬勃发展已经出现了许多人机对话系统,如Google Assistant,Microsoft Cortana,Amazon Echo和Apple Siri。我们介绍并正式化的任务,预测问题的对话,其目标是预测新的问题,用户会问,鉴于过去的会话背景。这个任务可以建模为“序列匹配”问题,其中给出两个序列,目的是学习将任何一对序列映射到匹配概率的模型。神经匹配模型采用深度神经网络来学习序列表示和匹配分数,引起了信息检索和自然语言处理界的极大研究兴趣。在本文中,我们首先研究神经匹配模型的问题检索任务,已在文献中广泛探讨,而神经模型的有效性,这项任务是相对未研究。我们进一步评估的神经匹配模型在下一个问题预测任务的对话。我们在实验中使用了公开的Quora数据和Ubuntu聊天记录。我们的评估调查的潜力,神经匹配模型与表示学习的问题检索和下一个问题的预测对话。实验结果表明,神经匹配模型对这两个任务都有很好的表现。
2017-07-17 cs.IR
GNN-encoder: Learning a Dual-encoder Architecture via Graph Neural Networks for Dense Passage Retrieval
最近,基于密集表示的检索模型在段落检索任务中占主导地位,由于其出色的能力,在捕捉输入文本的语义相比,传统的稀疏向量空间模型。稠密检索模型的一个常见做法是利用双编码器架构来独立地表示查询和段落。虽然有效,但这样的结构失去了查询-通道对之间的交互,导致准确性较差。为了提高稠密检索模型的性能而不损失效率,我们提出了一个GNN编码器模型,其中查询(通道)信息融合到通道(查询)表示通过图神经网络,构建查询和他们的顶部检索通道。通过这种方法,我们保持了一个双编码器结构,并保留了一些查询-通道对之间的相互作用信息,这使我们能够实现效率和功效的通道检索。评估结果表明,我们的方法在MSMARCO,Natural Questions和TriviaQA数据集上的性能明显优于现有模型,并在这些数据集上达到了新的最先进水平。
2022-10-12 cs.IR
Hybrid Neural Retrieval with Generative Query Refinement for Quranic Passage Retrieval
Faculty of Computer Sciences October University for Modern Sciences and Arts (MSA)(现代科学与艺术大学计算机科学学院)
针对古兰经段落检索中现代标准阿拉伯语与古典阿拉伯语的语义鸿沟,提出四阶段神经架构,结合稠密与稀疏检索、语义重排序、置信门控和生成式精化,提升多节检索准确率并过滤零答案查询。
2026-06-25 cs.IR
Selective Weak Supervision for Neural Information Retrieval
本文将神经信息检索民主化到大规模相关性训练信号不可用的场景。我们重温了经典的IR直觉,锚文件关系近似查询文档的相关性,并提出了一种强化弱监督选择方法,ReInfoSelect,它学习选择锚文件对,最好的弱监督神经排名(行动),使用少数相关标签的排名性能作为奖励。迭代地,对于一批锚点-文档对,ReInfoSelect通过神经排名器反向传播梯度,收集其NDCG奖励,并使用策略梯度优化数据选择网络,直到神经排名器的性能在目标相关性度量(收敛)上达到峰值。在我们对三个TREC基准测试的实验中,由ReInfoSelect训练的神经排名器,只有公开的锚数据,显着优于基于特征的学习排序方法,并与私人商业搜索日志训练的神经排名器的有效性相匹配。我们的分析表明,ReInfoSelect根据神经排名器训练的阶段有效地选择了弱监督信号,并直观地选择了类似于查询-文档对的锚点-文档对。
2020-01-28 cs.IR
Leveraging Semantic and Lexical Matching to Improve the Recall of Document Retrieval Systems: A Hybrid Approach
搜索引擎通常遵循两阶段范例,其中在第一阶段(检索阶段)中检索初始文档集,并且在第二阶段(重新排序阶段)中对文档进行重新排序以获得最终结果列表。虽然深度神经网络在以前的工作中被证明可以提高重新排序阶段的性能,但是很少有文献关于使用深度神经网络来提高检索阶段。在本文中,我们研究了深度神经网络模型和词汇模型相结合的检索阶段的优点。提出了一种利用语义(基于深度神经网络)和词汇(基于关键字匹配)检索模型的混合方法。我们进行了实证研究,使用公开的TREC集合,这表明了我们的方法的有效性,并揭示了语义方法,词汇方法,以及它们的组合的不同特点。
2020-10-02 cs.IR
NGM-RAG: Neural Graph Matching based Retrieval-Augmented Generation
College of Computer and Information Science, Southwest University(西南大学计算机与信息科学学院);Beijing Institute of Control Engineering(北京控制工程研究所)
研究针对传统RAG方法在处理复杂问题时的局限,提出基于神经图匹配的检索增强生成框架NGM-RAG,将图构建、匹配与答案生成统一,结合文本匹配和GNN,采用自适应加权策略,实验证明该模型在多跳问答等任务中性能优越。
2026-07-14 cs.IR
Assessing the Benefits of Model Ensembles in Neural Re-Ranking for Passage Retrieval
我们的工作旨在通过实验评估神经方法的背景下,通过重新排序的模型集成的好处。从相对标准的神经模型开始,我们使用一种名为快速几何集成的先前技术来从特定的训练时间表生成多个模型实例,然后将注意力集中在用于组合来自多个模型实例的结果的不同类型的方法上(例如,平均排序分数、使用来自IR文献的融合方法、或使用监督学习排序)。使用MS-MARCO数据集的测试表明,模型集成确实可以提高排名质量,特别是在监督学习-to-rank的情况下,尽管也有无监督的排名聚合。
2021-01-21 cs.IR
ExcluIR: Exclusionary Neural Information Retrieval
首次研究文档检索中的排他性检索场景,提出ExcluIR资源集(含3,452个评估查询和70,293个训练查询),实验表明现有检索模型理解排他性查询存在困难,而生成式检索模型具有天然优势。
2024-04-26 cs.IR
A Neural Corpus Indexer for Document Retrieval
当前的文档检索解决方案主要遵循索引检索范式,其中索引很难直接针对最终检索目标进行优化。在本文中,我们的目的是表明,一个端到端的深度神经网络统一的训练和索引阶段可以显着提高传统方法的召回性能。为此,我们提出了神经语料库索引器(NCI),一个序列到序列的网络,直接为指定的查询生成相关的文档标识符。为了优化NCI的召回性能,我们发明了一个前缀感知的权重自适应解码器架构,并利用定制的技术,包括查询生成,语义文档标识符,和基于一致性的正则化。实证研究证明了NCI在两个常用的学术基准上的优越性,与最佳基线方法相比,NQ 320 k数据集上的Recall@1和TriviaQA数据集上的R-Precision分别实现了+21.4%和+16.8%的相对增强。
2023-02-12 cs.IR
Axiomatic Causal Interventions for Reverse Engineering Relevance Computation in Neural Retrieval Models
针对神经检索模型相关性计算机制不明的问题,提出使用因果干预与机制可解释性方法逆向工程神经排序器,成功隔离出满足词频公理的注意力头组件,为细粒度分析模型决策过程及安全部署开辟了新途径。
2025-02-03 cs.IR
The Cross-Lingual Arabic Information REtrieval (CLAIRE) System
尽管神经机器翻译取得了进展,但查询和文档位于不同自然语言空间的跨语言检索任务仍然具有挑战性。虽然神经翻译模型可以提供一种直观的方法来解决跨语言问题,但它们的资源消耗训练和高级模型结构可能会使整个检索管道复杂化并降低用户参与度。在本文中,我们建立了我们的端到端的跨语言阿拉伯语信息检索(CLAIRE)系统的基础上,跨语言的词嵌入,搜索者被假定有一个过得去的被动理解的阿拉伯语和各种支持信息的英语,以帮助检索经验。该系统具有三大优点:(1)英语-阿拉伯语词嵌入的使用简化了整个流水线,避免了机器翻译可能导致的错误。(2)我们的CLAIRE系统可以包含任意的基于词嵌入的神经检索模型,而无需结构修改。(3)阿拉伯语新闻收集的早期经验结果显示了良好的性能。
2021-07-29 cs.IR
Explainable Information Retrieval: A Survey
可解释信息检索是一个新兴的研究领域,旨在使透明和可信的信息检索系统。鉴于复杂机器学习模型在搜索系统中的使用越来越多,可解释性对于构建和审计可靠的信息检索模型至关重要。这项调查填补了一个重要的空白,否则主题多样的文献解释信息检索。它分类和讨论最近的可解释性方法开发的不同应用领域的信息检索,提供了一个共同的框架和统一的观点。此外,它反映了评估解释的共同关注,并强调了开放的挑战和机遇。
2022-11-04 cs.IR
A Survey on Adversarial Information Retrieval on the Web
这篇调查报告讨论了不同形式的恶意技术,这些技术可能会影响信息检索模型如何检索文档进行查询,以及它们的补救措施。
2020-02-15 cs.IR
Neural Information Retrieval: A Literature Review
最近的“第三波”神经网络(NN)方法现在在许多机器学习任务中提供了最先进的性能,涵盖语音识别,计算机视觉和自然语言处理。由于这些现代NN通常包含多个相互连接的层,因此这种新的NN研究通常被称为深度学习。基于这一趋势,许多研究者开始研究信息检索的神经网络方法。虽然深度NN尚未在IR中取得与其他领域相同的成功水平,但最近对IR NN的兴趣和工作的激增表明这种情况可能正在迅速改变。在这项工作中,我们调查了神经IR研究的现状,特别注意使用查询和文档的学习表示(即,神经嵌入)。我们强调了迄今为止神经IR的成功,对其更广泛采用的障碍进行了分类,并为未来的研究提出了潜在的有希望的方向。
2017-03-03 cs.IR
Complementing Lexical Retrieval with Semantic Residual Embedding
本文介绍了CLEAR,检索模型,旨在补充经典的词汇精确匹配模型,如BM 25与语义匹配信号的神经嵌入匹配模型。CLEAR显式地训练神经嵌入来编码词汇检索无法捕获的语言结构和语义,并使用一种新的基于残差的嵌入学习方法。实证评估表明,CLEAR的优势,国家的最先进的检索模型,它可以大大提高端到端的准确性和效率的重新排序管道。
2021-03-29 cs.IR
Retrieving Comparative Arguments using Ensemble Methods and Neural Information Retrieval
本研究针对比较性问题的论证检索任务,结合决策树集成、BERT等技术构建排序模型,在赛事中取得相关性第一、质量第二的成绩,可提升比较查询处理性能。
2023-05-01 cs.IR
Context-augmented Retrieval: A Novel Framework for Fast Information Retrieval based Response Generation using Large Language Model
针对RAG问答系统因语料库增大导致回答质量下降的问题,提出结合经典文本分类与LLM的上下文增强检索(CAR)框架,通过实时分类分区向量数据库实现快速检索并提升生成质量。
2024-07-31 cs.IR
Distribution-Aligned Fine-Tuning for Efficient Neural Retrieval
基于双编码器的神经检索模型实现了可观的性能,并补充传统的词汇检索器,以及由于其语义匹配能力,这使得它们成为混合IR系统的常见选择。然而,这些模型在在线查询编码步骤中表现出性能瓶颈,因为相应的查询编码器通常是大型且复杂的Transformer模型。在本文中,我们研究异构双编码器模型,其中两个编码器是单独的模型,不共享参数或初始化。我们的经验表明,异构的双编码器容易崩溃的表示,使他们输出恒定的平凡表示时,他们使用一个标准的对比度损失,由于分布不匹配进行微调。我们提出了DAFT,一个简单的两阶段微调方法,对齐两个编码器,以防止它们崩溃。我们进一步演示了如何DAFT可以用来训练高效的异构双编码器模型,使用轻量级查询编码器。
2022-11-09 cs.IR
Information Retrieval Model: A Social Network Extraction Perspective
未来的信息检索,特别是与互联网相关的信息检索,将结合使用社交网络提取技术生成的内容描述,并且优选地结合用于分配语义的概率理论。虽然社会网络信息抽取的研究越来越受到人们的关注,但其中很少有对信息检索有重大影响的方法。因此本文提出了一种基于社会网络的信息检索模型。
2012-07-16 cs.IR
Towards Axiomatic Explanations for Neural Ranking Models
最近,神经网络已被成功地用于通过机器学习的排序函数来提高自组织检索任务的最新性能。虽然神经检索模型的复杂性和影响力不断增加,但人们对它们与研究充分的IR原理的对应关系知之甚少。最近关于机器学习中可解释性的工作提供了一般理解神经模型的工具和技术,但在解释排名模型方面几乎没有进展。我们调查是否可以解释的行为,神经网络的排名模型的一致性,以及理解的原则,通过使用公理IR建立的理论。公理分析信息检索模型的排名决定,合理的检索模型应该履行的一组约束条件。我们操作这个公理化的思想,重现排名的基础上组合的基本约束。这使我们能够调查在何种程度上的神经排名决定可以解释检索公理,以及公理适用于哪些情况。我们的实验研究考虑了一套全面的公理在几个代表性的神经排名。虽然现有的公理已经可以很好地解释特别自信的排名决定,未来的工作应该扩展公理集,也包括其他仍然“无法解释”的神经IR排名决定。
2021-07-11 cs.IR
Beyond CO2 Emissions: The Overlooked Impact of Water Consumption of Information Retrieval Models
本文指出信息检索社区在关注基于大型语言模型的神经搜索模型能耗与CO2排放的同时,忽视了模型水消耗这一重要影响。
2023-06-29 cs.IR
Can Old TREC Collections Reliably Evaluate Modern Neural Retrieval Models?
神经检索模型通常被认为是从根本上不同的检索技术在90年代后期使用时,TREC特设测试集合的构建。因此,他们提供了机会,以经验为基础,测试池建立的测试集合可以可靠地评估检索系统,没有贡献的建设的集合(换句话说,这样的集合可以重用)。为了测试可重用性声明,我们要求TREC评估员对从TREC-8特设集合的新搜索结果中创建的新池进行判断。这些新的搜索结果包括五个新的运行(每个运行来自三个基于transformer的模型和两个使用BM 25的基线运行)加上之前没有贡献给池的TREC-8提交集。新的运行确实检索到了以前看不见的文件,但这些文件中的绝大多数都不相关。当使用官方TREC-8相关性判断集和新扩展的相关性集进行评估时,所有运行的平均评估得分排名几乎相同,Kendall的tau相关性大于0.99。个别主题的相关性也很高。TREC-8临时收集最初是在不同的运行集上使用深度池构建的,包括几次有效的手动运行。它的判决预算,因此建设成本,是相对较大的。然而,这笔费用似乎花得很值:即使随着神经技术的出现,这些藏品也经受住了时间的考验,随着检索技术的进步,它们仍然是一种可靠的评估工具。
2022-01-26 cs.IR
An Empirical Study of Some Selected IR Models for Bengali Monolingual Information Retrieval
本文提出了一个评估和分析的一些选择信息检索模型孟加拉语单语信息检索任务。两个模型,TF-IDF模型和Okapi BM 25模型已被考虑为我们的研究。在2008 - 2012年不同年份发布的FIRE特别检索数据集上对所开发的IR模型进行了测试,并报告了所获得的结果。
2017-06-10 cs.IR
WikiPassageQA: A Benchmark Collection for Research on Non-factoid Answer Passage Retrieval
随着移动搜索和语音搜索的兴起,答案段落检索成为有效的开放域问答信息检索系统的关键组成部分。目前,还没有类似的集合能够解决较大文档中的非事实问答,同时提供足够的示例来训练深度神经网络。在本文中,我们介绍了一个新的基于维基百科的集合,专门用于非事实答案通道检索,包含数千个带有注释的答案的问题,并显示了各种最先进的神经架构和检索模型的基准结果。实验结果表明,在主题相关的文件中的答案通道检索所提出的独特的挑战,为未来的研究。
2018-05-10 cs.IR
EMAR: Efficient Multi-domain Adaptive Retrieval
University of Milano-Bicocca(米兰比可卡大学);ISTI-CNR(意大利国家研究委员会信息系统技术研究所);Politecnico di Torino(都灵理工大学);Georgetown University(乔治城大学)
DRAMA通过自适应模块分配实现高效领域检索,减少能耗与参数使用,提升神经检索的可持续性。
2026-11-02 cs.IR
XML Information Retrieval Systems: A Survey
XML信息库的持续增长与XML检索系统开发的不断努力相匹配,在很大程度上旨在支持面向内容的XML检索。这些系统利用XML文档中的可用结构信息,以返回文档组件-所谓的XML元素-而不是对用户查询的补充文档。在本文中,我们提供了一个不同的XML信息检索系统的概述和分类,根据其存储和查询评价策略。
2011-11-28 cs.IR
Adapting Binary Information Retrieval Evaluation Metrics for Segment-based Retrieval Tasks
本报告描述了基于现有二进制信息检索指标的基于段检索的有效性评估指标。该度量在用于视频片段的超链接的任务的上下文中描述。这种评价方法重新使用现有的评价措施,从标准的克兰菲尔德评价范式。我们的适应方法原则上可以用于任何一种使用二进制相关性的有效性度量,以及其他基于段的检索任务。在我们的视频超链接设置中,我们使用截止秩n的精度和平均精度。
2013-12-06 cs.IR
CaseGNN: Graph Neural Networks for Legal Case Retrieval with Text-Attributed Graphs
针对法律案例检索中结构信息缺失与长文本限制问题,提出基于图神经网络的CaseGNN模型,通过构建文本属性案例图、边图注意力层和对比损失优化实现检索,在COLIEE基准上取得最优效果。
2023-12-19 cs.IR
Combining Text and Formula Queries in Math Information Retrieval: Evaluation of Query Results Merging Strategies
特定于数学的信息检索是在文档和查询中将文本与数学公式相结合。对查询扩展进行了严格的评估,并给出了在查询中结合数学和标准文本关键词的合并策略。结果表明,类似于那些已知的从文本查询处理的技术可以应用在数学信息检索,以及,并导致尖端的性能。分条和合并来自子查询的部分结果是一种改进由信息检索评估度量(如Bclock)测量的结果的技术。
2015-08-08 cs.IR
Evaluating Token-Level and Passage-Level Dense Retrieval Models for Math Information Retrieval
随着最近基于双编码器的稠密检索方法的成功,研究已经将这种方法应用于各种有趣的下游检索任务,具有良好的效率和域内有效性。最近,我们也看到了稠密检索模型在数学信息检索(MIR)任务的存在,但最有效的系统仍然是经典的检索方法,考虑手工制作的结构特征。在这项工作中,我们试图结合两个世界的最佳:\一个定义良好的结构搜索方法,有效的公式搜索和高效的双编码器稠密检索模型,以捕捉上下文的相似性。具体来说,我们已经评估了两个代表性的双编码器模型的令牌级和令牌级稠密检索最近的MIR任务。我们的研究结果表明,双编码器模型是高度互补的现有结构搜索方法,我们能够推进最先进的MIR数据集。
2022-10-21 cs.IR
NIR-Prompt: A Multi-task Generalized Neural Information Retrieval Training Framework
针对预训练语言模型在神经信息检索中泛化性差的问题,提出基于信号解耦的NIR-Prompt训练框架,通过双模块分别捕捉本质匹配信号与生成任务描述,在多类任务设置下提升了检索与重排序阶段的模型泛化能力。
2023-12-18 cs.IR
Information retrieval system for silte language using BM25 weighting
信息检索系统的主要目的是根据用户的需要从大量的数据中提取合适的信息。信息检索系统的基本概念是,当用户发出查询时,系统将尝试生成一个相关文档的列表,这些文档根据它们的相关程度按顺序排列。数字非结构化Silte文本文档不断增加。数字文本信息的增长使得正确信息的利用和访问变得困难。因此,开发一个面向Silte语言的信息检索系统,可以搜索和检索满足用户信息需求的相关文档。在本研究中,我们针对Silte语言设计了一个概率信息检索系统。该系统具有索引和搜索两部分。在这些模块中,包括不同的文本操作,如标记化,词干,停止词删除和同义词。
2020-12-16 cs.IR
Semantic Arabic Information Retrieval Framework
信息发布量和存储量的不断增加,要求有专门的信息检索框架来准确、快速地检索和获取信息。目前,基于关键字的技术通常用于信息检索中。然而,关键词方法的一个主要缺点是它无法处理自然语言中的一词多义和同义现象。例如,不同社区对词语的含义和对概念的理解不同。同一个词用于不同的概念(一词多义)或使用不同的词用于同一个概念(同义)。大多数信息检索框架在处理词汇语义方面存在不足(索引、布尔模型、潜在语义分析(LSA)、潜在语义索引(LSI)和语义排序等)。传统的阿拉伯语信息检索(AIR)模型在处理语义查询时,不仅要处理关键字,还要处理这些关键字的上下文,因此性能不足。因此,需要一种具有语义索引结构和基于语义索引的排序算法的语义信息检索模型。
2015-12-10 cs.IR
A Deep Look into Neural Ranking Models for Information Retrieval
排序模型是信息检索研究的核心。在过去的几十年中,已经提出了不同的技术来构建排序模型,从传统的探试法,概率方法,到现代的机器学习方法。最近,随着深度学习技术的发展,我们已经看到越来越多的工作将浅层或深层神经网络应用于IR中的排名问题,本文中称为神经排名模型。神经排名模型的强大之处在于能够从原始文本输入中学习排名问题,以避免手工制作功能的许多限制。神经网络有足够的能力来模拟复杂的任务,这是需要处理的复杂性相关性估计的排名。由于已经提出了各种各样的神经排名模型,我们认为现在是总结现状,从现有方法中学习并为未来发展获得一些见解的时候了。与现有的综述相比,在本调查中,我们将从不同的维度深入研究神经排名模型,分析其基本假设,主要设计原则和学习策略。我们通过基准任务比较这些模型,以获得对现有技术的全面经验理解。我们还将讨论当前文献中缺少的内容以及有希望和期望的未来方向。
2019-06-27 cs.IR
The model of information retrieval based on the theory of hypercomplex numerical systems
本文提出了一种新的信息检索模型,它是向量空间模型的推广,是基于超复数系统理论的。该模型允许在一定程度上实现模糊搜索的想法,并允许您在实践中应用超复杂数值系统领域的信息检索实际发展的模型。
2012-05-14 cs.IR
Reproducing and Extending Causal Insights Into Term Frequency Computation in Neural Rankers
本文复现并扩展了神经排序模型中词频计算的因果洞察,验证了激活修补框架,新增词频递减公理,并识别出编码该公理的注意力头,揭示模型内部决策机制。
2025-10-08 cs.IR
Experiments on Manual Thesaurus based Query Expansion for Ad-hoc Monolingual Gujarati Information Retrieval Tasks
在本文中,我们提出的实验工作做查询扩展(QE)的古吉拉特语文本文档的检索任务。在信息检索中,准确地估计用户的需求是非常困难的,查询扩展在原始查询的基础上增加检索词,从而提供更多的用户需求信息。查询扩展有多种方法。在我们的工作中,手动词库为基础的查询扩展进行广泛使用的信息检索模型古吉拉特语文本文档的性能进行评估。实验结果表明,查询扩展提高了文本文档的查全率。
2020-01-18 cs.IR
Zero-shot Neural Passage Retrieval via Domain-targeted Synthetic Question Generation
Google Research(谷歌研究院)
广泛采用神经检索模型的一个主要障碍是,它们需要大量的监督训练集,以超越传统的基于术语的技术,这些技术是从原始语料库中构建的。在本文中,我们提出了一种方法,零样本学习的段落检索,使用合成的问题生成,以弥补这一差距。问题生成系统是在一般领域数据上训练的,但应用于目标领域中的文档。这使我们能够创建任意大的,但嘈杂的,特定于领域的问题通道相关性对。此外,当这是一个简单的混合术语神经模型相结合,第一阶段的检索性能可以进一步提高。经验上,我们表明,这是一个有效的策略,在没有大型训练语料库的情况下,建立神经通道检索模型。根据领域的不同,该技术甚至可以接近监督模型的准确性。
2021-01-27 cs.CL cs.IR
Advancing continual lifelong learning in neural information retrieval: definition, dataset, framework, and empirical evaluation
Loughborough University(拉夫堡大学)
针对神经信息检索领域缺乏明确持续学习任务范式的问题,本文提出了对应的任务定义、多主题数据集与整合典型模型和学习策略的框架,实证验证了其防遗忘效果并对比了不同模型的性能差异。
2024-06-19 cs.CL cs.IR
Entity-Conditioned Question Generation for Robust Attention Distribution in Neural Information Retrieval
UIUC(伊利诺伊大学厄巴纳-香槟分校);IBM Research AI(IBM研究院人工智能部门)
我们发现,监督神经信息检索(IR)模型很容易学习稀疏的注意力模式通过令牌,这可能会导致关键短语,包括命名实体接收低注意力权重,最终导致模型性能不佳。使用一种新的有针对性的合成数据生成方法,识别不良出席的实体和条件的生成情节上,我们教神经IR出席更均匀,更强大的所有实体在一个给定的通道。在两个公共IR基准测试中,我们实证表明,所提出的方法有助于提高模型的注意力模式和检索性能,包括在zero-shot设置。
2022-04-24 cs.CL cs.IR
Neural ranking models for document retrieval
Lehigh University(理海大学)
排序模型是信息检索系统的主要组成部分。有几种排名方法是基于传统的机器学习算法,使用一组手工制作的功能。最近,研究人员在信息检索中利用了深度学习模型。这些模型经过端到端的训练,从原始数据中提取特征用于排名任务,从而克服了手工制作特征的局限性。已经提出了各种深度学习模型,每个模型都提供了一组神经网络组件来提取用于排名的特征。在本文中,我们沿着不同的维度比较了文献中提出的模型,以了解每个模型的主要贡献和局限性。在我们的文献讨论中,我们分析了有前途的神经元组件,并提出了未来的研究方向。我们还展示了文档检索和其他检索任务之间的类比,其中要排名的项目是结构化的文档,答案,图像和视频。
2021-11-02 cs.IR cs.LG
Query-Aware Graph Neural Networks for Enhanced Retrieval-Augmented Generation
NVIDIA(英伟达)
提出一种查询感知图神经网络,通过构建知识图谱和查询引导池化提升多跳问答的检索准确性,实验优于密集检索器。
2025-07-25 cs.AI cs.IR
Finding the Law: Enhancing Statutory Article Retrieval via Graph Neural Networks
Maastricht University(马斯特里赫特大学)
法律条文检索是法律文本处理的一个重要应用,是对与法律问题相关的法律条文进行检索的任务。特别是高质量的特区系统,可以提高法律专业人员的工作效率,为有需要的公民无偿提供基本的法律援助。与传统的特设信息检索,其中每个文件被认为是一个完整的信息源,SAR处理的文本,其全部意义取决于补充信息的拓扑组织的成文法。虽然现有的作品忽略了这些特定领域的依赖关系,我们提出了一种新的图形增强密集规约检索(G-DSR)模型,通过图神经网络,以提高稠密检索性能的立法结构。实验结果表明,我们的方法优于强大的检索基线在现实世界的专家注释的SAR数据集。
2023-01-30 cs.CL cs.IR
Neural document expansion for ad-hoc information retrieval
Amazon(亚马逊)
最近,Nogueira等人[2019]提出了一种基于神经Seq 2Seq模型的文档扩展新方法,在短文本检索任务上显示出显着的改进。然而,这种方法需要大量的域内训练数据。在本文中,我们表明,这种神经文档扩展方法可以有效地适应标准的IR任务,标签是稀缺的,许多长文档。
2020-12-27 cs.AI cs.CL cs.IR
Silver Retriever: Advancing Neural Passage Retrieval for Polish Question Answering
Polish Academy of Sciences(波兰科学院)
本文提出面向波兰语的神经段落检索模型 Silver Retriever,在多样化标注数据上训练,性能显著优于现有波兰语模型,并开源五个新数据集。
2024-02-22 cs.CL cs.IR
Interpreting Multilingual and Document-Length Sensitive Relevance Computations in Neural Retrieval Models through Axiomatic Causal Interventions
University of Amsterdam(阿姆斯特丹大学)
本研究复现并扩展了神经检索模型相关性计算的公理化因果干预方法,通过激活修补验证查询词信息编码,并发现词频位置跨语言泛化且序列级信息集中于CLS词元。
2025-05-04 cs.AI cs.IR
HYRR: Hybrid Infused Reranking for Passage Retrieval
Google Research(谷歌研究院)
我们提出了混合注入重排序的段落检索(HYRR),一个框架,用于训练重排序的基础上的混合BM 25和神经检索模型。基于混合模型的检索器已被证明优于单独的BM 25和神经模型。我们的方法在训练重排序器时利用了这种改进的性能,从而产生了一个强大的重排序模型。的reranker,交叉注意神经模型,被证明是强大的不同的第一阶段检索系统,实现更好的性能比rerankers简单地训练后的第一阶段检索在多阶段系统。我们目前的评估监督通过检索任务使用MS MARCO和zero-shot检索任务使用BEIR。实证结果表明,这两个评价表现强劲。
2022-12-20 cs.CL cs.IR
NPRF: A Neural Pseudo Relevance Feedback Framework for Ad-hoc Information Retrieval
University of Chinese Academy of Sciences(中国科学院大学);Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所);Computer Network Information Center, Chinese Academy of Sciences(中国科学院计算机网络信息中心);SAP SE(SAP公司);Max Planck Institute for Informatics(马克斯·普朗克信息学研究所)
伪相关反馈(PRF)通常用于通过使用排名靠前的文档来识别和加权新的查询词来提高传统信息检索(IR)模型的性能,从而减少查询-文档词汇不匹配的影响。虽然神经检索模型最近已经证明了ad-hoc检索的强大结果,但由于现有的PRF方法和神经架构之间的不兼容性,将它们与PRF相结合并不简单。为了弥补这一差距,我们提出了一个端到端神经PRF框架,可以通过嵌入不同的神经模型作为构建块来与现有的神经IR模型一起使用。在两个标准测试集上的大量实验证实了所提出的NPRF框架在提高两个最先进的神经IR模型的性能方面的有效性。
2018-10-30 cs.AI cs.CL cs.IR
Biomedical Question Answering via Weighted Neural Network Passage Retrieval
ETH Zurich(苏黎世联邦理工学院)
近年来,可公开获得的生物医学文献的数量一直在快速增长,然而问答系统仍在努力开发这种数据源的全部潜力。在初步处理步骤中,许多问答系统依赖于检索模型来识别相关文档和段落。提出了一种基于神经网络词嵌入的加权余弦距离检索方案。我们的实验基于BioASQ生物医学问答挑战赛的公开数据和任务,并在各种最先进的模型中表现出显着的性能提升。
2018-01-09 cs.AI cs.CL cs.IR
Incorporating Query Term Independence Assumption for Efficient Retrieval and Ranking using Deep Neural Networks
Microsoft AI & Research(微软人工智能与研究院)
经典的信息检索(IR)方法,如查询可能性和BM 25,评分文件独立w.r.t.每个查询词,然后累积分数。假设查询术语独立性允许使用这些模型预先计算术语-文档分数--这些模型可以与专门的数据结构(如倒排索引)相结合,以实现高效检索。相比之下,深度神经IR模型将整个查询与文档进行比较,因此通常仅用于后期重新排名。我们将查询项独立性假设纳入三个最先进的神经IR模型:BERT,Duet和CKNRM-并评估它们在段落排名任务上的性能。令人惊讶的是,我们观察到Duet和CKNRM的结果质量没有显著损失,而BERT的结果质量略有下降。然而,通过独立地对每个查询词进行操作,这些计算密集型模型变得易于离线预计算-大大降低了采用最先进的神经排名模型进行查询评估的成本。这种策略使得使用深度模型从大型集合中进行检索变得切实可行,而不是将其使用限制在后期重新排名。
2019-07-08 cs.IR cs.LG