Keyword-driven Retrieval-Augmented Large Language Models for Cold-start User Recommendations
针对冷启动用户推荐问题,提出关键词驱动的检索增强大语言模型框架KALM4Rec,通过关键词检索候选和LLM重排序,在Yelp数据集上显著提升推荐质量。
2025-04-27 cs.IR
Element Retrieval using Namespace Based on keyword search over XML Documents
使用关键字搜索来查询XML元素正逐渐流行起来。传统的相似性度量被广泛应用于各种XML文档的检索。许多作者已经提出了利用XML文档的结构和内容的不同的相似性度量方法。然而,它们没有考虑元素文本的潜在语义信息和查询中的关键字之间的相似性。XML元素搜索算法很多,但由于搜索的元素数量庞大,有的算法存在很高的计算复杂性。在本文中,我们提出了一个新的算法,利用元素之间的语义相似性,而不是整个XML文档之间,考虑不仅是XML文档的结构和内容,但元素中的名称空间的语义信息。通过在真实数据集上的测试,我们将我们的算法与其他三种算法进行了比较。实验结果表明,该方法能够提高查询的准确率,并减少运行时间。
2010-12-17 cs.IR
The Effectiveness of Graph Contrastive Learning on Mathematical Information Retrieval
本文实证研究了图对比学习在数学公式表示生成中的效果,证明其性能持续优于领先模型 TangentCFT,并公开了源代码以支持后续研究。
2024-02-21 cs.IR
Multi-view Semantic Matching of Question retrieval using Fine-grained Semantic Representations
问题检索作为问答系统的一项关键任务,受到了学术界和工业界的广泛关注。以前的解决方案主要集中在翻译模型、主题模型和深度学习技术上。与以前的解决方案不同,我们建议通过分配给每个关键字的学习重要性得分来构建问题的细粒度语义表示,以便我们可以使用这些不同长度的语义表示来实现细粒度问题匹配解决方案。因此,我们提出了一个多视图语义匹配模型,重用的重要关键字在多个语义表示。作为构建细粒度语义表示的关键,我们首次使用跨任务弱监督提取模型,该模型应用问题-问题标记信号来监督关键字提取过程(即学习关键字重要性)。该抽取模型将深度语义表示和词汇匹配信息与统计特征相结合来估计关键词的重要性。我们在三个公共数据集上进行了大量的实验,实验结果表明,我们提出的模型显着优于最先进的解决方案。
2023-02-16 cs.IR
Dealing with Typos for BERT-based Passage Retrieval and Ranking
段落检索和排序是开放域问答和信息检索中的一项关键任务。目前有效的方法主要依赖于预先训练的基于深度语言模型的检索器和排序器。这些方法已被证明有效地建模查询和段落之间的语义匹配,也存在关键字不匹配,即段落,相关的查询,但不包含重要的查询关键字。在本文中,我们考虑密集检索器(DR),一个通道检索方法,和BERT重新排序,一个流行的通道重新排序方法。在这种情况下,我们正式研究这些模型如何响应和适应特定类型的关键字不匹配-由查询中发生的关键字错别字引起的。通过实证研究,我们发现错别字会导致检索和排名效率的显著下降。然后,我们提出了一个简单的类型感知培训框架的DR和BERT重新排名,以解决这个问题。我们在MS MARCO通道排名数据集上的实验结果表明,通过我们提出的打字感知训练,DR和BERT重新排名器可以对查询中的打字错误变得鲁棒,从而与没有适当考虑打字错误的模型相比,显着提高了有效性。
2021-09-13 cs.IR
Beyond Keywords and Relevance: A Personalized Ad Retrieval Framework in E-Commerce Sponsored Search
在大多数赞助搜索平台上,广告商对其广告(广告)的某些关键字进行出价。给定搜索请求,广告检索模块将查询重写为竞价关键词,并以竞价关键词为关键词通过倒排索引选择TopN广告。以这种方式,当广告商不对相应的关键字出价时,即使查询是相关的,也不会检索到广告。此外,大多数广告检索方法将重写和广告选择视为两个独立的任务,并专注于提高搜索查询和广告之间的相关性。近年来,在电子商业赞助搜索中引入了越来越多的个性化信息,如用户简档、长时间和实时点击等。个性化信息使得广告检索能够采用更多的元素(例如实时点击)作为搜索信号和检索关键字,然而它使得广告检索更难以测量通过不同信号检索的广告。为了解决这些问题,我们提出了一个新的广告检索框架,超越关键字和相关性在电子商业赞助搜索。首先,我们使用历史广告点击数据初始化一个分层网络表示的信号,键和广告,其中个性化信息的介绍。然后,我们训练一个模型的层次网络的顶部,通过学习边的权重。最后,我们根据模型选择最好的边缘,提高RPM/CTR。在我们的电子商业平台上的实验结果表明,我们的广告检索框架取得了良好的性能。
2018-04-23 cs.IR stat.ML
Retrieval-efficiency trade-off of Unsupervised Keyword Extraction
本文提出一种无监督关键词提取方法,通过顺序合并文档部分并利用个性化PageRank,在保持最先进检索性能的同时,速度比现有方法快两个数量级,并能在不到一分钟内处理1400万篇文档。
2022-08-15 cs.IR
Pre-train a Discriminative Text Encoder for Dense Retrieval via Contrastive Span Prediction
稠密检索在许多信息检索(IR)相关任务中显示出了良好的效果,其基础是高质量的文本表示学习以实现有效的检索。最近的一些研究表明,基于自动编码器的语言模型能够使用弱解码器来提高稠密检索的性能。然而,我们认为,1)它是没有歧视性的解码所有的输入文本,2)即使是一个弱的解码器有旁路效应的编码器。因此,在这项工作中,我们引入了一种新的对比跨度预测任务来单独预训练编码器,但仍然保留了自动编码器的瓶颈能力。因此,在这项工作中,我们建议放弃解码器,并引入一种新的对比跨度预测任务来单独预训练编码器。其关键思想是迫使编码器生成的文本表示接近自己的随机跨度,而远离其他使用组明智的对比损失。通过这种方式,我们可以1)通过跨跨度的分组对比学习来有效地学习有区别的文本表示,2)彻底避免解码器的旁路效应。在公开的检索基准数据集上的综合实验表明,该方法在稠密检索中的性能明显优于现有的预训练方法。
2022-04-22 cs.IR
DOGR: Leveraging Document-Oriented Contrastive Learning in Generative Retrieval
针对生成式检索无法直接表示查询与文档相关性的问题,本文提出DOGR框架,通过面向文档的对比学习和两阶段策略增强语义表示学习,在两个基准数据集上取得SOTA性能且对常见标识符构建技术通用有效。
2025-02-12 cs.IR
More Robust Dense Retrieval with Contrastive Dual Learning
稠密检索在嵌入空间进行文本检索,与稀疏检索相比具有许多优点。现有的密集检索器通过对比训练优化查询和文档的表示,并将其映射到嵌入空间。通过对齐匹配的查询-文档对并将否定文档推离查询来优化嵌入空间。然而,在这样的训练范例中,查询仅被优化为与文档对齐并且被粗略地定位,从而导致各向异性的查询嵌入空间。在本文中,我们分析了嵌入空间分布,并提出了一个有效的训练范式,对比对偶学习近似最近邻(DANCE)学习细粒度的查询表示稠密检索。DANCE结合了一个额外的双重训练对象的查询检索,灵感来自经典的信息检索训练公理,查询可能性。通过对比学习,DANCE的双训练对象学习查询和文档的更定制的表示,以保持嵌入空间的平滑和均匀,在MS MARCO文档检索任务上的DANCE排名性能上蓬勃发展。与仅对文档检索任务进行优化的ANCE不同,DANCE将查询嵌入集中在更接近文档表示的位置,同时使文档分布更具区分性。这种集中的查询嵌入分布为查询分配了更均匀的负采样概率,并有助于充分优化查询检索任务中的查询表示。我们的代码在https://github.com/thunlp/DANCE上发布。
2021-07-16 cs.IR
Query Generation for Patent Retrieval with Keyword Extraction based on Syntactic Features
Amsterdam Business School, University of Amsterdam(阿姆斯特丹大学阿姆斯特丹商学院);European Patent Office(欧洲专利局);Institute of Informatics, University of Amsterdam(阿姆斯特丹大学信息学院)
本文介绍了一种从专利权利要求中提取相关关键词的新方法,作为检索具有类似权利要求的其他专利(检索现有技术)任务的一部分。该方法结合了定性分析的写作风格的权利要求与自然语言处理方法来解析文本,以表示一个法律文本作为一个专业化的术语树状结构。在这种情况下,提取的关键字集合产生的搜索结果比使用传统方法(如tf-idf)提取的关键字更好。性能是在由提取的关键字组成的查询的搜索结果上测量的。
2019-06-18 cs.CL cs.IR
Adapting General-Purpose Embedding Models to Private Datasets Using Keyword-based Retrieval
针对通用文本嵌入模型在含专业术语的私有数据集上效果下降的问题,提出利用BM25关键词检索排序构建监督信号的BMEmbed方法,可跨领域持续提升检索性能并已开源。
2025-05-31 cs.CL cs.IR
Modernizing Facebook Scoped Search: Keyword and Embedding Hybrid Retrieval with LLM Evaluation
Meta
本文提出一种现代化Facebook Group Scoped Search框架,通过融合关键词与嵌入检索(EBR)提升搜索相关性与多样性,并引入基于LLM的离线评估框架,经在线指标验证显著提升了用户参与度和搜索质量。
2025-09-17 cs.AI cs.IR
Keyword Extraction for Improved Document Retrieval in Conversational Search
University of Amsterdam(阿姆斯特丹大学)
最近的研究表明,基于用户和计算机之间的交互来澄清和改进查询的混合主动会话搜索提供了巨大的优势。尽管如此,合并用户从对话中提供的附加信息提出了一些挑战。事实上,进一步的交互可能会使系统感到困惑,因为用户可能会使用与信息需求无关的词语,但在多轮对话的背景下,这些词语对于正确的句子构建至关重要。为此,在本文中,我们收集了两个会话关键字提取数据集,并提出了一个端到端的文档检索管道,将它们结合起来。此外,我们研究了两个神经关键词提取模型,即BERT和序列到序列,在提取精度和人类注释方面的性能。最后,我们研究了关键词提取对端到端神经IR性能的影响,并表明我们的方法击败了最先进的IR模型。我们公开这两个数据集,以促进这一领域的研究。
2021-09-22 cs.CL cs.IR
Contrastive Learning for Cross-modal Artist Retrieval
本文提出基于对比学习的跨模态嵌入组合方法,在艺术家检索任务中提升准确率与覆盖率,对冷门艺术家和缺失模态数据更鲁棒。
2023-08-12 cs.IR
Keyword Augmented Retrieval: Novel framework for Information Retrieval integrated with speech interface
本文提出关键词增强检索框架,用小模型生成并匹配关键词以快速定位文档上下文,再由大模型基于定制提示作答,从而降低推理时间与成本,并集成语音接口实现无缝交互。
2023-10-29 cs.AI cs.CL cs.HC
Conventional Contrastive Learning Often Falls Short: Improving Dense Retrieval with Cross-Encoder Listwise Distillation and Synthetic Data
针对传统对比学习微调在稠密检索中效果不佳的问题,提出交叉编码器列表式蒸馏与多样化合成查询数据的方法,显著提升多数据集检索效果,并达到BERT嵌入模型最先进水平。
2025-05-25 cs.IR
QueStER: Query Specification for Generative keyword-based Retrieval
MILA – Quebec AI Institute & ILLS(魁北克人工智能研究所);Université Paris-Saclay & CentraleSupélec & CNRS(巴黎-萨克雷大学);Air Liquide(Air Liquide公司);Sorbonne Université & ISIR & CNRS(索邦大学)
QueStER通过生成显式的关键词检索规范,结合生成式查询重写和传统检索的效率,提升跨领域检索性能。
2026-01-21 cs.CL cs.IR cs.LG
A Contrastive Pre-training Approach to Learn Discriminative Autoencoder for Dense Retrieval
在信息检索中,稠密检索(DR)已经显示出很好的效果。从本质上讲,DR需要高质量的文本表示来支持表示空间中的有效搜索。最近的研究表明,预训练的基于自动编码器的语言模型与弱解码器可以提供高质量的文本表示,提高DR模型的有效性和Few-Shot能力。然而,即使是弱自回归解码器也会对编码器产生旁路效应。更重要的是,学习表征的辨别能力可能是有限的,因为每个标记在解码输入文本时被同等重要地对待。为了解决上述问题,在本文中,我们提出了一种对比预训练方法来学习一个轻量级的多层感知(MLP)解码器的判别式自动编码器。其基本思想是以非自回归的方式生成输入文本的词分布,并将一个文本的两个掩蔽版本的词分布拉近,同时远离其他版本。我们从理论上证明,我们的对比策略可以抑制常见的词和突出的代表词在解码,导致歧视性的代表。实验结果表明,我们的方法可以显着优于最先进的自动编码器为基础的语言模型和其他预训练模型的稠密检索。
2022-08-21 cs.IR
An end-to-end Generative Retrieval Method for Sponsored Search Engine --Decoding Efficiently into a Closed Target Domain
本文提出了一种面向赞助式搜索引擎的生成式检索方法,该方法利用神经机器翻译(NMT)直接从查询中生成关键词。这种方法是完全端到端的,它跳过了传统检索系统中的查询重写和相关性判断阶段。与标准的机器翻译不同,检索环境中的目标空间是一个受约束的闭集,其中只应生成提交的关键字。我们提出了一个基于Trie树的修剪技术在束搜索,以解决这个问题。将此方法部署到实际工业环境中的最大挑战是运行解码器的延迟影响。自规范化训练与基于Trie的动态修剪相结合,大大减少了推理时间,加速了20倍以上。我们还设计了一个混合的在线-离线服务架构,以减少延迟和CPU消耗。为了鼓励NMT生成现有系统未发现的新关键字,仔细选择训练数据。该模型已成功应用于百度商业搜索引擎中作为辅助检索分支,为百度带来了10倍以上的收益提升。
2019-03-18 cs.IR
AVATAR: Robust Voice Search Engine Leveraging Autoregressive Document Retrieval and Contrastive Learning
本文提出AVATAR,利用自回归文档检索与对比学习,通过数据增强和显隐式噪声建模,提升语音搜索在ASR噪声下的鲁棒性,并在ODSQA上验证了其优于强基线的性能。
2023-09-04 cs.IR
Towards Semi-Automatically Comparing Keyword-Based and Semantic Search Accuracy
Technical University of Munich(慕尼黑工业大学);Gofore GmbH(Gofore有限公司);University of Stuttgart(斯图加特大学)
针对关键词与语义搜索缺乏定量比较的问题,提出半自动框架,通过等价类评估排序准确性与信息完整性,并经工业案例验证语义搜索优势。
2026-09-30 cs.IR
Text-Video Retrieval With Global-Local Contrastive Consistency Learning
Ningbo Artificial Intelligence Institute(宁波人工智能研究院);Shanghai Jiao Tong University(上海交通大学)
本文提出了一种简单有效的全局-局部对比一致性学习方法,用于实现文本和视频语义对齐,通过设计参数-free的全局-局部交互模块和对比分数一致性损失,提升文本-视频检索的性能。
2026-05-18 cs.IR
Approaches, Challenges and Future Direction of Image Retrieval
本文试图讨论检索方法的演变,重点是图像检索的发展,面临的挑战和未来的发展方向。它突出了已经处理的和悬而未决的问题。图像数据的爆炸式增长导致了图像检索技术的研究和发展。然而,图像检索的研究正在从关键字,低层次的特征和语义特征。语义特征的驱动是由于关键字的问题,这可能是非常主观和耗时的,而低级别的功能不能总是描述高级别的概念,在用户的头脑。因此,在图像描述符和高级语义之间引入了被称为语义间隙的解释不一致性。本文还讨论了语义鸿沟问题,用户查询机制,以及常用的方法来弥补差距的图像检索。
2010-06-23 cs.IR
Keyword search is all you need: Achieving RAG-Level Performance without vector databases using agentic tool use
本文提出无需向量数据库,通过代理工具使用实现接近RAG的性能,展示了关键词搜索在问答任务中的有效性。
2025-12-19 cs.AI cs.IR
Semantic Search by Latent Ontological Features
命名实体和关键字在定义它们出现的文本内容时都很重要。特别地,人们经常在信息搜索中使用命名实体。然而,命名实体具有本体特征,即它们的别名、类和标识符,这些特征从它们的文本外观中隐藏。我们提出了基于本体的扩展传统的向量空间模型,探索不同的组合,这些潜在的本体特征与关键字的文本检索。我们在基准数据集上的实验表明,与纯粹基于关键字的模型相比,所提出的模型具有更好的搜索质量,并且它们在文本检索和文档和查询表示方面都具有优势。
2018-07-15 cs.IR
Unsupervised Large Language Model Alignment for Information Retrieval via Contrastive Feedback
针对LLMs在信息检索中生成响应过于通用难以区分相似文档的问题,提出无监督对齐方法RLCF,通过相似文档组构建对比反馈信号并在PPO中优化模型,显著提升了响应的独特性与检索性能。
2024-03-26 cs.IR
BioHiCL: Hierarchical Multi-Label Contrastive Learning for Biomedical Retrieval with MeSH Labels
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
BioHiCL通过层次化MeSH标注实现多标签对比学习,提升生物医学信息检索的语义和层次理解能力,在检索、句子相似性和问答任务中表现优异且计算效率高。
2026-07-30 cs.AI cs.IR
BiLingual Information Retrieval System for English and Tamil
本文论述了基于FERMAL领域的双语信息检索系统的设计与实现。建立了一个通用的双语信息检索平台,它可以扩展到任何外语或印度语的工作效率相同。搜索查询的解决方案不是用特定的预定义标准语言集来完成的,而是在处理用户的查询时动态选择的。本文论述的是除英语外的印度语泰米尔语。该任务是检索的解决方案,为用户给定的查询,在相同的语言作为查询。在这个过程中,一个本体树是建立在这样一种方式,有在上面列出的两种语言在树的每个节点的条目的领域。词性(POS)标记器用于从给定查询中确定关键字。基于上下文,使用本体树将关键字翻译成适当的语言。执行搜索并基于关键字检索文档。利用本体树进行信息抽取。最后,将查询的解决方案翻译回查询语言(如果需要)并提供给用户。
2010-04-26 cs.IR
Concept-based indexing in text information retrieval
Mouloud Mammeri University of Tizi-Ouzou(穆卢德·马姆里蒂齐乌祖大学)
传统的信息检索系统依赖于关键字来索引文档和查询。在这样的系统中,基于与查询共享的关键字的数量来检索文档。当使用不同的关键字来描述文档和查询时,这种以词汇为中心的检索会导致不准确和不完整的结果。以语义为中心的检索方法试图通过依赖于概念而不是关键字来索引和检索来克服这个问题。目标是检索与给定用户查询语义相关的文档。本文针对这一问题提出了一个解决方案,在索引级。更确切地说,我们提出了一种新的方法,语义索引的基础上确定的概念,从语言资源。特别是,我们的方法依赖于WordNet和WordNetDomains词汇数据库的概念识别的联合使用。此外,我们提出了一个基于语义的概念加权方案,依赖于一个新的概念中心的定义。在TIME测试集合上评估生成的系统。实验结果表明,我们的命题比传统的IR方法的有效性。
2013-03-07 cs.CL cs.IR
Efficient Document Retrieval by End-to-End Refining and Quantizing BERT Embedding with Contrastive Product Quantization
高效的文档检索在很大程度上依赖于语义哈希技术,该技术为每个文档学习一个二进制代码,并使用汉明距离来评估文档距离。然而,现有的语义散列方法大多是建立在过时的TFIDF特征上,这些特征显然不包含大量关于文档的重要语义信息。此外,汉明距离只能等于几个整数值之一,大大限制了它对文档距离的表示能力。为了解决这些问题,在本文中,我们建议利用BERT嵌入进行有效的检索的基础上的产品量化技术,这将分配给每个文档的代码簿的实值码字,而不是一个二进制代码的语义哈希。具体来说,我们首先通过可学习的映射变换原始BERT嵌入,并将变换后的嵌入馈送到概率乘积量化模块中以输出分配的码字。可以通过最小化概率对比损失来以端到端的方式优化细化和量化模块。进一步提出了一种基于互信息最大化的方法来提高码字的代表性,从而使文档的量化更加精确。在三个基准上进行的大量实验表明,我们提出的方法显着优于当前最先进的基线。
2022-10-31 cs.IR
Doc2Query++: Topic-Coverage based Document Expansion and its Application to Dense Retrieval via Dual-Index Fusion
提出Doc2Query++框架,通过无监督主题建模和混合关键词选择结构化LLM查询生成,并采用双索引融合策略隔离噪声,显著提升稀疏与稠密检索性能。
2025-10-13 cs.IR
ECLIPSE: Contrastive Dimension Importance Estimation with Pseudo-Irrelevance Feedback for Dense Retrieval
提出 ECLIPSE 方法,利用不相关文档质心估计相关文档噪声维度,在多个基准上显著提升稠密检索性能。
2024-12-19 cs.IR
Graph Contrastive Learning with Multi-Objective for Personalized Product Retrieval in Taobao Search
本文提出多目标图对比学习模型GCL-MO,通过商品同构图和改进对比损失同时优化个性化与相关性,提升长尾商品表示,并在淘宝搜索中取得显著在线收益。
2023-07-10 cs.IR
Contrastive Retrieval Heads for Improved Attention-Based Reranking
Rensselaer Polytechnic Institute(伦斯勒理工学院);IBM Research(IBM研究院)
通过对比评分度量筛选出的CoRe头提升了基于注意力的重排序性能,显著提高准确性并减少计算资源消耗
2026-10-30 cs.IR
Mistral-SPLADE: LLMs for better Learned Sparse Retrieval
Indian Institute of Technology Bombay(印度孟买理工学院);IBM Research(IBM研究院)
本文提出使用仅解码器大语言模型Mistral作为骨干网络构建学习型稀疏检索器Mistral-SPLADE,以学习语义关键词扩展。实验表明,该模型超越了SPLADE及其变体,在BEIR基准上达到最先进水平。
2024-08-22 cs.CL cs.IR
Normalized Contrastive Learning for Text-Video Retrieval
Columbia University(哥伦比亚大学);Meta
跨模态对比学习以其简单有效的特点引领了多模态检索的发展。然而,在这项工作中,我们发现,跨模态对比学习遭受不正确的归一化的总和检索概率的每个文本或视频实例。具体来说,我们发现,许多测试实例是过度或不足的代表在检索过程中,显着损害检索性能。为了解决这个问题,我们提出了归一化对比学习(NCL),它利用Sinkhorn-Knopp算法来计算实例偏差,这些偏差适当地归一化每个实例的总检索概率,以便在跨模态检索期间公平地表示每个文本和视频实例。实证研究表明,NCL在不同模型架构上的文本视频检索中带来了一致和显著的收益,在ActivityNet,MSVD和MSR-VTT数据集上具有新的最先进的多模态检索指标,而无需任何架构工程。
2022-11-30 cs.CV cs.IR cs.LG
Implementation of an efficient Fuzzy Logic based Information Retrieval System
本文介绍了一个利用模糊逻辑计算数据集和查询之间相似度的高效信息检索系统的实现。TREC数据集也被用于同样的目的。数据集被解析以生成关键字索引,该索引用于与用户查询的相似性比较。每个查询都根据其与索引关键字的模糊相似性分配一个得分值。基于得分值检索相关文档。使用精确-召回曲线将所提出的模糊相似性模型的性能和准确性与余弦相似性模型进行了比较。实验结果证明了基于模糊相似度的信息检索系统的优越性。
2015-03-13 cs.IR
Generative Retrieval with Semantic Tree-Structured Item Identifiers via Contrastive Learning
本文提出 SEATER 生成式检索框架,利用对比学习优化平衡 k 叉语义树状物品标识符,在公开与工业数据集上显著提升大规模推荐检索的效果和效率。
2024-07-07 cs.IR
Unsupervised dense retrieval with conterfactual contrastive learning
本文提出基于博弈论与无监督反事实学习的正则化方法,通过增强稠密检索模型对细粒度相关性信号的敏感性,在无需段落级标注的情况下提升模型可解释性与抗对抗攻击鲁棒性。
2024-12-30 cs.IR
C3: Continued Pretraining with Contrastive Weak Supervision for Cross Language Ad-Hoc Retrieval
Johns Hopkins University(约翰斯·霍普金斯大学);University of Maryland(马里兰大学);Emory University(埃默里大学);University of Pennsylvania(宾夕法尼亚大学)
预训练的语言模型提高了许多任务的效率,包括ad-hoc检索。最近的工作表明,在微调检索任务之前,继续用辅助目标预训练语言模型可以进一步提高检索效率。与单语检索不同,为跨语言映射设计适当的辅助任务是具有挑战性的。为了应对这一挑战,我们使用不同语言的维基百科文章来进一步预训练现成的多语言预训练模型,然后再对检索任务进行微调。我们表明,我们的方法产生的检索效果的改善。
2022-04-25 cs.CL cs.IR
Beyond One-Shot Expansion: Contrastive Evidence Exploration for Multi-Hop Retrieval
Chung-Ang University(中央大学)
提出免训练多跳检索框架,通过证据条件探索、对比精炼和覆盖感知排序,提升多跳问答的检索质量与下游性能。
2026-09-09 cs.AI cs.IR
Structure-Preserving Graph Contrastive Learning for Mathematical Information Retrieval
National Central University(中央大学)
本文提出一种保留数学公式结构的图对比学习方法,通过变量替换提升数学信息检索性能。
2026-03-09 cs.DL cs.IR
Efficient fine-tuning methodology of text embedding models for information retrieval: contrastive learning penalty (clp)
Kangwon National University(江原大学)
本研究提出一种涵盖数据选择、损失函数和模型架构的高效微调方法,并引入新颖的对比学习惩罚(CLP)函数克服现有对比学习局限,显著提升了文本嵌入模型在信息检索与文档检索任务中的性能。
2024-12-23 cs.AI cs.IR
Disentangled Contrastive Learning for Zero-Shot Multilingual Dense Retrieval
Beijing Jiaotong University(北京交通大学)
本文针对低资源语言检索数据稀缺问题,提出解耦对比学习方法,将多语言表示分离为语义与语言子空间,在mMARCO、MIRACL上的零样本多语言密集检索性能优于多个强基线。
2026-08-04 cs.CL cs.IR
Rethinking Sparse Lexical Representations for Image Retrieval in the Age of Rising Multi-Modal Large Language Models
Kioxia Corporation(铠侠公司)
本文利用支持视觉提示的多模态大语言模型提取图像特征并转换为文本,采用稀疏检索算法进行图像检索,结合数据增强扩展关键词,在多个数据集上取得了优于传统方法的准确率和召回率。
2024-08-29 cs.CV cs.IR
It Takes Two to Match: Co-Evolving Generative Retriever with Reinforcement Learning
University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校);Apple(苹果公司)
本文提出CoGR框架,通过两阶段训练与GRPO强化学习协同优化查询、项侧生成器,在多基准数据集上较最强基线F1值提升10.9%与36.1%,实现更优检索效果。
2026-09-02 cs.CL cs.IR
Semantic Retrieval Augmented Contrastive Learning for Sequential Recommendation
City University of Hong Kong(香港城市大学);Huazhong University of Science and Technology(华中科技大学);Tencent(腾讯);Shenzhen Technology University(深圳技术大学);Peking University(北京大学);Shenzhen University(深圳大学)
SRA-CL通过利用LLMs的语义能力生成高质量对比对,提升序列推荐模型的性能。
2025-12-22 cs.AI cs.IR
SamToNe: Improving Contrastive Loss for Dual Encoder Retrieval Models with Same Tower Negatives
Google Inc.(谷歌公司)
本文提出 SamToNe 对比损失,将同编码器塔中的查询或文档作为负样本,提升对称与非对称双编码器在多个检索基准上的表现,并从嵌入对齐和正则化角度解释其机理。
2023-06-05 cs.IR cs.LG
Approximate Nearest Neighbor Negative Contrastive Learning for Dense Text Retrieval
Microsoft(微软)
在一个稠密的学习表示空间中进行文本检索比稀疏检索有许多有趣的优点。然而,稠密检索(DR)的有效性往往需要结合稀疏检索。在本文中,我们确定主要的瓶颈是在训练机制,在训练中使用的负面实例是不代表测试中的不相关的文件。本文提出了近似最近邻负对比估计(ANCE),这是一种训练机制,它从语料库的近似最近邻(ANN)索引中构建否定,该索引随着学习过程的不断更新,以选择更真实的否定训练实例。这从根本上解决了DR训练和测试中使用的数据分布之间的差异。在我们的实验中,ANCE提升了BERT-Siamese DR模型,使其优于所有竞争密集和稀疏检索基线。它几乎与在ANCE学习的表示空间中使用点积的稀疏检索和BERT重新排序的准确性相匹配,并提供了近100倍的速度提升。
2020-10-20 cs.CL cs.IR cs.LG
A Generalized Vector Space Model for Ontology-Based Information Retrieval
命名实体(NE)是由名称(如人员,组织和位置)引用的对象。命名实体和关键字对文档的含义很重要。我们提出了一个广义向量空间模型,结合命名实体和关键字。在该模型中,我们考虑到命名实体的不同本体特征,即别名,类和标识符。此外,我们使用实体类来表示疑问词的潜在信息,在传统的基于关键字的搜索被忽视。我们已经在TREC数据集上实现并测试了所提出的模型,如本文所述。
2018-07-20 cs.CL cs.DB cs.IR
Discovering Latent Information By Spreading Activation Algorithm For Document Retrieval
句法搜索依赖于查询中包含的关键字来查找合适的文档。因此,不包含关键字但包含与查询相关的信息的文档不会被检索。扩散激活是一种通过利用关联网络或语义网络中节点之间的关系来发现查询中潜在信息的算法。然而,经典的扩散激活算法使用网络中节点的所有关系,这将向查询中添加不合适的信息。在本文中,我们提出了一种新的语义文本搜索方法,称为面向查询的约束扩散激活,只使用关系的查询内容,找到真正相关的信息。在一个基准数据集上的实验表明,在MAP度量方面,我们的搜索引擎比句法搜索和使用经典的约束扩散激活的搜索分别好18.9%和43.8%。关键词:信息检索、本体、语义搜索、扩散激活
2018-07-29 cs.AI cs.IR
Contrastive Quantization with Code Memory for Unsupervised Image Retrieval
Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学清华-深圳国际研究生院);Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳));Shenzhen University(深圳大学);Peng Cheng Laboratory(鹏城实验室)
散列(包括二进制散列和量化)在计算和存储方面的高效率使得它成为大规模检索系统中的常用策略。为了减轻对昂贵注释的依赖,无监督深度哈希成为一个重要的研究问题。本文提出了一种新的无监督深度量化解决方案,即具有代码记忆的对比量化(MeCoQ)。与现有的基于重构的策略不同,我们通过对比学习来学习无监督的二进制描述符,这可以更好地捕获有区别的视觉语义。此外,我们发现码字多样性正则化是关键,以防止对比学习为基础的量化模型退化。此外,我们引入了一种新的量化代码存储器模块,该模块比传统的特征存储器具有更低的特征漂移,从而提高了对比学习。在基准数据集上的大量实验表明,MeCoQ优于最先进的方法。代码和配置可在https://github.com/gimpong/AAAI22-MeCoQ上公开获取。
2022-03-08 cs.AI cs.CV cs.IR
Language-Based Audio Retrieval with Converging Tied Layers and Contrastive Loss
ST Engineering Mission Software & Services Pte. Ltd(ST工程任务软件与服务私人有限公司)
在本文中,我们解决了DCASE 2022中提出的新的基于数据库的音频检索任务。首先,我们介绍了一个简单的,可扩展的架构,将音频和文本编码器联系在一起。其次,我们表明,使用这种架构以及对比损失允许模型显着击败基线模型的性能。最后,除了具有极低的训练内存要求外,我们还能够使用预训练的模型,而无需对它们进行微调。我们测试了我们的方法,并表明使用我们的方法的组合击败了基线分数显着。
2022-06-29 cs.CL cs.IR cs.SD