An Efficient Indexing and Searching Technique for Information Retrieval for Urdu Language
索引技术用于改进响应特定搜索条件的数据检索。倒排文件主要用于创建索引。本文提出了乌尔都语的索引技术。索引创建中的语言处理步骤因特定语言而异。我们将专门讨论乌尔都语的索引创建步骤。我们探索乌尔都语的形态规则,并实现这些规则来创建乌尔都语词干。我们实现我们提出的技术与不同的实现和比较结果。我们建议,索引应创建没有停止字,索引文件也应该是一个顺序索引文件。
2021-02-28 cs.IR
On the Impact of Random Index-Partitioning on Index Compression
处理搜索查询的性能在很大程度上取决于存储的索引大小。因此,大量的研究工作致力于开发用于倒排索引的有效压缩技术。粗略地说,索引压缩依赖于两个因素:索引文档的排序,它努力将相似的文档定位在邻近的位置,以及从有序的文档流中产生的倒排列表的编码。大型商业搜索引擎索引了不断增长的Web中的数百亿个页面。它们的索引的庞大规模决定了文档在数千台服务器中的分布,这种方案称为本地索引分区,这样每个服务器只索引数百万页。出于工程和运行时性能的考虑,文档随机分发到服务器是很常见的。然而,在许多服务器之间的随机索引分区会对索引大小产生不利影响,因为它会降低文档排序方案的有效性。我们研究了随机索引分区对文档排序方案的影响。我们发现,索引分区减少了聚合的倒排列表的大小与服务器的数量,当每个服务器内的文档随机重新排序。另一方面,聚合分区索引的大小随服务器数量的增加而增加,当应用最先进的文档排序方案,如词法URL排序和TSP聚类时。最后,我们证明了随机分发文件到服务器的常见做法,因为我们定性地表明,尽管其不良影响,随后的压缩,它减少了一个数量级的分区技术,压缩更好的分布式查询评估时间的关键因素。
2011-07-28 cs.IR
Joint Learning of Deep Retrieval Model and Product Quantization based Embedding Index
嵌入索引可以实现快速近似最近邻(ANN)搜索,是最先进的深度检索系统不可或缺的组成部分。传统的方法通常将嵌入学习和索引构建这两个步骤分开,这会导致额外的索引时间和衰退的检索准确性。在本文中,我们提出了一种名为Poeem的新方法,该方法代表基于产品量化的嵌入索引与深度检索模型联合训练,通过利用包括梯度直通估计器,热启动策略,最佳空间分解和Givens旋转在内的一些技术,将两个单独的步骤统一在端到端训练中。大量的实验结果表明,该方法不仅提高了检索精度显着,但也减少了索引时间几乎为零。为了比较和可重复性,我们已经开放了我们的方法。
2021-05-28 cs.IR
CoRECT: A Framework for Evaluating Embedding Compression Techniques at Scale
University of Passau(帕绍大学);Interdisciplinary Transformation University Austria(奥地利跨学科转型大学)
CoRECT框架通过大规模评估和新数据集,展示非学习压缩在减少索引大小的同时保持性能,为压缩方法的选择提供一致比较依据。
2026-01-15 cs.IR
MAGIC: Marginal-Guided Compression with Optimal Transport for Efficient Visual Document Retrieval
The Hong Kong Polytechnic University(香港理工大学);Southern University of Science and Technology(南方科技大学)
针对视觉文档检索中多向量嵌入存储和评分开销大的问题,提出基于最优传输的边缘引导压缩方法MAGIC,无需训练即可高效压缩,在ViDoRe基准上优于现有事后压缩器。
2026-09-21 cs.CV cs.IR
CANOPY: Adaptive-Granularity Evidence Compression for Multimodal RAG
GSAI, POSTECH(全球人工智能研究所,浦项科技大学);CSE, POSTECH(计算机科学系,浦项科技大学)
CANOPY通过层级表示和节点编码器评分实现多模态RAG的自适应粒度证据压缩,并利用评论器触发后续检索,在五个QA基准上提升准确率并减少14.2%-27.7%的输入token。
2026-10-02 cs.IR
Comparison Of Modified Dual Ternary Indexing And Multi-Key Hashing Algorithms For Music Information Retrieval
在这项工作中,我们已经比较了两个索引算法,已被用来索引和检索Carnatic音乐歌曲。本文将一种改进的双三元索引算法用于音乐索引和检索,并与我们提出的多键散列索引算法进行了比较。在双三元算法的修改是必不可少的,以处理可变长度的查询短语,并适应特定于卡纳蒂克音乐的功能。双三元索引算法适用于卡尔纳蒂克音乐分段使用的分段技术。将双三进制算法与我们设计的多键哈希算法进行了比较,该算法使用MFCC、谱通量、旋律串和谱质心等特征将数据索引到一个哈希表中。此哈希表处理冲突解决的方式与普通哈希表方法不同。结果表明,基于多关键字哈希的检索比基于双三进制的检索具有更小的时间复杂度,并对算法的查准率和查全率进行了比较,其中基于多关键字哈希的检索比基于双三进制的检索具有更好的查全率。
2010-07-29 cs.IR
The Potential of Learned Index Structures for Index Compression
倒排索引对于提供快速的基于关键字的搜索至关重要。对于文档集合中的每个术语,存储术语出现的文档的标识符列表,以及诸如术语频率和位置偏移的辅助信息。虽然倒排索引非常有效,但对于Web大小的集合,倒排索引需要大量的内存。最近,引入了学习索引结构的概念,其中机器学习模型取代了常见的索引结构,如B树索引,哈希索引和布隆过滤器。这些学习的索引结构需要更少的内存,并且在计算上比传统的索引结构快得多。在本文中,我们考虑这种模型是否可以适用于合取布尔查询。首先,我们研究了一个学习模型如何取代倒排索引的文档发布,然后评估这种方法可能会带来的影响。其次,我们评估潜在的收益,可以实现的内存要求。我们的工作表明,学习模型在倒排索引中具有很大的潜力,这一方向似乎是未来研究的一个有前途的领域。
2019-01-29 cs.IR
SEINE: SEgment-based Indexing for NEural information retrieval
提出基于片段的神经索引方法SEINE,通过片段级倒排索引存储查询-文档交互值,灵活支持多种基于交互的神经检索方法,在MQ2007和MQ2008数据集上实现最高28倍加速且不损失检索有效性。
2023-11-27 cs.IR
Fixed Block Compression Boosting in FM-Indexes
压缩的全文自索引占用的空间接近于压缩文本的空间,同时允许快速模式匹配和对基础文本的随机访问。在理论和实践中,最好的压缩自索引是FM索引家族的几个成员。在本文中,我们描述了新的FM索引变体,结合了良好的理论特性,简单的实现和改进的实际性能。我们的主要结果是一种称为固定块压缩增强的新技术,这是一种更简单,更快的替代最佳压缩增强和隐式压缩增强在以前的FM索引中使用。
2011-04-19 cs.DS cs.IR
A fast compression-based similarity measure with applications to content-based image retrieval
German Aerospace Center (DLR)(德国航空航天中心)
基于压缩的相似性度量可以有效地应用于各种数据类型的应用中,并且基本上没有参数。然而,在将这些技术应用于中型到大型数据集时存在很少解决的问题。本文提出了一种基于字典压缩的相似性度量,快速压缩距离(FCD),它降低了这些方法的复杂性,而不会降低性能。在此基础上定义了一个基于内容的彩色图像检索系统,它可以与基于不变颜色特征的最新方法相比较。通过FCD更好地理解基于压缩的技术,通过对比文献中迄今为止分析的数据集更大的数据集进行实验来实现。
2012-10-02 cs.IR cs.LG stat.ML
The Future is Sparse: Embedding Compression for Scalable Retrieval in Recommender Systems
Recombee(Recombee公司);Czech Technical University in Prague(捷克技术大学布拉格分校);Charles University Prague(布拉格查尔斯大学)
针对工业级推荐系统高基数实体密集嵌入存储访问的内存瓶颈,提出一种轻量级可学习嵌入压缩技术,将嵌入投影到高维稀疏激活空间,在保性能的同时降内存,为大规模推荐系统效率提升提供了可行思路并开源代码。
2025-05-16 cs.IR cs.LG
CodeHID: Learning an Addressable Hierarchical Code Index for Generative Code Retrieval
Ministry of Education of China, Xiamen University(厦门大学);Key Laboratory of Multimedia Trusted Perception and Efficient Computing(多媒体可信感知与高效计算教育部重点实验室)
CodeHID是一种生成式代码检索框架,通过伪邻居引导的文档ID学习与双阶段文档ID生成引导构建分层索引,在CoSQA和ProCQA基准上大幅优于现有检索方法
2026-08-26 cs.IR
Factorization-based Lossless Compression of Inverted Indices
许多需要排名前k检索的大型Web应用程序(例如Web搜索和在线广告)都是使用倒排索引实现的。倒排索引表示稀疏的术语-文档矩阵,其中非零元素指示术语-文档关联的强度。在这项工作中,我们提出了一种倒排索引的无损压缩的方法。我们的方法将文档语料库中的术语映射到一个新的术语空间,以减少术语-文档矩阵中非零元素的数量,从而产生更紧凑的倒排索引。我们制定的问题,选择一个新的术语空间,最大限度地减少所产生的索引大小作为一个矩阵分解问题,并证明,找到最佳的分解是一个NP-困难的问题。我们开发了一个贪心算法来寻找近似解。我们的方法的一个副作用是增加了索引中的术语数量,这可能会对查询评估性能产生负面影响。为了消除这种影响,我们开发了一种方法来修改查询评估算法,利用我们的压缩方法的特定属性。我们的实验评估表明,我们的方法实现了索引大小减少20%,同时保持相同的查询响应时间。可以实现高达35%的更高压缩率,但代价是查询响应时间稍长。此外,结合我们的方法与其他无损压缩技术,即可变字节编码,导致索引大小减少高达50%。
2011-08-09 cs.IR
Understanding Differential Search Index for Text Retrieval
本研究分析了差分搜索索引(DSI)在排他性、完整性和相关性排序方面的基本索引与检索能力,发现其区分相关文档的能力不足,并提出一种多任务蒸馏方法在不改变模型结构的前提下有效提升了检索质量。
2023-05-23 cs.IR
A Neural Corpus Indexer for Document Retrieval
当前的文档检索解决方案主要遵循索引检索范式,其中索引很难直接针对最终检索目标进行优化。在本文中,我们的目的是表明,一个端到端的深度神经网络统一的训练和索引阶段可以显着提高传统方法的召回性能。为此,我们提出了神经语料库索引器(NCI),一个序列到序列的网络,直接为指定的查询生成相关的文档标识符。为了优化NCI的召回性能,我们发明了一个前缀感知的权重自适应解码器架构,并利用定制的技术,包括查询生成,语义文档标识符,和基于一致性的正则化。实证研究证明了NCI在两个常用的学术基准上的优越性,与最佳基线方法相比,NQ 320 k数据集上的Recall@1和TriviaQA数据集上的R-Precision分别实现了+21.4%和+16.8%的相对增强。
2023-02-12 cs.IR
Compressible and Searchable: AI-native Multi-Modal Retrieval System with Learned Image Compression
Sensetime Research(商汤科技研究院)
本文提出融合 LIC 与 CLIP 的 AI 原生多模态检索框架,通过简单适配器兼顾图像压缩效率与语义搜索准确性,并在 Kodak 数据集上验证其优势。
2024-04-16 cs.AI cs.CV cs.IR
xRAG: Extreme Context Compression for Retrieval-augmented Generation with One Token
Peking University(北京大学);Microsoft(微软公司);National Key Laboratory of General Artificial Intelligence(通用人工智能国家重点实验室)
本研究提出xRAG检索增强生成上下文压缩方法,通过模态桥接器融合检索文档嵌入与语言模型空间,冻结检索器和大模型,实现极致压缩,在多项任务上性能提升超10%且FLOPs降低3.53倍。
2024-12-09 cs.AI cs.CL cs.IR
Do We Still Need Gazetteers in the Era of LLMs? Chaining Retrieval with a Spatial Neuro-Symbolic Index
RMIT University(皇家墨尔本理工大学)
本研究评估文本编码器能否作为空间语义索引,通过对比暴力最近邻与层次束搜索两种检索策略,发现无约束密集检索易出错,层次约束改善粗粒度定位但细粒度仍有限。
2026-10-07 cs.IR
PISCO: Pretty Simple Compression for Retrieval-Augmented Generation
NAVER LABS Europe(NAVER LABS欧洲)
PISCO是一种无需预训练或标注数据的文档压缩方法,通过序列级知识蒸馏在RAG问答任务中实现16倍压缩率且精度损失极小,比现有模型高8%。
2025-01-27 cs.AI cs.CL cs.IR
Rethinking Soft Compression in Retrieval-Augmented Generation: A Query-Conditioned Selector Perspective
Shanghai Key Laboratory of Data Science, College of Computer Science and Artificial Intelligence(上海数据科学 key 实验室,计算机科学与人工智能学院);Fudan University(复旦大学);Shanghai(上海);China(中国)
本文提出SeleCom框架,通过查询条件选择器改进RAG中的软压缩,提升信息密度并减少计算开销,实验显示其性能优于现有方法且效率更高。
2026-03-21 cs.AI cs.CL cs.IR
Semantic Arabic Information Retrieval Framework
信息发布量和存储量的不断增加,要求有专门的信息检索框架来准确、快速地检索和获取信息。目前,基于关键字的技术通常用于信息检索中。然而,关键词方法的一个主要缺点是它无法处理自然语言中的一词多义和同义现象。例如,不同社区对词语的含义和对概念的理解不同。同一个词用于不同的概念(一词多义)或使用不同的词用于同一个概念(同义)。大多数信息检索框架在处理词汇语义方面存在不足(索引、布尔模型、潜在语义分析(LSA)、潜在语义索引(LSI)和语义排序等)。传统的阿拉伯语信息检索(AIR)模型在处理语义查询时,不仅要处理关键字,还要处理这些关键字的上下文,因此性能不足。因此,需要一种具有语义索引结构和基于语义索引的排序算法的语义信息检索模型。
2015-12-10 cs.IR
TCRA-LLM: Token Compression Retrieval Augmented Large Language Model for Inference Cost Reduction
Meetyou AI Lab(美柚人工智能实验室);Xiamen Key Laboratory of Women’s Internet Health Management(厦门市女性互联网健康管理重点实验室);Osaka University(大阪大学);Agency for Science, Technology and Research (A*STAR)(新加坡科技研究局)
提出TCRA-LLM词元压缩方案,通过摘要压缩和语义压缩两种方法,有效降低检索增强LLMs的输入词元大小和推理成本,在Food-Recommendation DB数据集上实现65%的词元缩减且准确率提升0.3%,或20%缩减仅损失1.6%准确率。
2023-10-25 cs.CL cs.IR
MedGraph: An experimental semantic information retrieval method using knowledge graph embedding for the biomedical citations indexed in PubMed
本文研究了生物医学数字图书馆中的语义搜索问题。首先,我们介绍MedGraph,一个知识图谱嵌入为基础的方法,提供语义相关性检索和排名的生物医学文献索引在PubMed。其次,我们使用PubMed的最佳匹配算法评估我们的方法。此外,我们比较我们的方法MedGraph传统的TFIDF算法。我们使用从PubMed中提取的数据集,包括3000万篇文章的元数据,如摘要,作者信息,引用信息和提取的生物实体提及。我们通过拉取数据集的一个子集来使用预定义的查询和真实排名结果来评估MedGraph。据我们所知,这种技术在生物医学信息检索中还没有被探索过。此外,我们的研究结果提供的证据表明,语义的方法来搜索和相关性的生物医学数字图书馆,依赖于知识图谱建模提供更好的搜索相关性的结果相比,传统的方法在客观的指标。
2021-12-14 cs.IR
Spatial Matryoshka Training for Multi-Granularity Visual Document Retrieval
IBM(国际商业机器公司)
针对视觉文档检索的多模态晚期交互检索器存储成本高、压缩级别固定的问题,提出ColSNAP训练方法,可生成嵌套压缩层级,实现灵活的精度-存储权衡,大幅压缩下仍保持检索性能并可迁移至多类骨干网络。
2026-09-01 cs.AI cs.IR
The least-used key selection method for information retrieval in large-scale Cloud-based service repositories
随着连接到物联网(IoT)的设备数量的显著增加,需要在大规模基于云的服务存储库中处理和存储的服务数量呈指数级增长。高效的服务索引模型对于大规模基于云的服务存储库的服务检索和管理至关重要。多级索引模型是近年来发展起来的一种服务索引模型,用于提高服务的发现和组合。针对服务检索请求参数和服务输入参数出现概率不相等对服务检索和服务添加操作的影响,对模型进行优化。为了缩小服务检索的搜索范围,减少检索时间,提出了最少使用键的选择方法。实验结果表明,在三种索引模型下服务检索请求中参数出现概率不相等的情况下,与指定键选择方法相比,提出的最少使用键选择方法显着提高了服务检索效率。
2022-08-16 cs.IR
When Index Term Probability Violates the Classical Probability Axioms Quantum Probability can be a Necessary Theory for Information Retrieval
概率模型需要事件空间的概念来定义概率度量。一个事件空间有一个概率测度,它支持柯尔莫哥洛夫公理。然而,从不同来源观察到的概率,例如文档的相关性,可能不允许单个事件空间,从而导致一些问题。本文介绍了一些结果,以确保所观察到的概率的相关性的文件是否承认一个单一的事件空间。此外,本文还引入了另一种概率框架,从而挑战了经典概率在文档排序中的应用。一些思考的便利性扩展的经典probabilistic- tic检索到一个更一般的框架,其中包括的问题。
2012-03-12 cs.IR
Familiarity-Aware Evidence Compression for Retrieval-Augmented Generation
University of California, Davis(加州大学戴维斯分校);University of Southern California(南加州大学);Arizona State University(亚利桑那州立大学)
针对RAG中检索证据不一致、不相关且对目标模型陌生的问题,本文提出免训练的FaviComp,通过熟悉度感知压缩并融合参数化知识,在多个开放域QA数据集上最高提升准确率28.1%。
2025-10-17 cs.AI cs.CL cs.IR
Contextual Compression in Retrieval-Augmented Generation for Large Language Models: A Survey
IBM Watsonx
本文综述RAG中上下文压缩范式的发展,分析其解决上下文窗口、无关信息与处理开销问题的方法,并指出挑战与未来研发方向。
2024-10-02 cs.CL cs.IR
Bridging the Gap Between Indexing and Retrieval for Differentiable Search Index with Query Generation
The University of Queensland(昆士兰大学);Microsoft STCA(微软亚洲互联网工程院);Beihang University(北京航空航天大学);Simon Fraser University(西蒙弗雷泽大学)
本文提出 DSI-QG 框架,通过在索引阶段引入查询生成模型生成并筛选的相关查询来表示文档,从而缓解可微搜索索引中索引与检索之间的数据分布不匹配问题,并在单语和跨语言段落检索任务上显著优于原始 DSI 模型。
2023-07-07 cs.CL cs.IR
EXIT: Context-Aware Extractive Compression for Enhancing Retrieval-Augmented Generation
School of Computing(计算机学院);Graduate School of AI(人工智能研究生院);Korea Advanced Institute of Science and Technology(韩国科学技术院)
提出抽取式上下文压缩框架EXIT,通过保留上下文依赖的可并行化句子分类适应查询复杂度,在单跳和多跳QA任务中超越现有方法与未压缩基线,显著提升了RAG的准确率与效率。
2025-05-29 cs.AI cs.CL cs.IR
Self-Indexing Attention for Compression-Compatible Sparse Long-Context LLM Inference
Hunan University(湖南大学);Tencent(腾讯)
提出自索引注意力框架,利用共享变换域符号-幅度表示实现预填充与解码阶段的统一令牌检索,支持KV缓存压缩,在5%密度下接近密集注意力性能并显著加速。
2026-10-08 cs.CL cs.IR cs.LG
Self-Evolving Search Index
Yonsei University(延世大学);Samsung Research(三星研究院);University of California, Irvine(加州大学欧文分校);Korea University(高丽大学)
针对索引优化依赖人工的问题,提出SELF-INDEX框架,通过优化器自主诊断、修订并验证索引键,结合查询模拟器主动探索需求,实现索引自我进化,持续提升检索性能并惠及下游应用。
2026-09-18 cs.AI cs.IR
PRIME: Pre-Retrieval Index Modeling Enhancement for Structured Document Retrieval-Real
HKUST-GZ(香港科技大学(广州))
本文针对LLM智能体的外部知识库检索需求,提出PRIME索引优化框架,通过语义重构与元数据合成路径提升检索效率与Answer-F1,明确索引优化的适用场景且效果可被强重排序器抵消。
2026-10-12 cs.AI cs.IR
Semi-Parametric Retrieval via Binary Bag-of-Tokens Index
The Hong Kong University of Science and Technology(香港科技大学);Microsoft Research(微软研究院);The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))
提出半参数化解耦检索框架SiDR,通过将检索索引与神经参数解耦,支持嵌入与非参数化分词索引,在16个基准上以更低索引成本超越BM25及神经检索基线。
2025-03-06 cs.AI cs.CL cs.IR
Hierarchical Patch Compression for ColPali: Efficient Multi-Vector Document Retrieval with Dynamic Pruning and Quantization
FPT University Sun Asterisk(FPT大学Sun Asterisk)
本文提出HPC-ColPali框架,通过K-Means量化、注意力引导动态剪枝和可选二进制编码,在保持ColPali检索精度的同时显著降低存储、计算和查询延迟,并减少法律摘要中的幻觉率。
2025-07-02 cs.CV cs.IR
AdaMem: Adaptive Memory Token Allocation for Soft Compression in Retrieval-Augmented Generation
AdaMem提出相关性引导的软压缩框架,按查询相关性动态分配记忆令牌预算,在开放域QA基准上优于均匀分配基线,显著提升压缩效率与答案质量。
2026-09-22 cs.CL cs.IR cs.LG
SARA: Selective and Adaptive Retrieval-augmented Generation with Context Compression
Georgia Institute of Technology(佐治亚理工学院);Visa Research(Visa研究)
SARA通过结合自然语言片段与语义压缩向量,在紧凑上下文预算下平衡局部精度与全局覆盖,迭代重排序证据,显著提升RAG的答案相关性、正确性和语义相似性。
2025-07-08 cs.AI cs.CL cs.IR
Hypergraph Embedding Indexing for Efficient Dense Vector Retrieval
Sodhana(索达纳)
针对现有ANN索引将嵌入视为高维不可分割点的问题,提出超图嵌入索引(HEI)框架,通过多互补超图提升检索覆盖率,引入激活多样性作为诊断指标。
2026-08-25 cs.AI cs.IR
LIDER: An Efficient High-dimensional Learned Index for Large-scale Dense Passage Retrieval
最近的许多段落检索方法都使用从深度神经模型生成的密集嵌入,称为“密集段落检索”。最先进的端到端密集通道检索系统通常部署深度神经模型,然后是近似最近邻(ANN)搜索模块。该模型生成语料库和查询的嵌入,然后由高性能ANN模块进行索引和搜索。随着数据规模的不断增大,人工神经网络模块不可避免地成为效率的瓶颈。另一种方法是学习索引,它通过学习数据分布和预测目标数据位置来实现显着的高搜索效率。但现有的学习索引大多是针对低维数据设计的,不适合高维密集嵌入的密集通道检索。在本文中,我们提出了LIDER,一个有效的高维学习索引大规模的DENSE通道检索。LIDER有一个基于集群的分层体系结构,由两层核心模型组成。核心模型是LIDER索引和搜索数据的基本单元,包括自适应递归模型索引(RMI)和降维组件,降维组件由扩展的SortingKeys-LSH(SK-LSH)和键重缩放模块组成。降维组件将高维密集嵌入降维为一维键,并按特定顺序对它们进行排序,然后由RMI使用这些键进行快速预测。实验表明,LIDER具有更高的搜索速度和更高的检索质量相比,最先进的人工神经网络索引的段落检索任务,例如,在大规模数据上,它实现了1.2倍的搜索速度和比我们评估中的最快基线更高的检索质量。此外,LIDER具有更好的速度-质量权衡能力。
2022-10-10 cs.DB cs.IR
Region and Location Based Indexing and Retrieval of MR-T2 Brain Tumor Images
S J B Institute of Technology(S J B理工学院);B N M Institute of Technology(B N M理工学院)
在本文中,基于区域和基于位置的检索系统已实现检索的MR-T2轴向2-D脑图像。这是通过使用在整个图像上计算的合适阈值来提取和表征2-D脑切片的肿瘤部分来完成的。索引和检索,然后通过计算分割区域的灰度空间依赖矩阵的基础上的纹理特征。Hash结构用于索引所有图像。采用一种组合索引来指向所有纹理特征相似的图像。在查询时,仅比较与被查询图像的那些散列桶在同一散列桶中的那些图像的相似性,从而减少了搜索空间和时间。
2013-12-07 cs.CV cs.IR
Knowledge Compression via Question Generation: Enhancing Multihop Document Retrieval without Fine-tuning
Instituto Politécnico Nacional (IPN)(国家理工学院(IPN))
本研究提出基于问题生成的知识编码方法,无需微调即可增强RAG系统的多跳检索,结合句法重排序与paper-cards,在多项检索任务上性能显著优于基线,同时大幅降低存储与延迟。
2025-06-09 cs.AI cs.CL cs.IR
Structural Anchor Pruning: Training-Free Multi-Vector Compression for Visual Document Retrieval
Aalto University(阿alto大学)
本文提出结构锚点剪枝(SAP),一种无需训练的多向量压缩方法,通过保留评分、指导窗口选择和视觉入度中心性评分三个组件,在不进行模型参数调整的情况下,实现了超过90%的视觉token剪枝同时保持NDCG@5超过90%的性能。
2026-09-01 cs.CL cs.CV cs.IR
Concept-based indexing in text information retrieval
Mouloud Mammeri University of Tizi-Ouzou(穆卢德·马姆里蒂齐乌祖大学)
传统的信息检索系统依赖于关键字来索引文档和查询。在这样的系统中,基于与查询共享的关键字的数量来检索文档。当使用不同的关键字来描述文档和查询时,这种以词汇为中心的检索会导致不准确和不完整的结果。以语义为中心的检索方法试图通过依赖于概念而不是关键字来索引和检索来克服这个问题。目标是检索与给定用户查询语义相关的文档。本文针对这一问题提出了一个解决方案,在索引级。更确切地说,我们提出了一种新的方法,语义索引的基础上确定的概念,从语言资源。特别是,我们的方法依赖于WordNet和WordNetDomains词汇数据库的概念识别的联合使用。此外,我们提出了一个基于语义的概念加权方案,依赖于一个新的概念中心的定义。在TIME测试集合上评估生成的系统。实验结果表明,我们的命题比传统的IR方法的有效性。
2013-03-07 cs.CL cs.IR
Relative Lempel-Ziv Factorization for Efficient Storage and Retrieval of Web Collections
支持快速随机访问的压缩技术是任何信息系统的核心组成部分。当前最先进的方法将文档分组为固定大小的块,并使用通用自适应算法(如GZIP)压缩每个块。随机访问一个特定的文件,然后需要解压缩一个块。块大小的选择至关重要:它在压缩效率和文档检索时间之间进行权衡。在本文中,我们提出了一个可扩展的压缩方法,大型文档集合,允许快速随机访问。我们构建一个集合的代表性样本,并将其用作集合其余部分的LZ 77编码中的字典(相对于字典)。我们证明了大型集合,使用小到0.1%的集合大小的字典,我们的算法是显着快于以前的方法,并在一般情况下提供更好的压缩。
2011-12-09 cs.DB cs.DS cs.IR
RL-Index: Reinforcement Learning for Retrieval Index Reasoning
University of Oregon(俄勒冈大学);Adobe Research(Adobe研究)
提出RL-Index框架,将检索索引推理转化为强化学习问题,通过LLM生成理由增强文档,使用GRPO优化,提升检索和问答性能并降低在线延迟。
2026-08-17 cs.AI cs.IR cs.LG
The Curse of Dense Low-Dimensional Information Retrieval for Large Index Sizes
Technical University of Darmstadt(达姆施塔特工业大学);Ubiquitous Knowledge Processing Lab (UKP-TUDA)(泛在知识处理实验室(UKP-TUDA))
使用密集低维表示的信息检索最近变得流行,并显示出优于传统稀疏表示(如BM 25)的性能。然而,没有以前的工作研究如何密集表示执行大索引大小。我们从理论上和经验表明,密集表示的性能下降速度比稀疏表示增加索引大小。在极端情况下,这甚至可能导致一个临界点,在特定索引大小下,稀疏表示优于密集表示。我们发现,这种行为与表示的维数密切相关:维数越低,误报的机会就越高,即返回不相关的文档。
2021-06-09 cs.CL cs.IR
A Semantic Indexing Structure for Image Retrieval
School of Information Science and Engineering, Southeast University(东南大学信息科学与工程学院)
在大规模图像检索中,为了缩小检索的搜索范围,人们提出了许多索引方法。由于关键点的存在,从图像中提取的特征往往是高维的或不固定的。现有的索引结构大多存在维数灾难、特征尺寸不固定和语义相似性损失等问题。在本文中,一个新的分类为基础的索引结构,称为语义索引结构(SIS),提出了一种新的索引结构,在其中,我们利用语义类别,而不是聚类中心,以创建数据库分区,使建议的索引SIS可以结合特征提取没有限制的维度。此外,它被观察到的每个语义分区的大小与数据库的语义分布呈正相关。沿着这种方式,我们发现,当分区数归一化为5时,所提出的算法在所有测试中表现得非常好。与最先进的模型相比,SIS实现了出色的性能。
2021-09-14 cs.CV cs.IR
Knowledge Base Index Compression via Dimensionality and Precision Reduction
Saarland University(萨尔大学)
最近,基于神经网络的知识密集型NLP任务的方法,如问答,开始严重依赖于神经检索器和读者的组合。检索通常在需要大量存储器和计算资源的大型文本知识库(KB)上执行,特别是当按比例放大时。在HotpotQA上,我们系统地研究了通过维度(稀疏随机投影,PCA,自动编码器)和数值精度降低来减少KB索引的大小。我们的研究结果表明,PCA是一种简单的解决方案,只需要很少的数据,并且只比不太稳定的自动编码器略差。所有方法都对预处理和后处理敏感,数据在降维前后都应始终居中和归一化。最后,我们表明,它是可能的PCA与使用1位每维。总体而言,我们实现了(1)100 $\times$压缩75%,(2)24 $\times$压缩92%的原始检索性能。
2022-04-18 cs.CL cs.IR
AnchorFold: A Focus-Then-Fold Framework via Recursive Attention Propagation for Efficient Multi-Vector Visual Document Retrieval
AnchorFold是无训练的文档侧索引压缩框架,通过递归注意力传播实现先聚焦后折叠,在多数据集多骨干下,强压缩时仍保持高检索性能,优于同类无训练基线。
2026-08-11 cs.CL cs.CV cs.IR
MISS: Multi-Modal Tree Indexing and Searching with Lifelong Sequential Behavior for Retrieval Recommendation
Kuaishou Inc.(快手公司)
针对检索推荐中难以利用终身序列行为和多模态信息的问题,提出MISS模型,通过多模态索引树和多视角搜索单元融合两类信息,提升树基检索模型性能。
2025-08-20 cs.AI cs.IR
IndexRAG: Index-Time Reasoning for Multi-Hop Retrieval-Augmented Generation
Continuum AI
IndexRAG通过在索引阶段进行跨文档推理,提升多跳问答的F1得分,无需额外训练,仅需单次检索和一次LLM调用。
2026-09-29 cs.AI cs.CL cs.IR
KG-Retriever: Efficient Knowledge Indexing for Retrieval-Augmented Large Language Models
Beijing University of Posts and Telecommunications(北京邮电大学);University of Science and Technology Beijing(北京科技大学);Xiaomi Corporation(小米公司)
本文提出KG-Retriever框架,通过知识图谱层与协作文档层构成的分层索引图增强文档连通性,缓解多跳问答中的信息碎片化问题,并在五个QA数据集上验证了其检索效果与效率。
2025-05-05 cs.AI cs.IR
GLEN: Generative Retrieval via Lexical Index Learning
Sungkyunkwan University(成均馆大学)
本文提出GLEN方法,通过两阶段动态词表索引学习策略和无冲突推理机制,解决了生成式检索中预训练知识与标识符差异及训练推理差距问题,在多个基准数据集上达到最优或具竞争力的性能。
2023-11-06 cs.CL cs.IR