LIR$^3$AG: A Lightweight Rerank Reasoning Strategy Framework for Retrieval-Augmented Generation
LIR$^3$AG通过重构检索证据为连贯推理链，使非推理模型在RAG中实现性能超越，减少计算开销并提升F1分数。
2026-01-19 cs.CL
AI-Friendly LaTeX: Using LaTeX Code as a Knowledge Source for Retrieval-Augmented Generation
Department of Mathematics & Computer Science, Eindhoven University of Technology（数学与计算机科学系，埃因霍温理工大学）
本文提出一种预处理方法，将LaTeX源码及其辅助文件和作者注释转换为Markdown和JSONL格式的文本块，以解决PDF提取中结构信息丢失的问题，从而提升检索增强生成在数学和技术材料上的可靠性。
2026-05-21 cs.CL cs.IR
Knowing When Not to Answer: Lightweight KB-Aligned OOD Detection for Safe RAG
New York University（纽约大学）；National Institute on Drug Abuse（国家成瘾医学研究所）；University of Pennsylvania（宾夕法尼亚大学）；Microsoft（微软公司）
研究用于检索增强生成（RAG）系统的轻量级、知识库对齐的域外检测，通过PCA处理知识库嵌入，用方差保留或t检验排序选择子空间评分查询，评估规则和分类器，发现低维检测器性能好且更优。
2026-07-07 cs.CL cs.IR
Developing Visual Augmented Q&A System using Scalable Vision Embedding Retrieval & Late Interaction Re-ranker
Fidelity Investments（富达投资）
本文提出一种多步骤定制方案，利用混合搜索与后期交互重排序器检索最佳匹配页面，并使用多模态大语言模型生成答案，解决了视觉增强问答中检索可扩展性与效率的问题。
2025-07-16 cs.CL cs.IR
LatentRAG: Latent Reasoning and Retrieval for Efficient Agentic RAG
University of Amsterdam（阿姆斯特丹大学）
LatentRAG通过将推理与检索从离散语言空间转移到连续潜在空间，提升代理RAG的效率，实验表明其在七种基准数据集上性能与显式方法相当，推理延迟降低约90%。
2026-10-27 cs.CL cs.LG
ColMate: Contrastive Late Interaction and Masked Text for Multimodal Document Retrieval
ServiceNow；York University（约克大学）；MILA - Quebec AI Institute（魁北克人工智能研究所）；Université de Montréal（蒙特利尔大学）；École de technologie supérieure（卓越工程学院）
针对多模态文档检索直接套用纯文本检索技术的局限，提出ColMate模型，结合基于OCR的预训练、自监督掩码对比学习与后期交互评分机制，在ViDoRe V2基准上提升3.61%并增强域外泛化能力。
2025-11-02 cs.CL
Democratizing GraphRAG: Linear, CPU-Only Graph Retrieval for Multi-Hop QA
PingCAP, Data & AI-Innovation Lab（PingCAP数据与人工智能创新实验室）
SPRIG通过使用CPU和轻量命名实体识别构建图，实现线性时间、无token的多跳问答图检索，提升召回率并降低对GPU和大语言模型的依赖。
2025-12-27 cs.AI cs.CL cs.IR
Lightweight Query Routing for Adaptive RAG: A Baseline Study on RAGRouter-Bench
本文评估了轻量级分类器在RAGRouter-Bench上的路由效果，发现TF-IDF与SVM组合在宏平均F1值和准确率上表现最佳，同时实现token节省。
2026-04-03 cs.CL cs.IR cs.LG
Reducing Redundancy in Retrieval-Augmented Generation through Chunk Filtering
AI Lab – VO2 Group（AI实验室–VO2小组）
本文通过语义、主题和命名实体过滤策略减少检索增强生成中的冗余，实验表明实体过滤可减少向量索引大小25%-36%并保持高检索质量。
2026-04-27 cs.CL
MetaEmbed: Scaling Multimodal Retrieval at Test-Time with Flexible Late Interaction
Meta Superintelligence Labs（Meta超级智能实验室）；Rice University（莱斯大学）
MetaEmbed通过灵活的后期交互机制，在测试时实现多模态检索的扩展，通过多向量检索训练提升信息组织能力，实现在大规模模型下的高效检索性能。
2026-04-06 cs.CL cs.CV cs.IR
Latent Retrieval for Weakly Supervised Open Domain Question Answering
Google Research（谷歌研究院）
最近的工作开放域问答（QA）假设强有力的监督的支持证据和/或假设一个黑盒信息检索（IR）系统来检索候选证据。我们认为，这两个都是次优的，因为黄金证据并不总是可用的，QA是从根本上不同于IR。我们第一次表明，它是可以共同学习的检索器和读者从问答字符串对，没有任何IR系统。在这种情况下，从维基百科的所有证据检索被视为一个潜在的变量。由于从头开始学习是不切实际的，我们用反向完形填空任务对检索器进行了预训练。我们评估五个QA数据集的开放版本。在提问者已经知道答案的数据集上，传统的IR系统（如BM 25）就足够了。在用户真正寻求答案的数据集上，我们证明了学习检索是至关重要的，在精确匹配方面超过BM 25高达19个点。
2019-06-27 cs.CL
TurkColBERT: A Benchmark of Dense and Late-Interaction Models for Turkish Information Retrieval
NewMind AI
TurkColBERT通过比较密集编码器和晚期交互模型，展示了在土耳其信息检索中的高效参数利用和性能提升。
2025-11-20 cs.AI cs.CL cs.IR
Visual Late Chunking: An Empirical Study of Contextual Chunking for Efficient Visual Document Retrieval
Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；Alibaba Cloud Computing（阿里云）；Hong Kong University of Science and Technology（香港科技大学）
本文提出ColChunk框架，通过多模态后期分块构建高效上下文化多向量，减少存储需求并提升检索性能。
2026-04-11 cs.CL cs.CV cs.IR
Lightweight and Production-Ready PDF Visual Element Parsing
Oracle AI
本文提出一种轻量级PDF解析框架，通过空间启发式、布局分析和语义相似性结合，实现高准确率的视觉元素检测与标题关联，提升多模态RAG检索性能。
2026-04-25 cs.AI cs.CL cs.CV
CLaRa: Bridging Retrieval and Generation with Continuous Latent Reasoning
Apple（苹果公司）；University of Edinburgh（爱丁堡大学）
CLaRa通过连续潜在推理框架实现检索与生成的统一优化，提升压缩和重排性能，优于现有基线方法。
2026-02-05 cs.CL
An End-to-End Ukrainian RAG for Local Deployment. Optimized Hybrid Search and Lightweight Generation
Pompeu Fabra University（庞皮乌斯·法布拉大学）；Independent Researcher（独立研究者）
本文提出一个高效的检索增强生成系统，用于乌克兰文档问答，在UNLP 2026共享任务中获第二名。系统包含定制的两阶段搜索流程和针对乌克兰语言的微调模型，最终通过模型压缩实现轻量级部署。
2026-04-23 cs.CL
Neural Retrieval for Question Answering with Cross-Attention Supervised Data Augmentation
Google Research（谷歌研究院）；Google Cloud AI（谷歌云人工智能）
独立地将问题和答案投影到共享嵌入空间中的神经模型允许从大型语料库中进行有效的连续空间检索。独立地计算问题和答案的嵌入导致与匹配问题到其答案相关的信息的后期融合。虽然对于有效检索至关重要，但后期融合的性能低于利用早期融合的模型（例如，基于BERT的分类器，在问题-答案对之间具有交叉关注）。我们提出了一种监督数据采掘方法，使用一个准确的早期融合模型，以提高一个有效的后期融合检索模型的训练。我们首先训练一个准确的分类模型，问题和答案之间的交叉注意。准确的交叉注意模型然后被用来注释附加的通道，以便生成用于神经检索模型的加权训练样本。由此产生的具有额外数据的检索模型显著优于直接使用黄金注释在$N$（P@N）和平均倒数秩（MRR）的精度上训练的检索模型。
2020-09-29 cs.CL
PipeRAG: Fast Retrieval-Augmented Generation via Algorithm-System Co-design
ETH Zurich（苏黎世联邦理工学院）；Amazon Web Services（亚马逊网络服务）；Meta；MIT（麻省理工学院）
针对检索增强生成中定期检索耗时占比高的问题，提出算法-系统协同设计的PipeRAG方法，通过流水线并行、灵活检索间隔和性能模型实现最高2.6倍端到端加速并提升生成质量。
2024-03-08 cs.CL
ViSAR: Training-Free Adaptive-$k$ Retrieval for Visual Document Question Answering
INSA Lyon（里昂国立应用科学学院）；CNRS（法国国家科学研究中心）；EPITA Research Laboratory (LRE)（EPITA研究实验室）；Lowit（洛维特公司）；LIRIS UMR 5205（里昂信息、图像与智能系统实验室）
ViSAR是一种无需训练的自适应k检索方法，用于视觉文档问答，可动态确定检索页面数量，降低RAG延迟最高58.7%，同时保持或提升答案准确性。
2026-09-04 cs.AI cs.CL cs.CV
Latent Abstraction for Retrieval-Augmented Generation
Center for AI Research, VinUniversity, Vietnam（越南Vin大学人工智能研究中心）
LAnR通过在潜在空间中联合执行编码、检索和生成，提升检索增强生成的效率与效果，减少检索调用次数并增强模型整合。
2026-10-28 cs.AI cs.CL
Multi-stage Training of Bilingual Islamic LLM for Neural Passage Retrieval
RTTL Labs（RTTL实验室）
本研究针对伊斯兰领域多语言语料不均衡的问题，基于XLM-R构建轻量双语大模型，通过多阶段训练结合通用与领域数据集、增强构建英语领域检索数据，最终模型检索性能超越单语言模型。
2025-01-17 cs.CL
ColGraphRAG: Late-Interaction Evidence Retrieval for Multimodal GraphRAG
研究多模态问答中基于图的证据检索问题，核心方法是在ColBERT/ColPali系列中用后期交互多向量评分替换视觉候选排序算子，主要贡献是改进了图相连图像候选检索及下游问答效果，揭示视觉证据作用模式，为后续工作指明方向。
2026-07-21 cs.AI cs.CL
HAKARI-Bench: A Lightweight Benchmark for Comparing Retrieval Architectures and Efficiency Settings under Unified Conditions
MIT License（MIT许可证）
提出HAKARI-Bench轻量级基准，通过重构现有检索套件为统一格式的小型数据集，实现五种检索家族及其效率变体的同条件比较，在排名上高保真复现MTEB等大型基准。
2026-06-23 cs.CL cs.IR
Fine-grained Late-interaction Multi-modal Retrieval for Retrieval Augmented Visual Question Answering
University of Cambridge（剑桥大学）
本文提出细粒度晚期交互多模态检索FLMR，通过视觉模型对齐和多维嵌入改进RA-VQA的知识检索，将PRRecall@5提升约8%，并在OK-VQA上取得约61%的VQA分数。
2023-10-28 cs.CL cs.CV
Detecting Hallucinations in Graph Retrieval-Augmented Generation via Attention Patterns and Semantic Alignment
University of Illinois Chicago（伊利诺伊大学芝加哥分校）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出通过注意力模式和语义对齐检测GraphRAG中的幻觉，开发了轻量级检测器GGA，提升了系统可靠性。
2025-12-09 cs.AI cs.CL
Decoding a Neural Retriever's Latent Space for Query Suggestion
ETH Zürich（苏黎世联邦理工学院）；Google Research（谷歌研究院）
神经检索模型已经取代了经典的词袋方法，如BM 25作为检索框架的选择。然而，神经系统缺乏词袋模型的可解释性;将查询变化与最终确定检索结果的潜在空间中的变化联系起来并不是微不足道的。为了阐明这个嵌入空间，我们学习了一个“查询解码器”，给定神经搜索引擎的潜在表示，它会生成相应的查询。我们表明，它是可能的解码一个有意义的查询，从其潜在的表示，并在潜在空间中的正确方向移动时，解码检索相关段落的查询。特别地，查询解码器对于理解“应该问什么”以从集合中检索特定段落可能是有用的。我们采用的查询解码器生成一个大型的合成数据集的MSMarco的查询重构，从而提高检索性能。在这些数据上，我们训练了一个伪相关反馈（PRF）T5模型，用于查询建议的应用，其性能优于查询重构和PRF信息检索基线。
2022-10-21 cs.AI cs.CL cs.LG
LLMs Meet Isolation Kernel: Lightweight, Learning-free Binary Embeddings for Fast Retrieval
National Key Laboratory for Novel Software Technology, Nanjing University（南京大学本科软件技术国家重点实验室）
本文提出无学习的隔离内核嵌入（IKE），将LLM嵌入转换为二进制嵌入，实现低内存和快速检索，实验显示其检索速度提升16.7倍，内存使用降低16倍，同时保持相似精度。
2026-07-08 cs.IR
GRACE-RAG: Governed Retrieval Architecture for Canonical Evidence Synthesis, Enabling Lightweight Deployment in Closed-Domain Institutional Settings
提出GRACE-RAG架构，通过图增强检索将结构推理外化到检索层，在轻量级模型上实现高质量问答，中规模模型质量提升达20%。
2026-07-02 cs.AI cs.IR
UNION: A Lightweight Target Representation for Efficient Zero-Shot Image-Guided Retrieval with Optional Textual Queries
UNION通过融合图像嵌入与空文本提示，实现高效零样本图像引导检索，仅需5,000训练样本即在多个基准测试中超越传统基线。
2025-11-27 cs.CV cs.IR
Efficient Federated Search for Retrieval-Augmented Generation using Lightweight Routing
EPFL（瑞士联邦理工学院洛桑分校）
本文提出RAGRoute，一种轻量级路由机制，通过神经分类器动态选择相关数据源，减少通信开销和端到端延迟，同时保持检索质量，在三个基准测试中实现通信量减少80.65%和延迟减少52.50%。
2026-04-09 cs.DC cs.IR cs.LG
LiCoMemory: Lightweight and Cognitive Agentic Memory for Efficient Long-Term Reasoning
The Hong Kong University of Science and Technology（香港科技大学）；Huawei Hong Kong Research Center（华为香港研究中心）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；WeBank Co., Ltd（微众银行）
LiCoMemory通过轻量级分层图和时间感知检索提升长期对话推理效率和准确性
2026-01-06 cs.IR
LiteSemRAG: Lightweight LLM-Free Semantic-Aware Graph Retrieval for Robust RAG
Oakland University（奥克兰大学）
本文提出LiteSemRAG，一种轻量级无大语言模型的语义感知图检索框架，通过构建异构语义图并分离表层词义与上下文依赖语义，提升检索鲁棒性与效率。
2026-03-16 cs.AI cs.IR
Aligning Biomedical Texts and Knowledge Graphs: A Systematic Comparison of Lightweight Alignment Strategies
University of Mannheim（曼海姆大学）
本研究提出统一框架系统比较生物医学文本与KG的轻量对齐策略，构建CTD-Align语料库，发现三元组组合和训练方向影响最大，线性投影效果最优，为二者桥接提供实用基础。
2026-08-25 cs.CL cs.IR
PLAID: An Efficient Engine for Late Interaction Retrieval
Stanford University（斯坦福大学）
预训练的语言模型是跨多种信息检索（IR）范例的越来越重要的组件。后期交互是由ColBERT模型引入的，最近在ColBERTv2中得到了改进，是一种流行的范式，在许多基准测试中都具有最先进的地位。为了显著加快后期交互的搜索延迟，我们引入了性能优化的后期交互驱动程序（PLAID）。在不影响质量的情况下，PLAID使用一种新颖的质心交互机制快速消除低得分通道，该机制将每个通道视为一个轻量级的质心袋。PLAID在高度优化的引擎中使用质心交互和质心修剪（一种用于稀疏化质心包的机制），以将后期交互搜索延迟在GPU上减少多达7个$\times$，在CPU上减少多达45个$\times$，同时继续提供最先进的检索质量。这使得带有ColBERTv2的PLAID引擎能够在GPU上实现数十毫秒的延迟，在CPU上实现数十或数百毫秒的大规模延迟，即使在我们评估的最大规模（140 M通道）下也是如此。
2022-05-19 cs.CL cs.IR
Semantic Certainty Assessment in Vector Retrieval Systems: A Novel Framework for Embedding Quality Evaluation
提出一种轻量级框架，结合量化鲁棒性和邻域密度指标，在查询级别预测向量检索性能，在4个数据集上Recall@10提升9.4±1.2%，计算开销低于检索时间的5%。
2025-07-08 cs.CL cs.IR
Diagnosable ColBERT: Debugging Late-Interaction Retrieval Models Using a Learned Latent Space as Reference
Parallia AI
本文提出Diagnosable ColBERT，通过将ColBERT的词嵌入对齐到基于临床知识的参考潜在空间，以更直接地诊断模型错误并指导数据整理。
2026-04-21 cs.CL cs.IR
Hybrid Retrieval and Multi-stage Text Ranking Solution at TREC 2022 Deep Learning Track
Alibaba Group（阿里巴巴集团(Alibaba Group)）
针对TREC 2022深度学习赛道任务，提出融合稀疏与稠密检索的混合检索方案，搭配全交互排序模型加轻量子排序模块的多阶段排序方法，在段落、文档排序测试集上分获第1、第4名。
2023-08-23 cs.CL cs.IR
LURE-RAG: Lightweight Utility-driven Reranking for Efficient RAG
University of Glasgow（格拉斯哥大学）
LURE-RAG通过基于LLM效用的列表排序损失优化检索文档顺序，实现高效RAG框架，在性能和效率上均优于现有方法。
2026-01-27 cs.IR
FastLane: Efficient Routed Systems for Late-Interaction Retrieval
UCLA（加州大学洛杉矶分校）；Google DeepMind（谷歌DeepMind）；Google Research, India（谷歌印度研究院）
FastLane通过动态路由机制显著降低计算复杂度，实现高效且可扩展的检索，适用于大规模应用场景。
2026-01-13 cs.IR
LaSER: Internalizing Explicit Reasoning into Latent Space for Dense Retrieval
Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学高陵人工智能学院）；Tongyi Lab, Alibaba Group（阿里集团通义实验室）
LaSER通过将显式推理内化到潜在空间，提升密集检索性能，结合推理深度与推理效率。
2026-03-02 cs.CL cs.IR
Relevance-Based Embeddings: Lightweight Candidate Retrieval via Heavy-Ranker Calls
研究如何利用昂贵模型分数改进查询和项目表示来选择候选，通过描述查询与支持项目相关性获嵌入，理论证明其有效性，还探讨支持项目选择，实验验证方法强大。
2026-07-07 cs.IR cs.LG
Learn to Pool: Lightweight Fine-Tuning for Flexible Multi-Vector Compression
Independent Researcher
研究后期交互模型部署挑战，提出轻量级微调方法，通过k均值等进行池化感知训练，可跨方法和数据集迁移，多因素训练产生通用模型，最强模型在BEIR SciFact上以83%压缩率且不损精度超越基线。
2026-07-08 cs.IR
Latent Terms: Dense Retrievers Contain Trivially Extractable BM25-ready Zipfian Vocabularies
Mixedbread AI；National Institute of Informatics（国家信息研究所）；University of Tsukuba（筑波大学）
提出潜在词方法，揭示密集检索模型（单向量或多向量）学习到的表示可轻易分解为稀疏特征，通过稀疏自编码器提取潜在词汇表，无需检索特定调整即可直接用于BM25稀疏检索，匹配或超越原模型及SPLADE变体。
2026-05-28 cs.AI cs.CL cs.IR
SLIM: Sparsified Late Interaction for Multi-Vector Retrieval with Inverted Indexes
SLIM通过将多向量映射到稀疏词汇空间并利用倒排索引实现高效检索，在保持与ColBERT相当准确性的同时，显著减小模型规模并提升CPU上的速度。
2023-05-08 cs.IR
SPLATE: Sparse Late Interaction Retrieval
本文提出SPLATE，通过学习MLM适配器将ColBERTv2的冻结token嵌入映射至稀疏词汇空间，利用传统稀疏检索技术进行候选生成，在CPU环境下实现与PLAID引擎同等有效性的快速检索。
2024-04-22 cs.IR
Lightweight and Direct Document Relevance Optimization for Generative Information Retrieval
Institute for Clarity in Documentation（文档清晰度研究所）；Inria Paris-Rocquencourt（巴黎- Rocquencourt 国家信息与自动化所）；Rajiv Gandhi University（拉朱·甘地大学）；Tsinghua University（清华大学）；Palmer Research Laboratories（帕勒尔研究实验室）；University of Amsterdam（阿姆斯特丹大学）
提出直接文档相关性优化（DDRO）方法，通过成对排序直接对齐令牌级文档ID生成与文档级相关性估计，无需显式奖励建模和强化学习，在MS MARCO和Natural Questions上分别提升MRR@10 7.4%和19.9%。
2025-04-24 cs.AI cs.DL cs.IR
ColBERT-Att: Late-Interaction Meets Attention for Enhanced Retrieval
Huawei Research Center（华为研究中心）
ColBERT-Att通过整合注意力机制于晚期交互框架，提升检索性能，在MS-MARCO和多个BEIR、LoTTE数据集上实现召回准确率提升。
2026-03-26 cs.IR
LITTA: Late-Interaction and Test-Time Alignment for Visually-Grounded Multimodal Retrieval
LITTA通过查询扩展提升多模态文档检索，利用晚期交互评分和反向排名融合提高检索鲁棒性，适用于计算机科学、制药和工业手册等多领域。
2026-03-10 cs.AI cs.CL cs.CV
Answering Multimodal Exclusion Queries with Lightweight Sparse Disentangled Representations
提出一种生成低维固定大小稀疏解耦表示的方法，用于多模态排除查询，在MSCOCO和Conceptual Captions上优于CLIP、BLIP、VISTA及VDR，提升可解释性。
2025-06-24 cs.IR
LILaC: Late Interacting in Layered Component Graph for Open-domain Multimodal Multihop Retrieval
POSTECH（浦项工科大学）；DirectorLabs
LILaC通过分层组件图和后期交互子图检索方法，提升开放域多模态多跳检索的精度与效率。
2026-02-04 cs.IR
AMES: Approximate Multi-modal Enterprise Search via Late Interaction Retrieval
Apple（苹果公司）
AMES通过晚期交互检索架构实现多模态企业搜索，无需架构重设计，利用多向量编码器将文本、图像和视频嵌入共享空间，实验显示其在可扩展的Solr系统中表现优异。
2026-03-13 cs.IR cs.LG
Reproducibility, Replicability, and Insights into Visual Document Retrieval with Late Interaction
本文系统复现并比较多种视觉语言模型上的 VDR 方法，验证 ColPali 式 late interaction 的效果收益与推理代价，并通过 query-patch 匹配分析其作用机制。
2025-05-12 cs.IR
Towards Lossless Token Pruning in Late-Interaction Retrieval Models
Sorbonne Université（索邦大学）；CNRS（法国国家科学研究中心）；ISIR（智能系统与机器人研究所）
针对后期交互检索模型（如ColBERT）文档token存储内存大的问题，提出原则性无损剪枝方法，通过三种正则化损失和两种策略实现高剪枝率，实验显示仅用30%token可保留原模型性能。
2025-04-17 cs.AI cs.CL cs.IR
Argus-Retriever: Vision-LLM Late-Interaction Retrieval with Region-Aware Query-Conditioned MoE for Visual Document Retrieval
University of Innsbruck（因斯布鲁克大学）；Chungbuk National University（忠北国立大学）
提出Argus系列查询条件后期交互检索器，通过区域感知混合专家模块使文档表示依赖查询，在ViDoRe基准上以更低维度和更少训练数据取得领先性能。
2026-06-03 cs.IR
