Ranking-based Fusion Algorithms for Extreme Multi-label Text Classification (XMTC)
针对极端多标签文本分类(XMTC)中标签长尾分布导致的有效性平衡问题,提出融合稀疏检索器(如BM25)与密集检索器(如微调BERT)的基于排序的融合算法,结合两者互补特性以提升头部和尾部标签的分类有效性。
2025-07-04 cs.IR
Early Stage Sparse Retrieval with Entity Linking
尽管他们的低资源设置的优势,传统的稀疏检索依赖于精确的匹配方法之间的高维词袋(BoW)表示的查询和收集。因此,检索性能受到语义差异和词汇空缺的限制。另一方面,基于transformer的密集检索器通过利用语料库的低维上下文化表示来显著改进信息检索任务。虽然密集检索器以其相对有效性而闻名,但与稀疏检索器相比,它们的效率较低且缺乏泛化问题。对于轻量级检索任务,高计算资源和时间消耗是鼓励放弃密集模型的主要障碍,尽管有潜在的收益。在这项工作中,我们建议通过扩展查询和具有两种格式的实体名称的链接实体的文档来提高稀疏检索器的性能:1)显式和2)散列。我们采用了一个zero-shot的端到端密集实体链接系统的实体识别和消歧,以增加语料库。通过利用先进的实体链接方法,我们相信稀疏和密集检索器之间的有效性差距可以缩小。我们在MS MARCO通道数据集上进行实验。由于我们关注的是大型信息检索系统的级联排名架构中的早期检索,我们使用recall@1000来评估我们的结果。我们的方法也能够检索文件的查询子集判断是特别困难的,在以前的工作。我们进一步证明了非扩展和扩展运行与显式和散列实体检索互补的结果。因此,我们采用了运行融合的方法,以最大限度地提高实体链接的好处。
2022-08-10 cs.IR
Fine-Grained Guidance for Retrievers: Leveraging LLMs' Feedback in Retrieval-Augmented Generation
Zhejiang University(浙江大学);Shanghai Jiao Tong University(上海交通大学)
提出FiGRet框架,利用LLM构建细粒度示例引导检索器学习,对齐LLM偏好,提升RAG系统性能。
2024-11-06 cs.AI cs.IR
Towards Competitive Search Relevance For Inference-Free Learned Sparse Retrievers
Amazon(亚马逊)
本文针对无推理稀疏检索器搜索相关性不足的问题,提出IDF感知惩罚与异构集成知识蒸馏框架,在BEIR基准上超越SOTA模型3.3 NDCG@10,实现与siamese稀疏检索器相当的相关性且延迟仅为BM25的1.1倍。
2025-07-01 cs.AI cs.IR
Salient Phrase Aware Dense Retrieval: Can a Dense Retriever Imitate a Sparse One?
Meta AI
尽管其最近的流行和众所周知的优势,密集检索器仍然落后于稀疏的方法,如BM 25在其可靠地匹配查询中的突出短语和罕见的实体,并推广到域外数据的能力。有人认为,这是密集模型的固有局限性。我们反驳这种说法,通过引入显着短语感知检索器(SPAR),一个密集的检索与词汇匹配能力的稀疏模型。我们证明了一个稠密的词汇模型Λ可以被训练来模仿一个稀疏的词汇模型,SPAR是通过用Λ来增强一个标准的稠密检索器来构建的。从经验上看,SPAR在一系列任务上表现出卓越的性能,包括五个问答数据集,MS MARCO段落检索,以及用于域外评估的BattletyQuestions和BEIR基准,超过了最先进的密集和稀疏检索器的性能。SPAR的代码和型号可在以下网址获得:https://github.com/facebookresearch/dpr-scale/tree/main/spar
2022-11-11 cs.CL cs.IR cs.LG
Intermediate Distillation: Data-Efficient Distillation from Black-Box LLMs for Information Retrieval
针对黑盒 LLM 无法通过权重或输出概率提供蒸馏监督的问题,提出仅用排序生成结果的 LLM-ranker-retriever 中间蒸馏方案,以 1,000 个实例提升检索器及 RAG 问答性能。
2024-06-18 cs.IR
Tracing Query Expansion Effects through Sparse Autoencoder Features
Shandong University(山东大学);University of Chinese Academy of Sciences(中国科学院大学);Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所)
本研究利用稀疏自编码器特征追踪查询扩展对稠密检索器的内部影响,发现有效扩展引起层集中的潜在特征变化,并通过激活引导验证其能更一致地提升检索性能。
2026-09-09 cs.IR
A Systematic Multi-Domain Evaluation of Document Retrievers
University of Konstanz(康斯坦茨大学)
本研究对33个文档检索器在七个数据集上进行大规模实证评估,发现NV-Embed-v2性能最强但延迟高,SPLADE-v3以低延迟媲美顶尖方法,并揭示了检索器失败点中的潜在改进空间。
2026-09-25 cs.IR
A Study on the Efficiency and Generalization of Light Hybrid Retrievers
Arizona State University(亚利桑那州立大学);Meta Reality Lab(Meta现实实验室)
本文提出轻量级混合检索器 Hybrid-LITE,通过结合 BM25 与基于 DrBoost 知识蒸馏训练的 LITE,在节省 13 倍内存的同时保持 98.0% 性能,并展现出更优的域外泛化能力。
2023-05-23 cs.CL cs.IR
DRAMA: Diverse Augmentation from Large Language Models to Smaller Dense Retrievers
FAIR at Meta(Meta 的 FAIR 研究院);University of Waterloo(滑铁卢大学)
DRAMA框架利用剪枝后的大型语言模型作为骨干,在LLM增强的多样化数据上进行单阶段对比学习,训练出兼具效率与泛化能力的小型稠密检索器,并在多语言和长上下文任务中取得优异表现。
2025-06-03 cs.CL cs.IR
MoR: Better Handling Diverse Queries with a Mixture of Sparse, Dense, and Human Retrievers
Carnegie Mellon University(卡内基梅隆大学);Technical University of Darmstadt(达姆斯塔特技术大学)
针对单一检索器难以泛化的问题,提出零样本加权混合异质检索器(MoR),以0.8B参数超越各单独检索器及7B模型,并有效整合人类信息源,性能提升显著。
2025-06-18 cs.AI cs.CL cs.IR
LTRR: Learning To Rank Retrievers for LLMs
Carnegie Mellon University(卡内基梅隆大学)
本文提出LTRR框架,通过动态选择检索器提升RAG性能,实验表明基于路由的RAG在多种基准上优于单一检索器,尤其在使用AC目标和成对排名时效果显著。
2026-04-18 cs.CL cs.IR
Information Retrieval with Entity Linking
针对传统稀疏检索器受语义差异和词汇鸿沟限制的问题,提出用显式和哈希两种格式的链接实体扩展查询与文档,结合零样本稠密实体链接系统增强语料库,在MS MARCO数据集上有效提升稀疏检索性能并缩小与稠密检索器的差距。
2024-04-07 cs.IR
Study on LLMs for Promptagator-Style Dense Retriever Training
Massachusetts Institute of Technology Lincoln Laboratory(麻省理工学院林肯实验室);University of Waterloo(滑铁卢大学)
针对原始Promptagator依赖专有大模型的问题,研究发现参数≤14B甚至3B的开源LLMs可作为有效的Promptagator风格查询生成器,为领域专用稠密检索模型微调的合成数据生成提供可靠替代方案。
2025-10-02 cs.CL cs.IR
Exploring $\ell_0$ Sparsification for Inference-free Sparse Retrievers
South China University of Technology School of Future Technology(南方科技大学未来技术学院);Amazon Amazon Web Service Shanghai China(亚马逊中国)
本文提出受 $\ell_0$ 启发的稀疏化方法用于无推理稀疏检索器,在 BEIR 基准上达到最先进性能,并分析了检索效果与计算效率的权衡。
2025-04-21 cs.AI cs.IR
Parameter-Efficient Sparse Retrievers and Rerankers using Adapters
University of Amsterdam(阿姆斯特丹大学);Naver Labs Europe(Naver欧洲实验室)
带有适配器的参数高效迁移学习已经在自然语言处理(NLP)中被研究作为完全微调的替代方案。适配器是内存高效的,并且通过训练在Transformer层之间添加的小瓶颈层,同时保持大型预训练的语言模型(PLM)冻结,可以很好地扩展下游任务。尽管这些方法在自然语言处理中取得了很好的效果,但在信息检索中还没有得到充分的研究。虽然以前的研究只进行了密集检索或在跨语言检索的情况下,在本文中,我们的目标是完成图片上使用适配器在IR。首先,我们研究适配器SPLADE,稀疏检索器,适配器不仅保留了效率和有效性,否则通过微调实现,但内存效率和数量级更轻的训练。我们观察到,Adapters-SPLADE不仅优化了2%的训练参数,而且在IR基准数据集上的性能优于完全微调的对应模型和现有的参数有效的密集IR模型。其次,我们解决领域自适应的神经检索由于适配器跨域BEIR数据集和TripClick。最后,我们还考虑了知识共享之间的rankers和第一阶段的rankers。总之,我们的研究完成了神经IR适配器的检查
2023-03-23 cs.CL cs.IR
Latent Terms: Dense Retrievers Contain Trivially Extractable BM25-ready Zipfian Vocabularies
Mixedbread AI;National Institute of Informatics(国家信息研究所);University of Tsukuba(筑波大学)
提出潜在词方法,揭示密集检索模型(单向量或多向量)学习到的表示可轻易分解为稀疏特征,通过稀疏自编码器提取潜在词汇表,无需检索特定调整即可直接用于BM25稀疏检索,匹配或超越原模型及SPLADE变体。
2026-05-28 cs.AI cs.CL cs.IR
SEARA: An Automated Approach for Obtaining Optimal Retrievers
针对RAG检索器超参数优化成本高且评估易脱离业务场景的问题,本文提出SEARA,通过子集采样、最小检索事实提取和综合指标实现低成本全自动评估,并在rednote场景中获得最优检索器。
2025-09-28 cs.IR
Mixture-of-Experts Language Models Can Be Strong and Efficient Retrievers
New York University Abu Dhabi(纽约大学阿布扎比分校);New York University(纽约大学)
本文系统研究混合专家(MoE)语言模型作为检索器的性能,证明其以更少活跃参数和更低查询编码时间超越稠密检索器,并可通过减少专家数量进一步提速,成为高效的第一阶段检索器。
2026-09-15 cs.CL cs.IR
Sparse and Dense Retrievers Learn Better Together: Joint Sparse-Dense Optimization for Text-Image Retrieval
Graduate School of Data Science, Seoul National University(首尔国立大学数据科学研究生院);NAVER Corporation(NAVER公司)
本文提出一种基于自知识蒸馏的稀疏-稠密联合优化框架,通过集成相似度分数实现双向学习,仅微调稠密编码器末层与稀疏投影头,使稀疏检索器在MSCOCO和Flickr30k上超越稀疏基线并达到或超过稠密模型性能。
2025-08-22 cs.CL cs.IR cs.LG
Mistral-SPLADE: LLMs for better Learned Sparse Retrieval
Indian Institute of Technology Bombay(印度孟买理工学院);IBM Research(IBM研究院)
本文提出使用仅解码器大语言模型Mistral作为骨干网络构建学习型稀疏检索器Mistral-SPLADE,以学习语义关键词扩展。实验表明,该模型超越了SPLADE及其变体,在BEIR基准上达到最先进水平。
2024-08-22 cs.CL cs.IR
ARL2: Aligning Retrievers for Black-box Large Language Models via Self-guided Adaptive Relevance Labeling
Renmin University of China(中国人民大学);Georgia Institute of Technology(佐治亚理工学院)
提出ARL2检索器学习技术,利用黑盒LLM作为标注器对证据打分,并结合自适应自训练策略降低标注成本,显著提升了检索准确率与零样本泛化能力。
2024-06-04 cs.AI cs.CL cs.IR
ScalingNote: Scaling up Retrievers with Large Language Models for Real-World Dense Retrieval
ScalingNote提出两阶段方法,先用同一LLM初始化双塔释放稠密检索潜力,再仅蒸馏查询塔以控制在线延迟,在工业场景中验证了LLM稠密检索的扩展定律并提升检索相关性。
2024-11-24 cs.IR
A Comparative Study of Specialized LLMs as Dense Retrievers
Key Laboratory of Network Data Science and Technology(网络数据科学与技术重点实验室);Institute of Computing Technology(计算技术研究所);Chinese Academy of Sciences(中国科学院);State Key Laboratory of AI Safety(人工智能安全国家重点实验室);University of Chinese Academy of Science(中国科学院大学)
本研究比较了八种Qwen2.5 7B专用LLM在稠密检索中的表现,发现数学与长推理能力有损性能,而视觉语言和代码专用模型零样本检索更优,为统一检索提供方向。
2025-08-06 cs.AI cs.CL cs.IR
Simple Entity-Centric Questions Challenge Dense Retrievers
Princeton University(普林斯顿大学)
开放领域的问答最近爆炸式流行,由于稠密检索模型的成功,它已经超过了稀疏模型,只使用一些监督训练样本。然而,在本文中,我们证明了当前的密集模型还不是检索的圣杯。我们首先构建了一组简单的,基于维基数据事实的实体丰富的问题(例如,“Arve Furset出生在哪里?),并观察到密集的检索器大大低于稀疏的方法。我们研究了这个问题,发现密集检索器只能概括到共同的实体,除非在训练过程中明确观察到的问题模式。我们讨论两个简单的解决方案来解决这个关键问题。首先,我们证明了数据增强无法解决泛化问题。其次,我们认为一个更强大的通道编码器有助于促进更好的问题适应使用专门的问题编码器。我们希望我们的工作可以揭示在创建一个强大的,通用的密集检索器,以及在不同的输入分布的挑战。
2022-02-22 cs.CL cs.IR
Aligning LLMs with Sparse Retrieval via Adaptive Sparse Supervision
School of Computer Science and Technology, Soochow University(苏州大学计算机科学与技术学院)
本研究针对LLM用于第一阶段检索时延迟与存储成本高的问题,提出基于LLM的稀疏检索框架,通过自适应稀疏对齐策略结合多技术微调,在多数据集上实现了效果与效率的良好权衡。
2026-10-16 cs.IR
Embark on DenseQuest: A System for Selecting the Best Dense Retriever for a Custom Collection
本研究提出了名为DenseQuest的网页应用系统,可针对用户上传的私有自定义语料库,借助含LLM驱动方法在内的多种无监督方案,无需查询和标注即可选出最优预训练稠密检索器,云端部署便于检索领域从业者使用。
2024-07-09 cs.IR
Exp4Fuse: A Rank Fusion Framework for Enhanced Sparse Retrieval using Large Language Model-based Query Expansion
City University of Hong Kong(香港城市大学);The University of Hong Kong(香港大学)
本文提出 Exp4Fuse 排序融合框架,通过融合原始查询与 LLM 零样本扩展查询的稀疏检索结果,在多个数据集上以更低成本取得 SOTA。
2025-06-05 cs.AI cs.CL cs.IR
Thought-Retriever: Don't Just Retrieve Raw Data, Retrieve Thoughts for Memory-Augmented Agentic Systems
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Carnegie Mellon University(卡内基梅隆大学)
本文提出Thought-Retriever,一种无需受上下文长度限制的算法,使LLM能基于任意长外部数据生成输出。通过利用历史查询生成的中间响应,构建长期记忆,提升回答能力。
2026-04-14 cs.CL cs.IR
A Replication Study of Dense Passage Retriever
University of Waterloo(滑铁卢大学)
使用学习密集表示的文本检索最近已经成为使用稀疏词袋表示的“传统”文本检索的一个有前途的替代方案。最近一项备受关注的工作是Karpukhin等人(2020)提出的用于端到端开放域问答的密集通道检索器(DPR)技术。我们提出了这项工作的复制研究,从作者提供的模型检查点开始,但在我们小组的Pyserini IR工具包和PyGaggle神经文本排名库中的独立实现。虽然我们的实验结果在很大程度上验证了原始论文的主张,但我们得出了两个重要的额外发现,有助于更好地理解DPR:首先,原始作者似乎低估了BM 25基线的有效性,因此也低估了密集-稀疏混合检索结果。其次,通过将证据检索和改进的答案跨度评分技术,我们能够提高端到端的问答的有效性,使用完全相同的模型,在原来的工作。
2021-04-12 cs.CL cs.IR
SAGE: Structure Aware Graph Expansion for Retrieval of Heterogeneous Data
University of Pennsylvania(宾夕法尼亚大学);Arizona State University(亚利桑那州立大学)
SAGE通过构建结构感知的图扩展框架,在异构数据检索中提升召回率,采用混合检索与代理策略实现多模态证据链检索。
2026-02-18 cs.IR
PORTS: Preference-Optimized Retrievers for Tool Selection with Large Language Models
Department of Computer Science and Engineering, University of Bologna(计算机科学与工程系,博洛尼亚大学)
研究针对大语言模型工具选择中现有检索器与LLMs不一致问题,提出PORTS方法,利用受困惑度启发的偏好信号,通过优化相关性及施加对比语义损失微调检索器,经多实验验证其通用性及提高工具选择准确性的能力,且计算需求低便于推广。
2026-07-08 cs.AI cs.IR
Fact or Facsimile? Evaluating the Factual Robustness of Modern Retrievers
本文通过将12个嵌入模型与其基础LLMs配对评估,发现检索器的事实准确率大幅下降且对干扰项敏感,并揭示对比学习以牺牲参数化事实知识换取语义检索能力的系统性权衡。
2025-08-28 cs.IR
SHIFT: Self-reconstruction Harnesses Implicit Fine-grained Thinking for Retrieval
Peking University(北京大学);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);Beihang University(北京航空航天大学)
研究针对基于LLM的检索器存在的问题,提出SHIFT框架。通过残差投影等转换LLM为高效检索器,利用细粒度重建缓解不匹配,经实验验证其性能优于其他检索器,为信息检索提供新方法。
2026-07-24 cs.IR
Evaluating the Retrieval Component in LLM-Based Question Answering Systems
Thomson Reuters AI Labs(汤森路透人工智能实验室)
本文提出一种用于评估RAG聊天机器人中检索组件的直接基线方法,证明其比传统指标更贴合问答系统整体表现,并考虑了大语言模型忽略无关上下文及产生幻觉的特点。
2024-06-10 cs.CL cs.IR
R^2AG: Incorporating Retrieval Information into Retrieval Augmented Generation
School of Computer Science, South China Normal University(华南师范大学计算机学院);The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));The Hong Kong University of Science and Technology(香港科技大学)
针对大语言模型与检索器间的语义鸿沟问题,提出新型增强RAG框架R^2AG,通过R^2-Former捕获检索信息并结合检索感知提示策略,在低资源冻结场景下经五个数据集验证有效提升生成效果。
2024-10-30 cs.AI cs.CL cs.IR
MACA: A Framework for Distilling Trustworthy LLMs into Efficient Retrievers
JP Morgan Chase(摩根大通公司);IIIT Hyderabad(海得拉巴印度理工学院)
MACA通过提炼可信LLM为高效检索器,提升检索准确率并减少LLM调用成本
2026-01-01 cs.AI cs.IR
A Multi-Task Embedder For Retrieval Augmented LLMs
Beijing Academy of Artificial Intelligence(北京智源人工智能研究院);Renmin University of China(中国人民大学);University of Montreal(蒙特利尔大学)
LLM-Embedder通过引入排名感知奖励和分级蒸馏,统一多任务检索增强,提升大语言模型在多种下游任务中的性能。
2026-01-03 cs.IR
Improving Table Retrieval with Question Generation from Partial Tables
提出QGpT方法,利用大语言模型从表格局部片段生成合成问题并联合嵌入,以增强表格与用户查询的语义对齐,无需嵌入整表即可显著提升密集和后期交互检索器的检索性能。
2025-08-08 cs.IR
LLM2IR: simple unsupervised contrastive learning makes long-context LLM great retriever
Computer Science(计算机科学)
LLM2IR通过简单无监督对比学习将长上下文LLM转化为高效检索器,验证了上下文长度与检索能力的关系。
2025-10-31 cs.AI cs.CL cs.IR
ToolDreamer: Instilling LLM Reasoning Into Tool Retrievers
The Pennsylvania State University(宾夕法尼亚州立大学);Bosch Research North America(博世北美研究)
ToolDreamer通过合成工具描述来改进工具检索,提升稀疏和密集检索器性能,减少LLM上下文窗口压力。
2026-03-02 cs.CL cs.IR
Making Large Language Models Efficient Dense Retrievers
University of Amsterdam(阿姆斯特丹大学);University of Maryland, College Park(马里兰大学 College Park 分校);Johns Hopkins University, HLTCOE(约翰霍普金斯大学 HLTCOE)
EffiR通过粗到细的MLP压缩策略和检索特定微调,使大语言模型在保持性能的同时显著减少模型大小和推理成本。
2025-12-23 cs.CL cs.IR
DeepRetrieval: Hacking Real Search Engines and Retrievers with Large Language Models via Reinforcement Learning
DeepRetrieval提出一种无需监督数据的强化学习方法训练LLM生成查询,以检索指标为奖励,在多个检索任务上以3B参数超越GPT-4o等领先模型。
2025-04-12 cs.IR
Large Language Models are Strong Zero-Shot Retriever
Microsoft Cooperation(微软公司);University of Maryland(马里兰大学)
提出LameR方法,仅用LLM实现零样本大规模检索,通过候选答案增强查询并采用BM25规避检索瓶颈,在基准数据集上取得极具竞争力的性能。
2023-08-02 cs.CL cs.IR
Densifying Sparse Representations for Passage Retrieval by Representational Slicing
学习稀疏和密集表示捕捉不同的成功方法来文本检索和融合的结果已被证明是更有效和强大的。先前的工作结合了密集和稀疏检索融合他们的模型分数。作为一种替代方案,本文提出了一种简单的方法来加密稀疏表示的文本检索,不涉及任何训练。我们的密集稀疏表示(DSRs)是可解释的,可以很容易地与密集表示相结合,用于端到端检索。我们证明了我们的方法可以在一个单一的模型中联合学习稀疏和密集表示,然后将它们结合起来进行稠密检索。实验结果表明,结合我们的DSR和密集表示产生了平衡的有效性和效率之间的权衡。
2021-12-09 cs.IR
Semantic Search for Information Retrieval
本研究综述信息检索从词汇技术到语义检索器的发展,介绍BM25基线及DPR、ColBERT、SPLADE、MonoT5等现代语义检索模型,还探讨评估策略、挑战与未来方向。
2025-08-25 cs.IR
The Case Against Generation for Retrieval: Discriminative Language Models as Effective Retrievers
Meta
研究探讨大语言模型用于检索的问题,通过将其作为语义表示主干重振双塔检索架构,引入创新的双塔框架,经实验评估,该架构在公共基准和生产系统中表现出色,证明传统双塔范式结合现代学习后在工业检索中仍具竞争力。
2026-07-29 cs.IR
$\texttt{MixGR}$: Enhancing Retriever Generalization for Scientific Domain through Complementary Granularity
Technical University of Darmstadt(达姆施塔特工业大学);Carnegie Mellon University(卡内基梅隆大学);University of Washington(华盛顿大学);University of Pennsylvania(宾夕法尼亚大学);Tencent AI Lab(腾讯AI实验室)
针对科学领域密集检索器存在的领域适配差、难处理复杂查询-文档匹配的问题,本文提出零样本方法MixGR,融合多粒度匹配指标生成统一相似度分数,显著提升多类检索器性能及下游科学问答效果。
2024-11-01 cs.CL cs.IR
Effective Dense Retrieval using Only In-Context Examples
University of Waterloo(滑铁卢大学);The University of Queensland(昆士兰大学)
提出免训练的RICE方法,利用上下文示例提示LLM生成高质量稠密表示,显著提升检索准确性,无需额外训练。
2026-09-30 cs.CL cs.IR
Hybrid Retrieval for Hallucination Mitigation in Large Language Models: A Comparative Analysis
University of Pisa(比萨大学);Scuola Normale Superiore(高等师范学院)
本文提出一种结合查询扩展与动态加权RRF融合的混合检索方法,并在HaluBench上验证其相比BM25稀疏检索和Sentence Transformers密集检索能更有效提升检索相关性、降低LLM幻觉率与拒绝率。
2025-02-28 cs.AI cs.CL cs.IR
NER Retriever: Zero-Shot Named Entity Retrieval with Type-Aware Embeddings
Computer Science Department, Bar-Ilan University(巴伊兰大学计算机科学系)
针对无预定义类型的即席命名实体检索问题,提出基于大语言模型中间层value向量和轻量对比投影网络的零样本框架NER Retriever,性能优于现有基线,为无模式实体检索提供实用方案。
2025-09-04 cs.AI cs.CL cs.IR
Invar-RAG: Invariant LLM-aligned Retrieval for Better Generation
提出Invar-RAG两阶段微调架构,通过集成LoRA表示学习、不变性损失及精细微调方法,解决LLM应用于RAG时的特征局部性和方差问题,在三个ODQA数据集上显著优于基线。
2024-11-16 cs.IR
Evaluating Multi-Hop Reasoning in RAG Systems: A Comparison of LLM-Based Retriever Evaluation Strategies
Universität Innsbruck(因斯布鲁克大学)
本文通过对比三种LLM评估策略,提出上下文感知检索评估(CARE),证明其在提升RAG系统多跳推理能力方面效果显著,尤其在参数多和上下文长的模型中表现更优。
2026-04-20 cs.AI cs.IR
KG-Retriever: Efficient Knowledge Indexing for Retrieval-Augmented Large Language Models
Beijing University of Posts and Telecommunications(北京邮电大学);University of Science and Technology Beijing(北京科技大学);Xiaomi Corporation(小米公司)
本文提出KG-Retriever框架,通过知识图谱层与协作文档层构成的分层索引图增强文档连通性,缓解多跳问答中的信息碎片化问题,并在五个QA数据集上验证了其检索效果与效率。
2025-05-05 cs.AI cs.IR