RecaLLM: Addressing the Lost-in-Thought Phenomenon with Explicit In-Context Retrieval
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
RecaLLM通过交替推理与显式上下文检索解决推理过程中因长上下文导致的检索性能下降问题,显著提升了RULER和HELMET基准测试表现。
2026-04-10 cs.AI cs.CL cs.IR
You Only Use Reactive Attention Slice For Long Context Retrieval
University of California, San Diego(加利福尼亚大学圣迭戈分校);Meta AI (FAIR)(Meta AI(FAIR))
提出基于注意力的检索技术YOURA,利用反应分数排序句子相关性,在保持质量的同时提升长上下文查询的推理吞吐量。
2024-09-03 cs.AI cs.CL cs.IR
Learning to Reason for Multi-Step Retrieval of Personal Context in Personalized Question Answering
University of Washington(华盛顿大学);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
PR2通过强化学习框架结合推理与检索,提升个性化问答的准确性和用户特定偏好对齐度。
2026-02-22 cs.AI cs.CL cs.IR
Eliciting In-context Retrieval and Reasoning for Long-context Large Language Models
University of Edinburgh(爱丁堡大学);Apple(苹果公司)
针对现有长上下文基准过于简化的问题,本文提出ICR^2基准及检索微调、注意力探测和联合检索头训练方法,显著提升Mistral-7B的上下文检索推理性能。
2025-06-09 cs.AI cs.CL cs.IR
Retrieval meets Long Context Large Language Models
NVIDIA(英伟达)
本文对比并结合检索增强与长上下文 LLM,证明检索能以更低计算显著提升不同上下文窗口模型,最佳检索增强 Llama2-70B-32k 在九项任务上优于 GPT-3.5 等模型。
2024-01-23 cs.AI cs.CL cs.IR
Beyond Retrieval: Improving Evidence Quality for LLM-based Multimodal Fact-Checking
本文提出Aletheia框架,通过改进证据检索策略提升多模态事实核查的证据质量,实验证明其在虚假信息检测中的高准确率。
2026-01-08 cs.AI
Structure and Diversity Aware Context Bubble Construction for Enterprise Retrieval Augmented Systems
Bravada Group(Bravada集团);Eye Dream Pty Ltd(Eye Dream私人有限公司)
本文提出一种结构感知和多样性约束的上下文气泡构建方法,以提高企业检索增强系统中上下文的效率和信息完整性。
2026-01-15 cs.AI
Context-Gated Associative Retrieval: From Theory to Transformers
UIUC(伊利诺伊大学香槟分校);University of Minnesota, Twin Cities(明尼苏达大学双城分校);Stony Brook University(石溪大学)
本文提出一种两阶段关联记忆架构,通过上下文门在检索前和过程中重塑能量景观,理论证明其提升检索性能,并将理论应用于变换器,验证上下文学习作为门控检索的作用。
2026-05-08 cond-mat.dis-nn cs.AI
EXIT: Context-Aware Extractive Compression for Enhancing Retrieval-Augmented Generation
School of Computing(计算机学院);Graduate School of AI(人工智能研究生院);Korea Advanced Institute of Science and Technology(韩国科学技术院)
提出抽取式上下文压缩框架EXIT,通过保留上下文依赖的可并行化句子分类适应查询复杂度,在单跳和多跳QA任务中超越现有方法与未压缩基线,显著提升了RAG的准确率与效率。
2025-05-29 cs.AI cs.CL cs.IR
Re-ranking and Late Interaction Drive Retrieval Quality: A Controlled Comparison of RAG Strategies for Scientific Question Answering
San Jose State University(圣何塞州立大学)
本研究受控比较六种RAG检索策略,发现重排序与后期交互显著提升科学问答检索质量,并发布含19,484个合成问题的开放测试平台。
2026-10-01 cs.AI cs.IR cs.LG
FACT: Examining the Effectiveness of Iterative Context Rewriting for Multi-fact Retrieval
DeepWisdom(深度智慧);Université de Montréal(蒙特利尔大学);Mila(米拉研究所);Google(谷歌)
针对LLM生成时多事实检索易丢失关键信息的问题,本文提出迭代上下文重写方法FACT,通过多轮精炼逐步捕获遗漏事实,并在多任务上验证其显著提升效果。
2024-10-28 cs.AI cs.CL
ATIR: Towards Audio-Text Interleaved Contextual Retrieval
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学北京校区人工智能学院)
本文提出ATIR任务,通过整合ASR、QA和检索数据集构建基准,解决现有音频检索数据集在语义检索上的局限,引入新的token压缩机制提升MLLM在ATIR中的性能。
2026-04-22 cs.AI cs.SD
Beyond the Parameters: A Technical Survey of Contextual Enrichment in Large Language Models: From In-Context Prompting to Causal Retrieval-Augmented Generation
本文综述了大型语言模型中通过增加结构化上下文来提升性能的技术,涵盖上下文学习、提示工程、检索增强生成等方法,并提出透明的文献筛选协议和可信检索增强NLP的研究优先级。
2026-04-03 cs.AI cs.CL
Beyond More Context: Retrieval Diversity Boosts Multi-Turn Intent Understanding
Independent Researcher(独立研究者)
针对任务导向聊天机器人多轮意图理解中token预算有限、检索忽略多样性的问题,提出感知多样性的检索框架,平衡意图覆盖与语言多样性,在等token预算下显著提升联合目标准确率,验证了检索内容多样性的作用。
2025-10-20 cs.AI
SEAL: Scaling to Emphasize Attention for Long-Context Retrieval
Department of Convergence IT Engineering(融合IT工程系);Department of Computer Science and Engineering(计算机科学与工程系);Graduate School of Artificial Intelligence(人工智能研究生院)
提出SEAL方法,通过识别并调整与长上下文检索相关的注意力头,利用生成数据增强其强度,显著提升LLM长上下文检索性能,并可扩展上下文限制。
2025-06-23 cs.AI cs.CL cs.LG
Pareto-Optimized Open-Source LLMs for Healthcare via Context Retrieval
Barcelona Supercomputing Center (BSC)(巴塞罗那超级计算中心(BSC))
本研究通过优化上下文检索增强开源LLMs,在MedQA基准上以极低成本实现SOTA医学问答准确率,并发布OpenMedQA基准、检索优化流程及开源资源,推动高性价比医疗AI发展。
2025-04-03 cs.AI
Improving Context Fidelity via Native Retrieval-Augmented Reasoning
DIRO, Université de Montréal(蒙特利尔大学计算机科学与运筹学系);MetaGPT;Mila - Quebec AI Institute(米拉-魁北克人工智能研究所);McGill University(麦吉尔大学);Yale University(耶鲁大学);Canada CIFAR AI Chair(加拿大CIFAR人工智能教席)
提出原生检索增强推理框架CARE,通过模型自身检索能力在推理链中显式整合上下文证据,显著提升了LLMs的上下文保真度及知识密集型任务的准确性。
2025-09-17 cs.AI cs.CL
DuetRAG: Collaborative Retrieval-Augmented Generation
Zhejiang University(浙江大学)
针对复杂领域问题中RAG检索不相关导致生成质量低的问题,提出DuetRAG框架,通过同时整合领域微调和RAG模型提升检索质量,并在HotPot QA上达到专家水平。
2024-05-12 cs.AI cs.CL
SUGAR: Leveraging Contextual Confidence for Smarter Retrieval
Korea University(高丽大学)
针对RAG统一检索导致的来源低效与噪声干扰问题,本文提出SUGAR,用基于上下文的熵自适应决定是否检索及单步或多步检索,从而提升问答性能和推理效率。
2025-01-09 cs.AI cs.CL
Benchmarking Retrieval-Augmented Generation in Multi-Modal Contexts
Northeastern University, China(东北大学);Microsoft Research Asia(微软亚洲研究院);Tsinghua University(清华大学)
本文提出多模态RAG基准M$^2$RAG和指令微调方法MM-RAIT,通过四个开放域任务评估多模态大模型,实验显示MM-RAIT显著提升响应质量,优于现有模型。
2025-08-07 cs.AI
Enhancing Robustness of Retrieval-Augmented Language Models with In-Context Learning
Seoul National University(首尔国立大学)
本文提出基于上下文学习的方法,通过引入机器阅读理解演示增强检索增强语言模型识别不可回答与冲突场景的能力,在无需微调的情况下提升开放域问答鲁棒性。
2024-08-08 cs.AI cs.CL
On The Importance of Reasoning for Context Retrieval in Repository-Level Code Editing
JetBrains Research(JetBrains研究院)
本文将仓库级代码编辑中的上下文检索与流水线其他组件解耦,通过专门实验分析推理的作用,发现推理能提升上下文精确度但无法判断上下文充分性,并概述了专用工具在上下文收集中的最终角色。
2024-06-06 cs.AI cs.LG cs.SE
Learning to Filter Context for Retrieval-Augmented Generation
Carnegie Mellon University(卡内基梅隆大学);Bosch Research(博世研究院)
提出FILCO方法,通过词汇和信息论识别有用上下文并训练过滤模型,在六个知识密集型任务上优于现有方法,提升生成质量。
2023-11-14 cs.AI cs.CL
Enhancing Retrieval and Managing Retrieval: A Four-Module Synergy for Improved Quality and Efficiency in RAG Systems
University of Technology Sydney(悉尼科技大学)
针对现有RAG系统存在的单查询信息平台效应、歧义、无关知识及冗余检索问题,提出含查询重写器+、知识过滤器等的四模块协同方案,经六个QA数据集验证可同时提升响应质量与效率。
2024-07-15 cs.AI cs.CL
Retrieval Meets Reasoning: Dynamic In-Context Editing for Long-Text Understanding
Tsinghua University(清华大学);Huawei Technologies Co., Ltd.(华为技术有限公司)
针对大语言模型上下文长度受限难以进行长文本多跳推理的问题,提出动态上下文内编辑方法,将长文本视为可塑外部知识交互式整合信息,提升受限模型推理性能且降低成本。
2024-06-18 cs.AI cs.CL
Conflict-Aware Soft Prompting for Retrieval-Augmented Generation
Sungkyunkwan University(成均馆大学)
针对RAG中上下文与模型记忆冲突的问题,提出CARE框架,通过上下文评估器与软提示引导推理,在QA和事实验证基准上平均提升5.0%。
2025-09-26 cs.AI cs.CL
Large Language Models are In-Context Molecule Learners
Department of Computing, The Hong Kong Polytechnic University(计算机系,香港理工大学);Shanghai Jiao Tong University(上海交通大学);Shanghai AI Lab(上海人工智能实验室)
ICMA通过上下文分子微调使LLMs无需额外训练即可实现分子-文本对齐,证明LLMs具备上下文分子学习能力。
2025-04-07 cs.AI cs.CL
On the Influence of Context Size and Model Choice in Retrieval-Augmented Generation Systems
Technical University of Munich(慕尼黑工业大学);School of Computation, Information and Technology(计算、信息与技术学院)
本文系统评估RAG中的上下文大小、检索方法与八种基础LLM,发现15个片段前性能稳步提升,之后停滞或下降,且模型优势随领域不同而变化。
2025-02-20 cs.AI cs.CL
MATCH: Modulating Attention via In-Context Retrieval for Long-Context Transformers
Huawei Canada(华为加拿大);McGill University(麦吉尔大学);Université de Montréal(蒙特利尔大学);Huawei Equal Contribution(华为同等贡献)
提出MATCH框架,通过高效检索系统动态集成上下文信息来增强稀疏注意力机制,在长上下文任务中提升性能并保持效率。
2026-06-29 cs.AI cs.CL cs.LG
When Context Misleads: Intent-Guided Decoding for Robust Retrieval-Augmented Generation
针对现有RAG系统固定信任策略的缺陷,提出意图引导解码(IGD)框架,经多基准评估,可显著提升事实恢复能力,同时保持或改善上下文遵循行为。
2026-08-18 cs.AI cs.CL
Data Quality Challenges in Retrieval-Augmented Generation
University of Bayreuth(拜罗伊特大学);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
本研究针对传统数据质量框架无法适配RAG系统动态多阶段特性的问题,通过对IT从业者的访谈归纳出覆盖RAG四阶段的15个数据质量维度,提出需新增维度、前置管理及动态分步管理的策略。
2025-10-01 cs.AI cs.HC
EgoCITE: Context-Augmented Indexing and Time-Aware Retrieval for Long-Horizon Egocentric Memory
University of Michigan(密歇根大学)
本研究针对长时程自我中心记忆系统的索引不可靠、忽略时序意图的问题,提出EgoCITE框架,经多数据集评估,其准确率优于基线且成本显著低于长上下文LLM智能体。
2026-08-20 cs.AI cs.CL cs.CV
Search Is Not Retrieval: Decoupling Semantic Matching from Contextual Assembly in RAG
Services AI Research Group, Dell Technologies(Dell Technologies人工智能服务研究组)
针对现有RAG检索系统混淆相关信息查找与推理上下文供给的问题,提出SINR双层解耦框架,在无额外开销下提升检索性能,为下一代检索增强AI系统提供基础。
2025-11-12 cs.AI cs.IR
ICICLE: Expanding Retrieval with In-Context Documents
National Taiwan University(台湾大学);Johns Hopkins University(约翰霍普金斯大学)
提出ICICLE框架,通过上下文文档的docid生成实现增量式生成检索,避免重新训练和灾难性遗忘。
2026-08-20 cs.AI cs.IR
Combining Q&A Pair Quality and Question Relevance Features on Community-based Question Retrieval
Wuhan University of Technology(武汉理工大学)
问答社区已经成为人们从互联网上获取知识和信息的重要途径。然而,现有的翻译模型的基础上不考虑查询特定的语义时,分配权重的查询检索。因此,本文在传统主题翻译模型的基础上改进了术语加权模型,并进一步考虑问答对的质量特征,提出了一种基于社区的问答质量和相关度相结合的问题检索方法(T2LM+)。我们还提出了一种基于卷积神经网络的问句检索方法。实验结果表明,与目前比较先进的方法相比,本文提出的两种方法分别提高了MAP值4.91%和6.31%。
2019-07-03 cs.AI cs.CL cs.IR
Beyond Context Windows: Persistent Discovery Context for Data-Centric Agents
Megagon Labs(美嘉冈实验室)
针对以数据为中心智能体发现结果未被复用的问题,提出持久发现上下文这一轻量级内存层,在多结构化数据环境中提升了检索质量,部分场景下其性能优于元数据检索。
2026-09-03 cs.AI cs.IR
How Can Context Help? Exploring Joint Retrieval of Passage and Personalized Context
IBM Research AI(IBM研究院人工智能部门);Rensselaer Polytechnic Institute(伦斯勒理工学院)
针对个性化上下文融入文档对话系统研究不足的问题,提出上下文感知段落检索任务,构建专用数据集并提出PCAS方法,实验证明其在段落检索和相关上下文识别上均优于基线,可为该方向研究提供支撑。
2023-08-26 cs.AI cs.CL cs.IR
Agent Retrieval Bench: Evaluating Repository Context Retrieval for Coding Agents
National University of Singapore (NUS)(新加坡国立大学);Peking University(北京大学)
研究代码智能体仓库上下文检索问题,引入智能体检索基准,涵盖多种检索任务和样本。评估多种检索方法,发现无单一方法占优,存在校准差距,且记录轨迹有缺失。通过试验表明检索得出的初始上下文有优势,神谕金上下文还有提升空间。
2026-07-29 cs.AI cs.CL cs.IR
Semantic Certainty Assessment in Vector Retrieval Systems: A Novel Framework for Embedding Quality Evaluation
提出一种轻量级框架,结合量化鲁棒性和邻域密度指标,在查询级别预测向量检索性能,在4个数据集上Recall@10提升9.4±1.2%,计算开销低于检索时间的5%。
2025-07-08 cs.CL cs.IR
How important is Recall for Measuring Retrieval Quality?
Primer Technologies Inc.
本文评估了在大型动态知识库中,如何通过LLM判断响应质量来衡量检索质量,提出了一种无需知道总相关文档数的高效方法。
2026-05-07 cs.CL cs.IR
Context-augmented Retrieval: A Novel Framework for Fast Information Retrieval based Response Generation using Large Language Model
针对RAG问答系统因语料库增大导致回答质量下降的问题,提出结合经典文本分类与LLM的上下文增强检索(CAR)框架,通过实时分类分区向量数据库实现快速检索并提升生成质量。
2024-07-31 cs.IR
Controlled Retrieval-augmented Context Evaluation for Long-form RAG
University of Amsterdam(阿姆斯特丹大学);Leiden University(莱顿大学);Johns Hopkins University, HLTCOE(约翰斯·霍普金斯大学,HLTCOE)
CRUX提出了一种受控检索增强上下文评估框架,用于评估长形式RAG任务中检索增强上下文的质量和影响。
2026-01-09 cs.IR
Long Context Modeling with Ranked Memory-Augmented Retrieval
University of New South Wales(新南威尔士大学);Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));The Hong Kong University of Science and Technology(香港科技大学);University of Southampton(南安普顿大学);Mohamed Bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
本文提出了一种增强的排名记忆增强检索框架,通过动态排名记忆条目和学习到的排名技术,提升语言模型在长上下文任务中的性能和可扩展性。
2026-05-18 cs.AI cs.IR cs.LG
Same Image, Different Meanings: Toward Retrieval of Context-Dependent Meanings
Tokyo Metropolitan University(东京都立大学);CyberAgent
研究图像意义的上下文依赖性及其对检索的影响,提出L1-L4框架,探讨嵌入式叙事上下文对不同抽象层次检索效果的影响。
2026-05-13 cs.IR
Efficient Long Context Language Model Retrieval with Compression
本文提出专为长上下文语言模型检索设计的段落压缩方法CoLoR,通过合成数据与偏好优化训练,在压缩上下文1.91倍的同时将检索性能提升6%。
2025-05-28 cs.IR
Predicting Retrieval Utility and Answer Quality in Retrieval-Augmented Generation
University of Glasgow(格拉斯哥大学)
本文提出在检索增强生成中通过预测检索文档效用和答案质量来提升生成性能。
2026-01-20 cs.IR
Enhanced Trustworthy and High-Quality Information Retrieval System for Web Search Engines
万维网是最重要的信息来源。但是,信息的正确性得不到保证,搜索引擎检索到的信息相互冲突,所提供的信息质量也从低质量到高质量不等。我们提供了增强的可信度,在特定的(实体)和广泛的(内容)查询在网络搜索。可信度的过滤基于5个因素:出处,权威,年龄,流行度和相关链接。基于这5个因素计算可信度,并将其存储,从而提高检索可信网站的性能。计算出的可信度仅针对静态网站存储。质量是根据用户选择的策略提供的。基于质量的检索到的可信信息的排名使用WIQA(Web信息质量评估)框架。
2009-11-18 cs.IR
CMDR: Contextual Multimodal Document Retrieval
Human Informatics Labs.(人文信息实验室);NTT, Inc.(日本NTT公司)
研究多模态文档检索,提出CMDR-Embed框架联合编码页面纳入文档上下文,引入CMCL对比学习目标训练,实验证明该框架显著优于非上下文嵌入,凸显上下文感知多模态嵌入对文档检索的重要性。
2026-07-08 cs.AI cs.CL cs.CV
Effects of context, complexity, and clustering on evaluation for math formula retrieval
现在有几个用于公式检索任务的测试集合,其中系统的目标是识别有用的数学公式,以响应作为公式提出的查询。这些测试集合在查询格式、查询复杂性、查询数量、内容源和相关性定义方面有所不同。六个公式检索测试集合之间的比较说明,基于查询和/或文档上下文定义相关性可能是必然的,系统结果随公式复杂性而显著变化,并且在对具有相同符号布局的公式进行聚类后判断相关性(即,符号布局树)可能会影响系统首选项排序。
2021-11-20 cs.IR
Context-Aware Sentence/Passage Term Importance Estimation For First Stage Retrieval
词频是一种用于识别查询或文档中某个词的重要性的常用方法。但这是一个微弱的信号,特别是当频率分布是平坦的时候,比如在长查询或短文档中,文本是句子/句子长度。本文提出了一个深度上下文化术语权重框架,该框架学习将BERT的上下文化文本表示映射到句子和段落的上下文感知术语权重。当应用于段落时,DeepCT-Index产生的术语权重可以存储在普通的倒排索引中,用于段落检索。当应用于查询文本时,DeepCT-Query生成加权词袋查询。这两种类型的术语权重可以直接用于典型的第一阶段检索算法。这是新颖的,因为大多数基于深度神经网络的排名模型具有更高的计算成本,并且因此限于后期排名器。在四个数据集上的实验表明,DeepCT的深度上下文文本理解大大提高了第一阶段检索算法的准确性。
2019-11-26 cs.IR
xRAG: Extreme Context Compression for Retrieval-augmented Generation with One Token
Peking University(北京大学);Microsoft(微软公司);National Key Laboratory of General Artificial Intelligence(通用人工智能国家重点实验室)
本研究提出xRAG检索增强生成上下文压缩方法,通过模态桥接器融合检索文档嵌入与语言模型空间,冻结检索器和大模型,实现极致压缩,在多项任务上性能提升超10%且FLOPs降低3.53倍。
2024-12-09 cs.AI cs.CL cs.IR
Understanding and Predicting Characteristics of Test Collections in Information Retrieval
研究信息检索中的社区评估,例如NIST的文本检索会议(TREC),通过汇集许多团队提交的文档排序来构建可重用的测试集合。自然地,最终测试集的质量因此在很大程度上取决于参与团队的数量和他们提交的运行的质量。在这项工作中,我们调查:i)参与者的数量,再加上其他因素,如何影响测试集合的质量;和ii)测试集合的质量是否可以推断之前,从人类评估员收集相关性判断。在六个TREC集合上进行的实验说明了团队的数量如何与各种其他因素相互作用,从而影响测试集合的质量。我们还表明,测试集合的可重用性可以预测具有很高的准确性,当相同的文档集合连续几年使用的评估活动,是常见的TREC。
2022-06-05 cs.IR
Grounding Language Model with Chunking-Free In-Context Retrieval
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学高瓴人工智能学院);Beijing Academy of Artificial Intelligence(北京智源人工智能学院)
本文提出无分块上下文检索方法(CFIC),通过利用文档隐藏状态和自回归解码直接定位证据文本,结合两种解码策略提升效率与保真度,在开放问答数据集上显著优于传统RAG方法。
2024-02-15 cs.AI cs.CL cs.IR
Retrieve What Helps, Only When It Helps: Agentic Reinforcement Learning for Selective Retrieval-Augmented Machine Translation
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Amazon(亚马逊公司)
针对现有检索增强机器翻译策略统一化的问题,提出智能体强化学习框架SRAT,通过优化翻译质量学习检索决策,实验显示其在多类翻译任务上优于基线,将检索视为可学习动作更具优势。
2026-10-15 cs.AI cs.CL cs.IR