When Do LLMs Need Retrieval Augmentation? Mitigating LLMs' Overconfidence Helps Retrieval Augmentation
University of Chinese Academy of Sciences（中国科学院大学）；ICT, CAS（中国科学院信息技术研究所）；CAS Key Lab of Network Data Science and Technology（中国科学院网络数据科学与技术重点实验室）
本文针对LLM知识边界感知不足与过度自信问题，提出增强其不确定性感知的方法，使检索增强能按需触发，从而以更少检索调用取得相当或更优性能。
2024-06-11 cs.CL
DuetRAG: Collaborative Retrieval-Augmented Generation
Zhejiang University（浙江大学）
针对复杂领域问题中RAG检索不相关导致生成质量低的问题，提出DuetRAG框架，通过同时整合领域微调和RAG模型提升检索质量，并在HotPot QA上达到专家水平。
2024-05-12 cs.AI cs.CL
QAEA-DR: A Unified Text Augmentation Framework for Dense Retrieval
Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院）；Pengcheng Laboratory（鹏城实验室）
本文提出面向密集检索的统一文本增强框架QAEA-DR，利用LLM零样本提示生成问答对与元素驱动事件作为原始文本补充，并引入打分评估与重生成机制，有效缓解了长文本信息丢失与低质量文本匹配不佳的问题。
2025-03-01 cs.AI cs.CL cs.IR
Evaluating Chunking Strategies for Retrieval-Augmented Generation on Academic Texts
研究在检索增强生成系统中，基于聚类的语义分块是否优于固定大小和递归分块，通过RAGAs框架在长结构化学术论文上评估检索和答案质量，发现聚类分块未超越简单策略。
2026-07-03 cs.AI cs.CL cs.IR
Stateful Evidence-Driven Retrieval-Augmented Generation with Iterative Reasoning
本文提出一种具有迭代推理的有状态证据驱动检索增强生成框架，通过逐步积累证据提升问答稳定性与鲁棒性，在多个基准测试中表现出色。
2026-03-25 cs.AI cs.CL
Abductive Inference in Retrieval-Augmented Language Models: Generating and Validating Missing Premises
Independent Researcher, Mountain View, CA94039, USA（独立研究者）
本文提出将溯因推理集成到检索增强语言模型中，通过检测证据不足、生成并验证缺失前提，在多个基准上提升了答案准确性与推理忠实度。
2025-11-06 cs.AI cs.CL
Predictive Prefetching for Retrieval-Augmented Generation
Department of Computer Science, University of Massachusetts Boston（马萨诸塞大学波士顿分校计算机科学系）
本文提出了一种先进的异步检索框架，通过预测检索触发时机和所需信息，以减少延迟并提高生成效率，同时保持回答质量。
2026-05-18 cs.AI cs.CL
Beyond the Parameters: A Technical Survey of Contextual Enrichment in Large Language Models: From In-Context Prompting to Causal Retrieval-Augmented Generation
本文综述了大型语言模型中通过增加结构化上下文来提升性能的技术，涵盖上下文学习、提示工程、检索增强生成等方法，并提出透明的文献筛选协议和可信检索增强NLP的研究优先级。
2026-04-03 cs.AI cs.CL
QUILL: Query Intent with Large Language Models using Retrieval Augmentation and Multi-stage Distillation
Google Research（谷歌研究院）；Google（谷歌）
大语言模型（LLM）在各种文本理解任务上显示出令人印象深刻的结果。然而，搜索查询却构成了一个独特的挑战，因为它们的长度很短，缺乏细微差别或上下文。复杂的特征工程工作并不总是导致下游的改进，因为它们的性能优势可能会被知识蒸馏的复杂性增加所抵消。因此，在本文中，我们做出了以下贡献：（1）我们证明了检索增强查询提供LLM有价值的额外的上下文，从而提高理解。虽然检索增强通常会增加LM的延迟（从而损害蒸馏效率），（2）我们提供了一种实用且有效的蒸馏检索增强LLM的方法。具体来说，我们使用了一种新的两阶段蒸馏方法，使我们能够进行检索增强的收益，而不会遭受通常与之相关的计算增加。（3）我们证明了所提出的方法（QUILL）的好处在十亿规模，现实世界的查询理解系统，从而产生巨大的收益。通过广泛的实验，包括公共基准测试，我们相信这项工作提供了一个实用的检索增强查询理解的配方。
2022-10-27 cs.CL cs.IR
A Survey of Multimodal Retrieval-Augmented Generation
Huawei Cloud BU（华为云业务部）
本综述聚焦多模态检索增强生成（MRAG），其扩展纯文本RAG框架整合多模态数据以增强LLMs，减少幻觉并提升问答系统性能，还总结其组件、数据集等，指出挑战与未来方向。
2025-03-26 cs.AI cs.CL cs.ET
Retrieval-Augmented Generation with Hierarchical Knowledge
CSE, The Chinese University of Hong Kong（计算机科学与工程系，香港中文大学）
本文提出HiRAG，一种利用层级知识增强检索增强生成系统在索引与检索中语义理解和结构捕获能力的新方法，实验证明其性能显著优于现有最先进基线。
2025-09-26 cs.AI cs.CL
Exploring Retrieval Augmented Generation in Arabic
Newgiza University（新吉萨大学）
针对阿拉伯语RAG应用研究不足的问题，本文通过全面案例研究探索检索阶段的多种语义嵌入模型与生成阶段的若干LLM，还涉及方言差异问题，证实现有模型可有效构建阿拉伯语RAG流水线。
2024-08-14 cs.AI cs.CL
MedBioRAG: Semantic Search and Retrieval-Augmented Generation with Large Language Models for Medical and Biological QA
Seonok Kim（独立研究者）
MedBioRAG通过结合语义搜索、文档检索和监督微调，提升医学和生物学问答任务的性能。
2025-12-10 cs.AI cs.CL
Novelty Controlled Paraphrase Generation with Retrieval Augmented Conditional Prompt Tuning
Bloomberg（彭博社）
释义生成是自然语言处理中一项基本而长期的任务。在本文中，我们集中在两个贡献的任务：（1）我们提出检索增强提示微调（RAPT）作为一个参数有效的方法，以适应大型预训练的语言模型的释义生成;（2）我们提出新颖性条件RAPT（NC-RAPT）作为一个简单的模型无关的方法，使用专门的提示令牌控制释义生成不同层次的词汇新颖性。通过在四个数据集上进行广泛的实验，我们证明了所提出的方法的有效性，保留了原始文本的语义内容，同时诱导词汇的新颖性。
2022-03-12 cs.AI cs.CL
DREAM: Improving Video-Text Retrieval Through Relevance-Based Augmentation Using Large Foundation Models
University of Waterloo（滑铁卢大学）；Duke University（杜克大学）；City University of Hong Kong（香港城市大学）；Netflix Eyeline Studios（Netflix Eyeline工作室）
本文提出DREAM范式，利用大型语言模型和视觉生成模型对视频与文本进行基于相关性的增强，从而学习更具泛化性的特征，并在多个视频-文本检索基准上取得优于现有方法的结果。
2025-02-04 cs.CL cs.CV cs.IR
Unraveling and Mitigating Retriever Inconsistencies in Retrieval-Augmented Large Language Models
Harbin Institute of Technology（哈尔滨工业大学）；XVERSE Technology Inc.（XVERSE科技公司）
本文揭示了检索增强型大语言模型中存在的检索器不一致性问题，通过理论分析退化行为成因，提出了可训练的检索器集成框架EoR，自适应检索多知识源以减少阅读器错误，显著提升了开放域问答性能。
2025-03-06 cs.AI cs.CL
Retrieval Augmented Generation and Representative Vector Summarization for large unstructured textual data in Medical Education
University of Peradeniya（佩拉德尼亚大学）
本文探讨了检索增强生成在医学教育领域的应用，并提出了一种基于代表性向量、结合抽取式与抽象式的大型非结构化文本数据摘要方法。
2023-08-01 cs.AI cs.CL
Alleviating Hallucination in Large Vision-Language Models with Active Retrieval Augmentation
Huazhong University of Science and Technology（华中科技大学）；Zhejiang University（浙江大学）；Xiamen University（厦门大学）；Zhejiang Gongshang University（浙江工商大学）
本文提出主动检索增强框架ARA，通过剖析图像层次化检索目标、筛选可靠检索结果并在低确定性阶段适时检索，有效缓解LVLM幻觉问题。
2024-08-01 cs.AI cs.CL cs.CV
Understanding Retrieval-Augmented Task Adaptation for Vision-Language Models
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
本文系统研究了检索增强适应中单模态与跨模态检索的作用，揭示logit集成的关键性，并给出理论支撑，为视觉-语言模型在低数据场景下的适应提供新见解。
2024-05-02 cs.AI cs.CV cs.LG
The Atlas of In-Context Learning: How Attention Heads Shape In-Context Retrieval Augmentation
Department of Artificial Intelligence, Fraunhofer Heinrich Hertz Institute（人工智能系，弗劳恩霍夫海因里希·赫兹研究所）；Department of Electrical Engineering and Computer Science, Technische Universität Berlin（电气工程与计算机科学系，柏林技术大学）；BIFOLD - Berlin Institute for the Foundations of Learning and Data（柏林学习与数据基础研究所）；Centre of eXplainable Artificial Intelligence, Technological University Dublin（可解释人工智能中心，都柏林技术大学）
本文通过归因方法识别上下文学习中的专门注意力头，揭示其理解指令、检索信息及存储知识的作用，并利用这些见解追踪知识来源，以促进更安全透明的语言模型。
2025-10-27 cs.CL cs.IR cs.LG
Retrieval-Augmented VLMs for Multimodal Melanoma Diagnosis
Handong Global University（-handong全球大学）
针对黑色素瘤诊断中VLM缺乏临床特异性的问题，提出检索增强VLM框架，通过纳入相似病例提示实现无需微调的准确分类与错误纠正，显著优于传统基线。
2025-09-10 cs.AI cs.CV cs.LG
CRAB: A Benchmark for Evaluating Curation of Retrieval-Augmented LLMs in Biomedicine
PatSnap Co., LTD.（PatSnap公司）
针对生物医学检索增强大语言模型策展能力评估空白，提出多语言基准CRAB，采用基于引用的新指标，发现主流模型策展性能差异显著。
2025-08-06 cs.CL
The Effect of Text Chunk Size on Retrieval-Augmented Generation Performance
Milwaukee School of Engineering（密尔沃基工程学院）
研究文本块大小对检索增强生成性能的影响，评估其与检索段数量如何影响生成质量和检索效果，通过比较配置，以更好理解文档分割对检索增强生成系统性能和效率的作用。
2026-07-29 cs.AI cs.CL cs.IR
GeAR: Graph-enhanced Agent for Retrieval-augmented Generation
Huawei Technologies Co., Ltd.（华为技术有限公司）
GeAR通过图扩展机制增强基础检索器，并集成智能体框架实现多步检索，在MuSiQue等数据集上取得超10%的性能提升。
2025-06-22 cs.AI cs.CL cs.IR
RAGE Against the Machine: Retrieval-Augmented LLM Explanations
University of Waterloo（滑铁卢大学）；York University（约克大学）
本文提出RAGE，一个交互式工具，通过反事实分析和剪枝方法解释检索增强的大语言模型，帮助用户识别影响答案的关键上下文并查看答案来源。
2024-05-11 cs.AI cs.CL cs.IR
Towards Comprehensive Vietnamese Retrieval-Augmented Generation and Large Language Models
Foundation Models Lab, BKAI（BKAI基础模型实验室）；Hanoi University of Science and Technology（河内科技大学）；University of Information Technology（信息技术大学）；Vietnam National University HCMC（胡志明市越南国家大学）
该研究通过开发发布越南语RAG和LLM的开放数据集与预训练模型，推动越南语理解与生成领域的技术发展。
2024-03-05 cs.CL
R^2AG: Incorporating Retrieval Information into Retrieval Augmented Generation
School of Computer Science, South China Normal University（华南师范大学计算机学院）；The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；The Hong Kong University of Science and Technology（香港科技大学）
针对大语言模型与检索器间的语义鸿沟问题，提出新型增强RAG框架R^2AG，通过R^2-Former捕获检索信息并结合检索感知提示策略，在低资源冻结场景下经五个数据集验证有效提升生成效果。
2024-10-30 cs.AI cs.CL cs.IR
Enhancing Retrieval Augmentation via Adversarial Collaboration
AC-RAG通过对抗协作机制提升检索增强生成的准确性与领域适应性
2026-01-19 cs.AI
LLM-Augmented Retrieval: Enhancing Retrieval Models Through Language Models and Doc-Level Embedding
Meta
本文提出模型无关的LLM增强文档级嵌入框架，并改进负采样与损失函数等训练组件，显著提升Contriever、DRAGON和ColBERTv2等检索器，在LoTTE与BEIR上达到SOTA。
2024-04-08 cs.AI cs.IR
RAD-Bench: Evaluating Large Language Models Capabilities in Retrieval Augmented Dialogues
National Taiwan University（台湾大学）；MediaTek Research（联发科研究院）
针对现有基准缺乏多轮检索增强对话评估的空白，提出RAD-Bench基准，评估大模型的检索综合与推理能力，实验发现多轮约束增加时模型性能会下降。
2025-02-21 cs.CL
Formal Language Knowledge Corpus for Retrieval Augmented Generation
The Hebrew University of Jerusalem（耶路撒冷希伯来大学）
本研究探索使用Lean语言填充RAG系统的知识语料库，以改善LLMs在生成与评估数学证明等高级逻辑推理任务中的表现。
2024-12-21 cs.AI
MMRAG-RFT: Two-stage Reinforcement Fine-tuning for Explainable Multi-modal Retrieval-augmented Generation
MMRAG-RFT通过两阶段强化微调提升多模态检索增强生成的可解释性，实现更清晰的推理逻辑和更优的生成效果。
2025-12-19 cs.AI
Enhancing Retrieval-Augmented Large Language Models with Iterative Retrieval-Generation Synergy
Tsinghua University（清华大学）；Microsoft Research Asia（微软亚洲研究院）；Microsoft Azure AI（微软Azure人工智能）
本文提出 Iter-RetGen 方法，通过迭代方式协同检索与生成，利用模型输出作为上下文检索相关知识，在多跳问答等任务上以更少开销优于或媲美现有基线。
2023-10-23 cs.CL
EHR-RAG: Bridging Long-Horizon Structured Electronic Health Records and Large Language Models via Enhanced Retrieval-Augmented Generation
University of Illinois Urbana-Champaign, United States（伊利诺伊大学厄巴纳-香槟分校）；Yale University, United States（耶鲁大学）
EHR-RAG通过增强检索增强生成方法，提升长期结构电子健康记录在临床预测中的表现，实现宏F1平均提升10.76%。
2026-01-29 cs.AI
Optimization Methods for Personalizing Large Language Models through Retrieval Augmentation
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
本文提出通过强化学习和知识蒸馏优化检索模型，并引入检索器选择模型，在LaMP基准上显著提升个性化生成性能。
2024-04-09 cs.CL cs.IR
Crosslingual Retrieval Augmented In-context Learning for Bangla
Center for Information and Language Processing (CIS), LMU Munich（慕尼黑大学信息与语言处理中心（CIS））；Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心（MCML））
本文提出跨语言检索增强上下文学习方法，通过从高资源语言检索语义相似提示来增强BLOOMZ等多语言预训练模型，从而稳定提升其在孟加拉语低资源任务上的零样本表现。
2023-12-02 cs.CL
The Effect of Scaling, Retrieval Augmentation and Form on the Factual Consistency of Language Models
Chalmers University of Technology（查尔姆斯理工大学）；University of Gothenburg（哥德堡大学）
本文研究LLM对语义等价问题回答不一致的问题，评估扩大规模与检索增强两种策略，发现二者均有效且检索增强效率更高，并分析了Atlas组件及句法形式等因素。
2023-11-02 cs.CL
Deepchecks: Evaluating Retrieval-Augmented Generation (RAG)
Deepchecks, Ramat Gan, Israel（深检查，以色列拉马特甘）；Ben-Gurion University, Beer Sheva, Israel（本· Gurion大学，以色列贝尔谢巴）
本文提出Deepchecks框架，用于评估RAG系统，通过多维方法和根本原因分析，提升系统可靠性、相关性和用户满意度。
2026-05-14 cs.AI
Metacognitive Retrieval-Augmented Large Language Models
Beijing Academy of Artificial Intelligence（北京人工智能研究院）；University de Montreal（蒙特利尔大学）
本文提出MetaRAG方法，将检索增强生成与元认知相结合，通过三步元认知调节流程使模型自我反思并修复认知不足，显著提升了多跳推理任务的响应准确性。
2024-02-18 cs.CL cs.IR
CricRAG: Retrieval Augmented Vision-Language Models for Personalized Cricket Coaching
IISER Bhopal（博帕尔印度科学教育与研究院）；IIT Jodhpur（焦特布尔印度理工学院）
CricRAG通过检索相似但更优的技术作为参考，使视觉语言模型提供符合技能水平的个性化板球教练反馈，实现了94%的专业评估一致性。
2026-09-23 cs.AI cs.CV
Investigating the Factual Knowledge Boundary of Large Language Models with Retrieval Augmentation
Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学高瓴人工智能学院）；Baidu Inc.（百度公司）；Beijing Key Laboratory of Big Data Management and Analysis Methods（北京市大数据管理与分析方法重点实验室）
本文首次分析LLMs的事实知识边界，发现其对自身知识过度自信且难以处理内外知识冲突，并证明检索增强能提升知识边界意识，同时提出动态利用支持文档的判断策略。
2024-11-19 cs.CL cs.IR
RAG-Verus: Repository-Level Program Verification with LLMs using Retrieval Augmented Generation
University of Toronto（多伦多大学）
针对现有函数中心方法忽略的跨模块依赖与全局上下文挑战，提出RagVerus框架，结合检索增强生成与上下文感知提示实现多模块仓库自动证明合成，在新RepoVBench基准获27%相对提升，受限预算下将现有基准证明通过率提高三倍。
2025-02-07 cs.AI cs.SE
Retrieval-Augmented Large Language Models for Evidence-Informed Guidance on Cannabidiol Use in Older Adults
Lawrence Bloomberg Faculty of Nursing, University of Toronto（多伦多大学劳伦斯·布隆伯格护理学院）；KITE Research Institute, Toronto Rehabilitation Institute, University Health Network（大学健康网络多伦多康复研究所KITE研究所）；College of Engineering and Technology, American University of the Middle East（中东美国大学工程与技术学院）
本文提出一种结合结构化提示工程与大麻二酚证据的检索增强型大型语言模型框架，用于为老年人提供安全指导，同时开发了无标注评估框架以评估AI在敏感健康场景中的可靠性。
2026-01-16 cs.AI cs.IR
Web Retrieval-Aware Chunking (W-RAC) for Efficient and Cost-Effective Retrieval-Augmented Generation Systems
AI Research Team, Yellow.ai（Yellow.ai AI研究团队）
本文提出W-RAC，一种针对网页文档的高效分块框架，通过分离文本提取与语义分块规划，减少LLM token消耗，提升系统可观察性。
2026-01-08 cs.AI cs.IR
Data Augmentation for Text Generation Without Any Augmented Data
Tencent AI Lab（腾讯人工智能实验室）
数据增强是提高许多神经文本生成模型性能的有效方法。然而，目前的数据增强方法需要定义或选择适当的数据映射函数，将原始样本映射到增强样本。在这项工作中，我们得出一个目标，制定文本生成任务的数据增强的问题，而不使用任何增强的数据构造特定的映射函数。我们提出的目标可以有效地优化，并适用于流行的损失函数的文本生成任务的收敛速度保证。在两个文本生成任务的五个数据集上的实验表明，我们的方法可以接近甚至超过流行的数据增强方法。
2021-05-28 cs.AI cs.CL
Unsupervised Cross-Task Generalization via Retrieval Augmentation
University of Southern California（南加州大学）；Tsinghua University（清华大学）
人类可以通过回忆以前获得的相关技能来执行看不见的任务，然后将其推广到目标任务，即使根本没有监督。在本文中，我们的目标是提高这种跨任务泛化能力的大规模多任务语言模型，如T0和FLAN，在无监督设置。我们提出了一种检索增强方法名为ReCross，需要一些未标记的例子作为查询检索上游数据的一个小子集，并使用它们来更新多任务模型，以更好地泛化。ReCross是一种简单而有效的检索方法，它结合了高效的稠密检索和有效的成对重排序。我们的结果和分析表明，它显着优于非检索方法和其他基线方法。
2022-10-18 cs.AI cs.CL cs.LG
Not Far Away, Not So Close: Sample Efficient Nearest Neighbour Data Augmentation via MiniMax
University of Alberta（阿尔伯塔大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
在自然语言处理（NLP）中，寻找能够产生高质量人类可解释示例的数据增强技术一直是一项挑战。最近，利用kNN，从大型未标记句子库中检索增强的示例，朝着可解释的增强迈出了一步。受这种范式的启发，我们引入Minimax-kNN，一个样本有效的数据增强策略量身定制的知识蒸馏（KD）。我们利用一种基于KD的半监督方法在增强数据上训练模型。与现有的盲目合并所有样本的kNN增强技术相比，我们的方法动态地选择了一个增强样本的子集，使教师和学生模型之间的KL分歧最大化。此步骤旨在提取最有效的样本，以确保我们的增强数据覆盖输入空间中具有最大损失值的区域。我们在几个文本分类任务上评估了我们的技术，并证明了Minimax-kNN始终优于强基线。我们的研究结果表明，Minimax-kNN需要更少的增强的例子和更少的计算，以实现优越的性能比最先进的基于kNN的增强技术。
2021-06-02 cs.CL cs.LG
On-The-Fly Information Retrieval Augmentation for Language Models
Toyota Technological Institute at Chicago（芝加哥丰田工业大学）
在这里，我们尝试使用信息检索作为预训练语言模型的增强。用于信息检索的文本语料可以看作是一种随时间增长的情景记忆。通过增强GPT 2.0与信息检索，我们实现了zero shot 15%的相对减少在Gigaword语料库的困惑，没有任何重新训练。我们还验证了我们的IR增强事件共指任务。
2020-07-03 cs.CL
Text Augmentation in a Multi-Task View
ProtagoLabs（Protago实验室）；International Monetary Fund（国际货币基金组织）；Dartmouth College（达特茅斯学院）
传统的数据增强旨在通过在线生成与原始样本非常相似的增强样本来增加输入分布的覆盖率，其中增强样本主导训练。在本文中，我们提出了另一种观点--数据增强的多任务视图（MTV）--其中主要任务在原始示例上训练，辅助任务在增强示例上训练。在MTV数据增强中，原始样本和增强样本在训练过程中都进行了实质性的加权，放松了增强样本必须与原始数据相似的约束，从而允许我们应用更强的增强级别。在三个基准文本分类数据集上使用四种常见的数据增强技术进行的实证实验中，我们发现MTV比传统增强带来更高，更强大的性能改进。
2021-01-14 cs.CL
On the Calibration and Uncertainty with Pólya-Gamma Augmentation for Dialog Retrieval Models
Ping An Technology (Shenzhen) Co., Ltd.（平安科技（深圳）有限公司）；University of Science and Technology of China（中国科学技术大学）
深度神经检索模型已经充分证明了它们的能力，但估计它们预测的可靠性仍然具有挑战性。大多数对话响应检索模型输出一个关于它与给定问题的相关程度的响应的单个分数。然而，深度神经网络的不良校准导致单个分数的各种不确定性，使得不可靠的预测总是误导用户决策。为了研究这些问题，我们提出了一个有效的校准和不确定性估计框架PG-DRR的对话响应检索模型，它增加了一个高斯过程层的确定性深神经网络和恢复共轭易处理的后验推理Pólya-Gamma增强。最后，PG-DRR在保持$R_{10}@1$和MAP性能的同时，在域内数据集和分布移位任务中实现了最低的经验校准误差（ECE）。
2023-03-15 cs.AI cs.CL
Enhancing Document-Level Question Answering via Multi-Hop Retrieval-Augmented Generation with LLaMA 3
Independent Researcher（独立研究者）；Cornell University（康奈尔大学）；University of Southern California（南加州大学）
本文提出基于LLaMA 3的多跳检索增强生成框架，通过密集检索、上下文融合及联合优化，提升长文档问答的准确性与连贯性，实验优于现有基线。
2025-06-19 cs.CL cs.LG
STEPER: Step-wise Knowledge Distillation for Enhancing Reasoning Ability in Multi-Step Retrieval-Augmented Language Models
POSTECH（浦项工科大学）
针对多步检索增强模型各步骤推理需求差异被忽视的问题，提出逐步知识蒸馏方法StepER，通过逐步监督和难度感知训练提升推理能力，8B模型性能媲美70B教师模型。
2025-10-09 cs.AI cs.CL
ARMED: Adaptive Retrieval-Augmented Medication Recommendation
UX Factory, Inc.（UX工厂公司）
本研究针对现有药物推荐系统固定检索流程的缺陷，提出自适应临床RAG框架ARMED，通过动态扩展检索等机制，在MIMIC-IV数据集上优于静态基线，且无需外部API或特定任务微调。
2026-10-14 cs.AI cs.CL cs.IR
Retrieval Augmentation for Commonsense Reasoning: A Unified Approach
University of Notre Dame（圣母大学）；Microsoft Cognitive Services Research（微软认知服务研究院）；Shanghai Jiaotong University（上海交通大学）
现有文献中的检索增强方法的一个共同点是检索百科知识，如维基百科，这有助于定义良好的实体和关系空间，可以建模。然而，将这样的方法应用于常识推理任务面临两个独特的挑战，即，缺乏通用的大规模检索语料库和相应的有效的常识检索器。在本文中，我们系统地研究如何利用常识知识检索，以改善常识推理任务。我们提出了一个统一的检索增强常识推理（称为RACo）的框架，包括一个新构建的常识语料库超过20万个文件和新的策略，用于训练常识检索。我们在四个不同的常识推理任务上进行了实验。广泛的评估结果表明，我们提出的RACo可以显着优于其他知识增强的方法同行，实现新的SoTA性能的CommonGen和CREAK排行榜。
2022-10-23 cs.AI cs.CL
