ConvMix: A Mixed-Criteria Data Augmentation Framework for Conversational Dense Retrieval
Fengran Mo 1（摩峰ran 1）；Jinghan Zhang 2（张 Jinghan 2）；Yuchen Hui 1（慧 Yuchen 1）；Jia Ao Sun 1（Sun Jia Ao 1）；Zhichao Xu 3（徐 Zhichao 3）；Zhan Su 1（苏 Zhan 1）；Jian-Yun Nie 1（Nie Jian-Yun 1）
针对会话式密集检索的训练数据稀缺问题，提出混合准则数据增强框架ConvMix，借助大语言模型设计可扩展双向相关性判断增强方案并整合质量控制机制，在5个基准上优于现有基线，提升检索效果。
2025-11-12 cs.CL cs.IR
QAEA-DR: A Unified Text Augmentation Framework for Dense Retrieval
Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院）；Pengcheng Laboratory（鹏城实验室）
本文提出面向密集检索的统一文本增强框架QAEA-DR，利用LLM零样本提示生成问答对与元素驱动事件作为原始文本补充，并引入打分评估与重生成机制，有效缓解了长文本信息丢失与低质量文本匹配不佳的问题。
2025-03-01 cs.AI cs.CL cs.IR
Generalizing Conversational Dense Retrieval via LLM-Cognition Data Augmentation
Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学高瓴人工智能学院）
提出 ConvAug 框架，通过 LLM 认知数据增强生成多层次会话、利用认知感知过程减少噪声、难度自适应过滤样本并采用对比学习训练编码器，有效提升了会话式稠密检索在真实场景中的泛化能力。
2024-06-04 cs.CL cs.IR
Pearl: Personalizing Large Language Model Writing Assistants with Generation-Calibrated Retrievers
Microsoft（微软）；Microsoft Research（微软研究院）；Purdue University（普渡大学）
针对LLM写作助手缺乏个性化的问题，提出Pearl，利用生成校准检索器选择历史文档增强提示，通过数据选择与尺度校准KL散度训练，在社交媒体数据集上提升长文生成质量，并可预测性能。
2024-11-05 cs.CL cs.HC cs.IR
DREAM: Improving Video-Text Retrieval Through Relevance-Based Augmentation Using Large Foundation Models
University of Waterloo（滑铁卢大学）；Duke University（杜克大学）；City University of Hong Kong（香港城市大学）；Netflix Eyeline Studios（Netflix Eyeline工作室）
本文提出DREAM范式，利用大型语言模型和视觉生成模型对视频与文本进行基于相关性的增强，从而学习更具泛化性的特征，并在多个视频-文本检索基准上取得优于现有方法的结果。
2025-02-04 cs.CL cs.CV cs.IR
The Atlas of In-Context Learning: How Attention Heads Shape In-Context Retrieval Augmentation
Department of Artificial Intelligence, Fraunhofer Heinrich Hertz Institute（人工智能系，弗劳恩霍夫海因里希·赫兹研究所）；Department of Electrical Engineering and Computer Science, Technische Universität Berlin（电气工程与计算机科学系，柏林技术大学）；BIFOLD - Berlin Institute for the Foundations of Learning and Data（柏林学习与数据基础研究所）；Centre of eXplainable Artificial Intelligence, Technological University Dublin（可解释人工智能中心，都柏林技术大学）
本文通过归因方法识别上下文学习中的专门注意力头，揭示其理解指令、检索信息及存储知识的作用，并利用这些见解追踪知识来源，以促进更安全透明的语言模型。
2025-10-27 cs.CL cs.IR cs.LG
PersonalAI: A Systematic Comparison of Knowledge Graph Storage and Retrieval Approaches for Personalized LLM agents
Skoltech（斯科尔科沃科学技术学院）；Public Joint Stock Company “Sberbank of Russia”（俄罗斯联邦储蓄银行）；AIRI（人工智能研究所）
本文提出基于知识图谱的灵活外部记忆框架，通过自动构建和更新图谱提升个性化LLM代理的长期交互能力，通过多种检索机制验证了不同配置在不同任务中的最优性能。
2026-04-12 cs.CL cs.IR
Rethinking On-policy Optimization for Query Augmentation
University of Utah（犹他大学）；The University of Queensland（昆士兰大学）；University of Waterloo（滑铁卢大学）；New York University（纽约大学）；University of Notre Dame（圣母大学）；Université de Montréal（蒙特利尔大学）；Google DeepMind（谷歌DeepMind）；University of Oklahoma（俄克拉荷马大学）
本文系统比较了基于提示和强化学习的查询增强方法，发现计算量感知下简单方法常优于RL方法，并提出混合方法OPQE，通过RL生成伪文档以最大化检索性能。
2026-07-01 cs.CL cs.IR
The Effect of Scaling, Retrieval Augmentation and Form on the Factual Consistency of Language Models
Chalmers University of Technology（查尔姆斯理工大学）；University of Gothenburg（哥德堡大学）
本文研究LLM对语义等价问题回答不一致的问题，评估扩大规模与检索增强两种策略，发现二者均有效且检索增强效率更高，并分析了Atlas组件及句法形式等因素。
2023-11-02 cs.CL
InPars: Data Augmentation for Information Retrieval using Large Language Models
Zeta Alpha（泽塔阿尔法）；NeuralMind（神经思维）；University of Campinas（坎皮纳斯大学）；University of Waterloo（滑铁卢大学）
信息检索社区最近见证了一场革命，由于大型预训练的Transformer模型。这场革命的另一个关键因素是MS MARCO数据集，其规模和多样性使zero-shot迁移学习能够应用于各种任务。然而，并不是所有的IR任务和领域都可以从一个单一的数据集中平等地受益。对各种NLP任务的广泛研究表明，使用特定领域的训练数据，而不是通用的，可以提高神经模型的性能。在这项工作中，我们利用大型预训练语言模型的Few-Shot功能作为IR任务的合成数据生成器。我们表明，仅在我们的无监督数据集上进行微调的模型优于BM 25等强基线以及最近提出的自监督稠密检索方法。此外，在监督和我们的合成数据上进行微调的检索器比仅在监督数据上进行微调的模型实现了更好的zero-shot传输。代码、模型和数据可在https://github.com/zetaalphavector/inpars上获得。
2022-02-10 cs.CL
Self-Knowledge Guided Retrieval Augmentation for Large Language Models
Institute for AI Industry Research (AIR), Tsinghua University（清华大学人工智能产业研究院（AIR））；Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）；Institute for AI, Tsinghua University（清华大学人工智能研究院）；Beijing National Research Center for Information Science and Technology（北京信息科学与技术国家研究中心）
针对大语言模型参数知识不全难更新、检索知识可能产生负面影响的问题，提出自知识引导的检索增强方法SKR，让模型参考过往问题自适应调用外部资源，在多个数据集上表现优于思维链和全检索方法。
2023-10-08 cs.CL
Retrieval Helps or Hurts? A Deeper Dive into the Efficacy of Retrieval Augmentation to Language Models
Megagon Labs（美高拱实验室）
本文通过构建WiTQA数据集，从实体与关系组合的流行度视角分析检索增强对语言模型的影响，发现大模型擅长回忆流行事实但在不常见实体-关系对上不如检索器，并据此提出自适应检索系统以选择性结合检索与模型回忆。
2024-03-27 cs.CL
Can We Further Elicit Reasoning in LLMs? Critic-Guided Planning with Retrieval-Augmentation for Solving Challenging Tasks
DAMO Academy, Alibaba Group（达摩院（阿里巴巴集团））；Nanyang Technological University（南洋理工大学）；Salesforce Research（Salesforce研究院）
本文提出 CR-Planner 框架，用微调批评者模型结合蒙特卡洛树搜索引导子目标规划、推理与检索，在竞赛编程、数学推理等困难任务上显著优于基线。
2024-10-02 cs.CL
Astute RAG: Overcoming Imperfect Retrieval Augmentation and Knowledge Conflicts for Large Language Models
Google Cloud AI Research（谷歌云人工智能研究）；University of Southern California（南加州大学）
针对不完美检索导致的错误传播与知识冲突问题，提出Astute RAG方法，通过自适应提取内部知识、迭代整合内外知识并依据可靠性生成答案，显著提升了LLM在最坏情况下的鲁棒性与可信度。
2025-05-31 cs.AI cs.CL cs.LG
Guardian Crawler: Retrieval-First Knowledge Discovery with Bounded LLM Augmentation for Noisy Web Intelligence
Old Dominion University（奥多明尼昂大学）
Guardian Crawler是面向噪声网络智能的检索优先型测试平台，结合BM25与风险感知重排序等技术，在合成语料库实验中取得较高检索分数，可用于知识发现与证据摘要生成。
2026-08-11 cs.AI cs.CL cs.IR
Personalizing Student-Agent Interactions Using Log-Contextualized Retrieval-Augmented Generation (RAG)
1Department of Computer Science, Vanderbilt University, Nashville, USA 2College of Engineering \& Science, University of Detroit Mercy, Detroit, USA 3The School for Science；Math, Vanderbilt University, Nashville, USA
本文提出日志上下文化检索增强生成（LC-RAG）方法，通过环境日志增强协作对话的检索能力，使协作同伴代理Copa能提供个性化指导，支持学生在C2STEM环境中的批判性思维和知识决策。
2026-04-18 cs.CL
Skill Retrieval Augmentation for Agentic AI
Department of Computer Science and Technology, Tsinghua University（清华大学计算机科学与技术系）；ByteDance Inc.（字节跳动公司）
针对现有智能体系统在技能库扩展时上下文窗口不足、技能识别准确率下降的问题，提出技能检索增强（SRA）范式，通过动态检索外部技能库提升智能体性能，并构建SRA-Bench基准揭示技能整合中的瓶颈。
2026-06-07 cs.AI cs.CL
LaMP: When Large Language Models Meet Personalization
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；Google Research（谷歌研究院）
本文提出 LaMP 基准，用于训练和评估大语言模型生成个性化输出，并设计了两种检索增强方法，实验证明其有效性和个性化对自然语言任务的影响。
2024-06-05 cs.CL
Fact-Aware Multimodal Retrieval Augmentation for Accurate Medical Radiology Report Generation
School of Computer Science, Carnegie Mellon University（卡内基梅隆大学计算机科学学院）
本文提出FactMM-RAG，通过事实感知的多模态检索增强提升放射学报告生成的事实准确性，实验证明其优于现有检索器。
2025-02-06 cs.CL
Retrieval-Augmented Data Augmentation for Low-Resource Domain Tasks
KAIST（韩国科学技术院）
针对低资源场景下数据增强种子样本少、生成数据多样性不足的问题，提出检索增强数据增强框架RADA，通过检索其他数据集相关实例并结合LLM生成更相关且多样的合成数据，在多个数据集上超越现有基线。
2024-02-21 cs.AI cs.CL cs.LG
RAG in the Wild: On the (In)effectiveness of LLMs with Mixture-of-Knowledge Retrieval Augmentation
Emory University（埃默里大学）；Georgia Institute of Technology（佐治亚理工学院）；SUNY Albany（纽约州立大学阿尔巴尼分校）；UT Southwestern Medical Center（德克萨斯大学西南医学中心）
该研究利用混合知识大规模数据存储 MassiveDS 评估真实多样场景下的 RAG，揭示模型规模、重排序、检索源和查询路由方面的局限，强调自适应检索的必要性。
2025-07-26 cs.AI cs.CL cs.LG
RA-ISF: Learning to Answer and Understand from Retrieval Augmentation via Iterative Self-Feedback
Zhejiang University（浙江大学）；Southeast University（东南大学）；Massachusetts Institute of Technology（麻省理工学院）
本文提出RA-ISF框架，通过检索增强与迭代自反馈分解任务并分三个子模块处理，在GPT3.5、Llama2等模型上提升事实推理能力并减少幻觉。
2024-06-06 cs.AI cs.CL
Retrieval augmentation of large language models for lay language generation
University of Washington（华盛顿大学）；University of Arizona（亚利桑那大学）
本文提出CELLS这一最大且覆盖最广的通俗语言生成平行语料，并采用检索增强模型生成背景解释，在保持事实正确性的同时提升总结质量与简洁性。
2024-01-25 cs.CL
RAC: Efficient LLM Factuality Correction with Retrieval Augmentation
University of California, Santa Cruz（加州大学圣克鲁兹分校）
本文提出检索增强校正（RAC）方法，通过将大语言模型输出分解为原子事实并进行细粒度验证与校正，在不微调的情况下以低延迟提升事实性，实验显示最高提升30%。
2024-10-21 cs.AI cs.CL cs.LG
SPRInG: Continual LLM Personalization via Selective Parametric Adaptation and Retrieval-Interpolated Generation
Yonsei University（延世大学）
SPRInG通过选择性参数适应和检索插值生成，实现连续大语言模型个性化，有效应对用户偏好变化带来的挑战。
2026-09-01 cs.AI cs.CL
SynthesizRR: Generating Diverse Datasets with Retrieval Augmentation
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Amazon（亚马逊公司）
提出SynthesizRR方法，通过检索增强在数据集合成中引入多样性，解决了少样本提示导致的重复和偏见问题，显著提升了数据多样性、文本相似性和蒸馏性能。
2024-11-13 cs.AI cs.CL cs.LG
Text Data Augmentation for Large Language Models: A Comprehensive Survey of Methods, Challenges, and Opportunities
Lingnan University（岭南大学）；School of Data Science, Lingnan University（岭南大学数据科学学院）
本综述全面分析了大型语言模型（LLMs）的文本数据增强方法，将其分为简单增强、基于提示、基于检索和混合增强四类，并总结了后处理技术、评估指标及未来挑战与机遇。
2025-01-31 cs.CL
Retrieval meets Long Context Large Language Models
NVIDIA（英伟达）
本文对比并结合检索增强与长上下文 LLM，证明检索能以更低计算显著提升不同上下文窗口模型，最佳检索增强 Llama2-70B-32k 在九项任务上优于 GPT-3.5 等模型。
2024-01-23 cs.AI cs.CL cs.IR
Ctrl-G: Controlling Structural and Interaction Exposure in Knowledge Graph Augmented LLM Reasoning
University of New South Wales（新南威尔士大学）；Data61, CSIRO（Data61，CSIRO）
PrivGemo通过双塔设计和隐私保护机制，实现隐私保护的图检索增强推理，提升LLM在知识密集型任务中的推理能力。
2026-11-02 cs.CL
MemInsight: Autonomous Memory Augmentation for LLM Agents
AWS AI（AWS人工智能）
针对大语言模型智能体记忆规模增长、语义结构化难的问题，提出自主记忆增强方法MemInsight，优化语义表示与检索，在三类任务中显著优于基线，提升多任务语境表现。
2025-07-31 cs.CL
Tool-MAD: A Multi-Agent Debate Framework for Fact Verification with Diverse Tool Augmentation and Adaptive Retrieval
Graduate School of Information, Yonsei University（Yonsei大学信息研究生院）；Department of Computer Science, Sangmyung University（Sangmyung大学计算机科学系）
Tool-MAD通过多智能体辩论框架结合多样化工具增强和自适应检索，提升事实验证的准确性和鲁棒性。
2026-01-08 cs.CL
ATLANTIC: Structure-Aware Retrieval-Augmented Language Model for Interdisciplinary Science
Pacific Northwest National Laboratory（太平洋西北国家实验室）
提出结构感知检索增强语言模型ATLANTIC，通过构建跨学科异构文档图并利用图神经网络融合段落文本与结构嵌入，提升了科学任务中检索文档的连贯性、忠实度与相关性。
2023-11-21 cs.AI cs.CL
Systematic Knowledge Injection into Large Language Models via Diverse Augmentation for Domain-Specific RAG
IIT(ISM) Dhanbad（丹巴印度理工学院（印度矿业学院））；IBM Research（IBM研究院）
提出通过上下文增强和知识释义的系统性数据增强框架，改进领域特定RAG中LLM的微调，提升知识注入效果并缓解灾难性遗忘。
2025-03-27 cs.CL
MemoRAG: Boosting Long Context Processing with Global Memory-Enhanced Retrieval Augmentation
Peking University（北京大学）；Beijing Academy of Artificial Intelligence（北京人工智能研究院）；Hong Kong Polytechnic University（香港理工大学）
本文提出MemoRAG框架，通过轻量长程系统构建全局记忆并生成草稿答案以辅助检索，再由强表达力系统生成最终答案，从而在多种长上下文任务中超越传统RAG方法。
2025-04-09 cs.AI cs.CL
Text2SQL-Flow: A Robust SQL-Aware Data Augmentation Framework for Text-to-SQL
Peking University, Beijing, China（北京大学，北京，中国）
Text2SQL-Flow提出了一种SQL感知的数据增强框架，通过生成高质量的文本到SQL数据集，提升大型语言模型在问题解决和检索任务中的性能。
2026-02-10 cs.CL cs.DB
A Comparative Study of DSL Code Generation: Fine-Tuning vs. Optimized Retrieval Augmentation
Microsoft Corporation（微软公司）
本文比较了微调与优化检索增强生成在DSL代码生成中的效果，发现优化后的RAG模型在相似度上可媲美微调模型，并对新API更具优势。
2024-07-03 cs.AI cs.CL cs.SE
Predicting the Benefit of Retrieval Augmentation in Open-Domain Question Answering
Technion（技术学院）；Technology Innovation Institute (TII)（技术创新研究所）
本文研究了RAG在问答中的性能预测，提出了一种新的监督预测器，通过建模问题、检索段落和生成答案之间的语义关系，提升了预测效果。
2026-08-20 cs.CL cs.IR
Cost-Aware Retrieval-Augmentation Reasoning Models with Adaptive Retrieval Depth
Microsoft（微软公司）；Institute for Clarity in Documentation（文档清晰研究所）；Inria Paris-Rocquencourt（巴黎-罗克奎恩特研究所）；Rajiv Gandhi University（拉贾夫·甘地大学）；Tsinghua University（清华大学）；Palmer Research Laboratories（帕勒尔研究实验室）
本文提出一种成本感知的检索增强推理模型，通过动态调整检索深度和成本感知优势函数，在七个问答数据集上实现延迟降低16-20%且精确匹配提升约5%。
2025-10-17 cs.CL cs.IR
How to Train Your DRAGON: Diverse Augmentation Towards Generalizable Dense Retrieval
University of Waterloo（滑铁卢大学）；University of Washington（华盛顿大学）；Meta AI
近年来，已经开发了各种技术来提高稠密检索（DR），如无监督对比学习和伪查询生成。然而，现有的DR，经常遭受监督和zero-shot检索之间的有效性权衡，有人认为这是由于有限的模型容量。我们反驳了这一假设，并表明，一个可推广的DR可以训练，以实现高精度的监督和zero-shot检索，而不增加模型的大小。特别是，我们系统地研究了数据增强（DA）的框架下的DR的对比学习。我们的研究表明，常见的DA实践，如查询增强生成模型和伪相关标签创建使用交叉编码器，往往是低效和次优的。因此，我们提出了一种新的DA方法，具有不同的查询和监督来源，以逐步训练一个可推广的DR。因此，DRAGON，我们的密集检索训练与不同的增强，是第一个BERT基地大小的DR实现国家的最先进的有效性，在监督和zero-shot评估，甚至竞争与模型使用更复杂的后期交互（ColBERTv2和SPLADE++）。
2023-02-15 cs.CL cs.IR
The Coverage Illusion: From Pre-retrieval Routing Failure to Post-retrieval Cascades in a Production RAG System
Aarhus University（奥胡斯大学）
本文通过丹麦国家百科全书的案例研究，发现合成查询高估了LLM增强的需求（覆盖幻觉），并提出一种检索后级联策略，按成本递增顺序执行工作流，仅在无结果时升级到LLM增强，从而在无需训练开销的情况下提升质量并降低延迟。
2026-05-26 cs.CL cs.IR
LARA: Linguistic-Adaptive Retrieval-Augmentation for Multi-Turn Intent Classification
Forth AI；Singapore University of Technology and Design（新加坡科技设计大学）；Shopee
本文提出LARA框架，通过结合微调小型模型与检索增强机制整合于LLM架构，动态利用历史对话提升六种语言的多轮意图分类准确率，无需大规模重训即增强跨语言能力，平均准确率提升3.67%。
2024-10-14 cs.CL cs.IR
Differentiable Retrieval Augmentation via Generative Language Modeling for E-commerce Query Intent Classification
针对检索器与下游模型异步训练导致的性能下降问题，提出可微检索增强方法Dragan，通过可微重构实现端到端联合训练，在电商查询意图分类的离线与在线实验中均显著优于基线。
2023-09-15 cs.CL cs.IR
On-The-Fly Information Retrieval Augmentation for Language Models
Toyota Technological Institute at Chicago（芝加哥丰田工业大学）
在这里，我们尝试使用信息检索作为预训练语言模型的增强。用于信息检索的文本语料可以看作是一种随时间增长的情景记忆。通过增强GPT 2.0与信息检索，我们实现了zero shot 15%的相对减少在Gigaword语料库的困惑，没有任何重新训练。我们还验证了我们的IR增强事件共指任务。
2020-07-03 cs.CL
Exploring Selective Retrieval-Augmentation for Long-Tail Legal Text Classification
University of Cambridge（剑桥大学）
针对法律文本分类中的长尾标签问题，本文提出仅从训练集检索并增强低频标签样本的 SRA 方法，在 LEDGAR 和 UNFAIR-ToS 上相较 LexGLUE 基线持续提升 micro-F1 与 macro-F1。
2025-08-29 cs.CL cs.IR
AugTriever: Unsupervised Dense Retrieval and Domain Adaptation by Scalable Data Augmentation
Salesforce Research（Salesforce研究院）
本研究针对稠密检索依赖人工标注的问题，提出AugTriever框架，通过查询提取和迁移式查询生成两种无监督数据增强方法生成伪查询-文档对，在BEIR和ODQA数据集上实现了优于强基线的无监督稠密检索、域适应及有监督微调效果。
2024-10-30 cs.CL cs.IR
CORAL: Benchmarking Multi-turn Conversational Retrieval-Augmentation Generation
Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学高瓴人工智能学院）；Beijing Academy of Artificial Intelligence（北京人工智能研究院）；Huawei Poisson Lab（华为泊松实验室）；Waseda University（早稻田大学）
针对现有RAG研究多聚焦单轮场景、难以适配真实多轮对话的问题，本研究推出大规模基准CORAL，覆盖多类对话与三项核心任务，并提出统一框架评估现有方法，指明改进方向。
2024-10-30 cs.CL cs.IR
Knowledge-driven Augmentation and Retrieval for Integrative Temporal Adaptation
University of Memphis（密苏里大学）
本文提出KARITA方法，通过整合知识源和处理时间变化，提升多领域分类任务的性能，证明知识整合在时间增强学习中的关键作用。
2026-04-23 cs.CL
Understanding Retrieval Augmentation for Long-Form Question Answering
Department of Computer Science University of Texas at Austin（计算机科学系 德克萨斯大学奥斯汀分校）
针对长文本问答中检索文档利用机制研究不足的问题，通过两项对照实验和SALAD数据集分析发现，语言模型虽能利用上下文文档但答案归因度有限，揭示了检索增强对长文本生成的影响并指明未来方向。
2025-10-03 cs.CL
Neural Retrieval for Question Answering with Cross-Attention Supervised Data Augmentation
Google Research（谷歌研究院）；Google Cloud AI（谷歌云人工智能）
独立地将问题和答案投影到共享嵌入空间中的神经模型允许从大型语料库中进行有效的连续空间检索。独立地计算问题和答案的嵌入导致与匹配问题到其答案相关的信息的后期融合。虽然对于有效检索至关重要，但后期融合的性能低于利用早期融合的模型（例如，基于BERT的分类器，在问题-答案对之间具有交叉关注）。我们提出了一种监督数据采掘方法，使用一个准确的早期融合模型，以提高一个有效的后期融合检索模型的训练。我们首先训练一个准确的分类模型，问题和答案之间的交叉注意。准确的交叉注意模型然后被用来注释附加的通道，以便生成用于神经检索模型的加权训练样本。由此产生的具有额外数据的检索模型显著优于直接使用黄金注释在$N$（P@N）和平均倒数秩（MRR）的精度上训练的检索模型。
2020-09-29 cs.CL
Experience Retrieval-Augmentation with Electronic Health Records Enables Accurate Discharge QA
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Yale University（耶鲁大学）；University of Waterloo（滑铁卢大学）
提出基于电子健康记录的经验检索增强框架ExpRAG，通过粗到细检索相似患者出院报告提供病例知识，并在包含1,280个问题的DischargeQA数据集上验证，平均相对提升5.2%，显著增强了临床出院问答的医学推理准确性。
2025-05-28 cs.AI cs.CL cs.IR
ZusammenQA: Data Augmentation with Specialized Models for Cross-lingual Open-retrieval Question Answering System
University of Mannheim（曼海姆大学）；University of Verona（维罗纳大学）；University of Würzburg（维尔茨堡大学）
本文介绍了我们提出的跨语言开放检索问答（COQA）MIA共享任务系统。在这个具有挑战性的场景中，给定一个输入问题，系统必须从多语言池中收集证据文件，并从这些文件中生成问题语言的答案。我们设计了几种方法，将不同的模型变体结合起来，用于三个主要组件：数据增强、段落检索和答案生成。对于段落检索，我们根据基于多语言预训练语言模型（PLM）和共享任务基线变体的重新排序器集合评估了单语BM 25排名器，使用最近引入的对比损失从头开始重新训练，通过混合负样本在整个训练过程中保持强梯度信号。对于答案生成，我们通过对现有多语言编码器进行持续的语言模型（LM）预训练，专注于语言和领域的专业化。此外，对于段落检索和答案生成，我们使用从维基百科段落创建的自动生成的问答对来增强任务组织者提供的训练数据，以缓解数据稀缺的问题，特别是对于没有提供训练数据的低资源语言。我们的研究结果表明，语言和领域的专业化以及数据增强的帮助，特别是对低资源的语言。
2022-05-30 cs.CL
On Retrieval Augmentation and the Limitations of Language Model Training
University of Southern California（南加州大学）
本文研究训练数据上的 kNN 检索为何能降低语言模型困惑度，排除 softmax 瓶颈假说，并通过新任务证明其对 GPT-2 和 Mistral 7B 的泛化提升，同时提出用多层感知机替代传统检索以降低 25 倍以上存储成本。
2024-04-02 cs.CL
Lab-AI: Using Retrieval Augmentation to Enhance Language Models for Personalized Lab Test Interpretation in Clinical Medicine
Department of Statistics（统计学系）；Florida State University（佛罗里达州立大学）；School of Information（信息学院）；Oklahoma State University（俄克拉荷马州立大学）；Morsani College of Medicine（医学学院）；University of South Florida（佛罗里达大学）；College of Social Work（社会工作学院）；Department of Computer Science（计算机科学系）；Emory University（埃默里大学）
Lab-AI利用检索增强生成技术，为临床化验结果提供个性化正常值范围，显著提升因素检索和正常值范围检索的准确率，增强患者理解。
2025-04-23 cs.AI cs.CL cs.IR
Retrieval-Based Transformer for Table Augmentation
IBM Research AI（IBM研究院人工智能部门）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
提出检索增强自训练Transformer模型，通过随机消融表格自监督学习，解决表格增强任务，在EntiTables和WebTables基准上显著优于现有方法。
2023-06-20 cs.AI cs.CL cs.DB
