Mitigating Hallucination in Financial Retrieval-Augmented Generation via Fine-Grained Knowledge Verification
本文提出RLFKV框架，通过细粒度知识验证和信息量奖励，缓解金融RAG系统中的幻觉问题，提升响应准确性与一致性。
2026-02-05 cs.AI
ReCollab: Retrieval-Augmented LLMs for Cooperative Ad-hoc Teammate Modeling
Department of Electrical and Computer Engineering, University of Texas at San Antonio（电子与计算机工程系，德克萨斯大学圣安东尼奥分校）
ReCollab通过检索增强生成技术提升即兴团队合作中队友行为建模的适应性与准确性。
2025-12-05 cs.AI cs.LG cs.MA
When Context Misleads: Intent-Guided Decoding for Robust Retrieval-Augmented Generation
针对现有RAG系统固定信任策略的缺陷，提出意图引导解码（IGD）框架，经多基准评估，可显著提升事实恢复能力，同时保持或改善上下文遵循行为。
2026-08-18 cs.AI cs.CL
Rethinking Retrieval-Augmented Generation as a Cooperative Decision-Making Problem
Jilin University（吉林大学）
本文提出CoRAG框架，将检索器与生成器视为平等决策者，通过共同优化任务目标提升生成稳定性与泛化能力。
2026-04-24 cs.AI cs.CL
Cognitive-Aligned Document Selection for Retrieval-augmented Generation
Dalian Maritime University（大连海事大学）
针对RAG检索文档难以充分支撑回答的问题，提出GGatrieval，通过句法成分细粒度对齐、动态语义补偿与迭代查询改写筛选可靠文档，在ALCE基准上达到最先进性能。
2025-02-17 cs.AI
Towards Dependable Retrieval-Augmented Generation Using Factual Confidence Prediction
Fraunhofer Institute for Cognitive Systems (IKS), Munich, Germany（弗劳恩霍夫认知系统研究所（IKS），德国慕尼黑）；Volkswagen AG, Wolfsburg, Germany（大众集团，德国沃尔夫斯堡）
本文提出通过事实可信度预测改进检索增强生成系统，采用符合预测选择高可信检索片段和基于注意力的事实性分类器检测不一致答案，提升生成答案的可靠性。
2026-05-04 cs.AI cs.IR
Optimization of Retrieval-Augmented Generation Context with Outlier Detection
NextAI Systems LLC（NextAI系统有限责任公司）
针对 RAG 检索文档引入无关上下文并诱发幻觉的问题，本文提出基于嵌入向量到质心和查询距离的离群点检测方法，以筛选高相关文档，并在 GPT-4o 真值评估中验证其效果。
2024-07-01 cs.AI cs.CL cs.IR
Towards Boosting LLMs-driven Relevance Modeling with Progressive Retrieved Behavior-augmented Prompting
Ant Group（蚂蚁集团）；Alibaba Group（阿里巴巴集团）；School of Computer Science and Technology, East China Normal University（华东师范大学计算机科学与技术学院）
针对 LLM 仅凭语义判断查询-物品相关性的不足，本文提出 ProRBP 框架，利用搜索日志检索用户行为邻居并渐进增强提示与聚合，实验及在线 A/B 测试验证其性能提升。
2024-12-06 cs.AI cs.IR
Why Retrieval-Augmented Generation Fails: A Graph Perspective
Michigan State University（密歇根州立大学）；Massachusetts Institute of Technology（麻省理工学院）
本文从图视角分析检索增强生成失败原因，发现正确回答具有更深层推理路径和更分布的证据流，而失败回答则表现出碎片化和集中化的证据流。
2026-05-13 cs.AI cs.CL
Optimizing Retrieval-augmented Reader Models via Token Elimination
Intel Labs, Israel（英特尔实验室（以色列））；Bar-Ilan University, Israel（巴伊兰大学（以色列））；Google Research（谷歌研究院）
针对检索增强模型FiD解码速度慢的问题，提出在token层面消除无用检索信息的优化方法，可大幅降低运行时间且性能损失极小，部分场景还能提升效果。
2023-11-05 cs.AI cs.CL cs.LG
Familiarity-Aware Evidence Compression for Retrieval-Augmented Generation
University of California, Davis（加州大学戴维斯分校）；University of Southern California（南加州大学）；Arizona State University（亚利桑那州立大学）
针对RAG中检索证据不一致、不相关且对目标模型陌生的问题，本文提出免训练的FaviComp，通过熟悉度感知压缩并融合参数化知识，在多个开放域QA数据集上最高提升准确率28.1%。
2025-10-17 cs.AI cs.CL cs.IR
Topology of Reasoning: Retrieved Cell Complex-Augmented Generation for Textual Graph Question Answering
Academy of Advanced Interdisciplinary Studies, Chongqing University of Posts and Telecommunications（重庆邮电大学先进交叉学科研究院）；School of Computer Science and Technology, Chongqing University of Posts and Telecommunications（重庆邮电大学计算机科学与技术学院）；Intelligent System Department, Zhongxing Telecom Equipment (ZTE)（中兴电信设备智能系统部）
本文提出TopoRAG，通过将文本图提升为细胞复杂度，捕捉高维拓扑依赖，提升文本图问题回答的推理能力。
2026-02-22 cs.AI
Toward AI-Augmented Cooperative Engineering Workflows: Requirements and Architecture the European Rover Challenge
Honda Research Institute Europe（本田欧洲研究院）；NUMETO（NUMETO公司）；Honda Research Institute USA（本田美国研究院）
针对欧洲机器人挑战赛中协作工程工作流的瓶颈，通过问卷调查提炼需求，提出连接用户界面、凭证管理、服务选择、AI服务与外部工具的助手系统架构，以支持任务澄清、需求管理、沟通摘要、集成风险检测和知识捕获。
2026-09-28 cs.AI
Rethinking All Evidence: Enhancing Trustworthy Retrieval-Augmented Generation via Conflict-Driven Summarization
University of Chinese Academy of Sciences（中国科学院大学）；Chinese Academy of Sciences（中国科学院）；National University of Defense Technology（国防科技大学）；Chongqing University of Technology（重庆理工大学）
本文提出CARE-RAG框架，通过冲突驱动摘要整合检索内容与内部知识，并引入QA Repair修正基准答案，从而在噪声和冲突场景下提升RAG生成的可信度与性能。
2025-07-02 cs.AI cs.CL
Cooperative Retrieval-Augmented Generation for Question Answering: Mutual Information Exchange and Ranking by Contrasting Layers
Department of Artificial Intelligence, Hanyang University（人工智能学院，翰阳大学）；Department of Data Science, Hanyang University（数据科学学院，翰阳大学）
CoopRAG通过协作检索与生成机制，提升问答任务中检索与生成的准确性。
2025-12-17 cs.AI cs.CL
RACE: Retrieval-Augmented Commit Message Generation
Xi’an Jiaotong University（西安交通大学）；Sun Yat-sen University（中山大学）；Fudan University（复旦大学）；Microsoft Research（微软研究院）；The University of Newcastle（纽卡斯尔大学）
提交消息对于软件开发和维护非常重要。许多基于神经网络的方法已经被提出并在自动提交消息生成方面显示出有希望的结果。但是，生成的提交消息可能是重复的或冗余的。在本文中，我们提出了RACE，一种新的检索增强神经提交消息生成方法，它将检索到的类似提交作为范例，并利用它来生成准确的提交消息。由于检索到的提交消息可能并不总是准确地描述当前代码差异的内容/意图，我们还提出了一个范例引导器，它学习检索到的和当前代码差异之间的语义相似性，然后基于相似性引导提交消息的生成。我们在一个大型公共数据集上用五种程序设计语言进行了广泛的实验。实验结果表明，RACE算法的性能优于所有的基线算法。此外，RACE可以提高现有Seq 2Seq模型在提交消息生成中的性能。
2022-10-22 cs.AI cs.LG cs.SE
Retrieval Augmented Spelling Correction for E-Commerce Applications
Amazon.com Inc（亚马逊公司）；Stanford University（斯坦福大学）
本文提出利用检索增强生成（RAG）框架，将检索的产品名称作为上下文输入微调后的大型语言模型（LLM），有效提升了电子商务场景中区分新品牌名称与拼写错误的纠错性能。
2024-10-15 cs.AI cs.CL
A Reality Check on Context Utilisation for Retrieval-Augmented Generation
Chalmers University of Technology（查尔姆斯理工大学）；University of Copenhagen（哥本哈根大学）
针对真实场景RAG上下文利用问题，提出真实世界数据集DRUID和新型ACU分数，发现合成数据集会虚高利用结果，强调需开展真实对齐研究。
2025-05-29 cs.AI cs.CL
K-COMP: Retrieval-Augmented Medical Domain Question Answering With Knowledge-Injected Compressor
POSTECH（POSTECH大学）；GSAI；POSTECH CSE（POSTECH计算机科学与工程系）
提出K-COMP（知识注入压缩器），通过在压缩检索文档前自动生成先验知识并将其整合到自回归压缩过程中，解决医学领域检索增强问答中专业知识理解难和文档冗余导致的幻觉问题，从而引导阅读器模型生成准确答案并信任上下文。
2025-05-28 cs.AI cs.CL
TRACE the Evidence: Constructing Knowledge-Grounded Reasoning Chains for Retrieval-Augmented Generation
University of Glasgow（格拉斯哥大学）
针对RAG检索噪声影响多跳问答的问题，本文提出TRACE，通过从检索文档构建知识图谱并生成知识三元组推理链来整合证据，实验显示其平均性能最高提升14.03%。
2024-06-17 cs.AI cs.CL
In RAG We Trust? Measuring Robustness of Retrieval-Augmented Generation Under Post-Retrieval Context Tampering
University of Milan（米兰大学）
本研究通过因子实验测量Llama 3.1 8B在RAG文档投毒下的鲁棒性，发现实体替换攻击影响最大，模型主要反应为弃权而非产生新虚假信息。
2026-09-29 cs.AI cs.CL cs.CR
DCMI: A Differential Calibration Membership Inference Attack Against Retrieval-Augmented Generation
School of Cyber Science and Technology, Shandong University（山东大学计算机科学与技术学院）；Department of Engineering Software, School of Civil Engineering, Shandong University（山东大学土木工程学院工程软件系）；State Key Laboratory of Cryptography and Digital Economy Security, Shandong University（山东大学密码与数字经济安全国家重点实验室）；Shandong Key Laboratory of Artificial Intelligence Security, Shandong University（山东省人工智能安全重点实验室）
针对检索增强生成系统，提出差分校准成员推理攻击DCMI，通过查询扰动隔离成员文档贡献，在多个RAG系统上显著优于基线，揭示隐私风险。
2025-09-07 cs.AI cs.CR cs.LG
When RAG Hurts: Diagnosing and Mitigating Attention Distraction in Retrieval-Augmented LVLMs
University of Science and Technology of China（中国科学技术大学）
本文发现检索增强生成（RAG）在LVLMs中导致注意力分散（AD）问题，即检索文本抑制视觉注意力并偏离问题相关区域，提出MAD-RAG方法通过双问题公式和注意力混合来解耦视觉定位与上下文整合，在三个基准上提升性能并纠正大部分失败案例。
2026-06-16 cs.AI cs.CL cs.CV
Can LLM-Augmented autonomous agents cooperate?, An evaluation of their cooperative capabilities through Melting Pot
Los Andes University（安第斯大学）；Bancolombia（哥伦比亚银行）
该研究基于Melting Pot环境评估GPT4、GPT3.5等大模型增强的自主智能体的合作能力，提出适配层与可复用的含记忆、多认知模块的智能体架构，发现其有合作倾向但协作效果仍有限，为后续架构优化指明方向。
2024-06-19 cs.AI cs.CL
MemChain: Learning Interpretable Memory Traces for Memory-Augmented LLM Agents
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；School of Advanced Interdisciplinary Sciences, University of Chinese Academy of Sciences（中国科学院大学交叉科学学院）；Memorax AI（Memorax人工智能公司）；School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院）
研究针对内存增强型大语言模型智能体检索内存回答查询存在的问题，提出MemChain可训练检索后内存策略，经两阶段学习框架训练，能生成有效证据上下文，实验证明其在多种模型上性能领先且减少内存上下文。
2026-07-28 cs.AI
Why So Gullible? Enhancing the Robustness of Retrieval-Augmented Models against Counterfactual Noise
University of Edinburgh（爱丁堡大学）；UIUC（伊利诺伊大学厄巴纳-香槟分校）；Georgia Tech（佐治亚理工学院）；KAIST（韩国科学技术院）
本文研究检索文档中相关但含错误信息导致的知识冲突问题，提出微调判别器或提示GPT-3.5的方法来增强检索增强模型的鲁棒性，并发布冲突诱导数据集MacNoise。
2024-06-09 cs.AI cs.CL
Fashion-RAG: Multimodal Fashion Image Editing via Retrieval-Augmented Generation
University of Modena and Reggio Emilia（摩德纳和雷吉奥艾米利亚大学）；University of Pisa（比萨大学）
针对现有虚拟试穿依赖具体服装输入、难以满足用户仅凭文本定制需求的问题，提出Fashion-RAG方法，通过检索匹配服装并利用文本反演集成到扩散模型生成中，在Dress Code数据集上超越现有方法，实现多模态时尚图像编辑。
2025-04-18 cs.AI cs.CV cs.MM
Noise-Robust Abstractive Compression in Retrieval-Augmented Language Models
Korea University（高丽大学）
本文提出ACoRN方法，通过细粒度文档分类和离线数据增强提升检索增强语言模型中抗噪的抽象压缩性能，实验表明其在保持答案准确性的同时提升了评估指标。
2025-11-19 cs.AI cs.CL
MIXRAG : Mixture-of-Experts Retrieval-Augmented Generation for Textual Graph Understanding and Question Answering
Wayne State University（韦恩州立大学）；Emory University（埃默里大学）
MIXRAG通过专家混合图-RAG框架，利用多个专门化图检索器和动态路由控制器，提升复杂查询处理和噪声过滤能力，实现文本图理解和问答任务的高性能表现。
2026-02-07 cs.AI cs.IR
Retrieval-Augmented Transformer for Image Captioning
University of Modena and Reggio Emilia（摩德纳-雷焦艾米利亚大学）
图像描述模型旨在通过提供对输入图像的自然语言描述来连接视觉和语言。在过去的几年里，这项任务已经通过学习参数模型和提出视觉特征提取改进或通过建模更好的多模态连接来解决。在本文中，我们研究了一个图像描述方法与kNN记忆，知识可以从外部语料库检索，以帮助生成过程的发展。我们的架构结合了基于视觉相似性的知识检索器，可区分的编码器和kNN增强的注意力层，以根据过去的上下文和从外部存储器中检索的文本来预测令牌。在COCO数据集上进行的实验结果表明，采用显式外部存储器可以帮助生成过程并提高字幕质量。我们的工作开辟了新的途径，改善图像描述模型在更大的规模。
2022-08-22 cs.AI cs.CL cs.CV
Chain-of-Note: Enhancing Robustness in Retrieval-Augmented Language Models
Tecent AI Lab（腾讯人工智能实验室）
本文提出Chain-of-Noting方法，通过为检索文档生成顺序阅读笔记来评估相关性并整合信息，从而提升检索增强语言模型在噪声文档和未知场景下的鲁棒性，实验显示其在多个开放域问答基准上显著优于标准RALMs。
2024-10-03 cs.AI cs.CL
Detecting Hallucinations in Graph Retrieval-Augmented Generation via Attention Patterns and Semantic Alignment
University of Illinois Chicago（伊利诺伊大学芝加哥分校）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出通过注意力模式和语义对齐检测GraphRAG中的幻觉，开发了轻量级检测器GGA，提升了系统可靠性。
2025-12-09 cs.AI cs.CL
ACoRN: Noise-Robust Abstractive Compression in Retrieval-Augmented Language Models
Department of Artificial Intelligence Korea University Seoul, Republic of Korea（人工智能系韩国大学首尔韩国）
针对检索增强生成中抽象压缩易受噪声干扰、遗漏关键信息的问题，本文提出噪声鲁棒压缩方法ACoRN，通过离线数据增强和针对性微调提升压缩性能，实验证明其可有效提升模型得分，适配真实场景。
2025-11-18 cs.AI cs.CL
RAVEN: Multitask Retrieval Augmented Vision-Language Learning
Princeton University（普林斯顿大学）；AWS AI Labs（AWS人工智能实验室）；Apple（苹果公司）
本文提出多任务检索增强VLM框架RAVEN，通过高效任务特定微调整合检索样本，无需额外参数即提升图像描述和VQA性能。
2024-06-27 cs.AI cs.CV cs.IR
InfoGain-RAG: Boosting Retrieval-Augmented Generation via Document Information Gain-based Reranking and Filtering
Kuaishou Technology, Beijing, China（快手科技，北京，中国）；Peking University, Beijing, China（北京大学，北京，中国）
本文提出文档信息增益（DIG）指标量化检索文档对答案生成的贡献，并构建InfoGain-RAG框架训练专门重排器以过滤无关文档，在多个基准上显著优于现有RAG方法。
2025-09-16 cs.AI cs.CL cs.IR
Ex-GraphRAG: Interpretable Evidence Routing for Graph-Augmented LLMs
Tel Aviv University（特拉维夫大学）；Institute for AI, University of Stuttgart（人工智能研究所，斯图加特大学）；NVIDIA（英伟达）；Meta AI
本文提出Ex-GraphRAG，通过引入多变量图神经加法网络（M-GNAN）来解决图增强大语言模型中证据路由的可解释性问题，揭示了语义重要性与结构连通性之间的不匹配，对检索剪枝、上下文构建和失败诊断有重要影响。
2026-05-21 cs.AI cs.LG
Making Retrieval-Augmented Language Models Robust to Irrelevant Context
Tel Aviv University（特拉维夫大学）；Allen Institute for AI（艾伦人工智能研究所）
本文分析检索增强语言模型在无关上下文下性能下降的问题，并提出基于NLI过滤和自动生成混合上下文数据进行微调的方法，仅需1000个样本即可使模型对无关上下文鲁棒且保持高性能。
2024-05-05 cs.AI cs.CL
Decoupled Context Processing for Context Augmented Language Modeling
Google Research（谷歌研究院）
语言模型可以用上下文检索器来扩充，以合并来自大型外部数据库的知识。通过利用检索到的上下文，神经网络不必在其内部参数中记住大量的世界知识，从而导致更好的参数效率、可解释性和模块性。在本文中，我们研究了一个简单而有效的架构，将外部环境到语言模型的基础上解耦的编码器解码器架构。我们表明，这样一个简单的架构实现竞争力的结果，自回归语言建模和开放域问答任务。我们还分析了所提出的模型进行接地上下文转移的行为。最后，我们讨论了这种检索增强模型的计算含义。
2022-10-11 cs.AI cs.CL cs.IR
A Theory for Token-Level Harmonization in Retrieval-Augmented Generation
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）
本文提出首个RAG理论，通过分布融合量化益处与损害，并基于此提出令牌级协作方法Tok-RAG，无需训练即可预测RAG效果，实验验证其有效性。
2025-02-28 cs.AI cs.CL cs.IR
ATLANTIC: Structure-Aware Retrieval-Augmented Language Model for Interdisciplinary Science
Pacific Northwest National Laboratory（太平洋西北国家实验室）
提出结构感知检索增强语言模型ATLANTIC，通过构建跨学科异构文档图并利用图神经网络融合段落文本与结构嵌入，提升了科学任务中检索文档的连贯性、忠实度与相关性。
2023-11-21 cs.AI cs.CL
Say Less, Mean More: Leveraging Pragmatics in Retrieval-Augmented Generation
University of Arizona（亚利桑那大学）
提出一种无监督的语用学方法，在RAG中突出最相关句子，提升三个问答任务上五种LLM的准确率，最高相对提升19.7%。
2025-02-27 cs.AI cs.CL cs.LG
Deceptive Grounding: Entity Attribution Failure in Clinical Retrieval-Augmented Generation
Lunit（鲁尼特）
研究临床检索增强生成中的欺骗性基础问题，通过对13个模型测试发现DG率8%-87%，医学等微调模型高达86.7%。控制消融确定机制，实体归因验证可检测DG，现有框架未实施，为该领域研究提供新视角和方法。
2026-07-13 cs.AI cs.CL cs.LG
AttentionRAG: Attention-Guided Context Pruning in Retrieval-Augmented Generation
Shanghai Jiao Tong University（上海交通大学）
针对RAG中检索上下文过长导致冗余和计算开销的问题，提出基于注意力聚焦机制的上下文剪枝方法AttentionRAG，在LongBench和Babilong上实现6.3倍压缩且关键指标优于LLMLingua约10%。
2025-10-27 cs.AI cs.CL
PathRAG: Pruning Graph-based Retrieval Augmented Generation with Relational Paths
针对现有图RAG检索冗余、提示组织扁平导致性能不佳的问题，提出PathRAG方法，通过流剪枝提取关键关系路径并构造提示，在多数据集多维度上优于现有最优基线。
2025-11-17 cs.AI cs.CL cs.IR
Enhancing Robustness of Retrieval-Augmented Language Models with In-Context Learning
Seoul National University（首尔国立大学）
本文提出基于上下文学习的方法，通过引入机器阅读理解演示增强检索增强语言模型识别不可回答与冲突场景的能力，在无需微调的情况下提升开放域问答鲁棒性。
2024-08-08 cs.AI cs.CL
An Information Bottleneck Perspective for Effective Noise Filtering on Retrieval-Augmented Generation
Harbin Institute of Technology（哈尔滨工业大学）；Peng Cheng Laboratory（鹏城实验室）；Sun Yat-sen University（中山大学）；Zhejiang University（浙江大学）
本文将信息瓶颈理论引入检索增强生成，通过双向互信息约束过滤噪声，并将其用于评估、SFT数据选择与RL奖励构建，在问答任务上显著提升答案正确性与简洁性。
2024-07-04 cs.AI cs.CL
Lightweight Chunk Selection for Mobile Retrieval-Augmented Generation
本文针对移动端RAG部署的成本问题，提出结合LLM侧查询意图、MoE路由信号与检索分块嵌入的轻量级分块选择方法，提升了排名1的证据选择性能。
2026-08-05 cs.AI cs.LG
Multilingual Retrieval-Augmented Generation for Knowledge-Intensive Task
本文研究多语言检索增强生成在开放域问答中的有效性，提出tRAG和MultiRAG方法，发现tRAG覆盖有限，MultiRAG效率高但存在不一致，CrossRAG通过翻译文档到共同语言提升性能。
2025-10-03 cs.AI cs.CL
RePCS: Diagnosing Data Memorization in LLM-Powered Retrieval-Augmented Generation
1 Institute of Information Technology, Vietnam Academy of Science；2 Institute of Information Technology, Vietnam Academy of Science；3 Department of Mathematics, Computer Science \& Physics, Rockford University, Illinois, United States Email；4 Department of Information Technology, Dong A University, Da Nang, Vietnam Email
RePCS通过比较参数路径与检索增强路径的输出分布KL散度，无需模型内部访问即可诊断RAG中的数据记忆，在Prompt-WNQA上以0.918的ROC-AUC超越先前方法6.5个百分点，且延迟开销低于4.7%。
2025-06-18 cs.AI cs.LG
DRAGged into Conflicts: Detecting and Addressing Conflicting Sources in Search-Augmented LLMs
Google Research（谷歌研究）
本研究针对检索增强生成（RAG）中检索源信息冲突的问题，提出知识冲突分类体系与首个专家标注的CONFLICTS基准，实验发现现有大语言模型冲突解决能力不足，显式推理冲突可提升回答质量，为相关研究指明方向。
2025-06-15 cs.AI cs.CL cs.LG
Better RAG using Relevant Information Gain
Emergence AI
针对检索增强生成（RAG）中上下文窗口有限导致冗余信息占用空间的问题，提出基于相关信息增益的优化指标，通过该指标自然实现检索段落多样性与相关性平衡，在RGB问答任务上性能优于现有方法。
2025-02-12 cs.AI cs.CL
Semantic Tokens in Retrieval Augmented Generation
本文提出 Comparative RAG，通过评估器比较外部建议与检索文档块，使结果兼具语义相关性与逻辑可验证性，从而提升 RAG 问答的准确性、可靠性与可扩展性。
2024-12-03 cs.AI cs.CL
ReAG: Reasoning-Augmented Generation for Knowledge-based Visual Question Answering
University of Modena and Reggio Emilia（摩德纳大学和雷焦艾米利亚大学）；University of Pisa（比萨大学）
ReAG通过结合粗粒度和细粒度检索及批评模型过滤无关信息，提升知识密集型视觉问答的准确性和可解释性。
2026-03-31 cs.AI cs.CL cs.CV
Characterizing Attribution and Fluency Tradeoffs for Retrieval-Augmented Large Language Models
Google Research（谷歌研究院）
尽管最近取得了进展，但在生成大语言模型中很难防止语义幻觉。对此，一个常见的解决方案是用检索系统增强LLM，并确保生成的输出可归因于检索到的信息。考虑到这一新增加的限制，可以合理地预期，产出的总体质量将受到影响，例如，在流畅性方面。缩放语言模型是否有帮助？在这里，我们研究流畅性和归因之间的关系，提示与检索的证据在知识密集的对话设置LLM。我们的实验是用一组与人类偏好一致的自动度量来实现的。他们被用来评估一个大的世代，根据不同的参数LLM和提供的上下文。我们发现，较大的模型往往在流畅性和归因方面做得更好，并且（天真地）使用前k检索与前1检索相比，可以提高归因，但会损害流畅性。接下来，我们提出了一种方法，可以让较小的模型缩小与较大模型的差距，并保留top-k检索的优点，同时避免其缺点。
2023-02-14 cs.AI cs.CL
