BlendFilter: Advancing Retrieval-Augmented Large Language Models via Query Generation Blending and Knowledge Filtering
SUNY Albany(纽约州立大学奥尔巴尼分校);Purdue University(普渡大学);Georgia Institute of Technology(佐治亚理工学院);Amazon(亚马逊公司)
针对检索增强LLMs在复杂输入和噪声检索下效果受限的问题,提出BlendFilter方法,通过融合内外部知识的查询生成与利用LLM内在能力的知识过滤模块,在三个问答基准上显著超越基线。
2024-10-15 cs.CL
RAS: Retrieval-And-Structuring for Knowledge-Intensive LLM Generation
Department of Computer Science, University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校计算机科学系)
RAS通过动态构建问题特定知识图谱,提升大语言模型在知识密集型任务中的推理准确性和鲁棒性。
2026-01-29 cs.CL
Tool Calling: Enhancing Medication Consultation via Retrieval-Augmented Large Language Models
Shanghai Jiao Tong University(上海交通大学);Shanghai AI Laboratory(上海人工智能实验室);East China University of Science and Technology(华东理工大学);SenseTime Research(商汤科技研究院)
本文针对医疗领域知识密集型任务,提出Distill-Retrieve-Read框架,利用工具调用机制优化检索查询,并在多轮对话基准MedicineQA上显著提升了证据检索准确率。
2024-04-27 cs.CL
BIDER: Bridging Knowledge Inconsistency for Efficient Retrieval-Augmented LLMs via Key Supporting Evidence
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学高瓴人工智能学院)
本文提出BIDER方法,通过知识合成、监督微调和偏好对齐将检索文档提炼为关键支持证据,有效解决检索知识与LLMs需求不一致的问题,在提升回答质量7%的同时减少80%的输入长度。
2024-05-30 cs.CL
Visually-Augmented Language Modeling
University of California, Santa Barbara(加州大学圣巴巴拉分校);Microsoft Research(微软研究院)
人类语言基于多模态知识,包括颜色、大小和形状等视觉知识。然而,目前的大规模预训练语言模型依赖于大量文本数据的纯文本自监督训练,这使得它们在必要时无法利用相关的视觉信息。为了解决这个问题,我们提出了一个新的预训练框架,名为VaLM,视觉增强文本标记与检索相关图像的语言建模。具体来说,VaLM建立在一个新的潜在的文本图像对齐方法,通过图像检索模块获取相应的图像给定的文本上下文。通过视觉增强的上下文,VaLM使用视觉知识融合层,通过关注文本上下文和图像中的视觉知识来实现多模态接地语言建模。我们评估各种视觉知识密集型的常识推理任务,这需要视觉信息,以脱颖而出的VaLM。实验结果表明,VaLM优于所有强大的纯语言和视觉语言基线,在推理对象常识,包括颜色,大小和形状方面有很大的收获。我们的代码可在www.example.com上获得。
2023-02-25 cs.CL
Exploring the Potential of Multimodal LLM with Knowledge-Intensive Multimodal ASR
Monash University(莫纳什大学);MBZUAI(穆罕默德·本·扎耶德人工智能大学)
本文提出多模态科学ASR(MS-ASR)任务及严重性感知WER(SWER)评估指标,并构建SciVASR基线框架,利用MLLMs通过后编辑整合幻灯片视觉信息,使转录质量较仅语音基线提升45%。
2024-11-14 cs.CL
MATHSENSEI: A Tool-Augmented Large Language Model for Mathematical Reasoning
IIT Kharagpur(印度理工学院卡哈拉格普尔分校);Rakuten Group, Inc.(乐天集团);Rakuten Institute of Technology India(乐天印度技术研究院)
本文提出MathSensei,结合Bing、Python与Wolfram-Alpha等工具增强LLM数学推理,并通过MATH等数据集验证其在复杂问题上的显著收益。
2024-04-03 cs.CL
TAPO: Translation Augmented Policy Optimization for Multilingual Mathematical Reasoning
National Key Laboratory for Novel Software Technology, Nanjing University(南京大学计算机软件新技术国家重点实验室);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室)
TAPO通过引入翻译增强策略优化框架,提升多语言数学推理能力,有效结合语言理解和推理能力,优于基线方法并在未见语言和领域任务中表现良好。
2026-03-26 cs.CL
Query Rewriting for Retrieval-Augmented Large Language Models
Shanghai Jiao Tong University(上海交通大学);Microsoft Research Asia(微软亚洲研究院);Microsoft Azure AI(微软Azure人工智能部门)
本文提出Rewrite-Retrieve-Read框架,通过强化学习训练小型语言模型作为查询重写器,优化检索增强LLM的搜索查询,在开放域和多选QA任务上取得一致性能提升。
2023-10-23 cs.CL
The Web Can Be Your Oyster for Improving Large Language Models
Renmin University of China(中国人民大学);Université de Montréal(蒙特利尔大学);Beihang University(北京航空航天大学)
本文提出Web增强的LLM UNIWEB,通过自适应搜索引擎辅助学习方法和基于显著跨度预测的持续知识学习预训练任务,在16个知识密集型任务上显著提升了模型性能。
2023-05-24 cs.CL
Recitation-Augmented Language Models
Google Research(谷歌研究院);Carnegie Mellon University(卡内基梅隆大学)
我们提出了一个新的范例,以帮助大语言模型(LLM)生成更准确的事实知识,而无需从外部语料库检索,称为RECITation-augmented gEneration(RECITE)。与在生成输出之前检索相关文档的检索增强语言模型不同,给定输入,RECITE首先通过采样从LLM自己的记忆中背诵一个或多个相关段落,然后生成最终答案。我们表明,RECITE是知识密集型NLP任务的一个强大的范例。具体来说,我们表明,通过利用背诵作为中间步骤,背诵和回答方案可以实现新的国家的最先进的性能在各种闭卷问答(CBQA)任务。在实验中,我们验证了\method ~在四个预训练模型(PaLM,UL 2,OPT和Codex)和三个CBQA任务(自然问题,TriviaQA和HotpotQA)上的有效性。我们的代码可以在“https://github.com/Edward-Sun/RECITE“上找到。
2023-02-16 cs.AI cs.CL
DynamicRAG: Leveraging Outputs of Large Language Model as Feedback for Dynamic Reranking in Retrieval-Augmented Generation
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
针对RAG系统重排器文档数量难确定、忽视LLM反馈信号的问题,提出DynamicRAG框架,将重排器建模为RL智能体,基于LLM输出质量奖励动态调整检索文档的顺序与数量,在七个数据集上同参数规模模型中达SOTA。
2025-05-16 cs.AI cs.CL
RARE: Retrieval-Augmented Reasoning Modeling
Peking University(北京大学);Shanghai Jiao Tong University(上海交通大学);Northeastern University(东北大学);Nankai University(南开大学);Institute for Advanced Algorithms Research, Shanghai(上海先进算法研究所);OriginHub Tech.(OriginHub科技);MemTensor Tech.(MemTensor科技);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室)
针对大语言模型在领域场景下的知识幻觉与推理不足问题,提出将知识存储与推理优化解耦的RARE范式,轻量模型经其训练后准确率超越检索增强版GPT-4等模型最高约20%,推动领域智能可扩展发展。
2025-05-17 cs.CL
Abductive Inference in Retrieval-Augmented Language Models: Generating and Validating Missing Premises
Independent Researcher, Mountain View, CA94039, USA(独立研究者)
本文提出将溯因推理集成到检索增强语言模型中,通过检测证据不足、生成并验证缺失前提,在多个基准上提升了答案准确性与推理忠实度。
2025-11-06 cs.AI cs.CL
LimRank: Less is More for Reasoning-Intensive Information Reranking
Yale NLP Lab(耶鲁大学自然语言处理实验室)
本文提出LIMRANK,利用开源合成数据流水线LIMRANK-SYNTHESIZER生成高质量重排序样本,以少于先前工作5%的数据微调LLM,在BRIGHT和FollowIR基准上取得竞争性能,并展现强泛化能力。
2025-10-27 cs.CL cs.IR
Linking Knowledge to Care: Knowledge Graph-Augmented Medical Follow-Up Question Generation
Carnegie Mellon university(卡内基梅隆大学);Amazon Health AI(亚马逊健康AI)
本文提出KG-Followup方法,通过知识图谱增强LLM,提升医疗随访问题生成的准确性和效率。
2026-03-01 cs.AI cs.CL
StructRAG: Boosting Knowledge Intensive Reasoning of LLMs via Inference-time Hybrid Information Structurization
Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所);University of Chinese Academy of Sciences(中国科学院大学);Alibaba Group(阿里巴巴集团)
本文提出StructRAG框架,在推理时为任务选择最优结构并将文档重构为结构化知识,从而提升LLM在分散、含噪信息下的知识密集型推理性能。
2024-10-25 cs.AI cs.CL
LAG: Logic-Augmented Generation from a Cartesian Perspective
The Hong Kong Polytechnic University(香港理工大学)
LAG通过系统的问题分解、原子记忆库和逻辑感知推理,提升知识密集型任务的准确性和减少幻觉。
2026-01-07 cs.AI cs.CL
Enhancing Cache-Augmented Generation (CAG) with Adaptive Contextual Compression for Scalable Knowledge Integration
Data Science(数据科学);Marketing Data Scientist(市场数据科学家)
针对CAG难以扩展至大型动态知识库的问题,提出ACC动态压缩管理上下文,并结合选择性检索构建混合CAG-RAG框架,提升效率、可扩展性与多跳推理能力。
2025-05-13 cs.AI cs.CL
BTR: Binary Token Representations for Efficient Retrieval Augmented Language Models
Paul G. Allen School of Computer Science & Engineering(保罗·G·艾伦计算机科学与工程学院);University of Washington(华盛顿大学)
本文提出二值令牌表示(BTR),用1位向量预计算段落令牌,结合校准与压缩技术,在保持95%以上任务性能的同时将检索增强语言模型推理加速4倍、存储减少100倍以上。
2024-05-03 cs.AI cs.CL
Routing by Analogy: kNN-Augmented Expert Assignment for Mixture-of-Experts
Institute of Science Tokyo(东京科学研究院);CyberAgent;Nara Institute of Science and Technology(奈良科学技術大學)
提出kNN-MoE框架,通过检索历史相似案例的局部最优专家分配来增强MoE路由,使用检索邻居的平均相似度作为置信度混合系数,在分布偏移下提升鲁棒性。
2026-05-25 cs.AI cs.CL
Demonstrate-Search-Predict: Composing retrieval and language models for knowledge-intensive NLP
Stanford University(斯坦福大学)
检索增强的上下文学习已经成为一个强大的方法来解决知识密集型任务使用冻结语言模型(LM)和检索模型(RM)。现有的工作结合了这些简单的“检索,然后阅读”管道中的RM检索插入到LM提示通道。为了开始充分认识到冻结LM和RM的潜力,我们提出了演示搜索预测(DSP),一个框架,依赖于传递自然语言文本之间的LM和RM复杂的管道。DSP可以表达高级程序,这些程序可以引导流水线感知的演示,搜索相关段落,并生成接地预测,系统地将问题分解为LM和RM可以更可靠地处理的小转换。我们已经编写了新颖的DSP程序,用于在开放域、多跳和会话设置中回答问题,在早期评估中建立了最先进的上下文学习结果,并分别提供了相对于香草LM(GPT-3.5)、标准检索然后读取管道和同期自问管道的37- 120%、8- 39%和80-290%的相对增益。我们在https://github.com/stanfordnlp/dsp上发布DSP
2023-01-23 cs.CL cs.IR
Improving Context Fidelity via Native Retrieval-Augmented Reasoning
DIRO, Université de Montréal(蒙特利尔大学计算机科学与运筹学系);MetaGPT;Mila - Quebec AI Institute(米拉-魁北克人工智能研究所);McGill University(麦吉尔大学);Yale University(耶鲁大学);Canada CIFAR AI Chair(加拿大CIFAR人工智能教席)
提出原生检索增强推理框架CARE,通过模型自身检索能力在推理链中显式整合上下文证据,显著提升了LLMs的上下文保真度及知识密集型任务的准确性。
2025-09-17 cs.AI cs.CL
Augmented Relevance Datasets with Fine-Tuned Small LLMs
Qwant(宽特科技);Georgia Tech(佐治亚理工学院);UTC Paris(巴黎 UTC)
针对构建高质量相关性数据集的资源密集问题,本文提出用微调小型大型语言模型(LLMs)自动化相关性评估以增强训练数据集,实验显示其优于部分闭源模型且大幅提升排序模型性能,为搜索引擎优化提供实用方案。
2025-04-14 cs.CL cs.IR
REFIND at SemEval-2025 Task 3: Retrieval-Augmented Factuality Hallucination Detection in Large Language Models
Pohang University of Science and Technology (POSTECH)(浦项科技大学)
REFIND 提出利用检索文档和上下文敏感度比率 CSR 来检测大语言模型输出中的幻觉片段,在九种语言上显著优于基线模型。
2025-04-08 cs.AI cs.CL
The Parrot Dilemma: Human-Labeled vs. LLM-augmented Data in Classification Tasks
IT University of Copenhagen(哥本哈根信息技术大学)
本研究比较了人工标注与LLM合成数据在十个CSS分类任务中的效果,发现人工数据更优,但合成数据可提升稀有类别性能,且零样本LLM不如中等规模训练的专业分类器。
2024-02-05 cs.CL cs.CY physics.soc-ph
LoRA-Augmented Generation (LAG) for Knowledge-Intensive Language Tasks
本文提出LoRA增强生成(LAG)方法,无需训练即可在token和层级上高效检索并组合任务特定的LoRA专家,在知识密集型任务上超越现有无数据方法,并与RAG兼容。
2025-08-15 cs.AI cs.CL cs.LG
LEAF: Learning and Evaluation Augmented by Fact-Checking to Improve Factualness in Large Language Models
United Imaging Intelligence(联影智能);Manning College of Information and Computer Sciences, University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校曼宁信息与计算机科学学院)
针对大语言模型事实准确性不足的问题,提出LEAF框架,通过“先核查再RAG”和基于事实核查的自训练双重策略,有效提升医疗问答场景下模型输出的事实可靠性。
2024-10-31 cs.AI cs.CL
Where Does Robustness Live? Neuron-Guided Adaptation for Retrieval-Augmented Language Models
Hanyang University(汉阳大学)
Neuro-RIT通过神经层面的对齐提升检索增强语言模型的鲁棒性,通过神经属性挖掘分离相关与无关上下文的神经元,并采用两阶段指令微调策略增强噪声鲁棒性。
2026-09-01 cs.AI cs.CL
Visual-RAG: Benchmarking Text-to-Image Retrieval Augmented Generation for Visual Knowledge Intensive Queries
Visual-RAG基准通过要求文本到图像检索并整合视觉证据来评估多模态大语言模型在视觉知识密集型问答中的表现,发现现有模型仍难以高效利用视觉知识。
2025-08-15 cs.CL cs.CV
Prompt-Guided Retrieval Augmentation for Non-Knowledge-Intensive Tasks
Tsinghua University(清华大学);Beijing National Research Center for Information Science and Technology(北京信息科学与技术国家研究中心);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);Fudan University(复旦大学)
本文提出面向非知识密集型任务的两阶段检索增强框架PGRA,通过任务无关检索器构建共享索引,并用提示引导重排序器按任务相关性重排证据,在实验中优于现有方法并验证了通用性。
2023-05-28 cs.CL
VAT-KG: Knowledge-Intensive Multimodal Knowledge Graph Dataset for Retrieval-Augmented Generation
Korea University(韩国大学);Sungkyunkwan University(全北大学);Hanwha Systems(韩华系统)
针对现有MMKG范围受限问题,提出首个概念中心、知识密集型的VAT-KG,覆盖视觉、音频和文本,并通过严格对齐流程自动构建,结合新RAG框架,实验证明其有效支持MLLM多模态问答。
2025-09-26 cs.CL
Multilingual Retrieval-Augmented Generation for Knowledge-Intensive Task
本文研究多语言检索增强生成在开放域问答中的有效性,提出tRAG和MultiRAG方法,发现tRAG覆盖有限,MultiRAG效率高但存在不一致,CrossRAG通过翻译文档到共同语言提升性能。
2025-10-03 cs.AI cs.CL
An Efficient Memory-Augmented Transformer for Knowledge-Intensive NLP Tasks
University College London(伦敦大学学院);Harbin Institute of Technology Shenzhen(哈尔滨工业大学(深圳));University of Edinburgh(爱丁堡大学)
对外部知识的访问对于许多自然语言处理任务(例如问答和对话)是必不可少的。现有的方法通常依赖于在其参数中存储知识的参数模型,或者使用可以访问外部知识源的检索增强模型。参数和检索增强模型在计算效率和预测准确性方面具有互补优势。为了结合这两种方法的优势,我们提出了高效内存增强的Transformer(EMAT)-它将外部知识编码到键值内存中,并利用快速最大内积搜索进行内存查询。我们还介绍了预训练任务,使EMAT编码信息的键值表示,并学习一个隐式的策略,将多个内存插槽到Transformer。在各种知识密集型任务(如问答和对话数据集)上的实验表明,使用我们的方法简单地增强参数模型(T5-base)会产生更准确的结果(例如,25.8- NQ上的44.3EM),同时保持高吞吐量(例如,1000查询/秒的NQ)。与检索增强模型相比,EMAT在WoW和ELI 5上运行速度更快,结果更准确。我们的代码和数据集可以在https://github上找到。com/uclnlp/EMAT。
2022-10-30 cs.AI cs.CL cs.LG
DF-RAG: Query-Aware Diversity for Retrieval-Augmented Generation
George Mason University(乔治·马歇尔大学);Capital One
DF-RAG通过在检索阶段引入多样性,提升复杂推理问答任务的F1性能,相比传统RAG提升了4-10个百分点,并接近Oracle上限的91.3%
2026-01-23 cs.CL
Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
Facebook AI Research(Facebook AI研究院);University College London(伦敦大学学院);New York University(纽约大学)
大型预训练的语言模型已被证明可以在其参数中存储事实知识,并在对下游NLP任务进行微调时实现最先进的结果。然而,它们获取和精确操作知识的能力仍然有限,因此在知识密集型任务中,它们的性能落后于特定任务的架构。此外,为他们的决定提供出处和更新他们的世界知识仍然是开放的研究问题。具有显式非参数记忆的可微分访问机制的预训练模型可以克服这个问题,但到目前为止仅针对提取下游任务进行了研究。我们探索一个通用的微调配方检索增强生成(RAG)-模型结合了预先训练的参数和非参数的记忆语言生成。我们引入RAG模型,其中参数记忆是预训练的seq 2seq模型,非参数记忆是维基百科的密集向量索引,使用预训练的神经检索器访问。我们比较了两种RAG公式,一种是在整个生成的序列中以相同的检索通道为条件,另一种是每个标记可以使用不同的通道。我们在广泛的知识密集型NLP任务上微调和评估我们的模型,并在三个开放领域QA任务上设置最先进的模型,性能优于参数seq 2seq模型和特定于任务的检索和提取架构。对于语言生成任务,我们发现RAG模型比最先进的仅参数seq 2seq基线生成更具体,更多样和更真实的语言。
2021-04-12 cs.CL cs.LG
MIRAGE: A Metric-Intensive Benchmark for Retrieval-Augmented Generation Evaluation
Korea University, Republic of Korea(韩国大学)
MIRAGE是一个包含7,560个实例和37,800条检索条目的问答基准,通过新颖指标评估RAG的检索与生成性能,揭示模型最优配对与系统动态。
2025-04-23 cs.AI cs.CL
MCTS-RAG: Enhancing Retrieval-Augmented Generation with Monte Carlo Tree Search
Yale University(耶鲁大学);New York University(纽约大学)
提出MCTS-RAG,结合检索增强生成与蒙特卡洛树搜索,动态整合检索与推理,减少幻觉,提升事实准确性,使小模型在知识密集型任务上达到GPT-4o水平。
2025-10-08 cs.CL
Knowledge Augmented Finetuning Matters in both RAG and Agent Based Dialog Systems
EE Department, Tsinghua University(清华大学电子工程系);China Mobile Research Institute(中国移动研究院)
针对LLMs在知识密集型对话中难以有效利用检索知识的问题,提出知识增强微调(KAFT)方法,在RAG和agent系统中利用领域数据与外部知识微调模型,实验证明其事实准确性显著优于提示方法。
2025-06-28 cs.CL
Multi-Task Retrieval-Augmented Text Generation with Relevance Sampling
TU Wien(维也纳工业大学);Google(谷歌);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
研究了面向知识密集型任务的检索增强生成模型的多任务训练问题。我们建议通过利用知识密集型生成的一个独特属性来清理训练集:查询-答案对与知识库中的项目的连接。我们过滤训练样本通过相关性标签的置信度阈值,无论一对是由知识库回答与否。我们训练一个单一的融合解码器(FiD)发生器的七个组合任务的KILT基准。实验结果表明,我们简单而有效的方法大大改善了两个严重不平衡任务的竞争基线;并且在剩余任务上显示出较小的改善或没有显着的回归。此外,我们证明了我们的多任务训练与相关标签采样尺度以及增加的模型容量,并实现了最先进的结果,在五个七个KILT任务。
2022-07-07 cs.CL cs.IR
Language Drift in Multilingual Retrieval-Augmented Generation: Characterization and Decoding-Time Mitigation
本文针对多语言RAG中因检索证据与查询语言不一致引发的语言漂移问题,剖析其解码器层面的成因,提出无需训练的轻量SCD解码策略,可有效提升多语言场景下的语言对齐度与任务性能。
2025-11-13 cs.CL
Unveiling Knowledge Utilization Mechanisms in LLM-based Retrieval-Augmented Generation
GSAI, Renmin University of China(人工智能研究院,中国人民大学);Baidu Inc.(百度公司)
本文通过宏观知识流分析与微观 KAPE 神经元识别,揭示 LLM 在 RAG 中整合参数化与检索知识的四阶段机制及模块互补作用。
2025-05-17 cs.CL
On the Vulnerability of Applying Retrieval-Augmented Generation within Knowledge-Intensive Application Domains
Department of ECE University of Minnesota(电子工程系明尼苏达大学);Data Science Institute University of Chicago(数据科学研究所芝加哥大学);Carlson School of Management University of Minnesota(卡尔森管理学院明尼苏达大学);Department of Surgery University of Minnesota(外科系明尼苏达大学);Cisco Research(思科研究);School of Statistics University of Minnesota(统计学学院明尼苏达大学)
研究了RAG在知识密集型领域的对抗鲁棒性,发现检索系统易受通用投毒攻击,并提出一种基于检测的防御方法,在几乎所有情况下均实现出色的检测率。
2025-05-30 cs.AI cs.CL cs.CR
Adaptive Contrastive Decoding in Retrieval-Augmented Generation for Handling Noisy Contexts
Seoul National University(首尔大学);Ewha Womans University(梨花女子大学);NAVER Cloud(NAVER云);KAIST AI(韩国科学技术院AI学院);NAVER AI LAB(NAVER AI实验室);Hanyang University(汉阳大学)
针对现有对比解码方法在检索增强生成中易受噪声上下文干扰的问题,提出自适应对比解码方法,有效利用上下文影响力,提升了开放域问答任务性能与抗噪声鲁棒性。
2024-10-07 cs.CL
Unlocking Multi-View Insights in Knowledge-Dense Retrieval-Augmented Generation
School of Artificial Intelligence, Beihang University(北航人工智能学院);Zhongguancun Laboratory(中关村实验室)
本文提出MVRAG框架,通过多领域视角的意图感知查询重写提升知识密集型RAG的检索精度,在法律和医学案例检索中显著提高召回率和精确率。
2025-10-23 cs.CL
Evaluating Self-Generated Documents for Enhancing Retrieval-Augmented Generation with Large Language Models
Wangxuan Institute of Computer Technology, Peking University(北京大学王选计算机研究所);Information Management Department, Peking University(北京大学信息管理系)
本研究针对检索增强生成(RAG)系统中LLM自生成文档(Self-Docs)的固有属性未被充分探索的问题,通过调查其有效性、建立分类体系及探索结合策略,揭示了有益的Self-Docs类型并提供实用指南。
2025-02-08 cs.CL
Ground Every Sentence: Improving Retrieval-Augmented LLMs with Interleaved Reference-Claim Generation
Shanghai Key Laboratory of Data Science, School of Computer Science, Fudan University(上海数据科学 key laboratory,计算机科学学院,复旦大学);School of Data Science, Fudan University(数据科学学院,复旦大学);AntGroup(蚂蚁集团)
针对检索增强生成中引用粒度粗、可验证性不足的问题,提出细粒度属性文本生成方法ReClaim,在长文本问答中逐句生成引用与答案,实验显示引用准确率达90%。
2025-05-23 cs.CL
AMATA: Adaptive Multi-Agent Trajectory Alignment for Knowledge-Intensive Question Answering
School of Computer Science and Information Engineering, Hefei University of Technology(合肥工业大学计算机科学与信息工程学院);Shanghai University of Electric Power(上海电力大学);East China Normal University(华东师范大学);Guangdong University of Finance and Economics(广东财经大学);Alibaba Group(阿里巴巴集团)
本研究提出AMATA框架,通过动态整合外部知识提高知识密集型问答的响应可解释性和事实准确性,采用六个专门化智能体协作执行复杂问题推理,并引入两种创新:轨迹内偏好学习和智能体间依赖学习。
2026-05-17 cs.CL
RAR$^2$: Retrieval-Augmented Medical Reasoning via Thought-Driven Retrieval
Department of Computing, The Hong Kong Polytechnic University(计算机系,香港理工大学);Research Institute of Trustworthy Autonomous Systems and Department of Computer Science and Engineering, Southern University of Science and Technology(可信自主系统研究院和计算机科学与工程系,南方科技大学)
本文提出RAR$^2$联合学习框架,以思维过程揭示隐含知识需求并指导检索与生成,结合DPO和测试时扩展策略提升复杂医学问答性能。
2025-09-24 cs.CL
Derivation Prompting: A Logic-Based Method for Improving Retrieval-Augmented Generation
Instituto de Computación, Facultad de Ingeniería, Universidad de la República(计算研究所,工程学院,乌拉圭共和国大学)
本文提出推导提示方法,通过系统应用预定义规则从初始假设推导结论,以提高检索增强生成中生成过程的可控性和准确性。
2026-05-13 cs.AI cs.CL
AIANO: Enhancing Information Retrieval with AI-Augmented Annotation
Institute for Artificial Intelligence in Medicine (IKIM), University Hospital Essen (AöR)(人工智能医学研究所(IKIM)、埃森大学医院(AöR))
AIANO通过结合人类专业知识与LLM帮助,提升信息检索数据集的创建效率和准确性。
2026-02-04 cs.CL cs.IR
Development and Evaluation of a Retrieval-Augmented Generation Tool for Creating SAPPhIRE Models of Artificial Systems
Department of Design and Manufacturing, Indian Institute of Science(设计与制造系,印度科学研究院)
本文提出一种基于检索增强生成的工具,用于创建SAPPhIRE因果模型的人工系统模型,通过评估工具在事实准确性和可靠性方面的表现,提升系统设计类比支持能力。
2024-10-27 cs.AI cs.CL
Scaling Test-Time Inference with Policy-Optimized, Dynamic Retrieval-Augmented Generation via KV Caching and Decoding
Tata Research Development(塔塔研究与发展中心);Design Center, Bangalore(班加罗尔设计中心)
本研究提出整合PORAG、ATLAS、CRITIC及测试时扩展、优化解码的RAG综合框架,无需额外训练即可兼容Transformer类大模型,在知识密集型任务上减少幻觉、提升推理能力与效率可扩展性。
2025-05-20 cs.AI cs.CL cs.IR
SIGMA: Search-Augmented On-Demand Knowledge Integration for Agentic Mathematical Reasoning
提出SIGMA框架,通过多智能体独立推理、定向搜索和协调机制,实现上下文敏感的知识集成,在MATH500等基准上提升7.4%的绝对性能。
2026-06-19 cs.AI cs.CL