R4: Reinforced Retriever-Reorder-Responder for Retrieval-Augmented Large Language Models
提出R4管道,通过文档顺序调整和表示增强学习检索文档排序,提升检索增强LLMs在知识密集型任务上的事实问答性能。
2024-06-25 cs.CL
FLEEK: Factual Error Detection and Correction with Evidence Retrieved from External Knowledge
University of Michigan - Ann Arbor(密歇根大学安娜堡分校);Apple(苹果公司)
FLEEK是一个自动检测和纠正文本事实错误的原型工具,通过提取事实主张、检索外部证据、评估事实性并给出修改建议,在检测任务上达到77-85%的F1值。
2023-10-26 cs.CL
Query Rewriting for Retrieval-Augmented Large Language Models
Shanghai Jiao Tong University(上海交通大学);Microsoft Research Asia(微软亚洲研究院);Microsoft Azure AI(微软Azure人工智能部门)
本文提出Rewrite-Retrieve-Read框架,通过强化学习训练小型语言模型作为查询重写器,优化检索增强LLM的搜索查询,在开放域和多选QA任务上取得一致性能提升。
2023-10-23 cs.CL
The Web Can Be Your Oyster for Improving Large Language Models
Renmin University of China(中国人民大学);Université de Montréal(蒙特利尔大学);Beihang University(北京航空航天大学)
本文提出Web增强的LLM UNIWEB,通过自适应搜索引擎辅助学习方法和基于显著跨度预测的持续知识学习预训练任务,在16个知识密集型任务上显著提升了模型性能。
2023-05-24 cs.CL
CoCoA: Collaborative Chain-of-Agents for Parametric-Retrieved Knowledge Synergy
Harbin Institute of Technology(哈尔滨工业大学);China Mobile Group Heilongjiang Co.,Ltd(中国移动集团黑龙江公司)
本文提出CoCoA框架,通过多智能体协作与长链训练策略,增强大模型在RAG中参数化知识与检索知识的显式协同,提升开放域和多跳问答性能。
2025-10-09 cs.AI cs.CL
Tool Calling: Enhancing Medication Consultation via Retrieval-Augmented Large Language Models
Shanghai Jiao Tong University(上海交通大学);Shanghai AI Laboratory(上海人工智能实验室);East China University of Science and Technology(华东理工大学);SenseTime Research(商汤科技研究院)
本文针对医疗领域知识密集型任务,提出Distill-Retrieve-Read框架,利用工具调用机制优化检索查询,并在多轮对话基准MedicineQA上显著提升了证据检索准确率。
2024-04-27 cs.CL
Unleashing Potential of Evidence in Knowledge-Intensive Dialogue Generation
Beihang University(北京航空航天大学);Fudan University(复旦大学);Baidu Inc(百度公司)
提出u-EIDG框架,利用LLMs挖掘证据真实性标签训练证据指示器,并结合证据聚焦注意力机制的增强生成器,有效提升知识密集型对话的事实一致性与连贯性。
2023-09-15 cs.CL
Hint-enhanced In-Context Learning wakes Large Language Models up for knowledge-intensive tasks
Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);Tencent AI Lab(腾讯人工智能实验室)
针对标准上下文学习中LLM易忽略示例查询相关信息的问题,提出HICL范式结合HER检索器,通过提取拼接查询相关知识增强提示,在3个开放域QA基准上实现显著性能提升。
2024-04-18 cs.CL
TrustMargin: Training-Free Arbitration between Parametric Memory and Retrieved Evidence in Large Language Models
Peking University(北京大学)
针对大语言模型在知识问答中参数记忆与检索证据冲突的问题,提出无训练仲裁层TrustMargin,利用模型自身似然度评分选择更可信的答案,无需微调或外部评判。
2026-06-07 cs.CL cs.IR
ARL2: Aligning Retrievers for Black-box Large Language Models via Self-guided Adaptive Relevance Labeling
Renmin University of China(中国人民大学);Georgia Institute of Technology(佐治亚理工学院)
提出ARL2检索器学习技术,利用黑盒LLM作为标注器对证据打分,并结合自适应自训练策略降低标注成本,显著提升了检索准确率与零样本泛化能力。
2024-06-04 cs.AI cs.CL cs.IR
Iterative Self-Incentivization Empowers Large Language Models as Agentic Searchers
Shandong University(山东大学);Baidu. Inc(百度公司);Leiden University(莱顿大学);University of Amsterdam(阿姆斯特丹大学)
本文提出EXSEARCH智能体搜索框架,通过广义期望最大化算法实现自我激励学习,使LLM在推理中迭代优化检索决策,在四个知识密集型基准上显著提升性能。
2025-05-26 cs.CL
Compositional Skill Routing for LLM Agents: Decompose, Retrieve, and Compose
Alibaba Cloud(阿里云)
提出SkillWeaver框架,通过迭代技能感知分解(SAD)将复杂查询分解为原子子任务,检索对应技能并组合为可执行计划,在CompSkillBench上验证了分解质量是主要瓶颈,SAD将分解准确率提升32.7%。
2026-06-17 cs.CL
Evaluating the Retrieval Robustness of Large Language Models
Bloomberg(彭博);University of Michigan(密歇根大学)
本研究评估大型语言模型在实际RAG设置中的检索鲁棒性,通过构建1500个开放领域问题基准和三个鲁棒性指标,发现11个LLMs虽表现出高鲁棒性,但不完美的鲁棒性仍阻碍其充分利用RAG优势。
2026-10-05 cs.AI cs.CL
Knowledge-Augmented Reasoning Distillation for Small Language Models in Knowledge-Intensive Tasks
KRAFTON(魁匠团);KAIST(韩国科学技术院);National University of Singapore(新加坡国立大学)
本文提出知识增强推理蒸馏方法KARD,通过外部知识检索与神经重排序增强小型语言模型的推理能力,使其在多个知识密集型推理基准上超越参数量大12倍的模型。
2023-10-30 cs.AI cs.CL cs.LG
Towards Building a Robust Knowledge Intensive Question Answering Model with Large Language Models
Zhejiang Lab(之江实验室);China Mobile, Hangzhou Research and Development Center(中国移动杭州研发中心)
针对检索信息噪声影响大语言模型问答鲁棒性的问题,构建多干扰场景数据集,提出数据增强微调结合对比学习的方法,经GPT-4评估可同时提升模型鲁棒性与信息判别能力。
2024-09-18 cs.AI cs.CL
Beyond Relevant Documents: A Knowledge-Intensive Approach for Query-Focused Summarization using Large Language Models
University of Amsterdam(阿姆斯特丹大学);Amazon Alexa AI(亚马逊Alexa人工智能);University of Edinburgh(爱丁堡大学)
提出一种知识密集型查询聚焦摘要方法,通过检索模块从大规模语料库获取文档,结合LLM摘要控制器生成准确摘要,无需预先相关文档,实验验证其优越性能。
2024-08-19 cs.CL cs.IR
Planning and Editing What You Retrieve for Enhanced Tool Learning
University of Southern California(南加州大学);University of California, Davis(加州大学戴维斯分校)
针对一次性工具检索不准的问题,本文提出 PLUTO,通过查询规划分解、神经检索及基于场景的工具描述编辑,显著提升工具检索的召回率和 NDCG。
2024-04-04 cs.AI cs.CL cs.IR
Beyond Sequential Reranking: Reranker-Guided Search Improves Reasoning Intensive Retrieval
Massachusetts Institute of Technology(麻省理工学院);University of Washington(华盛顿大学)
提出重排序器引导搜索(RGS),利用邻近图贪心搜索按重排序器偏好直接检索文档,在受限预算下显著提升推理密集型检索性能。
2025-09-08 cs.CL cs.IR cs.LG
Internal and External Knowledge Interactive Refinement Framework for Knowledge-Intensive Question Answering
本文提出IEKR框架,利用LLM内部知识辅助外部知识检索,并用外部知识精炼内部幻觉,在3个基准数据集上达到SOTA。
2024-08-23 cs.CL
Bridging the Reasoning Gap: Small LLMs Can Plan with Generalised Strategies
University of Auckland(奥克兰大学)
针对大型语言模型推理成本随规模增加的问题,提出利用资源密集型模型生成的广义策略和迭代纠错提示两种方法,显著提升了小型 LLMs 在规划和数学推理任务上的性能,平均降低近30%成本。
2025-01-31 cs.AI cs.CL
Multi-task Retrieval for Knowledge-Intensive Tasks
Facebook AI(脸书人工智能研究院)
从大型语料库中检索相关上下文是开放领域问答和事实核查等任务的关键步骤。虽然神经检索优于传统方法,如tf-idf和BM 25,但当应用于域外数据时,其性能会大大降低。由于神经检索模型是否具有通用性并在各种问题上表现稳健,我们提出了一种多任务训练模型。我们的方法不仅优于以前的方法在Few-Shot设置,而且竞争对手专门的神经检索器,即使在域训练数据是丰富的。在我们的检索器的帮助下,我们改进了下游任务的现有模型,并在多个基准上密切匹配或改进了最先进的模型。
2021-01-01 cs.CL
DynamicRAG: Leveraging Outputs of Large Language Model as Feedback for Dynamic Reranking in Retrieval-Augmented Generation
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
针对RAG系统重排器文档数量难确定、忽视LLM反馈信号的问题,提出DynamicRAG框架,将重排器建模为RL智能体,基于LLM输出质量奖励动态调整检索文档的顺序与数量,在七个数据集上同参数规模模型中达SOTA。
2025-05-16 cs.AI cs.CL
Beyond Single-Shot: Multi-step Tool Retrieval via Query Planning
Massachusetts Institute of Technology(麻省理工学院)
本文提出TOOLQP框架,通过迭代查询规划解决多步工具检索问题,实现更高效的检索和执行能力。
2026-01-12 cs.AI cs.CL cs.IR
GRASP: Plan-Guided Graph Retrieval with Adaptive Fusion and Reranking on Semi-Structured Knowledge Bases
Department of Electrical Engineering and Computer Science, University of Michigan(密歇根大学电气工程与计算机科学系);Department of Computational Medicine and Bioinformatics, University of Michigan(密歇根大学计算医学与生物信息学系)
提出GRASP框架,通过计划引导图检索、条件融合和重排序三阶段,在半结构化知识库上实现最先进的检索性能。
2026-10-16 cs.CL cs.IR cs.LG
SYMDIREC: A Neuro-Symbolic Divide-Retrieve-Conquer Framework for Enhanced RTL Synthesis and Summarization
IBM Research(IBM研究院)
SYMDIREC通过结合符号规划与LLM推理,提升RTL综合与摘要的准确性,实现比基线方法更高的Pass@1率和ROUGE-L分数。
2026-03-17 cs.CL cs.PL
Probabilistic Tree-of-thought Reasoning for Answering Knowledge-intensive Complex Questions
Tsinghua University(清华大学);Huawei Technologies(华为技术有限公司)
本文提出概率性思维树推理方法ProbTree,通过构建查询树并结合闭卷与开卷问答的置信度选择,解决LLM在知识密集型复杂问答中的负面检索和局部错误传播问题,显著优于现有SOTA方法。
2023-11-23 cs.AI cs.CL
Exp4Fuse: A Rank Fusion Framework for Enhanced Sparse Retrieval using Large Language Model-based Query Expansion
City University of Hong Kong(香港城市大学);The University of Hong Kong(香港大学)
本文提出 Exp4Fuse 排序融合框架,通过融合原始查询与 LLM 零样本扩展查询的稀疏检索结果,在多个数据集上以更低成本取得 SOTA。
2025-06-05 cs.AI cs.CL cs.IR
Visual-RAG: Benchmarking Text-to-Image Retrieval Augmented Generation for Visual Knowledge Intensive Queries
Visual-RAG基准通过要求文本到图像检索并整合视觉证据来评估多模态大语言模型在视觉知识密集型问答中的表现,发现现有模型仍难以高效利用视觉知识。
2025-08-15 cs.CL cs.CV
TreeRare: Syntax Tree-Guided Retrieval and Reasoning for Knowledge-Intensive Question Answering
University of Rochester(罗切斯特大学)
TreeRare通过语法树引导的检索与推理方法,提升知识密集型问答任务的性能。
2025-12-04 cs.CL
Multimodal Reranking for Knowledge-Intensive Visual Question Answering
Carnegie Mellon University(卡内基梅隆大学);Google(谷歌公司);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
本文提出多模态重排序器,通过跨项交互改善知识候选排序,提升知识密集型视觉问答性能,实验验证其有效性。
2024-07-17 cs.AI cs.CL
MRAG: A Modular Retrieval Framework for Time-Sensitive Question Answering
Nanyang Technological University(南洋理工大学);Alibaba-NTU JRI(阿里巴巴-南洋理工大学联合研究院);NYU Shanghai(上海纽约大学);Zhejiang University(浙江大学);Center for Data Science, New York University(纽约大学数据科学中心)
针对大语言模型问答系统在时间敏感问题上的推理短板,该研究提出无需训练的模块化检索框架MRAG,构建TempRAGEval基准,实验证明其检索性能和答案准确率均优于基线方法。
2025-05-21 cs.CL
Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
Facebook AI Research(Facebook AI研究院);University College London(伦敦大学学院);New York University(纽约大学)
大型预训练的语言模型已被证明可以在其参数中存储事实知识,并在对下游NLP任务进行微调时实现最先进的结果。然而,它们获取和精确操作知识的能力仍然有限,因此在知识密集型任务中,它们的性能落后于特定任务的架构。此外,为他们的决定提供出处和更新他们的世界知识仍然是开放的研究问题。具有显式非参数记忆的可微分访问机制的预训练模型可以克服这个问题,但到目前为止仅针对提取下游任务进行了研究。我们探索一个通用的微调配方检索增强生成(RAG)-模型结合了预先训练的参数和非参数的记忆语言生成。我们引入RAG模型,其中参数记忆是预训练的seq 2seq模型,非参数记忆是维基百科的密集向量索引,使用预训练的神经检索器访问。我们比较了两种RAG公式,一种是在整个生成的序列中以相同的检索通道为条件,另一种是每个标记可以使用不同的通道。我们在广泛的知识密集型NLP任务上微调和评估我们的模型,并在三个开放领域QA任务上设置最先进的模型,性能优于参数seq 2seq模型和特定于任务的检索和提取架构。对于语言生成任务,我们发现RAG模型比最先进的仅参数seq 2seq基线生成更具体,更多样和更真实的语言。
2021-04-12 cs.CL cs.LG
VisRet: Visualization Improves Knowledge-Intensive Text-to-Image Retrieval
University of California, Los Angeles(加州大学洛杉矶分校)
VisRet通过将文本查询投影到图像模态,提升跨模态检索效果,优于传统方法,在四个基准测试中提升nDCG@30,并提高下游问答准确性。
2026-04-26 cs.CL cs.CV
Multilingual Retrieval-Augmented Generation for Knowledge-Intensive Task
本文研究多语言检索增强生成在开放域问答中的有效性,提出tRAG和MultiRAG方法,发现tRAG覆盖有限,MultiRAG效率高但存在不一致,CrossRAG通过翻译文档到共同语言提升性能。
2025-10-03 cs.AI cs.CL
Evidentiality-guided Generation for Knowledge-Intensive NLP Tasks
University of Washington(华盛顿大学);Microsoft Semantic Machines(微软语义机器公司);Allen Institute for AI(艾伦人工智能研究所)
检索增强生成模型在许多知识密集型NLP任务(如开放式问答和事实验证)中表现出最先进的性能。这些模型经过训练,在给定检索到的段落的情况下生成最终输出,这些段落可能与原始查询无关,从而导致学习虚假线索或答案记忆。这项工作介绍了一种方法,将证据的段落-是否包含正确的证据,以支持输出-到训练的生成器。我们引入了一个多任务学习框架来联合生成最终输出并预测每个段落的证据,利用一种新的任务不可知的方法来获得银证据标签进行监督。我们在三个知识密集型任务的五个数据集上进行的实验表明,我们新的证据引导生成器在相同大小的模型上的性能明显优于其直接对应的生成器,并提高了FaVIQ-Ambig的最新技术水平。我们将这些改进归功于辅助多任务学习和银证据挖掘技术。
2022-05-14 cs.CL
A Symmetric Dual Encoding Dense Retrieval Framework for Knowledge-Intensive Visual Question Answering
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
本文面向KI-VQA提出由DEDR检索器与MM-FiD阅读器组成的流程,通过双编码共享嵌入、迭代知识蒸馏和多模态解码器内融合,显著提升OK-VQA与FVQA性能。
2023-04-26 cs.CL cs.CV cs.IR
Knowledge Augmented Finetuning Matters in both RAG and Agent Based Dialog Systems
EE Department, Tsinghua University(清华大学电子工程系);China Mobile Research Institute(中国移动研究院)
针对LLMs在知识密集型对话中难以有效利用检索知识的问题,提出知识增强微调(KAFT)方法,在RAG和agent系统中利用领域数据与外部知识微调模型,实验证明其事实准确性显著优于提示方法。
2025-06-28 cs.CL
LoRA-Augmented Generation (LAG) for Knowledge-Intensive Language Tasks
本文提出LoRA增强生成(LAG)方法,无需训练即可在token和层级上高效检索并组合任务特定的LoRA专家,在知识密集型任务上超越现有无数据方法,并与RAG兼容。
2025-08-15 cs.AI cs.CL cs.LG
CorpusBrain: Pre-train a Generative Retrieval Model for Knowledge-Intensive Language Tasks
University of Chinese Academy of Sciences(中国科学院大学);Tsinghua University(清华大学)
知识密集型语言任务(KILT)通常需要大量信息才能提供正确答案。解决这个问题的一个流行的范例是将搜索系统与机器阅读器相结合,前者检索支持证据,后者检查它们以产生答案。最近,读者组件在大规模预训练生成模型的帮助下取得了重大进展。与此同时,搜索组件中的大多数现有解决方案依赖于传统的“索引-检索-然后-排名”管道,该管道存在较大的内存占用和端到端优化困难。受最近在构建基于模型的IR模型方面的努力的启发,我们提出用一种新的单步生成模型取代传统的多步搜索管道,该模型可以大大简化搜索过程并以端到端的方式进行优化。我们证明了一个强大的生成检索模型可以通过一组充分设计的预训练任务来学习,并通过进一步的微调来改进各种下游KILT任务。我们将预训练的生成式检索模型命名为CorpusBrain,因为所有关于语料库的信息都编码在其参数中,而不需要构建额外的索引。实证结果表明,CorpusBrain在KILT基准测试中的检索任务可以显著优于强基线,并建立新的最先进的下游性能。我们还表明,CorpusBrain在零和低资源设置下工作良好。
2022-08-16 cs.CL cs.IR
Prompt-Guided Retrieval Augmentation for Non-Knowledge-Intensive Tasks
Tsinghua University(清华大学);Beijing National Research Center for Information Science and Technology(北京信息科学与技术国家研究中心);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);Fudan University(复旦大学)
本文提出面向非知识密集型任务的两阶段检索增强框架PGRA,通过任务无关检索器构建共享索引,并用提示引导重排序器按任务相关性重排证据,在实验中优于现有方法并验证了通用性。
2023-05-28 cs.CL
Unearthing Large Scale Domain-Specific Knowledge from Public Corpora
School of Computer Science, Fudan University(复旦大学计算机科学学院);Shanghai AI Laboratory(上海人工智能实验室)
本文提出Retrieve-from-CC方法,利用大型模型引导从Common Crawl中检索领域特定知识及推理数据,构建Retrieve-Pile数据集,显著提升数学和知识推理能力。
2025-05-24 cs.CL
Talk Before You Retrieve: Agent-Led Discussions for Better RAG in Medical QA
Arizona State University(亚利桑那州立大学);Clemson University(克莱姆森大学);Washington University in St.Louis(圣路易斯华盛顿大学);Banner Alzheimer’s Institute(班纳阿尔茨海默病研究所)
针对医学问答RAG系统缺乏类人推理建模及依赖次优语料库的问题,提出即插即用模块Discuss-RAG,通过多智能体协作推理提升检索质量,在多个基准上显著提升准确率。
2025-04-30 cs.CL
On the Vulnerability of Applying Retrieval-Augmented Generation within Knowledge-Intensive Application Domains
Department of ECE University of Minnesota(电子工程系明尼苏达大学);Data Science Institute University of Chicago(数据科学研究所芝加哥大学);Carlson School of Management University of Minnesota(卡尔森管理学院明尼苏达大学);Department of Surgery University of Minnesota(外科系明尼苏达大学);Cisco Research(思科研究);School of Statistics University of Minnesota(统计学学院明尼苏达大学)
研究了RAG在知识密集型领域的对抗鲁棒性,发现检索系统易受通用投毒攻击,并提出一种基于检测的防御方法,在几乎所有情况下均实现出色的检测率。
2025-05-30 cs.AI cs.CL cs.CR
MATTER: Memory-Augmented Transformer Using Heterogeneous Knowledge Sources
Amazon AGI(亚马逊AGI);Department of Computer Science and Engineering, HKUST(香港科技大学计算机科学与工程学系)
本文提出MATTER,一种内存增强Transformer,通过固定长度神经记忆从段落和问答对等异构知识源中高效检索,在问答基准上兼顾准确性与速度,并以100倍推理吞吐量取得竞争性结果。
2024-06-07 cs.AI cs.CL
Retrieve, Summarize, Plan: Advancing Multi-hop Question Answering with an Iterative Approach
Ant Group(蚂蚁集团)
本文提出新型迭代 RAG 方法 ReSP,通过双功能摘要器同时压缩总体问题和当前子问题的检索信息,解决多跳问答中的上下文过载与规划冗余问题,在 HotpotQA 和 2WikiMultihopQA 上显著优于现有方法。
2025-01-30 cs.AI cs.CL
Expository Text Generation: Imitate, Retrieve, Paraphrase
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
提出说明性文本生成任务,开发IRP框架通过迭代执行内容规划、事实检索和改写,克服检索增强模型局限,在三个新数据集上生成准确且组织良好的文本。
2023-10-23 cs.CL
From Retrieval to Generation: Comparing Different Approaches
University of Innsbruck(因斯布鲁克大学)
本研究系统比较了检索、生成及混合模型在开放域问答和检索增强任务中的性能,发现DPR在NQ上top-1达50.17%,混合模型提升BEIR nDCG@10至52.59,而BM25在WikiText-103上困惑度更低。
2025-02-27 cs.CL
Retrieve What Helps, Only When It Helps: Agentic Reinforcement Learning for Selective Retrieval-Augmented Machine Translation
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Amazon(亚马逊公司)
针对现有检索增强机器翻译策略统一化的问题,提出智能体强化学习框架SRAT,通过优化翻译质量学习检索决策,实验显示其在多类翻译任务上优于基线,将检索视为可学习动作更具优势。
2026-10-15 cs.AI cs.CL cs.IR
Generate-then-Ground in Retrieval-Augmented Generation for Multi-hop Question Answering
Shandong University(山东大学);University of Electronic Science and Technology of China(电子科技大学);Leiden University(莱顿大学)
针对多跳问答中检索增强生成范式受检索器和文档噪声限制的问题,提出GenGround框架,通过交替生成单跳答案与文档落地修正的方式协同参数化知识与外部文档,还提出指令落地蒸馏适配小模型,在四个数据集上表现更优。
2024-09-16 cs.CL cs.IR
Retrieval as Attention: End-to-end Learning of Retrieval and Reading within a Single Transformer
Carnegie Mellon University(卡内基梅隆大学);Bosch Research North America(博世北美研究院);Amazon(亚马逊)
知识密集型任务的系统,如开放领域的问答(QA)通常包括两个阶段:从一个大的语料库中有效检索相关的文件和详细阅读所选择的文件,以产生答案。检索器和读取器通常是单独建模的,这需要繁琐的实现,并且很难以端到端的方式进行训练和调整。在本文中,我们重新审视了这种设计,并避开了单独的架构和培训,而是使用单个Transformer来执行Retrieval as Attention(ReAtt),并仅基于来自最终QA任务的监督进行端到端培训。我们第一次证明,一个单一的模型训练的端到端可以实现竞争检索和QA性能,匹配或略优于最先进的分别训练检索和读者。此外,端到端自适应显著提高了其在有监督和无监督环境下对域外数据集的性能,使我们的模型成为知识密集型任务的简单且适应性强的解决方案。代码和模型可在https://github.com/jzbjyb/ReAtt上获得。
2022-12-05 cs.CL cs.LG
VAT-KG: Knowledge-Intensive Multimodal Knowledge Graph Dataset for Retrieval-Augmented Generation
Korea University(韩国大学);Sungkyunkwan University(全北大学);Hanwha Systems(韩华系统)
针对现有MMKG范围受限问题,提出首个概念中心、知识密集型的VAT-KG,覆盖视觉、音频和文本,并通过严格对齐流程自动构建,结合新RAG框架,实验证明其有效支持MLLM多模态问答。
2025-09-26 cs.CL
Language Drift in Multilingual Retrieval-Augmented Generation: Characterization and Decoding-Time Mitigation
本文针对多语言RAG中因检索证据与查询语言不一致引发的语言漂移问题,剖析其解码器层面的成因,提出无需训练的轻量SCD解码策略,可有效提升多语言场景下的语言对齐度与任务性能。
2025-11-13 cs.CL
Adaptive Guidance for Retrieval-Augmented Masked Diffusion Models
KAIST(韩国科学技术院)
本文提出ARAM框架,通过动态校准引导尺度提升检索增强扩散模型在知识密集型问答中的性能。
2026-04-03 cs.AI cs.CL cs.LG
A RAG-Based Institutional Assistant
University of São Paulo(圣保罗大学)
本研究针对LLM在知识密集型任务中访问特定文档的不足,设计并评估了基于RAG的圣保罗大学虚拟助理,通过检索器与生成模型结合,实验表明提供正确文档块可显著提升准确率至54.02%,凸显数据库访问的关键作用。
2025-01-23 cs.CL