Optimizing Retrieval-augmented Reader Models via Token Elimination
Intel Labs, Israel(英特尔实验室(以色列));Bar-Ilan University, Israel(巴伊兰大学(以色列));Google Research(谷歌研究院)
针对检索增强模型FiD解码速度慢的问题,提出在token层面消除无用检索信息的优化方法,可大幅降低运行时间且性能损失极小,部分场景还能提升效果。
2023-11-05 cs.AI cs.CL cs.LG
AdaGATE: Adaptive Gap-Aware Token-Efficient Evidence Assembly for Multi-Hop Retrieval-Augmented Generation
Center for Data Science(数据科学中心);New York University(纽约大学);Tandon School of Engineering(泰顿工程学院)
AdaGATE通过适应性间隙感知修复和令牌高效证据选择,提升多跳RAG在不完美检索下的鲁棒性,实现最佳证据F1得分。
2026-05-04 cs.CL cs.IR
TERAG: Token-Efficient Graph-Based Retrieval-Augmented Generation
Cornell University(康奈尔大学);Hong Kong University of Science and Technology(香港理工大学)
TERAG提出一种令牌高效的图构建框架,结合个性化PageRank检索,以3%-11%的令牌消耗达到主流图RAG方法至少80%的准确率,适用于大规模成本敏感部署。
2025-11-10 cs.AI
EXIT: Context-Aware Extractive Compression for Enhancing Retrieval-Augmented Generation
School of Computing(计算机学院);Graduate School of AI(人工智能研究生院);Korea Advanced Institute of Science and Technology(韩国科学技术院)
提出抽取式上下文压缩框架EXIT,通过保留上下文依赖的可并行化句子分类适应查询复杂度,在单跳和多跳QA任务中超越现有方法与未压缩基线,显著提升了RAG的准确率与效率。
2025-05-29 cs.AI cs.CL cs.IR
Did You Check the Right Pocket? Cost-Sensitive Store Routing for Memory-Augmented Agents
ICLR 2026 Workshop on Memory and State in LLM-Based Agents(ICLR 2026 记忆与状态在大语言模型代理中的工作坊)
本文提出通过成本敏感存储路由优化内存增强代理的检索效率,通过覆盖、精确匹配和令牌效率指标评估,证明选择性检索能提升效率和性能,推动了可扩展多存储系统的 learned routing 机制发展。
2026-03-08 cs.AI cs.CL cs.IR
Semantic Tokens in Retrieval Augmented Generation
本文提出 Comparative RAG,通过评估器比较外部建议与检索文档块,使结果兼具语义相关性与逻辑可验证性,从而提升 RAG 问答的准确性、可靠性与可扩展性。
2024-12-03 cs.AI cs.CL
Detecting Overflow in Compressed Token Representations for Retrieval-Augmented Generation
Skoltech(斯克利切夫斯基技术学院);Sber AI Lab(Sber AI实验室);AIRI;Institute for Information Transmission Problems of the Russian Academy of Sciences(俄罗斯科学院信息传输问题研究所)
本文提出了一种检测压缩标记表示中溢出的方法,通过轻量级探测分类器在多个数据集上实现了较高的检测性能,提升了检索增强生成任务的可靠性。
2026-02-13 cs.CL
Clustered Retrieved Augmented Generation (CRAG)
AI Center of Excellence(卓越人工智能中心);Sinch AB(辛奇公司)
针对RAG因检索上下文过长导致成本高和延迟大的问题,提出CRAG方法,通过聚类有效减少提示token数量(最高超90%)且不降低响应质量。
2024-05-24 cs.AI cs.CL
LiteRAG: Cost-Efficient Graph-Based Retrieval-Augmented Generation
Universitat Rovira i Virgili(罗维拉-威尔吉利大学)
LiteRAG通过查询条件算法探索和推理链构建,在保证多跳问答质量的同时,大幅降低延迟、成本和令牌使用。
2026-09-10 cs.AI cs.CL cs.IR
TongGuOCR: A Layout-Aware and Token-Augmented OCR MLLM for Chinese Historical Documents
School of Electronic and Information Engineering, South China University of Technology(华南理工大学电子与信息工程学院);Huawei Technologies Co., Ltd.(华为技术有限公司)
针对中文历史文献OCR的复杂布局、生僻字等挑战,提出TongGuOCR框架,通过布局感知预处理与token增强识别模块,在M5HisDoc等基准上取得优于同类模型的性能。
2026-08-12 cs.AI
ToolGate: Token-Efficient Pre-Call Control for Tool-Augmented Vision-Language Agents
The Hong Kong University of Science and Technology (Guangzhou)(香港科学与技术大学(广州));University College London(伦敦大学学院);AI Lab, The Yangtze River Delta(长江三角洲人工智能实验室)
针对工具增强视觉语言智能体中工具调用成本高且不必要的问题,提出轻量级外部控制器ToolGate,通过轨迹文本和结构特征预测执行/跳过决策,在降低令牌成本的同时保持或提升准确率。
2026-06-02 cs.AI
ContextRAG: Extraction-Free Hierarchical Graph Construction for Retrieval-Augmented Generation
HSE University(俄罗斯高等经济大学)
本文提出ContextRAG,一种无需大型语言模型提取实体和关系的图检索增强生成系统,通过残差量化k均值和Formal Concept Analysis方法构建模糊概念图,在130个任务的UltraDomain子集中实现了33.6%的F1分数,显著优于传统方法。
2026-05-19 cs.AI cs.CL
Semifactual Credit-Augmented Policy Optimization
Zhejiang University(浙江大学);Westlake University(西湖大学);Shanghai Innovation Institute(上海创新研究院);Shanghai AI Laboratory(上海人工智能实验室)
针对RLVR中GRPO对token统一分配优势的局限,提出SCAPO,利用半事实稳定性进行细粒度信用分配,提升LLM推理准确率与泛化能力。
2026-10-01 cs.AI cs.CL cs.LG
UniMS-RAG: A Unified Multi-source Retrieval-Augmented Generation for Personalized Dialogue Systems
The Chinese University of Hong Kong(香港中文大学);The University of Edinburgh(爱丁堡大学)
针对个性化对话系统的多源信息整合问题,提出UniMS-RAG系统,将知识源选择、检索和响应生成统一到序列范式,利用特殊标记交互多源并评估相关性,结合自优化机制,在DuLeMon和KBP数据集上取得SOTA性能。
2024-11-26 cs.AI cs.CL
KARLA: Knowledge-base Augmented Retrieval for Language Models
提出一种新方法,使LLM在生成过程中自动从知识库提取事实知识,支持知识更新、可追溯性和小模型的高事实准确性。
2026-06-26 cs.AI cs.CL
AdaMem: Adaptive Memory Token Allocation for Soft Compression in Retrieval-Augmented Generation
AdaMem提出相关性引导的软压缩框架,按查询相关性动态分配记忆令牌预算,在开放域QA基准上优于均匀分配基线,显著提升压缩效率与答案质量。
2026-09-22 cs.CL cs.IR cs.LG
Latent Abstraction for Retrieval-Augmented Generation
Center for AI Research, VinUniversity, Vietnam(越南Vin大学人工智能研究中心)
LAnR通过在潜在空间中联合执行编码、检索和生成,提升检索增强生成的效率与效果,减少检索调用次数并增强模型整合。
2026-10-28 cs.AI cs.CL
Conflict-Aware Soft Prompting for Retrieval-Augmented Generation
Sungkyunkwan University(成均馆大学)
针对RAG中上下文与模型记忆冲突的问题,提出CARE框架,通过上下文评估器与软提示引导推理,在QA和事实验证基准上平均提升5.0%。
2025-09-26 cs.AI cs.CL
Span-based joint entity and relation extraction augmented with sequence tagging mechanism
National University of Defense Technology(国防科技大学)
基于跨度的联合抽取以文本跨度的形式同时进行命名实体识别和关系抽取。然而,由于以前的基于跨度的模型依赖于跨度级别的分类,它们不能受益于标记级别的标签信息,这已被证明有利于任务。在本文中,我们提出了一个序列标记增强的跨度为基础的网络(STSN),一个基于跨度的联合模型,可以利用令牌级的标签信息。在STSN中,我们通过深度堆叠多个注意层来构建核心神经架构,每个注意层由三个基本注意单元组成。该核心架构一方面通过序列标记机制学习标记级标签信息,并将其用于基于跨度的联合抽取;另一方面在NER和RE之间建立双向信息交互。在三个基准数据集上的实验结果表明,STSN在F1方面始终优于最强的基线,创造了新的最先进的结果。
2022-10-23 cs.CL
ShortCoder: Knowledge-Augmented Syntax Optimization for Token-Efficient Code Generation
Sun Yat-sen University, China(中山大学);Huawei Cloud Computing Technologies Co., Ltd., China(华为云计算技术有限公司);Chongqing University, China(重庆大学);University of Electronic Science and Technology of China, China(电子科技大学)
ShortCoder通过语法优化和知识增强提升代码生成效率,实现18.1%-37.8%的效率提升。
2026-01-14 cs.AI cs.CL cs.SE
Structure-Aware Chunking for Tabular Data in Retrieval-Augmented Generation
Altumatim;University of Maryland, Baltimore County(马里兰大学巴尔的摩分校)
本文提出一种结构感知表格分块框架,通过行级单位构建层次化行树表示,提升token利用率和检索性能。
2026-05-01 cs.CL cs.IR
RASD: Retrieval-Augmented Speculative Decoding
Alibaba Cloud, Alibaba Group(阿里云,阿里巴巴集团)
本文提出RASD框架,通过基于概率分布的树剪枝和最长前缀匹配的树融合技术,将检索树与草稿模型生成的树合并,有效解决了域外场景下投机解码效果下降和接受长度受限的问题,在多项任务上实现了最先进的推理加速。
2025-03-05 cs.AI cs.CL
MANER: Mask Augmented Named Entity Recognition for Extreme Low-Resource Languages
Rice University(莱斯大学)
本文研究了只有几百个标记数据样本的极低资源语言的命名实体识别(NER)问题。自然语言识别是自然语言处理中的一项基本任务。加速NER系统进步的一个关键驱动力是大规模语言语料库的存在,这些语料库使NER系统能够在英语和法语等语言中实现出色的性能,并具有丰富的训练数据。然而,低资源语言的净入学率仍然相对未被探索。在本文中,我们介绍了掩码增强命名实体识别(MANER),一种新的方法,利用分布假设的预训练掩蔽语言模型(MLMs)的NER。预先<mask>训练的MLM中的令牌编码有价值的语义上下文信息。MANER将令牌重新<mask>用于NER预测。具体地说,我们在<mask>句子中的每个单词之前添加标记,我们希望预测命名实体标记。在训练过程中,我们联合微调MLM和附加到每个令牌的新NER预测头<mask>。我们证明了MANER非常适合低资源语言中的NER;我们的实验表明,对于100种语言,只有100个训练样本,它比最先进的方法提高了48%,平均F1分数提高了12%。我们还进行详细的分析和消融研究,以了解最适合MANER的场景。
2022-12-19 cs.CL
Predictive Prefetching for Retrieval-Augmented Generation
Department of Computer Science, University of Massachusetts Boston(马萨诸塞大学波士顿分校计算机科学系)
本文提出了一种先进的异步检索框架,通过预测检索触发时机和所需信息,以减少延迟并提高生成效率,同时保持回答质量。
2026-05-18 cs.AI cs.CL
ReWOO: Decoupling Reasoning from Observations for Efficient Augmented Language Models
Microsoft(微软)
本文提出ReWOO模块化范式,将推理与外部观察解耦以降低token消耗,在多个基准上实现5倍token效率和4%准确率提升,并支持将大模型推理能力卸载到小模型。
2023-05-23 cs.AI cs.CL
Enhancing Knowledge Density via Hierarchical Context Pruning for Retrieval-Augmented Repository-Level Code Completion
MIIT Key Laboratory of Pattern Analysis and Machine Intelligence(信息科技模式分析与机器智能国家重点实验室);College of Computer Science and Technology(计算机科学与技术学院);Huaneng Information Technology Co Ltd(华能信息技术有限公司);Hunan Vanguard Group Corporation Co Ltd(湖南 Vanguard集团有限公司);Tsinghua University(清华大学);Zhejiang University(浙江大学);PowerChina Huadong Engineering Co Ltd(国家电网华东工程有限公司)
针对传统检索在代码补全中存在信息冗余与缺乏多样性的问题,提出资源优化的SaraCoder,通过层次特征优化与外部感知标识符消歧模块系统精炼检索结果,在多个基准上显著提升了仓库级代码补全的准确性与可靠性。
2026-10-16 cs.CL cs.IR cs.PL
Stronger Enforcement of Instruction Hierarchy via Augmented Intermediate Representations
NVIDIA(英伟达)
通过在中间表示中注入增强的指令层级信号,有效降低提示注入攻击的成功率,同时保持模型性能。
2026-03-09 cs.AI cs.LG
AttentionRAG: Attention-Guided Context Pruning in Retrieval-Augmented Generation
Shanghai Jiao Tong University(上海交通大学)
针对RAG中检索上下文过长导致冗余和计算开销的问题,提出基于注意力聚焦机制的上下文剪枝方法AttentionRAG,在LongBench和Babilong上实现6.3倍压缩且关键指标优于LLMLingua约10%。
2025-10-27 cs.AI cs.CL
Understanding Parametric Knowledge Injection in Retrieval-Augmented Generation
State Key Laboratory of AI Safety(人工智能安全国家重点实验室);ICT, Chinese Academy of Sciences(中国科学院信息科技研究院);University of Chinese Academy of Sciences(中国科学院大学)
本文研究了参数化RAG中的知识注入,发现结合传统和参数化方法(PT-RAG)在性能上最佳,同时揭示了其在知识冲突和鲁棒性方面的优势。
2026-01-24 cs.CL cs.IR
ReFilter: Improving Robustness of Retrieval-Augmented Generation via Gated Filter
City University of Hong Kong(香港城市大学);University of Waterloo(滑铁卢大学)
ReFilter通过门控过滤提升检索增强生成的鲁棒性,实现跨领域问答任务的高性能表现。
2026-02-13 cs.CL
From Prefix Cache to Fusion RAG Cache: Accelerating LLM Inference in Retrieval-Augmented Generation
Hangzhou Dianzi University(杭州电子科技大学);Tsinghua University(清华大学)
FusionRAG通过优化RAG的预处理和重处理阶段,在保持生成质量的同时提升推理效率。
2026-01-19 cs.AI cs.CL
ArchRAG: Attributed Community-based Hierarchical Retrieval-Augmented Generation
Microsoft(微软)
ArchRAG通过引入属性社区和层次聚类方法,提升图数据检索效率与生成准确性,降低token消耗。
2026-05-11 cs.AI cs.IR
M-RAG: Semantic Key-Value Indexing for Retrieval-Augmented Generation
Southwestern University of Finance and Economics(西南财经大学);Zhida AI, Zhida Technology(智达AI,智达科技);University of Maryland, College Park(马里兰大学帕克分校)
M-RAG提出一种无片段检索策略,通过提取结构化元标记提升检索与生成效率,实验证明其在低资源环境下优于传统RAG方法。
2026-07-22 cs.AI cs.IR
QuickGrasp: Responsive Video-Language Querying Service via Accelerated Tokenization and Edge-Augmented Inference
School of Computing Science, Simon Fraser University(计算科学学院,西蒙弗雷泽大学);Computer Science Department, University of Illinois Urbana-Champaign(计算机科学系,伊利诺伊大学厄巴纳-香槟分校);College of Cryptology and Cyber Science, Nankai University(密码学与网络科学学院,南开大学);College of Computer Science and Software Engineering, Shenzhen University(计算机科学与软件工程学院,深圳大学)
QuickGrasp通过加速分词和边缘增强推理,实现响应式视频-语言查询服务,兼顾准确性和响应速度。
2026-02-23 cs.AI cs.CV cs.IR
RAGViz: Diagnose and Visualize Retrieval-Augmented Generation
School of Computer Science, Carnegie Mellon University(卡内基梅隆大学计算机科学学院)
提出RAGViz工具,可视化RAG中令牌对检索文档的关注度,支持文档增删对比,高效运行,开源可用。
2024-11-04 cs.AI cs.CL
Web Retrieval-Aware Chunking (W-RAC) for Efficient and Cost-Effective Retrieval-Augmented Generation Systems
AI Research Team, Yellow.ai(Yellow.ai AI研究团队)
本文提出W-RAC,一种针对网页文档的高效分块框架,通过分离文本提取与语义分块规划,减少LLM token消耗,提升系统可观察性。
2026-01-08 cs.AI cs.IR
Learned Hallucination Detection in Black-Box LLMs using Token-level Entropy Production Rate
Artefact Research Center(艺术研究中心)
本文提出一种基于令牌级熵产率的学习方法,用于在黑盒LLM中高效检测幻觉,通过单次生成过程提升问答系统响应的可信度。
2026-01-20 cs.AI cs.CL
Quantifying reliance on external information over parametric knowledge during Retrieval Augmented Generation (RAG) using mechanistic analysis
Microsoft(微软公司);University of Massachusetts, Amherst(马萨诸塞大学阿默斯特分校);University of Maryland, College Park(马里兰大学帕克分校)
本文通过因果中介分析和注意力贡献与剔除等机制分析方法,揭示了RAG中语言模型存在强烈依赖检索上下文而非参数化知识的“捷径”效应,并在大、小语言模型上均得到验证。
2024-10-01 cs.CL
InstructRetro: Instruction Tuning post Retrieval-Augmented Pretraining
NVIDIA(英伟达);UIUC(伊利诺伊大学厄巴纳-香槟分校)
本文提出Retro 48B,通过检索增强预训练大规模语言模型,并在指令微调后显著提升零样本任务性能,展示了检索预训练在增强GPT解码器方面的潜力。
2024-05-29 cs.AI cs.CL cs.IR
SF-RAG: Structure-Fidelity Retrieval-Augmented Generation for Academic Question Answering
Qilu University of Technology (Shandong Academy of Sciences)(齐鲁工业大学(山东科学院));National University of Singapore(新加坡国立大学)
SF-RAG通过保留学术论文的层级结构,提高检索和生成的效率与准确性,减少碎片化并提升答案质量。
2026-03-18 cs.AI cs.IR
NeuralNexus at BEA 2025 Shared Task: Retrieval-Augmented Prompting for Mistake Identification in AI Tutors
MBZUAI(穆萨大学人工智能研究所)
针对BEA 2025共享任务的AI导师数学错误识别赛道,团队探索四种方法后采用基于GPT 4o的检索增强少样本提示系统,其性能优于所有基线,验证了该组合方法在教学反馈评估中的有效性。
2025-06-12 cs.AI cs.CL
S-Path-RAG: Semantic-Aware Shortest-Path Retrieval Augmented Generation for Multi-Hop Knowledge Graph Question Answering
University of Macau(澳门大学);Xiamen University(厦门大学);Peking University(北京大学);Hanyang University(翰阳大学);University of Liverpool(利物浦大学);Zhejiang University(浙江大学)
S-Path-RAG通过混合加权k最短路径、束搜索和约束随机游走策略,实现语义感知的多跳知识图谱问答,提升检索效率与生成准确性。
2026-03-05 cs.AI cs.CL cs.IR
CoRoVA: Compressed Representations for Vector-Augmented Code Completion
HSE University(俄罗斯莫斯科高等教育学院)
CoRoVA通过压缩上下文提升代码补全效率,减少提示扩展并降低延迟,提升生成质量。
2026-04-13 cs.CL
Enhancing Domain-Specific Retrieval-Augmented Generation: Synthetic Data Generation and Evaluation using Reasoning Models
IEEE(电气和电子工程师协会);University of Florida(佛罗里达大学)
本研究提出结合令牌级评估指标与推理模型驱动的合成数据生成框架,以优化领域特定RAG性能,并揭示块大小与嵌入策略对精度和召回率的影响。
2025-02-21 cs.AI cs.CL cs.LG
Privacy-Preserving Retrieval-Augmented Generation with Differential Privacy
University of California, San Diego(加州大学圣迭戈分校);University of California, Los Angeles(加州大学洛杉矶分校)
针对RAG输出可能泄露敏感信息的问题,本研究探索差分隐私下的RAG,提出仅为需敏感信息的token分配隐私预算的算法,在ε≈10时优于非RAG基线。
2025-11-11 cs.AI cs.CL cs.CR
APrompt4EM: Augmented Prompt Tuning for Generalized Entity Matching
Peking University(北京大学);China Telecom Research Institute(中国电信研究院)
针对低资源广义实体匹配中的提示设计与信息差距问题,提出融合上下文化软 token 提示调优和 LLM 信息增强的 APrompt4EM,以低成本实现优于中等规模 PLM 方法、媲美微调 LLM 的性能。
2024-05-08 cs.AI cs.CL
Beyond Long Context: When Semantics Matter More than Tokens
Georgia Institute of Technology(佐治亚理工学院)
电子健康记录(EHR)将临床文档作为base64编码的附件存储在FHIR DocumentReference资源中,这使得语义问答变得困难。传统的向量数据库方法经常忽略细微的临床关系。由Lopez等人2025年引入的临床实体增强检索(CLEAR)方法使用实体感知检索,并实现了F1分数为0.90的性能改进,而基于嵌入的检索为0.86,同时使用的令牌减少了70%以上。我们开发了一个临床笔记质量评估平台,以验证CLEAR对zero shot大上下文推理和传统的基于块的检索增强生成。该平台在12个临床笔记上进行了测试,从10,000到65,000个代表真实EHR内容的令牌。CLEAR的成功率为58.3%,平均语义相似度为0.878,使用的标记比宽上下文处理少78%。最大的性能收益发生在长票据上,超过65,000个代币的文档的获胜率为75%。这些发现证实了实体感知检索提高了临床自然语言处理的效率和准确性。评估框架提供了一个可重复使用的和透明的基准评估临床问答系统的语义精度和计算效率是至关重要的。
2025-10-29 cs.CL cs.LG
Token-Guard: Towards Token-Level Hallucination Control via Self-Checking Decoding
Beijing University of Posts and Telecommunications(北京邮电大学);Nanyang Technological University(南洋理工大学)
Token-Guard通过自检解码技术,实现对大型语言模型中token级幻觉的有效控制,提升生成准确性与输出可靠性。
2026-01-30 cs.AI cs.CL
CorpusQA: A 10 Million Token Benchmark for Corpus-Level Analysis and Reasoning
Tongyi Lab, Alibaba Group(通义实验室,阿里巴巴集团)
CorpusQA提出一个1000万词的基准,解决大规模语料库推理问题,通过合成数据框架生成复杂查询,验证长文本推理能力,发现先进架构对全局信息整合的重要性。
2026-04-25 cs.AI cs.CL
Stronger Baselines for Retrieval-Augmented Generation with Long-Context Language Models
Stanford University(斯坦福大学)
本文提出DOS RAG作为长上下文问答任务的强基线,通过保持文档结构和简单性,在多个基准上超越复杂方法。
2026-01-12 cs.CL
Scaling Test-Time Inference with Policy-Optimized, Dynamic Retrieval-Augmented Generation via KV Caching and Decoding
Tata Research Development(塔塔研究与发展中心);Design Center, Bangalore(班加罗尔设计中心)
本研究提出整合PORAG、ATLAS、CRITIC及测试时扩展、优化解码的RAG综合框架,无需额外训练即可兼容Transformer类大模型,在知识密集型任务上减少幻觉、提升推理能力与效率可扩展性。
2025-05-20 cs.AI cs.CL cs.IR
Evaluating Retrieval-Augmented Generation vs. Long-Context Input for Clinical Reasoning over EHRs
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Loyola University Chicago(芝加哥洛约拉大学);Boston Children’s Hospital Harvard Medical School(波士顿儿童医院哈佛医学院);University of Colorado-Anschutz(科罗拉多大学安舒茨分校)
研究评估检索增强生成(RAG)用于电子健康记录临床推理的效果,定义三个基于EHR的任务,用真实住院临床记录评估三种大语言模型,发现RAG在成像程序和抗生素时间线任务中令牌效率高,诊断生成任务较具挑战性,RAG是临床任务的有效方法。
2026-07-13 cs.AI cs.CL
Retrieval Augmented Generation using Engineering Design Knowledge
Singapore University of Technology and Design(新加坡科技设计大学);City University of Hong Kong(香港城市大学)
提出一种从专利描述中提取工程设计事实的方法,构建包含超293万条事实的知识库,以引导LLMs生成连贯的技术响应,支持设计过程中的RAG。
2024-08-26 cs.CL cs.DB cs.IR
SSFO: Self-Supervised Faithfulness Optimization for Retrieval-Augmented Generation
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Chinese Academy of Sciences(中国科学院);Shanghai AI Lab(上海人工智能实验室);Tencent Hunyuan(腾讯文英)
针对RAG系统的忠实性幻觉问题,该研究提出首个自监督对齐方法SSFO,通过对比有无上下文的输出生成偏好对,结合改进的DPO损失实现无标注的忠实性优化,在多数据集上取得SOTA表现且泛化性强。
2025-10-04 cs.AI cs.CL