Leveraging the Domain Adaptation of Retrieval Augmented Generation Models for Question Answering and Reducing Hallucination
本文通过领域自适应研究多种RAG架构在酒店客服问答中的表现,构建HotelConvQA数据集并证明领域自适应能提升问答性能且显著减少幻觉。
2024-10-23 cs.CL cs.HC
Fine-Grained Detection of Context-Grounded Hallucinations Using LLMs
Technion - Israel Institute of Technology(以色列理工学院);IBM Research(IBM研究院)
本文构建含千余样本的幻觉定位元评估基准与 LLM 评估协议,提出自由文本错误表示,评估四个大规模 LLM 并分析提示策略及主要难点。
2025-09-29 cs.CL
A Grounded and Decomposed Framework for Relation-Level Hallucination Evaluation in Abstractive Summarization
IIIT Bhubaneswar(布巴内斯瓦尔印度信息技术学院);Informatica(Informatica公司);TEKsystems Global Services(TEKsystems全球服务公司)
本研究提出一种用于抽象摘要关系级幻觉评估的基于基础与分解的框架,引入关系幻觉指数(RHI)及其归一化公式,经多模型评估验证其可生成稳定且具区分性的幻觉测量结果,推进了自动化关系级保真度评估。
2026-08-11 cs.AI cs.CL
On the Origin of Hallucinations in Conversational Models: Is it the Datasets or the Models?
University of Alberta(阿尔伯塔大学);Mila – Quebec AI Institute(米拉-魁北克人工智能研究所);McGill University(麦吉尔大学);IBM Research(IBM研究院)
以知识为基础的对话模型会产生事实上无效的陈述,这种现象通常被称为幻觉。在这项工作中,我们调查这种现象的根本原因:幻觉是由于训练数据,或模型?我们对现有的基于知识的对话基准和几个最先进的模型进行了全面的人类研究。我们的研究表明,标准基准包括>60%的幻觉反应,导致模型不仅产生幻觉,甚至放大幻觉。我们的研究结果对现有数据集和使用它们训练的模型的质量提出了重要问题。我们公开我们的注释,以供未来的研究。
2022-04-17 cs.CL
MultiHal: Multilingual Dataset for Knowledge-Graph Grounded Evaluation of LLM Hallucinations
Department of Computer Science, Aalborg University(计算机科学系,奥胡斯大学);Institute of Logic and Computation, TU Wien(逻辑与计算研究所,维也纳技术大学)
针对现有幻觉评估基准缺乏知识图谱路径和多语言支持的问题,提出多语言多跳基准MultiHal,通过挖掘并精选2.59万条知识图谱路径,在KG-RAG中显著提升语义相似度、NLI蕴含和幻觉检测得分,验证了知识图谱集成的潜力。
2025-10-23 cs.CL
HalluWorld: A Controlled Benchmark for Hallucination via Reference World Models
Carnegie Mellon University(卡内基梅隆大学);Patronus AI;Independent Researcher(独立研究者);Stanford University(斯坦福大学);The Ohio State University(俄亥俄州立大学);DegenAI Labs(DegenAI实验室)
本文提出HalluWorld基准,通过显式参考世界模型研究语言模型的幻觉问题,发现不同任务中幻觉表现不一致,表明幻觉源于多种失败模式而非单一能力。
2026-05-19 cs.AI cs.CL cs.LG
Grounded Optimization: A Layered Engineering Framework for Reducing LLM Hallucination in Automated Personal Document Rewriting
提出五层接地优化框架,通过时间验证、污染检测、结构不变性、提示接地和评估器,将简历重写中的幻觉率降至0.04-0.24。
2026-07-03 cs.AI cs.CL
Library Hallucinations in LLM-Generated Code: A Risk Analysis Grounded in Developer Queries
King’s College London(伦敦国王学院);University College London(伦敦大学学院)
本文研究了LLM生成代码中库幻觉的风险,通过分析用户提示变化对库幻觉的影响,揭示了系统性漏洞,并提出了LibHalluBench基准测试以评估这些幻觉。
2026-08-24 cs.CL cs.SE
Information-Theoretic Text Hallucination Reduction for Video-grounded Dialogue
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院);Chung-Ang University(中央大学)
针对视频-grounded对话系统因学习虚假关联产生的文本幻觉问题,提出基于信息论度量的THAM框架,引入THR损失,在两个基准上验证有效且提升可解释性。
2022-12-12 cs.CL cs.CV
Sequence-Level Certainty Reduces Hallucination In Knowledge-Grounded Dialogue Generation
University of California, Los Angeles(加利福尼亚大学洛杉矶分校);Amazon Science(亚马逊科学)
本研究提出序列级确定性作为知识 grounded 对话生成幻觉的共性视角,设计两类基于确定性的回复排序方法,经多数据集、多解码方法和多模型实验验证可有效减少幻觉。
2024-04-12 cs.AI cs.CL
A Cause-Effect Look at Alleviating Hallucination of Knowledge-grounded Dialogue Generation
Institute of Education(教育学院);BNRist;KIRC, Institute for Artificial Intelligence(KIRC人工智能研究所);Tsinghua University(清华大学);Renmin University(人民大学)
本文用反事实推理分析知识 grounded 对话中知识噪声导致幻觉的因果机制,并提出利用对话—知识交互的轻量缓解方法,在不影响对话性能且适配多模型的前提下减少幻觉。
2024-04-04 cs.AI cs.CL
Hallucination Detection for Grounded Instruction Generation
University of Maryland, College Park(马里兰大学学院公园分校);University of California, Berkeley(加州大学伯克利分校);Microsoft Research(微软研究院)
研究模拟住宅环境中导航指令生成的幻觉问题,提出利用在大量图文对上预训练的模型,并通过对比损失微调来检测幻觉引用,最终模型优于多个基线。
2023-10-23 cs.AI cs.CL cs.LG
Attention Sinks as Internal Signals for Hallucination Detection in Large Language Models
Department of Artificial Intelligence, Wroclaw University of Science and Technology(弗罗茨瓦夫科技大学人工智能系)
本文提出SinkProbe方法,通过分析注意力汇点揭示幻觉检测机制,基于理论提出新的检测方法,在多个数据集和LLM上取得最佳性能。
2026-08-04 cs.CL cs.LG
CHARP: Conversation History AwaReness Probing for Knowledge-grounded Dialogue Systems
Université de Montréal(蒙特利尔大学);RALI(RALI(机器智能学习与应用研究组))
本文提出 CHARP 诊断测试集,用于评估知识 grounded 对话系统的幻觉与对话历史遵从性,发现现有模型因忽略对话历史而表现不佳,并指出 FaithDial 评估的不足。
2024-05-24 cs.CL
Beyond Document Grounding: Span-Level Hallucination Detection over Code, Tool Output, and Documents
KR Labs(KR实验室);MBZUAI(穆罕默德·本·扎耶德人工智能大学);McGill University(麦吉尔大学);TU Wien(维也纳工业大学)
提出一个统一的跨度级幻觉检测基准,涵盖代码、工具输出、结构化文档和自然语言RAG数据,通过微调Qwen3.5-2B模型在跨域场景下显著优于现有方法。
2026-07-02 cs.CL
Progressive Training for Explainable Citation-Grounded Dialogue: Reducing Hallucination to Zero in English-Hindi LLMs
School of Artificial Intelligence and Data Engineering (SAIDE)(人工智能与数据工程学院);Indian Institute of Technology Jodhpur(印度理工学院朱罗普尔)
本文提出XKD-Dial,一种逐步四阶段训练流程,用于生成可解释的引用导向对话,通过跨语言适应、英语对话SFT与引用定位、双语对话SFT及GRPO对齐与引用感知奖励,减少幻觉并提升印地语能力。
2026-03-19 cs.AI cs.CL
Diving Deep into Modes of Fact Hallucinations in Dialogue Systems
University at Buffalo(纽约州立大学布法罗分校)
知识图谱(KG)基础对话通常使用大型预训练模型,并且通常患有事实幻觉。在知识源和会话历史中没有引用的实体经常被引入到响应中,从而阻碍了会话的流动-现有的工作试图通过调整训练过程或使用多步精炼方法来克服这个问题。然而,在构建实体级幻觉检测系统方面投入的努力最少,该系统将提供细粒度的信号,这些信号在生成响应的同时控制错误内容。作为解决这个问题的第一步,我们深入研究,通过人类反馈分析来识别KG接地聊天机器人中的各种幻觉模式。其次,我们提出了一系列的扰动策略来创建一个名为FADE(FACactual Dialogue Hallucination Detection Dataset)的合成数据集。最后,我们进行了全面的数据分析,并创建了多个用于幻觉检测的基线模型,以与人类验证的数据和已经建立的基准进行比较。
2023-01-11 cs.AI cs.CL
Mitigating Object Hallucination in Large Vision-Language Models via Image-Grounded Guidance
针对大视觉语言模型的物体幻觉问题,提出无需训练和API调用的MARINE框架,通过开源视觉模型提取物体级信息提供图像锚定引导,在5种主流LVLM上的表现优于现有微调方法,且能保持生成内容详细度。
2025-06-11 cs.AI cs.CL cs.CV
Genetic Approach to Mitigate Hallucination in Generative IR
Georgetown University(乔治城大学);University of Glasgow(格拉斯哥大学)
本文提出一种改进的遗传生成方法,通过结合交叉编码器与n-gram重叠度量的平衡适应度函数,在保持高相关性的同时,将有依据答案生成准确率提升四倍,以缓解生成式信息检索中的幻觉问题。
2024-08-25 cs.CL cs.IR
Mitigating LLM Hallucinations through Domain-Grounded Tiered Retrieval
Computational Unit, Z.H. College of Engineering & Technology, Aligarh Muslim University, India(计算单元,Z.H. 工程技术学院,阿利加尔穆斯林大学,印度);Interdisciplinary Center for Artificial Intelligence, Aligarh Muslim University, India(跨学科人工智能中心,阿利加尔穆斯林大学,印度);Department of Computer Engineering, Aligarh Muslim University, India(计算机工程系,阿利加尔穆斯林大学,印度)
本文提出一种领域导向的分层检索与验证架构,通过将LLM从随机模式匹配者转变为验证真理寻求者,系统拦截事实性不准确内容。在六个基准测试中,该框架在时间精度和数值准确性要求高的领域表现出色,但发现存在'假前提过度断言'的持续失败模式。
2026-03-25 cs.AI cs.CL
Analysis of Plan-based Retrieval for Grounded Text Generation
Google Research(谷歌研究院);Google DeepMind(谷歌DeepMind);University of Southern California(南加州大学)
本文利用指令微调大语言模型的规划能力引导检索,以降低长文本生成中的幻觉,通过提高相关事实覆盖率,生成更具信息量且归因率更高的响应。
2024-08-20 cs.CL cs.IR
Factors That Support Grounded Responses in LLM Conversations: A Rapid Review
(June 2025)((2025年6月))
本文通过快速回顾识别了支持LLM对话中基础响应的因素,重点分析了推理时间、训练后及强化学习方法,旨在提升LLM响应的准确性和可靠性。
2025-11-24 cs.AI cs.CL
Post-hoc Utterance Refining Method by Entity Mining for Faithful Knowledge Grounded Conversations
Korea University(高丽大学)
本文提出事后精炼方法REM,通过挖掘来源知识中的关键实体来修正知识接地对话中的实体级幻觉,提升生成回复的忠实度与质量。
2024-06-16 cs.AI cs.CL
Hallucination-Resistant, Domain-Specific Research Assistant with Self-Evaluation and Vector-Grounded Retrieval
CTO Office, Coherent Corporation(Coherent Corporation 技术总监办公室)
针对大语言模型在文献综述中存在幻觉与引用错误的问题,提出基于有限状态机和向量检索的模块化研究助手RA-FSM,在光子学领域六类任务上表现优于基线,可推广至其他科学领域。
2025-09-25 cs.AI cs.CL
OmniConfess: Eliciting Token Confessions to Mitigate Omni-Modal Hallucination
Beijing University of Posts and Telecommunications(北京邮电大学);Nanyang Technological University(南洋理工大学)
OmniConfess通过令牌级通道干预生成证据坦白,无需训练即可缓解全模态大模型的幻觉,并在OmniHalluBench基准上验证了有效性。
2026-10-06 cs.CL
Decomposed Entailment for Factuality Checking and Hallucination Detection
CEA LIST
本研究提出轻量级黑箱框架HallDetect,将生成内容分解为原子主张并经对比式蕴含模型验证,在多基准上优于同资源基线,可定位幻觉错误。
2026-08-07 cs.CL
Tackling Hallucinations in Neural Chart Summarization
Charles University(查理大学);Saarland University(萨尔大学);Julius-Maximilians-Universität Würzburg(维尔茨堡朱利叶斯-马克西米利安大学)
本文针对神经图表摘要中的幻觉问题,提出基于自然语言推理的训练数据预处理方法,并通过缩短长距离依赖和引入标题、图例等图表信息提升摘要性能。
2023-08-01 cs.CL cs.LG
Toward Reliable Scientific Hypothesis Generation: Evaluating Truthfulness and Hallucination in Large Language Models
University of Virginia(弗吉尼亚大学)
本文提出TruthHypo基准与基于知识的幻觉检测器KnowHD,用于评估并筛选LLM生成的真实科学假设,实验与人工评估验证了其有效性。
2025-06-08 cs.AI cs.CL
WikiChat: Stopping the Hallucination of Large Language Model Chatbots by Few-Shot Grounding on Wikipedia
Stanford University(斯坦福大学)
本研究提出基于Wikipedia少样本接地的聊天机器人WikiChat,通过保留生成内容中接地事实并结合检索信息抑制幻觉,蒸馏为7B参数LLaMA模型后仍实现高事实准确率,在多类知识任务上显著优于GPT-4等基线。
2023-10-27 cs.CL
Islamic Large Language Models: From Knowledge Acquisition to Trustworthy and Hallucination-Resistant AI
Paris Dauphine University(巴黎多芬纳大学)
综述伊斯兰大语言模型领域,提出构建可信、抗幻觉的伊斯兰AI需结合阿拉伯语NLP、检索增强生成、教法学派推理及专家评估等关键技术。
2026-06-16 cs.CL
DoG-Instruct: Towards Premium Instruction-Tuning Data via Text-Grounded Instruction Wrapping
Southeast University(东南大学);Tencent AI Lab(腾讯AI实验室)
本文提出DoG-Instruct方法,通过训练LLM基于人工文档生成指令-响应对并包装表达,以减少幻觉并提升数据质量,在AlpacaEval上以1/5训练数据实现10%相对性能提升。
2024-05-25 cs.CL
Constructing Benchmarks and Interventions for Combating Hallucinations in LLMs
Google Research(谷歌研究院);Technion – Israel Institute of Technology(以色列理工学院)
针对大语言模型幻觉干预研究缺乏统一基准、成因区分不足的问题,提出WACK分类方法及双场景基准,探究不同干预设置的效果,发现注意力块干预更优、幻觉前表征向量效果更好,并提出更鲁棒的动态干预方法。
2024-07-11 cs.CL
Improving Scientific Hypothesis Generation with Knowledge Grounded Large Language Models
University of Virginia(弗吉尼亚大学)
本研究提出KG-CoI系统,利用知识图谱外部结构化知识增强LLM假设生成,通过思想链推理和幻觉检测模块,提高假设准确性并减少推理链中的幻觉。
2024-11-04 cs.AI cs.CL
Grounded Visual Factualization: Factual Anchor-Based Finetuning for Enhancing MLLM Factual Consistency
University of Padua(帕多瓦大学)
针对多模态大语言模型的视觉幻觉问题,本文提出GVF微调方法,通过三大核心机制整合事实信号,在不损失通用能力的前提下显著提升模型视觉事实一致性。
2025-11-09 cs.CL cs.CV
Hallucination Detection and Mitigation in Scientific Text Simplification using Ensemble Approaches: DS@GT at CLEF 2025 SimpleText
Georgia Institute of Technology(佐治亚理工学院)
本文针对 CLEF 2025 SimpleText 任务 2 的科学文本简化幻觉检测问题,提出融合 BERT 分类器、语义相似度、自然语言推理和 LLM 推理的集成框架,并辅以基于 LLM 的后编辑系统,以增强失真检测鲁棒性和生成质量。
2025-08-15 cs.CL
HalluScore: Large Language Model Hallucination Question Answering Benchmark
Department of Information and Computer Science, King Fahd University of Petroleum and Minerals(国王法赫德石油与矿物大学信息与计算机科学系);SDAIA-KFUPM Joint Research Center for Artificial Intelligence(SDAIA-KFUPM人工智能联合研究中心)
本研究提出HalluScore基准,用于评估大语言模型在不同推理难度、知识领域、历史时间线和文化场景中的幻觉行为,通过827个精心编写的题目评估、检测和缓解幻觉,同时提供高质量的人类标注以识别不同模型的幻觉表现。
2026-05-16 cs.CL
Learning Fine-Grained Grounded Citations for Attributed Large Language Models
Harbin Institute of Technology(哈尔滨工业大学);Peng Cheng Laboratory(鹏城实验室);Huawei Inc.(华为公司)
本文提出训练框架FRONT,通过细粒度支持性引文引导LLM生成有据回复,在ALCE基准上以LLaMA-2-7B实现引用质量平均提升14.21%,超越ChatGPT。
2024-08-08 cs.AI cs.CL
MM-THEBench: Do Reasoning MLLMs Think Reasonably?
KIRC, Institute for Artificial Intelligence, Tsinghua University, China(KIRC人工智能研究院,清华大学,中国)
MM-THEBench旨在评估推理MLLMs在中间推理过程中的幻觉问题,通过细粒度分类和多层次评估框架,揭示思考对多模态任务中幻觉和推理能力的影响。
2026-01-30 cs.CL
Hallucinations or Attention Misdirection? The Path to Strategic Value Extraction in Business Using Large Language Models
本文区分了 LLM 的幻觉与注意力误导,并提出 PGI 战略框架,在 4,000 条 GPT 响应中实现 3.15% 的低错误率,为企业从预训练模型中提取价值提供方法。
2024-02-21 cs.CL
Med-HEAL: Analyzing and Mitigating Hallucinations in Medical LLMs with Hallucination-Aware In-Context Learning
University of Maryland, Baltimore County(马里兰大学巴尔的摩县);Medical College of Wisconsin(威斯康星医学学院)
提出Med-HEAL框架,利用临床数据构建幻觉数据集,并通过自我批评和检索增强上下文学习策略缓解医学大语言模型中的幻觉,实验表明自我批评策略可提升多数模型准确率。
2026-05-31 cs.CL
Probabilistic Guarantees for Reducing Contextual Hallucinations in LLMs
University of Hamburg(汉堡大学)
通过引入LLM作为判断者和多数投票机制,提供概率保证以降低LLM在固定输入下的上下文幻觉概率。
2026-01-02 cs.CL
A Multi-Agent Pipeline for Source-Grounded Synthetic Note Generation from Longitudinal Structured EHR
Optum AI, UnitedHealth Group(Optum AI,联合健康集团)
提出MedNotes多智能体流水线,将纵向结构化EHR转化为基于来源的临床笔记,通过生成-评估-路由闭环实现质量控制,在EHRSHOT上达到91.4%通过率,并提升下游预测性能。
2026-09-22 cs.CL cs.LG
Pre-Training Multimodal Hallucination Detectors with Corrupted Grounding Data
Scale AI
本文提出将多模态幻觉检测建模为序列标注任务,并通过生成损坏的定位数据进行预训练,以提升模型微调时的样本效率和幻觉定位能力。
2024-08-30 cs.CL cs.CV
Mathematical Analysis of Hallucination Dynamics in Large Language Models: Uncertainty Quantification, Advanced Decoding, and Principled Mitigation
Catholic University of America(美国天主教大学)
针对大型语言模型(LLMs)的幻觉问题,本研究提出基于数学的统一框架,结合多学科方法分析错误复合机制、提出改进指标并开发多类缓解策略,连接多领域进展以提升LLMs的安全性与可靠性。
2025-11-19 cs.AI cs.CL
FFE-Hallu:Hallucinations in Fixed Figurative Expressions:Benchmark of Idioms and Proverbs in the Persian Language
Tehran Institute for Advanced Studies, Khatam University, Iran(德黑兰高级研究 institute,Khatam 大学,伊朗);School of Electrical and Computer Engineering, College of Engineering, University of Tehran, Tehran, Iran(电气与计算机工程学院,工程学院,德黑兰大学,德黑兰,伊朗)
FFE-Hallu是首个针对波斯语隐喻幻觉评估的基准,揭示了LLMs在处理隐喻语言方面的系统性弱点。
2026-01-27 cs.CL
G2CP: A Graph-Grounded Communication Protocol for Verifiable and Efficient Multi-Agent Reasoning
University of Lorraine, LORIA(洛林大学,LORIA)
G2CP通过图操作实现多智能体高效、可验证的推理通信,提升任务准确率并消除幻觉传播。
2026-02-13 cs.AI cs.CL cs.MA
State-Grounded Multi-Agent Synthetic Data Generation for Tool-Augmented LLMs
PayPal AI
提出StateGen平台,通过四角色LLM循环和状态管理器生成多轮、工具接地的高质量训练对话,消除工具调用幻觉,支持层次化多智能体设置。
2026-06-16 cs.AI cs.CL
StoryReasoning Dataset: Using Chain-of-Thought for Scene Understanding and Grounded Story Generation
Instituto Superior Técnico, Universidade de Lisboa(里斯本大学技术学院);INESC-ID Lisboa(里斯本INESC-ID)
针对视觉叙事系统的指称幻觉等问题,研究者提出包含4178个电影图像衍生故事的StoryReasoning数据集,结合跨帧重识别、思维链推理等方法,微调得到的Qwen Storyteller模型有效减少幻觉并提升创造力。
2025-08-30 cs.CL cs.CV
Groc-PO: Grounded Context Preference Optimization for Truthful Multimodal LLMs
University of Science and Technology of China(中国科学技术大学);Xiaomi Corporation(小米公司);State Key Laboratory of Communication Content Cognition, People’s Daily Online(人民日报社传播内容认知国家重点实验室)
研究针对多模态大语言模型的不真实问题,提出基于上下文的偏好优化框架Groc-PO,构建相关数据集,通过多阶段偏好样本捕捉基础上下文,加强上下文相关推理,减轻跨阶段错误传播,提升模型性能。
2026-07-16 cs.AI cs.CL cs.CV
PRISM: Probing Reasoning, Instruction, and Source Memory in LLM Hallucinations
HKUST(GZ)(香港科技大学(广州));NYUSH(纽约大学上海分校);DUFE(东华大学);CUHK(SZ)(香港城市大学(深圳));CUFE(中国金融学院)
PRISM通过四个维度分析语言模型幻觉,提供细粒度诊断评估,揭示不同模型在指令遵循、记忆检索和逻辑推理上的权衡。
2026-04-26 cs.AI cs.CL
Mitigating Hallucinations in Large Vision-Language Models with Internal Fact-based Contrastive Decoding
School of Future Technology, Shanghai University(上海大学未来技术学院);Institute of Artificial Intelligence, Shanghai University(上海大学人工智能研究院);School of Mechatronic Engineering and Automation(机电工程与自动化学院)
针对大型视觉语言模型的物体幻觉问题,提出无需训练的模型无关方法IFCD,通过对比扰动内部表示引发的幻觉分布来校准输出,有效移除幻觉对数几率,在POPE和MME基准上显著提升准确率。
2025-02-03 cs.CL cs.CV
Groundedness in Retrieval-augmented Long-form Generation: An Empirical Study
Oracle Labs(甲骨文实验室);ETH Zürich(苏黎世联邦理工学院)
本文实证研究检索增强LLM在长文本问答中的句子级接地性,跨3个数据集和4个模型系列分析模型规模、解码策略与指令微调的影响,发现正确答案仍常受幻觉影响。
2024-04-10 cs.CL cs.LG
Reducing Hallucinations of Medical Multimodal Large Language Models with Visual Retrieval-Augmented Generation
NEC Laboratories America(美国NEC实验室);Purdue University(普渡大学);Lehigh University(里海大学)
针对医学多模态大语言模型的幻觉问题,提出融合图文数据的视觉检索增强生成框架V-RAG,在两个医学数据集上提升了实体探测准确率,还能生成更准确的X光报告,提高RadGraph-F1分数。
2025-02-20 cs.AI cs.CL
SEVADE: Self-Evolving Multi-Agent Analysis with Decoupled Evaluation for Hallucination-Resistant Irony Detection
SEVADE通过自演化多智能体分析框架,结合解耦评估机制,提升抗幻觉讽刺检测的准确率和宏F1分数。
2026-03-04 cs.CL cs.MA