Probing LLM Hallucination from Within: Perturbation-Driven Approach via Internal Knowledge
Georgia Institute of Technology(佐治亚理工学院);JPMorganChase Global Technology Applied Research(摩根大通全球科技应用研究)
针对LLM幻觉检测依赖外部资源且未区分幻觉类型的问题,提出无需外部知识或训练的SHINE方法,通过扰动提示中的关键实体来探测对齐、未对齐和捏造三类幻觉,在多个数据集和模型上达到SOTA性能。
2025-09-15 cs.AI cs.CL
RAGognizer: Hallucination-Aware Fine-Tuning via Detection Head Integration
Computer Science Department(计算机科学系)
RAGognizer通过整合轻量级检测头,实现hallucination-aware微调,提升内部状态分离性并减少生成hallucination。
2026-04-17 cs.CL cs.LG
Adaptive Activation Steering: A Tuning-Free LLM Truthfulness Improvement Method for Diverse Hallucinations Categories
Peking University(北京大学);Beihang University(北京航空航天大学);University of Edinburgh(爱丁堡大学)
提出无需微调的自适应激活引导方法,通过调整LLM激活方向提升真实性,在多个模型上显著减少幻觉,并验证了其在大模型上的可扩展性。
2025-02-26 cs.AI cs.CL
GRAIT: Gradient-Driven Refusal-Aware Instruction Tuning for Effective Hallucination Mitigation
Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);Peking University(北京大学);Southwest Jiaotong University(西南交通大学);Shanghai Jiaotong University(上海交通大学);Chinese University of Hong Kong(香港中文大学)
针对拒绝感知指令调优(RAIT)的两大挑战,本文从梯度视角提出GRAIT框架,通过梯度驱动样本选择和自适应加权机制平衡拒绝准确性与有用性,在问答任务中显著优于现有方法,有效缓解幻觉。
2025-02-09 cs.CL
Enhancing Knowledge Graph Construction: Evaluating with Emphasis on Hallucination, Omission, and Graph Similarity Metrics
CNRS(法国国家科学研究中心);Université de Bourgogne(勃艮第大学);ICB(布尔戈尼计算机科学实验室)
本文针对知识图谱构建中的幻觉与遗漏问题,提出引入BERTScore和95%图匹配阈值的增强评估框架,通过Mistral模型微调实验证明其能提升构建准确性但泛化能力下降,强调全面评估指标的重要性。
2025-02-07 cs.AI cs.CL
Why Fine-Tuning Encourages Hallucinations and How to Fix It
Hebrew University of Jerusalem(海法大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Technion – Israel Institute of Technology(技术学院 – 以色列理工学院);University of Southern California(南加州大学)
本文探讨微调导致幻觉的原因,提出基于自蒸馏的微调方法以减少幻觉,通过抑制输出分布漂移提升事实学习效果。
2026-09-29 cs.AI cs.CL cs.LG
Exploring the Knowledge Mismatch Hypothesis: Hallucination Propensity in Small Models Fine-tuned on Data from Larger Models
NYU Abu Dhabi(纽约大学阿布扎比分校)
本研究针对用大模型数据微调的小模型幻觉更严重的现象,验证知识不匹配假说,发现用大模型数据微调的小模型在未见过的测试集上错误答案更多,证实微调数据与模型原有知识的不匹配会加剧幻觉。
2024-10-31 cs.AI cs.CL
Evaluating Hallucinations in Domain-Adapted Large Language Models
College of Computing, Georgia Institute of Technology(佐治亚理工学院计算学院)
本研究通过微调Llama-2模型,测试其记忆、回忆和推理能力,发现领域自适应大语言模型在生成新领域特定信息时存在幻觉问题,表明仅靠微调难以有效缓解幻觉。
2026-04-19 cs.AI cs.CL
CCL-XCoT: An Efficient Cross-Lingual Knowledge Transfer Method for Mitigating Hallucination Generation
Institute for Infocomm Research (I 2 R), A*STAR, Singapore(信息与通信研究机构(I2R),A*STAR,新加坡)
本文提出CCL-XCoT两阶段微调框架,通过课程对比学习与跨语言思维链提示,在不依赖外部检索的情况下将多语言大模型幻觉率降低62%,有效提升低资源语言的事实知识迁移能力。
2025-07-17 cs.AI cs.CL
FiSTECH: Financial Style Transfer to Enhance Creativity without Hallucinations in LLMs
Corporate Data and Analytics Office (CDAO), Accenture LLP(埃森哲有限责任公司企业数据与分析办公室(CDAO))
本研究提出FiSTECH两阶段微调策略,通过先允许LLM产生幻觉再手动纠正,在金融报告生成中显著提升写作创造力并降低幻觉,实现两倍问答准确率提升和超50%幻觉减少。
2024-11-17 cs.AI cs.CE cs.CL
Theoretical Foundations and Mitigation of Hallucination in Large Language Models
Department of Computer Science, University of Sana'a(桑加大学计算机科学系)
该研究对大语言模型幻觉问题给出形式化定义与理论分析,推导幻觉风险边界,调研检测与缓解方法,提出统一工作流与评估协议,为解决该挑战提供理论基础与实践指南。
2025-07-20 cs.AI cs.CL
Chain of Natural Language Inference for Reducing Large Language Model Ungrounded Hallucinations
Microsoft Responsible AI(微软负责任人工智能)
针对大语言模型易生成无依据幻觉的问题,提出基于自然语言推理链的即插即用分层框架,无需微调或领域提示工程,通过后编辑减幻,在多场景下实现检测与减幻的优异性能。
2023-10-09 cs.AI cs.CL
ANAH-v2: Scaling Analytical Hallucination Annotation of Large Language Models
Shanghai Jiao Tong University(上海交通大学);Shanghai AI Laboratory(上海人工智能实验室);The Chinese University of Hong Kong(香港中文大学);HKGAI under InnoHK(香港人工智能研究院(InnoHK框架下));Hong Kong University of Science and Technology(香港科技大学)
本文提出ANAH-v2迭代自训练框架,基于EM算法同时扩展幻觉标注数据集并提升标注器准确性,最终7B参数标注器超越GPT-4,在HaluEval和HalluQA上取得SOTA,并有效缓解LLM幻觉。
2024-12-19 cs.AI cs.CL
Mitigating Hallucination in Large Multi-Modal Models via Robust Instruction Tuning
University of Maryland, College Park(马里兰大学帕克分校);Microsoft Corporation(微软公司)
本文提出首个包含正负指令的视觉指令微调数据集LRV-Instruction,并设计GAVIE评估方法,通过微调MiniGPT4和mPLUG-Owl有效缓解了大型多模态模型的幻觉问题,同时提升了多数据集性能。
2024-03-19 cs.AI cs.CE cs.CL
Generating Synthetic Datasets for Few-shot Prompt Tuning
Nanyang Technological University(南洋理工大学)
针对少样本提示微调依赖大量标注数据的问题,利用LLM合成任务特定数据,并提出DawGen方法与梯度手术策略训练软提示,显著提升了少样本分类性能。
2024-10-08 cs.AI cs.CL
Token-Guard: Towards Token-Level Hallucination Control via Self-Checking Decoding
Beijing University of Posts and Telecommunications(北京邮电大学);Nanyang Technological University(南洋理工大学)
Token-Guard通过自检解码技术,实现对大型语言模型中token级幻觉的有效控制,提升生成准确性与输出可靠性。
2026-01-30 cs.AI cs.CL
WikiChat: Stopping the Hallucination of Large Language Model Chatbots by Few-Shot Grounding on Wikipedia
Stanford University(斯坦福大学)
本研究提出基于Wikipedia少样本接地的聊天机器人WikiChat,通过保留生成内容中接地事实并结合检索信息抑制幻觉,蒸馏为7B参数LLaMA模型后仍实现高事实准确率,在多类知识任务上显著优于GPT-4等基线。
2023-10-27 cs.CL
Quantifying and Attributing the Hallucination of Large Language Models via Association Analysis
Beijing Academy of Artificial Intelligence(北京智源人工智能研究院)
本文提出通过关联分析结合幻觉水平量化与原因调查,建立LLMs幻觉率与风险因素的关系,揭示模型在常识记忆、关系推理和指令遵循上的潜在缺陷,为预训练和监督微调提供缓解幻觉的指导。
2023-09-11 cs.AI cs.CL
Does Fine-Tuning LLMs on New Knowledge Encourage Hallucinations?
Technion - Israel Institute of Technology(以色列理工学院);Google Research(谷歌研究院)
本文通过闭卷问答受控实验发现,大语言模型难以通过微调获取新事实知识,且学会新知识会线性增加幻觉倾向,表明事实知识主要来自预训练,微调仅提升知识使用效率。
2024-10-01 cs.CL
Triggering Hallucinations in LLMs: A Quantitative Study of Prompt-Induced Hallucination in Large Language Models
Kanazawa University(金泽大学);Institute for Frontier Science Initiative(前沿科学 initiative研究所);Graduate School of Medical Sciences(医学研究生院)
本研究提出了一个基于提示的框架,通过幻觉诱导提示(HIP)和幻觉量化提示(HQP)系统地触发并量化大型语言模型中的幻觉,为研究幻觉脆弱性提供了可复现的测试平台。
2025-05-01 cs.AI cs.CL
You Only Fine-tune Once: Many-Shot In-Context Fine-Tuning for Large Language Models
University of Florida(佛罗里达大学)
本文提出多示例上下文微调方法,通过扩展上下文学习原理,显著提升大型语言模型在多任务处理中的性能,接近专门微调水平并缓解灾难性遗忘问题。
2026-03-03 cs.AI cs.CL
Reasoning Models Hallucinate More: Factuality-Aware Reinforcement Learning for Large Reasoning Models
Department of Computer Science, National University of Singapore(计算机科学系,新加坡国立大学)
本文揭示推理导向的强化学习微调会加剧幻觉问题,并提出事实感知逐步策略优化(FSPO)算法,通过在每一步推理中引入事实验证来动态调整优势值,实验证明其能同时减少幻觉并提升推理准确率。
2025-11-06 cs.AI cs.CL
Self-Alignment for Factuality: Mitigating Hallucinations in LLMs via Self-Evaluation
Tencent AI Lab(腾讯AI实验室);The Chinese University of Hong Kong(香港中文大学)
本文提出面向事实性的 LLM 自对齐方法,通过 Self-Eval 与 SK-Tuning 生成自评估偏好信号并以 DPO 微调,显著提升 Llama 模型在 TruthfulQA 和 BioGEN 上的事实准确性。
2024-06-11 cs.AI cs.CL
Can LLMs Detect Intrinsic Hallucinations in Paraphrasing and Machine Translation?
RISE Research Institutes of Sweden, Department of Computer Science(瑞典RISE研究机构,计算机科学系);Uppsala University, Department of Linguistics and Philology(乌普萨拉大学,语言学与哲学系);KTH Royal Institute of Technology, Division of Software and Computer Systems(皇家理工学院,软件与计算机系统系);University of Edinburgh, School of Informatics(爱丁堡大学,信息学院)
基于HalluciGen任务评估开源LLM在翻译和复述中检测内在幻觉的能力,发现性能因模型而异但不受提示影响,且NLI模型表现相当,表明LLM并非唯一可行选择。
2025-04-29 cs.AI cs.CL
Fine-tuning Large Language Models for Improving Factuality in Legal Question Answering
School of Software Technology, Zhejiang University(浙江大学软件学院);College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院)
针对法律问答领域大语言模型的幻觉问题,研究团队推出LegalHalBench基准及相关评估指标,提出结合行为克隆和HIPO的幻觉缓解方法,经真实数据实验验证,在多项新旧指标上均实现显著提升。
2025-01-11 cs.CL
PromptDA: Label-guided Data Augmentation for Prompt-based Few-shot Learners
Illinois Institute of Technology(伊利诺伊理工学院)
大型预训练语言模型(PLM)的最新进展通过特定于任务的微调在自然语言理解(NLU)任务方面取得了令人印象深刻的进展。然而,直接微调PLM严重依赖于足够的标记训练实例,这通常是很难获得的。PLM上的基于数据库的调优已被证明对于各种下游Few-Shot任务是强大的。现有的工作研究Few-Shot自然语言理解任务的基于语义的调整主要集中在派生适当的标签词与动词或生成提示模板,以引出语义从PLM。此外,传统的数据增强策略,如同义词替换,虽然广泛采用在低资源的情况下,只带来边际改进的少样本学习。因此,一个重要的研究问题出现了:如何设计有效的数据增强方法,为基础的Few-Shot调整?为此,考虑到标签语义是必不可少的,在基于标签的调整,我们提出了一种新的标签引导的数据增强的框架BattDA,它利用丰富的标签语义信息的数据增强。在Few-Shot文本分类任务上的大量实验结果表明,该框架通过有效利用标签语义和数据增强进行自然语言理解,具有优异的性能。我们的代码可在https://github.com/canyuchen/PromptDA上获得。
2023-03-22 cs.AI cs.CL
Understanding New-Knowledge-Induced Factual Hallucinations in LLMs: Analysis and Interpretation
National Key Laboratory for Novel Software Technology, Nanjing University(南京大学新型软件技术国家重点实验室);Huawei Translation Services Center(华为翻译服务中心)
研究探讨了新知识微调导致的大语言模型事实幻觉现象,通过设计Biography-Reasoning数据集,分析不同知识类型和任务类型中的幻觉表现,发现知识类型中不熟悉程度是幻觉的主要驱动因素。
2026-04-17 cs.CL
Mitigating Hallucinated Translations in Large Language Models with Hallucination-focused Preference Optimization
Boston University(波士顿大学);Apple(苹果公司)
针对LLM翻译幻觉问题,提出在训练阶段内在缓解幻觉的数据创建框架,通过生成聚焦幻觉的偏好数据集微调模型,使幻觉率在五个语言对上平均降低96%,零样本设置下平均降低89%,且保持翻译质量。
2025-01-28 cs.AI cs.CL cs.LG
The Unintended Trade-off of AI Alignment:Balancing Hallucination Mitigation and Safety in LLMs
Applied Artificial Intelligence Initiative(应用人工智能倡议);Deakin University(德肯大学);School of Information Technology(信息科技学院)
本文提出了一种方法,通过解耦幻觉和拒绝特征,平衡LLMs中的真实性与安全性,减少因提高真实性而削弱安全对齐的问题。
2026-01-30 cs.CL
Robust Multimodal Large Language Models Against Modality Conflict
School of Artificial Intelligence(人工智能学院);Data Science, University of Science(数据科学,科学大学);Department of Electronic Engineering(电子工程系);Information Science, University of Science(信息科学,科学大学);Huawei Technologies Co., Ltd.(华为技术有限公司)
本文研究多模态大语言模型因模态冲突产生的幻觉,定义并构建MMMC数据集,提出提示工程、监督微调和强化学习三种缓解方法,实验表明强化学习效果最佳。
2025-07-09 cs.AI cs.CL cs.CV
Deficiency of Large Language Models in Finance: An Empirical Examination of Hallucination
Columbia University(哥伦比亚大学);Rensselaer Polytechnic Institute(伦斯勒理工学院)
本文实证检验了大型语言模型在金融任务中的幻觉行为,评估了少样本学习、DoLa、RAG和工具学习四种缓解方法,发现现成LLMs仍存在严重幻觉,亟需更多研究。
2023-11-27 cs.AI cs.CL cs.LG
OAEI-LLM-T: A TBox Benchmark Dataset for Understanding Large Language Model Hallucinations in Ontology Matching
Australian National University(澳大利亚国立大学);Monash University(墨尔本大学)
OAEI-LLM-T是一个用于研究大规模语言模型在本体匹配中幻觉问题的TBox基准数据集,通过分类幻觉类型并提供评估工具,促进对LLM在OM任务中表现的深入理解。
2025-05-14 cs.AI cs.CL cs.IR
Multilingual Fine-Grained News Headline Hallucination Detection
Google Research(谷歌研究院)
本研究构建了首个包含5种语言超1.1万对数据的多语言细粒度新闻标题幻觉检测专家标注数据集,通过监督微调和大型语言模型上下文学习实验,提出语言相关示例选择与从粗到细提示技术提升少样本检测性能。
2024-07-22 cs.CL
From Misleading Queries to Accurate Answers: A Three-Stage Fine-Tuning Method for LLMs
Zhejiang University(浙江大学);Renmin University of China(中国人民大学);AI Research Center, WeDoctor Cloud(WeDoctor Cloud人工智能研究中心)
针对LLMs易受误导性输入影响的问题,提出一种三阶段微调方法,通过训练模型识别、纠正误导信息并生成准确答案,显著提升了回答准确性和事实性,减少了幻觉。
2025-05-30 cs.CL
Enabling Natural Zero-Shot Prompting on Encoder Models via Statement-Tuning
Technical University of Darmstadt(达姆施塔特工业大学);MBZUAI(穆罕默德·本·扎耶德人工智能大学)
本文提出Statement-Tuning技术,通过将判别任务建模为有限语句判别来训练编码器模型,以较少参数实现与大型语言模型竞争的零样本和少样本跨任务泛化性能。
2024-10-17 cs.CL
CodeMirage: Hallucinations in Code Generated by Large Language Models
University of Surrey(萨里大学);JP Morgan AI Research(摩根大通AI研究)
本文首次系统研究大型语言模型生成代码中的幻觉问题,提出代码幻觉定义、分类法及首个基准数据集CodeMirage,并实验评估多种LLM的检测性能,GPT-4表现最佳。
2025-07-08 cs.AI cs.CL cs.SE
Zero-Shot Event Causality Identification via Multi-source Evidence Fuzzy Aggregation with Large Language Models
针对零样本事件因果关系识别中的因果幻觉问题,提出MEFA框架,通过多任务证据分解与模糊聚合提升LLM因果判断的准确性。
2025-06-09 cs.CL
Small Agent Can Also Rock! Empowering Small Language Models as Hallucination Detector
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学高瓴人工智能学院);DIRO, Université de Montréal(蒙特利尔大学 DIRO 学院);Kuaishou(快手);School of Information, Renmin University of China(中国人民大学信息学院)
提出 HaluAgent 框架,通过工具箱、三阶段流程、记忆机制和 2K 条双语轨迹微调,让 7B 级小模型完成多类型幻觉检测,性能可比肩甚至超过无工具增强的 GPT-4。
2024-06-17 cs.CL
Are Reasoning Models More Prone to Hallucination?
Department of Computer Science and Technology, Tsinghua University(清华大学计算机科学与技术系);School of Computing, National University of Singapore(新加坡国立大学计算机学院)
本文评估大型推理模型的幻觉问题,发现完整后训练流程可减轻幻觉,而蒸馏或无冷启动RL会加剧幻觉,并从行为分析与模型不确定性角度揭示了幻觉产生的机制。
2025-05-29 cs.CL cs.LG
Measuring and Reducing LLM Hallucination without Gold-Standard Answers
UC Santa Cruz(加州大学圣克鲁兹分校);ByteDance Research(字节跳动研究院);Northwestern University(西北大学)
本文提出FEWL幻觉度量方法,在无黄金标准答案时通过加权多个现成大语言模型的答案来测量并减少幻觉,实验证明其有效性。
2024-06-06 cs.AI cs.CL cs.LG
TreeCut: A Synthetic Unanswerable Math Word Problem Dataset for LLM Hallucination Evaluation
Columbia University(哥伦比亚大学)
本研究提出合成数据集TreeCut,通过树结构移除必要条件生成不可解数学题,实验发现其能有效诱发GPT-4o等大模型产生幻觉,并分析了影响幻觉率的相关因素。
2025-05-20 cs.AI cs.CL cs.LG
OPDAI at SemEval-2024 Task 6: Small LLMs can Accelerate Hallucination Detection with Weakly Supervised Data
Interactive Entertainment Group of Netease Inc.(网易公司互动娱乐集团)
本文提出利用提示工程与少样本学习筛选优质大语言模型生成弱监督数据,并通过微调证明小型大语言模型在幻觉检测上可媲美大型模型及GPT-4提示方法。
2024-02-20 cs.CL
Addressing Topic Granularity and Hallucination in Large Language Models for Topic Modelling
The University of Sheffield(谢菲尔德大学)
本文针对 LLM 主题建模中的主题粒度不一致和幻觉问题,提出利用直接偏好优化(DPO)结合重建流水线微调 Mistral-7B 等开源模型,在不依赖人工标注的情况下显著提升主题质量并减少幻觉主题。
2024-05-01 cs.CL
Inducing Epistemological Humility in Large Language Models: A Targeted SFT Approach to Reducing Hallucination
本文提出HypoTermInstruct数据集,通过非现实术语问题训练模型知识谦逊,减少幻觉,实验显示其显著提升HypoTerm Score和FactScore,同时保持MMLU性能稳定。
2026-03-18 cs.CL
InstructDial: Improving Zero and Few-shot Generalization in Dialogue through Instruction Tuning
Carnegie Mellon University(卡内基梅隆大学)
指令微调是自然语言处理中的一种新兴范式,其中自然语言指令与语言模型一起使用,以在看不见的任务上诱导zero-shot性能。指令已经被证明可以在大型和小型语言模型中对看不见的任务和数据集实现良好的性能。对话是探索指令微调的特别有趣的领域,因为对话系统执行与语言相关的多种任务(例如,自然语言理解和生成、领域特定的交互),但是还没有针对对话相关的任务系统地探索指令微调。我们介绍了指令拨号,一个指令微调框架的对话,其中包括一个存储库的48个不同的对话任务,在一个统一的文本到文本的格式创建从59个公开可用的对话数据集。接下来,我们将探索在不同的对话任务中,在InstructDial上调整的模型的跨任务泛化能力。我们的分析表明,InstructDial在看不见的数据集和任务(如对话评估和意图检测)上实现了良好的zero-shot性能,在Few-Shot设置中甚至具有更好的性能。为了确保模型遵守指令,我们引入了新的元任务。我们建立基准zero-shot和Few-Shot性能的模型训练使用所提出的框架上的多个对话任务。
2022-10-26 cs.CL
Go-tuning: Improving Zero-shot Learning Abilities of Smaller Language Models
Shanghai AI Lab(上海人工智能实验室);Peking University(北京大学);Shanghai Jiao Tong University(上海交通大学);University of California, Santa Barbara(加州大学圣巴巴拉分校)
随着规模的增加,大语言模型表现出定量的改进和新的定性能力,特别是作为zero-shot学习者,如GPT-3。然而,这些结果在很大程度上依赖于微妙的提示设计和大的计算。在这项工作中,我们探讨是否可以在一个较小的模型规模,没有任何外部监督数据的情况下,实现强大的zero-shot能力。为了实现这一目标,我们重新审视掩蔽语言建模,并提出了一种几何引导的自监督学习方法(Go-tuningfor short),通过采取少量的任务感知的自监督数据,以更新语言模型进一步。实验表明,与大语言模型(如T5-XL(3B))相比,Go调优可以使T5-small(80 M)具有竞争力的zero-shot结果。我们还将Go调优应用于多任务设置,并开发了一个多任务模型,mgo-T5(250 M)。在9个数据集上,它可以达到OPT(175 B)的平均性能。
2022-12-20 cs.CL
Being Kind Isn't Always Being Safe: Diagnosing Affective Hallucination in LLMs
Department of Industrial Engineering, Yonsei University(工业工程系,延世大学)
本文提出AHaBench和AHaPairs用于诊断LLM中的情感幻觉问题,通过DPO优化减少虚假社会存在感,提升模型的心理安全性和事实可靠性。
2026-01-22 cs.CL
PPT: Pre-trained Prompt Tuning for Few-shot Learning
Tsinghua University(清华大学);Beijing Academy of Artificial Intelligence(北京智源人工智能研究院)
预训练语言模型(PLM)的测试通过弥合预训练任务和各种下游任务之间的差距,表现出显着的性能。在这些方法中,提示微调冻结PLM,只调整软提示,为大规模PLM适应下游任务提供了一个高效的解决方案。然而,提示微调还有待充分探索。在我们的试点实验中,我们发现,及时调整执行与传统的全模型微调时,下游数据是足够的,而它的表现差得多的少样本学习设置,这可能会阻碍提示微调在实践中的应用。我们将这种低性能归因于初始化软提示的方式。因此,在这项工作中,我们建议通过在预训练阶段添加软提示来预训练提示,以获得更好的初始化。我们将此预训练提示微调框架命名为“PPT”。为了保证PPT的通用性,我们将相似的分类任务制定为统一的任务形式,并为这个统一的任务预训练软提示。大量的实验表明,在全数据和Few-Shot设置下,为下游任务调整预训练的提示可以达到甚至超过全模型微调。我们的方法是有效和高效的,在实践中使用大型PLM。
2022-03-14 cs.CL
KSHSeek: Data-Driven Approaches to Mitigating and Detecting Knowledge-Shortcut Hallucinations in Generative Models
Xidian University(西安电子科技大学);University of Chinese Academy of Sciences(中国科学院大学);Hainan University(海南大学);University of Waterloo(滑铁卢大学)
KSHSeek通过数据驱动方法缓解和检测生成模型中的知识捷径幻觉,提升模型的鲁棒性和可靠性。
2025-11-27 cs.CL
HalluClean: A Unified Framework to Combat Hallucinations in LLMs
HalluClean通过规划、执行和修订三阶段推理增强方法,有效检测并修正LLM生成文本中的幻觉,提升事实一致性并优于基线方法。
2026-03-20 cs.CL
Pathologies of Pre-trained Language Models in Few-shot Fine-tuning
University of Virginia(弗吉尼亚大学);Microsoft Research(微软研究院)
虽然用很少的例子来适应预训练的语言模型在文本分类上表现出了很好的性能,但人们对性能提升的来源缺乏了解。在这项工作中,我们建议回答这个问题,通过解释适应行为使用事后解释模型预测。通过对解释的特征统计进行建模,我们发现(1)在没有微调的情况下,预先训练的模型(例如BERT和RoBERTa)显示出跨标签的强预测偏差;(2)尽管Few-Shot微调可以减轻预测偏差并展示有希望的预测性能,我们的分析表明,模型通过捕获非任务相关的特征(例如,停止词)或浅数据模式(例如,词汇重叠)来获得性能改进。这些观察结果提醒我们,用更少的例子追求模型性能可能会导致病态的预测行为,这需要对模型预测进行进一步的健全性检查,并在Few-Shot微调中仔细设计模型评估。
2022-04-17 cs.CL
Generating Effective CoT Traces for Mitigating Causal Hallucination
Concordia University(康科迪亚大学)
本文研究了生成有效CoT轨迹以缓解小模型因果幻觉的问题,设计了生成管道并提出新的量化指标CHR,实验表明生成的CoT轨迹能有效减少幻觉并提升准确性。
2026-04-14 cs.CL
Teaching Language Models to Hallucinate Less with Synthetic Tasks
UC Berkeley(加州大学伯克利分校);Microsoft Research(微软研究院);UIUC(伊利诺伊大学厄巴纳-香槟分校);Hippocratic AI(希波克拉底人工智能公司)
针对大语言模型在抽象摘要任务中易产生幻觉且难优化评估的问题,提出SynTra方法,通过合成任务前缀调优系统提示词并迁移到真实任务,有效降低13B参数模型的幻觉,且微调全模型反而会加剧幻觉。
2023-11-07 cs.CL cs.LG
Model ensemble instead of prompt fusion: a sample-specific knowledge transfer method for few-shot prompt tuning
Georgia Institute of Technology(佐治亚理工学院);Salesforce Research(赛富时研究院)
提示微调方法是在冻结的预训练模型上学习特定于任务的软提示,由于其参数效率而引起了越来越多的兴趣。对于大语言模型和足够的训练数据,提示微调可执行从快速到全模型的调优。然而,在Few-Shot设置中训练样本有限的情况下,提示微调无法匹配全模型微调的性能。在这项工作中,我们专注于提高Few-Shot性能的提示微调通过转移知识的软提示源任务。认识到集成方法在低数据状态下的良好泛化能力,我们首先实验并表明,基于不同来源提示的模型预测的简单集成,优于现有的多提示知识转移方法,例如在Few-Shot设置中的来源提示融合。基于这一观察,我们进一步研究了模型集成,并提出了特定于样本的源模型集成(SESoM)。SESoM学习在集成源模型输出时分别调整每个目标样本的每个源模型的贡献。通过这种方式,SESoM继承了模型集成方法的优越泛化能力,同时捕获每个源提示的样本特定能力。我们使用不同尺度的模型(T5-{base,large,XL})在不同的8个NLP任务中进行实验,发现SESoM始终优于现有的相同和更大参数尺度的模型。
2023-03-01 cs.CL