ETF: An Entity Tracing Framework for Hallucination Detection in Code Summaries
Indian Institute of Technology Bombay（印度理工学院班加罗尔分校）；IBM Research India（IBM印度研究院）；University of Texas at Austin（德克萨斯大学奥斯汀分校）
针对代码摘要中的幻觉问题，本文提出实体追踪框架ETF，结合静态分析与LLM验证，在约1万样本的CodeSumEval数据集上取得73%的F1分数，实现幻觉检测与错误定位。
2025-09-06 cs.AI cs.CL cs.SE
Efficiency Hallucination: Formalizing and Measuring Behavioral Calibration in LLM-Based Code Optimization
Google（谷歌）；Columbia University（哥伦比亚大学）；Vanderbilt University（范德堡大学）
针对LLM在代码优化中的“效率幻觉”问题，提出基于分类惩罚的验证框架，在九个模型上测试，将正确弃权率从0%提升至44.4%，且不牺牲次优代码编辑率，实现无需训练的校准。
2026-09-15 cs.AI cs.SE
Hallucination in LLM-Based Code Generation: An Automotive Case Study
Real-Time Systems Technical University of Munich（实时系统技术大学慕尼黑）
本文通过汽车领域案例研究，评估多个代码大语言模型在不同提示复杂度下的幻觉现象，发现仅GPT-4.1和GPT-4o在上下文最丰富时能生成正确代码，揭示了安全关键领域中缓解LLM幻觉的必要性。
2025-08-15 cs.AI cs.SE
HFuzzer: Testing Large Language Models for Package Hallucinations via Phrase-based Fuzzing
School of Software Technology, Zhejiang University, Ningbo, China（软件技术学院，浙江大学，宁波，中国）；The State Key Laboratory of Blockchain and Data Security, Zhejiang University, Hangzhou, China（区块链与数据安全国家重点实验室，浙江大学，杭州，中国）
针对大语言模型包幻觉安全风险缺乏专项检测的问题，提出基于短语的模糊测试框架HFuzzer，可生成多样相关编码任务，在多模型中触发幻觉，检测量达突变框架2.6倍，还发现GPT-4o在环境配置中也存在包幻觉。
2025-10-04 cs.AI cs.SE
HalluJudge: A Reference-Free Hallucination Detection for Context Misalignment in Code Review Automation
Monash University Australia（墨尔本大学澳大利亚）；The University of Melbourne Australia（墨尔本大学澳大利亚）；Atlassian USA（Atlassian美国）
提出无参考幻觉检测方法HalluJudge，通过上下文对齐评估生成评论的根基性，采用多分支推理策略，在F1=0.85且成本$0.009下与开发者偏好67%一致。
2026-06-12 cs.AI cs.SE
MIH-TCCT: Mitigating Inconsistent Hallucinations in LLMs via Event-Driven Text-Code Cyclic Training
Tsinghua University（清华大学）；Beihang University（北京航空航天大学）；iFLYTEK Research（讯飞研究院）；Beijing University of Posts and Telecommunications（北京邮电大学）
提出MIH-TCCT框架，通过事件驱动文本生成代码并循环训练，将代码逻辑一致性迁移至自然语言，显著减少三个LLM在两类任务中的不一致幻觉，无需下游适应，具泛化性。
2025-02-27 cs.AI
Evaluating Inference-Time Defenses Against Package Hallucination in LLM-Generated Code
University of Luxembourg（卢森堡大学）；AI4D (CITADEL)（AI4D（CITADEL））；University College London（伦敦大学学院）
本文针对LLM生成代码的包幻觉问题，修正了评估方法，评估了七种推理时防御措施，提出包效用指标，发现对抗提示下RAG与Self-Refine表现更优，明确防御需匹配威胁模型与效用。
2026-08-25 cs.AI cs.SE
Eliminating Hallucination-Induced Errors in LLM Code Generation with Functional Clustering
Massachusetts Institute of Technology（麻省理工学院）
针对大语言模型代码生成存在幻觉bug、难以自主部署的问题，提出功能聚类黑盒包装器，通过候选程序采样、自测用例执行与行为聚类提供可调置信度，大幅降低错误率，且可直接适配闭源模型与未来模型。
2025-05-16 cs.AI cs.SE
We Have a Package for You! A Comprehensive Analysis of Package Hallucinations by Code Generating LLMs
University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）；University of Oklahoma（俄克拉荷马大学）；Virginia Tech（弗吉尼亚理工大学）
本文全面评估了代码生成LLM中的包幻觉现象，发现商业模型平均幻觉率为5.2%，开源模型为21.7%，并提出了有效的缓解策略以在保持代码质量的同时显著减少幻觉。
2025-03-02 cs.AI cs.CR cs.LG
CodeTD: Topology of Attention Detects Hallucinations in Code LLMs
Applied AI Institute（应用人工智能研究院）；AXXX；IMJ CNRS（法国国家科学研究中心IMJ实验室）
本文提出CodeTD，利用注意力图拓扑数据分析在代码执行前检测代码大语言模型生成的幻觉，实验表明其优于现有基线且可跨基准迁移。
2026-09-11 cs.AI cs.CL cs.LG
Task Abstention for Large Language Models in Code Generation
本文研究了大型语言模型在代码生成任务中是否应回避生成可能产生幻觉的代码，提出了一种基于多重假设检验原理的校准回避规则，通过代码执行结果评估生成一致性，无需依赖Oracle测试用例或外部数据库，提供了一种可靠的安全且稳健的代码生成机制。
2026-05-16 cs.AI cs.SE
Citation Discipline in Spec-Driven Development: A Cross-Model Empirical Study of Output Determinism and Automated Hallucination Detection in LLM-Generated Code
通过对比三种规范驱动开发框架，发现强制引用要求会降低输出确定性但能实现自动幻觉检测，该权衡在不同模型间一致。
2026-07-01 cs.AI cs.SE
On Mitigating Code LLM Hallucinations with API Documentation
Amazon Web Services（亚马逊网络服务）
本研究提出CloudAPIBench基准，并引入智能触发文档增强生成（DAG）的方法，以缓解代码大语言模型在低频API上的幻觉问题，同时避免对高频API的负面影响，最终提升API调用的可靠性。
2024-07-13 cs.AI cs.CL cs.LG
LP-LM: No Hallucinations in Question Answering with Logic Programming
Cornell University（康奈尔大学）；Stony Brook University（石溪大学）
针对大型语言模型（LLMs）问答幻觉问题，提出LP-LM系统，通过Prolog语义解析锚定知识库事实生成可靠答案，实验表明其无幻觉且运行高效。
2025-02-13 cs.AI cs.CL
SOK: Exploring Hallucinations and Security Risks in AI-Assisted Software Development with Insights for LLM Deployment
Clark Atlanta University（克拉克亚特兰大大学）；Dhaka International University（达卡国际大学）；Silicon Orchard Research and Analytics Lab（硅果园研究与分析实验室）
本文系统分析AI辅助编码工具（如GitHub Copilot等）的益处与风险，探讨其复制不安全实践、引入偏见及产生幻觉的隐患，并强调数据泄露与知识产权风险，旨在指导开发者明智使用并最大化收益、最小化风险。
2025-01-31 cs.AI cs.CR cs.SE
Hal-Eval: A Universal and Fine-grained Hallucination Evaluation Framework for Large Vision Language Models
National Engineering Research Center for Software Engineering, Peking University（北京大学国家软件工程研究中心）；Alibaba Group（阿里巴巴集团）
本文提出Hal-Eval，一个通用且细粒度的幻觉评估框架，通过引入事件幻觉类别并利用LLM生成数据，整合判别与生成评估方法，全面评估大型视觉语言模型的幻觉处理能力。
2024-11-08 cs.AI cs.CL
First Hallucination Tokens Are Different from Conditional Ones
University of Tübingen, Germany（图宾根大学）；Tübingen AI Center（图宾根人工智能中心）
本研究利用RAGTruth语料库的令牌级标注，发现首个幻觉令牌比后续令牌更易检测，且该特性跨模型一致，为令牌级幻觉检测提供了关键洞察。
2025-10-06 cs.AI cs.LG
BenHalluEval: A Multi-Task Hallucination Evaluation Framework for Large Language Models on Bengali
Department of Computer Science and Engineering, Islamic University of Technology（伊斯兰科技大学计算机科学与工程系）；Department of Computer Science and Engineering, University of California（加州大学计算机科学与工程系）
针对孟加拉语大语言模型幻觉评估的空白，提出BenHalluEval框架，涵盖四项任务，构建12000个幻觉候选，并提出双轨校准指标BenHalluScore，揭示模型间幻觉校准的显著差异。
2026-08-07 cs.AI cs.CL
Classification-Based Automatic HDL Code Generation Using LLMs
Technical University of Munich (TUM)（慕尼黑工业大学）；University of Siegen（锡根大学）；TU Darmstadt（达姆施塔特工业大学）；Zhejiang University（浙江大学）
本研究提出一种受人类专家启发的方法，通过LLM分类电路类型并拆分任务为子流程，结合EDA工具与搜索方法，显著提升了HDL代码生成的功能正确性并减少了幻觉。
2024-07-04 cs.AI cs.AR
Lynx: An Open Source Hallucination Evaluation Model
Patronus AI；Contextual AI；Stanford University（斯坦福大学）
为解决LLM幻觉问题，提出SOTA幻觉检测模型LYNX与包含1.5万样本的HaluBench基准，实验证明其性能优于GPT-4o等模型，并已开源。
2024-07-22 cs.AI cs.CL
DHCP: Detecting Hallucinations by Cross-modal Attention Pattern in Large Vision-Language Models
Tsinghua University, Tencent（清华大学、腾讯）；Tencent（腾讯）；Tencent, University of Macau（腾讯、澳门大学）；University of Science and Technology Beijing（北京科技大学）；Tsinghua University（清华大学）
针对大视觉语言模型存在的对象、属性、关系类幻觉问题，提出基于跨模态注意力模式差异的轻量级幻觉检测方法DHCP，无需额外训练或推理步骤即可实现显著检测效果，为提升模型可靠性提供新视角。
2025-07-31 cs.AI cs.CV
Hallucination-aware intermediate representation edit in large vision-language models
School of Computer Science, Northwestern Polytechnical University（西北工业大学计算机学院）
本文提出一种动态检测和消除幻觉表示的框架，通过最小额外计算成本在现有基准上实现最先进的性能，展示了高效且稳健的幻觉消除能力。
2026-03-31 cs.AI cs.CV
HalluciNot: Hallucination Detection Through Context and Common Knowledge Verification
AIMon Labs（AIMon实验室）
本文提出企业级LLM幻觉检测系统HalluciNot及模型HDM-2，通过上下文与常识双重验证并提供词级标注，在多个数据集上优于现有方法。
2025-04-09 cs.AI cs.CL
Token-Guard: Towards Token-Level Hallucination Control via Self-Checking Decoding
Beijing University of Posts and Telecommunications（北京邮电大学）；Nanyang Technological University（南洋理工大学）
Token-Guard通过自检解码技术，实现对大型语言模型中token级幻觉的有效控制，提升生成准确性与输出可靠性。
2026-01-30 cs.AI cs.CL
SIRIN: A Unified Toolkit for Detecting Contextual Hallucinations in Retrieval-Augmented and Memory-Grounded LLM Systems
Sber AI Lab（Sber AI实验室）
本研究提出SIRIN工具包，整合三类检测器范式与查询可回答性任务，支持多设置下的幻觉检测，可作为长期记忆系统的忠实性门控，源代码公开可用。
2026-08-04 cs.AI
HALoGEN: Fantastic LLM Hallucinations and Where to Find Them
University of Washington（华盛顿大学）；Google（谷歌公司）；NVIDIA（英伟达公司）
本研究发布综合性幻觉基准HALoGEN，含9领域10923条提示与自动核验器，评估14个模型的15万条生成内容，发现最优模型幻觉占比最高达86%，还提出三类幻觉错误分类，助力可信LLM研发。
2025-01-14 cs.AI cs.CL
HDLCoRe: A Training-Free Framework for Mitigating Hallucinations in LLM-Generated HDL
University of Southern California（南加州大学）
针对大语言模型生成硬件描述语言时因数据稀缺产生幻觉的问题，提出免训练框架HDLCoRe，结合HDL感知自验证思维链提示与两阶段异构RAG，在RTLLM2.0基准上显著减少幻觉、提升代码正确性。
2025-03-18 cs.AI cs.CL
Octopus: Alleviating Hallucination via Dynamic Contrastive Decoding
Ningbo Institute, Northwestern Polytechnical University（西北工业大学宁波研究院）；School of Cybersecurity, Northwestern Polytechnical University（西北工业大学网络空间安全学院）；Swansea University（斯旺西大学）
针对大型视觉语言模型的幻觉问题，提出Octopus框架，通过自适应识别幻觉类型并构建动态对比解码工作流，有效缓解了各生成步骤中的混合幻觉挑战，在四个基准上优于现有方法。
2025-03-01 cs.AI cs.CV
Halu-J: Critique-Based Hallucination Judge
Shanghai Jiao Tong University（上海交通大学）；Fudan University（复旦大学）；Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）；Carnegie Mellon University（卡内基梅隆大学）；Generative AI Research Lab (GAIR)（生成式人工智能研究实验室（GAIR））
本文提出Halu-J，一个70亿参数的基于批判的幻觉评判器，通过选择相关证据和提供详细批判，在多证据幻觉检测中超越GPT-4o，并引入新数据集ME-FEVER。
2024-07-17 cs.AI cs.CL
SHIELD: Suppressing Hallucinations In LVLM Encoders via Bias and Vulnerability Defense
Department of Electrical and Computer Engineering, Northeastern University（电气与计算机工程系，东北大学）；Khoury College of Computer Science, Northeastern University（计算机科学学院，东北大学）
SHIELD通过减少统计偏差、对抗固有偏差和解决脆弱性，有效抑制LVLM编码器中的对象幻觉。
2026-02-10 cs.AI cs.CV
Mitigating Hallucinations in Large Language Models Via Decoder Layer Skipping
De Artificial Intelligence Lab（德人工智能实验室）
本文提出DeLask框架，通过动态跳过易产生幻觉的解码器层，利用梯度下降的等价性检测并抑制错误信号，从而减轻LLM幻觉并提升可靠性。
2026-05-30 cs.AI
Causal-LLaVA: Causal Disentanglement for Mitigating Hallucination in Multimodal Large Language Models
Zhejiang University（浙江大学）
针对多模态大语言模型中的物体幻觉问题，提出因果解缠框架，通过因果驱动投影器和因果干预模块减少虚假相关性，在多个基准上显著降低幻觉并保持性能。
2025-05-26 cs.AI
Grounded Optimization: A Layered Engineering Framework for Reducing LLM Hallucination in Automated Personal Document Rewriting
提出五层接地优化框架，通过时间验证、污染检测、结构不变性、提示接地和评估器，将简历重写中的幻觉率降至0.04-0.24。
2026-07-03 cs.AI cs.CL
THRONE: An Object-based Hallucination Benchmark for the Free-form Generations of Large Vision-Language Models
University of Oxford（牛津大学）；AWS AI Labs（AWS AI实验室）
针对大型视觉语言模型自由生成中的“第一类幻觉”问题，提出基于对象的自动化评估框架THRONE，利用公开语言模型量化幻觉，并发现其与“第二类幻觉”负相关，同时提供数据增强基线以减少两类幻觉。
2025-04-03 cs.AI cs.CV cs.LG
Automatic Layer Selection for Hallucination Detection
University of Washington（华盛顿大学）
针对大语言模型中幻觉检测的层选择问题，提出无需训练的FEPoID准则，自动识别最优中间层，并结合截断策略提升检测性能。
2026-06-02 cs.AI cs.LG
LLM Lies: Hallucinations are not Bugs, but Features as Adversarial Examples
Peking University（北京大学）
本文揭示LLM幻觉可由随机无意义提示触发，证明其类似对抗样本，并形式化提出hallucination attack及防御策略。
2024-08-04 cs.AI cs.CL
Building Reliable Long-Form Generation via Hallucination Rejection Sampling
Georgia Institute of Technology（佐治亚理工学院）；University of California, Berkeley（加州大学伯克利分校）；University of Cambridge（剑桥大学）；DeepMind（深度思维）
提出分段幻觉拒绝采样框架SHARS，利用任意幻觉检测器在生成过程中拒绝并重采样幻觉片段，以缓解长文本生成中的幻觉累积问题，提升事实一致性。
2026-06-02 cs.AI cs.CL cs.LG
Adversarial Orthogonal Disentanglement for LVLM Hallucination Mitigation
Fudan University（复旦大学）；Tencent（腾讯）；Nanjing University（南京大学）；Southeast University（东南大学）；Great Bay University（大坝大学）；TeleAI, China Telecom（TeleAI，中国电信）
提出对抗正交解缠（AOD）框架，通过最小最大目标学习幻觉相关方向，并利用双前向对比解码策略，在不需额外训练的情况下缓解大型视觉语言模型（LVLM）的幻觉问题。
2026-05-25 cs.AI cs.CV
HIVE: Understanding Post-Hallucination Reasoning in Vision Language Models
Purdue University（普渡大学）；Rutgers University（罗格斯大学）；Meta AI；Kent State University（肯特州立大学）；Imperial College London（伦敦帝国学院）
研究视觉语言模型中幻觉后推理阶段，引入HIVE评估基础设施，通过九个任务和九个模型观察到模态依赖模式，发现幻觉线索能拓宽语义覆盖并重塑推理动态，强调理解此阶段对提升多模态推理系统可靠性和可解释性的重要性。
2026-07-09 cs.AI cs.CV
Mitigating hallucinations and omissions in LLMs for invertible problems: An application to hardware logic design automation
IBM Research（IBM研究院）
本文提出利用LLMs作为无损编码器和解码器处理可逆问题，以减少LLMs的幻觉和遗漏，应用于硬件逻辑设计自动化，提升设计效率并检测错误。
2026-04-16 cs.AI cs.AR cs.LG
Unified Triplet-Level Hallucination Evaluation for Large Vision-Language Models
The Hong Kong University of Science and Technology（香港科学与技术大学）
本文提出统一三元组级幻觉评估框架和Tri-HE基准，同时衡量大型视觉-语言模型的对象幻觉与关系幻觉，发现关系幻觉更严重，并设计免训练方法有效缓解幻觉。
2025-07-17 cs.AI cs.CL cs.CV
DASH: Detection and Assessment of Systematic Hallucinations of VLMs
Tübingen AI Center – University of Tübingen（蒂宾根人工智能中心——蒂宾根大学）
DASH提出一种自动化大规模流水线，在开放世界真实图像上检测视觉语言模型的系统性物体幻觉，并通过微调缓解该问题。
2025-03-30 cs.AI cs.CV cs.LG
Learning to Decode Against Compositional Hallucination in Video Multimodal Large Language Models
Sun Yat-sen University（中山大学）；Huaqiao University（华侨大学）；Shenzhen University（深圳大学）；Guangming Laboratory（光明实验室）；Shanghai Jiao Tong University（上海交通大学）
针对视频多模态大语言模型中的组合性幻觉问题，提出TriCD框架，通过对比解码和三路径校准机制提升模型在对抗幻觉时的准确率。
2026-01-31 cs.AI cs.CV
ChartHal: A Fine-grained Framework Evaluating Hallucination of Large Vision Language Models in Chart Understanding
Department of Computer Science and Technology, Tsinghua University（清华大学计算机科学与技术系）；State Key Laboratory of Cognitive Intelligence, iFLYTEK（认知智能国家重点实验室）
本文提出ChartHal基准，通过细粒度幻觉分类体系和1062个人工验证样本，系统评估大视觉语言模型在图表理解中的幻觉问题，并揭示现有顶尖模型准确率不足35%，亟需更稳健的缓解策略。
2026-11-10 cs.AI cs.CL cs.CV
SEASON: Mitigating Temporal Hallucination in Video Large Language Models via Self-Diagnostic Contrastive Decoding
Graduate Institute of Communication Engineering, National Taiwan University（国立台湾大学通信工程研究所）
SEASON通过自诊断对比解码方法，无需训练即可提升视频大语言模型在时间信息处理上的准确性与可靠性。
2025-12-04 cs.AI cs.CL cs.CV
Measuring the Impact of Lexical Training Data Coverage on Hallucination Detection in Large Language Models
Université de Montréal（蒙特利尔大学）
本研究探讨词汇训练数据覆盖对大型语言模型幻觉检测的影响，通过构建后缀数组和n-gram统计，发现结合出现特征与对数概率可提升检测效果。
2025-11-22 cs.AI cs.CL
Fighting Numerical Hallucinations via Data-centric Compilation for Online Financial QA
Shenzhen Technology University（深圳科技大学）；FiT, Tencent（腾讯金融科技部）；South China University of Technology（华南理工大学）；The Hong Kong University of Science and Technology（香港科学与技术大学）；Huazhong University of Science and Technology（华中科技大学）；McGill University（麦吉尔大学）
提出数据为中心推理编译器（DCRC），通过对抗数据构建、多阶段训练和编译执行推理流程，解决在线金融问答中检索增强生成面临的噪声敏感、计算脆弱和可审计性危机，实现可靠的数值推理。
2026-05-29 cs.AI cs.IR
When Looking Is Not Enough: Visual Attention Structure Reveals Hallucination in MLLMs
Thrust of Artificial Intelligence, HKUST (Guangzhou)（人工智能前沿 thrust，香港科技大学（广州））；Department of Computer Science and Engineering, HKUST（计算机科学与工程系，香港科技大学）
本文通过分析视觉注意的高频结构揭示大语言模型中的幻觉现象，提出LaSCD解码策略，有效减少幻觉并保持模型能力。
2026-05-12 cs.AI cs.CV
V-DPO: Mitigating Hallucination in Large Vision Language Models via Vision-Guided Direct Preference Optimization
National University of Singapore（新加坡国立大学）
针对LVLM幻觉问题，提出V-DPO方法，通过视觉引导的偏好优化减少对语言先验的过度依赖，增强视觉上下文学习，在多个基准上显著优于基线。
2024-11-05 cs.AI cs.CV
REFIND at SemEval-2025 Task 3: Retrieval-Augmented Factuality Hallucination Detection in Large Language Models
Pohang University of Science and Technology (POSTECH)（浦项科技大学）
REFIND 提出利用检索文档和上下文敏感度比率 CSR 来检测大语言模型输出中的幻觉片段，在九种语言上显著优于基线模型。
2025-04-08 cs.AI cs.CL
Hallucinations in Code Change to Natural Language Generation: Prevalence and Evaluation of Detection Metrics
School of Computing and Information Systems, The University of Melbourne（墨尔本大学计算与信息系统学院）
本文首次全面分析了代码变更到自然语言生成任务（提交信息和代码审查评论生成）中的幻觉问题，发现近期模型生成的代码审查和提交信息中幻觉比例分别约为50%和20%，并证明结合多种指标（尤其是模型置信度和特征归因）能有效提升自动检测性能。
2025-08-12 cs.AI cs.SE
LLM Ghostbusters: Surgical Package Hallucination Suppression via Adaptive Unlearning
University of Texas San Antonio（德克萨斯大学圣安东尼奥分校）；University of California San Diego（加州大学圣地亚哥分校）
本文提出自适应反学习框架，通过混合token级目标和自适应发现循环，有效抑制LLM幻觉，减少81%的包幻觉率，同时保持编码基准性能，验证其对特定分布的针对性效果。
2026-09-23 cs.AI cs.CL cs.CR
MedHalu: Hallucinations in Responses to Healthcare Queries by Large Language Models
MedHalu研究了LLM在医疗查询中生成幻觉的问题，提出MedHalu基准和MedHaluDetect框架，发现LLM在检测医学幻觉方面表现不佳，提出专家在环方法提升检测效果。
2025-11-22 cs.AI cs.CL
HALT: Hallucination Assessment via Log-probs as Time series
Georgia Institute of Technology（佐治亚理工学院）
HALT通过log-prob时间序列检测幻觉，比Lettuce更高效且兼容专有模型。
2026-09-17 cs.AI cs.CL
