Leveraging NTPs for Efficient Hallucination Detection in VLMs
Department of Data and Decision Science, Technion - Israel Institute of Technology(数据与决策科学系,技术学院-以色列理工学院);Faculty of Computer and Information Science, Ben-Gurion University of the Negev(计算机与信息科学系,贝内-约尔根大学)
针对VLM幻觉检测现有方法计算成本高、延迟大的问题,本文提出基于NTP信号训练轻量ML模型的实时检测方法,通过构建标注数据集验证其可达到与强VLM相当的检测性能,融合多类信号还可进一步提升效果。
2025-11-14 cs.CL cs.CV cs.LG
Single-Pass Uncertainty Heads for Claim-Level Hallucination Detection in Persian Medical Language Models
University of Isfahan(伊斯法罕大学);University of Tehran(德黑兰大学);University of Windsor(温莎大学);University of Texas at Dallas(德克萨斯大学达拉斯分校)
本研究将LUH框架适配至波斯语医学模型,构建声明级数据集并训练轻量级头,实现单次前向的幻觉检测,PR-AUC达随机基线2.3倍以上。
2026-10-09 cs.CL
Efficient Hallucination Detection for LLMs Using Uncertainty-Aware Attention Heads
Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)(莫扎德人工智能大学);ETH Zurich(苏黎世联邦理工学院);Independent Researcher(独立研究者);Applied AI Institute(应用人工智能研究所)
提出RAUQ框架,利用不确定性感知注意力头与令牌级置信度,通过单次前向传递实现无监督、高效的序列级幻觉检测,在12个数据集上优于现有方法且额外计算少于1%。
2026-06-18 cs.CL
Max-pooling Network Revisited: Analyzing the Role of Semantic Probability in Multiple Instance Learning for Hallucination Detection
Department of Computer Science, The University of Tokyo(东京大学计算机科学系)
本文通过分析HaMI在决策边界的理论,提出基于最大池化和轻量级MLP的高效方法,提升幻觉检测效率并保持性能。
2026-09-29 cs.CL cs.LG
Gray-Box Hallucination Detection in LLMs with Token Identities
Technion(以色列理工学院)
本文提出GURI检测器,结合候选token概率与token身份,在灰盒设置下提升了大语言模型幻觉检测的ROC-AUC,跨模型与跨数据集迁移性能优异。
2026-10-15 cs.CL
Steer LLM Latents for Hallucination Detection
Zhejiang University(浙江大学)
本文提出真值分离向量(TSV),通过引导LLM潜在空间增强真实与幻觉输出的分离,实现高效幻觉检测,无需修改模型参数,在少量标注数据下达到最优性能。
2025-05-22 cs.AI cs.CL cs.LG
Learned Hallucination Detection in Black-Box LLMs using Token-level Entropy Production Rate
Artefact Research Center(艺术研究中心)
本文提出一种基于令牌级熵产率的学习方法,用于在黑盒LLM中高效检测幻觉,通过单次生成过程提升问答系统响应的可信度。
2026-01-20 cs.AI cs.CL
DRIFT: Detecting Representational Inconsistencies for Factual Truthfulness
University of Maryland, College Park, MD, USA(马里兰大学);University of Chicago, Chicago, IL, USA(芝加哥大学);University of Florida, Gainesville, FL, USA(佛罗里达大学)
DRIFT通过分析LLM中间层的置信度信号,提出轻量级探针和路由器,实现高效事实真实性检测,提升多个基准测试的AUROC性能。
2026-01-29 cs.CL
AutoRAG-LoRA: Hallucination-Triggered Knowledge Retuning via Lightweight Adapters
BITS Pilani(比斯·皮兰大学);University of Adelaide(阿德莱德大学)
AutoRAG-LoRA框架通过轻量级LoRA适配器、KL正则化训练与幻觉检测反馈循环,有效减少大模型事实漂移并保持模块化与效率。
2025-07-11 cs.AI cs.CL
Uncertainty Quantification for Large Language Diffusion Models
MBZUAI;The University of Melbourne(墨尔本大学)
本文提出了一种轻量级的不确定性信号,通过迭代去噪过程和中间生成来提升LLDMs的不确定性量化,实验显示其在成本与性能之间取得良好平衡。
2026-11-18 cs.CL
Understanding and Detecting Hallucinations in Neural Machine Translation via Model Introspection
University of Maryland(马里兰大学)
神经序列生成模型被称为“幻觉”,通过产生与源文本无关的输出。这些幻觉有潜在的危害,但目前还不清楚它们是在什么情况下出现的,以及如何减轻它们的影响。在这项工作中,我们首先通过分析对比性幻觉与通过源扰动生成的非幻觉输出中的相对令牌贡献来识别幻觉的内部模型症状。然后,我们证明这些症状是自然幻觉的可靠指标,通过使用它们来设计一个轻量级的幻觉检测器,该检测器的性能优于无模型基线和基于质量估计的强分类器或手动注释的英-中和德-英翻译测试床上的大型预训练模型。
2023-02-25 cs.CL
Tool Receipts, Not Zero-Knowledge Proofs: Practical Hallucination Detection for AI Agents
NabaOS 通过 epistemic 分类和 receipts 验证,实现交互式 AI agent 幻觉检测的高效高精度验证方法
2026-03-09 cs.AI cs.CL cs.CR
How Far Can You Get Without a GPU? A Systematic Benchmark of Lightweight Hallucination Detection Across Question Answering, Dialogue, and Summarisation
Independent Researcher(独立研究者)
系统评估五种轻量级、CPU可运行的幻觉检测方法在HaluEval基准上的表现,发现性能高度依赖任务,在摘要任务上接近随机,为资源受限场景提供方法选择指导。
2026-10-05 cs.AI cs.CL
Towards Lightweight Reliability: Using Soft Prompts for Hallucination Mitigation in Large Language Models
The University of Texas at Dallas(德克萨斯大学达拉斯分校);National Institute of Standards and Technology(国家标准与技术研究院)
提出一种参数高效的软提示方法RCSP,通过对比学习、课程学习和KL正则化平衡事实回忆、幻觉抑制和弃权,在多个QA数据集上优于基线。
2026-08-20 cs.CL cs.LG
Bi'an: A Bilingual Benchmark and Model for Hallucination Detection in Retrieval-Augmented Generation
Ant Group(蚂蚁集团)
针对RAG幻觉检测中缺乏双语基准和领域优化评判模型的问题,提出Bi'an框架,含双语数据集和轻量级评判模型,14B模型性能超越更大规模基线并媲美闭源模型。
2025-02-26 cs.CL
A novel hallucination classification framework
Instituto Superior Técnico, Universidade de Lisboa(里斯本大学技术学院);Molde University College(莫尔德大学学院)
本文提出一种基于分类法和受控复现的幻觉自动检测框架,通过嵌入与无监督学习证明简单分类算法可有效区分LLM幻觉与正确响应。
2025-10-06 cs.AI cs.CL
Halo: Estimation and Reduction of Hallucinations in Open-Source Weak Large Language Models
University of Pittsburgh(匹兹堡大学);TikTok Inc.(字节跳动TikTok公司)
本文针对开源弱大型语言模型(如BLOOM 7B)的幻觉问题,提出HaloCheck框架量化幻觉严重程度,并通过知识注入和师生方法减少幻觉,实验证明其有效性。
2023-09-13 cs.AI cs.CL
Neural Probe-Based Hallucination Detection for Large Language Models
Faculty of Computing, Harbin Institute of Technology(计算机学院,哈尔滨工业大学)
本文提出基于神经网络的token级幻觉检测框架,通过冻结语言模型参数并使用MLP探针进行非线性建模,结合多目标损失函数和贝叶斯优化,实现对LLMs幻觉内容的高效检测。
2025-12-24 cs.AI cs.CL
RAGognizer: Hallucination-Aware Fine-Tuning via Detection Head Integration
Computer Science Department(计算机科学系)
RAGognizer通过整合轻量级检测头,实现hallucination-aware微调,提升内部状态分离性并减少生成hallucination。
2026-04-17 cs.CL cs.LG
The System Hallucination Scale (SHS): A Human-Centered Instrument for Assessing Perceived Reliability of Large Language Models
Machine Learning and Information Science Group, Medical University of Graz(格拉茨医科大学机器学习与信息科学组);Human Machine Mind Cooperation, Graz, Austria(格拉茨人类机智合作中心);MIDATA Cooperative, Zurich, Switzerland(苏黎世MIDATA合作组织);Human-Centered AI Lab, BOKU University Vienna(维也纳BOKU大学人本AI实验室)
SHS是一种以人类为中心的评估工具,用于评估大语言模型中的幻觉相关行为,通过用户视角提供快速且可解释的评估方法。
2026-10-30 cs.AI cs.CL
Luna: An Evaluation Foundation Model to Catch Language Model Hallucinations with High Accuracy and Low Cost
Galileo Technologies Inc.(伽利略科技公司)
提出Luna,一个基于DeBERTa-large微调的轻量级幻觉检测模型,在RAG系统中以低成本和低延迟优于GPT-3.5及商业框架,适用于工业级LLM应用。
2024-06-05 cs.AI cs.CL
CutPaste&Find: Efficient Multimodal Hallucination Detector with Visual-aid Knowledge Base
Nanyang Technological University, Singapore(南洋理工大学);National University of Singapore, Singapore(国立新加坡大学)
针对LVLM物体幻觉检测依赖昂贵API和迭代验证的问题,提出无需训练的轻量框架CutPaste&Find,利用视觉辅助知识库和缩放因子高效验证,在POPE和R-Bench上达到竞争性能且成本更低。
2025-08-05 cs.CL cs.CV
SEVADE: Self-Evolving Multi-Agent Analysis with Decoupled Evaluation for Hallucination-Resistant Irony Detection
SEVADE通过自演化多智能体分析框架,结合解耦评估机制,提升抗幻觉讽刺检测的准确率和宏F1分数。
2026-03-04 cs.CL cs.MA
Hallucination Detection and Evaluation of Large Language Model
Department of Electrical and Computer Engineering, University of California, Los Angeles(加州大学洛杉矶分校电气与计算机工程系)
本文提出HHEM模型,通过轻量级分类框架有效检测大语言模型幻觉,提升效率并保持高准确率,通过对比分析不同模型的检测效果,发现HHEM在时间与准确性上表现优异,但总结任务中存在局部幻觉问题,引入分段检索并分析模型规模与幻觉的关系。
2026-04-09 cs.CL cs.IR
A Cause-Effect Look at Alleviating Hallucination of Knowledge-grounded Dialogue Generation
Institute of Education(教育学院);BNRist;KIRC, Institute for Artificial Intelligence(KIRC人工智能研究所);Tsinghua University(清华大学);Renmin University(人民大学)
本文用反事实推理分析知识 grounded 对话中知识噪声导致幻觉的因果机制,并提出利用对话—知识交互的轻量缓解方法,在不影响对话性能且适配多模型的前提下减少幻觉。
2024-04-04 cs.AI cs.CL
Detecting Hallucinations in SpeechLLMs at Inference Time Using Attention Maps
University of Edinburgh(爱丁堡大学);Amazon AGI(亚马逊人工智慧实验室)
本文提出四种基于注意力的指标,用于检测语音大语言模型中的幻觉,通过轻量级逻辑回归分类器实现高效推理检测,在多个任务中优于基线方法,展示了注意力模式在检测幻觉中的价值。
2026-04-21 cs.AI cs.CL cs.LG
Sanity Checks for Long-Form Hallucination Detection
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);The University of Texas at Austin(德克萨斯大学奥斯汀分校);University of British Columbia(不列颠哥伦比亚大学)
本文提出一种控制不变性方法,通过强制和移除测试区分推理本身与最终答案的表面关联,展示轻量级评分器TRACT在未扰动轨迹上的有效性。
2026-05-08 cs.AI cs.CL
D-Score: A Spectral Hidden-State Signal for Hallucination Detection in Large Language Models
Department of Computer Science and Engineering, University of Bologna(博洛尼亚大学计算机科学与工程系)
研究大语言模型幻觉检测,提出基于隐藏激活几何结构的D分数,通过单次前向传播计算,用作幻觉分数。经实验验证,该分数是强大的隐藏状态信号,检测时无需外部验证器等,为幻觉检测提供新方法。
2026-07-28 cs.AI cs.CL
NoVo: Norm Voting off Hallucinations with Attention Heads in Large Language Models
针对大语言模型幻觉问题,提出轻量级NoVo方法,通过仅需30个样本的推理算法选事实相关注意力头范数进行投票,在TruthfulQA MC1上超现有方法至少19个准确率点,泛化性优异且助力微调与对抗防御。
2024-10-29 cs.AI cs.CL
Toward Faithful Retrieval-Augmented Generation with Sparse Autoencoders
Department of Computer Science University of Virginia(计算机科学系弗吉尼亚大学)
本研究提出RAGLens,通过稀疏自编码器解构LLM内部激活,有效检测RAG生成中的不忠实输出,并提供可解释的决策理由。
2026-02-11 cs.AI cs.CL
A Lightweight Multi-Expert Generative Language Model System for Engineering Information and Knowledge Extraction
McGill University, Montreal, QC, Canada(麦吉尔大学)
提出轻量级图架构 Small Language Graph (SLG),通过节点小型专家模型实现特定文本微调,在 Exact Match 上达传统方法3倍且微调快1.7倍,助力中小企业低成本应用生成式AI。
2025-05-27 cs.AI cs.CE cs.CL
Multi-Stage Verification-Centric Framework for Mitigating Hallucination in Multi-Modal RAG
The University of New South Wales(新南威尔士大学)
本文提出了一种多阶段验证导向框架,通过优先考虑事实准确性和真实性来缓解多模态RAG中的幻觉问题,并在KDD Cup 2025中取得第三名。
2026-01-20 cs.AI cs.CL cs.IR
Thermodynamic Signatures of Reasoning: Free-Energy and Spectral-Form-Factor Diagnostics for Hallucination Detection in Large Language Models
Talan Research & Innovation Center(Talan研究与创新中心)
提出自由能签名(Fes)作为谱描述符,将注意力拉普拉斯视为哈密顿量并提取热力学势和随机矩阵理论谱形因子,用于检测LLM幻觉,无需训练即可实现高AUROC。
2026-06-19 cs.CL cs.LG
Data-efficient Meta-models for Evaluation of Context-based Questions and Answers in LLMs
Sber AI Lab(Sber AI实验室);Moscow Institute of Physics and Technology(莫斯科物理技术学院)
针对LLM幻觉检测中数据标注成本高的瓶颈,本文提出结合高效分类与降维技术的方法,仅需250个训练样本即可在RAG基准上达到与专有LLM基线相当的性能,为标注受限场景提供了轻量级解决方案。
2025-05-29 cs.CL
Reducing Hallucinations in Complex Question Answering using Simple Graph-based Retrieval-Augmented Generation (long version)
National Innovation Centre for Data(数据创新研究中心)
本研究提出一种轻量级图结构支持的检索增强生成系统,通过结合向量搜索和图查询工具,在复杂问答任务中将幻觉答案数量减半,并显著提升事实正确性的精确率和召回率。
2026-07-23 cs.AI cs.CL
LitCab: Lightweight Language Model Calibration over Short- and Long-form Responses
University of Michigan(密歇根大学);Computer Science and Engineering(计算机科学与工程学院)
LitCab通过单一线性层预测偏置项并添加到输出logits,仅增加不到2%参数即可显著提升语言模型校准,在CaT基准上平均ECE降低30%。
2024-03-13 cs.CL
Prompt-Response Semantic Divergence Metrics for Faithfulness Hallucination and Misalignment Detection in Large Language Models
Fidelity Investments(fidelity投资公司)
本文提出轻量级框架SDM,通过联合聚类与信息论指标测量提示与响应间的语义分歧,以检测大语言模型中的忠实性幻觉与不对齐问题,并构建诊断框架语义盒对响应类型进行分类。
2025-08-13 cs.AI cs.CL cs.LG
Towards Lighter and Robust Evaluation for Retrieval Augmented Generation
Paris-Saclay University(巴黎萨克雷大学);BNP Paribas CIB(法国巴黎银行企业与投资银行);AgroParisTech(巴黎高科农业学院)
针对RAG评估依赖昂贵商业大模型且不透明的问题,提出用小型量化开源大模型构建轻量可解释的连续评分指标,还开发了替代人类判断相关性的新AUC指标。
2025-03-20 cs.AI cs.CL
Walk&Retrieve: Simple Yet Effective Zero-shot Retrieval-Augmented Generation via Knowledge Graph Walks
University of Mannheim(曼海姆大学)
提出Walk&Retrieve框架,通过基于知识图谱游走的图遍历和知识语言化生成语料库,实现无需微调的零样本检索增强生成,在准确性、降低幻觉及可扩展性上表现优异。
2025-05-28 cs.CL cs.IR