HICD: Hallucination-Inducing via Attention Dispersion for Contrastive Decoding to Mitigate Hallucinations in Large Language Models
Shanghai Advanced Research Institute, Chinese Academy of Sciences（上海先进研究院，中国科学院）；University of Chinese Academy of Sciences（中国科学院大学）
提出HICD方法，通过选择关键注意力头并分散其注意力诱导幻觉，与原始输出对比解码，以缓解大语言模型幻觉，提升上下文忠实性和事实性任务性能。
2025-05-23 cs.AI cs.CL
MACD: Model-Aware Contrastive Decoding via Counterfactual Data
University of Michigan, Ann Arbor, MI, USA（密歇根大学，安娜堡分校）；University of California San Diego, La Jolla, CA, USA（加州大学圣地亚哥分校）
提出MACD方法，利用视频语言模型自身反馈识别导致幻觉的目标区域，生成目标级反事实输入，结合对比解码减少幻觉，提升多模型在复杂场景下的准确性。
2026-06-05 cs.AI cs.CV cs.LG
MaskCD: Mitigating LVLM Hallucinations by Image Head Masked Contrastive Decoding
Tsinghua Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院，清华大学）
针对大视觉语言模型的幻觉问题，提出利用图像头掩码构建对比样本的MaskCD方法，在多个模型和基准上验证其可缓解幻觉且保留模型通用能力。
2025-10-03 cs.AI cs.CL cs.CV
Delve into Visual Contrastive Decoding for Hallucination Mitigation of Large Vision-Language Models
National Yang Ming Chiao Tung University（国立阳明交通大学）；Atmanity（Atmanity公司）
该研究针对大视觉语言模型的幻觉问题，深入探索多种视觉对比解码方法，分析不同对比样本的效果差异，提出一种简单有效的对比样本融合方法，经多基准实验验证可实用地缓解幻觉。
2024-12-09 cs.AI cs.CL cs.CV
Thinking by Subtraction: Confidence-Driven Contrastive Decoding for LLM Reasoning
Peking University, Beijing, China（北京大学）；University of Edinburgh, Edinburgh, UK（爱丁堡大学）
通过置信度驱动的对比解码方法提升大语言模型推理可靠性，减少输出长度并提高准确性。
2026-02-20 cs.AI cs.CL
Watermarking for Factuality: Guiding Vision-Language Models Toward Truth via Tri-layer Contrastive Decoding
CSE, Korea University（韩国大学计算机科学与工程系）；KT Corporation（KT公司）；Soongsil University（顺成大学）
提出无需训练的三层对比解码加水印方法，通过选择成熟层、业余层和枢轴层，减少视觉语言模型幻觉，在POPE、MME和AMBER基准上达到最先进性能。
2025-10-16 cs.AI cs.CV
Contrastive Decoding Mitigates Score Range Bias in LLM-as-a-Judge
Patronus AI
本文针对LLM作为评判者时的分数范围偏差问题，提出对比解码方法，通过提升与人类评判的Spearman相关性，平均提升11.7%。
2026-04-08 cs.AI cs.CL
CHASD: Language Increment-Calibrated Contrastive Decoding against Hallucination in LVLMs
Institute of Artificial Intelligence, Xiamen University（厦门大学人工智能学院）；Department of Artificial Intelligence, Xiamen University（厦门大学人工智能系）
提出CHASD框架，通过不确定性驱动的置信门控和注意力引导的局部扰动，在推理时按需校准对比解码，减少对象幻觉并提升效率。
2026-05-22 cs.AI cs.CV
APCD: Adaptive Path-Contrastive Decoding for Reliable Large Language Model Generation
本文提出了一种自适应路径对比解码方法，通过自适应探索和受控路径交互提高大型语言模型生成的可靠性，实验表明在保持解码效率的同时提升了事实准确性。
2026-10-08 cs.AI cs.CL
Active Layer-Contrastive Decoding Reduces Hallucination in Large Language Model Generation
Purdue University（普渡大学）；University of California, Davis（加州大学戴维斯分校）
提出主动层对比解码（ActLCD），通过强化学习策略在生成过程中动态决定何时应用对比层，在五个基准上超越现有方法，有效缓解大语言模型的长上下文幻觉问题。
2025-09-15 cs.AI cs.CL cs.LG
Attention-Guided Layer Selection for Contrastive Decoding in Large Language Models
Japan Advanced Institute of Science and Technology（日本先进科学技术学院）
研究大语言模型中对比解码的层选择问题，提出Attention-JSD等三种基于注意力引导的策略，实验表明这些策略在TruthfulQA上优于原始DoLa，在多答案指标上有显著提升，凸显注意力分布在解决事实性知识上的优势。
2026-07-28 cs.AI cs.CL
Language Models Can See Better: Visual Contrastive Decoding For LLM Multimodal Reasoning
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）；University of California, Santa Cruz（加州大学圣克鲁兹分校）
本文提出免训练的 MVCD 框架，通过视觉信号文本化与对比示例解码增强 LLM 的视觉感知和多模态推理，并在五个问答数据集、四个 LLM 上验证了准确率提升。
2025-02-17 cs.AI cs.CV
ConVis: Contrastive Decoding with Hallucination Visualization for Mitigating Hallucinations in Multimodal Large Language Models
Sogang University（西江大学）
为缓解多模态大语言模型幻觉问题，提出免训练对比解码方法ConVis，利用T2I模型重建图像并比较概率分布以惩罚幻觉生成，有效提升了模型可靠性。
2024-08-25 cs.AI cs.CV cs.LG
EpiCoDe: Boosting Model Performance Beyond Training with Extrapolation and Contrastive Decoding
Wangxuan Institute of Computer Technology, Peking University（北京大学王轩计算机技术研究所）；Research Institute of China Telecom（中国电信研究 institute）；School of Computer Science, Peking University（北京大学计算机科学学院）；Beijing Institute of Big Data Research（北京大数据研究院）；National Key Laboratory of General Artificial Intelligence, BIGAI（通用人工智能国家重点实验室，BIGAI）
本文提出 EpiCoDe 方法，在数据稀缺场景下无需额外训练，通过模型外推与对比解码提升 LLM 性能，并在多任务多模型实验中验证其显著且稳健的优势。
2025-06-04 cs.AI cs.CL
SDCD: Structure-Disrupted Contrastive Decoding for Mitigating Hallucinations in Large Vision-Language Models
University of California, Santa Barbara（加州大学圣巴巴拉分校）
SDCD通过结构破坏对比解码缓解大视觉-语言模型中的幻觉问题，有效抑制纹理驱动偏见，提升多模态能力。
2026-01-07 cs.AI cs.CV
VACoDe: Visual Augmented Contrastive Decoding
KAIST AI（韩国科学技术院人工智能学院）；Michigan State University（密歇根州立大学）
针对大视觉语言模型生成不准确的问题，提出VACoDe方法，通过softmax距离度量自适应选择最优图像增强方式进行对比解码，无需额外训练即可提升多类视觉-语言任务的输出质量，适配不同模型。
2024-07-26 cs.AI cs.CV
Enhancing Contextual Understanding in Large Language Models through Contrastive Decoding
School of Informatics, University of Edinburgh（爱丁堡大学信息学院）；Amazon（亚马逊）
本文提出一种在推理时结合对比解码与对抗性不相关段落负样本的方法，以增强大语言模型在开放域问答中的上下文锚定能力，实验证明其优于现有方法且无需额外训练。
2024-05-04 cs.AI cs.CL
CATCH: Complementary Adaptive Token-level Contrastive Decoding to Mitigate Hallucinations in LVLMs
Tsinghua University（清华大学）；Pengcheng Laboratory（鹏城实验室）；Carnegie Mellon University（卡内基梅隆大学）；University of California, Berkeley（加州大学伯克利分校）；The University of Texas at Dallas（德克萨斯大学达拉斯分校）；Chang’an University（长安大学）
本文提出CATCH方法，通过互补视觉解耦、非视觉筛选和自适应令牌级对比解码，缓解LVLM中因视觉-语言错位导致的幻觉问题，无需特定数据或额外训练即可泛化到新任务。
2024-11-19 cs.AI cs.CV
From Context-Aware to Conflict-Aware: Generalizing Contrastive Decoding for Knowledge Conflict in LLMs
Peking University（北京大学）；Alibaba Group（阿里巴巴集团）；The University of Hong Kong（香港大学）
针对大语言模型生成时外部上下文与参数先验之间的知识冲突，提出冲突感知范式，通过动态分配先验与上下文的权重，并设计自适应机制解决不同冲突状态下的不对称问题。
2026-06-09 cs.AI cs.CL
Contrastive Decoding for Synthetic Data Generation in Low-Resource Language Modeling
ETH Zürich（苏黎世联邦理工学院）；University of Copenhagen（哥本哈根大学）
本文提出利用对比解码生成合成语料，与原始数据混合训练，提升低资源语言建模及下游任务性能，尤其增强推理能力。
2025-10-09 cs.AI cs.CL cs.LG
Mitigating Hallucinations in Large Vision-Language Models (LVLMs) via Language-Contrastive Decoding (LCD)
Bar Ilan University（巴伊兰大学）
针对LVLMs的对象幻觉问题，本文提出语言对比解码（LCD）算法，依据LLM分布置信度调整输出，无需重训即可显著降低幻觉并提升描述质量。
2024-08-06 cs.AI cs.CL cs.CV
Octopus: Alleviating Hallucination via Dynamic Contrastive Decoding
Ningbo Institute, Northwestern Polytechnical University（西北工业大学宁波研究院）；School of Cybersecurity, Northwestern Polytechnical University（西北工业大学网络空间安全学院）；Swansea University（斯旺西大学）
针对大型视觉语言模型的幻觉问题，提出Octopus框架，通过自适应识别幻觉类型并构建动态对比解码工作流，有效缓解了各生成步骤中的混合幻觉挑战，在四个基准上优于现有方法。
2025-03-01 cs.AI cs.CV
PruneCD: Contrasting Pruned Self Model to Improve Decoding Factuality
Pohang University of Science and Technology (POSTECH)（浦项科技大学）
本文提出 PruneCD，通过层剪枝构建业余模型进行对比解码，替代 DoLa 的早退 logits 方法，以极小推理开销持续提升大语言模型解码的事实性。
2025-09-23 cs.AI cs.CL
SEASON: Mitigating Temporal Hallucination in Video Large Language Models via Self-Diagnostic Contrastive Decoding
Graduate Institute of Communication Engineering, National Taiwan University（国立台湾大学通信工程研究所）
SEASON通过自诊断对比解码方法，无需训练即可提升视频大语言模型在时间信息处理上的准确性与可靠性。
2025-12-04 cs.AI cs.CL cs.CV
Efficient Contrastive Decoding with Probabilistic Hallucination Detection - Mitigating Hallucinations in Large Vision Language Models -
Volkswagen AG（大众汽车集团）；Technical University Berlin（柏林工业大学）；University of Siegen（锡根大学）
针对大视觉语言模型（LVLMs）的视觉输入幻觉问题，提出无需额外训练的高效对比解码（ECD）方法，通过对比token概率与幻觉分数抑制幻觉，在基准性能和计算时间上优于现有方法。
2025-04-16 cs.AI cs.CL cs.CV
MAD: Modality-Adaptive Decoding for Mitigating Cross-Modal Hallucinations in Multimodal Large Language Models
Integrated Vision Language Lab, KAIST, South Korea（韩国科学技术院集成视觉语言实验室）
MAD通过自适应加权对比解码分支，有效减少多模态大语言模型中的跨模态幻觉问题。
2026-09-14 cs.AI
CCD: Mitigating Hallucinations in Radiology MLLMs via Clinical Contrastive Decoding
School of Computing Science, University of Glasgow（计算科学学院，格拉斯哥大学）
针对放射学多模态大语言模型的医学幻觉问题，提出无需训练和检索的临床对比解码（CCD）框架，通过双阶段对比机制整合专家模型信号，在MIMIC-CXR上使RRG模型RadGraph-F1提升高达17%。
2025-10-17 cs.AI cs.CL cs.CV
Contrastive Weak-to-strong Generalization
ustc（中国科学技术大学）；nus（新加坡国立大学）；zgc（中关村学院）；smu（新加坡管理学院）
研究针对弱到强泛化中弱模型输出噪声和偏差问题，利用隐式奖励与对比解码的联系，提出ConG框架，通过对比解码生成高质量样本，实现可靠能力转移等，经实证验证其有效性和通用性，推动了弱到强泛化及通向通用人工智能。
2026-07-29 cs.AI cs.CL
Mitigating Hallucinations in Large Vision-Language Models with Instruction Contrastive Decoding
Universität Hamburg（汉堡大学）；The University of Sydney（悉尼大学）
本文提出指令对比解码（ICD）方法，通过对比标准和指令扰动分布来减少大型视觉语言模型推理时的幻觉，显著缓解对象级和属性级幻觉并增强模型的通用感知与识别能力。
2024-06-05 cs.AI cs.CL cs.CV
Mitigating Object Hallucinations in Large Vision-Language Models through Visual Contrastive Decoding
DAMO Academy, Alibaba Group（阿里巴巴集团达摩院）；Nanyang Technological University（南洋理工大学）；Hupan Lab（湖畔实验室）
本文提出无需训练的视觉对比解码方法 VCD，通过对比原始与失真视觉输入的输出分布，减少统计偏差和单模态先验依赖，从而显著缓解 LVLMs 的物体幻觉问题，并在通用基准上表现优异。
2023-11-28 cs.AI cs.CL cs.CV
Delta -- Contrastive Decoding Mitigates Text Hallucinations in Large Language Models
National Taiwan University of Science and Technology（台湾科技大学）；Mindify AI；University of London（伦敦大学）
本文提出推理时方法 Delta，通过随机遮蔽提示并对比原始与遮蔽输入的输出分布来抑制 LLM 幻觉，在多个问答基准上显著提升可靠性。
2025-02-09 cs.AI cs.CL
BUZZY: Contrastive Scoring to Mitigate Text-Induced Bias in Multimodal Multiple-Choice QA
Korea University（高丽大学）；Konkuk University（建国大学）；Myongji University（明知大学）；AIGEN Sciences
本文提出SCICON方法，通过对比文本和图像信息，减少选择偏差，提升科学图表多选问答的准确性。
2026-09-07 cs.AI
Steering Multimodal Large Language Models Decoding for Context-Aware Safety
University of Notre Dame（notre dame 大学）；University of Washington（华盛顿大学）；Johns Hopkins University（约翰霍普金斯大学）；Georgia Institute of Technology（佐治亚理工学院）
针对多模态大语言模型安全对齐的平衡难题，提出SafeCoDe解码框架，通过两阶段机制优化上下文敏感的弃权行为，在多基准实验中有效提升安全性能且保留模型有用性。
2026-08-31 cs.AI cs.CL
$\mathbb{USCD}$: Improving Code Generation of LLMs by Uncertainty-Aware Selective Contrastive Decoding
Wuhan University（武汉大学）；The University of Sydney（悉尼大学）；Sun Yat-sen University（中山大学）；Nanyang Technology University（南洋理工大学）
本文提出仅推理、即插即用的 USCD 机制，利用预测不确定性选择性抵消 lame prompt 产生的输出噪声，在多个代码 LLM 和基准上平均提升 pass@1 达16.59%。
2024-09-09 cs.AI cs.SE
Do We Really Need External Tools to Mitigate Hallucinations? SIRA: Shared-Prefix Internal Reconstruction of Attribution
Tsinghua University（清华大学）；The University of Sydney（悉尼大学）；Stanford University（斯坦福大学）；Baichuan AI（百川AI）
SIRA通过内部构建对比参考减少视觉语言模型的幻觉，无需外部工具或额外计算，保持描述覆盖并降低开销。
2026-05-14 cs.AI cs.CL cs.CV
Mathematical Analysis of Hallucination Dynamics in Large Language Models: Uncertainty Quantification, Advanced Decoding, and Principled Mitigation
Catholic University of America（美国天主教大学）
针对大型语言模型（LLMs）的幻觉问题，本研究提出基于数学的统一框架，结合多学科方法分析错误复合机制、提出改进指标并开发多类缓解策略，连接多领域进展以提升LLMs的安全性与可靠性。
2025-11-19 cs.AI cs.CL
ClearSight: Visual Signal Enhancement for Object Hallucination Mitigation in Multimodal Large language Models
University of Science and Technology of China（中国科学技术大学）
针对多模态大语言模型对象幻觉问题，提出即插即用的视觉放大融合技术，增强中间层视觉信号关注，减少幻觉且不降低推理速度。
2025-05-27 cs.AI cs.CV
Anti-LM Decoding for Zero-shot In-context Machine Translation
Johns Hopkins University（约翰斯·霍普金斯大学）
针对零样本上下文机器翻译中 LLM 校准不足的问题，提出带衰减因子的 Anti-Language Model 对比解码目标，并在多种模型、语言方向和解码方式下取得最高 20 BLEU 的提升。
2024-04-02 cs.AI cs.CL
Self-Aug: Query and Entropy Adaptive Decoding for Large Vision-Language Models
Arizona State University（亚利桑那州立大学）；Friedrich-Alexander-Universität Erlangen-Nürnberg（埃尔兰根-纽伦堡弗里德里希-亚历山大大学）
本研究提出Self-Aug，一种无需训练的解码策略，通过自增强提示和自适应阈值算法提升大视觉-语言模型的事实一致性。
2026-03-03 cs.AI cs.CV
Mitigating Context-Memory Conflicts in LLMs through Dynamic Cognitive Reconciliation Decoding
Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））；Beijing Academy of Artificial Intelligence（北京人工智能研究院）；Nanyang Technological University（南洋理工大学）
本文提出动态认知协调解码方法，通过分析注意力图预测潜在冲突并选择解码路径，提升LLM在处理上下文内存冲突时的准确性和效率，同时构建ConflictKG基准测试集验证效果。
2026-05-12 cs.AI cs.CL
Expediting and Elevating Large Language Model Reasoning via Hidden Chain-of-Thought Decoding
TAL Education Group（好未来教育集团）；Jinan University（暨南大学）
针对大语言模型思维链提示推理延迟高的问题，提出基于语义对齐的隐藏思维链解码方法，通过两阶段训练压缩思维链表示，在三类任务上实现至少1.5倍解码加速且性能相当或更优。
2024-09-13 cs.AI cs.CL
Through the Magnifying Glass: Adaptive Perception Magnification for Hallucination-Free VLM Decoding
School of Computer Science, The University of Sydney, Australia（澳大利亚悉尼大学计算机科学学院）
本文提出感知放大器PM，通过迭代隔离相关视觉标记并放大相应区域，提升VLM对视觉细节的 scrutiny，从而减少幻觉并增强语言生成与推理能力。
2026-04-09 cs.AI cs.CV
Attention-space Contrastive Guidance for Efficient Hallucination Mitigation in LVLMs
Seoul National University（首尔国立大学）
本文提出Attention-space Contrastive Guidance方法，通过对比引导生成更视觉一致且语义忠实的文本，实验表明在CHAIR和POPE数据集上提升了忠实度并降低了延迟。
2026-04-19 cs.AI cs.CV cs.LG
SyRuP: Enhancing System-Prompt Following via Reward-Guided Prediction in LLM Decoding
Yonsei University（延世大学）
研究如何增强大语言模型对系统提示的遵循，提出SyRuP框架，通过训练交叉注意力奖励头产生令牌级遵循分数，推理时结合多种信号对候选重新排序，实验表明该方法能有效提升系统提示遵循度且开销适度。
2026-09-01 cs.AI cs.CL
ProCA: Progressive Contrastive Alignment for Robust EEG Visual Decoding
Tsinghua University（清华大学）；School of Life Sciences, Tsinghua University（清华大学生命科学学院）
针对EEG视觉解码中固定锚点语义易失配的问题，提出ProCA框架，通过渐进式对比对齐与结构一致插值，在多EEG设置中实现显著性能提升。
2026-09-07 cs.AI
Recovering Agentic Sovereignty: Mitigating the Consensus Paradox via Contrastive Epistemic Decoding
University of Waterloo（滑铁卢大学）
针对LLM易受群体共识影响的谄媚问题，提出对比认知解码（CED）零样本干预，通过双前向传播抑制有毒共识，在多个基准上显著提升性能并恢复智能体主权。
2026-09-23 cs.AI
Mixture of Decoding: An Attention-Inspired Adaptive Decoding Strategy to Mitigate Hallucinations in Large Vision-Language Models
New Laboratory of Pattern Recognition (NLPR), Institute of Automation, Chinese Academy of Sciences (CASIA)（模式识别新技术实验室，自动化研究所，中国科学院）；School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院）；Kuaishou Technology（快手科技）；Nanjing University（南京大学）
本文提出 Mixture of Decoding（MoD），通过比较原始与被注意图像 token 的输出一致性，自适应采用互补或对比解码策略，从而在多个基准上有效缓解 LVLMs 幻觉。
2025-06-10 cs.AI cs.CL cs.CV
CARE: Decoding Time Safety Alignment via Rollback and Introspection Intervention
Alibaba Group（阿里巴巴集团）；The Chinese University of Hong Kong（香港中文大学）
提出CARE框架，通过守卫模型监控、回滚机制和内省干预，在解码时实现安全对齐，兼顾安全、质量与效率。
2025-09-01 cs.AI cs.CL cs.LG
Jakiro: Boosting Speculative Decoding with Decoupled Multi-Head via MoE
Advanced Micro Devices, Inc.（超威半导体公司）；Institute of Artificial Intelligence and Robotics, Xi'an Jiaotong University（西安交通大学人工智能与机器人研究所）；University of HongKong（香港大学）
Jakiro利用MoE解耦候选生成提升多样性，结合自回归与并行混合推理及对比机制，显著提高投机解码准确性与加速比，达到新SOTA。
2025-02-10 cs.AI cs.CL cs.LG
Spatial-Functional awareness Transformer-based graph archetype contrastive learning for Decoding Visual Neural Representations from EEG
Hybrid Intelligence Lab（混合智能实验室）；Durham University（杜伦大学）
提出SFTG框架，结合EEG图Transformer与图原型对比学习，在Things-EEG数据集上显著提升视觉解码性能，优于现有最先进方法。
2025-10-09 cs.AI cs.LG
Neural Decoding of Overt Speech from ECoG Using Vision Transformers and Contrastive Representation Learning
Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；Inserm（法国国家健康与医学研究院）；Zhejiang University（浙江大学）；CEA（法国原子能和替代能源委员会）；CHU Grenoble Alpes（格勒诺布尔阿尔卑斯大学中心医院）
本文提出基于视觉变换器和对比学习的ECoG信号语音解码方法，通过编码器-解码器架构实现流式语音重建，首次在完全植入式皮层记录系统中展示语音解码的可行性。
2025-12-22 cs.AI
Style2Code: A Style-Controllable Code Generation Framework with Dual-Modal Contrastive Representation Learning
ITMO University（ITMO大学）；Saint Petersburg University（圣彼得堡大学）
Style2Code通过双模态对比学习和条件解码实现风格可控的代码生成，提升风格控制的同时保持代码正确性。
2026-01-24 cs.AI
Contrastive Decoding: Open-ended Text Generation as Optimization
Stanford University（斯坦福大学）；University of Washington（华盛顿大学）；Carnegie Mellon University（卡内基梅隆大学）；Johns Hopkins University（约翰斯·霍普金斯大学）；FAIR（Meta人工智能研究院）
本文提出对比解码CD，通过在合理性约束下优化专家大模型与业余小模型的似然差，实现无需训练的高质量开放式文本生成，并显著优于现有解码方法。
2023-07-10 cs.AI cs.CL cs.LG
Temporal Contrastive Decoding: A Training-Free Method for Large Audio-Language Models
Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；Beijing Jiaotong University（北京交通大学）
本文提出时间对比解码方法，通过对比原始和模糊的输入路径来减少时间平滑偏差，提升音频基础输出的精确性。
2026-04-16 cs.AI cs.SD
