语言大模型 / LLM

Lost in Diffusion: Uncovering Hallucination Patterns and Failure Modes in Diffusion Large Language Models

迷失在扩散中：揭示扩散大语言模型中的幻觉模式和失败模式

Zhengnan Guo, Fei Tan

机构 * East China Normal University（华东师范大学） ； Zhejiang University of Technology（浙江工业大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文通过对比研究揭示扩散大语言模型（dLLMs）的幻觉模式，发现其比自回归模型更易产生幻觉，并指出扩散过程特有的失败模式，如提前终止、去噪不完整和上下文入侵，强调了模型可靠性的问题。

Comments Accepted to ACL 2026 Findings

Revisiting Epistemic Markers in Confidence Estimation: Can Markers Accurately Reflect Large Language Models' Uncertainty?

重新审视置信度标记在置信度估计中的作用：标记能否准确反映大语言模型的不确定性？

Jiayu Liu, Qing Zong, Weiqi Wang, Yangqiu Song

机构 * Department of Computer Science and Engineering, HKUST（香港科技大学计算机科学与工程系） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 研究探讨了大语言模型中置信度标记是否能准确反映其不确定性，通过多数据集评估发现标记在同分布下表现稳定，但异分布下存在不一致，质疑了置信度标记的可靠性。

Comments ACL 2025 Main

Mechanistic Circuit-Based Knowledge Editing in Large Language Models

基于机制电路的知识编辑在大语言模型中

Tianyi Zhao, Yinhan He, Wendy Zheng, Chen Chen

机构 * University of Virginia（弗吉尼亚大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文提出MCircKE框架，通过识别因果电路实现精准的知识编辑，解决大语言模型在动态环境中更新知识时的推理缺口问题，提升多跳推理能力。

Distance Is All You Need: Radial Dispersion for Uncertainty Estimation in Large Language Models

距离就是一切：径向分散性用于大语言模型中的不确定性估计

Manh Nguyen, Sunil Gupta, Hung Le

机构 * Applied Artificial Intelligence Initiative, Deakin University, Australia（迪肯大学应用人工智能研究所） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 本文提出Radial Dispersion Score（RDS），一种无需训练的简单不确定性度量方法，通过测量嵌入空间中样本生成的径向分散性，有效检测大语言模型中的幻觉问题。

Do Audio-Visual Large Language Models Really See and Hear?

音频视觉大语言模型真的能看见和听见吗？

Ramaneswaran Selvakumar, Kaousheik Jayakumar, S Sakshi, Sreyan Ghosh, Ruohan Gao, Dinesh Manocha

机构 * University of Maryland, College Park（马里兰大学帕克分校） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 研究探讨了音频视觉大语言模型中音频与视觉特征的融合机制，发现当音频与视觉冲突时，最终文本生成中音频信息无法有效表露，揭示了多模态LLM在整合音频和视觉时的模态偏见。

Comments CVPR Findings

KEditVis: A Visual Analytics System for Knowledge Editing of Large Language Models

KEditVis：一种用于大型语言模型知识编辑的可视化分析系统

Zhenning Chen, Hanbei Zhan, Yanwei Huang, Xin Wu, Dazhen Deng, Di Weng, Yingcai Wu

机构 * Zhejiang University（浙江大学） ； State Key Lab of CAD&CG, Zhejiang University（浙江大学CAD&CG国家重点实验室） ； Hong Kong University of Science and Technology（香港科技大学） ； School of Software Engineering, South China University of Technology（华南理工大学软件学院） ； School of Software Technology, Zhejiang University（浙江大学软件学院） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本文提出KEditVis，通过交互式可视化帮助用户深入理解知识编辑，提升编辑效果并发现未来算法改进的洞察。

Comments Accepted by IEEE PacificVis 2026 (TVCG Journal Track)

GeoLAN: Geometric Learning of Latent Explanatory Directions in Large Language Models

GeoLAN：大型语言模型中潜在解释方向的几何学习

Tianyu Bell Pan, Damon L. Woodard

机构 * Department of Electrical and Computer Engineering（电气与计算机工程系） ； Florida Institute for National Security Applied Artificial Intelligence Group（佛罗里达国家安全应用人工智能小组） ； University of Florida（佛罗里达大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 GeoLAN通过将token表示视为几何轨迹，结合Kakeya猜想相关条件，提升大语言模型的几何指标和公平性，尤其在中等规模模型中表现显著。

HART: Data-Driven Hallucination Attribution and Evidence-Based Tracing for Large Language Models

HART: 基于数据的幻觉归因与证据导向追踪用于大语言模型

Shize Liang, Hongzhi Wang

机构 * Faculty of Computing, Harbin Institute of Technology（计算机学院，哈尔滨工业大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 HART通过结构化建模方法提升大语言模型幻觉归因与证据追踪的准确性与可解释性。

Query-Level Uncertainty in Large Language Models

查询级不确定性在大语言模型中

Lihu Chen, Gerard de Melo, Fabian M. Suchanek, Gaël Varoquaux

机构 * Imperial College London（伦敦帝国学院） ； Hasso Plattner Institute / University of Potsdam（霍普夫纳研究所/波茨坦大学） ； Telecom Paris, Institut Polytechnique de Paris（电信巴黎学院，巴黎理工学院） ； Soda, Inria Saclay（Soda，法国国家信息与自动化技术研究院萨克利实验室） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本研究提出了一种无需训练的内部置信度方法，用于检测大语言模型的知识边界，通过查询级不确定性提高回答质量并降低计算成本。

Comments ICLR 2026

Tracing Pharmacological Knowledge In Large Language Models

追踪大语言模型中的药理学知识

Basil Hasan Khwaja, Dylan Chen, Guntas Toor, Anastasiya Kuznetsova

机构 * School of Electrical and Computer Engineering（电气与计算机工程学院） ； Purdue University（普渡大学） ； Viterbi School of Engineering（维特比工程学院） ； University of Southern California（南加州大学） ； Stephen J. R. Smith Faculty of Engineering and Applied Science（工程与应用科学学院） ； Queen’s University（皇后大学） ； Department of Molecular and Cellular Biology（分子与细胞生物学系） ； Scripps Research（斯克里普斯研究学院） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本研究通过因果性和探测性方法揭示大语言模型中药物组语义的分布式表示机制，发现早期层和中间token对编码药理学知识起关键作用。

Comments Accepted, Learning Meaningful Representations of Life (LMRL) Workshop @ ICLR 2026

Do Large Language Models Grasp The Grammar? Evidence from Grammar-Book-Guided Probing in Luxembourgish

大型语言模型是否理解语法规则？来自卢森堡语语法书引导探测的证据

Lujun Li, Yewei Song, Lama Sleem, Yiqun Wang, Yangjie Xu, Cedric Lothritz, Niccolo Gentile, Radu State, Tegawende F. Bissyande, Jacques Klein

机构 * University of Luxembourg（卢森堡大学） ； Luxembourg Institute of Science and Technology（卢森堡科学与技术研究院） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本研究通过卢森堡语语法书引导探测，探讨大型语言模型对语法规则的理解，发现翻译性能与语法规则理解弱相关，大模型在语义上表现良好但句法和形态学能力较弱，推理能力有助于提升语法规则理解。

Comments This paper has been accepted for publication in the proceedings of the 15th biennial Language Resources and Evaluation Conference (LREC 2026)

Mask What Matters: Mitigating Object Hallucinations in Multimodal Large Language Models with Object-Aligned Visual Contrastive Decoding

关注关键要素：通过对象对齐的视觉对比解码缓解多模态大语言模型中的对象幻觉

Boqi Chen, Xudong Liu, Jianing Qiu

机构 * ETH Zurich（苏黎世联邦理工学院） ； Amazon（亚马逊） ； MBZUAI（穆罕默德·本·拉什德智能科学技术研究院） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文提出了一种通过对象对齐的视觉对比解码缓解多模态大语言模型中对象幻觉的方法，具有计算开销低且兼容性强的特点。

The Quantum Sieve Tracer: A Hybrid Framework for Layer-Wise Activation Tracing in Large Language Models

量子筛子追踪器：一种用于大语言模型分层激活追踪的混合框架

Jonathan Pan

机构 * Jonathan Pan 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 量子筛子追踪器通过混合量子-经典方法揭示大语言模型中分层激活机制的差异，发现不同模型层在事实回忆和干扰抑制中的不同作用。

Comments 4 pages, 4 figures

Evaluating and Steering Modality Preferences in Multimodal Large Language Model

评估和引导多模态大语言模型中的模态偏好

Yu Zhang, Jinlong Ma, Yongshuai Hou, Xuefeng Bai, Kehai Chen, Yang Xiang, Jun Yu, Min Zhang

机构 * Harbin Institute of Technology, Shenzhen, China（哈尔滨工业大学（深圳）） ； Peng Cheng Laboratory, Shenzhen, China（鹏城实验室） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文提出MC²基准测试，通过受控证据冲突场景评估和引导多模态大语言模型的模态偏好，揭示了其可通过指令引导和潜在表示控制，并展示了通过表示工程方法提升多模态任务性能的潜力。

Comments Modality Preference

WorldVQA: Measuring Atomic World Knowledge in Multimodal Large Language Models

WorldVQA：评估多模态大语言模型的原子视觉世界知识

Runjie Zhou, Youbo Shao, Haoyu Lu, Bowei Xing, Tongtong Bai, Yujie Chen, Jie Zhao, Lin Sui, Haotian Yao, Zijia Zhao, Hao Yang, Haoning Wu, Zaida Zhou, Jinguo Zhu, Zhiqi Huang, Yiping Bao, Yangyang Liu, Y. Charles, Xinyu Zhou

机构 * Moonshot AI 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 WorldVQA通过评估多模态大语言模型的原子视觉知识，建立衡量其事实性和百科全书广度的基准测试。

Measuring and Analyzing Intelligence via Contextual Uncertainty in Large Language Models using Information-Theoretic Metrics

通过信息论度量在大语言模型中通过上下文不确定性测量和分析智能

Jae Wan Shim

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本文提出通过熵衰减曲线和信息增益跨度分析大语言模型的内部动态，揭示模型规模与文本复杂性对认知档案的影响。

Learning to Decode Against Compositional Hallucination in Video Multimodal Large Language Models

在视频多模态大语言模型中学习对抗组合性幻觉

Wenbin Xing, Quanxing Zha, Lizheng Zu, Mengran Li, Ming Li, Junchi Yan

机构 * Sun Yat-sen University（中山大学） ； Huaqiao University（华侨大学） ； Shenzhen University（深圳大学） ； Guangming Laboratory（光明实验室） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 针对视频多模态大语言模型中的组合性幻觉问题，提出TriCD框架，通过对比解码和三路径校准机制提升模型在对抗幻觉时的准确率。

BACH-V: Bridging Abstract and Concrete Human-Values in Large Language Models

BACH-V: 联结抽象与具体的人类价值观在大语言模型中

Junyu Zhang, Yipeng Kang, Jiong Guo, Jiayu Zhan, Junqi Wang

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 BACH-V研究通过探测和引导方法揭示大语言模型中抽象与具体价值观的联结机制，发现其能稳定锚定抽象价值观以影响具体决策。

Comments 34 pagess, 16 figures, 6 tables, submitted to ACL 2026

Hallucination Detection and Mitigation in Large Language Models

大语言模型中的幻觉检测与缓解

Ahmad Pesaranghader, Erin Li

机构 * CIBC（加拿大帝国商业银行） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本文提出了一种系统化的框架，通过分层架构和闭环反馈机制，提升大语言模型在金融等高风险领域的可靠性，减少幻觉问题。

Expanding before Inferring: Enhancing Factuality in Large Language Models through Premature Layers Interpolation

在推断前扩展：通过提前层插值增强大语言模型的事实性

Dingwei Chen, Ziqiang Liu, Feiteng Fang, Chak Tou Leong, Shiwen Ni, Ahmadreza Argha, Hamid Alinejad-Rokny, Min Yang, Chengming Li

机构 * Sun Yat-Sen University（中山大学） ； Shenzhen MSU-BIT University（深圳MSU-BIT大学） ； The Hong Kong Polytechnic University（香港理工大学） ； UNSW, Sydney, NSW 2052, Australia（新南威尔士大学） ； Shenzhen Key Laboratory for High Performance Data Mining, Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（深圳高性能数据挖掘重点实验室，深圳先进技术研究院，中国科学院） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文提出PLI方法，通过提前层插值提升大语言模型的事实一致性，有效减少幻觉并优于现有方法。

MetagenBERT: a Transformer-based Architecture using Foundational genomic Large Language Models for novel Metagenome Representation

MetagenBERT: 一种基于Transformer的架构，利用基础基因大语言模型进行新颖的宏基因组表示

Gaspar Roy, Eugeni Belda, Baptiste Hennecart, Yann Chevaleyre, Edi Prifti, Jean-Daniel Zucker

机构 * IRD, Sorbonne University, UMMISCO（IRD、索邦大学、UMMISCO） ； Sorbonne University, INSERM, Nutriomics（索邦大学、国家卫生研究院、Nutriomics） ； LAMSADE, Dauphine University, PSL Research University（LAMSADE、达菲大学、PSL研究大学） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；large language model(title)；foundation model(abstract)；分类 cs.LG

AI总结 MetagenBERT通过端到端的DNA序列嵌入和聚类策略，无需注释即可实现宏基因组的高效表示，展示了在疾病预测中的优越性能和跨队列的泛化能力。

UCoder: Unsupervised Code Generation by Internal Probing of Large Language Models

UCoder: 通过大型语言模型的内部探测实现无监督代码生成

Jiajun Wu, Jian Yang, Wei Zhang, Lin Jing, Yuqing Ma, Ensheng Shi, Yuchi Ma, Zhoujun Li, Xianglong Liu

机构 * Beihang University（北航大学） ； Huawei（华为） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 UCoder通过内部探测大型语言模型实现无监督代码生成，利用自一致性机制和表示质量估计训练，减少对标记数据的依赖，提升资源受限场景下的代码生成能力。

Advancing Text Classification with Large Language Models and Neural Attention Mechanisms

基于大语言模型和神经注意力机制的文本分类进展

Ning Lyu, Yuxi Wang, Feng Chen, Qingyuan Zhang

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本研究提出基于大语言模型和神经注意力机制的文本分类方法，通过改进表示和聚合策略，提升分类性能并增强模型鲁棒性。

Knowledge-Augmented Large Language Model Agents for Explainable Financial Decision-Making

基于知识增强的大语言模型代理的可解释金融决策方法

Qingyuan Zhang, Yuxi Wang, Cancan Hua, Yulin Huang, Ning Lyu

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文提出基于知识增强的大语言模型代理，通过整合外部知识检索、语义表示和推理生成，提升金融决策的可解释性和准确性。

Democratic or Authoritarian? Probing a New Dimension of Political Biases in Large Language Models

民主或威权？探讨大型语言模型中政治偏见的新维度

David Guzman Piedrahita, Irene Strauss, Bernhard Schölkopf, Rada Mihalcea, Zhijing Jin

机构 * University of Zürich（苏黎世大学） ； ETH Zürich（苏黎世联邦理工学院） ； MPI for Intelligent Systems（智能系统研究所） ； University of Michigan（密歇根大学） ； University of Toronto（多伦多大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文探讨了大型语言模型在民主与威权政治偏见方面的表现，通过引入F-scale、FavScore和角色模型探测方法，揭示了模型在不同语言提示下对民主与威权倾向性的差异。

SoK: a Comprehensive Causality Analysis Framework for Large Language Model Security

SoK：面向大语言模型安全的综合因果分析框架

Wei Zhao, Zhe Li, Jun Sun

机构 * Singapore Management University（新加坡管理大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本文提出一个综合因果分析框架，用于研究大语言模型安全问题，通过系统分析因果因素提升模型安全性。

C$^2$DLM: Causal Concept-Guided Diffusion Large Language Models

C$^2$DLM: 基于因果概念的扩散大语言模型

Kairong Han, Nuanqiao Shan, Ziyu Zhao, Zijing Hu, Xinpeng Dong, Junjian Ye, Lujia Pan, Fei Wu, Kun Kuang

机构 * College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院） ； Noah’s Ark Lab, Huawei Technologies（华为技术有限公司诺亚实验室） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 C$^2$DLM通过引入因果概念引导机制，提升大语言模型在推理任务中的性能。

Dissecting the Ledger: Locating and Suppressing "Liar Circuits" in Financial Large Language Models

拆解账本：在金融大型语言模型中定位并抑制‘骗子电路’

Soham Mirajkar

机构 * Soham Mirajkar ( November 24, 2025 )（Soham Mirajkar） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本研究提出通过因果追溯在金融LLM中定位并抑制导致算术幻觉的'骗子电路'，通过实验验证了中间层和晚期层的双阶段机制，并展示了抑制特定层可显著降低幻觉输出的置信度。

Beyond Protein Language Models: An Agentic LLM Framework for Mechanistic Enzyme Design

超越蛋白质语言模型：一种用于机制酶设计的代理LLM框架

Bruno Jacob, Khushbu Agarwal, Marcel Baer, Peter Rice, Simone Raugei

机构 * Pacific Northwest National Laboratory（太平洋西北国家实验室） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 Genie-CAT通过整合文献推理、结构解析、静电势计算和机器学习预测，实现蛋白质设计中可解释的科学假设生成，提升计算发现效率。

Comments 10 pages, 4 figures

Fine-Grained Uncertainty Decomposition in Large Language Models: A Spectral Approach

Nassim Walha, Sebastian G. Gruber, Thomas Decker, Yinchong Yang, Alireza Javanmardi, Eyke Hüllermeier, Florian Buettner

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG