语言大模型 / LLM

Mechanistic Indicators of Understanding in Large Language Models

大语言模型中理解机制的指示器

Pierre Beckmann, Matthieu Queloz

机构 * École Polytechnique Fédérale de Lausanne (EPFL)（联邦理工学院） ； Idiap Research Institute（Idiap研究所） ； University of Bern, Department of Philosophy（伯尔尼大学哲学系） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出一个分层框架，探讨大语言模型中理解的三个层次，通过机制可解释性揭示AI理解的机制与人类认知的异同。

Comments 38 pages

Causal Decoding for Hallucination-Resistant Multimodal Large Language Models

因果解码用于抗幻觉的多模态大语言模型

Shiwei Tan, Hengyi Wang, Weiyi Qin, Qi Xu, Zhigang Hua, Hao Wang

机构 * Rutgers University（新泽西罗格斯大学） ； Meta Ranking AI（Meta 排名人工智能） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出因果解码框架，通过针对性干预减少多模态大语言模型中的物体幻觉，提升响应的准确性和忠实度。

Comments Published in Transactions on Machine Learning Research (TMLR), 2026

SELAUR: Self Evolving LLM Agent via Uncertainty-aware Rewards

通过不确定性感知奖励实现的自进化大语言模型代理

Dengjia Zhang, Xiaoou Liu, Lu Cheng, Yaqing Wang, Kenton Murray, Hua Wei

机构 * Johns Hopkins University（约翰霍普金斯大学） ； Arizona State University（亚利桑那州立大学） ； University of Illinois Chicago（伊利诺伊大学芝加哥分校） ； Purdue University（普渡大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 SELAUR通过将不确定性直接融入奖励设计，提升大语言模型在多步决策中的探索效率和学习稳定性。

Comments Accepted by PAKDD'26

LLM2CLIP: Powerful Language Model Unlocks Richer Cross-Modality Representation

LLM2CLIP: 强大语言模型解锁更丰富的跨模态表示

Weiquan Huang, Aoqi Wu, Yifan Yang, Xufang Luo, Yuqing Yang, Usman Naseem, Chunyu Wang, Chunyu Wang, Qi Dai, Xiyang Dai, Dongdong Chen, Chong Luo, Lili Qiu, Liang Hu

专题命中 知识编辑与模型理解 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.CL

AI总结 LLM2CLIP通过将强大语言模型与CLIP结合，提升跨模态表示能力，实现多种下游任务的性能改进。

Journal ref AAAI 2026

NoLan: Mitigating Object Hallucinations in Large Vision-Language Models via Dynamic Suppression of Language Priors

NoLan: 通过动态抑制语言先验来缓解大视觉-语言模型中的对象幻觉

Lingfeng Ren, Weihao Yu, Runpeng Yu, Xinchao Wang

机构 * National University of Singapore, Singapore（新加坡国立大学） ； Peking University Shenzhen Graduate School, China（北京大学深圳研究生院） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 NoLan通过动态抑制语言先验缓解大视觉-语言模型中的对象幻觉问题，有效提升模型准确性。

Comments Code: https://github.com/lingfengren/NoLan

Dynamic Multimodal Activation Steering for Hallucination Mitigation in Large Vision-Language Models

动态多模态激活引导用于大型视觉-语言模型中的幻觉缓解

Jianghao Yin, Qin Chen, Kedi Chen, Jie Zhou, Xingjiao Wu, Liang He

机构 * East China Normal University（华东师范大学） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.AI

AI总结 本文提出动态多模态激活引导方法，通过构建语义真实性引导向量数据库，实现幻觉缓解，提升模型性能。

Comments Accepted by ICLR 2026

EARL: Entropy-Aware RL Alignment of LLMs for Reliable RTL Code Generation

EARL: 用于可靠RTL代码生成的熵感知强化学习对齐大语言模型

Jiahe Shi, Zhengqi Gao, Ching-Yun Ko, Duane Boning

机构 * MIT（麻省理工学院） ； IBM（国际商业机器公司） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 EARL通过熵感知强化学习提升Verilog代码生成的可靠性与准确性

Comments Accepted to DAC 2026

Hallucination Filtering in Radiology Vision-Language Models Using Discrete Semantic Entropy

在放射学视觉-语言模型中使用离散语义熵过滤幻觉

Patrick Wienholt, Sophie Caselitz, Robert Siepmann, Philipp Bruners, Keno Bressem, Christiane Kuhl, Jakob Nikolas Kather, Sven Nebelung, Daniel Truhn

机构 * Lab for Artificial Intelligence in Medicine, Department of Diagnostic and Interventional Radiology, University Hospital RWTH Aachen（医学人工智能实验室，诊断与介入放射学部，RWTH亚琛大学医院） ； Department of Diagnostic and Interventional Radiology, University Hospital RWTH Aachen（诊断与介入放射学部，RWTH亚琛大学医院） ； Department of Diagnostic and Interventional Radiology, Technical University of Munich, School of Medicine and Health, Klinikum rechts der Isar, TUM University Hospital（诊断与介入放射学部，慕尼黑技术大学，医学院与健康学院，Klinikum rechts der Isar，TUM大学医院） ； Department of Cardiovascular Radiology and Nuclear Medicine, Technical University of Munich, School of Medicine and Health, German Heart Center, TUM University Hospital（心血管放射学与核医学部，慕尼黑技术大学，医学院与健康学院，德国心脏中心，TUM大学医院） ； Else Kroener Fresenius Center for Digital Health, Faculty of Medicine and University Hospital Carl Gustav Carus, TUD Dresden University of Technology（数字健康中心，医学院与卡尔·古斯塔夫·卡尔斯大学医院，德累斯顿技术大学） ； Department of Medicine I, Faculty of Medicine and University Hospital Carl Gustav Carus, TUD Dresden University of Technology（第一医学部，医学院与卡尔·古斯塔夫·卡尔斯大学医院，德累斯顿技术大学） ； Pathology & Data Analytics, Leeds Institute of Medical Research at St James’s, University of Leeds（病理学与数据分析，圣詹姆斯医院医学研究所，利兹大学） ； Medical Oncology, National Center for Tumor Diseases (NCT), University Hospital Heidelberg（医学肿瘤学，国家肿瘤疾病中心（NCT），海德堡大学医院） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)

AI总结 本研究通过离散语义熵过滤高熵问题，显著提升放射学视觉-语言模型的诊断准确性。

Comments Code is available: https://github.com/TruhnLab/VisionSemanticEntropy

Journal ref Eur Radiol (2026)

JailBound: Jailbreaking Internal Safety Boundaries of Vision-Language Models

JailBound: 视觉语言模型内部安全边界的劫持

Jiaxin Song, Yixu Wang, Jie Li, Rui Yu, Yan Teng, Xingjun Ma, Yingchun Wang

机构 * Shanghai Jiao Tong University（上海交通大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Fudan University（复旦大学） ； Xuan Tong（宣通） ； NSFOCUS 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)

AI总结 JailBound通过在视觉语言模型的潜在空间中探索安全边界，提出了一种新的劫持框架，有效提升了白盒和黑盒攻击成功率，揭示了模型的安全风险。

Comments The Thirty-ninth Annual Conference on Neural Information Processing Systems (NeurIPS 2025)

MINAR: Mechanistic Interpretability for Neural Algorithmic Reasoning

MINAR: 图神经网络中神经算法推理的机制可解释性

Jesse He, Helen Jenne, Max Vargas, Davis Brown, Gal Mishne, Yusu Wang, Henry Kvinge

机构 * Pacific Northwest National Laboratory, Richland, WA（太平洋西北国家实验室） ； Halıcıoğlu Data Science Institute, University of California, San Diego, San Diego, CA（哈利奇奥格鲁数据科学研究所，加州大学圣地亚哥分校） ； Department of Computer and Information Science, University of Pennsylvania, Pennsylvaina, PA（计算机与信息科学系，宾夕法尼亚大学） ； Department of Mathematics, University of Washington, Seattle, WA（数学系，华盛顿大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 MINAR是一种用于图神经网络中神经算法推理的机制可解释性工具，通过归因修补方法发现电路，揭示训练过程中的电路形成和剪枝机制。

Probabilistic distances-based hallucination detection in LLMs with RAG

基于概率距离的LLM中幻觉检测方法（RAG）

Rodion Oblovatny, Alexandra Kuleshova, Konstantin Polev, Alexey Zaytsev

机构 * Markov Lab, Department of Mathematics（马尔可夫实验室，数学系） ； Computer Science, Saint-Petersburg University（计算机科学，圣彼得堡大学） ； AI Center, Skoltech（人工智能中心，斯克里普丘克技术学院） ； SB AI Lab（SB人工智能实验室） ； AI Center, Skoltech, Risk department, Sber（人工智能中心，斯克里普丘克技术学院，风险部门） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出了一种基于概率距离的LLM幻觉检测方法，利用提示标记与响应标记嵌入分布的距离来检测幻觉，具有高效性和可迁移性。

Comments Updated approach to constructing a hallucination detection score. Added results from experiments with the NLI task. The approach with trainable deep kernels has been removed, with a focus on the unsupervised approach

Learning What Matters: Prioritized Concept Learning via Relative Error-driven Sample Selection

学习关键要素：通过相对误差驱动的样本选择进行优先概念学习

Shivam Chandhok, Qian Yang, Oscar Manas, Kanishk Jain, Leonid Sigal, Aishwarya Agrawal

机构 * Mila - Québec AI Institute（魁北克人工智能研究所） ； University of British Columbia（不列颠哥伦比亚大学） ； Université de Montréal（蒙特利尔大学） ； Vector Institute for AI（人工智能矢量研究所） ； Canada CIFAR AI Chair（加拿大CIFAR人工智能主席） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；instruction tuning(abstract)；分类 cs.AI

AI总结 PROGRESS通过相对误差驱动的样本选择，实现高效视觉-语言模型的指令微调，减少数据和计算需求，提升学习效率和泛化能力。

Comments CVPR 2026

Beyond Refusal: Probing the Limits of Agentic Self-Correction for Semantic Sensitive Information

超越拒绝：探求代理自我校正对语义敏感信息的极限

Umid Suleymanov, Zaur Rajabov, Emil Mirzazada, Murat Kantarcioglu

机构 * Department of Computer Science, Virginia Tech（弗吉尼亚理工大学计算机科学系） ； School of IT and Engineering, ADA University（ADA大学信息科技与工程学院） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出SemSIEdit框架，通过代理代理迭代批评和重写敏感信息，减少泄露并平衡隐私与效用，揭示规模依赖的安全分歧和推理悖论。

Comments Under Review

DynamicGTR: Leveraging Graph Topology Representation Preferences to Boost VLM Capabilities on Graph QAs

DynamicGTR: 利用图拓扑表示偏好提升视觉语言模型在图问答中的能力

Yanbin Wei, Jiangyue Yan, Chun Kang, Yang Chen, Hua Liu, James Kwok, Yu Zhang

机构 * Southern University of Science and Technology（南方科技大学） ； Hong Kong University of Science and Technology（香港理工大学） ； Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳）） ； Beihang University（北京航空航天大学） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.CL、cs.AI

AI总结 DynamicGTR通过动态选择最优图拓扑表示，提升视觉语言模型在图问答中的零样本性能及跨任务迁移能力。

Comments CVPR 2026

Beyond Subtokens: A Rich Character Embedding for Low-resource and Morphologically Complex Languages

超越子词：一种丰富的字符嵌入用于低资源和形态复杂语言

Felix Schneider, Maria Gogolev, Sven Sickert, Joachim Denzler

机构 * Computer Vision Group（计算机视觉组） ； Friedrich Schiller University（弗里德里希-席勒大学） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.CL

AI总结 本文提出了一种基于字符的丰富嵌入方法，用于提升低资源和形态复杂语言的自然语言处理性能。

Comments 12 content pages, 2 figures, 8 tables, one example textbox

Uncovering Grounding IDs: How External Cues Shape Multimodal Binding

揭示地面ID：外部线索如何塑造多模态绑定

Hosein Hasani, Amirmohammad Izadi, Fatemeh Askari, Mobin Bagherian, Sadegh Mohammadian, Mohammad Izadi, Mahdieh Soleymani Baghshah

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI

AI总结 本文提出地面ID概念，揭示外部线索通过增强多模态绑定的注意力机制，提升跨模态定位精度并减少幻觉。

Comments Under review as a conference paper at ICLR 2026

GeoDiv: Framework For Measuring Geographical Diversity In Text-To-Image Models

GeoDiv：文本到图像模型中地理多样性测量的框架

Abhipsa Basu, Mohana Singh, Shashank Agnihotri, Margret Keuper, R. Venkatesh Babu

机构 * Vision and AI Lab, Indian Institute of Science, Bangalore, India（印度科学院视觉与人工智能实验室） ； Chair for Machine Learning, University of Mannheim（曼海姆大学机器学习主任） ； Max Planck Institute for Informatics, Saarland Informatics Campus, Saarbrücken, Germany（马克斯·普朗克信息研究所，萨尔兰州信息学院，萨尔布吕肯，德国） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)

AI总结 GeoDiv通过评估文本到图像模型中的地理多样性，揭示模型在描绘地区时的偏见问题，提出可解释的度量框架以促进公平生成系统。

Comments ICLR 2026

SigVLP: Sigmoid Volume-Language Pre-Training for Self-Supervised CT-Volume Adaptive Representation Learning

SigVLP：基于sigmoid体积-语言预训练的自监督CT体积自适应表示学习

Jiayi Wang, Hadrien Reynaud, Ibrahim Ethem Hamamci, Sezgin Er, Suprosanna Shit, Bjoern Menze, Bernhard Kainz

机构 * Friedrich-Alexander University Erlangen-Nürnberg（弗里德里希-亚历山大大学埃尔兰根-纽伦堡） ； Department of Quantitative Biomedicine, University of Zurich（苏黎世大学定量生物医学系） ； ETH AI Center, ETH Zurich（苏黎世联邦理工学院AI中心） ； International School of Medicine, Istanbul Medipol University（伊斯坦布尔梅迪波尔大学国际医学院） ； Department of Computing, Imperial College London（伦敦帝国学院计算机系） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)

AI总结 SigVLP通过引入旋转位置嵌入和块级对齐方法，改进CT体积与文本的自监督表示学习，提升文本到体积对齐的精度。

Rectifying Geometry-Induced Similarity Distortions for Real-World Aerial-Ground Person Re-Identification

校正几何诱导的相似性失真以应对现实中的空天地人重识别

Kailash A. Hambarde, Hugo Proença

机构 * Instituto de Telecomunicações（电信研究所） ； Department of Computer Science, Universidade da Beira Interior（计算机科学系，贝拉内尔内大学） 纠错

专题命中 知识编辑与模型理解 ：prompting(abstract)

AI总结 本文提出GIQT模块，通过校正几何诱导的相似性失真，提升空天地人重识别在极端几何条件下的鲁棒性。