语言大模型 / LLM

HalluZig: Hallucination Detection using Zigzag Persistence

HalluZig：通过Zigzag持久性检测幻觉

Shreyas N. Samaga, Gilberto Gonzalez Arroyo, Tamal K. Dey

机构 * Department of Computer Science（计算机科学系） ； Purdue University（普渡大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 HalluZig通过分析模型逐层注意力的拓扑特征，利用Zigzag持久性检测幻觉，优于现有基线方法。

Rethinking Residual Distribution in Locate-then-Edit Model Editing

重新思考定位后编辑模型编辑中的残差分布

Xiaopeng Li, Shanwen Wang, Shasha Li, Shezheng Song, Bin Ji, Jun Ma, Jie Yu

机构 * National University of Defence Technology（国防科技大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出BLUE策略，通过改进残差分布机制，提升模型编辑的精度和效果，实现平均性能提升35.59%并增强LLMs的一般能力。

Comments NeurIPS 2025

VideoHEDGE: Entropy-Based Hallucination Detection for Video-VLMs via Semantic Clustering and Spatiotemporal Perturbations

VideoHEDGE: 基于熵的视频视频语言模型幻觉检测方法：通过语义聚类和时空扰动

Sushant Gautam, Cise Midoglu, Vajira Thambawita, Michael A. Riegler, Pål Halvorsen

机构 * Simula Research Laboratory（Simula研究实验室） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；language model(abstract)；分类 cs.AI

AI总结 VideoHEDGE通过语义聚类和时空扰动检测视频VLMs中的幻觉，利用熵和校准方法提高检测准确性。

Engineering of Hallucination in Generative AI: It's not a Bug, it's a Feature

生成AI中的幻觉工程：这不是bug，而是feature

Tim Fingscheidt, Patrick Blumenberg, Björn Möller

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文探讨生成AI中幻觉的工程化应用，指出幻觉并非bug，而是可被利用的特性，通过概率工程方法引导生成更符合需求的结果。

Comments This is an article that has been written reflecting a talk of Tim Fingscheidt at the 2025 New Year gathering of Braunschweigische Wissenschaftliche Gesellschaft on January 25th, 2025

Central Dogma Transformer: Towards Mechanism-Oriented AI for Cellular Understanding

中心法则变换器：面向细胞理解的机制导向AI

Nobuyuki Ota

专题命中 知识编辑与模型理解 ：language model(abstract)；foundation model(abstract)；分类 cs.LG

AI总结 中心法则变换器通过整合DNA、RNA和蛋白质信息，实现细胞机制的预测与解释。

Comments v2: Fixed dropout probability in Table 3 (0.1 -> 0.3); added acknowledgement

Bridging External and Parametric Knowledge: Mitigating Hallucination of LLMs with Shared-Private Semantic Synergy in Dual-Stream Knowledge

弥合外部与参数化知识：通过共享-私有语义协同缓解LLM的幻觉

Yi Sui, Chaozhuo Li, Chen Zhang, Dawei song, Qiuchi Li

机构 * Beijing Institute of Technology, China（北京理工大学） ； Beijing University of Posts and Telecommunications, China（北京邮电大学） ； Meituan, China（美团） ； The Open University, UK（开放大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出DSSP-RAG框架，通过共享-私有语义协同机制，缓解LLM在整合外部知识时的幻觉问题，并提升生成性能。

MMViR: A Multi-Modal and Multi-Granularity Representation for Long-range Video Understanding

MMViR：一种多模态和多粒度表示用于长视频理解

Zizhong Li, Haopeng Zhang, Jiawei Zhang

机构 * IFM Lab, University of California, Davis（加州大学戴维斯分校信息融合实验室） ； ALOHA Lab, University of Hawaii at Mānoa（夏威夷大学马诺阿分校ALOHA实验室） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 MMViR通过多模态和多粒度表示提升长视频理解，实现更高效的检索和更优的性能表现。

Comments 13 pages, 11 figures

Decide Then Retrieve: A Training-Free Framework with Uncertainty-Guided Triggering and Dual-Path Retrieval

决定后再检索：一种无训练框架，结合不确定性引导触发和双路径检索

Wang Chen, Guanqiang Qi, Weikang Li, Yang Li, Deguo Xia, Jizhou Huang

机构 * Baidu Inc（百度公司） ； The University of Hong Kong（香港大学） ； Peking University（北京大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 DTR通过不确定性引导触发和双路径检索，提升问答性能并减少冗余检索。

When the Coffee Feature Activates on Coffins: An Analysis of Feature Extraction and Steering for Mechanistic Interpretability

当咖啡特征在棺材上激活：对特征提取和转向用于机制可解释性的分析

Raphael Ronge, Markus Maier, Frederick Eberhardt

机构 * Department of Philosophy of Nature and Technology（自然哲学与技术系） ； Munich School of Philosophy（慕尼黑哲学学院） ； Division of the Humanities and Social Sciences（人文与社会科学系） ； California Institute of Technology（加州理工学院） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文分析了通过稀疏自编码器提取特征和控制模型输出的方法，指出其在机制可解释性中的局限性和可靠性问题，强调需转向更可靠的预测与控制。

Comments 33 pages (65 with appendix), 1 figure

JPU: Bridging Jailbreak Defense and Unlearning via On-Policy Path Rectification

JPU: 通过在线策略路径校正弥合对抗防御与遗忘

Xi Wang, Songlei Jian, Shasha Li, Xiaopeng Li, Zhaoye Li, Bin Ji, Baosheng Wang, Jie Yu

机构 * National University of Defense Technology（国防科技大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 JPU通过动态挖掘在线策略对抗样本，校正动态对抗路径以提升模型对抗攻击的鲁棒性。

Comments 14 pages, 6 figures, under review;

Physical Transformer

物理变换器

Tao Xu, Zhixin Hu, Li Luo, Momiao Xiong

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 物理变换器结合几何表示和物理动态，通过层次化结构提升推理稳定性与长周期准确性，推动物理基础的AI发展。

Comments 38 pages, 2 figures

The Vibe-Check Protocol: Quantifying Cognitive Offloading in AI Programming

Vibe-Check协议：量化AI编程中的认知卸载

Aizierjiang Aiersilan

机构 * The George Washington University（乔治·华盛顿大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出Vibe-Check协议，通过量化指标评估Vibe Coding在软件工程教学中的效果，探讨其对技能保留和概念理解的影响。

Do Vision Encoders Truly Explain Object Hallucination?: Mitigating Object Hallucination via Simple Fine-Grained CLIPScore

视觉编码器真的能解释物体幻觉吗？：通过简单细粒度CLIPScore缓解物体幻觉

Hongseok Oh, Wonseok Hwang

机构 * Department of Artificial intelligence University of Seoul（人工智能系首尔大学） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；pretraining(abstract)；分类 cs.CL

AI总结 本文提出F-CLIPScore，通过细粒度文本嵌入缓解LVLM中的物体幻觉问题，显著提升评估准确性。

Comments Transactions on Machine Learning Research

Towards mechanistic understanding in a data-driven weather model: internal activations reveal interpretable physical features

迈向数据驱动天气模型的机理理解：内部激活揭示可解释的物理特征

Theodore MacMillan, Nicholas T. Ouellette

机构 * Stanford University（斯坦福大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文通过分析GraphCast模型的内部激活，揭示了可解释的物理特征，为数据驱动天气模型的机理理解提供了新视角。

Comments 18 pages, 13 figures

Emergent World Beliefs: Exploring Transformers in Stochastic Games

涌现的世界信念：探索变换器在随机游戏中的应用

Adam Kamel, Tanish Rastogi, Michael Ma, Kailash Ranganathan, Kevin Zhu

机构 * University of Waterloo（多伦多大学） ； University of California, Berkeley（加州大学伯克利分校） ； Algoverse AI Research（Algoverse人工智能研究） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文研究了LLMs在扑克等信息不完全领域中学习随机环境表示的能力，通过预训练和内部激活探测，展示了模型能自主学习确定性和随机性特征。

Comments Accepted at NeurIPS 2025 Mechanistic Interpretability Workshop

Bridging Global Intent with Local Details: A Hierarchical Representation Approach for Semantic Validation in Text-to-SQL

弥合全局意图与局部细节：一种用于文本到SQL语义验证的层次表示方法

Rihong Qiu, Zhibang Yang, Xinke Jiang, Weibin Liao, Xin Gao, Xu Chu, Junfeng Zhao, Yasha Wang

机构 * Peking University（北京大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 HEROSQL通过整合逻辑计划和抽象语法树，提升文本到SQL的语义验证效果，实现更准确的细粒度语义检测。

Look Closer! An Adversarial Parametric Editing Framework for Hallucination Mitigation in VLMs

更仔细地看！一种对抗性参数编辑框架用于减轻视觉语言模型中的幻觉

Jiayu Hu, Beibei Li, Jiangwei Xia, Yanjun Qin, Bing Ji, Zhongshi He

专题命中 知识编辑与模型理解 ：LLM(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出了一种对抗性参数编辑框架，通过激活-定位-编辑-对抗范式减轻视觉语言模型中的幻觉问题。

PRISM: A Personality-Driven Multi-Agent Framework for Social Media Simulation

PRISM: 一种基于个性的多智能体框架用于社交媒体模拟

Zhixiang Lu, Xueyuan Deng, Yiran Liu, Yulong Li, Qiang Yan, Imran Razzak, Jionglong Su

机构 * University of Liverpool（利物浦大学） ； University of Texas at Austin（德克萨斯大学奥斯汀分校） ； University College London（伦敦大学学院） ； Xi'an Jiaotong-Liverpool University（西安交通大学-利物浦大学） ； Chinese Academy of Sciences（中国科学院） ； Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 PRISM通过结合连续情绪演变与基于个性的决策过程，提供了一种更准确模拟社交媒体中个性驱动意见极化的框架。

OntoGSN: An Ontology-Based Framework for Semantic Management and Extension of Assurance Cases

OntoGSN：基于本体的保障案例语义管理和扩展框架

Tomas Bueno Momcilovic, Barbara Gallina, Ingmar Kessler, Jule Hendricks, Dian Balta

机构 * fortiss research institute（fortiss研究机构） ； Mälardalen University（马尔默达伦大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 OntoGSN通过本体和中间件实现保障案例的语义管理和扩展，提供知识表示和查询功能，并在对抗鲁棒性保障中展示实用性。

Comments Submitted to the ESWC 2026 Resources track

OpenNER 1.0: Standardized Open-Access Named Entity Recognition Datasets in 50+ Languages

OpenNER 1.0: 50余种语言标准化开放访问命名实体识别数据集

Chester Palen-Michel, Maxwell Pickering, Maya Kruse, Jonne Sälevä, Constantine Lignos

机构 * Michtom School of Computer Science（米切姆计算机科学学院） ； Brandeis University（布兰迪大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 OpenNER 1.0提供50余种语言的标准化NER数据集，通过修正标注格式和统一表示形式，支持多语言和多本体NER研究，并展示了不同预训练模型在NER任务中的性能差异。

Comments Published in the proceedings of EMNLP 2025

Journal ref Proceedings of the 2025 Conference on Empirical Methods in Natural Language Processing, pages 33637-33662, Suzhou, China. Association for Computational Linguistics

AI Needs Physics More Than Physics Needs AI

AI需要物理比物理需要AI更多

Peter Coveney, Roger Highfield

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文探讨了AI与物理之间的相互影响，指出物理对AI有更多贡献，并提出通过理论严谨性与机器学习灵活性结合来发展'大AI'的路线图。

Prompt-to-Parts: Generative AI for Physical Assembly and Scalable Instructions

Prompt-to-Parts: 生成式AI用于物理装配和可扩展指令

David Noever

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 Prompt-to-Parts通过生成式AI生成物理可实现的装配指令，结合LDraw中间表示和Python库，实现复杂结构的可建造输出。

Progressive Localisation in Localist LLMs

局部化LLM中的渐进式局部化

Joachim Diederich

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出了一种渐进式局部化方法，通过自适应语义块划分和陡峭多项式调度，在保持性能的同时提升LLM的可解释性。

False Sense of Security: Why Probing-based Malicious Input Detection Fails to Generalize

虚假的安全感：基于探测的恶意输入检测为何无法泛化

Cheng Wang, Zeming Wei, Qin Liu, Muhao Chen

机构 * National University of Singapore（新加坡国立大学） ； Peking University（北京大学） ； University of California, Davis（加州大学戴维斯分校） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究指出基于探测的恶意输入检测方法因学习表面模式而非语义有害性，导致无法泛化，需重新设计模型和评估协议。

A Survey on Uncertainty Quantification Methods for Deep Learning

Wenchong He, Zhe Jiang, Tingsong Xiao, Zelin Xu, Yukun Li

机构 * University of Florida（佛罗里达大学） ； Tufts University（塔夫茨大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

Comments Accepted to ACM Computing Surveys

Natural Language Interface for Firewall Configuration

防火墙配置的自然语言接口

F. Taghiyev, A. Aslanbayli

机构 * Tandon School of Engineering（塔恩顿工程学院） ； Department of Electrical and Computer Engineering（电气与计算机工程系） ； New York University（纽约大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出了一种基于自然语言的防火墙配置接口，通过中间表示和验证层实现策略翻译与安全检查，旨在提升防火墙管理的可审计性和人机交互性。

Comments 7 pages, 3 figures. Preliminary version of an ongoing research project on natural language interfaces for firewall configuration

SAVE: Sparse Autoencoder-Driven Visual Information Enhancement for Mitigating Object Hallucination

SAVE：基于稀疏自编码器的视觉信息增强用于缓解物体幻觉

Sangha Park, Seungryong Yoo, Jisoo Mok, Sungroh Yoon

机构 * Department of Electrical and Computer Engineering, Seoul National University（电子与计算机工程系，首尔国立大学） ； Daegu Gyeongbuk Institute of Science and Technology（大邱庆州科学技术院） ； IPAI, AIIS, ASRI, INMC, and ISRC, Seoul National University（IPAI、AIIS、ASRI、INMC 和 ISRC，首尔国立大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 SAVE通过引导模型沿稀疏自编码器潜在特征减少物体幻觉，提升视觉理解能力。

Comments WACV 2026

The Vector Grounding Problem

向量语义问题

Dimitri Coelho Mollo, Raphaël Millière

机构 * Umeå University（乌梅大学） ； University of Oxford（牛津大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文探讨了大型语言模型是否能通过指涉 grounding 实现对现实世界的联系，提出了基于因果-信息关系和选择历史的判断标准。

Comments Accepted for publication in Philosophy and the Mind Sciences

Hallucination as a Computational Boundary: A Hierarchy of Inevitability and the Oracle Escape

幻觉作为计算边界：不可避免性层级与 oracle 逃逸

Wang Xi, Quan Shi, Zenghui Ding, Jianqing Gao, Xianjun Yang

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出计算类对齐原则，通过构建计算必要性层级和逃逸路线，为大型语言模型的幻觉问题提供理论框架和解决方案。

Comments 8 pages, 6 figures

Bi-ICE: An Inner Interpretable Framework for Image Classification via Bi-directional Interactions between Concept and Input Embeddings

Bi-ICE：通过概念与输入嵌入之间双向交互的图像分类可解释框架

Jinyung Hong, Yearim Kim, Keun Hee Park, Sangyu Han, Nojun Kwak, Theodore P. Pavlic

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 Bi-ICE通过概念与输入嵌入的双向交互，提升图像分类任务的内部可解释性与透明度。

Comments Accepted at IEEE WACV2026. The first two authors equally contributed to this work