语言大模型 / LLM

SECA: Semantically Equivalent and Coherent Attacks for Eliciting LLM Hallucinations

SECA：用于诱发LLM幻觉的语义等价且连贯的攻击

Buyun Liang, Liangzu Peng, Jinqi Luo, Darshan Thaker, Kwan Ho Ryan Chan, René Vidal

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 SECA通过现实修改提示诱发LLM幻觉，提高攻击成功率并减少语义错误。

Comments Accepted at NeurIPS 2025. Code is available at https://github.com/Buyun-Liang/SECA

Evolution of Concepts in Language Model Pre-Training

语言模型预训练中概念的演变

Xuyang Ge, Wentao Shu, Jiaxing Wu, Yunhua Zhou, Zhengfu He, Xipeng Qiu

机构 * OpenMOSS Team, Shanghai Innovation Institute（开放MOSS团队、上海创新研究院） ； Fudan University（复旦大学） ； Shanghai AI Laboratory（上海人工智能实验室） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文通过crosscoders方法研究语言模型预训练中特征演变，揭示特征形成与下游性能的因果关系，并发现统计学习与特征学习两个阶段。

Comments 35 pages, 35 figures. Accepted to ICLR 2026

Concept Influence: Leveraging Interpretability to Improve Performance and Efficiency in Training Data Attribution

概念影响：利用可解释性以提高训练数据归因的性能和效率

Matthew Kowal, Goncalo Paulo, Louis Jaburi, Tom Tseng, Lev E McKinney, Stefan Heimersheim, Aaron David Tucker, Adam Gleave, Kellin Pelrine

机构 * EleutherAI ； University of Toronto（多伦多大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；post-training(abstract)；分类 cs.AI

AI总结 本文提出概念影响方法，通过利用模型中的可解释结构，提高训练数据归因的性能和效率，实现更可扩展和可控的模型行为。

MechPert: Mechanistic Consensus as an Inductive Bias for Unseen Perturbation Prediction

MechPert: 机制共识作为未见扰动预测的归纳偏置

Marc Boubnovski Martell, Josefa Lia Stoisser, Lawrence Phillips, Aditya Misra, Robert Kitchen, Jesper Ferkinghoff-Borg, Jialin Yu, Philip Torr, Kaspar Märten

专题命中 知识编辑与模型理解 ：LLM(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 MechPert通过机制共识引导LLM生成定向调控假说，提升未见扰动预测的准确性与实验设计效果。

Disentangling Deception and Hallucination Failures in LLMs

解构大语言模型中的欺骗与幻觉故障

Haolang Lu, Hongrui Peng, WeiYe Fu, Guoshun Nan, Xinye Cao, Xingrui Li, Hongcan Guo, Kun Wang

机构 * Beijing University of Posts（北京邮电大学） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本研究提出一种机制导向的视角，解构大语言模型中幻觉与欺骗的不同故障机制，通过受控环境分析四种行为案例，揭示知识存在与行为表达的分离。

Hierarchical Vision-Language Interaction for Facial Action Unit Detection

层次化视觉-语言交互用于面部动作单元检测

Yong Li, Yi Ren, Yizhe Zhang, Wenhua Zhang, Tianyi Zhang, Muyun Jiang, Guo-Sen Xie, Cuntai Guan

机构 * Key Laboratory of Child Development and Learning Science (Ministry of Education), School of Biological Sciences and Medical Engineering, Southeast University（儿童发展与学习科学重点实验室（教育部），生物科学与医学工程学院，东南大学） ； School of Computer Science and Engineering, Nanjing University of Science and Technology（计算机科学与工程学院，南京理工大学） ； School of Computer Science and Engineering, Nanyang Technological University（计算机科学与工程学院，南洋理工大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)

AI总结 HiVA通过层次化视觉-语言交互方法，利用文本描述和多模态注意力机制提升面部动作单元检测的鲁棒性和语义丰富性。

Comments Accepted to IEEE Transaction on Affective Computing 2026

Journal ref IEEE Transaction on Affective Computing 2026

Directional Concentration Uncertainty: A representational approach to uncertainty quantification for generative models

方向性集中不确定性：一种代表方法用于生成模型的不确定性量化

Souradeep Chattopadhyay, Brendan Kennedy, Sai Munikoti, Soumik Sarkar, Karl Pazdernik

机构 * Department of Mechanical Engineering, Iowa State University, Ames, IA, USA（机械工程系，爱荷华州立大学） ； Pacific Northwest National Laboratory, Richland, WA, USA（太平洋西北国家实验室） ； Department of Statistics, North Carolina State University, Raleigh, NC, USA（统计系，北卡罗来纳州立大学） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出方向性集中不确定性（DCU）方法，通过基于vMF分布的嵌入集中度量化，提升生成模型的不确定性量化性能，并在多模态任务中展现良好泛化能力。

The Agentic Leash: Extracting Causal Feedback Fuzzy Cognitive Maps with LLMs

代理缰绳：利用大语言模型提取因果反馈模糊认知图

Akash Kumar Panda, Olaoluwa Adigun, Bart Kosko

机构 * University of Southern California（南加州大学） ； Florida International University（佛罗里达国际大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出利用LLM代理系统提取因果反馈模糊认知图，通过三步过程生成与人类生成的FCM具有相同平衡特性的动态系统。

Comments 15 figures

Evaluating Disentangled Representations for Controllable Music Generation

评估用于可控音乐生成的解耦表示

Laura Ibáñez-Martínez, Chukwuemeka Nkama, Andrea Poltronieri, Xavier Serra, Martín Rocamora

专题命中 知识编辑与模型理解 ：prompting(abstract)；分类 cs.LG

AI总结 本文评估了音乐生成中解耦表示的有效性，发现现有方法在可控生成中存在语义不一致问题，需重新审视解耦策略。

Comments Accepted at ICASSP 2026

Conversational Decision Support for Information Search Under Uncertainty: Effects of Gist and Verbatim Feedback

信息搜索中的对话决策支持：概要反馈与原文反馈的影响

Kexin Quan, Jessie Chin

专题命中 知识编辑与模型理解 ：LLM(abstract)

AI总结 SERA通过提供概要或原文反馈，在不同不确定性环境下提升决策准确性与自信度，优化信息搜索效率。

Human Oversight-by-Design for Accessible Generative IUIs

为可及性生成性IUIs设计的人类监督

Blessing Jerry, Lourdes Moreno, Paloma Martínez

专题命中 知识编辑与模型理解 ：LLM(abstract)

AI总结 为可及性生成性IUIs设计的人类监督方法，通过嵌入人类判断和升级策略，确保高风险工作流程中的可靠性和可访问性。

Comments Preprint. Accepted for publication in CEUR Workshop Proceedings (IUI Workshops 2026). 15 pages, 1 figure