语言大模型 / LLM

Probing Neural Topology of Large Language Models

探测大型语言模型的神经拓扑

Yu Zheng, Yuan Yuan, Yue Zhuo, Yong Li, Gabriel Kreiman, Tomaso Poggio, Paolo Santi

机构 * Massachusetts Institute of Technology（麻省理工学院） ； New York University（纽约大学） ； Tsinghua University（清华大学） ； Harvard Medical School（哈佛医学院） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出图探测方法，通过分析LLM神经拓扑揭示其语言生成性能，发现拓扑信息比激活信息更丰富，可提升模型效率和可靠性。

Large Language Models for Detecting Cyberattacks on Smart Grid Protective Relays

用于检测智能电网继电保护装置网络攻击的大型语言模型

Ahmad Mohammad Saber, Saeed Jafari, Zhengmao Ouyang, Paul Budnarain, Amr Youssef, Deepa Kundur

机构 * Department of Electrical and Computer Engineering, University of Toronto（电气与计算机工程系，多伦多大学） ； Concordia Institute for Information Systems Engineering (CIISE), Concordia University（信息系统工程研究所（CIISE），康科迪亚大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.LG

AI总结 本文提出基于LLM的检测框架，用于检测智能电网继电保护装置的网络攻击，通过结构化自然语言提示实现高准确率的攻击检测。

Human-LLM Collaborative Feature Engineering for Tabular Data

人类与大语言模型协作的表格数据特征工程

Zhuoyan Li, Aditya Bansal, Jinzhao Li, Shishuang He, Zhuoran Lu, Mutian Zhang, Qin Liu, Yiwei Yang, Swati Jain, Ming Yin, Yunyao Li

机构 * Purdue University（普渡大学） ； Adobe（Adobe公司） ； UIUC（伊利诺伊大学香槟分校） ； University of Washington（华盛顿大学） ； UC Davis（加州大学戴维斯分校） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出人类与大语言模型协作的表格数据特征工程框架，通过解耦操作提出与选择过程，结合人类专家反馈提升特征工程效率和效果。

Comments ICLR 2026

CAR-bench: Evaluating the Consistency and Limit-Awareness of LLM Agents under Real-World Uncertainty

CAR-bench: 评估在现实世界不确定性下LLM代理的一致性和限意识

Johannes Kirmayr, Lukas Stappen, Elisabeth André

机构 * BMW Group Research and Technology（宝马集团研究与技术） ； Augsburg University（艾希施泰特大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 CAR-bench旨在评估LLM代理在现实世界不确定性下的一致性、不确定性处理和能力意识，通过多轮对话和工具使用测试其可靠性和自我意识。

NeuroFaith: Evaluating LLM Self-Explanation Faithfulness via Internal Representation Alignment

NeuroFaith：通过内部表示对齐评估LLM自解释的忠实性

Milan Bhan, Jean-Noel Vittaut, Nicolas Chesneau, Sarath Chandar, Marie-Jeanne Lesot

机构 * Sorbonne Université, CNRS, LIP6（索邦大学、国家科学研究中心、LIP6实验室） ； Mila - Quebec AI Institute, Université de Montréal（魁北克人工智能研究院、蒙特利尔大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 NeuroFaith通过内部表示对齐评估LLM自解释的忠实性，提出了一种灵活的框架和线性探针以提高模型的解释可信度。

From Logits to Latents: Contrastive Representation Shaping for LLM Unlearning

从 logits 到 latents：用于大语言模型遗忘的对比表示塑造

Haoran Tang, Rajiv Khanna

机构 * Purdue University（普渡大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；分类 cs.LG

AI总结 CLReg 通过对比表示正则化减少大语言模型中遗忘与保留知识的纠缠，提升遗忘效果并降低隐私风险。

RerouteGuard: Understanding and Mitigating Adversarial Risks for LLM Routing

RerouteGuard: 理解并缓解LLM路由中的对抗风险

Wenhui Zhang, Huiyu Xu, Zhibo Wang, Zhichao Li, Zeqing He, Xuelin Wei, Kui Ren

专题命中 知识编辑与模型理解 ：LLM(title,abstract)

AI总结 RerouteGuard通过动态嵌入检测和自适应阈值，有效检测并缓解LLM路由中的对抗风险，提升多模型AI系统的安全性。

Comments 15 pages, 13 figures

Concept Component Analysis: A Principled Approach for Concept Extraction in LLMs

概念成分分析：一种用于大语言模型中概念提取的原则性方法

Yuhang Liu, Erdun Gao, Dong Gong, Anton van den Hengel, Javen Qinfeng Shi

机构 * Australian Institute for Machine Learning, The University of Adelaide（澳大利亚机器学习研究所，阿德莱德大学） ； School of Computer Science and Engineering, The University of New South Wales（计算机科学与工程学院，新南威尔士大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出概念成分分析（ConCA）方法，通过无监督线性解混从LLM中提取可解释概念，提供理论支持优于现有SAEs方法。

The Illusion of Certainty: Uncertainty Quantification for LLMs Fails under Ambiguity

确定性的幻觉：在歧义下LLM的不确定性量化失效

Tim Tomov, Dominik Fuchsgruber, Tom Wollschläger, Stephan Günnemann

机构 * School of Computation, Information ； Technology \& Munich Data Science Institute - Technical University of Munich 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本研究揭示了在歧义环境下LLM的不确定性量化方法存在缺陷，提出了MAQA*和AmbigQA*数据集以评估模型在歧义数据上的表现。

CMOOD: Concept-based Multi-label OOD Detection

基于概念的多标签异常检测

Zhendong Liu, Yi Nian, Yuehan Qin, Henry Peng Zou, Li Li, Xiyang Hu, Yue Zhao

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 COOD提出了一种基于概念的零样本多标签OOD检测框架，通过增强语义空间和改进评分函数，有效区分复杂标签依赖的OOD样本。

IBNorm: Information-Bottleneck Inspired Normalization for Representation Learning

IBNorm: 信息瓶颈启发的表示学习规范化方法

Xiandong Zou, Jia Li, Xiaotong Yuan, Pan Zhou

机构 * Singapore Management University（新加坡管理大学） ； Beijing Normal University（北京师范大学） ； Nanjing University（南京大学） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 IBNorm基于信息瓶颈原理，通过有界压缩操作提升表示学习的信息量和稳定性，实验表明其在多种模型中优于传统规范化方法。