语言大模型 / LLM

Quantifying Risk Under Evolving Uncertainty: Belief-Dependent Robustness for Safe Sequential Decision Making

演化不确定性下的风险量化：面向安全序贯决策的信念依赖鲁棒性

Deep Kumar Ganguly, Jan Kretinsky

机构 * Technical University of Munich（慕尼黑工业大学） ； Masaryk University（马萨里克大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 本文提出RATTL算法，将智能体谨慎程度与认知不确定性绑定，证明其规划问题适定且满足安全三明治性质，可保障LLM等智能体在不确定性下的运行时安全。

Comments Accepted for presentation at the IJCAI-ECAI 2026 RobustifAI workshop

MMD-Flagger: Leveraging Maximum Mean Discrepancy to Detect Hallucinations

MMD-Flagger：利用最大均值差异检测幻觉

Kensuke Mitsuzawa, Damien Garreau

机构 * Université Côte d’Azur, CNRS, LJAD, France（法国埃克塞特大学、法国国家科学研究中心、LJAD研究所） ； Center for Artificial Intelligence and Data Science (CAIDAS)（人工智能与数据科学中心） ； Julius-Maximilans-Universität Würzburg, Germany（德国维尔茨堡约利乌斯-马克斯米利安大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 针对智能体AI系统中大型语言模型的幻觉问题，提出基于最大均值差异（MMD）的MMD-Flagger方法，通过监控不同解码温度下的输出轨迹检测幻觉，在MUCH基准上用Llama-3、Gemma-3模型完成评估。

Evaluating RL Explainability Methods by How Much They Help Fix Bugs in Agents

通过可解释强化学习（XRL）方法对修复智能体Bug的帮助程度来评估XRL方法

Ram Rachum, Yotam Amitai, Bálint Gyevnár, Reuth Mirsky, Cameron Allen

机构 * University of California, Berkeley（加州大学伯克利分校） ； Tufts University（塔夫茨大学） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出EvalXRL基准，通过大型语言模型编码智能体结合XRL方法诊断修复RL智能体故障的效果，实现对多种XRL方法的首次闭环直接对比评估。

Journal ref Proceedings of the Workshop on Explainable Artificial Intelligence (XAI) at IJCAI-ECAI 2026, Bremen, Germany

Semantic Uncertainty-Guided Orchestration in Hierarchical Multi-Agent Systems

分层多智能体系统中基于语义不确定性的协调策略

John Knowlton, Aritra Guha, Risto Miikkulainen

机构 * The University of Texas at Austin（德克萨斯大学奥斯汀分校） ； AT&T Chief Data Office（AT&T首席数据办公室） ； Cognizant AI Lab（高知特人工智能实验室） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出HASSUM框架，利用语义熵和密度估计不确定性实现多智能体自适应协调，在StrategyQA等基准上验证其可提升复杂推理任务的可靠性。

Comments 17 pages, 5 figures, 2 tables

Memorization Diagnostics for Code LLMs Should be Scale-Aware

代码大语言模型的记忆诊断应考虑规模因素

Prateek Kumar Rajput, Abdoul Aziz Bonkoungou, Alberick Euraste Djiré, Xunzhu Tang, Yewei Song, Iyiola Emmanuel Olatunji, El Hacen Diallo, Jacques Klein, Tegawendé F. Bissyandé

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 该研究针对代码大语言模型记忆诊断的规模敏感性问题，通过分离表征负载与记忆，发现现有探测技术在大规模模型上失效，提出未来评估需解耦二者的方法。

Comments 26 pages, 6 figures, 6 tables. Under review at EMSE

Designing Agentic AI-Based Screening for Portfolio Investment

基于代理AI的资产组合投资筛选设计

Mehmet Caner, Agostino Capponi, Nathan Sun, Jonathan Y. Tan

机构 * North Carolina State University, Nelson Hall, Department of Economics（北卡罗来纳州立大学，Nelson Hall，经济学系） ； Columbia University. Department of Industrial Engineering and Operations Research and Columbia Business School（哥伦比亚大学，工业工程与运筹学系及哥伦比亚商学院） ； Columbia University. Department of Industrial Engineering and Operations Research（哥伦比亚大学，工业工程与运筹学系） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出基于代理AI的资产组合投资筛选框架，通过两个专用代理筛选优质公司并生成买卖信号，结合高维精度矩阵估计确定最优权重，实验证明其在S&P 500数据上优于传统方法。

Conversational versus Dashboard Explainable AI for UAV Intrusion Detection: An Empirical Study of Operator Trust and Reliance

无人机入侵检测中对话式与仪表盘式可解释人工智能：操作员信任与依赖的实证研究

Cong Chi Nguyen, Trang Mai Xuan, Vu-Duc Ngo, Kim-Ngan Thi Nguyen, Trong-Nghia Nguyen, Thien Van Luong

机构 * Phenikaa University（菲卡大学） ； Phenikaa School of Computing（菲卡计算机学院） ； MobiFone Corporation（MobiFone集团） ； MobiFone HighTech Center（MobiFone高科技中心） ； National Economics University（国民经济大学） ； College of Technology（技术学院） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本研究对比对话式与仪表盘式XAI界面对无人机入侵检测操作员信任和依赖的影响，发现对话式界面可用性更高但易引发过度依赖，为未来XAI系统设计提供启示。

Comments 12 pages, 3 figures, EIDT conference

Emotion2Skill: Model-Internal Emotion Signals for Adaptive Skill Selection and Evolution

Emotion2Skill：用于自适应技能选择与演化的模型内部情绪信号

Bohan Lin, Hejia Geng, Xinyi Xie, Heng Zhou, Qinghua Xing, Bo Liu, Chen Zhang, Yudong Zhang

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 Emotion2Skill框架提取LLM内部情绪向量，将其融入技能选择与演化，在WebShop、ALFWorld上用Qwen3模型实现显著性能提升，验证了情绪表征作为智能体决策信号的有效性。

TrAC: Trace-Conditioned Answer Consistency for Efficient Uncertainty Quantification in LLMs

TrAC：用于大语言模型高效不确定性量化的轨迹条件答案一致性

Dahai Yu, Lin Jiang, Rongchao Xu, Guang Wang

机构 * Florida State University（佛罗里达州立大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对大语言模型推理轨迹与答案不一致的问题，提出TrAC框架，结合主动与被动信号实现高效不确定性量化，在数学推理基准上提升了AUROC并降低了AURC。

Symbolic Attack Chain Generation from Atomic Red Team Techniques: An Empirical Study of Predicate Representation Granularity

基于Atomic Red Team技术的符号化攻击链生成：谓词表示粒度的实证研究

Ramya Varunsegar

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本研究对比九类与五类谓词粒度的AALM，发现粒度对攻击链有效性影响小，81.3%结果一致，高粒度仅提升规划论证的内部结构分辨率。

CAGE: Certified Authorization under Typed-Return Uncertainty for Tool-Using Agents

CAGE：面向使用工具的智能体的带类型返回不确定性的可验证授权

Blaise Delattre, Cong Wang, Yang Cao

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 该研究针对使用工具的LLM智能体的授权问题，提出CAGE方法直接验证带绑定错误和数值漂移的联合邻域，可消除点式网关的预算内错误授权，保留部分自主决策，适配多种场景。

Comments Code: https://github.com/tdsai-lab/cage-agent-authorization

DeepFaith: Evidence-Grounded LLMs for Faithful Incident Reporting in Multi-Stage APT Defense

深度信念：用于多阶段APT防御中忠实事件报告的基于证据的大语言模型

Trung V. Phan, Tri Gia Nguyen, Thomas Bauschert

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 针对多阶段APT防御中事件报告难检测解释、输出难理解及大语言模型内容缺乏依据等问题，提出深度信念框架，通过集成多种技术确保生成陈述有依据，实验表明该框架能提升多项指标，为安全运营中心提供可靠报告。

Comments This paper has been submitted to the IEEE International Conference on Network and Service Management (CNSM) 2026

Rethinking Prospect Theory for LLMs: Revealing the Instability of Decision-Making under Epistemic Uncertainty

重新思考用于大语言模型的前景理论：在认知不确定性下决策的不稳定性

Rui Wang, Qihan Lin, Jiayu Liu, Qing Zong, Tianshi Zheng, Dadi Guo, Haochen Shi, Peixuan Han, Weiqi Wang, Yangqiu Song

机构 * Hong Kong University of Science and Technology（香港科技大学） ； Huazhong University of Science and Technology（华中科技大学） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文重新审视前景理论在大语言模型中的应用，发现其在认知不确定性下的决策稳定性存在问题，指出前景理论可能无法可靠地处理此类不确定性。

ASK-NN: An Asymmetric Nearest-Neighbor Test that detects Distribution Drifts in Natural Language

ASK-NN：一种检测自然语言中分布漂移的非对称最近邻测试

Sergey Zakharov, Rodion Oblovatny, Alexey Zaytsev

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；分类 cs.LG

AI总结 研究自然语言中分布漂移检测问题，提出基于有向k近邻图的非对称双样本测试ASK-NN，其计算高效易实现，在合成基准、人工文本及LLM幻觉检测方面与核和图基线相比具有竞争力。

Comments 9 pages, 4 figures

Source or It Didn't Happen: A Multi-Agent Framework for Citation Hallucination Detection

来源或未发生：一种用于引用伪造检测的多智能体框架

Mingzhe Li, Zhiqiang Lin, Shiqing Ma

机构 * University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校） ； The Ohio State University（俄亥俄州立大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出CiteTracer多智能体框架，通过12种分类体系检测引用伪造，利用PDF和BibTeX提取结构化引用，结合缓存查找、URL获取等方法验证，实现97.1%的准确率。

The Anatomy of Uncertainty in LLMs

大语言模型中不确定性的解剖结构

Aditya Taparia, Ransalu Senanayake, Kowshik Thopalli, Vivek Narayanaswamy

机构 * School of Computing and Augmented Intelligence, Arizona State University（亚利桑那州立大学计算与增强智能学院） ； Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出了一种将大语言模型不确定性分解为输入模糊性、知识缺口和解码随机性的框架，通过实验展示不同模型规模和任务中各组件的重要性，以提升模型可靠性与可信度。

Comments Accepted at the ICBINB Workshop, ICLR 2026

Verifiable Knowledge Expansion through Retrieval-Grounded Formal Concept Analysis

通过检索基础的形式概念分析实现可验证的知识扩展

Yujin Yang, Heejung Lee

机构 * Hanyang University（汉阳大学） 纠错

专题命中 知识编辑与模型理解 ：SLM(abstract,abstract_cn)；language model(abstract)；small language model(abstract)；分类 cs.AI

AI总结 提出一种检索增强的小语言模型框架，利用形式概念分析作为符号验证循环，通过种子属性和检索验证实现知识扩展，在罕见共济失调数据集上评估了关系F1和蕴含F1。

Comments 8 pages, 2 figures, Accepted to the 8th epiDAMIK ACM SIGKDD International Workshop on Epidemiology meets Data Mining and Knowledge Discovery (epiDAMIK 2026)

PRA-RAG: Provably Robust Aggregation in Retrieval-Augmented Generation against Retrieval Corruption

PRA-RAG：检索增强生成中针对检索污染的鲁棒聚合方法

Xue Tan, Yi Zheng, Chang Huo, Yunruo Zhang, Yu Liu, Hao Luan, Zhuyang Yu, Xiaoyan Sun, Ping Chen, Jun Dai

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出PRA-RAG算法，通过采样检索文本组合并利用嵌入空间几何结构选择鲁棒子集，提供理论鲁棒性保证，在多个基准上将攻击成功率降至1%同时保持71%准确率。

From Propositional to Perceptual Asymmetry: Extending Frictive Policy Optimization to Asymmetric Partial Information Dialogue

从命题不对称到感知不对称：将摩擦策略优化扩展到非对称部分信息对话

Yifan Zhu, Kyeongmin Rim, James Pustejovsky

机构 * Brandeis University（布兰迪斯大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；分类 cs.CL

AI总结 将摩擦策略优化从共享感知场景扩展到感知不对称场景，通过跨语料库分析和LLM探测验证，发现摩擦函数仅在参与者信息视野内有效，并提出标注改进。

Comments 11 pages. To appear in Proceedings of SIGDIAL 2026

MOSAIC: Orchestrating Collaborative Knowledge Tracing with Hierarchical Semantic Alignment

MOSAIC: 通过层次语义对齐编排协作知识追踪

Xinjin Li, Mengyue Wang, Yuzhen Lin, Pengbin Feng, Ziqi Sha, Yeyang Zhou, Yu Ma

机构 * Columbia University（哥伦比亚大学） ； University of California, Berkeley（加州大学伯克利分校） ； School of Information Systems and Management, Carnegie Mellon University（信息系统与管理学院，卡内基梅隆大学） ； Department of Mathematics, University of Southern California（数学系，南加州大学） ； University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校） ； Computer Science Department, UC San Diego（计算机科学系，UCSD） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；分类 cs.LG

AI总结 提出MOSAIC框架，利用冻结LLM生成动态嵌入和层次预测提示，结合跨粒度一致性目标，在协作知识追踪中实现多粒度掌握估计，在多个数据集上取得SOTA。

Mechanistic Personality Analysis of LLMs Steering Personality via Latent Feature Interventions

LLMs人格的机械论分析：通过潜在特征干预引导人格

David Courtis, Ting Hu

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出一种机械可解释性方法，通过稀疏自编码器和对比激活分析识别残差流中的潜在方向，并施加加法干预向量来增强目标OCEAN人格特质，同时保持语言建模性能。

Comments Written in 2024; submitted to arXiv 2026

A Mechanistic Study of Transformers Training Dynamics

Transformer训练动态的机制研究

Ambroise Odonnat, Wassim Bouaziz, Vivien Cabannes

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；foundation model(abstract)；pretraining(abstract)

AI总结 本文通过可控实验研究Transformer训练动态，发现梯度下降可实现聚类头解决稀疏模块加法任务，并揭示训练过程中两阶段学习及归一化层高曲率导致的损失尖峰现象。

Comments Accepted at ICML 2026 Mechanistic Interpretability workshop

Large-Language-Model Discovery of Quantum LDPC Codes through Structured Concept Evolution

通过结构化概念演化的大语言模型发现量子LDPC码

Zidu Liu, Florian Marquardt

机构 * Max Planck Institute for the Science of Light（光科学Max Planck研究所） ； Department of Physics, Friedrich-Alexander University Erlangen-Nürnberg（埃尔兰根-纽伦堡弗里德里希-亚历山大大学物理系） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出结构化概念演化（SCE）框架，利用大语言模型和结构化代数变异语法搜索提升积码族，发现多种竞争性码族，包括非阿贝尔群上的新构造。

Comments 17 pages, 5 figures

Uncertainty-based Debiasing and Unlearning for Decontamination

基于不确定性的去偏与遗忘用于去污染

Guangzhi Sun, Xiao Zhan, Mark Gales

机构 * Department of Engineering, University of Cambridge（剑桥大学工程系） ； VRAIN, Universitat Politècnica de València（瓦伦西亚理工大学VRAIN） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 提出基于不确定性的去污染方法(UBD)，利用深度集成估计每个样本的记忆程度，通过去偏或遗忘修正输出分布，无需无污染模型或污染样本先验知识。

From Text Metrics to Model Internals: A Study of Whisper ASR Hallucination Detection

从文本度量到模型内部：Whisper ASR幻觉检测研究

Jan Jasiński, Mateusz Barański, Julitta Bartolewska, Marcin Witkowski, Konrad Kowalczyk

机构 * Signal Processing Group, Institute of Electronics, AGH University of Krakow, Poland（信号处理组，电子学研究所，AGH克拉科夫大学，波兰） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 研究Whisper大模型在真实语音数据上的幻觉检测，通过文本、LLM和内部解码器状态三种方法，发现无参考文本时探测解码器表示性能最强，融合文本与内部状态的元分类器效果最佳。

Comments Accepted at Interspeech 2026

AgentLens: Interpretable Safety Steering via Mechanistic Subspaces for Multi-Turn Coding Agent

AgentLens: 通过机制子空间实现多轮编码代理的可解释安全引导

Weidi Luo, Qiming Zhang, Yihao Quan, Mingyu Jin, Jie Cai, Chaowei Xiao, Jingcheng Niu, Zhen Xiang

机构 * University of Georgia（佐治亚大学） ； University of South Florida（南佛罗里达大学） ； Rutgers University（罗格斯大学） ； University of Southern California（南加州大学） ； Johns Hopkins University（约翰霍普金斯大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出AgentLens框架，从内部表示层检测和缓解多轮编码代理的安全风险，通过单层10维子空间干预实现运行时安全控制，并在MAS基准上验证有效性。

HERMAN: Hierarchical Representation Matching for CLIP-based Class-Incremental Learning

HERMAN: 基于CLIP的类增量学习中的层次表示匹配

Zhen-Hao Xie, Yan Wang, Lan Li, Han-Jia Ye, De-Chuan Zhan, Da-Wei Zhou

机构 * School of Artificial Intelligence and the State Key Laboratory for Novel Software Technology, Nanjing University（人工智能学院和新型软件技术国家重点实验室，南京大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract_cn)；language model(abstract)；分类 cs.AI

AI总结 提出HERMAN方法，利用LLM递归生成判别性文本描述，匹配不同语义层次并自适应路由，解决CLIP在类增量学习中的灾难性遗忘问题，在多个基准上取得最优性能。

AdsMind: A Physics-Grounded Multi-Agent System for Self-Correcting Discovery of Adsorption Configurations on Heterogeneous Catalyst Surfaces

AdsMind: 一种基于物理的多智能体系统，用于异质催化剂表面吸附构型的自校正发现

Zongmin Zhang, Yuyang Lou, Bowen Zhang, Junwu Chen, Ryo Kuroki, Xuan Vu Nguyen, Edvin Fako, Lixue Cheng, Philippe Schwaller

机构 * Department of Computer Science ； Engineering, Hong Kong University of Science ； Department of Chemistry, Hong Kong University of Science ； Laboratory of Artificial Chemical Intelligence (LIAC), EPFL, Lausanne, Switzerland ； Platform Laboratory for Science \& Technology, Asahi Kasei Corporation, Tokyo, Japan ； IAS Center for AI for Scientific Discoveries, Hong Kong University of Science 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出AdsMind闭环多智能体框架，利用机器学习力场弛豫反馈实现吸附构型搜索的自主纠错，在基准测试中成功率高达100%和98.8%，且仅需少量弛豫步骤，显著优于启发式枚举和单次方法。

Comments 37 pages, 5 figures

Adversarial Concept Search: Predicting Compositional Errors From Feature Geometry

对抗性概念搜索：从特征几何预测组合错误

Jennifer Meng Lu, Ruochen Zhang, Isabelle Lee, David Alvarez-Melis, Ellie Pavlick, Naomi Saphra

机构 * Brown University（布朗大学） ； University of Southern California（南加州大学） ； Harvard University（哈佛大学） ； Boston University（波士顿大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 利用LLM的表征几何预测其组合失败模式，发现概念编码近正交时可靠组合，编码接近时因干扰导致失败，无需评估具体输入即可预测错误。

SafeLLM: Extraction as a Hallucination-Resistant Alternative to Rewriting in Safety-Critical Settings

SafeLLM: 在安全关键场景中，提取作为重写的抗幻觉替代方案

Julia Ive, Felix Jozsa, Evridiki Georgaki, Nabeel Sheikh, Emma Cattell, Nick Jackson, Paulina Bondaronek, Ciaran Scott Hill, Richard Dobson

机构 * Institute of Health Informatics, University College London（伦敦大学学院健康信息学研究所） ； National Hospital for Neurology and Neurosurgery（国家神经内科与神经外科医院） ； Somerset NHS Foundation Trust（萨默塞特NHS基金会信托） ； King's College Hospital（国王学院医院） ； King's College London（伦敦国王学院） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 提出将提取作为重写型RAG的抗幻觉替代方案，通过行号选择策略在安全关键文档中实现高召回（95%）和低幻觉，优于直接复制和安全导向方法。