语言大模型 / LLM

Localized Calibrated Uncertainty in Code Language Models

代码语言模型中的局部校准不确定性

David Gros, Prem Devanbu

机构 * University of California, Davis（加州大学戴维斯分校） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.AI

AI总结 本研究提出了一种技术，用于在代码语言模型中局部校准不确定性，通过最小意图对齐补丁数据集评估不同探测方法的校准效果，并探讨了其在AI监督中的应用。

Towards mechanistic understanding in a data-driven weather model: internal activations reveal interpretable physical features

迈向数据驱动天气模型的机理理解：内部激活揭示可解释的物理特征

Theodore MacMillan, Nicholas T. Ouellette

机构 * Stanford University（斯坦福大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文通过分析GraphCast模型的内部激活，揭示了可解释的物理特征，为数据驱动天气模型的机理理解提供了新视角。

Comments 18 pages, 13 figures

Emergent World Beliefs: Exploring Transformers in Stochastic Games

涌现的世界信念：探索变换器在随机游戏中的应用

Adam Kamel, Tanish Rastogi, Michael Ma, Kailash Ranganathan, Kevin Zhu

机构 * University of Waterloo（多伦多大学） ； University of California, Berkeley（加州大学伯克利分校） ； Algoverse AI Research（Algoverse人工智能研究） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文研究了LLMs在扑克等信息不完全领域中学习随机环境表示的能力，通过预训练和内部激活探测，展示了模型能自主学习确定性和随机性特征。

Comments Accepted at NeurIPS 2025 Mechanistic Interpretability Workshop

Triangulation as an Acceptance Rule for Multilingual Mechanistic Interpretability

三角化作为多语言机制可解释性的接受规则

Yanan Long

机构 * StickFlux Labs（StickFlux实验室） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.CL；LLM(comments)

AI总结 本文提出三角化作为多语言机制可解释性的接受规则，通过因果标准验证模型行为的必要性、充分性和不变性，以提高跨语言解释的可靠性。

Comments NeurIPS 2025 Workshop Evaluating the Evolving LLM Lifecycle: Benchmarks, Emergent Abilities, and Scaling

Tight PAC-Bayesian Risk Certificates for Contrastive Learning

对比学习的紧PAC-Bayesian风险证书

Anna Van Elst, Debarghya Ghoshdastidar

机构 * LTCI, Télécom Paris, Institut Polytechnique de Paris（LTCI，巴黎电信学院，巴黎高等理工学院） ； School of Computation Information and Technology, Technical University of Munich（计算信息与技术学院，慕尼黑技术大学） 纠错

专题命中 知识编辑与模型理解 ：foundation model(abstract)；分类 cs.LG

AI总结 本文提出紧PAC-Bayesian风险证书，针对对比学习中的依赖性和SimCLR框架，改进了对比损失和下游预测的界。

Journal ref SIAM Journal on Mathematics of Data Science, vol. 7, no. 4, pp. 1904-1927, 2025