ICML

CausalGame: Benchmarking Causal Thinking of LLM Agents in Games

因果游戏：在游戏中对大语言模型智能体的因果思维进行基准测试

Zhenhao Chen, Yongqiang Chen, Chenxi Liu, Junchi Yu, Xiangchen Song, Zijian Li, Jialin Li, Philip Torr, Bo Han, Kun Zhang

机构 * MBZUAI（穆罕默德·本·扎耶德人工智能大学） ； Carnegie Mellon University（卡内基梅隆大学） ； Hong Kong Baptist University（香港浸会大学） ； University of Oxford（牛津大学） ； New York University, Abu Dhabi（纽约大学阿布扎比分校） 纠错

AI总结 研究旨在通过因果游戏基准测试大语言模型智能体的因果思维能力，让智能体设计实验、收集数据并给出解决方案。设计含多种挑战的场景，发现当前智能体因果思维能力欠佳，为评估提供了测试平台。

Comments Zhenhao, Yongqiang, and Chenxi contributed equally to the project. A short version is accepted at the Forty-Third International Conference on Machine Learning (ICML) 2026 as an Oral presentation. Project website https://causalgame.github.io/

Unsupervised Features Mining via Activation Geometry

通过激活几何进行无监督特征挖掘

Amit LeVi, Elad David, Max Fomin

AI总结 介绍通过激活几何挖掘（MAG）的无监督框架，在输入前加指令Q，用m(Q∣p)-m(p)衡量其对模型内部表征的影响，探索多种MAG，所提取特征可预测模型理解与判断，还用于选择最佳训练数据集。

Journal ref ICML 2026, workshop on Failure Modes in Agentic AI (FAGEN)

Geometry of Ordinal Representations in Language Models

语言模型中序数表示的几何结构

Saksham Bassi, Sharvi Tomar

机构 * Gemma Team（杰玛团队） ； Qwen Team（文生团队） 纠错

AI总结 研究在多个语言模型中测试序数任务，发现当序数变量可从令牌身份局部计算时会出现具有位置细胞特征平铺的一维流形，几何计算与架构有关，激活修补证实流形子空间集中任务相关信息。

Journal ref Mechanistic Interpretability Workshop at the 43rd International Conference on Machine Learning, Seoul, South Korea, 2026

DynaVieW: Schema-Guided World Modeling for Understanding Hierarchical Visual Dynamics

DynaVieW：用于理解分层视觉动态的模式引导世界建模

Silin Gao, Hao Zhao, Zeming Chen, Sepideh Mamooler, Antara Raaghavi Bhattacharya, Qiyu Wu, Hiromi Wakaki, Yuki Mitsufuji, Li Mi, Syrielle Montariol, Antoine Bosselut

机构 * EPFL, Switzerland（瑞士联邦理工学院） ； Harvard University（哈佛大学） ； Sony Group Corporation（索尼集团） ； ETH Zurich, Switzerland（瑞士苏黎世联邦理工学院） 纠错

AI总结 针对多模态语言模型难以系统建模视频视觉场景时间演变的问题，提出DynaVieW模型，通过学习交错状态转换序列理解视觉动态，在多架构下联合建模，提升下游视觉叙事创作等任务表现。

Comments ICML 2026

Telescope: Improving Zero Shot Detection of LLM Generated Content By Measuring Token Repetition Probability

望远镜：通过测量令牌重复概率改进大语言模型生成内容的零样本检测

Christopher Nassif, Josh F. Cooper

AI总结 研究区分大语言模型生成文本与人类写作的难题，提出用望远镜困惑度衡量模型令牌重复，揭示该特征在预训练早期出现，能有效进行零样本检测，性能优于其他方法。

Comments 50 pages, ICML, 20 figures, Equal contribution

USE: A Unified Self-Ensembling Framework for Test-Time Prompt Tuning

USE：一种用于测试时提示调整的统一自集成框架

Siru Jiang, Jian Liang, Ran He, Tieniu Tan

机构 * School of Advanced Interdisciplinary Sciences, University of Chinese Academy of Sciences（中国科学院大学先进交叉学科学院） ； NLPR & MAIS, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所国家智能机器人实验室及模式识别实验室） ； Nanjing University（南京大学） 纠错

AI总结 重新审视测试时提示调整（TPT），揭示其优化可视为从自生成伪标签隐式学习，在此基础上提出统一自集成框架（USE），优化时引入自集成策略，实验表明USE及其自集成策略表现出色。

Comments ICML 2026

Evaluating LLM Uncertainty in Long-Form Generation Using Deterministic Ground Truth

使用确定性真实数据评估长文本生成中语言模型的不确定性

Ido Amit, Ido Galil, Ran El-Yaniv

机构 * Technion（技术学院） ； Nvidia（英伟达） 纠错

AI总结 研究针对长文本生成中语言模型不确定性评估难题，引入含单一确定性长文本真值的SALT基准，通过对50多个模型分析揭示关键见解，如置信函数作用、错误驱动因素及推理影响等，为风险关键应用提供参考。

Comments Accepted to the 43rd International Conference on Machine Learning (ICML 2026). Code available at https://github.com/IdoAmit198/SALT

G$^2$TAM: Geometry Grounded Track Anything Model

G$^2$TAM：几何基础的轨迹任意模型

Chenming Zhu, Peizhou Cao, Jingli Lin, Wenbo Hu, Yunlong Ran, Jiangmiao Pang, Tai Wang, Xihui Liu

机构 * HKU（香港大学） ； Shanghai AI Lab（上海人工智能实验室） ； BUAA（北京航空航天大学） ； SJTU（上海交通大学） ； UCLA（加州大学洛杉矶分校） ； ZJU（浙江大学） 纠错

AI总结 研究利用现代前馈3D重建模型的空间一致性，提出G$^2$TAM框架，用无序RGB图像或视频进行3D实例跟踪。核心是跨模态空间编码器，还构建数据集，实验表明该模型有多种优势，为交互式空间推理奠定基础。

Comments Accepted by ICML 2026. Project Page:https://zcmax.github.io/projects/G2TAM/

RADIO1D: Elastic Representations for Condensed Vision Modeling

RADIO1D：用于压缩视觉建模的弹性表示

Greg Heinrich, Mike Ranzinger, Collin McCarthy, Natan Bagrov, Eugene Khvedchenya, Bryan Catanzaro, Jan Kautz, Andrew Tao, Pavlo Molchanov

机构 * NVIDIA（英伟达） 纠错

AI总结 挑战视觉语言模型需固定基于补丁的2D视觉特征的假设，分析微调视觉编码器，基于发现引入RADIO1D，用多教师知识蒸馏等将图像压缩成1D令牌序列，有强分层总结能力，在多模态基准测试中有优势。

Comments Published as main conference paper at ICML 2026

How to Avoid Debate: Scalable AI Safety via Doubly-Efficient Interactive Proofs

如何避免辩论：通过双高效交互式证明实现可扩展的人工智能安全

Liyan Chen, Yael Tauman Kalai, Zoe Xi

机构 * MIT（麻省理工学院） 纠错

AI总结 研究如何避免人工智能模型间的辩论来实现安全验证，提出单证明者交互式证明，给出双高效单证明者交互式证明及论证，用于神谕辅助计算，表明无辩论时交互式验证也可行。

Comments ICML 2026

WeightCLIP: Aligning Datasets and Models for Weight Space Learning

WeightCLIP：为权重空间学习对齐数据集和模型

Aron Asefaw, Konstantinos Tzevelekakis, Damian Falk, Léo Meynent, Damian Borth

机构 * School of Computer Science, University of St.Gallen（圣加尔登大学计算机科学学院） 纠错

AI总结 提出WeightCLIP方法，通过自动编码器和数据集编码器对神经网络及数据集样本编码，用对比目标对齐二者表征，学习数据集对齐的潜在空间，用于不同下游任务，还引入潜在细化过程。

Comments Accepted at ICML 2026

Macro-Prudential AI Governance: A Two-Layer Early Warning and Response System for Frontier AI

宏观审慎人工智能治理：前沿人工智能的双层预警与响应系统

Pranav Mehta

AI总结 针对前沿人工智能治理问题，借鉴巴塞尔协议III框架等，提出宏观审慎预警与响应系统。通过A层特定流程和B层定量指标校准控制，能检测风险积累并设应对途径。

Comments 14 pages, 1 figure, 1 table. Accepted at the Second Workshop on Technical AI Governance Research (TAIGR 2026) at ICML 2026

Aligning Language Models with Selective Prediction

通过选择性预测使语言模型对齐

Gaoxiang Luo, Yifan Wu, Sinian Zhang, Aryan Deshwal, Ju Sun

机构 * Department of Computer Science and Engineering（计算机科学与工程系） ； Bioinformatics and Computational Biology Program（生物信息学与计算生物学项目） ； Division of Biostatistics and Health Data Science（生物统计学与健康数据科学部） ； University of Minnesota Twin Cities（明尼苏达大学双城分校） 纠错

AI总结 研究聚焦提升语言模型可靠性，采用选择性预测策略，在模型训练后对齐阶段，提出基于强化学习的框架RLSR，以风险-覆盖曲线下面积为目标，在域内域外任务中风险-覆盖权衡表现更好。

Comments Accepted by ICML 2026 Agents in the Wild: Safety, Security, and Beyond Workshop, Project Page: https://sun-umn.github.io/RLSR

Anchored Self-Play for Code Repair

用于代码修复的锚定自博弈

Caroline Choi, Zeyneb Kaya, Shirley Wu, Tengyu Ma, Tatsunori Hashimoto, Ludwig Schmidt

AI总结 研究代码修复能力，提出生成器-修复器自博弈，通过强化学习训练单个模型生成并修复错误，引入BugSourceBench测试泛化性，发现问题后提出锚定自博弈，提高修复率。

Comments 43rd International Conference on Machine Learning (ICML 2026)

Reading Between the Dots: Decoding Hidden Computation across Filler Tokens

解读点之间的信息：解码跨填充令牌的隐藏计算

Kaley Brauer, Claudio Mayrink Verdun, Samuel Marks

机构 * Harvard University（哈佛大学） ； Cambridge Boston Alignment Initiative（剑桥波士顿对齐计划） ； Massachusetts Institute of Technology（麻省理工学院） ； Anthropic 纠错

AI总结 研究前沿语言模型对无内容填充令牌的隐藏计算，通过分析两个前沿模型在四个任务家族中的表现，介绍无监督解码管道，能从隐藏状态恢复中间值，证明隐藏计算可从残差流读取。

Comments Accepted to ICML 2026 Mech Interp Workshop, 10 main paper pages, 20 appendix pages

Amortising Bayesian Experimental Design for Sequential Information Gathering in LLMs

用于大语言模型中顺序信息收集的摊销贝叶斯实验设计

Jakob Hartmann, James Harvey, Jhonathan Navott, Erik Y. Wang, Luckeciano C. Melo, Flaviu Cipcigan, Cheng Zhang, Alessandro Abate

机构 * University of Oxford（牛津大学） ； Ellison Institute of Technology（埃里森理工学院） 纠错

AI总结 研究大语言模型在顺序决策中信息收集问题，提出摊销顺序信息收集方法，将贝叶斯实验设计融入模型策略，经实验验证该方法能有效提升成功率并降低推理成本。

Comments 20 pages, 7 figures. Accepted to FoGen 2026: Foundations of Deep Generative Models: Understanding Memorization, Generalization, and Reasoning, an ICML 2026 workshop (non-archival)

Scalable Differentially Private Data Compression via Diffusion and Stochastic Codes

通过扩散和随机码实现可扩展的差分隐私数据压缩

Gergely Flamich, Oykü Sıla Güner, Yanxiao Liu, Deniz Gündüz

机构 * Imperial College London（帝国理工学院） 纠错

AI总结 针对高维数据压缩难题，提出结合随机码与扩散模型的DP-DiPP压缩管道，通过扩展泊松私有表示并结合DiffC，实现差分隐私图像压缩，实验表明其性能远超基线。

Comments To appear in ICML 2026 Workshop on Structured Probabilistic Inference & Generative Modeling

BVS: Bayesian Visual Search with Multimodal Large Language Model for Fine-grained Perception

BVS：用于细粒度感知的基于多模态大语言模型的贝叶斯视觉搜索

Geng Li, Yuxin Peng

AI总结 针对多模态大语言模型在超高分辨率图像细粒度感知的难题，提出BVS框架，将感知设为连续空间尺度流形上的全局优化问题，通过先验引导与后验校正提升性能。

Comments Accepted by ICML 2026. Project page with code: https://github.com/PKU-ICST-MIPL/BVS_ICML2026

Transfer Learning in High-dimensional Ising Models

高维伊辛模型中的迁移学习

Joonho Kim, Seyoung Park

机构 * Graduate School of Artificial Intelligence, KAIST（韩国科学技术院人工智能研究生院） 纠错

AI总结 针对高维伊辛模型估计中目标样本量有限及利用未知相关辅助二元数据集困难的问题，提出迁移学习方法Trans-Ising，结合源筛选规则与两阶段估计程序，经理论分析和实验验证效果良好。

Comments Published as a conference paper at ICML 2026

MORE: A Multilingual Document Parsing Benchmark and Evaluation

MORE：一个多语言文档解析基准和评估

Long Xu, Binghong Wu, Tinghao Yu, Hao Feng, Zhenyu Huang, Haoqing Jiang, Yunhao Wang, Shuo Huang, Feng Zhang

AI总结 研究针对多语言文档解析，现有基准侧重高资源语言。为此引入MORE基准，其具规模大、结构复杂、数据真实的特点，用它评估模型，为长尾语言建性能基线并验证基准有效性。

Comments Accepted to the 43rd International Conference on Machine Learning (ICML 2026). 22 pages, 11 figures. Code and dataset available at https://github.com/zimoqingfeng/MORE

A Precedent-Guided Co-Scientist for Side-Effect-Aware Drug Redesign

一种用于副作用感知药物重新设计的先例引导协同科学家

Yujin Kim, Charmgil Hong

AI总结 提出PRECEDE用于副作用感知药物重新设计，将重新设计视为基于证据的推理，由LLM编排，定位为人监督的科学工作流，可审核、证伪且受先前药理学限制。

Comments Accepted at the ICML 2026 Workshop on AI for Science

See the Emotion: A Facial Emoji Proxy Modeling for EEG Emotion Recognition

看见情感：用于脑电图情感识别的面部表情符号代理建模

Jingjing Hu, Guo Dan, Haofan Cheng, Ying Zeng, Zhan Si, Jinxing Zhou, Meng Wang

机构 * Hefei University of Technology（合肥工业大学） ； PLA Information Engineering University（中国人民解放军信息工程大学） ； University of Science and Technology of China（中国科学技术大学） ； MBZUAI 纠错

AI总结 研究将脑电图可解释性重构为跨模态生成任务，提出面部表情符号代理建模框架，把高维脑电图信号转化为面部表情符号，在相关基准测试中取得先进准确率，能生成忠实面部动画展现大脑情感演变。

Comments Accepted by ICML 2026

Learning Taxonomic Trees with Hierarchical Representation Regularization for Large Multimodal Models

使用层次表示正则化学习大型多模态模型的分类树

Hulingxiao He, Zhi Tan, Yuxin Peng

机构 * PKU-ICST-MIPL（北京大学信息科学技术学院多媒体信息处理实验室） 纠错

AI总结 研究大型多模态模型缺乏分类知识致层次视觉识别一致性低的问题，提出层次表示正则化方法，含语义感知视觉树构建框架，结合两个互补目标，有效捕捉分类结构。

Comments Published as a conference paper at ICML 2026

Induction Heads Interpolate N-Grams

归纳头对N元语法进行插值

Francesco D'Angelo, Oguz Kaan Yuksel, Swathi Shree Narashiman, Nicolas Flammarion

机构 * TML Lab, EPFL, Switzerland（瑞士联邦理工学院TML实验室） ； IIT Madras, India（印度IIT马德拉斯） 纠错

AI总结 研究在k阶马尔可夫链上训练的变压器中的归纳头，识别出两种互补平滑机制，构建实现这两种机制的解缠变压器，结果表明训练后的变压器能恢复预测注意力模式，优于经典基于计数的基线。

Comments Published as a conference paper at ICML 2026. OpenReview: https://openreview.net/forum?id=BSY7jhBxM1

Out-of-Distribution Generalization of Risk Aversion in Language Models

语言模型中风险规避的分布外泛化

Kristina Zhang, Junior Chinomso Okoroafor, Benjamin Maltbie, Andrew Lin, Abhitej Bokka, Elliott Thornley

AI总结 研究训练人工智能在资源方面规避风险能否泛化至高风险场景。通过引入RiskAverseOOD基准测试，用多种方法使模型在低风险时规避风险，发现其能部分泛化至高风险，不同规模和模型家族也有类似效果，但一致性不足。

Comments ICML 2026 Agents in the Wild workshop

Evaluating Time Series Foundation Models for Electricity Price Forecasting: Contamination Risk, Distributional Shifts, and Covariate Dependence

评估用于电价预测的时间序列基础模型：污染风险、分布变化和协变量依赖性

Zhenghua Pan, Ahmed Aziz Ezzat

AI总结 针对电价预测中时间序列基础模型在协变量驱动、非平稳设置下泛化不足的问题，提出双数据集基准框架，评估其多方面表现，发现该模型有竞争力但性能依赖协变量支持，简单集成有潜力。

Journal ref ICML 2026 Foundation Models for Structured Data Workshop, 43rd International Conference on Machine Learning (ICML), Seoul, South Korea

Auditing the Audit: Five Failure Modes in Benchmark-Validity Audits

审核审核：基准有效性审核中的五种失败模式

Yanhang Li, Zhichao Fan, Zexin Zhuang

机构 * European Parliament and Council（欧洲议会和理事会） ； National Institute of Standards and Technology（美国国家标准与技术研究院） ； State Administration for Market Regulation and Standardization Administration of China（中国国家市场监督管理总局和中国国家标准化管理委员会） 纠错

AI总结 研究治理框架要求的基于扰动的构造有效性审核的脆弱性，指出五种管道失败类型并通过案例展示，提出六点尽职调查关卡，定位其为保证级证据的协议。

Comments 18 pages, 4 figures. Accepted at the TAIGR Workshop at ICML 2026

Criterion-Conditional In-Context Learning: Evaluating Criterion-Shift Adaptation in Vision-Language Models

标准条件上下文学习：评估视觉语言模型中的标准转移适应性

Kaiyun Yang, Ruilin Yang, Zhimin Yao, J. Wang, Wei Ge

机构 * Megvii Technology Inc., Beijing, China（美科科技有限公司，北京，中国） 纠错

AI总结 研究提出标准条件上下文学习（CC-ICL）新设置，模型需从上下文推断潜在标准并据此调整预测。为此提出两个评估指标，构建CC-Bench基准。实验发现多数模型有边界偏差，简单多标准训练可改善。

Comments Accepted by ICML 2026

Selecting Samples on Graphs: A Unified Dataset Pruning Framework for Lossless Training Acceleration

图上的样本选择：用于无损训练加速的统一数据集剪枝框架

Dongyue Wu, Zilin Guo, Xiaoyu Li, Jiajia Liu, Jingdong Chen, Nong Sang, Changxin Gao

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 提出基于图的统一数据集剪枝框架，将数据集建模为加权图，通过最大权重团问题选择样本，并设计贪心算法，在多种剪枝比例下优于现有方法，实现ImageNet-1k上40%以上训练加速且不损失精度。

Comments ICML 2026

Pseudospectral Bounds for Transient Amplification in Coupled Gradient Descent

耦合梯度下降中瞬态放大的伪谱界

Ahanaf Hasan Ariq

机构 * Ideal School and College（理想学校和学院） 纠错

AI总结 针对耦合梯度下降中块三角雅可比矩阵的非正态性导致的瞬态放大，提出尖锐的伪谱理论，给出Kreiss常数的上界与匹配极小极大下界，并导出随机耦合下降的有限步迭代复杂度界。

Comments 15 pages, 3 tables. Accepted at the ICML 2026 HiLD Workshop (4th Workshop on High-dimensional Learning Dynamics) as a poster