ICML

Large-scale Uncertainty Quantification for Latent Variable Models Using Subsampling Markov Chain Monte Carlo

基于子抽样马尔可夫链蒙特卡罗的潜变量模型大规模不确定性量化

Xiaoyu Wang, Jonathan H. Huggins

机构 * University of Cambridge（剑桥大学） 纠错

AI总结 针对潜变量模型中SGLD-Gibbs算法超参数调优缺乏理论指导的问题，通过推导统计缩放极限理论，提出确保不确定性量化有意义的调优准则。

Journal ref Proceedings of the 43rd International Conference on Machine Learning, Seoul, South Korea. PMLR 306, 2026

Accurate Large-sample Uncertainty Quantification using Stochastic Gradient Markov Chain Monte Carlo

使用随机梯度马尔可夫链蒙特卡洛进行精确的大样本不确定性量化

Yu Wang, Jie Ding, Jonathan H. Huggins

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

AI总结 针对大批量或模型误设下随机梯度下降和随机梯度Langevin动力学调参困难的问题，提出新的离散时间近似方法，实现稳态协方差、迭代平均协方差和积分自相关时间的精确预测，并给出非渐近误差界。

Journal ref Proceedings of the 43rd International Conference on Machine Learning, Seoul, South Korea. PMLR 306, 2026

Evaluating Bivariate Causal Statements Based on Mutual Compatibility

基于相互兼容性评估双变量因果陈述

Erik Jahn, Dominik Janzing

机构 * California Institute of Technology, USA（加州理工学院，美国） 纠错

AI总结 针对一组变量上的双变量因果陈述，提出基于兼容性分数的评估方法，通过量化因果模型引入的额外混杂程度或全局一致性约束来区分正确与错误的因果陈述，并应用于大语言模型生成的因果主张。

Comments accepted for ICML 2026

When Softmax Fails at the Top: Extreme Value Corrections for InfoNCE

当 Softmax 在顶部失效：InfoNCE 的极值修正

Melihcan Erol, Suat Evren, Oktay Ozel, Alexander Morgan, Jongha Jon Ryu, Lizhong Zheng

机构 * University of Waterloo（滑铁卢大学） 纠错

AI总结 针对 InfoNCE 中 softmax 假设与对比学习嵌入设置不匹配的问题，提出基于极值理论的 WEINCE 修正方法，在五个视觉基准上提升冻结特征评估性能。

Comments Presented in ICML 2026

ARCA: Adapter-Residual Credit Assignment When Token Signals Degenerate

ARCA: 当令牌信号退化时的适配器-残差信用分配

Rodney Lafuente-Mercado

机构 * Rodney Lafuente-Mercado（罗伊德·拉福恩特-默茨） 纠错

AI总结 针对LoRA微调下令牌级信用分配信号退化的问题，提出ARCA方法，利用适配器隐藏状态残差作为令牌显著性度量，无需学习奖励模型或价值头。

Comments Accepted to DEMO 2026: ICML Workshop on Decision-Making from Offline Datasets to Online Adaptation. Non-archival report

Geodesic Flow Matching for Denoising High-Dimensional Structured Representations

用于去噪高维结构化表示的测地流匹配

Karim Habashy, Chris Eliasmith

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

AI总结 针对向量符号代数中空间语义指针的流形约束问题，提出测地流匹配方法，将去噪流限制在环面上，在脉冲神经SLAM系统中实现72%的跟踪误差降低和40%的神经效率提升。

Comments ICML 2026 Main track

Dynamics and Representation Structure of Local Approximations to Gradient-Based Learning in Linear Recurrent Neural Networks

线性递归神经网络中基于梯度学习的局部近似的动力学与表示结构

Ezekiel Williams, Alexandre Payeur, Guillaume Lajoie

AI总结 本文应用动力系统理论分析线性RNN中局部学习算法（RFLO和tBPTT）与BPTT的差异，发现RFLO的解被限制在初始参数的低秩扰动上。

Comments accepted to ICML 2026 as poster. Current version is camera-ready submission

InfoAtlas: A Foundation Model for Zero-Shot Statistical Dependence Estimate

InfoAtlas：用于零样本统计依赖性估计的基础模型

Zhengyang Hu, Yanzhi Chen, Hanxiang Ren, Qunsong Zeng, Youyi Zheng, Adrian Weller, Kaibin Huang, Yanchao Yang

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 提出InfoAtlas，一种基础模型架构，通过单次前向传播直接推断互信息，实现零样本估计，在保持精度的同时获得100倍加速。

Comments Accepted to ICML 2026

MindZero: Learning Online Mental Reasoning With Zero Annotations

MindZero：零标注的在线心智推理学习

Shunchi Zhang, Jin Lu, Chuanyang Jin, Yichao Zhou, Zhining Zhang, Tianmin Shu

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 提出MindZero框架，通过自监督强化学习训练多模态大语言模型，实现高效鲁棒的在线心智推理，无需显式心智状态标注。

Comments ICML 2026. Website: https://scai.cs.jhu.edu/MindZero

LithoGRPO: Fast Inverse Lithography via GRPO Reinforced Flow Matching

LithoGRPO: 通过GRPO强化流匹配的快速逆向光刻

Yao Lai, Xuyuan Xiong, Zeyue Xue, Guojin Chen, Jing Wang, Xihui Liu, Rui Zhang, Robert Mullins, Bei Yu, Ping Luo

机构 * University of Science and Technology of China（中国科学技术大学） ； Tsinghua University（清华大学） 纠错

AI总结 提出LithoGRPO框架，结合流匹配与GRPO强化学习微调，利用物理奖励函数优化掩模，实现高效逆向光刻，性能优于现有方法。

Comments ICML 2026

From Rashomon Theory to PRAXIS: Efficient Decision Tree Rashomon Sets

从Rashomon理论到PRAXIS：高效决策树Rashomon集

Zakk Heile, Hayden McTavish, Varun Babbar, Margo Seltzer, Cynthia Rudin

机构 * Stanford University（斯坦福大学） 纠错

AI总结 针对决策树Rashomon集计算开销大的问题，提出PRAXIS算法，在运行时和内存使用上实现数量级改进，并能恢复几乎完整的Rashomon集。

Comments Accepted to ICML 2026

Positional Encodings Anchor Spatial Structure in Vision Transformers: A Geometric Perspective on Robustness

位置编码锚定视觉Transformer中的空间结构：基于几何视角的鲁棒性研究

Mahmoud Mannes

机构 * ESSTHS 纠错

AI总结 本文通过引入空间相似性距离相关性（SSDC）度量，研究不同位置编码对视觉Transformer内部空间表示几何结构的影响，发现位置编码通过建立索引锚定的空间组织来提升模型在内容破坏性分布偏移下的鲁棒性。

Comments 16 pages (9 main text, 7 appendix). 5 figures (3 main text, 2 appendix) with 8 graphics total. 5 tables (1 main text, 4 appendix). Submitted to NeurIPS 2026 main conference and the ICML 2026 mechanistic interpretability workshop

DLLM-JEPA: Joint Embedding Predictive Architectures for Masked Diffusion Language Models

DLLM-JEPA：用于掩码扩散语言模型的联合嵌入预测架构

Sangdae Nam

机构 * Sangdae Nam 纠错

AI总结 提出DLLM-JEPA，通过将联合嵌入预测架构与掩码扩散语言模型结合，消除显式多视图数据和双梯度前向传播需求，在多个任务上提升准确率并降低训练FLOPs。

Comments 17 pages, 4 figures, 13 tables. Accepted at SPIGM Workshop, ICML 2026

Comprehensive AI governance requires addressing non-model gains

全面的人工智能治理需要解决非模型增益问题

Arthur Goemans, Dan Altman, Noemi Dreksler, Jonas Freund, Milan Gandhi, Zhengdong Wang, Sarah Cogan, Sebastien Krier, Demetra Brady, Lewis Ho, Allan Dafoe

机构 * Stanford University（斯坦福大学） ； UC Berkeley（加州大学伯克利分校） ； Open Philanthropy（开放哲学基金会） 纠错

AI总结 本文提出非模型增益的概念，包括推理增益、系统增益和资产增益，并论证这些增益会削弱以模型为中心的治理有效性，进而提出超越模型层面的治理方法。

Comments This paper has been accepted to ICML 2026 (Position paper track): https://openreview.net/forum?id=V3O1sHpKxX

Position: the Stochastic Parrot in the Coal Mine. Model Collapse is a Threat to Low-Resource Communities

立场：煤矿中的随机鹦鹉。模型崩溃对低资源社区的威胁

Devon Jarvis, Richard Klein, Benjamin Rosman, Steven James, Stefano Sarao Mannelli

AI总结 本文探讨模型崩溃（生成模型在先前模型输出上训练导致的性能下降）如何通过降低训练效率、扭曲数据分布，不成比例地影响低资源和边缘化社区，并呼吁采取行动。

Comments 14 pages, 1 figure, 1 table, International Conference on Machine Learning

How Language Models Process Negation

语言模型如何处理否定

Zhejian Zhou, Tianyi Zhou, Robin Jia, Jonathan May

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

AI总结 研究大型语言模型处理否定的内部机制，发现模型内部存在正确处理的组件，但后期注意力层导致错误，通过消融可提升准确率；模型同时采用抑制和构建两种机制，其中构建机制更显著。

Comments ICML 2026

Beyond Additive Decompositions: Interpretability Through Separability

超越加性分解：通过可分离性实现可解释性

Jinyang Liu, Munir Eberhardt Hiabu

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

AI总结 提出张量分离学习（TSL）回归模型，通过阶段式贪心过程与正交重拟合学习单变量特征函数的秩1乘积之和，避免加性分解中的信号抵消和外推问题，实现忠实于拟合分量的可视化，并提供近似率保证。

Comments To appear in Proceedings of the 43rd International Conference on Machine Learning (ICML 2026)

CamGeo: Sparse Camera-Conditioned Image-to-Video Generation with 3D Geometry Priors

CamGeo: 基于稀疏相机条件的图像到视频生成与3D几何先验

Xuanyi Liu, Deyi Ji, Liqun Liu, Lanyun Zhu, Xuhang Chen, Qianxiong Xu, Peng Shu, Huan Yu, Jie Jiang, Feng Gao, Siwei Ma

AI总结 提出CamGeo框架，通过从预训练视频到3D模型蒸馏3D几何知识，结合关键帧轨迹蒸馏、跨帧一致性蒸馏和三阶段课程学习，解决稀疏相机条件下图像到视频生成中的姿态漂移和运动不连续问题。

Comments Accepted by ICML 2026

Beyond Trajectory-Level Attribution: Graph-Based Credit Assignment for Agentic Reinforcement Learning

超越轨迹级归因：基于图的智能体强化学习信用分配

Xin Cheng, Shuo He, Lang Feng, HaiYang Xu, Ming Yan, Lei Feng, Bo An

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 提出GraphGPO方法，通过构建状态转移图并利用全局信息估计各状态到任务目标的距离，实现步骤级信用分配，提升训练效率和性能。

Comments Accepted by ICML 2026

MIC: Maximizing Informational Capacity in Adaptive Representations via Isotropic Subspace Alignment

MIC: 通过各向同性子空间对齐最大化自适应表示中的信息容量

Dang Nguyen Hong, Nhi Ngoc-Yen Nguyen, Huy-Hieu Pham

机构 * National University of Singapore（新加坡国立大学） 纠错

AI总结 针对多尺度表示中的维度冗余和谱坍缩问题，提出MIC框架，通过各向同性子空间对齐、软坍缩正则化和谱各向同性正则化，结合自蒸馏目标生成语义密集且高判别力的表示，在高压缩场景下显著优于基线。

Comments Accepted at the GlobalSouthML Workshop at ICML 2026. 8 pages, 2 figures

EVL-ECG: Efficient ECG Interpretation With Multi-Aspect Heterogeneous Knowledge Distillation

EVL-ECG：面向多视角异构知识蒸馏的高效心电图解读

Dang Nguyen Hong, Nhi Ngoc-Yen Nguyen, Huy-Hieu Pham

机构 * University of Notre Dame（诺丁汉大学） 纠错

AI总结 提出EVL-ECG框架，通过多头交叉注意力对齐、最优传输视觉特征匹配和几何结构关系匹配三种创新方法，实现跨架构知识蒸馏，在资源受限环境下高效解读心电图。

Comments 7Accepted at the SD4H Workshop at ICML 2026. 7 pages, 3 figures

Position: Stop Chasing the C-index when Evaluating Survival Analysis Models

立场：评估生存分析模型时停止追逐C指数

Christian Marius Lillelund, Shi-ang Qi, Russell Greiner, Christian Fischer Pedersen

机构 * University of Copenhagen（哥本哈根大学） 纠错

AI总结 本文批判性审视生存分析中的评估实践，指出C指数等一致性指标被过度使用且与建模目标错位，提出双螺旋阶梯框架以确保评估指标与模型假设对齐，并通过实验展示错位导致的误导性比较。

Comments ICML 2026 Position Paper Track (Spotlight)

Honest Lying: Understanding Memory Confabulation in Reflexive Agents

诚实撒谎：理解反射型智能体中的记忆虚构

Prakhar Dixit, Sadia Kamal, Tim Oates

机构 * University of Cambridge（剑桥大学） 纠错

AI总结 研究反射型智能体在自我反思中产生记忆虚构的问题，提出反射重复率（RRR）指标检测该现象，并通过程序化提取失败信号缓解问题。

Comments Accepted to ICML 2026 Workshop "Failure Modes in Agentic AI"

Many-Shot CoT-ICL: Making In-Context Learning Truly Learn

Many-Shot CoT-ICL: 使上下文学习真正学习

Tsz Ting Chung, Lemao Liu, Mo Yu, Dit-Yan Yeung

机构 * The University of Hong Kong（香港大学） 纠错

AI总结 研究多示例思维链上下文学习在推理任务中的特性，提出曲线演示选择方法，在数学任务上提升5.42个百分点。

Comments Accepted by ICML 2026

Gradient Preconditioning for Efficient and Reliable Reward-Guided Generation

梯度预处理实现高效可靠的奖励引导生成

Jisung Hwang, Minhyuk Sung

机构 * KAIST（韩国科学技术院） 纠错

AI总结 提出一种梯度预处理方法，通过将奖励梯度投影到白高斯噪声可行集上，实现一步生成模型在奖励引导生成中的高效性和可靠性，防止奖励黑客攻击并加速优化。

Comments ICML 2026

Contrastive Representation Regularization for Vision-Language-Action Models

视觉-语言-动作模型的对比表示正则化

Taeyoung Kim, Jimin Lee, Myungkyu Koo, Dongyoung Kim, Kyungmin Lee, Changyeon Kim, Younggyo Seo, Jinwoo Shin

机构 * KAIST（韩国科学技术院） 纠错

AI总结 提出机器人状态感知对比损失（RS-CL），通过对比学习对齐VLM表示与机器人本体感受状态，提升VLA模型在机器人操作任务中的性能。

Comments ICML 2026

Training Diffusion Language Models for Black-Box Optimization

训练扩散语言模型用于黑盒优化

Zipeng Sun, Can Chen, Ye Yuan, Haolun Wu, Jiayao Gu, Christopher Pal, Xue Liu

AI总结 针对离线黑盒优化问题，提出通过扩散语言模型的双向建模能力，结合统一语料构建和两阶段后训练框架，实现高效设计生成，在Design-Bench上达到最优性能。

Comments Accepted at ICML 2026 as a Spotlight Paper (top 2.2% of submissions)

Variable Clustering via Distributionally Robust Nodewise Regression

基于分布鲁棒节点回归的变量聚类

Kaizheng Wang, Xiao Xu, Xun Yu Zhou

机构 * Department of Industrial Engineering and Operations Research & The Data Science Institute, Columbia University（工业工程与运筹学系及数据科学研究院，哥伦比亚大学） 纠错

AI总结 本文提出一种分布鲁棒节点回归方法，通过凸松弛、数据驱动鲁棒区域选择和ADMM算法，实现多因子块模型下的变量聚类，并在数值实验中展示其优越性能。

Comments ICML 2026

From Abstraction to Instantiation: Learning Behavioral Representation for Vision-Language-Action Model

从抽象到实例化：学习视觉-语言-动作模型的行为表示

Bing Hu, Zaijing Li, Rui Shao, Junda Chen, April Hua Liu, Wei-Shi Zheng, Liqiang Nie

机构 * Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳）） ； Shenzhen Loop Area Institute（深圳河套学院） ； PengCheng Laboratory（鹏城实验室） ； Sun Yat-sen University（中山大学） ； Shanghai University of Finance（上海财经大学） 纠错

AI总结 提出BehaviorVLA框架，通过因果Mamba架构的视觉运动行为编码器和相位条件行为解码器学习时间一致的行为表示，在分布偏移下实现鲁棒操作，在多个基准上达到最优成功率并展现数据效率。

Comments ICML 2026 Oral

Model-Dowser: Data-Free Importance Probing to Mitigate Catastrophic Forgetting in Multimodal Large Language Models

Model-Dowser：无数据重要性探测以缓解多模态大语言模型中的灾难性遗忘

Hyeontaek Hwang, Nguyen Dinh Son, Daeyoung Kim

AI总结 提出Model-Dowser，一种基于重要性评分的稀疏微调方法，通过联合考虑权重幅度、输入激活和输出敏感性来缓解多模态大语言模型微调中的灾难性遗忘，在LLaVA和NVILA上优于现有方法。

Comments Accepted at ICML 2026. Code link: https://model-dowser.github.io