ICML

Conformal Thinking: Risk Control for Reasoning on a Compute Budget

conformal thinking: 用于计算预算上的推理风险控制

Xi Wang, Anushri Suresh, Alvin Zhang, Rishi More, William Jurayj, Benjamin Van Durme, Mehrdad Farajtabar, Daniel Khashabi, Eric Nalisnick

机构 * Johns Hopkins University, Baltimore, Maryland, USA（约翰霍普金斯大学，巴尔的摩，马里兰州，美国） ； Apple, USA（苹果公司，美国） 纠错

AI总结 本文提出一种风险控制框架，通过设置上界和下界阈值来优化计算预算，提升推理效率并降低错误率。

Comments ICMl 2026

Any3D-VLA: Enhancing VLA Robustness via Diverse Point Clouds

Any3D-VLA：通过多样化点云增强VLA鲁棒性

Xianzhe Fan, Shengliang Deng, Xiaoyang Wu, Yuxiang Lu, Zhuoling Li, Mi Yan, Yujia Zhang, Zhizheng Zhang, He Wang, Hengshuang Zhao

机构 * School of Computing and Data Science, The University of Hong Kong, Hong Kong SAR, China（计算与数据科学学院，香港大学，香港特别行政区，中国） ； School of Computing（计算学院） ； Peking University, Beijing, China（北京大学，北京，中国） 纠错

AI总结 本文提出Any3D-VLA，通过整合点云与2D表示，提升VLA在复杂场景中的鲁棒性，解决3D数据稀缺和领域差距问题。

Comments ICML 2026

OPT-Engine: Benchmarking the Limits of LLMs in Optimization Modeling via Complexity Scaling

OPT-Engine：通过复杂度扩展评估大语言模型在优化建模中的极限

Yitian Chen, Cheng Cheng, Yinan Sun, Zi Ling, Dongdong Ge

机构 * Shanghai University of Finance and Economics（上海财经大学） ； Booth School of Business, University of Chicago（芝加哥大学商学院） ； Antai School of Economics and Management, Shanghai Jiao Tong University（上海交通大学安泰经济管理学院） 纠错

AI总结 本文通过OPT-ENGINE框架评估大语言模型在优化建模中的能力与扩展性，发现纯文本推理在任务复杂度增加时存在鲁棒性差距，外部工具无法满足全局优化约束，指出约束自动建模是当前SOTA范式的瓶颈。

Journal ref Proceedings of the 43rd International Conference on Machine Learning, Seoul, South Korea. PMLR 306, 2026

GenExam: A Multidisciplinary Text-to-Image Exam

GenExam：多学科文本到图像考试

Zhaokai Wang, Penghao Yin, Xiangyu Zhao, Changyao Tian, Yu Qiao, Wenhai Wang, Jifeng Dai, Gen Luo

机构 * Shanghai Jiao Tong University（上海交通大学） ； Tsinghua University（清华大学） ； Shanghai AI Laboratory（上海人工智能实验室） ； The Chinese University of Hong Kong（香港中文大学） 纠错

AI总结 GenExam是首个多学科文本到图像考试基准，包含10个学科1000个样本，通过四级分类评估模型的综合能力，揭示开源模型与闭源模型间的显著差距。

Comments Accepted by ICML 2026

Privacy Amplification in Differentially Private Zeroth-Order Optimization with Hidden States

差分隐私零阶优化中的隐私放大

Eli Chien, Wei-Ning Chen, Pan Li

机构 * Department of Electrical Engineering, National Taiwan University, Taiwan（台湾国立台湾大学电子工程系） ； NTU Artificial Intelligence Center of Research Excellence (NTU AI-CoRE), Taiwan（国立台湾大学人工智能研究中心（NTU AI-CoRE）） ； Microsoft, USA（微软公司） ； Department of Electrical and Computer Engineering, Georgia Institute of Technology, USA（佐治亚理工学院电子与计算机工程系） 纠错

AI总结 本文研究了在差分隐私和内存约束下零阶优化的隐私放大问题，提出混合噪声机制和新耦合分析，首次获得收敛的隐状态差分隐私界。

Comments ICML 2026

Understanding High-Dimensional Bayesian Optimization

理解高维贝叶斯优化

Leonard Papenmeier, Matthias Poloczek, Luigi Nardi

机构 * Department of Computer Science, Lund University, Lund, Sweden（隆德大学计算机科学系） ； Amazon（亚马逊） 纠错

AI总结 本文研究高维贝叶斯优化失败原因，发现高斯过程初始化导致梯度消失是关键问题，提出基于最大似然估计的改进方法在实际应用中表现优异。

Comments 22 pages, 21 figures. Accepted to ICML 2025

Journal ref Proceedings of the 42nd International Conference on Machine Learning, PMLR 267:47902-47923, 2025

A Unified Framework for Entropy Search and Expected Improvement in Bayesian Optimization

熵搜索与期望改进在贝叶斯优化中的统一框架

Nuojin Cheng, Leonard Papenmeier, Stephen Becker, Luigi Nardi

机构 * Department of Applied Mathematics, University of Colorado Boulder（科罗拉多大学波尔得分校应用数学系） ； Department of Computer Science, Lund University（吕勒欧大学计算机科学系） 纠错

AI总结 本文提出统一框架Variational Entropy Search，揭示EI与信息论获取函数的紧密关联，并提出新型获取函数VES-Gamma，在多个基准测试中表现优异。

Journal ref Proceedings of the 42nd International Conference on Machine Learning, PMLR 267:10106-10120, 2025

R2R2: Robust Representation for Intensive Experience Reuse via Redundancy Reduction in Self-Predictive Learning

R2R2：通过冗余减少在自预测学习中的鲁棒表示

Sanghyeob Song, Donghyeok Lee, Jinsik Kim, Sungroh Yoon

机构 * Interdisciplinary Program in Artificial Intelligence, Seoul National University（人工智能交叉学科项目，首尔国立大学） ； Department of Electrical and Computer Engineering, Seoul National University（电子与计算机工程系，首尔国立大学） 纠错

AI总结 本文提出R2R2方法，通过减少冗余提升自预测学习中密集数据重用的鲁棒性，有效缓解过拟合问题，在11个连续控制任务中验证其有效性。

Comments Accepted at the Forty-Third International Conference on Machine Learning (ICML 2026). This is the camera-ready version

Towards Resource-Efficient LLMs: End-to-End Energy Accounting of Distillation Pipelines

迈向资源高效的大型语言模型：蒸馏流水线的端到端能源核算

Katherine Lambert, Sasha Luccioni

机构 * University of Toronto（多伦多大学） 纠错

AI总结 本文研究了蒸馏流水线的端到端能源成本，揭示了传统方法的能耗问题，并提出开放源代码工具用于标准化蒸馏研究。

Comments Accepted to the 43rd International Conference on Machine Learning (ICML 2026). 11 pages, 6 figures

NAACA: Training-Free NeuroAuditory Attentive Cognitive Architecture with Oscillatory Working Memory for Salience-Driven Attention Gating

NAACA：无训练神经听觉注意力认知架构：具有振荡工作记忆的显著性驱动注意力门控

Zhongju Yuan, Geraint Wiggins, Dick Botteldooren

机构 * WAVES Research Group, Ghent University, Gent, Belgium（根特大学WAVES研究组，比利时根特） ； AI Lab, Vrije Universiteit Brussel, Brussel, Belgium（布鲁塞尔自由大学AI实验室，比利时布鲁塞尔） ； EECS, Queen Mary University of London, London, UK（伦敦大学学院女王学院电子工程与计算机科学系，英国伦敦） 纠错

AI总结 NAACA通过振荡工作记忆实现听觉显著性过滤，提升音频理解精度并减少冗余处理，实验显示在XD-Violence数据集上AP提升17.1%。

Comments Accepted as a regular paper by ICML 2026

Phy-CoSF: Physics-Guided Continuous Spectral Fields Reconstruction and Super-Resolution for Snapshot Compressive Imaging

Phy-CoSF：基于物理的连续光谱场重建与超分辨率方法用于快照压缩成像

Wudi Chen, Zhiyuan Zha, Xin Yuan, Shigang Wang, Bihan Wen, Jiantao Zhou, Gang Yan, Zipei Fan, Ce Zhu

机构 * College of Communication Engineering, Jilin University, Changchun 130012, China. ； School of Engineering, Westlake University, Hangzhou, Zhejiang 310024, China. ； School of Electrical \& Electronic Engineering, Nanyang Technological University, Singapore 639798. ； Department of Computer ； Information Science, University of Macau, Macau 999078, China. ； College of Computer Science ； Technology, Jilin University, Changchun 130012, China. ； College of Artificial Intelligence, Jilin University, Changchun 130012, China. ； School of Information ； Communication Engineering, University of Electronic Science 纠错

AI总结 本文提出Phy-CoSF，结合深度展开网络与隐式神经表示，实现CASSI的连续光谱重建与超分辨率，通过双阶段架构和连续光谱场模块提升高保真HIS生成。

Comments 15 pages, 10 figures, accepted by ICML 2026!

Position: Assistive Agents Need Accessibility Alignment

位置：辅助代理需要可访问性对齐

Jie Hu, Changyuan Yan, Yu Zheng, Ziqian Wang, Jiaming Zhang

机构 * School of Artificial Intelligence and Robotics（人工智能与机器人学院） ； Hunan University（湖南大学） ； Changsha, China（中国长沙） 纠错

AI总结 本文指出辅助代理设计需考虑可访问性对齐，通过分析778个任务实例，揭示现有代理在辅助场景中的失败原因，并提出生命周期导向的设计流程。

Comments 9 pages, 1 figures, Accepted to ICML 2026

DP-KFC: Data-Free Preconditioning for Privacy-Preserving Deep Learning

DP-KFC：无数据预处理用于隐私保护深度学习

Marc Molina Van den Bosch, Riccardo Taiello, Albert Sund Aillet, Andrea Protani, Miguel Angel Gonzalez Ballester, Luigi Serio

机构 * CERN（欧洲核子研究中心） ； Universitat Pompeu Fabra（庞培法布拉大学） 纠错

AI总结 DP-KFC通过合成噪声构建KFAC预处理器，无需隐私或公开数据，在强隐私条件下优于DP-SGD，实现无隐私预算消耗的曲率估计。

Comments Accepted at the International Conference on Machine Learning (ICML 2026). 9 pages main text + appendix, 5 figures, 2 tables. Code: https://github.com/molinamarcvdb/DP-KFC

Trajectory-Level Data Augmentation for Offline Reinforcement Learning

轨迹级数据增强用于离线强化学习

Tobias Schmähling, Matthias Burkhardt, Tobias Windisch

机构 * University of Applied Sciences Kempten（凯普滕应用科学大学） 纠错

AI总结 本文提出一种离线强化学习的数据增强方法，通过利用任务结构和奖励、价值函数及日志策略的几何关系，提升有限子最优轨迹下的模型训练效果。

Comments 26 pages, 25 figures, Accepted at ICML 2026

BoostAPR: Boosting Automated Program Repair via Execution-Grounded Reinforcement Learning with Dual Reward Models

BoostAPR：通过基于执行的强化学习与双奖励模型提升自动化程序修复

Yuanhao Li, Hongbo Wang, Xiaotang Shang, Xunzhu Tang, Yiming Cao, Xuhong Chen

机构 * State Key Laboratory of Networking and Switching Technology（网络与交换技术国家重点实验室） ； Beijing University of Posts and Telecommunications（北京邮电大学） ； University of Luxembourg（卢森堡大学） 纠错

AI总结 BoostAPR通过基于执行的强化学习与双奖励模型，解决程序修复中反馈稀疏和奖励粗粒度的问题，实现40.7%的SWE-bench Verified准确率，展现强大的跨语言泛化能力。

Comments 21 pages, 2 figures. Accepted at ICML 2026

ANTIC: Adaptive Neural Temporal In-situ Compressor

ANTIC：自适应神经时间原地压缩器

Sandeep S. Cranganore, Andrei Bodnar, Gianluca Galletti, Fabian Paischer, Johannes Brandstetter

机构 * Institute for Machine Learning, Ellis Unit, JKU Linz, Austria（机器学习研究所，埃利斯单位，JKU林茨，奥地利） ； University of Manchester, United Kingdom（曼彻斯特大学，英国） 纠错

AI总结 针对高分辨率时空演变场的存储需求，ANTIC通过自适应神经时间原地压缩技术，结合时间选择器和空间神经压缩模块，实现高效压缩，减少存储需求并提升物理准确性。

Comments 31 pages, 19 figures, 9 Tables; Accepted at ICML 2026; First authors contributed equally

Journal ref The Forty-Third International Conference on Machine Learning 2026

SpatialReward: Bridging the Perception Gap in Online RL for Image Editing via Explicit Spatial Reasoning

SpatialReward: 通过显式空间推理弥合在线强化学习中图像编辑的感知差距

Yancheng Long, Yankai Yang, Hongyang Wei, Wei Chen, Tianke Zhang, Haonan fan, Changyi Liu, Kaiyu Jiang, Jiankang Chen, Kaiyu Tang, Bin Wen, Fan Yang, Tingting Gao, Han Li, Shuo Yang

机构 * Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳）） ； The Hong Kong University of Science and Technology（香港科学与技术大学） ； Tsinghua Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生学院，清华大学） 纠错

AI总结 本文提出SpatialReward，通过显式空间推理提升在线强化学习中图像编辑的感知准确性，其在MMRB2和EditReward-Bench上表现优异，并在MultiEditReward-Bench上超越专用评估器。

Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026)

OmniSIFT: Modality-Asymmetric Token Compression for Efficient Omni-modal Large Language Models

OmniSIFT: 多模态非对称令牌压缩用于高效的多模态大语言模型

Yue Ding, Yiyan Ji, Jungang Li, Xuyang Liu, Xinlong Chen, Junfei Wu, Bozhou Li, Bohan Zeng, Yang Shi, Yushuo Guan, Yuanxing Zhang, Jiaheng Liu, Qiang Liu, Pengfei Wan, Liang Wang

机构 * New Laboratory of Pattern Recognition (NLPR), Institute of Automation, Chinese Academy of Sciences (CASIA)（模式识别新实验室（NLPR）、自动化研究所、中国科学院（CASIA）） ； Nanjing University（南京大学） ； The Hong Kong University of Science（香港科学大学） ； Sichuan University（四川大学） ； Peking University（北京大学） 纠错

AI总结 OmniSIFT通过非对称令牌压缩框架提升多模态大语言模型效率，采用时空视频修剪和视觉引导音频选择模块，实现低参数高鲁棒性。

Comments [ICML 2026] Code Link: https://github.com/dingyue772/OmniSIFT

DiscoverLLM: From Executing Intents to Discovering Them

DiscoverLLM：从执行意图到发现意图

Tae Soo Kim, Yoonjoo Lee, Jaesang Yu, John Joon Young Chung, Juho Kim

机构 * University of Michigan（密歇根大学） 纠错

AI总结 DiscoverLLM通过引入新的用户模拟器，帮助用户形成和发现意图，提升任务性能并减少对话长度。

Comments Accepted at ICML 2026

Auditing Sybil: Explaining Deep Lung Cancer Risk Prediction Through Generative Interventional Attributions

审计Sybil：通过生成干预性归因解释深度肺癌风险预测

Bartlomiej Sobieski, Jakub Grzywaczewski, Karol Dobiczek, Mateusz Wójcik, Tomasz Bartczak, Patryk Szatkowski, Przemysław Bombiński, Matthew Tivnan, Przemyslaw Biecek

机构 * National Lung Screening Trial Research Team（国家肺癌筛查试验研究组） 纠错

AI总结 本文提出S(H)NAP框架，通过专家放射科医生验证的生成干预性归因，揭示Sybil模型在区分恶性肺结节与良性病变时的失效模式，包括对不合理伪影的敏感性和径向偏差。

Comments ICML 2026

Do Activation Verbalization Methods Convey Privileged Information?

激活 verbalization 方法是否传递了特权信息？

Millicent Li, Alberto Mario Ceballos Arroyo, Giordano Rogers, Naomi Saphra, Byron C. Wallace

机构 * Northeastern University（东北大学） ； Kempner Institute, Harvard University（哈佛大学凯姆纳研究所） ； Boston University（波士顿大学） 纠错

AI总结 本文评估了激活 verbalization 方法的有效性，发现其可能反映生成器模型的知识而非目标模型的操作，需更精准的基准测试。

Comments ICML 2026. 41 pages, 23 tables, 6 figures

Understanding Catastrophic Forgetting In LoRA via Mean-Field Attention Dynamics

通过均场注意力动力学理解LoRA中的灾难性遗忘

Hugo Koubbi, Louis Hernandez, Matthieu Boussard

AI总结 本文通过均场自注意力玩具模型研究LoRA的灾难性遗忘问题，分析扰动范数和Transformer深度对遗忘行为的影响，并通过实验验证理论结果。

Comments New version accepted at ICML 2026, with new results and without previous results

Pareto-Guided Optimal Transport for Multi-Reward Alignment

基于帕累托前沿的多奖励对齐最优传输

Ying Ba, Tianyu Zhang, Mohan Zhou, Yalong Bai, Wenyi Mo, Guiwei Zhang, Bing Su, Ji-Rong Wen

机构 * Gaoling School of Artificial Intelligence, Renmin University of China, Beijing, China（中国人民大学北京校区人工智能学院） ； Beijing Key Laboratory of Research on Large Models（北京大模型研究关键实验室） ； Engineering Research Center of Next-Generation Intelligent Search（下一代智能搜索与推荐工程技术研究中心） ； Rutgers University（罗格斯大学） 纠错

AI总结 本文提出帕累托前沿引导的最优传输框架，通过构建任务特定的帕累托前沿并利用分布感知最优传输将支配样本映射到前沿，结合在线和离线优化策略，引入联合支配率和联合坍塌率作为评估指标，实验显示在多奖励协同和对抗攻击中优于基线方法。

Comments Accepted to ICML 2026

Neural QAOA$^{2}$: Differentiable Joint Graph Partitioning and Parameter Initialization for Quantum Combinatorial Optimization

神经QAOA²：用于量子组合优化的可微联合图划分和参数初始化

Zubin Zheng, Jiahao Wu, Shengcai Liu

机构 * Guangdong Provincial Key Laboratory of Brain-Inspired Intelligent Computation, Department of CSE, SUSTech（脑启发智能计算广东省重点实验室，计算机科学与工程系，南方科技大学） 纠错

AI总结 本文提出Neural QAOA²，通过可微联合生成图划分和初始参数，解决传统QAOA²中图划分与量子优化目标不匹配及拓扑无关参数初始化的问题，实验表明其在多种实例上表现优异。

Comments Accepted to ICML 2026

Position: Agentic AI System Is a Foreseeable Pathway to AGI

位置：代理AI系统是实现AGI的可预见路径

Junwei Liao, Shuai Li, Muning Wen, Jun Wang, Weinan Zhang

机构 * Shanghai Jiao Tong University（上海交通大学） ； Shanghai Innovation Institute（上海创新研究院） ； University College London（伦敦大学学院） 纠错

AI总结 本文挑战单一模型扩展是实现AGI的唯一路径，提出代理AI作为掌握复杂异质任务的必要范式，通过理论推导对比单一学习器与代理系统的优化约束，展示代理AI在泛化和样本效率上的指数级优势。

Comments Accepted by ICML'26 Position Track

Certified Robustness under Heterogeneous Perturbations via Hybrid Randomized Smoothing

通过混合随机平滑实现异质扰动下的认证鲁棒性

Blaise Delattre, Hengyu Wu, Paul Caillon, Wei Yang Bryan Lim, Yang Cao

机构 * Department of Computer Science, School of Computing, Institute of Science Tokyo, Tokyo, Japan（东京科学研究所计算机科学系） ； College of Computing and Data Science, Nanyang Technological University, Singapore（南洋理工大学计算机与数据科学学院） ； PSL University, Paris, France（巴黎高等师范学院） 纠错

AI总结 本文提出统一的混合随机平滑框架，针对混合离散-连续输入，基于可解析的Neyman-Pearson联合最坏情况问题，提供闭式一维证书，扩展了高斯和离散随机平滑，应用于多模态安全过滤。

Comments ICML 2026. Code: https://github.com/tdsai-lab/hybrid-randomized-smoothing

From Generalist to Specialist Representation

从通用到专业表征

Yujia Zheng, Fan Feng, Yuke Li, Shaoan Xie, Kevin Murphy, Kun Zhang

机构 * CMU（卡内基梅隆大学） ； UIUC（伊利诺伊大学香槟分校） ； UCSD（加州大学圣地亚哥分校） ； MBZUAI（穆斯林人工智能研究所） ； UMD（马里兰大学） ； UBC（不列颠哥伦比亚大学） 纠错

AI总结 研究在非参数设置下如何通过非监督方式识别时间步间任务结构，并利用稀疏正则化分离任务相关潜在表征，为从通用到专业模型的理论保障提供新思路。

Comments ICML 2026

All Circuits Lead to Rome: Rethinking Functional Anisotropy in Circuit and Sheaf Discovery for LLMs

所有电路都通向罗马：重新思考用于大语言模型的电路和sheaf发现中的功能性各向异性

Xi Chen, Mingyu Jin, Jingcheng Niu, Yutong Yin, Jinman Zhao, Bangwei Guo, Dimitris N. Metaxas, Zhaoran Wang, Yutao Yue, Gerald Penn

机构 * Rutgers University（罗格斯大学） ； Northwestern University（西北大学） ； The Hong Kong University of Science and Technology (Guangzhou)（香港科学与技术大学（广州）） ； University of Toronto（多伦多大学） 纠错

AI总结 本文挑战了电路和sheaf发现中关于函数局部化的假设，展示单个任务可由多个结构不同的电路或sheaf支持，并提出Overlap-Aware Sheaf Repulsion方法以发现高表现低重叠的机制。

Comments ICML 2026

RMNP: Row-Momentum Normalized Preconditioning for Scalable Matrix-Based Optimization

RMNP：基于行动量归一化的可扩展矩阵优化预条件化

Shenyang Deng, Zhuoli Ouyang, Tianyu Pang, Zihang Liu, Ruochen Jin, Shuhua Yu, Yaoqing Yang

机构 * Dartmouth College（达特茅斯学院） ； International Computer Science Institute（国际计算机科学研究所） ； University of California, Berkeley（加州大学伯克利分校） ； Meta 纠错

AI总结 RMNP通过行归一化替代牛顿-施卢茨迭代，提升预条件化效率，保持优化性能，实验显示其在大语言模型预训练中表现优异。

Comments The 43rd International Conference on Machine Learning (ICML 2026)

Test-Time Training with KV Binding Is Secretly Linear Attention

测试时训练与KV绑定实际上是秘密的线性注意力

Junchen Liu, Sven Elflein, Or Litany, Zan Gojcic, Ruilong Li

机构 * NVIDIA, Toronto, Ontario, Canada（NVIDIA，多伦多，安大略省，加拿大） ； University of Toronto, Toronto, Ontario, Canada（多伦多大学，多伦多，安大略省，加拿大） ； Vector Institute, Toronto, Ontario, Canada（向量研究所，多伦多，安大略省，加拿大） ； Technion -- Israel Institute of Technology, Haifa, Israel（技术ion -- 以色列理工学院，海法，以色列） 纠错

AI总结 本文揭示测试时训练与KV绑定实际上是学习的线性注意力，而非记忆，提出简化架构、并行计算和统一模型形式的改进方法。

Comments ICML 2026, Webpage: https://research.nvidia.com/labs/sil/projects/tttla/