ICML

The Expressive Power of Low Precision Softmax Transformers with (Summarized) Chain-of-Thought

低精度softmax变换器的表达能力（摘要）链式思维

Moritz Brösamle, Stephan Eckstein

机构 * Department of Mathematics, University of Tübingen, Germany（图宾根大学数学系） 纠错

AI总结 本文研究了低精度softmax变换器在链式思维中的表达能力，通过构造三元激活和分离注意力分数的硬max变换器来模拟图灵机，从而将构造转换为等效的softmax变换器，并分析了最近提出的总结链式思维范式在模拟图灵机时的效率。

Comments Accepted to ICML 2026

Parameter-free Dynamic Regret: Time-varying Movement Costs, Delayed Feedback, and Memory

无参数动态遗憾：时变移动成本、延迟反馈和记忆

Hao Qiu, Andrew Jacobsen, Emmanuel Esposito, Mengxiao Zhang

机构 * University of Iowa（爱荷华大学） ； National University of Singapore（新加坡国立大学） 纠错

AI总结 本文提出一种新算法，在具有时变移动成本的在线凸优化中，首次实现了比较器自适应的动态遗憾界，并应用于延迟反馈和时变记忆问题。

Comments 28 pages; v2: ICML 2026; v3: typos + fixed document outline

VLA-Arena: An Open-Source Framework for Benchmarking Vision-Language-Action Models

VLA-Arena：一个用于基准测试视觉-语言-动作模型的开源框架

Borong Zhang, Jiahao Li, Jiachen Shen, Yuhao Zhang, Yishuai Cai, Lu Liu, Hailu Ji, Yuanpei Chen, Juntao Dai, Jiaming Ji, Yaodong Yang

AI总结 提出VLA-Arena基准，通过三正交轴（任务结构、语言命令、视觉观察）量化任务难度，系统评估视觉-语言-动作模型的能力边界与失败模式。

Comments Accepted by ICML 2026

Accelerating Q-learning through Efficient Value-Sharing across Actions

通过跨动作的高效值共享加速Q学习

Prabhat Nagarajan, Brett Daley, Martha White, Marlos C. Machado

机构 * Department of Computing Science, University of Alberta（阿尔伯塔大学计算机科学系） ； Alberta Machine Intelligence Institute（阿尔伯塔人工智能研究所） ； Meta 纠错

AI总结 提出均值扩展层，通过跨动作共享值和学习低范数表示来加速动作值学习，在深度Q网络和隐分位数网络上提升Atari游戏性能并减少过估计。

Comments ICML 2026 (Spotlight); Adaptive and Learning Agents workshop 2026 (Best paper runner-up)

SP-Mind: An Autonomous Reasoning Agent for Spatial Proteomics Analysis

SP-Mind: 用于空间蛋白质组学分析的自主推理智能体

Yucheng Yuan, Yuanfeng Ji, Zhongxiao Li, Ruijiang Li

机构 * Department of Computer Science, Stanford University, Stanford, USA（计算机科学系，斯坦福大学，斯坦福，美国） ； Department of Radiation Oncology, Stanford University, Stanford, USA（放射肿瘤学系，斯坦福大学，斯坦福，美国） 纠错

AI总结 提出首个自主AI智能体SP-Mind，统一空间蛋白质组学分析流程，通过自然语言查询实现端到端分析，在SP-Bench基准上达到最优性能。

Comments 24 pages, 6 figures. Accepted to ICML 2026. Equal contribution by Yucheng Yuan and Yuanfeng Ji

MotionMAR: Multi-scale Auto-Regressive Human Motion Reconstruction from Sparse Observations

MotionMAR：基于稀疏观测的多尺度自回归人体运动重建

Yuhua Luo, Junsheng Zhang, Mengyin Liu, Xincheng Lin, Ming Yan, Zhudi Chen, Chenglu Wen, Lan Xu, Siqi Shen, Cheng Wang

机构 * Fujian Key Laboratory of Urban Intelligent Sensing and Computing, Xiamen University（福建省城市智能感知与计算重点实验室，厦门大学） ； Key Laboratory of Multimedia Trusted Perception and Efficient Computing, Ministry of Education of China, School of Informatics, Xiamen University（多媒体可信感知与高效计算教育部重点实验室，厦门大学信息学院） ； National Institute for Data Science in Health and Medicine, Xiamen University（厦门大学健康医疗大数据国家研究院） ； ShanghaiTech University（上海科技大学） 纠错

AI总结 提出MotionMAR框架，通过多尺度自回归模型从稀疏观测中粗到细重建人体运动，在AMASS数据集上达到最先进精度。

Comments Accepted to ICML 2026

Persona-Pruner: Sculpting Lightweight Models for Role-Playing

Persona-Pruner: 为角色扮演雕琢轻量级模型

Jinsu Kim, Jihoon Tack, Noah Lee, Jongheon Jeong

机构 * Department of Artificial Intelligence, Korea University, Seoul, South Korea（韩国大学人工智能系） ； Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院） 纠错

AI总结 提出Persona-Pruner框架，通过从单个描述中隔离特定角色的子网络来剪枝语言模型，在保持角色扮演性能的同时大幅降低计算成本，性能下降比最强基线减少93.8%。

Comments 25 pages; ICML 2026; Code is available at https://github.com/jsu-kim/Persona-Pruner

Dream-MPC: Gradient-Based Model Predictive Control with Latent Imagination

Dream-MPC：基于梯度与潜在想象的模型预测控制

Jonathan Spieler, Sven Behnke

机构 * Autonomous Intelligent Systems, Computer Science Institute VI - Intelligent Systems（自主智能系统，计算机科学研究所VI - 智能系统） ； Robotics, Center for Robotics（机器人学，机器人中心） ； the Lamarr Institute for Machine Learning（拉马尔机器学习研究所） ； Artificial Intelligence, University of Bonn, Germany（人工智能，波恩大学，德国） 纠错

AI总结 提出Dream-MPC方法，通过从展开策略生成少量候选轨迹，并利用学习的世界模型进行梯度上升优化，结合不确定性正则化和时间上的优化迭代摊销，显著提升了底层策略性能，在24个连续控制任务上优于无梯度MPC和现有基线。

Comments Accepted for International Conference on Machine Learning (ICML) 2026

Realizable Bayes-Consistency for General Metric Losses

可实现的贝叶斯一致性用于通用度量损失

Dan Tsir Cohen, Steve Hanneke, Aryeh Kontorovich

机构 * Ben-Gurion University of the Negev（贝内-约尔大学） ； Purdue University, USA（普渡大学） 纠错

AI总结 本文研究了在可实现设定下，针对一般度量损失的学习中的强通用贝叶斯一致性，扩展了经典特征化，解决了Tsir Cohen和Kontorovich(2022)提出的问题，提出了新的组合障碍条件。

Comments 14 pages. Accepted to ICML 2026; v2: fixed abstract metadata rendering; v3: strengthened lower-bound theorem statement to almost-sure infinite risk (proof unchanged)

BioAgent Bench: An AI Agent Evaluation Suite for Bioinformatics

BioAgent Bench: 一个用于生物信息学的AI代理评估套件

Dionizije Fa, Marko Culjak, Bruno Pandza, Mateo Cupic

机构 * Entropic 纠错

AI总结 本文提出BioAgent Bench，用于评估AI代理在常见生物信息学任务中的性能和鲁棒性。通过定制端到端任务和压力测试，发现前沿代理可完成多步骤流程，但鲁棒性测试揭示了在受控扰动下的失败模式，表明高阶流程构建不保证可靠步骤推理。

Comments ICML 2026 camera ready

When Drafts Evolve: Speculative Decoding Meets Online Learning

当草稿进化：推测解码与在线学习的交汇

Yu-Yang Qian, Hao-Cong Wu, Yichao Fu, Hao Zhang, Peng Zhao

机构 * National Key Laboratory for Novel Software Technology, Nanjing University（南京大学新型软件技术国家重点实验室） ； School of Artificial Intelligence, Nanjing University（南京大学人工智能学院） ； University of California, San Diego（加州大学圣地亚哥分校） 纠错

AI总结 本文提出OnlineSpec框架，利用交互反馈持续进化草稿模型，通过动态遗憾最小化建立在线学习性能与推测系统加速率的联系，实现24%的加速提升。

Comments ICML 2026

When AI Benchmarks Plateau: A Systematic Study of Benchmark Saturation

当AI基准测试达到平台期：基准饱和的系统性研究

Mubashara Akhtar, Anka Reuel, Prajna Soni, Sanchit Ahuja, Pawan Sasanka Ammanamanchi, Ruchit Rawal, Vilém Zouhar, Srishti Yadav, Chenxi Whitehouse, Dayeon Ki, Jennifer Mickel, Leshem Choshen, Marek Šuppa, Jan Batzner, Jenny Chim, Jeba Sania, Yanan Long, Hossein A. Rahmani, Christina Knight, Yiyang Nan, Jyoutir Raj, Yu Fan, Shubham Singh, Subramanyam Sahoo, Eliya Habba, Usman Gohar, Siddhesh Pawar, Robert Scholz, Arjun Subramonian, Jingwei Ni, Mykel Kochenderfer, Sanmi Koyejo, Mrinmaya Sachan, Stella Biderman, Zeerak Talat, Avijit Ghosh, Irene Solaiman

机构 * University of California, Berkeley（加州大学伯克利分校） ； University of Toronto（多伦多大学） ； University of Washington（华盛顿大学） ； University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； University of Michigan（密歇根大学） ； University of Texas at Austin（德克萨斯大学奥斯汀分校） 纠错

AI总结 本研究定义并分析了60个语言模型基准的饱和现象，发现近半数基准出现饱和，且专家策划而非公开测试数据影响抗饱和能力，为延长基准寿命提供了设计建议。

Comments Published at ICML 2026 (Forty-Third International Conference on Machine Learning)

d3LLM: Ultra-Fast Diffusion LLM using Pseudo-Trajectory Distillation

d3LLM：基于伪轨迹蒸馏的超快扩散大语言模型

Yu-Yang Qian, Junda Su, Lanxiang Hu, Peiyuan Zhang, Zhijie Deng, Peng Zhao, Hao Zhang

机构 * University of California, San Diego（加州大学圣地亚哥分校） ； School of Artificial Intelligence, Nanjing University（南京大学人工智能学院） ； National Key Laboratory for Novel Software Technology, Nanjing University（南京大学新型软件技术国家实验室） ； Shanghai Jiao Tong University（上海交通大学） 纠错

AI总结 d3LLM通过伪轨迹蒸馏和熵基多块解码技术，在提升并行性的同时保持准确性，实现超快的扩散大语言模型。

Comments ICML 2026

Transformers with RL or SFT Provably Learn Sparse Boolean Functions, But Differently

带RL或SFT的Transformer可证明学习稀疏布尔函数，但方式不同

Bochen Lyu, Yiyang Jia, Xiaohao Cai, Zhanxing Zhu

机构 * School of Electronics and Computer Science, University of Southampton, United Kingdom（南安普顿大学电子与计算机科学学院，英国） ； Independent Researcher（独立研究员） 纠错

AI总结 本文通过统一分析RL（过程奖励）和SFT微调Transformer学习可递归分解的k-稀疏布尔函数的动态，证明两者都能学习k-PARITY、k-AND、k-OR等函数，但RL同时学习整个CoT链，而SFT逐步学习。

Comments ICML 2026 final version. 50 pages

Theory-Level Autoformalization: From Isolated Statements to Unified Formal Knowledge Bases

理论层面的自动形式化：从孤立陈述到统一形式知识库

Marcus J. Min, Mike He, Zhaoyu Li, Zixuan Yi, Sharad Malik, Aarti Gupta, Xujie Si, Osbert Bastani

AI总结 探讨自动形式化从单个陈述到理论层面的转变，主张将完整理论及其相互依赖关系形式化为结构化库，分析转变意义，回应不同观点，识别挑战并提出三条前进路径。

Comments ICML 2026 Spotlight

Best-of-$N$ TTS Evaluation is Confounded by ASR Family Alignment

N选最佳语音合成评估受自动语音识别家族对齐的影响

Taehyung Yu, Seongjae Kang

AI总结 研究发现最佳N选语音合成评估受ASR家族对齐影响，同家族验证器-评估器对效果更好。提出两种跨家族排名集成方法，能降低平均词错误率，建议交叉评估器三角测量作为默认报告实践。

Comments Accepted at ICML 2026 Workshop on Machine Learning for Audio

DELTA-TTS: Adapting Autoregressive Model into Diffusion Language Model for Text-to-Speech

DELTA-TTS：将自回归模型适配为扩散语言模型以实现文本转语音

Junwon Moon, Yejin Lee, Seungbeom Kim, Hoseong Ahn, Sewoong Park, Heeseung Kim, Kyuhong Shim

机构 * Sungkyunkwan University（首尔大学） ； University of Seoul（首尔大学） 纠错

AI总结 针对自回归TTS推理慢、鲁棒性差的问题，提出基于LoRA的轻量适配框架DELTA-TTS，将预训练AR TTS转为离散扩散语言模型，推理速度提升3.3倍且性能更优。

Comments ICML 2026 SPIGM Workshop

Sequential Kernel-based Conditional Independence Testing via Adaptive Betting

基于自适应投注的序列核条件独立性检验

Zheng He, Danica J. Sutherland

机构 * Department of Computer Science, University of British Columbia, Vancouver, Canada（不列颠哥伦比亚大学计算机科学系，温哥华，加拿大） ； Alberta Machine Intelligence Institute, Edmonton, Canada（阿尔伯塔机器智能研究所，爱德蒙顿，加拿大） 纠错

AI总结 提出一种对估计误差更鲁棒的序列条件独立性检验方法，通过自适应优化核条件独立性统计量、归一化及截断平移校准，在合成与真实数据上控制第一类错误并保持高功效。

Comments Published at ICML 2026: https://openreview.net/forum?id=vUMdIyTs9c

Signal-Driven Observation for Long-Horizon Web Agents

信号驱动观测：面向长程任务的Web智能体

Shubham Gaur, Ian Lane

机构 * University of Cambridge（剑桥大学） 纠错

AI总结 提出信号驱动观测（SDO）方法，通过专用子调用读取完整DOM但仅返回任务相关元素，并由轻量信号检测器触发重新调用，解决长程Web智能体中上下文退化问题。

Comments 10 pages, 1 figure. Accepted to the Failure Modes in Agentic AI (FAGEN) Workshop at ICML 2026

GENEB: Why Genomic Models Are Hard to Compare

GENEB：为什么基因组模型难以比较

Daria Ledneva, Mikhail Nuridinov, Denis Kuznetsov

AI总结 针对基因组基础模型评估碎片化的问题，提出GENEB基准，通过统一探测协议在100项任务上比较40个模型，揭示模型排名不稳定、规模收益有限等关键发现。

Comments Accepted to ICML 2026

Chebyshev Policies and the Mountain Car Problem: Reinforcement Learning for Low-Dimensional Control Tasks

切比雪夫策略与山地车问题：低维控制任务的强化学习

Stefan Huber, Hannes Unger, Georg Schäfer, Jakob Rehrl

机构 * University of Freiburg（弗赖堡大学） 纠错

AI总结 本文解析求解山地车问题，推导最优控制，并引入切比雪夫策略作为通用策略类，在低维控制任务中显著优于神经网络。

Comments ICML 2026 spotlight/oral

RiboSphere: Learning Unified and Efficient Representations of RNA Structures

RiboSphere：学习RNA结构的统一且高效的表示

Zhou Zhang, Hanqun Cao, Cheng Tan, Fang Wu, Pheng Ann Heng, Tianfan Fu

机构 * Nanjing University（南京大学） ； The Chinese University of Hong Kong（香港中文大学） ； Stanford University（斯坦福大学） 纠错

AI总结 RiboSphere通过结合向量量化与流匹配，学习RNA结构的离散几何表示，实现高保真结构生成，其在结构重建和逆折叠中表现优异。

Comments Accepted by ICML 2026

Flash-VAED: Plug-and-Play VAE Decoders for Efficient Video Generation

Flash-VAED: 用于高效视频生成的即插即用VAE解码器

Lunjie Zhu, Yushi Huang, Xingtong Ge, Yufei Xue, Zhening Liu, Yumeng Zhang, Zehong Lin, Jun Zhang

机构 * Hong Kong University of Science and Technology（香港科技大学） 纠错

AI总结 Flash-VAED通过通道剪枝和分阶段运算优化，实现了高效视频生成的高质量与高速度平衡。

Comments Accepted by ICML 2026

Esoteric Language Models: A Family of Any-Order Diffusion LLMs

深奥语言模型：一类任意阶扩散LLM

Subham Sekhar Sahoo, Zhihan Yang, Yash Akhauri, Johnna Liu, Deepansha Singh, Zhoujun Cheng, Zhengzhong Liu, Eric Xing, John Thickstun, Arash Vahdat

机构 * Cornell University（康奈尔大学） ； NVIDIA（英伟达） 纠错

AI总结 提出Eso-LMs模型，融合自回归与掩码扩散范式，通过因果注意力实现精确似然计算和KV缓存，在速度-质量帕累托前沿上达到新最优。

Comments ICML 2026 Camera Ready

Contrastive Diffusion Alignment: Learning Structured Latents for Controllable Generation

对比扩散对齐：用于可控生成的结构化潜在学习

Ruchi Sandilya, Sumaira Perez, Charles Lynch, Lindsay Victoria, Benjamin Zebley, Derrick Matthew Buchanan, Mahendra T. Bhati, Nolan Williams, Timothy J. Spellman, Faith M. Gunning, Conor Liston, Logan Grosenick

机构 * Department of Psychiatry, Weill Cornell Medicine, New York, NY, USA（威立·科林斯医学中心精神科） ； Department of Psychiatry, Stanford University, Stanford, CA, USA（斯坦福大学精神科） ； Department of Neuroscience, University of Connecticut School of Medicine, Farmington, CT, USA（康涅狄格大学医学院神经科学系） 纠错

AI总结 ConDA通过对比学习在扩散模型中学习结构化潜在空间，实现可控生成和动态解释。

Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026)

Journal ref Proceedings of the 43rd International Conference on Machine Learning, PMLR 306, 2026

Multi-Task GRPO: Reliable LLM Reasoning Across Tasks

多任务GRPO：跨任务的可靠大语言模型推理

Shyam Sundhar Ramesh, Xiaotong Ji, Matthieu Zimmer, Sangwoong Yoon, Zhiyong Wang, Haitham Bou Ammar, Aurelien Lucchi, Ilija Bogunovic

机构 * UCL Department of EEE（伦敦大学学院电子工程系） ； UCL Centre for AI（伦敦大学学院人工智能中心） ； Huawei Noah’s Ark Lab（华为诺亚实验室） ； UNIST Graduate School of AI（延世大学人工智能研究生院） ； University of Edinburgh（爱丁堡大学） ； University of Basel（巴塞尔大学） 纠错

AI总结 本文提出MT-GRPO算法，通过动态调整任务权重和比例保持采样器，提升多任务场景下大语言模型的可靠推理性能。

Comments Accepted at ICML 2026

Multicalibration Yields Better Matchings

多校准可实现更优匹配

Riccardo Colini Baldeschi, Simone Di Gregorio, Simone Fioravanti, Federico Fusco, Ido Guy, Daniel Haimovich, Stefano Leonardi, Fridolin Linder, Lorenzo Perini, Matteo Russo, Cem Sirin, Niek Tax

机构 * Meta Central Applied Science（Meta 中央应用科学） ； Sapienza University of Rome（罗马Sapienza大学） 纠错

AI总结 本文针对基于上下文预测权重的图匹配问题，提出多校准预测器构建方法，其匹配性能可与匹配算法类中最优规则媲美，并补充了样本复杂度界与实验验证。

Comments Accepted at ICML 2026

CodeChemist: Test-Time Scaling for Low-Resource Code Generation via Functional Knowledge Transfer

CodeChemist：通过测试时扩展实现低资源代码生成的功能知识迁移

Kaixin Wang, Tianlin Li, Xiaoyu Zhang, Aishan Liu, Xianglong Liu, Ziqi Liu, Zhiqiang Zhang, Jun Zhou, and Bin Shi

AI总结 提出CodeChemist框架，通过合成测试用例将模型功能知识从高资源语言迁移到低资源语言，无需训练，显著提升低资源语言代码生成性能。

Comments This paper is accepted by ICML 2026

Emergence of Hierarchical Emotion Organization in Large Language Models

大型语言模型中层级情感组织的涌现

Maya Okawa, Bo Zhao, Eric J. Bigelow, Rose Yu, Tomer Ullman, Ekdeep Singh Lubana, Hidenori Tanaka

机构 * University of California, Berkeley（加州大学伯克利分校） ； Stanford University（斯坦福大学） ； University of Washington（华盛顿大学） ； University of Tokyo（东京大学） 纠错

AI总结 受情感轮理论启发，分析大型语言模型输出中情感状态间的概率依赖关系，发现模型自然形成与人类心理模型一致的层级情感树，且更大模型发展出更复杂的层级结构，同时揭示社会经济角色在情感识别中的系统性偏差。

Comments ICML 2026

GFlowNet Training by Policy Gradients

基于策略梯度的GFlowNet训练

Puhua Niu, Shili Wu, Mingzhou Fan, Xiaoning Qian

AI总结 本文提出基于策略梯度的GFlowNet训练框架，联合优化前向与反向策略，经理论分析及模拟、真实数据集实验验证，该策略可提升GFlowNet性能。

Comments ArVix version of the paper accepted by ICML 2024