ICML

AREAL-DTA: Dynamic Tree Attention for Efficient Reinforcement Learning of Large Language Models

AREAL-DTA：用于大语言模型高效强化学习的动态树注意力机制

Jiarui Zhang, Yuchen Yang, Ran Yan, Zhiyu Mei, Liyuan Zhang, Daifeng Li, Wei Fu, Jiaxuan Gao, Shusheng Xu, Yi Wu, Binhang Yuan

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 针对RL后训练中rollout序列共享前缀导致计算冗余的问题，提出基于深度优先搜索的动态树注意力机制，结合负载均衡分布式批处理，实现高效前缀共享，训练吞吐量提升最高8.31倍。

Comments Accepted at ICML 2026. Camera-ready version. Code: https://github.com/areal-project/AReaL/tree/feat/dta

Pushing the Boundaries of Natural Reasoning: Interleaved Bonus from Formal-Logic Verification

突破自然推理的边界：来自形式逻辑验证的交错奖励

Chuxue Cao, Jinluan Yang, Haoran Li, Kunhao Pan, Zijian Zhao, Zhengyu Chen, Yuchen Tian, Lijun Wu, Conghui He, Sirui Han, Yike Guo

AI总结 提出形式逻辑验证引导框架，通过交错验证与生成过程实时纠正推理错误，结合两阶段训练，在数学、逻辑和通用推理基准上显著提升大模型性能。

Comments Accepted by ICML 26

FrameOracle: Learning What to See and How Much to See in Videos

FrameOracle: 学习在视频中看什么以及看多少

Chaoyu Li, Tianzhi Li, Fei Tao, Zhenyu Zhao, Ziqian Wu, Maozheng Zhao, Juntong Song, Cheng Niu, Pooyan Fazli

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 提出FrameOracle轻量模块，预测相关帧及其数量，通过课程学习从弱代理信号到强监督，在多个VLM和基准上以更少帧数保持或提升精度。

Comments ICML 2026. Project page: https://people-robots.github.io/frameoracle/

A Fully First-Order Layer for Differentiable Optimization

用于可微优化的全一阶层

Zihao Zhao, Kai-Chia Mo, Shing-Hei Ho, Brandon Amos, Kai Wang

机构 * University of California, Berkeley（加州大学伯克利分校） ； DeepMind（深度思维） 纠错

AI总结 提出一种仅使用一阶信息计算梯度的算法，通过将可微优化重写为双层优化并引入活动集拉格朗日超梯度方法，避免Hessian计算，实现高效近似。

Comments ICML 2026

Towards Functional Correctness of Large Code Models with Selective Generation

面向大型代码模型的功能正确性：选择性生成方法

Jaewoo Jeong, Taesoo Kim, Sangdon Park

机构 * KAIST（韩国科学技术院） 纠错

AI总结 针对代码生成模型的幻觉问题，提出利用动态代码分析自动生成单元测试，基于功能正确性评估进行选择性生成，以控制非弃权答案的错误发现率，并引入FuzzEval范式用于精确评估。

Comments ICML 2026

CoIRL-AD: Collaborative-Competitive Imitation-Reinforcement Learning in Latent World Models for Autonomous Driving

CoIRL-AD：面向自动驾驶的潜在世界模型中的协作-竞争模仿-强化学习

Xiaoji Zheng, Ziyuan Yang, Yanhao Chen, Yuhang Peng, Yuanrong Tang, Gengyuan Liu, Bokui Chen, Jiangtao Gong

机构 * University of Science and Technology of China（中国科学技术大学） ； Tsinghua University（清华大学） 纠错

AI总结 提出CoIRL-AD框架，通过解耦模仿学习与强化学习、利用潜在世界模型进行长时程奖励估计以及引入竞争机制，在离线训练中提升自动驾驶的鲁棒性，尤其在跨城市泛化和长尾场景中表现优异。

Comments 19 pages, 22 figures, ICML 2026

Training-Free Adversarial Robustness in Computational MRI

计算MRI中无需训练的抗对抗鲁棒性

Mahdi Saberi, Chi Zhang, Mehmet Akçakaya

AI总结 提出一种无需重训练即可缓解MRI重建模型对抗攻击的方法，基于循环测量一致性在攻击输入的小邻域内最小化目标函数，显著降低对抗扰动影响。

Comments International Conference on Machine Learning (ICML), 2026

FlowState: Sampling-Rate-Equivariant Time-Series Forecasting

FlowState: 采样率等变的时间序列预测

Lars Graf, Thomas Ortner, Stanisław Woźniak, Angeliki Pantazi

AI总结 提出FlowState架构，通过状态空间模型编码器和函数基解码器实现采样率等变预测，无需重新训练即可适应不同采样率和预测长度，在GIFT-Eval基准上取得最优结果。

Comments Proceedings of the 43 rd International Conference on Machine Learning, Seoul, South Korea. PMLR 306, 2026. Copyright 2026 by the author(s)

If open source is to win, it must go public

如果开源要获胜，它必须走向公共

Joshua Tan, Nicholas Vincent, Katherine Elkins, Magnus Sahlgren, Joseph Low, David Pham, Sampo Pyysalo, Jenia Jitsev

AI总结 本文主张开源AI必须由公共AI补充，即建设公共基础设施和机构，以确保模型在公共利益下可访问、可持续和受治理。

Comments ICML 2026 Spotlight

CLoVE: Personalized Federated Learning through Clustering of Loss Vector Embeddings

CLoVE: 通过损失向量嵌入聚类的个性化联邦学习

Randeep Bhatia, Nikos Papadis, Murali Kodialam, TV Lakshman, Sayak Chakrabarty

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

AI总结 提出CLoVE算法，利用客户端损失向量嵌入进行聚类，实现个性化联邦学习，具有简单、适用监督和无监督任务、无需最优模型初始化等优点，理论证明可高概率准确恢复聚类并指数收敛。

Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026); 35 pages, 7 figures

AC-ODM: Actor--Critic Online Data Mixing for Sample-Efficient LLM Pretraining

AC-ODM: 面向样本高效LLM预训练的演员-评论家在线数据混合

Jing Ma, Chenhao Dang, Mingjie Liao

机构 * National University of Singapore（新加坡国立大学） ； University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 提出AC-ODM方法，从强化学习视角优化预训练数据混合，通过参数化策略实现梯度构造性干扰最大化，支持代理与非代理两种模式，显著提升收敛速度和下游任务准确率。

Comments ICML 2026 (Poster)

Computational Safety for Generative AI: A Hypothesis Testing Perspective

生成式AI的计算安全性：假设检验视角

Pin-Yu Chen

机构 * IBM Research（IBM研究院） 纠错

AI总结 本文从假设检验角度形式化生成式AI的计算安全性，提出基于信号处理的方法检测恶意输入和AI生成内容。

Comments Extended version of the paper presented at the ICML 2026 Workshop on Hypothesis Testing

Quantile-Free Uncertainty Quantification in Graph Neural Networks

图神经网络中的无分位数不确定性量化

Soyoung park, Hwanjun Song, Sungsu Lim

机构 * Soyoung Park Hwanjun Song Sungsu Lim 纠错

AI总结 提出QpiGNN框架，通过无分位数联合损失直接优化覆盖率和区间宽度，实现高效鲁棒的图神经网络不确定性量化，理论保证渐近覆盖和近最优宽度。

Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026)

Identifiable Markov Switching Models with Instantaneous Effects and Exponential Families

具有瞬时效应和指数族的可识别马尔可夫切换模型

Roel Hulsman, Carles Balsells-Rodas, Sara Magliacane

机构 * University of Amsterdam（阿姆斯特丹大学） 纠错

AI总结 针对非平稳时间序列，提出在指数族噪声下具有瞬时效应的马尔可夫切换模型的可识别性理论，并开发FlowMSM框架用于检测隐状态和恢复因果结构。

Comments International Conference on Machine Learning (ICML) 2026

Rotation-Invariant Spherical Watermarking via Third-Order SO(3) Representation Coupling

通过三阶SO(3)表示耦合的旋转不变球面水印

Pengzhen Chen, Yanwei Liu, Xiaoyan Gu, Antonios Argyriou, Wu Liu, Weiping Wang

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 针对全景图像在任意3D旋转下水印鲁棒性不足的问题，提出利用三阶SO(3)表示耦合构造旋转不变的球面双谱，将水印嵌入高阶球谐系数并从不变标量中提取，实现理论保证的旋转不变性和高视觉保真度。

Comments ICML 2026

Knowing When to Quit: A Principled Framework for Dynamic Abstention in LLM Reasoning

知道何时退出：LLM推理中动态弃权的原则性框架

Hen Davidov, Nachshon Cohen, Oren Kalinsky, Yaron Fairstein, Guy Kushilevitz, Ram Yazdi, Patrick Rebeschini

机构 * Hebrew University of Jerusalem（特拉维夫大学） 纠错

AI总结 本文提出一个基于正则化强化学习框架的动态弃权原则，通过价值函数与弃权奖励的比较来决定是否提前终止推理，在数学推理和毒性避免任务上优于现有方法。

Journal ref Proceedings of the 43rd International Conference on Machine Learning, Seoul, South Korea. PMLR 306, 2026. Copyright 2026 by the author(s)

Towards Efficient Large Language Reasoning Models via Extreme-Ratio Chain-of-Thought Compression

通过极端比例思维链压缩实现高效大型语言推理模型

Yuntian Tang, Bohan Jia, Wenxuan Huang, Lianyue Zhang, Jiao Xie, Wenxi Li, Wei Li, Jie Hu, Xinghao Chen Rongrong Ji, Shaohui Lin

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 提出Extra-CoT框架，通过极端比例压缩思维链、混合比例监督微调和约束层次化比率策略优化，在显著减少推理令牌的同时保持甚至提升推理准确率。

Comments Accepted to ICML 2026. 15 pages, 7 figures

Manga109-v2026: Revisiting Manga109 Annotations for Modern Manga Understanding

Manga109-v2026: 重新审视Manga109标注以适应现代漫画理解

Jeonghun Baek, Atsuyuki Miyai, Shota Onohara, Hikaru Ikuta, Kiyoharu Aizawa

机构 * University of Tokyo（东京大学） 纠错

AI总结 本文重新审视Manga109的对话文本标注，识别出五类标注问题，包括转录错误、缺失文本区域、对话与拟声词重叠以及未分割的对话气泡，并通过结合OCR基于的问题检测和人工修订构建Manga109-v2026，修订了约29,000个对话标注，使Manga109更好地适应现代OCR和多模态漫画理解系统，同时保留漫画特有的表达结构。

Comments Accepted to the Culture x AI Workshop at ICML 2026. Project page: https://manga109.github.io/manga109-project-website/en/

Playing Devil's Advocate: Off-the-Shelf Persona Vectors Rival Targeted Steering for Sycophancy

扮演魔鬼的代言人：现成的人格向量在顺从性上与针对性引导相媲美

Ishaan Kelkar, Nebras Alam, Vikram Kakaria, Madhur Panwar, Vasu Sharma, Maheep Chaudhary

机构 * University of Toronto（多伦多大学） ； Princeton University（普林斯顿大学） ； Purdue University（普渡大学） ； EPFL（瑞士联邦理工学院） ； Algoverse ； Independent（独立） 纠错

AI总结 本文研究了不同人格对顺从性的影响，发现现成的人格引导向量在减少顺从性方面与针对性引导相当，且在用户正确时保持准确性。

Journal ref ICML, Pluralistic Alignment Workshop, 2026

FedRot-LoRA: Mitigating Rotational Misalignment in Federated LoRA

FedRot-LoRA: 缓解联邦LoRA中的旋转偏移

Haoran Zhang, Dongjun Kim, Seohyeon Cha, Haris Vikalo

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

AI总结 本文提出FedRot-LoRA框架，通过正交变换对齐客户端更新以减少子空间不匹配，提升联邦LoRA在异质数据下的性能。

Comments ICML 2026

Where's the Plan? Locating Latent Planning in Language Models with Lightweight Mechanistic Interventions

计划在哪里？通过轻量级机制干预定位语言模型中的潜在规划

Nicole Ma, Nick Rui

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

AI总结 通过押韵对句补全任务，使用线性探针和激活修补方法，研究语言模型在生成过程中是否形成并因果依赖未来约束的潜在规划，发现仅Gemma-3-27B模型存在因果依赖，并定位到五个注意力头。

Comments 13 pages, 20 figures, 3 tables. Accepted to Workshop on Mechanistic Interpretability @ ICML 2026

Towards Steering without Sacrifice: Principled Training of Steering Vectors for Prompt-only Interventions

无牺牲的引导：面向仅提示干预的引导向量的原则性训练

Yuntai Bao, Qinfeng Li, Xinyan Yu, Ge Su, Wenqi Zhang, Liu Yan, Haiqin Weng, Jianwei Yin, Xuhong Zhang

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 提出联合训练引导因子和方向的方法，消除后验因子选择；引入仅提示引导向量（PrOSV），仅干预少量提示词，在AxBench上优于传统全序列引导向量，并实现更好的通用模型效用与对抗鲁棒性权衡。

Comments 63 pages, 50 figures; accepted by ICML 2026

3D-RFT: Reinforcement Fine-Tuning for Video-based 3D Scene Understanding

3D-RFT：基于视频的3D场景理解的强化微调

Xiongkun Linghu, Jiangyong Huang, Baoxiong Jia, Siyuan Huang

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 提出3D-RFT框架，将可验证奖励的强化学习（RLVR）扩展到视频3D感知与推理，通过直接优化评估指标（如3D IoU和F1分数）提升性能，4B模型超越8B模型。

Comments Accepted at ICML 2026. Project page: https://3d-rft.github.io/

Optimizing Agentic Reasoning with Retrieval via Synthetic Semantic Information Gain Reward

通过合成语义信息增益奖励优化基于检索的智能推理

Senkang Hu, Yong Dai, Yuzhi Zhao, Yihang Tao, Yu Guo, Zhengru Fang, Sam Tak Wu Kwong, Yuguang Fang

机构 * Hong Kong JC STEM Lab of Smart City.（香港JC STEM实验室） ； City University of Hong Kong.（香港城市大学） ； Lingnan University（岭南大学） ； Fudan University.（复旦大学） ； Huazhong University of Science and Technology.（华中科技大学） 纠错

AI总结 提出InfoReasoner框架，利用合成语义信息增益奖励优化检索过程，通过GRPO训练策略，在七个问答基准上平均准确率提升5.4%。

Comments Accepted by ICML'26

Large Language Model Agents Are Not Always Faithful Self-Evolvers

大型语言模型代理并非总是忠实的自我进化者

Weixiang Zhao, Yingshuo Wang, Yichen Zhang, Yang Deng, Yanyan Zhao, Wanxiang Che, Bing Qin, Ting Liu

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 本研究首次系统调查自我进化LLM代理的经验忠实性，通过因果干预发现代理依赖原始经验但常忽略或误解浓缩经验，并分析其成因。

Comments ICML 2026

MET-Bench: Multimodal Entity Tracking for Evaluating the Limitations of Vision-Language and Reasoning Models

MET-Bench：用于评估视觉语言与推理模型局限性的多模态实体追踪

Vanya Cohen, Raymond Mooney

机构 * University of Texas at Austin（德克萨斯大学奥斯汀分校） 纠错

AI总结 提出MET-Bench多模态实体追踪基准，发现视觉语言模型在图像实体追踪上显著弱于文本，主要源于视觉推理缺陷，强化学习可提升模态内性能但跨模态迁移不足。

Comments ICML 2026

HyperPotter: Spell the Charm of High-Order Interactions in Audio Deepfake Detection

HyperPotter: 在音频深度伪造检测中施展高阶交互的魔力

Qing Wen, Haohao Li, Zhongjie Ba, Peng Cheng, Miao He, Li Lu, Kui Ren

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 提出基于超图的HyperPotter框架，通过聚类超边和类感知原型初始化捕获高阶交互，在13个测试集上平均EER降低12.68%。

Comments 20 pages, 8 figures, accepted to ICML 2026

Fast Autoregressive Video Diffusion and World Models with Temporal Cache Compression and Sparse Attention

快速自回归视频扩散与世界模型：基于时间缓存压缩与稀疏注意力

Dvir Samuel, Issar Tzachor, Matan Levy, Michael Green, Gal Chechik, Rami Ben-Ari

机构 * Hebrew University of Jerusalem（特拉维夫大学） ； Google Research（谷歌研究） 纠错

AI总结 提出FAST-AR框架，通过TempCache压缩KV缓存、AnnCA加速交叉注意力、AnnSA稀疏化自注意力，实现自回归视频扩散模型5-10倍加速，同时保持视觉质量并稳定GPU内存使用。

Comments Accepted to ICML 2026. Project Page: https://dvirsamuel.github.io/fast-auto-regressive-video/

SMART: Scalable Mesh-free Aerodynamic Simulations from Raw Geometries using a Transformer-based Surrogate Model

SMART: 基于Transformer代理模型的原始几何形状可扩展无网格气动模拟

Jan Hagnberger, Mathias Niepert

机构 * Jan Hagnberger ； Mathias Niepert 纠错

AI总结 提出SMART，一种无需模拟网格、仅使用几何点云预测任意查询位置物理量的神经代理模型，通过交叉层交互联合更新几何特征和物理场，性能媲美甚至超越依赖网格的方法。

Comments Accepted for publication at the 43rd International Conference on Machine Learning (ICML) 2026, Seoul, South Korea

RAMAC: Multimodal Risk-Aware Offline Reinforcement Learning and the Role of Behavior Regularization

RAMAC: 多模态风险感知离线强化学习及行为正则化的作用

Kai Fukazawa, Kunal Mundada, Iman Soltani

机构 * University of California, Davis（加州大学戴维斯分校） 纠错

AI总结 提出RAMAC框架，结合分布性评论家与生成式演员（如扩散模型），通过条件风险价值与行为克隆的复合目标实现离线强化学习中的风险敏感学习，抑制分布外动作并提升CVaR。

Comments ICML 2026