ICML

Attention Illuminates LLM Reasoning: The Preplan-and-Anchor Rhythm Enables Fine-Grained Policy Optimization

注意力揭示大语言模型推理：预规划与锚定节奏实现细粒度策略优化

Yang Li, Zhichen Dong, Yuhan Sun, Weixun Wang, Shaopan Xiong, Yijia Luo, Jiashun Liu, Han Lu, Jiamang Wang, Wenbo Su, Bo Zheng, Junchi Yan

机构 * Shanghai Jiao Tong University（上海交通大学） ； Shanghai Innovation Institute（上海创新研究院） ； Alibaba Group（阿里巴巴集团） 纠错

AI总结 本文通过注意力机制揭示大语言模型推理中的预规划与锚定节奏，并据此提出三种细粒度强化学习策略，在多种推理任务上取得一致性能提升。

Comments 31 pages, 9 figures, 20 tables. Accepted at ICML 2026

Accurate identification of communication between multiple interacting neural populations

多个相互作用的神经群体之间通信的准确识别

Belle Liu, Jacob Sacks, Matthew D. Golub

AI总结 提出MR-LFADS模型，通过顺序变分自编码器分离区域间通信、未观测区域输入和局部神经动态，在模拟和真实数据中优于现有方法，可预测电路扰动效应。

Journal ref Forty-second International Conference on Machine Learning (2025)

Linguistic Nepotism: Trading-off Quality for Language Preference in Multilingual RAG

语言裙带关系：多语言RAG中为语言偏好牺牲质量

Dayeon Ki, Marine Carpuat, Paul McNamee, Daniel Khashabi, Eugene Yang, Dawn Lawrie, Kevin Duh

机构 * University of Washington（华盛顿大学） 纠错

AI总结 研究多语言RAG系统中模型对英语源文档的偏好，发现模型会牺牲文档相关性以迎合语言偏好，尤其在低资源语言中更明显。

Comments ICML 2026 Spotlight

Interpretable Self-Supervised Learning via Representer Landmarks and Nyström Approximation

通过表征地标和Nyström近似的可解释自监督学习

Maedeh Zarvandi, Michael Timothy, Theresa Wasserer, Debarghya Ghoshdastidar

机构 * Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心） ； Technical University of Munich, TUM School of Computation, Information and Technology（慕尼黑技术大学，TUM计算、信息与技术学院） 纠错

AI总结 提出KREPES框架，利用表征地标和Nyström近似，对自监督学习目标（SimCLR、BYOL、VICReg）学到的表征进行可解释性分析，并引入新指标量化透明度。

Comments 24 pages, 10 figures. Accepted to the 43rd International Conference on Machine Learning (ICML 2026)

Robust In-Context Reinforcement Learning Under Reward Poisoning Attacks

奖励投毒攻击下的鲁棒上下文强化学习

Paulius Sasnauskas, Yiğit Yalın, Goran Radanović

机构 * Department of Computing Science, University of Alberta, Edmonton, Canada.（阿尔伯塔大学计算机科学系，加拿大埃德蒙顿） ； Alberta Machine Intelligence Institute (Amii), Edmonton, Canada.（阿尔伯塔机器智能研究所（Amii），加拿大埃德蒙顿） 纠错

AI总结 针对奖励投毒攻击，提出对抗训练框架AT-DPT，通过同时训练攻击者和DPT模型，显著提升上下文强化学习在赌博机环境下的鲁棒性，并泛化到MDP等复杂场景。

Comments ICML 2026, code available at https://github.com/PauliusSasnauskas/AT-DPT

De-AntiFake: Rethinking the Protective Perturbations Against Voice Cloning Attacks

De-AntiFake：重新思考对抗语音克隆攻击的保护扰动

Wei Fan, Kejiang Chen, Chang Liu, Weiming Zhang, Nenghai Yu

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 本文提出一种两阶段净化方法，旨在提升对抗语音克隆攻击的防御效果，通过净化扰动语音并利用音素指导进行优化，实验表明其优于现有方法。

Comments Accepted by ICML 2025

Journal ref Proceedings of the 42nd International Conference on Machine Learning, PMLR 267, 2025

Formalizing Learning from Language Feedback with Provable Guarantees

从语言反馈中学习的形式化与可证明保证

Wanqiao Xu, Allen Nie, Ruijie Zheng, Aditya Modi, Adith Swaminathan, Ching-An Cheng

机构 * University of California, Berkeley（加州大学伯克利分校） ； University of Washington（华盛顿大学） ； University of Toronto（多伦多大学） 纠错

AI总结 本文形式化语言反馈学习问题，提出转移埃尔泽维度刻画学习难度，并开发无遗憾算法HELiX，证明其性能保证，展示丰富语言反馈可指数级加速学习。

Comments ICML 2026

On the Importance of Embedding Norms in Self-Supervised Learning

关于嵌入范数在自监督学习中的重要性

Andrew Draganov, Sharvaree Vadgama, Sebastian Damrich, Jan Niklas Böhm, Lucas Maes, Dmitry Kobak, Erik Bekkers

机构 * University of Amsterdam（阿姆斯特丹大学） 纠错

AI总结 本文研究了嵌入范数在自监督学习中的作用，通过理论分析和实验表明范数影响收敛速度和网络置信度，且较小的范数对应意外样本。

Journal ref International Conference on Machine Learning (ICML) 2025

dLLM-Cache: Accelerating Diffusion Large Language Models with Adaptive Caching

dLLM-Cache：基于自适应缓存的扩散大语言模型加速

Zhiyuan Liu, Yicun Yang, Yaojie Zhang, Junjie Chen, Chang Zou, Qingyan Wei, Shaobo Wang, Yichen Zhu, Linfeng Zhang

机构 * Zhejiang University（浙江大学） 纠错

AI总结 针对扩散大语言模型推理延迟高的问题，提出一种无需训练的自适应缓存框架dLLM-Cache，通过长间隔提示缓存和基于特征相似性的部分响应更新，实现高效中间计算复用，在保持输出质量的同时大幅降低FLOPs。

Comments Accepted by ICML 2026

ACTIVE-o3: Empowering MLLMs with Active Perception via Pure Reinforcement Learning

ACTIVE-o3：通过纯强化学习赋予多模态大语言模型主动感知能力

Muzhi Zhu, Hao Zhong, Canyu Zhao, Zongze Du, Mingyu Liu, Zheng Huang, Anzhou Li, Hao Chen, Cheng Zou, Jingdong Chen, Ming Yang, Chunhua Shen

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

AI总结 提出ACTIVE-o3框架，基于GRPO强化学习，通过模块化感知-动作设计和双形式奖励，使MLLM自主学会高效准确的区域选择策略，在开放世界和领域特定任务中显著提升主动感知能力。

Comments Accepted to ICML 2026. Project page: https://aim-uofa.github.io/ACTIVE-o3

Which Anatomy Matters Under Limited Labels? A Data-Efficient Anatomy-Aware Benchmark for Cardiac Pathology Prediction

在有限标签下哪些解剖结构重要？用于心脏病理预测的数据高效解剖感知基准

Himanshu Singh

机构 * Himanshu Singh（希曼斯·辛格） 纠错

AI总结 针对有限标签和计算资源下的医学影像问题，提出解剖感知基准，通过比较不同解剖结构表示和分类器，发现表示质量比模型复杂度更重要。

Comments ACCEPTED at ICML 2026 Workshop GlobalSouthML (Seoul, South Korea; PMLR 306, 2026)

Time series Foundation Models based on Physics-Informed Synthetic Histories for Cold-Start Photovoltaic Forecasting

基于物理信息合成历史的时间序列基础模型用于冷启动光伏预测

Lorenzo Longarini, Alessandro Rongoni, Simone Silenzi, Emanuele Frontoni, Riccardo Rosati

机构 * European Commission（欧洲委员会） 纠错

AI总结 针对光伏电站冷启动预测问题，提出利用物理信息合成历史数据，结合时间序列基础模型进行零样本预测，在440个站点上实现1.7-2倍性能提升。

Comments To be published in the 2nd ICML Workshop on Foundation Models for Structured Data

Generative Modeling of Discrete Latent Structures via Dynamic Policy Gradients

通过动态策略梯度对离散潜在结构进行生成建模

Stefan Ivanovic, Ge Liu, Mohammed El-Kebir

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

AI总结 提出GReinSS框架，使用动态缩放奖励学习潜在状态分布以最大化观测数据似然，在模拟潜在集和图重建中优于基线，并在RNA测序数据中比RSEM更准确地重建异构体。

Comments ICML 2026

Self-evolving LLM agents with in-distribution Optimization

自演化分布内优化的LLM智能体

Yudi Zhang, Meng Fang, Zhenfang Chen, Mykola Pechenizkiy

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 提出Q-Evolve框架，通过分布内强化学习统一过程奖励标注与策略学习，利用加权隐式Q学习稳定贝尔曼更新，实现智能体自演化，在AlfWorld等任务上优于基线。

Comments ICML 2026

TabSwift: An Efficient Tabular Foundation Model with Row-Wise Attention

TabSwift: 一种高效的基于行注意力的表格基础模型

Si-Yang Liu, Han-Jia Ye

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 提出TabSwift，通过门控注意力稳定和可学习注册令牌增强轻量级行注意力骨干，实现高效表格上下文学习，在保持竞争力的同时降低推理成本。

Comments Accepted to ICML 2026, spotlight

RETROSPECT: RETROsynthesis via Sequential Prediction, and Chemically Transformed-ranking

RETROSPECT: 通过序列预测和化学变换排序的逆合成

Raja Sekhar Pappala, Shreyas Vinaya Sathyanarayana, Ronit Kumar Choudhary, Arjun Verma, Deepak Warrier

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

AI总结 提出RETROSPECT系统，将单步逆合成分解为候选生成和重排序，结合ChemAlign Transformer生成器和LambdaMART重排序器，在USPTO-50K上实现55.00% top-1准确率。

Comments Accepted at the AI for Science workshop (ICML 2026)

Textual Supervision Enhances Geospatial Representations in Vision-Language Models

文本监督增强视觉-语言模型中的地理空间表示

Marcelo Sartori Locatelli, Fernando Tonucci, Jea Kwon, Luiz Felipe Vecchietti, Bryan Nathanael Wijaya, Cheng Yaw Low, Virgilio Almeida, Meeyoung Cha

机构 * University of São Paulo（圣保罗大学） ； National University of Singapore（新加坡国立大学） 纠错

AI总结 研究视觉、视觉-语言及多模态模型的地理空间表示能力，发现文本监督能有效提升空间编码，推动地理空间AI发展。

Comments Accepted at ICML 2026

$α$-PFN: Fast Entropy Search via In-Context Learning

$\alpha$-PFN：通过上下文学习实现快速熵搜索

Herilalaina Rakotoarison, Steven Adriaensen, Tom Viering, Carl Hvarfner, Samuel Müller, Frank Hutter, Eytan Bakshy

机构 * University of Freiburg（弗莱堡大学） ； University of Tübingen（图宾根大学） ； University of Amsterdam（阿姆斯特丹大学） ； Lund University（Lund大学） ； Meta 纠错

AI总结 提出一种两阶段摊销策略，利用先验数据拟合网络（PFN）在单次前向传播中近似熵搜索采集函数，实现超过50倍加速，在合成和真实基准上性能与最先进方法相当。

Comments Published at ICML 2026

ForensicConcept: Transferable Forensic Concepts for AIGI Detection

ForensicConcept: 用于AIGI检测的可迁移取证概念

Menyanshu Zhou, Ziyin Zhou, Ke Sun, Yunpeng Luo, Jiayi Ji, Xiaoshuai Sun, Rongrong Ji

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 提出ForensicConcept框架，通过Transformer归因定位关键补丁、构建概念码本并利用扩散特征对齐，实现AI生成图像检测中可迁移取证概念的提取与跨骨干网络迁移。

Comments Accepted by ICML 2026

LIMMT: Less is More for Motion Tracking

LIMMT：少即是多的运动追踪

Yu Guan, Zekun Qi, Chenghuai Lin, Xuchuan Chen, Dairu Liu, Wenyao Zhang, Jilong Wang, Xinqiang Yu, He Wang, Li Yi

机构 * Tsinghua University（清华大学） ； GalBot ； Shanghai Jiao Tong University（上海交通大学） ； Peking University（北京大学） ； Shanghai Qi Zhi Institute（上海启智研究院） 纠错

AI总结 提出数据驱动的运动追踪框架LIMMT，通过物理可行性、多样性和复杂性三维度筛选高质量运动数据，仅用AMASS的3%数据即可超越全量训练效果。

Comments Accepted at ICML 2026

Breaking the Lock-in: Diversifying Text-to-Image Generation via Representation Modulation

打破锁定：通过表示调制实现文本到图像生成的多样化

Dahee Kwon, Haeun Lee, Jaesik Choi

机构 * KAIST（韩国科学技术院） 纠错

AI总结 针对文本到图像模型在固定提示下生成样本过于相似的问题，提出无训练表示级干预方法DAVE，通过选择性衰减早期生成中的零频空间平均分量来增强多样性，保持图像质量且计算开销极小。

Comments Accepted to ICML 2026. Code is available at: https://github.com/daheekwon/DAVE

Korean Culture into LLM Alignment: Toward Cultural Coherence

将韩国文化融入大语言模型对齐：迈向文化一致性

MinJae Jung, Minwoo Kim

机构 * SKT ； LG AI Research（LG人工智能研究） ； Kanana Team（Kanana团队） 纠错

AI总结 针对大语言模型的文化对齐，提出构建性定义而非仅抑制负面输出，设计基于提示的种子生成器扩展韩国危害分类，结合韩国法律、社会规范和解释惯例制定安全响应策略，通过DPO微调提升韩国文化安全率且不损害通用能力。

Comments Accepted to ICML 2026 Workshop on Culture X AI

MedSIGHT: Towards Grounded Visual Comprehension in Medical Large Vision-Language Models

MedSIGHT：迈向医学大型视觉语言模型中的基础视觉理解

Aofei Chang, Le Huang, Alex James Boyd, Parminder Bhatia, Taha Kass-Hout, Fenglong Ma, Cao Xiao

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

AI总结 提出MedSIGHT框架，通过区域感知器、医学区域码本和渐进训练策略，统一医学视觉语言模型的语义理解和像素级分割，在72K数据上达到多模态理解与分割的SOTA。

Comments Accepted at ICML 2026

Flatland: The Adventures of Gradient Descent with Large Step Sizes

平面国：大步长梯度下降的冒险

Leonardo Galli, Curtis Fox, Wiebke Bartolomaeus, Mark Schmidt, Holger Rauhut

机构 * University of British Columbia（不列颠哥伦比亚大学） ； Munich Center for Machine Learning（慕尼黑机器学习中心） ； Canada CIFAR AI Chair (Amii)（加拿大CIFAR人工智能主席（Amii）） 纠错

AI总结 针对非全局L-光滑的神经网络目标函数，提出一种只需梯度局部Lipschitz连续的定义，设计自适应一阶方法实现大步长并始终处于稳定性边缘，发现过早进入全局平坦区域会降低收敛速度和泛化能力。

Comments Accepted for the International Conference on Machine Learning (ICML 2026)

Spatiotemporal Imputation with Graph-Informed Flow Matching

基于图信息流匹配的时空插补

Zepeng Zhang, Aref Einizade, Jhony H. Giraldo, Olga Fink

机构 * EPFL（苏黎世联邦理工学院） 纠错

AI总结 提出GiFlow框架，利用图信息先验和混合向量场模型进行时空插补，优于现有方法。

Comments Accepted at ICML 2026

Inside the Visual Mind: Neuroscience-Motivated Concept Circuits for Interpreting and Steering Vision Transformers

内在视觉：神经科学启发的概念电路用于解释和引导视觉变换器

Tang Li, Yanlin Chen, Mengmeng Ma, Xi Peng

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 提出ViSAE工具箱，通过神经科学启发的概念电路解释视觉变换器内部机制，包含高效概念集、自动电路追踪算法和概念编辑应用，在WaterBirds上最差组准确率提升48.2%。

Comments In Proceedings of the International Conference on Machine Learning, 2026. (acceptance rate 26.6%)

Direct 3D-Aware Object Insertion via Decomposed Visual Proxies

通过分解视觉代理实现直接3D感知物体插入

Jingbo Gong, Yikai Wang, Yushi Lan, Yuhao Wan, Ziheng Ouyang, Rui Zhao, Ming-Ming Cheng, Qibin Hou, Chen Change Loy

机构 * Google（谷歌） ； Black Forest Labs（黑森林实验室） 纠错

AI总结 提出DIRECT框架，通过分解外观、几何和上下文引导，实现可控制3D姿态的物体插入，在几何可控性和视觉质量上优于现有方法。

Comments ICML 2026; Project Page: https://gong1130.github.io/DIRECT/

Generative Models Erode Human Temporal Learning Through Market Selection

生成模型通过市场选择侵蚀人类时间学习

Wenjun Cao

机构 * Independent Researcher（独立研究者） 纠错

AI总结 本文论证现代生成模型在亚AGI能力水平上通过市场选择机制侵蚀人类时间学习，提出价值崩溃路径并用昂贵检验框架形式化，跨领域证据显示验证侵蚀四阶段。

Comments Accepted at ICML 2026

Journal ref Forty-third International Conference on Machine Learning Position Paper Track (2026)

MalTree: Tracing Malware Evolution from Embeddings at Scale

MalTree: 从嵌入中大规模追踪恶意软件演化

Akash Amalan, Georgios Smaragdakis, Tom J. Viering

机构 * Delft University of Technology（代尔夫特理工大学） 纠错

AI总结 提出MalTree框架，利用生物信息学系统发育技术（UPGMA和邻接法）基于结构、行为和图像特征自动建模恶意软件演化，通过VirusTotal时间戳验证达到87%时间一致性，揭示家族间变异速率差异，支持谱系感知的恶意软件分析。

Comments 33 pages, accepted at ICML 2026

MacArena: Benchmarking Computer Use Agents on an Online macOS Environment

MacArena: 在在线macOS环境中基准测试计算机使用代理

Victor Muryn, Maksym Shamrai, Sofiia Mazepa, Yehor Khodysko

机构 * MacPaw 纠错

AI总结 提出MacArena基准，包含421个任务和50个应用，在Apple Silicon上运行，揭示macOS对GUI代理的独特挑战，模型排名在移植任务和原生任务间反转。

Comments Accepted to the Second Workshop on Agents in the Wild: Safety, Security, and Beyond (AIWILD) at ICML 2026