ICML

Continual Knowledge Updating in LLM Systems: Learning Through Multi-Timescale Memory Dynamics

连续知识更新在大语言模型系统中：通过多时间尺度记忆动态学习

Andreas Pattichis, Constantine Dovrolis

机构 * The Cyprus Institute, Nicosia, Cyprus（塞浦路斯研究所，尼科西亚，塞浦路斯） 纠错

AI总结 本文提出基于多时间尺度动态的记忆机制，通过耦合内部变量实现知识的持续更新与学习，重构外部记忆作为学习的基础 substrates。

Comments Accepted as a poster at the ICML 2026 Workshop "Continual Adaptation at Scale: Towards Sustainable AI" (CATS@ICML 2026). 9 pages, 2 figures

Improving Zero-Shot Offline RL via Behavioral Task Sampling

通过行为任务采样改进零样本离线强化学习

Nazim Bendib, Nicolas Perrin-Gilbert, Olivier Sigaud

AI总结 本文提出通过直接从离线数据集中提取任务向量来改进零样本离线强化学习，提升任务泛化能力，实验表明在多个基准环境中性能提升20%。

Comments ICML 2026

Kuramoto Oscillatory Phase Encoding: Neuro-inspired Synchronization for Improved Learning Efficiency

Kuramoto振荡相位编码：神经启发同步机制提升学习效率

Mingqing Xiao, Yansen Wang, Dongqi Han, Caihua Shan, Dongsheng Li

机构 * Microsoft Research Asia（微软亚洲研究院） 纠错

AI总结 提出Kuramoto振荡相位编码（KoPE），为视觉Transformer引入神经启发同步机制，通过增强结构学习提升训练、参数和数据效率，并在语义分割、少样本推理等任务中取得优势。

Comments ICML 2026

SPARC: Separating Perception And Reasoning Circuits for Test-time Scaling of VLMs

SPARC: 分离感知与推理回路以实现VLM的测试时扩展

Niccolo Avogaro, Nayanika Debnath, Li Mi, Thomas Frick, Junling Wang, Zexue He, Hang Hua, Konrad Schindler, Mattia Rigotti

机构 * ETH Zürich（苏黎世联邦理工学院） ； IBM Research（IBM研究院） ； MIT-IBM Watson AI Lab（麻省理工-IBM沃森人工智能实验室） 纠错

AI总结 提出SPARC框架，通过显式分离视觉感知与推理，实现测试时动态扩展和不对称计算分配，在视觉推理任务中优于基线方法。

Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026)

CausalRAG2: Hierarchical Causal Knowledge Graph Design for RAG

CausalRAG2: 面向RAG的分层因果知识图谱设计

Nengbo Wang, Tuo Liang, Vikash Singh, Chaoda Song, Van Yang, Yu Yin, Jing Ma, Jagdip Singh, Vipin Chaudhary

机构 * Department of Computer and Data Sciences, Case Western Reserve University, Cleveland, OH, USA（计算机与数据科学系，凯斯西储大学，克利夫兰，OH，USA） ； Design and Innovation Department, Case Western Reserve University, Cleveland, OH, USA（设计与创新部门，凯斯西储大学，克利夫兰，OH，USA） 纠错

AI总结 提出CausalRAG2框架，通过分层模块间的因果门控机制显式建模因果关系，抑制虚假相关，实现大规模知识图谱上的可扩展推理，并引入HolisQA基准，实验表明其优于现有图基RAG方法。

Comments Accepted at ICML 2026

A Geometry-Aware Efficient Algorithm for Compositional Entropic Risk Minimization

组合熵风险最小化的几何感知高效算法

Xiyuan Wei, Linli Zhou, Bokun Wang, Chih-Jen Lin, Tianbao Yang

机构 * Texas A\&M University（德克萨斯A&M大学） ； University of Texas, Austin（德克萨斯大学奥斯汀分校） ； National Taiwan University（国立台湾大学） ； Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） 纠错

AI总结 针对组合熵风险最小化问题，提出几何感知随机算法SCENT，利用负指数函数诱导的Bregman散度进行随机近端镜像下降，实现凸问题O(1/√T)收敛率，并在极端分类、部分AUC最大化等任务中优于基线。

Comments Accepted to 43rd International Conference on Machine Learning. 39 pages, 7 figures

Data- and Variance-dependent Regret Bounds for Online Tabular MDPs

在线表格MDPs的数据依赖和方差依赖遗憾界

Mingyi Li, Taira Tsuchiya, Kenji Yamanishi

机构 * Department of Mathematical Informatics, The University of Tokyo, Tokyo, Japan（数学信息学系，东京大学，东京，日本） 纠错

AI总结 针对已知转移的在线表格马尔可夫决策过程，提出在对抗性环境下实现数据依赖遗憾界、在随机环境下实现方差依赖遗憾界的最优算法，并证明全局优化方法达到近乎最优。

Comments Accepted at ICML 2026. 72 pages, 4 tables

RN-D: Discretized Categorical Actors for On-Policy Reinforcement Learning

RN-D：用于同策略强化学习的离散化分类演员

Yuexin Bian, Jie Feng, Tao Wang, Yijiang Li, Sicun Gao, Yuanyuan Shi

机构 * University of California San Diego, La Jolla, USA（加州大学圣地亚哥分校） 纠错

AI总结 提出离散化分类演员替代高斯演员，结合正则化网络形成RN-D，在同策略RL中实现连续控制的最优性能。

Comments Accepted by ICML 2026

AMVICC: A Novel Benchmark for Cross-Modal Failure Mode Profiling for VLMs and IGMs

AMVICC: 一种用于VLM和IGM跨模态故障模式分析的新型基准

Aahana Basappa, Pranay Goel, Anusri Karra, Anish Karra, Asa Gilmore, Kevin Zhu

机构 * Centennial High School, Frisco, Texas, USA（Centennial High School, Texas, USA） ； Lebanon Trail High School, Frisco, Texas, USA（Lebanon Trail High School, Texas, USA） ； West Windsor-Plainsboro High School, Princeton Junction, New Jersey, USA（West Windsor-Plainsboro High School, New Jersey, USA） ； Algoverse AI Research, Palo Alto, California, USA（Algoververse AI Research, California, USA） 纠错

AI总结 提出AMVICC基准，通过图像到文本和文本到图像任务系统比较多模态大模型和图像生成模型的视觉推理失败模式，发现故障模式在模型和模态间共享，但存在特定于模型和模态的失败。

Comments 14 pages, 4 figures, 8 tables. Presented at the 39th Conference on Neural Information Processing Systems Workshop: VLM4RWD. Presented at the 43th International Conference on Machine Learning Workshops: ICML 2026 CTB, ICML 2026 FAGEN, ICML 2026 EMM-QA. Authors Aahana Basappa and Pranay Goel contributed equally. Code: https://github.com/AahanaB24/AMVICC, Data: https://doi.org/10.5281/zenodo.17646068

ScalingAR: Scaling Confidence for Autoregressive Image Generation

ScalingAR: 自回归图像生成的置信度缩放

Harold Haodong Chen, Xianfeng Wu, Wen-Jie Shu, Rongjin Guo, Disen Lan, Harry Yang, Ying-Cong Chen

AI总结 提出ScalingAR框架，通过令牌熵作为置信度信号，在轮廓级和策略级进行自适应轨迹剪枝和动态引导调度，无需早期解码或外部奖励，显著提升自回归图像生成性能。

Comments ICML 2026; Code: https://github.com/EnVision-Research/ScalingAR

Removing Noise, not Finding Gold: Quality Filtering for Large-Scale Pretraining

去除噪声，而非寻找黄金：大规模预训练的质量过滤

Thiziri Nait Saada, Louis Bethune, Michal Klein, David Grangier, Marco Cuturi, Pierre Ablin

机构 * Work done as an intern at Apple（苹果公司实习生） ； University of Oxford（牛津大学） ； Apple（苹果公司） 纠错

AI总结 本文深入分析基于分类器的质量过滤（CQF）方法，发现其虽提升下游任务性能，但会隐式过滤高质量数据，且与基于合成数据的模型行为趋势不同，质疑CQF捕捉数据质量的有效性。

Comments 21 pages, 22 figures, 2 tables, accepted at ICML 2026

How Does the Pretraining Distribution Shape In-Context Learning? A Fundamental Trade-Off

预训练分布如何塑造上下文学习？一个基本的权衡

Waïss Azizian, Ali Hasan

AI总结 通过理论框架和实验，揭示预训练分布的统计特性（如重尾行为）在上下文学习中导致任务选择鲁棒性与泛化能力之间的基本权衡。

Comments 57 pages, 15 figures; to be presented at ICML 2026

Fox in the Henhouse: Supply-Chain Backdoor Attacks Against Reinforcement Learning

狐狸进鸡窝：针对强化学习的供应链后门攻击

Shijie Liu, Andrew C. Cullen, Paul Montague, Sarah Erfani, Benjamin I. P. Rubinstein

机构 * School of Computing and Information Systems, University of Melbourne, Parkville, Australia（墨尔本大学计算机与信息系统学院，墨尔本，澳大利亚） 纠错

AI总结 提出SCAB攻击，通过污染仅3%的训练经验即可激活超过90%的触发动作，使受害者平均每轮回报降低80%，揭示了强化学习供应链中的后门攻击风险。

Comments Forty-Third International Conference on Machine Learning (ICML2026)

From Uncertain to Safe: Conformal Adaptation of Diffusion Models for Safe PDE Control

从不确定到安全：扩散模型的安全自适应用于PDE控制

Peiyan Hu, Xiaowei Qian, Wenhao Deng, Rui Wang, Haodong Feng, Ruiqi Feng, Tao Zhang, Long Wei, Yue Wang, Zhi-Ming Ma, Tailin Wu

机构 * intern（实习生） ； Westlake University（西湖大学） ； School of Engineering, Westlake University（西湖大学工程学院） ； Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院） ； Fudan University（复旦大学） ； Zhongguancun Academy（中关村学院） 纠错

AI总结 提出SafeDiffCon方法，通过共形预测估计不确定性分位数，结合后训练和推理阶段调整扩散模型，在满足安全约束下实现最优PDE控制。

Comments ICML 2025. 24 pages, 5 figures

RotRNN: Modelling Long Sequences with Rotations

RotRNN：利用旋转建模长序列

Kai Biegun, Rares Dolga, Jake Cunningham, David Barber

机构 * UCL AI Centre（UCL人工智能中心） ； UiPath London, UK（UiPath伦敦英国） 纠错

AI总结 提出RotRNN线性循环模型，利用旋转矩阵简化初始化与归一化，在长序列基准上达到竞争性能。

Comments Next Generation of Sequence Modeling Architectures Workshop at ICML 2024