ICML

Giving Sensors a Voice: Multimodal JEPA for Semantic Time-Series Embeddings

赋予传感器声音：用于语义时间序列嵌入的多模态JEPA

Utsav Dutta, Gerardo Pastrana, Sina Khoshfetrat Pakazad, Henrik Ohlsson

机构 * C3 AI 纠错

AI总结 提出CHARM模型，通过通道级文本描述与Transformer编码器结合，利用联合嵌入预测架构（JEPA）学习语义时间序列嵌入，在异常检测、分类和预测任务中仅用线性探针即取得强性能。

Comments 9 pages, 5 figures, accepted at ICML 2026. arXiv admin note: substantial text overlap with arXiv:2505.14543

Journal ref Proceedings of the 43rd International Conference on Machine Learning (ICML), PMLR 306, 2026

Functional Attention: From Pairwise Affinities to Functional Correspondences

函数注意力：从成对亲和性到函数对应

Jiefang Xiao, Maolin Gao, Simon Weber, Guandao Yang, Daniel Cremers

机构 * Technical University of Munich, Germany（慕尼黑技术大学，德国） ； Munich Center for Machine Learning (MCML), Germany（慕尼黑机器学习中心（MCML），德国） ； PIXL, Department of Computer Science, University of Oxford, United Kingdom（牛津大学计算机科学系PIXL，英国） ； ECE, University of Texas at Austin, USA（德克萨斯大学奥斯汀分校电子与计算机工程系，美国） 纠错

AI总结 提出函数注意力机制，将注意力重新解释为自适应基之间的函数对应，通过结构化线性算子替代softmax亲和性，实现紧凑、可泛化、分辨率不变的全局依赖表示，在PDE求解、3D分割和回归等算子学习任务中达到最先进性能。

Comments 26 pages, 12 figures. Accepted at the 43rd International Conference on Machine Learning (ICML 2026)

On the Relationship Between Activation Outliers and Feature Death in Sparse Autoencoders

关于稀疏自编码器中激活异常值与特征死亡之间关系的研究

Elana Simon, Etowah Adams, James Zou

机构 * Stanford University（斯坦福大学） ； Columbia University（哥伦比亚大学） 纠错

AI总结 本文通过理论分析和实验验证，揭示了稀疏自编码器中维度级激活异常值导致特征死亡的机制，并提出均值中心化预处理方法有效消除该问题。

Comments Accepted to ICML 2026 main conference

How can embedding models bind concepts?

嵌入模型如何绑定概念？

Arnas Uselis, Darina Koishigarina, Seong Joon Oh

AI总结 本文研究视觉-语言嵌入模型（如CLIP）在概念绑定上的局限性，发现场景嵌入可加性分解为对象表示，但CLIP的高复杂度绑定函数阻碍了泛化，而通过充分数据训练的Transformer模型能学习低复杂度乘法交互绑定函数实现系统泛化。

Comments ICML 2026

On Efficient Scaling of GNNs via IO-Aware Layers Implementations

通过IO感知层实现实现GNN的高效扩展

Daria Fomina, Daniil Krasylnikov, Alexey Boykov, Andrey Dolgovyazov, Vyacheslav Zhdanovskiy, Fedor Velikonivtsev

机构 * HSE University（俄罗斯高等经济大学） ； ITMO University（ITMO大学） 纠错

AI总结 针对GNN中稀疏不规则内存访问瓶颈，提出三种GPU内核族（SpMM卷积、归约聚合、注意力层）以减少数据移动并提升局部性，在真实图上实现高达8.5倍加速和76倍内存降低。

Comments International Conference on Machine Learning (ICML) 2026, Spotlight Paper

Balanced LoRA: Removing Parameter Invariance to Accelerate Convergence

平衡LoRA：消除参数不变性以加速收敛

Valérie Castin, Kimia Nadjahi, Pierre Ablin, Gabriel Peyré

机构 * Apple, Paris, France（苹果公司，巴黎，法国） ； CNRS（法国国家科学研究中心） 纠错

AI总结 针对LoRA过参数化导致不同低秩因子对条件数差异大而影响收敛速度的问题，提出BaLoRA，通过投影到平衡流形改善损失景观条件，实现更快收敛和更优性能。

Comments Accepted at ICML 2026

VisionPulse: Dynamic Visual Sparsity for Efficient Multimodal Reasoning

VisionPulse: 用于高效多模态推理的动态视觉稀疏性

Hengbo Xu, Shengjie Jin, Yanbiao Ma, Zhiwu Lu

机构 * Gaoling School of Artificial Intelligence, Renmin University of China, Beijing, China（中国人民大学北京校区人工智能学院） 纠错

AI总结 提出VisionPulse框架，通过步骤级视觉令牌剪枝，利用视觉注意力质量估计保留预算，仅保留关键令牌，在几乎不损失准确率的情况下减少推理开销和推理轨迹长度。

Comments Accepted at ICML 2026

Modeling Covariate Transition for Efficient Estimation of Longitudinal Treatment Effects in Randomized Experiments

建模协变量转移以高效估计随机实验中的纵向处理效应

Naoki Chihara, Tatsushi Oka, Yasuko Matsubara, Yasushi Sakurai, Shota Yasui

机构 * SANKEN, The University of Osaka, Osaka, Japan.（大阪大学SANKEN分校） ； CyberAgent, Inc., Tokyo, Japan（日本东京CyberAgent公司） ； Keio University, Tokyo, Japan.（东京大学） 纠错

AI总结 提出一种回归调整框架，通过建模协变量转移来估计随机实验中的纵向处理效应，并实现渐近正态性和半参数有效性。

Comments Accepted by ICML'26

Journal ref The 43rd International Conference on Machine Learning, 2026

Constrained Multi-Objective Reinforcement Learning with Max-Min Criterion

带最大最小准则的约束多目标强化学习

Giseung Park, Hyunyoung Nam, Woohyeon Byeon, Amir Leshem, Youngchul Sung

机构 * Robotics Institute, University of Toronto（多伦多大学机器人研究所） ； Faculty of Engineering, Bar-Ilan University（巴伊兰大学工程学院） 纠错

AI总结 提出一种融合最大最小准则与显式约束满足的多目标强化学习框架，通过理论分析和表格实验验证收敛性，并在建筑热控制、多目标运动控制和温室气体排放感知交通管理中展示其平衡公平性与约束满足的有效性。

Comments Accepted to ICML 2026

Trading Complexity for Expressivity Through Structured Generalized Linear Token Mixing

通过结构化广义线性令牌混合在表达性与复杂性之间进行权衡

Erwan Fagnou, Paul Caillon, Blaise Delattre, Alexandre Allauzen

机构 * Department of Computer Science, School of Computing, Institute of Science Tokyo（东京科学研究所计算机科学系） 纠错

AI总结 本文提出一个统一框架，将令牌混合层分解为直接输入-输出影响和递归传播，通过设计结构化递归模式在运行时复杂度和表达性之间进行可证明的权衡，并在合成任务和语言建模上验证。

Comments 20 pages, 3 figures, ICML 2026 main

Inconsistency-Aware Minimization: Improving Generalization with Unlabeled Data

不一致感知最小化：利用无标签数据提升泛化能力

Hee-Sung Kim, Hyeonseong Kim, Sungyoon Lee

机构 * Department of Computer Science, Hanyang University, Seoul, Korea（汉阳大学计算机科学系） 纠错

AI总结 本文提出一种基于信息几何的局部不一致性度量，并据此设计不一致感知最小化（IAM）方法，通过无标签数据计算该度量并融入训练目标，从而提升深度学习模型的泛化性能。

Comments ICML 2026

Learning from Fine-Grained Visual Discrepancies: Mitigating Multimodal Hallucinations via In-Context Visual Contrastive Optimization

从细粒度视觉差异中学习：通过上下文视觉对比优化缓解多模态幻觉

Haolin Deng, Xin Zou, Zhiwei Jin, Chen Chen, Haonan Lu, Xuming Hu

机构 * The Hong Kong University of Science（香港科学与技术大学） ； OPPO AI Center（OPPO AI中心） 纠错

AI总结 提出上下文视觉对比优化（IC-VCO）方法，通过共享多图像上下文中的对比图像确保数学严谨的目标，并引入视觉对比蒸馏（VCDist）和对比样本编辑策略，有效缓解多模态幻觉。

Comments ICML 2026

Envisioning Beyond the Few: Disentangled Semantics and Primitives for Few-Shot Atypical Layout-to-Image Generation

超越少数：用于少样本非典型布局到图像生成的解耦语义与基元

Nan Bao, Yifan Zhao, Wenzhuang Wang, Jia Li

机构 * State Key Laboratory of Virtual Reality Technology and Systems（虚拟现实技术与系统国家重点实验室） ； School of Computer Science and Engineering（计算机科学与工程学院） ； Qingdao Research Institute, Beihang University, China（北京航空航天大学青岛研究所，中国） 纠错

AI总结 针对少样本非典型布局到图像生成中表示碎片化问题，提出通过语义锚定和基元注入解耦语义与视觉细节，实现鲁棒少样本适应。

Comments Accepted to ICML 2026; code available at https://github.com/iCVTEAM/DSP

Formalizing and falsifying causal pathways of rare events

罕见事件因果路径的形式化与证伪

Anahita Haghighat, Dominik Janzing

机构 * Amazon Research（亚马逊研究） 纠错

AI总结 本文在结构方程模型中罕见事件根因分析的形式化基础上，提出因果路径的形式定义并讨论其可检验含义，引入罕见事件因果路径的抽象以桥接简单因果解释与详细因果建模。

Comments accepted for ICML 2026

Toward Identifiable Sparse Autoencoders

走向可识别的稀疏自编码器

Walter Nelson, Theofanis Karaletsos, Francesco Locatello

机构 * Institute of Science and Technology Austria（科学与技术奥地利研究所） ； Pyramidal Inc.（Pyramidal公司） ； Achira Inc., USA（Achira公司，美国） 纠错

AI总结 针对稀疏自编码器训练不稳定的问题，通过理论分析模型属性并改进架构与训练流程，提出iSAE变体，实现更低重构误差与更高稳定性。

Comments International Conference on Machine Learning (ICML) 2026

Correcting Split Selection in Online Decision Trees via Anytime-Valid Inference

通过随时有效推断纠正在线决策树中的分裂选择

Salim I. Amoukou, Saumitra Mishra, Manuela Veloso

机构 * J.P. Morgan AI Research（摩根大通AI研究） 纠错

AI总结 针对在线决策树分裂选择缺乏有效统计保证的问题，提出基于随时有效推断的方法，实现任意数据流下错误分裂的随时有效控制、预测优势下的有限承诺时间，并在平稳独立同分布数据下保证风险单调递减且每次分裂严格改善。

Comments Accepted as a Spotlight at the Forty-Third International Conference on Machine Learning (ICML 2026)

SwitchCraft: A Programmatic Framework for Designing State-Switching Proteins

SwitchCraft：用于设计状态切换蛋白质的程序化框架

Bowen Jing, Mihir Bafna, Anisha Parsan, Heyuan Michael Ni, David Kwabi-Addo, Bryan Bryson, Adam Klivans, Bonnie Berger

AI总结 提出SwitchCraft框架，通过结构预测模型参数化的组合设计约束反向传播，实现多状态蛋白质的理性设计，并在多种状态切换功能原语和荧光生物传感器设计上验证成功。

Comments ICML 2026

EchoRL: Reinforcement Learning via Rollout Echoing

EchoRL：通过回滚回响进行强化学习

Jinhe Bi, Aniri, Minglai Yang, Xingcheng Zhou, Wenke Huang, Sikuan Yan, Yujun Wang, Zixuan Cao, Michael Färber, Xun Xiao, Volker Tresp, Yunpu Ma

机构 * Munich Center for Machine Learning（慕尼黑机器学习中心） ； Huawei Heisenberg Research Center（华为海森堡研究所以） ； University of Arizona（亚利桑那大学） ； College of Computing（计算学院） ； Data Science, Nanyang Technological University, Singapore（数据科学，南洋理工大学，新加坡） ； MemAgents Lab（MemAgents实验室） 纠错

AI总结 针对RLVR训练中优势退化问题，提出EchoRL模块，通过从成功回滚中提取EchoClip作为辅助监督信号，持续提升训练性能。

Comments ICML 2026

Geometry-based Schrödinger Bridges for Trustworthy Multimodal Fusion

基于几何的薛定谔桥用于可信多模态融合

Jiayu Xiong, Jing Wang, Qi Zhang, Wanlong Wang, Jun Xue

机构 * Department of Computer Science（计算机科学系） ； Techonology, Huaqiao University（技术学系，华侨大学） ； Xiamen Key Laboratory of Computer Vision（厦门计算机视觉实验室） ； Pattern Recognition, Huaqiao University（模式识别，华侨大学） ； Tongji University（同济大学） ； School of Cyber Science（网络科学学院） ； Engineering, Wuhan University（工程学院，武汉大学） 纠错

AI总结 提出基于几何的多模态融合方法GMF，利用扩散薛定谔桥的初始速度平方作为独立于预测的可靠性信号，以提升对低质量数据的鲁棒性。

Comments ICML 2026 accepted paper

Retriever Portfolios: A Principled Approach to Adaptive RAG

检索器组合：一种自适应RAG的原则性方法

Miltiadis Stouras, Vincent Cohen-Addad, Silvio Lattanzi, Ola Svensson

机构 * EPFL（瑞士联邦理工学院） ； Google Research（谷歌研究院） 纠错

AI总结 提出从大量候选检索器中自动选择小型多样子集（组合）的方法，通过期望最优k目标优化查询分布，实现自适应RAG，在多个QA基准上优于单检索器和朴素多检索器基线，并降低延迟和令牌成本。

Comments Accepted at ICML 2026. Code available at: https://github.com/mstou/retriever-portfolios

Convergence of Two-Timescale Markovian Stochastic Approximations with Applications in Reinforcement Learning

双时间尺度马尔可夫随机逼近的收敛性及其在强化学习中的应用

Vagul Mahadevan, Claire Chen, Shuze Daniel Liu, Shangtong Zhang

机构 * Department of Computer Science, University of Virginia, Charlottesville, VA, USA（弗吉尼亚大学计算机科学系） ； Data Science Lab, MIT, Cambridge, MA, USA（麻省理工学院数据科学实验室） ； Mitch Daniels School of Business, Purdue University, West Lafayette, IN, USA（普渡大学米切尔丹尼尔斯商学院） ； Division Office Physics, Math and Astronomy, California Institute of Technology, Pasadena, CA, USA（加州理工学院物理、数学和天文学分校） 纠错

AI总结 本文研究双时间尺度随机逼近在马尔可夫噪声下的稳定性与收敛性，通过用慢时间尺度参数的运行最大值控制快时间尺度参数，首次证明了带资格迹的TDC在离策略线性函数逼近下的几乎必然收敛。

Comments ICML 2026

FOCUS: Forcing In-Context Object Localization through Visual Support Constraints and Policy Optimization

FOCUS: 通过视觉支持约束和策略优化强制上下文目标定位

Mohammed Asad Karim, Vinay Kumar Verma

机构 * Amazon, Seattle, USA（亚马逊（美国西雅图）） 纠错

AI总结 提出一种两阶段训练框架，通过优化支持框与查询图像间的上下文注意力并结合GRPO强化学习，实现无类别监督的类别无关上下文目标定位，7B模型性能超越72B模型。

Comments Accepted at ICML 2026. * Equal Contributions

Generalizing Multi-Scale Time-Series Modeling with a Single Operator

使用单一算子泛化多尺度时间序列建模

Cheonwoo Lee, Dooho Lee, Doyun Choi, Jaemin Yoo

机构 * School of Electrical Engineering, KAIST, Daejeon, Republic of Korea（韩国成均馆大学电子工程学院） ； Department of Computer Science and Engineering, Seoul National University, Seoul, Republic of Korea（首尔国立大学计算机科学与工程系） 纠错

AI总结 提出SiGMA架构，通过可学习离散高斯核实现距离感知缩放，解决现有方法固定离散缩放的局限性，在长期和短期预测任务中均达到最优性能。

Comments Accepted at ICML 2026

Vector Linking via Cross-Model Local Isometric Consistency

通过跨模型局部等距一致性的向量链接

Ziying Chen, Yang Cao, He Sun, Beining Yang, Tianjian Yang

机构 * School of Informatics, University of Edinburgh, Edinburgh, United Kingdom（爱丁堡大学信息学院，爱丁堡，英国） ； Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences, Shenzhen, China（深圳先进技术研究院，深圳，中国） 纠错

AI总结 提出一种基于局部几何一致性的迭代参考几何嵌入哈希方法，从少量种子锚点恢复跨模型向量对应关系，实现准确鲁棒的向量链接。

Comments Accepted at ICML 2026

iVGR: Internalizing Visually Grounded Reasoning for MLLMs with Reinforcement Learning

iVGR: 通过强化学习将视觉基础推理内化到多模态大语言模型中

Chang-Bin Zhang, Yujie Zhong, Qiang Zhang, Kai Han

机构 * Visual AI Lab, The University of Hong Kong（香港大学视觉人工智能实验室） ； Independent Researcher（独立研究者） ； University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 提出iVGR框架，利用强化学习和双流训练策略将视觉定位能力内化到文本推理中，避免显式视觉基础在推理时的干扰，提升细粒度感知性能。

Comments Accepted by ICML 2026

On Revisiting Entropy for Identifying Mislabeled Images

重新审视熵在识别错误标注图像中的应用

Chunlei Li, Zixuan Zheng, Yilei Shi, Guanglu Dong, Pengfei Li, Jingliang Hu, Xiao Xiang Zhu, Lichao Mou

机构 * MedAI Technology (Wuxi) Co. Ltd., Wuxi, China（MedAI技术（无锡）有限公司，无锡，中国） ； Sichuan University, Chengdu, China（四川大学，成都，中国） ； University of Basel, Allschwil, Switzerland（巴塞尔大学，阿勒西维尔，瑞士） ； Technical University of Munich, Munich, Germany（慕尼黑技术大学，慕尼黑，德国） 纠错

AI总结 提出基于训练动态的有符号熵积分（SEI）统计量，通过捕捉预测熵的幅度和时间趋势，有效识别训练集中的错误标注样本，在医学影像数据集上达到最优性能。

Comments ICML 2026

UniRTL: Unifying Code and Graph for Robust RTL Representation Learning

UniRTL：统一代码和图以实现稳健的RTL表示学习

Yi Liu, Hongji Zhang, Lei Chen, Mingxuan Yuan, Qiang Xu

机构 * Department of Computer Science and Engineering, The Chinese University of Hong Kong, Hong Kong SAR（计算机科学与工程系，香港中文大学，香港特别行政区） ； Noah's Ark Lab, Huawei, Hong Kong SAR（华为诺亚实验室，香港特别行政区） 纠错

AI总结 提出UniRTL多模态预训练框架，通过互掩码建模和分层训练策略联合利用RTL代码与控制数据流图，实现细粒度对齐，在性能预测和代码检索任务上优于现有方法。

Comments Forty-Third International Conference on Machine Learning (ICML 2026)

Model Monotonicity in Autobidding Auctions: When Do Better Predictions Lead to Better Outcomes?

自动竞价拍卖中的模型单调性：更好的预测何时带来更好的结果？

Ashwinkumar Badanidiyuru

机构 * Uber Technologies, Inc.（优步技术公司） 纠错

AI总结 研究在线广告中推荐系统模型质量、拍卖格式和自动竞价者行为的相互作用，通过聚类精炼定义模型改进，并系统刻画不同竞价者类型、拍卖格式和预算约束下评估指标单调性的条件。

Journal ref ICML 2026

Physics-Informed Coarsening for Multigrid Graph Neural Surrogates

物理信息粗化用于多重网格图神经网络代理

Amir Bazzi, David Cardinaux, Ramy Nemer, Jose Alaves, Arjun Kalkur Matpadi Raghavendra, Elie Hachem

机构 * Amir Bazzi（阿米尔·巴齐） ； David Cardinaux（大卫·卡迪纳克斯） ； Ramy Nemer（拉米·纳默） ； José Alves（若泽·阿尔维斯） ； Arjun Kalkur（阿鲁金·卡尔库） ； Matpadi Raghavendra（马特帕迪·拉吉文德拉） ； Elie Hachem（埃利·哈克） 纠错

AI总结 针对固体力学中的非线性弹性、塑性和瞬态行为，提出一种结合物理信息粗化策略的多重网格图神经网络，通过基于残差的局部活动评分保留高应变/应力区域，实现分层消息传递，提升长期滚动稳定性和精度。

Comments Accepted at ICML 2026. 16 pages, 5 figures

Learning Multi-Agent Coordination via Sheaf-ADMM

通过 Sheaf-ADMM 学习多智能体协调

Jeffrey Seely, Bartłomiej Cupiał, Llion Jones

机构 * universityofwarsaw（华沙大学） 纠错

AI总结 提出一种可微优化框架，利用细胞层（sheaf）和ADMM实现多智能体协调，在迷宫路径规划、图像分类和数独任务中验证了其有效性，并展现出优于标准消息传递架构的可解释性和鲁棒性。

Comments 17 pages, 8 figures, 6 tables. Accepted at ICML 2026