ICML

Position: Good Embodied Reward Models Need Bad Behavior Data

立场：好的具身奖励模型需要不良行为数据

Ran Tian, Yilin Wu, Andrea Bajcsy

机构 * Ran Tian, Yilin Wu, Andrea Bajcsy 纠错

AI总结 本文主张为获得可靠的具身奖励模型，社区必须投资于“不良”机器人数据（失败、次优、易错甚至危险行为），并通过实验证明即使少量真实不良数据也能改善与人类偏好的一致性。

Comments This position paper has been accepted by the ICML 2026 position track as a spotlight paper

Trust Functions: Near-Lossless Weak-to-Strong Generalization by Learning When to Trust the Weak Teacher

信任函数：通过学习何时信任弱教师实现近乎无损的弱到强泛化

Arda Uzunoglu, Alvin Zhang, Daniel Khashabi

机构 * University of Washington（华盛顿大学） 纠错

AI总结 提出信任函数为弱标签分配信任分数并据此过滤弱监督，在多个领域实现近乎无损的弱到强泛化，且能通过迭代链放大收益。

Comments ICML 2026

COLLIE: Guiding Skill Discovery in Semantically Coherent Latent Space

COLLIE：在语义连贯的潜在空间中引导技能发现

Yao Luan, Ni Mu, Hanfei Ge, Yiqin Yang, Bo Xu, Qing-Shan Jia

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 提出COLLIE框架，利用密集无监督数据构建语义连贯的潜在空间，通过无需额外训练的引导信号实现稀疏人类反馈下的有效技能发现，避免危险行为并提升下游性能。

Comments ICML 2026

PRISM: Gauge-Invariant Tangent-Space Differentially Private LoRA

PRISM: 规范不变切空间差分隐私LoRA

Shihao Wang, Xueru Zhang

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 针对LoRA中低秩参数化导致的非可辨识性和规范依赖噪声放大问题，提出PRISM机制，通过构造规范不变的差分隐私扰动，实现高效且稳定的隐私-效用权衡。

Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026) as an oral presentation

Prompts for Public-Sector LLMs Should Be Governed as Commons

公共部门LLM的提示应作为公共资源进行治理

Rashid Mushkani

AI总结 本文提出公共部门部署大型语言模型时使用的提示应作为受治理的制品，而非私有临时输入，并设计了带版本控制、社区维护的提示模板仓库及协商集成方法。

Comments To appear in the Proceedings of the 43rd International Conference on Machine Learning (ICML 2026)

Images as Tables: In-Context Learning with TabPFN for Low-Data Detection of AI-Generated Images

图像作为表格：利用TabPFN进行上下文学习以实现低数据量下AI生成图像的检测

Jan Philip Walter, Shashank Agnihotri, Margret Keuper

机构 * Jan Philip Walter ； Shashank Agnihotri ； Margret Keuper 纠错

AI总结 提出将图像转换为表格形式，使用冻结的DINOv3骨干网络提取特征，并通过TabPFN进行上下文学习，在低数据量下有效检测AI生成图像，优于现有方法。

Comments Accepted as a Spotlight Oral at the ICML 2026 Workshop Foundation Models for Structured Data. *Equal Contribution

Benchmarks for Vision-Language Models in Urban Perception Should Be Reliability-Aware and Negotiated

城市感知中的视觉语言模型基准应具备可靠性意识且可协商

Rashid Mushkani

机构 * Rashid Mushkani 纠错

AI总结 本文提出，用于城市感知的视觉语言模型基准应将分歧和弃权视为测量结果，报告标注者间信度，并将标签空间和评分策略视为可协商的产物。

Comments To appear in the Proceedings of the 43rd International Conference on Machine Learning (ICML 2026)

Latent Diffusion Pretraining for Crystal Property Prediction

晶体性质预测的潜在扩散预训练

Shrimon Mukherjee, Kishalay Das, Partha Basuchowdhuri, Pawan Goyal, Niloy Ganguly

机构 * University of California, Berkeley（加州大学伯克利分校） ； Indian Institute of Technology, Bombay（印度班加罗尔印度理工学院） 纠错

AI总结 提出基于潜在扩散的预训练框架CrysLDNet，结合变分自编码器和扩散模型，从无标注晶体结构中学习表示，微调后显著提升性质预测性能。

Comments Published in ICML 2026

SORA: Free Second-Order Attacks in Fast Adversarial Training

SORA：快速对抗训练中的自由二阶攻击

Mazdak Teymourian, Ramtin Moslemi, Farzan Rahmani, Mohammad Hossein Rohban

机构 * Department of Computer Engineering, Sharif University of Technology, Tehran, Iran（谢赫大学计算机工程系） 纠错

AI总结 针对快速对抗训练中的灾难性过拟合问题，提出通过扰动变异性和梯度对齐指标PertAlign来预测并防止过拟合，并设计自适应步长方法SORA，实现最优鲁棒性和干净准确率。

Comments Accepted at ICML 2026

COPF: An Online Framework for Deployment-Stable Counterfactual Fairness in Evolving Graphs

COPF：演化图中部署稳定的反事实公平性在线框架

Sheng'en Li, Dongmian Zou

机构 * Shanghai Jiao Tong University（上海交通大学） 纠错

AI总结 针对演化图上的在线链接推荐，提出COPF框架，通过反事实暴露机会差距、显式探索和残差不可区分性审计，实现部署稳定的公平性监控与控制。

Comments Accepted at ICML 2026

DistMatch: Adaptive Binning via Distribution Matching for Robust Sequential Conformal Prediction

DistMatch: 通过分布匹配的自适应分箱用于鲁棒序列共形预测

Enver Menadjiev, Jihyeon Seong, Jisu Yeo, Jaesik Choi

机构 * University of California, Berkeley（加州大学伯克利分校） ； University of Tokyo（东京大学） 纠错

AI总结 提出DistMatch方法，利用Kolmogorov-Smirnov统计量递归划分残差以实现近似可交换性，结合在线分位数回归进行局部自适应推理，提升序列共形预测对分布偏移的鲁棒性。

Comments ICML 2026 (34 pages, 12 figures, 16 tables)

Demystifying the Optimal Fair Classifier in Multi-Class Classification

揭秘多类分类中的最优公平分类器

Li Zhang, Yuyuan Li, XiaoHua Feng, Jiaming Zhang, Fengyuan Yu, Chaochao Chen

机构 * College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院） ； College of Computer Science（计算机科学学院） ； Technology, Zhejiang University（技术，浙江大学） ； School of Communication Engineering, Hangzhou Dianzi University（杭州电子科技大学通信工程学院） 纠错

AI总结 本文针对多类分类中的公平性问题，提出了一种在公平约束下最优分类器的概率公式，并设计了两种属性盲算法（处理中与处理后）以逼近最优精度-公平帕累托前沿。

Comments Accepted to ICML 2026

MESA: Improving MoE Safety Alignment via Decentralized Expertise

MESA: 通过去中心化专家提升MoE安全对齐

Yitong Sun, Yao Huang, Teng Li, Ranjie Duan, Yichi Zhang, Xingjun Ma, Hui Xue, Xingxing Wei

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 针对MoE架构中安全能力集中于少数专家导致的脆弱性，提出MESA框架，通过最优传输理论实现专家安全职责去中心化分配与路由细化，在保持实用性的同时提升防御性能。

Comments 18 pages, 8 figures, accepted by ICML 2026

MM-Snowball: Evaluating and Mitigating Hallucination Snowballing in Multimodal Multi-Turn Dialogue

MM-Snowball：多模态多轮对话中的幻觉雪崩评估与缓解

Yue Jiang, Xue Jiang, Lihua Zhang, Zhiqiang Wang, Yuhang Lu, Peng Wang, Bo Han, Feng Zheng, Dingkang Yang

机构 * College of Intelligent Robotics and Advanced Manufacturing, Fudan University（复旦大学智能机器人与先进制造学院） ； Southern University of Science and Technology（南方科技大学） ； TMLR Group, Hong Kong Baptist University（香港 Baptist 大学 TMLR 团体） ； MM Lab, CUHK（CUHK 多模态实验室） ； RAMS Lab, Huawei Technologies Co., Ltd.（华为技术有限公司 RAMS 实验室） 纠错

AI总结 针对多模态大模型在多轮对话中因初始错误累积导致幻觉雪崩的问题，提出首个细粒度诊断基准MM-Snowball，并设计无训练的冲突感知视觉校正方法CAVR，通过表示级刷新视觉锚定和logit级修正输出分布来缓解雪崩效应。

Comments Accepted by The International Conference on Machine Learning (ICML 2026)

FlowNar: Scalable Streaming Narration for Long-Form Videos

FlowNar: 面向长视频的可扩展流式叙述

Zeyun Zhong, Manuel Martin, Chengzhi Wu, David Schneider, Frederik Diederichs, Juergen Gall, Juergen Beyerer

机构 * Karlsruhe Institute of Technology (KIT)（卡尔斯鲁厄理工学院） ； Lamarr Institute for Machine Learning（拉马尔机器学习研究所） ； University of Bonn（波恩大学） 纠错

AI总结 提出FlowNar框架，通过动态上下文管理和CLAM模块实现有界视觉记忆与计算复杂度，在流式视频叙述中兼顾高质量与高效率。

Comments Accepted to ICML 2026

Revisiting Parameter-Based Knowledge Editing in Large Language Models: Theoretical Limits and Empirical Evidence

重新审视大型语言模型中基于参数的知识编辑：理论极限与实证证据

Wanying Ren, Xin Song, Futing Wang, Guoxiu He, Aixin Sun

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 本文通过理论分析和实证评估，揭示了基于参数的知识编辑方法会因维度坍缩假设导致全局干扰和推理崩溃，而简单的检索基线方法在所有条件下均表现更优。

Comments Accepted to ICML 2026. Equal contribution by the first two authors. 9 pages main paper, 10 figures, with appendix

Decomposed On-Policy Distillation for Vision-Language Reasoning: Steering Gradients for Visual Grounding

面向视觉-语言推理的分解式在策略蒸馏：引导梯度实现视觉定位

Hee Suk Yoon, Eunseop Yoon, Jaehyun Jang, SooHwan Eom, Ji Woo Hong, Mark Hasegawa-Johnson, Qi Dai, Chong Luo, Chang D. Yoo

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

AI总结 通过将视觉-语言模型蒸馏损失分解为语言先验和视觉定位两个正交分量，提出视觉梯度引导（VGS）方法动态调整更新方向以优先优化视觉子空间，从而提升小模型在复杂多模态任务中的定位能力。

Comments ICML 2026 Spotlight

ProactiveLLM: Learning Active Interaction for Streaming Large Language Models

ProactiveLLM: 学习流式大语言模型的主动交互

Junlong Tong, Yao Zhang, Anhao Zhao, Yingqi Fan, Yunpu Ma, Xiaoyu Shen

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 提出ProactiveLLM，利用模型内生状态指导交互决策，通过掩码流式建模和同步特权自蒸馏实现主动交互，减少延迟并保持质量。

Comments ICML 2026

Threshold-Based Exclusive Batching for LLM Inference

基于阈值的独占批处理用于LLM推理

Weifang Zhang, Yuzhou Nie, Bowen Pang, Guangrui Ma, Shining Wu

机构 * The Hong Kong Polytechnic University（香港理工大学） ； Engineering Center for Space Utilization, Chinese Academy of Sciences（中国科学院空间利用工程技术中心） 纠错

AI总结 针对混合批处理中预填充与解码干扰导致边际成本上升的问题，提出基于GPU内存带宽、模型大小和工作负载的EB-MB性能交叉条件及最优切换阈值，优化后的独占批处理在带宽受限GPU上吞吐量提升高达41.9%。

Comments 37 pages, 12 figures. Accepted at ICML 2026

Semi-Supervised Learning with Noisy Proxy Covariates: Generalization Bounds and Distribution Regression

带噪声代理协变量的半监督学习：泛化界与分布回归

Kwangho Kim, Jisu Kim

机构 * Department of Statistics, Korea University, Seoul, Korea（韩国大学统计系） ； Department of Statistics, Seoul National University, Seoul, Korea（首尔国立大学统计系） 纠错

AI总结 针对带噪声代理协变量的半监督回归问题，提出两阶段估计器，利用所有代理协变量学习核本征特征，并在标记数据上拟合岭回归，理论证明在代理扰动可控且未标记代理协变量充足时能恢复快速标记样本率，实验表明在低标记率下优于监督和半监督基线。

Journal ref Proceedings of the 43rd International Conference on Machine Learning (ICML 2026)

Saliency-Aware Model Merging

显著性感知模型合并

Jungin Park, Jiyoung Lee, Kwanghoon Sohn

机构 * Yonsei University, Seoul, South Korea（首尔大学） ； Ewha Womans University, Seoul, South Korea（成均馆女子大学） 纠错

AI总结 提出SA-Merging方法，利用结构剪枝中的连通性显著性（如SynFlow）进行数据无关模型合并，通过任务向量显著性评分和合并感知调制减少任务干扰，并在视觉和语言任务上验证有效性。

Comments ICML 2026 Camera-ready

V-LynX: Token Interface Alignment for Video+X LLMs

V-LynX: 视频+X 大语言模型的令牌接口对齐

Jungin Park, Jiyoung Lee, Kwanghoon Sohn

机构 * Yonsei University, Seoul, South Korea（延世大学，首尔，韩国） ； Ewha Womans University, Seoul, South Korea（成均馆大学，首尔，韩国） 纠错

AI总结 本文发现视频大语言模型中存在令牌接口连续流形，并提出V-LynX框架，通过轻量辅助路径对齐注意力响应和统计分布，无需配对监督即可集成新模态，在音视频问答、3D推理等任务上达到最优效率。

Comments ICML 2026 Camera-ready

Torus Graphs for Large Scale Neural Phase Analysis

大规模神经相位分析的环面图模型

Jack Goffinet, Casey Hanks, David E. Carlson

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

AI总结 提出一种随机得分匹配方法，将环面图模型的计算复杂度从O(d^6)降至O(d^2)，使其能处理数千变量，并扩展至隐马尔可夫模型和自回归模型，用于分析脑状态依赖的相位耦合和方向性交互。

Comments 23 pages, 15 figures; to be published in ICML 2026

Do Text Edits Generalize to Visual Generation? Benchmarking Cross-Modal Knowledge Editing in UMMs

文本编辑能否泛化到视觉生成？统一多模态模型中的跨模态知识编辑基准

Xin Gao, Cheng Yang, Chufan Shi, Taylor Berg-Kirkpatrick

机构 * University of California, Berkeley（加州大学伯克利分校） ； Stanford University（斯坦福大学） ； University of Toronto（多伦多大学） ； University of Washington（华盛顿大学） 纠错

AI总结 提出跨模态知识编辑基准UniKE，发现文本编辑在图像生成中效果显著下降（VQA准确率仅18.5%），并提出推理增强参数编辑方法提升跨模态迁移效果。

Comments Published at ICML 2026; Code and data available at https://github.com/gxx27/UniKE

On the Limits of LLM Adaptability: Impact of Model-Internalized Priors on Annotation Task Performance

论大语言模型适应性的局限：模型内化先验对标注任务性能的影响

Etienne Casanova, Rafal Kocielnik, R. Michael Alvarez

机构 * University of Washington（华盛顿大学） 纠错

AI总结 通过毒性检测实验，研究大语言模型内化先验与指令交互的三个维度，发现近三分之二的零样本错误难以通过提示纠正，并引入定义特定熟悉度（DSF）指标，证明其与性能正相关，而文本记忆指标则无此关联。

Comments Accepted at ICML 2026 (Oral & Spotlight); PMLR vol. 306. 9 pages, 4 figures

Exploiting weight-space symmetries for approximating curvature

利用权重空间对称性近似曲率

Artem Artemev, Rui Xia, Benjamin M. Boyd, Youjing Yu, Felix Dangel, Guillaume Hennequin, Alberto Bernacchia

机构 * DeepMind, London, UK（伦敦DeepMind） 纠错

AI总结 本文通过解析平均化保持损失不变的群作用，从单个梯度构建结构化的Hessian近似，从而利用权重空间对称性来近似损失函数的曲率。

Comments Published at ICML 2026. 35 pages, 11 figures. Code: https://github.com/mtkresearch/symm_opt

Finer Parameter Steps for Low-Rank PEFT: A Controlled Study with CP Tensor Adapters

低秩PEFT的更细参数步长：基于CP张量适配器的控制研究

Xinjue Wang, Xiuheng Wang, Yejun Zhang, Sergiy A. Vorobyov, Esa Ollila, Zhi-Yong Wang

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 本文通过固定组件的规范多路分解（CP）张量适配器实现更细的参数步长，研究其对低秩适配器精度-预算权衡的影响，发现CP适配器能填补LoRA秩之间的空白，但效果依赖于任务。

Comments Accepted at the ICML 2026 Workshop on CoLoRAI

Quantifying the Salience of Geo-Cultural Values for Pluralistic Safety Alignment

量化地理文化价值对多元安全对齐的显著性

Arkadiy Saakyan, Charvi Rastogi, Lora Aroyo

机构 * University of Oxford（牛津大学） ； University of Cambridge（剑桥大学） 纠错

AI总结 通过多层次模型分析，发现文化区域归属对安全评分有显著影响（p<0.05），约10%的项目存在文化敏感性，当前LLM无法可靠替代人类评分员但可辅助筛选。

Comments 119 pages, 13 figures. ICML 2026 camera ready

(HB-ARFM) History-Bootstrapped Flow Matching for Inverse Boiling Reconstruction

(HB-ARFM) 基于历史引导的流匹配用于逆沸腾重建

Xianwei Zou, Sheikh Md Shakeel Hassan, Arthur Feeney, Aparna Chandramowlishwaran

AI总结 提出历史引导自回归流匹配方法，通过条件流匹配和自回归传播解决部分观测下的时空逆重建问题，在沸腾动力学重建中优于其他模型。

Comments ICML 2026

Balancing Learning Rates Across Layers: Exact Two-Step Dynamics and Optimal Scaling in Linear Neural Networks

跨层学习率平衡：线性神经网络中的精确两步动力学与最优缩放

Tianyu Pang, Vignesh Kothapalli, Shenyang Deng, Haohui Wang, Dawei Zhou, Yaoqing Yang

机构 * Dartmouth College（达特茅斯学院） ； Stanford University（斯坦福大学） 纠错

AI总结 本文通过精确推导线性神经网络在梯度下降两步后的梯度和测试损失闭式表达式，研究了层间学习率的最优选择，揭示了初始步骤不等学习率可最小化测试损失而后续步骤等学习率最优的早期训练机制。

Comments ICML 2026