ICML

SFT Overtraining Predicts Rank Inversion via Entropy Collapse Under RLVR

SFT 过训练通过熵崩溃预测 RLVR 下的排名反转

Siddharth Aphale, Kelly Liu

机构 * Stanford University（斯坦福大学） 纠错

AI总结 研究发现 SFT 过度训练导致 rollout 分布熵降低，使 GRPO 中优势信号消失，从而引发排名反转；提出基于熵的两阶段诊断方法可预警高风险检查点。

Comments Accepted at the Deep Learning for Code (DL4C) Workshop at ICML 2026

Searching for Synergy in Shared Workspace Human-AI Collaboration

在共享工作空间的人机协作中寻找协同效应

Nachiket Kotalwar, Rohini Das, Carolyn Rose

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

AI总结 研究共享工作空间的人机团队协作，通过Collaborative Gym环境实验发现，缺乏协调结构时增加协作者会降低性能，而结合共享记忆和模拟人在环门控的脚手架可提升团队绩效。

Comments Accepted at ICML 2026 Workshop on Human-AI Co-Creativity

Know Your Limits : On the Faithfulness of LLMs as Solvers and Autoformalizers in Legal Reasoning

了解你的局限：LLM在法律推理中作为求解器和自动形式化工具的忠实性

Olivia Peiyu Wang, Sanna Wong-Toropainen, Daneshvar Amrollahi, Ryan Bai, Tashvi Bansal, Arush Garg, Leilani H. Gilpin

机构 * UC Santa Cruz（加州大学圣克鲁兹分校） ； Univ. Helsinki（赫尔辛基大学） ； CodeX, Stanford（斯坦福大学CodeX中心） ； Stanford University（斯坦福大学） ； Canyon Crest Academy（峡谷峰学院） ； Monta Vista High School（蒙塔维斯塔高中） ； Los Altos High School（洛斯阿尔托斯高中） 纠错

AI总结 研究LLM在法律推理中是否忠实执行逻辑推理，发现LLM基于形式推理的高性能掩盖了范围清洗等不忠实模式，揭示基准准确性与逻辑忠实性之间的根本差距。

Comments 10 pages, submitted to COLM 2026 (under review, average score of 6.25 across 4 reviewers) and accepted by the AI4Law and AI4Math workshops at ICML. This is the version where we already addressed most of the reviews from the COLM & AI4Law &; AI4Math reviewers

Beyond Accuracy: Measuring Bias Acknowledgment in Chain-of-Thought Reasoning for Responsible AI Evaluation

超越准确率：在负责任AI评估中衡量思维链推理中的偏见承认

Xian Sun, Wei Gao, Yingshuo Wang, Lingdong Kong, Yanhang Li, Zhichao Fan, Zexin Zhuang, Wenlong Dong, Zhiyuan Zheng, Hrishikesh Paranjape, Abhishek Mandal, Johnny R. Zhang

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 针对仅用准确率评估忽略推理链中偏见承认的问题，提出包含易感性（susceptibility）和承认（acknowledgment）两个维度的诊断方法，实验发现不同模型在准确率相近时承认率差异显著。

Comments ICML 2026 Workshop on Trustworthy AI for Good

Culturally-Adapted Red-Teaming Across East and Southeast Asian Contexts: A Methodological and Comparative Analysis

跨东亚和东南亚语境的文化适应红队测试：方法论与比较分析

Hyeji Choi, Yongtaek Lim, Minwoo Kim

机构 * University of California, Berkeley（加州大学伯克利分校） ； Korea Advanced Institute of Science and Technology（韩国科学技术院） 纠错

AI总结 针对大语言模型的多语言安全评估，通过构建直接翻译与文化适应数据集，发现文化适应提示的攻击成功率平均提升9.3个百分点，直接翻译低估风险，且文化深度评分显著低于文化适应版本，表明适应文化语境对有效评估至关重要。

Comments Accepted to ICML 2026 Workshop on Culture X AI

Minibatch Selection for Language Models via Partition Matroid Constrained Gradient Matching

基于划分拟阵约束梯度匹配的小批量选择

Prayas Agrawal, Prateek Chanda, Ishita Khatri, Ganesh Ramakrishnan, Bamdev Mishra, Pratik Jawanpuria

机构 * Indian Institute of Technology Bombay（印度理工学院班加罗尔） ； Department of Computer Science and Engineering（计算机科学与工程系） ； Centre for Machine Intelligence and Data Science（机器智能与数据科学中心） ； Microsoft Research India（微软印度研究院） ； Microsoft India（微软印度） 纠错

AI总结 提出PartitionSel方法，通过划分拟阵约束下的梯度匹配效用最大化，实现跨域小批量选择，减少冗余并提升训练兼容性，在LLM微调中取得鲁棒性提升。

Comments 28 pages, 12 figures, ICML 2026

Journal ref Proceedings of the 43rd International Conference on Machine Learning (ICML 2026), Seoul, South Korea, PMLR 306, 2026

Off-Policy Evaluation for Missingness-Aware Policies in MDPs with Rewards Missing Not at Random

马尔可夫决策过程中奖励非随机缺失的缺失感知策略的离线评估

Ziheng Wei, Annie Qu, Rui Miao

机构 * Department of Statistics, University of Michigan at Ann Arbor（密歇根大学安娜堡分校统计学系） ； Department of Statistics（统计学系） ； Applied Probability, University of California at Santa Barbara（加州大学圣巴巴拉分校应用概率系） ； Department of Mathematical Sciences, University of Texas at Dallas（德克萨斯大学达拉斯分校数学科学系） 纠错

AI总结 针对奖励非随机缺失的离线强化学习问题，提出基于未来状态作为影子变量的识别方法，并利用桥函数和min-max估计器恢复条件均值奖励，实现缺失感知策略的离线评估。

Comments Accepted at ICML 2026. 31 pages, 6 figures

A Solver-Free Training Method for Predict-then-Optimize

一种无求解器的预测后优化训练方法

Beichen Wan, Mo Liu

机构 * Department of Statistics and Operations Research, University of North Carolina at Chapel Hill, NC, USA（统计与运筹学系，北卡罗来纳大学教堂山分校） 纠错

AI总结 提出一种基于测度变换的决策聚焦学习管道，通过无求解器代理损失实现预测后优化中预测模型的高效训练，理论保证Fisher一致性，训练时间降低数个数量级。

Comments Accepted by ICML 2026

Toward Calibrated Mixture-of-Experts Under Distribution Shift

面向分布偏移下的校准混合专家模型

Gina Wong, Drew Prinster, Suchi Saria, Rama Chellappa, Anqi Liu

机构 * Johns Hopkins University（约翰霍普金斯大学） 纠错

AI总结 研究混合专家模型在分布偏移下的校准问题，提出对抗性重加权方法以改善路由聚合的校准误差，提升准确率-校准权衡。

Journal ref ICML 2026

Multi-Task Bayesian In-Context Learning

多任务贝叶斯上下文学习

Qingyang Zhu, Eric Karl Oermann, Kyunghyun Cho

机构 * New York University（纽约大学） 纠错

AI总结 提出多任务上下文学习框架，通过将先验信息表示为上下文数据集前缀，训练Transformer实现分层贝叶斯预测推理，在多种分布偏移下匹配最优贝叶斯性能且速度提升数个数量级。

Comments ICML 2026

StylisticBias: A Few Human Visual Cues Drive Most Social Biases in MLLMs

StylisticBias: 少数人类视觉线索驱动多模态大语言模型中的大部分社会偏见

Shaghayegh Kolli, Timo Cavelius, Nafiseh Nikeghbal, Samantha Dalal, Jana Diesner

机构 * Technical University of Munich（慕尼黑工业大学） ； Munich Center for Machine Learning（慕尼黑机器学习中心） ； Princeton Center for Information and Technology Policy（普林斯顿信息与技术政策中心） 纠错

AI总结 提出StylisticBias基准，通过控制单一视觉属性变化，发现年龄和体型主导身份层面偏见，而时尚风格等约15个属性解释近80%的偏见变化，偏见集中于少数视觉线索。

Comments Accepted to the non-archival workshops AI4Good and Culture x AI at ICML 2026

Residual-Space Evolutionary Optimization via Flow-based Generative Models

基于流生成模型的残差空间进化优化

Zhuo Cao, Lena Krieger, Fernanda Nader, Xuan Zhao, Hanno Scharr, Ira Assent

机构 * LMU Munich, Munich Center for Machine Learning (MCML), Germany（慕尼黑大学，慕尼黑机器学习中心（MCML），德国） ； Department of Computer Science, Aarhus University, Denmark（丹麦奥胡斯大学计算机科学系） 纠错

AI总结 提出残差空间进化优化框架，结合流生成编辑与进化算法，在残差空间分离局部利用与全局探索，用于非可微黑盒目标的数据编辑。

Comments Accepted by ICML 2026 Workshop SPIGM, 5 pages, 3 figures

FUSE: Frequency-domain Unification and Spectral Energy Alignment for Multi-modal Object Re-Identification

FUSE：面向多模态目标重识别的频域统一与频谱能量对齐

Xuanhao Qi, Tom H. Luan, Yukang Zhang, Jinkai Zheng, Zhou Su, Shuwei Li, Lei Tan

机构 * School of Cyber Science and Engineering, Xi'an Jiaotong University（西安交通大学网络空间安全学院） ； School of Informatics, Xiamen University（厦门大学信息学院） ； National University of Singapore（新加坡国立大学） 纠错

AI总结 提出频域框架FUSE，通过频谱解耦和能量对齐两阶段处理，解决多模态重识别中低频偏置问题，在三个数据集上mAP提升9.1%。

Comments Accepted in ICML 2026

Activation- and Influence-Aware Ranks (AIR): Function-Preserving SVD Compression for LLMs

激活与影响感知秩 (AIR)：保持功能的SVD压缩用于大语言模型

Nico Harder, Daniel Becking, Karsten Mueller, Wojciech Samek

机构 * Fraunhofer HHI（弗劳恩霍夫研究所） 纠错

AI总结 提出AIR框架，基于SVD和反向信号影响度量，通过单次交替最小二乘扫描实现权重矩阵的低秩近似，在参数保留≤60%时困惑度比SVD-LLM(W)改善>18%，并减少90%校准数据。

Comments Accepted at the ICML 2026 Workshop on Resource-Adaptive Foundation Model Inference (AdaptFM), Seoul, South Korea (non-archival)

Beyond Static Endpoints: Tool Programs as an Interface for Flexible Agentic Web Services

超越静态端点：工具程序作为灵活智能体网络服务的接口

Mugeng Liu, Shuoqi Li, Yixuan Zhang, Yun Ma

机构 * School of Computer Science, Peking University, Beijing, China ； School of Software \& Microelectronics, Peking University, Beijing, China ； Institute for Artificial Intelligence, Peking University, Beijing, China 纠错

AI总结 提出ToolPro，将工具意图表示为可执行程序，通过约束引导构建、效应感知重放和策略决策，在MCP服务上实现最高53.4%的延迟降低和96.1%的流量减少。

Comments Accepted by ICML 2026

Spatial-Aware Reduction Framework: Towards Efficient and Faithful Visual State Space Models

空间感知缩减框架：迈向高效且忠实的视觉状态空间模型

Jindi Lv, Aoyu Li, Yuhao Zhou, Zheng Zhu, Xiaofeng Wang, Qing Ye, Yueqi Duan, Wentao Feng, Jiancheng Lv

机构 * Sichuan University（四川大学） ； Tsinghua University（清华大学） 纠错

AI总结 提出STORM框架，通过保持空间结构完整性解决视觉Mamba模型在token缩减时的性能崩溃问题，无需训练即可实现高精度剪枝。

Comments Accepted by ICML 2026

Federated Bilevel Performative Prediction

联邦双层执行预测

Liangxin Qian, Chang Liu, Xuanyu Cao, Jun Zhao, Kwok-Yan Lam

机构 * Nanyang Technological University（南洋理工大学） ； Zhejiang University（浙江大学） ； Washington State University（华盛顿州立大学） 纠错

AI总结 研究联邦学习中客户端数据分布受决策影响的双层优化问题，提出联邦双层执行稳定点概念及两种求解方法，实验验证了稳定性阈值和元泛化提升。

Comments Accepted by ICML 2026

DF-ExpEnse: Diffusion Filtered Exploration for Sample Efficient Finetuning

DF-ExpEnse: 扩散滤波探索用于高效样本微调

Calvin Luo, Chen Sun, Shuran Song

机构 * Stanford University（斯坦福大学） ； Brown University（布朗大学） 纠错

AI总结 提出DF-ExpEnse探索技术，利用生成控制策略的多模态建模能力和评论家集成，在微调中高效收集在线经验，提升样本效率。

Comments ICML 2026

FlowFake: Liquid Networks for Audio Deepfake Detection

FlowFake: 用于音频深度伪造检测的液态网络

Shivaay Dhondiyal, Divyansh Sharma, Dinesh Kumar Vishwakarma

机构 * Delhi Technological University（德里理工大学） 纠错

AI总结 针对音频深度伪造检测中跨数据集泛化失败的问题，提出基于液态时间常数（LTC）架构的FlowFake模型，通过学习ODE演化隐藏状态并自适应时间常数，以34K参数在跨域基准上超越现有方法。

Comments Accepted at the Workshop on Learning to Listen: Machine Learning for Audio at ICML 2026

Emergent Alignment

涌现对齐

Martin Kolář

机构 * CIIRC, Czech Technical University in Prague（捷克理工大学CIIRC） 纠错

AI总结 提出一种在线对齐技术，通过引入良心步骤和基于直接偏好优化的对齐损失，使大语言模型在训练、微调、对抗提示和零样本学习中自我纠正非伦理输出。

Comments Rejected from ICML 2026

LLM Doesn't Know What It Doesn't Know: Detecting Epistemic Blind Spots via Cross-Model Attribution Divergence on Clinical Tabular Data

LLM 不知道它不知道什么：通过跨模型归因分歧检测临床表格数据上的认知盲点

Akshat Dasula, Prasanna Desikan, Jaideep Srivastava

机构 * Centific AI Research（Centific AI研究） 纠错

AI总结 研究大语言模型在结构化临床数据上的认知不确定性，通过跨模型归因分歧分析，发现其口头置信度空洞、存在逆难度效应，并提出基于归因分歧的校准方法，无需训练即可提升准确率并降低校准误差。

Comments Accepted at EIML@ICML 2026

3D-DLP: Self-Supervised 3D Object-Centric Scene Representation Learning

3D-DLP：自监督3D物体中心场景表示学习

Ellina Zhang, Madhaven Iyengar, Amir Zadeh, Chuan Li, Deepak Pathak, David Held, Tal Daniel

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

AI总结 提出3D-DLP模型，通过自监督学习将场景级RGB-D或体素观测分解为3D潜在粒子，每个粒子编码解耦属性，实现可解释的逐粒子分割图，并支持场景操控和下游机器人操作。

Comments ICML 2026. Project webpage: https://eubooks3003.github.io/3d-dlp

QMaxCal: Path-Space Regularization for Open Quantum Control via Girsanov's Theorem

QMaxCal: 基于 Girsanov 定理的开环量子控制路径空间正则化

Merijn Moody, Zier Mensch, Miranda C. N. Cheng, Peter G. Bolhuis, Max Welling

机构 * Institute of Physics, University of Amsterdam, Netherlands（阿姆斯特丹大学物理研究所） ； Van 't Hoff Institute for Molecular Sciences, University of Amsterdam, Netherlands（阿姆斯特丹大学范·霍夫分子科学研究所） ； Dutch Institute for Emergent Phenomena, University of Amsterdam, Netherlands（阿姆斯特丹大学新兴现象研究所） ； Institute for Mathematics, Academia Sinica, Taiwan（台湾“中华学术院”数学研究所） ； Korteweg-de Vries Institute for Mathematics, University of Amsterdam, Netherlands（阿姆斯特丹大学柯特韦斯数学研究所） ； Amsterdam Machine Learning Lab, University of Amsterdam, Netherlands（阿姆斯特丹大学机器学习实验室） ； Department of Physics, National Taiwan University, Taiwan（台湾国立台湾大学物理系） 纠错

AI总结 针对开放量子系统退相干问题，利用 Girsanov 定理推导 KL 散度的可微估计器，提出两种正则化项以最小化退相干影响，在多种量子系统中优于未正则化的梯度方法和强化学习基线。

Comments 26 pages, 6 figures. ICML 2026 AI4Physics Workshop

Constrained hybrid modelling to predict microbial dynamics and organic matter turnover in soil systems

约束混合建模预测土壤系统中微生物动态与有机质周转

Paul Collart, Juergen Gall, Andrea Schnepf, Holger Pagel, Lars Doorenbos

机构 * Agrosphere (IBG-3), Forschungszentrum Jülich GmbH（农业圈（IBG-3），于利希研究中心） ； Institute of Crop Science and Resource Conservation, University of Bonn（波恩大学作物科学与资源保护研究所） ； Institute of Computer Science, University of Bonn（波恩大学计算机科学研究所） ； Lamarr Institute for Machine Learning and Artificial Intelligence（拉马尔机器学习和人工智能研究所） 纠错

AI总结 提出首个混合建模框架，利用神经网络从宏基因组推断功能性状预测过程模型参数，并整合生态理论约束，有效预测微生物动态和有机质周转。

Comments Accepted at ICML '26

Critical Percolation as a Synthetic Data Model for Interpretability

临界渗流作为可解释性的合成数据模型

Aryeh Brill, Tom Ingebretsen Carlson

机构 * Aryeh Brill ； Tom Ingebretsen Carlson 纠错

AI总结 提出基于临界平均场渗流簇的层次函数合成数据集，具有稀疏、分形和幂律分布特性，支持几乎线性时间算法生成任意规模数据，可用于评估可解释性方法。

Comments 21 pages, 10 figures, accepted to the Mechanistic Interpretability Workshop at ICML 2026

The ACUTE Protocol: Operationalizing Language Model Activations for Better Calibration, Utility, and Trust

ACUTE协议：操作语言模型激活以实现更好的校准、效用和信任

Nishant Subramani, Palash Goyal, Yiwen Song, Mani Malek, Yuan Xue, Tomas Pfister, Hamid Palangi

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Google（谷歌） ； Scale AI 纠错

AI总结 提出ACUTE协议，通过操作语言模型激活来估计置信度，平衡校准与信息性，在多项选择问答、工具调用和科学文档摘要等任务上优于强基线，提升校准、效用和可信度。

Comments ICML 2026

Detecting Hidden ML Training With Zero-Overhead Telemetry

使用零开销遥测检测隐藏的机器学习训练

Robi Rahman, Sabiha Tajdari

机构 * Machine Intelligence Research Institute（机器智能研究院） ； University of Virginia（弗吉尼亚大学） 纠错

AI总结 本文评估了仅使用零开销、隐私保护的NVML遥测（内容无关信号）对GPU工作负载分类的对抗鲁棒性，开发了一个分类器，在识别训练工作负载时达到98.2%的二元准确率，并对最具挑战性的意外工作负载达到43-87%的准确率。

Comments Technical AI Governance Research workshop at ICML 2026

Geometric and Stochastic Analysis of Discontinuities in Sparse Mixture-of-Experts

稀疏混合专家模型中不连续性的几何与随机分析

Tho Tran Huu, Huu-Tuan Nguyen, Thien-Hai Nguyen, Nhat-Tri Ho, Viet-Hoang Tran, Tho Quan, Tan Minh Nguyen

机构 * Department of Mathematics, National University of Singapore, Singapore（新加坡国立大学数学系） ； Faculty of Computer Science and Engineering, Ho Chi Minh City University of Technology (HCMUT), VNU-HCM, Ho Chi Minh City, Vietnam（胡志明市技术大学计算机科学与工程学院） 纠错

AI总结 本文对稀疏混合专家模型中的不连续性进行几何与随机分析，分类不连续阶数，建立渐近体积估计，证明随机路径几乎必然击中一阶不连续，并提出低开销平滑机制以提升性能。

Comments ICML 2026 Spotlight. arXiv admin note: text overlap with arXiv:2510.17794 by other authors

LARE: Low-Attention Region Encoding for Text-Image Retrieval

LARE: 低注意力区域编码用于文本-图像检索

Abdulmalik Alquwayfili, Faisal Almeshal, Jumanah Almajnouni, Leena Alotaibi, Faisal Alhajari, Mohammed Alkhrashi, Alreem Almuhrij, Abdullah Aldwyish, Raied Aljadaany, Huda Alamri, Muhammad Kamran J. Khan

机构 * Saudi Data and Artificial Intelligence Authority (SDAIA)（沙特数据与人工智能局） 纠错

AI总结 提出LARE框架，通过并行编码低注意力区域和完整图像，解决拥挤场景下视觉编码器忽视关键细节的问题，在密集场景子集上提升检索性能。

Comments Accepted at the ICML 2026 Workshop on Efficient Multimodal Question Answering (EMM-QA). Code: https://github.com/AbdulmalikDS/LARE ; Dataset: https://huggingface.co/datasets/AbdulmalekDS/Dense-Set

Semantic Robustness Certification for Vision-Language Models

视觉语言模型的语义鲁棒性认证

Peiyu Yang, Paul Montague, Feng Liu, Andrew C. Cullen, Amardeep Kaur, Christopher Leckie, Sarah M. Erfani

机构 * School of Computing \& Information Systems, University of Melbourne, Australia 纠错

AI总结 提出首个无需额外数据即可认证视觉语言模型在语义层面（如形状、大小、风格）鲁棒性的框架，通过文本提示作为语义代理并量化决策边界，确保预测类别在语义变换下不变。

Comments Accepted to ICML