ICML

Robust Human-AI Complementarity under Uncertainty

不确定性下稳健的人机互补性

Yewon Byun, Bryan Wilder

机构 * Machine Learning Department, Carnegie Mellon University（卡内基梅隆大学机器学习系） 纠错

AI总结 研究人类决策者与人工智能可用信息质量的不对称信息对提取互补价值能力的影响，指出关键是误差相关结构，当人工智能与人类预测误差负相关时，决策者可构建稳健策略，并用实际基准进行了实证研究。

Comments ICML 2026

Multiplication Beyond Groups: Stratified Fourier Mechanisms in Transformer Circuits

超越群的乘法：Transformer电路中的分层傅里叶机制

Zitong Andrew Chen, Junaid Hasan, Akhil Srinivasan, Hemkesh Bandi, Jarod Alper

AI总结 研究小型变压器学习复合模上模整数乘法的方法，提出幺半群扩展，将输入空间划分区域，发现训练的变压器中嵌入、注意力等呈现特定特性，表明相关表示理论机制可超越群扩展到更一般结构。

Comments 29 pages, 15 figures. Spotlight at the Mechanistic Interpretability Workshop at ICML 2026. First three authors contributed equally. Code at https://github.com/uw-math-ai/interpreting-monoids

Unveiling the Visual Counting Bottleneck in Vision-Language Models

揭示视觉语言模型中的视觉计数瓶颈

Xingzhou Pang, Yifan Hou, Junling Wang, Mrinmaya Sachan

机构 * Department of Computer Science, ETH Zürich（苏黎世联邦理工学院计算机科学系） 纠错

AI总结 通过分解视觉计数为三个认知阶段，发现视觉语言模型在符号映射阶段失败，提出断裂数量假说：模型学习到分离的模态特定统计流形，无法实现跨模态对齐。

Comments ICML 2026

Sharp Inequalities between Total Variation and Hellinger Distances for Gaussian Mixtures

高斯混合的总变差与Hellinger距离之间的尖锐不等式

Joonhyuk Jung, Chao Gao

AI总结 本文建立了紧支撑混合分布下高斯位置混合的总变差与Hellinger距离之间的上界，并构造序列证明其尖锐性，从而解决了Jia等人(2023)提出的开放问题，并给出了总变差下学习高斯混合的熵特征以及Hellinger距离下的最优鲁棒估计。

Comments 36 pages

Journal ref Proceedings of the 43rd International Conference on Machine Learning (ICML), Seoul, South Korea. PMLR 306, 2026

Towards Understanding Steering Strength

理解引导强度

Magamed Taimeskhanov, Samuel Vaiter, Damien Garreau

AI总结 研究大语言模型训练后控制中引导强度问题，提出对其首次理论分析，刻画其对相关量的影响并推导规律，揭示非单调效应，还通过11个语言模型实验验证了理论预测。

Comments Accepted for publication at ICML 2026 (50 pages)

Query-Based Asymmetric Modeling with Decoupled Input-Output Rates for Speech Restoration

基于解耦输入输出速率的基于查询的语音恢复非对称建模

Ui-Hyeop Shin, Jaehyun Ko, Woocheol Jeong, Hyung-Min Park

AI总结 研究语音恢复中输入输出采样率不同的问题，提出基于查询的xSFI建模框架TF-Restormer，通过特定编码合成方式及多种损失训练，在多采样率基准测试中无需冗余重采样实现保真度与感知质量平衡。

Comments Accepted to ICML 2026

LiveOIBench: Can Large Language Models Outperform Human Contestants in Informatics Olympiads?

LiveOIBench：大语言模型在信息学奥林匹克竞赛中能超越人类参赛者吗？

Kaijian Zou, Aaron Xiong, Yunxiang Zhang, Frederick Zhang, Yueqi Ren, Jirong Yang, Ayoung Lee, Shitanshu Bhushan, Lu Wang

机构 * University of Michigan（密歇根大学） 纠错

AI总结 研究大语言模型在信息学奥林匹克竞赛中的表现，引入含403个专家策划问题的LiveOIBench基准，通过四个关键特性评估34个模型，发现GPT - 5等不及顶级人类参赛者，还表明强大推理模型特点及基准数据污染少。

Comments ICML 2026 Camera Ready

FPTQuant: Function-Preserving Transforms for LLM Quantization

FPTQuant：用于大语言模型量化的函数保持变换

Boris van Breugel, Yelysei Bondarenko, Paul Whatmough, Markus Nagel

机构 * Qualcomm AI Research（高通人工智能研究） 纠错

AI总结 研究针对大语言模型推理能耗高问题，提出FPTQuant方法，通过引入三种函数保持变换促进Transformer量化，经训练使模型在量化时保持功能，实现静态INT4量化，有最小开销且速度大幅提升，在精度-速度权衡上表现优异。

Comments Forty-third International Conference on Machine Learning (ICML 2026)

ContrastiveCFG: Guiding Diffusion Sampling by Contrasting Positive and Negative Concepts

对比CFG：通过对比正负概念引导扩散采样

Jinho Chang, Changsun Lee, Hyungjin Chung, Jong Chul Ye

机构 * EverEx 纠错

AI总结 研究在条件扩散模型采样中，针对简单否定CFG引导存在的问题，提出用对比损失实现对给定条件引导的新方法，能在多样场景下有效注入或去除给定概念并保持样本质量。

Comments 20 pages, 11 figures. Poster in ICML 2026

Learning to Explore for Stochastic Gradient MCMC

为随机梯度MCMC学习探索

SeungHyun Kim, Seohyeon Jung, Seonghyeon Kim, Juho Lee

机构 * Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院） 纠错

AI总结 本文提出一种元学习策略，使SGMCMC能够高效探索多模态后验分布，提升采样效率并优于传统SGMCMC方法。

Journal ref Proceedings of the 41st International Conference on Machine Learning, Proceedings of Machine Learning Research 235:24015-24039, 2024

Beyond Heuristic Tuning: Power-Calibrated LLM Watermarking

超越启发式调优：功率校准的大语言模型水印

Xiaopu Wang, Zelin He, Chengyuan Liu, Runze Li

机构 * Department of Statistics, Pennsylvania State University（统计学系，宾夕法尼亚州立大学） 纠错

AI总结 研究大语言模型水印，针对现有基于对数几率水印在可检测性和语义失真权衡及超参数选择上的问题，开发功率校准统计框架，建立相关定量关系，推导出实用参数选择程序，经实验验证可识别帕累托最优点。

Comments Accepted ICML 2026

Higher-Order Certified Robustness for Regression

回归的高阶认证鲁棒性

Jie Zhang, Natalie Frank

AI总结 研究回归的对抗鲁棒性问题，提出新颖框架，推导以预测为中心的证书保证稳定性与可计算性，通过纳入均值、方差和梯度构建证书，在MNIST旋转任务中利用梯度信息得到更严格的鲁棒性证书。

Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026)

RSF-GLLM: Bridging the Semantic Gap in Multi-Hop Knowledge Graph QA via Recurrent Soft-Flow and Decoupled LLM Generation

RSF-GLLM：通过循环软流和去耦语言模型生成弥合多跳知识图谱问答中的语义鸿沟

Sambaran Bandyopadhyay, Ananth Muppidi

机构 * Adobe Research（Adobe研究院） ； Adobe Systems（Adobe系统公司） 纠错

AI总结 研究多跳知识图谱问答中传统方法的语义鸿沟问题，提出RSF-GLLM框架，通过循环软流模块传播分数、引入正则化保证收敛，提取路径微调LLM，实验证明该方法性能优且推理效率高。

Comments Accepted for publication in ICML 2026 as a full research paper; 21 pages

Bridging Physical Reasoning and Task Generalization via Visual Action Outcome Reasoning Alignment

通过视觉动作结果推理对齐实现物理推理与任务泛化的桥梁

Han-Jun Ko, Jr-Jen Chen, Haobo Yuan, Hsin-Ying Lee, Tiancheng Shen, Ming-Hsuan Yang, Yu-Chiang Frank Wang

机构 * National Taiwan University（国立台湾大学） ； The University of California, Merced（加州大学默塞德分校） 纠错

AI总结 研究针对视觉语言模型在物理推理中难以泛化的问题，提出VAORA奖励设计，包括视觉对齐奖励和视觉-动作对齐奖励，通过预训练专家估计概率实现平滑密集奖励，经实验验证可有效提升模型在新任务和未见环境中的物理推理性能。

Comments ICML'26 Workshop RLxF: Reinforcement Learning from World Feedback

Analysis-by-Proxy: Localization Signals in VLMs Operating as Condition Encoders

代理分析：作为条件编码器的视觉语言模型中的定位信号

Yoav Baron, Sara Dorfman, Roni Paiss, Daniel Cohen-Or, Or Patashnik

机构 * Tel Aviv University, Tel Aviv, Israel（特拉维夫大学） ； Google DeepMind（谷歌DeepMind） 纠错

AI总结 研究视觉语言模型（VLMs）作条件编码器时编辑管道定位性能差的问题，引入代理分析框架，通过训练代理模型分析VLM中间表示来揭示编码定位信息的表示，发现现有条件提取策略缺陷，为条件架构设计提供新思路。

Comments Accepted as a Spotlight at the ICML 2026 Mechanistic Interpretability Workshop

Canopy: A Heterograph Foundation Model for Metabolic Engineering

Canopy：用于代谢工程的异构图基础模型

Jake Bowden, Laurence Legon, Satnam Surae

机构 * an in-house laboratory information management system (LIMS)（一个内部实验室信息管理系统（LIMS）） 纠错

AI总结 代谢工程中设计高产微生物菌株有挑战，Canopy异构图基础模型集成多数据源成知识图谱，用特定模型编码特征，经自监督目标预训练，在发酵滴度预测任务中表现优于基线。

Comments Accepted at ICML GenBio Workshop 2026 https://openreview.net/forum?id=H8bvgKoT7j

Flow Matching-Based Speech Source Separation with Best-of-N Biometric Sampling

基于最佳N生物特征采样的流匹配语音源分离

Anastasia Zorkina, Alexandr Anikin, Nikita Khmelev, Anastasiya Korenevskaya, Sergey Novoselov, Vladimir Volokhov, Maxim Korenevsky, Yuriy Matveev

机构 * NVIDIA（英伟达） 纠错

AI总结 针对单通道语音分离难题，提出基于条件流匹配的方法，训练时用冻结说话人编码器定义源顺序，推理时用于生物特征最佳N候选选择等，在Libri2Mix基准上评估，该方法在分离指标及下游任务中表现出色。

Comments Accepted at the ICML 2026 Workshop on Machine Learning for Audio

Multimodal Video-to-Music Recommendation via Semantic Retrieval and Temporal Reranking

通过语义检索和时间重排实现多模态视频到音乐推荐

Seungheon Doh, Minhee Lee, Sangmoon Lee, Ben Sangbae Chon, Juhan Nam

机构 * Graduate School of Culture Technology, KAIST（韩国釜山科学技术大学文化科技研究生院） ； Gaudio Lab, Inc（Gaudio实验室） 纠错

AI总结 提出用于视频到音乐推荐的两阶段框架VTMR，第一阶段通过全局嵌入检索语义兼容候选，第二阶段关注时间序列重排。实验显示该框架能提升推荐效果，人类偏好研究表明其在总体偏好上与商业基线相当，音乐质量优于生成基线。

Comments Accepted for publication at The Machine Learning for Audio workshop at ICML 2026

When Should LLMs Search? Counterfactual Supervision for Search Routing

大语言模型何时应进行搜索？搜索路由的反事实监督

Minho Kim

机构 * Minho Kim 纠错

AI总结 研究大语言模型搜索路由问题，通过比较无搜索和强制搜索结果构建预言机，以其为评估标准和学习信号，用监督微调及偏好优化训练策略，提升了Gemma E2B和Qwen3.5 - 4B的路由宏F1，减少特定模型路由失败并揭示相关瓶颈。

Comments 20 pages, 10 figures. Accepted at the FAGEN Workshop at ICML 2026

Design-CP: Context Parallelism for Design of Protein Nanoparticles

Design-CP：用于蛋白质纳米颗粒设计的上下文并行

Lorenzo Tarricone, Helen E. Eisenach, Aiko Muraishi, Charlotte M. Deane

AI总结 研究针对全原子生成蛋白质模型内存受限问题，提出 Design-CP 上下文并行推理策略，用于 RFdiffusion 3，在多 GPU 上扩展设计能力，可用于二十面体和八面体纳米颗粒设计，推动大型组装蛋白质设计发展。

Comments Accepted at the 2026 Workshop on Generative and Agentic AI for Biology (ICML 2026)

Optimism as a Vulnerability: Deceptive Stackelberg Control of UCB Bandit Followers

作为一种脆弱性的乐观主义：UCB 策略跟随者的欺骗性斯塔克尔伯格控制

Şuayp Talha Kocabay, Kerem Yalçın, Talha Rüzgar Akkuş

AI总结 研究有限 horizon 重复斯塔克尔伯格博弈中 UCB 策略跟随者面对领导者的情况，提出欺骗性领导者机制，通过蜜罐和陷阱阶段操控，使领导者累积效用超经典 SSE 上限，且操纵成本有界，揭示静态与动态激励的不兼容性。

Comments Accepted to the NExT-Game Workshop (New Frontiers in Game-Theoretic Learning) at ICML 2026. To be presented July 11, 2026, Seoul, South Korea

Position: Preventing AI-Generated CSAM Necessitates New Approaches to AI Safety

立场：防止人工智能生成的儿童性虐待材料需要新的人工智能安全方法

Neil Kale, Rebecca Portnoff, Pratiksha Thaker, Michael Simpson, Robertson Wang, Kevin Kuo, Chhavi Yadav, Virginia Smith

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Thorn 纠错

AI总结 研究人工智能给儿童安全带来的新风险，指出保护儿童免受其助长的性虐待需新安全方法。探讨现有技术与相关约束的不兼容及带来的挑战，概述15个开放性问题并给出针对性建议，推动将负责任AI原则转化为儿童保护措施。

Comments Accepted (spotlight) in ICML 2026, Position Paper Track. The first two authors contributed equally and may list their names interchangeably

Robust Bayes-Assisted Conformal Prediction

鲁棒贝叶斯辅助共形预测

Kianoosh Ashouritaklimi, Stefano Cortinovis, François Caron

AI总结 针对贝叶斯辅助共形预测在先验与数据失配时预测集过大的问题，提出RoBAS框架构造鲁棒非一致性得分，分布偏移下可缩窄预测区间且无偏移时性能有竞争力。

Comments Accepted to ICML 2026. 44 pages, 8 figures, 7 tables

When Agents Lie: Premeditation, Persistence, and Exploitation in Repeated Games

智能体何时撒谎：重复博弈中的预谋、持续性与可利用性研究

Jerick Shi, Terry Jingcheng Zhang, Bernhard Schölkopf, Vincent Conitzer, Zhijing Jin

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Vector Institute（向量研究所） ； University of Toronto（多伦多大学） ； EuroSafeAI 纠错

AI总结 本文针对大语言模型智能体行动前公示意图的诚信问题，设计三阶段n人重复博弈协议，评测前沿模型，发现其偏离公示行为多属预谋，不同模型对公示的语义理解不兼容。

Comments Best Paper Award at ICML NExT-Game Workshop

Quantize the Target, Quantize the Drafter: Efficient Inference with Qwen3.5-4B

量化目标，量化草稿生成器：使用Qwen3.5 - 4B进行高效推理

Jaeyeon Kim, Jewon Lee, Bo-Kyeong Kim

机构 * Nota Inc.（Nota公司） 纠错

AI总结 研究旨在在资源受限的NVIDIA A10G GPU上实现Qwen3.5 - 4B的低延迟服务。核心方法是结合量化目标模型与推测性解码，通过量化感知蒸馏恢复精度，训练专用草稿生成器加速解码，还用量化等减少开销。贡献是实现加速并满足质量阈值，排名第三。

Comments All authors contributed equally. Our submission to Efficient Qwen Competition, ICML 2026 Workshop on AdaptFM

Diffusion Language Model Parallel Decoding via Product-of-Experts Bridge

通过专家乘积桥接的扩散语言模型并行解码

Juntong Shi, Brian L. Trippe, Jure Leskovec, Stefano Ermon, Minkai Xu

机构 * Stanford University（斯坦福大学） 纠错

AI总结 提出PoE-Bridge框架，通过专家乘积构建中间分布，结合扩散语言模型并行解码和自回归模型质量，实现5倍加速并恢复至少95%的AR性能。

Comments ICML 2026

MechVQA: Benchmarking and Enhancing Multimodal LLMs on Comprehensive Mechanical Drawing Understanding

MechVQA：在综合机械图纸理解上基准测试与增强多模态大语言模型

Qian Kou, Xiaofeng Shi, Yulin Li, Xiaosong Qiu, Xinyang Wang, Hua Zhou, Cao Dongxing

机构 * Beijing Academy of Artificial Intelligence (BAAI), China（北京人工智能研究院） ； Institute of Information Engineering, Chinese Academy of Sciences, China（信息工程研究所） ； Beijing University of Technology, China（北京理工大学） 纠错

AI总结 针对多模态大语言模型在机械工程图纸理解上的不足，提出首个综合机械图纸理解数据集MechVQA，并开发MechVL模型，通过多阶段训练显著提升性能。

Comments accept by iclm2026, add github link

Journal ref Proceedings of the 43rd International Conference on Machine Learning (ICML 2026), Seoul, South Korea, PMLR 306 (2026)

Universal Algorithm-Implicit Learning

通用算法隐式学习

Stefano Woerner, Seong Joon Oh, Christian F. Baumgartner

AI总结 研究针对当前元学习方法局限性，引入理论框架定义实际通用性及算法显隐式学习。提出基于Transformer的TAIL算法，有随机投影等创新，在少样本基准测试中性能领先，能推广到未见领域和模态，处理更多类别任务且节省计算成本。

Comments Accepted at ICML 2026

TRACE: Trajectory Recovery for Continuous Mechanism Evolution in Causal Representation Learning

TRACE：因果表示学习中连续机制演化的轨迹恢复

Shicheng Fan, Kun Zhang, Lu Cheng

AI总结 研究现实世界系统中因果机制的连续转变问题，提出TRACE框架，将过渡机制建模为原子机制的凸组合，通过专家混合框架学习原子机制，能恢复机制轨迹，实验证明其在恢复混合轨迹上性能远超离散切换基线。

Comments Accepted to ICML 2026. Camera-ready version

Base Models Know How to Reason, Thinking Models Learn When

基础模型知道如何推理，思维模型在训练中学习时机

Constantin Venhoff, Iván Arcuschin, Philip Torr, Arthur Conmy, Neel Nanda

AI总结 研究思维语言模型训练中比基础模型多学到了什么，提出无监督方法和建设性模型差异分析，通过九个基础/思维模型对实验发现强化学习教编排基础机制启发式，监督微调蒸馏装新机制，为训练范式及推理模型开发提供新视角。

Comments Accepted as a Spotlight at the International Conference on Machine Learning 2026