ICML

Hacking Generative Perplexity: Why Unconditional Text Evaluation Needs Distributional Metrics

破解生成困惑度：为何无条件文本评估需要分布度量

Antonio Franca, Alexander Tong

机构 * AITHYRA Institute（AITHYRA研究所） 纠错

AI总结 本文指出生成困惑度（gen-PPL）作为非自回归语言模型评估指标存在缺陷，通过构造零参数朴素采样器在LM1B和OpenWebText上达到SOTA gen-PPL但生成不连贯文本，建议采用直接量化生成文本与参考文本分布差异的评估套件。

Comments Presented at the ICML 2026 Workshop on Structured Probabilistic Inference & Generative Modeling (SPIGM), Seoul, South Korea

Plug-and-Play Guidance for Discrete Diffusion Models via Gradient-Informed Logit Correction

基于梯度信息逻辑校正的离散扩散模型即插即用引导

Hongkun Dou, Zike Chen, Fengji Li, Hongjue Li, Yue Deng

机构 * National University of Singapore（新加坡国立大学） ； University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 提出GILC框架，通过将预训练去噪网络作为变分代理来估计引导信号，并引入无雅可比机制直接校正干净预测逻辑，实现无需额外训练的离散扩散模型可控生成，在DNA、蛋白质序列和分子生成任务上达到最优性能。

Comments Accepted by ICML 2026

DisjunctiveNet: Neural Symbolic Learning via Differentiable Convexified Optimization Layers

DisjunctiveNet: 通过可微凸优化层实现的神经符号学习

Shraman Pal, Can Li

机构 * Davidson School of Chemical Engineering, Purdue University, West Lafayette, USA（帕克大学化学工程大卫逊学校） 纠错

AI总结 针对数据稀疏且富含领域知识的场景，提出DisjunctiveNet框架，通过可微凸优化层将析取约束嵌入神经网络，实现硬约束满足与强预测性能。

Comments ICML 2026

Multi-Level Strategic Classification: Incentivizing Improvement through Promotion and Relegation Dynamics

多层级策略分类：通过晋升与降级动态激励改进

Ziyuan Huang, Lina Alkarmi, Mingyan Liu

机构 * Electrical and Computer Engineering Department, University of Michigan, Ann Arbor, MI 48109, USA（密歇根大学电气与计算机工程系，安阿伯，MI 48109，美国） 纠错

AI总结 本文提出一种多层级晋升-降级框架，通过设计分类器阈值和难度递进来激励代理人诚实努力，并证明在温和条件下代理人可通过真实改进达到任意高水平。

Comments 9 pages, 4 figures, ICML 2026

Light Forcing: Accelerating Autoregressive Video Diffusion via Sparse Attention

轻量强制：通过稀疏注意力加速自回归视频扩散

Chengtao Lv, Yumeng Shi, Yushi Huang, Ruihao Gong, Shen Ren, Wenya Wang

机构 * Nanjing University of Posts and Telecommunications（南京邮电大学） 纠错

AI总结 针对自回归视频生成模型中注意力二次复杂度问题，提出首个稀疏注意力方案Light Forcing，通过块感知增长机制和分层稀疏注意力实现质量和效率提升。

Comments ICML 2026

TEAM: Temporal-Spatial Consistency Guided Expert Activation for MoE Diffusion Language Model Acceleration

TEAM: 时空一致性引导的专家激活用于MoE扩散语言模型加速

Linye Wei, Zixiang Luo, Pingzhi Tang, Meng Li

机构 * Institute for Artificial Intelligence（人工智能研究院） ； School of Integrated Circuits（集成电路学院） ； Yuanpei College（元培学院） ； Beijing Advanced Innovation Center for Integrated Circuits（北京集成电路先进创新中心） 纠错

AI总结 针对MoE扩散语言模型中专家激活过多导致推理开销大的问题，提出TEAM框架，利用路由决策的时空一致性，通过保守激活和激进推测解码实现加速，最高提速2.2倍且性能损失极小。

Comments Accepted by ICML 2026

Randomized Advantage Transformation (RAT): Computing Natural Policy Gradients via Direct Backpropagation

随机优势变换（RAT）：通过直接反向传播计算自然策略梯度

Mingfei Sun

机构 * The University of Manchester, United Kingdom（曼彻斯特大学，英国） 纠错

AI总结 本文提出RAT方法，通过直接反向传播估计正则化自然策略梯度，解决了传统方法中估计和求逆Fisher矩阵成本高的问题，实验证明其在连续和视觉控制基准上性能优异且易于实现。

Comments Accepted to ICML 2026

Margin-Adaptive Confidence Ranking for Reliable LLM Judgement

基于边际的置信度排名用于可靠的LLM判断

Gaojie Jin, Yong Tao, Lijia Yu, Tianjin Huang

机构 * Department of Computer Science, University of Exeter（埃克塞特大学计算机科学系） ； Institute of AI for Industries, Chinese Academy of Sciences（中国科学院工业人工智能研究所） ； Department of Mathematics and Computer Science, Eindhoven University of Technology（埃因霍温理工大学数学与计算机科学系） 纠错

AI总结 本文提出一种基于边际的置信度排名方法，通过学习专用置信度估计器，改进LLM在人类判断一致性上的表现，通过模拟标注者多样性与边际排名公式，显式建模LLM区分人类一致与不一致案例的置信度，并推导出通用性保证。

Comments Accepted to ICML 2026

RL-SPH: Learning to Achieve Feasible Solutions for Integer Linear Programs

RL-SPH: 学习实现整数线性规划的可行解

Tae-Hoon Lee, Min-Soo Kim

机构 * School of Computing, KAIST, Daejeon, Republic of Korea（韩国釜山国立大学计算机学院） 纠错

AI总结 本文提出RL-SPH，一种基于强化学习的起始启发式方法，能独立生成高质量可行解，尤其适用于包含非二元整数的整数线性规划问题。

Comments Accepted at ICML 2026. 30 pages, 12 figures, 22 tables

OTora: A Unified Red Teaming Framework for Reasoning-Level Denial-of-Service in LLM Agents

OTora：一种用于LLM代理推理层面拒绝服务攻击的统一红队框架

Xinyu Li, Ronghui Mu, Lin Li, Tianjin Huang, Gaojie Jin

机构 * Department of Computer Science, University of Exeter（埃克塞特大学计算机科学系） ； Department of Computer Science, University of Oxford（牛津大学计算机科学系） ； Department of Mathematics and Computer Science, Eindhoven University of Technology（埃因霍温理工大学数学与计算机科学系） 纠错

AI总结 OTora是首个统一的两阶段红队框架，用于实现推理层面拒绝服务攻击，通过优化对抗触发器和生成代理感知的推理负载，提升推理token数量和延迟，同时保持任务准确性。

Comments Accepted to ICML 2026

Attention Sinks as Internal Signals for Hallucination Detection in Large Language Models

注意力汇点作为大语言模型幻觉检测的内部信号

Jakub Binkowski, Kamil Adamczewski, Tomasz Kajdanowicz

机构 * Department of Artificial Intelligence, Wroclaw University of Science and Technology（弗罗茨瓦夫科技大学人工智能系） 纠错

AI总结 本文提出SinkProbe方法，通过分析注意力汇点揭示幻觉检测机制，基于理论提出新的检测方法，在多个数据集和LLM上取得最佳性能。

Comments Accepted at ICML 2026

A Perturbation Approach to Unconstrained Linear Bandits

无约束线性赌博机的一种扰动方法

Andrew Jacobsen, Dorian Baudry, Shinji Ito, Nicolò Cesa-Bianchi

机构 * Inria, Univ. Grenoble Alpes, Grenoble INP, CNRS, LIG, 38000 Grenoble, France（法国国家信息与自动化研究所、格勒诺布尔阿尔卑斯大学、格勒诺布尔INP、国家科学研究中心、格勒诺布尔理工大学） ； The University of Tokyo（东京大学） 纠错

AI总结 本文提出一种基于扰动的框架，将无约束线性赌博机问题简化为标准在线线性优化问题，并实现了静态和动态遗憾的最优高概率保证。

Comments 50 pages; v2: ICML 2026; v3: fixed document outine + typos

Token-Efficient Change Detection in LLM APIs

LLM API中的令牌高效变化检测

Timothée Chauvin, Clément Lalanne, Erwan Le Merrer, Jean-Michel Loubes, François Taïani, Gilles Tredan

机构 * Université de Rennes, Inria, CNRS/IRISA（里昂大学、法国国家信息与自动化技术研究院、法国国家科学研究中心/IRISA） ； Equipe Regalia, Inria（Regalia团队、法国国家信息与自动化技术研究院） ； LAAS, CNRS（拉劳斯研究中心、法国国家科学研究中心） ； Univ Toulouse, INUC, UT2J, INSA Toulouse, TSE, CNRS, IMT（图卢兹大学、INUC、UT2J、图卢兹国家高等工业学院、TSE、法国国家科学研究中心、IMT） 纠错

AI总结 提出基于边界输入的黑盒变化检测方案B3IT，在仅观察输出令牌的条件下实现低成本、高性能的LLM变化检测。

Comments ICML 2026

Curriculum-Guided Layer Scaling for Language Model Pretraining

用于语言模型预训练的课程引导层缩放

Karanpartap Singh, Neil Band, Ehsan Adeli

机构 * Stanford University（斯坦福大学） 纠错

AI总结 受人类认知发展启发，提出课程引导层缩放框架，通过渐进式层堆叠使数据难度与模型增长同步，在不同参数规模预训练并分层数据，提升模型泛化及零样本性能。

Comments Accepted to ICML 2026. Code available at https://github.com/su-karanps/cgls

Extending Fair Null-Space Projections for Continuous Attributes to Kernel Methods

将连续属性的公平零空间投影扩展到核方法

Felix Störck, Fabian Hinder, Barbara Hammer

机构 * Felix Störck ； Fabian Hinder ； Barbara Hammer 纠错

AI总结 提出将公平零空间投影扩展到核诱导特征空间，通过经验特征空间直接变换核矩阵，实现模型和公平评分无关的连续属性公平性方法，并在支持向量回归中展示竞争性或改进性能。

Comments Accepted to ICML 2026 (v3: typo corrected in appendix A.2)

WorldMirror: Universal 3D World Reconstruction with Any-Prior Prompting

WorldMirror：基于任意先验提示的通用三维世界重建

Yifan Liu, Zhiyuan Min, Zhenwei Wang, Junta Wu, Tengfei Wang, Yixuan Yuan, Yawei Luo, Chunchao Guo

机构 * Zhejiang University（浙江大学） ； Chinese University of Hong Kong（香港中文大学） ； Tencent Hunyuan（腾讯混元） 纠错

AI总结 本研究提出WorldMirror这一统一前馈模型，可整合多种几何先验并生成多种三维表示，在多类三维几何任务的基准测试中达到最优性能且推理效率高。

Comments Accepted to ICML 2026. Code: https://github.com/Tencent-Hunyuan/HunyuanWorld-Mirror Project page: https://3d-models.hunyuan.tencent.com/world/

A Compute-Matched Re-Evaluation of TroVE on MATH

Tobias Sesterhenn, Ian Berlot-Attwell, Janis Zenkner, Christian Bartelt

机构 * Clausthal University of Technology, Clausthal, Germany（克莱斯特哈尔技术大学） ； Vector Institute, University of Toronto, Toronto, Canada（向量研究所） 纠错

Journal ref 2nd AI for Math Workshop at ICML 2025

CEGA: A Cost-Effective Approach for Graph-Based Model Extraction and Acquisition

Zebin Wang, Menghan Lin, Bolin Shen, Ken Anderson, Molei Liu, Tianxi Cai, Yushun Dong

机构 * Florida State University（佛罗里达州立大学） ； Harvard University（哈佛大学） ； Columbia University（哥伦比亚大学） 纠错

Journal ref Proceedings of the 42nd International Conference on Machine Learning (ICML 2025), Proceedings of Machine Learning Research 267:63690-63706, 2025

PluRel-to-RDB-PFN: Schema-Guided Synthetic Relational Pretraining

PluRel-to-RDB-PFN：模式引导的合成关系预训练

Mohammad Sadeq Abolhasani, Viswanath Ganapathy

AI总结 该研究将合成关系数据库生成器PluRel作为RDB-PFN的外部预训练数据源，通过三种课程策略对比，发现模式优先引导策略仅用少量数据即可恢复RDB-PFN近94%的性能，证实早期接触真实模式的有效性。

Comments Proceedings of the 2nd ICML on Foundation Models for Structured Data

GO-PRE: Goal-Oriented Next-Best-View Selection via Predictive Rendering Entropy for Active 3D Reconstruction

GO-PRE：面向目标的主动三维重建最优下一个视角选择方法，基于预测渲染熵

Yan Song, Zhihao Li, Chenglong Li, Li He, Yan Wang, Wenqiang Zhang

AI总结 该研究针对主动三维重建中现有视角选择方法的代理信号与最终目标不一致问题，提出GO-PRE框架，通过最大化预测空间熵降低实现最优视角选择，经实验验证其性能优于现有方法。

Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026)

Single Frequency CMB Foreground Removal with Inter-scale Machine Learning

利用跨尺度机器学习进行单频率宇宙微波背景前景去除

Helen Shao, Fiona McCarthy, Blake D. Sherwin, Miles Cranmer, Carlos Hervias-Caimapo

AI总结 该研究针对单频率CMB前景去除问题，提出结合跨尺度与多频率相关性的混合CNN方法，在DustFilaments模拟中实现远优于传统ILC的前景去除效果，验证了跨尺度相关性的互补作用，但仍面临网络泛化挑战。

Comments 23 pages, 10 figures, accepted to ICML 2026 conference (Ai4Physics workshop)

Tokenizer Transplantation: Mitigating Autoregressive Collapse in Edge-Efficient Bengali ASR

分词器移植：缓解边缘高效孟加拉语语音识别中的自回归崩溃

Sanjid Hasan, Md. Abdur Rahman

机构 * Useful Sensors（有用传感器公司） 纠错

AI总结 研究针对轻量级孟加拉语语音识别模型失败问题，提出用BanglaBERT WordPiece词汇替换解码器词汇并调整矩阵大小的方法，经实验改进后模型在数据集上有竞争力，提供了紧凑ASR模型跨脚本适配的可扩展蓝图。

Comments 5 pages, 2 figures. Accepted as a poster at the MusIML Workshop, ICML 2026

Physics from Video: Identifiability of Time-Invariant Second-Order ODEs under Minimal Trajectory Conditions

来自视频的物理：最小轨迹条件下时不变二阶ODE的可辨识性

Yuanyuan Wang, Wenjie Wang, Kun Zhang, Mingming Gong

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 研究从原始像素中辨识连续时间物理定律的结构可辨识性，证明在最小轨迹条件下，编码器-仅管道可唯一恢复二阶线性ODE参数，并引入方差底正则化器稳定无解码器目标。

Comments Accepted at ICML 2026. Updated to the camera-ready version; main results unchanged

Commit to the Bit: Reactive Reinforcement Learning Done Right

Commit to the Bit: Reactive Reinforcement Learning Done Right

Onno Eberhard, Claire Vernade, Michael Muehlebach

机构 * Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所） ； University of Tübingen（图宾根大学） ； University of Technology Nuremberg（纽伦堡技术大学） 纠错

AI总结 针对确定性观测的有限环境，提出Committed Q-learning算法，在弱于$q_\star$-可实现性的rewire-鲁棒性假设下，证明其几乎必然收敛到最优反应策略。

Comments Published in ICML 2026

RAPNet: Accelerating Algebraic Multigrid with Learned Sparse Corrections

RAPNet: 通过学习的稀疏校正加速代数多重网格

Yali Fink, Ido Ben-Yair, Lars Ruthotto, Eran Treister

机构 * Institute for Interdisciplinary Computational Sciences, Faculty of Computer and Information Science, Ben-Gurion University of the Negev, Be'er Sheva, Israel（交叉学科计算科学研究所，计算机与信息科学学院，内盖夫本·古里安大学，以色列贝尔谢瓦） ； Department of Mathematics and Computer Science, Emory University, Atlanta, GA, USA（数学与计算机科学系，埃默里大学，美国亚特兰大，GA） 纠错

AI总结 提出图神经网络框架RAPNet，通过从稀疏代数系统中学习生成稀疏且鲁棒的粗网格算子，解决了代数多重网格中稀疏性与收敛质量之间的权衡问题，并采用逐层训练策略实现大规模泛化。

Comments Proceedings of the 43rd International Conference on Machine Learning, Seoul, South Korea Code available at https://github.com/idoby/rapnet

Diagnosing and Correcting Concept Omission in Multimodal Diffusion Transformers

诊断和纠正多模态扩散Transformer中的概念遗漏

Kanghyun Baek, Jaihyun Lew, Chaehun Shin, Jungbeom Lee, Sungroh Yoon

机构 * Interdisciplinary Program in Artificial Intelligence, Seoul National University, Seoul, South Korea ； Department of Electrical ； Computer Engineering, Seoul National University, Seoul, South Korea ； Department of Computer Science \& Engineering, Korea University, Seoul, South Korea ； ISRC, Seoul National University, Seoul, South Korea 纠错

AI总结 本文通过线性探测发现文本嵌入中存在表征目标概念缺失的“遗漏信号”，并提出遗漏信号干预（OSI）方法放大该信号以主动催化缺失概念的生成，在FLUX.1-Dev和SD3.5-Medium上显著缓解了概念遗漏问题。

Comments Accepted to ICML 2026

Cooperative Variance Estimation and Bayesian Neural Networks for Disentangling Aleatoric and Epistemic Uncertainties

合作方差估计与贝叶斯神经网络用于分离偶然不确定性和认知不确定性

Jiaxiang Yi, Miguel A. Bessa

机构 * Faculty of Mechanical Engineering, Delft University of Technology, Mekelweg 2, Delft, 2628 CD, The Netherlands（代尔夫特理工大学机械工程学院） ； School of Engineering, Brown University, 184 Hope St., Providence, RI 02912, USA（布朗大学工程学院） 纠错

AI总结 提出通过合作训练方差估计网络与贝叶斯神经网络，实现偶然不确定性与认知不确定性的分离，并提升均值估计性能。

Comments ICML 2026 camera-ready. 38 pages, 26 figures. Code: https://github.com/bessagroup/VeBNN

Escaping Mode Collapse in LLM Generation via Geometric Regulation

通过几何调控逃离大语言模型生成中的模式崩溃

Xin Du, Kumiko Tanaka-Ishii

机构 * Department of XXX, University of YYY, Location, Country（XXX系，YYY大学，地点，国家） ； School of ZZZ, Institute of WWW, Location, Country（ZZZ学院，WWW研究所，地点，国家） ； Department of Communications and Computer Engineering, Waseda University, Tokyo, Japan（通信与计算机工程系，早稻田大学，东京，日本） ； Department of Computer Science and Engineering, Waseda University, Tokyo, Japan（计算机科学与工程系，早稻田大学，东京，日本） ； Shanghai Research Institute for Intelligent Autonomous Systems, Tongji University, Shanghai, China（智能自主系统上海研究院，同济大学，上海，中国） 纠错

AI总结 本文从动力系统视角将模式崩溃解释为几何崩溃，并提出轻量级在线状态空间干预方法RMR（通过低秩阻尼调控Transformer值缓存中的自强化方向），显著降低模式崩溃并实现极低熵率下的稳定生成。

Comments Accepted to ICML 2026

Stem: Rethinking Causal Information Flow in Sparse Attention

Stem: 重新思考稀疏注意力中的因果信息流

Lin Niu, Xin Luo, Linchuan Xie, Yifu Sun, Guanghua Yu, Jianchen Zhu, S Kevin Zhou

机构 * tencent（腾讯） ； ustc（中国科学技术大学） 纠错

AI总结 Stem通过位置依赖的top-k和输出感知度量，优化稀疏注意力机制，提升LLMs在长上下文处理中的效率与准确性。

Comments Accepted at ICML 2026. Lin Niu and Xin Luo contributed equally to this work. Camera-ready version

In-situ Autoguidance: Eliciting Self-Correction in Diffusion Models

原位自引导：激发扩散模型的自校正能力

Enhao Gu, Haolin Hou

机构 * Xinjiang University, Urumqi, Xinjiang, China（新疆大学） ； Ocean University of China, Qingdao, Shandong, China（中国海洋大学） 纠错

AI总结 该研究提出原位自引导方法，无需辅助模型，通过随机前向传播动态生成次优预测，实现零成本的扩散模型自校正引导，为高性价比引导建立了新基准。

Comments ICML 2025 Workshop Accepted