ICML

Entropy-informed Decoding: Adaptive Information-Driven Branching

基于熵的信息解码：自适应信息驱动的分支

Benjamin Patrick Evans, Sumitra Ganesh, Leo Ardon

机构 * Department of XXX, University of YYY, Location, Country（XXX系，YYY大学，地点，国家） ； School of ZZZ, Institute of WWW, Location, Country（ZZZ学院，WWW研究所，地点，国家） ； JP Morgan AI Research, London, UK（摩根大通AI研究，伦敦，英国） ； JP Morgan AI Research, New York, USA（摩根大通AI研究，纽约，美国） 纠错

AI总结 本文提出EDEN解码框架，通过自适应分配计算资源提升生成效率，在数学推理、代码生成等任务中优于传统解码策略。

Comments Accepted at ICML 2026

Edit-Based Refinement for Parallel Masked Diffusion Language Models

基于编辑的平行掩码扩散语言模型精炼

Houxing Ren, Mingjie Zhan, Zimu Lu, Ke Wang, Yunqiao Yang, Haotian Hou, Junting Pan, Hongsheng Li

机构 * CUHK MMLab（香港中文大学多模态实验室） ； SenseTime Research（商汤科技研究院） ； Shenzhen Loop Area Institute（深圳河套学院） 纠错

AI总结 本文提出ME-DLM框架，通过轻量级后编辑步骤提升平行生成质量与鲁棒性，基于LLaDA实现HumanEval和GSM8K性能提升。

Comments Accepted to ICML 2026

PhysHanDI: Physics-Based Reconstruction of Hand-Deformable Object Interactions

PhysHanDI: 基于物理的双手与可变形物体交互重建

Jihyun Lee, Changmin Lee, Donghwan Kim, Tae-Kyun Kim

机构 * School of Computing, KAIST, Daejeon, South Korea（韩国釜山科学技术院计算学系） 纠错

AI总结 PhysHanDI通过物理模拟实现双手与可变形物体的完整3D重建，结合密集重建的3D手部运动驱动物体变形，提升交互真实性和手部重建精度。

Comments Accepted to ICML 2026

Drift is a Sampling Error: SNR-Aware Power Distributions for Long-Horizon Robotic Planning

漂移是一种采样误差：面向长时间 horizon 的机器人规划的 SNR 意识功率分布

Kewei Chen, Yayu Long, Mingsheng Shang

机构 * Chongqing Institute of Green and Intelligent Technology, Chinese Academy of Sciences（中国科学院重庆绿色智能技术研究院） ； Chongqing School, University of Chinese Academy of Sciences（中国科学院大学重庆学院） 纠错

AI总结 本文提出 CAPS 框架，通过功率分布增强全局轨迹概率，结合 SNR 机制实现动态切换，提升长horizon 机器人规划的鲁棒性。

Comments Accepted at ICML 2026

Hidden Error Awareness in Chain-of-Thought Reasoning: The Signal Is Diagnostic, Not Causal

链式推理中的隐藏错误意识：信号是诊断性的，而非因果性的

Aojie Yuan, Zhiyuan Julian Su, Haiyue Zhang, Yi Nian, Yue Zhao

机构 * University of Southern California, Los Angeles, CA, USA（南加州大学，洛杉矶，加利福尼亚州，美国） 纠错

AI总结 研究揭示链式推理中模型内在检测自身推理错误但外在表现自信的现象，通过隐藏状态线性探针显示其正确性预测能力，但无法通过干预修复错误，表明信号为诊断而非因果。

Comments 10 pages, 5 figures, 10 tables.Mechanistic Interpretability @ ICML 2026

Not All Thoughts Need HBM: Semantics-Aware Memory Hierarchy for LLM Reasoning

并非所有思考都需要HBM：面向LLM推理的语义感知内存层次结构

Aojie Yuan, Tianqi Shen, Dajun Zhang

机构 * University of Southern California（南加州大学） ； University of Wisconsin–Madison（威斯康星大学麦迪逊分校） 纠错

AI总结 本文提出一种语义感知内存层次结构，通过累积注意力评分将token分为四个层级，减少HBM占用并提升推理准确性，实验表明仅3%的淘汰率可保持91%的GSM8K准确率。

Comments Preprint. 14 pages + appendix. Under review at AdaptFM Workshop @ ICML 2026

Offline Preference Optimization for Rectified Flow with Noise-Tracked Pairs

离线偏好优化用于具有噪声跟踪配对的校正流

Yunhong Lu, Qichao Wang, Hengyuan Cao, Xiaoyin Xu, Min Zhang

机构 * Zhejiang University（浙江大学） ； Shanghai Institute for Advanced Study-Zhejiang University（上海先进研究院-浙江大学） ； Shanghai Institute for Mathematics and Interdisciplinary Sciences（上海数学与交叉科学研究院） 纠错

AI总结 本文提出PNAPO框架，通过保留生成胜败图像的先验噪声，改进校正流的偏好优化，提升稳定性和样本效率。

Comments Accepted by ICML 2026

Teaching Molecular Dynamics to a Non-Autoregressive Ionic Transport Predictor

将分子动力学教给一个非自回归的离子输运预测器

Jiyeon Kim, Byungju Lee, Won-Yong Shin

机构 * School of Mathematics and Computing (Computational Science and Engineering)（数学与计算学院（计算科学与工程）） ； Yonsei University（延世大学） ； Korea Institute of Science and Technology（韩国科学技术院） ； Nanoscience and Technology（纳米科学与技术） 纠错

AI总结 本文提出一种非自回归学习框架，通过辅助模态学习处理原子轨迹，实现快速准确的离子输运预测，比自回归模型快200倍且减少误差。

Comments International Conference on Machine Learning (ICML 2026) (to appear) (Please cite our conference version.)

Semi-Supervised Neural Super-Resolution for Mesh-Based Simulations

基于网格的模拟的半监督神经超分辨率

Jiyeon Kim, Youngjoon Hong, Won-Yong Shin

机构 * School of Mathematics and Computing (Computational Science and Engineering), Yonsei University（延世大学数学与计算学院（计算科学与工程）） ； Department of Mathematical Sciences, Seoul National University（首尔国立大学数学科学系） 纠错

AI总结 本文提出SuperMeshNet，通过半监督方法结合消息传递神经网络，高效利用少量配对低分辨率-高分辨率数据和大量未配对低分辨率数据，实现网格模拟的高精度超分辨率。

Comments International Conference on Machine Learning (ICML 2026) (to appear) (Please cite our conference version.)

Injecting Distributional Awareness into MLLMs via Reinforcement Learning for Deep Imbalanced Regression

通过强化学习为深度不平衡回归注入分布意识

Yao Du, Shanshan Song, Xiaomeng Li

机构 * The Hong Kong University of Science（香港科学与技术大学） 纠错

AI总结 本文提出基于组相对策略优化的分布感知强化学习框架，通过一致性相关系数奖励实现跨样本关系监督，提升长尾回归任务的分布对齐能力，在中等和少样本场景下表现优异。

Comments Accepted by ICML 2026

Recovering Hidden Reward in Diffusion-Based Policies

从扩散策略中恢复隐藏奖励

Yanbiao Ji, Qiuchang Li, Yuting Hu, Shaokai Wu, Wenyuan Xie, Guodong Zhang, Qicheng He, Deyi Ji, Yue Ding, Hongtao Lu

机构 * Shanghai Jiao Tong University（上海交通大学） 纠错

AI总结 本文提出EnergyFlow框架，通过参数化标量能量函数的梯度作为去噪场，统一生成动作建模与逆强化学习，证明在最大熵最优性下，去噪分数匹配学习的分数函数能恢复专家的软Q函数梯度，无需对抗训练即可提取奖励。

Comments Accepted by ICML 2026

Pair2Scene: Learning Local Object Relations for Procedural Scene Generation

Pair2Scene：学习局部物体关系以生成程序化场景

Xingjian Ran, Shujie Zhang, Weipeng Zhong, Li Luo, Bo Dai

机构 * The University of Hong Kong（香港大学） ； Tsinghua University（清华大学） ； Shanghai Jiao Tong University（上海交通大学） ； Shenzhen Loop Area Institute（深圳河套学院） 纠错

AI总结 本文提出Pair2Scene框架，通过学习局部规则与场景层次和物理算法，生成高保真的3D室内场景，优于现有方法。

Comments ICML 2026

Revis: Sparse Latent Steering to Mitigate Object Hallucination in Large Vision-Language Models

Revis: 通过稀疏潜在引导缓解大视觉-语言模型中的物体幻觉

Jialin Wu, Wei Shi, Han Shen, Peigui Qi, Kunsheng Tang, Zhicong Huang, Binghao Wang, Zhou Yang

机构 * Ant Group（蚂蚁集团） 纠错

AI总结 Revis通过潜在空间几何学提取纯视觉信息向量，采用校准策略在抑制发生深度进行稀疏干预，有效降低物体幻觉率19%，同时保持推理能力。

Comments Accepted by ICML 2026

Optimal Transport-Guided Adversarial Attacks on Graph Neural Network-Based Bot Detection

基于最优传输的图神经网络 bot 检测对抗攻击

Kunal Mukherjee, Zulfikar Alom, Tran Gia Bao Ngo, Cuneyt Gurcan Akcora, Murat Kantarcioglu

机构 * Department of Computer Science, Virginia Tech, Virginia, USA（弗吉尼亚理工大学计算机科学系） ； Department of Computer Science, Manitoba, Canada（曼尼托巴大学计算机科学系） ； Department of Computer Science, University of Toledo, Ohio, USA（托莱多大学计算机科学系） ； AI Initiative, University of Central Florida, Florida, USA（佛罗里达大学人工智能倡议） 纠错

AI总结 本文提出BOCLOAK，通过边编辑和节点注入对抗攻击评估图神经网络在现实约束下的鲁棒性，实现更高攻击成功率和更低资源消耗。

Comments Accepted to Proceedings of the Forty-Third International Conference on Machine Learning (ICML) 2026

Journal ref Proceedings of the Forty-Third International Conference on Machine Learning 2026

On the Convergence Rate of LoRA Gradient Descent

LoRA梯度下降法的收敛速度分析

Siqiao Mu, Diego Klabjan

机构 * Department of Engineering Sciences and Applied Mathematics, Northwestern University, Evanston, IL, United States（工程科学与应用数学系，西北大学，埃文斯顿，伊利诺伊州，美国） ； Department of Industrial Engineering（工业工程系） ； Applied Mathematics, Northwestern University, Evanston, IL, United States（应用数学，西北大学，埃文斯顿，伊利诺伊州，美国） 纠错

AI总结 本文首次对原始LoRA梯度下降算法进行非渐近收敛性分析，证明其收敛速度为O(1/log T)，并验证了理论结果。

Comments ICML 2026

LILO: Bayesian Optimization with Natural Language Feedback

LILO：带有自然语言反馈的贝叶斯优化

Katarzyna Kobalczyk, Zhiyuan Jerry Lin, Benjamin Letham, Zhuokai Zhao, Maximilian Balandat, Eytan Bakshy

机构 * Meta ； DAMTP, University of Cambridge（剑桥大学DAMTP） 纠错

AI总结 LILO通过将大语言模型转化为结构化偏好信号，提升贝叶斯优化在复杂主观偏好下的适应性与效率，实验证明其在反馈受限场景中表现优异。

Journal ref Proceedings of the 43rd International Conference on Machine Learning, Seoul, South Korea. PMLR 306, 2026

Preference Learning for AI Alignment: a Causal Perspective

偏好学习用于AI对齐：一种因果视角

Katarzyna Kobalczyk, Mihaela van der Schaar

机构 * Department of Applied Mathematics and Theoretical Physics（应用数学与理论物理系） 纠错

AI总结 本文从因果视角出发，探讨了基于偏好数据的奖励建模在对齐大语言模型与人类价值观中的关键作用，提出因果工具箱以解决因果误识别、偏好异质性和用户特定因素的混淆问题，并提出未来研究的方向。

Journal ref Proceedings of the 42nd International Conference on Machine Learning, Vancouver, Canada. PMLR 267, 2025

LLM-Augmented Chemical Synthesis and Design Decision Programs

基于大语言模型的化学合成与设计决策程序

Haorui Wang, Jeff Guo, Lingkai Kong, Rampi Ramprasad, Philippe Schwaller, Yuanqi Du, Chao Zhang

机构 * École Polytechnique Fédérale de Lausanne (EPFL)（瑞士联邦理工学院洛桑校区） ； National Centre of Competence in Research (NCCR) Catalysis（催化领域竞争力研究国立中心） ； Harvard University（哈佛大学） ； Cornell University（康奈尔大学） 纠错

AI总结 本文提出利用大语言模型增强的 retrosynthesis 规划方法，通过高效编码反应路径和新的路线搜索策略，提升多步合成规划与可合成分子设计能力。

Comments ICML 2025

SMIXAE: Towards Unsupervised Manifold Discovery in Language Models

SMIXAE：朝向语言模型中无监督流形发现

Collin Francel

机构 * Department of Arts and Sciences, University of Alabama, Tuscaloosa, AL, United States（艺术与科学系，阿拉巴马大学，塔斯基吉，AL，美国） 纠错

AI总结 SMIXAE通过引入稀疏混合自编码器架构，解决传统自编码器无法直接建模多维特征的问题，实现在Gemma 2模型中有效学习和发现流形结构。

Comments 20 pages, 10 figures, 11 tables. Submitted to Mechanistic Interpretability Workshop, ICML 2026

Predicting Large Model Test Losses with a Noisy Quadratic System

通过噪声二次系统预测大模型测试损失

Chuning Li, Chris J. Maddison

机构 * Vector Institute（向量研究所） ； University of Toronto（多伦多大学） 纠错

AI总结 本文提出一种预测大模型预训练损失的模型，基于模型大小、批量大小和权重更新次数。该模型在处理变化的批量大小方面具有优势，并在预测扩展计算预算下的损失时优于Chinchilla模型。

Comments ICML 2026

Internalizing Safety Understanding in Large Reasoning Models via Verification

通过验证内部化安全理解以提升大推理模型

Yi Zhang, Yuxin Chen, Leheng Sheng, Dongcheng Zhang, Chaochao Lu, Xiang Wang, An Zhang

机构 * National University of Singapore（国立新加坡大学） ； University of Science and Technology of China（中国科学技术大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） 纠错

AI总结 本文提出Safety Internal框架，通过训练模型在安全验证任务中自我批判生成答案，提升模型对自身输出安全性的判断能力，增强对抗性突破的鲁棒性。

Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026)

FRACTAL: SSM with Fractional Recurrent Architecture for Computational Temporal Analysis of Long Sequences

FRACTAL：基于分数递归架构的序列模型用于长序列计算时序分析

Mengqi Li, Wensheng Lin, Jinshuai Yang, Lixin Li

机构 * School of Electronics and Information（电子信息学院） ； Northwestern Polytechnical University（西北工业大学） ； DecoreX Intelligent Technologies Co., Ltd.（DecoreX智能科技有限公司） 纠错

AI总结 本文提出FRACTAL架构，通过整合分数测度理论改进递归记忆更新，解决长序列中保留无限历史与检测突变短时变化的平衡问题，实现在Long Range Arena基准上取得87.11%的平均得分。

Comments 19 pages (10 pages main text, 9 pages appendix), 3 figures. Accepted by ICML 2026

LightAVSeg: Lightweight Audio-Visual Segmentation

LightAVSeg: 轻量级音频视觉分割

Qing Zhong, Guodong Ding, Lingqiao Liu, Zaiwen Feng, Lin Yuanbo Wu, Angela Yao

机构 * College of Informatics, Huazhong Agricultural University, Wuhan, China（华中农业大学信息学院） ； School of Computing, National University of Singapore, Singapore（新加坡国立大学计算机学院） ； School of Computer Science, Adelaide University, Australia（阿德莱德大学计算机科学学院） ； School of Engineering, University of Warwick, Coventry, UK（沃里克大学工程学院） ； Zhejiang Yuexiu University, Shaoxing, China（浙江越秀大学） 纠错

AI总结 本文提出LightAVSeg，通过解耦设计替代重注意力机制，实现线性交互成本，提升效率，实验显示其在MS3基准上达到50.4 mIoU，参数量仅为AVSegFormer的1/7。

Comments 15 pages, 8 figures, 6 tables, Accepted to ICML 2026

Causal Dimensionality of Transformer Representations: Measurement, Scaling, and Layer Structure

Transformer表示的因果维度：测量、扩展与层数结构

Nilesh Sarkar, Dawar Jyoti Deka

机构 * Erdős AI Lab（埃德罗斯人工智能实验室） 纠错

AI总结 研究通过测量Transformer残差流的因果维度，揭示了表示能力与因果能力的分离现象，证明了因果维度与模型规模无关，且在不同层数间保持恒定。

Comments 9 pages, 17 figures, 14 tables (excluding references and appendices). Companion short paper under review at the ICML 2026 Mechanistic Interpretability Workshop. Code: https://anonymous.4open.science/r/NeurIPS-Causal-Capacity-in-SAEs-7D20/

SynerMedGen: Synergizing Medical Multimodal Understanding with Generation via Task Alignment

SynerMedGen：通过任务对齐协同医疗多模态理解与生成

Weiren Zhao, Yi Dong, Cheng Chen

机构 * The University of Hong Kong, Hong Kong, China（香港大学） 纠错

AI总结 SynerMedGen通过任务对齐实现医疗多模态理解与生成的协同，提出生成对齐理解任务和两阶段训练策略，实现零样本性能和跨数据集泛化，释放大规模数据集支持进一步研究。

Comments Accepted by ICML 2026

Structure-Centric Graph Foundation Model via Geometric Bases

基于几何基的结构导向图基础模型

Xiaodong He, Haolan He, Ruiyi Fang, Ming Sun, Zhao Kang

机构 * University of Electronic Science and Technology of China（电子科技大学） ； Western University（西方大学） 纠错

AI总结 本文提出SCGFM，通过几何基构建共享结构坐标系，解决图结构异质性和节点特征不兼容问题，实现跨领域泛化。

Comments Accepted by ICML 2026

Privacy-Aware Video Anomaly Detection through Orthogonal Subspace Projection

通过正交子空间投影实现隐私感知的视频异常检测

Lei Wang, Wenxiang Diao, Andrew Busch, Jun Zhou, Yongsheng Gao

机构 * School of Engineering and Built Environment, Griffith University（格里菲斯大学工程与环境学院） ； School of Computer Science and Engineering, University of New South Wales（新南威尔士大学计算机科学与工程学院） ； School of Information and Communication Technology, Griffith University（格里菲斯大学信息与通信技术学院） 纠错

AI总结 本文提出正交投影层（OPL）和引导OPL（G-OPL），通过去除无关变化提升异常检测相关特征，同时抑制面部属性以保护隐私，实验表明隐私约束能减少敏感信息并保持检测精度。

Comments Accepted as a Spotlight paper at the Forty-Third International Conference on Machine Learning (ICML 2026)

The Propagation Field: A Geometric Substrate Theory of Deep Learning

传播场：深度学习的几何子基理论

Xingrui Gu

机构 * EECS, University of California, Berkeley, Berkeley, CA（加州大学伯克利分校电子工程与计算机科学系） 纠错

AI总结 本文提出传播场理论，通过神经网络内部传播的几何结构改进深度学习性能，引入可观察的场度量并验证其在连续学习中的有效性。

Comments Technical notes on exploring the nature of deep learning propagation, Under review by the ICML 4th Workshop on High-dimensional Learning Dynamics (HiLD) 2026

Journal ref ICML 2026

A geometric relation of the error introduced by sampling a language model's output distribution to its internal state

语言模型输出分布采样引入的误差与内部状态的几何关系

Albert F. Modenbach

机构 * Department of Mathematics, King's College London, United Kingdom（伦敦国王学院数学系） 纠错

AI总结 研究揭示语言模型输出分布采样误差与内部状态几何结构的关系，通过几何方法分析token嵌入空间，发现其曲率在棋类任务中反映模型对问题的内部表示。

Comments 12 Pages, 10 Figures, 2 Appendices. To appear in Proceedings of ICML 2026

OSAQ: Outlier Self-Absorption for Accurate Low-bit LLM Quantization

OSAQ: 用于准确低比特LLM量化中的异常自吸收

Zhikai Li, Zhen Dong, Xuewen Liu, Jing Zhang, Qingyi Gu

机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； University of California, Santa Barbara（加州大学圣芭芭拉分校） 纠错

AI总结 本文提出OSAQ方法，通过利用Hessian的低秩特性，利用加法权重抑制技术有效抑制低比特量化中的异常，提升模型性能。

Comments ICML 2026