ICML

A Mean-Field Framework for Inference-Time Distributional Control of Diffusion Models

用于扩散模型推理时分布控制的平均场框架

Samuel Howard, Nikolas Nüsken

AI总结 本研究提出一种平均场框架，将扩散模型推理时的分布控制转化为瞄准倾斜测度，推导加权交互粒子方案，为现有批量引导方法提供理论基础，并在低维及蛋白质构象任务中验证了其有效性。

Comments Preprint. Presented at SPIGM workshop, ICML 2026

Multimodal Model Diffing for Feature Discovery and Control

用于特征发现与控制的多模态模型差异分析

Hunar Batra, Lachin Naghashyar, Ashkan Khakzar, Philip Torr, Christian Schroeder de Witt, Constantin Venhoff, Ronald Clark

机构 * University of Oxford（牛津大学） ； Microsoft（微软公司） 纠错

AI总结 本研究提出MMDiff多模态模型差异分析框架，训练多模态SAEs以识别多模态训练改变的特征，实现特征隔离、检测与控制，在空间、OCR任务及多模态安全攻击评估中展现出良好效果。

Comments Preprint. Accepted at ICML 2026 Trustworthy AI for Good Workshop

Activation Probes Surface Code-Security Signals that the Model's Output Misses

激活探针：挖掘模型输出遗漏的表面代码安全信号

Ivan Wiryadi

AI总结 本研究提出用线性探针分析开源审查器模型的激活值，发现其携带了仅通过模型提示无法获取的代码安全信号，可有效区分有漏洞与修复后的函数。

Comments 6 pages, 1 figure. Accepted at the TAIGR workshop, ICML 2026

Hyperbolic Multimodal Continual Learning

双曲多模态持续学习

Jiahong Liu, Ming Shen, Xiaohao Liu, Rex Ying, Menglin Yang, Tat-Seng Chua, Irwin King

AI总结 本研究针对双曲多模态持续学习的遗忘问题，建立理论基础推导了保留几何结构的持续学习框架，经实验验证其有效性。

Comments ICML 2026. 33 pages, 11 figures. Code: ICML" target="_blank" rel="noopener">https://github.com/HUBERILT/HMCL_ICML

Capability Is Not Propensity: Measuring Pressure-Robust Cooperative Behavior in Civic LLM Agents

能力并非倾向：评估公民大语言模型智能体的压力鲁棒合作行为

Neel Tushar Shah, Manglam Kartik, Akshat Karkar

机构 * Indian Institute of Technology Bombay（印度理工学院孟买分校） 纠错

AI总结 该研究针对公民大语言模型智能体，推出DiffCoop-Civic评估套件，发现压力会显著影响模型合作行为，提出Pareto-Trace提示干预提升压力鲁棒性。

Comments Accepted at ICML AI4GOOD Workshop 2026

Temporal Misgrounding in Legal RAG: A Versioned-Corpus Benchmark for French Tax Law

法律检索增强生成（RAG）中的时间错位：面向法国税法的版本化语料库基准

Rose Cymbler, Daniel Guez, Laurent Fabre

AI总结 该研究针对法律RAG的时间错位问题，构建法国税法版本化语料库基准FiscalQA Pro，发现现有模型时间推理能力差，端到端多版本检索器性能优异，还发布了相关数据集与代码。

Comments 13 pages, 1 figure, 4 tables. Accepted at the ICML 2026 Workshop on AI for Law (AI4Law), Seoul. Code and data: https://github.com/rosecymbler/fiscal-fr-bench

Mind the Hook: Source-Level Auditing of Privacy Defenses in Retrieval-Augmented Generation

注意钩子：检索增强生成中隐私防御的源级审计

Yanhang Li, Zhichao Fan, Zexin Zhuang

AI总结 该研究针对RAG的黑盒隐私分数解读难题，提出活跃路径审计方法，通过梳理源级钩子、映射泄漏通道、金丝雀验证，复现分析DP与LPRAG防御的隐私效果，贡献方法论与案例研究。

Comments 6 pages, 1 figure. Accepted as a regular paper at the 25th IEEE International Conference on Machine Learning and Applications (ICMLA 2026)

Path-dependent Discrete Amortized Inference

依赖路径的离散摊销推理

Tiago da Silva, Esmeralda S. Whitammer, Salem Lahlou

AI总结 针对从未归一化后验采样组合离散对象的问题，提出依赖路径的离散摊销推理方法，通过可学习潜动力学系统提升MDP，解决马尔可夫假设的缺陷，实验显示其学习收敛更快、状态空间探索更优。

Comments ICML 2026 (Oral)

Can LLM Agents Stick to the Script? A Benchmark for Long-Horizon Consistency in Interactive Narratives

大语言模型智能体能坚持剧本吗？交互式叙事中长期一致性的基准测试

Yingpeng Ma, Jianhao Yan, Bei Shi, Ka Hou Kam, Runnan Wang, Xuebo Liu, Yulong Chen, Yue Zhang, Derek F. Wong

AI总结 该研究针对LLM智能体在交互式叙事中难以维持长期一致性的问题，构建了NCP-Bench基准测试，发现现有顶尖LLM的承诺保持率较低，存在显著的逻辑冲突问题。

Comments Accepted by ICML 2026

EasyBalance: Cross-Layer Load Balancing in Distributed MoE Inference

EasyBalance：分布式MoE推理中的跨层负载均衡

Yize Wu, Ke Gao, Ling Li, Yanjun Wu

AI总结 EasyBalance是一种无需修改专家-设备映射的跨层负载均衡策略，通过联合执行跨层MoE工作负载缓解不平衡，可减少GPU空闲超40%，加速分布式MoE推理。

Comments 14 pages, 20 figures, ICML 2026

Persistent Semantic Entities in Tool-Augmented LLM Systems

工具增强型大语言模型系统中的持久语义实体

Zhaohui Wang

AI总结 该研究定义工具增强型LLM系统的持久语义实体（PSEs），证实其在24款不同规模模型中普遍存在，偏好/指令污染难自校正，上下文隔离自验证可降低污染，为智能体系统安全提供关键发现。

Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026). Camera-ready version; 32 pages . The openreview url is https://openreview.net/forum?id=zPjmtawzT8&noteId=CXB95ws5so and ICML poster url is https://icml.cc/virtual/2026/poster/60521

Spectral Outliers Reveal Dominant Learned Structure in Transformer Attention

谱异常值揭示Transformer注意力中主导的学习结构

Kasun Dewage, Marianna Pensky, Suranadi De Silva, T. H. Bandara

AI总结 本研究运用MP随机矩阵理论分析预训练Transformer注意力权重，发现谱异常值编码学习结构主导成分，通过实验验证其对模型性能的关键作用，相关观察可指导参数高效微调与结构化剪枝。

Comments Accepted at the International Conference on Machine Learning and Applications (ICMLA 2026); to appear in IEEE proceedings

From Benchmark Performance to Tool Deployment: Human-in-the-Loop Anomaly Detection

从基准性能到工具部署：人机协同的异常检测

Mike Szklarzewski, CJ George, Gavin Smithson, Christopher Stokes, Dakota Fulp, William M. Jones, Benjamin Wynn, Alexander Ur, Agit Yesiloz, Clint Kallenbach, Mark Swartz, Nathan DeBardeleben, Sharmistha Chakrabarti

机构 * Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室） ； Triad National Security, LLC（Triad国家安全有限责任公司） 纠错

AI总结 本研究通过评估19种无监督异常检测模型在BowTie制造数据集上的表现，揭示了基准性能与工业部署的差距，开发并部署了人机协同的制造部件检测框架。

Comments 8 pages, 8 figures, 6 tables. Accepted as a regular paper at the 25th International Conference on Machine Learning and Applications (ICMLA 2026)

Mechanistic Interpretability-Guided Selective Fine-Tuning of Vision-Language Models for Centimeter-Level Flood Depth Estimation

面向厘米级洪水深度估计的、由机械可解释性引导的视觉-语言模型选择性微调

Nafis Fuad, Xiaodong Qian, Dongxiao Zhu

AI总结 该研究针对城市洪水缺乏厘米级实时深度估计的问题，提出三种视觉-语言模型，通过机械可解释性分析确定关键交叉注意力层进行选择性微调，在合成与真实基准测试中均实现高精度洪水深度估计，大幅减少可训练参数。

Comments This Paper is accepted in International Conference on Machine Learning and Application (ICMLA) 2026

SC$^{2}$-WM: A Self-Correcting World Model with Closed-Loop Feedback for Vision-and-Language Navigation in Continuous Environments

SC²-WM：用于连续环境下视觉语言导航的带闭环反馈的自校正世界模型

Xuan Yao, Yuze Zhu, Junyu Gao, Zongmeng Wang, Changsheng Xu

AI总结 针对连续环境视觉语言导航中开环执行的状态漂移问题，提出带闭环反馈的自校正世界模型SC²-WM，通过状态级计划优化与测试时模型自适应提升导航鲁棒性和泛化性。

Comments Accepted by ICML 2026

Adaptive Symmetry Discovery for Dynamical System Identification

用于动力系统辨识的自适应对称性发现

Behrooz Tahmasebi, Melanie Weber

机构 * Harvard John A. Paulson School of Engineering and Applied Sciences, Harvard University（哈佛大学约翰·A·保尔森工程与应用科学学院、哈佛大学） 纠错

AI总结 本研究针对未知对称群等变的动力系统，提出自适应对称性发现方法，可从更短单条轨迹辨识系统，性能与已知对称性方法相当，分析依托群表示论与凯莱图性质。

Comments 38 pages, 1 figure. Published at ICML 2026

Journal ref International Conference on Machine Learning (ICML) 2026

Evolutionary Curriculum Learning Improves Biological Sequence Modeling

进化课程学习改进生物序列建模

Richard Zhu, Kento Nishi

AI总结 该研究提出进化课程学习（ECL），将其应用于VAE模型的蛋白质变异预测与RNA序列生成任务，提升了下游任务性能，证实进化距离是生物序列建模中排序训练课程的有效归纳偏置。

Comments Published in ICML 2026 SPIGM Workshop

PointCHR: Point Cloud Analysis via Curvature-Aware Hyperbolic Rectification

PointCHR：通过曲率感知双曲整流进行点云分析

Xinxing Yu, Liying Yang, Hao Mo, Hui Ma, Fang Kai, Ajian Liu, Yanyan Liang

AI总结 针对三维点云中高曲率区域难以解析的问题，提出PointCHR方法，利用双曲流形指数体积膨胀特性，通过曲率引导径向整流机制，有效缓解表示拥挤问题，提升主干网络捕捉细节能力，在多基准测试中达最优性能。

Journal ref Proceedings of the 43 rd International Conference on Machine Learning,2026

HIVE-3D: Hierarchical Voxel Enhancement for High-Quality 3D Scene Generation

HIVE-3D：用于高质量3D场景生成的分层体素增强

Bin Zang, Wenting Zheng, Xiaoliang Luo, Zhiyuan Fang, Shi Li, Lvchun Wang, Wei Yu, Yi Zhao, Tian Xie, Yuchi Huo, Rengan Xie

AI总结 研究针对单图像3D场景生成中分辨率受限问题，提出HIVE-3D方法。基于分层体素增强框架，经图像分割、注意力检索、构建分层组件树及体素超分辨率模型，实现粗到细的分层超分辨率，显著优于先前方法，达当前最优性能。

Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026). Project page: https://xbdff.github.io/HIVE-3D/

Learning Biophysical Models of Large-Scale Multineuronal Data to Enable Precise Neurostimulation

学习大规模多神经元数据的生物物理模型以实现精确神经刺激

Amrith Lotlikar, Ian Christopher Tanoh, Praful Vasireddy, Andrew Lanpouthakoun, Ramandeep Vilkhu, Michael Sommeling, A. J. Phillips, Alexander Sher, Alan Litke, Scott W. Linderman, E. J. Chichilnisky, Subhasish Mitra

AI总结 研究利用可微生物物理模拟等从细胞外多电极阵列测量数据快速推断霍奇金-赫胥黎模型参数，用于预测神经尖峰反应，以验证方法收集猕猴视网膜数据，准确率达90.6%。

Comments Accepted at ICML 2026

Decodable but Not Faithful: Coupling Natural-Language Rationales to Programmatic Verifiers

可解码但不忠实：将自然语言理由与程序化验证器耦合

Vatsal Ananthula, Adarsh Kumarappan

机构 * AI4Math 纠错

AI总结 提出验证器耦合推理框架，通过一致性训练使验证器信息可从理由表示中解码，但发现可解码性不保证忠实生成，在多个任务中验证了该差距。

Comments Accepted to the ICML 2026 AI4Math Workshop as a poster

Unsupervised Disentanglement Without Compromises : How Functional Orthogonality Enforces Identifiability

无监督解缠无需妥协：函数正交性如何强制可识别性

Mathieu Cyrille Simon, Pascal Frossard, Christophe De Vleeschouwer

机构 * EPFL, LTS4 laboratory, Lausanne, Switzerland（瑞士洛桑联邦理工学院，LTS4实验室，洛桑，瑞士） 纠错

AI总结 从函数视角出发，通过生成映射雅可比的正交性约束实现无监督解缠，证明该条件在无需统计独立或因果假设下保证非线性生成模型的可识别性，实验验证了理论有效性。

Comments Accepted at ICML 2026

Two-Layer Linear Auto-Regressive Models Estimate Latent States

两层线性自回归模型估计潜在状态

Yahya Sattar, Sunmook Choi, Leo Maynard-Zhang, Yassir Jedra, Maryam Fazel, Sarah Dean

机构 * Cornell（康奈尔大学） ； Washington（华盛顿大学） ； Imperial College London（伦敦帝国理工学院） ； Amazon（亚马逊） 纠错

AI总结 本文证明两层线性自回归模型通过经验风险最小化训练时，能近似卡尔曼滤波，恢复潜在状态估计，并提供有限样本保证。

Comments ICML 2026

Skip a Layer or Loop It? Learning Program-of-Layers in LLMs

跳过一层还是循环它？学习LLM中的层程序

Ziyue Li, Yang Li, Tianyi Zhou

机构 * Ziyue Li, Yang Li, Tianyi Zhou（李子悦、李阳、周天毅） 纠错

AI总结 本文提出PoLar方法，通过轻量级预测网络学习为每个输入动态跳过或重复预训练层，在数学推理任务上以更少层数提升准确率。

Comments Accepted at ICML 2026. Substantially extends arXiv:2507.07996. Updated DART-Math experiments by removing duplicate examples; conclusions remain unchanged. Code: https://github.com/tianyi-lab/PoLar

Lagrangian Perturbation Diffusion Steering: Latent Reinforcement Learning for Generative Policies

拉格朗日扰动扩散引导：用于生成策略的潜在强化学习

Hikmet Simsir, Ozgur S. Oguz

机构 * University of Michigan（密歇根大学） 纠错

AI总结 提出拉格朗日扰动扩散引导（LP-DS），通过学习紧凑的噪声空间扰动来微调冻结的生成策略，利用拉格朗日信任区域目标优化，在保持潜在先验约束的同时提升下游价值，在多个基准上实现样本效率和回报提升。

Comments Accepted as a regular paper at ICML 2026

Towards Understanding Modality Interaction in Multimodal Language Models via Partial Information Decomposition

通过部分信息分解理解多模态语言模型中的模态交互

Wanlong Fang, Tianle Zhang, Wen Tao, Alvin Chan

机构 * University of California, Berkeley（加州大学伯克利分校） ； Stanford University（斯坦福大学） 纠错

AI总结 引入部分信息分解（PID）框架，分离感官和语言输入的独特、冗余和协同贡献，揭示多模态大模型中的模态使用模式，并扩展至三模态系统。

Comments Accepted by ICML 2026

Convex Basins in Single-Index Model Loss Landscapes: Applications to Robust Recovery under Strong Adversarial Corruption

单索引模型损失景观中的凸盆地：强对抗性腐败下的鲁棒恢复应用

Santanu Das, Sagnik Chatterjee, Jatin Batra

机构 * School of Technology and Computer Science, Tata Institute of Fundamental Research, Mumbai, India（技术与计算机科学学院，印度塔塔基础研究机构，孟买） 纠错

AI总结 针对具有重尾噪声和对抗性腐败的单索引模型，提出首个基于凸盆地结构的鲁棒恢复算法，实现近线性样本和时间复杂度。

Comments Accepted at ICML 2026

Robust Filter Attention: Self-Attention as Precision-Weighted State Estimation

鲁棒滤波注意力：自注意力作为精度加权状态估计

Peter Racioppo

机构 * Independent Researcher, Los Angeles, CA, USA（独立研究者，美国加利福尼亚州洛杉矶） 纠错

AI总结 提出鲁棒滤波注意力（RFA），将自注意力建模为基于线性随机微分方程的状态估计，在语言建模中实现优于RoPE的困惑度与零样本外推稳定性。

Comments Accepted to ICML 2026

Coupled Training with Privileged Information and Unlabeled Data

基于特权信息与未标记数据的联合训练

Jiahao Shi, Omar Hagrass, Jason M. Klusowski

机构 * Department of Electrical and Computer Engineering, Princeton University（普林斯顿大学电子与计算机工程系） ； Department of Operations Research and Financial Engineering, Princeton University（普林斯顿大学运筹学与金融工程系） 纠错

AI总结 提出一种联合训练方法，同时学习利用训练时特权信息和测试时可用输入的模型，避免两阶段方法中弱噪声信息误导部署模型，并通过理论保证和实验验证其鲁棒性优于标准两阶段基线。

Comments 37 pages, 6 figures. Accepted to ICML 2026

How Many Different Outputs Can a Transformer Generate?

变换器能生成多少种不同的输出？

Maxime Meyer, Mario Michelessa, Caroline Chaux, Vincent Y. F. Tan

机构 * Department of Mathematics, National University of Singapore, Singapore, 117543（新加坡国立大学数学系） ； School of Computing, National University of Singapore, Singapore, 117543（新加坡国立大学计算学院） ； Aix Marseille Univ, CNRS, I2M, Marseille, France（法国马赛大学、国家科学研究中心、I2M研究所） ； Department of Electrical and Computer Engineering, National University of Singapore（新加坡国立大学电子与计算机工程系） 纠错

AI总结 研究如何利用变换器架构中的少量特性来准确预测其能生成的不同序列数量，包括定性和定量分析，并提供基于提示长度的上限，实验证明在不同架构和模型大小下该上限紧致于10倍以内。分析还解释了之前在简单序列任务（如复制和填塞）中观察到的变换器经验性失败现象。

Comments ICML 2026 Oral