ICML

Multi$^2$: Hierarchical Multi-Agent Decision-Making with LLM-Based Agents in Interactive Environments

Multi$^2$：基于LLM智能体在交互环境中的分层多智能体决策

Sangeun Park, Minhae Kwon

机构 * KAIST（韩国科学技术院） 纠错

AI总结 提出Multi$^2$分层多智能体决策框架，通过高层智能体（System 1）使用监督微调生成子目标，低层智能体（System 2）使用离线到在线强化学习执行原子动作，以缓解目标漂移并实现长期稳定控制。

Comments Accepted at ICML 2026

Partial Fusion of Neural Networks: Efficient Tradeoffs Between Ensembles and Weight Aggregation

神经网络的部分融合：集成与权重聚合之间的高效权衡

Fabian Morelli, Stephan Eckstein

机构 * Department of Mathematics, University of Tübingen, Germany（图宾根大学数学系，德国） ； Department of Computer Science, University of Tübingen, Germany（图宾根大学计算机科学系，德国） 纠错

AI总结 提出神经网络的部分融合方法，通过基于神经元相似性的部分最优传输实现集成与权重聚合之间的灵活权衡，并推广为广义剪枝。

Comments Accepted to ICML 2026

Understanding Self-Supervised Learning via Latent Distribution Matching

通过潜在分布匹配理解自监督学习

Fabian A Mikulasch, Friedemann Zenke

机构 * Friedrich Miescher Institute for Biomedical Research, 4056 Basel, Switzerland（弗里德里希·迈斯彻生物医学研究所） ； Faculty of Science, University of Basel, 4033 Basel, Switzerland（巴塞尔大学科学学院） 纠错

AI总结 本文将自监督学习形式化为潜在分布匹配（LDM），通过对齐和均匀性最大化潜在表示的对数概率和熵，统一了多种SSL方法，并推导出用于高维时间序列的非线性无采样贝叶斯滤波模型。

Comments Accepted to ICML 2026 (Spotlight)

More Edits, More Stable: Understanding the Lifelong Normalization in Sequential Model Editing

更多编辑，更稳定：理解连续模型编辑中的终身规范化

Xin Ma, Wei Chen, Qi Liu, Derong Xu, Zhi Zheng, Tong Xu, Enhong Chen

机构 * State Key Laboratory of Cognitive Intelligence, University of Science and Technology of China（认知智能国家重点实验室，中国科学技术大学） 纠错

AI总结 本文研究了连续模型编辑中的终身规范化，提出理论分析揭示其自增强稳定性循环，并通过StableEdit提升长期稳定性。

Comments Accepted to ICML 2026

Large Language Models Explore by Latent Distilling

通过潜在蒸馏探索大语言模型

Yuanhao Zeng, Ao Lu, Lufei Li, Zheng Zhang, Yexin Li, Kan Ren

机构 * State Key Laboratory of General Artificial Intelligence, BIGAI, Beijing, China（人工智能通用基础理论国家重点实验室，BIGAI，北京，中国） ； School of Information Science and Technology, ShanghaiTech University, Shanghai, China（信息科学与技术学院，上海交通大学，上海，中国） 纠错

AI总结 本文提出Exploratory Sampling方法，通过蒸馏模型引导生成过程，提升语义多样性与推理效率，在数学、科学和代码生成中表现优异。

Comments 25 pages, 5 figures. Accepted in ICML 2026

SWE-Milestone: Evaluating AI Agents on Continuous Software Evolution

EvoClaw: 评估AI代理在持续软件演化中的表现

Gangda Deng, Zhaoling Chen, Zhongming Yu, Haoyang Fan, Yuhong Liu, Yuxin Yang, Dhruv Parikh, Rajgopal Kannan, Le Cong, Mengdi Wang, Qian Zhang, Viktor Prasanna, Xiangru Tang, Xingyao Wang

机构 * USC（美国斯克利普斯大学） ； UCR（加州大学河滨分校） ； UCSD（加州大学圣地亚哥分校） ； Army Research Office（陆军研究办公室） ； Stanford（斯坦福大学） ； Princeton（普林斯顿大学） ； Haven ； OpenHands 纠错

AI总结 针对现有基准测试忽视软件演化中时间依赖和技术债务的问题，提出EvoClaw基准，通过从提交日志重建可验证里程碑DAG，评估AI代理在持续开发中维持系统完整性和限制错误累积的能力。

Comments ICML 2026

Efficient Multi-round LLM Inference over Disaggregated Serving

高效多轮LLM推理的解耦服务

Wenhao He, Youhe Jiang, Penghao Zhao, Quanqing Xu, Eiko Yoneki, Bin Cui, Fangcheng Fu

AI总结 AMPD通过自适应协调预填充和解码工作负载，提升多轮LLM推理的服务级别目标达成率。

Comments ICML 2026

Measuring and Mitigating Post-hoc Rationalization in Reverse Chain-of-Thought Generation

反向思维链生成中的事后合理化测量与缓解

Guangyue Peng, Zongchao Chen, Wen Luo, Yuntao Wen, Wei Li, Ruixiang Feng, Ran Le, Chen Yang, Zhenwei An, Yang Song, Tao Zhang, Houfeng Wang

机构 * State Key Laboratory of Multimedia Information Processing, School of Computer Science, Peking University（信息处理国家重点实验室，计算机科学学院，北京大学） ； University of Electronic Science and Technology of China（电子科技大学） ； Nanbeige Lab, BOSS Zhipin（纳贝格实验室，BOSS智联） 纠错

AI总结 针对反向思维链生成中的事后合理化问题，提出结构骨架引导推理方法，通过解耦答案依赖而非抑制答案来缓解锚定效应，在开放推理基准上提升10%性能。

Comments ICML 2026

Breaking the MoE LLM Trilemma: Dynamic Expert Clustering with Structured Compression

打破MoE大语言模型三重困境：动态专家聚类与结构压缩

Peijun Zhu, Ning Yang, Baoliang Tian, Jiayu Wei, Weihao Zhang, Haijun Zhang, Pin Lv

机构 * Guangzhou University（广州大学） ； Institue of Automation Chinese Academy of Sciences（中国科学院自动化研究所） ； ByteDance Inc.（字节跳动公司） ； University of Science and Technology Beijing（北京科技大学） 纠错

AI总结 本文提出动态专家聚类与结构压缩框架，通过参数分解和分层路由策略，显著提升MoE大语言模型的效率和内存利用率。

Comments 10 pages, 2 figures, 8 tables. Under review as a conference paper at ICML 2026

Knowledge-Informed Kernel State Reconstruction from Heterogeneous Partial Observations

知识驱动的异质部分观测核状态重建

Luca Muscarnera, Silas Ruhrberg Estévez, Samuel Holt, Evgeny Saveliev, Mihaela van der Schaar

AI总结 提出MAAT框架，利用再生核希尔伯特空间和异质观测算子及先验知识，从部分、噪声、异质观测中重建平滑且物理一致的动态系统状态，显著降低轨迹和导数重建误差。

Comments Accepted at ICML 2026 SD4H Workshop

SKETCH: Semantic Key-Point Conditioning for Long-Horizon Vessel Trajectory Prediction

SKETCH: 面向长时域船舶轨迹预测的语义关键点条件建模

Linyong Gan, Zimo Li, Wenxin Xu, Xingjian Li, Jianhua Z. Huang, Enmei Tu, Shuhang Chen

机构 * School of Data Science, The Chinese University of Hong Kong, Shenzhen, China（香港中文大学（深圳）数据科学学院） ； School of Science and Engineering, The Chinese University of Hong Kong, Shenzhen, China（香港中文大学（深圳）科学与工程学院） ； School of Artificial Intelligence, The Chinese University of Hong Kong, Shenzhen, China（香港中文大学（深圳）人工智能学院） ； COSCO SHIPPING Advanced Technology Institute, Shanghai, China（中远海运技术研究院） 纠错

AI总结 针对长时域轨迹预测中方向漂移问题，提出基于语义关键点（NKP）的条件轨迹建模框架，将预测分解为全局语义决策与局部运动建模，采用预训练-微调策略估计NKP先验，在真实AIS数据上显著提升长时域、方向精度和细粒度预测性能。

Comments Final Camera-Ready Version. Accepted by ICML 2026 (PMLR Vol. 306)

Spectral Heat Flow for Conservative Token Condensation in Vision-Language Models

视觉语言模型中用于保守令牌压缩的谱热流

Zhaoyang Li, Yanjun Li, Wangkai Li, Yujia Chen, Tianzhu Zhang

机构 * School of Information Science/National Key Laboratory of Deep Space Exploration University of Science and Technology of China（中国科学技术大学信息科学学院/深空探测国家实验室） 纠错

AI总结 研究针对视觉语言模型推理成本高及现有令牌剪枝方法的问题，提出无需训练的SpecFlow框架，通过谱热流等操作实现保守压缩，在多方面优于现有方法，平衡了效率与准确性。

Comments Accepted by ICML 2026

Omni-Perception Policy Optimization for Multimodal Emotion Reasoning

全模态感知策略优化用于多模态情感推理

Zhiyuan Han, Beier Zhu, Wenwen Tong, Pengyang Shao, Peipei Song, Xinyi Wang, Jiangnan Chen, Lewei Lu, Xun Yang

机构 * University of Science and Technology of China（中国科学技术大学） ； SenseTime Research（商汤科技研究院） ； National University of Singapore（新加坡国立大学） ； Institute of Artificial Intelligence, Hefei Comprehensive National Science Center（合肥综合性国家科学中心人工智能研究院） 纠错

AI总结 提出OPPO强化学习框架，通过全模态感知奖励和损失优化多模态感知，提升情感推理中模态利用率和忠实度，在多个基准上达到最优。

Comments Accepted at ICML 2026. Project page: https://zjycutieee.github.io/OPPO-page/ Code: https://github.com/ZhiyuanHan-Aaron/OPPO

Native Active Perception as Reasoning for Omni-Modal Understanding

原生主动感知作为全模态理解的推理

Zhenghao Xing, Ruiyang Xu, Yuxuan Wang, Jinzheng He, Ziyang Ma, Qize Yang, Yunfei Chu, Jin Xu, Junyang Lin, Chi-Wing Fu, Pheng-Ann Heng

机构 * The Chinese University of Hong Kong（香港中文大学） ； Shanghai Jiao Tong University（上海交通大学） ； Nanyang Technological University（南洋理工大学） ； Qwen Team, Alibaba Group（阿里巴巴集团Qwen团队） 纠错

AI总结 提出OmniAgent，一种基于POMDP迭代观察-思考-行动循环的原生全模态智能体，通过主动感知将推理复杂度与视频时长解耦，在多个基准上达到开源模型最优性能。

Comments Accepted at ICML 2026. Code and models: https://github.com/harryhsing/omniagent

FAIR-Calib: Frontier-Aware Instability-Reweighted Calibration for Post-Training Quantization of Diffusion Large Language Models

FAIR-Calib：面向扩散大语言模型训练后量化的前沿感知不稳定重加权校准

Haoyu Huang, Linlin Yang, Sheng Xu, Boyu Liu, Guodong Guo, Zhongqian Fu, Hang Zhou, Baochang Zhang

机构 * FAIR 纠错

AI总结 针对扩散大语言模型训练后量化中前沿决策易翻转并永久锁定放大的问题，提出两阶段PTQ框架FAIR-Calib，通过前沿命中与掩码阶段可靠性估计位置先验，并利用重加权隐状态MSE校准优先保护脆弱前沿状态，理论证明其作为输出KL散度代理，实验显著优于基线。

Comments Accepted as a poster at the 43rd International Conference on Machine Learning (ICML 2026)

CyberGym-E2E: Scalable Real-World Benchmark for AI Agents' End-to-End Cybersecurity Capabilities

CyberGym-E2E：面向AI代理端到端网络安全能力的可扩展真实世界基准

Tianneng Shi, Robin Rheem, Dongwei Jiang, Mona Wang, Francisco De La Riega, Zhun Wang, Jingzhi Jiang, Alexander Cheung, Sean Tai, Jonah Cha, Jianhong Tu, Gabriel Han, Chenguang Wang, Jingxuan He, Wenbo Guo, Dawn Song

机构 * Stanford University（斯坦福大学） ； UC Berkeley（加州大学伯克利分校） 纠错

AI总结 提出CyberGym-E2E，一个大规模、真实的端到端网络安全基准，通过自动化流水线将开源漏洞数据转化为评估环境，全面评估AI代理在漏洞发现、PoC生成和补丁生成全生命周期中的能力。

Comments ICML 2026

Structure-Induced Information for Rerooting Levin Tree Search

结构信息用于重定根莱文树搜索

Jake Tuero, Michael Buro, Laurent Orseau, Levi H. S. Lelis

机构 * Department of Computing Science, University of Alberta, Edmonton, Canada. ； Alberta Machine Intelligence Institute (Amii), Edmonton, Canada. ； Google DeepMind, London, United Kingdom. 纠错

AI总结 提出三种重定根器设计，利用结构信息隐式分解子目标，提升策略树搜索的可扩展性和效率。

Comments ICML 2026

Routing by Reaching: Composition of Pre-trained GFlowNets for Multi-Objective Generation

通过到达进行路由：预训练GFlowNets的组合用于多目标生成

Seokwon Yoon, Youngbin Choi, Seunghyuk Cho, Seungbeom Lee, MoonJeong Park, Dongwoo Kim

机构 * Department of Computer Science \& Engineering, POSTECH, South Korea ； Graduate School of Artificial Intelligence, POSTECH, South Korea 纠错

AI总结 提出一个在推理时组合预训练GFlowNets的框架，无需微调或重新训练即可快速适应多目标生成任务，并证明在线性标量化下精确恢复目标分布，对非线性算子通过畸变因子量化近似质量。

Comments Appears in the 43rd International Conference on Machine Learning (ICML 2026)

OmniAID: Decoupling Semantics and Artifacts for Universal AI-Generated Image Detection in the Wild

OmniAID: 解耦语义与伪影以实现通用AI生成图像野外检测

Yuncheng Guo, Junyan Ye, Chenjue Zhang, Hengrui Kang, Haohuan Fu, Conghui He, Weijia Li

机构 * Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Sun Yat-Sen University（中山大学） ； Tsinghua Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院，清华大学） ； Shanghai Jiao Tong University（上海交通大学） 纠错

AI总结 提出OmniAID框架，通过解耦混合专家架构分离语义缺陷和通用伪影，结合两阶段训练策略和Mirage数据集，实现跨生成模型和语义内容的鲁棒AI生成图像检测。

Comments Accepted by ICML 2026

Singularity-aware Optimization via Randomized Geometric Probing: Towards Stable Non-smooth Optimization

基于随机几何探测的奇异性感知优化：迈向稳定的非光滑优化

Ruoran Xu, Borong She, Xiaobo Jin, Qiufeng Wang

机构 * Xi'an Jiaotong-Liverpool University（西安交通大学利物浦大学） 纠错

AI总结 针对非光滑优化中Adam优化器的梯度抖动问题，提出奇异性感知Adam（S-Adam），通过局部几何不稳定性（LGI）度量动态调整步长，实现稳定训练并提升泛化性能。

Comments International Conference on Machine Learning (ICML), 2026

Rooted Absorbed Prefix Trajectory Balance with Submodular Replay for GFlowNet Training

基于子模重放的根吸收前缀轨迹平衡用于GFlowNet训练

Xi Wang, Wenbo Lu, Shengjie Wang

机构 * Courant Institute School of Mathematics, Computing, and Data Science, New York University（纽约大学Courant研究所数学、计算与数据科学学院） ； Courant Institute School of Mathematics, Computing（纽约大学Courant研究所数学、计算与数据科学学院） ； Data Science, New York University（纽约大学数据科学学院） 纠错

AI总结 针对GFlowNet的模式坍塌问题，提出RapTB目标函数（通过根锚定子轨迹监督和吸收后缀备份提供密集前缀学习信号）和SubM子模重放策略（促进高奖励和多样性），在分子生成等任务中提升优化性能和多样性。

Journal ref Forty-third International Conference on Machine Learning (ICML 2026)

Induction Meets Biology: Mechanisms of Repeat Detection in Protein Language Models

归纳遇见生物学：蛋白质语言模型中重复检测的机制

Gal Pomerants, Yaniv Nikankin, Anja Reusch, Tomer Tsaban, Ora Schueler-Furman, Yonatan Belinkov

机构 * Weizmann Institute of Science（魏茨曼科学研究院） 纠错

AI总结 通过分析蛋白质语言模型在掩码预测中的行为，揭示了其检测精确和近似重复序列的两阶段机制：先构建特征表示，再利用归纳头关注重复片段中的对齐标记。

Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026)

SynGR: Unleashing the Potential of Cross-Modal Synergy for Generative Recommendation

SynGR：释放跨模态协同在生成推荐中的潜力

Wei Chen, Xingyu Guo, Shuang Li, Fuwei Zhang, Meng Yuan, Jing Fan, Zhao Zhang, Deqing Wang, Fuzhen Zhuang

机构 * School of Artificial Intelligence, Beihang University, Beijing, China（北京航空航天大学人工智能学院） ； School of Computer Science and Engineering, Beihang University, Beijing, China（北京航空航天大学计算机科学与工程学院） 纠错

AI总结 本文提出SynGR框架，通过显式鼓励生成过程中的跨模态依赖，以捕捉新兴物品语义，从而提升生成推荐性能。

Comments Accepted by ICML 2026, 15 pages

FormulaCode: Evaluating Agentic Optimization on Large Codebases

FormulaCode: 评估在大规模代码库上进行代理优化

Atharva Sehgal, James Hou, Akanksha Sarkar, Ishaan Mantripragada, Swarat Chaudhuri, Jennifer J. Sun, Yisong Yue

机构 * The University of Texas at Austin（德克萨斯大学奥斯汀分校） ； California Institute of Technology（加州理工学院） ； Cornell University（康奈尔大学） 纠错

AI总结 FormulaCode是一个评估大型真实代码库上代理优化能力的基准，包含957个从科学Python仓库挖掘出的性能瓶颈，配以专家撰写的补丁和平均264.6个社区维护的性能工作负载，揭示了前沿LLM代理在多目标优化上的重大挑战。

Comments ICML Camera Ready Version

OMAC: A Holistic Optimization Framework for LLM-Based Multi-Agent Collaboration

OMAC：一种面向基于大语言模型的多智能体协作的综合优化框架

Shijun Li, Hilaf Hasson, Joydeep Ghosh

机构 * Department of Electrical and Computer Engineering, The University of Texas at Austin, Austin, United States（得克萨斯大学奥斯汀分校电子与计算机工程系） ； Intuit AI Research, Mountain View, United States（Intuit AI研究） 纠错

AI总结 本文提出OMAC框架，通过五个关键优化维度提升基于大语言模型的多智能体系统性能，采用语义初始化器和对比比较器算法实现单维和多维联合优化。

Comments Accepted as a Oral paper at ICML 2026

Adaptive Multi-Round Allocation with Stochastic Arrivals

自适应多轮分配与随机到达

Yuqi Pan, Davin Choo, Haichuan Wang, Milind Tambe, Alastair van Heerden, Cheryl Johnson

机构 * Harvard University（哈佛大学） ； University of Witwatersrand（沃特沙兰大学） 纠错

AI总结 研究了受适应性网络招募启发的序列资源分配问题，提出基于截断概率生成函数的动态规划算法，实现多项式复杂度的多轮分配方案，并分析了模型误差下的鲁棒性。

Comments Accepted into ICML 2026

A Systematic Investigation of RL-Jailbreaking in LLMs

LLMs中RL越狱的系统性研究

Montaser Mohammedalamen, Kevin Roice, Reginald McLean, Alyssa Lefaivre Škopac

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

AI总结 本文首次系统分解RL越狱框架，通过分析奖励函数、动作空间、回合长度等环境形式化因素和算法措施，发现密集奖励和延长回合长度是越狱成功的主要驱动因素，并提供了提升RL越狱效率及强化模型防御的工具。

Comments Warning: This paper may contain unfiltered and potentially offensive jailbreaking examples. Accepted at the Second Workshop on Agents in the Wild: Safety, Security, and Beyond (AIWILD) at ICML 2026

Singular Bayesian Neural Networks

奇异贝叶斯神经网络

Mame Diarra Toure, David A. Stephens

AI总结 本文提出了一种基于奇异结构的贝叶斯神经网络，通过低秩参数化减少参数数量，同时提升预测性能和校准能力。

Comments 8 pages Main text, 53 pages Appendix, 20 figures Proceedings of the 43 rd International Conference on Machine Learning (ICML 2026)

AdaGC: Enhancing LLM Pretraining Stability via Adaptive Gradient Clipping

AdaGC: 通过自适应梯度裁剪增强LLM预训练稳定性

Guoxia Wang, Shuai Li, Congliang Chen, Jinle Zeng, Jiabin Yang, Dianhai Yu, Yanjun Ma, Li Shen

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 提出自适应逐张量梯度裁剪方法AdaGC，通过限制梯度范数相对于历史裁剪值的指数移动平均来消除损失尖峰，在Llama-2 7B等模型上实现零尖峰并提升下游准确率。

Comments Accept by ICML 2026

Audio-Visual Continual Test-Time Adaptation without Forgetting

音频视觉持续测试时间适应无需遗忘

Sarthak Kumar Maharana, Akshay Mehra, Bhavya Ramakrishna, Yunhui Guo, Guan-Ming Su

AI总结 本文提出AVReCAP方法，在测试时无需源数据即可提升模型性能，通过动态检索最佳融合层参数减少灾难性遗忘。

Comments ECCV 2026 & ICML 2026 Workshop Continual Adaptation at Scale: Towards Sustainable AI