ICML

Re-FORC: Adaptive Reward Prediction for Efficient Chain-of-Thought Reasoning

Re-FORC：用于高效思维链推理的自适应奖励预测

Renos Zabounidis, Aditya Golatkar, Michael Kleinman, Alessandro Achille, Wei Xia, Stefano Soatto

机构 * AWS Agentic AI（AWS智能代理部门） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

AI总结 研究提出Re-FORC自适应奖励预测方法，通过在推理模型上训练轻量级适配器，实现早期停止无前景推理链、优化模型和思维长度选择以及自适应测试时缩放，有效提升推理效率和准确率。

Comments Accepted at ICML 2026; previously accepted as a non-archival paper at the Efficient Reasoning Workshop at NeurIPS 2025

InteractComp: Evaluating Search Agents With Ambiguous Queries

InteractComp：使用模糊查询评估搜索代理

Mingyi Deng, Lijun Huang, Yani Fan, Fanqi Kong, Jiayi Zhang, Fashen Ren, Jinyi Bai, Fuzhen Yang, Dayi Miao, Zhaoyang Yu, Yifan Wu, Yanfei Zhang, Fengwei Teng, Yingjia Wan, Song Hu, Yude Li, Xin Jin, Conghao Hu, Haoyu Li, Qirui Fu, Tai Zhong, Xinyu Wang, Xiangru Tang, Nan Tang, Chenglin Wu, Yuyu Luo

机构 * DeepWisdom（深智科技） ； The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； Renmin University of China（中国人民大学） ； University of California, Los Angeles（加州大学洛杉矶分校） ； Agent Universe（智能体宇宙） ； McGill University（麦吉尔大学） ； Yale University（耶鲁大学） 纠错

AI总结 研究针对搜索代理缺乏处理模糊查询及交互能力的问题，引入InteractComp基准，通过目标-干扰物方法构建问题评估17个模型，发现模型存在过度自信问题，强制交互有提升，揭示交互能力停滞，该基准对评估和训练搜索代理交互能力有重要价值。

Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026), Seoul, South Korea. 9 pages, 4 figures

LiMuon: Light and Fast Muon Optimizer for Large Models

LiMuon: 面向大模型的轻量快速Muon优化器

Feihu Huang, Yuning Luo, Songcan Chen

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 提出LiMuon优化器，结合动量方差缩减与随机SVD，在降低内存的同时实现更低的样本复杂度O(ε^{-3})，并在Mamba-130M等模型上验证有效性。

Comments Published in ICML 2026

Learning to Reason for Factuality

学习进行事实性推理

Xilun Chen, Ilia Kulikov, Vincent-Pierre Berges, Barlas Oğuz, Rulin Shao, Gargi Ghosh, Jason Weston, Wen-tau Yih

机构 * FAIR at Meta（Meta 的 FAIR） ； University of Washington（华盛顿大学） 纠错

AI总结 研究推理大型语言模型在事实性推理方面的问题，提出同时考虑事实精度、响应细节和答案相关性的新型奖励函数，应用在线强化学习，使模型在长篇事实性基准测试中幻觉率降低、答案细节提升且响应帮助性无降。

Comments ICML 2026

OPIUM: Mitigating Steering Externalities and Over-Refusal via Dual Objective Latent Optimization

OPIUM：通过双目标潜在优化减轻引导外部性和过度拒绝

Kavin Aravindan, Arihant Rastogi, Krishak Aneja, Aadi Prasad, Saiyam Jain, Vaishnavi Shivkumar, Ponnurangam Kumaraguru

AI总结 研究激活引导向量存在的外部性问题，提出无训练方法OPIUM，通过表示匹配净化引导向量，在给定参考行为下优化新向量，改善安全与效用权衡，减轻激活引导的有害副作用。

Comments Accepted to the Mechanistic Interpretability Workshop at the 43rd International Conference on Machine Learning (ICML 2026)

Parameter-Free Encoders Remain Viable for RDB Foundation Models

无参数编码器对关系数据库基础模型仍然可行

Linjie Xu, David Wipf

AI总结 研究如何利用关系数据库预测目标列缺失值，对比无参数和参数化编码器，分析标签输入时RDB编码器属性，通过实验验证简单无参数编码器在多基准任务中仍有强大性能。

Comments ICML 2026 Workshop on Foundation Models for Structured Data

Enhancing Membership Inference Attacks on Diffusion Models from a Frequency-Domain Perspective

从频域角度增强扩散模型的成员推理攻击

Puwei Lian, Yujun Cai, Songze Li, Bingkun Bao

机构 * Southeast University（东南大学） ； The University of Queensland（昆士兰大学） ； Hefei University of Technology（合肥工业大学） ； Engineering Research Center of Blockchain Application, Supervision and Management (Southeast University), Ministry of Education（区块链应用、监督与管理工程研究中心（东南大学），教育部） 纠错

AI总结 本文从频域角度揭示扩散模型处理高频信息的缺陷导致成员推理攻击误分类，并提出即插即用的高频滤波模块以提升攻击性能。

Comments Accepted to Forty-Third International Conference on Machine Learning (ICML 2026)

AG-REPA: Causal Layer Selection for Representation Alignment in Audio Flow Matching

AG-REPA：音频流匹配中表示对齐的因果层选择

Pengfei Zhang, Tianxin Xie, Minghao Yang, Li Liu

机构 * AI Thrust, Information Hub, The Hong Kong University of Science and Technology (Guangzhou)（人工智能 thrust，信息中心，香港科学与技术大学（广州）） 纠错

AI总结 提出AG-REPA方法，通过前向门控消融量化各层对速度场的因果贡献，实现稀疏层选择和自适应加权对齐，在音频流匹配中优于传统REPA基线。

Comments Accepted to ICML 2026. 17 pages, 4 figures, 12 tables

SafeHarbor: Defining Precise Decision Boundaries via Hierarchical Memory-Augmented Guardrail for LLM Agent Safety

SafeHarbor：用于LLM智能体安全的分层记忆增强防护栏

Zhe Liu, Zonghao Ying, Wenxin Zhang, Quanchen Zou, Deyue Zhang, Dongdong Yang, Xiangzheng Zhang, Hao Peng

机构 * School of Cyber Science and Technology, Beihang University, Beijing, China（北京航空航天大学网络安全学院） ； Institute of Artificial Intelligence, Beihang University, Beijing, China（北京航空航天大学人工智能研究院） ； University of Chinese Academy of Sciences, Beijing, China（中国科学院大学） ； AI Security Lab, Beijing, China（360人工智能安全实验室） 纠错

AI总结 提出SafeHarbor框架，通过分层记忆系统和信息熵自进化机制，在保持高安全拒绝率的同时提升对良性请求的响应能力。

Comments Accepted by ICML 2026

From Noise to Diversity: Random Embedding Injection in LLM Reasoning

从噪声到多样性：在LLM推理中的随机嵌入注入

Heejun Kim, Seungpil Lee, Jewon Yeom, Jaewon Sok, Seonghyeon Park, Jeongjae Park, Taesup Kim, Sundong Kim

机构 * Gwangju Institute of Science and Technology（光州科学技术学院） ； Seoul National University（首尔国立大学） ； Microsoft Research（微软研究院） 纠错

AI总结 本文研究了随机软提示（RSPs），通过在输入中添加随机嵌入向量提升推理性能，揭示了注入过程对生成多样性的影响，并在推理和训练中均取得显著效果。

Comments Under review, ICML 2026 Mechanistic Interpretability Workshop (Spotlight)

Towards Disentangled Preference Optimization Dynamics: Suppress the Loser, Preserve the Winner

朝着解耦偏好优化动态：压制失败者，保留胜利者

Wei Chen, Yubing Wu, Junmei Yang, Delu Zeng, Qibin Zhao, John Paisley, Min Chen, Zhou Wang

机构 * South China University of Technology（南方科技大学） ； Columbia University（哥伦比亚大学） ； University of Waterloo（滑铁卢大学） 纠错

AI总结 本文提出奖励校准方法，通过解耦带宽条件实现压制失败者并保留胜利者的优化动态，提升了下游性能。

Journal ref International Conference on Machine Learning(ICML) 2026

Simple Policy Gradients for Reasoning with Diffusion Language Models

为扩散语言模型进行推理的简单策略梯度

Anthony Zhan

机构 * Stanford University（斯坦福大学） 纠错

AI总结 本文提出 AGRPO 算法，通过优化 dLLM 的去噪步骤提升推理性能，实现多个任务上的显著增益。

Comments 19 pages. ICML 2026

Interpretable Embeddings with Sparse Autoencoders: A Data Analysis Toolkit

使用稀疏自动编码器的可解释嵌入：一种数据分析工具包

Nick Jiang, Xiaoqing Sun, Lisa Dunlap, Lewis Smith, Neel Nanda

机构 * University of California, Berkeley（加州大学伯克利分校） ； Massachusetts Institute of Technology（麻省理工学院） 纠错

AI总结 研究针对大规模文本语料库分析难题，提出用稀疏自动编码器创建SAE嵌入，经四个任务验证其比大语言模型更具性价比、比密集嵌入更可控，通过案例研究展示其在研究模型行为上的作用，是用于非结构化数据分析的通用工具。

Comments ICML 2026. Project page and code: https://interp-embed.com

Student-Centered Distillation Narrows the Agentic Gap Between Small and Large LLMs

以学生为中心的蒸馏缩小了小型和大型语言模型之间的智能差距

Yuanjie Lyu, Chengyu Wang, Jun Huang, Tong Xu

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 研究旨在缩小大小语言模型智能差距，提出SCoRe框架，让学生生成训练轨迹，教师纠正最早错误，经微调与短视距强化学习，提升学生解决问题能力，在12个基准测试中，70亿参数学生模型缩小了与720亿参数教师模型的性能差距

Comments Accepted to ICML 2026. The title has been changed from "From Correction to Mastery: Reinforced Distillation of Large Language Model Agents" to "Student-Centered Distillation Narrows the Agentic Gap Between Small and Large LLMs"; the camera-ready version has been uploaded

Concept Concentration for Faithful Representation Intervention

用于忠实表示干预的概念集中化

Hongzheng Yang, Yongqiang Chen, Zeyu Qin, Tongliang Liu, Chaowei Xiao, Kun Zhang, Bo Han

机构 * SAIC Centre, USYD（SAIC中心） 纠错

AI总结 研究大语言模型表示干预中定位忠实概念的问题，提出概念集中化（COCA）方法，通过重构训练数据简化决策边界，有效降低分布内和分布外越狱成功率，且在常规任务上保持性能。

Comments ICML'26; Hongzheng and Yongqiang contributed equally; project page: https://causalcoat.github.io/coca

ChemHyperMag: Physics-informed magnetic hypergraph learning improves molecular ADMET prediction

ChemHyperMag：基于物理信息的磁超图学习改进分子ADMET预测

Hexiao Ding, Hongzhao Chen, Jing Lan, Yufeng Jiang, Zihong Luo, Zehua Xiong, Tianlong Ruan, Yunlin Mao, Nga Chun Ng, Gwing Kei Yip, Gerald W. Y. Cheng, Kate Inyoung Oh, Jing Cai, Liang-Ting Lin, Jung Sun Yoo

AI总结 该研究针对分子ADMET预测问题，提出ChemHyperMag方法，通过构建官能团超图、定义势驱动不可逆流等，经磁拉普拉斯编码和磁切比雪夫编码器处理，在多基准实验中以更少样本实现改进，且具有可扩展性和可解释性。

Comments Accepted by Proceedings of the AI4Physics Workshop at the 43 rd International Conference on Machine Learning (AI4Physics@ICML 2026)

Boundary Embedding Shaping with Adaptive Contrastive Learning for Graph Structural Disentanglement

基于自适应对比学习的边界嵌入塑造用于图结构解缠

Jiaqing Chen, Zidu Yin, Yichao Cai, Yuhang Liu, Zhen Zhang, Dong Gong, Javen Qinfeng Shi

机构 * Yunnan Normal University（云南师范大学） ； Adelaide University（阿德莱德大学） ； The University of New South Wales（新南威尔士大学） 纠错

AI总结 针对图结构纠缠导致的分类性能下降，提出边界嵌入塑造模块，通过自适应对比学习选择性抑制决策边界处的虚假结构噪声，提升节点分类和链接预测精度。

Comments Accepted at ICML 2026

SGMD: Score Gradient Matching Distillation for Few-Step Video Diffusion Distillation

SGMD: 得分梯度匹配蒸馏用于少步视频扩散蒸馏

Zhuguanyu Wu, Ruihao Gong, Yang Yong, Yushi Huang, Xiangyu Fan, Lei Yang, Dahua Lin, Xianglong Liu

机构 * Beihang University（北京航空航天大学） ； SenseTime Research（商汤科技研究院） ； Hong Kong University of Science and Technology（香港科技大学） 纠错

AI总结 针对分布匹配蒸馏在少步视频扩散中训练昂贵且运动动态保守的问题，提出得分梯度匹配蒸馏（SGMD），通过直接优化假得分朝向教师并使用教师停止梯度Fisher作为稳定目标，实现约3倍训练加速并显著提升运动动态。

Comments ICML 2026

Streaming Sliced Optimal Transport

流式切片最优传输

Khai Nguyen

机构 * Department of Statistics（统计系） ； Data Sciences, University of Texas at Austin, USA（数据科学系，德克萨斯大学奥斯汀分校） 纠错

AI总结 本文提出流式切片最优传输（Stream-SW）方法，通过流式估计一维Wasserstein距离来提升计算效率，适用于样本流中的切片最优传输估计，具有低内存复杂度和理论误差保证。

Comments Accepted to ICML 2026, 21 pages, 8 figures, 7 tables

Frequentist Consistency of Prior-Data Fitted Networks for Causal Inference

用于因果推断的先验数据拟合网络的频率派一致性

Valentyn Melnychuk, Vahid Balazadeh, Stefan Feuerriegel, Rahul G. Krishnan

机构 * LMU Munich \& Munich Center for Machine Learning (MCML), Munich, Germany ； University of Toronto \& Vector Institute, Toronto, Canada 纠错

AI总结 本文分析基于先验数据拟合网络（PFN）的平均处理效应（ATE）估计量的频率派一致性，发现其存在先验诱导的混淆偏差，并提出基于一步后验校正（OSPC）的校准方法，结合鞅后验恢复功能干扰后验，从而恢复频率派一致性并实现半参数Bernstein-von Mises定理。

Journal ref Proceedings of the 43-rd International Conference on Machine Learning, Seoul, South Korea, PMLR 306, 2026

Posterior Sampling Reinforcement Learning with Gaussian Processes for Continuous Control: Sublinear Regret Bounds for Unbounded State Spaces

基于高斯过程的后验采样强化学习用于连续控制：无界状态空间的次线性遗憾界

Hamish Flynn, Joe Watson, Ingmar Posner, Jan Peters

机构 * University of Oxford（牛津大学） ； Carnegie Mellon University（卡内基梅隆大学） ； Technical University of Darmstadt（达姆施塔特技术大学） ； Robotics Institute Germany（德国机器人研究所） 纠错

AI总结 本文通过递归应用Borell-Tsirelson-Ibragimov-Sudakov不等式和链式方法，在弱平滑条件下证明了GP-PSRL算法的贝叶斯遗憾界为$\widetilde{\mathcal{O}}(H\sqrt{\gamma_TT})$，解决了先前理论工作的局限性。

Comments Accepted at ICML 2026. 45 pages, 8 figures

Approximate Nearest Neighbor Search for Modern AI: A Projection-Augmented Graph Approach

近似最近邻搜索用于现代AI：一种投影增强图方法

Kejing Lu, Zhenpeng Pan, Jianbin Qin, Yoshiharu Ishikawa, Chuan Xiao

机构 * University of Yamanashi（山梨大学） ； Beijing Institute of Technology, Zhuhai（北京理工大学（珠海）） ； Shenzhen University（深圳大学） ； Nagoya University（名古屋大学） ； Osaka University（大阪大学） 纠错

AI总结 本文提出了一种投影增强图方法，用于解决现代AI应用中近似最近邻搜索的高效率、快速索引、低内存占用、高维扩展性、鲁棒性和在线插入支持等需求。

Comments Accepted as a poster at ICML 2026. Source code is available at https://github.com/KejingLu-810/PAG/

LatentLens: Revealing Highly Interpretable Visual Tokens in LLMs

LatentLens: 揭示大语言模型中高度可解释的视觉标记

Benno Krojer, Shravan Nayak, Oscar Mañas, Vaibhav Adlakha, Desmond Elliott, Siva Reddy, Marius Mosbach

机构 * University of Cambridge（剑桥大学） 纠错

AI总结 提出 LatentLens 方法，通过将视觉标记与文本语料库中的上下文标记表示进行最近邻匹配，实现视觉标记的可解释性，发现大多数视觉标记在各层均具有可解释性。

Comments ICML 2026 (Camera Ready)

Simultaneous Speech-to-Speech Translation Without Aligned Data

无需对齐数据的同时语音到语音翻译

Tom Labiausse, Romain Fabre, Yannick Estève, Alexandre Défossez, Neil Zeghidour

机构 * LIA, University of Avignon, France（LIA，阿维尼翁大学，法国） 纠错

AI总结 Hibiki-Zero无需词级对齐数据，通过句子级对齐和强化学习策略实现高精度的同时语音翻译，支持多种语言并提升翻译质量与效率。

Comments See inference code at: https://github.com/kyutai-labs/hibiki-zero

Journal ref Proceedings of the 43rd International Conference on Machine Learning, Seoul, South Korea. PMLR 306, 2026

Abstraction Induces the Brain Alignment of Language and Speech Models

抽象诱导语言和语音模型的脑对齐

Emily Cheng, Aditya R. Vaidya, Richard Antonello

机构 * The University of Texas at Austin, USA（德克萨斯大学奥斯汀分校） ； Zuckerman Mind Brain Behavior Institute, Columbia University, USA（祖克曼心智-大脑-行为研究所，哥伦比亚大学） 纠错

AI总结 研究发现语言和语音模型通过共享的意义抽象与大脑对齐，中间层的高内在维度和语义内容增强了大脑预测性。

Comments ICML 2026 camera-ready version

Journal ref ICML 2026

On the Separability of Information in Diffusion Models

关于扩散模型中信息分离性

Akhil Premkumar

机构 * Department of Applied Physics, Yale University, New Haven, CT 06511, USA（应用物理系，耶鲁大学） 纠错

AI总结 本文研究扩散模型中信息的分离性，发现模型大部分信息用于重建图像细节，而类别标签相关性由语义内容决定，从而解释了无分类器指导的有效性。

Comments 30 pages + references, 19 figures. v5: Camera-ready version from ICML 2026

Geometry-Guided Generative Representation for Functional Brain Graphs

功能脑图的几何引导生成表示

Subati Abulikemu, Tiago Azevedo, Michail Mamalakis, John Suckling

机构 * University of Cambridge（剑桥大学） 纠错

AI总结 研究针对网络神经科学中功能脑图表征问题，用图变换器自动编码器，结合特定领域功能梯度几何，无监督学习紧凑脑图表示，能分离认知状态、解码视觉刺激，还可生成合成脑图。

Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026)

Membership Inference Attacks for Unseen Classes

针对未见类别的成员推理攻击

Pratiksha Thaker, Neil Kale, Zhiwei Steven Wu, Virginia Smith

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

AI总结 研究针对未见类别的成员推理攻击，指出多数现有攻击因无法访问完整目标分布而失败，提出“未见类”设置，证明分位数回归攻击在此设置下优于其他方法，从实证和理论上展示其优势并给出成功所需泛化属性模型。

Comments Published at ICML 2026

AEVAL: From Anecdotal to Deterministic Testing for Agentic Skill Workflows

AEVAL：从轶事性到确定性的智能体技能工作流测试

Tejas Singh Anand, Yuet Ying Christina Wang, Wanting Jiang, Steve Masson, Tian Zheng, Bingjie Zhou

机构 * nvidia（NVIDIA公司） 纠错

AI总结 研究针对智能体技能工作流测试缺乏确定性和可重复性的问题，提出AEVAL框架，通过执行器与评分器分离等方法，实现确定性、可重复的测试，给出分层修复建议，能将虚假通过率转换为可重复失败信号并记录修复过程。

Comments 8 pages, 1 figure, 1 table, accepted at the ICML 2026 Workshop on Statistical Frameworks for Uncertainty in Agentic Systems

Amortized Simulation-Based Inference of Colliding-Wind Binaries from Short, Noisy Image Time Series

基于摊销模拟推断的短时、含噪图像时间序列中碰撞风双星参数反演

Niklas Knöll, Tobias Buck, Lorenzo Branca, Giuseppe Viterbo

AI总结 针对碰撞风双星从短时序列图像推断物理参数这一逆问题，提出一种分解时空架构的摊销后验推断方法，结合神经样条流实现七参数联合推断，在低信噪比下仍能稳健恢复轨道参数和质量损失率。

Comments Accepted to the International Conference for Machine Learning (ICML) workshop AI4Physics 2026