ICML

Efficient Clustering with Provable Guardrails for LLM Inference at Scale

大规模LLM推理中具有可证明护栏的高效聚类

Longshaokan Wang, Wai Tsang Keung, Punit Ghodasara, Roman Wang, Ali Dashti, Francesc Moreno-Noguer

机构 * Amazon（亚马逊） 纠错

AI总结 研究针对大规模LLM推理成本和延迟瓶颈，提出两阶段聚类算法，先用Mini-batch K-Means生成初始聚类，再在其中选代表，能保证逐样本质量控制，运行高效且可扩展，相比常见方法有显著优势，部署后大幅降低成本和延迟。

Comments Accepted for presentation at ICML HiLD workshop 2026 (non-archival)

Reward-Aware Population Scaling of Evolutionary Strategies in LLM Fine-Tuning

语言模型微调中基于奖励感知的进化策略种群规模缩放

Sung Cho, Gyubin Han

AI总结 研究在大语言模型微调中，进化策略种群规模缩放与奖励设计及归一化的关系。通过实验发现交叉熵与二元奖励微调种群规模结论差异大，主要因奖励设计和归一化，禁用归一化可改进小种群模型表现，揭示小种群失败可能是实现问题而非内在限制。

Comments 15 pages, 2 figures. Accepted at the 4th HiLD (High-dimensional Learning Dynamics) Workshop, ICML 2026

Euclean: Automated Geometry Problem Formalization with Unified Verification in Lean

Euclean：在Lean中通过统一验证实现几何问题的自动形式化

Linbin Tang, Jingyan You, Zilin Kang, Hanzhang Liu, Sophia Zhang, Zenan Li, Chenrui Cao, Liangcheng Song, Jiaao Wu, Xian Zhang, Fan Yang

机构 * Google DeepMind（谷歌DeepMind） ； ByteDance Seed Team（字节跳动种子团队） 纠错

AI总结 研究针对几何问题形式化的碎片化现状，提出Euclean框架，通过四个阶段在Mathlib中自动形式化几何，构建了大型数据集，经评估有一定准确率，能提升Goedel v2证明成功率，验证了数据集质量。

Comments ICML 2026

Rethinking Uncertainty Evaluation in Large Language Models

重新思考大语言模型中的不确定性评估

Krish Matta, Atharv Naphade, Andy Zou

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Meta 纠错

AI总结 研究大语言模型中置信度评估问题，指出校准标准不充分。沿结构连贯性、忠实性和有用性三个轴形式化条件为C1指标，发现常用估计器违反条件，RLHF等未恢复连贯性，框架可测度与弥合差距。

Comments 19 pages, 11 figures, ICML 2026 EIML Workshop

Microlensing Detection and Inference via Learned Bayes Factors

通过学习贝叶斯因子进行微引力透镜检测和推断

Nolan Smyth, Laurence Perreault-Levasseur, Yashar Hezaveh

AI总结 该研究提出统一框架，用证据网络进行贝叶斯模型比较检测引力微透镜事件，结合神经后验估计推断参数，共享变压器编码器处理不规则采样。在模拟数据上检测效率高、误报率低，在极端区域优势明显，NPE能提供校准后验，助力实时分析。

Comments Accepted at ICML 2026 AI for Physics Workshop

Strong Gravitational Lensing Posterior Sampling in Pixel-Space Using Diffusion Models and Recurrent Inference Machines

使用扩散模型和循环推理机在像素空间中进行强引力透镜后验采样

Guillaume Payeur, Laurence Perreault-Levasseur, Gabriel Missael Barco, Yashar Hezaveh

机构 * Department of Physics, Universit\'e de Montr\'eal, Montreal QC, Canada ； Mila - Quebec AI Institute, Montreal QC, Canada ； Ciela Institute, Institute for Astrophysics ； Trottier Space Institute, McGill University, Montreal QC, Canada ； Center for Computational Astrophysics, Flatiron Institute, New York, USA ； Perimeter Institute for Theoretical Physics, Waterloo ON, Canada 纠错

AI总结 研究星系-星系强引力透镜问题，提出结合扩散生成建模与循环推理机的方法，能生成源星系和前景质量分布的联合后验样本作为像素化图像，可对含背景和前景星系的真实引力透镜模拟建模至噪声水平。

Comments 31 pages, 34 figures, Extension of an article accepted at the ICML 2026 Workshop on AI for Physics

ChemHyperMag: Physics-informed magnetic hypergraph learning improves molecular ADMET prediction

ChemHyperMag：基于物理信息的磁超图学习改进分子ADMET预测

Hexiao Ding, Hongzhao Chen, Jing Lan, Yufeng Jiang, Zihong Luo, Zehua Xiong, Tianlong Ruan, Yunlin Mao, Nga Chun Ng, Gwing Kei Yip, Gerald W. Y. Cheng, Kate Inyoung Oh, Jing Cai, Liang-Ting Lin, Jung Sun Yoo

AI总结 该研究针对分子ADMET预测问题，提出ChemHyperMag方法，通过构建官能团超图、定义势驱动不可逆流等，经磁拉普拉斯编码和磁切比雪夫编码器处理，在多基准实验中以更少样本实现改进，且具有可扩展性和可解释性。

Comments Accepted by Proceedings of the AI4Physics Workshop at the 43 rd International Conference on Machine Learning (AI4Physics@ICML 2026)

Boundary Embedding Shaping with Adaptive Contrastive Learning for Graph Structural Disentanglement

基于自适应对比学习的边界嵌入塑造用于图结构解缠

Jiaqing Chen, Zidu Yin, Yichao Cai, Yuhang Liu, Zhen Zhang, Dong Gong, Javen Qinfeng Shi

机构 * Yunnan Normal University（云南师范大学） ； Adelaide University（阿德莱德大学） ； The University of New South Wales（新南威尔士大学） 纠错

AI总结 针对图结构纠缠导致的分类性能下降，提出边界嵌入塑造模块，通过自适应对比学习选择性抑制决策边界处的虚假结构噪声，提升节点分类和链接预测精度。

Comments Accepted at ICML 2026

SGMD: Score Gradient Matching Distillation for Few-Step Video Diffusion Distillation

SGMD: 得分梯度匹配蒸馏用于少步视频扩散蒸馏

Zhuguanyu Wu, Ruihao Gong, Yang Yong, Yushi Huang, Xiangyu Fan, Lei Yang, Dahua Lin, Xianglong Liu

机构 * Beihang University（北京航空航天大学） ； SenseTime Research（商汤科技研究院） ； Hong Kong University of Science and Technology（香港科技大学） 纠错

AI总结 针对分布匹配蒸馏在少步视频扩散中训练昂贵且运动动态保守的问题，提出得分梯度匹配蒸馏（SGMD），通过直接优化假得分朝向教师并使用教师停止梯度Fisher作为稳定目标，实现约3倍训练加速并显著提升运动动态。

Comments ICML 2026

Streaming Sliced Optimal Transport

流式切片最优传输

Khai Nguyen

机构 * Department of Statistics（统计系） ； Data Sciences, University of Texas at Austin, USA（数据科学系，德克萨斯大学奥斯汀分校） 纠错

AI总结 本文提出流式切片最优传输（Stream-SW）方法，通过流式估计一维Wasserstein距离来提升计算效率，适用于样本流中的切片最优传输估计，具有低内存复杂度和理论误差保证。

Comments Accepted to ICML 2026, 21 pages, 8 figures, 7 tables

Frequentist Consistency of Prior-Data Fitted Networks for Causal Inference

用于因果推断的先验数据拟合网络的频率派一致性

Valentyn Melnychuk, Vahid Balazadeh, Stefan Feuerriegel, Rahul G. Krishnan

机构 * LMU Munich \& Munich Center for Machine Learning (MCML), Munich, Germany ； University of Toronto \& Vector Institute, Toronto, Canada 纠错

AI总结 本文分析基于先验数据拟合网络（PFN）的平均处理效应（ATE）估计量的频率派一致性，发现其存在先验诱导的混淆偏差，并提出基于一步后验校正（OSPC）的校准方法，结合鞅后验恢复功能干扰后验，从而恢复频率派一致性并实现半参数Bernstein-von Mises定理。

Journal ref Proceedings of the 43-rd International Conference on Machine Learning, Seoul, South Korea, PMLR 306, 2026

Posterior Sampling Reinforcement Learning with Gaussian Processes for Continuous Control: Sublinear Regret Bounds for Unbounded State Spaces

基于高斯过程的后验采样强化学习用于连续控制：无界状态空间的次线性遗憾界

Hamish Flynn, Joe Watson, Ingmar Posner, Jan Peters

机构 * University of Oxford（牛津大学） ； Carnegie Mellon University（卡内基梅隆大学） ； Technical University of Darmstadt（达姆施塔特技术大学） ； Robotics Institute Germany（德国机器人研究所） 纠错

AI总结 本文通过递归应用Borell-Tsirelson-Ibragimov-Sudakov不等式和链式方法，在弱平滑条件下证明了GP-PSRL算法的贝叶斯遗憾界为$\widetilde{\mathcal{O}}(H\sqrt{\gamma_TT})$，解决了先前理论工作的局限性。

Comments Accepted at ICML 2026. 45 pages, 8 figures

Approximate Nearest Neighbor Search for Modern AI: A Projection-Augmented Graph Approach

近似最近邻搜索用于现代AI：一种投影增强图方法

Kejing Lu, Zhenpeng Pan, Jianbin Qin, Yoshiharu Ishikawa, Chuan Xiao

机构 * University of Yamanashi（山梨大学） ； Beijing Institute of Technology, Zhuhai（北京理工大学（珠海）） ； Shenzhen University（深圳大学） ； Nagoya University（名古屋大学） ； Osaka University（大阪大学） 纠错

AI总结 本文提出了一种投影增强图方法，用于解决现代AI应用中近似最近邻搜索的高效率、快速索引、低内存占用、高维扩展性、鲁棒性和在线插入支持等需求。

Comments Accepted as a poster at ICML 2026. Source code is available at https://github.com/KejingLu-810/PAG/

LatentLens: Revealing Highly Interpretable Visual Tokens in LLMs

LatentLens: 揭示大语言模型中高度可解释的视觉标记

Benno Krojer, Shravan Nayak, Oscar Mañas, Vaibhav Adlakha, Desmond Elliott, Siva Reddy, Marius Mosbach

机构 * University of Cambridge（剑桥大学） 纠错

AI总结 提出 LatentLens 方法，通过将视觉标记与文本语料库中的上下文标记表示进行最近邻匹配，实现视觉标记的可解释性，发现大多数视觉标记在各层均具有可解释性。

Comments ICML 2026 (Camera Ready)

Simultaneous Speech-to-Speech Translation Without Aligned Data

无需对齐数据的同时语音到语音翻译

Tom Labiausse, Romain Fabre, Yannick Estève, Alexandre Défossez, Neil Zeghidour

机构 * LIA, University of Avignon, France（LIA，阿维尼翁大学，法国） 纠错

AI总结 Hibiki-Zero无需词级对齐数据，通过句子级对齐和强化学习策略实现高精度的同时语音翻译，支持多种语言并提升翻译质量与效率。

Comments See inference code at: https://github.com/kyutai-labs/hibiki-zero

Journal ref Proceedings of the 43rd International Conference on Machine Learning, Seoul, South Korea. PMLR 306, 2026

Abstraction Induces the Brain Alignment of Language and Speech Models

抽象诱导语言和语音模型的脑对齐

Emily Cheng, Aditya R. Vaidya, Richard Antonello

机构 * The University of Texas at Austin, USA（德克萨斯大学奥斯汀分校） ； Zuckerman Mind Brain Behavior Institute, Columbia University, USA（祖克曼心智-大脑-行为研究所，哥伦比亚大学） 纠错

AI总结 研究发现语言和语音模型通过共享的意义抽象与大脑对齐，中间层的高内在维度和语义内容增强了大脑预测性。

Comments ICML 2026 camera-ready version

Journal ref ICML 2026

On the Separability of Information in Diffusion Models

关于扩散模型中信息分离性

Akhil Premkumar

机构 * Department of Applied Physics, Yale University, New Haven, CT 06511, USA（应用物理系，耶鲁大学） 纠错

AI总结 本文研究扩散模型中信息的分离性，发现模型大部分信息用于重建图像细节，而类别标签相关性由语义内容决定，从而解释了无分类器指导的有效性。

Comments 30 pages + references, 19 figures. v5: Camera-ready version from ICML 2026

Geometry-Guided Generative Representation for Functional Brain Graphs

功能脑图的几何引导生成表示

Subati Abulikemu, Tiago Azevedo, Michail Mamalakis, John Suckling

机构 * University of Cambridge（剑桥大学） 纠错

AI总结 研究针对网络神经科学中功能脑图表征问题，用图变换器自动编码器，结合特定领域功能梯度几何，无监督学习紧凑脑图表示，能分离认知状态、解码视觉刺激，还可生成合成脑图。

Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026)

Membership Inference Attacks for Unseen Classes

针对未见类别的成员推理攻击

Pratiksha Thaker, Neil Kale, Zhiwei Steven Wu, Virginia Smith

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

AI总结 研究针对未见类别的成员推理攻击，指出多数现有攻击因无法访问完整目标分布而失败，提出“未见类”设置，证明分位数回归攻击在此设置下优于其他方法，从实证和理论上展示其优势并给出成功所需泛化属性模型。

Comments Published at ICML 2026

EditLord: Learning Code Transformation Rules for Code Editing

EditLord: 学习代码变换规则用于代码编辑

Weichen Li, Albert Jan, Baishakhi Ray, Junfeng Yang, Chengzhi Mao, Kexin Pei

机构 * The University of Chicago（芝加哥大学） ； Columbia University（哥伦比亚大学） ； Rutgers University（罗格斯大学） 纠错

AI总结 EditLord通过显式化代码变换步骤，利用语言模型提取元规则集，提升代码编辑性能和鲁棒性。

Journal ref 42nd International Conference on Machine Learning (2025)