ICML

A Coulomb Particle Model for Learning Kernel Attention in Transformers

用于在Transformer中学习核注意力的库仑粒子模型

Masoud Badiei Khuzani, Sharath Honnaiah, Atiq Islam, Alex Cozzi, Abraham Bagherjeiran

机构 * eBay Inc.（易贝公司） 纠错

AI总结 该研究提出基于粒子方法，通过优化核目标对齐学习特征分布，用于Transformer注意力。先学习正随机特征映射，再冻结核训练其余参数。实验表明，此方法能提升多种特征映射的准确性、校准和鲁棒性，且保持线性注意力推理复杂度。

Comments Workshop on High-dimensional Learning Dynamics (HiLD), ICML 2026

PerturbPFN: Probing the Limits of Synthetic Priors in Drug Perturbation Modelling

PerturbPFN：探索药物扰动建模中合成先验的极限

Yuche Gao, José Miguel Hernández-Lobato, Siyuan Guo

机构 * University of Cambridge（剑桥大学） ； Prior Labs（普瑞尔实验室） 纠错

AI总结 针对预测细胞对未知化学扰动反应的挑战，提出PerturbPFN模型，通过推断潜在系统图等并经SCM解码器传播效果，基于合成情节训练，在真实和合成数据上评估，实现低推理成本且具可解释性的扰动预测。

Comments 19 pages. Accepted at the 2nd ICML Workshop on Foundation Models for Structured Data (FMSD 2026), Seoul, South Korea

Similarity Is Not Logic: Factored Inference for Dual-Encoder Vision-Language Models

相似性并非逻辑：双编码器视觉语言模型的因式推理

Sultan Alshehri, Zhantao Yang, Han Zhang, Marios Savvides

AI总结 研究双编码器视觉语言模型组合约束失效问题，提出因式推理，将证据提取与约束执行分离，引入LCSE方法，在FACTOR-Bench上实验，提升了准确率并保持检索性能。

Comments Accepted at ICML 2026. 18 pages, 8 figures. Project page: https://sultanmo.github.io/factored-vlm Code and benchmark: https://github.com/SultanMo/factored-vlm

Breaking the Synthetic-Real Domain Shortcut for Training-Free Generative Replay-based Class Incremental Learning

打破合成-真实域捷径用于无训练生成重放的类增量学习

Tao Zhang, Qixuan Fan, Yiyuan Liang, Yanjie Wang, Song Yan, Tian Tian, Jiahuan Zhou, Luxin Yan, Sheng Zhong, Xu Zou

AI总结 研究类增量学习中合成旧数据与真实新数据混合导致性能下降的问题，提出DREAM模型，利用无训练生成器合成旧数据，通过子空间校正、正交投影及真实锚定原型正则化消除域捷径并加强语义对齐，取得最优性能。

Comments Accepted by ICML 2026

Obliviate: Efficient Unlearning in Recommender Systems

遗忘：推荐系统中的高效遗忘

Tushar Prakash, Brijraj Singh, Niranjan Pedanekar, Narayan Chaturvedi

AI总结 针对推荐系统，提出Obliviate两阶段遗忘框架。第一阶段用低秩遗忘适配器，第二阶段用局部感知校准，能在保持推荐质量的同时高效遗忘交互数据，降低计算成本，为大规模推荐系统提供实用方案。

Comments Accepted at ICML 2026

VlogReward: Learning Multi-Dimensional Evaluation for Vlog Editing

VlogReward：学习用于Vlog编辑的多维评估

Yexiang Liu, Wen Zhong, Sijie Zhu, Xin Gu, Fan Chen, Junxian Duan, Jie Cao, Longyin Wen, Zhenfang Chen

AI总结 针对Vlog评估主观性强且缺乏标准等问题，提出VlogReward模型。通过专业指导定义评估框架，构建数据集和基准，增强GRPO框架。该模型能提供多维分数与反馈，优于现有MLLMs，助力Vlog创作者及自动化评估完善系统。

Comments ICML 2026

The Scaffold Effect in Coding Agents: Harness Choice as a Hidden Variable in Coding-Agent Evaluation

编码智能体中的支架效应：在编码智能体评估中利用选择作为隐藏变量

Naman Vats, Oleg Golev

机构 * Alibaba（阿里巴巴） ； Agentic AI Foundation（Agentic人工智能基金会） ； OpenCode Contributors（OpenCode贡献者团队） ； Harbor Framework Team（Harbor框架团队） 纠错

AI总结 研究编码智能体评估中工具选择对结果的影响，通过在三个开源工具上评估两个模型，发现工具选择会使解决任务的令牌数有40倍差异，失败指纹有工具级偏差，建议按通过率选工具-模型对并报告相关指标，还发布了相关数据和脚本。

Comments 7 pages, 2 figures, 6 tables. Preliminary work; under review at the 5th DL4C Workshop @ ICML 2026

HeraSys: Collaborative Serving of Multiple LLM Workflows via Fine-Grained End-to-End Optimization

HeraSys：通过细粒度端到端优化实现多个大语言模型工作流的协同服务

Size Li, Zhiqing Tang, Hongrui Liang, Jianxiong Guo, Jiong Lou, Tian Wang, Weijia Jia

AI总结 针对大语言模型服务系统，HeraSys通过细粒度编排消除工作流间计算冗余，引入负载感知联合调度策略，结合资源倾斜机制等，有效减轻尾部延迟并提高吞吐量，实验证明其能显著降低延迟、提升服务吞吐量。

Comments to be published in ICML 2026

Twins: Learn to Predict Unified Representations with Focal Loss

Twins：使用焦点损失学习预测统一表示

Kaixiong Gong, Xin Cai, Bin Lin, Hao Wang, Yunlong Lin, Mingzhe Zheng, Bohao Li, Jian-Wei Zhang, Miles Yang, Zhao Zhong, Liefeng Bo, Xiangyu Yue

机构 * Tencent-Hunyuan（腾讯混元） 纠错

AI总结 研究统一多模态模型潜在空间不匹配问题，提出Twins统一连续令牌空间。因联合建模有优化不平衡，采用焦点回归目标解决，在ImageNet上有gFID增益，在多模态理解基准测试中表现好，还提高了重建保真度。

Comments ICML 2026. Code: https://github.com/Tencent-Hunyuan/Twins

Dynamic Capability Scoping for Enterprise AI Agents: A Synthetic Dataset and Three-Source Permission Architecture

企业人工智能代理的动态能力范围界定：一个合成数据集和三源权限架构

Halil Burak Noyan

AI总结 研究企业人工智能代理动态能力范围界定问题，提出三源权限架构，包括基于角色的上限等，贡献含600个企业任务提示的合成数据集，经验证可推动策略优化，还发布相关内容支持对动态范围界定机制的评估。

Comments Published at the Second Workshop on Agents in the Wild: Safety, Security, and Beyond (AIWILD) at ICML 2026

Autoregressive EHR Foundation Models with Multimodal Inputs

具有多模态输入的自回归电子健康记录基础模型

Yuxuan Liu, Joshua Placidi, Jinpei Han, Alfred John Balston, Marek Rei, A. Aldo Faisal

AI总结 研究在自回归电子健康记录基础模型中纳入多模态的方法，通过特定模态潜在压缩和门控交叉注意力框架，研究压缩单模态序列及预训练编码器选择对性能的影响，实验表明精心设计架构及临床评估的必要性。

Comments 5 pages excluding references and supplements, 2 figures and 2 tables, Proceedings of the Workshop on Structured Data for Health at the 43rd International Conference on Machine Learning, Seoul, South Korea

Journal ref ICML2026 workshop on Structured Data for Health (SD4H)

Pretraining EHR Foundation Models with Patient-Aware Sampling

基于患者感知采样的电子健康记录基础模型预训练

Joshua Placidi, Yuxuan Liu, Jinpei Han, Marek Rei, A. Aldo Faisal

AI总结 研究针对电子健康记录自回归基础模型预训练方法存在的问题，提出患者采样方法，通过控制训练信号分布来构建序列，实验表明该方法在真实EHR数据上提升了性能，凸显训练和验证序列构建对相关模型的重要性。

Comments Accepted at the Workshop on Structured Data for Health at the 43rd International Conference on Machine Learning (ICML 2026). 7 pages, 4 figures

Journal ref ICML 2026 Workshop on Structured Data for Health (SD4H)

Agent Security Needs Redefinition through a Holistic Framework

通过整体框架重新定义智能体安全需求

Vincent Siu, Jingxuan He, Kyle Montgomery, Zhun Wang, Chenguang Wang, Dawn Song

AI总结 研究指出智能体安全是上下文问题，当前基于内容的框架有误。通过源授权、任务对齐、行动对齐和数据隔离四个属性实施上下文安全，改变了防御连贯性、评估有效性及可识别的攻击模式。

Comments ICML 2026 Position Paper

Lost in Context: Addressing Context Anxiety in Large Language Models

迷失在上下文中：解决大语言模型中的上下文焦虑

Ifueko Igbinedion, Jillian Ross, Etienne Ricardez, Sertac Karaman, Eric So

AI总结 研究大语言模型中因过早自我怀疑导致的上下文焦虑，通过系统研究发现其部分源于对完成任务所需tokens估计不准，会致效率损失，还表明模型可学替代策略，性能提升或可通过提高评估与适应自身局限能力实现。

Comments Accepted at ICML 2026. 17 pages

Securing Multimodal AI through Internal Information Decomposition

通过内部信息分解保护多模态人工智能

Jehyeok Yeon, Hyeonjeong Ha, Qiusi Zhan, Heng Ji

AI总结 研究多模态大语言模型的攻击问题，提出FlowGuard框架，通过监测内部多模态一致性检测有害输入，受部分信息分解启发得出FlowVectors量化相关指标，有效降低攻击成功率且减少效用损失和延迟，为多模态推理提供有效防御。

Comments Accepted as Spotlight Paper at ICML 2026

Graph Learning on Ensembles of Cyclic Peptides: An Investigation of Molecular Ensemble Modeling

环肽集合上的图学习：分子集合建模研究

Aaron Feller, Kris Deibler, Maxim Secor

AI总结 研究针对分子构象集合预测性质的问题，提出EnsembleEGNN模型，先以EGNN层编码各构象，再用集合注意力块汇集表示，经多任务自监督预训练，在环肽数据集上取得良好效果，联合BERT编码器进一步提升预测性能。

Comments Accepted to Graph Foundation Models workshop at ICML '26. Contains 8 pages, 4 figures

White Box Evidence Packages for Policy Audit Reports

政策审计报告的白盒证据包

Seunghyun Yoo

AI总结 研究在政策审计中评审者如何判断报告有无证据支持，引入可控评估框架，在多种证据条件下生成报告让评审员评估。结果显示内部证据影响报告引用推理方式，混合接口最有用，随机控制揭示风险，还将内部模型访问重构为证据设计问题。

Comments 16 pages, 5 figures. Presented at the Second Workshop on Technical AI Governance Research (TAIGR) at ICML 2026

SlerpFlow: Spherical Trajectory Correction for Rectified Flow Inversion

SlerpFlow：用于整流流反演的球形轨迹校正

Wenbin Duan, Yan Shu, Zhuoyuan Fu, Fangmin Zhao, Yan Li, Yaru Zhao, Binyang Li

AI总结 研究针对基于整流流的图像生成中反演难题，提出SlerpFlow方法，基于流形假设，整合球形线性插值校正流速度方向，缓存校正速度，实现高精度反演，提升重建保真度与编辑语义对齐，无需额外训练。

Comments 16 pages. Accepted at ICML 2026

Leveraging Biokinetic Knowledge Priors for Data-Scarce Bioprocess Modeling

利用生物动力学知识先验进行数据稀缺的生物过程建模

Kyunghoon Hur, Eunjung Jeon, Hyun Woo Kim, Gyubok Lee, Seongjun Yang

AI总结 研究针对生物制造数据稀缺问题，将生物动力学ODE知识注入神经网络，比较数据级和架构级先验方法，二者在多数据集和微生物物种上均优于无先验基线且可替代，模拟预训练为生物过程深度学习提供简单高效方法。

Comments Accepted at ICML 2026 AI for Science Workshop

AppWorld-UL: Benchmarking Diverse Agent-User Interactions for Tool-Use

AppWorld-UL：用于工具使用的多样化智能体-用户交互基准测试

Junzhi Chen, Harsh Trivedi, Jane Pan, Michael JQ Zhang, Tejas Srinivasan, Niranjan Balasubramanian, Ashish Sabharwal

AI总结 研究针对当前智能体-用户交互基准测试不足，引入 AppWorld-UL 基准测试，基于 AppWorld 框架及模拟应用构建多样任务，用大型语言模型模拟用户行为，评估显示其难度大，能推动回路中工具使用智能体研究。

Comments ICML 2026

Position: Stop Reactively Patching Your Model Every Time and Start Proactive Test-Driven AI Development

立场：停止每次都被动地修补模型，开始主动的测试驱动人工智能开发

Nadine Chang, Maying Shen, Jialiang Wang, Rafid Mahmood, Jose M. Alvarez

AI总结 针对现代AI系统多样用例下的维护问题，提出用主动测试驱动飞轮解决反应式飞轮的局限性，通过创建“测试空间”映射反馈数据到任务目标，经数学证明主动飞轮能以更少迭代实现更好长期扩展性。

Comments Accepted at ICML 2026 Position Paper Track. 18 pages

LeanFlow: A Case Study in Workflow-Driven Lean Autoformalization

LeanFlow：工作流驱动的精益自动形式化案例研究

Lazar Milikic, Simon Guilloud, Khanh Nguyen, Viktor Kuncak

机构 * Moonshot AI（月球计划人工智能公司） ； epfl-lara（洛桑联邦理工学院拉腊实验室） 纠错

AI总结 研究通过对两篇数学论文案例研究，探讨文档到项目形式化中运行时机制对相关指标的影响，使用Kimi2.6和GPT5.5进行消融实验，报告多项数据，展示LeanFlow在特定任务上的表现及校准成果。

Comments 14 pages, 3 figures, ICML 2026: AI for Math Workshop

Expectation Alignment of Language Models for Real-World User Expectations

语言模型与现实世界用户期望的期望对齐

Miaomiao Li, Yang Wang, Bin Liang, Shudong Liu, Zhiwei Zhang, Kam-Fai Wong

AI总结 研究LLMs是否满足用户期望，提出提取期望程序并引入ExpectBench基准，分析发现LLMs存在问题，进而提出LENS框架，可让模型内化期望以生成更契合的响应，凸显明确建模用户期望对实现现实人机对齐的重要性。

Comments Accepted by ICML 2026

The Devil is in the Spectrum: Mitigating Representation Collapse in LLMs via Topologically Regularized Side-Path

问题出在频谱中：通过拓扑正则化侧路径减轻大语言模型中的表示坍缩

Yiheng Tao, Kaiwen Cheng, Yao Lu, Chang Liu, Jie Chen

AI总结 研究针对大语言模型表示坍缩问题，通过频谱分析得出混合效率与信息容量的权衡，提出TRSP方法，采用无参数三角盒机制和长度感知门正则化令牌交互拓扑，实验证明该方法在多方面有显著改进。

Comments 22pages, 4 figures, poster of icml 2026

VeriSimpl: Robust Optimization Modeling from Natural Language using Simplification-based Verification

VeriSimpl：基于简化验证的自然语言鲁棒优化建模

Sumaya Abdul Rahman, Seckhen Ariel Andrade Cuellar, Ghani Raissov, Mohammad Raza

机构 * Gurobi（古罗比） ； IBM（国际商业机器公司） 纠错

AI总结 研究自然语言到优化建模问题，核心方法是基于简化验证理念，利用优化求解器生成诊断查询让大语言模型推理公式正确性，主要贡献是在优化基准测试中提升准确性并提供高精度自验证信号。

Comments ICML 2026

Stochastic Sampling is Epistemically Shallow: The Dimensionality Gap Between Temperature Variation and Model Diversity in LLMs

随机采样在认知上是浅薄的：大语言模型中温度变化与模型多样性之间的维度差距

Izhar Ali

机构 * Rowan University（罗文大学） 纠错

AI总结 研究语言模型重复运行答案不同时其变化能否揭示未知，比较单个模型多次运行与模型集合一次运行，通过随机矩阵测试发现单个模型跨问题结构不明显，自一致性能给出单问题不确定性，多样集合可揭示模型未知。

Comments 8 pages, 4 figures, 3 tables. Accepted at EIML@ICML 2026

Position: Natural Language Should Not Fully Replace Formal Languages

立场：自然语言不应完全取代形式语言

Eitan Wagner, Elisha Rosensweig, Omri Abend

AI总结 针对自然语言能否完全取代形式语言的争议，引入基于“任务特异性”的形式框架并证明“特异性交叉定理”，通过跨模态案例分析表明二者各有优势，是互补工具，倡导开发混合系统。

Comments To be published in ICML 2026 (position track)

Efficient Clustering with Provable Guardrails for LLM Inference at Scale

大规模LLM推理中具有可证明护栏的高效聚类

Longshaokan Wang, Wai Tsang Keung, Punit Ghodasara, Roman Wang, Ali Dashti, Francesc Moreno-Noguer

机构 * Amazon（亚马逊） 纠错

AI总结 研究针对大规模LLM推理成本和延迟瓶颈，提出两阶段聚类算法，先用Mini-batch K-Means生成初始聚类，再在其中选代表，能保证逐样本质量控制，运行高效且可扩展，相比常见方法有显著优势，部署后大幅降低成本和延迟。

Comments Accepted for presentation at ICML HiLD workshop 2026 (non-archival)

Reward-Aware Population Scaling of Evolutionary Strategies in LLM Fine-Tuning

语言模型微调中基于奖励感知的进化策略种群规模缩放

Sung Cho, Gyubin Han

AI总结 研究在大语言模型微调中，进化策略种群规模缩放与奖励设计及归一化的关系。通过实验发现交叉熵与二元奖励微调种群规模结论差异大，主要因奖励设计和归一化，禁用归一化可改进小种群模型表现，揭示小种群失败可能是实现问题而非内在限制。

Comments 15 pages, 2 figures. Accepted at the 4th HiLD (High-dimensional Learning Dynamics) Workshop, ICML 2026

Euclean: Automated Geometry Problem Formalization with Unified Verification in Lean

Euclean：在Lean中通过统一验证实现几何问题的自动形式化

Linbin Tang, Jingyan You, Zilin Kang, Hanzhang Liu, Sophia Zhang, Zenan Li, Chenrui Cao, Liangcheng Song, Jiaao Wu, Xian Zhang, Fan Yang

机构 * Google DeepMind（谷歌DeepMind） ； ByteDance Seed Team（字节跳动种子团队） 纠错

AI总结 研究针对几何问题形式化的碎片化现状，提出Euclean框架，通过四个阶段在Mathlib中自动形式化几何，构建了大型数据集，经评估有一定准确率，能提升Goedel v2证明成功率，验证了数据集质量。

Comments ICML 2026