期刊&会议
International Conference on Machine Learning · 会议 · Machine Learning
非凸-强凸双层优化的一阶Oracle下界复杂度
机构 * Kaiyi Ji（机凯毅）
AI总结 针对光滑非凸-强凸双层优化，在确定性和随机一阶Oracle模型下，分别证明了$\Omega(\kappa^{3/2}\epsilon^{-2})$和$\Omega(\kappa^{5/2}\epsilon^{-4})$的下界，改进了单层非凸优化和极小极大问题的已知最优下界。
Comments Accepted by ICML 2026
MAD: 流形吸引扩散
机构 * Department of Mathematics, University of Vienna（维也纳大学数学系） ； MaLGa Center, Department of Mathematics, University of Genoa（热那亚大学数学系MaLGa中心）
AI总结 提出流形吸引扩散方法，利用流形假设通过扩展得分函数在推理阶段去除噪声，生成无噪声样本，在玩具问题、合成数据和真实数据上验证有效性。
Comments 21 pages, 13 figures
Journal ref Forty-third International Conference on Machine Learning, 2026
集成稀疏自编码器
机构 * Paul G. Allen School of Computer Science \& Engineering, University of Washington
AI总结 针对单个稀疏自编码器只能捕获激活空间中有限特征的问题，提出通过朴素Bagging和Boosting集成多个SAE，理论证明可降低重构误差，实验表明集成方法在重构质量、稳定性和下游任务上优于扩展单个SAE。
Comments Accepted to ICML 2026
深度学习的可能性预测不确定性
机构 * University of Cambridge（剑桥大学） ； National University of Singapore（新加坡国立大学） ； University of Warsaw（华沙大学）
AI总结 提出基于可能性理论的Dirichlet近似可能性后验预测（DAPPr）框架，通过投影-近似策略实现高效且原则性的认知不确定性量化，在多个基准上达到竞争性能。
Comments Accepted by ICML 2026, 20 pages
Select to Think: 利用局部充分性解锁小语言模型潜力
机构 * University of Science and Technology of China（中国科学技术大学）
AI总结 提出Select to Think (S2T)方法，通过将大语言模型角色从生成转为选择，并蒸馏选择逻辑到小语言模型，使其在推理时无需依赖大模型，显著提升性能。
Comments Accepted to ICML 2026. Code is available at https://github.com/YeRona/Select-to-Think
面向表格数据的通用异常检测
机构 * University of Science and Technology of China（中国科学技术大学）
AI总结 提出OFA-TAD框架，通过多视图邻居距离表示和混合专家评分网络，实现跨领域表格异常检测的通用化，一次训练即可泛化到未见数据集。
Comments Accepted by ICML 2026
CMI-RewardBench: 基于组合多模态指令评估音乐奖励模型
机构 * National University of Singapore（新加坡国立大学） ； University of Science and Technology of China（中国科学技术大学） ； University of Cambridge（剑桥大学） ； University of Toronto（多伦多大学）
AI总结 针对音乐生成模型缺乏有效评估机制的问题，提出CMI-RewardBench基准，包含大规模偏好数据集和参数高效奖励模型，实现多模态指令下的音乐质量评估。
Comments Accepted by ICML 2026
解析句法：语言建模与语法的子结构
机构 * Massachusetts Institute of Technology（麻省理工学院）
AI总结 本文研究语言模型在上下文无关语法子结构上的学习行为，证明损失函数在顶层子语法上线性递归，并发现参数化模型并行学习子语法，子语法预训练能提升小模型性能并改善内部表征。
Comments Equal contribution by LYS and DM. Accepted to the 43rd International Conference on Machine Learning (ICML 2026)
InnoEval：将研究思路评估视为基于知识的多视角推理问题
机构 * University of Science and Technology of China（中国科学技术大学）
AI总结 提出InnoEval框架，通过异构深度知识检索和多视角评审委员会，实现基于知识的多维度解耦评估，在点对点、成对和分组评估任务中优于基线方法。
Comments ICML 2026
SCALE: 基于自不确定性条件自适应观察与执行的视觉-语言-动作模型
机构 * Seoul National University（首尔国立大学）
AI总结 提出SCALE推理策略，利用自不确定性联合调节视觉感知和动作，无需额外训练或验证器，仅单次前向传播，提升VLA模型在模拟和真实环境中的鲁棒性。
Comments ICML 2026 Spotlight. Project page: https://dcahn12.github.io/projects/scale/
对比几何学习实现统一的结构与配体药物设计
机构 * DeepMind Ltd（DeepMind有限公司）
AI总结 提出对比几何模型ConGLUDe，统一结构与配体训练，实现虚拟筛选、靶标钓鱼和配体条件口袋预测，在多项基准测试中表现优异。
Comments Forty-Third International Conference on Machine Learning
测量塑性：面向视觉-语言模型的传感器级自适应
机构 * University of Seoul（首尔大学）
AI总结 提出多视角物理提示（MVP）用于测试时自适应，通过将相机曝光三角（ISO、快门速度、光圈）作为物理提示，在传感器层面进行自适应，无需梯度或模型修改，在ImageNet-ES上优于数字方法。
Comments Accepted to the ICML 2026 Workshop on Continual Adaptation at Scale
语言模型电路在神经元基上是稀疏的
机构 * Stanford University（斯坦福大学）
AI总结 本文实证发现MLP神经元与稀疏自编码器一样是稀疏特征基，并基于此开发了端到端梯度归因流水线，在多项任务中揭示了因果有效的神经元电路。
Comments ICML Spotlight, camera-ready
通过序贯蒙特卡洛实现高效随机优化
机构 * University of California, Berkeley（加州大学伯克利分校）
AI总结 针对梯度难以计算的优化问题，提出用序贯蒙特卡洛（SMC）采样器替代昂贵的内采样循环，实现高效随机优化，并在能量模型奖励调优中验证有效性。
Comments Accepted to ICML 2026
批量校准的置信模糊集：样本外污染下的快速、可处理决策
机构 * University of Bristol（布里斯托大学） ； University of Cambridge（剑桥大学） ； University of California, Berkeley（加州大学伯克利分校） ； University of Oxford（牛津大学）
AI总结 提出批量校准置信模糊集，通过分离批量内污染和尾部贡献，得到闭式有限风险目标，转化为线性或二阶锥规划，实现高效鲁棒优化。
Comments Accepted for publication (spotlight) at ICML 2026
构建未来：通过校准草稿图实现扩散LLM推测解码
机构 * University of Waterloo（多伦多大学）
AI总结 提出Spiffy算法，利用校准的草稿图结构实现扩散LLM的推测解码，在保持输出分布的同时加速推理，最高减少8.6倍模型推理次数并加速6.3倍令牌生成速率。
Comments Original version uploaded on Sep 22, 2025. (v2): Extended Table 2 with additional analysis and referenced it in Sec 5.2. (v3): Added note to Sec 4.2 and Appendix A.2 specifying conditions for losslessness. (v4): Updated with the version accepted to ICML 2026 workshops
论 $\textit{RemOve-And-Retrain}$ 的陷阱：数据处理不等式视角
机构 * KAIST（韩国科学技术院）
AI总结 从信息论角度揭示ROAR基准的缺陷：数据无关的后处理可提升ROAR分数，导致对归因图信息量的误判，并发现模糊性偏差。
Comments Accepted at the 2026 ICML Workshop on Mechanistic Interpretability
从几何到动力学：基于几何约束从稀疏观测学习过阻尼朗之万动力学
机构 * Dimitra Maoutsa（迪米特拉·马乌茨）
AI总结 提出一种随机控制框架，利用系统不变密度的几何结构进行路径增强，从稀疏时间采样数据中恢复过阻尼朗之万动力学，无需参数模型假设。
Comments 10+54 pages, 14 figures; accepted at ICML 2026 An earlier account of this work has previously appeared in arXiv:2301.08102 and arXiv:2304.00423 ; main methodology remains the same, this version includes additional numerical experiments and theory
ExPLAIND：统一模型、数据和训练归因以研究模型行为
机构 * University of Michigan（密歇根大学）
AI总结 提出ExPLAIND框架，统一归因于模型组件、数据和训练轨迹，支持跨粒度解释，通过梯度路径核和AdamW核机器推导参数级和步骤级影响分数，验证了Transformer的Grokking和EuroLLM预训练中的两阶段动态。
Comments published at ICML 2026, code at https://github.com/mainlp/explaind
GILT：一种无需LLM、无需微调的图基础模型用于上下文学习
机构 * Institute for Artificial Intelligence, Peking University（北京大学人工智能研究院） ； Wangxuan Institute of Computer Technology, Peking University（北京大学王宣计算机技术研究所）
AI总结 提出GILT框架，通过基于令牌的上下文学习机制统一处理节点、边和图级别的分类任务，无需大语言模型或微调，实现高效泛化。
Comments Accepted as an oral presentation at the GFM @ ICML 2026 Workshop
扩散模型中学习数据统计的理论：从容易到困难
机构 * University of California, Berkeley（加州大学伯克利分校）
AI总结 本文研究了扩散模型在学习数据统计时的分布简单性偏差，揭示了学习 pairwise 统计和 higher-order 统计所需的样本复杂度差异，并引入了扩散信息指数这一不变量。
Journal ref ICML 2026
Sonar-TS: 为时间序列数据库的自然语言查询设计的搜索-验证方法
机构 * Jiangxi University of Finance and Economics（江西财经大学） ； Griffith University（格里菲斯大学） ； Yunnan University（云南大学） ； Microsoft Research Asia（微软亚洲研究院） ； The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））
AI总结 本文提出Sonar-TS，一种神经符号框架，用于解决时间序列数据库的自然语言查询问题，通过搜索-验证流程处理连续形态意图和超长历史数据，引入NLQTSBench基准进行评估，展示了该方法在复杂时间查询中的有效性。
Comments Accepted by ICML 2026
正确预测，误导性解释：关于视觉-语言模型解释的脆弱性
机构 * University of California, Berkeley（加州大学伯克利分校）
AI总结 研究探讨了视觉-语言模型中解释热图在对抗条件下是否忠实反映推理过程，提出X-Shift攻击揭示解释与预测行为的脱节，验证了解释机制的脆弱性。
Comments Accepted at the ICML 2026 Workshop on Trustworthy AI for Good (AI4GOOD), Seoul, South Korea
具身可解释性：将因果理解与视觉-语言-动作模型的泛化联系起来
机构 * University of Science and Technology of China（中国科学技术大学）
AI总结 提出干预显著性评分（ISS）和干扰质量比（NMR），通过干预掩码估计视觉区域对动作预测的因果影响，并量化对任务无关特征的归因，实验表明NMR可预测泛化行为，ISS比现有方法提供更忠实的解释。
Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026)
潜在颜色子空间：高维混沌中的涌现秩序
机构 * University of California, Berkeley（加州大学伯克利分校） ； University of Toronto（多伦多大学） ； University of Cambridge（剑桥大学） ； University of Oxford（牛津大学）
AI总结 本文揭示了FLUX.1变分自编码器潜在空间中颜色表示的HSL结构，并提出一种无需训练的闭式潜在空间操作方法，实现对生成图像颜色的预测与显式控制。
Comments Accepted at ICML 2026
关于贝叶斯优化中汤普森采样遗憾界的分析
机构 * Nagoya University（名古屋大学） ； MI-6 Ltd.（MI-6公司）
AI总结 本文针对高斯过程汤普森采样（GP-TS）方法，在目标函数为GP样本路径的假设下，推导了其遗憾下界、累积遗憾二阶矩上界、期望宽松遗憾上界以及改进的累积遗憾上界，填补了GP-TS在高概率遗憾界方面的空白。
Comments 43 pages, Accepted to ICML 2026
立场：停止将中间令牌拟人化为推理/思考痕迹！
机构 * University of California, Berkeley（加州大学伯克利分校）
AI总结 本文论证将模型生成的中间令牌拟人化为“推理痕迹”或“思考痕迹”具有误导性，呼吁社区避免此类拟人化。
Comments Appears in ICML 2026. [This is a fork of v1. This fork, while overlapping with v1 in background section, differs both in the overall focus as well as the specific argument against anthropomorphization of reasoning traces]
Journal ref ICML 2026
全球天气模型的缩放定律
机构 * University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
AI总结 本文分析数据驱动天气模型中模型大小、数据集大小和计算预算与验证损失之间的缩放定律，发现Aurora数据缩放最强，GraphCast参数效率高但硬件利用率低，计算最优分析表明增加训练数据比增大模型更有效，且模型形状上宽度优于深度。
Comments Accepted at ICML 2026. 21 pages, 7 figures
Kalman线性注意力：用于高效语言建模和状态跟踪的并行贝叶斯滤波
机构 * University of Cambridge（剑桥大学）
AI总结 提出Kalman线性注意力层，将序列混合重写为信息形式的精确贝叶斯滤波，实现时间并行推理，在相同计算成本下比GLA更具表达力，并在状态跟踪任务中超越线性SSM和注意力。
Comments Accepted at ICML 2026. An earlier version of this work was presented at the 1st Workshop on Epistemic Intelligence in Machine Learning (EIML) at EurIPS 2025
自回归直接偏好优化
机构 * University of Tokyo（东京大学）
AI总结 提出自回归直接偏好优化（ADPO），在应用Bradley-Terry模型前显式引入自回归假设，通过将DPO目标中的求和操作移至log-sigmoid函数外部，实现更优的偏好对齐，并首次区分token长度μ和反馈长度μ'两种度量。
Comments ICML 2026
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈