期刊&会议
International Conference on Machine Learning · 会议 · Machine Learning
量化扩散模型中的误差传播与模型崩溃
机构 * University of Cambridge, Cambridge, United Kingdom（剑桥大学）
AI总结 本文理论分析了基于分数的扩散模型中递归训练导致模型崩溃的误差传播机制，给出了生成分布与目标分布之间累积散度的上下界，并刻画了不同漂移区域。
Comments Accepted at ICML 2026
Softmax的信息几何：探测与引导
机构 * University of Chicago（芝加哥大学）
AI总结 本文从信息几何角度研究AI系统如何将语义结构编码到表示空间的几何结构中，并提出一种利用线性探针鲁棒引导表示以展现特定概念的“双重引导”方法。
Comments Code is available at https://github.com/KihoPark/dual-steering
Journal ref In Proceedings of the 43rd International Conference on Machine Learning (ICML), 2026
蛋白质语言模型嵌入提升隐式转移算子的泛化能力
机构 * University of Copenhagen（哥本哈根大学） ； Chalmers University of Technology（查尔姆斯理工大学） ； University of Gothenburg（哥德堡大学） ； Technical University of Denmark（丹麦技术大学）
AI总结 本研究提出PLaTITO方法，通过整合蛋白质语言模型嵌入改进隐式转移算子，在分子动力学中实现更高效的数据利用和跨分子系统的泛化，在非平衡蛋白质系统采样中达到最优性能。
Comments 29 pages, 14 figures and 11 tables, Accepted at ICML 2026
发现人类与LLM在战略行为上的差异
机构 * Department of Computer Science, University of Texas at Austin. Work performed as a student researcher at Google DeepMind（德克萨斯大学计算机科学系。作为谷歌DeepMind的学生研究员进行的工作） ； Google DeepMind（谷歌DeepMind）
AI总结 使用AlphaEvolve程序发现工具，从数据中直接发现可解释的人类和LLM行为模型，揭示在迭代石头剪刀布中前沿LLM比人类具有更深层次的战略行为。
Comments Accepted to ICML 2026
ParisKV：面向长上下文LLM的快速且漂移鲁棒的KV缓存检索
机构 * Xi'an Jiaotong University, Xi'an, China（西安交通大学） ； Qwen Team, Alibaba Group, China（通义实验室） ； Harvard University, Cambridge, MA, USA（哈佛大学） ； Institute of Computing Technology, Chinese Academy of Sciences, Beijing, China（中国科学院计算技术研究所）
AI总结 提出基于碰撞候选选择和量化内积重排序的GPU原生KV缓存检索框架ParisKV，在百万token上下文中实现低延迟、高吞吐且分布漂移鲁棒的检索，性能优于或持平全注意力。
Comments Accepted to the 43rd International Conference on Machine Learning (ICML 2026)
有效推理链降低内在维度
机构 * Google DeepMind（谷歌DeepMind）
AI总结 本文通过内在维度量化推理链有效性，发现有效推理策略能降低任务内在维度，并在GSM8K上验证其与泛化性能的强负相关。
Comments ICML (spotlight) camera-ready; 22 pages, 3 figures
语言模型智能体中目标导向性的行为与表征评估
机构 * University of Pennsylvania（宾夕法尼亚大学） ； New York University（纽约大学） ； Indiana University, Bloomington（印第安纳大学，布卢明顿） ； Northeastern University（东北大学） ； University College London（伦敦大学学院）
AI总结 本文提出一种结合行为评估与内部表征可解释性分析的目标导向性评估框架，并以LLM智能体在2D网格世界中的导航为例，验证了其行为与表征的一致性。
Comments Proceedings of the 43rd International Conference on Machine Learning (ICML 2026)
多智能体团队阻碍专家发挥
机构 * stanford（斯坦福大学） ； apple（苹果公司） ； goizueta business school, emory（埃默里大学戈izueta商学院）
AI总结 研究自组织多智能体LLM团队在无约束协调下无法匹配专家性能，发现整合妥协行为是主要瓶颈，导致性能损失高达41.1%。
Comments Accepted at the International Conference on Machine Learning (ICML 2026)
流匹配的动能视角
机构 * KTH Royal Institute of Technology（皇家理工学院） ； Nordita, Nordic Institute for Theoretical Physics（北欧理论物理研究所） ； Hasso Plattner Institute, University of Potsdam（波茨坦大学哈索 Plattner 研究院） ； Trinity College Dublin（都柏林三一学院） ； Hangzhou Institute of Technology, Xidian University（西安电子科技大学杭州研究院） ； The Hong Kong University of Science（香港科学大学） ； Mohamed bin Zayed University of Artificial Intelligence（莫莫丁·本·扎耶德人工智能大学）
AI总结 本文引入动能路径能量（KPE）作为流匹配生成模型的诊断工具，发现其与语义保真度和数据稀疏性相关，并基于此提出无训练的动能轨迹塑形（KTS）策略以改善生成质量。
Comments ICML 2026 Spotlight
MedCoG：通过元认知调节最大化医学推理中的LLM推理密度
机构 * College of Computer Science, VCIP, DISSec Center, Nankai University, China 300350（南开大学计算机学院、VCIP、DISSec中心、中国300350） ； Generative AI Lab, College of Computing and Data Science（生成式人工智能实验室、计算与数据科学学院） ； Nanyang Technological University, Singapore 639798（南洋理工大学，新加坡639798）
AI总结 提出MedCoG框架，利用元认知评估动态调节知识使用，以缓解推理扩展定律下的收益递减，提升推理效率与准确性。
Comments Accepted by ICML 2026
在结构中思考：评估约束空间中的空间智能
机构 * Tsinghua University（清华大学）
AI总结 提出SSI-Bench基准，通过结构约束下的空间推理任务评估视觉语言模型的空间智能，发现模型与人类存在巨大差距。
Comments ICML 2026, Project Page: https://ssi-bench.github.io
拉取请求作为仓库级代码编辑的训练信号
机构 * King's College London, UK（伦敦国王学院） ； Chinese University of Hong Kong, HK（香港中文大学） ； National University of Singapore, SG（新加坡国立大学） ； Microsoft Research Asia, CN（微软亚洲研究院） ； The Alan Turing Institute, UK（艾伦·图灵研究所）
AI总结 提出Clean-PR方法，利用真实GitHub拉取请求作为训练信号，通过重建和验证转换为搜索/替换编辑块，结合无代理对齐的监督微调，在SWE-bench上显著提升仓库级代码编辑性能。
Comments Accepted at ICML 2026
基于校准分数的公平决策：在满足充分性的同时实现最优分类
机构 * School of Computer Science and Engineering, The Hebrew University of Jerusalem, Israel（计算机科学与工程学院，耶路撒冷希伯来大学，以色列） ； The Federmann Center for the Study of Rationality, The Hebrew University of Jerusalem, Israel（理性研究基金会，耶路撒冷希伯来大学，以色列）
AI总结 本文针对充分性公平约束下的二元分类问题，提出了一种基于分组校准分数的后处理算法，能够实现最优随机分类，并给出了可行正预测值与错误遗漏率对的几何刻画。
Comments Accepted to ICML 2026
PAC-Bayesian 强化学习训练可泛化策略
机构 * Université Claude Bernard Lyon 1, LIRIS, UMR CNRS 5205, France（里尔一大学，LIRIS，法国CNRS 5205）
AI总结 提出一种新的 PAC-Bayesian 泛化界，通过链的混合时间显式考虑数据中的马尔可夫依赖性，并基于此设计 PB-SAC 算法以优化该界指导探索，在连续控制任务中提供有意义的置信度证书且保持竞争性能。
Comments Accepted to the 43rd International Conference on Machine Learning (ICML 2026). Camera-ready version
表格基础模型的端到端压缩
机构 * Department of Computer Science, Technical University of Nuremberg（纽伦堡技术大学计算机科学系） ； Department of Computer Science University of Freiburg（弗赖堡大学计算机科学系）
AI总结 提出TACO，一种端到端表格压缩模型，在潜在空间压缩训练数据，以解决表格Transformer在推理时间和内存上的二次复杂度问题，在TabArena基准上实现高达94倍加速和97%内存节省，且性能无明显下降。
Comments Accepted as Spotlight at ICML 2026
表格语言模型中的泛化错觉
机构 * University of California, Los Angeles, USA（加州大学洛杉矶分校） ； IT University of Copenhagen, Denmark（哥本哈根IT大学）
AI总结 通过系统评估Tabula-8B在165个数据集上的表现，发现其声称的泛化能力主要源于评估伪影（如数据污染和格式熟悉度），而非真正的表格推理。
Journal ref In Proc. 43th International Conference on Machine Learning (ICML 2026)
序列群组合：深度学习机制的一扇窗口
机构 * KTH Royal Institute of Technology（皇家理工学院）
AI总结 通过序列群组合任务，研究神经网络如何学习结构化运算，揭示群结构、编码统计和序列长度对学习的影响，并证明深度架构能显著改善宽度需求。
Comments Accepted at ICML 2026
TIC-VLA：一种用于动态环境中机器人导航的思考控制视觉-语言-动作模型
机构 * University of California, Los Angeles（加州大学洛杉矶分校）
AI总结 提出TIC-VLA模型，通过显式建模推理延迟并引入延迟语义-控制接口，结合异步训练流程，解决动态环境中视觉-语言-动作模型的推理与实时控制异步问题，在仿真和真实机器人上优于先前模型。
Comments International Conference on Machine Learning (ICML) 2026
面向长程可解释性：高效且忠实的多Token归因用于推理大语言模型
机构 * Department of Computer Science, City University of Hong Kong, Hong Kong SAR, China（香港城市大学计算机科学系） ； Harbin Institute of Technology, Harbin, China（哈尔滨工业大学）
AI总结 提出FlashTrace方法，通过跨跨度聚合和递归归因机制，在长上下文推理中实现高效且忠实的多Token归因，速度提升超130倍。
Comments Accepted as an Oral paper at ICML 2026. Code available at https://github.com/wbopan/flashtrace
Shapley 值的一个奇估计器
机构 * Department of Statistics, LMU Munich（LMU慕尼黑统计系） ； Department of Electrical Engineering and Computer Science, UC Berkeley（伯克利电子工程与计算机科学系） ； Mathematical Sciences Department, Claremont McKenna College（克莱门茨麦肯纳学院数学科学系）
AI总结 本文证明 Shapley 值仅依赖于集合函数的奇分量，并基于此提出 OddSHAP 估计器，通过在奇子空间上进行多项式回归实现高效近似，在较大采样预算下达到最先进精度。
Comments Accepted to ICML 2026
通过项目反应理论诊断LLM作为评判者的可靠性
机构 * Department of Artificial Intelligence, Chung-Ang University, Seoul, Republic of Korea（Chung-Ang 大学人工智能系） ； Department of Industrial Engineering, Seoul National University, Seoul, Republic of Korea（首尔国立大学工业工程系）
AI总结 提出基于项目反应理论（IRT）的两阶段诊断框架，通过内在一致性和人类对齐两个维度评估LLM作为评判者的可靠性，并提供可解释的诊断信号。
Comments Accepted ICML 2026
dgMARK: 面向扩散语言模型的解码引导水印方法
机构 * Department of Computer Engineering, Hongik University（鸿基大学计算机工程系） ； Department of Artificial Intelligence, Yonsei University（延世大学人工智能系）
AI总结 提出dgMARK方法，通过引导离散扩散语言模型的去掩码顺序满足奇偶约束，实现无需显式重加权概率的文本水印嵌入，并利用滑动窗口检测器保证对编辑操作的鲁棒性。
Comments Accepted at ICML 2026. Project page: https://dgmark-watermarking.github.io
Float8@2bits: 熵编码实现无数据模型压缩
机构 * Merantix Momentum GmbH
AI总结 提出EntQuant框架，通过熵编码解耦数值精度与存储成本，在无需数据和微调的情况下实现2比特极端压缩，10分钟内压缩70B参数模型并保持性能。
Comments ICML 2026. Code available at https://github.com/merantix-momentum/entquant
机器遗忘的盲点：过度遗忘与原型重学习攻击
机构 * Graduate School of Artificial Intelligence, Ulsan National Institute of Science and Technology (UNIST), Ulsan, South Korea（人工智能研究生院，乌山国立科学与技术研究所（UNIST），乌山，韩国） ； Department of Industrial Engineering, UNIST, Ulsan, South Korea（工业工程系，UNIST，乌山，韩国） ； Department of Electrical Engineering, UNIST, Ulsan, South Korea（电气工程系，UNIST，乌山，韩国）
AI总结 针对类别级机器遗忘，提出过度遗忘度量OU@epsilon并揭示原型重学习攻击，通过Spotter方法结合掩码知识蒸馏和类内分散损失来缓解这两个盲点。
Comments 9 pages, ICML 2026
ParalESN：在储层计算中实现并行信息处理
机构 * Department of Computer Science, University of Pisa, Pisa, Italy（意大利比萨大学计算机科学系）
AI总结 提出ParalESN，利用复数域对角线性递归实现储层计算的并行化，在保持回声状态属性和普适性保证的同时，大幅提升计算效率。
Comments ICML 2026
价值表达的双重机制：大型语言模型中的内在价值与提示价值
机构 * Graduate School of Data Science, Seoul National University（数据科学研究生院，首尔国立大学）
AI总结 本文通过价值向量和价值神经元分析，揭示大型语言模型中内在价值表达与提示价值表达在机制上部分共享核心组件，但各自拥有独特功能，内在机制促进多样性，提示机制增强指令遵从。
Comments Accepted at ICML 2026. Project page: https://holi-lab.github.io/ValueMechanism/
迈向大型语言模型的原子
机构 * The Key Laboratory of Cognition and Decision Intelligence for Complex Systems, Institute of Automation, Chinese Academy of Sciences, Beijing, China（认知与决策智能复杂系统重点实验室，自动化研究所，中国科学院，北京，中国） ； School of Artificial Intelligence, University of Chinese Academy of Sciences, Beijing, China（人工智能学院，中国科学院大学，北京，中国）
AI总结 本文提出原子理论，通过原子内积（AIP）定义、评估和识别大型语言模型的基本表示单元（原子），并证明在阈值激活稀疏自编码器（TSAE）下原子可识别，实验发现神经元和特征不满足理想原子标准，而通过匹配TSAE容量与数据规模可识别出近乎完美的原子。
Comments To be published in ICML 2026
NeUQI: 低比特大语言模型的近最优均匀量化参数初始化
机构 * Wangxuan Institute of Computer Technology, Peking University, China（北京大学王轩计算机技术研究院）
AI总结 针对低比特大语言模型均匀量化中参数初始化依赖Min-Max公式的局限，提出NeUQI方法，通过推导零点实现仅优化缩放因子，从而高效获得近最优初始化，在LLaMA和Qwen系列上优于现有方法，且结合轻量蒸馏可超越资源密集的PV-tuning。
Comments accepted by ICML 2026
用奇异值集合量化基础模型的不确定性
机构 * ETH Zürich, Photogrammetry \& Remote Sensing
AI总结 提出奇异值集成（SVE）方法，通过冻结奇异向量并仅训练每个成员的奇异值，以极小的参数开销实现隐式集成，从而有效量化基础模型的不确定性。
Comments Accepted at ICML 2026 (camera-ready version)
延迟动量聚合：部分参与下通信高效的拜占庭鲁棒联邦学习
机构 * Okinawa Institute of Science and Technology, Japan（冲绳科学技术大学院大学，日本） ； Toyota Motor Corporation, Japan（丰田汽车公司，日本）
AI总结 针对部分参与场景下拜占庭客户端可能占多数的问题，提出延迟动量聚合原则，通过聚合未采样客户端的缓存动量和采样客户端的即时动量，确保拜占庭客户端在服务器视角中保持少数，并实例化为DeMoA优化器，理论分析和实验验证其鲁棒性和高效性。
Comments camera-ready version for ICML 2026
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈