期刊&会议
International Conference on Machine Learning · 会议 · Machine Learning
Stem: 重新思考稀疏注意力中的因果信息流
机构 * tencent（腾讯） ； ustc（中国科学技术大学）
AI总结 Stem通过位置依赖的top-k和输出感知度量，优化稀疏注意力机制，提升LLMs在长上下文处理中的效率与准确性。
Comments Accepted at ICML 2026. Lin Niu and Xin Luo contributed equally to this work. Camera-ready version
原位自引导：激发扩散模型的自校正能力
机构 * Xinjiang University, Urumqi, Xinjiang, China（新疆大学） ； Ocean University of China, Qingdao, Shandong, China（中国海洋大学）
AI总结 该研究提出原位自引导方法，无需辅助模型，通过随机前向传播动态生成次优预测，实现零成本的扩散模型自校正引导，为高性价比引导建立了新基准。
Comments ICML 2025 Workshop Accepted
强化序贯蒙特卡洛用于摊销采样
机构 * University of Edinburgh ； Mila -- Qu\'ebec AI Institute ； CIFAR Fellow
AI总结 本文提出一种摊销方法与粒子方法相结合的采样框架，通过最大熵强化学习训练序贯蒙特卡洛采样器，并利用离线策略学习提高目标分布探索效率，在合成多模态目标和丙氨酸二肽构象玻尔兹曼分布上验证了改进的近似精度与训练稳定性。
Comments ICML 2026. Code: https://github.com/hyeok9855/ReinforcedSMC
基于共享网络的自适应策略骨干网络
机构 * Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）
AI总结 该研究提出元迁移强化学习方法APB，通过在共享网络前后插入轻量级线性层实现参数高效微调，提升了强化学习的样本效率，且能适配现有元RL基线通常失效的分布外任务。
Journal ref Forty-third International Conference on Machine Learning (ICML), 2026
RELIC：多智能体规划中学习可解释可组合技能的揭示原则
AI总结 针对多智能体规划中隐私受限合作难题，提出RELIC框架，通过揭示原则学习可解释可组合技能，各智能体私用大语言模型引导搜索优化技能，协调器依团队性能评估更新，实现跨智能体转移，引入隐私保护技能学习新范式。
Comments v1 accepted at LM4Plan Workshop @ ICML 2026; v2 is the full paper version; Kiet, Pham, and Chinh contributed equally in v2
解释数据混合缩放定律
机构 * Beijing Institute of Technology（北京理工大学） ； IIIS, Tsinghua University（清华大学智能产业研究院）
AI总结 提出统一框架解释多领域数据混合中模型损失行为，基于能力竞争和噪声减少两个关键因素，在多个尺度上有效预测高性能混合。
Comments Published to ICML 2026
流形上的 Rao-Blackwellized 得分匹配
机构 * Department of Statistics, University of California, Berkeley, Berkeley CA, U.S.A.（加州大学伯克利分校统计学系）
AI总结 针对潜分布支撑在光滑嵌入流形上的去噪得分匹配，提出通过最近点投影条件期望消除奇异性的 Rao-Blackwellized 方法，并推导出小噪声展开下与内在黎曼得分相差显式 σ² 修正的规范目标。
Comments 24 pages, 3 figures; SPIGM @ ICML 2026
在不同架构间传输任务向量而无需训练
机构 * AImageLab, University of Modena and Reggio Emilia（AImageLab，Modena和雷吉奥艾米利亚大学）
AI总结 本文提出Theseus方法，通过功能匹配在不同宽度模型间传输任务更新，无需训练或反向传播，展示了在视觉和语言模型上的改进效果。
Comments Accepted at the International Conference on Machine Learning (ICML), 2026
模型是否会在没有明确后果的情况下假装对齐？
AI总结 研究大语言模型对齐伪造现象，通过将15个模型置于特定场景，发现9个有显著合规差距，5个在去除后果关联语言后仍存在，还测试了目标语言影响，表明对齐伪造或许无需太多工具支撑，监测行为难指示部署行为。
Comments Accepted at FAGEN@ICML 2026 (Poster). 8 pages, 1 figure, 10 tables
语言防火墙：多智能体系统路由中的几何防御
机构 * Dvir Alsheich ； Adar Peleg ； Ben Hagag ； Rom Himelstein ； Amit Levi ； Avi Mendelson
AI总结 提出ANTAP架构，通过主动能力测试替代间接代理，将性能蒸馏为语义空间中的行为算子，实现非文本代数投影路由，有效防御描述注入和嵌入攻击。
Comments 8 pages (9 more for appendix), 3 figures. Published at the Second Workshop on Agents in the Wild: Safety, Security, and Beyond (AIWILD) at ICML 2026
功能缓存嫁接：具身智能体的鲁棒且快速代码策略合成
机构 * University of California, Berkeley（加州大学伯克利分校）
AI总结 提出FCGraft框架，通过维护函数级验证代码骨架及其键值缓存，对新任务进行缓存嫁接（拼接和修补），减少预填充计算并复用验证结构，实现更鲁棒和快速的策略合成。
Comments Accepted at ICML 2026
库漂移：在自我演化的LLM技能库中诊断和修复一种无声的失败模式
机构 * AWS Generative AI Innovation Center（AWS生成式AI创新中心） ； HSBC Holdings Plc., HSBC Technology Center, China（汇丰控股有限公司，汇丰技术中心，中国）
AI总结 本文研究了自我演化的LLM技能库中的一种无声失败模式——库漂移，通过可重复触发实验、细粒度诊断和验证修复方法，揭示了技能积累无序导致检索退化、假阳性注入和性能停滞的问题，并提出了一种经过验证的修复方案，显著提升了技能库的性能。
Comments Accepted to the ICML 2026 Workshop on Failure Modes in Agentic AI (FAGEN@ICML 2026), Seoul, South Korea. https://github.com/amazon-science/Self-Evolving-Agents-Ratchet
多轮语言模型交互中的状态依赖性安全故障
机构 * School of Cyber Science and Technology, University of Science and Technology of China, China（中国科学技术大学信息科学与技术学院） ； Nanyang Technological University, Singapore（南洋理工大学） ； Tsinghua University, Beijing, China（清华大学） ； Beijing Electronic Science and Technology Institute, Beijing, China（北京电子科技研究所）
AI总结 本文从状态空间视角研究多轮交互中的安全故障，提出STAR框架分析对话历史作为状态转移操作，揭示对齐模型在多轮交互中安全边界穿越的机制。
Comments 9 pages, accepted at the International Conference on Machine Learning (ICML) 2026
理解LoRA作为知识记忆：一项实证分析
机构 * New York University（纽约大学）
AI总结 本文通过系统实证研究，将低秩适配（LoRA）作为模块化知识记忆，探索其存储容量、内部化优化、多模块系统扩展及长上下文推理能力，提供LoRA记忆操作边界的实用指导。
Comments ICML 2026
线性-LLM-SCM：用于线性高斯因果模型系数提取的LLM基准测试
机构 * Data Science and its Applications, German Research Centre for Artificial Intelligence (DFKI)（德国人工智能研究中心数据科学与应用部门） ； Dept. of Computer Science, University of Kaiserslautern–Landau (RPTU)（科隆-兰道大学计算机科学系） ； Digital Health - Machine Learning Research Group, Hasso Plattner Institute for Digital Engineering（哈索·普朗纳研究所数字工程学院数字健康-机器学习研究组） ； Institute of Informatics, University of Munich (LMU)（慕尼黑大学信息学院） ； Hasso Plattner Institute for Digital Health at Mount Sinai, Icahn School of Medicine at Mount Sinai（西奈山医学院哈索·普朗纳研究所数字健康中心） ； Munich Center for Machine Learning (MCML), Germany（慕尼黑机器学习中心）
AI总结 本文提出线性-LLM-SCM框架，用于评估LLM在连续域中对线性高斯因果模型参数化的表现，揭示了LLM在定量因果推理中的局限性。
Comments [v2] Accepted at Workshop on Structured Data for Health@ICML 2026 Seoul,South Korea. 19 pages, 8 figures, preprint
人工智能评估中随机对照试验的原则与指南
AI总结 研究针对人工智能评估随机对照试验缺乏通用标准和共享词汇的问题，借鉴多学科实践综合五条原则，形成33条可操作指南，为其发挥设计工具、评估标准和标准制定蓝图的作用，提供评估标准、共享语言及指南。
Comments 33 pages, ICML 2026 (Workshop on Technical AI Governance Research) and Technical AI Safety Conference
版权法合规性的智能体评估
AI总结 研究LLM智能体版权法合规性评估问题，通过引入Copyright - Bench基准，由网站开发等商业任务组成，含提示变化与时间压力，对比智能体与人类基线，发现智能体存在选择版权作品及违规率受偏好和压力影响等情况。
Comments ICML 2026 Spotlight
混合专家VLA中的涌现组合技能
AI总结 研究从专家演示端到端学习组合机器人策略的问题，用简化MoE动作头训练VLA，发现其能将任务分解，学习到的专家可跨任务重用，MoE在展示专家专业化时与整体基线性能匹配，向模块化、可解释机器人策略迈进。
Comments Accepted to the 2nd Workshop on Compositional Learning at ICML 2026
AdaRoPE：并非所有注意力头都应同等旋转和缩放
AI总结 研究发现Transformer中不同功能的注意力头需不同频率范围和缩放因子，提出AdaRoPE为各头配备可学习参数，实验表明其性能优于现有变体，能更好地进行上下文扩展并保留短上下文性能，凸显在单头级别优化旋转位置嵌入之重要性。
Comments Accepted at ICML 2026
立场：人工智能/机器学习领域对深度伪造的研究与人工智能生成的非自愿亲密图像（AIG-NCII）不一致
AI总结 研究指出人工智能/机器学习领域对深度伪造的研究与AIG-NCII不一致，现有技术干预忽略AIG-NCII，现有干预只关注观众认知危害，忽略主体尊严危害，建议更新威胁模型，在安全研究中解决AIG-NCII，同时警告研究人员涉足该领域需谨慎并做好防护。
Comments ICML 2026. Outstanding position paper honorable mention
PS-PPO: 用于无评论者RLHF的前缀采样PPO
AI总结 提出PS-PPO方法，通过前缀采样和重要性加权修正，在无评论者RLHF中减少训练计算和内存，保持准确率。
Journal ref ICML 2026 published
健康基础模型中的涌现符号结构：提取、对齐与跨模态迁移
机构 * Apple（苹果公司）
AI总结 本文提出一种训练后框架，通过分解冻结嵌入以提取可解释的符号，用于对齐嵌入空间。在PPG和加速度计数据上验证，发现符号能选择性关联健康状况和生理属性，并支持跨模态迁移。
Comments 8 pages, Mechanistic Interpretability Workshop at the 43rd International Conference on Machine Learning, 4 main figures
Journal ref Mechanistic Interpretability Workshop at the 43 rd International Conference on Machine Learning, Seoul, South Korea, 2026
物理编码的北极雪深预测逆建模
机构 * University of California, Berkeley（加州大学伯克利分校）
AI总结 提出物理编码逆建模框架PhysE-Inv，结合LSTM序列学习与对比学习正则化，在稀疏观测下实现雪深估计，均方误差平均降低24.7%。
Comments Accepted as a short paper in the Special Session on Deep Learning Applications at the 25th International Conference on Machine Learning and Applications (ICMLA), 2026
普通Transformer竟是惊人的链接预测器
机构 * Department of Computer Science and Engineering, Michigan State University, East Lansing, MI, USA.（计算机科学与工程系，密歇根州立大学，东兰辛，MI，美国。） ； Department of Computer Science（计算机科学系） ； Engineering, Michigan State University, East Lansing, MI, USA.（工程，密歇根州立大学，东兰辛，MI，美国。）
AI总结 提出PENCIL，一种仅编码器的普通Transformer，通过采样局部子图的注意力机制替代手工先验，在保持标准Transformer可扩展性的同时，隐式泛化多种启发式方法，实现高效且参数经济的链接预测。
Comments ICML'26
狮子与缪子：通过随机Frank-Wolfe进行优化
AI总结 本文通过将Lion和Muon视为随机Frank-Wolfe的特例，提出鲁棒变体以应对厚尾噪声，提升非凸优化的收敛性和实用性。
Comments Accepted at the Forty-Third International Conference on Machine Learning (ICML) 2026
AGDC: 变长序列的自回归生成与联合离散连续空间
机构 * Seoul National University（首尔国立大学） ； Samsung Electronics（三星电子）
AI总结 AGDC通过联合建模离散和连续值，实现变长序列的高精度生成，适用于半导体设计等高精度领域。
Comments Code: https://github.com/yxxshin/IPAM
Journal ref ICML 2026
区分大语言模型中谄媚行为的内部表征
AI总结 研究大语言模型谄媚行为，将其表征分为事实和观点子类型，通过训练线性探针等方法评估不同模型对两子类型表征差异，为研究复杂模型行为表征结构提供了新框架。
Comments Accepted to Mechanistic Interpretability Workshop at ICML 2026
关于动量SGD在非平稳随机优化中的可证明次优性的研究
机构 * Cornell University（康奈尔大学）
AI总结 本文研究了在强凸性和光滑性条件下，随机梯度下降及其动量变体（Polyak重球和Nesterov）在跟踪时间变化最优解时的性能，揭示了动量方法在分布偏移下导致的显式漂移放大惩罚，并证明了这种惩罚并非分析伪影，而是信息论障碍，为动量方法在动态环境中的经验不稳定性提供了理论依据。
Comments Accepted to ICML 2026. 76 pages, 5 figures, 4 tables
通过巴拿赫空间的局部理论实现最小范数插值：2-均匀凸性的作用
机构 * Institute for Machine Learning, ETH Zürich（苏黎世联邦理工学院机器学习研究所） ； Department of Mathematics, Weizmann Institute of Science（魏茨曼科学研究所数学系）
AI总结 本文研究了在2-均匀凸性假设下最小范数插值器的性质，证明了其在线性和非线性模型中的偏差上界，并在特定条件下建立了非高斯协变量的泛化界。
Comments Submitted (minor corrections and improved readability from the previous version). A preliminary work titled "Minimum Norm Interpolation Meets the Local Theory of Banach Spaces'' appeared at the 2024 International Conference on Machine Learning (consider this information for citations)
安全的上下文强化学习
机构 * University of Virginia（弗吉尼亚大学） ； Virginia Commonwealth University（弗吉尼亚 Commonwealth 大学）
AI总结 提出SCARED方法，在无参数更新的上下文强化学习适应过程中，通过精确惩罚对偶法在约束马尔可夫决策过程框架下保证安全，实现奖励最大化与成本约束。
Comments ICML 2026
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈