期刊&会议
International Conference on Machine Learning · 会议 · Machine Learning
通过神经后验估计在广义贝叶斯中进行摊销的基于模拟的推理
机构 * Department of Statistics, University of Oxford, Oxford, United Kingdom（英国牛津大学统计系） ； Department of Statistics, University of Auckland, Auckland, New Zealand（新西兰奥克兰大学统计系）
AI总结 提出一种通过训练单一数据与β条件神经后验估计器来摊销广义贝叶斯推理中温度参数β的方法，无需模拟器调用或推理时MCMC，实现单次前向传播采样。
Comments Accepted at ICML 2026
CoFrGeNet：用于语言生成的连分式架构
机构 * IBM Research（IBM研究院）
AI总结 受连分式启发，提出CoFrGeNet架构，用新函数类替换Transformer中的多头注意力和前馈网络，在参数量减少1/2至2/3的情况下，在下游分类、问答、推理和文本理解任务上达到或超越原模型性能。
Comments Earlier version accepted to ICML 2026
TCAP: 面向MLLM微调中无监督后门检测的三组件注意力分析
机构 * School of Control Science and Engineering, Shandong University, Jinan, China（控制科学与工程学院，山东大学，济南，中国） ； Key Laboratory of Industrial Intelligent Systems, Shandong Province, China（山东省工业智能系统重点实验室，中国）
AI总结 针对微调即服务中的后门攻击，提出基于三组件注意力分布差异的无监督防御框架TCAP，通过高斯混合模型和EM投票聚合检测中毒样本。
Comments ICML 2026
ZipMoE：通过无损压缩和缓存亲和调度实现高效的设备端MoE服务
机构 * School of Electronic Science and Engineering, Nanjing University, China.（南京大学电子科学与工程学院） ； National Key Laboratory for Novel Software Technology, Nanjing University, China.（南京大学新型软件技术国家重点实验室）
AI总结 提出ZipMoE系统，通过缓存-调度协同设计利用边缘设备硬件特性和MoE参数统计冗余，实现无损且高效的设备端MoE推理，显著降低延迟并提升吞吐量。
Comments ICML 2026
AGZO：用于大语言模型微调的激活引导零阶优化
机构 * Department of Computer Science and Engineering, The Chinese University of Hong Kong, Hong Kong（香港中文大学计算机科学与工程系） ； Xiamen University, China（厦门大学）
AI总结 提出激活引导零阶优化方法AGZO，利用前向传播中的激活结构限制扰动到低秩子空间，在保持低内存的同时提升更新方向与真实梯度的余弦相似度，缩小与一阶微调的性能差距。
Comments 21 pages in total, including 9 pages of main text, with 4 figures and 3 tables Accepted by ICML 2026
通过令牌置换实现更稀疏的块稀疏注意力
机构 * Fudan University（复旦大学） ； Shanghai Innovation Institute（上海创新研究院）
AI总结 提出一种基于令牌置换的块稀疏注意力方法（PBS-Attn），通过利用注意力的置换性质增加块级稀疏性，在长上下文预填充中实现高达2.75倍的端到端加速，同时保持模型精度接近全注意力基线。
Comments ICML 2026
超越对数似然：面向模型能力连续体的监督微调概率目标
机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
AI总结 本文系统研究监督微调中不同概率目标函数，发现模型能力连续体决定目标优劣：强模型端偏好先验倾向目标（如-p），弱模型端对数似然最优，并理论解释其转换机制。
Comments ICML 2026
免训练的多模态大语言模型编排
机构 * Media Analytics and Computing Lab, Xiamen University, Xiamen, China（厦门大学媒体分析与计算实验室） ； Institute of Artificial Intelligence, Xiamen University, Xiamen, China（厦门大学人工智能研究院） ； School of Informatics, Xiamen University, Xiamen, China（厦门大学信息学院） ； Peng Cheng Laboratory, Shenzhen, China（鹏城实验室） ； Department of Computer Science, National University of Singapore, Singapore（新加坡国立大学计算机科学系）
AI总结 提出一种免训练编排框架LLM Orchestration，通过LLM控制器、文本中心跨模态记忆和统一交互层集成现成模态专家，实现低开销、可扩展的多模态输入输出系统。
Journal ref ICML 2026
通过隐秘视角：检索增强生成中针对投毒攻击的注意力感知防御
机构 * University of Wisconsin-Madison（威斯康星大学麦迪逊分校） ； ServiceNow Research（ServiceNow研究）
AI总结 针对检索增强生成系统在低污染率下仍易受投毒攻击的问题，提出基于注意力权重的归一化段落注意力分数和注意力方差滤波器，实现高精度检测与防御，并揭示真正隐秘投毒的挑战。
Comments Accepted at ICML 2026
XAttnMark：基于交叉注意力的鲁棒音频水印学习
机构 * Department of Computer Science, Lehigh University, Bethlehem, PA, USA（莱文斯顿大学计算机科学系） ； Dolby Laboratories Inc., San Francisco, CA, USA（杜比实验室公司）
AI总结 提出XAttnMark，通过生成器与检测器的部分参数共享、交叉注意力机制和时间条件模块，结合心理声学对齐的时频掩蔽损失，在音频水印的鲁棒检测和准确归因上达到最优性能。
Comments Accepted at ICML'25
基于模型的强化学习中搜索的惊人困难
机构 * Meta FAIR ； McGill University（麦吉尔大学）
AI总结 本文研究基于模型的强化学习中的搜索问题，发现即使模型高度准确，搜索也可能损害性能，而缓解过估计偏差比提高模型或价值函数精度更重要，通过取价值函数集成的最小值可有效解决偏差并实现有效搜索。
Comments ICML 2026
MAS-Orchestra：通过整体编排和受控基准理解与改进多智能体推理
机构 * Salesforce Research（Salesforce研究院） ； University of Wisconsin-Madison（威斯康星大学麦迪逊分校） ； Massachusetts Institute of Technology（麻省理工学院）
AI总结 提出MAS-Orchestra框架，将多智能体系统编排形式化为函数调用的强化学习问题，并引入受控基准MASBENCH，揭示MAS收益依赖于任务结构等因素，在数学推理等任务上取得一致改进且效率提升10倍以上。
Comments ICML 2026
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈