Dismantling Pathological Shortcuts: A Causal Framework for Faithful LVLM Decoding
拆除病理性捷径:忠实LVLM解码的因果框架
AI总结 提出Fox框架,通过视觉注意力熵探针定位风险中介头,利用数值logit饱和进行因果干预,并结合冲突门控协同解码,消除视觉语言模型中的对象幻觉,实现忠实解码。
Comments 29 pages, 25 figures. Accepted by ICML 2026
期刊&会议
International Conference on Machine Learning · 会议 · Machine Learning
拆除病理性捷径:忠实LVLM解码的因果框架
AI总结 提出Fox框架,通过视觉注意力熵探针定位风险中介头,利用数值logit饱和进行因果干预,并结合冲突门控协同解码,消除视觉语言模型中的对象幻觉,实现忠实解码。
Comments 29 pages, 25 figures. Accepted by ICML 2026
回溯优势修正:面向延迟感知RLHF的闭式V-Trace偏差修正
AI总结 针对RLHF中奖励信号延迟的问题,提出回溯优势修正(RAC),通过非负核函数队列化延迟反馈并注入优势估计,理论证明其无偏性,在表格MDP实验中偏差降低达47.9倍。
Comments Accepted at the ICML 2026 Workshop on Reinforcement Learning from World Feedback (RLxF). Code: https://github.com/deadsmash07/rac-rlxf-code
PEBS: 用于RLHF奖励模型校准的每评分者经验贝叶斯收缩
AI总结 针对RLHF中奖励模型忽略评分者个体差异的问题,提出PEBS方法,对每个评分者拟合仿射校准器并应用经验贝叶斯收缩,在PRISM和PluriHarms数据集上分别降低RMSE 8.58%和9.66%。
Comments Accepted at the ICML 2026 Workshop on Pluralistic Alignment. Code: https://github.com/deadsmash07/pebs-pluralistic
大型语言模型教授视觉学生:细粒度概念知识的跨模态迁移
AI总结 提出LaViD框架,利用语言模型生成多选题来蒸馏细粒度视觉概念,无需多模态数据,在多个基准上超越现有方法。
Comments Accepted by ICML 2026
面向编码大语言模型中隐式软件世界模型的评估
机构 * JetBrains Research(JetBrains研究)
AI总结 本文通过预测执行资源(峰值内存、墙钟时间、分析器输出)扩展软件世界模型评估,发现前沿模型表现有限,表明对软件执行理解不足。
Comments Accepted to DL4Code workshop at ICML 2026
立场:术语“机器遗忘”在大型语言模型中被过度使用
AI总结 本文主张机器遗忘应限于数据集定义的删除,而许多标为“遗忘”的任务(如拒绝有害请求、实体/知识移除)实为不同目标,需不同术语和基线,并指出术语混淆导致指标误用。
Comments 13 pages; ICML 2026 Position Paper Track. Sangyeon Yoon and Yeachan Jun contributed equally
概率化学反应网络的约简
AI总结 针对概率化学反应用网络规模过大的问题,通过恢复因子图结构并迁移约简结果,在保持信念传播不动点的前提下显著缩小网络。
Comments Accepted to ICML 2026
迈向可解释的裁判差异:通过门控多任务学习量化司法裁量权
AI总结 提出法官感知门控多任务学习架构,通过细粒度结果分类和门控融合机制区分客观事实与司法裁量,在UK就业法庭数据上以更少参数超越生成式SFT基线,实现可解释的裁判差异量化。
Comments 17 pages (8 pages main text), 5 figures, 9 tables. Accepted to the AI for Law Workshop at the 43rd International Conference on Machine Learning (ICML 2026), Seoul, South Korea
标签偏移下的共形贝叶斯:事后校准与训练内适应
机构 * CROID Research and aSSIST University(CROID研究院和aSSIST大学)
AI总结 研究标签偏移下共形贝叶斯方法,通过重要性加权共形校准恢复目标域覆盖,比较事后校准与训练内适应两种策略,后者在偏差训练中起到去偏作用。
Comments 2nd Workshop on Epistemic Intelligence in Machine Learning (EIML@ICML 2026)
自回归玻尔兹曼生成器
AI总结 提出自回归玻尔兹曼生成器(ArBG),通过自回归建模替代基于流的模型,克服拓扑约束并提升可扩展性,在分子系统采样中显著优于现有方法,并在8残基系统上将零样本能量误差降低60%以上。
Comments ICML 2026 (Spotlight)
更新的几何:词汇规模下的Fisher对齐
机构 * Sideplane AI
AI总结 针对共享词汇的LLM家族,提出FisherSketch方法,通过核均值嵌入的余弦相似度估计Fisher对齐,实现词汇规模下的高效源选择,并揭示激活、误差及耦合因素。
Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026), PMLR 306. 64 pages total (main paper plus appendix), 4 figures, 29 tables
询问而非评判:用于可解释的LLM评估和自我改进的二元问题
机构 * Capital One, AI Foundations(Capital One人工智能基础)
AI总结 提出BINEVAL框架,将评估标准分解为原子二元问题,聚合为可解释的多维分数,在多项基准上匹配或超越强基线,并支持迭代提示优化。
Comments Acceepted to the Second Workshop on Compositional Learning at ICML 2026, Seoul, South Korea
安全自回归图像生成与迭代自改进码本
机构 * School of Information Management, Wuhan University(武汉大学信息管理学院) ; Torr Vision Group, University of Oxford(牛津大学Torr视觉组)
AI总结 针对自回归统一多模态模型生成图像的安全性问题,提出迭代自改进码本方法,利用模型自身判断不安全图像并修正码本映射,消除有害输出并保证生成质量。
Comments 10 pages including references, 8 figures, accepted for publication at the 43rd International Conference on Machine Learning (ICML 2026)
参数化开源博弈
AI总结 提出参数化开源博弈模型,通过连续参数向量和语义映射将程序均衡扩展到连续空间,证明均衡存在性,推导对称2×2博弈中自私梯度上升从背叛转向合作的确切耦合阈值,并给出参数化程序纳什均衡的一维边界检验。
Comments ICML Workshop New Frontiers in Game-Theoretic Learning-NExT-Game
Unison: 通过协同理解与生成对统一多模态模型进行基准测试
AI总结 提出Unison基准,包含2169个统一任务样本,通过内部一致性、理解引导生成、生成引导理解和相互增强四个维度评估统一多模态模型的协同能力,并引入Unison-Judge评估模型确保可靠性。
Comments ICML 2026
GEOALIGN: 用于鲁棒大语言模型强化学习的几何轨迹策展
AI总结 针对在线强化学习训练LLM时奖励噪声导致的不稳定性,提出GEOALIGN,通过检测并修正方向不一致的轨迹来稳定更新,提升最终性能并减少训练震荡。
Comments Accepted as a conference paper at ICML 2026
推理质量早期涌现:推理模型的数据策展
AI总结 提出仅利用初始推理token即可识别多样且具挑战性的推理样本,通过扰动检查点评估前100个token的损失检测难题,并证明前1k token的损失模式可预测梯度相似性,在Qwen2.5-7B和Llama3.1-8B上验证,性能提升达1.7%,token效率提升91%。
Comments Accepted by ICML 2026 (Poster)
LearniBridge: 用于扩散模型加速的特征缓存的可学习校准
AI总结 提出LearniBridge,一种基于低秩共享子空间的可学习校准机制,通过轻量LoRA更新实现特征缓存的多时间步校准,仅需3-5个训练样本即可在图像和视频生成中实现高达5.87倍加速。
Comments Accepted to ICML 2026
ProtoKV: 延迟查询下的流式视频理解与摘要状态记忆
机构 * KAIST(韩国科学技术院)
AI总结 提出ProtoKV,一种固定内存的流式视频理解记忆机制,通过摘要状态表示远历史,在长延迟查询下准确率提升高达12.5点。
Comments 20 pages, 4 figures, Accepted to ICML 2026
全频谱不可学习样本:通过频谱均衡实现
机构 * Department of Computer Science, Western University(温哥华大学计算机科学系) ; Department of Mechanical, Industrial and Aerospace Engineering, Concordia University(Concordia大学机械、工业与航空航天工程系)
AI总结 针对现有不可学习样本仅在高频有效的问题,提出FUSE方法,通过随机频谱掩码和跨频带引导生成频谱无关扰动,实现全频谱保护。
Comments to be published in ICML
LithoDreamer: 一种用于多阶段计算光刻的物理信息世界模型
机构 * Zhejiang University(浙江大学)
AI总结 提出首个物理信息世界模型LithoDreamer,将光刻流程建模为决策驱动的多步演化系统,通过对比变分优化实现可解释干预,在正向演化和逆向规划中达到最优性能。
Comments Correspondence to: Qi Sun <qisunchn \at zju \dot edu \dot cn>
Journal ref Proceedings of the 43rd International Conference on Machine Learning (ICML), Jul. 6-11, 2026
面向化学空间可扩展代理优化的目标感知Bandit分配
AI总结 提出BOBa框架,通过多臂Bandit自适应分配计算资源到动作空间分区,消除全库代理推理瓶颈,在真实合成库上实现可调节的筛选性能与推理成本权衡。
Comments ICML 2026
CAT-Q:面向LLMs的经济高效且精确的三值量化
机构 * Intel Labs China(英特尔中国实验室)
AI总结 提出CAT-Q后训练量化方案,通过可学习调制和软化三值化,仅用512个校准样本即可将LLMs高效量化为三值模型,性能优于使用100B tokens训练的BitNet 1.58-bit,训练token减少约100,000倍。
Comments This work is accepted to ICML 2026 as an oral. The project page: https://github.com/IntelChina-AI/BitTern
智能体指令的自动形式化为策略即代码
AI总结 提出自动形式化流水线,通过LLM生成-批评循环将智能体提示和自然语言策略转化为Cedar策略语言,在MedAgentBench上比手工编码覆盖更多规范。
Comments Accepted at the Second Workshop on Agents in the Wild: Safety, Security, and Beyond (AIWILD), ICML 2026
符号图森林矩阵的快速估计
AI总结 针对符号图森林矩阵估计问题,提出基于环擦除随机游走的GSCF算法生成广义生成跨森林,并设计FMDE和FMDE+采样算法估计矩阵对角线,实现高精度、高效率,可扩展至千万节点规模。
Comments Accepted at ICML 2026
将RL诱导的工具使用定位到单个交叉编码器特征
AI总结 提出专用特征交叉编码器(DFC)隔离强化学习引入的紧凑特征集,通过编码-解码重建提升工具调用正确率31.1个百分点,并实现能力溢出至冻结基模型。
Comments Accepted as a spotlight at the ICML 2026 Mechanistic Interpretability Workshop
用于结构与结果预测的因果基础模型
机构 * University of Cambridge, United Kingdom(英国剑桥大学)
AI总结 提出TabPFN-CFM,一种能处理多种因果问题的因果基础模型,从观测数据预测因果结构和结果,支持Pearl因果层次所有三层查询,在合成数据上训练并泛化到真实数据,优于结构和结果预测基线。
Comments 20 pages, 7 figures, 17 tables, 43rd ICML Workshop on Foundation Models for Structured Data
AXLE:面向 Lean 4 定理证明工具的云基础设施
机构 * Axiom Math ; Recursive Superintelligence, Inc.
AI总结 提出 AXLE 云服务,提供可扩展的 Lean 4 证明操作、提取与验证工具,支持多版本、多租户隔离,已处理超5亿请求并助力 Putnam 竞赛满分。
Comments Accepted at the 3rd AI for Math Workshop, ICML 2026
具有结构保证的嵌入基础模型预测的离散选择模型
机构 * University of California, Berkeley(加州大学伯克利分校) ; Duke University(杜克大学) ; Northeastern University(东北大学) ; University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校) ; Southern Methodist University(南卫理公会大学)
AI总结 提出两阶段适配器,将基础模型的预测嵌入多项Logit效用中,通过符号约束保持边际替代率,在三个数据集上平均提升6.4个百分点准确率,并保证成本单调性和合理时间价值。
Comments Extends arXiv:2605.26559 (ICML 2026 FMSD Workshop)
指令泄露:提示组合智能体系统中的跨模块干扰
机构 * University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校) ; FAGEN
AI总结 研究提示组合智能体系统中模块间干扰问题,形式化定义为组合行为泄露(CBL),通过三通道协议实验验证内容通道产生可检测效应,贡献了操作定义、可复用协议和系统类特征。
Comments 8 pages, 2 tables. Accepted to the ICML 2026 Workshop on Failure Modes in Agentic AI (FAGEN), Seoul, South Korea