ICML

Rethinking Uncertainty Evaluation in Large Language Models

重新思考大语言模型中的不确定性评估

Krish Matta, Atharv Naphade, Andy Zou

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Meta 纠错

AI总结 研究大语言模型中置信度评估问题，指出校准标准不充分。沿结构连贯性、忠实性和有用性三个轴形式化条件为C1指标，发现常用估计器违反条件，RLHF等未恢复连贯性，框架可测度与弥合差距。

Comments 19 pages, 11 figures, ICML 2026 EIML Workshop

Microlensing Detection and Inference via Learned Bayes Factors

通过学习贝叶斯因子进行微引力透镜检测和推断

Nolan Smyth, Laurence Perreault-Levasseur, Yashar Hezaveh

AI总结 该研究提出统一框架，用证据网络进行贝叶斯模型比较检测引力微透镜事件，结合神经后验估计推断参数，共享变压器编码器处理不规则采样。在模拟数据上检测效率高、误报率低，在极端区域优势明显，NPE能提供校准后验，助力实时分析。

Comments Accepted at ICML 2026 AI for Physics Workshop

Strong Gravitational Lensing Posterior Sampling in Pixel-Space Using Diffusion Models and Recurrent Inference Machines

使用扩散模型和循环推理机在像素空间中进行强引力透镜后验采样

Guillaume Payeur, Laurence Perreault-Levasseur, Gabriel Missael Barco, Yashar Hezaveh

机构 * Department of Physics, Universit\'e de Montr\'eal, Montreal QC, Canada ； Mila - Quebec AI Institute, Montreal QC, Canada ； Ciela Institute, Institute for Astrophysics ； Trottier Space Institute, McGill University, Montreal QC, Canada ； Center for Computational Astrophysics, Flatiron Institute, New York, USA ； Perimeter Institute for Theoretical Physics, Waterloo ON, Canada 纠错

AI总结 研究星系-星系强引力透镜问题，提出结合扩散生成建模与循环推理机的方法，能生成源星系和前景质量分布的联合后验样本作为像素化图像，可对含背景和前景星系的真实引力透镜模拟建模至噪声水平。

Comments 31 pages, 34 figures, Extension of an article accepted at the ICML 2026 Workshop on AI for Physics

Cross-Agent Campaign Attribution: Linking Asynchronous Attacks Across LLM Agents

跨智能体活动归因：关联大语言模型智能体间的异步攻击

SangJin Park, Myungsub Choi, Jineok Kim, Minseung Kang

AI总结 研究跨大语言模型智能体的异步攻击归因问题，提出异步归因指纹向量（$A^2FV$）协议，构建SCD-v1基准，实验表明$A^2FV$在活动关联上表现良好，确立跨智能体活动归因作为保护大语言模型智能体的独特评估层。

Comments 22 pages, 5 figures. Accepted at the Second Workshop on Agents in the Wild: Safety, Security, and Beyond (AIWILD) at ICML 2026

PAMD: Structured Adaptive Distances for Bisimulation Representations in Visual Reinforcement Learning

PAMD：视觉强化学习中用于双模拟表示的结构化自适应距离

Daegyeong Roh, Juho Bae, Han-Lim Choi

AI总结 针对视觉强化学习中潜在距离选择影响性能的问题，提出PAMD（成对自适应马氏距离），它为测量潜在状态相似性参数化正定成对条件度量，是现有双模拟方法的简单插件，在视觉MuJoCo任务中显著提升了相关算法性能。

Comments 9 pages, 6 figures, plus appendix. Accepted to the 43rd International Conference on Machine Learning (ICML 2026)

DiFA: Inference-Time Forward-Process Alignment for Diffusion Models

DiFA：扩散模型的推理时间前向过程对齐

Shigui Li, Delu Zeng

AI总结 研究提出DiFA框架，将扩散模型推理时的数据预测细化转为顺序状态估计问题，受卡尔曼滤波启发建立前向对齐时间一致性，引入偏差引导机制，实验表明该方法在多个指标上显著提升CIFAR-10和ImageNet的生成保真度。

Comments Accepted to ICML 2026. 23 pages, 7 figures

A Geometric Perspective on Stabilizing Value Conflict Resolution

稳定价值冲突解决的几何视角

Saket Reddy, Andy Liu

机构 * University of Illinois - Urbana-Champaign（伊利诺伊大学厄巴纳 - 香槟分校） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

AI总结 研究大语言模型在RLHF训练中应对价值冲突的问题，核心方法是利用思维链推理，通过几何视角分析其作用，创建新的以价值冲突为重点的CoT设计，提升了道德推理性能，为改进模型处理复杂价值冲突请求的性能提供新途径。

Comments Accepted to ICML Workshop on High-Dimensional Learning Dynamics

ST-Veto: Spatio-Temporal Token Veto for Diffusion MLLMs via Taylor Prediction and Visual Grounding

ST-Veto：通过泰勒预测和视觉基础实现用于扩散多模态语言模型的时空令牌否决

Keuntae Kim, Beomseok Lee, Hyunwoo Kim, Yong Suk Choi

AI总结 研究针对扩散多模态大语言模型推理不足问题，提出无需训练的ST-Veto方法，利用二阶泰勒预测和图像注意力质量否决不稳定及弱基础令牌，与更安全候选交换，在多基准测试中优于其他方法，提升准确率且无额外成本。

Comments ICML 2026 - main

The Concept of Representation in ML: Beyond Plato and Aristotle

机器学习中的表征概念：超越柏拉图与亚里士多德

Gilad Landau, Aviv Keren

AI总结 探讨机器学习中表征概念，随着模型发展其从工程领域转向心理表征领域。评估《柏拉图式表征假说》中关于不同AI模型表征属性趋同由现实统一结构驱动的说法，借助心灵哲学观点审视，阐明关键、解释不足并给出研究方向。

Comments 8 pages. Accepted for oral presentation at ICML 2026

Coordinated Disentanglement with Iterative Mode Discovery Under Hidden Correlations

在隐藏相关性下通过迭代模式发现进行协同解缠

Rong Hu, Ling Chen

AI总结 研究针对解缠表示学习中隐藏相关性未充分探索的问题，提出CoDID框架，通过动态架构适应模式数量变化，利用协调机制减轻误差放大以实现协同解缠，在多样任务上展现最优性能。

Comments Published at ICML 2026

SlotGuard: Stop Oversharing Private Local Context in LLM Agent Transcri

SlotGuard：阻止大语言模型代理转录中过度共享私有本地上下文

Haocheng Xia, Yongjoo Park

机构 * Siebel School of Computing（计算机科学系） ； Data Science, University of Illinois Urbana-Champaign（数据科学，伊利诺伊大学厄巴纳-香槟分校） 纠错

AI总结 研究大语言模型代理转录本隐私泄露问题，提出SlotGuard方法，通过重写结构绑定、替换机密值、链接跨轮引用等操作隐藏敏感数据，在保持代理性能的同时大幅降低凭证泄漏率。

Comments ICML 2026 AIWILD

Training Continuous Chain of Thought Models: A Tale of Two Regimes

训练连续思维链模型：两种模式的故事

Varun Yerram, He He, Eunsol Choi

AI总结 研究训练连续思维链模型，提出C-MTP直接监督方法，该方法在简化轨迹评估中表现良好，还扩展评估到复杂任务，发现当前直接和间接监督训练方法在长推理轨迹任务中表现差，揭示了现有方法的局限性。

Comments Accepted to AdaptFM Workshop, ICML 2026

Position: Explanation Stability Is a Property of the Model Method Pair, Not the Model

立场：解释稳定性是模型与方法对的属性，而非模型本身的属性

Kabilan Elangovan, Daniel Ting

AI总结 该论文指出关于解释稳定性的断言需经交叉方法验证，以胸部X光实验为例，不同模型在不同归因方法下稳定性排名反转，说明解释稳定性是模型与方法对的属性，基于解释的断言应多方法验证并明确归因算子。

Comments Accepted Position Paper at ICML 2026. https://openreview.net/forum?id=9r8sSaYhos

Journal ref Forty-third International Conference on Machine Learning Position Paper Track, 2026

Learning from World Feedback: Why Model Uncertainty Fails as a Risk Signal in Model-Based RL

从世界反馈中学习：为何模型不确定性在基于模型的强化学习中无法作为风险信号

Zhaohui Wang

AI总结 研究探讨 RLxF 中学习信号应源于世界反馈，在安全模型控制中实例化并提炼原则。通过实验表明基于动力学的不确定性惩罚会增加碰撞率，用世界反馈信号可降低碰撞率，提取原则并指出其适用于多种相关方法。

Comments Accepted at the ICML 2026 Workshop on Reinforcement Learning from X Feedback (RLxF). 14 pages

Feedback Attribution and Representation Geometry: Metrics for Comparing Individual and Shared Rewards in MARL

反馈归因与表示几何：多智能体强化学习中个体与共享奖励比较的度量

Tasha Pais, Richard Higgins

AI总结 研究多智能体强化学习中团队平均奖励下，学习表示上奖励归因的特征。提出EffRank/$n$和$D_\text{act}$指标，在SMACv2测试发现观测解释几何特征，奖励归因体现在行为，且指标开销低。

Comments Accepted at the Reinforcement Learning from World Feedback Workshop, ICML 2026

Preference-based Antibody Expression Ranking: Scaling with Large-scale Weak Supervision

基于偏好的抗体表达排序：大规模弱监督下的扩展

Josh Qixuan Sun, Morteza Babaie, Wenyang Hou, Mark Crowley, David Young

AI总结 研究针对抗体表达排序中标记数据稀缺问题，提出基于偏好的学习框架，结合定量表达与弱监督，通过改进DPO适用于蛋白质语言模型，在多样数据集上评估，该方法优于基线，为抗体可表达性优化提供可扩展方案。

Comments Accepted at ICML 2026

From Outcomes to Actions: Leveraging Hindsight for Long-Horizon Language Agent Training

从结果到行动：利用事后诸葛亮进行长期语言智能体训练

Zishang Jiang, Tingyun Li, Jinyi Han, Xinyi Wang, Sihang Jiang, Yizhou Ying, Xiaojun Meng, Jiansheng Wei, Jiaqing Liang, Yanghua Xiao

AI总结 研究长期语言智能体训练中现有强化学习方法面临的挑战，提出事后诸葛亮策略优化方法，通过投影到意图空间提取低方差学习信号，聚合相似状态和行动，理论和实证证明可稳定提升策略性能。

Comments Accepted at ICML 2026

Normalized Rewards for Preference Optimization

偏好优化的归一化奖励

Shawn Im, Federico Danieli, Skyler Seto, Barry-John Theobald, Katherine Metcalf

AI总结 研究针对直接对齐算法过度优化隐式奖励模型的问题，提出添加正则化项的方法，通过研究似然变化分布理解过度优化，应用该正则化于相关方法，实现生成质量与基准能力权衡及奖励建模改进，提升了模型性能。

Comments ICML 2026

Orthogonal Gradient Constraints Shape Noisy-Label Memorization Dynamics

正交梯度约束塑造噪声标签记忆动态

Richard Mai

AI总结 研究噪声标签学习中记忆驱动过拟合问题，核心方法是用OrthoGrad去除权重梯度中与当前权重向量平行的分量，在MNIST小数据及CIFAR-10 ResNet-18实验中验证其能改变记忆轨迹，但依赖数据情况，可作学习动态诊断。

Comments 7 pages, accepted into the ICML HiLD workshop 2026 @Seoul

Von Mises-Fisher Mixture Model with Dynamic Shrinkage for Realistic Test-Time Transduction

用于现实测试时转导的具有动态收缩的冯·米塞斯-费舍尔混合模型

Jiazhen Huang, Zhiming Liu, Changhu Wang, Wei Ju, Ziyue Qiao, Xiao Luo

AI总结 研究针对测试时视觉语言模型性能问题，从惩罚似然估计角度提出具有动态收缩的冯·米塞斯-费舍尔混合模型（MOON），该模型基于分布混合建模，能动态调整收缩强度处理不平衡，无需训练和特定超参，实验验证其性能和效率优势。

Comments Accepted by ICML 2026

Journal ref ICML 2026

Efficient Difficulty-Aware Dynamic Routing for Diffusion-Based Real-World Image Super-Resolution

基于扩散的真实世界图像超分辨率的高效难度感知动态路由

Xue Wu, Kang Zhao, Kafeng Wang, Jianfei Chen, Jingwei Xin, Nannan Wang, Xinbo Gao

AI总结 研究基于扩散的真实世界图像超分辨率方法的局限，提出难度感知动态路由（DDR）策略，设计难度估计器并构建不同容量网络，实验证明该模型相比现有方法在效率和有效性上更具优势。

Comments ICML 2026 under review

Position: Quantum Program Generation Must Prioritize Validity Over Probabilistic Scaling

立场：量子程序生成必须优先考虑有效性而非概率缩放

Junhao Song, Yu Zhou, William Knottenbelt, Yudong Cao

机构 * IBM（IBM公司） ； DeepMind（深度思维公司） 纠错

AI总结 该论文指出将概率范式用于量子电路合成有误，因量子电路有语法语义差距，未经验证的训练使模型难掌握物理语义，有效子集随量子比特数指数衰减。提出转向以验证器为中心，集成多种元素到生成中，验证意识架构是可行途径，应编码特定规则而非仅靠模仿。

Comments Accepted to ICML 2026: https://openreview.net/forum?id=oX1vWuQ13y

Symbal: Detecting Systematic Misalignments in Model-Generated Captions

Symbal：检测模型生成字幕中的系统性对齐错误

Maya Varma, Jean-Benoit Delbrouck, Sophie Ostmeier, Akshay Chaudhari, Curtis Langlotz

AI总结 研究多模态大语言模型生成图像字幕时的系统性对齐错误检测问题，提出利用现成基础模型的结构化双阶段设置的Symbal方法，引入SymbalBench基准，Symbal在基准上表现出色，可辅助审核MLLM生成的字幕。

Comments ICML 2026

Stop Thinking, Start Looking: Efficient Post-Training for Multimodal Document Question Answering via Reasoning-Free Alignment

停止思考，开始观察：通过无推理对齐实现多模态文档问答的高效训练后优化

Harikrishnan P M, Goutham Vignesh, Ganesh Parab, Saisubramaniam Gopalakrishnan, Vishal Vaddina, Varun V, Rohit Agrawal

AI总结 研究多模态文档问答中高效训练后优化问题，提出感知 - RFT 框架，用组相对策略优化绕过推理令牌直接对齐视觉与基础输出，通过构建变体评估推理必要性，发现启用推理模型有优势，还识别基础差异，表明早期转换可减少训练数据并保持精度。

Comments Accepted at ICML 2026, Workshop on Efficient Multimodal Question Answering (EMM-QA)

Democratizing Agent Deployment Safety: A Structural Monitoring Approach

使智能体部署安全民主化：一种结构监测方法

Preeti Ravindra, Rahul Tiwari, Vincent Wolowski

AI总结 研究人工智能智能体部署安全问题，引入信息流图（IFG）监测器，通过控制流、数据流图及原始代码差异分析结构安全回归。实验表明，IFG监测器能降低攻击错过率，还可同步作为部署前保障，为组织实现部署安全民主化提供实用途径。

Comments Accepted in ICML 2026 Workshops: AI4GOOD and AIWILD

Copy-on-Write Scoring: Application-Specific Agent Evaluations

写时复制评分：特定应用代理评估

Joanna Roy, Sven Hoelzel

AI总结 研究如何在软件系统中可靠部署基于大语言模型的代理，提出写时复制（CoW）评分框架，利用PostgreSQL级机制在应用环境中直接评估代理操作，能低成本评估迭代，在开源平台上验证了该框架的有效性。

Comments 15 pages, 11 figures, accepted at ICML 2026 Second Workshop on Agents in the Wild: Safety, Security, and Beyond

ToolAlignBench: Investigating Alignment Conflicts in Tool-Calling Enabled LLMs

ToolAlignBench：研究启用工具调用的大语言模型中的对齐冲突

Aryan Keluskar, Amrita Bhattacharjee, Huan Liu

机构 * School of Computing \& AI, Arizona State University, Tempe, AZ, USA 纠错

AI总结 研究受监管行业中工具调用大语言模型智能体的安全对齐冲突，构建含128个场景的基准测试，发现安全对齐开源模型有时会违背部署指令，擦除可降低举报率，揭示多元对齐矛盾，发布基准测试框架。

Comments Accepted to the Pluralistic Alignment Workshop at ICML 2026

Position: Explainability Research Must Prioritize Foundations over Ad-hoc Methods

立场：可解释性研究必须优先考虑基础而非临时方法

Michal Moshkovitz, Suraj Srinivas, Lesia Semenova, Nave Frost, Cyrus Rashtchian, Valentyn Boreiko, Shichang Zhang, Himabindu Lakkaraju, Cynthia Rudin, Jennifer Wortman Vaughan

AI总结 该论文指出可解释人工智能技术虽多但未有效影响实际工作流程，原因是存在基础缺陷。主张机器学习社区从临时方法转向解决基础和结构挑战，通过分析论文和调查从业者揭示问题，最后给出清单推动XAI走向以人为本、行动导向范式。

Comments Accepted to ICML 2026 Position Paper Track

Journal ref Proceedings of the 43rd International Conference on Machine Learning, Seoul, South Korea. PMLR 306, 2026

MetaPerch: Learning from metadata for bioacoustics foundation models

MetaPerch：从元数据学习生物声学基础模型

Mustafa Chasmai, Vincent Dumoulin, Jenny Hamer

AI总结 研究利用生物声学数据中心的元数据，将位置、时间等元数据作为辅助监督信号，引入MetaPerch基础模型，提升物种识别性能，还对9种元数据源在17个数据集上的效果做了实证研究。

Comments Accepted to ICML 26

Plausible Deniability Guarantees for Whistleblowers

举报人似是而非的可否认性保障

Leo Richter, Matt J. Kusner

机构 * University College London（伦敦大学学院） ； École Polytechnique de Montréal（蒙特利尔理工学院） ； Mila - Québec Artificial Intelligence Institute（魁北克人工智能研究所） 纠错

AI总结 研究如何保障举报人，针对现有保护提案和差分隐私机制不足，形式化逐报告(0,δ)-差分隐私，证明随机响应不比均匀随机审计好超δ，给出通用机制简化私人审计，实例化后有良好效果，模拟显示优于随机响应。

Comments Accepted at three ICML 2026 workshops, including the ICML Workshop on Technical AI Governance Research