ICML

Can LLMs Reconcile Knowledge Conflicts in Counterfactual Reasoning

大语言模型能否在反事实推理中调和知识冲突

Khurram Yamin, Gaurav Ghosal, Bryan Wilder

机构 * Department of Machine Learning（机器学习系） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

AI总结 本研究探讨了大语言模型在反事实推理中整合参数知识的能力，发现其普遍挣扎并存在知识退化问题。

Comments ICML 2025 Workshop on Scaling up Intervention Models

Learning with Exact Invariances in Polynomial Time

在多项式时间内学习精确不变性

Ashkan Soleymani, Behrooz Tahmasebi, Stefanie Jegelka, Patrick Jaillet

机构 * School of CIT, MCML（信息科技学院、微系统实验室） ； MDSI, Technical University of Munich (TUM)（慕尼黑工业大学微系统研究所） ； MIT EECS（麻省理工学院电子工程与计算机科学系） ； MIT CSAIL（麻省理工学院计算机科学与人工智能实验室） ； MIT LIDS（麻省理工学院媒体实验室） 纠错

AI总结 本文提出了一种在多项式时间内实现精确不变性的算法，通过利用输入空间的几何属性，达到与核回归相同的泛化误差，是该领域首个实现精确不变性的多项式时间方法。

Journal ref International Conference on Machine Learning (ICML) 2025

A Universal Class of Sharpness-Aware Minimization Algorithms

一种通用的锐度感知最小化算法类

Behrooz Tahmasebi, Ashkan Soleymani, Dara Bahri, Stefanie Jegelka, Patrick Jaillet

机构 * MIT CSAIL（麻省理工学院计算机科学与人工智能实验室） ； MIT LIDS（麻省理工学院领导力与决策科学研究所） ； MIT（麻省理工学院） ； TU Munich（慕尼黑技术大学） ； Google DeepMind（谷歌DeepMind） 纠错

AI总结 本文提出了一种通用的锐度感知最小化算法类，通过引入新的锐度度量，解决了神经网络中参数不变性问题，并展示了Frob-SAM和Det-SAM等实例。

Comments ICML 2024. Code is available at http://github.com/dbahri/universal_sam

Journal ref International Conference on Machine Learning (ICML) 2024

Sample Complexity Bounds for Estimating Probability Divergences under Invariances

在不变性下估计概率分歧的样本复杂度界限

Behrooz Tahmasebi, Stefanie Jegelka

机构 * MIT CSAIL（麻省理工学院计算机科学与人工智能实验室） ； TU Munich（慕尼黑工业大学） 纠错

AI总结 本文研究了在不变性下估计概率分歧的样本复杂度，发现群不变性可减少样本复杂度并提高收敛率。

Comments ICML 2024

Journal ref International Conference on Machine Learning (ICML) 2024