Implicit Bias of Per-sample Adam on Separable Data: Departure from the Full-batch Regime
隐式偏置:逐样本Adam在可分离数据上的表现:偏离全批量模式
机构 * Seoul National University(首尔国立大学) ; KAIST(韩国科学技术院)
AI总结 本研究揭示增量Adam在可分离数据上的隐式偏置偏离全批量行为,而Signum则保持不变。
Comments Published at ICLR 2026