Provable Edge-of-Stability for Adam on a One-Dimensional Quadratic
一维二次函数上Adam的可证稳定边缘特性
机构 * School of Engineering and Applied Sciences, Harvard University(哈佛大学工程与应用科学学院)
AI总结 该研究针对一维二次函数设定,分析未修正Adam的稳定边缘动力学,证明其向特定稳定阈值的恢复倾向,同时指出其寻边机制失效的情况,为Adam的稳定边缘现象提供了动力学解释并揭示其局限性。