Accelerating SGDM via Learning Rate and Batch Size Schedules: A Lyapunov-Based Analysis
基于李雅普诺夫分析的学习率与批量大小调度加速SGDM
机构 * Meiji University(明治大学)
AI总结 该研究基于李雅普诺夫分析扩展理论框架,研究SGDM在三种动态超参数调度下的收敛性,证明递增批量大小及同步递增批量与学习率可加速收敛,且动态调度SGDM及预热策略表现更优。
Comments Accepted at TMLR (Jul. 2026)