Dynamic Regret via Discounted-to-Dynamic Reduction with Applications to Curved Losses and Adam Optimizer
通过折扣到动态的还原实现动态后悔,应用于曲面损失和Adam优化器
机构 * National Key Laboratory for Novel Software Technology(新型软件技术国家实验室) ; School of Artificial Intelligence(人工智能学院) ; University of Washington(华盛顿大学)
AI总结 本文通过折扣到动态的还原方法,改进了FTRL相关问题的动态后悔界,并应用于曲面损失和Adam优化器,获得了非凸非光滑设置下的最优收敛速率。