arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~
arXiv 2306.00201cs.LGmath.OCstat.ML
收藏

广义隐式跟随正则化领导者算法

Generalized Implicit Follow-The-Regularized-Leader

Boston University(波士顿大学)

Keyi Chen, Francesco Orabona

AI总结:

本文提出广义隐式 FTRL 框架,利用 Fenchel-Young 不等式替代损失线性化,统一并扩展了 FTRL、隐式 FTRL、aProx 和 Mirror-Prox 等算法,可直接改进最坏情况遗憾上界,并以相同计算复杂度恢复隐式 OMD 的时间变化界。

摘要:

我们提出了一类新的在线学习算法,称为广义隐式跟随正则化领导者(FTRL),它扩展了 FTRL 框架的适用范围。广义隐式 FTRL 能够恢复已知算法,例如具有线性化损失的 FTRL 和隐式 FTRL,同时允许设计新的更新规则,如 aProx 和 Mirror-Prox 向 FTRL 的扩展。我们的理论具有构造性,因为它提供了一个简单统一的框架来设计更新规则,从而直接改进最坏情况下遗憾的上界。关键思想是用 Fenchel-Young 不等式替代损失的线性化。我们通过证明一些已知算法(如 Mirror-Prox 更新)是广义隐式 FTRL 的实例,展示了该框架的灵活性。最后,新框架使我们能够以相同的计算复杂度恢复隐式 OMD 的时间变化界。

英文摘要:

We propose a new class of online learning algorithms, generalized implicit Follow-The-Regularized-Leader (FTRL), that expands the scope of FTRL framework. Generalized implicit FTRL can recover known algorithms, as FTRL with linearized losses and implicit FTRL, and it allows the design of new update rules, as extensions of aProx and Mirror-Prox to FTRL. Our theory is constructive in the sense that it provides a simple unifying framework to design updates that directly improve the worst-case upper bound on the regret. The key idea is substituting the linearization of the losses with a Fenchel-Young inequality. We show the flexibility of the framework by proving that some known algorithms, like the Mirror-Prox updates, are instantiations of the generalized implicit FTRL. Finally, the new framework allows us to recover the temporal variation bound of implicit OMD, with the same computational complexity.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑