Near-Optimal Nonconvex-Strongly-Convex Bilevel Optimization with Fully First-Order Oracles
基于全一阶Oracle的近似最优非凸强凸双层优化
机构 * IIIS, Tsinghua University(清华大学人工智能院) ; Shanghai Qi Zhi Institute(上海启智研究院) ; Shanghai AI Lab(上海人工智能实验室)
AI总结 针对下层问题强凸的双层优化,提出一种两时间尺度更新的一阶方法,在确定性设置下达到近最优的$\tilde{\mathcal{O}}(\varepsilon^{-2})$一阶Oracle复杂度,并扩展到随机和高阶光滑场景。
Comments JMLR 2025; fix a bug in the proof in Appendix E compared to the journal version