非凸-凹极小极大优化的最优确定性一阶预言机复杂度

中文摘要 AI 辅助

我们研究了在紧凸对偶域上的光滑非凸-凹极小极大优化的确定性一阶预言机复杂度。令$\ell$表示联合光滑常数，$D_{\mathcal{Y}}$表示对偶域的直径，$\Delta$表示初始间隙。我们证明了，当$\epsilon\lesssim\min\{\ell D_{\mathcal{Y}},\sqrt{\ell\Delta}\}$时，每个确定性一阶算法在最坏情况下需要$\Omega(\ell^2D_{\mathcal{Y}}\Delta/\epsilon^3)$次预言机查询才能找到$\epsilon$-优化稳定点。然后我们开发了Tracked-FOAM，一种达到匹配上界的一阶方法，去除了先前上界中的对数因子。这些结果共同确立了在所述范围内所有问题参数的最优依赖性。

英文摘要

We study the deterministic first-order oracle complexity of smooth nonconvex-concave minimax optimization over a bounded convex dual domain. Let $\ell$ denote the joint smoothness constant, $D_{\mathcal{Y}}$ the diameter of the dual domain, and $Δ$ the initial gap. We prove that every deterministic first-order algorithm requires $Ω(\ell^2D_{\mathcal{Y}}Δ/ε^3)$ oracle queries in the worst case to find an $ε$-optimization-stationary point whenever $ε\lesssim\min\{\ell D_{\mathcal{Y}},\sqrt{\ellΔ}\}$. We then develop Tracked-FOAM, a first-order method that attains a matching upper bound, removing the logarithmic factor from previous upper bounds. Together, these results establish the optimal dependence on all problem parameters in the stated regime.

发表机构

• Sauder School of Business, The University of British Columbia（不列颠哥伦比亚大学 Sauder 商学院）
• RIKEN AIP（理化学研究所 AI中心）

机构由 AI 辅助整理，请以论文原文为准。