求解单调变分不等式的最优高阶方法
Optimal High-Order Methods for Solving Monotone Variational Inequalities
查看机构详情
- Westlake University(西湖大学)
- the Chinese University of Hong Kong (Shenzhen)(香港中文大学(深圳))
- Institute for Interdisciplinary Information Sciences (IIIS), Tsinghua University(清华大学交叉信息研究院)
机构由 AI 辅助整理,请以论文原文为准。
浏览论文内容
中文总结 AI 辅助
本文针对光滑单调变分不等式,提出一种达到最优收敛速率 $\mathcal{O}(T^{-2.5})$ 的二阶方法,并推广到任意 $p$ 阶方法,速率匹配下界,填补了此前与下界之间的差距。
中文摘要 AI 辅助
我们研究求解光滑单调变分不等式(MVI)的二阶及更高阶方法。Monteiro 和 Svaiter(SIAM J. Optim., 2012)证明了二阶方法 NPE 以 $\mathcal{O}(T^{-1.5})$ 的速率收敛。对于凸-凹极小极大优化(MVI 问题的一个子类),Chen、Liu、Luo 和 Zhang(COLT 2025)最近将该速率改进为 $\tilde{\mathcal{O}}( T^{-1.75})$。然而,该结果与 Chen 等人(2026)建立的 $\Omega(T^{-2.5})$ 下界相比仍有较大差距。在本文中,我们提出了一种新颖的二阶方法,达到了最优速率 $\mathcal{O}(T^{-2.5})$。我们的算法还扩展到更高阶方法:对于任意整数 $ p \ge 1$,我们获得了一个 $p$ 阶方法,其收敛速率为 $\mathcal{O}(T^{-(3p-1)/2})$,与已知下界匹配,从而在所有阶数上建立了最优速率。
英文摘要
We study second- and higher-order methods for solving smooth monotone variational inequalities (MVI). Monteiro and Svaiter (SIAM J. Optim., 2012) showed that a second-order method, NPE, converges at a rate of $\mathcal{O}(T^{-1.5})$. For convex-concave minimax optimization, a subclass of MVI problems, Chen, Liu, Luo, and Zhang (COLT 2025) recently improved this rate to $\tilde{\mathcal{O}}( T^{-1.75})$. However, the result has a substantial gap compared to the lower bound of $Ω(T^{-2.5})$ established by Chen et al. (2026). In this paper, we propose a novel second-order method that achieves the optimal rate of $\mathcal{O}(T^{-2.5})$. Our algorithm also extends to higher-order methods: for any integer $ p \ge 1$, we obtain a $p$th-order method with a convergence rate of $\mathcal{O}(T^{-(3p-1)/2})$, matching the known lower bounds and therefore establishing optimal rates across all orders.