arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~
arXiv 2609.23557math.OCcs.GTstat.ML

求解单调变分不等式的最优高阶方法

Optimal High-Order Methods for Solving Monotone Variational Inequalities

发表机构西湖大学 · 香港中文大学(深圳) · 清华大学交叉信息研究院
查看机构详情
  • Westlake University(西湖大学)
  • the Chinese University of Hong Kong (Shenzhen)(香港中文大学(深圳))
  • Institute for Interdisciplinary Information Sciences (IIIS), Tsinghua University(清华大学交叉信息研究院)

机构由 AI 辅助整理,请以论文原文为准。

Xinliang Zhang, Lesi Chen, Linxuan Pan, Chengchang Liu, Junchi Yang, Jingzhao Zhang

首次发表
浏览论文内容

中文总结 AI 辅助

本文针对光滑单调变分不等式,提出一种达到最优收敛速率 $\mathcal{O}(T^{-2.5})$ 的二阶方法,并推广到任意 $p$ 阶方法,速率匹配下界,填补了此前与下界之间的差距。

中文摘要 AI 辅助

我们研究求解光滑单调变分不等式(MVI)的二阶及更高阶方法。Monteiro 和 Svaiter(SIAM J. Optim., 2012)证明了二阶方法 NPE 以 $\mathcal{O}(T^{-1.5})$ 的速率收敛。对于凸-凹极小极大优化(MVI 问题的一个子类),Chen、Liu、Luo 和 Zhang(COLT 2025)最近将该速率改进为 $\tilde{\mathcal{O}}( T^{-1.75})$。然而,该结果与 Chen 等人(2026)建立的 $\Omega(T^{-2.5})$ 下界相比仍有较大差距。在本文中,我们提出了一种新颖的二阶方法,达到了最优速率 $\mathcal{O}(T^{-2.5})$。我们的算法还扩展到更高阶方法:对于任意整数 $ p \ge 1$,我们获得了一个 $p$ 阶方法,其收敛速率为 $\mathcal{O}(T^{-(3p-1)/2})$,与已知下界匹配,从而在所有阶数上建立了最优速率。

英文摘要

We study second- and higher-order methods for solving smooth monotone variational inequalities (MVI). Monteiro and Svaiter (SIAM J. Optim., 2012) showed that a second-order method, NPE, converges at a rate of $\mathcal{O}(T^{-1.5})$. For convex-concave minimax optimization, a subclass of MVI problems, Chen, Liu, Luo, and Zhang (COLT 2025) recently improved this rate to $\tilde{\mathcal{O}}( T^{-1.75})$. However, the result has a substantial gap compared to the lower bound of $Ω(T^{-2.5})$ established by Chen et al. (2026). In this paper, we propose a novel second-order method that achieves the optimal rate of $\mathcal{O}(T^{-2.5})$. Our algorithm also extends to higher-order methods: for any integer $ p \ge 1$, we obtain a $p$th-order method with a convergence rate of $\mathcal{O}(T^{-(3p-1)/2})$, matching the known lower bounds and therefore establishing optimal rates across all orders.

补充信息

↑