发表机构
IMDEA Software Institute; Purdue University; Tel Aviv University（IMDEA软件研究所; 普渡大学; 特拉维夫大学）
机构由 AI 辅助整理，请以论文原文为准。AI 中文总结
针对光滑凸优化，提出一种结合选择器移动与Hölder下降的一阶方法，在高维情形下达到近最优误差，解决COLT 2015开放问题。
AI 中文摘要
我们研究了在 $\ell_q$ 中具有 $(L,\kappa-1)$-Hölder 连续梯度、定义域为 $R B_p^d$（$1<\kappa\le 2$）的凸目标函数的优化问题。(MG26) 为追逐高维凸嵌套集问题（对所有 $p<q$）提供了具有移动界限的选择器，并通常将 Lipschitz 凸优化归结为选择器移动的界限。我们将该移动与 Hölder 下降相结合，得到一种多项式运行时间的一阶方法，其可行输出在高维情形 $T\le d$ 且 $p<\min\{q,2\}$ 下，经过 $T$ 次一阶预言机查询后，误差为 $$ \widetilde O_{\kappa,p,q}\\!\left( \frac{LR^\kappa}{T^{\kappa(1+1/p-(1/q-1/2)_+)-1}} \right), $$ 从而解决了 (Guz15) 提出的 COLT 2015 开放问题（至多相差对数因子）。在 $(p,q)=(1,2)$ 时，速率为 $\widetilde{O}(LR^\kappa/T^{2\kappa-1})$，包括光滑情形下的三次衰减 $\widetilde{O}(LR^2/T^{3})$。
英文摘要
We study the optimization of convex objectives with $(L,κ-1)$-Hölder-continuous gradients in $\ell_q$ over $R B_p^d$, $1<κ\le 2$. (MG26) provides selectors with a movement bound for the problem of chasing high-dimensional convex nested sets for every $p<q$ and generally reduces Lipschitz convex optimization to bounds on the movement of selectors. We couple that movement with Hölder descent yielding a polynomial-runtime first-order method whose feasible output, in the high-dimensional regime $T\le d$ and for $p<\min\{q,2\}$, has error $$ \widetilde O_{κ,p,q}\!\left( \frac{LR^κ}{T^{κ(1+1/p-(1/q-1/2)_+)-1}} \right), $$ after $T$ queries to a first-order oracle, solving the COLT 2015 open problem of (Guz15), up to logarithmic factors. At $(p,q)=(1,2)$, the rate is $\widetilde{O}(LR^κ/T^{2κ-1})$, including $\widetilde{O}(LR^2/T^{3})$ cubic decay in the smooth case.
