arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~

Chambolle-Dossal加速的无通用余项速率

No Universal Remainder Rate for Chambolle-Dossal Acceleration

Yuchen Yang, Xinan Dai, Wenhao Deng, Yingdong Shi, Feng Xu, Tailin Wu

arXiv 2609.31557首次发表:更新:

发表机构

Westlake University; Fudan University; University of Glasgow; ShanghaiTech University(西湖大学; 复旦大学; 格拉斯哥大学; 上海科技大学)

机构由 AI 辅助整理,请以论文原文为准。

AI 中文总结

本文证明Chambolle-Dossal加速的定性改进无通用定量速率,构造反例表明任何发散增益无法改善$n^{-2}$尺度,并确立局部$p$-幂增长下速率的尖锐性,结果在Lean 4中验证。

AI 中文摘要

Chambolle-Dossal加速保证对于每个具有极小点的固定光滑凸损失函数,$F(x_n)-F^*=o(n^{-2})$。我们证明这一定性改进不承认通用的定量速率。对于每个阻尼参数$\alpha>3$和正的非递减增益$G(n)\to\infty$,我们构造一个固定的一维光滑凸损失函数,其精确CD轨道满足$\sup_{n\ge1} n^2G(n)\bigl(F(x_n)-F^*\bigr)=\infty$。因此,对于所有固定损失,即使使用实例相关的常数,也没有发散的增益能改善$n^{-2}$尺度。该构造规定了查询梯度,并在一个光滑凸目标中实现了无限多个慢块。在局部$p$-幂增长($p>2$)和足够强阻尼的条件下,我们还构造了一个固定损失函数,其精确CD轨道满足$F(x_n)-F^*\sim Dn^{-2p/(p-2)}$,$D>0$,从而确立了已知收敛速率的尖锐性。两个主要结果均在Lean 4中正式验证。

英文摘要

Chambolle-Dossal acceleration guarantees $F(x_n)-F^*=o(n^{-2})$ for every fixed smooth convex loss with a minimizer. We show that this qualitative improvement admits no universal quantitative rate. For every damping parameter $α>3$ and positive nondecreasing gain $G(n)\to\infty$, we construct a fixed one-dimensional smooth convex loss whose exact CD orbit satisfies $\sup_{n\ge1} n^2G(n)\bigl(F(x_n)-F^*\bigr)=\infty$. Thus no divergent gain improves the $n^{-2}$ scale for all fixed losses, even with instance-dependent constants. The construction prescribes queried gradients and realizes infinitely many slow blocks within one smooth convex objective. Under local $p$-power growth with $p>2$ and sufficiently strong damping, we also construct a fixed loss whose exact CD orbit satisfies $F(x_n)-F^*\sim Dn^{-2p/(p-2)}$, $D>0$, establishing the sharpness of the known convergence rate. Both main results are formally verified in Lean 4.

论文原文

arXiv 摘要页 · PDF 原文 · HTML 原文

↑