arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~

相对不精确梯度下降的二维极值函数

A Two-Dimensional Extremizer for Relatively Inexact Gradient Descent

Jinze Zhao

arXiv 2610.00156首次发表:更新:

发表机构

University of California, San Diego(加利福尼亚大学圣地亚哥分校)

机构由 AI 辅助整理,请以论文原文为准。

AI 中文总结

本文构造了一个二维显式极值函数,证明了相对不精确梯度下降一步的最坏情况常数猜想,并指出二维在中间区域是必要的。

AI 中文摘要

我们给出了当梯度误差相对于真实梯度有界时,梯度下降一步的显式极值函数。该函数是一个坐标中的二次函数与另一个坐标中的 Huber 函数之和。对于每个允许的相对误差水平和中间区域内的每个步长,它都达到了所提出的最坏情况常数,即最终平方梯度除以初始目标间隙,以及最终平方梯度除以目标下降量。这证明了 Vernimmen 和 Glineur 于 2025 年 6 月首次提出的猜想 2.6。通过变量替换,参数描述简化为具有严格指定根的标量三次方程。我们证明了所有参数不等式,导出了上界的非负平方证书,并直接验证了匹配构造。我们还刻画了精确的一维最坏情况值,并证明了在开放中间区域内二维是必要的。

英文摘要

We give an explicit extremal function for one step of gradient descent when the gradient error is bounded relative to the true gradient. The function is the sum of a quadratic in one coordinate and a Huber function in the other. It attains, for every admissible relative error level and every stepsize in the intermediate regime, the proposed worst-case constants for both the final squared gradient divided by the initial objective gap and the final squared gradient divided by the objective decrease. This proves Conjecture 2.6 of Vernimmen and Glineur, first stated in June 2025. A change of variable reduces the parameter description to a scalar cubic with a rigorously specified root. We prove all parameter inequalities, derive a nonnegative-square certificate for the upper bound, and verify the matching construction directly. We also characterize the exact one-dimensional worst-case value and prove that two dimensions are necessary in the open intermediate regime.

论文原文

arXiv 摘要页 · PDF 原文 · HTML 原文

↑