带有几何平滑动量的随机Kaczmarz算法
Randomized Kaczmarz with geometrically smoothed momentum
AI总结：
本文研究了向线性最小二乘随机梯度下降实例的随机Kaczmarz算法添加几何平滑动量的效果，证明了矩阵奇异向量方向上的期望误差结果，并通过数值例子验证了其效用。
摘要：
本文研究了向随机Kaczmarz算法添加几何平滑动量的效果，该算法是线性最小二乘损失函数上随机梯度下降的一个实例。我们证明了关于定义最小二乘损失矩阵的奇异向量方向上期望误差的一个结果。我们给出了几个数值例子来说明该结果的效用，并提出了几个问题。
英文摘要：
This paper studies the effect of adding geometrically smoothed momentum to the randomized Kaczmarz algorithm, which is an instance of stochastic gradient descent on a linear least squares loss function. We prove a result about the expected error in the direction of singular vectors of the matrix defining the least squares loss. We present several numerical examples illustrating the utility of our result and pose several questions.
机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。
