arXivDaily arXiv每日学术速递 周一至周五更新
arXiv 2202.10640cs.LG
收藏

在线$k$的收敛-意味着

Convergence of online $k$-means

UC San Diego(加州大学圣地亚哥分校)

Sanjoy Dasgupta, Gaurav Mahajan, Geelon So

摘要:

我们证明了渐近收敛的一般类的$k$ -意味着算法进行流数据从一个分布:中心渐近收敛到一组固定点的$k$ -意味着成本函数。要做到这一点,我们表明,在线$k$ -平均分布可以被解释为随机梯度下降与随机学习率调度。然后,我们证明了收敛性扩展技术中使用的优化文献处理设置中心特定的学习率可能取决于过去的轨迹的中心。

英文摘要:

We prove asymptotic convergence for a general class of $k$-means algorithms performed over streaming data from a distribution: the centers asymptotically converge to the set of stationary points of the $k$-means cost function. To do so, we show that online $k$-means over a distribution can be interpreted as stochastic gradient descent with a stochastic learning rate schedule. Then, we prove convergence by extending techniques used in optimization literature to handle settings where center-specific learning rates may depend on the past trajectory of the centers.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑