How Edge of Stability Hinders SCAFFOLD in Federated Optimization
稳定性边缘如何阻碍联邦优化中的SCAFFOLD算法
机构 * Georgia Institute of Technology(佐治亚理工学院) ; George Mason University(乔治梅森大学) ; Flatiron Institute(弗拉蒂伦研究所)
AI总结 本研究指出联邦优化中的稳定性边缘(EoS)和渐进锐化是SCAFFOLD性能弱于FedAvg的原因,发现EoS会导致SCAFFOLD估计全局梯度的能力严重下降。
Comments 7 pages, 7 figures