From Continual Learning to SGD and Back: Better Rates for Continual Linear Models
从持续学习到SGD及返回:持续线性模型更好的收敛率
机构 * Meta ; Technion(技术ion学院) ; Department of Computer Science(计算机科学系) ; Tel Aviv University(特拉维夫大学) ; Blavatnik School of Computer Science and AI(Blavatnik计算机科学与人工智能学院) ; Google Research(谷歌研究) ; Department of Electrical and Computing Engineering(电气与计算工程系) ; Toyota Technological Institute at Chicago(芝加哥丰田技术研究所)
AI总结 本文提出持续线性模型中更优的收敛率,通过SGD分析遗忘机制,改进了持续回归和分类的遗忘率,并展示了通用方法在不同任务顺序下的收敛性。
Comments Accepted to ALT 2026