arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~
arXiv 2306.07892cs.LGcs.DSmath.OCmath.STstat.MLstat.TH
收藏

通过锐度鲁棒学习单个神经元

Robustly Learning a Single Neuron via Sharpness

UW Madison(威斯康星大学麦迪逊分校)

Puqian Wang, Nikos Zarifis, Ilias Diakonikolas, Jelena Diakonikolas

AI总结:

该研究针对对抗性标签噪声下的单个神经元$L_2^2$损失学习问题,提出基于优化理论局部误差界关联的高效算法,在更温和的分布假设下,对含ReLU的广泛激活族实现常数因子内的最优误差逼近。

摘要:

我们研究在存在对抗性标签噪声的情况下,针对$L_2^2$损失的单个神经元学习问题。我们提出了一种高效算法,对于包括ReLU在内的广泛激活函数族,该算法能在常数因子内逼近最优$L_2^2$误差。与已有工作相比,我们的算法适用的分布假设要温和得多。支撑我们结果的关键要素是与优化理论中局部误差界的一种全新关联。

英文摘要:

We study the problem of learning a single neuron with respect to the $L_2^2$-loss in the presence of adversarial label noise. We give an efficient algorithm that, for a broad family of activations including ReLUs, approximates the optimal $L_2^2$-error within a constant factor. Our algorithm applies under much milder distributional assumptions compared to prior work. The key ingredient enabling our results is a novel connection to local error bounds from optimization theory.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑