Optimal scaling laws in learning hierarchical multi-index models
学习分层多索引模型中的最优缩放规律
机构 * Departement d’Informatique, École Normale Supérieure, PSL & CNRS(信息学院,巴黎综合理工学院,PSL与CNRS) ; Information, Learning and Physics Laboratory, École Polytechnique Fédérale de Lausanne (EPFL)(信息、学习与物理实验室,洛桑联邦理工学院(EPFL)) ; INRIA Paris(巴黎INRIA)
AI总结 本文研究了分层多索引模型中神经网络的最优缩放规律,提出了一种简单且高效的谱估计方法,揭示了分层特征的逐层学习过程及统计最优读出机制。