A simple connection from loss flatness to compressed neural representations
从损失平坦性到压缩神经表示的简单联系
机构 * Department of Applied Mathematics(应用数学系) ; Computational Neuroscience Center(计算神经科学中心) ; University of Washington(华盛顿大学) ; Technion, Israel Institute of Technology(技术离子以色列理工学院)
AI总结 本文通过引入局部体积比、最大局部敏感度和局部维度等度量,揭示了损失平坦性与神经表示压缩之间的关系,为理解锐度与泛化能力的关系提供了新的理论框架。