Modular connectivity in neural networks emerges from Poisson noise-motivated regularisation, and promotes robustness and compositional generalisation
神经网络中的模块化连接源于受泊松噪声启发的正则化,并促进鲁棒性和组合泛化
机构 * McGovern Institute for Brain Research, Massachusetts Institute of Technology, MA 02139, U.S.A.(麦戈文脑科学研究所,麻省理工学院) ; K. Lisa Yang Integrative Computational Neuroscience Center in the Yang-Tan Collective(李嘉诚整合计算神经科学中心) ; Department of Brain and Cognitive Sciences, Massachusetts Institute of Technology, MA 02139, U.S.A.(脑科学与认知科学系,麻省理工学院) ; Department of Electrical Engineering and Computer Science, Massachusetts Institute of Technology, MA 02139, U.S.A.(电气工程与计算机科学系,麻省理工学院)
专题命中 通用世界模型 :world model(abstract);world model(abstract);分类 cs.LG
AI总结 本研究通过受泊松噪声启发的正则化方法,揭示了神经网络中模块化连接的形成机制,并展示了其在提升鲁棒性和泛化能力方面的优势。