Neuron Populations Exhibit Divergent Selectivity with Scale
神经元群体随规模表现出分化的选择性
机构 * UC Berkeley(加州大学伯克利分校) ; TTIC
AI总结 通过分析Rosetta神经元在不同规模模型中的分布与特性,发现其数量遵循次线性幂律增长,且选择性随规模增强,而非Rosetta神经元则保持低选择性,提出一个平衡特征效用与神经元容量的分析模型解释这一极化现象。
Comments Project page and code: https://avdravid.github.io/rosetta-neuron-scaling/