On the origin of neural scaling laws: from random graphs to natural language
神经缩放定律的起源：从随机图到自然语言
机构 * Meta Superintelligence Labs, FAIR（Meta超智能实验室，FAIR） ； Department of Physics, University of Maryland, College Park（大学物理系，马里兰大学College Park分校） ； Joint Quantum Institute（联合量子研究所）
AI总结 本文研究了从随机图到自然语言的神经缩放定律起源，发现即使在无幂律结构的数据中，简化设置也能产生缩放定律，并展示了语言复杂性降低时缩放指数的单调变化。
Comments 33 pages
