New York University（纽约大学）

Beyond the Loss Curve: Scaling Laws, Active Learning, and the Limits of Learning from Exact Posteriors

超越损失曲线：扩展定律、主动学习以及从精确后验学习的极限

Arian Khorasani, Nathaniel Chen, Yug D Oswal, Akshat Santhana Gopalan, Egemen Kolemen, Ravid Shwartz-Ziv

机构 * Mila-Quebec AI Institute, Canada（魁北克AI研究院） ； School of Computer Science and Engineering, Vellore Institute of Technology, India（印度维洛雷理工学院计算机科学与工程学院） ； Plasma Physics Lab, Princeton University, USA（普林斯顿大学等离子物理实验室） ； High School Student, John P. Stevens High School, USA（约翰·P·斯蒂文斯高中学生） ； Center of Data Science, New York University, New York, USA（纽约大学数据科学中心） 纠错

AI总结 本文研究神经网络在精确后验下的学习极限，揭示扩展定律、主动学习和分布偏移等核心问题，提出基于归一化流的框架以提升模型性能和鲁棒性。