2605.06367
2026-05-08
stat.ML
cond-mat.dis-nn
cs.LG
The Interplay of Data Structure and Imbalance in the Learning Dynamics of Diffusion Models
数据结构与不平衡的相互作用在扩散模型学习动态中的作用
Flavio Nicoletti, Chenxiao Ma, Enrico Ventura, Luca Saglietti, Stefano Sarao Mannelli
发表机构
*
Data Science and AI, Computer Science and Engineering Department, Chalmers University of Technology and University of Gothenburg(数据科学与人工智能,计算机科学与工程系,查尔姆斯理工大学和哥德堡大学)
;
International School of Advanced Studies (SISSA), Trieste, Italy(国际先进研究学院(SISSA),特里埃斯特,意大利)
;
Department of Computing Sciences, Bocconi University, Milano, Italy(计算科学系,博科尼大学,米兰,意大利)
;
Institute for Data Science and Analytics, Bocconi University, Milano, Italy(数据科学与分析研究所,博科尼大学,米兰,意大利)
;
School of Computer Science and Applied Mathematics, University of the Witwatersrand, Johannesburg, South Africa(计算机科学与应用数学学院,沃图瓦兹兰大学,约翰内斯堡,南非)
AI总结
研究探讨了数据结构差异和采样不平衡如何影响扩散模型的训练动态,揭示了类方差主导学习顺序,采样不平衡可逆转此顺序,且少数类学习延迟。