arXivDaily arXiv每日学术速递 周一至周五更新
arXiv 2602.04770cs.LGcs.CV
收藏

通过漂移进行生成建模

Generative Modeling via Drifting

MIT(麻省理工学院);Harvard University(哈佛大学)

Mingyang Deng, He Li, Tianhong Li, Yilun Du, Kaiming He

AI总结:

本文提出漂移模型,通过在训练过程中演进化分布实现一步生成,取得ImageNet上优异的生成效果。

摘要:

生成建模可以被表述为学习一个映射f,使得其推动分布与数据分布匹配。推动行为可以在推理时间迭代进行,例如在扩散和流基模型中。在本文中,我们提出了一种新的范式,称为漂移模型,该范式在训练过程中演进化推动分布,并自然地允许一步推理。我们引入了一个漂移场,它控制样本的移动,并在分布匹配时达到平衡。这导致了一个训练目标,使神经网络优化器能够演进化分布。在实验中,我们的一步生成器在256x256分辨率的ImageNet上取得了最先进的结果,其在潜在空间中的FID为1.54,在像素空间中的FID为1.61。我们希望我们的工作为高质量的一步生成开辟了新的机会。

英文摘要:

Generative modeling can be formulated as learning a mapping f such that its pushforward distribution matches the data distribution. The pushforward behavior can be carried out iteratively at inference time, for example in diffusion and flow-based models. In this paper, we propose a new paradigm called Drifting Models, which evolve the pushforward distribution during training and naturally admit one-step inference. We introduce a drifting field that governs the sample movement and achieves equilibrium when the distributions match. This leads to a training objective that allows the neural network optimizer to evolve the distribution. In experiments, our one-step generator achieves state-of-the-art results on ImageNet at 256 x 256 resolution, with an FID of 1.54 in latent space and 1.61 in pixel space. We hope that our work opens up new opportunities for high-quality one-step generation.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑