arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~
arXiv 2609.15193cs.LG

生成性漂移流的收敛速率:固定尺度障碍与多头加速

Convergence rates for generative drifting flows: fixed-scale obstructions and multihead acceleration

  • Centre de recherche en économie et statistique(经济与统计研究中心)
  • ENSAE, IP Paris(ENSAE,巴黎综合理工学院)
  • Département de Mathématiques et Applications(数学与应用数学系)
  • CNRS, École Normale Supérieure, PSL(法国国家科学研究中心,巴黎高等师范学院,巴黎文理研究大学)

机构由 AI 辅助整理,请以论文原文为准。

Arthur Stéphanovitch, Eddie Aamari

AI总结:

本文研究生成性漂移流的收敛速率,发现固定分辨率导致细尺度特征难以捕捉、收敛缓慢,提出多头方法融合多尺度信息,恢复指数收敛,为快速单步生成模型提供新路径。

AI中文摘要:

漂移模型为更快的生成式人工智能提供了一条有前景的途径:它们在训练期间执行渐进式传输,同时以单步生成新样本。本文探讨在引入有限数据或优化效应之前,理想条件下底层漂移过程能否快速收敛到目标分布。我们证明其收敛速率关键取决于如何处理空间尺度。在单一固定分辨率下,目标的细尺度特征可能变得几乎不可见,导致收敛极其缓慢。我们引入了一种多头方法,在连续分辨率范围内结合尺度归一化信息。我们证明该多头方法在标准参考分布附近恢复了指数收敛。这些结果将固定分辨率确定为关键瓶颈,并为更快的单步生成模型提供了一条简单途径。

英文摘要:

Drifting models offer a promising route to faster generative AI: they perform gradual transport during training, while generating new samples in a single step. This paper asks whether the underlying drifting process can converge rapidly to a target distribution under ideal conditions, before finite-data or optimization effects are introduced. We show that its convergence rate depends critically on how it handles spatial scale. With a single fixed resolution, fine-scale features of the target can become nearly invisible, leading to extremely slow convergence. We introduce a multihead approach that combines scale-normalized information across a continuum of resolutions. We prove that this multihead approach restores exponential convergence near standard reference distributions. These results identify fixed resolution as a key bottleneck and provide a simple route to faster one-step generative models.

↑