arXivDaily arXiv每日学术速递 周一至周五更新
arXiv 2304.05907cs.LGcs.AIcs.NAmath.NA
收藏

具有位置-尺度噪声的扩散模型

Diffusion models with location-scale noise

Samsung - SAIT AI Lab, Montreal(三星SAIT人工智能实验室(蒙特利尔));Mila(米拉人工智能研究所);McGill University(麦吉尔大学);Simon Fraser University(西蒙菲莎大学);Radboud University(拉德堡德大学)

Alexia Jolicoeur-Martineau, Kilian Fatras, Ke Li, Tal Kachman

AI总结:

本文构建了支持非高斯位置-尺度噪声的扩散模型逆转框架,并证明高斯噪声在拉普拉斯、均匀、t及广义高斯等分布中生成效果最佳。

摘要:

扩散模型(DMs)是强大的生成模型,它们向数据添加高斯噪声并学习去除该噪声。我们希望确定在扩散模型中哪种噪声分布(高斯或非高斯)能产生更好的生成数据。由于扩散模型在设计上无法直接使用非高斯噪声,我们构建了一个框架,允许逆转具有非高斯位置-尺度噪声的扩散过程。我们利用该框架证明,在广泛的其它分布(拉普拉斯分布、均匀分布、t分布、广义高斯分布)中,高斯分布表现最佳。

英文摘要:

Diffusion Models (DMs) are powerful generative models that add Gaussian noise to the data and learn to remove it. We wanted to determine which noise distribution (Gaussian or non-Gaussian) led to better generated data in DMs. Since DMs do not work by design with non-Gaussian noise, we built a framework that allows reversing a diffusion process with non-Gaussian location-scale noise. We use that framework to show that the Gaussian distribution performs the best over a wide range of other distributions (Laplace, Uniform, t, Generalized-Gaussian).

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑