arXivDaily arXiv每日学术速递 周一至周五更新
arXiv 2402.15345cs.LGstat.ML
收藏

傅里叶基密度模型

Fourier Basis Density Model

Google(谷歌公司);Google Research(谷歌研究院)

Alfredo De la Fuente, Saurabh Singh, Johannes Ballé

AI总结:

本文提出一种基于约束傅里叶基的轻量可端到端训练概率密度模型,在多模态一维密度拟合上以相近计算成本取得比深度因子分解模型更低的交叉熵,并在玩具压缩任务中验证了其有效性。

摘要:

我们引入了一种轻量级、灵活且可端到端训练的概率密度模型,该模型由受约束的傅里叶基参数化。我们评估了该模型在逼近一系列通常难以拟合的多模态一维密度时的性能。与文献[1]中引入的深度因子分解模型相比,我们的模型在相似的计算预算下取得了更低的交叉熵。此外,我们还在一个玩具压缩任务上评估了我们的方法,展示了其在学习压缩中的实用性。

英文摘要:

We introduce a lightweight, flexible and end-to-end trainable probability density model parameterized by a constrained Fourier basis. We assess its performance at approximating a range of multi-modal 1D densities, which are generally difficult to fit. In comparison to the deep factorized model introduced in [1], our model achieves a lower cross entropy at a similar computational budget. In addition, we also evaluate our method on a toy compression task, demonstrating its utility in learned compression.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑