arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~
arXiv 1811.08968stat.MLcs.LG
收藏

扩散发散

Spread Divergence

University College London(伦敦大学学院)

Mingtian Zhang, Peter Hayes, Tom Bird, Raza Habib, David Barber

摘要:

对于具有不同支撑或未定义密度的分布$\mathbb{P}$和$\mathbb{Q}$,发散$\textrm{D}(\mathbb{P}||\mathbb{Q})$可能不存在。我们定义了一个扩散发散$\tilde{\textrm{D}}(\mathbb{P}||\mathbb{Q})$上修改的$\mathbb{P}$和$\mathbb{Q}$,并描述了存在这样的分歧的充分条件。我们演示了如何通过参数化和学习传播来最大限度地提高给定分歧的歧视能力。我们还给出了使用扩散发散来训练隐式生成模型的示例,包括线性模型(独立分量分析)和非线性模型(深度生成网络)。

英文摘要:

For distributions $\mathbb{P}$ and $\mathbb{Q}$ with different supports or undefined densities, the divergence $\textrm{D}(\mathbb{P}||\mathbb{Q})$ may not exist. We define a Spread Divergence $\tilde{\textrm{D}}(\mathbb{P}||\mathbb{Q})$ on modified $\mathbb{P}$ and $\mathbb{Q}$ and describe sufficient conditions for the existence of such a divergence. We demonstrate how to maximize the discriminatory power of a given divergence by parameterizing and learning the spread. We also give examples of using a Spread Divergence to train implicit generative models, including linear models (Independent Components Analysis) and non-linear models (Deep Generative Networks).

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑