Infinite Variational Autoencoder for Semi-Supervised Learning
The University of Adelaide（阿德莱德大学）
本文提出了一种无限变分自编码器（VAE），其容量可根据输入数据进行调整。这是使用混合模型来实现的，其中混合系数由Dirichlet过程建模，允许我们在执行推断时对系数进行积分。重要的是，这允许我们根据数据自动改变混合中自动编码器的数量。实验表明，我们的方法的灵活性，特别是半监督学习，只有少量的训练样本。
2016-11-24 cs.LG stat.ML
Dueling Decoders: Regularizing Variational Autoencoder Latent Spaces
Google Research（谷歌研究院）
变分自编码器学习无监督的数据表示，但这些模型经常收敛到最小值，无法保留有意义的语义信息。例如，具有自回归解码器的变分自编码器通常会崩溃为自解码器，在自解码器中，它们学会忽略编码器输入。在这项工作中，我们证明了添加辅助解码器来正则化潜在空间可以防止这种崩溃，但成功的辅助解码任务是依赖于域的。辅助解码器可以增加潜在空间中编码的语义信息量，并在重建中可见。变分自编码器的表示中的语义信息仅与其速率、失真或证据下限弱相关。与其他修改训练目标的流行策略相比，我们对潜在空间的正则化通常增加了语义信息内容。
2019-05-17 cs.LG stat.ML
Variational Autoencoder with Arbitrary Conditioning
Samsung AI Center Moscow（三星莫斯科人工智能中心）；Samsung-HSE Laboratory（三星-高等经济学院实验室）
我们提出了一个单一的神经概率模型的基础上变分自动编码器，可以条件的观察到的功能的任意子集，然后在“一枪”的其余功能的采样。特征可以是实值的和分类的。模型的训练由随机变分贝叶斯进行。对合成数据、特征填充和图像修复问题的实验评价表明了该方法的有效性和生成样本的多样性。
2019-06-27 cs.LG stat.ML
SGVAE: Sequential Graph Variational Autoencoder
Stanford University（斯坦福大学）
图的生成模型是众所周知的，但是许多现有的模型在可扩展性和表达性方面受到限制。我们提出了一种新的顺序图形变分自编码器直接操作的图形表示的数据。在我们的模型中，图的编码和解码分别被构建为顺序的解构和构建过程，从而能够学习潜在空间。循环数据集上的实验显示出希望，但强调需要放松节点排列的分布。
2019-12-17 cs.LG stat.ML
Improving Variational Autoencoder Estimation from Incomplete Data with Mixture Variational Families
University of Edinburgh（爱丁堡大学）；School of Informatics（信息学院）
针对不完整数据下VAE估计中后验复杂度增加的问题，提出基于有限变分混合和插补变分混合的两种策略，并通过实验证明其能有效提升估计准确性。
2024-06-27 cs.LG stat.ML
The Variational InfoMax AutoEncoder
University of Stirling（斯特灵大学）
变分自编码器（VAE）同时学习推理和生成模型，但这些模型中只有一个可以在最佳情况下学习，该行为与ELBO学习目标相关联，该ELBO学习目标由非信息生成器优化。为了解决这个问题，我们提供了一个学习目标，学习一个最大的信息生成器，同时保持有界的网络容量：变分InfoMax（VIM）。VIM推导的贡献是双重的：一个目标学习的最佳推理和生成模型和网络容量的明确定义，网络鲁棒性的估计。
2020-11-08 cs.LG stat.ML
PRI-VAE: Principle-of-Relevant-Information Variational Autoencoders
University of Florida（佛罗里达大学）；NEC Laboratories Europe（NEC欧洲实验室）
虽然大量的努力已经取得了学习解纠缠表示下的变分自编码器（VAE）的框架，大多数VAE模型的学习动力学的基本属性仍然是未知的和调查不足。在这项工作中，我们首先提出了一个新的学习目标，称为相关信息的原则变分自编码器（PRI-VAE），学习解开表示。然后，我们提出了一个信息理论的角度来分析现有的VAE模型，通过检查一些关键的信息理论量在训练时期的演变。我们的观察揭示了与VAE相关的一些基本性质。实证结果也证明了PRI-VAE的有效性在四个基准数据集。
2020-07-13 cs.LG stat.ML
Ladder Variational Autoencoders
University of Copenhagen（哥本哈根大学）；Aalto University（阿尔托大学）；Technical University of Denmark（丹麦技术大学）
变分自编码器是无监督学习的强大模型。然而，具有多层相关随机变量的深层模型难以训练，这限制了使用这些高度表达的模型所获得的改进。我们提出了一个新的推理模型，梯形变分自动编码器，递归地纠正生成分布的数据依赖的近似似然在一个过程中，类似于最近提出的梯形网络。我们表明，与分层变分自动编码器和其他生成模型中的纯自下而上的推理相比，该模型提供了最先进的预测对数似然和更严格的对数似然下限。我们提供了一个详细的分析，学习层次的潜在表示，并表明我们的新的推理模型是质的不同，并利用更深的更分布式层次的潜在变量。最后，我们观察到批量归一化和确定性预热（逐渐打开KL项）对于训练具有许多随机层的变分模型至关重要。
2016-05-27 cs.LG stat.ML
Least Square Variational Bayesian Autoencoder with Regularization
Indian Institute of Science, Bangalore（印度科学院）
近年来，变分自编码器（Variational Autoencoder，VAE）已成为复杂分布的最流行的无监督学习方法之一，与传统的自编码器相比，它具有更好的重构性能。变分自动编码器比MCMC有更好的近似性。VAE定义了一个生成过程，通过隐藏的随机层级联的祖先采样。它们是有向的图形模型。训练变分自动编码器以最大化变分下限。在这里，我们试图最大化可能性，同时我们也试图对数据进行良好的近似。它基本上是交易的数据对数似然和库尔贝克-莱布勒散度从真正的后验。本文描述的情况下，我们希望找到一个点估计的参数$θ$的一些参数模型中，我们产生的每个观察，首先采样的本地潜在变量，然后采样相关的观察。在这里，我们使用正则化的最小二乘损失函数在图像的重建，最小二乘损失函数被发现可以提供更好的重建图像，并具有更快的训练时间。
2017-07-11 cs.LG stat.ML
Tutorial on Variational Autoencoders
Carnegie Mellon（卡内基梅隆大学）；UC Berkeley（加州大学伯克利分校）
在短短三年的时间里，变分自编码器（VAE）已经成为复杂分布无监督学习的最流行方法之一。VAE之所以吸引人，是因为它们建立在标准函数逼近器（神经网络）之上，并且可以用随机梯度下降进行训练。VAE已经在生成许多类型的复杂数据方面显示出了希望，包括手写数字、人脸、门牌号、CIFAR图像、场景的物理模型、分割以及从静态图像预测未来。本教程介绍VAE背后的直觉，解释它们背后的数学，并描述一些经验行为。假设变分贝叶斯方法没有先验知识。
2021-01-03 cs.LG stat.ML
Molecular generative model based on conditional variational autoencoder for de novo molecular design
KAIST（韩国科学技术院）
我们提出了一个基于条件变分自编码器的分子生成模型，用于从头分子设计。它专门通过将多个分子特性施加在潜在空间上来同时控制它们。作为概念证明，我们证明了它可以用于产生具有五个目标特性的药物样分子。我们还能够在不改变其他属性的情况下调整单个属性，并在数据集范围之外对其进行操作。
2018-06-15 cs.LG stat.ML
Variational Autoencoders with Normalizing Flow Decoders
National Chiao Tung University（国立交通大学）
最近提出的归一化流模型，如辉光已被证明能够生成高质量，高维图像与相对较快的采样速度。然而，由于它们固有的限制性结构，它们必须非常深，以便有效地进行训练。在本文中，我们建议结合辉光与底层的变分自编码器，以抵消这个问题。我们证明了我们提出的模型在图像质量和测试可能性方面与Glow具有竞争力，同时需要更少的训练时间。
2020-04-12 cs.LG stat.ML
Diffusion Variational Autoencoders
Eindhoven University of Technology（埃因霍温理工大学）
具有欧几里得潜在空间的标准变分自编码器在结构上不能捕获某些数据集的拓扑特性。为了消除拓扑障碍，我们引入了扩散变分自编码器与任意流形作为潜在空间。扩散变分自编码器使用流形上布朗运动的过渡核。特别是，它使用布朗运动的性质来实现重新参数化技巧和快速逼近KL散度。我们证明了扩散变分自编码器能够捕获合成数据集的拓扑特性。此外，我们训练MNIST球，环面，射影空间，SO（3），和一个环面嵌入R3。虽然像MNIST这样的自然数据集没有具有明确拓扑结构的潜在变量，但在流形上训练它仍然可以突出拓扑和几何属性。
2019-03-28 cs.LG stat.ML
Symmetric Variational Autoencoder and Connections to Adversarial Learning
Duke University（杜克大学）
提出了一种基于对称库尔贝克-莱布勒散度的变分自编码器（VAE）。结果表明，学习所产生的对称VAE（SVAE）有密切的联系，以前开发的对抗学习方法。这种关系有助于统一VAE和对抗学习的先前不同的技术，并提供见解，使我们能够改善一些先前开发的对抗方法的缺点。除了激励和解释sVAE的分析外，一组广泛的实验验证了该方法的实用性。
2017-10-19 cs.LG stat.ML
Beyond Vanilla Variational Autoencoders: Detecting Posterior Collapse in Conditional and Hierarchical Variational Autoencoders
FPT Software AI Center（FPT软件AI中心）；National University of Singapore（新加坡国立大学）；University of Texas at Austin（德克萨斯大学奥斯汀分校）
本研究针对标准VAE之外后验坍缩理论不完善的问题，拓展了条件VAE和分层VAE的后验坍缩理论，分析了两类模型的坍缩成因，并通过实验验证理论对线性及非线性场景的有效性。
2024-05-13 cs.LG stat.ML
Inference Suboptimality in Variational Autoencoders
Department of Computer Science, University of Toronto（多伦多大学计算机科学系）
分期推理允许通过变分学习训练的潜变量模型扩展到大型数据集。近似推理的质量由两个因素决定：a）变分分布匹配真实后验的能力和b）识别网络为每个数据点产生良好变分参数的能力。我们研究近似推理变分自编码器在这些因素。我们发现，从真正的后验发散往往是由于不完善的识别网络，而不是有限的复杂性的近似分布。我们表明，这部分是由于发电机学习，以适应近似的选择。此外，我们表明，用于增加近似的表达能力的参数在推广推理中发挥作用，而不是简单地提高近似的复杂性。
2018-05-27 cs.LG stat.ML
Biadversarial Variational Autoencoder
Department of Computer Science（计算机科学系）；Ecole Polytechnique（巴黎综合理工学院）；Palaiseau, FRANCE（帕莱索，法国（注：此为地址信息，按要求不应提取，此处原HTML可能存在格式错误，正确机构应为前两个））
在变分自编码器的原始版本中，Kingma等人假设在推理期间的近似后验和在生成过程期间的输出为高斯分布。这个假设对于计算来说是很好的，例如，我们可以很容易地使用重新参数化技巧来优化神经网络的参数，并且可以以封闭形式计算两个高斯之间的KL散度。然而，由于其难以表示多峰分布，因此导致模糊图像。我们证明了使用两个对抗网络，我们可以在没有任何高斯假设的情况下优化参数。
2019-02-12 cs.LG stat.ML
Quantifying the Effects of Enforcing Disentanglement on Variational Autoencoders
University of Cambridge（剑桥大学）
通过引入解纠缠参数$β$，控制施加在潜在表征上的学习压力，提出了解纠缠自编码器的概念，作为变分自编码器的扩展.对于$β$的某些值，这种自动编码器能够在代码的单独元素中编码独立的输入生成因子，从而导致更可解释和可预测的模型行为。在本文中，我们量化的参数$β$的模型性能和退纠缠的影响。在训练多个具有相同$β$值的模型后，我们建立了文献中提出的一种解纠缠措施中的一致方差的存在性。解纠缠对自动编码器的辨别能力的负面影响也被断言，同时改变训练期间可用的示例量。
2017-11-24 cs.LG stat.ML
Scalable Gaussian Process Variational Autoencoders
ETH Zürich（苏黎世联邦理工学院）；University of Cambridge（剑桥大学）；University of Warwick（华威大学）；University of California, Irvine（加州大学欧文分校）
传统的变分自动编码器由于使用因子分解先验而无法对数据点之间的相关性进行建模。通过GP-VAE的摊销高斯过程推理在这方面已经得到了显著的改善，但仍然受到精确GP推理的内在复杂性的抑制。我们通过原则性稀疏推理方法提高了这些方法的可扩展性。我们提出了一个新的可扩展的GP-VAE模型，在运行时间和内存占用方面优于现有的方法，易于实现，并允许所有组件的联合端到端优化。
2021-02-24 cs.LG stat.ML
A Variational Autoencoder for Probabilistic Non-Negative Matrix Factorisation
University of Southampton（南安普顿大学）
我们介绍并证明了变分自编码器（VAE）的概率非负矩阵分解（PAE-NMF）。我们设计了一个网络，它可以执行非负矩阵分解（NMF），并添加在VAE的方面，使潜在空间的概率系数。通过将网络最后一层的权重限制为非负，并使用非负威布尔分布，我们产生了一种概率形式的NMF，它允许我们生成新的数据，并找到一个有效地将潜在变量和输入变量联系起来的概率分布。我们证明了PAE-NMF在三个异构数据集上的有效性：图像，金融时间序列和基因组。
2019-06-13 cs.LG stat.ML
DVAE#: Discrete Variational Autoencoders with Relaxed Boltzmann Priors
D-Wave Systems Inc.（D-Wave系统公司）
玻尔兹曼机是一种强大的分布，已经被证明是变分自动编码器（VAE）中二进制潜变量的有效先验。然而，以前用于训练离散VAE的方法使用了证据下限，而不是更严格的重要性加权界限。我们提出了两种方法放松玻尔兹曼机的连续分布，允许训练与重要性加权的界限。这些松弛是基于广义重叠变换和高斯积分技巧。MNIST和OMNIGLOT数据集上的实验表明，这些弛豫优于以前的离散VAE与玻尔兹曼先验。可在www.example.com上获得再现这些结果的实现。
2018-10-15 cs.LG stat.ML
tvGP-VAE: Tensor-variate Gaussian Process Prior Variational Autoencoder
University of Cambridge（剑桥大学）；The Alan Turing Institute（艾伦·图灵研究所）
变分自编码器（VAE）是一类强大的深度生成潜变量模型，用于高维数据的无监督表示学习。为了确保计算的易处理性，VAE通常使用单变量标准高斯先验和平均场高斯变分后验分布来实现。这导致向量值潜在变量与原始数据结构无关，原始数据结构可能在多个维度之间和多个维度内高度相关。我们提出了一个张量变量扩展的VAE框架，张量变量高斯过程先验变分自编码器（tvGP-VAE），它取代了标准的单变量高斯先验和后验分布与张量变量高斯过程。tvGP-VAE能够通过在张量值潜变量的维度上使用核函数来显式地对相关结构进行建模。使用时空相关的图像时间序列作为一个例子，我们表明，选择相关结构显式地表示在潜在的空间有一个显着的影响模型的重建性能。
2020-06-08 cs.LG stat.ML
Dynamic Joint Variational Graph Autoencoders
York University（约克大学）
学习网络表示是许多图应用的基本任务，例如链接预测、节点分类、图聚类和图可视化。许多现实世界的网络被解释为动态网络，并随着时间的推移而演变。现有的图嵌入算法大多是针对静态图开发的，无法捕捉大型动态网络的演化过程。在本文中，我们提出了动态联合变分图自动编码器（Dyn-VGAE），可以学习动态网络中的局部结构和时间演化模式。Dyn-VGAE提供了一个联合学习框架，用于同时计算所有图快照的时间表示。每个自动编码器都基于其局部结构嵌入一个图快照，并且还可以通过与其他自动编码器协作来学习时间依赖性。在真实动态图数据集上进行了实验研究，结果表明了该方法的有效性。
2019-10-04 cs.LG stat.ML
VACA: Design of Variational Graph Autoencoders for Interventional and Counterfactual Queries
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；Saarland University（萨尔大学）
在本文中，我们介绍了VACA，一类新的变分图自编码器的因果推断在没有隐藏的混杂因素，只有观测数据和因果图。在不做任何参数假设的情况下，VACA模拟了结构因果模型（SCM）的必要属性，为近似干预（do-operator）和外展-动作-预测步骤提供了一个灵活实用的框架。因此，正如我们的实证结果所示，VACA准确地近似了不同SCM上的干预和反事实分布。最后，我们应用VACA来评估公平分类问题中的反事实公平性，以及在不影响性能的情况下学习公平分类器。
2021-10-27 cs.LG stat.ML
DefenseVGAE: Defending against Adversarial Attacks on Graph Data via a Variational Graph Autoencoder
Peking University（北京大学）
图神经网络（GNNs）在处理图数据的任务时具有显著的性能。然而，最近的研究表明，它们非常容易受到对抗性结构扰动的影响，使得它们的结果不可靠。在本文中，我们提出了DefenseVGAE，这是一个利用变分图自编码器（VGAE）来保护GNN免受此类攻击的新框架。DefenseVGAE被训练来重建图结构。重构的邻接矩阵可以降低对抗干扰的影响，提高GCN在面对对抗攻击时的性能。我们在一些数据集上的实验表明，所提出的方法在各种威胁模型下的有效性。在某些情况下，它优于现有的防御策略。我们的代码已在https://github.com/zhangao520/defense-vgae上公开发布。
2020-06-16 cs.LG stat.ML
Gaussian Copula Variational Autoencoders for Mixed Data
Pohang University of Science and Technology（浦项科技大学）
变分自编码器（VAE）是一种具有连续潜变量的生成模型，其中一对概率编码器（自下而上）和解码器（自上而下）通过随机梯度变分贝叶斯联合学习。我们首先阐述高斯VAE，近似的本地协方差阵的解码器作为一个外积的主方向在一个位置确定的样本从高斯分布。我们表明，该模型，称为VAE-ROC，更好地捕捉数据流形，相比标准的高斯VAE独立的多变量高斯被用来模拟解码器。然后，我们扩展VAE-ROC处理混合分类和连续数据。为此，我们采用高斯copula模型的局部依赖混合分类和连续数据，导致{ \em高斯copula变分自动编码器}（GCVAE）。在VAE-ROC中，我们使用高斯copula中协方差的秩一近似来捕获混合数据中的局部依赖结构。在各种数据集上的实验证明了VAE-ROC和GCVAE与标准VAE相比的有用行为。
2016-04-18 cs.LG stat.ML
Asymmetric Variational Autoencoders
Carnegie Mellon University（卡内基梅隆大学）
潜变量模型的变分推理在各种机器学习问题中普遍存在，通常通过最大化关于变分分布的真实数据似然的证据下限（ELBO）来解决。然而，自由丰富的家庭变分分布是具有挑战性的，因为ELBO需要变分似然评估的潜在变量。在本文中，我们提出了一个新的框架，以丰富的变分家庭将辅助变量的变分家庭。所得到的推理网络不需要对辅助变量进行密度估计，因此可以通过神经网络来构造辅助变量上的复杂隐式密度。结果表明，该方法实际的变分后验本质上是对由辅助变量索引的简单变分后验的丰富概率混合进行建模，从而可以建立灵活的推理模型.对几个密度估计任务的实证评估表明了该方法的有效性。
2018-07-09 cs.LG stat.ML
DVAE++: Discrete Variational Autoencoders with Overlapping Transformations
D-Wave Systems Inc.
离散潜变量模型的训练仍然具有挑战性，因为通过离散单元传递梯度信息是困难的。我们提出了一类新的平滑变换的基础上的混合物的两个重叠的分布，并表明，所提出的变换可用于训练二进制潜在模型，无论是有向或无向先验。我们推导出一个新的变分约束，以有效地训练与玻尔兹曼机的先验。使用这个界限，我们开发了DVAE++，这是一个具有全局离散先验和卷积连续变量层次的生成模型。在几个基准上的实验表明，重叠变换优于离散潜变量的其他最近的连续松弛，包括Gumbel-Softmax（Maddison等人，2016; Jang等人，2016）和离散变分自编码器（Rolfe 2016）。
2018-05-25 cs.LG stat.ML
Variational autoencoders for tissue heterogeneity exploration from (almost) no preprocessed mass spectrometry imaging data
本文介绍了变分自编码器（VAE）在质谱成像数据（MSI）降维和探索性分析中的应用。结果证实，VAE能够检测与不同组织亚型相关的模式，其性能优于标准方法。
2017-08-24 cs.LG q-bio.QM stat.ML
Data Augmentation with Variational Autoencoders and Manifold Sampling
Université de Paris（巴黎大学）；INRIA（法国国家信息与自动化研究所）；Centre de recherche des Cordeliers（科德利埃研究中心）；INSERM（法国国家健康与医学研究院）；Sorbonne Université（索邦大学）
我们提出了一种新的有效的方法来采样从可变自动编码器在具有挑战性的低样本量设置。这种方法特别适合在这样一个低数据制度进行数据增强，并在各种标准和现实生活中的数据集进行验证。特别是，该方案可以大大提高OASIS数据库上的分类结果，其中平衡准确度从使用原始数据训练的分类器的80.7%跃升至仅使用我们的方法生成的合成数据训练时的88.6%。在3个标准数据集和其他分类器上也观察到这样的结果。代码可在https://github.com/clementchadebec/Data_Augmentation_with_VAE-DALI上获得。
2021-09-28 cs.LG stat.ML
GCVAE: Generalized-Controllable Variational AutoEncoder
Mines Saint-Etienne（圣艾蒂安国立高等矿业学校）；Univ Clermont Auvergne（克莱蒙奥弗涅大学）；INP Clermont Auvergne（克莱蒙奥弗涅国立理工学院）；CNRS（法国国家科学研究中心）
变分自动编码器（VAE）最近已被用于复杂密度分布的无监督解纠缠学习。存在许多变体来鼓励在潜在空间中解开纠缠，同时改善重建。然而，没有一个同时管理之间的权衡实现极低的重建误差和高的解纠缠分数。我们提出了一个通用的框架来处理约束优化下的这一挑战，并证明它优于最先进的现有模型，同时平衡重建的解纠缠。我们引入三个可控的拉格朗日超参数来控制重构损失、库尔贝克-莱布勒散度损失和相关性测度。我们证明了在合理的假设和约束松弛条件下，重构网络中的信息最大化等价于摊销推理中的信息最大化。
2022-06-09 cs.LG stat.ML
A Case for the Score: Identifying Image Anomalies using Variational Autoencoder Gradients
German Cancer Research Center (DKFZ)（德国癌症研究中心）
通过对未标记数据的训练，异常检测有可能通过勾勒可疑区域来影响计算机辅助诊断。以前关于基于深度学习的异常检测的工作主要集中在重建误差上。相反，我们认为，从基于变分自动编码器的分数近似得到的像素异常评级在理论上更有根据，更可靠。在我们的实验中，基于变分自动编码器梯度的评级在BraTS-2017数据集上的无监督像素肿瘤检测方面优于其他方法，ROC-AUC为0.94。
2019-11-28 cs.LG eess.IV stat.ML
Semi-Amortized Variational Autoencoders
Harvard University（哈佛大学）；Massachusetts Institute of Technology（麻省理工学院）
摊销变分推断（AVI）用全局推理网络代替特定于实例的局部推理。虽然AVI已经实现了深度生成模型（如变分自编码器（VAE））的有效训练，但最近的经验研究表明，推理网络可能会产生次优的变分参数。我们提出了一种混合的方法，使用AVI初始化变分参数和运行随机变分推断（SVI）来完善它们。最重要的是，局部SVI过程本身是可微的，因此推理网络和生成模型可以通过基于梯度的优化进行端到端的训练。这种半摊销方法可以使用丰富的生成模型，而不会遇到在训练VAE时常见的后崩溃现象，例如文本生成。实验表明，该方法在标准文本和图像数据集上的性能优于强自回归和变分基线。
2018-07-23 cs.CL cs.LG stat.ML
Adversarial Variational Bayes: Unifying Variational Autoencoders and Generative Adversarial Networks
MPI Tübingen（图宾根马普研究所）；Microsoft Research Cambridge（微软剑桥研究院）；ETH Zürich（苏黎世联邦理工学院）
变分自编码器（VAE）是一种表达性的潜变量模型，可用于从训练数据中学习复杂的概率分布。然而，最终模型的质量主要依赖于推理模型的表达能力。我们介绍了对抗变分贝叶斯（AVB），一种用于训练具有任意表达推理模型的变分自编码器的技术。我们通过引入一个辅助判别网络来实现这一目标，该网络允许将最大似然问题重新表述为两人游戏，从而在VAE和生成对抗网络（GANs）之间建立原则性联系。我们表明，在非参数限制，我们的方法产生一个确切的最大似然分配的生成模型的参数，以及确切的后验分布的潜变量给定的观察。与将VAE与GANs相结合的竞争方法相反，我们的方法具有明确的理论依据，保留了标准变分自编码器的大多数优点，并且易于实现。
2018-06-11 cs.LG
Factorized Gaussian Process Variational Autoencoders
ETH Zürich（苏黎世联邦理工学院）；Warwick University（华威大学）
变分自动编码器通常假设各向同性高斯先验和平均场后验，因此在我们可能期望潜在变量之间的相似性或一致性的情况下不会利用结构。高斯过程变分自编码器通过使用潜在的高斯过程来缓解这个问题，但是导致立方推理时间复杂度。我们提出了一个更可扩展的扩展这些模型，利用独立的辅助功能，这是目前在许多数据集。我们的模型在不同的维度上分解了这些特征的潜在内核，导致了显着的加速（理论和实践），同时根据经验对现有的不可扩展方法进行了改进。此外，我们的方法允许额外的全球潜在信息的建模和更一般的外推到看不见的输入组合。
2020-11-14 cs.CV cs.LG stat.ML
InfoVAE: Information Maximizing Variational Autoencoders
Computer Science Department, Stanford University（斯坦福大学计算机科学系）
学习生成模型的一个关键进步是使用与模型联合训练的摊销推理分布。我们发现，现有的训练目标变分自编码器可能会导致不准确的摊销推理分布，在某些情况下，提高目标可证明降低推理质量。另外，已经观察到，当与过于灵活的解码分布组合时，变分自编码器倾向于忽略潜在变量。我们再次确定现有的培训标准的原因，并提出了一个新的类的目标（InfoVAE），以减轻这些问题。我们表明，我们的模型可以显着提高质量的变分后验，并可以有效地利用潜在的功能，无论解码分布的灵活性。通过广泛的定性和定量分析，我们证明了我们的模型在多个性能指标上优于竞争方法。
2018-05-30 cs.AI cs.LG stat.ML
Inducing Interpretable Representations with Variational Autoencoders
University of Oxford（牛津大学）；Northeastern University（东北大学）；Stanford University（斯坦福大学）；Microsoft Research（微软研究院）
我们开发了一个框架，将结构化的图形模型的变分自编码器（VAE）的\emph{encoders}，使我们能够通过近似变分推断诱导可解释的表示。这使得我们既可以在给定图形模型的结构约束下执行推理（例如分类），又可以使用深度生成模型来处理混乱的高维域，在这些域中通常很难对所有变化进行建模。在这个框架中的学习是端到端进行的，具有变分目标，适用于无监督和半监督方案。
2016-11-22 cs.CV cs.LG stat.ML
Variational Autoencoders Without the Variation
University of Exeter（埃克塞特大学）；College of Engineering, Mathematics and Physical Sciences（工程、数学与物理科学学院）
变分自动编码器（VAE）是生成式建模的一种流行方法。然而，在实践中利用VAE的能力可能是困难的。最近关于正则化和熵自动编码器的工作已经开始探索生成建模的潜力，即去除变分方法并返回到经典的确定性自动编码器（DAE），并使用额外的新正则化方法。在本文中，我们经验性地探讨了DAE的能力，无需额外的新方法和大型网络的隐式正则化和平滑的影响图像生成。我们发现DAE可以成功地用于图像生成，而无需额外的损失项，并且当在CIFAR-10和CelebA上训练时，VAE的许多有用属性可以隐含地从足够大的卷积编码器和解码器中产生。
2022-03-01 cs.CV cs.LG stat.ML
A lower bound for the ELBO of the Bernoulli Variational Autoencoder
Fraunhofer ITWM（弗劳恩霍夫工业数学研究所）；Technical University of Kaiserslautern（凯泽斯劳滕工业大学）
我们考虑一个二进制数据的变分自编码器（VAE）。我们的主要创新是其训练目标的可解释的下限，这种VAE的修改的初始化和架构，导致更快的训练，以及通过使用PCA找到潜在空间的适当维度的决策支持。数值例子说明了我们的理论结果和性能的新架构。
2020-03-26 cs.LG math.ST stat.ML
Unbalanced GANs: Pre-training the Generator of Generative Adversarial Network using Variational Autoencoder
KAIST（韩国科学技术院）；Asan Medical Center（峨山医学中心）
我们提出了非平衡GANs，它使用变分自编码器（VAE）预训练生成对抗网络（GAN）的生成器。我们保证稳定的训练的发生器，防止更快的收敛速度在早期时期。此外，我们在早期阶段在生成器和训练器之间进行平衡，从而保持GANs的稳定训练。我们将不平衡的GANs应用于众所周知的公共数据集，发现不平衡的GANs减少了模式坍塌。我们还表明，不平衡的GANs在稳定的学习，更快的收敛和更好的图像质量方面优于普通的GANs。
2020-02-06 cs.CV cs.LG stat.ML
Sequential Variational Autoencoders for Collaborative Filtering
ICAR-CNR（意大利国家研究委员会计算应用研究所）
变分自编码器在计算机视觉和语音处理等领域被证明是成功的。它们用于建模用户偏好的采用仍然未被探索，尽管最近它开始在当前的文献中获得关注。在这项工作中，我们提出了一个模型，扩展变分自编码器，利用丰富的信息，在过去的偏好历史。我们引入了一个递归版本的VAE，而不是通过整个历史的一个子集，而不管时间依赖性，我们宁愿通过一个递归神经网络的消费序列子集。在RNN的每个时间步，序列通过一系列完全连接的层进行馈送，其输出模拟了最有可能的未来偏好的概率分布。我们表明，处理时间信息对于提高VAE的准确性至关重要：事实上，我们的模型击败了当前最先进的有价值的利润，因为它能够使用递归编码器捕获用户消费序列之间的时间依赖关系，仍然保持变分自编码器的基本原理不变。
2018-11-25 cs.IR cs.LG stat.ML
Isolating Sources of Disentanglement in Variational Autoencoders
University of Toronto（多伦多大学）；Vector Institute（向量研究所）
我们分解的证据下限，以显示存在一个术语测量的总相关性之间的潜变量。我们使用这一点来激励我们的$β$ -TCVAE（总相关变分自编码器），这是对最先进的$β$ -VAE目标的改进，用于学习解纠缠表示，在训练过程中不需要额外的超参数。我们进一步提出了一个原则性的分类器免费措施的解纠缠称为互信息差距（GIP）。我们进行了广泛的定量和定性实验，在限制和非限制的设置，并显示了强相关性和解纠缠之间的关系，当潜变量模型使用我们的框架进行训练。
2019-04-23 cs.AI cs.LG stat.ML
Variational Autoencoder-Based Vehicle Trajectory Prediction with an Interpretable Latent Space
Technische Hochschule Ingolstadt（英戈尔施塔特应用技术大学）；AUDI AG（奥迪股份公司）
本文介绍了描述性变分自编码器（DVAE），一个无监督和端到端的可训练神经网络预测车辆轨迹，提供部分可解释性。新方法是基于常见的变分自编码器的架构和目标。通过在自动编码器的解码器部分中引入专家知识，编码器学习提取潜在参数，这些参数提供人类术语中可理解的含义。这样一个可解释的潜在空间，使专家定义的规则集的验证。DVAE的评估是使用公开的高速公路交通场景的高D数据集进行的。与具有相同复杂度的传统变分自编码器相比，所提出的模型提供了类似的预测精度，但具有可解释的潜在空间的巨大优势。对于关键的决策制定和评估预测的可信度，这个属性是非常可取的。
2021-06-24 cs.LG
Variational Autoencoder Layer
提出将变分自编码器作为神经网络层集成，并设计新训练策略，分析其性能。
2026-07-07 cs.LG
Robust Variational Autoencoder
University of Southern California（南加州大学）；Stevens Institute of Technology（史蒂文斯理工学院）
机器学习方法通常需要大量的标记训练数据。由于训练数据被假设为地面实况，离群值会严重降低学习的表示和训练模型的性能。在这里，我们应用鲁棒统计的概念，推导出一种新的变分自动编码器，它对训练数据中的离群值具有鲁棒性。变分自动编码器（VAE）提取低维编码特征表示，我们可以从中生成新的数据样本。当使用损坏的训练数据时，自动编码器对离群值的鲁棒性对于在编码空间中生成特定数据类型的可靠表示至关重要。我们的鲁棒VAE是基于β发散，而不是标准的Kullback-Leibler（KL）发散。我们提出的下限导致RVAE模型，具有相同的计算复杂度的VAE，并包含一个单一的调整参数来控制鲁棒性的程度。我们证明了我们的$β$发散为基础的自动编码器的一系列图像数据集的性能，提高了鲁棒性离群定性和定量。我们还说明了使用我们强大的VAE离群值检测。
2019-12-21 cs.LG eess.IV stat.ML
Joint Variational Autoencoders for Recommendation with Implicit Feedback
Ontario Tech University（安大略理工大学）
变分自编码器（VAE）最近在隐式反馈的协同过滤中表现出很好的性能。这些现有的推荐模型学习用户表示来重建或预测用户偏好。我们介绍了联合变分自编码器（JoVA），两个VAE的合奏，其中VAE共同学习用户和项目表示，并共同重建和预测用户的喜好。这种设计允许JoVA同时捕获用户-用户和项目-项目的相关性。通过使用基于铰链的成对损失函数（JoVA-Hinge）扩展JoVA的目标函数，我们进一步将其专门用于具有隐式反馈的top-k推荐。我们在几个真实世界数据集上的广泛实验表明，在各种常用指标下，JoVA-Hinge的性能优于一系列最先进的协同过滤方法。我们的实证结果也证实了JoVA铰链优于现有的方法，冷启动用户与有限数量的训练数据。
2020-08-17 cs.IR cs.LG stat.ML
Multi-Adversarial Variational Autoencoder Networks
University of California, Los Angeles（加州大学洛杉矶分校）
GANs和VAE的无监督训练使它们能够生成模仿真实世界分布的逼真图像，并执行基于图像的无监督聚类或半监督分类。结合这两种生成模型的功能，我们引入了多对抗变分自编码器网络（MAVEN），这是一种新型的网络架构，在VAE-GAN网络中集成了一系列鉴别器，同时具有对抗学习和变分推理。我们应用MAVENs的合成图像的生成，并提出了一个新的分布措施来量化生成的图像的质量。我们的实验结果使用来自计算机视觉和医学成像领域的数据集--街景门牌号，CIFAR-10和胸部X射线数据集-在图像生成和分类任务中表现出与最先进的半监督模型相比的竞争力。
2019-06-14 cs.CV cs.LG stat.ML
Learning Weighted Submanifolds with Variational Autoencoders and Riemannian Variational Autoencoders
Stanford University（斯坦福大学）
流形值数据自然出现在医学成像中。例如，在认知神经科学中，大脑连接组对不同大脑区域之间的共激活模式的分析是基于对功能性磁共振成像（fMRI）时间序列相关性的分析--这一对象因此受到结构的限制，属于对称正定矩阵的流形。自然产生的挑战之一是找到一个低维子空间来表示这种流形值数据。传统的技术，如主成分分析，不适合处理非欧几里德空间，并且可能无法实现数据的低维表示-因此可能指向缺乏数据的低维表示。然而，这些技术的限制在于：（i）它们不利用连接体属于预先指定的流形的假设，因此丢弃信息;（ii）它们只能将线性子空间拟合到数据。在本文中，我们感兴趣的变体学习潜在的高度弯曲的流形值数据的子流形。受大脑连接体例子的启发，我们研究了一个潜在变量生成模型，它具有为我们提供不确定性估计的额外好处-这是我们正在考虑的医学应用中的一个关键数量。虽然潜变量模型已经被提出来学习欧几里得数据的线性和非线性空间，或流形数据的测地线子空间，但不存在内在潜变量模型来学习流形数据的非测地线子空间。本文填补了这一空白，并制定了一个黎曼变分自动编码器与流形值数据的内在生成模型。我们通过引入加权黎曼子流形的形式来评估它在合成数据集和真实数据集上的性能。
2019-11-19 cs.LG math.DG stat.ML
ED-VAE: Entropy Decomposition of ELBO in Variational Autoencoders
University of Leoben（莱奥本大学）；Chair of Cyber-Physical Systems（网络物理系统讲席）
针对传统VAE受ELBO公式限制、难以适配复杂先验且生成与可解释性不足的问题，提出ED-VAE，通过显式引入熵和交叉熵重构ELBO，提升模型灵活性、潜在空间可解释性与生成性能。
2024-07-09 cs.AI cs.LG stat.ML
A Hybrid Variational Autoencoder for Collaborative Filtering
Columbia University（哥伦比亚大学）
在当今时代，几乎每个行业都有在线存在，用户在在线市场中进行交互，个性化推荐变得非常重要。传统上，协同过滤的问题已经解决了使用矩阵分解，这是线性的性质。我们通过提出一种混合的多模态方法，扩展了[11]关于使用变分自编码器（VAE）进行隐式反馈的协同过滤的工作。我们的方法将电影嵌入（从兄弟VAE网络中学习）与Movielens 20M数据集的用户评级相结合，并将其应用于电影推荐任务。我们实证展示了VAE网络是如何通过将电影嵌入。我们还可视化的电影和用户嵌入聚类从VAE获得的潜在表示。
2018-09-23 cs.IR cs.LG stat.ML
Quasi-symplectic Langevin Variational Autoencoder
Inria Sophia Antipolis（索菲亚·安提波利斯法国国家信息与自动化研究所）；University Côte d’Azur（蔚蓝海岸大学）
变分自编码器（VAE）是神经学习研究中一个非常流行和研究的生成模型。为了将VAE应用于处理大规模数据集的实际任务中，需要处理低方差证据下限（ELBO）的困难。马尔可夫链蒙特卡罗（MCMC）是一种有效的方法来收紧ELBO近似的后验分布和汉密尔顿变分自动编码器（HVAE）是一种有效的MCMC启发的方法来构建一个低方差ELBO，是服从重新参数化技巧。HVAE适应的哈密顿动态流到变分推断，显着提高后验估计的性能。在这项工作中，我们提出了一个Langevin动态流为基础的推理方法，通过Langevin动态，这是一种基于MCMC的方法类似于HVAE的推理过程中的梯度信息。具体地说，我们采用了一个准辛积分，以应付在朴素朗之万流的海森计算的禁止问题。我们展示了所提出的框架与其他基于梯度流的方法的理论和实际有效性。
2021-05-27 cs.AI cs.LG stat.ML
GLSR-VAE: Geodesic Latent Space Regularization for Variational AutoEncoder Architectures
Université Pierre et Marie Curie（皮埃尔和玛丽·居里大学）；Sony CSL（索尼计算机科学研究所）；École Polytechnique（巴黎综合理工学院）
VAE（变分自编码器）已被证明在密度建模的背景下是强大的，并已被用于各种背景下的创造性目的。在许多情况下，我们建模的数据具有连续属性，我们希望在生成时考虑这些属性。我们在本文中提出了GLSR-VAE，一个测地线潜在空间正则化的变分自编码器架构及其推广，它允许一个精细的控制嵌入到潜在空间的数据。当用这种正则化来增加VAE损失时，学习的潜在空间的变化反映了数据属性的变化。这种对VAE潜在空间结构的更深入理解提供了以连续方式调制所生成数据的属性的可能性。我们证明了它的效率上的单声道音乐生成任务，我们设法生成离散序列的变化，在一个有意的和好玩的方式。
2017-07-14 cs.AI cs.LG stat.ML
Neural Gaussian Copula for Variational Autoencoder
University of California Santa Barbara（加州大学圣巴巴拉分校）
变分语言模型寻求用近似的变分后验估计潜变量的后验。该模型通常假设变分后验被分解，即使真正的后验不是。在此假设下学习的变分后验并没有捕捉到潜在变量之间的依赖关系。我们认为，这将导致一个典型的训练问题，称为后崩溃观察到所有其他变语言模型。我们提出高斯Copula变分自编码器（VAE）来避免这个问题。Copula被广泛用于高维随机变量的相关性和依赖性建模，因此它有助于维护VAE中丢失的依赖关系。实证结果表明，通过使用神经参数copula显式地对潜变量的相关性进行建模，我们可以避免这种训练困难，同时获得与所有其他VAE方法相比具有竞争力的结果。
2019-09-09 cs.CL cs.LG cs.NE
Implicit Discriminator in Variational Autoencoder
Indian Institute of Technology Ropar（印度理工学院罗帕尔分校）
最近，生成模型的重点是结合变分自编码器（VAE）和生成对抗网络（GAN）的优点，以获得良好的重建和生成能力。在这项工作中，我们介绍了一种新的混合架构，隐式鉴别变分自编码器（IDVAE），它结合了VAE和GAN，它不需要一个显式的递归网络。IDVAE架构的基本前提是VAE的编码器和GAN的编码器利用共同的特征，因此可以作为共享网络进行训练，而VAE的解码器和GAN的生成器可以组合起来学习单个网络。这导致了具有VAE和GAN两者的属性的简单的两层架构。在真实世界基准数据集上的定性和定量实验表明，IDVAE的性能优于最先进的混合方法。我们通过实验验证了IDVAE可以很容易地扩展到条件设置中，并在复杂数据集上展示了其性能。
2019-09-28 cs.CV cs.LG stat.ML
