Conditional Constrained Graph Variational Autoencoders for Molecule Design
University of Padua（帕多瓦大学）；Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）
近年来，图的深度生成模型已被用于生成新分子。这些模型产生了良好的效果，导致在文献中的几个建议。然而，这些模型在学习控制化学世界的一些复杂规律时可能会遇到困难。在这项工作中，我们探索使用原子价态的直方图来驱动这种模型中分子的生成。我们提出了条件约束图变分自编码器（CCGVAE），一种在最先进的模型中实现这一关键思想的模型，并在两个常用的分子生成数据集上显示了几个评估指标的改进结果。
2020-09-01 cs.AI cs.LG
Unsupervised Multiple-Object Tracking with a Dynamical Variational Autoencoder
Inria Grenoble Rhône-Alpes（法国国家信息与自动化研究所罗纳-阿尔卑斯大区格勒诺布尔中心）；Univ. Grenoble-Alpes（格勒诺布尔阿尔卑斯大学）；Grenoble-INP（格勒诺布尔国立理工学院）
提出了一种基于动态变分自编码器（DVAE）的多目标跟踪（MOT）无监督概率模型及其估计算法（DVAE-UMOT）。DVAE是一种潜在变量深度生成模型，可以被视为用于时间序列建模的变分自编码器的扩展。它包含在DVAE-UMOT中，在对单对象轨迹的未标记合成数据集进行预训练后，对对象的动态进行建模。然后利用变分推理的原理：定义隐变量的近似后验分布，最大化数据似然函数的相应证据下界，在每个待跟踪的多目标序列上估计DVAE-UMOT的分布和参数。DVAE-UMOT的实验结果表明，竞争以及甚至超过两个国家的最先进的概率MOT模型的性能。代码和数据是公开的。
2022-02-21 cs.CV cs.LG
Including Sparse Production Knowledge into Variational Autoencoders to Increase Anomaly Detection Reliability
Ostwestfalen-Lippe University of Applied Sciences（东威斯特伐利亚-利珀应用科学大学）；Phoenix Contact Electronics GmbH（菲尼克斯电气电子有限公司）
数字化为生产系统带来了数据透明性，我们可以通过神经网络等数据驱动的分析方法从中受益。例如，自动异常检测可以节省资源并优化生产。我们研究使用很少发生的信息标记的异常到变分自编码器神经网络结构，以克服信息赤字的监督和无监督的方法。该方法在准确度、精确度和召回率方面优于所有其他模型。我们评估了以下方法：主成分分析，隔离森林，分类神经网络和变分自编码器在七个时间序列数据集上找到最佳的检测方法。我们扩展这个想法，包括更不经常发生的Meta信息的生产过程。稀疏标签的这种使用（异常或生产数据两者）允许利用可用于提高异常检测性能的任何附加信息。
2021-06-22 cs.AI cs.LG
Modeling Barrett's Esophagus Progression using Geometric Variational Autoencoders
University of Amsterdam（阿姆斯特丹大学）；Amsterdam University Medical Centres（阿姆斯特丹大学医学中心）
针对巴雷特食管早期检测需求，研究几何变分自编码器捕捉其进展潜在表示的效果，验证两类几何VAE的性能提升，并提出兼具生成能力与自编码器优势的新型架构。
2025-06-16 cs.CV cs.LG eess.IV
Adversarial Variational Bayes: Unifying Variational Autoencoders and Generative Adversarial Networks
MPI Tübingen（图宾根马普研究所）；Microsoft Research Cambridge（微软剑桥研究院）；ETH Zürich（苏黎世联邦理工学院）
变分自编码器（VAE）是一种表达性的潜变量模型，可用于从训练数据中学习复杂的概率分布。然而，最终模型的质量主要依赖于推理模型的表达能力。我们介绍了对抗变分贝叶斯（AVB），一种用于训练具有任意表达推理模型的变分自编码器的技术。我们通过引入一个辅助判别网络来实现这一目标，该网络允许将最大似然问题重新表述为两人游戏，从而在VAE和生成对抗网络（GANs）之间建立原则性联系。我们表明，在非参数限制，我们的方法产生一个确切的最大似然分配的生成模型的参数，以及确切的后验分布的潜变量给定的观察。与将VAE与GANs相结合的竞争方法相反，我们的方法具有明确的理论依据，保留了标准变分自编码器的大多数优点，并且易于实现。
2018-06-11 cs.LG
A Perceived Environment Design using a Multi-Modal Variational Autoencoder for learning Active-Sensing
Bielefeld University（比勒费尔德大学）；Australian Centre for Robotic Vision（澳大利亚机器人视觉中心）；Queensland University of Technology（昆士兰科技大学）
这种贡献包括多模态变分自编码器和感知环境之间的相互作用，代理可以对其进行操作。此外，我们结束了我们的工作与好奇心驱动的学习比较。
2019-11-01 cs.AI cs.LG cs.MA
Factorized Gaussian Process Variational Autoencoders
ETH Zürich（苏黎世联邦理工学院）；Warwick University（华威大学）
变分自动编码器通常假设各向同性高斯先验和平均场后验，因此在我们可能期望潜在变量之间的相似性或一致性的情况下不会利用结构。高斯过程变分自编码器通过使用潜在的高斯过程来缓解这个问题，但是导致立方推理时间复杂度。我们提出了一个更可扩展的扩展这些模型，利用独立的辅助功能，这是目前在许多数据集。我们的模型在不同的维度上分解了这些特征的潜在内核，导致了显着的加速（理论和实践），同时根据经验对现有的不可扩展方法进行了改进。此外，我们的方法允许额外的全球潜在信息的建模和更一般的外推到看不见的输入组合。
2020-11-14 cs.CV cs.LG stat.ML
Hub-VAE: Unsupervised Hub-based Regularization of Variational Autoencoders
George Mason University（乔治梅森大学）
基于示例的方法依赖于信息数据点或原型来指导学习算法的优化。这些数据有助于可解释的模型设计和预测。特别感兴趣的是样本在学习无监督深度表示中的效用。在本文中，我们利用枢纽，出现在高维空间中的频繁邻居，作为范例来正则化变分自编码器，并学习无监督的下游任务的判别嵌入。我们提出了一个无监督的，数据驱动的正则化的潜在空间与基于枢纽的先验和基于枢纽的对比损失的混合。实验评估表明，我们的算法实现了卓越的聚类分离性的嵌入空间，准确的数据重建和生成，相比基线和国家的最先进的技术。
2022-11-18 cs.AI cs.LG
Variational Autoencoders for Efficient Simulation-Based Inference
Science for Life Laboratory, Uppsala University（生命科学实验室，乌普萨拉大学）；Uppsala University（乌普萨拉大学）
本文提出基于变分自编码器的生成建模方法，用于无似然模拟推断，通过两种先验处理变体高效估计复杂后验，并在基准问题上验证了计算效率与准确性。
2025-10-16 cs.AI cs.LG
Variational Composite Autoencoders
Shanghai Jiao Tong University（上海交通大学）；University of Technology Sydney（悉尼科技大学）
在复杂的数据结构或难以处理的潜在变量的存在下，潜在变量模型中的学习是具有挑战性的。先前的变分自编码器由于简单的编码器-解码器结构而可能是低效的。在本文中，我们提出了一个变分复合自动编码器，以回避这个问题的分层隐变量模型的顶部摊销。实验结果证实了我们的模型的优点。
2018-04-12 cs.LG stat.ML
Continual Learning of Predictive Models in Video Sequences via Variational Autoencoders
University of Genova（热那亚大学）
本文提出了一种用于执行预测模型的持续学习的方法，该预测模型促进了对视频序列中的未来帧的推断。对于第一给定经验，利用初始变分自编码器以及一组完全连接的神经网络来分别学习视频帧的外观及其在潜在空间级的动态。通过采用自适应马尔可夫跳跃粒子滤波器，所提出的方法识别新的情况，并将它们集成为预测模型，避免灾难性遗忘以前学习的任务。为了评估所提出的方法，本文使用的视频序列，从车辆在受控环境中执行不同的任务。
2020-06-02 cs.CV cs.LG
InfoVAE: Information Maximizing Variational Autoencoders
Computer Science Department, Stanford University（斯坦福大学计算机科学系）
学习生成模型的一个关键进步是使用与模型联合训练的摊销推理分布。我们发现，现有的训练目标变分自编码器可能会导致不准确的摊销推理分布，在某些情况下，提高目标可证明降低推理质量。另外，已经观察到，当与过于灵活的解码分布组合时，变分自编码器倾向于忽略潜在变量。我们再次确定现有的培训标准的原因，并提出了一个新的类的目标（InfoVAE），以减轻这些问题。我们表明，我们的模型可以显着提高质量的变分后验，并可以有效地利用潜在的功能，无论解码分布的灵活性。通过广泛的定性和定量分析，我们证明了我们的模型在多个性能指标上优于竞争方法。
2018-05-30 cs.AI cs.LG stat.ML
Variational Information Bottleneck on Vector Quantized Autoencoders
KTH Royal Institute of Technology（瑞典皇家理工学院）
本文对矢量量化-变分自编码器（VQ-VAE）进行了信息论解释。我们表明，原始VQ-VAE的损失函数可以从变分确定性信息瓶颈（VDIB）原则。另一方面，由期望最大化（EM）算法训练的VQ-VAE可以被视为变分信息瓶颈（VIB）原理的近似。
2018-08-02 cs.LG stat.ML
Hierarchical Conditional Variational Autoencoder Based Acoustic Anomaly Detection
Hitachi Ltd.（日立有限公司）
提出了一种基于声信号的无监督机器异常检测方法。现有的方法，例如深度自动编码器（DAE）、变分自编码器（VAE）、条件变分自编码器（CVAE）等在潜在空间中具有有限的表示能力，并且因此具有差的异常检测性能。必须为每种不同类型的机器训练不同的模型，以准确地执行异常检测任务。为了解决这个问题，我们提出了一种新的方法命名为分层条件变分自编码器（HCVAE）。该方法利用已有的工业设施分类层次知识，对潜在空间表示进行细化。这些知识也有助于模型提高异常检测性能。我们证明了一个单一的HCVAE模型的泛化能力，不同类型的机器，通过使用适当的条件。此外，为了证明所提出的方法的实用性，（i）我们评估HCVAE模型在不同的领域和（ii）我们检查部分层次知识的效果。我们的研究结果表明，HCVAE方法验证了这两点，它优于基线系统的异常检测任务的最大15%的AUC得分度量。
2022-06-11 cs.AI cs.LG eess.AS
Branched Variational Autoencoder Classifiers
University of Waterloo（滑铁卢大学）
本文提出一种带额外神经网络分支的改进型变分自编码器（BVAE），通过在总损失中加入分类组件将类别信息引入潜在表示，分离并排序潜在空间分布，在MNIST数据集上显著提升了分类精度及多种输出分布下的性能。
2024-01-04 cs.CV cs.LG
Inducing Interpretable Representations with Variational Autoencoders
University of Oxford（牛津大学）；Northeastern University（东北大学）；Stanford University（斯坦福大学）；Microsoft Research（微软研究院）
我们开发了一个框架，将结构化的图形模型的变分自编码器（VAE）的\emph{encoders}，使我们能够通过近似变分推断诱导可解释的表示。这使得我们既可以在给定图形模型的结构约束下执行推理（例如分类），又可以使用深度生成模型来处理混乱的高维域，在这些域中通常很难对所有变化进行建模。在这个框架中的学习是端到端进行的，具有变分目标，适用于无监督和半监督方案。
2016-11-22 cs.CV cs.LG stat.ML
GraphVAE: Towards Generation of Small Graphs Using Variational Autoencoders
Université Paris Est（巴黎东部大学）；École des Ponts ParisTech（巴黎高科桥路学校）
图上的深度学习已经成为一个热门的研究课题，具有许多应用。然而，过去的工作集中在学习图嵌入任务上，这与图像和文本生成模型的进步形成了鲜明对比。有没有可能将这一进展转移到图形领域？我们建议回避与线性化的这种离散结构的解码器输出一个概率完全连接图的预定义的最大尺寸直接在一次相关的障碍。我们的方法被公式化为一个变分自编码器。我们评估了分子生成的挑战性任务。
2018-02-09 cs.CV cs.LG cs.NE
Tutorial: Deriving the Standard Variational Autoencoder (VAE) Loss Function
RETINA-AI Health, Inc.（RETINA-AI健康公司）；MD Anderson Cancer Center（MD安德森癌症中心）
在贝叶斯机器学习中，后验分布通常在计算上是难以处理的，因此经常需要变分推理。在这种方法中，数据的对数似然性的证据下限在训练期间被最大化。变分自编码器（VAE）是利用变分推断的一个重要示例。在本教程中，我们推导出标准变分自编码器的变分下界损失函数。我们这样做的高斯潜在先验和高斯近似后验的情况下，假设Kullback-Leibler项的变分下界有一个封闭的形式的解决方案。我们基本上推导出了我们在此过程中使用的所有内容;从贝叶斯定理到Kullback-Leibler分歧。
2019-07-21 cs.LG stat.ML
M$^2$VAE - Derivation of a Multi-Modal Variational Autoencoder Objective from the Marginal Joint Log-Likelihood
Bielefeld University（比勒费尔德大学）
这项工作给出了一个深入的推导的可训练的证据下界从边缘联合对数Likestive与训练的多模态变分自编码器（M $^2$ VAE）的目标。
2019-03-18 cs.LG stat.ML
Variational Autoencoders Without the Variation
University of Exeter（埃克塞特大学）；College of Engineering, Mathematics and Physical Sciences（工程、数学与物理科学学院）
变分自动编码器（VAE）是生成式建模的一种流行方法。然而，在实践中利用VAE的能力可能是困难的。最近关于正则化和熵自动编码器的工作已经开始探索生成建模的潜力，即去除变分方法并返回到经典的确定性自动编码器（DAE），并使用额外的新正则化方法。在本文中，我们经验性地探讨了DAE的能力，无需额外的新方法和大型网络的隐式正则化和平滑的影响图像生成。我们发现DAE可以成功地用于图像生成，而无需额外的损失项，并且当在CIFAR-10和CelebA上训练时，VAE的许多有用属性可以隐含地从足够大的卷积编码器和解码器中产生。
2022-03-01 cs.CV cs.LG stat.ML
Unbalanced GANs: Pre-training the Generator of Generative Adversarial Network using Variational Autoencoder
KAIST（韩国科学技术院）；Asan Medical Center（峨山医学中心）
我们提出了非平衡GANs，它使用变分自编码器（VAE）预训练生成对抗网络（GAN）的生成器。我们保证稳定的训练的发生器，防止更快的收敛速度在早期时期。此外，我们在早期阶段在生成器和训练器之间进行平衡，从而保持GANs的稳定训练。我们将不平衡的GANs应用于众所周知的公共数据集，发现不平衡的GANs减少了模式坍塌。我们还表明，不平衡的GANs在稳定的学习，更快的收敛和更好的图像质量方面优于普通的GANs。
2020-02-06 cs.CV cs.LG stat.ML
Affine Variational Autoencoders: An Efficient Approach for Improving Generalization and Robustness to Distribution Shift
University of Waterloo（滑铁卢大学）；Waterloo Artificial Intelligence Institute（滑铁卢人工智能研究所）
在这项研究中，我们提出了仿射变分自编码器（AVAE），一个变种的变分自编码器（VAE），旨在提高鲁棒性，克服VAE无法推广到分布移位的仿射扰动的形式。通过优化仿射变换以最大化ELBO，所提出的AVAE将输入变换为训练分布，而不需要增加模型复杂度来对仿射变换的完整分布进行建模。此外，我们还引入了一个训练过程，通过学习训练分布的子集来创建一个有效的模型，并使用AVAE来提高测试时分布偏移的泛化能力和鲁棒性。仿射扰动实验表明，所提出的AVAE显着提高了泛化能力和鲁棒性的仿射扰动形式的分布移位，而不增加模型的复杂性。
2019-05-13 cs.CV cs.LG cs.NE
VAE Explainer: Supplement Learning Variational Autoencoders with Interactive Visualization
Georgia Institute of Technology（佐治亚理工学院）
针对变分自编码器现有讲解方式抽象静态的问题，研究提出可在浏览器运行的交互式工具VAE Explainer，通过可交互的模型输入、隐空间、输出及带注释的代码、实时计算图关联理论与实现，工具已上线且代码开源。
2024-09-13 cs.AI cs.HC cs.LG
Training Variational Autoencoders with Buffered Stochastic Variational Inference
Stanford University（斯坦福大学）；VinAI（越南人工智能研究所）
深度潜变量模型（如变分自编码器（VAE））中的识别网络依赖于摊销推理，以实现有效的后验近似，可以扩展到大型数据集。然而，这种技术也被证明是选择次优的变分参数，往往会导致相当大的额外的错误称为摊销差距。为了缩小摊销差距并改进生成模型的训练，最近的工作已经引入了一个附加的细化步骤，该步骤应用随机变分推断（SVI）来改进由摊销推理模型返回的变分参数。在本文中，我们提出了缓冲随机变分推断（BSVI），一个新的细化过程，利用SVI的序列的中间变分建议分布和相应的重要性权重，以构建一个新的广义重要性加权下界。我们的经验表明，训练变分自动编码器与BSVI一贯优于SVI，产生一个改进的训练过程VAE。
2019-02-27 cs.LG stat.ML
Isolating Sources of Disentanglement in Variational Autoencoders
University of Toronto（多伦多大学）；Vector Institute（向量研究所）
我们分解的证据下限，以显示存在一个术语测量的总相关性之间的潜变量。我们使用这一点来激励我们的$β$ -TCVAE（总相关变分自编码器），这是对最先进的$β$ -VAE目标的改进，用于学习解纠缠表示，在训练过程中不需要额外的超参数。我们进一步提出了一个原则性的分类器免费措施的解纠缠称为互信息差距（GIP）。我们进行了广泛的定量和定性实验，在限制和非限制的设置，并显示了强相关性和解纠缠之间的关系，当潜变量模型使用我们的框架进行训练。
2019-04-23 cs.AI cs.LG stat.ML
Variational Autoencoder-Based Vehicle Trajectory Prediction with an Interpretable Latent Space
Technische Hochschule Ingolstadt（英戈尔施塔特应用技术大学）；AUDI AG（奥迪股份公司）
本文介绍了描述性变分自编码器（DVAE），一个无监督和端到端的可训练神经网络预测车辆轨迹，提供部分可解释性。新方法是基于常见的变分自编码器的架构和目标。通过在自动编码器的解码器部分中引入专家知识，编码器学习提取潜在参数，这些参数提供人类术语中可理解的含义。这样一个可解释的潜在空间，使专家定义的规则集的验证。DVAE的评估是使用公开的高速公路交通场景的高D数据集进行的。与具有相同复杂度的传统变分自编码器相比，所提出的模型提供了类似的预测精度，但具有可解释的潜在空间的巨大优势。对于关键的决策制定和评估预测的可信度，这个属性是非常可取的。
2021-06-24 cs.LG
Variational Autoencoder Layer
提出将变分自编码器作为神经网络层集成，并设计新训练策略，分析其性能。
2026-07-07 cs.LG
Disentanglement Learning for Variational Autoencoders Applied to Audio-Visual Speech Enhancement
最近，标准变分自编码器已成功地用于学习语音信号的概率先验，然后用于执行语音增强。然后，变分自动编码器以描述高级语音属性（例如语音活动）的标签为条件，该标签允许对语音生成进行更明确的控制。然而，标签不能保证与其他潜在变量分离，这导致与标准变分自动编码器相比性能提高有限。在这项工作中，我们建议使用变分自编码器的对抗性训练方案，以将标签与其他潜在变量分开。在训练时，我们使用一个与变分自动编码器的编码器竞争的编码器。同时，我们还使用了一个额外的编码器来估计变分自编码器的解码器的标签，这被证明是至关重要的学习解纠缠。我们提出的解纠缠学习的好处时，从视觉数据估计的语音活动标签，用于语音增强。
2021-08-03 cs.LG cs.SD eess.AS
Guided Variational Autoencoder for Speech Enhancement With a Supervised Classifier
Universität Hamburg（汉堡大学）
最近，变分自编码器已成功地用于学习语音信号的概率先验，然后用于执行语音增强。然而，变分自编码器仅在干净的语音上训练，这导致与监督方法相比，从噪声语音中提取语音信号的能力有限。在本文中，我们建议指导变分自动编码器与监督分类器分别训练嘈杂的语音。估计的标签是描述语音信号（例如语音活动）的高级分类变量，与标准变分自动编码器相比，允许更知情的潜在分布。我们评估我们的方法与不同类型的标签在不同的嘈杂环境的真实录音。只要标签更好地通知潜在的分布和分类器实现良好的性能，所提出的方法优于标准的变分自动编码器和传统的基于神经网络的监督方法。
2021-02-12 cs.LG cs.SD eess.AS
Multi-Adversarial Variational Autoencoder Networks
University of California, Los Angeles（加州大学洛杉矶分校）
GANs和VAE的无监督训练使它们能够生成模仿真实世界分布的逼真图像，并执行基于图像的无监督聚类或半监督分类。结合这两种生成模型的功能，我们引入了多对抗变分自编码器网络（MAVEN），这是一种新型的网络架构，在VAE-GAN网络中集成了一系列鉴别器，同时具有对抗学习和变分推理。我们应用MAVENs的合成图像的生成，并提出了一个新的分布措施来量化生成的图像的质量。我们的实验结果使用来自计算机视觉和医学成像领域的数据集--街景门牌号，CIFAR-10和胸部X射线数据集-在图像生成和分类任务中表现出与最先进的半监督模型相比的竞争力。
2019-06-14 cs.CV cs.LG stat.ML
Assessing Differentially Private Variational Autoencoders under Membership Inference
SAP（思爱普）；University of Waterloo（滑铁卢大学）
我们提出了一种方法来量化和比较的隐私准确性权衡差分私人变分自编码器。我们的工作在两个方面补充了以前的工作。首先，我们评估了差分隐私下针对变分自编码器的强重构MI攻击。其次，我们解决了数据科学家设置隐私参数的挑战，这将引导差分隐私的强度，从而也是隐私准确性的权衡。在我们的实验研究中，我们考虑图像和时间序列数据，和三个本地和中央差分隐私机制。我们发现，隐私准确性权衡强烈依赖于数据集和模型架构。我们很少观察到变分自编码器的隐私-准确性权衡，并确定LDP优于CDP的情况。
2022-04-16 cs.CR cs.LG
Novel Phase-Noise-Tolerant Variational-Autoencoder-Based Equalization Suitable for Space-Division-Multiplexed Transmission
(1)（机构1）；(2)（机构2）
本文提出一种基于变分自编码器且容忍相位噪声的新型均衡方案，并在150公里随机耦合多芯光纤实验中验证其对空分复用传输的有效性。
2025-09-17 cs.LG eess.SP
Dirichlet Variational Autoencoder for Text Modeling
University of California, Santa Barbara（加州大学圣巴巴拉分校）；Carnegie Mellon University（卡内基梅隆大学）
我们引入了一个改进的变分自编码器（VAE）的文本建模与主题信息显式建模为一个Dirichlet潜变量。通过提供所提出的模型的主题意识，它是更优越的重建输入文本。此外，由于新引入的狄利克雷变量和传统的多元高斯变量之间的内在相互作用，该模型是不太容易KL发散消失。我们推导出新模型的变分下界，并在四个不同的数据集上进行实验。实验结果表明，该模型在跨潜在空间的文本重构方面具有较好的性能，基于学习表征的分类具有较高的测试准确率。
2018-10-31 cs.AI cs.CL cs.LG
Preventing posterior collapse in variational autoencoders for text generation via decoder regularization
Université Paris-Saclay（巴黎萨克雷大学）；CNRS（法国国家科学研究中心）
训练以最小化重构误差的变分自编码器对后验崩溃问题敏感，即建议后验分布总是等于先验分布。我们提出了一种新的正则化方法的基础上的兄弟辍学，以防止后崩溃。我们使用几个指标来评估我们的方法，并观察所有测试配置的改进。
2021-10-28 cs.CL cs.LG
Improving the Bootstrap of Blind Equalizers with Variational Autoencoders
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；Nokia（诺基亚）
我们评估了盲均衡器在关键工作点的启动，分析了常用算法的优点和障碍，并演示了最近提出的基于变分自编码器（VAE）的均衡器如何提高自举能力。
2023-01-16 cs.IT cs.LG eess.SP
ED-VAE: Entropy Decomposition of ELBO in Variational Autoencoders
University of Leoben（莱奥本大学）；Chair of Cyber-Physical Systems（网络物理系统讲席）
针对传统VAE受ELBO公式限制、难以适配复杂先验且生成与可解释性不足的问题，提出ED-VAE，通过显式引入熵和交叉熵重构ELBO，提升模型灵活性、潜在空间可解释性与生成性能。
2024-07-09 cs.AI cs.LG stat.ML
Infinite Variational Autoencoder for Semi-Supervised Learning
The University of Adelaide（阿德莱德大学）
本文提出了一种无限变分自编码器（VAE），其容量可根据输入数据进行调整。这是使用混合模型来实现的，其中混合系数由Dirichlet过程建模，允许我们在执行推断时对系数进行积分。重要的是，这允许我们根据数据自动改变混合中自动编码器的数量。实验表明，我们的方法的灵活性，特别是半监督学习，只有少量的训练样本。
2016-11-24 cs.LG stat.ML
Diffusion-Weighted Magnetic Resonance Brain Images Generation with Generative Adversarial Networks and Variational Autoencoders: A Comparison Study
ETH Zurich（苏黎世联邦理工学院）；University of Zurich（苏黎世大学）；Stanford University（斯坦福大学）；Stanford Stroke Center（斯坦福中风中心）；Institute for Biomedical Engineering（生物医学工程研究所）
我们表明，高质量，多样化和逼真的扩散加权磁共振图像可以使用深生成模型合成。基于专业神经放射学家的评价和不同的指标，就所生成的合成脑图像的质量和多样性，我们提出了两个网络，内省变分自编码器和基于样式的GAN，有资格在医疗领域的数据增强，其中信息被保存在一个调度和不均匀的方式和访问它是在许多方面受到限制。
2020-06-24 cs.CV cs.LG eess.IV
Dueling Decoders: Regularizing Variational Autoencoder Latent Spaces
Google Research（谷歌研究院）
变分自编码器学习无监督的数据表示，但这些模型经常收敛到最小值，无法保留有意义的语义信息。例如，具有自回归解码器的变分自编码器通常会崩溃为自解码器，在自解码器中，它们学会忽略编码器输入。在这项工作中，我们证明了添加辅助解码器来正则化潜在空间可以防止这种崩溃，但成功的辅助解码任务是依赖于域的。辅助解码器可以增加潜在空间中编码的语义信息量，并在重建中可见。变分自编码器的表示中的语义信息仅与其速率、失真或证据下限弱相关。与其他修改训练目标的流行策略相比，我们对潜在空间的正则化通常增加了语义信息内容。
2019-05-17 cs.LG stat.ML
Variational autoencoders for tissue heterogeneity exploration from (almost) no preprocessed mass spectrometry imaging data
本文介绍了变分自编码器（VAE）在质谱成像数据（MSI）降维和探索性分析中的应用。结果证实，VAE能够检测与不同组织亚型相关的模式，其性能优于标准方法。
2017-08-24 cs.LG q-bio.QM stat.ML
RGCVAE: Relational Graph Conditioned Variational Autoencoder for Molecule Design
University of Padua（帕多瓦大学）；Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）
本文提出 RGCVAE，通过关系图同构编码器和新型概率解码器提升分子生成效果，在两个常用数据集上达到最先进性能并显著加快训练。
2023-06-08 cs.AI cs.LG q-bio.BM
Transformer-based Conditional Variational Autoencoder for Controllable Story Generation
University at Buffalo（布法罗大学）；JD Finance America Corporation（京东金融美国公司）
我们研究了用于神经故事生成的大规模潜变量模型（LVMs）-开放域长文本的一个未充分开发的应用程序-目标有两个线程：生成有效性和可控性。LVMs，特别是变分自编码器（VAE），通过利用灵活的分布式潜在表示实现了有效和可控的生成。近年来，Transformers及其变体在没有显式潜在表示学习的情况下取得了显著的效果，因此在生成过程中缺乏令人满意的可控性。在本文中，我们主张在Transformers时代恢复潜变量建模，本质上是表示学习的力量，以增强可控性，而不损害最先进的发电效率。具体来说，我们将潜在表示向量与基于transformer的预训练架构相结合，以构建条件变分自编码器（CVAE）。模型的组成部分，如编码器，解码器和变分后验都建立在预先训练的语言模型-GPT 2在本文中具体。实验证明了我们的模型的最先进的条件生成能力，以及其优秀的表示学习能力和可控性。
2021-07-08 cs.AI cs.CL cs.LG
Variational Autoencoders for Learning Nonlinear Dynamics of Physical Systems
University of California Santa Barbara (UCSB)（加州大学圣塔芭芭拉分校）
我们开发了数据驱动的方法，将物理信息的先验学习简约表示的非线性系统所产生的参数化偏微分方程和力学。我们的方法是基于变分自编码器（VAE）从观察学习非线性状态空间模型。我们开发的方法，将几何和拓扑先验通过一般流形潜在空间表示。我们研究我们的方法学习低维表示的非线性Burgers方程和约束力学系统的性能。
2021-03-15 cs.AI cs.LG cs.SY
Quasi-symplectic Langevin Variational Autoencoder
Inria Sophia Antipolis（索菲亚·安提波利斯法国国家信息与自动化研究所）；University Côte d’Azur（蔚蓝海岸大学）
变分自编码器（VAE）是神经学习研究中一个非常流行和研究的生成模型。为了将VAE应用于处理大规模数据集的实际任务中，需要处理低方差证据下限（ELBO）的困难。马尔可夫链蒙特卡罗（MCMC）是一种有效的方法来收紧ELBO近似的后验分布和汉密尔顿变分自动编码器（HVAE）是一种有效的MCMC启发的方法来构建一个低方差ELBO，是服从重新参数化技巧。HVAE适应的哈密顿动态流到变分推断，显着提高后验估计的性能。在这项工作中，我们提出了一个Langevin动态流为基础的推理方法，通过Langevin动态，这是一种基于MCMC的方法类似于HVAE的推理过程中的梯度信息。具体地说，我们采用了一个准辛积分，以应付在朴素朗之万流的海森计算的禁止问题。我们展示了所提出的框架与其他基于梯度流的方法的理论和实际有效性。
2021-05-27 cs.AI cs.LG stat.ML
GLSR-VAE: Geodesic Latent Space Regularization for Variational AutoEncoder Architectures
Université Pierre et Marie Curie（皮埃尔和玛丽·居里大学）；Sony CSL（索尼计算机科学研究所）；École Polytechnique（巴黎综合理工学院）
VAE（变分自编码器）已被证明在密度建模的背景下是强大的，并已被用于各种背景下的创造性目的。在许多情况下，我们建模的数据具有连续属性，我们希望在生成时考虑这些属性。我们在本文中提出了GLSR-VAE，一个测地线潜在空间正则化的变分自编码器架构及其推广，它允许一个精细的控制嵌入到潜在空间的数据。当用这种正则化来增加VAE损失时，学习的潜在空间的变化反映了数据属性的变化。这种对VAE潜在空间结构的更深入理解提供了以连续方式调制所生成数据的属性的可能性。我们证明了它的效率上的单声道音乐生成任务，我们设法生成离散序列的变化，在一个有意的和好玩的方式。
2017-07-14 cs.AI cs.LG stat.ML
Variational Autoencoder with Arbitrary Conditioning
Samsung AI Center Moscow（三星莫斯科人工智能中心）；Samsung-HSE Laboratory（三星-高等经济学院实验室）
我们提出了一个单一的神经概率模型的基础上变分自动编码器，可以条件的观察到的功能的任意子集，然后在“一枪”的其余功能的采样。特征可以是实值的和分类的。模型的训练由随机变分贝叶斯进行。对合成数据、特征填充和图像修复问题的实验评价表明了该方法的有效性和生成样本的多样性。
2019-06-27 cs.LG stat.ML
CVAE-H: Conditionalizing Variational Autoencoders via Hypernetworks and Trajectory Forecasting for Autonomous Driving
University of Michigan（密歇根大学）
预测道路智能体在不同环境中的随机行为是自动驾驶的一个挑战性问题。为了更好地理解场景上下文并在不同环境中自适应地产生道路智能体的各种可能的未来状态，预测模型应该是概率的，多模态的，上下文驱动的和通用的。我们通过超网络（CVAE-H）提出了条件化变分自编码器;一种条件VAE，广泛利用超网络并为预测任务等高维问题执行生成任务。我们首先评估CVAE-H简单的生成实验表明，CVAE-H是概率，多模态，上下文驱动，和一般。然后，我们证明了所提出的模型有效地解决了自动驾驶预测问题，在各种环境中产生准确的预测道路代理。
2022-01-24 cs.AI cs.LG cs.RO
Implicit Discriminator in Variational Autoencoder
Indian Institute of Technology Ropar（印度理工学院罗帕尔分校）
最近，生成模型的重点是结合变分自编码器（VAE）和生成对抗网络（GAN）的优点，以获得良好的重建和生成能力。在这项工作中，我们介绍了一种新的混合架构，隐式鉴别变分自编码器（IDVAE），它结合了VAE和GAN，它不需要一个显式的递归网络。IDVAE架构的基本前提是VAE的编码器和GAN的编码器利用共同的特征，因此可以作为共享网络进行训练，而VAE的解码器和GAN的生成器可以组合起来学习单个网络。这导致了具有VAE和GAN两者的属性的简单的两层架构。在真实世界基准数据集上的定性和定量实验表明，IDVAE的性能优于最先进的混合方法。我们通过实验验证了IDVAE可以很容易地扩展到条件设置中，并在复杂数据集上展示了其性能。
2019-09-28 cs.CV cs.LG stat.ML
Deep Multiple Instance Feature Learning via Variational Autoencoder
Bosch Research and Technology Center（博世研究与技术中心）
我们描述了一种新的弱监督深度学习框架，该框架结合了判别模型和生成模型，以在多实例学习（MIL）环境中学习有意义的表示。MIL是一个弱监督学习问题，其中标签与实例组（称为包）而不是单个实例相关联。为了解决MIL问题中的正实例标签的不确定性所带来的根本挑战，我们使用了一个判别模型正则化的变分自编码器（VAE），以最大限度地提高潜在的所有实例和负实例的表示之间的差异。因此，变分自编码器的隐藏层学习有意义的表示。这种表示方法可以有效地用于MIL问题，与最先进的方法相比，在标准基准数据集上具有更好的性能。更重要的是，与大多数相关研究不同，所提出的框架可以很容易地扩展到大型数据集问题，如音频事件检测和分割任务所示。可视化也证实了潜在表征在区分积极和消极类方面的有效性。
2018-07-06 cs.AI cs.LG stat.ML
SGVAE: Sequential Graph Variational Autoencoder
Stanford University（斯坦福大学）
图的生成模型是众所周知的，但是许多现有的模型在可扩展性和表达性方面受到限制。我们提出了一种新的顺序图形变分自编码器直接操作的图形表示的数据。在我们的模型中，图的编码和解码分别被构建为顺序的解构和构建过程，从而能够学习潜在空间。循环数据集上的实验显示出希望，但强调需要放松节点排列的分布。
2019-12-17 cs.LG stat.ML
Improving Variational Autoencoder Estimation from Incomplete Data with Mixture Variational Families
University of Edinburgh（爱丁堡大学）；School of Informatics（信息学院）
针对不完整数据下VAE估计中后验复杂度增加的问题，提出基于有限变分混合和插补变分混合的两种策略，并通过实验证明其能有效提升估计准确性。
2024-06-27 cs.LG stat.ML
A Case for the Score: Identifying Image Anomalies using Variational Autoencoder Gradients
German Cancer Research Center (DKFZ)（德国癌症研究中心）
通过对未标记数据的训练，异常检测有可能通过勾勒可疑区域来影响计算机辅助诊断。以前关于基于深度学习的异常检测的工作主要集中在重建误差上。相反，我们认为，从基于变分自动编码器的分数近似得到的像素异常评级在理论上更有根据，更可靠。在我们的实验中，基于变分自动编码器梯度的评级在BraTS-2017数据集上的无监督像素肿瘤检测方面优于其他方法，ROC-AUC为0.94。
2019-11-28 cs.LG eess.IV stat.ML
Enhanced uncertainty quantification variational autoencoders for the solution of Bayesian inverse problems
本文提出一种新型损失函数训练变分自编码器，用于贝叶斯逆问题的实时不确定性量化，在仿射正向映射下证明其潜在状态收敛到后验分布，并通过数值测试和拉普拉斯方程实验验证了其准确性和泛化性能。
2025-09-24 cs.LG cs.NA math.NA
The Variational InfoMax AutoEncoder
University of Stirling（斯特灵大学）
变分自编码器（VAE）同时学习推理和生成模型，但这些模型中只有一个可以在最佳情况下学习，该行为与ELBO学习目标相关联，该ELBO学习目标由非信息生成器优化。为了解决这个问题，我们提供了一个学习目标，学习一个最大的信息生成器，同时保持有界的网络容量：变分InfoMax（VIM）。VIM推导的贡献是双重的：一个目标学习的最佳推理和生成模型和网络容量的明确定义，网络鲁棒性的估计。
2020-11-08 cs.LG stat.ML
