An Introduction to Variational Autoencoders
Google（谷歌公司）；Universiteit van Amsterdam（阿姆斯特丹大学）；Qualcomm（高通公司）
变分自编码器提供了用于学习深度潜变量模型和对应的推理模型的原理框架。在这项工作中，我们提供了一个介绍变分自编码器和一些重要的扩展。
2019-12-11 cs.LG stat.ML
Adversarial Variational Bayes: Unifying Variational Autoencoders and Generative Adversarial Networks
MPI Tübingen（图宾根马普研究所）；Microsoft Research Cambridge（微软剑桥研究院）；ETH Zürich（苏黎世联邦理工学院）
变分自编码器（VAE）是一种表达性的潜变量模型，可用于从训练数据中学习复杂的概率分布。然而，最终模型的质量主要依赖于推理模型的表达能力。我们介绍了对抗变分贝叶斯（AVB），一种用于训练具有任意表达推理模型的变分自编码器的技术。我们通过引入一个辅助判别网络来实现这一目标，该网络允许将最大似然问题重新表述为两人游戏，从而在VAE和生成对抗网络（GANs）之间建立原则性联系。我们表明，在非参数限制，我们的方法产生一个确切的最大似然分配的生成模型的参数，以及确切的后验分布的潜变量给定的观察。与将VAE与GANs相结合的竞争方法相反，我们的方法具有明确的理论依据，保留了标准变分自编码器的大多数优点，并且易于实现。
2018-06-11 cs.LG
Variational Composite Autoencoders
Shanghai Jiao Tong University（上海交通大学）；University of Technology Sydney（悉尼科技大学）
在复杂的数据结构或难以处理的潜在变量的存在下，潜在变量模型中的学习是具有挑战性的。先前的变分自编码器由于简单的编码器-解码器结构而可能是低效的。在本文中，我们提出了一个变分复合自动编码器，以回避这个问题的分层隐变量模型的顶部摊销。实验结果证实了我们的模型的优点。
2018-04-12 cs.LG stat.ML
Variational Information Bottleneck on Vector Quantized Autoencoders
KTH Royal Institute of Technology（瑞典皇家理工学院）
本文对矢量量化-变分自编码器（VQ-VAE）进行了信息论解释。我们表明，原始VQ-VAE的损失函数可以从变分确定性信息瓶颈（VDIB）原则。另一方面，由期望最大化（EM）算法训练的VQ-VAE可以被视为变分信息瓶颈（VIB）原理的近似。
2018-08-02 cs.LG stat.ML
GraphVAE: Towards Generation of Small Graphs Using Variational Autoencoders
Université Paris Est（巴黎东部大学）；École des Ponts ParisTech（巴黎高科桥路学校）
图上的深度学习已经成为一个热门的研究课题，具有许多应用。然而，过去的工作集中在学习图嵌入任务上，这与图像和文本生成模型的进步形成了鲜明对比。有没有可能将这一进展转移到图形领域？我们建议回避与线性化的这种离散结构的解码器输出一个概率完全连接图的预定义的最大尺寸直接在一次相关的障碍。我们的方法被公式化为一个变分自编码器。我们评估了分子生成的挑战性任务。
2018-02-09 cs.CV cs.LG cs.NE
Tutorial: Deriving the Standard Variational Autoencoder (VAE) Loss Function
RETINA-AI Health, Inc.（RETINA-AI健康公司）；MD Anderson Cancer Center（MD安德森癌症中心）
在贝叶斯机器学习中，后验分布通常在计算上是难以处理的，因此经常需要变分推理。在这种方法中，数据的对数似然性的证据下限在训练期间被最大化。变分自编码器（VAE）是利用变分推断的一个重要示例。在本教程中，我们推导出标准变分自编码器的变分下界损失函数。我们这样做的高斯潜在先验和高斯近似后验的情况下，假设Kullback-Leibler项的变分下界有一个封闭的形式的解决方案。我们基本上推导出了我们在此过程中使用的所有内容;从贝叶斯定理到Kullback-Leibler分歧。
2019-07-21 cs.LG stat.ML
M$^2$VAE - Derivation of a Multi-Modal Variational Autoencoder Objective from the Marginal Joint Log-Likelihood
Bielefeld University（比勒费尔德大学）
这项工作给出了一个深入的推导的可训练的证据下界从边缘联合对数Likestive与训练的多模态变分自编码器（M $^2$ VAE）的目标。
2019-03-18 cs.LG stat.ML
Improved far-field speech recognition using Joint Variational Autoencoder
Reverie Language Technologies（Reverie语言技术公司）
自动语音识别（ASR）系统在源语音被噪声或房间脉冲响应（RIR）破坏时会受到很大影响。通常，语音增强应用于失配和匹配场景训练和测试中。在匹配设置中，声学模型（AM）在去混响的远场特征上训练，而在失配设置中，AM是固定的。近年来，已经探索了使用去噪自动编码器（DA）将语音特征从远场映射到近距离通话。在本文中，我们重点关注匹配场景训练，并表明提出的基于VAE的联合映射比DA实现了显着改进。具体来说，我们观察到与基于DA的增强相比，字错误率（WER）绝对改善了2.5%，与AM相比，绝对改善了3.96%直接在远场滤波器组特征上训练。
2022-04-24 cs.CL cs.LG cs.SD
Affine Variational Autoencoders: An Efficient Approach for Improving Generalization and Robustness to Distribution Shift
University of Waterloo（滑铁卢大学）；Waterloo Artificial Intelligence Institute（滑铁卢人工智能研究所）
在这项研究中，我们提出了仿射变分自编码器（AVAE），一个变种的变分自编码器（VAE），旨在提高鲁棒性，克服VAE无法推广到分布移位的仿射扰动的形式。通过优化仿射变换以最大化ELBO，所提出的AVAE将输入变换为训练分布，而不需要增加模型复杂度来对仿射变换的完整分布进行建模。此外，我们还引入了一个训练过程，通过学习训练分布的子集来创建一个有效的模型，并使用AVAE来提高测试时分布偏移的泛化能力和鲁棒性。仿射扰动实验表明，所提出的AVAE显着提高了泛化能力和鲁棒性的仿射扰动形式的分布移位，而不增加模型的复杂性。
2019-05-13 cs.CV cs.LG cs.NE
VAE Explainer: Supplement Learning Variational Autoencoders with Interactive Visualization
Georgia Institute of Technology（佐治亚理工学院）
针对变分自编码器现有讲解方式抽象静态的问题，研究提出可在浏览器运行的交互式工具VAE Explainer，通过可交互的模型输入、隐空间、输出及带注释的代码、实时计算图关联理论与实现，工具已上线且代码开源。
2024-09-13 cs.AI cs.HC cs.LG
Unsupervised Domain Adaptation for Robust Speech Recognition via Variational Autoencoder-Based Data Augmentation
Massachusetts Institute of Technology（麻省理工学院）
在许多机器学习场景中，训练和测试之间的域不匹配可能导致性能显著下降。不幸的是，对于实际应用中的自动语音识别部署，这种情况并不罕见。鲁棒语音识别的研究可以被看作是试图克服这个域失配问题。在本文中，我们解决了鲁棒语音识别的无监督领域自适应问题，其中源和目标域的语音，但单词成绩单只适用于源域语音。我们提出了新的增强为基础的方法，转换语音的方式，不改变成绩单。具体来说，我们首先训练一个变分自编码器的源和目标域数据（没有监督）学习语音的潜在表示。然后，我们通过修改潜在表示来变换与识别无关的语音的讨厌属性，以便用分布更类似于目标域的附加数据来增强标记的训练数据。在CHiME-4数据集上对所提出的方法进行了评估，与非适应基线相比，该方法将绝对字出错率（WER）降低了35%。
2017-09-22 cs.CL cs.LG
Transfer Learning in Brain-Computer Interfaces with Adversarial Variational Autoencoders
Northeastern University（东北大学）；Mitsubishi Electric Research Laboratories（三菱电机研究实验室）
我们引入对抗神经网络的表示学习作为一种新的方法，脑机接口（BCI）的迁移学习。所提出的方法旨在通过同时训练条件变分自编码器（cVAE）和对抗网络来学习主体不变表示。我们使用浅层卷积架构来实现cVAE，并将学习的编码器转移到从未见过的BCI用户数据中提取主题不变特征以进行解码。我们证明了我们的方法的概念验证的基础上记录在运动想象BCI实验的脑电图（EEG）数据的分析。
2018-12-17 cs.HC cs.LG eess.SP
Variational Autoencoder-Based Vehicle Trajectory Prediction with an Interpretable Latent Space
Technische Hochschule Ingolstadt（英戈尔施塔特应用技术大学）；AUDI AG（奥迪股份公司）
本文介绍了描述性变分自编码器（DVAE），一个无监督和端到端的可训练神经网络预测车辆轨迹，提供部分可解释性。新方法是基于常见的变分自编码器的架构和目标。通过在自动编码器的解码器部分中引入专家知识，编码器学习提取潜在参数，这些参数提供人类术语中可理解的含义。这样一个可解释的潜在空间，使专家定义的规则集的验证。DVAE的评估是使用公开的高速公路交通场景的高D数据集进行的。与具有相同复杂度的传统变分自编码器相比，所提出的模型提供了类似的预测精度，但具有可解释的潜在空间的巨大优势。对于关键的决策制定和评估预测的可信度，这个属性是非常可取的。
2021-06-24 cs.LG
Variational Autoencoder Layer
提出将变分自编码器作为神经网络层集成，并设计新训练策略，分析其性能。
2026-07-07 cs.LG
Training Variational Autoencoders with Buffered Stochastic Variational Inference
Stanford University（斯坦福大学）；VinAI（越南人工智能研究所）
深度潜变量模型（如变分自编码器（VAE））中的识别网络依赖于摊销推理，以实现有效的后验近似，可以扩展到大型数据集。然而，这种技术也被证明是选择次优的变分参数，往往会导致相当大的额外的错误称为摊销差距。为了缩小摊销差距并改进生成模型的训练，最近的工作已经引入了一个附加的细化步骤，该步骤应用随机变分推断（SVI）来改进由摊销推理模型返回的变分参数。在本文中，我们提出了缓冲随机变分推断（BSVI），一个新的细化过程，利用SVI的序列的中间变分建议分布和相应的重要性权重，以构建一个新的广义重要性加权下界。我们的经验表明，训练变分自动编码器与BSVI一贯优于SVI，产生一个改进的训练过程VAE。
2019-02-27 cs.LG stat.ML
Neural Gaussian Copula for Variational Autoencoder
University of California Santa Barbara（加州大学圣巴巴拉分校）
变分语言模型寻求用近似的变分后验估计潜变量的后验。该模型通常假设变分后验被分解，即使真正的后验不是。在此假设下学习的变分后验并没有捕捉到潜在变量之间的依赖关系。我们认为，这将导致一个典型的训练问题，称为后崩溃观察到所有其他变语言模型。我们提出高斯Copula变分自编码器（VAE）来避免这个问题。Copula被广泛用于高维随机变量的相关性和依赖性建模，因此它有助于维护VAE中丢失的依赖关系。实证结果表明，通过使用神经参数copula显式地对潜变量的相关性进行建模，我们可以避免这种训练困难，同时获得与所有其他VAE方法相比具有竞争力的结果。
2019-09-09 cs.CL cs.LG cs.NE
Assessing Differentially Private Variational Autoencoders under Membership Inference
SAP（思爱普）；University of Waterloo（滑铁卢大学）
我们提出了一种方法来量化和比较的隐私准确性权衡差分私人变分自编码器。我们的工作在两个方面补充了以前的工作。首先，我们评估了差分隐私下针对变分自编码器的强重构MI攻击。其次，我们解决了数据科学家设置隐私参数的挑战，这将引导差分隐私的强度，从而也是隐私准确性的权衡。在我们的实验研究中，我们考虑图像和时间序列数据，和三个本地和中央差分隐私机制。我们发现，隐私准确性权衡强烈依赖于数据集和模型架构。我们很少观察到变分自编码器的隐私-准确性权衡，并确定LDP优于CDP的情况。
2022-04-16 cs.CR cs.LG
Dirichlet Variational Autoencoder for Text Modeling
University of California, Santa Barbara（加州大学圣巴巴拉分校）；Carnegie Mellon University（卡内基梅隆大学）
我们引入了一个改进的变分自编码器（VAE）的文本建模与主题信息显式建模为一个Dirichlet潜变量。通过提供所提出的模型的主题意识，它是更优越的重建输入文本。此外，由于新引入的狄利克雷变量和传统的多元高斯变量之间的内在相互作用，该模型是不太容易KL发散消失。我们推导出新模型的变分下界，并在四个不同的数据集上进行实验。实验结果表明，该模型在跨潜在空间的文本重构方面具有较好的性能，基于学习表征的分类具有较高的测试准确率。
2018-10-31 cs.AI cs.CL cs.LG
Novel Phase-Noise-Tolerant Variational-Autoencoder-Based Equalization Suitable for Space-Division-Multiplexed Transmission
(1)（机构1）；(2)（机构2）
本文提出一种基于变分自编码器且容忍相位噪声的新型均衡方案，并在150公里随机耦合多芯光纤实验中验证其对空分复用传输的有效性。
2025-09-17 cs.LG eess.SP
Preventing posterior collapse in variational autoencoders for text generation via decoder regularization
Université Paris-Saclay（巴黎萨克雷大学）；CNRS（法国国家科学研究中心）
训练以最小化重构误差的变分自编码器对后验崩溃问题敏感，即建议后验分布总是等于先验分布。我们提出了一种新的正则化方法的基础上的兄弟辍学，以防止后崩溃。我们使用几个指标来评估我们的方法，并观察所有测试配置的改进。
2021-10-28 cs.CL cs.LG
Variational Autoencoders for Learning Latent Representations of Speech Emotion: A Preliminary Study
Information Technology University (ITU)-Punjab（旁遮普信息技术大学）；University of Southern Queensland（南昆士兰大学）；University of New South Wales（新南威尔士大学）
以无监督的方式学习数据的潜在表示是一个非常有趣的过程，它提供了用于增强分类器性能的相关特征。对于语音情感识别任务，生成有效的特征是至关重要的。目前，人工特征大多用于语音情感识别，然而，使用深度学习自动学习的特征在许多问题上显示出强大的成功，特别是在图像处理中。特别是，深度生成模型，如变分自编码器（VAE），在生成自然图像的特征方面取得了巨大的成功。受此启发，我们提出了VAE用于导出语音信号的潜在表示，并使用此表示来分类情感。据我们所知，我们是第一个提出语音情感分类VAE。IEMOCAP数据集上的评估表明，VAE学习的特征可以产生最先进的语音情感分类结果。
2020-07-28 cs.LG cs.SD eess.AS
Improving the Bootstrap of Blind Equalizers with Variational Autoencoders
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；Nokia（诺基亚）
我们评估了盲均衡器在关键工作点的启动，分析了常用算法的优点和障碍，并演示了最近提出的基于变分自编码器（VAE）的均衡器如何提高自举能力。
2023-01-16 cs.IT cs.LG eess.SP
A variance modeling framework based on variational autoencoders for speech enhancement
Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；Grenoble INP（格勒诺布尔国立理工学院）；GIPSA-lab（格勒诺布尔图像、信号与自动化实验室）
在本文中，我们解决的问题，增强语音信号在嘈杂的混合使用声源分离的方法。我们探索使用神经网络作为一种替代流行的语音方差模型的基础上监督非负矩阵分解（NMF）。更确切地说，我们使用一个变分自编码器作为一个独立于说话人的监督生成语音模型，突出了概念上的相似性，这种方法与它的基于NMF的对应。为了避免关于噪声记录环境的泛化问题，我们遵循仅针对目标语音信号具有监督模型的方法，噪声模型基于无监督NMF。我们开发了一个蒙特卡罗期望最大化算法来推断变分自编码器中的潜在变量，并估计无监督模型参数。实验表明，该方法优于半监督NMF基线和最先进的全监督深度学习方法。
2019-02-05 cs.LG cs.SD eess.AS
Accented Text-to-Speech Synthesis with a Conditional Variational Autoencoder
Singapore University of Technology and Design（新加坡科技设计大学）；The University of Texas at Dallas（德克萨斯大学达拉斯分校）
本文提出基于条件变分自编码器的高效带口音TTS框架，可合成指定说话人声音并转换为任意目标口音，实验验证了其有效性和口音操控能力。
2024-09-29 cs.LG cs.SD eess.AS
Infinite Variational Autoencoder for Semi-Supervised Learning
The University of Adelaide（阿德莱德大学）
本文提出了一种无限变分自编码器（VAE），其容量可根据输入数据进行调整。这是使用混合模型来实现的，其中混合系数由Dirichlet过程建模，允许我们在执行推断时对系数进行积分。重要的是，这允许我们根据数据自动改变混合中自动编码器的数量。实验表明，我们的方法的灵活性，特别是半监督学习，只有少量的训练样本。
2016-11-24 cs.LG stat.ML
Dueling Decoders: Regularizing Variational Autoencoder Latent Spaces
Google Research（谷歌研究院）
变分自编码器学习无监督的数据表示，但这些模型经常收敛到最小值，无法保留有意义的语义信息。例如，具有自回归解码器的变分自编码器通常会崩溃为自解码器，在自解码器中，它们学会忽略编码器输入。在这项工作中，我们证明了添加辅助解码器来正则化潜在空间可以防止这种崩溃，但成功的辅助解码任务是依赖于域的。辅助解码器可以增加潜在空间中编码的语义信息量，并在重建中可见。变分自编码器的表示中的语义信息仅与其速率、失真或证据下限弱相关。与其他修改训练目标的流行策略相比，我们对潜在空间的正则化通常增加了语义信息内容。
2019-05-17 cs.LG stat.ML
Fast and efficient speech enhancement with variational autoencoders
Université de Lorraine（洛林大学）；CNRS（法国国家科学研究中心）；Inria（法国国家信息与自动化研究所）；LORIA（洛林计算机科学及其应用实验室）
基于变分自编码器的无监督语音增强方法与常用的有监督方法相比具有良好的性能。该方法涉及使用预训练的深度语音先验以及参数噪声模型，其中噪声参数是利用基于期望最大化（EM）的方法从有噪语音信号中学习的。E步涉及一个棘手的潜在后验分布。解决这一步的现有算法要么是基于计算量大的Monte Carlo Markov Chain抽样方法和变分推理，要么是基于低效的优化方法。在本文中，我们提出了一种基于Langevin动力学的新方法，该方法生成多个样本序列，并带有一个基于总变分的正则化，以结合潜在向量的时间相关性。我们的实验表明，开发的框架，使计算效率和增强质量之间的有效折衷，并优于现有的方法。
2022-11-02 cs.LG cs.SD eess.AS
Variational autoencoders for tissue heterogeneity exploration from (almost) no preprocessed mass spectrometry imaging data
本文介绍了变分自编码器（VAE）在质谱成像数据（MSI）降维和探索性分析中的应用。结果证实，VAE能够检测与不同组织亚型相关的模式，其性能优于标准方法。
2017-08-24 cs.LG q-bio.QM stat.ML
Robust Unsupervised Audio-visual Speech Enhancement Using a Mixture of Variational Autoencoders
Inria Grenoble Rh\ o ne-Alpes, France
近年来，提出了一种基于变分自编码器（VAE）的视听语音生成模型，该模型结合噪声方差的非负矩阵分解（NMF）模型实现无监督语音增强。当视觉数据是干净的，语音增强与视听VAE表现出更好的性能比与仅音频VAE，这是在仅音频数据上训练。然而，视听VAE对于噪声视觉数据（例如，当对于某些视频帧，说话人面部不是正面或嘴唇区域被遮挡时。本文提出了一种基于逐帧VAE混合模型的鲁棒无监督音视频语音增强方法。该混合模型由训练的仅音频VAE和训练的视听VAE组成。其动机是通过切换到仅音频VAE模型来跳过嘈杂的视觉帧。我们提出了一种变分期望最大化方法来估计模型的参数。实验结果表明，该方法具有良好的性能。
2019-11-10 cs.LG cs.SD eess.AS
Variational Autoencoder with Arbitrary Conditioning
Samsung AI Center Moscow（三星莫斯科人工智能中心）；Samsung-HSE Laboratory（三星-高等经济学院实验室）
我们提出了一个单一的神经概率模型的基础上变分自动编码器，可以条件的观察到的功能的任意子集，然后在“一枪”的其余功能的采样。特征可以是实值的和分类的。模型的训练由随机变分贝叶斯进行。对合成数据、特征填充和图像修复问题的实验评价表明了该方法的有效性和生成样本的多样性。
2019-06-27 cs.LG stat.ML
A weighted-variance variational autoencoder model for speech enhancement
Université de Lorraine（洛林大学）；CNRS（法国国家科学研究中心）；Inria（法国国家信息与自动化研究所）；LORIA（洛林计算机科学及其应用实验室）；Inria Grenoble（法国国家信息与自动化研究所格勒诺布尔分所）；Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）
本文提出加权方差变分自编码器语音增强模型，通过对频谱图时间帧加权并引入Gamma先验形成Student's t分布，实验证明其优于标准未加权方差模型。
2023-10-26 cs.CV cs.LG cs.SD
A Statistically Principled and Computationally Efficient Approach to Speech Enhancement using Variational Autoencoders
Universitee de Lorraine（洛林大学）；CNRS（法国国家科学研究中心）；Inria（法国国家信息与自动化研究所）；LORIA（洛林计算机科学及其应用实验室）
最近的研究已经探索了使用基于变分自编码器（VAE）的语音频谱的深度生成模型与无监督噪声模型相结合来执行语音增强。这些研究开发了迭代算法，在每一步都涉及吉布斯采样或梯度下降，这使得它们在计算上很昂贵。本文提出了一种变分推理方法来迭代估计干净语音的功率谱。我们的主要贡献是变分步骤的分析推导，其中预先学习的VAE的编码器可用于估计真实后验分布的变分近似，使用与训练VAE相同的假设。实验表明，该方法产生的结果与上述迭代法使用采样，同时减少了一个因素36的计算成本，以达到给定的性能。
2019-05-14 cs.LG cs.SD eess.AS
SGVAE: Sequential Graph Variational Autoencoder
Stanford University（斯坦福大学）
图的生成模型是众所周知的，但是许多现有的模型在可扩展性和表达性方面受到限制。我们提出了一种新的顺序图形变分自编码器直接操作的图形表示的数据。在我们的模型中，图的编码和解码分别被构建为顺序的解构和构建过程，从而能够学习潜在空间。循环数据集上的实验显示出希望，但强调需要放松节点排列的分布。
2019-12-17 cs.LG stat.ML
Learning Subject-Invariant Representations from Speech-Evoked EEG Using Variational Autoencoders
KU Leuven（鲁汶大学）
脑电图（EEG）是了解大脑如何处理语音的有力方法。为此，线性模型最近被深度神经网络取代，并产生了有希望的结果。在相关的EEG分类领域，它表明，明确建模主体不变的功能，提高了模型的泛化跨学科和效益的分类精度。在这项工作中，我们适应因式分解层次变分自编码器，利用并行EEG记录相同的刺激。我们将EEG建模为两个解纠缠的潜在空间。主题和内容潜在空间上的主题准确率分别达到98.96%和1.60%，而二进制内容分类实验分别达到51.51%和62.91%。
2022-07-01 cs.LG eess.AS
Improving Variational Autoencoder Estimation from Incomplete Data with Mixture Variational Families
University of Edinburgh（爱丁堡大学）；School of Informatics（信息学院）
针对不完整数据下VAE估计中后验复杂度增加的问题，提出基于有限变分混合和插补变分混合的两种策略，并通过实验证明其能有效提升估计准确性。
2024-06-27 cs.LG stat.ML
A Case for the Score: Identifying Image Anomalies using Variational Autoencoder Gradients
German Cancer Research Center (DKFZ)（德国癌症研究中心）
通过对未标记数据的训练，异常检测有可能通过勾勒可疑区域来影响计算机辅助诊断。以前关于基于深度学习的异常检测的工作主要集中在重建误差上。相反，我们认为，从基于变分自动编码器的分数近似得到的像素异常评级在理论上更有根据，更可靠。在我们的实验中，基于变分自动编码器梯度的评级在BraTS-2017数据集上的无监督像素肿瘤检测方面优于其他方法，ROC-AUC为0.94。
2019-11-28 cs.LG eess.IV stat.ML
Enhanced uncertainty quantification variational autoencoders for the solution of Bayesian inverse problems
本文提出一种新型损失函数训练变分自编码器，用于贝叶斯逆问题的实时不确定性量化，在仿射正向映射下证明其潜在状态收敛到后验分布，并通过数值测试和拉普拉斯方程实验验证了其准确性和泛化性能。
2025-09-24 cs.LG cs.NA math.NA
The Variational InfoMax AutoEncoder
University of Stirling（斯特灵大学）
变分自编码器（VAE）同时学习推理和生成模型，但这些模型中只有一个可以在最佳情况下学习，该行为与ELBO学习目标相关联，该ELBO学习目标由非信息生成器优化。为了解决这个问题，我们提供了一个学习目标，学习一个最大的信息生成器，同时保持有界的网络容量：变分InfoMax（VIM）。VIM推导的贡献是双重的：一个目标学习的最佳推理和生成模型和网络容量的明确定义，网络鲁棒性的估计。
2020-11-08 cs.LG stat.ML
Diffusion Priors In Variational Autoencoders
University of Liège（列日大学）
在基于可能性的深度生成建模方法中，变分自编码器（VAE）提供可扩展的摊销后验推理和快速采样。然而，VAE也越来越多地被竞争模型所超越，例如归一化流（NF），深能模型或新的去噪扩散概率模型（DDPM）。在这个初步的工作中，我们通过演示如何DDPM可以用于建模的潜变量的先验分布来改善VAE。扩散先验模型改进了经典VAE的高斯先验，并与基于NF的先验具有竞争力。最后，我们假设分层VAE可以类似地受益于扩散先验能力的增强。
2021-06-29 cs.LG
Coarse Grained Exponential Variational Autoencoders
King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）
变分自编码器（VAE）通常使用高斯分布或类别分布来对推理过程进行建模。这限制了变分学习，因为这种简化的假设与真实的后验分布不匹配，后者通常要复杂得多。为了打破这一限制，并在推理过程中应用任意的参数分布，本文推导了一个\emph{semi-continuous}潜在的表示，它近似的连续密度达到规定的精度，并且更容易分析比连续的副本，因为它是从根本上离散的。我们展示的命题应用多项式指数族分布作为后验，这是普遍的概率密度函数发生器。我们的实验结果表明，常用的VAE模型一致的改进。
2017-02-25 cs.LG
PRI-VAE: Principle-of-Relevant-Information Variational Autoencoders
University of Florida（佛罗里达大学）；NEC Laboratories Europe（NEC欧洲实验室）
虽然大量的努力已经取得了学习解纠缠表示下的变分自编码器（VAE）的框架，大多数VAE模型的学习动力学的基本属性仍然是未知的和调查不足。在这项工作中，我们首先提出了一个新的学习目标，称为相关信息的原则变分自编码器（PRI-VAE），学习解开表示。然后，我们提出了一个信息理论的角度来分析现有的VAE模型，通过检查一些关键的信息理论量在训练时期的演变。我们的观察揭示了与VAE相关的一些基本性质。实证结果也证明了PRI-VAE的有效性在四个基准数据集。
2020-07-13 cs.LG stat.ML
Ladder Variational Autoencoders
University of Copenhagen（哥本哈根大学）；Aalto University（阿尔托大学）；Technical University of Denmark（丹麦技术大学）
变分自编码器是无监督学习的强大模型。然而，具有多层相关随机变量的深层模型难以训练，这限制了使用这些高度表达的模型所获得的改进。我们提出了一个新的推理模型，梯形变分自动编码器，递归地纠正生成分布的数据依赖的近似似然在一个过程中，类似于最近提出的梯形网络。我们表明，与分层变分自动编码器和其他生成模型中的纯自下而上的推理相比，该模型提供了最先进的预测对数似然和更严格的对数似然下限。我们提供了一个详细的分析，学习层次的潜在表示，并表明我们的新的推理模型是质的不同，并利用更深的更分布式层次的潜在变量。最后，我们观察到批量归一化和确定性预热（逐渐打开KL项）对于训练具有许多随机层的变分模型至关重要。
2016-05-27 cs.LG stat.ML
Squeezed Convolutional Variational AutoEncoder for Unsupervised Anomaly Detection in Edge Device Industrial Internet of Things
Seoul National University（首尔大学）；Samsung Electronics Co. Ltd.（三星电子株式会社）
在本文中，我们提出了压缩卷积变分自编码器（SCVAE），用于工业物联网（IIoT）边缘计算的时间序列数据中的异常检测。将该模型应用于UCI数据集的标记时间序列数据进行精确的性能评估，并应用于真实世界数据进行间接的模型性能比较。此外，通过比较应用来自SqueezeNet的Fire Modules之前和之后的模型，我们发现模型大小和推理时间都有所减少，同时保持了相似的性能水平。
2017-12-18 cs.LG
Least Square Variational Bayesian Autoencoder with Regularization
Indian Institute of Science, Bangalore（印度科学院）
近年来，变分自编码器（Variational Autoencoder，VAE）已成为复杂分布的最流行的无监督学习方法之一，与传统的自编码器相比，它具有更好的重构性能。变分自动编码器比MCMC有更好的近似性。VAE定义了一个生成过程，通过隐藏的随机层级联的祖先采样。它们是有向的图形模型。训练变分自动编码器以最大化变分下限。在这里，我们试图最大化可能性，同时我们也试图对数据进行良好的近似。它基本上是交易的数据对数似然和库尔贝克-莱布勒散度从真正的后验。本文描述的情况下，我们希望找到一个点估计的参数$θ$的一些参数模型中，我们产生的每个观察，首先采样的本地潜在变量，然后采样相关的观察。在这里，我们使用正则化的最小二乘损失函数在图像的重建，最小二乘损失函数被发现可以提供更好的重建图像，并具有更快的训练时间。
2017-07-11 cs.LG stat.ML
Tutorial on Variational Autoencoders
Carnegie Mellon（卡内基梅隆大学）；UC Berkeley（加州大学伯克利分校）
在短短三年的时间里，变分自编码器（VAE）已经成为复杂分布无监督学习的最流行方法之一。VAE之所以吸引人，是因为它们建立在标准函数逼近器（神经网络）之上，并且可以用随机梯度下降进行训练。VAE已经在生成许多类型的复杂数据方面显示出了希望，包括手写数字、人脸、门牌号、CIFAR图像、场景的物理模型、分割以及从静态图像预测未来。本教程介绍VAE背后的直觉，解释它们背后的数学，并描述一些经验行为。假设变分贝叶斯方法没有先验知识。
2021-01-03 cs.LG stat.ML
Molecular generative model based on conditional variational autoencoder for de novo molecular design
KAIST（韩国科学技术院）
我们提出了一个基于条件变分自编码器的分子生成模型，用于从头分子设计。它专门通过将多个分子特性施加在潜在空间上来同时控制它们。作为概念证明，我们证明了它可以用于产生具有五个目标特性的药物样分子。我们还能够在不改变其他属性的情况下调整单个属性，并在数据集范围之外对其进行操作。
2018-06-15 cs.LG stat.ML
A Perceived Environment Design using a Multi-Modal Variational Autoencoder for learning Active-Sensing
Bielefeld University（比勒费尔德大学）；Australian Centre for Robotic Vision（澳大利亚机器人视觉中心）；Queensland University of Technology（昆士兰科技大学）
这种贡献包括多模态变分自编码器和感知环境之间的相互作用，代理可以对其进行操作。此外，我们结束了我们的工作与好奇心驱动的学习比较。
2019-11-01 cs.AI cs.LG cs.MA
Open-Set Recognition with Gaussian Mixture Variational Autoencoders
Northwestern University（西北大学）
在推理中，开集分类是将样本分类到训练中的已知类或将其拒绝为未知类。现有的深度开集分类器训练显式闭集分类器，在某些情况下，分离地利用重建，我们发现稀释了潜在的表示的能力，以区分未知的类。相比之下，我们训练我们的模型来合作学习重建，并在潜在空间中执行基于类的聚类。有了这个，我们的高斯混合变分自编码器（GMVAE）实现了更准确和更强大的开集分类结果，平均F1提高了29.5%，通过大量的实验分析结果的帮助。
2020-06-03 cs.CV cs.LG cs.NE
Embedding and generation of indoor climbing routes with variational autoencoder
CERN（欧洲核子研究组织）
最近室内攀岩的流行度增加允许深度学习算法的可能应用，以分类和生成攀岩路线。在这项工作中，我们采用了一个变分自编码器，攀登路线在一个标准化的训练设备MoonBoard，一个著名的训练工具在攀登社区。通过对编码的潜在空间进行采样，可以观察到该算法可以生成高质量的攀爬路线。生成的22个问题被上传到Moonboard应用程序供用户查看。该算法可以作为第一步，以方便室内攀登路线设置。
2020-09-16 cs.LG eess.SP
Variational Laplace Autoencoders
Seoul National University（首尔国立大学）
变分自编码器采用摊销推理模型来近似潜变量的后验。然而，这种摊销变分推理面临两个挑战：（1）有限的后验表达的完全分解高斯假设和（2）摊销误差的推理模型。我们提出了一种新的方法，解决这两个挑战。首先，我们关注具有高斯输出的ReLU网络，并说明它们与概率PCA的联系。在此基础上，我们推导出一个迭代算法，找到后验模式，并应用以模式为中心的全协方差高斯后验近似。随后，我们提出了一个名为变分拉普拉斯自编码器（VLAEs）的通用框架，用于训练深度生成模型。VLAES基于潜在变量后验的Laplace近似，增强了后验的表达能力，同时减少了摊销误差。在MNIST、Omniglot、Fashion-MNIST、SVHN和CIFAR 10上的实验结果表明，该方法在ReLU网络上的性能明显优于其他最近的摊销或迭代法。
2022-11-30 cs.LG
Source Separation of Multi-source Raw Music using a Residual Quantized Variational Autoencoder
Sapienza University of Rome（罗马第一大学）
本研究提出一种基于残差量化变分自编码器的神经音频编解码器模型，在Slakh2100数据集上训练后可实现音乐源分离，以远低于现有方法的算力取得接近当前最优水平的效果，且代码已公开。
2024-08-12 cs.LG cs.MM cs.SD
Variational Autoencoders with Normalizing Flow Decoders
National Chiao Tung University（国立交通大学）
最近提出的归一化流模型，如辉光已被证明能够生成高质量，高维图像与相对较快的采样速度。然而，由于它们固有的限制性结构，它们必须非常深，以便有效地进行训练。在本文中，我们建议结合辉光与底层的变分自编码器，以抵消这个问题。我们证明了我们提出的模型在图像质量和测试可能性方面与Glow具有竞争力，同时需要更少的训练时间。
2020-04-12 cs.LG stat.ML
A lower bound for the ELBO of the Bernoulli Variational Autoencoder
Fraunhofer ITWM（弗劳恩霍夫工业数学研究所）；Technical University of Kaiserslautern（凯泽斯劳滕工业大学）
我们考虑一个二进制数据的变分自编码器（VAE）。我们的主要创新是其训练目标的可解释的下限，这种VAE的修改的初始化和架构，导致更快的训练，以及通过使用PCA找到潜在空间的适当维度的决策支持。数值例子说明了我们的理论结果和性能的新架构。
2020-03-26 cs.LG math.ST stat.ML
Diffusion Variational Autoencoders
Eindhoven University of Technology（埃因霍温理工大学）
具有欧几里得潜在空间的标准变分自编码器在结构上不能捕获某些数据集的拓扑特性。为了消除拓扑障碍，我们引入了扩散变分自编码器与任意流形作为潜在空间。扩散变分自编码器使用流形上布朗运动的过渡核。特别是，它使用布朗运动的性质来实现重新参数化技巧和快速逼近KL散度。我们证明了扩散变分自编码器能够捕获合成数据集的拓扑特性。此外，我们训练MNIST球，环面，射影空间，SO（3），和一个环面嵌入R3。虽然像MNIST这样的自然数据集没有具有明确拓扑结构的潜在变量，但在流形上训练它仍然可以突出拓扑和几何属性。
2019-03-28 cs.LG stat.ML
