VFlow: More Expressive Generative Flows with Variational Data Augmentation
Tsinghua University（清华大学）；RealAI（瑞莱智慧）
生成流是有前途的易处理的模型，密度建模，定义概率分布与可逆变换。然而，易处理性对生成流施加了架构约束，使得它们比其他类型的生成模型表现力更差。在这项工作中，我们研究了一个以前被忽视的约束，即由于可逆性，所有中间表示必须与原始数据具有相同的维数，从而限制了网络的宽度。我们通过用一些额外的维度来增强数据，并在变分推断框架下联合学习增强数据的生成流以及增强维度的分布来解决这个约束。我们的方法VFlow是生成流的推广，因此总是表现得更好。结合现有的生成流，VFlow在CIFAR-10数据集上实现了新的最先进的每维2.98位，比以前的模型更紧凑，可达到类似的建模质量。
2020-07-22 cs.LG stat.ML
Note on the equivalence of hierarchical variational models and auxiliary deep generative models
本文比较了两个最近发表的机器学习方法，用于构建灵活，但易于处理的变分隐变量后验族。第一种方法，称为“分层变分模型”，丰富的推理模型与额外的变量，而另一种，称为“辅助深度生成模型”，丰富的生成模型。我们的结论是，这两种方法在数学上是等价的。
2016-03-09 stat.ML
Inverting Variational Autoencoders for Improved Generative Accuracy
使用深度生成模型的半监督学习的最新进展已经显示出从小标记数据集（$\mathbf{x},\mathbf{y}$）推广到大未标记数据集（$\mathbf{x}$）的希望。在共域具有已知结构的情况下，大的无特征数据集（$\mathbf{y}$）是潜在可用的。我们开发了一个参数高效的深度半监督生成模型，以利用这个未开发的数据源。实证结果表明，在解开潜在变量的语义，以及改进的火星光谱和手写数字域的歧视性预测的性能提高。
2017-08-24 cs.LG stat.ML
Variational Approaches for Auto-Encoding Generative Adversarial Networks
DeepMind
自动编码生成对抗网络（GANs）结合了标准的GAN算法，该算法区分真实和模型生成的数据，并由自动编码器给出重建损失。这些模型旨在通过确保学习生成模型基于所有可用的训练数据来防止学习生成模型中的模式崩溃。在本文中，我们开发了一种原理，通过利用生成模型的分层结构，可以将自动编码器与生成对抗网络相结合。其基本原理表明，变分推断可以用作学习的基本工具，但不可处理的似然被合成似然代替，未知的后验分布被隐式分布代替;合成似然和隐式后验分布都可以使用鉴别器来学习。这使我们能够开发变分自动编码器和生成对抗网络的自然融合，结合这两种方法的优点。我们描述了一个统一的优化目标，讨论了指导学习所需的约束条件，连接到广泛的现有工作，并使用一系列测试来系统地和定量地评估我们的方法的性能。
2017-10-21 cs.LG stat.ML
A Variational Perspective on Generative Flow Networks
University of Amsterdam（阿姆斯特丹大学）；Linköping University（林雪平大学）
生成流网络（generative flow networks，GFN）是一类用于复合对象的序贯抽样的模型，它近似于根据能量函数或奖励定义的目标分布。GFN通常使用流匹配或轨迹平衡目标来训练，其匹配轨迹上的前向和后向转换模型。在这项工作中，我们定义变分目标GFNs的Kullback-Leibler（KL）之间的分歧的前向和后向分布。我们表明，变分推断在GFNs是相当于最小化的轨迹平衡目标时，从前向模型的轨迹采样。我们通过优化反向和正向库尔贝克-莱布勒散度的凸组合来推广这种方法。这种见解表明，变分推断方法可以用作定义用于训练生成流网络的更一般的目标族的手段，例如，通过结合通常用于变分推断的控制变量，以减少轨迹平衡目标的梯度的方差。我们评估我们的研究结果和性能的建议变目标数值比较，它的轨迹平衡目标上的两个合成任务。
2022-10-14 cs.LG stat.ML
Causally Disentangled Generative Variational AutoEncoder
University of Seoul（首尔大学）；Yonsei University（延世大学）
该研究提出适用于VAE的因果解耦生成（CDG）方法，探究实现CDG的充要条件，提出通用评估指标，经图像和表格数据集验证有效。
2023-10-09 cs.LG stat.ML
Flow++: Improving Flow-Based Generative Models with Variational Dequantization and Architecture Design
UC Berkeley（加州大学伯克利分校）
基于流的生成模型是具有高效采样和推理的强大精确似然模型。尽管它们的计算效率，基于流的模型通常具有比最先进的自回归模型差得多的密度建模性能。在本文中，我们研究和改进了先前工作中基于流的模型所采用的三种限制性设计选择：使用均匀噪声进行去量化，使用无表情仿射流，以及在耦合层中使用纯卷积条件网络。基于我们的研究结果，我们提出了Flow++，这是一种新的基于流的模型，现在是最先进的非自回归模型，用于标准图像基准的无条件密度估计。我们的工作已经开始缩小自回归模型和基于流的模型之间迄今存在的显著性能差距。我们的实现可以在https://github.com/aravindsrinivas/flowpp上获得
2019-05-15 cs.LG cs.NE stat.ML
Generative Particle Variational Inference via Estimation of Functional Gradients
Oregon State University（俄勒冈州立大学）；Horizon Robotics（Horizon Robotics（地平线机器人））
最近，基于粒子的变分推理（ParVI）方法已经获得了兴趣，因为它们可以避免变分推理中常见的任意参数假设。然而，许多ParVI方法不允许从后验任意采样，并且少数允许这样采样的方法遭受次优性。本文提出了一种从后验分布中学习近似采样的新方法。我们构造了一个神经采样器，该神经采样器是用经验采样分布和目标分布之间的KL发散的函数梯度来训练的，假设梯度位于再生核希尔伯特空间内。我们的生成ParVI（GPVI）方法保持了ParVI方法的渐近性能，同时提供了生成采样器的灵活性。通过精心构建的实验，我们表明GPVI优于以前的生成ParVI方法，如摊销SVGD，并与ParVI以及黄金标准方法（如Hamiltonian Monte Carlo）竞争，以拟合精确已知和难以处理的目标分布。
2021-08-10 cs.LG stat.ML
f-GAN: Training Generative Neural Samplers using Variational Divergence Minimization
Microsoft Research（微软研究院）
生成式神经采样器是使用前馈神经网络实现采样的概率模型：它们采用随机输入向量并从由网络权重定义的概率分布中产生样本。这些模型具有表达能力，可以有效地计算样本和导数，但不能用于计算似然性或边缘化。生成对抗训练方法允许通过使用辅助判别神经网络来训练这样的模型。我们表明，生成对抗的方法是一个特殊的情况下，现有的更一般的变分散度估计方法。我们证明了任何f-发散都可以用于训练生成神经采样器。我们讨论了不同的发散函数选择对训练复杂性和生成模型质量的好处。
2016-06-02 cs.LG stat.ME stat.ML
Monte Carlo Filtering Objectives: A New Family of Variational Objectives to Learn Generative Model and Neural Adaptive Proposal for Time Series
Royal Institute of Technology（皇家理工学院）；Volvo Car Corporation（沃尔沃汽车公司）；Chalmers University of Technology（查尔姆斯理工大学）
学习生成模型和推断潜在的轨迹已被证明是具有挑战性的时间序列，由于灵活的生成模型的棘手的边缘可能性。它可以通过优化的替代目标来解决。我们提出了蒙特卡洛过滤目标（MCFO），一个家庭的变分目标，共同学习参数生成模型和摊销的时间序列的自适应重要性建议。MCFO扩展了最新目标中的顺序蒙特卡罗方法之外的似然估计量的选择，具有重要的属性，揭示了目标紧密性的因素，并允许较少的偏差和变化梯度估计。我们证明了所提出的MCFO和梯度估计导致有效和稳定的模型学习，并且学习的生成模型很好地解释了数据，并且重要性建议在各种时间序列数据上更具样本效率。
2021-05-20 cs.LG stat.ML
Dual reparametrized Variational Generative Model for Time-Series Forecasting
King’s College London（伦敦国王学院）
本文提出了一种用于时间序列预测的生成式模型DualVDT。在变分自编码器（VAE）模型中引入双重重参数化变分机制，收紧了模型的证据下限（ELBO），并从理论上证明了其性能的提高。该机制利用基于潜在基于得分的生成模型（SGM），通过逆时随机微分方程和变分祖先采样显式地去除潜在向量上累积的扰动。融合对偶重参数变分密度的隐分布去噪后验。ELBO中的KL发散将减小，以达到更好的模型结果。本文还提出了一种潜在的注意力机制来显式提取多元依赖关系。通过构造局部拓扑和时态关联，在因子关联中同时建立局部时态关联。在多个数据集上的验证和实验表明，DualVDT具有一种新的双重重新参数化结构，通过逆动力学结合局部时间推理来消除潜在扰动，在分析和实验上都具有先进的性能。
2022-03-11 cs.AI cs.LG stat.ML
Variational Mixture-of-Experts Autoencoders for Multi-Modal Deep Generative Models
University of Oxford（牛津大学）；Alan Turing Institute（艾伦·图灵研究所）；University of Cambridge（剑桥大学）
学习跨越多种数据模态（如视觉和语言）的生成模型通常是出于学习更有用、更可概括的表示的愿望，这些表示忠实地捕捉模态之间的共同基础因素。在这项工作中，我们将成功学习这些模型视为满足四个标准：i）隐式潜在分解为共享和私有子空间，ii）所有模态的连贯联合生成，iii）跨单个模态的连贯交叉生成，以及iv）通过多模态集成改进单个模态的模型学习。在这里，我们提出了一个专家混合的多模态变分自动编码器（MMVAE）来学习不同模态集上的生成模型，包括具有挑战性的图像语言数据集，并证明其能够在定性和定量上满足所有四个标准。
2019-11-08 cs.LG stat.ML
Direct Evolutionary Optimization of Variational Autoencoders With Binary Latents
University of Oldenburg（奥尔登堡大学）；CERN（欧洲核子研究中心）
离散潜变量被认为对于现实世界的数据很重要，这激发了对具有离散潜变量的变分自动编码器（VAE）的研究。然而，在这种情况下，标准VAE训练是不可能的，这促使不同的策略来操纵离散分布，以便类似于传统的训练离散VAE。在这里，我们问是否也可以通过对编码模型应用直接离散优化来保持潜伏期的离散性质完全不变。因此，该方法通过避开采样近似、重新参数化技巧和摊销，强烈地偏离了标准的VAE训练。离散优化实现在变分设置中使用截断后验结合进化算法。对于具有二进制潜伏期的VAE，我们（A）展示了这种离散变分方法如何与网络权重的梯度上升联系在一起，以及（B）如何使用解码器来选择用于训练的潜伏状态。传统的分期训练更有效，适用于大型神经网络。然而，使用较小的网络，我们在这里发现直接离散优化可以有效地扩展到数百个潜伏期。更重要的是，我们发现直接优化的有效性在“zero-shot”学习中具有很强的竞争力。与大型监督网络相比，这里研究的VAE可以，例如，对单个图像进行降噪，而无需先前对干净数据的训练和/或对大型图像数据集的训练。更一般地说，研究的方法表明，培训VAE确实是可能的，没有采样为基础的近似和重新参数化，这可能是有趣的VAE培训的分析一般。此外，对于“zero-shot”设置，直接优化使得VAE具有竞争力，其中它们先前被非生成方法优于。
2023-03-24 cs.LG stat.ML
A Novel Variational Autoencoder with Applications to Generative Modelling, Classification, and Ordinal Regression
Aalto University（阿尔托大学）
我们开发了一种新的概率生成模型的基础上变分自动编码器的方法。值得注意的方面，我们的架构是：一种新的方式指定的潜变量之前，并引入了一个序数执行单元。我们描述了如何使用该模型进行监督，无监督和半监督学习，以及名义和顺序分类。我们使用两个基准数据集分析了该方法的生成特性，以及在名义分类和有序分类下的分类有效性。我们的研究结果表明，我们的模型可以在两个分类任务中实现与相关基线相当的结果。
2018-12-19 cs.LG stat.ML
Adversarial Variational Optimization of Non-Differentiable Simulators
University of Liège（列日大学）；New York University（纽约大学）
复杂的计算机模拟器越来越多地用于科学领域，作为将基础理论的参数与实验观察相结合的生成模型。在这种情况下进行推理通常是困难的，因为模拟器很少承认易处理的密度或似然函数。我们介绍了对抗变分优化（AVO），这是一种用于拟合不可微生成模型的无似然推理算法，该算法结合了生成对抗网络，变分优化和经验贝叶斯的思想。我们通过用特定领域的模拟器替换可微分生成网络来调整生成对抗网络的训练过程。我们解决由此产生的不可微极大极小问题，通过最小化两个敌对目标的变分上界。有效地，该过程导致学习模拟器参数上的建议分布，使得合成数据的边缘分布与观测数据的经验分布之间的JS偏差最小化。我们评估和比较的方法与模拟器产生离散和连续的数据。
2020-04-16 cs.LG stat.ML
Unbalanced GANs: Pre-training the Generator of Generative Adversarial Network using Variational Autoencoder
KAIST（韩国科学技术院）；Asan Medical Center（峨山医学中心）
我们提出了非平衡GANs，它使用变分自编码器（VAE）预训练生成对抗网络（GAN）的生成器。我们保证稳定的训练的发生器，防止更快的收敛速度在早期时期。此外，我们在早期阶段在生成器和训练器之间进行平衡，从而保持GANs的稳定训练。我们将不平衡的GANs应用于众所周知的公共数据集，发现不平衡的GANs减少了模式坍塌。我们还表明，不平衡的GANs在稳定的学习，更快的收敛和更好的图像质量方面优于普通的GANs。
2020-02-06 cs.CV cs.LG stat.ML
Physics-Integrated Variational Autoencoders for Robust and Interpretable Generative Modeling
University of Applied Sciences and Arts Western Switzerland (HES-SO)（瑞士西部应用科学与艺术大学（HES-SO））
将物理模型集成到机器学习模型中，对于学习具有改进的可解释性和外推能力的鲁棒模型具有相当大的希望。在这项工作中，我们专注于将不完整的物理模型整合到深度生成模型中。特别是，我们介绍了一个架构的变分自编码器（VAE），其中的一部分的潜在空间是接地的物理。一个关键的技术挑战是在不完整的物理和可训练的组件（例如神经网络）之间取得平衡，以确保以有意义的方式使用物理部分。为此，我们提出了一种正则化学习方法，该方法控制可训练组件的效果，并保留基于物理的潜在变量的语义。我们不仅在一组合成和真实世界的数据集上展示了生成性能的改进，而且我们还展示了我们学习的鲁棒模型，这些模型可以以一种有意义的方式一致地外推到训练分布之外。此外，我们表明，我们可以控制生成过程中的一个可解释的方式。
2021-10-26 cs.LG stat.ML
The Effects of Invertibility on the Representational Complexity of Encoders in Variational Autoencoders
Carnegie Mellon University（卡内基梅隆大学）
训练和使用基于现代神经网络的潜变量生成模型（如变分自编码器）通常需要同时训练生成方向和推理（编码）方向，这近似于潜变量的后验分布。因此，问题就来了：为了能够准确地模拟给定生成模型的后验分布，推理模型需要有多复杂？在本文中，我们确定了一个重要的属性的生成地图影响所需的大小的编码器。我们表明，如果生成地图是“强可逆的”（在某种意义上，我们适当地正式），推理模型不需要更复杂。相反，我们证明了存在不可逆的生成映射，其编码方向需要呈指数增长（在计算复杂性的标准假设下）。重要的是，我们不要求生成模型是逐层可逆的，这是许多相关文献假设的，并且在实践中使用的许多架构（例如基于卷积和池化的网络）都不满足。因此，我们为经验智慧提供了理论支持，即当数据位于低维流形上时，学习深度生成模型更难。
2021-07-09 cs.LG stat.ML
Variational Temporal Deep Generative Model for Radar HRRP Target Recognition
Xidian University（西安电子科技大学）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）
我们基于高分辨率距离像（HRRP）开发了一种用于雷达自动目标识别（RATR）的循环伽马置信网络（rGBN），该网络表征了HRRP距离单元之间的时间依赖性。所提出的rGBN采用一个层次的Γ分布来建立其时间深度生成模型。对于可扩展的训练和快速的样本外预测，我们提出了一个随机梯度马尔可夫链蒙特卡罗（MCMC）和一个经常性的变分推断模型的混合执行后验推理。为了利用标签信息来提取更具鉴别力的潜在表示，我们进一步提出了监督rGBN来联合建模HRRP样本及其相应的标签。在合成和实测HRRP数据上的实验结果表明，该模型计算效率高，具有良好的分类精度和泛化能力，并提供了高度可解释的多随机层潜在结构。
2020-09-28 cs.LG stat.ML
Variational Autoencoders for Generative Modelling of Water Cherenkov Detectors
University of Manitoba（曼尼托巴大学）；TRIUMF；University of British Columbia（不列颠哥伦比亚大学）
物质-反物质不对称性是物理学中尚未解决的主要问题之一，可以通过当前和下一代中微子振荡实验中电荷宇称对称性破坏的精确测量来探索。在这项工作中，我们展示了变分自动编码器和归一化流的能力，以近似这些实验中常用的水切伦科夫探测器的模拟数据的生成分布。我们研究了这些方法的性能及其适用于半监督学习和合成数据生成。
2019-11-01 cs.LG hep-ex physics.ins-det
Variational Inference using Implicit Distributions
Twitter（推特）
生成对抗网络（GANs）为我们提供了一个很好的工具，可以将隐式生成模型拟合到数据中。隐式分布是我们可以很容易地从中采样的分布，并且可以对样本对模型参数求导。这些模型是高度表达，我们认为他们可以证明是一样有用的变分推断（VI），因为他们是生成建模。有几篇论文提出了类似GAN的推理算法，然而，与VI理论的联系并不总是很好理解。本文对现有算法进行了统一的回顾，这些算法在变分自编码器、逆向学习推理、算子VI、基于GAN的图像重建等之间建立了联系。其次，本文提供了一个框架，用于建立新的算法：根据变分界的方式表示，我们引入先验对比和联合对比的方法，并显示实际的推理算法的基础上，无论是密度比估计或去噪。
2017-02-27 cs.LG stat.ML
Learning multi-modal generative models with permutation-invariant encoders and tighter variational objectives
Nanyang Technological University（南洋理工大学）；School of Social Sciences（社会科学学院）；School of Mechanical and Aerospace Engineering（机械与宇航工程学院）；School of Physical and Mathematical Sciences（物理与数学科学学院）
提出一种紧密逼近对数似然的变分目标，并利用置换不变神经网络构建灵活的多模态聚合方案，避免PoE或MoE的归纳偏置，在可识别模型中更好地逼近真实联合分布。
2024-09-24 cs.LG stat.ML
Variational Tracking and Prediction with Generative Disentangled State-Space Models
Volkswagen Group Machine Learning Research Lab（大众集团机器学习研究实验室）
我们解决跟踪和预测的多个移动对象在视觉数据流的推理和采样在一个解开潜在的状态空间模型。通过分别编码对象，包括明确的位置信息的潜在状态空间中，我们通过摊销变分贝叶斯推断的各个潜在的位置进行跟踪。推理是在一个模块化的神经框架中实现的，这个框架是针对我们解开的潜在空间而定制的。生成模型和推理模型仅从观察中联合学习。与相关的先前工作相比，我们的经验表明，我们的马尔可夫状态空间假设，使忠实和大大改善长期预测远远超出了训练范围。此外，我们的推理模型正确地将帧分解为对象，即使在存在遮挡的情况下。跟踪性能相对于现有技术显著提高。
2019-10-14 cs.CV cs.LG stat.ML
Variational Auto-Decoder: A Method for Neural Generative Modeling from Incomplete Data
Carnegie Mellon University（卡内基梅隆大学）
从部分数据（缺失数据）中学习生成模型是机器学习研究的一个具有挑战性的领域。我们研究了自动编码变分贝叶斯（AEVB）算法的具体实现，在本文中命名为变分自动解码器（VAD）。VAD是一个通用的框架，它使用变分贝叶斯和马尔可夫链蒙特卡罗（MCMC）方法从部分数据中学习生成模型。VAD和可变自动编码器（VAE）之间的主要区别是编码器组件，因为VAD没有编码器组件。使用一个建议的有效的推理方法从多变量高斯近似后验，VAD模型允许通过简单的梯度上升，而不是MCMC采样从概率解码器进行推理。该技术降低了推理计算成本，允许在潜在空间推理期间使用更复杂的优化技术（由于VAD潜在空间中的高自由度，其被示出为至关重要的），并且保持框架易于实现。通过对多个数据集和不同缺失率的大量实验，我们表明编码器不能有效地边缘化由估算缺失值引起的输入波动。本文研究了多模态数据集，这是VAD模型的一个特殊影响领域。
2021-01-03 cs.AI cs.LG stat.ML
Semi-Amortized Variational Autoencoders
Harvard University（哈佛大学）；Massachusetts Institute of Technology（麻省理工学院）
摊销变分推断（AVI）用全局推理网络代替特定于实例的局部推理。虽然AVI已经实现了深度生成模型（如变分自编码器（VAE））的有效训练，但最近的经验研究表明，推理网络可能会产生次优的变分参数。我们提出了一种混合的方法，使用AVI初始化变分参数和运行随机变分推断（SVI）来完善它们。最重要的是，局部SVI过程本身是可微的，因此推理网络和生成模型可以通过基于梯度的优化进行端到端的训练。这种半摊销方法可以使用丰富的生成模型，而不会遇到在训练VAE时常见的后崩溃现象，例如文本生成。实验表明，该方法在标准文本和图像数据集上的性能优于强自回归和变分基线。
2018-07-23 cs.CL cs.LG stat.ML
The Variational Homoencoder: Learning to learn high capacity generative models from few examples
Massachusetts Institute of Technology（麻省理工学院）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）
分层贝叶斯方法可以将许多相关的任务（例如，k-shot分类，条件和无条件生成）统一为单个生成模型中的推理。然而，当这种生成模型被表示为一个强大的神经网络，如PixelCNN，我们表明，现有的学习技术通常无法有效地使用潜在变量。为了解决这个问题，我们开发了一个修改的变分自编码器，其中编码的意见被解码为新的元素从同一个类。这种技术，我们称之为变分同伦编码器（VHE），产生一个层次的潜变量模型，更好地利用潜变量。我们使用VHE框架在Omniglot数据集上学习分层PixelCNN，它在测试集似然性上优于所有现有模型，并在一次性生成和分类任务上实现了强大的性能。我们还验证了来自YouTube Faces数据库的自然图像上的VHE。最后，我们开发扩展的模型，适用于更丰富的数据集结构，如阶乘和层次类别。
2018-07-24 cs.AI cs.LG stat.ML
Beyond Imitation: Generative and Variational Choreography via Machine Learning
Yale University（耶鲁大学）；Coventry University（考文垂大学）；Harvard University（哈佛大学）
我们的舞蹈艺术家、物理学家和机器学习研究人员团队共同开发了几种原创的、可配置的机器学习工具，以生成新颖的编舞序列以及输入编舞序列的可调变体。我们使用递归神经网络和自动编码器架构，这些架构来自每个时间步捕获为53个三维点的运动训练数据集。生成的序列的示例动画和我们模型的交互式版本可以在http：//www.beyondimitation.com上找到。
2019-07-11 cs.LG cs.MM stat.ML
A Variational Inequality Perspective on Generative Adversarial Networks
Mila & DIRO, University of Montreal（蒙特利尔大学 Mila 与 DIRO）；Facebook Artificial Intelligence Research（Facebook 人工智能研究院）；Canada CIFAR AI Chair（加拿大 CIFAR 人工智能教席）
生成对抗网络（GANs）形成了一种生成建模方法，以产生吸引人的样本而闻名，但它们非常难以训练。解决这一问题的一种常见方法是提出GAN目标的新表述。然而，令人惊讶的是，很少有研究关注为这种对抗性训练设计的优化方法。在这项工作中，我们投GAN优化问题的一般变分不等式框架。利用数学规划文献，我们反驳了一些关于鞍点优化困难的常见误解，并提出将为变分不等式设计的技术扩展到GANs的训练。我们应用平均，外推和计算成本更低的变体，我们称之为外推从过去的随机梯度法（SGD）和亚当。
2020-08-28 cs.LG math.OC stat.ML
Epitomic Variational Graph Autoencoder
Technical University of Munich（慕尼黑工业大学）；Mercateo AG（Mercateo公司）
变分自编码器（VAE）是一种广泛使用的生成模型，用于学习潜在表示。Burda等人在他们的开创性论文中表明，VAE的学习能力受到过度修剪的限制。这是一种现象，其中大量潜变量未能捕获关于输入数据的任何信息，并且对应的隐藏单元变得不活动。这对学习多样化和可解释的潜在表征产生了不利影响。变分图自动编码器（VGAE）扩展了VAE的图结构数据，它继承了过度修剪问题。在本文中，我们采用了基于模型的方法，并提出了epitomic VGAE（EVGAE），一个生成的变分框架的图数据集，成功地减轻了过度修剪问题，也提高了VGAE的生成能力。我们认为EVGAE由多个稀疏的VGAE模型组成，称为epitomes，这是一组共享潜在空间的潜在变量。这种方法有助于增加活动单元，因为摘要竞争学习更好的图形数据表示。我们通过三个基准数据集上的实验验证了我们的说法。实验结果表明，EVGAE比VGAE具有更好的生成能力。在引文网络中，EVGAE的链接预测性能优于VGAE.
2020-08-07 cs.LG stat.ML
Likelihood Regret: An Out-of-Distribution Detection Score For Variational Auto-encoder
University of Chicago（芝加哥大学）
深度概率生成模型能够对非常高维数据的可能性进行建模。生成建模的一个重要应用应该是通过设置可能性阈值来检测分布外（OOD）样本的能力。然而，最近的一些研究表明，概率生成模型可以，在某些情况下，分配较高的似然对某些类型的OOD样本，使OOD检测规则的基础上的似然阈值的问题。为了解决这个问题，已经针对深度生成模型提出了几种OOD检测方法。在本文中，我们观察到，这些方法中的许多失败时，应用到基于变分自动编码器（VAE）的生成模型。作为一种替代方案，我们提出了一个有效的OOD评分VAE的Likestival遗憾。我们基准我们提出的方法在现有的方法，和实证结果表明，我们的方法获得最佳的整体OOD检测性能时，应用于VAE。
2020-10-10 cs.CV cs.LG stat.ML
The Variational InfoMax AutoEncoder
University of Stirling（斯特灵大学）
变分自编码器（VAE）同时学习推理和生成模型，但这些模型中只有一个可以在最佳情况下学习，该行为与ELBO学习目标相关联，该ELBO学习目标由非信息生成器优化。为了解决这个问题，我们提供了一个学习目标，学习一个最大的信息生成器，同时保持有界的网络容量：变分InfoMax（VIM）。VIM推导的贡献是双重的：一个目标学习的最佳推理和生成模型和网络容量的明确定义，网络鲁棒性的估计。
2020-11-08 cs.LG stat.ML
Self-Reflective Variational Autoencoder
Carnegie Mellon University（卡内基梅隆大学）
变分自编码器（VAE）是一个学习概率潜变量生成模型的强大框架。然而，编码器和/或先验的近似后验分布的典型假设严重限制了其推理和生成建模的能力。基于神经自回归模型的变分推理尊重精确后验的条件依赖性，但这种灵活性是有代价的：这种模型在高维状态下进行训练是昂贵的，并且产生样本的速度可能很慢。在这项工作中，我们引入了一个正交的解决方案，我们称之为自反射推理。通过重新设计现有VAE架构的分层结构，自反射确保随机流保留精确后验的因式分解，以与生成模型一致的递归方式顺序更新潜在代码。我们经验性地证明了将变分后验与精确后验匹配的明显优势--在二值化MNIST上，自反射推理实现了最先进的性能，而无需求助于复杂的、计算上昂贵的组件，如自回归层。此外，我们设计了一个变分规范化流程，采用所提出的架构，产生预测的好处相比，其纯粹的生成对应。我们提出的修改是相当普遍的，并补充了现有的文献;自反射推理可以自然地利用分布估计和生成建模的进步，以提高层次结构中每一层的能力。
2020-07-10 cs.CV cs.LG stat.ML
Neural Variational Inference for Text Processing
University of Oxford（牛津大学）；Google Deepmind（谷歌DeepMind）
神经变分推理的最新进展催生了深层潜变量模型的复兴。在本文中，我们介绍了一个通用的变分推理框架的生成和条件模型的文本。虽然传统的变分方法推导出一个解析近似的棘手的分布在潜在的变量，在这里，我们构建了一个推理网络的条件下的离散文本输入，以提供变分分布。我们验证这个框架上的两个非常不同的文本建模应用程序，生成文档建模和监督问答。我们的神经变分文档模型结合了连续的随机文档表示与词袋生成模型，并在两个标准测试语料库上实现了最低的困惑。神经答案选择模型采用注意力机制内的随机表示层来提取问题和答案对之间的语义。在两个问答基准测试中，该模型超过了所有以前发布的基准测试。
2016-06-04 cs.CL cs.LG stat.ML
On Implicit Regularization in $β$-VAEs
Google Research（谷歌研究院）
虽然变分推理（VI）对固定生成模型中的后验推理的影响已经得到了很好的表征，但当用于变分自编码器（VAE）时，其在正则化学习生成模型中的作用却知之甚少。我们从两个角度研究了生成模型中变分分布对学习的正则化效应。首先，我们分析了变分族的选择在通过限制最优生成模型的集合来赋予学习模型唯一性方面所起的作用。其次，我们研究了变分族的正则化效应对解码模型的局部几何的影响。该分析揭示了$β$ -VAE目标中隐含的正则化器，并导致由确定性自动编码目标加上依赖于解码模型的Hessian或Jacobian的分析正则化器组成的近似，将VAE与最近提出的用于训练正则化自动编码器的算法统一起来。我们经验验证这些发现，观察到所提出的确定性目标表现出类似的行为的$β$ -VAE的客观价值和样本质量。
2020-12-28 cs.LG stat.ML
A Bayesian Non-parametric Approach to Generative Models: Integrating Variational Autoencoder and Generative Adversarial Networks using Wasserstein and Maximum Mean Discrepancy
Department of Statistics and Actuarial Science University of Hong Kong（统计与精算科学系香港大学）
本文提出一种基于贝叶斯非参数框架的生成模型，整合VAE、GAN及CGAN，采用Wasserstein距离和最大均值差异损失，以解决过拟合和噪声样本问题，提升训练稳定性并生成高质量多样样本。
2025-06-22 cs.LG stat.AP stat.CO
Celeste: Variational inference for a generative model of astronomical images
我们提出了一个新的，完全生成模型的光学望远镜图像集，随着变分推理过程。每个像素强度被视为泊松随机变量，速率参数依赖于恒星和星系的潜在属性。关键的潜在属性本身是随机的，科学的先验分布是从大型辅助数据集构建的。我们在合成图像上检查我们的方法。我们还在一次大型巡天的图像上运行它，它超过了目前最先进的定位天体和测量其颜色的方法的性能。
2015-06-03 astro-ph.IM stat.ML
Meta-Learning with Variational Bayes
元学习领域寻求提高当今机器学习系统有效适应少量数据的能力。通常，这是通过使用参数化更新规则训练系统来实现的，以基于监督或奖励函数来改进任务相关目标。然而，在许多领域的实际利益，任务数据是未标记的，或奖励功能是不可用的。在本文中，我们介绍了一种新的方法来解决更普遍的问题，生成元学习，我们认为这是一个重要的先决条件，获得人类水平的认知灵活性的人工代理，并可以受益于许多实际应用的道路上。我们的贡献利用AEVB框架和平均场变分贝叶斯，并创建快速适应的潜在空间生成模型。我们贡献的核心是一个新的结果，表明对于广泛的一类深度生成潜变量模型，相关的VB更新不依赖于任何生成神经网络。我们的方法的理论优点反映在实证实验中。
2021-03-25 cs.LG stat.ML
Counterfactual Generative Modeling with Variational Causal Inference
University of California, Berkeley（加州大学伯克利分校）；Genentech（基因泰克公司）
针对高维结果下个体反事实预测难题，提出变分贝叶斯因果推断框架，无需反事实样本即可端到端监督并解耦外生噪声，在多个基准上优于现有方法。
2025-03-18 cs.AI cs.LG math.ST
Approximating the Void: Learning Stochastic Channel Models from Observation with Variational Generative Adversarial Networks
DeepSig Inc.（DeepSig公司）；Virginia Tech（弗吉尼亚理工大学）
在考虑设计、学习或评估任何通信系统的性能时，信道建模都是一个关键话题。设计或学习新调制方案的大多数现有工作集中在使用高度简化的解析信道模型，例如加性高斯白噪声（AWGN）、瑞利衰落信道或类似信道。最近，我们提出了使用生成对抗网络（GANs）来联合近似无线信道响应模型（例如，从真实的黑盒测量），并使用机器学习优化其上的有效调制方案。这种方法在一定程度上起作用，但无法产生表示随机信道响应的精确概率分布函数（PDF）。在本文中，我们特别关注的问题，准确地学习一个通道PDF使用变分GAN，介绍了一个架构和损失函数，可以准确地捕捉随机行为。我们说明了我们以前的方法失败，并分享结果捕获的性能，如系统在一系列现实的渠道分布。
2018-08-20 cs.LG eess.SP stat.ML
Variational Search Distributions
Data61, CSIRO, Australia（Data61，CSIRO，澳大利亚）
VSD通过变分推断方法，高效地在稀有类别中生成离散组合设计，实验证明其在蛋白质和DNA/RNA工程任务中的优越性。
2025-04-26 cs.LG stat.ML
Stabilizing Training of Generative Adversarial Nets via Langevin Stein Variational Gradient Descent
Bioinformatics Institute, A*STAR（新加坡科技研究局生物信息学研究所）；Huaiyin Normal University（淮阴师范学院）；Nanjing Normal University（南京师范大学）；University of Alberta（阿尔伯塔大学）
生成对抗网络（GANs）以学习复杂的底层数据分布的能力而闻名，然而，众所周知，在训练过程中是棘手的，这可能会导致模式坍塌或性能恶化。目前处理GANs问题的方法几乎都是利用一些实用的训练技术来进行正则化，这在另一方面破坏了GAN的收敛性和理论合理性。在本文中，我们提出了稳定GAN训练通过一种新的基于粒子的变分推理-朗之万斯坦变分梯度下降（LSVGD），它不仅继承了原始SVGD的灵活性和效率，但旨在解决其不稳定性问题，通过将额外的干扰到更新动态。我们进一步证明，通过适当地调整噪声方差，LSVGD模拟Langevin过程，其平稳分布正是目标分布。我们还表明，LSVGD动力学有一个隐式正则化，这是能够提高粒子的扩散和多样性。最后，我们提出了一种有效的方法，适用于一般的GAN的训练过程中，无论损失函数采用基于粒子的变分推理。在一个合成数据集和三个流行的基准数据集Cifar-10、Tiny-ImageNet和CelebA上的实验结果验证了LSVGD可以显著提高各种GAN模型的性能和稳定性。
2020-04-22 cs.CV cs.LG stat.ML
Characterizing and Avoiding Problematic Global Optima of Variational Autoencoders
Harvard University（哈佛大学）；IBM Research（IBM研究院）
变分自动编码器（VAE）是由两个组件组成的深度生成潜在变量模型：生成模型，通过在潜在空间上转换分布p（z）来捕获数据分布p（x），以及推断每个数据点可能的潜在代码的推断模型（Kingma和Welling，2013）。最近的研究表明，传统的训练方法往往会产生违反建模要求的解决方案：（1）学习的生成模型捕获了观察到的数据分布，但忽略了潜在代码，导致代码不能代表数据（例如van den Oord et al.（2017）; Kim et al.（2018））;（2）学习的潜在代码的聚合与先验p（z）不匹配。这种不匹配意味着学习的生成模型将无法使用p（z）的样本生成真实的数据（例如Makhzani et al.（2015）; Tomczak and Welling（2017））。在本文中，我们证明了这两个问题源于这样一个事实，即VAE训练目标的全局最优值往往对应于不期望的解决方案。我们的分析建立在两个观察基础上：（1）生成模型是不可识别的-存在许多生成模型可以同样很好地解释数据，每个模型都具有不同的（并且可能不需要的）属性;（2）VAE目标中的偏见-VAE目标可能更喜欢解释数据不佳但具有易于近似的后验的生成模型。我们提出了一种新的推理方法，LiBI，减轻在我们的分析中发现的问题。在合成数据集上，我们证明了LiBI可以学习生成模型，这些模型可以捕获数据分布和推理模型，从而在传统方法难以做到这…
2020-03-17 cs.LG stat.ML
Learning variational autoencoders via MCMC speed measures
Nanyang Technological University（南洋理工大学）；University College London（伦敦大学学院）；Athens University of Economics and Business（雅典经济与商业大学）
针对深度潜变量模型中基于梯度的MCMC提议分布自适应方法研究不足的问题，提出基于熵的短程MALA/HMC链自适应策略，优化更紧的变分界，提升了VAEs的留出对数似然与生成性能，可适配复杂后验几何结构。
2023-08-26 cs.CV cs.LG stat.ML
Integrative Variational Autoencoders for Generative Modeling of an Image Outcome with Multiple Input Images
Alzheimer’s Disease Neuroimaging Initiatives（阿尔茨海默病神经成像计划）
本文提出整合变分自编码器（InVA），用于多模态神经影像的图像对图像回归，通过建模共享与模态特定特征，优于传统方法，并能从MRI准确预测PET扫描。
2025-09-12 cs.CV cs.NE eess.IV
Signal retrieval with measurement system knowledge using variational generative model
从一系列间接测量中恢复信号是科学和工程中许多成像、计量和表征平台中的常见任务。由于大多数间接测量过程都是由物理模型很好地描述的，因此信号检索可以通过迭代优化来解决，该迭代优化可以强制执行测量一致性和信号的先验知识。这些迭代过程是耗时的，并且仅适应线性测量过程和凸信号约束。最近，神经网络已被广泛采用，以取代迭代信号恢复方法，通过近似的测量模型的逆映射。然而，具有确定性过程的网络无法区分不适定测量系统中的信号模糊性，并且检索到的信号通常与测量结果缺乏一致性。在这项工作中，我们引入了一个变分生成模型来捕获所有可能的信号的分布，给定一个特定的测量。通过利用已知的测量模型的变分生成框架，我们的信号检索过程解决了模糊的前向过程中，学习检索信号，满足测量高保真度在各种线性和非线性不适定系统，包括超快脉冲检索，编码孔径压缩视频传感和图像检索从菲涅耳全息图。
2019-09-09 cs.LG eess.IV eess.SP
Accounting for model error in ensemble variational data assimilation through learned generative dynamics
CEREA, ENPC, EDF R&D, Institut Polytechnique de Paris（CEREA，巴黎高等路桥学院，法国电力集团研发部，巴黎理工学院）
该研究提出生成式迭代集合卡尔曼滤波（IEnKF-G），将学习到的生成动力学与集合变分数据同化结合，在含显著模型误差的地球物理模型测试中，其精度优于IEnKF-Q等基准方法。
2026-10-14 cs.LG physics.ao-ph stat.ML
MAE: Mutual Posterior-Divergence Regularization for Variational AutoEncoders
Carnegie Mellon University（卡内基梅隆大学）
变分自编码器（VAE）是一种简单有效的深度生成模型，已经取得了许多令人印象深刻的经验成功，并催生了许多先进的变体和理论研究。然而，最近的研究表明，当配备了表达生成分布（又名。解码器），VAE遭受学习无信息的潜在表示与观察称为KL清漆，在这种情况下，VAE崩溃成一个无条件的生成模型。在这项工作中，我们引入了相互后向发散正则化，这是一种新的正则化，能够控制潜在空间的几何形状，以完成有意义的表示学习，同时实现可比或优越的密度估计能力。在三个图像基准数据集上的实验表明，当配备强大的解码器时，我们的模型在密度估计和表示学习方面都表现良好。
2019-01-06 cs.CV cs.LG stat.ML
Generative flow-based warm start of the variational quantum eigensolver
Chalmers University of Technology（查尔姆斯理工大学）；University of Gothenburg（哥德堡大学）
Flow-VQE通过生成流与参数化量子电路结合，实现量子无梯度优化和参数转移，提升变分量子算法的效率和精度。
2025-07-02 physics.chem-ph quant-ph stat.ML
Physics-integrated generative modeling using attentive planar normalizing flow based variational autoencoder
University of Central Punjab（中央旁遮普大学）
本研究提出一种物理集成变分自编码器，利用平面归一化流学习后验分布，并在编码器中引入缩放点积注意力以增强对噪声的鲁棒性，实验表明其提升了重建质量与抗噪能力。
2024-04-18 cs.AI cs.LG stat.ML
Implicit Discriminator in Variational Autoencoder
Indian Institute of Technology Ropar（印度理工学院罗帕尔分校）
最近，生成模型的重点是结合变分自编码器（VAE）和生成对抗网络（GAN）的优点，以获得良好的重建和生成能力。在这项工作中，我们介绍了一种新的混合架构，隐式鉴别变分自编码器（IDVAE），它结合了VAE和GAN，它不需要一个显式的递归网络。IDVAE架构的基本前提是VAE的编码器和GAN的编码器利用共同的特征，因此可以作为共享网络进行训练，而VAE的解码器和GAN的生成器可以组合起来学习单个网络。这导致了具有VAE和GAN两者的属性的简单的两层架构。在真实世界基准数据集上的定性和定量实验表明，IDVAE的性能优于最先进的混合方法。我们通过实验验证了IDVAE可以很容易地扩展到条件设置中，并在复杂数据集上展示了其性能。
2019-09-28 cs.CV cs.LG stat.ML
PhyloGFN: Phylogenetic inference with generative flow networks
McGill University（麦吉尔大学）；Université de Montréal（蒙特利尔大学）；Mila（米拉研究所）
本文提出PhyloGFN，将生成流网络（GFlowNets）框架用于系统发育推断，在真实基准数据集上产生多样高质量进化假设，边际似然估计具竞争力，贴合目标分布优于变分推断方法。
2026-09-01 cs.LG q-bio.PE stat.ML
Enhancing Generative Molecular Design via Uncertainty-guided Fine-tuning of Variational Autoencoders
Texas A&M University（德克萨斯农工大学）；Brookhaven National Laboratory（布鲁克海文国家实验室）
本文提出了一种基于主动学习的模型不确定性引导微调方法，通过在变分自编码器参数的低维活跃子空间中量化不确定性并结合黑盒优化，有效提升了生成式分子设计在下游属性优化任务中的表现。
2024-05-31 cs.LG q-bio.BM q-bio.QM
VI-DGP: A variational inference method with deep generative prior for solving high-dimensional inverse problems
用变分推理（VI）方法求解高维贝叶斯逆问题（BIPs）是一个很有前途但仍具有挑战性的研究领域。主要困难来自两个方面。首先，VI方法使用简单的解析变分分布来近似后验分布，这使得在实践中难以估计复杂的空间变化参数。第二，VI方法通常依赖于基于梯度的优化，当应用于涉及偏微分方程（PDE）的BIP时，这在计算上可能是昂贵的或棘手的。为了解决这些挑战，我们提出了一种新的近似方法估计高维后验分布。这种方法利用深度生成模型来学习能够生成空间变化参数的先验模型。这使得后验近似的潜在变量，而不是复杂的参数，从而提高估计精度。此外，为了加速梯度计算，我们采用可微物理约束的代理模型来代替伴随方法。所提出的方法可以完全以自动微分的方式实现。数值算例表明，两种类型的对数渗透率估计非均质介质中的流动。实验结果表明，该方法是有效的、准确的、高效的。
2023-02-22 cs.NA math.NA physics.comp-ph
Minimizing classical resources in variational measurement-based quantum computation for generative modeling
University of Innsbruck（因斯布鲁克大学）
本文提出一种受限的变分测量基量子计算模型，通过增加一个可训练参数将单元式设置扩展到通道式，从而生成无法被对应单元式模型学习的概率分布。
2026-04-13 cs.AI cs.LG quant-ph
