Estimating the Value-at-Risk by Temporal VAE
Fraunhofer ITWM(弗劳恩霍夫工业数学研究所);TU Kaiserslautern(凯泽斯劳滕工业大学)
对大型资产组合的风险价值(VaR)的估计是金融机构的一项重要任务。由于资产价格的联合对数收益率通常可以投影到一个更小维度的潜在空间,因此使用变分自编码器(VAE)来估计VaR是一个自然的建议。为了确保自编码器在学习序列数据时的瓶颈结构,我们使用了一个时间VAE(TempVAE),它避免了观测变量的自回归结构。然而,金融数据的低信噪比与VAE的自动修剪特性相结合通常使得VAE的使用易于发生后验崩溃。因此,我们建议使用正则化的退火来减轻这种影响。因此,TempVAE的自动修剪工作正常,这也导致了出色的估计结果的风险价值,击败经典的GARCH型和历史模拟方法时,应用于实际数据。
2021-12-03 cs.LG stat.ML
Gaussian Copula Variational Autoencoders for Mixed Data
Pohang University of Science and Technology(浦项科技大学)
变分自编码器(VAE)是一种具有连续潜变量的生成模型,其中一对概率编码器(自下而上)和解码器(自上而下)通过随机梯度变分贝叶斯联合学习。我们首先阐述高斯VAE,近似的本地协方差阵的解码器作为一个外积的主方向在一个位置确定的样本从高斯分布。我们表明,该模型,称为VAE-ROC,更好地捕捉数据流形,相比标准的高斯VAE独立的多变量高斯被用来模拟解码器。然后,我们扩展VAE-ROC处理混合分类和连续数据。为此,我们采用高斯copula模型的局部依赖混合分类和连续数据,导致{ \em高斯copula变分自动编码器}(GCVAE)。在VAE-ROC中,我们使用高斯copula中协方差的秩一近似来捕获混合数据中的局部依赖结构。在各种数据集上的实验证明了VAE-ROC和GCVAE与标准VAE相比的有用行为。
2016-04-18 cs.LG stat.ML
Adversarial and Contrastive Variational Autoencoder for Sequential Recommendation
Shanghai Jiao Tong University(上海交通大学);University of Michigan-Shanghai Jiao Tong University Joint Institute(密歇根大学-上海交通大学联合学院);School of Cyber Science and Engineering(网络空间科学与工程学院);School of Software(软件学院)
序贯推荐作为一个新兴的研究课题,由于其重要的现实意义而受到越来越多的关注。基于深度学习和注意力机制的模型在顺序推荐中取得了良好的性能。近年来,基于变分自编码器(VAE)的生成式模型在协同过滤中显示出独特的优势。特别地,序列VAE模型作为VAE的递归版本,可以有效地捕获用户序列中项目之间的时间依赖性并执行序列推荐。然而,基于VAE的模型遭受一个共同的限制,即所获得的近似后验分布的代表性能力是有限的,从而导致生成的样本的质量较低。对于生成序列尤其如此。为了解决上述问题,在这项工作中,我们提出了一种新的方法称为对抗和对比变分自编码器(ACVAE)的顺序推荐。具体来说,我们首先介绍了在对抗变分贝叶斯(AVB)框架下用于序列生成的对抗训练,这使得我们的模型能够生成高质量的潜变量。然后,我们使用对比损失。潜变量将能够通过最小化对比损失来学习更多个性化和显著的特征。此外,在对序列进行编码时,我们采用了递归和卷积结构来捕获序列中的全局和局部关系。最后,我们在四个真实世界的数据集上进行了广泛的实验。实验结果表明,我们提出的ACVAE模型优于其他国家的最先进的方法。
2021-03-19 cs.IR cs.LG
Preventing Posterior Collapse with delta-VAEs
Deepmind(深度思维);Google Brain(谷歌大脑)
由于“后验崩溃”现象,当前的潜变量生成模型提出了一个具有挑战性的设计选择,要么削弱解码器的能力,要么需要增强目标,因此它不仅最大化数据的可能性。在本文中,我们提出了一种替代方案,利用最强大的生成模型作为解码器,同时优化变分下限,同时确保潜变量保留和编码有用的信息。我们提出的$δ$ -VAE通过约束后验变分族到先验的最小距离来实现这一点。对于序列潜变量模型,我们的方法类似于经典的表示学习方法的缓慢特征分析。我们证明了我们的方法在LM 1B上建模文本和建模图像的有效性:学习表示,提高样本质量,并在CIFAR-10和ImageNet $32\times 32$上实现最先进的对数似然。
2019-01-10 cs.LG stat.ML
A Classifying Variational Autoencoder with Application to Polyphonic Music Generation
Center for the Neural Basis of Cognition, Machine Learning Department(认知神经基础中心,机器学习系);Carnegie Mellon University(卡内基梅隆大学)
变分自动编码器(VAE)是一种流行的概率生成模型。然而,VAE的一个缺点是潜在变量不能是离散的,这使得难以从不同的分布模式生成数据。在这里,我们提出了一个扩展的VAE框架,采用分类器来推断离散类的建模数据。为了对序列数据进行建模,我们可以将我们的分类VAE与递归神经网络(如LSTM)相结合。我们将此模型应用于算法音乐生成,其中我们的模型学习以不同的键生成音乐序列。这一领域的大多数先前的工作通过将数据转换为仅一个或两个键来避免建模键,而不是原始音乐中的10多个不同键。我们发现,我们的分类VAE和分类VAE+LSTM模型在生成保持基调的音乐样本方面优于相应的非分类模型。当在原始键中的未转置的音乐数据上训练时,这种好处尤其明显。
2017-11-19 cs.LG stat.ML
Exemplar VAE: Linking Generative Models, Nearest Neighbor Retrieval, and Data Augmentation
University of Toronto(多伦多大学);Vector Institute(向量学院);Google Research(谷歌研究院)
我们介绍示例VAE,一个家庭的生成模型,弥合参数和非参数,基于示例的生成模型之间的差距。示例VAE是VAE的变体,其基于Parzen窗口估计器在潜在空间中具有非参数先验。为了从中采样,首先从训练集中抽取一个随机样本,然后随机地将该样本转换为潜在代码和新的观察结果。我们提出检索增强训练(RAT)作为一种方式,以加快示例VAE训练,通过使用近似最近邻搜索在潜在空间中定义一个下限的对数边际似然。为了提高泛化能力,模型参数的学习使用样本留一法和子采样。实验证明了Exemplar VAE在密度估计和表示学习上的有效性。重要的是,在置换不变MNIST和时尚MNIST上使用Exemplar VAE的生成数据增强将分类误差从1.17%降低到0.69%和从8.56%降低到8.16%。
2020-11-24 cs.CV cs.LG stat.ML
Deterministic Decoding for Discrete Data in Variational Autoencoders
Insilico Medicine(英矽智能);National Research University Higher School of Economics(国立研究型高等经济大学)
变分自编码器是用于对离散数据建模的突出生成模型。然而,对于灵活的解码器,它们倾向于忽略潜在代码。在本文中,我们研究了一个VAE模型与确定性解码器(DD-VAE)的顺序数据,选择最高得分的令牌,而不是采样。确定性解码仅依赖于潜在代码作为产生不同对象的唯一方式,这改善了学习流形的结构。为了实现DD-VAE,我们提出了一类新的有界支持建议分布,并推导出高斯和均匀先验的Kullback-Leibler发散。研究了确定性译码目标函数的连续松弛,分析了松弛参数与重构精度的关系。我们展示了DD-VAE在多个数据集上的性能,包括分子生成和优化问题。
2020-03-04 cs.LG stat.ML
VAE for Modified 1-Hot Generative Materials Modeling, A Step Towards Inverse Material Design
Stanford University(斯坦福大学)
本文提出一种VAE模型,通过在潜在空间中保持材料可分解为数据集中其他材料的隐式关系,生成具有合成可行性的新材料,以支持基于深度强化学习的序列化逆向材料设计。
2023-12-25 cond-mat.mtrl-sci cs.LG
Latent-Autoregressive GP-VAE Language Model
Conservatoire National des Arts et Métiers(法国国家艺术与工艺 conservatoire)
该研究提出了一种基于高斯过程和变分自编码器的潜在自回归模型,通过概率几何支持语言模型的时间结构,而非显式神经运算。
2025-12-15 cs.LG
GP-VAE: Deep Probabilistic Time Series Imputation
ETH Zürich(苏黎世联邦理工学院);Yandex(俄罗斯搜索引擎公司);UC Irvine(加州大学欧文分校)
具有缺失值的多变量时间序列在医疗保健和金融等领域很常见,并且多年来在数量和复杂性上都有所增长。这就提出了一个问题,即深度学习方法在这一领域的表现是否优于经典的数据填补方法。然而,深度学习的幼稚应用无法提供可靠的置信度估计,并且缺乏可解释性。我们提出了一个新的深度序列潜变量模型降维和数据填补。我们的建模假设是简单和可解释的:高维时间序列具有低维表示,其根据高斯过程在时间上平滑地演变。在缺失数据存在的非线性降维,实现了一种新的结构变分近似的VAE方法。我们证明,我们的方法在计算机视觉和医疗保健领域的高维数据上优于几种经典的基于深度学习的数据插补方法,同时还提高了插补的平滑性,并提供了可解释的不确定性估计。
2020-02-20 cs.LG stat.ML
Simple and Effective VAE Training with Calibrated Decoders
University of Pennsylvania(宾夕法尼亚大学);UC Berkeley(加州大学伯克利分校)
变分自编码器(VAE)为复杂分布的建模提供了一种有效而简单的方法。然而,训练VAE通常需要相当大的超参数调整,以确定潜在变量保留的最佳信息量。我们研究了校准的解码器,学习解码分布的不确定性,并可以自动确定此信息量的VAE性能的影响。虽然已经提出了许多用于学习校准解码器的方法,但最近许多采用VAE的论文依赖于启发式超参数和ad-hoc修改。我们执行校准解码器的第一个全面的比较分析,并提供简单有效的VAE训练的建议。我们的分析涵盖了一系列图像和视频数据集以及几个单图像和序列VAE模型。我们进一步提出了一个简单的,但新颖的修改常用的高斯解码器,计算预测方差分析。我们观察经验,使用启发式修改是没有必要的,我们的方法。项目网站为https://orybkin.github.io/sigma-vae/
2021-07-12 cs.CV cs.LG eess.IV
Sequential Variational Autoencoders for Collaborative Filtering
ICAR-CNR(意大利国家研究委员会计算应用研究所)
变分自编码器在计算机视觉和语音处理等领域被证明是成功的。它们用于建模用户偏好的采用仍然未被探索,尽管最近它开始在当前的文献中获得关注。在这项工作中,我们提出了一个模型,扩展变分自编码器,利用丰富的信息,在过去的偏好历史。我们引入了一个递归版本的VAE,而不是通过整个历史的一个子集,而不管时间依赖性,我们宁愿通过一个递归神经网络的消费序列子集。在RNN的每个时间步,序列通过一系列完全连接的层进行馈送,其输出模拟了最有可能的未来偏好的概率分布。我们表明,处理时间信息对于提高VAE的准确性至关重要:事实上,我们的模型击败了当前最先进的有价值的利润,因为它能够使用递归编码器捕获用户消费序列之间的时间依赖关系,仍然保持变分自编码器的基本原理不变。
2018-11-25 cs.IR cs.LG stat.ML
Improving the Generation of VAEs with High Dimensional Latent Spaces by the use of Hyperspherical Coordinates
School of Electrical Engineering and Robotics(电气工程与机器人学学院);Queensland University of Technology(昆士兰理工大学)
本文针对高维潜在空间中VAE随机采样解码效果差的问题,提出用超球面坐标参数化潜在变量以压缩潜在分布、降低稀疏性,从而提升VAE的生成能力。
2025-07-21 cs.LG
ContrastVAE: Contrastive Variational AutoEncoder for Sequential Recommendation
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Salesforce(赛富时)
顺序推荐是一种利用用户行为序列中丰富信息的推荐方法,在实际推荐系统中得到了广泛的应用。然而,目前的方法存在以下问题:1)用户-项目交互的稀疏性,2)顺序记录的不确定性,3)长尾项目。在本文中,我们建议将对比学习纳入变分自编码器的框架中,以同时应对这些挑战。首先,我们介绍了一种新的训练目标,将传统的单视图ELBO扩展到双视图的情况下,并从理论上建立了VAE和对比学习之间的连接从双视图的角度。然后,我们提出了对比变分自编码器(简称ContrastVAE),一个两分支的VAE模型与对比正则化作为一个实施例的ContrastELBO顺序推荐。我们进一步介绍了两个简单而有效的增强策略,命名为模型增强和变分增强,以创建一个序列的第二个视图,从而使对比学习成为可能。在四个基准数据集上的实验证明了ContrastVAE和所提出的增强方法的有效性。代码可在https://github.com/YuWang-1024/ContrastVAE上获得
2022-12-05 cs.IR cs.LG
Fast MVAE: Joint separation and classification of mixed sources based on multichannel variational autoencoder with auxiliary classifier
University of Tsukuba(筑波大学);NTT Communication Science Laboratories, NTT Corporation(日本电报电话公司NTT通信科学实验室)
本文提出了一种新的多通道变分自编码器(MVAE)算法,最近提出的多通道声源分离方法。虽然MVAE在其令人印象深刻的声源分离性能、保证收敛的优化算法以及它允许我们与声源分离同时估计源类别标签方面是值得注意的,但是仍然存在两个主要缺点,即,高的计算复杂性和不令人满意的源分类精度。为了克服这些缺点,所提出的方法采用辅助分类器VAE(条件VAE的信息论扩展)来学习源谱图的生成模型。此外,与训练的辅助分类器,我们引入了一种新的算法的优化,不仅能够减少计算时间,但也提高了源分类性能。我们称所提出的方法为“快速MVAE(fMVAE)"。实验结果表明,fMVAE的声源分离性能与MVAE相当,源分类正确率约为80%,计算时间减少约93%.
2019-02-13 cs.LG stat.ML
Positive and Negative Critiquing for VAE-based Recommenders
École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)
提供对推荐项目的解释允许用户通过批评解释的部分来细化推荐。作为从多模态生成模型的角度重新审视批评的结果,最近的工作提出了M&Ms-VAE,它在推荐,解释和批评方面实现了最先进的性能。M&Ms-VAE和类似模型允许用户进行负面评论(即,明确表示不同意)。然而,它们都有一个显著的缺点:用户不能积极地评论(即,突出显示所需特征)。我们用M&Ms-VAE+来解决这个问题,M&Ms-VAE+是M&Ms-VAE的扩展,可以进行积极和消极的批评。除了对用户的交互和关键词使用偏好进行建模之外,我们还对他们不喜欢的关键词使用进行建模。此外,我们设计了一个新的批评模块,它是在一个自我监督的方式训练。我们在两个数据集上的实验表明,M&Ms-VAE+在推荐和解释性能上与M&Ms-VAE相当或超过M&Ms-VAE。此外,我们的研究结果表明,不同地表示积极和消极的批评,使M&Ms-VAE+显着优于M&Ms-VAE和其他模型在积极和消极的多步批评。
2022-04-05 cs.AI cs.IR cs.LG
Monte Carlo Variational Auto-Encoders
University of Torontoland(多伦多兰大学);University of Edenborrow(伊甸伯勒大学);HSE University(高等经济学院);Skolkovo Institute of Science and Technology(斯科尔科沃科学技术研究院);University of Oxford(牛津大学);Centre de recherche Lagrange en mathematiques et calcul(拉格朗日数学与计算研究中心)
变分自动编码器(VAE)是一种流行的深度潜在变量模型,通过最大化证据下限(ELBO)进行训练。为了获得更紧密的ELBO和更好的变分近似,已经提出使用重要性抽样来获得证据的较低方差估计。然而,已知重要性抽样在高维度中表现不佳。虽然在文献中已经多次建议使用更复杂的算法,如退火重要性抽样(AIS)及其顺序重要性抽样(SIS)扩展,但这些先进技术带来的潜在好处从未实现VAE:AIS估计值无法轻松区分,而SIS需要精心选择的后向马尔可夫核的规范。在本文中,我们解决了这两个问题,并证明了性能的各种应用程序上产生的蒙特卡罗VAE。
2021-06-30 cs.LG stat.ML
Dynamical Variational Autoencoders: A Comprehensive Review
变分自编码器(VAE)是一种强大的深度生成模型,广泛用于通过以无监督方式学习的低维潜在空间来表示高维复杂数据。在原始VAE模型中,输入数据向量被独立地处理。最近,一系列的论文已经提出了不同的扩展VAE处理序列数据,它的模型不仅潜在的空间,但也在一个序列的数据向量和相应的潜在向量的时间依赖性,依赖于递归神经网络或状态空间模型。在本文中,我们对这些模型进行了文献综述。我们介绍和讨论一类通用的模型,称为动态变分自编码器(DVAE),其中包括一个大的子集,这些时间VAE扩展。然后,我们详细介绍了七个最近提出的DVAE模型,其目的是均匀的符号和表示线,以及将这些模型与现有的经典时间模型。我们重新实现了这七个DVAE模型,并展示了在语音分析-再合成任务上进行的实验基准测试的结果(PyTorch代码是公开的)。本文最后讨论了DVAE类模型和未来研究指南的重要问题。
2022-07-04 cs.LG stat.ML
Generating diverse and natural text-to-speech samples using a quantized fine-grained VAE and auto-regressive prosody prior
Google Brain(谷歌大脑)
最近的神经文本转语音(TTS)模型与细粒度的潜在功能,使合成语音的韵律精确控制。这样的模型通常结合细粒度变分自动编码器(VAE)结构,提取每个输入令牌处的潜在特征(例如,音素)。然而,使用标准VAE先验生成样本通常会导致不自然和不连续的语音,令牌之间具有戏剧性的韵律变化。本文提出了一种离散潜在空间中的序列先验,可以生成更自然的声音样本。这是通过使用矢量量化(VQ)对潜在特征进行离散化,并针对结果单独训练自回归(AR)先验模型来实现的。我们评估的方法,使用听力测试,客观指标的自动语音识别(ASR)的性能,和韵律属性的测量。实验结果表明,该模型显著提高了随机样本生成的自然度。此外,初步的实验表明,从所提出的模型中随机采样可以作为数据增强,以提高ASR的性能。
2020-02-06 cs.LG cs.SD eess.AS
DeCo-VAE: Learning Compact Latents for Video Reconstruction via Decoupled Representation
University of Science and Technology of China(中国科学技术大学);Li Auto Inc.(力汽车公司)
针对现有视频VAEs因忽略帧内容相似性导致潜变量建模冗余的问题,本文提出DeCo-VAE,通过显式解耦视频内容为关键帧、运动和残差并学习专用潜变量,结合专用编码器、共享3D解码器及解耦适配策略,实现更优视频重建性能。
2025-11-18 cs.CV cs.LG cs.MM
CommsVAE: Learning the brain's macroscale communication dynamics using coupled sequential VAEs
TReNDS center(TReNDS中心);Georgia Institute of Technology(佐治亚理工学院);Charite University Hospital(夏里特大学医院);Georgia State University(佐治亚州立大学)
复杂系统内部或之间的通信在自然科学和图形神经网络等领域中是常见的。大脑是这样一个复杂系统的完美例子,大脑区域之间的通信不断被协调。为了分析通信,大脑通常被分成解剖区域,每个区域执行特定的计算。这些区域必须相互作用和交流,以执行任务并支持更高层次的认知。在宏观上,这些区域通过沿着皮层和沿着白质束的信号传播进行更长距离的通信。随着时间的推移,何时以及什么类型的信号被传递是一个未解决的问题,通常使用功能或结构数据进行研究。在本文中,我们提出了一个非线性生成的方法来从功能数据的通信。我们解决了三个问题与常见的连接方法明确建模的方向性的通信,发现在每个时间步长的通信,并鼓励稀疏。为了评估我们的模型,我们模拟了嵌入其中的节点之间具有稀疏通信的时态数据,并表明我们的模型可以揭示预期的通信动态。随后,我们将我们的模型应用于来自多个任务的时间神经数据,并表明我们的方法对每个任务更具体的通信进行了建模。我们方法的特异性意味着它可以对精神疾病的理解产生影响,与对照组相比,精神疾病被认为与大脑区域之间的高度特异性通信有关。总之,我们提出了一个通用模型的动态通信学习图,并显示其适用性的一个子领域的自然科学,具有潜在的广泛的科学影响。
2022-10-07 cs.LG cs.SI q-bio.NC
Learning Flat Latent Manifolds with VAEs
Machine Learning Research Lab, Volkswagen Group(大众集团机器学习研究实验室);Autonomous Intelligent Driving GmbH(自主智能驾驶有限公司)
测量数据点之间的相似性通常需要领域知识,这可以部分地通过依赖于无监督的方法来补偿,例如潜变量模型,其中在更紧凑的潜在空间中估计相似性/距离。普遍使用的是欧几里德度量,其缺点是忽略了关于存储在解码器中的数据的相似性的信息,如黎曼几何的框架所捕获的。我们提出了一个扩展的框架变分自动编码器允许学习平坦的潜在流形,其中欧几里德度量是数据点之间的相似性的代理。这是通过将潜在空间定义为黎曼流形并将度量张量正则化为缩放单位矩阵来实现的。此外,我们取代了紧凑的前通常用于变分自动编码器与最近提出的,更有表现力的层次-和制定的学习问题作为一个约束优化问题。我们在一系列数据集上评估了我们的方法,包括视频跟踪基准,其中我们的无监督方法的性能接近最先进的监督方法,同时保留了基于直线的方法的计算效率。
2020-08-12 cs.LG stat.ML
Unsupervised TTS Acoustic Modeling for TTS with Conditional Disentangled Sequential VAE
Tencent AI Lab(腾讯AI实验室)
本研究提出无需文本音频配对的无监督TTS声学模型UTTS,基于C-DSVAE主干与解纠缠表示学习,通过对齐转换实现零样本多说话人合成,经评估语音自然度与可懂度优异。
2024-10-06 cs.AI cs.CL cs.LG
Multi-Stage Variational Auto-Encoders for Coarse-to-Fine Image Generation
Washington State University(华盛顿州立大学)
变分自动编码器(VAE)是一个强大的无监督学习框架的图像生成。VAE的一个缺点是由于其高斯性假设而产生模糊图像,从而产生L2损失。为了允许VAE生成高质量的图像,我们通过采用残差块和跳过连接来增加解码器网络的容量,这也可以实现有效的优化。为了克服L2损失的限制,我们建议以从粗到细的多级方式生成图像。在最简单的情况下,所提出的多级VAE将解码器分成两个组件,其中第二组件基于由第一组件生成的过程图像生成细化图像。由于第二分量独立于VAE模型,因此它可以采用L2损失之外的其他损失函数和不同的模型架构。拟议的框架可以很容易地概括为包含两个以上的组成部分。在MNIST和CelebA数据集上的实验结果表明,与原始VAE相比,所提出的多级VAE可以生成更清晰的图像。
2017-05-19 cs.CV cs.LG
Unsupervised Mismatch Localization in Cross-Modal Sequential Data with Application to Mispronunciations Localization
National University of Singapore(新加坡国立大学);Rutgers University(罗格斯大学)
内容不匹配通常发生在数据从一种模态转换到另一种模态时,例如,语言学习者在大声朗读句子(目标文本)时产生发音错误(语音错误)。然而,大多数现有的对齐算法假设两种模态中涉及的内容是完全匹配的,从而导致难以定位语音和文本之间的这种不匹配。在这项工作中,我们开发了一个无监督学习算法,可以推断内容不匹配的跨模态序列数据之间的关系,特别是语音文本序列。更具体地说,我们提出了一个分层贝叶斯深度学习模型,称为失配定位变分自编码器(ML-VAE),它将语音的生成过程分解为分层结构的潜变量,表明两种模态之间的关系。训练这样的模型是非常具有挑战性的,因为涉及复杂的依赖关系的离散潜变量。为了解决这一挑战,我们提出了一种新的和有效的训练过程,估计一个专门设计的失配本地化有限状态受体(ML-FSA)和更新神经网络的参数之间的硬分配的离散潜变量交替。在这项工作中,我们专注于语音和文本的不匹配定位问题,我们的实验结果表明,ML-VAE成功地定位了文本和语音之间的不匹配,而不需要人工注释进行模型训练。
2023-01-09 cs.LG
On the Shape of Latent Variables in a Denoising VAE-MoG: A Posterior Sampling-Based Study
本文针对 GW150914 引力波数据训练的去噪 VAE-MoG,利用 HMC 后验样本检验潜空间,发现良好去噪效果并不保证潜表示可靠。
2025-09-29 cs.AR cs.LG
$t^3$-Variational Autoencoder: Learning Heavy-tailed Data with Student's t and Power Divergence
The University of Tokyo(东京大学);RIKEN(理化学研究所);Seoul National University(首尔大学)
针对高斯先验 VAE 难以建模重尾数据的问题,提出基于 Student's t 分布和 $γ$-幂散度的 $t^3$VAE,并在合成及 CelebA、不平衡 CIFAR-100 数据集上验证其优势。
2024-03-03 cs.LG stat.ML
Conditional Denoising Diffusion for Sequential Recommendation
University of Illinois Chicago(伊利诺伊大学芝加哥分校);Salesforce(赛富时)
针对GAN和VAE在序列推荐中的优化不稳定、后验坍缩等问题,提出含序列编码器、交叉注意力去噪解码器和逐步扩散器的条件去噪扩散模型,并结合交叉散度与对比损失,在四个基准数据集上验证了优越性能。
2023-04-22 cs.AI cs.IR cs.LG
Inf-VAE: A Variational Autoencoder Framework to Integrate Homophily and Influence in Diffusion Prediction
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
近年来,人们对理解和预测社交媒体平台(如Twitter、Facebook等)上的信息传播产生了极大的兴趣。现有的扩散预测方法主要是通过将扩散级联投射到当地的社交社区上来利用受影响用户的顺序。然而,这未能捕获在任何级联中没有显式表现的全局社会结构,导致具有有限历史活动的非活跃用户的性能较差。在本文中,我们提出了一种新的变分自编码器框架(Inf-VAE),通过保持邻近度的社会和位置编码的时间潜变量来联合嵌入同质性和影响。为了对社会同质性进行建模,Inf-VAE利用强大的图神经网络架构来学习有选择地利用用户的社会联系的社会变量。给定一系列种子用户激活,Inf-VAE使用一种新的表达性共同关注融合网络,该网络共同关注他们的社交和时间变量,以预测所有受影响用户的集合。我们在多个真实世界社交网络数据集上的实验结果,包括Digg,微博和Stack-Exchange,证明了Inf-VAE在最先进的扩散预测模型上的显着收益(22%MAP@10);我们为具有稀疏活动的用户以及在种子集中缺乏直接社交邻居的用户实现了巨大的收益。
2020-01-01 cs.LG cs.SI
Approximate sampling and estimation of partition functions using neural networks
Santa Fe Institute(圣塔菲研究所)
我们认为密切相关的问题,从一个已知的分布采样到一个归一化常数,并估计说归一化常数。我们展示了如何变分自编码器(VAE)可以应用到这个任务。在其标准应用中,VAE经过训练以拟合从棘手分布中提取的数据。我们反转的逻辑和训练VAE,以适应一个简单的和易于处理的分布,假设一个复杂的和棘手的潜在的分布,指定的归一化。该过程在不使用训练数据或马尔可夫链蒙特卡罗采样的情况下构造近似。我们说明我们的方法上三个例子:伊辛模型,图聚类和排名。
2022-09-21 cs.LG stat.ME
TrialSynth: Generation of Synthetic Sequential Clinical Trial Data
University of Illinois Urbana Champaign(伊利诺伊大学厄巴纳-香槟分校);Medidata Solutions(美迪赛塔解决方案公司);Carle Illinois College of Medicine(卡尔伊利诺伊医学院)
针对细粒度时间序列合成临床试验数据生成难的问题,提出基于霍克斯过程的变分自编码器TrialSynth,在小样本真实数据集上实现了更优的生成保真度与数据效用,同时兼顾患者隐私。
2024-12-13 cs.LG
Deep Generative Video Compression
Dartmouth College(达特茅斯学院);Disney Research LA(迪士尼研究院洛杉矶);DisneyResearch|Studios(迪士尼研究工作室);University of California, Irvine(加州大学欧文分校)
深度生成模型在图像压缩中的应用已经使传统编解码器获得了令人印象深刻的性能提升,而神经视频压缩仍处于起步阶段。在这里,我们提出了一种端到端的深度生成建模方法来压缩时间序列,重点是视频。我们的方法建立在变分自编码器(VAE)模型的顺序数据,并结合他们最近的工作神经图像压缩。该方法共同学习将原始序列转换为低维表示,以及根据序列VAE的预测对该表示进行离散化和熵编码。对来自不同复杂性和多样性的公共数据集的小视频进行的率失真评估表明,我们的模型在对通用视频内容进行训练时会产生有竞争力的结果。在专门的内容上训练模型时,可以实现极高的压缩性能。
2019-11-01 cs.CV cs.LG eess.IV
Empirical Variational Autoencoder
The University of Tokyo(东京大学)
本文提出经验变分自编码器(EVA),通过经验学习自回归潜在先验替代标准高斯约束,缓解先验-后验分布差距,实现高保真序列生成,在图像和声音合成上达到与扩散模型相当的质量且推理更快。
2026-10-06 cs.LG
Actively Inferring Optimal Measurement Sequences
University of Glasgow(格拉斯哥大学)
提出一种基于VAE潜空间的主动顺序推断算法,通过最小化测量次数选择最优测量序列,在Fashion MNIST上10步内收敛并优于随机变分推断。
2025-02-25 cs.LG stat.ML
Composite Travel Generative Adversarial Networks for Tabular and Sequential Population Synthesis
Concordia University(康考迪亚大学);Ryerson University(瑞尔森大学)
基于代理人的交通建模已成为标准,以模拟旅行行为,流动性选择和活动偏好,使用整个人口的分类旅行需求数据,这些数据通常不易获得。为此目的提出了各种方法来综合人口数据。我们提出了一种复合旅行生成对抗网络(CTGAN),这是一种新型的深度生成模型,用于估计人口的潜在联合分布,能够重建具有表格(例如年龄和性别)以及连续移动数据(例如行程轨迹和序列)的复合合成代理。CTGAN模型与其他最近提出的方法,如变分自编码器(VAE)的方法,这表明在高维表格人口合成的成功。我们根据分布相似性、多变量相关性和时空度量来评估合成输出的性能。结果表明,一致和准确的生成合成人口和他们的表格和空间顺序的属性,在不同的空间尺度和尺寸。
2020-04-15 cs.LG cs.MA stat.ML
Autoregressivity in the Latent Space of a GP-VAE Language Model: An Empirical Ablation Study
Conservatoire National des Arts et Métiers(法国国家艺术与工艺学院)
本文通过实验验证了GP-VAE中潜在自回归在组织长距离结构中的有效性,并展示了其与令牌级自回归建模的互补性。
2025-12-30 cs.LG
A VAE-Bayesian Deep Learning Scheme for Solar Generation Forecasting based on Dimensionality Reduction
Deakin University(迪肯大学);Northumbria University(诺森比亚大学)
现代电力系统中分布式发电技术的进步导致了可再生能源发电在客户端的广泛整合。然而,可再生能源的间歇性给电网运营规划带来了新的挑战。本文提出了一种新的贝叶斯概率技术,通过集成双向长短期记忆(BiLSTM)神经网络来解决数据和模型的不确定性,同时使用变分自编码器(VAE)压缩权重参数,来预测可再生太阳能发电量。现有的贝叶斯深度学习方法具有高计算复杂性,因为它们需要从以概率分布的形式表示的权重参数中提取大量样本。该方法通过降低模型参数的维数,以更有效的计算方式处理模型和数据中存在的不确定性。所提出的方法进行评估,使用分位数损失,重建误差,和确定性的预测评估指标,如均方根误差。从数值结果可以推断,VAE-Bayesian BiLSTM在不同规模数据集的准确性和计算效率方面优于其他概率和确定性深度学习方法。
2023-01-27 cs.LG eess.SP
Audio-visual speech enhancement with a deep Kalman filter generative model
Université de Lorraine(洛林大学);CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所);LORIA(洛林计算机科学及其应用研究所)
基于变分自编码器(VAE)的深层潜变量生成模型在视听语音增强(AVSE)中表现出良好的性能。其基本思想是学习一个基于VAE的视听先验分布的干净的语音数据,然后将其与统计噪声模型,以恢复一个语音信号从嘈杂的音频记录和视频(嘴唇图像)的目标说话人。为AVSE开发的现有生成模型没有考虑语音数据的顺序性质,这阻止了它们完全结合视觉数据的力量。在本文中,我们提出了一个视听深度卡尔曼滤波器(AV-DKF)生成模型,假设一阶马尔可夫链模型的潜在变量,并有效地融合视听数据。此外,我们开发了一个有效的推理方法来估计语音信号在测试时间。我们进行了一组实验,比较不同的语音增强生成模型的变体。结果表明,AV-DKF模型的优越性相比,它的音频版本和非顺序的音频和视听VAE为基础的模型。
2022-11-02 cs.CV cs.LG cs.SD
End-to-End Identifiable and Consistent Recurrent Switching Dynamical Systems
Imperial College London(帝国理工学院伦敦分校)
本文提出ΩSDS方法,通过流估计器实现精确似然优化,解决深度生成模型中序列数据可识别性问题,提升潜在结构恢复和动态预测准确性。
2026-05-07 cs.LG stat.ML
A Hierarchical Latent Vector Model for Learning Long-Term Structure in Music
Google Brain(谷歌大脑)
变分自编码器(VAE)已被证明是一种有效的模型,用于产生自然数据的语义有意义的潜在表示。然而,到目前为止,它已经看到有限的应用程序的序列数据,并且,正如我们所证明的,现有的经常性VAE模型难以建模序列的长期结构。为了解决这个问题,我们提出了使用一个分层解码器,它首先输出嵌入的顺序输入,然后使用这些嵌入独立地生成每个子序列。这种结构鼓励模型利用其潜在代码,从而避免“后崩溃”问题,这仍然是复发性VAE的问题。我们应用这种架构来建模序列的音符,并发现它具有显着更好的采样,插值和重建性能比一个“平”的基线模型。我们的“MusicVAE”的实现可以在http://g.co/magenta/musicvae-code上在线获得。
2019-11-11 cs.LG cs.SD eess.AS
Variational Autoencoder-Based Approach to Latent Feature Analysis on Efficient Representation of Power Load Monitoring Data
Southwest University(西南大学)
针对高维不完整电力负荷监测数据影响负荷预测的问题,提出基于 VAE 的 VAE-LF 模型,通过编码器-解码器学习低维潜在表示并补全缺失数据,在 UK-DALE 的 5% 和 10% 稀疏度实验中显著优于基准。
2025-06-10 cs.AI cs.LG
Latent User Intent Modeling for Sequential Recommenders
Google, Inc.(谷歌公司)
顺序推荐模型是现代工业推荐系统的重要组成部分。这些模型学习基于用户在平台上的交互历史来预测用户可能与之交互的下一个项目。然而,大多数顺序浏览器缺乏对用户意图的更高层次的理解,这通常会驱动用户的在线行为。因此,意图建模对于理解用户和优化长期用户体验至关重要。我们提出了一种概率建模方法,并制定用户的意图作为潜在变量,这是推断的基础上,使用变分自编码器(VAE)的用户行为信号。然后,在给定推断出的用户意图的情况下,相应地调整推荐策略。我们通过离线分析以及在大型工业推荐平台上的现场实验证明了潜在用户意图建模的有效性。
2023-03-27 cs.IR cs.LG
Lifelong Generative Learning via Knowledge Reconstruction
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学)
当生成模型用于顺序学习多个任务时,通常会引发灾难性遗忘问题,即,终身生成学习虽然有一些努力来解决这个问题,他们遭受高的时间消耗或错误积累。在这项工作中,我们开发了一个高效和有效的终身生成模型的基础上变分自编码器(VAE)。与生成对抗网络不同,VAE在训练过程中具有很高的效率,可以用很少的资源提供自然的好处。我们将VAE的内在重构性扩展到历史知识的保持上,推导出一个终身生成模型。此外,我们设计了一个反馈策略的重建数据,以减轻错误的积累。对MNIST、FashionMNIST和SVHN的终身生成任务的实验验证了我们方法的有效性,其结果与SOTA相当。
2022-01-17 cs.AI cs.LG
Remedying uncertainty representations in visual inference through Explaining-Away Variational Autoencoders
本文提出EA-VAE通过引入全局缩放潜在变量改进不确定性表示,验证其在多种视觉任务中的有效性,并揭示其对对比度和异常检测的提升作用。
2026-03-30 cs.AI cs.LG
Continuous First, Discrete Later: VQ-VAEs Without Dimensional Collapse
MIT(麻省理工学院);University of Pennsylvania(宾夕法尼亚大学);Google(谷歌)
本文探讨了VQ-VAE中维度坍缩问题,提出通过预训练无量化自编码器缓解该问题,提升表示维度和重建质量。
2026-09-29 cs.LG
Variational Hyper-Encoding Networks
Deakin University(迪肯大学);Japan Advanced Institute of Science and Technology(日本北陆先端科学技术大学院大学)
我们提出了一个名为HyperVAE的框架,用于编码分布的分布。当目标分布由VAE建模时,其神经网络参数θ从由超水平VAE建模的分布p(θ)中提取。我们提出了一个变分推断使用高斯混合模型隐式编码的参数θ到一个低维高斯分布。给定一个目标分布,我们预测潜码的后验分布,然后使用矩阵网络解码器生成后验分布q(θ)。HyperVAE可以完整地编码参数θ,而普通的超网络实践仅生成尺度和偏置向量作为目标网络参数。因此,HyperVAE为潜在空间中的每个任务保留了更多关于模型的信息。我们使用最小描述长度(MDL)原则讨论HyperVAE,并表明它有助于HyperVAE的推广。我们评估HyperVAE在密度估计任务,离群值检测和发现新的设计类,证明其有效性。
2022-05-13 cs.LG stat.ML
Draw This First
Wand Technologies;Bradbury Group
该研究反转草图生成逻辑,用预训练 latent flow-matching transformer 提供图像先验,训练 VAE 解码器预测顺序场等,可从文本生成有序矢量草图或反渲染图像为有序矢量,遵循绘制顺序指令。
2026-08-13 cs.CV cs.LG
Disentangled Sequential Autoencoder
University of Cambridge(剑桥大学);Disney Research(迪士尼研究院)
我们提出了一个VAE架构的编码和生成高维序列数据,如视频或音频。我们的深度生成模型学习数据的潜在表示,该表示分为静态和动态部分,使我们能够近似地将潜在的时间相关特征(动态)与随时间保留的特征(内容)分开。这种架构通过调节这些特性中的任何一个,使我们能够部分控制生成内容和动态。在我们对人工生成的卡通视频剪辑和录音的实验中,我们表明,我们可以通过这种内容交换将给定序列的内容转换为另一个序列。对于音频,这允许我们将男性扬声器转换为女性扬声器,反之亦然,而对于视频,我们可以单独操纵形状和动态。此外,我们给出了经验证据的假设,随机RNN作为潜在的状态模型是更有效的压缩和生成长序列比确定性的,这可能是相关的应用程序在视频压缩。
2018-06-12 cs.LG
IVP-VAE: Modeling EHR Time Series with Initial Value Problem Solvers
L3S Research Center(L3S研究中心);Indian Institute of Technology Kharagpur(印度理工学院卡拉格普尔分校)
针对电子健康记录不规则时间序列建模中IVP求解与循环计算结合导致效率低的问题,提出IVP-VAE,纯用连续过程并行演化状态并融合可逆IVP求解器,实现更少参数、更快收敛及SOTA性能。
2024-02-12 cs.AI cs.LG
Improve Variational Autoencoder for Text Generationwith Discrete Latent Bottleneck
University at Buffalo(布法罗大学);Criteo(Criteo公司);Duke University(杜克大学)
变分自编码器(VAE)是端到端表示学习中必不可少的工具。然而,VAE的顺序文本生成常见的陷阱是,该模型倾向于忽略具有强大自回归解码器的潜在变量。在本文中,我们提出了一个原则性的方法来缓解这个问题,通过应用一个离散化的瓶颈,在一个更紧凑的潜在空间中执行隐式的潜在特征匹配。我们施加一个共享的离散潜在空间,每个输入都被学习选择一个潜在原子的组合作为正则化的潜在表示。我们的模型赋予一个有前途的能力,离散序列的潜在语义建模,从而提供更多的解释性潜在结构。从经验上讲,我们证明了我们的模型在广泛的任务上的效率和有效性,包括语言建模,未对齐的文本样式传输,对话响应生成和神经机器翻译。
2021-02-25 cs.CL cs.LG stat.ML
Learning the Base Distribution in Implicit Generative Models
UIUC(伊利诺伊大学厄巴纳-香槟分校);Adobe Inc.(奥多比公司)
流行的生成模型学习方法,如生成对抗网络(GANs)和变分自编码器(VAE),强制潜在表示遵循简单的分布,如各向同性高斯分布。在本文中,我们认为,学习一个复杂的分布在一个自动编码器的潜在空间,使复杂的数据分布更准确的建模。基于这一观察,我们提出了一个两阶段的优化过程,最大限度地近似隐式密度模型。我们通过实验验证了我们的方法在两个图像数据集(MNIST,CELEB-A)上的性能优于GANs和VAE。我们还表明,我们的方法是适合学习生成模型的顺序数据,通过学习生成语音和音乐。
2018-03-13 cs.LG cs.NE
Variational Neural Stochastic Differential Equations with Change Points
J.P. Morgan AI Research(摩根大通人工智能研究院);University at Buffalo(布法罗大学)
本研究提出基于VAE框架的带变点神经SDE模型与训练方法,仅需初始状态高斯先验,通过两种迭代变点估计算法实现分布偏移时间序列建模,经理论与实验验证具备良好表达能力。
2025-06-13 cs.LG stat.ML
Regularized Sequential Latent Variable Models with Adversarial Neural Networks
KTH Royal Institute of Technology(瑞典皇家理工学院)
递归神经网络(RNN)具有丰富的内部状态分布和灵活的非线性转移函数,在对高度结构化的序列数据建模方面已经超过了动态贝叶斯网络,如隐马尔可夫模型(HHMM)。这些数据,例如来自语音和手写的数据,通常包含基础变分因子和观察到的数据之间的复杂关系。标准RNN模型在其结构中具有非常有限的随机性或可变性,来自输出条件概率模型。本文将介绍在RNN中使用高级潜随机变量对序列数据的变异性建模的不同方法,以及在VAE(变分自编码器)原理下这种RNN模型的训练方法。我们将探索使用对抗方法来训练变分RNN模型的可能方法。与竞争方法相反,我们的方法在模型训练中具有理论上的最优性,并且提供了更好的模型训练稳定性。我们的方法还通过单独的对抗训练步骤改进了变分推理网络中的后验近似。对TIMIT语音数据的仿真结果表明,重构损失和证据下限收敛到同一水平,对抗训练损失收敛到0。
2021-08-10 cs.AI cs.LG
Context-Aware Markov VAE for CSI Compression in Wireless Systems
Ericsson Research(爱立信研究);Knut and Alice Wallenberg Foundation(克努特和阿莉斯·瓦伦贝格基金会);ELLIIT;Lund University(隆德大学)
提出基于k-记忆马尔可夫变分自编码器的上下文感知压缩框架,利用有限时间窗口捕捉CSI在潜在空间中的演化,在低中压缩率下显著提升重构性能。
2026-06-16 cs.IT cs.LG eess.SP