Hyperspherical Autoencoder for High-Fidelity Image Reconstruction and Generation
KAIST AI（韩国科学技术院人工智能实验室）
本文提出超球面自编码器，通过方向特征对齐和层次卷积补丁嵌入模块，提升图像重建和生成的保真度，实验结果显示其在gFID、rFID和PSNR指标上均优于现有方法。
2026-05-09 cs.AI cs.CV cs.LG
Adversarial Images for Variational Autoencoders
University of Campinas (Unicamp)（坎皮纳斯州立大学）
我们研究自动编码器的对抗攻击。我们提出了一个程序，扭曲的输入图像误导自动编码器重建一个完全不同的目标图像。我们攻击内部潜在表征，试图使敌对输入产生与目标尽可能相似的内部表征。我们发现，自编码器比分类器更强大的攻击：虽然有些例子有可容忍的小输入失真，和合理的相似性的目标图像，有一个准线性的权衡这些目标。我们报告了MNIST和SVHN数据集的结果，并测试了常规的确定性自动编码器，在所有情况下都得出了类似的结论。最后，我们表明，通常的对抗攻击的分类器，而更容易，也提出了一个直接的比例失真的输入，和误导的输出。然而，这种比例性被输出的归一化所隐藏，它将线性层映射为非线性概率。
2016-12-01 cs.CV cs.LG cs.NE
Variance Constrained Autoencoding
Victoria University of Wellington（惠灵顿维多利亚大学）
最新的基于自动编码器的生成模型具有编码器-解码器结构，并学习具有可从中采样的预定义分布的潜在表示。以随机方式实现这些模型的编码器网络提供了一种自然和常见的方法来避免过拟合并执行平滑的解码器功能。然而，我们表明，对于随机编码器，同时试图强制执行分布约束和最小化输出失真导致生成和重建质量的降低。此外，在执行解纠缠时，试图强制执行潜在的分布约束是不合理的。因此，我们提出了方差约束自动编码器（VCAE），它只对潜在分布执行方差约束。我们的实验表明，VCAE提高了Wasserstein自动编码器和变分自编码器在MNIST和CelebA上的重建和生成质量。此外，我们表明，VCAE配备了一个总的相关性惩罚项执行等效于FactorVAE在学习解纠缠表示的3D-双曲，而更有原则的方法。
2020-05-08 cs.LG stat.ML
Pioneer Networks: Progressively Growing Generative Autoencoder
Aalto University（阿尔托大学）；GenMind Ltd（GenMind有限公司）
我们引入了一种新的生成式自动编码器网络模型，该模型学习以高质量和高分辨率编码和重建图像，并支持从编码器的潜在空间中进行平滑随机采样。生成对抗网络（GANs）以其模拟随机高质量图像的能力而闻名，但它们无法重建现有图像。以前的工作试图扩展GANs来支持这种推理，但到目前为止，还没有提供令人满意的高质量结果。相反，我们提出了渐进式增长生成自动编码器（PIONEER）网络，它实现了高质量的重建与$128{\times}128$图像，而不需要一个GAN编码器。我们将最近的技术与最近引入的对抗编码器生成器网络相结合，逐步构建网络的各个部分。重建输入图像的能力在许多现实世界的应用中至关重要，并允许对现有图像进行精确的智能操作。我们在图像合成和推理方面取得了可喜的成果，在CelebA推理任务中取得了最先进的成果。
2018-10-09 cs.CV cs.LG stat.ML
Invariant Representations from Adversarially Censored Autoencoders
Mitsubishi Electric Research Laboratories（三菱电机研究实验室）；Northeastern University（东北大学）
我们将条件变分自编码器（VAE）与对抗性审查相结合，以学习从滋扰/敏感变化中解脱出来的不变表示。在这种方法中，对抗网络试图从表示中恢复滋扰变量，VAE被训练来防止这种情况。调节解码器的滋扰变量，使清洁分离的表示，因为它们重新组合的模型学习和数据重建。我们表明，这种自然的方法在理论上是有根据的信息理论的论点。实验表明，该方法在保持模型学习性能的同时实现了不变性，并在风格转换和生成采样任务中获得了视觉上的改善。
2018-05-21 cs.IT cs.LG math.IT
Modality Conversion of Handwritten Patterns by Cross Variational Autoencoders
Kyushu University（九州大学）
本研究试图建构一个网路，将线上与线下手写文字互相转换。该网络由两个可变自动编码器（VAE）组成，具有共享的潜在空间。VAE被训练成同时生成在线和离线手写拉丁字符。通过这种方式，我们创建了一个跨模态VAE（Cross-VAE）。在训练期间，所提出的交叉VAE被训练以最小化两种模态的重建损失、两个VAE的分布损失以及称为空间共享损失的新颖的第三损失。第三，空间共享损失用于通过计算潜变量之间的距离来鼓励模态共享相同的潜空间。通过该方法，在线和离线手写字符的相互转换是可能的。在本文中，我们证明了交叉VAE的性能，通过定性和定量分析。
2019-06-14 cs.CV cs.LG
Stellar Cluster Detection using GMM with Deep Variational Autoencoder
Indian Institute of Space Science and Technology（印度空间科学与技术学院）
星团的探测一直是天文学的重要研究课题。虽然图像在检测恒星密度增强方面没有传达非常详细的信息，但我们试图了解新的机器学习技术是否可以揭示有助于从可用图像数据中得出更好推断的模式。提出了一种基于深度变分自编码器和高斯混合模型的无监督星团检测方法。我们表明，我们的方法的效果显着以及在识别各种星团，即使在存在噪声和失真的状态的最先进的检测算法相比。
2018-09-05 astro-ph.GA astro-ph.SR cs.LG
End-to-end Sinkhorn Autoencoder with Noise Generator
Warsaw University of Technology（华沙理工大学）；CERN（欧洲核子研究组织）；Tooploox
在这项工作中，我们提出了一种新的端到端的sinkhorn自动编码器与噪声发生器有效的数据汇集模拟。模拟旨在收集实验数据的过程对于多种现实应用至关重要，包括核医学，天文学和高能物理。当代的方法，如蒙特卡罗算法，提供高保真度的结果，在高计算成本的代价。采取多种尝试来减少这种负担，例如，使用基于生成对抗网络或变分自编码器的生成方法。虽然这些方法要快得多，但它们在训练中通常不稳定，并且不允许从整个数据分布中采样。为了解决这些缺点，我们引入了一种称为端到端Sinkhorn Autoencoder的新方法，该方法利用Sinkhorn算法来显式对齐编码的真实数据示例和生成的噪声的分布。更准确地说，我们通过添加一个确定性的神经网络训练，以映射噪声从一个已知的分布到自动编码器的潜在空间表示数据分布，扩展自动编码器的架构。我们共同优化整个模型。我们的方法优于竞争的方法在一个具有挑战性的数据集的模拟数据从零度量热仪的ALICE实验在LHC。以及标准基准，如MNIST和CelebA。
2020-06-11 cs.LG stat.ML
On Disentanglement in Gaussian Process Variational Autoencoders
ETH Zürich（苏黎世联邦理工学院）
复杂的多变量时间序列出现在许多领域，从计算机视觉到机器人或医学。通常，我们感兴趣的是产生我们所观察的高维数据的独立潜在因素。虽然已经引入了许多模型来学习这种分解的表示，但只有很少的模型试图明确地利用顺序数据的结构。我们研究了高斯过程变分自编码器的解纠缠特性，这是一类最近推出的模型，在时间序列数据的不同任务中取得了成功。我们的模型利用时间结构的数据建模每个潜在的通道与GP之前，并采用结构化的变分分布，可以捕捉依赖关系的时间。我们证明了我们的方法对国家的最先进的无监督和弱监督的解纠缠方法的基准任务的竞争力。此外，我们提供的证据表明，我们可以学习现实世界的医疗时间序列数据有意义的解开表示。
2021-02-10 cs.LG stat.ML
The Gaussian Discriminant Variational Autoencoder (GdVAE): A Self-Explainable Model with Counterfactual Explanations
Ruhr West University of Applied Sciences（鲁尔西应用科学大学）；TrustIn.AI Lab（TrustIn.AI实验室）；The University of Sydney（悉尼大学）；e:fs TechHub GmbH（e:fs技术中心有限公司）
提出GdVAE，一种基于条件变分自编码器和高斯判别分析的自解释模型，通过生成式分类器和潜在空间闭式解实现透明反事实解释，兼顾解释质量与模型透明度。
2024-09-19 cs.CV cs.LG
Synthetic Patient Generation: A Deep Learning Approach Using Variational Autoencoders
Inspired Ideas LLC（灵感创意有限责任公司）
医疗保健领域的人工智能是一个令人兴奋的新领域，其可能性是无限的。随着深度学习方法在许多领域击败人类的表现，合乎逻辑的下一步是尝试将其应用于健康领域。为了使这些和其他机器学习方法产生良好的结果并实现其潜力，对大量准确数据的需求和重要性是首屈一指的。这是许多行业面临的挑战，在医疗保健领域更是如此。我们提出了一种使用变分自编码器（VAE）的方法，作为一种生成更多数据以训练更深层次网络的方法，以及揭示诊断中的潜在模式和患者的方法。通过在可用数据上训练VAE，它能够学习给定诊断的患者特征的潜在分布。然后，在训练之后，可以从学习的潜在分布中进行采样，以在给定患者诊断的情况下生成新的准确的患者记录。
2018-08-20 cs.LG stat.ML
Adversarial Jamming for Autoencoder Distribution Matching
Imperial College London（伦敦帝国学院）
本文提出利用对抗性干扰作为辅助目标，实现自编码器潜在空间中高斯分布的匹配。
2025-12-02 cs.IT cs.LG math.IT
Theoretical Convergence Guarantees for Variational Autoencoders
CNRS（法国国家科学研究中心）；LOPF, Califrais’ Machine Learning Lab（LOPF，Califrais机器学习实验室）
本文提出变分自编码器的非渐近收敛保证，分析了不同优化算法和超参数对收敛的影响，为VAE的理论理解提供了新见解。
2025-12-22 cs.LG stat.ML
One-Shot Learning using Mixture of Variational Autoencoders: a Generalization Learning approach
Eindhoven University of Technology（埃因霍温理工大学）
深度学习，即使现在非常成功，传统上也需要非常大量的标记数据才能在分类任务中表现出色。为了解决这个问题，一次性学习范式变得越来越重要，这种范式只使用每个类和先验知识中的一个标记样本。在本文中，我们提出了一种新的一次性学习方法，称为MoVAE（混合变分自编码器），进行分类。作为对先前研究的补充，与通常的一次性学习方法相比，MoVAE代表了范式的转变，因为它不使用任何先验知识。相反，它从零知识和每个类一个标记样本开始。之后，通过使用未标记的数据和泛化学习概念（在某种程度上，更像人类），它能够逐渐提高自己的性能。更重要的是，如果没有未标记的数据可用，MoVAE仍然可以在一次性学习分类中表现良好。我们实证证明了我们提出的方法在三个数据集上的效率，即手写数字（MNIST），时尚产品（Fashion-MNIST）和手写字符（Omniglot），表明MoVAE优于最先进的一次性学习算法。
2018-04-18 cs.CV cs.LG stat.ML
Provable concept learning for interpretable predictions using variational autoencoders
ETH Zürich（苏黎世联邦理工学院）；Max-Planck-Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）
在安全关键应用中，当没有可解释的解释时，从业者不愿意信任神经网络。许多提供这种解释的尝试围绕基于像素的属性或使用先前已知的概念。在本文中，我们的目的是提供可证明的识别\emph{high-level, previously unknown ground-truth concepts}的解释。为此，我们提出了一个概率建模框架，以获得（C）概念（L）收入和（P）预测（CLAP）-一个基于VAE的分类器，使用视觉上可解释的概念作为预测一个简单的分类器。假设地面实况概念的生成模型，我们证明CLAP能够识别它们，同时达到最佳的分类精度。我们在合成数据集上的实验验证了CLAP在合成数据集上识别出不同的地面实况概念，并在医学胸部X射线数据集上产生了有希望的结果。
2022-07-22 cs.LG stat.ME
Variational Autoencoders for Opponent Modeling in Multi-Agent Systems
School of Informatics（信息学院）；The University of Edinburgh（爱丁堡大学）；Edinburgh Centre for Robotics（爱丁堡机器人中心）
多智能体系统表现出复杂的行为，这些行为源于共享环境中多个智能体的交互。在这项工作中，我们感兴趣的是在多代理系统中控制一个代理，并成功地学习与其他代理有固定的政策。对其他代理（对手）的行为进行建模对于理解系统中代理的交互至关重要。通过利用无监督学习的最新进展，我们提出了使用变分自编码器建模对手。此外，文献中的许多现有方法假设对手模型在训练和执行期间都可以访问对手的观察和动作。为了消除这个假设，我们提出了一个修改，试图识别潜在的对手模型只使用我们的代理的本地信息，如其观察，行动和奖励。实验表明，我们的对手建模方法实现相等或更大的情景回报，在强化学习任务对另一种建模方法。
2020-01-29 cs.LG stat.ML
Concurrent Density Estimation with Wasserstein Autoencoders: Some Statistical Insights
Indian Statistical Institute（印度统计研究所）
本文从统计学角度将 WAE 建模为神经网络诱导变换下的并发密度估计问题，给出实际误差的确定性上界，并分析对抗条件下随机误差传播及大样本性质与模型韧性。
2023-12-11 cs.LG stat.ML
Multi-Objective Variational Autoencoder: an Application for Smart Infrastructure Maintenance
The University of Sydney（悉尼大学）
多路数据分析已经成为一种重要的工具，用于捕获高阶数据集的底层结构，其中标准的双向分析技术通常无法发现多路数据中变量之间隐藏的相关性。提出了一种基于自编码深度神经网络（ADNN）重构概率的多目标变分自编码器（MVA）智能基础设施损伤检测与诊断方法。我们的方法融合了多个传感器的数据在一个ADNN信息功能被提取和用于损伤识别。它生成概率异常分数来检测损坏，评估其严重程度，并通过ADNN中引入的新定位层进一步定位。我们评估了我们的方法在多路数据集在该地区的结构健康监测损伤诊断的目的。数据收集从我们部署的数据采集系统上的斜拉桥在西悉尼和从实验室为基础的建筑结构从洛斯阿拉莫斯国家实验室（LANL）。实验结果表明，该方法能够准确地检测出结构损伤。它还能够估计不同级别的损坏严重程度，并在无人监督的情况下捕获损坏位置。与现有的方法相比，我们提出的方法在损伤检测和定位方面表现出更好的性能。
2020-03-11 cs.LG stat.ML
Improving Bi-directional Generation between Different Modalities with Variational Autoencoders
The University of Tokyo（东京大学）
我们研究了可以双向交换多种模态的深度生成模型，例如，从对应的文本生成图像，反之亦然。实现这一目标的一个主要方法是训练一个模型，该模型将不同模态的所有信息集成到一个联合表示中，然后通过这个联合表示从对应的另一个模态生成一个模态。我们简单地将这种方法应用于变分自编码器（VAE），我们称之为联合多模变分自编码器（JMVAE）。然而，我们发现，当该模型试图生成输入处缺失的大维度模态时，联合表示崩溃，并且无法成功生成该模态。此外，我们证实，即使使用已知的解决方案也无法解决这个难题。因此，在这项研究中，我们提出了两个模型来防止这种困难：JMVAE-kl和JMVAE-h。我们的实验结果表明，这些方法可以防止上述困难，他们产生的方式双向相同或更高的可能性比传统的VAE方法，只在一个方向上产生。此外，我们确认，这些方法可以获得适当的联合表示，使他们可以通过移动联合表示或改变另一个模态的值来生成各种变化的模态。
2018-01-26 cs.LG stat.ML
Bridge-Centered Metapath Classification Using R-GCN-VGAE for Disaster-Resilient Maintenance Decisions
本文提出R-GCN-VGAE方法，通过构建异构图分析桥梁在灾难中的多维作用，为维护预算决策提供支持，验证了方法在不同城市规模的有效性。
2026-04-20 cs.LG
Multimodal hierarchical Variational AutoEncoders with Factor Analysis latent space
Universidad Carlos III de Madrid（马德里卡洛斯三世大学）；Instituto de Investigación Sanitaria Gregorio Marañón（格雷戈里奥·马拉尼翁健康研究所）
本文提出FA-VAE方法，将多个变分自编码器与因子分析潜空间结合，通过层次化的私有与共享潜空间设计，实现异构多视图数据的可解释、灵活、模块化建模，并支持跨域数据生成与迁移学习。
2024-10-22 cs.AI cs.LG
Wasserstein Autoencoders for Collaborative Filtering
Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））
推荐系统在文献中已经研究了很长时间。最近，用户的隐式反馈，如“点击”或“浏览”被认为是能够提高推荐性能。因此，已经进行了一些尝试来解决这个问题。其中，变分自编码器（VAE）方法已经取得了优越的性能。然而，编码的潜变量的分布重叠很多，这可能会限制其推荐能力。为了应对这一挑战，本文试图扩展Wasserstein自动编码器（WAE）的协同过滤。特别地，通过引入两个额外的损失项来重新设计自适应WAE的损失函数：（1）潜在变量的分布和假设的地面真值分布之间的互信息损失，以及（2）引入L1正则化损失以限制编码的潜在变量是稀疏的。设计了两种不同的代价函数来度量隐式反馈数据与其重新生成的数据之间的距离。实验评估三个广泛采用的数据集，即，ML-20M，Netflix和LASTFM。选择基准方法和最先进的方法（Mult-DAE、Mult-VAE、CDAE和Slim）进行性能比较。在评价标准Recall@1、Recall@5和NDCG@10方面，所提出的方法的性能优于所比较的方法，这证明了所提出的方法的有效性。
2019-04-06 cs.IR cs.LG
Causal Dynamic Variational Autoencoder for Counterfactual Regression in Longitudinal Data
Paris-Saclay University, CentraleSupélec, MICS Lab（巴黎-萨克雷大学，中央超导实验室，MICS实验室）
本文提出因果动态变分自编码器（CDVAE），通过建模未观测调整变量来估计纵向数据中的条件平均处理效应，并在理论和实验上证明其能显著提升现有模型的CATE估计性能。
2025-11-10 cs.LG stat.ML
SurVAE Flows: Surjections to Bridge the Gap between VAEs and Flows
Technical University of Denmark（丹麦技术大学）；UvA-Bosch Delta Lab（阿姆斯特丹大学-博世三角洲实验室）；University of Amsterdam（阿姆斯特丹大学）
规范化流和变分自编码器是可以表示复杂密度函数的强大生成模型。然而，它们都对模型施加了约束：归一化流使用双射变换来建模密度，而VAE学习不可逆的随机变换，因此通常不能提供对边际可能性的易处理估计。在本文中，我们将介绍SurVAE流：一个模块化的框架，可组合的转换，包括VAE和规范化流程。SurVAE流通过满射变换弥合了规范化流和VAE之间的差距，其中变换在一个方向上是确定性的-从而允许精确的似然计算，并且在相反方向上是随机的-因此提供了相应似然的下限。我们表明，最近提出的几种方法，包括去量化和增强的归一化流，可以表示为SurVAE流。最后，我们介绍了常见的操作，如最大值，绝对值，排序和随机置换的可组合层SurVAE流。
2020-10-30 cs.LG stat.ML
Hidden Talents of the Variational Autoencoder
Institute for Advanced Study（高等研究院）；Tsinghua University（清华大学）；University of Cambridge（剑桥大学）；Microsoft Research（微软研究院）
变分自编码器（VAE）代表了一种流行的、灵活的深度生成模型形式，该模型可以使用真实底层分布上的信息论变分界限来随机拟合来自给定随机过程的样本。一旦如此获得，该模型可以被直接用于从该分布生成新的样本，或者提供现有样本的低维潜在表示。虽然在许多应用领域中相当有效，但某些重要的机制（其支配VAE的行为）被所涉及的棘手积分和由此产生的随机近似所混淆。此外，作为一个高度非凸模型，仍然不清楚底层能量的最小值与原始设计目的的关系。我们试图更好地量化这些问题，通过分析一系列易于处理的特殊情况下，越来越复杂。在这样做的过程中，我们揭示了与更传统的降维模型的有趣联系，以及在估计潜在流形时鲁棒地忽略稀疏离群值的内在但未被充分认识的倾向。对于后者，我们证明了VAE可以被视为最近强大的PCA模型的自然演变，能够学习未知维度的非线性流形模糊的总腐败。
2019-10-07 cs.LG
DeepRHP: A Hybrid Variational Autoencoder for Designing Random Heteropolymers as Protein Mimics
DeepRHP: A Hybrid Variational Autoencoder for Designing Random Heteropolymers as Protein Mimics（DeepRHP：一种用于设计随机杂合聚合物作为蛋白质模拟物的混合变分自编码器）
提出混合变分自编码器DeepRHP，在半监督框架下结合特征VAE与经典VAE，通过潜在空间捕获关键化学特征与序列模式，指导随机异聚合物设计，实验验证其稳定膜蛋白的有效性。
2026-06-11 cs.LG q-bio.QM stat.AP
A Statistical Analysis of Wasserstein Autoencoders for Intrinsically Low-dimensional Data
UC Berkeley（加州大学伯克利分校）；Google DeepMind（谷歌DeepMind）
本文从统计学习理论角度分析Wasserstein自编码器，证明在合适网络架构下其期望超额风险收敛速率仅依赖数据内在维度而非高维特征维度，为低维结构数据上的应用提供了理论保证。
2024-02-24 cs.LG math.ST stat.ML
Field-Space Autoencoder for Scalable Climate Emulators
German Climate Computing Center (DKRZ)（德国气候计算中心（DKRZ））
本文提出一种基于球面压缩模型的场-空间自编码器，用于解决高分辨率物理细节稀缺与低分辨率集合统计量高体积之间的矛盾，通过高效处理原生气候模型输出实现可扩展的气候模拟。
2026-01-21 cs.LG eess.IV
An attempt to generate new bridge types from latent space of denoising diffusion Implicit model
Wanshi Antecedence Digital Intelligence Traffic Technology Co., Ltd（万世前因数字智慧交通科技有限公司）
本研究利用去噪扩散隐式模型，基于对称结构桥梁图像数据集进行训练，从潜在空间采样生成不对称新桥型，并提供了易懂的数学推导以助初学者理解。
2024-02-11 cs.AI cs.CV cs.LG
An attempt to generate new bridge types from latent space of PixelCNN
Wanshi Antecedence Digital Intelligence Traffic Technology Co., Ltd（万世先见数字智慧交通科技有限公司）
本文利用PixelCNN在四种桥型图像数据集上训练，从潜在空间采样生成有机组合不同结构构件的新桥型，并指出多模态模型是未来实现通用人工智能的方向。
2024-01-11 cs.AI cs.CV cs.LG
PIGPVAE: Physics-Informed Gaussian Process Variational Autoencoders
SINTEF Digital（SINTEF数字研究院）；Norwegian University of Science and Technology（挪威科学与技术大学）
该文提出物理信息高斯过程变分自编码器（PIGPVAE），通过结合物理模型与差异项，从有限数据中生成合成样本，在室内温度数据上达到最先进性能并支持分布外生成。
2025-05-25 cs.LG stat.ML
Complex variational autoencoders admit Kähler structure
Purdue University（普渡大学）
本文提出复变分自编码器具有Kähler结构，通过复高斯混合物的Kähler势导数实现高效的度量计算，提升潜在空间表示的平滑性和减少语义异常。
2025-12-30 cs.LG
Training Generative Reversible Networks
Medical Center - University of Freiburg（弗莱堡大学医学中心）；University of Freiburg（弗莱堡大学）
带有编码组件的生成模型（如自动编码器）目前受到了极大的关注。然而，自动编码器的训练通常由于需要训练单独的编码器和解码器模型而变得复杂，所述单独的编码器和解码器模型必须被强制为彼此互逆。为了克服这个问题，通过设计可逆的神经网络（RevNets）以前已经被用作生成模型，或者直接优化模型下数据的可能性，或者对生成的数据使用对抗方法。在这里，我们使用对抗自动编码器框架中的潜在空间上的对手来研究它们的性能。我们研究了RevNets在CelebA数据集上的生成性能，表明生成RevNets可以生成与变分自编码器质量相似的连贯人脸。相对于最近使用CelebA上的自动编码器组件的高级生成模型，在对抗性自动编码器框架内使用RevNets的第一次尝试表现略差，但随着生成RevNets训练设置的进一步优化，这种差距可能会缩小。除了在CelebA上的实验之外，我们还在MNIST数据集上进行了原理验证实验，表明无对手训练的RevNets可以发现有意义的潜在维度，而无需预先指定潜在采样分布的维度数。总之，这项研究表明，RevNets可以在不同的生成训练环境中使用。本研究的源代码位于https://github.com/robintibor/generative-reversible
2018-08-23 cs.LG cs.NE stat.ML
Multimodal Variational Autoencoder: a Barycentric View
Washington University in St. Louis（华盛顿大学圣路易斯分校）；Arizona State University（亚利桑那州立大学）；Clemson University（克莱姆森大学）；University of Arkansas（阿肯色大学）
本文从重心视角统一并推广多模态VAE，证明PoE和MoE是KL散度下的特例，并提出基于2-Wasserstein距离的重心方法以更好保持单模态几何结构，在三个多模态基准上验证了其有效性。
2024-12-29 cs.CV cs.IT cs.LG
Dual Variational Autoencoders for Efficient Sim-to-Real Transfer in Low-Cost Robotic Navigation
University of Alicante（阿利坎特大学）
提出一种结合领域随机化与特征级自适应的双变分自编码器混合迁移框架，以45225张模拟和4556张真实图像训练，实现低成本机器人室内导航近91%的分类成功率，并验证了在嵌入式平台上的效率。
2026-10-06 cs.CV cs.LG cs.RO
On Kernel-based Variational Autoencoder
Math department Lehigh University（莱恩大学数学系）
提出用核密度估计近似 VAE 后验并推导 KL 散度上界，证明 Epanechnikov 核渐近最优，EVAE 在多个图像基准上提升重建质量。
2025-05-12 cs.LG stat.ML
Coupling Generative Modeling and an Autoencoder with the Causal Bridge
Duke University（杜克大学）
本文提出将生成建模与自动编码器结合因果桥梁，以提高治疗效应估计的准确性。
2026-01-14 cs.LG stat.ME stat.ML
Is the reconstruction loss culprit? An attempt to outperform JEPA
本文通过线性动态系统对比了JEPA与重建自动编码器，发现自动编码器性能受目标不对称性和瓶颈效应影响，提出门控预测自动编码器以提升鲁棒性。
2026-03-14 cs.LG
A Survey on Masked Autoencoder for Self-supervised Learning in Vision and Beyond
KAIST（韩国科学技术院）
掩码自编码器是可扩展的视觉学习器，如MAE \cite{he2022masked}的标题，这表明视觉中的自监督学习（SSL）可能会采取与NLP类似的轨迹。具体地，具有掩蔽预测的生成借口任务（例如，BERT）已经成为NLP中SSL实践的事实标准。相比之下，早期的视觉生成方法的尝试已经被它们的区别性对应物（如对比学习）所掩盖;然而，掩模图像建模的成功已经复兴了掩模自动编码器（过去通常称为去噪自动编码器）。作为弥合与BERT在自然语言处理领域差距的里程碑，掩码自编码器在视觉及其他领域引起了SSL前所未有的关注。这项工作进行了全面的调查，掩码自编码器，以摆脱洞察SSL的一个有前途的方向。作为第一个审查SSL与掩码自编码器，这项工作的重点是它在视觉中的应用，讨论其历史发展，最近的进展，并为不同的应用程序的影响。
2022-07-30 cs.AI cs.CV cs.LG
Schrodinger Bridges Beat Diffusion Models on Text-to-Speech Synthesis
Tsinghua University（清华大学）；Microsoft Research Asia（微软亚洲研究院）
本文提出Bridge-TTS，用Schrodinger桥替代扩散模型中的噪声先验，实现数据到数据的TTS合成，在质量和采样效率上超越扩散基线Grad-TTS及快速TTS模型。
2023-12-06 cs.LG cs.SD eess.AS
Dimension Estimation Using Autoencoders
Worcester Polytechnic Institute（伍斯特理工学院）
维数估计和维数约简是两个密切相关但目标不同的问题。在DE中，人们试图估计随机向量的一组测量中的内在维度或潜在变量的数量。然而，在DR中，人们试图将随机向量线性或非线性地投影到较低维度空间，该较低维度空间保留原始较高维度空间中包含的信息。当然，这两个想法是非常密切相关的，因为，例如，对比DE建议的尺寸更小的尺寸进行DR可能会导致信息丢失。因此，在本文中，我们将重点关注一类特殊的深度神经网络，称为自动编码器，它广泛用于DR，但对于DE研究较少。我们发现，当使用自动编码器DE，以上和超越那些出现更经典的DR/DE技术，如主成分分析，出现了几个重要的问题。我们解决自动编码器的架构选择和正则化技术，允许一个自动编码器的潜在层表示转换为内在维度的估计。
2019-09-24 cs.CV cs.LG stat.ML
SALVE: Sparse Autoencoder-Latent Vector Editing for Mechanistic Control of Neural Networks
Group Research and Development, DNV（1 研究与发展组，DNV）
SALVE通过稀疏自编码和潜在向量编辑，实现神经网络的机理控制与可解释性，提升模型的可控性和鲁棒性。
2026-03-07 cs.AI cs.CV cs.LG
Switched linear encoding with rectified linear autoencoders
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
机器学习的一些最新成果已经在自动编码器（试图重现其输入的人工神经网络模型）与其他编码模型（如稀疏编码和K均值）之间建立了正式的联系。本文深入探讨了一种自动编码器模型，该模型是使用其隐藏单元上的整流线性激活构造的。我们的分析建立在最近的结果，以进一步统一稀疏线性编码模型的世界。我们对这些编码模型的行为提供了直观的解释，并使用具有已知分布的小型人工数据集来证明这种直觉。
2013-01-19 cs.LG
Diffusion Bridge AutoEncoders for Unsupervised Representation Learning
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院（KAIST））
本文提出扩散桥自编码器（DBAE），通过前馈架构使扩散端点 xT 依赖潜在变量 z，解决信息分裂与过度正则化问题，在无监督表示学习、重构、解耦及无条件生成上取得显著提升。
2025-03-08 cs.LG
Deep convolutional autoencoder for cryptocurrency market analysis
Curtin University（科廷大学）
这项研究试图使用一种特殊类型的深度神经网络，即卷积自动编码器来分析加密货币市场的模式。该方法提取了市场行为的主要特征，并将40种研究的加密货币分为几类，从2013年5月15日开始为期12个月。随着时间的推移，从一个类到另一个类的过渡与加密货币的成熟有关。在投机性加密货币市场中，这些发现对投资和交易策略具有潜在影响。
2019-10-27 cs.LG q-fin.ST stat.ML
Robust Autoencoders for Collective Corruption Removal
University of Minnesota（明尼苏达大学）；University of Minnesota Duluth（明尼苏达大学德卢斯分校）
鲁棒PCA是在存在稀疏腐败或罕见离群值的情况下学习线性子空间的标准工具。如何鲁棒地学习流形，这些流形是自然数据（如图像）的更真实的模型？最近有几次尝试将鲁棒PCA推广到流形设置。在本文中，我们提出了$\ell_1$ -和缩放不变的$\ell_1/\ell_2$ -鲁棒的自动编码器，基于一个令人惊讶的紧凑公式，该公式建立在深度自动编码器执行流形学习的直觉上。我们在几个标准图像数据集上证明，在没有干净图像进行训练的情况下，所提出的方法在集体消除稀疏腐败方面显着优于所有以前的方法。此外，我们还表明，学习的流形结构可以有效地推广到看不见的数据样本。
2023-03-06 cs.AI cs.CV cs.LG
VisionTS: Visual Masked Autoencoders Are Free-Lunch Zero-Shot Time Series Forecasters
Zhejiang University（浙江大学）；State Street Technology (Zhejiang) Ltd（道富科技（浙江）有限公司）；Salesforce Research Asia（Salesforce亚洲研究院）
本文提出VisionTS，将时间序列预测重构为图像重建任务，利用ImageNet预训练的视觉掩码自编码器实现零样本预测，并在微调后取得最先进性能，证明视觉模型可为TSF提供“免费午餐”。
2025-06-06 cs.AI cs.CV cs.LG
Representation Learning for Non-Melanoma Skin Cancer using a Latent Autoencoder
Australian e-Health Research Centre, CSIRO（澳大利亚联邦科学与工业研究组织电子健康研究中心）
生成学习是表征学习的一个强大工具，在生物医学成像问题上表现出了特别的希望。然而，在这种情况下，从分布中采样是次要的，以找到真实图像的表示，这往往带有标签，并明确表示目标分布的内容和质量。从生成模型忠实地重建图像仍然很困难，特别是那些像组织学图像一样复杂的模型。在这项工作中，结合了两种现有的方法（自动编码器和对抗性潜伏自动编码器），试图提高我们对非黑色素瘤皮肤癌，特别是表皮内癌（IEC）的真实图像进行编码和解码的能力。利用IEC（256 x 256）的高质量图像数据集，这项工作评估了图像重建质量和表示学习的结果。研究表明，对抗性训练可以将基线FID分数从76提高到50，并且表征学习的基准可以提高3%。平滑和现实的插值的形态结构的变化也首次提出，定位表示学习作为一个有前途的方向，在计算病理学的背景下。
2022-09-05 cs.CV cs.LG eess.IV
An end-to-end convolutional selective autoencoder approach to Soybean Cyst Nematode eggs detection
本文在深度卷积网络的框架内提出了一种新的选择性自动编码器方法。这个想法的关键是训练深度卷积自动编码器，以抑制图像帧中不需要的部分，同时允许所需的部分，从而实现有效的目标检测。该框架的有效性证明了一个关键的植物科学问题。在美国，由于大豆植物上的线虫感染，每年损失约10亿美元。目前，植物病理学家依靠人工显微镜对土壤样品中的大豆胞囊线虫（SCN）卵进行劳动密集型和耗时的鉴定。所提出的框架试图通过使用一系列手动标记的显微图像进行训练，然后进行自动化高通量鸡蛋检测来显着加快这一过程。由于图像帧中存在大量非鸡蛋颗粒（干扰），这些颗粒在形状、姿态和照明方面与SCN鸡蛋非常相似，因此这个问题特别困难。因此，选择性自动编码器被训练以学习与SCN蛋的不变形状和大小相关的独特特征，而无需手工制作。之后，在后处理阶段应用复合非最大值抑制和差分。
2016-03-25 cs.CV cs.LG stat.ML
Music2Latent: Consistency Autoencoders for Latent Audio Compression
Queen Mary University of London（伦敦玛丽女王大学）；Sony Computer Science Laboratories（索尼计算机科学实验室）
针对现有音频自编码器的训练复杂、采样慢、重建质量低问题，提出基于一致性模型的Music2Latent音频自编码器，通过多项创新实现单步高保真重建，性能优于同类模型且首次实现端到端训练。
2024-08-12 cs.LG cs.SD eess.AS
Sparse Autoencoders for Interpretable Medical Image Representation Learning
Stanford Center for Artificial Intelligence in Medicine and Imaging（斯坦福大学人工智能医学与成像中心）；Department of Radiology, Stanford University（斯坦福大学放射科）；Chair of AI in Healthcare and Medicine, Technical University of Munich（慕尼黑技术大学人工智能医疗与医学主任）；TUM University Hospital, Munich, Germany（慕尼黑技术大学医院）
本文研究使用稀疏自编码器替代抽象特征，通过CT和MRI图像切片生成可解释的稀疏特征，提升医学图像处理的可解释性。
2026-10-27 cs.CV cs.LG
Improving Reconstruction Autoencoder Out-of-distribution Detection with Mahalanobis Distance
University of Waterloo（滑铁卢大学）
越来越明显地需要验证深度学习系统在自动驾驶汽车系统等安全关键应用中所做的分类。最近的一些论文提出了用于检测异常图像数据的方法，这些异常图像数据与已知的内点数据样本不同，包括基于重建的自动编码器。自动编码器优化输入数据到维度小于原始输入的潜在空间的压缩，并尝试使用该压缩表示来准确地重建输入。由于隐向量被优化以仅从内层类捕获显著特征，因此通常假设来自训练类外部的对象的图像不能被有效地压缩和重建。因此，有些人认为重建误差是一种新颖的衡量标准。在这里，我们建议，重建为基础的方法无法捕捉特定的异常，远离已知的内点样本在潜在空间，但附近的潜在维度流形定义的参数的模型。我们建议在潜在空间中加入Mahalanobis距离，以更好地捕获这些分布外的样本，我们的结果表明，这种方法通常比基线方法提高了性能。
2018-12-06 cs.LG stat.ML
Categorical Schrödinger Bridge Matching
本文针对离散空间中的薛定谔桥问题，提出类别型薛定谔桥匹配（CSBM）算法，并从理论上证明了离散时间迭代马尔可夫拟合的收敛性，在合成数据和图像VQ表示上验证了其有效性。
2025-08-16 cs.LG
Grammarization-Based Grasping with Deep Multi-Autoencoder Latent Space Exploration by Reinforcement Learning Agent
Technical University of Munich（慕尼黑工业大学）
本文提出利用三个自编码器将目标与夹爪特征压缩到共同潜在空间，并结合 PoWER 算法让强化学习智能体在潜在空间中探索高质量抓取，在仿真中适应能力提升超过 35%。
2024-11-19 cs.LG cs.RO
