Comparison of LSTM autoencoder based deep learning enabled Bayesian inference using two time series reconstruction approaches
University of Southern California（南加州大学）
在这项工作中，我们使用贝叶斯推理，马尔可夫链蒙特卡罗和深度学习的LSTM自动编码器的形式相结合，以建立和测试一个框架，提供强大的估计注入率从地面数据耦合流和地质力学问题。我们使用LSTM自动编码器来重建由于注水问题而导致的断层顶部表面上的网格点的位移时间序列。然后，我们部署这个基于LSTM自动编码器的模型，而不是贝叶斯推理框架中的高保真模型，以根据位移输入估计注射速率。
2022-03-03 cs.CE cs.LG
Lookahead optimizer improves the performance of Convolutional Autoencoders for reconstruction of natural images
自编码器是近年来受到广泛关注的一类人工神经网络。使用自动编码器的编码器块，输入图像可以被压缩成有意义的表示。然后，解码器被用来将压缩表示重构回看起来像输入图像的版本。它在数据压缩和去噪等领域有着广泛的应用。存在另一种版本的自动编码器（AE），称为变分AE（VAE），其充当类似于GAN的生成模型。最近，引入了一种称为前瞻优化器的优化器，该优化器显著增强了Adam和SGD的性能。在本文中，我们实现了卷积自动编码器（CAE）和卷积变分自编码器（CVAE）与前瞻优化器（亚当），并将它们与亚当（只有）优化器同行。为此，我们使用了一个电影数据集，包括自然图像的前一种情况和CIFAR100的后一种情况。我们表明，前瞻优化器（与Adam一起）提高了CAE重建自然图像的性能。
2020-12-03 cs.AI cs.CV cs.GR
Symmetric Wasserstein Autoencoders
National Research Council Canada（加拿大国家研究委员会）
利用最优传输的框架，我们引入了一个新的生成自动编码器家族，具有可学习的先验知识，称为对称Wasserstein自动编码器（SWAE）。我们建议对称匹配的联合分布的观测数据和潜在的表示引起的编码器和解码器。由此产生的算法共同优化的数据和潜在空间的建模损失与数据空间中的损失，导致去噪效果。通过对数据和潜在表示的对称处理，该算法隐式地保持了数据在潜在空间中的局部结构。为了进一步提高潜在表示的质量，我们在目标中加入了重建损失，这对生成和重建都有很大的好处。我们的经验表明，优越的性能SWAE的国家的最先进的生成自动编码器的分类，重建和生成。
2021-06-24 cs.AI cs.CV cs.LG
A Human Ear Reconstruction Autoencoder
University of York（约克大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
耳朵作为人体头部的重要组成部分，在计算机视觉领域受到的关注远不及人脸。受先前使用自动编码器结构实现自监督学习的单眼3D人脸重建工作的启发，我们的目标是利用这样的框架来解决3D耳朵重建任务，其中2D耳朵输入图像上存在更微妙和困难的曲线和特征。我们的人耳重建自动编码器（HERA）系统预测3D耳朵网格的3D耳朵姿势和形状参数，而无需对这些参数进行任何监督。为了使我们的方法覆盖野生图像的方差，甚至灰度图像，我们提出了一个野生耳朵颜色模型。然后，利用2D地标定位性能和重建的3D耳朵的外观来评估所构建的端到端自监督模型。
2020-10-07 cs.CV cs.LG
Multivariate Temporal Autoencoder for Predictive Reconstruction of Deep Sequences
Altum Intelligence（Altum Intelligence（阿尔图姆智能））
时间序列序列预测和建模已被证明是现实世界数据集的一项具有挑战性的工作。两个关键问题是数据的多维性和形成潜在输出信号的独立维度的相互作用，以及预测模型内部的多维时间数据的表示。本文提出了一种多分支深度神经网络方法来解决上述问题，通过使用循环自动编码器分支对数据窗口的潜在状态向量表示进行建模，随后将训练的潜在向量表示馈送到模型的预测器分支中。该模型此后被称为多变量时间自动编码器（MvTAe）。本文中的框架利用了一个合成的多变量时态数据集，其中包含的维度相结合，以创建一个隐藏的输出目标。
2020-10-07 cs.LG
RODEO: Robust DE-aliasing autoencOder for Real-time Medical Image Reconstruction
Indraprastha Institute of Information Technology（因德拉普拉斯信息技术学院）
在这项工作中，我们解决了实时动态医学MRI和X射线CT图像重建的问题，从吝啬的样本傅立叶频率空间的MRI和正弦图断层投影CT。如今，这种重建的事实标准是压缩感知。CS产生高质量的图像（具有最小的感知损失，但是这样的重建是耗时的，需要解决复杂的优化问题。在这项工作中，我们建议使用自动编码器从训练样本中学习重建。我们的工作是基于神经网络的泛函数逼近能力。自动编码器的训练时间很长，但处于离线状态，因此不会影响操作期间的性能。在测试或操作过程中，我们的方法只需要几个矩阵向量乘积，因此比基于CS的方法快得多。事实上，它对于实时重建来说是足够快的，图像的重建速度与它们被采集的速度一样快，而图像质量只有轻微的下降。然而，为了使自动编码器适合于我们的问题，我们离开了标准的欧几里德范数代价函数的自动编码器，并使用一个强大的l1范数。随后的问题是解决使用分裂布雷格曼方法。
2019-12-11 cs.LG eess.IV stat.ML
Semi-supervised Stacked Label Consistent Autoencoder for Reconstruction and Analysis of Biomedical Signals
University of British Columbia（不列颠哥伦比亚大学）；Indraprasatha Institute of Information Technology, Delhi, India（印度因德拉普拉斯信息技术学院（德里））
在这项工作中，我们提出了一个自动编码器为基础的框架，同时重建和分类的生物医学信号。以前，这两个任务，重建和分类被视为单独的问题。这是第一次提出一个综合框架，以整体的方式解决这个问题。用于远程监测的生物医学信号的重建技术主要基于基于压缩感知（CS）的方法，这些技术是基于关于信号的一些假设的重建公式设计的。在这项工作中，我们提出了一个新的范式重建我们学习重建。自动编码器可以被训练用于相同的。但由于最终目标是对信号进行分析和分类，我们在自动编码器内部学习了一个线性分类图。随后的优化问题的解决使用分裂布雷格曼技术。对心电心律失常分类信号和脑电癫痫分类信号进行了重构和分类实验。我们提出的工具能够以半监督的方式运行。我们表明，我们提出的方法是更好的，超过一个数量级的速度比基于CS的方法重建，它是能够实时操作。我们的方法也优于最近提出的分类方法。意义：这是第一个提供替代CS重建的工作。它还表明，表示学习可以产生比手工制作的信号分析特征更好的结果。
2019-12-11 cs.LG eess.SP
Autoencoder-based General Purpose Representation Learning for Customer Embedding
Amazon Web Services（亚马逊网络服务）；University of Amsterdam（阿姆斯特丹大学）；Ludwig Maximilians University（路德维希-马克西米利安大学）
本文提出 DEEPCAE 方法，通过改进多层收缩自编码器的正则化计算，在 13 个数据集上实现重建误差降低 34%，并验证了其在通用实体嵌入中的优越性。
2025-02-04 cs.AI cs.LG
Fast Community Detection based on Graph Autoencoder Reconstruction
Beijing University of Posts and Telecommunications（北京邮电大学）
随着大数据的快速发展，如何在大规模网络中高效、准确地发现紧密的社区结构进行知识发现越来越受到人们的关注。本文首次提出了一种基于图自动编码器重构的社区发现框架。GAER是一个高度可扩展的框架，不需要任何先验信息。我们将基于图自动编码器的一步编码分解为两阶段编码框架，以适应现实世界的大数据系统，将复杂度从原来的O（N^2）降低到O（N）。同时，基于GAER支持模块即插即用配置和增量式社区发现的优势，进一步提出了一种基于对等体感知的实时大图模型模块，该模块能够以更快的速度实现新节点的社区发现，并以6.15倍~ 14.03倍的速度加速模型推理。最后，我们将GAER应用于多个真实世界的数据集，包括一些大型网络。实验结果表明，GAER在几乎所有网络上都取得了优异的性能。
2022-03-07 cs.AI cs.LG cs.SI
Variantional autoencoder with decremental information bottleneck for disentanglement
Surrey Institute for People Centred AI（萨里以人为本人工智能研究所）；University of Surrey（萨里大学）；Carnegie Mellon University（卡内基梅隆大学）；University of Jinan（济南大学）；Mintyea Tech, Inc.（茗茶科技公司）
针对变分自编码器解耦学习中解耦效果与重建保真度的权衡难题，提出带递减信息瓶颈的层级潜空间框架DeVAE，通过解耦不变变换连接潜空间，在两个数据集上验证了其平衡两者的有效性。
2023-10-04 cs.AI cs.LG
Real-Time Predictive Maintenance using Autoencoder Reconstruction and Anomaly Detection
Liverpool John Moores University（利物浦约翰摩尔斯大学）；Central Group（中央集团）
旋转机械故障检测系统已经过时，并且依赖于常规测试来发现故障。这是昂贵的，而且往往是被动的。实时的【形】监控提供了一种无需人工观察即可检测故障的解决方案。然而，阈值异常检测的人工解释通常是主观的，并且在工业专家之间变化。这种方法是脊状的，容易出现大量的误报。为了解决这个问题，我们提出了一个机器学习（ML）的方法来模拟正常的工作操作和检测异常。该方法从代表已知正常操作的信号中提取关键特征，以模拟机器行为并自动识别异常。ML学习泛化并基于故障严重性生成阈值。这为工程师提供了一个交通灯系统，绿色是正常的行为，琥珀色是令人担忧的，红色表示机器故障。这一规模使工程师能够在适当的时候采取早期干预措施。该方法进行评估窗口真实机器传感器数据，以观察正常和异常的行为。结果表明，可以在琥珀色范围内检测到异常，并在机器故障前发出警报。
2021-10-01 cs.AI cs.LG
Variational Autoencoders for P-wave Detection on Strong Motion Earthquake Spectrograms
Department of Modelling and Simulation, Graduate School of Informatics（建模与仿真系，信息学院）；Department of Civil Engineering（土木工程系）
本文提出基于注意力机制的变分自编码器，用于强运动地震光谱图中的P波检测，通过自监督异常检测实现高检测性能。
2026-01-09 cs.AI cs.LG
Rethinking Reconstruction Autoencoder-Based Out-of-Distribution Detection
Beihang University（北京航空航天大学）
在某些情况下，分类器需要检测远离其训练数据的分布外样本。利用期望的特性，基于重构自动编码器的方法通过使用输入重构误差作为新颖性与正常性的度量来处理这个问题。我们制定了这样的方法的本质作为一个四重域翻译的内在偏见，只查询代理条件数据的不确定性。因此，改进方向被形式化为最大限度地压缩自动编码器的潜在空间，同时确保其作为所描述的域翻译器的重构能力。从中，引入了包括语义重建，数据确定性分解和归一化L2距离在内的策略，以大幅改善原始方法，这些方法共同建立了各种基准的最新性能，例如，在Wide-ResNet上CIFAR-100与TinyImagenet-crop的FPR@95%TPR为0.2%。重要的是，我们的方法不需要任何额外的数据，难以实现的结构，耗时的管道，甚至损害已知类的分类准确性。
2023-03-29 cs.CV cs.LG
Local-Order Auxiliary Losses Can Improve Autoencoder Reconstruction
Kahlert School of Computing（卡勒特计算学院）；University of Utah（犹他大学）；Texas State University（德克萨斯州立大学）
本文研究了局部顺序辅助损失在自动编码器中的作用，发现其能有效降低验证MSE，尤其在空间有序性强的场景中效果更佳。
2026-05-07 cs.LG
GCVAE: Generalized-Controllable Variational AutoEncoder
Mines Saint-Etienne（圣艾蒂安国立高等矿业学校）；Univ Clermont Auvergne（克莱蒙奥弗涅大学）；INP Clermont Auvergne（克莱蒙奥弗涅国立理工学院）；CNRS（法国国家科学研究中心）
变分自动编码器（VAE）最近已被用于复杂密度分布的无监督解纠缠学习。存在许多变体来鼓励在潜在空间中解开纠缠，同时改善重建。然而，没有一个同时管理之间的权衡实现极低的重建误差和高的解纠缠分数。我们提出了一个通用的框架来处理约束优化下的这一挑战，并证明它优于最先进的现有模型，同时平衡重建的解纠缠。我们引入三个可控的拉格朗日超参数来控制重构损失、库尔贝克-莱布勒散度损失和相关性测度。我们证明了在合理的假设和约束松弛条件下，重构网络中的信息最大化等价于摊销推理中的信息最大化。
2022-06-09 cs.LG stat.ML
Curvature-Regularized Variational Autoencoder for 3D Scene Reconstruction from Sparse Depth
Department of Computer Engineering（计算机工程系）；Islamic Azad University of Tehran, East Branch（泰姬大学塔里克分校）
本文提出基于曲率正则化的变分自编码器，通过离散拉普拉斯算子提升3D场景重建精度，仅需15%训练开销，有效解决稀疏深度数据下的几何误差问题。
2025-12-05 cs.CV cs.LG
A Preliminary Study on Pattern Reconstruction for Optimal Storage of Wearable Sensor Data
Queen’s University（女王大学）
如今，医疗数据的高效查询和检索面临着严峻的挑战，许多连接的设备不断生成PB级的图像、文本和物联网（IoT）传感器数据。一种有效地存储健康护理数据的方法是提取相关的和代表性的特征，并且仅存储那些特征而不是连续的流数据。然而，它提出了一个问题，即我们可以从数据中保留多少信息内容，以及我们是否可以在需要时重建伪原始数据。通过促进相关的和代表性的特征提取，存储和重建的近原始模式，我们的目标是解决所面临的一些挑战的爆炸的流数据。我们提出了一个初步的研究，在那里我们探索了多个自动编码器的简洁特征提取和人类活动识别（HAR）传感器数据的重建。我们的多层感知器（MLP）深度自动编码器实现了90.18%的存储减少，而其他三个实现的自动编码器，即卷积自动编码器，长短期记忆（LSTM）自动编码器和卷积LSTM自动编码器分别实现了11.18%，49.99%和72.35%的存储减少。来自自动编码器的编码特征具有更小的尺寸和维度，这有助于减少存储空间。对于更高维度的表示，存储减少是低的。但相关信息的保留率很高，这是通过对重建数据进行分类来验证的。
2023-02-25 cs.LG
Concrete Autoencoders for Differentiable Feature Selection and Reconstruction
Stanford University（斯坦福大学）；Bogazici University（博阿齐奇大学）
我们介绍了具体的自动编码器，一个端到端的可区分的方法，全球特征选择，有效地确定了一个子集的最翔实的功能，同时学习神经网络重建输入数据从选定的功能。我们的方法是无监督的，是基于使用一个具体的选择器层作为编码器和使用一个标准的神经网络作为解码器。在训练阶段，混凝土选择器层的温度逐渐降低，这鼓励学习用户指定数量的离散特征。在测试时间期间，所选择的特征可以与解码器网络一起使用以重构剩余的输入特征。我们在各种数据集上评估了具体的自动编码器，它们在特征选择和数据重建方面明显优于最先进的方法。具体地，在大规模基因表达数据集上，具体自动编码器选择其表达水平可用于估算其余基因的表达水平的基因的小子集。在此过程中，它改进了目前广泛使用的专家策划的L1000标志性基因，可能将测量成本降低20%。具体的自动编码器可以通过向标准自动编码器添加几行代码来实现。
2019-01-31 cs.LG stat.ML
Convolutional autoencoders for the reconstruction of three-dimensional interfacial multiphase flows
Department of Mechanical Engineering, Stanford University（斯坦福大学机械工程系）；Department of Engineering Mechanics, KTH Royal Institute of Technology（皇家理工学院工程力学系）
本文研究了卷积自编码器在三维界面多相流重建中的应用，发现适度扩散的界面表示在精度与结构保留间取得最佳平衡。
2025-12-26 cs.CE cs.LG physics.flu-dyn
GraViti: Graph-Level Variational Autoencoders with Relaxed Permutation Invariance
Mohamed bin Zayed University of Artificial Intelligence（莫扎德·本·扎耶德人工智能大学）；LIX, CNRS, École Polytechnique, IP Paris（巴黎理工学院LIX实验室，法国国家科学研究中心，巴黎理工学院，IP巴黎）
GraViti通过图级变分自编码器生成紧凑的潜在向量，支持平滑插值和下游任务，优于节点级嵌入。
2026-10-06 cs.AI cs.LG
Knowledge-Guided Masked Autoencoder with Linear Spectral Mixing and Spectral-Angle-Aware Reconstruction
本文提出一种结合物理约束的知识引导掩码自编码器，通过线性光谱混合和光谱-角度感知重建提升模型的可解释性和泛化能力。
2026-02-10 cs.LG
Self-Reconstruction Dynamics for Autoencoder Reconstruction Refinement
本文提出自重建动力学（SRD）引导的重建精化方法，利用冻结自编码器的重复重建轨迹预测潜在修正，无需测试时优化，在六个数据集上恢复约40%的MSE差距并提升PSNR，证实了样本特异性精化信号的有效性。
2026-09-29 cs.LG
Audio Spectral Enhancement: Leveraging Autoencoders for Low Latency Reconstruction of Long, Lossy Audio Sequences
Thadomal Shahani Engineering College（塔多马尔沙哈尼工程学院）；Mumbai University（孟买大学）
随着对音频压缩技术的积极研究取得了实质性的突破，低质量音频波的频谱重建仍然是一个不太受欢迎的话题。在本文中，我们提出了一种新的方法来重建更高的频率从相当长的序列的低质量的MP3音频波。我们的技术涉及通过操纵与感知差异相关的各个幅度和相位值，使用剩余堆叠的自动编码器块来修复音频频谱图。我们的架构提出了几个瓶颈，同时通过跳过连接保留音频波的频谱结构。我们还比较了几个任务指标，并展示了我们的视觉指南损失选择。此外，我们展示了如何利用差分量化技术将初始模型大小减少一半以上，同时减少推理时间，这在现实世界的应用中至关重要。
2021-08-08 cs.LG cs.SD
Balancing reconstruction error and Kullback-Leibler divergence in Variational Autoencoders
University of Bologna（博洛尼亚大学）；Department of Informatics: Science and Engineering (DISI)（信息学系：科学与工程（DISI））
在变分自编码器的损失函数中，在两个分量之间存在众所周知的张力：重建损失，其提高所得图像的质量，以及Kullback-Leibler发散，其充当潜在空间的正则化器。正确地平衡这两个组成部分是一个微妙的问题，很容易导致不良的生成行为。在最近的工作中，戴和Wipf通过允许网络在训练期间根据合适的损失函数学习平衡因子来获得合理的改进。在这篇文章中，我们展示了学习可以被一个简单的确定性计算所取代，这有助于理解底层机制，并导致更快，更准确的行为。在Cifar和Celeba等典型数据集上，我们的技术明显优于所有以前的VAE架构。
2020-02-18 cs.LG cs.NE
TRACE: Reconstruction-Based Anomaly Detection in Ensemble and Time-Dependent Simulations
本文提出基于重建的异常检测方法，通过2D和3D自编码器在集成和时间依赖模拟中识别异常模式，强调时空上下文对动态模拟异常检测的重要性。
2026-01-13 cs.AI cs.CV cs.LG
Superposed Latent Autoencoder
University of California San Diego（加利福尼亚大学圣迭戈分校）；Georgia Institute of Technology（佐治亚理工学院）；University of California Riverside（加利福尼亚大学河滨分校）；San Diego State University（圣迭戈州立大学）
提出叠加式潜在自编码器（SLAE），通过学习叠加共享存储，在相同内存预算下改善重构-内存权衡，降低重构误差，还提升下游分类性能，为表示压缩提供新原则。
2026-09-02 cs.AI cs.LG
Multi-Signal Reconstruction Using Masked Autoencoder From EEG During Polysomnography
Korea University（高丽大学）
本研究提出基于掩码自编码器的系统，仅用单通道脑电即可重建多信号PSG，在Sleep-EDF-20数据集上验证了可行性，为便捷长期睡眠监测开辟了新途径。
2023-11-14 cs.AI cs.LG eess.SP
Improving Reconstruction Autoencoder Out-of-distribution Detection with Mahalanobis Distance
University of Waterloo（滑铁卢大学）
越来越明显地需要验证深度学习系统在自动驾驶汽车系统等安全关键应用中所做的分类。最近的一些论文提出了用于检测异常图像数据的方法，这些异常图像数据与已知的内点数据样本不同，包括基于重建的自动编码器。自动编码器优化输入数据到维度小于原始输入的潜在空间的压缩，并尝试使用该压缩表示来准确地重建输入。由于隐向量被优化以仅从内层类捕获显著特征，因此通常假设来自训练类外部的对象的图像不能被有效地压缩和重建。因此，有些人认为重建误差是一种新颖的衡量标准。在这里，我们建议，重建为基础的方法无法捕捉特定的异常，远离已知的内点样本在潜在空间，但附近的潜在维度流形定义的参数的模型。我们建议在潜在空间中加入Mahalanobis距离，以更好地捕获这些分布外的样本，我们的结果表明，这种方法通常比基线方法提高了性能。
2018-12-06 cs.LG stat.ML
Deep Clustering with a Dynamic Autoencoder: From Reconstruction towards Centroids Construction
National Engineering School of Tunis（突尼斯国立工程师学院）；University of Tunis El Manar（突尼斯埃尔马纳尔大学）；Ryerson University（瑞尔森大学）；Higher School of Communication of Tunis（突尼斯高等通信学院）；University of Carthage（迦太基大学）
在无监督学习中，没有明显的直接成本函数可以捕获变化和相似性的重要因素。由于自然系统具有平滑的动态特性，如果无监督的目标函数在训练过程中保持静态，则会失去机会。缺乏具体的监督表明，应该整合平稳的动态。与经典的静态成本函数相比，动态目标函数允许更好地利用通过伪监督获得的渐进和不确定的知识。在本文中，我们提出了动态自动编码器（DynAE），这是一种新的深度聚类模型，通过逐渐平滑地消除重建目标函数，以利于构建目标函数，从而克服了聚类-重建权衡。在基准数据集上的实验评估表明，与最相关的深度聚类方法相比，我们的方法实现了最先进的结果。
2020-01-02 cs.LG stat.ML
Is the reconstruction loss culprit? An attempt to outperform JEPA
本文通过线性动态系统对比了JEPA与重建自动编码器，发现自动编码器性能受目标不对称性和瓶颈效应影响，提出门控预测自动编码器以提升鲁棒性。
2026-03-14 cs.LG
Reconstruction of Fragmented Trajectories of Collective Motion using Hadamard Deep Autoencoders
Texas A&M University–Corpus Christi（德州农工大学科珀斯克里斯蒂分校）；Worcester Polytechnic Institute（伍斯特理工学院）；Colorado State University（科罗拉多州立大学）
集体移动的代理，如鱼或人类的学习动力学是一个活跃的研究领域。由于诸如遮挡和照明变化的自然现象，跟踪这种动态的多对象方法可能会失去对代理的跟踪，这可能导致所构建的轨迹中的碎片。在这里，我们提出了一个扩展的深度自动编码器（DA），我们训练只在完全观察到的轨迹段，通过定义其损失函数作为一个二进制指标矩阵与输出和标签之间的绝对差的Hadamard产品。由于代理之间的相互作用和依赖性，我们将其用作Hadamard深度自动编码器（HDA）在训练期间编码的底层模式，因此练习集体运动的代理的轨迹是低秩的。我们的HDA的性能进行了比较与低秩矩阵完成计划的背景下，碎片化的轨迹重建。
2021-10-20 cs.LG math.OC
Rank Ordered Autoencoders
提出并实现了一种利用自编码器对稀疏表示进行无监督学习的新方法，该方法将隐层单元的输出按其激活值排序，并按此顺序逐步重构输入。这可以与使用累积和和排序并行有效地完成，仅略微增加计算成本。最小化该渐进重构相对于输入的差异可以被看作是最小化重构输入所需的活动输出单元的数量。因此，模型学习使用最少数量的活动输出单元进行最佳重建。这导致了高稀疏性，而不需要额外的超参数，稀疏性的量是通过最小化这种渐进的重建误差来隐式学习的。针对CIFAR10数据集的补丁给出了训练模型的结果，显示了特征的快速收敛和极其稀疏的输出激活，同时保持了最小的重建误差，并显示了对过拟合的极端鲁棒性。此外，呈现了作为活动单元的数量的函数的重构，其示出了自动编码器在输入上学习等级顺序码，其中最高等级的单元对应于重构误差的最高降低。
2016-05-05 cs.LG stat.ML
Adaptive sampling using variational autoencoder and reinforcement learning
Department of Engineering Cybernetics, Norwegian University of Science and Technology（工程 cybernetics 系，挪威科学与技术大学）；Department of Engineering Sciences, University of Agder（工程科学系，阿格德大学）
本文提出结合变分自编码器和强化学习的自适应稀疏感知框架，通过顺序选择测量提升稀疏采样效率和重建质量。
2025-12-03 cs.LG
Learning disentangled representations with the Wasserstein Autoencoder
University College London（伦敦大学学院）；Faculty（学院）
无纠缠表征学习无疑受益于目标函数手术。然而，为了在重建保真度与解纠缠之间进行权衡，仍然需要微妙的调谐平衡行为。在以前成功惩罚潜变量中的总相关性的基础上，我们提出了TCWAE（总相关性Wasserstein自动编码器）。在WAE范式中工作自然能够分离总相关项，从而提供对学习表示的解纠缠控制，同时在选择重建成本时提供更大的灵活性。我们提出了两种使用不同KL估计的变体，并对具有已知生成因子的数据集进行了广泛的定量比较，显示了相对于最先进技术的竞争结果。我们进一步研究了在具有未知生成因素的更困难的数据集上的解纠缠和重建之间的权衡，其中WAE范式在重建方面的灵活性提高了重建。
2020-10-07 cs.CV cs.LG stat.ML
Face Reconstruction with Variational Autoencoder and Face Masks
Federal University of Santa Catarina (UFSC)（圣卡塔琳娜联邦大学）
变分自编码器（VAE）采用深度学习模型来学习服从于高维观测数据集的连续潜在z空间。有了它，许多任务成为可能，包括人脸重建和人脸合成。在这项工作中，我们研究了如何通过将学习限制在面罩选择的像素上，来帮助训练用于面部重建的VAE。使用celebA数据集的建议的评估表明，重建的图像与面罩增强，特别是当SSIM损失与l1或l2损失函数使用。我们注意到，在架构中包含用于面部掩模预测的解码器会影响l1或l2损失函数的性能，而SSIM损失的情况并非如此。此外，SSIM感知损失在所有测试的假设之间产生了最清晰的样本，尽管它改变了图像的原始颜色，使得l1或l2损失与SSIM一起使用有助于解决这个问题。
2021-12-03 cs.CV cs.LG
Probabilistic Autoencoder
Berkeley Center for Cosmological Physics（伯克利宇宙物理中心）；University of California（加利福尼亚大学）；Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）
主成分分析（PCA）最小化给定的一类线性模型的固定分量维数的重建误差。概率PCA通过学习PCA潜在空间权重的概率分布来添加概率结构，从而创建生成模型。自编码器（AE）在一类固定潜在空间维数的非线性模型中最小化重建误差，并在固定维数下优于PCA。在这里，我们介绍了概率自动编码器（PAE），它使用归一化流（NF）学习AE潜在空间权重的概率分布。PAE快速且易于训练，并且在下游任务中实现小的重建误差、高样本质量和良好的性能。我们比较PAE变分AE（VAE），表明PAE训练速度更快，达到较低的重建误差，并产生良好的样本质量，而不需要特殊的调整参数或训练过程。我们进一步证明了PAE是一个强大的模型，用于在修复和去噪应用的逆问题的贝叶斯推理的背景下执行概率图像重建的下游任务。最后，我们确定潜在的空间密度从NF作为一个有前途的离群值检测度量。
2022-09-19 cs.LG stat.ML
Improving Content-Invariance in Gated Autoencoders for 2D and 3D Object Rotation
Austrian Research Institute for Artificial Intelligence（奥地利人工智能研究院）；Johannes Kepler University（约翰内斯·开普勒大学）
GAE学习的映射代码的内容不变性是各种关系学习任务的有用特征。在本文中，我们表明，内容不变性的映射代码的图像的2D和3D旋转的对象，可以大大提高延长标准的GAE损失（对称重建误差）的正则化项，惩罚对称交叉重建误差。这个误差项涉及到用从表现出类似变换的其他对获得的映射码来重建对。虽然这主要需要训练对所表现出的变换的知识，但我们的实验表明，自举方法可以回避这个问题，并且正则化项可以有效地用于无监督设置。
2017-07-05 cs.AI cs.CV cs.LG
Boosted ab initio Cryo-EM 3D Reconstruction with ACE-EM
DP Technology, Ltd.（深势科技有限公司）；Peking University（北京大学）
冷冻电子显微镜（cryo-EM）的核心问题是从噪声2D投影图像中恢复3D结构，这需要估计丢失的投影角度（姿态）。最近的方法试图用自动编码器架构来解决3D重建问题，该架构遭受潜在向量空间采样问题，并且经常产生次优姿态推断和劣质3D重建。在这里，我们提出了一种改进的自动编码器架构称为ACE（非对称互补autoEncoder），在此基础上，我们设计了ACE-EM方法的冷冻EM三维重建。与以前的方法相比，ACE-EM在相同的训练时间内达到了更高的姿态空间覆盖率，并且无论解码器的选择如何，都提高了重建性能。用这种方法，模拟和实验cryo-EM数据集的3D重建达到奈奎斯特分辨率（最高可能的分辨率）。此外，ACE-EM是唯一达到奈奎斯特分辨率的摊销推理方法。
2023-02-14 cs.AI cs.CV cs.LG
Sharp Reconstruction Bounds for Autoencoders Using the Same Forward Map
New York City College of Technology, CUNY（纽约城市大学纽约市立科技学院）；The Graduate Center, CUNY（纽约城市大学研究生中心）；Worcester Polytechnic Institute（伍斯特理工学院）
该研究针对自编码器重构问题，证明了在相同前向映射下最小一致重构导数误差的锐利界，并通过大规模激光雷达数据验证了理论预测的有效性。
2026-09-18 cs.LG math.DS
Detecting Changes in Asset Co-Movement Using the Autoencoder Reconstruction Ratio
University of Oxford（牛津大学）
检测资产协同运动的变化对金融从业者来说非常重要，及时检测历史相关性的故障会带来许多风险管理好处。在本文中，我们提出了一个实时指标来检测资产协同运动的临时增加，即自动编码器重建比率，它衡量了使用低维潜变量集对一篮子资产回报进行建模的效果。ARR使用深度稀疏去噪自动编码器对返回向量进行降维，取代了标准吸收比的PCA方法，为非高斯返回提供了更好的模型。通过对CRSP美国总市场指数预测的系统性风险应用，我们发现较低的ARR值与较高的波动性和较大的提取相一致，表明资产协同运动的增加确实与市场疲软时期相对应。我们还表明，短期（即5分钟和1小时）预测实现波动和市场崩溃，可以改善包括额外的ARR输入。
2020-09-27 cs.LG q-fin.PM q-fin.ST
Hierarchical Residual Learning Based Vector Quantized Variational Autoencoder for Image Reconstruction and Generation
Monash University（莫纳什大学）；KTH Royal Institute of Technology（KTH皇家理工学院）
我们提出了一种多层变分自编码器方法，我们称之为HR-VQVAE，它学习数据的分层离散表示。通过利用一种新的目标函数，在HR-VQVAE中的每一层通过矢量量化编码器从先前的层学习残差的离散表示。此外，每一层的表示都与前一层的表示分层链接。我们评估我们的方法的图像重建和生成的任务。实验结果表明，HR-VQVAE学习的离散表示使解码器能够重建高质量的图像，失真比基线方法，即VQVAE和VQVAE-2。HR-VQVAE还可以生成高质量和多样化的图像，这些图像的性能优于最先进的生成模型，从而进一步验证了学习表示的效率。HR-VQVAE的分层性质i）减少了解码搜索时间，使得该方法特别适用于高负载任务，以及ii）允许增加码本大小而不会引起码本崩溃问题。
2022-08-09 cs.CV cs.LG
Anomaly Detection via Autoencoder Composite Features and NCE
Department of Electrical and Computer Engineering（电气与计算机工程系）；University of Delaware（德雷克大学）；Department of Computer and Information Sciences（计算机与信息科学系）
针对自编码器易对异常输入产生低重构误差的问题，提出结合自编码器复合特征与NCE的解耦异常检测方法，通过特征扩充和噪声分布优化降低假阴性率，性能达主流SOTA水平。
2026-10-28 cs.LG
Radar Image Reconstruction from Raw ADC Data using Parametric Variational Autoencoder with Domain Adaptation
Infineon Technologies AG（英飞凌科技股份公司）；Friedrich-Alexander-University Erlangen-Nuremberg（埃尔朗根-纽伦堡弗里德里希-亚历山大大学）
本文提出了一种基于参数化变分自编码器的人体目标检测和定位框架，该框架直接与来自调频连续波雷达的原始模数转换器数据一起工作。我们提出了一个参数约束的变分自编码器，残差和跳过连接，能够产生的距离角图像上的聚类和本地化的目标检测。此外，为了规避训练所提出的神经网络在所有可能的情况下，使用真实的雷达数据的问题，我们提出了领域自适应策略，我们首先训练的神经网络使用基于光线追踪的模型数据，然后适应网络工作在真实的传感器数据。该策略确保了所提出的神经网络具有更好的泛化性和可扩展性，即使它是用有限的雷达数据训练的。与传统的信号处理管道和早期最先进的深度U-Net架构相比，我们展示了我们提出的解决方案的卓越检测和定位性能，并将距离多普勒图像作为输入
2022-05-30 cs.CV cs.LG
AutoEncoder by Forest
Nanjing University（南京大学）
自动编码是一项重要的任务，通常由诸如卷积神经网络（CNN）之类的深度神经网络（DNN）来实现。在本文中，我们提出了编码森林（abbrv. eForest），第一个基于树集成的自动编码器。我们提出了一个程序，使森林做向后重建，利用等价类定义的决策路径的树，并证明其使用在监督和无监督设置。实验结果表明，与DNN自编码器相比，eForest能够获得更低的重建误差，训练速度更快，同时模型本身具有可重用性和可容忍损坏性。
2017-09-26 cs.LG stat.ML
Decoder-Preserving Sparse Autoencoders: Which Readouts Survive Sparse Compression?
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
研究稀疏自编码器中哪些读出能在稀疏压缩中幸存的问题，核心方法是将最优岭预测算子间的矩阵值失真与重建损失结合训练解码器保留SAEs，主要贡献为得出重建质量不能决定读出幸存情况等结论。
2026-09-15 cs.LG
DSLR: Dynamic to Static LiDAR Scan Reconstruction Using Adversarially Trained Autoencoder
Indian Institute of Science（印度科学研究所）；AMIDC Pvt Ltd（AMIDC私人有限公司）；Chennai Mathematical Institute（钦奈数学研究所）
从包含动态对象的场景的LiDAR扫描中精确重建静态环境，我们称之为动态到静态转换（DST），是自主导航研究的一个重要领域。最近已经针对视觉SLAM探索了这个问题，但是据我们所知，还没有工作试图解决用于LiDAR扫描的DST。由于LiDAR在自动驾驶汽车中的广泛采用，这个问题至关重要。我们表明，最先进的方法开发的视觉域时，适用于激光雷达扫描表现不佳。我们开发了DSLR，这是一种深度生成模型，它通过一个经过逆向训练的自动编码器来学习动态扫描与静态扫描之间的映射。我们的模型产生了第一个在LiDAR上进行DST的解决方案，该解决方案在不使用显式分割标签的情况下生成静态扫描。由于缺乏成对的动态-静态扫描，DSLR并不总是适用于真实世界的数据。使用无监督领域自适应，我们提出了DSLR-UDA转移到现实世界的数据和实验表明，这在现实世界的设置表现良好。此外，如果分割信息可用，我们将DSLR扩展到DSLR-Seg以进一步提高重建质量。DSLR在模拟和真实世界的数据集上提供了最先进的性能，并且还显示出至少4倍的改进。我们表明，DSLR，不像现有的基线，是一个实际可行的模型，其重建质量在可容忍的范围内的自主导航，如SLAM在动态环境中的任务。
2021-05-26 cs.AI cs.CV cs.LG
PAC-Bayesian Reconstruction Guarantees for Time Series Variational Autoencoders
LPSM, Sorbonne Université（索邦大学 LPSM）；EDF R&D（法国电力集团研发部）；University College London（伦敦大学学院）；Inria（法国国家信息与自动化研究所）
本研究针对时间序列变分自编码器泛化保证有限的问题，开发了适用于马尔可夫隐变量结构的PAC-贝叶斯框架，该框架的保证不随轨迹长度增长，且所需假设限制较小。
2026-09-07 cs.LG stat.ML
Scaling Speech Tokenizers with Diffusion Autoencoders
Meta Superintelligence Labs（Meta超智能实验室）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））
本文提出SiTok，一种基于扩散自编码器的语音标记器，通过监督学习实现语义丰富的表示，并在低token率和比特率下实现高保真音频重建。
2026-02-06 cs.AI cs.LG cs.SD
Kernel-Elastic Autoencoder for Molecular Design
Yale University（耶鲁大学）
提出基于transformer的核弹性自编码器KAE，通过修改最大均值差异和加权重构损失，实现高质量分子生成与重构，在受限优化和对接任务中达到SOTA。
2024-03-23 cs.LG
Context-encoding Variational Autoencoder for Unsupervised Anomaly Detection
German Cancer Research Center (DKFZ)（德国癌症研究中心（DKFZ））
无监督学习可以利用大规模数据源，而无需注释。在这种背景下，基于深度学习的自动编码器在检测医学图像中的异常方面显示出巨大的潜力。然而，国家的最先进的异常分数仍然是基于重建错误，这缺乏在两个重要部分：它忽略了模型内部表示重建，它缺乏正式的断言和样本之间的可比性。我们通过提出上下文编码变分自编码器（ceVAE）来解决这些缺点，该上下文编码器将重建与基于密度的异常评分相结合。这改善了样本以及像素方面的结果。在我们对BraTS-2017和ISLES-2015分割基准的实验中，ceVAE分别实现了0.95和0.89的无监督ROC-AUC，从而大大优于最先进的方法。
2018-12-14 cs.LG stat.ML
Man-recon: manifold learning for reconstruction with deep autoencoder for smart seismic interpretation
Georgia Institute of Technology（佐治亚理工学院）
如果提供足够量的标记训练数据，深度学习可以提取丰富的数据表示。然而，对于许多任务，注释数据在时间和金钱方面具有显著成本，这是由于所需的高标准的主题专业知识，例如在医学和地球物理图像判读任务中。主动学习可以为口译员识别出信息量最大的训练样本进行训练，从而提高效率。我们提出了一个主动学习方法的基础上联合学习表示监督和无监督的任务。学习的流形结构稍后被用于从无监督任务上的错误配置文件中识别与学习的流形最不相似的信息训练样本。我们验证了所提出的方法在荷兰F3区块调查的地震相分割数据集上的效率，显着优于当代方法，以实现最高的平均相交超过工会值0.773。
2022-12-15 cs.LG eess.IV
Enhancing Distance-Based Graph Autoencoders with Structural Penalties for Dynamic Graph Embedding
University of Novi Sad（诺威萨大学）
该研究针对动态图嵌入中图自编码器未考虑节点结构异质性的问题，提出含NC-LID正则化等的三种基于距离的GAE变体，经多数据集实验证实其可提升重构性能。
2026-10-07 cs.ET cs.LG
Extreme Image Coding via Multiscale Autoencoders With Generative Adversarial Optimization
Nanjing University（南京大学）
我们提出了一种基于多尺度自动编码器（MSAE）的极端图像压缩框架，以提供视觉上令人愉快的重建在一个非常低的比特率。我们的方法利用不同分辨率尺度下的“先验”来提高压缩效率，并采用具有多尺度鉴别器的生成对抗网络（GAN）来执行端到端的可训练率失真优化。我们比较了感知质量的重建与传统的压缩算法，使用高效视频编码（HEVC）的帧内配置文件和JPEG 2000的公共城市景观和ADE 20 K数据集，展示了显着的主观质量的改善。
2020-01-03 cs.LG eess.IV
CuMoLoS-MAE: A Masked Autoencoder for Remote Sensing Data Reconstruction
Courant Institute of Mathematical Sciences, New York University（纽约大学Courant数学科学研究所）
CuMoLoS-MAE通过课程引导的蒙特卡洛随机集合屏蔽自动编码器，实现遥感数据的细尺度特征恢复和像素级不确定性量化，提升对流诊断与气候再分析精度。
2026-01-14 cs.LG physics.ao-ph
