Comparison of Autoencoder Encodings for ECG Representation in Downstream Prediction Tasks
University of Kansas Medical Center(堪萨斯大学医学中心);University of Kansas(堪萨斯大学)
本研究针对ECG信号复杂度高、小样本下深度学习应用难的问题,提出三种新型VAE变体,其编码在信号重建与下游LVEF降低预测上表现优异,可媲美最优CNN且资源需求更低,为小样本场景提供实用方案。
2024-10-29 cs.LG eess.SP
ECG Latent Feature Extraction with Autoencoders for Downstream Prediction Tasks
Department of Cardiovascular Medicine, The University of Kansas Medical Center(心血管医学系,堪萨斯医学院);Department of Electrical Engineering and Computer Science, The University of Kansas(电气工程与计算机科学系,堪萨斯大学)
针对ECG信号复杂、小数据集下深度学习应用难的问题,提出三种新型VAE变体提取潜在特征,结合LGBM实现了接近最优CNN的预测性能,且计算资源需求更低、小数据下不易过拟合。
2025-07-31 cs.LG
Graph Autoencoder-Based Unsupervised Feature Selection with Broad and Local Data Structure Preservation
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
特征选择是一种降维技术,通过消除不相关和冗余的特征,从高维数据中选择代表性特征的子集。近年来,结合稀疏学习的特征选择方法因其相对于传统的忽略特征间相关性的特征选择方法的优异性能而受到广泛关注。这些工作首先将数据映射到一个低维子空间,然后通过对变换矩阵施加稀疏约束来选择特征。然而,它们被设计限制为线性数据变换,这是一个潜在的缺点,因为数据的底层相关结构通常是非线性的。为了利用更复杂的嵌入,我们提出了一种基于自动编码器的无监督特征选择方法,该方法利用单层自动编码器来实现特征选择和流形学习的联合框架。更具体地说,我们在连接输入层和隐藏层的权重矩阵上强制执行列稀疏性,就像以前的工作一样。此外,我们将投影数据的谱图分析纳入学习过程,以实现从原始数据空间到低维特征空间的局部数据几何保持。对图像、音频、文本和生物数据进行了广泛的实验。实验结果验证了该方法的优越性。
2018-04-21 cs.CV cs.LG stat.ML
Using Decision Tree as Local Interpretable Model in Autoencoder-based LIME
Amirkabir University of Technology(阿米尔卡比尔理工大学);Persian Gulf University(波斯湾大学)
如今,深度神经网络由于其高精度的结果而被用于许多领域。然而,它们被认为是“黑匣子”,意味着它们对人类来说是无法解释的。另一方面,在医疗、经济和自动驾驶汽车等任务中,用户希望模型具有可解释性,以决定他们是否可以信任这些结果。在这项工作中,我们提出了一个修改后的版本的自动编码器为基础的方法,称为ALIME的本地可解释性。ALIME本身的灵感来自于一个著名的方法,称为局部可解释模型不可知解释(LIME)。LIME通过在实例周围生成新数据并训练局部线性可解释模型来生成单个实例级解释。ALIME使用自动编码器来衡量样本周围的新数据。然而,ALIME使用线性模型作为本地训练的可解释模型,就像LIME一样。本文提出了一种新的方法,它使用一个决策树代替线性模型,作为可解释的模型。我们评估所提出的模型的情况下,稳定性,局部保真度和可解释性不同的数据集。实验结果表明,与ALIME相比,该算法在稳定性和局部保真度方面有显著的提高,在可解释性方面有明显的改善。
2022-04-07 cs.LG
Spacetime Autoencoders Using Local Causal States
University of California Davis(加利福尼亚大学戴维斯分校)
局部因果状态是捕捉复杂时空系统中有组织的模式和结构的潜在表征。我们扩展了它们的功能,将它们构建为时空自动编码器。以前,它们只被认为是从可观测时空场到潜在局域因果态场的映射。在这里,我们表明,有一个随机解码,从潜在的字段映射回可观察的字段。此外,他们的马尔可夫性质定义了一个随机动态的潜在空间。结合随机译码,给出了一种新的时空场预测方法。
2020-10-12 cs.LG nlin.AO physics.comp-ph
Graph Regularized Autoencoder and its Application in Unsupervised Anomaly Detection
Texas A&M University(德克萨斯农工大学);BAE Systems, Inc.(BAE系统公司)
对于包括异常检测和聚类在内的许多无监督学习任务来说,先验性降低是至关重要的第一步。自动编码器是一种流行的降维机制。为了对嵌入非线性低维流形的高维数据进行有效的降维,需要使用某种测地距离度量来区分数据样本。受测地线距离近似器(如ISOMAP)的成功启发,我们提出使用最小生成树(MST),一种基于图的算法,来近似局部邻域结构并生成数据点之间的结构保持距离。我们使用这种基于MST的距离度量来取代自编码器嵌入函数中的欧氏距离度量,并开发了一种新的图形正则化自编码器,该编码器在20个基准异常检测数据集上优于各种替代方法。我们进一步将MST正则化器纳入两个生成对抗网络,并发现使用MST正则化器大大提高了两个生成对抗网络的异常检测性能。我们还在聚类应用程序中的两个数据集上测试了我们的MST正则化自动编码器,并见证了其卓越的性能。
2021-03-11 cs.LG stat.ML
Autoencoder Image Interpolation by Shaping the Latent Space
School of Computer Science(计算机科学学院);The Interdisciplinary Center, Herzliya(赫兹利亚跨学科中心)
自动编码器代表了一种有效的方法,用于计算表征不同类型数据集的潜在因素。自动编码器的潜在表示已经在通过解码潜在向量的凸组合来实现数据点之间的插值的上下文中进行了研究。然而,这种插值通常会导致伪影或在重建过程中产生不切实际的结果。我们认为,这些不一致是由于潜在空间的结构,因为这种天真的插值潜在向量偏离数据流形。在本文中,我们提出了一种正则化技术,该技术将潜在表示塑造为遵循与训练图像一致的流形,并使流形平滑和局部凸。这种正则化不仅能够在数据点之间进行忠实的插值,正如我们在这里所展示的,而且还可以用作一般的正则化技术,以避免过拟合或产生用于数据增强的新样本。
2020-10-22 cs.LG stat.ML
Local Collaborative Autoencoders
Sungkyunkwan University(成均馆大学);Google Research(谷歌研究院)
Top-N推荐是一个具有挑战性的问题,因为复杂和稀疏的用户-项目交互应该得到充分的解决,以实现高质量的推荐结果。本地潜在因素的方法已成功地用于多个本地模型,以捕捉不同的用户偏好与不同的子社区。然而,以前的研究没有充分发掘当地模式的潜力,并未能确定许多小的和连贯的子社区。在本文中,我们提出了本地协作自动编码器(LOCA),一个广义的本地潜在因素框架。具体而言,LOCA在训练和推理阶段采用不同的邻域范围。此外,LOCA使用了一种新的子社区发现方法,最大限度地提高了覆盖率的联盟的本地模型,并采用了大量的不同的本地模型。通过采用自动编码器作为基础模型,LOCA捕获了潜在的非线性模式,这些模式代表了子社区中有意义的用户-项目交互。实验结果表明,LOCA是可扩展的,在几个公共基准测试中,LOCA的查全率和NDCG的查全率分别为2.99%~4.70%和1.02%~7.95%。
2021-03-30 cs.IR cs.LG
Variational Autoencoders Pursue PCA Directions (by Accident)
Max-Planck-Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
变分自编码器(VAE)是一种能够进行表示学习和生成式建模的强大架构。当涉及到学习可解释(解纠缠)表示时,VAE及其变体表现出无与伦比的性能。然而,其原因尚不清楚,因为需要非常特定的潜在嵌入对齐,但VAE的设计并不以任何明确的方式鼓励它。我们解决这个问题,并提供以下解释:在编码器中的对角线近似加上固有的随机性力本地正交的解码器。促进重建和正交性的局部行为与PCA嵌入的选择密切匹配。除了提供一个直观的理解,我们证明了充分的理论分析以及实验的声明。
2019-04-16 cs.CV cs.LG stat.ML
Multi-Scale Geometric Autoencoder
针对自动编码器难以同时保留全局与局部几何结构的问题,提出非对称MAE,通过编码器全局距离约束和解码器局部几何约束实现多尺度保持,并经理论与实验验证其优势。
2025-09-29 cs.LG
Semi-Amortized Variational Autoencoders
Harvard University(哈佛大学);Massachusetts Institute of Technology(麻省理工学院)
摊销变分推断(AVI)用全局推理网络代替特定于实例的局部推理。虽然AVI已经实现了深度生成模型(如变分自编码器(VAE))的有效训练,但最近的经验研究表明,推理网络可能会产生次优的变分参数。我们提出了一种混合的方法,使用AVI初始化变分参数和运行随机变分推断(SVI)来完善它们。最重要的是,局部SVI过程本身是可微的,因此推理网络和生成模型可以通过基于梯度的优化进行端到端的训练。这种半摊销方法可以使用丰富的生成模型,而不会遇到在训练VAE时常见的后崩溃现象,例如文本生成。实验表明,该方法在标准文本和图像数据集上的性能优于强自回归和变分基线。
2018-07-23 cs.CL cs.LG stat.ML
AEGR: A simple approach to gradient reversal in autoencoders for network anomaly detection
异常检测是指一个过程,其目的是检测遵循与大多数数据点不同模式的数据点。异常检测方法受到几个众所周知的挑战,阻碍了他们的性能,如高维。自动编码器是无监督的神经网络,用于降低维数,并检测大型数据集中的网络异常。当训练集包含噪声和异常时,自动编码器的性能会减弱。本文提出了一种新的梯度反转方法,以克服异常对训练阶段的影响,以检测网络异常。该方法与其他方法不同,因为它不需要无异常的训练集,并且基于重建误差。一旦从网络中提取出潜在变量,就可以使用局部离群值因子将正常数据点与异常数据点分开。还添加了简单的修剪方法和数据增强以进一步提高性能。实验结果表明,该模型的性能优于其他众所周知的方法。
2020-02-28 cs.LG stat.ML
Constrained Graph Variational Autoencoders for Molecule Design
Singapore University of Technology and Design(新加坡科技设计大学);Microsoft Research, Cambridge(微软研究院剑桥分院)
图是用于表示实体之间的交互的普遍存在的数据结构。重点是使用图形来表示化学分子,我们探讨了学习生成符合训练数据中观察到的分布的图形的任务。我们提出了一个变分自编码器模型,其中编码器和解码器都是图结构的。我们的解码器假设图扩展步骤的顺序排序,我们讨论和分析设计选择,减轻这种线性化的潜在缺点。实验将我们的方法与分子生成任务的广泛基线进行了比较,并表明我们的方法在语义重要指标上匹配原始数据集的统计数据方面更成功。此外,我们表明,通过使用适当的潜在空间形状,我们的模型使我们能够设计出在所需性质上(局部)最佳的分子。
2019-03-07 cs.LG stat.ML
Local-Order Auxiliary Losses Can Improve Autoencoder Reconstruction
Kahlert School of Computing(卡勒特计算学院);University of Utah(犹他大学);Texas State University(德克萨斯州立大学)
本文研究了局部顺序辅助损失在自动编码器中的作用,发现其能有效降低验证MSE,尤其在空间有序性强的场景中效果更佳。
2026-05-07 cs.LG
Generalizing Variational Autoencoders with Hierarchical Empirical Bayes
Brown University(布朗大学)
变分自动编码器(VAE)最近通过使用不需要对超参数进行重大微调的简单架构,成功地作为数据生成模型。然而,已知VAE遭受过度正则化,这可能导致无法逃脱局部最大值。这种现象被称为后崩溃,阻止学习数据的有意义的潜在编码。最近的方法已经缓解了这个问题,确定性矩匹配的聚合后验分布的聚合前。然而,放弃概率框架(从而依赖于点估计)可能会导致不连续的潜在空间并生成不切实际的样本。在这里,我们提出了分层经验贝叶斯自动编码器(HEBAE),概率生成模型的计算稳定框架。我们的主要贡献有两个方面。首先,我们通过在编码分布上放置分层先验来获得收益,使我们能够自适应地平衡最小化重建损失函数和避免过度正则化之间的权衡。其次,我们表明,假设一个一般的依赖结构变量之间的潜在空间产生更好的收敛到平均场假设,以改善后验推理。总的来说,HEBAE比类似的VAE对广泛的超参数初始化更鲁棒。使用来自MNIST和CelebA的数据,我们说明了HEBAE基于FID分数生成比现有基于自动编码器的方法更高质量的样本的能力。
2020-07-20 cs.LG stat.ML
Hybrid Variational Autoencoder for Time Series Forecasting
Deakin University(迪肯大学);University of New South Wales(新南威尔士大学);Qilu University of Technology (Shandong Academy of Sciences)(齐鲁工业大学(山东省科学院))
提出混合变分自编码器(HyVAE),通过变分推断联合学习时间序列的局部模式与时间动态,在四个真实数据集上优于对比方法和仅学习单一方面的变体。
2023-03-13 cs.LG
A Convolutional Autoencoder for Multi-Subject fMRI Data Aggregation
Princeton University(普林斯顿大学);Intel Labs(英特尔实验室);Princeton Neuroscience Institute(普林斯顿神经科学研究所)
寻找最有效的方法来聚合多学科的功能磁共振成像数据是一个长期存在的和具有挑战性的问题。由于每个受试者的数据稀缺以及大脑解剖结构和功能反应在受试者之间的差异性,它在当代人类认知的fMRI研究中越来越受到关注。最近的潜在因素模型的工作表明,在这项任务中有希望的结果,但这种方法并不保留在大脑中的空间局部性。我们研究了两种方法相结合的因素模型和探照灯为基础的分析,以聚合多学科的功能磁共振成像数据,同时保持空间局部性的想法。首先,我们直接将最近的因子方法(称为共享响应模型)与探照灯分析相结合。然后,我们设计了一个多视图卷积自动编码器相同的任务。这两种方法都保留了空间局部性,与标准探照灯分析和应用于整个大脑的共享响应模型相比,具有竞争力或更好的性能。我们还报告了一个系统设计,以处理训练卷积自动编码器的计算挑战。
2016-08-17 cs.AI cs.CV cs.LG
Thinner Latent Spaces: Detecting Dimension and Imposing Invariance with Conformal Autoencoders
Johns Hopkins University(约翰霍普金斯大学);Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
提出共形自编码器架构,通过潜在变量梯度的正交性条件推断非线性流形数据的内在维度并计算编解码映射,同时可构建对局部群作用的坐标不变性。
2025-07-11 cs.LG math.DG stat.ML
Natural representation of composite data with replicated autoencoders
Politecnico di Torino(都灵理工大学);Bocconi University(博科尼大学)
生物学和其他领域的生成过程经常产生可以被视为由基本特征组合而成的数据。在这里,我们提出了一种基于自动编码器的无监督方法,用于推断数据的这些基本特征。我们的方法的主要新颖之处在于,训练是基于“局部熵”的优化,而不是标准损失,从而产生更强大的推理,并大大提高了这种类型的数据的性能。在数学上,这是通过训练复制的自动编码器的交互系统来实现的。我们将这种方法应用于合成和蛋白质序列数据,并表明它能够推断出一个隐藏的表示,以及相关的基本生成过程,而不需要任何先验知识。
2019-09-29 cs.LG q-bio.QM stat.ML
wav2pos: Sound Source Localization using Masked Autoencoders
Lund University(隆德大学);Arm(安谋科技);Sony(索尼);Tenstorrent
提出将3D声源定位建模为集合到集合回归,用多模态掩码自编码器处理音频和麦克风坐标,重建掩码坐标实现定位,支持任意麦克风数量及缺失数据,在模拟和真实室内录音上表现优异。
2024-08-28 cs.LG cs.SD eess.AS
DenoMAE2.0: Improving Denoising Masked Autoencoders by Classifying Local Patches
DenoMAE2.0通过结合局部补丁分类与重建损失,改进去噪掩码自编码器,在无线通信低数据高噪声场景下,显著提升去噪质量与调制信号分类准确率。
2025-02-25 cs.AI cs.LG
Multivariate Standardized Residuals for Conformal Prediction
Sierra team, Inria Paris, France(Inria巴黎分部)
本文提出多元标准化残差方法,通过白化残差解耦输出相关性并标准化局部方差,从而提升置信预测的条件覆盖性能。
2026-05-07 cs.AI cs.LG stat.ME
L2G2G: a Scalable Local-to-Global Network Embedding with Graph Autoencoders
University of Cambridge(剑桥大学);University of Oxford(牛津大学);The Alan Turing Institute(艾伦·图灵研究所);University of Glasgow(格拉斯哥大学)
针对图自编码器可扩展性差的问题,提出动态同步潜在节点表示的L2G2G方法,在保持可扩展性的同时提升准确率,在大型稠密网络上甚至优于速度慢但精度高的传统GAE。
2024-02-02 cs.AI cs.LG cs.SI
Radar Image Reconstruction from Raw ADC Data using Parametric Variational Autoencoder with Domain Adaptation
Infineon Technologies AG(英飞凌科技股份公司);Friedrich-Alexander-University Erlangen-Nuremberg(埃尔朗根-纽伦堡弗里德里希-亚历山大大学)
本文提出了一种基于参数化变分自编码器的人体目标检测和定位框架,该框架直接与来自调频连续波雷达的原始模数转换器数据一起工作。我们提出了一个参数约束的变分自编码器,残差和跳过连接,能够产生的距离角图像上的聚类和本地化的目标检测。此外,为了规避训练所提出的神经网络在所有可能的情况下,使用真实的雷达数据的问题,我们提出了领域自适应策略,我们首先训练的神经网络使用基于光线追踪的模型数据,然后适应网络工作在真实的传感器数据。该策略确保了所提出的神经网络具有更好的泛化性和可扩展性,即使它是用有限的雷达数据训练的。与传统的信号处理管道和早期最先进的深度U-Net架构相比,我们展示了我们提出的解决方案的卓越检测和定位性能,并将距离多普勒图像作为输入
2022-05-30 cs.CV cs.LG
Sparse Koopman Autoencoders Identify Local Dynamical Regimes in Multibasin Systems
Chandar Research Lab(钱达尔研究实验室);Mila – Quebec AI Institute(米拉-魁北克人工智能研究所);Université de Montréal(蒙特利尔大学);University of Pennsylvania(宾夕法尼亚大学);NVIDIA(英伟达);Polytechnique Montréal(蒙特利尔理工学院)
该研究提出稀疏Koopman自编码器(SKAEs),无需标签即可识别多盆系统的局部动力学 regime,其预测性能优于密隐KAEs,且隐支撑可有效识别吸引盆。
2026-11-04 cs.LG math.DS
Randomly initialized autoencoders: fixed points and edge-of-chaos
本文研究随机初始化自编码器的不动点问题,引入针对自编码器的局部与全局混沌边缘概念,结合随机矩阵理论与高斯过程不等式开展分析,为自编码器的稳定性研究提供理论支撑。
2026-08-18 cs.LG math.PR math.ST
Transformer autoencoder with local attention for sparse and irregular time series with application on risk estimation
本文提出了一种针对稀疏不规则时间序列的风险估计框架,结合Transformer自编码器与局部注意力机制,有效捕捉稀疏数据中的相关模式,提升风险估计的准确性和鲁棒性。
2026-05-09 cs.AI cs.LG
Quantised Global Autoencoder: A Holistic Approach to Representing Visual Data
RWTH Aachen University(亚琛工业大学);Visual Computing Institute(视觉计算学院)
针对量化自编码器 token 局限于局部区域的问题,本文提出受谱分解启发的量化全局自编码器,通过学习码本对应的全局基函数并由解码器非线性组合,以高效转置实现视觉数据的全局表征与压缩。
2024-08-05 cs.CV cs.LG
Generative Sampling in Bundle Tractography using Autoencoders (GESTA)
Université de Sherbrooke(舍布鲁克大学);Université Bordeaux(波尔多大学);CNRS(法国国家科学研究中心);CEA(法国原子能和替代能源委员会);Imeka Solutions inc.(Imeka解决方案公司)
当前的纤维束成像方法使用局部取向信息来从种子位置传播流线。许多这样的种子提供的流线过早停止或未能映射真正的白质通路,因为一些束比其他束“更难跟踪”。这导致纤维束成像重建具有较差的白质和灰质空间覆盖。在这项工作中,我们提出了一种基于自动编码器的生成方法,名为GESTA(使用自动编码器在束追踪成像中进行生成采样),该方法可以产生流线,实现更好的空间覆盖。与其他深度学习方法相比,我们基于自动编码器的框架使用单个模型以逐行方式生成流线,并且不需要传播局部方向。GESTA为任何给定的白质束产生新的和完整的流线,包括难以跟踪的束。应用于给定的纤维束图之上,GESTA被证明是有效的,在人口稀少的束,无论是在合成和人脑在体内的数据,在改善白质体积覆盖。我们的流线评价框架,确保流线产生的GESTA是解剖学上合理的,适合当地的扩散信号。流线评价标准评估解剖结构(白质覆盖)、局部取向对准(方向)和流线的几何特征,以及可选的灰质连接。因此,GESTA是一种新的深生成束纤维束成像方法,可用于改善白质纤维束成像重建。
2023-02-10 cs.CV cs.LG eess.IV
Fractal Autoencoders for Feature Selection
University of Kentucky(肯塔基大学)
特征选择通过识别信息量最大的特征的子集来降低数据的维度。在本文中,我们提出了一个创新的框架,无监督的特征选择,称为分形自动编码器(FAE)。它训练一个神经网络来精确定位信息特征,用于全局可表示性的探索和局部多样性的挖掘。在架构上,FAE通过添加一对一评分层和一个小型子神经网络以无监督方式进行特征选择来扩展自动编码器。有了这样一个简洁的架构,FAE实现国家的最先进的性能,广泛的实验结果,14个数据集,包括非常高维的数据,已经证明了FAE的优越性比现有的当代方法的无监督特征选择。特别是,FAE在基因表达数据探索方面表现出实质性的优势,与广泛使用的L1000界标基因相比,减少了约$15$ \%的测量成本。此外,我们表明,FAE框架是很容易扩展的应用程序。
2022-01-04 cs.LG
LEON: Location Embeddings from OSM Neighborhoods via Hexagonal Graph Masked Autoencoders
Wroclaw University of Science and Technology(弗罗茨瓦夫理工大学)
本文提出LEON,一种基于H3六边形网格和图掩码自编码器的自监督框架,利用OSM设施分布学习空间嵌入,在EuroSAT分类和地理预测任务上显著提升性能。
2026-10-06 cs.LG
Standardized Benchmark Dataset for Localized Exposure to a Realistic Source at 10$-$90 GHz
University of Split(斯普利特大学);University of Electro-Communications(电气通信大学)
针对暴露评估领域缺乏标准化数据集的问题,研究基于10–90 GHz暴露场景的有限数据统计建模生成合成数据,构建了开源高保真基准数据集,并验证了其在代理模型训练中的有效性。
2023-05-03 cs.LG eess.IV physics.med-ph
Deep Autoencoders for Dimensionality Reduction of High-Content Screening Data
University of Toronto(多伦多大学)
高内容筛选使用大量未标记的细胞图像数据来推理遗传学或细胞生物学。两个重要的任务是鉴定具有感兴趣的表型的那些细胞,以及鉴定富集这些表型的亚群。这种探索性数据分析通常涉及降维,然后进行聚类,希望聚类代表一种表型。我们建议使用堆叠去噪自动编码器来执行高内容筛选的降维。我们证明了我们的方法优于PCA,局部线性嵌入,核PCA和Isomap的性能。
2015-01-07 cs.LG
Explainable Unsupervised Multi-Anomaly Detection and Temporal Localization in Nuclear Times Series Data with a Dual Attention-Based Autoencoder
Purdue University(普渡大学)
提出基于双注意力LSTM自编码器的无监督框架,用于核反应堆辐射监测系统中的多异常检测与时序定位,通过特征和时间维度的注意力机制实现可解释的传感器与异常持续时间识别。
2025-09-15 cs.LG
Harnessing Feature Clustering For Enhanced Anomaly Detection With Variational Autoencoder And Dynamic Threshold
University of Maryland Baltimore County(马里兰大学巴尔的摩分校);Geophysical Fluid Dynamics Laboratory(地球流体动力学实验室)
本研究针对北极融雪等极端气候事件的多变量时序异常检测需求,提出融合特征聚类、变分自编码器与动态阈值的检测框架,提升了检测性能与可解释性。
2024-07-14 cs.IR cs.LG
Symmetric Wasserstein Autoencoders
National Research Council Canada(加拿大国家研究委员会)
利用最优传输的框架,我们引入了一个新的生成自动编码器家族,具有可学习的先验知识,称为对称Wasserstein自动编码器(SWAE)。我们建议对称匹配的联合分布的观测数据和潜在的表示引起的编码器和解码器。由此产生的算法共同优化的数据和潜在空间的建模损失与数据空间中的损失,导致去噪效果。通过对数据和潜在表示的对称处理,该算法隐式地保持了数据在潜在空间中的局部结构。为了进一步提高潜在表示的质量,我们在目标中加入了重建损失,这对生成和重建都有很大的好处。我们的经验表明,优越的性能SWAE的国家的最先进的生成自动编码器的分类,重建和生成。
2021-06-24 cs.AI cs.CV cs.LG
A Multi-Fidelity Convolutional Autoencoder-Transfer Learning Framework for Guided-Wave-Based Damage Diagnosis Using Large Simulated and Limited Experimental Datasets
Indian Institute of Technology Delhi(印度理工学院德里分校)
提出多保真迁移学习框架,结合轻量物理仿真、卷积自编码器深度特征学习和少量实验数据,实现板结构损伤定位与尺寸估计,R²分别超0.93和0.99。
2026-06-26 cs.LG
Noise Learning Based Denoising Autoencoder
Korea University(高丽大学);Ericsson Research(爱立信研究院);KTH Royal Institute of Technology(瑞典皇家理工学院)
本文介绍了一种新的去噪器,它修改了去噪自动编码器(DAE)的结构,即基于噪声学习的DAE(nlDAE)。所提出的nlDAE学习输入数据的噪声。然后,通过从噪声输入中减去再生噪声来执行去噪。因此,当噪声比原始数据更容易再生时,nlDAE比DAE更有效。为了验证nlDAE的性能,我们提供了三个案例研究:信号恢复,符号解调和精确定位。数值结果表明,nlDAE需要更小的潜在空间维数和更小的训练数据集相比,DAE。
2021-06-21 cs.AI cs.LG eess.SP
Enhanced Federated Anomaly Detection Through Autoencoders Using Summary Statistics-Based Thresholding
L3S Research Center(L3S研究中心);Leibniz University Hannover(汉诺威莱布尼茨大学);University of Hong Kong(香港大学)
针对联邦学习中非独立同分布数据下的异常检测难题,提出一种利用正常与异常数据摘要统计信息聚合计算全局阈值的自编码器方法,有效提升了检测准确性与鲁棒性。
2024-10-11 cs.LG
Modeling Category-Selective Cortical Regions with Topographic Variational Autoencoders
UvA-Bosch Delta Lab(阿姆斯特丹大学-博世三角洲实验室);University of Amsterdam(阿姆斯特丹大学);ChemEngAI Lab(化学工程人工智能实验室);Delft University of Technology(代尔夫特理工大学)
大脑中的类别选择性描述了大脑皮层的某些空间局部区域倾向于对特定有限类别的刺激做出强烈和选择性的反应。类别选择性最著名的例子之一是梭形面部区域(FFA),这是灵长类动物颞叶皮层下部的一个区域,与物体或其他一般刺激相比,它优先对面部图像做出反应。在这项工作中,我们利用新引入的地形变分自动编码器来模拟这种本地化的类别选择性的出现在一个无监督的方式。实验上,我们证明了我们的模型产生空间密集的神经集群选择性的面孔,身体和地方,通过可视化的地图科恩的d度量。我们将我们的模型与相关的监督方法进行了比较,即Lee等人的拓扑深度人工神经网络(TDANN),并讨论理论和经验的相似性。最后,我们展示了初步的结果表明,我们的模型产生了一个嵌套的空间层次结构越来越抽象的类别,类似于从人类腹侧颞叶皮层的观察。
2021-12-19 cs.LG q-bio.NC
Federated Learning for Autoencoder-based Condition Monitoring in the Industrial Internet of Things
Technische Universität Berlin(柏林工业大学)
由于生产机械监测的传感器数据的可用性越来越高,状态监测和预测性维护方法是工业物联网中高效和稳健的制造生产周期的关键支柱。使用机器学习模型通过分析在几个工业环境中收集的各种数据来检测和预测恶化的行为,在最近的工作中显示出有希望的结果,但也经常需要将传感器数据传输到位于云中的集中式服务器。此外,尽管行业站点之间的协作和知识共享带来了很大的好处,特别是在状态监测领域,但由于数据隐私问题,它通常被禁止。为了解决这种情况,我们提出了一种基于Autoencoder的联邦学习方法,该方法利用来自旋转机器的振动传感器数据,允许在位于内部并靠近被监控机器的边缘设备上进行分布式训练。保护数据隐私,同时免除远程站点可能不可靠的网络连接,我们的方法可以跨组织边界进行知识转移,而无需共享监控数据。我们利用两个真实世界的数据集以及多个测试平台进行了评估,结果表明,与以前的结果相比,我们的方法具有竞争力的性能,同时显着降低了资源和网络利用率。
2022-11-14 cs.LG
ANet: Autoencoder-Based Local Field Potential Feature Extractor for Evaluating An Antidepressant Effect in Mice after Administering Kratom Leaf Extracts
Prince of Songkla University(宋卡王子大学)
Kratom(KT)通常发挥抗抑郁(AD)作用。然而,评估哪种形式的KT提取物具有与标准AD氟西汀(流感)相似的AD特性仍然具有挑战性。在这里,我们采用了一个自动编码器(AE)为基础的异常检测器,称为ANet测量小鼠的局部场电位(LFP)功能,响应KT叶提取物和AD流感的相似性。响应于KT糖浆的特征与响应于AD流感的特征具有最高的相似性,为85.62 $\pm$ 0.29%。这一发现表明,使用KT糖浆作为替代物质的可行性高于KT生物碱和KT水溶液,这是本研究中的其他候选人。除了相似性测量,我们利用ANet作为一个多任务AE和评估的性能,在区分多类LFP响应对应于不同的KT提取物和AD流感的效果同时。此外,我们可视化学习LFP响应之间的潜在功能定性和定量的t-SNE投影和最大平均差异距离,分别。分类结果报告的准确度和F1评分分别为79.78 $\pm$ 0.39%和79.53 $\pm$ 0.00%。总之,这项研究的结果可能有助于治疗设计设备的替代物质分布评估,如Kratom的形式在现实世界中的应用。
2022-09-17 cs.AI cs.LG eess.SP
Data-Agnostic Model Poisoning against Federated Learning: A Graph Autoencoder Approach
University of Cambridge(剑桥大学);Real-Time and Embedded Computing Systems Research Centre (CISTER)(实时与嵌入式计算系统研究中心(CISTER));CyLab Security and Privacy Institute, Carnegie Mellon University(卡内基梅隆大学CyLab安全与隐私研究所);Commonwealth Scientific and Industrial Research Organization (CSIRO)(联邦科学与工业研究组织(CSIRO));Koç University(科奇大学);Princeton University(普林斯顿大学)
本文提出一种基于图自编码器的数据无关模型投毒攻击,无需知晓联邦学习训练数据即可生成难以检测的恶意本地模型,导致全局模型准确率持续下降并感染所有良性设备。
2023-11-30 cs.CR cs.LG
Mask and Restore: Blind Backdoor Defense at Test Time with Masked Autoencoder
Department of Computer Science, Stony Brook University(计算机科学系,石英布鲁克大学)
本文提出BDMAE方法,利用掩码自编码器的重建能力,在测试时无需访问模型参数和验证数据即可检测并净化图像中的局部后门触发器,实现黑盒场景下的盲后门防御。
2025-08-19 cs.CV cs.LG
Sparse, Geometric Autoencoder Models of V1
Harvard University(哈佛大学);Tufts University(塔夫茨大学)
经典的稀疏编码模型将视觉刺激表示为少数学习的基函数的线性组合,这些基函数在自然图像数据上训练时是类似于Gabor的。然而,通过经典稀疏编码学习的Gabor样滤波器远远高估了调谐良好的简单细胞感受野(SCRF)配置文件。许多后续模型要么完全放弃了稀疏字典学习框架,要么尚未利用展开的神经字典学习架构的激增。这些更新中缺少的一个关键主题是更强的\emph{structured sparsity}概念。我们提出了一个自动编码器架构,其潜在的表示是隐式的,局部组织的谱聚类,这会产生人工神经元更好地匹配观察到的灵长类动物数据。自动编码器目标函数中的加权$\ell_1$(WL)约束保持了稀疏编码框架的核心思想,但也提供了一个有前途的路径来描述在未来工作中的判别层次的感受野的分化。
2023-02-22 cs.AI cs.LG
Masked BRep Autoencoder via Hierarchical Graph Transformer
University of Science and Technology of China(科学技术大学);Hefei University of Technology(合肥工业大学)
本文提出一种自监督学习框架,通过自动学习CAD模型的表示以提升下游任务性能,采用掩码图自编码器和分层图变换器架构,实验表明模型在少量标注数据下表现优异。
2026-03-17 cs.GR cs.LG
Uncertainty-Aware Generative Oversampling Using an Entropy-Guided Conditional Variational Autoencoder
针对高维生物医学数据的类别不平衡问题,提出融合局部不确定性的LEO-CVAE生成式过采样框架,通过熵加权损失和熵引导采样提升分类性能,优于传统与生成式基线方法。
2025-10-04 cs.AI cs.LG
Neural Architecture Search for Quantum Autoencoders
Wells Fargo(沃尔玛银行)
本文提出利用遗传算法自动设计量子自编码器的神经架构搜索框架,以提高在噪声环境下的数据重建效率和特征提取能力。
2025-11-24 cs.AI cs.LG cs.NE
Joint Wasserstein Autoencoders for Aligning Multimodal Embeddings
TU Darmstadt(达姆施塔特工业大学)
学习多模态(例如图像和文本)的联合嵌入的关键挑战之一是确保跨数据集推广的连贯的跨模态语义。我们建议通过联合高斯正则化的潜在表示来解决这个问题。基于Wasserstein自编码器(WAE)对每个域中的输入进行编码,我们将潜在嵌入强制为类似于两个域之间共享的高斯先验,确保图像和文本的编码语义表示的兼容连续性。语义对齐是通过匹配的图像-文本对的监督来实现的。为了展示我们的半监督表示的好处,我们将其应用于跨模态检索和短语本地化。由于潜在空间的语义连续性,我们不仅实现了最先进的准确性,而且在数据集之间具有更好的泛化能力。
2019-09-14 cs.CL cs.CV cs.LG
Unsupervised Acoustic Scene Mapping Based on Acoustic Features and Dimensionality Reduction
Bar-Ilan University(巴伊兰大学)
本文提出一种基于局部共形自编码器(LOCA)的无监督声学场景映射方法,利用数据自然结构学习与麦克风空间位置等距的表示,无需TDOA估计,且在混响下表现出较强鲁棒性。
2024-03-12 cs.LG cs.SD eess.AS
A Variational Autoencoder Framework for Robust, Physics-Informed Cyberattack Recognition in Industrial Cyber-Physical Systems
Clemson University(克莱姆森大学);Oklahoma State University(俄克拉荷马州立大学)
本文提出一种结合VAE、RNN和DNN的混合数据驱动框架,用于检测、诊断和定位工业网络物理系统中的隐蔽攻击,并区分设备故障,在电力传输系统模拟中验证了其优于传统方法。
2023-10-10 cs.LG cs.SY eess.SY
A Novel Defense Against Poisoning Attacks on Federated Learning: LayerCAM Augmented with Autoencoder
CyLab Security and Privacy Institute, Carnegie Mellon University(卡内基梅隆大学CyLab安全与隐私研究所);Real-Time and Embedded Computing Systems Research Centre (CISTER)(实时与嵌入式计算系统研究中心(CISTER));Commonwealth Scientific and Industrial Research Organization (CSIRO)(英联邦科学与工业研究组织(CSIRO));University of Cambridge(剑桥大学);Alan Turing Institute(阿兰·图灵研究所)
针对联邦学习中规避欧氏距离检测的投毒攻击,本文提出LayerCAM-AE防御策略。该方法结合层类激活映射与自编码器生成并处理模型更新热力图以识别异常,并引入投票算法降低误分类风险。实验表明该策略在IID和非IID设置下均实现了完美的检测率与测试准确率,显著优于现有防御模型。
2024-06-02 cs.AI cs.CR cs.CV