MSS-PAE: Saving Autoencoder-based Outlier Detection from Unexpected Reconstruction
School of Marine Science and Technology, Northwestern Polytechnical University（西北工业大学海洋科学与技术学院）；Faculty of Technology, University of Turku（图尔库大学技术学院）；School of Computing, University of Eastern Finland（东芬兰大学计算机学院）；Engineering Cluster, Singapore Institute of Technology（新加坡理工学院工程集群）
针对基于自编码器的异常检测存在的过度自信、异常重构意外问题，提出加权负对数似然与均值偏移评分方法，在32个真实数据集上实现显著性能提升，推动该领域发展。
2024-07-09 cs.LG
Interpreting Outliers in Time Series Data through Decoding Autoencoder
University of Mannheim（曼海姆大学）；Robert Bosch GmbH（罗伯特·博世有限公司）
针对制造业时间序列数据，该研究利用自编码器压缩数据并进行异常检测，通过应用XAI技术、提出AEE融合解释方法及定量评估技术，实现了异常值的定性与定量解释。
2025-02-03 cs.AI cs.LG
iHHO-SMOTe: A Cleansed Approach for Handling Outliers and Reducing Noise to Improve Imbalanced Data Classification
Faculty of Science, Al-Azhar University（爱资哈尔大学理学院）
针对不平衡数据分类中SMOTE面临的噪声与异常值问题，提出iHHO-SMOTe方法，通过随机森林特征选择、DBSCAN异常值移除净化数据后过采样，实验显示其AUC超0.99、G-means达0.99、F1超0.967，性能优异。
2025-04-17 cs.LG
A Robust Classification-autoencoder to Defend Outliers and Adversaries
Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院）；University of Chinese Academy of Sciences（中国科学院大学）
本文提出了一种鲁棒的分类自动编码器（CAE），它具有很强的识别离群点和防御攻击者的能力。其主要思想是将自动编码器从无监督学习模型转变为分类器，其中编码器用于将具有不同标签的样本压缩到不相交的压缩空间中，解码器用于从其压缩空间中恢复样本。编码器既用作压缩特征学习器又用作分类器，解码器用于通过比较输入样本与输出来决定编码器给出的分类是否正确。针对当前DNN框架中不可避免地会出现攻击样本的问题，引入基于CAE的列表分类器来防御攻击者，该列表分类器输出多个标签和相应的样本。大量的实验结果表明，CAE实现了最先进的识别离群值，找到几乎所有的离群值;列表分类器给出了近无损分类的意义上说，输出列表包含正确的标签，几乎所有的对手和输出列表的大小是合理的小。
2022-06-07 cs.LG stat.ML
Autoencoding Under Normalization Constraints
Seoul National University（首尔国立大学）；Hanyang University（汉阳大学）；Korea Institute of Advanced Studies（韩国高等研究院）；Saige Research（赛奇研究院）
针对自编码器缺乏归一化导致异常检测失效的问题，提出通过抑制负样本重构实现归一化的NAE模型，在异常检测和分布内样本生成上均有效。
2023-06-15 cs.LG
Robust Variational Autoencoder
University of Southern California（南加州大学）；Stevens Institute of Technology（史蒂文斯理工学院）
机器学习方法通常需要大量的标记训练数据。由于训练数据被假设为地面实况，离群值会严重降低学习的表示和训练模型的性能。在这里，我们应用鲁棒统计的概念，推导出一种新的变分自动编码器，它对训练数据中的离群值具有鲁棒性。变分自动编码器（VAE）提取低维编码特征表示，我们可以从中生成新的数据样本。当使用损坏的训练数据时，自动编码器对离群值的鲁棒性对于在编码空间中生成特定数据类型的可靠表示至关重要。我们的鲁棒VAE是基于β发散，而不是标准的Kullback-Leibler（KL）发散。我们提出的下限导致RVAE模型，具有相同的计算复杂度的VAE，并包含一个单一的调整参数来控制鲁棒性的程度。我们证明了我们的$β$发散为基础的自动编码器的一系列图像数据集的性能，提高了鲁棒性离群定性和定量。我们还说明了使用我们强大的VAE离群值检测。
2019-12-21 cs.LG eess.IV stat.ML
IVGAE: Handling Incomplete Heterogeneous Data with a Variational Graph Autoencoder
School of Information Technology, Deakin University（信息科技学院，德金大学）
IVGAE通过双解码器架构和异构嵌入模块，有效处理异构数据中的缺失问题，提升填补精度和下游任务性能。
2025-11-27 cs.LG
Attention, Anomalies! Handling Attention Layers in Unsupervised Federated Outlier Detection
本研究针对联邦学习中记忆增强自编码器缺乏专用聚合技术的问题，提出新颖的引导式聚合方案，在非IID数据集上验证其对无监督异常检测的鲁棒性，可提升浅层自编码器性能并适配资源受限环境。
2026-08-06 cs.LG
Anomaly Detection for Multivariate Time Series on Large-scale Fluid Handling Plant Using Two-stage Autoencoder
Toshiba Corporation（东芝公司）
本文重点研究了具有动态组件的大型流体处理工厂（如发电厂、水处理厂和化工厂）中多变量时间序列数据的异常检测，这些工厂同时观察到来自各种物理现象的信号。在这些工厂中，鉴于熟练工程师人数减少和人力短缺，对异常检测技术的需求正在增加，以降低运营和维护成本。然而，考虑到高维信号的复杂行为和对可解释性的需求，这些技术构成了一个重大挑战。我们介绍了一个两阶段自动编码器（TSAE）作为一种异常检测方法适用于这样的工厂。这是一种简单的自动编码器架构，使异常检测更具有可解释性和更准确性，其中基于植物信号可以分离为两个几乎没有相互关联的行为的前提下，信号以逐步的方式分离为长期和短期分量，并且两个分量独立训练，以提高对正常信号的推断能力。通过对两个公开的水处理系统数据集的实验，我们已经证实了高检测性能，前提的有效性，以及模型行为的预期，即，TSAE的技术有效性。
2022-05-20 cs.LG
Federated Attention Autoencoders with a Stochastic Aggregation Scheme for Anomaly Detection
针对联邦学习中基于注意力的自编码器缺乏适配聚合函数的问题，提出两种新型聚合函数，在KDDCUP10数据集上较传统自编码器实现了F1分数最高2.9%、AUC ROC最高5.1%的提升。
2026-08-11 cs.LG
Handling Missing Data via Max-Entropy Regularized Graph Autoencoder
The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；The Hong Kong University of Science and Technology（香港科技大学）；AI Lab, Tencent（腾讯AI实验室）
图神经网络（GNN）是关系数据建模的流行武器。现有的GNN没有为属性不完整图指定，这使得缺失的属性插补成为一个紧迫的问题。直到最近，许多工作注意到GNN与谱集中耦合，这意味着由GNN获得的谱集中在谱域中的局部部分，例如，由于过平滑问题导致的低频。因此，GNNs可能会严重缺陷，重建图的属性，因为图的光谱浓度往往会导致低插补精度。在这项工作中，我们提出了一个正则化的图自动编码器的图属性填充，命名为MEGAE，它的目的是减轻光谱集中问题，通过最大化的图谱熵。值得注意的是，我们首次提出了估计图谱熵的方法，而无需Laplacian矩阵的特征分解，并提供了理论上的误差上界。然后在潜在空间中进行最大熵正则化，这直接增加了图谱熵。大量的实验表明，MEGAE优于所有其他国家的最先进的插补方法在各种基准数据集。
2022-11-30 cs.LG
Robust Variational Autoencoder for Tabular Data with Beta Divergence
University of Southern California（南加利福尼亚大学）；Amazon Web Service（亚马逊云科技）
我们提出了一个强大的变分自编码器与$β$分歧的表格数据（RTVAE）的混合分类和连续功能。变分自编码器（VAE）及其变体是异常检测问题的流行框架。主要假设是我们可以通过VAE学习正常模式的表示，任何偏离都可以指示异常。然而，训练数据本身可能包含离群值。训练数据中离群值的来源包括数据汇集过程本身（随机噪声）或可能以降低机器学习模型性能为目标的恶意攻击者（数据投毒）。在任何一种情况下，这些离群值都会不成比例地影响VAE的训练过程，并可能导致关于正常行为的错误结论。在这项工作中，我们推导出一种新形式的变分自编码器的表格数据集的分类和连续的功能，是强大的离群值在训练数据。在网络流量数据集的异常检测应用上的实验结果表明了该方法的有效性。
2020-06-16 cs.LG eess.IV eess.SP
Robust Vector Quantized-Variational Autoencoder
图像生成模型可以学习训练数据的分布，从而通过从这些分布中采样来生成示例。然而，当训练数据集被离群值破坏时，生成模型可能会产生与离群值相似的示例。事实上，一小部分异常值可能会导致现有技术的生成模型，例如矢量量化-变分自编码器（VQ-VAE），从异常值中学习有效模式。为了缓解这个问题，我们提出了一个强大的生成模型的基础上VQ-VAE，我们称之为鲁棒VQ-VAE（RVQ-VAE）。为了实现鲁棒性，RVQ-VAE使用两个单独的码本用于内点和离群点。为了确保码本嵌入正确的组件，我们在每个训练时期迭代更新内点和离群点的集合。为了确保编码后的数据点与正确的码本相匹配，我们使用加权欧几里得距离进行匹配，其权重由码本的方向方差确定。两个码本，连同编码器和解码器，根据重建损失和量化损失联合训练。我们的实验表明，RVQ-VAE是能够从内点生成的例子，即使大部分的训练数据点损坏。
2022-09-20 cs.AI cs.LG
Unsupervised Feature Selection via Robust Autoencoder and Adaptive Graph Learning
Department of Sociology University of California, Davis, California, USA（加州大学戴维斯分校社会学系）
本文提出RAEUFS模型，通过深度自编码器学习非线性特征表示并提高对异常值的鲁棒性，实验表明其在清洁和异常值污染数据中均优于现有方法。
2026-03-19 cs.LG stat.ML
Robust Anomaly Detection in Images using Adversarial Autoencoders
Ludwig-Maximilians-University Munich（路德维希-马克西米利安慕尼黑大学）；Bosch Center for Artificial Intelligence（博世人工智能中心）
可靠地检测给定图像集合中的异常对于视觉质量检查、监视或医学图像分析而言是具有高度实际相关性的任务。自动编码器神经网络学习重建正常图像，因此可以将这些图像分类为异常，其中重建误差超过某个阈值。在这里，我们分析了这种方法的一个基本问题，当训练集被一小部分离群值污染时。我们发现，持续训练的自编码器不可避免地减少异常值的重建误差，从而降低异常检测性能。为了抵消这种影响，采用了对抗性自动编码器架构，该架构对潜在表示施加了先验分布，通常将异常放置在低可能性区域中。利用似然模型，可以在训练期间识别和拒绝潜在的异常，这导致异常检测器在训练期间对异常值的存在显著更鲁棒。
2019-01-18 cs.CV cs.LG stat.ML
Autoencoder-based Attribute Noise Handling Method for Medical Data
Univ Lyon（里昂大学）；UCBL（里昂第一大学（克洛德·贝尔纳里昂第一大学））；CNRS（法国国家科学研究中心）；INSA Lyon（里昂国立应用科学学院）；LIRIS（里昂信息与图像系统实验室）
医疗数据集特别容易受到属性噪声的影响，即缺失和错误的值。已知属性噪声在很大程度上对学习性能有害。为了最大限度地提高未来的学习性能，在任何推理之前处理属性噪声是至关重要的。我们提出了一个简单的自动编码器为基础的预处理方法，可以纠正属性噪声损坏的混合类型的表格数据。目前没有其他方法可以处理表格数据中的属性噪声。我们的实验表明，我们的方法优于国家的最先进的插补方法和噪声校正方法在几个现实世界的医疗数据集。
2022-06-20 cs.AI cs.LG cs.NE
Identifying Mislabeled Images in Supervised Learning Utilizing Autoencoder
University of Texas at Austin（德克萨斯大学奥斯汀分校）
监督学习基于训练数据中的基础事实是准确的假设。然而，这在现实世界的设置中可能无法保证。不准确的训练数据会导致一些意想不到的预测。在图像分类中，不正确的标签也可能导致分类模型不准确。在本文中，我将在训练分类网络之前对训练数据应用无监督技术。卷积自动编码器被应用于编码和重建图像。编码器将图像数据投影到潜在空间上。在潜在空间中，图像特征被保存在较低的维度中。假设具有相似特征的数据样本可能具有相同的标签。通过密度基扫描（DBSCAN）聚类算法，噪声样本可以在潜在空间中进行分类。这些不正确标记的数据被可视化为潜在空间中的离群值。因此，由DBSCAN算法识别的离群值可以被分类为错误标记的样本。在检测到离群值之后，所有离群值都被视为错误标记的数据样本并从数据集中移除。因此，训练数据可以直接用于训练监督学习网络。在实验数据集中，该算法可以检测并去除67%以上的错误标记数据.
2021-01-18 cs.CV cs.LG
Quantum SMOTE with Angular Outliers: Redefining Minority Class Handling
University of Technology Sydney（悉尼科技大学）
本文提出Quantum-SMOTEV2方法，利用量子旋转和交换测试合成少数类样本并引入角度异常值，在较低SMOTE水平下显著提升了类不平衡数据集上的分类性能。
2025-01-31 cs.LG quant-ph
VSCOUT: A Hybrid Variational Autoencoder Approach to Outlier Detection in High-Dimensional Retrospective Monitoring
Department of Information Systems & Analytics（信息系统与分析系）
VSCOUT通过结合变分自编码器和集成过滤技术，提升高维回顾性监控中异常检测的灵敏度和鲁棒性。
2026-01-28 cs.LG stat.CO stat.ML
Explaining Anomalies Detected by Autoencoders Using SHAP
Ben-Gurion University of the Negev（内盖夫本-古里安大学）
异常检测算法通常被认为是有限的，因为它们不便于领域专家执行的验证结果的过程。相比之下，用于异常检测的深度学习算法（如自动编码器）会指出异常值，从而为专家节省了检查正常情况以发现异常的耗时任务。大多数离群值检测算法为数据库中的每个实例输出一个分数。将前k个最强烈的离群值返回给用户进行进一步检查;然而，如果没有额外的线索，手动验证结果变得具有挑战性。解释一个实例为什么是异常的，使专家能够将他们的调查集中在最重要的异常上，并可能增加他们对算法的信任。最近，一个基于博弈论的框架被称为SHapley加法解释（SHAP）已被证明是有效的，在解释各种监督学习模型。在这项研究中，我们扩展SHAP来解释自动编码器（一种无监督模型）检测到的异常。所提出的方法提取和可视化描绘的功能，最有助于异常和抵消it.A使用真实世界的数据进行了初步的实验研究表明，所提出的方法在帮助领域专家了解异常和过滤掉不感兴趣的异常，旨在最大限度地减少误报率检测异常。
2020-06-30 cs.GT cs.LG stat.ML
Anomaly Detection for Unmanned Aerial Vehicle Sensor Data Using a Stacked Recurrent Autoencoder Method with Dynamic Thresholding
The University of Nottingham（诺丁汉大学）
随着航空技术的不断发展，无人机（UAV）越来越多地融入国际商业和军事行动。研究飞机数据的应用对于提高安全性、降低运营成本和开发航空技术的下一个前沿至关重要。由于这些原因，拥有一个可以准确识别飞机异常行为的离群值检测系统至关重要。本文提出了一种系统，该系统将基于长短期记忆（LSTM）深度学习自动编码器的方法与新型动态阈值算法和加权损失函数相结合，用于无人机数据集的异常检测，以促进航空业内利用机器学习和数据分析创新的持续努力。动态阈值和加权损失函数显示出有前途的改进标准的静态阈值的方法，无论是在准确性相关的性能指标和速度的真正的故障检测。
2022-03-09 cs.LG
Novelty Detection and Analysis of Traffic Scenario Infrastructures in the Latent Space of a Vision Transformer-Based Triplet Autoencoder
CARISSMA, Technische Hochschule Ingolstadt（CARISSMA，因戈尔施塔特应用技术大学）；Technical University of Munich（慕尼黑工业大学）
检测未知和未经测试的场景对于基于MIMO的测试至关重要。基于场景的测试被认为是验证自动驾驶汽车的一种可能方法。交通场景由多个组成部分组成，基础设施是其中之一。在这项工作中，提出了一种方法来检测新的交通场景的基础设施的图像的基础上。自动编码器三元组网络为用于离群值检测的基础设施图像提供潜在表示。网络的三元组训练是基于基础设施的连接图。通过使用所提出的架构，专家知识是用来塑造潜在的空间，使它包含了一个预定义的相似性的邻域关系的自动编码器。对架构的消融研究突出了三重自动编码器组合的重要性。性能最好的架构是基于视觉Transformer，一个无卷积的注意力为基础的网络。所提出的方法优于其他国家的最先进的离群值检测方法。
2021-11-02 cs.CV cs.LG
Autoencoder-based time series clustering with energy applications
EDF R&D（法国电力集团研发部）
由于数据的特定性质，时间序列聚类是一项具有挑战性的任务。经典的方法并没有很好地执行，需要通过一个新的距离测量或数据转换进行调整。在本文中，我们研究了卷积自动编码器和k-medoids算法的组合来执行时间序列聚类。卷积自动编码器允许提取有意义的特征并减少数据的维度，从而改善后续聚类。使用模拟和能源相关的数据来验证该方法，实验结果表明，聚类是鲁棒的离群值，从而导致更精细的聚类比标准方法。
2020-02-10 cs.LG stat.ML
An Autoencoder and Generative Adversarial Networks Approach for Multi-Omics Data Imbalanced Class Handling and Classification
Lakehead University（湖首大学）
针对多组学高维数据与类别样本不平衡问题，本研究提出融合自编码器降维、GAN生成合成样本及特征选择的神经网络模型，在膀胱癌、乳腺癌数据集上准确率分别达95.09%、88.82%，优于现有模型。
2024-05-16 cs.LG cs.NE q-bio.GN
Unsupervised Time Series Outlier Detection with Diversity-Driven Convolutional Ensembles -- Extended Version
Aalborg University（奥尔堡大学）；Huawei Cloud Database Innovation Lab（华为云数据库创新实验室）；University of Electronic Science and Technology of China（电子科技大学）
针对时间序列异常检测在准确性和效率上的不足，提出一种基于卷积序列到序列自编码器的多样性驱动卷积集成方法，通过维持模型多样性提升准确性，并利用高度并行化和参数迁移提高效率。
2021-11-22 cs.LG
Autowarp: Learning a Warping Distance from Unlabeled Time Series Using Sequence Autoencoders
Stanford University（斯坦福大学）
测量未标记时间序列轨迹之间的相似性是医学、天文学、金融和计算机视觉等领域的一个重要问题。由于轨迹中噪声的复杂性质（例如，不同的采样率或离群值），通常不清楚使用什么是适当的度量。领域专家通常手工制作或手动选择一个特定的指标，如动态时间规整（DTW），以应用于他们的数据。在本文中，我们提出了Autowarp，这是一种端到端算法，可以优化和学习一个良好的度量，给出未标记的轨迹。我们定义了一个灵活的和可微的家庭的翘曲指标，其中包括常见的指标，如DTW，欧几里德，编辑距离。然后，Autowarp利用序列自动编码器的表示能力来优化该扭曲距离家族的成员。输出是一个易于解释的度量，并且可以从相对较少的轨迹中鲁棒地学习。在不同领域的系统实验中，我们表明Autowarp通常优于手工制作的轨迹相似性度量。
2018-10-23 cs.LG stat.ML
Fin-Fed-OD: Federated Outlier Detection on Financial Tabular Data
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）；RPTU Kaiserslautern-Landau（凯撒斯劳滕-兰道工业大学）；Bonn-Rhein-Sieg University of Applied Sciences（波恩-莱茵-锡格应用科学大学）
针对隐私限制下跨组织无法共享数据的问题，提出利用表示学习和联邦学习的Fin-Fed-OD方法，通过共享自编码器模型参数细化内点决策边界，显著提升了各组织对未知离群点的分类能力。
2024-04-23 cs.AI cs.LG
Deep Autoencoders for Unsupervised Anomaly Detection in Wildfire Prediction
School of Aerospace, Transport and Manufacturing, Cranfield University（克兰菲尔德大学航空航天、运输与制造学院）；Spire Global, Inc.（Spire全球公司）
本研究提出基于深度自编码器的两种无监督异常检测方法用于野火预测，利用澳大利亚2005-2021年气象数据，发现全连接自编码器在无标签情况下表现最佳，准确率达0.71。
2024-11-14 cs.AI cs.LG
Multimodal hierarchical Variational AutoEncoders with Factor Analysis latent space
Universidad Carlos III de Madrid（马德里卡洛斯三世大学）；Instituto de Investigación Sanitaria Gregorio Marañón（格雷戈里奥·马拉尼翁健康研究所）
本文提出FA-VAE方法，将多个变分自编码器与因子分析潜空间结合，通过层次化的私有与共享潜空间设计，实现异构多视图数据的可解释、灵活、模块化建模，并支持跨域数据生成与迁移学习。
2024-10-22 cs.AI cs.LG
What Drives the Inlier-Memorization Effect? A Theory of Outlier Detection via Early Training Dynamics
KAIST AI（韩国科学技术院人工智能实验室）；Department of Statistics Center for Data Science（统计系数据科学中心）；Sungshin Women’s University（顺天妇女大学）
本文从理论上分析了深度模型在早期训练中优先记忆内点而非异常点的内点记忆效应，揭示了其出现、强度与持久性依赖于数据分布和参数初始化，并据此提出数据预处理与初始化策略，在ADBench上取得最优性能。
2026-06-29 cs.AI cs.LG stat.ML
The dynamics of representation learning in shallow, non-linear autoencoders
Ecole Normale Supérieure（巴黎高等师范学院）；EPFL（洛桑联邦理工学院）；International School of Advanced Studies (SISSA)（国际高等研究学院）
自编码器是无监督学习中最简单的神经网络，因此是研究特征学习的理想框架。虽然最近人们对线性自动编码器的动态特性有了详细的了解，但非线性自动编码器的研究一直受到处理具有非平凡相关性的训练数据的技术困难的阻碍--这是特征提取的基本先决条件。在这里，我们研究了非线性浅层自动编码器中特征学习的动态特性。我们推导出一组渐近精确的方程，描述了在高维输入的限制下用随机梯度下降（SGD）训练的自编码器的泛化动态。这些方程揭示了自动编码器顺序地学习其输入的主要成分。对长时间动态的分析解释了S形自动编码器无法使用绑定权重进行学习的原因，并强调了在ReLU自动编码器中训练偏差的重要性。基于线性网络的先前结果，我们分析了香草SGD算法的修改，该算法允许学习精确的主成分。最后，我们证明了我们的方程准确地描述了非线性自动编码器在CIFAR 10等现实数据集上的泛化动态。
2022-06-16 cond-mat.dis-nn cond-mat.stat-mech cs.LG
VELC: A New Variational AutoEncoder Based Model for Time Series Anomaly Detection
Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））
异常检测是一个经典但值得研究的问题，已经提出了许多基于深度学习的异常检测算法，通常可以取得比传统方法更好的检测结果。针对模型的可重构性和异常分值的计算，提出了一种基于变分自编码器模型（VAE）的时间序列异常检测方法。为了提高模型的重构能力，防止模型不能很好地重构异常样本，我们在VAE的隐空间中加入了一个约束网络，迫使VAE产生与训练样本相似的新隐变量。为了能够在两个特征空间中计算异常分数，我们训练重新编码器以将生成的数据转换到新的潜在空间。为了更好地处理时间序列，我们使用LSTM作为VAE框架的编码器和解码器部分。几个基准测试的实验结果表明，我们的方法优于国家的最先进的异常检测方法。
2020-04-15 cs.LG stat.ML
Handling Incomplete Heterogeneous Data using VAEs
Alan Turing Institute（艾伦·图灵研究所）；University Carlos III in Madrid（马德里卡洛斯三世大学）；University of Cambridge（剑桥大学）；Uber AI Labs（优步人工智能实验室）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）
变分自编码器（VAE）以及其他生成模型已经被证明对于捕获大量复杂高维数据的潜在结构是有效和准确的。然而，现有的VAE仍然不能直接处理异质（混合连续和离散）或不完整（随机缺失数据）的数据，这在现实世界的应用中确实很常见。在本文中，我们提出了一个通用的框架来设计VAE适合于拟合不完整的异质数据。拟议的HI-VAE包括实值、正实值、区间、分类、有序和计数数据的似然模型，并允许准确估计（和潜在插补）缺失数据。此外，HI-VAE在监督任务中表现出有竞争力的预测性能，在不完整数据上训练时优于监督模型。
2020-05-22 cs.AI cs.LG stat.ML
LSTM Autoencoder-based Deep Neural Networks for Barley Genotype-to-Phenotype Prediction
School of Information Technology, Murdoch University（默多克大学信息技术学院）；School of Medical, Molecular and Forensic Sciences, Murdoch University（默多克大学医学、分子与法医学学院）；Western Crop Genetics Alliance, Murdoch University（默多克大学西部作物遗传学联盟）；Western Australian State Agricultural Biotechnology Centre（西澳大利亚州农业生物技术中心）；Department of Primary Industries and Regional Development（初级产业与区域发展部）
本研究提出一种基于LSTM自编码器的深度神经网络模型，用于大麦基因型到表型预测，重点估计开花时间和谷物产量，实验表明该模型优于基线方法，能有效处理高维农业数据并提升预测性能。
2024-07-21 cs.LG q-bio.GN
Transformer autoencoder with local attention for sparse and irregular time series with application on risk estimation
本文提出了一种针对稀疏不规则时间序列的风险估计框架，结合Transformer自编码器与局部注意力机制，有效捕捉稀疏数据中的相关模式，提升风险估计的准确性和鲁棒性。
2026-05-09 cs.AI cs.LG
Two-stage Deep Stacked Autoencoder with Shallow Learning for Network Intrusion Detection System
Vellore Institute of Technology（韦洛尔理工大学）；PSG College of Technology（PSG理工学院）
稀疏事件，例如实时网络流量中的恶意攻击，已经导致大型组织的收入损失大幅增加。这是由于网络的过度增长及其接触到过多的人。用于检测入侵的标准方法并不乐观，并且在识别新的恶意软件方面存在重大失败。此外，在处理具有稀疏性、高误报率、小类检测率低、训练时间和数据维度特征工程的大容量数据方面的挑战促使深度学习以更少的时间和更好的效果接管任务。现有的系统需要改进，以解决实时网络流量问题以及功能工程。我们提出的工作克服了这些挑战，在两个阶段使用深度堆叠的自动编码器给出了有希望的结果。两阶段的深度学习与浅层学习相结合，在第二阶段使用随机森林进行分类。这使得该模型与最新的加拿大网络安全研究所-入侵检测系统2017（CICIDS-2017）数据集配合良好。实现了具有令人钦佩的检测精度的零假阳性。
2021-12-03 cs.AI cs.CR cs.LG
RVRAE: A Dynamic Factor Model Based on Variational Recurrent Autoencoder for Stock Returns Prediction
North Carolina State University（北卡罗来纳州立大学）
本文提出融合动态因子建模与VRAE的RVRAE概率模型，通过先验—后验学习捕捉市场时序依赖与噪声，并同时实现收益预测和风险方差估计，实证表现优于多种基线。
2024-03-04 cs.LG q-fin.PM q-fin.PR
S-HR-VQVAE: Sequential Hierarchical Residual Learning Vector Quantized Variational Autoencoder for Video Prediction
Norwegian University of Science and Technology（挪威科技大学）；Monash University（莫纳什大学）；Università degli Studi di Palermo（巴勒莫大学）
本文提出S-HR-VQVAE视频预测模型，结合层次残差向量量化变分自编码器与自回归时空预测模型，在四个基准上以更小模型规模取得优于最先进方法的性能。
2024-11-19 cs.AI cs.CV cs.LG
tsrobprep - an R package for robust preprocessing of time series data
University of Duisburg-Essen（杜伊斯堡-埃森大学）
数据清理是每个数据分析练习的关键部分。然而，当前可用的R包不提供用于清洗和准备时间序列数据的快速且鲁棒的方法。开源包tsrobrep引入了使用基于模型的方法处理缺失值和离群值的有效方法。对于数据插补，提出了一种概率替换模型，该模型可以由自回归分量和外部输入组成。对于离群值检测的聚类算法的基础上有限的混合建模，它认为时间序列属性的梯度和基本的季节性作为特征。该过程允许返回每个观测值为离群数据的概率以及根据所提供的特征空间进行离群值分配的特定原因。这些方法工作稳健，并且完全可调。此外，通过提供auto_data_cleaning函数，可以一次性执行数据预处理，而无需全面调优并提供合适的结果。该软件包的主要目的是对能源系统数据进行预处理。我们目前的应用程序的电力负荷，风能和太阳能发电数据。
2021-10-11 cs.LG cs.MS stat.CO
