LSTM-based Encoder-Decoder for Multi-sensor Anomaly Detection
TCS Research（塔塔咨询服务研究院）
机械装置，如发动机、车辆、飞机等，通常装备有许多传感器以捕获机器的行为和健康状况。然而，通常存在传感器未捕获的外部因素或变量，从而导致本质上不可预测的时间序列。例如，手动控制和/或未监测的环境条件或负载可能导致固有的不可预测的时间序列。使用基于依赖于平稳性的数学模型或利用预测误差来检测异常的预测模型的标准方法来检测此类场景中的异常变得具有挑战性。我们提出了一种基于长短期记忆网络的异常检测编码解码器方案（EncDec-AD），该方案学习重建“正常”的时间序列行为，然后使用重建误差来检测异常。我们用三个公开的准可预测的时间序列数据集进行了实验：电力需求，航天飞机和ECG，以及两个具有预测和不可预测行为的真实发动机数据集。我们表明，EncDec-AD是强大的，可以从可预测的，不可预测的，周期性的，非周期性的和准周期性的时间序列检测异常。此外，我们还表明EncDec-AD能够检测短时间序列（长度小至30）和长时间序列（长度大至500）的异常。
2016-07-11 cs.AI cs.LG stat.ML
AER: Auto-Encoder with Regression for Time Series Anomaly Detection
MIT（麻省理工学院）；IRD（法国国家可持续发展研究所）
时间序列数据的异常检测在各种工业领域越来越普遍，这些工业领域监控指标以防止潜在的事故和经济损失。然而，标记数据的缺乏和异常的模糊定义可能会使这些工作复杂化。最近的无监督机器学习方法在使用单时间戳预测或时间序列重建来解决这个问题方面取得了显着进展。虽然传统上被认为是分开的，这些方法并不相互排斥，可以提供互补的异常检测的观点。本文首先强调了基于预测和基于重建的方法与可视化的时间序列信号和异常分数的成功和局限性。然后，我们提出了AER（带回归的自动编码器），这是一个联合模型，它结合了一个普通的自动编码器和一个LSTM回归器，以结合成功并解决每种方法的局限性。我们的模型可以产生双向预测，同时通过优化联合目标函数来重建原始时间序列。此外，我们提出了几种方法相结合的预测和重建误差，通过一系列的消融研究。最后，我们比较了两种基于预测的方法和三种基于重建的方法对来自NASA，Yahoo，Numenta和UCR的12个著名的单变量时间序列数据集的AER架构的性能。结果表明，AER在所有数据集上的平均F1得分最高（与ARIMA相比提高了23.5%），同时保持了与其vanilla自动编码器和回归器组件相似的运行时间。我们的模型可以在Orion中使用，Orion是一个用于时间序列异常检测的开源基准测试工具。
2022-12-27 cs.LG stat.ML
DAE : Discriminatory Auto-Encoder for multivariate time-series anomaly detection in air transportation
FEMTO-ST Institute（FEMTO-ST研究所）；UBFC（勃艮第-弗朗什-孔泰大学）；CNRS（法国国家科学研究中心）
广播式自动相关监视协议是空中监视的最新强制性进展之一。虽然它支持对空中不断增加的飞机进行跟踪，但它也引入了必须缓解的网络安全问题，例如，虚假数据注入攻击，攻击者发出虚假的监视信息。最近可用于获取飞行跟踪记录的数据源和工具使研究人员能够创建数据集并开发能够检测途中轨迹中此类异常的机器学习模型。在这方面，我们提出了一种新的多元异常检测模型，称为判别式自动编码器（DAE）。它使用基于常规LSTM的自动编码器的基线，但具有多个解码器，每个解码器在训练期间获取特定飞行阶段（例如爬升，巡航或下降）的数据。为了说明DAE的效率，使用真实的异常以及逼真的异常创建了评估数据集，并对DAE以及文献中的三种异常检测模型进行了评估。实验结果表明，DAE在检测精度和速度上都取得了较好的效果。数据集、模型实施和评价结果可在一个在线储存库中查阅，从而能够复制并便利今后的实验。
2021-09-08 cs.AI cs.LG
Convolutional Recurrent Reconstructive Network for Spatiotemporal Anomaly Detection in Solder Paste Inspection
KAIST（韩国科学技术院）；Koh Young Technology, Inc.（高永科技股份有限公司）
表面贴装技术（SMT）是一种生产印刷电路板的工艺。SMT使用焊膏印刷机（SPP）、封装贴装机和回流焊炉。焊膏检测器（SPI）对从SPP沉积焊膏的电路板进行监控。如果SPP由于打印机缺陷而发生故障，SPP会产生有缺陷的产品，然后SPI会检测到异常图案。在本文中，我们提出了一个卷积递归重构网络（CRRN），它分解的打印机缺陷产生的异常模式，从SPI数据。CRRN只学习正常数据，通过重构误差检测异常模式。CRRN由空间编码器（S-Encoder）、时空编码器和解码器（ST-Encoder-Decoder）以及空间解码器（S-Decoder）组成。ST-编码器-解码器由具有ST-注意机制的多个卷积时空存储器（CSTM）组成。CSTM被开发用于有效地提取时空模式。此外，时空注意（ST-注意）机制的设计，以促进从ST-编码器的ST-解码器，这可以解决长期依赖性问题的信息传输。我们证明了建议CRRN优于其他传统的模型在异常检测。此外，我们通过打印机缺陷分类显示由建议CRRN分解的异常图的判别力。
2019-08-22 cs.LG eess.IV stat.ML
Anomaly Detection of Time Series with Smoothness-Inducing Sequential Variational Auto-Encoder
Shanghai Jiao Tong University（上海交通大学）
深度生成模型已经证明了它们在学习潜在表示和建模时间序列的复杂依赖关系方面的有效性。本文提出了一种用于多维时间序列鲁棒估计和异常检测的平滑诱导序贯变分自动编码器（SISVAE）模型。我们的模型是基于变分自动编码器（VAE），其骨干是由一个递归神经网络来捕获潜在的时间序列的生成模型和推理模型的时间结构。具体来说，我们的模型参数化的均值和方差为每个时间戳与灵活的神经网络，从而在一个非平稳模型，可以工作，而无需假设恒定的噪声通常由现有的马尔可夫模型。然而，这种灵活性可能导致模型对异常脆弱。为了实现强大的密度估计，这也可以有利于检测任务，我们提出了一个平滑诱导先验可能的估计。所提出的先验可以作为一个正则化器，在非光滑重建时进行惩罚。我们的模型是有效地学习一种新的随机梯度变分贝叶斯估计。特别地，我们研究了异常检测的两个决策准则：重建概率和重建误差。我们展示了我们的模型在合成数据集和公共真实世界基准上的有效性。
2021-02-02 cs.AI cs.LG
ESAD: End-to-end Deep Semi-supervised Anomaly Detection
Shanghai AI Laboratory（上海人工智能实验室）；Huawei Cloud & AI（华为云与人工智能）
本文探讨了半监督异常检测，一个更实际的设置异常检测，其中提供了一个小的额外的一组标记的样本。我们提出了一个新的KL-分歧为基础的半监督异常检测的目标函数，并表明两个因素：互信息之间的数据和潜在的表示，和熵的潜在表示，构成一个完整的异常检测的目标函数。为了解决同时优化这两个因素的矛盾，我们提出了一种新的编码器-解码器-编码器结构，第一个编码器专注于优化互信息和第二个编码器专注于优化熵。这两个编码器被强制共享相似的编码，并对它们的潜在表示进行一致的约束。大量的实验表明，该方法在多个基准数据集上的性能明显优于几种最先进的方法，包括医疗诊断和几个经典的异常检测基准。
2021-10-21 cs.CV cs.LG
Unsupervised Anomaly Detection via Variational Auto-Encoder for Seasonal KPIs in Web Applications
Tsinghua University（清华大学）；Alibaba Group（阿里巴巴集团）
为了确保业务不中断，大型互联网公司需要密切监控各种KPI（例如，网页浏览量、在线用户数量和订单数量），以准确检测异常情况并及时进行故障排除/缓解。然而，对于这些具有各种模式和数据质量的季节性KPI的异常检测一直是一个巨大的挑战，特别是在没有标签的情况下。本文提出了一种基于VAE的无监督异常检测算法Donut。由于我们的一些关键技术，Donut大大优于最先进的监督集成方法和基线VAE方法，其最佳F分数范围从0.75到0.9，用于研究来自全球顶级互联网公司的KPI。我们提出了一个新的KDE解释的重建甜甜圈，使其成为第一个基于VAE的异常检测算法与坚实的理论解释。
2018-02-12 cs.LG stat.ML
Anomaly Detection with Ensemble of Encoder and Decoder
McGill University（麦吉尔大学）；Hydro-Québec’s research institute（魁北克水电研究院）
来自对手的黑客攻击和虚假数据注入可能会威胁电网的日常运营并造成重大经济损失。电网异常检测的目的是检测和区分网络攻击对电力系统造成的异常，这对保持电网正常和高效运行至关重要。不同的方法已经被应用于异常检测，诸如统计方法和基于机器学习的方法。通常，基于机器学习的方法需要对正态数据分布进行建模。在这项工作中，我们提出了一种新的异常检测方法，通过多个编码器和解码器的正常样本的数据分布建模。具体地说，该方法将输入样本映射到一个潜在的空间，然后从潜在的向量重建输出样本。额外的编码器最终将重构样本映射到潜在表示。在训练阶段，我们通过最小化重建损失和编码损失来优化参数。训练样本被重新加权，以更多地关注正常数据特征之间的缺失相关性。此外，我们采用长短期记忆模型作为编码器和解码器，以测试其有效性。我们还研究了一个基于元学习的超参数调整框架。在网络入侵和电力系统数据集上的实验结果证明了我们所提出的方法的有效性，我们的模型始终优于所有基线。
2023-03-11 cs.LG
ID-Conditioned Auto-Encoder for Unsupervised Anomaly Detection
Samsung R\&D Institute Poland Artificial Intelligence Warsaw, Poland
在本文中，我们介绍了ID条件自动编码器的无监督异常检测。我们的方法是一个适应类条件自动编码器（C2AE）设计的开集识别。假设非异常样本由不同的ID组成，我们应用条件自动编码器，这些ID提供标签。相对于C2AE，我们的方法省略了分类子任务，并将学习过程减少到单次运行。我们通过固定一个常数向量作为不匹配标签的目标来进一步简化学习过程。我们将我们的方法应用于机器状态监测的声音的背景下。我们在DCASE 2020挑战任务2的ToyADMOS和MIMII数据集上评估了我们的方法。我们进行了一项消融研究，以表明我们的方法的哪些步骤对结果影响最大。
2020-09-08 cs.LG eess.AS
Anomaly detection with Wasserstein GAN
Airbus AI Research（空客人工智能研究院）；ISAE Supaero（法国高等航空航天学院）
生成对抗网络是一类生成算法，已被广泛用于生成最先进的样本。在本文中，我们研究了GAN对时间序列数据集进行异常检测。为了实现这一目标，参考书目的GAN和GAN用于异常检测的理论特性。一个Wasserstein GAN已被选择来学习正常数据分布的表示和一个堆叠的编码器与发生器执行异常检测。带有编码器的W-GAN似乎在MNIST数据集上产生了最先进的异常检测分数，我们研究了它在多变量时间序列上的使用。
2018-12-11 cs.LG stat.ML
AnoViT: Unsupervised Anomaly Detection and Localization with Vision Transformer-based Encoder-Decoder
Korea University（高丽大学）
图像异常检测问题的目的是确定图像是否异常，并检测异常区域。这些方法在制造业、医疗保健、智能信息等各个领域得到了积极应用。编码器-解码器结构已经被广泛用于异常检测领域，因为它们可以在无监督学习环境中容易地学习正常模式，并且通过指示输入图像和重构图像之间的差异的重构误差来计算用于识别异常的分数。因此，目前的图像异常检测方法普遍采用卷积编解码器，通过图像的局部特征提取正常信息。然而，它们的局限性在于，由于使用固定大小的滤波器的卷积运算的特性，在构造正常表示时只能利用图像的局部特征。因此，我们提出了一个基于视觉Transformer的编码器-解码器模型，命名为AnoViT，旨在反映正常的信息，通过额外的学习图像块之间的全局关系，这是能够图像异常检测和定位。所提出的方法构造了一个特征图，保持现有的位置信息的个人补丁，通过使用嵌入的所有补丁通过多个自我注意层。所提出的AnoViT模型在三个基准数据集上的表现优于基于卷积的模型。在MVTecAD中，这是异常定位的代表性基准数据集，与基线相比，15个类别中有10个类别的结果有所改善。此外，所提出的方法表现出良好的性能，无论类和类型的异常区域定位结果进行定性评价。
2022-03-21 cs.CV cs.LG
Counterfactual Explanation for Auto-Encoder Based Time-Series Anomaly Detection
Scania CV AB（斯堪尼亚汽车公司）；KTH Royal Institute of Technology（瑞典皇家理工学院）；RISE Research Institutes of Sweden（瑞典RISE研究院）；Linköping University（林雪平大学）
针对自编码器时间序列异常检测不透明的问题，本文结合特征选择与基于梯度的反事实解释，在 SKAB 和工业数据集上验证其可产生更稀疏且有效的决策解释。
2025-01-03 cs.LG
Unsupervised Anomaly Localization using Variational Auto-Encoders
German Cancer Research Center (DKFZ)（德国癌症研究中心（DKFZ））
对医学图像进行无干扰的自动检查，以发现潜在的监督异常，对于放射科医生来说是一个有价值的帮助。深度学习，特别是变分自动编码器（VAE）在数据分布的无监督学习中显示出巨大的潜力。原则上，这允许这样的检查，甚至定位图像中最可疑的部分。然而，目前，基于重建的设计定位需要调整模型架构，以适应评估过程中的特定问题。这与建立无约束模型的原则相矛盾。我们建议补充本地化的一部分，来自Kullback-Leibler（KL）发散项。为了验证，我们对FashionMNIST以及包括>1000名健康和>250名脑肿瘤患者的医疗任务进行了一系列实验。结果表明，所提出的形式主义优于最先进的基于VAE的异常定位在许多超参数设置，也显示出竞争力的最大性能。
2019-07-11 cs.LG eess.IV stat.ML
Statistical Test for Anomaly Detections by Variational Auto-Encoders
Nagoya Institute of Technology（名古屋工业大学）；Nagoya University（名古屋大学）；University of Information Technology（信息技术大学）；Vietnam National University（越南国家大学）；RIKEN（理化学研究所）
本文提出VAE-AD Test方法，基于选择性推断框架量化变分自编码器异常检测的统计可靠性，以p值控制错误检测概率，并在人工数据和脑图像分析中验证了其有效性。
2024-06-02 cs.LG stat.ML
A Graph Encoder-Decoder Network for Unsupervised Anomaly Detection
Concordia Institute for Information Systems Engineering（康考迪亚信息系统工程研究院）；Concordia University（康考迪亚大学）
本文提出一种无监督图编码器-解码器网络，利用无参数的局部约束线性编码池化（LCPool）和反池化（LCUnpool）学习异常评分函数，在六个基准数据集上超越现有最先进异常检测方法。
2023-10-15 cs.AI cs.LG
Anomaly Detection with Domain Adaptation
Stanford University（斯坦福大学）；Ford Greenfield Labs（福特格林菲尔德实验室）
研究了基于领域自适应的半监督异常检测问题。给定来自源域的一组正常数据和来自目标域的有限数量的正常示例，目标是在目标域中具有性能良好的异常检测器。我们提出了不变表示异常检测（IRAD）来解决这个问题，我们首先学习提取域不变表示。提取是通过一个跨域编码器与特定于源的编码器和生成器一起训练，通过对抗学习来实现的。然后使用学习的表示来训练异常检测器。我们在数字图像数据集（MNIST，USPS和SVHN）和对象识别数据集（EST-Home）上对IRAD进行了广泛的评估。实验结果表明，IRAD在不同数据集上的性能均优于基线模型。我们推导出一个理论上的联合误差的下限，解释了过度训练的性能衰减，也为泛化误差的上限。
2020-06-05 cs.LG stat.ML
Skip-GANomaly: Skip Connected and Adversarially Trained Encoder-Decoder Anomaly Detection
Durham University（杜伦大学）
尽管固有的不明确，异常检测是机器学习和视觉场景理解中非常感兴趣的研究工作。最常见的是，异常检测被认为是基于某种正态性度量的给定数据分布内的离群值的检测。在现实世界的异常检测问题中最重要的挑战是，可用的数据是高度不平衡的正常（即非异常），并包含所有可能的异常样本的子集-因此限制了使用完善的监督学习方法。相比之下，我们引入了一个无监督的异常检测模型，仅在正常（非异常，丰富）样本上进行训练，以学习域的正态分布，从而根据与该模型的偏差检测异常。我们提出的方法采用了一个编码器-解码器的卷积神经网络与跳跃连接，以彻底捕捉高维图像空间中的正常数据分布的多尺度分布。此外，针对所选架构利用对抗性训练方案在高维图像空间和低维潜在向量空间编码中提供了优异的重建。在训练期间最小化图像和隐藏向量空间内的重建误差度量有助于模型根据需要学习正态分布。因此，在随后的测试和部署期间较高的重建度量指示偏离该正态分布，因此指示异常。在X射线安全筛查的背景下，对已建立的异常检测基准和具有挑战性的真实世界数据集进行的实验显示了这种方法的独特前景。
2019-01-25 cs.CV cs.LG
Denoising Architecture for Unsupervised Anomaly Detection in Time-Series
Telekom Innovation Laboratories（电信创新实验室）；Eötvös Loránd University（厄特沃什·罗兰大学）
时间序列中的异常提供了从银行和航空航天到信息技术、安全和医学等一系列行业的关键场景的见解。然而，识别时间序列数据中的异常是特别具有挑战性的，因为异常的定义不精确，标签的频繁缺失，以及这些数据中存在的极其复杂的时间相关性。LSTM自动编码器是一种基于长短期记忆网络的异常检测编码器-解码器方案，它学习重构时间序列行为，然后使用重构错误来识别异常。我们引入去噪架构作为对LSTM编码器-解码器模型的补充，并研究其对现实世界以及人工生成的数据集的影响。我们证明了所提出的架构提高了准确性和训练速度，从而使LSTM Autoencoder在无监督异常检测任务中更有效。
2022-08-30 cs.AI cs.LG
Temporal transformer CAN encoder with federated lightweight heads for anomaly detection
ANADELTA P.C.（ANADEL塔公司）；Harokopio University of Athens（阿萨索皮奥雅典大学）
该研究提出一种带联邦轻量头的时间Transformer CAN编码器框架，用于车载网络异常检测，结合联邦学习与时间序列建模，在保障隐私和效率的同时实现稳健检测。
2026-10-09 cs.CR cs.LG
Unsupervised Contextual Anomaly Detection using Joint Deep Variational Generative Models
提出了一种用于无监督上下文异常检测的方法，该方法使用交叉链接的变分自动编码器对来为观察分配正态性分数。该方法能够将上下文属性与行为属性区分开，并且对于异常或新颖的上下文属性的存在是鲁棒的。该方法可以用包含异常的数据集进行训练，而无需任何特殊的预处理。
2019-04-01 cs.LG stat.ML
ADT: Agent-based Dynamic Thresholding for Anomaly Detection
University of Galway（戈尔韦大学）
本文针对异常检测中阈值设定研究不足的问题，提出基于深度Q网络的智能体动态阈值设定框架ADT，利用自编码器异常评分自适应调整阈值，并在三个真实数据集上验证了其有效性和鲁棒性。
2023-12-03 cs.AI cs.LG
Automated Antenna Testing Using Encoder-Decoder-based Anomaly Detection
Huawei Tech.（华为技术）；TU Munich（慕尼黑工业大学）；Huawei Technologies（华为技术）
我们提出了一种用于测试天线阵列的新方法，该方法使用吸收材料记录辐射电磁（EM）场，并使用条件编码器-解码器模型通过AI评估所产生的热图像系列。给定馈入每个阵列元件的信号的功率和相位，我们能够通过我们的训练模型重建正常序列，并将其与热成像相机观察到的真实序列进行比较。这些热谱图仅包含低级别模式，例如各种形状的斑点。然后，基于轮廓的异常检测器可以将重建误差矩阵映射到异常分数，以识别故障天线阵列，并将分类F-度量（F-M）增加高达46%。我们展示了我们的天线测试系统收集的时间序列热谱图上的方法。常规地，变分自编码器（VAE）学习观测噪声可产生比具有恒定噪声假设的VAE更好的结果。然而，我们证明，这是不是这样的低级别模式的异常检测的情况下，有两个原因。第一，基线度量重建概率，其中包括学习的观察噪声，无法区分异常模式。第二，具有较低观测噪声假设的VAE的受试者工作特征（ROC）曲线下的面积比具有学习噪声的VAE高11.83%。
2021-11-27 cs.LG eess.SP
AnomalyLLM: Few-shot Anomaly Edge Detection for Dynamic Graphs using Large Language Models
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；Beijing Institute of Technology（北京理工大学）；Jinan University（暨南大学）；Southeast University（东南大学）
针对动态图异常边检测中标注样本少且类型不断涌现的问题，提出AnomalyLLM，结合大语言模型与动态感知编码器，通过上下文学习实现少样本异常检测，并在无需更新参数的情况下有效识别新型异常。
2024-08-28 cs.AI cs.LG
Flex-GAD : Flexible Graph Anomaly Detection
IIT Bhilai（比哈尔理工学院）
检测属性网络中的异常节点，其中每个节点都与结构连接和描述性属性相关联，对于识别社交网络，学术引文图和电子商务平台等领域中的欺诈，错误信息和可疑行为至关重要。我们提出了Flex-GAD，一种新的无监督框架，用于在节点级别进行图异常检测。Flex-GAD集成了两个编码器来捕获图形数据的互补方面。该框架采用了一种新的基于社区的GCN编码器，将社区内和社区间的信息建模到节点嵌入中，从而确保结构的一致性，以及标准的属性编码器。这些不同的表示融合使用基于自我注意力的表示融合模块，它使自适应加权和有效的整合的编码信息。这种融合机制允许跨不同编码器自动强调最相关的节点表示。我们评估Flex-GAD在七个真实世界的属性图具有不同的大小，节点度和属性同质性。Flex-GAD的平均AUC比之前表现最好的方法GAD-NR提高了7.98%，证明了其在不同图形结构中的有效性和灵活性。此外，它还显著缩短了训练时间，在7个基准数据集上，平均每个epoch的运行速度比Anomaly DAE快102倍，比GAD-NR快3倍。
2025-10-29 cs.LG cs.SI
Correlation-aware Deep Generative Model for Unsupervised Anomaly Detection
School of Computer Science and Technology, Harbin University of Science and Technology（哈尔滨理工大学计算机科学与技术学院）；Fujian Provincial Key Laboratory of Information Processing and Intelligent Control, Minjiang University（闽江学院福建省信息处理与智能控制重点实验室）
无监督异常检测的目的是从高度复杂和非结构化的数据中识别异常样本，这在基础研究和工业应用中都很普遍。然而，大多数现有的方法忽略了数据样本之间的复杂相关性，这对于捕获异常模式偏离的正常模式非常重要。在本文中，我们提出了一种通过深度高斯混合模型（CADGMM）的相关性感知无监督异常检测方法，该方法捕获数据点之间的复杂相关性，用于高质量的低维表示学习。具体地说，数据样本之间的关系，首先相关的图形结构的形式，其中，节点表示的样本和边缘表示两个样本之间的相关性从特征空间。然后，采用由图编码器和特征编码器组成的双编码器，将样本的特征和相关信息联合编码到低维隐空间中，再由解码器进行数据重构。最后，一个单独的估计网络作为一个高斯混合模型被用来估计学习的特征向量的密度，并可以通过测量样本的能量来检测异常。在真实数据集上的大量实验证明了该方法的有效性。
2020-10-19 cs.LG stat.ML
Multivariate Time Series Anomaly Detection via Dual-Branch Reconstruction and Autoregressive Flow-based Residual Density Estimation
Zhejiang University（浙江大学）；Zhejiang Sci-Tech University（浙江理工大学）
本文提出DBR-AF框架，通过双分支重建和自回归流模块解决多变量时间序列异常检测中的过拟合和误判问题，实验表明其在多个基准数据集上表现优异。
2026-03-29 cs.AI cs.LG
Self-Distilled Masked Auto-Encoders are Efficient Video Anomaly Detectors
University of Bucharest（布加勒斯特大学）；NUST Politehnica Bucharest（布加勒斯特理工大学）；SecurifAI（SecurifAI公司）；MBZ University of Artificial Intelligence（MBZ人工智能大学）；Linköping University（林雪平大学）；University of Central Florida（中佛罗里达大学）
本研究提出一种基于轻量级帧级掩码自动编码器的高效视频异常检测模型，通过运动梯度token加权、师生解码器架构及合成异常增强训练，在四个基准上实现了速度与准确率的优异平衡，推理速度达1655 FPS。
2024-03-09 cs.CV cs.LG
Learning Feature Encoder with Synthetic Anomalies for Weakly Supervised Graph Anomaly Detection
Sichuan University（四川大学）；University of Connecticut（康涅狄格大学）；University of Electronic Science and Technology of China（电子科技大学）；University of Adelaide（阿德莱德大学）
本文提出一种弱监督图异常检测方法，通过合成异常生成鲁棒特征表示，结合多任务学习策略提升异常检测性能。
2026-05-12 cs.LG
Auditing Frozen-Encoder Anomaly Detection Across Mechanical Systems: Representation Provenance, Calibration, and Protocol Effects
Independent Researcher（独立研究者）
该研究通过跨物理系统检测弹性瞬态形态，利用预训练神经网络实现零样本异常分析，展示了在不同故障场景下的高分离性能及对相干结构的敏感性。
2026-09-02 astro-ph.IM cs.LG physics.data-an
Anomaly Detection And Classification In Time Series With Kervolutional Neural Networks
ETH Zürich（苏黎世联邦理工学院）
近年来，随着深度学习的发展，端到端神经网络架构越来越多地应用于状态监测信号。他们已经证明了优越的性能，故障检测和分类，特别是使用卷积神经网络。甚至最近，已经提出了卷积概念到卷积概念的扩展，在图像分类任务中具有一些有希望的结果。在本文中，我们探讨了潜在的卷积神经网络应用于时间序列数据。我们证明了使用卷积层和卷积层的混合可以提高模型性能。首先将混合模型应用于时间序列中的分类任务，作为基准数据集。随后，建议的混合架构被用来检测直升机上的加速度计记录的时间序列数据中的异常。我们提出了一种基于残差的异常检测方法，使用时间自动编码器。我们证明了在编码器中混合卷积层与卷积层对输入数据的变化更敏感，并且能够以更好的方式检测异常时间序列。
2020-05-14 cs.LG stat.ML
Multimodal Anomaly Detection based on Deep Auto-Encoder for Object Slip Perception of Mobile Manipulation Robots
Artificial Intelligence Institute, Seoul National University（首尔国立大学人工智能研究所）；Dept. of Computer Science and Engineering, Seoul National University（首尔国立大学计算机科学与工程系）；Interdisciplinary Program in Neuroscience, Seoul National University（首尔国立大学神经科学跨学科项目）；Surromind Inc.（Surromind公司）
针对移动操作机器人传感器信号受运动干扰的问题，提出基于深度自编码器的多模态异常检测方法，融合多类传感器数据实现物体滑动可靠检测。
2024-03-06 cs.LG cs.RO
Video Anomaly Detection via Prediction Network with Enhanced Spatio-Temporal Memory Exchange
University of Warwick（华威大学）
视频异常检测是一项具有挑战性的任务，因为大多数异常是稀缺的和不确定的。许多方法研究了正常和异常模式之间的重建差异，但忽略了异常不一定对应于大的重建误差。为了解决这个问题，我们设计了一个卷积LSTM自动编码器预测框架，该框架使用双向性和高阶机制来增强时空存储器交换。双向结构通过前向和后向预测促进学习时间规律性。独特的高阶机制进一步加强了编码器和解码器之间的空间信息交互。考虑到卷积LSTM中有限的感受野，我们还引入了一个注意力模块来突出预测的信息特征。异常最终通过将帧与其相应的预测进行比较来识别。三个流行的基准测试表明，我们的框架优于大多数现有的基于预测的异常检测方法。
2022-06-26 cs.CV cs.LG eess.IV
Supervised Anomaly Detection based on Deep Autoregressive Density Estimators
NTT Communication Science Laboratories（NTT通信科学实验室）；NTT Secure Platform Laboratories（NTT安全平台实验室）
我们提出了一种基于神经密度估计的监督异常检测方法，其中的负对数似然用于异常得分。密度估计已被广泛用于无监督异常检测。通过深度学习的最新进展，密度估计性能已经大大提高。然而，神经密度估计器不能利用异常标签信息，这将是有价值的，以提高异常检测性能。该方法通过训练神经密度估计器有效地利用了异常标签信息，使得正常实例的似然最大化，异常实例的似然低于正常实例的似然。我们采用自回归模型的神经密度估计，这使我们能够准确地计算的可能性。通过对16个数据集的实验，证明了该方法在少量标记异常实例的情况下提高了异常检测性能，并取得了比现有的无监督和有监督异常检测方法更好的性能。
2019-04-12 cs.LG stat.ML
PatchTrAD: A Patch-Based Transformer focusing on Patch-Wise Reconstruction Error for Time Series Anomaly Detection
INSA Rouen（鲁昂国立应用科学学院）；Univ Rouen（鲁昂大学）；Normandie Univ（诺曼底大学）
本文提出PatchTrAD，一种在重构框架下结合分块与Transformer编码器的时间序列异常检测模型，在多个基准上达到与前沿深度学习模型相当的检测性能，并提升推理效率。
2025-06-10 cs.AI cs.LG
AnomalyDAE: Dual autoencoder for anomaly detection on attributed networks
Harbin University of Science and Technology（哈尔滨理工大学）；Minjiang University（闽江学院）
属性网络异常检测的目标是发现模式与大多数参考节点有显著偏离的节点，这在网络入侵检测和社交垃圾邮件检测等应用中非常普遍。然而，大多数现有的方法忽略了网络结构和节点属性之间复杂的跨模态相互作用。在本文中，我们提出了一个深度联合表示学习框架，用于通过双自动编码器（AnomalyDAE）进行异常检测，该框架捕获网络结构和节点属性之间的复杂交互，以获得高质量的嵌入。具体而言，AnomalyDAE由结构自动编码器和属性自动编码器组成，以在潜在空间中联合学习节点嵌入和属性嵌入。此外，在结构编码器中引入注意力机制，学习节点与其邻居节点之间的重要性，从而有效地捕获结构模式，这对异常检测具有重要意义。此外，通过将节点嵌入和属性嵌入作为属性解码器的输入，在节点属性重构过程中学习网络结构和节点属性之间的跨模态交互。最后，通过从结构和属性两个角度测量节点的重构误差，可以检测异常。在真实数据集上的大量实验证明了该方法的有效性。
2020-02-12 cs.LG stat.ML
ScatterAD: Temporal-Topological Scattering Mechanism for Time Series Anomaly Detection
Chongqing University（重庆大学）；South China University of Technology（华南理工大学）
针对工业物联网多变量序列的时空耦合与异常离散问题，提出ScatterAD，通过时间、拓扑编码及对比融合建模表征散射，并在多个基准上达到最先进性能。
2025-09-29 cs.AI cs.LG
AIS-LLM: A Unified Framework for Maritime Trajectory Prediction, Anomaly Detection, and Collision Risk Assessment with Explainable Forecasting
提出AIS-LLM框架，将时间序列AIS数据与大语言模型集成，通过跨模态对齐在单一端到端系统中同时实现船舶轨迹预测、异常检测和碰撞风险评估，并生成可解释的态势简报，有效提升海上交通管理效率。
2025-08-11 cs.AI cs.LG
Log Message Anomaly Detection and Classification Using Auto-B/LSTM and Auto-GRU
University of Victoria（维多利亚大学）
日志消息在软件系统中得到了广泛的应用。它们对于分类很重要，因为每天生成数百万个日志。大多数日志都是非结构化的，这使得分类成为一项挑战。本文开发了称为Auto-LSTM、Auto-BLSTM和Auto-GRU的深度学习（DL）方法，用于异常检测和日志分类。这些模型用于将非结构化日志数据转换为适合分类算法的提取特征。他们使用四个数据集进行评估，即BGL，OpenStack，Thunderbird和IMDB。前三个是流行的日志数据集，而第四个是用于情感分类的电影评论数据集。结果表明，Auto-LSTM、Auto-BLSTM和Auto-GRU的性能优于其他知名算法。
2021-04-07 cs.LG stat.ML
Anomaly Detection with SDAE
University of Victoria（维多利亚大学）
异常检测是学习应用程序中用于纠正和/或删除错误数据的重要数据预处理步骤。使用自动编码器自动处理这种数据类型可以通过隔离手动或基本统计分析遗漏的异常来提高数据集的质量。简单，深度和监督深度自动编码器进行了训练，并在ASHRAE建筑能源数据集上进行了异常检测。考虑到模型训练的限制参数，深度自动编码器表现最好，然而，当考虑测试数据集时，监督深度自动编码器在检测到的总异常方面优于其他模型。
2020-04-09 cs.LG stat.ML
A Deep Neural Network for Unsupervised Anomaly Detection and Diagnosis in Multivariate Time Series Data
University of Notre Dame（圣母大学）；NEC Laboratories America, Inc.（NEC美国实验室公司）；Columbia University（哥伦比亚大学）
如今，多变量时间序列数据越来越多地收集在各种现实世界系统中，例如，发电厂、可穿戴设备等。多元时间序列中的异常检测和诊断是指识别特定时间步长中的异常状态并查明根本原因。然而，构建这样的系统是具有挑战性的，因为它不仅需要捕获每个时间序列中的时间依赖性，而且还需要对不同时间序列对之间的相互关联进行编码。此外，该系统应该对噪声具有鲁棒性，并根据不同事件的严重程度为操作员提供不同级别的异常评分。尽管已经开发了许多无监督的异常检测算法，但很少有人能够共同应对这些挑战。在本文中，我们提出了一个多尺度卷积递归编码器-解码器（MSCRED），进行异常检测和诊断的多变量时间序列数据。具体而言，MSCRED首先构造多尺度（分辨率）特征矩阵，以表征不同时间步长中的多个级别的系统状态。随后，给定的签名矩阵，卷积编码器被用来编码传感器间（时间序列）的相关性和基于注意力的卷积长短期记忆（ConvLSTM）网络被开发来捕获的时间模式。最后，基于对传感器间相关性和时间信息进行编码的特征图，卷积解码器被用于重构输入签名矩阵，并且残余签名矩阵被进一步用于检测和诊断异常。基于合成数据集和真实电厂数据集的广泛实证研究表明，MSCRED可以优于最先进的基线方法。
2018-11-20 cs.LG stat.ML
An Attention Free Conditional Autoencoder For Anomaly Detection in Cryptocurrencies
CREST-IP Paris（CREST-巴黎理工学院）；Université Paris Dauphine - PSL（巴黎多芬大学-PSL大学）
本文针对含噪加密货币时间序列异常检测，提出在条件自编码器中加入 Attention-Free LSTM 层的 AF-CA，相较 LSTM Autoencoder 提升了解释能力与异常检测效果。
2023-04-20 cs.AI cs.LG
Label-based Graph Augmentation with Metapath for Graph Anomaly Detection
Chungnam National University（忠南国立大学）；Ulsan National Institute of Science & Technology（蔚山国家科学技术研究院）；University of Vermont（佛蒙特大学）
针对无监督图异常检测因缺乏先验易检出无意义异常、标注异常数量有限的问题，提出基于元路径的MGAD框架，通过带GCN的双编码器-解码器传播上下文信息，在7个真实网络上性能优于前沿方法。
2024-04-12 cs.AI cs.LG
Autoencoders for Anomaly Detection are Unreliable
Radboud University（拉德堡德大学）
本文证明自编码器在异常检测中基于重建损失的假设不成立，异常可被完美重建，线性与非线性自编码器均存在风险，对安全关键应用构成威胁。
2025-01-23 cs.AI cs.LG
Reconstruct Anomaly to Normal: Adversarial Learned and Latent Vector-constrained Autoencoder for Time-series Anomaly Detection
时间序列的异常检测是一个被广泛研究的问题，具有重要的实际应用价值。近年来，异常检测算法大多基于深度学习生成模型，并使用重构误差来检测异常。在训练阶段通过重构正态数据来捕捉正态数据的分布，然后计算测试数据的重构误差来进行异常检测。然而，大多数方法在训练阶段只使用正常数据，不能保证异常数据的重建过程。因此，异常数据有时也可以很好地重建，重建误差很小，导致异常遗漏。这些算法没有充分利用时间序列数据中数据点的邻域信息。本文提出了一种基于异常重构为正态的RAN算法，并将其应用于无监督的时间序列异常检测。为了使正常数据的重建误差最小化，异常数据的重建误差最大化，我们不仅要保证正常数据的重建效果好，而且要尽量使异常数据的重建与正常数据的分布一致，这样异常数据的重建误差会更大。我们通过引入“模仿异常数据”并将专门设计的潜在向量约束自动编码器与编码器相结合来构建对手网络来实现这一想法。在ECG诊断等不同场景的时间序列数据集上进行的大量实验也表明，RAN可以检测到有意义的异常，并且在AUC-ROC方面优于其他算法。
2020-10-14 cs.LG stat.ML
Autoencoder based Anomaly Detection and Explained Fault Localization in Industrial Cooling Systems
Vienna University of Technology（维也纳工业大学）；Austrian Institute of Technology（奥地利技术研究所）；Hauser（豪瑟）；Siemens Technology（西门子科技）
由于数据维数高、传感器记录不一致以及缺乏标签，大型工业冷却系统中的异常检测非常具有挑战性。这些系统中的自动异常检测的现有技术通常依赖于专家知识和阈值。然而，数据被视为孤立和复杂的，多变量关系被忽视。在这项工作中，我们提出了一个基于自动编码器的端到端的工作流程，适用于大型工业冷却系统中的多变量时间序列数据的异常检测，包括解释故障定位和基于专家知识的根本原因分析。我们使用总重建误差（包括所有传感器信号的自动编码器重建误差）的阈值来识别系统故障。对于故障定位，我们计算单个重建误差（每个传感器信号的自动编码器重建误差），使我们能够识别对总重建误差贡献最大的信号。通过查找表提供专家知识，从而能够对受影响的子系统进行根本原因分析和分配。我们在一个冷却系统单元中展示了我们的发现，该单元包括34个传感器，使用4重交叉验证方法，并根据领域专家提供的阈值自动创建标签。使用4重交叉验证，我们的F1分数为0.56，而自动编码器结果显示出比自动创建的标签（CS为0.62）更高的一致性分数（CS为0.92）--这表明异常是以非常稳定的方式识别的。主要异常由自动编码器发现，并自动创建标签，并记录在日志文件中。此外，所解释的故障定位以非常一致的方式突出了主要异常的最受影响的组件。
2022-10-14 cs.AI cs.LG
Normality-Calibrated Autoencoder for Unsupervised Anomaly Detection on Data Contamination
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）；Harvard University（哈佛大学）
在本文中，我们提出了正常校准自动编码器（NCAE），它可以提高异常检测性能的污染数据集没有任何先验信息或显式异常样本在训练阶段。NCAE从具有低熵的潜在空间逆向生成高置信度的正常样本，并利用它们来预测训练数据集中的异常样本。NCAE经过培训，以最大限度地减少未污染样品中的重建误差，并最大限度地增加污染样品中的重建误差。实验结果表明，我们的方法优于浅层，混合和深层的方法进行无监督异常检测，并实现与半监督方法相比，在训练阶段使用标记的异常样本的性能。源代码可在`https：//github.com/andreYoo/NCAE_UAD.git '上公开获取。
2021-10-28 cs.AI cs.LG
Enhanced Anomaly Detection in Automotive Systems Using SAAD: Statistical Aggregated Anomaly Detection
West University of Timisoara（蒂米什瓦拉西部大学）；Gheorghe Asachi Technical University of Iasi（雅西格奥尔基·阿萨奇技术大学）；Faculty of Electrical Engineering（电气工程学院）
提出融合统计技术与 dropout 增强 FCN 的 SAAD 方法，并在汽车 HIL 真实传感器数据上验证，显著提升异常检测准确率与 F1 分数。
2024-06-11 cs.LG stat.ML
Context-encoding Variational Autoencoder for Unsupervised Anomaly Detection
German Cancer Research Center (DKFZ)（德国癌症研究中心（DKFZ））
无监督学习可以利用大规模数据源，而无需注释。在这种背景下，基于深度学习的自动编码器在检测医学图像中的异常方面显示出巨大的潜力。然而，国家的最先进的异常分数仍然是基于重建错误，这缺乏在两个重要部分：它忽略了模型内部表示重建，它缺乏正式的断言和样本之间的可比性。我们通过提出上下文编码变分自编码器（ceVAE）来解决这些缺点，该上下文编码器将重建与基于密度的异常评分相结合。这改善了样本以及像素方面的结果。在我们对BraTS-2017和ISLES-2015分割基准的实验中，ceVAE分别实现了0.95和0.89的无监督ROC-AUC，从而大大优于最先进的方法。
2018-12-14 cs.LG stat.ML
Unsupervised Anomaly Detection with Adversarial Mirrored AutoEncoders
University of Maryland College Park（马里兰大学帕克分校）；IBM Research（IBM研究院）
在所有机器学习应用中，检测出分布外（OOD）样本至关重要。深度生成建模已经成为一种主要的范式，可以对没有标签的复杂数据分布进行建模。然而，先前的工作已经表明，与训练它们的数据分布相比，生成模型倾向于为OOD样本分配更高的可能性。首先，我们提出了对抗性镜像自动编码器（AMA），这是对抗性自动编码器的一个变体，它在镜像中使用镜像Wasserstein损失来执行更好的语义级重建。我们还提出了一个潜在的空间正则化学习一个紧凑的流形分布样本。AMA的使用产生更好的特征表示，提高异常检测性能。其次，我们提出了一种替代措施的异常得分，以取代重建为基础的度量，这是传统上使用的生成模型为基础的异常检测方法。我们的方法优于当前国家的最先进的方法异常检测几个OOD检测基准。
2021-01-03 cs.LG stat.ML
Anomaly Detection for Water Treatment System based on Neural Network with Automatic Architecture Optimization
Kaspersky Lab（卡巴斯基实验室）
我们继续开发我们的神经网络（NN）为基础的预测方法，异常检测（AD）使用安全水处理（SWaT）工业控制系统（ICS）测试平台数据集。我们提出了遗传算法（GA）找到最好的NN架构为给定的数据集，使用NAB度量来评估不同架构的质量。分析了F1度量的缺陷。提出了几种提高AD质量的技术：指数加权平滑，平均p幂误差度量，每个变量的单个误差权重，不相交的预测窗口。在此基础上，介绍了一种异常解释方法。
2018-07-19 cs.LG stat.ML
Contrastive predictive coding for Anomaly Detection in Multi-variate Time Series Data
NUS（新加坡国立大学）；Institute for Infocomm Research (IR) A*STAR（新加坡科技研究局资讯通信研究院）
多变量时间序列（MVTS）数据中的异常检测是一个巨大的挑战，因为它需要同时表示多个变量之间的长期时间依赖性和相关性。更多的时候，这是通过一次建模一个依赖来打破复杂性来解决的。在本文中，我们提出了一个时间序列表示学习通过对比预测编码（TRL-CPC）对MVTS数据的异常检测。首先，我们联合优化编码器，自回归器和非线性变换函数，以有效地学习MVTS数据集的表示，用于预测未来趋势。必须注意的是，上下文向量代表MTVS中的观察窗口。接下来，将通过这些上下文向量的非线性变换获得的后续时刻的潜在表示与多变量的编码器的潜在表示进行对比，使得正对的密度最大化。因此，TRL-CPC有助于对健康信号模式的参数的时间依赖性和相关性进行建模。最后，将潜在表征拟合到高斯评分函数中以检测异常。在三个MVTS数据集上对SOTA异常检测方法进行的评估表明了TRL-CPC的优越性。
2022-02-08 cs.LG
Non-contact Sensing for Anomaly Detection in Wind Turbine Blades: A focus-SVDD with Complex-Valued Auto-Encoder Approach
EPFL（洛桑联邦理工学院）；University of Glasgow（格拉斯哥大学）
针对风电叶片制造缺陷，提出基于FMCW雷达非接触传感与focus-SVDD的异常检测方法，利用复值自编码器及EAD激活函数去除健康特征，性能优于现有无监督方法。
2023-06-19 cs.LG cs.RO eess.SP
Semi-supervised Anomaly Detection using AutoEncoders
University of Waterloo（滑铁卢大学）
异常检测是指从正常数据中发现异常情况的任务。在一些应用中，与正常情况相比，这些异常值或异常情况更受关注。特别是在工业光学检测和基础设施资产管理的情况下，发现这些缺陷（异常区域）是极其重要的。传统上，甚至在今天，这个过程都是手动进行的。人类依赖于与正常纹理相比的缺陷的显著性来检测缺陷。然而，人工检查是缓慢的，繁琐的，主观的，容易受到人为偏见。因此，期望缺陷检测的自动化。但是对于缺陷检测，缺乏大量异常实例和标记数据的可用性是一个问题。在本文中，我们提出了一种用于异常检测的卷积自动编码器架构，该架构仅在无缺陷（正常）实例上进行训练。对于测试图像，通过从自动编码器输出减去原始图像而获得的残余掩模被阈值化以获得缺陷分割掩模。该方法在两个数据集上进行了测试，并取得了令人印象深刻的平均F1分数0.885。即使在训练过程中没有使用缺陷图像，网络也学会了检测缺陷的实际形状。
2020-01-06 cs.CV cs.LG eess.IV
AHEAD: A Triple Attention Based Heterogeneous Graph Anomaly Detection Approach
Xi’an Jiaotong University（西安交通大学）；University of Virginia（弗吉尼亚大学）；University of Washington（华盛顿大学）；Ant Financial（蚂蚁金服）
属性网络上的图异常检测因其在许多有影响力的领域中的广泛应用而成为一个热门的研究课题。在现实世界中，属性网络中的节点和边通常表现出明显的异质性，即不同类型节点的属性表现出极大的多样性，不同类型的关系表现出不同的意义。在这些网络的异质性的各种角度来看，异常通常表现得与大多数不同。然而，现有的图异常检测方法没有利用属性网络中的异质性，这是高度相关的异常检测。针对这一问题，我们提出了AHEAD：一种基于编码器-解码器框架的异质性感知无监督图异常检测方法。具体而言，编码器设计了属性级、节点类型级和边级三个层次的注意力，分别用于捕捉网络结构、节点属性和单个节点信息的异质性。在解码器中，我们利用结构，属性和节点类型重建条款，以获得每个节点的异常得分。大量的实验表明，AHEAD的优越性在几个现实世界的异构信息网络相比，在无监督设置的艺术。进一步的实验验证了我们的三重注意力，模型骨干和解码器的有效性和鲁棒性。
2022-08-17 cs.LG cs.SI
