Anomaly Detection of Wind Turbine Time Series using Variational Recurrent Autoencoders
Hochschule Bonn-Rhein-Sieg(波恩-莱茵-锡格应用技术大学);Fraunhofer Center for Machine Learning and SCAI(弗劳恩霍夫机器学习中心与SCAI)
风力涡轮机叶片中的冰积累会导致它们描述异常旋转或根本不旋转,从而影响发电和功率输出。在这项工作中,我们调查的问题,在风力涡轮机的冰积累,它作为多变量时间序列的异常检测框架。我们的方法集中在两个主要部分:第一,使用变分递归自动编码器(VRAE)学习时间序列的低维表示,第二,使用无监督聚类算法将学习的表示分类为正常(无冰积累)或异常(冰积累)。我们已经评估了我们的方法在一个自定义的风力涡轮机时间序列数据集上,对于两类问题(一个正常类与一个异常类),我们在测试数据上获得了高达96 $\%$的分类精度。对于多类问题(一个正常类与多个异常类),我们提出了一个定性分析的低维学习的潜在空间,提供洞察我们的方法来解决这样的问题的能力。代码复制这项工作可以在这里找到https://github.com/agrija9/Wind-Turbines-VRAE-Paper。
2021-12-05 cs.LG
RSM-GAN: A Convolutional Recurrent GAN for Anomaly Detection in Contaminated Seasonal Multivariate Time Series
North Carolina State University(北卡罗来纳州立大学);Intuit Inc.(财捷公司)
强大的异常检测是监控复杂的现代系统的一项要求,这些系统具有网络安全、欺诈预防和维护等应用。这些系统生成多个相关的时间序列,这些时间序列具有高度的季节性和噪声。本文提出了一种用于多变量时间序列异常检测的新型无监督深度学习架构,称为鲁棒季节性多变量生成对抗网络(RSM-GAN)。它扩展了GANs的最新进展,采用了卷积LSTM层和注意力机制来产生最先进的性能。我们进行了大量的实验,以证明我们的架构在调整复杂的季节性模式和处理严重的训练数据污染水平的实力。我们还提出了一个新的异常分数分配和因果推理框架。我们将RSM-GAN与现有的经典和基于深度学习的异常检测模型进行了比较,结果表明,我们的架构具有最低的误报率,并且在真实世界和合成数据中分别将精度提高了30%和16%。此外,我们报告了RSM-GAN在所有数据设置中准确识别根本原因和NAB评分方面的优越性。
2019-11-16 cs.LG stat.ML
Convolutional Recurrent Reconstructive Network for Spatiotemporal Anomaly Detection in Solder Paste Inspection
KAIST(韩国科学技术院);Koh Young Technology, Inc.(高永科技股份有限公司)
表面贴装技术(SMT)是一种生产印刷电路板的工艺。SMT使用焊膏印刷机(SPP)、封装贴装机和回流焊炉。焊膏检测器(SPI)对从SPP沉积焊膏的电路板进行监控。如果SPP由于打印机缺陷而发生故障,SPP会产生有缺陷的产品,然后SPI会检测到异常图案。在本文中,我们提出了一个卷积递归重构网络(CRRN),它分解的打印机缺陷产生的异常模式,从SPI数据。CRRN只学习正常数据,通过重构误差检测异常模式。CRRN由空间编码器(S-Encoder)、时空编码器和解码器(ST-Encoder-Decoder)以及空间解码器(S-Decoder)组成。ST-编码器-解码器由具有ST-注意机制的多个卷积时空存储器(CSTM)组成。CSTM被开发用于有效地提取时空模式。此外,时空注意(ST-注意)机制的设计,以促进从ST-编码器的ST-解码器,这可以解决长期依赖性问题的信息传输。我们证明了建议CRRN优于其他传统的模型在异常检测。此外,我们通过打印机缺陷分类显示由建议CRRN分解的异常图的判别力。
2019-08-22 cs.LG eess.IV stat.ML
GRAD: Real-Time Gated Recurrent Anomaly Detection in Autonomous Vehicle Sensors Using Reinforced EMA and Multi-Stage Sliding Window Techniques
Faculty of Computer Engineering, K.N.Toosi University of Technology(计算机工程学院,凯恩托西技术大学)
本文提出GRAD,一种结合REMA与多阶段滑动窗口及轻量级GRU的实时异常检测方法,在自动驾驶传感器上实现高精度(F1达97.6%)与低计算成本,并具备数据恢复能力。
2025-10-27 cs.LG
CSCAD: Correlation Structure-based Collective Anomaly Detection in Complex System
Xidian University(西安电子科技大学);JD Intelligent Cities Research(京东智能城市研究院);JD Technology(京东科技)
检测大型复杂系统中的异常是一项关键且具有挑战性的任务。困难来自几个方面。首先,在现实世界的系统中,收集异常的真实标签或先验知识是困难的,这通常会导致数据集中的异常标签有限或没有异常标签。其次,由于设备或传感器之间的底层依赖结构,大型系统中的异常通常以集体的方式发生。最后,高维数据的实时异常检测需要能够处理不同类型数据(即连续和离散)的有效算法。针对大型系统中的高维异常检测问题,提出了一种基于关联结构的集体异常检测(CSCAD)模型,该模型也可推广到半监督或监督环境.我们的框架利用图卷积网络结合变分自编码器,共同利用样本的特征空间相关性和重构缺陷来执行异常检测。提出了一种扩展的互信息(EMI)度量,用于挖掘不同数据特征之间的内在关联结构,增强了CSCAD的数据重构能力。重构损失和重构网络得到的样本的潜在标准差向量可以看作是两个自然的异常程度度量。然后,可以使用低异常度样本作为正样本,使用高异常度样本作为负样本来训练异常判别网络。在五个公共数据集上的实验结果表明,我们的方法始终优于所有竞争基线。
2021-05-30 cs.LG
SALAD: Self-Adaptive Lightweight Anomaly Detection for Real-time Recurrent Time Series
Norwegian University of Science and Technology(挪威科技大学);Simula Research Laboratory(西穆拉研究实验室)
现实世界的时间序列数据往往呈现出循环或重复的模式,并且通常是实时的生成的,例如交通客运量,网络流量,系统资源消耗,能源使用和人类步态。基于机器学习方法在这样的时间序列数据中检测异常事件已经在许多不同领域中成为活跃的研究主题。然而,大多数机器学习方法需要标记的数据集,离线训练,并且可能遭受高计算复杂度,从而阻碍了它们的适用性。提供一种轻量级的自适应方法,不需要预先离线训练,同时能够实时的检测异常,这可能是非常有益的。这种方法可以立即应用并部署在任何商用机器上,以提供及时的异常警报。为了促进这种方法,本文介绍了SALAD,这是一种自适应轻量级异常检测方法,基于一种称为长短期记忆(LSTM)的特殊类型的递归神经网络。SALAD不使用离线训练,而是将目标时间序列动态转换为一系列平均绝对相对误差(AARE)值,并根据短期历史AARE值预测每个即将到来的数据点的AARE值。如果计算的AARE值与其对应的预测AARE值之间的差高于自适应检测阈值,则认为对应的数据点异常。否则,数据点被认为是正常的。基于两个真实世界的开源时间序列数据集的实验表明,SALAD在检测精度方面优于其他五种最先进的异常检测方法。此外,结果还表明,SALAD是轻量级的,可以部署在一个商品机器上。
2021-05-04 cs.LG
Anomaly Detection for Non-stationary Time Series using Recurrent Wavelet Probabilistic Neural Network
Imperial College London(伦敦帝国理工学院)
针对非平稳环境下的时间序列异常检测问题,提出融合堆叠循环编解码器与多感受野小波概率网络的无监督RWPNN框架,在45个多领域真实数据集上验证了其鲁棒准确的检测及预警能力。
2025-05-16 cs.LG eess.SP
Quantum Gated Recurrent GAN with Gaussian Uncertainty for Network Anomaly Detection
Institut Quantique(量子研究所);Thales Digital Solutions Canada(泰雷兹加拿大数字解决方案公司)
针对网络异常检测,提出一种基于QGRU的GAN,采用连续数据注入与多度量门控策略,结合高斯不确定性、Wasserstein评论家与重构误差识别异常,在基准数据集上TaF1达89.43%并在IBM量子硬件上验证了可行性。
2025-10-30 cs.LG cs.NI
Recurrent Auto-Encoder With Multi-Resolution Ensemble and Predictive Coding for Multivariate Time-Series Anomaly Detection
Korea University(高丽大学)
由于大规模的时间序列数据在实际应用中很容易被发现,因此多元时间序列异常检测在各个行业中发挥着重要作用。它可以通过基于时间序列数据预防故障和检测异常来提高生产率并降低维护成本。然而,多变量时间序列异常检测是具有挑战性的,因为真实世界的时间序列数据表现出复杂的时间依赖性。对于这项任务,关键是要学习一个丰富的表示,有效地包含正常行为的非线性时间动态。在这项研究中,我们提出了一个无监督的多变量时间序列异常检测模型RAE-MEPC学习信息正常表示的基础上,多分辨率集成和预测编码。我们引入多分辨率集成编码来捕获输入时间序列的多尺度依赖性。编码器分层地聚合从具有不同编码长度的子编码器提取的时间特征。根据这些编码特征,重构解码器基于多分辨率系综解码来重构输入时间序列,其中较低分辨率信息有助于解码具有较高分辨率输出的子解码器。预测编码被进一步引入以鼓励模型学习时间序列的时间依赖性。在真实世界基准数据集上的实验表明,该模型在多变量时间序列异常检测方面优于基准模型。
2022-02-21 cs.AI cs.LG
Anomaly Detection in Beehives using Deep Recurrent Autoencoders
University of Würzburg(维尔茨堡大学)
精确养蜂可以通过在蜂箱上安装传感器来监测蜜蜂的生活条件。这些蜂箱记录的数据可以通过机器学习模型进行分析,以学习蜂群的行为模式或搜索蜂群中的异常事件。一个典型的目标是早期发现蜜蜂群集,因为养蜂人出于经济原因希望避免这种情况。先进的方法应该能够检测出蜜蜂疾病或技术原因(如传感器故障)引起的任何其他不寻常或异常行为。在这份立场文件中,我们提出了一个自动编码器,一个深度学习模型,它可以检测数据中任何类型的异常,而不依赖于其来源。我们的模型能够揭示与简单的基于规则的群检测算法相同的群,但也可以由任何其他异常触发。我们在真实世界的数据集上评估了我们的模型,这些数据集是在不同的蜂巢和不同的传感器设置上收集的。
2020-03-10 cs.LG eess.SP stat.ML
Smart Meter Data Anomaly Detection using Variational Recurrent Autoencoders with Attention
Technical University of Denmark(丹麦技术大学);Niras(尼拉斯公司)
在能源系统的数字化过程中,传感器和智能仪表越来越多地用于监测生产、运营和需求。基于智能电表数据的异常检测对于早期识别潜在风险和异常事件至关重要,可以作为及时采取适当行动和改善管理的参考。然而,来自能源系统的智能电表数据通常缺乏标签,并且包含噪声和各种没有明显周期性的模式。同时,不同能量场景下异常的模糊定义和高度复杂的时间相关性给异常检测带来了巨大的挑战。许多传统的无监督异常检测算法,如基于聚类或基于距离的模型对噪声不鲁棒,并且没有充分利用时间序列中的时间依赖性以及多个变量(传感器)之间的其他依赖性。提出了一种基于注意力机制的变分递归自编码器的无监督异常检测方法。利用来自智能电表的“脏”数据,我们的方法预先检测缺失值和全局异常,以在训练时缩小它们的贡献。通过与基于VAE的基线方法和其他四种无监督学习方法的定量比较,证明了该方法的有效性和优越性。最后,以某工业供热厂供水温度异常检测为例,进一步验证了该方法的有效性。
2022-06-08 cs.DB cs.LG eess.SP
One-class Collective Anomaly Detection based on Long Short-Term Memory Recurrent Neural Networks
Institute of Military Science and Technology(军事科学技术研究院);University College Dublin(都柏林大学学院)
计算机网络系统的入侵检测已经成为当今网络管理员的重要任务之一。由于承载在计算机网络上的宝贵资源,它对组织、政府和我们的社会具有重要作用。传统的误用检测策略无法检测到新的和未知的入侵类型。与此相反,网络安全中的异常检测旨在区分非法或恶意事件与网络系统的正常行为。异常检测可以被认为是一个分类问题,它建立正常网络行为的模型,用于检测明显偏离模型的新模式。目前的异常检测方法大多是基于正常行为和异常行为的学习。它们不包括记忆,也就是说,它们不考虑以前的事件,对新事件进行分类。本文提出了一种基于神经网络学习的一类集体异常检测模型。通常,长短期记忆递归神经网络(LSTM RNN)只在正常数据上训练,并且它能够预测输入之前的几个时间步长。在我们的方法中,LSTM RNN在对每个时间步进行预测之前,都是在正常的时间序列数据上进行训练的。代替单独考虑每个时间步,现在提出从一定数量的时间步观测预测误差作为检测集体异常的新思想。超过阈值的一定数量的最新时间步长的预测误差将指示集体异常。该模型的时间序列版本的KDD 1999数据集进行评估。实验表明,该模型能够有效地检测群体异常
2018-01-31 cs.LG stat.ML
CoBAD: Modeling Collective Behaviors for Human Mobility Anomaly Detection
Carnegie Mellon University(卡内基梅隆大学)
针对集体移动异常检测未被充分探索的问题,提出CoBAD模型,通过两阶段注意力机制建模个体时空依赖与交互,检测意外共现和缺席异常,在大规模数据集上AUCROC和AUCPR显著优于基线。
2025-08-13 cs.AI cs.LG cs.SI
Recurrent Neural Networks for anomaly detection in the Post-Mortem time series of LHC superconducting magnets
AGH University of Science and Technology(AGH科技大学);The European Organization for Nuclear Research - CERN(欧洲核子研究组织 - CERN)
本文提出了一种基于LSTM和GRU深度学习算法的模型,用于促进大型强子对撞机超导磁体的异常检测。我们使用Post Mortem数据库中的高分辨率数据来训练一组模型,并选择最佳的超参数集。使用深度学习方法可以检查大量数据,并提取需要进一步专家检查并被视为异常的片段。所提出的方法不需要繁琐的手动阈值设置和操作员的注意力在系统设置的阶段。取而代之的是,自动的方法,它实现了根据我们的实验准确率为99%。这是针对302 MB的最大数据集和以下网络架构实现的:单层LSTM,128个单元,20个训练时期,look_back=16,look_ahead=128,grid=100和优化器Adam。所有实验均在GPU Nvidia Tesla K80上运行
2017-02-02 cs.LG physics.acc-ph physics.ins-det
Anomaly Detection on Graph Time Series
本文利用变分递归神经网络研究了图时间序列的异常检测问题。时间相关性由递归神经网络(RNN)和变分推理(VI)的组合来建模,而空间信息由图卷积网络来捕获。为了更好地考虑外部因素,我们使用特征提取器来增加隐变量的转换,从而可以学习外部因素的影响。以累积ELBO为目标函数,可以方便地将该模型推广到在线方法。对交通流数据的实验研究表明了该方法的检测能力。
2022-05-29 cs.LG cs.NE stat.ML
Series2Graph: Graph-based Subsequence Anomaly Detection for Time Series
EDF R&D(法国电力集团研发中心);Université de Paris(巴黎大学);French University Institute (IUF)(法国大学研究院)
长序列中的子序列异常检测是一个重要的问题,有着广泛的应用。然而,到目前为止,在文献中提出的方法有严重的局限性:它们要么需要用于设计异常发现算法的先验领域知识,或者在具有相同类型的经常性异常的情况下使用变得繁琐和昂贵。在这项工作中,我们解决这些问题,并提出了一个无监督的方法适用于域不可知子序列异常检测。我们的方法,Series2Graph,是基于一个新的低维嵌入的连续性的图形表示。Series2Graph既不需要标记实例(如监督技术),也不需要无异常数据(如零正学习技术),并识别不同长度的异常。在迄今为止使用的最大一组合成和真实数据集上的实验结果表明,所提出的方法可以正确识别单一和经常性异常,而无需事先了解其特征,在准确性方面大大优于几种竞争方法,同时速度更快。本文发表在VLDB 2020上。
2022-07-25 cs.LG
ML-based Anomaly Detection in Optical Fiber Monitoring
ADVA Optical Networking SE(ADVA光网络公司)
光网络中安全可靠的数据通信是高速互联网的关键。提出了一种数据驱动的光网络异常检测和故障识别方法,用于诊断光纤断裂和光窃听等物理攻击。所提出的方法包括基于自动编码器的异常检测和基于注意力的双向门控递归单元算法的光纤故障识别和定位。我们验证了我们的方法的效率,在各种攻击情况下,使用真实的操作数据的实验。
2022-02-23 cs.CR cs.LG eess.IV
Network Traffic Anomaly Detection Using Recurrent Neural Networks
Sotera Defense Solutions, a KeyW Company(索特拉防务解决方案公司(KeyW旗下公司));Cybraics(赛博艾克斯公司);DZYNE Technologies(迪赞科技公司);Cynnovative(辛诺瓦蒂公司)
我们证明了一个递归神经网络能够学习一个模型来表示网络上计算机之间的通信序列,并可用于识别异常网络流量。防御计算机网络是一个具有挑战性的问题,并且通常通过手动识别已知的恶意行为者行为,然后指定规则来识别网络通信中的这种行为来解决。然而,这些基于规则的方法通常概括性很差,只能识别研究人员已知的模式。不依赖于已知恶意行为模式的替代方法也可以潜在地检测先前未见过的模式。我们将netflow标记化并压缩成一系列“单词”,这些单词形成代表计算机之间对话的“句子”。然后,这些句子被用来生成一个模型,该模型学习新生成的语言的语义和句法语法。我们使用长短期记忆(LSTM)细胞循环神经网络(RNN)来捕捉这种语言的复杂关系和细微差别。然后使用语言模型预测两个IP之间的通信,并且使用预测误差作为所观察到的通信的典型性或实用性的度量。通过学习特定于每个网络的模型,但一般化到网络内和网络外的典型计算机到计算机业务,语言模型能够识别相对于该模型为离群值的网络活动序列。我们在ISCX IDS数据集上展示了积极的无监督攻击识别性能(AUC 0.84),该数据集包含七天的正常流量和四种不同的攻击模式的网络活动。
2018-03-28 cs.CY cs.HC cs.LG
Anomaly Detection in IEC-61850 GOOSE Networks: Evaluating Unsupervised and Temporal Learning for Real-Time Intrusion Detection
Computer Science(计算机科学);Boise State University(博伊西州立大学);Boise, Idaho USA(爱达荷州博伊西市)
本文评估了无监督时间建模在GOOSE网络异常检测中的有效性,比较了四种模型在ERE NO数据集上的性能,发现GRU在准确率与延迟之间取得最佳平衡,支持无监督时间模型在实时入侵检测中的应用。
2026-04-14 cs.CR cs.LG
Driver Action Prediction Using Deep (Bidirectional) Recurrent Neural Network
Toyota InfoTechnology Center USA(美国丰田信息技术中心)
通过有效的驾驶员动作预测(DAP),可以显著改善高级驾驶员辅助系统(ADAS)。早期准确地预测驾驶员的行为可以帮助减轻潜在的不安全驾驶行为的影响,避免可能发生的事故。在本文中,我们制定了驾驶员行为预测作为一个时间序列异常预测问题。虽然异常(感兴趣的驾驶员动作)检测在这种情况下可能是微不足道的,但是找到始终先于异常的模式需要跨多模态感觉输入搜索或提取特征。我们提出了这样的驾驶员动作预测系统,包括用于预测未来或即将发生的驾驶员动作的实时数据采集、处理和学习框架。除了传统的车辆动力学,该系统还结合了基于摄像头的驾驶环境和驾驶员自身的知识。然后,它使用深度双向循环神经网络(DBRNN)来学习感官输入与即将发生的驾驶员行为之间的相关性,从而实现准确和高水平的动作预测。所提出的系统在驾驶员动作预测任务上比其他现有系统表现更好,并且可以在驾驶员执行动作之前5秒的持续时间内准确地预测关键驾驶员动作,包括加速、制动、变道和转弯。
2017-06-07 cs.AI cs.CV cs.LG
The model of an anomaly detector for HiLumi LHC magnets based on Recurrent Neural Networks and adaptive quantization
AGH University of Science and Technology(AGH科技大学);Alma Mater Europaea - European Center Maribor(阿尔玛·马特尔·欧罗巴埃亚—马里博尔欧洲中心);The European Organization for Nuclear Research - CERN(欧洲核子研究组织(CERN))
本文重点研究了递归神经网络模型用于检测CERN超导磁体异常行为的适用性。为了进行实验,作者设计并实现了一种自适应信号量化算法和一个定制的基于GRU的检测器,并开发了一种检测器参数选择的方法。三个不同的数据集用于测试检测器。使用两个人工生成的数据集来评估系统的原始性能,而由从HiLumi磁体获取的信号组成的231 MB数据集旨在用于真实实验和模型训练。几个不同的设置开发的异常检测系统进行了评估,并与国家的最先进的OC-SVM参考模型在相同的数据上运行。OC-SVM模型配备了一组丰富的特征提取器,用于解释一系列输入信号属性。在实验过程中确定,对于几乎所有测试集,检测器及其支持的设计方法达到F1等于或非常接近1。由于数据的轮廓,检测器的best_length设置在检测系统的所有五种测试配置方案中表现最好。量化参数对检测器的整体性能影响最大,输入/输出网格的最佳值分别等于16和8。在大多数情况下,所提出的检测解决方案的性能明显优于基于OC-SVM的检测器,在所有数据集上都具有更稳定的性能。
2017-11-25 cs.LG physics.acc-ph physics.ins-det
Dual Spatial-Temporal Attribution: Architecture-Aligned Post-Hoc Explainability for Recurrent Graph Anomaly Detection
National Higher School of Computer Science (ESI)(国家高等计算机科学学院(ESI));Université Claude Bernard Lyon 1(里昂第一大学(克洛德·贝尔纳里昂第一大学))
该研究针对AddGraph框架提出双时空归因机制的事后可解释性框架X-AddGraph,在不损失检测性能的前提下为动态图边级异常检测提供可解释性,其长期归因能力优于空间盲解释器。
2026-08-14 cs.AI cs.LG
Detecting Cyberattacks in Industrial Control Systems Using Convolutional Neural Networks
Ben Gurion university(本-古里安大学)
本文提出了一种使用无监督深度神经网络(具体为卷积神经网络)检测工业控制系统(ICS)网络攻击的研究。该研究是在SecureWater Treatment testbed(SWaT)数据集上进行的,该数据集代表了现实世界工业水处理厂的缩小版本。我们提出了一种基于测量预测值与观测值的统计偏差的异常检测方法。我们通过使用各种深度神经网络架构(包括卷积和递归网络的不同变体)来应用所提出的方法。SWaT的测试数据集包括36种不同的网络攻击。所提出的方法成功地检测到了绝大多数的攻击,具有较低的误报率,从而改善了以前的作品基于此数据集。研究结果表明,一维卷积网络可以成功地应用于工业控制系统中的异常检测,并优于更复杂的递归网络,同时更小,更快的训练。
2018-12-10 cs.CR cs.LG
A unified framework for detecting point and collective anomalies in operating system logs via collaborative transformers
CoLog通过协作变换器统一检测操作系统日志中的点异常和集体异常,实现高精度和召回率。
2025-12-29 cs.AI cs.CV cs.LG
Random Partitioning Forest for Point-Wise and Collective Anomaly Detection -- Application to Intrusion Detection
IRISA(法国国家信息与自动化研究所/雷恩信息与随机系统研究所(IRISA));CNRS(法国国家科学研究中心);Université Bretagne Sud(南布列塔尼大学)
在本文中,我们提出了DiFF-RF,一个集成的方法组成的随机分区二叉树来检测逐点和集体(以及上下文)的异常。由于在树的叶子上使用了基于距离的范例,这种半监督方法解决了隔离森林(IF)算法中已经确定的缺点。此外,考虑到随机树的叶子中的访问频率允许在考虑集体异常的存在时显著提高DiFF-RF的性能。DiFF-RF是相当容易的训练,并通过使用一个简单的半监督过程来设置额外的超参数,引入,可以获得良好的性能。我们首先在一组合成数据上评估DiFF-RF,以i)验证IF算法的限制被克服,ii)演示如何实际检测到集体异常,以及iii)分析它涉及的元参数的影响。我们评估的DiFF-RF算法从UCI存储库的一个大的数据集,以及两个基准相关的入侵检测应用程序。我们的实验表明,DiFF-RF几乎系统地优于IF算法,但也挑战了一类SVM基线和深度学习变分自动编码器架构。此外,我们的经验表明,DiFF-RF可以在小规模学习数据的情况下工作得很好,而这对于深度神经架构来说是困难的。最后,DiFF-RF计算效率高,可以在多核架构上轻松并行化。
2021-01-14 cs.LG stat.ML
Robust Audio Anomaly Detection
Purdue University(普渡大学);Amazon Web Services(亚马逊云科技)
我们提出了一个离群鲁棒的多元时间序列模型,可用于检测以前看不见的异常声音的基础上嘈杂的训练数据。所提出的方法不假设训练数据集中存在标记异常,并使用一种新的深度神经网络架构来学习多分辨率下多变量时间序列的时间动态,同时对训练数据集中的污染具有鲁棒性。时间动态建模使用增加了注意力机制的递归层。这些递归层建立在卷积层之上,允许网络以多种分辨率提取特征。该网络的输出是一个离群鲁棒概率密度函数,它模拟了给定时间序列历史的未来样本的条件概率。国家的最先进的方法使用其他多分辨率架构与我们提出的方法进行对比。我们使用公开的机器声音数据集来验证我们的解决方案。我们证明了我们的方法在异常检测的有效性,通过比较几个国家的最先进的模型。
2022-02-03 cs.LG cs.SD eess.AS
RecLight: A Recurrent Neural Network Accelerator with Integrated Silicon Photonics
Colorado State University(科罗拉多州立大学)
递归神经网络(RNN)用于学习数据序列中的依赖关系的应用,例如语音识别、人类活动识别和异常检测。近年来,较新的RNN变体,如GRU和LSTM,已被用于实现这些应用程序。由于许多这些应用程序都是在实时场景中使用的,因此加速RNN/LSTM/GRU推理至关重要。在本文中,我们提出了一种新的光子硬件加速器RecLight,用于加速简单的RNN,GRU和LSTM。仿真结果表明,与最先进的技术相比,RecLight的每比特能量降低了37倍,吞吐量提高了10%。
2022-08-31 cs.AR cs.LG cs.NE
Comparison of RNN Encoder-Decoder Models for Anomaly Detection
Hankuk University of Foreign Studies(韩国外国语大学)
在本文中,我们比较了不同类型的递归神经网络(RNN)编码器-解码器在异常检测的观点。我们专注于寻找可以更有效地学习相同数据的模型。我们在相同的条件下比较了多个模型,例如参数的数量,优化器和学习率。然而,区别在于是预测未来序列还是恢复当前序列。我们用简单的向量构建了数据集,并将它们用于实验。最后,我们通过实验证实,当模型恢复当前序列时,模型的性能更好,而不是预测未来序列。
2018-07-19 cs.LG stat.ML
Variational Inference for On-line Anomaly Detection in High-Dimensional Time Series
Technische Universität München(慕尼黑工业大学);fortiss(福蒂斯研究所)
近似变分推断已被证明是建模未知复杂概率分布的有力工具。该领域的最新进展使我们能够学习积极利用空间和时间结构的序列的概率模型。我们应用随机递归网络(STORN)来学习机器人时间序列数据。我们的评估表明,我们可以鲁棒地检测异常离线和在线。
2016-06-14 cs.LG stat.ML
Anomaly Detection in Cloud Components
Ryerson University(瑞尔森大学)
云平台,在引擎盖下,由硬件和软件组件的复杂互连堆栈组成。这些组件中的每一个都可能发生故障,这可能导致停机。我们的目标是通过分析资源利用率指标来早期检测此类故障,从而提高云服务的质量。我们测试了基于Gated-Recurrent-Unit的自动编码器,使用似然函数检测各种多维时间序列中的异常,并实现了高性能。
2020-08-07 cs.DC cs.LG cs.SE
Machine Learning-based Anomaly Detection in Optical Fiber Monitoring
ADVA Optical Networking SE(ADVA光网络公司);Christian-Albrechts-Universität zu Kiel(基尔大学)
光网络中安全可靠的数据通信是高速互联网的关键。然而,用作向全世界数十亿用户提供连接的数据传输介质的光纤易于发生由硬故障(例如,光纤切断)和恶意物理攻击(例如,光窃听(光纤窃听))等。这种异常可能导致网络中断,从而引起巨大的财务和数据损失,或者通过获得对所承载数据的未授权访问而损害光网络的机密性,或者逐渐降低网络操作。因此,它是非常需要实现有效的异常检测,诊断和定位方案,以提高光网络的可用性和可靠性。在本文中,我们提出了一种数据驱动的方法来准确,快速地检测,诊断和定位光纤异常,包括光纤切割,和光学窃听攻击。该方法结合了基于自动编码器的异常检测和基于注意力的双向门控递归单元算法,前者用于故障检测,后者用于故障诊断和定位,一旦检测到异常的自动编码器。我们验证了我们所提出的方法的效率,在各种异常情况下,使用真实的操作数据的实验。实验结果表明:(i)自动编码器检测到任何光纤故障或异常,F1得分为96.86%;(ii)基于注意力的双向门控递归单元算法以98.2%的平均准确率识别检测到的异常,并以0.19 m的平均均方根误差定位故障。
2022-03-19 cs.LG cs.NI
TreeMIL: A Multi-instance Learning Framework for Time Series Anomaly Detection with Inexact Supervision
Zhejiang University(浙江大学);NetEase Fuxi AI Lab(网易伏羲人工智能实验室)
针对非精确监督下时间序列集体异常难以检测的问题,本文提出 TreeMIL,用 N 叉树建模多尺度子序列并聚合特征生成点级异常分数,在七个数据集上显著优于八个基线。
2024-01-20 cs.AI cs.LG
ARISE: Graph Anomaly Detection on Attributed Networks via Substructure Awareness
National University of Defense Technology(国防科技大学);Chongqing University of Posts and Telecommunications(重庆邮电大学);Intelligent Game and Decision Laboratory(智能博弈与决策实验室)
针对现有属性网络图异常检测忽略集体拓扑异常模式的问题,提出基于子结构感知的框架ARISE,通过区域提议模块识别拓扑异常、结合图对比学习检测属性异常,在基准数据集上性能显著优于现有方法。
2023-10-01 cs.LG
Sequence Aggregation Rules for Anomaly Detection in Computer Network Traffic
KeyW Corporation(KeyW公司)
我们评估的方法,将无监督的异常检测应用到网络安全应用程序上的计算机网络流量数据,或流。我们从自然语言处理文献中借用,并将流概念化为机器之间的一种“语言”。评估了五个序列聚合规则在标记流数据集CICIDS2017中标记多种攻击类型的有效性。对于序列建模,我们依赖于长短期记忆(LSTM)递归神经网络(RNN)。此外,还描述了一个简单的基于频率的模型,并将其在攻击检测方面的性能与LSTM模型进行了比较。我们的结论是,对于手头的任务,基于频率的模型往往表现得与LSTM模型一样好或更好,但有一些明显的例外。
2018-05-14 cs.CR cs.CY cs.LG
Anomaly Detection in Beehives: An Algorithm Comparison
University of Würzburg(维尔茨堡大学);Institute of Computer Science, Chair of Computer Science X, University of Würzburg(维尔茨堡大学计算机科学研究所计算机科学X教授)
装有传感器的蜂箱可以监测蜜蜂的生活条件。机器学习模型可以使用这些蜂巢的数据来学习行为模式并发现异常事件。由于经济原因,养蜂人特别感兴趣的一种类型的事件是蜜蜂群集。其他感兴趣的事件是来自疾病的行为异常和技术异常,例如传感器故障。养蜂人可以得到合适的机器学习模型的支持,这些模型可以检测这些事件。在本文中,我们比较了多个机器学习模型的异常检测和评估他们的适用性的背景下,蜂箱。即采用深度递归自编码器、椭圆包络、孤立森林、局部离群因子和单类支持向量机。通过对不同蜂巢和不同传感器设置的真实世界数据集的评估,我们发现相比之下,自动编码器是最好的多用途异常检测器。
2021-10-08 cs.LG
Recurrent Estimation of Distributions
Carnegie Mellon University(卡内基梅隆大学)
本文提出了一种半参数形式的实值数据模型的回归估计分布(RED)。RED模型将递归神经网络(RNN)用于一般实值数据的密度估计的两种新用途。首先,RNN用于将输入协变量转换为潜在空间,以更好地捕获输入中的条件依赖性。之后,使用RNN计算潜在协变量的条件分布。由此产生的模型是有效的训练,计算和采样,同时产生规范化的pdf。RED的有效性通过几个真实世界的数据实验。我们的研究结果表明,RED模型在多个数据集大小和维度上实现了比其他神经网络方法更低的保持负对数似然。通过考虑异常检测任务,我们还观察到比替代模型更好的性能,提供了RED功效的进一步背景。
2017-05-30 cs.LG stat.ML
Multivariate Anomaly Detection based on Prediction Intervals Constructed using Deep Learning
University of the Witwatersrand(金山大学);University of Johannesburg(约翰内斯堡大学)
事实证明,在某些情况下,深度学习模型在预测方面可以优于传统的统计方法。此外,已经开发了用于量化预测不确定性(预测区间)的各种技术。在本文中,我们利用人工神经网络的帮助下构建的预测区间检测异常的多元设置。现有的基于深度学习的异常检测方法的挑战包括$(i)$可能是计算密集型的参数的大集合,$(ii)$返回太多的假阳性,使得该技术不实用,$(iii)$需要标记的数据集用于训练,这在现实生活中通常不普遍。我们的方法克服了这些挑战。我们将我们的方法与通常首选的成熟统计模型进行基准测试。我们重点研究了三种深度学习架构,即级联神经网络、水库计算和长短期记忆递归神经网络。我们的发现是深度学习优于后者(或者至少是竞争对手)。
2021-10-07 cs.LG
AMAD: Adversarial Multiscale Anomaly Detection on High-Dimensional and Time-Evolving Categorical Data
Indiana University Bloomington(印第安纳大学伯明顿分校);Alibaba Group(阿里巴巴集团)
异常检测在许多重要的行业领域面临着新的挑战,例如网络安全和在线推荐和广告。这些领域的最新趋势要求在没有标记样本的情况下对具有高维分类特征的时间演化数据进行异常检测。此外,越来越需要以多种分辨率识别和监测不规则模式。在这项工作中,我们提出了一种统一的端到端方法,通过结合对抗性自动编码器和递归神经网络的优势来解决这些挑战。该模型通过注意力机制学习不同尺度的数据表示,并在此基础上针对实例和数据块开发了增强的双分辨率异常检测器。在三种类型的数据集上进行了大量的实验,以证明我们的方法的有效性及其优于最先进的方法。
2019-07-12 cs.LG stat.ML
Unsupervised Anomaly Detection in Process-Complex Industrial Time Series: A Real-World Case Study
Universität Augsburg(乌尔姆大学);Technische Hochschule Augsburg(奥格斯堡技术大学);Independent Researcher(独立研究者)
本文研究了工业时间序列中复杂过程的异常检测,通过对比经典模型与自编码器,发现自编码器在多尺度动态建模中表现更优,尤其是时序卷积自编码器。
2026-04-15 cs.LG
Time Series Anomaly Detection with label-free Model Selection
Palo Alto Networks(帕洛阿尔托网络公司)
时间序列数据的异常检测成为许多数据驱动应用程序的一项重要任务,这些应用程序拥有丰富的数据和开箱即用的机器学习算法。在许多现实环境中,开发一个可靠的异常模型是非常具有挑战性的,由于不足的异常标签和异常的例子获得成本昂贵。它提出了一个重要的瓶颈,以评估模型的质量,模型选择和参数调整可靠。因此,许多现有的异常检测算法在部署后未能显示出它们所承诺的性能。在本文中,我们提出了LaF-AD,一种新的异常检测算法与无标记的模型选择的未标记的时间序列数据。我们提出的算法在大量的候选参数模型中执行完全无监督的集成学习。我们开发了一个模型方差度量,量化的异常概率的灵敏度与自举方法。然后,它作出集体决策的异常事件的模型学习器使用的模型方差。我们的算法是很容易并行化,更强大的病态和季节性的数据,大量的异常模型和高度可扩展性。我们评估我们的算法对其他国家的最先进的方法合成域和基准公共数据集。
2021-06-11 cs.LG
Detection of Thin Boundaries between Different Types of Anomalies in Outlier Detection using Enhanced Neural Networks
Islamic Azad University(伊斯兰阿扎德大学);Institute for Advanced Studies in Basic Sciences(基础科学高级研究所);Petanux GmbH(佩塔努克斯有限公司)
离群点检测在各个领域都受到了特别的关注,主要是那些处理机器学习和人工智能的领域。异常作为强异常,分为点异常、上下文异常和集体异常。异常值检测中最重要的挑战包括远程点和自然区域之间的薄边界、新数据和噪声模仿真实数据的趋势、未标记的数据集以及不同应用中异常值的不同定义。考虑到上述挑战,我们定义了新类型的异常,称为集合正态异常和集合点异常,以提高对不同类型异常之间的薄边界的更好检测。基本的领域独立的方法被引入到检测这些定义的异常在无监督和监督数据集。利用遗传算法对多层感知器神经网络进行了增强,以更高的精度检测新定义的异常,从而确保测试误差小于传统多层感知器神经网络的计算误差。在基准数据集上的实验结果表明,与基线相比,异常检测过程的错误减少。
2020-01-24 cs.LG cs.NE stat.ML
Detecting Spacecraft Anomalies Using LSTMs and Nonparametric Dynamic Thresholding
NASA Jet Propulsion Laboratory(美国国家航空航天局喷气推进实验室);California Institute of Technology(加州理工学院)
随着航天器发回越来越多的遥测数据,需要改进异常检测系统,以减轻操作工程师的监测负担并降低操作风险。目前的航天器监测系统仅针对异常类型的子集,并且由于涉及规模和复杂性的挑战,通常需要昂贵的专业知识来开发和维护。我们证明了长短期记忆(LSTMs)网络,一种递归神经网络(RNN),在克服这些问题,使用专家标记的遥测异常数据从土壤水分主动被动(SMAP)卫星和火星科学实验室(MSL)漫游车,Currency。我们还提出了一个补充的无监督和非参数异常阈值的方法,在试点实施的异常检测系统SMAP,并提供误报缓解策略以及其他关键的改进和发展过程中吸取的经验教训。
2018-06-06 cs.LG stat.ML
Real-Time Machine Learning for Embedded Anomaly Detection
Department of Computer Science(计算机科学系);LIMA Laboratory(LIMA实验室);Chadli Bendjedid University(Chadli Bendjedid大学);Systems (LAMIS)(系统(LAMIS));Echahid Cheikh Larbi Tebessi University(Echahid Cheikh Larbi Tebessi大学)
本文综述了嵌入式环境中实时异常检测的轻量级机器学习方法,分析了算法性能与硬件限制的权衡,并提供了算法选择的实用建议。
2025-12-22 cs.LG
MMWSTM-ADRAN+: A Novel Hybrid Deep Learning Architecture for Enhanced Climate Time Series Forecasting and Extreme Event Prediction
Kirkuk University(基尔库克大学);Çukurova University(库库罗瓦大学)
针对极端气温短期预测难题,本文提出双流混合深度学习架构MMWSTM-ADRAN+,通过双分支特征提取、自适应融合与极端值加权损失,提升日最高气温及极端事件预测性能。
2025-11-17 cs.LG physics.ao-ph
GADformer: A Transparent Transformer Model for Group Anomaly Detection on Trajectories
Kiel University(基尔大学)
本文提出GADformer,一种基于BERT的透明Transformer模型,用于无监督和半监督设置下的轨迹群体异常检测,并引入BAS评分增强模型透明度,在合成与真实数据集上验证了其鲁棒性。
2024-04-25 cs.LG
Deep RAN: A Scalable Data-driven platform to Detect Anomalies in Live Cellular Network Using Recurrent Convolutional Neural Network
MTN IranCell
在本文中,我们提出了一种新的算法来检测关键参数指标(KPI)的活细胞网络的基础上的组合的递归神经网络(RNN),卷积神经网络(CNN),作为递归卷积神经网络(R-CNN)的异常。CNN对空间相关性和信息进行建模,而RNN对时间相关性和信息进行建模。本文研究的蜂窝网络包括2G、3G、4G和4.5G技术,KPI包括小区的语音和数据流量。数据和语音流量对于无线网络的所有者来说非常重要,因为它直接关系到用户体验的收入和服务质量。这些流量变化的发生有几个原因:由于特殊事件,使相邻站点处于空中或关闭状态,或者通过将流量转移到其他技术,例如将流量从3G转移到4G,用户行为发生变化。传统上,为了保持网络的稳定,需要在每个时间间隔内逐层观察流量,以检测KPI的重大变化,在大规模的电信网中,这将是过于耗时和异常检测的准确性低。然而,所提出的算法能够以时间有效和准确的方式检测网络的每个元素的异常KPI。它观察流量层的趋势,并将其分为8个流量类别:正常,突然增加,逐渐增加,突然减少,逐渐减少,快速站点,新站点和停机站点。此分类任务使供应商和运营商能够检测其实时网络中的异常情况,以保持KPI处于正常趋势。该算法是训练和测试的真实数据集上的细胞网络超过25000个细胞。
2019-11-10 cs.LG cs.NI eess.SP
Unsupervised Anomaly Detection on Temporal Multiway Data
Applied AI Institute, Deakin University(迪肯大学应用人工智能研究所)
时间异常检测寻找时空上的不规则性。到目前为止,所采用的无监督时态模型通常工作在特征向量序列上,而很少工作在时态多路数据上。我们的研究集中在双向数据上,其中在每个时间步观察到一个数据矩阵。利用矩阵原生递归神经网络的最新进展,我们研究了用于时间多路异常检测的数据排列和无监督训练策略。这些包括压缩-解压缩、编码-预测和时间数据差分。我们进行了一系列全面的实验,以评估合成数据、移动数字和ECG记录在各种设置下的模型行为。我们发现了以前没有报道过的有趣现象。其中包括紧凑矩阵LSTM几乎完美地压缩噪声数据的能力,使得压缩-解压缩数据的策略不适合噪声下的异常检测。此外,长序列的向量可以直接通过矩阵模型来处理,该模型允许非常长的上下文和多步预测。总体而言,编码预测策略在所进行的实验中对于矩阵LSTM非常有效,这要归功于其紧凑性和更好地适应数据动态。
2020-09-20 cs.AI cs.LG
Source-Agnostic Gravitational-Wave Detection with Recurrent Autoencoders
California Institute of Technology(加州理工学院)
提出了一种基于深度递归自编码器的异常检测技术在激光干涉仪探测引力波信号中的应用。在噪声数据上训练,这类算法可以使用无监督策略来检测信号,即,而不针对特定的来源。我们开发了一个自定义架构来分析来自两个干涉仪的数据。我们将获得的性能与其他自动编码器架构和卷积分类器获得的性能进行比较。与更传统的监督技术相比,所提出的策略的无监督性质在准确性方面具有成本。另一方面,在将实验灵敏度概括为超出预先计算的信号模板的集合方面有定性增益。循环自编码器优于其他基于不同架构的自编码器。本文提出的递归自编码器类可以补充用于引力波探测的搜索策略,并扩展正在进行的探测活动的范围。
2021-12-14 astro-ph.IM cs.LG gr-qc
Real-Time Proactive Anomaly Detection via Forward and Backward Forecast Modeling
California State University, Northridge(加州州立大学北岭分校)
本文提出前向预测模型和后向重建模型,通过结合TCNs、GRUs和Transformer实现主动异常检测,提升异常预测的及时性和准确性。
2026-02-12 cs.LG
GLAD: Group Anomaly Detection in Social Media Analysis- Extended Abstract
University of Southern California(南加州大学)
传统的社交媒体异常检测多集中在单个点的异常上,而异常现象通常发生在群体中。因此,研究个体的集体行为和发现群体异常是有价值的。现有的群体异常检测方法依赖于群体已知的假设,这在现实世界的社交媒体应用中几乎是不可能的。在本文中,我们采取了生成的方法,提出了一个分层贝叶斯模型:组潜在异常检测(GLAD)模型。GLAD以成对和逐点数据作为输入,自动推断组并同时检测组异常。为了考虑社交媒体数据的动态特性,我们进一步将GLAD推广到其动态扩展d-GLAD。我们进行了广泛的实验,以评估我们的模型在合成和现实世界的数据集。实验结果表明,我们的方法是有效的和强大的发现潜在群体和检测群体异常。
2014-10-07 cs.LG cs.SI
An Unsupervised Short- and Long-Term Mask Representation for Multivariate Time Series Anomaly Detection
National University of Defense Technology(国防科技大学);College of Computer Science and Technology(计算机科学与技术学院);Institute for Quantum Information(量子信息研究所)
多元时间序列的异常检测对于系统行为监测具有重要意义。提出了一种基于无监督短时和长时掩码表示学习(SLMR)的异常检测方法。其主要思想是分别利用多尺度残差扩张卷积和门控递归单元(GRU)提取多元时间序列的短期局部依赖模式和长期全局趋势模式。此外,我们的方法可以理解的时间上下文和特征相关性,结合时空掩蔽自监督表示学习和序列分裂。该方法考虑到特征的重要性不同,引入注意力机制来调整各特征的贡献。最后,一个基于预测的模型和一个基于重构的模型相结合,专注于单时间戳预测和时间序列的潜在表示。实验表明,我们的方法的性能优于其他国家的最先进的模型在三个真实世界的数据集。进一步的分析表明,我们的方法是良好的可解释性。
2022-08-19 cs.AI cs.LG
Exploring the impact of Optimised Hyperparameters on Bi-LSTM-based Contextual Anomaly Detector
Norwegian University of Science and Technology(挪威科技大学)
本文提出UoCAD-OH框架,通过离线优化Bi-LSTM的超参数并在在线阶段检测异常,在两个智能家居空气质量数据集上验证了优化超参数对无监督上下文异常检测性能的提升。
2025-01-25 cs.AI cs.LG
Real-Time Anomaly Detection in Video Streams
Paris 8 University(巴黎第八大学);U. Paris 8(巴黎第八大学);U. Strasbourg(斯特拉斯堡大学);U. Paris Est Créteil(巴黎东部克雷泰伊大学);U. Paris Saclay(巴黎萨克雷大学);U. Lyon 1(里昂第一大学);Othello(奥赛罗公司)
本研究针对视频流实时危险检测问题,提出结合时空分析的新方法,整合目标检测等技术并扩展可解释性技术,所提架构支持二/多分类,通过特定模型组合与专有数据集训练,实现灵活可靠的实时异常检测。
2024-11-29 cs.CV cs.LG
Graph Neural AI with Temporal Dynamics for Comprehensive Anomaly Detection in Microservices
Boston University(波士顿大学);Carnegie Mellon University(卡内基梅隆大学);University of California, San Diego(加利福尼亚大学圣迭戈分校);Hofstra University(霍夫斯特拉大学);University of Southern California(南加州大学)
本文提出一种结合图神经网络与门控循环单元的微服务异常检测与根因追踪统一框架,通过结构与时序联合建模以及节点和路径级异常评分,在多项指标上优于基线方法。
2025-11-05 cs.LG