Graph Neural Network-Based Anomaly Detection in Multivariate Time Series
National University of Singapore(新加坡国立大学)
给定高维时间序列数据(例如,传感器数据),我们如何检测异常事件,如系统故障和攻击?更具挑战性的是,我们如何以一种捕获复杂的传感器间关系的方式来做到这一点,并检测和解释偏离这些关系的异常情况?最近,深度学习方法已经能够改进高维数据集中的异常检测;然而,现有方法没有显式地学习变量之间现有关系的结构,或者使用它们来预测时间序列的预期行为。我们的方法结合了结构学习方法与图神经网络,另外使用注意力权重来提供检测到的异常的可解释性。在两个真实传感器数据集上进行的实验表明,我们的方法比基线方法更准确地检测异常,准确地捕获传感器之间的相关性,并允许用户推断检测到异常的根本原因。
2021-06-13 cs.AI cs.LG
GraphSubDetector: Time Series Subsequence Anomaly Detection via Density-Aware Adaptive Graph Neural Network
DAMO Academy, Alibaba Group(阿里巴巴达摩院)
针对时间序列子序列异常检测的三大挑战,提出GraphSubDetector:通过自适应子序列长度选择机制和密度感知自适应图神经网络(DAGNN)学习鲁棒表示,在多个基准数据集上性能优于先进算法。
2024-11-26 cs.AI cs.LG
Learning Graph Neural Networks for Multivariate Time Series Anomaly Detection
在这项工作中,我们提出了GLUE(图形偏差网络与本地不确定性估计),最近提出的图形偏差网络(GDN)的基础上。GLUE不仅可以自动学习变量之间的复杂依赖关系,并使用它们来更好地识别异常行为,还可以量化其预测的不确定性,使我们能够解释数据中的变化,并具有更多可解释的异常检测阈值。两个真实世界数据集上的结果告诉我们,优化负高斯对数似然是合理的,因为GLUE的预测结果与GDN相当,实际上优于向量自回归基线,这是重要的,因为GDN直接优化了MSE损失。总之,我们的实验表明,GLUE在异常检测方面与GDN具有竞争力,并具有不确定性估计的额外好处。我们还表明,GLUE学习有意义的传感器嵌入集群相似的传感器在一起。
2021-12-07 cs.AI cs.LG
Unsupervised Anomaly Detection in Stream Data with Online Evolving Spiking Neural Networks
Warsaw University of Technology(华沙理工大学);TECNALIA(泰克纳利亚);University of the Basque Country (UPV/EHU)(巴斯克大学(UPV/EHU))
流数据中的无监督异常发现是一个具有实际应用价值的研究课题。然而,在许多情况下,不容易收集具有标记的异常的足够训练数据用于异常检测器的监督学习,以便稍后部署它来识别流数据中的真实异常。因此,重要的是设计能够在不访问标记的训练数据的情况下正确地检测异常的异常检测器。我们的想法是适应在线进化脉冲神经网络(OeSNN)分类器的异常检测任务。因此,我们提供了一个在线进化的脉冲神经网络的无监督异常检测算法(OeSNN-UAD),它,不像OeSNN,工作在一个无监督的方式,不分离输出神经元到不相交的决策类。OeSNN-UAD使用我们提出的新的两步异常检测方法。此外,我们推导出OeSNN的神经元模型和输入层编码的新的理论性质,这使得我们的OeSNN-UAD方法能够更有效地检测异常。所提出的OeSNN-UAD检测器与Numenta Anomaly Benchmark和Yahoo Anomaly Datasets存储库中的流数据中的异常的最先进的无监督和半监督检测器进行了实验比较。我们的方法优于文献中提供的其他解决方案的情况下,从Numenta异常基准存储库的数据流。此外,在雅虎异常基准存储库的真实数据文件的情况下,OeSNN-UAD优于其他选定的算法,而在雅虎异常基准合成数据文件的情况下,它提供了有竞争力的结果,最近在文献中报道的结果。
2021-03-08 cs.AI cs.LG cs.NE
Feedforward Neural Network for Time Series Anomaly Detection
Tencent Company(腾讯公司);National University of Singapore(新加坡国立大学)
时间序列异常检测通常被表述为发现相对于一些通常数据的异常数据点,这也是工业界和学术界的一个重要问题。为了确保系统稳定运行,互联网公司,银行和其他公司需要监控时间序列,这被称为KPI(关键性能指标),如CPU使用量、订单数、在线用户数等。然而,数以百万计的时间序列有几种形状(例如,季节性KPI、定时任务的KPI和所使用的CPU的KPI),使得很难使用简单的统计模型来检测所有类型的时间序列的异常。虽然一些异常检测器已经发展了很多年,一些监督模型也可以在这个领域,我们发现许多方法都有自己的缺点。在本文中,我们提出了我们的系统,这是基于深度前馈神经网络和检测时间序列的异常点。我们的系统与其他基于监督模型的系统之间的主要区别在于,我们不需要对时间序列进行特征工程来训练深度前馈神经网络,这本质上是一个端到端的系统。
2018-12-21 cs.AI cs.LG stat.ML
DeepAlign: Alignment-based Process Anomaly Correction using Recurrent Neural Networks
Technische Universität Darmstadt(达姆施塔特工业大学);Telecooperation Lab(远程合作实验室);Darmstadt, Germany(德国达姆施塔特(此处仅保留机构名,国家城市按要求不额外加入,实际机构为前两项))
在本文中,我们提出了DeepAlign,一种新的方法,多角度的过程异常校正,基于循环神经网络和双向束搜索。DeepAlign算法的核心是两个经过训练的循环神经网络,用于预测下一个事件。一个是从左到右读取流程执行序列,而另一个是从右到左读取序列。通过结合这两个神经网络的预测能力,我们表明,它是可以计算序列比对,这是用来检测和纠正异常。DeepAlign利用案例级和事件级属性对流程中的决策进行紧密建模。我们评估我们的方法的性能上精心制作的数据语料库的252个现实的合成事件日志,并比较它的三个国家的最先进的一致性检查方法。DeepAlign产生的校正优于其他字段,在所有数据集上达到$0.9572$的总体$F_1$评分,而最佳可比的最先进方法达到$0.6411$。
2020-03-23 cs.AI cs.LG
A Uniform Framework for Anomaly Detection in Deep Neural Networks
College of Computer Science and Technology, Jinan University(暨南大学计算机科学与技术学院);School of Information Technology and Electric Engineering, University of Queensland(昆士兰大学信息技术与电气工程学院);Jinan University(暨南大学);University of Queensland(昆士兰大学)
深度神经网络(DNN)在应用于来自与训练集相同分布的分布内(ID)数据时可以实现高性能。当出现非ID的异常输入时,DNN的输出应被视为无意义。然而,现代DNN通常将异常输入预测为具有高置信度的ID类,这是危险和误导的。在这项工作中,我们考虑了三类异常输入,(1)来自与DNN训练不同的分布的自然输入,称为分布外(OOD)样本,(2)由攻击者从ID生成的精心制作的输入,通常称为对抗(AD)样本,以及(3)从无意义数据生成的噪声(NS)样本。我们提出了一个框架,旨在为预训练的DNN检测所有这些异常。与现有的一些作品不同,我们的方法不需要对输入数据进行预处理,也不依赖于任何已知的OOD集或对抗攻击算法。通过对用于检测上述异常的各种DNN模型的广泛实验,我们表明,在大多数情况下,我们的方法在识别所有三类异常方面优于最先进的异常检测方法。
2021-10-06 cs.AI cs.LG
Graph Neural Networks based Log Anomaly Detection and Explanation
Leiden University(莱顿大学)
提出 Logs2Graphs 与 OCDiGCN,将事件日志构建为带属性有向加权图并进行无监督图级异常检测,同时给出关键节点解释,在五个基准上性能优异。
2024-01-24 cs.AI cs.LG cs.SE
Guarding Graph Neural Networks for Unsupervised Graph Anomaly Detection
College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院);Zhejiang Key Laboratory of Accessible Perception and Intelligent Systems(浙江可感知感知与智能系统重点实验室);Department of Computer Science, Rensselaer Polytechnic Institute(罗切斯特理工学院计算机科学系)
针对无监督图异常检测中GNNs受异常干扰的问题,提出G3AD框架,通过辅助网络与相关性约束及自适应缓存模块守护GNNs,在合成和真实数据集上超越二十种最先进方法。
2025-05-24 cs.AI cs.LG
GeoTrackNet-A Maritime Anomaly Detector using Probabilistic Neural Network Representation of AIS Tracks and A Contrario Detection
IMT Atlantique(大西洋国立高等矿业电信学校);CLS: Collect Localisation Satellites(CLS:卫星定位数据收集公司)
表示海上交通模式并从中检测异常是船舶监测和海上态势感知的关键。我们提出了一种新的方法-称为GeoTrackNet -海事异常检测AIS数据流。我们的模型利用国家的最先进的神经网络计划学习AIS的轨迹和一个contrario检测的概率表示检测异常事件。神经网络提供了一种新的手段来捕获血管行为中的复杂和异质模式,而\textit{a contrario}检测器考虑了学习的分布可能是位置相关的这一事实。一个真正的AIS数据集,包括超过420万AIS消息的实验表明,与国家的最先进的计划相比,所提出的方法的相关性。
2021-02-08 cs.AI cs.LG stat.ML
Unsupervised Anomaly Prediction with N-BEATS and Graph Neural Network in Multi-variate Semiconductor Process Time Series
IMEC
本文提出两种无监督异常预测方法,利用N-BEATS或图神经网络对半导体多变量时间序列进行预测,通过偏差检测异常,GNN在性能、参数和计算成本上更优。
2025-10-23 cs.AI cs.LG
One-Class Graph Neural Networks for Anomaly Detection in Attributed Networks
Shanghai Jiao Tong University(上海交通大学);University of California, Berkeley(加利福尼亚大学伯克利分校)
如今,图形结构数据越来越多地用于对复杂系统进行建模。与此同时,从图中检测异常已经成为一个迫切的社会关注的重要研究问题。异常检测是一项无监督学习任务,用于识别与大多数数据不同的稀有数据。单类支持向量机作为一种主流的异常检测算法,被广泛应用于异常点检测。然而,这些传统的异常检测方法在图数据中失去了有效性。由于传统的异常检测方法稳定、鲁棒且易于使用,因此将其推广到图形数据中是非常重要的。在这项工作中,我们提出了一类图神经网络(OCGNN),一类分类框架图异常检测。OCGNN被设计为将图神经网络的强大表示能力与经典的一类目标相结合。与其他基线相比,OCGNN在广泛的实验中取得了显着的改善。
2020-06-06 cs.LG stat.ML
A Novel Anomaly Detection Method for Multimodal WSN Data Flow via a Dynamic Graph Neural Network
Guilin University of Electronic Technology(桂林电子科技大学)
异常检测是通过分析无线传感器网络(WSN)数据流的时间和空间特征来判别系统异常的一种方法,是保证WSN可靠性的关键技术之一。目前,图神经网络(GNNs)已成为流行的最先进的方法进行异常检测的无线传感器网络数据流。然而,现有的基于GNNs的异常检测方法没有同时考虑WSN数据流的多节点、多模态、多时间等时空特征,严重影响了其有效性。针对多模态无线传感器网络数据流的异常检测问题,提出了一种新的异常检测模型。该模型利用3个高斯神经网络分别提取无线传感器网络数据流的时间特征、不同模态之间的相关性特征和传感器节点位置之间的空间特征。具体而言,首先,从每个传感器节点提取的时间特征和模态相关特征被融合成一个向量表示,该向量表示进一步与空间特征聚合,即,最后,对传感器网络节点的当前时间序列数据进行预测,并根据融合特征识别异常状态。在公开数据集上的仿真结果表明,该方法的F1值达到0.90,比具有长短期记忆(LSTM)的图卷积网络(GCN)的F1值提高了14.2%.
2022-02-19 cs.AI cs.LG
Integrating Graph Neural Networks with Scattering Transform for Anomaly Detection
College of Computing, UM6P(UM6P计算机学院);Moroccan Center for Game Theory(摩洛哥博弈论中心)
本文提出两种基于图神经网络的网络入侵检测新方法STEG和Node2Vec初始化法,通过多分辨率分析和改进节点表示提升异常检测性能,在基准数据集上显著优于现有方法。
2024-04-24 cs.AI cs.CR cs.LG
Rethinking Graph Neural Networks for Anomaly Detection
Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Hong Kong University of Science and Technology(香港科技大学);Stanford University(斯坦福大学)
图神经网络被广泛应用于图异常检测。由于GNN设计的关键组件之一是选择定制的光谱滤波器,因此我们迈出了通过图谱透镜分析异常的第一步。我们的关键观察是异常的存在会导致“右移”现象,即频谱能量分布集中在低频和更多的高频。这一事实促使我们提出Beta小波图神经网络(BWGNN)。事实上,BWGNN具有光谱和空间局部带通滤波器,以更好地处理异常中的“右移”现象。我们证明了BWGNN在四个大规模异常检测数据集上的有效性。我们的代码和数据发布在https://github.com/squareRoot3/Rethinking-Anomaly-Detection
2022-05-31 cs.LG eess.SP
GraphAD: A Graph Neural Network for Entity-Wise Multivariate Time-Series Anomaly Detection
Peking University(北京大学);Alibaba DAMO Academy(阿里巴巴达摩院)
近年来,第三方平台的出现和发展极大地促进了线上到线下(O2O)业务的增长。然而,大量的交易数据对零售商提出了新的挑战,特别是在操作条件下的异常检测。因此,平台开始开发具有嵌入式异常检测方法的智能业务助理,以减轻零售商的管理负担。传统的时间序列异常检测方法从时间和属性的角度捕捉潜在的模式,忽略了零售商之间的差异,在这种情况下。此外,平台提取的类似交易模式也可以为个体零售商提供指导,丰富他们的可用信息,而不会涉及隐私问题。在本文中,我们提出了一个实体明智的多变量时间序列异常检测问题,认为每个独特的实体的时间序列。为了解决这一挑战,我们提出了GraphAD,一种新的多变量时间序列异常检测模型的基础上的图神经网络。GraphAD将关键绩效指标(KPI)分解为稳定性和波动性组件,并通过图神经网络提取其属性、实体和时间视角方面的模式。我们还从Ele.me的业务数据中构建了一个真实世界的实体多元时间序列数据集。在这个数据集上的实验结果表明,GraphAD显着优于现有的异常检测方法。
2022-05-23 cs.IR cs.LG
Anomaly Detection in Global Financial Markets with Graph Neural Networks and Nonextensive Entropy
PUC-Rio(里约热内卢天主教大学);Holistic AI(整体人工智能公司)
本文利用图神经网络与非广延熵研究全球金融市场异常检测,发现高相关资产结构在危机中减弱,且不同危机阶段的异常数量随非广延熵参数呈统计显著差异。
2023-08-09 cs.AI q-fin.GN
Structural Temporal Graph Neural Networks for Anomaly Detection in Dynamic Graphs
Washington State University(华盛顿州立大学);NEC Laboratories America(NEC美国研究院);Rice University(莱斯大学)
检测动态图中的异常是一项重要任务,在安全、金融和社交媒体等领域有许多实际应用。以往的基于网络嵌入的方法主要集中在学习好的节点表示,而在很大程度上忽略了动态图中与目标节点相关的子图结构变化。在本文中,我们提出了StrGNN,一个端到端的结构时间图神经网络模型,用于检测动态图中的异常边缘。特别是,我们首先提取的$h$ -跳包围子图为中心的目标边缘,并提出了节点标记功能,以确定每个节点在子图中的作用。然后,我们利用图卷积操作和Sortpooling层从每个快照/时间戳中提取固定大小的特征。基于提取的特征,我们利用门控递归单元(GRU)捕获的时间信息的异常检测。在六个基准数据集和一个真实的企业安全系统上的实验证明了StrGNN的有效性。
2020-05-25 cs.LG cs.SI stat.ML
Neural Network Training Strategy to Enhance Anomaly Detection Performance: A Perspective on Reconstruction Loss Amplification
SK Planet Co., Ltd.(SK Planet有限公司)
针对无监督异常检测模型泛化约束需求,提出重构损失放大方法LAMP,通过锐化损失景观增大异常重构误差,无需改动网络架构即可提升检测性能,且适配各类仅用正常样本训练的UAD场景重构指标。
2023-08-28 cs.AI cs.CV cs.LG
Neuromorphic Graph Anomaly Detection via Adaptive STDP and Spiking Graph Neural Networks
School of ICT, Griffith University, Australia(信息科技学院,格里菲斯大学,澳大利亚)
本文提出ASTDP-GAD框架,结合脉冲图神经网络与STDP学习,实现动态网络中的高效异常检测,通过自适应LIF动态、图注意力、超图记忆等创新方法提升检测精度与能效。
2026-04-29 cs.LG cs.NE
A Survey of Heterogeneous Graph Neural Networks for Cybersecurity Anomaly Detection
本文综述了异构图神经网络在网络安全异常检测中的应用,分析了不同类型异常和图动态的分类方法,评估了常用数据集和指标,并指出了建模、数据和部署中的关键挑战。
2026-06-08 cs.CR cs.LG
Graph Neural Network and Transformer Integration for Unsupervised System Anomaly Discovery
Georgia Institute of Technology(佐治亚理工学院);University of Pennsylvania(宾夕法尼亚大学);Rose-Hulman Institute of Technology(罗斯-霍曼理工学院);University of California, Berkeley(加利福尼亚大学伯克利分校)
本研究提出一种无监督异常检测方法,结合图卷积提取多跳拓扑结构表示与Transformer建模时序行为,通过可学习联合嵌入融合特征实现端到端检测,在真实云监控数据上优于现有模型。
2025-08-13 cs.LG
Social Network User Profiling for Anomaly Detection Based on Graph Neural Networks
Cornell University(康奈尔大学)
提出基于图神经网络的社会网络用户画像异常检测方法,结合图自编码器和图注意力网络,在Facebook数据集上优于对比模型,提升异常识别性能。
2025-03-25 cs.LG
In-situ Anomaly Detection in Additive Manufacturing with Graph Neural Networks
Imperial College London(帝国理工学院)
针对金属增材制造中罕见事件易引发缺陷的问题,提出基于激光输入信息训练模型预测标称熔化条件、以预测与观测差值作异常分的原位检测方法,在含已知缺陷数据集上获0.821的F1分数,证明其对鲁棒缺陷检测的价值。
2023-05-04 cs.CV cs.LG eess.IV
TELESTO: A Graph Neural Network Model for Anomaly Classification in Cloud Services
TU Berlin(柏林工业大学)
大型IT系统的部署、操作和维护变得越来越复杂,当出现问题时,会使人类专家面临极大的压力。因此,机器学习(ML)和人工智能(AI)被应用于IT系统的运行和维护-概括为AIOps。一个特定的方向旨在识别重复发生的异常类型,以实现补救自动化。然而,由于IT系统的特定属性,特别是其频繁的变化(例如软件更新,重新配置或硬件现代化),识别重复发生的异常类型是具有挑战性的。当前的方法主要假设所提供的数据的静态维度。我们提出了一种方法,是不变的给定数据的维数变化。资源度量数据,如CPU利用率,分配的内存和其他建模为多变量时间序列。时间和空间特征的提取以及随后的异常分类是通过利用TELESTO,我们的新的图形卷积神经网络(GCNN)架构实现的。实验评估是在托管两个应用程序的真实云测试平台部署中进行的。在cassandra数据库节点上注入异常的分类结果表明,TELESTO优于替代GCNN,并实现了85.1%的整体分类准确率。其他节点的分类结果显示准确率值在85%和60%之间。
2021-07-29 cs.LG cs.SE
One-Class SVM on siamese neural network latent space for Unsupervised Anomaly Detection on brain MRI White Matter Hyperintensities
Univ. Lyon(里昂大学);CNRS(法国国家科学研究中心);Inserm(法国国家健康与医学研究院);INSA Lyon(里昂国立应用科学学院);UCBL(里昂第一大学);CREATIS(CREATIS实验室)
本文提出一种基于孪生图像块自编码器潜在空间与单类SVM的无监督异常检测方法,用于多模态脑MRI白质高信号检测,在WMH挑战赛上取得与当前最优方法相当的性能。
2023-04-17 cs.AI eess.IV
Temporal Graph Neural Networks for Early Anomaly Detection and Performance Prediction via PV System Monitoring Data
Univ. Grenoble Alpes(格勒诺布尔阿尔卑斯大学);CEA(法国原子能和替代能源委员会);Univ. Savoie Mont Blanc(萨瓦大学);Khalifa University(哈利法大学);INSA Lyon(里昂国立应用科学学院);Université Claude Bernard Lyon 1(里昂第一大学克洛德·贝尔纳大学)
本文提出基于时间图神经网络的光伏系统异常检测与性能预测方法,利用环境和运行参数进行早期异常检测和输出功率预测。
2025-12-02 cs.LG physics.data-an
Clustering-Based Collective Anomaly Detection in IoT Systems: A Graph Neural Network Approach
University of South-Eastern Norway(东南挪威大学)
针对物联网流量中集体异常检测不足的问题,提出无监督图集体异常检测框架UGCAD,利用变分图自编码器学习表示并增强聚类,在CICIoT2023和ToN-IoT数据集上验证了其优于现有方法。
2026-09-22 cs.LG
HRGCN: Heterogeneous Graph-level Anomaly Detection with Hierarchical Relation-augmented Graph Neural Networks
University of Technology Sydney(悉尼科技大学);Singapore Management University(新加坡管理大学);University of Wollongong(伍伦贡大学)
针对异构图级异常检测需求,提出无监督层次关系增强异构图神经网络HRGCN,通过建模实体交互与节点、边类型学习图表示,在数据集和工业案例中均优于现有方法。
2023-08-28 cs.LG
CAINNFlow: Convolutional block Attention modules and Invertible Neural Networks Flow for anomaly detection and localization tasks
Computer Network Information Center, Chinese Academy of Sciences(中国科学院计算机网络信息中心);University of Chinese Academy of Sciences(中国科学院大学)
物体异常检测在工业过程中至关重要,但由于难以获得大量有缺陷的样本以及现实生活中不可预测的异常类型,无监督的异常检测和定位尤为重要。在现有的无监督异常检测和定位方法中,基于NF的方案取得了较好的效果。但NF中的两个复变(复数函数)$s_{i}(u_{i})$和$t_{i}(u_{i})$通常是多层感知器,需要将输入的视觉特征从2维扁平化挤压到1维,破坏了特征图中的空间位置关系,丢失了空间结构信息。为了保留和有效地提取空间结构信息,本文设计了一种将交替CBAM嵌入到堆叠$3\times3$全卷积中的复变函数模型,该模型能够保留和有效地提取归一化流模型中的空间结构信息。在MVTec AD数据集上的大量实验结果表明,CAINNFlow基于CNN和Transformer骨干网络作为特征提取器,实现了高级的准确性和推理效率,并且CAINNFlow实现了$98.64\%$的像素级AUC,用于MVTec AD中的异常检测。
2022-12-15 cs.AI cs.CV
Spacecraft Anomaly Detection with Attention Temporal Convolution Network
University of Electronic Science and Technology of China(电子科技大学);Beijing Aerospace Institute for Metrology and Measurement Technology(北京航天计量测试技术研究所)
航天器在复杂空间执行探测任务时面临各种情况,对航天器异常状态的监测对\textcolor{blue}{the}航天事业的发展至关重要。在轨航天器\textcolor{blue}{contains}产生的时间序列遥测数据是了解航天器状态的重要信息。然而,传统的基于领域知识的航天器异常检测方法由于变量之间的高维性和复杂的相关性而效果不佳。在这项工作中,我们提出了一个基于时间卷积网络(TCN)的航天器多变量时间序列数据的异常检测框架。首先,我们采用动态图注意力模型的变量和时间序列之间的复杂相关性。其次,利用具有并行处理能力的时间卷积网络提取多维\textcolor{blue}{features},用于\textcolor{blue}{the}下游预测任务。最后,许多潜在的异常检测的最佳阈值。真实NASA SMAP/MSL航天器数据集上的实验表明,我们提出的模型相对于最先进的方法的优越性。
2023-03-13 cs.CV cs.LG
Anomaly detection in laser-guided vehicles' batteries: a case study
University of Parma(帕尔马大学);Elettric80 spa(Elettric80公司)
检测时间序列内的异常数据是模式识别和机器学习中非常相关的任务,具有许多可能的应用,其范围从医学疾病预防,例如,在健康状况被明确定义为“疾病”之前检测其早期变化,直至监测工厂。关于后一种应用,检测工业设备状态中的异常首先防止需要长时间中断生产过程的严重损害。其次,它允许最佳的维修干预计划,限制他们的紧急情况。与此同时,它们通常遵循一个固定的审慎时间表,根据该时间表,组件在其预期寿命结束之前被替换。本文介绍了一个案例研究的激光制导车辆(LGVs)电池的状态监测,我们工作作为我们的贡献项目超级(超级计算统一平台,艾米利亚罗马涅)旨在建立和展示一个区域高性能计算平台,这将代表主要的意大利超级计算环境的计算能力和数据量。
2022-12-27 cs.LG
Convergence Rates for Neural-Network Estimation with Current-Status Data
Department of Biostatistics and Bioinformatics, Duke University, Durham, North Carolina, USA(生物统计学与生物信息学系,杜克大学,达勒姆,北卡罗来纳州,美国)
针对当前状态数据,提出非参数神经网络筛最大似然估计器,结合ReLU网络逼近理论与经验过程论证,在Hölder光滑假设下建立显式收敛速度。
2026-06-23 cs.LG math.ST stat.ML
Trans GAN-WT: A Feature Extraction and Interactive Learning-Based Anomaly Detection Model for Wind Turbine Time Series Data
Shandong University(山东大学)
提出融合Transformer和生成对抗网络的异常检测模型TransGAN-WT,通过放大重构误差、自回归多模态特征提取和时序特征交互学习,在真实风电机组数据集上F1达96.10%,误报率仅0.06%。
2026-06-02 cs.LG stat.AP
Concise Logarithmic Loss Function for Robust Training of Anomaly Detection Model
SK Planet Co., Ltd.(SK Planet有限公司)
本文提出对数均方误差(LMSE)损失函数,用于更稳定地训练异常检测模型,并通过数学分析、反向传播可视化、损失收敛和检测性能比较证明其优于传统均方误差(MSE),且有望推广至一般生成式神经网络。
2023-04-14 cs.AI cs.LG
Neural Status Registers
ETH Zurich(苏黎世联邦理工学院)
标准的神经网络可以学习数学运算,但不能外推。外推意味着该模型可以应用于更大的数字,远远超出训练期间观察到的数字。最近的架构处理算术运算,并可以推断;然而,同样重要的定量推理问题仍然没有解决。在这项工作中,我们提出了一种新的建筑元素,神经状态寄存器(NSR),定量推理的数字。我们的NSR将物理状态寄存器的离散位逻辑放宽为连续数字,并允许使用梯度下降进行端到端学习。实验表明,NSR实现的解决方案外推到比训练集中的数字大许多数量级的数字。我们成功地训练了NSR的数字比较,分段不连续函数,在序列中计数,递归地找到最小值,在图中找到最短路径,并比较图像中的数字。
2021-03-11 cs.LG cs.NE stat.ML
Do Deep Neural Networks Contribute to Multivariate Time Series Anomaly Detection?
Orange(Orange公司);EURECOM(欧洲通信学院);Orange Labs(Orange实验室)
时间序列的异常检测是一个复杂的任务,已被广泛研究。近年来,无监督异常检测算法的能力受到了广泛关注。这种趋势导致研究人员在他们的文章中只比较基于学习的方法,放弃了一些更传统的方法。因此,该领域的社区被鼓励提出越来越复杂的基于学习的模型,主要基于深度神经网络。据我们所知,在传统的、基于机器学习的和深度神经网络方法用于检测多变量时间序列中的异常之间没有比较研究。在这项工作中,我们研究了16个传统的,基于机器学习和深度神经网络方法在五个真实世界的开放数据集上的异常检测性能。通过分析和比较的性能的16种方法,我们表明,没有家庭的方法优于其他。因此,我们鼓励社区将这三类方法重新纳入多变量时间序列基准的异常检测中。
2022-04-04 cs.LG
Recurrent Neural Radio Anomaly Detection
Virginia Tech(弗吉尼亚理工大学)
我们介绍了一个强大的递归神经网络为基础的方法,新颖性检测的应用程序检测无线电异常。这种方法在显著提高朴素异常检测的能力以检测高度复杂的复杂度多用户无线电频带中的小异常方面具有希望。我们证明了这种方法的有效性,一些共同的真正的空中无线电通信频段的利益和量化检测性能的概率检测的虚警率在一个范围内的干扰带功率比和比较基线方法。
2016-11-01 cs.LG
On the Robustness and Anomaly Detection of Sparse Neural Networks
Technical University of Munich(慕尼黑工业大学)
神经网络的鲁棒性和异常检测能力是其在现实世界中安全采用的关键问题。此外,最近的网络的过度参数化带来了高计算成本,并提出了关于其对鲁棒性和异常检测的影响的问题。在这项工作中,我们表明稀疏性可以使网络更强大,更好的异常检测器。为了进一步激发这一点,我们证明了预先训练的神经网络在其参数空间内包含稀疏子网络,这些子网络在没有任何进一步训练的情况下更好地完成这些任务。我们还表明,结构化稀疏性大大有助于降低昂贵的鲁棒性和检测方法的复杂性,同时保持甚至改善这些任务的结果。最后,我们介绍了一种新的方法,SensNorm,它使用的敏感性的权重来自一个适当的修剪方法来检测输入中的异常样本。
2022-07-09 cs.LG
Time-Series Anomaly Detection with Implicit Neural Representation
Yonsei University(延世大学)
在许多实际应用中,检测多变量时间序列数据中的异常是必不可少的。最近,各种基于深度学习的方法在时间序列异常检测方面已经显示出相当大的改进。然而,现有的方法仍然具有若干限制,诸如由于其复杂的模型设计而导致的长的训练时间或者用于找到最佳超参数(例如,滑动窗口长度)。在我们的论文中,我们提出了一种新的方法,称为隐式神经表示为基础的异常检测(INRAD)。具体来说,我们训练一个简单的多层感知器,以时间为输入,并输出相应的值在那个时候。然后,我们利用表示错误作为异常检测异常的得分。在五个真实数据集上的实验表明,我们提出的方法在性能、训练速度和鲁棒性方面优于其他最先进的方法。
2022-01-28 cs.LG
Including Sparse Production Knowledge into Variational Autoencoders to Increase Anomaly Detection Reliability
Ostwestfalen-Lippe University of Applied Sciences(东威斯特伐利亚-利珀应用科学大学);Phoenix Contact Electronics GmbH(菲尼克斯电气电子有限公司)
数字化为生产系统带来了数据透明性,我们可以通过神经网络等数据驱动的分析方法从中受益。例如,自动异常检测可以节省资源并优化生产。我们研究使用很少发生的信息标记的异常到变分自编码器神经网络结构,以克服信息赤字的监督和无监督的方法。该方法在准确度、精确度和召回率方面优于所有其他模型。我们评估了以下方法:主成分分析,隔离森林,分类神经网络和变分自编码器在七个时间序列数据集上找到最佳的检测方法。我们扩展这个想法,包括更不经常发生的Meta信息的生产过程。稀疏标签的这种使用(异常或生产数据两者)允许利用可用于提高异常检测性能的任何附加信息。
2021-06-22 cs.AI cs.LG
A Deep Neural Network for Unsupervised Anomaly Detection and Diagnosis in Multivariate Time Series Data
University of Notre Dame(圣母大学);NEC Laboratories America, Inc.(NEC美国实验室公司);Columbia University(哥伦比亚大学)
如今,多变量时间序列数据越来越多地收集在各种现实世界系统中,例如,发电厂、可穿戴设备等。多元时间序列中的异常检测和诊断是指识别特定时间步长中的异常状态并查明根本原因。然而,构建这样的系统是具有挑战性的,因为它不仅需要捕获每个时间序列中的时间依赖性,而且还需要对不同时间序列对之间的相互关联进行编码。此外,该系统应该对噪声具有鲁棒性,并根据不同事件的严重程度为操作员提供不同级别的异常评分。尽管已经开发了许多无监督的异常检测算法,但很少有人能够共同应对这些挑战。在本文中,我们提出了一个多尺度卷积递归编码器-解码器(MSCRED),进行异常检测和诊断的多变量时间序列数据。具体而言,MSCRED首先构造多尺度(分辨率)特征矩阵,以表征不同时间步长中的多个级别的系统状态。随后,给定的签名矩阵,卷积编码器被用来编码传感器间(时间序列)的相关性和基于注意力的卷积长短期记忆(ConvLSTM)网络被开发来捕获的时间模式。最后,基于对传感器间相关性和时间信息进行编码的特征图,卷积解码器被用于重构输入签名矩阵,并且残余签名矩阵被进一步用于检测和诊断异常。基于合成数据集和真实电厂数据集的广泛实证研究表明,MSCRED可以优于最先进的基线方法。
2018-11-20 cs.LG stat.ML
Time Series Anomaly Detection Using Convolutional Neural Networks and Transfer Learning
Arundo Analytics(阿伦多分析公司)
时间序列异常检测在自动监测系统中起着至关重要的作用。以前大多数与时间序列异常检测相关的深度学习工作都是基于递归神经网络(RNN)的。在本文中,我们提出了一种基于卷积神经网络(CNN)的异常检测的时间序列分割方法。此外,我们提出了一个迁移学习框架,该框架在大规模合成单变量时间序列数据集上预训练模型,然后在具有先前未见过的异常类别的小规模单变量或多变量数据集上微调其权重。对于多变量的情况下,我们介绍了一种新的网络架构。该方法在多个合成和真实数据集上进行了成功的测试。
2019-05-31 cs.CV cs.LG stat.ML
TSINR: Capturing Temporal Continuity via Implicit Neural Representations for Time Series Anomaly Detection
Zhejiang University(浙江大学);Zhejiang Lab(浙江实验室)
本文提出 TSINR,利用隐式神经表示的频谱偏置和连续时间建模提升时间序列异常检测性能,并结合通道信息建模与大语言模型增强异常波动。
2025-05-15 cs.AI cs.LG
Anomaly Detection for Water Treatment System based on Neural Network with Automatic Architecture Optimization
Kaspersky Lab(卡巴斯基实验室)
我们继续开发我们的神经网络(NN)为基础的预测方法,异常检测(AD)使用安全水处理(SWaT)工业控制系统(ICS)测试平台数据集。我们提出了遗传算法(GA)找到最好的NN架构为给定的数据集,使用NAB度量来评估不同架构的质量。分析了F1度量的缺陷。提出了几种提高AD质量的技术:指数加权平滑,平均p幂误差度量,每个变量的单个误差权重,不相交的预测窗口。在此基础上,介绍了一种异常解释方法。
2018-07-19 cs.LG stat.ML
Investigation Into the Viability of Neural Networks as a Means for Anomaly Detection in Experiments Like Atlas at the LHC
University of Texas at Arlington(德克萨斯大学阿灵顿分校)
在大型强子对撞机的阿特拉斯实验中产生了PB级的数据,但并不是所有的数据都是有趣的,那么我们如何处理所有这些数据,以及如何在无趣的干草堆中找到这些有趣的针。这个问题可以通过异常检测过程来解决。在这篇文献中,在LHC的Atlas等实验中,神经网络作为异常检测手段的可行性研究使用由DarkMachines项目生成的Monte Carlo模拟数据研究了不同类型的神经网络架构作为异常检测器的有效性。此数据旨在复制标准模型和超越标准模型的事件。通过找到一个有效的模型,Atlas实验可以变得更有效,更少的有趣事件会丢失。
2020-05-29 cs.LG hep-ex
Supervised Anomaly Detection based on Deep Autoregressive Density Estimators
NTT Communication Science Laboratories(NTT通信科学实验室);NTT Secure Platform Laboratories(NTT安全平台实验室)
我们提出了一种基于神经密度估计的监督异常检测方法,其中的负对数似然用于异常得分。密度估计已被广泛用于无监督异常检测。通过深度学习的最新进展,密度估计性能已经大大提高。然而,神经密度估计器不能利用异常标签信息,这将是有价值的,以提高异常检测性能。该方法通过训练神经密度估计器有效地利用了异常标签信息,使得正常实例的似然最大化,异常实例的似然低于正常实例的似然。我们采用自回归模型的神经密度估计,这使我们能够准确地计算的可能性。通过对16个数据集的实验,证明了该方法在少量标记异常实例的情况下提高了异常检测性能,并取得了比现有的无监督和有监督异常检测方法更好的性能。
2019-04-12 cs.LG stat.ML
Three Revisits to Node-Level Graph Anomaly Detection: Outliers, Message Passing and Hyperbolic Neural Networks
Duke Kunshan University(昆山杜克大学)
该研究从离群点注入、消息传递影响、双曲神经网络应用三方面重新审视无监督节点级图异常检测,发现消息传递会导致性能下降,明确了双曲网络的关键设计,为该领域方法优化提供了通用策略。
2024-03-06 cs.LG
Neurological Status Classification Using Convolutional Neural Network
University of Houston(休斯顿大学);University of Oxford(牛津大学)
在这项研究中,我们证明了卷积神经网络(CNN)模型能够准确区分实验中记录的非脑电图(EEG)数据集中的4个不同阶段的神经状态,在该实验中,受试者暴露于身体,认知和情绪压力。实验结果表明,该模型在测试数据集上的ROC曲线下面积(AUC)为99.99%,分类准确率为99.82%。此外,为了比较,我们表明我们的模型优于SVM和RF等分类方法。最后,我们展示了CNN模型的优势,与其他方法相比,在噪声数据集上具有97.46%的准确率。
2021-04-01 cs.LG cs.SY eess.SP
Applications of Recurrent Neural Network for Biometric Authentication & Anomaly Detection
University of Wisconsin Eau-Claire(威斯康星大学欧克莱尔分校)
递归神经网络是强大的机器学习框架,允许以时间序列保存和引用数据。这在诸如手写分析和语音识别等领域中开辟了许多新的可能性。本文旨在探讨目前在四个非常重要的领域对RNN进行的研究,即生物特征认证,表情识别,异常检测和飞机应用。本文回顾了以下每种拟议方法的方法、目的、结果以及优缺点。这些不同的方法都专注于如何利用不同的RNN架构,例如流行的长短期记忆(LSTM)RNN或深度残差RNN。本文还研究了哪些框架在某些情况下工作得最好,以及每个模型的优点和缺点。
2021-09-13 cs.LG
TPLogAD: Unsupervised Log Anomaly Detection Based on Event Templates and Key Parameters
School of Computer Science and Technology(计算机科学技术学院);Fudan University(复旦大学)
本文提出无监督日志异常检测方法TPLogAD,通过template2vec和para2vec分别建模事件模板与关键参数,在四个公开数据集上取得优于现有方法的效果。
2024-11-22 cs.AI cs.CL cs.CY
RobustTAD: Robust Time Series Anomaly Detection via Decomposition and Convolutional Neural Networks
DAMO Academy, Alibaba Group Inc.(阿里巴巴集团达摩院)
阿里巴巴集团对大量不同的时间序列数据进行监控和管理,需要一种有效且可扩展的时间序列异常检测服务。在本文中,我们提出了RobustRisk,一个鲁棒的时间序列异常检测框架,通过集成强大的季节趋势分解和卷积神经网络的时间序列数据。季节趋势分解可以有效地处理时间序列中的复杂模式,同时大大简化了神经网络的结构,这是一个具有跳跃连接的编码器-解码器结构。该结构能够有效地从时间序列中提取多尺度信息,在异常检测中具有重要的应用价值。由于时间序列异常检测中标记数据的有限性,本文系统地研究了时域和频域的数据增强方法。利用时间序列异常检测问题的不平衡性,在损失函数中引入了基于标签的权重和基于值的权重。与广泛使用的基于预测的异常检测算法、基于分解的算法、传统的统计算法以及最近的基于神经网络的算法相比,RobustRobust在公共基准数据集上的性能明显更好。它被部署为公共在线服务,并广泛应用于阿里巴巴集团的不同业务场景。
2021-09-18 cs.LG eess.SP stat.AP
Bayesian Quantum Orthogonal Neural Networks for Anomaly Detection
QC Ware;Central Research and Technology, Airbus Group(空中客车集团中央研究与技术部)
本文提出贝叶斯量子正交神经网络,结合贝叶斯学习与正交性,用于三维物体异常检测,并在IBM量子设备上验证了可行性。
2025-04-25 cs.LG quant-ph
Recurrent Neural Networks based Obesity Status Prediction Using Activity Data
Samsung Research America(三星美国研究院);Lehigh University(里海大学)
肥胖是一个严重的全球性公共卫生问题,它增加了许多疾病的风险,包括高血压、中风和2型糖尿病。为了解决这个问题,整个健康生态系统的研究人员正在收集各种类型的数据,包括生物医学,行为和活动,并利用机器学习技术来挖掘隐藏的模式,以预测肥胖状况的改善。虽然现有的机器学习方法,如循环神经网络(RNN)可以提供特殊的结果,它是具有挑战性的发现隐藏模式的顺序数据,由于不规则的观察时间实例。同时,对这些学习模型有效性的理解不足也限制了其体系结构的进一步改进。因此,在这项工作中,我们开发了一种基于RNN的时间感知架构,以解决处理不规则观察时间和从纵向患者记录中提取相关特征提取以预测肥胖状态改善的挑战性问题。为了提高预测性能,我们使用两个数据源训练我们的模型:(i)包含有关实验室测试,诊断和人口统计信息的电子医疗记录;(ii)从流行的可穿戴设备收集的连续活动数据。真实世界数据的评估表明,我们提出的方法可以捕捉用户的时间序列的不规则性的底层结构,并实现了77-86%的准确率预测肥胖状态的改善。
2018-09-20 cs.LG stat.ML