Anomaly Detection in Offshore Wind Turbine Structures using Hierarchical Bayesian Modelling
本文提出使用分层贝叶斯模型推断土壤刚度分布,对海上风力发电机组进行基于群体信息的异常检测,以识别冲刷问题。
2024-02-29 cs.LG
CALM: A Framework for Continuous, Adaptive, and LLM-Mediated Anomaly Detection in Time-Series Streams
Google(谷歌)
本文提出 CALM 框架,基于 Apache Beam 与 TimesFm,通过持续微调闭环和 LLM-as-a-Judge 语义筛选,使时间序列流异常检测适应概念漂移,并在 TSB-UAD 上提升多数数据集 ROC AUC。
2025-08-29 cs.LG
Integrated Clustering and Anomaly Detection (INCAD) for Streaming Data (Revised)
University at Buffalo, State University of New York (SUNY)(纽约州立大学布法罗分校)
目前大多数基于聚类的异常检测方法使用评分模式和阈值来分类异常。这些方法通常针对具有“已知”数目的聚类的目标特定数据集。本文提供了一种流式聚类和异常检测算法,不需要严格的任意阈值的异常分数或知识的集群的数量,同时执行概率异常检测和聚类。这确保了集群形成不受异常数据的存在的影响,从而导致“正常与异常”行为的更可靠的定义。开发INCAD模型背后的动机和导致流模型的路径进行了讨论。
2019-11-01 cs.LG stat.ML
Adaptive Model Pooling for Online Deep Anomaly Detection from a Complex Evolving Data Stream
UIUC(伊利诺伊大学厄巴纳-香槟分校);KAIST(韩国科学技术院);University of Vermont(佛蒙特大学)
数据流的在线异常检测对于许多应用程序的安全性至关重要,但由于物联网设备和基于云的基础设施的复杂和不断变化的数据流,它正面临着严峻的挑战。不幸的是,现有的方法对于这些挑战来说太短了;在线异常检测方法承担着处理复杂性的负担,而离线深度异常检测方法则受到不断变化的数据分布的影响。本文提出了一个在线深度异常检测框架ARCUS,它可以用任何基于自动编码器的深度异常检测方法来实例化。它处理复杂和不断变化的数据流使用自适应模型池的方法与两个新的技术:概念驱动的推理和漂移感知模型池更新;前者检测异常的组合模型最适合的复杂性,后者适应模型池动态地适应不断变化的数据流。在对10个高维和概念漂移的数据集进行的综合实验中,ARCUS将最先进的基于自动编码器的方法和最先进的流异常检测方法的流变体的异常检测精度分别提高了22%和37%。
2022-06-09 cs.AI cs.DB cs.LG
A Multi-Step Comparative Framework for Anomaly Detection in IoT Data Streams
Alwasl University(阿尔瓦斯勒大学);Western University(西安大略大学)
针对物联网异常检测中预处理与模型交互研究不足的问题,提出多步比较框架,在IoTID20上评估三种算法,发现GBoosting准确率最高,为实际应用提供指导。
2025-05-22 cs.LG
Deep Graph Stream SVDD: Anomaly Detection in Cyber-Physical Systems
University of Central Florida(中佛罗里达大学)
我们的工作重点是网络物理系统中的异常检测。现有文献有三个局限性:(1)未能捕获系统异常中的长延迟模式;(2)忽略传感器连接的动态变化;(3)高维数据样本的诅咒。这些限制了现有作品的检测性能和实用性。为了解决这些问题,我们提出了一种新的方法,称为深度图流支持向量数据描述(SVDD)的异常检测。具体来说,我们首先使用一个Transformer来保存时间嵌入中的监控数据的短期和长期模式。然后,我们根据传感器类型聚类这些嵌入,并利用它们来估计各种传感器之间的连接变化,以构建一个新的加权图。将时态嵌入作为节点属性映射到新的图中,形成加权属性图。我们将图输入到变分图自动编码器模型中以学习最终的时空表示。最后,我们学习一个包含正常嵌入的超球体,并通过计算超球体和数据样本之间的距离来预测系统状态。大量的实验验证了我们的模型的优越性,它将F1分数提高了35.87%,AUC提高了19.32%,同时在训练和推理方面比最佳基线快了32倍。
2023-02-24 cs.LG
What Streaming Anomaly Detection Finds (and Misses) in Industrial Time Series
EDF R&D(法国电力集团研发部);Inria, ENS, CNRS, PSL(法国国家信息与自动化研究所、巴黎高等师范学院、法国国家科学研究中心、巴黎文理研究大学)
本研究比较了流式方法与在线TSAD模型在真实核电站数据上的异常检测性能,发现在线TSAD一致性更高,集成策略鲁棒性强。
2026-10-01 cs.AI cs.LG
Dimensionless Anomaly Detection on Multivariate Streams with Variance Norm and Path Signature
University of Oxford(牛津大学);The Alan Turing Institute(艾伦·图灵研究所)
提出结合方差范数与路径签名的无量纲多元流异常检测方法 SigMahaKNN,并通过多领域实验证明其显著优于 isolation forest 与 local outlier factors。
2023-12-06 cs.LG stat.ML
PySAD: A Streaming Anomaly Detection Framework in Python
Imperial College London(伦敦帝国学院);Bilkent University(比尔肯大学)
PySAD 是一个 Python 流式异常检测框架,通过统一架构实现有界内存、单遍处理和常数时间复杂度的实时检测,集成 17+ 算法并兼容 PyOD 和 scikit-learn。
2025-05-25 cs.LG stat.ML
Federated Anomaly Detection over Distributed Data Streams
FEUP(波尔图大学工程学院);INESC TEC(葡萄牙国家能源与电网研究所);FCUP(波尔图大学理学院);FEP(波尔图大学经济学院)
例如,由于隐私立法和法规以及其他重要的道德问题,即使在高聚合水平上,电信网络数据的共享如今也受到高度限制。它导致数据分散在机构、地区和州之间,抑制了人工智能方法的使用,否则这些方法可以大规模利用数据。它需要建立一个平台来控制这些数据,建立模型或执行计算。在这项工作中,我们提出了一种方法来建立异常检测,联邦学习和数据流之间的桥梁。这项工作的首要目标是在分布式数据流上检测联邦环境中的异常。这项工作通过在异常检测的联邦学习设置中调整数据流算法,并通过提供一个强大的框架和在真实世界的分布式部署场景中演示实际可行性,补充了最先进的技术。
2022-05-17 cs.DC cs.LG
Online anomaly detection using statistical leverage for streaming business process events
Ulsan National Institute of Science and Technology (UNIST)(蔚山国家科学技术研究所)
虽然最近在文献中出现了几种用于在离线设置中检测事件日志中的跟踪级异常的技术,但目前缺乏在线设置的这种技术。在线设置中的事件日志异常检测对于发现流程执行中的异常至关重要,一旦异常发生,就可以立即采取早期纠正措施。本文介绍了一种新的方法,事件日志异常检测的事件流,使用统计杠杆。杠杆作用已被广泛用于统计,以制定措施,以确定离群值,它已在本文中的事件流数据的特定场景。所提出的方法已在人工和真实事件流上进行了评估。
2021-03-01 cs.LG stat.CO
DeCorus: Hierarchical Multivariate Anomaly Detection at Cloud-Scale
IBM Research Haifa(IBM海法研究院)
多变量异常检测可以用于识别计算系统的大量遥测数据内的中断。然而,开发一个有效的异常检测器,可以为用户提供相关的信息是一个具有挑战性的问题。我们介绍我们的方法,分层多元异常检测称为DeCorus,统计多元异常检测器,实现线性复杂度。它扩展了标准的统计技术,以提高其在噪声信号中发现相关异常的能力,并利用系统操作员通常拥有的领域知识类型来计算系统级异常分数。我们描述了DeCorus的实现,DeCorus是一个在线日志异常检测工具,用于在云服务提供商处部署的网络设备系统日志消息。我们使用真实世界的数据集,包括$1.5$十亿网络设备系统日志消息和数百个事件票的特点的性能DeCorus和比较其能力,检测事件与五个替代异常检测器。虽然DeCorus优于其他异常检测器,但它们都受到我们数据集的挑战。我们将分享DeCorus如何在现场提供价值,以及我们计划如何提高其事件检测准确性。
2022-02-14 cs.DC cs.LG
IDK-S: Incremental Distributional Kernel for Streaming Anomaly Detection
IDK-S通过增量分布核方法实现流异常检测的高准确性和高效处理。
2025-12-05 cs.LG
RED-F: Reconstruction-Elimination based Dual-stream Contrastive Forecasting for Multivariate Time Series Anomaly Prediction
School of Computer Science (National Pilot Software Engineering School), Beijing University of Posts and Telecommunications(计算机学院(国家级试点软件工程学院),北京邮电大学);China Telecom Research Institute Beijing(中国电信研究院北京分院);Department of Computer Science, Missouri University of Science and Technology(计算机学院,密苏里科技大学)
RED-F通过重建-消除模型和双流对比预测模型,提升多变量时间序列异常预测的准确性与鲁棒性。
2026-01-12 cs.LG
Grid HTM: Hierarchical Temporal Memory for Anomaly Detection in Videos
University of Oslo(奥斯陆大学);SimulaMet;OsloMet(奥斯陆城市大学);UiT(特罗姆瑟大学)
视频异常检测系统的兴趣在过去的几年中得到了牵引。当前的方法使用深度学习来执行视频中的异常检测,但是这种方法具有多个问题。对于初学者来说,深度学习通常存在噪声、概念漂移、可解释性和训练数据量等问题。此外,异常检测本身是一项复杂的任务,面临着未知性、异构性和类别不平衡等挑战。因此,使用深度学习的异常检测主要限于生成模型,如生成对抗网络和自动编码器,因为它们的无监督性质,但即使它们也会遇到一般的深度学习问题,并且很难正确训练。在本文中,我们探讨的分层时间记忆(HTM)算法进行异常检测的视频,因为它具有良好的性能,如噪声容忍度和在线学习,打击概念漂移的能力。我们介绍了一个新版本的HTM,即网格HTM,这是一个基于HTM的架构,专门用于异常检测复杂的视频,如监控录像。
2022-05-30 cs.CV cs.LG
Energy-Efficient Hierarchical Federated Anomaly Detection for the Internet of Underwater Things via Selective Cooperative Aggregation
James Watt School of Engineering, University of Glasgow(格拉斯哥大学詹姆斯·瓦特工程学院)
本文提出了一种节能分层联邦学习框架,通过传感器到雾节点关联、压缩模型更新传输和选择性协作聚合,解决水下通信带宽低、能耗高导致的异常检测难题,提升参与度并降低能耗。
2026-03-25 cs.LG
Hierarchical Persistence Velocity for Network Anomaly Detection: Theory and Applications to Cryptocurrency Markets
Department of Mathematics, University of Evansville(数学系,埃文斯维尔大学)
OW-HNPV通过拓扑持续速度分析提升加密货币网络异常检测性能,实现7天价格预测中10.4%的AUC提升。
2025-12-17 cs.LG
In a Streaming World, Should You Stand Still? A Comprehensive Benchmark of Anomaly Detection in Streams
EDF R&D(法国电力集团研发部);ENS, PSL University, CNRS, Inria(巴黎高等师范学院,巴黎文理研究大学,法国国家科学研究中心,法国国家信息与自动化研究所);DI ENS, ENS, PSL University, CNRS, Inria(巴黎高等师范学院计算机科学系,巴黎高等师范学院,巴黎文理研究大学,法国国家科学研究中心,法国国家信息与自动化研究所)
本研究通过大规模统一基准比较流式与静态时间序列异常检测方法,发现静态方法在多数流式场景中显著更优,并提出了分布漂移数据集TSB-drift,揭示现有流式方法设计与实际需求间的关键差距。
2026-10-01 cs.AI cs.LG
MemStream: Memory-Based Streaming Anomaly Detection
National University of Singapore(新加坡国立大学);IIT Bombay(印度理工学院孟买分校);Harvard University(哈佛大学)
在一个存在概念漂移的多维数据环境中,随着时间的推移,给定一个条目流,我们如何检测异常活动?大多数现有的无监督异常检测方法寻求以离线方式检测异常事件,并且需要大量的数据用于训练。这在现实生活中是不切实际的,因为我们以流的方式接收数据,并且事先不知道流的大小。因此,我们需要一种数据高效的方法,可以在线检测和适应不断变化的数据趋势或概念漂移。在这项工作中,我们提出了MemStream,一个流异常检测框架,使我们能够检测到不寻常的事件,因为它们发生的同时具有弹性的概念漂移。我们利用去噪自动编码器的功能来学习表示,并利用内存模块来学习数据中动态变化的趋势,而无需标签。我们证明了有效的漂移处理所需的最佳内存大小。此外,MemStream使用两种架构设计选择来抵抗内存中毒。实验结果表明,我们的方法相比,国家的最先进的流基线使用$2$合成数据集和$11$真实世界的数据集的有效性。
2022-03-04 cs.AI cs.LG
Expected Similarity Estimation for Large-Scale Batch and Streaming Anomaly Detection
University of Ulm(乌尔姆大学);Ravensburg-Weingarten University of Applied Sciences(拉芬斯堡-魏恩加腾应用科学大学);The University of Sydney(悉尼大学)
我们提出了一种新的算法异常检测非常大的数据集和数据流。该方法称为期望相似性估计(EXPoSE),是基于核的,能够有效地计算新数据点和规则数据分布之间的相似性。该估计被制定为一个再生核希尔伯特空间嵌入的内积,并没有假设的类型或形状的基础数据分布。我们证明了使用EXPoSE的离线(批量)学习可以在线性时间内完成,而在线(增量)学习每个实例和模型更新需要恒定的时间。此外,EXPoSE可以在恒定的时间内进行预测,而它只需要恒定的内存。此外,我们提出了不同的方法,概念漂移适应不断变化的数据流。在几个真实的数据集上,我们证明了我们的方法可以与最先进的异常检测算法竞争,同时比大多数其他方法快一个数量级。
2016-06-06 cs.AI cs.LG
Physic-HM: Restoring Physical Generative Logic in Multimodal Anomaly Detection via Hierarchical Modulation
Chongqing University(重庆大学)
Physic-HM通过引入物理归纳偏置,解决多模态异常检测中过程逻辑缺失的问题,实现高维与低维数据的协同建模,提升异常检测性能。
2026-01-20 cs.LG
Unsupervised Anomaly Detection in Stream Data with Online Evolving Spiking Neural Networks
Warsaw University of Technology(华沙理工大学);TECNALIA(泰克纳利亚);University of the Basque Country (UPV/EHU)(巴斯克大学(UPV/EHU))
流数据中的无监督异常发现是一个具有实际应用价值的研究课题。然而,在许多情况下,不容易收集具有标记的异常的足够训练数据用于异常检测器的监督学习,以便稍后部署它来识别流数据中的真实异常。因此,重要的是设计能够在不访问标记的训练数据的情况下正确地检测异常的异常检测器。我们的想法是适应在线进化脉冲神经网络(OeSNN)分类器的异常检测任务。因此,我们提供了一个在线进化的脉冲神经网络的无监督异常检测算法(OeSNN-UAD),它,不像OeSNN,工作在一个无监督的方式,不分离输出神经元到不相交的决策类。OeSNN-UAD使用我们提出的新的两步异常检测方法。此外,我们推导出OeSNN的神经元模型和输入层编码的新的理论性质,这使得我们的OeSNN-UAD方法能够更有效地检测异常。所提出的OeSNN-UAD检测器与Numenta Anomaly Benchmark和Yahoo Anomaly Datasets存储库中的流数据中的异常的最先进的无监督和半监督检测器进行了实验比较。我们的方法优于文献中提供的其他解决方案的情况下,从Numenta异常基准存储库的数据流。此外,在雅虎异常基准存储库的真实数据文件的情况下,OeSNN-UAD优于其他选定的算法,而在雅虎异常基准合成数据文件的情况下,它提供了有竞争力的结果,最近在文献中报道的结果。
2021-03-08 cs.AI cs.LG cs.NE
A Hierarchical Transformation-Discriminating Generative Model for Few Shot Anomaly Detection
Tel Aviv University(特拉维夫大学);Facebook AI Research(Facebook人工智能研究院)
异常检测是识别数据中异常样本的任务,通常依赖于大量的训练样本。在这项工作中,我们考虑设置图像中的Few-Shot异常检测,其中在训练时仅给出少数图像。我们设计了一个分层生成模型,捕捉每个训练图像的多尺度补丁分布。我们通过使用图像变换进一步增强了模型的表示,并优化了尺度特定的补丁鉴别器,以区分图像的真实和虚假补丁,以及应用于这些补丁的不同变换。异常得分是通过聚集正确的变换跨尺度和图像区域的基于块的投票。我们证明了我们的方法的优越性,在一次拍摄和Few-Shot设置,巴黎,CIFAR10,MNIST和FashionMNIST的数据集,以及在MVTec的缺陷检测设置。在所有情况下,我们的方法优于最近的基线方法。
2021-04-29 cs.CV cs.LG
InQMAD: Incremental Quantum Measurement Anomaly Detection
MindLab(思维实验室);Universidad Nacional de Colombia(哥伦比亚国立大学)
流异常检测是指在数据流中检测异常数据样本的问题。这个问题带来了经典和深度异常检测方法无法应对的挑战,例如概念漂移和持续学习。现有技术的流异常检测方法依赖于使用散列函数或最近邻的固定存储器,其可能无法像移动平均中那样约束高频值或移除无缝离群值,并且无法在端到端深度学习架构中进行训练。我们提出了一种新的增量异常检测方法,该方法基于随机傅立叶特征和量子测量机制以及可以被视为指数移动平均密度的密度矩阵进行连续密度估计。它可以处理潜在的无限数据,其更新复杂度是常数$O(1)$。针对12个最先进的流异常检测算法,使用12个流数据集的系统评价。
2022-10-11 cs.LG stat.ML
Interpretable Anomaly Detection with Mondrian P{ó}lya Forests on Data Streams
University of Warwick(华威大学);University of Cambridge(剑桥大学);Amazon(亚马逊)
大规模异常检测是一个极具挑战性和实用性的问题。当数据很大且高维时,很难检测出哪些观测结果不符合预期行为。最近的工作已经结合了(随机)$k$ \emph{d-trees}的变化,以总结异常检测的数据。然而,这些方法依赖于不容易解释的ad-hoc评分函数,使得难以评估检测到的异常的严重性或在没有标记的异常的情况下选择合理的阈值。为了解决这些问题,我们将这些方法置于一个概率框架中,我们称之为蒙德里安\Polya{}森林,用于估计生成数据的潜在概率密度函数,并使其比以前的工作具有更大的可解释性。此外,我们开发了一个内存效率的变种,能够在现代流媒体环境中运行。我们的实验表明,这些方法实现了最先进的性能,同时提供统计上可解释的异常分数。
2020-08-04 cs.LG stat.ML
Correlated Anomaly Detection from Large Streaming Data
Drexel University(德雷塞尔大学);Temple University(天普大学);Amazon Inc.(亚马逊公司)
流数据的相关异常检测(CAD)是一种群体异常检测,是僵尸网络检测、金融事件检测、工业过程监控等实时数据采掘应用中的一项重要任务。在以往的研究中,这类检测的主要方法是通过计算相关矩阵的顶部特征值,例如Lanczos算法。然而,本文提出了大数据集的主分数退化现象,然后从数学和实践上证明,即使相关异常的数量随着数据大小以合理的速度增长,当前基于PS的方法也可能在大规模流数据上失败;在现实中,异常往往是数据的少数,并且这个问题可能会更严重。我们提出了一个框架,两个新的随机算法rPS和gPS更好地检测相关的各种相关强度的大型流数据的异常。实验表明,高和平衡的召回率和估计的准确性,我们的框架异常检测从一个大型的服务器日志数据集和美国股票每日价格数据集相比,直接的主要得分评估和其他一些最近的群体异常检测算法。此外,我们的技术显着提高了计算效率和可扩展性的主要得分计算。
2019-01-14 cs.LG stat.ML
Evaluating Real-time Anomaly Detection Algorithms - the Numenta Anomaly Benchmark
Numenta, Inc.(Numenta公司)
世界上的大部分数据都是流式的时间序列数据,其中异常在关键情况下提供了重要信息;在金融,IT,安全,医疗和能源等领域的例子比比皆是。然而,检测流数据中的异常是一项艰巨的任务,需要检测器实时的【形】处理数据,而不是批量处理数据,并在进行预测的同时进行学习。没有基准来充分测试和评分实时的【形】异常检测器的有效性。在这里,我们提出了Numenta Anomaly Benchmark(NAB),它试图提供一个受控的和可重复的开源工具环境,以测试和测量流数据上的异常检测算法。完美的检测器将尽快检测到所有异常,不会触发错误警报,处理各种领域的真实时间序列数据,并自动适应不断变化的统计数据。奖励这些特征在NAB中被正式化,使用为流数据设计的评分算法。NAB在具有标记的真实时间序列数据的基准数据集上评估检测器。我们提出了这些组件,并给出了几个开源的,商业使用的算法的结果和分析。NAB的目标是提供一个标准的开源框架,研究社区可以使用该框架比较和评估用于检测流数据中异常的不同算法。
2015-11-17 cs.AI cs.LG
A Hierarchical Ensemble Pipeline for Anomaly Detection in ESA Satellite Telemetry
ContinualIST, Pisa, Italy(持续主义机构,意大利比萨);University of Pisa, Department of Computer Science, Pisa, Italy(比萨大学计算机科学系,意大利比萨)
本文提出分层集成流程用于多变量telemetry数据异常检测,结合形状let和统计特征提取,通道建模与跨通道聚合,通过时间序列交叉验证和双层掩码策略提升泛化能力。
2026-04-22 cs.CV cs.LG
STREAM-VAE: Dual-Path Routing for Slow and Fast Dynamics in Vehicle Telemetry Anomaly Detection
STREAM-VAE通过双路径路由分离慢和快动态,提升车辆telemetry异常检测的鲁棒性。
2026-08-05 cs.AI cs.LG
Binary Anomaly Detection in Streaming IoT Traffic under Concept Drift
National Institute of Informatics(日本国立信息机构);Technical University of Munich(慕尼黑技术大学)
本研究针对概念漂移下的流式物联网流量二分类异常检测问题,对比批量与流式学习方法,证实基于树的流式算法在保证检测性能的同时可大幅降低计算成本,也指出现有数据集存在流量异构性不足的局限。
2025-10-31 cs.CR cs.LG
Abuse and Fraud Detection in Streaming Services Using Heuristic-Aware Machine Learning
Netflix(网飞公司)
这项工作提出了一个欺诈和滥用检测框架流媒体服务建模用户流媒体行为。目标是发现异常和可疑事件,并通过创建描述用户行为的模型来扩展调查工作。我们研究了使用半监督以及监督的异常检测方法。在半监督方法中,通过仅利用一组经过验证的无异常数据样本,我们展示了使用一类分类算法以及自动编码器深度神经网络进行异常检测。在有监督的异常检测任务中,我们提出了一个所谓的统计感知的数据标记策略,用于创建标记的数据样本。我们执行二进制分类以及多类多标签分类任务,不仅用于检测异常样本,还用于识别与每个异常样本相关的潜在异常行为。最后,使用一个系统的特征重要性研究,我们提供了一套基本的功能,表征不同的流欺诈类别的见解。据我们所知,这是第一篇使用机器学习方法在真实世界规模的流媒体服务中进行欺诈和滥用检测的论文。
2022-03-04 cs.AI cs.LG
Fast Wireless Sensor Anomaly Detection based on Data Stream in Edge Computing Enabled Smart Greenhouse
Qufu Normal University(曲阜师范大学);Weifang University of Science and Technology(潍坊科技学院);Nanjing University of Science and Technology(南京理工大学);Shandong First Medical University (Shandong Academy Of Medical Sciences)(山东第一医科大学(山东省医学科学院))
基于边缘计算的智能温室是物联网技术的代表性应用,它可以实时的监测环境信息,并利用这些信息进行智能决策。在此过程中,无线传感器数据的异常检测起着重要的作用。然而,传统的异常检测算法主要针对静态数据的异常检测,没有考虑无线传感器产生的数据流的无限性、相关性和概念漂移等固有特性,这给基于数据流的异常检测带来了很大的挑战,导致检测精度和效率较低。首先,数据流通常是快速生成的,这意味着它是无限的和巨大的,所以任何传统的离线异常检测算法,试图存储整个数据集或扫描数据集多次异常检测将耗尽内存空间。其次,不同数据流之间存在相关性,传统算法很少考虑这一点。第三,底层数据生成过程或数据分布可能会随时间而改变。因此,传统的异常检测算法如果不进行模型更新,将失去其有效性。针对这些问题,本文提出了一种基于局部敏感散列和时间窗技术的DLSHiForest方法,在实现准确高效检测的同时解决了这些问题。综合实验使用真实世界的农业温室数据集,以证明我们的方法的可行性。实验结果表明,我们的建议是切实可行的,在解决传统的异常检测的挑战,同时确保准确性和效率。
2021-07-28 cs.AI cs.LG eess.SP
Adaptive-GraphSketch: Real-Time Edge Anomaly Detection via Multi-Layer Tensor Sketching and Temporal Decay
Department of Computer Science Tennessee Technological University(计算机科学系 田纳西技术大学)
本文提出轻量级可扩展框架 ADAPTIVE-GRAPHSKETCH,结合多张量素描、Count-Min Sketch 与贝叶斯推断进行实时边异常检测,在多个数据集上超越现有基线,兼具高精度与高处理速度。
2025-09-15 cs.LG
METER: A Dynamic Concept Adaptation Framework for Online Anomaly Detection
Beijing Institute of Technology(北京理工大学);National University of Singapore(新加坡国立大学);Zhejiang University(浙江大学)
针对现有在线异常检测方法应对概念漂移能力不足、适配慢的问题,提出基于超网络动态参数调整与证据深度学习漂移检测的METER框架,实验证明其性能显著优于现有方法。
2023-12-28 cs.LG
On the Runtime-Efficacy Trade-off of Anomaly Detection Techniques for Real-Time Streaming Data
MZ Inc.(MZ公司)
不断增长的数据量和速度,加上终端用户注意力的持续下降,突出了对实时分析的迫切需求。在这方面,异常检测作为一种应用程序以及验证数据保真度的手段起着关键作用。虽然异常检测的主题已经在许多学科中研究了100多年,例如但不限于天文学,统计学,制造业,计量经济学,市场营销,大多数现有技术不能像在实时数据流上那样使用。此外,生产数据集缺乏对性能的表征-实时性和准确性,使得模型选择非常具有挑战性。为此,我们提出了一个深入的分析,面向实时流数据,异常检测技术。考虑到实时性和准确性的要求,本文提出的分析应作为选择“最佳”异常检测技术的指导。据我们所知,这是异常检测技术的第一个特征,提出了非常不同的领域,使用生产数据集对应于广泛的应用领域。
2017-10-12 cs.IR cs.LG eess.SP
A Hierarchical Approach to Conditional Random Fields for System Anomaly Detection
PES University(PES大学)
在许多行业中,以时间敏感的方式识别大规模系统中的异常事件的异常检测是至关重要的,例如。银行欺诈、企业系统、医疗警报等。大规模系统的规模和复杂性通常会随着时间的推移而增长,异常检测算法需要适应不断变化的结构。层次化方法利用了复杂系统和局部环境中的隐含关系。复杂系统中的功能在数据分布方面可能会有很大的不同,从多个数据源捕获不同的方面,并在放在一起时提供更完整的系统视图。在本文中,考虑两个数据集,第一个包括来自运行在云服务上的机器的系统度量,第二个是来自大规模分布式软件系统的应用度量,其系统节点之间具有固有的层次结构和互连。通过比较基于变点的PELT算法、基于认知学习的分层时间记忆算法、支持向量机和条件随机场的算法,为提出分层全局-局部条件随机场方法提供了基础,该方法可以准确地捕获复杂系统中各种特征的异常。分层算法可以学习特定特征的复杂性,并在全局抽象表示中利用这些特征来鲁棒地检测多源特征数据和分布式系统中的异常模式。对复杂系统的图形网络分析可以进一步微调数据集,以基于可用特征挖掘关系,这可以使分层模型受益。此外,分层解决方案可以很好地适应本地级别的变化,在系统的某些部分进行大修时学习新数据和不断变化的环境,并将这些学习转化为系统的全局视图。
2022-10-28 cs.DC cs.LG
Deep Learning Approach to Anomaly Detection in Enterprise ETL Processes with Autoencoders
Cornell University(康奈尔大学);The George Washington University(乔治华盛顿大学);University of Southern California(南加州大学);Washington University in St. Louis(圣路易斯华盛顿大学)
针对企业级ETL数据流异常问题,提出基于深度自编码器的检测方法,通过重构误差和潜在空间正则化约束捕获潜在分布模式,在AUC、ACC等指标上表现优越,为企业数据处理提供可靠支持。
2025-11-01 cs.LG
Anomaly detection and classification for streaming data using PDEs
McGill University(麦吉尔大学);University of Minnesota(明尼苏达大学)
非支配排序,也被称为Pareto深度分析(PDA),被广泛用于多目标优化,最近发现在多准则异常检测的重要应用。最近,一个偏微分方程(PDE)连续极限被发现的非支配排序导致一个非常快速的近似排序算法,称为偏微分方程为基础的排名。在本文中,我们提出了一个快速的实时流版本的PDA算法的异常检测,利用PDE连续极限的计算优势。此外,我们推导出新的PDE连续极限排序点内的非支配层,并显示如何新的PDE可以用来分类异常的基础上,该标准更显着违反。我们还证明了基于偏微分方程的排名的统计收敛速度,并提出了合成和真实数据的数值实验结果。
2017-03-15 cs.CV cs.DB cs.LG
No Free Lunch But A Cheaper Supper: A General Framework for Streaming Anomaly Detection
Halmstad University(哈尔姆斯塔德大学)
近年来,在时间流数据中检测异常已经引起了越来越多的研究兴趣。在数据采掘界已经开发了多种算法,这些算法可以分为两类(即,一般性和特别性)。在大多数情况下,一般的方法假设一个尺寸适合所有的解决方案模型,其中单个异常检测器可以检测任何域中的所有异常。到目前为止,还没有一种通用方法被证明在不同的异常类型、用例和数据集上优于其他方法。在本文中,我们提出了SAFARI,制定了一个通用的框架,抽象和统一的基本任务流异常检测,它提供了一个灵活的和可扩展的异常检测过程,以克服一刀切的解决方案的局限性。SAFARI通过允许我们隔离不同算法的共享和独特特征对检测性能的影响,有助于促进更精细的算法比较。使用SAFARI,我们已经实现了各种异常检测器,并确定了一个研究差距,促使我们在这项工作中提出一种新的学习策略。我们对使用SAFARI组成的20个检测器进行了广泛的评估研究,并使用具有不同属性的真实世界基准数据集比较了它们的性能。结果表明,没有一个优越的检测器,以及为每一种情况下,证明我们的假设,“没有免费的午餐”在流异常检测的世界。最后,我们深入讨论了每种方法的优点和缺点,并得出一组结论,以指导未来的SAFARI用户。
2020-04-18 cs.AI cs.LG stat.ML
Graph-level Anomaly Detection via Hierarchical Memory Networks
AAII, University of Technology Sydney(悉尼科技大学澳大利亚人工智能研究所);Singapore Management University(新加坡管理大学)
提出分层记忆网络HimNet,通过图自编码器联合优化节点级和图级记忆模块,分别检测局部和全局异常图,在16个真实数据集上显著优于现有方法且对异常污染具有鲁棒性。
2023-07-03 cs.CV cs.LG
Weakly-Supervised Anomaly Detection in Surveillance Videos Based on Two-Stream I3D Convolution Network
The University of Western Ontario(西安大略大学)
本文提出基于双流 I3D 卷积网络和多示例学习(MIL)的弱监督异常检测框架,通过排序机制处理视频片段,显著提升监控视频中异常检测的准确性与效率,减少对人工标注的依赖。
2024-11-13 cs.CV cs.LG
Early Anomaly Detection in Time Series: A Hierarchical Approach for Predicting Critical Health Episodes
LIAAD-INESC TEC(波尔图LIAAD-INESC技术研究所);Dalhousie University(达尔豪斯大学);University of Porto(波尔图大学);Fraunhofer AICOS Portugal(弗劳恩霍夫葡萄牙AICOS研究所)
在时间序列数据中的异常事件的早期检测在许多应用领域中是必不可少的。在本文中,我们处理的关键健康事件,这是一个重要的原因,死亡率在重症监护病房的医院。及时预测这些事件对于减轻其后果和改善医疗保健至关重要。解决早期异常检测问题的最常见方法之一是标准分类方法。在本文中,我们提出了一种新的方法,使用分层学习架构来解决这些任务。我们的工作的一个关键贡献是预条件事件的想法,这表示任意但可计算的放松版本的事件的兴趣。我们利用这个想法,打破了原来的问题分为两个层次,我们假设更容易解决。结果表明,所提出的方法导致一个更好的性能相对于国家的最先进的关键健康事件预测的方法。
2020-10-22 cs.LG stat.ML
MSTREAM: Fast Anomaly Detection in Multi-Aspect Streams
National University of Singapore(新加坡国立大学);IIT Bombay(印度理工学院孟买分校);Purdue University(普渡大学);IIT Kanpur(印度理工学院坎普尔分校)
给定多方面数据设置中的条目流,即,条目具有多个维度,我们如何以无监督的方式检测异常活动?例如,在入侵检测设置中,现有的工作试图检测动态图流中的异常事件或边缘,但这不允许我们考虑每个条目的附加属性。我们的工作的目的是定义一个流多方面的数据异常检测框架,称为MSTREAM,它可以检测不寻常的组异常,因为它们发生,在一个动态的方式。MSTREAM具有以下特性:(a)它检测多方面数据中的异常,包括分类和数字属性;(b)它是在线的,因此在恒定的时间和恒定的内存中处理每个记录;(c)它可以捕获数据的多个方面之间的相关性。MSTREAM在KDDCUP 99、CICIDS-DoS、UNSW-NB 15和CICIDS-DDoS数据集上进行了评估,其性能优于最先进的基线。
2021-03-30 cs.AI cs.LG stat.ML
The Analysis of Online Event Streams: Predicting the Next Activity for Anomaly Detection
Utrecht University(乌得勒支大学)
流程挖掘中的异常检测主要关注流程执行中的异常情况或事件。由此产生的诊断用于提供防止欺诈行为的措施,以及获得用于改进流程合规性和安全性的建议。大多数现有的技术集中在检测离线设置中的异常情况。然而,为了及时识别潜在的异常并立即采取对策,有必要实时在线检测事件级异常。在本文中,我们提出了使用下一个活动预测方法来解决在线事件异常检测问题。更具体地说,我们研究了使用ML模型(如RF和XGBoost)和深度模型(如LSTM)来预测下一个活动的概率,并将预测的事件视为不太可能的异常。我们在在线环境中将这些预测异常检测方法与四种经典的无监督异常检测方法(例如隔离森林和LOF)进行了比较。我们的评估表明,使用ML模型的方法往往优于使用深度模型的方法,而这两种方法在检测异常事件方面都优于经典的无监督方法。
2022-03-17 cs.DB cs.LG
Online Transition-Based Feature Generation for Anomaly Detection in Concurrent Data Streams
University of Liverpool(利物浦大学)
本文提出TFGen在线特征生成技术,可处理多源并发活动数据流,高效生成带历史编码的特征,以解决异常检测中领域适配、全局结构发现等关键问题。
2023-08-17 cs.DB cs.LG
Isconna: Streaming Anomaly Detection with Frequency and Patterns
National University of Singapore(新加坡国立大学)
边流是动态网络的一种常见表示形式。它可以随着时间的推移而演变,不断添加新类型的节点或边。用于异常检测的现有方法依赖于边缘出现计数或比较在历史记录中发现的模式片段。在这项工作中,我们提出了Isconna,它侧重于边缘记录的频率和模式。突发检测组件以各个时间戳之间的异常为目标,而模式检测组件突出显示跨时间戳段的异常。这两个分量一起产生三个中间分数,其被聚合成最终异常分数。Isconna并不主动探索或维护模式片段;而是测量边缘记录的连续存在和不存在。Isconna算法是一种在线算法,它不保留原始的边记录信息,只在少量的count-min sketches(CMS)中保留统计值。Isconna的空间复杂度$O(rc)$由两个用户特定的参数确定,即CMS的大小。在最坏的情况下,Isconna的时间复杂度可以达到$O(rc)$,但它可以在实践中摊销。实验表明,Isconna在六个真实世界的数据集上的性能优于五个最先进的基于频率和/或模式的基线,这些数据集具有多达2000万条边缘记录。
2021-12-01 cs.AI cs.LG
F-FADE: Frequency Factorization for Anomaly Detection in Edge Streams
Stanford University(斯坦福大学);Purdue University(普渡大学);Barracuda Networks(梭子鱼网络公司)
边缘流通常用于捕获动态网络中的交互,例如电子邮件、社交或计算机网络。边缘流中异常或罕见事件的检测问题有着广泛的应用。然而,由于缺乏标签,交互的高度动态性以及网络中时间和结构变化的纠缠,它带来了许多挑战。目前的方法在解决上述挑战和有效处理大量相互作用的能力方面是有限的。在这里,我们提出了F-FADE,边缘流中的异常检测的一种新方法,它使用了一种新的频率因子分解技术,有效地模拟节点对之间的相互作用的频率的时间演化分布。然后,基于观察到的每个传入交互的频率的可能性来确定异常。F-FADE能够在在线流媒体设置中处理具有时间和结构变化的各种异常,同时仅需要恒定的内存。我们在一个合成网络和六个真实动态网络上的实验表明,F-FADE实现了最先进的性能,并且可以检测到以前的方法无法发现的异常。
2021-02-05 cs.LG cs.SI
Hardware Architecture Proposal for TEDA algorithm to Data Streaming Anomaly Detection
Federal University of Rio Grande do Norte(里约热内卢联邦大学?不对,等下,Rio Grande do Norte是北里奥格兰德,对,Federal University of Rio Grande do Norte是北里奥格兰德联邦大学);Federal Institute of Education, Science and Technology of Rio Grande do Norte(北里奥格兰德联邦教育、科学与技术学院);University of Granada(格拉纳达大学);Harvard University(哈佛大学)
实时数据的数量,如时间序列和流数据,今天可用的持续增长。能够在数据到达时对其进行分析可以带来巨大的附加值。然而,它也需要大量的计算工作和新的加速技术。作为一种可能的解决方案,本文提出了一种硬件架构的典型性和偏心数据分析(TEDA)算法实现现场可编程门阵列(FPGA)用于数据流异常检测。TEDA是基于一种新的方法,在数据流环境中的离群值检测。为了验证这些建议,提出的硬件的占用和吞吐量的结果。此外,还给出了位精度的仿真结果.本项目以Xilinx Virtex-6 xc 6vlx 240 t-1ff 1156为目标FPGA。
2020-03-08 cs.DC cs.LG eess.SP
Concept Drift and Anomaly Detection in Graph Streams
Università della Svizzera italiana(瑞士意大利语大学);Politecnico di Milano(米兰理工大学);University of Exeter(埃克塞特大学)
图形表示提供了强大而直观的方法来描述众多应用领域中的数据。在这里,我们认为随机过程生成的图形,并提出了一种方法来检测这种过程的平稳性的变化。该方法是通用的,并考虑了一个过程中产生的属性图与一个可变数量的顶点/边,而不需要假设一对一的对应关系,在不同的时间步长的顶点之间。该方法通过将流的每个图嵌入到向量域中来起作用,其中可以容易地应用传统的多变量变化检测过程。我们通过证明几个理论结果来证明我们的建议的合理性。此外,我们提供了一个具体的实施方法,并评估其有效性的几个检测问题,涉及属性图代表生物分子和图纸。实验结果与合适的基线方法进行了对比,证明了我们的方法的有效性。
2018-02-09 cs.LG stat.ML
Streaming Anomaly Detection
National University of Singapore(新加坡国立大学)
异常检测对于在无数系统中发现可疑行为至关重要。我们需要实时检测异常情况,即在收到数据后立即确定传入实体是否异常,以最大限度地减少恶意活动的影响并尽快开始恢复。因此,能够以流式方式检测异常的在线算法至关重要。我们首先提出了MIDAS,它使用一个计数最小的草图,以在线的方式检测动态图中的异常边缘,使用恒定的时间和内存。然后,我们提出了两个变体,MIDAS-R,它结合了时间和空间的关系,和MIDAS-F,其目的是过滤掉异常的边缘,以防止它们从负面影响的内部数据结构。然后,我们将计数最小草图扩展到高阶草图,以捕获图数据中的复杂关系,并将检测可疑稠密子图问题减少到在恒定时间内找到稠密子矩阵。使用这个草图,我们提出了四个流式方法来检测边缘和子图异常。接下来,我们将图形设置扩展到多方面数据。我们提出了MStream检测多方面数据流中可解释的异常。我们进一步提出了MStream-PCA,MStream-IB和MStream-AE,以纳入特征之间的相关性。最后,我们考虑多维数据流与概念漂移,并提出MemStream。MemStream利用去噪自动编码器的强大功能来学习表示,并利用内存模块来学习数据中动态变化的趋势,而无需标签。我们证明了有效的漂移处理的内存大小的理论界。此外,当到达流变得与训练数据充分不同时,我们允许快速再训练。此外,MemStream使用两种架构设计选择来抵抗内存中毒。
2023-01-30 cs.AI cs.LG
Anomaly and Change Detection in Graph Streams through Constant-Curvature Manifold Embeddings
Università della Svizzera italiana(意大利语区大学(瑞士提契诺大学));University of Exeter(埃克塞特大学);Politecnico di Milano(米兰理工大学)
将复杂的输入数据映射到合适的低维流形是机器学习中的常见过程。该步骤主要由于两个原因是有益的:(1)它降低了数据维度,以及(2)它提供了可能以方便的几何属性为特征的新的数据表示。欧几里得空间是迄今为止使用最广泛的嵌入空间,这要归功于它们的结构和大量可用的统一推理方法。然而,最近的研究表明,许多类型的复杂数据(例如,表示为图形的那些)实际上由非欧几里德几何更好地描述。在这里,我们研究如何嵌入图的常曲率流形(超球面和双曲流形)的能力,以检测属性图序列的变化的影响。所提出的方法包括将图形嵌入到几何空间中,并通过传统的数值流方法进行变化检测。空间的曲率是一个参数,我们学习它来重现原始应用程序相关图空间的几何形状。初步的实验结果表明,通过弯曲的流形,特别是变化和异常检测问题的图形表示的潜在能力。
2018-05-03 cs.LG stat.ML
Hyperbolic Self-supervised Contrastive Learning Based Network Anomaly Detection
Tianjin University(天津大学)
属性网络的异常检测是近年来控制论异常检测、金融欺诈检测等领域的研究热点。随着深度学习在图表示上的广泛应用,现有方法选择应用欧几里德图编码器作为其骨干,这可能会丢失重要的层次信息,特别是在复杂网络中。为了解决这个问题,我们提出了一个有效的异常检测框架,使用双曲自监督对比学习。具体来说,我们首先通过执行子图采样来进行数据增强。然后利用双曲空间中的层次信息,通过指数映射和对数映射,通过判别过程,将正对的得分与负对的得分相减,得到异常得分。最后,在四个真实世界的数据集上进行的大量实验表明,我们的方法优于代表性的基线方法。
2022-09-12 cs.LG cs.SI
A Graph-based Framework for Online Time Series Anomaly Detection Using Model Ensemble
Nanjing University of Aeronautics and Astronautics(南京航空航天大学);Nanjing Normal University(南京师范大学)
本文提出GDME框架,通过动态图结构和模型集成实现在线时间序列异常检测,实验显示其在检测性能和计算效率上均优于现有方法。
2026-01-04 cs.AI cs.LG
Anomaly Detection and Sampling Cost Control via Hierarchical GANs
Syracuse University(雪城大学)
异常检测会产生一定的采样和感测成本,因此在检测精度和这些成本之间取得平衡非常重要。在这项工作中,我们研究了异常检测,考虑在一个随机时间序列的阈值交叉检测,而不知道其统计。为了降低检测过程中的采样成本,我们提出使用分层生成对抗网络(GANs)来执行非均匀采样。为了提高检测精度并减少检测延迟,我们在所提出的基于GAN的检测器的操作中引入了缓冲区。在实验中,我们分析了所提出的分层GAN检测器的性能,考虑检测延迟,未命中率,平均错误成本和采样率的度量。我们确定了性能的折衷,因为缓冲区大小和层次结构中的GAN级别的数量不同。我们还比较了性能的抽样政策,近似最小化的抽样和误差的平均成本的总和给定的随机过程的参数。我们证明了所提出的基于GAN的检测器可以在检测延迟和平均错误成本方面具有显着的性能改进,具有更大的缓冲区,但以增加采样率为代价。
2020-09-28 cs.IT cs.LG math.IT