Correlated Anomaly Detection from Large Streaming Data
Drexel University(德雷塞尔大学);Temple University(天普大学);Amazon Inc.(亚马逊公司)
流数据的相关异常检测(CAD)是一种群体异常检测,是僵尸网络检测、金融事件检测、工业过程监控等实时数据采掘应用中的一项重要任务。在以往的研究中,这类检测的主要方法是通过计算相关矩阵的顶部特征值,例如Lanczos算法。然而,本文提出了大数据集的主分数退化现象,然后从数学和实践上证明,即使相关异常的数量随着数据大小以合理的速度增长,当前基于PS的方法也可能在大规模流数据上失败;在现实中,异常往往是数据的少数,并且这个问题可能会更严重。我们提出了一个框架,两个新的随机算法rPS和gPS更好地检测相关的各种相关强度的大型流数据的异常。实验表明,高和平衡的召回率和估计的准确性,我们的框架异常检测从一个大型的服务器日志数据集和美国股票每日价格数据集相比,直接的主要得分评估和其他一些最近的群体异常检测算法。此外,我们的技术显着提高了计算效率和可扩展性的主要得分计算。
2019-01-14 cs.LG stat.ML
Abuse and Fraud Detection in Streaming Services Using Heuristic-Aware Machine Learning
Netflix(网飞公司)
这项工作提出了一个欺诈和滥用检测框架流媒体服务建模用户流媒体行为。目标是发现异常和可疑事件,并通过创建描述用户行为的模型来扩展调查工作。我们研究了使用半监督以及监督的异常检测方法。在半监督方法中,通过仅利用一组经过验证的无异常数据样本,我们展示了使用一类分类算法以及自动编码器深度神经网络进行异常检测。在有监督的异常检测任务中,我们提出了一个所谓的统计感知的数据标记策略,用于创建标记的数据样本。我们执行二进制分类以及多类多标签分类任务,不仅用于检测异常样本,还用于识别与每个异常样本相关的潜在异常行为。最后,使用一个系统的特征重要性研究,我们提供了一套基本的功能,表征不同的流欺诈类别的见解。据我们所知,这是第一篇使用机器学习方法在真实世界规模的流媒体服务中进行欺诈和滥用检测的论文。
2022-03-04 cs.AI cs.LG
Evaluating Real-time Anomaly Detection Algorithms - the Numenta Anomaly Benchmark
Numenta, Inc.(Numenta公司)
世界上的大部分数据都是流式的时间序列数据,其中异常在关键情况下提供了重要信息;在金融,IT,安全,医疗和能源等领域的例子比比皆是。然而,检测流数据中的异常是一项艰巨的任务,需要检测器实时的【形】处理数据,而不是批量处理数据,并在进行预测的同时进行学习。没有基准来充分测试和评分实时的【形】异常检测器的有效性。在这里,我们提出了Numenta Anomaly Benchmark(NAB),它试图提供一个受控的和可重复的开源工具环境,以测试和测量流数据上的异常检测算法。完美的检测器将尽快检测到所有异常,不会触发错误警报,处理各种领域的真实时间序列数据,并自动适应不断变化的统计数据。奖励这些特征在NAB中被正式化,使用为流数据设计的评分算法。NAB在具有标记的真实时间序列数据的基准数据集上评估检测器。我们提出了这些组件,并给出了几个开源的,商业使用的算法的结果和分析。NAB的目标是提供一个标准的开源框架,研究社区可以使用该框架比较和评估用于检测流数据中异常的不同算法。
2015-11-17 cs.AI cs.LG
MemStream: Memory-Based Streaming Anomaly Detection
National University of Singapore(新加坡国立大学);IIT Bombay(印度理工学院孟买分校);Harvard University(哈佛大学)
在一个存在概念漂移的多维数据环境中,随着时间的推移,给定一个条目流,我们如何检测异常活动?大多数现有的无监督异常检测方法寻求以离线方式检测异常事件,并且需要大量的数据用于训练。这在现实生活中是不切实际的,因为我们以流的方式接收数据,并且事先不知道流的大小。因此,我们需要一种数据高效的方法,可以在线检测和适应不断变化的数据趋势或概念漂移。在这项工作中,我们提出了MemStream,一个流异常检测框架,使我们能够检测到不寻常的事件,因为它们发生的同时具有弹性的概念漂移。我们利用去噪自动编码器的功能来学习表示,并利用内存模块来学习数据中动态变化的趋势,而无需标签。我们证明了有效的漂移处理所需的最佳内存大小。此外,MemStream使用两种架构设计选择来抵抗内存中毒。实验结果表明,我们的方法相比,国家的最先进的流基线使用$2$合成数据集和$11$真实世界的数据集的有效性。
2022-03-04 cs.AI cs.LG
Anomaly detection and classification for streaming data using PDEs
McGill University(麦吉尔大学);University of Minnesota(明尼苏达大学)
非支配排序,也被称为Pareto深度分析(PDA),被广泛用于多目标优化,最近发现在多准则异常检测的重要应用。最近,一个偏微分方程(PDE)连续极限被发现的非支配排序导致一个非常快速的近似排序算法,称为偏微分方程为基础的排名。在本文中,我们提出了一个快速的实时流版本的PDA算法的异常检测,利用PDE连续极限的计算优势。此外,我们推导出新的PDE连续极限排序点内的非支配层,并显示如何新的PDE可以用来分类异常的基础上,该标准更显着违反。我们还证明了基于偏微分方程的排名的统计收敛速度,并提出了合成和真实数据的数值实验结果。
2017-03-15 cs.CV cs.DB cs.LG
No Free Lunch But A Cheaper Supper: A General Framework for Streaming Anomaly Detection
Halmstad University(哈尔姆斯塔德大学)
近年来,在时间流数据中检测异常已经引起了越来越多的研究兴趣。在数据采掘界已经开发了多种算法,这些算法可以分为两类(即,一般性和特别性)。在大多数情况下,一般的方法假设一个尺寸适合所有的解决方案模型,其中单个异常检测器可以检测任何域中的所有异常。到目前为止,还没有一种通用方法被证明在不同的异常类型、用例和数据集上优于其他方法。在本文中,我们提出了SAFARI,制定了一个通用的框架,抽象和统一的基本任务流异常检测,它提供了一个灵活的和可扩展的异常检测过程,以克服一刀切的解决方案的局限性。SAFARI通过允许我们隔离不同算法的共享和独特特征对检测性能的影响,有助于促进更精细的算法比较。使用SAFARI,我们已经实现了各种异常检测器,并确定了一个研究差距,促使我们在这项工作中提出一种新的学习策略。我们对使用SAFARI组成的20个检测器进行了广泛的评估研究,并使用具有不同属性的真实世界基准数据集比较了它们的性能。结果表明,没有一个优越的检测器,以及为每一种情况下,证明我们的假设,“没有免费的午餐”在流异常检测的世界。最后,我们深入讨论了每种方法的优点和缺点,并得出一组结论,以指导未来的SAFARI用户。
2020-04-18 cs.AI cs.LG stat.ML
Binary Anomaly Detection in Streaming IoT Traffic under Concept Drift
National Institute of Informatics(日本国立信息机构);Technical University of Munich(慕尼黑技术大学)
本研究针对概念漂移下的流式物联网流量二分类异常检测问题,对比批量与流式学习方法,证实基于树的流式算法在保证检测性能的同时可大幅降低计算成本,也指出现有数据集存在流量异构性不足的局限。
2025-10-31 cs.CR cs.LG
Leveraging GPT-4o Efficiency for Detecting Rework Anomaly in Business Processes
University of Milan(米兰大学)
本文研究GPT-4o-2024-08-06检测业务流程返工异常的有效性,开发相关工具并在特定合成数据集上用三种提示技术测试不同异常分布,结果显示模型性能优异,且异常分布和提示策略影响性能。
2025-02-10 cs.AI cs.LG
On the Runtime-Efficacy Trade-off of Anomaly Detection Techniques for Real-Time Streaming Data
MZ Inc.(MZ公司)
不断增长的数据量和速度,加上终端用户注意力的持续下降,突出了对实时分析的迫切需求。在这方面,异常检测作为一种应用程序以及验证数据保真度的手段起着关键作用。虽然异常检测的主题已经在许多学科中研究了100多年,例如但不限于天文学,统计学,制造业,计量经济学,市场营销,大多数现有技术不能像在实时数据流上那样使用。此外,生产数据集缺乏对性能的表征-实时性和准确性,使得模型选择非常具有挑战性。为此,我们提出了一个深入的分析,面向实时流数据,异常检测技术。考虑到实时性和准确性的要求,本文提出的分析应作为选择“最佳”异常检测技术的指导。据我们所知,这是异常检测技术的第一个特征,提出了非常不同的领域,使用生产数据集对应于广泛的应用领域。
2017-10-12 cs.IR cs.LG eess.SP
Expected Similarity Estimation for Large-Scale Batch and Streaming Anomaly Detection
University of Ulm(乌尔姆大学);Ravensburg-Weingarten University of Applied Sciences(拉芬斯堡-魏恩加腾应用科学大学);The University of Sydney(悉尼大学)
我们提出了一种新的算法异常检测非常大的数据集和数据流。该方法称为期望相似性估计(EXPoSE),是基于核的,能够有效地计算新数据点和规则数据分布之间的相似性。该估计被制定为一个再生核希尔伯特空间嵌入的内积,并没有假设的类型或形状的基础数据分布。我们证明了使用EXPoSE的离线(批量)学习可以在线性时间内完成,而在线(增量)学习每个实例和模型更新需要恒定的时间。此外,EXPoSE可以在恒定的时间内进行预测,而它只需要恒定的内存。此外,我们提出了不同的方法,概念漂移适应不断变化的数据流。在几个真实的数据集上,我们证明了我们的方法可以与最先进的异常检测算法竞争,同时比大多数其他方法快一个数量级。
2016-06-06 cs.AI cs.LG
InQMAD: Incremental Quantum Measurement Anomaly Detection
MindLab(思维实验室);Universidad Nacional de Colombia(哥伦比亚国立大学)
流异常检测是指在数据流中检测异常数据样本的问题。这个问题带来了经典和深度异常检测方法无法应对的挑战,例如概念漂移和持续学习。现有技术的流异常检测方法依赖于使用散列函数或最近邻的固定存储器,其可能无法像移动平均中那样约束高频值或移除无缝离群值,并且无法在端到端深度学习架构中进行训练。我们提出了一种新的增量异常检测方法,该方法基于随机傅立叶特征和量子测量机制以及可以被视为指数移动平均密度的密度矩阵进行连续密度估计。它可以处理潜在的无限数据,其更新复杂度是常数$O(1)$。针对12个最先进的流异常检测算法,使用12个流数据集的系统评价。
2022-10-11 cs.LG stat.ML
Hardware Architecture Proposal for TEDA algorithm to Data Streaming Anomaly Detection
Federal University of Rio Grande do Norte(里约热内卢联邦大学?不对,等下,Rio Grande do Norte是北里奥格兰德,对,Federal University of Rio Grande do Norte是北里奥格兰德联邦大学);Federal Institute of Education, Science and Technology of Rio Grande do Norte(北里奥格兰德联邦教育、科学与技术学院);University of Granada(格拉纳达大学);Harvard University(哈佛大学)
实时数据的数量,如时间序列和流数据,今天可用的持续增长。能够在数据到达时对其进行分析可以带来巨大的附加值。然而,它也需要大量的计算工作和新的加速技术。作为一种可能的解决方案,本文提出了一种硬件架构的典型性和偏心数据分析(TEDA)算法实现现场可编程门阵列(FPGA)用于数据流异常检测。TEDA是基于一种新的方法,在数据流环境中的离群值检测。为了验证这些建议,提出的硬件的占用和吞吐量的结果。此外,还给出了位精度的仿真结果.本项目以Xilinx Virtex-6 xc 6vlx 240 t-1ff 1156为目标FPGA。
2020-03-08 cs.DC cs.LG eess.SP
IDK-S: Incremental Distributional Kernel for Streaming Anomaly Detection
IDK-S通过增量分布核方法实现流异常检测的高准确性和高效处理。
2025-12-05 cs.LG
Isconna: Streaming Anomaly Detection with Frequency and Patterns
National University of Singapore(新加坡国立大学)
边流是动态网络的一种常见表示形式。它可以随着时间的推移而演变,不断添加新类型的节点或边。用于异常检测的现有方法依赖于边缘出现计数或比较在历史记录中发现的模式片段。在这项工作中,我们提出了Isconna,它侧重于边缘记录的频率和模式。突发检测组件以各个时间戳之间的异常为目标,而模式检测组件突出显示跨时间戳段的异常。这两个分量一起产生三个中间分数,其被聚合成最终异常分数。Isconna并不主动探索或维护模式片段;而是测量边缘记录的连续存在和不存在。Isconna算法是一种在线算法,它不保留原始的边记录信息,只在少量的count-min sketches(CMS)中保留统计值。Isconna的空间复杂度$O(rc)$由两个用户特定的参数确定,即CMS的大小。在最坏的情况下,Isconna的时间复杂度可以达到$O(rc)$,但它可以在实践中摊销。实验表明,Isconna在六个真实世界的数据集上的性能优于五个最先进的基于频率和/或模式的基线,这些数据集具有多达2000万条边缘记录。
2021-12-01 cs.AI cs.LG
Mahalanobis PatchCore: Covariance-Aware and Streaming-Compatible Industrial Anomaly Detection
Department of Engineering, University of Ferrara(费拉拉大学工程学院)
提出马氏距离 PatchCore,通过协方差估计和流式处理改进 PatchCore,在保持性能的同时降低峰值内存并提升工业检测精度。
2026-05-26 cs.AI cs.CV cs.LG
Adaptive Thresholding Heuristic for KPI Anomaly Detection
Ericsson(爱立信)
针对现有时间序列离群点检测不符合业务异常定义的问题,提出可结合任意分解方法与离群检测器的自适应阈值启发式方法ATH,在爱立信数据集上验证了其高效可扩展、适配性强的优势。
2023-08-21 cs.LG stat.ML
A Graph-based Framework for Online Time Series Anomaly Detection Using Model Ensemble
Nanjing University of Aeronautics and Astronautics(南京航空航天大学);Nanjing Normal University(南京师范大学)
本文提出GDME框架,通过动态图结构和模型集成实现在线时间序列异常检测,实验显示其在检测性能和计算效率上均优于现有方法。
2026-01-04 cs.AI cs.LG
fSEAD: a Composable FPGA-based Streaming Ensemble Anomaly Detection Library
The University of Sydney(悉尼大学)
本文提出基于FPGA的流式集成异常检测库fSEAD,通过部分可重构区域、HLS和DFX实现可组合、可扩展的异常检测器集成,在四个数据集上相比CPU实现获得3到8倍加速。
2024-06-10 cs.AI cs.AR cs.LG
Streaming Anomaly Detection
National University of Singapore(新加坡国立大学)
异常检测对于在无数系统中发现可疑行为至关重要。我们需要实时检测异常情况,即在收到数据后立即确定传入实体是否异常,以最大限度地减少恶意活动的影响并尽快开始恢复。因此,能够以流式方式检测异常的在线算法至关重要。我们首先提出了MIDAS,它使用一个计数最小的草图,以在线的方式检测动态图中的异常边缘,使用恒定的时间和内存。然后,我们提出了两个变体,MIDAS-R,它结合了时间和空间的关系,和MIDAS-F,其目的是过滤掉异常的边缘,以防止它们从负面影响的内部数据结构。然后,我们将计数最小草图扩展到高阶草图,以捕获图数据中的复杂关系,并将检测可疑稠密子图问题减少到在恒定时间内找到稠密子矩阵。使用这个草图,我们提出了四个流式方法来检测边缘和子图异常。接下来,我们将图形设置扩展到多方面数据。我们提出了MStream检测多方面数据流中可解释的异常。我们进一步提出了MStream-PCA,MStream-IB和MStream-AE,以纳入特征之间的相关性。最后,我们考虑多维数据流与概念漂移,并提出MemStream。MemStream利用去噪自动编码器的强大功能来学习表示,并利用内存模块来学习数据中动态变化的趋势,而无需标签。我们证明了有效的漂移处理的内存大小的理论界。此外,当到达流变得与训练数据充分不同时,我们允许快速再训练。此外,MemStream使用两种架构设计选择来抵抗内存中毒。
2023-01-30 cs.AI cs.LG
Autoencoder-based Anomaly Detection in Streaming Data with Incremental Learning and Concept Drift Adaptation
KIOS Research and Innovation Center of Excellence(KIOS卓越研究与创新中心);University of Cyprus(塞浦路斯大学)
本文提出基于自编码器的增量学习与漂移检测方法strAEm++DD,用于流式数据异常检测,在严重类别不平衡下显著优于现有方法。
2023-09-05 cs.LG cs.SY eess.SY
Anomaly Detection for an E-commerce Pricing System
Walmart Labs(沃尔玛实验室)
与实体店相比,在线零售商执行大量的价格更新。即使是一些错误定价的项目也会对业务产生重大影响,并导致客户信任的丧失。以自动实时方式早期检测异常是这种定价系统的重要组成部分。在本文中,我们描述了无监督和监督的异常检测方法,我们开发和部署的大型在线定价系统在沃尔玛。我们的系统可以检测批量和实时流媒体设置中的异常情况,并根据优先级和业务影响对标记的项目进行审查和操作。我们发现,拥有正确的架构设计对于促进大规模模型性能至关重要,而业务影响和速度是影响大规模系统生产环境中模型选择、参数选择和优先级排序的重要因素。我们使用真实世界的零售数据对测试集上各种方法的性能进行了分析,并将我们的方法全面部署到生产中。我们发现,我们的方法能够以高精度检测到最重要的异常。
2019-06-01 cs.LG stat.ML
Sketch-Based Anomaly Detection in Streaming Graphs
TurboML;National University of Singapore(新加坡国立大学);Snap Inc.(Snap公司);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
针对动态图流中边与子图异常难以同时在线检测的问题,本文扩展 count-min sketch 以保留稠密子图结构,并提出4种常数内存与时间的在线算法,在4个真实数据集上超过现有基线。
2023-07-13 cs.AI cs.DS cs.LG
ChequeMark: An Ensemble Machine Learning Framework for After-Hours Business Deposit Fraud Detection
Royal Bank of Canada(加拿大皇家银行)
针对非工作时段商业存款的支票欺诈风险,ChequeMark多视图集成ML框架结合XGBoost、Isolation Forest与GraphSAGE生成客户风险评分,在分布偏移场景下性能优于单一模型,提升了鲁棒性与可解释性。
2026-08-25 cs.LG
Adaptive-GraphSketch: Real-Time Edge Anomaly Detection via Multi-Layer Tensor Sketching and Temporal Decay
Department of Computer Science Tennessee Technological University(计算机科学系 田纳西技术大学)
本文提出轻量级可扩展框架 ADAPTIVE-GRAPHSKETCH,结合多张量素描、Count-Min Sketch 与贝叶斯推断进行实时边异常检测,在多个数据集上超越现有基线,兼具高精度与高处理速度。
2025-09-15 cs.LG
Anomaly Detection in Big Data
Indian Institute of Technology Roorkee(印度理工学院鲁尔基分校)
异常被定义为系统不符合正常行为的状态。例如,核反应堆通道中的中子发射超过指定阈值是异常的。大数据是指\emph{high volume, streaming, heterogeneous, distributed}(通常是\emph{sparse})的数据集。如今,大数据并不罕见。例如,根据互联网实时统计,每天发布的推文数量超过5亿条。由于数据爆炸的数据负载领域,传统的异常检测技术开发的小数据集上的大规模数据集的规模差。因此,我们采用另一种方法来解决大数据中的异常检测。从本质上讲,有两种方法可以在大数据中扩展异常检测。第一种是基于\emph{online}学习,第二种是基于\emph{distributed}学习。本文的目标是在有效检测异常的同时解决大数据问题。为此,本文首先以大数据的\emph{streaming}问题为研究对象,提出了被动攻击GMEAN(PAGMEAN)算法。虽然在线学习算法可以很好地扩展大量的数据点和维度,但当数据分布在多个位置时,它们无法处理数据;这在当今非常常见。因此,我们提出了使用ADMM的固有分布式异常检测算法。最后,我们提出了一个核电站数据异常检测的案例研究。
2022-03-03 cs.LG
A Feature Engineering Approach for Business Impact-Oriented Failure Detection in Distributed Instant Payment Systems
Directorate General for Information Technology, Bank of Italy(意大利银行信息科技总局);Department of Computer Science, University of Salerno(萨勒诺大学计算机科学系)
针对分布式即时支付系统,提出基于ISO 20022消息处理时间的特征工程方法,结合异常检测实现早期故障定位与业务影响解释,经TIPS系统验证有效,显著减少调查时间。
2025-08-07 cs.AI cs.DC cs.LG
LLM-Assisted Logic Rule Learning: Scaling Human Expertise for Time Series Anomaly Detection
本文提出利用大语言模型学习逻辑规则,用于提升供应链时间序列异常检测的准确性和可解释性,通过三阶段框架实现专家知识的系统编码与自动化优化。
2026-01-27 cs.AI cs.LG
Active Anomaly Detection via Ensembles
Washington State University(华盛顿州立大学)
在异常检测的关键应用中,包括计算机安全和欺诈预防,异常检测器必须可由分析人员配置,以最大限度地减少误报。配置异常检测器的一个重要方法是为少数实例提供真实标签。我们研究了标签有效的主动学习自动调整异常检测集成的问题,并作出了四个主要贡献。首先,我们提出了一个重要的见解异常检测器合奏自然适合主动学习。这种见解使我们能够将贪婪查询策略与不确定性采样联系起来,并对标签效率产生影响。其次,我们提出了一种新的形式主义,称为紧凑的描述来描述所发现的异常,并表明它也可以用来提高多样性的实例呈现给分析师没有损失的异常发现率。第三,我们提出了一种新的数据漂移检测算法,不仅检测漂移鲁棒,而且还允许我们采取纠正措施,以适应检测器的原则性方式。第四,我们提出了广泛的实验,以评估我们的见解和算法在批处理和流设置。我们的研究结果表明,除了发现显着更多的异常比国家的最先进的无监督基线,我们的主动学习算法下的流数据设置与批量设置具有竞争力。
2018-09-17 cs.LG stat.ML
Adaptive Model Pooling for Online Deep Anomaly Detection from a Complex Evolving Data Stream
UIUC(伊利诺伊大学厄巴纳-香槟分校);KAIST(韩国科学技术院);University of Vermont(佛蒙特大学)
数据流的在线异常检测对于许多应用程序的安全性至关重要,但由于物联网设备和基于云的基础设施的复杂和不断变化的数据流,它正面临着严峻的挑战。不幸的是,现有的方法对于这些挑战来说太短了;在线异常检测方法承担着处理复杂性的负担,而离线深度异常检测方法则受到不断变化的数据分布的影响。本文提出了一个在线深度异常检测框架ARCUS,它可以用任何基于自动编码器的深度异常检测方法来实例化。它处理复杂和不断变化的数据流使用自适应模型池的方法与两个新的技术:概念驱动的推理和漂移感知模型池更新;前者检测异常的组合模型最适合的复杂性,后者适应模型池动态地适应不断变化的数据流。在对10个高维和概念漂移的数据集进行的综合实验中,ARCUS将最先进的基于自动编码器的方法和最先进的流异常检测方法的流变体的异常检测精度分别提高了22%和37%。
2022-06-09 cs.AI cs.DB cs.LG
RePAD: Real-time Proactive Anomaly Detection for Time Series
Norwegian University of Science and Technology(挪威科技大学);Simula Research Laboratory(Simula研究实验室)
在过去的十年中,许多异常检测方法已被引入到不同的领域,如网络监控,欺诈检测和入侵检测。然而,它们需要理解数据模式,并且通常需要很长的离线时间来为目标数据构建模型或网络。在没有人工干预和领域知识的情况下为流式时间序列提供实时的和主动的异常检测是非常有价值的,因为它大大减少了人工努力,并且使得能够在灾难性损坏、故障或其他有害事件发生之前采取适当的对策。然而,这一问题尚未得到很好的研究。为了解决这个问题,本文提出了RePAD,这是一种基于长短期记忆(LSTM)的流时间序列实时的主动异常检测算法。RePAD利用短期历史数据点来预测和确定即将到来的数据点是否是异常可能在不久的将来发生的迹象。通过随时间动态调整检测阈值,RePAD能够容忍时间序列中的微小模式变化,并主动或及时检测异常。基于从Numenta Anomaly Benchmark收集的两个时间序列数据集的实验表明,RePAD能够主动检测异常并在没有人为干预和领域知识的情况下实时的提供早期预警。
2023-01-09 cs.LG stat.ML
Robust PCA for Anomaly Detection and Data Imputation in Seasonal Time Series
Quantmetry(Quantmetry公司);ENSIIE(法国国立高等工业工程学校);Université Paris Saclay(巴黎萨克雷大学)
我们提出了一个强大的主成分分析(RPCA)框架,以恢复低秩和稀疏矩阵的时间观测。我们开发了一个在线版本的批量时态算法,以处理更大的数据集或流数据。我们实证比较所提出的方法与不同的RPCA框架,并显示其在实际情况下的有效性。
2022-08-03 cs.LG stat.ML
Open Challenges in Time Series Anomaly Detection: An Industry Perspective
Microsoft(微软)
本文从行业视角指出当前时间序列异常检测研究定义脱离实际,基于云系统调查提出流式算法、人在回路、点过程、条件异常和群体分析等开放挑战,并呼吁开展理论与应用研究及构建新数据集和基准。
2025-02-08 cs.LG
CLAD: Efficient Log Anomaly Detection Directly on Compressed Representations
Guangzhou University(广州大学)
CLAD是首个在压缩字节流上直接进行日志异常检测的深度学习框架,通过稀疏字节模式和多尺度偏差提取,实现高效检测并提升F1分数至0.9909。
2026-04-14 cs.DB cs.LG
Exploring Block Anomaly Detection In HDFS Log Data Analysis
本研究针对HDFS日志人工异常检测复杂枯燥的问题,提出结合LLM-BiLSTM模型与Kafka流式管道的检测方案,实现HDFS块异常的快速准确检测。
2026-08-03 cs.DC cs.LG cs.SE
AlerTiger: Deep Learning for AI Model Health Monitoring at LinkedIn
LinkedIn Corporation(领英公司)
本文提出 AlerTiger 深度学习 MLOps 监控系统,通过统计生成、两阶段异常检测、后处理与告警监控模型特征和输出,已在 LinkedIn 生产环境取得业务收益。
2023-06-03 cs.LG
Deep Autoencoders with Value-at-Risk Thresholding for Unsupervised Anomaly Detection
IBM Research -- Ireland(IBM研究院——爱尔兰)
许多现实世界的监控和监视应用程序需要在流模型中运行非平凡的异常检测。我们考虑了一种增量学习方法,其中训练了一个正常的深度自动编码(DAE)模型,并同时用于检测异常。在异常检测中,我们利用一种新的阈值机制,基于风险价值(VaR)。我们将得到的卷积神经网络(CNN)与一些子空间方法进行比较,并在Changedetection网络上给出结果。
2019-12-09 cs.CV cs.LG eess.IV
Anomaly Detection in Driving by Cluster Analysis Twice
Wistron Corporation(纬创资通)
在驾驶中偏离正常交通模式的事件、异常情况(例如激进驾驶或颠簸道路)可能会损害运输和物流(T&L)业务的交付效率。因此,检测驾驶中的异常对于T&L行业至关重要。到目前为止,许多研究已经使用车辆传感器数据来识别异常。以前的大多数作品都是通过使用深度学习或机器学习算法来捕捉异常的,这需要事先进行训练过程和巨大的计算成本。提出了一种基于两次聚类分析的驾驶异常检测方法(ADDCAT),该方法将处理后的传感器数据按不同的物理属性进行聚类。如果一个事件从来不符合主聚类,则该事件被称为异常,这被认为是驾驶中的正常模式。这种方法提供了一种检测驾驶异常的方法,无需事先训练过程和巨大的计算成本。在开放数据集上验证了该方法的性能。
2022-12-15 cs.LG
Deep Baseline Network for Time Series Modeling and Anomaly Detection
Alibaba Group(阿里巴巴集团)
近年来,深度学习在时间序列中的应用越来越多。对于时间序列异常检测场景,如金融、物联网、数据中心运营等,时间序列通常显示出非常灵活的基线,这取决于各种外部因素。异常现象通过远离基线而显露出来。然而,检测并不总是容易的,由于一些挑战,包括基线偏移,缺乏标签,噪声干扰,流数据中的实时的检测,结果的可解释性等,在本文中,我们开发了一种新的深度架构,以正确地提取基线的时间序列,即深度基线网络(DBLN)。通过使用这种深度网络,我们可以轻松地定位基线位置,然后提供可靠和可解释的异常检测结果。在合成数据集和公开真实数据集上的实验结果表明,与现有方法相比,该算法具有更好的性能,具有良好的实际应用价值。
2022-10-09 cs.LG
PatchTrAD: A Patch-Based Transformer focusing on Patch-Wise Reconstruction Error for Time Series Anomaly Detection
INSA Rouen(鲁昂国立应用科学学院);Univ Rouen(鲁昂大学);Normandie Univ(诺曼底大学)
本文提出PatchTrAD,一种在重构框架下结合分块与Transformer编码器的时间序列异常检测模型,在多个基准上达到与前沿深度学习模型相当的检测性能,并提升推理效率。
2025-06-10 cs.AI cs.LG
An Efficient Outlier Detection Algorithm for Data Streaming
California State University, San Bernardino(加州州立大学圣贝纳迪诺分校);John A. Paulson School of Engineering and Applied Sciences, Harvard University(哈佛大学约翰·A·保尔森工程与应用科学学院);University of California, Riverside(加州大学河滨分校)
本文提出高效增量局部异常因子(EILOF)算法,仅计算新点的 LOF 分数而不更新现有点,在降低流式异常检测计算成本的同时,随数据量增加系统性地提升检测精度并优于 ILOF。
2025-01-02 cs.LG stat.AP stat.CO
Isolation Mondrian Forest for Batch and Online Anomaly Detection
University of Waterloo(滑铁卢大学);SoundHound;Facebook
我们提出了一种新的方法,命名为隔离蒙德里安森林(iMondrian森林),批量和在线异常检测。所提出的方法是一种新的混合隔离森林和蒙德里安森林,这是现有的方法,批量异常检测和在线随机森林,分别。iMondrian森林采用了隔离的思想,使用树中节点的深度,并在Mondrian森林结构中实现它。结果是一种新的数据结构,其可以在线方式接受流数据,同时用于异常检测。我们的实验表明,iMondrian森林在批处理设置中的性能大多优于隔离森林,并且与其他批处理和在线异常检测方法相比具有更好或相当的性能。
2020-08-27 cs.LG stat.ML
A Framework for Streaming Event-Log Prediction in Business Processes
Université Paris-Saclay(巴黎萨克雷大学);CNRS(法国国家科学研究中心);ENS Paris-Saclay(巴黎萨克雷高等师范学校);Institut Universitaire de France(法国大学研究院)
提出基于Python的流式事件日志预测框架,支持集成n-grams和LSTMs等模型,发现在流式模式下基础模型比LSTMs更具早期预测优势。
2024-12-20 cs.AI cs.LG
Anomaly Detection for Network Connection Logs
D. J. Sanghvi College of Engineering(D.J.桑格维工程学院);European Organisation for Nuclear Research(欧洲核子研究组织)
我们利用基于ELK、Spark和Hadoop的流架构,以近乎实时的方式收集、存储和分析数据库连接日志。该系统使用无监督学习调查离群值;日志数据的广泛采用的聚类和分类算法,通过离群值的可视化突出每个模型中的细微变化。到达一个新的解决方案来评估未标记的,未经过滤的连接日志,我们提出了一种方法,可以外推到一个通用的系统,分析连接日志在一个大型的基础设施,包括数千个单独的节点,并产生数百行日志每秒。
2018-12-01 cs.DC cs.LG stat.ML
Online Isolation Forest
Politecnico di Milano(米兰理工大学);University of Waikato(怀卡托大学)
针对流式异常检测中离线方法需反复访问数据、在线方法依赖周期重训的问题,提出 Online-iForest 以持续跟踪数据分布,并在保持检测性能的同时显著提升效率。
2025-05-14 cs.AI cs.LG stat.ML
Structure-based Anomaly Detection and Clustering
本文提出多种基于结构的无监督异常检测与聚类方法,覆盖静态、流式数据及网络安全场景,在精度、效率等方面优于现有方法,部分已落地应用。
2025-05-19 cs.AI cs.CV cs.LG
Active Rule Mining for Multivariate Anomaly Detection in Radio Access Networks
Global AI Accelerator (GAIA), Ericsson(全球人工智能加速器(GAIA),爱立信)
针对多变量异常检测缺乏可解释、可落地的业务规则的问题,本文提出一种适配无线接入网场景、支持离散和时间序列数据的半自治异常规则挖掘器,可将异常模式映射为可执行规则。
2025-01-11 cs.AI cs.LG
Interpretable Anomaly Detection with Mondrian P{ó}lya Forests on Data Streams
University of Warwick(华威大学);University of Cambridge(剑桥大学);Amazon(亚马逊)
大规模异常检测是一个极具挑战性和实用性的问题。当数据很大且高维时,很难检测出哪些观测结果不符合预期行为。最近的工作已经结合了(随机)$k$ \emph{d-trees}的变化,以总结异常检测的数据。然而,这些方法依赖于不容易解释的ad-hoc评分函数,使得难以评估检测到的异常的严重性或在没有标记的异常的情况下选择合理的阈值。为了解决这些问题,我们将这些方法置于一个概率框架中,我们称之为蒙德里安\Polya{}森林,用于估计生成数据的潜在概率密度函数,并使其比以前的工作具有更大的可解释性。此外,我们开发了一个内存效率的变种,能够在现代流媒体环境中运行。我们的实验表明,这些方法实现了最先进的性能,同时提供统计上可解释的异常分数。
2020-08-04 cs.LG stat.ML
CyberCScope: Mining Skewed Tensor Streams and Online Anomaly Detection in Cybersecurity Systems
SANKEN, Osaka University(大阪大学 SANKEN)
提出流式方法CyberCScope,通过混合偏斜无限与有限维分解处理高阶张量流,实现网络安全中多类型入侵的实时检测与特征总结。
2025-03-02 cs.AI cs.CR cs.LG
SDOoop: Capturing Periodical Patterns and Out-of-phase Anomalies in Streaming Data Analysis
Institute of Telecommunications TU Wien(维也纳技术大学电信研究所)
本文提出 SDOoop 方法,通过扩展 SDO 流式版本保留数据结构的时间信息,以恒定时空复杂度检测流数据中的周期性模式与异相异常,并在入侵检测和自然科学数据上取得与最先进方法相当或更优的性能。
2024-09-04 cs.LG
Anomaly Detection Based on Isolation Mechanisms: A Survey
Deakin University(迪肯大学);Macquarie University(麦考瑞大学);Nanjing University(南京大学)
本文综述了基于隔离机制的无监督异常检测方法,分析其数据划分策略、异常评分函数等细节,探讨不同场景下的扩展应用,并指出开放挑战与未来方向。
2024-03-16 cs.LG
Unsupervised Graph Modeling for Anomaly Detection in Accounting Subject Relationships
Columbia University(哥伦比亚大学);Georgetown University(乔治城大学);Pepperdine University(佩珀德雷大学);Walsh College(沃什学院);Brandeis University(布兰迪斯大学)
本文提出基于图神经网络的无监督判别框架,用于检测会计科目关联结构中的异常,通过构建科目关联图并分析结构偏差,实现局部和跨社区异常检测。
2026-04-29 cs.LG
A Machine Learning-based Anomaly Detection Framework in Life Insurance Contracts
TU Dortmund University(多特蒙德工业大学)
针对人寿保险合同数据异常检测中标记数据稀缺的问题,该研究探讨多种经典及现代无监督异常检测方法,对比其在两个数据集上的性能并探索流程自动化方案,以提升数据可靠性并便于企业(含非数据科学家)采用。
2024-11-26 cs.LG stat.AP
Dive into Time-Series Anomaly Detection: A Decade Review
Inria(法国国家信息与自动化研究所);DI ENS(巴黎高等师范学院数字研究所);PSL(巴黎文理研究大学);CNRS(法国国家科学研究中心);The Ohio State University(俄亥俄州立大学);Université Paris Cité(巴黎西岱大学);IUF(法国大学研究院)
本文综述了近十年时间序列异常检测研究,提出以过程为中心的分类法对现有方法进行系统归类,并通过文献元分析总结该领域的主要发展趋势。
2024-12-29 cs.AI cs.DB cs.LG
Efficient Anomaly Detection via Matrix Sketching
Stanford University(斯坦福大学);VMware Research(威睿研究院)
我们认为,在高维数据中使用流行的PCA异常分数发现异常的问题。用于计算这些分数的朴素算法显式地计算协方差矩阵的PCA,其在数据的维度中使用空间二次。我们给出了第一个流算法,使用的空间是线性或次线性的维度。我们证明一般结果表明,\emph{any}草图的矩阵,满足一定的运营商规范的保证,可以用来近似这些分数。我们实例化这些结果与强大的矩阵素描技术,如频繁的方向和随机投影,以获得有效和实用的算法,这些问题,我们验证了现实世界的数据集。我们的主要技术贡献是证明了这些测度计算中产生的算子的矩阵扰动不等式。
2018-11-27 cs.AI cs.LG stat.ML