Unsupervised and Semi-supervised Anomaly Detection with LSTM Neural Networks
Bilkent University(比尔肯特大学)
我们研究了无监督框架中的异常检测,并介绍了基于长短期记忆(LSTM)神经网络的算法。特别是,给定可变长度的数据序列,我们首先将这些序列通过基于LSTM的结构,并获得固定长度的序列。然后,我们找到一个决策函数,我们的异常检测器的基础上一类支持向量机(OC-SVM)和支持向量数据描述(SVDD)算法。作为文献中的第一次,我们使用基于高效梯度和二次规划的训练方法联合训练和优化LSTM架构和OC-SVM(或SVDD)算法的参数。为了应用基于梯度的训练方法,我们修改了OC-SVM和SVDD算法的原始目标标准,其中我们证明了修改后的目标标准的收敛性。我们还提供了我们的无监督制定的半监督和全监督框架的扩展。因此,我们得到的异常检测算法,可以处理可变长度的数据序列,同时提供高性能,特别是时间序列数据。我们的方法是通用的,因此我们也将这种方法应用于门控递归单元(GRU)架构,直接将基于LSTM的结构替换为基于GRU的结构。在我们的实验中,我们说明了我们的算法相对于传统方法实现的显着性能提升。
2017-10-25 cs.LG eess.SP stat.ML
Anomaly detection and classification for streaming data using PDEs
McGill University(麦吉尔大学);University of Minnesota(明尼苏达大学)
非支配排序,也被称为Pareto深度分析(PDA),被广泛用于多目标优化,最近发现在多准则异常检测的重要应用。最近,一个偏微分方程(PDE)连续极限被发现的非支配排序导致一个非常快速的近似排序算法,称为偏微分方程为基础的排名。在本文中,我们提出了一个快速的实时流版本的PDA算法的异常检测,利用PDE连续极限的计算优势。此外,我们推导出新的PDE连续极限排序点内的非支配层,并显示如何新的PDE可以用来分类异常的基础上,该标准更显着违反。我们还证明了基于偏微分方程的排名的统计收敛速度,并提出了合成和真实数据的数值实验结果。
2017-03-15 cs.CV cs.DB cs.LG
Multi-Objective Model Selection for Time Series Forecasting
Technical University of Munich(慕尼黑工业大学);AWS AI Labs(AWS人工智能实验室);Amazon Web Services(亚马逊云科技);Zalando Research(Zalando研究院)
时间序列预测的研究主要集中在开发提高准确性的方法。然而,其他标准,如训练时间或延迟,在许多现实世界的应用程序中是至关重要的。因此,我们解决的问题,如何选择一个合适的预测模型,为一个给定的数据集之间的过多的可用的预测方法时,准确性只是许多标准之一。为此,我们的贡献是双重的。首先,我们提出了一个全面的基准测试,在44个异构的公开数据集上评估了7种经典和6种深度学习预测方法。基准代码是开源的,所有方法的评估和预测都是开源的。这些评估使我们能够回答一些悬而未决的问题,例如深度学习模型要优于经典模型所需的数据量。其次,我们利用基准评估来学习考虑多个目标(如准确性和延迟)的良好默认值。通过学习从预测模型到性能指标的映射,我们证明了我们的方法PARETOSELECT能够准确地从帕累托前沿选择模型-减轻了训练或评估许多预测模型的需要。据我们所知,PARETOSELECT构成了在多目标设置中学习默认模型的第一种方法。
2022-02-17 cs.LG
Diverse Counterfactual Explanations for Anomaly Detection in Time Series
University of Oxford(牛津大学);Amazon Web Services(亚马逊云科技);Zalando Research(Zalando研究院);Santa Clara University(圣克拉拉大学);Fiddler AI
在实践中,检测时间序列数据中异常的数据驱动方法无处不在,但它们通常无法为它们所做的预测提供有用的解释。在这项工作中,我们提出了一个模型不可知的算法,产生反事实的合奏解释的时间序列异常检测模型。我们的方法生成了一组不同的反事实的例子,即,多个扰动版本的原始时间序列不被认为是异常的检测模型。由于扰动的幅度是有限的,这些反事实代表了与模型认为正常的原始时间序列相似的输入集合。我们的算法适用于任何可微的异常检测模型。我们研究了我们的方法在单变量和多变量真实世界数据集以及两个基于深度学习的异常检测模型上的价值,以及之前在其他数据领域提出的几个可解释性标准,如有效性,可信性,接近性和多样性。我们表明,我们的算法可以产生符合这些标准的反事实的例子,并感谢一种新型的可视化,可以传达一个模型的内部机制比现有的方法更丰富的解释。此外,我们设计了一个稀疏的变体,我们的方法,以提高高维时间序列异常的反事实解释的可解释性。在这种情况下,我们的解释只局限于几个维度,因此可以更有效地与模型的用户进行沟通。
2022-03-21 cs.LG stat.ML
One Class Splitting Criteria for Random Forests
CNRS(法国国家科学研究中心);Télécom ParisTech(巴黎高等电信学院);Université Paris-Saclay(巴黎萨克雷大学);Institut Supérieur de l’Aéronautique et de l’Espace (ISAE-SUPAERO)(法国国立高等航空航天学院(ISAE-SUPAERO));Université d’Évry val d’Essonne(埃夫里-瓦尔德埃松大学)
随机森林(RF)是用于分类和回归的强大机器学习工具。然而,他们仍然监督算法,并没有扩展的RF的一类设置已被提出,除了基于第二类采样的技术。这项工作填补了这一空白,提出了一个自然的方法,扩展标准的分裂标准的一类设置,结构概括的RF一类分类。还提出了一个广泛的基准的七个国家的最先进的异常检测算法。这从经验上证明了我们方法的相关性。
2016-11-21 cs.LG stat.ML
Informative Path Planning for Extreme Anomaly Detection in Environment Exploration and Monitoring
Massachusetts Institute of Technology(麻省理工学院)
无人驾驶自主飞行器(UAV)被派去执行任务,根据贝叶斯优化收集的一系列测量数据来探索和重建未知环境。任务的成功与否取决于无人机忠实地重建环境中存在的任何异常特征的能力,重点是极端情况(例如,极端地形凹陷或异常化学浓度)。我们表明,通常用于确定无人机应该访问哪些位置的标准不适合这项任务。我们引入了一些新的标准,引导无人机对区域的强烈异常,利用以前收集的信息,在数学上优雅和计算易处理的方式。我们证明了所提出的方法在几个应用中的优越性,包括从现实世界的测深数据重建海底地形,以及跟踪动态异常。我们的方法的一个特别有吸引力的属性是它能够克服对抗性条件,即,在这种情况下,有关极端位置的先验信念是不精确或错误的。
2021-04-07 cs.LG cs.RO stat.ML
A Survey of Single-Scene Video Anomaly Detection
North Carolina State University(北卡罗来纳州立大学);Mitsubishi Electric Research Labs (MERL)(三菱电机研究实验室)
本文综述了单场景视频源异常检测的研究动态。我们讨论了各种问题的配方,公开可用的数据集和评估标准。我们将过去的研究归类为一个直观的分类法,并在标准测试集上对许多算法的准确性进行了全面的比较。最后,我们还提供了最佳实践,并为未来的研究提出了一些可能的方向。
2020-08-14 cs.CV
Ymir: A Supervised Ensemble Framework for Multivariate Time Series Anomaly Detection
本文提出了一个多变量时间序列异常检测框架Ymir,它利用集成学习和监督学习技术有效地学习和适应真实世界系统应用中的异常。Ymir通过集成学习方法集成了目前广泛使用的几种无监督异常检测模型,从而可以在无监督场景下提供鲁棒的前端异常检测结果。在有监督的环境中,领域专家和系统用户讨论并提供训练数据的标签(异常或不异常),这反映了他们对特定系统的异常检测标准。Ymir使用上述无监督方法从原始多变量时间序列数据中提取丰富而有用的特征表示,然后将特征和标签与监督分类器相结合来进行异常检测。我们在来自大型监测系统的内部多变量时间序列数据集上评估了Ymir,并获得了良好的异常检测性能。
2021-12-09 cs.LG
Neural Memory Plasticity for Anomaly Detection
Queensland University of Technology(昆士兰科技大学)
在机器学习领域,神经记忆网络(NMN)最近在各种应用领域取得了令人印象深刻的成果,包括视觉问答,轨迹预测,对象跟踪和语言建模。然而,我们观察到,在当前NMN中使用的基于注意力的知识检索机制限制了它们实现其全部潜力,因为注意力过程基于一组静态连接权重检索信息。这在数据域中的样本之间存在巨大差异的设置中是次优的;例如异常检测,其中对于什么构成异常没有一致的标准。在本文中,我们提出了一种可塑性神经记忆访问机制,利用静态和动态连接权重的内存读取,写入和输出生成过程。我们证明了所提出的记忆模型在三个具有挑战性的异常检测任务在医疗领域的有效性和灵活性:异常EEG识别,MRI肿瘤类型分类和精神分裂症的风险检测儿童。在所有设置中,所提出的方法优于当前的最先进的。此外,我们进行了深入的分析,展示了神经可塑性的知识检索过程的效用,并提供证据,建议的记忆模型如何产生稀疏但信息丰富的记忆输出。
2019-10-12 cs.CV cs.LG cs.NE
Knowledge-Augmented Explainable and Interpretable Learning for Anomaly Detection and Diagnosis
Osnabrück University(奥斯纳布吕克大学);German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心)
本章探讨知识增强的可解释与可理解学习在异常检测与诊断中的应用,结合知识与数据驱动方法提升可理解性与透明度,举例从简单可理解方法到先进神经符号方法的不同技术路径。
2024-11-28 cs.AI cs.LG
Multi-class Image Anomaly Detection for Practical Applications: Requirements and Robust Solutions
Department of Industrial Engineering, Seoul National University(首尔国立大学工业工程系)
本文针对多类图像异常检测,提出层次化核心集(HierCore)框架,利用层次化记忆库在有无类别标签条件下均满足需求,实现稳健检测性能。
2025-08-04 cs.CV
Generalist Representation, Specialist Detection: TS-Router for Time-Series Anomaly Detection
Tsinghua University(清华大学);Huawei(华为);Datadog AI Research(Datadog AI 研究院)
提出TS-Router框架,利用预训练时间序列表示估计各异常检测器能力并自适应选择专家,无需目标标签,在16个基准上取得最佳平均排名。
2026-10-02 cs.AI cs.LG
Deep Learning-Based Anomaly Detection in Spacecraft Telemetry on Edge Devices
IU International University of Applied Sciences(IU国际应用科学大学)
本文研究了三种空间craft遥测异常检测方法,通过多目标神经网络架构优化,实现了边缘设备上的高效部署,优化模型在保持高检测性能的同时大幅降低了计算需求。
2026-03-31 cs.AI cs.AR cs.LG
Anomaly Detection by Leveraging Incomplete Anomalous Knowledge with Anomaly-Aware Bidirectional GANs
Sun Yat-sen University(中山大学);Guangdong Key Laboratory of Big Data Analysis and Processing(广东省大数据分析与处理重点实验室)
异常检测的目标是从正常样本中识别出异常样本。在本文中,假设少量异常在训练阶段可用,但假设它们仅从几种异常类型中收集,使得大多数异常类型根本不在所收集的异常数据集中表示。为了有效地利用这种由所收集的异常表示的不完整的异常知识,我们建议学习一种概率分布,该概率分布不仅可以对正常样本进行建模,而且还可以保证为所收集的异常分配低密度值。为此,开发了一种异常感知生成对抗网络(GAN),除了像大多数GANs那样对正常样本进行建模外,它还能够显式地避免为收集到的异常样本分配概率。此外,为了便于计算异常检测标准,如重建误差,所提出的异常感知GAN被设计为双向的,附加编码器的发生器。大量的实验结果表明,我们提出的方法是能够有效地利用不完整的异常信息,导致显着的性能增益相比,现有的方法。
2022-05-01 cs.LG
Unsupervised Surrogate Anomaly Detection
Department of Computer Science TU Dortmund University(计算机科学系多特蒙德大学)
本文提出代理异常检测方法论,将其形式化为最优代理模型公理并设计DEAN算法,在121个基准数据集上与19种现有方法相比表现出竞争性能,验证了可扩展性和可靠性。
2025-04-29 cs.AI cs.LG
Odd-One-Out: Anomaly Detection by Comparing with Neighbors
University of Edinburgh(爱丁堡大学)
本研究提出一种基于场景内对象对比的新型异常检测任务,通过多视图构建3D对象中心模型并结合部件感知表示,经跨实例对比检测场景特有异常,同时发布两个新基准并完成全面验证。
2025-03-22 cs.CV
Disjoint or Overlapping? Inference Windowing for Reconstruction-Based Time Series Anomaly Detection
University of Montpellier, Inria, CNRS, LIRMM(蒙彼利埃大学、Inria、CNRS、LIRMM)
研究推理步长(重叠窗口)对基于重构的时间序列异常检测性能的影响,提出统一评估协议,实验表明重叠窗口平均提升28%且改变方法排名。
2026-06-02 cs.LG stat.ML
SCAN: Enhance Time Series Anomaly Detection via Multi-Scale Neighborhood-Centered Clustering
East China Normal University(东华大学);APPLab, Huawei(2012 APPLab,华为);Huawei(华为)
提出SCAN方法,通过多尺度聚类增强重建型异常检测,在表示层集成正常模式聚类中心约束重建,在异常判据层结合聚类概率与重建误差,并利用邻域中心表示改进聚类性能,在多个真实数据集上达到最优。
2026-06-18 cs.LG
Enhancing ECG Classification Robustness with Lightweight Unsupervised Anomaly Detection Filters
NXP Semiconductors(NXP半导体公司);Institute of Medical Technology and Intelligent Systems(医学技术与智能系统研究所);Faculty of Computer Science and Digital Society(计算机科学与数字社会学院)
本文提出轻量级无监督异常检测过滤器,通过神经架构搜索优化Deep SVDD,在资源受限微控制器上提升ECG分类鲁棒性,实验显示其能显著提高诊断准确性。
2026-01-23 cs.LG
H-Alpha Anomalyzer: An Explainable Anomaly Detector for Solar H-Alpha Observations
Department of Computer Science, University of Missouri-St. Louis(密苏里大学圣路易斯分校计算机科学系);National Solar Observatory(国家太阳观测站)
本文提出轻量级可解释异常检测算法 H-Alpha Anomalyzer,用于识别 GONG 网络太阳 Hα 观测中的异常,并发布含 2000 个样本的数据集,实验证明其性能优于现有方法且支持专家定性评估。
2025-09-17 astro-ph.IM astro-ph.SR cs.LG
Automated Model Selection for Time-Series Anomaly Detection
Microsoft(微软)
时间序列异常检测是学术界和工业界的热门课题。许多公司需要监控其应用程序和服务的数千个时间信号,并需要及时获得潜在事件的即时反馈和警报。这项任务是具有挑战性的,因为时间序列的复杂特性,这是混乱的,随机的,往往没有适当的标签。由于缺乏标签,这禁止训练监督模型,并且单个模型很难适应不同的时间序列。在本文中,我们提出了一个解决方案来解决这些问题。我们提出了一个自动化的模型选择框架,自动找到最合适的检测模型与适当的参数输入数据。模型选择层是可扩展的,因为当新的检测器可用于服务时,它可以被更新而不需要太多的工作。最后,我们结合了一个定制的调整算法,以灵活地过滤异常,以满足客户的标准。在真实数据集上的实验表明了该方法的有效性。
2020-08-25 cs.LG eess.SP
Ensemble Grammar Induction For Detecting Anomalies in Time Series
George Mason University(乔治梅森大学);Sandia National Laboratories(桑迪亚国家实验室)
时间序列异常检测是一项重要的任务,在广泛的领域中具有应用。近年来,已经提出了许多方法,但它们通常需要预先知道异常的长度并将其作为输入参数提供。这限制了算法的实用性,因为这些信息通常是事先未知的,或者不同长度的异常可能共存于数据中。为了解决这个问题,以前,一个线性时间异常检测算法的基础上语法归纳已经提出。虽然该算法可以找到可变长度的模式,但它仍然需要在离散化步骤中预先选择至少两个参数的值。如何正确地选择这些参数值仍然是一个悬而未决的问题。在本文中,我们介绍了一种基于语法归纳的异常检测方法,利用集成学习。该方法不是使用特定选择的参数值进行异常检测,而是基于使用不同参数值获得的一组结果来生成最终结果。我们证明了所提出的集成方法可以优于现有的语法归纳为基础的方法与不同的标准选择的参数值。我们还表明,所提出的方法可以实现性能类似的国家的最先进的基于距离的异常检测算法。
2020-01-29 cs.DB cs.LG stat.ML
Predictive Maintenance Model Based on Anomaly Detection in Induction Motors: A Machine Learning Approach Using Real-Time IoT Data
SENAI Innovation Institute for Information and Communication Technologies(SENAI信息与通信技术创新研究院);UFRPE(巴西联邦农村大学)
本文提出一种基于实时IoT数据的感应电机异常检测与预测性维护方法,结合FFT、WT等预处理技术与低计算成本机器学习模型,通过多目标优化平衡检测率、误报率与推理速度,并利用低成本传感器采集的振动、温度和噪声融合数据验证了该端到端方案的有效性。
2023-10-15 cs.AI cs.LG
A Comparative Study of Machine Learning Algorithms for Anomaly Detection in Industrial Environments: Performance and Environmental Impact
FUNDITEC
本研究在工业4.0背景下评估多种机器学习算法及多层感知机配置在异常检测中的性能与环境影响,采用多目标优化方法揭示模型性能与资源消耗间的权衡,为开发环保的工业机器学习模型提供方向。
2023-07-01 cs.AI cs.LG
Anomaly Detection of Time Series with Smoothness-Inducing Sequential Variational Auto-Encoder
Shanghai Jiao Tong University(上海交通大学)
深度生成模型已经证明了它们在学习潜在表示和建模时间序列的复杂依赖关系方面的有效性。本文提出了一种用于多维时间序列鲁棒估计和异常检测的平滑诱导序贯变分自动编码器(SISVAE)模型。我们的模型是基于变分自动编码器(VAE),其骨干是由一个递归神经网络来捕获潜在的时间序列的生成模型和推理模型的时间结构。具体来说,我们的模型参数化的均值和方差为每个时间戳与灵活的神经网络,从而在一个非平稳模型,可以工作,而无需假设恒定的噪声通常由现有的马尔可夫模型。然而,这种灵活性可能导致模型对异常脆弱。为了实现强大的密度估计,这也可以有利于检测任务,我们提出了一个平滑诱导先验可能的估计。所提出的先验可以作为一个正则化器,在非光滑重建时进行惩罚。我们的模型是有效地学习一种新的随机梯度变分贝叶斯估计。特别地,我们研究了异常检测的两个决策准则:重建概率和重建误差。我们展示了我们的模型在合成数据集和公共真实世界基准上的有效性。
2021-02-02 cs.AI cs.LG
"Flux+Mutability": A Conditional Generative Approach to One-Class Classification and Anomaly Detection
Massachusetts Institute of Technology(麻省理工学院);NSF AI Institute for Artificial Intelligence and Fundamental Interactions(美国国家科学基金会人工智能与基本相互作用人工智能研究所);University of Regina(里贾纳大学)
异常检测在实验物理界越来越受欢迎。在大型强子对撞机这样的实验中,异常检测是发现标准模型之外的新物理的最前沿。本文详细介绍了一种新的机器学习架构的实现,称为通量+可变性,它结合了最先进的条件生成模型与聚类算法。在“flux”阶段,我们学习参考类的分布。推断中的“可变性”阶段处理数据是否严重偏离参考类。我们证明了我们的方法的有效性和连接到多个问题,从一类分类异常检测。特别地,我们将我们的方法应用于电磁量能器中中性簇射的分离,并展示了它在检测标准QCD背景中的异常双喷流事件中的性能。这种方法限制了对参考样本的假设,并对给定问题的互补对象类保持不可知性。我们描述的可能性,动态生成一个参考人群,并通过分位数削减定义选择标准。值得注意的是,这种灵活的架构可以部署用于各种问题,而多类分类或数据质量控制等应用则有待进一步探索。
2022-04-19 cs.LG hep-ex nucl-ex
Street Scene: A new dataset and evaluation protocol for video anomaly detection
North Carolina State University(北卡罗来纳州立大学);Mitsubishi Electric Research Labs(三菱电机研究实验室)
视频异常检测研究的进展目前因缺乏各种活动以及有缺陷的评估标准的小数据集而放缓。本文旨在通过引入一个名为Street Scene的大型且多样化的新数据集以及两个新的评估标准来帮助推动这项研究工作,这些标准可以更好地估计算法在实践中的表现。除了新的数据集和评估标准,我们提出了一种新的基线视频异常检测算法的两种变化,并表明它们在街景上比文献中的两种最先进的算法更准确。
2020-01-24 cs.CV
Parrot: Pareto-optimal Multi-Reward Reinforcement Learning Framework for Text-to-Image Generation
Google Research(谷歌研究院);Google(谷歌公司);Google DeepMind(谷歌DeepMind);OpenAI;Rutgers University(罗格斯大学);Korea University(高丽大学)
针对文生图多奖励强化学习中手动调权易致过优化的问题,提出Parrot帕累托最优框架,通过批次帕累托选择自动权衡多奖励,联合优化生成模型与提示扩展网络,在多项质量指标上优于基线。
2024-07-15 cs.CV
HeadHunt-VAD: Hunting Robust Anomaly-Sensitive Heads in MLLM for Tuning-Free Video Anomaly Detection
HeadHunt-VAD通过直接在冻结的MLLM中寻找鲁棒的异常敏感头部,实现高效的无调优视频异常检测。
2025-12-23 cs.CV
Focus or Not: A Baseline for Anomaly Event Detection On the Open Public Places with Satellite Images
本文提出了用于开放公共场所异常事件检测的卫星图像数据集AED-RS,并引入了能以弱监督方式训练的基线模型TB-FLOW,其在该数据集上表现优于其他基于NF的异常检测模型。
2023-04-05 cs.CV
Normality Addition via Normality Detection in Industrial Image Anomaly Detection Models
Seoul National University(首尔大学);Soongsil University(崇实大学)
针对工业图像异常检测中正常性标准变化的问题,提出基于视觉-语言模型的NAND方法,通过正常性检测调整决策边界以纳入新正常性,并在MVTec AD上验证其有效性。
2024-07-29 cs.CV