PAC-Wrap: Semi-Supervised PAC Anomaly Detection
University of Pennsylvania(宾夕法尼亚大学)
异常检测对于防止自动驾驶等安全关键型应用的危险结果至关重要。考虑到它们的安全关键性,这些应用程序受益于异常检测中各种错误的可证明界限。为了在半监督环境中实现这一目标,我们建议为异常检测算法的假阴性和假阳性检测率提供可能近似正确(PAC)保证。我们的方法(PAC-Wrap)可以包裹几乎任何现有的半监督和无监督异常检测方法,赋予它严格的保证。我们对各种异常检测器和数据集的实验表明,PAC-Wrap广泛有效。
2022-06-21 cs.LG math.ST stat.ML
AGAD: Adversarial Generative Anomaly Detection
NEC Laboratories China(NEC中国研究院)
提出AGAD,一种基于自对比的异常检测范式,通过从正常样本生成上下文对抗信息来生成伪异常数据,在监督和半监督场景下显著提升检测性能,且仅需不超过5%的异常训练数据。
2023-04-09 cs.CV cs.LG
SPADE: Semi-supervised Anomaly Detection under Distribution Mismatch
Google Cloud AI(谷歌云人工智能)
半监督异常检测是一个常见的问题,因为包含异常的数据集通常是部分标记的。我们提出了一个规范的框架:半监督的伪标签异常检测与集成(SPADE),它不受标记和未标记数据来自相同分布的假设的限制。事实上,在许多应用中,这一假设经常被违反-例如,标记数据可能只包含与未标记数据不同的异常,或者未标记数据可能包含不同类型的异常,或者标记数据可能只包含“易于标记”的样本。SPADE利用一类分类器的集成作为伪标记器,以提高伪标记对分布失配的鲁棒性。提出了部分匹配方法,在没有验证数据的情况下自动选择伪标记的关键超参数,这对于有限的标记数据至关重要。SPADE在表格和图像域中具有分布不匹配的各种场景中显示了最先进的半监督异常检测性能。在一些常见的现实环境中,例如面对新类型的未标记异常的模型,SPADE的平均性能优于最先进的替代品5%的AUC。
2022-11-30 cs.LG
Self-Supervised Anomaly Detection in Computer Vision and Beyond: A Survey and Outlook
McGill University(麦吉尔大学);Mila - Quebec AI Institute(米拉-魁北克人工智能研究所)
本文综述自监督异常检测方法,梳理技术细节、优缺点与性能对比,并展望更高效算法及多模态融合等未来方向。
2024-01-23 cs.LG
ESAD: End-to-end Deep Semi-supervised Anomaly Detection
Shanghai AI Laboratory(上海人工智能实验室);Huawei Cloud & AI(华为云与人工智能)
本文探讨了半监督异常检测,一个更实际的设置异常检测,其中提供了一个小的额外的一组标记的样本。我们提出了一个新的KL-分歧为基础的半监督异常检测的目标函数,并表明两个因素:互信息之间的数据和潜在的表示,和熵的潜在表示,构成一个完整的异常检测的目标函数。为了解决同时优化这两个因素的矛盾,我们提出了一种新的编码器-解码器-编码器结构,第一个编码器专注于优化互信息和第二个编码器专注于优化熵。这两个编码器被强制共享相似的编码,并对它们的潜在表示进行一致的约束。大量的实验表明,该方法在多个基准数据集上的性能明显优于几种最先进的方法,包括医疗诊断和几个经典的异常检测基准。
2021-10-21 cs.CV cs.LG
Toward Supervised Anomaly Detection
Technische Universität Berlin(柏林工业大学);Memorial Sloan-Kettering Cancer Center(纪念斯隆-凯特琳癌症中心);University of Göttingen(哥廷根大学);Technische Universität Darmstadt(达姆施塔特工业大学);German Institute for International Educational Research(德国国际教育研究所)
异常检测被认为是一个无监督学习任务,因为异常源于具有未知分布的对抗性或不太可能的事件。然而,纯无监督异常检测的预测性能在许多任务中往往无法匹配所需的检测率,并且需要标记数据来指导模型生成。我们的第一个贡献表明,经典的半监督方法,起源于监督分类器,是不合适的,很难检测到新的和未知的异常。我们认为,半监督异常检测需要地面上的无监督学习范式,并设计一种新的算法,满足这一要求。虽然本质上是非凸的,我们进一步表明,优化问题有一个凸等价相对温和的假设。此外,我们提出了一个主动学习策略来自动过滤候选标签。在对网络入侵检测数据的实证研究中,我们观察到,所提出的学习方法需要的标记数据比最先进的少得多,同时实现了更高的检测精度。
2014-01-23 cs.LG
Hyperspectral Anomaly Detection with Self-Supervised Anomaly Prior
Xidian University(西安电子科技大学);Hunan University(湖南大学)
提出一种基于自监督异常先验(SAP)的高光谱异常检测方法,通过自监督分类任务学习伪异常特征以替代手工稀疏先验,并结合双重纯化策略优化背景分离,实现了更准确且可解释的检测效果。
2024-04-20 cs.CV cs.LG
Hyperbolic Self-supervised Contrastive Learning Based Network Anomaly Detection
Tianjin University(天津大学)
属性网络的异常检测是近年来控制论异常检测、金融欺诈检测等领域的研究热点。随着深度学习在图表示上的广泛应用,现有方法选择应用欧几里德图编码器作为其骨干,这可能会丢失重要的层次信息,特别是在复杂网络中。为了解决这个问题,我们提出了一个有效的异常检测框架,使用双曲自监督对比学习。具体来说,我们首先通过执行子图采样来进行数据增强。然后利用双曲空间中的层次信息,通过指数映射和对数映射,通过判别过程,将正对的得分与负对的得分相减,得到异常得分。最后,在四个真实世界的数据集上进行的大量实验表明,我们的方法优于代表性的基线方法。
2022-09-12 cs.LG cs.SI
LogLG: Weakly Supervised Log Anomaly Detection via Log-Event Graph Construction
Beihang University(北京航空航天大学);Renmin University of China(中国人民大学);Cloudwise Research(云智慧研究院)
LogLG提出通过日志事件图构建和子图标注器迭代生成伪标签的弱监督日志异常检测框架,利用关键词间语义连接,在五个基准上显著优于现有方法。
2023-04-11 cs.AI cs.LG cs.SE
E-commerce Anomaly Detection: A Bayesian Semi-Supervised Tensor Decomposition Approach using Natural Gradients
India ML - Amazon.com(亚马逊印度机器学习部门);Microsoft(微软)
异常检测有几个重要的应用。在本文中,我们的重点是使用张量分解检测异常的卖方审查数据。虽然张量分解大多是无监督的,但我们制定了贝叶斯半监督张量分解,以利用稀疏标记数据。此外,我们使用Polya-Gamma数据增强的半监督贝叶斯张量分解。最后,我们证明了Pólya-Gamma公式简化了部分自然梯度学习的Fisher信息矩阵的计算。我们的实验结果表明,我们的半监督方法优于最先进的无监督基线。部分自然梯度学习优于随机梯度学习和Online-EM,具有充分的统计量。
2018-05-29 cs.LG stat.ML
Normality Calibration in Semi-supervised Graph Anomaly Detection
University of Science and Technology of China(中国科学技术大学)
提出GraphNC框架,通过教师模型在异常分数和表示空间联合校准正态性,解决半监督图异常检测中正态性过拟合问题,降低误报。
2026-06-06 cs.LG
NeuCoReClass AD: Redefining Self-Supervised Time Series Anomaly Detection
IEEE
研究针对时间序列异常检测,提出NeuCoReClass AD自监督多任务框架,结合多种代理任务,用神经变换学习生成增强视图,无需特定领域知识,在多基准测试中优于经典和深度学习方法,能无监督刻画异常特征。
2026-07-23 cs.LG
Generative Semi-supervised Graph Anomaly Detection
School of Computing and Information Systems, Singapore Management University(新加坡管理大学计算与信息系统学院);Squirrel AI(松鼠AI);Institute for Infocomm Research, A*STAR, Singapore(新加坡科技研究局信息通信研究所);A*STAR Centre for Frontier AI Research, Singapore(新加坡科技研究局前沿人工智能研究中心)
本文提出一种新颖的生成式半监督图异常检测方法GGAD,通过利用非对称局部亲和性和自我中心紧密性两个先验生成伪异常节点作为负样本,有效训练单类分类器,在六个真实数据集上显著优于现有无监督和半监督方法。
2026-10-27 cs.LG
Real-World Anomaly Detection by using Digital Twin Systems and Weakly-Supervised Learning
Honda Research Institute Europe GmbH(本田欧洲研究院);Università Politecnica delle Marche(马尔凯理工大学)
工业4.0背景下不断增长的监控数据量需要强大可靠的异常检测技术。数字孪生技术的进步允许对复杂机械进行逼真的模拟,因此,与实际测量数据相比,它非常适合生成用于异常检测方法的合成数据集。在本文中,我们提出了新的弱监督的方法来异常检测工业环境。该方法利用数字孪生来生成模拟机器正常操作的训练数据集,以及来自真实机器的一小组标记的异常测量。特别是,我们引入了一种基于聚类的方法,称为聚类中心(CC),以及一种基于Siamese Autoencoders(SAE)的神经架构,该架构专为具有很少标记数据样本的弱监督设置而量身定制。所提出的方法的性能进行比较,对各种国家的最先进的异常检测算法的应用程序,从一个设施监控系统的真实世界的数据集,通过使用大量的性能指标。此外,超参数相关的特征提取和网络结构的影响进行了研究。我们发现,所提出的SAE为基础的解决方案优于国家的最先进的异常检测方法非常强大的许多不同的超参数设置的所有性能指标。
2020-11-12 cs.LG
SORTAD: Self-Supervised Optimized Random Transformations for Anomaly Detection in Tabular Data
Intel Corporation(英特尔公司)
本文提出SORTAD算法,通过自监督优化随机变换解决表格数据异常检测中数据不相关性的挑战,最优选择变换并设计敏感评分函数,在多个数据集上达到最先进性能。
2023-11-18 cs.LG
Deep Weakly-supervised Anomaly Detection
Singapore Management University(新加坡管理大学);Zhejiang University(浙江大学);Data61(Data61研究所);University of Adelaide(阿德莱德大学)
本文提出深度弱监督模型 PReNet,通过预测随机样本对的关系学习异常与正常判别模式,从而检测可见及未知异常,并在12个数据集上显著优于9种方法。
2023-06-05 cs.LG stat.ML
SetAD: Semi-Supervised Anomaly Learning in Contextual Sets
Beihang University(北京航空航天大学);Pengcheng Laboratory(鹏城实验室)
SetAD提出了一种基于集合的半监督异常检测框架,通过集合级建模和上下文校准机制提升异常检测性能。
2025-11-26 cs.LG
NNG-Mix: Improving Semi-supervised Anomaly Detection with Pseudo-anomaly Generation
ETH Zürich(苏黎世联邦理工学院);EPFL(洛桑联邦理工学院);University of Southern California(南加州大学)
本文提出NNG-Mix算法,利用少量带标签异常和大量无标签数据生成伪异常以增强训练数据,在ADBench的57个数据集上验证其优于Mixup、Cutout等增强方法,显著提升半监督与有监督异常检测性能。
2024-06-11 cs.AI cs.CV cs.LG
MELODY: Robust Semi-Supervised Hybrid Model for Entity-Level Online Anomaly Detection with Multivariate Time Series
AWS AI Labs(亚马逊人工智能实验室)
针对软件部署实体级异常检测中异构性、低延迟、定义模糊和标注有限等挑战,本文提出半监督混合模型MELODY,通过在线特征提取与深度单类模型实现异常检测,在真实云数据上F1相对提升7.6%至56.5%。
2024-06-06 cs.LG
Autoencoding Binary Classifiers for Supervised Anomaly Detection
NTT Secure Platform Laboratories(NTT安全平台实验室);NTT Communication Science Laboratories(NTT通信科学实验室);NTT Software Innovation Center(NTT软件创新中心)
我们提出了自动编码二进制分类器(ABC),一种新的监督异常检测器的基础上的自动编码器(AE)。异常检测主要有两种方法:有监督的和无监督的。监督方法可以准确地检测训练数据中包含的已知异常,但无法检测未知异常。同时,无监督方法可以检测远离正常数据点的已知和未知异常。然而,它不能像监督方法那样准确地检测已知的异常。此外,即使我们标记了正常数据点和异常数据点,无监督方法也无法利用这些标签。ABC是一种概率二元分类器,它有效地利用了标签信息,其中使用AE作为组件对正常数据点进行建模。通过最大化可能性,所提出的ABC中的AE被训练以最小化正常数据点的重建误差,并最大化已知异常的重建误差。由于我们的方法能够准确地重建正常数据点,而无法重建已知和未知的异常,因此它可以准确地将已知和未知的异常与正常数据点区分开来。实验结果表明,该算法比已有的监督和非监督方法具有更高的检测性能.
2019-03-26 cs.LG stat.ML
A Comparison of Supervised and Unsupervised Deep Learning Methods for Anomaly Detection in Images
CentraleSupélec(巴黎中央理工-高等电力学院)
图像中的异常检测对于所有行业的许多应用都起着重要作用,例如医疗保健中的疾病诊断或制造业中的质量保证。当在单调重复的时间段上延长时,对图像的手动检查是非常耗时的,并且可能导致异常被忽略。人工神经网络已经证明自己在简单重复的任务上非常成功,在某些情况下甚至优于人类。因此,在本文中,我们研究了不同的深度学习方法,包括监督和无监督学习,用于应用于质量保证用例的异常检测。我们利用MVTec异常数据集,并开发了三种不同的模型,一个CNN的监督异常检测,KD-CAE的自动编码器异常检测,NI-CAE的噪声引起的异常检测和DCGAN生成重建图像。通过实验,我们发现KD-CAE在异常数据集上的表现优于CNN和NI-CAE,其中NI-CAE在晶体管数据集上的表现最好。我们还实现了一个DCGAN来创建新的训练数据,但由于计算限制和缺乏对Ano GAN机制的外推,我们将自己限制为仅生成基于GAN的图像。我们的结论是,无监督方法对于图像中的异常检测更强大,特别是在只有少量异常数据可用或数据未标记的环境中。
2021-07-20 cs.CV cs.LG eess.IV
AnomalyBERT: Self-Supervised Transformer for Time Series Anomaly Detection using Data Degradation Scheme
Seoul National University(首尔大学)
AnomalyBERT提出基于数据退化方案的自监督Transformer,通过合成离群值替换输入数据训练模型,有效检测多元时间序列异常,在五个真实基准上超越现有方法。
2023-05-08 cs.AI cs.LG
Seeing the Needle in the Haystack: Towards Weakly-Supervised Log Instance Anomaly Localization via Counterfactual Perturbation
Jinan University Guangzhou, China(广州吉林大学);South China University of Technology Guangzhou, China(华南理工大学)
本文提出 LogMILP 框架,通过原型引导的结构建模与反事实扰动一致性正则化,在仅使用袋级标签的情况下实现日志异常检测与实例级定位,提升定位可靠性与可解释性。
2026-05-09 cs.AI cs.LG
UBnormal: New Benchmark for Supervised Open-Set Video Anomaly Detection
University of Bucharest(布加勒斯特大学);MBZ University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);SecurifAI;Linköping University(林雪平大学);University of Central Florida(中佛罗里达大学)
提出UBnormal,首个支持监督式开集视频异常检测的基准,通过引入像素级标注的异常事件实现全监督学习,并允许在单类开集模型与监督式闭集模型间进行公平比较,同时提升了现有框架在Avenue和ShanghaiTech数据集上的性能。
2023-04-07 cs.CV cs.LG
Few-shot Weakly-supervised Cybersecurity Anomaly Detection
Singapore Technologies Engineering(新加坡科技工程有限公司)
本文针对网络安全异常检测中标注数据稀缺的问题,提出一种增强的少样本弱监督深度学习框架,融合数据增强、表示学习和序数回归,并在三个基准数据集上验证了其性能。
2023-04-15 cs.AI cs.CR cs.LG
Enhanced semi-supervised stamping process monitoring with physically-informed feature extraction
Sun Yat-sen University(中山大学)
本文针对高速冲压过程批次异常问题,提出融合物理信息与数据驱动的半监督异常监控框架,仅用正常样本建模并设计偏差分数,在真实冲压数据上验证了其优越性。
2025-05-09 cs.LG
Unraveling the "Anomaly" in Time Series Anomaly Detection: A Self-supervised Tri-domain Solution
the University of Queensland(昆士兰大学);Singapore Management University(新加坡管理大学);Deep Neural Computing Company Limited(深度神经计算有限公司);Rice University(莱斯大学)
提出自监督三域异常检测器TriAD,通过时域、频域和残差域的对比学习及discord发现算法,在无需异常标签的情况下有效检测不同长度异常,并在严格评估指标下性能显著优于SOTA模型。
2023-11-27 cs.AI cs.LG
Investigation of unsupervised and supervised hyperspectral anomaly detection
Computer Science Department(计算机科学系);Electrical and Computer Engineering Department(电气与计算机工程系)
本文针对高光谱异常检测中监督方法难以发现未知异常的问题,使用通用高光谱数据评估所提堆叠混合集成及多种监督、无监督方法,以获得新认识。
2025-07-21 cs.LG eess.IV
SAD: Semi-Supervised Anomaly Detection on Dynamic Graphs
Ant Group(蚂蚁集团);Sun Yat-sen University(中山大学)
提出SAD框架,通过时间记忆库和伪标签对比学习模块在动态图上进行半监督异常检测,在四个数据集上表现优于现有方法。
2023-05-23 cs.LG cs.SI
Deep Semi-Supervised Anomaly Detection
Singapore University of Technology & Design(新加坡科技设计大学);Bonn-Aachen International Center for Information Technology(波恩-亚琛信息技术国际中心);Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);Technical University of Kaiserslautern(凯泽斯劳滕工业大学);Technical University of Berlin(柏林工业大学);Korea University(高丽大学)
深度异常检测方法最近在大型复杂数据集上显示出比浅层方法更有希望的结果。通常,异常检测被视为一个无监督学习问题。然而,在实践中,一个人可能有-除了一个大的未标记的样本集-访问一个小池的标记样本,例如,一个子集验证由一些领域专家作为正常或异常。异常检测的半监督方法旨在利用这种标记的样本,但大多数提出的方法仅限于包括标记的正常样本。只有少数方法利用标记异常,现有的深度方法是特定于域的。在这项工作中,我们提出了Deep SAD,这是一种用于一般半监督异常检测的端到端深度方法。我们进一步引入了一个信息理论框架,用于深度异常检测,其基础是正常数据的潜在分布的熵应低于异常分布的熵,这可以作为我们方法的理论解释。在对MNIST、Fashion-MNIST和CIFAR-10以及其他异常检测基准数据集的广泛实验中,我们证明了我们的方法与浅层、混合和深层竞争对手不相上下或优于浅层、混合和深层竞争对手,即使只提供很少的标记数据,也能获得可观的性能提升。
2020-02-14 cs.LG stat.ML
Comparative Study on Supervised versus Semi-supervised Machine Learning for Anomaly Detection of In-vehicle CAN Network
Delft University of Technology(代尔夫特理工大学);East China Normal University(华东师范大学);Cardiff University(卡迪夫大学);Shanghai Normal University(上海师范大学)
本研究针对车载CAN总线缺乏安全机制的问题,对比全监督与半监督机器学习的CAN报文异常检测效果,提出基于深度自编码器的半监督方法,且基于XGBoost的全监督模型取得当前最优性能。
2024-11-03 cs.AI cs.LG
Elsa: Energy-based learning for semi-supervised anomaly detection
Data Science Group, IBS(基础科学研究院数据科学组);School of Computing, KAIST(韩国科学技术院计算学院)
异常检测的目的是从正常的数据分布中识别出异常的实例。该领域已经取得了许多进展,包括无监督对比学习的创新使用。然而,现有的方法通常假设干净的训练数据,并且在数据包含未知异常时受到限制。本文提出了Elsa,一种新的半监督异常检测方法,统一的概念,基于能量的模型与无监督对比学习。Elsa通过基于新能量函数的精心设计的微调步骤,强制将正常数据划分为原型类,从而对任何数据污染注入鲁棒性。多污染场景的实验表明,该模型达到SOTA性能。广泛的分析也验证了所提出的模型中的每个组件的贡献。除了实验,我们还提供了一个理论解释,为什么对比学习单独不能检测异常下数据污染。
2022-01-03 cs.CV cs.LG
MAD: Self-Supervised Masked Anomaly Detection Task for Multivariate Time Series
GE Research(通用电气研究院)
在本文中,我们介绍了掩蔽异常检测(MAD),一个通用的自监督学习任务的多元时间序列异常检测。随着来自工业系统的传感器数据的可用性的增加,能够从多变量时间序列数据流中检测异常是非常重要的。由于在现实世界中的应用异常的稀缺性,大多数文献一直专注于建模的正常性。学习的正常表示可以增强异常检测,因为模型已经学会捕获某些关键的底层数据。一个典型的公式是学习预测模型,即,使用时间序列数据窗口来预测未来的数据值。在本文中,我们提出了另一种自监督学习任务。通过随机屏蔽一部分输入并训练模型来使用剩余的输入来估计它们,MAD是对传统的从左到右的下一步预测(NSP)任务的改进。我们的实验结果表明,MAD可以实现更好的异常检测率比传统的NSP方法时,使用完全相同的神经网络(NN)的基础模型,并可以修改运行速度NSP模型在测试时间在相同的硬件,从而使其成为一个理想的升级许多现有的基于NSP的NN异常检测模型。
2022-05-04 cs.AI cs.LG cs.NE
Supervised Anomaly Detection for Complex Industrial Images
valeo(法雷奥集团)
针对现有公开异常检测数据集多无异常图像的问题,提出含真实缺陷的VAD数据集及基于分割的SegAD检测器,在两个数据集上取得SOTA性能,代码模型已开源。
2024-05-11 cs.CV cs.LG
Deep Semi-Supervised Anomaly Detection for Finding Fraud in the Futures Market
Université de Montréal(蒙特利尔大学);TMX Group(TMX集团)
本研究评估深度半监督异常检测方法Deep SAD在期货市场高频数据欺诈检测中的效果,利用TMX交易所专有数据,证明少量标记数据能显著提升无监督异常检测的准确性。
2023-08-31 cs.LG q-fin.RM
A Supervised Embedding and Clustering Anomaly Detection method for classification of Mobile Network Faults
University of Tehran(德黑兰大学);Clarity Global Co.(Clarity全球公司)
提出SEMC-AD方法,利用深度神经网络监督嵌入和多元高斯聚类,在移动网络告警日志中高效识别异常,检测率达99%,优于随机森林和XGBoost。
2023-10-10 cs.AI cs.LG
RoSAS: Deep Semi-Supervised Anomaly Detection with Contamination-Resilient Continuous Supervision
National University of Defense Technology(国防科技大学);Singapore Management University(新加坡管理大学)
针对半监督异常检测中异常污染误导学习、离散监督信息利用不足的问题,提出RoSAS方法,通过质量插值生成连续异常度样本并加入特征学习约束,在11个数据集上AUC-PR较SOTA提升20%-30%,鲁棒性更优。
2023-07-25 cs.AI cs.LG
End-To-End Self-Tuning Self-Supervised Time Series Anomaly Detection
SIAM/ACM Preprint Series Macros for Use With LaTeX(SIAM/ACM预印本系列宏包)
本文提出TSAP框架,通过可微数据增强架构和无监督验证损失实现端到端自动调整数据增强超参数,解决了无标签时间序列异常检测中数据增强难以选择的问题,并在多种异常类型任务上超越现有自监督基线模型。
2025-04-03 cs.LG
Qsco: A Quantum Scoring Module for Open-set Supervised Anomaly Detection
Stevens Institute of Technology(史蒂文斯理工学院);Rensselaer Polytechnic Institute(伦斯勒理工学院)
本文提出量子评分模块Qsco,将量子变分电路嵌入神经网络,用于开放集异常检测,在八个数据集上验证了其优越性能与可行性。
2024-12-16 cs.AI cs.LG
Bridging Unsupervised and Semi-Supervised Anomaly Detection: A Theoretically-Grounded and Practical Framework with Synthetic Anomalies
School of Cybersecurity and Privacy, Georgia Institute of Technology(网络安全与隐私学院,佐治亚理工学院);H. Milton Stewart School of Industrial and Systems Engineering, Georgia Institute of Technology(H. Milton Stewart工业与系统工程学院,佐治亚理工学院)
本研究将无监督异常检测的合成异常原则拓展至半监督场景,提出结合已知与合成异常的理论框架,首次给出半监督AD数学表述与收敛性理论证明,经5个基准验证性能提升且方法具有普适性。
2025-06-16 cs.CR cs.LG stat.AP
Self-Supervised Time-Series Anomaly Detection Using Learnable Data Augmentation
Samsung Electronics(三星电子);Seoul National University(首尔大学)
提出自监督时间序列异常检测技术LATAD,通过对比学习和可学习数据增强生成负样本提取特征,基于潜在特征相似度计算异常分数,性能优于现有方法并能诊断根本原因。
2024-06-18 cs.AI cs.CL cs.LG
SLA$^2$P: Self-supervised Anomaly Detection with Adversarial Perturbation
Northeastern University(东北大学);Purdue University(普渡大学)
异常检测是机器学习中的一个基本而又具有挑战性的问题,因为缺乏标签信息。在这项工作中,我们提出了一个新的和强大的框架,被称为SLA $^2$ P,无监督的异常检测。在从原始数据中提取出有代表性的嵌入后,我们对特征进行随机投影,并将由不同投影变换的特征视为属于不同的伪类。然后,我们训练分类器网络对这些转换后的功能进行自监督学习。接下来,我们将对抗性扰动添加到变换后的特征中,以降低其预测标签的softmax得分,并基于分类器对这些扰动特征的预测不确定性来设计异常得分。我们的动机是,由于相对较小的数量和分散的异常模式,1)伪标签分类器的训练更多地集中在学习正常数据而不是异常数据的语义信息; 2)正常数据的转换特征比异常数据的特征对扰动更具鲁棒性。因此,扰动变换的异常特征不能很好地分类,因此具有比正常样本低的异常分数。在图像、文本和固有的表格基准数据集上进行的大量实验支持了我们的研究结果,并表明SLA $^2$ P在无监督异常检测任务上始终实现了最先进的结果。
2021-11-25 cs.AI cs.LG
Anomaly Detection in Video via Self-Supervised and Multi-Task Learning
University of Bucharest(布加勒斯特大学);MBZ University of Artificial Intelligence(MBZ人工智能大学);SecurifAI;University of Central Florida(中佛罗里达大学)
视频中的异常检测是一个具有挑战性的计算机视觉问题。由于训练时缺乏异常事件,异常检测需要在没有完全监督的情况下设计学习方法。在本文中,我们通过在对象级别上的自监督和多任务学习来实现视频中的异常事件检测。我们首先利用预先训练的检测器来检测对象。然后,我们训练一个3D卷积神经网络,通过联合学习多个代理任务来产生有区别的异常特定信息:三个自监督任务和一个基于知识蒸馏的任务。自我监督的任务是:(i)向前/向后移动对象的辨别(时间箭头),(ii)连续/间歇帧中对象的辨别(运动不规则性),以及(iii)对象特定外观信息的重构。知识蒸馏任务考虑到分类和检测信息,当异常发生时,在教师和学生模型之间产生大的预测差异。据我们所知,我们是第一个将视频中的异常事件检测作为一个多任务学习问题来处理的人,将多个自监督和知识蒸馏代理任务集成在一个架构中。我们的轻量级架构在三个基准测试中优于最先进的方法:Avenue,ShanghaiTech和UCSD Ped 2。此外,我们进行了一项消融研究,证明了在多任务学习环境中整合自监督学习和正常特定蒸馏的重要性。
2021-09-10 cs.CV cs.LG eess.IV
Feature Encoding with AutoEncoders for Weakly-supervised Anomaly Detection
Sichuan University(四川大学);University of Electronic Science and Technology of China(电子科技大学);University of Adelaide(阿德莱德大学)
弱监督异常检测的目标是从有限数量的标记数据和大量的未标记数据中学习异常检测器。最近的工作通过将正常样本和异常样本有区别地映射到特征空间中的不同区域或拟合不同的分布来构建用于异常检测的深度神经网络。然而,由于标注的异常样本的数量有限,直接训练网络的区别性损失可能是不够的。为了克服这个问题,本文提出了一种新的策略,将输入数据转换为更有意义的表示,可用于异常检测。具体而言,我们利用自动编码器对输入数据进行编码,并利用三个因素,隐藏表示,重建残差向量和重建误差,作为输入数据的新表示。这种表示相当于用测试样本在训练数据流形上的投影、其到投影的方向以及其到投影的距离来对测试样本进行编码。除了这种编码,我们还提出了一种新的网络架构,无缝地结合这三个因素。从我们广泛的实验中,所提出的策略的好处是清楚地证明了其优越的性能超过竞争力的方法。
2021-07-02 cs.LG cs.NI
Exploring a Hybrid Deep Learning Approach for Anomaly Detection in Mental Healthcare Provider Billing: Addressing Label Scarcity through Semi-Supervised Anomaly Detection
Informatics Institute, University of Amsterdam(阿姆斯特丹大学信息学院);Department of Computer Science and Technology, SUNY Empire State University(SUNY埃默里州立大学计算机科学与技术系)
本文针对心理健康医疗账单异常检测中标签稀缺和类别不平衡问题,提出结合LSTM与Transformer的混合深度学习方法,并利用孤立森林和自编码器生成伪标签,在真实账单数据集上验证了该方法在召回率方面的有效性。
2025-07-02 cs.AI cs.LG
RUAD: unsupervised anomaly detection in HPC systems
University of Bologna(博洛尼亚大学);CINECA consorzio interuniversitario(CINECA大学间联盟);ETH(苏黎世联邦理工学院)
现代高性能计算(HPC)系统的复杂性日益增加,需要引入自动化和数据驱动的方法来支持系统管理员提高系统可用性的努力。异常检测是提高可用性的一个组成部分,因为它减轻了系统管理员的负担,并减少了异常和解决异常之间的时间。然而,目前最先进的异常检测方法是监督和半监督的,因此它们需要人工标记的异常数据集-这通常在生产HPC系统中收集是不切实际的。基于聚类的无监督异常检测方法旨在减轻对准确异常数据的需求,迄今为止表现不佳。在这项工作中,我们克服了这些限制,提出了RUAD,一种新的循环无监督异常检测模型。RUAD比当前的半监督和无监督SoA方法取得了更好的结果。这通过考虑数据中的时间依赖性并在模型架构中包括长短期记忆单元来实现。所提出的方法进行了评估,一个完整的十个月的历史的Tier-0系统(Marconi 100从CINECA与980个节点)。RUAD在半监督训练中实现了0.763的曲线下面积(AUC),在无监督训练中实现了0.767的AUC,这改进了SoA方法,在半监督训练中实现了0.747的AUC,在无监督训练中实现了0.734的AUC。它还大大优于当前基于聚类的SoA无监督异常检测方法,实现了0.548的AUC。
2022-08-28 cs.AI cs.LG
Supervised Time Series Classification for Anomaly Detection in Subsea Engineering
Norwegian University of Science and Technology(挪威科技大学);TechnipFMC(德希尼布FMC)
本研究利用监督机器学习分类算法对模拟物理系统(完好/破损两状态)的时间序列数据进行异常检测,通过统计离散度与降维预处理,提出基线方法并比较多种方法,证明机器学习在决策中的优势。
2024-03-12 cs.LG math.DS
Hop-Count Based Self-Supervised Anomaly Detection on Attributed Networks
Eindhoven University of Technology(埃因霍温理工大学)
近年来,由于属性网络的异常检测问题在研究和实践中的重要性,引起了人们极大的兴趣。虽然已经提出了各种方法来解决这个问题,但存在两个主要限制:(1)由于缺乏监督信号,无监督方法通常效率低得多,以及(2)现有的异常检测方法仅使用本地上下文信息来检测异常节点,例如,一跳或两跳信息,但忽略全局上下文信息。由于异常节点与正常节点在结构和属性上存在差异,因此如果我们去除连接异常节点和正常节点的边,则直觉上异常节点与其邻居之间的距离应该大于正常节点与其邻居之间的距离。因此,基于全局和局部上下文信息的跳数可以用作异常的指示器。出于这种直觉,我们提出了一个基于跳数的模型(HCM),通过对本地和全局上下文信息进行建模来检测异常。为了更好地利用跳数进行异常识别,我们建议使用跳数预测作为一个自我监督的任务。我们设计了两个异常分数的基础上通过HCM模型的跳数预测来识别异常。此外,我们使用贝叶斯学习来训练HCM模型,以捕捉学习参数中的不确定性并避免过拟合。在真实属性网络上的大量实验表明,我们提出的模型是有效的异常检测。
2022-07-02 cs.LG cs.SI
Deep Nearest Neighbor Anomaly Detection
The Hebrew University of Jerusalem(耶路撒冷希伯来大学)
最近邻是一种成功的和长期存在的异常检测技术。最近,自我监督的深度方法(例如RotNet)取得了重大进展。然而,自监督特征通常表现不佳Imagenet预训练特征。在这项工作中,我们研究了最近的进展是否真的可以优于最近邻方法在Imagenet预训练的特征空间上操作。实验表明,简单的最近邻方法优于自监督方法:准确性,Few Shot泛化,训练时间和噪声鲁棒性,同时对图像分布的假设较少。
2020-02-24 cs.CV cs.LG stat.ML
On the Impact of Object and Sub-component Level Segmentation Strategies for Supervised Anomaly Detection within X-ray Security Imagery
Durham University(杜伦大学)
X射线安全检查被广泛使用,以维护运输安全,防止各种潜在的威胁。特别令人感兴趣的是,最近的重点是使用自动筛选方法,包括潜在的异常检测作为复杂电子物品内隐藏检测的方法。在这里,我们解决这个问题,考虑不同的分割策略,使使用对象级和子组件级异常检测通过使用二次卷积神经网络(CNN)架构。相对性能进行评估,在一个广泛的数据集的示范杂乱的X射线图像,重点是消费电子产品。我们发现,子组件级分割在通过分类阶段的二次异常检测中产生了略微优越的性能,异常的真阳性率为~98%,假阳性率为~3%。
2019-11-19 cs.CV cs.LG eess.IV
Comparative Study on Semi-supervised Learning Applied for Anomaly Detection in Hydraulic Condition Monitoring System
Delft University of Technology(代尔夫特理工大学);Zhejiang University(浙江大学);Shanghai Normal University(上海师范大学)
针对液压系统异常检测中异常数据少、标注难的问题,研究对比了多种半监督异常检测方法,定制的半监督HELM模型在准确率、假阳性率、F1分数上均达最优性能。
2024-11-03 cs.LG stat.ML
Weakly Supervised Anomaly Detection: A Survey
Shanghai University of Finance and Economics(上海财经大学);University of Science and Technology of China(中国科学技术大学);University of Illinois Chicago(伊利诺伊大学芝加哥分校);Carnegie Mellon University(卡内基梅隆大学)
异常检测(AD)是机器学习中的一项重要任务,具有各种应用,例如检测新兴疾病,识别金融欺诈和检测假新闻。然而,由于数据注释的成本和困难,为AD任务获得完整、准确和精确的标签可能是昂贵的和具有挑战性的。为了解决这个问题,研究人员开发了可以与不完整,不准确和不准确的监督一起工作的AD方法,统称为弱监督异常检测(WSAD)方法。在这项研究中,我们提出了第一个全面调查的WSAD方法,将它们分为上述三个弱监督设置在四个数据模式(即,表格、图形、时间序列和图像/视频数据)。对于每一种设置,我们提供了正式的定义,关键算法和潜在的未来方向。为了支持未来的研究,我们在选定的设置上进行实验,并发布源代码,以及WSAD方法和数据的集合。
2023-02-09 cs.AI cs.LG
Deep evolving semi-supervised anomaly detection
Oxford-Brookes University(牛津布鲁克斯大学);Indian Institute of Technology Bombay(印度理工学院孟买分校)
论文形式化持续半监督异常检测任务,提出VAE基线与带离群点拒绝的深度生成回放方法,并验证EVT和EWC对比下的有效性。
2024-12-01 cs.AI cs.LG stat.ML
AnoOnly: Semi-Supervised Anomaly Detection with the Only Loss on Anomalies
University of Electronic Science and Technology of China(电子科技大学);Juntendo University(顺天堂大学);RIKEN(理化学研究所)
AnoOnly提出一种仅对异常进行损失监督的半监督异常检测框架,通过暂停对正常数据的严格监督并利用批归一化实现弱监督,以平衡数据不平衡,提升检测性能并增强对标签噪声的鲁棒性。
2023-09-06 cs.AI cs.LG