Towards Meaningful Anomaly Detection: The Effect of Counterfactual Explanations on the Investigation of Anomalies in Multivariate Time Series
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
检测罕见事件在各个领域都是必不可少的,例如,在网络安全或维护方面。通常,人类专家由异常检测系统支持,因为连续监视数据是一项容易出错且繁琐的任务。然而,在检测到的异常中可能有罕见的事件,例如,机器的计划停机,但不是实际关注的事件,例如,机器的故障。因此,需要人类专家来验证检测到的异常是否相关。我们建议通过提供异常检测的解释来支持这种异常调查。相关工作只关注可解释异常检测的技术实现,而忽略了后续的人为异常调查。为了解决这一研究空白,我们进行了一项行为实验,使用纽约市的出租车乘坐记录作为测试平台。要求参与者将极端天气事件与其他异常事件(如假期或体育赛事)区分开来。我们的研究结果表明,提供反事实的解释,提高了调查的异常,表明潜在的解释异常检测一般。
2023-02-07 cs.LG
AR-Pro: Counterfactual Explanations for Anomaly Repair with Formal Properties
University of Pennsylvania(宾夕法尼亚大学)
针对现有异常检测方法缺乏可解释性的问题,研究提出AR-Pro框架,基于扩散模型生成反事实异常修复样本,支持跨领域形式化规约,在多类异常数据集上验证了有效性。
2024-10-31 cs.LG
Backdoor Attack against One-Class Sequential Anomaly Detection Models
Utah State University(犹他州立大学)
本文提出一种针对深度序列异常检测模型的后门攻击策略,通过触发器生成和后门注入两步骤,在保持样本正常性的同时植入后门,并在两个单类异常检测模型上验证了攻击有效性。
2024-02-15 cs.AI cs.CR cs.IT
PUPAE: Intuitive and Actionable Explanations for Time Series Anomalies
University of California, Riverside(加州大学河滨分校);Visa Research(Visa研究院)
本文提出领域无关的反事实解释技术PUPAE,以“若非损坏B,异常本应像正常数据A”的形式生成客观正确、直观且可直接执行的时间序列异常解释。
2024-01-16 cs.AI cs.LG
Interpretable Graph-Level Anomaly Detection via Contrast with Normal Prototypes
State Key Laboratory for Novel Software Technology, Nanjing University(新型软件技术国家重点实验室,南京大学);School of Artificial Intelligence, Nanjing University(人工智能学院,南京大学)
ProtoGLAD通过对比异常与最近正常原型图,提供可解释的图级异常检测方法,优于现有技术。
2026-02-11 cs.AI cs.LG
DEM: A Distilled Explanation Model for Interpretable Anomaly Detection in Physiological Sensor Networks
Department of Computer Science and Information Systems(计算机科学与信息系统系);Department of Electrical and Electronics Engineering(电气与电子工程系)
提出一种三阶段玻璃箱框架DEM,通过将梯度提升专家模型的知识蒸馏到基于线性基线残差的决策树中,实现高精度与内在可解释性的异常检测,并引入蒸馏保真度指标量化解释可信度。
2026-05-29 cs.AI cs.LG
Anomaly Detection of Time Series with Smoothness-Inducing Sequential Variational Auto-Encoder
Shanghai Jiao Tong University(上海交通大学)
深度生成模型已经证明了它们在学习潜在表示和建模时间序列的复杂依赖关系方面的有效性。本文提出了一种用于多维时间序列鲁棒估计和异常检测的平滑诱导序贯变分自动编码器(SISVAE)模型。我们的模型是基于变分自动编码器(VAE),其骨干是由一个递归神经网络来捕获潜在的时间序列的生成模型和推理模型的时间结构。具体来说,我们的模型参数化的均值和方差为每个时间戳与灵活的神经网络,从而在一个非平稳模型,可以工作,而无需假设恒定的噪声通常由现有的马尔可夫模型。然而,这种灵活性可能导致模型对异常脆弱。为了实现强大的密度估计,这也可以有利于检测任务,我们提出了一个平滑诱导先验可能的估计。所提出的先验可以作为一个正则化器,在非光滑重建时进行惩罚。我们的模型是有效地学习一种新的随机梯度变分贝叶斯估计。特别地,我们研究了异常检测的两个决策准则:重建概率和重建误差。我们展示了我们的模型在合成数据集和公共真实世界基准上的有效性。
2021-02-02 cs.AI cs.LG
JAPE: Joint Anomaly Prediction and Intrinsic Explanation in Multivariate Time Series
Zhejiang University(浙江大学);Aalborg University(奥尔堡大学);School of Computing Technologies, RMIT University(皇家墨尔本理工大学计算技术学院)
JAPE是首个联合异常预测与解释的多变量时间序列框架,通过解耦时空建模等技术提升预测性能与可解释性,在五个真实基准上实现F1、AUC-PR及MRR的显著提升。
2026-08-18 cs.LG
Sequential Deep Learning Architectures for Anomaly Detection in Virtual Network Function Chains
Handong Global University(韩东全球大学);POSTECH(浦项科技大学)
软件定义网络(SDN)和网络功能虚拟化(NFV)已经使得能够有效地提供网络服务。然而,他们也提出了新的任务来监控和确保虚拟化服务的状态,异常检测就是其中之一。已经有许多数据驱动的方法来实现用于服务功能链(SFC)中的虚拟网络功能的异常检测系统(ADS)。在本文中,我们的目标是为ADS开发更先进的深度学习模型。先前的方法使用诸如随机森林(RF)、梯度提升机(GBM)或深度神经网络(DNN)的学习算法。然而,这些模型没有利用数据中的顺序依赖性。此外,它们也受到限制,因为它们只能适用于它们接受培训的证监会环境。因此,我们提出了几个顺序的深度学习模型来学习具有可变长度的链中的虚拟网络功能(VNF)的时序模式和顺序模式。因此,所建议的模型提高了检测性能,并适用于具有不同数量的VNF的SFC。
2021-09-29 cs.LG cs.NI
Collaborative Streaming Anomaly Detection with Interactive Explanations and Ensemble Consensus
GECAD, ISEP, Polytechnic of Porto(波尔图理工学院,ISEP,GECAD);SISTRADE Software Consulting(SISTRADE软件咨询公司)
该系统通过异构检测器加权共识与替代模型解释,将人类分析师纳入决策循环,在工业数据流上实现稳健异常检测与可操作交互。
2026-09-22 cs.LG
Explanation Method for Anomaly Detection on Mixed Numerical and Categorical Spaces
Research Center on Information and Communication Technologies (CITIC)(信息与通信技术研究中心(CITIC));Universidade da Coruña(拉科鲁尼亚大学)
异常检测领域中的大多数提议专门关注检测阶段,特别是在最近的深度学习方法中。虽然这些模型提供高度准确的预测,但往往缺乏透明度,充当“黑匣子”。这种批评已经发展到这样一种地步,即解释现在被认为在可接受性和可靠性方面非常相关。在本文中,我们通过检查ADMNC(混合数值和分类空间上的异常检测)模型来解决这个问题,ADMNC模型是一个现有的非常准确但不透明的异常检测器,能够同时处理数值和分类输入。这项工作提出了扩展EADMNC(可解释的异常检测混合数值和范畴空间),它增加了可解释性的预测与原始模型。由于Apache Spark框架,我们保留了原始方法的可扩展性。EADMNC利用以前的ADMNC模型的公式来提供事前和事后的可解释性,同时保持原始架构的准确性。我们提出了一个预先的模型,全球解释的输出分割输入数据到同质组,描述只有几个变量。我们设计了一个基于回归树的图形表示,主管可以检查它以了解正常和异常数据之间的差异。我们的事后解释包括一个基于文本的模板方法,在本地提供支持每个检测的文本参数。我们报告的实验结果广泛的现实世界的数据,特别是在网络入侵检测领域。利用网络入侵领域的专家知识,通过理论分析评估解释的有用性。
2022-09-09 cs.AI cs.HC cs.LG
Prototypes as Explanation for Time Series Anomaly Detection
TU Dortmund University(多特蒙德工业大学)
本文提出ProtoAD方法,将原型学习从分类扩展到时间序列异常检测,通过可视化潜在空间和输入空间中的原型,在不显著影响检测性能的前提下为深度黑盒模型提供基于示例的直观解释。
2023-07-04 cs.LG
BREAD: Baseline-Referenced Explanations for Anomaly Diagnosis
University of Amsterdam(阿姆斯特丹大学);Amsterdam Business School(阿姆斯特丹商学院)
该研究针对现有异常诊断方法的缺陷,提出可扩展的基线参考诊断方法BREAD,经数学保证和实验验证,其诊断结果比LIME更忠实准确,适用于AI前瞻性异常检测场景。
2026-08-12 cs.LG
Transparent Anomaly Detection via Concept-based Explanations
École de Technologie Supérieure(高等技术学院);Mila-Quebec AI(魁北克人工智能研究所);McGill University(麦吉尔大学);CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心)
本文提出ACE方法,通过概念解释实现透明的异常检测,在三个真实数据集上取得与黑盒模型相当或更优的性能,并可与现有基于分类的异常检测方法无缝集成。
2023-11-01 cs.LG
AcME-AD: Accelerated Model Explanations for Anomaly Detection
University of Padova(帕多瓦大学);Statwolf Data Science(Statwolf数据科学公司)
针对异常检测模型黑箱且解释获取缓慢的问题,本文提出模型无关、高效的 AcME-AD,通过局部特征重要性和假设分析支持表格异常的根因分析,并在合成与真实数据集上验证有效性。
2024-03-02 cs.LG
Counterfactual Explanation for Auto-Encoder Based Time-Series Anomaly Detection
Scania CV AB(斯堪尼亚汽车公司);KTH Royal Institute of Technology(瑞典皇家理工学院);RISE Research Institutes of Sweden(瑞典RISE研究院);Linköping University(林雪平大学)
针对自编码器时间序列异常检测不透明的问题,本文结合特征选择与基于梯度的反事实解释,在 SKAB 和工业数据集上验证其可产生更稀疏且有效的决策解释。
2025-01-03 cs.LG
RX-ADS: Interpretable Anomaly Detection using Adversarial ML for Electric Vehicle CAN data
Virginia Commonwealth University(弗吉尼亚联邦大学);Idaho National Laboratory(爱达荷国家实验室)
近年来,电动汽车(EV)和相关基础设施/通信取得了相当大的进步。入侵检测系统(IDS)被广泛部署在这样的关键基础设施的异常检测。本文提出了一种可解释的异常检测系统(RX-ADS),用于检测电动汽车CAN协议通信中的入侵。贡献包括:1)基于窗口的特征提取方法; 2)基于深度自动编码器的异常检测方法;以及3)基于对抗性机器学习的解释生成方法。该方法在两个基准CAN数据集上进行了测试:OTIDS和Car Hacking。RX-ADS的异常检测性能与这些数据集上最先进的方法进行了比较:HIDS和GIDS。RX-ADS方法的性能与HIDS方法(OTIDS数据集)相当,并且优于HIDS和GIDS方法(Car Hacking数据集)。此外,所提出的方法是能够产生的各种入侵检测到的异常行为的解释。这些解释后来被领域专家用来检测异常的信息所验证。RX-ADS的其他优势包括:1)该方法可以在未标记的数据上进行训练; 2)解释有助于专家理解异常和根本过程分析,还有助于AI模型调试和诊断,最终提高用户对AI系统的信任。
2022-09-05 cs.AI cs.CR cs.LG
Towards Transparent and Efficient Anomaly Detection in Industrial Processes through ExIFFI
University of Padova(帕多瓦大学);Zoppas Industries Heating Element Technologies(佐帕斯工业加热元件技术公司)
本文提出ExIFFI在工业中的应用,通过高效解释方法提升异常检测性能,实现高精度和计算效率。
2026-04-02 cs.AI cs.LG
Power Interpretable Causal ODE Networks: A Unified Model for Explainable Anomaly Detection and Root Cause Analysis in Power Systems
PICODE网络通过统一模型实现电力系统中异常检测与根本原因分析的可解释性,提升模型的可解释性和减少对标注数据的依赖。
2026-02-13 cs.AI cs.LG
ShaTS: A Shapley-based Explainability Method for Time Series Artificial Intelligence Models applied to Anomaly Detection in Industrial Internet of Things
Departamento de Ingeniería y Tecnología de Computadores, University of Murcia(计算机工程与技术部门,穆尔西亚大学)
本文提出与模型无关的时序模型可解释性方法ShaTS,通过先验特征分组保留时序依赖,在SWaT数据集上比SHAP更准确地定位异常关键时间点、传感器和执行器,并满足工业实时性要求。
2025-06-02 cs.AI cs.LG
Any-Shot Sequential Anomaly Detection in Surveillance Videos
University of South Florida(南佛罗里达大学)
监控视频中的异常检测最近受到关注。尽管最先进的方法在公开可用的数据集上的性能具有竞争力,但它们需要大量的训练数据。此外,它们缺乏一种具体的方法,一旦有新的数据可用,就可以不断更新训练模型。此外,在线决策是一个重要的,但大多数被忽视的因素在这一领域。出于这些研究的差距,我们提出了一种在线异常检测方法的监控视频使用迁移学习和任意镜头学习,这反过来又显着降低了训练的复杂性,并提供了一种机制,可以检测异常使用只有几个标记的名义上的例子。我们提出的算法利用了基于神经网络的迁移学习模型的特征提取能力和统计检测方法的任意镜头学习能力。
2020-04-05 cs.CV cs.LG
Toward Faithful Explanations in Acoustic Anomaly Detection
Mila-Quebec AI Institute(魁北克AI研究所);Concordia University(康科迪亚大学);FORAC Research Consortium(FORAC研究联盟);Université Laval(拉瓦尔大学)
本文研究了基于自编码器的音频异常检测模型的可解释性,发现掩码自编码器在提供更可信的解释方面表现更优,且不影响检测性能。
2026-01-19 cs.LG cs.SD eess.AS
Multi-Scale One-Class Recurrent Neural Networks for Discrete Event Sequence Anomaly Detection
Michigan State University(密歇根州立大学)
离散事件序列是普遍存在的,例如在信息和通信技术系统中的过程交互的有序事件序列。近年来,人们越来越多地致力于用离散事件序列检测异常。然而,它仍然是一个非常困难的任务,由于一些固有的挑战,包括数据不平衡问题,事件的离散性,以及数据的连续性。为了解决这些挑战,在本文中,我们提出了OC4Seq,这是一种用于检测离散事件序列中异常的多尺度单类递归神经网络。具体来说,OC4Seq将异常检测目标与循环神经网络(RNN)集成,将离散事件序列嵌入到潜在空间中,在潜在空间中可以轻松检测异常。此外,考虑到异常序列可能是由单个事件、事件的连续性或整个序列引起的,我们设计了一个多尺度RNN框架来同时捕获不同级别的序列模式。在三个基准数据集上的实验结果表明,OC4Seq的性能始终大大优于各种代表性基线。此外,通过定量和定性分析,捕获多尺度序列模式的事件异常检测的重要性进行了验证。
2020-08-31 cs.LG stat.ML
Fine-grained Anomaly Detection in Sequential Data via Counterfactual Explanations
Utah State University(犹他州立大学);University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校);University of Arkansas(阿肯色大学)
序列数据中的异常检测由于其在各种应用中的潜力而被研究了很长时间,例如从日志数据中检测异常系统行为。虽然许多方法可以实现良好的性能异常序列检测,如何识别序列中的异常条目仍然是具有挑战性的,由于缺乏在入口级的信息。在这项工作中,我们提出了一个新的框架,称为CFDet细粒度异常条目检测。CFDet利用了可解释的机器学习的思想。给定被检测为异常的序列,我们可以将异常条目检测视为可解释的机器学习任务,因为识别序列中的异常条目是为了提供对检测结果的解释。我们利用深度支持向量数据描述(Deep SVDD)方法来检测异常序列,并提出了一种新的基于反事实解释的方法来识别序列中的异常条目。在三个数据集上的实验结果表明,CFDet可以正确地检测异常条目。
2022-10-09 cs.LG
Amortised Post-Hoc Explanation with Exact Preservation for Dynamic Graph Anomaly Detectors
National higher School of Computer Science (ESI)(国家计算机科学高等学校(ESI));Université Claude Bernard Lyon(里昂第一大学(克洛德·贝尔纳里昂大学))
本文针对动态图异常检测器StrGNN缺乏解释的问题,提出X-StrGNN事后解释层,可精确保留检测性能且成本低,通过对比归因策略验证了其稳定性与效果。
2026-08-18 cs.AI cs.LG
From Explanation to Action: An End-to-End Human-in-the-loop Framework for Anomaly Reasoning and Management
Carnegie Mellon University(卡内基梅隆大学);Capital One(第一资本金融公司)
本文提出ALARM端到端人在回路框架,支持从无监督异常检测、解释到通过设计新规则采取行动的完整挖掘周期,弥补了自主检测在现实高风险场景中难以落地的不足。
2023-04-06 cs.HC cs.LG
Learning Invariant Rules from Data for Interpretable Anomaly Detection
Siemens AG(西门子股份公司);Tsinghua University(清华大学)
在异常检测的研究领域中,经常开发新颖且有前途的方法。然而,大多数现有的研究只专注于检测任务,忽略了底层模型的可解释性以及它们的检测结果。然而,异常解释,其目的是提供为什么特定的数据实例被识别为异常的解释,是在许多现实世界的应用中同样重要的任务。在这项工作中,我们提出了一个新的框架,协同几个机器学习和数据采掘技术,自动学习不变的规则,在给定的数据集中始终满足。学习的不变规则可以在推理阶段提供异常检测结果的明确解释,因此对于后续的异常报告决策非常有用。此外,我们的实证评估表明,所提出的方法也可以实现相当的,甚至更好的性能方面的AUC和部分AUC的公共基准数据集在各个应用领域相比,最先进的异常检测模型。
2023-01-13 cs.AI cs.LG
Utilizing XAI technique to improve autoencoder based model for computer network anomaly detection with shapley additive explanation(SHAP)
Aligarh Muslim University(阿里格尔穆斯林大学)
机器学习(ML)和深度学习(DL)方法正在迅速被采用,特别是在计算机网络安全领域,如欺诈检测、网络异常检测、入侵检测等。然而,基于ML和DL的模型缺乏透明度是其实施的主要障碍,并因其黑箱性质而受到批评,即使有如此巨大的结果。可解释人工智能(XAI)是一个很有前途的领域,可以通过给出解释和解释其输出来提高这些模型的可信度。如果基于ML和DL的模型的内部工作是可以理解的,那么它可以进一步帮助提高其性能。本文的目的是展示如何使用XAI来解释DL模型的结果,在这种情况下是自动编码器。并在此基础上改进了其在计算机网络异常检测中的性能。基于Shapley值的核SHAP方法是一种新的特征选择方法。此方法用于仅识别实际上导致攻击/异常实例集合的异常行为的那些特征。稍后,这些特征集用于训练和验证自动编码器,但仅在良性数据上。最后,通过与基于特征选择方法的两种模型的比较,验证了所建模型的有效性。整个实验是在最新的CICIDS 2017网络数据集的子集上进行的。SHAP_Model的总体准确度和AUC分别为94%和0.969。
2021-12-14 cs.AI cs.CR cs.LG
Statistical Evaluation of Anomaly Detectors for Sequences
University of Bonn(波恩大学)
虽然精确度和召回率是异常检测的标准性能指标,但它们在顺序检测设置中的统计特性知之甚少。在这项工作中,我们形式化的概念的精度和召回与时间公差的点为基础的异常检测序列数据。这些措施是基于时间容忍混淆矩阵,可用于计算许多其他标准措施的时间容忍的变种。但是,必须注意保持可解释性。我们进行了统计模拟研究,以证明精度和召回率可能会高估的检测器的性能,当计算时间公差。为了缓解这个问题,我们展示了如何获得零分布的两个措施,以评估报告结果的统计意义。
2020-08-13 cs.LG stat.ML
Explainable Artificial Intelligence for Anomaly Detection in Banking Transactions: An Internal Audit Perspective
针对银行交易异常检测传统方法的局限,本文提出可解释人工智能框架,用隔离森林模型评分,SHAP层提供解释,通过Streamlit仪表板呈现结果,经实验评估性能良好,能提升审计人员信心与决策质量,推动AI在金融环境的实际部署。
2026-07-16 cs.AI cs.LG
Sequential PatchCore: Anomaly Detection for Surface Inspection using Synthetic Impurities
Fraunhofer ITWM(弗劳恩霍夫信息技术与微系统研究所);RPTU Kaiserslautern-Landau(凯撒斯劳滕-兰道莱茵-普法尔茨理工大学)
针对表面检测中的水渍等杂质与高分辨率训练内存瓶颈,提出合成水渍数据生成方法和 Sequential PatchCore 顺序核心集训练框架,验证合成预训练与真实数据微调的性能收益。
2025-01-16 cs.CV cs.GR cs.LG
A new interpretable unsupervised anomaly detection method based on residual explanation
University of São Paulo(圣保罗大学);Stanford University(斯坦福大学);VALE S.A(淡水河谷公司)
尽管在对复杂模式进行建模以解决具有挑战性的问题方面具有卓越的性能,但深度学习(DL)方法的黑盒性质限制了其在现实世界关键领域的应用。缺乏一种使人类能够对黑箱决策进行推理的顺畅方式,阻碍了对可能导致灾难性后果的意外事件采取任何预防措施。为了解决黑盒模型的不清晰性,可解释性成为基于DL的系统的基本要求,通过提供理解模型行为的方法来利用信任和知识。虽然是当前的热门话题,但仍需要进一步的进展来克服当前基于无监督DL的异常检测(AD)模型的可解释性方法的现有限制。自动编码器(AE)是AD应用程序的无监督DL的核心,可实现一流的性能。然而,由于其混合方面获得的结果(通过需要额外的计算出网络),只有不可知的可解释的方法可以应用于基于AE的AD。这些不可知方法处理大量参数在计算上是昂贵的。在本文中,我们提出了RXP(残差eXPlainer),一个新的解释性方法来处理的限制AE为基础的AD在大规模系统。它突出了其实现简单,低计算成本和确定性的行为,其中的解释是通过重建的输入功能的偏差分析。在一个实验中使用的数据从一个真正的重载铁路线,所提出的方法取得了优越的性能相比,SHAP,证明了其潜力,以支持决策在大规模的关键系统。
2021-03-14 cs.AI cs.LG
Why Are You Weird? Infusing Interpretability in Isolation Forest for Anomaly Detection
KU Leuven(鲁汶大学)
异常检测涉及识别数据集中不符合预期行为的示例。虽然存在大量的异常检测算法,但很少有人注意解释为什么这些算法将某些示例标记为异常。然而,这样的解释对任何解释算法输出的人都非常有用。本文开发了一种方法来解释国家的最先进的隔离森林异常检测算法的异常预测。该方法输出一个解释向量,该向量捕获示例的每个属性对于将其识别为异常的重要性。对合成和真实世界数据集的全面实验评估表明,我们的方法比大多数当代最先进的可解释性方法更准确,更有效。
2021-12-13 cs.LG
Cluster-Aware Causal Mixer for Online Anomaly Detection in Multivariate Time Series
University of California, Berkeley(加州大学伯克利分校)
本文提出了一种基于聚类的因果混合器,用于多变量时间序列的在线异常检测,通过聚类处理通道间的相关性,结合因果混合器保持时间因果性,并开发了序列异常评分方法以提高检测准确性。
2026-06-04 cs.LG stat.ML
What Information Contributes to Log-based Anomaly Detection? Insights from a Configurable Transformer-Based Approach
本文提出一种可配置的Transformer日志异常检测模型,通过不同长度日志序列和特征组合实验,发现事件发生信息对异常识别最关键,而序列与时间信息影响有限,并指出需构建更复杂的新数据集。
2025-03-11 cs.AI cs.LG cs.SE
AIDA: Analytic Isolation and Distance-based Anomaly Detection Algorithm
Utrecht University(乌得勒支大学);ZHAW School of Law and Management(苏黎世应用科技大学法律与管理学院);Zurich University of Applied Sciences(苏黎世应用科技大学)
我们结合距离和隔离度的指标,开发分析隔离和基于距离的异常(AIDA)检测算法。AIDA是第一个基于距离的方法,不依赖于最近邻的概念,使其成为一个无参数模型。从流行的文献中,其中的隔离度量总是通过模拟计算,我们表明,AIDA承认一个分析表达式的离群值得分,提供了新的见解的隔离度量。此外,我们提出了一种基于AIDA的异常解释方法,即基于回火隔离的扩展(TIX)算法,该算法即使在具有数百个维度的数据集中也能找到最相关的离群特征。我们测试这两种算法的合成和经验数据:我们表明,AIDA是竞争力相比,其他国家的最先进的方法,它是优越的发现隐藏在多维特征子空间的离群值。最后,我们说明了TIX算法是如何能够发现异常值在多维特征子空间,并使用这些解释来分析常见的异常检测中使用的基准。
2022-12-08 cs.LG
Explaining Deep Learning-based Anomaly Detection in Energy Consumption Data by Focusing on Contextually Relevant Data
Western University(西安大略大学)
针对深度学习异常检测缺乏透明解释且SHAP类方法不稳定的问题,本文结合SHAP变体、全局特征重要性与加权余弦相似度,按异常上下文选择背景数据,在多模型、多数据集实验中将解释可变性平均降低约38%。
2025-01-10 cs.AI cs.LG
An Encoder-Decoder Based Approach for Anomaly Detection with Application in Additive Manufacturing
RWTH Aachen University(亚琛工业大学);University of Texas at Austin(德克萨斯大学奥斯汀分校);University of California, Berkeley(加州大学伯克利分校);California Institute of Technology(加州理工学院)
我们提出了一种新的无监督深度学习方法,该方法利用编码器-解码器架构来检测在工业制造过程中收集的顺序传感器数据中的异常。我们的方法的目的不仅是检测是否存在一个异常在给定的时间步,但也要预测接下来会发生什么(顺序)的过程。我们展示了我们的方法从现实世界的测试平台收集的数据集。该数据集包含在正常条件和合成异常条件下收集的图像。我们表明,编码器-解码器模型是能够识别注入的异常,在现代制造过程中,在一个无监督的方式。此外,它还给出了制造过程中测试台温度不均匀性的提示,这是我们在做实验之前没有意识到的。
2019-07-26 cs.LG stat.ML
AKM$^2$D : An Adaptive Framework for Online Sensing and Anomaly Quantification
Arizona State University(亚利桑那州立大学);Georgia Institute of Technology(佐治亚理工学院)
在诸如坐标测量机(CMM)和激光超声之类的基于点的传感系统中,由于高传感时间和成本,完整的传感是不切实际的,通过系统的探索进行自适应传感对于在线检测和异常量化至关重要。大多数现有的序贯抽样方法集中于减少整个抽样空间的总体拟合误差。然而,在许多异常量化应用中,主要目标是精确地估计像素级的稀疏异常区域。在本文中,我们开发了一种新的框架,称为自适应核最大最小距离AKM $^2$ D,通过智能序贯抽样计划集成快速估计和检测,以加快检查和异常检测过程。所提出的方法平衡了空间填充采样(勘探)和异常区域附近的集中采样(开采)之间的采样努力。所提出的方法进行了验证,通过模拟和案例研究的异常检测复合板使用导波测试。
2019-10-04 cs.LG eess.SP stat.ML
A Survey on Explainable Anomaly Detection
Leiden Institute of Advanced Computer Science (LIACS), Leiden University(莱顿大学莱顿高级计算机科学研究所)
本文综述可解释异常检测技术,针对异常检测长期重精度、轻解释的问题,系统梳理最新方法并提出分类框架,以辅助研究者和从业者选择合适方案。
2023-07-11 cs.LG
Reimagining Anomalies: What If Anomalies Were Normal?
本文提出一种生成多个替代修改以解释异常检测机制的方法,通过语义解释帮助用户探索异常的"如果"场景。
2026-01-12 cs.CV cs.LG stat.ML
Single State Update Predictive Coding training for Time Series Forecasting and Anomaly Detection
Ghent University(根特大学);imec
该研究针对预测编码网络的顺序反向误差传播瓶颈,提出并行训练生成式与编码式两类PCN的单状态更新训练技术,将其应用于时间序列异常检测,实现了更稳定连续的在线学习。
2026-08-26 cs.LG cs.NE
Intrusion Detection using Sequential Hybrid Model
PES University(PES大学)
在KDD 99数据集上已经做了大量的工作,其中大部分包括使用并行完成的混合异常和误用检测模型。为了进一步分类的入侵,我们的方法来网络入侵检测包括使用两种不同的异常检测模型,其次是误用检测应用于从上一步获得的组合输出。这样做的最终目标是验证异常检测算法检测到的异常,并澄清它们实际上是入侵还是来自训练正常值的随机离群值(从而尝试减少误报的数量)。我们的目标是检测这种新的入侵技术本身的模式,而不是这种入侵的处理。入侵被非常准确地探测到了。
2019-10-29 cs.CR cs.LG
Witnesses Explain Anomalies
EPITA Research Laboratory(EPITA研究实验室)
WAND是天生可解释的无监督表格异常检测器,以见证方向作为逐特征归因,在47个ADBench数据集上与16种无监督基线ROC-AUC持平且平均Friedman秩最优,解释更准确且查询成本低,为可解释异常检测提供实用方案。
2026-09-04 cs.AI cs.LG
Explainable Deep One-Class Classification
Technical University of Kaiserslautern(凯泽斯劳滕工业大学);Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);Technical University of Berlin(柏林工业大学);Google Research, Brain Team(谷歌研究院大脑团队);Korea University(高丽大学)
用于异常检测的深度单类分类变体学习将标称样本集中在特征空间中的映射,从而导致异常被映射掉。由于这种转换是高度非线性的,因此找到解释是一个重大挑战。在本文中,我们提出了一种可解释的深度一类分类方法,全卷积数据描述(FCDD),其中映射的样本本身也是一个解释热图。FCDD产生了有竞争力的检测性能,并为CIFAR-10和ImageNet的常见异常检测基准提供了合理的解释。在MVTec-AD上,最近的一个制造数据集提供了地面实况异常图,FCDD在无监督设置中设置了一个新的艺术状态。我们的方法可以在训练过程中结合地面实况异常图,即使使用其中的一些(~5)也可以显着提高性能。最后,使用FCDD的解释,我们证明了深一类分类模型的脆弱性,虚假的图像特征,如图像水印。
2021-03-18 cs.CV cs.LG stat.ML
Trajectory Guard -- A Lightweight, Sequence-Aware Model for Real-Time Anomaly Detection in Agentic AI
Laksh Advani
轨迹守护通过对比学习和重建学习,实现对代理AI中任务轨迹对齐和序列有效性的联合检测,提升实时异常检测性能。
2026-01-02 cs.AI cs.LG
CSCLog: A Component Subsequence Correlation-Aware Log Anomaly Detection Method
Zhejiang University(浙江大学);Alibaba Cloud Intelligence(阿里云智能)
本文提出CSCLog日志异常检测方法,通过LSTM捕获组件子序列内顺序依赖,利用隐式相关性编码器和GCN建模子序列间隐式相关性与信息交互,并用注意力机制融合嵌入,在四个公开日志数据集上取得优于最佳基线平均7.41%的Macro F1-Measure提升。
2023-07-07 cs.LG
Explainable Anomaly Detection: Counterfactual driven What-If Analysis
Mississippi State University(密西西比州立大学);Engineer Research and Development Center, US Department of Defense(美国国防部工程研究与开发中心)
针对预测性维护中异常检测引发的故障原因与修复问题,提出利用反事实解释进行假设分析的概念验证,在PRONOSTIA数据集上结合时间卷积网络,为复杂系统的可解释性研究提供基础。
2024-08-21 cs.AI cs.HC cs.LG
AD-MERCS: Modeling Normality and Abnormality in Unsupervised Anomaly Detection
KU Leuven(鲁汶大学);Leuven.AI - KU Leuven Institute for AI(鲁汶AI——鲁汶大学人工智能研究所)
本文提出无监督异常检测方法 AD-MERCS,通过同时识别实例空间中正常行为的模式子空间与表征异常偏离的条件,实现对正常与异常的双重建模,在多种异常类型上表现优异并提供可解释性。
2023-05-22 cs.LG
Detecting Log Anomalies with Multi-Head Attention (LAMA)
Huawei Technologies Co., Ltd(华为技术有限公司)
异常检测是一个重要的和具有挑战性的课题,已经在不同的研究领域进行了研究。在这项工作中,我们探讨的任务日志异常检测(特别是计算机系统日志和用户行为日志)通过分析日志的顺序信息。我们提出了LAMA,一个基于多头注意力的顺序模型来处理日志流作为模板活动(事件)序列。应用下一事件预测任务来训练用于异常检测的模型。大量的实证研究表明,该模型优于现有的日志异常检测方法,包括统计和深度学习方法,验证了该方法在学习日志数据序列模式方面的有效性。
2021-01-07 cs.CR cs.LG
Towards Self-Interpretable Graph-Level Anomaly Detection
Monash University(莫纳什大学);Northwestern University(西北大学);Data61, CSIRO(澳大利亚联邦科学与工业研究组织Data61);Northwest A&F University(西北农林科技大学);The University of Adelaide(阿德莱德大学);Griffith University(格里菲斯大学)
针对图级异常检测缺乏解释的问题,提出自解释模型SIGNET,基于多视图子图信息瓶颈框架,通过跨视图互信息检测异常并提取关键子图作为解释,在16个数据集上验证了有效性和自解释性。
2023-10-25 cs.LG
Learning Post-Hoc Causal Explanations for Recommendation
Rutgers University(罗格斯大学);Renmin University of China(中国人民大学)
最先进的推荐系统具有生成高质量推荐的能力,但由于使用黑盒预测模型,通常不能向人类提供直观的解释。缺乏透明度突出了提高推荐系统的可解释性的至关重要性。在本文中,我们建议从用户交互历史中提取因果规则作为黑盒顺序推荐机制的事后解释,同时保持推荐模型的预测准确性。我们的方法首先获得反事实的例子与援助的扰动模型,然后提取个性化的因果关系的推荐模型,通过因果规则挖掘算法。在几个最先进的顺序推荐模型和真实数据集上进行了实验,以验证我们的模型在生成因果解释方面的性能。同时,我们从质量和可信度两个方面对所发现的因果解释进行了评价,结果表明,与传统的关联规则相比,因果规则能够为黑盒推荐模型的行为提供个性化的、更有效的解释。
2021-02-23 cs.AI cs.IR cs.LG
Multiple Instance Learning for Detecting Anomalies over Sequential Real-World Datasets
George Mason University(乔治梅森大学)
在真实世界的数据集上检测异常仍然是一项具有挑战性的任务。数据标注是一个密集的人工劳动问题,特别是在连续数据集,其中异常的开始和结束时间是未知的。因此,从连续的真实世界过程中收集的数据可能在很大程度上是未标记的或包含不准确的标签。这些特点对基于监督学习的异常检测技术的应用提出了挑战。相比之下,多实例学习(MIL)在训练数据集中标签知识不完整的问题上表现出了有效性,这主要是由于袋子的概念。虽然在很大程度上未充分利用异常检测,MIL提供了一个有吸引力的公式异常检测在现实世界的数据集,这是本文的主要贡献。在本文中,我们提出了一个基于MIL的配方和各种算法的框架的基础上,不同的设计决策的框架的关键组成部分的实例。我们评估了四个数据集,捕捉不同的物理过程沿不同的方式所产生的算法。实验评估得出了几个意见。基于MIL的公式在易于缓和的数据集上的性能并不比单实例学习差,并且在更具挑战性的数据集上的性能优于单实例学习。总的来说,结果表明,该框架概括了不同的数据集,从不同的现实世界的应用领域。
2022-10-04 cs.LG
LogGPT: Log Anomaly Detection via GPT
Utah State University(犹他州立大学);Nokia Bell Labs(诺基亚贝尔实验室)
针对语言建模目标与日志异常检测不直接匹配的问题,本文提出 LogGPT 框架,利用 GPT 预测下一条日志,并通过强化学习微调以提升异常检测性能。
2023-12-11 cs.LG