Sequential Feature Explanations for Anomaly Detection
Oregon State University（俄勒冈州立大学）
在许多应用中，异常检测系统将最异常的数据实例呈现给人类分析师，然后人类分析师必须确定该实例是否真正感兴趣（例如，安全设置中的威胁）。不幸的是，大多数异常检测器都没有解释为什么一个实例被认为是异常的，这使得分析师无法指导从哪里开始调查。为了解决这个问题，我们研究了计算和评估异常检测器的序列特征解释（SFE）的问题。异常的SFE是一系列特征，这些特征一次一个地（按顺序）呈现给分析员，直到突出显示的特征中包含的信息足以让分析员对异常做出有信心的判断。由于分析师的努力与他们在调查中考虑的信息量有关，因此解释的质量与必须揭示以获得信心的特征的数量有关。我们的主要贡献之一是提出了一个新的框架，大规模的定量评估的SFE，质量措施是基于分析师的努力。为此，我们根据真实数据集以及可以模拟进行评估的人工专家构建异常检测基准。我们的第二个贡献是评估框架内的几种新的解释方法和传统的异常检测基准，提供了一些见解的方法。
2015-02-28 cs.AI cs.LG stat.ML
Prototypes as Explanation for Time Series Anomaly Detection
TU Dortmund University（多特蒙德工业大学）
本文提出ProtoAD方法，将原型学习从分类扩展到时间序列异常检测，通过可视化潜在空间和输入空间中的原型，在不显著影响检测性能的前提下为深度黑盒模型提供基于示例的直观解释。
2023-07-04 cs.LG
BREAD: Baseline-Referenced Explanations for Anomaly Diagnosis
University of Amsterdam（阿姆斯特丹大学）；Amsterdam Business School（阿姆斯特丹商学院）
该研究针对现有异常诊断方法的缺陷，提出可扩展的基线参考诊断方法BREAD，经数学保证和实验验证，其诊断结果比LIME更忠实准确，适用于AI前瞻性异常检测场景。
2026-08-12 cs.LG
Explanation Method for Anomaly Detection on Mixed Numerical and Categorical Spaces
Research Center on Information and Communication Technologies (CITIC)（信息与通信技术研究中心（CITIC））；Universidade da Coruña（拉科鲁尼亚大学）
异常检测领域中的大多数提议专门关注检测阶段，特别是在最近的深度学习方法中。虽然这些模型提供高度准确的预测，但往往缺乏透明度，充当“黑匣子”。这种批评已经发展到这样一种地步，即解释现在被认为在可接受性和可靠性方面非常相关。在本文中，我们通过检查ADMNC（混合数值和分类空间上的异常检测）模型来解决这个问题，ADMNC模型是一个现有的非常准确但不透明的异常检测器，能够同时处理数值和分类输入。这项工作提出了扩展EADMNC（可解释的异常检测混合数值和范畴空间），它增加了可解释性的预测与原始模型。由于Apache Spark框架，我们保留了原始方法的可扩展性。EADMNC利用以前的ADMNC模型的公式来提供事前和事后的可解释性，同时保持原始架构的准确性。我们提出了一个预先的模型，全球解释的输出分割输入数据到同质组，描述只有几个变量。我们设计了一个基于回归树的图形表示，主管可以检查它以了解正常和异常数据之间的差异。我们的事后解释包括一个基于文本的模板方法，在本地提供支持每个检测的文本参数。我们报告的实验结果广泛的现实世界的数据，特别是在网络入侵检测领域。利用网络入侵领域的专家知识，通过理论分析评估解释的有用性。
2022-09-09 cs.AI cs.HC cs.LG
Transparent Anomaly Detection via Concept-based Explanations
École de Technologie Supérieure（高等技术学院）；Mila-Quebec AI（魁北克人工智能研究所）；McGill University（麦吉尔大学）；CISPA Helmholtz Center for Information Security（CISPA亥姆霍兹信息安全中心）
本文提出ACE方法，通过概念解释实现透明的异常检测，在三个真实数据集上取得与黑盒模型相当或更优的性能，并可与现有基于分类的异常检测方法无缝集成。
2023-11-01 cs.LG
AcME-AD: Accelerated Model Explanations for Anomaly Detection
University of Padova（帕多瓦大学）；Statwolf Data Science（Statwolf数据科学公司）
针对异常检测模型黑箱且解释获取缓慢的问题，本文提出模型无关、高效的 AcME-AD，通过局部特征重要性和假设分析支持表格异常的根因分析，并在合成与真实数据集上验证有效性。
2024-03-02 cs.LG
Counterfactual Explanation for Auto-Encoder Based Time-Series Anomaly Detection
Scania CV AB（斯堪尼亚汽车公司）；KTH Royal Institute of Technology（瑞典皇家理工学院）；RISE Research Institutes of Sweden（瑞典RISE研究院）；Linköping University（林雪平大学）
针对自编码器时间序列异常检测不透明的问题，本文结合特征选择与基于梯度的反事实解释，在 SKAB 和工业数据集上验证其可产生更稀疏且有效的决策解释。
2025-01-03 cs.LG
Diverse Counterfactual Explanations for Anomaly Detection in Time Series
University of Oxford（牛津大学）；Amazon Web Services（亚马逊云科技）；Zalando Research（Zalando研究院）；Santa Clara University（圣克拉拉大学）；Fiddler AI
在实践中，检测时间序列数据中异常的数据驱动方法无处不在，但它们通常无法为它们所做的预测提供有用的解释。在这项工作中，我们提出了一个模型不可知的算法，产生反事实的合奏解释的时间序列异常检测模型。我们的方法生成了一组不同的反事实的例子，即，多个扰动版本的原始时间序列不被认为是异常的检测模型。由于扰动的幅度是有限的，这些反事实代表了与模型认为正常的原始时间序列相似的输入集合。我们的算法适用于任何可微的异常检测模型。我们研究了我们的方法在单变量和多变量真实世界数据集以及两个基于深度学习的异常检测模型上的价值，以及之前在其他数据领域提出的几个可解释性标准，如有效性，可信性，接近性和多样性。我们表明，我们的算法可以产生符合这些标准的反事实的例子，并感谢一种新型的可视化，可以传达一个模型的内部机制比现有的方法更丰富的解释。此外，我们设计了一个稀疏的变体，我们的方法，以提高高维时间序列异常的反事实解释的可解释性。在这种情况下，我们的解释只局限于几个维度，因此可以更有效地与模型的用户进行沟通。
2022-03-21 cs.LG stat.ML
Toward Faithful Explanations in Acoustic Anomaly Detection
Mila-Quebec AI Institute（魁北克AI研究所）；Concordia University（康科迪亚大学）；FORAC Research Consortium（FORAC研究联盟）；Université Laval（拉瓦尔大学）
本文研究了基于自编码器的音频异常检测模型的可解释性，发现掩码自编码器在提供更可信的解释方面表现更优，且不影响检测性能。
2026-01-19 cs.LG cs.SD eess.AS
Analyzing Shapley Additive Explanations to Understand Anomaly Detection Algorithm Behaviors and Their Complementarity
Institut de Recherche en Informatique de Toulouse, Université Toulouse Capitole（图卢兹信息研究所，图卢兹大学）
本文通过Shapley加性解释分析异常检测算法的行为和互补性，探讨了模型解释多样性对构建有效异常检测集成的重要性。
2026-04-23 cs.AI cs.IR cs.LG
PUPAE: Intuitive and Actionable Explanations for Time Series Anomalies
University of California, Riverside（加州大学河滨分校）；Visa Research（Visa研究院）
本文提出领域无关的反事实解释技术PUPAE，以“若非损坏B，异常本应像正常数据A”的形式生成客观正确、直观且可直接执行的时间序列异常解释。
2024-01-16 cs.AI cs.LG
Fine-grained Anomaly Detection in Sequential Data via Counterfactual Explanations
Utah State University（犹他州立大学）；University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校）；University of Arkansas（阿肯色大学）
序列数据中的异常检测由于其在各种应用中的潜力而被研究了很长时间，例如从日志数据中检测异常系统行为。虽然许多方法可以实现良好的性能异常序列检测，如何识别序列中的异常条目仍然是具有挑战性的，由于缺乏在入口级的信息。在这项工作中，我们提出了一个新的框架，称为CFDet细粒度异常条目检测。CFDet利用了可解释的机器学习的思想。给定被检测为异常的序列，我们可以将异常条目检测视为可解释的机器学习任务，因为识别序列中的异常条目是为了提供对检测结果的解释。我们利用深度支持向量数据描述（Deep SVDD）方法来检测异常序列，并提出了一种新的基于反事实解释的方法来识别序列中的异常条目。在三个数据集上的实验结果表明，CFDet可以正确地检测异常条目。
2022-10-09 cs.LG
Interpretable Graph-Level Anomaly Detection via Contrast with Normal Prototypes
State Key Laboratory for Novel Software Technology, Nanjing University（新型软件技术国家重点实验室，南京大学）；School of Artificial Intelligence, Nanjing University（人工智能学院，南京大学）
ProtoGLAD通过对比异常与最近正常原型图，提供可解释的图级异常检测方法，优于现有技术。
2026-02-11 cs.AI cs.LG
Why Are You Weird? Infusing Interpretability in Isolation Forest for Anomaly Detection
KU Leuven（鲁汶大学）
异常检测涉及识别数据集中不符合预期行为的示例。虽然存在大量的异常检测算法，但很少有人注意解释为什么这些算法将某些示例标记为异常。然而，这样的解释对任何解释算法输出的人都非常有用。本文开发了一种方法来解释国家的最先进的隔离森林异常检测算法的异常预测。该方法输出一个解释向量，该向量捕获示例的每个属性对于将其识别为异常的重要性。对合成和真实世界数据集的全面实验评估表明，我们的方法比大多数当代最先进的可解释性方法更准确，更有效。
2021-12-13 cs.LG
DEM: A Distilled Explanation Model for Interpretable Anomaly Detection in Physiological Sensor Networks
Department of Computer Science and Information Systems（计算机科学与信息系统系）；Department of Electrical and Electronics Engineering（电气与电子工程系）
提出一种三阶段玻璃箱框架DEM，通过将梯度提升专家模型的知识蒸馏到基于线性基线残差的决策树中，实现高精度与内在可解释性的异常检测，并引入蒸馏保真度指标量化解释可信度。
2026-05-29 cs.AI cs.LG
AIDA: Analytic Isolation and Distance-based Anomaly Detection Algorithm
Utrecht University（乌得勒支大学）；ZHAW School of Law and Management（苏黎世应用科技大学法律与管理学院）；Zurich University of Applied Sciences（苏黎世应用科技大学）
我们结合距离和隔离度的指标，开发分析隔离和基于距离的异常（AIDA）检测算法。AIDA是第一个基于距离的方法，不依赖于最近邻的概念，使其成为一个无参数模型。从流行的文献中，其中的隔离度量总是通过模拟计算，我们表明，AIDA承认一个分析表达式的离群值得分，提供了新的见解的隔离度量。此外，我们提出了一种基于AIDA的异常解释方法，即基于回火隔离的扩展（TIX）算法，该算法即使在具有数百个维度的数据集中也能找到最相关的离群特征。我们测试这两种算法的合成和经验数据：我们表明，AIDA是竞争力相比，其他国家的最先进的方法，它是优越的发现隐藏在多维特征子空间的离群值。最后，我们说明了TIX算法是如何能够发现异常值在多维特征子空间，并使用这些解释来分析常见的异常检测中使用的基准。
2022-12-08 cs.LG
A Survey on Explainable Anomaly Detection
Leiden Institute of Advanced Computer Science (LIACS), Leiden University（莱顿大学莱顿高级计算机科学研究所）
本文综述可解释异常检测技术，针对异常检测长期重精度、轻解释的问题，系统梳理最新方法并提出分类框架，以辅助研究者和从业者选择合适方案。
2023-07-11 cs.LG
A Reliable Framework for Human-in-the-Loop Anomaly Detection in Time Series
University of California, Davis（加州大学戴维斯分校）
针对时间序列异常检测模型存在偏差且解释单向不可扩展的问题，提出HILAD框架，通过可视化界面实现人机双向协作，支持专家大规模检测、解释和纠正模型行为，用户研究证明其能增强模型理解与可靠性。
2025-06-23 cs.HC cs.LG
RX-ADS: Interpretable Anomaly Detection using Adversarial ML for Electric Vehicle CAN data
Virginia Commonwealth University（弗吉尼亚联邦大学）；Idaho National Laboratory（爱达荷国家实验室）
近年来，电动汽车（EV）和相关基础设施/通信取得了相当大的进步。入侵检测系统（IDS）被广泛部署在这样的关键基础设施的异常检测。本文提出了一种可解释的异常检测系统（RX-ADS），用于检测电动汽车CAN协议通信中的入侵。贡献包括：1）基于窗口的特征提取方法; 2）基于深度自动编码器的异常检测方法;以及3）基于对抗性机器学习的解释生成方法。该方法在两个基准CAN数据集上进行了测试：OTIDS和Car Hacking。RX-ADS的异常检测性能与这些数据集上最先进的方法进行了比较：HIDS和GIDS。RX-ADS方法的性能与HIDS方法（OTIDS数据集）相当，并且优于HIDS和GIDS方法（Car Hacking数据集）。此外，所提出的方法是能够产生的各种入侵检测到的异常行为的解释。这些解释后来被领域专家用来检测异常的信息所验证。RX-ADS的其他优势包括：1）该方法可以在未标记的数据上进行训练; 2）解释有助于专家理解异常和根本过程分析，还有助于AI模型调试和诊断，最终提高用户对AI系统的信任。
2022-09-05 cs.AI cs.CR cs.LG
Edge Storage Management Recipe with Zero-Shot Data Compression for Road Anomaly Detection
SK Planet Co., Ltd.（SK Planet有限公司）
针对边缘道路异常检测系统的高保真音频长期存储需求，提出基于预训练自编码器的零样本压缩方法，兼顾存储传输效率与检测性能。
2023-08-26 cs.LG cs.SD eess.AS
Towards Transparent and Efficient Anomaly Detection in Industrial Processes through ExIFFI
University of Padova（帕多瓦大学）；Zoppas Industries Heating Element Technologies（佐帕斯工业加热元件技术公司）
本文提出ExIFFI在工业中的应用，通过高效解释方法提升异常检测性能，实现高精度和计算效率。
2026-04-02 cs.AI cs.LG
Utilizing XAI technique to improve autoencoder based model for computer network anomaly detection with shapley additive explanation(SHAP)
Aligarh Muslim University（阿里格尔穆斯林大学）
机器学习（ML）和深度学习（DL）方法正在迅速被采用，特别是在计算机网络安全领域，如欺诈检测、网络异常检测、入侵检测等。然而，基于ML和DL的模型缺乏透明度是其实施的主要障碍，并因其黑箱性质而受到批评，即使有如此巨大的结果。可解释人工智能（XAI）是一个很有前途的领域，可以通过给出解释和解释其输出来提高这些模型的可信度。如果基于ML和DL的模型的内部工作是可以理解的，那么它可以进一步帮助提高其性能。本文的目的是展示如何使用XAI来解释DL模型的结果，在这种情况下是自动编码器。并在此基础上改进了其在计算机网络异常检测中的性能。基于Shapley值的核SHAP方法是一种新的特征选择方法。此方法用于仅识别实际上导致攻击/异常实例集合的异常行为的那些特征。稍后，这些特征集用于训练和验证自动编码器，但仅在良性数据上。最后，通过与基于特征选择方法的两种模型的比较，验证了所建模型的有效性。整个实验是在最新的CICIDS 2017网络数据集的子集上进行的。SHAP_Model的总体准确度和AUC分别为94%和0.969。
2021-12-14 cs.AI cs.CR cs.LG
Power Interpretable Causal ODE Networks: A Unified Model for Explainable Anomaly Detection and Root Cause Analysis in Power Systems
PICODE网络通过统一模型实现电力系统中异常检测与根本原因分析的可解释性，提升模型的可解释性和减少对标注数据的依赖。
2026-02-13 cs.AI cs.LG
Explainable Anomaly Detection: Counterfactual driven What-If Analysis
Mississippi State University（密西西比州立大学）；Engineer Research and Development Center, US Department of Defense（美国国防部工程研究与开发中心）
针对预测性维护中异常检测引发的故障原因与修复问题，提出利用反事实解释进行假设分析的概念验证，在PRONOSTIA数据集上结合时间卷积网络，为复杂系统的可解释性研究提供基础。
2024-08-21 cs.AI cs.HC cs.LG
AD-MERCS: Modeling Normality and Abnormality in Unsupervised Anomaly Detection
KU Leuven（鲁汶大学）；Leuven.AI - KU Leuven Institute for AI（鲁汶AI——鲁汶大学人工智能研究所）
本文提出无监督异常检测方法 AD-MERCS，通过同时识别实例空间中正常行为的模式子空间与表征异常偏离的条件，实现对正常与异常的双重建模，在多种异常类型上表现优异并提供可解释性。
2023-05-22 cs.LG
ShaTS: A Shapley-based Explainability Method for Time Series Artificial Intelligence Models applied to Anomaly Detection in Industrial Internet of Things
Departamento de Ingeniería y Tecnología de Computadores, University of Murcia（计算机工程与技术部门，穆尔西亚大学）
本文提出与模型无关的时序模型可解释性方法ShaTS，通过先验特征分组保留时序依赖，在SWaT数据集上比SHAP更准确地定位异常关键时间点、传感器和执行器，并满足工业实时性要求。
2025-06-02 cs.AI cs.LG
Towards Self-Interpretable Graph-Level Anomaly Detection
Monash University（莫纳什大学）；Northwestern University（西北大学）；Data61, CSIRO（澳大利亚联邦科学与工业研究组织Data61）；Northwest A&F University（西北农林科技大学）；The University of Adelaide（阿德莱德大学）；Griffith University（格里菲斯大学）
针对图级异常检测缺乏解释的问题，提出自解释模型SIGNET，基于多视图子图信息瓶颈框架，通过跨视图互信息检测异常并提取关键子图作为解释，在16个数据集上验证了有效性和自解释性。
2023-10-25 cs.LG
Amortised Post-Hoc Explanation with Exact Preservation for Dynamic Graph Anomaly Detectors
National higher School of Computer Science (ESI)（国家计算机科学高等学校（ESI））；Université Claude Bernard Lyon（里昂第一大学（克洛德·贝尔纳里昂大学））
本文针对动态图异常检测器StrGNN缺乏解释的问题，提出X-StrGNN事后解释层，可精确保留检测性能且成本低，通过对比归因策略验证了其稳定性与效果。
2026-08-18 cs.AI cs.LG
Learning Invariant Rules from Data for Interpretable Anomaly Detection
Siemens AG（西门子股份公司）；Tsinghua University（清华大学）
在异常检测的研究领域中，经常开发新颖且有前途的方法。然而，大多数现有的研究只专注于检测任务，忽略了底层模型的可解释性以及它们的检测结果。然而，异常解释，其目的是提供为什么特定的数据实例被识别为异常的解释，是在许多现实世界的应用中同样重要的任务。在这项工作中，我们提出了一个新的框架，协同几个机器学习和数据采掘技术，自动学习不变的规则，在给定的数据集中始终满足。学习的不变规则可以在推理阶段提供异常检测结果的明确解释，因此对于后续的异常报告决策非常有用。此外，我们的实证评估表明，所提出的方法也可以实现相当的，甚至更好的性能方面的AUC和部分AUC的公共基准数据集在各个应用领域相比，最先进的异常检测模型。
2023-01-13 cs.AI cs.LG
Conditional Attribution for Root Cause Analysis in Time-Series Anomaly Detection
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心（DFKI））；Paul Wurth S.A（保罗·沃思公司）；Rheinland-Pfälzische Technische Universität Kaiserslautern-Landau（莱茵河-巴尔夫技术大学凯撒斯劳滕-兰道）
提出一种条件归因框架，通过检索与异常观测上下文相似的正态实例进行依赖保持的解释，结合变分自编码器和UMAP流形嵌入实现高维时间序列的高效归因，并在SWaT和MSDS基准上提升了根因识别准确率与鲁棒性。
2026-06-17 cs.LG
Explainable Artificial Intelligence for Anomaly Detection in Banking Transactions: An Internal Audit Perspective
针对银行交易异常检测传统方法的局限，本文提出可解释人工智能框架，用隔离森林模型评分，SHAP层提供解释，通过Streamlit仪表板呈现结果，经实验评估性能良好，能提升审计人员信心与决策质量，推动AI在金融环境的实际部署。
2026-07-16 cs.AI cs.LG
Data-Driven Heat Pump Management: Combining Machine Learning with Anomaly Detection for Residential Hot Water Systems
Department of Mathematics and Computer Science, Karlstad University（数学与计算机科学系，卡尔斯塔德大学）；Department of Research and Development, Thermia AB（研发部，Thermia AB）
本文提出结合机器学习与孤立森林异常检测的热水需求预测方法，在真实家庭数据上验证，LightGBM模型RMSE改进达9.37%，iForest误报率仅5.2%，实现自适应热泵控制。
2025-06-03 cs.LG
A new interpretable unsupervised anomaly detection method based on residual explanation
University of São Paulo（圣保罗大学）；Stanford University（斯坦福大学）；VALE S.A（淡水河谷公司）
尽管在对复杂模式进行建模以解决具有挑战性的问题方面具有卓越的性能，但深度学习（DL）方法的黑盒性质限制了其在现实世界关键领域的应用。缺乏一种使人类能够对黑箱决策进行推理的顺畅方式，阻碍了对可能导致灾难性后果的意外事件采取任何预防措施。为了解决黑盒模型的不清晰性，可解释性成为基于DL的系统的基本要求，通过提供理解模型行为的方法来利用信任和知识。虽然是当前的热门话题，但仍需要进一步的进展来克服当前基于无监督DL的异常检测（AD）模型的可解释性方法的现有限制。自动编码器（AE）是AD应用程序的无监督DL的核心，可实现一流的性能。然而，由于其混合方面获得的结果（通过需要额外的计算出网络），只有不可知的可解释的方法可以应用于基于AE的AD。这些不可知方法处理大量参数在计算上是昂贵的。在本文中，我们提出了RXP（残差eXPlainer），一个新的解释性方法来处理的限制AE为基础的AD在大规模系统。它突出了其实现简单，低计算成本和确定性的行为，其中的解释是通过重建的输入功能的偏差分析。在一个实验中使用的数据从一个真正的重载铁路线，所提出的方法取得了优越的性能相比，SHAP，证明了其潜力，以支持决策在大规模的关键系统。
2021-03-14 cs.AI cs.LG
Reimagining Anomalies: What If Anomalies Were Normal?
本文提出一种生成多个替代修改以解释异常检测机制的方法，通过语义解释帮助用户探索异常的"如果"场景。
2026-01-12 cs.CV cs.LG stat.ML
Explaining Deep Learning-based Anomaly Detection in Energy Consumption Data by Focusing on Contextually Relevant Data
Western University（西安大略大学）
针对深度学习异常检测缺乏透明解释且SHAP类方法不稳定的问题，本文结合SHAP变体、全局特征重要性与加权余弦相似度，按异常上下文选择背景数据，在多模型、多数据集实验中将解释可变性平均降低约38%。
2025-01-10 cs.AI cs.LG
Explainable Deep One-Class Classification
Technical University of Kaiserslautern（凯泽斯劳滕工业大学）；Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；Technical University of Berlin（柏林工业大学）；Google Research, Brain Team（谷歌研究院大脑团队）；Korea University（高丽大学）
用于异常检测的深度单类分类变体学习将标称样本集中在特征空间中的映射，从而导致异常被映射掉。由于这种转换是高度非线性的，因此找到解释是一个重大挑战。在本文中，我们提出了一种可解释的深度一类分类方法，全卷积数据描述（FCDD），其中映射的样本本身也是一个解释热图。FCDD产生了有竞争力的检测性能，并为CIFAR-10和ImageNet的常见异常检测基准提供了合理的解释。在MVTec-AD上，最近的一个制造数据集提供了地面实况异常图，FCDD在无监督设置中设置了一个新的艺术状态。我们的方法可以在训练过程中结合地面实况异常图，即使使用其中的一些（~5）也可以显着提高性能。最后，使用FCDD的解释，我们证明了深一类分类模型的脆弱性，虚假的图像特征，如图像水印。
2021-03-18 cs.CV cs.LG stat.ML
Ensemble2: Anomaly Detection via EVT-Ensemble Framework for Seasonal KPIs in Communication Network
School of Information and Software Engineering, University of Electronic Science and Technology of China（电子科技大学信息与软件工程学院）
KPI异常检测是网络管理系统的重要功能之一。传统的方法要么需要先验知识，要么手动设置阈值。为了克服这些缺点，我们提出了Ensemble 2框架，该框架应用集成学习来提高外源能力。同时，根据极值理论自动调整阈值。该模型在生产数据集上进行了测试，以验证其有效性。我们使用在线学习进一步优化模型，最终在Intel i5平台上以~10 pts/s的速度运行。
2022-05-28 cs.LG eess.SP
Witnesses Explain Anomalies
EPITA Research Laboratory（EPITA研究实验室）
WAND是天生可解释的无监督表格异常检测器，以见证方向作为逐特征归因，在47个ADBench数据集上与16种无监督基线ROC-AUC持平且平均Friedman秩最优，解释更准确且查询成本低，为可解释异常检测提供实用方案。
2026-09-04 cs.AI cs.LG
Unveiling Hidden Energy Anomalies: Harnessing Deep Learning to Optimize Energy Management in Sports Facilities
Qatar University（卡塔尔大学）；University of Dubai（迪拜大学）；University of Sharjah（沙迦大学）；De Montfort University（德蒙福特大学）
本文研究深度学习在体育设施能源异常检测中的应用，提出基于深度前馈神经网络（DFNN）和阈值估计的方法以减少误报，在卡塔尔大学水上中心数据集上实现94.33%准确率和92.92% F1分数，优于传统技术。
2024-02-13 cs.CY cs.LG
Locally Interpretable One-Class Anomaly Detection for Credit Card Fraud Detection
National Taiwain University（国立台湾大学）
针对高度不平衡的信用卡欺诈检测问题，现有的方法大多采用数据增强方法或传统的机器学习模型，缺乏基于神经网络的异常检测方法。此外，很少有研究采用人工智能可解释性工具来研究交易数据的特征重要性，这对于黑盒欺诈检测模块至关重要。综合考虑这两点，我们提出了一个新的信用卡欺诈检测的异常检测框架，以及一个模型解释模块负责预测解释。欺诈检测模型由两个深度神经网络组成，它们以无监督和对抗的方式进行训练。准确地说，生成器是一个AutoEncoder，旨在重建真实的交易数据，而加密器是一个用于欺诈检测的全连接网络。解释模块有三个白盒解释器，分别负责解释AutoEncoder、ESTA和整个检测模型。实验结果表明，与基线相比，我们的欺诈检测模型在基准数据集上的最先进的性能。此外，三个解释器的预测分析，提供了一个清晰的视角如何感兴趣的实例的每个功能有助于最终的模型输出。
2022-06-29 cs.AI cs.LG
ProtoX-AD: Self-Explainable Time Series Anomaly Detection and Characterization
Euskal Herriko Unibertsitatea（巴斯克大学）；University of Cambridge（剑桥大学）；University of Copenhagen（哥本哈根大学）；University of Oslo（奥斯陆大学）
提出ProtoX-AD框架，通过原型学习实现自监督时间序列异常检测的可解释性，在保持检测性能的同时提供语义一致的异常特征解释。
2026-06-12 cs.LG stat.ML
Using Kernel SHAP XAI Method to optimize the Network Anomaly Detection Model
Bharati Vidyapeeth's Institute of Computer Applications and Management (BVICAM)（巴拉蒂·维德亚佩特计算机应用与管理学院）；Aligarh Muslim University（阿里格尔穆斯林大学）
本文利用 XAI 的 kernelSHAP 方法检测并解释网络异常，以此优化模型，在 CICIDS2017 数据集上使无监督训练的 OPT_Model 准确率达 0.90、F 分数达 0.76。
2023-07-31 cs.CR cs.LG
Anomaly Detection in Multivariate Non-stationary Time Series for Automatic DBMS Diagnosis
Pohang University of Science and Technology（浦项科技大学）
随着大数据系统中统计量和事件度量的不断增加，数据库管理系统中的异常检测变得越来越困难。在本文中，我提出了一个自动DBMS诊断系统，检测异常期间与异常DB统计指标，并发现因果事件的期间。利用深度编码器的重构误差和统计过程控制方法检测异常时间段。使用事件和异常统计度量之间的时间序列相似性度量来发现相关事件。在使用DBMS度量数据训练深度自动编码器之后，从包含异常的其他DBMS研究异常检测的功效。实验结果表明了该模型的有效性，尤其是批量时间归一化层。提出的模型用于发布自动DBMS诊断报告，以确定DBMS配置和SQL调优。
2017-10-09 cs.LG stat.AP stat.ML
Anomaly Detection in California Electricity Price Forecasting: Enhancing Accuracy and Reliability Using Principal Component Analysis
U.S. Department of Energy（美国能源部）；SAS Institute（SAS研究所）
本研究针对加州电网电价预测的复杂数据与异方差挑战，结合PCA、RPCA及SAS稀疏矩阵离群点去除方法优化特征，构建回归模型，显著提升日前电价预测准确性，助力可再生能源并网与电网管理。
2024-11-25 cs.AI cs.ET cs.LG
CESNET-TimeSeries26: A Multi-Year Network Traffic Time Series Dataset for Annual Seasonality, Concept Drift, and Long-Term Anomaly Detection
Czech Technical University in Prague（布拉格捷克技术大学）；CESNET a.l.e.
本文提出CESNET-TimeSeries26数据集，其包含CESNET3网络的4.5年流量数据，可用于评估预测模型的年度季节性适应性，解决现有数据集时长不足的问题。
2026-10-14 cs.AI cs.LG cs.NI
Unsupervised Symbolic Anomaly Detection
TU Dortmund University, Dortmund, Germany Research Center Trustworthy Data Science（图鲁特大学，德国多特蒙德 Research Center Trustworthy Data Science）
SYRAN通过学习可读的符号方程来检测异常，利用近似常数的符号不变量，提供可解释的异常评分，实验表明其在可解释性和检测性能上表现优异。
2026-03-18 cs.AI cs.LG cs.SC
Score-Based Explanations in Data Management and Machine Learning
Universidad Adolfo Ibáñez（阿道夫·伊瓦涅斯大学）；Data Observatory Foundation（数据观测基金会）；IMFD（千禧数据基金会）
我们描述了一些方法来解释数据管理和机器学习中观察到的结果。它们是根据对预定义的和可能相关的投入的数值评分。更具体地说，我们考虑在数据库中的查询答案的解释，并从分类模型的结果。所描述的方法大多是因果和反事实的性质。我们认为需要把域和语义知识得分计算，并提出了一些方法来做到这一点。
2020-08-19 cs.AI cs.DB cs.LG
Graph Neural Networks based Log Anomaly Detection and Explanation
Leiden University（莱顿大学）
提出 Logs2Graphs 与 OCDiGCN，将事件日志构建为带属性有向加权图并进行无监督图级异常检测，同时给出关键节点解释，在五个基准上性能优异。
2024-01-24 cs.AI cs.LG cs.SE
Score-Based Explanations in Data Management and Machine Learning: An Answer-Set Programming Approach to Counterfactual Analysis
Universidad Adolfo Ibáñez（阿道夫·伊瓦涅斯大学）；Millennium Inst. for Foundational Research on Data (IMFD)（千年数据基础研究研究所）
我们描述了一些最近的方法，以分数为基础的解释数据库中的查询答案和结果的分类模型在机器学习。重点是作者和合作者所做的工作。特别强调的是放在声明性的方法的基础上的答案集编程使用的反事实推理得分规范和计算。几个例子说明了这些方法的灵活性。
2021-09-19 cs.AI cs.DB cs.LG
Risk Management via Anomaly Circumvent: Mnemonic Deep Learning for Midterm Stock Prediction
Columbia University（哥伦比亚大学）；Beijing Institute of Technology（北京理工大学）；New York University Shanghai（上海纽约大学）
中期股价预测是股票市场价值投资的关键。然而，大多数深度学习模型本质上是短期的，将它们应用于中期预测会遇到很大的累积误差，因为它们无法避免异常。在本文中，我们提出了一种用于中期股票预测的新型深度神经网络Mid-LSTM，它将市场趋势作为隐藏状态。首先，在自回归滑动平均模型（ARMA）的基础上，考虑隐含状态和资本资产定价模型，建立了一个中期ARMA模型。然后，设计了一个基于LSTM的中期深度神经网络，它由三个组件组成：LSTM，隐马尔可夫模型和线性回归网络。提出的Mid-LSTM模型能够避免异常现象，减少较大的预测误差，对影响股价的因素具有较好的解释效果。对标准普尔500指数股票的大量实验表明，（i）所提出的Mid-LSTM在预测准确性方面实现了2-4%的提高，（ii）在投资组合配置投资中，我们实现了高达120.16%的年回报率和2.99的平均夏普比率。
2019-08-03 cs.LG q-fin.ST stat.ML
Knowledge-Integrated Representation Learning for Crypto Anomaly Detection under Extreme Label Scarcity; Relational Domain-Logic Integration with Retrieval-Grounded Context and Path-Level Explanations
AI and Business Analytics, Ewha Womans University, Seoul, Republic of Korea（爱媛女子大学人工智能与商务分析系）；Department of Business Administration, Kumoh National Institute of Technology, Gumi, Republic of Korea（Kumoh国立技术大学商业管理系）；Coretrustlink, Seoul, Republic of Korea（Coretrustlink）
本文提出RDLI框架，通过整合领域逻辑与检索上下文，提升加密异常检测在极端标签稀缺下的准确性和可解释性。
2026-01-19 cs.LG q-fin.RM
Explainable AI in Credit Risk Management
School of Engineering（工程学院）；Zurich University of Applied Sciences（苏黎世应用科技大学）；Data Science Institute（数据科学研究所）；Columbia University（哥伦比亚大学）
人工智能（AI）创造了世界上有史以来最大的技术革命。对于金融业而言，它提供了改善客户体验、金融服务民主化、确保消费者保护和显著改善风险管理的巨大机会。虽然运行最先进的机器学习模型比以往任何时候都更容易，但设计和实现支持现实世界金融应用的系统一直具有挑战性。在很大程度上是因为它们缺乏透明度和可解释性，这是建立可靠技术的重要因素，对这一主题的研究特别侧重于信用风险管理中的应用。在本文中，我们实现了两个先进的事后模型不可知解释技术，称为本地可解释模型不可知解释（LIME）和SHapley加法解释（SHAP），以机器学习（ML）为基础的信用评分模型应用于美国P2P借贷平台Lending Club提供的开放访问数据集。具体来说，我们使用LIME在本地解释实例，使用SHAP获得本地和全局解释。我们详细讨论了结果，并通过使用各种内核来解释使用SHAP值生成的图形，从而提出了多种比较方案。我们还讨论了与实施这些最先进的eXplainabale AI（XAI）方法相关的实际挑战，并将其记录下来供将来参考。我们努力记录这项研究的每个技术方面，同时提供结论的一般摘要。
2021-03-01 cs.LG q-fin.RM
Enhancing Anomaly-Based Intrusion Detection Systems with Process Mining
DIETI University of Naples Federico II（DIETI那不勒斯费德里科二世大学）
本文提出利用流程挖掘技术提升基于异常的入侵检测系统，通过提供基于流程的警报严重性评分和解释，优先处理关键警报并保持网络行为可见性，同时减少干扰。
2026-04-20 cs.CR cs.LG cs.NI
Root Cause Explanation of Outliers under Noisy Mechanisms
Deakin University（迪肯大学）
针对现有异常根因研究仅考虑节点贡献、无法归因边异常的问题，提出结合边与节点的噪声函数因果模型及梯度归因法，在多数据集上实现更优归因性能且可扩展至大图。
2023-12-19 cs.AI cs.LG stat.ML
