Log Message Anomaly Detection and Classification Using Auto-B/LSTM and Auto-GRU
University of Victoria（维多利亚大学）
日志消息在软件系统中得到了广泛的应用。它们对于分类很重要，因为每天生成数百万个日志。大多数日志都是非结构化的，这使得分类成为一项挑战。本文开发了称为Auto-LSTM、Auto-BLSTM和Auto-GRU的深度学习（DL）方法，用于异常检测和日志分类。这些模型用于将非结构化日志数据转换为适合分类算法的提取特征。他们使用四个数据集进行评估，即BGL，OpenStack，Thunderbird和IMDB。前三个是流行的日志数据集，而第四个是用于情感分类的电影评论数据集。结果表明，Auto-LSTM、Auto-BLSTM和Auto-GRU的性能优于其他知名算法。
2021-04-07 cs.LG stat.ML
ALGAN: Time Series Anomaly Detection with Adjusted-LSTM GAN
School of Computer Science, Faculty of Science, Queensland University of Technology, Brisbane, QLD 4000, Australia（昆士兰科技大学计算机科学学院）
本文提出ALGAN模型，通过调整LSTM输出改进GAN架构，在无监督下有效检测单变量和多变量时间序列异常，并在46个单变量及一个大型多变量数据集上超越传统及基于GAN的方法。
2023-11-01 cs.AI cs.LG
LSTM-Autoencoder based Anomaly Detection for Indoor Air Quality Time Series Data
Massey University（梅西大学）；Central Queensland University（中央昆士兰大学）；CSIRO Data61（澳大利亚联邦科学与工业研究组织数据61研究所）
室内空气质量与人体健康密切相关，因此室内空气质量异常检测成为一个重要的研究领域。然而，IAQ区域中的异常检测中的传统的基于统计学和浅机器学习的方法不能检测涉及跨若干数据点的相关性的观察的异常（即，通常称为长期依赖性）。我们提出了一种混合深度学习模型，该模型将LSTM与Autoencoder相结合，用于IAQ中的异常检测任务，以解决这个问题。在我们的方法中，LSTM网络由多个LSTM单元组成，这些单元相互协作，以学习时间序列中数据的长期依赖性。Autoencoder根据对所有时间序列中的每个数据评估的重建丢失率来识别最佳阈值。我们的实验结果，基于达尼丁CO2时间序列数据集，通过在新西兰的学校的真实世界的部署，证明了一个非常高的和强大的准确率（99.50%），优于其他类似的模型。
2022-04-14 cs.CR cs.LG
Graph-Augmented LSTM for Forecasting Sparse Anomalies in Graph-Structured Time Series
University of Massachusetts Dartmouth（马萨诸塞大学达特茅斯分校）
针对多变量时间序列中稀疏异常检测的跨节点依赖捕捉难题，提出将关系图显式整合到 LSTM 的图增强预测模型，在两个基准数据集上 F1 分数较最佳基线提升达 10%。
2025-03-05 cs.LG
LSTM-based Anomaly Detection for Non-linear Dynamical System
Beijing University of Posts and Telecommunications（北京邮电大学）；University of Nebraska-Lincoln（内布拉斯加大学林肯分校）
非线性动力系统的异常检测对于保证系统的稳定性具有重要作用。然而，它通常是复杂的，必须通过大规模的仿真来解决，这需要大量的计算资源。本文提出了一种基于长短期记忆（LSTM）的非线性动力系统异常检测方案，用于捕获时间序列的复杂时间变化并进行多步预测。具体而言，我们首先提出了基于LSTM的非线性动力系统异常检测框架，包括数据预处理、多步预测和异常检测。根据预测要求，在多步预测中，采用自适应滑动窗口采集壁面剪应力数据集的样本，探索了两种训练模式。在多步预测结果的基础上，提出了一种自适应参数局部平均（LAAP）算法，用于提取时间序列的局部数值特征，估计即将到来的异常。实验结果表明，本文提出的多步预测方法在壁面剪应力数据集上的预测精度高于传统方法，LAAP算法在异常检测任务中的性能优于基于绝对值的方法。
2020-06-05 cs.LG eess.SP
Anomaly Detection for Electro-Hydrostatic Actuators using LSTM Autoencoder
IPEK - Institute of Product Engineering, Karlsruhe Institute of Technology (KIT), Germany（产品工程研究所，卡尔斯鲁厄理工学院（KIT），德国）；SUPMICROTECH-ENSMM, France（SUPMICROTECH-ENSMM，法国）
针对电液伺服作动器传感器信号，提出基于LSTM自编码器的重构异常检测框架，在多种故障注入场景下达到99%平均准确率与极低误报率。
2026-06-03 cs.LG
LSTM-Based Anomaly Detection: Detection Rules from Extreme Value Theory
Indian Institute of Technology Madras（马德拉斯印度理工学院）
在本文中，我们结合流行的交通网络长短期记忆（LSTM）深度学习模型，探索了各种异常检测的统计技术。我们从LSTM模型中获得预测误差，然后应用基于（i）高斯分布，（ii）极值理论（EVT）和（iii）Tukey方法的三种统计模型。使用统计检验和数值研究，我们发现强有力的证据，对广泛采用的高斯分布为基础的检测规则的预测误差。接下来，从极值理论的基本结果的动机，我们提出了一种检测技术，不假设任何父分布的预测误差。通过对几个真实交通数据集的数值实验，我们表明基于EVT的检测规则优于其他检测规则，并得到统计证据的支持。
2019-09-13 cs.LG stat.ML
Detecting Spacecraft Anomalies Using LSTMs and Nonparametric Dynamic Thresholding
NASA Jet Propulsion Laboratory（美国国家航空航天局喷气推进实验室）；California Institute of Technology（加州理工学院）
随着航天器发回越来越多的遥测数据，需要改进异常检测系统，以减轻操作工程师的监测负担并降低操作风险。目前的航天器监测系统仅针对异常类型的子集，并且由于涉及规模和复杂性的挑战，通常需要昂贵的专业知识来开发和维护。我们证明了长短期记忆（LSTMs）网络，一种递归神经网络（RNN），在克服这些问题，使用专家标记的遥测异常数据从土壤水分主动被动（SMAP）卫星和火星科学实验室（MSL）漫游车，Currency。我们还提出了一个补充的无监督和非参数异常阈值的方法，在试点实施的异常检测系统SMAP，并提供误报缓解策略以及其他关键的改进和发展过程中吸取的经验教训。
2018-06-06 cs.LG stat.ML
Unsupervised and Semi-supervised Anomaly Detection with LSTM Neural Networks
Bilkent University（比尔肯特大学）
我们研究了无监督框架中的异常检测，并介绍了基于长短期记忆（LSTM）神经网络的算法。特别是，给定可变长度的数据序列，我们首先将这些序列通过基于LSTM的结构，并获得固定长度的序列。然后，我们找到一个决策函数，我们的异常检测器的基础上一类支持向量机（OC-SVM）和支持向量数据描述（SVDD）算法。作为文献中的第一次，我们使用基于高效梯度和二次规划的训练方法联合训练和优化LSTM架构和OC-SVM（或SVDD）算法的参数。为了应用基于梯度的训练方法，我们修改了OC-SVM和SVDD算法的原始目标标准，其中我们证明了修改后的目标标准的收敛性。我们还提供了我们的无监督制定的半监督和全监督框架的扩展。因此，我们得到的异常检测算法，可以处理可变长度的数据序列，同时提供高性能，特别是时间序列数据。我们的方法是通用的，因此我们也将这种方法应用于门控递归单元（GRU）架构，直接将基于LSTM的结构替换为基于GRU的结构。在我们的实验中，我们说明了我们的算法相对于传统方法实现的显着性能提升。
2017-10-25 cs.LG eess.SP stat.ML
Hybridization of Capsule and LSTM Networks for unsupervised anomaly detection on multivariate data
本文提出分支输入自编码器架构，融合 LSTM 与 Capsule Networks，以无监督方式检测多变量时间序列异常，显著缓解过拟合并在开源基准上达到最先进性能。
2022-02-11 cs.LG
Exploring the impact of Optimised Hyperparameters on Bi-LSTM-based Contextual Anomaly Detector
Norwegian University of Science and Technology（挪威科技大学）
本文提出UoCAD-OH框架，通过离线优化Bi-LSTM的超参数并在在线阶段检测异常，在两个智能家居空气质量数据集上验证了优化超参数对无监督上下文异常检测性能的提升。
2025-01-25 cs.AI cs.LG
A Joint Model for IT Operation Series Prediction and Anomaly Detection
Xiamen University（厦门大学）；Bonree Inc.（博睿数据）
状态预测和异常检测是IT系统自动监控的两个基本任务。在本文中，联合模型预测器和异常检测器（PAD）提出了一个框架下解决这两个问题。在我们的设计中，变分自动编码器（VAE）和长短期记忆（LSTM）结合在一起。预测块（LSTM）从VAE重构的时间序列中获取干净的输入，这使得它对预测任务的异常和噪声具有鲁棒性。与此同时，LSTM块保持长期的顺序模式，这些模式在VAE编码窗口之外。这导致VAE在异常检测中的性能比单独训练时更好。在整个处理流水线中，光谱残差分析与VAE和LSTM集成，以提高两者的性能。在两个具有挑战性的评估基准上的实验证实了在两个任务上的优越性能。
2021-04-22 cs.LG stat.ML
Statistics and Deep Learning-based Hybrid Model for Interpretable Anomaly Detection
University of the Witwatersrand（金山大学）；University of Johannesburg（约翰内斯堡大学）
混合方法已被证明在两个预测任务以及量化与这些预测（预测区间）相关的不确定性方面优于纯统计和纯深度学习方法。一个例子是多元指数平滑长短期记忆（MES-LSTM），它是多元统计预测模型和递归神经网络变体长短期记忆之间的混合。它还表明，一个模型，（$i$）产生准确的预测和（$ii$）是能够令人满意地量化相关的预测不确定性，可以成功地适应于一个模型，适合于异常检测任务。随着多元数据的广泛存在和新的应用领域的出现，近年来出现了大量的异常检测方法。所提出的方法主要集中在深度学习技术上，这些技术容易受到诸如（$i$）可能是计算密集型的参数的大集合，$(ii)$返回太多的假阳性，使得该技术不实用，$(iii)$需要标记的数据集用于训练，其在现实生活中通常不普遍，和（$iv$）对异常发生的根本原因的理解，这些异常发生被深度学习方法的主要黑箱性质所抑制。在本文中，MES-LSTM的扩展，一个可解释的异常检测模型，克服了这些挑战。以可再生能源发电为应用领域，对MES-LSTM异常检测器进行了测试，结果表明，MES-LSTM异常检测器在异常检测任务上至少与基准测试有竞争力，并且比基准测试更不容易从虚假效应中学习，从而使其在根本原因发现和解释方面更可靠。
2022-02-25 cs.LG
An Asymmetric Loss with Anomaly Detection LSTM Framework for Power Consumption Prediction
American University of Beirut（贝鲁特美国大学）
建立一个准确的负荷预测模型，预测不足最小是至关重要的，以防止任何不必要的停电，由于电力生产不足。然而，住宅部门的电力消耗模式包含波动和异常，使其难以预测。在本文中，我们提出了多个具有不同非对称损失函数的长短期记忆（LSTM）框架，以对预测不足施加更高的惩罚。我们还采用了基于密度的空间聚类的应用程序与噪声（DBSCAN）异常检测方法，在负荷预测任务之前，删除任何现有的oultiers。考虑到天气和社会因素的影响，季节性分裂是在法国，德国和匈牙利的三个考虑的数据集上进行的，这些数据集包含每小时的电力消耗，天气和日历功能。均方根误差（RMSE）的结果表明，去除异常有效地减少了低估和高估的错误，在所有的季节数据集。此外，非对称损失函数和季节性分裂有效地最小化低估，尽管在一定程度上增加了高估误差。减少对电力消耗的低估对于防止可能对社区造成损害的停电至关重要。
2023-02-05 cs.AI cs.LG
Smart Metering System Capable of Anomaly Detection by Bi-directional LSTM Autoencoder
异常检测涉及广泛的应用，例如故障检测、系统监控和事件检测。从智能计量系统获得的计量数据中识别异常是提高电力系统可靠性、稳定性和效率的关键任务。本文提出了一种异常检测过程中发现异常值观察到的智能计量系统。在所提出的方法中，双向长短期记忆（BiLSTM）的自动编码器的使用和发现的异常数据点。该方法利用非异常数据通过自编码器计算重建误差，通过预先设定的阈值将异常数据与非异常数据分离。利用985户居民的电/水/暖/热水4种能源的计量数据，对基于BiLSTM自动编码器的异常检测方法进行了测试。
2021-12-06 cs.LG cs.SY eess.SY
A Survey on Anomaly Detection for Technical Systems using LSTM Networks
University of Stuttgart（斯图加特大学）
异常表示与预期系统操作的偏差，并可能导致效率降低以及部分或全部系统故障。由于复杂的系统动力学，异常的原因往往是未知的，有效的异常检测是必要的。传统的检测方法依赖于统计和时不变的方法，无法解决异常的复杂性和动态性。随着人工智能的进步以及在各个领域中异常检测和预防的重要性的增加，人工神经网络方法使得能够在考虑时间和上下文特征的同时检测更复杂的异常类型。在这篇文章中，对使用深度神经网络，特别是长短期记忆网络的最新异常检测进行了调查。基于应用场景，数据和异常类型以及进一步的度量标准对所研究的方法进行评估。为了突出即将到来的异常检测技术的潜力，调查中还包括基于图和迁移学习方法，这些方法可以分析异构数据，弥补其不足并改善动态过程的处理。
2021-05-28 cs.AI cs.LG stat.ML
A Comprehensive Forecasting-Based Framework for Time Series Anomaly Detection: Benchmarking on the Numenta Anomaly Benchmark (NAB)
School of Electrical and Computer Engineering（电气与计算机工程学院）
本文提出一个统一的基于预测的时间序列异常检测综合框架，整合经典与深度学习方法，并在NAB基准上完成首次全面评估，通过大量实验对比证明LSTM在复杂模式上表现最佳，Informer在效率上更具优势，为未来研究建立了基准。
2025-10-13 cs.LG
Denoising Architecture for Unsupervised Anomaly Detection in Time-Series
Telekom Innovation Laboratories（电信创新实验室）；Eötvös Loránd University（厄特沃什·罗兰大学）
时间序列中的异常提供了从银行和航空航天到信息技术、安全和医学等一系列行业的关键场景的见解。然而，识别时间序列数据中的异常是特别具有挑战性的，因为异常的定义不精确，标签的频繁缺失，以及这些数据中存在的极其复杂的时间相关性。LSTM自动编码器是一种基于长短期记忆网络的异常检测编码器-解码器方案，它学习重构时间序列行为，然后使用重构错误来识别异常。我们引入去噪架构作为对LSTM编码器-解码器模型的补充，并研究其对现实世界以及人工生成的数据集的影响。我们证明了所提出的架构提高了准确性和训练速度，从而使LSTM Autoencoder在无监督异常检测任务中更有效。
2022-08-30 cs.AI cs.LG
A Framework for End-to-End Deep Learning-Based Anomaly Detection in Transportation Networks
Indian Institute of Technology Madras（印度理工学院马德拉斯分校）
我们开发了一个端到端的基于深度学习的交通网络时态数据异常检测模型。所提出的EVT-LSTM模型源自流行的LSTM（长短期记忆）网络，并采用基于EVT（极值理论）基本结果的目标函数。我们将EVT-LSTM模型与一些已建立的统计、机器学习和混合深度学习基线进行了比较。七个不同的现实世界的数据集上的实验表明，我们提出的模型的异常检测性能优于其他模型中考虑的比较研究。
2019-11-20 cs.LG eess.SP stat.ML
Cybersecurity-Focused Anomaly Detection in Connected Autonomous Vehicles Using Machine Learning
Engineering Data Science University of Houston（工程数据科学大学休斯顿大学）；Department of Civil and Environmental Engineering University of Houston（土木与环境工程系大学休斯顿大学）；Department of Information Science Technology University of Houston（信息科学与技术系大学休斯顿大学）；Department of Civil and Architectural Engineering and Construction Management University of Cincinnati（土木与建筑工程及建设管理系辛辛那提大学）；Mathematics Department Embry-Riddle Aeronautical University（数学系Embry-Riddle航空航天大学）；Department of Cyber Security Engineering George Mason University（网络安全工程系乔治·马歇尔大学）
针对网联自动驾驶车辆的安全威胁，本研究通过模拟生成驾驶交互数据集，提出并应用堆叠LSTM和Random Forest机器学习模型进行异常检测，实验证明两模型均能有效预测轨迹并识别异常驾驶模式。
2025-06-28 cs.LG
A Multi-Step Comparative Framework for Anomaly Detection in IoT Data Streams
Alwasl University（阿尔瓦斯勒大学）；Western University（西安大略大学）
针对物联网异常检测中预处理与模型交互研究不足的问题，提出多步比较框架，在IoTID20上评估三种算法，发现GBoosting准确率最高，为实际应用提供指导。
2025-05-22 cs.LG
LATTE: LSTM Self-Attention based Anomaly Detection in Embedded Automotive Platforms
Colorado State University（科罗拉多州立大学）
现代汽车可以被认为是复杂的分布式嵌入式系统，运行各种具有实时约束的汽车应用程序。汽车工业中朝向更大自主性的最新进展正在驱动车辆越来越多地与各种外部系统（例如，路边信标，其他车辆），这使得新兴车辆非常容易受到网络攻击。此外，汽车应用和车载网络的复杂性增加导致攻击可见性差，这使得在汽车系统中检测此类攻击特别具有挑战性。在这项工作中，我们提出了一种新的异常检测框架，称为LATTE检测网络攻击的控制器局域网（CAN）为基础的网络在汽车平台。我们提出的LATTE框架使用堆叠的长短期记忆（LSTM）预测器网络，具有新颖的注意力机制，以在设计时学习正常的操作行为。随后，一种新的检测方案（也在设计时训练）用于在运行时检测各种网络攻击（作为异常）。我们在不同的汽车攻击场景下评估了我们提出的LATTE框架，并与该领域最知名的先前作品进行了详细的比较，以展示我们方法的潜力。
2021-07-12 cs.DC cs.LG cs.SY
A Comparison of Deep Learning Architectures for Spacecraft Anomaly Detection
IU International University of Applied Sciences（IU应用科学大学）
本研究对比了CNNs、RNNs、LSTMs与Transformer四类深度学习架构在航天器异常检测中的效能，结合多任务数据集验证了各模型的适用场景与计算特性，为航天异常检测的架构选型提供了依据。
2024-05-17 cs.LG
A Maritime Industry Experience for Vessel Operational Anomaly Detection: Utilizing Deep Learning Augmented with Lightweight Interpretable Models
Mälardalen University（梅拉达伦大学）；Gdansk University of Technology（格但斯克工业大学）
本研究提出一种结合LSTM自编码器与轻量级代理模型的船舶运营异常检测方法，在TUCANA传感船舶上验证了其高检测性能与可解释性，有效提升了工程师的决策效率。
2025-01-25 cs.LG
Anomaly Detection of Particle Orbit in Accelerator using LSTM Deep Learning Technology
University of Maryland Baltimore County（马里兰大学巴尔的摩县分校）；Jefferson Lab（杰斐逊实验室）；Raytum Photonics（Raytum Photonics公司）
针对加速器轨道锁定系统故障需人工干预的问题，提出基于LSTM自编码器的无监督轨道异常检测方法，经CEBAF数据验证，单组件数据下异常识别率达68.6%-89.3%，最高准确率82%。
2024-01-28 cs.LG physics.acc-ph
Sequence Aggregation Rules for Anomaly Detection in Computer Network Traffic
KeyW Corporation（KeyW公司）
我们评估的方法，将无监督的异常检测应用到网络安全应用程序上的计算机网络流量数据，或流。我们从自然语言处理文献中借用，并将流概念化为机器之间的一种“语言”。评估了五个序列聚合规则在标记流数据集CICIDS2017中标记多种攻击类型的有效性。对于序列建模，我们依赖于长短期记忆（LSTM）递归神经网络（RNN）。此外，还描述了一个简单的基于频率的模型，并将其在攻击检测方面的性能与LSTM模型进行了比较。我们的结论是，对于手头的任务，基于频率的模型往往表现得与LSTM模型一样好或更好，但有一些明显的例外。
2018-05-14 cs.CR cs.CY cs.LG
Paranom: A Parallel Anomaly Dataset Generator
Intel Labs（英特尔实验室）
在本文中，我们提出了Paranom，并行异常数据集生成器。我们讨论了它的设计，并提供了简短的实验结果证明其有用性，在提高分类正确性的LSTM-AD，一个国家的最先进的异常检测模型。
2018-01-09 cs.AI cs.LG stat.ML
Data-Driven Heat Pump Management: Combining Machine Learning with Anomaly Detection for Residential Hot Water Systems
Department of Mathematics and Computer Science, Karlstad University（数学与计算机科学系，卡尔斯塔德大学）；Department of Research and Development, Thermia AB（研发部，Thermia AB）
本文提出结合机器学习与孤立森林异常检测的热水需求预测方法，在真实家庭数据上验证，LightGBM模型RMSE改进达9.37%，iForest误报率仅5.2%，实现自适应热泵控制。
2025-06-03 cs.LG
Unsupervised anomaly detection for discrete sequence healthcare data
Skolkovo Institute of Science and Technology（斯科尔科沃科学技术研究院）
医疗保健中的欺诈行为很普遍，因为医生可以开不必要的治疗来增加账单。保险公司希望检测到这些异常的欺诈性账单，并减少他们的损失。传统的欺诈检测方法使用专家规则和人工数据处理。最近，机器学习技术使这一过程自动化，但手工标记的数据成本极高，而且通常已经过时。我们提出了一个机器学习模型，以无监督的方式自动化欺诈检测。两种深度学习方法包括用于预测下一次患者就诊的LSTM神经网络和seq2seq模型。为了对产生的异常分数进行标准化，我们提出了经验分布函数（EDF）方法。因此，该算法适用于高类别不平衡问题。我们使用安联公司的患者就诊数据序列的真实数据进行验证。这些模型为医疗保健中的欺诈检测提供了无监督异常检测的最新结果。我们的EDF方法进一步提高了LSTM模型的质量。
2020-10-12 cs.LG stat.ML
Exploiting temporal parallelism for LSTM Autoencoder acceleration on FPGA
本文提出一种基于FPGA的数据流架构，通过时间并行性实现多层LSTM-AE的并发处理，实验显示在CPU和GPU上具有显著的加速效果和能效提升。
2026-03-14 cs.AR cs.LG
An Attention Free Conditional Autoencoder For Anomaly Detection in Cryptocurrencies
CREST-IP Paris（CREST-巴黎理工学院）；Université Paris Dauphine - PSL（巴黎多芬大学-PSL大学）
本文针对含噪加密货币时间序列异常检测，提出在条件自编码器中加入 Attention-Free LSTM 层的 AF-CA，相较 LSTM Autoencoder 提升了解释能力与异常检测效果。
2023-04-20 cs.AI cs.LG
Optimal Reservoir Operations using Long Short-Term Memory Network
G.B Pant Institute of Technology（G.B.潘特技术学院）；Netaji Subhas Institute of Technology（内塔吉·苏巴斯技术学院）；University of Delhi（德里大学）
水库入库流量的可靠预测是水库优化调度的关键因素。根据预测的流入量实时运行水库可带来可观的经济收益。然而，预测流入量是一项复杂的任务，因为它必须考虑气候和水文变化的影响。因此，目前的工作的主要目标是开发一种新的方法，基于长短期记忆（LSTM）的流入预测。实时入库预报，即水库日入库预报，有助于水资源的有效调度。此外，可以有效地监测释放的每日变化，并且提高了操作的可靠性。本文提出了一种基于LSTM的朴素异常检测算法基线。换句话说，对于任何基于深度学习的预测模型来说，这是一个强大的基线来预测洪水和干旱。该方法的实用性已被证明使用观察到的日常数据在过去的20年中从印度巴克拉大坝。本文进行的模拟结果清楚地表明，LSTM方法优于传统的预测方法。虽然实验是在印度Bhakra大坝水库的数据上进行的，但LSTM模型和异常检测算法是通用的，可以应用于任何变化最小的流域。本文提出的LSTM方法的一个明显的实际优势是它可以充分模拟历史数据中的非平稳性和非线性。
2021-09-07 cs.LG
LSTM-based Encoder-Decoder for Multi-sensor Anomaly Detection
TCS Research（塔塔咨询服务研究院）
机械装置，如发动机、车辆、飞机等，通常装备有许多传感器以捕获机器的行为和健康状况。然而，通常存在传感器未捕获的外部因素或变量，从而导致本质上不可预测的时间序列。例如，手动控制和/或未监测的环境条件或负载可能导致固有的不可预测的时间序列。使用基于依赖于平稳性的数学模型或利用预测误差来检测异常的预测模型的标准方法来检测此类场景中的异常变得具有挑战性。我们提出了一种基于长短期记忆网络的异常检测编码解码器方案（EncDec-AD），该方案学习重建“正常”的时间序列行为，然后使用重建误差来检测异常。我们用三个公开的准可预测的时间序列数据集进行了实验：电力需求，航天飞机和ECG，以及两个具有预测和不可预测行为的真实发动机数据集。我们表明，EncDec-AD是强大的，可以从可预测的，不可预测的，周期性的，非周期性的和准周期性的时间序列检测异常。此外，我们还表明EncDec-AD能够检测短时间序列（长度小至30）和长时间序列（长度大至500）的异常。
2016-07-11 cs.AI cs.LG stat.ML
Exploring a Hybrid Deep Learning Approach for Anomaly Detection in Mental Healthcare Provider Billing: Addressing Label Scarcity through Semi-Supervised Anomaly Detection
Informatics Institute, University of Amsterdam（阿姆斯特丹大学信息学院）；Department of Computer Science and Technology, SUNY Empire State University（SUNY埃默里州立大学计算机科学与技术系）
本文针对心理健康医疗账单异常检测中标签稀缺和类别不平衡问题，提出结合LSTM与Transformer的混合深度学习方法，并利用孤立森林和自编码器生成伪标签，在真实账单数据集上验证了该方法在召回率方面的有效性。
2025-07-02 cs.AI cs.LG
Plug-and-Play Anomaly Detection with Expectation Maximization Filtering
KAIST（韩国科学技术院）
人群中的异常检测能够实现早期救援响应。用于人群监控的即插即用智能摄像机具有与典型异常检测不同的许多约束：训练数据不能迭代使用;没有训练标签;并且训练和分类需要同时执行。我们在本文中解决所有这些限制与我们的方法。我们提出了一个核心异常检测（CAD）神经网络，学习场景中的对象的运动行为与无监督的方法。在标准数据集上平均，与卷积自动编码器和基于卷积LSTM的方法的最佳结果相比，具有单个训练时期的CAD显示曲线下面积（AUC）分别增加了4.66%和4.9%。通过单次训练，与基于卷积LSTM的方法相比，我们的方法将AUC提高了8.03%。我们还提出了一个期望最大化过滤器，选择样本训练的核心异常检测网络。当对视频流进行人群异常检测时，与基于未来帧预测的方法相比，整体框架将AUC提高了24.87%。我们相信我们的工作是使用深度学习方法与自主即插即用智能摄像头进行人群异常检测的第一步。
2020-06-16 cs.CV cs.LG
Kolmogorov-Arnold Networks-based GRU and LSTM for Loan Default Early Prediction
本文提出GRU-KAN和LSTM-KAN两种融合Kolmogorov-Arnold网络的架构，用于提升贷款违约的长期提前预测能力，实验显示其提前三个月准确率超92%、提前八个月超88%，显著优于LSTM、GRU等基线模型。
2025-07-18 cs.LG
Video Anomaly Detection via Prediction Network with Enhanced Spatio-Temporal Memory Exchange
University of Warwick（华威大学）
视频异常检测是一项具有挑战性的任务，因为大多数异常是稀缺的和不确定的。许多方法研究了正常和异常模式之间的重建差异，但忽略了异常不一定对应于大的重建误差。为了解决这个问题，我们设计了一个卷积LSTM自动编码器预测框架，该框架使用双向性和高阶机制来增强时空存储器交换。双向结构通过前向和后向预测促进学习时间规律性。独特的高阶机制进一步加强了编码器和解码器之间的空间信息交互。考虑到卷积LSTM中有限的感受野，我们还引入了一个注意力模块来突出预测的信息特征。异常最终通过将帧与其相应的预测进行比较来识别。三个流行的基准测试表明，我们的框架优于大多数现有的基于预测的异常检测方法。
2022-06-26 cs.CV cs.LG eess.IV
Unsupervised Anomaly Detection on Temporal Multiway Data
Applied AI Institute, Deakin University（迪肯大学应用人工智能研究所）
时间异常检测寻找时空上的不规则性。到目前为止，所采用的无监督时态模型通常工作在特征向量序列上，而很少工作在时态多路数据上。我们的研究集中在双向数据上，其中在每个时间步观察到一个数据矩阵。利用矩阵原生递归神经网络的最新进展，我们研究了用于时间多路异常检测的数据排列和无监督训练策略。这些包括压缩-解压缩、编码-预测和时间数据差分。我们进行了一系列全面的实验，以评估合成数据、移动数字和ECG记录在各种设置下的模型行为。我们发现了以前没有报道过的有趣现象。其中包括紧凑矩阵LSTM几乎完美地压缩噪声数据的能力，使得压缩-解压缩数据的策略不适合噪声下的异常检测。此外，长序列的向量可以直接通过矩阵模型来处理，该模型允许非常长的上下文和多步预测。总体而言，编码预测策略在所进行的实验中对于矩阵LSTM非常有效，这要归功于其紧凑性和更好地适应数据动态。
2020-09-20 cs.AI cs.LG
Applications of Recurrent Neural Network for Biometric Authentication & Anomaly Detection
University of Wisconsin Eau-Claire（威斯康星大学欧克莱尔分校）
递归神经网络是强大的机器学习框架，允许以时间序列保存和引用数据。这在诸如手写分析和语音识别等领域中开辟了许多新的可能性。本文旨在探讨目前在四个非常重要的领域对RNN进行的研究，即生物特征认证，表情识别，异常检测和飞机应用。本文回顾了以下每种拟议方法的方法、目的、结果以及优缺点。这些不同的方法都专注于如何利用不同的RNN架构，例如流行的长短期记忆（LSTM）RNN或深度残差RNN。本文还研究了哪些框架在某些情况下工作得最好，以及每个模型的优点和缺点。
2021-09-13 cs.LG
Ti-iLSTM: A TinyDL Approach for Logic-Level Anomaly Detection in Industrial Water Treatment Systems
University of Waikato（怀卡托大学）；Auckland University of Technology（奥克兰理工大学）；Aalto University（阿尔托大学）；Luleå University of Technology（卢勒奥理工大学）
本文提出Ti-iLSTM框架，利用TinyDL实现轻量级设备端逻辑层异常检测，通过优化LSTM内存和空间占用，在SWaT和WADI数据集上均表现出高检测性能。
2026-05-15 cs.LG
Enhanced Anomaly Detection in IoMT Networks using Ensemble AI Models on the CICIoMT2024 Dataset
D Y Patil International University（DY Patil国际大学）
针对IoMT网络的独特安全挑战，本研究基于CICIoMT2024数据集开发实时异常检测框架，整合多维度数据并采用集成、序列及无监督模型，实验表明集成模型能降低误报率和漏检率。
2025-02-17 cs.CR cs.LG
A Combination of Temporal Sequence Learning and Data Description for Anomaly-based NIDS
Ho Chi Minh City University of Technology, VNUHCM（越南胡志明市理工大学（越南国家大学胡志明市分校））；Ho Chi Minh City University of Technology and Education（胡志明市工业大学）
基于异常的网络入侵检测系统（A-NIDS）通过对网络中正常行为的连续观察和建模，提供了一种通过偏离正常模型来发现可能威胁的方法。基于时间序列模型的网络流量分析具有利用网络流量中的包之间的关系并观察一段时间内的行为趋势的优点。它将生成具有良好功能的新序列，支持网络流量中的异常检测，并提供检测新攻击的能力。此外，针对正常数据建立描述的异常检测技术将是不平衡数据异常检测的有效方法。本文提出了一种基于长短期记忆（LSTM）结构的时间序列数据处理模型和一种基于支持向量数据描述（SVDD）的异常检测模型，以综合两者的优点。该模型有助于LSTM和SVDD中的参数通过联合优化方法进行联合训练。在KDD 99数据集上的实验结果表明，该模型对DoS和Probe攻击的检测率分别达到98.0%和99.8%。
2019-06-07 cs.LG cs.NI
SHIELD: Securing Healthcare IoT with Efficient Machine Learning Techniques for Anomaly Detection
本文提出SHIELD框架，基于20万条记录评估八种机器学习模型在医疗物联网中的异常与攻击检测性能，其中XGBoost和KNN分别以高准确率和低计算成本表现最优。
2025-11-05 cs.LG
Anomaly Detection for Unmanned Aerial Vehicle Sensor Data Using a Stacked Recurrent Autoencoder Method with Dynamic Thresholding
The University of Nottingham（诺丁汉大学）
随着航空技术的不断发展，无人机（UAV）越来越多地融入国际商业和军事行动。研究飞机数据的应用对于提高安全性、降低运营成本和开发航空技术的下一个前沿至关重要。由于这些原因，拥有一个可以准确识别飞机异常行为的离群值检测系统至关重要。本文提出了一种系统，该系统将基于长短期记忆（LSTM）深度学习自动编码器的方法与新型动态阈值算法和加权损失函数相结合，用于无人机数据集的异常检测，以促进航空业内利用机器学习和数据分析创新的持续努力。动态阈值和加权损失函数显示出有前途的改进标准的静态阈值的方法，无论是在准确性相关的性能指标和速度的真正的故障检测。
2022-03-09 cs.LG
LogGPT: Log Anomaly Detection via GPT
Utah State University（犹他州立大学）；Nokia Bell Labs（诺基亚贝尔实验室）
针对语言建模目标与日志异常检测不直接匹配的问题，本文提出 LogGPT 框架，利用 GPT 预测下一条日志，并通过强化学习微调以提升异常检测性能。
2023-12-11 cs.LG
An Anomaly Detection Method for Satellites Using Monte Carlo Dropout
University of Waterloo（滑铁卢大学）；National Research Council Canada（加拿大国家研究委员会）
近年来，人们对利用神经网络进行卫星遥测异常检测产生了极大的兴趣。对于AD的目的，目前的方法集中在预测或重建的时间序列，他们不能衡量的可靠性水平或正确检测的概率。虽然贝叶斯神经网络（BNN）为基础的方法是众所周知的时间序列的不确定性估计，他们是计算上棘手的。在本文中，我们提出了一个易于处理的近似BNN的基础上的蒙特卡罗（MC）的辍学方法捕捉卫星遥测时间序列中的不确定性，而不牺牲精度。对于时间序列预测，我们采用了一个NN，它由几个长短期记忆（LSTM）层组成，后面是各种密集层。我们在每个LSTM层内部和密集层之前使用MC dropout进行不确定性估计。利用所提出的不确定性区域和后处理滤波器，我们可以有效地捕获异常点。数值结果表明，我们提出的时间序列AD方法优于现有的方法，从预测精度和AD的角度。
2022-11-27 cs.AI cs.LG eess.SP
Collective Anomaly Detection based on Long Short Term Memory Recurrent Neural Network
University College Dublin（都柏林大学学院）
计算机网络系统的入侵检测成为当今网络管理员的重要任务之一。由于其在计算机网络上的宝贵资源，它对组织、政府和我们的社会具有重要作用。传统的误用检测策略无法检测到新的和未知的入侵。此外，网络安全中的异常检测是为了区分非法或恶意事件与网络系统的正常行为。异常检测可以被认为是一个分类问题，它建立正常网络行为的模型，用于检测明显偏离模型的新模式。目前异常检测的研究大多是基于正常行为和异常行为的学习。它们不考虑以前的、最近的事件来检测新的到来的事件。本文提出了一种基于神经网络学习和特征操作的实时的集体异常检测模型。通常，长短期记忆循环神经网络（LSTM RNN）只在正常数据上训练，并且能够预测输入之前的几个时间步。在我们的方法中，LSTM RNN在为每个时间步执行实时预测之前使用正常的时间序列数据进行训练。代替单独考虑每个时间步，现在提出从一定数量的时间步观察预测误差作为检测集体异常的新思想。来自阈值以上的多个最新时间步长的预测误差将指示集体异常。该模型建立在KDD 1999数据集的时间序列版本上。实验表明，该方法能够为集体异常检测提供可靠、高效的检测手段。
2017-03-28 cs.CR cs.LG
nabqr: Python package for improving probabilistic forecasts
DTU Compute（DTU计算学院）；QUENT ApS（QUENT公司）
本文介绍了开源 Python 包 NABQR，通过 LSTM 网络校正集合并应用时间自适应分位数回归，在丹麦风电日前预测中将平均绝对精度提高达 40%，从而提供更可靠的概率预测。
2025-01-29 cs.LG stat.AP stat.CO
Minimal-Configuration Anomaly Detection for IIoT Sensors
Center for Digital Safety and Security Austrian Institute of Technology（奥地利科技学院数字安全与保障中心）；Distributed AI Systems Research Group Siemens Technology Austria（西门子奥地利技术公司分布式人工智能系统研究小组）
随着低成本物联网传感器平台在工业中的部署越来越多，对满足两个关键要求的异常检测解决方案的需求也越来越大：最小的配置工作和跨设备的轻松可移植性。深度学习的最新进展，特别是长短期记忆（LSTM）和自动编码器，为检测传感器数据记录中的异常提供了有前途的方法。我们使用简单的基准数据集比较了具有各种架构的自动编码器，例如深度神经网络（DNN），LSTM和卷积神经网络（CNN），该基准数据集是通过在各种操作条件下操作蠕动泵并手动诱导异常而生成的。我们的初步研究结果表明，一个单一的模型可以检测到异常的各种操作条件下的四维数据集，没有任何特定的功能工程的每个操作条件。我们认为这项工作是迈向通用异常检测方法的第一步，该方法适用于广泛的工业设备。
2021-10-08 cs.AI cs.LG eess.SP
Recurrent Neural Networks for anomaly detection in the Post-Mortem time series of LHC superconducting magnets
AGH University of Science and Technology（AGH科技大学）；The European Organization for Nuclear Research - CERN（欧洲核子研究组织 - CERN）
本文提出了一种基于LSTM和GRU深度学习算法的模型，用于促进大型强子对撞机超导磁体的异常检测。我们使用Post Mortem数据库中的高分辨率数据来训练一组模型，并选择最佳的超参数集。使用深度学习方法可以检查大量数据，并提取需要进一步专家检查并被视为异常的片段。所提出的方法不需要繁琐的手动阈值设置和操作员的注意力在系统设置的阶段。取而代之的是，自动的方法，它实现了根据我们的实验准确率为99%。这是针对302 MB的最大数据集和以下网络架构实现的：单层LSTM，128个单元，20个训练时期，look_back=16，look_ahead=128，grid=100和优化器Adam。所有实验均在GPU Nvidia Tesla K80上运行
2017-02-02 cs.LG physics.acc-ph physics.ins-det
Recomposition vs. Prediction: A Novel Anomaly Detection for Discrete Events Based On Autoencoder
Penn State University（宾夕法尼亚州立大学）
离散事件日志的异常检测是入侵检测领域最具挑战性的问题之一。虽然大多数早期的工作集中在工程特征上应用无监督学习，但最近的工作已经开始通过应用深度学习方法来抽象离散事件条目来解决这一挑战。受自然语言处理的启发，提出了基于LSTM的异常检测模型。它们试图预测即将发生的事件，并在预测不符合特定标准时发出异常警报。然而，这样的预测下一个事件的方法有一个基本的限制：事件预测可能无法充分利用序列的独特特征。这种限制导致高假阳性（FP）和高假阴性（FN）。同样重要的是要检查序列的结构和单个事件之间的双向因果关系。为此，我们提出了一种新的方法：重组事件序列作为异常检测。我们提出了DabLog，一种基于深度自动编码器的离散事件异常检测方法。根本区别在于，我们的方法不是预测即将发生的事件，而是通过分析（编码）和重建（解码）给定序列来确定序列是正常还是异常。我们的评估结果表明，我们的新方法可以显着减少FP和FN的数量，从而实现更高的$F_1$分数。
2020-12-27 cs.LG
OneFlow: One-class flow for anomaly detection based on a minimal volume region
Jagiellonian University（雅盖隆大学）
我们提出了OneFlow -一个基于流的一类分类器，用于异常（离群值）检测，找到一个最小的体积边界区域。与基于密度的方法相反，OneFlow的构造方式使得其结果通常不依赖于离群值的结构。这是由以下事实引起的：在训练期间，成本函数的梯度仅在位于决策边界附近的点上传播（行为类似于SVM中的支持向量）。流模型和伯恩斯坦分位数估计器的组合允许OneFlow找到边界区域的参数形式，这在各种应用中非常有用，包括从3D点云描述形状。实验表明，该模型在实际异常检测问题上优于相关方法。
2021-09-22 cs.LG stat.ML
A Bayesian Long Short-Term Memory Model for Value at Risk and Expected Shortfall Joint Forecasting
The University of Sydney（悉尼大学）
在险价值（Value-at-Risk，简称VaR）和预期缺口（ExpectedShortfall，简称ES）被广泛应用于金融领域来度量市场风险和管理极端的市场波动。最近分位数得分函数和非对称拉普拉斯密度之间的联系，导致了一个灵活的似然为基础的框架，联合建模的风险值和ES。在金融应用中，能够捕获这两个量的潜在联合动态是非常重要的。我们通过开发一个基于非对称拉普拉斯准似然的混合模型来解决这个问题，该模型采用了机器学习的长短期记忆（LSTM）时间序列建模技术，以有效地捕捉VaR和ES的潜在动态。在LSTM-AL模型中，采用自适应马尔可夫链蒙特卡罗（MCMC）算法进行贝叶斯推断。实证结果表明，所提出的LSTM-AL模型可以提高风险价值和ES预测精度的一系列成熟的竞争模型。
2021-05-13 cs.LG q-fin.RM stat.ML
One-Class Support Measure Machines for Group Anomaly Detection
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）
我们提出了一类支持度量机（OCSMM）的群体异常检测，其目的是识别异常的数据点的聚集行为。OCSMM将著名的单类支持向量机（OCSVM）推广到概率测度空间。通过将问题公式化为分布上的分位数估计，我们可以在定义分布的输入空间上与OCSVM和可变核密度估计（VKDE）建立有趣的联系，弥合大间隔方法和核密度估计之间的差距。特别是，我们表明，各种类型的VKDE可以被认为是本文研究的一类正则化问题的解决方案。在Sloan数字巡天数据集和高能粒子物理数据集上的实验证明了该框架在实际应用中的优势。
2013-06-01 cs.LG stat.ML
