MASA-TCN: Multi-anchor Space-aware Temporal Convolutional Neural Networks for Continuous and Discrete EEG Emotion Recognition
School of Computer Science and Engineering, Nanyang Technological University(南洋理工大学计算机科学与工程学院);School of Biological Science and Medical Engineering, Southeast University(东南大学生物科学与医学工程学院)
针对EEG情绪识别中TCN空间建模不足的问题,提出统一模型MASA-TCN,通过空间感知时间层和注意力融合多锚点模块同时提升连续回归与离散分类性能。
2024-03-13 cs.LG
Graph-Augmented LSTM for Forecasting Sparse Anomalies in Graph-Structured Time Series
University of Massachusetts Dartmouth(马萨诸塞大学达特茅斯分校)
针对多变量时间序列中稀疏异常检测的跨节点依赖捕捉难题,提出将关系图显式整合到 LSTM 的图增强预测模型,在两个基准数据集上 F1 分数较最佳基线提升达 10%。
2025-03-05 cs.LG
Time Series Anomaly Detection in Smart Homes: A Deep Learning Approach
University of Siegen(锡根大学);Amirkabir University of Technology(阿米尔卡比尔理工大学)
修复由不同异常引起的能源泄漏可以显著节省能源并延长设备寿命。此外,它还可以帮助电网运营商调度其资源,以满足最终用户的实际需求,同时帮助最终用户降低能源成本。在本文中,我们分析了REFIT数据集的两个房屋中使用的洗碗机的功耗模式。然后训练两个以1D-CNN和TCN为主干的自动编码器(AE)来区分正常模式和异常模式。我们的研究结果表明,TCN优于CNN 1D在检测异常的能源消耗。最后,我们也使用来自Refit中的Fridge_Freezer和3号房屋的Freezer的数据来评估我们的方法。
2023-02-28 cs.LG
Contextual and Seasonal LSTMs for Time Series Anomaly Detection
Zhejiang University(浙江大学);Huawei Technologies(华为技术有限公司);Zhejiang Key Laboratory of Decision Intelligence(浙江省决策智能重点实验室)
本文提出CS-LSTMs框架,通过结合上下文依赖和季节性模式,提升时间序列中细微异常的检测能力,并在基准数据集上验证了其有效性。
2026-02-10 cs.LG
The Performance of Sequential Deep Learning Models in Detecting Phishing Websites Using Contextual Features of URLs
Texas Tech University(德克萨斯理工大学);San Jose State University(圣何塞州立大学)
针对钓鱼攻击日益增多的问题,本研究将URL视为序列,对比多头注意力、TCN、BI-LSTM、LSTM等深度学习模型的钓鱼网站检测性能,发现多头注意力与BI-LSTM在精确率、召回率、F1分数上表现更优。
2024-04-15 cs.CR cs.LG
Forecasting Russian Equipment Losses Using Time Series and Deep Learning Models
Jonathan Teagan(独立研究者)
本研究利用时间序列和深度学习模型(如TCN和LSTM)基于OSINT数据预测俄罗斯装备损失,强调集成预测在冲突建模中的重要性。
2025-09-09 cs.AI cs.LG
A Temporal Convolutional Network-based Approach for Network Intrusion Detection
COEP Technological University(COEP理工大学);School of Computational Sciences(计算科学学院)
本文提出一种基于残差块与膨胀卷积的时间卷积网络用于网络入侵检测,在Edge-IIoTset数据集上取得96.72%准确率,并优于多种CNN与RNN混合模型。
2024-12-23 cs.CR cs.LG
Deep Learning for Short-term Instant Energy Consumption Forecasting in the Manufacturing Sector
Research Group on Intelligent Engineering and Computing for Advanced Innovation and Development (GECAD)(智能工程与高级创新发展计算研究组(GECAD));Porto School of Engineering (ISEP)(波尔图工程学院(ISEP))
电力是一种不稳定的能源,需要长期和短期的规划和资源管理。更具体地说,在短期内,准确的即时能源消耗预测大大有助于提高建筑物的效率,为采用可再生能源开辟了新的途径。在这方面,数据驱动的方法,即基于机器学习的方法,开始比更传统的方法更受欢迎,因为它们不仅提供了更简化的部署方式,而且还提供了最先进的结果。从这个意义上说,这项工作应用并比较了几种深度学习算法的性能,LSTM,CNN,混合CNN-LSTM和TCN,在制造业的真实测试平台中。实验结果表明,TCN是最可靠的方法来预测在短期内的即时能源消耗。
2022-07-04 cs.AI cs.LG eess.SP
Performance of Deep Learning models with transfer learning for multiple-step-ahead forecasts in monthly time series
Tecnológico de Costa Rica(哥斯达黎加技术学院)
本文比较了有无迁移学习的深度学习模型与传统方法在月度时间序列多步预测中的性能,基于M4和M3数据,发现TCN、LSTM和CNN结合迁移学习通常优于传统方法,而直接训练的TCN和LSTM在部分预测水平上表现相当或更好。
2023-10-11 cs.AI cs.LG
Detecting Spacecraft Anomalies Using LSTMs and Nonparametric Dynamic Thresholding
NASA Jet Propulsion Laboratory(美国国家航空航天局喷气推进实验室);California Institute of Technology(加州理工学院)
随着航天器发回越来越多的遥测数据,需要改进异常检测系统,以减轻操作工程师的监测负担并降低操作风险。目前的航天器监测系统仅针对异常类型的子集,并且由于涉及规模和复杂性的挑战,通常需要昂贵的专业知识来开发和维护。我们证明了长短期记忆(LSTMs)网络,一种递归神经网络(RNN),在克服这些问题,使用专家标记的遥测异常数据从土壤水分主动被动(SMAP)卫星和火星科学实验室(MSL)漫游车,Currency。我们还提出了一个补充的无监督和非参数异常阈值的方法,在试点实施的异常检测系统SMAP,并提供误报缓解策略以及其他关键的改进和发展过程中吸取的经验教训。
2018-06-06 cs.LG stat.ML
Quantile LSTM: A Robust LSTM for Anomaly Detection In Time Series Data
Birla Institute of Technology and Science(比拉理工科学学院);MLSquare
提出Quantile LSTM,通过估计条件分位数定义异常,并引入参数化Elliot函数作为LSTM激活函数建模长程依赖,在多个工业时间序列数据集上优于现有异常检测算法。
2023-02-17 cs.LG
A Comprehensive Overview and Comparative Analysis on Deep Learning Models: CNN, RNN, LSTM, GRU
Faculty of Computer Science and Information Technology, University Putra Malaysia (UPM)(马来西亚博特拉大学计算机科学与信息技术学院)
本文综述多类深度学习模型的结构、应用、优势与局限,并基于IMDB、ARAS和Fruit-360数据集比较RNN系列、TCN、Transformer及多种CNN模型的性能。
2025-03-17 cs.AI cs.LG
In-Context and Few-Shots Learning for Forecasting Time Series Data based on Large Language Models
Department of Computer Science(计算机科学系);Texas Tech University(德克萨斯理工大学);Advanced Academic Programs Science(高级学术计划科学);Johns Hopkins University(约翰霍普金斯大学);Cumberland University(坎布里奇大学)
本文研究了基于大语言模型的时序数据预测,探讨了上下文学习、零样本和少样本学习方法,发现TimesFM在预测性能上表现最佳。
2025-12-08 cs.AI cs.LG
A Multimodal Anomaly Detector for Robot-Assisted Feeding Using an LSTM-based Variational Autoencoder
Georgia Institute of Technology(佐治亚理工学院)
异常执行的检测对于减少辅助操作中的潜在危害具有重要意义。多模态感觉信号可以有助于检测广泛的异常。然而,高维和异构模态的融合是一个具有挑战性的问题。我们介绍了一种基于长短期记忆的变分自编码器(LSTM-VAE),它融合信号并重建它们的预期分布。我们还引入了一个基于LSTM-VAE的检测器,使用基于重建的异常分数和基于状态的阈值。对于包括12种代表性异常类型的1,555次机器人辅助喂食执行的评估,我们的检测器的受试者工作特征曲线(AUC)下的面积为0.8710,高于文献中的其他5种基线检测器。我们还表明,通过LSTM-VAE的多模态融合是有效的,通过比较我们的检测器与17个原始感觉信号与4个手工设计的功能。
2017-11-02 cs.LG cs.RO
Improved AutoEncoder with LSTM module and KL divergence
College of Computer Science, Zhejiang University of Technology(浙江工业大学计算机学院);Zhejiang HOUDAR Intelligent Technology Co., Ltd.(浙江厚达智能科技有限公司)
针对CAE网络异常数据过度重构导致高漏报率和深度SVDD模型特征坍塌导致准确率下降的问题,提出IAE-LSTM-KL模型,通过在编码器后添加LSTM记忆正常特征并利用KL散度惩罚SVDD输入以缓解特征坍塌,实验证明其提升了异常检测准确率与鲁棒性。
2024-11-17 cs.CV cs.LG
WiFi-TCN: Temporal Convolution for Human Interaction Recognition based on WiFi signal
National Central University(台湾中央大学)
本文提出TCN-AA方法,利用时间卷积网络结合数据增强与注意力机制,在WiFi信号人体交互识别中以更低计算成本达到99.42%的准确率,优于现有方法。
2024-01-11 cs.CV cs.LG eess.SP
Consumer Behaviour in Retail: Next Logical Purchase using Deep Neural Network
预测未来消费者行为是大型零售企业面临的最具挑战性的问题之一。对消费者购买模式的准确预测可以更好地进行库存规划和有效的个性化营销策略。最佳的库存规划有助于最大限度地减少缺货/库存过剩的情况,智能个性化的营销策略确保顺利和愉快的购物体验。消费者购买预测问题通常由ML研究人员以传统方式解决,无论是通过推荐系统还是传统的ML方法。这种建模方法在预测消费者购买模式方面并不能很好地推广。在本文中,我们提出了我们的消费者购买行为的研究,其中,我们建立了一个数据驱动的框架来预测消费者是否会购买一个项目在一定的时间范围内使用电子商务零售数据。为了对这种关系进行建模,我们为所有相关的消费者-商品组合创建了一个连续的时间序列数据。然后,我们通过在消费者、物品和时间的交叉点生成特征来构建广义非线性模型。我们通过实验不同的神经网络架构,ML模型及其组合来展示强大的性能。我们提出了60个不同超参数的建模实验的结果,以及Stacked Generalization合奏和F1-Maximization框架。然后,我们展示了多层感知器、长短期记忆(LSTM)、时间卷积网络(TCN)和TCN-LSTM等神经网络架构相对于Xgboost和RandomForest等ML模型带来的好处。
2020-10-14 cs.IR cs.LG
TeCNO: Surgical Phase Recognition with Multi-Stage Temporal Convolutional Networks
Technische Universität München(慕尼黑工业大学);Johns Hopkins University(约翰斯·霍普金斯大学)
自动手术阶段识别是一项具有挑战性和关键性的任务,有可能提高患者的安全性,并成为术中决策支持系统的一个组成部分。在本文中,我们提出了,第一次在工作流分析,多阶段时间卷积网络(MS-TCN),执行分层预测细化手术阶段识别。因果性的扩张卷积允许大的感受野和在线推理,即使在模糊的过渡期间也能进行平滑的预测。我们的方法是彻底评估两个数据集的腹腔镜胆囊切除术的视频和不使用额外的手术工具的信息。优于各种最先进的LSTM方法,我们验证了所提出的因果MS-TCN对于手术阶段识别的适用性。
2020-03-24 cs.CV cs.LG eess.IV
LSTM-based Encoder-Decoder for Multi-sensor Anomaly Detection
TCS Research(塔塔咨询服务研究院)
机械装置,如发动机、车辆、飞机等,通常装备有许多传感器以捕获机器的行为和健康状况。然而,通常存在传感器未捕获的外部因素或变量,从而导致本质上不可预测的时间序列。例如,手动控制和/或未监测的环境条件或负载可能导致固有的不可预测的时间序列。使用基于依赖于平稳性的数学模型或利用预测误差来检测异常的预测模型的标准方法来检测此类场景中的异常变得具有挑战性。我们提出了一种基于长短期记忆网络的异常检测编码解码器方案(EncDec-AD),该方案学习重建“正常”的时间序列行为,然后使用重建误差来检测异常。我们用三个公开的准可预测的时间序列数据集进行了实验:电力需求,航天飞机和ECG,以及两个具有预测和不可预测行为的真实发动机数据集。我们表明,EncDec-AD是强大的,可以从可预测的,不可预测的,周期性的,非周期性的和准周期性的时间序列检测异常。此外,我们还表明EncDec-AD能够检测短时间序列(长度小至30)和长时间序列(长度大至500)的异常。
2016-07-11 cs.AI cs.LG stat.ML
A Hybrid Deep Learning based Carbon Price Forecasting Framework with Structural Breakpoints Detection and Signal Denoising
School of Computing and Information Technology, University of Wollongong, Wollongong, Australia(计算机与信息科技学院,沃林根大学,澳大利亚沃林根);School of Computer Science, Wuhan University, Wuhan, China(计算机科学学院,武汉大学,中国武汉)
本文提出一种结合结构突变检测与信号去噪的深度学习框架,通过整合LSTM、GRU和TCN模型,提升碳价预测的准确性和可解释性。
2025-11-20 cs.LG
Denoising Architecture for Unsupervised Anomaly Detection in Time-Series
Telekom Innovation Laboratories(电信创新实验室);Eötvös Loránd University(厄特沃什·罗兰大学)
时间序列中的异常提供了从银行和航空航天到信息技术、安全和医学等一系列行业的关键场景的见解。然而,识别时间序列数据中的异常是特别具有挑战性的,因为异常的定义不精确,标签的频繁缺失,以及这些数据中存在的极其复杂的时间相关性。LSTM自动编码器是一种基于长短期记忆网络的异常检测编码器-解码器方案,它学习重构时间序列行为,然后使用重构错误来识别异常。我们引入去噪架构作为对LSTM编码器-解码器模型的补充,并研究其对现实世界以及人工生成的数据集的影响。我们证明了所提出的架构提高了准确性和训练速度,从而使LSTM Autoencoder在无监督异常检测任务中更有效。
2022-08-30 cs.AI cs.LG
Temporal convolutional and fusional transformer model with Bi-LSTM encoder-decoder for multi-time-window remaining useful life prediction
本文提出一种结合时序卷积网络和改进的时序融合变换器的模型,通过多时间窗口方法提升工业系统剩余寿命预测的准确性。
2025-11-06 cs.AI cs.LG
Exploring the impact of Optimised Hyperparameters on Bi-LSTM-based Contextual Anomaly Detector
Norwegian University of Science and Technology(挪威科技大学)
本文提出UoCAD-OH框架,通过离线优化Bi-LSTM的超参数并在在线阶段检测异常,在两个智能家居空气质量数据集上验证了优化超参数对无监督上下文异常检测性能的提升。
2025-01-25 cs.AI cs.LG
Anomaly Detection of Particle Orbit in Accelerator using LSTM Deep Learning Technology
University of Maryland Baltimore County(马里兰大学巴尔的摩县分校);Jefferson Lab(杰斐逊实验室);Raytum Photonics(Raytum Photonics公司)
针对加速器轨道锁定系统故障需人工干预的问题,提出基于LSTM自编码器的无监督轨道异常检测方法,经CEBAF数据验证,单组件数据下异常识别率达68.6%-89.3%,最高准确率82%。
2024-01-28 cs.LG physics.acc-ph
Automatic Bug Detection in Games using LSTM Networks
Ontario Tech University(安大略理工大学)
本研究提出一种基于LSTM网络的游戏感知缺陷检测框架,通过异常检测识别游戏缺陷并聚类分类,经两款FPS游戏验证有效。
2023-12-13 cs.AI cs.LG cs.SE
A Survey on Anomaly Detection for Technical Systems using LSTM Networks
University of Stuttgart(斯图加特大学)
异常表示与预期系统操作的偏差,并可能导致效率降低以及部分或全部系统故障。由于复杂的系统动力学,异常的原因往往是未知的,有效的异常检测是必要的。传统的检测方法依赖于统计和时不变的方法,无法解决异常的复杂性和动态性。随着人工智能的进步以及在各个领域中异常检测和预防的重要性的增加,人工神经网络方法使得能够在考虑时间和上下文特征的同时检测更复杂的异常类型。在这篇文章中,对使用深度神经网络,特别是长短期记忆网络的最新异常检测进行了调查。基于应用场景,数据和异常类型以及进一步的度量标准对所研究的方法进行评估。为了突出即将到来的异常检测技术的潜力,调查中还包括基于图和迁移学习方法,这些方法可以分析异构数据,弥补其不足并改善动态过程的处理。
2021-05-28 cs.AI cs.LG stat.ML
Smart Metering System Capable of Anomaly Detection by Bi-directional LSTM Autoencoder
异常检测涉及广泛的应用,例如故障检测、系统监控和事件检测。从智能计量系统获得的计量数据中识别异常是提高电力系统可靠性、稳定性和效率的关键任务。本文提出了一种异常检测过程中发现异常值观察到的智能计量系统。在所提出的方法中,双向长短期记忆(BiLSTM)的自动编码器的使用和发现的异常数据点。该方法利用非异常数据通过自编码器计算重建误差,通过预先设定的阈值将异常数据与非异常数据分离。利用985户居民的电/水/暖/热水4种能源的计量数据,对基于BiLSTM自动编码器的异常检测方法进行了测试。
2021-12-06 cs.LG cs.SY eess.SY
Risk Management via Anomaly Circumvent: Mnemonic Deep Learning for Midterm Stock Prediction
Columbia University(哥伦比亚大学);Beijing Institute of Technology(北京理工大学);New York University Shanghai(上海纽约大学)
中期股价预测是股票市场价值投资的关键。然而,大多数深度学习模型本质上是短期的,将它们应用于中期预测会遇到很大的累积误差,因为它们无法避免异常。在本文中,我们提出了一种用于中期股票预测的新型深度神经网络Mid-LSTM,它将市场趋势作为隐藏状态。首先,在自回归滑动平均模型(ARMA)的基础上,考虑隐含状态和资本资产定价模型,建立了一个中期ARMA模型。然后,设计了一个基于LSTM的中期深度神经网络,它由三个组件组成:LSTM,隐马尔可夫模型和线性回归网络。提出的Mid-LSTM模型能够避免异常现象,减少较大的预测误差,对影响股价的因素具有较好的解释效果。对标准普尔500指数股票的大量实验表明,(i)所提出的Mid-LSTM在预测准确性方面实现了2-4%的提高,(ii)在投资组合配置投资中,我们实现了高达120.16%的年回报率和2.99的平均夏普比率。
2019-08-03 cs.LG q-fin.ST stat.ML
A Comparison of Deep Learning Architectures for Spacecraft Anomaly Detection
IU International University of Applied Sciences(IU应用科学大学)
本研究对比了CNNs、RNNs、LSTMs与Transformer四类深度学习架构在航天器异常检测中的效能,结合多任务数据集验证了各模型的适用场景与计算特性,为航天异常检测的架构选型提供了依据。
2024-05-17 cs.LG
A Bi-LSTM Autoencoder Framework for Anomaly Detection -- A Case Study of a Wind Power Dataset
West Virginia University(西弗吉尼亚大学)
异常是指偏离正常和同质事件的数据点或事件,可能包括欺诈活动、网络渗透、设备故障、流程更改或其他重大但不常见的事件。及时发现此类事件可以防止财务、信息和人力资源方面的潜在损失。随着计算能力的提高和大数据集的可用性,异常检测已成为一个主要的研究领域。其中,时间序列中的异常检测最近得到了更多的关注,由于时间维所施加的复杂性。本文提出了一种结合双向长短期记忆(Bi-LSTM)架构和自动编码器的时间序列异常检测框架。由两个单向LSTM网络组成的Bi-LSTM网络可以从两个方向分析时间序列数据,从而有效地发现隐藏在序列数据中的长期依赖关系。同时,自动编码器机制有助于建立最佳阈值,超过该阈值的事件可以被分类为异常。为了证明所提出的框架的有效性,它被应用到一个真实世界的多变量时间序列数据集收集的风电场。Bi-LSTM Autoencoder模型实现了96.79%的分类准确率,优于更常用的LSTM Autoencoder模型。
2023-03-17 cs.LG
Video Anomaly Detection via Prediction Network with Enhanced Spatio-Temporal Memory Exchange
University of Warwick(华威大学)
视频异常检测是一项具有挑战性的任务,因为大多数异常是稀缺的和不确定的。许多方法研究了正常和异常模式之间的重建差异,但忽略了异常不一定对应于大的重建误差。为了解决这个问题,我们设计了一个卷积LSTM自动编码器预测框架,该框架使用双向性和高阶机制来增强时空存储器交换。双向结构通过前向和后向预测促进学习时间规律性。独特的高阶机制进一步加强了编码器和解码器之间的空间信息交互。考虑到卷积LSTM中有限的感受野,我们还引入了一个注意力模块来突出预测的信息特征。异常最终通过将帧与其相应的预测进行比较来识别。三个流行的基准测试表明,我们的框架优于大多数现有的基于预测的异常检测方法。
2022-06-26 cs.CV cs.LG eess.IV
Reconstruction-based LSTM-Autoencoder for Anomaly-based DDoS Attack Detection over Multivariate Time-Series Data
Massey University(梅西大学);Central Queensland University(中央昆士兰大学);CSIRO Data61(澳大利亚联邦科学与工业研究组织数据61研究所)
针对传统方法无法检测未见过的 DDoS 攻击问题,提出基于重构的 LSTM-AE 模型,通过学习流量时序相关性并利用重构误差识别异常,在反射型 DDoS 攻击检测中准确率超 99%。
2023-04-21 cs.CR cs.LG
LAC : LSTM AUTOENCODER with Community for Insider Threat Detection
National Institute of Science Education and Research(国家科学教育与研究所);Homi Bhaba National Institute(霍米·巴巴国家研究所)
任何组织、机构或行业的雇员都在计算机网络上花费大量时间,在那里他们在一段时间内以网络事务的形式开发他们自己的活动例程。内部威胁检测涉及识别可能以数据泄漏和秘密共享的形式对组织造成损害的例程或异常中的偏差。如果不是自动化的,这个过程涉及到建模人类行为的特征工程,这是一个繁琐而耗时的任务。人类行为中的异常被转发给人类分析师以进行最终的威胁分类。我们使用LSTM AUTOENCODER开发了一个无监督的深度神经网络模型,该模型可以学习模仿单个员工的行为,这些行为来自他们每天的时间戳活动序列。它通过异常例程的重大损失来预测威胁场景。社区中的员工倾向于将他们的日常工作与其他员工保持一致,而不是与社区外的员工保持一致,这促使我们探索AUTOENCODER的变体,LSTM AUTOENCODER-在社区(LAC)中的活动交错序列上进行培训。我们在CERT v6.2数据集上评估了该模型,并对4000名员工的正常和异常日常损失进行了分析。我们的论文的目的是检测异常的员工,以及探索周围的员工是如何影响员工的日常工作随着时间的推移。
2020-08-13 cs.CR cs.IR cs.LG
IoT Malware Network Traffic Detection using Deep Learning and GraphSAGE Models
Department of Computer Science(计算机科学系);Texas Tech University(塔拉斯科技大学)
本文评估了GraphSAGE、BERT、TCN及多种注意力与LSTM模型在IoT恶意网络流量检测中的表现,实验表明BERT以99.94%准确率和99.99%的F1分数取得最佳性能,GraphSAGE训练最快但准确率最低。
2025-07-14 cs.AI cs.LG
A Deep Learning Model for Forecasting Global Monthly Mean Sea Surface Temperature Anomalies
CSIRO Data61(澳大利亚联邦科学与工业研究组织Data61);The Australian National University(澳大利亚国立大学);Defence Science and Technology Group, Department of Defence(国防部国防科学与技术集团);CSIRO(澳大利亚联邦科学与工业研究组织)
海表温度(SST)变率在全球天气和气候系统中起着关键作用,厄尔尼诺-南方涛动等现象被认为是全球尺度年际气候变率的主要来源。能够对海面温度异常,特别是与极端海洋热浪事件有关的海面温度异常进行长期预报,具有潜在的重大经济和社会效益。我们基于70多年(1950-2021)ECMWF ERA 5月平均平均海面水温和2米气温数据开发了一个深度学习时间序列预测模型(Unet-LSTM)。Unet-LSTM模型能够学习驱动二维全球海面温度时间演变的基础物理学。该模型准确地预测海面温度超过24个月的时间内,均方根误差保持在0.75 $^\circ$ C以下的所有预测的月份。我们还研究了该模型预测Niño3.4区域海表温度异常的能力,以及过去十年中的一些海洋热浪热点。对Niño3.4指数的模型预测使我们能够提前24个月捕捉到2010-11年强烈的拉尼娜现象,2009-10年厄尔尼诺现象和2015-16年极端厄尔尼诺现象。它还显示了对东北太平洋海洋热浪Blob的长期预测技能。然而,对东南部印度洋的海洋热浪--宁格鲁厄尔尼诺现象--的预测显示出有限的技能。这些结果表明,显着的潜力,数据驱动的方法,以产生长期的海表温度异常的预测。
2022-02-21 cs.LG physics.ao-ph
Deep Anomaly Detection for Time-series Data in Industrial IoT: A Communication-Efficient On-device Federated Learning Approach
Heilongjiang University(黑龙江大学);École de technologie supérieure, Université du Québec(魁北克大学高等技术学院);Nanyang Technological University(南洋理工大学);Wuhan University of Technology(武汉理工大学);Alibaba-NTU Joint Research Institute(阿里巴巴-南洋理工大学联合研究院)
由于边缘设备故障(即,异常)严重影响工业物联网(IIoT)中工业产品的生产,准确及时地检测异常变得越来越重要。此外,由边缘设备收集的数据可能包含用户的隐私数据,这对当前的检测方法提出了挑战,因为用户隐私近年来引起了公众的关注。基于这一重点,本文提出了一种新的通信高效的基于设备上联邦学习(FL)的深度异常检测框架,用于感测IIoT中的时间序列数据。具体来说,我们首先引入FL框架,使分散的边缘设备协同训练异常检测模型,这可以提高其泛化能力。其次,我们提出了一种基于注意力机制的卷积神经网络-长短期记忆(AMCNN-LSTM)模型来准确地检测异常。AMCNN-LSTM模型使用基于注意力机制的CNN单元来捕获重要的细粒度特征,从而防止记忆丢失和梯度分散问题。此外,该模型保留了LSTM单元在预测时间序列数据方面的优势。第三,针对工业异常检测的实时性,提出了一种基于Top- \textit{k}选择的梯度压缩机制,以提高通信效率。在4个真实数据集上进行的大量实验研究表明,与不使用梯度压缩方案的联邦学习框架相比,该框架能够准确、及时地检测异常,并将通信开销降低了50%.
2020-07-19 cs.DC cs.LG stat.ML
LAD-BNet: Lag-Aware Dual-Branch Networks for Real-Time Energy Forecasting on Edge Devices
University of La Réunion(留尼旺大学);PIMENT Laboratory(PIMENT实验室);Physics and Mathematical Engineering for Energy, Environment and Building(能源、环境与建筑的物理与数学工程)
LAD-BNet通过时滞感知双分支网络在边缘设备上实现高效的实时能源预测,提升预测精度并降低推断时间,适用于智能电网和建筑领域。
2025-12-07 cs.LG stat.ML
LSTM-Autoencoder based Anomaly Detection for Indoor Air Quality Time Series Data
Massey University(梅西大学);Central Queensland University(中央昆士兰大学);CSIRO Data61(澳大利亚联邦科学与工业研究组织数据61研究所)
室内空气质量与人体健康密切相关,因此室内空气质量异常检测成为一个重要的研究领域。然而,IAQ区域中的异常检测中的传统的基于统计学和浅机器学习的方法不能检测涉及跨若干数据点的相关性的观察的异常(即,通常称为长期依赖性)。我们提出了一种混合深度学习模型,该模型将LSTM与Autoencoder相结合,用于IAQ中的异常检测任务,以解决这个问题。在我们的方法中,LSTM网络由多个LSTM单元组成,这些单元相互协作,以学习时间序列中数据的长期依赖性。Autoencoder根据对所有时间序列中的每个数据评估的重建丢失率来识别最佳阈值。我们的实验结果,基于达尼丁CO2时间序列数据集,通过在新西兰的学校的真实世界的部署,证明了一个非常高的和强大的准确率(99.50%),优于其他类似的模型。
2022-04-14 cs.CR cs.LG
Comparative Analysis on Snowmelt-Driven Streamflow Forecasting Using Machine Learning Techniques
AI Research Center(人工智能研究中心);Advanced College of Engineering and Management(先进工程与管理学院);Tribhuvan University(特里布万大学);National College of Engineering(国家工程学院)
本文提出基于TCN的深度学习序列模型用于喜马拉雅流域融雪驱动径流预测,并与SVR、LSTM和Transformer对比,结果表明TCN在MAE、RMSE、$R^{2}$、KGE和NSE等指标上均表现最优。
2024-04-23 cs.AI cs.LG
ALGAN: Time Series Anomaly Detection with Adjusted-LSTM GAN
School of Computer Science, Faculty of Science, Queensland University of Technology, Brisbane, QLD 4000, Australia(昆士兰科技大学计算机科学学院)
本文提出ALGAN模型,通过调整LSTM输出改进GAN架构,在无监督下有效检测单变量和多变量时间序列异常,并在46个单变量及一个大型多变量数据集上超越传统及基于GAN的方法。
2023-11-01 cs.AI cs.LG
Real-time Detection of Anomalies in Multivariate Time Series of Astronomical Data
Massachusetts Institute of Technology(麻省理工学院);University of Cambridge(剑桥大学);University of the Western Cape(西开普大学);South African Radio Astronomy Observatory(南非射电天文台);Swinburne University of Technology(斯威本科技大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
天文瞬变是恒星物体在不同的时间尺度上暂时变得更亮,并导致了宇宙学和天文学中一些最重要的发现。其中一些瞬变是被称为超新星的恒星爆炸性死亡,而另一些则是罕见的,异国情调的,或全新的令人兴奋的恒星爆炸。新的天文巡天正在观测前所未有数量的多波长瞬变,使得视觉识别新的和有趣的瞬变的标准方法不可行。为了满足这一需求,我们提出了两种新的方法,旨在快速和自动检测异常瞬态光变曲线的实时的【形】。这两种方法都基于一个简单的想法,即如果来自已知瞬态群体的光变曲线可以准确地建模,则任何与模型预测的偏差都可能是异常的。第一种方法是一个概率神经网络建立使用时间卷积网络(TCN)和第二个是一个可解释的贝叶斯参数模型的瞬态。我们表明,神经网络的灵活性,使他们这样一个强大的工具,许多回归任务的属性,是什么使他们不太适合异常检测时,与我们的参数模型相比。
2021-12-15 astro-ph.HE astro-ph.IM cs.LG
Pastprop-RNN: improved predictions of the future by correcting the past
Faculdade de Engenharia(工程学院);Universidade do Porto(波尔图大学);INESC TEC(葡萄牙系统与计算机工程研究所(技术与科学));Fraunhofer AICOS(弗劳恩霍夫辅助信息与通信系统研究所);LIACC(人工智能与计算机科学实验室);Inovretail(Inovretail公司)
预测的准确性取决于过去可用数据的质量。数据中断可能会对生成的模型的质量产生不利影响(例如,预测需求时出现产品脱销等意外事件)。我们通过预测过去来解决这个问题:预测数据在过去应该如何更好地解释未来。我们提出了Pastprop-LSTM,这是一种以数据为中心的反向传播算法,它将错误的部分责任分配给训练数据,并相应地改变它。我们在预测竞争数据集M4和M5以及Numenta Anomaly Benchmark上测试了Pastprop-LSTM的三个变体。实验结果表明,该方法可以提高预测精度,尤其是在标准LSTM预测误差较大的情况下。它还展示了该算法在包含异常的数据集上的潜力。
2021-06-25 cs.LG
Predicting Grain Growth in Polycrystalline Materials Using Deep Learning Time Series Models
Mines Paris, PSL University Centre for material forming (CEMEF), UMR CNRS 06904(巴黎矿业学院,PSL大学材料成型中心(CEMEF),CNRS UMR 06904)
针对多晶材料晶粒生长预测需求,本研究对比多种深度学习时间序列模型,发现基于平均场统计描述符训练的LSTM可高效准确预测晶粒尺寸分布,计算效率大幅提升。
2025-11-07 cond-mat.mtrl-sci cs.AI cs.CE
Real-Time Detection of Anomalies in Large-Scale Transient Surveys
University of Cambridge(剑桥大学);Massachusetts Institute of Technology(麻省理工学院);The Alan Turing Institute(艾伦·图灵研究所);University of the Western Cape(西开普大学);South African Radio Astronomy Observatory(南非射电天文台);African Institute for Mathematical Sciences(非洲数学科学研究所);Swinburne University of Technology(斯威本科技大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
新的时域测量,如Vera C。Rubin Observatory Legacy Survey of Space and Time(LSST)将在每晚观测数百万个瞬变警报,这使得视觉识别新的和有趣的瞬变的标准方法变得不可行。提出了两种实时自动检测异常瞬态光变曲线的新方法。这两种方法都基于一个简单的想法,即如果来自已知瞬态群体的光变曲线可以准确地建模,则任何与模型预测的偏差都可能是异常的。第一种建模方法是使用时间卷积网络(TCN)构建的概率神经网络,第二种是瞬态的可解释贝叶斯参数模型。我们证明了我们的方法的能力,提供异常分数的光变曲线从Zwicky瞬态设施的时间的函数。我们表明,神经网络的灵活性,属性,使他们这样一个强大的工具,许多回归任务,是什么使他们不太适合异常检测相比,我们的参数模型。参数模型能够以高精度和召回分数识别常见超新星类别的异常,对于大多数罕见的类别,如千新星,潮汐破坏事件,中间亮度瞬变和对不稳定超新星,精度-召回曲线(AUCPR)下的面积超过0.79。我们识别异常的能力随着光变曲线的寿命而提高。我们的框架,与瞬态分类器结合使用,将使新的大规模调查的不寻常的瞬变快速和优先的后续行动。
2022-10-05 astro-ph.HE astro-ph.IM cs.LG
An Attention Free Conditional Autoencoder For Anomaly Detection in Cryptocurrencies
CREST-IP Paris(CREST-巴黎理工学院);Université Paris Dauphine - PSL(巴黎多芬大学-PSL大学)
本文针对含噪加密货币时间序列异常检测,提出在条件自编码器中加入 Attention-Free LSTM 层的 AF-CA,相较 LSTM Autoencoder 提升了解释能力与异常检测效果。
2023-04-20 cs.AI cs.LG
CAETC: Causal Autoencoding and Treatment Conditioning for Counterfactual Estimation over Time
CAETC通过因果编码与治疗条件化方法,提升时间上反事实估计的准确性,适用于多种序列模型。
2026-03-12 cs.LG
A Federated Learning Approach to Anomaly Detection in Smart Buildings
Concordia University(康考迪亚大学)
智能建筑中的物联网(IoT)传感器变得越来越普遍,使建筑物更加宜居,节能和可持续。这些设备感知环境并生成多变量时间数据,这些数据对于检测异常和改善智能建筑中的能源使用预测至关重要。然而,在集中式系统中检测这些异常通常受到响应时间的巨大延迟的困扰。为了克服这个问题,我们利用多任务学习范式,在联邦学习环境中制定异常检测问题,该范式旨在同时解决多个任务,同时利用任务之间的相似性和差异。我们提出了一种新的隐私设计联邦学习模型,使用堆叠的长短时记忆(LSTM)模型,我们证明了它在训练收敛过程中的速度是集中式LSTM的两倍多。我们的联邦学习方法的有效性在通用电气智能建筑的物联网生产系统生成的三个真实世界数据集上得到了证明,与分类和回归任务中的基线方法相比,实现了最先进的性能。我们的实验结果表明,该框架在降低整体训练成本,而不影响预测性能的有效性。
2021-06-23 cs.LG
Adopting Trustworthy AI for Sleep Disorder Prediction: Deep Time Series Analysis with Temporal Attention Mechanism and Counterfactual Explanations
Kent State University(肯特州立大学);Brookhaven National Laboratory(布鲁克海文国家实验室);Chapman University(查普曼大学)
本文提出结合TCN、LSTM和TFT三种深度时间序列模型,并引入时间注意力机制与SHAP反事实解释,在大规模睡眠健康数据上实现可信、可解释的睡眠障碍预测。
2024-12-25 cs.LG
Driver Identification Based on Vehicle Telematics Data using LSTM-Recurrent Neural Network
Autonomous Control and Information Technology (ACIT) Institute(自主控制与信息技术(ACIT)研究院)
尽管汽车安全系统取得了进步,但在过去十年中,汽车盗窃率有所上升,对互联网连接和自动驾驶汽车的网络安全攻击正在成为一种新的威胁。本文提出了一种深度学习模型,该模型可以基于车辆远程信息处理数据,从驾驶员的驾驶行为中识别驾驶员。所提出的长短期记忆(LSTM)模型基于从车辆远程信息处理数据中学习到的个人独特驾驶模式来预测驾驶员的身份。由于远程信息处理是时间序列数据,该问题被制定为一个时间序列预测任务,以利用嵌入的顺序信息。在三个自然驾驶数据集上对该方法的性能进行了评估,得到了高精度的预测结果。噪声和异常数据,通常是由传感器缺陷或环境因素的模型的鲁棒性也进行了研究。结果表明,该模型的预测精度仍然令人满意,优于其他方法,尽管异常和噪声引起的数据的程度。
2019-11-19 cs.LG cs.NE eess.SP
A Joint Model for IT Operation Series Prediction and Anomaly Detection
Xiamen University(厦门大学);Bonree Inc.(博睿数据)
状态预测和异常检测是IT系统自动监控的两个基本任务。在本文中,联合模型预测器和异常检测器(PAD)提出了一个框架下解决这两个问题。在我们的设计中,变分自动编码器(VAE)和长短期记忆(LSTM)结合在一起。预测块(LSTM)从VAE重构的时间序列中获取干净的输入,这使得它对预测任务的异常和噪声具有鲁棒性。与此同时,LSTM块保持长期的顺序模式,这些模式在VAE编码窗口之外。这导致VAE在异常检测中的性能比单独训练时更好。在整个处理流水线中,光谱残差分析与VAE和LSTM集成,以提高两者的性能。在两个具有挑战性的评估基准上的实验证实了在两个任务上的优越性能。
2021-04-22 cs.LG stat.ML
Hybrid SARIMA LSTM Model for Local Weather Forecasting: A Residual Learning Approach for Data Driven Meteorological Prediction
Stevens Institute of Technology(史蒂文斯理工学院)
本文提出混合SARIMA-LSTM模型,通过残差学习分解温度为气候和天气成分,结合统计稳定性和神经可塑性提升长距离天气预测精度。
2026-01-12 cs.AI cs.LG
Time-Series Anomaly Classification for Launch Vehicle Propulsion Systems: Fast Statistical Detectors Enhancing LSTM Accuracy and Data Quality
The Aerospace Corporation(航空航天公司)
本文提出基于马哈拉诺斯距离和前向-后向检测分数的统计检测器,用于优化LSTM分类器的训练标签,从而提升发射车辆推进系统时间序列异常分类的准确性和数据质量。
2026-01-07 cs.LG stat.AP stat.ML
A Maritime Industry Experience for Vessel Operational Anomaly Detection: Utilizing Deep Learning Augmented with Lightweight Interpretable Models
Mälardalen University(梅拉达伦大学);Gdansk University of Technology(格但斯克工业大学)
本研究提出一种结合LSTM自编码器与轻量级代理模型的船舶运营异常检测方法,在TUCANA传感船舶上验证了其高检测性能与可解释性,有效提升了工程师的决策效率。
2025-01-25 cs.LG
LATTE: LSTM Self-Attention based Anomaly Detection in Embedded Automotive Platforms
Colorado State University(科罗拉多州立大学)
现代汽车可以被认为是复杂的分布式嵌入式系统,运行各种具有实时约束的汽车应用程序。汽车工业中朝向更大自主性的最新进展正在驱动车辆越来越多地与各种外部系统(例如,路边信标,其他车辆),这使得新兴车辆非常容易受到网络攻击。此外,汽车应用和车载网络的复杂性增加导致攻击可见性差,这使得在汽车系统中检测此类攻击特别具有挑战性。在这项工作中,我们提出了一种新的异常检测框架,称为LATTE检测网络攻击的控制器局域网(CAN)为基础的网络在汽车平台。我们提出的LATTE框架使用堆叠的长短期记忆(LSTM)预测器网络,具有新颖的注意力机制,以在设计时学习正常的操作行为。随后,一种新的检测方案(也在设计时训练)用于在运行时检测各种网络攻击(作为异常)。我们在不同的汽车攻击场景下评估了我们提出的LATTE框架,并与该领域最知名的先前作品进行了详细的比较,以展示我们方法的潜力。
2021-07-12 cs.DC cs.LG cs.SY