Online Dynamic Window (ODW) Assisted Two-stage LSTM Frameworks for Indoor Localization
Concordia University(康考迪亚大学)
基于物联网(IoT)的室内定位最近已经获得了显著的普及,以满足室内基于位置的服务(LBS)的不断增长的需求。在这种情况下,基于惯性测量单元(IMU)的定位是令人感兴趣的,因为它提供了独立于任何专有传感器/模块的可扩展解决方案。然而,现有的基于IMU的方法主要是基于统计航向和步长估计技术开发的,这些技术遭受累积误差问题,并且具有大量的计算时间要求,限制了它们用于实时室内定位的应用。为了解决上述问题,我们提出了在线动态窗口(ODW)辅助的两阶段长短期记忆(LSTM)本地化框架。提出了三种ODW,其中第一种模型使用自然语言处理(NLP)启发的动态窗口(DW)方法,该方法显著减少了所需的计算时间。第二个框架是基于信号处理动态窗口(SP-DW)方法开发的,以进一步减少基于两阶段LSTM的模型所需的处理时间。第三个ODW,称为SP-NLP,结合了前两个窗口机制,以进一步提高整体实现的准确性。与传统的基于LSTM的定位方法相比,该方法具有高张量计算要求或低精度,所提出的ODW辅助模型可以以近实时的方式以高精度执行室内定位。基于一个真实的行人航位推算(PDR)数据集的建议ODW辅助模型的性能进行评估。结果表明,所提出的ODW辅助技术在实现高的分类精度与显着减少计算时间,使其适用于近实时实现的潜力。
2021-09-26 cs.LG eess.SP
Arbitrary Discrete Sequence Anomaly Detection with Zero Boundary LSTM
Rensselaer Polytechnic Institute(伦斯勒理工学院);Bloomberg(彭博)
我们提出了一个简单的数学定义和新的神经结构,发现离散序列数据集内的异常。我们的模型包括一个修改的LSTM自动编码器和一个One-Class SVM数组。LSTM从序列中获取元素,并创建上下文向量,用于预测下一个元素的概率分布。然后,这些上下文向量用于训练一个单类SVM阵列。这些支持向量机用于确定上下文空间中的离群值边界。我们表明,我们的方法始终更稳定,并且在两个生成的数据集上优于标准LSTM和滑动窗口异常检测系统。
2018-03-06 cs.LG
Multitask LSTM for Arboviral Outbreak Prediction Using Public Health Data
Universidade Católica de Pernambuco(帕尔默恩 Gabon 大学);Universidade Federal de Pernambuco(佩纳布科联邦大学);CESAR School(CESAR 学校);Universidade de Pernambuco(佩纳布科大学)
本文提出基于LSTM的多任务学习方法,利用DataSUS数据联合预测累西腓登革热、基孔肯雅热和寨卡病毒的暴发与病例数,验证了统一建模在数据有限场景下进行可扩展流行病预测的有效性。
2025-05-07 cs.LG
Solar Flare Prediction Using Long Short-term Memory (LSTM) and Decomposition-LSTM with Sliding Window Pattern Recognition
University of Zanjan(赞詹大学)
本研究提出结合集成算法的DLSTM模型,利用滑动窗口技术处理规则化时间序列,在包含151,071次耀斑事件的数据集上实现了TSS 0.74、召回率0.95和AUC 0.87,显著提升了太阳耀斑预测准确性。
2025-07-15 astro-ph.SR cs.AI cs.LG
LSTM VS. Feed-Forward Autoencoders for Unsupervised Fault Detection in Hydraulic Pumps
University of Alcalá(阿尔卡拉大学)
本文比较了LSTM与前馈自编码器在无监督液压泵故障检测中的性能,通过健康数据训练实现高可靠性故障识别。
2026-01-16 cs.LG
Automatic Remaining Useful Life Estimation Framework with Embedded Convolutional LSTM as the Backbone
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
预测性维修的一个重要任务是通过对多变量时间序列的分析来预测剩余使用寿命。使用滑动窗口方法,卷积神经网络(CNN)和传统的递归神经网络(RNN)方法已经在这个问题上产生了令人印象深刻的结果,因为它们能够学习优化的特征。然而,序列信息仅部分地由CNN方法建模。由于传统RNN中的扁平化机制,如长短期记忆(LSTM),窗口内的时间信息没有完全保留。为了利用多层次的时间信息,提出了许多结合CNN和RNN模型的方法。在这项工作中,我们提出了一种新的LSTM变体,称为嵌入式卷积LSTM(ECLSTM)。在ECLSTM中,一组不同的1D卷积被嵌入到LSTM结构中。通过这样,时间信息在窗口之间和窗口内被保留。由于模型的超参数需要仔细调整,我们还提出了一个自动预测框架的基础上贝叶斯优化与hyperband优化器,这使得网络架构的有效优化。最后,我们展示了我们提出的ECLSTM方法在几个广泛使用的基准数据集上的优越性。
2020-08-10 cs.LG stat.ML
Temporal convolutional and fusional transformer model with Bi-LSTM encoder-decoder for multi-time-window remaining useful life prediction
本文提出一种结合时序卷积网络和改进的时序融合变换器的模型,通过多时间窗口方法提升工业系统剩余寿命预测的准确性。
2025-11-06 cs.AI cs.LG
Extreme-Long-short Term Memory for Time-series Prediction
Deakin University(迪肯大学)
长短期记忆(LSTM)的出现解决了传统递归神经网络(RNN)中梯度消失和梯度爆炸的问题。LSTM作为一种新型的RNN,已经广泛应用于各个领域,如文本预测、风速预测、脑电信号抑郁预测等,研究结果表明,提高LSTM的效率有助于提高其他应用领域的效率。在本文中,我们提出了一种先进的LSTM算法,极端长短期记忆(E-LSTM),它将极端学习机(ELM)的逆矩阵部分作为一个新的“门”添加到LSTM的结构中。这个“门”预处理一部分数据,并将处理后的数据纳入LSTM的单元更新中,以更少的训练轮获得更准确的数据,从而减少整体训练时间。在这项研究中,E-LSTM模型用于文本预测任务。实验结果表明,E-LSTM有时需要更长的时间来执行单个训练轮,但当在小数据集上进行测试时,新的E-LSTM只需要2个epoch就可以获得传统LSTM的第7个epoch的结果。因此,E-LSTM保留了传统LSTM的高精度,同时也提高了LSTM的训练速度和整体效率。
2022-10-15 cs.LG
Pre-Whitening and BCJR Posterior Distillation for Bi-LSTM Detection in Faster-than-Nyquist Signaling
Ankara Yildirim Beyazit University(安卡拉耶尔德勒姆贝亚兹特大学)
本研究通过预白化和BCJR后验蒸馏,在超奈奎斯特信令中提升Bi-LSTM检测性能,以少量参数增加接近最优BCJR误码率。
2026-09-09 cs.LG eess.SP
Integrated Forecasting of Marine Renewable Power: An Adaptively Bayesian-Optimized MVMD-LSTM Framework for Wind-Solar-Wave Energy
Data Science Research Center(数据科学研究中心);Faculty of Science(科学学院)
针对风-光-波浪海洋能源多源耦合与非线性预测难题,提出贝叶斯优化的 MVMD-LSTM 一体化框架,实现自动参数搜索并显著提升超短期功率预测精度。
2025-09-24 cs.LG math.OC
Air Quality PM2.5 Index Prediction Model Based on CNN-LSTM
Guizhou University(贵州大学);Amazon(亚马逊)
本文提出一种基于CNN-LSTM混合架构的PM2.5浓度预测模型,利用北京工业区多变量气象数据预测6小时平均PM2.5,RMSE达5.236,优于传统时间序列模型,适用于空气污染预警。
2025-08-15 cs.LG
Convolutional LSTM Neural Networks for Modeling Wildland Fire Dynamics
Google Research(谷歌研究院);Stanford University(斯坦福大学)
随着气候的变化,野火的严重程度预计将恶化。准确捕捉火灾传播动力学的模型极大地有助于理解、响应和减轻这些火灾造成的损失。机器学习技术为开发这样的模型提供了潜在的方法。本研究的目的是评估的可行性,使用卷积长短期记忆(ConvLSTM)递归神经网络模型的野火蔓延的动态。机器学习模型在由数学模拟模型生成的模拟野火数据上进行训练。分析了三个模拟数据集,每个数据集的复杂程度都在增加。最简单的数据集包括一个恒定的风向作为一个单一的混杂因素,而最复杂的数据集包括动态风,复杂的地形,空间变化的水分含量和异质植被密度分布。我们研究了ConvLSTM在连续时间步长上学习火灾蔓延动态的有效性。结果表明,ConvLSTM可以捕获局部火灾传输事件,以及整体火灾动态,如火灾蔓延的速度。最后,我们证明了ConvLSTM优于其他网络架构,以前被用来模拟类似的荒地火灾动态。
2021-04-08 cs.LG
Data2Vis: Automatic Generation of Data Visualizations Using Sequence to Sequence Recurrent Neural Networks
IBM Research(IBM研究院);MIT CSAIL(麻省理工学院计算机科学与人工智能实验室);Fitnescity Labs(Fitnescity实验室)
对于在统计和数据可视化方面时间有限、技能有限的用户来说,使用表达性语法快速创建有效的可视化是一项挑战。即使是高级的专用可视化工具,也经常需要用户手动选择数据属性,决定要应用哪些转换,并指定可视化编码变量与原始或转换后的属性之间的映射。在本文中,我们介绍了Data 2 Vis,这是一个神经翻译模型,用于从给定的数据集自动生成可视化。我们制定可视化生成作为一个序列到序列的翻译问题,数据规范映射到可视化规范的声明性语言(Vega-Lite)。为此,我们在可视化规范的语料库上训练一个具有长短期记忆(LSTM)单元的多层基于注意力的递归神经网络(RNN)。定性结果表明,我们的模型学习了有效的可视化规范的词汇和语法,适当的转换(计数,箱,平均值)以及如何使用数据可视化中出现的常见数据选择模式。Data 2 Vis可以在很短的时间内生成与手动创建的可视化效果相当的可视化效果,并有可能大规模学习更复杂的可视化策略。
2018-11-02 cs.AI cs.HC cs.LG
Kolmogorov-Arnold Networks-based GRU and LSTM for Loan Default Early Prediction
本文提出GRU-KAN和LSTM-KAN两种融合Kolmogorov-Arnold网络的架构,用于提升贷款违约的长期提前预测能力,实验显示其提前三个月准确率超92%、提前八个月超88%,显著优于LSTM、GRU等基线模型。
2025-07-18 cs.LG
Reinforcement Learning-Based Cooperative P2P Power Trading between DC Nanogrid Clusters with Wind and PV Energy Resources
Electronics and Telecommunications Research Institute (ETRI)(韩国电子通信研究院);Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院)
在用可再生能源替代化石燃料以实现碳中和的过程中,间歇性风能和光伏(PV)电力的不平衡资源生产是P2P(P2P)电力交易的关键问题。为了解决这个问题,强化学习(RL)技术在本文中介绍。对于强化学习,基于合作博弈理论,将图卷积网络(GCN)和双向长短期记忆(Bi-LSTM)网络联合应用于纳米网格簇之间的P2P电力交易.灵活可靠的直流纳米电网适用于为配电系统集成可再生能源。每个局部纳米网格集群都处于产消者的位置,同时关注电力生产和消费。对于纳米网格簇的电源管理,采用物联网技术对每个局部纳米网格簇进行多目标优化。电动车辆(EV)的充电/放电是考虑到风力和光伏发电的间歇特性而执行的。RL算法(诸如用于深度Q学习网络(DQN)的GCN卷积神经网络(CNN)层、用于深度递归Q学习网络(DRQN)的GCN-LSTM层、用于DRQN的GCN-Bi-LSTM层以及用于近端策略优化(PPO)的GCN-Bi-LSTM层)被用于仿真。因此,合作P2P电力交易系统通过考虑基于使用时间(ToU)的电价成本和系统边际价格(SMP)来最大化利润,并最小化电网电力消耗量。在配电测试馈线上实时的模拟具有P2P电力交易的纳米网格集群的电力管理,并且所提出的GCN-Bi-LSTM-PPO技术在用于比较的RL算法中实现最低的电力成本,将电力成本降低了36.7%,平均超过纳米网格集群。
2022-12-31 cs.LG cs.SY eess.SY
Short-term Wind Speed Forecasting for Power Integration in Smart Grids based on Hybrid LSSVM-SVMD Method
School of Electrical and Computer Engineering, Mekelle University(梅克莱尔大学电气与计算机工程学院);Binghamton University(宾汉姆顿大学);School of Computer Science Engineering, Galgotias University(加尔各答大学计算机科学与工程学院);School of Electrical and Computer Engineering, Addis Ababa Institute of Technology(亚的斯亚贝巴理工学院电气与计算机工程学院)
本文提出一种结合SVMD分解、EBQPSO优化LSSVM和LSTM残差建模的混合方法用于短期风速预测,在两个数据集上相比基准模型显著降低了RMSE和MAE。
2024-08-30 cs.LG
LSTM recurrent neural network assisted aircraft stall prediction for enhanced situational awareness
Islamic University of Technology(伊斯兰技术大学);University of Alberta(阿尔伯塔大学);H2O.ai
自从人类开始使用动力飞行以来,已经发生了多起可归因于飞机失速的事件。大多数现代飞机都配备了先进的警告系统,以警告飞行员潜在的失速,以便飞行员采取必要的恢复措施。但是这些警告通常在飞机实际进入失速之前有一个很短的窗口,需要飞行员迅速采取行动来防止它。在本文中,我们提出了一种基于深度学习的方法来提前预测即将发生的失速,甚至在失速警告被触发之前。我们利用长短期记忆(LSTM)递归神经网络(RNN)的能力,提出了一种新的方法来预测潜在的失速从连续的飞行中的传感器数据。探索了三种不同的神经网络架构。神经网络模型,在26400秒的模拟器飞行数据的训练,能够预测潜在的失速与> 95%的准确性,约10秒前失速警告触发。这可以显著增强飞行员处理意外失速的准备,并将为传统的失速警告系统增加额外的安全层。
2020-12-09 cs.LG
LSTM-based Flow Prediction
Harbin Institute of Technology(哈尔滨工业大学)
本文提出一种基于多变量调优的LSTM算法,通过引入周期性测量和时间窗口改进传统LSTM,用于工业流量预测,实验显示预测精度比传统LSTM高54.05%。
2019-08-09 cs.LG eess.SP stat.ML
EA-LSTM: Evolutionary Attention-based LSTM for Time Series Prediction
Institute of Information Science, Beijing Jiaotong University(北京交通大学信息科学研究所);Microsoft Multimedia(微软多媒体)
近年来,利用深度学习方法,特别是长短期记忆神经网络(LSTM)进行时间序列预测取得了显著的成就。尽管LSTM可以帮助捕获长期依赖性,但其在多个时间步长内对子窗口特征给予不同程度关注的能力是不够的。为了解决这个问题,提出了一种基于进化注意力的LSTM训练和竞争随机搜索,用于多变量时间序列预测。通过传递共享参数,将一种进化注意学习方法引入到LSTM模型中。因此,像生物进化一样,基于重要性的注意抽样模式可以在时间关系挖掘过程中得到确认。为了避免传统梯度算法陷入局部最优,提出了一种演化计算启发的竞争随机搜索方法,该方法能够很好地配置注意层参数.实验结果表明,与其他基线方法相比,该模型可以实现有竞争力的预测性能。
2018-11-09 cs.LG cs.NE stat.ML
Global Attention-based Encoder-Decoder LSTM Model for Temperature Prediction of Permanent Magnet Synchronous Motors
Lakehead University(湖首大学)
温度监测对于电动机至关重要,以确定是否应执行设备保护措施。然而,永磁同步电动机(PMSM)内部结构的复杂性使得其内部元件的温度直接测量变得困难。这项工作务实地开发了三个深度学习模型,以基于易于测量的外部量来估计PMSM的内部温度。所提出的监督学习模型利用长短期记忆(LSTM)模块、双向LSTM和注意力机制来形成编码器-解码器结构,以同时预测定子绕组、齿、轭和永磁体的温度。在基准数据集上进行了详尽的实验,以验证所提出的模型的性能。对比分析表明,所提出的基于全局注意力的编码器-解码器(EnDec)模型提供了一个有竞争力的整体性能为1.72均方误差(MSE)和5.34平均绝对误差(MAE)。
2022-07-30 cs.AI cs.LG
Multi-Step Short-Term Wind Speed Prediction with Rank Pooling and Fast Fourier Transformation
State Key Laboratory of NBC Protection for Civilian(国民核生化防护国家重点实验室)
针对真实风速数据间歇性强、波动大导致浅层模型预测困难的问题,提出融合排序池化局部特征、FFT全局特征与MLP/LSTM及线性回归的深度混合模型,经10年真实数据验证,预测精度优于现有先进的单一及混合模型。
2023-05-05 cs.LG physics.ao-ph
A Multi-variable Stacked Long-Short Term Memory Network for Wind Speed Forecasting
Texas Tech University(德克萨斯理工大学)
准确预测风速对于风力发电厂和电网运营商至关重要。然而,由于风速的随机性,这项任务是具有挑战性的。为了在不确定性条件下准确预测短期风速,提出了一种多变量叠加LSTM模型(MSLSTM)。所提出的方法利用多个历史气象变量,如风速,温度,湿度,压力,露点和太阳辐射,以准确地预测风速。使用在美国西德克萨斯州收集的实际数据,预测性能进行了广泛的评估。实验结果表明,该方法能较好地捕捉和学习不确定性,并能输出具有竞争力的性能.
2018-11-24 cs.LG stat.ML
A Behaviour-Aware Federated Forecasting Framework for Distributed Stand-Alone Wind Turbines
IT University of Copenhagen(哥本哈根技术大学);Technical University of Denmark (DTU)(丹麦技术大学)
本文提出一种基于行为聚类的联邦学习框架,用于提升分布式独立风力涡轮机的短期功率预测精度,通过DRS和Auto-split实现行为感知的群体划分,有效提升预测性能并保护数据隐私。
2026-03-05 cs.LG
COVID-19 growth prediction using multivariate long short term memory
Brawijaya University(布拉维贾亚大学)
冠状病毒病(COVID-19)传播预测是追踪疫情增长的重要任务。现有的预测仅仅是基于定性分析和数学建模。尽管数据的可用性很丰富,但在COVID-19增长预测中使用机器学习的可用大数据仍然有限。为了在使用深度学习的预测中利用大数据,我们使用长短期记忆(LSTM)方法来学习COVID-19增长随时间的相关性。LSTM层的结构被逐层搜索,直到获得最佳验证分数。首先,我们训练了包含全球确诊病例的训练数据。与递归神经网络(RNN)方法相比,我们取得了良好的性能,具有相当低的验证误差。评价是基于图形可视化和均方根误差(RMSE)。我们发现,随着时间的推移,要达到相同的确诊病例数量并不容易。然而,LSTM在实际案例和预测之间提供了类似的模式。在未来,我们提出的预测可以用于预测即将到来的流行病。代码在这里提供:https://github.com/cbasemaster/lstmcorona
2020-05-27 cs.LG stat.ML
Making Good on LSTMs' Unfulfilled Promise
Rothko Investment Strategies(罗斯科投资策略公司);City, University of London(伦敦大学城市学院)
LSTM承诺金融时间序列分析,时间和横截面推理,但我们发现,他们不提供在现实世界中的财务管理任务。我们研究了一种称为持续学习(CL)的替代方法,这是一种记忆增强方法,可以提供透明的解释,即哪些记忆在何时做了什么。这项工作对许多金融应用有影响,包括信贷,决策的时变公平性等。我们提出三个重要的新观察。首先,时间序列CL方法不仅更易于解释,而且优于LSTM以及使用前馈神经网络(FFNN)的简单滑动窗口学习器。其次,我们证明了基于滑动窗口学习器(FFNN)的CL比基于顺序学习器(LSTM)的CL更有效。第三,我们研究了现实世界中的时间序列噪声如何影响CL内存寻址中使用的几种相似性方法。我们使用一种称为持续学习增强(CLA)的方法来提供这些见解,该方法在一个复杂的现实问题上进行了测试,即新兴市场股票投资决策。CLA提供了一个测试平台,因为它可以基于不同类型的时间序列学习器,允许并行测试LSTM和FFNN学习器。CLA还用于测试几种用于存储器召回门的距离方法:欧氏距离(ED),动态时间规整(DTW),自动编码器(AE)和一种新的混合方法,warp-AE。我们发现,ED表现不佳DTW和AE,但翘曲AE显示出最好的整体性能在现实世界中的金融任务。
2019-12-09 cs.LG q-fin.CP q-fin.PM
Multi-Feature Fusion and Compressed Bi-LSTM for Memory-Efficient Heartbeat Classification on Wearable Devices
School of Electrical and Electronic Engineering, University College Dublin(都柏林大学学院电气与电子工程学院);School of Electrical and Electronic Engineering, California Institute of Technology(加州理工学院电气与电子工程学院)
本文提出结合多特征融合与压缩Bi-LSTM的资源高效ECG心跳分类方法,通过预处理降噪、融合时间间隔与抗噪曲线下面积特征,在MIT-BIH数据集上显著提升难分类别准确率,并开发多规模模型实现全类别高准确率,适配可穿戴设备。
2024-12-13 cs.LG
Convolutional LSTMs for Cloud-Robust Segmentation of Remote Sensing Imagery
Technical University of Munich(慕尼黑工业大学)
云经常覆盖地球表面,对光学地球观测方法构成无所不在的挑战。绝大多数遥感方法要么选择性地选择单一的无云观测,要么采用预分类策略来识别和掩盖多云像素。我们遵循不同的策略,并将云覆盖视为观测卫星数据固有的噪声。在以前的工作中,我们直接采用了一个简单的\emph{convolutional long short-term memory}网络的植被分类没有明确的云过滤,并取得了国家的最先进的分类精度。在这项工作中,我们通过可视化内部细胞激活并对不同云覆盖率的数据集进行消融实验来进一步研究这种云的鲁棒性。在网络状态的可视化中,我们发现了一些细胞,其中调制和输入门在多云像素上关闭。这表明网络已经内化了云过滤机制,而没有专门针对云标签进行训练。总的来说,我们的研究结果质疑了多时间深度学习方法的复杂预处理管道的必要性。
2018-12-02 cs.CV cs.LG stat.ML
Multistream Graph Attention Networks for Wind Speed Forecasting
Maastricht University(马斯特里赫特大学)
可靠和准确的风速预测在许多工业部门,如经济,商业和管理等方面具有重大影响。提出了一种基于图注意力网络(GAT)的风速预测模型。特别是,所提出的模型扩展GAT架构,配备了一个可学习的邻接矩阵,以及将一个新的注意力机制的目的是获得每个天气变量的注意力分数。基于GAT的模型的输出与LSTM层相结合,以利用多变量多维历史天气数据的空间和时间特征。从丹麦和荷兰的几个城市收集的真实天气数据被用来进行实验,并评估所提出的模型的性能。我们表明,与以前用于风速预测的架构相比,所提出的模型能够更好地学习天气数据的复杂输入-输出关系。此外,由于学习到的注意力权重,该模型为所研究的预测任务提供了关于最重要的天气变量和城市的额外见解。
2021-10-26 cs.LG
Climate Aware Deep Neural Networks (CADNN) for Wind Power Simulation
Helmholtz Centre for Environmental Research - UFZ(亥姆霍兹环境研究中心(UFZ));DBFZ Deutsches Biomasseforschungszentrum gGmbH(德国生物质研究中心);University Leipzig(莱比锡大学)
本文提出气候感知深度神经网络(CADNN),利用CMIP气候数据训练MLP、LSTM及Transformer增强LSTM模型,以提高德国风电场风力发电模拟的准确性,并开发了相应Python包。
2024-12-11 cs.AI cs.LG
Marine Chlorophyll Prediction and Driver Analysis based on LSTM-RF Hybrid Models
Nanjing University of Science and Technology ZiJin College(南京理工大学紫金学院);University of Glasgow(格拉斯哥大学)
针对海洋叶绿素预测,提出LSTM-RF混合模型,结合时序建模与非线性特征优势,在测试集上R²达0.5386,显著优于单一模型,为赤潮预警提供新方案。
2025-08-07 cs.AI cs.LG
A Deep Learning Framework for Wind Turbine Repair Action Prediction Using Alarm Sequences and Long Short Term Memory Algorithms
University of Hull(赫尔大学);AURA CDT(AURA 博士培训中心)
随着人们越来越重视降低海上风电(OSW)行业的运营和维护(O&M)成本,需要探索深度学习(DL)在该领域的新方法和应用。基于状态的监测(CBM)一直处于开发基于警报的系统和数据驱动决策的最前沿。本文简要介绍了在这一领域正在进行的研究,特别关注报警序列建模及其实施中面临的相关挑战。本文提出了一种新的想法,从报警序列的输入序列预测一组相关的修复动作,比较长短期记忆(LSTM)和双向LSTM(biLSTM)模型。使用biLSTM实现高达80.23%的训练准确率结果和高达76.01%的测试准确率结果,有力地表明了所提出的方法的潜在优势,可以在未来的研究中进一步发展。本文介绍了一个框架,集成所提出的方法到O $\&$ M程序,并讨论了潜在的好处,其中包括减少了混乱的过多的警报,以及不必要的船舶转移到涡轮机的故障诊断和纠正。
2022-07-26 cs.AI cs.LG
Equipment Health Assessment: Time Series Analysis for Wind Turbine Performance
Hitachi America, Ltd., R&D(日立美国有限公司研发部);Atria University(阿特里亚大学);Atria Brindavan Power Private Limited(阿特里亚布林达万电力私人有限公司)
本文基于多台风机 SCADA 数据,融合 FNN 与 LSTM 进行功率预测和性能退化检测,证明集成模型及按风机自动定制建模的优越性与跨设备推广价值。
2024-03-01 cs.AI cs.LG math.FA
Discovering the dynamics of \emph{Sargassum} rafts' centers of mass
Department of Atmospheric Sciences, Rosenstiel School of Marine, Atmospheric \& Earth Science, University of Miami, Miami, Florida, USA.;Morgridge Institute for Research, University of Wisconsin, Madison, WI, USA.
针对马尾藻筏质心运动缺乏预测规律的问题,本文基于eBOMB物理变量对比LSTM与SINDy闭合建模,发现二者在紧密团块下更有效,SINDy兼具可解释性并能刻画非局部作用。
2025-07-24 cs.LG nlin.CD physics.ao-ph
Early Prediction of Sepsis using Heart Rate Signals and Genetic Optimized LSTM Algorithm
Department of Mechatronics, School of Intelligent Systems College of Interdisciplinary Science and Technology University of Tehran(机械工程系、智能系统学院 interdisciplinary 科学与技术学院 波斯语大学);School of Science and Technology Faculty of Science, Agriculture, Business and Law University of New England(科学与技术学院 科学、农业、商业与法律学院 新英格兰大学);School of Project Management Faculty of Engineering The University of Sydney(项目管理学院 工程学院 悉尼大学)
本研究提出一种基于遗传优化LSTM算法的早期脓毒症预测方法,利用可穿戴设备分析心率数据,以提高非病房环境下的脓毒症检测能力。
2025-12-30 cs.LG
Deep Stock Predictions
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
预测股票价格可以被解释为一个时间序列预测问题,对于这个问题,长短期记忆(LSTM)神经网络经常被使用,因为它们的架构是专门为解决这些问题而构建的。在本文中,我们考虑了一种交易策略的设计,该策略使用四家不同公司的LSTM股票价格预测来执行投资组合优化。然后,我们自定义用于训练LSTM的损失函数,以增加所赚取的利润。此外,我们提出了一种数据驱动的方法来优化窗口长度和多步预测长度的选择,并考虑将分析师调用作为技术指标添加到通过添加注意力单元加强的多堆栈双向LSTM中。我们发现,具有自定义损失函数的LSTM模型在训练机器人中的性能比ARIMA等回归基线有所提高,而添加分析师调用确实提高了某些数据集的性能。
2020-06-08 cs.LG q-fin.PM stat.ML
LSTM-based Anomaly Detection for Non-linear Dynamical System
Beijing University of Posts and Telecommunications(北京邮电大学);University of Nebraska-Lincoln(内布拉斯加大学林肯分校)
非线性动力系统的异常检测对于保证系统的稳定性具有重要作用。然而,它通常是复杂的,必须通过大规模的仿真来解决,这需要大量的计算资源。本文提出了一种基于长短期记忆(LSTM)的非线性动力系统异常检测方案,用于捕获时间序列的复杂时间变化并进行多步预测。具体而言,我们首先提出了基于LSTM的非线性动力系统异常检测框架,包括数据预处理、多步预测和异常检测。根据预测要求,在多步预测中,采用自适应滑动窗口采集壁面剪应力数据集的样本,探索了两种训练模式。在多步预测结果的基础上,提出了一种自适应参数局部平均(LAAP)算法,用于提取时间序列的局部数值特征,估计即将到来的异常。实验结果表明,本文提出的多步预测方法在壁面剪应力数据集上的预测精度高于传统方法,LAAP算法在异常检测任务中的性能优于基于绝对值的方法。
2020-06-05 cs.LG eess.SP
A Novel Correlation-optimized Deep Learning Method for Wind Speed Forecast
Northeastern University(东北大学)
提出一种混合预训练与自编码器、基于相关优化构建知识网络并由Seq2Seq吸收的深度学习方法,通过CMU强化框架,在辽宁风电场案例中提升风速预测的稳定性和训练效率。
2023-06-09 cs.AI cs.LG cs.SY
Benchmarking Federated Learning for Throughput Prediction in 5G Live Streaming Applications
Department of Electronics and Communication Engineering, National Institute of Technology Rourkela(电子与通信工程系,印度Rourkela国家理工学院);Nokia Bell Labs, UK and University of Cambridge, UK(英国诺基亚贝尔实验室和剑桥大学);Department of Computer Science and Engineering, Indian Institute of Technology Kharagpur(计算机科学与工程系,印度Kharagpur理工学院)
本文首次在真实5G边缘场景下对吞吐量预测的联邦学习策略进行全面基准测试,评估了多种聚合算法与时序模型,发现FedBN在non-IID条件下表现稳健,且基于FedBN的LSTM和Transformer模型显著提升了直播流媒体的平均QoE分数。
2025-08-11 cs.DC cs.LG
Comprehensive Forecasting-Based Analysis of Hybrid and Stacked Stateful/ Stateless Models
Mississippi State University(密西西比州立大学)
本文针对密西西比州立大学机场站点短期风速预测,系统比较堆叠有状态/无状态LSTM与GRU四种模型的架构、RMSE表现及时间空间复杂度。
2024-04-30 cs.AI cs.LG
LARNN: Linear Attention Recurrent Neural Network
Laval University(拉瓦尔大学)
线性注意力循环神经网络(LARNN)是一个循环注意力模块,它来源于长短期记忆(LSTM)细胞和意识循环神经网络(RNN)的思想。是的,是拉恩。LARNN将注意力集中在其过去的小区状态值上,用于有限的窗口大小$k$。这些公式也是从批量归一化LSTM(BN-LSTM)单元和Transformer网络中推导出来的,用于其多头注意力机制。在单元内使用多头注意力机制,使得其可以利用注意窗口查询其自己的$k$过去值。这具有用注意力机制增强张量的秩的效果,使得细胞可以执行复杂的查询来质疑其先前的内部记忆,这应该增强记忆的长期短期效应。通过一个聪明的技巧,带有注意力的LARNN细胞可以很容易地在细胞状态的循环中使用,就像任何其他循环神经网络(RNN)细胞可以通过时间序列线性循环一样。这是由于以下事实:在时间序列内的整个时间步长上循环的其状态将内部状态存储在“先进先出”队列中,该队列包含$k$最近的状态,并且当队列被表示为张量时,可以容易地在该队列上添加静态位置编码。这种神经架构比普通LSTM细胞产生更好的结果。它可以获得91.92%的测试准确度,而之前使用vanilla LSTM单元获得的准确度为91.65%。请注意,这不是与其他研究相比,其他研究获得了高达93.35%的结果,但使用18个LSTM单元而不是这里分析的2到3个单元的成本很高。最后,一个有趣的发现是,在多头注意力机制的线性层内添加激活…
2018-08-16 cs.CC cs.LG stat.ML
Analysis and Predictive Modeling of Solar Coronal Holes Using Computer Vision and ARIMA-LSTM Networks
Stony Brook University(石溪大学);Defense Acquisition Program Administration (DAPA)(国防采办项目管理局)
本文利用计算机视觉检测SDO影像中的冕洞并估计面积,结合ARIMA-LSTM混合模型预测七天冕洞面积趋势,以揭示其行为模式及对空间天气的影响。
2024-07-31 astro-ph.EP astro-ph.SR cs.AI
A Joint Model for IT Operation Series Prediction and Anomaly Detection
Xiamen University(厦门大学);Bonree Inc.(博睿数据)
状态预测和异常检测是IT系统自动监控的两个基本任务。在本文中,联合模型预测器和异常检测器(PAD)提出了一个框架下解决这两个问题。在我们的设计中,变分自动编码器(VAE)和长短期记忆(LSTM)结合在一起。预测块(LSTM)从VAE重构的时间序列中获取干净的输入,这使得它对预测任务的异常和噪声具有鲁棒性。与此同时,LSTM块保持长期的顺序模式,这些模式在VAE编码窗口之外。这导致VAE在异常检测中的性能比单独训练时更好。在整个处理流水线中,光谱残差分析与VAE和LSTM集成,以提高两者的性能。在两个具有挑战性的评估基准上的实验证实了在两个任务上的优越性能。
2021-04-22 cs.LG stat.ML
Stock Price Prediction Using a Hybrid LSTM-GNN Model: Integrating Time-Series and Graph-Based Analysis
University of Reading(雷丁大学);University of Colorado Colorado Springs(科罗拉多大学科罗拉多斯普林斯分校)
本研究提出融合LSTM与GNN的混合股价预测模型,结合时序特征与股票间关联关系,经扩展窗口验证训练,在历史股票数据上MSE达0.00144,较单一LSTM降低10.6%,优于多个基准模型,为金融分析与实时交易提供新工具。
2025-02-19 cs.AI cs.LG q-fin.ST
CNN-LSTM Hybrid Deep Learning Model for Remaining Useful Life Estimation
Indira Gandhi Centre for Atomic Research (IGCAR)(英迪拉·甘地原子能研究中心);Christ (deemed to be) University(基督(被视为)大学)
针对传统方法在剩余使用寿命(RUL)估计中精度不足且忽略数据序列特性的问题,提出一种结合CNN特征提取与LSTM序列预测的混合深度学习模型,在预测性维护中实现了更高精度和更优评分。
2024-12-20 cs.AI cs.LG
Deep Sentence Embedding Using Long Short-Term Memory Networks: Analysis and Application to Information Retrieval
University of British Columbia(不列颠哥伦比亚大学);Microsoft Research(微软研究院)
本文开发了一个模型,该模型使用具有长短期记忆(LSTM)细胞的递归神经网络来解决句子嵌入问题,这是当前自然语言处理研究中的一个热门话题。由于其捕获长期记忆的能力,LSTM-RNN在句子中积累了越来越丰富的信息,当它到达最后一个词时,网络的隐藏层提供了整个句子的语义表示。在本文中,LSTM-RNN是在一个弱监督的方式对用户点击通过商业网络搜索引擎记录的数据进行训练。进行可视化和分析,以了解嵌入过程是如何工作的。该模型被发现自动衰减的不重要的话,并检测句子中的显着的关键字。此外,发现这些检测到的关键字自动激活LSTM-RNN的不同单元,其中属于类似主题的单词激活相同单元。作为句子的语义表示,嵌入向量可以用于许多不同的应用。LSTM-RNN支持的这些自动关键字检测和主题分配能力允许网络执行文档检索,这是一项困难的语言处理任务,其中查询和文档之间的相似性可以通过LSTM-RNN计算的相应句子嵌入向量之间的距离来测量。在Web搜索任务中,LSTM-RNN嵌入显示出显着优于几种现有的最先进的方法。我们强调,该模型生成的句子嵌入向量,是特别有用的Web文档检索任务。与一个众所周知的通用句子嵌入方法,段落向量,进行比较。实验结果表明,本文提出的方法在Web文档检索任务中的性能明显优于它。
2016-01-16 cs.CL cs.IR cs.LG
LSTM based IoT Device Identification
Kahraman Kostas
提出一种端到端机器学习流程,利用LSTM网络处理原始网络数据包,通过滑动窗口时间序列特征识别27类物联网设备,在最优配置下达到79.85%准确率和75.70%宏平均F1分数。
2026-06-11 cs.AI cs.CR cs.LG
Stochastic Volatility Modelling with LSTM Networks: A Hybrid Approach for S&P 500 Index Volatility Forecasting
University of Warsaw(华沙大学);Faculty of Economic Sciences(经济学院);Department of Quantitative Finance and Machine Learning(金融与机器学习系);Quantitative Finance Research Group(金融研究组)
本文提出了一种结合随机波动率模型和LSTM网络的混合方法,用于改进S&P 500指数波动率预测,通过统计测试和投资模拟验证了其优越性。
2025-12-13 cs.AI cs.LG cs.NE
A Hybrid LSTM--Vision Transformer Architecture for Predicting HRRR Forecast Errors
Atmospheric Sciences Research Center, University at Albany, SUNY(纽约州立大学奥尔巴尼分校大气科学研究中心);University of Oklahoma(俄克拉荷马大学);State Weather Risk Communication Center, University at Albany, SUNY(纽约州立大学奥尔巴尼分校州天气风险沟通中心)
提出LSTM-ViT混合框架,结合地表观测时序与大气廓线,预测HRRR降水、风速和温度预报误差,相比基线LSTM性能提升,尤其降水误差预测技能提高约两倍。
2026-06-18 cs.AI cs.LG physics.ao-ph
Spatial-temporal wind field prediction by Artificial Neural Networks
Columbia University(哥伦比亚大学)
随着风力发电装机容量的增加,近地面风速的预测对于电网的运行变得越来越重要。大多数预测风速建模集中在基于点的时间序列预测。然而,在分布式风力涡轮机发电的情况下有效地平衡需求和供应,需要在空间和时间上预测风场。此外,全风场的预测对于未来的电力规划特别有用,例如电力供应系统的优化。本文提出了一种复合人工神经网络(ANN)预报大面积(~3.15 × 106 km ~ 2)6 h和24 h平均风速的模型。ANN模型由卷积输入层、长短期记忆(LSTM)隐藏层和作为输出层的转置卷积层组成。我们比较了人工神经网络模型与两个非参数模型,零持久性模型和平均值模型,并发现人工神经网络模型有实质上比这些模型的误差小。此外,人工神经网络模型通常也比集成自回归移动平均模型表现更好,集成自回归移动平均模型是为了在特定位置获得最佳性能而训练的。
2017-12-13 cs.LG stat.AP
An Evolutionary Deep Learning Method for Short-term Wind Speed Prediction: A Case Study of the Lillgrund Offshore Wind Farm
The University of Adelaide(阿德莱德大学);Sapienza University of Rome(罗马大学);The Australian Institute for Machine Learning(澳大利亚机器学习研究所);KTH Royal Institute of Technology(瑞典皇家理工学院)
准确的短期风速预测是大规模风电并网发电的基础。然而,风速的季节性和随机性特征使预报成为一项具有挑战性的任务。本研究使用一种新的混合进化方法,该方法使用流行的进化搜索算法CMA-ES来调整两个用于风预测的长短期记忆(LSTM)ANN模型的超参数。建议的混合方法是从安装在位于波罗的海的瑞典风电场的海上风力涡轮机收集的数据进行训练。在实验中,我们考虑了两个预报范围,即提前10分钟(绝对短期)和提前1小时(短期)。我们的实验结果表明,新的方法是优于其他五个应用机器学习模型,即,多项式神经网络(PNN)、前馈神经网络(FNN)、非线性自回归神经网络(NAR)和自适应神经模糊推理系统(ANFIS)。
2020-02-21 cs.LG cs.NE eess.SP
An Adaptive Deep Learning Framework for Day-ahead Forecasting of Photovoltaic Power Generation
Peng Cheng Laboratory(鹏城实验室);Southern University of Science and Technology(南方科技大学)
光伏发电(PVPG)的准确预测对于优化能源供需之间的运营至关重要。最近,传感器和智能仪表的普及产生了大量的数据,这支持了基于数据的PVPG预测的发展。虽然新兴的深度学习(DL)模型,例如基于历史数据的长短期记忆(LSTM)模型,为PVPG预测提供了有效的解决方案,并取得了巨大的成功,但这些模型利用了离线学习。因此,DL模型无法利用从新到达的数据中学习的机会,并且无法处理由安装额外的PV单元和不可预见的PV单元故障引起的概念漂移。因此,为了提高日前PVPG预测精度,同时消除概念漂移的影响,本文提出了一种自适应LSTM(AD-LSTM)模型,这是一种DL框架,不仅可以从历史数据中获取一般知识,还可以从新到达的数据中动态学习特定知识。将两阶段自适应学习策略(TP-ALS)集成到AD-LSTM中,并提出了一种滑动窗口(SDWIN)算法,以检测PV系统中的概念漂移。利用光伏系统的多个数据集来评估所提出的方法的可行性和有效性。开发的AD-LSTM模型比离线LSTM模型具有更强的预测能力,特别是在存在概念漂移的情况下。此外,与文献中的其他传统机器学习模型和统计模型相比,所提出的AD-LSTM模型在日前PVPG预测方面也具有优异的性能。
2021-09-28 cs.AI cs.LG physics.comp-ph
Learning the spatio-temporal relationship between wind and significant wave height using deep learning
IRMAR(雷恩数学研究所);Université de Rennes 1(雷恩第一大学);LCSM(海洋海岸环境实验室);Ifremer(法国海洋开发研究院);LMBA(布列塔尼大西洋数学实验室);Université de Bretagne Occidentale(西布列塔尼大学)
海洋波浪气候对近岸和离岸人类活动有着重要的影响,其特征可以帮助设计海洋结构物,如波浪能转换器和海堤。因此,工程师需要长时间序列的海浪参数。数值模型是海浪数据的宝贵来源,然而,它们在计算上是昂贵的。因此,近几十年来,统计和数据驱动的方法越来越受到关注。这项工作研究了北大西洋风和有效波高(Hs)在比斯开湾离岸位置之间的时空关系,使用两阶段深度学习模型。第一步使用卷积神经网络(CNN)来提取有助于Hs的空间特征。然后,使用长短期记忆(LSTM)来学习风和波浪之间的长期时间依赖关系。
2022-05-26 cs.LG stat.AP stat.ML
Prediction Scores as a Window into Classifier Behavior
LNM Institute of Information Technology(LNM信息技术学院);Centrum Wiskunde and Informatica(荷兰数学与计算机科学中心);Bosch Research(博世研究院)
大多数多类分类器通过对类进行评分并选择得分最高的类来对测试样本进行预测。分析这些预测分数有助于理解分类器的行为并评估其可靠性。我们提出了一个交互式的可视化,方便每类分析这些分数。我们的系统名为Classilist,可以将这些分数与分类正确性以及底层样本及其特征相关联。我们说明了如何这样的分析揭示了不同的分类器的不同行为。Classilist可在线使用,以及源代码、视频教程和R、RapidMiner和KNIME插件,网址为https://katehara.github.io/classilist-site/。
2017-11-18 cs.LG stat.ML
exploRNN: Understanding Recurrent Neural Networks through Visual Exploration
Ulm University(乌尔姆大学)
由于深度学习(DL)的成功及其不断增长的就业市场,来自许多领域的学生和研究人员都对学习DL技术感兴趣。事实证明,可视化在学习过程中有很大的帮助。虽然目前大多数教育可视化都针对一个特定的架构或用例,但能够处理序列数据的循环神经网络(RNN)尚未涵盖。这是尽管事实上,顺序数据的任务,如文本和功能分析,是在DL研究的前沿。因此,我们提出了explorerNN,这是第一个可交互探索的RNN教育可视化。在让学习更轻松、更有趣的基础上,我们定义了旨在理解RNN的教育目标。我们使用这些目标来形成视觉设计过程的指导方针。通过在线访问的exploRNN,我们提供了RNN训练过程的粗略概述,同时还允许详细检查LSTM单元内的数据流。在一项实证研究中,我们评估了37名受试者之间的设计,以调查与经典的基于文本的学习环境相比,exploRNN的学习成果和认知负荷。虽然文本组的学习者在表面知识获取方面领先,但explorRNN特别有助于更深入地理解学习内容。此外,explorRNN中的复杂内容被认为比文本组更容易,并且引起的额外负载更少。该研究表明,对于复杂的学习材料,如循环网络,深入理解是很重要的,交互式可视化,如explorRNN可能是有帮助的。
2022-06-22 cs.AI cs.HC cs.LG