Predicting Responses to a Robot's Future Motion using Generative Recurrent Neural Networks
Australian Centre for Field Robotics（澳大利亚野外机器人中心；悉尼大学）；University of Sydney
机器人在人群或牛群中导航需要能够预测附近个体的未来运动，并了解这些预测如何响应机器人的未来行动。使用循环神经网络（RNNs）的最先进的轨迹预测模型目前不考虑机器人的计划未来的行动，因此不能预测一个人将如何移动，以响应机器人的计划路径。我们提出了一种方法，适应RNNs使用机器人的下一个计划行动作为输入旁边的当前位置附近的个人。这允许模型从真实世界的观察中学习个体对机器人运动的反应。通过将机器人的动作与训练中周围人的反应联系起来，我们表明，我们不仅能够提高近距离互动的预测准确性，而且还能够预测周围人对模拟动作的可能反应。这允许使用模型来模拟状态转换，而不需要对代理交互进行任何假设。我们将此模型应用于不同的数据集，包括与车辆和自行车交互的行人人群，以及与机器人车辆交互的牲畜。
2020-01-28 cs.AI cs.CV cs.RO
Bach in 2014: Music Composition with Recurrent Neural Network
Carnegie Mellon University（卡内基梅隆大学）
我们提出了一个使用弹性传播（RProp）和长短期记忆（LSTM）循环神经网络的计算机音乐创作框架。在本文中，我们展示了LSTM网络通过展示其重新创建音乐的能力来正确学习音乐作品的结构和特征。我们还表明，预测现有的音乐使用RProp优于反向传播通过时间（BPTT）。
2014-12-14 cs.AI cs.NE
Predicting High-Flow Nasal Cannula Failure in an ICU Using a Recurrent Neural Network with Transfer Learning and Input Data Perseveration: A Retrospective Analysis
Children’s Hospital Los Angeles（洛杉矶儿童医院）
高流量鼻插管（HFNC）为重症儿童提供非侵入性呼吸支持，这些儿童可能比其他非侵入性（NIV）技术更容易耐受。及时预测HFNC失败可以提供增加呼吸支持的指示。这项工作开发并比较了预测HFNC故障的机器学习模型。使用EMR对2010年1月至2020年2月入住三级儿科ICU的患者进行了一项回顾性研究。训练长短期记忆（LSTM）模型以生成HFNC故障的连续预测。在HFNC开始后的不同时间，使用受试者工作曲线下面积（AUROC）评估性能。评估HFNC开始后2小时预测的敏感性、特异性、阳性和阴性预测值（PPV、NPV）。还在主要诊断为呼吸系统疾病的队列中计算这些指标。834项HFNC试验[455项培训，173项验证，206项测试]符合入选标准，其中175项[103，30，42]（21.0%）升级为NIV或插管。使用迁移学习训练的LSTM模型通常比LR模型表现更好，最好的LSTM模型在启动后两小时达到了0.78的AUROC，而LR为0.66。使用EMR数据训练的机器学习模型能够在开始后24小时内识别出HFNC失败的儿童。结合了迁移学习、输入数据持久化和集成的LSTM模型表现出比LR和标准LSTM模型更好的性能。
2021-11-20 cs.AI cs.LG
GDGRU-DTA: Predicting Drug-Target Binding Affinity Based on GNN and Double GRU
Hunan Normal University（湖南师范大学）
预测药物和靶点亲和力（DTA）的工作对于药物开发和再利用至关重要。在这项工作中，我们提出了一种称为GDGRU-DTA的新方法来预测药物与靶标之间的结合亲和力，该方法基于GraphDTA，但我们认为蛋白质序列是长序列，因此简单的CNN不能很好地捕获蛋白质序列中的上下文依赖性。因此，我们通过将蛋白质序列解释为时间序列并使用门递归单元（GRU）和双向门递归单元（BiGRU）提取其特征来改进它。对于药物，我们的处理方法与GraphDTA类似，但使用了两种不同的图形卷积方法。随后，药物和蛋白质的表示被连接起来用于最终预测。我们在两个基准数据集上评估了所提出的模型。我们的模型优于一些最先进的深度学习方法，结果证明了我们模型的可行性和出色的特征捕获能力。
2022-04-25 cs.AI cs.LG q-bio.QM
Driver Action Prediction Using Deep (Bidirectional) Recurrent Neural Network
Toyota InfoTechnology Center USA（美国丰田信息技术中心）
通过有效的驾驶员动作预测（DAP），可以显著改善高级驾驶员辅助系统（ADAS）。早期准确地预测驾驶员的行为可以帮助减轻潜在的不安全驾驶行为的影响，避免可能发生的事故。在本文中，我们制定了驾驶员行为预测作为一个时间序列异常预测问题。虽然异常（感兴趣的驾驶员动作）检测在这种情况下可能是微不足道的，但是找到始终先于异常的模式需要跨多模态感觉输入搜索或提取特征。我们提出了这样的驾驶员动作预测系统，包括用于预测未来或即将发生的驾驶员动作的实时数据采集、处理和学习框架。除了传统的车辆动力学，该系统还结合了基于摄像头的驾驶环境和驾驶员自身的知识。然后，它使用深度双向循环神经网络（DBRNN）来学习感官输入与即将发生的驾驶员行为之间的相关性，从而实现准确和高水平的动作预测。所提出的系统在驾驶员动作预测任务上比其他现有系统表现更好，并且可以在驾驶员执行动作之前5秒的持续时间内准确地预测关键驾驶员动作，包括加速、制动、变道和转弯。
2017-06-07 cs.AI cs.CV cs.LG
Predicting Real-time Crash Risks during Hurricane Evacuation Using Connected Vehicle Data
University of Central Florida（中佛罗里达大学）
本研究针对飓风疏散期间碰撞风险升高的问题，采用高频率网联车辆数据结合天气与交通特征训练机器学习模型，发现GPBoost与XGBoost模型召回率达0.91，可助力交通管理方主动防控风险。
2023-06-14 cs.LG stat.ML
Anticipation in Human-Robot Cooperation: A Recurrent Neural Network Approach for Multiple Action Sequences Prediction
Institute for Systems and Robotics（系统与机器人研究所）；Instituto Superior Técnico（高等技术研究所）；University Lisbon（里斯本大学）；Faculty of Technical Sciences（技术科学学院）；University of Novi Sad（诺维萨德大学）；Queen Mary University（伦敦玛丽女王大学）
密切的人机合作是先进制造和辅助应用新发展的关键推动力。密切合作需要机器人能够预测人类的行为和意图，并理解人类的非语言暗示。最近基于神经网络的方法已经在连续和离散空间中的人类行为预测问题中取得了令人鼓舞的结果。我们的方法扩展了这个方向的研究。我们的贡献是三方面的。首先，我们验证使用的凝视和身体姿势线索作为一种手段，通过特征选择方法预测人类的行动。接下来，我们解决现有文献的两个缺点：预测多个和可变长度的动作序列。这是通过在离散动作预测问题中引入编码器-解码器循环神经网络拓扑来实现的。此外，我们从理论上证明了预测多个动作序列的重要性，作为一种手段，估计在人类机器人合作的情况下的随机奖励。最后，我们展示了在动作预测数据集上有效地训练预测模型的能力，包括人体运动数据，并探索模型参数对其性能的影响。源代码库：https://github.com/pschydlo/ActionAnticipation
2019-02-18 cs.AI cs.HC cs.RO
LIMSI_UPV at SemEval-2020 Task 9: Recurrent Convolutional Neural Network for Code-mixed Sentiment Analysis
LIMSI, CNRS, Université Paris-Saclay（LIMSI实验室，法国国家科学研究中心，巴黎-萨克雷大学）；Universitat Politècnica de València（瓦伦西亚理工大学）
本文介绍了LIMSI UPV团队参与SemEval-2020任务9：代码混合社交媒体文本的情感分析。所提出的方法在SentiMix印地语-英语子任务中竞争，该子任务解决了预测给定印地语-英语代码混合推文的情感的问题。我们提出了递归卷积神经网络，它结合了递归神经网络和卷积网络，以更好地捕捉文本的语义，代码混合的情感分析。所提出的系统在给定的测试数据上获得了0.69（最佳运行）的F1分数，并在SentiMix印地语-英语子任务中获得了第9名（Codalab用户名：somban）。
2020-08-30 cs.AI cs.CL
Optimizing Long Short-Term Memory Recurrent Neural Networks Using Ant Colony Optimization to Predict Turbine Engine Vibration
University of North Dakota（北达科他大学）
这篇文章扩展了已经完成的研究，以开发一种能够使用长短期记忆（LSTM）神经元预测飞机发动机振动的递归神经网络（RNN）。LSTM RNN可以为发动机振动的分析计算提供更通用和更强大的预测方法，因为分析计算必须基于特定的经验发动机参数迭代求解，使得这种方法无法在多个发动机中推广。在最初的工作中，提出、评估和比较了多种LSTM RNN架构。这项研究通过使用基于蚁群优化（ACO）的有前途的神经进化方法来开发和增强网络的LSTM细胞结构，从而提高了以前工作中提出的最有效的LSTM网络设计的性能。已经开发了ACO神经进化算法的并行化版本，并将进化的LSTM RNN与以前使用的固定拓扑进行了比较。进化后的网络是在一个大型的飞行数据记录数据库上训练的，该数据库是从一家航空公司获得的，该航空公司的航班遭受了过度振动。结果是在高性能计算（HPC）集群上使用MPI（消息传递接口）获得的，在4天内使用168个核心进化了1000个不同的LSTM单元结构。新进化的LSTM单元显示出1.35%的改进，在预测未来10秒的过度发动机振动时，预测误差从5.51%降低到4.17%，同时将权重从21，170大幅减少到11，810。
2017-10-10 cs.AI cs.NE
Recurrent Neural Network on PICTURE Model
University of Michigan（密歇根大学）
针对ICU资源分配需求，本研究基于PICTURE模型实现循环神经网络深度学习模型，对标现有竞争模型XGBoost的性能，以提升患者病情恶化预测准确性。
2024-12-02 cs.AI
Deploying scalable traffic prediction models for efficient management in real-world large transportation networks during hurricane evacuations
University of California, Los Angeles（加州大学洛杉矶分校）
本研究针对飓风疏散中交通预测的挑战，提出整合MLP与LSTM的预测系统，结合多源数据，在现实路网部署中实现了较高的长短期预测精度，具备良好的适应性与可扩展性。
2024-06-17 cs.AI cs.LG cs.SI
Clustering in Recurrent Neural Networks for Micro-Segmentation using Spending Personality
长期以来，客户细分一直是银行业的一个富有成效的领域。然而，随着对传统问题的新方法的出现，也带来了新的机会。细粒度的客户细分是出了名的难以捉摸，获得它们的一种方法是通过特征提取。可以将标准人格特质的系数分配给随时间聚集的金融交易类别。然而，我们已经发现，所形成的聚类对于微分割来说并不具有足够的区分性。在一种新的方法中，我们从神经网络的隐藏状态中提取具有连续值的时间特征，从客户的金融交易中预测客户的消费个性。我们分别使用长短期记忆（LSTM）和前馈神经网络来考虑时间模型和非序列模型。我们发现，循环神经网络产生微段，而前馈网络只产生粗段。最后，我们表明，使用这些提取的功能进行分类至少以及定制模型的两个常见的指标，即贷款违约率和客户流动性指数。
2021-10-13 cs.AI
A Deep Learning Approach for Network-wide Dynamic Traffic Prediction during Hurricane Evacuation
University of Central Florida（中佛罗里达大学）
主动疏散交通管理在很大程度上依赖于高时空分辨率的交通流实时监测和预测。然而，疏散交通预测是具有挑战性的，由于预测的飓风路径的突然变化，从而家庭疏散行为所造成的不确定性。此外，建模时空交通流模式需要在较长的时间段内的大量数据，而疏散通常持续2至5天。在本文中，我们提出了一种新的数据驱动的方法来预测疏散交通在网络规模。我们开发了一个动态图卷积LSTM（DGCN-LSTM）模型来学习飓风疏散的网络动力学。我们首先对非疏散时段交通数据的模型进行训练，结果表明该模型在预测非疏散时段交通方面优于现有的深度学习模型，RMSE值为226.84。然而，当我们将模型应用于疏散时间时，RMSE值增加到1440.99。我们克服了这个问题，采用了迁移学习的方法与疏散交通需求，如距离疏散区，时间着陆，和其他区域水平的功能，以控制信息（网络动态）从非疏散期间转移到疏散期间的额外功能。最终的转移学习DGCN-LSTM模型表现良好，预测疏散交通流（RMSE=399.69）。所实现的模型可以应用于预测疏散交通在一个较长的预测范围（6小时）。它将协助运输机构启动适当的交通管理战略，以减少疏散交通的延误。
2022-02-25 cs.LG cs.SI
Graph Attention Network for Predicting Duration of Large-Scale Power Outages Induced by Natural Disasters
School of Electrical and Computer Engineering（电气与计算机工程学院）；Georgia Institute of Technology（佐治亚理工学院）
针对现实场景下自然灾害引发大规模停电持续时间预测的三大挑战，提出经无监督预训练加半监督学习的GAT模型，在飓风实测数据上准确率超93%，性能优于多种现有方法。
2025-11-14 cs.LG stat.ML
Predicting Patient State-of-Health using Sliding Window and Recurrent Classifiers
University of Edinburgh（爱丁堡大学）；University of Oxford（牛津大学）；Alan Turing Institute（艾伦·图灵研究所）
重症监护室（ICU）中的床边监护仪经常发出错误的声音，减慢响应时间并使护士对警报不敏感（Chambery，2001），导致错过真正的警报（Hug等人，2011年）。我们比较滑动窗口预测与复发预测分类ICU多变量时间序列患者的健康状况，我们报告了四个目标中三个的RNN性能略有改善。
2016-12-02 cs.LG stat.ML
Prediction of Bayesian Intervals for Tropical Storms
Ganzfried Research（甘兹弗里德研究所）
基于最近使用递归神经网络（RNNs）预测飓风轨迹的研究，我们已经开发了改进的方法，并推广了预测贝叶斯区间的方法，以及简单的点估计。热带风暴能够造成严重破坏，因此准确预测其轨迹可以为城市和生活带来重大利益，特别是当它们由于气候变化影响而变得更加强烈时。通过在RNN中使用dropout实现贝叶斯区间，我们提高了预测的可操作性，例如通过估计登陆地区的疏散区域。我们使用RNN以6小时为间隔预测风暴的轨迹。我们使用的纬度，经度，风速和压力的功能，从统计飓风强度预测计划（SHIPS）数据集的约500个热带风暴在大西洋。我们的研究结果显示了神经网络dropout值如何影响预测和间隔。
2020-03-10 cs.LG physics.ao-ph stat.AP
Convolutional Mixture Density Recurrent Neural Network for Predicting User Location with WiFi Fingerprints
使用WiFi指纹预测智能手机用户活动是近年来室内定位的流行方法。然而，这样的高维时间序列预测问题可能非常棘手。为了解决这个问题，我们提出了一种新的深度学习模型，卷积混合密度循环神经网络（CMDRNN），它结合了卷积神经网络，递归神经网络和混合密度网络的优势。在我们的模型中，CNN子模型用于检测高维输入的特征，RNN子模型用于捕获时间依赖性，MDN子模型用于预测最终输出。为了验证该方法的有效性，我们在真实数据集上进行了实验，实验结果表明了该方法的有效性。
2019-11-21 cs.LG eess.SP stat.ML
Comparing recurrent and convolutional neural networks for predicting wave propagation
Imperial College London（帝国理工学院）；The University of Edinburgh（爱丁堡大学）
动力系统可以用偏微分方程来建模，数值计算在科学和工程中无处不在。在这项工作中，我们研究了递归和卷积深度神经网络架构预测表面波的性能。该系统由圣维南方程控制。我们改进了以前的方法的长期预测，同时保持推理时间在一小部分的数值模拟。我们还表明，卷积网络在这项任务中的表现至少与递归网络一样好。最后，我们通过在较长的时间范围内和不同的物理环境中进行外推来评估每个网络的泛化能力。
2020-04-20 cs.CV cs.LG stat.ML
Predicting purchasing intent: Automatic Feature Learning using Recurrent Neural Networks
Cardiff University（卡迪夫大学）；Maynooth University（梅努斯大学）
我们提出了一个神经网络，用于预测在电子商务环境中的购买意图。我们的主要贡献是解决特征工程的重大投资，这通常与最先进的方法，如梯度提升机。我们使用可训练的向量空间来建模变化的、半结构化的输入数据，包括类别、数量和独特的实例。多层循环神经网络捕获任何长度的用户会话的会话-本地和队列-全局事件依赖性和关系。包括参数共享和跳过连接的模型设计决策的探索进一步提高了模型的准确性。在基准数据集上的结果提供了98%的最先进的分类精度，并超过了最先进的第二个，而不需要任何领域/特定于短和长事件序列的特征工程。
2018-07-21 cs.LG stat.ML
Predicting Customer Lifetime Value Using Recurrent Neural Net
Meta Platforms, Inc.（元平台公司）；Amazon.com, Inc.（亚马逊公司）；Uber Technologies, Inc.（优步科技公司）
本文提出一种考虑用户群组、系统年龄和日历日期的多单元 LSTM 式循环神经网络，用于预测 SaaS 新老用户在多时间跨度下的生命周期价值，并显著降低中位绝对百分比误差。
2025-01-05 cs.LG stat.AP stat.ML
Predicting Electricity Consumption using Deep Recurrent Neural Networks
Murdoch University（莫道克大学）
在过去几十年中，电力消耗呈指数级增长。这一增长给电力分销商带来了沉重的负担。因此，预测未来的电力消费需求将为电力分销商提供优势。预测电力消耗需要许多参数。本文提出了两种方法，一种是使用递归神经网络（RNN），另一种是使用长短期记忆（LSTM）网络，它只考虑以前的用电量来预测未来的用电量。这些模型在公开的伦敦智能电表数据集上进行了测试。为了评估RNN和LSTM网络预测电力消耗的适用性，我们对它们进行了测试，以预测给定时间段内的单个房屋和一组房屋。这些预测是针对每日、三个月和13个月进行的，涵盖了短期、中期和长期预测。RNN和LSTM网络的平均均方根误差都达到了0.1。
2019-09-18 cs.LG eess.SP stat.ML
Predicting Blossom Date of Cherry Tree With Support Vector Machine and Recurrent Neural Network
我们的项目探讨了温度和樱花开花日期之间的关系。通过建模，未来的开花将变得可预测，帮助公众计划旅行并避免花粉季节。为了准确预测樱花的开花日期，可以被视为一个多类分类问题，所以我们应用多类支持向量分类器（SVC）和循环神经网络（RNN），特别是长短期记忆（LSTM），制定问题。最后，我们评估和比较这些方法的性能，找出哪一个可能更适用于现实。
2022-10-10 cs.LG
Medi-Care AI: Predicting Medications From Billing Codes via Robust Recurrent Neural Networks
Zhengzhou University（郑州大学）；Hefei University of Technology（合肥工业大学）；Dalian Neusoft University of Information（大连东软信息学院）
在本文中，我们提出了一个基于鲁棒循环神经网络（RNN）的有效深度预测框架，以预测患者正在服用的药物的可能治疗类别，给定其记录中的诊断计费代码序列。由于未定义的错误和遗漏，准确捕获给定患者当前服用的药物列表极具挑战性。我们提出了一个通用的强大的框架，明确地模拟可能的污染，通过超时衰减机制的输入计费代码和噪声注入到经常性的隐藏状态，分别。通过这样做，计费代码被重新公式化为每个医疗变量上具有衰减率的时间模式，并且RNN的隐藏状态通过随机噪声进行正则化，这些随机噪声作为丢弃，以提高RNN对缺失值和多个错误方面的数据变化的鲁棒性。所提出的方法进行了广泛的评估，真实的医疗保健数据，以证明其有效性，建议从污染值的药物订单。
2019-11-14 cs.LG stat.ML
Ambiguity in Sequential Data: Predicting Uncertain Futures with Recurrent Models
Università di Bologna（博洛尼亚大学）；BMW Group（宝马集团）；Technische Universität München（慕尼黑工业大学）；Google（谷歌）
模糊性在许多机器学习任务中固有地存在，但特别是对于很少考虑的顺序模型，因为大多数只输出单个预测。在这项工作中，我们提出了一个扩展的多假设预测（MHP）模型来处理模糊的预测与连续的数据，这是特别重要的，因为往往多个未来是同样可能的。我们的方法可以应用于最常见的递归架构，并可以与任何损失函数一起使用。此外，我们引入了一种新的度量模糊的问题，这是更好地适合占的不确定性，并符合我们的直观理解的正确性，在存在多个标签。我们测试我们的方法在几个实验和跨不同的任务处理时间序列数据，如轨迹预测和机动预测，取得了可喜的成果。
2020-03-10 cs.CV cs.LG stat.ML
Predicting Rigid Body Dynamics using Dual Quaternion Recurrent Neural Networks with Quaternion Attention
South Westfalia University of Applied Science（西南威斯特伐利亚应用科学大学）
我们提出了一种新的神经网络架构的基础上，双四元数，它允许一个紧凑的表示信息的主要重点是描述刚体运动。为了涵盖刚体运动固有的动态行为，我们提出了神经网络中的递归架构。为了进一步有效地模拟各个刚体之间的相互作用以及外部输入，我们采用了一种新的注意力机制，采用对偶四元数代数。所介绍的架构是可训练的梯度为基础的算法。我们将我们的方法应用到包裹预测问题，其中具有初始位置，方向，速度和角速度的刚体通过固定的模拟环境移动，该环境表现出包裹和边界之间的丰富相互作用。
2020-11-17 cs.LG
A Recurrent Neural Network Survival Model: Predicting Web User Return Time
Imperial College London（帝国理工学院）；Vodafone Research（沃达丰研究院）；ISR, IST, Universidade de Lisboa（里斯本大学高等技术学院系统与机器人研究所）
一个网站的活跃用户群的大小直接影响其价值。因此，监控和影响用户返回站点的可能性是重要的。关键是预测用户何时返回。解决该问题的现有技术方法有两种：（1）基于循环神经网络（RNN）的解决方案和（2）生存分析方法。我们观察到，这两种技术是严重限制时，适用于这个问题。生存模型只能合并用户的聚合表示，而不是直接从用户操作的原始时间序列自动学习表示。RNN可以自动学习特征，但不能直接用没有返回时间目标值的非返回用户的例子进行训练。我们开发了一种新的RNN生存模型，消除了现有方法的局限性。我们证明，该模型可以成功地应用于返回时间预测的大型电子商务数据集具有优越的能力，区分返回和非返回的用户比任何一种方法单独应用。
2018-07-11 cs.CY cs.IR cs.LG
Predicting the Binding of SARS-CoV-2 Peptides to the Major Histocompatibility Complex with Recurrent Neural Networks
Fraunhofer Heinrich Hertz Institute（弗劳恩霍夫海因里希·赫兹研究所）
用机器学习预测病毒肽与主要组织相容性复合体的结合可能会扩展疫苗开发的计算免疫学工具包，并作为对抗大流行病的关键组成部分。在这项工作中，我们适应和扩展USMPep，最近提出的，概念上简单的预测算法的基础上循环神经网络。最值得注意的是，我们结合回归（结合亲和力数据）和分类器（质谱数据）从定性不同的数据源，以获得更全面的预测工具。我们在最近发布的SARS-CoV-2数据集上评估了结合稳定性测量的性能。USMPep不仅为选定的单个等位基因设定了新的基准，而且一直是性能最好的方法之一，或者对于某些指标，甚至是这项任务的整体性能最好的方法。
2021-04-16 cs.LG q-bio.QM
Variable-sized input, character-level recurrent neural networks in lead generation: predicting close rates from raw user inputs
预测铅关闭率是铅代行业中最有问题的任务之一.在大多数情况下，关于前景的唯一可用数据是用户在潜在客户表单上输入的自我报告信息以及通过社交媒体和搜索引擎使用公开可用的其他一些数据点。所有主要的市场利基为铅一代[1]，如保险，健康&医疗和房地产，处理改变生活的决策，没有任何数量的数据将永远无法描述或预测。本文阐述了如何字符级，深度长短期记忆网络可以应用于原始用户输入，以帮助预测关闭率。然后，模型的输出被用作一个额外的、高度预测的功能，以显著提高潜在客户评分模型的性能。
2019-01-16 cs.CL cs.LG
Predicting Aircraft Trajectories: A Deep Generative Convolutional Recurrent Neural Networks Approach
University of California, Berkeley（加州大学伯克利分校）
可靠的4D飞行器轨迹预测，无论是在实时环境中还是用于反事实分析，对航空系统的效率都很重要。为此，我们首先提出了一个高度概括的高效的基于树的匹配算法，从高保真气象数据集-风，温度和对流天气构造图像般的特征地图。然后，我们将轨迹上的轨迹点建模为条件高斯混合，其中参数将从我们提出的深度生成模型中学习，该模型是一个端到端卷积递归神经网络，由长短期记忆（LSTM）编码器网络和混合密度LSTM解码器网络组成。编码器网络将最后一个字段的飞行计划信息嵌入到固定大小的隐藏状态变量中，并馈送给解码器网络，解码器网络进一步从历史飞行轨迹中学习时空相关性，并输出高斯混合的参数。卷积层被集成到管道中，以从高维天气特征中学习表示。在推理过程中，束搜索，自适应卡尔曼滤波器，和Rauch-Tung-Striebel平滑算法被用来修剪生成的轨迹的方差。
2018-12-31 cs.LG stat.ML
Predicting the spread of COVID-19 in Delhi, India using Deep Residual Recurrent Neural Networks
Louisiana Tech University（路易斯安那理工大学）
检测冠状病毒的传播将大大有助于减少人类和经济损失。不幸的是，用于COVID-19预测模型的现有流行病学模型太慢，无法详细捕捉COVID-19的发展。本研究使用偏微分方程来提高SEIRD模型方程所支配的COVID 19预测的处理速度和准确性。使用卷积神经网络和深度残差循环神经网络从使用偏微分方程模拟的数据中提取COVID 19的动态。DRRNN的准确性是使用均方误差来测量的。DRRNN COVID-19预测模型已被证明具有准确的COVID-19预测。此外，我们得出结论，DR-RNN可以显著提高实时的COVID-19预测中支持决策的能力。
2021-10-09 cs.LG
Predicting Auction Price of Vehicle License Plate with Deep Recurrent Neural Network
Department of Economics, The Chinese University of Hong Kong, Shatin, Hong Kong（香港中文大学经济系，沙田，香港）
本文提出将车辆车牌价格预测视为自然语言处理任务，通过构建深度循环神经网络来预测香港车牌拍卖价格，并展示了模型在解释价格变化和扩展为车牌搜索引擎方面的贡献。
2019-10-08 cs.CL cs.LG econ.GN
Prediction of the onset of cardiovascular diseases from electronic health records using multi-task gated recurrent units
Sensyne Health plc（Sensyne Health公司）
在这项工作中，我们提出了一个多任务的递归神经网络与注意力机制预测心血管事件的电子健康记录（EHRs）在不同的时间范围。所提出的方法相比，标准的临床风险预测（QRISK）和机器学习替代品使用5年的数据从NHS基金会信托。考虑到最大的时间范围，所提出的模型在预测中风（AUC=0.85）和心肌梗死（AUC=0.89）方面优于标准临床风险评分。使用\gls{mt}设置的益处在非常短的时间范围内变得明显，这导致AUC增加2- 6%。此外，我们探讨了个体特征和注意力权重在预测心血管事件中的重要性。我们的研究结果表明，递归神经网络方法受益于医院的纵向信息，并演示了如何将机器学习技术应用于二级护理。
2020-07-16 cs.LG stat.ML
Doctor AI: Predicting Clinical Events via Recurrent Neural Networks
Georgia Institute of Technology（佐治亚理工学院）；Sutter Health（萨特医疗系统）
利用电子健康记录（EHR）中的大量历史数据，我们开发了Doctor AI，这是一种通用预测模型，涵盖了观察到的医疗状况和药物使用。Doctor AI是一个使用循环神经网络（RNN）的时间模型，它被开发并应用于来自26万名患者8年多的纵向时间戳EHR数据。将遭遇记录（例如诊断代码、药物代码或程序代码）输入RNN，以预测后续访视的（所有）诊断和药物类别。AI医生评估患者的病史，以进行多标签预测（每个诊断或药物类别一个标签）。基于单独的盲测集评估，Doctor AI可以进行鉴别诊断，召回率高达79%@30，显著高于几个基线。此外，我们通过将结果模型从一个机构调整到另一个机构而不会失去实质性的准确性，证明了Doctor AI的高度普遍性。
2016-09-28 cs.LG
Dynamic Prediction of Alternating Recurrent Events via Neural Network
Macalester College（马卡莱斯特学院）；University of Michigan（密歇根大学）
提出基于神经网络和逆概率加权伪观测的动态预测框架，用于预测交替复发事件，在模拟和医学住院医师情绪低落预测中表现良好。
2026-07-01 cs.LG stat.AP stat.ML
Leveraging Recurrent Neural Networks for Predicting Motor Movements from Primate Motor Cortex Neural Recordings
本研究针对非人灵长类神经记录的运动解码问题，提出采用AEGRU模型（训练阶段用自编码器提升泛化），结合预处理在Neurobench基准及IEEE BioCAS 2024神经解码挑战赛中取得最优$R^2$成绩，且剪枝后可大幅降低运算量且性能损失极小。
2024-11-01 cs.LG eess.SP q-bio.NC
Predicting Diabetes Disease Evolution Using Financial Records and Recurrent Neural Networks
Universidade Federal de Goiás（戈亚斯联邦大学）
在一些国家，管理慢性病患者是一项重大且日益严峻的医疗保健挑战。慢性疾病，如糖尿病，是一种持续很长时间且不会消失的疾病，通常会导致患者的健康状况逐渐恶化。虽然最近的工作涉及来自医院的原始电子健康记录（EHR），但这项工作仅使用来自健康计划提供者（医疗索赔）的财务记录来预测糖尿病疾病的演变。使用财务数据是因为有可能成为国际标准的接口，因为记录标准对医疗程序进行编码。主要目标是评估高风险糖尿病患者，因此我们预测与糖尿病急性并发症相关的记录，如截肢和清创术，血运重建和血液透析。我们的工作成功地预测了60至240天之间的并发症，ROC曲线下面积范围为0.81至0.94。在本文中，我们描述了一个健康计划提供者的ROC曲线范围从0.81到0.83的工作中开发的上半年。这一评估将使医疗保健提供者有机会更早地进行干预并阻止住院治疗。我们的目标是为个体患者提供个性化的预测和个性化的建议，以改善结果并降低成本
2020-03-20 cs.LG stat.ML
Learning to fail: Predicting fracture evolution in brittle material models using recurrent graph convolutional neural networks
Claremont Graduate University（克莱蒙特研究生大学）；Pomona College（波莫纳学院）；San Diego State University（圣地亚哥州立大学）；Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）；Broadridge Financial Solutions（百瑞吉金融解决方案公司）；Institute of Mathematical Sciences（数学科学研究所）；Mathematics Department（数学系）；Computational Science Research Center（计算科学研究中心）；Earth and Environmental Sciences Division（地球与环境科学部）
我们提出了一种机器学习方法来解决材料科学中的一个关键挑战：预测应力下脆性材料中的断裂如何传播，以及这些材料最终如何失效。我们的方法使用深度学习和对高保真模型的仿真数据进行训练，仿真这些模型的结果，同时避免与运行统计上显著的仿真样本相关的压倒性计算需求。我们采用了一个识别压裂材料特征的图卷积网络和一个对这些特征的演变进行建模的递归神经网络，以及一种新形式的数据增强，以补偿我们训练数据的适度大小。我们同时生成定性不同的材料属性的预测。断裂损伤和长度的结果在其模拟值的3%以内，材料失效时间的结果在模拟值的约15%以内，即使使用高保真模型也难以预测。一旦经过训练，我们的神经网络可以在几秒钟内生成预测，而不是运行单个模拟所需的几个小时。
2019-03-15 cond-mat.mtrl-sci cs.LG physics.data-an
Predicting Liquidity Coverage Ratio with Gated Recurrent Units: A Deep Learning Model for Risk Management
University of Pennsylvania（宾夕法尼亚大学）；Columbia University（哥伦比亚大学）；Rice University（莱斯大学）；New York University（纽约大学）
本文提出基于GRU网络的流动性覆盖率预测模型，利用历史数据学习复杂模式，实验显示其MAE显著优于传统方法，可提升流动性风险管理与金融监管决策的可靠性。
2024-10-24 cs.LG
Predicting Movie Genres Based on Plot Summaries
University of Massachusetts-Amherst（马萨诸塞大学阿默斯特分校）
这个项目探索了几种机器学习方法来根据情节摘要预测电影类型。本文采用朴素贝叶斯、Word 2 Vec +XGBoost和递归神经网络进行文本分类，采用K-二进制变换、秩方法和学习概率阈值的概率分类方法进行多标签分类。000部电影表明，采用门控递归单元（GRU）神经网络的概率分类与学习概率阈值的方法取得了最好的结果，对测试集。该模型的Jaccard指数为50.0%，F分数为0.56，命中率为80.5%。
2018-01-15 cs.CL cs.LG stat.ML
Predicting Confusion from Eye-Tracking Data with Recurrent Neural Networks
The University of British Columbia（不列颠哥伦比亚大学）
受到深度学习在各个领域的成功的鼓舞，我们研究了循环神经网络（RNN）在尚未使用深度学习的领域的适用性和有效性;即从眼动追踪数据中检测混淆。通过对用户与ValueChart（一种交互式可视化工具）交互的数据集进行实验，我们发现RNN从原始数据中学习特征表示，这使得分类器比以前使用工程特征的方法更强大。这通过RNN（0.74/0.71灵敏度/特异性）的更强性能来证明，与随机森林分类器（0.51/0.70灵敏度/特异性）相比，当两者都在未增强的数据集上训练时。然而，使用工程特征允许使用简单的数据增强方法。这些相同的方法在增强从原始数据中学习的特征表示方面并不有效，这可能是由于无法匹配数据的时间动态。
2019-06-19 cs.CV cs.HC cs.LG
Physics-Guided Recurrent Graph Networks for Predicting Flow and Temperature in River Networks
University of Pittsburgh（匹兹堡大学）；U.S. Geological Survey（美国地质调查局）；University of Minnesota（明尼苏达大学）
本文提出了一种物理引导的机器学习方法，将先进的机器学习模型和基于物理的模型相结合，以提高对河流网络中的水流和温度的预测。我们首先建立一个递归图网络模型来捕捉河流网络中多个段之间的相互作用。然后，我们提出了一种预训练技术，该技术从基于物理的模型中转移知识，以初始化机器学习模型并学习水流和热力学的物理学。我们还提出了一个新的损失函数，平衡不同河段的性能。我们证明了所提出的方法在预测温度和流量在特拉华河流域的一个子集的有效性。特别是，我们表明，所提出的方法比最先进的基于物理的模型提高了33%/14%，比传统的机器学习模型提高了24%/14%（例如，长短期记忆神经网络）在温度/流量预测中使用非常稀疏（0.1\%）的观测数据进行训练。所提出的方法也已被证明，以产生更好的性能时，推广到不同的季节或不同的流量范围的河流段。
2020-12-08 cs.CV cs.LG physics.geo-ph
Predicting Coronal Mass Ejections Using SDO/HMI Vector Magnetic Data Products and Recurrent Neural Networks
New Jersey Institute of Technology（新泽西理工学院）；Big Bear Solar Observatory（大熊太阳观测台）
我们提出了两个循环神经网络（RNN），一个基于门控递归单元，另一个基于长短期记忆，用于预测产生M级或X级耀斑的活动区（AR）是否也会产生日冕物质抛射（CME）。我们将AR中的数据样本建模为时间序列，并使用RNN来捕获数据样本的时间信息。每个数据样本都有18个物理参数或特征，这些参数或特征来自太阳动力学天文台（SDO）上的日震和磁成像仪（HMI）拍摄的光球矢量磁场数据。我们使用美国国家环境信息中心（NCEI）提供的地球同步运行环境卫星的X射线耀斑目录调查了2010年5月至2019年5月发生的M级和X级耀斑，并选择了NCEI目录中具有识别AR的耀斑。此外，我们还从空间天气知识、信息数据库（DONKI）中提取了耀斑与日冕物质抛射的关联。我们使用上面收集的信息来构建手头数据样本的标签（正面与负面）。实验结果表明，我们的RNN在预测数据样本的标签方面优于密切相关的机器学习方法。我们还讨论了扩展我们的方法来预测的概率估计如何可能M-或X-级耀斑将启动CME，具有良好的性能结果。据我们所知，这是RNN首次用于CME预测。
2020-02-22 astro-ph.SR cs.LG
Deep auscultation: Predicting respiratory anomalies and diseases via recurrent neural networks
University of Calabria（卡拉布里亚大学）
呼吸道疾病是全世界严重疾病和死亡的最常见原因之一。预防和早期诊断对于限制甚至扭转这类疾病扩散的趋势至关重要。在这方面，用于分析呼吸听诊声音的先进计算工具的开发可以成为检测疾病相关异常或疾病本身的游戏规则改变者。在这项工作中，我们提出了一个新的学习框架呼吸听诊声音数据。我们的方法结合了最先进的特征提取技术和先进的深度神经网络架构。值得注意的是，据我们所知，我们是第一个建立基于递归神经网络的学习框架的模型，以支持临床医生在异常声音或病理类别的水平上检测呼吸系统疾病。在ICBHI基准数据集上获得的结果表明，我们的方法在异常驱动和病理驱动的预测任务上都优于竞争方法，从而推进了呼吸系统疾病分析的最新发展。
2019-07-11 cs.LG cs.SD eess.AS
A Pyramid Recurrent Network for Predicting Crowdsourced Speech-Quality Ratings of Real-World Signals
Indiana University（印第安纳大学）
客观语音质量测量的真实世界能力是有限的，因为当前的测量（1）是从模拟数据开发的，不能充分模拟真实环境;或者它们（2）预测的客观分数并不总是与主观评级强烈相关。此外，目前还不存在具有收听者质量评级的真实世界信号的大型数据集，这将有助于促进真实世界的评估。在本文中，我们收集和预测由人类听众评估的真实世界语音信号的感知质量。我们首先通过对两个真实语料库进行众包听力研究来收集大型质量评级数据集。我们进一步开发了一种新的方法，预测人类的质量评级使用金字塔双向长短期记忆（pBLSTM）网络与注意力机制。结果表明，该模型实现了统计上较低的估计误差比以前的评估方法，其中预测的分数与人类的判断强烈相关。
2020-07-31 cs.CL cs.LG cs.MM
Recurrent Multigraph Integrator Network for Predicting the Evolution of Population-Driven Brain Connectivity Templates
BASIRA Lab（巴希拉实验室）；Istanbul Technical University（伊斯坦布尔理工大学）
学习如何从大脑多重图的群体中估计连接大脑模板（CBT），其中每个图（例如，功能）量化了感兴趣的大脑区域（ROI）之间的特定关系，允许确定个体之间共享的独特连接模式。具体地，CBT被视为一组高度异构图的整体表示，并且理想地满足中心性（即，到群体中所有图的最小距离）和判别性（即，区分健康人群和紊乱人群）标准。到目前为止，现有的工作仅限于整合和融合在一个单一的时间点获得的大脑多图人口。在本文中，我们前所未有地解决了这个问题：给定一个基线多重图人群，我们能否学习如何在后续时间点整合和预测其CBT表示？解决这个问题对于预测健康和疾病人群的共同变化至关重要。为了填补这一空白，我们提出了递归多图积分器网络（ReMI-Net），这是第一个图递归神经网络，它可以推断输入群体t1的基线CBT，并预测其随时间的纵向演变（ti> t1）。我们的ReMI-Net由具有图卷积层的递归神经块组成，使用跨节点消息传递来首先学习每个CBT节点的隐藏状态嵌入（即，感兴趣的脑区域），然后预测其在连续时间点的演变。此外，我们设计了一种新的时间依赖性损失来规范CBT随时间的演化轨迹，并进一步引入循环递归和可学习的归一化层，以从时间依赖性隐藏状态嵌入生成中心良好的CBT。最后，我们从学习的隐藏状态图表示中推导出CBT邻接矩阵。
2021-10-06 cs.CV cs.LG q-bio.NC
Multimodal Recurrent Ensembles for Predicting Brain Responses to Naturalistic Movies (Algonauts 2025)
Max Planck Institute for Human Cognitive and Brain Sciences（马克斯·普朗克人类认知与脑科学研究所）；TU Dresden（德累斯顿技术大学）；School for Embedded and Composite AI (SECAI)（嵌入式与复合人工智能学院）；Center for Scalable Data Analytics & AI (ScaDS.AI)（可扩展数据与人工智能中心）
本研究提出分层多模态循环集成模型，整合多模态时序信息预测大脑对自然电影的fMRI反应，在Algonauts 2025挑战赛中获季军，为多模态脑编码研究提供了可扩展基线。
2025-10-29 cs.CV cs.LG q-bio.NC
Recurrent Brain Graph Mapper for Predicting Time-Dependent Brain Graph Evaluation Trajectory
Istanbul Technical University（伊斯坦布尔技术大学）；University of Manouba（马努巴大学）
通过观察大脑结构和功能连接的变化，可以发现几种大脑疾病。神经学研究结果表明，早期诊断大脑疾病，如轻度认知障碍（MCI），可以预防甚至逆转其发展为阿尔茨海默病（AD）。在这种背景下，最近的研究旨在通过提出适用于大脑图像的机器学习模型来预测大脑连接性随时间的演变。然而，这种方法是昂贵和耗时的。在这里，我们建议使用大脑的连接作为一个更有效的替代时间依赖性的大脑疾病的诊断，而不是把大脑作为一个大的互连图表征几个大脑区域之间的互连方案。我们将我们提出的方法称为递归脑图映射器（RBGM），这是一种新型的高效的基于边缘的递归图神经网络，它可以从单个基线预测脑图的时间依赖性评估轨迹。我们的RBGM包含一组针对每个时间点的递归神经网络启发的映射器，其中每个映射器旨在将地面真实脑图投影到下一个时间点。我们利用教师强迫方法来促进训练，提高进化的脑图质量。为了保持在每个时间点预测的脑图和它们对应的地面实况脑图之间的拓扑一致性，我们进一步整合拓扑损失。我们还使用l1损失来捕获时间依赖性，并最小化连续时间点的脑图之间的距离以进行正则化。针对RBGM的几种变体和最先进的方法的基准测试证明，我们可以更有效地预测大脑图进化，从而为新的图神经网络架构和高效的训练方案铺平道路。
2021-10-06 cs.CV cs.LG q-bio.NC
Predicting Side Effect of Drug Molecules using Recurrent Neural Networks
Penn State University（宾夕法尼亚州立大学）
针对药物分子副作用预测依赖复杂大模型、成本高的问题，提出一种基于循环神经网络的启发式方法，参数量较现有大语言模型减少98%以上，性能却接近顶尖模型。
2024-04-10 cs.LG q-bio.QM
Predicting Remaining Useful Life using Time Series Embeddings based on Recurrent Neural Networks
TCS Research（塔塔咨询服务研究部）
我们考虑的问题，估计剩余使用寿命（RUL）的系统或机器的传感器数据。许多基于传感器数据的RUL估计方法都假设机器如何降级。此外，来自机器的传感器数据是嘈杂的，并且在许多实际设置中经常遭受缺失值。我们建议Embed-RUL：一种用于从传感器数据估计RUL的新方法，其不依赖于任何退化趋势假设，对噪声是鲁棒的，并且处理缺失值。Embed-RUL利用基于循环神经网络（RNN）的序列到序列模型来生成多变量时间序列序列的嵌入。嵌入正常和退化的机器往往是不同的，因此被发现是有用的RUL估计。我们表明，嵌入捕获的时间序列中的整体模式，同时过滤掉噪声，使嵌入的两台机器具有相似的操作行为是彼此接近，即使他们的传感器读数有显着和不同程度的噪声内容。我们在公开的涡扇发动机数据集和专有的真实世界数据集上进行实验，并证明Embed-RUL在几个指标上优于先前报道的最先进的技术。
2017-10-06 cs.LG
Predicting non-linear dynamics by stable local learning in a recurrent spiking neural network
本文提出了一种监督学习方案，用于循环脉冲神经网络中前馈和循环连接的权重学习，通过反馈误差和局部学习规则实现稳定学习，展示了线性、非线性及混沌动力学的学习能力。
2017-04-26 cs.LG cs.NE cs.SY
RAIM: Recurrent Attentive and Intensive Model of Multimodal Patient Monitoring Data
Georgia Institute of Technology（佐治亚理工学院）；Emory University School of Medicine（埃默里大学医学院）；Children’s Healthcare of Atlanta（亚特兰大儿童医疗保健机构）
随着医疗数据采集的改进，大量连续的患者监测数据，例如，心电图（ECG）、实时生命体征和药物，可用于重症监护室（ICU）的临床决策支持。然而，由于监测数据的高密度、异构数据类型以及对可解释模型的需求，对此类数据进行建模变得越来越具有挑战性。这些高密度监测数据与离散临床事件（包括诊断、药物治疗、实验室）的整合是具有挑战性的，但可能是有益的，因为这种多模态数据中的丰富性和粒度增加了准确检测复杂问题和预测结果（例如，死亡率和死亡率）。我们提出了一种用于联合分析连续监测数据和离散临床事件的递归注意和密集模型（RAIM）。RAIM引入了用于连续监视数据的有效注意力机制（例如，ECG），其由离散的临床事件（例如，药物使用）引导。应用RAIM预测ICU危重患者的生理失代偿和住院时间。通过对MIMIC- III波形数据库匹配子集的评估，我们获得了预测失代偿的AUC-ROC评分为90.18%，预测住院时间的准确性为86.82%，优于我们的六个基线模型。
2018-07-23 cs.LG stat.ML
Traffic Volume Prediction using Memory-Based Recurrent Neural Networks: A comparative analysis of LSTM and GRU
University of Memphis（孟菲斯大学）
实时预测交通量可以改善交通流量和道路安全。精确的交通量预测有助于提醒驾驶员沿其首选路线的交通流量，防止潜在的僵局情况。现有的参数模型不能可靠地预测动态复杂交通条件下的交通量。因此，为了实时评估和预测每个给定时间步长的交通量，我们开发了基于非线性记忆的深度神经网络模型。我们在Metro Interstate Traffic Volume数据集上进行的大量实验证明了所提出的模型在高度动态和异构交通环境中预测交通量的有效性。
2023-03-22 cs.LG
A Comparative Study of Convolutional and Recurrent Neural Networks for Storm Surge Prediction in Tampa Bay
Old Dominion University（奥多明尼昂大学）
针对坦帕湾风暴潮预测问题，对比CNN-LSTM、LSTM、3D-CNN三种深度学习架构的性能，发现CNN-LSTM整体及极端场景下表现最优，为风暴潮代理建模的模型选型提供参考。
2026-10-28 cs.LG physics.ao-ph
Comparative Analysis of Machine Learning Models for Predicting Travel Time
University of Missouri, Columbia（密苏里大学哥伦比亚分校）；NDSU（北达科他州立大学）
本文比较了五种不同的深度学习模型来预测行程时间。这些模型包括自回归积分滑动平均（ARIMA）模型、递归神经网络（RNN）模型、自回归（AR）模型、长短期记忆（LSTM）模型和门控递归单元（GRU）模型。本研究的目的是调查每个开发的模型预测旅行时间的性能。本文使用的数据集由密苏里州的旅行时间和旅行速度信息组成。用于构建每个模型的学习率在0.0001-0.01之间变化。发现最佳学习率为0.001。研究得出结论，ARIMA模型是行程时间预测和预报的最佳模型架构。
2021-11-16 cs.CV cs.LG
