Matching of signal, noise and hardware timescales for filtering and forecasting of correlated noise signals
Loughborough University(拉夫堡大学)
本文通过纳米多孔氧化铌储备池,研究噪声相关时间、储备池记忆与预测范围的关系,提出时间尺度匹配指导物理储备池架构,实现相关噪声的滤波与预测。
2026-10-08 cond-mat.dis-nn cs.LG physics.app-ph
Multi-Spatio-temporal Fusion Graph Recurrent Network for Traffic forecasting
Zhengzhou University(郑州大学)
交通预测对于新时代智慧城市的交通建设至关重要。然而,交通数据复杂的空间和时间依赖性使得交通预测极具挑战性。现有的交通量预测方法大多依赖于预定义的邻接矩阵来模拟时空相关性。然而,道路交通状态是高度实时的,因此邻接矩阵应随时间动态变化。本文提出了一种新的多时空融合图递归网络(MSTFGRN)来解决上述问题。该网络提出了一种数据驱动的加权邻接矩阵生成方法,以补偿预定义邻接矩阵未反映的实时空间依赖性。它还有效地学习隐藏的时空依赖,通过执行一个新的双向时空融合操作的并行时空关系在不同的时刻。最后,通过将全局注意力机制集成到时空融合模块中,同时捕获全局时空依赖性。在四个大规模的真实交通数据集上进行的广泛试验表明,与替代基线相比,我们的方法实现了最先进的性能。
2022-09-27 cs.AI cs.LG
Sequential Reservoir Computing for Efficient High-Dimensional Spatiotemporal Forecasting
USRA Research Institute for Advanced Computer Science (RIACS) California(美国宇航局高级计算机科学研究所(RIACS)加利福尼亚)
序贯回授计算通过分解大型回授为多个小回授,提高了高维时空预测的效率和可扩展性。
2026-01-01 cs.LG cs.NE
Reservoir Computing via Multi-Scale Random Fourier Features for Forecasting Fast-Slow Dynamical Systems
CSIR-Central Mechanical Engineering Research Institute(印度科学与工业研究理事会-中央机械工程研究所)
针对含多尺度时间结构的非线性时间序列预测难题,本文提出结合延迟嵌入与多尺度随机傅里叶特征的新型储备池计算框架,在多类典型快慢动力系统上取得了更优的长时预测效果。
2025-11-04 cs.LG cs.NE
Learning Spatiotemporal Chaos Using Next-Generation Reservoir Computing
The Ohio State University(俄亥俄州立大学);ResCon Technologies, LLC(ResCon技术有限责任公司)
使用机器学习预测高维动力系统的行为需要有效的方法来学习底层的物理模型。我们展示了时空混沌预测使用机器学习架构,当与下一代水库计算机相结合时,显示出最先进的性能,训练过程的计算时间快$10^3-10^4$倍,训练数据集比其他机器学习算法小$\sim 10^2$倍。我们还利用模型的平移对称性进一步减少计算成本和训练数据,每个都减少了$\sim$ 10倍。
2022-08-30 cs.LG cs.NE nlin.CD
Forecasting Using Reservoir Computing: The Role of Generalized Synchronization
University of California San Diego(加州大学圣迭戈分校);Cooperative Institute for Research in Environmental Sciences at the University of Colorado Boulder(科罗拉多大学博尔德分校环境科学合作研究所);NOAA Physical Sciences Laboratory(美国国家海洋和大气管理局物理科学实验室);Scripps Institution of Oceanography, University of California San Diego(加州大学圣迭戈分校斯克里普斯海洋研究所)
水库计算机(RC)是一种用于预测时间序列数据的递归神经网络(RNN)。与所有RNN一样,在训练新输入时,选择超参数是一个挑战。我们提出了一种基于广义同步(GS)的方法,在设计和评估的RC的架构和超参数的方向。用于检测GS的“辅助方法”提供了一个预训练测试,用于指导超参数选择。此外,我们提供了一个度量的“训练有素”的RC使用输入系统的李雅普诺夫指数的再现。
2021-04-14 cs.LG cs.NE
Combining Ensemble Kalman Filter and Reservoir Computing to predict spatio-temporal chaotic systems from imperfect observations and models
School of Engineering, the University of Tokyo(东京大学工程学院);Meteorological Research Institute, Japan Meteorological Agency(日本气象厅气象研究所);RIKEN Center for Computational Science(理化学研究所计算科学中心)
时空混沌系统的预测在数值天气预报等领域有着重要的应用。虽然数据同化方法已被应用于数值预报,机器学习技术,如储备池计算(RC),最近被认为是有前途的工具来预测时空混沌系统。然而,基于机器学习的预测的技能对观察结果的不确定性的敏感性是不清楚的。在这项研究中,我们评估技能的RC噪声和稀疏分布的观察。我们集中比较RC和本地包络变换卡尔曼滤波器(LETKF)的性能,通过将它们应用到Lorenz 96系统的预测。虽然RC可以成功地预测Lorenz 96系统,如果该系统是完美的观察,我们发现RC是容易受到观测稀疏性相比,LETKF。为了克服RC的这一局限性,我们建议将LETKF和RC相结合。在我们提出的方法中,系统预测RC学习LETKF估计的分析时间序列。我们提出的方法可以成功地预测Lorenz 96系统使用噪声和稀疏分布的观测。最重要的是,当基于过程的模型不完善时,我们的方法可以比LETKF更好地预测。
2020-06-25 cs.LG physics.comp-ph stat.ML
Analysis of Wide and Deep Echo State Networks for Multiscale Spatiotemporal Time Series Forecasting
Rochester Institute of Technology(罗切斯特理工学院)
回声状态网络是一种计算量小的水库模型,其灵感来自于在皮层电路中观察到的随机投射。随着对水库计算的兴趣的增长,网络变得更深更复杂。虽然这些网络越来越多地应用于非平凡的预测任务,有必要进行综合性能分析的深层水库。在这项工作中,我们研究了给定预算的分区神经元的影响,以及在不同数据集上表现出多尺度和非线性动力学的并行水库路径的影响。
2019-07-01 cs.LG cs.NE eess.SP
Long-Memory Reservoir Computing for Data-Scarce Dengue Forecasting
Indian Institute of Technology Guwahati(印度理工学院古瓦哈蒂分校);Sorbonne University Abu Dhabi(阿布扎赫大学索邦大学);Leiden University(莱顿大学);Sorbonne University(索邦大学)
针对登革热预测中数据稀缺、序列复杂的问题,提出长记忆回声状态网络计算框架,包含fESN和wESN两个变体,能有效编码长期依赖性,优于统计和深度学习基线,结合共形预测可提供不确定性区间。
2026-07-14 cs.LG stat.ML
Quantum Next Generation Reservoir Computing: An Efficient Quantum Algorithm for Forecasting Quantum Dynamics
Chulalongkorn University(朱拉隆功大学);Naresuan University(纳黎萱大学)
提出一种基于块编码的端到端量子算法,将下一代储层计算用于多体量子动力学预测,实现量子加速并避免模型偏差。
2023-10-08 cond-mat.dis-nn cond-mat.stat-mech cs.LG
A Quantum Reservoir Architecture for Chaotic Forecasting and a Test of Whether Its High Dimension Helps
Texas A\&M University(德克萨斯大学)
研究针对量子储层计算应用于混沌预测时高维度是否有用的问题,给出完整可重现方法及判断方式,通过对比量子与经典储层在两个混沌测试系统上随规模增加的表现,得出清晰规范与诊断方法。
2026-07-10 cs.LG quant-ph
Quantum Reservoir Computing with Physics-Informed Correction for Reduced-Order PDE Forecasting
Fractal Analytics(分形分析公司)
该研究提出结合量子储备池计算(QRC)与物理信息修正器(PIC)的混合架构,用于降阶偏微分方程预测,在KS混沌基准上其误差指标优于单独QRC,为降阶预测提供了基准依赖的可行策略。
2026-08-25 cs.LG quant-ph
Spatiotemporal Attention Networks for Wind Power Forecasting
System Engineering Institute, Xi’an Jiaotong University(西安交通大学系统工程研究所);Rutgers University(罗格斯大学);Electric Power Research Institute, State Grid Liaoning Electric Power Co. Ltd.(国网辽宁省电力有限公司电力科学研究院)
风力发电是最重要的可再生能源之一,准确的风电功率预测对于电力系统可靠、经济的运行和控制策略具有重要意义。本文提出了一种新的框架与时空注意力网络(STAN)的风电功率预测。该模型捕捉风电场之间的空间相关性和风电时间序列的时间依赖性。首先,我们采用多头自注意机制来提取风电场之间的空间相关性。然后,时间依赖性被捕获的序列到序列(Seq2Seq)模型与全局注意力机制。最后,实验结果表明,我们的模型实现了更好的性能比其他基线方法。我们的工作提供了有用的见解,以捕捉非欧几里德空间相关性。
2019-11-13 cs.LG
Temporal Graph MLP Mixer for Spatio-Temporal Forecasting
ETH Zurich(苏黎世联邦理工学院)
针对现实传感器网络中缺失数据影响时空预测的问题,提出结合节点级处理、补丁级子图编码与三维MLP-Mixer的T-GMM架构,多数据集实验验证其在缺失数据场景下的有效预测能力与长程依赖捕获优势。
2025-01-17 cs.LG
AutoSTF: Decoupled Neural Architecture Search for Cost-Effective Automated Spatio-Temporal Forecasting
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));The Hong Kong University of Science and Technology(香港科技大学)
针对自动化时空预测中神经架构搜索开销高的问题,本文提出解耦框架 AutoSTF,通过时空搜索空间分离、表示压缩、参数共享及多块迁移提升效率与精度。
2025-01-08 cs.AI cs.LG
Forecasting the Forced van der Pol Equation with Frequent Phase Shifts Using Reservoir Computing
The University of Tokyo(东京大学)
本文利用储备池计算预测受频繁相位偏移外力驱动的范德波尔振子动力学,证明在训练数据具有一定复杂性时可定量预测不同相位偏移下的振荡行为,并指出该方法有望用于轮班工作者昼夜节律状态预测与个性化排班设计。
2024-06-30 cs.LG cs.NE nlin.AO
Interpretable Air Pollution Forecasting by Physics-Guided Spatiotemporal Decoupling
KTH Royal Institute of Technology(皇家理工学院)
本研究提出了一种结合物理引导和可解释注意力机制的空气污染预报框架,实现了高预测性能与时空可解释性。
2026-01-22 cs.AI cs.LG
STKAN: Kolmogorov-Arnold Networks for Spatio-Temporal Forecasting
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Chang’an University(长安大学);China University of Geosciences(中国地质大学)
针对现实交通数据时空预测难题,提出STKAN架构,将泰勒多项式柯尔莫哥洛夫-阿诺德网络模块引入时空令牌混合,经实验验证其性能有竞争力,表明非线性函数逼近器设计对时空预测架构设计有补充作用。
2026-07-16 cs.AI cs.LG
Backpropagation Algorithms and Reservoir Computing in Recurrent Neural Networks for the Forecasting of Complex Spatiotemporal Dynamics
ETH Zürich(苏黎世联邦理工学院);University of Maryland(马里兰大学);Massachusetts Institute of Technology(麻省理工学院)
我们研究了递归神经网络在预测高维和降阶复杂系统的时空动态时,使用水库计算(RC)和反向传播通过时间(BPTT)门控网络架构的效率。我们强调每种方法的优点和局限性,并讨论它们的并行计算架构的实现。我们量化的相对预测精度,这些算法的长期预测混沌系统作为基准的Lorenz-96和Kuramoto-Sivashinsky(KS)方程。我们发现,当完整的状态动态可用于训练时,RC在预测性能和捕获长期统计数据方面优于BPTT方法,同时需要更少的训练时间。然而,在降阶数据的情况下,大规模RC模型可能是不稳定的,并且比BPTT算法更有可能发散。相比之下,通过BPTT训练的RNN表现出更好的预测能力,并很好地捕捉降阶系统的动态特性。此外,本研究首次量化的KS方程的李雅普诺夫谱与BPTT,达到类似的精度RC。这项研究表明,RNN是学习和预测复杂时空系统的有效计算框架。
2020-02-17 cs.LG eess.SP physics.flu-dyn
Evolutionary Optimization Reveals Structural Constraints on Reservoir Architecture for Spatiotemporal Chaos
Department of Physics, MIT(麻省理工学院物理系);McGovern Institute for Brain Research, MIT(麻省理工学院麦戈文脑研究 institute)
通过进化优化储层计算超参数,发现预测误差降低、设计空间沿规模-效率前沿组织,且进化储层在保持谱包络的同时优化低特征值模式,揭示可解释的结构约束。
2026-06-23 cs.AI cs.LG cs.NE
CloudLSTM: A Recurrent Neural Model for Spatiotemporal Point-cloud Stream Forecasting
The University of Edinburgh(爱丁堡大学)
本文介绍了CloudLSTM,这是一个新的递归神经模型分支,专门用于预测地理空间点云源生成的数据流。我们设计了一个动态点云卷积(DConv)算子作为CloudLSTM的核心组件,它直接在点云上执行卷积,并从围绕输入的不同元素的相邻点集合中提取局部空间特征。该算子保持了序列到序列学习框架的排列不变性,同时表示每个时间步的相邻相关性-时空预测学习的一个重要方面。DConv算子解决了现有时空预测模型的网格结构数据需求,并且可以通过序列到序列学习和注意力机制轻松插入传统的LSTM架构。我们将我们提出的架构应用于两个涉及点云流的代表性实际用例,即,流动服务交通预测及空气质素指标预测。我们的结果是通过在每个用例的不同场景中收集的真实数据集获得的,结果表明CloudLSTM提供了准确的长期预测,优于各种竞争对手的神经网络模型。
2021-02-21 cs.LG stat.ML
Introducing Randomized High Order Fuzzy Cognitive Maps as Reservoir Computing Models: A Case Study in Solar Energy and Load Forecasting
Federal University of Minas Gerais(米纳斯吉拉斯联邦大学);Federal Institute of Education Science and Technology of Northern Minas Gerais(北米纳斯吉拉斯联邦教育科技学院);Universidade Federal de Minas Gerais(米纳斯吉拉斯联邦大学)
模糊认知图(FCM)是一种可解释的符号加权有向图方法,它由节点(概念)和表示概念之间依赖关系的权重组成。虽然FCM在各种时间序列预测应用中取得了相当大的成就,但设计具有时间效率的训练方法的FCM模型仍然是一个开放的挑战。因此,本文介绍了一种新的单变量时间序列预测技术,它是由一组随机高阶FCM模型标记为R-HFCM。所提出的R-HFCM模型的新颖性与将FCM和回声状态网络(ESN)的概念合并为高效且特定的一类储备池计算(RC)模型有关,其中最小二乘算法被应用于训练模型。从另一个角度来看,R-HFCM的结构由输入层,水库层和输出层组成,其中只有输出层是可训练的,而每个子水库组件的权重是随机选择的,并且在训练过程中保持恒定。作为案例研究,该模型考虑了巴西太阳能发电站的公共数据以及马来西亚数据集的太阳能预测,其中包括马来西亚柔佛市供电公司的每小时电力负荷和温度数据。实验还包括地图大小、激活函数、偏差的存在以及储层大小对R-HFCM方法精度的影响。所得到的结果证实了所提出的R-HFCM模型的性能优于其他方法。这项研究提供的证据表明,FCM可以是一种新的方式来实现一个水库的动态时间序列建模。
2022-01-07 cs.AI cs.LG cs.NE
RNN with Particle Flow for Probabilistic Spatio-temporal Forecasting
McGill University(麦吉尔大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
时空预测在分析无线网络、交通网络和金融网络中有着广泛的应用。许多经典的统计模型在处理时间序列数据中存在的复杂性和高度非线性方面往往存在不足。深度学习的最新进展允许更好地建模空间和时间依赖性。虽然大多数这些模型侧重于获得准确的点预测,但它们并不表征预测的不确定性。在这项工作中,我们认为时间序列数据作为一个随机实现的非线性状态空间模型和目标贝叶斯推断的隐藏状态的概率预测。我们使用粒子流作为近似状态的后验分布的工具,因为它被证明是非常有效的复杂,高维设置。在几个真实世界的时间序列数据集上进行的彻底实验表明,我们的方法提供了更好的不确定性表征,同时保持了与最先进的点预测方法相当的准确性。
2021-06-10 cs.LG stat.ML
Chaotic attractor reconstruction using small reservoirs -- the influence of topology
Technische Universität Ilmenau(伊尔梅瑙工业大学)
本研究通过小型非耦合节点储层改进混沌吸引子重构,发现其优于复杂拓扑,且与更小谱半径相关,有利于硬件实现。
2024-02-23 cs.ET cs.LG math-ph
Beyond Hawkes: Neural Multi-event Forecasting on Spatio-temporal Point Processes
Rice University(莱斯大学)
预测时间和空间上的离散事件有许多科学应用,例如预测危险的地震和传染病的爆发。历史相关的时空霍克斯过程经常被用来对这些点事件进行数学建模。然而,以前的方法面临着许多挑战,特别是在试图预测一个或多个未来事件时。在这项工作中,我们提出了一个新的神经架构,同时多事件预测的时空点过程,利用Transformers,增强与规范化流程和概率层。我们的网络对未来离散事件的复杂历史相关时空分布进行批量预测,在各种基准数据集上实现了最先进的性能,包括南加州地震,Citibike,Covid-19和Hawkes合成风车数据集。更一般地说,我们说明了我们的网络如何应用于具有相关标记的离散事件的任何数据集,即使在不知道底层物理的情况下。
2023-01-28 cs.AI cs.LG eess.SP
Does Vector Quantization Fail in Spatio-Temporal Forecasting? Exploring a Differentiable Sparse Soft-Vector Quantization Approach
Central South University(中南大学);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院)
针对传统向量量化因不可微、表征能力弱而难以提升时空预测精度的问题,提出具备完全可微性的稀疏软向量量化方法,在多个时空基准数据集上取得当前最优效果。
2025-05-18 cs.CV cs.LG
UltraSTF: Ultra-Compact Model for Large-Scale Spatio-Temporal Forecasting
Visa Research(Visa研究)
针对SparseTSF在时空数据上周期内依赖捕获不足的问题,提出集成跨周期预测与超紧凑形状库的UltraSTF模型,在LargeST基准上以少于次优方法0.2%的参数实现最先进性能。
2025-08-06 cs.AI cs.LG
ST-MLP: A Cascaded Spatio-Temporal Linear Framework with Channel-Independence Strategy for Traffic Forecasting
University of Pennsylvania(宾夕法尼亚大学);Princeton University(普林斯顿大学);Duke Kunshan University(昆山杜克大学);IBM Research(IBM研究院)
针对 STGNN 复杂且计算成本高的问题,提出仅由级联 MLP 与线性层构成、融合时空及图结构并采用通道独立策略的 ST-MLP,在准确率和效率上优于现有模型。
2023-08-14 cs.AI cs.LG
Deep Echo State Networks with Uncertainty Quantification for Spatio-Temporal Forecasting
Jupiter Intelligence;University of Missouri(密苏里大学)
时空系统的长时间预测往往需要复杂的非线性动力学,很难事先确定。目前用于对这些过程进行建模的统计方法学通常是高度参数化的,因此,从计算的角度来看,实现具有挑战性。这个问题的一个潜在的简约解决方案是来自动力系统和工程文献的称为回声状态网络(ESN)的方法。ESN模型使用所谓的{ \it reservoir computing}来有效地计算递归神经网络(RNN)预测。此外,所谓的“深度”模型最近已被证明是成功的预测高维复杂的非线性过程,特别是那些具有多个空间和时间尺度的变化(如我们经常发现的时空环境数据)。在这里,我们介绍了一个深集成ESN(D-EESN)模型。我们提出了两个版本的时空过程,既产生预测和相关措施的不确定性,这个模型。第一种方法利用自举集成框架,第二种是在一个分层贝叶斯框架(BD-EESN)。这种更一般的分层贝叶斯框架自然适应非高斯数据类型和多层次的不确定性。该方法首先应用于一个新的非高斯多尺度洛伦兹-96动力系统模拟模型模拟的数据集,然后应用于一个长时间领先的美国(美国)土壤墒情预报应用
2018-09-03 cs.LG stat.ML
A Correlation Information-based Spatiotemporal Network for Traffic Flow Forecasting
Beijing Jiaotong University(北京交通大学)
交通流预测技术在智能交通系统中起着重要的作用。基于图神经网络和注意力机制,大多数以前的工作利用Transformer架构来发现时空依赖和动态关系。然而,他们没有充分考虑时空序列之间的相关性信息。本文基于最大信息系数,提出了两种详细的时空表示:空间相关信息(SCorr)和时间相关信息(TCorr)。使用SCorr,我们提出了一个相关信息为基础的时空网络(Corrandom),它包括一个动态的图神经网络组件,有效地将相关信息集成到空间结构和多头注意力组件,用于准确地建模动态时间依赖。利用TCorr,我们探索不同周期数据之间的相关模式,以确定最相关的数据,然后设计一个有效的数据选择方案,以进一步提高模型的性能。在高速公路交通流(PEMS 07和PEMS 08)和地铁人群流(HZME流入和流出)数据集上的实验结果表明,Corrandom在预测性能方面优于现有方法。特别是,在HZME(流出)数据集上,与ASTGNN模型相比,我们的模型在MAE,RMSE和MAPE指标上分别有12.7%,14.4%和27.4%的显着改进。
2022-07-17 cs.AI cs.LG
Forecasting Chaotic Systems with Very Low Connectivity Reservoir Computers
The Ohio State University(俄亥俄州立大学);Potomac Research LLC(波托马克研究有限责任公司)
我们探索超参数空间的水库计算机用于预测混沌Lorenz '63吸引子贝叶斯优化。我们使用了一种新的储层性能测量方法,旨在强调学习预测系统的全球气候,而不是短期预测。我们发现,更快地优化这一措施可以排除那些无法重现气候的水库。优化的结果是令人惊讶的:优化的参数通常指定具有非常低的连通性的储层网络。受此观察的启发,我们探索了具有更简单结构的油藏设计,并找到了具有零光谱半径和无复发的性能良好的油藏。这些简单的水库提供了反例,广泛使用的化学领域,并可能是有用的水库计算机的硬件实现。
2019-11-15 cs.LG nlin.CD stat.ML
Susceptible Reservoir Architectures for Regime-Conditional Volatility Forecasting
Monodromy(英国Monodromy公司)
研究针对波动率预测中非线性模型可利用结构有限的问题,提出易感性架构(SUSA)及具体实现,结合复值蓄水池与状态条件专家,在Qiskit中实现q比特对应物,经实验评估,模型在与GARCH竞争及补充HARQ预测方面有良好表现。
2026-07-28 cs.LG
Forecasting the production of Distillate Fuel Oil Refinery and Propane Blender net production by using Time Series Algorithms
Politecnico di Milano(米兰理工大学);AzaTec(AzaTec公司);Walmart Global Tech India(沃尔玛印度全球技术公司)
石油产量预测是控制成本效益和监测油藏功能的重要步骤。因此,石油产量预测使油藏工程师更容易开发可行的项目,这有助于避免风险投资并实现长期增长。因此,可靠的油气藏预测是控制和管理油气藏有效成本的关键。石油产量受储层性质的影响,如孔隙度、渗透率、压缩性、流体饱和度和其他油井操作参数。三时间序列算法,即,季节性朴素法、指数平滑法和ARIMA预测未来两年馏分燃料油精炼厂和丙烷混合器的净产量。
2022-06-04 cs.AI cs.LG
Beyond the Edge of Chaos: Stability-Expressivity Transfer in Reservoir Forecasting
School of Physics and Information Technology, Shaanxi Normal University, Xi'an 710062, China(物理与信息技术学院,陕西师范大学,西安710062,中国)
研究探索水库预测中混沌边缘启发式方法与机器性能的关系,以谱半径为控制参数,通过分析教师驱动水库集体动力学,提出稳定性-表现力转移指数,能准确识别不同情况下自主预测的最佳谱半径。
2026-07-21 cs.LG nlin.AO nlin.CD
Simple and Robust Forecasting of Spatiotemporally Correlated Small Earth Data with A Tabular Foundation Model
School of Engineering and Technology, China University of Geosciences (Beijing)(工程与技术学院,中国地质大学(北京));School of Geological Engineering and Geomatics, Chang'an University(地质工程与测绘学院,长安大学)
针对小型地球数据时空预测中传统深度学习需任务特定训练及基础模型存在全局均值偏差的问题,提出通过量化时空模式并利用表格基础模型进行预测的简单鲁棒方法,在多数场景下准确率和鲁棒性优于T-GCN和TabPFN。
2025-10-10 cs.LG
Deep Learning-Accelerated 3D Carbon Storage Reservoir Pressure Forecasting Based on Data Assimilation Using Surface Displacement from InSAR
Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室);TotalEnergies E&P Research and Technology(道达尔能源勘探与生产研究技术中心);University of North Dakota, Energy & Environmental Research Center(北达科他大学能源与环境研究中心)
通过同化监测数据快速预测地质碳封存储层压力分布是一个具有挑战性的问题。由于高钻井成本,GCS项目通常具有来自井的空间稀疏测量,导致储层压力预测的高不确定性。为了应对这一挑战,我们建议使用低成本的干涉合成孔径雷达(InSAR)数据作为监测数据来推断储层压力的建立。我们开发了一个深度学习加速的工作流程,以同化从InSAR解释的地表位移图,并预测动态储层压力。该工作流程采用Encourage Smoother Multiple Data Assimilation(ES-MDA)框架,更新三维(3D)地质属性,并预测具有量化不确定性的储层压力。我们使用一个合成的商业规模的GCS模型双峰分布的渗透率和孔隙度,以证明工作流程的有效性。一个两步CNN-PCA方法被用来参数化的双峰字段。工作流程的计算效率通过两个基于剩余U-Net的代理模型分别用于地表位移和储层压力预测来提高。该工作流程可在个人计算机上在半小时内完成数据同化和储层压力预测。
2022-01-27 cs.LG physics.geo-ph stat.ML
A General Spatio-Temporal Clustering-Based Non-local Formulation for Multiscale Modeling of Compartmentalized Reservoirs
Stanford University(斯坦福大学);Quantum Reservoir Impact LLC(Quantum Reservoir Impact有限责任公司)
将储层表示为具有相邻和非相邻连接的离散隔间的网络是用于分析油气储层的快速而准确的方法。自动和快速检测具有不同静态和动态特性的粗尺度隔室是这种高级储层分析的一个组成部分。在这项工作中,我们提出了一个混合框架,具体到油藏分析的自动检测集群在空间中使用空间和时间的字段数据,再加上基于物理的多尺度建模方法。在这项工作中,我们提出了一种新的混合方法,在这种方法中,我们耦合基于物理的非本地建模框架与数据驱动的聚类技术,以提供一个快速,准确的多尺度建模的分隔油藏。这项研究还增加了文献,提出了一个全面的工作,空间-时间聚类油藏研究的应用程序,充分考虑聚类的复杂性,固有的稀疏性和噪声的数据,以及结果的可解释性。关键词:人工智能;机器学习;时空聚类;基于物理的数据驱动公式化;多尺度建模
2019-04-28 cs.LG stat.ME
AST-GCN: Attribute-Augmented Spatiotemporal Graph Convolutional Network for Traffic Forecasting
Central South University(中南大学);Hisense TransTech Co., Ltd.(海信网络科技股份有限公司);Zhejiang University(浙江大学)
交通量预测是智能交通领域的一项基础性和挑战性任务。准确的预测不仅依赖于历史交通流信息,还需要考虑各种外部因素的影响,如天气状况、周边POI分布等。近年来,融合图卷积网络和递归神经网络的时空模型成为交通预测的研究热点,并取得了重大进展。然而,很少有作品结合外部因素。因此,基于引入外部因素可以提高时空预测流量的准确性和改善解释性的假设,我们提出了一个属性增强时空图卷积网络(AST-GCN)。我们将外部因素建模为动态属性和静态属性,并设计了一个属性增强单元来编码和集成这些因素到时空图卷积模型中。在真实数据集上的实验表明,与传统的交通预测方法相比,考虑外部信息对交通预测任务的有效性。此外,在不同的属性增强方案和预测水平设置下,AST-GCN的预测精度高于基线。
2020-11-22 cs.LG
STAEformer: Spatio-Temporal Adaptive Embedding Makes Vanilla Transformer SOTA for Traffic Forecasting
Southern University of Science and Technology(南方科技大学);The University of Tokyo(东京大学);University of Technology Sydney(悉尼科技大学)
针对交通预测中捕捉复杂时空模式的难题,本研究提出时空自适应嵌入组件,搭配普通Transformer构建的STAEformer在5个真实数据集上达SOTA,验证了该嵌入在捕捉时空关联与时序信息上的关键作用。
2023-10-08 cs.LG
Spatiotemporal Information Processing with a Reservoir Decision-making Network
Chongqing University(重庆大学);Peking University(北京大学)
时空信息处理是大脑功能的基础。本文研究了一种时空模式识别的规范神经网络模型。该模型由水库子网络和决策子网络两个模块组成。前者将复杂的时空模式投射到空间分离的神经表征中,后者通过随时间整合信息来读出这些神经表征;这两个模块通过使用已知示例的监督学习结合在一起。我们阐明了该模型的工作机制,并证明了其可行性的复杂的时空模式的歧视。我们的模型再现了神经系统中识别隐约模式的现象,并且可以用很少的训练样本学习区分步态。我们希望这项研究能让我们深入了解时空信息是如何在大脑中处理的,并帮助我们开发大脑启发的应用算法。
2019-07-28 cs.LG cs.NE q-bio.NC
Heterogeneity-Informed Meta-Parameter Learning for Spatiotemporal Time Series Forecasting
Southern University of Science and Technology(南方科技大学);The University of Tokyo(东京大学);Hong Kong University of Science and Technology(香港科技大学);Squirrel AI(松鼠AI);Jilin University(吉林大学)
本文提出HimNet,通过时空嵌入隐式捕捉异质性,并从元参数池学习时空特定参数,在五个基准上取得最先进预测性能并具备优越可解释性。
2024-09-03 cs.LG
FasterSTS: A Faster Spatio-Temporal Synchronous Graph Convolutional Networks for Traffic flow Forecasting
Wuhan University of Technology(武汉理工大学);Zhejiang Sci-Tech University(浙江理工大学)
针对现有交通流预测方法时空建模分离且复杂度高的问题,提出更快速有效的时空同步图卷积网络FasterSTS,以提升预测性能并控制模型复杂度。
2025-01-01 cs.LG
Robust quantum reservoir computers for forecasting chaotic dynamics: generalized synchronization and stability
Department of Aeronautics, Imperial College London(帝国理工学院航空系);Department of Engineering, City St George’s, University of London(伦敦大学城市圣乔治学院工程系)
本文将量子储备池计算机表述为广义同步系统,证明其能学习混沌动力学的不变属性,提出 $GS=ESP$ 准则以设计鲁棒架构,并发现噪声耗散能增强其鲁棒性,为近期量子硬件上的混沌时间序列预测开辟了新机遇。
2025-06-27 cs.LG nlin.CD quant-ph
Towards Spatio-Temporal Aware Traffic Time Series Forecasting--Full Version
Aalborg University(奥尔堡大学);Monash University(莫纳什大学)
交通时间序列预测是具有挑战性的,因为来自不同位置的复杂时空动态时间序列通常具有不同的模式;并且对于相同的时间序列,模式可能随时间而变化,例如,在一天中存在显示出更强的时间相关性的某些时段。尽管最近的预测模型,特别是基于深度学习的模型,显示出有希望的结果,但它们受到时空不可知论的影响。这样的时空不可知模型采用共享参数空间,而不管时间序列位置和时间段,并且它们假设时间模式在位置之间是相似的,并且不会在时间上演变,这可能并不总是成立,从而导致次优结果。在这项工作中,我们提出了一个框架,旨在把时空不可知模型时空感知模型。为此,我们将来自不同位置的时间序列编码为随机变量,从中生成特定于位置和随时间变化的模型参数,以更好地捕捉时空动态。我们展示了如何整合的框架与规范的注意,使时空意识的注意。其次,为了补偿时空感知模型参数生成过程中引入的额外开销,提出了一种新的窗口注意机制,将复杂度从二次降低到线性,使得时空感知注意也具有竞争效率.我们在四个交通时间序列数据集上展示了强有力的经验证据,其中所提出的时空感知注意力在准确性和效率方面优于最先进的方法。这是“Towards Spatio-Temporal Aware Traffic Time Series Forecasting”的扩展版本,将出现在ICDE 2022 [1]中,包括其他实验结果。
2022-04-05 cs.LG
Deep Spatio-Temporal Forecasting of Electrical Vehicle Charging Demand
Technical University of Denmark(丹麦技术大学)
电动汽车可以提供低碳排放解决方案,以扭转排放上升的趋势。然而,这要求用于满足需求的能源是绿色的。为了满足这一要求,准确预测充电需求至关重要。短期和长期的充电需求预测将有助于更好地优化电网和未来的基础设施扩建。在本文中,我们建议使用公开的数据来预测电动汽车充电需求。为了对充电站之间复杂的时空相关性进行建模,我们认为时间图卷积模型最适合捕捉相关性。与其他预测方法相比,所提出的时间图卷积网络提供了最准确的短期和长期预测。
2021-06-21 cs.LG
Practical Adversarial Attacks on Spatiotemporal Traffic Forecasting Models
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Guangzhou HKUST Fok Ying Tung Research Institute(广州香港科技大学霍英东研究院);The Hong Kong University of Science and Technology(香港科技大学)
基于机器学习的交通预测模型利用复杂的时空自相关来提供对城市范围的交通状态的准确预测。然而,现有的方法假设一个可靠和公正的预测环境,这并不总是在野外可用。在这项工作中,我们调查时空流量预测模型的脆弱性,并提出了一个实用的对抗时空攻击框架。具体来说,而不是同时攻击所有的地理分布的数据源,迭代梯度引导节点显着性方法,提出了识别的受害者节点的时间相关的设置。此外,我们设计了一个时空梯度下降为基础的计划,以产生真正价值的对抗交通状态下的扰动约束。同时,我们从理论上证明了对抗性流量预测攻击的最坏性能界。两个真实世界的数据集上的广泛实验表明,所提出的两步框架实现了高达$67.8\%$性能退化的各种先进的时空预测模型。值得注意的是,我们还表明,使用我们提出的攻击进行对抗性训练可以显着提高时空流量预测模型的鲁棒性。我们的代码在\url{https://github.com/luckyfan-cs/ASTFA}中可用。
2022-10-05 cs.AI cs.CR cs.LG
A Spatio-Temporal Spot-Forecasting Framework for Urban Traffic Prediction
Artificial Intelligence Department Universidad Nacional de Educación a Distancia — UNED(西班牙马德里国立远程教育大学(UNED)人工智能系)
时空预测是一个开放的研究领域,其兴趣呈指数增长。在这项工作中,我们专注于为时空交通预测创建一个复杂的深度神经框架,该框架具有相对非常好的性能,并且显示出在几种时空条件下的适应性,同时保持易于理解和解释。我们的建议是基于一个可解释的注意力为基础的神经网络,其中几个模块相结合,以捕捉关键的时空时间序列组件。通过大量的实验,我们展示了我们的方法的结果是如何稳定的,比其他国家的最先进的替代品。
2020-04-01 cs.LG eess.SP stat.ML
Spatiotemporal forecasting of vertical track alignment with exogenous factors
Chiba University(千叶大学)
轨道几何不平顺的监测与预报是保证铁路运营安全的重要环节。更高的安全性要求以更高的时空频率进行预测,这反过来又要求捕获空间相关性。此外,轨道几何不规则性受多种外生因素的影响。在这项研究中,提出了一种方法来预测一种类型的轨道几何不平顺,垂直线形,结合空间和外源因素的计算。所提出的方法嵌入外源因素和捕获时空相关性使用卷积长短期记忆。实验结果表明,该方法具有较好的预测性能。此外,消融研究的外源性因素进行检查的预测性能的个人贡献。结果表明,空间计算和维护记录数据改善了垂直线形的预测。
2023-02-23 cs.AI cs.LG
Spatio-temporal DeepKriging in PyTorch: A Supplementary Application to Precipitation Data for Interpolation and Probabilistic Forecasting
School of Mathematics and Applied Statistics, University of Wollongong, Australia(数学与应用统计学系,沃林戈恩大学,澳大利亚)
本文基于PyTorch平台实现时空深度克里金(STDK)框架,用于欧洲降水数据的插值与多步预测,并提供可复现代码模块,验证了该方法在处理时空不规则性时的预测性能与鲁棒性。
2025-09-16 cs.LG stat.AP
Dynamic Modes as Time Representation for Spatiotemporal Forecasting
本文提出基于动态模态分解的时间嵌入方法,直接从数据提取时间模态,用于时空预测,能捕获多尺度周期性,提升长期预测精度并增强泛化。
2025-08-02 cs.LG stat.ML
MAF-GNN: Multi-adaptive Spatiotemporal-flow Graph Neural Network for Traffic Speed Forecasting
交通量预测是智能交通监控系统的核心内容。基于图神经网络的方法已被广泛用于此任务,以有效地捕捉道路网络的空间和时间依赖性。然而,这些方法不能有效地定义复杂的网络拓扑结构。此外,它们的级联网络结构在时间和空间维度上都存在传输不同特征的局限性。本文提出了一种多自适应时空流图神经网络(MAF-GNN)的交通速度预测方法。MAF-GNN引入了一种有效的多自适应邻接矩阵机制来捕获交通节点之间的多个潜在空间依赖关系。此外,我们提出了时空流模块,旨在进一步提高在时间和空间维度的特征传播。MAF-GNN在METR-LA和PeMS-Bay两个真实的公交网络数据集上取得了比其他模型更好的性能,证明了该方法的有效性。
2022-03-09 cs.LG
Scale-Disentangled spatiotemporal Modeling for Long-term Traffic Emission Forecasting
本文提出尺度解耦时空建模框架SDSTM,通过Koopman算子与门控小波分解实现多尺度特征解耦融合,并利用双流独立性约束提升长期交通排放预测精度。
2025-08-16 cs.LG
Forecasting Multivariate Urban Data via Decomposition and Spatio-Temporal Graph Analysis
本文提出DST模型,通过分解预处理分离趋势、季节和残差分量,并结合图注意力与时间卷积捕获时空依赖,在多个城市数据集上实现长期预测准确率平均提升2.89%至9.10%。
2025-08-26 cs.LG
It is all Connected: A New Graph Formulation for Spatio-Temporal Forecasting
University of Oslo(奥斯陆大学);Institute for Energy Systems (IFE)(能源系统研究所(IFE))
随着现代社会中传感器数量的不断增加,时空时间序列预测已成为对未来做出明智决策的事实上的工具。大多数时空预测模型通常包括学习空间和时间依赖性的不同组件。一种常见的方法采用一些图神经网络(GNN)来捕获空间位置之间的关系,而另一种网络,如递归神经网络(RNN),则学习时间相关性。通过将每个记录的样本表示为图中其自己的节点,而不是将特定位置的所有测量值表示为单个节点,时间和空间信息以类似的方式编码。在这种情况下,GNN现在可以直接学习时间和空间依赖性,同时还可以减少对额外时间网络的需求。此外,该框架不要求在时间维度上进行一致的测量,这意味着它也自然有助于处理不规则的时间序列、不同的采样频率或缺失的数据,而不需要进行数据填补。为了评估所提出的方法,我们将风速预测作为一个案例研究,其中我们提出的框架优于其他时空模型,使用带有Transformer或LSTM网络的GNN作为时间更新函数。
2023-03-23 cs.LG