STDHL: Spatio-Temporal Dynamic Hypergraph Learning for Wind Power Forecasting
Tsinghua University(清华大学);Shandong University(山东大学)
针对风电场间复杂动态时空相关性建模难题,提出STDHL模型,利用动态超图卷积和分组时间卷积捕获高阶时空特征,在GEFCom数据集上超越现有方法。
2024-12-16 cs.LG eess.SP
ForecastQA: A Question Answering Challenge for Event Forecasting with Temporal Text Data
University of Southern California(南加州大学);Information Sciences Institute(信息科学研究所)
事件预测是一项具有挑战性但又重要的任务,因为人类不断寻求为未来做计划。现有的自动化预测研究主要依赖于结构化数据,如时间序列或基于事件的知识图谱,以帮助预测未来的事件。在这项工作中,我们的目标是制定一个任务,构建一个数据集,并提供基准开发方法的事件预测与大量的非结构化文本数据。为了模拟时间新闻文件的预测方案,我们制定了一个限制域,多项选择,问答(QA)任务的问题。与现有的QA任务不同,我们的任务限制了可访问的信息,因此模型必须做出预测判断。为了展示这个任务制定的有用性,我们引入了ForecastQA,这是一个由10,392个事件预测问题组成的问答数据集,这些问题已经通过众包工作收集和验证。我们使用基于BERT的模型在ForecastQA上进行了实验,发现我们最好的模型在数据集上达到了60.1%的准确率,仍然落后于人类表现约19%。我们希望ForecastQA将支持未来的研究工作,弥合这一差距。
2021-06-08 cs.LG stat.ML
MPSTAN: Metapopulation-based Spatio-Temporal Attention Network for Epidemic Forecasting
Shanghai University(上海大学);School of Computer Engineering and Science, Shanghai University(上海大学计算机工程与科学学院);Key Laboratory of Silicate Cultural Relics Conservation (Shanghai University), Ministry of Education(教育部(上海大学)硅酸盐文化遗产保护重点实验室);Zhejiang Laboratory(之江实验室)
针对现有时空模型难以稳定准确预测不同演化趋势的流行病,本文提出基于元群体的时空注意力网络(MPSTAN),融合多补丁流行病学知识并自适应定义补丁间交互,在两个数据集上优于基线,实现更准确稳定的短期与长期预测。
2023-06-15 cs.LG cs.SI
Weather2K: A Multivariate Spatio-Temporal Benchmark Dataset for Meteorological Forecasting Based on Real-Time Observation Data from Ground Weather Stations
Beijing University of Posts and Telecommunications(北京邮电大学);National Meteorological Center, China Meteorological Administration(中国气象局国家气象中心)
天气预报是气象工作的基石之一。针对现有天气预报数据集在实时的【形】形性、可靠性和多样性等方面的不足,以及数据质量的关键瓶颈,提出了一种新的基准数据集Weather 2K。具体来说,我们的Weather 2 K具有以下几个方面的特色:1)可靠且实时的【形】数据。这些数据每小时从2,130个地面气象站收集,覆盖面积为600万平方公里。2)多变量气象变量。提供了20个气象因子和3个位置信息常数,长度为40,896个时间步长。3)适用于不同的任务。我们对时间序列预测和时空预测进行了一系列基线测试。据我们所知,我们的Weather 2K是第一次尝试充分利用地面气象站观测数据的优势来处理天气预报任务。在Weather 2K的基础上,进一步提出了基于气象因子的多图卷积网络(MFMGCN),能够有效地构建基于气象因子的地理位置间的内在关联。大量的实验表明,MFMGCN提高了预测性能和时间鲁棒性。我们希望我们的Weather 2K能够极大地激励研究人员开发高效和准确的算法,以推进天气预报的任务。该数据集可以在https://github.com/bycnfz/weather2k/上获得。
2023-02-21 cs.LG cs.NA math.NA
Series Saliency: Temporal Interpretation for Multivariate Time Series Forecasting
Tsinghua University(清华大学)
时间序列预测是一项重要而又具有挑战性的任务。虽然最近开发了深度学习方法来提供更好的预测结果,但提高时间序列模型的可解释性至关重要。以往的解释方法,包括一般的神经网络方法和基于注意力的方法,主要考虑特征维度的解释,而忽略了关键的时间维度。本文提出了多元时间序列预测时间解释的序列显著性框架,该框架考虑了特征和时间两个维度的预测解释。通过从时间序列的滑动窗口中提取“序列图像”,我们应用显著图分割遵循最小破坏区域的原则。序列显着性框架可以用于任何定义良好的深度学习模型,并作为数据增强来获得更准确的预测。几个真实数据集上的实验结果表明,我们的框架产生的时间序列预测任务的时间解释,同时产生准确的时间序列预测。
2020-12-16 cs.AI cs.LG
Multi-Spatio-temporal Fusion Graph Recurrent Network for Traffic forecasting
Zhengzhou University(郑州大学)
交通预测对于新时代智慧城市的交通建设至关重要。然而,交通数据复杂的空间和时间依赖性使得交通预测极具挑战性。现有的交通量预测方法大多依赖于预定义的邻接矩阵来模拟时空相关性。然而,道路交通状态是高度实时的,因此邻接矩阵应随时间动态变化。本文提出了一种新的多时空融合图递归网络(MSTFGRN)来解决上述问题。该网络提出了一种数据驱动的加权邻接矩阵生成方法,以补偿预定义邻接矩阵未反映的实时空间依赖性。它还有效地学习隐藏的时空依赖,通过执行一个新的双向时空融合操作的并行时空关系在不同的时刻。最后,通过将全局注意力机制集成到时空融合模块中,同时捕获全局时空依赖性。在四个大规模的真实交通数据集上进行的广泛试验表明,与替代基线相比,我们的方法实现了最先进的性能。
2022-09-27 cs.AI cs.LG
STKAN: Kolmogorov-Arnold Networks for Spatio-Temporal Forecasting
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Chang’an University(长安大学);China University of Geosciences(中国地质大学)
针对现实交通数据时空预测难题,提出STKAN架构,将泰勒多项式柯尔莫哥洛夫-阿诺德网络模块引入时空令牌混合,经实验验证其性能有竞争力,表明非线性函数逼近器设计对时空预测架构设计有补充作用。
2026-07-16 cs.AI cs.LG
Adaptive Graph Spatial-Temporal Transformer Network for Traffic Flow Forecasting
Yale University(耶鲁大学)
基于图的交通流预测在交通系统、计算机网络等领域有着广泛的应用。由于复杂的时空相关性和非线性的交通模式,交通预测具有很大的挑战性。现有的工作大多是通过考虑空间相关性和时间相关性分别建模这种时空依赖性,而不能建模的直接时空相关性。受最近在图域中成功的Transformers的启发,在本文中,我们提出了直接使用本地多头自注意力的时空图上的跨时空相关性建模。为了降低时间复杂度,我们将注意力感受野设置为空间相邻的节点,并且我们还引入了自适应图来捕获隐藏的时空依赖性。基于这些注意力机制,我们提出了一种新的自适应图时空Transformer网络(ASTTN),它堆叠多个时空注意力层,以应用自注意力的输入图,其次是线性层的预测。在公共交通网络数据集METR-LA PEMS-BAY、PeMSD 4和PeMSD 7上的实验结果表明了该模型的优越性能。
2022-07-09 cs.AI cs.LG
DSTCGCN: Learning Dynamic Spatial-Temporal Cross Dependencies for Traffic Forecasting
Zhejiang University(浙江大学)
提出DSTCGCN动态时空交叉图卷积网络,通过基于FFT的注意力选择器和动态交叉图构建模块联合学习时空交叉依赖,在六个真实数据集上实现最优交通预测性能。
2023-07-02 cs.AI cs.LG
MTS-Mixers: Multivariate Time Series Forecasting via Factorized Temporal and Channel Mixing
Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳));Huawei Technologies Ltd.(华为技术有限公司)
多元时间序列预测在各种实际场景中得到了广泛的应用。最近,由于捕获了长期依赖关系,基于Transformer的模型在预测任务方面表现出了巨大的潜力。然而,最近在视觉和NLP领域的研究表明,注意力模块的作用并不明确,这可以被其他令牌聚合操作所取代。本文研究了注意力机制对时间序列预测性能的贡献和不足。具体而言,我们发现(1)注意力对于捕获时间依赖性是不必要的,(2)捕获时间和信道交互中的纠缠和冗余影响预测性能,以及(3)重要的是对输入和预测序列之间的映射进行建模。为此,我们提出了MTS混合器,它使用两个分解模块来捕获时间和通道依赖性。在几个真实数据集上的实验结果表明,MTS-Mixers的性能优于现有的基于Transformer的模型,具有更高的效率。
2023-02-09 cs.AI cs.LG
xERTE: Explainable Reasoning on Temporal Knowledge Graphs for Forecasting Future Links
Institute of Informatics, LMU Munich(慕尼黑大学信息学研究所);Corporate Technology, Siemens AG(西门子股份公司中央研究院);Department of Informatics, Technical University of Munich(慕尼黑工业大学信息学系)
建模随时间演化的知识图谱(KG)最近得到了越来越多的关注。在这里,图表示学习已经成为时间KG上的链接预测的主导范例。然而,基于嵌入的方法在很大程度上是以黑箱方式运行的,缺乏解释其预测的能力。本文提供了一个链接预测框架,原因在查询相关的子图的时间KG和联合模型的结构依赖和时间动态。特别是,我们提出了一个时间关系注意力机制和一个新的反向表示更新计划,以指导周围的查询封闭子图的提取。子图通过时间邻居的迭代采样和注意力传播来扩展。我们的方法提供了人类可以理解的证据来解释预测。我们评估我们的模型的四个基准时间知识图谱的链接预测任务。虽然更易于解释,但与以前的最佳KG预测方法相比,我们的模型在Hits@1上获得了高达20%的相对改进。我们还对53名受访者进行了调查,结果表明,该模型提取的链接预测证据与人类的理解一致。
2021-04-01 cs.AI cs.LG
Spatial-Temporal Fusion Graph Neural Networks for Traffic Flow Forecasting
Peking University(北京大学)
交通流的时空数据预测是一个具有挑战性的任务,因为不同道路之间的复杂的空间依赖性和动态的时间模式的趋势。现有的框架通常利用给定的空间邻接图和复杂的机制来建模空间和时间的相关性。然而,有限的表示给定的空间图结构与不完整的相邻连接可能会限制有效的时空依赖学习这些模型。为了克服这些局限性,本文提出了时空融合图神经网络(STFGNN)的交通流预测。SFTGNN可以有效地学习隐藏的时空依赖性,通过一种新的融合操作的各种空间和时间的图形,这是由数据驱动的方法产生的。同时,通过将该融合图模块和一种新的门控卷积模块集成到一个统一的层中,SFTGNN可以处理长序列。在几个公共交通数据集上的实验结果表明,我们的方法比其他基线一致地实现了最先进的性能。
2021-03-06 cs.AI cs.LG
AutoSTF: Decoupled Neural Architecture Search for Cost-Effective Automated Spatio-Temporal Forecasting
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));The Hong Kong University of Science and Technology(香港科技大学)
针对自动化时空预测中神经架构搜索开销高的问题,本文提出解耦框架 AutoSTF,通过时空搜索空间分离、表示压缩、参数共享及多块迁移提升效率与精度。
2025-01-08 cs.AI cs.LG
Adaptive Spatio-Temporal Graphs with Self-Supervised Pretraining for Multi-Horizon Weather Forecasting
School of Computer Science, Xiangtan University, Xiangtan, 411105, China(计算机学院,湘潭大学,湘潭,411105,中国)
提出一种结合图神经网络与自监督预训练的自适应时空图框架,通过时空自适应机制提升多变量、多时间跨度天气预报的准确性与泛化能力。
2025-10-28 cs.AI cs.LG
TLogic: Temporal Logical Rules for Explainable Link Forecasting on Temporal Knowledge Graphs
Siemens AG(西门子股份公司);Ludwig Maximilian University of Munich(慕尼黑大学)
传统的静态知识图谱将关系数据中的实体建模为节点,由特定关系类型的边连接。然而,信息和知识不断演变,出现了时间动态,预计会影响未来的局势。在时间知识图谱中,通过为每条边配备时间戳或时间范围来将时间信息集成到图中。基于嵌入的方法已经被引入到时态知识图谱的链接预测中,但是它们大多缺乏可解释性和可理解的推理链。特别是,它们通常不被设计为处理链路预测-涉及未来时间戳的事件预测。我们解决的任务,时间知识图谱的链接预测,并介绍TLogic,一个可解释的框架,是基于时间的逻辑规则提取通过时间随机游走。我们将TLogic与三个基准数据集上的最新基线进行了比较,并显示出更好的整体性能,同时我们的方法还提供了保持时间一致性的解释。此外,与大多数最先进的基于嵌入的方法相比,TLogic在归纳设置中工作得很好,其中已经学习的规则被转移到具有公共词汇表的相关数据集。
2022-03-09 cs.AI cs.LG
DSTFView: Multi-View Cloud-Edge Workload Forecasting with Dual-Input Spatio-Temporal-Frequency Modeling
Xinjiang University(新疆大学)
针对协作式云边环境中多维特征建模与预测效率平衡难题,提出DSTFView框架,通过双输入时空频率建模联合捕捉多种依赖性,设计自适应融合机制,实验证明其在多指标上优于基线。
2026-07-28 cs.AI cs.LG
Expand and Compress: Exploring Tuning Principles for Continual Spatio-Temporal Graph Forecasting
INTR \& DSA Thrust, The Hong Kong University of Science
针对流式时空预测中重训效率低与灾难性遗忘的问题,提出基于“扩展与压缩”原则的提示调优持续预测方法,结合持续提示池与基础时空图神经网络联合优化,在多数据集上实现多方面性能提升。
2025-10-29 cs.AI cs.LG
Adaptive Multi-receptive Field Spatial-Temporal Graph Convolutional Network for Traffic Forecasting
China Mobile Research Institute(中国移动研究院);Beijing University of Posts and Telecommunications(北京邮电大学)
移动网络流量预测是移动网络日常运营中的重要功能之一。商用移动网络是一个庞大、异构、复杂和动态的网络。这些内在特征使得移动网络流量预测远未解决,即使使用最近的先进算法,例如基于图卷积网络的预测方法和各种注意力机制,这些算法在车辆流量预测中已被证明是成功的。在本文中,我们投的问题作为一个时空序列预测任务。我们提出了一种新的深度学习网络架构,自适应多感受野时空图卷积网络(AMF-STGCN),以模拟移动基站的流量动态。AMF-STGCN通过以下方式扩展了GCN:(1)联合建模移动网络中复杂的时空依赖性,(2)应用注意力机制来捕获异构基站的各种接收场,以及(3)引入基于完全连接的深度网络的额外解码器,以克服多步预测的错误传播挑战。在来自两个不同领域的四个真实数据集上的实验一致表明AMF-STGCN优于最先进的方法。
2021-11-01 cs.AI cs.LG
Temporal Knowledge Graph Forecasting with Neural ODE
Institute of Informatics, LMU Munich(慕尼黑大学信息学研究所);Corporate Technology, Siemens AG(西门子股份公司企业技术部);Technical University of Munich(慕尼黑工业大学)
在时间知识图谱(KG)上推断未来链接的兴趣越来越大。虽然时间KG上的链接随时间连续变化,但现有方法在离散状态空间中对时间KG进行建模。为此,我们通过将神经常微分方程(ODE)的思想扩展到多关系图卷积网络,提出了一种新型的连续统模型。该模型保持了动态多关系图数据的连续性,并将时间和结构信息编码为连续时间动态嵌入。此外,应用新颖的图过渡层来捕获动态图上的过渡,即,边缘形成和溶解。我们在五个基准数据集上进行了大量的时间KG推理实验,显示了我们的模型在未来链路预测任务上的优越性能。
2022-06-02 cs.AI cs.LG
Hierarchical Time Series Forecasting Via Latent Mean Encoding
Zalando SE(Zalando公司)
提出一种基于潜在均值编码的层次时间序列预测架构,通过专门模块预测不同时间聚合级别并在隐藏层编码目标变量平均行为,在M5数据集上优于TSMixer等既有方法,实现准确且相干的跨层次预测。
2025-06-24 cs.AI cs.LG
SAMSGL: Series-Aligned Multi-Scale Graph Learning for Spatio-Temporal Forecasting
East China University of Science and Technology(华东理工大学);Potsdam Institute for Climate Impact Research(波茨坦气候影响研究所);Humboldt University of Berlin(柏林洪堡大学)
针对时空预测中时间延迟与多尺度交互难题,提出序列对齐多尺度图学习框架SAMSGL,通过序列对齐图卷积与多尺度图结构学习及Graph-FC块融合时空信息,在气象和交通数据集上验证了其有效性。
2024-05-28 cs.AI cs.LG
VaryST: Generalizable Spatio-Temporal Forecasting Beyond the Closed-World Setting
Beijing Jiaotong University(北京交通大学);Aalborg University(奥尔堡大学)
本研究提出VaryST时空预测模型,通过动态构建预测上下文、适配时空变化及处理观测可用性差异,在域内预测、零/少样本泛化及观测鲁棒性上均优于17个基准模型。
2026-10-14 cs.AI cs.LG
STEMO: Early Spatio-temporal Forecasting with Multi-Objective Reinforcement Learning
Data61, CSIRO(Data61联邦科学与工业研究组织);RMIT University(皇家墨尔本理工大学);Xidian University(西安电子科技大学);Zhejiang University(浙江大学);University of New South Wales(新南威尔士大学)
针对预测任务中准确性与时效性的平衡难题,提出基于多目标强化学习的早期时空预测模型STEMO,可适配偏好确定预测时机,在三个真实数据集上性能优于现有方法。
2024-06-18 cs.AI cs.LG
Attention-based Spatial-Temporal Graph Convolutional Recurrent Networks for Traffic Forecasting
Soochow University(苏州大学);University of North Carolina at Greensboro(北卡罗来纳大学格林斯伯勒分校);The Hong Kong Polytechnic University(香港理工大学)
交通量预测是交通科学和人工智能研究中最基本的问题之一。关键的挑战是有效地建模复杂的时空依赖性和现代交通数据的相关性。然而,现有的方法,不能同时准确地建模长期和短期的时间相关性,限制了他们的表达能力复杂的时空模式。本文提出了一种新的时空神经网络框架:基于注意力的时空图卷积递归网络(ASTGCRN),它由图卷积递归模块(GCRN)和全局注意力模块组成。特别是,GCRN集成了门控递归单元和自适应图卷积网络,用于动态学习图结构并捕获空间依赖性和局部时间关系。为了有效地提取全局时间依赖,设计了时间注意层,并将其实现为三个独立的模块,分别基于多头自注意、Transformer和Informer。在五个真实流量数据集上进行的大量实验表明,我们的三种模型都具有出色的预测性能,其平均MAE,RMSE和MAPE在测试数据集上均低于基线方法。
2023-02-25 cs.AI cs.LG
HiSTGNN: Hierarchical Spatio-temporal Graph Neural Networks for Weather Forecasting
由于天气预报对人类生活的影响和大气运动的复杂性,天气预报是一项极具吸引力和挑战性的任务。在大量历史观测时间序列数据的支持下,该任务适用于数据驱动的方法,特别是深度神经网络。近年来,基于图神经网络(GNNs)的时空预测方法取得了优异的性能。然而,基于GNNS的规范方法只能单独建模每个站点的气象变量的局部图或整个站点的全局图,缺乏不同站点的气象变量之间的信息交互。本文提出了一种新的层次时空图神经网络(HiSTGNN)模型,用于模拟多站气象变量之间的跨区域时空相关性。采用自适应图学习层和空间图卷积构造自学习图,研究变量级图和站点级图节点间的隐藏依赖关系。为了捕获时间模式,设计了作为门时间卷积的骨干的扩张的起始来模拟长期和各种气象趋势。此外,提出了一种动态交互学习的层次图中建立双向的信息传递。在三个真实气象数据集上的实验结果表明,HiSTGNN在7个基线之外具有优异的性能,与最先进的天气预报方法相比,其误差降低了4.2%至11.6%。
2022-09-19 cs.AI cs.LG
Revealing the Power of Masked Autoencoders in Traffic Forecasting
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Visa Research(Visa研究院)
针对交通预测中的数据稀缺和模型稳定性问题,提出即插即用的时空掩码自编码器框架STMAE,通过双重掩码预训练与微调集成,显著提升多种时空模型的预测精度。
2024-07-28 cs.AI cs.LG
Multi-Grained Temporal-Spatial Graph Learning for Stable Traffic Flow Forecasting
Department of Computing, The Hong Kong Polytechnic University(计算学系,香港理工大学)
针对现有方法难以捕捉全局时空模式且易过拟合的问题,提出多粒度时空图学习框架,融合全局与局部模式,提升交通流预测的稳定性和准确性。
2025-07-25 cs.AI cs.LG
TimeMosaic: Temporal Heterogeneity Guided Time Series Forecasting via Adaptive Granularity Patch and Segment-wise Decoding
TimeMosaic通过自适应粒度补丁和分段解码,解决时间序列预测中的时间异质性问题,提升预测精度与效率。
2026-01-05 cs.AI cs.LG
Ignite Forecasting with SPARK: An Efficient Generative Framework for Refining LLMs in Temporal Knowledge Graph Forecasting
School of Cyberspace Science, Harbin Institute of Technology(哈尔滨工业大学网络空间安全学院)
针对LLM在时序知识图谱预测中面临输入长度和资源优化问题,提出SPARK框架,通过束序列级生成和TKG适配器优化,实现高效且即插即用的预测。
2025-03-27 cs.AI cs.LG
Stecformer: Spatio-temporal Encoding Cascaded Transformer for Multivariate Long-term Time Series Forecasting
Alibaba Group(阿里巴巴集团)
本文提出Stecformer模型,通过半自适应图的时空编码提取器和级联解码预测器CDP,解决多元长期时间序列预测中空间特征提取不足和不同预测周期一致性问题,在五个基准数据集上取得与最先进方法相当的性能。
2023-05-25 cs.AI cs.LG
UniST-Pred: A Robust Unified Framework for Spatio-Temporal Traffic Forecasting in Transportation Networks Under Disruptions
UniST-Pred提出了一种统一的时空预测框架,通过解耦时间建模与空间表示学习,实现对交通网络中断下的鲁棒预测。
2026-10-07 cs.AI cs.LG
A lightweight Spatial-Temporal Graph Neural Network for Long-term Time Series Forecasting
Centre for Artificial Intelligence Research (CAIR)(人工智能研究中心(CAIR));University of Cape Town(开普敦大学)
Lite-STGNN通过结合分解的时序建模与可学习稀疏图结构,实现了高效且准确的长期多变量时间序列预测。
2025-12-19 cs.AI cs.LG
T-LLM: Teaching Large Language Models to Forecast Time Series via Temporal Distillation
State Key Laboratory for Novel Software Technology, Nanjing University(南京大学新型软件技术国家重点实验室);School of Artificial Intelligence, Nanjing University(南京大学人工智能学院)
T-LLM通过时间蒸馏框架,使通用大语言模型具备时间序列预测能力,实验显示其在多种设置下均优于现有方法。
2026-02-02 cs.AI cs.LG
TSRM: A Lightweight Temporal Feature Encoding Architecture for Time Series Forecasting and Imputation
Department of Computer Science, University of Wuerzburg(计算机科学系,乌尔姆堡大学)
提出轻量级时间特征编码架构TSRM,通过基于CNN的表示层和注意力机制进行多变量时间序列预测与插补,在7个基准数据集上优于现有方法并显著降低参数复杂度。
2025-04-26 cs.AI cs.LG
Spatio-Temporal Meta-Graph Learning for Traffic Forecasting
The University of Tokyo(东京大学);Toyota Motor Corporation(丰田汽车公司)
交通量预测作为多元时间序列预测的一个典型任务,一直是人工智能领域的重要研究课题。为了解决交通流中隐含的时空异质性和非平稳性,在这项研究中,我们提出了时空元图学习作为一种新的时空数据的图结构学习机制。具体来说,我们将这个想法实现到元图卷积递归网络(MegaCRN)中,将由元节点库驱动的元图学习器插入GCRN编码器-解码器。我们对两个基准数据集(即,METR-LA和PEMS-BAY)以及一个名为EXPY-TKY的新的大规模交通速度数据集,该数据集覆盖了东京的1843条高速公路。我们的模型在所有三个数据集上都优于最先进的模型。此外,通过一系列的定性评估,我们证明了我们的模型可以明确地解开道路连接和时隙与不同的模式,并鲁棒地适应任何异常的交通情况。代码和数据集可在https://github.com/deepkashiwa20/MegaCRN上获得。
2023-03-06 cs.AI cs.LG
Spectral Temporal Graph Neural Network for Multivariate Time-series Forecasting
Peking University(北京大学);Microsoft(微软);ETH Zürich(苏黎世联邦理工学院)
多变量时间序列预测在许多实际应用中起着至关重要的作用。这是一个具有挑战性的问题,因为需要同时考虑序列内的时间相关性和序列间的相关性。最近,已经有多个作品试图捕捉这两种相关性,但大多数,如果不是全部的话,他们只捕捉时间域中的时间相关性,并诉诸于预定义的先验序列间的关系。为了进一步提高多变量时间序列预测的精度,本文提出了谱时间图神经网络(StemGNN)。StemGNN捕获\textit{spectral domain}中的序列间相关性和时间依赖性\textit{jointly}。它结合了图形傅立叶变换(GFT)和离散傅立叶变换(DFT),前者对序列间相关性进行建模,后者对端到端框架中的时间依赖性进行建模。在经过GFT和DFT之后,谱表示保持清晰的模式,并且可以通过卷积和顺序学习模块来有效地预测。此外,StemGNN自动从数据中学习序列间相关性,而无需使用预定义的先验知识。我们在十个真实世界的数据集上进行了广泛的实验,以证明StemGNN的有效性。代码可在https://github.com/microsoft/StemGNN/上获得
2021-03-13 cs.AI cs.LG
TraverseNet: Unifying Space and Time in Message Passing for Traffic Forecasting
University of Technology Sydney(悉尼科技大学);Amazon(亚马逊);Monash University(莫纳什大学);Griffith University(格里菲斯大学)
本文的目的是统一的空间依赖性和时间依赖性在一个非欧空间,同时捕捉内部的时空依赖性的交通数据。对于具有拓扑结构的时空属性实体,其时空是连续的、统一的,而每个节点的当前状态受其邻居节点在不同时期的历史状态的影响。大多数用于交通预测的时空神经网络在处理过程中将空间相关性和时间相关性分开研究,严重损害了时空的完整性,忽略了相邻节点的时间相关周期具有延迟性和动态性的事实。为了模拟这种实际情况,我们提出了TraverseNet,一种新的时空图神经网络,将空间和时间视为一个不可分割的整体,挖掘时空图,同时利用每个节点通过消息遍历机制的演变时空依赖关系。消融和参数研究的实验验证了所提出的TraverseNet的有效性,详细的实现可以从https://github.com/nnzhan/TraverseNet找到。
2022-06-27 cs.AI cs.LG
LLMODE: Aligning ODEs with LLMs via Gated Token Injection for Irregular Spatio-Temporal Forecasting
Beihang University(北京航空航天大学)
LLMODE是基于冻结LLM的框架,通过图感知ODE编码器等处理不规则时空数据,在多数据集上表现优异,零样本泛化能力强。
2026-09-01 cs.AI cs.LG
UltraSTF: Ultra-Compact Model for Large-Scale Spatio-Temporal Forecasting
Visa Research(Visa研究)
针对SparseTSF在时空数据上周期内依赖捕获不足的问题,提出集成跨周期预测与超紧凑形状库的UltraSTF模型,在LargeST基准上以少于次优方法0.2%的参数实现最先进性能。
2025-08-06 cs.AI cs.LG
ST-MLP: A Cascaded Spatio-Temporal Linear Framework with Channel-Independence Strategy for Traffic Forecasting
University of Pennsylvania(宾夕法尼亚大学);Princeton University(普林斯顿大学);Duke Kunshan University(昆山杜克大学);IBM Research(IBM研究院)
针对 STGNN 复杂且计算成本高的问题,提出仅由级联 MLP 与线性层构成、融合时空及图结构并采用通道独立策略的 ST-MLP,在准确率和效率上优于现有模型。
2023-08-14 cs.AI cs.LG
Deciphering Spatio-Temporal Graph Forecasting: A Causal Lens and Treatment
National University of Singapore(新加坡国立大学);The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Beijing Jiaotong University(北京交通大学);University of Science and Technology of China(中国科学技术大学)
本文提出CaST框架,通过结构因果模型、后门调整解耦不变部分与时序环境,以及前门调整结合Hodge-Laplacian边级卷积,解决时空图预测中的时序分布外和动态空间因果问题,并在三个数据集上验证其优越性。
2023-09-23 cs.AI cs.LG
Deep Time Series Forecasting with Shape and Temporal Criteria
研究了具有突变性的非平稳信号的多步时间序列预测问题。目前最先进的深度学习预测方法通常使用MSE的变体进行训练,缺乏在确定性和概率性背景下提供准确预测的能力。为了应对这些挑战,我们建议在深度模型的训练目标中加入形状和时间标准。我们定义形状和时间的相似性和相异性,基于动态时间规整(DTW)和时间失真指数(TDI)的平滑松弛,从而能够构建可微损失函数和半正定(PSD)内核。有了这些工具,我们介绍DILATE(失真损失,包括shApe和TimE),确定性预测的一个新目标,明确纳入了两个术语支持精确的形状和时间变化检测。对于概率预测,我们引入了STRIPE++(形状和时间多样性的概率预测),一个框架,提供了一组尖锐的和多样化的预测,其中结构化的形状和时间多样性与决定点过程(DPP)的多样性损失。对合成和真实世界数据集的广泛实验和消融研究证实了在时间序列预测中利用形状和时间特征的好处。
2022-02-17 cs.AI cs.LG stat.ML
CausalPOI: Spatio-Temporal Graph-Based Causal Modeling for Cold-Start POI Check-in Forecasting
Nanyang Technological University(南洋理工大学);China Agricultural University(中国农业大学);Meituan(美团)
提出CausalPOI框架,利用时空功能交互图建模POI间语义和空间关系,通过结构对齐的处理和对照图模拟事实与反事实场景,解决冷启动POI签到预测问题,在真实数据集上显著优于基线。
2026-11-17 cs.AI cs.LG
Long-term Wind Power Forecasting with Hierarchical Spatial-Temporal Transformer
Sun Yat-sen University(中山大学);The Hong Kong Polytechnic University(香港理工大学);Smart Cities Research Institute, The Hong Kong Polytechnic University(香港理工大学智慧城市研究院);Research Institute, Sun Yat-sen University(中山大学研究院)
本文提出层次时空Transformer网络HSTTN,通过沙漏形编码器-解码器框架、并行Transformer骨架和上下文融合块,有效建模多尺度时空依赖,提升长期风电功率预测精度。
2023-05-30 cs.AI cs.LG
ST-Hyper: Learning High-Order Dependencies Across Multiple Spatial-Temporal Scales for Multivariate Time Series Forecasting
College of Computer Science and Technology(计算机科学与技术学院)
针对多变量时间序列预测中现有方法难以建模跨多时空尺度依赖的问题,提出ST-Hyper框架,通过时空金字塔模块提取多尺度特征、自适应超图建模捕捉高阶依赖并结合三阶段传播,在6个真实数据集上取得SOTA性能。
2025-09-02 cs.AI cs.LG
STGIN: A Spatial Temporal Graph-Informer Network for Long Sequence Traffic Speed Forecasting
Nanyang Technological University(南洋理工大学);Agency for Science, Technology and Research(新加坡科技研究局);Institute for Infocomm Research(资讯通信研究院)
准确的交通信息长序列预测是智能交通系统发展的关键。我们可能会受益于神经网络分析技术的快速发展,以更好地了解交通网络的潜在功能模式,作为这一进展的结果。由于交通数据和设施利用情况依次依赖于过去和现在的情况,几个相关的神经网络技术的时间依赖性提取模型的基础上,已经开发来解决这个问题。另一方面,复杂的拓扑道路结构,放大了空间相互依赖的影响,这是不能捕获的纯时间提取方法。此外,典型的深度递归神经网络(RNN)拓扑结构对全面的长期预测所需的全局信息抽取有约束。本文提出了一种新的时空神经网络结构,称为时空图信息(STGIN),通过合并信息层和图注意力网络(GAT)层进行时空关系提取,来处理长期交通参数预测问题。注意力机制潜在地保证了长期预测性能,而不会从远距离输入中丢失显著的信息。在两个不同视野的真实交通数据集上,实验结果验证了长序列预测能力,并提供了进一步的解释。
2022-10-01 cs.AI cs.LG
Spatio-Temporal Wind Speed Forecasting using Graph Networks and Novel Transformer Architectures
University of Oslo(奥斯陆大学);Institute for Energy Systems (IFE)(能源系统研究所)
这项研究的重点是挪威大陆架的多步时空风速预报。该研究旨在通过不同测量站的相对物理位置来利用空间依赖性,以改善当地的风力预报。我们的多步预测模型可以生成10分钟、1小时或4小时的预测,分辨率为10分钟,这意味着模型可以为预测的未来趋势生成更多信息的时间序列。一个图神经网络(GNN)架构被用来提取空间依赖性,不同的更新函数来学习时间相关性。这些更新功能是使用不同的神经网络架构来实现的。Transformer就是这样一种体系结构,近年来,它在序列建模中变得越来越流行。为了更好地进行时间序列预测,已经提出了各种修改,其中本研究的重点是Informer,LogSparse Transformer和Autoformer。这是LogSparse Transformer和Autoformer首次应用于风预测,也是首次在风预测的时空设置中制定这些或Informer。通过与时空长短期记忆(LSTM)和多层感知器(MLP)模型进行比较,研究表明,使用改变后的Transformer架构作为GNN中更新函数的模型能够超越这些模型。此外,我们提出了快速傅立叶Transformer(FF Transformer),这是一种新的Transformer架构的基础上,信号分解,并由两个单独的流,分别分析的趋势和周期成分。FFTransformer和Autoformer在10分钟和1小时的预测中取得了优异的结果,FFT…
2022-12-30 cs.AI cs.LG
Deep Spatio-Temporal Forecasting of Electrical Vehicle Charging Demand
Technical University of Denmark(丹麦技术大学)
电动汽车可以提供低碳排放解决方案,以扭转排放上升的趋势。然而,这要求用于满足需求的能源是绿色的。为了满足这一要求,准确预测充电需求至关重要。短期和长期的充电需求预测将有助于更好地优化电网和未来的基础设施扩建。在本文中,我们建议使用公开的数据来预测电动汽车充电需求。为了对充电站之间复杂的时空相关性进行建模,我们认为时间图卷积模型最适合捕捉相关性。与其他预测方法相比,所提出的时间图卷积网络提供了最准确的短期和长期预测。
2021-06-21 cs.LG
Temporal Latent Auto-Encoder: A Method for Probabilistic Multivariate Time Series Forecasting
IBM Research(IBM研究院)
高维多变量时间序列的概率预测是一个众所周知的具有挑战性的任务,无论是在计算负担和分布建模。大多数以前的工作要么做简单的分布假设或放弃建模交叉系列的相关性。一个有前途的工作线利用可扩展矩阵分解进行潜在空间预测,但仅限于线性嵌入,无法建模分布,并且在使用深度学习预测时无法进行端到端的训练。我们介绍了一种新的时间潜在自动编码器方法,该方法能够对多变量时间序列进行非线性因式分解,并使用时间深度学习潜在空间预测模型进行端到端学习。通过施加概率潜在空间模型,输入序列的复杂分布通过解码器建模。大量的实验表明,我们的模型在许多流行的多变量数据集上实现了最先进的性能,对于几个标准指标,增益有时高达$50\%$。
2021-01-25 cs.AI cs.LG cs.NE
Deep learning for spatio-temporal forecasting -- application to solar energy
HESAM Université(巴黎高科艺术与职业大学);Conservatoire national des arts et métiers(法国国立工艺学院);Simon Fraser University(西蒙弗雷泽大学);Borealis AI(Borealis人工智能研究院);Valeo AI(法雷奥人工智能研究院);Sorbonne Université(索邦大学);Criteo AI(科韬人工智能研究院);Mines ParisTech(巴黎高等矿业学院);EDF R&D(法国电力研发中心);Université Rennes 1(雷恩第一大学);INRIA(法国国家信息与自动化研究所)
本文探讨了深度学习的时空预测问题。法国电力公司(EDF)的激励应用是利用鱼眼图像进行短期太阳能预测。我们探索了两个主要的研究方向,通过注入外部物理知识来改进深度预测方法。第一个方向涉及训练损失函数的作用。我们表明,可微形状和时间标准可以利用,以提高现有模型的性能。我们解决了确定性上下文与建议的DILATE损失函数和概率上下文与STRIPE模型。我们的第二个方向是用深度数据驱动的网络来增强不完整的物理模型,以实现准确的预测。对于视频预测,我们引入了PhyDNet模型,该模型将物理动力学与预测所需的残差信息(如纹理或细节)分离开来。我们进一步提出了一个学习框架(APHYNITY),确保在温和的假设下,物理和数据驱动的组件之间的原则性和独特的线性分解,从而获得更好的预测性能和参数识别。
2022-05-07 cs.AI cs.LG stat.ML
Constructing Geographic and Long-term Temporal Graph for Traffic Forecasting
Tsinghua University(清华大学);DiDi AI Labs(滴滴AI实验室)
交通预测影响着智能交通系统(ITS)的各项服务,对用户体验和城市交通控制具有重要意义。由于道路网络包含复杂且随时间变化的时空依赖性,因此具有挑战性。最近,基于深度学习的方法通过采用图卷积网络(GCN)来提取空间相关性和递归神经网络(RNN)来捕获时间依赖性,取得了有希望的结果。然而,现有的方法往往只建立在道路网络连通性的基础上,这限制了道路之间的相互作用。在这项工作中,我们提出了地理和长期时间图卷积递归神经网络(GLT-GCRNN),这是一种新的交通预测框架,可以学习共享相似地理或长期时间模式的道路之间的丰富交互。在真实世界的交通状态数据集上进行的大量实验表明,GLT-GCRNN在不同指标方面优于最先进的方法,从而验证了我们方法的有效性。
2020-04-23 cs.AI cs.LG eess.SP
ST-FiT: Inductive Spatial-Temporal Forecasting with Limited Training Data
University of Virginia(弗吉尼亚大学);Florida State University(佛罗里达州立大学)
针对时空图中多数节点缺乏训练数据的问题,提出归纳式预测框架ST-FiT,通过时间数据增强和空间图拓扑学习,使现有STGNNs能泛化到无数据节点,实验验证其有效性。
2024-12-17 cs.AI cs.LG stat.ML
It is all Connected: A New Graph Formulation for Spatio-Temporal Forecasting
University of Oslo(奥斯陆大学);Institute for Energy Systems (IFE)(能源系统研究所(IFE))
随着现代社会中传感器数量的不断增加,时空时间序列预测已成为对未来做出明智决策的事实上的工具。大多数时空预测模型通常包括学习空间和时间依赖性的不同组件。一种常见的方法采用一些图神经网络(GNN)来捕获空间位置之间的关系,而另一种网络,如递归神经网络(RNN),则学习时间相关性。通过将每个记录的样本表示为图中其自己的节点,而不是将特定位置的所有测量值表示为单个节点,时间和空间信息以类似的方式编码。在这种情况下,GNN现在可以直接学习时间和空间依赖性,同时还可以减少对额外时间网络的需求。此外,该框架不要求在时间维度上进行一致的测量,这意味着它也自然有助于处理不规则的时间序列、不同的采样频率或缺失的数据,而不需要进行数据填补。为了评估所提出的方法,我们将风速预测作为一个案例研究,其中我们提出的框架优于其他时空模型,使用带有Transformer或LSTM网络的GNN作为时间更新函数。
2023-03-23 cs.LG
Dynamic Forecasting and Temporal Feature Evolution of Stock Repurchases in Listed Companies Using Attention-Based Deep Temporal Networks
本文提出结合经济理论的动态预警系统,利用TCN和注意力LSTM捕捉财务演变模式,通过滚动窗口验证模型优于传统方法,揭示回购决策的长期和短期驱动因素。
2026-03-29 cs.AI cs.LG q-fin.ST