A Survey on Spatio-temporal Data Analytics Systems
Dalhousie University(达尔豪斯大学);The University of Waikato(怀卡托大学)
由于时空数据量的激增,基于位置的服务和应用的普及,以及从时空数据中提取知识以解决各种现实问题的重要性,在过去十年中,在空间和时空数据分析领域进行了大量的研究和开发工作。现有工作的主要目标是开发算法和技术来捕获,存储,管理,分析和可视化空间或时空数据。研究人员通过在现有系统中增加时空支持,从头开始开发一个新的系统来处理时空数据,或者通过实现挖掘时空数据的算法来做出贡献。现有的空间和时空数据分析生态系统可以分为三类:(1)空间数据库(SQL和NoSQL),(2)大型时空数据处理基础设施,以及(3)用于处理时空数据的程序设计语言和软件工具。由于现有的调查主要调查用于处理空间数据的大数据基础设施,因此本次调查探索了空间和时空分析的整个生态系统,并对大空间数据处理系统进行了最新审查。该调查还描绘了空间和时空数据分析的重要性和未来。
2021-03-17 cs.LG
Spatially Encoding Temporal Correlations to Classify Temporal Data Using Convolutional Neural Networks
University of Maryland Baltimore County(马里兰大学巴尔的摩县分校)
我们提出了一个离线的方法来明确编码的时间模式空间作为不同类型的图像,即,Gramian角场和马尔可夫转移场。这使得能够使用来自计算机视觉的技术进行特征学习和分类。我们使用平铺卷积神经网络从12个基准时间序列数据集和两个真实时空轨迹数据集上的单个GAF、MTF和GAF-MTF图像中学习高级特征。我们的方法的分类结果是有竞争力的国家的最先进的方法对这两种类型的数据。对CNN学习的特征和权重的分析解释了这种方法的原理。
2015-09-24 cs.LG
Spatial-Temporal Fusion Graph Neural Networks for Traffic Flow Forecasting
Peking University(北京大学)
交通流的时空数据预测是一个具有挑战性的任务,因为不同道路之间的复杂的空间依赖性和动态的时间模式的趋势。现有的框架通常利用给定的空间邻接图和复杂的机制来建模空间和时间的相关性。然而,有限的表示给定的空间图结构与不完整的相邻连接可能会限制有效的时空依赖学习这些模型。为了克服这些局限性,本文提出了时空融合图神经网络(STFGNN)的交通流预测。SFTGNN可以有效地学习隐藏的时空依赖性,通过一种新的融合操作的各种空间和时间的图形,这是由数据驱动的方法产生的。同时,通过将该融合图模块和一种新的门控卷积模块集成到一个统一的层中,SFTGNN可以处理长序列。在几个公共交通数据集上的实验结果表明,我们的方法比其他基线一致地实现了最先进的性能。
2021-03-06 cs.AI cs.LG
A Simple Framework for Multi-mode Spatial-Temporal Data Modeling
Beihang University(北京航空航天大学)
针对现有多模态时空数据建模方法复杂度高的问题,提出含通用跨模态空间关系学习组件、用多层感知机捕捉时序与通道关联的简单框架,在三个真实数据集上以更低复杂度超越基线,验证了模块泛化性。
2023-08-22 cs.LG
STR-GODEs: Spatial-Temporal-Ridership Graph ODEs for Metro Ridership Prediction
Peking University(北京大学)
地铁客流预测一直受到各国政府和研究人员的广泛关注。最近的工作集中在设计复杂的图卷积递归网络架构,以捕获空间和时间模式。这些工作很好地提取了空间维的信息,但时间维的局限性仍然存在。我们将神经ODE算法扩展到图网络,并提出了STR-GODEs网络,它可以有效地学习空间,时间和乘客量的相关性,而不受时间轴上将数据划分为相等大小的间隔的限制。在学习空间关系和时间相关性的同时,我们修改了GODE-RNN单元,以获得乘客特征和隐藏状态。在GODESolve中加入了乘客信息及其隐藏状态,以减少预测中长时间序列引起的误差积累。在两个大规模数据集上进行的大量实验证明了该模型的有效性和鲁棒性。
2021-07-11 cs.LG
DSTCGCN: Learning Dynamic Spatial-Temporal Cross Dependencies for Traffic Forecasting
Zhejiang University(浙江大学)
提出DSTCGCN动态时空交叉图卷积网络,通过基于FFT的注意力选择器和动态交叉图构建模块联合学习时空交叉依赖,在六个真实数据集上实现最优交通预测性能。
2023-07-02 cs.AI cs.LG
Revisiting Spatial-Temporal Similarity: A Deep Learning Framework for Traffic Prediction
Pennsylvania State University(宾夕法尼亚州立大学)
由于大规模交通数据的可用性及其在现实世界中的重要性,交通预测在人工智能研究领域引起了越来越多的关注。例如,准确的出租车需求预测可以帮助出租车公司预先分配出租车。交通预测的关键挑战在于如何对复杂的空间相关性和时间动态性进行建模。虽然这两个因素都已被考虑在建模中,现有的作品作出强有力的假设空间依赖性和时间动态,即,空间依赖性在时间上是稳定的,而时间动态是严格周期性的。然而,在实践中,空间依赖性可以是动态的(即,随时间变化),并且时间动态从一个周期到另一个周期可能具有一些扰动。在本文中,我们做了两个重要的观察:(1)位置之间的空间依赖是动态的;(2)时间依赖遵循每日和每周的模式,但它不是严格的周期性的动态时间转移。为了解决这两个问题,我们提出了一种新的时空动态网络(STDN),其中引入了流门机制来学习位置之间的动态相似性,并设计了一个周期性转移的注意力机制来处理长期的周期性时间转移。据我们所知,这是在一个统一的框架内处理这两个问题的第一项工作。在真实交通数据集上的实验结果验证了该方法的有效性。
2018-11-03 cs.LG
Spatial-Temporal Graph Convolutional Gated Recurrent Network for Traffic Forecasting
Nanjing University(南京大学)
交通预测作为智能交通系统的重要组成部分,引起了学术界和工业界的极大关注。尽管人们提出了许多交通预测方法,但对复杂的时空相关性建模仍然是一个难题。时间依赖包括短期依赖和长期依赖,后者往往被忽视。空间依赖可以分为基于距离的空间依赖和隐藏的空间依赖。为了模拟复杂的时空依赖性,我们提出了一种新的框架,称为时空图卷积门递归网络(STGCGRN)的流量预测。我们设计了一个注意力模块,通过挖掘流量数据中的周期性信息来捕获长期依赖。本文提出了一种双图卷积门控递归单元(DGCGRU),它将图卷积网络和GRU相结合,来捕获空间依赖性。图卷积部分分别用基于距离的预定义邻接矩阵和自适应邻接矩阵对基于距离的空间依赖和隐藏的空间依赖进行建模。特别地,我们采用多头机制来捕获多个隐藏的依赖关系。此外,每个预测节点的周期模式可能不同,这往往被忽略,导致在建模空间依赖性时节点之间的周期信息相互干扰。为此,我们探索了模型的体系结构,并提高了性能。在四个数据集上的实验证明了该模型的优越性能。
2022-10-06 cs.LG
ST-ReP: Learning Predictive Representations Efficiently for Spatial-Temporal Forecasting
Tongji University(同济大学)
提出轻量级表示学习模型ST-ReP,通过整合当前值重建与未来值预测的预训练框架、新型时空编码器及多时间尺度自监督损失,解决时空预测中的负样本对选择、空间相关性与可扩展性挑战,性能超越基线。
2024-12-19 cs.LG
Unified Data Management and Comprehensive Performance Evaluation for Urban Spatial-Temporal Prediction [Experiment, Analysis & Benchmark]
School of Computer Science and Engineering, Beihang University(北京航空航天大学计算机科学与工程学院);Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学高瓴人工智能学院);School of Economics and Management, Beihang University(北京航空航天大学经济管理学院)
针对城市时空预测领域数据管理难、模型选型难的问题,提出统一存储格式atomic files,梳理模型技术进展并开展大规模实验构建性能排行榜,为领域发展提供支撑。
2024-03-07 cs.LG
STD-PLM: Understanding Both Spatial and Temporal Properties of Spatial-Temporal Data with PLM
针对现有时空预测与补全方法任务单一、少/零样本效果差且PLM时空关联建模不足的问题,本文提出STD-PLM模型,通过时空分词器、拓扑感知节点嵌入及沙漏注意力模块,实现两类任务的高性能与强泛化。
2025-05-20 cs.AI cs.LG
STONet: A Neural-Operator-Driven Spatio-temporal Network
Center for Artificial Intelligence Research and Innovation(人工智能研究与创新中心)
由于图神经网络具有良好的表达能力,基于图的时空神经网络可以有效地对非结构化网格中不规则采样的离散点之间的空间依赖关系进行建模。然而,这些模型通常是空间传导的-仅拟合模型中馈入的离散空间节点的信号,但不能推广到具有zero-shot的“看不见的”空间点。相比之下,对于连续空间上的预测任务,例如地球表面的温度预测,\textit{spatially-inductive}属性允许模型推广到空间域中的任何点,展示了模型学习系统的基本机制或物理定律的能力,而不是简单地拟合信号。此外,在时间域中,\textit{irregularly-sampled}时间序列,例如具有缺失值的数据,要求模型是时间连续的。出于这两个问题,我们提出了一个时空框架的基础上神经运营商的偏微分方程,学习的基础机制,管理动态的空间连续的物理量。实验表明,我们的模型在预测空间连续的数据量方面的性能有所提高,并且它对看不见的空间点的泛化能力和处理时间不规则数据的能力都很好。
2022-04-21 cs.LG
STOAT: Spatial-Temporal Probabilistic Causal Inference Network
University of New South Wales(新南威尔士大学)
针对现有方法独立建模时空动态、忽略因果驱动概率预测的问题,提出STOAT框架,整合空间关系矩阵实现空间感知因果效应估计,结合深度概率模型处理潜在序列,在COVID-19数据上优于多个先进模型。
2025-11-12 cs.LG
Multi-Scale Spatial-Temporal Recurrent Networks for Traffic Flow Prediction
Soochow University(苏州大学);University of North Carolina at Greensboro(北卡罗来纳大学格林斯伯勒分校);The Hong Kong Polytechnic University(香港理工大学)
本文提出多尺度时空循环网络MSSTRN,结合单步与多步门控循环单元及时空同步注意力机制,在四个真实数据集上以显著优势超越二十种基线方法,实现高精度交通流预测。
2023-10-12 cs.AI cs.LG
Attention-based Spatial-Temporal Graph Convolutional Recurrent Networks for Traffic Forecasting
Soochow University(苏州大学);University of North Carolina at Greensboro(北卡罗来纳大学格林斯伯勒分校);The Hong Kong Polytechnic University(香港理工大学)
交通量预测是交通科学和人工智能研究中最基本的问题之一。关键的挑战是有效地建模复杂的时空依赖性和现代交通数据的相关性。然而,现有的方法,不能同时准确地建模长期和短期的时间相关性,限制了他们的表达能力复杂的时空模式。本文提出了一种新的时空神经网络框架:基于注意力的时空图卷积递归网络(ASTGCRN),它由图卷积递归模块(GCRN)和全局注意力模块组成。特别是,GCRN集成了门控递归单元和自适应图卷积网络,用于动态学习图结构并捕获空间依赖性和局部时间关系。为了有效地提取全局时间依赖,设计了时间注意层,并将其实现为三个独立的模块,分别基于多头自注意、Transformer和Informer。在五个真实流量数据集上进行的大量实验表明,我们的三种模型都具有出色的预测性能,其平均MAE,RMSE和MAPE在测试数据集上均低于基线方法。
2023-02-25 cs.AI cs.LG
STFL: A Temporal-Spatial Federated Learning Framework for Graph Neural Networks
Macquarie University(麦考瑞大学);Ant Group(蚂蚁集团)
本文提出了一个时空联合的图神经网络学习框架STFL。该框架探索输入时空数据的潜在相关性,并将其转换为节点特征和邻接矩阵。框架中的联邦学习设置确保了数据隐私,同时实现了良好的模型泛化。在睡眠阶段数据集ISRUC_S3上的实验结果说明了STFL在图预测任务上的有效性。
2022-01-11 cs.AI cs.LG
Multi View Spatial-Temporal Model for Travel Time Estimation
Wuhan University of Technology(武汉理工大学);East China Normal University(华东师范大学);Sun Yat-sen University(中山大学)
出租车到达时间预测是构建智能交通系统的基础。传统的预测方法主要依赖于从交通地图中提取特征,无法对复杂的情况和非线性的时空关系进行建模。因此,我们提出了多视图时空模型(MVSTM)来捕捉时空关系和轨迹特征的相互依赖性。具体来说,我们使用graph2vec模型的空间视图,双通道的时间模型的轨迹视图,和结构嵌入模型的交通语义。在大规模滑行轨迹数据上的实验表明,该方法比现有的新方法更有效。源代码可以在https://github.com/775269512/SIGSPATIAL-2021-GISCUP-4th-Solution上找到。
2021-09-30 cs.CY cs.LG
Algebraic Expression of Subjective Spatial and Temporal Patterns
通用学习机是从数学角度研究机器学习的理论。外部世界根据输入数据的模式反映在通用学习机中。这是学习机的主观模式。在文献[2,4]中,我们讨论了主观空间模式,并建立了一个强有力的工具--X-形式,它是主观空间模式的代数表示。然而,作为研究的初始阶段,我们只讨论了空间格局。在这里,我们将讨论空间和时间模式,以及它们的代数表达式。
2018-05-31 cs.LG stat.ML
Spatial-Temporal Transformer Networks for Traffic Flow Forecasting
交通预测已经成为智能交通系统的核心组成部分。然而,及时准确的交通预测,特别是长期预测,仍然是一个开放的挑战,由于高度非线性和动态的时空依赖性的交通流。在本文中,我们提出了一种新的范式时空Transformer网络(STTN),利用动态定向的空间依赖性和长期的时间依赖性,以提高长期流量预测的准确性。具体来说,我们提出了一个新的变种的图神经网络,命名为空间Transformer,通过动态建模有向空间依赖与自注意机制,以捕捉实时交通状况以及交通流的方向性。此外,不同的空间依赖模式可以联合建模与多头注意力机制,考虑不同的关系相关的不同因素(如相似性,连接性和协方差)。另一方面,时间Transformer被用来模拟跨多个时间步长的长范围双向时间依赖性。最后,它们被组成一个块,以联合建模的时空依赖性,准确的交通预测。与现有的作品相比,该模型能够在长范围的时空依赖性上进行快速和可扩展的训练。实验结果表明,该模型在实际PeMS-Bay和PeMSD 7(M)数据集上的长期流量预测结果优于现有模型.
2021-03-29 cs.LG eess.SP
Disentangling Multiplex Spatial-Temporal Transition Graph Representation Learning for Socially Enhanced POI Recommendation
针对现有POI推荐方法时空转移分开建模导致表征错位的问题,提出基于解耦变分多路图自动编码器的DiMuST模型,通过解耦共享与私有分布、PoE融合及对比去噪提升性能,在两个数据集上多项指标优于现有方法。
2025-10-03 cs.AI cs.LG
A Survey of Generative Techniques for Spatial-Temporal Data Mining
University of Hong Kong(香港大学);Peking University(北京大学);Nanyang Technological University(南洋理工大学);Tsinghua University(清华大学);Westlake University(西湖大学);University of Queensland(昆士兰大学);Huawei Cloud & AI(华为云与人工智能);Aalborg University(奥尔堡大学)
该综述梳理了生成式技术在时空数据挖掘中的应用,提出标准化框架与新分类体系,指明未来研究方向,推动领域发展。
2024-05-15 cs.AI cs.CE cs.LG
ST-USleepNet: A Spatial-Temporal Coupling Prominence Network for Multi-Channel Sleep Staging
Saw Swee Hock School of Public Health, National University of Singapore(新加坡国立大学公共健康学院);Institute of Data Science, National University of Singapore(新加坡国立大学数据科学研究所);Beijing Key Laboratory of Brainnetome and Brain-Computer Interface, Institute of Automation, Chinese Academy of Sciences(北京脑网膜与脑机接口重点实验室,中国科学院自动化研究所);Brainnetome Center, Institute of Automation, Chinese Academy of Sciences(脑网膜中心,中国科学院自动化研究所)
ST-USleepNet通过时空图构建和U形网络同时提取显著时域与空域睡眠特征,捕捉时空耦合模式,在三个数据集上优于现有基线,实现准确多通道睡眠分期。
2025-06-08 cs.LG q-bio.NC
Exploring Rich and Efficient Spatial Temporal Interactions for Real Time Video Salient Object Detection
Qingdao University(青岛大学);Jiangxi University of Finance and Economics(江西财经大学);Xidian University(西安电子科技大学);Stony Brook University(石溪大学)
当前主流方法主要从两个独立的场所来制定其视频显著性,即,空间和时间分支。作为一个补充组成部分,时间分支的主要任务是间歇性地将空间分支集中在那些具有显著运动的区域上。以这种方式,即使整体视频显著性质量严重依赖于其空间分支,但是,时间分支的性能仍然很重要。因此,提高整体视频显著性的关键因素是如何进一步有效地提高这些分支的性能。在本文中,我们提出了一种新的时空网络,以实现这种改进,在一个完整的互动方式。我们整合了一个轻量级的时间模型到空间分支粗定位那些空间显着的区域与值得信赖的显着运动。同时,空间分支本身能够以多尺度的方式递归地细化时间模型。通过这种方式,空间和时间分支都能够彼此交互,实现相互的性能改进。我们的方法易于实现,但有效,实现高质量的视频显着性检测的实时速度为50 FPS。
2020-08-07 cs.CV cs.LG
Multi-Grained Temporal-Spatial Graph Learning for Stable Traffic Flow Forecasting
Department of Computing, The Hong Kong Polytechnic University(计算学系,香港理工大学)
针对现有方法难以捕捉全局时空模式且易过拟合的问题,提出多粒度时空图学习框架,融合全局与局部模式,提升交通流预测的稳定性和准确性。
2025-07-25 cs.AI cs.LG
Uncertainty Quantification of Sparse Travel Demand Prediction with Spatial-Temporal Graph Neural Networks
Massachusetts Institute of Technology(麻省理工学院);University of Florida(佛罗里达大学);Northeastern University(东北大学)
出行需求预测是交通领域的一项基本挑战。最近,时空深度学习模型展示了提高预测精度的巨大潜力。然而,很少有研究解决细粒度O-D矩阵的不确定性和稀疏性问题。这带来了一个严重的问题,因为大量的零偏离了确定性深度学习模型的高斯假设。为了解决这个问题,我们设计了一个时空零膨胀负二项图神经网络(STZINB-GNN)来量化稀疏出行需求的不确定性。它使用扩散和时间卷积网络分析空间和时间相关性,然后将其融合以参数化出行需求的概率分布。STZINB-GNN使用具有各种空间和时间分辨率的两个真实世界数据集进行检查。结果表明STZINB-GNN优于基准模型,特别是在高时空分辨率下,因为它的高精度,紧置信区间和可解释的参数。STZINB-GNN的稀疏性参数对于各种运输应用具有物理解释。
2022-08-11 cs.LG stat.ML
Graph Structure Learning for Spatial-Temporal Imputation: Adapting to Node and Feature Scales
School of Computer Science and Technology, Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳)计算机科学与技术学院)
针对固定空间图难以表达多特征异质相关性的问题,提出多尺度 GSLI 框架,通过节点/特征尺度图学习、显著性建模及跨特征跨时间表示提升时空缺失值插补性能。
2025-01-05 cs.DB cs.LG
TraverseNet: Unifying Space and Time in Message Passing for Traffic Forecasting
University of Technology Sydney(悉尼科技大学);Amazon(亚马逊);Monash University(莫纳什大学);Griffith University(格里菲斯大学)
本文的目的是统一的空间依赖性和时间依赖性在一个非欧空间,同时捕捉内部的时空依赖性的交通数据。对于具有拓扑结构的时空属性实体,其时空是连续的、统一的,而每个节点的当前状态受其邻居节点在不同时期的历史状态的影响。大多数用于交通预测的时空神经网络在处理过程中将空间相关性和时间相关性分开研究,严重损害了时空的完整性,忽略了相邻节点的时间相关周期具有延迟性和动态性的事实。为了模拟这种实际情况,我们提出了TraverseNet,一种新的时空图神经网络,将空间和时间视为一个不可分割的整体,挖掘时空图,同时利用每个节点通过消息遍历机制的演变时空依赖关系。消融和参数研究的实验验证了所提出的TraverseNet的有效性,详细的实现可以从https://github.com/nnzhan/TraverseNet找到。
2022-06-27 cs.AI cs.LG
An Adaptive Federated Relevance Framework for Spatial Temporal Graph Learning
Ant Group(蚂蚁集团);Wuhan University of Technology(武汉理工大学);Macquarie University(麦考瑞大学)
本文提出自适应联邦相关性框架FedRel,通过核心动态内外图模块捕获时空特征,并设计相关性驱动的联邦学习模块保护隐私并提升模型泛化能力。
2023-09-14 cs.AI cs.LG
NAST: Non-Autoregressive Spatial-Temporal Transformer for Time Series Forecasting
虽然Transformer在广泛的领域特别是自然语言处理(NLP)领域取得了突破性的成功,但将其应用于时间序列预测仍然是一个巨大的挑战。在时间序列预测中,对标准Transformer模型进行自回归解码不可避免地会引入巨大的累积误差。此外,利用Transformer处理问题中的时空依赖性仍然面临着困难。为了解决这些限制,这项工作是第一次尝试提出一个非自回归Transformer架构的时间序列预测,旨在克服时间延迟和累积误差的问题,在规范的Transformer。此外,本文提出了一种新的时空注意力机制,通过学习的时间影响图来搭建一座桥梁,填补时空注意力之间的空白,从而实现时空依赖的一体化处理。从经验上讲,我们在以自我为中心的多样化未来定位数据集上评估了我们的模型,并在实时性和准确性方面展示了最先进的性能。
2021-05-29 cs.LG stat.ML
Synthesizing Dynamic Patterns by Spatial-Temporal Generative ConvNet
University of California, Los Angeles (UCLA)(加州大学洛杉矶分校)
视频序列包含丰富的动态模式,例如在时域中表现出平稳性的动态纹理模式,以及在空域或时域中非平稳的动作模式。我们表明,时空生成ConvNet可以用来建模和合成动态模式。该模型在视频序列上定义了一个概率分布,对数概率由时空ConvNet定义,该时空ConvNet由多层时空滤波器组成,以捕获不同尺度的时空模式。该模型可以通过迭代以下两个步骤的“合成分析”学习算法从训练视频序列中学习。步骤1从当前学习的模型合成视频序列。然后,步骤2基于合成的视频序列和观察到的训练序列之间的差异来更新模型参数。我们表明,学习算法可以合成现实的动态模式。
2017-05-29 cs.CV cs.LG cs.NE
When Spatial meets Temporal in Action Recognition
Australian National University(澳大利亚国立大学);Data61/CSIRO;Curtin University(科廷大学)
本文提出TIME预处理层,通过将N^2个时间演化帧重排嵌入N×N空间网格,实现时空信息平衡融合,并验证其可提升ResNet-50、ViT等动作识别模型的精度。
2024-11-22 cs.CV cs.LG
Adaptive Hybrid Spatial-Temporal Graph Neural Network for Cellular Traffic Prediction
China Mobile Research Institute(中国移动研究院)
蜂窝业务量预测是智能通信网中不可缺少的一部分。然而,由于频繁的用户移动性和复杂的网络调度机制,蜂窝业务往往继承复杂的时空模式,使得预测令人难以置信的挑战。虽然最近的先进算法,如基于图的预测方法已被提出,他们经常模型的空间依赖性的基础上静态或动态图,并忽略了共存的多种空间相关性引起的流量生成。同时,一些研究工作缺乏对蜂窝业务模式多样性的考虑,导致预测结果不理想。在本文中,我们提出了一种新的深度学习网络架构,自适应混合时空图神经网络(AHSTGNN),以解决蜂窝流量预测问题。首先,我们应用自适应混合图学习来学习蜂窝塔之间的复合空间相关性。其次,我们实现了一个时间卷积模块与多周期的时间数据输入,以捕捉非线性的时间依赖性。此外,我们引入了一个额外的时空自适应模块来克服蜂窝塔的异构性。我们在两个真实世界的蜂窝流量数据集上的实验表明,AHSTGNN的性能明显优于最先进的技术,说明了我们的时空蜂窝流量预测方法的优越可扩展性。
2023-02-28 cs.AI cs.LG cs.NI
FedASTA: Federated adaptive spatial-temporal attention for traffic flow prediction
Tsinghua University(清华大学)
针对联邦场景下交通流时空动态建模的隐私与数据异构等问题,提出FedASTA框架,通过客户端时序分解提取特征、服务端构建自适应时空图及掩码空间注意力模块建模依赖,在5个公开数据集上取得联邦场景最优性能,中心化实验也验证了自适应图构建的有效性。
2024-11-04 cs.AI cs.DC cs.LG
Linear Attention is Enough in Spatial-Temporal Forecasting
University of Electronic Science and Technology of China(电子科技大学)
针对交通预测中现有时空图方法难以捕捉动态拓扑、存在过平滑等问题,提出将不同时间步路网节点作为时空令牌输入Transformer的STformer及基于Nyström方法的线性复杂度变体NSTformer,以较低成本实现SOTA性能。
2024-09-13 cs.AI cs.LG
Spatial-temporal Conv-sequence Learning with Accident Encoding for Traffic Flow Prediction
Wuhan University of Technology(武汉理工大学);Huazhong University of Science and Technology(华中科技大学);Hunan University(湖南大学)
在智能交通系统中,交通预测的关键问题是如何提取周期性的时间相关性和复杂的空间相关性。目前,用于预测交通流的最先进的方法是基于图架构和序列学习模型,但它们没有充分利用交通系统中的动态时空信息。具体来说,短期内的时间依赖性被递归神经网络稀释。此外,现有的序列模型也忽略了局部空间信息,因为它们的卷积操作使用全局平均池化。此外,在对象迁移过程中可能会发生意外事件,这将导致现实世界中的拥塞,进一步降低预测精度。为了克服这些挑战,我们提出了时空Conv-sequence学习(STCL),其中聚焦的时间块使用单向卷积来有效地捕获短期周期性时间依赖性,时空融合模块负责提取相互作用的依赖性并降低特征维数。此外,由于事故特征对局部交通拥堵有影响,我们采用位置编码来检测复杂交通情况下的异常。我们已经进行了大量的实验在现实世界的任务,并验证了我们提出的方法的有效性。
2022-02-27 cs.CY cs.LG
Deep Inferential Spatial-Temporal Network for Forecasting Air Pollution Concentrations
University of Delaware(特拉华大学);PingAn Technology(平安科技);South China University of Technology(华南理工大学)
空气污染对人类健康和世界经济发展构成严重威胁。为了满足日益增长的对空气污染准确预测的需求,我们提出了一种深度推理时空网络来处理复杂的非线性时空相关性。我们预测三种空气污染物(即,PM2.5、PM10和O3)的混合深度学习模型,该模型由推理预测器(对没有空气污染读数的区域进行推理)、空间预测器(使用CNN捕获空间相关性)和时间预测器(使用具有简化注意力机制的序列到序列模型捕获时间关系)组成。我们提出的模型考虑了历史空气污染记录和历史气象数据。我们评估我们的模型上的一个大规模的数据集,包含空气污染记录的35个监测站和网格气象数据在北京,中国。我们的模型在SMAPE和RMSE方面优于其他最先进的方法。
2018-09-11 cs.LG stat.AP
Interpretable Crowd Flow Prediction with Spatial-Temporal Self-Attention
University of Macau(澳门大学);Shanghai Jiaotong University(上海交通大学)
人群流量预测作为城市管理系统的重要组成部分,在智能城市计算领域得到了越来越多的研究。预测人群流量最具挑战性的部分是测量复杂的时空依赖性。当前方法中采用的普遍解决方案是通过各种架构(例如,CNN/GCN、LSTM)。然而,这种策略有两个缺点:(1)复杂的依赖关系也被分割,因此部分隔离;(2)时空特征在通过不同的架构时被转换为潜在的表示,使得难以解释预测的人群流。为了解决这些问题,我们提出了一个时空自注意力网络(STSAN)与ST编码门,计算整个时空表示与位置和时间编码,从而避免划分的依赖关系。此外,我们开发了一个多方面的注意力机制,适用于缩放的点积注意时空信息和措施的注意力权重,明确表示的依赖关系。交通和移动数据的实验结果表明,所提出的方法减少了16%和8%的流入和流出RMSE的出租车纽约市数据集相比,SOTA基线。
2020-02-22 cs.IR cs.LG eess.IV
PASTA: PArallel Spatio-Temporal Attention with spatial auto-correlation gating for fine-grained crowd flow prediction
SK Telecom(SK电讯);Kim Jaechul Graduate School of AI, KAIST(韩国科学技术院金在哲人工智能研究生院);Naver Corp(Naver公司)
针对细粒度全市人流预测问题,提出含空间自相关门控、多尺度残差块、时间注意力门控的PASTA模型,能捕捉不规则时空模式,性能优于基线,还分析了高注意力关键时间信息。
2023-10-02 cs.AI cs.LG
Temporal-Spatial dependencies ENhanced deep learning model (TSEN) for household leverage series forecasting
Central University of Finance and Economics(中央财经大学);Beijing Wuzi University(北京物资学院)
由于时空动态的复杂性,分析时间和空间模式以建立准确的金融时间序列预测模型是一项挑战:来自不同位置的时间序列通常具有不同的模式;对于同一时间序列,模式可能会随着时间的推移而变化。受深度学习成功应用的启发,本文提出了一个新的模型来解决中国家庭杠杆率的预测问题。我们的解决方案由多个基于RNN的层和一个注意层组成:每个基于RNN的层自动学习具有多变量外生序列的特定序列的时间模式,然后注意层学习空间相关权重并同时获得全局表示。结果表明,新方法能较好地捕捉到居民杠杆率的时空动态变化,预测结果更加准确可靠。此外,仿真研究还表明,聚类和选择相关序列是必要的,以获得准确的预测结果。
2022-10-17 cs.LG stat.ML
Spatial-Temporal Self-Attention Network for Flow Prediction
University of Macau(澳门大学);Shanghai Jiaotong University(上海交通大学)
流预测(例如,人群流、交通流等具有时空特征的交通流是人工智能研究领域的热点。由于不同位置之间的复杂空间依赖性和不同时间间隔之间的动态时间依赖性,因此非常具有挑战性。尽管采用了两种依赖性的测量,但现有方法存在以下两个问题。首先,时间依赖性的测量要么是统一的,要么是对长期依赖性的偏见,这忽略了短期和长期的时间依赖性的独特影响。其次,现有方法将空间依赖和时间依赖独立地捕捉,错误地认为空间依赖和时间依赖之间的相关性很弱,忽略了空间依赖和时间依赖之间复杂的相互影响。为了解决这些问题,我们提出了一个时空自注意力网络(ST-SAN)。在自注意力机制中,由于注意长时依赖的路径长度较短,因此防止了长时依赖的消失。此外,由于我们的模型只依赖于注意力机制,空间和时间的依赖性可以同时测量。对真实数据的实验结果表明,与最先进的方法相比,我们的模型在Taxi-NYC数据上的流入预测和流出预测中的均方根误差分别降低了9%和4%,这与以前的改进相比是非常显着的。
2019-12-23 cs.AI cs.LG stat.ML
Efficient 4D fMRI ASD Classification using Spatial-Temporal-Omics-based Learning Framework
Northwestern University(西北大学);The University of Sydney(悉尼大学)
本文提出一种高效时空组学学习框架,利用3D时域导数和功能连接特征,在保留空间与时间信息的同时,显著提升ASD分类性能并降低计算成本。
2025-02-26 cs.AI cs.LG
DynSTGAT: Dynamic Spatial-Temporal Graph Attention Network for Traffic Signal Control
自适应交通信号控制在智慧城市建设中具有重要作用。这一任务是具有挑战性的,因为许多基本因素,如相邻交叉口之间的合作和动态交通场景。首先,为了促进交通信号的合作,现有的工作采用图神经网络,将周围的交叉口的时间和空间的影响到目标交叉口,其中时空信息是分开使用的。然而,这些方法的一个缺点是没有充分利用时空相关性来获得更好的控制方案。其次,在动态交通环境中,交叉口的历史状态对于预测未来的信号切换也是至关重要的。以往的研究主要是利用交叉口的当前状态来解决这一问题,忽略了交通流在时空上都是不断变化的这一事实,也没有处理历史状态。在本文中,我们提出了一种新的神经网络框架命名DynSTGAT,它集成了动态的历史状态到一个新的时空图注意力网络,以解决上述两个问题。更具体地说,我们的DynSTGAT模型采用了一种新的多头图注意力机制,其目的是充分利用时空信息的联合关系。然后,为了有效地利用交叉口的历史状态信息,我们设计了一个序列模型与时间卷积网络(TCN)捕获的历史信息,并进一步合并它与空间信息,以提高其性能。在多交叉口场景中对合成数据和真实数据进行的大量实验证实,我们的方法可以在行程时间和吞吐量方面实现优于最先进方法的性能。
2022-03-20 cs.LG cs.MA
Hierarchically Decoupled Spatial-Temporal Contrast for Self-supervised Video Representation Learning
Indiana University Bloomington(印第安纳大学伯明顿分校)
我们提出了一种新的自监督视频表示学习的技术:(a)解耦的学习目标分为两个对比的子任务,分别强调空间和时间特征,(b)执行它的层次,以鼓励多尺度的理解。出于它们在监督学习中的有效性,我们首先将时空特征学习解耦和分层学习引入到无监督视频学习的背景中。我们通过实验表明,可以将增强操作作为正则化来引导网络在对比学习中学习所需的语义,并且我们提出了一种方法,使模型能够在多个尺度上分别捕获空间和时间特征。我们还介绍了一种方法来克服不同层次的实例不变性的发散水平的问题,通过建模的不变性作为损失权重的客观重新加权。在UCF101和HMDB51上的下游动作识别基准上的实验表明,我们提出的分层解耦时空对比度(HDC)在整体上比直接学习时空特征有了实质性的改进,并且与其他最先进的无监督方法相比,具有竞争力的性能。代码将提供。
2021-08-31 cs.AI cs.CV cs.LG
Spatial-Temporal Graph Learning with Adversarial Contrastive Adaptation
Nanyang Technological University(南洋理工大学)
针对现有时空图模型对图质量敏感的问题,提出对抗对比学习模型GraphST,通过自适应困难样本挖掘和跨视图对比学习,增强表示鲁棒性,在真实数据预测任务中表现优越。
2023-06-19 cs.AI cs.LG
Spatial-Temporal Graph Convolutional Networks for Sign Language Recognition
Universidade Federal de Pernambuco(伯南布哥联邦大学)
识别手语是一项具有挑战性的任务,在促进聋人交流方面发挥着重要的社会作用。提出了一种基于人体骨骼运动的时空图卷积网络手语识别方法。该方法使用图形来捕捉符号动态的两个维度,空间和时间,考虑到语言的复杂方面。此外,我们提出了一个新的基于ASLLVD的手语人类骨骼数据集,以促进未来的相关研究。
2020-05-20 cs.CV cs.LG stat.ML
ST-FiT: Inductive Spatial-Temporal Forecasting with Limited Training Data
University of Virginia(弗吉尼亚大学);Florida State University(佛罗里达州立大学)
针对时空图中多数节点缺乏训练数据的问题,提出归纳式预测框架ST-FiT,通过时间数据增强和空间图拓扑学习,使现有STGNNs能泛化到无数据节点,实验验证其有效性。
2024-12-17 cs.AI cs.LG stat.ML
Temporal Restoration and Spatial Rewiring for Source-Free Multivariate Time Series Domain Adaptation
Nanjing University of Aeronautics and Astronautics(南京航空航天大学);Institute for Infocomm Research, Agency for Science Technology and Research (A*STAR)(信息通信研究院,科技研究局(A*STAR));Nanyang Technological University(南洋理工大学);Centre for Frontier AI Research, Agency for Science Technology and Research (A*STAR)(前沿人工智能研究中心,科技研究局(A*STAR))
针对无源多变量时间序列领域适应中空间相关性被忽略的问题,提出TERSE方法,通过时间恢复与空间重构任务建模并迁移时空依赖,实现隐式特征对齐,可作为即插即用模块提升现有方法性能。
2025-05-23 cs.AI cs.CV cs.LG
A spatio-temporal LSTM model to forecast across multiple temporal and spatial scales
University of Notre Dame(圣母大学);IBM Research Europe(IBM欧洲研究院);Dalhousie University(达尔豪斯大学)
本文提出了一种新的时空LSTM(SPATIAL)架构,用于环境数据集的时间序列预测。该框架在多个传感器和三个不同的海洋变量:当前速度,温度和溶解氧进行了评估。网络实施在两个方向上进行,名义上是分开的,但作为自然环境系统的一部分连接在一起--跨越传感器数据的空间(各个传感器之间)和时间分量。来自四个传感器采样电流速度和八个测量温度和溶解氧的数据评估了框架。结果与RF和XGB基线模型进行了比较,RF和XGB基线模型通过使用滑动窗口矩阵提取日期-时间特征以及过去的数据历史来独立地学习每个传感器的时间信号。结果表明,能够准确地复制复杂的信号,并提供与最先进的基准相当的性能。值得注意的是,新框架提供了一个更简单的预处理和训练管道,通过一个简单的掩码层处理缺失值。通过在空间和时间方向上进行学习,本文解决了ML应用于环境科学的两个基本挑战:1)数据稀疏性以及收集海洋动力学等环境条件测量结果的挑战和成本,以及2)环境数据集在空间和时间方向上固有地连接,而经典ML方法只考虑其中一个方向。此外,在所有输入步骤中共享参数使SPATIAL成为一个快速,可扩展且易于参数化的预测框架。
2021-08-26 cs.LG physics.ao-ph stat.ML