Multi-modality spatio-temporal (MoST) data extends spatio-temporal (ST) data by incorporating multiple modalities, which is prevalent in monitoring systems, encompassing diverse traffic demands and air quality assessments. Despite significant strides in ST modeling in recent years, there remains a need to emphasize harnessing the potential of information from different modalities. Robust MoST forecasting is more challenging because it possesses (i) high-dimensional and complex internal structures and (ii) dynamic heterogeneity caused by temporal, spatial, and modality variations. In this study, we propose a novel MoST learning framework via Self-Supervised Learning, namely MoSSL, which aims to uncover latent patterns from temporal, spatial, and modality perspectives while quantifying dynamic heterogeneity. Experiment results on two real-world MoST datasets verify the superiority of our approach compared with the state-of-the-art baselines. Model implementation is available at https://github.com/beginner-sketch/MoSSL.
GeoMAE: Masking Representation Learning for Spatio-Temporal Graph Forecasting with Missing Values
College of Computer and Data Science, Fuzhou University（福州大学计算机与数据科学学院）；JD Intelligent Cities Research（京东智能城市研究院）；School of Computing and Artificial Intelligence, Southwest Jiaotong University（西南交通大学计算机与人工智能学院）；Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；Beijing Normal University（北京师范大学）
Simple and Robust Forecasting of Spatiotemporally Correlated Small Earth Data with A Tabular Foundation Model
School of Engineering and Technology, China University of Geosciences (Beijing)（工程与技术学院，中国地质大学（北京））；School of Geological Engineering and Geomatics, Chang'an University（地质工程与测绘学院，长安大学）
交通时间序列预测是具有挑战性的，因为来自不同位置的复杂时空动态时间序列通常具有不同的模式;并且对于相同的时间序列，模式可能随时间而变化，例如，在一天中存在显示出更强的时间相关性的某些时段。尽管最近的预测模型，特别是基于深度学习的模型，显示出有希望的结果，但它们受到时空不可知论的影响。这样的时空不可知模型采用共享参数空间，而不管时间序列位置和时间段，并且它们假设时间模式在位置之间是相似的，并且不会在时间上演变，这可能并不总是成立，从而导致次优结果。在这项工作中，我们提出了一个框架，旨在把时空不可知模型时空感知模型。为此，我们将来自不同位置的时间序列编码为随机变量，从中生成特定于位置和随时间变化的模型参数，以更好地捕捉时空动态。我们展示了如何整合的框架与规范的注意，使时空意识的注意。其次，为了补偿时空感知模型参数生成过程中引入的额外开销，提出了一种新的窗口注意机制，将复杂度从二次降低到线性，使得时空感知注意也具有竞争效率.我们在四个交通时间序列数据集上展示了强有力的经验证据，其中所提出的时空感知注意力在准确性和效率方面优于最先进的方法。这是“Towards Spatio-Temporal Aware Traffic Time Series Forecasting”的扩展版本，将出现在ICDE 2022 [1]中，包括其他实验结果。
Leveraging Spatiotemporal Graph Neural Networks for Multi-Store Sales Forecasting
Department of Chemical Engineering, IIT Bombay（印度博亚理工大学化学工程系）；Rajiv Gandhi University（拉吉夫·甘地大学）；Tsinghua University（清华大学）；Palmer Research Laboratories（帕勒尔研究实验室）
ASTGI: Adaptive Spatio-Temporal Graph Interactions for Irregular Multivariate Time Series Forecasting
School of Data Science and Engineering, East China Normal University, Shanghai, China（东华大学数据科学与工程学院，上海，中国）；Engineering Research Center of Blockchain Data Management, Ministry of Education, China（教育部区块链数据管理工程研究中心，中国）
DiffSTG: Probabilistic Spatio-Temporal Graph Forecasting with Denoising Diffusion Models
School of Computer and Information Technology, Beijing Jiaotong University（北京交通大学计算机与信息技术学院）；National University of Singapore（新加坡国立大学）；DAMO Academy, Alibaba Group（阿里巴巴集团达摩院）；Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））
ST-PCNN: Spatio-Temporal Physics-Coupled Neural Networks for Dynamics Forecasting
Florida Atlantic University（佛罗里达大西洋大学）；Harbor Branch Oceanographic Institute, Florida Atlantic University（佛罗里达大西洋大学港口分支海洋研究所）；Georgia Institute of Technology（佐治亚理工学院）；Washington University School of Medicine（华盛顿大学医学院）
More Sensors Only One Field: Rethinking Continual Spatio-Temporal Forecasting
City University of Hong Kong (Dongguan)（香港城市大学（东莞））；City University of Hong Kong（香港城市大学）；Zhuhai College of Science and Technology（珠海科技学院）；Northwestern Polytechnical University（西北工业大学）
Beijing University of Posts and Telecommunications（北京邮电大学）；Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；Institute for Interdisciplinary Information Sciences (IIIS), Tsinghua University（清华大学交叉信息研究院）
交通预测对于公共安全和资源优化至关重要，但由于三个方面而非常具有挑战性：i）当前现有的工作大多利用复杂的时间模式（例如，短期雷暴和长期每日趋势），这不能准确地捕获不同模式下的时空依赖性; i i）图位置编码的探索不足限制了常用的全图注意力网络中的空间信息的提取; iii）全图注意力的二次复杂性引入了大量的计算需求。为了实现有效的交通流预测，我们提出了一个有效的谱图注意力网络与解开交通序列。具体而言，利用离散小波变换来获得流量序列的低频和高频分量，并且精心设计了双通道编码器，以准确地捕获低频和高频分量的长期和短期模式下的时空依赖性。此外，一种新的基于小波的图位置编码和查询采样策略引入到我们的频谱图的注意力，有效地引导消息传递和有效地计算的注意力。在四个真实世界数据集上的大量实验表明了我们模型的优越性，即，以较低的计算代价获得较高的预测精度。
DRAN: A Distribution and Relation Adaptive Network for Spatio-temporal Forecasting
Key Laboratory of Smart Manufacturing in Energy Chemical Process, Ministry of Education, East China University of Science and Technology, Shanghai（能源化学过程智能制造关键实验室，教育部，东华大学，上海）；Faculty of Informatics, Università della Svizzera italiana（瑞士意大利大学信息学院）；Department of Electronics, Information and Bioengineering, Politecnico di Milano（米兰理工学院电子、信息与生物工程系）
Spatiotemporal Forecasting of Traffic Flow using Wavelet-based Temporal Attention
Sorbonne University（索邦大学）；Indian Institute of Science, Education and Research, Kolkata（印度科学教育与研究学院（加尔各答））；International Institute of Information Technology, Bangalore（班加罗尔国际信息技术学院）
FiCoTS: Fine-to-Coarse LLM-Enhanced Hierarchical Cross-Modality Interaction for Time Series Forecasting
School of Advanced Interdisciplinary Sciences, University of Chinese Academy Sciences（中国科学院大学先进交叉学科学院）；MAIS, Institute of Automation, Chinese Academy of Science（中国科学院自动化研究所MAIS）；Great Bay University（大亚大学）
Spatiotemporal Graph Neural Networks in short term load forecasting: Does adding Graph Structure in Consumption Data Improve Predictions?
Interdisciplinary Centre for Security, Reliability and Trust - SnT, University of Luxembourg（卢森堡大学安全、可靠性与信任跨学科中心 - SnT）；University of Luxembourg（卢森堡大学）
STEMO: Early Spatio-temporal Forecasting with Multi-Objective Reinforcement Learning
Data61, CSIRO（Data61联邦科学与工业研究组织）；RMIT University（皇家墨尔本理工大学）；Xidian University（西安电子科技大学）；Zhejiang University（浙江大学）；University of New South Wales（新南威尔士大学）
SAMSGL: Series-Aligned Multi-Scale Graph Learning for Spatio-Temporal Forecasting
East China University of Science and Technology（华东理工大学）；Potsdam Institute for Climate Impact Research（波茨坦气候影响研究所）；Humboldt University of Berlin（柏林洪堡大学）
Cross-Scale Reservoir Computing for large spatio-temporal forecasting and modeling
Research Center ``Enrico Fermi'', Rome, Italy（恩里科·费米研究中心）；National Center for Radiation Protection（辐射防护国家中心）；Computational Physics, Italian National Institute of Health, Rome, Italy（计算物理，意大利卫生研究院）；Department of Physics, ``Tor Vergata'' University, Rome, Italy（物理系，托尔维加塔大学）；Department of Civil, Computer Science（土木工程系）；Aeronautical Technologies Engineering, ``Roma Tre'' University, Rome, Italy（航空技术工程，罗马三大学）
