An Explainer for Temporal Graph Neural Networks
University of Florida(佛罗里达大学)
时态图神经网络(TGNNs)由于能够同时捕捉图的拓扑依赖性和非线性时态动态特性,已被广泛用于建模时变图相关任务。TGNN的解释对于透明和可信的模型至关重要。然而,复杂的拓扑结构和时间依赖性使得解释TGNN模型非常具有挑战性。在本文中,我们提出了一个新的解释框架TGNN模型。给定要解释的图上的时间序列,该框架可以以概率图模型的形式在一个时间段内识别主导解释。交通领域的案例研究表明,所提出的方法可以发现动态依赖结构的道路网络的一段时间。
2022-09-02 cs.LG
Who Should I Engage with At What Time? A Missing Event Aware Temporal Graph Neural Network
Harbin Institute of Technology(哈尔滨工业大学)
时态图神经网络由于其广泛的应用场景,如生物信息学、知识图谱、社交网络等,近年来受到了广泛的关注。有一些时间图神经网络取得了显着的效果。然而,这些工作侧重于未来事件的预测,并假设所有历史事件都是可观察的。在实际应用中,事件并不总是可观察的,估计事件时间与预测未来事件一样重要。本文提出了一种缺失事件感知的时间图神经网络MTGN,它统一地对图结构和事件时序的演化进行建模,以支持预测未来会发生什么以及何时会发生.MTGN将观测事件和缺失事件的动态过程建模为两个耦合的时间点过程,从而将缺失事件的影响纳入网络.在几个真实时间图上的实验结果表明,MTGN的时间和链接预测的准确度分别提高了89%和112%,明显优于现有方法。代码可以在https://github.com/HIT-ICES/TNNLS-MTGN上找到。
2023-01-20 cs.LG
Temporal Graph ODEs for Irregularly-Sampled Time Series
University of Pisa(比萨大学);The Swiss AI Lab IDSIA(瑞士人工智能实验室IDSIA);Università della Svizzera italiana(瑞士意大利语大学);Politecnico di Milano(米兰理工大学)
针对不规则采样的时间图流,本文提出 TG-ODE 框架,通过联合建模连续时间与空间动态,在多个图基准上达到最先进性能。
2024-04-30 cs.LG
Temporal Graph Offset Reconstruction: Towards Temporally Robust Graph Representation Learning
Durham University(杜伦大学);Newcastle University(纽卡斯尔大学);SUSTech(南方科技大学);InlecomSystems(Inlecom系统公司)
图是用于表示复杂高维数据集中元素之间关系的常用构造。许多现实世界的现象本质上是动态的,这意味着用于表示它们的任何图形都是固有的时间。然而,许多被设计为捕获关于这些图的结构的知识的机器学习模型在创建图的表示时忽略了这种丰富的时间信息。这导致模型在用于预测图的未来状态时表现不佳--尤其是当时间戳之间的增量不小时。在这项工作中,我们探索了一种新的训练过程和相关的无监督模型,该模型创建了优化的图形表示,以预测图形的未来状态。我们利用图卷积神经网络将图编码为潜在表示,然后我们使用它来训练我们的时间偏移重建方法,该方法受到自动编码器的启发,以预测稍后的时间点-未来的多个时间步长。使用我们的方法,我们表现出优越的性能为未来的链接预测的任务相比,非时间的最先进的基线。我们证明了我们的方法能够在现实世界的数据集上超过非时间基线38%。
2018-11-20 cs.LG cs.SI
Multi-branch Spatio-Temporal Graph Neural Network For Efficient Ice Layer Thickness Prediction
Lehigh University(里海大学)
提出多分支时空图神经网络,结合GraphSAGE和时间卷积,从顶层冰层厚度预测深层厚度,在准确性和效率上优于现有融合模型。
2024-11-06 cs.CV cs.LG
STFL: A Temporal-Spatial Federated Learning Framework for Graph Neural Networks
Macquarie University(麦考瑞大学);Ant Group(蚂蚁集团)
本文提出了一个时空联合的图神经网络学习框架STFL。该框架探索输入时空数据的潜在相关性,并将其转换为节点特征和邻接矩阵。框架中的联邦学习设置确保了数据隐私,同时实现了良好的模型泛化。在睡眠阶段数据集ISRUC_S3上的实验结果说明了STFL在图预测任务上的有效性。
2022-01-11 cs.AI cs.LG
Spatial-Temporal Fusion Graph Neural Networks for Traffic Flow Forecasting
Peking University(北京大学)
交通流的时空数据预测是一个具有挑战性的任务,因为不同道路之间的复杂的空间依赖性和动态的时间模式的趋势。现有的框架通常利用给定的空间邻接图和复杂的机制来建模空间和时间的相关性。然而,有限的表示给定的空间图结构与不完整的相邻连接可能会限制有效的时空依赖学习这些模型。为了克服这些局限性,本文提出了时空融合图神经网络(STFGNN)的交通流预测。SFTGNN可以有效地学习隐藏的时空依赖性,通过一种新的融合操作的各种空间和时间的图形,这是由数据驱动的方法产生的。同时,通过将该融合图模块和一种新的门控卷积模块集成到一个统一的层中,SFTGNN可以处理长序列。在几个公共交通数据集上的实验结果表明,我们的方法比其他基线一致地实现了最先进的性能。
2021-03-06 cs.AI cs.LG
ChronoR: Rotation Based Temporal Knowledge Graph Embedding
University of Florida(佛罗里达大学);Texas A&M University(德克萨斯A&M大学)
尽管时态知识图谱的重要性和丰富性,目前的研究主要集中在静态图上的推理。本文研究时态知识图谱上的推理问题。特别是时间链接预测的任务。一般来说,这是一个困难的任务,由于数据的非平稳性,数据异构性,及其复杂的时间依赖性。我们提出了时序旋转嵌入(ChronoR),这是一种用于学习实体,关系和时间表示的新模型。学习密集表示经常被用作在知识图谱上执行推理的有效且通用的方法。所提出的模型学习由关系和时间参数化的k维旋转变换,使得在使用旋转变换每个事实的头部实体之后,它落在其对应的尾部实体附近。通过使用高维旋转作为其变换算子,ChronoR捕获了时态知识图谱的时态和多关系特征之间的丰富交互。实验表明,ChronoR能够在时间知识图谱链接预测的基准数据集上胜过许多最先进的方法。
2021-03-18 cs.LG cs.SC
Using Time-Aware Graph Neural Networks to Predict Temporal Centralities in Dynamic Graphs
Center for Artificial Intelligence and Data Science (CAIDAS)(人工智能与数据科学中心(CAIDAS));Chair of Machine Learning for Complex Networks(复杂网络机器学习主席席位)
本研究提出使用De Bruijn图神经网络预测动态图中的时间路径中心性,在13个时间图上显著优于静态GCN、采样近似及两种最新时间感知方法,解决了时间中心性计算昂贵的问题。
2024-11-08 cs.LG cs.SI
WalkingTime: Dynamic Graph Embedding Using Temporal-Topological Flows
Carnegie Mellon University(卡内基梅隆大学)
在过去的四年中,人们越来越关注动态网络嵌入。现有的动态嵌入方法,但是,考虑的问题仅限于一系列的全球性,离散状态的拓扑结构的演变。我们提出了一种新的嵌入算法,WalkingTime,基于一个根本不同的处理时间,允许本地考虑连续发生的现象;而其他人认为全球时间步长是一阶公民的动态环境,我们持有的流组成的时间和拓扑局部相互作用作为我们的原语,没有任何离散化或对齐的时间相关的属性是必要的。保留字:动态网络,表示学习,动态图嵌入,时间相关路径,时间拓扑流,时间随机游走,时间网络,实属性知识图谱,流图,在线网络,异步图,异步网络,图形算法,深度学习,网络分析,数据挖掘,网络科学
2021-11-22 cs.LG cs.SI
Federated Temporal Graph Clustering
Tsinghua University(清华大学);Beijing University of Posts and Telecommunications(北京邮电大学)
本文提出联邦时序图聚类(FTGC)框架,通过时序聚合机制和联邦优化策略在保护数据隐私和降低通信开销的前提下,跨多客户端去中心化训练图神经网络以学习高质量聚类表示,在时序图数据集上取得有竞争力的性能。
2025-03-03 cs.DC cs.LG
Graph WaveNet for Deep Spatial-Temporal Graph Modeling
University of Technology Sydney(悉尼科技大学);Monash University(莫纳什大学)
时空图建模是分析系统中组件的空间关系和时间趋势的重要任务。现有的方法大多捕捉空间依赖于一个固定的图形结构,假设实体之间的潜在关系是预先确定的。然而,显式图结构(关系)不一定反映真实的依赖关系,并且由于数据中的不完整连接,可能会丢失真正的关系。此外,现有的方法对于捕获时间趋势是无效的,因为在这些方法中采用的RNN或CNN不能捕获长范围的时间序列。为了克服这些局限性,我们在本文中提出了一种新的图神经网络架构,图形WaveNet,时空图建模。通过开发一种新的自适应依赖矩阵,并通过节点嵌入来学习它,我们的模型可以精确地捕获数据中隐藏的空间依赖性。通过堆叠的膨胀1D卷积组件,其感受野随着层数的增加而呈指数增长,Graph WaveNet能够处理非常长的序列。这两个组件无缝集成在一个统一的框架中,整个框架以端到端的方式学习。在两个公共交通网络数据集METR-LA和PEMS-BAY上的实验结果表明了该算法的优越性能。
2019-05-31 cs.LG stat.ML
Are Large Language Models Good Temporal Graph Learners?
Mila - Quebec AI Institute(魁北克AI研究所);School of Computer Science, McGill University(麦吉尔大学计算机科学学院);University of Cambridge(剑桥大学);DIRO, Université de Montréal(蒙特利尔大学DIRO研究所);CIFAR AI Chair(CIFAR人工智能主席);New Jersey Institute of Technology(新泽西理工学院);University of Oxford(牛津大学);AITHYRA
本文提出 TGTalker 框架,将时序图结构转化为自然语言并结合时间邻居,使 LLM 在五个真实网络上取得可比肩 TGNN 的链路预测性能,同时提供文本解释。
2025-06-03 cs.CL cs.LG
FTM: A Frame-level Timeline Modeling Method for Temporal Graph Representation Learning
Peking University(北京大学);Peng Cheng Laboratory(鹏城实验室)
学习图结构数据的表示对于图分析任务是必不可少的。虽然静态图的研究已经取得了显著的进展,但时态图的研究还处于起步阶段。时态图表示学习方法的瓶颈是邻域聚集策略,基于该策略,图属性显式地共享和收集信息。现有的邻域聚合策略既不能捕捉时态图属性的短期特征,也不能捕捉时态图属性的长期特征,导致模型性能不理想,甚至导致表示学习方法的鲁棒性和领域通用性较差.为了解决这个问题,我们提出了一个帧级时间轴建模(FTM)的方法,有助于捕捉短期和长期的功能,从而学习更多的信息表示时间图。特别是,我们提出了一种新的基于链接的框架技术,以保持短期功能,然后将一个时间轴聚合器模块,以捕获的内在动态图的演变作为长期功能。我们的方法可以很容易地与大多数时间GNN组装。在常见数据集上的大量实验表明,该方法大大提高了骨干方法在下游任务中的能力、鲁棒性和领域通用性。我们的代码可以在https://github.com/yeeeqichen/FTM上找到。
2023-03-15 cs.LG cs.SI
Temporal Knowledge Graph Completion using Box Embeddings
University of Oxford(牛津大学)
知识图谱完成是基于知识图谱中的现有数据推断缺失事实的任务。时间知识图谱完成(TKGC)是该任务到时间知识图谱的扩展,其中每个事实另外与时间戳相关联。目前的TKGC方法主要建立在现有的嵌入模型上,这些模型是为(静态)知识图谱完成而开发的,并将这些模型扩展到包含时间,其中的想法是学习实体,关系和时间戳的潜在表示,然后使用学习到的表示来预测在各个时间步丢失的事实。本文在静态知识图谱嵌入模型BoxE的基础上,提出了一种面向TKGC的嵌入模型BoxTE。我们发现,BoxTE是充分的表达,并具有很强的归纳能力的时间设置。然后,我们实证评估我们的模型,并表明它实现了国家的最先进的结果在几个TKGC基准。
2021-09-18 cs.AI cs.LG
Spatio-Temporal Graph Transformer Networks for Pedestrian Trajectory Prediction
SenseTime Research(商汤科技研究院);National University of Singapore(新加坡国立大学)
了解人群运动动态对于现实世界的应用至关重要,例如,监控系统和自动驾驶。这是具有挑战性的,因为它需要有效地建模的社会意识人群的空间互动和复杂的时间依赖性。我们认为注意力是轨迹预测的最重要因素。在本文中,我们提出了STAR,时空grAph Transformer框架,它只处理注意力机制的轨迹预测。STAR通过TGConv(一种新的基于Transformer的图卷积机制)对图内人群交互进行建模。图间的时间依赖性由单独的时间Transformers建模。STAR通过在空间和时间Transformers之间交错来捕获复杂的时空交互。为了校准消失的行人的长期影响的时间预测,我们引入了一个可读写的外部存储器模块,不断更新的时间Transformer。我们表明,只有注意力机制,STAR实现了最先进的性能5常用的现实世界的行人预测数据集。
2020-07-24 cs.CV cs.LG cs.RO
MTRGL:Effective Temporal Correlation Discerning through Multi-modal Temporal Relational Graph Learning
Hefei University of Technology(合肥工业大学);The University of Hong Kong(香港大学);The University of Toronto(多伦多大学)
本文提出MTRGL框架,结合时间序列与离散特征构建时序图,利用基于记忆的图神经网络将配对交易中的时序相关性识别转化为链接预测任务,在真实数据集上验证了其优越性能。
2024-02-06 cs.LG econ.GN q-fin.EC
TeMP: Temporal Message Passing for Temporal Knowledge Graph Completion
McGill University(麦吉尔大学);MILA(米拉魁北克人工智能研究所)
在时态知识图谱(TKG)中推断缺失事实是一项基本且具有挑战性的任务。以前的工作已经解决了这个问题,通过增加静态知识图谱的方法,利用时间相关的表示。然而,这些方法并没有明确地利用多跳结构信息和时间事实,从最近的时间步,以提高他们的预测。此外,以前的工作并没有明确地解决时间稀疏性和可变性的实体分布在TKG。我们提出了时间消息传递(TeMP)框架,以解决这些挑战相结合的图神经网络,时间动力学模型,数据填补和基于频率的门控技术。在标准TKG任务上的实验表明,与以前的最先进技术相比,我们的方法提供了实质性的收益,在三个标准基准测试中,Hits@10的平均相对改进为10.7%。我们的分析还揭示了TKG数据集内部和跨数据集的重要可变性来源,我们引入了几个简单但强大的基线,在某些设置中优于现有技术。
2020-10-07 cs.AI cs.CL cs.LG
THeGCN: Temporal Heterophilic Graph Convolutional Network
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Visa Research(Visa研究院)
针对基于事件的连续图中边异配与时序异配共存的时序边异配挑战,提出结合低/高通图滤波的THeGCN模型,经5个真实数据集实验验证其有效性。
2025-01-10 cs.IR cs.LG cs.SI
Leveraging Static Models for Link Prediction in Temporal Knowledge Graphs
Utrecht University(乌得勒支大学)
在知识图谱嵌入(KGE)中包含事实的时间范围为改进所得到的嵌入提供了重要的机会,并且因此为下游应用中的提高的性能提供了重要的机会。然而,很少有研究工作集中在这一领域,许多研究报告显示,与没有时间范围训练的模型(静态模型)相比,结果只略有改善。此外,而不是利用现有的静态模型的工作,他们介绍了特定的时间知识图谱的新模型。我们提出了一个新的视角,利用现有的静态嵌入模型的力量,集中精力操纵数据,而不是。我们的方法SpiMe从信号处理领域和图嵌入的早期工作中汲取灵感。我们表明,SpliMe竞争或优于目前的最先进的时间KGE。此外,我们发现目前用于评估静态模型在时间图上的性能的过程中存在的问题,并介绍了两种方法来抵消它们。
2021-06-29 cs.AI cs.CL cs.LG
Temporal Graph Rewiring with Expander Graphs
The Institute for Artificial Intelligence of Serbia(塞尔维亚人工智能研究所);McGill University(麦吉尔大学);Mila – Quebec AI Institute(米拉-魁北克人工智能研究所);Google DeepMind(谷歌DeepMind)
本文提出首个时序图重连方法TGR,利用扩展图传播在连续时间动态图中为时间上相距较远的节点构建消息传递高速公路,并在TGB基准多个数据集上取得最先进结果。
2024-10-22 cs.AI cs.LG cs.SI
Spatio-Temporal Graph Scattering Transform
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Mitsubishi Electric Research Laboratories(三菱电机研究实验室);Shanghai Jiao Tong University(上海交通大学);University of Southern California(南加州大学)
虽然时空图神经网络在处理多个相关时间序列方面取得了巨大的经验成功,但由于缺乏足够的高质量训练数据,它们在某些现实场景中可能不切实际。此外,时空图神经网络缺乏理论解释。为了解决这些问题,我们提出了一个新的数学设计的框架来分析时空数据。我们提出的时空图散射变换(ST-GST)扩展了传统的散射变换的时空域。它执行时空图小波和非线性激活函数的迭代应用,这可以被视为时空图卷积网络的前向传递而无需训练。由于ST-GST中的所有滤波器系数都是数学设计的,因此它适用于训练数据有限的实际情况,并且还允许理论分析,这表明所提出的ST-GST对输入信号和结构的小扰动是稳定的。最后,我们的实验表明:i)ST-GST优于时空图卷积网络,在MSR 3D数据集上的准确性提高了35%; ii)基于可分离时空图的变换比基于联合时空图的变换更好,计算效率更高; iii)ST-GST中的非线性对经验性能至关重要。
2021-02-09 cs.AI cs.CV cs.LG
Efficient Learning-based Graph Simulation for Temporal Graphs
Australian Artificial Intelligence Institute(澳大利亚人工智能研究所);University of Technology Sydney(新南威尔士大学);School of Computer Science(计算机科学学院);Tongji University(同济大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);University of New South Wales(新南威尔士大学);Australia Artificial Intelligence Institute(澳大利亚人工智能研究所)
本文提出时序图自编码器(TGAE),通过注意力编码器和自我图解码器高效模拟时序图,在质量和效率上优于现有方法。
2025-10-07 cs.LG
Edge Sparsification via Temporal Forman-Ricci Curvature for Dynamic Graph Learning
University of Manitoba(曼尼托巴大学);University of Central Florida(中佛罗里达大学)
本研究针对动态图学习中大规模时序图计算挑战,提出TRicci框架,通过时序Forman-Ricci曲率实现边稀疏化,可在保持预测性能的同时缩短训练推理时间。
2026-08-25 cs.LG
ChronoQG: Towards a Temporally Expressive and Hop-Bounded Benchmark for Temporal Knowledge Graph Question Generation
Nankai University(南开大学);Peking University(北京大学);University of Electronic Science and Technology of China(电子科技大学);Shanghai University of Finance and Economics(上海财经大学)
研究时态知识图谱问题生成,提出ChronoQG框架,通过整合多种方法构建有时态表现力和跳数限制的基准数据集,评估多种设置下的相关方法,揭示静态KGQG与TKGQG差距,为时态忠实问题生成提供测试平台。
2026-07-17 cs.LG
Spatially Encoding Temporal Correlations to Classify Temporal Data Using Convolutional Neural Networks
University of Maryland Baltimore County(马里兰大学巴尔的摩县分校)
我们提出了一个离线的方法来明确编码的时间模式空间作为不同类型的图像,即,Gramian角场和马尔可夫转移场。这使得能够使用来自计算机视觉的技术进行特征学习和分类。我们使用平铺卷积神经网络从12个基准时间序列数据集和两个真实时空轨迹数据集上的单个GAF、MTF和GAF-MTF图像中学习高级特征。我们的方法的分类结果是有竞争力的国家的最先进的方法对这两种类型的数据。对CNN学习的特征和权重的分析解释了这种方法的原理。
2015-09-24 cs.LG
Neural Spatio-Temporal Point Processes
University of Toronto(多伦多大学);Vector Institute(矢量研究所);Facebook AI Research(脸书人工智能研究室)
我们提出了一类新的时空点过程的参数化,它利用神经常微分方程作为计算方法,并使灵活,高保真模型的离散事件,本地化在连续的时间和空间。我们的方法的核心是连续时间神经网络与两种新型神经架构的组合,即,跳跃和连续时间的注意正规化流。这种方法使我们能够学习空间和时间域的复杂分布,并对观察到的事件历史进行非平凡的条件。我们验证了我们的模型的数据集,从各种各样的背景下,如地震学,流行病学,城市流动性和神经科学。
2021-03-18 cs.LG
Beyond Spatio-Temporal Representations: Evolving Fourier Transform for Temporal Graphs
HERE Technologies(HERE科技公司);Indian Institute of Technology Hyderabad(印度理工学院海得拉巴分校);RWTH Aachen(亚琛工业大学);Cerence Gmbh(Cerence有限公司);The University of Tokyo(东京大学)
本文提出进化图傅里叶变换(EFT),一种可逆谱变换,通过优化连续时间动态图的拉普拉斯矩阵并采用伪谱松弛,高效捕捉时间图的进化表示,在多个基准上达到最先进性能。
2024-04-18 cs.LG
Temporal Neural Operator for Modeling Time-Dependent Physical Phenomena
Khalifa University(卡利法大学);Delft University of Technology(代尔夫特理工大学)
本文提出时序神经算子(TNO),通过在DeepONet中引入时间分支并结合马尔可夫假设、教师强制等训练策略,解决了时间相关偏微分方程的时间动态映射问题,实现了长时间外推、误差鲁棒性和分辨率不变性。
2025-04-28 cs.LG
On the Performance of Temporal Difference Learning With Neural Networks
Boston University(波士顿大学)
本文分析带固定半径球投影的神经时间差分学习的收敛性,给出依赖最佳网络逼近误差和隐藏层宽度的逼近界。
2023-12-08 cs.LG
Temporal Convolutional Neural Networks for Diagnosis from Lab Tests
New York University(纽约大学)
可治疗疾病的早期诊断对于改善医疗保健至关重要,许多疾病的发作可以从年度实验室测试及其时间趋势中预测。我们介绍了一种多分辨率卷积神经网络,用于从不规则测量的稀疏实验室值中早期检测多种疾病。我们的新架构需要输入的数据和二进制观测矩阵的估算版本。针对时间稀疏观测值的输入问题,提出了一种灵活、快速的可微多元核回归训练方法。我们对8年来298,000人,18种常见实验室测量和171种疾病的数据进行的实验表明,通过卷积学习的时间特征比通常用于早期疾病诊断的基线具有更高的预测性。
2016-03-11 cs.LG
Automated Dilated Spatio-Temporal Synchronous Graph Modeling for Traffic Prediction
Beijing National Research Center for Information Science and Technology(北京信息科学与技术国家研究中心);Tsinghua University(清华大学);National University of Defense Technology(国防科技大学);Beijing Jiaotong University(北京交通大学)
由于交通网络的复杂时空相关性,准确的交通预测是智能交通系统中一项具有挑战性的任务。许多现有的作品利用复杂的时间建模方法,结合图卷积网络(GCN)捕捉短期和长期的时空依赖性。然而,这些设计复杂的分离模块限制了时空表示学习的有效性和效率。此外,大多数以前的工作采用固定的图构造方法来表征全局时空关系,这限制了模型对不同时间段甚至不同数据场景的学习能力。为了克服这些限制,我们提出了一个自动扩张的时空同步图网络,名为Auto-DSTSGN的流量预测。具体来说,我们设计了一个自动膨胀时空同步图(Auto-DSTSG)模块,通过以递增的顺序堆叠具有膨胀因子的更深层来捕获短期和长期的时空相关性。此外,我们提出了一个图结构搜索方法,自动构建时空同步图,可以适应不同的数据场景。在四个真实数据集上的大量实验表明,与现有方法相比,我们的模型可以实现约10%的改进。源代码可在https://github.com/jinguangyin/Auto-DSTSGN上获得。
2022-07-22 cs.LG
STONet: A Neural-Operator-Driven Spatio-temporal Network
Center for Artificial Intelligence Research and Innovation(人工智能研究与创新中心)
由于图神经网络具有良好的表达能力,基于图的时空神经网络可以有效地对非结构化网格中不规则采样的离散点之间的空间依赖关系进行建模。然而,这些模型通常是空间传导的-仅拟合模型中馈入的离散空间节点的信号,但不能推广到具有zero-shot的“看不见的”空间点。相比之下,对于连续空间上的预测任务,例如地球表面的温度预测,\textit{spatially-inductive}属性允许模型推广到空间域中的任何点,展示了模型学习系统的基本机制或物理定律的能力,而不是简单地拟合信号。此外,在时间域中,\textit{irregularly-sampled}时间序列,例如具有缺失值的数据,要求模型是时间连续的。出于这两个问题,我们提出了一个时空框架的基础上神经运营商的偏微分方程,学习的基础机制,管理动态的空间连续的物理量。实验表明,我们的模型在预测空间连续的数据量方面的性能有所提高,并且它对看不见的空间点的泛化能力和处理时间不规则数据的能力都很好。
2022-04-21 cs.LG
Neural Temporal Point Processes: A Review
Technical University of Munich(慕尼黑工业大学);Amazon Research(亚马逊研究院)
时间点过程(TPP)是连续时间事件序列的概率生成模型。神经TPP将点过程文献的基本思想与深度学习方法相结合,从而能够构建灵活高效的模型。近年来,神经TPP的主题引起了人们的极大关注,导致了这类模型的许多新架构和应用的发展。在这篇综述论文中,我们的目标是巩固现有的知识体系的神经TPP。具体来说,我们专注于重要的设计选择和定义神经TPP模型的一般原则。接下来,我们提供了文献中通常考虑的应用领域的概述。最后,我们总结了神经TPPs领域未来工作面临的挑战和重要方向。
2021-08-25 cs.LG
Spatial-temporal traffic modeling with a fusion graph reconstructed by tensor decomposition
Guangxi University(广西大学);Beijing Institute of Technology(北京理工大学);Sichuan University(四川大学)
准确的时空交通流预测对于帮助交通管理者采取控制措施和驾驶员选择最优出行路径至关重要。近年来,图卷积网络(GCN)由于其强大的时空相关性捕捉能力而被广泛应用于交通流预测。时空图邻接矩阵的设计是GCN成功的关键,目前仍是一个悬而未决的问题。提出了一种基于张量分解的二进制邻接矩阵重构方法,并提出了一种交通流预测方法。首先,我们将时空融合图邻接矩阵转化为三向邻接张量。然后,我们通过Tucker分解重建邻接张量,其中更多的信息和全局时空依赖性被编码。最后,时空同步图卷积模块的局部时空相关性学习和全局相关性学习的扩张卷积模块组装的道路网络的综合时空依赖性的聚合和学习。在四个开放获取数据集上的实验结果表明,该模型在预测性能和计算成本方面优于最先进的方法。
2022-12-12 cs.LG
Temporal Domain Generalization with Drift-Aware Dynamic Neural Networks
Emory University(埃默里大学)
时间领域泛化是一个有前途但极具挑战性的领域,其目标是在时间变化的数据分布下学习模型,并根据变化的趋势泛化到不可见的数据分布。该领域的进展面临以下挑战:1)表征数据分布漂移及其对模型的影响,2)跟踪模型动态的表达能力,以及3)性能的理论保证。为了解决这些问题,我们提出了一个时间领域泛化与漂移感知动态神经网络(DRAIN)框架。具体来说,我们制定的问题到贝叶斯框架,共同模型之间的关系数据和模型动态。然后,我们建立了一个循环图生成场景来描述在不同时间点学习的动态图结构神经网络。它捕获模型参数和数据分布的时间漂移,并可以在不存在未来数据的情况下预测未来的模型。此外,我们探讨了具有挑战性的时间DG设置下的模型性能的理论保证,并提供理论分析,包括不确定性和泛化误差。最后,在几个具有时间漂移的真实基准测试上的实验证明了该方法的有效性和效率。
2023-02-09 cs.LG
Time-varying Graph Learning Under Structured Temporal Priors
Southeast University(东南大学)
本文试图通过使用结构化的时间先验知识来学习时变图,该先验知识假设图序列中任意两个图之间的潜在关系。不同于现有的基于链结构的方法中的先验知识,如时间同质性只能描述两个连续图的变化,我们提出了一个结构命名为\emph{temporal graph}来描述底层的真实时间关系。在这个框架下,链结构实际上是我们的时态图的一个特例。我们进一步提出了一种分布式算法--交替方向乘子法(ADMM)来求解诱导优化问题。数值实验证明了该方法的优越性。
2022-02-23 cs.LG eess.SP
Initialization Strategies of Spatio-Temporal Convolutional Neural Networks
University of Toronto(多伦多大学)
我们提出了一种新的方法,将视频中的时间信息合并到在图像上训练的空间卷积神经网络(ConvNets)中,避免从头开始训练时空ConvNets。我们使用从ImageNet学习的2D卷积权重描述了时空ConvNet的3D卷积层中的几个权重初始化。我们表明,为了学习视频的时间表示,明智地初始化3D卷积权重是很重要的。我们在UCF-101数据集上评估了我们的方法,并证明了对Spatial ConvNets的改进。
2015-03-25 cs.CV cs.LG
arXiv4TGC: Large-Scale Datasets for Temporal Graph Clustering
National University of Defense Technology(国防科技大学)
针对时序图聚类领域缺乏可靠大规模评估数据集的问题,本文构建了包含5个子集的arXiv4TGC学术数据集,其中最大子集含130万标注节点与1000万时序边,实验证明该数据集更适配大规模时序图聚类模型评估。
2023-06-08 cs.AI cs.LG
Spatio-Temporal Graph Convolutional Networks: Optimised Temporal Architecture
University of Oxford(牛津大学)
本研究提出结合CNN与LSTM时间块的时空图卷积网络新架构,通过理论论证和多数据集实验,实证比较了新模型与现有模型的性能。
2025-01-14 cs.LG stat.ML
Salient Temporal Encoding for Dynamic Scene Graph Generation
Carnegie Mellon University(卡内基梅隆大学)
针对动态场景图生成中时序连接冗余无意义的问题,提出仅在时序相关对象对间构建显式边的显著时序编码方法,提升了场景图检测及下游动作识别任务的性能。
2025-03-15 cs.CV cs.LG
TG-GAN: Continuous-time Temporal Graph Generation with Deep Generative Models
George Mason University(乔治梅森大学);Beijing University of Posts and Telecommunications(北京邮电大学)
最近正在积极开发的静态图的深度生成模型在分子设计等领域取得了重大成功。然而,许多现实世界的问题涉及时序图,其拓扑结构和属性值随时间动态演变,包括重要的应用,如蛋白质折叠,人类移动网络和社交网络增长。到目前为止,用于时间图的深度生成模型尚未得到很好的理解,并且用于静态图的现有技术不足以用于时间图,因为它们不能1)按时间顺序编码和解码连续变化的图拓扑,2)通过时间约束强制有效性,或者3)确保信息无损时间分辨率的效率。为了解决这些挑战,我们提出了一个新的模型,称为“时间图生成对抗网络"(TG-GAN)的连续时间时间图生成,通过建模截断时间随机游走及其组成的深层生成过程。具体来说,我们首先提出了一种新的时间图生成器,联合模型截断边序列,时间预算,和节点属性,与新的激活函数,执行时间有效性约束下经常性架构。此外,提出了一种新的时间图编码,它结合了时间和节点编码操作的递归架构,以区分所产生的序列从一个新开发的截断时间随机游走采样器采样的真实的。在合成数据集和真实数据集上的大量实验表明,TG-GAN在效率和有效性方面明显优于比较方法。
2020-06-09 cs.LG stat.ML
Comparing Temporal Graphs Using Dynamic Time Warping
TU Berlin(柏林工业大学)
在许多现实世界的网络中,节点对之间的链接会随着时间的推移而变化。因此,最近出现了一个研究时间图的热潮。识别时序图中的模式需要一个接近度来比较不同的时序图。为此,我们建议研究时间图上的动态时间弯曲。我们定义动态时间图弯曲距离(dtgw)来决定两个时间图的相异性。我们的新措施是灵活的,可以应用于各种应用领域。我们表明,计算dtgw距离是一个具有挑战性的(一般)NP-难优化问题,并确定一些多项式时间可解的特殊情况。此外,我们开发了一个二次规划公式和一个有效的启发式。在真实数据的实验中,我们表明,启发式执行非常好,我们的dtgw距离表现良好,在去匿名网络相比,其他方法。
2020-07-06 cs.LG stat.ML
Adaptive Graph Spatial-Temporal Transformer Network for Traffic Flow Forecasting
Yale University(耶鲁大学)
基于图的交通流预测在交通系统、计算机网络等领域有着广泛的应用。由于复杂的时空相关性和非线性的交通模式,交通预测具有很大的挑战性。现有的工作大多是通过考虑空间相关性和时间相关性分别建模这种时空依赖性,而不能建模的直接时空相关性。受最近在图域中成功的Transformers的启发,在本文中,我们提出了直接使用本地多头自注意力的时空图上的跨时空相关性建模。为了降低时间复杂度,我们将注意力感受野设置为空间相邻的节点,并且我们还引入了自适应图来捕获隐藏的时空依赖性。基于这些注意力机制,我们提出了一种新的自适应图时空Transformer网络(ASTTN),它堆叠多个时空注意力层,以应用自注意力的输入图,其次是线性层的预测。在公共交通网络数据集METR-LA PEMS-BAY、PeMSD 4和PeMSD 7上的实验结果表明了该模型的优越性能。
2022-07-09 cs.AI cs.LG
Deep Temporal Graph Clustering
National University of Defense Technology(国防科技大学);Intelligent Game and Decision Lab(智能游戏与决策实验室)
针对现有深度聚类无法适配时序图、易丢失动态信息且计算成本高的问题,提出通用深度时序图聚类框架TGC,适配时序图批处理模式,可有效提升时序图学习性能与时空平衡灵活性。
2024-04-11 cs.AI cs.LG
ST-UNet: A Spatio-Temporal U-Network for Graph-structured Time Series Modeling
Peking University(北京大学);Beijing Institute of Big Data Research(北京大数据研究院)
时空图学习正成为图研究的一个重要对象。许多应用领域涉及高度动态的图,其中时间信息是至关重要的,例如交通网络和金融交易图。尽管结构化数据的学习不断取得进展,但仍然缺乏有效的手段来提取时空结构中的动态复杂特征。特别是,传统的模型,如卷积网络或递归神经网络是无法揭示的时间模式,在短期或长期和探索的空间属性在局部或全球范围内的时空图同时。为了解决这个问题,我们设计了一种新的多尺度架构,时空U网(ST-UNet),用于图结构的时间序列建模。在该U型网络中,提出了一种时空域的成对采样操作:池化(ST-Pool)在空间上粗化输入图的确定性划分,同时通过扩张的循环跳跃连接提取多分辨率时间依赖;基于下采样中的先前设置,解池(ST-Unpool)恢复时空图的原始结构并恢复图序列内的规则间隔。时空预测任务的实验表明,我们的模型有效地捕捉多个尺度的综合特征,并在几个真实世界的数据集上实现了对主流方法的实质性改进。
2021-06-15 cs.LG stat.ML
Filtration-Based Representation Learning for Temporal Graphs
Indian Institute of Science Education and Research Tirupati(印度科学教育与研究学院 Tirupati);Chennai Mathematical Institute(钦奈数学研究所);Institut Polytechnique de Paris(巴黎高等技术学院)
本文提出基于δ-时序动机的滤波方法,用于时序图的多尺度表示学习,并在分类任务中验证了其有效性。
2025-12-03 cs.CG cs.LG math.AT
A Temporal Graphlet Kernel for Classifying Dissemination in Evolving Networks
University of Bonn(波恩大学);University of Vienna(维也纳大学)
我们介绍了\emph{temporal graphlet kernel}分类的时间图中的传播过程。这种传播过程可以是在动态网络中传播(假)新闻、传染病或计算机病毒。网络被建模为标记的时间图,其中边存在于特定的时间点,节点标签随时间变化。分类问题要求区分不同起源或参数的传播过程,例如,不同传染概率的传染病我们的新内核在时间小图的特征空间中表示标记的时间图,即,小的子图,通过它们的结构、时间相关的节点标签和边的时间顺序来区分。我们引入我们的内核的基础上类的graphlet是有效可数的变种。对于时间楔的情况下,我们提出了一个高效的近似内核与预期的低误差。我们表明,我们的内核比最先进的方法计算速度更快,精度更高。
2022-09-12 cs.LG cs.SI
TLogic: Temporal Logical Rules for Explainable Link Forecasting on Temporal Knowledge Graphs
Siemens AG(西门子股份公司);Ludwig Maximilian University of Munich(慕尼黑大学)
传统的静态知识图谱将关系数据中的实体建模为节点,由特定关系类型的边连接。然而,信息和知识不断演变,出现了时间动态,预计会影响未来的局势。在时间知识图谱中,通过为每条边配备时间戳或时间范围来将时间信息集成到图中。基于嵌入的方法已经被引入到时态知识图谱的链接预测中,但是它们大多缺乏可解释性和可理解的推理链。特别是,它们通常不被设计为处理链路预测-涉及未来时间戳的事件预测。我们解决的任务,时间知识图谱的链接预测,并介绍TLogic,一个可解释的框架,是基于时间的逻辑规则提取通过时间随机游走。我们将TLogic与三个基准数据集上的最新基线进行了比较,并显示出更好的整体性能,同时我们的方法还提供了保持时间一致性的解释。此外,与大多数最先进的基于嵌入的方法相比,TLogic在归纳设置中工作得很好,其中已经学习的规则被转移到具有公共词汇表的相关数据集。
2022-03-09 cs.AI cs.LG
Temporal Knowledge Graph Forecasting with Neural ODE
Institute of Informatics, LMU Munich(慕尼黑大学信息学研究所);Corporate Technology, Siemens AG(西门子股份公司企业技术部);Technical University of Munich(慕尼黑工业大学)
在时间知识图谱(KG)上推断未来链接的兴趣越来越大。虽然时间KG上的链接随时间连续变化,但现有方法在离散状态空间中对时间KG进行建模。为此,我们通过将神经常微分方程(ODE)的思想扩展到多关系图卷积网络,提出了一种新型的连续统模型。该模型保持了动态多关系图数据的连续性,并将时间和结构信息编码为连续时间动态嵌入。此外,应用新颖的图过渡层来捕获动态图上的过渡,即,边缘形成和溶解。我们在五个基准数据集上进行了大量的时间KG推理实验,显示了我们的模型在未来链路预测任务上的优越性能。
2022-06-02 cs.AI cs.LG
3D Graph Convolutional Networks with Temporal Graphs: A Spatial Information Free Framework For Traffic Forecasting
Peking University(北京大学);Hangzhou Dianzi University(杭州电子科技大学);Beijing Institute of Big Data Research (BIBDR)(北京大数据研究院)
时空预测在许多应用领域特别是交通领域中起着重要的作用。然而,由于道路网络具有复杂的时空相关性和高度的非线性动态性,交通预测任务仍然具有挑战性。现有的工作要么表现出沉重的训练成本或未能准确地捕捉时空模式,也忽略了遥远的道路之间的相关性,共享相似的模式。在本文中,我们提出了一种新的深度学习框架来克服这些问题:3D时间图卷积网络(3D-TGCN)。我们的模型的两个新的组件。(1)我们不是基于空间信息构建道路图,而是通过比较每条道路的时间序列之间的相似性来学习道路图,从而提供了一个无空间信息的框架。(2)我们提出了一种新颖的3D图卷积模型,以更准确地建模时空数据。实证结果表明,3D-TGCN可以优于最先进的基线。
2019-03-03 cs.LG stat.ML
Non-separable Spatio-temporal Graph Kernels via SPDEs
Finnish Center for Artificial Intelligence FCAI(芬兰人工智能中心FCAI);Aalto University(阿尔托大学);University of Manchester(曼彻斯特大学)
本文利用SPDE与图上高斯过程的联系,提出推导不可分离时空图核的框架,并在热方程与波动方程上构建图核,在实际应用中优于现有图核。
2024-12-27 cs.LG stat.ML
A temporal graph dissimilarity measure capturing epidemic spreading behavior
ISI Foundation(ISI基金会);Politecnico di Torino(都灵理工大学);Aix Marseille Univ, Univ Toulon, CNRS, CPT, Turing Center for Living Systems(艾克斯-马赛大学,土伦大学,法国国家科学研究中心,理论物理中心,图灵生命系统中心)
本研究提出EATGD这一可微时序图不相似性度量,结合嵌入距离与拓扑时间特征,经SIR模拟校准后可捕捉流行病相关图差异,适用于机器学习流程与生成模型训练。
2026-10-14 cs.LG cs.SI
A Distributed Neural Network Architecture for Robust Non-Linear Spatio-Temporal Prediction
University of Tübingen(图宾根大学);University of Hohenheim(霍恩海姆大学)
介绍了一种分布式时空人工神经网络体系结构(DISTANA)。它使用递归神经预测内核(PK)编码网格节点,而神经过渡内核(TK)在相邻PK之间传输信息,共同建模和预测时空时间序列动态。因此,DISTANA假设普遍适用的原因,这可能是局部修改,产生观察到的数据。DISTANA以并行、空间分布的方式学习,可扩展到大型问题空间,能够近似复杂的动态,与其他竞争性ANN模型相比,对过拟合特别鲁棒。此外,它还适用于结构不均匀的网格。
2019-12-23 cs.LG cs.NE