De Bruijn goes Neural: Causality-Aware Graph Neural Networks for Time Series Data on Dynamic Graphs
Julius-Maximilians-Universität Würzburg(维尔茨堡朱利叶斯-马克西米利安大学);University of Zurich(苏黎世大学)
我们介绍了De Bruijn图神经网络(DBGNNs),一种新的时间感知图神经网络架构,用于动态图上的时间分辨数据。我们的方法占时间拓扑模式展开的因果拓扑的动态图,这是由因果散步,即时间上有序的链接序列,节点可以随着时间的推移相互影响。我们的架构建立在多层高阶De Bruijn图上,这是一种迭代线图构造,其中k阶De Bruijn图中的节点表示长度为k-1的行走,而边表示长度为k的行走。我们开发了一个图神经网络架构,利用德布鲁因图实现的消息传递计划,遵循非马尔可夫动力学,这使我们能够学习模式的因果拓扑结构的动态图。为了解决具有不同阶数k的De Bruijn图可以用于对同一数据集进行建模的问题,我们进一步应用统计模型选择来确定用于消息传递的最佳图拓扑。对合成和经验数据集的评估表明,DBGNN可以利用动态图中的时间模式,这大大提高了监督节点分类任务的性能。
2022-09-17 cs.AI cs.LG
Dynamic Graph Node Classification via Time Augmentation
Visa Research(维萨研究院)
图结构数据的节点分类旨在对标签未知的节点进行分类。虽然静态图的研究是普遍的,很少有研究集中在动态图节点分类。动态图上的节点分类具有挑战性,原因有两个。首先,该模型需要捕获结构和时间信息,特别是在具有悠久历史的动态图上,需要大的感受野。其次,随着动态图的大小增加,模型的可伸缩性成为一个重要的问题。为了解决这些问题,我们提出了时间增强动态图神经网络(TADGNN)框架。TADGNN由两个模块组成:1)时间增强模块,它从结构上捕获节点在时间上的时间演化,创建时间增强的时空图,以及2)信息传播模块,它使用构建的时间增强图来学习每个节点在时间上的动态表示。我们在四个动态图基准上进行节点分类实验。实验结果表明,TADGNN框架优于几个静态和动态国家的最先进的(SOTA)GNN模型,同时表现出优越的可扩展性。我们还进行了理论和实证分析,以验证所提出的方法的效率。我们的代码可在https://sites.google.com/view/tadgnn上获得。
2022-12-07 cs.LG cs.SI
Learning Dynamic Graph Embeddings with Neural Controlled Differential Equations
Department of Electrical and Engineering, City University of Hong Kong(电子工程系,香港城市大学);Mathematical Institute, University of Oxford(数学研究所,牛津大学)
针对动态图中结构与节点动力学耦合带来的时序演化建模难题,提出连续时间框架GN-CDEs,以时变图路径为控制信号联合建模节点嵌入与结构动力学,在多项动态图表示学习任务上验证了有效性。
2025-10-01 cs.AI cs.LG
Pre-Training on Dynamic Graph Neural Networks
Nanjing University of Posts and Telecommunications(南京邮电大学)
图神经网络模型的预训练可以通过自监督的方法学习大规模网络或同类型网络的一般特征,这使得模型即使在节点标签丢失的情况下也能工作。然而,现有的预训练方法没有考虑网络的演化。提出了一种动态图神经网络(PT-DGNN)的预训练方法,该方法利用动态属性图生成任务同时学习图的结构、语义和演化特征。该方法包括两个步骤:1)动态子图采样,2)预训练与动态属性图生成任务。在三个真实动态网络数据集上的对比实验表明,该方法在链接预测微调任务上取得了最好的效果。
2022-04-18 cs.LG cs.SI
Anomaly Detection in Dynamic Graphs: A Comprehensive Survey
Tennessee Technological University(田纳西理工大学)
本综述全面概述了基于动态图的异常检测(DGAD)技术,提出了按传统机器学习、矩阵变换、概率方法和深度学习分类的DGAD综述框架,总结了各方法优劣并指出了未来研究方向。
2024-05-31 cs.AI cs.LG
Dynamic Graph Condensation
Institute of Information Science, Beijing Jiaotong University(信息科学学院,北京交通大学);Visual Intelligence + X International Joint Laboratory of the Ministry of Education(教育部视觉智能+X国际联合实验室);Medical Big Data Research Center, Chinese PLA General Hospital Beijing, China(中国人民解放军总医院医学大数据研究中心)
针对动态图训练数据效率低的问题,本研究率先提出DyGC框架,通过脉冲结构生成和时空分布匹配实现动态图浓缩,仅用0.5%规模保留96.2%性能,加速最高达1846倍。
2025-06-16 cs.AI cs.LG
Controlling Graph Dynamics with Reinforcement Learning and Graph Neural Networks
NVIDIA Research(英伟达研究院)
我们考虑的问题,控制一个部分观察到的动态过程的图上的有限数量的干预。在安排病毒测试以遏制流行病;有针对性的营销以推广产品;手动检查帖子以检测社交网络上传播的假新闻等情况下,这个问题自然会出现。我们制定这个设置作为一个时序图过程中的顺序决策问题。针对时间图上的指数状态空间、组合动作空间和部分可观测性,设计了一种新的控制方案。我们成功地将我们的方法应用于两个流行的问题,属于我们的框架:优先考虑哪些节点应该进行测试,以遏制流行病的传播,和图上的影响力最大化。
2021-07-09 cs.LG cs.SI
WalkingTime: Dynamic Graph Embedding Using Temporal-Topological Flows
Carnegie Mellon University(卡内基梅隆大学)
在过去的四年中,人们越来越关注动态网络嵌入。现有的动态嵌入方法,但是,考虑的问题仅限于一系列的全球性,离散状态的拓扑结构的演变。我们提出了一种新的嵌入算法,WalkingTime,基于一个根本不同的处理时间,允许本地考虑连续发生的现象;而其他人认为全球时间步长是一阶公民的动态环境,我们持有的流组成的时间和拓扑局部相互作用作为我们的原语,没有任何离散化或对齐的时间相关的属性是必要的。保留字:动态网络,表示学习,动态图嵌入,时间相关路径,时间拓扑流,时间随机游走,时间网络,实属性知识图谱,流图,在线网络,异步图,异步网络,图形算法,深度学习,网络分析,数据挖掘,网络科学
2021-11-22 cs.LG cs.SI
Condensation-Concatenation Framework for Dynamic Graph Continual Learning
College of Computer and Information Science(计算机与信息科学学院);Southwest University(西南大学)
本文提出CCC框架,通过凝缩历史图快照与选择性拼接当前图表示,有效解决动态图连续学习中的灾难性遗忘问题,并在多个数据集上验证了其优越性。
2025-12-12 cs.AI cs.LG
Efficient Dynamic Graph Representation Learning at Scale
Georgia Institute of Technology(佐治亚理工学院);Facebook(脸书);MBZUAI(穆罕默德·本·扎耶德人工智能大学)
节点之间具有有序事件序列的动态图在现实世界的工业应用中很普遍,例如电子商务和社交平台。然而,动态图的表示学习由于数据的时间和结构依赖性以及不规则性而带来了巨大的计算挑战,从而阻止了此类模型部署到现实世界的应用中。为了解决这个问题,我们提出了一个有效的算法,有效的动态图形学习(EDGE),它选择性地表示一定的时间依赖性通过训练损失,以提高计算的并行性。我们表明,EDGE可以扩展到具有数百万个节点和数亿个时间事件的动态图,并实现新的最先进的(SOTA)性能。
2021-12-14 cs.AI cs.LG
Representing Social Networks as Dynamic Heterogeneous Graphs
Muma College of Business University of South Florida
过去,现实世界社交网络的图形表示缺少两个重要元素:连接的多样性以及表示时间。为此,在本文中,我们提出了一种新的动态异构图表示的社交网络,其中包括时间在每个单一的组成部分,即,节点和边,每一种都是不同的类型,它们捕获了异质性。我们通过提出四个时间相关查询和深度学习问题来说明这种表示的强大功能,这些问题在常用的传统同构图表示中无法轻松处理。作为概念的证明,我们提出了一个新的社交媒体平台(Steemit),我们用它来说明动态查询能力以及预测任务,使用图神经网络(GNNs)的详细表示。实验结果表明了动态异构图表示对社交网络建模的强大功能。鉴于这是一个相对欠研究的领域,我们还说明了未来的工作机会,在查询优化以及新的动态预测任务异构图结构。
2022-09-12 cs.AI cs.SI
Dynamic Graph Representation Learning via Self-Attention Networks
University of Illinois, Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Visa Research(Visa研究院)
学习图中节点的潜在表示是一项重要且普遍存在的任务,具有广泛的应用,例如链接预测,节点分类和图可视化。以往的图表示学习方法主要集中在静态图上,然而,许多现实世界的图是动态的,并随着时间的推移而演变。在本文中,我们提出了动态自注意力网络(DySAT),一种新的神经架构,操作动态图和学习节点表示,捕捉结构特性和时间演化模式。具体来说,DySAT通过沿两个维度联合采用自注意力层来计算节点表示:结构邻域和时间动态。我们进行链接预测实验两类图:通信网络和二分评级网络。我们的实验结果表明,DySAT在几个不同的最先进的图嵌入基线上具有显着的性能增益。
2019-06-15 cs.LG cs.SI stat.ML
K-Core based Temporal Graph Convolutional Network for Dynamic Graphs
Beihang University(北京航空航天大学);HuaRong RongTong (Beijing) Technology Co., Ltd.(华融通(北京)科技有限公司)
图表示学习是各种应用中的基本任务,其努力学习能够保持图拓扑信息的节点的低维嵌入。然而,许多现有的方法集中在静态图,而忽略了不断变化的图形模式。受图卷积网络(GCN)在静态图嵌入中的成功启发,提出了一种新的基于k核的时态图卷积网络(CTGCN),用于学习动态图的节点表示.与以前的动态图嵌入方法相比,CTGCN可以保持局部连接邻近性和全局结构相似性,同时捕获图的动态特性。在该框架中,传统的图卷积被推广为特征转换和特征聚合两个阶段,从而赋予了CTGCN更大的灵活性,使得CTGCN能够在同一框架下学习连接信息和结构信息.在7个真实图上的实验结果表明,CTGCN在链接预测和结构角色分类等多个任务上优于现有的最先进的图嵌入方法。本工作的源代码可以从\url{https://github.com/jhljx/CTGCN}获得。
2020-11-06 cs.LG cs.SI stat.ML
Foundations and modelling of dynamic networks using Dynamic Graph Neural Networks: A survey
University of Technology Sydney(悉尼科技大学)
动态网络被广泛应用于各个领域,包括社会网络分析、推荐系统和流行病学。将复杂网络表示为随时间变化的结构,使网络模型不仅可以利用结构模式,还可以利用时间模式。然而,动态网络文学来源于不同的领域,使用不一致的术语,这是具有挑战性的导航。与此同时,图神经网络(GNN)近年来因其在一系列网络科学任务(如链接预测和节点分类)上表现良好的能力而受到广泛关注。尽管图神经网络的流行和动态网络模型的证明的好处,有很少关注动态网络的图神经网络。为了解决这一事实所带来的挑战,这项研究跨越不同的领域,以及调查动态图神经网络,这项工作分为两个主要部分。首先,为了解决动态网络术语的模糊性,我们建立了一个动态网络的基础,具有一致的,详细的术语和符号。其次,我们提出了一个全面的调查动态图神经网络模型使用所提出的术语
2021-06-13 cs.LG cs.SI stat.ML
Structural Temporal Graph Neural Networks for Anomaly Detection in Dynamic Graphs
Washington State University(华盛顿州立大学);NEC Laboratories America(NEC美国研究院);Rice University(莱斯大学)
检测动态图中的异常是一项重要任务,在安全、金融和社交媒体等领域有许多实际应用。以往的基于网络嵌入的方法主要集中在学习好的节点表示,而在很大程度上忽略了动态图中与目标节点相关的子图结构变化。在本文中,我们提出了StrGNN,一个端到端的结构时间图神经网络模型,用于检测动态图中的异常边缘。特别是,我们首先提取的$h$ -跳包围子图为中心的目标边缘,并提出了节点标记功能,以确定每个节点在子图中的作用。然后,我们利用图卷积操作和Sortpooling层从每个快照/时间戳中提取固定大小的特征。基于提取的特征,我们利用门控递归单元(GRU)捕获的时间信息的异常检测。在六个基准数据集和一个真实的企业安全系统上的实验证明了StrGNN的有效性。
2020-05-25 cs.LG cs.SI stat.ML
Time-aware Random Walk Diffusion to Improve Dynamic Graph Learning
Jeonbuk National University(全北国立大学)
如何扩充动态图以提高动态图神经网络的性能?图增强已被广泛用于提高基于GNN的模型的学习性能。然而,大多数现有方法仅通过变换图来增强输入静态图内的空间结构,而不考虑由时间引起的动态性,例如时间局部性,即,最近的边比较早的边更有影响力,这对于动态图增强仍然是挑战。在这项工作中,我们提出了TiaRa(时间感知随机游走扩散),一种新的基于扩散的方法,用于增强表示为离散时间序列的图快照的动态图。为此,我们首先设计了一个时间感知的随机游走接近,使冲浪者可以沿着时间维度以及边缘行走,从而在空间和时间上本地化的分数。然后,我们推导出我们的扩散矩阵的时间感知的随机游走的基础上,并显示它们成为增强的邻接矩阵,空间和时间的地方都增强。通过大量的实验,我们证明了TiaRa有效地增强了给定的动态图,并为各种图数据集和任务带来了动态GNN模型的显着改进。
2023-02-14 cs.LG
Dynamic Graph Representation Learning with Neural Networks: A Survey
Cranberry-Lemon University(蔓越莓柠檬大学);University of the Witwatersrand(威特沃特斯兰德大学)
本文综述了动态图表示学习的问题与模型,重点分析动态图神经网络中时间信息建模方式的异同,并为DGNN设计者提供通用指导。
2023-04-12 cs.LG
Continuous Temporal Graph Networks for Event-Based Graph Data
Xi’an Jiaotong University(西安交通大学);LMU Munich(慕尼黑大学);Siemens AG(西门子股份公司);CRRC Zhuzhou Institute Co., Ltd.(中车株洲所有限公司)
时态图数据的连续时间动态建模越来越受到人们的关注。以前的方法通过指定神经网络的离散层将时间演化的关系信息编码为低维表示,而真实世界的动态图通常随时间连续变化。因此,我们提出了连续时态图网络(CTGN)来捕获时态图数据的连续动态。我们使用的链接开始时间戳和链接持续时间作为不断变化的信息来模拟节点的连续动态。其核心思想是使用神经常微分方程(ODE)来描述动态图上节点表示的连续动态性。利用一种新的图神经网络对常微分方程进行参数化。现有的动态图网络可以看作是CTGN的一种特殊离散化。在转换和归纳任务上的实验结果证明了我们所提出的方法在竞争基线上的有效性。
2022-05-31 cs.LG
Instant Graph Neural Networks for Dynamic Graphs
Renmin University of China(中国人民大学);Data 61, CSIRO(澳大利亚联邦科学与工业研究组织Data61);The Chinese University of Hong Kong(香港中文大学)
图神经网络(GNN)已被广泛用于对图结构数据进行建模。随着众多GNN变体的发展,近年来在提高GNN的可扩展性以处理具有数百万节点的静态图方面取得了突破性的成果。然而,如何用GNN即时表示大规模动态图的连续变化仍然是一个悬而未决的问题。现有的动态GNN专注于对图的周期性演化进行建模,通常是基于快照。这种方法有两个缺点:首先,图中的变化在图表示中反映有相当大的延迟,导致模型准确性的损失;其次,在每个快照中重复计算整个图上的表示矩阵主要是耗时的,并且严重限制了可扩展性。在本文中,我们提出了即时图神经网络(InstantGNN),一个增量计算方法的动态图的图形表示矩阵。我们的方法使用边缘到达模型处理动态图,避免了耗时的重复计算,并允许即时更新表示和即时预测。支持具有动态结构和动态属性的图。给出了这些更新的时间复杂度的上界。此外,我们的方法提供了一种自适应训练策略,该策略可以指导模型在可以获得最大性能增益的时刻进行重新训练。我们在几个真实世界和合成数据集上进行了广泛的实验。实证结果表明,我们的模型达到了国家的最先进的准确性,同时具有数量级更高的效率比现有的方法。
2022-06-03 cs.LG
Learning to Evolve on Dynamic Graphs
Australian National University(澳大利亚国立大学);Zhejiang University(浙江大学);Westlake University(西湖大学);Westlake Institute for Advanced Study(西湖高等研究院)
动态图中的表示学习是一个具有挑战性的问题,因为图的拓扑结构和节点特征在不同的时间是不同的。这就要求模型能够有效地捕捉图的拓扑信息和时态信息。现有的大多数工作都是建立在递归神经网络(RNN)上的,它被用来精确动态图的时间信息,因此它们继承了RNN的相同缺点。在本文中,我们提出了学习进化动态图(LEDG)-一种新的算法,共同学习图形信息和时间信息。具体来说,我们的方法利用基于梯度的元学习来学习更新策略,这些策略在快照上具有比RNN更好的泛化能力。它与模型无关,因此可以在动态图上训练任何基于消息传递的图神经网络(GNN)。为了提高表示能力,我们将嵌入分解为时间嵌入和图的内在嵌入。我们在不同的数据集和下游任务上进行了实验,实验结果验证了我们的方法的有效性。
2021-11-13 cs.LG
Dynamic Joint Variational Graph Autoencoders
York University(约克大学)
学习网络表示是许多图应用的基本任务,例如链接预测、节点分类、图聚类和图可视化。许多现实世界的网络被解释为动态网络,并随着时间的推移而演变。现有的图嵌入算法大多是针对静态图开发的,无法捕捉大型动态网络的演化过程。在本文中,我们提出了动态联合变分图自动编码器(Dyn-VGAE),可以学习动态网络中的局部结构和时间演化模式。Dyn-VGAE提供了一个联合学习框架,用于同时计算所有图快照的时间表示。每个自动编码器都基于其局部结构嵌入一个图快照,并且还可以通过与其他自动编码器协作来学习时间依赖性。在真实动态图数据集上进行了实验研究,结果表明了该方法的有效性。
2019-10-04 cs.LG stat.ML
Test-time GNN Model Evaluation on Dynamic Graphs
School of Information and Communication Technology, Griffith University, Gold Coast, Australia(信息与通信技术学院,格里菲斯大学,黄金海岸,澳大利亚)
本文研究测试时动态图神经网络性能评估问题,提出两阶段 DyGEval 框架,通过模拟分布偏移并训练评估器,准确估计未见动态图上的模型性能。
2025-09-28 cs.LG
Explaining Dynamic Graph Neural Networks via Relevance Back-propagation
University of California Irvine(加州大学欧文分校)
图神经网络(GNN)在捕获图结构数据中的丰富信息方面表现出显着的有效性。然而,GNN的黑盒性质阻碍了用户对模型的理解和信任,从而导致其应用的困难。虽然近年来对GNN的解释研究很繁荣,但大多数研究都集中在静态图上,而动态GNN的解释几乎没有探索。由于动态GNN具有时变图结构的独特特性,因此解释动态GNN具有挑战性。直接使用现有的模型设计的静态图上的动态图是不可行的,因为他们忽略了快照之间的时间依赖性。在这项工作中,我们提出DGExplainer来为动态GNN提供可靠的解释。DGExplainer将动态GNN的输出激活分数重新分配到其前一层神经元的相关性,迭代直到获得输入神经元的相关性分数。我们在真实世界的数据集上进行定量和定性实验,以证明所提出的框架在识别动态GNN的链接预测和节点回归的重要节点方面的有效性。
2022-07-22 cs.LG
Weisfeiler-Lehman meets Events: An Expressivity Analysis for Continuous-Time Dynamic Graph Neural Networks
University of Kassel, Germany(德国凯泽尔大学)
针对现实系统异步演化且可能不连通的问题,本文扩展属性离散动态图理论至连续时间场景,提出连续时间动态1-WL测试并证明其与展开树等价,识别出保留区分能力和逼近保证的CGNN类,还给出实用设计指南。
2025-08-25 cs.LG
TIDFormer: Exploiting Temporal and Interactive Dynamics Makes A Great Dynamic Graph Transformer
Renmin University of China(中国人民大学);Huawei Shenzhen, Guangdong China(华为深圳,广东中国)
提出TIDFormer,通过高效利用时间和交互动态,并设计可解释的自注意力机制,在多个动态图数据集上超越现有模型。
2026-06-02 cs.LG
Local Intrinsic Dimensionality for Dynamic Graph Embeddings
University of Novi Sad(诺威萨大学);Faculty of Sciences(理学院)
本文探讨静态图LID度量NC-LID对动态网络的适配性,以dynnode2vec为对象研究其与10个真实动态网络嵌入质量的相关性,发现NC-LID可指示嵌入未良好保留时间结构的节点,为LID感知动态图嵌入奠定基础。
2024-11-25 cs.LG
Dynamic Neural Dowker Network: Approximating Persistent Homology in Dynamic Directed Graphs
Wuhan University(武汉大学)
针对持续同调应用于动态有向图的计算难题,提出动态神经道克网络(DNDN),通过线图变换、SSLGNN层及对偶边融合机制逼近动态道克滤过,在分类任务中表现优异。
2024-08-17 cs.LG math.AT
Temporal Graph Networks for Deep Learning on Dynamic Graphs
Twitter(推特(Twitter))
图神经网络(GNN)最近变得越来越受欢迎,因为它们能够学习从生物学和粒子物理学到社交网络和推荐系统的广泛问题中产生的复杂关系或交互系统。尽管图上的深度学习有很多不同的模型,但到目前为止,很少有方法被提出来处理呈现某种动态性质的图(例如,随着时间的推移不断演变的特征或连通性)。在本文中,我们提出了时间图网络(TGN),这是一个通用的,高效的深度学习框架,用于表示为定时事件序列的动态图。由于内存模块和基于图形的运算符的新颖组合,TGN能够显着优于以前的方法,同时计算效率更高。此外,我们还表明,以前的几个模型的学习动态图可以作为我们的框架的具体实例。我们对我们框架的不同组件进行了详细的消融研究,并设计了最佳配置,在动态图的几个转导和归纳预测任务上实现了最先进的性能。
2020-10-09 cs.LG stat.ML
DyGCN: Dynamic Graph Embedding with Graph Convolutional Network
University of Chinese Academy of Sciences (UCAS)(中国科学院大学);Institution of Automation Chinese Academy of Sciences (CASIA)(中国科学院自动化研究所);National Laboratory of Pattern Recognition (NLPR)(模式识别国家重点实验室);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院)
图嵌入,旨在学习低维表示(aka。节点的嵌入)最近受到了极大的关注。近年来,人们对静态图进行了大量的研究,其中图卷积网络(GCN)是一类有效的模型。然而,这些方法主要集中在静态图嵌入。在这项工作中,我们提出了一个有效的动态图嵌入方法,动态图卷积网络(DyGCN),这是一个扩展的GCN为基础的方法。我们自然地将GCN的嵌入传播方案以高效的方式推广到动态设置,即沿着图传播变化以更新节点嵌入。首先更新受影响最大的节点,然后将其更改传播到其他节点并导致其更新。在各种动态图上进行的大量实验表明,我们的模型可以以节省时间和保持性能的方式更新节点嵌入。
2021-04-07 cs.IR cs.LG
Streaming Graph Neural Networks
Michigan State University(密歇根州立大学)
图形是许多真实世界数据(如社交网络)的基本表示。近年来,人们越来越努力地将神经网络模型扩展到图结构数据。这些方法,通常被称为图神经网络,已被应用于推进许多图形相关的任务,如推理动力学的物理系统,图分类,和节点分类。现有的大多数图神经网络模型都是针对静态图设计的,而现实世界中的许多图本质上是动态的。例如,随着新用户的加入和新关系的创建,社交网络自然地发展。现有的图神经网络模型不能利用动态图中的动态信息。然而,动态信息已被证明可以增强许多图分析任务的性能,例如社区发现和链接预测。因此,有必要为动态图设计专用的图神经网络。本文提出了一种新的{ \bf D}类{ \bf G}类{\bf N}神经网络模型DGNN,它能够对图的演化过程中的动态信息进行建模。特别地,所提出的框架可以保持更新节点信息,通过捕获的边缘(交互),边缘之间的时间间隔和信息传播相干的顺序信息。在各种动态图上的实验结果证明了该框架的有效性。
2018-11-06 cs.LG stat.ML
Geometric learning of the conformational dynamics of molecules using dynamic graph neural networks
Pacific Northwest National Laboratory(太平洋西北国家实验室)
我们应用时间边缘预测模型的加权动态图预测随时间变化的分子结构。每个分子被表示为一个完全图,其中每个原子是一个顶点,所有的顶点对由原子对之间的欧氏距离加权的边连接。我们摄取一系列完整的分子图到一个动态的图神经网络(GNN)预测的图形在下一个时间步。我们的动态GNN预测原子到原子的距离,平均绝对误差为0.017 μ m,这被认为是分子模拟的“化学准确”。我们还探索了训练网络到新分子系统的可移植性,发现用不到10%的总轨迹进行微调,提供的平均绝对误差与在完整分子轨迹上从头开始训练时相同的数量级。
2021-06-24 cs.LG physics.chem-ph
DGC: Training Dynamic Graphs with Spatio-Temporal Non-Uniformity using Graph Partitioning by Chunks
The University of Aizu(会津大学);University of Electro-Communications(电气通信大学)
针对动态图时空结构非均匀性导致训练加速困难的问题,提出分布式DGNN训练系统DGC,通过基于图粗化的按块图划分方法及块融合与自适应陈旧聚合技术,在3种模型和4个数据集上实现了1.25至7.52倍加速。
2023-09-07 cs.AI cs.DC
Learning Attribute-Structure Co-Evolutions in Dynamic Graphs
University of Notre Dame(圣母大学)
大多数图神经网络模型学习静态属性图中节点的嵌入以进行预测分析。最近已经尝试学习节点的时间接近度。我们发现,真正的动态属性图表现出复杂的节点属性和图结构的协同进化。学习节点嵌入预测节点属性的变化和出生和死亡的链接随着时间的推移仍然是一个开放的问题。在这项工作中,我们提出了一个名为CoEvoGNN的新框架,用于对动态属性图序列进行建模。它通过在序列中嵌入生成来保留先前图对当前图的影响。它具有时间自注意机制来模拟进化中的长程依赖。此外,CoEvoGNN在两个动态任务上联合优化模型参数,即属性推断和随时间推移的链接预测。因此,该模型可以捕捉属性变化和链接形成的协同进化模式。该框架可以适应任何图神经算法,因此我们实现并研究了基于它的三种方法:CoEvoGCN,CoEvoGAT和CoEvoSAGE。实验表明,该框架(及其方法)在预测动态社交图和财务图中的个人属性和人际联系的整个看不见的图快照方面优于强基线。
2020-07-25 cs.LG stat.ML
Modelling graph dynamics in fraud detection with "Attention"
ETH Zurich(苏黎世联邦理工学院);Ebay China(易贝中国)
在在线零售平台上,检测欺诈性账户和交易对于改善客户体验、最大限度地减少损失和避免未经授权的交易至关重要。尽管图上的深度学习有各种不同的模型,但很少有方法被提出来处理异构和动态的图。在本文中,我们提出了DyHGN(动态异构图神经网络)和它的变种捕捉时间和异构信息。我们首先从eBay的注册和交易数据构建动态异构图。然后,我们建立模型的历时实体嵌入和异构图Transformer。我们还使用模型可解释性技术来理解DyHGN-* 模型的行为。我们的研究结果表明,建模图形动态与异构输入需要进行“注意”取决于数据结构,分布和计算成本。
2022-04-22 cs.AI cs.LG cs.SI
Disentangled Dynamic Graph Deep Generation
University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校);George Mason University(乔治梅森大学)
图的深度生成模型在不断增加的领域中表现出有前途的性能,例如分子设计(即原子图)和蛋白质结构预测(即,氨基酸图)。现有的工作通常集中在静态而不是动态图,这实际上是非常重要的应用,如蛋白质折叠,分子反应,和人类的流动性。将现有的深度生成模型从静态扩展到动态图是一项具有挑战性的任务,这需要处理静态和动态特征的分解以及节点和边模式之间的相互作用。在这里,本文提出了一个新的框架的因式分解的深度生成模型,以实现可解释的动态图生成。提出了各种生成模型来表征节点、边、静态和动态因素之间的条件独立性。然后,变分优化策略以及动态图解码器提出了新设计的因式分解变分自编码器和递归图解卷积的基础上。在多个数据集上的实验证明了该模型的有效性。
2021-01-20 cs.LG cs.SI
Machine Learning on Dynamic Graphs: A Survey on Applications
Michigan State University(密歇根州立大学)
本文综述了动态图学习在交通、脑网络、社交网络等较少被探索领域的应用,揭示了其在关联度有限领域中的挑战应对潜力。
2024-01-16 cs.LG cs.SI
Dynamic Graph Echo State Networks
University of Pisa(比萨大学)
动态时间图表示实体之间的演变关系,例如社交网络用户之间的交互或感染传播。我们提出了一个扩展的图形回声状态网络的动态时间图的有效处理,其回声状态属性的充分条件,和水库布局的影响的实验分析。与需要保存顶点交互的整个历史的时间图内核相比,我们的模型为动态图提供了一个矢量编码,该动态图在每个时间步更新,而不需要训练。实验结果表明,准确性相媲美的近似时间图内核的12个传播过程分类任务。
2022-10-27 cs.LG cs.SI
Learnable Spectral Wavelets on Dynamic Graphs to Capture Global Interactions
IIT Hyderabad(印度理工学院海得拉巴分校);RWTH Aachen(亚琛工业大学);Zerotha Research(泽罗塔研究公司);Cerence Gmbh(赛轮思有限公司);The University of Tokyo(东京大学)
在进化(动态)图上学习已经引起了研究人员的注意,因为静态方法在这种情况下表现出有限的性能。现有的动态图方法通过局部邻域聚集来学习空间特征,这本质上只捕获低通信号和局部交互。在这项工作中,我们超越了目前的方法,将全球功能,有效地学习表示的动态演变的图形。我们建议通过捕获动态图的频谱来这样做。由于静态的方法来学习图的频谱不会考虑历史的演变的频谱随着时间的推移,我们提出了一种新的方法来学习图小波捕捉这个不断变化的频谱。此外,我们提出了一个框架,将动态捕获的光谱的形式,这些可学习的小波空间特征,将本地和全球的相互作用。在8个标准数据集上的实验表明,该方法在动态图的各种任务上都明显优于相关方法。
2022-11-22 cs.AI cs.LG
A Methodological Report on Anomaly Detection on Dynamic Knowledge Graphs
University of Rouen Normandy(鲁昂诺曼底大学)
本文针对 Kubernetes 微服务环境下的动态知识图谱异常检测问题,利用序列、层次和跨服务依赖三种图表示,测试多种机器学习与深度学习模型,并提出基于集成学习的方法,在 ISWC 2024 数据集上显著优于基线。
2024-11-11 cs.AI cs.LG
A Survey on Embedding Dynamic Graphs
National Laboratory for Scientific Computing (LNCC)(国家科学计算实验室);Federal University of Juiz de Fora (UFJF)(茹伊斯迪福拉联邦大学)
在低维向量空间中嵌入静态图在网络分析和推理中起着关键作用,支持节点分类,链接预测和图形可视化等应用。然而,许多现实世界的网络呈现动态行为,包括拓扑演化,特征演化和扩散。因此,已经提出了几种用于嵌入动态图的方法来随着时间的推移学习网络表示,面临新的挑战,例如时域建模,要捕获的时间特征和要嵌入的时间粒度。在本综述中,我们概述了动态图嵌入,讨论了其基本原理和迄今为止的最新进展。我们介绍了动态图嵌入的形式化定义,重点是问题设置,并介绍了一种新的分类动态图嵌入的输入和输出。我们进一步探讨了不同的动态行为,可能包含的嵌入,分类拓扑进化,功能进化,网络上的过程。之后,我们描述了现有的技术,并提出了基于算法方法的动态图嵌入技术的分类,从矩阵和张量分解到深度学习、随机游走和时间点过程。阐述了该方法的主要应用,包括动态链接预测、异常检测和扩散预测,并指出了该领域的一些研究方向。
2021-07-22 cs.AI cs.LG
Spatial-Temporal Interactive Dynamic Graph Convolution Network for Traffic Forecasting
Tongji University(同济大学)
针对现有交通预测方法难以同步捕捉时空依赖、忽略路网节点动态关联的问题,提出含交互学习策略和动态图卷积模块的STIDGCN模型,在四个真实数据集上性能超越当前最优基线。
2022-09-26 cs.AI cs.LG
Event Detection on Dynamic Graphs
University of California, Santa Barbara(加州大学圣塔芭芭拉分校);Rice University(莱斯大学);University of Illinois Chicago(伊利诺伊大学芝加哥分校);Northwestern University(西北大学)
事件检测是图形分析应用程序中及时决策的关键任务。尽管最近在图上的深度学习方面取得了进展,但动态图上的事件检测对现有架构提出了特定的挑战。现实生活中的事件通常与图的正常行为的突然偏离相关联。然而,现有的动态节点嵌入方法无法捕获与事件相关的图级动态。在本文中,我们提出了DyGED,一个简单而新颖的深度学习模型,用于动态图上的事件检测。DyGED学习图形宏动态(即一系列图形级表示)和标记事件之间的相关性。此外,我们的方法结合了结构和时间的自我注意机制,以有效地考虑特定于应用程序的节点和时间的重要性。我们使用一组具有代表性的数据集进行的实验评估表明,DyGED在事件检测准确性方面优于竞争解决方案,最高可达8.5%,同时比顶级替代方案更具可扩展性。我们还介绍了案例研究,说明我们的模型的关键特征。
2023-02-13 cs.LG cs.SI
HOTVis: Higher-Order Time-Aware Visualisation of Dynamic Graphs
University of Zurich(苏黎世大学);University of Wuppertal(伍珀塔尔大学)
网络可视化技术是复杂系统探索性分析的重要工具。虽然这些方法经常被用于可视化复杂网络上的数据,但我们越来越多地可以访问可以建模为时间网络或动态图的时间序列数据。在动态图中,带时间戳的边的时间排序确定系统的因果拓扑,即,这些节点可以通过所谓的因果路径直接或间接地相互影响。这种因果拓扑对于理解动态过程、评估节点的作用或检测集群至关重要。然而,我们缺乏将这些信息纳入静态可视化的图形绘制技术。针对这一差距,我们提出了一种新的动态图形可视化算法,利用时间序列数据中因果路径的高阶图形模型来计算时间感知的静态图形可视化。这些可视化将静态图的简单性和可解释性与时间感知的布局算法相结合,该算法突出了由边缘的时间动态引起的因果拓扑中的模式。
2020-08-25 cs.GR cs.LG cs.SI
Defending Graph Convolutional Networks against Dynamic Graph Perturbations via Bayesian Self-supervision
Indiana University-Purdue University Indianapolis(印第安纳大学与普渡大学印第安纳波利斯联合分校)
近年来,大量的证据表明,图卷积网络(GCN)在节点分类方面取得了非凡的成就。然而,GCN可能容易受到标签稀缺的动态图上的对抗攻击。许多现有的工作旨在加强GCN的鲁棒性;例如,对抗训练用于保护GCN免受恶意扰动。然而,这些作品失败的动态图标签稀缺性是一个紧迫的问题。为了克服标签稀缺性,自训练尝试迭代地将伪标签分配给高度自信的未标记节点,但这种尝试在动态图扰动下可能会严重退化。在本文中,我们推广噪声监督作为一种自监督学习方法,然后提出了一种新的贝叶斯自监督模型,即GraphSS,来解决这个问题。大量的实验表明,GraphSS不仅可以肯定地警告动态图上的扰动,而且还可以有效地恢复节点分类器的预测,当图是在这样的扰动。这两个优点被证明是在五个公共图数据集上的三个经典GCN上推广的。
2022-03-07 cs.LG
Encoder-Decoder Architecture for Supervised Dynamic Graph Learning: A Survey
McGill University(麦吉尔大学)
近年来,流行的在线服务产生了大量的用户活动数据。服务提供商收集这些数据,以便进行客户行为分析,并提供更好,更个性化的服务。这些数据中的大多数可以建模并存储为图,例如Facebook中的社交图,Youtube中的用户-视频交互图。这些图需要随着时间的推移而发展,以捕捉现实世界中的动态,从而导致动态图的发明。然而,嵌入在动态图的时态信息带来了新的挑战,分析和部署它们。事件陈旧、时间信息学习和显式时间维度使用是动态图学习中的一些示例挑战。为了给工业界和学术界提供一个方便的参考,本文提出了基于动态图进化理论的三阶段递归时态学习框架,以便用一个广义的框架来解释时态信息的学习。在这个框架下,本调查分类和审查不同的可学习的编码器-解码器架构的监督动态图学习。我们相信,这项调查可以提供有用的指导方针,研究人员和工程师在寻找合适的图形结构,为他们的动态学习任务。
2022-03-27 cs.LG
Informative Subgraphs Aware Masked Auto-Encoder in Dynamic Graphs
Hangzhou Dianzi University(杭州电子科技大学);Tianjin University(天津大学)
针对动态图MAE研究匮乏、随机掩码易丢失演化关键时空信息的问题,提出DyGIS模型,通过约束概率生成模型获取信息子图作为DGMAE输入,在11个数据集多任务上达SOTA性能。
2024-09-14 cs.LG
Online Graph Learning in Dynamic Environments
Southeast University(东南大学)
当预定义的图不可用时,推断表征结构化数据的底层图拓扑对于许多基于图的模型是关键的。本文主要研究动态环境下序列数据的图学习问题。对于序列数据,我们开发了经典批处理图学习方法的在线版本。为了更好地跟踪动态环境中的图,我们假设图以某些模式进化,使得动态先验可能嵌入在线图学习框架中。当这些隐藏模式的信息不可用时,我们使用历史数据来预测图的演化。此外,动态遗憾分析所提出的方法进行,并说明我们的在线图学习算法可以达到次线性动态遗憾。实验结果表明,该方法优于现有的方法。
2022-02-24 cs.LG eess.SP
Tracking Time-Vertex Propagation using Dynamic Graph Wavelets
Politecnico di Torino(都灵理工大学);EPFL(洛桑联邦理工学院)
图信号处理将经典信号处理推广到由加权图的顶点索引的信号或数据。到目前为止,研究工作一直集中在静态图形信号。然而,许多应用涉及随时间演变的图形信号,例如波在网络上的传播或传播。分析这类数据需要一套新的方法,充分考虑到时间和图形维度。我们提出了一类新的小波框架动态图小波,其时间顶点的演化遵循一个动态过程。我们证明,这组功能可以与基于稀疏性的方法,如压缩感知,揭示信息的动态过程中发生的图形。在实际地震数据上的实验表明了该方法的有效性,可以用来估计地震台网记录的地震事件的震中。
2016-06-21 cs.LG
Supplemental Material: Lifelong Generative Modelling Using Dynamic Expansion Graph Model
University of York(约克大学)
在这篇文章中,我们提供了使用动态扩展图模型的终身生成建模的附录。本附录包括其他视觉结果以及挑战性数据集的数值结果。此外,我们还提供了详细的证明所提出的理论分析框架。源代码可以在https://github.com/dtuzi123/Expansion-Graph-Model上找到。
2022-03-25 cs.LG
Anomaly Detection in Dynamic Graphs via Transformer
Monash University(莫纳什大学);Shanghai Jiao Tong University(上海交通大学);Max Planck Institute for Mathematics in Sciences(马克斯·普朗克数学与科学研究所);Beijing Jiaotong University(北京交通大学);Northwestern Polytechnical University(西北工业大学);Guangxi University(广西大学)
动态图异常检测在社交网络、电子商务、网络安全等领域有着广泛的应用,因此受到越来越多的关注。最近基于深度学习的方法已经显示出比浅层方法更有希望的结果。然而,他们未能解决两个核心挑战的异常检测动态图:缺乏信息编码的非属性节点和学习歧视知识耦合时空动态图的困难。为了克服这些挑战,在本文中,我们提出了一种新的基于转换器的动态图异常检测框架(TADDY)。我们的框架构建了一个全面的节点编码策略,以更好地表示每个节点的结构和时间的角色,在不断发展的图形流。同时,TADDY通过动态图Transformer模型从具有时空耦合模式的动态图中捕获信息表示。大量的实验结果表明,我们提出的TADDY框架在六个真实世界的数据集上的性能大大优于最先进的方法。
2021-10-27 cs.LG
CA-DGCL: Dynamic Graph Continual Learning via Condensation and Attachment
College of Computer and Information Science, Southwest University(西南大学计算机与信息科学学院)
研究动态图持续学习中现有方法未充分利用时间信息的问题。提出CA-DGCL框架,先凝聚历史图快照,再构建节点链经塔克分解获取稳定节点特征以重放过去信息,引入改进遗忘度量。实验证明该方法在遗忘抑制和准确率上表现出色。
2026-07-14 cs.LG
Graph2Video: Leveraging Video Models to Model Dynamic Graph Evolution
本文提出Graph2Video框架,通过将目标链接的时序邻域视为视频帧序列,利用视频模型捕捉局部和长时动态,提升链接预测性能。
2026-03-09 cs.CV cs.LG
On the Theory of Dynamic Graph Regression Problem
Amirkabir University of Technology(阿米尔卡比尔理工大学)
大多数真实世界的图形是动态的,即,它们通过一系列更新操作随时间改变。虽然回归问题已经研究了静态图和时间图,它没有研究一般的动态图。本文研究了动态图上的回归问题。首先,我们提出了更新有效矩阵嵌入的概念,它定义了一个矩阵嵌入有效地用于动态图回归(在l2范数下)的充分条件。然后,我们证明了给定n*m更新有效矩阵嵌入(例如,邻接矩阵),并且在图中进行更新操作之后,对于修正后的图,线性回归的精确最优解可以在O(nm)时间内更新。此外,我们表明,这也持有时,矩阵嵌入是拉普拉斯矩阵和更新操作仅限于边缘插入/删除。最后,通过在合成图和真实图上进行实验,我们展示了图回归解更新的高效率。
2022-10-07 cs.LG stat.ML
Scalable and Efficient Joint Spiking Embedding Predictive Architecture for Large-Scale Dynamic Graphs
Sun Yat-sen University(中山大学)
针对现实世界动态图标记数据稀缺问题,提出SG-JEPA架构,通过沿时间维度划分节点并利用脉冲神经元编码,学习相互预测的嵌入,在节点分类任务中性能优于判别基线,且训练效率和内存可扩展性高。
2026-07-22 cs.LG cs.NE