Hypergraph-Based Dynamic Graph Node Classification
School of New Media and Communication, Tianjin University(天津大学新媒体与传播学院);Baylor University(贝勒大学)
本文提出HYDG模型,通过个体级和群体级超图分别捕捉动态图中节点的时空表示与同类节点的多粒度时序依赖,结合超图神经网络加权聚合,在五个真实数据集上验证了其优于现有动态图节点分类方法。
2024-12-29 cs.AI cs.SI
Dynamic Graph Node Classification via Time Augmentation
Visa Research(维萨研究院)
图结构数据的节点分类旨在对标签未知的节点进行分类。虽然静态图的研究是普遍的,很少有研究集中在动态图节点分类。动态图上的节点分类具有挑战性,原因有两个。首先,该模型需要捕获结构和时间信息,特别是在具有悠久历史的动态图上,需要大的感受野。其次,随着动态图的大小增加,模型的可伸缩性成为一个重要的问题。为了解决这些问题,我们提出了时间增强动态图神经网络(TADGNN)框架。TADGNN由两个模块组成:1)时间增强模块,它从结构上捕获节点在时间上的时间演化,创建时间增强的时空图,以及2)信息传播模块,它使用构建的时间增强图来学习每个节点在时间上的动态表示。我们在四个动态图基准上进行节点分类实验。实验结果表明,TADGNN框架优于几个静态和动态国家的最先进的(SOTA)GNN模型,同时表现出优越的可扩展性。我们还进行了理论和实证分析,以验证所提出的方法的效率。我们的代码可在https://sites.google.com/view/tadgnn上获得。
2022-12-07 cs.LG cs.SI
Crowd collectiveness measure via graph-based node clique learning
Officers College of Chinese Armed Police Force(中国人民武装警察部队警官学院);National University of Defense Technology(国防科技大学)
群体系统的群体运动是近年来研究的热点问题。在本文中,我们试图衡量的群体系统的集体性所提出的节点团学习方法。所提出的方法是一种基于图的方法,并调查从一个节点到其他节点的影响。一个节点可以用一组节点来表示,这组节点通过将信息从这个节点传播到图中的其他节点而获得,称为团。然后只选择具有足够信息的节点作为该节点的团。节点间的运动一致性通过节点团比较来定义。节点的凝聚性定义了节点的集体性和群体系统的集体性。采用自驱动粒子模型和人群运动数据库对该方法进行了测试。
2016-12-19 cs.CV cs.SI
Adversarially Regularized Graph Attention Networks for Inductive Learning on Partially Labeled Graphs
The University of Hong Kong(香港大学);The Hong Kong Polytechnic University(香港理工大学);Harbin Institute of Technology(哈尔滨工业大学)
在实际应用中,数据标记的高成本往往导致节点标签短缺。为了提高节点分类精度,基于图的半监督学习利用大量的未标记节点与稀缺的可用标记节点一起进行训练。然而,大多数现有的方法需要所有节点的信息,包括那些要预测的,在模型训练,这是不实际的动态图与新添加的节点。为了解决这个问题,提出了一种逆向正则化图注意力模型,用于对部分标记图中新添加的节点进行分类。基于注意力的聚合器被设计为通过聚合来自其相邻节点的信息来生成节点的表示,从而自然地推广到以前看不见的节点。此外,对抗性训练通过强制节点表示匹配先验分布来提高模型的鲁棒性和泛化能力。在真实数据集上的实验表明,与现有方法相比,该方法是有效的。该代码可在https://github.com/JiarenX/AGAIN上获得。
2023-03-13 cs.LG cs.SI
MAGNN: Metapath Aggregated Graph Neural Network for Heterogeneous Graph Embedding
The Chinese University of Hong Kong(香港中文大学)
大量的现实世界的图或网络本质上是异构的,涉及到节点类型和关系类型的多样性。异构图嵌入是将异构图丰富的结构和语义信息嵌入到低维节点表示中。现有的模型通常在异构图中定义多个元路径来捕获复合关系并指导邻居选择。然而,这些模型要么忽略节点内容特征,要么丢弃元路径上的中间结点,要么只考虑一个元路径。为了解决这三个限制,我们提出了一个新的模型命名为元路径聚合图神经网络(MAGNN),以提高最终的性能。具体来说,MAGNN采用三个主要组件,即,用于封装输入节点属性的节点内容转换、用于合并中间语义节点的元路径内聚合以及用于组合来自多个元路径的消息的元路径间聚合。在三个真实世界的异构图数据集上进行的节点分类、节点聚类和链接预测的广泛实验表明,MAGNN实现了比最先进的基线更准确的预测结果。
2020-03-31 cs.LG cs.SI
Virtual Node Generation for Node Classification in Sparsely-Labeled Graphs
University of Illinois, Urbana Champaign(伊利诺伊大学厄巴纳-香槟分校)
针对图领域稀疏标签下数据生成方法研究不足的问题,提出一种通过求解双重优化问题生成高质量虚拟节点注入图中以扩展标签传播的方法,兼容多种图学习范式,在10个公开数据集上较14个基线取得显著性能提升。
2024-09-12 cs.LG cs.SI
On Positional and Structural Node Features for Graph Neural Networks on Non-attributed Graphs
Emory University(埃默里大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Purdue University(普渡大学)
图神经网络(GNN)已被广泛用于各种与图相关的问题,例如节点分类和图分类,其中主要在自然节点特征可用时建立优越的性能。然而,没有自然节点特征的GNN如何工作还没有很好的理解,特别是关于构建人工节点的各种方法。在本文中,我们指出了两种类型的人工节点特征,即,位置和结构节点特征,并提供关于为什么它们中的每一个更适合于某些任务的见解,即,位置节点分类、结构节点分类和图形分类。在10个基准数据集上进行的大量实验结果验证了我们的见解,从而为非属性图上GNN的不同人工节点特征之间的选择提供了实用指南。该代码可在https://github.com/zjzijielu/gnn-positional-structural-node-features上获得。
2022-09-09 cs.AI cs.LG cs.SI
Scalable Graph Neural Network-based framework for identifying critical nodes and links in Complex Networks
Kansas State University(堪萨斯州立大学);Columbia University(哥伦比亚大学)
识别图中的关键节点和链接是一项至关重要的任务。这些节点/链路通常表示在系统性能中起关键作用的关键元件/通信链路。然而,文献中关于识别关键节点/链接的大多数方法都是基于迭代方法,该方法一次探索图中的每个节点/链接,对图中的所有节点/链接重复。这种方法具有高计算复杂性,并且所得到的分析也是网络特定的。为了克服这些挑战,本文提出了一个可扩展的和通用的图神经网络(GNN)为基础的框架,以确定在大型复杂网络中的关键节点/链路。该框架定义了一个基于GNN的模型,该模型学习节点/链路的一个小的代表性子集上的节点/链路关键度得分。可以采用适当训练的模型来预测大型图中看不见的节点/链接的得分,从而识别最关键的节点/链接。该框架的可扩展性通过预测大规模合成网络和真实网络中的节点/链接得分来证明。所提出的方法是相当准确的近似的临界分数,并提供了一个显着的计算优势,传统的方法。
2021-05-10 cs.LG cs.SI
Meta-Inductive Node Classification across Graphs
Singapore Management University(新加坡管理大学)
图上的半监督节点分类是一个重要的研究问题,在信息检索中有许多实际应用,例如社交网络上的内容分类和电子商务查询图上的查询意图分类。虽然传统的方法在很大程度上是传导性的,但最近的图神经网络(GNN)将节点特征与网络结构相结合,从而实现了可以应用于相同特征空间中的新节点甚至新图的归纳节点分类模型。然而,图间差异仍然存在于同一域内的图之间。因此,仅训练一个全局模型(例如,现有技术的GNN)来处理所有新的图,同时忽略图间差异,可能导致次优性能。本文研究了图上的归纳节点分类问题。与现有的一个模型适合所有的方法不同,我们提出了一种新的元归纳框架,称为MI-GNN,在元学习范式下为每个图定制归纳模型。也就是说,MI-GNN不直接学习归纳模型;它学习如何在新图上训练半监督节点分类模型的一般知识。为了处理图之间的差异,MI-GNN在图和任务级别都采用了双重自适应机制。更具体地说,我们在适应图级差异之前学习图,并且在适应以图为条件的任务级差异之前学习任务。对五个真实世界图集合的广泛实验证明了我们提出的模型的有效性。
2022-03-27 cs.LG cs.SI
Local Graph Embeddings Based on Neighbors Degree Frequency of Nodes
我们提出了一种局部到全局的策略,用于图机器学习和网络分析,通过定义节点的某些局部特征和向量表示,然后使用它们通过深度神经网络学习全局定义的度量和节点的属性。通过呼吸优先搜索扩展了节点的度的概念,定义了一个能够揭示节点重要性的{ \bf参数中心性函数}的一般族。我们引入{ \bf邻居度频率(NDF)},作为一个本地定义的嵌入节点的无向图到欧氏空间。这就产生了一个矢量化的节点标记,它编码的结构,局部邻域的节点,并可用于图同构测试。我们为我们的构造增加了灵活性,以便它也可以处理动态图。然后,使用广度优先搜索将NDF向量表示扩展为两个不同的节点矩阵表示,其中包含关于节点邻域的高阶信息。我们的矩阵表示的节点为我们提供了一种新的方式可视化的形状的一个节点的邻域。此外,我们使用这些矩阵表示来获得特征向量,这些特征向量适用于典型的深度学习算法。为了证明这些节点嵌入实际上包含了关于节点的一些信息,在一系列示例中,我们展示了可以通过对这些局部特征应用深度学习来学习PageRank和接近中心性。我们的构造足够灵活,可以处理不断变化的图形。最后,我们解释了如何适应我们的结构有向图。
2022-07-30 cs.LG cs.SI
Transformation of Node to Knowledge Graph Embeddings for Faster Link Prediction in Social Networks
University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校);Siemens Corporate Technology(西门子企业技术)
神经网络的最新进展已经解决了常见的图形问题,如链接预测,节点分类,节点聚类,节点推荐,通过开发实体和关系到向量空间的嵌入。图嵌入对图中存在的结构信息进行编码。然后,编码的嵌入可以用于预测图中丢失的链接。然而,获得最佳的嵌入图可以是一个具有挑战性的计算任务,特别是在嵌入式系统。我们在这项工作中关注的两个技术是1)基于随机游走的方法的节点嵌入和2)知识图谱嵌入。基于随机游走的嵌入在计算上是廉价的,但是是次优的,而知识图谱嵌入表现更好,但是在计算上是昂贵的。在这项工作中,我们研究了一个转换模型,该模型将从基于随机游走的方法获得的节点嵌入直接从知识图谱方法获得的嵌入,而不会增加计算成本。大量的实验表明,所提出的转换模型可以用于实时解决链接预测。
2021-11-17 cs.LG cs.SI
Introducing New Node Prediction in Graph Mining: Predicting All Links from Isolated Nodes with Graph Neural Networks
Universidad Politécnica de Madrid(马德里理工大学)
本文提出图挖掘中的新节点预测问题,即零样本图外全链接预测,并验证基于深度图神经网络的架构可在文献引用网络中预测孤立节点的全部链接。
2024-01-10 cs.AI cs.LG cs.SI
Graph Embedding with Hierarchical Attentive Membership
University of Virginia(弗吉尼亚大学)
图结构的利用是有效学习节点表示的关键,这些节点表示保留了图中的有用信息。图的一个显着的属性是,一个潜在的层次分组的节点存在于一个全局的角度来看,其中每个节点表明其成员的一个特定的组的基础上,由其相邻节点组成的上下文。大多数现有的工作忽略了这样的潜在群体和节点的成员不同的群体,更不用说层次结构,当建模的邻域结构。因此,它们无法提供对图中不同上下文下的节点的全面理解。在本文中,我们提出了一种新的分层注意成员关系模型的图嵌入,其中每个节点的潜在成员关系是动态发现的基础上,其相邻的上下文。当聚集相邻状态以生成节点嵌入时,执行组级和个体级关注。我们引入结构约束来明确地规范每个节点的推断成员资格,这样就可以捕获一个定义良好的分层分组结构。该模型在包括引文网络和社交网络在内的各种图中的节点分类和链接预测任务上优于一组最先进的图嵌入解决方案。定性评估可视化学习的节点嵌入以及推断的成员关系,这证明了成员关系层次的概念,并实现了图中可解释的嵌入学习。
2021-10-31 cs.AI cs.SI
GCN-SE: Attention as Explainability for Node Classification in Dynamic Graphs
Carnegie Mellon University(卡内基梅隆大学)
图卷积网络(GCN)是一种流行的图表示学习方法,已被证明是有效的任务,如节点分类任务。虽然典型的GCN模型专注于对静态图中的节点进行分类,但最近的几个变体提出了动态图中的节点分类,动态图的拓扑和节点属性随时间变化,例如,具有动态关系的社交网络,或具有变化的合著者的文献引文网络。然而,这些工作并没有完全解决在不同时间灵活地向图的快照分配不同重要性的挑战,这取决于图动态可能对标签具有或多或少的预测能力。我们通过提出一种新的方法GCN-SE来解决这一挑战,该方法在不同时间将一组可学习的注意力权重附加到图快照上,其灵感来自挤压和激励网络(SE-Net)。我们证明了GCN-SE在各种图数据集上的性能优于先前提出的节点分类方法。为了验证注意力权重在确定不同图快照重要性方面的有效性,我们将可解释机器学习领域的基于扰动的方法应用于图形设置,并评估GCN-SE学习的注意力权重与不同快照重要性之间的相关性。这些实验表明,GCN-SE实际上可以识别不同快照的动态节点分类的预测能力。
2021-10-11 cs.LG cs.SI
Node4All: Learning Node Representation Beyond Datasets
KAIST(韩国科学技术院);Seoul National University(首尔国立大学)
研究针对多数节点表示学习方法依赖特定数据集训练的问题,提出Node4All,基于通道图变换器和自监督学习构建,能跨任意图数据集泛化,在节点分类任务中表现出色,实现可复用性且实践效果好。
2026-07-21 cs.LG cs.SI
Detecting Communities from Heterogeneous Graphs: A Context Path-based Graph Neural Network Model
Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳));The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));The University of New South Wales(新南威尔士大学)
社区发现是图挖掘的一项基本任务,其目的是将图中的节点划分为具有密集内部连接的簇。近年来,它被研究在异构图上,其中包含多种类型的节点和边,提出了很大的挑战,建模节点之间的高阶关系。随着图嵌入机制的兴起,它也被应用到社区发现中。一组引人注目的工作使用元路径来捕获节点之间的高阶关系,并将其嵌入到节点的嵌入中,以促进社区发现。然而,定义有意义的元路径需要大量的领域知识,这在很大程度上限制了它们的应用,特别是在模式丰富的异构图,如知识图谱。为了解决这一问题,本文提出利用上下文路径来捕捉节点间的高阶关系,并构建基于上下文路径的图神经网络(CP-GNN)模型。它递归地将节点间的高阶关系嵌入到节点嵌入中,并引入注意力机制来区分不同关系的重要性。该模型通过最大化上下文路径连接节点的同现期望,学习既能很好地保持节点间高阶关系又有利于社区发现的节点嵌入。在四个真实世界数据集上的广泛实验结果表明,CP-GNN优于最先进的社区发现方法。
2021-09-05 cs.AI cs.SI
GraphSB: Boosting Imbalanced Node Classification on Graphs through Structural Balance
针对图学习中不平衡节点分类问题,提出GraphSB框架,通过结构增强和关系扩散两阶段优化不平衡图结构,在节点合成前平衡结构分布,显著提升分类性能,且可作为即插即用模块平均提升现有方法准确率3.67%。
2025-11-13 cs.LG cs.SI
Label-Consistency based Graph Neural Networks for Semi-supervised Node Classification
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学)
图神经网络(GNNs)在基于图的半监督节点分类中取得了显著的成功,它利用来自相邻节点的信息来改进目标节点的表示学习。GNN在节点分类方面的成功取决于连接的节点往往具有相同标签的假设。然而,这样的假设并不总是有效,限制了GNN在节点分类方面的性能。在本文中,我们提出了基于标签一致性的图神经网络(LC-GNN),利用节点对不连接,但具有相同的标签,以扩大GNN中的节点的感受野。在基准数据集上的实验表明,LC-GNN在基于图的半监督节点分类中优于传统GNN,并进一步显示了LC-GNN在只有少数标记节点的稀疏场景中的优越性。
2020-07-27 cs.LG cs.SI stat.ML
A Graph-Neural-Network-Entropy model of vital node identification on network attack and propagation
School of Information Engineering, Nanchang Hangkong University(南昌航空大学信息工程学院)
本文提出GNNE方法,结合GCN、GAT和信息熵,通过节点特征学习、注意力聚合与熵量化来识别复杂网络中的关键节点,在攻击与传播场景下优于多种现有方法。
2025-09-22 cs.SI physics.soc-ph
Diversity, Topology, and the Risk of Node Re-identification in Labeled Social Graphs
真实网络数据集为理解诸如信息扩散或网络演化等现象提供了显著的益处。然而,共享真实的图形数据集所带来的隐私风险,即使在剥离用户身份信息的情况下,也是巨大的。当节点具有关联属性时,隐私风险增加。在本文中,我们定量研究的二进制节点属性对节点隐私的影响,采用基于机器学习的重新识别攻击,并探讨图拓扑结构和属性放置之间的相互作用。我们的实验表明,人口的多样性的二元属性一致降低匿名性。
2018-08-31 cs.SI physics.soc-ph
Meta Graph Attention on Heterogeneous Graph with Node-Edge Co-evolution
Didi Chuxing(滴滴出行)
图神经网络已成为结构化数据建模的重要工具。在许多现实世界的系统中,可能存在复杂的隐藏信息,例如,节点/边的异质性、静态节点/边属性和时空节点/边特征。然而,大多数现有的方法只考虑了部分信息。在本文中,我们提出了协同进化的Meta图神经网络(CoMGNN),它适用于元图注意异构图的节点和边缘状态的协同进化。我们进一步提出了一个时空适应的CoMGNN(ST-CoMGNN)的节点和边缘的时空模式建模。我们在两个大规模的真实世界数据集上进行了实验。实验结果表明,我们的模型显着优于国家的最先进的方法,从不同方面的编码不同的信息的有效性。
2020-10-09 cs.LG cs.SI stat.ML
NED: An Inter-Graph Node Metric Based On Edit Distance
Boston University(波士顿大学)
节点相似性是图分析中的一个基本问题。然而,不同图中的节点(图间节点)之间的节点相似性还没有得到很多关注。图间节点相似性在基于现有图的知识学习新图(图上的迁移学习)中是重要的,并且在生物、通信和社交网络中具有应用。在本文中,我们提出了一种新的距离函数,用于测量图间节点的相似性与编辑距离,称为NED。在NED中,两个节点根据它们的局部邻域结构进行比较,这些邻域结构表示为无序的k-相邻树,而不依赖于标签或其他假设。由于无序树的树编辑距离的计算问题是NP-完全的,我们提出了一个修改的树编辑距离,称为TED*,用于比较邻居树。TED* 是一个度量距离,作为原始树编辑距离,但更重要的是,TED* 是多项式可计算的。作为一种度量距离,NED承认有效的索引,提供可解释的结果,并在许多数据分析任务上表现得比现有方法更好,包括图形去匿名化。最后,NED的效率和有效性的实证证明使用现实世界的图表。
2016-02-16 cs.DB cs.LG cs.SI
NodeNet: A Graph Regularised Neural Network for Node Classification
Institute of Technology, Nirma University(尼尔玛大学理工学院);HEC Paris(巴黎高等商学院)
真实世界的事件表现出高度的相互依存和联系,因此产生的数据点也继承了这种联系。然而,大多数AI/ML技术忽略了数据点之间的联系。最近对基于图的AI/ML技术的兴趣激增旨在利用这些联系。基于图的学习算法有效地利用数据和相关信息来构建更好的模型。神经图学习(NGL)是一种这样的技术,其利用具有修改的损失函数的传统机器学习算法来利用图结构中的边。在本文中,我们提出了一个模型,使用NGL -节点网,解决节点分类任务的引文图。我们讨论我们的修改和它们与任务的相关性。我们进一步将我们的结果与当前最先进的技术进行比较,并调查NodeNet卓越性能的原因。
2020-06-16 cs.LG cs.SI stat.AP
k-connectivity of Random Graphs and Random Geometric Graphs in Node Fault Model
随机图的k-连通性是表征多跳无线传感器网络可靠性的一个基本性质。无线传感器网络由能量资源有限的传感器节点组成,节点不可靠的随机图模型,这被称为节点故障模型。在本文中,我们研究了节点故障模型中随机图的k-连通性,通过评估网络的故障概率,即,随机节点移除后随机图的不连通概率。利用强典型集的概念,我们得到了网络崩溃概率的普遍渐近上界和下界。该界既适用于随机图,也适用于随机几何图。然后,我们考虑三个有代表性的随机图集成:最简单的情况下,随机交叉图的无线传感器网络与随机密钥预分配方案,和随机几何图作为随机传感器节点部署所产生的无线传感器网络的模型的Erdos-Renyi随机图。该界揭示了这些集成的网络故障概率的相变的存在。
2018-01-09 cs.IT cs.SI math.IT
Accurately Modeling Biased Random Walks on Weighted Graphs Using $\textit{Node2vec+}$
节点嵌入是表示图中每个节点的结构角色的强大方法。$\textit{Node2vec}$是一种广泛使用的节点嵌入方法,其工作原理是通过图上的有偏随机游动探索局部邻域。然而,$\textit{node2vec}$在计算行走偏差时不考虑边权重。这种固有的局限性阻止了$\textit{node2vec}$利用加权图中的所有信息,进而限制了其在许多加权和密集的真实网络中的应用。在这里,我们自然地将$\textit{node2vec}$扩展为$\textit{node2vec+}$,其方式是在计算行走偏差时考虑边权重,但在未加权图或无偏行走的情况下减少为$\textit{node2vec}$。我们的经验表明,$\textit{node2vec+}$是更强大的加性噪声比$\textit{node2vec}$在加权图使用两个合成数据集。我们还证明,$\textit{node2vec+}$显着优于$\textit{node2vec}$在一个共同的基准多标签数据集(维基百科)。此外,我们测试$\textit{node2vec+}$对GCN和GraphSAGE使用各种具有挑战性的基因分类任务上的两个蛋白质-蛋白质相互作用网络。尽管GCN和GraphSAGE有一些明显的优势,但它们的性能与$\textit{node2vec+}$相当。最后,$\textit{node2vec+}$可以用作生成有偏随机游动的…
2022-05-16 cs.LG cs.SI q-bio.MN
Bootstrapping topology and systemic risk of complex network using the fitness model
提出了一种基于部分信息重构复杂网络的新方法。我们假设只知道一个子集的节点的链接,并知道一些非拓扑量(健身)表征每个节点。根据在已知链路的节点子集上校准的适应度模型,在后一数量的基础上生成缺失链路。我们测量的质量重建的几个拓扑性质,如网络密度和度分布的函数的初始子集的节点的大小。此外,我们还研究了网络的灾难传播的弹性。我们首先在使用指数随机图模型生成的合成网络集合上测试该方法,该模型允许应用来自统计力学的常用工具。然后,我们在世界贸易网的实证案例中进行了测试。在这两种情况下,我们发现10%的节点子集足以重建网络的主要特征及其弹性,误差为5%。
2012-09-28 cs.SI physics.soc-ph q-fin.GN
Node Centralities and Classification Performance for Characterizing Node Embedding Algorithms
University of Tsukuba(筑波大学);National Institute of Advanced Industrial Science and Technology (AIST)(产业技术综合研究所)
将图节点嵌入到向量空间中可以允许使用机器学习来例如预测节点类,但是由于图的多样性,与自然语言处理领域相比,节点嵌入算法的研究是不成熟的。我们检查节点嵌入算法的性能相对于图形中心的措施,表征不同的图形,通过系统的实验与四个节点嵌入算法,四个或五个图形中心,和六个数据集。实验结果揭示了节点嵌入算法的性质,为进一步研究该问题奠定了基础。
2018-02-18 cs.LG cs.SI stat.ML
Explain Graph Neural Networks to Understand Weighted Graph Features in Node Classification
Yale University(耶鲁大学);J.P. Morgan AI Research(摩根大通人工智能研究院)
从不同的应用程序,具有额外的拓扑结构和连接信息收集的真实数据是服从表示为加权图。图神经网络(GNNs)是研究节点标注问题的一种强有力的工具,它可以模拟专家对节点标注的决策。GNN通过使用神经网络来嵌入节点信息并通过图中的边将其传递,从而将节点特征、连接模式和图结构相结合。我们希望识别GNN模型使用的输入数据中的模式,以做出决策,并检查模型是否按我们的期望工作。然而,由于复杂的数据表示和非线性变换,解释GNN做出的决策是具有挑战性的。在这项工作中,我们提出了新的图形特征的解释方法,以确定信息组件和重要的节点特征。此外,我们提出了一个管道,以确定用于节点分类的关键因素。我们使用四个数据集(两个合成和两个真实)来验证我们的方法。我们的研究结果表明,我们的解释方法可以模仿用于节点分类的数据模式,通过人类的解释和解开图中的不同功能。此外,我们的解释方法可用于理解数据,调试GNN模型,并检查模型决策。
2020-02-02 cs.AI cs.LG cs.SI
Semi-Supervised Node Classification by Graph Convolutional Networks and Extracted Side Information
The University of Texas at Dallas(德克萨斯大学达拉斯分校)
存在于集群中的图的节点更有可能彼此连接,而不是与图中的其他节点连接。然后揭示一些节点的一些信息,图的结构(图边)提供了了解其他节点更多信息的机会。从这个角度来看,本文重温了节点分类任务,在半监督的情况下,图卷积网络(GCN)。我们的目标是从围绕显示的节点标签循环的信息流中受益。本文的贡献是双重的。首先,本文提供了一种从图实现中提取边信息的方法。然后提出了一种新的GCN结构,将传统GCN的输出与提取的边信息相结合。本文的另一个贡献是相关的非图观察(独立的边信息),存在于旁边的图实现在许多应用程序。实际上,所提取的边信息可以被独立于图结构的边信息序列替换。对于这两种情况下,在合成和真实世界的数据集上的实验表明,与现有的最先进的节点分类任务的方法相比,所提出的模型实现了更高的预测精度。
2020-11-13 cs.LG cs.SI stat.ML
Seeing All From a Few: Nodes Selection Using Graph Pooling for Graph Clustering
Beijing Jiaotong University(北京交通大学)
最近,有相当大的研究兴趣,图聚类旨在使用图信息的数据划分。然而,大多数基于图的方法的一个局限性是它们假设要操作的图结构是固定和可靠的。而且图中不可避免地存在一些不利于图聚类的边,我们称之为伪边。本文是第一次尝试采用图池技术的节点聚类,我们提出了一种新的双图嵌入网络(DGEN),它被设计为一个两步图编码器连接的图池层学习图嵌入。在我们的模型中,假设如果一个节点和它最近的邻居节点接近同一个聚类中心,这个节点是一个信息节点,这个边缘可以被认为是一个集群友好的边缘。在此基础上,提出了邻居聚类池(NCPool)算法,根据节点及其近邻到聚类中心的距离,选择信息量最大的节点子集和相应的边。这可以有效地减轻虚假边缘对聚类的影响。最后,为了获得所有节点的聚类分配,使用所选节点的聚类结果训练分类器。在五个标准图数据集上的实验表明,该方法优于现有算法。
2021-06-08 cs.AI cs.CV cs.LG
Generative Graph Convolutional Network for Growing Graphs
Walmart Labs(沃尔玛实验室)
对生长图的生成过程建模在社交网络和推荐系统中有着广泛的应用,其中冷启动问题导致新节点从现有图中分离出来。尽管在学习图表示和图生成的新兴文献,其中大多数不能处理孤立的新节点没有非平凡的修改。挑战的出现是由于这样一个事实,即学习生成表示的观察图中的节点在很大程度上依赖于拓扑特征,而对于新的节点,只有节点属性可用。在这里,我们提出了一个统一的生成图卷积网络,学习所有节点的节点表示自适应生成模型框架,通过采样从观察到的图形数据构建的图形生成序列。我们优化的变分下界,由一个图重建项和自适应Kullback-Leibler发散正则化项。我们证明了我们的方法在几个基准引文网络数据集上的优越性能。
2019-03-06 cs.LG cs.SI stat.ML
Meta-node: A Concise Approach to Effectively Learn Complex Relationships in Heterogeneous Graphs
Seoul National University(首尔大学);NAVER
由于异构图的固有性质,现有的用于异构图的消息传递神经网络依赖于元路径或元图的概念。然而,元路径和元图需要在学习之前预先配置,并且高度依赖于专家知识来构建它们。为了解决这个问题,我们提出了一个新的概念,元节点的消息传递,可以学习丰富的关系知识,从复杂的异构图,没有任何元路径和元图显式建模之间的关系相同类型的节点。与元路径和元图不同,元节点不需要任何需要专业知识的预处理步骤。更进一步,我们提出了一个元节点的消息传递计划,并将我们的方法应用到对比学习模型。在节点聚类和分类任务的实验中,所提出的元节点消息传递方法优于依赖于元路径的现有技术。我们的研究结果表明,有效的异构图学习是可能的,而不需要在这个领域中经常使用的元路径。
2022-10-26 cs.AI cs.LG cs.SI
Seedless Graph Matching via Tail of Degree Distribution for Correlated Erdos-Renyi Graphs
网络对齐(或图匹配)问题是指恢复两个相关网络之间的节点到节点的对应关系。在本文中,我们提出了一种网络对齐算法,该算法不使用预先匹配的节点对的种子集或任何其他辅助信息(例如,节点或边标签)作为输入。该算法根据相邻节点经验度分布的尾部为节点分配结构创新特征。然后,根据这些特征进行节点匹配。我们评估所提出的算法在合成和真实网络上的性能。对于合成网络,我们生成的区域中的$Θ(\log(n)/n)$和$Θ(\log^{2}(n)/n)$,其中以前的工作理论上表明,恢复是可行的稀疏的埃尔多斯-雷尼图,当且仅当有一个边缘之间的一对节点之间的一个图形,也在其他图形中的相应节点的概率是在$Ω(\log(n)/n)$的顺序,其中$n$是节点的数量。在真实网络和合成网络上的实验表明,它在正确匹配概率方面优于以前的工作。
2020-09-28 cs.DS cs.SI physics.soc-ph
Reconstruction of Graph Signals through Percolation from Seeding Nodes
提出了一种新的方案来恢复图中节点定义的信号。我们的重点是重建带限图信号,这是信号,承认在频域中的稀疏表示相关的图的结构。大多数现有的公式专注于通过观察节点子集上的值来估计未知的图信号。相比之下,在本文中,我们研究的问题,重建一个已知的图形信号作为输入的图形信号是非零的节点(种子节点)的一个小子集。然后使用图形滤波器在图形上对稀疏信号进行插值(内插)。图滤波器是经典时不变系统的推广,表示可以在图的节点上分布式实现的线性变换。三个设置进行了调查。在第一种情况下,在图中的几个节点上同时进行单个注入。在第二种情况下,连续的值注入发生在单个节点上。第三种是多个节点注入多个信号值的泛化。对于无噪声的设置,条件下,完美的重建是可行的,并指定相应的计划,以恢复所需的信号。还分析了由于信号值注入不足或噪声而导致不完美重建的情况。此外,在时域中与经典插值的连接进行了讨论。本文的最后一部分介绍了数值实验,说明了通过合成图信号和两个现实世界的信号重建问题开发的结果:影响社会网络中的意见和诱导人类所需的大脑状态。
2015-07-30 cs.IT cs.SI math.IT
Node Embedding over Temporal Graphs
Technion, Israel Institute of Technology(以色列理工学院);eBay Research(易贝研究院)
在这项工作中,我们提出了一种方法,在时间图的节点嵌入。我们提出了一种算法,学习时间图的节点和边随着时间的推移的演变,并将这种动态的时间节点嵌入框架中的不同的图形预测任务。我们提出了一个联合损失函数,该函数通过学习组合节点的历史时间嵌入来创建节点的时间嵌入,使得它针对给定任务进行优化(例如,链接预测)。该算法使用静态节点嵌入进行初始化,然后在不同时间点对节点的表示进行对齐,并最终在联合优化中适应给定的任务。我们评估了我们的方法的有效性,在各种时间图的时间链接预测和多标签节点分类的两个基本任务,比较有竞争力的基线和算法的替代品。我们的算法在许多数据集和基线上都显示出了性能上的改进,并且对于内聚性较低、聚类系数较低的图特别有效。
2021-05-19 cs.LG cs.SI stat.ML
Three faces of node importance in network epidemiology: Exact results for small graphs
我们调查了三个方面的重要性的节点与易感-传染-删除(SIR)疾病动态:影响最大化(预期的爆发大小给定一组种子节点),疫苗接种的效果(删除节点将减少多少预期的爆发大小)和哨兵监测(如何早期可以检测到一组节点的传感器爆发)。我们计算这些数量的精确表达式,作为SIR参数的函数,所有连接的三到七个节点的图。我们得到最小的图,最佳节点集不重叠。我们发现:对于多于一个的活动节点,节点分离比中心性更重要,接种和影响最大化是重要性的最不同方面,并且当感染率低时,这三个方面更相似。
2017-10-14 cs.SI physics.soc-ph q-bio.PE
Inductive Representation Learning on Large Graphs
Stanford University(斯坦福大学)
大型图中节点的低维嵌入在各种预测任务中非常有用,从内容推荐到识别蛋白质功能。然而,大多数现有的方法要求在嵌入的训练期间图中的所有节点都存在;这些以前的方法本质上是转导的,并且不会自然地推广到看不见的节点。在这里,我们提出了GraphSAGE,一个通用的归纳框架,利用节点特征信息(例如,文本属性)来有效地生成先前未见过的数据的节点嵌入。我们不是为每个节点训练单独的嵌入,而是学习一个函数,该函数通过从节点的局部邻域中采样和聚合特征来生成嵌入。我们的算法在三个归纳节点分类基准上的性能优于强基线:我们根据引用和Reddit帖子数据对不断变化的信息图中的未见过节点的类别进行分类,并且我们表明我们的算法使用多图数据集推广到完全未见过的图蛋白质-蛋白质相互作用。
2018-09-10 cs.LG cs.SI stat.ML
Position-aware Graph Neural Networks
Stanford University(斯坦福大学)
学习节点嵌入,捕获节点在更广泛的图结构中的位置,对于图上的许多预测任务至关重要。然而,现有的图神经网络(GNN)架构在捕获给定节点相对于图的所有其他节点的位置/定位方面具有有限的能力。在这里,我们提出了位置感知图神经网络(P-GNNs),这是一类新的用于计算位置感知节点嵌入的GNNs。P-GNN首先对锚节点集进行采样,计算给定目标节点到每个锚集的距离,然后在锚集上学习非线性距离加权聚合方案。通过这种方式,P-GNN可以捕获节点相对于锚节点的位置/定位。P-GNN有几个优点:它们是归纳的,可扩展的,并且可以包含节点特征信息。我们将P-GNN应用于多个预测任务,包括链接预测和社区发现。我们表明,P-GNN始终优于最先进的GNN,在ROC AUC评分方面提高了66%。
2019-06-13 cs.LG cs.SI stat.ML
Node Embedding for Homophilous Graphs with ARGEW: Augmentation of Random walks by Graph Edge Weights
NCSOFT(NCSoft公司)
本文提出ARGEW方法,通过对随机游走语料进行边权重增强,使加权同质图中强连接节点获得更接近的嵌入,在节点分类上优于纯node2vec且对超参数不敏感,并达到与有监督GCN相当的性能。
2023-08-11 cs.LG cs.SI stat.ML
Node Alertness-Detecting changes in rapidly evolving graphs
HoloMathics, LLC(HoloMathics有限责任公司);Tylor Data Services, LLC(泰勒数据服务有限责任公司)
在这篇文章中,我们描述了一种新的方法来检测快速发展的大规模图的变化。所涉及的关键概念是本地警觉性:节点在每个时间步监控其社区内的变化。在这里,我们提出了一个金融本地警觉性的应用程序,协整股票对
2019-07-02 cs.DC cs.LG cs.SI
Node Representation Learning for Directed Graphs
我们提出了一种新的方法来学习节点表示有向图,它保持单独的视图或嵌入空间的两个不同的节点角色引起的方向性的边缘。我们认为,以前的方法要么未能编码的边缘方向性或他们的编码不能概括跨任务。我们简单的\emph{alternating random walk}策略,我们产生的角色特定的顶点邻域和训练节点嵌入在其相应的源/目标角色,同时充分利用有向图的语义。我们还挖掘了有向图评价的局限性,并提出了一个明确的策略,用于评价有向图中的链接预测和图重构。我们进行了广泛的实验,以展示我们的有效性在几个现实世界的数据集上的链接预测,节点分类和图形重建任务。我们表明,我们的方法的嵌入确实是强大的,可推广的,以及在多种任务和图形的表现。我们表明,我们始终优于所有基线的节点分类任务。除了提供我们的方法的理论解释,我们还表明,我们是相当强大的比其他有向图的方法。
2019-06-28 cs.LG cs.SI stat.ML
Order Matters: Probabilistic Modeling of Node Sequence for Graph Generation
Tufts University(塔夫茨大学);DeepMind(深度思维)
图生成模型定义图上的分布。一种类型的生成模型由自回归神经网络构造,其顺序地添加节点和边以生成图。然而,自回归模型下的图的似然性是棘手的,因为有许多序列导致给定的图;这使得极大似然估计具有挑战性。相反,在这项工作中,我们推导出确切的联合概率图和顺序过程的节点排序。从联合,我们近似边缘化的节点排序和计算的对数似然使用变分推断的下限。我们训练图形生成模型,最大限度地提高这个界限,而不使用以前的方法的ad-hoc节点排序。我们的实验表明,对数似然界是显着收紧比以前的计划。此外,与所提出的算法拟合的模型可以生成与训练期间未看到的目标图的结构相匹配的高质量图。我们已经在\hyperref [https://github.com/tufts-ml/graph-generation-vi]{https://github.com/tufts-ml/graph-generation-vi}上公开了我们的代码。
2021-06-14 cs.LG cs.SI stat.ML
Graph Embedding via Diffusion-Wavelets-Based Node Feature Distribution Characterization
Dartmouth College(达特茅斯学院);Millennium Management, LLC(千禧管理有限责任公司);Georgia Institute of Technology(佐治亚理工学院)
近年来,图形数据的代表性学习方法的发展有所增加。然而,这些方法中的大多数集中在各种尺度下的节点级表示学习(例如,微观、介观和宏观节点嵌入)。相比之下,在整个图上进行表示学习的方法目前相对稀疏。在本文中,我们提出了一种新的无监督整图嵌入方法。我们的方法使用谱图小波来捕获节点之间的每个k-hop子图上的拓扑相似性,并使用它们来学习整个图的嵌入。我们在4个真实世界数据集上对12个已知基线进行了评估,结果表明我们的方法在所有实验中都达到了最佳性能,远远优于当前最先进的方法。
2021-09-14 cs.AI cs.LG cs.SI
Heterogeneous Deep Graph Infomax
Florida State University(佛罗里达州立大学);JD Finance America Corporation(京东金融美国公司)
图表示学习是学习既保留节点属性又保留结构信息的通用节点表示。导出的节点表示可以用于服务于各种下游任务,例如节点分类和节点聚类。当一个图是异构的,问题变得更具挑战性比同构图节点学习问题。受新兴的基于信息理论的学习算法的启发,本文提出了一种用于异构图表示学习的无监督图神经网络Heterogeneous Deep Graph Infomax(HDGI)。我们使用元路径结构来分析异构图中涉及语义的连接,并利用图卷积模块和语义级注意力机制来捕获局部表示。通过最大化局部-全局互信息,HDGI有效地学习可以在下游图相关任务中使用的高级节点表示。实验结果表明,HDGI在分类和聚类任务上都明显优于最先进的无监督图表示学习方法。通过将学习到的表示馈送到参数模型(如逻辑回归)中,我们甚至在节点分类任务中实现了与最先进的监督端到端GNN模型相比相当的性能。
2020-11-13 cs.LG cs.SI stat.ML
Node Injection Attacks on Graphs via Reinforcement Learning
Pennsylvania State University(宾夕法尼亚州立大学)
真实世界的图应用,如广告和产品推荐,都是基于对节点标签的准确分类来获利的。然而,在这种情况下,有很高的激励对手攻击这样的图,以降低节点分类性能。以前的图对抗攻击的工作集中在修改现有的图结构,这是不可行的,在大多数现实世界的应用。相比之下,将对抗节点注入现有图中更实用,这也可能降低分类器的性能。在本文中,我们研究了新的节点注入中毒攻击问题,旨在中毒的图。我们描述了一种基于强化学习的方法,即NIPA,顺序修改注入节点的对抗信息。我们报告的实验结果,使用几个基准数据集,表现出优越的性能所提出的方法NIPA,相对于现有的国家的最先进的方法。
2019-09-14 cs.CR cs.LG cs.SI
Searching for Nodes in Random Graphs
我们考虑的问题,搜索一个节点上的标记随机图根据贪婪算法,选择一个路由到所需的节点使用度量信息的图形。受对等网络的启发,提出了两种随机图,它们的性质特别适合于这种算法。我们推导出方程的概率,搜索是成功的,也研究了所需的跳数,发现数字和分析证据的过渡的链接的数量是不同的。
2011-08-24 cond-mat.stat-mech cs.NI cs.SI
Graph Attention Network for Node Regression on Random Geometric Graphs with Erdős--Rényi contamination
Department of Statistics, University of California, Riverside(统计学系,加州大学河滨分校)
本文提出了一种针对随机几何图中带有Erdős--Rényi污染的节点回归任务的图注意力网络,通过去噪代理特征提升回归性能。
2026-01-30 cs.IT cs.LG cs.SI