Multimodal Deep Network Embedding with Integrated Structure and Attribute Information
Shanghai Jiao Tong University(上海交通大学)
网络嵌入是学习网络中节点的低维表示,同时保留节点特征的过程。现有的研究仅利用网络结构信息,并侧重于保留结构特征。然而,现实网络中的节点通常具有丰富的属性集,提供额外的语义信息。它已被证明,结构和属性功能是重要的网络分析任务。为了保持这两个功能,我们研究的问题,整合结构和属性信息进行网络嵌入,并提出了多模式深度网络嵌入(MDNE)的方法。MDNE使用由多层非线性函数组成的深度模型来捕获非线性网络结构以及结构和属性之间的复杂交互。由于结构和属性是两种不同类型的信息,采用多模态学习方法对它们进行预处理,帮助模型更好地捕捉节点结构和属性信息之间的相关性。在损失函数中采用结构邻近和属性邻近来保持各自的特征,并通过最小化损失函数来获得表示。在四个真实数据集上的实验结果表明,该方法在各种任务上的性能都明显优于基线,证明了该方法的有效性和通用性。
2019-03-28 cs.LG stat.ML
Deep Multi-attributed Graph Translation with Node-Edge Co-evolution
George Mason University(乔治梅森大学)
图翻译是从图像翻译和语言翻译中推广而来的,其目的是通过在源域中调节输入图来在目标域中生成图。这个有前途的话题最近引起了越来越多的关注。现有的工作仅限于预测具有固定拓扑的图的节点属性,或者仅预测图的拓扑而不考虑节点属性,但是由于实质性的挑战而不能同时预测两者:1)难以表征交互式、迭代式以及节点和边两者的异步转换过程,以及2)难以发现和维护预测图中节点和边之间的固有一致性。这些挑战阻碍了用于联合节点和边缘属性预测的通用端到端框架,这是现实世界应用的需要,例如物联网网络中的恶意软件限制和结构到功能的网络转换。这些现实世界的应用程序高度依赖于手工制作和ad-hoc启发式模型,但不能充分利用大量的历史数据。在本文中,我们把这个通用的问题称为“多属性图翻译”,并开发了一个新的框架集成节点和边的翻译无缝。新的边平移路径是通用的,它被证明是现有拓扑平移模型的推广。然后,提出了一种基于非参数图拉普拉斯算子的谱图正则化方法,以学习和保持预测节点和边的一致性。最后,在合成数据和实际应用数据上的实验证明了该方法的有效性。
2020-06-15 cs.LG cs.SI stat.ML
Deep Dual Support Vector Data Description for Anomaly Detection on Attributed Networks
Zhengzhou University(郑州大学);GRG Banking Technology Co., Ltd(广电运通金融电子股份有限公司);Harbin University of Science and Technology(哈尔滨理工大学);Minjiang University(闽江学院)
网络在现实世界中普遍存在,如社交网络和通信网络,网络异常检测的目标是发现其结构或属性模式与大多数参考节点显著偏离的节点。然而,传统的异常检测方法大多忽略了数据点之间的关系结构信息,因此不能有效地推广到图结构数据。在本文中,我们提出了一个端到端模型的深度双重支持向量数据描述为基础的自动编码器(Dual-SVDAE)的异常检测属性网络,它考虑了结构和属性的属性网络。具体地说,Dual-SVDAE由一个结构自动编码器和一个属性自动编码器组成,分别学习节点在结构空间和属性空间中的潜在表示。然后,一个双超球学习机制施加到他们学习两个超球的正常节点的结构和属性的角度分别。此外,为了实现网络结构和属性的联合学习,将结构嵌入和属性嵌入融合,作为特征解码器的最终输入,生成节点属性。最后,分别在隐结构空间和属性空间中,通过测量节点到每个超球面学习中心的距离来检测异常节点。在真实属性网络上的大量实验表明,Dual-SVDAE的性能始终优于现有技术,这证明了所提出的方法的有效性。
2021-09-01 cs.LG
ARISE: Graph Anomaly Detection on Attributed Networks via Substructure Awareness
National University of Defense Technology(国防科技大学);Chongqing University of Posts and Telecommunications(重庆邮电大学);Intelligent Game and Decision Laboratory(智能博弈与决策实验室)
针对现有属性网络图异常检测忽略集体拓扑异常模式的问题,提出基于子结构感知的框架ARISE,通过区域提议模块识别拓扑异常、结合图对比学习检测属性异常,在基准数据集上性能显著优于现有方法。
2023-10-01 cs.LG
FGC-Comp: Adaptive Neighbor-Grouped Attribute Completion for Graph-based Anomaly Detection
College of Computer and Information Science(计算机与信息科学学院);Southwest University(西南大学)
FGC-Comp通过自适应邻居分组和属性补全提升基于图的异常检测在缺失属性下的稳定性与可靠性。
2025-12-02 cs.IR cs.LG
AHEAD: A Triple Attention Based Heterogeneous Graph Anomaly Detection Approach
Xi’an Jiaotong University(西安交通大学);University of Virginia(弗吉尼亚大学);University of Washington(华盛顿大学);Ant Financial(蚂蚁金服)
属性网络上的图异常检测因其在许多有影响力的领域中的广泛应用而成为一个热门的研究课题。在现实世界中,属性网络中的节点和边通常表现出明显的异质性,即不同类型节点的属性表现出极大的多样性,不同类型的关系表现出不同的意义。在这些网络的异质性的各种角度来看,异常通常表现得与大多数不同。然而,现有的图异常检测方法没有利用属性网络中的异质性,这是高度相关的异常检测。针对这一问题,我们提出了AHEAD:一种基于编码器-解码器框架的异质性感知无监督图异常检测方法。具体而言,编码器设计了属性级、节点类型级和边级三个层次的注意力,分别用于捕捉网络结构、节点属性和单个节点信息的异质性。在解码器中,我们利用结构,属性和节点类型重建条款,以获得每个节点的异常得分。大量的实验表明,AHEAD的优越性在几个现实世界的异构信息网络相比,在无监督设置的艺术。进一步的实验验证了我们的三重注意力,模型骨干和解码器的有效性和鲁棒性。
2022-08-17 cs.LG cs.SI
Hop-Count Based Self-Supervised Anomaly Detection on Attributed Networks
Eindhoven University of Technology(埃因霍温理工大学)
近年来,由于属性网络的异常检测问题在研究和实践中的重要性,引起了人们极大的兴趣。虽然已经提出了各种方法来解决这个问题,但存在两个主要限制:(1)由于缺乏监督信号,无监督方法通常效率低得多,以及(2)现有的异常检测方法仅使用本地上下文信息来检测异常节点,例如,一跳或两跳信息,但忽略全局上下文信息。由于异常节点与正常节点在结构和属性上存在差异,因此如果我们去除连接异常节点和正常节点的边,则直觉上异常节点与其邻居之间的距离应该大于正常节点与其邻居之间的距离。因此,基于全局和局部上下文信息的跳数可以用作异常的指示器。出于这种直觉,我们提出了一个基于跳数的模型(HCM),通过对本地和全局上下文信息进行建模来检测异常。为了更好地利用跳数进行异常识别,我们建议使用跳数预测作为一个自我监督的任务。我们设计了两个异常分数的基础上通过HCM模型的跳数预测来识别异常。此外,我们使用贝叶斯学习来训练HCM模型,以捕捉学习参数中的不确定性并避免过拟合。在真实属性网络上的大量实验表明,我们提出的模型是有效的异常检测。
2022-07-02 cs.LG cs.SI
Flex-GAD : Flexible Graph Anomaly Detection
IIT Bhilai(比哈尔理工学院)
检测属性网络中的异常节点,其中每个节点都与结构连接和描述性属性相关联,对于识别社交网络,学术引文图和电子商务平台等领域中的欺诈,错误信息和可疑行为至关重要。我们提出了Flex-GAD,一种新的无监督框架,用于在节点级别进行图异常检测。Flex-GAD集成了两个编码器来捕获图形数据的互补方面。该框架采用了一种新的基于社区的GCN编码器,将社区内和社区间的信息建模到节点嵌入中,从而确保结构的一致性,以及标准的属性编码器。这些不同的表示融合使用基于自我注意力的表示融合模块,它使自适应加权和有效的整合的编码信息。这种融合机制允许跨不同编码器自动强调最相关的节点表示。我们评估Flex-GAD在七个真实世界的属性图具有不同的大小,节点度和属性同质性。Flex-GAD的平均AUC比之前表现最好的方法GAD-NR提高了7.98%,证明了其在不同图形结构中的有效性和灵活性。此外,它还显著缩短了训练时间,在7个基准数据集上,平均每个epoch的运行速度比Anomaly DAE快102倍,比GAD-NR快3倍。
2025-10-29 cs.LG cs.SI
Joint Multiple Imputation of Node Attributes and Network Ties in R
本文介绍R包netimpute,其通过链式方程例程netmice()联合插补社会网络中缺失的节点属性与网络连边,支持多种网络类型及相关高级功能。
2026-08-07 stat.ME
Predicting Multiple Demographic Attributes with Task Specific Embedding Transformation and Attention Network
Korea University(高丽大学)
大多数公司利用人口统计信息来制定市场战略。然而,大多数零售公司都无法获得这些信息。已经进行了几项研究来根据用户的交易历史来预测用户的人口统计属性,但它们存在一些局限性。首先,他们专注于参数共享来预测所有属性,但捕获特定于任务的特征在多任务学习中也很重要。其次,他们假设所有交易在预测人口统计属性方面都同样重要。然而,对于预测某个属性,某些事务比其他事务更有用。此外,模型的决策过程不能被解释为它们以黑箱方式工作。为了解决这些局限性,我们提出了一个带有注意力的嵌入转换网络(ETNA)模型,该模型在模型结构的底部共享表示,并使用简单的线性转换方法将它们转换为特定于任务的表示。此外,我们可以获得更多的信息交易预测某些属性使用注意力机制。实验结果表明,我们的模型优于以前的模型在所有的任务。在我们的定性分析中,我们展示了注意力权重的可视化,这为企业管理者提供了一些有用的见解。
2019-03-25 cs.LG stat.ML
Learning Attribute-Structure Co-Evolutions in Dynamic Graphs
University of Notre Dame(圣母大学)
大多数图神经网络模型学习静态属性图中节点的嵌入以进行预测分析。最近已经尝试学习节点的时间接近度。我们发现,真正的动态属性图表现出复杂的节点属性和图结构的协同进化。学习节点嵌入预测节点属性的变化和出生和死亡的链接随着时间的推移仍然是一个开放的问题。在这项工作中,我们提出了一个名为CoEvoGNN的新框架,用于对动态属性图序列进行建模。它通过在序列中嵌入生成来保留先前图对当前图的影响。它具有时间自注意机制来模拟进化中的长程依赖。此外,CoEvoGNN在两个动态任务上联合优化模型参数,即属性推断和随时间推移的链接预测。因此,该模型可以捕捉属性变化和链接形成的协同进化模式。该框架可以适应任何图神经算法,因此我们实现并研究了基于它的三种方法:CoEvoGCN,CoEvoGAT和CoEvoSAGE。实验表明,该框架(及其方法)在预测动态社交图和财务图中的个人属性和人际联系的整个看不见的图快照方面优于强基线。
2020-07-25 cs.LG stat.ML
Gaussian Embedding of Large-scale Attributed Graphs
Monash University(莫纳什大学)
图嵌入方法将高维复杂的图内容转换为低维表示。它们可用于各种图形分析任务,包括链接预测、节点分类、推荐和可视化。大多数现有的方法将图节点表示为低维嵌入空间中的点向量,忽略了现实世界图中存在的不确定性。此外,许多真实世界的图是大规模的,内容丰富(例如节点属性)。在这项工作中,我们提出了GLACE,一种新颖的,可扩展的图形嵌入方法,有效地保留了图形结构和节点属性,在一个端到端的方式。GLACE通过高斯嵌入有效地对不确定性进行建模,并支持基于其属性的新节点的归纳推理。在我们的综合实验中,我们在真实世界的图形上评估了GLACE,结果表明GLACE在多个图形分析任务上的表现明显优于最先进的嵌入方法。
2019-12-02 cs.LG stat.ML
A Block-based Generative Model for Attributed Networks Embedding
Jilin University(吉林大学);University of Technology Sydney(悉尼科技大学);The University of Queensland(昆士兰大学)
属性网络嵌入近年来引起了人们的广泛兴趣。它的目的是学习任务无关的,低维的,连续的节点向量,同时保留拓扑和属性信息。大多数现有的方法,如基于随机游走的方法和GCN,主要关注局部信息,即,邻居的属性。因此,它们已经被很好地研究了竞争性网络(即,具有社区的网络)但忽略了区分性网络(即,具有多部、集线器和混合结构的网络),这在现实世界中很常见。为了使模型的属性和非属性网络,我们提出了一个基于块的生成模型属性网络嵌入从概率的角度来看。具体地,节点被分配到几个块,其中同一块中的节点共享相似的链接模式。这些模式可以定义包含社区的独立网络或具有多部、枢纽或任何混合结构的独立网络。为了保留属性信息,我们假设每个节点都有一个与其分配的块相关的隐藏嵌入。我们使用一个神经网络来描述节点嵌入和节点属性之间的非线性。我们在真实世界和合成属性网络上进行了广泛的实验。结果表明,我们提出的方法始终优于最先进的嵌入方法的聚类和分类任务,特别是在discretative网络。
2020-11-01 cs.LG stat.ML
Node Attribute Completion in Knowledge Graphs with Multi-Relational Propagation
EPFL(洛桑联邦理工学院)
现有的关于知识图谱完成的文献大多集中在链接预测任务上。然而,知识图谱有一个额外的不完整性问题:它们的节点拥有数值属性,其值经常丢失。我们的方法,表示为MrAP,通过在知识图谱的多关系结构中传播信息来估算缺失属性的值。它采用回归函数根据节点之间的关系和属性的类型来预测一个节点属性与另一个节点属性。传播机制在消息传递方案中迭代地操作,该方案在每次迭代时收集预测并更新节点属性的值。在两个基准数据集上的实验表明了该方法的有效性。
2020-11-10 cs.LG
Leveraging Node Attributes for Incomplete Relational Data
Monash University(莫纳什大学)
在实际应用中,关系数据通常是高度不完整的,这启发我们利用边信息来提高社区检测和链接预测的性能。本文提出了一种贝叶斯概率方法,它结合了各种节点属性编码的二进制形式的关系模型与泊松似然。我们的方法灵活地适用于有向和无向关系网络。可以通过有效的吉布斯抽样来进行推理,该采样利用了网络和节点属性的稀疏性。大量的实验表明,我们的模型达到了最先进的链接预测结果,特别是高度不完整的关系数据。
2017-06-14 cs.LG cs.SI stat.ML
ANAE: Learning Node Context Representation for Attributed Network Embedding
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学)
属性网络嵌入的目标是从网络结构和节点属性中学习低维节点表示。现有的方法可以分为两类:(1)分别从网络结构和节点属性中学习两个独立的节点表示并将它们连接在一起;(2)另一类通过将节点属性转换为网络结构或反之亦然来获得节点表示。然而,这两组都有其缺点。第一组忽略了网络结构和节点属性之间的相关性,而第二组假设这两种类型的信息之间的强依赖性。在本文中,我们从一个新的角度来解决归因网络嵌入,即,通过对每个节点的属性局部子图进行建模,学习每个节点的节点上下文表示。为了实现这一目标,我们提出了一种新的属性网络自动编码器框架,即ANAE。对于目标节点,ANAE首先从其属性局部子图中聚集属性信息,获得其低维表示。接下来,ANAE将目标节点的表示扩散到其局部子图中的节点,以重建它们的属性。这样的编码器-解码器框架允许学习的表示更好地保留网络结构和节点属性中表现的上下文信息,从而具有学习属性网络的良好节点表示的高容量。在真实数据集上的大量实验结果表明,该框架在链接预测和节点分类方面优于现有的方法。
2020-07-06 cs.LG cs.SI
Wasserstein Graph Neural Networks for Graphs with Missing Attributes
Hong Kong University of Science and Technology(香港科技大学);IBM T. J. Watson Research Center(IBM托马斯·J·沃森研究中心)
缺少节点属性是现实世界图中常见的问题。图神经网络在图表示学习中表现出很强的能力,但其性能受图信息的完备性影响。其中大多数没有指定缺失属性图,无法有效地利用不完整的属性信息。在本文中,我们提出了一个创新的节点表示学习框架,Wasserstein图神经网络(WGNN),以减轻这个问题。为了充分利用有限的观测属性信息并捕捉缺失值引起的不确定性,我们将节点表示为来自属性矩阵分解的低维分布。此外,我们通过开发一种新的消息传递模式,聚合来自邻居的Wasserstein空间中的分布信息,加强表示的表达能力。我们在合成数据集和真实数据集上测试了两种缺失属性情况下的节点分类任务。此外,我们发现WGNN适合恢复缺失值,并使其适应于解决用户和项目图的矩阵完成问题。两个任务的实验结果表明,我们的方法的优越性。
2022-02-16 cs.LG stat.ML
Interpretable Node Representation with Attribute Decoding
Tufts University(塔夫茨大学);Rutgers University(罗格斯大学)
变分图自动编码器(VGAE)是用于从图数据中对节点表示进行无监督学习的强大模型。在这项工作中,我们系统地分析了建模节点属性VGAE和属性解码是重要的节点表示学习。我们进一步提出了一个新的学习模型,可解释的节点表示与属性解码(NORAD)。该模型以一种可解释的方法对节点表示进行编码:节点表示捕获图中的社区结构以及社区与节点属性之间的关系。我们进一步提出了一个修正程序,以改善孤立的笔记节点表示,提高这些节点的表示质量。我们的实证结果表明,该模型的优势时,学习图形数据在一个可解释的方法。
2022-12-03 cs.LG cs.SI
Exact Recovery and Bregman Hard Clustering of Node-Attributed Stochastic Block Model
EPFL(洛桑联邦理工学院);Federal University of Rio de Janeiro(里约热内卢联邦大学)
针对节点属性网络的社区精确恢复问题,提出基于联合似然和 Bregman 散度的迭代硬聚类算法,并给出由 Chernoff-Hellinger 散度刻画的信息论相变条件。
2023-10-30 cs.LG cs.SI stat.ML
Variational Co-embedding Learning for Attributed Network Clustering
Data Science Institute, University of Technology Sydney(悉尼科技大学数据科学研究所);School of Information Technology, Deakin University(迪肯大学信息技术学院);School of Computer Science and Engineering, University of New South Wales(新南威尔士大学计算机科学与工程学院);School of Computer Science, University of Technology Sydney(悉尼科技大学计算机科学学院)
最近的工作,属性网络聚类利用图卷积获得节点嵌入,同时执行嵌入空间上的聚类分配。由于图卷积结合了节点嵌入学习的结构和属性信息,因此是有效的。然而,这样的工作的一个主要局限性是,图卷积只结合了来自节点的局部邻域的属性信息,但未能利用节点和属性之间的相互亲和力。在这方面,我们提出了一个变分共嵌入学习模型属性网络聚类(VCLANC)。VCLANC是由双变分自动编码器,同时嵌入节点和属性。在此基础上,从嵌入空间中重构出节点与属性之间的相互亲和度信息,作为额外的自监督知识用于表示学习。同时,可训练的高斯混合模型被用作先验知识来推断节点聚类分配。为了加强推断的集群的性能,我们使用的高斯先验的中心和聚类分配硬化损失的节点嵌入的相互距离损失。四个真实世界的属性网络数据集上的实验结果表明,所提出的VCLANC属性网络聚类的有效性。
2021-04-15 cs.AI cs.LG stat.ML
Unsupervised Attributed Multiplex Network Embedding
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Yahoo! Research(雅虎研究院);Pohang University of Science and Technology(浦项科技大学)
多路复用网络中的节点通过多种类型的关系连接。然而,大多数现有的网络嵌入方法假设节点之间仅存在单一类型的关系。即使对于那些考虑网络的多重性的人来说,他们也忽略了节点属性,求助于节点标签进行训练,并且无法对图的全局属性进行建模。我们提出了一种简单而有效的无监督网络嵌入方法,称为DMGI,其灵感来自深度图Infomax(DGI),最大化图的局部补丁之间的互信息,以及整个图的全局表示。我们设计了一种系统的方法来联合集成来自多个图的节点嵌入,方法是引入1)共识正则化框架,该框架可以最大限度地减少关系类型特定节点嵌入之间的分歧,以及2)通用正则化框架,该框架可以区分真实样本,而不管关系类型如何。我们还表明,注意力机制推断每个关系类型的重要性,因此可以是有用的过滤不必要的关系类型作为预处理步骤。对各种下游任务的大量实验表明,DMGI优于最先进的方法,即使DMGI是完全无监督的。
2020-03-29 cs.LG stat.ML
Multi-scale Attributed Node Embedding
The University of Edinburgh(爱丁堡大学);School of Informatics(信息学院)
我们提出了网络嵌入算法,从节点周围的节点属性的局部分布中捕获有关节点的信息,如在随机游动中观察到的,遵循类似于Skip-gram的方法。在多个尺度上捕获属性-邻域关系对于各种各样的应用都很有用,包括具有相似属性的断开连接的网络中的潜在特征识别。我们从理论上证明了节点特征逐点互信息矩阵被嵌入隐式分解。实验表明,我们的算法是强大的,计算效率和性能优于可比模型上的社交网络和网络图。
2021-03-21 cs.LG cs.NI cs.SI
Joint Use of Node Attributes and Proximity for Semi-Supervised Classification on Graphs
University of Helsinki(赫尔辛基大学)
节点分类的任务是推断未知节点标签,给定一些节点的标签以及网络结构和其他节点属性。通常,用于该任务的方法假设同质性,由此相邻节点具有相似的属性,并且节点的标签可以从其邻居或其他邻近节点的标签来预测(即,附近)的节点。然而,这样的假设可能并不总是成立-事实上,在某些情况下,标签可以更好地从每个节点的单个属性而不是其邻近节点的标签进行预测。理想情况下,节点分类方法应该灵活地适应一系列的设置,其中未知的标签是从邻近节点的标签,或单个节点属性,或部分两者预测。在本文中,我们提出了一个原则性的方法,JANE,基于生成概率模型,通过嵌入在预测标签中联合权衡属性和节点邻近度的作用。我们在各种网络数据集上的实验表明,与标准基线相比,JANE表现出所需的多功能性和竞争性能的组合。
2021-09-14 cs.LG cs.SI
Graph Prototypical Networks for Few-shot Learning on Attributed Networks
Arizona State University(亚利桑那州立大学);Texas A&M University(得克萨斯农工大学);University of Virginia(弗吉尼亚大学);Illinois Institute of Technology(伊利诺伊理工学院);Singapore Management University(新加坡管理大学)
如今,属性网络在无数高影响力的应用中无处不在,例如社会网络分析、金融欺诈检测和药物发现。节点分类作为属性网络的一项核心分析任务,受到了研究界的广泛关注。在真实世界的属性网络中,大部分节点类只包含有限的标记实例,呈现长尾节点类分布。现有的节点分类算法不具备处理\textit{few-shot}节点类的能力。作为一种补救措施,少样本学习在研究界引起了极大的关注。然而,Few-Shot节点分类仍然是一个具有挑战性的问题,因为我们需要解决以下问题:(i)如何从属性网络中提取元知识用于Few-Shot节点分类?(ii)如何识别每个标记实例的信息量,以建立一个强大而有效的模型?为了回答这些问题,本文提出了一个图元学习框架--图原型网络(GPN)。通过构建一个半监督节点分类任务池来模拟真实的测试环境,GPN能够在属性网络上执行\textit{meta-learning},并导出一个高度概括的模型来处理目标分类任务。大量的实验证明了GPN在Few-Shot节点分类中的优越性能。
2020-11-27 cs.LG cs.SI stat.ML
HyperBERT: Mixing Hypergraph-Aware Layers with Language Models for Node Classification on Text-Attributed Hypergraphs
University of Cambridge(剑桥大学)
提出HyperBERT架构,通过在预训练BERT中融合超图感知层引入高阶结构归纳偏置,同时建模超图关系结构与文本语义,在五个文本属性超图节点分类基准上达到最优。
2024-09-27 cs.CL cs.LG stat.ML
Modeling Polypharmacy and Predicting Drug-Drug Interactions using Deep Generative Models on Multimodal Graphs
FPT Software AI Center(FPT软件人工智能中心);Halıcıoğlu Data Science Institute(哈利哲奥卢数据科学研究所);University of California San Diego(加州大学圣地亚哥分校);University of Chicago(芝加哥大学)
由当代图形自动编码器模型产生的药物及其靶标的潜在表示已被证明在预测大型网络上的许多类型的节点对相互作用方面是有用的,包括药物-药物,药物-靶标和靶标-靶标相互作用。然而,大多数现有的方法模型要么节点的潜在空间,其中节点分布是刚性的,或者不能有效地捕捉药物之间的相互关系,这些限制阻碍了准确预测药物对相互作用的方法。在本文中,我们提出了变分图自编码器(VGAE)在建模多模态网络上的潜在节点表示的有效性。我们的方法可以为多模态图的每个节点类型产生灵活的潜在空间;嵌入稍后用于预测不同边缘类型下的节点对之间的链接。为了进一步提高模型的性能,我们提出了一种新的方法,连接摩根指纹,捕捉每种药物的分子结构,与他们的潜在嵌入之前,他们的解码阶段的链接预测。我们提出的模型在三个多模态网络上显示了竞争结果:(1)由药物和蛋白质节点组成的多模态图,(2)从DrugBank数据库的一个子集构建的多模态图,涉及不同相互作用类型下的药物节点,以及(3)由药物和细胞系节点组成的多模态图。我们的源代码可在https://github.com/HySonLab/drug-interactions上公开获取。
2023-02-17 cs.LG
PINE: Pipeline for Important Node Exploration in Attributed Networks
Sber AI Lab, Skoltech(斯伯银行人工智能实验室与斯克里普斯基技术大学);Sber AI Lab(斯伯银行人工智能实验室)
PINE通过结合节点语义特征和注意力机制,提出无监督方法识别属性网络中的重要节点。
2025-12-08 cs.LG
Predicting Diffusion Reach Probabilities via Representation Learning on Social Networks
Boğaziçi University(博阿齐奇大学)
网络上两个节点之间的扩散到达概率被定义为从一个节点发起的级联到达另一个节点的概率。无限数量的级联将使得能够计算任何两个节点之间的真实扩散到达概率。然而,级联的数量有限,人们通常只能使用所有可用级联中的一小部分。在这项工作中,我们解决的问题,估计扩散到达概率只给出了有限数量的级联和部分信息的基础网络结构。我们提出的策略采用节点表示学习来生成节点嵌入并将其馈送到机器学习算法中,以创建预测扩散到达概率的模型。我们提供了实验分析,在两个现实世界的社交网络上使用综合生成的级联。计算结果表明,在叶栅所占比例较小的情况下,该方法优于现有叶栅计算值。
2019-01-12 cs.LG cs.SI stat.ML
Attributed Network Embedding via Subspace Discovery
University of Technology Sydney(悉尼科技大学);The University of Sydney(悉尼大学);Florida Atlantic University(佛罗里达大西洋大学)
网络嵌入旨在学习网络节点的潜在低维向量表示,有效地支持各种网络分析任务。虽然关于网络嵌入的现有技术主要集中在保留网络拓扑结构以学习节点表示,但是最近提出的属性网络嵌入算法试图将丰富的节点内容信息与网络拓扑结构相结合,以提高网络嵌入的质量。现实中,网络往往存在内容稀疏、节点属性不完整以及节点属性特征空间与网络结构空间不一致等问题,严重影响了现有方法的性能。在本文中,我们提出了一个统一的框架属性网络嵌入-attri 2 vec-学习节点嵌入通过发现一个潜在的节点属性子空间,通过网络结构引导的变换进行原始属性空间。由此产生的潜在子空间可以以更一致的方式尊重网络结构,以学习高质量的节点表示。我们制定了一个优化问题,解决了一个有效的随机梯度下降算法,线性时间复杂度的节点数。我们研究了一系列的线性和非线性变换节点属性和经验验证其有效性的各种类型的网络。attri 2 vec的另一个优点是它能够解决样本外问题,其中新节点的嵌入可以通过学习的映射函数从它们的节点属性中推断出来。在各种类型的网络上进行的实验证实,attri 2 vec优于节点分类、节点聚类以及样本外链接预测任务的最新基线。本文的源代码可在https://github.com/daokunzhang/attri2vec上获得。
2019-05-20 cs.LG cs.SI
Variational Graph Autoencoder for Heterogeneous Information Networks with Missing and Inaccurate Attributes
East China Normal University(华东师范大学);Shanghai Polytechnic University(上海第二工业大学);Baidu Inc.(百度公司)
本文提出生成式自监督模型 GraMI,基于变分图自编码器同时学习节点级和属性级嵌入,通过重建链接与属性来补全缺失特征并纠正不准确属性,实验证明其在处理异质信息网络属性问题上的优越性。
2024-11-19 cs.LG cs.SI
Predicting Drug-Drug Interactions using Deep Generative Models on Graphs
FPT AI Center(FPT人工智能中心);University of California San Diego(加州大学圣迭戈分校);University of Chicago(芝加哥大学)
由当代基于图形自动编码器的模型产生的药物及其靶标的潜在表示已被证明在预测大型网络上的许多类型的节点对相互作用方面是有用的,包括药物-药物,药物-靶标和靶标-靶标相互作用。然而,大多数现有的方法模型的节点的潜在空间中的节点分布是刚性和不相交的,这些限制阻碍了方法从节点对之间产生新的链接。在本文中,我们提出了变分图自编码器(VGAE)在建模多模态网络上的潜在节点表示的有效性。我们的方法可以为多模态图的每个节点类型产生灵活的潜在空间;嵌入稍后用于预测不同边缘类型下的节点对之间的链接。为了进一步提高模型的性能,我们提出了一种新的方法,该方法将Morgan指纹(捕获每种药物的分子结构)与其潜在的嵌入连接在一起,然后将其置于解码阶段进行链接预测。我们提出的模型在两个多模态网络上显示了竞争结果:(1)由药物和蛋白质节点组成的多重图,以及(2)由药物和细胞系节点组成的多重图。我们的源代码可在https://github.com/HySonLab/drug-interactions上公开获取。
2022-10-30 cs.LG q-bio.BM
Active Discovery of Network Roles for Predicting the Classes of Network Nodes
University of Colorado(科罗拉多大学)
现实世界网络中的节点通常具有类标签或底层属性,这些标签或属性与它们连接到其他节点的方式有关。有时这种关系很简单,例如同一类的节点可能更有可能连接。然而,在其他情况下,这并不正确,网络中节点的链接方式与其属性之间的关系则不同,更为复杂。在这里,我们考虑网络,我们知道节点是如何连接的,但我们不知道节点的类标签或类标签如何与网络链接相关。我们希望识别最佳的节点子集来标记,以了解节点属性和网络链接之间的关系。然后,我们可以使用这个发现的关系来准确地预测其余网络节点的类标签。我们提出了一个模型,识别具有相似链接模式的节点组,我们称之为网络角色,使用生成块模型。然后,该模型通过使用最大间隔分类器学习从网络角色到类标签的映射来预测标签。我们选择一个子集的节点标记根据迭代的边缘为基础的主动学习策略。通过将网络角色的发现与分类器优化相结合,主动学习过程可以使网络角色适应于更好地表示用于节点分类的网络。我们通过探索现实世界中的网络,包括海洋食物网和英语单词网络来展示该模型。我们表明,与其他网络分类器相比,该模型实现了良好的分类精度为一系列的网络类标签和网络链接之间的不同关系。
2014-03-18 cs.LG cs.SI stat.ML
Predicting User Intents and Musical Attributes from Music Discovery Conversations
Graduate School of Culture Technology, KAIST(韩国科学技术院文化技术研究生院)
本文研究音乐发现对话中的意图分类,提出结合聊天历史与单轮查询的方法,并同时分类音乐属性,显著提升F1分数且优于Llama 3的零样本和少样本表现。
2024-11-20 cs.CL cs.LG cs.SD
Unsupervised Attributed Dynamic Network Embedding with Stability Guarantees
University of Bristol(布里斯托大学);The University of Melbourne(墨尔本大学);University of Edinburgh(爱丁堡大学)
提出属性展开邻接谱嵌入(AUASE)框架,通过证明对潜在位置模型的一致收敛建立稳定性,在无真实标签下保证属性动态嵌入的稳定性,并在链路预测和节点分类任务上取得显著改进。
2025-07-01 cs.LG stat.ME stat.ML
Predicting Properties of Nodes via Community-Aware Features
SGH Warsaw School of Economics(华沙经济学院);Toronto Metropolitan University(多伦多都会大学);Tutte Institute for Mathematics and Computing(塔特数学与计算研究所)
本文提出了一族社区感知节点特征,利用网络社区结构提升节点分类的预测能力,证明了其包含经典特征无法恢复的信息,并在合成与真实网络中验证了其高效性和有效性。
2024-04-26 cs.LG cs.SI math.CO
Collaborative Graph Neural Networks for Attributed Network Embedding
Texas A&M University(德克萨斯农工大学);The Hong Kong Polytechnic University(香港理工大学);University of Virginia(弗吉尼亚大学);Rice University(莱斯大学)
针对现有图神经网络对节点属性利用不足的问题,本文提出协作图神经网络CONN,通过选择性扩散节点与属性消息、联合重建两类交互提升性能,在真实网络实验中显著优于现有最优嵌入算法。
2023-07-22 cs.IR cs.LG cs.SI
Attributed Network Embedding for Learning in a Dynamic Environment
Arizona State University(亚利桑那州立大学);Texas A&M University(得克萨斯农工大学);Michigan State University(密歇根州立大学);Huawei Research America(华为美国研究院)
网络嵌入利用所显示的节点邻近度来学习网络中每个节点的低维节点向量表示。学习的嵌入可以推进各种学习任务,如节点分类,网络聚类和链接预测。大多数,如果不是全部,现有的作品,绝大多数是在普通和静态网络的背景下进行的。尽管如此,在现实中,网络结构往往随着时间的推移而发展,增加/删除链接和节点。此外,绝大多数现实世界的网络都与一组丰富的节点属性相关联,并且它们的属性值也在自然变化,随着新内容模式的出现和旧内容模式的消失。这些变化的特征促使我们寻求一种有效的嵌入表示来捕获网络和属性的演化模式,这对于动态环境中的学习至关重要。据我们所知,我们是第一个解决这个问题的人,面临以下两个挑战:(1)固有相关的网络和节点属性可能是嘈杂和不完整的,它需要一个强大的共识表示来捕获它们的个体属性和相关性;(2)嵌入学习需要以在线方式执行,以适应相应的变化。在本文中,我们解决这个问题,提出了一种新的动态属性网络嵌入框架- DANE。特别是,DANE首先提供了一种用于共识嵌入的离线方法,然后利用矩阵扰动理论以在线方式保持最终嵌入结果的新鲜度。我们在合成和真实属性网络上进行了大量的实验,以证实所提出的框架的有效性和效率。
2018-08-26 cs.LG cs.SI stat.ML
Disentangling Node Attributes from Graph Topology for Improved Generalizability in Link Prediction
Network Science Institute(网络科学研究所);Northeastern University(东北大学);Khoury College of Computer Sciences(库利计算机科学学院);Brigham and Women’s Hospital(布莱根妇女医院);Harvard Medical School(哈佛医学院)
该研究提出节点属性无监督预训练方法UPNA,通过学习节点属性对预测边概率的方式解决归纳式链接预测问题,克服拓扑捷径与观测偏差,性能大幅超越现有最优水平,还可集成到现有模型中提升泛化能力。
2023-07-17 cs.LG cs.SI
Attributed Network Embedding for Incomplete Attributed Networks
Southern University of Science and Technology(南方科技大学);University of Birmingham(伯明翰大学)
属性网络是普遍存在的,因为网络通常带有辅助属性信息,例如具有用户简档的社交网络。属性网络嵌入(ANE)是近年来研究的一个热点,它的目标是在保持结构和属性信息的同时学习统一的低维节点嵌入。所得到的节点嵌入然后可以促进各种网络下游任务,例如链接预测。虽然有几个ANE方法,其中大多数不能处理不完整的属性网络与丢失的链接和/或节点属性,这往往发生在现实世界的场景。为了解决这个问题,我们提出了一个强大的ANE方法,其总体思想是通过融合两个信息源来增强信息,然后采用基于随机游走的网络嵌入方法来学习节点嵌入,从而重建一个统一的密集网络。在6个真实数据集上进行的链接预测、节点分类、可视化和参数敏感性分析实验验证了该方法对不完全属性网络的有效性。
2019-06-05 cs.LG cs.SI
CoANE: Modeling Context Co-occurrence for Attributed Network Embedding
National Cheng Kung University(成功大学)
属性化网络嵌入(ANE)是通过学习低维向量,使得嵌入空间中既保留了网络结构,又保留了节点属性。现有的ANE模型没有考虑图结构和属性之间的特定组合。虽然每个节点都有其结构特征,例如高度互连的邻居以及它们的某些属性分布模式,但每个节点的邻居不应仅由多跳节点来描述,而应考虑某些集群或社交圈。为了对这些信息进行建模,本文提出了一种新的ANE模型,上下文同现感知属性网络嵌入(CoANE)。CoANE的基本思想是对每个节点涉及不同模式的上下文属性进行建模,并将每个属性视为通道,应用卷积机制对位置信息进行编码。上下文共现的学习可以捕获每个节点的潜在社交圈。为了更好地编码节点的结构和语义知识,我们设计了一个三向目标函数,包括正图似然,上下文负采样和属性重建。我们在五个真实数据集上进行了链接预测、节点标签分类和节点聚类的实验。结果表明,CoANE可以显着优于国家的最先进的ANE模型。
2021-06-17 cs.AI cs.LG cs.SI
Clustering Node Attributed Networks with Graph Neural Networks and Self Learning
Systems Engineering and Computer Science (PESC), Federal University of Rio de Janeiro (UFRJ)(里约热内卢联邦大学系统工程与计算机科学系)
提出一种基于图神经网络和自学习的无监督图聚类框架,通过多轮自学习交替优化节点表示和聚类,利用上下文图提升性能,在合成和真实数据上表现优异。
2026-06-12 cs.LG
DynaSTy: A Framework for SpatioTemporal Node Attribute Prediction in Dynamic Graphs
The Ohio State University(俄亥俄州立大学)
本文提出了一种端到端的动态边偏置时空模型,用于预测动态图中节点属性的多步未来值,通过引入可适应的注意力偏置和预训练目标,提高了长期预测的准确性。
2026-05-18 cs.LG
AGHINT: Attribute-Guided Representation Learning on Heterogeneous Information Networks with Transformer
School of Computer Science and Engineering, Southeast University(东南大学计算机科学与工程学院);Nanjing FiberHome Tiandi Co., Ltd.(南京烽火天地有限公司);Department of Data Science and Artificial Intelligent, Faculty of Information Technology, Monash University(莫纳什大学信息技术学院数据科学与人工智能系)
针对异质信息网络中节点属性差异导致异构图神经网络节点分类性能下降的问题,提出属性引导的Transformer模型AGHINT,通过融入高阶相似邻居特征、按属性差异调整消息传递提升性能,在三个真实基准上超越现有最优水平。
2024-04-16 cs.AI cs.LG
Deep Embedded Clustering with Distribution Consistency Preservation for Attributed Networks
Beijing Jiaotong University(北京交通大学);Baidu Online Network Technology (Beijing) Co., Ltd(百度在线网络技术(北京)有限公司)
现实世界中的许多复杂系统都可以用属性网络来表征。为了挖掘这些网络中潜在的信息,深度嵌入聚类,同时获得节点表示和聚类,近年来备受关注。在不同视图数据一致性的假设下,属性网络的网络拓扑簇结构和节点属性簇结构应该是一致的。然而,许多现有的方法忽略了这个属性,即使他们分别编码节点表示从网络拓扑结构和节点属性,同时聚类节点的表示向量从一个视图。因此,在这项研究中,我们提出了一个端到端的深度嵌入式聚类模型的属性网络。它利用图自动编码器和节点属性自动编码器分别学习节点表示和聚类分配。此外,引入分布一致性约束,以保持两个视图的聚类分布的潜在一致性。在多个数据集上的大量实验表明,与现有的方法相比,该模型具有更好的性能。源代码可以在https://github.com/Zhengymm/DCP上找到。
2022-05-28 cs.AI cs.LG
Semi-supervisedly Co-embedding Attributed Networks
Sun Yat-sen University(中山大学);University of Glasgow(格拉斯哥大学)
深度生成模型(DGMs)已经取得了显着的进步。半监督变分自动编码器(SVAE)作为一种经典的DGM提供了一个有效地从小的标记数据推广到大的未标记数据的原则性框架,但它很难在多个异构实体中包含丰富的非结构化关系。针对这一问题,本文提出了一种基于广义SVAE的半监督属性网络共嵌入模型(SCAN),该模型能够半监督地协同学习部分标记属性网络的节点和属性的低维向量表示.通过SCAN以统一的方式获得的节点和属性嵌入不仅有利于捕获节点之间的邻近度,而且有利于捕获节点和属性之间的亲和力。此外,我们的模型还训练了一个判别网络来学习节点的标签预测分布。在真实网络上的实验结果表明,与最先进的基线相比,我们的模型在属性推断、用户分析和节点分类等应用中具有出色的性能。
2019-10-31 cs.LG cs.SI
Introducing New Node Prediction in Graph Mining: Predicting All Links from Isolated Nodes with Graph Neural Networks
Universidad Politécnica de Madrid(马德里理工大学)
本文提出图挖掘中的新节点预测问题,即零样本图外全链接预测,并验证基于深度图神经网络的架构可在文献引用网络中预测孤立节点的全部链接。
2024-01-10 cs.AI cs.LG cs.SI
Learning on Attribute-Missing Graphs
Shanghai Jiao Tong University(上海交通大学);Australian Artificial Intelligence Institute(澳大利亚人工智能研究所);University of Technology Sydney(悉尼科技大学);Mitsubishi Electric Research Laboratories(三菱电机研究实验室);Alibaba Group(阿里巴巴集团);Texas University(得克萨斯大学)
具有完全节点属性的图近年来得到了广泛的研究。而在实践中,有一个图,其中只有部分节点的属性可能是可用的,而其他节点的属性可能完全缺失。这种属性缺失图与许多现实世界的应用有关,并且有有限的研究调查相应的学习问题。现有的图学习方法,包括流行的GNN不能提供令人满意的学习性能,因为他们没有指定的属性缺失图。因此,为这些图设计一个新的GNN是图学习社区的一个紧迫问题。在本文中,我们对图的共享潜在空间的假设,并开发了一种新的基于分布匹配的GNN称为结构属性Transformer(SAT)的属性缺失图。SAT在一个解耦的方案中利用结构和属性,并通过分布匹配技术实现结构和属性的联合分布建模。它不仅可以执行链接预测任务,还可以执行新引入的节点属性补全任务。此外,提出了量化节点属性补全性能的实用措施。在7个真实数据集上的实验表明,SAT在链接预测和节点属性补全任务上都表现出比其他方法更好的性能。代码和数据可在线获取:https://github.com/xuChenSJTU/SAT-master-online
2020-11-03 cs.LG
GCN-LASE: Towards Adequately Incorporating Link Attributes in Graph Convolutional Networks
Yuanpei College, Peking University(北京大学元培学院);Key Laboratory of Machine Perception, Ministry of Education, Peking University(北京大学教育部机器感知重点实验室)
图卷积网络(GCN)已被证明是一个最强大的架构,在聚合局部邻域信息的个别图节点。在现有的GCN中成功地利用了低秩邻近性和节点特征,然而,图链接可能携带的属性通常被忽略,因为几乎所有这些模型都将图链接简化为描述节点连通性的二进制或标量值。相反,在我们的论文中,链接被恢复到实体之间的实体属性的关系。我们提出了GCN-LASE(GCN与链路属性和抽样估计),一种新的GCN模型,以节点和链路属性作为输入。为了充分捕捉链接和节点属性之间的相互作用,它们的张量积被用作邻居特征,在此基础上,我们定义了几个图核,并进一步开发了相应的LASE架构。此外,为了加快训练过程,整个邻域的特征之和估计通过蒙特卡罗方法,与新的采样策略设计的LASE,以最小化估计方差。我们的实验表明,LASE在各种图形数据集上的表现优于强基线,进一步的实验证实了链接属性的信息量以及我们的模型充分利用它们的能力。
2019-05-30 cs.CV cs.LG cs.SI
Generative Models and Learning Algorithms for Core-Periphery Structured Graphs
Indian Institute of Science(印度科学学院)
我们考虑核心-外围结构图,这些图分别具有一组密集连接和稀疏连接的节点,称为核心节点和外围节点。所谓的节点的核心得分与其成为核心节点的可能性有关。在本文中,我们专注于学习一个图的节点属性和连通性结构的核心分数。为此,我们提出了两类概率图模型:仿射和非线性。首先,我们描述仿射生成模型来模拟节点属性对其核心分数的依赖性,这决定了图的结构。接下来,我们讨论了非线性生成模型,其中节点属性的偏相关性通过潜在核心分数影响图结构。我们开发的算法,用于推断模型参数和核心分数的图形时,图形结构和节点属性。当只有图的节点属性可用时,我们共同学习核心-外围结构图及其核心分数。我们提供了几个合成和真实世界的数据集上的数值实验结果,以证明所开发的模型和算法的有效性。
2022-10-04 cs.LG
Propagation with Adaptive Mask then Training for Node Classification on Attributed Networks
Huazhong University of Science and Technology(华中科技大学)
属性网络上的节点分类是一个半监督任务,对于网络分析至关重要。通过解耦图卷积网络(GCN)中的两个关键操作,即特征变换和邻域聚合,解耦GCN的一些最新工作可以支持信息更深层次的传播,并获得更好的性能。然而,它们遵循传统的GCN的结构感知传播策略,难以捕捉节点的属性相关性,并且对两端属于不同类别的边所描述的结构噪声敏感。为了解决这些问题,我们提出了一种名为itshape Propagation with Adaptive Mask then Training(PAMT)的新方法。其关键思想是将属性相似性掩码集成到结构感知的传播过程中。这样,PAMT在传播过程中能够保持相邻节点的属性相关性,有效降低结构噪声的影响。此外,我们开发了一种迭代细化机制,在训练过程中更新相似性掩码,以提高训练性能。在四个真实数据集上的大量实验证明了PAMT的优越性能和鲁棒性。
2022-06-23 cs.AI cs.LG
Who Should Teach? Confidence-Aware Dual-Teacher Learning for Few-Shot Node Classification on Text-Attributed Graphs
Chungbuk National University(忠北国立大学);Chungnam National University(忠南国立大学);The Pennsylvania State University(宾夕法尼亚州立大学)
针对文本属性图小样本节点分类中现有方法LLM信息利用不均、成本高的问题,提出置信感知双教师学习框架CoTeach,动态为节点选更可靠教师,提升性能并降低LLM成本。
2026-09-01 cs.LG cs.SI
Inductive Representation Learning in Large Attributed Graphs
Intel Labs(英特尔实验室);PARC(帕洛阿尔托研究中心);Google(谷歌);WPI(伍斯特理工学院)
图(网络)无处不在,允许我们对实体(节点)和它们之间的依赖关系(边)进行建模。从图数据中学习有用的特征表示是许多机器学习任务的核心和成功,例如分类,异常检测,链接预测等。许多现有技术使用随机游动作为学习特征或估计用于下游预测任务的图模型的参数的基础。示例包括最近的节点嵌入方法,如DeepWalk,node2vec以及基于图的深度学习算法。然而,这些方法所使用的简单随机游动从根本上与节点的身份有关。这有三个主要缺点。首先,这些方法本质上是传导性的,不能推广到看不见的节点和其他图。其次,它们不是空间有效的,因为每个节点都要学习一个特征向量,这对于大型图来说是不切实际的。第三,这些方法大多缺乏对属性图的支持。为了使这些方法更普遍适用,我们提出了一个框架,归纳网络表示学习的基础上的概念,属性随机游动,不绑定到节点身份,而是基于学习一个函数$Φ: \mathrm{\rm \bf x} \rightarrow w$,映射节点属性向量$\mathrm{\rm \bf x}$的类型$w$。该框架作为推广现有方法的基础,如DeepWalk,node2vec和许多其他利用传统随机游动的方法。
2017-11-22 cs.AI cs.LG cs.SI
Reconstruction Enhanced Multi-View Contrastive Learning for Anomaly Detection on Attributed Networks
Nanjing University of Aeronautics and Astronautics(南京航空航天大学);Central South University(中南大学)
针对属性网络异常检测,本文提出联合优化多视图对比学习与掩码自编码器属性重构的自监督框架,并在五个基准上验证其优于现有方法。
2022-05-10 cs.LG
Graph Attention Auto-Encoders
Arizona State University(亚利桑那州立大学)
自动编码器已经成为无监督学习的成功框架。然而,传统的自动编码器不能利用结构化数据中的显式关系。为了利用图结构数据中的关系,最近提出了几种图自动编码器,但它们忽略了重建图结构或节点属性。在本文中,我们提出了图形注意力自动编码器(GATE),一个神经网络架构的无监督表示学习的图形结构的数据。我们的架构是能够重建图形结构的输入,包括节点属性和图形结构,通过堆叠的编码器/解码器层配备自注意力机制。在编码器中,通过将节点属性视为初始节点表示,每个层通过关注其邻居的表示来生成节点的新表示。在解码器中,我们尝试逆编码过程来重构节点属性。此外,节点表示正则化,以重建图结构。我们提出的架构不需要预先知道图的结构,因此它可以应用于归纳学习。我们的实验表明,在几个节点分类基准数据集上,对于转换和归纳任务,我们的性能具有竞争力,在大多数情况下甚至超过了监督学习基线的性能。
2019-05-26 cs.LG cs.SI stat.ML