Neighborhood Convolutional Network: A New Paradigm of Graph Neural Networks for Node Classification
Huazhong University of Science and Technology(华中科技大学)
解耦的图卷积网络(GCN)是GCN的最新发展,它在每个卷积层中实现了邻域聚合和特征变换,在图表示学习方面表现出了良好的性能。现有的解耦GCN首先利用简单的神经网络(例如,MLP)学习节点的隐藏特征,然后将学习到的特征以固定的步长在图上传播,以聚集多跳邻域的信息。尽管有效,但需要整个邻接矩阵作为输入的聚合操作涉及模型训练,导致高训练成本,阻碍了其在更大图上的潜力。另一方面,由于作为输入的节点属性的独立性,用于解耦GCN的神经网络非常简单,并且高级技术不能应用于建模。为此,我们进一步解放的聚合操作从解耦的GCN,并提出了一个新的范式的GCN,称为邻域卷积网络(NCN),利用邻域聚合结果作为输入,然后由一个特殊的卷积神经网络量身定制的聚合输入提取表达节点表示。这样,该模型既继承了解耦GCN在聚集邻域信息方面的优点,又开发了更强大的特征学习模块。一种称为掩码训练的训练策略被纳入,以进一步提高模型的性能。大量的结果表明,我们的模型的节点分类任务的有效性不同的同伦图和异伦图。
2022-11-15 cs.LG cs.SI
Scalable Anomaly Ranking of Attributed Neighborhoods
给定一个具有节点属性的图,哪些邻域是异常的?要回答这个问题,需要一个同时利用结构和属性的质量分数。流行的现有度量要么仅量化结构而忽略属性(例如,电导),或者仅考虑邻域内的节点的连通性而忽略边界处的交叉边(例如,密度)。在这项工作中,我们提出了正常性,一个新的质量措施归因于社区。正态性利用结构和属性一起量化内部一致性和外部可分性。它比其他措施表现出两个关键的优势:(1)它允许许多边界边缘,只要他们可以“免除”;即,或者(i)在空模型下是预期的,和/或(ii)边界节点不表现出由邻域成员共享的属性子集。与此相反,现有的措施,惩罚边界边缘无关。(2)可以有效地最大化正态性,以自动推断表征邻域的共享属性子空间(和相应的权重)。这种高效的优化使我们能够处理具有数百万个属性的图。我们利用我们的措施,提出了一种新的方法,异常挖掘的实体邻域(AMEN)。在真实世界属性图上的实验说明了我们的措施在异常检测方面的有效性,优于流行的方法,包括电导,密度,OddBall和SODA。除了异常检测之外,我们的定性分析还证明了正态性作为一种强大的工具的实用性,可以在不同的图中对比结构和属性之间的相关性。
2016-01-25 cs.SI physics.soc-ph
A Novel Framework with Information Fusion and Neighborhood Enhancement for User Identity Linkage
跨社交网络的用户身份关联是跨网络数据采掘的一个基本问题。由于网络结构,配置文件和内容信息描述了用户的不同方面,它是至关重要的,以学习有效的用户表示,集成异构信息。本文提出了一种新的框架,信息融合和邻域增强(INFUNE)的用户身份链接。信息融合部分采用一组编码器和解码器对异构信息进行融合,生成有区别的节点嵌入,用于初步匹配。然后,这些嵌入被馈送到邻域增强组件,一种新的图神经网络,以产生自适应邻域嵌入,反映不同的候选用户对的邻域的重叠程度。节点嵌入和邻域嵌入的重要性被加权以用于最终预测。所提出的方法进行评估,在现实世界的社交网络数据。实验结果表明,INFUNE显着优于现有的国家的最先进的方法。
2020-03-16 cs.IR cs.SI
Inductive Representation Learning in Temporal Networks via Mining Neighborhood and Community Influences
Heilongjiang University(黑龙江大学)
针对直推式方法难以适应时序网络动态变化的问题,本文提出 MNCI 归纳式表示学习方法,通过融合邻域与社区影响生成任意时刻的节点嵌入,并在多个真实数据集上验证其优于现有基线。
2023-06-01 cs.AI cs.SI
Finding the proper node ranking method for complex networks
对节点重要性进行排序对于理解复杂网络的结构和功能至关重要。度、h指数和核度被广泛使用,但哪一个更适合于与动态过程相关的网络,例如SIR扩展过程,仍然不清楚。为了填补这一空白,提出了从节点邻域的每个半径中的平均节点数的拟合函数(f(x)= 1 - 1/(e ^(2a(x-b))+1))中提取的a。在20个真实网络上进行的实验结果表明,该算法可以区分度、h指数和核心度这3种度量中哪一种更适合于网络节点重要性的排序。我们还发现,[b/3]是一个很好的指标,用于预测节点的邻域的最佳半径,在给定的网络中对节点的重要性进行排名。据我们所知,这是这个有趣和开放问题的第一个解决方案。此外,通过扩大邻域的范围,我们构造一个操作H上的节点,我们提出了一种新的方法来量化的重要性的节点。当半径从0增加到其预测最优半径时,大多数网络的排序精度都得到了提高,最好的情况下,提高幅度可达111%。如果我们粗略地扩大邻域的半径,本文所研究的网络的性能将降低一半。我们的工作加深了对如何为复杂网络找到合适的节点排序方法的理解。所提出的方法弥补了网络结构和节点重要性之间的差距,在控制疾病爆发、设计最佳信息传播策略方面可能具有潜在的应用。
2018-12-27 cs.SI physics.soc-ph
Trustworthy Neighborhoods Mining: Homophily-Aware Neutral Contrastive Learning for Graph Clustering
Shantou University(汕头大学);College of Computer Science and Technology, Huaqiao University(华侨大学计算机科学与技术学院);Chongqing Key Laboratory of Nonlinear Circuits and Intelligent Information Processing, College of Electronic and Information Engineering, Southwest University(西南大学电子信息工程学院);School of Computing and Information Science, Faculty of Science and Engineering, Anglia Ruskin University(安格利亚鲁斯金大学科学与工程学部计算与信息科学学院);School of Computer Science and Engineering, South China University of Technology(华南理工大学计算机科学与工程学院);Department of Computer Science, City University of Hong Kong(香港城市大学计算机科学系)
本文提出NeuCGC方法,通过引入中性对和自适应对齐机制,解决低同质性图中节点表示不可区分的问题,提升图聚类的鲁棒性。
2025-12-17 cs.SI
Adaptive Multi-Neighborhood Attention based Transformer for Graph Representation Learning
Huazhong University of Science and Technology(华中科技大学)
通过将图的结构信息融入到Transformers中,图Transformers近年来在图表示学习方面表现出了良好的性能。现有的图Transformers利用特定的策略,例如节点对的拉普拉斯特征向量和最短路径,来保留节点的结构特征,并将它们馈送到普通的Transformer中以学习节点的表示。对于拓扑结构变化较大的任意图,这种预定义的规则很难提取信息丰富的图结构特征,限制了模型的学习能力。为此,我们提出了一个自适应图Transformer,称为多邻域注意基于图Transformer(MNA-GT),它捕获的多邻域注意力机制自适应的每个节点的图结构信息。MNA-GT通过将执行缩放点积的输入定义为注意力核,基于邻域的不同跳数构造多个注意力核,使得每个注意力核可以捕获每个节点对的对应邻域的特定图结构信息。通过这种方式,MNA-GT可以通过合并由不同注意力核学习的节点表示来有效地保留图的结构信息。MNA-GT还采用注意力层来学习不同注意力核的重要性,以使模型能够自适应地捕获不同节点的图结构信息。在各种图基准上进行了大量的实验,实证结果表明,MNA-GT优于许多强基线。
2022-11-15 cs.LG cs.SI
node2vec: Scalable Feature Learning for Networks
Stanford University(斯坦福大学)
在网络中的节点和边上的预测任务需要在学习算法使用的工程特征方面进行仔细的努力。最近在更广泛的表示学习领域的研究已经在通过学习特征本身来自动预测方面取得了重大进展。然而,目前的特征学习方法没有足够的表达能力来捕捉网络中观察到的连接模式的多样性。在这里,我们提出了node2vec,一个算法框架,用于学习网络中节点的连续特征表示。在node2vec中,我们学习节点到低维特征空间的映射,该映射最大化保留节点的网络邻域的可能性。我们定义了一个灵活的概念,一个节点的网络邻域,并设计了一个有偏的随机游走过程,有效地探索不同的社区。我们的算法概括了以前的工作,这是基于刚性的概念网络的邻居,我们认为,增加的灵活性,探索社区是学习更丰富的表示的关键。我们证明了node2vec在多标签分类和链接预测在几个现实世界的网络从不同的领域现有的国家的最先进的技术的功效。总之,我们的工作代表了一种新的方法,可以有效地学习复杂网络中最先进的任务无关表示。
2016-07-03 cs.LG cs.SI stat.ML
Core-Intermediate-Peripheral Index: Factor Analysis of Neighborhood and Shortest Paths-based Centrality Metrics
Jackson State University(杰克逊州立大学)
提出核心-中间-外围(CIP)指数,通过对四种中心性度量进行因子分析,量化节点在复杂网络中的核心或外围角色,并在12个真实网络上验证。
2023-10-10 cs.LG cs.SI
Neighborhood Overlap-Aware High-Order Graph Neural Network for Dynamic Graph Learning
针对动态图学习中现有DGNN忽视邻域重叠结构的问题,提出NO-HGNN,将邻域重叠相关性融入高阶消息传递,在两个真实动态图上提升链路预测性能。
2025-06-07 cs.SI
Refining Network Alignment to Improve Matched Neighborhood Consistency
网络对齐,或在不同图中的节点之间找到有意义的节点对应关系的任务,是具有许多科学和工业应用的重要图挖掘任务。网络对齐的一个重要原则是匹配邻域一致性(MNC):一个图中接近的节点应该与另一个图中接近的节点匹配。我们从理论上证明了MNC和对准精度之间的密切关系。由于许多现有的网络对齐方法难以在困难的情况下保持拓扑一致性,我们展示了如何通过改进MNC来改进它们的解决方案。我们的改进方法,RefiNA,是直接实现,承认可扩展的稀疏近似,并可以配对后的任何网络对齐方法。大量的实验表明,RefiNA将各种无监督网络对齐方法的准确性提高了90%,使它们足够强大,可以对齐比先前工作中考虑的拓扑差异高5倍的图形。
2021-01-21 cs.SI
Neighborhood Information-based Probabilistic Algorithm for Network Disintegration
Xidian University(西安电子科技大学);Middlesex University(密德萨斯大学)
许多现实世界的应用都可以建模为复杂网络,此类网络包括互联网、流行病网络、交通网络、电网、蛋白质折叠结构等。网络的完整性和鲁棒性对于确保关键网络得到保护和不受欢迎的有害网络能够被拆除非常重要。网络的结构和完整性可以由一组关键节点来控制,而寻找网络中节点的最优组合以保证网络的结构和完整性是一个NP完全问题。尽管进行了广泛的研究,但现有的方法有许多局限性,仍然有许多未解决的问题。提出了一种基于邻域信息和节点重要性的概率算法,即基于邻域信息的概率算法(NIPA)。我们还定义了一个新的基于中心的重要性度量(IM),它结合了每个目标节点的邻居节点的贡献率和两跳节点的信息。我们提出的NIPA已被测试不同的网络基准,并与其他三种方法:最佳攻击策略(OAS),高介数优先(HBF)和高度优先(HDF)进行了比较。实验表明,建议的NIPA是所有四种方法中最有效的。一般来说,NIPA可以识别最关键的节点组合,具有更高的效率,我们提出的NIPA发现的最佳关键节点的集合是远远小于启发式中心预测。此外,许多以前被忽略的弱连接节点被确定,成为新确定的最优节点的重要组成部分。因此,建议修改策略的保护,以确保网络的完整性的保障。进一步的关键问题和未来的研究课题进行了讨论。
2020-03-08 cs.AI cs.NE cs.SI
Neighborhood-aware Scalable Temporal Network Representation Learning
University of Massachusetts(马萨诸塞大学);Purdue University(普渡大学)
时态网络已被广泛用于模拟现实世界的复杂系统,如金融系统和电子商务系统。在时间网络中,一组节点的联合邻域通常提供关键的结构信息,用于预测它们是否可以在某个时间进行交互。然而,最近的时间网络的表示学习方法往往无法提取这些信息或依赖于结构特征的在线构造,这是耗时的。为了解决这个问题,这项工作提出了邻居感知的时间网络模型(NAT)。对于网络中的每个节点,NAT放弃了常用的基于单个向量的表示,而采用一种新的字典类型的邻域表示。这样的字典表示将相邻节点的下采样集合记录为键,并且允许快速构造多个节点的联合邻域的结构特征。我们还设计了一个专用的数据结构称为N-缓存,以支持并行访问和更新的GPU上的这些字典表示。NAT在七个真实世界的大规模时间网络上进行了评估。NAT不仅在传导性和归纳性链接预测准确性方面分别比所有前沿基线平均高出1.2%和4.2%,而且还保持可扩展性,相对于采用联合结构特征的基线实现了4.1- 76.7倍的速度提升,相对于不采用这些特征的基线实现了1.6- 4.0倍的速度提升。代码链接:https://github.com/Graph-COM/Neighborhood-Aware-Temporal-Network。
2022-11-30 cs.LG cs.SI
An Automated System for Discovering Neighborhood Patterns in Ego Networks
一般来说,社会网络分析往往侧重于网络的拓扑结构,而不考虑其中所涉及的个人的特征。由于个体是图的基本实体,因此对个体行为的研究较少。给定一个移动社交网络图,从节点中提取关键信息的好特征是什么?自我节点存在多少种不同的邻域模式?这些信息为长期研究节点提供了什么线索?在这份报告中,我们开发了一个自动化系统,以发现发生的原型自我为中心的模式从数据。我们的目标是提供一个数据驱动的工具,用于行为科学的图形解释。我们分析来自智能手机收集的真实数据的社交网络。我们选择了13个著名的网络措施,特别是那些与自我图。我们形成八个特征子集,然后使用无监督聚类技术来评估它们的性能,以发现以自我为中心的模式。从聚类分析中,我们发现八个不同的邻居模式已经出现。这种分类允许在用户数据随时间变化时对其进行简明分析。结果提供了一个细粒度的分析,不同的功能集的贡献,以检测独特的聚类模式。最后,作为一个案例研究,两个数据集进行了长期的研究,以证明该方法的实用性。该研究表明,所提出的方法在发现数据的重要趋势的有效性。
2015-03-16 cs.SI physics.soc-ph
Graph Auto-Encoder Via Neighborhood Wasserstein Reconstruction
University of Virginia(弗吉尼亚大学);Emory University(埃默里大学);Purdue University(普渡大学)
图神经网络(GNNs)近年来引起了广泛的研究关注,主要是在半监督学习的背景下。当首选任务不可知表示或监督不可用时,自动编码器框架可以方便地使用自然图重建目标进行无监督GNN训练。然而,现有的图自动编码器被设计为重建直接链接,因此以这种方式训练的GNN仅针对面向邻近的图挖掘任务进行优化,并且在拓扑结构重要时会出现不足。在这项工作中,我们重新审视了GNNs的图形编码过程,该过程基本上是学习将每个节点的邻域信息编码到嵌入向量中,并提出了一种新的图形解码器,通过邻域Wasserstein重建(NWR)来重建关于邻近度和结构的整个邻域信息。具体来说,从每个节点的GNN嵌入,NWR联合预测其节点度和邻居特征分布,其中分布预测采用基于Wasserstein距离的最优传输损失。在合成和真实网络数据集上的大量实验表明,使用NWR学习的无监督节点表示在面向结构的图挖掘任务中具有更大的优势,同时在面向邻近度的任务中也具有竞争力的性能。
2022-02-18 cs.LG cs.SI
A Neighborhood-preserving Graph Summarization
本文介绍了一种新的大型图的摘要方法。我们的总结方法只保留了用户指定的比例,每个节点的邻居在图中。我们的主要目标是简化大型图,使它们可以有效地分析和处理,同时保留尽可能多的节点邻域属性。由于许多图算法都是基于每个节点可用的邻域信息,因此我们的想法是生成一个更小的图,可以用于允许这些算法处理大型图并更快地运行,同时提供良好的近似。此外,我们的压缩允许用户通过调整可以容忍的信息丢失量来控制压缩图的大小。在各种真实和合成图上进行的实验表明,我们的压缩大大减少了图的大小。此外,我们进行了几个实验,所获得的摘要使用各种图形算法和应用程序,如节点嵌入,图分类和最短路径近似。所得到的结果表明有趣的权衡算法的运行时加速和精度损失。
2021-01-27 cs.DM cs.DS cs.SI
Exploring the Node Importance Based on von Neumann Entropy
在分析复杂网络的统计和拓扑特征时,一种有效且方便的方法是计算中心度来识别有影响力和重要的节点或结构,但大多数都局限于局部环境或某些特定配置。在本文中,我们提出了一个新的中心节点的冯诺依曼熵的基础上,这使我们能够调查的重要性,节点的频谱特征值分布。通过对实际网络的分析,表明冯诺依曼熵节点中心度是选择关键节点和经典节点的一个很好的指标。然后为了降低计算复杂性,给出了只依赖于第一和第二邻域的中心度的近似计算。此外,在最优传播问题和降低平均聚类系数中,这种熵中心性表现出很好的效率,并准确地揭示了网络的拓扑结构特征。在Erdos-Renyi网络和无标度网络中,熵中心性可以快速降低巨连通分支的标度,在随机几何图中,熵中心性可以有效地分解簇结构.这种新的方法从谱的角度揭示了节点的重要性,为网络研究提供了新的视角,在发现网络的本质结构特征方面具有巨大的潜力。
2018-05-07 cs.SI physics.soc-ph
Graph Learning with Localized Neighborhood Fairness
Harvard University(哈佛大学);Adobe Research(奥多比研究院);Intel Labs(英特尔研究院)
学习公平图表示下游应用程序变得越来越重要,但现有的工作主要集中在提高公平性在全球范围内通过修改图结构或目标函数,而不考虑本地邻域的节点。在这项工作中,我们正式引入了邻域公平的概念,并开发了一个计算框架,用于学习这种局部公平嵌入。我们认为,邻域公平的概念更合适,因为基于GNN的模型在节点的局部邻域级别上运行。我们的邻域公平框架有两个主要组件,可以灵活地从任意数据中学习公平图表示:第一个目标是为图中的任何任意节点构造公平邻域,第二个目标使得这些公平邻域能够自适应以更好地捕获某些应用或数据相关约束,例如允许邻域更偏向于图中的某些属性或邻居。虽然链接预测已经被广泛研究,但是我们是第一个研究公平链接分类的图表示学习任务的人。我们证明了所提出的邻域公平框架的有效性,各种图形机器学习任务,包括公平的链接预测,链接分类,学习公平的图形嵌入。值得注意的是,我们的方法不仅实现了更好的公平性,而且在大多数情况下,在各种各样的图表,问题设置和指标中提高了准确性。
2022-12-22 cs.LG cs.SI
Graphlets versus node2vec and struc2vec in the task of network alignment
网络嵌入旨在将网络中的每个节点表示为低维特征向量,该特征向量总结了给定节点的(扩展的)网络邻域。然后,节点的特征向量可以用于各种下游机器学习任务。最近,出现了许多自动学习节点特征的嵌入方法,例如node 2 vec和struct 2 vec,它们主要用于社交网络领域的节点分类、链接预测和节点聚类等任务。也有其他嵌入方法显式地查看节点之间的连接,即,节点的网络邻域,例如graphlets。Graphlets已被用于许多任务,如网络比较,链接预测和网络聚类,主要是在计算生物学领域。尽管这两种类型的嵌入方法(node 2 vec/struct 2 vec与graphlets)有着相似的目标--将节点表示为特征向量,但它们之间没有进行比较,可能是因为它们起源于不同的领域。因此,在这项研究中,我们将graphlets与node 2 vec和struct 2 vec进行了比较,并且我们在网络对齐任务中这样做。在对合成和真实世界生物网络的评估中,我们发现graphlets比node 2 vec和struct 2 vec更准确,更快。
2018-05-19 cs.SI physics.soc-ph
On Graph Neural Network Fairness in the Presence of Heterophilous Neighborhoods
University of Michigan(密歇根大学);Lawrence Livermore National Lab(劳伦斯利弗莫尔国家实验室);RWTH Aachen University(亚琛工业大学)
我们研究了图神经网络(GNNs)的节点分类任务,并建立了由统计奇偶性和平等机会衡量的组公平性与局部非线性之间的联系,即,链接节点具有相似属性的趋势。这种非对称性通常是由同质性引起的,即具有相似属性的节点连接的趋势。在社交网络中,系统性因素迫使个体进入具有共同敏感属性的社区,因此,同质性是很常见的。通过合成图,我们研究了本地发生的同质性和公平预测之间的相互作用,发现并不是所有的节点邻域在这方面都是平等的-由一类敏感属性主导的邻域往往很难获得公平待遇,特别是在发散的本地类和敏感属性同质性的情况下。在确定局部同质性和公平性之间存在关系后,我们研究了不公平性问题是否与所应用的GNN模型的设计有关。我们表明,通过采用能够处理dispertative组标签的heterophilous GNN设计,在真实和合成数据集中,局部heterophilous邻域中的组公平性可以比homophilous设计提高高达25%。
2022-11-14 cs.CY cs.LG cs.SI
Learning Representations using Spectral-Biased Random Walks on Graphs
Indian Institute of Technology Hyderabad(印度理工学院海得拉巴分校)
几种最先进的神经图嵌入方法基于短随机游走(随机过程),因为它们易于计算、捕获复杂局部图属性的简单性、可扩展性和可解释性。在这项工作中,我们感兴趣的是研究在这个随机过程中的概率偏差会影响过程中挑选的节点的质量。特别是,我们的有偏行走,有一定的概率,有利于移动到节点的邻居承担结构相似的当前节点的邻居。我们简洁地捕捉这个邻域作为一个概率测度的基础上,表示为一个归一化的拉普拉斯矩阵的节点的邻域子图的频谱。我们建议使用一个新的Wasserstein正则化项的段落向量模型。我们经验评估我们的方法对几个国家的最先进的节点嵌入技术在各种各样的现实世界的数据集,并证明我们提出的方法显着改善现有的方法上的链接预测和节点分类任务。
2020-07-29 cs.LG cs.SI stat.ML
LayerPlexRank: Exploring Node Centrality and Layer Influence through Algebraic Connectivity in Multiplex Networks
本文提出LayerPlexRank算法,利用代数连通性指标和随机游走在多层网络中同时评估节点中心性与层影响力,有效捕捉跨层结构变化以增强排序鲁棒性,理论分析与真实数据集验证证实了其优越性。
2025-01-29 cs.IR cs.NI cs.SI
Gromov Centrality: A Multi-Scale Measure of Network Centrality Using Triangle Inequality Excess
中心性度量基于不同的几何或扩散属性量化网络中节点的重要性,并关注不同的尺度。在这里,我们采用几何的观点来定义网络中的多尺度中心性。给定节点之间的度量距离,我们通过三角形不等式超额的概念,通过节点接近其邻域中节点之间的测地线的趋势来测量节点的中心性。根据邻域的大小,所得到的Gromov中心性定义了图中不同尺度上节点的重要性,并恢复为限制众所周知的概念,如聚类系数和贴近度中心性。我们认为,Gromov中心性的影响的几何和边界约束的网络,并说明它如何可以帮助区分不同类型的节点在随机几何图形和经验运输网络。
2022-05-10 cs.SI physics.soc-ph
Role action embeddings: scalable representation of network positions
Facebook(脸书)
我们考虑在嵌入空间中将具有相似局部邻域的节点嵌入在一起的问题,通常称为“角色嵌入”。“我们提出了RAE,一个学习角色嵌入的无监督框架。它结合了一个节点内损失函数和一个图神经网络(GNN)架构,将具有相似局部邻域的节点放置在嵌入空间中。我们还提出了一种更快的方法来生成负例,称为邻居洗牌,它可以直接在批次中快速创建负例。这些技术可以很容易地与现有的GNN方法相结合,以大规模创建无监督的角色嵌入。然后,我们探索角色动作嵌入,它总结了节点邻域中的非结构特征,从而提高了节点分类任务的性能。我们发现,本文提出的模型架构在图和节点分类任务上都提供了强大的性能,在某些情况下可以与半监督方法竞争。
2018-12-03 cs.LG cs.SI
Exploring Low-degree Nodes First Accelerates Network Exploration
我们考虑类Web网络上的信息扩散以及随机游走如何模拟它。在这个领域中研究得很好的问题是部分覆盖时间,即,随机游走器访问网络节点的给定部分所需的预期步数的计算。我们注意到,一些最快的解决方案实际上需要节点完全了解其邻居的度分布,这在许多实际情况下是无法获得的,例如,出于隐私原因。因此,我们引入一个版本的封面问题,考虑这样的限制:部分覆盖时间与预算。预算是对可以检查其程度的邻居数量的限制;我们已经从文献中调整了最优随机游走策略,以在这样的预算下运行。我们的解决方案被称为最小度(MD),本质上,它使随机游走者倾向于首先访问网络的外围区域。在六个真实数据集上进行的广泛基准测试证明,-也许是违反直觉的策略-MD策略实际上是非常有竞争力的。最先进的掩护算法
2020-05-16 cs.SI physics.soc-ph
Exploring the Non-uniqueness of Node Co-occurrence Matrices of Hypergraphs
本研究针对超图投影到节点共现矩阵的非唯一性问题,提出搜索算法识别所有对应超图,分析运行时间与可并行性,并刻画非唯一条件,提供新框架与计算工具。
2025-06-20 cs.SI physics.soc-ph
Towards Adaptive Neighborhood for Advancing Temporal Interaction Graph Modeling
Fudan University(复旦大学);Ant Group(蚂蚁集团)
针对现有TGN依赖固定人工邻域规则的局限,提出即插即用的SEAN模型,通过代表性邻居选择与时序感知聚合实现自适应邻域编码,集成后可稳定提升多模型性能并达到SOTA水平。
2024-06-14 cs.AI cs.LG cs.SI
Reinforced Neighborhood Selection Guided Multi-Relational Graph Neural Networks
Beihang University(北京航空航天大学);University of Illinois at Chicago(伊利诺伊大学芝加哥分校);University of Leeds(利兹大学)
图神经网络(GNN)已被广泛用于各种结构化图数据的表示学习。虽然很有前途,但大多数现有的GNN过度简化了图中边的复杂性和多样性,因此无法有效地处理普遍存在的异构图,这些异构图通常是多关系图表示的形式。在本文中,我们提出了RioGNN,一种新的加强,递归和灵活的邻域选择引导的多关系图神经网络架构,导航复杂的神经网络结构,同时保持关系依赖的表示。首先根据实际任务构造一个多关系图,反映节点、边、属性和标签的异构性。为了避免不同类型节点之间的嵌入过度同化,我们采用了一种标签感知的神经相似性度量来确定基于节点属性的最相似邻居。一个增强的关系感知的邻居选择机制,选择最相似的邻居的目标节点在一个关系,然后聚合所有的邻居信息从不同的关系,以获得最终的节点嵌入。特别地,为了提高邻居选择的效率,我们提出了一种新的递归和可扩展的强化学习框架,具有可估计的深度和宽度的不同规模的多关系图。RioGNN可以通过过滤阈值机制识别每个关系的个体重要性,从而学习更多有区别的节点嵌入,增强了可解释性。在真实图数据和实际任务上的综合实验表明,与其他比较GNN模型相比,该模型在有效性、效率和模型可解释性方面都有很大的进步。
2021-10-05 cs.LG cs.SI
Scalable Attribute-Missing Graph Clustering via Neighborhood Differentiation
College of Computer Science and Technology, National University of Defense Technology(计算机科学与技术学院,国防科技大学);School of Computer Science and Technology, Hainan University(计算机科学与技术学院,海南大学)
针对大规模属性缺失图聚类,提出CMV-ND方法,通过递归邻域搜索和邻域差分构建互补视图,提升多视图聚类性能,在六个数据集上验证有效性。
2025-08-05 cs.AI cs.SI
On Generalized Degree Fairness in Graph Neural Networks
Singapore Management University(新加坡管理大学)
传统的图神经网络(GNN)经常面临公平性问题,这些问题可能源于其输入,包括节点属性和节点周围的邻居。虽然最近已经提出了几种方法来消除源于敏感属性的偏差,但它们忽略了GNN的其他关键输入,即节点的邻居,这可能会引入偏差,因为GNN依赖于邻域结构来生成节点表示。特别是,节点之间不同的邻域结构,表现在截然不同的节点度上,导致节点的不同行为和有偏见的结果。在本文中,我们首先定义和推广的度偏差使用一个广义的定义节点度的表现和量化不同的多跳结构周围不同的节点。为了解决节点分类中的偏差,我们提出了一种新的GNN框架,称为广义度公平中心图神经网络(Deg-FairGNN)。具体而言,在每个GNN层中,我们采用可学习的去偏置函数来生成去偏置上下文,该上下文调制逐层邻域聚合以消除源自节点之间不同程度的程度偏差。在三个基准数据集上的大量实验证明了我们的模型在准确性和公平性指标上的有效性。
2023-02-20 cs.LG cs.SI
A Generative Model for Exploring Structure Regularities in Attributed Networks
许多现实世界的网络被称为属性网络,包含两种类型的信息:拓扑信息和节点属性。如何利用这两类信息来探索结构性语义是一个具有挑战性的课题。本文通过刻画链路社区与节点属性之间的潜在关系,提出了一种生成链路拓扑和节点属性的原则性统计模型PSB_PG。该模型基于泊松分布的随机块模型。因此,它能够检测广泛的网络结构,包括社区结构,二分结构和其他混合结构。用于生成节点属性的模型假设节点属性是高维和稀疏的,并且也遵循泊松分布。这使得模型是一致的,模型参数可以直接估计的期望最大化(EM)算法。在人工网络和包含多种结构的真实网络上的实验结果表明,PSB_PG模型不仅具有与现有模型的竞争力,而且通过学习社区与其相关属性之间的关系,为每个社区提供了良好的语义解释.
2019-01-25 cs.SI physics.soc-ph
Practical Characterization of Large Networks Using Neighborhood Information
通过节点查询来表征大型在线社交网络(OSN)是一项具有挑战性的任务。OSN通常对查询速率施加严格的约束,因此将样本大小限制在整个网络的一小部分。各种adhoc子图抽样方法已被提出,但其中许多都给出了有偏估计,并没有理论基础的准确性。在这项工作中,我们专注于开发OSN的采样方法,查询节点也揭示了其邻居的部分结构信息。我们的方法针对NoSQL图数据库进行了优化(如果可以直接访问数据库),或者利用大多数主要OSN上可用的Web API进行图采样。我们表明,我们的抽样方法是一个无偏估计的可证明的收敛保证,它比目前最先进的方法更准确。我们的特征度量,如节点标签密度估计和边缘标签密度估计,两个最基本的网络特性,其他网络特性可以得出。我们使用本地API在多个实时网络上实时评估我们的方法。我们对各种离线数据集的模拟研究表明,通过包含邻域信息,我们的方法大大减少了(4倍)实现与最先进方法相同的估计精度所需的样本数量。
2013-11-13 cs.CY cs.SI physics.soc-ph
Exploring Temporal Networks with Greedy Walks
时间网络具有各种各样的异质性,从事件序列的突发性到节点和链路激活时间之间的相关性。在本文中,我们将探索后者通过使用贪婪的步行作为探针的时间网络结构。给定一个时间网络(一个接触序列),贪婪遍历总是从第一个可用的接触点开始从一个节点到另一个节点。正因为如此,它们的结构对涉及节点集之间重复接触的时间拓扑模式特别敏感。与时间参考模型相比,这一点在它们每步的小覆盖范围中变得很明显-在经验时间网络中,由于相关的接触模式,贪婪的行走经常被困在小的节点集内。虽然这也可能发生在具有明显社区结构的静态网络中,但时间参考模型的使用将潜在的静态网络结构排除在等式之外,并表明观察结果存在纯粹的时间原因。对贪婪游动结构的进一步分析表明,节点对之间重复接触的突发序列是主导因素。然而,也有更大的模式,如非回溯贪婪遍历所示。我们进一步研究了贪婪行走的熵率,并表明与时间不相关的引用相比,原始数据中已访问节点的序列更具结构性和可预测性。总之,这些结果表明,在时间网络的相关时间拓扑模式的丰富性。
2015-11-02 cs.SI physics.soc-ph
CONE-Align: Consistent Network Alignment with Proximity-Preserving Node Embedding
University of Michigan, Ann Arbor(密歇根大学安娜堡分校)
网络对齐是在不同图中找到节点之间的对应关系的过程,具有许多科学和工业应用。现有的无监督网络对齐方法找到了破坏节点邻域的次优对齐,即不保持匹配的邻域一致性。为了改善这一点,我们提出了CONE-Align,它用节点嵌入来模拟网络内的邻近度,并在对齐嵌入子空间后使用它们来匹配网络中的节点。在不同的、具有挑战性的数据集上进行的实验表明,CONE-Align是鲁棒的,在高噪声环境中,它的准确率平均比性能最好的最先进的图对齐算法高出19.25%。
2020-08-17 cs.LG cs.SI
Privacy and Uniqueness of Neighborhoods in Social Networks
在个人联系层面上分享社交网络数据的能力对科学是有益的:不仅是为了复制结果,而且对于那些可能希望将其用于数据共享者无法预见的目的的研究人员来说也是如此。然而,共享这些数据可能会导致严重的隐私问题,因为个人可能会被重新识别,不仅基于可能节点的属性,而且还基于其周围网络的结构。与重新识别相关的风险是可以衡量的,在某些网络中比在其他网络中更严重。已经提出了各种优化算法来匿名化网络,同时保持更改的数量最小。然而,现有的算法不能保证在哪里进行更改,因此很难量化它们对各种措施的影响。使用网络模型和真实数据,我们表明,网络的平均度是一个重要的参数,从节点的邻域重新识别风险的严重性。密集网络的风险更大,除了一小部分平均度值外,几乎所有节点都是可重新识别的,或者它们都是安全的。我们的研究结果使研究人员能够根据少量的网络统计数据来评估隐私风险,这些统计数据甚至在收集数据之前就可以获得。根据经验,如果平均度数超过10,则隐私风险很高。在此基础上,提出了一种基于边缘采样的简单方法来降低节点的重新识别风险。我们的方法已经可以在数据汇集阶段实现。它对各种网络测量的影响可以使用抽样理论进行估计和校正。这些属性与先前任意偏置数据的方法形成对比。从这个意义上说,我们的工作可以帮助以统计上易于处理的方式共享网络数据。
2020-09-21 cs.SI physics.soc-ph
A New Perspective to Node Influence Evaluation in Complex Network Using Subgraph Tr-Centrality
本文提出Tr-中心性,利用节点三角形结构与邻域信息评估复杂网络节点影响力,并在四个真实网络上验证其优于现有方法。
2024-08-02 cs.SI
Community Detection Using A Neighborhood Strength Driven Label Propagation Algorithm
研究大型社交网络中的社区结构和演化需要一种快速准确的社区发现算法。随着所分析的社区的大小增长,社区发现算法的复杂度需要保持接近线性。标签传播算法(LabelPropagationAlgorithm,LPA)具有近似线性的运行时间和易于实现的优点,为有效的社区发现方法奠定了良好的基础。在本文中,我们提出了新的更新规则和标签传播准则在LPA,以提高其计算效率和社区的质量,它检测。通过避免由原始算法执行的不必要的更新来优化速度。这一变化大大减少了(对于大型网络来说是数量级的)算法执行的迭代次数。我们还评估了我们的LPA更新规则的泛化,该规则考虑到了不同的强度,与考虑新标签的节点的邻域的连接。计算机生成的网络和广泛的社交网络上的实验表明,我们的新规则提高了检测到的社区的质量相比,原来的LPA。考虑正邻域强度的好处是显着的,特别是在现实世界的网络包含足够大的分数的节点具有高聚类系数。
2011-05-17 cs.SI physics.soc-ph
Adaptive Neighborhood Graph Construction for Inference in Multi-Relational Networks
University of Maryland, College Park(马里兰大学帕克分校);University of California, Santa Cruz(加利福尼亚大学圣克鲁兹分校)
邻域图将实例表示为顶点,将它们的关系表示为加权边,是许多用于节点标记和链接预测的半监督和关系模型的基础。大多数方法采用顺序过程来构造邻域图。该过程通常包括生成候选图,修剪候选图以形成邻域图,然后对变量执行推断(即,节点)在邻域图中。在本文中,我们提出了一个框架,可以动态地适应邻居图的基础上的状态变量从中间推理结果,以及连接它们的关系的结构属性。我们的框架的一个关键优势是它能够处理多关系数据,并根据中间推理结果为每个实例采用不同数量的关系。我们制定的链接预测任务作为推理的邻域图,并包括初步结果,说明在我们提出的框架中的不同策略的影响。
2016-07-02 cs.AI cs.LG cs.SI
Graph Neighborhood Attentive Pooling
School of Electrical Engineering and Computer Science(电气工程与计算机科学学院);Royal Institute of Technology (KTH)(皇家理工学院(KTH));Stockholm(斯德哥尔摩)
网络表示学习(NRL)是一种用于学习高维稀疏图的低维向量表示的强大技术。大多数研究使用随机游走探索与图相关联的结构和元数据,并采用无监督或半监督学习方案。这些方法中的学习是与上下文无关的,因为每个节点只学习一个表示。最近的研究争论的充分性,一个单一的表示,并提出了一个上下文敏感的方法,被证明是非常有效的应用,如链接预测和排名。然而,这些方法中的大多数依赖于额外的文本特征,这些特征需要RNN或CNN来捕获高级特征,或者依赖于社区发现算法来识别节点的多个上下文。在这项研究中,不需要额外的功能,也不需要社区发现算法,我们提出了一种新的上下文敏感的算法称为GAP,学习参加一个节点的邻居的不同部分使用细心的池网络。我们使用三个真实世界的数据集上的链接预测和节点聚类任务的GAP的功效,并将其与10个流行的和最先进的(SOTA)基线进行比较。GAP始终优于它们,并分别在链接预测和聚类任务上实现了高达9%和20%的增益。
2020-01-29 cs.LG cs.SI stat.ML
Multi-scale Attributed Node Embedding
The University of Edinburgh(爱丁堡大学);School of Informatics(信息学院)
我们提出了网络嵌入算法,从节点周围的节点属性的局部分布中捕获有关节点的信息,如在随机游动中观察到的,遵循类似于Skip-gram的方法。在多个尺度上捕获属性-邻域关系对于各种各样的应用都很有用,包括具有相似属性的断开连接的网络中的潜在特征识别。我们从理论上证明了节点特征逐点互信息矩阵被嵌入隐式分解。实验表明,我们的算法是强大的,计算效率和性能优于可比模型上的社交网络和网络图。
2021-03-21 cs.LG cs.NI cs.SI
Is a Single Vector Enough? Exploring Node Polysemy for Network Embedding
Texas A&M University(得克萨斯农工大学);Alibaba Group(阿里巴巴集团)
网络已经被广泛地用作用于抽象现实世界系统以及组织实体之间的关系的数据结构。网络嵌入模型是将网络中的节点映射到连续向量空间表示中的强大工具,以便于后续任务,例如分类和链接预测。现有的网络嵌入模型综合了每个节点的所有信息,如链接和属性,向一个单一的嵌入向量来表示节点在网络中的一般角色。然而,现实世界的实体可能是多方面的,由于不同的动机或不一定相关的自我特征,它连接到不同的社区。例如,在电影推荐系统中,用户可能同时喜欢喜剧或恐怖电影,但是这两种类型的电影在嵌入空间中不太可能相互接近,用户嵌入向量也不可能同时充分接近它们。在本文中,我们提出了一个多义嵌入方法建模节点的多个方面,作为语言建模中的单词多义现象的动机。节点的每个面被映射为一个嵌入向量,同时我们还保持每对节点和面之间的关联度。所提出的方法是适应各种现有的嵌入模型,而不会显着复杂的优化过程。我们还讨论了如何将不同方面的嵌入向量用于推理任务,包括分类和链接预测。在真实数据集上的实验有助于全面评估所提出的方法的性能。
2019-05-25 cs.IR cs.LG cs.SI
Your most telling friends: Propagating latent ideological features on Twitter using neighborhood coherence
Sciences Po(巴黎政治学院);reciTAL
网络中的多维标度允许通过在某些特征空间中嵌入节点来发现关于其结构的潜在信息。Twitter等社交网络中用户的意识形态缩放就是一个例子,但类似的设置可以包括其他网络甚至媒体平台或电子商务中的各种应用程序。关于社交网络中意识形态缩放方法的文献越来越多,将缩放过程限制在提供特征空间可解释性的节点上:在Twitter上,通常考虑议员及其追随者的子网络。这允许将推断的潜在特征解释为与意识形态相关的概念的指标,以检查议会成员的位置。虽然有效地推断有意义的功能,这通常是限制这些子网络,限制有趣的应用,如全国范围内的测量极化及其演变。我们提出了两种方法来传播这些子网络之外的意识形态特征:一种是基于同质性(链接的用户具有相似的意识形态),另一种是基于结构相似性(具有相似邻域的节点具有相似的意识形态)。在我们的方法中,我们利用邻里意识形态一致性的概念作为传播的参数。使用Twitter的数据,我们产生了一个意识形态的缩放为370K用户,并分析了两个家庭的传播方法的人口6.5万用户。我们发现,当一致性被认为是,一个用户的意识形态是更好地估计从那些具有相似的社区,比从他们的近邻。
2021-03-12 cs.AI cs.SI
Fusion Graph Convolutional Networks
Indian Institute of Technology Madras(马德拉斯印度理工学院);University of Massachusetts, Amherst(马萨诸塞大学阿默斯特分校);Ohio State University(俄亥俄州立大学)
属性图中的半监督节点分类,即,具有节点特征的图,涉及学习在给定部分标记的图的情况下对未标记的节点进行分类。标签预测是通过对节点及其邻域特征进行联合建模来进行的。在这种属性图上进行节点分类的最新模型使用可微递归函数,该函数能够聚合和过滤来自多跳的邻域信息。在这项工作中,我们分析了这些模型的表示能力,以调节信息从多个跳独立。从我们的分析中,我们得出结论,这些模型,尽管是强大的,有有限的表示能力,有效地捕捉多跳邻域信息。此外,我们还提出了一个数学动机,但简单的扩展现有的图卷积网络(GCN),提高了表示能力。我们广泛地评估了所提出的模型,F-GCN八个流行的数据集从不同的领域。F-GCN在六个数据集上的表现优于最先进的半监督学习模型,同时在其他两个数据集上极具竞争力。
2018-09-21 cs.LG cs.SI stat.ML
Exploring Partially Observed Networks with Nonparametric Bandits
Tokyo Institute of Technology(东京工业大学)
现实世界的网络,如社交和通信网络,太大了,无法完全观察到。这样的网络经常被部分地观察到,使得网络大小、网络拓扑和原始网络的节点是未知的。在本文中,我们形式化的自适应图探索问题。我们假设我们得到了一个大型网络的不完整快照,并且可以通过查询当前观察到的网络中的节点来发现其他节点。这个问题的目标是在给定的查询预算内最大化观察到的节点的数量。查询哪一组节点最大化所观察到的网络的大小?我们制定这个问题作为一个探索-开发问题,并提出了一种新的非参数多臂强盗(MAB)算法,用于确定哪些节点被查询。我们的贡献包括:(1)$i$ KNN-UCB算法是一种新的非参数MAB算法,它将$k$ -最近邻UCB算法应用于向量空间中臂的设置,(2)从理论上保证了$i$ KNN-UCB算法具有次线性遗憾,(3)将$i$ KNN-UCB算法应用于不同领域的合成网络和真实网络,我们表明,我们的方法发现高达40%以上的节点相比,现有的基线。
2018-04-19 cs.LG cs.SI stat.ML
A Fast Sampling Method of Exploring Graphlet Degrees of Large Directed and Undirected Graphs
探索小连通和诱导子图模式(CIS模式,或graphlets)最近引起了相当大的关注。尽管最近在计算实例的数量上做出了努力,但是特定的小图出现在大型图中(即,同构于小图的CIS的总数),很少关注表征节点的小图度,即,同构于包含节点的小图的CIS的数量,这是分析诸如社交和生物网络的复杂网络的重要度量。与全局图计数类似,由于问题的组合性质,计算大型图的节点图度是具有挑战性的。不幸的是,以前计算全局graphlet计数的方法不适合解决这个问题。本文提出了无向图和有向图节点度的抽样估计方法,并分析了估计的误差。据我们所知,我们是第一个研究这个问题,并给出一个快速可扩展的解决方案。我们在各种真实数据集上进行实验,证明我们的方法可以准确有效地估计具有数百万条边的图的节点graphlet度。
2016-04-29 cs.SI
Exploring Unknown Social Networks for Discovering Hidden Nodes
本文提出基于机器学习的图探索框架解决未知社交网络中Sybil节点、外围节点和影响者等隐藏节点发现问题,实验表明其查询成本接近已知拓扑时的水平,并利用bandit算法结合节点嵌入模型实现了广泛场景下的高效发现。
2025-04-28 cs.CY cs.SI
Local, global and scale-dependent node roles
RWTH Aachen University(亚琛工业大学)
本文重新审视了节点等价的概念,如结构等价或自守等价,这最初出现在社会网络分析中,以表征一个演员在社会系统中扮演的角色,但从那时起,基于图的学习任务的独立兴趣。传统上,这种精确的节点等价已经被定义在一个节点的一跳邻域,或在全球的图形结构。在这里,我们用一个标度参数形式化了精确的节点角色,描述了在分配节点角色时应该考虑节点的自我网络的距离--这是由这样一个想法驱动的:节点的局部角色不应该由网络中任意远处的节点来确定。我们提出了数值实验,显示如何已经“浅”的深度3或4的角色进行足够的信息,以执行节点分类任务的高精度。这些发现证实了最近的图形学习方法的成功,计算近似节点的嵌入方面的角色,通过非线性聚合节点功能在一个(非)监督的方式在相对较小的邻域大小。事实上,基于我们的想法,我们可以构建一个浅层分类器,实现与最近的图神经网络架构的同等结果。
2021-05-26 cs.LG cs.SI
Exploring Edge Disentanglement for Node Classification
The Pennsylvania State University(宾夕法尼亚州立大学)
现实世界图中的边通常由各种因素形成,并且具有不同的关系语义。例如,社交网络中的连接可以表示友谊,同事或住在同一个社区。然而,由于数据汇集和图形形成过程,这些潜在因素通常被隐藏在仅仅边缘存在的后面。尽管这些年来图学习发展迅速,但大多数模型都采用整体方法,并将所有边视为平等。理清边缘的一个主要困难是缺乏明确的监督。在这项工作中,仔细检查的边缘模式,我们提出了三个算法和设计三个相应的借口任务,以指导自动边缘解开。具体地说,这些自我监督的任务是强制执行设计的边缘解纠缠模块与下游节点分类任务,以鼓励自动边缘解纠缠。解纠缠模块的通道预期捕获可区分的关系和邻域交互,并且将它们的输出聚合为节点表示。所提出的DisGNN很容易与各种神经架构相结合,我们在$6$真实世界的数据集上进行了实验。实验结果表明,它可以实现显着的性能增益。
2022-02-23 cs.LG cs.SI
Can GNNs Learn Link Heuristics? A Concise Review and Evaluation of Link Prediction Methods
Faculty of Engineering and Information Technology, University of Technology Sydney(工程与信息技术学院,悉尼大学);Faculty of Engineering and Information Sciences, University of Wollongong(工程与信息科学学院,沃林戈大学);College of Electrical Engineering, Zhejiang University(电气工程学院,浙江大学)
本文研究了图神经网络在链接预测中的能力,发现可训练节点嵌入能提升性能,且图密度越高提升越显著,为未来算法发展提供指导。
2025-12-07 cs.LG cs.SI
Learning Structural Node Embeddings Via Diffusion Wavelets
Stanford University(斯坦福大学)
驻留在图的不同部分中的节点可以在其本地网络拓扑中具有类似的结构角色。这些角色的识别提供了对网络组织的关键洞察,并可用于各种机器学习任务。然而,学习节点的结构表示是一个具有挑战性的问题,它通常涉及手动指定和裁剪每个节点的拓扑特征。在本文中,我们开发了GraphWave,一种通过利用热小波扩散模式的低维嵌入来表示每个节点的网络邻域的方法。GraphWave不是在手工选择的特征上进行训练,而是以无监督的方式学习这些嵌入。我们在数学上证明了具有相似网络邻域的节点将具有相似的GraphWave嵌入,即使这些节点可能位于网络的不同部分,并且我们的方法随边的数量线性扩展。在各种不同环境下的实验证明了GraphWave在捕捉网络结构角色方面的现实潜力,我们的方法在每个实验中的表现都超过了现有的最先进的基线,高达137%。
2018-06-20 cs.LG cs.SI stat.ML
Hierarchical Graph Convolutional Networks for Semi-supervised Node Classification
University of Chinese Academy of Sciences(中国科学院大学);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所)
图卷积网络(GCN)已成功应用于网络挖掘的节点分类任务。然而,大多数基于邻域聚集的模型通常是肤浅的,缺乏“图池”机制,这使得模型无法获得足够的全局信息。为了增加感受野,我们提出了一种新的深度层次图卷积网络(H-GCN)的半监督节点分类。H-GCN首先重复地将结构相似的节点聚合为超节点,然后将粗化的图细化为原始图,以恢复每个节点的表示。而不是仅仅聚集一跳或两跳的邻居信息,建议的粗化过程扩大了每个节点的感受野,因此更多的全球信息可以被捕获。所提出的H-GCN模型在各种公共基准图数据集上表现出强大的经验性能,优于最先进的方法,并在准确性方面获得高达5.9%的性能提升。此外,当只提供少量标记样本时,我们的模型获得了实质性的改进。
2019-06-10 cs.LG cs.SI stat.ML
How to Find Your Friendly Neighborhood: Graph Attention Design with Self-Supervision
KAIST(韩国科学技术院)
图神经网络中的注意力机制被设计为向重要的邻居节点分配更大的权重以更好地表示。然而,图形注意力学习的是什么还没有很好地理解,特别是当图形是嘈杂的。在本文中,我们提出了一个自监督图注意力网络(SuperGAT),一个改进的图注意力模型的噪声图。具体来说,我们利用两个注意力形式兼容的自我监督任务来预测边缘,其存在和不存在包含的固有信息的重要性节点之间的关系。通过对边进行编码,SuperGAT在区分错误链接的邻居时学习到更多的表达注意力。我们发现两个图形特征影响注意形式和自我监督的有效性:同质性和平均度。因此,我们的配方提供了指导,当这两个图形特征已知时,使用哪种注意力设计。我们在17个真实数据集上的实验表明,我们的配方可以推广到其中的15个数据集,并且我们通过配方设计的模型显示出比基线更好的性能。
2022-04-11 cs.AI cs.LG cs.SI
GraphReach: Position-Aware Graph Neural Network using Reachability Estimations
Indian Institute of Technology Kanpur(印度理工学院坎普尔分校);Indian Institute of Technology Delhi(印度理工学院德里分校)
大多数现有的图神经网络(GNN)学习节点嵌入,编码其局部邻域,但不编码其位置。因此,两个相距甚远但位于相似局部邻域的节点映射到这些网络中的相似嵌入。这种限制妨碍了依赖于位置信息的预测任务的准确性能。在本文中,我们开发了GraphReach,一个位置感知的归纳GNN,通过相对于一组锚节点的可达性估计来捕获节点的全局位置。锚被策略性地选择,使得跨所有节点的可达性估计被最大化。我们发现,这种组合锚选择问题是NP-困难的,因此,开发一个贪婪的(1-1/e)近似启发式。对最先进的GNN架构的实证评估表明,GraphReach在准确性方面提供了高达40%的相对提高。此外,它对对抗攻击也更加鲁棒。
2021-08-20 cs.LG cs.SI stat.ML