2-hop Neighbor Class Similarity (2NCS): A graph structural metric indicative of graph neural network performance
Huawei Munich Research Center（华为慕尼黑研究中心）
图神经网络（GNN）在众多领域的图结构数据上实现了最先进的性能。它们将节点表示为其邻近区域的摘要的潜在能力已被证明对同构图特别有效，其中相同类型的节点倾向于连接。在不同类型的节点可能连接的异质图上，GNN的表现不太一致，因为邻域信息可能不太具有代表性，甚至具有误导性。另一方面，GNN的性能在所有异质图上都不差，并且缺乏对其他图形属性影响GNN性能的理解。在这项工作中，我们强调了广泛使用的同质比和最近的跨类邻域相似性（CCNS）度量在估计GNN性能方面的局限性。为了克服这些限制，我们引入了2跳邻居类相似性（2NCS），这是一种新的定量图形结构属性，与GNN性能的相关性比其他指标更强，更一致。2NCS认为两跳的邻居作为一个理论推导的两步标签传播过程的结果支配GCN的训练推理过程。一个合成和八个真实世界的图数据集上的实验证实了在估计基于GCN和GAT的架构对节点分类任务的准确性方面，与现有指标相比的一致改进。
2022-12-26 cs.LG
Graph Entropy Minimization for Semi-supervised Node Classification
University of Electronic Science and Technology of China（电子科技大学）
本文提出图熵最小化（GEM）方法，通过一跳聚合未标记节点同时降低预测误差、训练资源与推理延迟，并支持小批量随机训练和在线知识蒸馏加速，适用于资源受限的工业级半监督节点分类任务。
2023-05-31 cs.LG
Structure-Aware Multi-Hop Graph Convolution for Graph Neural Networks
Tokyo University of Agriculture and Technology（东京农工大学）；Tokyo University of Agriculture（东京农业大学）
在本文中，我们提出了一个空间图卷积（GC）分类信号的图。现有的GC方法仅限于使用特征空间中的结构信息。此外，GC的单步的仅使用来自目标节点的一跳相邻节点上的特征。在本文中，我们提出了两种方法来提高GC的性能：1）利用特征空间中的结构信息，2）在一个GC步骤中利用多跳信息。在第一种方法中，我们在特征空间中定义了三个结构特征：特征角度、特征距离和关系嵌入。第二种方法聚合GC中多跳邻居的节点特征。这两种方法可以同时使用。我们还提出了图神经网络（GNNs）集成了所提出的GC，用于对3D点云和引文网络中的节点进行分类。在实验中，所提出的GNNs表现出比现有方法更高的分类准确率。
2021-12-03 cs.CV cs.LG
NAGphormer: A Tokenized Graph Transformer for Node Classification in Large Graphs
Huazhong University of Science and Technology（华中科技大学）
图Transformer作为一种新的体系结构出现，并在各种图挖掘任务上显示出卓越的性能。在这项工作中，我们观察到，现有的图Transformers处理节点作为独立的令牌，并构造一个单一的长序列组成的所有节点令牌，以便训练的Transformer模型，导致它很难扩展到大的图，由于二次复杂性的节点数量的自注意力计算。为此，我们提出了一个邻域聚合图Transformer（NAGphormer），它将每个节点视为一个序列，其中包含一系列由我们提出的Hop2Token模块构建的令牌。对于每个节点，Hop2Token将来自不同跳的邻域特征聚合成不同的表示，从而产生一系列令牌向量作为一个输入。通过这种方式，NAGphormer可以以小批量的方式进行训练，从而可以扩展到大型图形。此外，我们在数学上表明，相比一类先进的图神经网络（GNN），解耦的图卷积网络，NAGphormer可以学习更多的信息节点表示从多跳的邻居。在从小到大的基准数据集上进行了广泛的实验，以证明NAGphormer始终优于现有的图Transformers和主流GNN。代码可在https://github.com/JHL-HUST/NAGphormer上获得。
2023-02-27 cs.AI cs.LG
Fine-tuning Multi-hop Question Answering with Hierarchical Graph Network
针对多跳问答问题，本文提出两阶段模型：第一阶段通过分层图网络利用文档结构捕捉不同粒度并转化为节点分类任务以筛选拼接支持句，第二阶段基于语言模型微调寻找答案跨度，提升多跳推理与答案定位能力。
2025-04-13 cs.AI cs.CL cs.LG
k-hop Graph Neural Networks
École Polytechnique（巴黎综合理工学院）；Athens University of Economics and Business（雅典经济与商业大学）
图神经网络（GNN）最近已经成为用于学习节点和图表示的强大架构。标准GNN在区分非同构图方面具有与图同构的Weisfeiler-Leman测试相同的表达能力。然而，最近的研究表明，该测试无法识别基本的图形属性，如连通性和三角形自由度。我们证明了GNN也受到同样的限制。为了解决这个限制，我们提出了一个更具表现力的架构，k-hop GNNs，它通过聚合不仅来自其直接邻居，而且来自其k-hop邻域的信息来更新节点的表示。我们表明，所提出的架构可以识别基本的图形属性。我们评估标准的节点分类和图分类数据集的建议架构。我们的实验评估证实了我们的理论研究结果，因为所提出的模型实现了更好的性能或与标准GNN和最先进的算法相当。
2020-08-09 cs.LG stat.ML
Noise-Resilient Unsupervised Graph Representation Learning via Multi-Hop Feature Quality Estimation
Guangxi University（广西大学）；Griffith University（格里菲斯大学）；Monash University（莫纳什大学）
针对无监督图表征学习在节点特征含噪时性能下降的问题，提出基于多跳特征质量估计（MQE）的方法，利用高斯模型和可学习的“元表征”估计多跳传播特征质量，生成抗噪的高质量节点表征，提升下游任务表现。
2024-07-29 cs.AI cs.LG
Multi-hop Attention Graph Neural Network
JD AI Research（京东人工智能研究院）；Stanford University（斯坦福大学）
图神经网络的自注意机制在许多图表示学习任务上具有最先进的性能。目前，在每一层，注意力都是在连接的节点对之间计算的，并且仅仅取决于两个节点的表示。然而，这种注意力机制不考虑不直接连接但提供重要网络上下文的节点。在这里，我们提出了多跳注意力图神经网络（MAGNA），一个原则性的方法，将多跳上下文信息到每一层的注意力计算。MAGNA将注意力分数扩散到整个网络，从而增加GNN每一层的感受野。与以前的方法不同，MAGNA使用注意力值的扩散先验，以有效地解释断开连接的节点对之间的所有路径。我们在理论和实验中证明，MAGNA捕获大规模的结构信息，在每一层，并具有低通效应，消除噪声的高频信息从图形数据。节点分类以及知识图谱完成基准测试的实验结果表明，MAGNA实现了最先进的结果：MAGNA实现了高达5.7%的相对错误减少比以前的最先进的Cora，Citeseer和Pubmed。MAGNA还在大规模Open Graph Benchmark数据集上获得了最佳性能。在知识图谱完成方面，MAGNA在WN 18 RR和FB 15 k-237上的四个不同性能指标上都达到了最先进的水平。
2021-08-25 cs.LG stat.ML
NEAR: Neighborhood Edge AggregatoR for Graph Classification
POSTECH（浦项科技大学）；University of California, San Diego（加利福尼亚大学圣迭戈分校）
由于图神经网络在生物信息学、化学信息学、社会网络分析和数据采掘等领域的广泛应用，它在图结构数据学习中的应用已成为近年来的一个重要研究领域。最近的GNN算法基于神经消息传递，这使得GNN能够递归地集成局部结构和节点特征。然而，过去的GNN算法的基础上1跳邻域神经消息传递暴露于局部结构和关系的信息丢失的风险。在本文中，我们提出了Neighborhood Edge AggregatoR（NEAR），这是一个通过边缘聚集邻域中节点之间关系的框架。NEAR可以与图同构网络（GIN）正交结合，提供描述邻域中哪些节点连接的综合信息。因此，NEAR可以反映1跳邻域中的节点本身之外的每个节点的局部结构的附加信息。多个图分类任务的实验结果表明，我们的算法比其他现有的基于1-hop的基于GNN的算法有很好的改善。
2021-12-15 cs.LG stat.ML
From Node Interaction to Hop Interaction: New Effective and Scalable Graph Learning Paradigm
Fudan University（复旦大学）
本文提出跳数交互范式及HopGNN框架，将节点间交互转化为节点内多跳特征交互，并引入自监督多任务学习，在12个基准数据集上验证了其优越性能、可扩展性和效率。
2023-04-13 cs.LG
Gate the Filter, Not the Message: Node-Channel Mixtures for Pre-Propagation GNNs
School of Electrical and Computer Engineering, Cornell University（康奈尔大学电气与计算机工程学院）
针对预传播图神经网络中复杂跳聚合器性能不佳的问题，提出FilterMoE模型，通过3D门控张量联合路由节点和通道上的可学习切比雪夫滤波器专家，在11个同质和异质基准测试中平均提升1.53个测试分数。
2026-06-01 cs.LG
HopGAT: Hop-aware Supervision Graph Attention Networks for Sparsely Labeled Graphs
Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）
由于标记节点的成本，在保持预测精度的同时对稀疏标记图中的节点进行分类值得关注。算法的关键是如何从多个不同跳距的邻居节点中学习到足够的信息。本研究首先提出一个跳感知的注意力监督机制的节点分类任务。然后采用模拟退火学习策略来平衡两个学习任务，节点分类和跳感知注意系数，沿训练时间轴。实验结果表明，与现有模型相比，所提出的HopGAT模型具有更好的性能.特别是对于蛋白质-蛋白质相互作用网络，在40%标记图中，与完全标记图相比，性能损失仅为3.9%，从98.5%到94.6%。大量的实验也证明了监督注意系数和学习策略的有效性。
2020-04-09 cs.LG stat.ML
Hop-Count Based Self-Supervised Anomaly Detection on Attributed Networks
Eindhoven University of Technology（埃因霍温理工大学）
近年来，由于属性网络的异常检测问题在研究和实践中的重要性，引起了人们极大的兴趣。虽然已经提出了各种方法来解决这个问题，但存在两个主要限制：（1）由于缺乏监督信号，无监督方法通常效率低得多，以及（2）现有的异常检测方法仅使用本地上下文信息来检测异常节点，例如，一跳或两跳信息，但忽略全局上下文信息。由于异常节点与正常节点在结构和属性上存在差异，因此如果我们去除连接异常节点和正常节点的边，则直觉上异常节点与其邻居之间的距离应该大于正常节点与其邻居之间的距离。因此，基于全局和局部上下文信息的跳数可以用作异常的指示器。出于这种直觉，我们提出了一个基于跳数的模型（HCM），通过对本地和全局上下文信息进行建模来检测异常。为了更好地利用跳数进行异常识别，我们建议使用跳数预测作为一个自我监督的任务。我们设计了两个异常分数的基础上通过HCM模型的跳数预测来识别异常。此外，我们使用贝叶斯学习来训练HCM模型，以捕捉学习参数中的不确定性并避免过拟合。在真实属性网络上的大量实验表明，我们提出的模型是有效的异常检测。
2022-07-02 cs.LG cs.SI
Graph Hopfield Networks: Energy-Based Node Classification with Associative Memory
Equal contribution（共同贡献）
图Hopfield网络结合联想记忆与图拉普拉斯平滑，通过能量下降实现节点分类，提升稀疏网络和特征遮蔽下的性能，并在异质性基准测试中表现优异。
2026-03-03 cs.AI cs.IR cs.LG
HOPF: Higher Order Propagation Framework for Deep Collective Classification
Indian Institute of Technology Madras（印度理工学院马德拉斯分校）；University of Massachusetts, Amherst（马萨诸塞大学阿默斯特分校）；Ohio State University（俄亥俄州立大学）
给定一个图，其中每个节点都有与之关联的某些属性，并且一些节点有与之关联的标签，集体分类（CC）是使用来自节点及其邻居的信息为每个未标记的节点分配标签的任务。通常情况下，节点不仅受到其直接邻居的影响，而且还受到多跳远的高阶邻居的影响。最近的最先进的CC模型学习Weisfeiler-Lehman（WL）内核的端到端可微变化，以聚合多跳邻域信息。在这项工作中，我们提出了一个高阶传播框架，HOPF，它提供了一个迭代推理机制，这些强大的可微内核。经典迭代推理机制与最近的可微内核的这种组合允许框架学习同时利用邻域中可用的属性和标签信息的图卷积滤波器。此外，这些迭代可微内核可以扩展到超过现有可微内核的存储器限制的更大跳数。我们还表明，现有的WL基于内核的模型遭受节点信息变形的问题，其中节点的信息变形或淹没时，考虑多跳的邻居的信息。为了解决这个问题，我们提出了HOPF的一个特定实例，称为NIP模型，它在每个传播步骤中保留节点信息。NIP模型的迭代公式化进一步有助于将远距离跳信息简洁地合并为推断标签的摘要。我们对来自不同领域的11个数据集进行了广泛的评估。我们发现，现有的CC模型不提供跨数据集一致的性能，而建议的NIP模型与迭代推理是更强大的。
2018-11-13 cs.LG cs.SI stat.ML
k-hop Fairness: Addressing Disparities in Graph Link Prediction Beyond First-Order Neighborhoods
LTCI, Télécom Paris（LTCI，巴黎电信学院）；i3, Télécom Paris（i3，巴黎电信学院）
本文提出k-hop公平性方法，用于解决图链接预测中超越一阶邻域的结构性不平等问题，通过预处理和后处理策略提升公平性与性能的平衡。
2026-03-04 cs.LG
Deep Declarative Networks: A New Hope
Australian National University（澳大利亚国立大学）；Australian Centre for Robotic Vision（澳大利亚机器人视觉中心）
我们探索了一类新的端到端可学习模型，其中数据处理节点（或网络层）是根据所需的行为而不是显式的转发函数来定义的。具体来说，前向函数被隐式地定义为数学优化问题的解。与程序设计语言社区的命名法一致，我们将这些模型命名为深度声明网络。重要的是，我们证明了深度声明性网络的类别包含了当前的深度学习模型。此外，调用隐函数定理，我们展示了梯度如何通过许多声明定义的数据处理节点反向传播，从而实现端到端学习。我们展示了如何在流行的PyTorch深度学习软件库中实现这些声明性处理节点，允许声明性和命令性节点在同一网络中共存。我们还提供了大量的见解和说明性的例子声明节点，并展示了他们的应用程序的图像和点云分类任务。
2020-02-27 cs.AI cs.CV cs.LG
BAG: Bi-directional Attention Entity Graph Convolutional Network for Multi-hop Reasoning Question Answering
The University of Sydney（悉尼大学）；Tencent Robotics X（腾讯机器人X实验室）
多跳推理问答需要深入理解各种文档和查询之间的关系。我们提出了一个双向注意实体图卷积网络（BAG），利用实体图中的节点之间的关系和查询和实体图之间的注意力信息，来解决这个问题。图卷积网络用于获得从具有多级特征的文档构建的实体图的节点的关系感知表示。然后，双向注意力应用于图和查询，以生成查询感知节点表示，这将用于最终的预测。实验评估表明，BAG在QAngaroo WIKIHOP数据集上实现了最先进的精度性能。
2019-04-10 cs.AI cs.CL cs.LG
Bipartite Link Prediction based on Topological Features via 2-hop Path
Korea University（高丽大学）
现实世界中的各种系统都可以建模为二分网络。线性图自动编码器（LGAE）是链接预测中功能最强大、最简单的方法之一，它在链接预测和节点聚类等具有挑战性的任务中具有良好的性能。LGAE依赖于简单的线性模型w.r.t.图的邻接矩阵来学习节点的向量空间表示。在本文中，我们考虑的情况下，二分链接预测的节点属性是不可用的。当使用LGAE时，我们建议将重建的邻接矩阵与对称归一化的训练邻接矩阵相乘。其结果是，2跳路径形成，我们使用的预测邻接矩阵来评估我们的模型的性能。在合成数据集和真实数据集上的实验结果表明，我们的方法在12个二分数据集中的10个数据集上始终优于Graph Autoencoder和Linear Graph Autoencoder模型，并在另外2个二分数据集上达到了竞争性性能。
2020-03-19 cs.LG cs.SI stat.ML
Half-Hop: A graph upsampling approach for slowing down message passing
Georgia Tech（佐治亚理工学院）；DeepMind（深度思维）
本文提出 Half-Hop 图上采样框架，通过在边上插入慢节点减缓消息传递，缓解过度平滑与异配问题，并可生成多尺度自监督增强视图。
2026-10-06 cs.LG cs.SI stat.ML
Multi-hop assortativities for networks classification
Institute for Information and Communication Technologies Electronics and Applied Mathematics (ICTEAM)（信息与通信技术、电子与应用数学研究所（ICTEAM））；Université catholique de Louvain（鲁汶天主教大学）；Center for Operations Research and Econometrics (CORE)（运筹学与计量经济学中心（CORE））
一些社会、医学、工程和生物学挑战依赖于从网络的结构和节点元数据中发现网络的功能。例如，在化学信息学中，人们可能希望根据结构和原子类型检测分子是否有毒，或者发现科学合作网络的研究领域。现有技术依赖于计算或测量已知显示网络之间的大变化的结构模式，例如三角形的数量或节点元数据的重复性。我们引入了多跳重复性的概念，它捕获了位于给定长度的随机选择的路径的端点处的节点的相似性。我们表明，多跳的可追溯性统一了各种现有的概念，并提供了一个通用的家庭的“指纹”来表征网络。在机器学习工具箱的帮助下，这些指纹又允许恢复网络的功能。我们的方法是根据既定的社会和化学信息网络基准进行经验评估的。结果表明，我们的自主性为基础的功能是有竞争力的，提供高度准确的结果往往优于最先进的方法的网络分类任务。
2018-11-16 cs.LG cs.SI stat.ML
