On the Unreasonable Effectiveness of Feature propagation in Learning on Graphs with Missing Node Features
Twitter（推特）；Imperial College London（伦敦帝国理工学院）；University of Oxford（牛津大学）
虽然图神经网络（GNN）最近已经成为关系数据建模的事实标准，但它们对图的节点或边特征的可用性施加了很强的假设。然而，在许多现实世界的应用程序中，功能只能部分使用;例如，在社交网络中，年龄和性别仅对一小部分用户可用。我们提出了一个通用的方法来处理丢失的功能图机器学习应用程序，是基于最小化的Dirichlet能量，并导致一个扩散型微分方程的图形。这个方程的离散化产生了一个简单，快速和可扩展的算法，我们称之为特征传播。我们的实验表明，所提出的方法优于以前的方法在七个常见的节点分类基准，可以承受惊人的高比率的丢失功能：平均而言，我们观察到只有约4%的相对准确度下降时，99%的功能丢失。而且，在单个GPU上运行一个拥有$\sim$ 250万个节点和$\sim$ 123万条边的图，只需要10秒。
2022-05-23 cs.LG
GIPA: A General Information Propagation Algorithm for Graph Learning
Fudan University（复旦大学）；Alibaba Group（阿里巴巴集团）；Zhejiang University（浙江大学）；Link2Do Technology（Link2Do科技）；Tsinghua University（清华大学）；Guangzhou University（广州大学）
图神经网络（GNN）已广泛用于图结构数据计算，在诸如节点分类、链接预测和网络推荐的各种应用中显示出有前途的性能。现有的工作主要集中在节点之间的相关性进行加权聚合的邻居节点的注意力的基础上，如点积的两个节点的密集向量。这可能导致在进行信息传播时传播节点中的冲突噪声。为了解决这个问题，我们提出了一个通用的信息传播算法（简称GIPA），它利用更细粒度的信息融合，包括逐位和逐特征的相关性的基础上边缘特征在其传播。具体而言，逐位相关基于节点及其边的密集表示，通过多层感知器（MLP）计算逐元素注意力权重;逐特征相关基于节点属性特征的独热表示，用于特征选择。我们评估了GIPA在开放图基准蛋白质（OGBN蛋白质）数据集和阿里巴巴支付宝数据集上的性能。实验结果表明，GIPA在预测精度方面优于最先进的模型，例如，GIPA实现了$0.8901\pm 0.0011$的平均ROC-AUC，优于OGBN-蛋白排行榜中列出的所有现有方法。
2023-02-06 cs.LG
Cyclic Label Propagation for Graph Semi-supervised Learning
Alibaba Group（阿里巴巴集团）；Monash University（莫纳什大学）；Central South University（中南大学）；Zhejiang University（浙江大学）
图神经网络（GNN）已经成为图分析的有效方法，特别是在半监督学习的情况下。尽管GNN取得了成功，但它经常遭受过平滑和过拟合问题，这影响了它在节点分类任务上的性能。我们分析了一种替代方法，标签传播算法（LPA），避免了上述问题，因此它是一个有前途的选择图半监督学习。然而，LPA在特征开发和关系建模方面的固有局限性使得标签传播变得不那么有效。为了克服这些限制，我们引入了一种新的图半监督学习框架，称为循环标签传播（CycProp），它将GNN以循环和相互加强的方式集成到标签传播过程中，以利用GNN和LPA的优势。特别地，我们提出的CycProp使用标签传播的增强信息更新GNN模块学习的节点嵌入，同时依次在节点嵌入的帮助下微调标签传播的加权图。在模型收敛后，分别使用LPA和GNN模块获得可靠的预测标签和信息节点嵌入。在各种真实数据集上进行了大量的实验，实验结果表明，所提出的CycProp模型可以实现相对显着的收益比国家的最先进的方法。
2020-11-24 cs.LG
Active Learning for Graph Neural Networks via Node Feature Propagation
Carnegie Mellon University（卡内基梅隆大学）
用于节点分类或边预测等预测任务的图神经网络（GNN）在最近的图形结构数据机器学习中受到越来越多的关注。然而，大量的标记图是很难获得的，这大大限制了GNN的真正成功。虽然主动学习已经被广泛研究用于解决其他数据类型（如文本、图像等）的标签稀疏问题，如何使它在图上有效是一个有待研究的问题。在本文中，我们提出了一个调查的主动学习与GNNs的节点分类任务。具体来说，我们提出了一种新的方法，它使用节点的特征传播，然后在主动学习的实例选择的节点的K-Medoids聚类。理论界分析，我们证明我们的方法的设计选择。在四个基准数据集上的实验中，该方法的性能始终显著优于其他代表性的基线方法。
2021-11-19 cs.LG stat.ML
Simplifying Node Classification on Heterophilous Graphs with Compatible Label Propagation
University of Luxembourg（卢森堡大学）；Criteo（科韬）
图神经网络（GNN）在图学习任务中占主导地位;然而，最近的研究表明，一种著名的图算法，标签传播（LP），结合浅层神经网络，可以在具有高同质性的图上实现与GNN相当的半监督节点分类性能。在本文中，我们表明，这种方法不符合低同伦图，其中节点往往连接到节点的相反类。为了克服这一点，我们精心设计了一个基础预测与LP算法，享有一个封闭的形式的解决方案，以及收敛保证的组合。我们的算法首先学习类兼容性矩阵，然后使用LP算法按类兼容性加权来聚合标签预测。在各种各样的基准，我们表明，我们的方法实现了领先的性能与各种层次的同质性图。同时，它具有数量级更少的参数，需要更少的执行时间。经验评估表明，简单的适应LP可以在半监督节点分类的同质性和异质性制度的竞争力。
2022-11-30 cs.LG cs.SI
Information Gain Propagation: a new way to Graph Active Learning with Soft Labels
Peking University（北京大学）；Apple（苹果公司）
图神经网络（GNN）在各种任务中取得了巨大的成功，但它们的性能高度依赖于大量的标记节点，这通常需要相当大的人力。提出了基于GNN的主动学习（AL）方法，通过选择最有价值的节点进行标记来提高标记效率。现有的方法假设一个预言机可以正确地对所有选定的节点进行分类，因此只关注节点的选择。然而，这样一个精确的标签任务是昂贵的，特别是当分类是出了域的个人专家（oracle）。本文更进一步，提出了一个软标签的方法，以AL上的GNNs。我们的主要创新是：i）放松查询，其中领域专家（Oracle）仅判断预测标签的正确性（二元问题）而不是识别确切的类（多类问题），以及ii）对于具有放松查询和软标签的主动学习者最大化信息增益传播的新准则。对公共数据集的实证研究表明，我们的方法在准确性和标记成本方面都显着优于最先进的基于GNN的AL方法。
2022-03-02 cs.LG
Graph Positional Encoding via Random Feature Propagation
Ben-Gurion University of the Negev（内盖夫本-古里安大学）；Imperial College London（伦敦帝国学院）；Purdue University（普渡大学）；Bar-Ilan University（巴伊兰大学）；NVIDIA Research（英伟达研究院）
本研究针对图神经网络两类增强方案关联不明的问题，提出融合二者优势的随机特征传播（RFP）位置编码方法，提供理论支撑并验证其在多类基准任务上性能更优。
2023-07-19 cs.LG
Rethinking Node-wise Propagation for Large-scale Graph Learning
Beijing Institute of Technology（北京理工大学）；Peking University（北京大学）
针对大规模图学习中现有传播策略忽视节点拓扑差异的问题，提出自适应拓扑感知传播（ATP），一种即插即用的节点级优化策略，可离线执行并提升可扩展GNN的性能与效率。
2024-02-09 cs.AI cs.LG cs.SI
Graph Propagation Transformer for Graph Representation Learning
OPPO Research Institute（OPPO研究院）
该研究提出图传播Transformer（GPTrans）架构，通过支持三类信息传播的图传播注意力机制学习图表示，在多个基准实验中性能优于现有基于Transformer的图模型。
2024-10-09 cs.AI cs.LG
GripNet: Graph Information Propagation on Supergraph for Heterogeneous Graphs
Queen’s University（女王大学）；University of Waterloo（滑铁卢大学）；Perimeter Institute for Theoretical Physics（圆周理论物理研究所）；University of Sheffield（谢菲尔德大学）
本文提出GripNet框架，通过引入由超顶点和超边组成的超图数据结构，沿定义路径进行多层信息传播，克服了现有异构图表示学习方法在属性利用和可扩展性上的局限，在链路预测、节点分类和数据集成任务中表现优越。
2020-10-29 cs.LG
GIPA: General Information Propagation Algorithm for Graph Learning
Ant Group（蚂蚁集团）；Alibaba Group（阿里巴巴集团）
图神经网络（GNNs）已广泛用于分析图结构数据，在节点分类、链接预测和网络推荐等各种应用中显示出良好的效果。在本文中，我们提出了一个新的图形注意力神经网络，即GIPA，属性图数据学习。GIPA由三个关键组件组成：注意力、特征传播和聚合。具体而言，注意力组件引入了一种新的基于多层感知器的多头，以生成比传统实现（如点积）更好的非线性特征映射和表示。传播组件不仅考虑节点特征，还考虑边缘特征，这与仅考虑节点特征的现有GNN不同。聚合组件使用剩余连接来生成最终的嵌入。我们使用Open Graph Benchmark蛋白质（简称ogbn-proteins）数据集评估GIPA的性能。实验结果表明，GIPA在预测精度方面可以击败最先进的模型，例如，GIPA实现了$0.8700\pm 0.0010$的平均测试ROC-AUC，并且优于ogbn蛋白排行榜中列出的所有以前的方法。
2021-08-10 cs.LG
Node Embedding from Neural Hamiltonian Orbits in Graph Neural Networks
Nanyang Technological University（南洋理工大学）；C3 AI（C3人工智能公司）
本文将节点嵌入更新建模为哈密顿轨道，以在训练中自动学习图的底层流形，无需大量调参即可适应多样几何结构，并在节点分类和链接预测任务上优于现有GNN方法。
2023-05-30 cs.LG math.DS physics.class-ph
Accelerating Scalable Graph Neural Network Inference with Node-Adaptive Propagation
The University of Queensland（昆士兰大学）；Peking University（北京大学）；National Engineering Laboratory for Big Data Analysis and Applications（国家大数据分析与应用工程实验室）；Beijing University of Posts and Telecommunications（北京邮电大学）；Griffith University（格里菲斯大学）
针对归纳式场景下可扩展GNN推理的可扩展性问题，提出带节点自适应传播的在线框架及Inception Distillation方法，实现了准确率与效率的双重提升，在大数据集上最高达75倍加速。
2023-12-09 cs.AI cs.LG
Port-Hamiltonian Architectural Bias for Long-Range Propagation in Deep Graph Networks
Ruhr University Bochum（鲁尔大学波鸿分校）；University of Pisa（比萨大学）
针对图表示学习中长程信息传播的关键问题，本文提出端口-哈密顿深度图网络框架，基于哈密顿系统守恒律协调信息的非耗散长程传播与非保守行为，在长程基准测试中实现了最先进性能。
2025-02-13 cs.LG cs.SY eess.SY
Label Propagation across Graphs: Node Classification using Graph Neural Tangent Kernels
Rice University（莱斯大学）
图神经网络（GNN）在过去几年中在节点分类任务上取得了优异的性能。通常，这是在一个转导半监督学习设置中构建的，其中整个图，包括要标记的目标节点，可用于训练。部分受可扩展性的驱动，最近的工作集中在归纳的情况下，只有图的标记部分可用于训练。在这种情况下，我们目前的工作考虑了一个具有挑战性的归纳设置，其中一组标记的图可用于训练，而未标记的目标图是完全独立的，即，在标记的和未标记的节点之间没有连接。在测试图和训练图来自相似分布的隐含假设下，我们的目标是开发一个标记函数，该函数可以推广到未观察到的连接结构。为此，我们采用了一个图神经切线核（GNTK），它对应于无限宽的GNN，以基于拓扑结构和节点特征找到不同图中节点之间的对应关系。我们增强了GNTK与剩余连接的能力，并在标准基准测试中实证说明了其性能增益。
2021-10-07 cs.LG eess.SP
SF-GNN: Self Filter for Message Lossless Propagation in Deep Graph Neural Network
Zhejiang University（浙江大学）
本文提出SF-GNN方法，通过自过滤器模块评估节点表示质量并控制消息传播，以解决深度GNN中低质量节点表示干扰导致的性能退化问题，在多种图任务上优于现有基线方法。
2024-07-03 cs.AI cs.LG
SympGNNs: Symplectic Graph Neural Networks for identifiying high-dimensional Hamiltonian systems and node classification
School of Engineering（工程学院）；Brown University（布朗大学）；Division of Applied Mathematics（应用数学系）
提出辛图神经网络SympGNNs，结合辛映射与置换等变性，有效解决高维哈密顿系统识别及节点分类问题，克服了图神经网络的过平滑与异配性挑战。
2024-08-29 cs.LG physics.comp-ph
Multi-Label Node Classification with Label Influence Propagation
Zhejiang University（浙江大学）；National University of Singapore（新加坡国立大学）；Capital One；GrabTaxi Holdings Pte. Ltd.（GrabTaxi控股私人有限公司）
提出标签影响传播（LIP）模型，通过分解GNN的消息传递为传播和变换操作，量化标签间影响，构建标签影响图传播高阶影响，动态调整学习过程，在多标签节点分类任务上超越现有方法。
2026-07-02 cs.AI cs.LG
Neuralizing Efficient Higher-order Belief Propagation
School of Computing（计算机学院）；National University of Singapore（新加坡国立大学）
图神经网络模型已被广泛用于在端到端设置中学习图结构化数据的节点表示。这些模型通常依赖于谱图卷积的局部一阶近似，因此无法捕获节点之间的高阶关系信息。概率图模型形成了另一类模型，其在合并此类关系信息时提供了丰富的灵活性，但受限于高阶的低效近似推理算法。在本文中，我们建议结合这些方法来学习更好的节点和图形表示。首先，我们推导出一个有效的近似和积循环信念传播推理算法高阶PGM。然后，我们将消息传递更新嵌入到神经网络中，以在端到端学习中提供推理算法的归纳偏差。这为我们提供了一个足够灵活的模型，可以容纳领域知识，同时保持计算优势。我们进一步提出了用于构建高阶因子的方法，这些因子以节点和边缘特征为条件，并在必要时共享参数。我们的实验评估表明，我们的模型确实捕捉到了高阶信息，在分子数据集中的表现大大优于最先进的$k$阶图神经网络。
2020-10-19 cs.LG stat.ML
Symplectic Structure-Aware Hamiltonian (Graph) Embeddings
University of Liverpool（利物浦大学）；Southeast University（东南大学）
提出SAH-GNN，通过在辛Stiefel流形上进行黎曼优化自适应学习底层辛结构，推广哈密顿动力学以灵活更新节点特征，克服了传统GNN固定流形和现有哈密顿GNN依赖预定义结构的局限，并在多类图节点分类任务中展现出优越性与适应性。
2024-07-23 cs.LG math.SG
Multi-View Graph Feature Propagation for Privacy Preservation and Feature Sparsity
Tel Aviv University（特拉维夫大学）
针对图神经网络在节点分类中面临的特征稀疏和隐私泄露问题，提出多视图特征传播（MFP）框架，通过多视图高斯噪声特征传播增强分类性能并保护隐私，实验表明其优于基线且隐私性更佳。
2025-10-13 cs.AI cs.LG
TPGNN: Learning High-order Information in Dynamic Graphs via Temporal Propagation
University of Leeds（利兹大学）；Shaoxing University（绍兴文理学院）
本文提出TPGNN，通过时间传播器和逐节点编码器高效学习动态图中的高阶邻居信息，缓解过度平滑，并在时间链路预测和节点分类任务上验证了其效率和鲁棒性优势。
2023-04-13 cs.LG cs.SI
Omni-Granular Ego-Semantic Propagation for Self-Supervised Graph Representation Learning
Institute of Medical Technology, Health Science Center of Peking University（北京大学医学部医学技术研究院）；National Institute of Health Data Science, Peking University（北京大学健康医疗大数据国家研究院）
无监督/自监督图表示学习对于下游节点和图级分类任务至关重要。图的全局结构有助于区分表示，现有方法主要通过施加额外的监督来利用全局结构。然而，它们的全局语义通常对于所有节点/图是不变的，并且它们未能显式地嵌入全局语义以丰富表示。在本文中，我们提出了全粒度自我语义传播自监督图表示学习（OEPG）。具体来说，我们引入实例自适应全局感知自我语义描述符，利用每个节点/图和整个图数据集的分层全局集群之间的一阶和二阶特征差异。描述符可以作为新的邻居节点显式地集成到局部图卷积中。此外，我们设计了一个全粒度的规范化的整个规模和层次的自我语义分配注意力的权重，每个描述符从全粒度的角度。专门的借口任务和交叉迭代动量更新进一步发展为本地-全球相互适应。在下游任务中，OEPG在跨尺度和跨领域的多个数据集上始终获得最佳性能，精度增益为2%~6%。值得注意的是，OEPG还推广到数量和拓扑不平衡的场景。
2022-05-31 cs.AI cs.CV cs.LG
Tripartite Heterogeneous Graph Propagation for Large-scale Social Recommendation
Clova AI Research, NAVER Corp.（NAVER公司Clova人工智能研究院）；Search Solution Inc.（搜索解决方案公司）；LINE Plus Corp.（LINE Plus公司）
图神经网络（GNNs）已经成为一种很有前途的关系表示方法，包括推荐系统。然而，社交图的各种挑战性问题阻碍了GNN用于社交推荐的实际使用，例如它们复杂的噪声连接和高度异质性。GNN的过度平滑也是基于GNN的社交推荐的障碍。在这里，我们提出了一个新的图嵌入方法异构图传播（HGP）来解决这些问题。HGP使用组-用户-项目三方图作为输入，以减少社交图中的边的数量和路径的复杂性。为了解决过度平滑的问题，HGP在个性化的基于PageRank的传播方案下嵌入节点，分别用于组用户图和用户项图。使用注意力机制来集成来自每个图的节点嵌入。我们在一个由1，645，279个节点和4，711，208条边组成的大规模真实世界数据集上评估我们的HGP。实验结果表明，HGP在AUC和F1评分指标方面优于几个基线。
2019-07-24 cs.IR cs.LG cs.SI
Node Attribute Completion in Knowledge Graphs with Multi-Relational Propagation
EPFL（洛桑联邦理工学院）
现有的关于知识图谱完成的文献大多集中在链接预测任务上。然而，知识图谱有一个额外的不完整性问题：它们的节点拥有数值属性，其值经常丢失。我们的方法，表示为MrAP，通过在知识图谱的多关系结构中传播信息来估算缺失属性的值。它采用回归函数根据节点之间的关系和属性的类型来预测一个节点属性与另一个节点属性。传播机制在消息传递方案中迭代地操作，该方案在每次迭代时收集预测并更新节点属性的值。在两个基准数据集上的实验表明了该方法的有效性。
2020-11-10 cs.LG
Equilibrium Propagation and Hamiltonian Inference in the Diffusive Fitzhugh-Nagumo Model
Rain Neuromorphics（Rain神经形态实验室）
本文扩展了平衡传播框架以应用于偏斜梯度系统，并展示了深度能量模型与哈密顿神经网络之间的等价性。研究重点是扩散耦合的 Fitzhugh-Nagumo 神经网络作为典型示例，证明了由于 Fitzhugh-Nagumo 模型的稳态解由自共轭算子描述，因此可以应用平衡传播方法进行信用分配。此外，对于具有深度残差网络拓扑的 Fitzhugh-Nagumo 网络，稳态解具有（空间）哈密顿量，因此可以应用哈密顿回传方法。最后，推导出一个显式的层间哈密顿递推关系，用于指导深度 Fitzhugh-Nagumo 网络和深度能量模型的稳态解推断。
2026-05-20 cs.LG
Robust Classification using Contractive Hamiltonian Neural ODEs
Ecole Polytechnique Fédérale de Lausanne (EPFL)（洛桑联邦理工学院）
深度神经网络可能是脆弱的，对可能导致输出显著变化的小输入扰动敏感。在本文中，我们采用收缩理论来提高神经ODE（NODE）的鲁棒性。一个动力系统是压缩的，如果具有不同初始条件的所有解以指数速度收敛到彼此。因此，初始条件的扰动随着时间的推移变得越来越不相关。由于在NODE中输入数据对应于动力系统的初始条件，我们证明了收缩性可以减轻输入扰动的影响。更确切地说，受节点的哈密顿动力学的启发，我们提出了一类压缩哈密顿节点（CH-NODE）。通过适当调整标量参数，CH-NODE通过设计确保收缩性，并且可以使用标准反向传播进行训练。此外，CH-NODE享有非爆炸梯度的内置保证，这确保了良好的训练过程。最后，我们证明了鲁棒性的CH-NODE的MNIST图像分类问题与噪声测试数据。
2022-07-11 cs.LG
GraphHop: An Enhanced Label Propagation Method for Node Classification
University of Southern California（南加州大学）
提出了一种基于图结构数据的可扩展半监督节点分类方法GraphHop。该图包含所有节点的属性，但少数节点的标签。经典的标签传播（LP）方法和新兴的图卷积网络（GCN）是两个流行的半监督解决方案，这个问题。LP方法在对节点属性和标签进行联合建模时效果不佳，或者在大规模图上收敛速度较慢。GraphHop是针对其缺点提出的。通过适当的初始标签向量嵌入，GraphHop的每次迭代都包含两个步骤：1）标签聚合和2）标签更新。在步骤1中，每个节点聚合在先前迭代中获得的其邻居的标签向量。在步骤2中，基于节点自身的标签和在步骤1中获得的聚合标签信息，为每个节点预测新的标签向量。这个迭代过程利用了邻近信息，使GraphHop能够在极小的标签速率设置中表现良好，并能够很好地扩展到非常大的图形。实验结果表明，GraphHop在广泛的任务（例如，引文网络、社会图和商品消费图上的多标签和多类别分类）。我们的代码可在GitHub上公开获取（https：//github.com/TianXieUSC/GraphHop）。
2021-01-07 cs.LG
Unsupervised Neighborhood Propagation Kernel Layers for Semi-supervised Node Classification
KU Leuven（鲁汶大学）
本研究提出深度图卷积核机器GCKM用于半监督节点分类，由无监督邻域传播核层与半监督分类核模块构成，设计了对偶域端到端训练方案，在少标签场景下提升了分类性能。
2023-12-15 cs.LG
Gate the Filter, Not the Message: Node-Channel Mixtures for Pre-Propagation GNNs
School of Electrical and Computer Engineering, Cornell University（康奈尔大学电气与计算机工程学院）
针对预传播图神经网络中复杂跳聚合器性能不佳的问题，提出FilterMoE模型，通过3D门控张量联合路由节点和通道上的可学习切比雪夫滤波器专家，在11个同质和异质基准测试中平均提升1.53个测试分数。
2026-06-01 cs.LG
Learning Graph Representations with Embedding Propagation
NEC Labs Europe（NEC欧洲实验室）
我们提出了嵌入传播（EP），一个无监督学习框架的图结构数据。EP通过在相邻节点之间传递两种类型的消息来学习图的矢量表示。转发消息由标签表示组成，例如与节点相关联的单词和其他属性的表示。反向消息由聚合标签表示和应用重建损失产生的梯度组成。节点表示最终从其标签的表示中计算出来。由于参数和超参数显著减少，EP的实例在一系列基准数据集上与最先进的无监督和半监督学习方法竞争并且通常优于它们。
2017-10-09 cs.LG
Powerful Graph Convolutioal Networks with Adaptive Propagation Mechanism for Homophily and Heterophily
College of Intelligence and Computing, Tianjin University（天津大学智能与计算学部）
图卷积网络由于其对图结构数据的处理能力而被广泛应用于各个领域。典型的GCN及其变体在同质性假设下工作（即，具有相同类的节点倾向于彼此连接），同时忽略存在于许多真实世界网络中的异质性（即，具有不同类的节点倾向于形成边）。现有的方法主要通过聚集高阶邻域或组合直接表示来处理异质性，这导致结果中存在噪声和无关信息。但是这些方法并没有改变GCN的传播机制，它是在同质性假设下工作的（这是GCN的一个基本部分）。这使得很难区分来自不同类的节点的表示。针对这一问题，本文设计了一种新的传播机制，该机制可以根据节点对之间的同构性和异构性自动改变传播和聚合过程。为了自适应地学习传播过程，我们引入了两个测量的节点对之间的同伦度，这是学习的基础上的拓扑和属性信息，分别。然后，我们将可学习的同质性程度纳入到图卷积框架中，该框架在端到端模式中进行训练，使其能够超越同质性的假设。更重要的是，我们从理论上证明，我们的模型可以约束表示节点之间的相似性，根据他们的同质程度。在7个真实数据集上的实验表明，该方法在异质性和低同质性情况下的性能优于现有方法，在同质性情况下具有竞争力。
2021-12-27 cs.LG
MDTE: Minority-Aware Diffusion over Temporal Edge Events for Imbalanced Node Classification
Zhejiang University of Technology（浙江工业大学）；The University of Sydney（悉尼大学）；Vecton AI
针对时序图不平衡节点分类中少数类表示被同化、判别证据不足的问题，提出MDTE框架，通过分布感知选择性传播与多视图判别融合，在五个真实数据集上显著提升少数类相关指标。
2026-08-26 cs.LG
Propagation with Adaptive Mask then Training for Node Classification on Attributed Networks
Huazhong University of Science and Technology（华中科技大学）
属性网络上的节点分类是一个半监督任务，对于网络分析至关重要。通过解耦图卷积网络（GCN）中的两个关键操作，即特征变换和邻域聚合，解耦GCN的一些最新工作可以支持信息更深层次的传播，并获得更好的性能。然而，它们遵循传统的GCN的结构感知传播策略，难以捕捉节点的属性相关性，并且对两端属于不同类别的边所描述的结构噪声敏感。为了解决这些问题，我们提出了一种名为itshape Propagation with Adaptive Mask then Training（PAMT）的新方法。其关键思想是将属性相似性掩码集成到结构感知的传播过程中。这样，PAMT在传播过程中能够保持相邻节点的属性相关性，有效降低结构噪声的影响。此外，我们开发了一种迭代细化机制，在训练过程中更新相似性掩码，以提高训练性能。在四个真实数据集上的大量实验证明了PAMT的优越性能和鲁棒性。
2022-06-23 cs.AI cs.LG
Lagrangian-based Equilibrium Propagation: generalisation to arbitrary boundary conditions & equivalence with Hamiltonian Echo Learning
University of Groningen（格罗宁根大学）；Univ. Lille, Inria, CNRS, Centrale Lille, UMR 9189 - CRIStAL（里尔大学、法国国家信息与自动化研究所、法国国家科学研究中心、中央理工-里尔高等电力学院，UMR 9189 - CRIStAL）；Centrum Wiskunde & Informatica（荷兰国家数学与计算机科学研究中心）；The University of Sheffield（谢菲尔德大学）
本文提出广义拉格朗日平衡传播（GLEP），扩展了平衡传播的变分公式以适应时变输入，并展示哈密顿回声学习（HEL）作为GLEP的特例，同时指出HEL继承了平衡传播在硬件实现中的优势。
2026-04-13 cs.LG
A Graph Regularized Point Process Model For Event Propagation Sequence
Ant Group（蚂蚁集团）
点过程是建模以不规则间隔发生的事件序列的主要范式。在本文中，我们的目标是在图中建模事件传播的潜在动力学，其中事件序列在有向加权图中传播，其节点表示事件标记（例如，事件类型）。现有的大多数工作只考虑将序列事件历史编码到事件表示中，而忽略了潜在图结构中的信息。此外，它们还具有较差的模型可解释性，即，未能发现各种节点之间的因果影响。为了解决这些问题，我们提出了一个图正则化点过程（GRPP），它可以分解为：1）一个图传播模型，它表征了节点与邻居之间的事件交互，并归纳学习节点表示; 2）一个时间注意强度模型，其过去事件对当前事件的激发和时间衰减因子通过节点嵌入的上下文化来构建。此外，通过应用图正则化方法，GRPP通过揭示节点之间的影响强度来提供模型的可解释性。在不同数据集上的数值实验表明，GRPP在传播时间和节点预测方面都明显优于现有模型。
2022-11-21 cs.AI cs.LG
Models for information propagation on graphs
本文提出并统一了图上信息传播的三类模型（波前传播、广义旅行时间最小化、程函方程），证明其等价性，并应用于半监督学习和信任网络。
2025-01-23 cs.LG cs.NA cs.SI
Label Efficient Regularization and Propagation for Graph Node Classification
University of Southern California（南加州大学）；U.S. Army Research Lab（美国陆军研究实验室）
最近提出了一种称为GraphHop的增强标签传播（LP）方法。它在各种网络的半监督节点分类任务中优于图卷积网络（GCN）。虽然GraphHop的性能直观地解释了关节节点属性和标签信号平滑，但缺乏严格的数学处理。在本文中，我们提出了一个标签有效的正则化和传播（LERP）框架的图节点分类，并提出了一个替代的优化过程，其解决方案。此外，我们表明，GraphHop只提供了一个近似的解决方案，这个框架，有两个缺点。首先，它在分类器训练中包括所有节点，而在标签更新步骤中不考虑伪标签节点的可靠性。其次，它提供了一个粗略的近似最佳的子问题的标签聚合步骤。基于LERP框架，我们提出了一种新的方法，命名为LERP方法，以解决这两个缺点。LERP在交替优化期间自适应地确定可靠的伪标签，并提供更好的近似最优值，同时具有计算效率。保证了LERP的理论收敛性。大量的实验证明了LERP的有效性和效率。也就是说，LERP在五个测试数据集和一个对象识别任务上以极低的标签率（即，每类1、2、4、8、16和20个标记样本）。
2022-10-31 cs.AI cs.LG
Unifying Graph Convolutional Neural Networks and Label Propagation
Stanford University（斯坦福大学）
标签传播（LPA）和图卷积神经网络（GCN）都是图上的消息传递算法。两者都解决了节点分类的任务，但LPA在图的边缘传播节点标签信息，而GCN传播和转换节点特征信息。然而，虽然在概念上相似，但LPA和GCN之间的理论关系尚未被研究。在这里，我们从两个方面研究LPA和GCN之间的关系：（1）特征/标签平滑，我们分析一个节点的特征/标签如何在其邻居上传播;以及（2）特征/标签影响，即一个节点的初始特征/标签对另一个节点的最终特征/标签的影响程度。基于我们的理论分析，我们提出了一个端到端的模型，统一GCN和LPA的节点分类。在我们的统一模型中，边缘权重是可学习的，LPA作为正则化来帮助GCN学习适当的边缘权重，从而提高分类性能。我们的模型也可以被看作是基于节点标签的学习注意力权重，这比现有的基于特征的注意力模型更面向任务。在真实世界的图上进行的大量实验中，我们的模型在节点分类精度方面优于最先进的基于GCN的方法。
2020-02-17 cs.LG stat.ML
Uncertainty Propagation in Node Classification
NEC Laboratories Europe（NEC欧洲实验室）
针对图神经网络节点分类中消息传递的确定性问题，提出贝叶斯不确定性传播方法，通过贝叶斯建模框架和高斯模型启发的不确定性传播机制量化预测不确定性，并引入不确定性损失函数，在预测可靠性和OOD预测上表现优越。
2023-04-03 cs.LG stat.ML
FairProp: Fair Node Representation Learning via Differentiable Propagation Layers
KU Leuven（鲁汶大学）
本文提出FairProp，通过向APPNP的凸平滑问题加入群体均值约束和组内协方差正则化，并将投影梯度下降展开为可微分传播层，实现节点分类、链接预测和回归的公平表示学习，提供首个相关界限并线性收敛。
2026-10-06 cs.LG cs.SI
Feature propagation as self-supervision signals on graphs
Universitat Politècnica de Catalunya - BarcelonaTech (UPC)（加泰罗尼亚理工大学-巴塞罗那理工（UPC））
针对图自监督学习中对比学习开销大且增广可能改变语义的问题，提出RGI框架，通过最大化节点嵌入与特征传播的互信息训练图神经网络，非对比且无需增广，在基准上达到最先进性能。
2023-09-04 cs.LG
Topics and Label Propagation: Best of Both Worlds for Weakly Supervised Text Classification
TCS Research, Tata Consultancy Services（塔塔咨询服务公司研究部）；Indian Institute of Technology Bombay（印度理工学院孟买分校）；Indian Institute of Technology Madras（印度理工学院马德拉斯分校）
提出了一种基于标签传播的弱监督文本分类算法。我们构建了一个图，其中每个文档由一个节点表示，边权重表示文档之间的相似性。此外，我们发现潜在的主题使用潜在狄利克雷分配（LDA）和丰富的文档图，包括额外的节点的形式的主题。主题和文本文档之间的边权重表示它们之间的“亲和力”水平。我们的方法不需要文档级别的标签，相反，它只需要手动标签的主题节点。这大大减少了所需的监督水平，因为只有少数几个主题被观察到足以达到足够高的准确性。标签传播算法在这个丰富的图上被用来在节点之间传播标签。我们的方法结合了标签传播（通过文档-文档相似性）和主题建模（用于最小但智能的监督）的优点。我们证明了我们的方法在各种数据集上的有效性，并与最先进的弱监督文本分类方法进行了比较。
2017-12-04 cs.CL cs.LG
Out-of-Distribution Detection in Heterogeneous Graphs via Energy Propagation
School of New Media and Communication, Tianjin University（天津大学新媒体与传播学院）；Department of Computer Science, Baylor University（贝勒大学计算机科学系）；School of Qiyue Media and Communication, Cangzhou Normal University（沧州市庆云传媒学院）
本文针对异构图中的分布外检测问题，提出OODHG方法，通过节点表示学习、能量计算、元路径能量传播和能量约束，同时实现OOD节点检测与ID节点分类，实验证明其优于基线模型。
2025-04-29 cs.LG cs.SI
Virtual Node Generation for Node Classification in Sparsely-Labeled Graphs
University of Illinois, Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）
针对图领域稀疏标签下数据生成方法研究不足的问题，提出一种通过求解双重优化问题生成高质量虚拟节点注入图中以扩展标签传播的方法，兼容多种图学习范式，在10个公开数据集上较14个基线取得显著性能提升。
2024-09-12 cs.LG cs.SI
Topological based classification of paper domains using graph convolutional networks
Bar-Ilan University（巴伊兰大学）
图中节点分类的主要方法是信息传播和节点类与外部信息的关联。现有技术的方法通过图卷积网络合并这些方法。我们在这里使用的关联的拓扑特征的节点与他们的类来预测这个类。此外，将拓扑信息与信息传播相结合，提高了标准CiteSeer和Cora论文分类任务的分类精度。拓扑特征和信息传播产生的结果几乎与基于文本的分类一样好，没有文本或内容信息。我们建议通过一个GCN表示的拓扑结构和信息传播与相邻的训练节点分类作为输入和当前节点分类作为输出。这种形式主义优于现有技术的方法。
2019-04-10 cs.LG cs.SI stat.ML
Clustering Based on Density Propagation and Subcluster Merging
School of Artificial Intelligence, OPtics and ElectroNics (iOPEN)（人工智能、光学与电子学院（iOPEN））；School of Computer Science（计算机学院）；Northwestern Polytechnical University（西北工业大学）
提出DPSM密度聚类方法，通过密度传播自动确定簇数并适用于图空间，结合CluCut度量指导子簇合并，实验验证其有效性。
2024-11-04 cs.LG stat.ML
HOPF: Higher Order Propagation Framework for Deep Collective Classification
Indian Institute of Technology Madras（印度理工学院马德拉斯分校）；University of Massachusetts, Amherst（马萨诸塞大学阿默斯特分校）；Ohio State University（俄亥俄州立大学）
给定一个图，其中每个节点都有与之关联的某些属性，并且一些节点有与之关联的标签，集体分类（CC）是使用来自节点及其邻居的信息为每个未标记的节点分配标签的任务。通常情况下，节点不仅受到其直接邻居的影响，而且还受到多跳远的高阶邻居的影响。最近的最先进的CC模型学习Weisfeiler-Lehman（WL）内核的端到端可微变化，以聚合多跳邻域信息。在这项工作中，我们提出了一个高阶传播框架，HOPF，它提供了一个迭代推理机制，这些强大的可微内核。经典迭代推理机制与最近的可微内核的这种组合允许框架学习同时利用邻域中可用的属性和标签信息的图卷积滤波器。此外，这些迭代可微内核可以扩展到超过现有可微内核的存储器限制的更大跳数。我们还表明，现有的WL基于内核的模型遭受节点信息变形的问题，其中节点的信息变形或淹没时，考虑多跳的邻居的信息。为了解决这个问题，我们提出了HOPF的一个特定实例，称为NIP模型，它在每个传播步骤中保留节点信息。NIP模型的迭代公式化进一步有助于将远距离跳信息简洁地合并为推断标签的摘要。我们对来自不同领域的11个数据集进行了广泛的评估。我们发现，现有的CC模型不提供跨数据集一致的性能，而建议的NIP模型与迭代推理是更强大的。
2018-11-13 cs.LG cs.SI stat.ML
Network Learning with Local Propagation
University of Geneva（日内瓦大学）
本文提出了一种具有局部传播的局部解耦网络参数学习方法。考虑三个元素：（i）描述所有节点处的表示的非线性变换的集合，（ii）与对应的局部表示目标相关的每个节点处的局部目标，以及（iii）将每个节点处的非线性误差向量与来自直接连接的节点的目标误差向量相关的局部传播模型。建模概念（i），（ii）和（iii）提供了几个优点，包括（a）表示为图的任何网络的统一学习原理，（b）理解和解释局部和全局学习动态，（c）解耦和并行参数学习，（d）在无限长，多路径和多目标网络中学习的可能性。数值实验验证了学习原理的潜力。初步结果表明，在比较国家的最先进的方法，w.r.t.学习时间和网络规模，同时具有相当的识别精度。
2018-05-20 cs.AI cs.LG cs.NE
Propagation Kernels
我们介绍了传播内核，一个通用的图形内核框架，有效地测量结构化数据的相似性。传播内核基于监视信息如何通过一组给定的图传播。它们利用来自传播方案（如随机游动）的早期分布来捕获编码在节点标签、属性和边信息中的结构信息。这有两个好处。首先，现成的传播方案可以用于自然地构造许多图类型的核，包括标记的、部分标记的、未标记的、有向的和属性的图。其次，通过利用现有的高效和信息传播方案，传播内核可以比最先进的方法快得多，而不会牺牲预测性能。我们还将证明，如果手头的图具有规则的结构，例如在对图像或视频数据建模时，可以利用这种规则性将内核计算扩展到具有数千个节点的大型图数据库。我们支持我们的贡献，详尽的实验，从各种应用领域的一些现实世界的图。
2014-10-13 cs.LG stat.ML
Expectation Propagation for approximate Bayesian inference
Carnegie Mellon University（卡内基梅隆大学）
本文提出了一种新的贝叶斯网络的确定性逼近技术。这种方法，“期望传播”，统一了两个以前的技术：假设密度过滤，卡尔曼滤波器的扩展，和循环的信念传播，在贝叶斯网络的信念传播的扩展。所有这三种算法都试图恢复一个近似分布，该分布在KL散度上接近真实分布。循环信念传播，因为它传播精确的信念状态，是有用的信念网络的有限类别，如那些纯粹是离散的。期望传播通过仅保留某些期望（例如均值和方差）来近似信念状态，并迭代直到这些期望在整个网络中保持一致。这使得它适用于具有离散和连续节点的混合网络。期望传播也在相反的方向上扩展了信念传播-它可以传播更丰富的信念状态，包括节点之间的相关性。高斯混合模型的实验表明，期望传播令人信服地优于具有类似计算成本的方法：拉普拉斯方法，变分贝叶斯和蒙特卡洛。期望传播也提供了一个有效的算法训练贝叶斯点机分类器。
2013-01-10 cs.AI cs.LG
Link prediction on multi-relational graphs from an influence propagation perspective
School of Information Science and Technology, Yunnan Normal University（云南师范大学信息科学与技术学院）；School of Computing, Macquarie University（麦考瑞大学计算学院）；School of Computer Science and Engineering, The University of New South Wales（新南威尔士大学计算机科学与工程学院）；School of Information Science and Engineering, Yunnan University（云南大学信息科学与工程学院）；School of Computer and Mathematical Sciences, Adelaide University（阿德莱德大学计算机与数学科学学院）
该研究从影响传播视角，扩展SIR流行病模型并提出IGNP框架，在真实数据集上大幅提升多关系图链接预测性能。
2026-08-06 cs.LG cs.SI
Label Propagation on K-partite Graphs with Heterophily
Univ. of Southern California（南加州大学）；Fudan University（复旦大学）；Information Sciences Institute（信息科学研究所）
本文首次在异质性假设下研究了异质图中的标号传播问题。同构标签传播（即，两个连通节点共享相似标号）的问题已经得到了广泛的研究。不幸的是，现实生活中的网络是异构的，它们包含不同类型的顶点（例如，用户、图像、文本）和关系（例如，友谊、共同标记），并允许每个节点向其邻居传播相同和相反的标签副本。我们提出了一个$\mathcal{K}$ -partite标签传播模型来处理异构节点/关系和异构传播的神秘组合。在此基础上，我们提出了一种新的标签推理算法框架，该框架具有近线性时间复杂度的更新规则。由于真实网络随时间而变化，我们设计了一种增量方法，该方法支持新数据和证据的快速更新（例如，Ground truth labels），保证效率。我们还提供了一个效用函数，以自动确定是否是增量或重新建模的方法是有利的。在真实数据集上的大量实验验证了该方法的有效性和效率，以及其优于最先进的标签传播方法的优势。
2017-01-21 cs.AI cs.LG cs.SI
Propagate, Then Sharpen: Post-Hoc Refinement of Frozen Node Classifiers
University of Bergen（卑尔根大学）；Norwegian Research Centre (NORCE)（挪威研究中心（NORCE））
提出PtS方法，通过交替传播和锐化来精炼冻结节点分类器的预测，无需访问特征或参数，在多个图上优于APPNP，并显著减少深度传播的准确率损失。
2026-09-29 cs.LG stat.ML
