Cyclic Label Propagation for Graph Semi-supervised Learning
Alibaba Group(阿里巴巴集团);Monash University(莫纳什大学);Central South University(中南大学);Zhejiang University(浙江大学)
图神经网络(GNN)已经成为图分析的有效方法,特别是在半监督学习的情况下。尽管GNN取得了成功,但它经常遭受过平滑和过拟合问题,这影响了它在节点分类任务上的性能。我们分析了一种替代方法,标签传播算法(LPA),避免了上述问题,因此它是一个有前途的选择图半监督学习。然而,LPA在特征开发和关系建模方面的固有局限性使得标签传播变得不那么有效。为了克服这些限制,我们引入了一种新的图半监督学习框架,称为循环标签传播(CycProp),它将GNN以循环和相互加强的方式集成到标签传播过程中,以利用GNN和LPA的优势。特别地,我们提出的CycProp使用标签传播的增强信息更新GNN模块学习的节点嵌入,同时依次在节点嵌入的帮助下微调标签传播的加权图。在模型收敛后,分别使用LPA和GNN模块获得可靠的预测标签和信息节点嵌入。在各种真实数据集上进行了大量的实验,实验结果表明,所提出的CycProp模型可以实现相对显着的收益比国家的最先进的方法。
2020-11-24 cs.LG
Revisiting Pre-Propagation GNNs: Robust Diffusion Operators and Hidden-State Re-Propagation
School of Electrical and Computer Engineering, Cornell University, Ithaca, New York, USA(电气与计算机工程系,康奈尔大学,纽约州伊萨卡市)
提出鲁棒图扩散算子和少量隐状态再传播方案,使预传播图神经网络在保持训练效率的同时匹配消息传递图神经网络的精度。
2026-05-24 cs.LG
Node Embedding from Hamiltonian Information Propagation in Graph Neural Networks
C3 AI(C3人工智能公司);Nanyang Technological University(南洋理工大学)
图神经网络(GNN)在图结构数据的各种推理任务中取得了成功。然而,文献中许多GNN面临的共同挑战包括各种几何形状下的图节点嵌入问题和过平滑问题。为了解决这些问题,我们提出了一种新的图信息传播策略,称为Hamilton动态GNN(HDG),它使用Hamilton力学方法来学习图中的节点嵌入。HDG中的哈密顿能量函数是可学习的,并且可以适应任何给定图形数据集的底层几何。我们展示了HDG自动学习图形数据集的底层几何结构的能力,即使是那些具有复杂和混合几何结构的图形数据集,通过对各种下游任务的最先进基线进行全面评估。我们还验证了HDG对小扰动是稳定的,并且可以减轻堆叠许多层时的过度平滑问题。
2023-03-02 cs.LG
GripNet: Graph Information Propagation on Supergraph for Heterogeneous Graphs
Queen’s University(女王大学);University of Waterloo(滑铁卢大学);Perimeter Institute for Theoretical Physics(圆周理论物理研究所);University of Sheffield(谢菲尔德大学)
本文提出GripNet框架,通过引入由超顶点和超边组成的超图数据结构,沿定义路径进行多层信息传播,克服了现有异构图表示学习方法在属性利用和可扩展性上的局限,在链路预测、节点分类和数据集成任务中表现优越。
2020-10-29 cs.LG
Bridging Domain Adaptation and Graph Neural Networks: A Tensor-Based Framework for Effective Label Propagation
Dartmouth College(达特茅斯学院);New York University(纽约大学);University of California, Riverside(加州大学河滨分校)
针对GNN在单域监督训练下标签需求高、表示迁移性差的问题,提出LP-TGNN框架,以张量架构提取图拓扑信息并通过标签传播减少域差异,兼容通用GNN和域适应技术,在真实基准上显著优于基线。
2025-02-15 cs.LG
CacheDyG: Decoupling Temporal Propagation for Efficient Dynamic Graph Learning
College of Computer and Information Science, Southwest University(西南大学计算机与信息科学学院)
针对动态图学习中的高训练和参数开销,提出CacheDyG框架,通过缓存解耦时间传播,仅更新轻量组件,在五个基准上以更少参数和更低耗时取得更优性能。
2026-09-23 cs.LG
NODE-SELECT: A Graph Neural Network Based On A Selective Propagation Technique
University of South Carolina(南卡罗来纳大学);Drexel University(德雷塞尔大学)
虽然存在用于节点分类的各种各样的图神经网络(GNN),但是其中只有少数采用在消息传递过程中有效地针对噪声传播的机制。此外,显著影响图神经网络的一个非常重要的挑战是可扩展性问题,这限制了它们在更大图中的应用。在本文中,我们提出了我们的方法命名为NODE-SELECT:一个有效的图神经网络,使用子集层,只允许最好的共享拟合节点来传播他们的信息。通过在每个层中并行堆叠选择机制,我们提出的方法NODE-SELECT能够减少传播的噪声量,并适应现实世界中观察到的限制性共享概念。我们的NODE-SELECT在噪声实验中显著优于现有的GNN框架,并在不同基准数据集上的无噪声实验中匹配最先进的结果。
2021-02-17 cs.LG
G-Signatures: Global Graph Propagation With Randomized Signatures
Johannes Kepler University Linz(约翰内斯·开普勒大学林茨分校);Institute of Advanced Research in Artificial Intelligence (IARAI)(高级人工智能研究所);Microsoft Research AI4Science(微软研究院AI4Science)
针对GNNs过度平滑问题,提出G-Signatures方法,利用随机签名和潜在空间路径映射实现全局图传播,有效处理全局属性并扩展到大型图,在分类和回归任务上验证了优势。
2023-08-30 cs.LG
AutoSGNN: Automatic Propagation Mechanism Discovery for Spectral Graph Neural Networks
Xidian University(西安电子科技大学);Guangzhou Institute of Technology, Xidian University(西安电子科技大学广州研究院)
针对单个图神经网络难以同时处理不同类型图的问题,提出自动化框架AutoSGNN,结合大语言模型与进化策略统一谱GNN搜索空间以自动生成适应各类图的架构,在九个数据集上性能与效率均优于现有方法。
2024-12-18 cs.LG
Graph Positional Encoding via Random Feature Propagation
Ben-Gurion University of the Negev(内盖夫本-古里安大学);Imperial College London(伦敦帝国学院);Purdue University(普渡大学);Bar-Ilan University(巴伊兰大学);NVIDIA Research(英伟达研究院)
本研究针对图神经网络两类增强方案关联不明的问题,提出融合二者优势的随机特征传播(RFP)位置编码方法,提供理论支撑并验证其在多类基准任务上性能更优。
2023-07-19 cs.LG
Beyond Oversquashing: Understanding Signal Propagation in GNNs Via Observables
Technion - Israel Institute of Technology, Faculty of Mathematics(技术离子-以色列理工学院,数学系);Technical University of Munich, School of Computation, Information and Technology(慕尼黑技术大学,计算、信息与技术学院);Munich Center for Machine Learning(慕尼黑机器学习中心)
本文提出基于量子力学的可观测量方法,揭示标准谱GNN信号传播能力不足,并提出Schrödinger GNN改进信号路由能力。
2026-11-10 cs.LG
Geometry-Induced Diffusion on Graphs: A Learnable Weighted Laplacian for Spectral GNNs
École Polytechnique Fédérale de Lausanne (EPFL)(瑞士联邦理工学院(EPFL));École Normale Supérieure – PSL(巴黎高等师范学院–PSL)
本文提出了一种简单的谱GNN架构mu-ChebNet,通过学习节点级权重函数mu来修改图拉普拉斯算子,从而改变传播几何而不改变图拓扑,从而促进信息传播的优选路径,帮助长距离信号避免高收缩瓶颈,无需重复层堆叠。
2026-05-21 cs.LG
Efficient Recommendations via Graph Coarsening and Label Propagation
Sapienza University of Rome(罗马第一大学);TIM S.p.A.(意大利电信股份公司)
研究基于图的推荐在大规模下的效率问题,提出结合图粗化与多步标签传播的两阶段扩散框架,在电信数据集实验中,该方法在可扩展性、延迟和推荐质量间实现平衡,不同阶段采用不同模型有不同提升效果。
2026-07-27 cs.LG
Exploring and Improving Initialization for Deep Graph Neural Networks: A Signal Propagation Perspective
The Chinese University of Hong Kong, Shenzhen, China(香港中文大学(深圳));Shenzhen Research Institute of Big Data(深圳大数据研究院);Shenzhen International Center for Industrial and Applied Mathematics(深圳国际工业与应用数学中心)
本文从信号传播视角提出控制前向传播、后向传播和图嵌入变化三个指标,并设计SPoGInit初始化方法优化权重方差,有效解决了深度图神经网络性能下降问题。
2025-07-15 cs.LG
Scalable Graph Neural Networks via Bidirectional Propagation
Renmin University of China(中国人民大学);Alibaba Group(阿里巴巴集团);Beijing Institute of Technology(北京理工大学)
图神经网络是一个新兴的非欧数据学习领域。最近,人们对设计可扩展到大型图的GNN越来越感兴趣。大多数现有的方法使用“图采样”或“逐层采样”技术来减少训练时间。然而,这些方法在应用于具有数十亿条边的图时仍然存在性能下降和可扩展性问题。本文介绍了GBP,一个可扩展的GNN,利用本地化的双向传播过程中的特征向量和训练/测试节点。理论分析表明,GBP算法是第一个在预计算和训练阶段都达到次线性时间复杂度的算法。一项广泛的实证研究表明,GBP实现了最先进的性能与显着更少的训练/测试时间。最值得注意的是,GBP可以在一台机器上在不到半小时的时间内在具有超过6000万个节点和18亿条边的图形上提供卓越的性能。GBP的代码可以在https://github.com/chennnM/GBP上找到。
2021-09-02 cs.LG
Beyond Low-Pass Filters: Adaptive Feature Propagation on Graphs
The Australian National University(澳大利亚国立大学);Pohang University of Science and Technology(浦项科技大学)
图神经网络(GNN)已经被广泛研究用于图上的预测任务。正如最近的研究所指出的,大多数GNN假设局部同质性,即,有很强的相似性然而,这个假设限制了GNN的泛化能力。为了解决这个问题,我们提出了一个灵活的GNN模型,它能够处理任何图形,而不受其底层同质性的限制。该模型的核心是采用基于多个可学习谱过滤器的节点注意力机制;因此,针对谱域中的每个图自适应地学习聚合方案。我们在八个基准数据集上对所提出的模型进行了节点分类任务的评估。所提出的模型是一般化以及同亲和异亲图。此外,它在heterophilic图上的性能优于所有最先进的基线,并在homophilic图上与它们进行了比较。
2021-10-01 cs.LG
On the Unreasonable Effectiveness of Feature propagation in Learning on Graphs with Missing Node Features
Twitter(推特);Imperial College London(伦敦帝国理工学院);University of Oxford(牛津大学)
虽然图神经网络(GNN)最近已经成为关系数据建模的事实标准,但它们对图的节点或边特征的可用性施加了很强的假设。然而,在许多现实世界的应用程序中,功能只能部分使用;例如,在社交网络中,年龄和性别仅对一小部分用户可用。我们提出了一个通用的方法来处理丢失的功能图机器学习应用程序,是基于最小化的Dirichlet能量,并导致一个扩散型微分方程的图形。这个方程的离散化产生了一个简单,快速和可扩展的算法,我们称之为特征传播。我们的实验表明,所提出的方法优于以前的方法在七个常见的节点分类基准,可以承受惊人的高比率的丢失功能:平均而言,我们观察到只有约4%的相对准确度下降时,99%的功能丢失。而且,在单个GPU上运行一个拥有$\sim$ 250万个节点和$\sim$ 123万条边的图,只需要10秒。
2022-05-23 cs.LG
Neural Enhanced Belief Propagation on Factor Graphs
University of Amsterdam(阿姆斯特丹大学);UvA-Bosch Delta Lab(阿姆斯特丹大学博世三角洲实验室)
图模型是局部相关随机变量的结构化表示。对这些随机变量进行推理的传统方法是使用置信传播进行推理。当提供真实的数据生成过程时,置信传播可以推断树结构因子图中的最优后验概率估计。然而,在许多情况下,我们可能只能获得数据生成过程的差近似,或者我们可能会面临因子图中的循环,导致次优估计。在这项工作中,我们首先扩展图神经网络的因子图(FG-GNN)。然后,我们提出了一个新的混合模型,结合运行的FG-GNN与信念传播。FG-GNN在每次推理迭代时接收来自置信传播的输入消息,并输出它们的校正版本。因此,我们得到一个更准确的算法,结合了信念传播和图神经网络的好处。我们将我们的想法纠错解码任务,我们表明,我们的算法可以优于信念传播LDPC码在突发信道。
2021-03-16 cs.LG stat.ML
Graph Propagation Transformer for Graph Representation Learning
OPPO Research Institute(OPPO研究院)
该研究提出图传播Transformer(GPTrans)架构,通过支持三类信息传播的图传播注意力机制学习图表示,在多个基准实验中性能优于现有基于Transformer的图模型。
2024-10-09 cs.AI cs.LG
AdaProp: Learning Adaptive Propagation for Graph Neural Network based Knowledge Graph Reasoning
Paradigm Inc.(第四范式公司);Hong Kong Baptist University(香港浸会大学);Tsinghua University(清华大学);HKUST (Guangzhou)(香港科技大学(广州))
针对现有GNN知识图谱推理方法人工设计传播路径忽略实体与查询关系相关性、实体数爆炸的问题,提出AdaProp方法,通过增量采样机制和基于学习的采样分布实现自适应传播,兼具高效性与语义感知能力。
2023-06-14 cs.AI cs.LG
Contrastive Adaptive Propagation Graph Neural Networks for Efficient Graph Learning
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);University of Chinese Academy of Sciences(中国科学院大学);Peng Cheng Laboratory(鹏城实验室)
图神经网络(GNNs)通过提取和传播结构感知特征在处理图数据方面取得了巨大成功。现有的GNN研究设计了各种传播方案来引导邻居信息的聚合。最近,该领域已经从本地传播计划,专注于本地邻居扩展传播计划,可以直接处理扩展的邻居,包括本地和高阶邻居。尽管令人印象深刻的性能,现有的方法仍然不足以建立一个有效的和可学习的扩展传播方案,可以自适应地调整本地和高阶邻居的影响。本文提出了一种高效而有效的端到端框架,即对比自适应传播图神经网络(CAPGNN),以解决这些问题,结合个性化PageRank和注意力技术。CAPGNN模型的可学习的扩展传播方案与一个稀疏的局部亲和矩阵的多项式,其中多项式依赖于个性化的PageRank提供优良的初始系数。为了自适应地调整局部和高阶邻居的影响,系数注意模型被引入学习调整多项式的系数。此外,我们利用自监督学习技术,并设计了一个无负熵感知的对比损失,以明确地利用未标记的数据进行训练。我们实现CAPGNN作为两个不同的版本命名为CAPGCN和CAPGAT,分别使用静态和动态稀疏局部亲和矩阵。在图形基准数据集上的实验表明,CAPGNN可以始终优于或匹配最先进的基线。源代码可在https://github.com/hujunxianligong/CAPGNN上公开获得。
2021-12-02 cs.LG cs.SI
Revealing Decurve Flows for Generalized Graph Propagation
University of Oxford(牛津大学);McGill University(麦吉尔大学);University of Sydney(悉尼大学)
本研究提出广义传播神经网络(GPNNs)统一基于传播的图模型,并引入连续统一Ricci曲率(CURC)分析有向加权图瓶颈,首次发现训练中曲率降低的“Decurve流”现象。
2024-02-13 cs.LG math.DG
Modeling Event Propagation via Graph Biased Temporal Point Process
Shanghai Jiao Tong University(上海交通大学);China Telecom BestPay Co., Ltd.(中国电信天翼电子商务有限公司)
时态点过程是序列数据建模的常用方法。本文重点研究了图中事件传播的建模问题,如社交网络用户的转发、网站间的新闻传播等。给定一组事件传播序列,传统的点过程模型只考虑事件历史,即将事件历史嵌入到一个向量中,而不考虑潜在图结构。提出了一种基于图表示学习的结构化时间点过程(GBTPP),分别对节点间的直接影响和事件历史的间接影响进行建模。此外,学习的节点嵌入向量也被集成到嵌入的事件历史作为边信息。在一个合成数据集和两个真实数据集上的实验表明,与传统方法和最先进的方法相比,我们的模型是有效的。
2020-05-05 cs.LG cs.SI
Graph Unitary Message Passing
Department of Electrical Engineering, Tsinghua University(清华大学电子工程系);Beijing National Research Center for Information Science and Technology(北京信息科学与技术国家研究中心);State Key laboratory of Space Network and Communications(空间网络与通信国家重点实验室)
针对图神经网络中不稳定问题,提出图酉消息传递框架,通过在变换图上用酉传播算子避免指数衰减,结合图变换和酉投影程序,经理论分析表明其能保持深度稳定,实验取得较好性能。
2026-07-07 cs.AI cs.LG
Improving Signed Propagation for Graph Neural Networks in Multi-Class Environments
Seoul National University(首尔大学);Korea Institute of Energy Technology(韩国能源技术研究院)
本文针对多类异配图中符号传播在消息传递和参数更新上的缺陷,提出结合校准的新策略以降低不确定性并提升鲁棒性,并在六个基准图数据集上验证了有效性。
2024-09-30 cs.LG cs.SI
SF-GNN: Self Filter for Message Lossless Propagation in Deep Graph Neural Network
Zhejiang University(浙江大学)
本文提出SF-GNN方法,通过自过滤器模块评估节点表示质量并控制消息传播,以解决深度GNN中低质量节点表示干扰导致的性能退化问题,在多种图任务上优于现有基线方法。
2024-07-03 cs.AI cs.LG
Enhance Information Propagation for Graph Neural Network by Heterogeneous Aggregations
Global Health Drug Discovery Institute(全球健康药物研发中心)
图神经网络是深度学习成功的延续。图形数据。已经提出了数十种不同的图神经网络变体,大多数遵循邻域聚合方案,其中节点特征通过从层到层聚合其相邻节点的特征来更新。尽管相关研究激增,但GNN的能力仍然无法与计算机视觉中的CNN和自然语言处理中的RNN相提并论。我们从信息传播的角度重新思考这个问题,并提出通过结合异构聚合来增强GNN层之间的信息传播。我们认为,随着更丰富的信息从浅层传播到深层,GNN制定的特征的区分能力可以从中受益。作为我们在这个方向上的第一次尝试,提出了一个新的通用GNN层配方,并在此基础上提出了一个新的GNN变体,称为HAG-Net。我们在许多图分类基准上实证验证了HAG-Net的有效性,并详细说明了所有的设计选项和标准。
2021-02-08 cs.AI cs.LG
Information propagation dynamics in Deep Graph Networks
University of Pisa(比萨大学)
本论文研究了静态与动态深度图网络中的信息传播动力学,将其作为动力学系统设计,提出能保持节点长期依赖并学习复杂时空模式的架构,推动了图表示学习领域发展。
2026-10-02 cs.LG cs.SI
Optimal Propagation for Graph Neural Networks
The University of British Columbia(英属哥伦比亚大学);Amazon(亚马逊);University of Illinois at Urbana Champaign(伊利诺伊大学厄巴纳-香槟分校);Alibaba(阿里巴巴)
本文针对初始图可能非最优的问题,提出通过双层优化同时学习个性化PageRank传播矩阵和半监督节点分类,并引入低秩近似降低复杂度,实验证明其效果和鲁棒性优于所有基线方法。
2023-09-21 cs.AI cs.LG
A Unifying Generative Model for Graph Learning Algorithms: Label Propagation, Graph Convolutions, and Combinations
Cornell University(康奈尔大学)
图上的半监督学习是网络科学和机器学习中一个应用广泛的问题。两种标准算法--标签传播和图神经网络--都是通过沿着边重复传递信息来操作的,前者通过传递标签,后者通过传递节点特征,由神经网络调制。这两种类型的算法在很大程度上是单独开发的,并且对网络数据的结构几乎没有了解,这将使其中一种方法与另一种方法相比工作得特别好,或者当这些方法可以有意义地组合时。在这里,我们开发了一个马尔可夫随机场模型的节点属性的数据生成过程中,基于属性和顶点之间的相关性,激励和统一这些算法的方法。我们证明了标签传播,线性化的图卷积网络,以及它们的组合都可以作为我们的模型下的条件期望,当条件不同的属性。此外,该数据模型突出了现有图神经网络的不足之处(同时产生新的算法解决方案),作为理解图学习问题(如过度平滑)的严格统计框架,创建了评估归纳学习性能的测试平台,并提供了一种对类似经验数据的图属性进行采样的方法。我们还发现,从我们的数据生成模型中衍生出的一种新算法,我们称之为线性图卷积,在实践中对经验数据的表现非常好,并为这种情况提供了理论依据。
2021-01-30 cs.LG cs.SI
Data-Driven Radio Propagation Modeling using Graph Neural Networks
Orange Labs(奥兰治实验室)
针对传统无线电传播物理模型准确性与灵活性不足的问题,提出将环境转为图表示、用图神经网络从真实数据学习传播特性的方法,在速度和精度上优于经典方法,首次实现仅靠点测量生成信号覆盖图。
2025-01-08 cs.AI cs.LG cs.NI
Active Learning for Graph Neural Networks via Node Feature Propagation
Carnegie Mellon University(卡内基梅隆大学)
用于节点分类或边预测等预测任务的图神经网络(GNN)在最近的图形结构数据机器学习中受到越来越多的关注。然而,大量的标记图是很难获得的,这大大限制了GNN的真正成功。虽然主动学习已经被广泛研究用于解决其他数据类型(如文本、图像等)的标签稀疏问题,如何使它在图上有效是一个有待研究的问题。在本文中,我们提出了一个调查的主动学习与GNNs的节点分类任务。具体来说,我们提出了一种新的方法,它使用节点的特征传播,然后在主动学习的实例选择的节点的K-Medoids聚类。理论界分析,我们证明我们的方法的设计选择。在四个基准数据集上的实验中,该方法的性能始终显著优于其他代表性的基线方法。
2021-11-19 cs.LG stat.ML
Simplifying Node Classification on Heterophilous Graphs with Compatible Label Propagation
University of Luxembourg(卢森堡大学);Criteo(科韬)
图神经网络(GNN)在图学习任务中占主导地位;然而,最近的研究表明,一种著名的图算法,标签传播(LP),结合浅层神经网络,可以在具有高同质性的图上实现与GNN相当的半监督节点分类性能。在本文中,我们表明,这种方法不符合低同伦图,其中节点往往连接到节点的相反类。为了克服这一点,我们精心设计了一个基础预测与LP算法,享有一个封闭的形式的解决方案,以及收敛保证的组合。我们的算法首先学习类兼容性矩阵,然后使用LP算法按类兼容性加权来聚合标签预测。在各种各样的基准,我们表明,我们的方法实现了领先的性能与各种层次的同质性图。同时,它具有数量级更少的参数,需要更少的执行时间。经验评估表明,简单的适应LP可以在半监督节点分类的同质性和异质性制度的竞争力。
2022-11-30 cs.LG cs.SI
Accelerating Scalable Graph Neural Network Inference with Node-Adaptive Propagation
The University of Queensland(昆士兰大学);Peking University(北京大学);National Engineering Laboratory for Big Data Analysis and Applications(国家大数据分析与应用工程实验室);Beijing University of Posts and Telecommunications(北京邮电大学);Griffith University(格里菲斯大学)
针对归纳式场景下可扩展GNN推理的可扩展性问题,提出带节点自适应传播的在线框架及Inception Distillation方法,实现了准确率与效率的双重提升,在大数据集上最高达75倍加速。
2023-12-09 cs.AI cs.LG
Decoupling feature propagation from the design of graph auto-encoders
University of Cambridge(剑桥大学)
我们提出了两个实例,L-GAE和L-VGAE,变分图自动编码家族(VGAE)的基础上分离的特征传播操作从图卷积层通常发现在图学习方法的一个单一的线性矩阵计算之前,在标准的自动编码器架构的输入。这种解耦实现了自动编码器的独立和固定设计,而不需要针对节点的局部感受野的大小的每一个期望的增加而需要额外的GCN层。固定自动编码器能够更公平地评估建筑表示中节点感受野的大小。此外,修复自动编码器设计的副产品通常会导致网络比VGAE对应的网络小得多,特别是当我们增加特征传播的数量时。对链接预测任务的比较下游评估显示出与类似的VGAE布置相当的最新性能,尽管相当简化。我们还展示了我们的方法更具有挑战性的表示学习场景,如时空图表示学习的简单应用。
2019-10-18 cs.LG stat.ML
Efficient Dynamic Algorithms for Graph Neural Networks with Non-Linear Propagation
本研究提出一种基于残差推送的高效动态算法,用于在边插入和删除下维护非线性GNN传播的近似不动点,实现均摊$O(1/\epsilon)$更新时间,并在基准上验证了其准确性与高效性。
2026-09-29 cs.DS cs.LG
AttriReBoost: A Gradient-Free Propagation Optimization Method for Cold Start Mitigation in Attribute Missing Graphs
School of Intelligent Systems Engineering, Shenzhen Campus of Sun Yat-sen University(中山大学深圳校区智能系统工程学院);School of Transportation Science and Engineering, Harbin Institute of Technology(哈尔滨工业大学交通科学与工程学院);Yongjiang Laboratory(甬江实验室);Tongji University(同济大学)
本文提出AttriReBoost方法,通过重定义初始边界条件和整合虚拟边增强特征传播,以无梯度方式缓解属性缺失图中的冷启动问题,并在多个基准数据集上实现平均5.11%的准确率提升。
2025-01-01 cs.AI cs.LG
Reward Propagation Using Graph Convolutional Networks
Mila(米拉研究所);McGill University(麦吉尔大学);DeepMind(深度思维公司)
基于潜力的奖励塑造提供了一种设计好的奖励函数的方法,其目的是加速学习。然而,自动为复杂环境寻找潜在函数是一个困难的问题(事实上,与从头开始学习价值函数的难度相同)。我们提出了一个新的框架,利用图表示学习的思想来学习潜在的功能。我们的方法依赖于图卷积网络,我们将其用作与强化学习的概率推理观点相结合的关键成分。更准确地说,我们利用图卷积网络来执行从奖励状态的消息传递。然后,传播的消息可以用作奖励塑造的潜在函数,以加速学习。我们经验验证,我们的方法可以实现相当大的改善,在小和高维控制问题。
2020-11-02 cs.AI cs.LG
Port-Hamiltonian Architectural Bias for Long-Range Propagation in Deep Graph Networks
Ruhr University Bochum(鲁尔大学波鸿分校);University of Pisa(比萨大学)
针对图表示学习中长程信息传播的关键问题,本文提出端口-哈密顿深度图网络框架,基于哈密顿系统守恒律协调信息的非耗散长程传播与非保守行为,在长程基准测试中实现了最先进性能。
2025-02-13 cs.LG cs.SY eess.SY
Rethinking Node-wise Propagation for Large-scale Graph Learning
Beijing Institute of Technology(北京理工大学);Peking University(北京大学)
针对大规模图学习中现有传播策略忽视节点拓扑差异的问题,提出自适应拓扑感知传播(ATP),一种即插即用的节点级优化策略,可离线执行并提升可扩展GNN的性能与效率。
2024-02-09 cs.AI cs.LG cs.SI
InteractionNet: Modeling and Explaining of Noncovalent Protein-Ligand Interactions with Noncovalent Graph Neural Network and Layer-Wise Relevance Propagation
KAIST(韩国科学技术院)
将基于图的深度学习模型的范围扩展到非共价蛋白质与配体相互作用,在基于结构的药物设计中赢得了越来越多的关注。用图神经网络(GNN)对蛋白质与配体相互作用进行建模在将蛋白质-配体复合物结构转换为图表示方面遇到了困难,并且留下了关于训练的模型是否正确地学习适当的非共价相互作用的问题。在这里,我们提出了一个GNN架构,表示为InteractionNet,它通过不同的卷积层学习两个独立的分子图,共价和非共价。我们还使用可解释性技术分析了InteractionNet模型,即,逐层相关性传播,用于检查模型预测的化学相关性。共价和非共价卷积步骤的分离使得可以独立地评估每个步骤的贡献并分析非共价相互作用的图形构建策略。我们将InteractionNet应用于蛋白质-配体结合亲和力的预测,并表明我们的模型成功地预测了非共价相互作用的性能和化学解释的相关性。
2020-05-12 cs.LG q-bio.BM stat.ML
Tripartite Heterogeneous Graph Propagation for Large-scale Social Recommendation
Clova AI Research, NAVER Corp.(NAVER公司Clova人工智能研究院);Search Solution Inc.(搜索解决方案公司);LINE Plus Corp.(LINE Plus公司)
图神经网络(GNNs)已经成为一种很有前途的关系表示方法,包括推荐系统。然而,社交图的各种挑战性问题阻碍了GNN用于社交推荐的实际使用,例如它们复杂的噪声连接和高度异质性。GNN的过度平滑也是基于GNN的社交推荐的障碍。在这里,我们提出了一个新的图嵌入方法异构图传播(HGP)来解决这些问题。HGP使用组-用户-项目三方图作为输入,以减少社交图中的边的数量和路径的复杂性。为了解决过度平滑的问题,HGP在个性化的基于PageRank的传播方案下嵌入节点,分别用于组用户图和用户项图。使用注意力机制来集成来自每个图的节点嵌入。我们在一个由1,645,279个节点和4,711,208条边组成的大规模真实世界数据集上评估我们的HGP。实验结果表明,HGP在AUC和F1评分指标方面优于几个基线。
2019-07-24 cs.IR cs.LG cs.SI
Omni-Granular Ego-Semantic Propagation for Self-Supervised Graph Representation Learning
Institute of Medical Technology, Health Science Center of Peking University(北京大学医学部医学技术研究院);National Institute of Health Data Science, Peking University(北京大学健康医疗大数据国家研究院)
无监督/自监督图表示学习对于下游节点和图级分类任务至关重要。图的全局结构有助于区分表示,现有方法主要通过施加额外的监督来利用全局结构。然而,它们的全局语义通常对于所有节点/图是不变的,并且它们未能显式地嵌入全局语义以丰富表示。在本文中,我们提出了全粒度自我语义传播自监督图表示学习(OEPG)。具体来说,我们引入实例自适应全局感知自我语义描述符,利用每个节点/图和整个图数据集的分层全局集群之间的一阶和二阶特征差异。描述符可以作为新的邻居节点显式地集成到局部图卷积中。此外,我们设计了一个全粒度的规范化的整个规模和层次的自我语义分配注意力的权重,每个描述符从全粒度的角度。专门的借口任务和交叉迭代动量更新进一步发展为本地-全球相互适应。在下游任务中,OEPG在跨尺度和跨领域的多个数据集上始终获得最佳性能,精度增益为2%~6%。值得注意的是,OEPG还推广到数量和拓扑不平衡的场景。
2022-05-31 cs.AI cs.CV cs.LG
Does Graph Compression Preserve Signal Propagation?
研究图压缩中粗化和稀疏化两种范式对信号传播行为的影响,通过三个指标在五个数据集等多种条件下测量,发现两者在保留信号多样性和传播保真度上存在矛盾,强调需联合考虑两维度的评估协议。
2026-07-28 cs.LG
Beyond Feature and Structure Alignment: Learning Transferable Propagation Knowledge for Graph Foundation Models
Tianjin University(天津大学)
针对现有图基础模型忽略可迁移传播知识单元与传播模式异质性的局限,本文提出ProGFM,通过传播关系原型库学习跨域可迁移传播知识,在多跨域场景下实现更优泛化性能。
2026-08-03 cs.LG
Scalable Varied-Density Clustering via Graph Propagation
针对高维数据变密度聚类问题,提出将其作为邻域图中标签传播过程的新视角,引入密度感知邻域传播算法并结合随机投影方法构建近似邻域图,在降计算成本同时保持聚类质量,处理大数据集效率高且准确率有竞争力。
2026-07-13 cs.LG
Graph Clustering with Cross-View Feature Propagation
College of Computer and Information Science, Southwest University(西南大学计算机与信息科学学院)
针对图聚类任务,提出结合多视图特征传播的GCCFP方法,通过含正则项的统一目标函数确定簇归属,经迭代优化且可有限步收敛,在真实图上性能优于现有方法。
2024-08-12 cs.LG
Learning Graph Representations with Embedding Propagation
NEC Labs Europe(NEC欧洲实验室)
我们提出了嵌入传播(EP),一个无监督学习框架的图结构数据。EP通过在相邻节点之间传递两种类型的消息来学习图的矢量表示。转发消息由标签表示组成,例如与节点相关联的单词和其他属性的表示。反向消息由聚合标签表示和应用重建损失产生的梯度组成。节点表示最终从其标签的表示中计算出来。由于参数和超参数显著减少,EP的实例在一系列基准数据集上与最先进的无监督和半监督学习方法竞争并且通常优于它们。
2017-10-09 cs.LG
Tracking Time-Vertex Propagation using Dynamic Graph Wavelets
Politecnico di Torino(都灵理工大学);EPFL(洛桑联邦理工学院)
图信号处理将经典信号处理推广到由加权图的顶点索引的信号或数据。到目前为止,研究工作一直集中在静态图形信号。然而,许多应用涉及随时间演变的图形信号,例如波在网络上的传播或传播。分析这类数据需要一套新的方法,充分考虑到时间和图形维度。我们提出了一类新的小波框架动态图小波,其时间顶点的演化遵循一个动态过程。我们证明,这组功能可以与基于稀疏性的方法,如压缩感知,揭示信息的动态过程中发生的图形。在实际地震数据上的实验表明了该方法的有效性,可以用来估计地震台网记录的地震事件的震中。
2016-06-21 cs.LG
Node Attribute Completion in Knowledge Graphs with Multi-Relational Propagation
EPFL(洛桑联邦理工学院)
现有的关于知识图谱完成的文献大多集中在链接预测任务上。然而,知识图谱有一个额外的不完整性问题:它们的节点拥有数值属性,其值经常丢失。我们的方法,表示为MrAP,通过在知识图谱的多关系结构中传播信息来估算缺失属性的值。它采用回归函数根据节点之间的关系和属性的类型来预测一个节点属性与另一个节点属性。传播机制在消息传递方案中迭代地操作,该方案在每次迭代时收集预测并更新节点属性的值。在两个基准数据集上的实验表明了该方法的有效性。
2020-11-10 cs.LG
Towards Robust and Scalable Density-based Clustering via Graph Propagation
School of Computer Science, University of Auckland, New Zealand(奥克兰大学计算机科学学院);Department of Mathematics and Computer Science, University of Southern Denmark, Denmark(丹麦南部大学数学与计算机科学系)
本文提出CluProp框架,将高维空间中的变密度聚类转化为邻域图上的标签传播过程,通过高效的传播机制缓解传统密度方法的参数敏感性,实现大规模数据的高效准确聚类。
2026-08-27 cs.LG
Feature propagation as self-supervision signals on graphs
Universitat Politècnica de Catalunya - BarcelonaTech (UPC)(加泰罗尼亚理工大学-巴塞罗那理工(UPC))
针对图自监督学习中对比学习开销大且增广可能改变语义的问题,提出RGI框架,通过最大化节点嵌入与特征传播的互信息训练图神经网络,非对比且无需增广,在基准上达到最先进性能。
2023-09-04 cs.LG
GraphHop: An Enhanced Label Propagation Method for Node Classification
University of Southern California(南加州大学)
提出了一种基于图结构数据的可扩展半监督节点分类方法GraphHop。该图包含所有节点的属性,但少数节点的标签。经典的标签传播(LP)方法和新兴的图卷积网络(GCN)是两个流行的半监督解决方案,这个问题。LP方法在对节点属性和标签进行联合建模时效果不佳,或者在大规模图上收敛速度较慢。GraphHop是针对其缺点提出的。通过适当的初始标签向量嵌入,GraphHop的每次迭代都包含两个步骤:1)标签聚合和2)标签更新。在步骤1中,每个节点聚合在先前迭代中获得的其邻居的标签向量。在步骤2中,基于节点自身的标签和在步骤1中获得的聚合标签信息,为每个节点预测新的标签向量。这个迭代过程利用了邻近信息,使GraphHop能够在极小的标签速率设置中表现良好,并能够很好地扩展到非常大的图形。实验结果表明,GraphHop在广泛的任务(例如,引文网络、社会图和商品消费图上的多标签和多类别分类)。我们的代码可在GitHub上公开获取(https://github.com/TianXieUSC/GraphHop)。
2021-01-07 cs.LG
Dissecting the Diffusion Process in Linear Graph Convolutional Networks
Peking University(北京大学);Pazhou Lab(琶洲实验室)
近年来,图卷积网络(GCN)受到了越来越多的关注。一个典型的GCN层包括一个线性特征传播步骤和一个非线性变换步骤。最近的工作表明,一个线性的GCN可以实现相当的性能,原来的非线性GCN,而计算效率更高。本文从连续图扩散的角度剖析了线性GCN的特征传播步骤,并分析了为什么线性GCN无法从更多的传播步骤中受益。在此之后,我们提出了解耦图卷积(DGC),它将终端时间和特征传播步骤相结合,使其更加灵活,能够利用大量的特征传播步骤。实验表明,我们提出的DGC改善了线性GCN的大幅度提高,使他们具有竞争力的许多现代变种的非线性GCN。
2021-10-28 cs.LG