Cross-attentive Cohesive Subgraph Embedding to Mitigate Oversquashing in GNNs
Department of Computer Science, Georgia State University(佐治亚州立大学计算机科学系);Department of Data Science and Analytics, Kennesaw State University(肯尼索州立大学数据科学与分析系)
本文提出一种新颖的图学习框架,通过跨注意力凝聚子图表示增强节点嵌入,缓解图神经网络中的信息过载问题,提升分类准确率。
2026-04-02 cs.AI cs.LG
Improving Subgraph-GNNs via Edge-Level Ego-Network Encodings
Universitat Pompeu Fabra(庞培法布拉大学);Universitat Oberta de Catalunya(加泰罗尼亚开放大学);ISI Foundation Turin(都灵ISI基金会)
本文提出边级自我网络编码以增强子图GNN,理论上证明其表达能力优于基于节点的子图MP-GNN,并在多个基准上匹配或改进基线且显著降低内存使用。
2024-05-02 cs.AI cs.LG
From Relational Pooling to Subgraph GNNs: A Universal Framework for More Expressive Graph Neural Networks
Tsinghua University(清华大学);Peking University(北京大学)
本文提出从关系池化出发,通过显式节点标签和$k,l$-WL算法构建通用框架,统一子图GNN并提升任意基础GNN的表达力,实验验证其优越性能。
2023-05-08 cs.AI cs.LG
Ordered Subgraph Aggregation Networks
TU Munich(慕尼黑工业大学);RWTH Aachen University(亚琛工业大学);University of Antwerp(安特卫普大学);University of Stuttgart(斯图加特大学)
最近出现了许多子图增强的图神经网络(GNN),可以证明它提高了标准(消息传递)GNN的表达能力。然而,有一个有限的理解,这些方法是如何相互关联,以及Weisfeiler-Leman层次。此外,目前的方法要么使用给定大小的所有子图,随机均匀地对它们进行采样,要么使用手工制作的算法,而不是学习以数据驱动的方式选择子图。在这里,我们通过引入理论框架并扩展子图增强GNN的已知表达性结果,提供了一种统一的方法来研究此类架构。具体而言,我们表明,增加子图的大小总是增加的表达能力,并制定了更好地了解他们的局限性,将它们与建立$k\text{-}\mathsf{WL}$层次。此外,我们探索不同的方法来学习采样子图使用最近的方法通过复杂的离散概率分布的反向传播。从经验上讲,我们研究了不同子图增强型GNN的预测性能,表明与非数据驱动的子图增强型图神经网络相比,我们的数据驱动架构提高了标准基准数据集的预测准确性,同时减少了计算时间。
2022-10-15 cs.AI cs.DS cs.LG
Two-level Graph Neural Network
Xiamen University(厦门大学);University of York(约克大学)
图神经网络(GNN)是最近提出的用于处理图结构数据的神经网络结构。现有的GNN由于采用了邻居聚合策略,只注重获取节点级信息,而忽略了高层信息。因此,现有的GNN遭受由局部排列不变性(LPI)问题引起的代表性限制。为了克服这些限制并丰富GNN捕获的功能,我们提出了一种新的GNN框架,称为两级GNN(TL-GNN)。这将子图级信息与节点级信息合并。此外,我们提供了一个数学分析的LPI问题,这表明,子图级的信息是有益的,以克服与LPI相关的问题。提出了一种基于动态规划算法的子图计数方法,该方法的时间复杂度为O(n^3),n为图的节点数。实验表明,TL-GNN优于现有的GNN,并达到最先进的性能。
2022-01-03 cs.AI cs.LG
GraphCrop: Subgraph Cropping for Graph Classification
School of Computing, National University of Singapore(新加坡国立大学计算机学院);Nanyang Technological University(南洋理工大学)
提出了一种新的正则化图神经网络(GNNs)的方法,以提高图分类的泛化能力。观察到子结构的省略不一定改变整个图的类标签,我们开发了\textbf{GraphCrop}(子图裁剪)数据增强方法来模拟子结构省略的真实世界的噪音。原则上,GraphCrop利用以节点为中心的策略从原始图中裁剪连续的子图,同时保持其连通性。通过为图分类保留有效的结构上下文,我们鼓励GNN从全局意义上理解图结构的内容,而不是依赖于可能并不总是存在的几个关键节点或边。GraphCrop是参数学习免费的,易于在现有的基于GNN的图分类器中实现。GraphCrop通过生成新的和信息丰富的增强图来扩展现有的训练集,这些图在大多数情况下保留了原始的图标签。通过量化,GraphCrop在多个标准数据集上产生了显著且一致的收益,从而增强了流行的GNN,使其优于基线方法。
2020-09-22 cs.AI cs.SI
FedTAD: Topology-aware Data-free Knowledge Distillation for Subgraph Federated Learning
Sun Yat-sen University(中山大学);Beijing Institute of Technology(北京理工大学)
针对子图联邦学习中子图异质性导致全局图神经网络性能受损的问题,提出拓扑感知无数据知识蒸馏技术FedTAD,通过解耦节点与拓扑变化增强可靠知识转移,在六个数据集上优于基线方法。
2024-04-25 cs.AI cs.DB cs.LG
Inductive Subgraphs as Shortcuts: Causal Disentanglement for Heterophilic Graph Learning
The Hong Kong Polytechnic University(香港理工大学);Curtin University(Curtin大学);University of Macau(澳门大学);The Education University of Hong Kong(香港教育大学)
本文提出因果解缠图神经网络CD-GNN,通过阻断非因果路径提升异质图节点分类的鲁棒性和准确性。
2026-04-21 cs.AI cs.LG
RISE: Radius of Influence based Subgraph Extraction for 3D Molecular Graph Explanation
Stony Brook University(石溪大学)
本文提出RISE方法,通过为3D GNN中每个节点分配影响半径并提取局部子图,提升分子图模型的可解释性,使其更符合3D空间中的物理与结构依赖关系。
2025-05-04 cs.AI cs.LG q-bio.QM
Towards Faithful Class-level Self-explainability in Graph Neural Networks by Subgraph Dependencies
School of Computing, Macquarie University(麦考瑞大学计算机学院);CSIRO’s Data61(CSIRO数据61)
本文提出自解释GNN框架GraphOracle,通过联合学习分类器与判别性稀疏子图,并利用熵正则化子图选择和随机游走提取,实现忠实、可扩展的类级解释,弥补了ProtGNN和PGIB等先前方法在类级解释上的不足。
2025-08-15 cs.AI cs.LG
Target Circuit Matching in Large-Scale Netlists using GNN-Based Region Prediction
KAIST, Republic of Korea(韩国科学技术院);SK hynix, Republic of Korea(SK hynix)
针对大规模网表中的目标电路匹配问题,提出利用 GNN 预测高概率目标区域并直接提取全局子图嵌入,显著提升了时间效率与预测效果。
2025-07-18 cs.AI cs.LG
BSG4Bot: Efficient Bot Detection based on Biased Heterogeneous Subgraphs
Peking University(北京大学)
针对现有图神经网络机器人检测方法训练成本高、邻域假设不成立时性能下降及对抗环境下机器人特征动态的问题,提出BSG4Bot方法,通过预训练分类器结合PPR构建有偏异质子图并训练异质GNN,实现性能更优且训练时间仅为现有方法1/5的高效机器人检测。
2024-10-07 cs.AI cs.LG
Towards the Explanation of Graph Neural Networks in Digital Pathology with Information Flows
Tencent AI Lab(腾讯人工智能实验室)
随着图神经网络(GNN)在数字病理学中被广泛采用,人们越来越关注开发GNN的解释模型(解释器)以提高临床决策的透明度。现有的解释器发现一个解释子图相关的预测。然而,这样的子图不足以揭示用于预测的所有关键生物子结构,因为在移除该子图之后预测将保持不变。因此,一个解释性的子图不仅应该是预测所必需的,而且应该足以揭示解释的最具预测性的区域。这种解释需要测量从不同输入子图到预测输出的信息,我们将其定义为信息流。在这项工作中,我们解决了这些关键挑战,并提出了IFEXPLAINER,它为GNN产生了必要和充分的解释。为了评估GNN预测中的信息流,我们首先提出了一种新的预测性概念,称为$f$ -信息,它是有方向的,并结合了GNN模型的现实能力。在此基础上,IFEXPLAINER生成具有最大信息流的解释子图。同时,在删除解释后,它最大限度地减少了从输入到预测结果的信息流。因此,所产生的解释对于预测必然是重要的,并且足以揭示最关键的子结构。我们评估IFEXPLAINER来解释GNN对乳腺癌亚型的预测。在BRACS数据集上的实验结果表明了该方法的优越性能。
2021-12-18 cs.AI cs.LG
Rethinking Explaining Graph Neural Networks via Non-parametric Subgraph Matching
Westlake University(西湖大学);MindrankAI;Yale University(耶鲁大学)
本文提出非参数子图匹配框架MatchExplainer,通过匹配图间共同基序识别解释性子图,并设计MatchDrop增强范式以缓解假阳性采样问题,实验证明其优于现有参数化方法。
2023-11-01 cs.AI cs.LG
MoSE: Unveiling Structural Patterns in Graphs via Mixture of Subgraph Experts
Nanyang Technological University(南洋理工大学)
针对GNN捕获高阶子图模式能力不足的问题,本文提出MoSE框架,通过匿名游走提取子图并动态路由至专家,增强灵活性与可解释性,理论证明其表达力强于SWL,实验验证其性能优于基线。
2025-09-11 cs.AI cs.LG
Faithful Explanations for Deep Graph Models
Carnegie Mellon University(卡内基梅隆大学)
本文研究了图神经网络(GNNs)的忠实解释。首先,我们提供了一个新的和一般的方法来正式表征GNN的解释的忠实性。它适用于现有的解释方法,包括特征属性和子图解释。其次,我们的分析和实证结果表明,特征属性的方法不能捕捉边缘特征的非线性效应,而现有的子图解释方法是不忠实的。第三,我们介绍了\emph{k-hop Explanation with a Convolutional Core}(KEC),一种新的解释方法,可证明最大限度地忠实于原来的GNN利用信息的图结构在其邻接矩阵和它的\emph{k-th}权力。最后,我们对使用GNN进行分类和异常检测任务的合成和真实数据集的实证结果证明了我们方法的有效性。
2022-05-24 cs.AI cs.LG
Generalizing Weisfeiler-Lehman Kernels to Subgraphs
KAIST, Republic of Korea(韩国延世大学)
针对GNN在子图级任务中难以捕捉复杂交互的问题,提出WLKS——基于诱导k跳邻域推广的Weisfeiler-Lehman核,结合多k跳层级核以增强结构表达,在8个基准上5个数据集性能优于主流方法且训练时间大幅缩短。
2025-11-11 cs.AI cs.LG cs.SI
Unbiased GNN Learning via Fairness-Aware Subgraph Diffusion
School of Computer Science, Carleton University(卡尔顿大学计算机科学学院)
本文提出公平感知子图扩散方法FASD,通过随机微分方程驱动的生成式扩散过程对采样子图进行去偏,再在去偏子图上进行GNN学习,从而在多个基准数据集上实现优于现有公平GNN基线的无偏节点预测。
2024-12-31 cs.AI cs.LG
Motif-Driven Contrastive Learning of Graph Representations
University of California, Los Angeles(加州大学洛杉矶分校)
基于自监督对比学习的图神经网络(GNN)的预训练最近引起了人们的广泛关注。然而,现有的工作大多集中在节点级的对比学习,不能捕捉全局图结构。进行子图级对比学习的关键挑战是对语义上有意义的信息子图进行采样。为了解决这个问题,我们建议学习图基序,这是频繁出现的子图模式(例如分子的官能团),以便更好地进行子图采样。我们的框架Motif驱动的图表示的对比学习(MICRO-Graph)可以:1)使用GNN从大型图数据集中提取motif; 2)利用学习到的motif对GNN的对比学习的信息子图进行采样。我们将模体学习归结为一个可微聚类问题,并采用EM-聚类方法将相似且重要的子图分成几个模体。在这些学习到的基序的指导下,训练采样器以生成更多信息的子图,并且这些子图用于通过图到子图对比学习来训练GNN。通过使用MICRO-Graph对ogbg-molhiv数据集进行预训练,预训练的GNN在各种下游基准数据集上实现了2.04%的ROC-AUC平均性能提升,这显著高于其他最先进的自监督学习基线。
2021-04-16 cs.LG
DAG Matters! GFlowNets Enhanced Explainer For Graph Neural Networks
Huawei Noah’s Ark Lab(华为诺亚方舟实验室);Tianjin University(天津大学);National University of Singapore(新加坡国立大学)
揭示图神经网络(GNN)预测背后的原理近年来受到越来越多的关注。现有的文献主要集中在选择一个子图,通过组合优化,提供忠实的解释。然而,候选子图的指数大小限制了最先进方法对大规模GNN的适用性。我们通过一种不同的方法来增强这一点:通过提出一种生成结构-基于GFlowNets-based GNN Explainer(GFlowExplainer),我们将优化问题转化为逐步生成问题。我们的GFlowExplainer旨在学习一种策略,该策略生成子图的分布,其中子图的概率与其奖励成比例。该方法消除了节点序列的影响,因此不需要任何预训练策略。我们还提出了一个新的切割顶点矩阵,以有效地探索GFlowNets结构的父状态,从而使我们的方法适用于大规模的设置。我们进行了广泛的实验,在合成和真实的数据集,定性和定量的结果表明,我们的GFlowExplainer的优越性。
2023-03-04 cs.AI cs.LG
Reconsidering Faithfulness in Regular, Self-Explainable and Domain Invariant GNNs
University of Trento(特伦托大学)
本文系统研究了GNN解释的忠实性,证明现有度量指标不可互换且优化忠实性对常规GNN不总是合理,并揭示忠实性与分布外泛化的紧密关联。
2025-04-10 cs.AI cs.LG
Multi-View Subgraph Neural Networks: Self-Supervised Learning with Scarce Labeled Data
The Hong Kong Polytechnic University(香港理工大学);Xiamen University(厦门大学)
本文提出多视图子图神经网络Muse,通过信息论机制从输入空间和潜在空间识别局部结构与长程依赖子图,以自监督方式缓解标注数据稀缺问题,提升节点分类性能。
2024-04-19 cs.AI cs.LG
Atomic and Subgraph-aware Bilateral Aggregation for Molecular Representation Learning
Renmin University of China(中国人民大学);Institute of Software Chinese Academy of Sciences(中国科学院软件研究所);University of Chinese Academy of Sciences(中国科学院大学)
本文提出原子与子图感知双向聚合模型(ASBA),通过结合原子级和子图级信息并采用分解-聚合GNN架构及自监督学习策略,提升了分子性质预测的全面性与泛化能力。
2023-05-22 cs.AI cs.LG q-bio.QM
FedGrAINS: Personalized SubGraph Federated Learning with Adaptive Neighbor Sampling
University of Southern California(南加州大学);Emory University(埃默里大学);University of Birmingham(伯明翰大学)
本文提出FedGrAINS,一种基于生成流网络的自适应邻居采样正则化方法,用于解决个性化子图联邦学习中的客户端异质性挑战,实验证明其能持续提升联邦学习性能。
2025-01-23 cs.AI cs.DC cs.IR
Federated Learning with Limited Node Labels
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院)
针对现有子图联邦学习忽略跨子图边、需大量标注数据的问题,提出FedMpa及改进版FedMpae框架,通过少量数据训练MLP传播联邦特征、池化重构图结构,在六个数据集的节点分类任务中表现优异。
2024-06-18 cs.AI cs.DC cs.LG
Distributed Graph Neural Network Inference With Just-In-Time Compilation For Industry-Scale Graphs
Ant Group(蚂蚁集团)
本文针对工业级大规模图数据上GNN推理的内存与计算瓶颈,提出基于新编程接口和即时编译的分布式图学习范式,消除子图采样带来的信息丢失与冗余计算,在5亿节点、224亿边的图上实现最高27.4倍性能提升。
2025-03-08 cs.AI cs.DC cs.LG
Task-Oriented GNNs Training on Large Knowledge Graphs for Accurate and Efficient Modeling
Concordia University(康考迪亚大学);KAUST(阿卜杜拉国王科技大学)
本文提出KG-TOSA方法,通过自动提取面向任务的子图(TOSG)来优化大型知识图谱上的HGNN训练,在将训练时间和内存使用量减少高达70%的同时提升模型准确率和推理速度。
2024-03-22 cs.AI cs.LG
L2XGNN: Learning to Explain Graph Neural Networks
Goethe University Frankfurt(法兰克福大学);University of Stuttgart(斯图加特大学)
本文提出 L2XGNN 框架,通过学习选择稀疏、连通的解释性子图并仅基于其进行消息传递,在保持基线分类准确率的同时实现忠实可解释的 GNN 预测。
2024-06-14 cs.AI cs.LG
Hyperedge Modeling in Hypergraph Neural Networks by using Densest Overlapping Subgraphs
University of Windsor(温莎大学)
针对超图神经网络的超边建模问题,提出基于凝聚贪心枚举的最稠密重叠子图求解算法以鲁棒构建超图,节点分类任务性能显著优于现有方法。
2024-09-16 cs.AI cs.LG cs.SI
SPGNN: Recognizing Salient Subgraph Patterns via Enhanced Graph Convolution and Pooling
Washington University in St. Louis(圣路易斯华盛顿大学);Peking University(北京大学)
本文提出 SPGNN 架构,通过基于拼接的单射图卷积和 WL-SortPool 池化模块增强子图模式识别能力,在图分类基准上取得与最先进方法竞争的结果。
2024-04-29 cs.AI cs.LG
GraphEdge: Dynamic Graph Partition and Task Scheduling for GNNs Computing in Edge Network
Guangxi Key Laboratory of Multimedia Communications and Network Technology(广西多媒体通信与网络技术重点实验室);School of Computer, Electronics and Information, Guangxi University(广西大学计算机、电子与信息学院);School of Computer Science and Engineering, South China University of Technology(华南理工大学计算机科学与工程学院);Pazhou Laboratory(琶洲实验室);College of Cyber Security, Jinan University(暨南大学网络安全学院);Department of Information Systems, University of Maryland, Baltimore County (UMBC)(马里兰大学巴尔的摩县信息学院)
针对图神经网络在边缘计算中通信成本高的问题,提出GraphEdge架构,通过HiCut图割算法优化图布局,并利用DRLGO算法实现子图级任务卸载,以最小化通信成本、处理时间和能耗。
2025-04-22 cs.AI cs.LG
Subgraph Frequency Distribution Estimation using Graph Neural Networks
Stanford University(斯坦福大学);Australian National University(澳大利亚国立大学);The University of Hong Kong(香港大学);Rutgers University(罗格斯大学);Massachusetts Institute of Technology(麻省理工学院)
小的子图(graphlets)是描述大型网络基本单元的重要特征。子图频率分布的计算在生物学和工程学等领域有着广泛的应用。不幸的是,由于这个任务的固有复杂性,大多数现有的方法是计算密集型和低效的。在这项工作中,我们提出了GNNS,一种新的代表性的学习框架,利用图神经网络的采样子图有效地估计其频率分布。我们的框架包括一个推理模型和一个生成模型,用于学习节点、子图和图类型的分层嵌入。通过学习的模型和嵌入,子图以高度可扩展和并行的方式进行采样,然后基于这些采样的子图进行频率分布估计。最终,我们的方法实现了可比的准确性和显着的加速比现有的方法相比,三个数量级。
2022-07-14 cs.AI cs.CV cs.LG
Tackling Size Generalization of Graph Neural Networks on Biological Data from a Spectral Perspective
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Michigan, Ann Arbor(密歇根大学安娜堡分校);Dartmouth College(达特茅斯学院)
针对图神经网络因图规模分布偏移导致的泛化难题,从谱视角分析生物图中子图模式驱动的谱差异与性能的关联,提出规模密集注意力等模型无关策略,显著提升大测试图的分类效果。
2025-08-01 cs.AI cs.LG
Towards Training GNNs using Explanation Directed Message Passing
Imperial College London(帝国理工学院);Ludwig-Maximilians Universität München(慕尼黑大学);Adobe(奥多比公司)
随着图神经网络(GNNs)在关键现实世界应用中的使用越来越多,已经提出了几种事后解释方法来理解它们的预测。然而,在模型训练期间,还没有在动态生成解释并利用它们来提高底层GNN模型的表达能力。在这项工作中,我们为GNN引入了一种新的解释导向的神经消息传递框架EXPASS(可解释的消息传递),它只聚合来自GNN解释方法确定为重要的节点和边缘的嵌入。EXPASS可以与任何现有的GNN架构和子图优化解释器一起使用,以学习准确的图嵌入。我们从理论上证明了EXPASS通过减缓Dirichlet能量的逐层损失来消除GNNs中的过平滑问题,并且香草消息传递和EXPASS框架之间的嵌入差异可以通过各自模型权重的差异来上界。我们的实证结果表明,使用EXPASS学习的图嵌入提高了预测性能,缓解了GNN的过度平滑问题,为图机器学习开发基于简化的训练框架开辟了新的前沿。
2022-12-01 cs.AI cs.LG
Metapath- and Entity-aware Graph Neural Network for Recommendation
Technische Universität München(慕尼黑工业大学);Mercateo(Mercateo公司);fortiss GmbH(fortiss有限公司);Ludwig-Maximilians-University(慕尼黑大学)
在图神经网络(GNNs)中,消息传递迭代地聚合来自其直接邻居的节点信息,而忽略了多跳节点连接的顺序性质。这种顺序节点连接例如,metapaths,捕获下游任务的关键见解。具体地说,在推荐系统(RS)中,忽视这些见解会导致协作信号的不充分蒸馏。在本文中,我们采用协作子图(CSG)和元路径,形成元路径感知的子图,明确捕捉图结构中的顺序语义。我们提出了Meta \textbf{P}路径和\textbf{E}实体- \textbf{A} ware \textbf{G}和\textbf{N} eural \textbf{N} etwork(PEAGNN),它训练多层GNN在这样的子图上执行元路径感知的信息聚合。然后使用注意力机制融合来自不同元路径的聚合信息。最后,PEAGNN给出了节点和子图的表示,可以用来训练MLP来预测目标用户-项目对的得分。为了利用CSG的局部结构,我们提出了实体意识,作为节点嵌入的对比正则化。此外,PEAGNN可以与GAT,GCN和GraphSage等突出层相结合。我们的实证评估表明,我们提出的技术优于竞争基准的几个数据集的推荐任务。进一步的分析表明,PEAGNN还可以从给定的元路径集合中学习有意义的元路径组合。
2021-04-02 cs.AI cs.LG
Robust Counterfactual Explanations on Graph Neural Networks
Huawei Technologies Canada Co., Ltd.(华为技术加拿大有限公司);McMaster University(麦克马斯特大学);The University of British Columbia(不列颠哥伦比亚大学);Simon Fraser University(西蒙弗雷泽大学)
图神经网络(GNN)在高风险应用中的大规模部署产生了对对噪声鲁棒性和与人类直觉保持一致的解释的强烈需求。大多数现有方法通过识别与预测具有强相关性的输入图的子图来生成解释。这些解释对噪声不鲁棒,因为独立地优化单个输入的相关性可以容易地过拟合噪声。此外,它们与人类的直觉并不一致,因为从输入图中删除已识别的子图并不一定会改变预测结果。在本文中,我们提出了一种新的方法,通过在类似的输入图上显式地对GNN的公共决策逻辑进行建模,来生成对GNN的鲁棒反事实解释。我们的解释自然对噪声具有鲁棒性,因为它们是从GNN的公共决策边界产生的,这些边界控制着许多类似输入图的预测。这些解释也与人类的直觉很好地吻合,因为从输入图中删除解释所识别的边缘集会显著改变预测。在许多公共数据集上的详尽实验证明了我们的方法的优越性能。
2022-07-12 cs.AI cs.LG
Motif-based Graph Self-Supervised Learning for Molecular Property Prediction
University of Science and Technology of China(中国科学技术大学);Tencent America(腾讯美国)
近年来,用数据驱动的方法预测分子性质引起了人们的广泛关注。特别是,图神经网络(GNN)在各种分子生成和预测任务中表现出显着的成功。在标记数据稀缺的情况下,GNN可以在未标记的分子数据上进行预训练,首先学习一般的语义和结构信息,然后再针对特定任务进行微调。然而,大多数现有的GNN自监督预训练框架只关注节点级或图级任务。这些方法无法捕捉到子图或图模体中的丰富信息。例如,官能团(分子图中频繁出现的子图)通常携带有关分子性质的指示信息。为了弥合这一差距,我们提出了基于模体的图自监督学习(MGSSL),通过引入一种新的自监督模体生成框架的GNN。首先,对于从分子图中提取基序,我们设计了一种分子片段化方法,该方法利用基于逆合成的算法金砖国家和额外的规则来控制基序词汇的大小。其次,我们设计了一个通用的基于模体的生成预训练框架,在该框架中,GNN被要求进行拓扑和标签预测。这种生成框架可以以两种不同的方式实现,即,宽度优先或深度优先。最后,考虑到分子图中的多尺度信息,我们引入了多层次的自监督预训练。对各种下游基准任务的广泛实验表明,我们的方法优于所有最先进的基线。
2021-10-16 cs.AI cs.LG q-bio.QM
OpenGLT: A Comprehensive Benchmark of Graph Neural Networks for Graph-Level Tasks
COMP, PolyU Hong Kong SAR China(香港理工大学计算机系);DSA, HKSUT (GZ) Guangzhou China(香港科技大学(广州)数据科学与分析系)
本文提出OpenGLT框架,系统分类图神经网络为五类,通过26个数据集评估20种模型,揭示不同架构在表达性、鲁棒性和效率上的差异,以及图拓扑特征对架构选择的影响。
2026-04-09 cs.AI cs.DB cs.LG
Subgraph Pooling: Tackling Negative Transfer on Graphs
University of Notre Dame(圣母大学);Brandeis University(布兰迪斯大学)
本文针对图迁移学习中因结构差异导致的负迁移问题,提出子图池化(SP)和SP++方法,通过聚合k跳邻域或随机游走节点来缓解结构差异影响,并在多种设置下验证了其有效性和通用性。
2024-05-04 cs.AI cs.LG cs.SI
ProtGNN: Towards Self-Explaining Graph Neural Networks
University of Science and Technology of China(中国科学技术大学);Tencent America(腾讯美国)
尽管图神经网络(GNN)最近取得了进展,但解释GNN所做的预测仍然具有挑战性。现有的解释方法主要集中在事后解释,即采用另一个解释模型来为训练好的GNN提供解释。事后方法无法揭示GNN的原始推理过程,这一事实提出了构建具有内置可解释性的GNN的需求。在这项工作中,我们提出了原型图神经网络(ProtGNN),它将原型学习与GNN相结合,并为GNN的解释提供了一个新的视角。在ProtGNN中,解释自然来自基于案例的推理过程,并在分类过程中实际使用。ProtGNN的预测是通过将输入与潜在空间中的一些学习原型进行比较来获得的。此外,为了更好的可解释性和更高的效率,一个新的条件子图采样模块被纳入到输入图的哪一部分是最相似的ProtGNN+中的每个原型。最后,我们在广泛的数据集上评估我们的方法,并进行具体的案例研究。大量的结果表明,ProtGNN和ProtGNN+可以提供固有的可解释性,同时实现与不可解释的对应物相当的准确性。
2021-12-02 cs.AI cs.LG
SES: Bridging the Gap Between Explainability and Prediction of Graph Neural Networks
School of Internet(互联网学院);Anhui University(安徽大学);Amazon Research(亚马逊研究院);University of California Irvine(加州大学欧文分校)
提出自解释且自监督的图神经网络SES,通过可解释训练和增强预测学习两个过程,利用全局掩码生成器生成结构与特征掩码,并基于掩码构建正负样本对进行对比学习,从而弥合可解释性与预测性能之间的差距。
2024-07-25 cs.AI cs.LG
S2FGL: Spatial Spectral Federated Graph Learning
National Engineering Research Center for Multimedia Software, School of Computer Science, Wuhan University, Wuhan, China(多媒体软件国家工程研究中心,计算机科学学院,武汉大学,武汉,中国)
本文提出S2FGL框架,通过全局知识库和频率对齐分别解决子图联邦学习中标签信号中断和频谱客户端漂移问题,在多个数据集上验证了其优越性。
2025-08-18 cs.AI cs.LG
D2Match: Leveraging Deep Learning and Degeneracy for Subgraph Matching
Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);International Digital Economy Academy (IDEA)(国际数字经济研究院(IDEA))
针对现有子图匹配方法计算成本高或无理论保证的问题,提出结合深度学习与简并性的D2Match方法,证明子图匹配可简并为子树匹配并等价于二分图完美匹配,实现线性复杂度,可融入环与节点属性,实验验证其性能优于现有GNN类方法。
2023-06-10 cs.AI cs.LG
Unifying approach to uniform expressivity of graph neural networks
School of Computer Science, University of Sheffield, UK(谢菲尔德大学计算机科学学院);School of Computing Science, University of Glasgow, UK(格拉斯哥大学计算科学学院)
本文提出模板GNNs框架和Graded template modal logic逻辑,统一分析图神经网络的表达能力,并展示标准AC-GNNs及其变体作为T-GNNs的实例。
2026-02-20 cs.AI cs.LG cs.LO
TopInG: Topologically Interpretable Graph Learning via Persistent Rationale Filtration
School of Computer Science, Shanghai Jiao Tong University, Shanghai, China(上海交通大学计算机科学学院);Department of Computer Science, Rutgers University, Piscataway, NJ, USA(罗格斯大学计算机科学系)
TopInG提出基于持久同调的拓扑框架,通过理性过滤学习识别持久理性子图,引入拓扑差异约束,在预测性能与可解释性上超越现有方法。
2025-10-06 cs.AI cs.CG cs.LG
Decoupling the Depth and Scope of Graph Neural Networks
USC(南加州大学);Peking University(北京大学);BIGAI(北京通用人工智能研究院);Facebook AI(Facebook 人工智能研究院);US ARL(美国陆军研究实验室)
最先进的图神经网络(GNN)在图和模型大小方面具有有限的可扩展性。在大型图上,增加模型深度通常意味着范围的指数扩展(即,感受野)。除了几个层次之外,还出现了两个根本性的挑战:1。由于过度平滑而降低的表现力,以及2.由于邻域爆炸而导致的昂贵计算。我们提出了一个设计原则来解耦GNN的深度和范围-生成目标实体的表示(即,节点或边),我们首先提取一个局部化的子图作为有界大小的范围,然后在子图的顶部应用任意深度的GNN。一个正确提取的子图由少量的关键邻居组成,同时排除不相关的。GNN,无论它有多深,都将局部邻域平滑为信息表示,而不是将全局图过度平滑为“白噪声”。理论上,解耦从图信号处理(GCN),函数逼近(GraphSAGE)和拓扑学习(GIN)的角度提高了GNN的表达能力。从经验上看,在七个图(最多110 M个节点)和六个主干GNN架构上,我们的设计实现了显着的准确性提高,计算量和硬件成本降低了几个数量级。
2022-01-19 cs.AI cs.LG
LiSA: Leveraging Link Recommender to Attack Graph Neural Networks via Subgraph Injection
Keio University(keio大学);Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))
本文提出LiSA框架,通过注入孤立子图并误导链接推荐器,实现同时欺骗推荐器与节点分类器的对抗攻击,利用双重代理模型和双层优化提升攻击效果。
2025-02-25 cs.AI cs.LG
Generalizing Graph Neural Networks on Out-Of-Distribution Graphs
Beijing University of Posts and Telecommunications(北京邮电大学);Tsinghua University(清华大学);Beihang University(北京航空航天大学)
针对图神经网络因依赖训练集虚假相关性、在分布外图上泛化能力退化的问题,提出基于因果表示的StableGNN框架,通过子图表征提取与因果变量区分正则化修正分布偏差,提升模型稳定性与泛化性。
2024-03-10 cs.AI cs.LG
Pre-training Graph Neural Networks on Molecules by Using Subgraph-Conditioned Graph Information Bottleneck
The Catholic University of Korea(韩国天主教大学)
本研究提出一种名为S-CGIB的子图条件化图信息瓶颈方法,用于在无人工标注或先验知识的情况下预训练分子图神经网络,通过识别图核心和重要子图生成具有区分度的图级别表示,并在多个分子数据集上验证了其优越性。
2024-12-20 cs.AI cs.LG
Beyond Trained Models: Compiling GNNs for a Sound Explainer Benchmark
University of Trento(特伦托大学);Sapienza University(罗马大学);Intesa Sanpaolo AI Research(意大利联合圣保罗银行人工智能研究院);Fondazione Bruno Kessler(布鲁诺·凯斯勒基金会)
本研究提出Gracr编译器,将模态逻辑公式编译为GNN权重,构建GracrBench基准,以精确真实标签评估解释器,发现多数解释器对间接影响不稳健。
2026-10-05 cs.AI cs.LG
Automorphic Equivalence-aware Graph Neural Network
Tsinghua University(清华大学);Paradigm Inc.(第四范式公司);HKUST(香港科技大学)
区分图中节点的自守等价在许多科学领域中起着至关重要的作用,例如,计算生物学家和社会网络分析。然而,现有的图神经网络(GNNs)未能捕捉到这样一个重要的属性。为了使GNN意识到自守等价,我们首先引入了这个概念的本地化变体-自我中心自守等价(Ego-AE)。然后,我们设计了一个新的GNN变体,即,GRAPE,它使用可学习的AE感知聚合器来明确区分每个节点的邻居的自我AE与各种子图模板的帮助。虽然子图模板的设计可能是困难的,我们进一步提出了一个遗传算法,自动搜索他们从图形数据。此外,我们从理论上证明,GRAPE是表达在生成不同的表示与不同的自我AE功能的节点,这填补了现有的GNN变体的根本差距。最后,我们在八个真实世界的图数据上实证验证了我们的模型,包括社交网络,电子商务合作购买网络和引文网络,并表明它始终优于现有的GNN。源代码在https://github.com/tsinghua-fib-lab/GRAPE上公开。
2021-11-09 cs.AI cs.LG
Unveiling Global Interactive Patterns across Graphs: Towards Interpretable Graph Neural Networks
School of Software Technology, Zhejiang University(浙江大学软件学院);Hangzhou High-Tech Zone (Binjiang) Institute of Blockchain and Data Security(杭州高新区(滨江)区块链与数据安全研究院);Big Graph Center, School of Computer and Computing Science, Hangzhou City University(杭州城市大学计算机与计算科学学院大图中心);College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院)
针对图级任务难以用局部子图解释全局交互的问题,本文提出GIP,通过受约束图聚类和自解释原型匹配实现内在可解释的图分类,并在合成与真实基准上验证其更优可解释性及竞争力。
2024-07-02 cs.AI cs.LG
Debiasing Graph Neural Networks via Learning Disentangled Causal Substructure
Beijing University of Posts and Telecommunications(北京邮电大学);Mila - Québec AI Institute(米拉-魁北克人工智能研究所);HEC Montréal(蒙特利尔高等商学院)
大多数图神经网络(GNN)通过学习输入图和标签之间的相关性来预测未见过图的标签。然而,通过对具有严重偏差的训练图进行图分类研究,我们惊讶地发现,GNN总是倾向于探索虚假相关性来做出决策,即使因果相关性总是存在。这意味着在这种有偏数据集上训练的现有GNN将具有较差的泛化能力。通过分析这个问题的因果观点,我们发现,解开和解相关的因果和偏见的潜在变量从有偏的图都是至关重要的去偏。基于此,我们提出了一个通用的解纠缠GNN框架,分别学习因果子结构和偏差子结构。特别是,我们设计了一个参数化的边缘掩码生成器显式地分裂成因果和偏置子图的输入图。然后,分别由因果/偏差感知损失函数监督的两个GNN模块被训练成将因果和偏差子图编码成它们相应的表示。通过解纠缠的表示,我们合成了反事实的无偏训练样本,以进一步解相关因果和偏差变量。此外,为了更好地对严重偏差问题进行基准测试,我们构建了三个新的图数据集,这些数据集具有可控的偏差程度,并且更容易可视化和解释。实验结果很好地证明了我们的方法比现有的基线具有更好的泛化性能。此外,由于学习的边缘掩模,该模型具有吸引力的可解释性和可移植性。代码和数据可在https://github.com/googlebaba/DisC上获得。
2022-09-28 cs.AI cs.LG
GOODAT: Towards Test-time Graph Out-of-Distribution Detection
Tianjin University(天津大学);Monash University(莫纳什大学);National University of Singapore(新加坡国立大学);Griffith University(格里菲斯大学)
GOODAT提出一种测试时图分布外检测方法,通过轻量级图掩码器和三个基于信息瓶颈的无监督目标函数,无需训练数据或修改GNN即可捕捉OOD与ID样本的差异子图,并在多个数据集上超越现有基准。
2024-01-10 cs.AI cs.LG