From Relational Pooling to Subgraph GNNs: A Universal Framework for More Expressive Graph Neural Networks
Tsinghua University（清华大学）；Peking University（北京大学）
本文提出从关系池化出发，通过显式节点标签和$k,l$-WL算法构建通用框架，统一子图GNN并提升任意基础GNN的表达力，实验验证其优越性能。
2023-05-08 cs.AI cs.LG
Weisfeiler-Leman at the margin: When more expressivity matters
University of Kaiserslautern-Landau（凯撒斯劳滕-兰道大学）；RWTH Aachen University（亚琛工业大学）；Google Research（谷歌研究院）；University of Antwerp（安特卫普大学）
本文研究图神经网络表达力与泛化性能的关系，利用边际理论分析子图增强的1-WL和MPNN，证明梯度流趋向最大边际解，并提出具有可证明泛化性质的架构变体。
2024-05-28 cs.DM cs.LG cs.NE
A Complete Expressiveness Hierarchy for Subgraph GNNs via Subgraph Weisfeiler-Lehman Tests
Peking University（北京大学）
近年来，子图神经网络已成为表达性图神经网络（GNNs）的一个重要发展方向。虽然已经提出了许多架构，但到目前为止，对于各种设计范式在表达能力方面的差异仍然存在有限的理解，也不清楚什么设计原则可以以最小的架构复杂性实现最大的表达能力。为了解决这些基本问题，本文通过子图Weisfeiler-Lehman测试（SWL）的镜头，对一般的基于节点的子图GNN进行了系统的研究。我们的中心结果是建立一个完整的层次结构的SWL严格增长的表现力。具体地说，我们证明了任何基于节点的子图GNN属于六个SWL等价类之一，其中$\mathsf{SSWL}$达到最大的表达能力。我们还研究了这些等价类如何在它们的实际表现力，如编码图距离和双连通性方面有所不同。此外，我们给出了一个紧密的表现力上界的所有SWL算法建立一个密切的关系，本地化版本的WL和FolkingWL（FWL）测试。我们的研究结果提供了对现有子图GNN的能力的深入了解，指导了新架构的设计，并通过揭示与2-FWL测试的固有差距来指出它们的局限性。最后，实验表明，尽管非常简单，但$\mathsf{SSWL}$启发的子图GNN在多个基准测试中的性能明显优于先前的架构。
2023-03-29 cs.CC cs.GT cs.LG
Boosting Graph Neural Network Expressivity with Learnable Lanczos Constraints
Vector Institute（矢量研究所）；University of Vienna（维也纳大学）；Graz University of Technology（格拉茨工业大学）
本文提出 LLwLC，利用可学习 Lanczos 线性约束、删顶点子图编码和 Neumann 特征值约束增强 GNN 表达力，在链接预测上以极少数据取得显著加速和性能提升。
2025-02-14 cs.AI cs.LG
A Boolean Function-Theoretic Framework for Expressivity in GNNs with Applications to Fair Graph Mining
National Law University Meghalaya（孟加拉邦国家法律大学）
本文提出基于布尔函数理论的GNN表达力框架，通过亚群体布尔同构概念提升公平图挖掘中的表达力和公平性。
2026-01-19 cs.LG
Fine-grained Expressivity of Graph Neural Networks
RWTH Aachen University（亚琛工业大学）；Technion - Israel Institute of Technology（以色列理工学院）；Johns Hopkins University（约翰斯·霍普金斯大学）
本文将1-WL与MPNN扩展到graphon，建立最细可分拓扑、通用逼近及树距离等价刻画，并通过随机初始化MPNN实验验证其细粒度表达能力。
2023-11-02 cs.DM cs.LG cs.NE
Learning to Count Isomorphisms with Graph Neural Networks
Singapore Management University（新加坡管理大学）
针对传统子图同构计数计算成本高、现有GNN节点中心消息传递及固定输入图表示适配性差的问题，提出边中心消息传递、查询条件调制输入表示的Count-GNN，经多基准实验验证性能优越。
2023-03-03 cs.LG
Ordered Subgraph Aggregation Networks
TU Munich（慕尼黑工业大学）；RWTH Aachen University（亚琛工业大学）；University of Antwerp（安特卫普大学）；University of Stuttgart（斯图加特大学）
最近出现了许多子图增强的图神经网络（GNN），可以证明它提高了标准（消息传递）GNN的表达能力。然而，有一个有限的理解，这些方法是如何相互关联，以及Weisfeiler-Leman层次。此外，目前的方法要么使用给定大小的所有子图，随机均匀地对它们进行采样，要么使用手工制作的算法，而不是学习以数据驱动的方式选择子图。在这里，我们通过引入理论框架并扩展子图增强GNN的已知表达性结果，提供了一种统一的方法来研究此类架构。具体而言，我们表明，增加子图的大小总是增加的表达能力，并制定了更好地了解他们的局限性，将它们与建立$k\text{-}\mathsf{WL}$层次。此外，我们探索不同的方法来学习采样子图使用最近的方法通过复杂的离散概率分布的反向传播。从经验上讲，我们研究了不同子图增强型GNN的预测性能，表明与非数据驱动的子图增强型图神经网络相比，我们的数据驱动架构提高了标准基准数据集的预测准确性，同时减少了计算时间。
2022-10-15 cs.AI cs.DS cs.LG
Unifying approach to uniform expressivity of graph neural networks
School of Computer Science, University of Sheffield, UK（谢菲尔德大学计算机科学学院）；School of Computing Science, University of Glasgow, UK（格拉斯哥大学计算科学学院）
本文提出模板GNNs框架和Graded template modal logic逻辑，统一分析图神经网络的表达能力，并展示标准AC-GNNs及其变体作为T-GNNs的实例。
2026-02-20 cs.AI cs.LG cs.LO
Homomorphism Expressivity of Spectral Invariant Graph Neural Networks
Peking University（北京大学）；Technion（以色列理工学院）；NVIDIA Research（英伟达研究院）
本文通过同态表达性视角，全面定量分析了谱不变图神经网络的表达力，证明其能精确计数平行树，并扩展了现有研究、解决了多个开放问题。
2025-03-01 cs.LG
Representation Power of Graph Neural Networks: Improved Expressivity via Algebraic Analysis
University of Pennsylvania（宾夕法尼亚大学）
本文利用图算子特征值分解的线性代数分析，证明带匿名白色输入的标准 GNN 可超越 WL 算法表达力，并通过图同构与分类实验验证。
2023-07-21 cs.AI cs.LG eess.SP
Connectivity-Guided Sparsification of 2-FWL GNNs: Preserving Full Expressivity with Improved Efficiency
针对2-FWL高阶图神经网络计算复杂度高、现有提速方法损失表达能力的问题，提出Co-Sparsify连通性引导稀疏化框架，在保留完整2-FWL表达力的同时削减冗余计算，在多个基准上取得最优性能。
2025-11-16 cs.AI cs.LG
MoSE: Unveiling Structural Patterns in Graphs via Mixture of Subgraph Experts
Nanyang Technological University（南洋理工大学）
针对GNN捕获高阶子图模式能力不足的问题，本文提出MoSE框架，通过匿名游走提取子图并动态路由至专家，增强灵活性与可解释性，理论证明其表达力强于SWL，实验验证其性能优于基线。
2025-09-11 cs.AI cs.LG
A Flexible, Equivariant Framework for Subgraph GNNs via Graph Products and Graph Coarsening
Computer Science Technion - Israel Institute of Technology（技术学院-以色列理工学院计算机科学系）；Electrical & Computer Engineering Technion - Israel Institute of Technology（技术学院-以色列理工学院电气与计算机工程系）；NVIDIA Research（NVIDIA研究）
本文提出一种基于图粗化与图乘积的子图GNN等变框架，通过将子图与节点簇关联实现任意数量子图的灵活选择，在保持表达能力的同时显著提升了可扩展性与性能。
2025-05-29 cs.LG
On The Expressive Power of GNN Derivatives
Technion – Israel Institute of Technology（以色列技术学院）；University of Cambridge（剑桥大学）；University of Oxford（牛津大学）；NVIDIA Research（NVIDIA研究）
针对图神经网络表达能力有限的问题，提出利用高阶节点导数增强表达能力的HOD-GNN方法，其表达能力匹配WL层级，兼具高效计算性，在主流图学习基准任务上表现优异。
2025-10-02 cs.LG
Improving Subgraph-GNNs via Edge-Level Ego-Network Encodings
Universitat Pompeu Fabra（庞培法布拉大学）；Universitat Oberta de Catalunya（加泰罗尼亚开放大学）；ISI Foundation Turin（都灵ISI基金会）
本文提出边级自我网络编码以增强子图GNN，理论上证明其表达能力优于基于节点的子图MP-GNN，并在多个基准上匹配或改进基线且显著降低内存使用。
2024-05-02 cs.AI cs.LG
Explainability in subgraphs-enhanced Graph Neural Networks
UiT the Arctic University of Norway（挪威北极大学）；Sapienza University of Rome（罗马第一大学）；NORCE Norwegian Research Centre（挪威NORCE研究中心）
近年来，为了提高图神经网络（GNNs）的表达能力，引入了子图增强的图神经网络（SGNNs）。新范式建议使用从输入图中提取的子图来提高模型的表达能力，但额外的复杂性加剧了GNN中已经具有挑战性的问题：解释它们的预测。在这项工作中，我们将PGExplainer（GNN的最新解释器之一）改编为SGNN。所提出的解释器考虑了所有不同子图的贡献，并且可以产生人类可以解释的有意义的解释。我们在真实和合成数据集上进行的实验表明，我们的框架成功地解释了SGNN在图分类任务上的决策过程。
2023-01-19 cs.LG
Improving Graph Neural Network Representations of Logical Formulae with Subgraph Pooling
IBM T.J. Watson Research Center（IBM托马斯·J·沃森研究中心）；IBM Research（IBM研究院）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）；Northwestern University（西北大学）
深度学习与自动定理证明集成的最新进展集中在将逻辑公式表示为深度学习系统的输入。特别是，人们越来越关注结构感知神经方法，以适应逻辑表达式的底层图形表示。虽然比字符和标记级方法更有效，但基于图的方法往往会进行代表性的权衡，限制了它们捕捉输入的关键结构属性的能力。在这项工作中，我们提出了一种新的方法嵌入逻辑公式，旨在克服现有方法的代表性限制。我们的架构适用于不同表现力的逻辑;例如，一阶和高阶逻辑。我们在两个标准数据集上评估了我们的方法，并表明所提出的架构在前提选择和证明步骤分类方面都达到了最先进的性能。
2020-06-05 cs.AI cs.LG cs.LO
Branching Strategies Based on Subgraph GNNs: A Study on Theoretical Promise versus Practical Reality
本文研究了基于子图GNN的分支策略，发现理论上的高表达力GNNs在实际应用中因计算成本过高而无法超越传统方法。
2025-12-10 cs.AI cs.LG cs.NA
End-to-End Subgraph Detection with GraphDETR
Max Planck Institute of Biochemistry（马克斯·普朗克生物化学研究所）
提出GraphDETR框架，将子图检测视为集合预测问题，通过图神经网络编码目标图、Transformer解码器联合预测所有模式实例，并采用二分匹配端到端训练，支持精确和近似匹配，在多达1000节点的图中检测50节点模式，并在ChEMBL数据集上实现AP100=91.2。
2026-06-04 cs.LG stat.ML
Beyond Weisfeiler-Lehman: A Quantitative Framework for GNN Expressiveness
Peking University（北京大学）；Beijing Academy of Artificial Intelligence（北京智源人工智能研究院）
本文提出同态表达力这一统一量化框架，克服 WL 层级粗糙且定性的局限，系统刻画四类 GNN 在不变与等变设定下的表达能力，并通过实验验证其与实际性能一致。
2024-01-16 cs.DM cs.DS cs.LG
Deep Graph Neural Networks with Shallow Subgraph Samplers
虽然图神经网络（GNN）是学习图表示的强大模型，但大多数最先进的模型在两到三层之外没有显着的准确性增益。深度GNN从根本上需要解决：1）。过度平滑导致的表现力挑战，以及2）。由于邻域爆炸的计算挑战。我们提出了一个简单的“深GNN，浅采样器”的设计原则，以提高GNN的准确性和效率-生成目标节点的表示，我们使用深GNN仅在浅，局部化的子图中传递消息。适当采样的子图可以排除不相关甚至噪声节点，并且仍然保留关键的邻居特征和图结构。然后，深度GNN平滑信息丰富的局部信号以增强特征学习，而不是将全局图信号过度平滑为“白噪声”。我们从理论上证明了为什么深度GNN与浅采样器的组合会产生最佳的学习性能。然后，我们提出了各种采样算法和神经架构扩展，以实现良好的实证结果。在最大的公共图数据集ogbn-papers 100 M上，我们实现了最先进的精度，硬件成本降低了一个数量级。
2022-03-23 cs.LG
Local Fragments, Global Gains: Subgraph Counting using Graph Neural Networks
Indian Institute of Technology Gandhinagar（印度理工学院冈德辛加尔）
本文提出局部k-WL算法和碎片技术，利用图神经网络提高子图计数的表达能力和效率，并展示其在复杂模式计数中的应用。
2025-11-30 cs.DS cs.LG
Going Deeper into Permutation-Sensitive Graph Neural Networks
Tsinghua University（清华大学）；Johns Hopkins University（约翰斯·霍普金斯大学）；Microsoft Research Asia（微软亚洲研究院）
邻接矩阵的排列不变性，即，图同构是图神经网络（GNN）的首要要求。传统上，这一前提条件可以通过聚合消息时对节点排列的不变操作来满足。然而，这种不变的方式可能会忽略相邻节点之间的关系，从而阻碍GNN的表达能力。在这项工作中，我们设计了一个有效的置换敏感的聚合机制，通过置换群，捕捉相邻节点之间的成对相关性。我们证明，我们的方法是严格更强大的2维Weisfeiler-Lehman（2-WL）图同构测试和不低于3-WL测试。此外，我们证明了我们的方法达到了线性采样复杂度。在多个合成数据集和真实数据集上的综合实验证明了该模型的优越性。
2022-05-28 cs.DM cs.LG stat.ML
Using Random Noise Equivariantly to Boost Graph Neural Networks Universally
Institute for Artificial Intelligence, Peking University（北京大学人工智能研究院）
本文提出等变噪声图神经网络ENGNN，通过理论分析随机噪声引入GNN的样本复杂度问题，并利用噪声对称性提升节点、链路、子图及图级任务的表达能力与泛化性能。
2025-02-04 cs.LG
Neural Subgraph Isomorphism Counting
HKUST（香港科技大学）；Huawei Technologies Co. Ltd（华为技术有限公司）
本文研究了一个新的图学习问题：学习计算子图同构。与节点分类、链接预测等传统的图学习问题不同，子图同构计数是NP完全的，需要更多的全局推理来监督整个图。为了使其可扩展的大规模的图形和模式，我们提出了一个学习框架，它增加了不同的表示学习架构和迭代出席模式和目标数据图，以记忆子图同构的全局计数。我们开发了小图（每个图中的子图同构<= 1，024）和大图（每个图中的子图同构<= 4，096）集来评估不同的模型。诱变化合物数据集MUTAG也被用于评估神经模型并证明迁移学习的成功。虽然基于学习的方法是不精确的，但与原始NP完全问题的指数时间相比，我们能够在线性时间内概括计算大型模式和数据图。实验结果表明，基于学习的子图同构计数可以在误差可接受的情况下，将传统算法VF 2的速度提高10- 1000倍。基于微调的领域自适应也显示了我们的方法在现实世界中的应用的实用性。
2020-06-18 cs.LG stat.ML
From Stars to Subgraphs: Uplifting Any GNN with Local Structure Awareness
Carnegie Mellon Uni.（卡内基梅隆大学）；Michigan State Uni.（密歇根州立大学）；Snap Inc.（Snap公司）
消息传递神经网络（MPNN）是一种常见的图神经网络（GNN），其中每个节点的表示是通过聚合来自其紧邻节点的表示（消息）来递归计算的，类似于星形模式。MPNN是有吸引力的高效和可扩展的，然而，他们的表达是上限的一阶Weisfeiler-Lehman同构测试（1-WL）。作为回应，以前的作品提出了高度表达模型的可扩展性，有时泛化性能的成本。我们的工作站在这两个制度之间：我们引入了一个通用的框架，以提升任何MPNN更具表现力，有限的可扩展性开销和大大提高了实际性能。我们通过将MPNN中的局部聚合从星形模式扩展到一般子图模式（例如，k-egonets）：在我们的框架中，每个节点表示被计算为周围诱导子图的编码，而不是仅直接相邻的编码（即星形）。我们选择子图编码器作为GNN（主要是MPNN，考虑到可扩展性）来设计一个通用框架，作为包装器来提升任何GNN。我们称我们提出的方法为GNN-AK（GNN作为内核），因为该框架类似于卷积神经网络，用GNN代替内核。理论上，我们证明了我们的框架严格比1和2-WL更强大，并且不低于3-WL。我们还设计了子图采样策略，大大减少了内存占用，提高了速度，同时保持性能。我们的方法为几个著名的图ML任务设置了新的最先进的性能;具体来说，ZINC上的MAE为0.08，CIFAR10和PATTERN上的准确率分别为74.79%和86.887%。
2022-04-20 cs.LG stat.ML
On the Expressibility of the Reconstructional Color Refinement
The Institute of Mathematical Sciences (HBNI)（数学科学研究所（HBNI））；Chennai Mathematical Institute（金奈数学研究所）；Institut für Informatik, Humboldt-Universität zu Berlin（柏林洪堡大学计算机科学研究所）；IAPMM
本文证明在颜色细化等价而非完全同构的顶点删除子图牌组下仍可判定图连通性，从而说明 Reconstruction Graph Neural Networks 能识别连通性。
2024-06-13 cs.CC cs.DM cs.LG
On Structural Expressive Power of Graph Transformers
Peking University（北京大学）；Alibaba Group（阿里巴巴集团）
针对图Transformer结构表达能力缺乏理论分析的问题，提出SEG-WL测试作为广义图同构算法，证明其为多种图Transformer表达能力上界，并据此开发了更强的SPIS结构编码方法。
2023-05-23 cs.AI cs.LG
Twin Weisfeiler-Lehman: High Expressive GNNs for Graph Classification
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）
通过Weisfeiler-Lehman（WL）测试，消息传递GNN的表达能力有上限。为了实现WL测试之外的高表达GNN，我们提出了一种新的图同构测试方法，即Twin-WL，它同时传递节点标签和节点身份，而不是只传递节点标签作为WL。身份传递机制编码了有根子图的完整结构信息，因此Twin-WL可以在区分图结构方面提供比WL更大的能力。在Twin-WL的基础上，通过定义有根子图上的读出函数，实现了两个Twin-GNN用于图分类：一个简单地读出有根子图的大小，另一个按照GNN的风格读出子图的丰富结构信息。我们证明了这两个Twin-GNN都比传统的消息传递GNN具有更高的表达能力。实验还表明，Twin-GNN在图分类任务中的表现明显优于最先进的方法。
2022-03-22 cs.LG
The Generalized Skew Spectrum of Graphs
Munich Center for Quantum Science and Technology（慕尼黑量子科学与技术中心）；Centre for Quantum Technologies, National University of Singapore（新加坡国立大学量子技术中心）；Inveriant Pte. Ltd.（Inveriant公司）
本文推广了图的 Skew Spectrum，提出一族基于群论和调和分析的置换不变图嵌入方法，能处理更丰富图结构并在计算复杂度与表达能力间权衡，同时证明了其不变性并验证了表达能力的提升。
2025-05-29 cs.DS cs.LG math.GR
Self-supervised Subgraph Neural Network With Deep Reinforcement Walk Exploration
WASEDA University（早稻田大学）
本文提出RWE-SGNN框架，将子图神经网络与图神经网络解释器的生成方法结合，通过强化行走探索过程高效提取重要子结构，以数据驱动方式提升图表示学习的表达能力和性能。
2025-02-03 cs.LG
Contraction and Hourglass Persistence for Learning on Graphs, Simplices, and Cells
University of Pennsylvania（宾夕法尼亚大学）；Aalto University（艾尔沃斯大学）；Indian Institute of Technology Bombay（印度班加罗尔理工学院）；YaiYai Ltd（YaiYai公司）
本文提出收缩同调和hourglass持久性，通过结合包含和收缩操作提升图神经网络的表达能力与稳定性，适用于图、单纯形和细胞网络。
2026-05-14 cs.LG math.AT stat.ML
Decoupling the Depth and Scope of Graph Neural Networks
USC（南加州大学）；Peking University（北京大学）；BIGAI（北京通用人工智能研究院）；Facebook AI（Facebook 人工智能研究院）；US ARL（美国陆军研究实验室）
最先进的图神经网络（GNN）在图和模型大小方面具有有限的可扩展性。在大型图上，增加模型深度通常意味着范围的指数扩展（即，感受野）。除了几个层次之外，还出现了两个根本性的挑战：1。由于过度平滑而降低的表现力，以及2.由于邻域爆炸而导致的昂贵计算。我们提出了一个设计原则来解耦GNN的深度和范围-生成目标实体的表示（即，节点或边），我们首先提取一个局部化的子图作为有界大小的范围，然后在子图的顶部应用任意深度的GNN。一个正确提取的子图由少量的关键邻居组成，同时排除不相关的。GNN，无论它有多深，都将局部邻域平滑为信息表示，而不是将全局图过度平滑为“白噪声”。理论上，解耦从图信号处理（GCN），函数逼近（GraphSAGE）和拓扑学习（GIN）的角度提高了GNN的表达能力。从经验上看，在七个图（最多110 M个节点）和六个主干GNN架构上，我们的设计实现了显着的准确性提高，计算量和硬件成本降低了几个数量级。
2022-01-19 cs.AI cs.LG
Weisfeiler-Leman Is Incomplete on Simple Spectrum Graphs, so Canonicalize Them
IT University of Copenhagen（哥本哈根IT大学）
本文证明 Weisfeiler-Leman 测试无法区分所有非同构的简单谱图，并提出 PRiSM 方法，通过规范化解实现对这些图的完全表达性。
2026-05-22 cs.LG math.CO
Weisfeiler and Lehman Go Categorical
POSTECH（浦项科技大学）；Center for Geometry and Physics, Institute for Basic Science (IBS)（基础科学研究院几何与物理中心）；Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）
本文提出基于范畴论的韦斯费尔-莱曼框架，通过引入两种函子推导出超图同构网络，系统提升了超图信息传递拓扑的表达能力，并通过实验验证了其理论效果。
2026-02-06 cs.LG math.CT
Towards Subgraph Isomorphism Counting with Graph Kernels
Hong Kong University of Science and Technology（香港科技大学）
针对子图同构计数这一#P完全难题，该研究率先探索图核在该任务中的应用，通过引入邻域信息并结合多项式、高斯等核变体增强图核能力，实验验证了方法的有效性。
2024-05-13 cs.LG
Expressivity of Graph Neural Networks Through the Lens of Adversarial Robustness
TUM School of Computation, Information and Technology（慕尼黑工业大学计算、信息与技术学院）；Munich Data Science Institute（慕尼黑数据科学研究所）；Technical University of Munich（慕尼黑工业大学）
本文首次从对抗鲁棒性角度研究比MPNN更强大的GNN，通过子图计数任务揭示其理论表达力与实际表现之间的显著差距，并证明这些模型对微小图结构扰动和分布外图均缺乏泛化能力。
2024-07-03 cs.LG
Uncertainty-aware Efficient Subgraph Isomorphism using Graph Topology
University of Michigan Transportation Research Institute（密歇根大学交通研究所）
提出一种基于图拓扑的两步子图同构方法，通过提取最小唯一拓扑子集和共识算法实现不精确匹配，具有亚线性效率和噪声鲁棒性。
2025-06-23 cs.AI cs.CV cs.LG
Invariant-Based Weight Sharing for Message Passing
University of Bonn（波恩大学）；Lamarr Institute for Machine Learning and Artificial Intelligence（拉马尔人工智能与机器学习研究院）
提出一种基于图不变量的权重共享原则，通过直接根据图不变量索引权重，增强消息传递神经网络的结构感知能力，并在合成与真实数据上取得优于标准MPNN的效果。
2026-05-25 cs.LG
Equivariant Subgraph Aggregation Networks
Purdue University（普渡大学）；Imperial College London（伦敦帝国理工学院）；Twitter（推特）；MIT（麻省理工学院）；UCSD（加州大学圣地亚哥分校）；University of Tuebingen（图宾根大学）；NVIDIA Research（英伟达研究院）
消息传递神经网络（MPNN）是用于图结构数据的深度学习的领先架构，这在很大程度上是由于其简单性和可扩展性。不幸的是，它表明，这些架构是有限的，在他们的表达能力。本文提出了一种新的框架称为等变子图聚合网络（ESAN）来解决这个问题。我们的主要观察是，虽然两个图可能无法区分的MPNN，他们往往包含可区分的子图。因此，我们建议将每个图表示为由一些预定义的策略导出的一组子图，并使用合适的等变架构来处理它。我们开发了新的变种的1维Weisfeiler-Leman（1-WL）测试图同构，并证明下界ESAN的表现力在这些新的WL变种。我们进一步证明，我们的方法增加了MPNN和更具表现力的架构的表达能力。此外，我们提供的理论结果，描述如何设计的选择，如子图的选择政策和等变神经架构影响我们的架构的表达能力。为了处理增加的计算成本，我们提出了一个子图采样方案，它可以被看作是我们的框架的随机版本。在真实数据集和合成数据集上进行的一系列实验表明，我们的框架提高了流行GNN架构的表达能力和整体性能。
2022-03-16 cs.LG stat.ML
Detecting Small Query Graphs in A Large Graph via Neural Subgraph Search
University of California Los Angeles（加州大学洛杉矶分校）
最近的进展已经表明，使用强化学习和搜索来解决NP难图相关任务的成功，例如旅行推销员优化，图编辑距离计算等。然而，仍然不清楚如何能够有效和准确地检测大型目标图中小查询图的出现，这是图数据库搜索，生物医学分析，社会群体发现，该任务被称为子图匹配，其本质上执行查询图和大型目标图之间的子图同构检查。解决这个经典问题的一种有前途的方法是“学习搜索”范式，其中强化学习（RL）代理设计有学习策略，以引导搜索算法快速找到解决方案，而无需任何已解决的问题监督实例。然而，对于子图匹配的特定任务，尽管用户作为输入给出的查询图通常很小，但目标图通常要大几个数量级。它对神经网络的设计提出了挑战，并可能导致解决方案和奖励稀疏。在本文中，我们提出了NSUBS与两个创新来应对挑战：（1）一个新的编码器-解码器神经网络架构，动态计算在每个搜索状态的查询和目标图之间的匹配信息;（2）一个新的前瞻损失函数用于训练策略网络。在六个大的真实目标图上的实验表明，NSUBS可以显着提高子图匹配性能。
2022-09-29 cs.LG
The Expressive Power of Random-Feature MPNNs Across Graph Sizes
University of California, San Diego（加利福尼亚大学圣迭戈分校）；Rheinisch Westfälische Technische Hochschule Aachen（亚琛工业大学）
该研究针对跨图大小近似函数时随机特征MPNNs的局限性，开发大小一致近似框架，证明其非大小一致通用性，分析表达能力提升，确立与高阶Weisfeiler-Leman方法的不可比性并完成相关构造。
2026-10-12 cs.LG
Spectral Maps for Learning on Subgraphs
Sapienza University of Rome（罗马第一大学）；University of Tübingen（图宾根大学）；University of Milano-Bicocca（米兰比可卡大学）；Ca’ Foscari University of Venice（威尼斯大学）
在图学习中，图与其子图之间的映射经常出现。例如，当粗化或重新布线操作沿着流水线存在时，需要跟踪原始图和修改后的图之间的对应节点。传统上，这些映射表示为二进制节点到节点的对应矩阵，并按原样用于在图之间传输节点特征。在本文中，我们认为，简单地改变这种地图表示可以带来显着的好处图学习任务。从几何处理的最新进展中汲取灵感，我们引入了一种易于集成到现有图学习模型中的地图谱表示。这种谱表示是一个紧凑和简单的插件替代，是强大的拓扑变化的图形。值得注意的是，该表示具有使其可解释的结构特性，与光滑流形上的最新结果进行了类比。我们展示了将谱图纳入图学习管道的好处，解决了节点到节点的映射没有很好定义或没有精确同构的情况。我们的方法在知识蒸馏和分层学习中具有实际的好处，在那里我们以一小部分的计算成本显示出相当或改进的性能。
2023-01-31 cs.CV cs.LG
A Survey on Machine Learning Solutions for Graph Pattern Extraction
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Nanyang Technological University（南洋理工大学）；Universiti Putra Malaysia（马来西亚博特拉大学）；University of Hong Kong（香港大学）
本文综述机器学习在子图同构、最大公共子图、社区发现与搜索等图模式提取问题中的方法、性能及非学习算法，并指出未来研究方向。
2023-06-03 cs.DM cs.LG math.CO
