A Comprehensive Benchmark on Spectral GNNs: The Impact on Efficiency, Memory, and Effectiveness
College of Computing and Data Science（计算与数据科学学院）；Nanyang Technological University（南洋理工大学）；The University of British Columbia（不列颠哥伦比亚大学）
本研究针对谱图神经网络（spectral GNNs）缺乏统一基准的问题，通过分类35个GNN及27个滤波器、构建统一框架并实验，揭示其效率与有效性的复杂关系，为模型选择与部署提供指南。
2025-08-20 cs.AI cs.LG
Graph Auto-Encoder Via Neighborhood Wasserstein Reconstruction
University of Virginia（弗吉尼亚大学）；Emory University（埃默里大学）；Purdue University（普渡大学）
图神经网络（GNNs）近年来引起了广泛的研究关注，主要是在半监督学习的背景下。当首选任务不可知表示或监督不可用时，自动编码器框架可以方便地使用自然图重建目标进行无监督GNN训练。然而，现有的图自动编码器被设计为重建直接链接，因此以这种方式训练的GNN仅针对面向邻近的图挖掘任务进行优化，并且在拓扑结构重要时会出现不足。在这项工作中，我们重新审视了GNNs的图形编码过程，该过程基本上是学习将每个节点的邻域信息编码到嵌入向量中，并提出了一种新的图形解码器，通过邻域Wasserstein重建（NWR）来重建关于邻近度和结构的整个邻域信息。具体来说，从每个节点的GNN嵌入，NWR联合预测其节点度和邻居特征分布，其中分布预测采用基于Wasserstein距离的最优传输损失。在合成和真实网络数据集上的大量实验表明，使用NWR学习的无监督节点表示在面向结构的图挖掘任务中具有更大的优势，同时在面向邻近度的任务中也具有竞争力的性能。
2022-02-18 cs.LG cs.SI
Towards Training GNNs using Explanation Directed Message Passing
Imperial College London（帝国理工学院）；Ludwig-Maximilians Universität München（慕尼黑大学）；Adobe（奥多比公司）
随着图神经网络（GNNs）在关键现实世界应用中的使用越来越多，已经提出了几种事后解释方法来理解它们的预测。然而，在模型训练期间，还没有在动态生成解释并利用它们来提高底层GNN模型的表达能力。在这项工作中，我们为GNN引入了一种新的解释导向的神经消息传递框架EXPASS（可解释的消息传递），它只聚合来自GNN解释方法确定为重要的节点和边缘的嵌入。EXPASS可以与任何现有的GNN架构和子图优化解释器一起使用，以学习准确的图嵌入。我们从理论上证明了EXPASS通过减缓Dirichlet能量的逐层损失来消除GNNs中的过平滑问题，并且香草消息传递和EXPASS框架之间的嵌入差异可以通过各自模型权重的差异来上界。我们的实证结果表明，使用EXPASS学习的图嵌入提高了预测性能，缓解了GNN的过度平滑问题，为图机器学习开发基于简化的训练框架开辟了新的前沿。
2022-12-01 cs.AI cs.LG
Node-oriented Spectral Filtering for Graph Neural Networks
Institute of Information Science, Beijing Jiaotong University（北京交通大学信息科学研究所）；Beijing Key Laboratory of Advanced Information Science and Network Technology（北京先进信息科学与网络技术重点实验室）
针对GNN低通滤波难以适应非亲同图中局部模式变化的问题，本文提出面向节点的谱滤波网络NFGNN，通过逐节点估计滤波器和重参数化实现局部自适应与全局一致性的平衡，并在实验中验证了其优越性能。
2023-10-26 cs.LG cs.SI
Denoise Pretraining on Nonequilibrium Molecules for Accurate and Transferable Neural Potentials
Carnegie Mellon University（卡内基梅隆大学）
本文提出在非平衡分子构象上进行去噪预训练，通过让GNN恢复被随机噪声扰动的原子坐标来提升神经势能的准确性和可迁移性，实验证明该方法模型无关，并能显著改善在不同分子体系上的微调性能。
2023-07-06 cs.AI cs.LG physics.chem-ph
Relational Graph Modeling for Credit Default Prediction: Heterogeneous GNNs and Hybrid Ensemble Learning
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出异构图神经网络与混合集成学习方法，通过构建大规模异构图整合借款人与交易数据，提升信用违约预测的准确性和公平性。
2026-01-21 cs.LG
A Survey on Graph Neural Networks and Graph Transformers in Computer Vision: A Task-Oriented Perspective
The University of Hong Kong（香港大学）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Future Network of Intelligence Institute, CUHK-Shenzhen（香港中文大学（深圳）未来智联网络研究院）；ShanghaiTech University（上海科技大学）
该综述从面向任务的视角出发，按输入模态将计算机视觉中GNNs和图Transformer的应用分为五大类并细分任务，梳理了任务定义、挑战、代表性方法及未来方向。
2024-08-14 cs.AI cs.CV cs.LG
Do Not Train It: A Linear Neural Architecture Search of Graph Neural Networks
The Chinese University of Hong Kong（香港中文大学）；International Digital Economy Academy（国际数字经济研究院）；Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院）；Carnegie Mellon University（卡内基梅隆大学）
针对现有图神经网络神经架构搜索计算成本高、未利用GNN无需训练即可有表达力的特性等问题，提出基于稀疏编码的神经架构编码方法，线性时间即可实现最优架构搜索，性能和效率均大幅优于基线。
2023-06-16 cs.AI cs.LG
Towards Prototype-Based Self-Explainable Graph Neural Network
The Pennsylvania State University（宾夕法尼亚州立大学）
图神经网络（GNN）在对各种领域的图结构数据建模方面表现出了强大的能力。然而，GNN被称为黑盒模型，缺乏可解释性。如果不了解它们的内部工作原理，我们就不能完全信任它们，这在很大程度上限制了它们在高风险场景中的应用。虽然已经采取了一些初步的努力来解释GNN的预测，但它们主要集中在使用额外的解释器提供事后解释，这可能会歪曲目标GNN的真实内部工作机制。自解释GNN的工作相当有限。因此，我们研究了一个新的问题，即学习基于原型的可自我解释的GNN，它可以同时给出准确的预测和基于原型的解释。我们设计了一个框架，它可以学习原型图，捕获每个类的代表性模式作为类级的解释。学习到的原型也被用来同时对测试实例进行预测，并提供实例级的解释。在真实世界和合成数据集上的大量实验表明，所提出的框架在预测精度和解释质量方面都是有效的。
2022-10-05 cs.AI cs.LG
Graph-less Neural Networks: Teaching Old MLPs New Tricks via Distillation
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；Snap Inc.（色拉布公司）
图神经网络（GNN）是图机器学习的热门工具，在广泛的节点分类任务中表现出了很好的效果。然而，由于数据依赖性带来的可扩展性挑战，它们在行业实际部署中不太受欢迎。也就是说，GNN推理依赖于距离目标多跳的邻居节点，并且获取它们会给延迟受限的应用程序带来负担。现有的推理加速方法（如修剪和量化）可以通过减少乘法和累积（MAC）操作来加速GNN，但由于数据依赖性没有得到解决，因此改进是有限的。相反，多层感知器（MLP）没有图形依赖性，并且比GNN更快地进行推断，即使它们通常在节点分类方面不如GNN准确。在这些互补的优势和劣势的激励下，我们通过知识蒸馏（KD）将GNN和MLP结合在一起。我们的工作表明，使用GNN KD可以大幅提高MLP的性能。我们称提取的MLP为无图神经网络（GLNN），因为它们没有推理图依赖。我们发现，具有竞争力准确性的GLNN比GNN的推断速度快146倍-273倍，比其他加速方法快14倍-27倍。在涉及7个数据集的转换和归纳预测的生产环境下，GLNN的准确性平均比独立的MLP提高了12.36%，并在6/7个数据集上与GNN相匹配。综合分析显示了GLNN何时以及为什么可以达到与GNN竞争的精度，并建议GLNN作为延迟受限应用的方便选择。
2022-03-23 cs.AI cs.LG
IntraMix: Intra-Class Mixup Generation for Accurate Labels and Neighbors
Harbin Institute of Technology（哈尔滨工业大学）
针对图神经网络面临的精准标签不足和节点邻域有限两大问题，提出即插即用的类内Mixup方法IntraMix，生成高质量标注数据并丰富邻域，在多种GNN和数据集上验证了有效性。
2024-11-01 cs.AI cs.LG cs.SI
Revealing Combinatorial Reasoning of GNNs via Graph Concept Bottleneck Layer
Tongji University, Shanghai, China（同济大学）；City University of Macau, Macau, China（澳门城市大学）
本文提出图概念瓶颈层，通过将概念视为图词并利用语言模型学习嵌入，提升GNNs的组合推理可解释性与性能。
2026-03-02 cs.AI cs.LG
Learning to Solve PDE-constrained Inverse Problems with Graph Networks
Stanford University（斯坦福大学）
学习图神经网络（GNN）最近已被建立为在模拟物理系统的动力学的原理求解器的快速和准确的替代品。然而，在科学和工程的许多应用领域中，我们不仅对正向模拟感兴趣，而且还对求解由偏微分方程（PDE）定义的约束的反问题感兴趣。在这里，我们探索GNN来解决此类偏微分方程约束的逆问题。给定一组稀疏的测量值，我们感兴趣的是恢复PDE的初始条件或参数。我们证明了GNN与自动解码器风格的先验知识相结合非常适合这些任务，当应用于波动方程或Navier-Stokes方程时，可以比其他学习方法更准确地估计初始条件或物理参数。我们还展示了使用GNN与原则求解器相比高达90倍的计算加速。项目页面：https://cyanzhao42.github.io/LearnInverseProblem
2022-06-01 cs.LG
COPYCOP: Ownership Verification for Graph Neural Networks
McCombs School of Business（麦科姆斯商学院）；University of Texas at Austin（德克萨斯大学奥斯汀分校）
研究提出COPYCOP算法，用于检测图神经网络间是否存在模仿关系，通过理论保证和实验验证其在多种数据集和架构上的准确性和鲁棒性。
2026-05-06 cs.AI cs.LG
Influence Functions for Edge Edits in Non-Convex Graph Neural Networks
Graduate School of Artificial Intelligence（人工智能研究生院）；Department of Computer Science & Engineering（计算机科学与工程系）；POSTECH
本文提出了一种非凸图神经网络中边编辑的影响函数方法，用于准确预测边删除和插入对GNN行为的影响，并展示了其在图重排和对抗攻击中的应用。
2026-01-30 cs.AI cs.LG
Adaptive Graph Rewiring to Mitigate Over-Squashing in Mesh-Based GNNs for Fluid Dynamics Simulations
KAIST（韩国科学技术院）
针对基于网格的GNN在流体模拟中因网格细化引发的过度挤压问题，本文提出AdaMeshNet自适应图重连框架，将重连嵌入消息传递过程建模物理作用渐进传播，实验证明其预测精度优于传统方法。
2025-11-16 cs.AI cs.LG
Enhancing Graph Neural Networks Using Proximity Graphs for Dust Source Emission Forecasting
Amirkabir University of Technology（阿米尔卡比尔理工大学）；University of Tehran（德黑兰大学）
提出使用Delaunay三角剖分等邻近图作为图神经网络输入，通过消息传递捕捉沙尘源排放的时空动态，相比随机图和LSTM模型显著提升预测精度。
2026-06-19 cs.LG
Reconsidering Faithfulness in Regular, Self-Explainable and Domain Invariant GNNs
University of Trento（特伦托大学）
本文系统研究了GNN解释的忠实性，证明现有度量指标不可互换且优化忠实性对常规GNN不总是合理，并揭示忠实性与分布外泛化的紧密关联。
2025-04-10 cs.AI cs.LG
SAS: A Simple, Accurate and Scalable Node Classification Algorithm
ShanghaiTech University（上海科技大学）
图神经网络已经实现了用于图节点分类的最先进的准确性。然而，GNN很难扩展到大型图，例如，即使在中等大小的图上也经常遇到内存不足的错误。最近的工作试图使用两阶段的方法来解决这个问题，该方法首先沿着图边缘聚集数据，然后在不使用额外的图信息的情况下训练分类器。这些方法可以在更大的图上运行，并且比GNN快几个数量级，但分类精度较低。我们提出了一个新的两阶段算法的基础上，一个简单但有效的观察：我们应该首先训练分类器，然后聚集，而不是相反。我们证明了我们的算法比现有的两阶段算法更快，可以处理更大的图，同时实现与流行的GNN相当或更高的准确性。我们还提出了一个理论基础来解释我们的算法的准确性提高，通过给出一个合成的非线性数据集，其中在分类之前进行聚合实际上会降低准确性，而我们的分类然后聚合方法与单独分类相比大大提高了准确性。
2022-10-25 cs.LG
Logical Characterizations of Recurrent Graph Neural Networks with Reals and Floats
Tampere University（塔尔库大学）；Leipzig University（莱比锡大学）
本文在浮点数和实数两种场景下给出了循环图神经网络的精确逻辑刻画，并证明在MSO可定义属性上两者的表达能力等价，同时通过分布式自动机建立了与分布式计算模型的联系。
2025-05-02 cs.AI cs.LO
Classic GNNs are Strong Baselines: Reassessing GNNs for Node Classification
Beihang University（北京航空航天大学）；The Hong Kong Polytechnic University（香港理工大学）
本文通过充分调参与消融实验重新评估 GCN、GAT、GraphSAGE，发现经典 GNN 在 18 个数据集中的 17 个上可匹敌甚至超越 GT。
2024-10-28 cs.LG
Less Is More: Fast Multivariate Time Series Forecasting with Light Sampling-oriented MLP Structures
Tsinghua University（清华大学）；Microsoft Research of Asia（微软亚洲研究院）
多元时间序列预测在金融、交通、能源、医疗等领域有着广泛的应用。为了捕捉复杂的时间模式，大量研究设计了基于RNN、GNN和Transformers的许多变体的复杂神经网络架构。然而，复杂的模型往往是计算昂贵的，因此在应用于大规模的真实世界数据集时，在训练和推理效率方面面临着严峻的挑战。在本文中，我们介绍了LightTS，这是一种轻量级的深度学习架构，仅基于简单的基于MLP的结构。LightTS的关键思想是在两种精细的下采样策略（包括间隔采样和连续采样）之上应用基于MLP的结构，其灵感来自于下采样时间序列通常保留其大部分信息的关键事实。我们在八个广泛使用的基准数据集上进行了广泛的实验。与现有的最先进的方法相比，LightTS在其中五个方面表现出更好的性能，在其余方面表现出相当的性能。此外，LightTS非常高效。与以前的SOTA方法相比，它在最大的基准数据集上使用不到5%的FLOPS。此外，LightTS是强大的，在预测精度上的差异比以前的SOTA方法在长序列预测任务中要小得多。
2022-07-04 cs.AI cs.LG
LSP : Acceleration and Regularization of Graph Neural Networks via Locality Sensitive Pruning of Graphs
Bosch Center for Artificial Intelligence（博世人工智能中心）
图神经网络（GNN）已经成为图形相关任务的非常成功的工具。然而，现实世界的问题涉及非常大的图，并且使GNN适应这些问题所需的计算资源迅速增长。此外，真实世界图的噪声性质和大小会导致GNN过度拟合，如果没有正确正则化的话。令人惊讶的是，最近的工作表明，大型图往往涉及许多冗余的组件，可以删除，而不会影响性能太多。这包括在通过GNNs层进行推理期间或作为稀疏化输入图的预处理步骤的节点或边移除。这一有趣的现象使得能够开发出既高效又准确的最先进的GNN。在本文中，我们采取了进一步的措施，揭开这一现象的神秘面纱，并提出了一个系统的方法，称为局部敏感剪枝（LSP）的局部敏感哈希的基础上图修剪。我们的目标是稀疏化一个图，使原始图的相似局部环境在所得到的稀疏图中产生相似的环境，这是图相关任务的一个基本特征。为了证明基于局部图属性的剪枝应用的合理性，我们在各种情况下证明了基于局部性属性的剪枝应用相对于其他剪枝策略的优势。在合成数据集和真实数据集上进行的大量实验证明了LSP的优越性，它可以在不影响性能的情况下从大型图中删除大量边缘，并伴有相当大的加速。
2021-11-10 cs.AI cs.LG
High-Level Synthesis Performance Prediction using GNNs: Benchmarking, Modeling, and Advancing
University of California, Santa Barbara（加州大学圣巴巴拉分校）；Nankai University（南开大学）；Purdue University（普渡大学）；Georgia Institute of Technology（佐治亚理工学院）
敏捷硬件开发需要从早期设计阶段就进行快速准确的电路质量评估。现有的高层次综合（HLS）性能预测工作通常需要在综合过程之后进行大量的特征工程。为了从尽可能早的设计阶段加快电路评估，我们提出了一种快速准确的性能建模，利用图神经网络（GNNs）的表示能力，表示C/C ++程序作为图形。这项工作的贡献是三方面的。首先，我们建立了一个标准的基准测试包含40k C合成程序，其中包括合成程序和三套真实世界的HLS基准测试。每个程序都在FPGA上实现，以生成地面实况性能指标。其次，我们在图上正式制定了HLS性能预测问题，并提出了使用GNN的多种建模策略，这些策略利用了预测及时性（早期/晚期预测）和准确性之间的不同权衡。第三，我们进一步提出了一种新的分层GNN，它不会牺牲及时性，但大大提高了预测精度，显著优于HLS工具。我们对合成和看不见的真实案例程序进行了广泛的评估;我们提出的预测器在资源使用和时序预测方面大大优于HLS高达40倍，优于现有预测器2倍至5倍。
2022-01-18 cs.AR cs.LG
SafePowerGraph: Safety-aware Evaluation of Graph Neural Networks for Transmission Power Grids
Luxembourg Institute of Science and Technology（卢森堡科学与技术研究院）；RIKEN AIP（理化学研究所人工智能项目）；University of Cologne（科隆大学）
SafePowerGraph提出首个模拟器无关的安全导向GNN评估框架，集成多种潮流模拟器，覆盖价格变化和线路故障场景，实验证明自监督学习和图注意力架构能提升鲁棒性。
2024-07-17 cs.AI cs.LG
Enhanced Feature Extraction for IoT Network Intrusion Detection Using GNNs and KAN
Department of Control Science & Engineering, Tongji University（同济大学控制科学与工程系）；National Key Laboratory of Autonomous Intelligent Unmanned Systems（国家自主智能无人系统重点实验室）
针对物联网网络安全问题，提出SKGFusionKAN方法，用多尺度选择性内核注意力机制增强GraphSAGE，实现节点和边缘特征自适应提取，引入门控融合提高鲁棒性，结合KAN分类，实验表明该方法性能优于现有方法。
2026-07-07 cs.AI cs.CR
Accurate and Scalable Estimation of Epistemic Uncertainty for Graph Neural Networks
University of Michigan（密歇根大学）；Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）；Amazon（亚马逊公司）
针对图神经网络在分布偏移下不确定性估计可靠性不足的问题，提出基于图锚定策略的G-$Δ$UQ训练框架，无需全随机网络即可在预训练模型上应用，显著提升多类偏移场景下的校准及相关不确定性任务性能。
2024-12-13 cs.LG stat.ML
STGC-GNNs: A GNN-based traffic prediction framework with a spatial-temporal Granger causality graph
Central South University（中南大学）
提出基于时空Granger因果关系（STGC）的交通预测框架，通过时空对齐算法和Granger因果检验建模全局动态空间依赖，显著提升了长期交通预测效果。
2022-10-30 cs.AI cs.LG
Efficient Prompt Learning for Traffic Forecasting
School of Computing and Data Science（计算与数据科学学院）；The University of Hong Kong（香港大学）；School of Electrical Engineering and Computer Science（电气工程与计算机科学学院）；The University of Queensland（昆士兰大学）；Department of Computing（计算学院）
本文提出SimpleST框架，通过高效提示学习提升时空图神经网络的泛化能力，实验证明在五个真实世界交通数据集上预测准确性和计算效率均优于现有方法。
2026-05-08 cs.AI cs.LG
Prot2Text: Multimodal Protein's Function Generation with GNNs and Transformers
École Polytechnique（巴黎综合理工学院）；Institut Polytechnique de Paris（巴黎理工学院）；Université Paris Cité（巴黎城市大学）；University of Cyprus（塞浦路斯大学）
本文提出Prot2Text，结合GNNs和LLMs在编码器-解码器框架中整合蛋白质序列、结构和文本信息，以自由文本形式生成功能描述，超越传统分类方法。
2024-04-20 cs.CL cs.LG q-bio.QM
Deep Ensembles for Graphs with Higher-order Dependencies
Lucy Family Institute for Data and Society（露西家庭数据与社会研究所）；University of Notre Dame（圣母大学）
图神经网络（GNN）在许多图学习任务上继续实现最先进的性能，但依赖于给定图是真实邻域结构的充分近似的假设。当一个系统包含高阶顺序依赖关系时，我们发现传统图表示不适合每个节点的邻域的趋势会导致现有的GNN泛化能力差。为了解决这个问题，我们提出了一种新的深度图包围（DGE），它通过在高阶网络结构中同一节点的不同邻域子空间上训练GNN的集合来捕获邻域方差。我们表明，即使在类似的参数预算下，DGE在六个具有已知高阶依赖关系的真实世界数据集上的半监督和监督任务上的性能始终优于现有的GNN。我们证明了学习多样化和准确的基础分类器是DGE成功的关键，并讨论了这些研究结果对未来GNNs合奏工作的影响。
2023-02-07 cs.LG
Graph Neural Networks can Recover the Hidden Features Solely from the Graph Structure
Kyoto University（京都大学）；RIKEN AIP（理化学研究所人工智能项目）
本文从表达能力角度研究图神经网络，证明GNNs能仅从图结构中恢复隐藏节点特征并用于下游任务，实验验证了理论分析的有效性。
2024-03-23 cs.LG cs.SI
GCN-Based Throughput-Oriented Handover Management in Dense 5G Vehicular Networks
Brock University（布鲁克大学）
本文提出TH-GCN方法，利用图神经网络对车辆和基站进行动态建模，结合信号质量、吞吐量、车速和基站负载等特征，实现密集5G车载网络中面向吞吐量的自适应切换管理，仿真显示切换次数减少78%、信号质量提升10%。
2025-05-08 cs.LG
SURF: A Generalization Benchmark for GNNs Predicting Fluid Dynamics
ETH Zurich（苏黎世联邦理工学院）
提出SURF基准，通过独立数据集与特定指标评估基于图的流体模拟器在不同拓扑、分辨率和热力学范围下的泛化能力，揭示最先进模型的新见解。
2023-11-20 cs.AI cs.LG physics.flu-dyn
Program-to-Circuit: Exploiting GNNs for Program Representation and Circuit Translation
University of California, Santa Barbara（加州大学圣塔芭芭拉分校）；Purdue University（普渡大学）；Georgia Institute of Technology（佐治亚理工学院）
电路设计是复杂的，需要广泛的特定领域的专业知识。硬件敏捷开发的一个主要障碍是精确的电路质量评估过程相当耗时。为了显著加快从行为语言到电路设计的转换过程中的电路评估，我们将其表述为程序到电路问题，旨在通过将C/C++程序表示为图来利用图神经网络（GNNs）的表示能力。这项工作的目标有四个方面。首先，我们构建了一个包含40 k个C/C++程序的标准基准，每个程序都被转换为具有实际硬件质量指标的电路设计，旨在促进针对这一高需求电路设计领域的有效GNN的开发。其次，14个国家的最先进的GNN模型进行了分析的程序到电路的问题。我们确定了这个问题的关键设计挑战，应该仔细处理，但尚未解决现有的GNN。我们的目标是提供特定领域的知识，用于设计具有适当归纳偏差的GNN。第三，我们讨论了三套真实世界的基准GNN泛化评估，并分析了标准程序和真实情况下的性能差距。目标是使迁移学习能够从有限的训练数据到现实世界的大规模电路设计问题。第四，Program-to-Circuit问题是Program-to-X框架中的一个代表，是一组具有各种下游任务的基于程序的分析问题。深入了解在Program-to-Circuit上应用GNN的优势和劣势，可以在很大程度上使整个Program-to-X家族受益。在这个方向上开拓，我们期待更多的GNN努力来彻底改变这个高需求的程序到电路问题，并丰富GNN在程序上的表现力。
2021-09-13 cs.LG
GNNs Meet Sequence Models Along the Shortest-Path: an Expressive Method for Link Prediction
University of Trento（特伦托大学）；Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）
提出SP4LP框架，结合GNN节点编码与最短路径序列建模，以高效捕捉多跳结构模式，在链接预测基准上达到最先进性能并证明其表达力优于现有方法。
2026-11-05 cs.LG
Accurate and Scalable Graph Neural Networks via Message Invariance
University of Science and Technology of China（中国科学技术大学）
提出拓扑补偿（TOP）方法，利用消息不变性将昂贵的批外消息传递转换为批内消息传递，实现大规模图上的高效准确小批量学习，速度提升一个数量级。
2025-02-27 cs.AI cs.LG
Polarized Direct Cross-Attention Message Passing in GNNs for Machinery Fault Diagnosis
Department of Automation, College of Artificial Intelligence, China University of Petroleum (Beijing)（自动化系，人工智能学院，中国石油大学（北京））；Department of Safety Engineering, College of Safety and Ocean Engineering, China University of Petroleum (Beijing)（安全工程系，安全与海洋工程学院，中国石油大学（北京））
本文提出极化直接交叉注意力信息传递框架，通过数据驱动的图构建实现自适应信息传递，提升机械故障诊断的准确性和鲁棒性。
2026-03-06 cs.LG
Graph-based Interpolation of Feature Vectors for Accurate Few-Shot Classification
IMT Atlantique（大西洋国立高等矿业电信学校）；Orange Labs（Orange实验室）
在Few-Shot分类中，目标是学习能够仅使用少量标记示例来区分类别的模型。在这种情况下，工作已经提出了引入图神经网络（GNN），旨在利用包含在其他样本中的信息同时处理，通常被称为在文献中的transductive设置。这些GNN都是用主干特征提取器一起训练的。在本文中，我们提出了一种新的方法，只依赖于图来插值特征向量，从而产生了一个没有额外参数的训练的直推学习设置。因此，我们所提出的方法利用了两个层次的信息：a）在通用数据集上获得的传递特征，b）从其他待分类样本中获得的转导信息。使用标准的Few-Shot视觉分类数据集，我们证明了它的能力，带来显着的收益相比，其他作品。
2021-01-28 cs.LG stat.ML
Graph Condensation via Receptive Field Distribution Matching
Georgia Institute of Technology（佐治亚理工学院）
图神经网络（GNN）能够使用深度学习来分析图，在捕获图中的结构化信息方面具有很好的效果。本文的重点是创建一个小图来表示原始图，以便在缩小的图上训练的GNN可以做出准确的预测。我们将原始图视为感受野的分布，并旨在合成一个感受野具有相似分布的小图。因此，我们提出了通过接受场分布匹配（GCDM），这是通过优化合成图，通过使用最大平均差异（MMD）量化的分布匹配损失来完成的图形Condesation。此外，我们证明了GCDM生成的合成图是高度概括的各种模型在评估阶段，冷凝速度显着提高使用这个框架。
2022-06-28 cs.AI cs.LG
Accurate, reliable and interpretable solubility prediction of druglike molecules with attention pooling and Bayesian learning
GALUX inc.（GALUX公司）；Seoul National University（首尔国立大学）
在药物发现中，水溶性是一个重要的药物动力学性质，它影响药物的吸收和分析利用度。因此，已经研究了溶解度的计算机预测在虚拟筛选和铅优化中的效用。最近，使用实验数据的机器学习（ML）方法已经流行，因为基于物理的方法（如量子力学和分子动力学）由于其计算成本而不适合于高通量任务。然而，ML方法在数据不足的情况下会出现过拟合问题，这是大多数化学性质数据集的情况。此外，ML方法被认为是一个黑箱函数，因为它是很难解释的贡献，隐藏的功能输出，阻碍了分析和修改的结构-活性关系。为了解决上述问题，我们开发了具有自注意读出层的贝叶斯图神经网络（GNNs）。与大多数在节点更新中使用自注意力的GNN不同，在读出层应用的自注意力使模型能够提高预测性能并识别原子重要性，这可以帮助引导优化，例如FDA批准的三种药物。此外，贝叶斯推断使我们能够根据溶解度预测任务中的不确定性来分离或多或少准确的结果。我们期望我们准确、可靠和可解释的模型可以用于更仔细的决策和药物开发中的各种应用。
2022-09-29 cs.AI cs.LG q-bio.BM
Understanding and Improving Deep Graph Neural Networks: A Probabilistic Graphical Model Perspective
Southeast University（东南大学）；Chinese Academy of Sciences（中国科学院）；Purple Mountain Laboratories（紫金山实验室）
近年来，为下游任务设计的基于图的模型极大地推进了对图神经网络（GNN）的研究。基于神经消息传递机制（如GCN和GAT）的GNN基线随着网络的深化而表现更差。因此，已经提出了许多GNN变体来解决这个性能下降问题，包括许多深度GNN。然而，仍然缺乏一个统一的框架来连接这些现有的模型，并在高层次上解释其有效性。在这项工作中，我们专注于深度GNN，并提出了一个新的观点来理解它们。我们建立了一个理论框架，通过推理的概率图模型。给定从马尔可夫随机场的变分推理导出的不动点方程（FPE），深度GNN（包括JKNet，GCNII，DGCN）和经典GNN（如GCN，GAT和APPNP）可以被视为FPE的不同近似。此外，在此框架下，FPE的更准确的近似，指导我们设计一个更强大的GNN：耦合图神经网络（CoGNet）。对引文网络和自然语言处理下游任务进行了广泛的实验。结果表明，CoGNet优于SOTA模型。
2023-01-25 cs.LG
Global Explainability of GNNs via Logic Combination of Learned Concepts
University of Trento（特伦托大学）；Fondazione Bruno Kessler（布鲁诺·凯塞勒基金会）；University of Cambridge（剑桥大学）
本文提出GLGExplainer，首次将局部解释聚类为图形概念并组合成任意布尔逻辑公式，为GNN提供准确、可解释且忠实于模型预测的全局解释，并可用于诊断模型学到的错误规则。
2023-04-11 cs.AI cs.LG cs.LO
LMC: Fast Training of GNNs via Subgraph Sampling with Provable Convergence
University of Science and Technology of China（中国科学技术大学）
针对大规模 GNN 训练中的邻居爆炸与子图采样梯度偏差问题，本文提出可证明收敛的 LMC，通过前后向消息补偿获得准确小批量梯度并提升效率。
2025-03-16 cs.LG
Toward Dynamic Stability Assessment of Power Grid Topologies using Graph Neural Networks
Potsdam Institute for Climate Impact Research（波茨坦气候影响研究所）；University of St. Gallen（圣加仑大学）
本文利用图神经网络仅从拓扑信息预测电网动态稳定性，并开源大型合成电网数据集，首次达到实用性能，还能识别脆弱节点并泛化到德州电网模型。
2023-09-20 cs.AI cs.LG physics.data-an
CLNode: Curriculum Learning for Node Classification
Wuhan University（武汉大学）；The University of Sydney（悉尼大学）；JD Explore Academy（京东探索研究院）
节点分类是一项基于图的基本任务，旨在预测未标记节点的类别，其中图神经网络（GNN）是最先进的方法。当前的GNN假设训练集中的节点在训练期间贡献相等。然而，训练节点的质量差异很大，两种类型的低质量训练节点可能会损害GNN的性能：（1）位于类边界附近的类间节点，缺乏其对应类的典型特征。由于GNN是数据驱动的方法，因此在这些节点上进行训练可能会降低准确性。(2)错误标记的节点。在现实世界的图中，节点经常被错误标记，这会显着降低GNN的鲁棒性。为了减轻低质量训练节点的不利影响，我们提出了CLNode，它采用选择性训练策略，根据节点的质量来训练GNN。具体而言，我们首先设计了一个多角度的难度测量器，以准确地衡量训练节点的质量。然后，基于测量的质量，我们采用一个训练调度器，选择适当的训练节点训练GNN在每个时期。为了评估CLNode的有效性，我们通过将其纳入六个代表性的骨干GNN进行了广泛的实验。在真实网络上的实验结果表明，CLNode是一个通用框架，可以与各种GNN结合使用，以提高其准确性和鲁棒性。
2022-12-30 cs.LG cs.SI
ITEM: Improving Training and Evaluation of Message-Passing based GNNs for top-k recommendation
Conservatoire national des arts et métiers（法国国立工艺学院）；Sorbonne Université（索邦大学）
本研究针对top-k推荐中基于消息传递的GNN训练与评估问题，提出排序损失平滑优化方法与个性化PageRank负采样策略，还拓展了归纳式用户中心评估协议，在多数据集和架构上实现性能与训练速度的双重提升。
2024-07-03 cs.IR cs.LG
MHNF: Multi-hop Heterogeneous Neighborhood information Fusion graph representation learning
Harbin Institute of Technology（哈尔滨工业大学）
注意力机制使图神经网络（GNN）能够学习目标节点与其单跳邻居之间的注意力权重，从而进一步提高性能。然而，大多数现有的GNN都面向同构图，并且其中每一层只能聚合一跳邻居的信息。堆叠多层网络引入了相当大的噪声，并且容易导致过度平滑。提出了一种多跳异构邻域信息融合图表示学习方法。具体来说，我们提出了一个混合元路径自主提取模型，有效地提取多跳混合邻居。然后，我们制定了一个跳级的异构信息聚合模型，有选择地聚合不同的跳邻域信息在同一个混合元路径。最后，构建了一个层次化的语义注意力融合模型（HSAF），该模型可以有效地融合不同跳和不同路径的邻域信息。以这种方式，本文解决了聚合多跳邻域信息和学习混合元路径的目标任务的问题。这减轻了手动指定元路径的限制。此外，HSAF还可以提取元路径内部节点信息，更好地整合不同层次的语义信息。在真实数据集上的实验结果表明，MHNF在只有1/10 ~ 1/100的参数和计算预算的情况下，达到了最好的或有竞争力的性能。我们的代码可在https://github.com/PHD-lanyu/MHNF上公开获取。
2022-06-23 cs.AI cs.LG
Accelerating Sampling and Aggregation Operations in GNN Frameworks with GPU Initiated Direct Storage Accesses
UIUC USA（伊利诺伊大学厄巴纳-香槟分校）；NVIDIA USA（英伟达公司）；NVIDIA/UIUC USA（英伟达公司/伊利诺伊大学厄巴纳-香槟分校）
针对大规模图神经网络训练中CPU数据加载瓶颈和内存不足问题，提出GIDS数据加载器，利用GPU直接访问存储、并行容忍延迟并消除缺页异常，使整体训练流程加速高达392倍。
2024-03-06 cs.AI cs.AR cs.DC
Efficient Graph Deep Learning in TensorFlow with tf_geometric
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Hefei University of Technology（合肥工业大学）；China Center for Information Industry Development（中国电子信息产业发展研究院）
我们引入了tf_geometric，这是一个用于图深度学习的高效友好库，它与TensorFlow 1.x和2.x都兼容。tf_geometric提供用于构建图神经网络（GNN）的内核库以及流行GNN的实现。内核库由构建高效GNN的基础设施组成，包括图数据结构、图映射缩减框架、图小批量策略等。这些基础设施使tf_geometric能够支持单图计算、多图计算、图小批量、分布式训练等;因此，tf_geometric可用于各种图深度学习任务，例如，转换节点分类、归纳节点分类、链接预测和图分类。基于内核库，tf_geometric为不同的任务实现了各种流行的GNN模型。为了方便GNN的实现，tf_geometric还提供了一些其他库，用于数据集管理，图采样等。与现有流行的GNN库不同，tf_geometric不仅提供面向对象编程（OOP）API，还提供函数式API，使tf_geometric能够处理高级图深度学习任务，如图元学习。tf_geometric的API是友好的，它们适合初学者和专家。在本文中，我们首先介绍了tf_geometric的框架。然后，我们在一些基准数据集上进行了实验，并报告了由tf_geometric实现的几种流行GNN模型的性能。
2021-01-27 cs.LG stat.ML
From GNNs to Symbolic Surrogates via Kolmogorov-Arnold Networks for Delay Prediction
本文提出FlowKANet，通过Kolmogorov-Arnold网络替代传统MLP层，实现高效且准确的延迟预测，并通过符号代理模型提升部署透明性。
2026-02-16 cs.LG cs.NI
Generating In-Distribution Proxy Graphs for Explaining Graph Neural Networks
Knight Foundation School of Computing and Information Sciences, Florida International University（佛罗里达国际大学奈特基金会计算与信息科学学院）；New Jersey Institute of Technology（新泽西理工学院）；University of Houston（休斯顿大学）；Visa Research（维萨研究中心）；Amazon Search A9（亚马逊搜索A9部门）；School of Computing and Augmented Intelligence, Arizona State University（亚利桑那州立大学计算与增强智能学院）
本文提出一种生成分布内代理图的方法，通过图生成器和信息论训练目标，解决可解释子图与训练数据分布偏移问题，从而更准确地解释图神经网络。
2024-05-29 cs.LG
Momentum-Conserving Graph Neural Networks for Deformable Objects
Max Planck Institute for Informatics（马克斯·普朗克信息研究所）；ETH Zürich（苏黎世联邦理工学院）；University of Bonn（波恩大学）；Fraunhofer Institute for Algorithms and Scientific Computing（弗劳恩霍夫算法与科学计算研究所）
本文提出MomentumGNN，通过构造性跟踪动量，解决传统GNN在预测变形物体动量守恒时的不足，采用物理导向损失进行无监督训练，在关键场景中表现更优。
2026-04-28 cs.AI cs.GR cs.LG
Automated Camera Calibration via Homography Estimation with GNNs
Eindhoven University of Technology（埃因霍温理工大学）
针对交通监控相机的自动精准标定需求，提出利用路口拓扑结构、结合虚拟相机构图与图神经网络估计单应性矩阵以获取外参的标定框架，在合成与真实场景下均达当前最优性能。
2023-11-05 cs.AI cs.CV cs.LG
