Explaining Dynamic Graph Neural Networks via Relevance Back-propagation
University of California Irvine（加州大学欧文分校）
图神经网络（GNN）在捕获图结构数据中的丰富信息方面表现出显着的有效性。然而，GNN的黑盒性质阻碍了用户对模型的理解和信任，从而导致其应用的困难。虽然近年来对GNN的解释研究很繁荣，但大多数研究都集中在静态图上，而动态GNN的解释几乎没有探索。由于动态GNN具有时变图结构的独特特性，因此解释动态GNN具有挑战性。直接使用现有的模型设计的静态图上的动态图是不可行的，因为他们忽略了快照之间的时间依赖性。在这项工作中，我们提出DGExplainer来为动态GNN提供可靠的解释。DGExplainer将动态GNN的输出激活分数重新分配到其前一层神经元的相关性，迭代直到获得输入神经元的相关性分数。我们在真实世界的数据集上进行定量和定性实验，以证明所提出的框架在识别动态GNN的链接预测和节点回归的重要节点方面的有效性。
2022-07-22 cs.LG
Graph as a feature: improving node classification with non-neural graph-aware logistic regression
Télécom Paris（巴黎电信学院）；Institut Polytechnique de Paris（巴黎综合理工学院）；i3, Télécom Paris（巴黎电信学院i3研究所）
本文提出非神经的图感知逻辑回归（GLR），将节点关系编码为额外特征向量并结合节点自身属性，在节点分类任务中超越最先进GNN模型，同时显著提升泛化能力和计算效率。
2024-11-19 cs.LG
Combining feature-based approaches with graph neural networks and symbolic regression for synergistic performance and interpretability
Laboratory of Applied Materials and Interfaces, Federal University of Rio Grande do Sul（南里奥格兰德联邦大学应用材料与界面实验室）；Institute of Condensed Matter and Nanosciences, Université Catholique de Louvain（鲁汶天主教大学凝聚态与纳米科学研究所）；Ruhr-Universität Bochum（波鸿鲁尔大学）
本研究提出材料科学领域的混合框架MatterVial，融合多类预训练GNN潜在表示、GNN近似描述符与符号回归新特征，增强MODNet模型后性能媲美甚至超越前沿端到端GNN，还可将潜在描述符解码为具物理意义的公式，兼顾高性能与可解释性。
2025-09-05 cond-mat.mtrl-sci cs.LG
FIT-GNN: Faster Inference Time for GNNs that 'FIT' in Memory Using Coarsening
Indian Institute of Technology Gandhinagar（印度理工学院甘地讷格尔分校）
本文提出FIT-GNN方法，通过图粗化减少推理阶段计算开销，提升GNN的可扩展性，在多个基准数据集上验证了其在单节点推理时间和内存消耗上的显著改进。
2026-04-10 cs.LG stat.ML
Fast Graph Neural Tangent Kernel via Kronecker Sketching
Columbia University（哥伦比亚大学）；Carnegie Mellon University（卡内基梅隆大学）；Adobe Research（Adobe 研究院）；Princeton University（普林斯顿大学）；Duke University（杜克大学）
许多深度学习任务必须处理图形（例如，蛋白质结构、社交网络、源代码抽象语法树）。由于这些任务的重要性，人们转向图神经网络（GNNs）作为在图上学习的实际方法。GNN由于其令人信服的性能而得到广泛应用。不幸的是，使用GNN的一个主要障碍是GNN需要大量的时间和资源来进行训练。最近，一种用于在图数据上学习的新方法是图神经切线核（GNTK）[Du，Hou，Salakhutdinov，Poczos，Wang和Xu 19]。GNTK是神经切线核（NTK）[Jacot，Gabriel和Hongler 18]（一种核方法）在图形数据上的应用，解决NTK回归相当于使用梯度下降来训练无限宽的神经网络。使用GNTK的主要好处是，与任何内核方法类似，GNTK的参数可以在单个步骤中直接求解。这可以避免耗时的梯度下降。同时，草图已经越来越多地用于加速各种优化问题，包括解决核回归。给定$n$图的核矩阵，在求解核回归时使用草图法，可将计算时间减少到$o(n^3)$。但不幸的是，这样的方法通常需要事先对核矩阵有广泛的了解，而在GNTK的情况下，我们发现核矩阵的构造已经是$O(n^2N^4)$了，假设每个图都有$N$节点。当图$N$的大小增加时，核矩阵构造时间可能是主要的性能瓶颈。因此，一个自然的问题是，我们是否可以加快内核矩阵的构造，以改善GNTK回归的端到端运行时间。本文首次提出了在$o(n^2N^3)$运行时构…
2021-12-04 cs.LG
ProGNNosis: A Data-driven Model to Predict GNN Computation Time Using Graph Metrics
Barcelona Neural Networking Center (BNN)（巴塞罗那神经网络中心（BNN））；Universitat Politècnica de Catalunya (UPC)（加泰罗尼亚理工大学（UPC））
图神经网络（GNN）在处理图结构数据的问题中显示出巨大的潜力。GNN的独特之处之一是它们适应多个问题的灵活性，这不仅带来了广泛的适用性，而且在为特定问题找到最佳模型或加速技术时也带来了重要的挑战。这种挑战的一个例子在于，GNN模型或加速技术的准确性或有效性通常取决于底层图的结构。在本文中，为了解决依赖于图的加速问题，我们提出了ProGNNosis，这是一种数据驱动的模型，可以通过检查输入图度量来预测给定GNN模型在任意特征图上运行的GNN训练时间。这种预测是基于先前使用不同的合成图数据集离线训练的回归进行的。在实践中，我们的方法允许做出明智的决定，设计使用的特定问题。在本文中，定义了构建ProGNNosis的方法，并将其应用于特定用例，以帮助确定哪种图形表示更好。我们的研究结果表明，ProGNNosis有助于在多种广泛使用的GNN模型（如GCN，GIN，GAT或GraphSAGE）中随机选择图形表示，平均加速1.22倍。
2022-06-16 cs.LG
Accelerating Large Scale Real-Time GNN Inference using Channel Pruning
University of Southern California（南加州大学）；US Army Research Lab（美国陆军研究实验室）
图神经网络（GNN）被证明是为下游应用生成节点嵌入的强大模型。然而，由于GNN推理的高计算复杂度，很难将GNN部署用于大规模或实时的【形】应用。在本文中，我们建议通过修剪每层中的维度来加速GNN推理，而精度损失可以忽略不计。我们的修剪框架使用了一种新的LASSO回归公式来识别对输出激活有很大影响的特征维度（通道）。我们确定了两个推理方案和设计修剪方案的基础上，他们的计算和内存使用。为了进一步降低推理复杂度，我们有效地存储和重用访问节点的隐藏特征，这大大减少了计算目标嵌入所需的支持节点的数量。我们评估所提出的方法与节点分类问题的五个流行的数据集和一个实时的【形】垃圾邮件检测应用程序。我们证明，修剪GNN模型大大减少了计算和内存的使用，几乎没有精度损失。对于完整的推理，该方法实现了平均3.27倍的加速比，只有0.002下降在GPU上的F1-Micro。对于批量推理，所提出的方法实现了平均6.67倍的加速比，而CPU上的F1-Micro仅下降0.003。据我们所知，我们是第一个通过通道修剪来加速大规模实时的【形】GNN推理的人。
2021-05-10 cs.LG
Task-Agnostic Graph Neural Network Evaluation via Adversarial Collaboration
Imperial College London（帝国理工学院）；Massachusetts Institute of Technology（麻省理工学院）；Valence Discovery（Valence Discovery公司）；Mila（米拉研究所）；Université de Montréal（蒙特利尔大学）；University of Cambridge（剑桥大学）
越来越需要开发可靠的方法来评估用于分子表示学习的图神经网络（GNN）研究进展。现有的用于分子表示学习的GNN基准测试方法专注于比较GNN在某些数据集上的某些节点/图分类/回归任务上的性能。然而，缺乏一种原则性的、与任务无关的方法来直接比较两个GNN。此外，大多数现有的自监督学习作品将手工增强的数据，这有几个严重的困难，以应用于图，由于其独特的特点。为了解决上述问题，我们提出了GraphAC（Graph Adversarial Collaboration）--一个概念新颖、原则性强、任务不可知且稳定的框架，用于通过对比自我监督来评估GNN。我们引入了一个新颖的目标函数：竞争巴洛双胞胎，它允许两个GNN在相互直接竞争的情况下联合更新自己。GraphAC成功地区分了各个方面的不同表现力的GNN，并已被证明是一种原则性和可靠的GNN评估方法，无需任何增强。
2023-03-27 cs.LG
The Road to Learning Explainable Inverse Kinematic Models: Graph Neural Networks as Inductive Bias for Symbolic Regression
Faculty of Computer Science, Otto-von-Guericke-University Magdeburg（马格德堡奥托·冯·格里克大学计算机科学学院）；Fraunhofer Institute for Transportation and Infrastructure Systems IVI（弗劳恩霍夫运输与基础设施系统研究所IVI）
本文利用图神经网络学习逆运动学模型，泛化至不同连杆长度的机械臂，并作为归纳偏置用于符号回归生成解析方程。
2025-01-23 cs.LG cs.RO
Can Classic GNNs Be Strong Baselines for Graph-level Tasks? Simple Architectures Meet Excellence
Beihang University（北洋大学）；The Hong Kong Polytechnic University（香港理工大学）
本研究提出GNN+框架，通过集成六种常用技术增强经典GNN，在14个图级数据集上系统评估表明，经典GNN性能匹配或超越GTs且效率更高，挑战了复杂机制对图级性能必不可少的观念。
2025-11-01 cs.LG
Is Solving Graph Neural Tangent Kernel Equivalent to Training Graph Neural Network?
UCSB（加州大学圣巴巴拉分校）；Adobe（奥多比公司）；Weizmann Institute of Science（魏茨曼科学研究所）
本文研究了求解图神经正切核（GNTK）是否等价于训练无限宽图神经网络，证明了图级回归的等价性，并首次提出并证明了节点级回归的GNTK公式与等价性。
2023-09-14 cs.LG
GNN-FiLM: Graph Neural Networks with Feature-wise Linear Modulation
Microsoft Research（微软研究院）
本文提出了一种新的图神经网络（GNN）类型，使用特征线性调制（FiLM）。许多标准的GNN变体通过仅基于每条边的源的表示来计算“消息”来沿着图的边传播信息。在GNN-FiLM中，边缘的目标节点的表示还用于计算可应用于所有传入消息的变换，从而允许对传递的信息进行特征调制。实验结果比较不同的GNN架构上的三个任务，从文献中，重新实现的基线方法的基础上。使用广泛的搜索发现所有方法的超参数，产生了一些令人惊讶的结果：基线模型之间的差异小于文献中报道的差异。尽管如此，GNN-FiLM在分子图回归任务上的表现优于基线方法，并在其他任务上表现出竞争力。
2020-06-26 cs.LG stat.ML
GraphMDN: Leveraging graph structure and deep learning to solve inverse problems
Massachusetts Institute of Technology（麻省理工学院）；Vectra AI（维特拉人工智能公司）
最近引入的图神经网络（GNN）及其在过去几年中的日益普及，使得深度学习算法能够应用于非欧几里德的图结构数据。GNN在一系列令人印象深刻的基于图的机器学习问题上取得了最先进的结果。然而，尽管GNN的发展速度很快，但其大部分工作都集中在图分类和嵌入技术上，在很大程度上忽略了图数据的回归任务。在本文中，我们开发了一个图混合密度网络（GraphMDN），它结合了图神经网络与混合密度网络（MDN）的输出。通过结合这些技术，GraphMDN具有自然能够将图结构化信息纳入神经架构的优势，以及对多模态回归目标建模的能力。因此，GraphMDN被设计为在回归任务中表现出色，其中数据是图形结构的，并且目标统计数据更好地由密度的混合而不是奇异值（所谓的“逆问题”）表示。为了证明这一点，我们将现有的GNN架构（称为Semantic GCN（SemGCN））扩展到GraphMDN结构，并显示Human3.6M姿态估计任务的结果。扩展模型始终优于GCN和MDN架构本身，具有相当数量的参数。
2020-10-26 cs.AI cs.LG
Graph Neural Network for Large-Scale Network Localization
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Technische Universitat Darmstadt（达姆施塔特工业大学）
图神经网络（GNN）在机器学习的上下文中流行用于对结构化数据进行分类。但令人惊讶的是，它们很少应用于回归问题。在这项工作中，我们采用GNN来解决一个经典但具有挑战性的非线性回归问题，即网络定位。我们的主要发现是有序的。首先，GNN在准确性、鲁棒性和计算时间方面可能是大规模网络定位的最佳解决方案。其次，适当的阈值的通信范围是必不可少的，其优越的性能。仿真结果证实，所提出的基于GNN的方法优于所有国家的最先进的基准。这些令人鼓舞的结果在理论上是合理的数据聚合，非视线（NLOS）噪声去除和低通滤波效果，所有的邻居选择的阈值的影响。代码可在https://github.com/Yanzongzi/GNN-For-localization上获得。
2021-02-15 cs.LG eess.SP stat.ML
Ranking Structured Objects with Graph Neural Networks
Heinz Nixdorf Institute（海因茨·尼克斯多夫研究所）；Paderborn University（帕德博恩大学）；Institute of Informatics（信息学研究所）；University of Munich（慕尼黑大学）
图神经网络（GNN）已成功应用于许多结构化数据领域，其应用范围从分子性质预测到社交网络分析。受GNNs广泛适用性的启发，我们提出了所谓的RankGNNs家族，这是神经学习排序（LtR）方法和GNNs的组合。RankGNN是用一组图之间的成对偏好来训练的，这表明其中一个比另一个更受欢迎。这个问题的一个实际应用是药物筛选，专家希望在大量候选药物中找到最有希望的分子。我们根据经验证明，我们提出的成对RankGNN方法显著优于或至少匹配朴素逐点基线方法的排名性能，其中LtR问题通过基于GNN的图回归来解决。
2021-10-11 cs.LG
Fast Haar Transforms for Graph Neural Networks
Zhejiang Normal University（浙江师范大学）；The University of New South Wales（新南威尔士大学）；Princeton University（普林斯顿大学）；City University of Hong Kong（香港城市大学）
图神经网络（Graph Neural Network，GNNs）由于其在高维图结构数据的分类和回归任务中的强大能力，近年来成为研究热点。然而，由于GNN通常通过图拉普拉斯算子的标准正交基来定义图卷积，因此当图大小很大时，它们会遭受高计算成本。本文引入了图上粗粒度链的稀疏局部化标准正交系Haar基。Haar基下的图卷积，称为Haar卷积，可以相应地为GNN定义。利用Haar基的稀疏性和局部性，可以在图上进行快速Haar变换，从而实现图数据与滤波器之间Haar卷积的快速计算。我们在配备Haar卷积的GNN上进行实验，这展示了基于图的回归和节点分类任务的最新结果。
2019-10-30 cs.LG stat.ML
A Metadata-Driven Approach to Understand Graph Neural Networks
University of Michigan（密歇根大学）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出元数据驱动方法，通过对GNN基准测试元数据进行多元稀疏回归识别关键数据属性，并以度分布为例通过理论与受控实验验证其对GNN性能的影响。
2023-10-30 cs.LG
Cold Brew: Distilling Graph Node Representations with Incomplete or Missing Neighborhoods
Amazon（亚马逊）
图神经网络（GNN）在节点分类、回归和推荐任务中已经实现了最先进的性能。GNN在丰富和高质量的连接可用时工作良好。然而，他们的有效性往往是危及许多现实世界中的节点度有幂律分布的图。这种情况的极端情况，即节点可能没有邻居，称为严格冷启动（SCS）。SCS强制预测完全依赖于节点自身的特征。我们提出了Cold Brew，这是一种师生蒸馏方法，用于解决GNN的SCS和噪声邻居挑战。我们还引入了特征贡献率（FCR），这是一个量化归纳GNN解决SCS的行为的度量。我们的实验表明，FCR解开不同的图形数据组件的贡献，并帮助选择最佳的体系结构SCS推广。我们进一步证明了Cold Brew在几个公共基准和专有电子商务数据集上的卓越性能，其中许多节点的连接很少或有噪声。我们的源代码可在https://github.com/amazon-research/gnn-tail-generalization上获得。
2022-03-13 cs.LG
Simple GNNs with Low Rank Non-parametric Aggregators
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
针对半监督节点分类（SSNC）中现有GNN架构过度设计的问题，提出用非参数学习器替代特征聚合以简化GNN设计并避免超参数选择复杂性，实验验证其在多种图类型上的适用性并关注评估惯例变化对性能的影响。
2024-11-26 cs.LG stat.ML
GNN-Geo: A Graph Neural Network-based Fine-grained IP geolocation Framework
State Key Laboratory of Mathematical Engineering and Advanced Computing（数学工程与先进计算国家重点实验室）；Nanjing University of Information Science & Technology（南京信息工程大学）；University of Göttingen（哥廷根大学）
本文提出GNN-Geo框架，将IP地理定位建模为属性图节点回归问题，利用图神经网络建模连接信息，在8个真实网络中显著超越规则和MLP基线，验证了GNN用于细粒度IP定位的潜力。
2023-04-15 cs.LG
FnRGNN: Distribution-aware Fairness in Graph Neural Network
Chungnam National University（Chungnam国立大学）
提出FnRGNN，一种多层面公平性处理框架，通过边重加权、MMD对齐和Sinkhorn分布匹配，在保持性能的同时降低GNN节点回归的群体差异。
2025-10-22 cs.AI cs.LG
Nonstabilizerness Estimation using Graph Neural Networks
Department of Advanced Computing Sciences, Maastricht University（马斯特里赫特大学高级计算科学系）；Leiden Institute of Advanced Computer Science, Leiden University（莱顿大学高级计算机科学研究所）
本文提出利用图神经网络估计量子电路非稳定性，通过分类和回归任务提升SRE估计精度，并展示其在不同电路结构中的泛化能力。
2026-02-25 cs.LG quant-ph
Graph Representation Learning via Aggregation Enhancement
Technion（以色列理工学院）；Habana Labs（Habana实验室）
图神经网络（GNN）已经成为处理图结构数据的强大工具，但在有效地聚合和传播层之间的信息方面仍然面临挑战，这限制了它们的性能。我们用核回归（KR）方法来解决这个问题，使用KR损失作为自监督设置中的主要损失或作为监督设置中的正则化项。与最先进的技术相比，我们在多个转导和归纳节点分类数据集的两种情况下都显示出了实质性的性能改进，特别是对于深度网络。与互信息（MI）相反，KR损失是凸的，并且在高维情况下易于估计，即使它间接地最大化其输入之间的MI。我们的工作突出了KR推进图表示学习领域和增强GNN性能的潜力。复制我们实验的代码可以在https://github.com/Anonymous1252022/KR_for_GNNs上找到。
2023-02-08 cs.LG
Informed, but Not Always Improved: Challenging the Benefit of Background Knowledge in GNNs
University of Rostock（罗斯托克大学）；University of Rostock, University of Marburg（罗斯托克大学、马堡大学）
本文研究背景知识图在癌症亚型分类等GNN任务中的实际作用，发现现有GNN并未因背景知识而优于线性回归且对知识扰动不敏感，进而提出评估框架并指出架构与知识特征对齐是提升性能的关键。
2025-09-22 cs.LG
GNN-LoFI: a Novel Graph Neural Network through Localized Feature-based Histogram Intersection
Ca’ Foscari University of Venice（威尼斯大学）；University of Lugano（卢加诺大学）；The Hong Kong Polytechnic University（香港理工大学）
本文提出GNN-LoFI图神经网络，用局部特征分布直方图相交替代经典消息传递，在图分类与回归基准上优于图核和现有图神经网络。
2024-01-17 cs.LG
A Quasi-Wasserstein Loss for Learning Graph Neural Networks
Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学高瓴人工智能学院）
针对图神经网络节点预测中损失函数忽视节点非独立同分布的问题，提出基于图最优传输的拟Wasserstein损失，联合学习标签传输与GNN，提升节点分类和回归性能。
2024-03-13 cs.LG
Estimating Subgraph Importance with Structural Prior Domain Knowledge
University of Seoul（首尔大学）；Incheon National University（仁川国立大学）
本文提出一种基于图神经网络的子图重要性估计方法，通过线性组Lasso回归问题在嵌入空间中建模，利用图子结构的先验领域知识，无需目标标签即可提升估计性能。
2026-05-12 cs.LG
Flow-Attentional Graph Neural Networks
University of Kassel（卡塞尔大学）；University of Greifswald（格里夫斯瓦尔德大学）
针对现有图神经网络未考虑物理资源流相关图的守恒定律导致性能下降的问题，提出满足基尔霍夫第一定律的流注意力机制，验证其表达能力优势并通过实验证明其可提升相关GNN任务性能。
2025-11-14 cs.LG
Improving Subgraph-GNNs via Edge-Level Ego-Network Encodings
Universitat Pompeu Fabra（庞培法布拉大学）；Universitat Oberta de Catalunya（加泰罗尼亚开放大学）；ISI Foundation Turin（都灵ISI基金会）
本文提出边级自我网络编码以增强子图GNN，理论上证明其表达能力优于基于节点的子图MP-GNN，并在多个基准上匹配或改进基线且显著降低内存使用。
2024-05-02 cs.AI cs.LG
Automated discovery of finite volume schemes using Graph Neural Networks
MINES Paris, PSL University（巴黎 Mines 工程院，PSL 大学）；CEMEF - Centre for material forming（材料成型中心）
本文证明图神经网络结合符号回归可自动发现有限体积格式，在无监督及高阶场景下也能生成数值方案，推动科学计算发展。
2025-08-26 cs.LG physics.comp-ph
From GNNs to Symbolic Surrogates via Kolmogorov-Arnold Networks for Delay Prediction
本文提出FlowKANet，通过Kolmogorov-Arnold网络替代传统MLP层，实现高效且准确的延迟预测，并通过符号代理模型提升部署透明性。
2026-02-16 cs.LG cs.NI
Fully Distributed Online Training of Graph Neural Networks in Networked Systems
Rice University（莱斯大学）；DEVCOM Army Research Laboratory（DEVCOM陆军研究实验室）
针对网络系统中GNN集中训练范式的局限，提出通信高效的全分布式在线训练方法，仅少量增加消息传递轮次与消息大小，在多类任务及三种学习范式下均验证有效。
2024-12-08 cs.DC cs.LG
Improving Predictions of Molecular Properties with Graph Featurisation and Heterogeneous Ensemble Models
Optibrium Ltd.（Optibrium有限公司）
本文提出结合GNN特征与通用描述符及异构集成模型的MetaModel框架，在多个数据集上优于ChemProp，证明融合任务特定特征与多样模型对提升分子性质预测至关重要。
2025-10-27 cs.LG
Haar Graph Pooling
University of New South Wales（新南威尔士大学）；Max Planck Institute for Mathematics in the Sciences（马克斯·普朗克数学科学研究所）；Zhejiang Normal University（浙江师范大学）；Princeton University（普林斯顿大学）；University of California, Los Angeles（加州大学洛杉矶分校）；City University of Hong Kong（香港城市大学）
深度图神经网络（GNN）是用于图分类和基于图的回归任务的有用模型。在这些任务中，图池是GNN适应不同大小和结构的输入图的关键因素。提出了一种基于压缩Haar变换的图池操作-- HaarPooling。HaarPooling实现了池化操作的级联;它是通过遵循输入图的聚类序列来计算的。HaarPooling层将给定的输入图转换为具有较小节点数和相同特征维数的输出图;压缩Haar变换过滤出Haar小波域中的精细细节信息。通过这种方式，所有HaarPooling层一起将任何给定输入图的特征合成为统一大小的特征向量。这样的变换提供了数据的稀疏表征，并保留了输入图的结构信息。使用标准图卷积层和HaarPooling层实现的GNN在各种图分类和回归问题上实现了最先进的性能。
2020-06-24 cs.LG stat.ML
Pre-trained Graphformer-based Ranking at Web-scale Search (Extended Abstract)
Baidu Inc.（百度公司）；Shanghai Jiao Tong University（上海交通大学）；Zhejiang Lab（之江实验室）
针对 Web 规模搜索中 Transformer 与 GNN 难以集成于统一学习排序框架的问题，提出 MPGraf 模型，利用模块化和基于胶囊的预训练策略融合两者优势，并通过离线与在线实验验证了其性能。
2024-09-25 cs.IR cs.LG
Positional Encoder Graph Neural Networks for Geographic Data
Microsoft Research（微软研究院）；University of Georgia（佐治亚大学）；New York University（纽约大学）
图神经网络（GNN）为连续空间数据建模提供了强大且可扩展的解决方案。然而，它们通常依赖于欧几里德距离来构造输入图。这种假设在许多现实世界的设置中是不可能的，其中空间结构更复杂并且明确地是非欧几里德的（例如，道路网）。在这里，我们提出了PE-GNN，这是一个新的框架，它将空间上下文和相关性明确地纳入模型中。基于地理空间辅助任务学习和语义空间嵌入的最新进展，我们提出的方法（1）学习地理坐标的上下文感知矢量编码，（2）预测与主任务并行的数据中的空间自相关。在空间插值和回归任务中，我们展示了我们方法的有效性，提高了不同最先进的GNN方法的性能。我们观察到，我们的方法不仅大大提高了GNN基线，而且可以匹配高斯过程，这是空间插值问题最常用的方法。
2023-02-15 cs.CV cs.LG
How Much Does Message Passing Matter? A Drop-In Study of GNN Layers for Neural Network Graph Regression
本文针对回归场景被GNN评估忽视的问题，从多类回归场景检验GNN层效能，发现深度卷积GNN（尤其是GEN）比注意力型GNN更有效，经典理论型GNN也具竞争力。
2026-10-09 cs.LG
Fast State-Augmented Learning for Wireless Resource Allocation with Dual Variable Regression
Department of Electrical and Systems Engineering, University of Pennsylvania（宾夕法尼亚大学电气与系统工程系）；Department of Biostatistics and Bioinformatics, Duke University（杜克大学生物统计与生物信息学系）；Johns Hopkins Applied Research Laboratory (APL)（约翰霍普金斯应用研究实验室）
研究多用户无线网络资源分配问题，提出基于状态增强图神经网络的方法，利用双变量回归实现对偶乘数近最优初始化加快推理，通过最大化拉格朗日函数改善模型训练，经实验验证算法性能优越并给出收敛结果和概率界。
2026-07-27 cs.LG eess.SP
ForecastGrapher: Redefining Multivariate Time Series Forecasting with Graph Neural Networks
Sichuan University（四川大学）；University of Science and Technology of China（中国科学技术大学）；McGill University（麦吉尔大学）
ForecastGrapher将多变量时间序列预测重构为图神经网络上的节点回归任务，通过自定义节点嵌入、自适应邻接矩阵和GFC-GNN增强表达力，在实验中超越强基线方法。
2024-05-28 cs.LG
BikeVAE-GNN: A Variational Autoencoder-Augmented Hybrid Graph Neural Network for Sparse Bicycle Volume Estimation
School of Public Health and Preventive Medicine, Monash University, Melbourne, Australia（公共卫生与预防医学学院，墨尔本大学，澳大利亚）
提出双任务 BikeVAE-GNN，用 VAE 增强融合 GCN、GAT、GraphSAGE 的混合 GNN，在墨尔本市99%稀疏计数数据下实现高精度 ADB 流量回归与等级分类。
2025-07-18 cs.AI cs.LG
GNN-Suite: a Graph Neural Network Benchmarking Framework for Biomedical Informatics
School of Informatics University of Edinburgh（信息学院爱丁堡大学）；School of Biological Sciences University of Edinburgh（生物科学学院爱丁堡大学）
该研究提出面向计算生物学的GNN基准测试框架GNN-Suite，通过标准化流程对比多种GNN模型在癌症驱动基因识别任务上的性能，验证了网络学习方法的优势，可推动领域可重复研究与基准标准完善。
2025-05-15 cs.AI cs.LG
Analysing the Behaviour of Tree-Based Neural Networks in Regression Tasks
Chalmers University of Technology（查尔姆斯理工大学）；University of Trento（特伦托大学）
针对源代码执行时间预测回归任务，论文比较基于树的CNN、Code2Vec、Transformer和GNN，并提出融合代码token与AST交叉注意力的双Transformer，性能优于现有方法。
2024-06-17 cs.AI cs.LG cs.SE
Inferring Properties of Graph Neural Networks
University of Melbourne（墨尔本大学）；Singapore Management University（新加坡管理大学）；George Mason University（乔治梅森大学）；Carnegie Mellon University（卡内基梅隆大学）
提出首个 GNN 自动性质推断框架 GNNInfer，通过影响性结构、FNN 转换和偏差建模获得可泛化性质，并在真实 GNN 与 UGBA 后门防御中显著优于基线。
2024-03-02 cs.CR cs.LG cs.PL
OpenGLT: A Comprehensive Benchmark of Graph Neural Networks for Graph-Level Tasks
COMP, PolyU Hong Kong SAR China（香港理工大学计算机系）；DSA, HKSUT (GZ) Guangzhou China（香港科技大学（广州）数据科学与分析系）
本文提出OpenGLT框架，系统分类图神经网络为五类，通过26个数据集评估20种模型，揭示不同架构在表达性、鲁棒性和效率上的差异，以及图拓扑特征对架构选择的影响。
2026-04-09 cs.AI cs.DB cs.LG
GFFMERGE: Efficient Merging of Graph Neural Force Fields and Beyond
University of California, Berkeley（加州大学伯克利分校）；Stanford University（斯坦福大学）；University of Cambridge（剑桥大学）
提出GFFMERGE框架，通过凸嵌入对齐问题解析解实现图神经网络的闭式模型合并，在力场回归任务中恢复接近联合训练的性能，并实现5-27倍加速。
2026-06-02 cs.AI cs.LG
A Novel Genetic Algorithm with Hierarchical Evaluation Strategy for Hyperparameter Optimisation of Graph Neural Networks
Heriot-Watt University（赫瑞-瓦特大学）；University of Aberdeen（阿伯丁大学）
结构化数据的图形表示可以促进立体特征的提取，并且在与深度学习系统（所谓的图神经网络（GNN））一起工作时，它已经表现出出色的能力。选择一个有前途的架构来构建GNN可以转移到一个超参数优化问题，这是一个非常具有挑战性的任务，因为底层搜索空间的大小和评估候选GNN的高计算成本。为了解决这个问题，本研究提出了一种新的遗传算法与分层评估策略（HESGA），它结合了全面评估的GNNs的快速评估方法。通过使用完全评估，GNN由一组超参数值表示，并在指定的数据集上进行训练，均方根误差（RMSE）将用于衡量由超参数值集表示的GNN的质量（对于回归问题）。虽然在所提出的快速评估过程中，训练将在早期阶段中断，但开始和中断时期之间的RMSE值的差异将被用作快速分数，这意味着GNN的潜力正在被考虑。为了协调这两种类型的评估，所提出的分层策略使用较低级别的快速评估来推荐候选人到更高级别，其中全面评估将作为最终评估者来维护一组精英个体。为了验证HESGA的有效性，我们将其应用于优化两种类型的深度图神经网络。在三个基准数据集上的实验结果表明，与贝叶斯超参数优化相比，该方法具有明显的优势.
2021-01-26 cs.LG cs.NE
Memory-Based Graph Networks
University of Toronto（多伦多大学）；Vector Institute（向量研究所）；Autodesk AI Lab（欧特克人工智能实验室）；Sharif University of Technology（谢里夫理工大学）
图神经网络（GNN）是一类深度模型，其对具有表示为图的任意拓扑的数据进行操作。我们为GNN引入了一个高效的内存层，可以联合学习节点表示并粗化图形。我们还介绍了基于这一层的两个新网络：基于记忆的GNN（MemGNN）和图形记忆网络（GMN），它们可以学习分层图形表示。实验结果表明，所提出的模型在九个图分类和回归基准测试中的八个中达到了最先进的结果。我们还表明，学习的表示可以对应于分子数据中的化学特征。代码和参考实现发布于：https://github.com/amirkhas/GraphMemoryNet
2020-06-10 cs.LG cs.NE stat.ML
From Phase Transition to Systemic Failure: A Decoupled Analytics Framework for GNN Robustness
本文构建同质图回归合成基准，解耦标签噪声与特征分布偏移，通过41种配置410次实验发现GNN对中等标签扰动容忍度高，但极端分布偏移导致性能大幅退化，为部署监控提供基线。
2026-09-29 cs.AI cs.IR cs.LG
A Hierarchy of Graph Neural Networks Based on Learnable Local Features
Operational Research Center（运筹学研究中心）；Massachusetts Institute of Technology（麻省理工学院）；Institute for Applied Computational Science（应用计算科学研究所）；Harvard University（哈佛大学）；Harvard School of Engineering and Applied Sciences（哈佛工程与应用科学学院）
图神经网络（GNN）是通过迭代地聚合来自节点邻域的特征来学习图上的表示的强大工具。已经提出了许多变体模型，但对于如何比较不同的架构以及如何系统地构建GNN的理解有限。在这里，我们提出了一个基于其聚合区域的GNN层次结构。我们推导出理论结果的判别力和特征表示能力的每一类。然后，我们展示了如何利用这个框架来系统地构建任意强大的GNN。作为一个例子，我们构建了一个简单的架构，超过了Weisfeiler-Lehman图同构测试的表现力。我们在合成和现实世界的基准测试中实证验证了我们的理论，并证明了我们的示例的理论能力转化为节点分类，图分类和图回归任务的强大结果。
2019-11-13 cs.CV cs.LG stat.ML
Conformal Load Prediction with Transductive Graph Autoencoders
City University of Hong Kong（香港城市大学）；Royal Holloway, University of London（伦敦大学皇家霍洛威学院）
本文提出一种基于图神经网络和保形预测的边权重预测方法，结合误差重加权与保形分位数回归处理异方差性，在交通数据集上实现了优于基线的覆盖率和效率。
2024-06-12 cs.LG stat.ML
Weisfeiler and Leman Go Neural: Higher-order Graph Neural Networks
TU Dortmund University（多特蒙德工业大学）；RWTH Aachen University（亚琛工业大学）；McGill University（麦吉尔大学）；MILA（MILA（蒙特利尔学习算法研究所））
近年来，图神经网络（GNN）已经成为一种强大的神经架构，可以以有监督的端到端方式学习节点和图的向量表示。到目前为止，GNN只进行了经验评估-显示出有希望的结果。以下工作从理论的角度研究GNN，并将其与$1$维Weisfeiler-Leman图同构启发式（$1$ -WL）联系起来。我们表明，GNNs具有相同的表现力的$1$ -WL在区分非同构（子）图。因此，这两种算法也具有相同的缺点。在此基础上，我们提出了一个广义的GNN，所谓的$k$维GNN（$k$ -GNN），它可以考虑在多个尺度的高阶图结构。这些高阶结构在表征社交网络和分子图中起着至关重要的作用。我们的实验评估证实了我们的理论研究结果，以及确认，高阶信息是有用的图分类和回归的任务。
2021-11-30 cs.AI cs.CV cs.LG
NENET: An Edge Learnable Network for Link Prediction in Scene Text
Indian Institute of Technology, Bombay（印度理工学院孟买分校）
基于深度神经网络的场景中的文本检测已经显示出有希望的结果。代替使用单词限界框回归，最近的最先进的方法已经开始关注字符限界框和像素级预测。这就需要连接相邻的字符，我们在本文中提出使用一种新的图神经网络（GNN）架构，使我们能够学习节点和边缘功能，而不是只有节点功能下的典型GNN。使用GNN进行链接预测的主要优点在于它能够连接空间上分离并具有任意方向的字符。我们在著名的SynthText数据集上展示了我们的概念，与最先进的方法相比，取得了最好的结果。
2020-05-25 cs.CL cs.CV cs.LG
Stock Price Prediction Using a Hybrid LSTM-GNN Model: Integrating Time-Series and Graph-Based Analysis
University of Reading（雷丁大学）；University of Colorado Colorado Springs（科罗拉多大学科罗拉多斯普林斯分校）
本研究提出融合LSTM与GNN的混合股价预测模型，结合时序特征与股票间关联关系，经扩展窗口验证训练，在历史股票数据上MSE达0.00144，较单一LSTM降低10.6%，优于多个基准模型，为金融分析与实时交易提供新工具。
2025-02-19 cs.AI cs.LG q-fin.ST
Bosonic Random Walk Networks for Graph Learning
图神经网络（GNNs）的发展使得图结构数据的机器学习取得了很大进展。这些网络通过在图节点上传播信息来操作，同时捕获图的结构。最近，量子计算技术也取得了巨大进展。在这项工作中，我们探讨了多粒子量子行走在图中扩散信息的应用。我们的模型是基于学习的运营商，管理图上的量子随机游走的动力学。我们证明了我们的方法对分类和回归任务的有效性。
2020-12-31 cs.LG
