Graph Neural Network Explanations are Fragile
Nanchang University（南昌大学）；Illinois Institute of Technology（伊利诺伊理工大学）；Milwaukee School of Engineering（密尔沃基工程学院）；The Pennsylvania State University（宾夕法尼亚州立大学）
本文首次研究对抗攻击下的图神经网络解释器，发现轻微扰动图结构可使模型预测正确但解释截然不同，设计两种攻击方法并验证现有解释器的脆弱性。
2024-06-05 cs.CR cs.LG
MotifExplainer: a Motif-based Graph Neural Network Explainer
Iowa State University（爱荷华州立大学）
研究了图神经网络的解释问题。大多数现有的GNN解释方法识别最重要的边或节点，但没有考虑子结构，这是更重要的图数据。考虑子图的唯一方法是尝试搜索所有可能的子图，并确定最重要的子图。然而，识别的子图可能不是经常性的或统计上重要的。在这项工作中，我们提出了一种新的方法，称为MotifExplainer，通过识别图中的重要图案，经常性和统计上显著的模式来解释GNN。与基于节点、边和规则子图的方法相比，我们提出的基于图案的方法可以提供更好的人类可理解的解释。给定一个输入图和一个预训练的GNN模型，我们的方法首先使用精心设计的模体提取规则提取图中的模体。然后，我们通过将motif输入到预先训练好的GNN中来生成motif嵌入。最后，我们采用基于注意力的方法来确定最有影响力的图案作为最终预测结果的解释。在合成数据集和真实数据集上的实验研究表明了该方法的有效性。
2023-02-27 cs.LG
COMBINEX: A Unified Counterfactual Explainer for Graph Neural Networks via Node Feature and Structural Perturbations
Sapienza University of Rome（罗马第一大学）
本文提出 COMBINEX，通过联合优化边结构与节点特征扰动，为节点和图分类生成最小、有效且可解释的 GNN 反事实解释。
2025-02-14 cs.LG
Factorized Explainer for Graph Neural Networks
Technical University of Munich（慕尼黑工业大学）；Florida International University（佛罗里达国际大学）
本文提出一种基于改进图信息瓶颈原理的因子化解释模型，用于避免常规GNN解释方法中的平凡解，并在合成及真实数据集上验证其有效性。
2024-02-07 cs.LG
RelEx: A Model-Agnostic Relational Model Explainer
SUNY Binghamton（纽约州立大学宾汉姆顿分校）
近年来，在提高机器学习模型的可解释性方面取得了相当大的进展。这是必不可少的，因为具有数百万参数的复杂深度学习模型会产生最先进的结果，但几乎不可能解释它们的预测。虽然各种可解释性技术已经取得了令人印象深刻的结果，但几乎所有这些技术都假设每个数据实例都是独立同分布的（iid）。这不包括关系模型，如统计关系学习（SRL）和最近流行的图神经网络（GNN），导致解释它们的选项很少。虽然确实存在一种解释GNN的工作，GNN-Explainer，但它们假设可以访问模型的梯度来学习解释，这在其跨不可微关系模型的适用性和实用性方面受到限制。在这项工作中，我们开发RelEx，一个模型无关的关系解释器来解释黑盒关系模型，只能访问黑盒的输出。RelEx能够解释任何关系模型，包括SRL模型和GNN。我们将RelEx与最先进的关系解释器、GNN-Explainer和iid解释模型的关系扩展进行比较，结果表明RelEx在保持模型不可知的同时实现了相当或更好的性能。
2020-05-30 cs.LG stat.ML
Beyond Trained Models: Compiling GNNs for a Sound Explainer Benchmark
University of Trento（特伦托大学）；Sapienza University（罗马大学）；Intesa Sanpaolo AI Research（意大利联合圣保罗银行人工智能研究院）；Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）
本研究提出Gracr编译器，将模态逻辑公式编译为GNN权重，构建GracrBench基准，以精确真实标签评估解释器，发现多数解释器对间接影响不稳健。
2026-10-05 cs.AI cs.LG
EiX-GNN : Concept-level eigencentrality explainer for graph neural networks
University of Poitiers（普瓦捷大学）
目前，深度预测模型，特别是图神经网络，在关键应用中占有重要地位。在这种情况下，这些模型需要高度可解释或可解释的人类，在社会范围内，这种理解对于那些在需要解释的模型和背景中没有很强先验知识的人来说也是可行的。在文献中，解释是人类对现象的知识在解释者和被解释者之间的传递过程。我们提出了EiX-GNN（Eigencentrality eXplaner for Graph神经网络）一种新的强大的方法来解释图神经网络，该方法通过计算编码这种解释过程中潜在的社会解释者对解释者的依赖性。为了处理这种依赖关系，我们引入了被解释者概念相似性的概念，它允许解释者根据被解释者的背景或期望来调整解释平面。我们领导一个定性研究，以说明我们的解释概念的相似性概念在现实世界的数据以及定性研究，比较，根据客观指标建立在文献中，公平性和紧凑性，我们的方法相对于performingstate-of-the-art方法。事实证明，我们的方法在这两个方面都取得了很好的效果。
2023-03-10 cs.AI cs.CV cs.LG
Measuring What Matters: A Unified Evaluation Framework for GNN Explainability
Sapienza University of Rome（罗马萨皮恩扎大学）；Intesa Sanpaolo AI Research（Intesa Sanpaolo人工智能研究）；Anti Financial Crime Digital Hub（反金融犯罪数字中心）；Intesa Sanpaolo Innovation Center（Intesa Sanpaolo创新中心）
研究为G-XAI引入统一量化基准框架，无需真实假设，形式化表格可解释性指标，通过大规模基准研究确定跨指标和任务的帕累托前沿解释器并给出可用性指南。
2026-07-07 cs.LG
Explaining the Explainers in Graph Neural Networks: a Comparative Study
University of Trento（特伦托大学）；Fondazione Bruno Kessler（布鲁诺·凯塞勒基金会）；University of Venice（威尼斯大学）；CNRS, Centre de Physique Theorique（国家科学研究中心，理论物理中心）；University of Cambridge（剑桥大学）
本文通过系统实验比较十种解释器在八种图和节点分类架构上的表现，揭示了不同架构的可解释性差异及解释器选择的指导原则。
2024-07-01 cs.AI cs.LG
ARM-Explainer -- Explaining and improving graph neural network predictions for the maximum clique problem using node features and association rule mining
School of Computational Science and Engineering（计算科学与工程学院）；DeGroote School of Business（德格罗特商学院）
ARM-Explainer 通过关联规则挖掘和节点特征改进 GNN 在最大团问题上的预测性能
2025-11-28 cs.LG math.OC
Graph Neural Network Causal Explanation via Neural Causal Models
Illinois Institute of Technology（伊利诺伊理工大学）
针对现有图神经网络解释器多基于关联易产生虚假相关的问题，提出基于神经因果模型的GNN因果解释器，通过构建定制化神经因果模型计算因果效应以识别因果子图，性能显著优于现有方法。
2024-07-12 cs.AI cs.LG stat.ML
Self-supervised Subgraph Neural Network With Deep Reinforcement Walk Exploration
WASEDA University（早稻田大学）
本文提出RWE-SGNN框架，将子图神经网络与图神经网络解释器的生成方法结合，通过强化行走探索过程高效提取重要子结构，以数据驱动方式提升图表示学习的表达能力和性能。
2025-02-03 cs.LG
Self-Explainable Graph Neural Networks for Link Prediction
The Pennsylvania State University（宾夕法尼亚州立大学）；Florida International University（佛罗里达国际大学）；Amazon（亚马逊）；Michigan State University（密歇根州立大学）
针对GNNs在链接预测中可解释性差及事后解释器次优的问题，提出一种自解释GNN框架，通过寻找节点的K个重要邻居学习特定于对的表示，同时实现准确预测与解释。
2023-05-21 cs.LG
Higher Order Structures For Graph Explanations
International Institute of Information Technology, Hyderabad（海得拉巴国际信息技术学院）
本文提出FORGE框架，通过在图解释中引入高阶结构来捕捉多节点交互，在GraphXAI真实数据集和合成数据集上分别将平均解释准确率提升1.9倍和2.25倍。
2025-01-03 cs.LG
Parameterized Explainer for Graph Neural Network
The Pennsylvania State University（宾夕法尼亚州立大学）；NEC Labs America（NEC美国实验室）
尽管最近在图神经网络（GNNs）方面取得了进展，但解释GNNs做出的预测仍然是一个具有挑战性的开放问题。引导方法独立地解决局部解释（即，重要的子图结构和节点特征）来解释为什么GNN模型对单个实例（例如节点或图）进行预测。因此，生成的解释是为每个实例精心定制的。独立解释每个实例的独特解释不足以提供对学习的GNN模型的全局理解，导致缺乏可推广性并阻碍其在归纳环境中使用。此外，由于它是为解释单个实例而设计的，因此自然地解释一组实例是具有挑战性的（例如，给定类的图形）。在这项研究中，我们解决了这些关键挑战，并提出了PGExplainer，一个用于GNN的参数化解释器。PGExplainer采用深度神经网络来参数化解释的生成过程，这使得PGExplainer能够自然地集体解释多个实例。与现有的工作相比，PGExplainer具有更好的泛化能力，可以很容易地在归纳设置中使用。在合成数据集和真实数据集上的实验显示出高度竞争性的性能，在解释图分类方面，AUC相对于领先基线的相对改善高达24.7%。
2020-11-09 cs.AI cs.LG
Reinforced Causal Explainer for Graph Neural Networks
University of Science and Technology of China（中国科学技术大学）；CCCD Key Lab of Ministry of Culture and Tourism（文化和旅游部CCCD重点实验室）；National University of Singapore（新加坡国立大学）
可解释性对于探测图神经网络（GNN）至关重要，可以回答诸如“为什么GNN模型会做出某种预测？".特征属性是一种在输入图中突出显示解释子图的流行技术，它可以合理地引导GNN模型进行预测。各种归因方法利用类梯度或注意力分数作为边缘的归因，然后选择具有最高归因分数的突出边缘作为解释。然而，大多数这些作品都做了一个站不住脚的假设-所选择的边缘是线性独立的-从而留下了很大程度上未探索的边缘之间的依赖关系，特别是他们的联盟效果。我们证明了这个假设的明确的缺点-使解释子图不忠实和冗长。为了解决这个问题，我们提出了一个强化学习代理，强化因果解释器（RC解释器）。它将解释任务框定为一个顺序决策过程-通过添加显著边来连接先前选择的子图，从而连续构造解释子图。从技术上讲，它的策略网络预测边添加的动作，并获得量化该动作对预测的因果影响的奖励。这种奖励说明了新添加的边和先前添加的边的依赖性，从而反映了它们是否合作并形成联盟以寻求更好的解释。因此，RC-Explainer能够生成忠实和简洁的解释，并且对看不见的图具有更好的泛化能力。当在三个图分类数据集上解释不同的GNN时，RC-Explainer实现了比SOTA方法更好或相当的性能。预测准确性和对比度，并安全地通过健全检查和目视检查。代码可在https://github.com/xiangwang1223/reinforced_causal_explaine…
2022-04-27 cs.AI cs.LG
DAG Matters! GFlowNets Enhanced Explainer For Graph Neural Networks
Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；Tianjin University（天津大学）；National University of Singapore（新加坡国立大学）
揭示图神经网络（GNN）预测背后的原理近年来受到越来越多的关注。现有的文献主要集中在选择一个子图，通过组合优化，提供忠实的解释。然而，候选子图的指数大小限制了最先进方法对大规模GNN的适用性。我们通过一种不同的方法来增强这一点：通过提出一种生成结构-基于GFlowNets-based GNN Explainer（GFlowExplainer），我们将优化问题转化为逐步生成问题。我们的GFlowExplainer旨在学习一种策略，该策略生成子图的分布，其中子图的概率与其奖励成比例。该方法消除了节点序列的影响，因此不需要任何预训练策略。我们还提出了一个新的切割顶点矩阵，以有效地探索GFlowNets结构的父状态，从而使我们的方法适用于大规模的设置。我们进行了广泛的实验，在合成和真实的数据集，定性和定量的结果表明，我们的GFlowExplainer的优越性。
2023-03-04 cs.AI cs.LG
Generative Causal Explanations for Graph Neural Networks
The Hong Kong Polytechnic University（香港理工大学）；University of Toronto（多伦多大学）
本文介绍了Gem，这是一种与模型无关的方法，用于为各种图学习任务上的任何GNN提供可解释的解释。具体来说，我们将为GNNs的决策提供解释的问题制定为因果学习任务。然后，我们训练一个因果解释模型，配备了一个基于格兰杰因果关系的损失函数。与现有的GNN解释器不同，Gem从因果关系的角度解释了图结构数据上的GNN。它具有更好的泛化能力，因为它对GNN的内部结构或图学习任务的先验知识没有要求。此外，Gem一旦经过训练，就可以用来非常快速地解释目标GNN。我们的理论分析表明，最近的几个解释者属于一个统一的框架添加剂特征归因方法。在合成数据集和真实数据集上的实验结果表明，Gem的解释精度相对提高了$30\%$，解释速度提高了$110\times$.
2021-06-06 cs.LG
Towards Comprehensive and Prerequisite-Free Explainer for Graph Neural Networks
Macquarie University（麦考瑞大学）；Nanyang Technological University（南洋理工大学）
针对现有图神经网络解释方法无法捕捉完整决策逻辑且需严格前置条件的问题，提出OPEN方法，通过划分样本空间为多环境并采样子图分析预测，实现无需前置条件的全面解释，提升保真度与鲁棒性。
2025-05-23 cs.AI cs.LG
Task-Agnostic Graph Explanations
Texas A&M University（德克萨斯农工大学）；Amazon.com Services LLC（亚马逊服务有限责任公司）；Amazon Search（亚马逊搜索）
图神经网络（GNN）已经成为编码图结构数据的强大工具。由于其广泛的应用，越来越需要开发工具来解释GNN如何在给定图结构数据的情况下做出决策。现有的基于学习的GNN解释方法在训练中是特定于任务的，因此存在严重的缺陷。具体来说，它们无法用单个解释器来解释多任务预测模型。他们也无法在GNN以自我监督的方式训练的情况下提供解释，并且所产生的表示用于未来的下游任务。为了解决这些限制，我们提出了一个任务不可知的GNN解释器（TAGE），它独立于下游模型，并在不了解下游任务的情况下在自我监督下进行训练。TAGE能够解释具有不可见下游任务的GNN嵌入模型，并允许有效解释多任务模型。我们广泛的实验表明，TAGE可以通过使用相同的模型来解释多个下游任务的预测，同时实现与当前最先进的GNN解释方法一样好甚至更好的解释质量，从而显着加快解释效率。我们的代码作为DIG库的一部分在https://github.com/divelab/DIG/tree/main/dig/xgraph/TAGE/上公开提供。
2022-09-23 cs.LG
Is Meta-Path Attention an Explanation? Evidence of Alignment and Decoupling in Heterogeneous GNNs
Indian Institute of Technology（印度理工学院）；Brown University（布朗大学）
本文通过MetaXplain协议实证研究元路径注意力在异构图神经网络中的解释有效性，发现其在不同数据集上表现出高对齐性和解耦性，且解释诱导子图可提升预测性能。
2026-02-09 cs.LG
Explainability in subgraphs-enhanced Graph Neural Networks
UiT the Arctic University of Norway（挪威北极大学）；Sapienza University of Rome（罗马第一大学）；NORCE Norwegian Research Centre（挪威NORCE研究中心）
近年来，为了提高图神经网络（GNNs）的表达能力，引入了子图增强的图神经网络（SGNNs）。新范式建议使用从输入图中提取的子图来提高模型的表达能力，但额外的复杂性加剧了GNN中已经具有挑战性的问题：解释它们的预测。在这项工作中，我们将PGExplainer（GNN的最新解释器之一）改编为SGNN。所提出的解释器考虑了所有不同子图的贡献，并且可以产生人类可以解释的有意义的解释。我们在真实和合成数据集上进行的实验表明，我们的框架成功地解释了SGNN在图分类任务上的决策过程。
2023-01-19 cs.LG
EiG-Search: Generating Edge-Induced Subgraphs for GNN Explanation in Linear Time
University of Alberta（阿尔伯塔大学）；Université de Montréal（蒙特利尔大学）；Mila（米拉研究所）；Kirin AI Algorithm & Solution, Huawei（华为麒麟AI算法与解决方案部门）
针对现有GNN子图级解释器效率低、节点诱导子图直观性不足等问题，提出无需训练的EiG-Search方法，通过基于增强梯度重要性排序的边诱导子图线性时间搜索实现解释，在7个数据集上性能与效率均优于主流基线。
2024-05-16 cs.LG
Beyond Soft Masks: Hard-Perturbation Mixup Explainer for Robust GNN Explainability
Xi’an Jiaotong University（西安交通大学）；PayPal；bellevue USA（贝尔维尤美国）
提出基于广义图信息瓶颈的硬扰动混合解释框架HPME，通过图池化提取离散解释子图并采用结构级替换的混合策略，解决软掩码方法中标签无关信息泄漏和分布偏移问题，提升解释保真度。
2026-06-04 cs.AI cs.IT cs.LG
RAW-Explainer: Post-hoc Explanations of Path Reasoning Graph Neural Networks for Knowledge Graph Completion
New York University Abu Dhabi（纽约大学阿布扎比分校）
针对知识图谱链接预测的GNN解释方法有限的问题，提出RAW-Explainer框架，通过随机游走和神经网络参数化生成可解释子图，搭配鲁棒评估器解决分布偏移问题，兼顾解释质量与效率。
2026-10-19 cs.LG stat.ML
Dual Explanations via Subgraph Matching for Malware Detection
Canadian Institute for Cybersecurity (CIC)（加拿大网络安全研究所）；University of New Brunswick（新不伦瑞克大学）
提出双重原型驱动的可解释框架SubMatch，通过子图匹配技术将GNN重要区域与已知行为模式对齐，在保持高检测性能的同时显著提升恶意软件分析的可解释性。
2025-04-29 cs.CR cs.LG
Preserve, Promote, or Attack? GNN Explanation via Topology Perturbation
MIT（麻省理工学院）；IBM Research（IBM研究院）；Michigan State University（密歇根州立大学）
关于图神经网络（GNN）的形式化解释的先前工作集中于单个用例-通过识别重要的边和节点来保留预测结果。在本文中，我们开发了一个多用途的解释框架，通过获取一个掩码，表示输入图的拓扑扰动。我们将该框架打包成一个交互式可视化系统（GNNViz），该系统可以实现多种目的：保存，提升或攻击GNN的预测。我们通过三个案例来说明我们的方法的新颖性和有效性：第一，GNNViz可以帮助非专家用户轻松地探索图拓扑和GNN决策之间的关系（保存），或操纵预测第二，在Pokec社交网络数据集上，我们的框架可以发现不公平和人口统计偏见;最后，它与合成数据集上最先进的GNN解释器基线进行了比较。
2021-03-25 cs.LG
Combining Stochastic Explainers and Subgraph Neural Networks can Increase Expressivity and Interpretability
Sapienza University of Rome（罗马第一大学）；UiT the Arctic University of Norway（挪威北极大学）；NORCE Norwegian Research Centre（NORCE挪威研究中心）
本文提出联合预测图类别与可解释稀疏子图的新框架，在保持与随机子图提取策略相当准确率的同时提升GNN表达能力和可解释性。
2023-04-14 cs.LG
GnnXemplar: Exemplars to Explanations -- Natural Language Rules for Global GNN Interpretability
Dept. of CSE, IIT Delhi（印度德里理工学院计算机科学与工程系）；Fujitsu Research of India, Bangalore（印度班加罗尔富士通印度研究机构）；Dept. of CSE and Yardi ScAI, IIT Delhi（印度德里理工学院计算机科学与工程系）
针对GNN全局解释方法在大规模真实场景中效果不佳的问题，提出受样例理论启发的GnnXemplar，通过选择代表性样例并结合LLM生成自然语言规则实现全局解释，在保真度、扩展性和可解释性上均优于现有方法。
2025-10-29 cs.LG cs.SI
B-cos GNNs: Faithful Explanations through Dynamic Linearity
Saarland Informatics Campus, Saarland University（萨尔兰信息学校区，萨尔兰大学）；DFKI
提出B-cos GNNs，一种内在可解释的图神经网络，通过单个输入依赖的线性映射将预测精确分解为每个节点、每个特征的贡献，在保持高解释性的同时牺牲少量预测精度。
2026-05-27 cs.LG
A Meta-Learning Approach for Training Explainable Graph Neural Networks
Sapienza University of Rome（罗马大学）
本文研究了图神经网络的可解释性程度。现有的解释器通过寻找全局/局部子图来解释预测，但是它们是在GNN已经被训练之后应用的。在这里，我们提出了一个元学习框架，用于直接在训练时提高GNN的可解释性水平，通过将优化过程转向我们所谓的“可解释的极小值”。我们的框架（称为MATE，MetA-Train to Explain）联合训练模型来解决原始任务，例如，节点分类，并为下游算法提供易于处理的输出，以人性化的方式解释模型的决策。特别是，我们对模型的参数进行元训练，以快速最小化在随机采样节点上动态训练的实例级GNNExplainer的误差。最终的内部表示依赖于一组可以通过解释算法“更好”理解的特征，例如，另一个GNNExplainer实例。我们的模型无关方法可以改进为不同GNN架构生成的解释，并使用任何基于实例的解释器来驱动此过程。在用于节点和图分类的合成和真实世界数据集上进行的实验表明，我们可以生成更容易通过不同算法解释的模型。此外，这种可解释性的增加并没有牺牲模型的准确性。
2022-12-20 cs.LG stat.ML
FSX: Message Flow Sensitivity Enhanced Structural Explainer for Graph Neural Networks
Fudan University（复旦大学）；Communication University of China（通信大学）
FSX通过结合信息流敏感性分析与协作博弈方法，提升图神经网络的可解释性，实现更高效且准确的结构解释。
2026-01-21 cs.AI cs.LG
Robust Ante-hoc Graph Explainer using Bilevel Optimization
University of California, Santa Barbara（加州大学圣巴巴拉分校）；Rice University（莱斯大学）
提出RAGE，一种基于双层优化的事前图解释器，通过识别包含预测所需全部信息的分子子结构，在分子分类任务上优于现有后置和事前方法。
2024-06-05 cs.LG cs.SI
Towards the Explanation of Graph Neural Networks in Digital Pathology with Information Flows
Tencent AI Lab（腾讯人工智能实验室）
随着图神经网络（GNN）在数字病理学中被广泛采用，人们越来越关注开发GNN的解释模型（解释器）以提高临床决策的透明度。现有的解释器发现一个解释子图相关的预测。然而，这样的子图不足以揭示用于预测的所有关键生物子结构，因为在移除该子图之后预测将保持不变。因此，一个解释性的子图不仅应该是预测所必需的，而且应该足以揭示解释的最具预测性的区域。这种解释需要测量从不同输入子图到预测输出的信息，我们将其定义为信息流。在这项工作中，我们解决了这些关键挑战，并提出了IFEXPLAINER，它为GNN产生了必要和充分的解释。为了评估GNN预测中的信息流，我们首先提出了一种新的预测性概念，称为$f$ -信息，它是有方向的，并结合了GNN模型的现实能力。在此基础上，IFEXPLAINER生成具有最大信息流的解释子图。同时，在删除解释后，它最大限度地减少了从输入到预测结果的信息流。因此，所产生的解释对于预测必然是重要的，并且足以揭示最关键的子结构。我们评估IFEXPLAINER来解释GNN对乳腺癌亚型的预测。在BRACS数据集上的实验结果表明了该方法的优越性能。
2021-12-18 cs.AI cs.LG
Towards Few-shot Self-explaining Graph Neural Networks
University of Science and Technology of China（中国科学技术大学）；Institute of Artificial Intelligence Hefei Comprehensive National Science Center（合肥综合性国家科学中心人工智能研究院）
针对现有自解释图神经网络依赖大量训练数据、无法适配少样本场景的问题，本文提出融合元学习的两阶段自解释框架MSE-GNN，在四个数据集上实现了更优的预测性能与高质量解释生成。
2024-08-14 cs.AI cs.LG
Global Explainability of GNNs via Logic Combination of Learned Concepts
University of Trento（特伦托大学）；Fondazione Bruno Kessler（布鲁诺·凯塞勒基金会）；University of Cambridge（剑桥大学）
本文提出GLGExplainer，首次将局部解释聚类为图形概念并组合成任意布尔逻辑公式，为GNN提供准确、可解释且忠实于模型预测的全局解释，并可用于诊断模型学到的错误规则。
2023-04-11 cs.AI cs.LG cs.LO
Auto-Configured Explainable Graph Neural Networks for Multi-Site Pollution Prediction
University of Science and Technology of Oran-Mohamed Boudiaf (USTO-MB)（奥兰科技大学-穆罕默德·布迪亚夫）；King Abdullah University of Science and Technology (KAUST)（阿卜杜拉国王科技大学）
提出基于混淆矩阵的动态图构建方法和混合损失函数，利用五种GNN模型进行多站点PM预测，GraphSage表现最佳，并通过GNNExplainer和PGExplainer增强可解释性。
2026-06-25 cs.LG
GraphSVX: Shapley Value Explanations for Graph Neural Networks
Université Paris-Saclay（巴黎萨克雷大学）；CentraleSupélec（中央理工-高等电力学院）；Inria（法国国家信息与自动化研究所）
图神经网络（GNN）由于将图结构结合到节点表示的学习中，从而在几何数据的各种学习任务中实现了显着的性能，这使得它们的理解具有挑战性。在本文中，我们首先提出了一个统一的框架，满足大多数现有的GNN解释器。然后，我们介绍了GraphSVX，这是一种专门为GNN设计的事后局部模型不可知解释方法。GraphSVX是一种分解技术，通过在扰动数据集上构建代理模型，捕获每个特征和节点对解释预测的“公平”贡献。它扩展到图形，并最终提供了解释的Shapley值从博弈论。在真实世界和合成数据集上的实验表明，与基线模型相比，GraphSVX实现了最先进的性能，同时呈现了核心理论和以人为中心的属性。
2021-07-13 cs.LG
GraphXAIN: Narratives to Explain Graph Neural Networks
University of Antwerp（安特卫普大学）
GraphXAIN利用大型语言模型将GNN解释性子图和特征重要性分数转化为自然语言故事化叙述，以提升图神经网络预测的可理解性、可信度和可用性，并通过实验和用户调查验证其有效性。
2025-02-12 cs.AI cs.LG
MPGE: A Multi-Perspective Graph Explainer for Molecular Classification Explanation
Dalhousie University（达尔豪斯大学）
该研究提出多视角图解释器MPGE，针对冻结分类器统一事实支撑、反事实敏感性和exemplar容忍度，在多个分子数据集上验证了其解释性能。
2026-10-09 cs.AI cs.LG
Explaining GNN Explanations with Edge Gradients
Halıcıoğlu Data Science Institute（哈尔奇奥格卢数据科学研究所）；Universiy of California, San Diego（加州大学圣地亚哥分校）；Computer Science and Engineering（计算机科学与工程）；New York University（纽约大学）
本研究首次建立基于扰动与基于梯度的GNN解释方法的理论联系，证明输入级GNNExplainer可被边梯度符号启发式近似，且线性GNN中边梯度等价于遮挡搜索，并在合成与真实数据上验证。
2025-08-01 cs.LG
Interpreting GNN-based IDS Detections Using Provenance Graph Structural Features
Virginia Tech（弗吉尼亚理工大学）；The University of Texas at Dallas（德克萨斯大学达拉斯分校）
针对基于GNN的入侵检测系统缺乏可解释性的问题，提出PROVEXPLAINER框架，利用可解释代理模型结合判别子图模式和结构特征，在真实数据集上相比SOTA解释器显著提升解释质量与可操作性。
2025-10-09 cs.CR cs.LG
Evaluating and Improving Graph-based Explanation Methods for Multi-Agent Coordination
Georgia Institute of Technology（佐治亚理工学院）；College of Computing（计算学院）；School of Interactive Computing（交互式计算学院）
本文研究 GNN 解释器在多智能体协调中的适用性，提出注意力熵正则化以增强基于 GAT 策略的可解释性，并在多任务、多团队规模下验证其可提升解释质量且不损害性能。
2025-02-14 cs.AI cs.LG cs.MA
GOAt: Explaining Graph Neural Networks via Graph Output Attribution
University of Alberta（阿尔伯塔大学）；Huawei（华为）；Université de Montréal（蒙特利尔大学）；Mila（米拉研究所）
针对现有图神经网络解释方法多依赖辅助模型仍属黑箱的问题，提出图输出归因方法GOAt，通过将GNN展开为标量积之和解析计算节点与边的重要性，在忠实性、判别性和稳定性上均优于现有前沿方法。
2024-01-26 cs.LG
CI-GNN: A Granger Causality-Inspired Graph Neural Network for Interpretable Brain Network-Based Psychiatric Diagnosis
Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）；UiT - Arctic University of Norway（挪威北极圈大学）
针对现有脑网络诊断用GNN解释器事后解释、缺因果性的问题，提出内置可解释的CI-GNN，通过CMI正则化解耦因果/非因果子图表示，在多数据集上性能与解释可靠性均优于基线。
2024-01-28 cs.LG q-bio.NC stat.ML
Towards Training GNNs using Explanation Directed Message Passing
Imperial College London（帝国理工学院）；Ludwig-Maximilians Universität München（慕尼黑大学）；Adobe（奥多比公司）
随着图神经网络（GNNs）在关键现实世界应用中的使用越来越多，已经提出了几种事后解释方法来理解它们的预测。然而，在模型训练期间，还没有在动态生成解释并利用它们来提高底层GNN模型的表达能力。在这项工作中，我们为GNN引入了一种新的解释导向的神经消息传递框架EXPASS（可解释的消息传递），它只聚合来自GNN解释方法确定为重要的节点和边缘的嵌入。EXPASS可以与任何现有的GNN架构和子图优化解释器一起使用，以学习准确的图嵌入。我们从理论上证明了EXPASS通过减缓Dirichlet能量的逐层损失来消除GNNs中的过平滑问题，并且香草消息传递和EXPASS框架之间的嵌入差异可以通过各自模型权重的差异来上界。我们的实证结果表明，使用EXPASS学习的图嵌入提高了预测性能，缓解了GNN的过度平滑问题，为图机器学习开发基于简化的训练框架开辟了新的前沿。
2022-12-01 cs.AI cs.LG
Towards Prototype-Based Self-Explainable Graph Neural Network
The Pennsylvania State University（宾夕法尼亚州立大学）
图神经网络（GNN）在对各种领域的图结构数据建模方面表现出了强大的能力。然而，GNN被称为黑盒模型，缺乏可解释性。如果不了解它们的内部工作原理，我们就不能完全信任它们，这在很大程度上限制了它们在高风险场景中的应用。虽然已经采取了一些初步的努力来解释GNN的预测，但它们主要集中在使用额外的解释器提供事后解释，这可能会歪曲目标GNN的真实内部工作机制。自解释GNN的工作相当有限。因此，我们研究了一个新的问题，即学习基于原型的可自我解释的GNN，它可以同时给出准确的预测和基于原型的解释。我们设计了一个框架，它可以学习原型图，捕获每个类的代表性模式作为类级的解释。学习到的原型也被用来同时对测试实例进行预测，并提供实例级的解释。在真实世界和合成数据集上的大量实验表明，所提出的框架在预测精度和解释质量方面都是有效的。
2022-10-05 cs.AI cs.LG
XG-BoT: An Explainable Deep Graph Neural Network for Botnet Detection and Forensics
The University of Queensland（昆士兰大学）
在本文中，我们提出了XG-BoT，一个可解释的深度图神经网络僵尸网络节点检测模型。该模型包括一个僵尸网络检测器和一个自动取证解释器。XG-BoT检测器可以有效地检测大规模网络中的恶意僵尸网络节点。具体来说，它利用一个分组可逆的剩余连接与图同构网络学习表达节点表示僵尸网络通信图。该解释器基于XG-BoT中的GNNExplainer和显着图，可以通过突出可疑网络流和相关僵尸网络节点来执行自动网络取证。我们使用真实世界的大规模僵尸网络图数据集评估了XG-BoT。总体而言，XG-BoT在关键评估指标方面优于最先进的方法。此外，我们还证明了XG-BoT解释器可以为自动网络取证生成有用的解释。
2023-03-11 cs.CR cs.LG cs.NI
Shapley-Value-Based Graph Sparsification for GNN Inference
Department of Intelligent Systems Engineering Indiana University Bloomington Bloomington Indiana USA；Department of Computer Science \& Engineering Texas A\&M University College Station Texas USA；Indiana University Bloomington；Texas A\&M University
针对 GNN 推理中的图稀疏化问题，提出利用 Shapley 值识别边的正负贡献并剪枝误导性连接，从而在保持预测性能的同时降低复杂度并提升可解释性。
2025-07-28 cs.AI cs.LG
Explainable Graph Neural Networks Under Fire
Leiden University（莱顿大学）；Technical University of Munich（慕尼黑工业大学）
本文揭示事后GNN解释方法易受对抗扰动影响，并提出首个基于优化的白盒攻击方法GXAttack，呼吁对GNN解释器进行对抗性鲁棒性评估。
2024-10-18 cs.AI cs.LG
InteractiveGNNExplainer: A Visual Analytics Framework for Multi-Faceted Understanding and Probing of Graph Neural Network Predictions
Department of Electrical Engineering（电气工程系）；Indian Institute of Technology（印度理工学院）
针对图神经网络黑箱不透明问题，本文提出可视分析框架InteractiveGNNExplainer，融合多类交互视图与解释方法，支持假设分析与模型探查，可提升GNN预测的可解释性与可信度。
2025-11-17 cs.AI cs.LG
WOMBAT: Whitebox Oracle for Molecular Benchmarking and Attribution Testing
Jagiellonian University（雅盖隆大学）；Ardigen SA（Ardigen公司）
WOMBAT通过手工设置权重的白盒GNN基准，提供归因真值，用于识别和评估GNN解释器的错误，并展示了如何使Integrated Gradients产生分散归因。
2026-10-02 cs.LG
Distill n' Explain: explaining graph neural networks using simple surrogates
Federal Institute of Ceará（塞阿拉联邦学院）；Getulio Vargas Foundation（热图利奥·瓦加斯基金会）；Aalto university（阿尔托大学）
针对图神经网络解释成本与模型复杂度绑定的问题，提出基于知识蒸馏的DnX及快速版FastDnX，通过简单代理GNN和凸规划提取解释，性能优于现有方法且速度快数个数量级，并提供了理论支撑。
2024-03-08 cs.AI cs.LG
Model-Level GNN Explanations via Rule-to-Graph Readout for Logit Reconstruction
University of Victoria（维多利亚大学）；University of Alberta（阿尔伯塔大学）；LSU ATHENA Lab（路易斯安那州立大学ATHENA实验室）；University of Toronto（多伦多大学）
本文提出基于规则的图神经网络解释框架，通过规则级读取重建logit，实现全局解释与子图接地，提升预测一致性并加快速度。
2026-05-11 cs.AI cs.LG
