MotifExplainer: a Motif-based Graph Neural Network Explainer
Iowa State University（爱荷华州立大学）
研究了图神经网络的解释问题。大多数现有的GNN解释方法识别最重要的边或节点，但没有考虑子结构，这是更重要的图数据。考虑子图的唯一方法是尝试搜索所有可能的子图，并确定最重要的子图。然而，识别的子图可能不是经常性的或统计上重要的。在这项工作中，我们提出了一种新的方法，称为MotifExplainer，通过识别图中的重要图案，经常性和统计上显著的模式来解释GNN。与基于节点、边和规则子图的方法相比，我们提出的基于图案的方法可以提供更好的人类可理解的解释。给定一个输入图和一个预训练的GNN模型，我们的方法首先使用精心设计的模体提取规则提取图中的模体。然后，我们通过将motif输入到预先训练好的GNN中来生成motif嵌入。最后，我们采用基于注意力的方法来确定最有影响力的图案作为最终预测结果的解释。在合成数据集和真实数据集上的实验研究表明了该方法的有效性。
2023-02-27 cs.LG
EiX-GNN : Concept-level eigencentrality explainer for graph neural networks
University of Poitiers（普瓦捷大学）
目前，深度预测模型，特别是图神经网络，在关键应用中占有重要地位。在这种情况下，这些模型需要高度可解释或可解释的人类，在社会范围内，这种理解对于那些在需要解释的模型和背景中没有很强先验知识的人来说也是可行的。在文献中，解释是人类对现象的知识在解释者和被解释者之间的传递过程。我们提出了EiX-GNN（Eigencentrality eXplaner for Graph神经网络）一种新的强大的方法来解释图神经网络，该方法通过计算编码这种解释过程中潜在的社会解释者对解释者的依赖性。为了处理这种依赖关系，我们引入了被解释者概念相似性的概念，它允许解释者根据被解释者的背景或期望来调整解释平面。我们领导一个定性研究，以说明我们的解释概念的相似性概念在现实世界的数据以及定性研究，比较，根据客观指标建立在文献中，公平性和紧凑性，我们的方法相对于performingstate-of-the-art方法。事实证明，我们的方法在这两个方面都取得了很好的效果。
2023-03-10 cs.AI cs.CV cs.LG
Combining Stochastic Explainers and Subgraph Neural Networks can Increase Expressivity and Interpretability
Sapienza University of Rome（罗马第一大学）；UiT the Arctic University of Norway（挪威北极大学）；NORCE Norwegian Research Centre（NORCE挪威研究中心）
本文提出联合预测图类别与可解释稀疏子图的新框架，在保持与随机子图提取策略相当准确率的同时提升GNN表达能力和可解释性。
2023-04-14 cs.LG
ACGAN-GNNExplainer: Auxiliary Conditional Generative Explainer for Graph Neural Networks
University of Technology Sydney（悉尼科技大学）；Charles Darwin University（查尔斯达尔文大学）
针对现有GNN解释器依赖实例、泛化差、解释无效和保真度不足的问题，提出ACGAN-GNNExplainer，利用生成对抗网络生成解释，提升保真度和准确性，实验验证优于现有方法。
2023-10-11 cs.AI cs.LG
Explaining the Explainers in Graph Neural Networks: a Comparative Study
University of Trento（特伦托大学）；Fondazione Bruno Kessler（布鲁诺·凯塞勒基金会）；University of Venice（威尼斯大学）；CNRS, Centre de Physique Theorique（国家科学研究中心，理论物理中心）；University of Cambridge（剑桥大学）
本文通过系统实验比较十种解释器在八种图和节点分类架构上的表现，揭示了不同架构的可解释性差异及解释器选择的指导原则。
2024-07-01 cs.AI cs.LG
Graph Neural Network Explanations are Fragile
Nanchang University（南昌大学）；Illinois Institute of Technology（伊利诺伊理工大学）；Milwaukee School of Engineering（密尔沃基工程学院）；The Pennsylvania State University（宾夕法尼亚州立大学）
本文首次研究对抗攻击下的图神经网络解释器，发现轻微扰动图结构可使模型预测正确但解释截然不同，设计两种攻击方法并验证现有解释器的脆弱性。
2024-06-05 cs.CR cs.LG
ARM-Explainer -- Explaining and improving graph neural network predictions for the maximum clique problem using node features and association rule mining
School of Computational Science and Engineering（计算科学与工程学院）；DeGroote School of Business（德格罗特商学院）
ARM-Explainer 通过关联规则挖掘和节点特征改进 GNN 在最大团问题上的预测性能
2025-11-28 cs.LG math.OC
RAW-Explainer: Post-hoc Explanations of Path Reasoning Graph Neural Networks for Knowledge Graph Completion
New York University Abu Dhabi（纽约大学阿布扎比分校）
针对知识图谱链接预测的GNN解释方法有限的问题，提出RAW-Explainer框架，通过随机游走和神经网络参数化生成可解释子图，搭配鲁棒评估器解决分布偏移问题，兼顾解释质量与效率。
2026-10-19 cs.LG stat.ML
Reinforced Causal Explainer for Graph Neural Networks
University of Science and Technology of China（中国科学技术大学）；CCCD Key Lab of Ministry of Culture and Tourism（文化和旅游部CCCD重点实验室）；National University of Singapore（新加坡国立大学）
可解释性对于探测图神经网络（GNN）至关重要，可以回答诸如“为什么GNN模型会做出某种预测？".特征属性是一种在输入图中突出显示解释子图的流行技术，它可以合理地引导GNN模型进行预测。各种归因方法利用类梯度或注意力分数作为边缘的归因，然后选择具有最高归因分数的突出边缘作为解释。然而，大多数这些作品都做了一个站不住脚的假设-所选择的边缘是线性独立的-从而留下了很大程度上未探索的边缘之间的依赖关系，特别是他们的联盟效果。我们证明了这个假设的明确的缺点-使解释子图不忠实和冗长。为了解决这个问题，我们提出了一个强化学习代理，强化因果解释器（RC解释器）。它将解释任务框定为一个顺序决策过程-通过添加显著边来连接先前选择的子图，从而连续构造解释子图。从技术上讲，它的策略网络预测边添加的动作，并获得量化该动作对预测的因果影响的奖励。这种奖励说明了新添加的边和先前添加的边的依赖性，从而反映了它们是否合作并形成联盟以寻求更好的解释。因此，RC-Explainer能够生成忠实和简洁的解释，并且对看不见的图具有更好的泛化能力。当在三个图分类数据集上解释不同的GNN时，RC-Explainer实现了比SOTA方法更好或相当的性能。预测准确性和对比度，并安全地通过健全检查和目视检查。代码可在https://github.com/xiangwang1223/reinforced_causal_explaine…
2022-04-27 cs.AI cs.LG
DAG Matters! GFlowNets Enhanced Explainer For Graph Neural Networks
Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；Tianjin University（天津大学）；National University of Singapore（新加坡国立大学）
揭示图神经网络（GNN）预测背后的原理近年来受到越来越多的关注。现有的文献主要集中在选择一个子图，通过组合优化，提供忠实的解释。然而，候选子图的指数大小限制了最先进方法对大规模GNN的适用性。我们通过一种不同的方法来增强这一点：通过提出一种生成结构-基于GFlowNets-based GNN Explainer（GFlowExplainer），我们将优化问题转化为逐步生成问题。我们的GFlowExplainer旨在学习一种策略，该策略生成子图的分布，其中子图的概率与其奖励成比例。该方法消除了节点序列的影响，因此不需要任何预训练策略。我们还提出了一个新的切割顶点矩阵，以有效地探索GFlowNets结构的父状态，从而使我们的方法适用于大规模的设置。我们进行了广泛的实验，在合成和真实的数据集，定性和定量的结果表明，我们的GFlowExplainer的优越性。
2023-03-04 cs.AI cs.LG
Explaining Temporal Graph Predictions With Shapley Values
Paderborn University（帕德博恩大学）
本文提出两种基于Shapley和Owen值的模型无关解释器，用于解释TGNNs的局部预测，揭示事件和特征的层次依赖关系，并在不同指标和数据集上优于现有解释器。
2026-04-27 cs.LG
HiSE: A Lightweight Hierarchical Semantic Explainer for Heterogeneous Graph Neural Networks
School of Artificial Intelligence, Jilin University（吉林大学人工智能学院）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
提出HiSE，一种轻量级特征导向的可解释模型，通过层次语义建模（语义级LASSO稀疏特征学习和跨语义级KL散度自适应融合）实现高保真、低计算开销的异构图神经网络解释。
2026-06-02 cs.LG
Graph Neural Network Causal Explanation via Neural Causal Models
Illinois Institute of Technology（伊利诺伊理工大学）
针对现有图神经网络解释器多基于关联易产生虚假相关的问题，提出基于神经因果模型的GNN因果解释器，通过构建定制化神经因果模型计算因果效应以识别因果子图，性能显著优于现有方法。
2024-07-12 cs.AI cs.LG stat.ML
Self-supervised Subgraph Neural Network With Deep Reinforcement Walk Exploration
WASEDA University（早稻田大学）
本文提出RWE-SGNN框架，将子图神经网络与图神经网络解释器的生成方法结合，通过强化行走探索过程高效提取重要子结构，以数据驱动方式提升图表示学习的表达能力和性能。
2025-02-03 cs.LG
Parameterized Explainer for Graph Neural Network
The Pennsylvania State University（宾夕法尼亚州立大学）；NEC Labs America（NEC美国实验室）
尽管最近在图神经网络（GNNs）方面取得了进展，但解释GNNs做出的预测仍然是一个具有挑战性的开放问题。引导方法独立地解决局部解释（即，重要的子图结构和节点特征）来解释为什么GNN模型对单个实例（例如节点或图）进行预测。因此，生成的解释是为每个实例精心定制的。独立解释每个实例的独特解释不足以提供对学习的GNN模型的全局理解，导致缺乏可推广性并阻碍其在归纳环境中使用。此外，由于它是为解释单个实例而设计的，因此自然地解释一组实例是具有挑战性的（例如，给定类的图形）。在这项研究中，我们解决了这些关键挑战，并提出了PGExplainer，一个用于GNN的参数化解释器。PGExplainer采用深度神经网络来参数化解释的生成过程，这使得PGExplainer能够自然地集体解释多个实例。与现有的工作相比，PGExplainer具有更好的泛化能力，可以很容易地在归纳设置中使用。在合成数据集和真实数据集上的实验显示出高度竞争性的性能，在解释图分类方面，AUC相对于领先基线的相对改善高达24.7%。
2020-11-09 cs.AI cs.LG
Probing GNN Explainers: A Rigorous Theoretical and Empirical Analysis of GNN Explanation Methods
Harvard University（哈佛大学）
随着图神经网络（GNN）越来越多地用于关键的现实世界应用，最近的文献中提出了几种方法来解释这些模型的预测。然而，几乎没有系统地分析这些方法的可靠性的工作。在这里，我们介绍了有史以来第一次对最先进的GNN解释方法的可靠性进行理论分析。更具体地说，我们从理论上分析了各种最先进的GNN解释方法相对于几个理想属性的行为（例如，忠诚、稳定和公平维护），并建立对这些属性的侵犯的上限。我们还使用九个真实世界的图形数据集进行了大量的实验，以经验验证了我们的理论结果。我们的实证结果进一步揭示了关于最先进GNN解释方法行为的几个有趣的见解。
2022-02-22 cs.LG
Self-Explainable Graph Neural Networks for Link Prediction
The Pennsylvania State University（宾夕法尼亚州立大学）；Florida International University（佛罗里达国际大学）；Amazon（亚马逊）；Michigan State University（密歇根州立大学）
针对GNNs在链接预测中可解释性差及事后解释器次优的问题，提出一种自解释GNN框架，通过寻找节点的K个重要邻居学习特定于对的表示，同时实现准确预测与解释。
2023-05-21 cs.LG
On the Robustness of Post-hoc GNN Explainers to Label Noise
Aarhus University（奥胡斯大学）；Rice University（莱斯大学）
本研究系统评估了事后GNN解释器在不同程度标签噪声下的鲁棒性，发现解释器易受标签扰动影响，轻微噪声即可大幅损害解释质量，并探讨了高噪声下解释有效性的恢复现象。
2023-09-08 cs.AI cs.LG
Is Meta-Path Attention an Explanation? Evidence of Alignment and Decoupling in Heterogeneous GNNs
Indian Institute of Technology（印度理工学院）；Brown University（布朗大学）
本文通过MetaXplain协议实证研究元路径注意力在异构图神经网络中的解释有效性，发现其在不同数据集上表现出高对齐性和解耦性，且解释诱导子图可提升预测性能。
2026-02-09 cs.LG
Explainability in subgraphs-enhanced Graph Neural Networks
UiT the Arctic University of Norway（挪威北极大学）；Sapienza University of Rome（罗马第一大学）；NORCE Norwegian Research Centre（挪威NORCE研究中心）
近年来，为了提高图神经网络（GNNs）的表达能力，引入了子图增强的图神经网络（SGNNs）。新范式建议使用从输入图中提取的子图来提高模型的表达能力，但额外的复杂性加剧了GNN中已经具有挑战性的问题：解释它们的预测。在这项工作中，我们将PGExplainer（GNN的最新解释器之一）改编为SGNN。所提出的解释器考虑了所有不同子图的贡献，并且可以产生人类可以解释的有意义的解释。我们在真实和合成数据集上进行的实验表明，我们的框架成功地解释了SGNN在图分类任务上的决策过程。
2023-01-19 cs.LG
FSX: Message Flow Sensitivity Enhanced Structural Explainer for Graph Neural Networks
Fudan University（复旦大学）；Communication University of China（通信大学）
FSX通过结合信息流敏感性分析与协作博弈方法，提升图神经网络的可解释性，实现更高效且准确的结构解释。
2026-01-21 cs.AI cs.LG
RelEx: A Model-Agnostic Relational Model Explainer
SUNY Binghamton（纽约州立大学宾汉姆顿分校）
近年来，在提高机器学习模型的可解释性方面取得了相当大的进展。这是必不可少的，因为具有数百万参数的复杂深度学习模型会产生最先进的结果，但几乎不可能解释它们的预测。虽然各种可解释性技术已经取得了令人印象深刻的结果，但几乎所有这些技术都假设每个数据实例都是独立同分布的（iid）。这不包括关系模型，如统计关系学习（SRL）和最近流行的图神经网络（GNN），导致解释它们的选项很少。虽然确实存在一种解释GNN的工作，GNN-Explainer，但它们假设可以访问模型的梯度来学习解释，这在其跨不可微关系模型的适用性和实用性方面受到限制。在这项工作中，我们开发RelEx，一个模型无关的关系解释器来解释黑盒关系模型，只能访问黑盒的输出。RelEx能够解释任何关系模型，包括SRL模型和GNN。我们将RelEx与最先进的关系解释器、GNN-Explainer和iid解释模型的关系扩展进行比较，结果表明RelEx在保持模型不可知的同时实现了相当或更好的性能。
2020-05-30 cs.LG stat.ML
Robust Ante-hoc Graph Explainer using Bilevel Optimization
University of California, Santa Barbara（加州大学圣巴巴拉分校）；Rice University（莱斯大学）
提出RAGE，一种基于双层优化的事前图解释器，通过识别包含预测所需全部信息的分子子结构，在分子分类任务上优于现有后置和事前方法。
2024-06-05 cs.LG cs.SI
Towards Comprehensive and Prerequisite-Free Explainer for Graph Neural Networks
Macquarie University（麦考瑞大学）；Nanyang Technological University（南洋理工大学）
针对现有图神经网络解释方法无法捕捉完整决策逻辑且需严格前置条件的问题，提出OPEN方法，通过划分样本空间为多环境并采样子图分析预测，实现无需前置条件的全面解释，提升保真度与鲁棒性。
2025-05-23 cs.AI cs.LG
PAGE: Parametric Generative Explainer for Graph Neural Network
School of Computer Science and Technology, Huazhong University of Science and Technology（华中科技大学计算机科学与技术学院）；iWudao Tech（悟道科技）
提出参数化生成式解释框架 PAGE，利用自动编码器、潜在因果特征和判别器为任意图神经网络生成样本级解释子结构，并在合成与真实数据集上取得更高忠实度、准确率和效率。
2024-09-06 cs.AI cs.LG
XG-BoT: An Explainable Deep Graph Neural Network for Botnet Detection and Forensics
The University of Queensland（昆士兰大学）
在本文中，我们提出了XG-BoT，一个可解释的深度图神经网络僵尸网络节点检测模型。该模型包括一个僵尸网络检测器和一个自动取证解释器。XG-BoT检测器可以有效地检测大规模网络中的恶意僵尸网络节点。具体来说，它利用一个分组可逆的剩余连接与图同构网络学习表达节点表示僵尸网络通信图。该解释器基于XG-BoT中的GNNExplainer和显着图，可以通过突出可疑网络流和相关僵尸网络节点来执行自动网络取证。我们使用真实世界的大规模僵尸网络图数据集评估了XG-BoT。总体而言，XG-BoT在关键评估指标方面优于最先进的方法。此外，我们还证明了XG-BoT解释器可以为自动网络取证生成有用的解释。
2023-03-11 cs.CR cs.LG cs.NI
Higher Order Structures For Graph Explanations
International Institute of Information Technology, Hyderabad（海得拉巴国际信息技术学院）
本文提出FORGE框架，通过在图解释中引入高阶结构来捕捉多节点交互，在GraphXAI真实数据集和合成数据集上分别将平均解释准确率提升1.9倍和2.25倍。
2025-01-03 cs.LG
CoDy: Counterfactual Explainers for Dynamic Graphs
Centrum Wiskunde en Informatica, Amsterdam, Netherlands（荷兰阿姆斯特丹数学与信息学研究中心）；University of Amsterdam, Amsterdam, Netherlands（荷兰阿姆斯特丹大学）；Karlsruhe Institute of Technology, Karlsruhe, Germany（德国卡尔斯鲁厄技术大学）
针对时序图神经网络难以解释的问题，提出模型无关的实例级反事实解释器CoDy，结合蒙特卡洛树搜索与启发式策略识别反事实子图，在AUFSC+上较最强基线提升16%。
2025-07-08 cs.AI cs.LG
Generative Causal Explanations for Graph Neural Networks
The Hong Kong Polytechnic University（香港理工大学）；University of Toronto（多伦多大学）
本文介绍了Gem，这是一种与模型无关的方法，用于为各种图学习任务上的任何GNN提供可解释的解释。具体来说，我们将为GNNs的决策提供解释的问题制定为因果学习任务。然后，我们训练一个因果解释模型，配备了一个基于格兰杰因果关系的损失函数。与现有的GNN解释器不同，Gem从因果关系的角度解释了图结构数据上的GNN。它具有更好的泛化能力，因为它对GNN的内部结构或图学习任务的先验知识没有要求。此外，Gem一旦经过训练，就可以用来非常快速地解释目标GNN。我们的理论分析表明，最近的几个解释者属于一个统一的框架添加剂特征归因方法。在合成数据集和真实数据集上的实验结果表明，Gem的解释精度相对提高了$30\%$，解释速度提高了$110\times$.
2021-06-06 cs.LG
Beyond Trained Models: Compiling GNNs for a Sound Explainer Benchmark
University of Trento（特伦托大学）；Sapienza University（罗马大学）；Intesa Sanpaolo AI Research（意大利联合圣保罗银行人工智能研究院）；Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）
本研究提出Gracr编译器，将模态逻辑公式编译为GNN权重，构建GracrBench基准，以精确真实标签评估解释器，发现多数解释器对间接影响不稳健。
2026-10-05 cs.AI cs.LG
Dual Explanations via Subgraph Matching for Malware Detection
Canadian Institute for Cybersecurity (CIC)（加拿大网络安全研究所）；University of New Brunswick（新不伦瑞克大学）
提出双重原型驱动的可解释框架SubMatch，通过子图匹配技术将GNN重要区域与已知行为模式对齐，在保持高检测性能的同时显著提升恶意软件分析的可解释性。
2025-04-29 cs.CR cs.LG
Measuring What Matters: A Unified Evaluation Framework for GNN Explainability
Sapienza University of Rome（罗马萨皮恩扎大学）；Intesa Sanpaolo AI Research（Intesa Sanpaolo人工智能研究）；Anti Financial Crime Digital Hub（反金融犯罪数字中心）；Intesa Sanpaolo Innovation Center（Intesa Sanpaolo创新中心）
研究为G-XAI引入统一量化基准框架，无需真实假设，形式化表格可解释性指标，通过大规模基准研究确定跨指标和任务的帕累托前沿解释器并给出可用性指南。
2026-07-07 cs.LG
Explaining Graph Neural Networks via Structure-aware Interaction Index
Yale University（耶鲁大学）；VinAI Research（VinAI研究院）；The Chinese University of Hong Kong（香港中文大学）
本文提出Myerson-Taylor交互指数及基于它的MAGE解释器，将图结构内化到节点归因中，通过二阶指数识别关键模体，实验证明其子图解释优于现有方法。
2024-05-23 cs.LG
Explicit Pairwise Factorized Graph Neural Network for Semi-Supervised Node Classification
Technical University of Munich（慕尼黑工业大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
图的节点特征和结构信息是半监督节点分类问题的关键。已经提出了各种基于图神经网络（GNN）的方法来解决这些问题，这些方法通常通过特征聚合来确定输出标签。这可能是有问题的，因为它意味着给定隐藏表示的输出节点的条件独立性，尽管它们在图中直接连接。为了了解图中输出节点之间的直接影响，我们提出了显式成对分解图神经网络（EPFGNN），它将整个图建模为部分可观察的马尔可夫随机场。它包含显式的成对因子来建模输出-输出关系，并使用GNN主干来建模输入-输出关系。为了平衡模型的复杂性和表现力，成对因子具有共享的分量和每个边缘的单独缩放系数。我们应用EM算法来训练我们的模型，并利用一个星型分段似然的易处理的代理目标。我们在各种数据集上进行了实验，结果表明，我们的模型可以有效地提高图上半监督节点分类的性能。
2021-07-27 cs.LG stat.ML
Auto-Configured Explainable Graph Neural Networks for Multi-Site Pollution Prediction
University of Science and Technology of Oran-Mohamed Boudiaf (USTO-MB)（奥兰科技大学-穆罕默德·布迪亚夫）；King Abdullah University of Science and Technology (KAUST)（阿卜杜拉国王科技大学）
提出基于混淆矩阵的动态图构建方法和混合损失函数，利用五种GNN模型进行多站点PM预测，GraphSage表现最佳，并通过GNNExplainer和PGExplainer增强可解释性。
2026-06-25 cs.LG
GraphSVX: Shapley Value Explanations for Graph Neural Networks
Université Paris-Saclay（巴黎萨克雷大学）；CentraleSupélec（中央理工-高等电力学院）；Inria（法国国家信息与自动化研究所）
图神经网络（GNN）由于将图结构结合到节点表示的学习中，从而在几何数据的各种学习任务中实现了显着的性能，这使得它们的理解具有挑战性。在本文中，我们首先提出了一个统一的框架，满足大多数现有的GNN解释器。然后，我们介绍了GraphSVX，这是一种专门为GNN设计的事后局部模型不可知解释方法。GraphSVX是一种分解技术，通过在扰动数据集上构建代理模型，捕获每个特征和节点对解释预测的“公平”贡献。它扩展到图形，并最终提供了解释的Shapley值从博弈论。在真实世界和合成数据集上的实验表明，与基线模型相比，GraphSVX实现了最先进的性能，同时呈现了核心理论和以人为中心的属性。
2021-07-13 cs.LG
MPGE: A Multi-Perspective Graph Explainer for Molecular Classification Explanation
Dalhousie University（达尔豪斯大学）
该研究提出多视角图解释器MPGE，针对冻结分类器统一事实支撑、反事实敏感性和exemplar容忍度，在多个分子数据集上验证了其解释性能。
2026-10-09 cs.AI cs.LG
A Meta-Learning Approach for Training Explainable Graph Neural Networks
Sapienza University of Rome（罗马大学）
本文研究了图神经网络的可解释性程度。现有的解释器通过寻找全局/局部子图来解释预测，但是它们是在GNN已经被训练之后应用的。在这里，我们提出了一个元学习框架，用于直接在训练时提高GNN的可解释性水平，通过将优化过程转向我们所谓的“可解释的极小值”。我们的框架（称为MATE，MetA-Train to Explain）联合训练模型来解决原始任务，例如，节点分类，并为下游算法提供易于处理的输出，以人性化的方式解释模型的决策。特别是，我们对模型的参数进行元训练，以快速最小化在随机采样节点上动态训练的实例级GNNExplainer的误差。最终的内部表示依赖于一组可以通过解释算法“更好”理解的特征，例如，另一个GNNExplainer实例。我们的模型无关方法可以改进为不同GNN架构生成的解释，并使用任何基于实例的解释器来驱动此过程。在用于节点和图分类的合成和真实世界数据集上进行的实验表明，我们可以生成更容易通过不同算法解释的模型。此外，这种可解释性的增加并没有牺牲模型的准确性。
2022-12-20 cs.LG stat.ML
Generation of Uncertainty-Aware High-Level Spatial Concepts in Factorized 3D Scene Graphs via Graph Neural Networks
Automation and Robotics Research Group, Interdisciplinary Centre for Security, Reliability and Trust (SnT), University of Luxembourg（卢森堡大学自动化与机器人研究组，安全、可靠性与信任跨学科研究中心（SnT））
本文提出一种基于学习的方法，通过在线推断垂直平面中的空间概念，并将其作为SLAM后端可优化的因素，从而提升室内导航和映射的鲁棒性。
2026-06-29 cs.LG cs.RO
Evaluating and Improving Graph-based Explanation Methods for Multi-Agent Coordination
Georgia Institute of Technology（佐治亚理工学院）；College of Computing（计算学院）；School of Interactive Computing（交互式计算学院）
本文研究 GNN 解释器在多智能体协调中的适用性，提出注意力熵正则化以增强基于 GAT 策略的可解释性，并在多任务、多团队规模下验证其可提升解释质量且不损害性能。
2025-02-14 cs.AI cs.LG cs.MA
Towards the Explanation of Graph Neural Networks in Digital Pathology with Information Flows
Tencent AI Lab（腾讯人工智能实验室）
随着图神经网络（GNN）在数字病理学中被广泛采用，人们越来越关注开发GNN的解释模型（解释器）以提高临床决策的透明度。现有的解释器发现一个解释子图相关的预测。然而，这样的子图不足以揭示用于预测的所有关键生物子结构，因为在移除该子图之后预测将保持不变。因此，一个解释性的子图不仅应该是预测所必需的，而且应该足以揭示解释的最具预测性的区域。这种解释需要测量从不同输入子图到预测输出的信息，我们将其定义为信息流。在这项工作中，我们解决了这些关键挑战，并提出了IFEXPLAINER，它为GNN产生了必要和充分的解释。为了评估GNN预测中的信息流，我们首先提出了一种新的预测性概念，称为$f$ -信息，它是有方向的，并结合了GNN模型的现实能力。在此基础上，IFEXPLAINER生成具有最大信息流的解释子图。同时，在删除解释后，它最大限度地减少了从输入到预测结果的信息流。因此，所产生的解释对于预测必然是重要的，并且足以揭示最关键的子结构。我们评估IFEXPLAINER来解释GNN对乳腺癌亚型的预测。在BRACS数据集上的实验结果表明了该方法的优越性能。
2021-12-18 cs.AI cs.LG
GraphXAIN: Narratives to Explain Graph Neural Networks
University of Antwerp（安特卫普大学）
GraphXAIN利用大型语言模型将GNN解释性子图和特征重要性分数转化为自然语言故事化叙述，以提升图神经网络预测的可理解性、可信度和可用性，并通过实验和用户调查验证其有效性。
2025-02-12 cs.AI cs.LG
xFraud: Explainable Fraud Transaction Detection
ETH Zurich（苏黎世联邦理工学院）；eBay China（亿贝中国）
在网上零售平台，积极检测交易风险以改善客户体验并尽量减少财务损失至关重要。在这项工作中，我们提出了xFraud，一个可解释的欺诈交易预测框架，主要由一个检测器和一个解释器。xFraud检测器可以有效地预测传入交易的合法性。具体来说，它利用一个异构的图神经网络学习表达的表示，从信息的异构类型的实体在事务日志。xFraud中的解释器可以从图表生成有意义且人类可理解的解释，以促进业务部门的进一步流程。在我们使用xFraud对具有多达11亿个节点和37亿条边的真实交易网络进行的实验中，xFraud能够在许多评估指标上优于各种基线模型，同时在分布式设置中保持可扩展性。此外，我们表明，xFraud解释器可以生成合理的解释，以显着帮助业务分析，通过定量和定性评估。
2022-05-25 cs.AI cs.LG cs.SI
3D-OES: Viewpoint-Invariant Object-Factorized Environment Simulators
Carnegie Mellon University（卡内基梅隆大学）
我们提出了一个动作条件动力学模型，预测场景变化所造成的对象和代理的相互作用，在一个视点不变的3D神经场景表示空间，从RGB-D视频推断。在这个3D特征空间中，对象不会相互干扰，并且它们的外观会随着时间的推移和视点的变化而保持不变。这使得我们的模型可以通过简单地基于累积对象运动预测“移动”3D对象特征来预测未来很长一段时间的场景。对象运动预测由图神经网络计算，该图神经网络对从3D神经场景表示中提取的对象特征进行操作。我们的模型的模拟可以由神经渲染器从任何期望的视角解码成2D图像视图，这有助于我们潜在的3D模拟空间的可解释性。我们表明，我们的模型在不同数量和外观的交互对象以及相机的观点，以及概括其预测优于现有的2D和3D动态模型。我们进一步展示了仿真到现实迁移的学习动力学，通过应用我们的模型训练，仅在模拟基于模型的控制下，推动物体到所需的位置下，在一个真正的机器人设置混乱
2020-11-12 cs.AI cs.CV cs.LG
Beyond Soft Masks: Hard-Perturbation Mixup Explainer for Robust GNN Explainability
Xi’an Jiaotong University（西安交通大学）；PayPal；bellevue USA（贝尔维尤美国）
提出基于广义图信息瓶颈的硬扰动混合解释框架HPME，通过图池化提取离散解释子图并采用结构级替换的混合策略，解决软掩码方法中标签无关信息泄漏和分布偏移问题，提升解释保真度。
2026-06-04 cs.AI cs.IT cs.LG
Task-Agnostic Graph Explanations
Texas A&M University（德克萨斯农工大学）；Amazon.com Services LLC（亚马逊服务有限责任公司）；Amazon Search（亚马逊搜索）
图神经网络（GNN）已经成为编码图结构数据的强大工具。由于其广泛的应用，越来越需要开发工具来解释GNN如何在给定图结构数据的情况下做出决策。现有的基于学习的GNN解释方法在训练中是特定于任务的，因此存在严重的缺陷。具体来说，它们无法用单个解释器来解释多任务预测模型。他们也无法在GNN以自我监督的方式训练的情况下提供解释，并且所产生的表示用于未来的下游任务。为了解决这些限制，我们提出了一个任务不可知的GNN解释器（TAGE），它独立于下游模型，并在不了解下游任务的情况下在自我监督下进行训练。TAGE能够解释具有不可见下游任务的GNN嵌入模型，并允许有效解释多任务模型。我们广泛的实验表明，TAGE可以通过使用相同的模型来解释多个下游任务的预测，同时实现与当前最先进的GNN解释方法一样好甚至更好的解释质量，从而显着加快解释效率。我们的代码作为DIG库的一部分在https://github.com/divelab/DIG/tree/main/dig/xgraph/TAGE/上公开提供。
2022-09-23 cs.LG
Towards Few-shot Self-explaining Graph Neural Networks
University of Science and Technology of China（中国科学技术大学）；Institute of Artificial Intelligence Hefei Comprehensive National Science Center（合肥综合性国家科学中心人工智能研究院）
针对现有自解释图神经网络依赖大量训练数据、无法适配少样本场景的问题，本文提出融合元学习的两阶段自解释框架MSE-GNN，在四个数据集上实现了更优的预测性能与高质量解释生成。
2024-08-14 cs.AI cs.LG
Self-Explainable Multi-Label Graph Neural Network for Correlated Evidence Attribution
Florida Atlantic University（佛罗里达大西洋大学）；University of Louisiana at Lafayette（拉斐特路易斯安那大学）
本文提出SEMGNN，一种端到端自解释多标签图神经网络，联合学习预测器与边掩码解释器，利用标签相关性提升多标签分类性能及解释忠实度，在多类网络上表现优于或相当事后方法。
2026-08-31 cs.AI cs.LG
EiG-Search: Generating Edge-Induced Subgraphs for GNN Explanation in Linear Time
University of Alberta（阿尔伯塔大学）；Université de Montréal（蒙特利尔大学）；Mila（米拉研究所）；Kirin AI Algorithm & Solution, Huawei（华为麒麟AI算法与解决方案部门）
针对现有GNN子图级解释器效率低、节点诱导子图直观性不足等问题，提出无需训练的EiG-Search方法，通过基于增强梯度重要性排序的边诱导子图线性时间搜索实现解释，在7个数据集上性能与效率均优于主流基线。
2024-05-16 cs.LG
Unsupervised Learning of Neural Networks to Explain Neural Networks
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；Shanghai Jiao Tong University（上海交通大学）；University of California, Irvine（加利福尼亚大学尔湾分校）
本文提出了一种学习神经网络的无监督方法，即解释器，用于解释预训练的卷积神经网络（CNN），即，解释隐藏在CNN的中间卷积层中的知识表示。给定CNN的某个conv层的特征图，解释器像自动编码器一样执行，其首先将特征图分解为对象部分特征，然后将对象部分特征反转回CNN的更高conv层的特征。更具体地说，解释器包含可解释的conv层，其中每个过滤器从混沌输入特征映射中解开特定对象部分的表示。作为CNN特征的释义，对象部分的解纠缠表示帮助人们理解CNN内部的逻辑。我们还学习解释器使用对象部分特征来重建更高CNN层的特征，以最大限度地减少特征解缠期间的信息损失。更重要的是，我们通过网络蒸馏来学习解释器，而不使用样本标签、对象部分或纹理的任何注释进行监督。我们已经将我们的方法应用于不同类型的CNN进行评估，解释器显着提高了CNN特征的可解释性。
2018-05-18 cs.CV cs.LG
BetaExplainer: A Probabilistic Method to Explain Graph Neural Networks
Center for Computational Molecular Biology, Brown University（布朗大学计算分子生物学中心）；Department of Computer Science, Brown University（布朗大学计算机科学系）；Microsoft Research（微软研究院）
针对GNN解释中边权重不确定性缺失及复杂图结构下预测精度下降的问题，提出BetaExplainer，利用稀疏先验掩蔽不重要边，在模拟数据集上提升评估指标并提供不确定性度量。
2024-12-16 cs.LG stat.ML
A Completion-Aware Framework for Impactful Counterfactual Explainability in Graph Neural Networks
Institute of Computer Science, Foundation for Research and Technology - Hellas (FORTH)（计算机科学研究所，研究与技术基金会 - 希腊（FORTH））；Computer Science Department, University of Crete（克里特大学计算机科学系）
提出一种通用的、模型无关的局部反事实解释框架，通过结合事实可解释性与缺失边预测模型，提升图神经网络解释的质量、鲁棒性和直观性。
2026-06-23 cs.AI cs.LG
Efficient Explanations from Empirical Explainers
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）；Technische Universität Berlin (TU Berlin)（柏林工业大学）
在关于绿色人工智能的讨论中，我们看到可解释性被忽视，我们探索了有效地近似计算昂贵的解释器的可能性。为此，我们提出了具有经验解释器的特征归因建模。经验解释者从数据中学习，以预测昂贵解释者的归因图。我们对语言领域的经验解释者进行了训练和测试，发现他们以一小部分的成本对昂贵的解释者进行了惊人的建模。因此，在允许近似误差的应用中，它们可以显著减轻神经解释的计算负担。
2021-09-15 cs.CL cs.LG
Can I Trust the Explainer? Verifying Post-hoc Explanatory Methods
University of Oxford（牛津大学）；Facebook AI Research（Facebook人工智能研究院）；Alan Turing Institute（艾伦·图灵研究所）；DeepMind
为了让人工智能系统获得广泛的公众认可，我们必须开发出能够解释像神经网络这样的黑盒模型的决策的方法。在这项工作中，我们确定了目前的解释方法的两个问题。首先，我们表明，两个普遍的解释-功能加性和功能选择-导致根本不同的实例明智的解释。在文献中，来自不同视角的解释者目前被直接比较，尽管他们的解释目标不同。第二个问题是，当前的事后解释器要么是在简单的场景下验证的（在简单的模型上，如线性回归，或在句法数据集上训练的模型上），或者，当应用于现实世界的神经网络时，解释器通常是在学习模型行为合理的假设下验证的。然而，神经网络通常依赖于不合理的相关性，即使在产生正确的决策时也是如此。我们介绍了一个验证框架下的功能选择的角度来看，解释性的方法。我们的框架是基于一个非平凡的神经网络架构上训练的现实世界的任务，我们能够提供保证其内部工作。我们通过显示当前解释器的故障模式来验证我们的评估的有效性。我们的目标是这个框架提供一个公开的，现成的评价时，功能选择的角度解释是必要的。
2019-12-05 cs.CL cs.LG
