Interpretable Graph Convolutional Neural Networks for Inference on Noisy Knowledge Graphs
BenevolentAI(仁爱AI)
在这项工作中,我们提供了一个新的配方图卷积神经网络(GCNN)的链接预测的图形数据,解决了生物医学知识图谱(KG)的共同挑战。我们将正则化的注意力机制引入GCNN,不仅提高了干净数据集的性能,而且还有利地适应KG中的噪声,这是现实世界应用中普遍存在的问题。此外,我们探索了可解释建模的新可视化方法,并说明了如何利用学习的表示来自动化数据集去噪。结果显示在一个合成数据集,共同的基准数据集FB 15 k-237,和一个大型的生物医学知识图谱来自噪声和干净的数据源的组合。使用这些改进,我们可视化了一个学习模型的疾病囊性纤维化的代表性,并演示了如何询问神经网络,以显示PPARG作为类风湿性关节炎的候选治疗靶点的潜力。
2018-12-01 cs.LG stat.ML
Towards Interpretable Multi-Task Learning Using Bilevel Programming
NEC Laboratories Europe(NEC欧洲实验室)
可解释的多任务学习可以表示为基于学习模型的预测性能来学习任务关系的稀疏图。由于许多自然现象都表现出稀疏结构,因此在学习模型上实施稀疏性可以揭示潜在的任务关系。此外,不同的稀疏度从一个全连通图揭示了各种类型的结构,如团,树,线,集群或完全不连通图。在本文中,我们提出了一个双层制定的多任务学习,导致稀疏图,从而揭示了潜在的任务关系,和一个有效的方法,其计算。我们经验性地展示了诱导稀疏图如何提高学习模型的可解释性以及它们在合成数据和真实数据上的关系,而不牺牲泛化性能。代码https://bit.ly/GraphGuidedMTL
2020-09-11 cs.LG stat.ML
GraphGUIDE: interpretable and controllable conditional graph generation with discrete Bernoulli diffusion
Genentech(基因泰克)
扩散模型在生成真实感对象方面具有最先进的性能,并已成功应用于图像、文本和视频。最近的工作表明,扩散也可以在图形上定义,包括药物样分子的图形表示。不幸的是,仍然很难以可解释和可控制的方式在图上执行条件生成。在这项工作中,我们提出了GraphGUIDE,一个新的框架,图形生成使用扩散模型,在图中的边缘翻转或设置在每个离散的时间步。我们在几个图形数据集上演示了GraphGUIDE,并表明它可以完全控制任意结构属性的条件生成,而无需依赖于预定义的标签。我们的图形扩散框架可以对图形的可解释条件生成产生很大的影响,包括以实验证据为依据的方式生成具有所需特性的药物样分子。
2023-02-07 cs.LG
HARMONIA: Interpretable Graph Learning through Mixtures of Neural Bases
Center for AI Research, VinUniversity(文大人工智能研究中心);University of Florida(佛罗里达大学);Posts and Telecommunications Institute of Technology(邮电技术学院);University of Illinois Chicago(伊利诺伊大学芝加哥分校)
HARMONIA提出神经基元混合与稀疏RRWP聚合,实现可解释且可扩展的图加性模型,兼顾特征特化与结构分解,在解释恢复和预测性能上优于基线。
2026-09-29 cs.AI cs.LG stat.ML
DynGraph2Seq: Dynamic-Graph-to-Sequence Interpretable Learning for Health Stage Prediction in Online Health Forums
George Mason University(乔治梅森大学);IBM Research(IBM研究院)
在线健康社区,如在线乳腺癌论坛,使患者(即,用户)在各种分论坛中进行互动和相互帮助,这些分论坛是主要论坛中专门讨论特定健康主题的子论坛。用户在不同分论坛的活动性质不断变化,这可能是其健康状况变化的有力指标。这些额外的信息可以让医疗机构迅速做出反应,并为患者提供额外的帮助。然而,随着时间的推移,在不同的子论坛之间对单个用户的活动的复杂过渡进行建模,并了解这些活动如何与他/她的健康阶段相对应,这是非常具有挑战性的。在本文中,我们首先制定了用户活动的过渡作为一个动态图与多属性节点,然后形式化的健康阶段推理任务作为一个动态图到序列的学习问题,因此提出了一种新的动态图到序列神经网络架构(DynGraph 2Seq),以解决所有的挑战。我们提出的DynGraph 2Seq模型由一个新的动态图编码器和一个可解释的序列解码器组成,该解码器可以学习一系列随时间演变的用户活动图和一系列目标健康阶段之间的映射。我们继续提出动态图层次注意力机制,以促进必要的多层次的可解释性。一个全面的实验分析,其使用的健康阶段预测任务证明了所提出的模型的有效性和可解释性。
2019-08-22 cs.LG stat.ML
Towards Interpretable Sparse Graph Representation Learning with Laplacian Pooling
InVivo AI;Mila(米拉计算研究所)
最近在图神经网络(GNNs)中的工作已经导致分子活性和性质预测任务的改进。不幸的是,GNN通常无法捕捉分子亚结构之间相互作用的相对重要性,部分原因是缺乏有效的中间合并步骤。为了解决这些问题,我们提出了LaPool(拉普拉斯池),一种新颖的,数据驱动的,可解释的分层图池方法,考虑到节点的功能和图形结构,以提高分子表示。我们在分子图预测和理解任务上对LaPool进行了基准测试,并表明它的性能优于最近的GNN。有趣的是,LaPool在非分子任务上也保持着竞争力。定量和定性评估都是为了证明LaPool改进的可解释性,并突出其在药物设计中的潜在好处。最后,我们证明了LaPool的效用,通过将其纳入一个对抗性的自动编码器的有效和新颖的分子的生成。
2020-04-02 cs.LG q-bio.BM stat.ML
Graph Structure Learning with Interpretable Bayesian Neural Networks
University of Rochester(罗切斯特大学)
针对数据受限场景下图结构学习的不确定性量化需求,提出带独立可解释参数的迭代展开贝叶斯神经网络,通过MCMC实现高保真后验近似,在合成与真实数据实验中验证了其校准良好的不确定性估计能力。
2024-06-20 cs.LG stat.ML
Interpretable Deep Graph Generation with Node-Edge Co-Disentanglement
George Mason University(乔治梅森大学);Syracuse University(雪城大学);IBM Research AI(IBM研究院人工智能部门);Case Western Reserve University(凯斯西储大学)
解纠缠表示学习最近吸引了大量的关注,特别是在图像表示学习领域。然而,学习图背后的解纠缠表示仍然在很大程度上未被探索,特别是对于具有节点和边特征的属性图。用于图生成的解纠缠学习具有实质性的新挑战,包括1)缺乏用于联合解码节点和边属性的图解卷积操作;以及2)难以在分别影响i)仅节点、ii)仅边以及iii)它们之间的联合模式的潜在因素之间实施解纠缠。为了解决这些挑战,我们提出了一个新的解纠缠增强框架,用于属性图的深度生成模型。特别是,提出了一种新的变分目标,以解开上述三种类型的潜在因素,与新的架构,节点和边缘解卷积。此外,在每一种类型中,个体因子解纠缠被进一步增强,这被证明是对现有图像框架的概括。在合成数据集和真实数据集上的定性和定量实验证明了该模型及其扩展的有效性。
2020-06-09 cs.LG stat.ML
SpaTeoGL: Spatiotemporal Graph Learning for Interpretable Seizure Onset Zone Analysis from Intracranial EEG
Inria Saclay(Inria萨克莱实验室);Palaiseau, France(法国帕莱伊索)
提出SpaTeoGL框架,通过联合学习窗口级空间图和时间图,在平滑图信号处理框架下交替求解,实现癫痫发作起始区的可解释定位,在多中心iEEG数据集上优于基线方法。
2026-06-11 cs.LG
Colorful Talks with Graphs: Human-Interpretable Graph Encodings for Large Language Models
University of Illinois Chicago(伊利诺伊大学香槟分校)
本文提出一种将图结构直接注入自然语言提示的编码策略,通过将图结构转换为人类可理解的颜色标记,提升大语言模型处理图任务的能力,实验显示在合成和真实数据集上均取得显著改进。
2026-04-22 cs.LG
Disentangling Interpretable Generative Parameters of Random and Real-World Graphs
University College London(伦敦大学学院);Microsoft Research Cambridge(微软剑桥研究院)
虽然存在各种各样的可解释的图形生成程序,匹配观察到的图形拓扑结构与这些程序和选择其参数仍然是一个悬而未决的问题。设计生成模型,密切再现现实世界的图形需要领域知识和耗时的模拟。虽然现有的深度学习方法依赖于较少的手动建模,但它们几乎没有提供可解释性。这项工作的方法图生成(解码)的逆图压缩(编码)。我们表明,在一个以解纠缠为重点的深度自动编码框架中,特别是Beta-变分自编码器(Beta-VAE),生成过程及其参数的选择自然出现在潜在空间中。我们的模型能够学习解纠缠的,可解释的潜变量,这些潜变量代表程序生成的随机图和真实世界的图的生成参数。解纠缠的程度是使用互信息间隙(Mutual Information Gap,简称ISI)来定量测量的。当在ER随机图上训练我们的Beta-VAE模型时,它的潜变量与ER随机图参数n和p有一个接近一对一的映射。我们部署该模型来分析图拓扑和节点属性之间的相关性,测量它们的相互依赖性,而无需手工挑选拓扑属性。
2019-11-06 cs.LG cs.SI nlin.CD
CommPOOL: An Interpretable Graph Pooling Framework for Hierarchical Graph Representation Learning
University of Pittsburgh(匹兹堡大学);Intel Labs(英特尔实验室);Lehigh University(里海大学)
近年来,层次图池神经网络(HGPNN)的出现和蓬勃发展,这是有效的图表示学习方法的图级任务,如图分类。然而,当前的HGPNN没有充分利用图的固有结构(例如,社区结构)。此外,现有HGPNN中的池化操作难以解释。在本文中,我们提出了一个新的可解释的图池框架- CommPOOL,它可以捕获和保存图的层次社区结构的图表示学习过程。具体而言,CommPOOL中提出的社区池机制利用无监督方法以可解释的方式捕获图的固有社区结构。CommPOOL是一个通用而灵活的分层图表示学习框架,可以进一步促进各种图级任务。在五个公共基准数据集和一个合成数据集上的评估表明,与最先进的基线方法相比,CommPOOL在图分类的图表示学习中具有优异的性能,并且在捕获和保存图的社区结构方面具有有效性。
2020-12-10 cs.AI cs.LG
Interpretable and Generalizable Graph Learning via Stochastic Attention Mechanism
Purdue University(普渡大学)
可解释图学习是需要的,因为许多科学应用依赖于学习模型来从图结构数据中收集见解。以前的工作主要集中在使用事后方法来解释预先训练的模型(特别是图神经网络)。他们反对内在可解释的模型,因为这些模型的良好可解释性往往是以其预测准确性为代价的。然而,这些事后的方法往往无法提供稳定的解释,并可能提取的功能是虚假的相关任务。在这项工作中,我们通过提出图随机注意(GSAT)来解决这些问题。从信息瓶颈原理出发,GSAT在注意力权重中注入随机性,以屏蔽与任务无关的图成分中的信息,同时学习随机性减少的注意力,以选择与任务相关的子图进行解释。在某些假设下,选定的子图可证明不包含与任务虚假相关的模式。在8个数据集上的大量实验表明,GSAT在解释AUC方面优于最先进的方法达20% $\uparrow$,在预测准确性方面优于最先进的方法达5% $\uparrow$。我们的代码可在https://github.com/Graph-COM/GSAT上获得。
2022-06-17 cs.LG
Adaptive Multi-Expert Graph Transformer for Interpretable EEG-Based Diagnostics
University of Central Florida(中佛罗里达大学)
研究基于EEG的诊断问题,提出空间多专家图变换器,将EEG记录建模为动态功能连接图序列,用wPLI估计连接性,经层次图编码和多专家架构实现亚型感知推理,实验证明该方法在异常检测上性能良好且具可解释性。
2026-07-23 cs.LG
Interpretable Stability Bounds for Spectral Graph Filters
University of Oxford(牛津大学);EPFL(洛桑联邦理工学院)
图结构数据出现在各种现实世界的背景下,从传感器和交通到生物和社交网络。作为处理图结构数据的普遍工具,谱图滤波器已被用于解决去噪和异常检测等常见任务,以及设计深度学习架构,如图神经网络。尽管是一个重要的工具,但缺乏对谱图滤波器稳定性的理论理解,这对于设计鲁棒的机器学习模型非常重要。在本文中,我们研究了滤波器的稳定性,并提供了一个新的和可解释的上限滤波器输出的变化,其中界表示在删除和新添加的边缘的端点度,以及这些边缘的空间接近。这个上界允许我们根据图的结构性质来推理谱图滤波器何时是稳定的。我们进一步进行了广泛的实验,以验证直觉,可以从边界。
2021-02-18 cs.LG
$k$-Graph: A Graph Embedding for Interpretable Time Series Clustering
本文提出无监督图嵌入方法 $k$-Graph,通过多长度子序列图表示支持变长时间序列聚类,在准确率上超过现有先进算法并增强结果可解释性。
2025-02-18 cs.LG
Interpretable Neuron Structuring with Graph Spectral Regularization
Yale Department of Computer Science(耶鲁大学计算机科学系);Yale Department of Genetics(耶鲁大学遗传学系);Université de Montréal, Dept. of Math. & Stat.(蒙特利尔大学数学与统计系);Mila(米拉研究院)
虽然神经网络是用于将数据分类或嵌入低维空间的强大近似器,但它们通常被视为具有不可解释特征的黑盒。在这里,我们提出了图谱正则化,使隐藏层更易于解释,而不会显着影响主要任务的性能。从生物网络中神经元激活的空间组织和定位中得到灵感,我们使用图拉普拉斯惩罚来构造层内的激活。该惩罚鼓励激活在预定图上或在经由神经网络的隐藏层的共同激活从数据学习的特征空间图上是平滑的。我们展示了这种附加结构的许多用途,包括生物和图像数据集的聚类指示和可视化。
2020-02-14 cs.AI cs.LG cs.NE
Interpretable Node Representation with Attribute Decoding
Tufts University(塔夫茨大学);Rutgers University(罗格斯大学)
变分图自动编码器(VGAE)是用于从图数据中对节点表示进行无监督学习的强大模型。在这项工作中,我们系统地分析了建模节点属性VGAE和属性解码是重要的节点表示学习。我们进一步提出了一个新的学习模型,可解释的节点表示与属性解码(NORAD)。该模型以一种可解释的方法对节点表示进行编码:节点表示捕获图中的社区结构以及社区与节点属性之间的关系。我们进一步提出了一个修正程序,以改善孤立的笔记节点表示,提高这些节点的表示质量。我们的实证结果表明,该模型的优势时,学习图形数据在一个可解释的方法。
2022-12-03 cs.LG cs.SI
Towards Self-Interpretable Graph-Level Anomaly Detection
Monash University(莫纳什大学);Northwestern University(西北大学);Data61, CSIRO(澳大利亚联邦科学与工业研究组织Data61);Northwest A&F University(西北农林科技大学);The University of Adelaide(阿德莱德大学);Griffith University(格里菲斯大学)
针对图级异常检测缺乏解释的问题,提出自解释模型SIGNET,基于多视图子图信息瓶颈框架,通过跨视图互信息检测异常并提取关键子图作为解释,在16个数据集上验证了有效性和自解释性。
2023-10-25 cs.LG
Verbalized Graph Representation Learning: A Fully Interpretable Graph Model Based on Large Language Models Throughout the Entire Process
Huazhong Agricultural University(华中农业大学)
针对传统GNN语义理解与推理能力不足、可解释性差,现有LLM与GNN结合方法仅部分可解释的问题,提出全流程可解释的言语化图表示学习方法VGRL,将参数空间约束为文本描述,经实验验证有效,为图表示学习提供新路径。
2024-10-04 cs.LG
Interpretable and Efficient Heterogeneous Graph Convolutional Network
Xidian University(西安电子科技大学);Deakin University(迪肯大学)
图卷积网络(GCN)在学习图中节点的有效任务特定表示方面取得了非凡的成功。然而,对于异构信息网络(HIN),现有的面向HIN的GCN方法仍然存在两个不足:(1)不能灵活地探索所有可能的元路径并提取对目标对象最有用的元路径,这影响了有效性和可解释性;(2)通常需要生成基于中间元路径的稠密图,这导致高计算复杂性。为了解决上述问题,我们提出了一个可解释的和高效的异构图卷积网络(即HGCN)来学习对象的表示在HIN。它被设计为分层聚合架构,即,首先是对象级聚合,然后是类型级聚合。新的架构可以自动提取有用的元路径为每个对象从所有可能的元路径(在一定的长度限制),这带来了良好的模型解释性。它还可以通过避免中间HIN变换和邻域注意来降低计算成本。我们提供了理论分析的建议ie-HGCN在评估所有可能的元路径的有用性,其连接到谱图卷积的HIN,其准线性时间复杂度。在三个真实网络数据集上的大量实验证明了ie-HGCN的优越性。
2021-09-08 cs.LG cs.SI stat.ML
Algorithm for Interpretable Graph Features via Motivic Persistent Cohomology
School of Informatics, Nagoya University, Japan(信息学院,名古屋大学,日本)
本文提出CPA算法,通过动机持续同调计算加权图的可解释特征,并在不同图类上展示了其计算效率和实际应用潜力。
2025-12-23 cs.CG cs.DM cs.LG
MS-IMAP -- A Multi-Scale Graph Embedding Approach for Interpretable Manifold Learning
本文提出基于谱图小波和对比学习的多尺度图嵌入框架MS-IMAP,通过建立嵌入与输入特征空间的对应关系实现特征重要性推导,并在多个数据集上验证了其在聚类等无监督任务中的有效性。
2025-08-08 cs.LG
The Interpretable and Effective Graph Neural Additive Networks
Blavatnik School of Computer Science Tel-Aviv University(塔尔米大学比拉维克计算机科学学院);Edmond J. Safra Center for Bioinformatics Tel-Aviv University(塔尔米大学埃德蒙·J·萨弗生科信息中心)
提出图神经加性网络(GNAN),通过直接可视化在特征和图层面提供全局与局部解释,实现与黑盒GNN相当的准确性,适用于高风险透明性场景。
2026-11-03 cs.AI cs.LG
Interpretable Graph-Level Anomaly Detection via Contrast with Normal Prototypes
State Key Laboratory for Novel Software Technology, Nanjing University(新型软件技术国家重点实验室,南京大学);School of Artificial Intelligence, Nanjing University(人工智能学院,南京大学)
ProtoGLAD通过对比异常与最近正常原型图,提供可解释的图级异常检测方法,优于现有技术。
2026-02-11 cs.AI cs.LG
Interpretable Graph Neural Networks for Heterogeneous Tabular Data
KTH Royal Institute of Technology(瑞典皇家理工学院)
针对表格数据机器学习模型的黑盒问题及图神经网络处理异构数据能力有限的问题,提出可同时处理类别与数值特征、生成预测及精确特征归因的IGNH方法,其特征归因与Shapley值一致,性能优于Random Forests和TabNet,接近XGBoost。
2024-08-14 cs.LG
DialoGraph: Incorporating Interpretable Strategy-Graph Networks into Negotiation Dialogues
Carnegie Mellon University(卡内基梅隆大学)
要成功地谈判达成协议,仅仅流利地沟通是不够的:有说服力的谈判策略的务实规划至关重要。虽然现代对话代理擅长生成流畅的句子,但他们仍然缺乏语用基础,无法进行战略推理。我们提出了DialoGraph,一个谈判系统,采用图神经网络的谈判对话中的语用策略。DialoGraph明确地结合了策略序列之间的依赖关系,以在给定对话上下文的情况下,实现对下一个最佳策略的改进和可解释的预测。我们的基于图的方法优于现有的国家的最先进的谈判模型在战略/对话行为预测的准确性和下游对话响应生成的质量。我们定性地展示了学习策略图在对话过程中提供有效谈判策略之间的明确关联的进一步好处,从而导致可解释的战略对话。
2021-06-02 cs.AI cs.CL cs.LG
DynaGraph: Interpretable Multi-Label Prediction from EHRs via Dynamic Graph Learning and Contrastive Augmentation
DynaGraph提出一种端到端可解释的对比动态图模型,学习多变量EHR时间序列动态,在四个临床数据集上显著提升平衡准确率和敏感性,并通过伪注意力指示协变量重要性。
2025-03-28 cs.LG
MOTGNN: Interpretable Graph Neural Networks for Multi-Omics Disease Classification
University of Idaho(爱达荷大学);Mississippi State University(密苏里州立大学)
MOTGNN通过可解释的图神经网络框架,提升多组学疾病分类的准确性和可解释性。
2026-02-11 cs.LG q-bio.GN stat.ML
Augment to Interpret: Unsupervised and Inherently Interpretable Graph Embeddings
Euranova(Euranova公司)
针对无监督图嵌入缺乏可解释性的问题,本文提出INGENIOUS框架,通过学习保持语义的数据增强生成本质可解释的嵌入,并引入评估指标,在图级与节点级任务上达到最先进性能。
2023-09-28 cs.AI cs.LG
CountTRuCoLa: Rule Learning for Interpretable Temporal Knowledge Graph Forecasting
CountTRuCoLa是一种基于符号规则的可解释时间知识图谱预测方法,学习含新近度与频率的时间规则,在9个数据集上性能优于多数SOTA模型,超大数据集上仍可正常运行。
2026-08-27 cs.LG
More Interpretable Graph Similarity Computation via Maximum Common Subgraph Inference
Xi’an Jiaotong-Liverpool University(西交利物浦大学)
图相似性度量,计算两个图之间的距离/相似性,出现在各种图相关的任务。最近的基于学习的方法缺乏可解释性,因为它们直接将两个图之间的交互信息转换为一个隐藏向量,然后将其映射到相似性。为了解决这个问题,本研究提出了一个更可解释的端到端的图形相似性学习范例,命名为通过最大公共子图推理的相似性计算(INFMCS)。我们对INFMCS的关键见解是相似性得分和最大公共子图(MCS)之间的强相关性。我们隐式地推断MCS以获得归一化的MCS大小,其中监督信息仅是训练期间的相似性得分。为了捕获更多的全局信息,我们还将一些普通的Transformer编码器层与图卷积层堆叠在一起,并提出了一种新的置换不变节点位置编码。整个模型非常简单但有效。综合实验表明,INFMCS始终优于最先进的基线图图分类和回归任务。烧蚀实验验证了所提出的计算范式和其他组件的有效性。此外,可视化和统计结果揭示了INFMCS的可解释性。
2022-09-16 cs.AI cs.LG
NGTM: Substructure-based Neural Graph Topic Model for Interpretable Graph Generation
The Thrust of Artificial Intelligence, The Hong Kong University of Science and Technology (Guangzhou)(人工智能前沿技术研究所,香港科学与技术大学(广州));The College of Computer Science and Technology, The Nanjing University of Aeronautics and Astronautics(计算机科学与技术学院,南京航空航天大学)
本文提出神经图主题模型NGTM,将图表示为潜在主题的混合,通过主题分布与全局结构变量实现可解释图生成,在保持生成质量的同时支持细粒度结构控制。
2025-07-17 cs.LG
Incorporating Biological Knowledge with Factor Graph Neural Network for Interpretable Deep Learning
University at Buffalo(布法罗大学)
虽然深度学习在许多领域取得了巨大的成功,但对深度学习的一个常见批评是它缺乏可解释性。在大多数情况下,深层神经网络中的隐藏单元没有明确的语义含义或对应于任何物理实体。然而,模型的可解释性和可解释性在许多生物医学应用中至关重要。为了应对这一挑战,我们开发了因子图神经网络模型,通过将概率图形模型与深度学习相结合,该模型具有可解释性和可预测性。我们直接将生物知识(如基因本体)作为因子图编码到模型架构中,使模型透明和可解释。此外,我们设计了一个注意力机制,可以捕捉生物实体,如基因和基因本体论术语之间的多尺度层次的相互作用。通过参数共享机制,展开因子图神经网络模型可以随机深度训练,具有良好的泛化能力。我们将我们的模型应用于两个癌症基因组数据集来预测目标临床变量,并取得了比其他传统机器学习和深度学习模型更好的结果。我们的模型还可以用于基因集富集分析和选择对靶向临床变量重要的基因本体论术语。
2019-06-03 cs.LG q-bio.GN
Unveiling Global Interactive Patterns across Graphs: Towards Interpretable Graph Neural Networks
School of Software Technology, Zhejiang University(浙江大学软件学院);Hangzhou High-Tech Zone (Binjiang) Institute of Blockchain and Data Security(杭州高新区(滨江)区块链与数据安全研究院);Big Graph Center, School of Computer and Computing Science, Hangzhou City University(杭州城市大学计算机与计算科学学院大图中心);College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院)
针对图级任务难以用局部子图解释全局交互的问题,本文提出GIP,通过受约束图聚类和自解释原型匹配实现内在可解释的图分类,并在合成与真实基准上验证其更优可解释性及竞争力。
2024-07-02 cs.AI cs.LG
GLIME: A new graphical methodology for interpretable model-agnostic explanations
AIDEAS OÜ(AIDEAS 有限公司)
可解释人工智能(XAI)是一个新兴的领域,其中一组过程和工具允许人类更好地理解黑盒模型生成的决策。然而,大多数可用的XAI工具通常仅限于简单的解释,主要是量化单个特征对模型输出的影响。因此,人类用户无法理解这些特征是如何相互关联以进行预测的,而训练模型的内部工作仍然是隐藏的。本文致力于开发一种新的图形解释工具,不仅表明了模型的重要功能,但也揭示了功能之间的条件关系和推理捕捉功能的直接和间接影响模型的决定。拟议的XAI方法,称为gLIME,提供图形模型无关的解释,无论是在全球(对于整个数据集)或局部规模(对于特定的数据点)。它依赖于本地可解释的模型不可知解释(LIME)与图形最小绝对收缩和选择算子(GLASSO)的组合,产生无向高斯图形模型。正则化被用来缩小小的偏相关系数为零,提供更稀疏和更可解释的图形解释。选择了两个众所周知的分类数据集(BIOPSY和OAI),以确认gLIME在多个排列的稳健性和一致性方面优于LIME。具体来说,gLIME在两个数据集上实现了关于特征重要性的增加的稳定性(76%-96%,而使用LIME为52%-77%)。gLIME展示了一种独特的潜力,通过提供信息丰富的图形解释来扩展XAI当前最先进的功能,这些解释可以解锁黑匣子。
2021-07-21 cs.LG
GINTRIP: Interpretable Temporal Graph Regression using Information bottleneck and Prototype-based method
Royal Meteorological Institute(皇家气象研究所)
GINTRIP结合信息瓶颈和原型方法,提升时间图回归模型的可解释性与预测性能。
2025-12-27 cs.LG
Learning Two-Step Hybrid Policy for Graph-Based Interpretable Reinforcement Learning
University of California San Diego(加州大学圣地亚哥分校);Amazon(亚马逊)
我们提出了一个两步的混合强化学习(RL)的政策,旨在生成可解释的和强大的分层策略的RL问题与基于图的输入。与之前由端到端黑盒图神经网络参数化的深度强化学习策略不同,我们的方法将决策过程分解为两个步骤。第一步是一个简化的分类问题,它将图形输入映射到一个动作组,其中所有动作都具有相似的语义含义。第二步实现了一个复杂的规则挖掘机,进行显式的一跳推理的图形,并确定在图形输入的决定性的边缘,而不需要沉重的领域知识。这种两步混合策略提供了人性化的解释,并在泛化和鲁棒性方面实现了更好的性能。四个层次的复杂的基于文本的游戏进行了广泛的实验研究表明,所提出的方法相比,国家的最先进的优越性。
2022-10-19 cs.AI cs.CL cs.LG
Interpretable Embedding Procedure Knowledge Transfer via Stacked Principal Component Analysis and Graph Neural Network
Inha University(仁荷大学)
知识蒸馏(KD)是轻量级神经网络最有用的技术之一。虽然神经网络有一个明确的目的是将数据集嵌入到低维空间,但现有的知识离这个目的还很远,只能提供有限的信息。我们认为,良好的知识应该能够解释嵌入过程。提出了一种基于主成分分析的可解释嵌入过程(IEP)知识生成方法,并基于消息传递神经网络进行IEP知识提取。实验结果表明,在CIFAR 100数据集上,采用KD方法训练的学生网络的性能提高了2.28%,优于SOTA方法。我们还证明了嵌入过程的知识是可解释的,通过可视化的建议KD过程。实现的代码可在https://github.com/sseung0703/IEPKT上获得。
2021-04-28 cs.CV cs.LG
Fast, Accurate and Interpretable Graph Classification with Topological Kernels
Department of Computer Science, Royal Holloway University of London(皇家霍洛威大学计算机科学系)
本文提出基于拓扑指数的显式特征映射用于图分类,并通过扩展特征向量(EFV)和拓扑核线性组合(LCTK)在保持高效计算的同时提升准确率,实现准确率与效率的良好平衡。
2025-09-22 cs.LG
A Hierarchical Language Model For Interpretable Graph Reasoning
Texas A&M University(德克萨斯农工大学)
针对大语言模型图结构理解能力有限的问题,提出双模块架构的图分层语言模型HLM-G,兼顾局部与全局图信息,提升图任务性能与效率,兼具可解释性,在多类图任务上表现优异。
2024-10-29 cs.AI cs.LG
Interpretable A-posteriori Error Indication for Graph Neural Network Surrogate Models
Transportation and Power Systems Division, Argonne National Laboratory(阿贡国家实验室交通与动力系统分部);College of Information Sciences and Technology, Pennsylvania State University(宾夕法尼亚州立大学信息科学与技术学院);Mathematics and Computer Science Division, Argonne National Laboratory(阿贡国家实验室数学与计算机科学分部)
本文提出一种可解释GNN增强流程,在非结构网格流体代理模型中自适应识别任务相关子图并标记主要预测误差节点,同时保持基线预测能力。
2024-10-24 cs.LG physics.comp-ph physics.flu-dyn
Understanding microbiome dynamics via interpretable graph representation learning
Freie Universität Berlin(柏林自由大学);Zuse Institute Berlin(柏林祖斯研究所)
微生物组构成的大规模扰动,无论是作为驱动因素还是结果,都与人体生理的健康和功能密切相关。然而,由于微生物之间存在大量复杂的相互作用,了解健康和患病个体的微生物组特征的差异可能很复杂。我们建议将这些相互作用建模为一个时间演化图,其节点是微生物,边缘是它们之间的相互作用。出于分析这种复杂相互作用的需要,我们开发了一种方法,该方法学习时间演化图的低维表示,并保持高维空间中发生的动态。通过我们的实验,我们证明了我们可以提取对模型影响最大的图特征,如节点或边的集群,以学习低维表示。这些信息对于识别与临床疾病密切相关的微生物及其相互作用至关重要。我们在合成和真实世界的微生物组数据集上进行实验。
2022-09-07 cs.LG math.DS q-bio.QM
Interpretable Graph Neural Networks for Tabular Data
KTH Royal Institute of Technology(瑞典皇家理工学院);École Polytechnique, Institut Polytechnique de Paris(巴黎综合理工学院,巴黎理工学院)
针对现有表格数据GNN模型的黑盒问题,提出可解释模型IGNNet,性能与XGBoost等前沿算法相当,且能无额外开销得到与真实Shapley值一致的解释。
2024-08-13 cs.AI cs.LG
Smart Contract Vulnerability Detection: From Pure Neural Network to Interpretable Graph Feature and Expert Pattern Fusion
Zhejiang University(浙江大学);National University of Singapore(新加坡国立大学);Shandong Normal University(山东师范大学)
智能合约持有价值数十亿美元的数字货币,其安全问题在过去几年中引起了广泛关注。对于智能合约漏洞检测,传统方法严重依赖于固定的专家规则,导致准确性低,可扩展性差。最近的深度学习方法缓解了这个问题,但未能编码有用的专家知识。在本文中,我们探索以一种可解释的方式将深度学习与专家模式相结合。具体来说,我们开发自动工具,从源代码中提取专家模式。然后,我们将代码转换为语义图以提取深度图特征。然后,融合全局图特征和局部专家模式,以合作并接近最终预测,同时产生其可解释的权重。实验在以太坊和VNT Chain两个平台上的所有可用的智能合约上进行。从经验上讲,我们的系统明显优于最先进的方法。我们的代码被释放了。
2021-06-17 cs.LG cs.PL
EEG-GMACN: Interpretable EEG Graph Mutual Attention Convolutional Network
Coventry University(考文垂大学);Institute for Infocomm Research, A*STAR(新加坡科技研究局信息通信研究所)
提出EEG-GMACN模型,通过引入逆图权重模块和互注意力机制提升EEG分析的可解释性与临床可信度,并采用可信度校准评估预测不确定性。
2024-12-15 cs.LG eess.SP
GraphWeave: Interpretable and Robust Graph Generation via Random Walk Trajectories
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
GraphWeave通过分离模式生成与图构建,利用随机游走轨迹生成真实图,优于现有方法,尤其在大规模图结构上表现突出,且速度快。
2025-09-22 cs.LG
Efficient and Interpretable Robot Manipulation with Graph Neural Networks
Facebook AI Research(Facebook 人工智能研究院)
操作任务,如装载洗碗机,可以被视为一系列空间约束和不同对象之间的关系。我们的目标是发现这些规则,从演示构成操纵作为一个分类问题的图,其节点代表任务相关的实体,如对象和目标,并提出了一个图神经网络(GNN)的政策架构,解决这个问题的演示。在我们的实验中,使用模仿学习(IL)在20个专家演示中训练的单个GNN策略可以解决块堆叠,重排和洗碗机装载任务;一旦策略学习了空间结构,它就可以推广到更多的对象,目标配置,并从模拟到现实世界。这些实验表明,图形IL可以解决复杂的长期操作问题,而不需要详细的任务描述。视频可以在https://youtu.be/POxaTDAj7aY上找到。
2022-01-12 cs.LG cs.RO
CIExplainer++: Generating Causal and Interpretable Explanations for Graph Neural Networks
NOVA LINCS;NOVA School of Science and Technology(NOVA科技学院)
提出CIExplainer方法,基于潜在结果框架识别对GNN预测因果影响最大的子图,并进一步提出G2TeXplainer将因果子图转化为自然语言解释。
2026-06-23 cs.LG stat.OT
Interpretable Graph Networks Formulate Universal Algebra Conjectures
Università di Siena(锡耶纳大学);University of Cambridge(剑桥大学)
本研究首次将AI应用于泛代数领域,提出适配AI的数据集生成算法与可构建全可解释图网络的新型神经层,在保证准确率的同时实现强泛化,可验证现有猜想并助力提出新猜想。
2023-05-17 cs.AI cs.LG
Interpretable Multi-View Clustering Based on Anchor Graph Tensor Factorization
Xidian University(西安电子科技大学);State Key Laboratory of Integrated Services Networks(综合业务网国家重点实验室)
针对现有基于锚图分解的多视图聚类方法可解释性不足、忽略视图间信息的问题,提出利用非负张量分解融合多视图锚图的方法,提升了聚类可解释性,经实验验证了有效性。
2024-10-30 cs.LG
TopInG: Topologically Interpretable Graph Learning via Persistent Rationale Filtration
School of Computer Science, Shanghai Jiao Tong University, Shanghai, China(上海交通大学计算机科学学院);Department of Computer Science, Rutgers University, Piscataway, NJ, USA(罗格斯大学计算机科学系)
TopInG提出基于持久同调的拓扑框架,通过理性过滤学习识别持久理性子图,引入拓扑差异约束,在预测性能与可解释性上超越现有方法。
2025-10-06 cs.AI cs.CG cs.LG
Surrogate Interpretable Graph for Random Decision Forests
Center for Artificial Intelligence in Public Health Research (ZKI-PH)(人工智能与公共卫生研究所以(ZKI-PH));Robert Koch Institute(罗伯特·科赫研究所);Department of Mathematics and Computer Science(数学与计算机科学系);Free University of Berlin(柏林自由大学)
本文提出代理可解释图方法,利用图与混合整数线性规划分析随机森林中的全局特征交互,以提升健康信息学等高风险领域的可解释性与合规性。
2025-05-17 cs.AI cs.LG
Leakage Safe Graph Features for Interpretable Fraud Detection in Temporal Transaction Networks
The University of Tulsa(塔尔萨大学)
本文提出了一种用于时间交易网络中可解释欺诈检测的泄漏安全图特征提取方法,通过构建交易图并计算结构描述符,结合因果变异特征和随机森林分类器,提升欺诈检测的可解释性和实用性。
2026-02-24 cs.CR cs.LG