ChemHGNN: A Hierarchical Hypergraph Neural Network for Reaction Virtual Screening and Discovery
University of Notre Dame（诺丁汉大学）；Caltech（加州理工学院）；University of Washington（华盛顿大学）
针对传统GNN难以建模多反应物相互作用的问题，提出融合层级特征与反应中心感知负采样的超图神经网络ChemHGNN，在USPTO数据集上性能优于基线，为加速反应发现提供新框架。
2025-05-21 cs.LG
Hierarchical Graph Capsule Network
Tencent AI Lab（腾讯AI实验室）
图神经网络（GNN）从结构化数据的拓扑信息的显式建模中汲取力量。然而，现有的GNN在捕获在图分类中起重要作用的分层图表示方面的能力有限。在本文中，我们创新性地提出了层次图胶囊网络（HGCN），可以联合学习节点嵌入和提取图层次。具体而言，通过识别每个节点下的异构因素来建立解纠缠图胶囊，使得它们的实例化参数表示相同实体的不同属性。为了学习分层表示，HGCN通过显式地考虑部分之间的结构信息来表征较低级别的胶囊（部分）和较高级别的胶囊（整体）之间的部分-整体关系。实验研究证明了HGCN的有效性和每个组件的贡献。
2021-03-27 cs.LG cs.SI
A Novel Genetic Algorithm with Hierarchical Evaluation Strategy for Hyperparameter Optimisation of Graph Neural Networks
Heriot-Watt University（赫瑞-瓦特大学）；University of Aberdeen（阿伯丁大学）
结构化数据的图形表示可以促进立体特征的提取，并且在与深度学习系统（所谓的图神经网络（GNN））一起工作时，它已经表现出出色的能力。选择一个有前途的架构来构建GNN可以转移到一个超参数优化问题，这是一个非常具有挑战性的任务，因为底层搜索空间的大小和评估候选GNN的高计算成本。为了解决这个问题，本研究提出了一种新的遗传算法与分层评估策略（HESGA），它结合了全面评估的GNNs的快速评估方法。通过使用完全评估，GNN由一组超参数值表示，并在指定的数据集上进行训练，均方根误差（RMSE）将用于衡量由超参数值集表示的GNN的质量（对于回归问题）。虽然在所提出的快速评估过程中，训练将在早期阶段中断，但开始和中断时期之间的RMSE值的差异将被用作快速分数，这意味着GNN的潜力正在被考虑。为了协调这两种类型的评估，所提出的分层策略使用较低级别的快速评估来推荐候选人到更高级别，其中全面评估将作为最终评估者来维护一组精英个体。为了验证HESGA的有效性，我们将其应用于优化两种类型的深度图神经网络。在三个基准数据集上的实验结果表明，与贝叶斯超参数优化相比，该方法具有明显的优势.
2021-01-26 cs.LG cs.NE
Hierarchical Structure Sharing Empowers Multi-task Heterogeneous GNNs for Customer Expansion
Rutgers University（罗格斯大学）；Florida State University（佛罗里达州立大学）
针对物流客户拓展中异构GNN多任务学习的结构模式混淆问题，提出SrucHIS框架，通过分阶段结构共享提升性能，在私有和公共数据集上分别提升51.41%平均精度和10.52%宏F1，并实际部署带来显著业务增长。
2025-08-04 cs.LG
Hierarchical GNNs for power flow: letting physics shape the hierarchy
Vicomtech Foundation（维康科技基金会）；University of the Basque Country (UPV/EHU)（巴斯克大学）
本研究提出层次化潜在通信模块，通过Kron缩减图改进多电网潮流模型，在训练拓扑上将电压误差降低85%，实现跨运行场景泛化，但跨拓扑泛化仍待提升。
2026-10-27 cs.AI cs.LG
Injecting Hierarchical Biological Priors into Graph Neural Networks for Flow Cytometry Prediction
University of Geneva（日内瓦大学）；Geneva University Hospital（日内瓦大学医院）
本研究提出一种名为FCHC-GNN的分层插件方法，将生物学先验知识注入图神经网络用于流式细胞术数据的单细胞多类分类，在19名患者队列上验证了其能显著提升预测性能与泛化能力。
2024-07-27 cs.AI cs.LG q-bio.QM
SHAKE-GNN: Scalable Hierarchical Kirchhoff-Forest Graph Neural Network
LIX, Ecole Polytechnique, IP Paris（LIX，巴黎高等理工学院，IP巴黎）
针对大规模图级GNN扩展难题，提出基于基尔霍夫森林分层结构的SHAKE-GNN框架，引入数据驱动的权衡参数选择策略，在多图分类基准上实现性能与可扩展性的平衡。
2026-09-01 cs.LG stat.ML
MarkovGNN: Graph Neural Networks on Markov Diffusion
Indiana University Bloomington（印第安纳大学伯明顿分校）
大多数真实世界的网络都包含定义明确的社区结构，其中社区内部的节点紧密相连。为了从这些网络中学习，我们开发了MarkovGNN，它直接在不同的卷积层中捕获社区的形成和演变。与大多数图神经网络（GNN）在每一层都考虑静态图不同，MarkovGNN使用马尔可夫过程生成不同的随机矩阵，然后在不同的层中使用这些社区捕获矩阵。MarkovGNN是一种通用的方法，可以与大多数现有的GNN一起使用。我们的实验表明，MarkovGNN在聚类、节点分类和可视化任务方面优于其他GNN。MarkovGNN的源代码可在\url{https://github.com/HipGraph/MarkovGNN}上公开获得。
2022-04-29 cs.AI cs.LG
The Interpretable and Effective Graph Neural Additive Networks
Blavatnik School of Computer Science Tel-Aviv University（塔尔米大学比拉维克计算机科学学院）；Edmond J. Safra Center for Bioinformatics Tel-Aviv University（塔尔米大学埃德蒙·J·萨弗生科信息中心）
提出图神经加性网络（GNAN），通过直接可视化在特征和图层面提供全局与局部解释，实现与黑盒GNN相当的准确性，适用于高风险透明性场景。
2026-11-03 cs.AI cs.LG
Uncertainty-aware Attention Graph Neural Network for Defending Adversarial Attacks
University of California, Santa Barbara（加利福尼亚大学圣巴巴拉分校）
随着基于图的学习的日益普及，图神经网络（GNN）成为从图中获得洞察力的重要工具。然而，与已经被广泛探索和彻底测试的传统CNN不同，人们仍然担心GNN在关键环境下的鲁棒性，例如金融服务。主要原因是现有的GNN通常在预测中充当黑箱，并且不提供预测的不确定性。另一方面，贝叶斯深度学习在CNN上的最新进展已经证明了它在量化和解释这种不确定性以加强CNN模型方面的成功。受这些观察的启发，我们提出了UAG，这是第一个通过识别和利用GNN中的层次不确定性来防御对GNN的对抗攻击的系统解决方案。UAG开发了贝叶斯不确定性技术（BUT）来明确捕获GNN中的不确定性，并进一步采用不确定性感知注意力技术（UAT）来防御对GNN的对抗攻击。密集的实验表明，我们提出的防御方法优于国家的最先进的解决方案的显着保证金。
2020-09-22 cs.LG stat.ML
Visualization and Analysis of the Loss Landscape in Graph Neural Networks
Faculty of Computer Science, University of Vienna（计算机科学系，维也纳大学）；University of Vienna（维也纳大学）
本文提出一种高效的可学习降维方法来可视化GNN损失景观，并分析了多种技术对GNN优化的影响，为架构与训练策略设计提供了新见解。
2025-09-15 cs.LG
ENADPool: The Edge-Node Attention-based Differentiable Pooling for Graph Neural Networks
School of Artificial Intelligence, Beijing Normal University（北京师范大学人工智能学院）；School of Information, Central University of Finance and Economics（中央财经大学信息学院）；Key Laboratory of Intelligent Education Technology and Application of Zhejiang Province, Zhejiang Normal University（浙江师范大学浙江省智能教育技术与应用重点实验室）；Department of Computer Science, University of York（约克大学计算机科学系）
该研究提出基于边-节点注意力的可微池化ENADPool，结合硬聚类与注意力机制优化图表示聚合，同时配套多距离GNN模型缓解过平滑问题，实验验证了方法的有效性。
2024-05-16 cs.AI cs.LG
Hierarchical Representation Learning in Graph Neural Networks with Node Decimation Pooling
UiT the Arctic University of Norway（挪威北极大学）；NORCE, Norwegian Research Centre（挪威NORCE研究中心）；Università della Svizzera italiana（意大利语瑞士大学）；University of Manitoba（曼尼托巴大学）；University of Exeter（埃克塞特大学）；Politecnico di Milano（米兰理工大学）
提出Node Decimation Pooling（NDP）池化算子，通过谱算法剔除节点、Kron reduction连接和稀疏化修剪，在保持图拓扑的同时生成粗化图，显著提升了GNN的计算效率且保持分类性能。
2024-04-20 cs.LG math.SP stat.ML
Generalization, Expressivity, and Universality of Graph Neural Networks on Attributed Graphs
Technion – IIT Faculty of Mathematics（技术学院-理工学院数学系）；MIT Dept of EECS and CSAIL（麻省理工学院电子工程与计算机科学系和计算机科学与人工智能实验室）；TUM School of CIT MCML MDSI（技术大学计算机信息科技学院MCML MDSI）
本研究提出属性图上的伪度量，证明GNN的Lipschitz连续性、分离性及空间相对紧致性，进而建立普适逼近定理与泛化界，统一并扩展了先前理论。
2025-08-26 cs.LG
RelMap: Reliable Spatiotemporal Sensor Data Visualization via Imputative Spatial Interpolation
School of Computer Science and Technology, East China Normal University（东华师范大学计算机科学与技术学院）；School of Management, Zhejiang University（浙江大学管理学院）
本文提出RelMap，一种结合图神经网络插值参考数据与不确定性编码热力图的可视化流程，显著提升时空传感器数据插值的可靠性与可视化效果。
2025-08-02 cs.HC cs.LG
HiSTGNN: Hierarchical Spatio-temporal Graph Neural Networks for Weather Forecasting
由于天气预报对人类生活的影响和大气运动的复杂性，天气预报是一项极具吸引力和挑战性的任务。在大量历史观测时间序列数据的支持下，该任务适用于数据驱动的方法，特别是深度神经网络。近年来，基于图神经网络（GNNs）的时空预测方法取得了优异的性能。然而，基于GNNS的规范方法只能单独建模每个站点的气象变量的局部图或整个站点的全局图，缺乏不同站点的气象变量之间的信息交互。本文提出了一种新的层次时空图神经网络（HiSTGNN）模型，用于模拟多站气象变量之间的跨区域时空相关性。采用自适应图学习层和空间图卷积构造自学习图，研究变量级图和站点级图节点间的隐藏依赖关系。为了捕获时间模式，设计了作为门时间卷积的骨干的扩张的起始来模拟长期和各种气象趋势。此外，提出了一种动态交互学习的层次图中建立双向的信息传递。在三个真实气象数据集上的实验结果表明，HiSTGNN在7个基线之外具有优异的性能，与最先进的天气预报方法相比，其误差降低了4.2%至11.6%。
2022-09-19 cs.AI cs.LG
Automatic Relation-aware Graph Network Proliferation
University of Chinese Academy of Sciences（中国科学院大学）；University of Rochester（罗切斯特大学）；University of Science and Technology of China（中国科学技术大学）；Peng Cheng Laboratory（鹏城实验室）
由于图神经网络在许多关系型任务中表现出强大的推理能力，图神经结构搜索引起了人们的广泛关注。然而，目前使用的图搜索空间过于强调学习节点特征，而忽略了层次关系信息的挖掘。此外，由于消息传递中的不同机制，图搜索空间比CNN大得多。这阻碍了经典的搜索策略在复杂图搜索空间中的直接应用。我们提出了自动感知图网络增殖（ARGNP），用于通过关系引导的消息传递机制有效地搜索GNN。具体来说，我们首先设计了一个新的双重关系感知图搜索空间，包括节点和关系学习操作。这些操作可以提取层次节点/关系信息，并为图上的消息传递提供各向异性指导。其次，类似于细胞增殖，我们设计了一个网络增殖搜索范式，通过迭代执行网络划分和分化来逐步确定GNN架构。针对四个图学习任务的六个数据集的实验表明，由我们的方法产生的GNN优于当前最先进的手工制作和基于搜索的GNN。代码可在https://github.com/phython96/ARGNP上获得。
2022-05-31 cs.AI cs.CV cs.LG
Multivariate Time Series Classification with Hierarchical Variational Graph Pooling
Chongqing University（重庆大学）；Zhejiang University（浙江大学）；University of California, Los Angeles（加州大学洛杉矶分校）
随着传感技术的发展，多元时间序列分类（MTSC）近年来受到了广泛的关注。现有的基于深度学习的MTSC技术主要依赖于卷积或递归神经网络，主要关注单个时间序列的时间依赖性。因此，他们很难直接表达多变量之间的成对依赖关系。此外，当前的时空建模（例如，基于图神经网络（GNN）的图分类）方法本质上是扁平的，并且不能以分级方式聚集中心数据。为了解决这些局限性，我们提出了一种新的基于图池的框架MTPool，以获得富有表现力的全局表示MTS。首先通过图结构学习模块利用变量间的相互作用将MTS切片转换为图，并通过时间卷积模块获得时空图节点特征。为了得到全局图级表示，我们设计了一个基于“编码器-解码器”的变分图池模块，用于创建自适应聚类分配的质心。然后，我们将GNN和我们提出的变分图池层结合起来，用于联合图表示学习和图粗化，之后图逐渐粗化到一个节点。最后，一个可微分类器采用这种粗化的表示来得到最终的预测类。在10个基准数据集上的实验表明，MTPool在MTSC任务中的性能优于最先进的策略。
2021-11-06 cs.AI cs.LG
M4GN: Mesh-based Multi-segment Hierarchical Graph Network for Dynamic Simulations
Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）
提出M4GN，一种三层分段层次图网络，通过混合分割和排列不变聚合器结合微观GNN与宏观transformer，在保持细尺度精度的同时显著提升大规模PDE仿真的效率和准确性。
2025-09-12 cs.CE cs.LG physics.comp-ph
Hierarchical Pooling and Explainability in Graph Neural Networks for Tumor and Tissue-of-Origin Classification Using RNA-seq Data
Institute of Informatics（信息学院）；Universidade Federal do Rio Grande do Sul（鲁汶联邦大学）；Bioinformatics Core（生物信息学核心）；Hospital de Clínicas de Porto Alegre（波多利亚临床医院）
本文提出了一种基于图神经网络的层次池化方法，用于通过RNA-seq数据分类肿瘤和组织来源，通过可解释性分析揭示了癌症相关基因和生物学过程。
2026-01-10 cs.LG q-bio.GN
Explaining Vision GNNs: A Semantic and Visual Analysis of Graph-based Image Classification
National Technical University of Athens（国家技术大学雅典）
本研究分析了基于GNN的图像分类器在不同层的图语义一致性，通过量化层间连接、对比标准与对抗设置及热图可视化，发现模型决策可有效解释但其深层推理与人类感知不完全一致。
2025-04-28 cs.CV cs.LG
Diffusing Graph Attention
Tel-Aviv University（特拉维夫大学）；Technion（以色列理工学院）
图上机器学习的主要范例使用消息传递图神经网络（MP-GNN），其中节点表示通过聚合其局部邻域中的信息来更新。最近，已经有越来越多的尝试使Transformer架构适应于图形，以努力解决MP-GNN的一些已知限制。设计图Transformers的一个挑战性方面是将任意图结构集成到体系结构中。我们提出了图扩散器（GD）来解决这一挑战。GD学习提取图中遥远节点之间的结构和位置关系，然后使用这些关系来引导Transformer的注意力和节点表示。我们展示了现有的GNN和Graph Transformers很难捕捉远程交互，以及Graph Diffuser如何在承认直观可视化的同时做到这一点。在八个基准测试上的实验表明，Graph Diffuser是一个非常有竞争力的模型，在不同的领域中表现优于最先进的模型。
2023-03-01 cs.LG
Hierarchical Estimation for Effective and Efficient Sampling Graph Neural Network
Institute of Computing Technology (ICT), Chinese Academy of Sciences (CAS)（中国科学院计算技术研究所）
提高GNN的可扩展性对于大型图至关重要。现有的方法利用三种抽样范式，包括逐点抽样，逐层抽样和子图抽样，然后设计无偏估计的可扩展性。然而，高方差仍然严重阻碍了GNN的性能。针对以往研究缺乏方差分析或只关注某一特定抽样范式的问题，提出了一个统一的节点抽样方差分析框架，分析了最小方差抽样的核心挑战“循环依赖”，即最小方差抽样的循环依赖性。例如，采样概率取决于节点嵌入，而节点嵌入直到采样完成才能计算。现有的研究要么忽略节点嵌入，要么引入外部参数，导致缺乏一种既高效又有效的方差缩减方法。因此，我们提出了基于\textbf{S}的\textbf{H}算法\textbf{E}估计的广义广义图神经网络（HE-SGNN），第一层估计节点嵌入的采样概率，以打破循环依赖，第二层利用采样GNN算子估计节点在整个图上的表示.考虑到技术上的差异，我们提出了不同的第一层估计，即，分层采样的时间序列模拟和子图采样的基于特征的模拟。在7个有代表性的数据集上的实验结果证明了该方法的有效性和效率。
2022-11-16 cs.AI cs.LG
ACE-HGNN: Adaptive Curvature Exploration Hyperbolic Graph Neural Network
Beihang University（北京航空航天大学）；Macquarie University（麦考瑞大学）；Central South University（中南大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
图神经网络在各种图数据采掘任务中得到了广泛的研究。大多数现有的GNN将图数据嵌入到欧几里得空间中，因此在捕获现实世界网络中无处不在的层次结构方面效率较低。双曲图神经网络（HGNNs）将GNNs扩展到双曲空间，因此在节点表示学习中更有效地捕获图的层次结构。在双曲几何中，图的层次结构可以通过双曲空间的曲率来反映，并且不同的曲率可以模拟图的不同层次结构。然而，为了简单起见，大多数现有的HGNN手动将曲率设置为固定值，由于图的复杂和多样的层次结构，这实现了图学习的次优性能。为了解决这个问题，我们提出了一个自适应曲率探索双曲图神经网络命名为ACE-HGNN自适应学习最佳曲率根据输入图和下游任务。具体来说，ACE-HGNN利用多智能体强化学习框架，并包含两个代理，ACE-Agent和HGNN-Agent分别用于学习曲率和节点表示。两个智能体通过NashQ学习算法协同更新，寻求以曲率为索引的最优双曲空间。在多个真实世界图数据集上进行的大量实验表明，模型质量得到了显着和一致的性能改善，具有竞争力的性能和良好的泛化能力。
2021-10-15 cs.LG cs.SI
DualEquiNet: A Dual-Space Hierarchical Equivariant Network for Large Biomolecules
The Pennsylvania State University（宾夕法尼亚州立大学）
针对大型生物分子建模的挑战，提出双空间分层等变网络 DualEquiNet，通过在欧几里得与球谐函数空间构建互补表示并结合跨空间交互池化机制实现多尺度建模，在 RNA 与蛋白质等多项基准任务上取得最优性能。
2025-06-10 cs.AI cs.LG q-bio.BM
Hierarchical geometric deep learning enables scalable analysis of molecular dynamics
Department of Chemistry（化学系）；James Franck Institute, University of Chicago（詹姆斯·弗兰克研究所，芝加哥大学）
层次化几何深度学习通过聚合局部信息，实现了对大规模分子动力学模拟的高效分析，提高了性能和可解释性。
2025-12-06 cond-mat.stat-mech cs.LG physics.comp-ph
Tree Mover's Distance: Bridging Graph Metrics and Stability of Graph Neural Networks
MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）
理解机器学习模型的泛化和鲁棒性从根本上依赖于在数据空间上假设适当的度量。识别这样的度量对于非欧几里德数据（如图）特别具有挑战性。在这里，我们提出了一个伪度量的属性图，树移动器的距离（TMD），并研究其关系的推广。通过一个分层的最优传输问题，TMD反映了节点属性的局部分布以及局部计算树的分布，这是已知的图神经网络（GNNs）的学习行为的决定性。首先，我们证明了TMD捕获了与图分类相关的属性：一个简单的TMD-SVM与标准GNNs竞争。其次，我们将TMD与分布偏移下GNNs的推广联系起来，并表明它与这种偏移下的性能下降相关。
2022-10-04 cs.LG stat.ML
High-Level Synthesis Performance Prediction using GNNs: Benchmarking, Modeling, and Advancing
University of California, Santa Barbara（加州大学圣巴巴拉分校）；Nankai University（南开大学）；Purdue University（普渡大学）；Georgia Institute of Technology（佐治亚理工学院）
敏捷硬件开发需要从早期设计阶段就进行快速准确的电路质量评估。现有的高层次综合（HLS）性能预测工作通常需要在综合过程之后进行大量的特征工程。为了从尽可能早的设计阶段加快电路评估，我们提出了一种快速准确的性能建模，利用图神经网络（GNNs）的表示能力，表示C/C ++程序作为图形。这项工作的贡献是三方面的。首先，我们建立了一个标准的基准测试包含40k C合成程序，其中包括合成程序和三套真实世界的HLS基准测试。每个程序都在FPGA上实现，以生成地面实况性能指标。其次，我们在图上正式制定了HLS性能预测问题，并提出了使用GNN的多种建模策略，这些策略利用了预测及时性（早期/晚期预测）和准确性之间的不同权衡。第三，我们进一步提出了一种新的分层GNN，它不会牺牲及时性，但大大提高了预测精度，显著优于HLS工具。我们对合成和看不见的真实案例程序进行了广泛的评估;我们提出的预测器在资源使用和时序预测方面大大优于HLS高达40倍，优于现有预测器2倍至5倍。
2022-01-18 cs.AR cs.LG
FreeKD: Free-direction Knowledge Distillation for Graph Neural Networks
Beijing Institute of Technology（北京理工大学）
知识蒸馏（KD）已经证明了它对提高图神经网络（GNN）性能的有效性，其目标是将知识从更深的教师GNN提取到更浅的学生GNN。然而，由于过度参数化和过度平滑的问题，实际上很难训练出令人满意的教师GNN，导致实际应用中的无效知识转移。在本文中，我们通过对GNN的强化学习提出了第一个自由方向知识蒸馏框架，称为FreeKD，它不再需要提供更深层次的优化教师GNN。我们工作的核心思想是协作构建两个较浅的GNN，以分层的方式通过强化学习在它们之间交换知识。由于我们观察到一个典型的GNN模型在训练过程中往往在不同的节点上表现得更好和更差，我们设计了一个动态的、自由方向的知识转移策略，该策略包括两个层次的动作：1）节点层次的动作决定了两个网络中相应节点之间的知识转移方向;然后2）结构级动作确定要传播由节点级动作生成的哪些局部结构。从本质上讲，我们的FreeKD是一个通用的原则性框架，可以自然地与不同架构的GNN兼容。在五个基准数据集上进行的大量实验表明，我们的FreeKD在很大程度上优于两个基本GNN，并显示了其对各种GNN的有效性。更令人惊讶的是，我们的FreeKD具有与传统KD算法相当甚至更好的性能，传统KD算法从更深更强的教师GNN中提取知识。
2023-03-27 cs.LG
Graph Neural Networks in Histopathology: Emerging Trends and Future Directions
Leiden University Medical Center（莱顿大学医学中心）；Amsterdam University Medical Center（阿姆斯特丹大学医学中心）
本文是组织病理学领域GNNs的综述，梳理其应用现状，通过定量文献分析总结出四大新兴趋势，并提出未来发展方向，为相关研究与实践提供指引。
2024-06-21 cs.AI cs.CV cs.LG
Hierarchical Inter-Message Passing for Learning on Molecular Graphs
TU Dortmund University（多特蒙德工业大学）
我们提出了一个分层的神经消息传递结构的分子图上学习。我们的模型采用两种互补的图表示：原始分子图表示及其相关的连接树，其中节点表示原始图中有意义的簇，例如，环或桥连化合物。然后，我们通过在每个图中传递消息来学习分子的表示，并使用粗到细和细到粗的信息流在两种表示之间交换消息。我们的方法能够克服经典GNN的一些限制，如检测周期，同时仍然非常有效地进行训练。我们验证其性能的ZINC数据集和数据集源于MoleculeNet基准集合。
2020-06-22 cs.LG stat.ML
Multi-Scale Protein Structure Modelling with Geometric Graph U-Nets
University of Cambridge（剑桥大学）
本文提出几何图U-网络，通过递归粗化和细化蛋白质图，实现多尺度结构建模，显著提升蛋白质折叠分类性能。
2025-12-07 cs.LG
Hierarchical Attention Models for Multi-Relational Graphs
University of California, Los Angeles（加州大学洛杉矶分校）
该研究提出结合双层注意力与关系图卷积的BR-GCN模型，将Transformer和GAT注意力拓展到大规模异构图，在节点分类、链路预测任务上性能优于现有基线，且具备可扩展性。
2024-04-14 cs.LG
Towards Interpretable Sparse Graph Representation Learning with Laplacian Pooling
InVivo AI；Mila（米拉计算研究所）
最近在图神经网络（GNNs）中的工作已经导致分子活性和性质预测任务的改进。不幸的是，GNN通常无法捕捉分子亚结构之间相互作用的相对重要性，部分原因是缺乏有效的中间合并步骤。为了解决这些问题，我们提出了LaPool（拉普拉斯池），一种新颖的，数据驱动的，可解释的分层图池方法，考虑到节点的功能和图形结构，以提高分子表示。我们在分子图预测和理解任务上对LaPool进行了基准测试，并表明它的性能优于最近的GNN。有趣的是，LaPool在非分子任务上也保持着竞争力。定量和定性评估都是为了证明LaPool改进的可解释性，并突出其在药物设计中的潜在好处。最后，我们证明了LaPool的效用，通过将其纳入一个对抗性的自动编码器的有效和新颖的分子的生成。
2020-04-02 cs.LG q-bio.BM stat.ML
Hierarchical Graph Neural Networks for Particle Track Reconstruction
Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）；University of California（加利福尼亚大学）
我们介绍了一种新的变体GNN的粒子跟踪称为层次图神经网络（HGNN）。该架构创建了一组对应于轨道的更高级别的表示，并将空间点分配给这些轨道，允许将断开的空间点分配给同一轨道，以及多个轨道共享同一空间点。我们提出了一种新的可学习的池化算法，称为GMPool，以生成这些称为“超级节点”的更高级别的表示，以及专门为跟踪问题和HGNN设计的新损失函数。在一个标准的跟踪问题，我们表明，与以前的ML为基础的跟踪算法相比，HGNN具有更好的跟踪效率性能，更好的鲁棒性对低效的输入图，以及更好的收敛性相比，传统的GNNs。
2023-03-03 cs.LG hep-ex
ROLAND: Graph Learning Framework for Dynamic Graphs
Stanford University（斯坦福大学）
图神经网络（GNNs）已经成功地应用于许多现实世界的静态图。然而，由于模型设计、评估设置和训练策略的限制，静态图的成功还没有完全转化为动态图。具体地说，现有的动态GNN没有结合静态GNN的最新设计，这限制了它们的性能。动态GNN的当前评估设置不能完全反映动态图的演变性质。最后，动态GNN的常用训练方法是不可扩展的。在这里，我们提出了ROLAND，一个有效的图形表示学习框架，为现实世界的动态图形。在其核心，ROLAND框架可以帮助研究人员轻松地将任何静态GNN重新用于动态图形。我们的见解是将不同GNN层的节点嵌入视为分层节点状态，然后随着时间的推移循环更新它们。然后，我们为动态图引入了一个实时更新评估设置，该设置模拟了真实世界的用例，其中GNN正在进行预测并在滚动的基础上进行更新。最后，我们通过增量训练和元学习为动态GNN提出了一种可扩展且高效的训练方法。我们在八个不同的动态图数据集上对未来的链接预测任务进行了实验。在三个数据集的标准评估设置下，使用ROLAND框架构建的模型相对于最先进的基线平均实现了62.7%的相对平均倒数秩（MRR）改进。我们发现，对于较大的数据集，最先进的基线会出现内存不足的错误，而ROLAND可以轻松扩展到具有5600万条边的动态图形。在使用ROLAND培训策略重新实施这些基线后，ROLAND模型仍然比基线平均提高了15.5%的相对MRR。
2022-08-15 cs.AI cs.LG cs.SI
Structure-Aware Hierarchical Graph Pooling using Information Bottleneck
Independent University Bangladesh（孟加拉独立大学）
图池是图神经网络（GNN）在图分类和回归任务中的重要组成部分。对于这些任务，已经提出了不同的池化策略，以通过下采样和总结图中节点的特征来生成图级表示。然而，大多数现有的池化方法无法有效地捕获可区分的结构信息。此外，他们容易受到对抗攻击。在这项工作中，我们提出了一种新的池化方法命名为{HIBPool}，我们利用信息瓶颈（IB）的原则，最佳地平衡了模型的表达性和鲁棒性，以学习输入数据的表示。此外，我们引入了一种新的结构感知的判别池读出（{DiP-Readout}）功能，以捕获图中的信息局部子图结构。最后，我们的实验结果表明，我们的模型显着优于其他国家的最先进的方法在几个图分类基准和更有弹性的特征扰动攻击比现有的池化方法。
2021-04-27 cs.LG
AutoSchA: Automatic Hierarchical Music Representations via Multi-Relational Node Isolation
AutoSchA通过多关系节点隔离实现自动分层音乐表示，结合图神经网络提升音乐分析的自动化水平。
2025-12-20 cs.LG cs.SD
From GNNs to Trees: Multi-Granular Interpretability for Graph Neural Networks
Zhejiang University（浙江大学）；State Key Laboratory of Blockchain and Data Security（区块链与数据安全国家重点实验室）；Hangzhou High-Tech Zone (Binjiang) Institute of Blockchain and Data Security（杭州高新技术区（滨江区）区块链与数据安全研究院）；Big Graph Center, Hangzhou City University（杭州城市大学大数据中心）；Nanyang Technological University（南洋理工大学）
针对现有图神经网络可解释方法粒度固定的问题，提出树状可解释框架TIF，通过图粗化与扰动构建多粒度层次树，并利用自适应路由提供多粒度解释，在保持预测性能的同时显著提升可解释性。
2025-05-01 cs.LG
Towards Multiscale Graph-based Protein Learning with Geometric Secondary Structural Motifs
Department of Mathematics and Scientific Computing and Imaging (SCI) Institute University of Utah（数学与科学计算与成像研究所（SCI）大学）；Department of Mathematics, UCLA（数学系，加州大学洛杉矶分校）；Department of Mathematics, UC Davis（数学系，加州大学戴维斯分校）
本文提出了一种针对蛋白质的多尺度图学习框架，通过分层图结构和双GNN模型提升结构预测精度并降低计算成本。
2026-01-31 cs.AI cs.LG cs.NA
Bi-Level Attention Graph Neural Networks
University of California, Los Angeles（加州大学洛杉矶分校）
针对异构图中节点级与关系级注意力难以联合建模且关系依赖被忽视的问题，提出BA-GNN，利用局部邻域上下文分层建模两类交互，并在七个真实数据集上验证其优越性能与注意力可迁移性。
2023-04-23 cs.IR cs.LG
HPGNN: Using Hierarchical Graph Neural Networks for Outdoor Point Cloud Processing
University of Moratuwa（莫拉图瓦大学）
受最近自主导航点云处理改进的启发，我们专注于使用分层图神经网络对大规模户外LiDAR点云进行处理和特征学习。我们观察到现有的基于GNN的方法无法克服户外数据集中点的规模和不规则性的挑战。为了解决在有效地学习更大容量的同时保留结构细节的需要，我们提出了分层点图神经网络（HPGNN）。它学习图粗糙度不同级别的节点特征来提取信息。这使得可以在大型点云上学习，同时保留现有点级图网络难以实现的细节。多个级别之间的连接使点能够在几次迭代中学习多个尺度中的特征。我们将HPGNN设计为一种纯粹基于GNN的方法，因此它提供了与其他基于点的和Graph网络基线一样的模块化可扩展性。为了说明改进的处理能力，我们将以前的基于点的和GNN模型与我们的HPGNN进行了语义分割的比较，在SemanticKITTI数据集上实现了GNN（+36.7 mIoU）的显着改进。
2022-06-05 cs.CV cs.LG
Policy-GNN: Aggregation Optimization for Graph Neural Networks
Texas A&M University（德州农工大学）
图数据在许多现实世界的应用中是普遍存在的。近年来，图神经网络（graph neural networks，GNNs）越来越受到人们的关注。GNNs的目标是通过利用可堆叠的网络模块聚集来自邻居的信息来建模局部图结构并捕获层次模式。由于观察到不同的节点通常需要不同的聚合迭代才能完全捕获结构信息，因此在本文中，我们建议对不同节点的聚合迭代进行显式采样，以提高GNN的性能。这是一个具有挑战性的任务，制定一个有效的聚合策略，为每个节点，给定的复杂的图形和稀疏的功能。此外，由于我们需要将采样节点馈送到不同数量的网络层中，因此推导出有效的算法并不简单。为了解决上述挑战，我们提出了Policy-GNN，这是一个元策略框架，它将GNN的采样过程和消息传递建模为组合学习过程。具体来说，Policy-GNN使用元策略来自适应地确定每个节点的聚合数量。通过利用来自模型的反馈，使用深度强化学习（RL）来训练元策略。我们进一步引入参数共享和缓冲机制来提高训练效率。在三个真实世界基准数据集上的实验结果表明，Policy-GNN显著优于最先进的替代方案，显示了GNN聚合优化的前景。
2020-06-26 cs.LG stat.ML
Memory-Based Graph Networks
University of Toronto（多伦多大学）；Vector Institute（向量研究所）；Autodesk AI Lab（欧特克人工智能实验室）；Sharif University of Technology（谢里夫理工大学）
图神经网络（GNN）是一类深度模型，其对具有表示为图的任意拓扑的数据进行操作。我们为GNN引入了一个高效的内存层，可以联合学习节点表示并粗化图形。我们还介绍了基于这一层的两个新网络：基于记忆的GNN（MemGNN）和图形记忆网络（GMN），它们可以学习分层图形表示。实验结果表明，所提出的模型在九个图分类和回归基准测试中的八个中达到了最先进的结果。我们还表明，学习的表示可以对应于分子数据中的化学特征。代码和参考实现发布于：https://github.com/amirkhas/GraphMemoryNet
2020-06-10 cs.LG cs.NE stat.ML
Unsupervised Hierarchical Graph Representation Learning by Mutual Information Maximization
Clemson University（克莱姆森大学）
基于图神经网络（GNNs）的图表示学习可以大大提高节点分类和图分类等下游任务的性能。然而，一般的GNN模型不会以分层的方式聚合节点信息，并且可能会错过许多图的关键高阶结构特征。分层聚合还使得图形表示能够是可解释的。此外，监督图表示学习需要标记数据，这是昂贵的，容易出错。为了解决这些问题，我们提出了一种无监督图表示学习方法，无监督层次图表示（UHGR），它可以生成图的层次表示。我们的方法侧重于最大化“局部”和高级“全局”表示之间的互信息，这使我们能够在没有任何标记数据的情况下学习节点嵌入和图嵌入。为了证明所提出的方法的有效性，我们使用学习的节点和图嵌入执行节点和图分类。结果表明，所提出的方法取得了可比的结果，国家的最先进的监督方法在几个基准。此外，我们的可视化层次表示表明，我们的方法可以捕获有意义的和可解释的集群。
2020-07-29 cs.IT cs.LG math.IT
LiftPool: Lifting-based Graph Pooling for Hierarchical Graph Representation Learning
Shanghai Jiao Tong University（上海交通大学）
图池化越来越多地被考虑用于图神经网络（GNN）以促进分层图表示学习。现有的图池化方法通常包括两个阶段，即，选择排名靠前的节点并移除其余节点以构建粗化图表示。然而，由于节点（位置）及其特征（信号）的固有耦合，这些方法中不可避免地会丢失被删除节点的局部结构信息。在本文中，我们提出了一个增强的三阶段方法，通过提升，名为LiftPool，以提高层次图表示最大限度地保留局部结构信息图池。LiftPool在图粗化之前引入了一个额外的图提升阶段，以保留删除节点的局部信息，并将节点删除和特征约简的过程解耦。具体地，对于每个要被移除的节点，通过减去从其相邻的保留节点聚合的全局信息来获得其局部信息。随后，该局部信息被对齐并传播到保留的节点，以减轻图粗化中的信息丢失。此外，我们证明了所提出的LiftPool是本地化的和置换不变的。所提出的图提升结构通常与现有的基于下采样的图池化方法相结合。对基准图数据集的评估表明，LiftPool在图分类任务中的性能大大优于最先进的图池方法。
2022-04-27 cs.LG
Pre-training of Graph Augmented Transformers for Medication Recommendation
IQVIA（艾昆纬）；Georgia Institute of Technology（佐治亚理工学院）；IBM Research AI（IBM人工智能研究院）
药物推荐是一个重要的医疗保健应用。它通常被表述为时间预测任务。因此，大多数现有的作品只利用纵向电子健康记录（EHR）从少数患者多次访问忽略了大量的患者与一次访问（选择偏差）。此外，在表示学习过程中没有利用重要的分层知识，例如诊断分层。为了应对这些挑战，我们提出了G-BERT，这是一种新的模型，它结合了图神经网络（GNNs）和BERT（来自Transformers的双向编码器表示）的功能，用于医疗代码表示和药物推荐。我们使用GNN来表示医疗代码的内部层次结构。然后，我们将GNN表示集成到一个基于transformer的访问编码器中，并在来自仅进行一次访问的患者的EHR数据上对其进行预训练。然后，针对来自多次就诊的患者的纵向EHR的下游预测任务，对预先训练的就诊编码器和表示进行微调。G-BERT是第一个将语言模型预训练模式引入医疗保健领域的公司，它在药物推荐任务上取得了最先进的性能。
2019-11-27 cs.AI cs.CL cs.LG
Hierarchical Graph Pooling with Structure Learning
Zhejiang University（浙江大学）；Simon Fraser University（西蒙弗雷泽大学）；Alibaba Group（阿里巴巴集团）
图神经网络（GNN）将深度神经网络推广到图结构数据，已经引起了相当大的关注，并在许多与图相关的任务中实现了最先进的性能。然而，现有的GNN模型主要集中在设计图卷积运算。图池（或下采样）操作在学习分层表示中起着重要作用，但通常被忽视。在本文中，我们提出了一种新的图池操作，称为分层图池与结构学习（HGP-SL），它可以集成到各种图神经网络架构。HGP-SL将图池和结构学习集成到一个统一的模块中，以生成图的分层表示。更具体地，图池化操作自适应地选择节点的子集以形成用于后续层的导出子图。为了保持图的拓扑信息的完整性，我们进一步引入了一个结构学习机制，学习一个细化的图结构的池图在每一层。通过将HGP-SL算子与图神经网络相结合，我们进行了图级表示学习，重点是图分类任务。六个广泛使用的基准测试的实验结果证明了我们提出的模型的有效性。
2019-12-25 cs.LG stat.ML
HyPE-GT: where Graph Transformers meet Hyperbolic Positional Encodings
Indian Statistical Institute（印度统计研究所）
HyPE-GT框架在双曲空间生成可学习位置编码，既增强图变换器对图层次关系的捕捉能力，又减轻深度GNN的过平滑问题，经多类基准实验验证了其有效性。
2026-08-19 cs.LG
Hierarchical Uncertainty-Aware Graph Neural Network
Samsung SDS（三星 SDS）；KAIST（韩国科学技术院）；Samsung（三星）；Korea Institute of Energy Technology（韩国能源技术研究所）
本文提出HU-GNN框架，通过多尺度不确定性估计与自监督嵌入多样性统一建模，增强图神经网络在噪声和对抗扰动下的鲁棒性与可解释性，并在标准基准上取得最先进性能。
2025-05-05 cs.IR cs.LG
Hierarchical Pooling for Sheaf Neural Networks
UiT The Arctic University of Norway（挪威北极大学）；University of Cambridge（剑桥大学）；NORCE Norwegian Research Centre AS（挪威研究中心）
提出HiSP，一种基于局部谱粗化的层状感知池化框架，通过投影细层状值特征到簇内层状拉普拉斯算子的低频本征模来构建粗层，并分析粗化引起的近似误差。
2026-06-23 cs.LG
Hierarchical Graph Transformer with Adaptive Node Sampling
University of Science and Technology of China（中国科学技术大学）；Hong Kong University of Science and Technology（香港科技大学）；Tencent America（美国腾讯公司）
Transformer架构在包括自然语言处理和计算机视觉在内的多个领域取得了显著的成功。然而，当涉及到图结构数据时，Transformers还没有达到有竞争力的性能，特别是在大型图上。本文指出了当前图变换器的主要不足：（1）现有图Transformers中的节点采样策略与图的特征和训练过程无关。(2)大多数采样策略只关注局部邻居，而忽略了图中的长程依赖关系。我们在合成数据集上进行实验研究，以表明现有的采样策略是次优的。为了解决上述问题，我们制定了图Transformer中节点采样的优化策略作为一个对手的强盗问题，其中的奖励与注意力权重相关，并可以在训练过程中变化。同时，我们提出了一个分层的注意力计划与图粗化捕捉的远程相互作用，同时降低计算复杂性。最后，我们在真实世界的数据集上进行了广泛的实验，以证明我们的方法优于现有的图Transformers和流行的GNN。
2022-10-08 cs.AI cs.LG
Hierarchical Graph Representation Learning with Differentiable Pooling
Stanford University（斯坦福大学）；TU Dortmund University（多特蒙德工业大学）；University of Southern California（南加州大学）
最近，图神经网络（GNN）通过有效学习节点嵌入，彻底改变了图表示学习领域，并在节点分类和链接预测等任务中取得了最先进的成果。然而，目前的GNN方法本质上是平坦的，并且不学习图的分层表示-这一限制对于图分类任务来说尤其成问题，其中目标是预测与整个图相关联的标签。在这里，我们提出了DiffPool，一个可微分图池模块，可以生成图形的分层表示，并可以与各种图神经网络架构相结合的端到端的方式。DiffPool为深度GNN的每一层的节点学习可区分的软集群分配，将节点映射到一组集群，然后形成下一个GNN层的粗化输入。我们的实验结果表明，将现有的GNN方法与DiffPool相结合，与所有现有的池化方法相比，在图分类基准上平均提高了5-10%的准确率，在五个基准数据集中有四个达到了新的最先进水平。
2019-02-20 cs.LG cs.NE cs.SI
Why Attention Graphs Are All We Need: Pioneering Hierarchical Classification of Hematologic Cell Populations with LeukoGraph
University of Geneva（日内瓦大学）；Geneva University Hospital（日内瓦大学医院）
本文提出 LeukoGraph 框架，利用图注意力网络在流式细胞术构建的大规模图上进行血细胞群体层次化分类，在30名患者数据上达到98% F-score。
2024-02-28 cs.LG q-bio.CB
