Flow Matters: Directional and Expressive GNNs for Heterophilic Graphs
Mastercard India(Mastercard印度)
针对异配图节点分类问题,提出多项式表达GAT基线Poly及方向感知变体Dir-Poly,验证了边方向与特征表达建模的互补作用,在有向异配图上达SOTA。
2025-08-31 cs.LG
AGS-GNN: Attribute-guided Sampling for Graph Neural Networks
Purdue University(普渡大学);Pacific Northwest National Lab.(太平洋西北国家实验室);Boise State University(博伊西州立大学)
AGS-GNN提出属性引导采样算法,利用特征相似性与多样性双通道自适应处理同质/异质图,通过子模性实现多样采样,在35个图上达到最优异质GNN精度且收敛更快。
2024-05-24 cs.LG
SGS-GNN: A Supervised Graph Sparsification method for Graph Neural Networks
Purdue University(普渡大学);Islamic University of Technology(伊斯兰科技大学);Pacific Northwest National Lab(太平洋西北国家实验室)
本文提出监督式图稀疏化方法 SGS-GNN,通过学习边采样分布并利用正则化增强子图同配性,在33个图上以20%边保留率提升精度并显著降低训练与推理成本。
2025-02-14 cs.LG
Flexible Diffusion Scopes with Parameterized Laplacian for Heterophilic Graph Learning
McGill University(麦吉尔大学);Mila - Quebec Artificial Intelligence Institute(米拉-魁北克人工智能研究所)
针对传统图拉普拉斯限制GNN长程信息捕捉、异配图表现不佳的问题,提出参数化拉普拉斯与拓扑重连机制,构建PD-GCN和PD-GAT模型,可自适应调整扩散范围,在多数真实基准上性能超SOTA。
2024-09-15 cs.LG cs.SI
Exploring the Potential of Large Language Models for Heterophilic Graphs
Singapore Management University(新加坡管理大学);Beijing University of Post and Telecommunication(北京邮电大学)
针对异配图中节点文本未被充分利用的问题,提出结合 LLM 边判别、边重加权与模型蒸馏的两阶段框架,提升 GNN 节点分类性能。
2025-02-15 cs.AI cs.CL cs.LG
Stochastic Subgraph Neighborhood Pooling for Subgraph Classification
Ontario Tech University(安大略理工大学)
本文提出随机子图邻域池化(SSNP),通过联合聚合子图及其外部邻域信息并引入稀疏视图数据增强,在不使用标签技巧的情况下提升子图分类的可扩展性与泛化能力,实验表明其准确率最高提升2%且训练速度最高快3倍。
2023-04-17 cs.LG cs.SI
Learning from Heterophilic Graphs: A Spectral Theory Perspective on the Impact of Self-Loops and Parallel Edges
Electronics and Communication Sciences Unit, Indian Statistical Institute, Kolkata, India(印度统计研究所电子与通信科学单元,加尔各答,印度)
针对图异配性导致低通滤波器性能退化的问题,该研究从谱理论视角分析了添加自环与平行边对图拉普拉斯算子特征值的影响,建立了图谱与GCN性能趋势的联系,提出无需特征值分解即可评估图属性的方法。
2025-09-16 cs.LG
DuoGNN: Topology-aware Graph Neural Network with Homophily and Heterophily Interaction-Decoupling
Imperial College London(帝国理工学院)
针对GNN过平滑、过压缩及泛化差的问题,提出拓扑感知的DuoGNN,通过解耦同/异质性边的双聚合流水线实现提升,在多类节点分类任务中表现优于变体。
2026-08-25 cs.LG cs.SI
Sign is Not a Remedy: Multiset-to-Multiset Message Passing for Learning on Heterophilic Graphs
Harbin Institute of Technology(哈尔滨工业大学);Korea Advanced Institute of Science and Technology(韩国科学技术院);Pengcheng Laboratory(鹏城实验室);Fudan University(复旦大学);Shanghai Academy of Artificial Intelligence for Science(上海人工智能科学研究院);Griffith University(格里菲斯大学)
针对异配图中符号消息传递(SMP)存在的多跳邻居表示更新不理想及易过平滑等局限,提出多重集到多重集GNN(M2M-GNN)消息传递函数,有效缓解了这些问题并取得更优性能。
2024-05-31 cs.LG
ATLAS: Adaptive Topology-based Learning at Scale for Homophilic and Heterophilic Graphs
University of North Texas(德克萨斯大学)
ATLAS通过多分辨率社区特征编码图结构,实现无传播的规模化学习,在同质与异质图中均表现出色。
2026-08-26 cs.LG
Bayesian Neighborhood Adaptation for Graph Neural Networks
Golisano College of Computing and Information Science(计算与信息科学学院);Rochester Institute of Technology(罗切斯特理工学院);Amazon.com, Inc.(亚马逊公司)
本文提出基于贝叶斯邻域适应的图神经网络方法,通过将跳数建模为beta过程,提升GNN的表达能力并在节点分类任务中取得优异性能。
2026-02-12 cs.LG
DeSCo: Towards Generalizable and Scalable Deep Subgraph Counting
Tsinghua University(清华大学);Yale University(耶鲁大学)
DeSCo提出了一种可扩展的深度子图计数流水线,通过规范划分、异构图神经网络和门控传播,在八个数据集上实现137倍误差降低,并保持多项式复杂度。
2023-12-20 cs.LG cs.SI
The Heterophilic Snowflake Hypothesis: Training and Empowering GNNs for Heterophilic Graphs
University of Science and Technology of China (USTC)(中国科学技术大学);Tongji University(同济大学);University of Minnesota(明尼苏达大学);Tsinghua University(清华大学);Oxford University(牛津大学);Griffith University(格里菲斯大学);RIKEN AIP(理化学研究所人工智能项目);The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))
针对现有GNN多基于同嗜性假设、在异嗜图上学习效果不佳的问题,本文提出异嗜雪花假说,通过代理标签预测器让每个节点拥有独特聚合模式,可集成到多种GNN中提升性能并提供可解释的深度选择方案。
2024-06-18 cs.AI cs.LG
Using Subgraph GNNs for Node Classification:an Overlooked Potential Approach
East China Normal University(东华师范大学)
SubGND通过引入子图分类方法和自适应特征缩放机制,在异质设置中实现了与全局GNNs相当或更优的节点分类性能。
2026-01-13 cs.AI cs.LG
EvenNet: Ignoring Odd-Hop Neighbors Improves Robustness of Graph Neural Networks
Renmin University of China(中国人民大学);Alibaba Group(阿里巴巴集团)
图神经网络(GNNs)在图机器学习中具有良好的性能,受到了广泛的研究关注。尽管其非凡的预测精度,现有的方法,如GCN和GPRGNN,是不强大的测试图上的同质性变化,使这些模型容易受到图结构攻击和有限的能力,在推广到不同的同质性水平的图。虽然已经提出了许多方法来提高GNN模型的鲁棒性,但这些技术大多局限于空间域,并且采用复杂的防御机制,例如学习新的图结构或计算边缘注意力。在本文中,我们研究了在谱域中设计简单而鲁棒的GNN模型的问题。我们提出了EvenNet,一个对应于偶多项式图滤波器的谱GNN。基于我们在空间域和谱域的理论分析,我们证明了EvenNet在推广homophilic和heterophilic图方面优于全阶模型,这意味着忽略奇数跳邻居可以提高GNN的鲁棒性。我们在合成和真实世界的数据集上进行实验,以证明EvenNet的有效性。值得注意的是,EvenNet在不引入额外计算成本的情况下优于现有的结构化攻击防御模型,并在homophilic和heterophilic图上保持了传统节点分类任务的竞争力。
2023-01-22 cs.AI cs.LG
Cross-attentive Cohesive Subgraph Embedding to Mitigate Oversquashing in GNNs
Department of Computer Science, Georgia State University(佐治亚州立大学计算机科学系);Department of Data Science and Analytics, Kennesaw State University(肯尼索州立大学数据科学与分析系)
本文提出一种新颖的图学习框架,通过跨注意力凝聚子图表示增强节点嵌入,缓解图神经网络中的信息过载问题,提升分类准确率。
2026-04-02 cs.AI cs.LG
HyperAggregation: Aggregating over Graph Edges with Hypernetworks
Ulm University(乌尔姆大学)
本文提出基于超网络的图聚合函数HyperAggregation,动态生成邻域权重,在多种任务和数据集上验证了其有效性,并在异质性数据集上达到新最优。
2024-07-16 cs.LG
Graph Pointer Neural Networks
Microsoft Research Asia(微软亚洲研究院)
图神经网络(GNN)在各种基于图的应用中显示出优势。大多数现有的GNN假设图结构的强同构性,并应用邻居的置换不变局部聚合来学习每个节点的表示。然而,他们未能推广到heterophilic图,其中大多数相邻节点具有不同的标签或特征,并且相关节点是遥远的。最近很少有研究试图通过组合中心节点的隐藏表示的多跳(即,基于多跳的方法)或基于注意力分数对相邻节点进行排序(即,基于排名的方法)。因此,这些方法有一些明显的局限性。一方面,基于多跳的方法没有明确区分相关节点从大量的多跳社区,导致严重的过度平滑问题。另一方面,基于排名的模型不联合优化节点排名与最终任务,并导致次优的解决方案。在这项工作中,我们提出了图指针神经网络(GPNN)来解决上述挑战。利用指针网络从大量的多跳邻域中选择最相关的节点,根据与中心节点的关系构造有序序列。然后应用1D卷积从节点序列中提取高级特征。GPNN中基于指针网络的排序器与其他部分以端到端的方式进行联合优化。在六个具有异嗜图的公共节点分类数据集上进行了广泛的实验。结果表明,GPNN显着提高了国家的最先进的方法的分类性能。此外,分析还揭示了建议的GPNN过滤掉不相关的邻居和减少过度平滑的特权。
2022-01-03 cs.LG
ES-GNN: Generalizing Graph Neural Networks Beyond Homophily with Edge Splitting
University of Liverpool(利物浦大学);Xi’an Jiaotong-Liverpool University(西交利物浦大学);Duke Kunshan University(昆山杜克大学);Southeast University(东南大学)
针对图神经网络依赖同配性偏置、在异配图上泛化性差且鲁棒性不足的问题,提出ES-GNN框架通过自适应边拆分动态构建互补子图并交替传播与拆分,解耦任务相关与无关特征,在多个数据集上实现优异性能与鲁棒性,缓解过平滑问题。
2024-09-17 cs.LG
Provable Filter for Real-world Graph Clustering
School of Computer Science and Engineering, University of Electronic Science and Technology of China(电子科技大学计算机科学与工程学院);Alibaba Group(阿里巴巴集团);Michigan State University(密歇根州立大学)
针对现实图结构异质性,提出基于邻居信息识别同/异嗜边并构建高低通滤波器,结合挤压激励模块增强特征,理论支持且实验优于SOTA。
2026-06-23 cs.LG
Neighborhood Convolutional Network: A New Paradigm of Graph Neural Networks for Node Classification
Huazhong University of Science and Technology(华中科技大学)
解耦的图卷积网络(GCN)是GCN的最新发展,它在每个卷积层中实现了邻域聚合和特征变换,在图表示学习方面表现出了良好的性能。现有的解耦GCN首先利用简单的神经网络(例如,MLP)学习节点的隐藏特征,然后将学习到的特征以固定的步长在图上传播,以聚集多跳邻域的信息。尽管有效,但需要整个邻接矩阵作为输入的聚合操作涉及模型训练,导致高训练成本,阻碍了其在更大图上的潜力。另一方面,由于作为输入的节点属性的独立性,用于解耦GCN的神经网络非常简单,并且高级技术不能应用于建模。为此,我们进一步解放的聚合操作从解耦的GCN,并提出了一个新的范式的GCN,称为邻域卷积网络(NCN),利用邻域聚合结果作为输入,然后由一个特殊的卷积神经网络量身定制的聚合输入提取表达节点表示。这样,该模型既继承了解耦GCN在聚集邻域信息方面的优点,又开发了更强大的特征学习模块。一种称为掩码训练的训练策略被纳入,以进一步提高模型的性能。大量的结果表明,我们的模型的节点分类任务的有效性不同的同伦图和异伦图。
2022-11-15 cs.LG cs.SI
Improving Signed Propagation for Graph Neural Networks in Multi-Class Environments
Seoul National University(首尔大学);Korea Institute of Energy Technology(韩国能源技术研究院)
本文针对多类异配图中符号传播在消息传递和参数更新上的缺陷,提出结合校准的新策略以降低不确定性并提升鲁棒性,并在六个基准图数据集上验证了有效性。
2024-09-30 cs.LG cs.SI
Self-attention Dual Embedding for Graphs with Heterophily
School of Information Science and Technology, ShanghaiTech University(上海科技大学信息科学与技术学院)
针对异质性图,提出基于自注意力双编码的GNN,自适应融合特征与拓扑,允许负和非对称注意力,在真实图上达到最先进性能。
2024-09-19 cs.LG cs.SI
Generalizing Weisfeiler-Lehman Kernels to Subgraphs
KAIST, Republic of Korea(韩国延世大学)
针对GNN在子图级任务中难以捕捉复杂交互的问题,提出WLKS——基于诱导k跳邻域推广的Weisfeiler-Lehman核,结合多k跳层级核以增强结构表达,在8个基准上5个数据集性能优于主流方法且训练时间大幅缩短。
2025-11-11 cs.AI cs.LG cs.SI
Union Subgraph Neural Networks
Nanyang Technological University(南洋理工大学)
图神经网络(GNNs)被广泛应用于图的表示学习。vanilla GNN的表达能力通过1维Weisfeiler-Leman(1-WL)测试而有上限,因为它们通过迭代消息传递对有根子树进行操作。在本文中,我们通过注入从一种新型子结构中提取的相邻连接信息来增强GNN。我们首先调查不同种类的连通性存在于一个局部邻域,并确定一个子结构称为联盟子图,这是能够捕捉到完整的图片的1跳邻域的边缘。然后,我们设计了一个基于最短路径的子结构描述子,它具有三个很好的性质,可以有效地编码在并集子图的高阶连通性。通过注入编码的邻居连通性,我们提出了一种新的模型,即Union Subgraph神经网络(UnionSNN),它被证明是严格更强大的1-WL在区分非同构图。此外,来自并集子图的本地编码也可以作为插件注入到任意消息传递神经网络(MPNN)和基于Transformer的模型中。在图级和节点级任务的18个基准上进行的大量实验表明,UnionSNN的性能优于最先进的基线模型,具有竞争力的计算效率。将我们的本地编码注入现有模型能够将性能提高高达11.09%。我们的代码可在https://github.com/AngusMonroe/UnionSNN上获得。
2024-01-09 cs.LG
HMSG: Heterogeneous Graph Neural Network based on Metapath Subgraph Learning
College of Computer Science, Chongqing University(重庆大学计算机学院);School of Computer Science, Shaanxi Normal University(陕西师范大学计算机学院)
针对现有异构图模型处理同构和异构邻居信息不够全面的问题,提出 HMSG 模型,通过分解元路径子图并独立聚合消息,全面捕获结构、语义和属性信息,在多项任务上取得最优性能。
2021-09-07 cs.AI cs.LG cs.SI
Exploiting Neighbor Effect: Conv-Agnostic GNNs Framework for Graphs with Heterophily
Fudan University(复旦大学);The University of Sydney(悉尼大学)
本文针对GNN在异配图上的性能问题,提出基于冯·诺依曼熵的新指标和卷积无关框架CAGNNs,通过学习邻居效应提升大多数GNN在异配数据集上的表现。
2023-04-16 cs.AI cs.LG
Beyond Low-Pass Filters: Adaptive Feature Propagation on Graphs
The Australian National University(澳大利亚国立大学);Pohang University of Science and Technology(浦项科技大学)
图神经网络(GNN)已经被广泛研究用于图上的预测任务。正如最近的研究所指出的,大多数GNN假设局部同质性,即,有很强的相似性然而,这个假设限制了GNN的泛化能力。为了解决这个问题,我们提出了一个灵活的GNN模型,它能够处理任何图形,而不受其底层同质性的限制。该模型的核心是采用基于多个可学习谱过滤器的节点注意力机制;因此,针对谱域中的每个图自适应地学习聚合方案。我们在八个基准数据集上对所提出的模型进行了节点分类任务的评估。所提出的模型是一般化以及同亲和异亲图。此外,它在heterophilic图上的性能优于所有最先进的基线,并在homophilic图上与它们进行了比较。
2021-10-01 cs.LG
$p$-Laplacian Based Graph Neural Networks
Tencent AI Lab(腾讯人工智能实验室)
图神经网络(GNN)具有同时利用节点特征和拓扑信息的能力,因此在图的半监督节点分类方面表现出了优越的性能。然而,大多数GNN隐含地假设图中节点及其邻居的标签是相同或一致的,这在异嗜图中不成立,其中链接节点的标签可能不同。因此,当拓扑对于标签预测没有信息时,普通GNN的工作可能比简单地在每个节点上应用多层感知器(MLP)要差得多。为了解决上述问题,我们提出了一种新的基于$p$ -Laplacian的GNN模型,称为$^p$ GNN,其消息传递机制来自离散正则化框架,并且可以在理论上解释为定义在$p$ -Laplacian谱域上的多项式图滤波器的近似。谱分析表明,新的消息传递机制同时作为低通和高通滤波器工作,从而使得$^p$ GNN在同亲图和异亲图上都是有效的.对真实世界和合成数据集的实证研究验证了我们的研究结果,并证明$^p$ GNN在异嗜基准上的性能显著优于几种最先进的GNN架构,同时在同嗜基准上实现了有竞争力的性能。此外,$^p$ GNN可以自适应地学习聚合权重,并且对噪声边缘具有鲁棒性。
2022-06-23 cs.LG stat.ML
HOPE: Heterophily-Aware Open-Set Node Classification with Pseudo-Extrapolation
Griffith University(格里菲斯大学)
针对异质性图中开放集节点分类的挑战,提出HOPE方法,通过结构增强初始化、可信邻域聚合和异质性引导的伪外推策略,有效提升未知类拒绝能力,并在多个数据集上优于现有模型。
2026-09-09 cs.LG
Aggregating Direct and Indirect Neighbors through Graph Linear Transformations
Department of Computer Science, University of Alabama in Huntsville, Huntsville, Alabama, United States of America(计算机科学系,阿拉巴马大学亨茨维尔分校)
本文提出图线性变换方法,通过图结构导出的线性算子实现直接和间接邻居特征聚合,提升图神经网络在不同数据集上的性能。
2026-01-15 cs.LG
Addressing Graph Heterogeneity and Heterophily from A Spectral Perspective
Beijing University of Posts and Telecommunications(北京邮电大学);National University of Singapore(新加坡国立大学);Beihang University(北京航空航天大学);Hangzhou Dianzi University(杭州电子科技大学)
本文提出异质异配谱图神经网络H2SGNN,通过局部独立滤波与全局混合滤波分别建模不同同配性下的节点表示并利用高阶邻居学习更多元路径,在四个数据集上以更少参数和内存取得优越性能。
2025-04-11 cs.LG
EDiS: Edge Disjoint Subgraph Sparsification Framework for Graph Neural Networks
University of Texas at Dallas(德克萨斯大学达拉斯分校);Pacific Northwest National Laboratory(太平洋西北国家实验室);Adobe Research(Adobe研究院);University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校);Cisco(思科);Purdue University(普渡大学)
EDiS框架将图结构一次性分解为可缓存的边不相交子图,并在各训练周期按边预算重组,兼顾稀疏训练效率与拓扑多样性,在19个基准上超越17个基线。
2026-10-08 cs.LG
Simplified PCNet with Robustness
School of Computer Science and Engineering, University of Electronic Science and Technology of China(电子科技大学计算机科学与工程学院);Western University(西安大略大学)
针对图神经网络难以适配不同同配程度真实图的问题,本文简化PCNet并增强其鲁棒性,通过扩展滤波器阶数、减少参数、设计自适应邻域变体,经理论与半监督学习实验验证了其鲁棒性与有效性。
2024-03-06 cs.LG
Beyond Fixed Depth: Adaptive Graph Neural Networks for Node Classification Under Varying Homophily
本文针对固定聚合深度在同配与异配图上泛化不足的问题,提出基于理论度量的自适应深度GNN架构,动态选择节点级聚合深度,并在统一模型中一致提升标准GNN骨干网络在多个基准上的节点分类性能。
2025-11-10 cs.AI cs.LG
Robust Hierarchical Graph Classification with Subgraph Attention
IBM Research AI(IBM 人工智能研究院);Indian Institute of Science(印度科学理工学院)
图神经网络在机器学习领域的图表示和分类方面得到了广泛的关注。将注意力机制应用于节点的邻域,提高了图神经网络的性能。通常,它有助于识别起更重要作用的邻居节点,以确定所考虑的节点的标签。但在现实世界的场景中,节点的特定子集在一起,而不是子集中的个体对,可能对确定图的标签很重要。为了解决这个问题,我们引入了子图注意力的概念。另一方面,分层图池已被证明是有前途的,在最近的文献。但由于现实世界图的噪声层次结构,并不是所有的层次图分类发挥同等的作用。为此,我们提出了一个图分类算法SubGattPool,共同学习子图的注意力,并采用两种不同类型的层次注意力机制,以找到重要的节点层次结构和个别层次结构的重要性在一个图。不同类型的图分类算法的实验评估表明,SubGattPool能够提高最先进的技术水平或在多个公开可用的图分类数据集上保持竞争力。我们在合成和真实世界的图数据集上进行了进一步的实验,以证明SubGattPool不同组件的有用性,并显示其在其他下游任务上的一致性能。
2020-07-19 cs.LG cs.SI
MUSE: Multi-View Contrastive Learning for Heterophilic Graphs
East China Normal University(华东师范大学)
针对异配图自监督学习效果受限问题,提出多视图对比学习模型MUSE,通过构建自我节点与邻域视图并利用信息融合控制器和交替训练方案,有效提升了节点分类与聚类性能。
2023-07-29 cs.LG cs.SI
Heterophily-Aware Graph Attention Network
Beihang University(北京航空航天大学);School of Computer Science and Engineering, Beihang University(北京航空航天大学计算机科学与工程学院);Shen Yuan Honors College, Beihang University(北京航空航天大学沈元荣誉学院);Hebei University of Technology(河北工业大学);School of Artificial Intelligence, Hebei University of Technology(河北工业大学人工智能学院)
本文提出异质性感知图注意力网络HA-GAT,通过建模边异质性并利用局部分布学习注意力权重,在八个不同同质性比例的数据集上取得最先进的节点分类性能。
2024-06-30 cs.LG cs.SI
CAT: A Causally Graph Attention Network for Trimming Heterophilic Graph
Central South University(中南大学);South China University of Technology(华南理工大学);Changsha University of Science and Technology(长沙理工大学)
本文针对异配图中不相似邻居引起的分心效应导致GAT判别能力下降的问题,提出因果图注意力网络CAT,通过总效应估计并移除高分心邻居,在多个异配数据集上验证了其能提升多种GAT基模型的节点分类准确率。
2024-06-17 cs.AI cs.LG cs.SI
Robust Graph Structure Learning under Heterophily
School of Computer Science and Engineering, University of Electronic Science and Technology of China(电子科技大学计算机科学与工程学院)
针对现有图学习方法多假设同配、忽略异配且易受噪声稀疏影响的问题,提出结合高通滤波、自适应范数与新正则项的鲁棒图结构学习方法,在异配图的聚类和半监督分类任务上验证了有效性。
2024-03-06 cs.LG
Conformal Prediction for Federated Graph Neural Networks with Missing Neighbor Information
University of Southern California(南加州大学);DEVCOM Army Research Office(DEVCOM陆军研究办公室)
本文针对联邦图学习中缺失邻居信息影响模型可靠性的问题,提出基于变分自编码器重建缺失邻居的共形预测方法,在保证覆盖率的同时获得更小的预测集。
2024-10-17 cs.LG
Neural Link Prediction with Walk Pooling
Nanjing Normal University(南京师范大学);Universität Basel(巴塞尔大学)
图神经网络通过联合利用图拓扑结构和节点属性来实现链接预测的高精度。然而,拓扑是间接表示的;基于子图分类的最先进的方法用到目标链路的距离标记节点,因此,尽管存在拓扑信息,但它被池化所缓和。这使得利用与网络形成机制相关的环和基序等特征具有挑战性。我们提出了一个链接预测算法的基础上,一个新的池方案称为WalkPool。WalkPool结合了拓扑拓扑学的表达能力和神经网络的特征学习能力。它通过相邻路径的随机游走概率来概括一个假定的链路。它不是从原始图中提取转移概率,而是通过关注学习到的特征来计算"预测"潜在图的转移矩阵;这可以被解释为特征敏感的拓扑指纹。WalkPool可以利用无监督节点功能,或者与GNN和端到端训练相结合。它在所有常见的链接预测基准上都优于最先进的方法,包括homophilic和heterophilic,有和没有节点属性。将WalkPool应用于一组无监督GNN显著提高了预测准确性,这表明它可以用作通用图池方案。
2022-03-16 cs.LG cs.SI
Directed Homophily-Aware Graph Neural Network
College of Computing and Data Science, Nanyang Technological University(计算与数据科学学院,南洋理工大学);Institute for Infocomm Research, A*STAR(信息与通信研究所,A*STAR)
本文提出DHGNN,通过引入同质性意识和方向敏感组件,解决有向图中泛化能力差和性能不佳的问题,在节点分类和链接预测中取得显著提升。
2026-01-13 cs.LG
LSPI: Heterogeneous Graph Neural Network Classification Aggregation Algorithm Based on Size Neighbor Path Identification
College of Mathematics and Systems Science, Shandong University of Science and Technology(山东科技大学数学与系统科学学院)
针对异构图神经网络忽略元路径属性及大邻居路径噪声干扰问题,提出LSPI算法,通过路径判别器划分大小邻居路径并过滤噪声,利用子图级注意力融合特征生成节点嵌入,显著提升了模型性能。
2024-05-31 cs.LG
Deformable Graph Convolutional Networks
Korea University(高丽大学)
图神经网络(GNN)显著提高了图结构数据的表示能力。尽管GNN最近取得了成功,但大多数GNN中的图卷积有两个局限性。由于图卷积是在输入图上的一个小的局部邻域中执行的,因此它本质上无法捕获距离节点之间的长程依赖关系。此外,当节点具有属于不同类的邻居时,即,异质性,从他们聚集的消息往往负面影响表示学习。为了解决图卷积的两个常见问题,在本文中,我们提出了可变形图卷积网络(可变形GCN),自适应地在多个潜在空间中执行卷积,并捕获节点之间的短/长距离依赖关系。与节点表示(特征)分离,我们的框架同时学习节点位置嵌入(坐标),以端到端的方式确定节点之间的关系。根据节点位置,卷积核通过变形向量变形,并对其相邻节点应用不同的变换。我们广泛的实验表明,可变形GCN灵活地处理异构性,并在六个异构图数据集上实现了节点分类任务的最佳性能。
2021-12-29 cs.LG
Representation Learning on Heterophilic Graph with Directional Neighborhood Attention
McGill University(麦吉尔大学);Mila - Quebec Artificial Intelligence Institute(米拉-魁北克人工智能研究所)
针对 GAT 难以捕获异配图长程与全局信息的问题,提出 DGAT,利用新型 Laplacian、邻居剪枝/补边及全局有向注意力增强表示学习,并在多数基准上超过 SOTA。
2024-03-03 cs.AI cs.LG cs.SI
Deep Graph Neural Networks via Posteriori-Sampling-based Node-Adaptive Residual Module
Westlake University(西湖大学);Jilin University(吉林大学);Tianjin University(天津大学);Emory University(埃默里大学)
针对深度图神经网络的过平滑问题,从重叠邻域子图视角重审过平滑机制,提出基于后验采样的节点自适应残差模块PSNR,理论证明其可弥补现有残差方法缺陷,实验验证其在全观测节点分类和特征缺失场景下性能更优。
2024-10-31 cs.AI cs.LG
LMC: Fast Training of GNNs via Subgraph Sampling with Provable Convergence
University of Science and Technology of China(中国科学技术大学)
针对大规模 GNN 训练中的邻居爆炸与子图采样梯度偏差问题,本文提出可证明收敛的 LMC,通过前后向消息补偿获得准确小批量梯度并提升效率。
2025-03-16 cs.LG
Uncertainty Estimation for Heterophilic Graphs Through the Lens of Information Theory
School of Computation, Information \& Technology;Munich Data Science Institute, Technical University of Munich
本文通过信息论视角分析图神经网络,提出信息处理不等式以量化信息,揭示异质图中节点表示的不同信息,提出联合节点嵌入空间密度估计器提升异质图不确定性估计。
2026-05-11 cs.LG cs.SI
Deep Graph Neural Networks with Shallow Subgraph Samplers
虽然图神经网络(GNN)是学习图表示的强大模型,但大多数最先进的模型在两到三层之外没有显着的准确性增益。深度GNN从根本上需要解决:1)。过度平滑导致的表现力挑战,以及2)。由于邻域爆炸的计算挑战。我们提出了一个简单的“深GNN,浅采样器”的设计原则,以提高GNN的准确性和效率-生成目标节点的表示,我们使用深GNN仅在浅,局部化的子图中传递消息。适当采样的子图可以排除不相关甚至噪声节点,并且仍然保留关键的邻居特征和图结构。然后,深度GNN平滑信息丰富的局部信号以增强特征学习,而不是将全局图信号过度平滑为“白噪声”。我们从理论上证明了为什么深度GNN与浅采样器的组合会产生最佳的学习性能。然后,我们提出了各种采样算法和神经架构扩展,以实现良好的实证结果。在最大的公共图数据集ogbn-papers 100 M上,我们实现了最先进的精度,硬件成本降低了一个数量级。
2022-03-23 cs.LG
On the Expressive Power of Subgraph Graph Neural Networks for Graphs with Bounded Cycles
Massachusetts Institute of Technology(麻省理工学院);Sierra Canyon School(塞拉峡谷学校)
本文研究 $k$-跳子图 GNN 的表达能力,证明其可逼近无长于 $2k+1$ 环的图上的任意置换不变/等变连续函数,并通过实验验证聚合距离与环大小的关系。
2025-02-06 cs.LG
From Stars to Subgraphs: Uplifting Any GNN with Local Structure Awareness
Carnegie Mellon Uni.(卡内基梅隆大学);Michigan State Uni.(密歇根州立大学);Snap Inc.(Snap公司)
消息传递神经网络(MPNN)是一种常见的图神经网络(GNN),其中每个节点的表示是通过聚合来自其紧邻节点的表示(消息)来递归计算的,类似于星形模式。MPNN是有吸引力的高效和可扩展的,然而,他们的表达是上限的一阶Weisfeiler-Lehman同构测试(1-WL)。作为回应,以前的作品提出了高度表达模型的可扩展性,有时泛化性能的成本。我们的工作站在这两个制度之间:我们引入了一个通用的框架,以提升任何MPNN更具表现力,有限的可扩展性开销和大大提高了实际性能。我们通过将MPNN中的局部聚合从星形模式扩展到一般子图模式(例如,k-egonets):在我们的框架中,每个节点表示被计算为周围诱导子图的编码,而不是仅直接相邻的编码(即星形)。我们选择子图编码器作为GNN(主要是MPNN,考虑到可扩展性)来设计一个通用框架,作为包装器来提升任何GNN。我们称我们提出的方法为GNN-AK(GNN作为内核),因为该框架类似于卷积神经网络,用GNN代替内核。理论上,我们证明了我们的框架严格比1和2-WL更强大,并且不低于3-WL。我们还设计了子图采样策略,大大减少了内存占用,提高了速度,同时保持性能。我们的方法为几个著名的图ML任务设置了新的最先进的性能;具体来说,ZINC上的MAE为0.08,CIFAR10和PATTERN上的准确率分别为74.79%和86.887%。
2022-04-20 cs.LG stat.ML
Iterative Graph Neural Network Enhancement via Frequent Subgraph Mining of Explanations
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);University of Bonn(波恩大学);Fraunhofer IAIS(弗劳恩霍夫智能分析与信息系统研究所);Lamarr Institute for Machine Learning and Artificial Intelligence(拉马尔机器学习与人工智能研究所);HUN-REN-SZTE Research Group on AI(HUN-REN-塞格德大学人工智能研究组)
本研究提出迭代自改进算法EEGL,通过挖掘GNN解释子图的频繁模式生成特征以增强模型,解决了1-WL算法子图扩展的相关公开问题,在合成与真实数据上预测性能更优、节点区分能力更强。
2024-03-12 cs.LG
SCNode: Spatial and Contextual Coordinates for Graph Representation Learning
Department of Mathematical Science(数学科学系);The University of Texas at Dallas(德克萨斯大学达拉斯分校);Department of Mathematics(数学系);Florida State University(佛罗里达州立大学);Department of Computer Science(计算机科学系);AI Initiative(人工智能计划);University of Central Florida(中央佛罗里达大学)
SCNode通过整合空间与上下文信息,提升图表示学习在同质和异质图中的性能,展现更强的鲁棒性和适应性。
2025-11-25 cs.CG cs.LG stat.ML