I-GCN: Robust Graph Convolutional Network via Influence Mechanism
Huazhong University of Science and Technology(华中科技大学)
图的深度学习模型,特别是图卷积网络(GCN),在半监督节点分类任务中取得了卓越的性能。然而,最近的研究表明,GCN遭受对抗性扰动。这种对对抗攻击的脆弱性显著降低了GCN在应用于安全关键应用时的稳定性。各种研究讨论了预处理、注意力机制和对抗性训练等防御方法。虽然当扰动率低时能够实现期望的性能,但是这样的方法仍然容易受到高扰动率的影响。与此同时,当节点特征不可见时,一些防御算法的性能较差。因此,在本文中,我们提出了一种新的机制称为影响机制,这是能够显着提高GCN的鲁棒性。该影响机制将每个节点的影响分为两部分:试图保持自身特征的内向影响和对其他节点施加影响的外向影响。利用影响机制,我们提出了影响GCN(I-GCN)模型。大量的实验表明,我们提出的模型是能够实现更高的准确率比国家的最先进的方法时,抵御非目标攻击。
2020-12-11 cs.LG cs.SI stat.ML
A Dual-Attention Graph Network for fMRI Data Classification
本文提出一种双注意力图网络,通过Transformer注意力动态构建脑连接图并结合GCN与Transformer融合时空特征,在ABIDE子集上以63.2%准确率优于静态图方法,用于ASD的fMRI分类。
2025-08-18 cs.AI cs.LG
Learning to Control the Smoothness of Graph Convolutional Network Features
University of Utah(犹他大学);Oak Ridge National Laboratory(橡树岭国家实验室);University of Tennessee(田纳西大学)
本文提出在GCN消息传递中加入可学习项以自适应控制节点特征平滑度,从而显著提升节点分类性能。
2024-10-18 cs.LG cs.NA math.NA
Multi-Level Graph Convolutional Network with Automatic Graph Learning for Hyperspectral Image Classification
Nanjing University of Science and Technology(南京理工大学);Shanghai Jiao Tong University(上海交通大学);Monash University(莫纳什大学)
如今,深度学习方法,特别是图卷积网络(GCN),在高光谱图像(HSI)分类中表现出令人印象深刻的性能。然而,目前基于GCN的方法将图构造和图像分类视为两个独立的任务,这通常导致次优性能。这些方法的另一个缺陷是,它们主要集中在建模的局部节点之间的成对重要性,而缺乏能力,捕捉全局上下文信息的HSI。在本文中,我们提出了一个多层次的GCN与自动图学习方法(MGCN-AGL)的HSI分类,它可以自动学习的图形信息在局部和全局水平。通过引入注意力机制来表征空间相邻区域之间的重要性,可以自适应地结合最相关的信息进行决策,这有助于对空间上下文进行编码,形成局部层次的图信息。此外,我们利用多种途径进行局部级图卷积,以利用HSI的不同空间背景的优点,并增强所生成的表示的表达能力。为了重建全局上下文关系,我们的MGCN-AGL编码的基础上,已在局部水平上产生的表达图像区域之间的长程依赖关系。然后可以沿着连接远处区域的重构图边缘执行推理。最后,多层次信息自适应融合,产生网络输出。这种方法可以将图学习和图像分类集成到一个统一的框架中,并相互促进。在三个真实高光谱数据集上进行了大量的实验,实验结果表明,这些方法的性能优于最先进的方法。
2020-09-19 cs.CV cs.LG
Dual-Attention Graph Convolutional Network
Nanjing University of Science and Technology(南京理工大学)
图卷积网络(GCN)在文本结构表示方面表现出强大的能力,有效地促进了文本分类任务。然而,由于文本的复杂性和多样性所引起的图变体的主要问题,在适应GCN从文本中学习区分特征方面仍然存在挑战。在本文中,我们提出了一个双注意GCN模型的各种文本的结构信息,以及解决图不变的问题,通过嵌入两种类型的注意力机制,即连接注意力和跳注意力,到经典的GCN。为了对相邻词之间的各种连接模式进行编码,连接注意自适应地对每个词的邻域施加指定的不同权重,从而捕获短期依赖性。另一方面,跳注意力在图扩散过程中将缩放系数应用于不同范围,使模型更多地了解上下文的分布,从而以自适应的方式捕获长期语义。在五个广泛使用的数据集上进行了大量的实验来评估我们的双注意GCN,所取得的最先进的性能验证了双注意力机制的有效性。
2019-11-28 cs.LG stat.ML
Deep Feature Mining via Attention-based BiLSTM-GCN for Human Motor Imagery Recognition
Northeast Electric Power University(东北电力大学);Changchun University of Science and Technology(长春理工大学);University of Sydney(悉尼大学)
在构建实用的基于脑电图(EEG)的脑机接口(BCI)之前,识别精度和响应时间都是至关重要的。然而,最近的方法,要么妥协的分类精度或响应时间。本文提出了一种新的深度学习方法,旨在实现基于头皮EEG的非常准确和响应性的运动想象(MI)识别。具有注意力机制的双向长短期记忆(BiLSTM)设法从原始EEG信号中获得相关特征。连通图卷积神经网络(GCN)通过与从整体数据中估计的特征的拓扑结构相配合来提高解码性能。0.4秒的检测框架已经显示出基于个人和群体训练的有效和高效的预测,准确率分别为98.81%和94.64%,优于所有最先进的研究。本文提出的深度特征挖掘方法可以从原始脑电信号中准确识别出人体运动意图,为将基于脑电信号的MI识别转化为实际的脑机接口系统铺平了道路。
2021-12-02 cs.CV cs.HC cs.LG
Neighbor Enhanced Graph Convolutional Networks for Node Classification and Recommendation
Beihang University(北京航空航天大学);Yangtze University(长江大学);Alibaba Group(阿里巴巴集团);Cainiao Network(菜鸟网络);Jinan University(暨南大学);Tencent Inc.(腾讯公司)
最近提出的图卷积网络(GCN)在各种与图相关的任务(如节点分类和推荐)上取得了显着优越的性能。然而,目前对GCN模型的研究通常是递归地聚合所有邻居或随机采样的邻居子集的信息,而没有明确地识别聚合的邻居在图卷积过程中是否提供有用的信息。本文从理论上分析了邻居质量对GCN模型性能的影响,提出了邻居增强图卷积网络(Neighbor Enhanced Graph Convolutional Network,NEGCN)框架来提高现有GCN模型的性能。我们的贡献是三方面的。首先,我们在第一次提出的概念,邻居质量的节点分类和推荐任务的一般理论框架。具体而言,对于节点分类,我们提出了三个命题,从理论上分析邻居质量如何影响GCN模型的节点分类性能。其次,基于提出的三个命题,我们引入了图细化过程,包括专门设计的邻居评估方法,以提高邻居质量,从而提高节点分类和推荐任务。第三,我们在几个基准数据集上进行了广泛的节点分类和推荐实验。实验结果表明,我们提出的NEGCN框架可以显着提高性能的各种典型的GCN模型上的节点分类和推荐任务。
2022-03-30 cs.LG
GCN-SE: Attention as Explainability for Node Classification in Dynamic Graphs
Carnegie Mellon University(卡内基梅隆大学)
图卷积网络(GCN)是一种流行的图表示学习方法,已被证明是有效的任务,如节点分类任务。虽然典型的GCN模型专注于对静态图中的节点进行分类,但最近的几个变体提出了动态图中的节点分类,动态图的拓扑和节点属性随时间变化,例如,具有动态关系的社交网络,或具有变化的合著者的文献引文网络。然而,这些工作并没有完全解决在不同时间灵活地向图的快照分配不同重要性的挑战,这取决于图动态可能对标签具有或多或少的预测能力。我们通过提出一种新的方法GCN-SE来解决这一挑战,该方法在不同时间将一组可学习的注意力权重附加到图快照上,其灵感来自挤压和激励网络(SE-Net)。我们证明了GCN-SE在各种图数据集上的性能优于先前提出的节点分类方法。为了验证注意力权重在确定不同图快照重要性方面的有效性,我们将可解释机器学习领域的基于扰动的方法应用于图形设置,并评估GCN-SE学习的注意力权重与不同快照重要性之间的相关性。这些实验表明,GCN-SE实际上可以识别不同快照的动态节点分类的预测能力。
2021-10-11 cs.LG cs.SI
MOB-GCN: A Novel Multiscale Object-Based Graph Neural Network for Hyperspectral Image Classification
University of Alabama at Birmingham(阿拉巴马大学伯明翰分校);University of Science, VNU-HCM(越南胡志明市国家大学科学大学);Colorado State University(科罗拉多州立大学)
本文提出MOB-GCN,一种基于多尺度对象图像分析的多分辨率图神经网络,通过构建动态多尺度图层次结构融合不同分割尺度特征,在高光谱图像分类中显著优于单尺度GCN,尤其在标注数据有限时表现更佳。
2025-03-08 cs.CV cs.LG
N-GCN: Multi-scale Graph Convolution for Semi-supervised Node Classification
Google Research(谷歌研究院);Columbia University(哥伦比亚大学)
图卷积网络(GCN)在图结构数据的半监督学习中表现出显着的改进。同时,图嵌入的无监督学习也受益于随机游走中包含的信息。在本文中,我们提出了一个模型:GCN网络(N-GCN),它结合了这两条工作线。在其核心,N-GCN在随机游走中在不同距离发现的节点对上训练GCN的多个实例,并学习优化分类目标的实例输出组合。我们的实验表明,我们提出的N-GCN模型改善了我们考虑的所有具有挑战性的节点分类任务的最新基线:Cora,Citeseer,Pubmed和PPI。此外,我们提出的方法具有其他理想的属性,包括推广到最近提出的半监督学习方法,如GraphSAGE,使我们能够提出N-SAGE,以及对对抗性输入扰动的弹性。
2018-02-24 cs.LG cs.SI stat.ML
Residual Network and Embedding Usage: New Tricks of Node Classification with Graph Convolutional Networks
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);School of Control and Computer Engineering, North China Electric Power University(华北电力大学控制与计算机工程学院)
已经提出了图卷积网络(GCN)和后续变体来解决图上的任务,特别是节点分类任务。然而,在文献中,大多数技巧或技术要么作为实现细节被简要提及,要么只在源代码中可见。在本文中,我们首先总结了现有的一些有效的技巧用于GCN的小批量训练。在此基础上,提出了两种新的技巧,即GCN_res框架和嵌入用法,利用残差网络和预训练的嵌入来提高基线在不同数据集上的测试精度。在Open Graph Benchmark(OGB)上的实验表明,结合这些技术,各种GCN的测试准确率提高了1.21%~ 2.84%。我们在https://github.com/ytchx1999/PyG-OGB-Tricks上开源了我们的实现。
2021-05-21 cs.LG
Semi-Supervised Graph Embedding for Multi-Label Graph Node Classification
图卷积网络(GCN)是实现基于图的半监督学习的一种常用工具,它通常综合节点特征和图的拓扑信息来建立学习模型。然而,对于多标签学习任务,GCN的监督部分只是最小化最后一层输出和地面真实标签分布之间的交叉熵损失,这往往会丢失一些有用的信息,如标签相关性,从而阻止获得高性能。本文提出了一种新的基于GCN的多标签半监督学习方法,即ML-GCN。ML-GCN首先使用GCN嵌入节点特征和图拓扑信息。然后,它随机生成一个标签矩阵,其中每行(即,标签向量)表示一种标签。标签向量的维度与GCN的最后一次卷积运算之前的节点向量的维度相同。也就是说,所有标签和节点都嵌入在统一的向量空间中。最后,在ML-GCN模型训练过程中,标签向量和节点向量被连接起来作为松弛跳跃语法模型的输入,以检测节点-标签相关性以及标签-标签相关性。在多个图分类数据集上的实验结果表明,所提出的ML-GCN优于四种最先进的方法。
2019-07-12 cs.LG stat.ML
Virtual Adversarial Training on Graph Convolutional Networks in Node Classification
Peking University(北京大学);Beijing Institute of Big Data Research (BIBDR)(北京大数据研究院)
图卷积网络(GCN)的有效性已在广泛的基于图的机器学习任务中得到证明。然而,GCN中的参数更新仅来自标记节点,缺乏对未标记数据的利用。在本文中,我们将虚拟对抗训练(VAT),一种基于标记和未标记数据的对抗正则化方法应用于GCN的监督损失,以提高其泛化性能。通过在半监督学习中对后验分布施加虚拟对抗平滑性,VAT产生对GCN的对称拉普拉斯平滑性的改进。此外,由于特征属性的不同,我们分别对稀疏特征和密集特征进行虚拟对抗扰动,从而得到GCN稀疏VAT(GCNSVAT)和GCN密集VAT(GCNDVAT)算法。大量的实验验证了我们的两种方法在不同训练规模下的有效性。我们的工作为更好地理解未来GCN的改进方向铺平了道路。
2020-02-20 cs.LG stat.ML
AN-GCN: An Anonymous Graph Convolutional Network Defense Against Edge-Perturbing Attack
Sichuan University(四川大学);Huazhong University of Science and Technology(华中科技大学);Delft University of Technology(代尔夫特理工大学)
最近的研究揭示了图卷积网络(GCN)对边缘扰动攻击的脆弱性,例如恶意插入或删除图边缘。然而,从理论上证明这种脆弱性仍然是一个巨大的挑战,有效的防御方案仍然是一个悬而未决的问题。在本文中,我们首先概括了边扰动攻击的提法,并严格证明了GCN的脆弱性,这种攻击的节点分类任务。在此基础上,提出了一种匿名的图卷积网络(AN-GCN)来对抗边扰动攻击。具体来说,我们提出了一个节点定位定理,以证明如何在其训练阶段的GCN定位节点。此外,我们设计了一个基于交错高斯噪声的节点位置发生器,并设计了一个基于谱图卷积的节点位置检测算法。进一步,我们给出了上述生成器的优化设计和最优控制器的设计. AN-GCN可以对节点进行分类,而无需将其位置作为输入。结果表明,AN-GCN是安全的,对边缘扰动攻击的节点分类任务,AN-GCN分类节点没有边缘信息,从而使攻击者不可能扰动边缘了。广泛的评估表明,一般的边缘扰动攻击模型在操纵目标节点的分类结果的有效性。更重要的是,所提出的AN-GCN可以达到82.7%的节点分类准确率没有边缘读取权限,这优于最先进的GCN。
2021-06-17 cs.CR cs.LG
Label-GCN: An Effective Method for Adding Label Propagation to Graph Convolutional Networks
Elliptic;The University of Sheffield(谢菲尔德大学);Telecom SudParis(南巴黎电信学院);Polytechnic Institute of Paris(巴黎综合理工学院)
我们表明,修改的第一层的图卷积网络(GCN)可以用来有效地传播标签信息的邻居节点,二进制和多类分类问题。这是通过在GCN的训练阶段选择性地消除标签特征的自循环来完成的。GCN架构在其他方面没有变化,没有任何额外的超参数,并且可以用于转导和归纳设置。我们通过几个实验表明,根据推理阶段有多少标签可用,与标准GCN方法相比,这种策略可以导致模型性能的大幅改善,包括不平衡数据集。
2021-04-05 cs.LG
Image Classification with Hierarchical Multigraph Networks
University of Guelph(圭尔夫大学);Vector Institute for Artificial Intelligence(向量人工智能研究所);SRI International(斯坦福国际研究院)
图卷积网络(Graph Convolutional Network,GCN)是一类可以从图结构数据中学习的通用模型。尽管GCN是通用的,但在应用于视觉任务时,GCN确实不如卷积神经网络(CNN),这主要是由于缺乏硬编码到CNN中的领域知识,例如空间定向的平移不变滤波器。然而,GCN的一大优势是能够处理不规则的输入,例如图像的超像素。这可以显著降低图像推理任务的计算成本。GCN固有的另一个关键优势是对多关系数据建模的自然能力。基于这两个有前途的属性,在这项工作中,我们展示了设计用于图像分类的GCN的最佳实践;在某些情况下,甚至在MNIST,CIFAR-10和PASCAL图像数据集上优于CNN。
2019-07-21 cs.CV cs.LG
Automated Graph Learning via Population Based Self-Tuning GCN
University of Georgia(佐治亚大学);Santa Clara University(圣克拉拉大学);Alibaba Group(阿里巴巴集团)
图卷积网络(GCN)及其变体由于具有提取有效图嵌入的显著能力而被成功地应用于广泛的任务,例如节点分类、链接预测和图分类。传统的GCN模型存在过拟合和过平滑的问题,而最近的一些技术(如DropEdge)可以缓解这些问题,从而实现深度GCN的开发。然而,训练GCN模型是不平凡的,因为它对超参数的选择很敏感,例如辍学率和学习权重衰减,特别是对于深度GCN模型。在本文中,我们的目标是通过超参数优化来自动化GCN模型的训练。具体来说,我们提出了一个自调整的GCN方法与交替的训练算法,并进一步扩展我们的方法,将人口为基础的训练计划。与几个有代表性的基线相比,三个基准数据集上的实验结果证明了我们的方法在优化多层GCN方面的有效性。
2021-07-09 cs.CV cs.LG
PK-GCN: Prior Knowledge Assisted Image Classification using Graph Convolution Networks
Georgia State University(佐治亚州立大学);Computer Science Department(计算机科学系)
深度学习在各种分类任务中取得了巨大成功。通常,深度学习模型直接从数据中学习底层特征,并且不包括类之间的底层关系。类之间的相似性会影响分类的性能。在这篇文章中,我们提出了一种使用图卷积层将类相似性知识并入卷积神经网络模型的方法。我们在两个基准图像数据集:MNIST和CIFAR10上评估了我们的方法,并分析了不同数据和模型大小的结果。实验结果表明,该模型可以提高分类精度,特别是当可用数据量很小时。
2020-09-24 cs.CV cs.LG eess.IV
Bridge-Centered Metapath Classification Using R-GCN-VGAE for Disaster-Resilient Maintenance Decisions
本文提出R-GCN-VGAE方法,通过构建异构图分析桥梁在灾难中的多维作用,为维护预算决策提供支持,验证了方法在不同城市规模的有效性。
2026-04-20 cs.LG
Analyzing Image Encoder Choices and Graph Homophily in GCN Frameworks for Breast Ultrasound Classification
PONS Incorporated(PONS公司);Department of Radiology, Department of Medicine, University of British Columbia(大学医学部和放射学部)
研究乳腺超声分类中图像编码器选择对图构建和分类性能的影响,通过评估五种编码器,用其嵌入构建图并分类,发现更高容量编码器可提升图同质性和分类性能,确立编码器选择为关键因素,图同质性为性能联系指标。
2026-07-30 cs.CV cs.LG eess.IV
Multi-Task Text Classification using Graph Convolutional Networks for Large-Scale Low Resource Language
IIIT Hyderabad(海得拉巴国际信息技术研究所)
图卷积网络(GCN)在情感分析、情感检测等单一文本分类任务上取得了最先进的结果。然而,性能是通过对英语等资源丰富的语言进行测试和报告来实现的。将GCN应用于多任务文本分类是一个未探索的领域。此外,训练GCN或采用英语GCN用于印度语言通常受到数据可用性,丰富的形态变化,语法和语义差异的限制。在本文中,我们研究了使用GCN的泰卢固语在单任务和多任务设置为四个自然语言处理(NLP)的任务,即。情感分析(SA),情感识别(EI),仇恨言论(HS),和讽刺检测(SAR)。为了评估GCN与印度语言之一,泰卢固语的性能,我们分析了GCN的基础上的模型与广泛的实验四个下游任务。此外,我们为四个NLP任务创建了一个带注释的泰卢固语数据集TEL-NLP。此外,我们提出了一种有监督的图重建方法,Telugu上的多任务文本GCN(MT-Text GCN),它利用同时(i)使用图形自动编码器(GAE)从单词-句子图重建中学习低维单词和句子图嵌入,以及(ii)使用这些潜在的句子图嵌入执行多任务文本分类。我们认为,我们提出的MT-Text GCN在TEL-NLP上比现有的泰卢固语预训练词嵌入和多语言预训练Transformer模型:mBERT和XLM-R有了显着的改进。在TEL-NLP上,我们在四个NLP任务中获得了很高的F1分数:SA(0.84),EI(0.55),HS(0.83)和SAR(0.66)。最后…
2022-05-02 cs.AI cs.CL cs.LG
Graph Convolutional Networks based on Manifold Learning for Semi-Supervised Image Classification
State University of São Paulo(圣保罗州立大学);Temple University(天普大学)
本文提出Manifold-GCN框架,将完全无监督的流形学习用于建模图结构并结合GCN,以提升标注有限场景下的半监督图像分类性能。
2023-04-24 cs.CV cs.LG
Unifying Graph Convolutional Neural Networks and Label Propagation
Stanford University(斯坦福大学)
标签传播(LPA)和图卷积神经网络(GCN)都是图上的消息传递算法。两者都解决了节点分类的任务,但LPA在图的边缘传播节点标签信息,而GCN传播和转换节点特征信息。然而,虽然在概念上相似,但LPA和GCN之间的理论关系尚未被研究。在这里,我们从两个方面研究LPA和GCN之间的关系:(1)特征/标签平滑,我们分析一个节点的特征/标签如何在其邻居上传播;以及(2)特征/标签影响,即一个节点的初始特征/标签对另一个节点的最终特征/标签的影响程度。基于我们的理论分析,我们提出了一个端到端的模型,统一GCN和LPA的节点分类。在我们的统一模型中,边缘权重是可学习的,LPA作为正则化来帮助GCN学习适当的边缘权重,从而提高分类性能。我们的模型也可以被看作是基于节点标签的学习注意力权重,这比现有的基于特征的注意力模型更面向任务。在真实世界的图上进行的大量实验中,我们的模型在节点分类精度方面优于最先进的基于GCN的方法。
2020-02-17 cs.LG stat.ML
A Graph Convolutional Network Composition Framework for Semi-supervised Classification
Microsoft Research(微软研究院)
图卷积网络(GCN)由于在包括节点分类的若干下游任务上可实现的高性能而获得普及。这些网络的几个架构变体已被提出,并在文献中进行了实验研究。最近的工作简化GCN的动机,我们研究了设计其他变体的问题,并提出了一个框架,组成网络使用积木的GCN。该框架提供了使用特征和/或标签传播网络、线性或非线性网络来组成和评估不同网络的灵活性,其中每个组成具有不同的计算复杂性。我们进行了详细的实验研究,在几个基准数据集与许多变量,并提出意见,从我们的评估。我们的实证实验结果表明,几个新组成的变种是有用的替代品,考虑,因为他们是竞争力,或优于原来的GCN。
2020-04-08 cs.LG stat.ML
Graph Convolutional Network for Swahili News Classification
University of Helsinki(赫尔辛基大学)
这项工作经验证明了文本图卷积网络(文本GCN)的能力优于传统的自然语言处理基准的任务,半监督斯瓦希里语新闻分类。特别是,我们专注于我们的实验稀疏标记的半监督的情况下,这是低资源的非洲语言所面临的实际限制的代表。我们通过引入文本GCN模型的变体来跟进这一结果,该模型利用一袋单词嵌入而不是天真的独热编码来减少文本GCN的内存占用,同时展示类似的预测性能。
2021-03-16 cs.CL cs.LG
PAC-Bayesian Generalization Bounds for Graph Convolutional Networks on Inductive Node Classification
本文针对动态图上的归纳式节点分类,提出PAC-Bayesian分析,为一层和两层GCN推导依赖数据下的泛化界及收敛条件,奠定动态图泛化理论基础。
2025-09-08 cs.LG
Neighborhood Convolutional Network: A New Paradigm of Graph Neural Networks for Node Classification
Huazhong University of Science and Technology(华中科技大学)
解耦的图卷积网络(GCN)是GCN的最新发展,它在每个卷积层中实现了邻域聚合和特征变换,在图表示学习方面表现出了良好的性能。现有的解耦GCN首先利用简单的神经网络(例如,MLP)学习节点的隐藏特征,然后将学习到的特征以固定的步长在图上传播,以聚集多跳邻域的信息。尽管有效,但需要整个邻接矩阵作为输入的聚合操作涉及模型训练,导致高训练成本,阻碍了其在更大图上的潜力。另一方面,由于作为输入的节点属性的独立性,用于解耦GCN的神经网络非常简单,并且高级技术不能应用于建模。为此,我们进一步解放的聚合操作从解耦的GCN,并提出了一个新的范式的GCN,称为邻域卷积网络(NCN),利用邻域聚合结果作为输入,然后由一个特殊的卷积神经网络量身定制的聚合输入提取表达节点表示。这样,该模型既继承了解耦GCN在聚集邻域信息方面的优点,又开发了更强大的特征学习模块。一种称为掩码训练的训练策略被纳入,以进一步提高模型的性能。大量的结果表明,我们的模型的节点分类任务的有效性不同的同伦图和异伦图。
2022-11-15 cs.LG cs.SI
Accelerating Image Classification with Graph Convolutional Neural Networks using Voronoi Diagrams
School of Computer Science, University of Windsor(计算机科学学院,温莎大学)
本研究提出将图卷积神经网络(GCNs)与沃罗诺伊图结合的图像分类框架,通过基于图的图像表示及德劳内三角剖分简化,在基准数据集上提升预处理时间和分类准确率,还提出更快的归一化沃罗诺伊图卷积网络(NVGCN)。
2025-08-19 cs.CV cs.LG
GCN-SL: Graph Convolutional Networks with Structure Learning for Graphs under Heterophily
Xi'an Jiaotong University(西安交通大学);Xi'an University of Science and Technology(西安科技大学)
在图结构数据的表示学习中,在异质性(或低同质性)下,许多流行的GNN可能无法捕获长范围的依赖关系,从而导致其性能下降。针对上述问题,提出了一种具有结构学习的图卷积网络(GCN-SL),并将其应用于节点分类。GCN-SL包含两个改进:分别对应于节点特征和边。在节点特征方面,我们提出了高效谱聚类(ESC)和带锚点的ESC(ESC-ANCH)算法来高效地聚合所有相似节点的特征表示。在边缘方面,我们通过特殊的数据预处理技术和相似性学习来构建重连接邻接矩阵,并且重连接邻接矩阵可以直接随着GCN-SL参数进行优化。考虑到原邻接矩阵可能会对GCN中的聚集提供误导信息,特别是在低水平的同伦图中。GCN-SL通过重连接邻接矩阵聚合邻近节点的特征表示,并适用于具有不同水平的同质性的图。在广泛的基准数据集上的实验结果表明,所提出的GCN-SL优于最先进的GNN同行。
2021-06-28 cs.LG
Pooling in Graph Convolutional Neural Networks
Carnegie Mellon University(卡内基梅隆大学)
图卷积神经网络(GCNN)是深度学习技术对图结构数据问题的强大扩展。我们根据经验评估了GCNN的几种池化方法,以及这些图池化方法与三种不同架构的组合:GCN,TAGCN和GraphSAGE。我们证实,图池,特别是DiffPool,提高了流行的图分类数据集的分类准确性,并发现,平均而言,TAGCN实现了可比或更好的准确性比GCN和GraphSAGE,特别是对于具有较大和稀疏图结构的数据集。
2020-04-07 cs.LG eess.SP
Latent-Graph Learning for Disease Prediction
University of Lugano(卢加诺大学);Sapienza University of Rome(罗马大学);Technical University of Munich(慕尼黑工业大学);Ludwig Maximilians Universität München(慕尼黑大学);Johns Hopkins University(约翰斯·霍普金斯大学);Imperial College London(帝国理工学院);Twitter(推特)
最近,图卷积网络(GCN)已被证明是计算机辅助诊断(CADx)和疾病预测的强大机器学习工具。这些模型中的一个关键组成部分是构建一个群体图,其中图邻接矩阵表示成对患者的相似性。到目前为止,相似性度量一直是手动定义的,通常基于人口统计学或临床评分等元特征。然而,度量的定义需要仔细调整,因为GCN对图结构非常敏感。在本文中,我们首次在CADx域中证明,可以向GCN的下游疾病分类任务学习单个最佳图。为此,我们提出了一种新的,端到端的可训练图学习架构,用于动态和局部化的图修剪。与常用的光谱GCN方法不同,我们的GCN是空间和归纳的,因此也可以推断以前看不见的患者。我们展示了显着的分类改进与我们的学习图在医学中的两个CADx问题。我们使用人工数据集进一步解释和可视化这一结果,强调了图学习在医学应用中使用GCN进行更准确和更强大的推理的重要性。
2022-05-13 cs.LG
Graph Convolutional Network For Semi-supervised Node Classification With Subgraph Sketching
School of Systems Science and Engineering(系统科学与工程学院);Sun Yat-sen University(中山大学);School of Mathematics(数学学院)
提出GLDGCN模型通过引入对偶卷积层和图学习层提升半监督节点分类准确率,并引入子图聚类和随机梯度下降设计CLustering GCN算法解决大图处理问题。
2024-04-25 cs.LG
Classification of Computer Aided Engineering (CAE) Parts Using Graph Convolutional Networks
General Motors(通用汽车公司)
CAE工程师处理分布在多个车身模型上的数百个零件。采用图卷积网络(GCN)开发了CAE零件分类器。来自代表性身体模型的多达866个不同部位被用作训练数据。部件表示为三维(3-D)有限元分析(FEA)网格,每个节点的值在x、y、z坐标系中。将基于GCN的分类器与基于全连接神经网络和PointNet的模型进行了比较。使用测试集评价训练模型的性能,该测试集包括来自训练数据的部件,但具有额外的孔、旋转、平移、网格细化/粗化、网格模式的变化、沿x和y轴的镜像、地形特征的变化以及网格节点排序的变化。经过训练的GCN模型能够在测试集上实现88.5%的分类准确率,即,它能够从866个零件的数据集中找到正确的匹配零件,尽管与基线零件存在显著差异。在这项研究中展示的CAE零件分类器可能是非常有用的工程师过滤CAE零件分布在几个身体模型,以找到符合他们的要求的零件。
2022-02-23 cs.LG
A semantic backdoor attack against Graph Convolutional Networks
Shanghai University(上海大学)
本文针对图卷积网络的安全漏洞问题,提出图分类场景下基于特定节点触发器、通过训练数据投毒实现的语义后门攻击方法SBAG,实验验证其在4个图数据集上均有效。
2023-08-26 cs.LG
Robust Mid-Pass Filtering Graph Convolutional Networks
Southwest Petroleum University(西南石油大学);Microsoft Research Asia(微软亚洲研究院)
图卷积网络(GCN)是目前处理图结构数据最有前途的范例,但最近的研究也表明GCN容易受到对抗攻击的攻击。因此,开发对此类攻击具有鲁棒性的GCN模型成为一个热门的研究课题。然而,基于结构净化学习或鲁棒性约束的GCN防御方法通常是针对特定的数据或攻击而设计的,并且引入了非分类的额外目标。在其设计中还需要额外的培训开销。为了解决这些问题,我们对图上的中频信号进行了深入的探索,并提出了一种简单而有效的中频滤波器GCN(Mid-GCN)。理论分析保证了信号通过中通滤波器的鲁棒性,并揭示了不同频率信号在对抗攻击下的特性。在六个基准图数据上的大量实验进一步验证了我们设计的Mid-GCN在各种对抗攻击策略下与最先进的GCN相比在节点分类准确性方面的有效性。
2023-02-16 cs.CR cs.LG
Locality Preserving Dense Graph Convolutional Networks with Graph Context-Aware Node Representations
Xidian University(西安电子科技大学);Swinburne University of Technology(斯威本科技大学)
图卷积网络(GCN)已被广泛用于对图数据的表示学习,其可以经由专门设计的卷积和读出操作来捕获图上的结构模式。在许多图分类应用中,基于GCN的方法优于传统方法。然而,大多数现有的GCN是低效的,以保持局部信息的图-一个限制,特别是图分类的问题。在这项工作中,我们提出了一个具有图上下文感知节点表示的保持局部性的稠密GCN。具体来说,我们提出的模型采用了一个本地节点特征重建模块,以保留初始节点特征到节点表示,这是通过一个简单但有效的编码器-解码器机制实现的。为了捕获代表不同局部范围的邻近区域中的局部结构模式,引入了密集连接性来连接每个卷积层及其相应的读出与所有之前的卷积层。为了增强节点的代表性,每个卷积层的输出与前一层的读出的输出连接,以形成全局上下文感知节点表示。此外,自注意模块被引入到聚合逐层表示,以形成最终的表示。在基准数据集上的实验表明,该模型在分类精度方面优于最先进的方法。
2020-10-12 cs.LG
Revisiting Graph Convolutional Network on Semi-Supervised Node Classification from an Optimization Perspective
Beijing Institute of Technology(北京理工大学);Renmin University of China(中国人民大学)
图卷积网络(GCN)在各种基于图的任务上取得了令人满意的性能。然而,当堆叠更多层时,它们遭受过度平滑。在本文中,我们提出了一个定量的研究,这一观察和发展新的见解更深的GCN。首先,我们从优化的角度来解释当前的图卷积运算,并认为过度平滑主要是由优化问题的解的朴素一阶近似引起的。随后,我们引入了两个指标来衡量节点级任务的过度平滑。具体来说,我们分别计算连接和断开连接的节点之间的成对距离占总距离的分数。基于我们的理论和实证分析,我们从优化的角度建立了一个通用的GCN理论框架,并推导出一种新的卷积核GCN+,它具有较低的参数量,同时从本质上减轻了过平滑。在真实数据集上的大量实验表明,GCN+在节点分类任务上的性能优于最先进的基线方法。
2020-09-25 cs.AI cs.LG stat.ML
MLC-GCN: Multi-Level Generated Connectome Based GCN for AD Analysis
School of Optical-Electrical and Computer Engineering, University of Shanghai for Science and Technology(上海理工大学光电信息与计算机工程学院);University of Maryland School of Medicine(马里兰大学医学院)
本文提出MLC-GCN模型,通过多层级时空特征提取生成连接组并结合图卷积网络进行AD分类,在独立队列验证中优于现有方法并具有高可解释性。
2024-08-06 cs.AI cs.LG
Graph Convolutional Network with Generalized Factorized Bilinear Aggregation
Australian National University(澳大利亚国立大学);Data61/CSIRO(Data61/联邦科学与工业研究组织)
虽然图卷积网络(GCN)已经在各种应用中展示了它们的能力,但是作为GCN最重要的组成部分的图卷积层仍然使用线性变换和简单的池化步骤。在本文中,我们提出了一种新的推广的分解双线性(FB)层来模拟GCN中的特征交互。FB执行两个矩阵向量乘法,即权重矩阵与两侧隐藏特征向量的外积相乘。然而,FB层遭受系数的二次数量、过拟合和由于违反i.i.d.的隐藏表示的通道之间的相关性而导致的虚假相关性。假设因此,我们提出了一个紧凑的FB层,通过定义一个家庭的总结运营商应用于二次项。我们分析建议池运营商和激励他们的使用。我们在多个数据集上的实验结果表明,GFB-GCN与其他文本分类方法相比具有竞争力。
2021-07-24 cs.AI cs.CL cs.LG
3DTI-Net: Learn Inner Transform Invariant 3D Geometry Features using Dynamic GCN
SJTU(上海交通大学)
点云上的深度学习最近取得了很大进展。许多点云专用的深度学习框架,如PointNet和PointNet++,与使用传统3D卷积算法的框架相比,在准确性和速度方面都具有优势。然而,几乎所有这些方法都面临着一个挑战,因为点云的坐标是由坐标系决定的,它们不能很好地处理3D变换不变性的问题。在本文中,我们提出了一个点云学习的一般框架。基于局部图表示的内部几何特征学习实现变换不变性,提出了一种基于图卷积网络的特征提取网络。通过对分类和分割任务的实验,该方法在旋转三维物体分类方面达到了最先进的性能,在固定坐标值的分类和分割任务中达到了与最先进的性能相竞争的性能。
2018-12-15 cs.CG cs.LG
RA-GCN: Graph Convolutional Network for Disease Prediction Problems with Imbalanced Data
Sharif University of Technology(谢里夫理工大学);Technical University of Munich(慕尼黑工业大学);Johns Hopkins University(约翰斯·霍普金斯大学)
疾病预测是医学应用中众所周知的分类问题。GCN提供了一个强大的工具,用于分析患者的功能相对于彼此。这可以通过将问题建模为图节点分类任务来实现,其中每个节点都是患者。由于这种医疗数据集的性质,类不平衡是疾病预测领域的一个普遍问题,其中类的分布是偏斜的。当数据中存在类别不平衡时,现有的基于图的分类器倾向于偏向主类而忽略次类中的样本。另一方面,对所有患者中罕见阳性病例的正确诊断在医疗保健系统中至关重要。在常规方法中,通过向损失函数中的类分配适当的权重来解决这种不平衡,所述损失函数仍然依赖于权重的相对值,对离群值敏感,并且在某些情况下偏向于次要类。在本文中,我们提出了一个重新加权对抗图卷积网络(RA-GCN),以防止基于图的分类器强调任何特定类别的样本。这是通过将基于图的神经网络与每个类相关联来实现的,该网络负责对类样本进行加权并改变每个样本对于分类器的重要性。因此,分类器会自我调整并确定类之间的边界,更多地关注重要样本。分类器和加权网络的参数通过对抗方法进行训练。我们展示了合成和三个公开的医疗数据集上的实验。RA-GCN证明了与最近的方法相比,在所有三个数据集上识别患者状态的优越性。详细的分析是作为定量和定性实验合成数据集。
2021-11-07 cs.LG
Topological based classification using graph convolutional networks
Bar Ilan University(巴伊兰大学)
在着色图中,节点类通常与它们的邻居类相关联,或者与没有并入与每个节点相关联的图中的信息相关联。我们在这里提出,节点类也与节点的拓扑特征。我们使用这种关联来改进图机器学习,特别是图卷积网络(GCN)。首先,我们表明,即使在没有任何外部信息的节点,一个很好的准确性可以获得的预测的节点类使用拓扑特征,或使用邻居类作为输入到GCN。该准确度略低于使用基于内容的GCN可以获得的准确度。其次,我们表明,明确地添加拓扑结构作为输入到GCN不提高精度时,结合外部信息的节点。然而,在GCN中添加一个额外的邻接矩阵,其中具有类似拓扑结构的遥远节点之间的边确实显着提高了其准确性,从而在多个数据集中获得比所有现有技术方法更好的结果。
2019-10-26 cs.LG cs.SI stat.ML
Graph Regularized Encoder Training for Extreme Classification
Microsoft India(微软印度);IIT Delhi(印度理工学院德里分校);IIT Bombay(印度理工学院孟买分校);IIT Kanpur(印度理工学院坎普尔分校);Microsoft(微软)
本文提出RAMEN范式,通过图数据正则化编码器训练而非使用GCN,在极端分类中实现零推理成本增加,精度提升高达15%,并扩展至百万标签规模。
2025-01-24 cs.IR cs.LG
Wide & Deep Learning for Node Classification
本文提出融合 Wide & Deep 架构与 Intersect memory、Initial residual、Identity mapping 三种技术的 GCNIII 框架,以平衡节点分类中的过拟合与过度泛化,并探索利用大语言模型进行节点特征工程以提升跨域性能。
2025-05-04 cs.AI cs.LG stat.ML
Label-Aware Graph Convolutional Networks
Beihang University(北京航空航天大学);Alibaba Group(阿里巴巴集团);Jinan University(暨南大学);CUHK(香港中文大学);Tsinghua University(清华大学);Nanjing University of Aeronautics and Astronautics(南京航空航天大学);Wechat, Tencent Inc.(腾讯公司微信)
图卷积网络(GCN)的最新进展导致了各种图相关任务的最新性能。然而,大多数现有的GCN模型没有明确地识别所有的聚合邻居是否有价值的学习任务,这可能会损害学习性能。在本文中,我们考虑的节点分类问题,并提出了标签感知图卷积网络(LAGCN)框架,可以直接识别有价值的邻居,以提高现有的GCN模型的性能。我们的贡献是三方面的。首先,我们提出了一个标签感知的边缘分类器,可以过滤分散的邻居,并添加有价值的邻居为每个节点,以改善原始图到标签感知的~(LA)图。现有的GCN模型可以直接从LA图中学习,以提高性能,而无需改变其模型架构。其次,我们引入了正比的概念来评估LA图中有价值邻居的密度。理论分析表明,使用边缘分类器提高阳性率可以改善现有GCN模型的学习性能。第三,我们在基准数据集上进行了广泛的节点分类实验。实验结果表明,LAGCN在节点分类方面可以显著提高现有GCN模型的性能。
2020-09-05 cs.LG stat.ML
GCNBoost: Artwork Classification by Label Propagation through a Knowledge Graph
Univ. Rennes(雷恩大学);CNRS(法国国家科学研究中心);IRISA(法国国家信息与自动化研究所布列塔尼分支);Osaka University(大阪大学);Kyoto University(京都大学)
文化文献数字化的兴起提供了大规模的内容,为人工智能系统的发展开辟了道路,以保护,搜索和提供文化遗产。组织这样的文化内容也意味着对它们进行分类,这是现代计算机科学非常熟悉的任务。上下文信息通常是构建这种真实世界数据的关键,我们建议以知识图谱的形式使用它。这样的知识图谱与内容分析相结合,增强了艺术品之间的邻近度的概念,因此它提高了分类任务的性能。在本文中,我们提出了一种新的使用知识图谱,这是建立在注释数据和伪标记数据。通过标签传播,我们通过使用图卷积网络训练模型来提高艺术品分类,依赖于知识图谱的实体之间的关系。在一个转换学习框架下,我们的实验表明,依靠知识图谱建模标记数据和未标记数据之间的关系,可以在绘画数据集和佛像数据集上实现多个分类任务的最新结果。此外,我们展示了处理不平衡数据的困难情况下的最先进的结果,在知识图谱中忽略极低程度的类的限制。
2021-05-25 cs.CV cs.LG
Graph Convolutional Networks for Road Networks
Aalborg University(奥尔堡大学)
道路网络的机器学习技术具有促进许多重要交通应用的潜力。图卷积网络(GCN)是神经网络,其能够通过利用道路网络的信息来利用道路网络的结构,相邻路段。虽然最先进的GCN目标是社交、引用和生物网络中的节点分类任务,但道路网络中的机器学习任务与这些任务有很大不同。在道路网络中,预测任务涉及表示道路段的边,并且许多任务涉及回归。此外,道路网络与GCN文献中假设的网络在可用的属性信息和网络特性方面有很大不同。因此,GCN的许多隐含假设并不适用。我们引入了关系融合网络(RFN)的概念,这是一种专门为道路网络上的机器学习而设计的新型GCN。特别是,我们提出的方法在路段回归任务和路段分类任务上的性能分别超过最先进的GCN 32-40%和21- 24%。此外,我们还提供了在道路网络背景下最先进的GCN的短距离的实验证据:与我们的方法不同,它们不能有效地利用道路网络结构进行路段分类,并且无法优于常规的多层感知器。
2020-07-22 cs.DB cs.LG stat.ML
Graph Neural Networks Exponentially Lose Expressive Power for Node Classification
The University of Tokyo(东京大学);Preferred Networks, Inc.(Preferred Networks公司);RIKEN Center for Advanced Intelligence Project (AIP)(理化学研究所先进智能项目中心)
图神经网络(图NN)是一种很有前途的分析图结构数据的深度学习方法。然而,众所周知,当我们堆积许多层并添加非线性时,它们并没有提高(有时甚至恶化)它们的预测性能。为了解决这个问题,我们研究了图NN的表达能力,通过它们的渐近行为,层大小趋于无穷大。我们的策略是推广的前向传播的图卷积网络(GCN),这是一个流行的图NN的变种,作为一个特定的动力系统。在一个GCN的情况下,我们表明,当它的权重满足(增强)归一化拉普拉斯算子的频谱所确定的条件时,它的输出指数接近的信号集,携带的信息的连接组件和节点度仅用于区分节点。我们的理论使我们能够将GCN的表达能力与图谱中固有的底层图的拓扑信息联系起来。为了证明这一点,我们刻画了GCN在Erdens-Rényi图上的渐近行为。我们证明了当Erdens-Rényi图足够稠密且足够大时,其上的大范围GCN在无限层的极限下以很高的概率遭受"信息损失"。在此基础上,我们为图神经网络的权值归一化提供了一个原则性的指导。我们通过实验证实,提出的权重缩放增强了GCN在真实数据中的预测性能。代码可在www.example.com上获得。
2021-01-06 cs.LG stat.ML
Deperturbation of Online Social Networks via Bayesian Label Transition
Indiana University-Purdue University Indianapolis(印第安纳大学-普渡大学印第安纳波利斯分校)
在线社交网络(OSN)基于用户的在线活动和兴趣将用户分类为不同的类别,该任务被称为节点分类任务。这样的任务可以有效地解决使用图卷积网络(GCN)。然而,少量的用户,所谓的扰动,可能会执行随机活动的OSN,这显着恶化的性能GCN为基础的节点分类任务。在这个方向上,现有的工作可以通过对抗训练或识别攻击者节点,然后将其删除来保护GCN。然而,这两种方法都需要首先识别攻击模式或攻击者节点,这在扰动器节点数量非常少的情况下是困难的。在这项工作中,我们开发了一个GCN防御模型,即GraphLT,它使用标签转换的概念。GraphLT假设扰动者的随机活动会降低GCN的性能。为了克服这个问题,GraphLT随后使用了一种新的贝叶斯标签转换模型,该模型采用GCN的预测标签,并通过基于吉布斯采样的推理应用标签转换,从而修复GCN的预测,以实现更好的节点分类。在七个基准数据集上的大量实验表明,GraphLT在不受干扰的环境中大大提高了节点分类器的性能;此外,它验证了GraphLT可以成功地修复基于GCN的节点分类器,其性能优于几种竞争方法。
2022-01-18 cs.LG cs.SI physics.soc-ph
Leveraging Deep Neural Networks for Aspect-Based Sentiment Classification
Osaka University(大阪大学);University of South Australia(南澳大学);Hiroshima University(广岛大学)
针对 GCN 直接提取句法特征易丢失关键信息的问题,提出融合 Bi-LSTM、自注意力 transformer、Bi-GCN 消息传递与方面掩码的 EEGCN,并在四个基准上验证其显著提升。
2025-03-17 cs.CL cs.LG
HD-GCN:A Hybrid Diffusion Graph Convolutional Network
Hubei University of Technology(湖北工业大学)
针对GCN受限于邻接矩阵导致信息扩散不足的问题,提出HD-GCN框架,结合特征空间与邻接矩阵的混合扩散机制并引入扩散距离正则化,实现了更全面的信息传播与更平滑的分类面,显著提升了半监督学习性能。
2023-03-31 cs.LG
A Simple Yet Effective SVD-GCN for Directed Graphs
The University of Sydney Business School(悉尼大学商学院);The University of Sydney(悉尼大学)
在本文中,我们提出了一个简单而有效的图神经网络的有向图(有向图)的基础上,经典的奇异值分解(SVD),命名为SVD-GCN。新的图神经网络建立在图SVD-小框架上,以更好地分解SVD“频率”带上的图信号。此外,新的小标架SVD-GCN也通过使用Chebyshev多项式近似扩展到更大规模的图。通过在多个节点分类数据集上进行的实验,我们发现SVD-GCN在各种图节点学习任务上都有显着的改进,并且在有向图上的性能优于GCN和许多其他最先进的图神经网络。此外,我们经验证明,SVD-GCN具有很大的去噪能力和鲁棒性,以高层次的图数据攻击。理论和实验结果证明,SVD-GCN是有效的,在各种各样的图数据集,同时保持稳定,甚至比最先进的性能更好。
2022-05-19 cs.LG cs.SI
Meta-GCN: A Dynamically Weighted Loss Minimization Method for Dealing with the Data Imbalance in Graph Neural Networks
University of Calgary(卡尔加里大学)
本文提出元学习算法Meta-GCN,利用小型无偏元数据集自适应学习样本权重,以缓解图神经网络中的类别不平衡问题,并在多个指标上优于现有方法。
2024-06-27 cs.AI cs.LG
Determinate Node Selection for Semi-supervised Classification Oriented Graph Convolutional Networks
Guizhou University(贵州大学)
图卷积网络(GCN)通过从图数据中提取结构信息,在半监督节点分类领域已被证明是成功的。然而,随机选择的标记节点使用的GCN可能会导致不稳定的泛化性能的GCN。在本文中,我们提出了一种有效的方法,确定性选择标记的节点:确定性节点选择(DNS)算法。DNS算法识别图中的两类代表性节点:典型节点和发散节点。通过探索图的结构并确定节点表示图内数据分布的能力来选择这些标记的节点。DNS算法可以非常简单地应用于广泛的半监督图神经网络模型的节点分类任务。通过大量的实验,我们已经证明,与原始方法相比,DNS算法的引入可以显着提高模型的平均准确度,并显着降低标准差。
2023-01-11 cs.AI cs.LG