Adaptive-Step Graph Meta-Learner for Few-Shot Graph Classification
College of Computer Science, Zhejiang University(浙江大学计算机学院);University of California, Santa Barbara(加州大学圣巴巴拉分校)
图分类的目的是从图结构的数据中提取准确的信息进行分类,在图学习领域变得越来越重要。虽然图神经网络(GNNs)已经成功地应用于图分类任务,但大多数GNNs在许多应用中忽略了标记图数据的稀缺性。例如,在生物信息学中,获得蛋白质图标签通常需要费力的实验。最近,少样本学习已经被探索来缓解这个问题,仅给定测试类的少量标记图样本。在Few-Shot图分类中,训练类和测试类之间的共享子结构是必不可少的。现有方法假设测试类属于从训练类聚类的同一超类集合。然而,根据我们的观察,训练类和测试类的标签空间在现实世界中通常不会重叠。因此,现有的方法不能很好地捕捉到不可见测试类的局部结构。为了克服这一局限性,在本文中,我们提出了一种直接的方法来捕捉子结构与良好的初始化元学习器在几个适应步骤。具体而言,(1)提出了一种新的图元学习器框架,该框架使用基于GNNs的模块对图数据进行快速自适应,并使用步长控制器对图元学习器进行鲁棒性和泛化,(2)对该框架进行了定量分析,并给出了基于该框架的泛化误差与图相关的上界;(3)在真实数据集上的大量实验表明,与基线相比,我们的框架在几个Few-Shot图分类任务上获得了最先进的结果。
2020-06-23 cs.LG stat.ML
Variational Recurrent Neural Networks for Graph Classification
Telecom ParisTech(巴黎高等电信学院);Safran(赛峰集团)
我们解决的问题,图的分类只基于结构信息。受自然语言处理技术(NLP)的启发,我们的模型顺序地嵌入信息来估计类成员概率。此外,我们还尝试了NLP类变分正则化技术,使模型在读取序列时预测序列中的下一个节点。我们的实验表明,我们的模型在几个标准分子数据集上实现了最先进的分类结果。最后,我们进行了定性分析,并就节点预测是否有助于模型更好地分类图给出了一些见解。
2019-05-13 cs.LG stat.ML
Transductive Classification Methods for Mixed Graphs
Yahoo! Labs(雅虎实验室)
在本文中,我们提供了一个原则性的方法来解决一个转导分类问题,涉及一个类似的图(边缘倾向于连接具有相同标签的节点)和一个不相似的图(边缘倾向于连接具有相反标签的节点)。大多数现有的方法,例如,信息正则化(IR)、加权投票关系邻居分类器(WvRN)等,都假设给定的图是相似图。我们扩展了IR和WvRN方法来处理混合图。我们评估了几个基准数据集以及两个真实世界的数据集上提出的扩展,并证明了我们的想法的实用性。
2012-06-26 cs.LG stat.ML
Two-stage Training of Graph Neural Networks for Graph Classification
KAIST(韩国科学技术院);Yonsei University(延世大学)
图神经网络(GNN)在图上的机器学习领域受到了广泛关注。受神经网络成功的启发,人们进行了一系列研究来训练GNN以处理各种任务,例如节点分类、图分类和链接预测。在这项工作中,我们感兴趣的任务是图分类。已经提出了几种GNN模型,并在这项任务中表现出很高的精度。然而,问题是通常的训练方法是否完全实现了GNN模型的能力。在这项工作中,我们提出了一个两阶段的训练框架的基础上三重损失。在第一阶段中,GNN被训练为将每个图映射到欧几里得空间向量,以便相同类的图很接近,而不同类的图映射得很远。一旦图基于标签被很好地分离,分类器就被训练来区分不同的类。这种方法是通用的,因为它与任何GNN模型兼容。通过调整五个GNN模型到我们的方法,我们证明了在12个数据集中,每个GNN的分配容量的准确性和利用率比每个模型的原始训练方法提高了5.4个点。
2022-04-08 cs.LG stat.ML
Progressive Graph Convolutional Networks for Semi-Supervised Node Classification
Aarhus University(奥胡斯大学)
图卷积网络已经成功地解决了基于图的任务,如半监督节点分类。现有的方法使用由用户定义的网络结构,基于实验,每层具有固定数量的层和神经元,并采用逐层传播规则来获得节点嵌入。设计一个自动过程来定义图卷积网络的问题相关架构可以极大地帮助减少在训练过程中手动设计模型结构的需要。在本文中,我们提出了一种方法来自动构建紧凑和特定任务的图卷积网络。在广泛使用的公开数据集上的实验结果表明,该方法在分类性能和网络紧凑性方面优于基于卷积图网络的相关方法。
2021-01-20 cs.LG stat.ML
Graph Partition Neural Networks for Semi-Supervised Classification
University of Toronto(多伦多大学);Uber ATG Toronto(优步高级技术集团多伦多分部);Vector Institute(向量研究所);Microsoft Research Cambridge(微软研究院剑桥分院);Google Brain(谷歌大脑);Canadian Institute for Advanced Research(加拿大高级研究所)
我们提出了图分区神经网络(GPNN),图神经网络(GNNs)的扩展,能够处理非常大的图。GPNN在小子图中的节点之间的局部传播信息和子图之间的全局传播信息之间交替。为了有效地划分图形,我们实验了几种划分算法,并提出了一种新的变体,用于快速处理大规模图形。我们在各种半监督节点分类任务上广泛测试了我们的模型。实验结果表明,GPNN是优于或相当于国家的最先进的方法在各种各样的数据集上的基于图的半监督分类。我们还表明,GPNN可以实现类似的性能标准GNNs的传播步骤更少。
2018-03-16 cs.LG stat.ML
Certified Robustness of Graph Classification against Topology Attack with Randomized Smoothing
University of Texas at San Antonio(德克萨斯大学圣安东尼奥分校)
图分类在各个领域都有实际应用。最近的研究表明,基于图的机器学习模型由于图数据的非独立同分布性质而特别容易受到对抗性扰动的影响。通过添加或删除图中的少量边,对手可以极大地改变由图分类模型预测的图标签。在这项工作中,我们提出了建立一个平滑的图分类模型与认证的鲁棒性保证。我们已经证明,所得到的图分类模型将输出相同的预测下的图$l_0$有界对抗扰动。我们还评估了我们的方法的有效性下的图卷积网络(GCN)的多类图分类模型。
2020-09-12 cs.CR cs.LG stat.ML
MGCN: Semi-supervised Classification in Multi-layer Graphs with Graph Convolutional Networks
Sharif University of Technology(谢里夫理工大学)
图嵌入是实现节点分类、链接预测等图分析任务的重要方法。图嵌入的目标是找到保留图信息的图节点的低维表示。最近的方法,如图卷积网络(GCN),试图考虑节点属性(如果可用),除了节点关系和学习节点嵌入的无监督和半监督的任务图。另一方面,多层图分析最近受到关注。然而,现有的多层图嵌入方法不能包含所有可用的信息(如节点属性)。此外,他们中的大多数考虑节点或边的类型,他们不处理层内和层间的边缘不同。在本文中,我们提出了一种称为MGCN的方法,利用GCN的多层图。MGCN使用层内和层间关系和节点属性嵌入多层图的节点。我们在半监督节点分类任务上评估我们的方法。实验结果表明,该方法的优越性,其他多层和单层的竞争对手,也显示了积极的效果,使用跨层的边缘。
2019-08-24 cs.LG stat.ML
IsoNN: Isomorphic Neural Network for Graph Representation Learning and Classification
IFM Lab(IFM实验室);Florida State University(佛罗里达州立大学)
深度学习模型在许多领域取得了巨大的成功,例如计算机视觉和自然语言处理。然而,与这些领域不同的是,由于“无节点有序”属性,很难将传统的深度学习模型应用于图数据。通常情况下,邻接矩阵会在图上投射一个人为的和随机的节点顺序,这使得深度模型在图分类任务上的性能非常不稳定,并且这些模型学习的表示缺乏清晰的可解释性。为了消除不必要的节点顺序约束,本文提出了一种新的同构神经网络(IsoNN)模型,该模型通过输入图与模板之间的图匹配来提取图的同构特征,从而学习图的表示。IsoNN有两个主要部分:图同构特征提取部分和分类部分。图同构特征提取组件利用一组子图模板作为核变量来学习输入图中存在的可能的子图模式,然后计算同构特征。在组件中使用一组置换矩阵来打破由矩阵表示带来的节点顺序。三个全连接层被用作IsoNN中的分类组件。在基准数据集上进行了大量实验,实验结果可以证明ISONN的有效性,特别是与经典和最先进的图分类方法相比。
2019-09-28 cs.LG stat.ML
Structural Landmarking and Interaction Modelling: on Resolution Dilemmas in Graph Classification
Temple University(天普大学);East China Normal University(华东师范大学);Fudan University(复旦大学);Georgia Institute of Technology(佐治亚理工学院)
图神经网络是一种很有前途的用于学习和推理图结构数据的体系结构。然而,在图形分类方面,对“部分”及其"相互作用“进行建模的困难仍然存在,其中图形级表示通常是通过图形池将整个图形压缩成单个向量来获得的。从复杂系统的角度来看,将系统的所有部分混合在一起会影响模型的可解释性和预测性能,因为复杂系统的属性主要来自其组件之间的相互作用。我们分析了内在的困难,图分类的统一概念下的“分辨率困境”与学习理论的恢复保证,并提出了"SLIM“,一个归纳神经网络模型的结构地标和交互建模。事实证明,通过解决分辨率困境,并利用图的组成部分之间的显式交互关系来解释其复杂性,SLIM更具可解释性,准确性,并为图表示学习提供了新的见解。
2020-06-29 cs.LG stat.ML
Discriminative structural graph classification
EPFL(洛桑联邦理工学院);SDSC(瑞士数据科学中心)
本文重点研究了聚集函数的鉴别能力:这些聚集函数是图神经网络用来组合节点特征的置换不变函数。意识到最强大的聚合函数遭受维数灾难,我们考虑一个限制设置。特别是,我们表明,标准的总和和一种新的基于直方图的功能有能力区分任何固定数量的输入选择的对手。基于我们的见解,我们设计了一个图神经网络的目标,不是最大化的歧视能力,但学习的歧视性图表示,推广良好。我们的实证评估提供的证据表明,我们的选择可以产生效益的问题的结构图分类。
2019-06-05 cs.LG stat.ML
Classify and Generate: Using Classification Latent Space Representations for Image Generations
Institute for Infocomm Research, A*STAR(新加坡科技研究局资讯通信研究院)
利用分类潜在空间信息进行下游重建和生成是一个有趣的和相对未开发的领域。一般来说,区别性表示富含类特定特征,但对于重建来说太稀疏,而在自动编码器中,表示是密集的,但具有有限的不可区分的类特定特征,使它们不太适合分类。在这项工作中,我们提出了一个歧视性的建模框架,采用操纵监督潜在表示重建和生成属于一个给定的类的新样本。与生成建模方法(如GANs和VAE)不同,这些方法旨在对数据流形分布进行建模,基于表示的生成(ReGene)直接表示分类空间中的给定数据流形。在某些约束条件下,这种监督表示允许使用适当的解码器进行重建和受控生成,而无需强制执行任何先验分布。从理论上讲,给定一个类,我们表明,这些表示时,巧妙地操纵使用凸组合保留相同的类标签。此外,它们还导致视觉上逼真的图像的新颖生成。在不同分辨率的数据集上进行的大量实验表明,ReGene比现有的条件生成模型具有更高的分类精度,同时在FID方面具有竞争力。
2021-12-14 cs.LG stat.ML
Graph Classification Gaussian Processes via Spectral Features
University of Cambridge(剑桥大学);University of Oxford(牛津大学)
本文利用图信号处理推导谱特征,提出两种图分类高斯过程模型,分别基于信号能量分布和学习谱图小波滤波器,在保持竞争力的同时提供校准良好的不确定性估计。
2023-06-06 cs.LG stat.ML
Exploring Structure-Adaptive Graph Learning for Robust Semi-Supervised Classification
Wangxuan Institute of Computer Technology, Peking University(北京大学王选计算机研究所)
图卷积神经网络(GCNN)是CNN对图结构数据的推广,其中卷积由图拓扑引导。在许多情况下,图是不可用的,现有的方法手动构建图或学习任务驱动的自适应图。在本文中,我们提出了图学习神经网络(GLNN),它利用数据和任务的图(特别是邻接矩阵)优化。利用谱图理论,我们提出了从稀疏性约束,有效邻接矩阵的性质以及通过最大后验估计的图拉普拉斯正则化器的图学习的目标。然后将优化目标集成到GCNN的损失函数中,GCNN不仅使图形拓扑适应特定任务的标签,而且还适应输入数据。实验结果表明,我们提出的GLNN优于国家的最先进的方法,广泛采用的社会网络数据集和引文网络数据集的半监督分类。
2019-09-16 cs.LG stat.ML
PiNet: Attention Pooling for Graph Classification
University College London(伦敦大学学院)
我们提出了PiNet,一个通用的可微分注意力池机制,利用图卷积操作进行图级分类。我们展示了高样本效率和优于其他图神经网络的性能,在区分同构图类,以及竞争力的结果与最先进的方法对标准的化学信息学数据集。
2020-08-11 cs.CV cs.LG stat.ML
M-Evolve: Structural-Mapping-Based Data Augmentation for Graph Classification
Institute of Cyberspace Security, College of Information Engineering, Zhejiang University of Technology(浙江工业大学信息工程学院网络空间安全研究院);Department of Electrical Engineering, City University of Hong Kong(香港城市大学电子工程系)
图分类的目的是确定图的类别标签,在药物分类、毒性检测、蛋白质分析等方面发挥着重要作用。然而,标准数据集尺度的限制使得图分类模型容易陷入过拟合和泛化不足。为了改善这一点,我们引入了图上的数据增强(即图增强),并提出了四种方法:随机映射,顶点相似性映射,模体随机映射和模体相似性映射,以产生更多的弱标记数据的小规模基准数据集通过启发式变换的图结构。此外,我们提出了一个通用的模型进化框架,名为M-Evolve,它结合了图增强,数据过滤和模型再训练,以优化预训练的图分类器。在六个基准数据集上的实验表明,该框架有助于现有的图分类模型在小规模基准数据集上训练时减轻过度拟合和泛化不足,成功地使图分类任务的准确率平均提高了3 - 13%。
2021-04-03 cs.LG cs.SI stat.ML
Topological based classification of paper domains using graph convolutional networks
Bar-Ilan University(巴伊兰大学)
图中节点分类的主要方法是信息传播和节点类与外部信息的关联。现有技术的方法通过图卷积网络合并这些方法。我们在这里使用的关联的拓扑特征的节点与他们的类来预测这个类。此外,将拓扑信息与信息传播相结合,提高了标准CiteSeer和Cora论文分类任务的分类精度。拓扑特征和信息传播产生的结果几乎与基于文本的分类一样好,没有文本或内容信息。我们建议通过一个GCN表示的拓扑结构和信息传播与相邻的训练节点分类作为输入和当前节点分类作为输出。这种形式主义优于现有技术的方法。
2019-04-10 cs.LG cs.SI stat.ML
Revisiting Neighborhood Aggregation in Graph Neural Networks for Node Classification using Statistical Signal Processing
International University of Rabat(拉巴特国际大学)
本文从统计信号处理角度重新审视GNN中的邻域聚合,指出基准模型在边缘独立标签假设下的概念缺陷,并提出改进设计见解。
2024-07-21 cs.LG eess.SP stat.ML
Are Powerful Graph Neural Nets Necessary? A Dissection on Graph Classification
University of California, Los Angeles(加利福尼亚大学洛杉矶分校);Zhejiang University(浙江大学)
图神经网络(GNN)受到越来越多的关注,部分原因是它们在许多节点和图分类任务中具有优异的性能。然而,人们对他们正在学习的内容以及所学习的图函数的复杂程度缺乏了解。在这项工作中,我们提出了将GNN的图分类分解为两个部分:1)图过滤,其中执行基于图的邻居聚合,以及2)集合函数,其中组成一组隐藏节点特征用于预测。为了研究这两部分的重要性,我们建议将它们分别线性化。我们首先线性化的图过滤功能,产生的图形特征网络(GFN),这是一个简单的轻量级神经网络上定义的\textit{set}的图形增强功能。GFN的集函数的进一步线性化导致图线性网络(GLN),这是一个线性函数。根据经验,我们对常见的图分类基准进行评估。令我们惊讶的是,我们发现,尽管简化了,GFN可以匹配或超过最近提出的GNN产生的最佳精度(计算成本的一小部分),而GLN表现明显不佳。我们的研究结果表明,非线性集函数的重要性,并建议,线性图过滤与非线性集函数是一个有效的和强大的计划建模现有的图分类基准。
2020-06-09 cs.LG cs.SI stat.ML
Semi-supervised Learning with Graphs: Covariance Based Superpixels For Hyperspectral Image Classification
University of Cambridge(剑桥大学)
提出了一种基于图的半监督高光谱图像分类框架。我们首先介绍了一种新的超像素算法的基础上的光谱协方差矩阵表示的像素,以提供一个更好的表示我们的数据。然后,我们在进行分类之前,根据仔细考虑的特征向量构建一个超像素图。通过使用两个基准数据集的一组实验结果,我们证明了我们的方法优于三种最先进的分类框架,特别是当使用极少量的标记数据时。
2019-05-14 cs.CV cs.LG stat.ML
Superpixel Contracted Graph-Based Learning for Hyperspectral Image Classification
高光谱图像分类的核心问题是在使用有限数量的标记数据时获得高的分类精度。在本文中,我们提出了一种新的基于图的框架,其目的是解决这个问题,在存在大规模的数据输入。我们的方法利用了一种新的超像素方法,专门为高光谱数据设计,以定义图像中有意义的局部区域,这些区域具有很高的概率共享相同的分类标签。然后,我们从这些区域提取光谱和空间特征,并使用这些来产生一个收缩的加权图形表示,其中每个节点代表一个区域,而不是一个像素。然后,我们的图被输入到一个基于图的半监督分类器中,该分类器给出最终的分类。我们表明,在图形表示中使用超像素是加速应用于高光谱图像的图形分类器的有效工具。我们通过详尽的定量和定性结果证明,我们提出的方法产生准确的分类时,使用了令人难以置信的少量标记的数据。我们表明,我们的方法减轻了现有方法的主要缺点,导致我们的方法优于几个比较国家的最先进的技术。
2019-03-19 cs.CV cs.LG stat.ML
Collaborative Graph Walk for Semi-supervised Multi-Label Node Classification
King Abdullah University of Science and Technology (KAUST)(阿卜杜拉国王科技大学);Symantec(赛门铁克)
本文提出协作图游走方法Multi-Label-Graph-Walk,利用强化学习精细调整节点嵌入,通过多智能体协作游走捕获标签与结构关系及任务相关性,实现半监督多标签节点分类性能显著提升。
2019-11-17 cs.AI cs.LG stat.ML
Label-Consistency based Graph Neural Networks for Semi-supervised Node Classification
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学)
图神经网络(GNNs)在基于图的半监督节点分类中取得了显著的成功,它利用来自相邻节点的信息来改进目标节点的表示学习。GNN在节点分类方面的成功取决于连接的节点往往具有相同标签的假设。然而,这样的假设并不总是有效,限制了GNN在节点分类方面的性能。在本文中,我们提出了基于标签一致性的图神经网络(LC-GNN),利用节点对不连接,但具有相同的标签,以扩大GNN中的节点的感受野。在基准数据集上的实验表明,LC-GNN在基于图的半监督节点分类中优于传统GNN,并进一步显示了LC-GNN在只有少数标记节点的稀疏场景中的优越性。
2020-07-27 cs.LG cs.SI stat.ML
Graph Classification via Deep Learning with Virtual Nodes
Deakin University(迪肯大学);University of Wollongong(伍伦贡大学)
图分类的学习表示将可变大小的图转换为固定大小的向量(或矩阵)。这样的表示很好地与代数操作一起工作。在这里,我们介绍了一个简单的方法来增加一个属性图与一个虚拟节点,是双向连接到所有现有的节点。虚拟节点表示图的潜在方面,这些方面不能立即从属性和局部连接结构中获得。然后将扩展的图通过任何节点表示方法。虚拟节点的表示就是整个图的表示。在本文中,我们使用最近推出的列网络的扩展图,从而在一个新的端到端的图分类模型称为虚拟列网络(VCN)。该模型通过两项任务进行验证:(i)预测化合物的生物活性,以及(ii)从源代码中发现软件漏洞。结果表明,VCN是有竞争力的对成熟的竞争对手。
2017-08-14 cs.AI cs.LG stat.ML
Supervised Contrastive Learning with Structure Inference for Graph Classification
Beijing University of Technology(北京工业大学)
近年来,高级图神经网络在图分类方面显示出巨大的潜力。与节点分类不同的是,图分类需要对不同层次的拓扑信息进行分层积累,以生成有区别的图嵌入,节点分类可以直接使用从本地邻居聚合的节点嵌入来学习节点标签。尽管如此,如何充分探索图结构并制定有效的图分类管道仍然是基本的。本文提出了一种基于结构推理的有监督对比学习的图神经网络。首先,我们提出了一个数据驱动的图增强策略,可以发现额外的连接,以增强现有的边集。具体地说,我们诉诸于一个结构推理阶段的基础上扩散级联,以恢复可能的连接与高节点相似性。其次,为了提高图神经网络的对比度,我们提出了使用监督对比损失进行图分类。通过标签信息的整合,可以将one-vs-many对比学习扩展到many-vs-many,从而将拓扑相似度较高的图级嵌入拉近。监督对比损失和结构推理可以自然地并入分层图神经网络中,其中拓扑模式可以被充分探索以产生有区别的图嵌入。实验结果表明,该方法的有效性与最近的国家的最先进的方法相比。
2022-03-15 cs.LG
Graph-Hist: Graph Classification from Latent Feature Histograms With Application to Bot Detection
Carnegie Mellon University(卡内基梅隆大学)
神经网络越来越多地用于各种上下文中的图分类。社交媒体是这个领域的一个关键应用领域,然而社交媒体图的特征与大多数流行的基准数据集不同。社交网络往往是大而稀疏的,而基准则是小而密集的。传统上,大型稀疏网络通过研究局部属性的分布来分析。受此启发,我们引入了Graph-Hist:一种端到端的架构,它可以提取图的潜在局部特征,沿着特征空间的一维横截面将节点合并在一起,并基于此多通道直方图对图进行分类。我们表明,Graph-Hist在真实的社交媒体基准数据集上提高了最先进的性能,同时在其他基准上仍然表现良好。最后,我们通过在社交媒体中进行机器人检测来展示Graph-Hist的性能。虽然复杂的机器人和电子人账户越来越多地避开传统的检测方法,但它们在会话图中留下了人工伪像,这些伪像通过图分类来检测。我们应用Graph-Hist对这些会话图进行分类。在这个过程中,我们确认社交媒体图与大多数基线不同,并且Graph-Hist优于现有的机器人检测模型。
2019-10-02 cs.LG cs.SI stat.ML
Encoder Embedding for General Graph and Node Classification
University of Delaware(特拉华大学)
本文将图编码器嵌入从二值图扩展到加权图、距离矩阵和核矩阵等通用图模型,证明其满足大数定律与中心极限定理,并在逐类别上具有渐近正态性,从而支持基于判别分析的最优节点分类。
2024-10-22 cs.LG cs.SI stat.ML
From Graph Diffusion to Graph Classification
University of British Columbia(不列颠哥伦比亚大学);Simon Fraser University(西蒙菲莎大学)
针对图领域分类未充分探索的问题,提出为基于分数的图扩散模型定制新型判别训练目标,结合基于采样的推理方法,实现了最先进的图分类准确率。
2024-11-26 cs.AI cs.LG
PiNet: A Permutation Invariant Graph Neural Network for Graph Classification
University College London(伦敦大学学院);Braintree Ltd.(Braintree公司)
我们提出了一种用于图分类和表示学习的端到端深度学习学习模型,该模型对输入图的节点的排列是不变的。我们解决的挑战,学习一个固定大小的图形表示不同尺寸的图形通过可微节点注意力池机制。除了理论证明其不变性置换,我们提供的实证证据表明,在统计上显着的增益精度时,面对同构图分类任务,只有少量的训练样本。我们分析了四种不同矩阵的效果,以促进本地消息传递机制,通过该机制执行图卷积,而不是由能够在前者之间平滑过渡的学习参数对参数化的矩阵。最后,我们证明了我们的模型在一组分子数据集上实现了与现有技术竞争的分类性能。
2019-05-08 cs.CV cs.LG cs.NE
Structure fusion based on graph convolutional networks for semi-supervised classification
Xi'an University of Technology(西安理工大学)
针对多视点数据多样性和半监督分类复杂性的问题,现有的图卷积网络大多关注于网络结构的构建或显著图结构的保持,而忽略了完整图结构对半监督分类的贡献。为了从多视图数据中挖掘出更完整的分布结构,同时兼顾特殊性和共性,提出了基于图卷积网络的结构融合方法(SF-GCN),以提高半监督分类的性能。SF-GCN不仅可以通过谱嵌入来保留各个视图数据的特征,而且可以通过多图结构之间的距离度量来捕捉多视图数据的共同风格。假设多图结构之间存在线性关系,通过平衡特殊性损失和通用性损失,构造结构融合模型的优化函数。通过求解该函数,可以同时得到多视点数据的融合谱嵌入和融合结构作为邻接矩阵输入到图卷积网络进行半监督分类。实验结果表明,SF-GCN在引文网络中的Cora、Citeseer和Pubmed三个具有挑战性的数据集上的性能优于现有技术。
2019-07-02 cs.CV cs.LG stat.ML
A Graph-CNN for 3D Point Cloud Classification
McGill University(麦吉尔大学)
图卷积神经网络(Graph-CNN)扩展了传统的CNN来处理图上支持的数据。在处理图上的数据时的主要挑战是支持集(图的顶点)通常不具有自然排序,并且一般来说,图的拓扑不规则(即,顶点并不都具有相同数目的邻居)。因此,Graph-CNN在处理从流形采样获得的3D点云数据方面具有巨大的潜力。在本文中,我们开发了一个用于分类3D点云数据的Graph-CNN,称为PointGCN。该架构将局部图卷积与两种类型的图下采样操作(也称为池化)相结合。通过使用Graph-CNN对点云局部结构的有效探索,所提出的架构在3D对象分类基准ModelNet上实现了具有竞争力的性能,并且我们的架构比竞争方案更稳定。
2018-11-28 cs.CV cs.LG stat.ML
Geometric graphs from data to aid classification tasks with graph convolutional networks
Queen Mary University of London(伦敦玛丽女王大学);Imperial College London(帝国理工学院);Tokyo Institute of Technology(东京工业大学)
传统的分类任务学习仅基于样本特征将样本分配给给定的类。这一范式正在演变,以包括其他信息来源,如样本之间的已知关系。在这里,我们表明,即使额外的关系信息是不可用的数据集,可以通过构建几何图形的功能本身,并使用它们在一个图卷积网络的分类。通过以相对低的边缘密度捕获样本相似性的图来最大化分类精度的提高。我们表明,这种特征衍生图增加了数据与地面实况的对齐,同时提高了类分离。我们还证明了使用谱稀疏化可以使图更有效,这减少了边缘的数量,同时仍然提高了分类性能。我们使用来自各个科学领域的合成和真实世界的数据集来说明我们的研究结果。
2021-04-13 cs.LG cs.SI physics.soc-ph
Quadratic GCN for Graph Classification
Bar-Ilan University(巴伊兰大学)
图卷积网络(GCN)已被广泛用于图中的顶点分类,并已被证明优于其他顶点分类方法。GCN已经扩展到图分类任务(GCT)。在GCT中,具有不同边数和顶点数的图属于不同的类,并且人们试图预测图类。基于GCN的GCT主要使用池化和基于注意力的模型。现有的GCT方法的精度仍然有限。在这里,我们提出了一种新的解决方案,结合GCN,知识图谱的方法,和一个新的自正则化激活函数,显着提高GCN的GCT的准确性。我们提出了二次GCN(QGCN)-一个GCN形式主义与二次层。这样的层产生具有固定维度的输出,与图顶点数无关。我们将这种方法应用到广泛的图形分类问题,并表明,当使用一个自我正则化的激活函数,QGCN优于所有的图形分类任务测试或没有外部输入的每个图形的最先进的方法。QGCN的代码可在https://github.com/Unknown-Data/QGCN上获得。
2021-04-14 cs.LG
Robust Classification of Graph-Based Data
Universidad Autónoma de Madrid(马德里自治大学);KU Leuven(鲁汶大学)
提出了一种基于图的分类方法,用于欧几里德数据情况下的半监督学习和图数据情况下的分类。我们的流形学习技术是基于一个凸优化问题,涉及一个凸二次正则化项和凹二次损失函数与权衡参数精心选择,使目标函数保持凸。如经验所示,考虑凹损失函数的优点在于,在存在噪声标签的情况下,学习问题变得更加鲁棒。此外,这里考虑的损失函数更类似于分类损失,而其他几种方法将基于图的分类问题视为回归问题。
2019-01-28 cs.LG
Room Classification on Floor Plan Graphs using Graph Neural Networks
George Mason University(乔治梅森大学)
我们提出了我们的方法来改善房间分类任务的建筑物平面图的平面图表示为无向图和利用图神经网络来预测房间类别。楼层平面图中的房间表示为图形中的节点,边表示它们在地图中的相邻关系。我们实验的House-GAN数据集,包括平面图的矢量格式和训练多层感知器和图神经网络。我们的研究结果表明,图神经网络,特别是GraphSAGE和拓扑自适应GCN能够分别达到80%和81%的准确率,超过基线多层感知器15%以上的利润率。
2021-08-12 cs.LG
Semi-Supervised Node Classification on Graphs: Markov Random Fields vs. Graph Neural Networks
Duke University(杜克大学)
图结构数据的半监督节点分类在欺诈检测、虚假账号和评论检测、社交网络中用户的私有属性推断以及社区发现等方面有着广泛的应用。各种方法,如成对马尔可夫随机场(pMRF)和图神经网络开发的半监督节点分类。pMRF比图神经网络更有效。然而,现有的基于pMRF的方法不如图神经网络准确,这是由于它们假设所有边缘的基于几何学的恒定边缘势的关键限制。在这项工作中,我们的目标是解决现有的基于pMRF的方法的关键限制。特别是,我们建议学习边缘电位pMRF。我们对各种类型的图数据集的评估结果表明,我们优化的pMRF为基础的方法始终优于现有的图神经网络的准确性和效率。我们的研究结果强调,以前的工作可能低估了半监督节点分类的pMRF的力量。
2020-12-25 cs.LG
Structure-Enhanced Meta-Learning For Few-Shot Graph Classification
University of Science and Technology of China(中国科学技术大学);National University of Singapore(新加坡国立大学);University of Hong Kong(香港大学)
图分类是一个非常有影响力的任务,在分子性质预测和蛋白质功能预测等众多现实世界的应用中发挥着至关重要的作用。为了处理具有有限标记图的新类别,Few-Shot图分类已经成为现有图分类解决方案和实际应用的桥梁。这项工作探讨了基于度量的元学习解决少镜头图分类问题的潜力。我们强调了在解决方案中考虑结构特征的重要性,并提出了一种新的框架,该框架显式地考虑了输入图的全局结构和局部结构。GIN上的一个实现,命名为SMF-GIN,测试两个数据集,Chembl和三角形,广泛的实验验证了所提出的方法的有效性。Chembl的构建是为了填补缺乏用于Few-Shot图分类评估的大规模基准的空白,其与SMF-GIN的实现一起发布在:https://github.com/jiangshunyu/SMF-GIN。
2021-12-28 cs.LG
Size-Invariant Graph Representations for Graph Classification Extrapolations
Purdue University(普渡大学)
通常,图表示学习方法假设训练和测试数据来自相同的分布。在这项工作中,我们考虑一个未充分探索的领域,否则迅速发展的领域的图表示学习:分布外(OOD)图分类的任务,其中训练和测试数据具有不同的分布,与测试数据在训练过程中不可用。我们的工作表明,使用因果模型来学习近似不变的表示是可能的,这些表示可以更好地在训练和测试数据之间进行外推。最后,我们得出结论与合成和真实世界的数据集实验展示的好处,是不变的训练/测试分布偏移的表示。
2021-07-06 cs.LG
Imbalanced Graph Classification via Graph-of-Graph Neural Networks
Vanderbilt University(范德堡大学);Snap Research(Snap研究院)
图神经网络(GNN)在识别图的分类标签方面取得了前所未有的成功。然而,大多数现有的GNN图分类问题都遵循平衡数据分割的协议,这与许多现实场景不一致,其中一些类的标签比其他类少得多。在这种不平衡的情况下直接训练GNN可能会导致少数类别中的图的无信息表示,并损害整体分类性能,这表明开发有效的GNN对处理不平衡图分类的重要性。现有的方法要么是针对非图结构化数据量身定制的,要么是专门为不平衡节点分类而设计的,而很少关注不平衡图分类。为此,我们引入了一个新的框架,图的图神经网络(G $^2$ GNN),它通过从相邻图中全局导出额外的监督和从图的随机扩充中局部导出额外的监督来解决图的不平衡问题。在全球范围内,我们构建了一个图形的图形(GoG)的基础上内核相似性和执行GoG传播聚合相邻的图形表示。在局部,我们采用拓扑增强通过掩蔽节点功能或下降的边缘与自洽正则化生成每个图的随机增强,提高模型的泛化能力。在七个基准数据集上进行的广泛的图分类实验表明,我们提出的G $^2$ GNN在F1宏观和F1微观分数上都优于许多基线约5%。G $^2$ GNN的实现可在https://github.com/YuWVandy/G2GNN}{https://github.com/YuWVandy/G2GNN
2022-09-28 cs.LG cs.SI
Adversarial Attacks on Graph Classification via Bayesian Optimisation
University of Oxford(牛津大学)
图神经网络是一种在广泛的基于图的学习任务中有效的流行模型,已被证明容易受到对抗性攻击。虽然大多数文献都集中在节点级分类任务中的这种脆弱性上,但很少有人致力于分析对图级分类的对抗性攻击,这是生物化学和社交网络分析等众多现实应用的一个重要问题。现有的几种方法通常需要不切实际的设置,例如访问受害者模型的内部信息,或者不切实际的大量查询。我们提出了一种新的贝叶斯优化为基础的攻击方法的图分类模型。我们的方法是黑盒,查询效率和吝啬的扰动。我们经验验证了所提出的方法的有效性和灵活性,广泛的图形分类任务,涉及不同的图形属性,约束和攻击模式。最后,我们分析了产生的对抗样本背后的常见可解释模式,这可能会进一步揭示图分类模型的对抗鲁棒性。
2021-11-04 cs.AI cs.CR cs.LG
Node Classification Meets Link Prediction on Knowledge Graphs
University of Oxford(牛津大学)
节点分类和链接预测在图表示学习中得到了广泛的研究。虽然直推节点分类和链接预测都是在单个输入图上操作的,但到目前为止,它们被分别研究。节点分类模型采用具有节点特征和不完整节点标签的输入图,并隐含地假设该图是关系完整的,即,没有边缘缺失。相比之下,链接预测模型仅由输入图的关系不完整性驱动,并且通常不利用节点特征或类。我们提出了一个统一的观点和研究的问题(一)不完整的图和(二)链接预测的节点功能的图上的转导节点分类,介绍了一个新的数据集,维基校友,并进行了广泛的基准测试研究。
2021-08-30 cs.AI cs.LG
A Survey on Graph Classification and Link Prediction based on GNN
School of Computer Science and Engineering(计算机科学与工程学院);University of Electronic Science and Technology of China(电子科技大学)
本文综述了图卷积神经网络的基础,解析了基于注意力机制和自编码器的GNN模型,并总结了其在节点分类、图分类及链接预测任务中的应用与相关数据集。
2023-07-03 cs.LG
Blockchain Phishing Scam Detection via Multi-channel Graph Classification
Zhejiang University of Technology(浙江工业大学)
随着区块链技术的普及,区块链交易网络的金融安全问题日益严峻。网络钓鱼诈骗检测方法将保护可能的受害者,并建立一个更健康的区块链生态系统。通常,现有的工作定义钓鱼欺诈检测作为一个节点分类任务,通过学习用户的潜在特征,通过图嵌入方法,如随机游走或图神经网络(GNN)。然而,由于区块链交易网络的规模庞大,这些检测方法具有高复杂度,忽略了交易的时间信息。为了解决这个问题,我们为用户定义了交易模式图,并将钓鱼欺诈检测转换为图分类任务。为了从输入图中提取更丰富的信息,我们提出了一种多通道图分类模型(MCGC),该模型具有多个用于GNN的特征提取通道。交易模式图和MCGC通过提取目标用户的交易模式特征,更能检测出潜在的钓鱼欺诈者。在七个基准数据集和以太坊数据集上的大量实验表明,所提出的MCGC不仅可以在图分类任务中实现最先进的性能,而且可以基于目标用户的交易模式图实现有效的钓鱼欺诈检测。
2021-08-19 cs.LG
Label Contrastive Coding based Graph Neural Network for Graph Classification
Florida State University(佛罗里达州立大学)
图分类是一个重要的研究问题,在许多不同领域的应用。为了学习图分类模型,最广泛使用的监督组件是输出层以及分类损失(例如,交叉熵损失与softmax或边际损失一起)。事实上,实例之间的区分信息是更细粒度的,这可以有利于图分类任务。本文提出了一种新的基于标签对比编码的图神经网络(LCGNN),以更有效、更全面地利用标签信息。LCGNN仍然使用分类损失来确保类别的可区分性。同时,LCGNN利用自监督学习提出的标签对比损失来鼓励实例级的类内紧凑性和类间可分性。为了支持对比学习,LCGNN引入了动态标签存储体和动量更新编码器。我们对八个基准图数据集的广泛评估表明,LCGNN可以超越最先进的图分类模型。实验结果也证明了LCGNN能以较少的训练数据获得有竞争力的性能,因为LCGNN充分利用了标签信息。
2021-01-14 cs.AI cs.LG
Research on the application of graph data structure and graph neural network in node classification/clustering tasks
本文研究图数据结构、经典图算法与GNN,在节点分类和聚类任务上比较评估,证明GNN准确率提升43%至70%,并提出二者融合策略。
2025-07-20 cs.LG
Application of Graph Neural Networks and graph descriptors for graph classification
AGH University of Science and Technology(AGH科技大学);ACK Cyfronet(ACK赛弗罗内特);Faculty of Computer Science, Electronics and Telecommunications(计算机科学、电子与电信学院);Institute of Computer Science(计算机科学研究所)
图分类是现代研究和工业中的一个重要领域。多种应用,特别是在化学和新药发现中,鼓励机器学习模型在该领域的快速发展。为了跟上新研究的步伐,适当的实验设计,公平的评估和独立的基准是必不可少的。设计强有力的基线是这类工作不可或缺的要素。在这篇论文中,我们探讨了多种方法来图分类。我们专注于图神经网络(GNNs),它是图表示学习的事实上的标准深度学习技术。经典的方法,如图描述符和分子指纹,也得到了解决。设计了公平评价实验方案,选择了合适的数据集。这使我们能够进行大量的实验,并严格分析现代方法。我们得出了许多结论,新的光的性能和质量的新算法。我们研究了跳跃知识GNN结构在图分类中的应用,这被证明是改进基本图神经网络结构的有效工具。对基线模型提出了多种改进,并进行了实验验证,这对公平模型比较领域做出了重要贡献。
2022-11-07 cs.LG
Graph Embedding Using Infomax for ASD Classification and Brain Functional Difference Detection
Yale University(耶鲁大学)
使用功能磁共振成像来表征ASD(一种复杂的神经发育障碍)中发生的大脑变化已经取得了重大进展。然而,由于fMRI的高维数和低信噪比,嵌入信息和强大的大脑区域fMRI表示ASD和健康对照(HC)组之间的图形级分类和区域级功能差异检测任务是困难的。在这里,我们将整个大脑的fMRI建模为一个图,它保留了几何和时间信息,并使用图神经网络(GNN)从图结构的fMRI数据中学习。我们研究了包括互信息(MI)损失(Infomax)的潜力,这是一个无监督的术语,鼓励每个节点表示及其相应的图形级汇总表示的大MI,以学习更好的图形嵌入。具体来说,这项工作开发了一个管道,包括GNN编码器,分类器和分类器,它迫使编码的节点表示既有利于分类,又揭示了图中的常见节点模式。我们同时优化图级分类损失和Infomax。我们证明了Infomax图嵌入作为正则化项提高了分类性能。此外,我们发现ASD和HC组在前额叶皮层,扣带皮层,视觉区域和其他社会,情感和执行相关的大脑区域的可分离的节点表示。与仅具有分类损失的GNN相比,所提出的管道可以促进训练更鲁棒的ASD分类模型。此外,可分离的节点表示可以检测两组之间的功能差异,并有助于揭示新的ASD生物标志物。
2019-08-14 cs.CV cs.LG eess.IV
Heterophily-Based Graph Neural Network for Imbalanced Classification
Eindhoven University of Technology(埃因霍温理工大学);Leiden University(莱顿大学)
本文提出Fast Im-GBK方法,结合异质性感知GNN与不平衡分类策略,解决图上的类别不平衡问题,显著提升分类性能并减少训练时间。
2023-10-12 cs.LG
Graph Sanitation with Application to Node Classification
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
在过去的几十年里,图挖掘技术蓬勃发展,出现了许多复杂的模型和算法,用于各种挖掘任务,如排序,分类,聚类和异常检测。一般来说,绝大多数现有的工作旨在回答以下问题,即给定一个图,什么是挖掘它的最佳方法?本文引入图卫生问题,来回答一个正交问题。也就是说,给定一个挖掘任务和一个初始图,改进初始图的最佳方法是什么?通过学习一个更好的图作为挖掘模型的输入的一部分,它有望在各种设置中受益于图挖掘,从去噪,插补到防御。我们制定的图卫生问题作为一个双层优化问题,并进一步实例化它的半监督节点分类,以及一个有效的求解器名为GaSoliNe。大量的实验结果表明,该方法(1)对不同的图神经网络模型具有广泛的适用性,并具有灵活的图修改策略;(2)在各种扰动情况下,无论是在原始图还是污染图上,该方法都能有效地提高节点分类精度.特别是,它带来了高达25%的性能改善现有的强大的图神经网络方法。
2021-10-25 cs.LG
Graph neural networks and attention-based CNN-LSTM for protein classification
College of Artificial Intelligence, Nankai University(南开大学人工智能学院);Shenzhen Research Institute, Nankai University(南开大学深圳研究院);Ji Hua Laboratory(季华实验室);State Key Laboratory of Medicinal Chemical Biology, College of Pharmacy, Nankai University(南开大学药学院药物化学生物学国家重点实验室)
本文主要研究蛋白质分类中的三个关键问题。首先,碳水化合物活性酶(CAZyme)的分类可以帮助人们了解酶的性质。然而,一个CAZyme可能属于几个类别。这导致多标记CAZyme分类。其次,为了从蛋白质的二级结构中获取信息,将蛋白质分类问题建模为图分类问题。第三,化合物-蛋白质相互作用预测采用化合物的图学习和蛋白质的顺序嵌入。这可以被看作是化合物-蛋白质对的分类任务。本文提出了三种蛋白质分类模型。首先,本文提出了一种使用具有注意力机制的CNN-LSTM的多标签CAZyme分类模型。其次,本文提出了一种基于变分图自编码器的蛋白质图分类子空间学习模型。第三,本文提出了用于化合物-蛋白质相互作用预测的图同构网络(GIN)和基于注意力的CNN-LSTM,并将GIN与图卷积网络(GCN)和图注意力网络(GAT)进行了比较。所提出的模型是有效的蛋白质分类。源代码和数据可在https://github.com/zshicode/GNN-AttCL-protein上获得。此外,该知识库收集和整理了与上述问题相关的基准数据集,包括CAZyme分类,酶蛋白质图分类,化合物-蛋白质相互作用预测,药物-靶标亲和力预测和药物-药物相互作用预测。因此,可以更方便地使用基准数据集进行评估。
2023-02-22 cs.LG q-bio.BM
AugWard: Augmentation-Aware Representation Learning for Accurate Graph Classification
Seoul National University(首尔大学);Soongsil University(崇实大学)
针对图分类中图神经网络过拟合问题,提出增强感知框架AugWard,通过预测增强图与原始图的图距离并引入一致性正则化,在监督、半监督及迁移学习中达到最先进性能。
2025-03-27 cs.LG
Imbalanced Graph Classification with Multi-scale Oversampling Graph Neural Networks
University of Technology Sydney(悉尼科技大学);Singapore Management University(新加坡管理大学)
针对不平衡图分类中少数类图表示学习难、现有方法忽略图内及图间判别信息的问题,提出多尺度过采样图神经网络MOSGNN,通过多尺度过采样与多任务联合学习提升少数类表示,在16个数据集上优于5个SOTA模型且支持损失函数灵活接入。
2024-05-17 cs.LG
Supervised Graph Contrastive Learning for Few-shot Node Classification
Arizona State University(亚利桑那州立大学);Bytedance AI Lab(字节跳动人工智能实验室)
图存在于许多现实世界的应用中,例如金融欺诈检测、商业推荐和社会网络分析。但是考虑到图注释或标记的高成本,我们面临着严重的图标记稀缺问题,即,一个图可能有几个标记的节点。这种问题的一个例子是所谓的\textit{few-shot node classification}。解决这个问题的主要方法是求助于\textit{episodic meta-learning}。在这项工作中,我们提出了一个基本问题,元学习是否是一个必须的Few-Shot节点分类任务的挑战现状。我们提出了一个新的和简单的框架下的标准Few-Shot节点分类设置作为替代元学习一个有效的图形编码器。该框架由监督图对比学习与新的机制,数据增强,子图编码,和多尺度对比图。在三个基准数据集(CoraFull,Reddit,Ogbn)上的大量实验表明,新框架的性能明显优于最先进的基于元学习的方法。
2022-08-05 cs.LG
SAS: A Simple, Accurate and Scalable Node Classification Algorithm
ShanghaiTech University(上海科技大学)
图神经网络已经实现了用于图节点分类的最先进的准确性。然而,GNN很难扩展到大型图,例如,即使在中等大小的图上也经常遇到内存不足的错误。最近的工作试图使用两阶段的方法来解决这个问题,该方法首先沿着图边缘聚集数据,然后在不使用额外的图信息的情况下训练分类器。这些方法可以在更大的图上运行,并且比GNN快几个数量级,但分类精度较低。我们提出了一个新的两阶段算法的基础上,一个简单但有效的观察:我们应该首先训练分类器,然后聚集,而不是相反。我们证明了我们的算法比现有的两阶段算法更快,可以处理更大的图,同时实现与流行的GNN相当或更高的准确性。我们还提出了一个理论基础来解释我们的算法的准确性提高,通过给出一个合成的非线性数据集,其中在分类之前进行聚合实际上会降低准确性,而我们的分类然后聚合方法与单独分类相比大大提高了准确性。
2022-10-25 cs.LG