GABO: Graph Augmentations with Bi-level Optimization
Stanford University(斯坦福大学)
数据增强是指通过增强训练样本来改进模型泛化的广泛技术。通常,这样的方法需要关于手头数据集的领域知识,产生了大量的最近的文献,围绕自动化技术的数据增强。在这项工作中,我们采用这样的方法,双层优化,以解决ogbg-molhiv数据集上的图分类问题。我们的最佳性能增强使用GIN+虚拟分类器实现了77.77%的测试ROCAUC分数,这使其成为排行榜上该分类器最有效的增强器。该框架将GIN层增强生成器与偏置变换相结合,并优于使用最先进的FLAG增强的相同分类器。
2021-04-01 cs.AI cs.LG
Spectral Augmentations for Graph Contrastive Learning
Huawei(华为);Tianjin University(天津大学);McGill(麦吉尔大学)
对比学习已经成为一种在有监督或无监督的情况下学习表征的首要方法。最近的研究表明,它的效用图表示学习的预训练。尽管取得了成功,但对如何设计有效的图增强的理解仍然是不完整的,这些图增强可以捕获许多不同类型的下游图所共有的结构属性。我们提出了一组动机良好的图变换操作,通过图谱分析,以提供一个银行的候选人时,构建增强图对比目标,使对比学习,以捕捉有用的结构表示从预训练图数据集。首先,我们提出了一个频谱图裁剪增强,涉及过滤节点应用阈值的领导拉普拉斯特征向量的特征值。我们的第二个新的增强重新排序的图形频率分量的结构拉普拉斯导出的位置图嵌入。此外,我们介绍了一种方法,导致改进的本地子图的意见,通过执行对齐通过全球随机游走嵌入。我们的实验结果表明,与最先进的图对比学习方法相比,域外图数据传输得到了一致的改进,从而揭示了如何设计一个能够学习不同图类型共同结构属性的图学习器。
2023-02-06 cs.AI cs.LG
GraphMAD: Graph Mixup for Data Augmentation using Data-Driven Convex Clustering
Rice University(莱斯大学)
我们提出了一种新的数据驱动的非线性混合机制的图数据增强,并提出了不同的混合函数的样本对和他们的标签。Mixup是一种数据增强方法,通过在成对的数据样本及其标签之间进行线性插值来创建新的训练数据。图数据的混淆是具有挑战性的,因为潜在不同大小的图之间的插值是不适定的操作。因此,一个很有前途的方法是图混淆,首先投影到一个共同的潜在的特征空间,然后探索线性和非线性混淆策略在这个潜在的空间。在这种情况下,我们建议(i)将图投影到连续随机图模型(称为图子)的潜在空间上,(ii)利用该潜在空间中的凸聚类来生成非线性数据驱动的混合函数,以及(iii)研究标签和数据样本的不同混合函数的使用。我们在基准数据集上评估了我们的图数据增强性能,并证明了非线性数据驱动的混合函数可以显着提高图分类。
2022-10-27 cs.AI cs.LG
Graph Contrastive Learning with Augmentations
University of Science and Technology of China(中国科学技术大学);Google Research, Brain Team(谷歌研究院,大脑团队);Texas A&M University(德克萨斯A&M大学);University of Texas at Austin(德克萨斯大学奥斯汀分校)
对图结构数据的可推广、可转移和鲁棒的表示学习仍然是当前图神经网络(GNN)的挑战。与针对图像数据的卷积神经网络(CNN)开发的不同,GNN较少探索自监督学习和预训练。在本文中,我们提出了一个图对比学习(GraphCL)框架学习无监督表示的图形数据。我们首先设计了四种类型的图扩充,将各种先验。然后,我们系统地研究了图增强的各种组合对多个数据集的影响,在四个不同的设置:半监督,无监督和迁移学习以及对抗攻击。结果表明,即使没有调整增强范围,也没有使用复杂的GNN架构,与最先进的方法相比,我们的GraphCL框架也可以产生类似或更好的泛化能力,可转移性和鲁棒性的图形表示。我们还研究了参数化图增强范围和模式的影响,并在初步实验中观察到进一步的性能提升。我们的代码可在https://github.com/Shen-Lab/GraphCL上获得。
2021-04-03 cs.AI cs.LG
CGCL: Collaborative Graph Contrastive Learning without Handcrafted Graph Data Augmentations
Tsinghua University(清华大学);Huawei Technologies(华为技术有限公司);Chinese Academy of Sciences(中国科学院)
本文提出协作图对比学习框架CGCL,通过多个互补图编码器观察图并以其特征作为对比视图,避免手工图增强带来的不稳定扰动,从而提升无监督图级表示学习性能。
2024-04-01 cs.AI cs.LG
Structural Imbalance Aware Graph Augmentation Learning
Nanjing University of Posts and Telecommunications(南京邮电大学)
图机器学习(GML)在节点分类、链接预测、图分类等方面取得了很大进展,但现实中的图往往是结构不平衡的,即只有少数枢纽节点具有更密集的局部结构和更高的影响力。这种不平衡可能会损害现有GML模型的鲁棒性,特别是在学习尾节点方面。本文提出了一种选择性图增强方法(SAug)来解决这个问题。首先,设计了一种基于Pagerank的采样策略来识别图中的中心节点和尾节点。其次,提出了一种选择性增强策略,该策略在一侧丢弃中心节点的噪声邻居,在另一侧发现尾节点的潜在邻居并生成伪邻居。它还可以缓解两类节点之间的结构不平衡。最后,GNN模型将在增强图上重新训练。大量的实验表明,SAug可以显着提高骨干GNN,并实现优越的性能,其竞争对手的图增强方法和枢纽/尾部感知方法。
2023-03-24 cs.AI cs.LG
Features Based Adaptive Augmentation for Graph Contrastive Learning
University of Science and Technology of China(中国科学技术大学)
自监督学习旨在消除图表示学习中昂贵的注释,其中图对比学习(GCL)使用包含数据-数据对的自监督信号进行训练。这些数据-数据对是在原始图上使用随机函数增强而生成的。我们认为,某些特征可能比其他特征更关键,这取决于下游任务,并且均匀地应用随机函数会破坏有影响力的特征,导致准确性降低。为了解决这个问题,我们引入了一种基于特征的自适应增强(FebAA)方法,该方法可以识别和保留潜在的有影响力的特征,并破坏其余的特征。我们将FebAA实现为即插即用层,并将其与最先进的深度图对比学习(GRACE)和引导图潜在(BGRL)一起使用。我们成功地提高了八个图表示学习的基准数据集上的GRACE和BGRL的准确性。
2022-07-05 cs.AI cs.LG
Democratizing Large Language Model-Based Graph Data Augmentation via Latent Knowledge Graphs
The University of Hong Kong(香港大学)
针对现有图数据增强忽略上下文、LLM图学习方法难民主化的问题,提出黑盒上下文驱动的DemoGraph方法,利用LLM生成知识图谱并动态整合,结合粒度感知提示和指令微调,实验证明其优于现有方法且在EHRs场景表现突出。
2025-02-19 cs.AI cs.LG
LAC: Graph Contrastive Learning with Learnable Augmentation in Continuous Space
School of Computer Science(计算机学院);Beijing University of Posts and Telecommunications(北京邮电大学)
本文提出图对比学习框架 LAC,通过在正交连续空间中进行可学习的数据增强,并结合 InfoBal 信息论原则设计 pretext 任务,在无监督节点表示学习中显著超越现有方法。
2024-10-20 cs.AI cs.LG
Adversarial Graph Augmentation to Improve Graph Contrastive Learning
Purdue University(普渡大学);Georgia Tech(佐治亚理工学院);Microsoft Research(微软研究院)
由于现实世界的图/网络数据中普遍存在的标签稀缺问题,图神经网络(GNN)的自监督学习非常需要。图对比学习(GCL)通过训练GNN以最大化相同图的不同增强形式的表示之间的对应关系,即使不使用标签,也可以产生鲁棒和可转移的GNN。然而,由传统GCL训练的GNN通常有捕获冗余图特征的风险,因此可能很脆弱,并在下游任务中提供低于标准的性能。在这里,我们提出了一种新的原则,称为adversarial-GCL(AD-GCL),它使GNN能够通过优化GCL中使用的对抗图增强策略来避免在训练过程中捕获冗余信息。我们将AD-GCL与理论解释配对,并设计了一个基于可训练边丢弃图增强的实用实例。我们通过与最先进的GCL方法进行比较来实验验证AD-GCL,并在无监督的情况下实现了高达$14\%$的性能增益,在传输中实现了$6\%$,在半监督学习设置中实现了$3\%$的性能增益,其中18个不同的基准数据集用于分子属性回归和分类以及社会网络分类。
2021-11-03 cs.AI cs.LG
DropEdge not Foolproof: Effective Augmentation Method for Signed Graph Neural Networks
Huazhong Agricultural University(华中农业大学);The University of Auckland(奥克兰大学)
针对符号图稀疏与不平衡三角形导致SGNN链接符号预测受限的问题,提出SGA框架,通过候选边识别与有益候选选择进行结构增强,显著提升SGNN性能。
2024-10-01 cs.AI cs.LG
Improving Subgraph Representation Learning via Multi-View Augmentation
基于图神经网络(GNN)的子图表示学习在分子结构-性质关系预测、集体细胞功能预测等科学领域有着广泛的应用。特别是,图增强技术在改进基于图和基于节点的分类任务方面已经显示出有希望的结果。然而,在现有的基于GNN的子图表示学习研究中,它们很少被探索。在这项研究中,我们开发了一种新的多视图增强机制,以改善子图表示学习模型,从而提高下游预测任务的准确性。我们的增强技术创建了子图的多个变体,并将这些变体嵌入到原始图中,以实现高度提高的训练效率,可扩展性和准确性。在几个真实世界的生物和生理数据集上的基准实验证明了我们提出的多视图增强技术在子图表示学习中的优越性。
2022-10-13 cs.AI cs.LG
Topological Regularization for Graph Neural Networks Augmentation
Jilin University(吉林大学);University of Trento(特伦托大学)
图形数据的复杂性和非欧结构阻碍了类似于计算机视觉中的数据增强方法的发展。提出了一种基于拓扑正则化的图节点特征扩充方法,将拓扑结构信息引入到端到端模型中。具体来说,我们首先通过基于随机游走的无监督表示学习方法获得节点的拓扑嵌入。然后将拓扑嵌入作为附加特征和原始节点特征输入到对偶图神经网络中进行传播,得到节点的两种不同的高阶邻域表示。在此基础上,我们提出了一种正则化技术来弥合两种不同节点表示之间的差异,消除了直接使用图的拓扑特征所带来的不利影响,大大提高了性能。我们已经在大量数据集上进行了广泛的实验,以证明我们的模型的有效性。
2021-04-03 cs.AI cs.LG
Temporal Graph Representation Learning with Adaptive Augmentation Contrastive
Hangzhou Dianzi University(杭州电子科技大学);Tianjin University(天津大学)
针对时序图表示学习易捕捉时序相关噪声的问题,提出结合先验与时序信息的自适应增强对比TGAC模型及三种拓扑修改增强策略,在真实网络上性能优于现有方法。
2023-11-07 cs.AI cs.LG
Label-invariant Augmentation for Semi-Supervised Graph Classification
Brandeis University(布兰迪斯大学)
近年来,基于对比度的增强技术在计算机视觉领域掀起了一个新的高潮,旋转、裁剪、翻转等操作与专用算法相结合,极大地提高了模型的泛化能力和鲁棒性。在这种趋势下,一些开创性的尝试将类似的想法用于图形数据。然而,与图像不同,在不改变图的性质的情况下设计合理的增强要困难得多。虽然令人兴奋,但目前的图形对比学习并没有达到视觉对比学习那样有前途的性能。我们推测,图对比学习的当前性能可能受到违反标签不变扩增假设的限制。有鉴于此,我们提出了一个标签不变的增强图结构的数据,以解决这一挑战。与节点/边修改和子图提取不同,我们在表示空间中进行增强,并在最困难的方向生成增强样本,同时保持增强数据的标签与原始样本相同。在半监督的情况下,我们证明了我们提出的方法优于经典的图神经网络的方法和最近的图对比学习的8个基准图结构的数据,其次是几个深入的实验,以进一步探索标签不变的增强在几个方面。
2022-05-19 cs.AI cs.CV cs.LG
GATTA: Graph Active Learning with Test-Time Augmentation
Budapest University of Technology and Economics(布达佩斯技术与经济大学);KU Leuven(鲁汶大学)
GATTA是结合测试时数据增强的图主动学习框架,通过一致性过滤增强视图生成可靠不确定性估计,提升简单主动学习方法性能,优于MC Dropout等模型侧集成方法,高效可扩展。
2026-08-18 cs.AI cs.LG
Data Augmentation for Deep Graph Learning: A Survey
Arizona State University(亚利桑那州立大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
图神经网络是一种强大的深度学习工具,用于对图结构数据进行建模,在许多图学习任务中表现出卓越的性能。为了解决深度图学习中的数据噪声和数据稀缺问题,最近加强了对图数据增强的研究。然而,传统的数据增强方法很难处理定义在非欧空间的多模态图结构数据。在本调查中,我们正式阐述了图数据增强的问题,并进一步回顾了代表性技术及其在不同深度图学习问题中的应用。具体来说,我们首先提出了一个分类图数据增强技术,然后提供了一个结构化的审查分类的基础上增强的信息模态的相关工作。此外,我们总结了图数据增强在以数据为中心的深度图学习中的两个代表性问题中的应用:(1)可靠图学习,其重点是通过图数据增强来增强输入图的效用以及模型容量;以及(2)低资源图学习,其目标是通过图数据增强来扩大标记的训练数据规模。对于每个问题,我们还提供了一个层次化的问题分类,并回顾了现有的文献相关的图形数据增强。最后,我们指出了有前途的研究方向和未来的研究面临的挑战。
2022-11-21 cs.LG
Graph Data Augmentation for Graph Machine Learning: A Survey
Snap Inc.(Snap公司);University of Notre Dame(圣母大学);Michigan State University(密歇根州立大学);Cornell University(康奈尔大学);Technical University of Munich(慕尼黑工业大学)
数据增强最近在图机器学习中引起了越来越多的兴趣,因为它被证明能够通过添加训练数据来提高模型性能和泛化能力。尽管最近出现了这种激增,但由于图数据的复杂非欧几里德结构带来的挑战,该领域仍然相对未被充分探索,这限制了对其他类型的图像,视频或文本数据的传统增强操作的直接类比。我们的工作的目的是给现有的图形数据增强方法的必要和及时的概述,值得注意的是,我们提出了一个全面和系统的调查图数据增强的方法,总结文献结构化的方式。我们首先介绍了三种不同的分类法,分别从数据,任务和学习的角度对图数据增强方法进行分类。接下来,我们将介绍图数据增强的最新进展,按其方法和应用区分。最后,我们概述了目前未解决的挑战和未来的研究方向。总的来说,我们的工作旨在澄清图数据增强的现有文献的情况,并激励在这一领域的额外工作,为更广泛的图机器学习领域的研究人员和从业人员提供有用的资源。此外,我们在https://github.com/zhao-tong/graph-data-augmentation-papers上提供了一个不断更新的阅读清单。
2023-01-19 cs.LG
Score-based Conditional Out-of-Distribution Augmentation for Graph Covariate Shift
Institute for Clarity in Documentation(文档清晰研究所);Inria Paris-Rocquencourt(巴黎-罗克琴堡研究所);Rajiv Gandhi University(拉贾·甘地大学);Tsinghua University(清华大学);Palmer Research Laboratories(帕勒姆研究实验室);The Pennsylvania State University(宾夕法尼亚州立大学)
本文提出基于分数的条件图生成策略,用于增强图学习中对分布外泛化的鲁棒性,通过合成未见环境来提升模型性能。
2025-12-09 cs.AI cs.LG
Graph Structure Based Data Augmentation Method
VUNO Inc.(VUNO公司)
本文提出一种利用医学波形数据固有图结构的数据增强方法,通过缓解导联角度扰动提升模型性能与鲁棒性,并可与现有增强技术正交结合以进一步改善最终表现。
2022-05-29 cs.LG
Rethinking Spectral Augmentation for Contrast-based Graph Self-Supervised Learning
University of Waterloo(滑铁卢大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Vector Institute(向量研究院)
针对对比学习图自监督学习中谱增强的悖论,通过实证研究发现节点级随机边删除、图级随机边添加的简单边扰动在性能相当或更优的同时计算效率更高,理论分析也支持这一结论,为该领域提供新见解。
2024-12-04 cs.AI cs.LG
EPIC: Graph Augmentation with Edit Path Interpolation via Learnable Cost
Graduate School of Artificial Intelligence, POSTECH, South Korea(人工智能研究生院,POSTECH,韩国);Department of Computer Science & Engineering, POSTECH, South Korea(计算机科学与工程系,POSTECH,韩国)
本文提出 EPIC 方法,利用可学习代价的图编辑路径插值生成增强图数据,以提升图分类模型的泛化能力,并在多个基准数据集上取得优于现有增强技术的效果。
2025-06-04 cs.AI cs.LG
Latent Conditional Diffusion-based Data Augmentation for Continuous-Time Dynamic Graph Model
International Digital Economy Academy(国际数字经济学院);IDEA Research(IDEA研究院);Jiangxi Normal University(江西师范大学)
针对连续时间动态图模型面临噪声和历史数据有限的问题,提出基于潜在条件扩散的数据增强方法Conda,通过生成增强的历史邻居嵌入并交替训练,在六个真实数据集上持续提升性能。
2024-07-20 cs.AI cs.LG
Through the Dual-Prism: A Spectral Perspective on Graph Data Augmentation for Graph Classification
National University of Singapore(新加坡国立大学);The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))
本文从频谱视角研究图数据增强,提出保留低频特征值的Dual-Prism方法(含DP-Noise和DP-Mask),在保持图属性的同时实现结构多样化,为图分类增强提供新方向。
2025-01-29 cs.LG
SoftEdge: Regularizing Graph Classification with Random Soft Edges
National Research Council Canada(加拿大国家研究委员会)
增广图在正则化图神经网络(GNN)中起着至关重要的作用,GNN利用图中边的信息交换(以消息传递的形式)进行学习。由于它们的有效性,简单的边和节点操作(例如,添加和删除)已广泛用于图扩充。然而,这种常见的增强技术可能会极大地改变原始图的语义,导致过度的增强,从而在GNN学习中拟合不足。为了解决这个问题所产生的删除或添加图形的边缘和节点,我们提出SoftEdge,它分配随机权重的一部分,一个给定的图的边缘进行扩增。由SoftEdge生成的合成图保持与原始图相同的节点及其连接性,从而减轻了原始图的语义变化。我们的经验表明,这种简单的方法获得了优越的精度流行的节点和边缘操作方法和显着的弹性精度下降与GNN深度。
2022-09-06 cs.AI cs.LG
Adaptive Spatiotemporal Augmentation for Improving Dynamic Graph Learning
School of Software and Microelectronics, Peking University(北京大学软件与微电子学院);University of Science and Technology of China(中国科学技术大学)
针对动态图增强中过度侧重近期边易引入噪声的问题,提出STAA方法,从时空维度识别噪声边并通过随机游走生成增强邻接矩阵,提升动态GNN在节点分类等任务的性能。
2025-01-17 cs.AI cs.LG
Mind the Label Shift of Augmentation-based Graph OOD Generalization
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);University of Chinese Academy of Sciences(中国科学院大学);ShanghaiTech University(上海科技大学)
分布外泛化是图神经网络的一个重要问题。最近的工作采用不同的图形版本来生成增强环境,并学习一个不变的GNN进行泛化。然而,由于图的结构化编辑不可避免地要改变图的标号,所以在扩充过程中经常会发生标签偏移。这带来了增强环境之间的不一致的预测关系,这是有害的泛化。为了解决这个问题,我们提出了\textbf{LiSA},它产生标签不变的扩增,以促进图OOD推广。LiSA利用训练图的\textbf{L} abel- \textbf{i} nvariant \textbf{S}子图来构造\textbf{A}增强环境,而不是诉诸图版本。具体来说,LiSA首先设计了变分子图生成器,以有效地提取局部预测模式并构造多个标签不变子图。然后,收集由不同生成器产生的子图,以构建不同的增强环境。为了促进增强环境之间的多样性,LiSA进一步引入了一种易于处理的基于能量的正则化,以扩大环境分布之间的成对距离。通过这种方式,LiSA生成具有一致预测关系的各种增强环境,并有助于学习不变的GNN。在节点级和图级OOD基准测试上的大量实验表明,LiSA在不同的GNN主干上实现了令人印象深刻的泛化性能。代码可在\url{https://github.com/Samyu0304/LiSA}上获得。
2023-03-27 cs.AI cs.LG
G-Mixup: Graph Data Augmentation for Graph Classification
Texas A&M University(德州农工大学);University of Georgia(佐治亚大学);Rice University(莱斯大学)
本工作开发了\emph{mixup for graph data}。Mixup通过在两个随机样本之间插入特征和标签,在提高神经网络的泛化能力和鲁棒性方面显示出优越性。传统上,Mixup可以处理规则的、网格状的和欧几里得的数据,如图像或表格数据。然而,直接采用Mixup来增强图数据是具有挑战性的,因为不同的图通常:1)具有不同数量的节点; 2)不容易对齐;以及3)在非欧几里德空间中具有独特的类型学。为此,我们提出了$\mathcal{G}$ -Mixup,通过内插生成器(即,graphon)的不同类别的图。具体来说,我们首先使用同一类中的图来估计图子。然后,而不是直接操作图,我们插值不同类的图子在欧氏空间中得到混合图子,其中合成图是通过采样的基础上的混合图子生成。大量的实验表明,$\mathcal{G}$ -Mixup大大提高了GNN的泛化能力和鲁棒性。
2022-02-16 cs.AI cs.LG
Learning Graph Augmentations to Learn Graph Representations
Autodesk AI Lab(Autodesk AI 实验室)
设计用于图对比学习的增强是具有挑战性的,因为它们具有不规则的结构,剧烈的分布偏移以及跨数据集的不等价特征空间。我们引入了LG2AR,学习图增强以学习图表示,这是一个端到端的自动图增强框架,可以帮助编码器在节点和图级别上学习可概括的表示。LG2AR由一个概率策略和一组概率增强头组成,该概率策略学习增强参数的分布。我们表明,LG2AR在线性和半监督评估协议下,与以前的无监督模型相比,在20个图级和节点级基准中有18个达到了最先进的结果。源代码将在这里发布:https://github.com/kavehhassani/lg2ar
2022-01-24 cs.LG cs.NE
When Noisy Labels Meet Class Imbalance on Graphs: A Graph Augmentation Method with LLM and Pseudo Label
本文针对含噪声标签的类别不平衡图节点分类,提出融合 LLM 过采样、动态加权伪标签与二次 LLM 过采样的 GraphALP 框架,性能优于现有方法。
2025-07-25 cs.AI cs.LG
Graph Contrastive Learning with Personalized Augmentation
The Hong Kong Polytechnic University(香港理工大学);Texas A&M University(德州农工大学)
图对比学习(GCL)已经成为学习图的无监督表示的有效工具。关键思想是通过数据增强来最大化每个图的两个增强视图之间的一致性。现有的GCL模型主要集中在对给定场景中的所有图应用\textit{identical augmentation strategies}。然而,现实世界的图往往不是单形的,而是不同性质的抽象。即使在相同的场景中(例如,大分子和在线社区),不同的图可能需要不同的增强来执行有效的GCL。因此,盲目地扩充所有图而不考虑它们的个体特征可能会破坏GCL艺术的性能。为了解决这个问题,我们提出了第一个原则性框架,称为\textit{G},使用\textit{P} sonalized \textit{A} ugmentation(GPA)进行对比学习,通过允许每个图选择自己合适的扩充操作来改进传统的GCL。本质上,GPA通过一个可学习的增强选择器,根据每个图的拓扑和节点属性为每个图推断定制的增强策略,该选择器是一个即插即用模块,可以通过下游GCL模型进行端到端的有效训练。在不同类型和领域的11个基准图上进行的大量实验证明了GPA相对于最先进竞争对手的优越性。此外,通过可视化不同类型数据集上的学习增强分布,我们表明GPA可以有效地根据每个图的特征识别最合适的增强。
2022-09-15 cs.LG
CoATA: Effective Co-Augmentation of Topology and Attribute for Graph Neural Networks
College of Computer and Information Science, Southwest University(计算机与信息科学学院,西南大学)
针对图神经网络中现实图数据的噪声与不完整问题,提出双通道框架CoATA,通过传播结构信号去噪属性、投影构建二部图细化结构,并利用对比学习实现拓扑与属性的协同增强,在七个基准数据集上优于十一种基线方法。
2025-06-27 cs.AI cs.LG
A Graph Data Augmentation Strategy with Entropy Preservation
Beihang University(北京航空航天大学);Beijing System Design Institute of Electro-Mechanic Engineering(北京机电工程总体设计所);Peng Cheng Laboratory(鹏城实验室)
Kipf和Welling提出的图卷积网络(GCN)是一种有效的半监督学习模型,但存在过平滑问题,会削弱GCN的表示能力。最近,一些工作被提出来解决上述限制,通过随机扰动图拓扑或特征矩阵来生成数据增强作为训练的输入。然而,这些操作不可避免地破坏了信息结构的完整性,不得不牺牲特征流形的光滑性。在本文中,我们首先介绍了一种新的图熵的定义作为一种措施,定量评估的光滑性的数据流形,然后指出,这种图熵是由三角形基序的信息结构控制。考虑到图熵的保持,我们提出了一种有效的策略,生成随机扰动的训练数据,但保持图的拓扑结构和图熵。在真实数据集上进行了大量的实验,结果验证了我们提出的方法在提高半监督节点分类精度方面的有效性。除此之外,我们提出的方法可以显着提高GCN的训练过程的鲁棒性。
2022-05-18 cs.AI cs.LG
Mitigating Degree Bias in Graph Representation Learning with Learnable Structural Augmentation and Structural Self-Attention
Department of Artificial Intelligence, The Catholic University of Korea(人工智能系,韩国天主大学);Data Assimilation Group, Korea Institute of Atmospheric Prediction Systems (KIAPS)(数据同化组,韩国大气预测研究所)
针对图神经网络中低度节点因消息不足而表征不足的度偏差问题,提出DegFairGT,利用可学习结构增强和结构自注意力发现非相邻节点的结构相似性,在六个数据集上超越现有基线。
2025-04-21 cs.AI cs.LG
Augmentation-Free Graph Contrastive Learning of Invariant-Discriminative Representations
Central South University(中南大学)
预任务主要建立在互信息估计的基础上,这需要数据增强来构造具有相似语义的正样本以学习不变信号和具有不相似语义的负样本以增强表示的可辨别性。然而,一个合适的数据增强配置在很大程度上取决于大量的经验试验,如选择数据增强技术的组成和相应的超参数设置。我们提出了一种无增广图对比学习方法,不变判别图对比学习(iGCL),它本质上不需要负样本。iGCL设计了不变判别损失(ID损失)来学习不变和判别表示。一方面,ID损失通过直接最小化表示空间中的目标样本和正样本之间的均方误差来学习不变信号。另一方面,ID损失通过正交约束确保表示是有区别的,该正交约束迫使表示的不同维度彼此独立。这可以防止表示塌陷为点或子空间。我们的理论分析解释了有效的ID损失的角度的冗余减少标准,典型相关分析,和信息瓶颈原则。实验结果表明,iGCL在5节点分类基准数据集上的性能优于所有基线。iGCL在不同的标记率下也表现出了优异的性能,并且能够抵抗图攻击,这表明iGCL具有良好的泛化能力和鲁棒性。源代码可在https://github.com/lehaifeng/T-GCN/tree/master/iGCL上获得。
2023-03-06 cs.AI cs.LG
AugWard: Augmentation-Aware Representation Learning for Accurate Graph Classification
Seoul National University(首尔大学);Soongsil University(崇实大学)
针对图分类中图神经网络过拟合问题,提出增强感知框架AugWard,通过预测增强图与原始图的图距离并引入一致性正则化,在监督、半监督及迁移学习中达到最先进性能。
2025-03-27 cs.LG
Contrastive General Graph Matching with Adaptive Augmentation Sampling
Singapore Management University(新加坡管理大学)
针对图匹配自监督学习依赖辅助信息和难以设计最优图增强的问题,提出无需辅助信息的对比框架GCGM,并引入自适应增强采样器BiAS选择更具挑战性的增强,在多数据集上超越现有自监督方法。
2024-06-25 cs.LG
Data Augmentation for Graph Data: Recent Advancements
Information Technology University(信息技术大学)
基于图神经网络(GNNs)的方法最近已经成为一种流行的工具来处理图形数据,因为它们能够合并结构信息。GNN性能的唯一障碍是缺乏标记数据。由于图形数据的复杂性和非欧性,图像和文本数据的数据增强技术不能用于图形数据。这一差距迫使研究人员将重点转向图形数据的数据增强技术的发展。大多数提出的图数据增强(GDA)技术是特定于任务的。在本文中,我们调查现有的GDA技术的基础上,不同的图形任务。本调查不仅为GDA的研究提供了参考,也为其他领域的研究者提供了必要的信息。
2022-08-25 cs.LG
Fair Node Representation Learning via Adaptive Data Augmentation
University of California, Irvine(加利福尼亚大学尔湾分校)
节点表示学习已经证明了它在图的各种应用中的有效性,这导致了对该领域越来越多的关注。然而,公平性在很大程度上是外地一个探索不足的领域,这可能导致在随后的任务中产生偏向代表性不足群体的结果。为此,这项工作从理论上解释了通过图神经网络(GNNs)获得的节点表示中的偏差来源。我们的分析表明,节点的功能和图形结构导致偏见在所获得的表示。在分析的基础上,开发了节点特征和图结构上的公平性感知数据增强框架,以减少固有偏差。我们的分析和提出的方案可以很容易地用于提高各种基于GNN的学习机制的公平性。在图对比学习的背景下,在真实网络上进行了大量的节点分类和链接预测实验。与多个基准的比较表明,拟议的增强战略可以提高公平性的统计平价和平等机会,同时提供可比的效用,以国家的最先进的对比方法。
2022-01-21 cs.AI cs.LG
FracAug: Fractional Augmentation boost Graph-level Anomaly Detection under Limited Supervision
The Chinese University of Hong Kong(香港中文大学);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
提出FracAug,一种即插即用的分数增强框架,通过生成语义一致的图变体和相互验证的伪标注,在有限监督下提升图级异常检测性能,实验显示在多种GNNs和数据集上显著提升AUROC、AUPRC和F1分数。
2025-09-25 cs.AI cs.LG
Positive-Unlabeled Learning with Adversarial Data Augmentation for Knowledge Graph Completion
King Abdullah University of Science and Technology(阿卜杜拉国王科技大学);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);Institute of Artificial Intelligence, Beihang University(北京航空航天大学人工智能研究院);School of Computer Science, Beihang University(北京航空航天大学计算机学院);University of Notre Dame(圣母大学)
大多数现实世界的知识图谱(KG)远不完整和全面。这个问题促使人们努力预测最合理的缺失事实以完成给定的KG,即,知识图谱补全(KGC)。然而,现有的KGC方法存在两个主要问题,1)假阴性问题,即,采样的否定训练实例可以包括潜在的真实事实;以及2)数据稀疏性问题,即,真实的事实只占所有可能的事实的一小部分。为此,我们为KGC提出了带有对抗性数据增强(PUDA)的正向无标记学习。特别地,PUDA为KGC任务量身定制了正未标记风险估计器以处理假阴性问题。此外,为了解决数据稀疏性问题,PUDA通过在正-未标记极小极大博弈下统一对抗训练和正-未标记学习来实现数据增强策略。在真实世界基准数据集上的大量实验结果证明了该方法的有效性和兼容性。
2022-06-23 cs.AI cs.LG
Data Augmentation for Graph Neural Networks
Snap Inc.(Snap公司)
数据增强已被广泛用于提高机器学习模型的泛化能力。然而,相对较少的工作研究数据增强的图形。这在很大程度上是由于图的复杂的非欧几里德结构,这限制了可能的操作。在视觉和语言中常用的增广运算在图形中没有类似的东西。我们的工作研究了在改进半监督节点分类的背景下图神经网络(GNNs)的图数据增强。我们讨论了实际和理论的动机,考虑和战略图数据增强。我们的工作表明,神经边缘预测器可以有效地编码类同构结构,以促进给定图结构中的类内边缘和降级类间边缘,我们的主要贡献是引入了GAug图数据增强框架,该框架利用这些见解通过边缘预测来提高基于GNN的节点分类的性能。在多个基准测试上进行的大量实验表明,通过GAug进行增强可以提高GNN架构和数据集的性能。
2020-12-02 cs.LG stat.ML
Semi-Supervised Heterogeneous Graph Learning with Multi-level Data Augmentation
MYbank, Ant Group(蚂蚁集团网商银行);University of Science and Technology Beijing(北京科技大学);Beijing Jiaotong University(北京交通大学)
近年来,基于数据增强(DA)的半监督图学习方法是目前最常用和性能最好的方法,可以在标记样本较少的稀疏场景下增强模型的鲁棒性。与同构图不同,异构图中的DA具有更大的挑战性:信息的异构性要求DA策略有效地处理异构关系,即考虑不同类型的邻居和边对目标节点的信息贡献。此外,复杂图的非均匀分布和强聚类形成的负曲率也会导致信息的过度压缩。为了解决这些问题,本文提出了一种新的方法称为半监督异构图学习与多级数据增强(HG-MDA)。针对DA中信息的异构性问题,针对异构图的特点,提出了节点和拓扑的扩充策略。基于元关系的注意力被用作选择增强节点和边的指标之一。针对信息过度压缩的问题,设计了基于三角形的边增删算法,以减轻负曲率,带来拓扑增益。最后,损失函数由标记数据的交叉熵损失和未标记数据的一致性正则化组成。为了有效地融合各种DA策略的预测结果,使用锐化。现有的公共数据集实验,即,ACM、DBLP、OGB和行业数据集MB表明,HG-MDA优于当前的SOTA模型。此外,HG-MDA应用于互联网金融场景的用户识别,帮助业务增加30%的关键用户,贷款和余额增加3.6%,11.1%和9.8%。
2022-11-30 cs.AI cs.LG
Explanation-Preserving Augmentation for Semi-Supervised Graph Representation Learning
Florida International University(佛罗里达国际大学)
针对现有图表示学习增强方法仅关注数据扰动、忽略语义保留的问题,提出半监督的EPA-GRL方法,利用图解释生成语义保留增强,经理论与实验验证其性能优于现有SOTA方法。
2025-11-14 cs.LG
Graph Augmentation for Cross Graph Domain Generalization
Tsinghua University(清华大学)
本文提出图结构增强方法,通过低权重边丢弃和聚类边添加,提升跨图节点分类中GNN的域泛化能力,并在分布外数据集上取得最优性能。
2025-02-25 cs.LG
Model-Agnostic Augmentation for Accurate Graph Classification
Seoul National University(首尔国立大学)
给定一个图数据集,我们如何增强它以实现准确的图分类?图增强是提高基于图的任务性能的重要策略,并已被广泛用于分析Web和社交图。然而,以前的图增强工作要么a)在增强过程中涉及目标模型,失去了对其他任务的泛化能力,要么b)依赖于简单的算法,导致不可靠的结果。在这项工作中,我们介绍了五个所需的属性有效的增强。然后,我们提出了NodeSam(节点拆分和合并)和SubMix(子图混合),这两种模型无关的方法用于图增强,满足不同动机的所有期望属性。NodeSam对图结构进行了平衡的更改,以最大限度地降低语义更改的风险,而SubMix混合了多个图的随机子图,以创建丰富的软标签,将不同类别的证据结合在一起。我们在社交网络和分子图上的实验表明,NodeSam和SubMix在图分类方面优于现有方法。
2022-02-21 cs.LG cs.SI
Spectral Feature Augmentation for Graph Contrastive Learning and Beyond
The Chinese University of Hong Kong(香港中文大学);Australian National University(澳大利亚国立大学);Data61/CSIRO(Data61/澳大利亚联邦科学与工业研究组织)
虽然增强(例如,图边缘的扰动、图像裁剪)提高了对比学习(CL)的效率,特征级增强是另一种合理的、互补的但尚未得到充分研究的策略。因此,我们提出了一种新的光谱特征论证的对比学习的图形(和图像)。为此,对于每个数据视图,我们估计每个特征映射的低秩近似,并从映射中减去该近似以获得其补。这是通过本文提出的不完全功率迭代来实现的,不完全功率迭代是一种非标准功率迭代机制,其具有两个有价值的副产品(在仅仅一次或两次迭代下):(i)它部分地平衡特征图的频谱,以及(ii)它将噪声注入到特征图的重新平衡的奇异值中(频谱增强)。对于两个视图,我们将这些重新平衡的特征图对齐,因为改进的对齐步骤可以更多地关注两个视图的矩阵的不太占主导地位的奇异值,而光谱增强不影响光谱角度对齐(奇异向量不受干扰)。我们推导出的解析形式:(i)不完整的功率迭代,以捕捉其频谱平衡效果,和(ii)的奇异值的方差增加隐含的噪声。我们还表明,谱增强提高了泛化界。在图形/图像数据集上的实验表明,我们的光谱特征增强优于基线,与其他增强策略互补,并与各种对比度损失兼容。
2022-12-02 cs.AI cs.CV cs.LG
Graph Contrastive Learning with Adaptive Augmentation
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);University of Chinese Academy of Sciences(中国科学院大学);Beijing University of Posts and Telecommunications(北京邮电大学);Alibaba Group(阿里巴巴集团)
近年来,对比学习(CL)已成为无监督图表示学习的一种成功方法。大多数图CL方法首先在输入图上执行随机增强以获得两个图视图,并最大化两个视图中的表示的一致性。尽管图CL方法的繁荣发展,图增强方案的设计-CL中的一个重要组成部分-仍然很少探索。我们认为,数据增强计划应该保持固有的结构和属性的图,这将迫使模型学习表示不敏感的扰动不重要的节点和边缘。然而,大多数现有的方法采用统一的数据增强方案,如均匀地丢弃边缘和均匀地混洗特征,导致次优性能。在本文中,我们提出了一种新的图形对比表示学习方法与自适应增强,结合各种先验的拓扑和语义方面的图。具体而言,在拓扑结构层面上,我们设计的增强方案的基础上,节点中心性措施,突出重要的连接结构。在节点属性层,我们通过向不重要的节点特征添加更多的噪声来破坏节点特征,以强制模型识别底层语义信息。我们在各种真实世界的数据集上进行了大量的节点分类实验。实验结果表明,我们提出的方法始终优于现有的最先进的基线,甚至超过一些监督同行,这验证了所提出的自适应增强的对比框架的有效性。
2021-02-26 cs.LG
Adversarial Curriculum Graph Contrastive Learning with Pair-wise Augmentation
City University of Hong Kong(香港城市大学);Shenzhen Research Institute of Big Data(深圳大数据研究院);Duke Kunshan University(昆山杜克大学);ByteDance Research(字节跳动研究院)
针对图对比学习中样本相似度难以控制的问题,提出ACGCL框架,利用成对增强生成可控相似度的样本并结合子图对比学习,通过对抗性课程训练克服稀疏性问题,在六个基准数据集上显著超越基线。
2024-02-16 cs.AI cs.LG
Signed Directed Graph Contrastive Learning with Laplacian Augmentation
Seoul National University(首尔国立大学);Korea Institute of Energy Technology(韩国能源技术研究院)
图对比学习已经成为一种强大的技术,用于一些图挖掘任务。它从增广图的不同角度学习判别表示。在我们的日常生活中,有向图是各种图类型中最复杂和最棘手的分析。这就是为什么有向图对比学习的研究还不多,而无向图和无向图的对比研究却很多的原因。因此,本文提出了一种新的符号有向图对比学习,SDGCL。该方法构造了两种不同结构的扰动图视图,并通过磁拉普拉斯扰动得到节点表示。我们使用一个节点级的对比损失,以最大限度地提高两个图形视图之间的互信息。该模型与对比和监督目标联合学习。SDGCL的图形编码器不依赖于社会理论或预定义的假设。因此,它不需要查找三元组或选择要聚合的邻居。它通过磁性拉普拉斯算子仅利用边缘符号和方向。据我们所知,它是第一个引入磁拉普拉斯扰动和符号谱图对比学习。通过对四个真实数据集的详尽实验,证明了该模型的优越性。SDGCL在四个评估指标上显示出比其他最先进的性能更好的性能。
2023-01-12 cs.AI cs.LG
Structure Matters: Brain Graph Augmentation via Learnable Edge Masking for Data-efficient Psychiatric Diagnosis
Institute of Innovation, Science and Sustainability(创新、科学与可持续发展研究所);Federation University Australia(联邦大学澳大利亚分校);School of Information and Electronic Engineering(信息与电子工程学院);Zhejiang Gongshang University(浙江工商大学);School of Computing Technologies(计算技术学院);RMIT University(皇家墨尔本理工学院);School of Computing and Information Systems(计算与信息系统学院);The University of Melbourne(墨尔本大学)
针对标记脑数据稀缺问题,提出SAM-BG两阶段框架,通过可学习边掩码保留结构语义,实现数据高效的神经精神疾病诊断,并在小样本设置下超越现有方法。
2025-09-24 cs.AI cs.LG
Pharmacogenomic Knowledge Graph Augmentation for Graph Neural Network-Based Drug-Drug Interaction Prediction
AI Solutions Berlin
本研究通过整合PharmGKB的药理基因组学先验知识(CYP酶注释)作为特征向量,增强图神经网络在药物相互作用预测中的性能,在配对数据划分下显著提升DDI类型分类,但未能突破信息天花板。
2026-06-05 cs.AI cs.LG
Data Augmentation in Graph Neural Networks: The Role of Generated Synthetic Graphs
Istanbul Technical University(伊斯坦布尔理工大学);ITU, AI Research and Application Center(伊斯坦布尔理工大学AI研究与应用中心);ITU, Department of Computer Engineering(伊斯坦布尔理工大学计算机工程系);BTS Group(BTS集团);Gazi University(加齐大学)
本研究探索利用生成模型合成图进行数据增强,比较生成图与真实图结合的性能及数量影响,提出按图大小选择生成器以平衡扩展性与质量,确保标签一致并提升图分类性能。
2024-07-20 cs.AI cs.DB cs.IT
Self-Supervised Graph Learning via Spectral Bootstrapping and Laplacian-Based Augmentations
Department of Computer Science University of Geneva(日内瓦大学计算机科学系)
提出LaplaceGNN自监督图学习框架,通过谱自举和拉普拉斯增强绕过负采样,结合中心性引导优化与对抗性自举训练,在多个基准上实现了优于SOTA的性能。
2025-06-25 cs.AI cs.DS cs.LG