DAM-GT: Dual Positional Encoding-Based Attention Masking Graph Transformer for Node Classification
School of Computer Science and Technology, Huazhong University of Science and Technology（华中科技大学计算机科学与技术学院）；Hopcroft Center on Computing Science, Huazhong University of Science and Technology（华中科技大学计算科学霍普克罗夫特中心）；Department of Computer Science, Cornell University（康奈尔大学计算机科学系）
针对邻域标记化图Transformer在节点分类中属性相关性捕获不足和注意力分散问题，提出DAM-GT，通过双位置编码和注意力掩码策略，在多种图上优于现有方法。
2025-05-23 cs.LG
Graph Neural Networks with Precomputed Node Features
ETH Zurich（苏黎世联邦理工学院）
大多数图神经网络（GNN）无法区分某些图或图中的某些节点对。这使得无法解决某些分类任务。但是，向这些模型添加其他节点功能可以解决此问题。我们介绍了几个这样的增强，包括（i）位置节点嵌入，（ii）规范节点ID，和（iii）随机特征。这些扩展的动机是理论结果和合成子图检测任务的广泛测试证实。我们发现，位置嵌入显着优于其他扩展在这些任务。此外，位置嵌入具有更好的样本效率，在不同的图分布上表现良好，甚至优于使用地面真实节点位置的学习。最后，我们证明了不同的增强在已建立的GNN基准上具有竞争力，并建议何时使用它们。
2022-09-17 cs.LG
Graph Attention for Heterogeneous Graphs with Positional Encoding
Harvard University（哈佛大学）
该研究基准测试了异构图上的GNN架构，发现图注意力网络在节点分类和链路预测中表现优异，并通过整合基于完整Laplacian谱的位置编码来增强节点嵌入，进一步提升下游任务性能。
2025-04-03 cs.AI cs.DM cs.LG
Pre-Training and Prompting for Few-Shot Node Classification on Text-Attributed Graphs
Tsinghua University（清华大学）；University of Edinburgh（爱丁堡大学）；Zhipu AI（智谱AI）；Bosch Center for Artificial Intelligence（博世人工智能中心）；Anhui University（安徽大学）
针对文本属性图上的少样本节点分类，提出P2TAG框架，通过图预训练和混合提示方法同时利用文本与图信息，在六个真实数据集上显著优于现有方法。
2024-07-22 cs.AI cs.LG cs.SI
Graph Neural Networks with Learnable Structural and Positional Representations
Nanyang Technological University（南洋理工大学）；Loyola Marymount University（洛约拉马利蒙特大学）；Mila（米拉）；University of Montréal（蒙特利尔大学）；CIFAR（加拿大高级研究所）；National University of Singapore（新加坡国立大学）
图神经网络（GNN）已经成为图的标准学习架构。GNN已应用于从量子化学、推荐系统到知识图谱和自然语言处理等众多领域。任意图的一个主要问题是缺乏节点的规范位置信息，这降低了GNN区分同构节点和其他图对称性的表示能力。解决这个问题的一种方法是引入节点的位置编码（PE），并将其注入到输入层中，就像Transformers中一样。可能的图PE是拉普拉斯特征向量。在这项工作中，我们建议解耦结构和位置表示，使网络更容易学习这两个基本属性。我们介绍了一种新的通用架构，我们称之为LSPE（可学习的结构和位置编码）。我们研究了几个稀疏和全连接（类似于transformer）的GNN，并观察到分子数据集的性能提高，当考虑两个GNN类的可学习PE时，从1.79%提高到64.14%。
2022-02-10 cs.LG
Converse and Collision-Based Achievability for Node Localization with Hybrid Distance-Spectral Graph Positional Encodings
National University of Defense Technology（国防科技大学）；Wuhan University（武汉大学）
该研究针对图位置编码的节点识别问题，提出混合距离-频谱编码，推导碰撞分解与信息公式，通过随机正则图和拉普拉斯能量坐标验证，实验显示其定位与句法树几何恢复性能优于单一编码基线。
2026-09-01 cs.LG
Who Should Teach? Confidence-Aware Dual-Teacher Learning for Few-Shot Node Classification on Text-Attributed Graphs
Chungbuk National University（忠北国立大学）；Chungnam National University（忠南国立大学）；The Pennsylvania State University（宾夕法尼亚州立大学）
针对文本属性图小样本节点分类中现有方法LLM信息利用不均、成本高的问题，提出置信感知双教师学习框架CoTeach，动态为节点选更可靠教师，提升性能并降低LLM成本。
2026-09-01 cs.LG cs.SI
Rewiring with Positional Encodings for Graph Neural Networks
Massachusetts Institute of Technology（麻省理工学院）；MIT-IBM Watson AI Lab（MIT-IBM沃森人工智能实验室）；IBM Research（IBM研究院）
针对现有GNN位置编码扩展感受野成本高、改架构复杂的问题，提出在输入前用位置编码增广图的节点边扩展r跳邻域，模型无关且无损，小r即可缓解过挤压、提性能，在多模型数据集达有竞争力表现。
2023-12-13 cs.LG
Inductive Representation Learning in Large Attributed Graphs
Intel Labs（英特尔实验室）；PARC（帕洛阿尔托研究中心）；Google（谷歌）；WPI（伍斯特理工学院）
图（网络）无处不在，允许我们对实体（节点）和它们之间的依赖关系（边）进行建模。从图数据中学习有用的特征表示是许多机器学习任务的核心和成功，例如分类，异常检测，链接预测等。许多现有技术使用随机游动作为学习特征或估计用于下游预测任务的图模型的参数的基础。示例包括最近的节点嵌入方法，如DeepWalk，node2vec以及基于图的深度学习算法。然而，这些方法所使用的简单随机游动从根本上与节点的身份有关。这有三个主要缺点。首先，这些方法本质上是传导性的，不能推广到看不见的节点和其他图。其次，它们不是空间有效的，因为每个节点都要学习一个特征向量，这对于大型图来说是不切实际的。第三，这些方法大多缺乏对属性图的支持。为了使这些方法更普遍适用，我们提出了一个框架，归纳网络表示学习的基础上的概念，属性随机游动，不绑定到节点身份，而是基于学习一个函数$Φ: \mathrm{\rm \bf x} \rightarrow w$，映射节点属性向量$\mathrm{\rm \bf x}$的类型$w$。该框架作为推广现有方法的基础，如DeepWalk，node2vec和许多其他利用传统随机游动的方法。
2017-11-22 cs.AI cs.LG cs.SI
Self-supervised Contrastive Attributed Graph Clustering
Xidian University（西安电子科技大学）；Westfield State University（韦斯特菲尔德州立大学）；Chongqing University of Posts and Telecommunications（重庆邮电大学）
提出自监督对比属性图聚类网络SCAGC，利用不精确聚类标签设计自监督对比损失学习节点表示，并直接输出聚类标签，解决样本外问题，在四个基准数据集上优于11种方法。
2021-10-15 cs.AI cs.LG
Variational Co-embedding Learning for Attributed Network Clustering
Data Science Institute, University of Technology Sydney（悉尼科技大学数据科学研究所）；School of Information Technology, Deakin University（迪肯大学信息技术学院）；School of Computer Science and Engineering, University of New South Wales（新南威尔士大学计算机科学与工程学院）；School of Computer Science, University of Technology Sydney（悉尼科技大学计算机科学学院）
最近的工作，属性网络聚类利用图卷积获得节点嵌入，同时执行嵌入空间上的聚类分配。由于图卷积结合了节点嵌入学习的结构和属性信息，因此是有效的。然而，这样的工作的一个主要局限性是，图卷积只结合了来自节点的局部邻域的属性信息，但未能利用节点和属性之间的相互亲和力。在这方面，我们提出了一个变分共嵌入学习模型属性网络聚类（VCLANC）。VCLANC是由双变分自动编码器，同时嵌入节点和属性。在此基础上，从嵌入空间中重构出节点与属性之间的相互亲和度信息，作为额外的自监督知识用于表示学习。同时，可训练的高斯混合模型被用作先验知识来推断节点聚类分配。为了加强推断的集群的性能，我们使用的高斯先验的中心和聚类分配硬化损失的节点嵌入的相互距离损失。四个真实世界的属性网络数据集上的实验结果表明，所提出的VCLANC属性网络聚类的有效性。
2021-04-15 cs.AI cs.LG stat.ML
Beyond Localized Graph Neural Networks: An Attributed Motif Regularization Framework
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
我们提出了InfoMotif，一个新的半监督，图案正则化，学习框架图。我们克服了流行的图神经网络（GNN）中消息传递的两个关键限制：本地化（k层GNN不能利用标记训练节点的k跳邻域之外的特征）和过平滑（结构上不可区分）表示。我们提出的概念，属性的结构角色的节点发生在不同的网络图案的基础上，独立的网络接近。如果两个节点在共变属性集上参与拓扑相似的基序实例，则它们共享属性结构角色。此外，InfoMotif通过互信息最大化正则化任意GNN的节点表示来实现架构独立性。我们的训练课程在学习过程中动态地优先考虑多个图案，而不依赖于底层图或学习任务中的分布假设。我们在我们的框架中集成了三个最先进的GNN，在六个不同的真实世界数据集上显示出显着的收益（3-10%的准确率）。我们看到具有稀疏训练标签和局部邻域结构中不同属性的节点的收益更强。
2020-09-11 cs.LG cs.SI
Learning Asymmetric Embedding for Attributed Networks via Convolutional Neural Network
RMIT University（皇家墨尔本理工大学）；Ahvaz Branch, Islamic Azad University（伊斯兰阿扎德大学阿瓦士分校）
近年来，网络嵌入由于其在链接预测、节点分类和节点聚类等网络计算任务中的优势而受到越来越多的关注。网络嵌入的目标是在低维向量空间中表示网络节点，同时保留尽可能多的原始网络信息，包括结构，关系和语义信息。然而，有向网络的非对称性带来了许多挑战，如如何在嵌入过程中最好地保持边缘方向。本文提出了一种基于卷积图神经网络的深度非对称属性网络嵌入模型AAGCN。其主要思想是最大限度地保持有向属性网络的非对称邻近性和非对称相似性。AAGCN引入了两种邻域特征聚合方案，分别将节点的特征与其内外邻居的特征聚合。然后，它为每个节点学习两个嵌入向量，一个源嵌入向量和一个目标嵌入向量。最终的表示是连接源和目标嵌入向量的结果。我们测试的性能AAGCN在三个现实世界的网络重建，链接预测，节点分类和可视化任务。实验结果表明，AAGCN对国家的最先进的嵌入方法的优越性。
2022-02-13 cs.LG cs.SI
Comparing Graph Transformers via Positional Encodings
School of Electrical Engineering and Computer Science, Oregon State University（俄勒冈州立大学电气与计算机工程学院）
本文研究了图Transformer中绝对位置编码与相对位置编码的关系，证明了两者在区分能力上等价且可互换，并基于理论比较了多种位置编码的区分能力，为未来设计提供指导。
2024-08-22 cs.LG
Graph Positional Encoding via Random Feature Propagation
Ben-Gurion University of the Negev（内盖夫本-古里安大学）；Imperial College London（伦敦帝国学院）；Purdue University（普渡大学）；Bar-Ilan University（巴伊兰大学）；NVIDIA Research（英伟达研究院）
本研究针对图神经网络两类增强方案关联不明的问题，提出融合二者优势的随机特征传播（RFP）位置编码方法，提供理论支撑并验证其在多类基准任务上性能更优。
2023-07-19 cs.LG
What functions can Graph Neural Networks compute on random graphs? The role of Positional Encoding
CNRS（法国国家科学研究中心）；IRISA（法国雷恩信息与随机系统研究所）；LJAD（法国尼斯让·亚历山大·迪厄多内实验室）
本文研究了等变GNNs在大规模随机图节点任务上的函数空间，强调了输入特征和位置编码（PEs）的作用，将普遍性结果扩展至更一般模型，并提出对泛化有积极影响的归一化技巧。
2023-05-24 cs.LG stat.ML
Every Node is Different: Dynamically Fusing Self-Supervised Tasks for Attributed Graph Clustering
Tianjin University（天津大学）
本文提出DyFSS方法，通过门控网络为不同图节点动态学习自监督任务权重并融合多任务嵌入，结合伪标签与图结构的双层自监督策略，在五个数据集上以最高8.66%的准确率提升超越现有多任务SSL方法。
2024-01-12 cs.AI cs.LG
Unsupervised Deep Manifold Attributed Graph Embedding
Zhejiang University（浙江大学）；AI Lab, School of Engineering（工程学院AI实验室）；Westlake University（西湖大学）
无监督属性图表示学习是一个具有挑战性的问题，因为结构和特征信息都需要在潜在空间中表示。现有的方法主要通过重构任务来学习潜在表示，但不能直接优化表示，容易出现过平滑现象，从而限制了其在下游任务中的应用。为了缓解这些问题，我们提出了一种新的图嵌入框架，称为深度流形属性图嵌入（DMAGE）。提出了一种节点间测地线相似度计算方法，计算数据空间和潜在空间之间的节点间相似度，并以Bergman散度作为损失函数，使两者之间的差异最小化。然后，我们设计了一个新的网络结构，较少的聚合，以减轻过度平滑的问题，并结合图结构增强，以提高表示的稳定性。我们提出的DMAGE在三个下游任务上远远超过了最先进的方法：无监督可视化，节点聚类和四个流行数据集的链接预测。
2021-04-27 cs.AI cs.LG
HyPE-GT: where Graph Transformers meet Hyperbolic Positional Encodings
Indian Statistical Institute（印度统计研究所）
HyPE-GT框架在双曲空间生成可学习位置编码，既增强图变换器对图层次关系的捕捉能力，又减轻深度GNN的过平滑问题，经多类基准实验验证了其有效性。
2026-08-19 cs.LG
Attributed Multi-order Graph Convolutional Network for Heterogeneous Graphs
Fuzhou University（福州大学）；University of Vienna（维也纳大学）
本文提出AMOGCN模型，通过自适应聚合多阶邻接矩阵自动学习包含多跳邻居的元路径，并利用节点属性同质性监督融合过程，最终在异构图半监督分类中取得优于现有方法的性能。
2023-04-18 cs.AI cs.LG
Collaborative Graph Neural Networks for Attributed Network Embedding
Texas A&M University（德克萨斯农工大学）；The Hong Kong Polytechnic University（香港理工大学）；University of Virginia（弗吉尼亚大学）；Rice University（莱斯大学）
针对现有图神经网络对节点属性利用不足的问题，本文提出协作图神经网络CONN，通过选择性扩散节点与属性消息、联合重建两类交互提升性能，在真实网络实验中显著优于现有最优嵌入算法。
2023-07-22 cs.IR cs.LG cs.SI
Self-supervised Consensus Representation Learning for Attributed Graph
School of Computer Science and Engineering, University of Electronic Science and Technology of China（电子科技大学计算机科学与工程学院）；The Noah’s Ark Lab, Huawei Technologies Company Limited（华为技术有限公司诺亚方舟实验室）；School of Information and Software Engineering, University of Electronic Science and Technology of China（电子科技大学信息与软件工程学院）
为了充分利用属性图丰富的拓扑结构和节点特征信息，将自监督学习机制引入到图表示学习中，提出了一种新的自监督一致性表示学习（Self-supervised Consensus Representation Learning，SCRL）框架.与大多数现有的只探索一个图的工作相比，我们提出的SCRL方法从两个角度对待图：拓扑图和特征图。我们认为，他们的嵌入应该共享一些共同的信息，这可以作为一个监督信号。具体来说，我们通过k-最近邻算法构建节点特征的特征图。然后，图卷积网络（GCN）编码器分别从两个图中提取特征。自监督损失的目的是最大化的协议的嵌入拓扑图和特征图中相同的节点。在真实引文网络和社交网络上的大量实验证明了我们提出的SCRL在半监督节点分类任务上的优越性。同时，与其主要竞争对手相比，SCRL的效率相当高。
2021-08-10 cs.AI cs.CV cs.LG
Learnable Spatial-Temporal Positional Encoding for Link Prediction
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Meta AI；Arizona State University（亚利桑那州立大学）
针对现有位置编码固定、未考虑时序演化、搭配注意力计算成本高的问题，提出可学习时空位置编码模型L-STEP，从时空谱验证其保图属性，MLP即可达到Transformer性能，在多基准数据集上取得领先效果且运行效率更优。
2025-06-11 cs.AI cs.LG
Decoupling anomaly discrimination and representation learning: self-supervised learning for anomaly detection on attributed graph
School of Computer Science and Engineering, Sun Yat-sen University（中山大学计算机科学与工程学院）；School of Software Engineering, Sun Yat-sen University（中山大学软件工程学院）；School of System Science and Engineering, Sun Yat-sen University（中山大学系统科学与工程学院）；Merchants Union Consumer Finance Co., Ltd（招商局联融消费金融股份有限公司）
本文提出DSLAD算法，通过解耦异常判别与表示学习，并采用双线性池化和掩码自编码器构建平衡特征空间，以解决属性图异常检测中的语义混合和长尾分布问题，在六个基准数据集上验证了其有效性。
2023-04-11 cs.AI cs.LG
Variational Graph Autoencoder for Heterogeneous Information Networks with Missing and Inaccurate Attributes
East China Normal University（华东师范大学）；Shanghai Polytechnic University（上海第二工业大学）；Baidu Inc.（百度公司）
本文提出生成式自监督模型 GraMI，基于变分图自编码器同时学习节点级和属性级嵌入，通过重建链接与属性来补全缺失特征并纠正不准确属性，实验证明其在处理异质信息网络属性问题上的优越性。
2024-11-19 cs.LG cs.SI
Changepoint Detection in Highly-Attributed Dynamic Graphs
Mila - Quebéc AI Institute（米拉-魁北克人工智能研究所）；Université de Montréal（蒙特利尔大学）；University of Waterloo（滑铁卢大学）
针对高维节点属性加剧动态网络异常检测难度的问题，提出利用GNN估计网络快照模块度以检测变点的方法，经仿真和#Iran Twitter真实网络验证有效。
2024-07-09 cs.LG cs.SI
GAGE: Geometry Preserving Attributed Graph Embeddings
University of Pennsylvania（宾夕法尼亚大学）；University of Virginia（弗吉尼亚大学）
节点嵌入是提取网络中连接的某些实体的简洁和信息表示的任务。各种真实世界的网络都以特征或时间序列数据的形式包含有关节点连接性和某些节点属性的信息。现代表示学习技术采用节点的连接性和属性信息以无监督的方式产生嵌入。在这种情况下，导出保留网络几何结构和属性向量的嵌入将是非常可取的，因为它们将反映特征空间中的拓扑邻域结构和邻近度。虽然这在仅观察网络的连通性或属性信息时维护起来相当简单，但保留这两种类型信息的几何形状是具有挑战性的。提出了一种新的基于张量分解的属性网络节点嵌入方法，该方法保持了连接和属性的距离。此外，开发了一种有效的轻量级算法来处理学习任务，并使用多个最先进的基线进行了明智的实验，表明该算法在下游任务中提供了显着的性能改进。
2022-02-23 cs.LG cs.SI eess.SP
Label Deconvolution for Node Representation Learning on Large-scale Attributed Graphs against Learning Bias
MoE Key Laboratory of Brain-inspired Intelligent Perception and Cognition, University of Science and Technology of China（脑启发智能感知与认知国家重点实验室，中国科学技术大学）；Alibaba Group（阿里巴巴集团）
针对大规模属性图上分别训练节点编码器与图神经网络导致的学习偏差问题，本文提出标签反卷积（LD）技术，通过可扩展的GNN逆映射近似实现与联合训练等价的目标函数，并在OGB数据集上显著超越现有方法。
2025-06-03 cs.AI cs.LG
Leveraging Large Language Models for Effective Label-free Node Classification in Text-Attributed Graphs
ShanghaiTech University（上海科技大学）；Hong Kong Baptist University（香港 Baptist 大学）；Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）
针对图神经网络依赖大量标注数据、现有大语言模型辅助节点分类方法查询成本高或标签噪声大的问题，提出主动自训练框架Locle，通过关键样本选择与标签修正，以极低查询成本实现了文本属性图无标签节点分类的性能提升。
2025-05-16 cs.AI cs.LG
LLM-Enhanced Energy Contrastive Learning for Out-of-Distribution Detection in Text-Attributed Graphs
本文提出LECT方法，结合大语言模型和能量对比学习，在文本属性图中实现节点级分布外检测，提升分类准确性和鲁棒性。
2026-03-19 cs.AI
A Multi-Task Perspective for Link Prediction with New Relation Types and Nodes
Purdue University（普渡大学）
本文将双等变性扩展为多任务双等变性，以处理属性多重图中不同关系类型集合具有冲突预测模式的问题，并在真实数据集上验证其对新节点和新关系类型的归纳泛化能力。
2023-12-04 cs.AI cs.LG
SynCo: Synthetic Community-Aware Attributed Graph Generator for Graph Neural Network Benchmarking
Federal University of São Carlos（圣卡洛斯联邦大学）；Federal University of Mato Grosso do Sul（南马托格罗索联邦大学）
SynCo是一种社区感知的属性图生成器，允许用户控制度分布和子社区结构，在图模仿、超参数评估和节点聚类任务中优于现有方法，并能生成多达210万节点的大规模图。
2026-09-11 cs.LG cs.SI
Efficient Text-Attributed Graph Learning through Selective Annotation and Graph Alignment
King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）；Ant Group（蚂蚁集团）；Huazhong Agricultural University（华中农业大学）
针对文本属性图学习中全节点标注与微调成本高的问题，提出 GAGA 框架，通过选择性标注代表性节点和边并进行两级图对齐，仅标注 1% 数据即达到或超过现有方法性能。
2025-06-08 cs.AI cs.CL cs.LG
Clustering Node Attributed Networks with Graph Neural Networks and Self Learning
Systems Engineering and Computer Science (PESC), Federal University of Rio de Janeiro (UFRJ)（里约热内卢联邦大学系统工程与计算机科学系）
提出一种基于图神经网络和自学习的无监督图聚类框架，通过多轮自学习交替优化节点表示和聚类，利用上下文图提升性能，在合成和真实数据上表现优异。
2026-06-12 cs.LG
Aligning the Unseen in Attributed Graphs: Interplay between Graph Geometry and Node Attributes Manifold
Université Paris Saclay, Université Paris Cité, ENS Paris Saclay, CNRS, SSA, INSERM, Centre Borelli, F-91190, Gif-sur-Yvette, France（巴黎萨克雷大学、巴黎城市大学、巴黎萨克雷高等师范学院、国家科学研究中心、SSA、国家医学研究院、Borelli研究中心，法国吉夫-sur-依夫特）；Department of Computer Science, University of Geneva, Route de Drize 7, CH-1227 Carouge, Switzerland（日内瓦大学计算机科学系）
本文提出了一种定制的变分自动编码器，通过分离流形学习与结构对齐，解决带属性图中几何冲突问题，揭示传统方法无法检测到的连接模式和异常。
2026-01-30 cs.AI math.DG
Communicability-Inspired Positional Encoding (CIPE)
Division of Mathematical Sciences, School of Physical and Mathematical Sciences, Nanyang Technological University（南洋理工大学物理与数学科学学院数学科学部）；School of Computing, University of Kent（肯特大学计算机学院）；Department of Computer Science and Technology, University of Cambridge（剑桥大学计算机科学与技术系）
提出通信启发的图位置编码(CIPE)，利用节点间通信性定义注意力兼容的几何结构，通过维度对齐实现高效Transformer训练，在七个基准上平均提升35.5%。
2026-06-25 cs.AI cs.LG
Learning Attributed Graph Representations with Communicative Message Passing Transformer
Sun Yat-sen University（中山大学）；Galixir Technologies Ltd（Galixir科技有限公司）
构建适当的分子表示是许多任务的核心，如材料科学，化学和药物设计。近年来的研究将分子抽象为属性图，并利用图神经网络（GNN）进行分子表示学习，在分子图建模方面取得了显著的成果。尽管功能强大，但当前的模型要么基于局部聚合操作，从而错过了高阶图属性，要么只关注节点信息，而没有充分利用边信息。为此，我们提出了一个通信的消息传递Transformer（CoMPT）神经网络，以改善分子图表示的基础上，Transformer架构，加强节点和边缘之间的消息交互。与之前将分子视为完全连接图的transformer风格的GNN不同，我们引入了一种消息扩散机制来利用图连接性诱导偏差并减少消息丰富爆炸。大量的实验表明，该模型获得了优越的性能（约4 $\%$平均）对国家的最先进的基线上的7个化学性质数据集（图级任务）和两个化学位移数据集（节点级任务）。进一步的可视化研究也表明，我们的模型实现了更好的表示能力。
2021-07-28 cs.AI cs.LG
Understanding and Improving Laplacian Positional Encodings For Temporal GNNs
Technion – Israel Institute of Technology（技术学院–以色列理工学院）；Ben-Gurion University of the Negev（贝纳-加隆大学奈杰夫分校）；University of Cambridge（剑桥大学）；NVIDIA（英伟达）
本文针对时序图神经网络中拉普拉斯位置编码计算成本高、理论不清的问题，提出理论框架和高效计算方法，并通过实验揭示其适用场景。
2025-06-02 cs.AI cs.LG
Gaussian Embedding of Large-scale Attributed Graphs
Monash University（莫纳什大学）
图嵌入方法将高维复杂的图内容转换为低维表示。它们可用于各种图形分析任务，包括链接预测、节点分类、推荐和可视化。大多数现有的方法将图节点表示为低维嵌入空间中的点向量，忽略了现实世界图中存在的不确定性。此外，许多真实世界的图是大规模的，内容丰富（例如节点属性）。在这项工作中，我们提出了GLACE，一种新颖的，可扩展的图形嵌入方法，有效地保留了图形结构和节点属性，在一个端到端的方式。GLACE通过高斯嵌入有效地对不确定性进行建模，并支持基于其属性的新节点的归纳推理。在我们的综合实验中，我们在真实世界的图形上评估了GLACE，结果表明GLACE在多个图形分析任务上的表现明显优于最先进的嵌入方法。
2019-12-02 cs.LG stat.ML
You do not have to train Graph Neural Networks at all on text-attributed graphs
University of Notre Dame（圣母大学）
针对文本属性图上的半监督节点分类任务，提出免训练的线性GNN模型TrainlessGNN，通过构建类别子空间权重矩阵实现分类，性能可媲美甚至超越传统训练的GNN。
2024-04-17 cs.LG
Dynamic Graph Transformer with Correlated Spatial-Temporal Positional Encoding
Zhejiang University（浙江大学）；National University of Singapore（新加坡国立大学）；Ant Group（蚂蚁集团）
针对连续时间动态图高阶邻近性的时空信息利用不足问题，本文提出无参数的相关时空位置编码，并构建 CorDGT，在九个数据集上验证了性能与可扩展性。
2024-12-05 cs.LG
PolyFormer: Scalable Node-wise Filters via Polynomial Graph Transformer
Renmin University of China（中国人民大学）
针对现有谱图神经网络滤波器灵活性不足及可扩展性受限的问题，提出基于注意力机制的可扩展节点级滤波器PolyAttn及模型PolyFormer，在保持高效的同时增强表达性，实验证明其性能优越且可处理亿级节点图。
2024-07-19 cs.LG
Deep Attributed Network Representation Learning via Attribute Enhanced Neighborhood
Fudan University（复旦大学）；Peng Cheng Laboratory（鹏城实验室）
属性网络表示学习的目的是通过整合网络结构和属性信息来学习节点嵌入。同时完整地捕捉微观结构和属性语义是一个挑战，其中微观结构包括一步、两步和多步关系，分别表示节点的一阶、二阶和高阶邻近度。本文提出了一种基于属性增强邻域的深度属性网络表示学习（DANRL-ANE）模型，以提高节点表示的鲁棒性和有效性。DANRL-ANE模型采用自编码器的思想，将解码器扩展为三个分支，以捕获不同阶的邻近度。将邻接矩阵与属性相似度矩阵线性结合作为模型的输入，其中属性相似度矩阵是基于社会同质性的属性间余弦相似度计算得到的。这样，我们保留了二阶近似性，以增强稀疏网络上的DANRL-ANE模型的鲁棒性，并同时处理拓扑和属性信息。此外，扩展了sigmoid交叉熵损失函数，以捕捉邻域特征，从而更好地保持了一阶邻近性。我们将我们的模型与五个真实世界数据集和两个网络分析任务上的最新模型进行了比较，即，链接预测和节点分类。DANRL-ANE模型在各种网络上表现良好，即使在稀疏网络或具有孤立节点的网络上，属性信息也是足够的。
2021-04-12 cs.AI
Learning Efficient Positional Encodings with Graph Neural Networks
Stanford University（斯坦福大学）；Technical University of Munich（慕尼黑工业大学）；Massachusetts Institute of Technology（麻省理工学院）；University of Pennsylvania（宾夕法尼亚大学）
提出可学习图位置编码框架PEARL，利用消息传递GNN作为特征向量的非线性映射，以线性复杂度实现了高表达力、稳定性和置换等变性，性能媲美完整特征向量方法且计算复杂度显著降低。
2025-02-03 cs.LG
SEAL: Semi-supervised Adversarial Active Learning on Attributed Graphs
University of Technology Sydney（悉尼科技大学）
属性图上的主动学习随着图结构数据的普及而受到越来越多的关注。虽然AL已被广泛研究，以减轻标签稀疏问题与传统的非相关数据，如何使其有效的属性图仍然是一个开放的研究问题。现有的图上AL算法试图重用经典的AL查询策略设计的非相关数据。然而，它们受到两个主要限制。首先，在不同的评分空间中计算的不同AL查询策略通常被天真地组合以确定要标记哪些节点。其次，人工智能查询引擎和分类器的学习被视为两个分离的过程，导致性能不令人满意。在本文中，我们提出了一个基于属性图的SEMI监督对抗主动学习（SEAL）框架，该框架充分利用了深度神经网络的表示能力，并以对抗的方式设计了一种新的AL查询策略。我们的框架学习了两个对抗性组件：一个图嵌入网络，它将未标记和标记的节点编码到一个潜在空间中，期望欺骗网络将所有节点视为已经标记的节点，以及一个半监督网络，它将潜在空间中的未标记节点与现有标记节点区分开来。发散度分数，产生的一个统一的潜在空间中，作为信息量的措施，积极选择最翔实的节点标记的预言。这两个对抗成分形成一个闭环，以相互和同时相互加强，以提高主动学习性能。在四个真实网络上进行的大量实验验证了SEAL框架的有效性，其性能优于最先进的基线。
2020-08-06 cs.LG stat.ML
Resolving Node Identifiability in Graph Neural Processes via Laplacian Spectral Encodings
National University of Defense Technology（国防科技大学）；School of Urban Design（城市设计学院）
本文提出一种基于拉普拉斯谱编码的图神经过程方法，解决节点可识别性问题，并在药物-药物相互作用任务中取得显著提升。
2025-11-24 cs.LG math.PR
DuConTE: Dual-Granularity Text Encoder with Topology-Constrained Attention for Text-attributed Graphs
School of Computer Science and Engineering（计算机科学与工程学院）
DuConTE通过双粒度编码和拓扑约束注意力，提升带文本图的语义表示，实现文本和结构信息的融合，实验表明其在多个基准数据集上表现优异。
2026-04-19 cs.AI cs.CL
Adaptive Graph Encoder for Attributed Graph Embedding
Tsinghua University（清华大学）；Beijing University of Posts and Telecommunications（北京邮电大学）
属性图嵌入是从图的拓扑结构和节点特征中学习向量表示，是图分析的一个具有挑战性的任务。最近，基于图卷积网络（GCN）的方法在这方面取得了很大的进展。然而，现有的基于GCN的方法有三个主要缺点。首先，我们的实验表明，图卷积滤波器和权重矩阵的纠缠会损害性能和鲁棒性。其次，我们表明，在这些方法中的图卷积滤波器揭示了广义拉普拉斯平滑滤波器的特殊情况下，但他们不保持最佳的低通特性。最后，现有算法的训练目标通常是恢复邻接矩阵或特征矩阵，这与实际应用并不总是一致的。为了解决这些问题，我们提出了自适应图编码器（AGE），一种新的属性图嵌入框架。AGE由两个模块组成：（1）为了更好地消除节点特征中的高频噪声，AGE首先应用精心设计的拉普拉斯平滑滤波器。(2)AGE采用自适应编码器，迭代地增强过滤后的特征，以获得更好的节点嵌入。我们使用四个公共基准数据集进行实验，以验证AGE的节点聚类和链接预测任务。实验结果表明，AGE始终优于国家的最先进的图嵌入方法在这些任务上相当。
2020-07-03 cs.LG stat.ML
Higher-Order Positional Encodings for Graph Representation Learning
University of California, Santa Barbara（加州大学圣塔芭芭拉分校）
本文提出高阶位置编码，利用霍奇拉普拉斯算子将高阶拓扑信息注入标准图模型，理论证明其可混合图拉普拉斯频率，实验表明能提升图变换器预测性能。
2026-10-02 cs.LG
Which way? Direction-Aware Attributed Graph Embedding
Royal Institute of Technology（瑞典皇家理工学院）；University of Trento（特伦托大学）
图嵌入算法用于在低维连续向量空间中有效地表示（编码）图，该低维连续向量空间保留了图的最重要属性。经常被忽视的一个方面是图是否有向。大多数研究忽略了方向性，以便学习针对节点分类优化的高质量表示。另一方面，捕获方向性的研究通常在链接预测上有效，但在其他任务上表现不佳。这项初步研究提出了一种新的文本丰富，方向感知算法称为DIAGRAM，基于精心设计的多目标模型来学习嵌入，保留边缘，文本特征和节点的图形上下文的方向。因此，我们的算法不必将一个属性交换为另一个属性，并为多个网络分析任务联合学习高质量的表示。我们的经验表明，DIAGRAM显着优于六个国家的最先进的基线，无论是方向感知和遗忘的，链接预测和网络重建实验使用两个流行的数据集。它还使用相同的数据集在节点分类实验中实现了与这些基线相当的性能。
2020-01-30 cs.LG cs.SI stat.ML
Pretraining Language Models with Text-Attributed Heterogeneous Graphs
Beihang University（北京航空航天大学）；Zhongguancun Laboratory（中关村实验室）
提出一种针对文本属性异构图的LM预训练框架，通过拓扑感知任务和文本增强策略联合优化LM与异构图神经网络，显著提升了链接预测和节点分类性能。
2023-10-23 cs.AI cs.CL
Learning Laplacian Positional Encodings for Heterophilous Graphs
University of Michigan（密歇根大学）；Max Planck Institute of Biochemistry（马克斯·普朗克生物化学研究所）
针对现有图位置编码在异配图上可能损害性能的局限，提出可学习拉普拉斯位置编码（LLPE），利用图拉普拉斯全谱在同配和异配图上捕捉结构，在12个基准上将多种GNN准确率提升高达35%。
2025-04-29 cs.LG
GIN-SD: Source Detection in Graphs with Incomplete Nodes via Positional Encoding and Attentive Fusion
School of Computer Science, Northwestern Polytechnical University (NWPU)（西北工业大学计算机学院）；School of Artificial Intelligence, Optics and Electronics (iOPEN), Northwestern Polytechnical University (NWPU)（西北工业大学光电与智能研究院）；Cyberspace Institute of Advanced Technology, Guangzhou University（广州大学网络空间先进技术研究院）
针对不完整用户数据下的谣言源检测难题，提出框架GIN-SD，利用位置嵌入区分不完整节点，借助自注意力聚焦高传输能力节点，并引入类平衡机制缓解类别不平衡偏差，实验证明其优于现有方法。
2024-02-27 cs.AI cs.LG cs.SI
Active Learning on Attributed Graphs via Graph Cognizant Logistic Regression and Preemptive Query Generation
McGill University（麦吉尔大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
属性图中的节点分类在多种实际环境中是一项重要任务，但获取标签通常很困难或昂贵。主动学习可以在查询标签的数量上针对给定预算提高所实现的分类性能。最好的现有方法是基于图神经网络，但他们往往表现不佳，除非一个相当大的验证集的标记节点是可用的，以选择好的超参数。我们提出了一种新的基于图的主动学习算法的任务，节点分类的属性图，我们的算法使用图认知逻辑回归，相当于一个线性化的图卷积神经网络（GCN），预测阶段，并最大限度地提高了预期的错误减少查询阶段。为了减少与系统交互的贴标机所经历的延迟，我们推导出一个抢占式查询系统，该系统在贴标过程中计算新的查询，并解决学习开始时几乎没有标记数据的设置，我们还开发了一种混合算法，该算法执行标签传播和线性化GCN推理的自适应模型平均。我们在五个公共基准数据集上进行了实验，证明了对最先进方法的显着改进，并通过将其应用于私人微波链路网络数据集来说明该方法的实用价值。
2020-07-09 cs.LG stat.ML
