Structure Enhanced Graph Neural Networks for Link Prediction
Alibaba Group(阿里巴巴集团)
图神经网络(GNNs)在各种任务中表现出了良好的效果,其中链接预测是一个重要的任务。GNN模型通常遵循以节点为中心的消息传递过程,该过程递归地将邻域信息聚合到中心节点。在这种范式下,节点的特征通过边传递,而不关心节点位于何处以及它们扮演的角色。然而,被忽视的拓扑信息被证明是有价值的链接预测任务。在本文中,我们提出了结构增强图神经网络(SEG)的链接预测。SEG引入路径标记方法来获取目标节点周围的拓扑信息,然后将其结构融入到普通的GNN模型中。通过联合训练结构编码器和深度GNN模型,SEG融合拓扑结构和节点特征,充分利用图信息。在OGB链接预测数据集上的实验表明,SEG在所有三个公共数据集上都取得了最先进的结果。
2022-01-14 cs.LG
Understanding Generalization in Node and Link Prediction
Computer Science Department, RWTH Aachen University(亚琛工业大学计算机科学系)
本文提出统一框架分析MPNNs在归纳式和直推式节点与链路预测中的泛化性质,整合架构参数与损失函数并量化图结构影响,该框架也适用于任何分类任务,实证研究支持了理论见解。
2025-10-30 cs.LG
Enhancing Future Link Prediction in Quantum Computing Semantic Networks through LLM-Initiated Node Features
Brookhaven National Laboratory(布鲁克海文国家实验室)
本研究针对量子计算语义网络的链路预测任务,提出用LLM初始化节点特征以优化图神经网络节点表征的方法,经多种模型验证,效果优于传统节点嵌入技术,可减少人工特征构建成本。
2024-10-05 cs.AI cs.CL cs.LG
Can GNNs Learn Link Heuristics? A Concise Review and Evaluation of Link Prediction Methods
Faculty of Engineering and Information Technology, University of Technology Sydney(工程与信息技术学院,悉尼大学);Faculty of Engineering and Information Sciences, University of Wollongong(工程与信息科学学院,沃林戈大学);College of Electrical Engineering, Zhejiang University(电气工程学院,浙江大学)
本文研究了图神经网络在链接预测中的能力,发现可训练节点嵌入能提升性能,且图密度越高提升越显著,为未来算法发展提供指导。
2025-12-07 cs.LG cs.SI
Transformation of Node to Knowledge Graph Embeddings for Faster Link Prediction in Social Networks
University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校);Siemens Corporate Technology(西门子企业技术)
神经网络的最新进展已经解决了常见的图形问题,如链接预测,节点分类,节点聚类,节点推荐,通过开发实体和关系到向量空间的嵌入。图嵌入对图中存在的结构信息进行编码。然后,编码的嵌入可以用于预测图中丢失的链接。然而,获得最佳的嵌入图可以是一个具有挑战性的计算任务,特别是在嵌入式系统。我们在这项工作中关注的两个技术是1)基于随机游走的方法的节点嵌入和2)知识图谱嵌入。基于随机游走的嵌入在计算上是廉价的,但是是次优的,而知识图谱嵌入表现更好,但是在计算上是昂贵的。在这项工作中,我们研究了一个转换模型,该模型将从基于随机游走的方法获得的节点嵌入直接从知识图谱方法获得的嵌入,而不会增加计算成本。大量的实验表明,所提出的转换模型可以用于实时解决链接预测。
2021-11-17 cs.LG cs.SI
Disentangling Node Attributes from Graph Topology for Improved Generalizability in Link Prediction
Network Science Institute(网络科学研究所);Northeastern University(东北大学);Khoury College of Computer Sciences(库利计算机科学学院);Brigham and Women’s Hospital(布莱根妇女医院);Harvard Medical School(哈佛医学院)
该研究提出节点属性无监督预训练方法UPNA,通过学习节点属性对预测边概率的方式解决归纳式链接预测问题,克服拓扑捷径与观测偏差,性能大幅超越现有最优水平,还可集成到现有模型中提升泛化能力。
2023-07-17 cs.LG cs.SI
GNNs Meet Sequence Models Along the Shortest-Path: an Expressive Method for Link Prediction
University of Trento(特伦托大学);Fondazione Bruno Kessler(布鲁诺·凯斯勒基金会)
提出SP4LP框架,结合GNN节点编码与最短路径序列建模,以高效捕捉多跳结构模式,在链接预测基准上达到最先进性能并证明其表达力优于现有方法。
2025-07-09 cs.LG
A Multi-Task Perspective for Link Prediction with New Relation Types and Nodes
Purdue University(普渡大学)
本文将双等变性扩展为多任务双等变性,以处理属性多重图中不同关系类型集合具有冲突预测模式的问题,并在真实数据集上验证其对新节点和新关系类型的归纳泛化能力。
2023-12-04 cs.AI cs.LG
Integrating Transductive And Inductive Embeddings Improves Link Prediction Accuracy
IIT Bombay(印度理工学院孟买分校)
近年来,归纳图嵌入模型、\emph{viz.}、图神经网络(GNN)在在线社交网络中的链接预测(LP)方面变得越来越准确。这种网络的性能在很大程度上取决于输入节点的特征,这些特征在网络和应用中各不相同。选择适当的节点功能仍然依赖于应用程序,通常是一个悬而未决的问题。此外,由于隐私和道德问题,个性化节点特征的使用往往受到限制。事实上,来自在线社交网络的许多公开可用的数据不包含任何节点特征(例如,人口统计学)。在这项工作中,我们提供了一个全面的实验分析,表明利用转导技术(例如,Node2Vec)来获得初始节点表示,在此之后,归纳节点嵌入技术接管,导致链接预测准确性的实质性改进。我们证明,对于各种各样的GNN变体,从Node2Vec获得的节点表示向量作为GNN的高质量输入特征,从而提高LP性能。
2021-08-23 cs.AI cs.IR cs.LG
Node Duplication Improves Cold-start Link Prediction
University of Washington(华盛顿大学);Snap Inc.(Snap公司);University of Notre Dame(诺特丹大学);University of California, Riverside(加州大学河滨分校)
针对图神经网络在链路预测中低度节点(冷启动场景)性能不佳的问题,提出即插即用的NodeDup节点复制增强技术,通过多视图视角提升性能,且不损害高度节点表现,实验验证了显著效果。
2025-08-01 cs.LG cs.SI
A parameterised model for link prediction using node centrality and similarity measure based on graph embedding
The University of Sydney(悉尼大学);Faculty of Engineering(工程学院);School of Project Management(项目管理学院)
针对现有图神经网络在短路径网络和自我网络上链接预测性能不佳的问题,提出NCSM模型,通过在定制GNN层中整合节点中心性与相似性度量作为边特征,有效利用拓扑信息,在五个基准数据集上超越现有最先进模型。
2023-09-11 cs.LG cs.SI
Path-aware Siamese Graph Neural Network for Link Prediction
Zhejiang Lab(之江实验室)
在本文中,我们提出了一个路径感知的连体图神经网络(PSG)的链接预测任务。首先,PSG捕获节点和给定的两个节点的边缘特征,即k-邻域的结构信息和节点的中继路径信息。此外,提出了一种新的多任务GNN框架与自监督对比学习的区别的积极的链接和消极的链接,而内容和行为的节点可以同时捕获。我们评估所提出的算法PSG上的两个链接属性预测数据集,ogbl-ddi和ogbl-collab。PSG在提交前在ogbl-ddi上获得了前1名的性能,在ogbl-collab上获得了前3名的性能。实验结果验证了我们提出的PSG的优越性
2022-11-17 cs.AI cs.LG
Learning to Extrapolate Knowledge: Transductive Few-shot Out-of-Graph Link Prediction
KAIST(韩国科学技术院);AITRICS
许多实际的图问题,如知识图谱构建和药物相互作用预测,需要处理多关系图。然而,使用图神经网络(GNN)处理现实世界的多关系图通常具有挑战性,因为它们的演化性质,随着时间的推移,新的实体(节点)可能会出现。此外,新出现的实体往往没有什么联系,这使得学习更加困难。出于这一挑战,我们引入了一个现实的问题,Few-Shot出图链接预测,在那里我们不仅预测看到的和看不见的节点之间的链接,在传统的知识外链接预测任务,但也看不见的节点之间,每个节点只有很少的边缘。我们用一个新的转导元学习框架来解决这个问题,我们称之为图外推网络(GEN)。GEN元学习用于归纳推理(seen-to-unseen)的节点嵌入网络和用于转导推理(unseen-to-unseen)的链接预测网络。对于直推式链接预测,我们进一步提出了一个随机嵌入层来模拟未知实体之间的链接预测中的不确定性。我们在多个基准数据集上验证了我们的模型,用于知识图谱完成和药物相互作用预测。结果表明,我们的模型显着优于相关基线的图外链接预测任务。
2020-10-29 cs.LG stat.ML
LinkThief: Combining Generalized Structure Knowledge with Node Similarity for Link Stealing Attack against GNN
East China Normal University(华东师范大学);TongJi University(同济大学)
针对现有GNN链路窃取攻击依赖节点后验相似假设、无法覆盖不满足该假设的链路的问题,提出结合广义结构知识与节点相似性的LinkThief攻击方法,通过构建影子-目标桥接图提取结构特征,实验验证其在无额外假设下仍有效。
2024-10-01 cs.AI cs.CR cs.LG
VisAdj: Learning Adjacency Matrices from Node-Link Images
University of Delaware(特拉华大学)
针对从节点-链接图像学习邻接矩阵的问题,提出VisAdj框架,通过注意力稀疏邻居采样器与线图变换器实现拓扑感知的邻接预测,在合成图、道路网络和船舶图像上性能优于现有基线。
2026-08-25 cs.AI cs.CV cs.LG
Node Injection Link Stealing Attack
Eurecom(欧洲通信学院);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院);Universitat Politecnica de Catalunya(加泰罗尼亚理工大学)
本文提出一种隐蔽的节点注入链接窃取攻击,在归纳设置下通过API推断私有边信息,并探讨差分隐私在隐私与效用间的权衡,凸显GNN隐私漏洞及防护必要性。
2023-07-25 cs.CR cs.LG
GRID: Protecting Training Graph from Link Stealing Attacks on GNN Models
University of Delaware(德克萨斯大学);The University of Melbourne(墨尔本大学);Duke University(杜克大学);University of Louisiana at Lafayette(拉法叶大学)
本文提出 GRID 防御方法,通过向覆盖全部链接的核心节点预测向量添加精心设计的噪声,在零效用损失下抵御 GNN 链接窃取攻击,并在五个数据集上取得更优隐私—效用权衡。
2025-05-13 cs.CR cs.LG
Effective backdoor attack on graph neural networks in link prediction tasks
College of Computer Engineering and Science, Shanghai University(上海大学计算机工程与科学学院)
本文提出一种针对GNN链路预测任务的后门攻击方法,以单节点为触发器毒化训练节点对,使模型在触发器出现时将无链接节点对误判为有链接,揭示GNN在该任务中的安全漏洞。
2025-05-06 cs.AI cs.CR cs.LG
Adversarial Permutation Guided Node Representations for Link Prediction
Indian Institute of Technology Bombay(印度孟买理工学院)
在观察社交网络的快照之后,链接预测(LP)算法识别节点对,在所述节点对之间新的边将在未来可能实现。大多数LP算法估计当前非相邻节点对的分数,并根据该分数对它们进行排名。最近的LP系统通过比较节点的密集、低维向量表示来计算该分数。图神经网络(GNN),特别是图卷积网络(GCN),是流行的示例。对于要进行有意义比较的两个节点,它们的嵌入应该与邻居的重新排序无关。GNN通常使用简单的对称集合聚合器来确保此属性,但这种设计决策已被证明产生表达能力有限的表示。序列编码器更有表现力,但在设计上对排列敏感。最近的努力,以克服这一困境是不令人满意的LP任务。作为回应,我们提出了PermGNN,它使用一个经常性的,顺序敏感的聚合器聚合邻居特征,并直接最大限度地减少LP损失,同时它被邻居排列的对抗生成器“攻击”。通过设计,PermGNN{}与早期的对称聚合器相比具有更强的表达能力。接下来,我们设计了一个优化框架,将PermGNN的节点嵌入映射到合适的位置敏感哈希,这加快了LP任务报告顶部$K$最有可能的边缘。我们在不同数据集上的实验表明,\our的性能明显优于几种最先进的链接预测器,并且可以快速预测最可能的边缘。
2021-03-28 cs.LG cs.SI physics.soc-ph
Causal Lifting and Link Prediction
Vector Institute(向量研究所);Purdue University(普渡大学);Intel Labs(英特尔实验室)
针对路径依赖的链接形成问题,提出首个处理该依赖的因果链接预测模型,引入因果提升概念以利用有限干预数据识别因果查询,并证明结构性成对嵌入比现有节点嵌入偏差更低且能正确表示因果结构。
2023-07-27 cs.AI cs.LG stat.ME
Global Vectors for Node Representations
Université de Lyon, Lyon 2(里昂大学里昂第二大学)
大多数网络嵌入算法都是通过随机游走来测量节点的同现,然后使用带负采样的Skip-Gram来学习嵌入。虽然它已被证明是一个相关的选择,但也有替代方案,如GloVe,尚未被研究用于网络嵌入。尽管SGNS比GloVe更好地处理非共现,但它的时间复杂度更差。在本文中,我们提出了一个矩阵分解方法的网络嵌入,GloVe的启发,更好地处理非同现具有竞争力的时间复杂度。我们还展示了如何扩展这个模型来处理网络节点的文件,同时学习单词,节点和文档表示。定量评估表明,我们的模型实现了最先进的性能,同时对超参数的选择不那么敏感。从质量上讲,我们展示了我们的模型如何通过生成互补的面向网络和面向内容的关键字来帮助探索文档网络。
2019-02-28 cs.CL cs.LG cs.SI
Human Action Co-occurrence in Lifestyle Vlogs using Graph Link Prediction
University of Michigan(密歇根大学)
本研究提出人类动作共现自动识别任务,构建含约1.2万对动作共现对的ACE数据集,提出融合多模态信息的图链接预测模型,验证了图结构在动作关系捕捉中的有效性。
2024-06-19 cs.CL cs.CV cs.CY
Using word embeddings to improve the discriminability of co-occurrence text networks
Institute of Mathematics;Computer Science, Department of Computer Science, University of S\ a o Paulo, S\ a o Carlos, SP, Brazil
词汇共现网络已被用于分析文本的实际和理论场景。尽管在一些应用中取得了相对成功,但传统的共现网络无法在文本中出现距离较远的相似单词之间建立联系。在这里,我们调查是否使用词嵌入作为一种工具,以创建虚拟链接的同现网络可以提高分类系统的质量。我们的研究结果表明,在风格测量任务的可辨别性提高时,使用手套,Word2Vec和FastText。此外,我们发现,当停止字不被忽视,并使用一个简单的全局阈值策略来建立虚拟链接时,得到了优化的结果。由于所提出的方法能够改善文本作为复杂网络的表示,我们相信它可以扩展到研究其他自然语言处理任务。同样,理论语言研究可以受益于所采用的丰富的表示词共现网络。
2020-03-13 cs.CL cs.SI
Structure of a media co-occurrence network
KITLV(KITLV(荷兰皇家东南亚与加勒比研究所));University of Amsterdam(阿姆斯特丹大学)
近年来,社交网络引起了人们的极大兴趣。我们在这里专注于一个网络结构,来自传统报纸媒体的人的共同出现。我们发现三个明显的偏差,可以预期在一个随机图。首先,经验网络中的平均度远低于预期,而链接的平均权重远高于预期。其次,高度节点吸引不成比例的权重。第三,相对大部分的权重似乎集中在高度节点之间。我们相信这可以用这样一个事实来解释,即大多数人倾向于与同一个人重复出现。我们创建了一个模型,基于两个自我强化过程定性地复制了这些观察结果:(1)更频繁出现的人更有可能再次出现;(2)如果两个人经常同时出现,他们更有可能再次同时出现。这表明媒体倾向于关注已经出现在新闻中的人,并且他们加强了现有的共同事件。
2016-07-13 cs.CL cs.SI physics.soc-ph
Preliminary Report on the Structure of Croatian Linguistic Co-occurrence Networks
University of Rijeka(里耶卡大学)
在这篇文章中,我们研究了克罗地亚语言共现网络的结构。我们通过系统地改变共现窗口大小、语料库大小和去除停用词来研究网络结构属性的变化。在大小为$n$的共现窗口中,我们在当前单词和$n-1$后续单词之间建立链接。结果表明,随着共生窗口尺寸的增大,共生窗口直径减小,平均路径缩短,平均聚类系数减小。同样可以注意到停止词的删除。最后,由于文本的大小反映在网络属性中,我们的研究结果表明,语料库的影响可以通过增加共现窗口大小来减少。
2014-05-17 cs.CL cs.SI physics.soc-ph
Sentiment and structure in word co-occurrence networks on Twitter
Computational Story Lab(计算故事实验室);Vermont Complex Systems Center(佛蒙特复杂系统中心);MassMutual Center of Excellence for Complex Systems and Data Science(麻省互惠复杂系统与数据科学卓越中心);Vermont Advanced Computing Core(佛蒙特高级计算核心);University of Vermont(佛蒙特大学);Advanced Bioimaging Center(高级生物成像中心);UC Berkeley(加州大学伯克利分校)
我们使用词共现网络探索政治推文中的上下文和幸福分数之间的关系,其中网络中的节点是词,边的权重是语料库中两个连接的词共现的推文的数量。特别是,我们考虑了带有#imwithher和#crookedhillary标签的推文,这两个标签都与希拉里·克林顿2016年的总统竞选有关。然后,我们分析了网络的属性与词的分数通过比较与空模型分离的网络结构和分数分布的影响。中性词占主导地位,大多数词,无论极性,往往与中性词共现。我们没有观察到任何积极和消极的词之间的分数同质性。然而,当我们进行网络主干时,社区发现会产生具有有意义叙述的单词分组,并且每个组中单词的幸福分数对应于其各自的主题。因此,虽然我们没有观察到明确的幸福分数和同现之间的关系,在节点或边缘水平,以社区为中心的方法可以隔离的主题,在语料库中的竞争情绪。
2021-10-01 cs.CL cs.CY cs.SI
Network analysis of named entity co-occurrences in written texts
Institute of Mathematics and Computer Science, University of São Paulo(圣保罗大学数学与计算机科学研究所)
借用统计学和物理学的方法来分析书面文本,通过建立模型特征和语言结构之间的联系,发现了前所未有的人类行为和认知模式。虽然目前的模型已经通过分析句法和语义网络来揭示模式,但只有少数作品探讨了调查相关实体(如字符,位置和组织)之间关系所产生的结构的相关性。在这项研究中,我们代表实体出现在相同的上下文中作为一个共现网络,其中的链接建立根据一个空模型的基础上随机,洗牌文本。在小说中进行的计算模拟表明,该模型显示出有趣的拓扑特征,如小世界功能,其特点是高值的聚类系数。我们的模型的有效性进行了验证,在一个实际的模式识别任务在真实的网络。与传统的词邻接网络相比,我们的模型在识别文本中的未知参考文献时显示出优化的结果。由于所提出的表示通过命名实体的拓扑分析在表征非结构化文档中起着补充作用,我们认为它可能有助于改善书面文本(和相关系统)的表征,特别是如果与基于统计和更深层次范式的传统方法相结合。
2016-06-26 cs.CL physics.data-an physics.soc-ph