Self-Supervised Learning of Contextual Embeddings for Link Prediction in Heterogeneous Networks
Virginia Tech(弗吉尼亚理工大学);Pacific Northwest National Laboratory(太平洋西北国家实验室)
用于异构网络的表示学习方法为每个节点产生低维向量嵌入,该低维向量嵌入对于涉及该节点的所有任务通常是固定的。许多现有的方法集中于以一种对正在使用节点的下游应用不可知的方式获得节点的静态向量表示。然而,实际上,诸如链接预测的下游任务需要特定的上下文信息,该上下文信息可以从与作为任务的输入提供的节点相关的子图中提取。为了应对这一挑战,我们开发了SLiCE,一个框架桥接静态表示学习方法,使用全局信息从整个图与本地化的注意力驱动机制,学习上下文节点表示。我们首先通过引入高阶语义关联和掩码节点,以自监督的方式预训练我们的模型,然后针对特定的链接预测任务微调我们的模型。我们不是通过聚合来自通过元路径连接的所有语义邻居的信息来训练节点表示,而是自动学习不同元路径的组成,这些元路径表征特定任务的上下文,而不需要任何预定义的元路径。在几个公开的基准网络数据集上,SLiCE显著优于静态和上下文嵌入学习方法。我们还解释了语义关联矩阵,并提供其效用和相关性,使成功的链接预测网络中的异构节点之间。
2021-03-21 cs.LG cs.SI stat.ML
Supervised Link Prediction in Co-Authorship Networks Based on Author Node-Based Features
Luddy School of Informatics, Computing and Engineering, Indiana University-Indianapolis(印第安纳大学印第安纳波利斯分校卢迪信息、计算与工程学院);Computers and Systems Department, National Telecommunication Institute(国家电信学院计算机与系统系)
本文提出一种综合监督学习框架,融合研究兴趣相似性、所属机构相似性、研究绩效指标聚合和节点相似性四个度量,在 ArnetMiner 和 DBLP 大型合著网络上实现高效链接预测。
2025-09-22 cs.SI
Supervised and Extended Restart in Random Walks for Ranking and Link Prediction in Networks
给定一个真实世界的图,我们如何衡量排名和链接预测的相关性分数?带重启的随机游走(RWR)为此提供了极好的测量,并且已经应用于各种应用,诸如朋友推荐、社区发现、异常检测等。然而,RWR遭受两个问题:1)对所有节点使用相同的重新开始概率限制了随机游走的表现力,以及2)在没有理论证明的情况下,需要为每个应用手动选择重启概率。我们在本文中有两个主要贡献。首先,我们提出了带扩展重启的随机游走(RWER),这是一种基于随机游走的度量,通过对每个节点使用不同的重启概率来提高随机游走的表达能力。改进的表现力导致了更高的排名和链接预测的准确性。其次,我们提出了SuRe(监督重启RWER),从给定的图学习RWER的重新启动概率的算法。SuRe消除了为RWER手动选择重启参数的需要。大量的实验表明,我们提出的方法提供了最好的性能排名和链接预测任务,提高MAP(平均平均精度)的最佳竞争对手高达15.8%。
2017-10-18 cs.SI physics.soc-ph
Feature Engineering for Supervised Link Prediction on Dynamic Social Networks
链接预测是社交网络、化学/生物信息学等领域中的一个重要网络科学问题。这些网络大多数是动态的,其模式随时间而变化。在这种情况下,有必要以无缝的方式将时间纳入挖掘过程,以帮助提高预测性能。针对动态网络中的链接预测问题,提出了一种两步求解策略。第一步涉及一种新颖而简单的特征构造方法,使用图的域和拓扑属性的组合。在第二阶段,我们进行无约束的边缘选择,以确定潜在的候选人预测任何通用的两类学习。我们在一个真实的协作网络上设计了各种实验,并展示了我们方法的有效性。
2015-09-17 cs.SI physics.soc-ph
Graph-based semi-supervised learning for relational networks
Université catholique de Louvain(鲁汶天主教大学);Université de Namur(那慕尔大学)
我们解决了关系网络中的半监督学习问题,在关系网络中,节点是实体,链接是它们之间的关系或交互。通常,这个问题与基于图的半监督学习(GSSL)问题混淆,因为这两个问题都将数据表示为图并预测节点的缺失类标签。然而,并非所有图表都是平等创建的。在GSSL中,通常根据相似性从独立数据构建图。因此,边倾向于连接具有相同类标签的实例。然而,关系网络可以更加异构,边缘并不总是表示相似性。例如,不是链接更有可能连接具有相同类标签的节点,而是它们可能更频繁地出现在具有不同类标签的节点之间(链接异构性)。或者,具有相同类别标签的节点在整个网络中不一定具有相同类型的连接性(类别异质性),例如,在性互动网络中,我们可以在图的某些部分中观察到异性之间的链接,而在其他部分中观察到相同性别之间的链接。在具有不同类型异质性的网络中执行分类是一个困难的问题,当我们不知道异质性的先验类型或水平时,这个问题就变得更加困难。在这里,我们提出了两个可扩展的方法,基于图的半监督学习的关系网络的更一般的情况下。我们在合成和真实世界的网络上展示了这些方法,这些网络在类内和类间显示不同的链接模式。与最先进的方法相比,我们的方法在没有类如何交互的先验知识的情况下提供了更好的分类性能。特别是,我们的两步标签传播算法始终具有良好的准确性,并在大约12秒内在超过160万个节点和3000万条边的网络上运行。
2016-12-15 cs.LG cs.SI physics.data-an
Link Prediction with Contextualized Self-Supervision
Monash University(莫纳什大学);The University of Sydney(悉尼大学);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
链接预测旨在推断网络/图中节点对之间的链接存在。尽管传统的链接预测算法有着广泛的应用,但在现实网络中,链接稀疏性、节点属性噪声和动态变化等三大挑战阻碍了它们的成功。为了解决这些挑战,我们提出了一个上下文自监督学习(CSSL)框架,充分利用结构上下文预测链接预测。建议的CSSL框架学习一个链接编码器来推断链接存在概率从成对的节点嵌入,这是通过对节点属性的变换构造。为了生成用于链接预测的信息节点嵌入,利用结构上下文预测作为自监督学习任务来提高链接预测性能。研究了两种类型的结构背景,即,从随机游走收集的上下文节点与上下文子图。CSSL框架可以以端到端的方式训练,其中模型参数的学习由链接预测和自监督学习任务两者监督。建议CSSL是一个通用的和灵活的框架,在这个意义上,它可以处理属性和非属性的网络,并在两个转导和感应链接预测设置下运行。在七个真实世界的基准网络上进行的广泛的实验和消融研究表明,所提出的基于自我监督的链接预测算法在不同类型的网络上的性能优于最先进的基线,在传导和感应设置下。建议的CSSL也产生竞争力的性能,其鲁棒性节点属性噪声和可扩展性在大规模网络。
2022-09-07 cs.AI cs.SI
Supervised Random Walks: Predicting and Recommending Links in Social Networks
Facebook(脸书);Stanford University(斯坦福大学)
预测链接的出现是网络中的一个基本问题。在链接预测问题中,我们得到一个网络的快照,并希望推断现有成员之间的哪些交互可能在不久的将来发生,或者我们遗漏了哪些现有交互。虽然这个问题已经得到了广泛的研究,如何有效地结合丰富的节点和边缘属性数据的网络结构的信息的挑战仍然很大程度上开放。我们开发了一种基于监督随机游走的算法,该算法自然地将网络结构的信息与节点和边缘级别的属性相结合。我们通过使用这些属性来引导图上的随机行走来实现这一点。我们制定了一个监督学习任务,其目标是学习一个函数,该函数为网络中的边分配强度,使得随机步行者更有可能访问将来将创建新链接的节点。我们开发了一种有效的训练算法,直接学习边缘强度估计函数。我们在Facebook社交图和大型协作网络上的实验表明,我们的方法优于最先进的无监督方法以及基于特征提取的方法。
2010-11-17 cs.AI cs.DS cs.SI
MAUIL: Multi-level Attribute Embedding for Semi-supervised User Identity Linkage
跨社交网络的用户身份链接(UIL)因其重要的研究挑战和实用价值而受到越来越多的关注。现有的方法大多使用单一的方法来表示不同类型的属性特征。然而,单纯形模式既不能覆盖整个属性特征集,也不能捕捉属性文本中更高层次的语义特征。为了在社交网络中寻找共同的用户身份,建立了一种新的半监督模型--多层属性嵌入半监督用户身份链接模型(MAUIL). MAUIL包括两个部分:多级属性嵌入和基于正则化典型相关分析(RCCA)的线性投影。具体来说,每个网络的文本属性首先分为三种类型:字符级,单词级和主题级属性。其次,采用无监督的方法提取相应的三种类型的文本属性特征,并嵌入用户关系作为补充特征。所有得到的特征被组合以形成每个用户的最终表示。最后,目标社交网络投影到一个共同的相关空间的帮助下,少量的预匹配的用户对的RCCA。我们通过对两个真实数据集的大量实验,证明了所提出的方法优于最先进的方法。
2022-02-16 cs.SI
WOCD: A Semi-Supervised Method for Overlapping Community Detection Using Weak Cliques
针对现有基于GNN的重叠社区检测方法存在的信息整合难、感受野有限等问题,提出融合先验信息、基于弱团初始化伪标签的半监督方法WOCD,结合单层Graph Transformer与GNN,在8个真实数据集上精度显著优于现有最优半监督方法。
2025-07-30 cs.SI
Leveraging Network Dynamics for Improved Link Prediction
University of Central Florida(中佛罗里达大学);Sandia National Labs(桑迪亚国家实验室)
链接预测的目的是基于先前观察到的链接的示例来预测未来最有可能发生的连接。一个关键的见解是,在进行链接预测时,显式地对网络动态(链接创建或破坏的频率)进行建模是有用的。在本文中,我们介绍了一个新的监督链接预测框架,RPM(率预测模型)。除了网络相似性度量,RPM还使用预测的链接修改率,使用时间序列数据建模;它在Spark-ML中实现,并使用原始链接分布进行训练,而不是一个小的平衡子集。我们比较使用这个网络动力学模型直接创建时间序列的网络相似性措施。我们的实验表明,RPM,利用预测率,优于使用网络相似性措施,无论是单独或在一个时间序列。
2016-04-08 cs.LG cs.SI
DeepLink: A Novel Link Prediction Framework based on Deep Learning
University of Tehran(德黑兰大学);University of Sistan and Baluchestan(锡斯坦-俾路支大学)
近年来,链接预测引起了计算机科学、生物信息学和经济学等多个学科的广泛关注。在这个问题中,未知的节点之间的链接被发现的基础上,大量的信息,如网络拓扑结构,配置文件信息和用户生成的内容。以往的研究大多集中在网络的结构特征上。而最近的研究表明,上下文信息可以改变网络拓扑结构。虽然目前已经有一些结合结构和内容信息的有价值的研究,但是它们面临着特征工程带来的可扩展性问题。因为,大多数提取的特征是通过监督或半监督算法获得的。此外,现有的功能还不够通用,不能在具有异构结构的不同网络上显示出良好的性能。此外,以往的研究大多是针对无向和无权网络的。提出了一种基于深度学习技术的链接预测框架DeepLink。与以往无法自动提取最佳特征用于链接预测的研究相比,深度学习减少了人工特征工程。在这个框架中,节点的结构和内容信息都被采用。该框架可以使用不同的结构特征向量,这些结构特征向量由各种链接预测方法准备。它考虑了在结构特征学习过程中网络中出现的所有邻近顺序。我们在两个真实的社交网络数据集上评估了DeepLink的性能,包括Telegram和irBlogs。在这两个数据集上,该框架优于链接预测问题的几种结构和混合方法。
2018-07-27 cs.LG cs.SI stat.ML
Linking OpenStreetMap with Knowledge Graphs -- Link Discovery for Schema-Agnostic Volunteered Geographic Information
Leibniz Universität Hannover(莱布尼茨汉诺威大学);University of Bonn(波恩大学)
在流行的知识图谱(如Wikidata和DBpedia)中捕获的地理实体的表示通常是不完整的。OpenStreetMap(OSM)是一个丰富的公开可用的、自愿提供的地理信息源,具有很大的潜力来补充这些表示。然而,知识图谱实体和OSM节点之间的身份链接仍然很少。在这些设置中的链接发现的问题是特别具有挑战性的,由于缺乏一个严格的模式和异构性的用户定义的节点表示在OSM。在这篇文章中,我们提出了OSM 2KG-一种新的链接发现方法来预测身份OSM节点和地理实体之间的链接在知识图谱。OSM 2KG方法的核心是OSM节点的一种新的潜在的紧凑表示,它在嵌入中捕获语义节点相似性。OSM 2KG采用这种潜在表示来训练用于链接预测的监督模型,并利用OSM和知识图谱之间的现有链接进行训练。我们在几个OSM数据集,以及Wikidata和DBpedia知识图谱上进行的实验表明,OSM 2KG可以可靠地发现身份链接。OSM 2KG在Wikidata上的F1得分为92.05%,在DBpedia上的平均得分为94.17%,与表现最好的基线相比,维基数据上的F1得分增加了21.82个百分点。
2020-11-19 cs.LG cs.SI
Semi-supervised Network Embedding with Differentiable Deep Quantisation
Monash University(莫纳什大学);University of Electronic Science and Technology of China(电子科技大学)
学习网络的准确低维嵌入是一项至关重要的任务,因为它有助于许多下游网络分析任务。对于大型网络,经过训练的嵌入通常需要大量的空间来存储,这使得存储和处理成为一个挑战。基于我们以前在半监督网络嵌入方面的工作,我们开发了d-SNEQ,这是一种用于网络嵌入的基于DNN的可微量化方法。d-SNEQ结合了秩损失以使学习的量化码具有丰富的高阶信息,并且能够大幅压缩训练嵌入的大小,从而减少存储占用并加快检索速度。我们还提出了一个新的评价指标,路径预测,公平和更直接地评估模型的性能上的高阶信息的保存。我们对四个具有不同特征的真实网络的评估表明,d-SNEQ在链接预测、路径预测、节点分类和节点推荐方面优于许多最先进的嵌入方法,同时具有更高的空间和时间效率。
2022-03-19 cs.LG cs.SI
Link prediction for partially observed networks
George Mason University(乔治梅森大学);University of Michigan(密歇根大学)
链路预测是网络分析的基本问题之一。在许多应用中,特别是在遗传学中,部分观察到的网络可能不包含任何缺失边缘的负面示例,这给许多现有的监督学习方法带来了困难。我们提出了一种新的方法,将观察到的网络作为真实网络的一个样本,对正例和反例采用不同的采样率。我们得到一个相对的潜在链接的概率排名,利用节点协变量以及网络拓扑结构上的信息。经验上,该方法在许多设置下都表现良好,包括当观察到的网络稀疏时。我们将该方法应用于蛋白质-蛋白质相互作用网络和学校友谊网络。
2013-01-29 cs.LG cs.SI stat.ML
HyperQuery: Beyond Binary Link Prediction
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
该研究针对超图与知识超图的链接预测问题,提出含节点级聚类特征提取的自监督优化架构,在多个基准上性能优于现有最优方法。
2025-01-13 cs.LG cs.SI
Friendship Maintenance and Prediction in Multiple Social Networks
由于在线社交网络(OSN)的激增,用户发现他们自己参与多个OSN。这些用户留下他们的活动痕迹,因为他们保持友谊,并与这些OSN中的其他用户交互。在这项工作中,我们通过研究在Twitter和Instagram上都有账户的用户来分析用户如何在多个OSN中保持友谊。具体来说,我们研究了用户的友谊的相似性和友谊分布在多个OSN的均匀性。我们的研究表明,Twitter和Instagram中的大多数用户更喜欢在两个OSN中保持不同的友谊,在OSN中只保持一小部分共同的朋友。基于我们的实证研究,我们进行链接预测实验,预测丢失的友谊链接在多个OSN使用的邻居功能,邻居友谊维护功能和交叉链接功能。我们的链接预测实验表明,非监督方法可以在一个OSN中使用另一个OSN数据预测链接时产生良好的准确性,并且使用友谊维护和其他度量作为特征的监督方法可以进一步提高链接预测的准确性。
2017-03-02 cs.SI physics.soc-ph
Enhancing Cross-domain Link Prediction via Evolution Process Modeling
Zhejiang University(浙江大学);Finvolution
本文提出动态图模型DyExpert,通过显式建模历史演化过程并结合条件链接生成,在跨域链接预测中显著超越现有基线,平均精度提升11.40%,并在多数未训练图上超过全监督方法。
2025-02-05 cs.AI cs.LG cs.SI
Harnessing the Power of Ego Network Layers for Link Prediction in Online Social Networks
IIT-CNR(意大利国家研究委员会信息科学与技术研究所)
能够在在线社交网络中推荐用户之间的链接对于用户与志同道合的个人建立联系以及平台本身和利用社交媒体信息发展业务的第三方都很重要。预测通常基于无监督或监督学习,通常利用简单而有效的图拓扑信息,例如公共邻居的数量。然而,我们认为,更丰富的个人社会结构的个人信息可能会导致更好的预测。在本文中,我们提出利用成熟的社会认知理论,以提高链接预测的性能。根据这些理论,人们平均沿着五个亲密度递减的同心圆来安排他们的社会关系。我们假设不同圈子中的关系在预测新联系方面具有不同的重要性。为了验证这一说法,我们专注于流行的特征提取预测算法(无监督和监督),并将其扩展到包括社交圈意识。我们验证了这些圆感知算法的预测性能对几个基准(包括其基线版本以及基于节点嵌入和GNN的链接预测),利用两个Twitter数据集组成的社区的视频游戏玩家和一般用户。我们表明,社会意识通常提供了显着的改善预测性能,击败了最先进的解决方案,如node2vec和SEAL,而不会增加计算复杂性。最后,我们表明,社会意识可以用来代替使用分类器(这可能是昂贵的或不切实际的)针对特定类别的用户。
2022-06-28 cs.AI cs.LG cs.SI
Self-Supervised Graph Representation Learning via Topology Transformations
Wangxuan Institute of Computer Technology, Peking University(北京大学王选计算机研究所);Futurewei Seattle Cloud Lab(Futurewei西雅图云实验室)
我们提出了拓扑变换等变表示学习,自监督学习的一般范式的节点表示的图形数据,使图卷积神经网络(GCNN)的广泛适用性。我们正式提出的模型从信息理论的角度来看,通过最大限度地提高互信息之间的拓扑变换和节点表示之前和之后的转换。我们得出,最大化这样的互信息可以放宽到最小化的交叉熵之间的应用拓扑变换和它的估计从节点表示。特别地,我们试图从原始图中采样节点对的子集,并翻转每个对之间的边连接以转换图拓扑。然后,我们自训练一个表示编码器,通过从原始图和变换图的特征表示重建拓扑变换来学习节点表示。在实验中,我们将所提出的模型应用于下游节点分类、图分类和链接预测任务,结果表明,所提出的方法优于现有的无监督方法。
2021-12-02 cs.LG cs.SI eess.SP
LPNL: Scalable Link Prediction with Large Language Models
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
本文提出基于大语言模型的框架LPNL,通过两阶段采样和分而治之策略实现大规模异构图上的可扩展链接预测,并在实验中优于多个先进基线。
2024-02-20 cs.AI cs.CL cs.LG
DeepFork: Supervised Prediction of Information Diffusion in GitHub
University of Central Florida(中佛罗里达大学)
信息在复杂的社交网络上传播速度极快,换句话说,一条信息可以在短时间内迅速传播。通常情况下,在出现重大混乱之前,很难阻止这种扩散,无论是社交媒体还是在线编码平台。GitHub是一个这样的趋势在线焦点,任何企业都可以同时接触到他们的潜在贡献者和客户。通过利用这样的软件开发范式,数以百万计的自由软件最近出现在不同的社区。为了了解GitHub中各类用户之间的人类影响、信息传播和信息传播的演变,我们开发了一个深度神经网络模型:DeepFork,这是一种基于监督机器学习的方法,旨在预测复杂社交网络中的信息扩散;考虑节点和拓扑特征。在我们的实证研究中,我们观察到信息扩散可以通过使用监督学习的链接预测来检测。DeepFork优于其他机器学习模型,因为它可以更好地从输入特征中学习判别模式。DeepFork通过用户和存储库的双向网络帮助理解信息传播和演变,即,信息流从用户到存储库再到用户。
2019-10-17 cs.AI cs.LG cs.MA
Jointly Predicting Links and Inferring Attributes using a Social-Attribute Network (SAN)
社会影响和同质性的影响表明,网络结构和节点属性信息都应该通知链接预测和节点属性推理的任务。最近,Yin等人提出了一种属性增强的社会网络,即社会属性网络(SAN),它将网络结构和节点属性相结合,以执行链接预测和属性推理。他们专注于将带重启的随机游走算法推广到SAN框架,并展示了改进的性能。在本文中,我们扩展了SAN框架与几个领先的监督和无监督的链接预测算法,并证明了性能的改善,每个算法的链接预测和属性推理。此外,我们提出了新的观察,即属性推断可以帮助通知链接预测,即,通过首先推断丢失的属性,进一步提高了链接预测的准确性。我们全面评估这些算法,并使用一个新的,大规模的Google+数据集,我们公开提供与其他现有的算法进行比较。
2012-06-22 cs.SI physics.soc-ph
Link Prediction on Textual Edge Graphs
针对文本边图链接预测中语义与拓扑捕捉不足的问题,提出Link2Doc框架,将节点对邻域信息总结为文档以保留语义与拓扑,并利用自监督学习增强GNN的文本理解能力,在四个真实数据集上表现优于现有方法。
2024-11-17 cs.SI
Inductive Subgraph Embedding for Link Prediction
针对链路表示学习中特征捕获不足和全图训练可扩展性差的问题,本文提出自监督框架SCLRL,通过以链路为中心的诱导子图和子图级对比学习实现高效链路嵌入,在多个数据集上取得显著性能和效率优势。
2023-09-20 cs.SI
How to Bridge Spatial and Temporal Heterogeneity in Link Prediction? A Contrastive Method
School of Cyberspace Science, \ Institute of Technology No.92 Xidazhi Street Harbin China 150001;Technology, \ Institute of Technology at Shenzhen Shenzhen China 518067;Department of New Networks, \ Cheng Laboratory Shenzhen China 518055;School of Cyberspace Science, \ Institute of Technology;Technology, \ Institute of Technology at Shenzhen;Department of New Networks, \ Cheng Laboratory
本文提出CLP模型,通过多视图层次自监督架构捕捉空间和时间异质性,提升链接预测性能。
2025-12-11 cs.AI cs.SI
Predicting interactions between individuals with structural and dynamical information
捕获交互的结构和时间方面对于许多真实世界的数据集(如个人之间的联系)至关重要。使用链接流的形式主义,以捕捉系统的动态,我们解决了链接流中的活动预测的问题,也就是说,预测在给定的时间段内发生的链接的数量,我们提出了一个协议,利用包含在链接流的时间和结构信息。使用监督学习方法,我们能够对系统的动态进行建模以提高预测。我们研究了我们的算法的行为和影响预测的关键因素。通过引入不同类别的节点对,我们能够提高质量,并增加我们的预测的多样性。
2018-04-12 cs.SI physics.soc-ph