Collaborative Bi-Aggregation for Directed Graph Embedding
有向图是节点间非对称关系的模型,有向图嵌入的研究对下游的图分析和推理具有重要意义。分别学习源节点和目标节点的嵌入以保持边缘不对称性已成为主流方法,但也对稀疏图中普遍存在的低甚至零输入/输出度节点的学习表示提出了挑战。本文通过引入基于空间的图卷积,提出了一种协同双向聚合有向图嵌入方法(COBA)。首先,通过聚合源邻居和目标邻居的对应节点来学习中心节点的源嵌入和目标嵌入;其次,通过聚合方向相反的邻居的对应节点来增强零入/出度中心节点的源/目标嵌入(即目标/源邻居);最后,将同一节点的源嵌入和目标嵌入相关联以实现协作聚合。在真实数据集上的大量实验表明,COBA在多个任务上的性能全面优于最先进的方法,同时验证了所提出的聚合策略的有效性。
2022-11-04 cs.SI
From Node Embedding To Community Embedding
Advanced Digital Sciences Center(高级数字科学中心);Nanyang Technological University(南洋理工大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
现有的图嵌入方法大多集中在节点上,其目的是输出图中每个节点的向量表示,使得图上“接近”的两个节点在低维空间中也接近。尽管成功地嵌入了用于图分析的单个节点,但我们注意到嵌入社区的一个重要概念(即,节点组)缺失。嵌入社区非常有用,不仅可以支持各种社区级应用程序,还可以帮助在图嵌入中保留社区结构。事实上,我们认为社区嵌入提供了一个高阶近似来定义节点的接近度,而大多数流行的图嵌入方法都专注于一阶和/或二阶近似。为了学习社区嵌入,我们依赖于社区嵌入和节点嵌入相互加强的洞察力。因此,我们提出了ComEmbed,第一个社区嵌入方法,它联合优化社区嵌入和节点嵌入在一起。我们在真实世界的数据集上评估ComEmbed。我们表明,它在节点分类和社区预测这两个任务中的表现都优于最先进的基线。
2017-09-14 cs.AI cs.SI
Node Proximity Is All You Need: Unified Structural and Positional Node and Graph Embedding
University of Michigan(密歇根大学);Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
虽然大多数网络嵌入技术对网络中节点的相对位置进行建模,但最近人们对结构嵌入产生了极大的兴趣,该结构嵌入对节点角色等效进行建模,而不管它们到任何特定节点的距离。我们提出了PhUSION,一个基于邻近度的统一框架,用于计算结构和位置节点嵌入,它利用了成熟的方法来计算节点邻近度分数。澄清文献中的一个争论点,我们展示了PhUSION的哪一步产生了不同种类的嵌入,以及哪些步骤可以被两者使用。此外,通过聚合PhUSION节点嵌入,我们获得了图级特征,这些特征对以前的图特征学习和核方法所丢失的信息进行了建模。在一项包含10多个数据集、4个任务和35种方法的综合实证研究中,我们系统地揭示了具有嵌入的节点和图级机器学习的成功设计选择。
2021-02-26 cs.LG cs.SI
Effective and Efficient Attributed Hypergraph Embedding on Nodes and Hyperedges
The Hong Kong Polytechnic University(香港理工大学)
提出 SAHE 方法,通过引入高阶相似性度量 HMS-N 和 HMS-E 并设计高效优化算法,统一实现属性超图节点与超边嵌入,在嵌入质量和计算效率上显著优于现有方法。
2026-11-11 cs.SI
Capturing Edge Attributes via Network Embedding
旨在学习节点的低维表示的网络嵌入已被用于各种图形相关任务,包括可视化、链接预测和节点分类。大多数现有的嵌入方法仅依赖于网络结构。然而,在实践中,我们经常有关于节点和/或它们的交互的辅助信息,例如,合作作者网络中的科学论文内容,或Twitter提及网络中的通信主题。在这里,我们提出了一种新的嵌入方法,使用网络结构和边缘属性来学习更好的网络表示。我们的方法使用一个可以充分捕获高度非线性交互的深度架构,联合最大限度地减少了高阶节点邻域,社会角色和边缘属性的重建误差。我们证明了我们的模型在各种现实世界的网络,包括协作网络和社交网络现有的最先进的方法的功效。我们还观察到,使用边缘属性通知网络嵌入在下游任务,如链接预测和节点分类产生更好的性能。
2018-05-22 cs.SI
SPINE: Structural Identity Preserved Inductive Network Embedding
网络嵌入领域的最新进展表明,低维网络表示在网络分析中起着至关重要的作用。大多数现有的网络嵌入方法对节点的局部邻近度进行编码,例如一阶和二阶邻近度。虽然这些方法是有效的,但缺乏利用彼此远离的节点之间的全局结构信息。此外,大多数现有的方法学习嵌入在一个单一的固定网络,因此不能推广到看不见的节点或网络没有重新训练。在本文中,我们提出了SPINE,一种方法,可以联合捕获本地邻近和邻近在任何距离,同时归纳有效地处理看不见的节点或网络。在基准数据集上的大量实验结果表明,该框架优于现有技术。
2019-06-10 cs.SI
A Process for the Evaluation of Node Embedding Methods in the Context of Node Classification
Institute of Information Systems(信息系统研究所);Leuphana University of Lüneburg(吕讷堡大学)
节点嵌入方法发现潜在的低维表示,这些表示用作机器学习模型中的特征。在过去的几年里,这些方法已经成为非常流行的人工特征工程的替代品。由于作者使用各种方法来评估节点嵌入方法,现有的研究很少能有效和准确地进行比较。我们解决这个问题,通过开发一个公平和客观的评价节点嵌入程序w.r.t.节点分类这个过程支持研究人员和从业人员以可重复的方式比较新的和现有的方法。我们将这个过程应用于四种流行的节点嵌入方法,并进行了有价值的观察。通过适当的超参数组合,即使使用较低维度的嵌入也可以实现良好的性能,这对于下游机器学习任务和嵌入算法的运行时间是积极的。多个超参数组合产生类似的性能。因此,在大多数情况下,不需要大量耗时的搜索来实现合理的性能。
2020-05-29 cs.LG cs.SI
Improving link prediction accuracy of network embedding algorithms via rich node attribute information
针对现有基于网络嵌入的链接预测算法未充分利用节点属性信息的问题,提出属性图增强嵌入算法AGEE,通过构建属性网络接入典型算法并自动学习结构与属性网络的权重权衡,可将链接预测准确率较现有基准提升约3%。
2024-03-07 cs.SI
Using Network Embeddings for Improving Network Alignment
网络(或图)对齐算法旨在揭示图之间的结构相似性。特别地,局部网络对齐算法(LNA)在两个或更多个网络之间找到相似性的局部区域。这样的算法通常基于用于生长比对的种子节点的集合。几乎所有的LNA算法都使用基于上下文信息的一组顶点作为种子节点(例如,生物网络对齐中的一组生物相关),这可能会导致偏差或数据循环问题。最近,我们证明了在种子节点的选择中使用拓扑信息可以提高比对的质量。我们使用了一些常见的方法,全局对齐算法的基础上捕捉节点之间的拓扑相似性。同时,已经证明,使用网络嵌入方法(或表示学习)可以比其他方法更好地捕获节点之间的结构相似性。因此,我们建议使用网络嵌入来学习节点之间的结构相似性,并使用这种相似性来改进LNA扩展我们以前的算法。我们为LNA定义了一个框架。
2020-08-11 cs.SI
Network Sampling Using K-hop Random Walks for Heterogeneous Network Embedding
网络采样是无监督网络嵌入的重要前提。此外,随机游走已被广泛用于以前的研究中的采样。由于基于随机游走的采样往往会遍历相邻的邻居,它可能不适合异构网络,因为在异构网络中,两个相邻的节点往往属于不同的类型。因此,本文提出了一种基于K跳随机游走的采样方法,该方法仅当节点与源节点相隔K跳时才将其包含在样本列表中。我们利用K-hop随机游走器生成的样本,使用skip-gram模型(word 2 vec)进行网络嵌入。之后,在异构DBLP网络中的合著预测任务上评估了网络嵌入的性能。我们比较了网络嵌入利用提出的采样方法与最近提出的最佳性能的网络嵌入模型,即Metapath 2 vec和Node 2 vec的功效。很明显,所提出的采样方法在大多数情况下产生更好的嵌入质量和优于基线。
2018-08-14 cs.SI
Node Centralities and Classification Performance for Characterizing Node Embedding Algorithms
University of Tsukuba(筑波大学);National Institute of Advanced Industrial Science and Technology (AIST)(产业技术综合研究所)
将图节点嵌入到向量空间中可以允许使用机器学习来例如预测节点类,但是由于图的多样性,与自然语言处理领域相比,节点嵌入算法的研究是不成熟的。我们检查节点嵌入算法的性能相对于图形中心的措施,表征不同的图形,通过系统的实验与四个节点嵌入算法,四个或五个图形中心,和六个数据集。实验结果揭示了节点嵌入算法的性质,为进一步研究该问题奠定了基础。
2018-02-18 cs.LG cs.SI stat.ML
Network Representation Learning: From Preprocessing, Feature Extraction to Node Embedding
Soochow University(苏州大学);Georgia Institute of Technology(佐治亚理工学院);State Key Laboratory of Mathematical Engineering and Advanced Computing(数学工程与先进计算国家重点实验室)
网络表示学习(NRL)推进了传统的社交网络、知识图谱和复杂生物医学和物理信息网络的图挖掘。在文献中已经报道了几十种网络表示学习算法。它们中的大多数专注于学习同构网络的节点嵌入,但它们在特定的编码方案和特定类型的节点语义捕获和用于学习节点嵌入方面有所不同。本文综述了同构网络上网络表示学习的设计原则和不同的节点嵌入技术。为了便于比较不同的节点嵌入算法,我们引入了一个统一的参考框架,将给定网络上的节点嵌入学习过程划分和概括为预处理步骤,节点特征提取步骤和节点嵌入模型训练,用于NRL任务,如链接预测和节点聚类。通过这个统一的参考框架,我们重点介绍了节点嵌入模型学习过程不同阶段使用的代表性方法、模型和技术。该调查不仅有助于研究人员和实践者深入了解不同的网络表示学习技术,而且还为设计和开发下一代网络表示学习算法和系统提供了实用的指导方针。
2021-10-14 cs.LG cs.SI
Unsupervised Framework for Evaluating and Explaining Structural Node Embeddings of Graphs
Toronto Metropolitan University(多伦多都会大学);SGH Warsaw School of Economics(华沙经济学院);Patagona Technologies(帕塔戈纳科技公司);Simons Institute for the Theory of Computing(西蒙斯计算理论研究所)
本文提出一种无监督框架,用于对图的结构化节点嵌入进行排序和解释,通过评估嵌入对预定义节点特征的学习效果及维度对应关系,提升黑盒算法的可解释性。
2023-06-19 cs.LG cs.SI
Transformation of Node to Knowledge Graph Embeddings for Faster Link Prediction in Social Networks
University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校);Siemens Corporate Technology(西门子企业技术)
神经网络的最新进展已经解决了常见的图形问题,如链接预测,节点分类,节点聚类,节点推荐,通过开发实体和关系到向量空间的嵌入。图嵌入对图中存在的结构信息进行编码。然后,编码的嵌入可以用于预测图中丢失的链接。然而,获得最佳的嵌入图可以是一个具有挑战性的计算任务,特别是在嵌入式系统。我们在这项工作中关注的两个技术是1)基于随机游走的方法的节点嵌入和2)知识图谱嵌入。基于随机游走的嵌入在计算上是廉价的,但是是次优的,而知识图谱嵌入表现更好,但是在计算上是昂贵的。在这项工作中,我们研究了一个转换模型,该模型将从基于随机游走的方法获得的节点嵌入直接从知识图谱方法获得的嵌入,而不会增加计算成本。大量的实验表明,所提出的转换模型可以用于实时解决链接预测。
2021-11-17 cs.LG cs.SI
Space-Invariant Projection in Streaming Network Embedding
Beihang University(北京航空航天大学);Shen Yuan Honors College, Beihang University(北京航空航天大学沈元荣誉学院);Key Laboratory of Complex System Analysis, Management and Decision (Beihang University), Ministry of Education(教育部复杂系统分析与管理决策重点实验室(北京航空航天大学));Beijing Key Laboratory of Emergence Support Simulation Technologies for City Operations(北京城市运行涌现支持模拟技术重点实验室)
动态网络中新加入的节点会使节点嵌入空间逐渐漂移,节点嵌入和下游模型的重新训练必不可少。然而,在理论或实验中很少考虑这些新节点的精确阈值大小,低于该阈值,节点嵌入空间将被预测性地保持。从矩阵扰动理论的角度出发,给出了使节点嵌入空间近似相等的最大新节点数的阈值,并进行了实验验证.因此,理论上可以保证,当新到达节点的大小低于该阈值时,这些新节点的嵌入可以从原始节点的嵌入中快速导出。提出了一个空间不变投影(SIP)生成框架,使任意静态MF嵌入方案能够快速嵌入动态网络中的新节点。SIP协议的时间复杂度与网络规模成线性关系。通过将SIP与四种最先进的基于MF的方案相结合,我们表明SIP不仅具有广泛的适应性,而且在三个真实数据集上的节点分类任务的效率和功效方面具有很强的经验性能。
2023-03-11 cs.LG cs.SI
Community Structure aware Embedding of Nodes in a Network
检测社区或现实生活网络(例如社交网络或产品购买网络)的模块化结构是一项重要任务,因为网络的功能通常由其社区决定。社区发现的传统方法涉及基于模块的算法,一般来说,基于寻求最大化分区内的边缘与它们之间的边缘的比率的算法来构造分区。另一方面,节点嵌入方法将图中的每个节点表示为实值向量,从而能够将图中的社区发现问题转化为对一组向量进行聚类的问题。现有的节点嵌入方法主要基于,首先,从每个节点发起随机游走以构造节点的上下文,然后使节点的向量表示接近其上下文。然而,标准的节点嵌入方法在构建每个节点周围的上下文时并不直接考虑网络的社区结构。为了缓解这种情况,我们探索了两个不同的工作线程。首先,我们研究了使用基于最大熵的随机游走来获得更多的中心保持嵌入的节点,这可能会导致更有效的集群在嵌入空间。其次,我们提出了一个社区结构感知的节点嵌入方法,我们将基于模块化的分区算法到节点嵌入的目标函数。我们证明,我们提出的组合和嵌入方法的组合,用于社区发现优于一些基于模块的基线和K-均值聚类的标准节点嵌入(node 2 vec)向量空间上广泛的现实生活和合成网络的不同大小和密度。
2020-06-27 cs.SI physics.soc-ph
A Systematic Evaluation of Node Embedding Robustness
Ghent University(根特大学);Technical University of Munich(慕尼黑工业大学)
节点嵌入方法将网络节点映射到低维向量,这些向量随后可用于各种下游预测任务。近年来,这些方法的流行程度显著增长,然而,它们对输入数据扰动的鲁棒性仍然知之甚少。在本文中,我们评估了节点嵌入模型对随机和对抗性中毒攻击的经验鲁棒性。我们的系统评估涵盖了基于Skip-Gram、矩阵分解和深度神经网络的代表性嵌入方法。我们比较边添加,删除和重新布线攻击计算使用网络属性以及节点标签。我们还研究了流行的节点分类攻击基线的性能,假设节点标签的全部知识。我们通过嵌入可视化和下游节点分类和网络重建性能方面的定量结果报告定性结果。我们发现,节点分类结果的影响比网络重建的,基于度和基于标签的攻击平均是最具破坏性的,标签异质性可以强烈影响攻击性能。
2022-11-30 cs.LG cs.SI
Enhanced Network Embeddings via Exploiting Edge Labels
网络嵌入方法旨在学习网络中节点的低维潜在表示。这些方法虽然在节点分类和链接预测等各种网络推理任务上取得了有竞争力的性能,但它们将节点之间的关系视为二进制变量,忽略了边缘的丰富语义。在这项工作中,我们试图学习网络嵌入,同时保持网络结构和节点之间的关系。几个现实世界的网络上的实验表明,通过考虑不同的节点对之间的不同关系,我们的方法是能够产生更高质量的节点嵌入比一些国家的最先进的网络嵌入方法,评估一个具有挑战性的多标签节点分类任务。
2018-09-13 cs.SI physics.soc-ph
Compositional Network Embedding
Peking University(北京大学);Alibaba Group(阿里巴巴集团)
网络嵌入已被证明在各种网络分析任务中非常有用,例如节点分类、链接预测和网络可视化。几乎所有现有的网络嵌入方法都学习将节点ID映射到其对应的节点嵌入。然而,这种设计原则阻碍了现有方法在实际情况中的应用。节点ID是不可推广的,因此,现有的方法必须付出很大的努力,在冷启动问题。异构网络中节点类型的编码通常需要额外的工作,因为节点类型不能通过节点ID来识别。节点ID携带的信息很少,导致现有方法对噪声鲁棒性差的批评。为了解决这个问题,我们引入了组合网络嵌入,这是一个通用的归纳网络表示学习框架,它通过基于组合原理组合节点特征来生成节点嵌入。我们不是直接基于任意节点ID优化嵌入查找,而是学习一个组合函数,该函数通过基于图的损失组合相应的节点属性嵌入来推断节点嵌入。为了评估,我们在四种不同的设置下进行链接预测的实验。实验结果验证了组合网络嵌入的有效性和泛化能力,尤其是在不可见节点上。
2019-08-13 cs.LG cs.SI stat.ML
Adversarial Deep Network Embedding for Cross-network Node Classification
The Hong Kong Polytechnic University(香港理工大学);University of Electronic Science and Technology of China(电子科技大学)
本文研究了跨网络节点分类问题,即利用源网络中丰富的标记节点来帮助目标网络中未标记节点进行分类。现有的领域自适应算法普遍未能对网络结构信息进行建模,现有的网络嵌入模型主要针对单网络应用。因此,它们都不能直接应用于解决跨网络节点分类问题。这促使我们提出一种对抗性跨网络深度网络嵌入(ACDNE)模型,将对抗性领域自适应与深度网络嵌入相结合,以学习网络不变的节点表示,同时也可以很好地保留网络结构信息。在ACDNE中,深度网络嵌入模块利用两个特征提取器来联合保持节点之间的属性亲和性和拓扑邻近性。此外,一个节点分类器被纳入节点表示标签歧视。此外,对抗领域自适应技术,使节点表示网络不变。大量的实验结果表明,所提出的ACDNE模型在跨网络节点分类方面达到了最先进的性能。
2020-02-18 cs.LG cs.SI
NEMR: Network Embedding on Metric of Relation
网络嵌入将给定网络的节点映射到低维空间中,从而可以有效地推断节点之间的语义相似性。现有的方法大多使用节点嵌入的内积来度量节点之间的相似性,导致它们缺乏捕捉节点之间复杂关系的能力。此外,它们在推理节点嵌入时将网络中的路径作为结构化辅助信息,而网络中的路径包含着丰富的用户信息,这些信息具有语义相关性,不可忽视。本文提出了一种基于关系度量的网络嵌入方法(NEMR),它可以有效地学习关系度量空间中节点的嵌入。首先,我们的NEMR使用深度学习方法对度量空间中节点之间的关系进行建模,包括将节点关系映射到高斯分布的变分推理,以捕获不确定性。其次,我们的NEMR不仅考虑了多路径的等价性,而且在推断节点嵌入时考虑了单路径的自然顺序,这使得NEMR可以捕获节点之间的多种关系,因为多路径包含丰富的用户信息,例如,年龄、爱好和职业。在多个公共数据集上的实验结果表明,NEMR算法在链接预测和节点分类等相关推理任务上的性能优于现有方法.
2021-01-20 cs.AI cs.SI
struc2gauss: Structural Role Preserving Network Embedding via Gaussian Embedding
Eindhoven University of Technology(埃因霍温理工大学);National Digital Switching System Engineering Technology R&D Center(国家数字交换系统工程技术研究中心)
网络嵌入(NE)由于能够将节点映射为有效的低维嵌入向量,在网络挖掘中发挥着重要作用。然而,两个主要的限制存在于国家的最先进的NE方法:角色保存和不确定性建模。几乎所有先前的方法都将节点表示为空间中的点并且关注局部结构信息,即,邻里信息然而,邻域信息不能捕获全局结构信息,点矢量表示无法对节点表示的不确定性进行建模。在本文中,我们提出了一个新的NE框架,struct2gauss,学习节点表示在高斯分布的空间,并执行网络嵌入的基础上的全球结构信息。struc2gauss首先使用给定的节点相似性度量来度量全局结构信息,然后为节点生成结构上下文,最后通过高斯嵌入来学习节点表示。研究了网络的不同结构相似性度量和高斯嵌入的能量函数。在真实网络上进行的实验表明,struct2gauss有效地捕捉全局结构信息,而最先进的网络嵌入方法失败,优于其他方法的基于结构的聚类和分类任务,并提供更多的信息,节点表示的不确定性。
2020-09-30 cs.LG cs.SI
Generating Human Understandable Explanations for Node Embeddings
Northeastern University(东北大学)
本文提出 XM 框架,通过最小化解释矩阵核范数,使节点嵌入各维度可用度、PageRank 等图特征解释,并在真实图上保持性能且提升可解释性。
2024-06-11 cs.LG cs.SI
Accelerating Dynamic Network Embedding with Billions of Parameter Updates to Milliseconds
Zhejiang University(浙江大学);Carnegie Mellon University(卡内基梅隆大学);Hikvision Research Institute(海康威视研究院)
针对动态网络嵌入逐节点更新存在的效率与精度难以兼顾的问题,提出DAMF算法通过旋转缩放坐标系实现高效嵌入,结合动态个性化PageRank增强表征,在十亿边图上可10ms内完成十亿级参数更新,性能优于现有方法。
2023-06-15 cs.LG cs.SI
Role action embeddings: scalable representation of network positions
Facebook(脸书)
我们考虑在嵌入空间中将具有相似局部邻域的节点嵌入在一起的问题,通常称为“角色嵌入”。“我们提出了RAE,一个学习角色嵌入的无监督框架。它结合了一个节点内损失函数和一个图神经网络(GNN)架构,将具有相似局部邻域的节点放置在嵌入空间中。我们还提出了一种更快的方法来生成负例,称为邻居洗牌,它可以直接在批次中快速创建负例。这些技术可以很容易地与现有的GNN方法相结合,以大规模创建无监督的角色嵌入。然后,我们探索角色动作嵌入,它总结了节点邻域中的非结构特征,从而提高了节点分类任务的性能。我们发现,本文提出的模型架构在图和节点分类任务上都提供了强大的性能,在某些情况下可以与半监督方法竞争。
2018-12-03 cs.LG cs.SI
Attributed Network Embedding via Subspace Discovery
University of Technology Sydney(悉尼科技大学);The University of Sydney(悉尼大学);Florida Atlantic University(佛罗里达大西洋大学)
网络嵌入旨在学习网络节点的潜在低维向量表示,有效地支持各种网络分析任务。虽然关于网络嵌入的现有技术主要集中在保留网络拓扑结构以学习节点表示,但是最近提出的属性网络嵌入算法试图将丰富的节点内容信息与网络拓扑结构相结合,以提高网络嵌入的质量。现实中,网络往往存在内容稀疏、节点属性不完整以及节点属性特征空间与网络结构空间不一致等问题,严重影响了现有方法的性能。在本文中,我们提出了一个统一的框架属性网络嵌入-attri 2 vec-学习节点嵌入通过发现一个潜在的节点属性子空间,通过网络结构引导的变换进行原始属性空间。由此产生的潜在子空间可以以更一致的方式尊重网络结构,以学习高质量的节点表示。我们制定了一个优化问题,解决了一个有效的随机梯度下降算法,线性时间复杂度的节点数。我们研究了一系列的线性和非线性变换节点属性和经验验证其有效性的各种类型的网络。attri 2 vec的另一个优点是它能够解决样本外问题,其中新节点的嵌入可以通过学习的映射函数从它们的节点属性中推断出来。在各种类型的网络上进行的实验证实,attri 2 vec优于节点分类、节点聚类以及样本外链接预测任务的最新基线。本文的源代码可在https://github.com/daokunzhang/attri2vec上获得。
2019-05-20 cs.LG cs.SI
Digraphwave: Scalable Extraction of Structural Node Embeddings via Diffusion on Directed Graphs
KTH Royal Institute of Technology(瑞典皇家理工学院);SEB Group(SEB集团)
结构节点嵌入,即捕获图中每个节点的局部连通性信息的向量,在数据采掘和机器学习中有许多应用,例如,网络对齐和节点分类、聚类和异常检测。对于有向图的分析,例如,在事务图、通信网络和社交网络中,捕获结构节点嵌入中的方向信息的能力是非常期望的,嵌入提取方法的可扩展性也是如此。然而,大多数现有的方法仅针对无向图设计。因此,我们提出了一个可扩展的算法,用于提取有向图上的结构节点嵌入。的Digraphwave嵌入由压缩的扩散模式签名,这是两次增强,以增加其辨别能力。通过证明扩散初始化节点局部附近所含热量的下限,建立了理论上合理的扩散时间尺度值,并且只剩下两个易于解释的超参数:嵌入维数和邻域分辨率指定符。在我们的实验中,两个嵌入增强,命名为转置和聚合,显示出导致分类自守身份的宏F1得分显着增加,其中Digraphwave优于所有其他结构嵌入基线。此外,Digraphwave在真实图数据集上的性能优于或匹配所有基线的性能,在网络对齐任务中显示出特别大的性能增益,同时还可扩展到具有数百万个节点和边的图形,运行速度比以前的基于扩散模式的方法快30倍,并且内存消耗很小。
2022-07-20 cs.LG cs.SI
CONE-Align: Consistent Network Alignment with Proximity-Preserving Node Embedding
University of Michigan, Ann Arbor(密歇根大学安娜堡分校)
网络对齐是在不同图中找到节点之间的对应关系的过程,具有许多科学和工业应用。现有的无监督网络对齐方法找到了破坏节点邻域的次优对齐,即不保持匹配的邻域一致性。为了改善这一点,我们提出了CONE-Align,它用节点嵌入来模拟网络内的邻近度,并在对齐嵌入子空间后使用它们来匹配网络中的节点。在不同的、具有挑战性的数据集上进行的实验表明,CONE-Align是鲁棒的,在高噪声环境中,它的准确率平均比性能最好的最先进的图对齐算法高出19.25%。
2020-08-17 cs.LG cs.SI
Twitch Gamers: a Dataset for Evaluating Proximity Preserving and Structural Role-based Node Embeddings
The University of Edinburgh(爱丁堡大学)
邻近保持和基于角色的结构化节点嵌入已经成为应用图挖掘的主要工作。新的节点嵌入技术通常在一组有限的基准数据集上进行测试。在本文中,我们提出了一个新的多样化的社交网络数据集,称为Twitch Gamers,具有多个潜在的目标属性。我们对社交网络和节点分类实验的分析表明,Twitch Gamers适用于评估新型邻近保持和基于结构角色的节点嵌入算法的预测性能。
2021-02-16 cs.AI cs.LG cs.SI
Graph Embedding with Hierarchical Attentive Membership
University of Virginia(弗吉尼亚大学)
图结构的利用是有效学习节点表示的关键,这些节点表示保留了图中的有用信息。图的一个显着的属性是,一个潜在的层次分组的节点存在于一个全局的角度来看,其中每个节点表明其成员的一个特定的组的基础上,由其相邻节点组成的上下文。大多数现有的工作忽略了这样的潜在群体和节点的成员不同的群体,更不用说层次结构,当建模的邻域结构。因此,它们无法提供对图中不同上下文下的节点的全面理解。在本文中,我们提出了一种新的分层注意成员关系模型的图嵌入,其中每个节点的潜在成员关系是动态发现的基础上,其相邻的上下文。当聚集相邻状态以生成节点嵌入时,执行组级和个体级关注。我们引入结构约束来明确地规范每个节点的推断成员资格,这样就可以捕获一个定义良好的分层分组结构。该模型在包括引文网络和社交网络在内的各种图中的节点分类和链接预测任务上优于一组最先进的图嵌入解决方案。定性评估可视化学习的节点嵌入以及推断的成员关系,这证明了成员关系层次的概念,并实现了图中可解释的嵌入学习。
2021-10-31 cs.AI cs.SI
Beyond Node Embedding: A Direct Unsupervised Edge Representation Framework for Homogeneous Networks
IBM Research(IBM研究院);Indian Institute of Science(印度科学学院)
传统上,网络表示学习被用于寻找网络中节点的低维向量表示。然而,有非常重要的边缘驱动挖掘任务感兴趣的经典网络分析社区,其中大部分是未开发的网络嵌入空间。对于诸如同构网络中的链接预测的应用,矢量表示(即,嵌入)是通过使用边的端顶点的嵌入的简单聚合来解析地导出的。显然,这种导出边缘嵌入的方法是次优的,并且需要一种专用的无监督方法来通过利用网络的边缘属性来嵌入边缘。为此,我们提出了一种新的概念,将网络转换为其加权线图,它非常适合于找到原始网络的边缘嵌入。我们进一步推导出一种新的算法嵌入线图,通过引入集体同伦的概念。据我们所知,这是同构信息网络中第一个直接无监督的边嵌入方法,而不依赖于节点嵌入。我们验证了三个下游边缘挖掘任务的边缘嵌入。我们提出的边嵌入优化框架还生成了一组节点嵌入,而不仅仅是边的聚合。进一步的实验分析表明,我们的框架节点中心的概念的连接。
2019-12-11 cs.LG cs.SI
A Hypergraph Neural Network Framework for Learning Hyperedge-Dependent Node Embeddings
CMU(卡内基梅隆大学);Adobe Research(Adobe研究院);Intel Labs(英特尔研究院)
在这项工作中,我们引入了一个超图表示学习框架,称为超图神经网络(HNN),共同学习超边缘嵌入以及超图中每个节点的超边缘相关嵌入。HNN在超图中为每个节点导出多个嵌入,其中节点的每个嵌入取决于该节点的特定超边。值得注意的是,HNN是准确的,数据高效的,灵活的,具有许多可互换的组件,并且适用于各种超图学习任务。我们评估的HNN框架的超边缘预测和超图节点分类的有效性。我们发现,HNN在所有基线模型和图中分别实现了7.72%和11.37%的总体平均增益,用于超边缘预测和超图节点分类。
2022-12-28 cs.DM cs.LG cs.SI
Embedding Node Structural Role Identity into Hyperbolic Space
Dartmouth College(达特茅斯学院);Stony Brook University(石溪大学);Jefferies Financial Group LLC(杰富瑞金融集团有限责任公司)
最近,人们对在双曲空间中嵌入网络很感兴趣,因为双曲空间已经被证明在捕获图/网络结构方面工作得很好,因为它可以自然地反映复杂网络的一些属性。然而,双曲空间中网络嵌入的研究主要集中在微观节点嵌入上。在这项工作中,我们是第一个提出了一个框架,嵌入到双曲空间节点的结构角色。我们的框架扩展了struct 2 vec,一个著名的结构角色保持嵌入方法,将其移动到一个双曲面模型。我们在四个真实世界和一个合成网络上评估了我们的方法。我们的研究结果表明,双曲空间是更有效的学习比欧几里得空间的节点的结构作用的潜在表示。
2020-11-03 cs.LG cs.SI
Leveraging Non-linear Dimension Reduction and Random Walk Co-occurrence for Node Embedding
Department of Mathematics, Toronto Metropolitan University(数学系,多伦多 Metropolitan 大学)
本文提出COVE,一种基于非线性降维和随机游走共现的高维节点嵌入方法,通过UMAP降维在聚类和链接预测任务中表现优异,与Louvain算法性能相当。
2026-02-27 cs.LG cs.SI
Node Embedding over Temporal Graphs
Technion, Israel Institute of Technology(以色列理工学院);eBay Research(易贝研究院)
在这项工作中,我们提出了一种方法,在时间图的节点嵌入。我们提出了一种算法,学习时间图的节点和边随着时间的推移的演变,并将这种动态的时间节点嵌入框架中的不同的图形预测任务。我们提出了一个联合损失函数,该函数通过学习组合节点的历史时间嵌入来创建节点的时间嵌入,使得它针对给定任务进行优化(例如,链接预测)。该算法使用静态节点嵌入进行初始化,然后在不同时间点对节点的表示进行对齐,并最终在联合优化中适应给定的任务。我们评估了我们的方法的有效性,在各种时间图的时间链接预测和多标签节点分类的两个基本任务,比较有竞争力的基线和算法的替代品。我们的算法在许多数据集和基线上都显示出了性能上的改进,并且对于内聚性较低、聚类系数较低的图特别有效。
2021-05-19 cs.LG cs.SI stat.ML
The Effects of Randomness on the Stability of Node Embeddings
RWTH Aachen University(亚琛工业大学)
本文系统评估了随机性对五种最先进节点嵌入算法稳定性的影响,发现嵌入空间几何特性和节点实际分类结果存在显著不稳定性,强调了使用节点嵌入时需考虑不稳定性效应。
2020-05-20 cs.LG cs.SI stat.ML
Node Embedding for Homophilous Graphs with ARGEW: Augmentation of Random walks by Graph Edge Weights
NCSOFT(NCSoft公司)
本文提出ARGEW方法,通过对随机游走语料进行边权重增强,使加权同质图中强连接节点获得更接近的嵌入,在节点分类上优于纯node2vec且对超参数不敏感,并达到与有监督GCN相当的性能。
2023-08-11 cs.LG cs.SI stat.ML
An Automorphic Distance Metric and its Application to Node Embedding for Role Mining
角色是分析网络数据所代表的交互实体的行为和功能的基本概念。角色发现是发现隐藏角色的任务。节点角色通常根据等价类定义,其中如果两个节点属于同一等价类,则它们具有相同的角色。自守等价,即当两个节点可以交换它们的标签以形成同构图时,它们是等价的,抓住了这种常见的角色概念。等价的二元概念限制性太强,现实网络中的节点很少属于同一个等价类。相反,在相似性或距离方面的宽松定义通常用于计算两个节点的等效程度。在本文中,我们提出了一种新的距离度量称为自同构距离,它衡量两个节点有多远是自同构等价的。我们还研究了它的应用节点嵌入,展示了我们的度量可以用来生成节点的矢量表示,保留其数据可视化和机器学习的角色。我们的实验证实,所提出的度量优于RoleSim自守等价为基础的度量在生成不同的网络的节点嵌入。
2018-09-05 cs.SI physics.soc-ph
Network2Vec Learning Node Representation Based on Space Mapping in Networks
South China University of Technology(华南理工大学);University of California, Irvine(加州大学欧文分校)
用节点邻接矩阵表示的复杂网络制约了机器学习和并行算法的应用。为了解决这个限制,网络嵌入(即,图表示)已经被深入研究,以学习嵌入空间中每个节点的固定长度向量,其中原始图中的节点属性被保留。现有的方法主要集中在学习嵌入向量以保持节点的邻近性,即,在嵌入空间中,图空间中彼此相邻的节点也应当是闭合的,但是不强制在嵌入空间和图空间之间共享代数统计特性。在这项工作中,我们提出了一个轻量级的模型,题为Network 2 Vec,学习网络嵌入的基础上,图空间和嵌入空间之间的语义距离映射。该模型利用群同态的性质在两个空间之间架起了一座桥梁。通过对节点分类、链接预测和社区可视化等不同学习任务的实验,验证了新嵌入方法的有效性和高效性,在节点分类和链接预测任务中,新嵌入方法最多可将现有模型提高19%和7%.此外,我们的方法是显着更快,消耗的时间只有一些著名的方法所使用的一小部分。
2019-10-23 cs.LG cs.SI
Dynamic Network Embeddings for Network Evolution Analysis
网络嵌入学习将节点表示为低维向量,以保持节点和网络社区之间的接近性,以进行网络分析。时间边缘(例如,关系、联系人和电子邮件)对于网络演化分析是重要的,但是现有的网络嵌入方法很少能够从时间边缘捕获动态信息。本文提出了一种新的动态网络嵌入方法来有效地分析动态网络的演化模式。我们的方法使用随机游走来保持节点之间的邻近性,并应用动态伯努利嵌入训练离散时间网络嵌入在同一个向量空间中,没有对齐,以保持稳定节点的时间连续性。我们通过链接预测和进化节点检测将我们的方法与几种最先进的方法进行了比较,实验表明我们的方法在这些任务中具有更好的性能。我们的方法进一步验证了两个现实世界的动态网络,通过检测不断发展的节点和可视化他们的时间轨迹在嵌入式空间。
2019-06-24 cs.LG cs.SI
Pair-view Unsupervised Graph Representation Learning
低维图嵌入已被证明在大型图中的各种下游任务中非常有用,例如,链接相关的内容推荐和节点分类任务等。大多数现有的嵌入方法将节点作为信息聚合的基本单元,例如,GNN中的节点感知场或随机游走中的上下文节点。这种节点视图的主要缺点是不支持表达节点之间的复合关系,导致嵌入过程中丢失一定程度的图形信息。为此,本文提出了PairE(PairEmbedding),一种使用比节点更高级的单元"对"作为图嵌入的核心的解决方案。相应地,多自监督自动编码器被设计成实现两个任务,以重构相应对及其周围上下文的特征分布。PairE算法具有三大优点:1)信息量大,能够在节点视图之外嵌入,能够保存更丰富的图的信息; 2)算法简单,节省时间,存储效率高,需要的超参数少; 3)自适应性强,引入翻译算子将对嵌入映射到节点嵌入,PairE可以有效地用于基于链接和基于节点的图分析。实验结果表明,PairE算法在所有四个下游任务中的性能都优于基线状态,尤其是在链接预测和多标签节点分类任务中具有显著的边缘。
2020-12-11 cs.LG cs.SI
ANAE: Learning Node Context Representation for Attributed Network Embedding
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学)
属性网络嵌入的目标是从网络结构和节点属性中学习低维节点表示。现有的方法可以分为两类:(1)分别从网络结构和节点属性中学习两个独立的节点表示并将它们连接在一起;(2)另一类通过将节点属性转换为网络结构或反之亦然来获得节点表示。然而,这两组都有其缺点。第一组忽略了网络结构和节点属性之间的相关性,而第二组假设这两种类型的信息之间的强依赖性。在本文中,我们从一个新的角度来解决归因网络嵌入,即,通过对每个节点的属性局部子图进行建模,学习每个节点的节点上下文表示。为了实现这一目标,我们提出了一种新的属性网络自动编码器框架,即ANAE。对于目标节点,ANAE首先从其属性局部子图中聚集属性信息,获得其低维表示。接下来,ANAE将目标节点的表示扩散到其局部子图中的节点,以重建它们的属性。这样的编码器-解码器框架允许学习的表示更好地保留网络结构和节点属性中表现的上下文信息,从而具有学习属性网络的良好节点表示的高容量。在真实数据集上的大量实验结果表明,该框架在链接预测和节点分类方面优于现有的方法。
2020-07-06 cs.LG cs.SI
Constructing Graph Node Embeddings via Discrimination of Similarity Distributions
Skolkovo Institute of Science and Technology (Skoltech)(斯科尔科沃科学技术研究所(斯科尔科沃理工学院));Moscow Institute of Physics and Technology(莫斯科物理技术学院);Institute for Information Transmission Problems of RAS(俄罗斯科学院信息传输问题研究所)
图中无监督学习节点嵌入问题是现代网络科学的重要研究方向之一。在这项工作中,我们提出了一个新的框架,这是旨在找到嵌入图中的节点之间的\textit{discriminating distributions of similarities (DDoS)}。通过最大化相似和不相似节点的解码相似性的分布之间的\textit{earth mover distance}来实现总体思想。由此产生的算法生成的嵌入,在现实世界的图中的链接预测的问题,这给一个国家的最先进的性能。
2018-10-06 cs.LG cs.SI stat.ML
A Self-Attention Network based Node Embedding Model
Monash University(莫纳什大学)
尽管最近已经取得了一些进展的迹象,但对于新的不可见节点需要嵌入的归纳设置进行了有限的研究-这是在图网络的深度学习的实际应用中经常遇到的设置。这会显着影响下游任务的性能,例如节点分类、链接预测或社区提取。为此,我们提出了SANNE -一种新的无监督嵌入模型-其中心思想是采用一个Transformer自注意力网络迭代聚合随机游走中节点的向量表示。我们的SANNE的目标是产生合理的嵌入,不仅为目前的节点,而且为新的看不见的节点。实验结果表明,建议SANNE获得国家的最先进的节点分类任务的结果在知名的基准数据集。
2020-06-22 cs.CL cs.LG cs.SI
Evaluating Node Embeddings of Complex Networks
Toronto Metropolitan University(多伦多都会大学);SGH Warsaw School of Economics(华沙经济学院);Tutte Institute for Mathematics and Computing(塔特数学与计算研究所)
图嵌入是将图的节点转换为一组向量。一个好的嵌入应该捕获图的拓扑结构、节点到节点的关系,以及关于图、其子图和节点的其他相关信息。如果实现了这些目标,嵌入就是一个有意义的、可理解的、压缩的网络表示,可以用于其他机器学习工具,如节点分类、社区发现或链接预测。主要的挑战是需要确保嵌入很好地描述了图的属性。因此,选择最佳嵌入是一项具有挑战性的任务,通常需要领域专家。在本文中,我们对选定的图嵌入算法进行了一系列广泛的实验,无论是在真实世界的网络上还是人工生成的网络上。根据这些实验,我们得出两个一般性结论。首先,如果在运行实验之前需要选择一种嵌入算法,那么node2vec是最好的选择,因为它在我们的测试中表现最好。话虽如此,在所有测试中没有单一的赢家,此外,大多数嵌入算法都有应该调整和随机化的超参数。因此,我们对从业者的主要建议是,如果可能的话,为手头的问题生成几个嵌入,然后使用一个通用框架,为无监督图嵌入比较提供工具。这个框架(最近在文献中介绍,在GitHub存储库中很容易获得)为嵌入分配分歧分数,以帮助区分好的嵌入和坏的嵌入。
2022-06-17 cs.LG cs.SI physics.soc-ph
RiWalk: Fast Structural Node Embedding via Role Identification
College of Computer Science and Technology, Jilin University(吉林大学计算机科学与技术学院);Jilin University(吉林大学)
在网络中执行不同功能的节点具有不同的角色,并且这些角色可以从网络的结构中收集。学习节点角色的潜在表示有助于理解网络并在网络之间传递知识。然而,大多数现有的结构嵌入方法遭受高计算和空间成本或依赖于启发式特征工程。在这里,我们提出RiWalk,一个灵活的范例学习结构节点表示。它将结构嵌入问题分解为角色识别过程和网络嵌入过程。通过角色识别,建立了保持结构依赖的根核,以更好地集成网络嵌入方法。为了证明RiWalk的有效性,我们分别开发了两种不同的角色识别方法RiWalk-SP和RiWalk-WL,并采用基于随机游走的网络嵌入方法。网络内分类任务的实验表明,我们提出的算法实现了与其他基线相当的性能,同时是一个数量级更有效。此外,我们还进行跨网络的角色分类任务。研究结果显示了结构嵌入在迁移学习中的潜力。RiWalk还具有可扩展性,使其能够捕获大型网络中的结构角色。
2019-10-15 cs.LG cs.SI
Community Detection Guarantees Using Embeddings Learned by Node2Vec
Columbia University(哥伦比亚大学);University of Michigan(密歇根大学);Simon Fraser University(西蒙菲莎大学)
本文从理论上证明了 node2vec 嵌入结合 k-means 聚类可在度校正随机块模型中实现弱一致的社区恢复,并通过实验验证了该结果及其与其它网络嵌入工具的关系。
2024-10-22 cs.LG cs.SI stat.ME
Node Embedding via Word Embedding for Network Community Discovery
神经节点嵌入最近已经成为涉及图结构数据的监督学习任务的强大表示。我们利用这一最新进展,开发了一种新的算法,在图中的无监督社区发现。通过大量的实验研究模拟和真实世界的数据,我们证明,所提出的方法不断改善目前的最先进的。具体来说,我们的方法经验上达到的信息理论限制下的基准随机块模型图生成的社区恢复,并表现出更好的稳定性和准确性在谱聚类和非循环的信念传播的社区恢复限制。
2017-06-28 cs.SI physics.soc-ph stat.ML
Learning node embeddings via summary graphs: a brief theoretical analysis
Data Intelligence Research Center(数据智能研究中心);Institute of Computing Technology(计算技术研究所);University of Michigan(密歇根大学)
图表示学习在许多图挖掘应用中起着重要的作用,但学习大规模图的嵌入仍然是一个问题。最近的工作试图通过图形摘要来提高可伸缩性--即,它们学习在较小的摘要图上的嵌入,然后恢复原始图的节点嵌入。然而,所有现有的工作依赖于启发式设计,缺乏理论分析。与现有的工作不同,我们贡献了一个深入的理论分析的三个具体的嵌入学习方法的基础上引入的核矩阵,并揭示了学习嵌入通过图摘要实际上是学习嵌入的近似图构造的配置模型。并对逼近误差进行了分析。据我们所知,这是第一个工作,给这种方法的理论分析。此外,我们的分析框架给出了一些现有的方法的解释,并提供了很大的见解,为今后的工作在这个问题上。
2022-07-04 cs.LG cs.SI
Learning Asymmetric Embedding for Attributed Networks via Convolutional Neural Network
RMIT University(皇家墨尔本理工大学);Ahvaz Branch, Islamic Azad University(伊斯兰阿扎德大学阿瓦士分校)
近年来,网络嵌入由于其在链接预测、节点分类和节点聚类等网络计算任务中的优势而受到越来越多的关注。网络嵌入的目标是在低维向量空间中表示网络节点,同时保留尽可能多的原始网络信息,包括结构,关系和语义信息。然而,有向网络的非对称性带来了许多挑战,如如何在嵌入过程中最好地保持边缘方向。本文提出了一种基于卷积图神经网络的深度非对称属性网络嵌入模型AAGCN。其主要思想是最大限度地保持有向属性网络的非对称邻近性和非对称相似性。AAGCN引入了两种邻域特征聚合方案,分别将节点的特征与其内外邻居的特征聚合。然后,它为每个节点学习两个嵌入向量,一个源嵌入向量和一个目标嵌入向量。最终的表示是连接源和目标嵌入向量的结果。我们测试的性能AAGCN在三个现实世界的网络重建,链接预测,节点分类和可视化任务。实验结果表明,AAGCN对国家的最先进的嵌入方法的优越性。
2022-02-13 cs.LG cs.SI
Search Efficient Binary Network Embedding
The University of Sydney(悉尼大学);Florida Atlantic University(佛罗里达大西洋大学);Australian Artificial Intelligence Institute(澳大利亚人工智能研究所);University of Technology Sydney(悉尼科技大学)
传统的网络嵌入主要关注于学习每个节点的连续向量表示,保留网络结构和/或节点内容信息,使得现成的机器学习算法可以容易地应用于向量格式的节点表示以进行网络分析。然而,学习的连续向量表示对于大规模相似性搜索是低效的,这通常涉及在连续向量空间中找到通过距离或相似性测量的最近邻居。在本文中,我们提出了一个搜索效率的二进制网络嵌入算法称为BinaryNE学习每个节点的二进制代码,通过同时建模节点上下文关系和节点属性关系,通过一个三层神经网络。BinaryNE通过基于随机梯度下降的在线学习算法学习二进制节点表示。学习的二进制编码不仅减少了表示每个节点的内存使用,而且还允许快速逐位比较,以支持比使用欧几里得距离或其他距离度量更快的节点相似性搜索。大量的实验和比较表明,BinaryNE不仅提供了超过25倍的搜索速度,但也提供了可比的或更好的搜索质量比传统的连续矢量为基础的网络嵌入方法。BinaryNE学习的二进制代码在节点分类和节点聚类任务上也具有竞争力。本文的源代码可在https://github.com/daokunzhang/BinaryNE上获得。
2022-12-29 cs.LG cs.SI
Adversarial Context Aware Network Embeddings for Textual Networks
Indian Institute of Science(印度科学学院)
文本网络的表示学习提出了一个重大的挑战,因为它涉及到从两种模态捕获合并的信息:(i)底层网络结构,和(ii)节点文本属性。为此,大多数现有方法通过强制连接节点的嵌入相似来学习文本和网络结构的嵌入。然后,为了实现模态融合,他们使用节点的文本嵌入与其连接节点的结构嵌入之间的相似性,反之亦然。这意味着这些方法需要边缘信息来学习嵌入,并且它们不能学习看不见的节点的嵌入。在本文中,我们提出了一种方法,实现了模态融合和学习嵌入看不见的节点的能力。我们的模型的主要特点是,它使用基于文本嵌入的生成器和基于结构嵌入的生成器之间的对抗机制来学习有效的表示。然后,为了学习不可见节点的嵌入,我们使用基于文本嵌入的监督。此外,我们还提出了一种新的文本嵌入学习体系结构,该体系结构结合了相互注意和拓扑注意力机制,使得文本嵌入更加灵活。通过对真实世界数据集的广泛实验,我们证明了我们的模型在几个最先进的基准测试中取得了实质性的进步。与以前的最先进技术相比,它在预测训练中看到的节点之间的链接方面的性能提高了7%,在预测涉及训练中没有看到的节点的链接方面的性能提高了12%。此外,在节点分类任务中,它给出了高达2%的性能提高。
2020-11-05 cs.CL cs.IR cs.LG
Kernel Node Embeddings
CentraleSupélec(中央理工-高等电力学院);Inria Saclay(法国国家信息与自动化研究所萨克雷中心);University of Paris-Saclay(巴黎-萨克雷大学)
学习低维空间中节点的表示是一项重要的任务,在网络分析中有许多有趣的应用,包括链接预测和节点分类。两个流行的方法,这个问题包括矩阵分解和随机行走为基础的模型。在本文中,我们的目标是将这两个世界的最好的东西结合起来,学习潜在节点表示。特别是,我们提出了一个加权矩阵分解模型,它编码的随机行走为基础的信息的节点图。这种公式的主要好处是它允许在嵌入的计算上利用核函数。我们对真实网络进行了实证评估,结果表明,该模型在两个下游机器学习任务中优于基线节点嵌入算法。
2019-09-10 cs.LG cs.SI stat.ML
Is a Single Vector Enough? Exploring Node Polysemy for Network Embedding
Texas A&M University(得克萨斯农工大学);Alibaba Group(阿里巴巴集团)
网络已经被广泛地用作用于抽象现实世界系统以及组织实体之间的关系的数据结构。网络嵌入模型是将网络中的节点映射到连续向量空间表示中的强大工具,以便于后续任务,例如分类和链接预测。现有的网络嵌入模型综合了每个节点的所有信息,如链接和属性,向一个单一的嵌入向量来表示节点在网络中的一般角色。然而,现实世界的实体可能是多方面的,由于不同的动机或不一定相关的自我特征,它连接到不同的社区。例如,在电影推荐系统中,用户可能同时喜欢喜剧或恐怖电影,但是这两种类型的电影在嵌入空间中不太可能相互接近,用户嵌入向量也不可能同时充分接近它们。在本文中,我们提出了一个多义嵌入方法建模节点的多个方面,作为语言建模中的单词多义现象的动机。节点的每个面被映射为一个嵌入向量,同时我们还保持每对节点和面之间的关联度。所提出的方法是适应各种现有的嵌入模型,而不会显着复杂的优化过程。我们还讨论了如何将不同方面的嵌入向量用于推理任务,包括分类和链接预测。在真实数据集上的实验有助于全面评估所提出的方法的性能。
2019-05-25 cs.IR cs.LG cs.SI