Interpreting Node Embedding Distances Through $n$-order Proximity Neighbourhoods
本研究提出新方法评估节点嵌入距离的可解释性,发现矩阵分解模型SVD通过高阶邻近性最具可解释性。
2025-01-20 cs.SI
Dynamic Network Embeddings for Network Evolution Analysis
网络嵌入学习将节点表示为低维向量,以保持节点和网络社区之间的接近性,以进行网络分析。时间边缘(例如,关系、联系人和电子邮件)对于网络演化分析是重要的,但是现有的网络嵌入方法很少能够从时间边缘捕获动态信息。本文提出了一种新的动态网络嵌入方法来有效地分析动态网络的演化模式。我们的方法使用随机游走来保持节点之间的邻近性,并应用动态伯努利嵌入训练离散时间网络嵌入在同一个向量空间中,没有对齐,以保持稳定节点的时间连续性。我们通过链接预测和进化节点检测将我们的方法与几种最先进的方法进行了比较,实验表明我们的方法在这些任务中具有更好的性能。我们的方法进一步验证了两个现实世界的动态网络,通过检测不断发展的节点和可视化他们的时间轨迹在嵌入式空间。
2019-06-24 cs.LG cs.SI
SHEEP: Signed Hamiltonian Eigenvector Embedding for Proximity
我们引入了一个谱嵌入算法,发现在有符号的图,其中边可以采取正或负的权重节点之间的邻近关系。采用物理的角度来看,我们构造了一个哈密顿量,这是依赖于节点之间的距离,使得相对嵌入距离的结果在节点之间的相似性度量。哈密顿量承认一个全球最小能量配置,这可以重新配置为一个特征向量的问题,因此是计算高效的计算。我们使用矩阵微扰理论表明,嵌入产生的基态能量,这可以被用来作为强平衡的存在下的统计测试,并开发一个基于能量的方法定位的最佳嵌入维数。最后,我们通过一系列的合成和经验网络的实验表明,嵌入中的位置可以用来恢复某些连续的节点属性,并且在最佳嵌入中到原点的距离可以衡量节点的极端性。
2023-02-14 cs.SI math.SP physics.soc-ph
Attributed Social Network Embedding
将网络数据嵌入到低维向量空间中对于许多现实世界的应用,如节点分类和实体检索,表现出良好的性能。然而,大多数现有的方法只集中在利用网络结构。对于社交网络,除了网络结构之外,还存在关于社会行为者的丰富信息,例如友谊网络的用户简档和引文网络的文本内容。社会行动者丰富的属性信息揭示了同质性效应,对社交网络的形成产生了巨大的影响。本文探讨了社交网络中丰富的属性证据源,以提高网络嵌入能力。我们提出了一个通用的社会网络嵌入框架(SNE),它学习社会参与者的表示(即,节点)通过保持结构接近度和属性接近度两者。虽然结构接近捕捉全球网络结构,属性接近占同质性效应。为了证明我们的建议,我们在四个现实世界的社交网络上进行了广泛的实验。与最先进的网络嵌入方法相比,SNE可以学习更多的信息表示,在链接预测和节点分类的任务上实现了实质性的收益。具体来说,SNE显著优于node2vec,在链接预测任务上有8.2%的相对改进,在节点分类任务上有12.7%的增益。
2017-05-14 cs.SI
Collaborative Similarity Embedding for Recommender Systems
我们提出了协作相似性嵌入(CSE),一个统一的框架,利用全面的合作关系,可在用户项二分图的表示学习和推荐。在该框架中,我们区分两种类型的邻近关系:直接邻近和k阶邻域邻近。虽然从前者学习利用从图中可观察到的直接用户-项目关联,但从后者学习利用隐式关联,例如用户-用户相似性和项目-项目相似性,这可以提供有价值的信息,特别是当图稀疏时。此外,为了提高可扩展性和灵活性,我们提出了一种采样技术,专门设计用于捕获两种类型的邻近关系。在八个基准数据集上的大量实验表明,CSE比最先进的推荐方法具有更好的性能。
2019-02-19 cs.IR cs.SI
Bridging the Gap between Community and Node Representations: Graph Embedding via Community Detection
University of Fribourg(弗里堡大学)
图嵌入已成为许多数据采掘和分析系统的关键组成部分。当前的图嵌入方法要么从图中采样大量的节点对以经由随机优化来学习节点嵌入,要么经由计算上昂贵的矩阵分解技术来分解图的高阶邻近/邻接矩阵。这些方法通常需要大量资源用于学习过程,并依赖于多个参数,这限制了它们在实践中的适用性。此外,大多数现有的图嵌入技术仅在一个特定度量空间中有效地操作(例如,用余弦相似性产生的一个),不保留输入图的高阶结构特征,并且不能自动确定有意义的嵌入维数的数目。通常,产生的嵌入不容易解释,这使得进一步的分析复杂化并限制了其适用性。为了解决这些问题,我们提出了DAOR,一种高效且无参数的图嵌入技术,可以在不进行任何手动调整的情况下生成度量空间鲁棒,紧凑且可解释的嵌入。与十几种最先进的图嵌入算法相比,DAOR在节点分类(受益于高阶邻近度)和链接预测(主要依赖于低阶邻近度)方面都产生了竞争性结果。然而,与现有技术不同,DAOR不需要任何参数调整,并将嵌入生成速度提高了几个数量级。因此,我们的方法有野心,大大简化和加快数据分析任务,涉及图表示学习。
2019-12-17 cs.LG cs.SI stat.ML
Bidirectional group random walk based network embedding for asymmetric proximity
网络嵌入的目的是将网络表示到一个低维空间中,在这个空间中最大限度地保留了网络的结构信息和固有属性。基于随机游走的网络嵌入方法如DeepWalk和node 2 vec在保持网络拓扑结构方面表现出了优异的性能。然而,这些方法要么预测一个节点的邻居在两个方向上的分布在一起,这使得他们无法捕捉网络中的任何非对称关系;或者只保留一个方向上的非对称关系,因此失去了另一个方向上的。针对这些局限性,本文提出了基于双向分组随机游走的网络嵌入方法(BiGRW),该方法将随机游走过程中节点的前向和后向邻居的分布视为两种不同的非对称网络结构信息。BiGRW的基本思想是学习每个节点的表示,这对于分别预测其前向和后向邻居的分布是有用的。此外,本文还提出了一种新的随机游走采样策略,该策略引入了一个参数α,以灵活地控制广度优先采样(BFS)和深度优先采样(DFS)之间的权衡。为了从节点属性中学习表示,我们设计了BiGRW的属性化版本(BiGRW-AT)。在多个基准数据集上的实验结果表明,本文提出的方法在节点分类和聚类方面的性能明显优于现有的普通和属性化网络嵌入方法.
2021-03-31 cs.SI
A Hidden Challenge of Link Prediction: Which Pairs to Check?
University of Michigan(密歇根大学)
网络中链接预测的传统设置假设节点对的测试集(通常是平衡的)是可用的,通过该测试集来预测链接的存在。然而,在实践中,没有测试集:地面真实情况是未知的,因此预测的可能对的数量是图中节点数量的二次方。此外,由于图是稀疏的,这些可能的对中的大多数将不是链接。因此,通常依赖于保持邻近的嵌入或节点相似性的启发式概念的链接预测方法面临着巨大的搜索空间,其中许多对非常接近,但不应该被链接。为了缓解这个问题,我们引入LinkWaldo,从这个二次选择的框架,倾斜的搜索空间的节点对,一组简洁的候选对,除了在接近,也在结构上类似于观察到的边缘。这使得它可以忽略一些高接近度但低相似度的对,也可以识别高相似度,低接近度的对。我们的框架是建立在一个模型,理论上结合随机块模型(SBM)与节点邻近模型。SBM的块结构映射出在搜索空间中新链接预期落在哪里,并且接近度识别这些块内最合理的链接,使用局部敏感散列以避免昂贵的穷举搜索。LinkWaldo可以使用任何节点表示学习或邻近度的启发式定义,并且可以为任何链接预测方法生成候选对,允许当前和未来方法的表示能力在实践中实现用于链接预测。我们在多个域的13个网络上对LinkWaldo进行了评估,结果表明,它平均返回的候选集比基于嵌入和启发式基线的集多包含7-33%的缺失和未来链接。
2021-02-15 cs.LG cs.SI
SPINE: Structural Identity Preserved Inductive Network Embedding
网络嵌入领域的最新进展表明,低维网络表示在网络分析中起着至关重要的作用。大多数现有的网络嵌入方法对节点的局部邻近度进行编码,例如一阶和二阶邻近度。虽然这些方法是有效的,但缺乏利用彼此远离的节点之间的全局结构信息。此外,大多数现有的方法学习嵌入在一个单一的固定网络,因此不能推广到看不见的节点或网络没有重新训练。在本文中,我们提出了SPINE,一种方法,可以联合捕获本地邻近和邻近在任何距离,同时归纳有效地处理看不见的节点或网络。在基准数据集上的大量实验结果表明,该框架优于现有技术。
2019-06-10 cs.SI
Joint Use of Node Attributes and Proximity for Semi-Supervised Classification on Graphs
University of Helsinki(赫尔辛基大学)
节点分类的任务是推断未知节点标签,给定一些节点的标签以及网络结构和其他节点属性。通常,用于该任务的方法假设同质性,由此相邻节点具有相似的属性,并且节点的标签可以从其邻居或其他邻近节点的标签来预测(即,附近)的节点。然而,这样的假设可能并不总是成立-事实上,在某些情况下,标签可以更好地从每个节点的单个属性而不是其邻近节点的标签进行预测。理想情况下,节点分类方法应该灵活地适应一系列的设置,其中未知的标签是从邻近节点的标签,或单个节点属性,或部分两者预测。在本文中,我们提出了一个原则性的方法,JANE,基于生成概率模型,通过嵌入在预测标签中联合权衡属性和节点邻近度的作用。我们在各种网络数据集上的实验表明,与标准基线相比,JANE表现出所需的多功能性和竞争性能的组合。
2021-09-14 cs.LG cs.SI
Graph Auto-Encoder Via Neighborhood Wasserstein Reconstruction
University of Virginia(弗吉尼亚大学);Emory University(埃默里大学);Purdue University(普渡大学)
图神经网络(GNNs)近年来引起了广泛的研究关注,主要是在半监督学习的背景下。当首选任务不可知表示或监督不可用时,自动编码器框架可以方便地使用自然图重建目标进行无监督GNN训练。然而,现有的图自动编码器被设计为重建直接链接,因此以这种方式训练的GNN仅针对面向邻近的图挖掘任务进行优化,并且在拓扑结构重要时会出现不足。在这项工作中,我们重新审视了GNNs的图形编码过程,该过程基本上是学习将每个节点的邻域信息编码到嵌入向量中,并提出了一种新的图形解码器,通过邻域Wasserstein重建(NWR)来重建关于邻近度和结构的整个邻域信息。具体来说,从每个节点的GNN嵌入,NWR联合预测其节点度和邻居特征分布,其中分布预测采用基于Wasserstein距离的最优传输损失。在合成和真实网络数据集上的大量实验表明,使用NWR学习的无监督节点表示在面向结构的图挖掘任务中具有更大的优势,同时在面向邻近度的任务中也具有竞争力的性能。
2022-02-18 cs.LG cs.SI
Graph Spectral Embedding using the Geodesic Betweeness Centrality
University of California Los Angeles(加州大学洛杉矶分校)
我们介绍了图西尔维斯特嵌入(GSE),局部相似性,连通性和全局结构的无监督图表示。GSE使用Sylvester方程的解来在单个表示中捕获网络结构和邻域邻近度。与基于拉普拉斯算子的特征向量的嵌入不同,GSE包含两个或更多个基函数,例如使用拉普拉斯算子和亲和矩阵。这样的基函数不是从原始图构造的,而是从其权重度量原始图中的边的中心性(通过该边的最短路径的数量的分数)的基函数构造的。这允许更大的灵活性和控制来表示复杂的网络结构,并且当用于数据分析任务时,例如预测材料科学中的失败边缘和人-SARS CoV-2蛋白质-蛋白质相互作用组中的网络比对时,显示出对现有技术的显著改进。
2022-05-07 cs.LG cs.SI
Towards Understanding and Evaluating Structural Node Embeddings
虽然大多数网络嵌入技术对网络中节点之间的接近度进行建模,但最近人们对基于节点等价的结构嵌入产生了浓厚的兴趣,这是一个植根于社会学的概念:等价或位置是具有相似角色的节点的集合-即,与其他位置的节点具有类似的功能、联系或相互作用--无论它们在网络中的距离或可达性如何。与文献中严格评估的基于邻近性的方法不同,结构嵌入的评估不太成熟。它依赖于带有不完全定义的标签的小型合成或真实网络,它与社会学等价物的联系迄今为止是模糊和脆弱的。随着新的节点嵌入方法以极快的速度开发,对现有方法进行适当的评估和系统的表征对于取得进展至关重要。为了填补这一空白,我们开始了解结构嵌入捕获的等价类型。我们是第一个为结构嵌入提供严格的内在和外在评估方法,以及精心设计的各种大小的数据集。我们观察到许多不同的评估变量,这些变量可能导致不同的结果(例如,相似性度量、分类器、标签定义的选择)。我们发现节点局部邻域内的度分布可以导致简单而有效的基线,并指导结构嵌入的未来发展。我们希望我们的研究结果可以影响进一步的节点嵌入方法的设计,也为更全面和公平的评价结构嵌入方法铺平了道路。
2021-01-14 cs.SI
Learning Asymmetric Embedding for Attributed Networks via Convolutional Neural Network
RMIT University(皇家墨尔本理工大学);Ahvaz Branch, Islamic Azad University(伊斯兰阿扎德大学阿瓦士分校)
近年来,网络嵌入由于其在链接预测、节点分类和节点聚类等网络计算任务中的优势而受到越来越多的关注。网络嵌入的目标是在低维向量空间中表示网络节点,同时保留尽可能多的原始网络信息,包括结构,关系和语义信息。然而,有向网络的非对称性带来了许多挑战,如如何在嵌入过程中最好地保持边缘方向。本文提出了一种基于卷积图神经网络的深度非对称属性网络嵌入模型AAGCN。其主要思想是最大限度地保持有向属性网络的非对称邻近性和非对称相似性。AAGCN引入了两种邻域特征聚合方案,分别将节点的特征与其内外邻居的特征聚合。然后,它为每个节点学习两个嵌入向量,一个源嵌入向量和一个目标嵌入向量。最终的表示是连接源和目标嵌入向量的结果。我们测试的性能AAGCN在三个现实世界的网络重建,链接预测,节点分类和可视化任务。实验结果表明,AAGCN对国家的最先进的嵌入方法的优越性。
2022-02-13 cs.LG cs.SI
Multi-Stage Network Embedding for Exploring Heterogeneous Edges
网络中对象之间的关系通常是多样和复杂的,导致具有不同语义信息的异构边。在本文中,我们专注于探索网络表示学习的异构边缘。通过将每个关系视为描述节点之间特定类型的接近度的视图,我们提出了一种多阶段非负矩阵分解(MNMF)模型,致力于利用多个视图中的丰富信息来学习鲁棒的网络表示。事实上,大多数现有的网络嵌入方法都与隐式分解复杂的邻近矩阵密切相关。然而,近似误差通常相当大,因为单个低秩矩阵不足以捕获原始信息。通过一个多阶段的矩阵分解过程的梯度提升,我们的MNMF模型实现了较低的近似误差。同时,MNMF的多级结构为设计两种非负矩阵分解(NMF)方式以更好地保存网络信息提供了可行性。联合NMF的目标是保持不同视图之间的一致信息,独立NMF的目标是保持每个视图的唯一信息。在实际数据集上的实验结果表明,该模型在实际应用中优于三种基线。
2021-10-20 cs.SI
AdaGNN: A multi-modal latent representation meta-learner for GNNs based on AdaBoosting
University of California, Berkeley(加州大学伯克利分校);LinkedIn(领英)
图神经网络(GNNs)作为深度学习的一个特殊领域,专注于提取网络的内在特征,在学术界和工业界都受到了前所未有的关注。大多数最先进的GNN模型都提供了富有表现力的,鲁棒的,可扩展的和归纳的解决方案,使社交网络推荐系统具有丰富的网络功能,这些功能在计算上难以利用基于图遍历的方法。最近的GNN遵循编码器-解码器范式,将子图中的高维异构信息编码到一个低维嵌入空间中。然而,一个单一的嵌入空间通常无法捕捉所有方面的图形信号。在这项工作中,我们提出了基于提升的GNN Meta学习器,它自动学习多个投影和相应的嵌入空间,捕获图形信号的不同方面。因此,子图之间的相似性通过在多个嵌入空间上嵌入接近度来量化。AdaGNN对于具有丰富多样的节点邻域信息的应用程序表现非常出色。此外,AdaGNN与任何归纳GNN兼容,用于节点级和边缘级任务。
2021-08-14 cs.LG cs.SI
Network Embedding: on Compression and Learning
Oklahoma State University(俄克拉荷马州立大学);University of Central Oklahoma(中中央俄克拉荷马大学)
近年来,将图的结构信息编码到向量空间中的网络嵌入在网络分析中变得流行。虽然最近的方法显示出良好的性能,为各种应用程序,巨大的尺寸的图可能会阻碍现有的网络嵌入方法直接应用于他们。本文提出了一种新的有效的网络嵌入方法NECL。1)是否存在理想的网络压缩?2)网络的压缩是否会显著提高网络的表示学习?对于第一个问题,我们提出了一种基于邻域相似性的图压缩方法,该方法对输入图进行压缩以得到更小的图,而不会丢失关于图的全局结构和图中顶点的局部邻近性的任何/很多信息。对于第二个问题,我们用压缩图代替原来的大图进行网络嵌入,以降低嵌入代价。NECL是一种通用的元策略,可以提高所有基于随机游走的最先进的图嵌入算法的效率,包括DeepWalk和Node 2 vec,而不会失去它们的有效性。在大型真实网络上进行的大量实验验证了NECL方法的效率,平均提高了23 - 57%的嵌入时间,包括行走和学习时间,而不会降低分类准确性,如DBLP,BlogCatalog,Cora和Wiki等真实图形上的单标签和多标签分类任务。
2019-07-08 cs.LG cs.SI
Hyperbolic Mapping of Human Proximity Networks
人类邻近网络是表示物理空间中人类之间的近距离邻近的时间网络。在过去的15年里,它们被广泛研究,因为它们对于了解疾病和信息在人类中的传播至关重要。在这里,我们解决的问题,人类的邻近网络映射到双曲空间。这些网络的每个快照通常是非常稀疏的,由少量的交互(即,非零度)节点。然而,我们表明,这种系统在足够长的时间内的时间聚集表示可以有意义地嵌入到双曲空间中,使用传统的(非移动)复杂网络开发的方法。我们证明这种兼容性理论和实验验证。我们产生了六个不同的真实系统的双曲映射,并表明该映射可用于识别社区,促进有效的贪婪路由的时间网络,并预测未来的链接具有显着的精度。此外,我们表明,流行病的到达时间与双曲线距离感染源的地图呈正相关。因此,双曲线嵌入也可以为理解和预测人类邻近系统中的传染病传播行为提供一个新的视角。
2020-11-21 cond-mat.stat-mech cs.SI physics.soc-ph
Unsupervised Framework for Evaluating and Explaining Structural Node Embeddings of Graphs
Toronto Metropolitan University(多伦多都会大学);SGH Warsaw School of Economics(华沙经济学院);Patagona Technologies(帕塔戈纳科技公司);Simons Institute for the Theory of Computing(西蒙斯计算理论研究所)
本文提出一种无监督框架,用于对图的结构化节点嵌入进行排序和解释,通过评估嵌入对预定义节点特征的学习效果及维度对应关系,提升黑盒算法的可解释性。
2023-06-19 cs.LG cs.SI
GloDyNE: Global Topology Preserving Dynamic Network Embedding
Southern University of Science and Technology(南方科技大学);University of Birmingham(伯明翰大学)
由于现实世界中的网络具有随时间演化的特性,在动态环境中学习网络的低维拓扑表示正引起人们的广泛关注。动态网络嵌入(DNE)的主要和共同目标是在每个时间步有效地更新节点嵌入,同时保持网络拓扑结构。大多数现有DNE方法的想法是捕获受影响最大的节点(而不是所有节点)处或周围的拓扑变化,并相应地更新节点嵌入。不幸的是,这种近似,虽然可以提高效率,不能有效地保持在每个时间步的动态网络的全局拓扑结构,由于没有考虑不活动的子网络,接收累积的拓扑变化传播通过高阶邻近。为了解决这个问题,我们提出了一种新的节点选择策略,在网络中,这是协调与一个新的增量学习范式的基于Skip-Gram的嵌入方法的代表性节点的选择。广泛的实验表明,GloDyNE,与一小部分的节点被选中,已经可以实现优越的或相当的性能w.r.t.在三个典型的下游任务中使用最先进的DNE方法。特别是,GloDyNE显着优于其他方法在图重建任务,这表明了它的全局拓扑保持能力。源代码可在https://github.com/houchengbin/GloDyNE上获得
2021-12-06 cs.LG cs.SI
Network2Vec Learning Node Representation Based on Space Mapping in Networks
South China University of Technology(华南理工大学);University of California, Irvine(加州大学欧文分校)
用节点邻接矩阵表示的复杂网络制约了机器学习和并行算法的应用。为了解决这个限制,网络嵌入(即,图表示)已经被深入研究,以学习嵌入空间中每个节点的固定长度向量,其中原始图中的节点属性被保留。现有的方法主要集中在学习嵌入向量以保持节点的邻近性,即,在嵌入空间中,图空间中彼此相邻的节点也应当是闭合的,但是不强制在嵌入空间和图空间之间共享代数统计特性。在这项工作中,我们提出了一个轻量级的模型,题为Network 2 Vec,学习网络嵌入的基础上,图空间和嵌入空间之间的语义距离映射。该模型利用群同态的性质在两个空间之间架起了一座桥梁。通过对节点分类、链接预测和社区可视化等不同学习任务的实验,验证了新嵌入方法的有效性和高效性,在节点分类和链接预测任务中,新嵌入方法最多可将现有模型提高19%和7%.此外,我们的方法是显着更快,消耗的时间只有一些著名的方法所使用的一小部分。
2019-10-23 cs.LG cs.SI
Benchmarking Network Embedding Models for Link Prediction: Are We Making Progress?
Ghent University(根特大学);Dept. of Electronics and I. S.(电子与信息系统系)
网络嵌入方法将网络的节点映射到嵌入空间中的向量,使得这些表示对于估计网络中的节点对之间的相似性或接近度的一些概念是有用的。然后,通过下游预测任务的结果来展示这些节点表示的质量。然而,诸如链接预测之类的常用基准任务呈现出复杂的评估管道和丰富的设计选择。这一点,再加上缺乏标准化的评价机制,可能会掩盖该领域的实际进展。在本文中,我们的目标是阐明最先进的网络嵌入方法的链接预测,并显示,使用一致的评估管道,只有薄的进展,在过去几年中取得的。我们在这里提出的新进行的基准测试,包括17种嵌入方法,也表明许多方法甚至比简单的嵌入方法更好。最后,我们认为,标准化的评估工具可以修复这种情况,并促进在这一领域的未来进展。
2020-09-03 cs.AI cs.LG cs.SI
HEAT: Hyperbolic Embedding of Attributed Networks
在机器学习领域,寻找一种由网络描述的分层结构化数据的低维表示仍然是一个具有挑战性的问题。一种新兴的方法是将这些网络嵌入到双曲空间中,因为它可以自然地表示网络的层次结构。然而,现有的双曲嵌入方法不能处理属性网络,其中节点被注释有额外的属性。这些属性可以提供额外的邻近信息来约束节点的表示,这对于学习高质量的双曲嵌入很重要。为了填补这一空白,我们引入了HEAT(双曲嵌入的属性网络),第一种方法嵌入属性网络的双曲空间。HEAT由1)用于获得捕获拓扑和属性相似性的训练样本的修改的随机游走算法和2)用于从所获得的训练样本学习双曲面嵌入的学习算法组成。我们表明,通过利用节点属性,HEAT可以在几个下游任务上胜过最先进的双曲嵌入算法。作为一种通用的嵌入方法,HEAT为在各种属性和非属性网络上学习双曲流形打开了大门。
2019-05-02 cs.SI
A Survey on Role-Oriented Network Embedding
Tianjin University(天津大学);Eindhoven University of Technology(埃因霍温理工大学)
近年来,网络嵌入(Network Embedding,NE)已成为机器学习和数据采掘领域最具吸引力的研究课题之一。NE方法在各种图挖掘任务中取得了很好的性能,包括链接预测和节点聚类和分类。各种各样的NE方法集中于网络的邻近性。它们为每个节点学习面向社区的嵌入,如果网络中的两个节点彼此更接近,则相应的表示是相似的。同时,还有另一种类型的结构相似性,即,基于角色的相似性,它通常是互补的,完全不同于邻近性。为了保持基于角色的结构相似性,提出了面向角色的网元问题。然而,相对于面向社区的NE问题,目前只有少数面向角色的嵌入方法被提出。虽然探索较少,考虑到角色在分析网络和许多应用中的重要性,面向角色的NE可以阐明,这是必要的,及时提供一个全面的概述现有的面向角色的NE方法。在这篇综述中,我们首先澄清了社区导向和角色导向的网络嵌入之间的区别。之后,我们提出了一个一般的框架来理解面向角色的NE和两个层次的分类,以更好地分类现有的方法。然后,我们选择了一些代表性的方法,根据建议的分类,并简要介绍了他们的动机,发展和差异进行讨论。此外,我们进行了全面的实验,以经验评估这些方法在各种角色相关的任务,包括节点分类和聚类(角色发现),top-k相似性搜索和可视化使用一些广泛使用的合成和真实世界的数据集。
2021-07-18 cs.AI cs.SI
GAGE: Geometry Preserving Attributed Graph Embeddings
University of Pennsylvania(宾夕法尼亚大学);University of Virginia(弗吉尼亚大学)
节点嵌入是提取网络中连接的某些实体的简洁和信息表示的任务。各种真实世界的网络都以特征或时间序列数据的形式包含有关节点连接性和某些节点属性的信息。现代表示学习技术采用节点的连接性和属性信息以无监督的方式产生嵌入。在这种情况下,导出保留网络几何结构和属性向量的嵌入将是非常可取的,因为它们将反映特征空间中的拓扑邻域结构和邻近度。虽然这在仅观察网络的连通性或属性信息时维护起来相当简单,但保留这两种类型信息的几何形状是具有挑战性的。提出了一种新的基于张量分解的属性网络节点嵌入方法,该方法保持了连接和属性的距离。此外,开发了一种有效的轻量级算法来处理学习任务,并使用多个最先进的基线进行了明智的实验,表明该算法在下游任务中提供了显着的性能改进。
2022-02-23 cs.LG cs.SI eess.SP
Fast, Warped Graph Embedding: Unifying Framework and One-Click Algorithm
用几个数字来描述社交网络中的用户的最佳方式是什么?从数学上讲,这相当于为图中的每个节点分配一个向量表示,这个过程称为图嵌入。我们提出了一个新的框架,GEM-D,统一了过去的大多数算法,如LapEigs,DeepWalk和node 2 vec。GEM-D通过将任何图嵌入算法分解为三个构建块来实现其目标:节点邻近函数、扭曲函数和损失函数。基于对GEM-D的深入分析,我们提出了一种新的算法,称为UltimateWalk,它的性能优于最近提出的最先进的DeepWalk和node 2 vec。本文的主要贡献在于:(1)提出的框架GEM-D统一了以往的图嵌入算法,为图嵌入的设计提供了一个通用的方法:(2)翘曲函数的非线性对嵌入质量有重要影响,指数函数是经验最优的;(3)本文提出的算法UltimateWalk是一种一键(无需用户自定义参数)、可扩展的、具有封闭形式的解决方案。
2017-02-19 cs.SI
EPNE: Evolutionary Pattern Preserving Network Embedding
Peking University(北京大学);The Hong Kong University of Science and Technology(香港科技大学)
信息网络无处不在,是关系数据建模的理想选择。由于网络的稀疏性和不规则性,网络嵌入算法引起了众多研究者的关注,提出了大量的静态网络嵌入算法。然而,在现实生活中,网络会随着时间的推移而不断发展。因此,进化模式,即节点如何随着时间的推移发展自己,将作为嵌入网络中静态结构的有力补充,相对较少的作品关注。在本文中,我们提出了EPNE,一个时间网络嵌入模型保持局部结构的节点的演化模式。特别是,我们分析了进化模式的周期性和不周期性和设计策略,相应地在时间-频率域的因果卷积的基础上,这样的模式。此外,我们提出了一个时间的目标函数,同时优化与邻近的,这样的时间和结构信息被保存。通过对时间信息的充分建模,我们的模型能够在各种预测任务中优于其他竞争方法。
2020-09-24 cs.LG cs.NE cs.SI
Privacy-Preserving Graph Embedding based on Local Differential Privacy
Beijing Institute of Technology(北京理工大学)
针对图数据中的敏感信息泄露问题,提出满足本地差分隐私的 PrivGE 框架,通过 LDP 混淆与个性化 PageRank 学习节点表示,并在真实数据集上验证其隐私-效用平衡优势。
2024-08-04 cs.CR cs.LG cs.SI
Representation Learning for Scale-free Networks
College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院)
网络嵌入的目标是学习网络中顶点的低维表示,同时保持网络的结构和固有属性。现有的网络嵌入工作主要集中在保持微观结构,如一阶和二阶邻近的顶点,而在很大程度上忽略了宏观的无标度属性。无标度属性描述了顶点度遵循重尾分布的事实(即,只有少数顶点具有高度数),并且是诸如社交网络之类的真实世界网络的关键属性。本文研究了无标度网络的学习表示问题。我们首先从理论上分析了嵌入和重建欧氏空间中的无标度网络的困难,通过将我们的问题转化为球包装问题。然后,我们提出了设计无标度保性网络嵌入算法的“度惩罚”原则:惩罚高度顶点之间的邻近性。我们介绍了我们的原则,分别利用频谱技术和skip-gram模型的两个实现。在6个数据集上的实验表明,该算法不仅能够重构重尾分布的度分布,而且在顶点分类和链接预测等网络挖掘任务中的性能优于现有的嵌入模型.
2017-11-29 cs.AI cs.SI stat.AP
Unifying Homophily and Heterophily Network Transformation via Motifs
University of Sheffield(谢菲尔德大学)
高阶邻近度(HOP)是大多数网络嵌入方法的基础,因为它对节点嵌入的质量和下游网络分析任务的性能有重要影响。大多数现有的HOP定义是基于homophily将紧密且高度互连的节点紧密地放置在嵌入空间中,或者基于heterophily将遥远但结构相似的节点在嵌入后放置在一起。在现实世界的网络中,两者可以共存,因此只考虑其中之一可能会限制预测性能和可解释性。然而,没有一个普遍和普遍的解决办法可以兼顾这两个方面。在本文中,我们提出了这样一个简单而强大的框架,称为同质性和异质性保持网络变换(H2NT)来捕获HOP,灵活地统一同质性和异质性。具体而言,H2NT利用基序表示将网络转换为具有混合假设的新网络,通过微观级和宏观级行走路径。H2NT可以用作增强器,与任何现有的网络嵌入方法集成,而不需要对后面的方法进行任何改变。由于H2NT可以稀疏化具有模体结构的网络,因此在集成时还可以提高现有网络嵌入方法的计算效率。我们在节点分类、结构角色分类和模体预测上进行了实验,以显示优于最先进方法的预测性能和计算效率。特别是,基于DeepWalk的H2 NT在基序预测精度方面实现了24%的提高,同时与原始DeepWalk相比减少了46%的计算时间。
2020-12-27 cs.LG cs.SI
Towards Deeper Understanding of PPR-based Embedding Approaches: A Topological Perspective
The Chinese University of Hong Kong(香港中文大学);Beijing Jiaotong University(北京交通大学)
本研究从拓扑视角分析基于PPR的节点嵌入方法,提出统一闭式框架和两种图拓扑恢复方法,证明其比随机游走保留更多拓扑信息,首次揭示了其在下游任务中表现更优的原因。
2024-05-30 cs.LG cs.SI stat.ML
Embedding Node Structural Role Identity Using Stress Majorization
Dartmouth College(达特茅斯学院);Millennium Management, LLC(千禧管理有限责任公司);Stony Brook Univeristy(石溪大学)
网络中的节点可以具有确定它们在系统中的角色的一个或多个功能。与捕获节点的本地上下文的本地邻近度相反,角色标识捕获节点在网络中扮演的功能性“角色”,例如作为组的中心或两个组之间的桥梁。这意味着网络中相距遥远的节点可以具有相似的结构角色身份。最近的几项工作已经探索了在网络中嵌入节点角色的方法。然而,这些方法都依赖于近似或间接建模的结构等效。在本文中,我们提出了一个新的和灵活的框架,使用应力优化,转换网络中的高维角色身份直接(没有近似或间接建模)到一个低维嵌入空间。我们的方法也是灵活的,因为它不依赖于特定的结构相似性定义。我们使用三个真实世界和五个合成网络对节点分类,聚类和可视化任务进行了评估。我们的实验表明,我们的框架在学习节点角色表示方面取得了优于现有方法的结果。
2021-09-14 cs.AI cs.LG cs.SI
Associative Learning for Network Embedding
Rensselaer Polytechnic Institute(伦斯勒理工学院);IBM Research(IBM研究院)
网络嵌入的任务是将网络中的节点表示为低维向量,同时结合拓扑和结构信息。大多数现有的方法解决这个问题的因式分解的邻近矩阵,直接或隐式。在这项工作中,我们从一个新的角度介绍了一种网络嵌入方法,它利用现代Hopfield网络(MHN)进行联想学习。我们的网络学习每个节点的内容与该节点的邻居之间的关联。这些关联在MHN中充当记忆。网络的循环动态使得在给定被屏蔽节点的邻居的情况下恢复该节点成为可能。我们所提出的方法进行评估不同的下游任务,如节点分类和链接预测。结果显示,与常见的矩阵分解技术和基于深度学习的方法相比,该方法具有竞争力的性能。
2022-08-30 cs.LG cs.NE cs.SI
Neural-Brane: Neural Bayesian Personalized Ranking for Attributed Network Embedding
Indiana University Purdue University Indianapolis(印第安纳大学与普渡大学印第安纳波利斯联合分校);Facebook Inc.(脸书公司);IBM Research(IBM研究院)
近年来,网络嵌入方法,即学习网络中每个顶点的分布式向量表示,引起了人们的极大兴趣。现有的工作已经证明,通过嵌入方法学习的顶点表示在许多现实世界的应用中提供了优越的性能,例如节点分类,链接预测和社区发现。然而,大多数用于网络嵌入的现有方法仅利用顶点的拓扑信息,而忽略了在所有现实生活网络中丰富的节点属性(例如,在线社交网络的用户简档或引文网络的文本内容)的集合。考虑属性和关系信息的联合网络嵌入需要完整的网络信息,并且可以进一步丰富学习的矢量表示。在这项工作中,我们提出了神经膜,一种新的神经贝叶斯个性化排名的属性网络嵌入。对于给定的网络,Neural-Brane利用统一网络拓扑信息和节点属性的神经网络模型提取节点的潜在特征表示,并利用贝叶斯个性化排序目标,利用相似节点对和不相似节点对之间的邻近度排序.我们通过在四个真实世界的数据集上解决节点分类和聚类任务来评估Neural-Brane产生的顶点嵌入的质量。实验结果表明,我们提出的方法优于国家的最先进的现有方法。
2018-08-20 cs.LG cs.SI stat.ML
Distributed Representation of Subgraphs
Virginia Tech(弗吉尼亚理工大学)
网络嵌入在学习网络的有效特征表示方面已经变得非常流行。受最近嵌入在自然语言处理中的成功的启发,研究人员试图找到网络嵌入,以便利用机器学习算法进行节点分类和边缘预测等挖掘任务。然而,大部分的工作集中在寻找分布式表示的节点,这是固有的不适合的任务,如社区发现这是直观地依赖于子图。在这里,我们提出了sub2vec,一个无监督的可扩展算法来学习任意子图的特征表示。我们提供的手段来描述子图之间的相似性,并提供理论分析sub2vec,并证明它保持了所谓的本地接近。我们还强调了sub2vec的可用性,利用它进行网络挖掘任务,如社区发现。我们表明,sub2vec得到显着的收益超过国家的最先进的方法和节点嵌入方法。特别是,sub2vec提供了一种方法来生成更丰富的子图特征词汇表,以支持表示和推理。
2017-02-22 cs.LG cs.SI stat.ML
From Node Embedding To Community Embedding
Advanced Digital Sciences Center(高级数字科学中心);Nanyang Technological University(南洋理工大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
现有的图嵌入方法大多集中在节点上,其目的是输出图中每个节点的向量表示,使得图上“接近”的两个节点在低维空间中也接近。尽管成功地嵌入了用于图分析的单个节点,但我们注意到嵌入社区的一个重要概念(即,节点组)缺失。嵌入社区非常有用,不仅可以支持各种社区级应用程序,还可以帮助在图嵌入中保留社区结构。事实上,我们认为社区嵌入提供了一个高阶近似来定义节点的接近度,而大多数流行的图嵌入方法都专注于一阶和/或二阶近似。为了学习社区嵌入,我们依赖于社区嵌入和节点嵌入相互加强的洞察力。因此,我们提出了ComEmbed,第一个社区嵌入方法,它联合优化社区嵌入和节点嵌入在一起。我们在真实世界的数据集上评估ComEmbed。我们表明,它在节点分类和社区预测这两个任务中的表现都优于最先进的基线。
2017-09-14 cs.AI cs.SI
Diffusion Maps for Textual Network Embedding
Duke University(杜克大学)
文本网络嵌入利用与网络相关联的富文本信息来学习顶点的低维向量表示。最近的研究不是使用典型的自然语言处理(NLP)方法,而是利用同一边缘上的文本之间的关系来图形化地嵌入文本。然而,这些模型忽略了测量图中任何两个文本之间的完整连接水平。我们提出了文本网络嵌入(DMTE)的扩散图,集成了全局结构信息的图形捕捉文本之间的语义相关性,与扩散卷积操作应用于文本输入。此外,一个新的目标函数的设计,以有效地保持高阶邻近使用图扩散。实验结果表明,该方法优于国家的最先进的方法的顶点分类和链接预测任务。
2019-01-14 cs.CL cs.SI stat.ML
K-Core based Temporal Graph Convolutional Network for Dynamic Graphs
Beihang University(北京航空航天大学);HuaRong RongTong (Beijing) Technology Co., Ltd.(华融通(北京)科技有限公司)
图表示学习是各种应用中的基本任务,其努力学习能够保持图拓扑信息的节点的低维嵌入。然而,许多现有的方法集中在静态图,而忽略了不断变化的图形模式。受图卷积网络(GCN)在静态图嵌入中的成功启发,提出了一种新的基于k核的时态图卷积网络(CTGCN),用于学习动态图的节点表示.与以前的动态图嵌入方法相比,CTGCN可以保持局部连接邻近性和全局结构相似性,同时捕获图的动态特性。在该框架中,传统的图卷积被推广为特征转换和特征聚合两个阶段,从而赋予了CTGCN更大的灵活性,使得CTGCN能够在同一框架下学习连接信息和结构信息.在7个真实图上的实验结果表明,CTGCN在链接预测和结构角色分类等多个任务上优于现有的最先进的图嵌入方法。本工作的源代码可以从\url{https://github.com/jhljx/CTGCN}获得。
2020-11-06 cs.LG cs.SI stat.ML
Attributed Network Embedding for Learning in a Dynamic Environment
Arizona State University(亚利桑那州立大学);Texas A&M University(得克萨斯农工大学);Michigan State University(密歇根州立大学);Huawei Research America(华为美国研究院)
网络嵌入利用所显示的节点邻近度来学习网络中每个节点的低维节点向量表示。学习的嵌入可以推进各种学习任务,如节点分类,网络聚类和链接预测。大多数,如果不是全部,现有的作品,绝大多数是在普通和静态网络的背景下进行的。尽管如此,在现实中,网络结构往往随着时间的推移而发展,增加/删除链接和节点。此外,绝大多数现实世界的网络都与一组丰富的节点属性相关联,并且它们的属性值也在自然变化,随着新内容模式的出现和旧内容模式的消失。这些变化的特征促使我们寻求一种有效的嵌入表示来捕获网络和属性的演化模式,这对于动态环境中的学习至关重要。据我们所知,我们是第一个解决这个问题的人,面临以下两个挑战:(1)固有相关的网络和节点属性可能是嘈杂和不完整的,它需要一个强大的共识表示来捕获它们的个体属性和相关性;(2)嵌入学习需要以在线方式执行,以适应相应的变化。在本文中,我们解决这个问题,提出了一种新的动态属性网络嵌入框架- DANE。特别是,DANE首先提供了一种用于共识嵌入的离线方法,然后利用矩阵扰动理论以在线方式保持最终嵌入结果的新鲜度。我们在合成和真实属性网络上进行了大量的实验,以证实所提出的框架的有效性和效率。
2018-08-26 cs.LG cs.SI stat.ML
Spectral Network Embedding: A Fast and Scalable Method via Sparsity
Tsinghua University(清华大学)
网络嵌入旨在学习网络中节点的低维表示,同时保留网络结构和固有属性。最近,由于下游网络学习任务(如节点分类、链接预测和可视化)的重大进展,它引起了极大的关注。然而,大多数现有的网络嵌入方法遭受昂贵的计算,由于大量的网络。在本文中,我们提出了一个$10\times \sim 100\times$更快的网络嵌入方法,称为Progle,通过优雅地利用在线网络的稀疏性和频谱分析。在Progle中,我们首先构造\textit{sparse}邻近矩阵,并通过稀疏矩阵分解有效地训练网络嵌入。然后,我们通过频谱分析引入网络传播模式,将局部和全局结构信息嵌入。此外,该模型可以推广到集成网络信息到其他未经充分训练的嵌入速度。受益于稀疏谱网络嵌入,我们在四个不同数据集上的实验表明,Progle在准确性方面优于或相当于最先进的无监督比较方法--DeepWalk,LINE,node 2 vec,GraRep和HOPE,而$10\times$比最快的基于word 2 vec的方法更快。最后,我们验证了Progle在实际大规模网络和多尺度合成网络中的可扩展性。
2018-06-13 cs.AI cs.SI
LATTE: Application Oriented Social Network Embedding
近年来,许多研究工作提出将网络结构化数据嵌入到低维特征空间中,其中每个节点表示为特征向量。然而,由于嵌入过程与外部任务的分离,大多数现有嵌入模型的学习嵌入结果对于具有特定目标的应用任务可能是无效的,例如,社区发现或信息扩散。本文提出研究面向应用的异构社会网络嵌入问题。与已有的工程显著不同的是,该问题除了保持网络结构外,还应在目标函数中加入外部应用的目标。针对这一问题,本文提出了一种新的网络嵌入框架,即“面向应用的网络嵌入“(Latte)模型。在Latte中,异构网络结构可以应用于计算节点的“扩散邻近度”分数,该分数捕获本地和全局网络结构。基于这些计算出的分数,Latte通过将自动编码器模型模型扩展到异构网络场景来学习网络表示特征向量,这也可以有效地将网络嵌入和外部应用任务的目标结合起来。在真实世界的异构社交网络数据集上进行了大量的实验,实验结果证明了Latte在学习特定应用任务的表示向量方面的出色性能。
2019-11-08 cs.DB cs.SI
Towards Improving Embedding Based Models of Social Network Alignment via Pseudo Anchors
Chongqing University of Posts and Telecommunications(重庆邮电大学);Beijing Institute of Technology(北京理工大学);Hong Kong Baptist University(香港浸会大学)
社会网络对齐旨在对齐社交网络中的个人身份。基于嵌入的模型已被证明是有效的对齐,其中结构接近保持目标通常被采用的模型训练。观察到“过度接近”的用户嵌入是不可避免的,这样的模型导致对齐不准确,我们提出了一种新的学习框架,试图通过引入精心植入的伪锚,强制执行所产生的嵌入更广泛地分开用户之间。我们进一步提出了一种Meta学习算法来指导学习过程中伪锚嵌入的更新。通过使用伪锚点和元学习的拟议干预允许学习框架适用于广泛的网络对齐方法。我们已经将建议的学习框架纳入几个国家的最先进的模型。我们的实验结果证明了其有效性,其中植入伪锚的方法可以通过相当大的幅度超过没有伪锚的方法,特别是当只有很少的标记锚时。
2021-11-22 cs.AI cs.SI
Semi-supervised Embedding in Attributed Networks with Outliers
The Ohio State University(俄亥俄州立大学)
在本文中,我们提出了一个新的框架,称为半监督嵌入属性网络与离群点(SEANO),学习低维向量表示,系统地捕捉拓扑接近,属性亲和力和标签相似性的顶点在部分标记的属性网络(SEANO)。我们的方法被设计为在转导和感应设置中工作,同时明确减轻离群值的噪声影响。在Web、文本和图像领域的各种数据集上的实验结果表明,SEANO在半监督分类中的优势超过了最先进的方法,无论是在传导还是归纳环境下。我们还表明,SEANO中的参数子集可解释为离群值,并且在应用于检测网络离群值时可以显着优于基线方法。最后,我们提出了使用SEANO在一个具有挑战性的现实世界的设置-洪水映射的卫星图像,并表明它是能够优于现代遥感算法的这项任务。
2018-04-26 cs.AI cs.SI
SINE: Scalable Incomplete Network Embedding
属性化网络嵌入旨在学习网络中节点的低维向量表示,其中每个节点包含描述节点内容的丰富属性/特征。由于网络拓扑结构和节点属性往往表现出高度的相关性,将节点属性邻近度纳入网络嵌入有利于学习良好的向量表示。在现实中,大规模的网络往往有不完整/缺失的节点内容或链接,但现有的属性网络嵌入算法都在网络是完整的假设下操作。因此,它们的性能容易受到丢失数据的影响,并且可扩展性差。在本文中,我们提出了一个可扩展的不完全网络嵌入(SINE)算法学习节点表示不完全图。SINE制定了一个概率学习框架,分别对节点上下文和节点属性关系进行建模。与已有的属性网络嵌入算法不同,SINE算法具有更大的灵活性,可以充分利用有用信息,减轻信息缺失对表示学习的负面影响。一个基于随机梯度下降的在线算法来学习节点表示,允许SINE扩展到大规模网络具有高学习效率。我们通过对真实网络的大量实验来评估SINE的有效性和效率。实验结果证实,SINE优于国家的最先进的基线在各种任务,包括节点分类,节点聚类,和链接预测,在设置与丢失的链接和节点属性。SINE在具有数百万节点/边和高维节点特征的大规模网络上也具有可扩展性和高效性。本文的源代码可在https://github.com/daokunzhang/SINE上获得。
2018-10-16 cs.SI
Adaptive Network Embedding with Arbitrary Multiple Information Sources in Attributed Graphs
本文提出自适应混合图表示(AHGR)方法,通过图重加权整合任意多种信息源,并引入转移关系处理不一致性,在合成和真实属性图上优于基线。
2023-05-16 cs.SI
Vertex-Context Sampling for Weighted Network Embedding
近年来,网络嵌入方法因其在各种信息检索任务中的有效性而受到越来越多的关注。目标是学习信息网络中顶点的低维表示,同时捕获和保存网络结构。对于网络嵌入方法的性能至关重要的是如何对网络的边/顶点进行采样以用于学习过程。许多现有方法采用均匀采样方法来降低学习复杂度,但是当网络是非均匀的(即加权网络)时,这种均匀采样会导致信息丢失。本文的目标是提出一个通用的顶点采样框架,与大多数现有的网络嵌入方法无缝地工作,以支持加权,而不是统一的顶点/边采样。为了提高效率,我们提出了一个精致的顺序顶点到上下文图数据结构,这样采样一个训练对学习只需要恒定的时间。为了提高可伸缩性和内存效率,我们设计了图形数据结构,以保持较低的空间消耗,而不需要额外的空间。除了实现现有的网络嵌入方法,所提出的框架可以用来实现扩展,功能高阶邻近建模和加权关系建模。在包括商业大规模数据集在内的三个数据集上进行的实验验证了所提出的加权网络嵌入方法在各种任务上的有效性和效率,包括词相似性搜索,多标签分类和项目推荐。
2017-11-01 cs.IR cs.SI
The impossibility of low rank representations for triangle-rich complex networks
University of California, Santa Cruz(加州大学圣克鲁兹分校);Google(谷歌);Stanford University(斯坦福大学)
复杂网络的研究是现代科学的一个重大发展,丰富了社会科学、生物学、物理学和计算机科学。这种网络的模型和算法在我们的社会中是普遍存在的,并且通过社交网络、搜索引擎和推荐系统来影响人类行为。一个广泛使用的算法技术建模这样的复杂网络是构建一个低维的欧几里得嵌入的顶点的网络,其中顶点的接近度被解释为边缘的可能性。与普遍的观点相反,我们认为,这样的图嵌入不捕捉复杂网络的显着属性。我们关注的两个属性是低度和大的聚类系数,这已经被广泛地建立在现实世界的网络中。我们从数学上证明,任何嵌入(使用点积来衡量相似性),可以成功地创建这两个属性必须有排名接近线性的顶点数。除其他影响外,这表明流行的嵌入技术,如奇异值分解和node2vec未能捕捉到现实世界复杂网络的重要结构方面。此外,我们实证研究了一些不同的嵌入技术的基础上点积,并表明,他们都未能捕捉到的三角形结构。
2020-03-27 cs.DM cs.LG cs.SI
Demographic Influences on Contemporary Art with Unsupervised Style Embeddings
University of Bamberg(班贝格大学);Osaka University(大阪大学)
计算艺术分析通过其对分类任务的依赖,优先考虑历史数据集,其中艺术品已经通过必要的注释进行了良好的分类。另一方面,今天的艺术作品数量众多,而且很容易通过互联网和社交网络获得,专业和业余艺术家都使用这些网络来展示他们的作品。虽然这种艺术在风格和流派方面尚未分类,不太适合监督分析,但数据源具有新颖的信息,可以帮助以同样新颖的方式构建视觉内容。作为朝着这个方向迈出的第一步,我们介绍了contempArt,这是一个专门针对当代艺术品的多模态数据集。contempArt是一个绘画和素描的集合,一个基于Instagram上的社交联系和其他社会人口统计信息的详细图表网络;所有这些都与442位艺术家在职业生涯开始时有关。我们评估了三种适合生成无监督风格嵌入图像的方法,并将它们与剩余数据相关联。我们发现视觉风格与社会接近度、性别和国籍之间没有联系。
2020-12-01 cs.CV cs.SI
Classic Graph Structural Features Outperform Factorization-Based Graph Embedding Methods on Community Labeling
University of California, Santa Cruz(加州大学圣克鲁兹分校);Google(谷歌)
图表示学习(也称为图嵌入)是一种将网络结构整合到机器学习模型中的流行技术。无监督图嵌入方法旨在通过学习每个节点的低维向量表示(嵌入)来捕获图结构。尽管这些嵌入被广泛用于各种下游转导机器学习任务,但很少有对这种方法在常见任务中的有效性进行原则性分析。在这项工作中,我们提供了一个经验和理论分析的一类嵌入对成对社区标记的共同任务的性能。这是经典社区发现问题的二进制变体,该问题寻求构建分类器以确定一对顶点是否参与社区。根据我们的基础理解目标,我们专注于一类流行的无监督嵌入技术,这些技术学习顶点邻近矩阵的低秩因子分解(该类包括GraRep,DeepWalk,node2vec,NetMF等方法)。我们进行了详细的实证分析,在各种真实的和合成的图形与地面真理的社区标签。在我们研究的所有情况下,从嵌入特征训练的模型在社区标记上表现不佳。在组播中,具有经典图结构特征的简单逻辑模型轻松地优于嵌入模型。对于一个更原则性的理解,我们提供了一个理论分析,这些嵌入在捕捉社区结构的有效性。我们正式证明了流行的低维分解方法要么不能产生社区结构,要么只能产生"不稳定”社区。这些社区在小扰动下本质上是不稳定的。
2022-01-20 cs.AI cs.DS cs.SI
$\text{H}^2\text{TNE}$: Temporal Heterogeneous Information Network Embedding in Hyperbolic Spaces
College of Computer Science, Nankai University(南开大学计算机学院);College of Cyber Science, Nankai University(南开大学网络空间安全学院);TJ Key Laboratory of NDST, Nankai University(南开大学天津市NDST重点实验室)
针对真实时序异质网络的层次与幂律结构,提出 H²TNE 模型,通过双重约束随机游走和双曲距离学习嵌入,并在时序链接预测与节点分类上优于 SOTA。
2024-06-14 cs.AI cs.SI
BL-MNE: Emerging Heterogeneous Social Network Embedding through Broad Learning with Aligned Autoencoder
网络嵌入的目的是将网络数据投影到一个低维的特征空间中,在该空间中,节点被表示为一个唯一的特征向量,网络结构可以被有效地保留。近年来,越来越多的在线应用服务站点可以表现为海量的复杂网络,这对传统的机器学习算法来说是极具挑战性的。将复杂网络数据有效地嵌入到低维特征表示中,既可以节省数据存储空间,又可以使传统的机器学习算法适用于处理网络数据。如果网络是稀疏结构的,比如新兴的连接很少的网络,网络嵌入性能将大大降低。在本文中,我们提出基于广泛的学习设置来学习目标新兴网络的嵌入表示,其中新兴网络同时与其他外部成熟网络对齐。为了解决这个问题,本文提出了一种新的嵌入框架,即“基于深度对齐的自编码器的嵌入”(DIME)。DIME在基于广义学习的统一分析中处理了不同的链接和属性,并引入了多属性对齐的异构社会网络概念来建模网络结构。本文引入了一组Meta路径,通过异构链路和属性信息定义了用户之间的各种连接。网络中用户之间的接近度被定义为Meta接近度得分,该得分将被馈送到DIME中以学习新兴网络中用户的嵌入向量。在现实世界对齐的社交网络上进行了大量的实验,这些实验证明了DIME在学习新兴的网络嵌入向量方面的有效性。
2017-11-26 cs.DB cs.SI