Decoupled Variational Embedding for Signed Directed Networks
Cooperative Medianet Innovation Center, Shanghai Jiao Tong University(上海交通大学协同媒体创新中心)
符号有向网络的节点表示学习在链接符号预测、节点分类和节点推荐等实际应用中受到了广泛的关注。挑战在于如何充分编码网络的复杂拓扑信息。目前的研究主要集中在保持一阶网络拓扑结构,这表明节点的紧密关系。然而,这些方法通常无法捕捉高阶拓扑结构,表明节点的局部结构,并作为网络拓扑结构的一个重要特征。此外,对于一阶拓扑,不存在的链路的附加值在很大程度上被忽略。在本文中,我们提出了学习更多的代表性节点嵌入,同时捕获的一阶和高阶拓扑符号有向网络。特别是,我们重新制定的表示学习问题的有向网络变分自动编码的角度来看,并进一步发展了解耦变分嵌入(DVE)方法。DVE利用一个专门设计的自动编码器结构来捕获符号有向网络的一阶和高阶拓扑,从而学习更具代表性的节点嵌入。在三个广泛使用的真实世界数据集上进行了广泛的实验。在链路标记预测和节点推荐任务上的综合结果证明了DVE的有效性。定性的结果和分析也提供了一个更好的理解DVE。
2020-08-28 cs.LG cs.SI stat.ML
BHGNN-RT: Network embedding for directed heterogeneous graphs
RIKEN Center for Brain Science(理化学研究所脑科学中心);The University of Tokyo(东京大学)
本文提出了一种用于有向异构图的网络嵌入方法BHGNN-RT,通过双向消息传递和随机传送机制克服过平滑问题,在节点分类和无监督聚类任务中达到了最先进的性能。
2023-11-24 cs.LG
Learning Embeddings of Directed Networks with Text-Associated Nodes---with Applications in Software Package Dependency Networks
University of Southern California(南加州大学);University of California, Berkeley(加州大学伯克利分校)
网络嵌入由网络中每个节点的矢量表示组成。它的有用性已经在许多现实世界的应用领域,如社交网络和Web网络中显示。具有与每个节点相关联的文本的有向网络,例如软件包依赖性网络,是常见的。然而,据我们所知,它们的嵌入迄今尚未被专门研究。在本文中,我们提出了PCTADW-1和PCTADW-2,两个算法的基础上神经网络,学习嵌入有向网络与文本与每个节点。我们创建了两个新的节点标记的网络:两个流行的GNU/Linux发行版Debian和Fedora中的包依赖网络。我们的实验表明,我们的算法产生的嵌入导致节点分类的质量比这两个网络上的各种基线更好。我们观察到在软件包依赖网络的网络嵌入中存在系统的类比(类似于词嵌入中的类比)。据我们所知,这是第一次在网络和文档嵌入中观察到这种系统性的类比。我们进一步证明了这些网络嵌入可以新颖地用于更好地理解软件属性,如软件的开发过程和用户界面等。
2020-11-26 cs.LG cs.SE cs.SI
DUPLEX: Dual GAT for Complex Embedding of Directed Graphs
School of Information Science and Technology, ShanghaiTech University(上海科技大学信息科学与技术学院);Ant Group(蚂蚁集团)
提出DUPLEX框架,通过Hermitian邻接矩阵分解和双GAT编码器改进有向图嵌入,解决低度节点表示和归纳能力问题,性能优于现有模型。
2024-07-19 cs.LG
Force-directed graph embedding with hops distance
Purdue University(普渡大学);Indiana University Indianapolis(印第安纳大学印第安纳波利斯分校)
提出一种基于跳跃距离和牛顿第二定律的力导向图嵌入方法,通过模拟节点间的吸引与排斥力保留图拓扑特征,在多项图分析任务中表现出与先进无监督技术相当的竞争力。
2023-09-11 cs.LG
The Immersion of Directed Multi-graphs in Embedding Fields. Generalisations
Jiratech
本文的目的是概述了一个通用的模型,用于表示混合的关系分类,符号,感知感知和感知潜在的数据,从而体现,在同一个架构的数据层,表示的输入,输出和潜在的张量。这种表示的多样性目前被计算机视觉、NLP/NLU、强化学习中的各种机器学习模型所使用,这些模型允许直接应用跨域查询和函数。这是通过赋予有向张量类型多图至少一些表示来自各种潜在空间的嵌入的边属性来实现的,以便定义、构建和计算张量形式之间和跨张量形式的新的相似性和距离关系,包括视觉、语言、听觉潜在表示,从而将观察到的宇宙的逻辑分类视图缝合到贝叶斯/统计视图。
2020-04-28 cs.AI cs.CV cs.LG
Symmetrization for Embedding Directed Graphs
The Ohio State University(俄亥俄州立大学)
最近,人们对开发这种方法的兴趣激增,包括学习(无向)图的表示(同时保留重要属性)。然而,迄今为止,大多数关于嵌入图的工作都是针对无向网络的,很少关注嵌入有向网络的棘手问题。在本文中,我们提出通过两个阶段的方法来解决有向图嵌入问题:在第一阶段,图是对称的几种可能的方式之一,并在第二阶段,这样获得的对称图嵌入使用任何国家的最先进的(无向)图嵌入算法。请注意,本文的目的不是提出一个新的(无向)图嵌入算法或讨论现有算法的优点和缺点;我们所说的是,无论哪种合适的图嵌入算法,它都将适合上述提出的对称化框架。
2018-11-06 cs.AI cs.LG cs.SI
A Multi-purposed Unsupervised Framework for Comparing Embeddings of Undirected and Directed Graphs
SGH Warsaw School of Economics(华沙经济学院);Ryerson University(瑞尔森大学);Tutte Institute for Mathematics and Computing(塔特数学与计算研究所)
图嵌入是将网络的节点转换为一组向量。一个好的嵌入应该捕获底层图的拓扑和结构、节点到节点的关系,以及关于图、其子图和节点本身的其他相关信息。如果实现了这些目标,嵌入就是一个有意义的、可理解的、通常是压缩的网络表示。不幸的是,选择最佳嵌入是一项具有挑战性的任务,通常需要领域专家。在本文中,我们扩展了最近介绍的作者评价图嵌入的框架。现在,该框架为每个嵌入分配了两个分数,局部和全局,用于衡量评估嵌入的质量,这些嵌入需要分别良好地表示网络的局部和全局属性。如果需要,可以以无监督的方式选择最佳嵌入,或者框架可以识别一些值得进一步研究的嵌入。该框架是灵活的,可扩展的,可以处理无向/有向,加权/未加权图。
2021-11-30 cs.LG cs.SI
Node Representation Learning for Directed Graphs
我们提出了一种新的方法来学习节点表示有向图,它保持单独的视图或嵌入空间的两个不同的节点角色引起的方向性的边缘。我们认为,以前的方法要么未能编码的边缘方向性或他们的编码不能概括跨任务。我们简单的\emph{alternating random walk}策略,我们产生的角色特定的顶点邻域和训练节点嵌入在其相应的源/目标角色,同时充分利用有向图的语义。我们还挖掘了有向图评价的局限性,并提出了一个明确的策略,用于评价有向图中的链接预测和图重构。我们进行了广泛的实验,以展示我们的有效性在几个现实世界的数据集上的链接预测,节点分类和图形重建任务。我们表明,我们的方法的嵌入确实是强大的,可推广的,以及在多种任务和图形的表现。我们表明,我们始终优于所有基线的节点分类任务。除了提供我们的方法的理论解释,我们还表明,我们是相当强大的比其他有向图的方法。
2019-06-28 cs.LG cs.SI stat.ML
Adversarial Directed Graph Embedding
Beihang University(北京航空航天大学);Nanjing University of Aeronautics and Astronautics(南京航空航天大学);Lehigh University(理海大学)
有向图的节点表示学习对于促进许多图挖掘任务至关重要。为了获取节点间的有向边,现有方法大多为每个节点学习两个嵌入向量,即源向量和目标向量。然而,这些方法分别学习源向量和目标向量。对于入度或出度很低的节点,不能有效地学习相应的目标向量或源向量。在本文中,我们提出了一种新的有向图嵌入框架的基础上生成对抗网络,称为DGGAN。其主要思想是使用对抗机制来部署一个学习器和两个生成器,共同学习每个节点的源向量和目标向量。对于一个给定的节点,两个生成器被训练成从相同的底层分布中生成其伪目标和源邻居节点,而伪邻居节点的目标是区分邻居节点是真的还是假的。这两个生成器被构造成一个统一的框架,可以相互加强,以学习更强大的源和目标向量。大量的实验表明,DGGAN在有向图上的多个图挖掘任务中始终显着优于现有的最先进的方法。
2021-05-24 cs.LG cs.SI
Force2Vec: Parallel force-directed graph embedding
Indiana University Bloomington(印第安纳大学伯明顿分校)
图嵌入算法将图嵌入到低维空间中,使得嵌入保持图的固有属性。虽然图嵌入从根本上与图可视化相关,但以前的工作并没有明确利用这种联系。我们开发了Force2Vec,它在图嵌入设置中使用力导向图布局模型,旨在在机器学习(ML)和可视化任务中表现出色。我们将Force2Vec的核心计算映射到线性代数,并利用现代处理器中提供的多级并行性,使其高度并行。由此产生的算法比现有方法快一个数量级(平均比DeepWalk快43倍),并且可以在几个小时内从具有数十亿条边的图中生成嵌入。与现有方法相比,Force2Vec在图形可视化方面更好,在链接预测、节点分类和聚类等ML任务中表现更好。源代码可在https://github.com/HipGraph/Force2Vec上获得。
2020-09-17 cs.DC cs.LG cs.SI
Digraphwave: Scalable Extraction of Structural Node Embeddings via Diffusion on Directed Graphs
KTH Royal Institute of Technology(瑞典皇家理工学院);SEB Group(SEB集团)
结构节点嵌入,即捕获图中每个节点的局部连通性信息的向量,在数据采掘和机器学习中有许多应用,例如,网络对齐和节点分类、聚类和异常检测。对于有向图的分析,例如,在事务图、通信网络和社交网络中,捕获结构节点嵌入中的方向信息的能力是非常期望的,嵌入提取方法的可扩展性也是如此。然而,大多数现有的方法仅针对无向图设计。因此,我们提出了一个可扩展的算法,用于提取有向图上的结构节点嵌入。的Digraphwave嵌入由压缩的扩散模式签名,这是两次增强,以增加其辨别能力。通过证明扩散初始化节点局部附近所含热量的下限,建立了理论上合理的扩散时间尺度值,并且只剩下两个易于解释的超参数:嵌入维数和邻域分辨率指定符。在我们的实验中,两个嵌入增强,命名为转置和聚合,显示出导致分类自守身份的宏F1得分显着增加,其中Digraphwave优于所有其他结构嵌入基线。此外,Digraphwave在真实图数据集上的性能优于或匹配所有基线的性能,在网络对齐任务中显示出特别大的性能增益,同时还可扩展到具有数百万个节点和边的图形,运行速度比以前的基于扩散模式的方法快30倍,并且内存消耗很小。
2022-07-20 cs.LG cs.SI
Directed Evolution of Proteins via Bayesian Optimization in Embedding Space
Department of Computer Science FEE, Czech Technical University in Prague Prague, Czech Republic(计算机科学系(FEE),捷克技术大学布拉格分校)
本文提出一种结合贝叶斯优化与蛋白质语言模型嵌入表示的机器学习辅助定向进化方法,在相同筛选次数下提升优化效果,并超越现有回归目标方法。
2025-09-05 cs.LG q-bio.BM
Parametrized Power-Iteration Clustering for Directed Graphs
Universit\'e Paris-Saclay, ENS Paris-Saclay, Centre Borelli, CNRS, France.;CNRS, LAAS, France
针对有向图顶点聚类问题,提出基于参数化可逆随机游走的ParPIC方法,通过自动调优扩散时间和高效截断嵌入,在保持聚类精度的同时提升可扩展性。
2026-06-23 cs.LG stat.ML
edGNN: a Simple and Powerful GNN for Directed Labeled Graphs
IBM Research(IBM研究院);EPFL(洛桑联邦理工学院);ETH(苏黎世联邦理工学院)
图神经网络(GNN)利用图拓扑和图标签的能力是构建有区别的节点和图嵌入的基础。在以前工作的基础上,我们从理论上证明了edGNN,我们的有向标记图的模型,与图同构的Weisfeiler-Lehman算法一样强大。我们的实验支持我们的理论研究结果,确认图神经网络可以有效地用于有向图的节点和边标签的推理问题。代码可在https://github.com/guillaumejaume/edGNN获得。
2019-12-04 cs.LG stat.ML
Gravity-Inspired Graph Autoencoders for Directed Link Prediction
Deezer Research & Development(Deezer研发部);LIX, École Polytechnique(巴黎综合理工学院计算机科学实验室);AUEB(雅典经济与商业大学)
图自编码器(AE)和变分自编码器(VAE)是最近出现的强大的节点嵌入方法。特别是,图AE和VAE被成功地利用来解决具有挑战性的链接预测问题,旨在弄清楚图中的一些节点对是否由未观察到的边连接。然而,这些模型专注于无向图,因此忽略了链接的潜在方向,这限制了许多现实生活中的应用。在本文中,我们扩展了图AE和VAE框架,以解决有向图中的链接预测。我们提出了一个新的重力启发解码器方案,可以有效地重建有向图从节点嵌入。我们经验评估我们的方法对三个不同的有向链接预测任务,标准图AE和VAE表现不佳。我们在三个真实世界的图表上取得了有竞争力的结果,超过了几个流行的基线。
2022-06-06 cs.LG cs.SI stat.ML
ATP: Directed Graph Embedding with Asymmetric Transitivity Preservation
The Ohio State University(俄亥俄州立大学)
有向图已经被广泛用于社区问答服务(CQA)中,以对CQA图中不同类型的节点之间的非对称关系进行建模,例如,问题,答案,用户。非对称传递性是有向图的一个基本性质,因为它可以在下游图的推理和分析中发挥重要作用。问题难度和用户专业知识具有不对称传递性的特点。保持这样的属性,同时减少图到一个较低维的向量嵌入空间,一直是最近的研究重点。在本文中,我们解决了具有非对称传递性保留的有向图嵌入的挑战,然后利用所提出的嵌入方法来解决CQA中的一项基本任务:如何适当地路由和分配新发布的问题给具有适当专业知识和对CQA感兴趣的用户。该技术结合了图形层次结构和可达性信息自然依赖于一个非线性变换,在这样的图形的核心可达性和隐式层次结构上操作。随后,该方法杠杆基于因式分解的方法来生成两个嵌入向量的图中的每个节点,以捕捉非对称传递性。大量的实验表明,我们的框架在两个不同的现实世界的任务:链接预测,问题难度估计和专家发现在像Stack Exchange在线论坛上一致和显着优于最先进的基线。特别是,我们的框架可以支持对新发布的问题(训练过程中看不见的节点)进行归纳嵌入学习,因此可以将这些问题正确地路由和分配给CQA中的专家。
2018-11-06 cs.AI cs.IR cs.LG
DEDGAT: Dual Embedding of Directed Graph Attention Networks for Detecting Financial Risk
Fudan University(复旦大学);Ant Group(蚂蚁集团)
图表示在金融风险控制领域中扮演着重要的角色,其中用户之间的关系可以用图的方式来构建。在实际场景中,风险控制任务中的节点之间的关系是双向的,例如,具有收入和支出行为的商家。针对无向图设计的图神经网络通常采用注意力策略聚合有区别的节点或边表示,但当用于有向图任务时,不能充分利用出度信息,从而导致方向偏差问题.为了解决这个问题,我们提出了一个称为DGAT的有向图注意力网络,它明确地将出度纳入注意力计算。除了具有方向性要求之外,同一个节点可能具有不同的输入和输出表示,因此我们进一步提出了DGAT的双重嵌入,称为DEDGAT。具体来说,DEDGAT为每个节点分配入度和出度表示,并使用这两个嵌入来分别计算入度和出度节点的注意力权重。在基准数据集上进行的实验表明,DGAT和DEDGAT获得更好的分类性能相比,无向GAT。同时,可视化结果表明,我们的方法可以充分利用入度和出度信息。
2023-03-06 cs.AI cs.DC cs.LG
Asymmetric Graph Representation Learning
Southwestern University of Finance and Economics(西南财经大学);University of Hong Kong(香港大学)
尽管图神经网络(GNN)取得了巨大的成功,但大多数现有的GNN只能适用于无向图,其中连接的节点之间的关系是双向对称的(即,信息可以来回传递)。然而,有大量的应用程序中的信息流是不对称的,导致有向图中的信息只能在一个方向上传递。例如,有向边指示信息只能从开始节点向前传送到结束节点,而不能向后传送。为了在GNN的框架内容纳这种有向图的非对称结构,我们提出了一个简单但非常有效的有向图分析框架,以结合这种单向信息传递。我们为每个节点定义了一个传入嵌入和一个传出嵌入,分别对其发送和接收特征进行建模。我们进一步在我们的有向GNN模型中开发了两个步骤,第一个是聚合/更新节点的传入特征,第二个是聚合/更新传出特征。通过对每个节点施加两个角色,可以基于开始节点的传出嵌入和结束节点的传入嵌入来计算有向边的可能性。所有边缘的对数似然对所提出的模型起着自然的正则化作用,这可以缓解深度GNNs的过度平滑问题。在多个真实世界有向图上的大量实验表明,该模型在节点级和图级任务中都具有出色的性能。
2021-10-14 cs.LG
Attributed Graph Clustering: A Deep Attentional Embedding Approach
University of Technology Sydney(悉尼科技大学);Monash University(莫纳什大学)
图聚类是发现网络中社区或群体的基本任务。最近的研究主要集中在开发深度学习方法来学习紧凑的图嵌入,在此基础上应用经典的聚类方法,如k-means或谱聚类算法。这些两步框架难以操作,并且通常导致次优性能,主要是因为图嵌入不是目标导向的,即,专为特定的集群任务而设计。在本文中,我们提出了一种目标导向的深度学习方法,深度注意嵌入图聚类(简称DAEGC)。我们的方法侧重于属性图,充分探索图中的信息的两个方面。通过使用注意力网络来捕捉相邻节点对目标节点的重要性,我们的DAEGC算法将图中的拓扑结构和节点内容编码为紧凑的表示,在此基础上训练内积解码器来重建图结构。此外,从图嵌入本身产生的软标签来监督一个自训练图聚类过程,迭代地细化聚类结果。自训练过程与图嵌入在统一的框架中共同学习和优化,使两个组件互惠互利。实验结果表明,与现有的算法相比,该方法具有优越性。
2019-06-15 cs.LG stat.ML
Towards Training GNNs using Explanation Directed Message Passing
Imperial College London(帝国理工学院);Ludwig-Maximilians Universität München(慕尼黑大学);Adobe(奥多比公司)
随着图神经网络(GNNs)在关键现实世界应用中的使用越来越多,已经提出了几种事后解释方法来理解它们的预测。然而,在模型训练期间,还没有在动态生成解释并利用它们来提高底层GNN模型的表达能力。在这项工作中,我们为GNN引入了一种新的解释导向的神经消息传递框架EXPASS(可解释的消息传递),它只聚合来自GNN解释方法确定为重要的节点和边缘的嵌入。EXPASS可以与任何现有的GNN架构和子图优化解释器一起使用,以学习准确的图嵌入。我们从理论上证明了EXPASS通过减缓Dirichlet能量的逐层损失来消除GNNs中的过平滑问题,并且香草消息传递和EXPASS框架之间的嵌入差异可以通过各自模型权重的差异来上界。我们的实证结果表明,使用EXPASS学习的图嵌入提高了预测性能,缓解了GNN的过度平滑问题,为图机器学习开发基于简化的训练框架开辟了新的前沿。
2022-12-01 cs.AI cs.LG
SVDformer: Direction-Aware Spectral Graph Embedding Learning via SVD and Transformer
The University of Sydney(悉尼大学)
本文提出SVDformer,将SVD与Transformer结合,通过自注意力精化奇异值嵌入并建模入边/出边多尺度交互,在六个有向图基准上取得最优节点分类性能。
2025-08-19 cs.AI cs.LG
Constrained Goal-directed Planar Graph Generation with Grammar-based Reinforcement Learning
ETH Zürich(苏黎世联邦理工学院)
提出一种结合参数化图语法与安全强化学习的无数据集方法,在生成过程中直接构建满足硬约束的可行平面图嵌入,并在新基准套件上优于经典和深度生成基线。
2026-10-06 cs.LG
Identifying Transition States of Chemical Kinetic Systems using Network Embedding Techniques
Michigan State University(密歇根州立大学)
我们使用随机游动抽样方法进行网络特征学习,开发了一种生成有向图低维节点嵌入和识别随机化学反应系统过渡态的方法。我们修改了现有的基于随机游动的网络嵌入方法中采用的目标函数,以处理有向图和不同程度的邻居。通过梯度上升优化,我们将加权图顶点嵌入到低维向量空间Rd中,同时保留每个节点的邻域。然后,我们通过几个例子证明了该方法的有效性降维识别的过渡态的化学反应,特别是熵系统。
2020-10-29 cs.LG cs.NA math.NA
What relations are reliably embeddable in Euclidean space?
University of California, San Diego(加州大学圣迭戈分校)
我们考虑的问题嵌入的关系,表示为一个有向图,到欧几里德空间。对于三种类型的嵌入动机最近的文献知识图谱,我们得到的关系,他们能够捕获的特征,以及所需的最小维数和精度的界限。
2023-01-18 cs.LG stat.ML
Hyperbolic Entailment Cones for Learning Hierarchical Embeddings
ETH Zurich(苏黎世联邦理工学院)
在机器学习中,通过保持相关网络属性的低维嵌入来学习图表示是一类重要的问题。我们在这里提出了一种新的方法来嵌入有向无环图。在先前的工作之后,我们首先提倡使用双曲空间,它可以证明比欧几里得几何更好地模拟树状结构。其次,我们认为层次关系定义使用一个家庭的嵌套测地线凸锥的偏序。我们证明了这些蕴涵锥在欧氏空间和双曲空间中都有一个最优的形状,并具有一个封闭的形式表达式,并且它们规范地定义了嵌入学习过程。实验表明,我们的方法在代表能力和泛化能力方面都比最近的强基线有了显着的改进。
2018-06-06 cs.LG stat.ML
Rethinking Link Prediction for Directed Graphs
Technical University of Munich(慕尼黑工业大学)
该研究针对有向图链接预测方法缺乏表达能力分析与有效基准的问题,提出评估框架和新型基准DirLinkBench,改进DiGAE提出SDGAE并取得最优性能,同时梳理了领域关键挑战。
2025-05-21 cs.AI cs.LG
Inferred global dense residue transition graphs from primary structure sequences enable protein interaction prediction via directed graph convolutional neural networks
Division of Computer Science Texas Woman’s University(计算机科学系德克萨斯女子大学);Department of Computer Science The University of Texas Rio Grande Valley(计算机科学系德克萨斯大学里奥格兰德谷分校)
提出ProtGram-DirectGCN框架,利用全局推断的n-gram图和有向图卷积神经网络进行蛋白质相互作用预测,在有限数据下保持强劲性能。
2025-10-15 cs.AI cs.LG
Directed Graph Auto-Encoders
IBM Research(IBM研究院);T. J. Watson Research Center(T·J·沃森研究中心)
我们引入了一类新的自动编码器的有向图,直接扩展的Weisfeiler-Leman算法对节点标签的动机。该模型学习有向图节点的可解释潜在表示对,并使用参数化的图卷积网络(GCN)层作为其编码器和非对称内积解码器。编码器中的参数控制相邻节点之间交换的表示的加权。我们证明了所提出的模型学习有意义的潜在嵌入的能力,并在几个流行的网络数据集上的有向链接预测任务上取得优异的性能。
2022-02-25 cs.AI cs.LG
Learning Edge Representations via Low-Rank Asymmetric Projections
Google Research(谷歌研究院)
我们提出了一种新的方法嵌入图,同时保持有向边信息。学习图中节点的这种连续空间向量表示(或嵌入)是使用网络信息(来自社交网络、用户项图、知识库等)的重要第一步。在许多机器学习任务中。与以前的工作不同,我们(1)明确地将边建模为节点嵌入的函数,我们(2)提出了一个新的目标,“图似然”,它将来自采样随机游走的信息与不存在的边进行对比。单独地,这两个贡献都提高了学习的表示,特别是当嵌入的总大小存在内存限制时。当结合起来时,我们的贡献使我们能够通过学习更简洁的表示来显着改进最先进的技术,从而更好地保留图形结构。我们评估我们的方法在各种链接预测任务,包括社交网络,协作网络和蛋白质相互作用,表明我们提出的方法学习表示与错误减少高达76%和55%,有向和无向图。此外,我们还表明,通过我们的方法学习的表示是非常节省空间的,产生的嵌入具有更高的结构保持精度,但要小10倍。
2017-09-13 cs.LG cs.SI stat.ML
Enhancing Missing Data Imputation through Combined Bipartite Graph and Complete Directed Graph
School of Statistics, East China Normal University(华东师范大学统计学院);The University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校);School of Global Public Health, New York University(纽约大学全球公共卫生学院)
本文提出BCGNN框架,结合二部图与完全有向图,利用特征间依赖关系提升表格数据缺失填补,平均绝对误差降低15%,并增强标签预测与泛化能力。
2024-11-07 cs.LG
Scalable Graph Embeddings via Sparse Transpose Proximities
Renmin University of China(中国人民大学)
图嵌入学习图中节点的低维表示,并有效地保留图结构。最近,在这一新兴的研究领域取得了重大进展。然而,有几个基本问题仍然悬而未决。首先,现有的方法不能保持有向图上的出度分布。第二,许多现有的方法采用基于随机游走的邻近性,从而在无向图上遭受冲突的优化目标。最后,现有的因式分解方法无法同时实现可扩展性和非线性。本文对有向图和无向图的图嵌入技术进行了深入的研究。分析了导致出度分布失真和优化目标冲突的根本原因。我们提出{ \em转置邻近},一个统一的方法,解决这两个问题。基于转置邻近的概念,我们设计了\strap,一个基于因子分解的图嵌入算法,同时实现了可扩展性和非线性。\strap利用{ \em后推}算法来有效地计算稀疏{ \em个性化PageRank(PPR)}作为其转置邻近度。通过施加稀疏性约束,我们能够对邻近矩阵应用非线性运算,并执行有效的矩阵分解来导出嵌入向量。最后,我们提出了一个广泛的实验研究,评估各种图形嵌入算法的有效性,我们表明,\strap优于国家的最先进的方法的有效性和可扩展性。
2019-05-16 cs.AI cs.DS cs.LG
GNNRank: Learning Global Rankings from Pairwise Comparisons via Directed Graph Neural Networks
University of Oxford(牛津大学);Amazon Web Services AI Shanghai Lablet(亚马逊云科技AI上海实验室);The Alan Turing Institute(阿兰·图灵研究所);Shanghai Jiao Tong University(上海交通大学);Shanghai AI Laboratory(上海人工智能实验室)
从成对比较中恢复全局排名具有广泛的应用,从时间同步到运动队排名。对应于竞争中的匹配的成对比较可以被解释为有向图(有向图)中的边,其节点表示例如具有未知排名的竞争者。在本文中,我们引入神经网络的排名恢复问题,提出了所谓的GNNRank,一个可训练的GNN为基础的框架与有向图嵌入。此外,设计了新的目标来编码排名颠覆/违规。该框架涉及一个排名得分估计方法,并通过展开从可学习的相似性矩阵构建的图的Fiedler向量计算来增加归纳偏差。在大量数据集上的实验结果表明,我们的方法与基线相比具有竞争力,并且通常具有优异的性能,并且具有很好的传输能力。代码和预处理数据位于:\url{https://github.com/SherylHYX/GNNRank}。
2022-07-19 cs.LG math.OC stat.ML
Directed Link Prediction using GNN with Local and Global Feature Fusion
College of Information Science and Engineering, Ningbo University(信息科学与工程学院,宁波大学);City University of Hong Kong(香港城市大学)
本文提出一种融合特征嵌入与社区信息的GNN框架,并引入有向线图转换方法以增强图卷积时的信息聚合,理论证明其能提升有向链接预测性能,在多数实验设置下优于现有最先进方法。
2025-06-25 cs.AI cs.LG
Online Change Point Detection for Weighted and Directed Random Dot Product Graphs
Facultad de Ingeniería, Universidad de la República(共和国大学工程学院);University of Rochester(罗切斯特大学)
给定一个随机(有向和加权)图序列,我们解决了在线监测和检测底层数据分布变化的问题。我们的想法是赋予顺序变点检测(CPD)技术与图形表示学习基板的基础上,通用的随机点积图(RDPG)模型。我们认为有效的,在线更新的明智的监测功能,量化的流图观测和标称RDPG之间的差异。该参考分布通过序列中前几个图的谱嵌入来推断。我们的特征分布的运行统计选择阈值,保证错误率控制,并在简化的近似下,我们提供的算法的检测分辨率和延迟的见解。最终的结果是一个轻量级的在线CPD算法,这也是可以解释的RDPG嵌入的良好理解的可解释性。这与大多数现有的图CPD方法形成鲜明对比,这些方法要么依赖于大量的计算,要么存储和处理整个观察到的时间序列。RDPG模型的一个明显的局限性是它只适用于无向和无权图,我们的目标是在这里缩小差距,扩大CPD框架的范围。与以前的建议,我们的非参数RDPG模型的加权图不需要先验规范的权重的分布进行推断和估计。这种网络建模的贡献是独立的利益超越CPD。我们提供了一个开源的实现的新的在线CPD算法的加权和直接的图形,其有效性和效率证明通过(可重复的)合成和真实的网络数据实验。
2022-01-26 cs.LG cs.SI eess.SP
Directed Scattering for Knowledge Graph-based Cellular Signaling Analysis
Yale University(耶鲁大学);University of California, Los Angeles(加利福尼亚大学洛杉矶分校);University College London Cancer Institute(伦敦大学学院癌症研究所);Boise State University(博伊西州立大学)
提出有向散射自编码器(DSAE)框架,结合有向几何散射变换、自编码器降维与双曲空间几何特性学习潜在层次,有效推断细胞信号网络并在有向图嵌入等任务上表现优越。
2023-09-14 cs.LG q-bio.CB
Directed Criteria Citation Recommendation and Ranking Through Link Prediction
S&P Global(标普全球)
本文提出利用基于Transformer的图嵌入进行链路预测,以自动推荐和排序与新文档相关的引文,实验表明其语义表示优于其他基于内容的方法。
2024-03-18 cs.IR cs.LG cs.SI
PACE: A Parallelizable Computation Encoder for Directed Acyclic Graphs
Washington University in St. Louis(圣路易斯华盛顿大学);Peking University(北京大学);Beijing Institute for General Artificial Intelligence(北京通用人工智能研究院)
有向无环图(DAG)结构优化有许多应用,如神经结构搜索(NAS)和概率图模型学习。将DAG编码为实向量是大多数基于神经网络的DAG优化框架中的主要组成部分。目前,大多数DAG编码器使用异步消息传递方案,该方案根据DAG中节点之间的依赖性顺序地处理节点。也就是说,在处理完所有的前级节点之前,不能处理该节点。因此,它们本质上是不可并行的。在这项工作中,我们提出了一个可扩展的基于注意力的计算结构编码器(PACE),同时处理节点和并行编码DAG。我们证明了PACE的优越性,通过编码器相关的优化子程序,搜索最佳的DAG结构的基础上学习的DAG嵌入。实验表明,PACE不仅提高了以前的顺序DAG编码器的有效性,显著提高了训练和推理速度,而且还生成了平滑的潜在(DAG编码)空间,有利于下游优化子程序。我们的源代码可在\url{https://github.com/zehao-dong/PACE}上获得
2022-12-13 cs.LG
Which way? Direction-Aware Attributed Graph Embedding
Royal Institute of Technology(瑞典皇家理工学院);University of Trento(特伦托大学)
图嵌入算法用于在低维连续向量空间中有效地表示(编码)图,该低维连续向量空间保留了图的最重要属性。经常被忽视的一个方面是图是否有向。大多数研究忽略了方向性,以便学习针对节点分类优化的高质量表示。另一方面,捕获方向性的研究通常在链接预测上有效,但在其他任务上表现不佳。这项初步研究提出了一种新的文本丰富,方向感知算法称为DIAGRAM,基于精心设计的多目标模型来学习嵌入,保留边缘,文本特征和节点的图形上下文的方向。因此,我们的算法不必将一个属性交换为另一个属性,并为多个网络分析任务联合学习高质量的表示。我们的经验表明,DIAGRAM显着优于六个国家的最先进的基线,无论是方向感知和遗忘的,链接预测和网络重建实验使用两个流行的数据集。它还使用相同的数据集在节点分类实验中实现了与这些基线相当的性能。
2020-01-30 cs.LG cs.SI stat.ML
DIGRAC: Digraph Clustering Based on Flow Imbalance
University of Oxford(牛津大学);The Alan Turing Institute(艾伦·图灵研究所)
节点聚类是网络分析中的一个强有力的工具。我们引入了一个图神经网络框架,命名为DIGRAC,以获得节点嵌入有向网络在一个自我监督的方式,包括一个新的概率不平衡损失,它可以用于网络聚类。在这里,我们提出了\textit{directed flow imbalance}措施,这是密切相关的方向性,揭示集群在网络中,即使集群之间没有密度差。与文献中的标准方法相比,本文中,方向性不被视为滋扰,而是包含主要信号。与现有的图神经网络方法不同,DIGRAC优化了用于聚类的有向流不平衡,而不需要标签监督,并且与现有的谱方法不同,DIGRAC可以自然地结合节点特征。在合成数据上的广泛实验结果,以有向随机块模型的形式,以及不同尺度的真实数据,表明我们的方法,基于流量不平衡,在与文献中的10种最先进的方法相比时,在有向图聚类上获得了最先进的结果,对于各种各样的噪声和稀疏水平,图结构和拓扑结构,甚至优于监督方法。
2022-11-29 cs.AI cs.IR cs.LG
Compact Geometric Representations of Hierarchies
UW-Madison(威斯康星大学麦迪逊分校);MIT(麻省理工学院)
研究如何用低维几何嵌入表示有向无环图中的祖先-后代关系,提出基于树宽等结构参数的维度上界和下界,并在真实数据集上验证了紧凑性。
2026-06-18 cs.CG cs.CL cs.DS
Deep Gaussian Embedding of Graphs: Unsupervised Inductive Learning via Ranking
Technical University of Munich(慕尼黑工业大学)
学习图中节点表示的方法在网络分析中起着关键作用,因为它们可以实现许多下游学习任务。我们提出了Graph 2Gauss-一种可以有效地学习大规模(属性)图上的通用节点嵌入的方法,这些图在链接预测和节点分类等任务上表现出强大的性能。与大多数将节点表示为低维连续空间中的点向量的方法不同,我们将每个节点嵌入为高斯分布,从而使我们能够捕获有关表示的不确定性。此外,我们提出了一种无监督的方法,处理归纳学习的情况下,适用于不同类型的图:平原/属性,有向/无向。通过利用网络结构和相关的节点属性,我们能够在没有额外训练的情况下推广到看不见的节点。为了学习嵌入,我们采用了个性化的排名公式w.r.t.节点距离利用了网络结构所强加的节点的自然排序。在真实网络上的实验证明了我们的方法的高性能,在几个不同的任务上优于最先进的网络嵌入方法。此外,我们还展示了建模不确定性的好处-通过分析它,我们可以估计邻域多样性并检测图的内在潜在维度。
2018-02-27 cs.LG cs.SI stat.ML
Bayesian estimation of the latent dimension and communities in stochastic blockmodels
Imperial College London(帝国理工学院)
无向图的邻接矩阵或拉普拉斯矩阵的谱嵌入是在低维潜在空间中表示网络的常用技术,具有最佳理论保证。嵌入可以用来估计网络的社区结构,在随机块模型框架下具有强一致性结果。用于从谱嵌入进行社区发现的标准算法的主要实际限制之一是必须预先指定社区的数目和嵌入的潜在维度。在这篇文章中,提出了一种新的贝叶斯模型,同时和自动选择适当的尺寸的潜在空间和块的数量。扩展到有向图和二分图进行了讨论。该模型进行了测试模拟和真实世界的网络数据,表现出良好的性能恢复潜在的社区结构。
2020-05-28 cs.LG cs.SI stat.AP
Learning Disentangled Representations in Signed Directed Graphs without Social Assumptions
Jeonbuk National University(全北国立大学)
本文提出DINES方法,在不依赖社会理论假设的前提下,通过解耦表示学习、轻量级图卷积和自监督因素判别器,在有符号有向图中有效学习节点表示并显著提升符号预测性能。
2023-07-06 cs.LG cs.SI
Advancing Ligand-based Virtual Screening and Molecular Generation with Pretrained Molecular Embedding Distance
University of California, Berkeley(加州大学伯克利分校);Stanford University(斯坦福大学)
本文提出预训练嵌入距离作为高效替代方案,用于虚拟筛选和分子生成,展示其在结构信息捕捉和相似性测量方面的有效性。
2026-06-06 cs.LG
ExpressivE: A Spatio-Functional Embedding For Knowledge Graph Completion
TU Wien(维也纳工业大学)
知识图谱本质上是不完整的。因此,大量的研究已经指向知识图谱完成(KGC),即,从所述知识图谱(KG)中表示的所述信息预测缺失的三元组。KG嵌入模型(KGE)已经为KGC产生了有希望的结果,然而任何当前的KGE都不能:(1)完全捕获重要的推理模式(例如,合成),(2)联合地捕获突出图案(例如,层次和组成),以及(3)提供对捕获的模式的直观解释。在这项工作中,我们提出了ExpressivE,一个完全表达空间功能的KGE,同时解决了所有这些挑战。ExpressivE在虚拟三元空间$\mathbb{R}^{2d}$中将实体对嵌入为点,将关系嵌入为超平行四边形。这种模型设计不仅允许ExpressivE联合捕获丰富的推理模式集,而且还可以通过超平行四边形的空间关系显示任何支持的推理模式,为ExpressivE嵌入及其捕获的模式提供直观和一致的几何解释。在标准KGC基准测试上的实验结果表明,ExpressivE与最先进的KGE相比具有竞争力,甚至在WN18RR上的表现明显优于它们。
2023-03-22 cs.AI cs.LG
An Analysis of Role Semantics in Directed Dynamic Graph Modeling for Edge Classification
本文提出DyGnROLE,通过非对称预训练学习动态图中源节点与目标节点的异构表示,解决边分类中源目标节点行为不对称性问题,实验表明其在有限标注数据下表现优异。
2026-10-14 cs.AI cs.LG cs.SI
Sharing Parameter by Conjugation for Knowledge Graph Embeddings in Complex Space
Nara Institute of Science and Technology(奈良先端科学技术大学院大学);Fujitsu Ltd.(富士通公司)
提出在复数空间知识图谱嵌入中通过共轭参数共享方法,将关系嵌入内存效率提升2倍,并在五个基准数据集上保持与最先进模型相当的性能。
2024-04-18 cs.CL cs.LG
Orthogonal Relation Transforms with Graph Context Modeling for Knowledge Graph Embedding
JD AI Research(京东人工智能研究院)
基于平移距离的知识图谱嵌入在链接预测任务上显示出了渐进的改进,从transE到最新的最先进的RotatE。然而,N-1、1-N和N-N预测仍然具有挑战性。在这项工作中,我们提出了一种新的平移距离为基础的知识图谱链接预测的方法。该方法包括两个步骤,首先将RotatE从二维复域扩展到高维空间,通过正交变换来建模关系,以提高建模能力。其次,通过两个有向上下文表示显式地建模图上下文。这些上下文表示用作距离评分函数的一部分,以测量训练和推理期间三元组的可扩展性。该方法有效地提高了知识图谱链接预测任务在N-1、1-N和N-N困难情况下的预测精度。实验结果表明,该算法在两个基准数据集上的性能优于基准RotatE算法,尤其是在包含大量高入度连接节点的数据集(FB 15 k-237)上。
2020-04-15 cs.AI cs.CL cs.LG