ExplaiNE: An Approach for Explaining Network Embedding-based Link Predictions
Ghent University(根特大学)
网络是功能强大的数据结构,但对于传统的机器学习方法来说是具有挑战性的。网络嵌入(NE)方法试图通过学习节点的向量表示来解决这个问题,以供后续在下游机器学习任务中使用。链接预测(LP)是这样的下游机器学习任务之一,其是NE方法的重要用例和流行基准。不幸的是,虽然NE方法在这项任务中表现得非常好,但与更简单的LP方法相比,它们缺乏透明度。我们介绍ExplaiNE,一种方法来提供反事实的解释NE为基础的LP方法,通过识别网络中的现有链接,解释预测的链接。ExplaiNE适用于广泛的NE算法类别。对NE方法“有条件的网络嵌入”的广泛的经验评估特别证明了其准确性和可扩展性。
2019-04-22 cs.LG stat.ML
Semi-supervised Graph Embedding Approach to Dynamic Link Prediction
The University of Tokyo(东京大学)
我们提出了一个简单的离散时间半监督图嵌入方法,在动态网络中的链接预测。学习的嵌入反映了来自时间和横截面网络结构的信息,这是通过将损失函数定义为来自过去动态的监督损失和预测当前网络中的邻域上下文的无监督损失的加权和来执行的。我们的模型也能够学习不同的嵌入形成和溶解动力学。这些关键方面有助于我们的模型的预测性能,我们提供了三个真实世界的动态网络的实验表明,我们的方法是可比的最先进的方法在链接形成预测和优于最先进的基线方法在链接解散预测。
2016-10-14 cs.LG cs.SI physics.soc-ph
Complex Embeddings for Simple Link Prediction
Xerox Research Centre Europe(施乐欧洲研究中心);Université Grenoble Alpes(格勒诺布尔阿尔卑斯大学);University College London(伦敦大学学院)
在统计关系学习中,链接预测问题是自动理解大型知识库结构的关键。在以前的研究中,我们建议解决这个问题,通过潜在的因式分解。然而,这里我们使用了复值嵌入。复合嵌入的合成可以处理大量的二元关系,其中包括对称和反对称关系。与神经张量网络和全息嵌入等最先进的模型相比,我们基于复杂嵌入的方法可以说更简单,因为它只使用Hermitian点积,这是实向量之间标准点积的复杂对应物。我们的方法可扩展到大型数据集,因为它在空间和时间上都保持线性,同时在标准链接预测基准上始终优于其他方法。
2016-06-20 cs.AI cs.LG stat.ML
On the Equivalence of Holographic and Complex Embeddings for Link Prediction
NTT Communication Science Laboratories(NTT通信科学实验室);Nara Institute of Science and Technology(奈良先端科学技术大学院大学)
我们展示了两种最先进的链接预测/知识图谱完成方法的等价性:Nickel等人的全息嵌入和Trouillon等人的全息嵌入。的复杂嵌入。我们首先考虑全息嵌入的频谱版本,利用傅里叶变换中的频域进行有效的计算。对所得方法的分析表明,它可以被视为复杂嵌入的一个实例,在训练时对初始向量施加某些约束。相反,任何复杂的嵌入都可以转换为等效的全息嵌入。
2017-09-22 cs.LG
Transformation of Node to Knowledge Graph Embeddings for Faster Link Prediction in Social Networks
University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校);Siemens Corporate Technology(西门子企业技术)
神经网络的最新进展已经解决了常见的图形问题,如链接预测,节点分类,节点聚类,节点推荐,通过开发实体和关系到向量空间的嵌入。图嵌入对图中存在的结构信息进行编码。然后,编码的嵌入可以用于预测图中丢失的链接。然而,获得最佳的嵌入图可以是一个具有挑战性的计算任务,特别是在嵌入式系统。我们在这项工作中关注的两个技术是1)基于随机游走的方法的节点嵌入和2)知识图谱嵌入。基于随机游走的嵌入在计算上是廉价的,但是是次优的,而知识图谱嵌入表现更好,但是在计算上是昂贵的。在这项工作中,我们研究了一个转换模型,该模型将从基于随机游走的方法获得的节点嵌入直接从知识图谱方法获得的嵌入,而不会增加计算成本。大量的实验表明,所提出的转换模型可以用于实时解决链接预测。
2021-11-17 cs.LG cs.SI
Explaining Link Predictions in Knowledge Graph Embedding Models with Influential Examples
Accenture Labs(埃森哲实验室)
研究了知识图谱嵌入模型中链接预测的解释问题。我们提出了一个基于实例的方法,利用潜在的空间表示的节点和边缘的知识图谱来解释预测。我们通过观察有影响力的三元组删除后模型性能的逐步退化来评估识别三元组的重要性。我们的实验表明,这种方法产生的解释优于基线KGE模型的两个公开可用的数据集。
2022-12-05 cs.LG
Just Propagate: Unifying Matrix Factorization, Network Embedding, and LightGCN for Link Prediction
针对链路预测领域缺乏对不同模型通用认知的问题,本文提出涵盖矩阵分解、代表性网络嵌入与图神经网络方法的统一框架,通过初步分析揭示关键设计因素,为方法创新提供启发。
2024-10-26 cs.AI cs.LG
Adversarial Robustness of Probabilistic Network Embedding for Link Prediction
Ghent University(根特大学)
在当今的网络社会中,许多现实世界的问题可以形式化为预测网络中的链接,例如Facebook的友谊建议,电子商务推荐,以及引文网络中的科学合作预测。链接预测问题越来越多地通过网络嵌入方法来解决,这是由于它们具有最先进的性能。然而,与更简单的基线相比,这些方法缺乏透明度,因此它们对对抗攻击的鲁棒性可能是一个值得关注的问题:对网络的一个或几个小的对抗性修改是否会对链接预测产生很大影响使用网络嵌入模型时的性能?先前的研究已经研究了网络嵌入模型的对抗鲁棒性,重点是节点和图级别的分类。另一方面,对于链路预测下游任务的鲁棒性研究较少,本文通过研究链接预测的条件网络嵌入(CNE)模型的对抗鲁棒性来填补这一空白。更具体地说,给定CNE和一个网络,我们测量模型的链接预测对网络的小对抗扰动的敏感性,即节点对的链接状态的变化。因此,我们的方法可以识别网络中最容易受到这种扰动的链接和非链接,供分析师进一步调查。我们分析了最敏感和最不敏感的扰动的特征,并根据经验证实,我们的方法不仅成功地识别出最脆弱的链接和非链接,而且由于有效的近似,它可以以一种有效的方式进行识别。
2021-07-05 cs.LG cs.SI
Learning Hierarchy-Aware Knowledge Graph Embeddings for Link Prediction
University of Science and Technology of China(中国科学技术大学)
知识图谱嵌入,旨在将实体和关系表示为低维向量(或矩阵,张量等),已被证明是预测知识图谱中缺失链接的强大技术。现有的知识图谱嵌入模型主要集中在对称/反对称、反转、组合等关系模式的建模上。然而,许多现有的方法无法建模语义层次结构,这是常见的在现实世界中的应用。为了解决这个问题,我们提出了一种新的知识图谱嵌入模型-即层次感知知识图谱嵌入(HAKE)-将实体映射到极坐标系。HAKE的灵感来自于极坐标系中的同心圆可以自然地反映层次结构。具体而言,径向坐标旨在对层次结构中不同级别的实体进行建模,并且具有较小半径的实体预计处于较高级别;角坐标旨在区分层次结构中相同级别的实体,并且这些实体预计具有大致相同的半径但不同的角度。实验表明,HAKE可以有效地建模知识图谱中的语义层次结构,并显着优于现有的最先进的方法在基准数据集上的链接预测任务。
2022-04-06 cs.CL cs.LG stat.ML
Embedding Learning on Multiplex Networks for Link Prediction
University of Rostock(罗斯托克大学);Leibniz-Institute for Food Systems Biology at Technical University Munich(慕尼黑工业大学莱布尼茨食品系统生物学研究所);Stellenbosch Institute of Advanced Study(斯泰伦博斯高等研究院);CNRS(法国国家科学研究中心);INSERM(法国国家健康与医学研究院)
本文综述了多层网络上嵌入学习用于链接预测的模型,提出分类方法和公平评估流程,旨在提升嵌入学习方法的性能和可操作性。
2026-02-02 cs.LG
SAFRAN: An interpretable, rule-based link prediction method outperforming embedding models
Medical University of Vienna(维也纳医科大学);University Mannheim(曼海姆大学)
基于神经嵌入的机器学习模型已经显示出预测知识图谱中新链接的前景。不幸的是,它们的实际效用由于缺乏可解释性而减少。最近,完全可解释的,基于规则的算法AnyBURL在许多通用链接预测基准测试中产生了非常有竞争力的结果。然而,目前的方法聚合预测多个规则的影响冗余。我们通过引入SAFRAN规则应用程序框架来改进AnyBURL,该框架使用一种称为非冗余Noisy-OR的新聚合方法,该方法在聚合之前检测和聚类冗余规则。在已建立的通用基准FB 15 K-237、WN 18 RR和YAGO 3 -10上,赛峰提供了完全可解释的链接预测的最新结果。此外,它超过了FB 15 K-237和WN 18 RR上多个已建立的基于嵌入的算法的结果,并缩小了YAGO 3 -10上基于规则和基于嵌入的算法之间的差距。
2021-09-16 cs.AI cs.LG
Neural graph embeddings as explicit low-rank matrix factorization for link prediction
Institute of Artificial Intelligence, Medical University of Vienna(维也纳医科大学人工智能研究所)
学习高质量的神经图嵌入一直是通过最小化模拟随机游动中同现节点的逐点互信息(PMI)来实现的。这种设计选择主要是通过直接应用非常成功的词嵌入算法word2vec来预测社交网络、共同引用网络和生物网络中新链接的形成而推广的。然而,这种拟态设计的图嵌入方法需要截断来自具有低PMI的节点对的信息。为了避免这个问题,我们提出了一种改进的方法来学习低秩分解嵌入,将信息从这样的不太可能的节点对,并表明它可以提高链接预测性能的基线方法从1.2%到24.2%。根据我们的结果和观察,我们概述了进一步的步骤,可以改善设计的下一个图嵌入算法的基础上矩阵分解。
2022-08-25 cs.AI cs.LG cs.NA
Deep Hashing for Signed Social Network Embedding
Beijing Institute of Technology(北京理工大学);Huazhong University of Science and Technology(华中科技大学)
网络嵌入是一种很有前途的网络表示方法,可以方便地处理和分析许多签名社交网络,如链接预测和节点分类。近年来,已有的几种嵌入算法都采用了特征散列算法来提高嵌入效率,并取得了很大的成功。然而,现有的基于特征散列的嵌入算法仅考虑签名社交网络中的正链接。直观地说,负面链接也有助于提高性能。因此,在本文中,我们提出了一种新的深度哈希方法,通过同时考虑正负链接,用于签名社交网络嵌入。大量的实验表明,该方法优于几个国家的最先进的基线,通过链接预测任务在两个现实世界中签署的社交网络。
2019-08-16 cs.LG cs.SI
Large-Scale Privacy-Preserving Network Embedding against Private Link Inference Attacks
Shanghai University of Finance and Economics(上海财经大学);Peking University(北京大学);Beihang University(北京航空航天大学)
网络嵌入通过低维信息向量表示网络节点。虽然它通常对各种下游任务有效,但它可能会泄露网络的一些私有信息,例如隐藏的私有链接。在这项工作中,我们解决了一个新的问题,保护隐私的网络嵌入对私人链接推理攻击。基本上,我们建议通过添加或删除链接来扰动原始网络,并期望在扰动后的网络上生成的嵌入可以泄漏很少的私有链接信息,但对各种下游任务具有很高的实用性。为了实现这一目标,我们首先提出了一般的测量,以量化隐私增益和效用损失所产生的候选网络扰动,然后我们设计了一个PPNE框架,以确定最佳的扰动解决方案与最佳的隐私效用权衡迭代的方式。此外,我们提出了许多技术来加速PPNE,并确保其可扩展性。例如,由于包括DeepWalk和LINE在内的skip-gram嵌入方法可以被视为具有封闭形式嵌入结果的矩阵分解,因此我们设计了有效的隐私增益和效用损失近似方法,以避免在每次迭代中对每个候选网络扰动进行重复耗时的嵌入训练。在真实网络数据集(多达数百万个节点)上的实验验证了PPNE通过牺牲更少的效用和获得更高的隐私保护来优于基线。
2022-05-28 cs.AI cs.LG cs.SI
A Complex Network based Graph Embedding Method for Link Prediction
King Saud University(沙特国王大学);College of Computer and Information Sciences(计算机与信息科学学院)
图嵌入方法旨在通过将节点映射到低维向量空间来找到有用的图表示。它是一个具有重要下游应用的任务,例如链接预测、图重构、数据可视化、节点分类和语言建模。近年来,图嵌入领域已经从线性代数方法转向结合随机游走和深度神经网络的局部、基于梯度的优化方法,以解决嵌入大型图的问题。然而,尽管优化工具有了这种改进,但图嵌入方法仍然是以一种无视现实网络特殊性的方式设计的。事实上,近年来在理解和建模复杂的现实网络方面取得了重大进展。然而,所获得的结果有一个小的影响,图嵌入算法的发展。本文旨在通过设计一种图嵌入方法来弥补这一点,该方法利用了网络科学领域最近的有价值的见解。更准确地说,我们提出了一种新的图嵌入方法的基础上的流行度相似性和局部吸引力的范例。我们评估了所提出的方法在大量的现实生活中的网络上的链接预测任务的性能。我们表明,使用广泛的实验分析,所提出的方法优于国家的最先进的图嵌入算法。我们还证明了它的鲁棒性的数据稀缺性和嵌入维数的选择。
2022-09-11 cs.LG cs.SI
Self-attention Presents Low-dimensional Knowledge Graph Embeddings for Link Prediction
University of Tehran(德黑兰大学)
一些模型试图通过在更低的维度中嵌入知识图谱来解决链接预测问题,也称为知识图谱完成。然而,国家的最先进的结果是在相当大的增加嵌入的维数的成本,导致可扩展性问题的情况下,巨大的知识库。Transformers最近已经成功地用作知识图谱的强大编码器,但是可用的模型仍然具有可扩展性问题。为了解决这个问题,我们引入了一个基于transformer的模型来获得有表现力的低维嵌入。我们利用大量的自注意力头的关键应用查询相关的投影捕捉实体和关系之间的互信息。以WN 18 RR和FB 15 k-237作为标准链接预测基准测试的实验结果表明,该模型与当前最先进的模型具有相当的性能。值得注意的是,与最近五个最好的最先进的竞争对手相比,我们得到了令人鼓舞的结果,嵌入的维度平均减少了66.9%。
2022-11-26 cs.AI cs.LG
Benchmarking Network Embedding Models for Link Prediction: Are We Making Progress?
Ghent University(根特大学);Dept. of Electronics and I. S.(电子与信息系统系)
网络嵌入方法将网络的节点映射到嵌入空间中的向量,使得这些表示对于估计网络中的节点对之间的相似性或接近度的一些概念是有用的。然后,通过下游预测任务的结果来展示这些节点表示的质量。然而,诸如链接预测之类的常用基准任务呈现出复杂的评估管道和丰富的设计选择。这一点,再加上缺乏标准化的评价机制,可能会掩盖该领域的实际进展。在本文中,我们的目标是阐明最先进的网络嵌入方法的链接预测,并显示,使用一致的评估管道,只有薄的进展,在过去几年中取得的。我们在这里提出的新进行的基准测试,包括17种嵌入方法,也表明许多方法甚至比简单的嵌入方法更好。最后,我们认为,标准化的评估工具可以修复这种情况,并促进在这一领域的未来进展。
2020-09-03 cs.AI cs.LG cs.SI
Using link and content over time for embedding generation in Dynamic Attributed Networks
IBM Research(IBM研究院);University of São Paulo(圣保罗大学)
在这项工作中,我们考虑的问题相结合的链接,内容和时间分析的社区发现和预测在不断发展的网络。这种时间和内容丰富的网络出现在许多现实生活中,如书目网络和问答论坛。文献中的大多数工作(使用内容和结构)都涉及网络的静态快照,它们不能反映多个快照中发生的动态变化。将社区中的动态变化纳入分析还可以提供有关网络中变化的有用见解,例如作者跨社区的迁移。在这项工作中,我们提出了Chimera,一个共享的因子分解模型,可以同时考虑图链接,内容和时间分析。这种方法的工作原理是以多维形式提取网络的潜在语义结构,但在某种程度上考虑了这些嵌入的时间连续性。这种方法通过使用嵌入作为代理简化了底层网络的时间分析。这种简化的结果是,也可以使用这种嵌入的时间序列来预测未来的社区。我们目前的实验结果说明该方法的有效性。
2019-11-22 cs.LG cs.SI stat.ML
MEKER: Memory Efficient Knowledge Embedding Representation for Link Prediction and Question Answering
Skolkovo Institute of Science and Technology(斯科尔科沃科技学院)
知识图谱(KG)是事实的符号结构化存储。KG嵌入包含用于NLP任务的简洁数据,这些任务需要关于真实世界的隐式信息。此外,在实际NLP分配中可能有用的KG的大小是巨大的,并且在其上创建嵌入具有内存成本问题。我们将KG表示为三阶二进制张量,并通过使用其特定数据的广义版本超越标准CP分解。标准CP-ALS算法的泛化允许在没有反向传播机制的情况下获得优化梯度。它减少了训练所需的内存,同时提供了计算优势。我们提出了一个MEKER,一个内存高效的KG嵌入模型,它产生SOTA的链接预测任务和KG为基础的问答相当的性能。
2022-05-24 cs.AI cs.CL cs.IR
OOD Link Prediction Generalization Capabilities of Message-Passing GNNs in Larger Test Graphs
Purdue University(普渡大学);Ludwig-Maximilians-Universitat München(慕尼黑大学)
这项工作提供了关于图消息传递神经网络(gMPNN)-如图神经网络(GNN)-执行归纳分布外(OOD)链接预测任务的能力的第一个理论研究,其中部署(测试)图的大小大于训练图。我们首先证明了非渐近界,表明基于置换等变(结构)节点嵌入gMPNN的链接预测可以收敛到一个随机猜测的测试图变得更大。然后,我们提出了一个理论上合理的gMPNN输出结构成对(2节点)嵌入,并证明非渐近界显示,随着测试图的增长,这些嵌入收敛到一个连续函数的嵌入,保留其预测链接OOD的能力。随机图上的实验结果与我们的理论结果一致。
2022-10-10 cs.AI cs.LG cs.NA
MultiSAGE: a multiplex embedding algorithm for inter-layer link prediction
University of Catania(卡塔尼亚大学);INFN Sezione di Catania(意大利国家核物理研究所卡塔尼亚分部);University of Namur(那慕尔大学);Queen Mary University of London(伦敦玛丽女王大学)
图表示学习的研究近年来受到了极大的关注。然而,到目前为止,大多数研究都集中在单层图的嵌入。处理多层结构的表示学习问题的少数研究依赖于层间链接已知的强假设,这限制了可能的应用范围。在这里,我们提出了MultiSAGE,这是GraphSAGE算法的一个推广,它允许嵌入多路复用网络。我们表明,MultiSAGE能够重建层内和层间的连接,优于GraphSAGE,这是专为简单的图形。接下来,通过一个全面的实验分析,我们揭示了嵌入的性能,无论是在简单的和多路复用的网络,显示无论是图的密度或链接的随机性强烈影响嵌入的质量。
2022-06-24 cs.DM cs.LG cs.SI
Inductive Link Prediction for Nodes Having Only Attribute Information
University of New South Wales(新南威尔士大学);University of Science and Technology of China(中国科学技术大学);The Chinese University of Hong Kong(香港中文大学)
预测两个节点之间的链接是图数据分析的基本问题。在属性图中,结构和属性信息都可以用于链接预测。大多数现有的研究集中在两个节点都已经在图中的转导链接预测。然而,许多现实世界的应用需要归纳预测新的节点只有属性信息。这更具挑战性,因为新节点没有结构信息,并且在模型训练期间无法看到。为了解决这个问题,我们提出了一个称为DEAL的模型,它由三个组件组成:两个节点嵌入编码器和一个对齐机制。两个编码器分别输出面向属性的节点嵌入和面向结构的节点嵌入,对齐机制将两类嵌入对齐,建立属性和链接之间的连接。我们的模型DEAL是通用的,在这个意义上,它适用于感应和转导链接预测。在多个基准数据集上的大量实验表明,该模型的性能明显优于现有的归纳链接预测方法,也优于现有的归纳链接预测方法.
2020-07-16 cs.LG cs.SI stat.ML
Self-Supervised Learning of Contextual Embeddings for Link Prediction in Heterogeneous Networks
Virginia Tech(弗吉尼亚理工大学);Pacific Northwest National Laboratory(太平洋西北国家实验室)
用于异构网络的表示学习方法为每个节点产生低维向量嵌入,该低维向量嵌入对于涉及该节点的所有任务通常是固定的。许多现有的方法集中于以一种对正在使用节点的下游应用不可知的方式获得节点的静态向量表示。然而,实际上,诸如链接预测的下游任务需要特定的上下文信息,该上下文信息可以从与作为任务的输入提供的节点相关的子图中提取。为了应对这一挑战,我们开发了SLiCE,一个框架桥接静态表示学习方法,使用全局信息从整个图与本地化的注意力驱动机制,学习上下文节点表示。我们首先通过引入高阶语义关联和掩码节点,以自监督的方式预训练我们的模型,然后针对特定的链接预测任务微调我们的模型。我们不是通过聚合来自通过元路径连接的所有语义邻居的信息来训练节点表示,而是自动学习不同元路径的组成,这些元路径表征特定任务的上下文,而不需要任何预定义的元路径。在几个公开的基准网络数据集上,SLiCE显著优于静态和上下文嵌入学习方法。我们还解释了语义关联矩阵,并提供其效用和相关性,使成功的链接预测网络中的异构节点之间。
2021-03-21 cs.LG cs.SI stat.ML
Convolutional Hypercomplex Embeddings for Link Prediction
Paderborn University(帕德博恩大学);Globo(环球集团)
知识图谱嵌入的研究主要集中在两个最小的赋范除代数,$\mathbb{R}$和$\mathbb{C}$。最近的研究结果表明,四元数值嵌入的三线性积可以是一种更有效的手段来解决链接预测。此外,基于实值嵌入卷积的模型通常会产生链接预测的最新结果。本文研究了卷积运算与超复数乘法的复合。我们提出了四种方法QMult,OMult,ConvQ和ConvO来解决链接预测问题。QMult和OMult可以被认为是之前最先进方法(包括DistMult和ComplEx)的四元数和八元数扩展。ConvQ和ConvO建立在QMult和OMult的基础上,以残差学习框架的方式包含卷积运算。我们在包括WN 18 RR、FB 15 K-237和YAGO 3 -10在内的七个链接预测数据集上评估了我们的方法。实验结果表明,随着知识图谱的大小和复杂度的增长,学习超复值向量表示的好处变得更加明显。ConvO在MRR、Hit@1和Hit@3方面优于FB 15 K-237上的最先进方法,而QMult、OMult、ConvQ和ConvO在所有指标上都优于YAGO 3 -10上的最先进方法。结果还表明,链接预测性能可以进一步提高通过预测平均。为了促进可重复的研究,我们提供了一个开源的方法实现,包括培训和评估脚本以及预训练模型。
2021-11-18 cs.IR cs.LG
Integrating Transductive And Inductive Embeddings Improves Link Prediction Accuracy
IIT Bombay(印度理工学院孟买分校)
近年来,归纳图嵌入模型、\emph{viz.}、图神经网络(GNN)在在线社交网络中的链接预测(LP)方面变得越来越准确。这种网络的性能在很大程度上取决于输入节点的特征,这些特征在网络和应用中各不相同。选择适当的节点功能仍然依赖于应用程序,通常是一个悬而未决的问题。此外,由于隐私和道德问题,个性化节点特征的使用往往受到限制。事实上,来自在线社交网络的许多公开可用的数据不包含任何节点特征(例如,人口统计学)。在这项工作中,我们提供了一个全面的实验分析,表明利用转导技术(例如,Node2Vec)来获得初始节点表示,在此之后,归纳节点嵌入技术接管,导致链接预测准确性的实质性改进。我们证明,对于各种各样的GNN变体,从Node2Vec获得的节点表示向量作为GNN的高质量输入特征,从而提高LP性能。
2021-08-23 cs.AI cs.IR cs.LG
SHINE: Signed Heterogeneous Information Network Embedding for Sentiment Link Prediction
Shanghai Jiao Tong University(上海交通大学);Microsoft Research Asia(微软亚洲研究院);University of Science and Technology of China(中国科学技术大学)
在在线社交网络中,人们经常表达对他人的态度,这在用户之间形成了大量的情感链接。预测情感链接的符号是个人广告和舆论分析等许多领域的一项基本任务。以往的工作主要集中在文本情感分类,然而,文本信息只能揭示“冰山一角”的用户的真实意见,其中大部分是未观察到的,但隐含的其他信息源,如社会关系和用户的个人资料。为了解决这个问题,在本文中,我们研究如何预测可能存在的情感链接在异构信息的存在。首先,针对主流社交网络缺乏明确的情感链接的问题,采用实体级情感抽取方法,建立由用户情感关系、社交关系和用户侧貌知识组成的带标签的异构情感数据集。然后,我们提出了一个新颖的和灵活的端到端的有符号异构信息网络嵌入(SHINE)框架,从异构网络中提取用户的潜在表示和预测未观察到的情感链接的符号。SHINE利用多个深度自动编码器将每个用户映射到低维特征空间,同时保留网络结构。我们在两个真实世界的数据集上证明了SHINE在链接预测和节点推荐方面优于最先进的基线。实验结果也证明了SHINE在冷启动情况下的有效性。
2017-12-03 cs.IR cs.LG stat.ML
Can GNNs Learn Link Heuristics? A Concise Review and Evaluation of Link Prediction Methods
Faculty of Engineering and Information Technology, University of Technology Sydney(工程与信息技术学院,悉尼大学);Faculty of Engineering and Information Sciences, University of Wollongong(工程与信息科学学院,沃林戈大学);College of Electrical Engineering, Zhejiang University(电气工程学院,浙江大学)
本文研究了图神经网络在链接预测中的能力,发现可训练节点嵌入能提升性能,且图密度越高提升越显著,为未来算法发展提供指导。
2025-12-07 cs.LG cs.SI
Hypernetwork Knowledge Graph Embeddings
Samsung AI Centre(三星人工智能中心);University of Edinburgh(爱丁堡大学)
知识图谱是大型事实数据库的图形表示,其通常遭受不完整性。推断实体(节点)之间缺失的关系(链接)是链接预测的任务。最近的一种最先进的链接预测方法ConvE实现了一个卷积神经网络,从连接的主题和关系向量中提取特征。虽然结果令人印象深刻,但这种方法不直观,而且人们对它的理解也很差。我们提出了一种超网络架构,它生成简化的特定于关系的卷积滤波器,(i)在标准数据集上优于ConvE和所有以前的方法;(ii)可以被构建为张量因子分解,因此可以设置在一个完善的链接预测因子分解模型家族中。因此,我们证明,卷积只是提供了一个方便的计算方法,引入稀疏性和参数绑定,以找到一个有效的权衡非线性表达和学习参数的数量。
2019-07-15 cs.LG stat.ML
Unsupervised Adversarial Graph Alignment with Graph Embedding
Xiamen University(厦门大学);Tencent AI Lab(腾讯人工智能实验室)
图对齐,也称为网络对齐,是社会网络分析中的一项基本任务。许多最近的工作依赖于部分标记的交叉图节点对应,即,锚链接。然而,由于隐私和安全问题,对于不同场景的锚链接的手动标记可能是禁止的。在没有任何锚链接的情况下对齐两个图是一项至关重要且具有挑战性的任务。在本文中,我们提出了一个无监督对抗图对齐(UAGA)框架,以完全无监督的方式学习不同图的两个嵌入空间之间的交叉图对齐(\emph{i.e.,}没有现有的锚链接,也没有用户的个人资料或属性信息)。所提出的框架学习每个图的嵌入空间,然后尝试通过对抗训练对齐两个空间,然后进行细化过程。我们进一步扩展我们的UAGA方法增量UAGA(iUAGA),迭代地揭示未观察到的用户链接的伪锚链接的基础上。这可以用于进一步提高嵌入质量和对准精度。此外,所提出的方法将有利于一些现实世界的应用,\emph{e.g.,}链接预测在社交网络。在真实数据上的综合实验证明了我们提出的方法UAGA和iUAGA在无监督图对齐中的有效性。
2019-07-01 cs.LG cs.SI
MEIM: Multi-partition Embedding Interaction Beyond Block Term Format for Efficient and Expressive Link Prediction
National Institute of Informatics(国立信息学研究所);The Graduate University for Advanced Studies, SOKENDAI(综合研究大学院大学)
知识图嵌入的目的是预测知识图谱中实体之间缺失的关系。基于张量分解的模型,如ComplEx,在效率和表达能力之间提供了良好的权衡,这是至关重要的,因为现实世界的知识图谱的大小。最近的多分区嵌入相互作用(MEI)模型通过使用块项张量格式包含这些模型,并提供了一个系统的解决方案的权衡。然而,MEI有几个缺点,其中一些来自其包含的基于张量分解的模型。在本文中,我们解决这些缺点,并介绍了多分区嵌入相互作用改进的超越块项格式(MEIM)模型,独立的核心张量的合奏效果和软正交的最大秩映射,除了多分区嵌入。MEIM提高了表现力,同时仍然非常高效,帮助它超越强大的基线,并使用相当小的嵌入大小在困难的链接预测基准上实现最先进的结果。源代码发布于https://github.com/tranhungnghiep/MEIM-KGE。
2022-10-04 cs.AI cs.LG
Temporal Link Prediction Using Graph Embedding Dynamics
Michigan State University(密歇根州立大学)
本文提出将节点视为牛顿物体并引入速度概念,通过计算每个节点的具体动态来改进时序链接预测,在PubMed合著数据上使下游模型AUROC提升17.34%,同时增强了可解释性。
2024-01-15 cs.LG cs.SI
Clustering as an Evaluation Protocol for Knowledge Embedding Representation of Categorised Multi-relational Data in the Clinical Domain
University College London(伦敦大学学院);Institute of Health Informatics(健康信息学研究所)
学习知识表示是一种越来越重要的技术,适用于许多特定领域的机器学习问题。我们讨论了传统的链接预测或知识图谱完成评估协议的有效性时,嵌入知识表示的分类多关系数据在临床领域。链接预测用于将数据划分为训练和评估子集,导致训练过程中的信息丢失,并损害知识表示模型的准确性。我们提出了一个聚类评估协议作为替代传统上使用的评估任务。我们使用了由知识嵌入方法训练的嵌入模型,该方法已经过临床数据集的评估。Pearson和Spearman相关性的实验结果表明,新提出的评估协议是pottententially能够取代链接预测强有力的证据。
2019-12-29 cs.AI cs.LG cs.SI
From One Point to A Manifold: Knowledge Graph Embedding For Precise Link Prediction
Tsinghua University(清华大学)
知识图谱嵌入的目的是通过将实体和关系转换到连续的向量空间中来提供一种数值化的知识表示范式。然而,现有的方法不能对知识图谱进行精细的描述,从而不能做出精确的预测。其原因有二:一是作为一个不适定的代数系统,二是应用了过于严格的几何形式。由于精确的预测是至关重要的,我们提出了一个基于流形的嵌入原则(\textbf{ManifoldE}),它可以被视为一个适定的代数系统,扩展的位置黄金三元组从一个点在当前的模型在我们的流形。大量的实验表明,所提出的模型实现了对国家的最先进的基线,特别是对于精确的预测任务的实质性改善,但仍保持高效率。
2017-06-17 cs.AI cs.LG
Learning Social Image Embedding with Deep Multimodal Attention Networks
Beihang University(北京航空航天大学);Microsoft Research(微软研究院);National Computer Network Emergency Response Technical Team/Coordination Center of China(国家计算机网络应急技术处理协调中心)
基于深度模型的社交媒体数据嵌入学习已经引起了广泛的研究兴趣,并在链接预测、分类、跨模态搜索等方面得到了广泛的应用。然而,对于包含链接信息和多模态内容两者的社交图像(例如,文本描述和视觉内容),简单地采用从网络结构或数据内容学习的嵌入导致次优的社交图像表示。在本文中,我们提出了一种新的社交图像嵌入方法,称为深度多模态注意力网络(DMAN),它采用深度模型来联合嵌入多模态内容和链接信息。具体来说,为了有效地捕捉多模态内容之间的相关性,我们提出了一个多模态注意力网络来编码图像区域和文本单词之间的细粒度关系。为了利用网络结构进行嵌入学习,提出了一种新的Siamese-Triplet神经网络来建模图像之间的链接。利用联合深度模型,学习的嵌入可以捕获多模态内容和非线性网络信息。大量的实验进行了调查,我们的方法在多标签分类和跨模态搜索的应用程序的有效性。与最先进的图像嵌入相比,我们提出的DMAN在多标签分类和跨模态搜索任务方面取得了显着的改进。
2017-10-18 cs.LG cs.MM stat.ML
InteractE: Improving Convolution-based Knowledge Graph Embeddings by Increasing Feature Interactions
Indian Institute of Science(印度科学研究所);Columbia University(哥伦比亚大学)
大多数现有的知识图谱都存在不完整性,这可以通过基于已知事实推断缺失链接来缓解。实现这一点的一种流行方法是生成实体和关系的低维嵌入,并使用它们进行推理。ConvE是最近提出的一种方法,它将卷积过滤器应用于实体和关系嵌入的2D重塑,以捕获其组件之间的丰富交互。然而,ConvE可以捕获的交互数量是有限的。在本文中,我们分析如何增加这些相互作用的数量影响链接预测的性能,并利用我们的观察,提出InteractE。InteractE基于三个关键思想--特征置换、新的特征整形和循环卷积。通过大量的实验,我们发现InteractE在FB 15 k-237上的性能优于最先进的卷积链接预测基线。此外,InteractE在FB 15 k-237、WN 18 RR和YAGO 3 -10数据集上的MRR得分分别比ConvE高9%、7.5%和23%。结果验证了我们的中心假设--增加特征交互对链接预测性能是有益的。我们提供InteractE的源代码以鼓励可重复的研究。
2020-09-24 cs.LG stat.ML
Link Analysis meets Ontologies: Are Embeddings the Answer?
Jožef Stefan Institute(约瑟夫·斯蒂芬研究所);Jožef Stefan International Postgraduate School(约瑟夫·斯蒂芬国际研究生院);University of Nova Gorica(新戈里察大学)
语义资源的数量不断增加,为人类知识提供了宝贵的存储空间;然而,错误条目的可能性随着规模的增加而增加。因此,开发识别给定知识库中潜在虚假部分的方法正成为一个日益重要的感兴趣领域。在这项工作中,我们提出了一个系统的评估是否结构的链接分析方法已经可以提供一个可扩展的手段来检测可能的异常,以及潜在的有趣的新的关系候选人。在8个不同的语义资源上评估了13种方法,包括基因本体论,食品本体论,海洋本体论等,我们证明了仅结构链接分析可以为数据集的子集提供可扩展的异常检测。此外,我们证明了通过考虑符号节点嵌入,可以获得对预测(链接)的解释,使得这种方法的分支可能比黑盒方法更有价值。据我们所知,这是目前对不同类型的链接分析方法在不同领域的语义资源中的适用性进行的最广泛的系统研究之一。
2021-11-23 cs.AI cs.LG cs.SI
DynACPD Embedding Algorithm for Prediction Tasks in Dynamic Networks
Indiana University(印第安纳大学)
经典的网络嵌入创建跨节点的特征之间的学习关系的低维表示。这样的嵌入对于诸如链接预测和节点分类之类的任务是重要的。本文研究动态网络的低维嵌入问题,动态网络是一类节点间既存在时间链接关系又存在空间链接关系的时变网络。我们提出了新的嵌入方法的动态网络的基础上高阶张量分解的张量表示的动态网络。在某种意义上,我们的嵌入类似于静态网络的谱嵌入方法。我们提供了一个合理的我们的算法,通过数学分析,其有效性的一些潜在的原因。最后,我们通过比较我们的算法在链接预测任务上的性能与三个不同的真实动态网络中的一系列当前基线方法来证明我们的方法的能力和效率。
2021-03-12 cs.AI cs.LG
Link Prediction with Attention Applied on Multiple Knowledge Graph Embedding Models
University of Stuttgart(斯图加特大学);University of Southampton(南安普顿大学)
预测知识图谱中实体之间的缺失链接是处理Web上数据不完整性的基本任务。知识图谱将地图节点嵌入到向量空间中以预测新链接,并根据几何标准对其进行评分。图中的关系可以遵循可以学习的模式,例如,某些关系可能是对称的,而其它关系可能是分层的。然而,不同嵌入模型的学习能力对于每个模式都不同,到目前为止,没有一个模型可以同样好地学习所有模式。在本文中,我们结合了查询表示从几个模型在一个统一的模式,独立捕获的每个模型。我们的组合使用注意力来选择最合适的模型来回答每个查询。模型也被映射到一个非欧几里德流形,庞加莱球,以捕捉结构模式,如层次结构,除了关系模式,如对称性。我们证明,我们的组合提供了更高的表现力和推理能力比每个模型本身。因此,组合模型可以学习关系和结构模式。我们进行了广泛的实验分析与各种链接预测基准表明,组合模型优于个别模型,包括国家的最先进的方法。
2023-02-13 cs.AI cs.LG
Few-shot link prediction via graph neural networks for Covid-19 drug-repurposing
Amazon Web Services AI Lab(亚马逊云科技人工智能实验室)
预测异构图结构数据之间的交互具有许多应用,例如知识图谱完成、推荐系统和药物发现。通常情况下,要预测的联系属于罕见类型,例如将药物用于新疾病的情况。这激发了Few-Shot链接预测的任务。通常,GCN在学习这种罕见的链接类型时装备不良,因为关系嵌入不是以归纳的方式学习的。本文提出了一个归纳RGCN学习信息的关系嵌入,即使在少样本学习制度。在少样本学习任务中,所提出的归纳模型显著优于RGCN和最先进的KGE模型。此外,我们将我们的方法应用于药物再利用知识图谱(DRKG),以发现新冠病毒药物。我们提出的药物发现任务为链接预测和学习嵌入的生物实体参与DRKG。我们的初步结果证实,临床试验中使用的几种药物被确定为可能的候选药物。本文中的方法是使用高效的深度图学习(DGL)实现的
2020-07-20 cs.LG stat.ML
Embedding Cardinality Constraints in Neural Link Predictors
Data Science Institute, National University of Ireland Galway(爱尔兰国立高威大学数据科学研究所);University College London(伦敦大学学院)
神经链接预测器学习知识图谱中实体和关系的分布式表示。它们在链接预测和知识库完成任务中非常强大,这主要是由于学习到的表示捕获了数据中重要的统计依赖关系。最近的工作在该领域的重点是设计新的评分功能或将额外的信息纳入学习过程中,以改善表示。然而,这些表示大多是从观察到的实体之间的链接中学习的,忽略了与图中的关系相关的常识或模式知识。关系数据拓扑的一个基本方面是基数信息,它限制了最小和最大频率之间关系的预测数量。在本文中,我们提出了一种新的正则化方法,将关系基数约束纳入任何现有的神经链接预测器,而不会影响其效率或可扩展性。我们的正则化项旨在对具有高概率的预测数量施加边界,因此,构建嵌入空间以尊重常识基数假设,从而获得更好的表示。在Freebase、WordNet和YAGO上的实验结果表明,在给定适当的先验知识的情况下,该方法对下游链接预测任务的预测精度有积极的影响.
2018-12-16 cs.AI cs.LG
On the Theoretical Limitations of Embedding-based Link Prediction
Vrije Universiteit Amsterdam, Netherlands(荷兰阿姆斯特丹自由大学);University of Trento, Italy(意大利特伦托大学)
研究线性输出层导致的秩瓶颈对知识图谱嵌入模型表达能力的限制,并提出混合非线性输出层以提升大规模密集图上的性能。
2026-05-29 cs.AI cs.LG
Variational Disentangled Graph Auto-Encoders for Link Prediction
Northeastern University(东北大学);Beijing Institute of Technology(北京理工大学)
针对链接预测中嵌入纠缠问题,提出解耦图自编码器(DGAE)和变分解耦图自编码器(VDGAE),通过解耦潜在因素和互信息正则化提升预测性能与可解释性。
2023-06-20 cs.AI cs.LG cs.SI
Toward Edge-Centric Network Embeddings
Sapienza University of Rome(罗马大学)
现有的网络嵌入方法解决了学习低维节点表示的问题。然而,网络也可以从连接节点对的边的角度来看待。本文的主要目标是介绍以边缘为中心的网络嵌入。我们提出了一种称为ECNE的方法,而不是直接计算节点嵌入,计算边嵌入依赖于线图的概念,加上边加权机制,以保持动态的原始图中的线图。我们还提出了一个称为ECNE-LP的链接预测框架,该框架在给定目标链接(u,v)的情况下,首先收集节点u和v之间的路径,然后直接将边嵌入这些路径中,最后将它们聚集以预测链接的存在。我们表明,ECNE和ECNE-LP带来的好处wrt的最先进的。
2020-11-11 cs.LG cs.SI
Modeling Dynamic Heterogeneous Network for Link Prediction using Hierarchical Attention with Temporal RNN
The Australian National University(澳大利亚国立大学);Alibaba Group(阿里巴巴集团)
网络嵌入的目标是在获取网络结构信息的同时学习节点的低维表示。该算法在网络分析的链接预测、节点分类等方面取得了很大的成功。现有的大多数网络嵌入算法都集中在如何有效地学习静态同构网络。然而,现实世界中的网络更加复杂,例如,网络可以由几种类型的节点和边(称为异构信息)组成,并且可以在动态节点和边(称为演化模式)方面随时间变化。动态异构网络的网络嵌入研究工作有限,因为同时学习进化信息和异构信息具有挑战性。在本文中,我们提出了一种新的动态异构网络嵌入方法,称为DyHATR,它使用层次注意学习异构信息,并结合递归神经网络与时间注意捕获进化模式。我们基准我们的方法在四个现实世界的数据集的任务链接预测。实验结果表明,DyHATR显着优于几个国家的最先进的基线。
2020-04-01 cs.LG cs.SI stat.ML
TransGCN:Coupling Transformation Assumptions with Graph Convolutional Networks for Link Prediction
University of California, Santa Barbara(加州大学圣巴巴拉分校)
链接预测是统计关系学习中一个重要且经常被研究的任务,它有助于理解知识图谱(KG)的结构。受图卷积网络(GCN)在图形数据建模方面的成功启发,我们提出了一个统一的GCN框架,名为TransGCN,以解决这一任务,其中关系和实体嵌入同时学习。为了处理KG中的异构关系,我们引入了一种新的方式表示异构邻域通过引入转换假设的主题,关系,和对象的三元组之间的关系。具体来说,关系被视为将头实体转换为尾实体的转换运算符。在我们的框架中,transE的平移假设和旋转假设RotatE的探索。另外,代替仅学习基于卷积的编码器中的实体嵌入,同时学习解码器中的关系嵌入,如由现有技术的模型所完成的,例如,R-GCN,TransGCN框架在图卷积操作期间同时训练关系嵌入和实体嵌入,因此与R-GCN相比具有更少的参数。实验表明,我们的模型优于最先进的方法在FB 15 K-237和WN 18 RR。
2019-10-01 cs.CL cs.LG stat.ML
Link Prediction or Perdition: the Seeds of Instability in Knowledge Graph Embeddings
Université Côte d’Azur, Inria, CNRS, I3S, France(法国埃克塞特大学、法国国家信息与自动化研究所、法国国家科学研究中心、I3S研究所)
本文系统分析了多种知识图谱嵌入模型在链接预测中的稳定性,发现高性能模型在三元组预测和嵌入空间上存在显著不稳定性,且随机种子、超参数等因素独立引发同等程度的不稳定,投票机制仅能有限提升稳定性。
2026-06-02 cs.LG
A Systematic Evaluation of Knowledge Graph Embeddings for Gene-Disease Association Prediction
本文系统比较了链接预测与节点对分类在基因-疾病关联预测中的表现,提出五步评估框架,发现附加链接和语义丰富度可提升性能,且链接预测方法整体更优。
2025-04-11 cs.LG
Convolutional Complex Knowledge Graph Embeddings
Data Science Research Group, Paderborn University(帕德博恩大学数据科学研究中心)
在本文中,我们研究的问题,学习连续向量表示的知识图谱预测丢失的链接。我们提出了一种称为ConEx的新方法,该方法通过利用具有复值嵌入向量的Hermitian内积的2D卷积的组成来推断丢失的链接。我们在WN 18 RR,FB 15 K-237,KINSHIP和UMLS基准数据集上评估了ConEx对最先进方法的影响。我们的实验结果表明,ConEx在所有数据集上的链接预测任务上实现了优于RotatE,QuatE和TuckER等最先进方法的性能,同时需要至少8倍的参数。我们通过提供开源实现来确保我们的结果的可重复性,其中包括训练,评估脚本以及https://github.com/conex-kge/ConEx上的预训练模型。
2021-06-09 cs.CL cs.LG stat.ML
Parameter-free Dynamic Graph Embedding for Link Prediction
Fudan University(复旦大学);Microsoft Research Asia(微软亚洲研究院)
动态交互图已被广泛采用来建模用户-项目交互随时间的演变。在动态交互图中,为链接预测建模用户偏好时有两个关键因素:1)用户之间的协作关系和2)用户个性化交互模式。现有的方法往往隐含地考虑这两个因素在一起,这可能会导致嘈杂的用户建模时,这两个因素的分歧。此外,它们通常需要耗时的参数学习与反向传播,这是禁止的实时用户偏好建模。为此,本文提出了一种无参数动态图嵌入方法FreeGEM,用于链接预测。首先,为了充分利用这种协作关系,提出了一种增量式图嵌入引擎来获取用户/项目嵌入,该引擎是一种Online-Monitor-Offline架构,由一个在线模块、一个Monitor模块和一个Offline模块组成,其中,在线模块用于随时间近似嵌入用户/项目,Monitor模块用于实时的估计近似误差,Offline模块用于在在线近似误差超过阈值时校正用户/项目嵌入。同时,我们将属性信息集成到模型中,这使得FreeGEM能够更好地对属于某些未被表示的群体的用户进行建模。其次,本文设计了一个个性化的动态交互模式建模器,该模型结合动态时间衰减和注意力机制对用户短期兴趣进行建模。两个链接预测任务的实验结果表明,FreeGEM可以在准确性上优于最先进的方法,同时实现超过36倍的效率提高。所有代码和数据集都可以在https://github.com/FudanCISL/FreeGEM上找到。
2022-12-27 cs.AI cs.IR cs.LG
POLE: Polarized Embedding for Signed Networks
Rice University(莱斯大学)
从2016年美国总统大选到2021年国会大厦骚乱,再到与COVID-19相关的错误信息的传播,许多人将当今社会的严重分裂归咎于社交媒体。针对签名网络的机器学习的最新进展有望引导小干预,以减少社交媒体中的两极分化。然而,现有的模型在预测用户之间的冲突(或负面链接)方面尤其无效。这是由于链接符号和网络结构之间的强相关性,其中极化社区之间的负链接太稀疏,即使是最先进的方法也无法预测。为了解决这个问题,我们首先设计了一个分区不可知的符号图的基础上的符号随机游走的极化措施,并表明,许多现实世界中的图是高度极化。然后,我们提出了POLE(POLarized Embedding for signed networks),这是一种用于极化图的符号嵌入方法,它通过符号自协方差联合捕获拓扑和符号相似性。通过大量的实验,我们表明,POLE显着优于国家的最先进的方法,在有符号的链接预测,特别是负链接的增益高达一个数量级。
2022-02-21 cs.LG cs.SI
Inductive Link Prediction in Knowledge Graphs using Path-based Neural Networks
Sorenson Communications(索伦森通信公司);Florida State University(佛罗里达州立大学)
针对知识图谱归纳式链接预测中现有模型需微调或泛化性不足的问题,提出仅依赖关系和路径嵌入的SiaILP模型,在多个基准数据集上取得新的最优性能。
2024-07-08 cs.LG
Document Network Embedding: Coping for Missing Content and Missing Links
Université de Lyon(里昂大学);Lyon 2(里昂第二大学)
通过网络搜索文件是一项重要的任务。在这种情况下,提高信息检索系统性能的一个有前途的途径是利用嵌入技术学习的密集节点和内容表示。然而,这些技术无法学习孤立或内容缺失的文档的表示。为了解决这个问题,假设网络的拓扑结构和文档的内容相关,我们建议从可用的内容表示中估计缺失的节点表示,反之亦然。受机器翻译最新进展的启发,本文详细介绍了如何从一组对齐的内容和节点表示中学习线性变换。根据奇异值分解有效地计算投影矩阵。所提出的方法的有用性突出的改进能力,预测的邻居的节点的链接是未观察到的投影内容表示的基础上,并检索类似的文件时,内容丢失,投影节点表示的基础上。
2019-12-06 cs.CL cs.IR cs.LG
MDE: Multiple Distance Embeddings for Link Prediction in Knowledge Graphs
University of Bonn(波恩大学);Fraunhofer IAIS(弗劳恩霍夫应用信息学研究所);ADAPT Centre, Trinity College Dublin(都柏林大学圣三一学院ADAPT中心)
在过去的十年中,知识图谱成为流行的结构化领域知识捕获。关系学习模型能够预测知识图谱中缺失的链接。更具体地,潜在距离方法通过潜在表示之间的距离来对实体之间的关系进行建模。转换嵌入模型(例如,transE)是最流行的潜在距离方法之一,它使用一个距离函数来学习多个关系模式。然而,它们在捕获对称关系时效率很低,因为所有对称关系的表示向量范数都等于零。他们也失去了信息时,学习与自反模式的关系,因为他们成为对称和传递。我们提出了多距离嵌入模型(MDE),解决了这些限制和框架,以协作结合变量潜在的距离为基础的条款。我们的解决方案基于两个原则:1)我们使用基于限制的损失而不是边际排名损失,2)通过学习每个项的独立嵌入向量,我们可以使用矛盾的距离项进行集体训练和预测。我们进一步证明,MDE允许建模关系(反)对称,反转,和组成模式。我们提出MDE作为一个神经网络模型,使我们能够映射嵌入向量和评分函数的预期输出之间的非线性关系。我们的实证结果表明,MDE在几个基准数据集上的表现与最先进的嵌入模型具有竞争力。
2020-02-21 cs.AI cs.CL cs.LG
Attributed Network Embedding for Incomplete Attributed Networks
Southern University of Science and Technology(南方科技大学);University of Birmingham(伯明翰大学)
属性网络是普遍存在的,因为网络通常带有辅助属性信息,例如具有用户简档的社交网络。属性网络嵌入(ANE)是近年来研究的一个热点,它的目标是在保持结构和属性信息的同时学习统一的低维节点嵌入。所得到的节点嵌入然后可以促进各种网络下游任务,例如链接预测。虽然有几个ANE方法,其中大多数不能处理不完整的属性网络与丢失的链接和/或节点属性,这往往发生在现实世界的场景。为了解决这个问题,我们提出了一个强大的ANE方法,其总体思想是通过融合两个信息源来增强信息,然后采用基于随机游走的网络嵌入方法来学习节点嵌入,从而重建一个统一的密集网络。在6个真实数据集上进行的链接预测、节点分类、可视化和参数敏感性分析实验验证了该方法对不完全属性网络的有效性。
2019-06-05 cs.LG cs.SI