EM-RBR: a reinforced framework for knowledge graph completion from reasoning perspective
Cranberry-Lemon University(蔓越莓柠檬大学);University of the Witwatersrand(金山大学)
知识图谱补全的目的是预测知识图谱中给定实体的新链接。目前主流的嵌入方法主要关注知识库中包含的事实三元组,而忽略了知识库中隐含的逻辑规则所提供的丰富背景信息。为了解决这个问题,在本文中,我们提出了一个通用的框架,名为EM-RBR(嵌入和基于规则的推理),能够结合推理的优势,基于规则和国家的最先进的嵌入模型。EM-RBR旨在利用规则中包含的关系背景知识进行多关系推理链接预测,而不是嵌入模型中的表面向量三角链接。通过这种方式,我们可以在更深的背景下探索两个实体之间的关系,以达到更高的准确性。在实验中,我们证明了EM-RBR在FB 15 k,WN 18和我们的新数据集FB 15 k-R上与以前的模型相比具有更好的性能,特别是新数据集,我们的模型比那些最先进的模型表现得更好。我们在https://github.com/1173710224/link-prediction-with-rule-based-reasoning上提供EM-RBR的实现。
2020-10-11 cs.AI
A survey of embedding models of entities and relationships for knowledge graph completion
VinAI Research(VinAI研究院)
关于实体及其关系的真实世界事实的知识图谱(KG)是用于各种自然语言处理任务的有用资源。然而,因为知识图谱通常是不完整的,所以执行知识图谱完成或链接预测是有用的,即,预测不在知识图谱中的关系是否可能为真。本文综述了知识图谱的实体和关系嵌入模型,总结了在标准基准数据集上的最新实验结果,并指出了未来的研究方向。
2020-10-27 cs.AI cs.CL cs.IR
HyperKG: Hyperbolic Knowledge Graph Embeddings for Knowledge Base Completion
École Polytechnique Fédérale de Lausanne (EPFL)(洛桑联邦理工学院(EPFL))
学习知识库中存在的实体和关系的嵌入允许发现数据中隐藏的模式。在这项工作中,我们研究的几何空间的知识库完成的任务的贡献。我们专注于家庭的平移模型,其性能一直滞后,并提出了一个模型,称为HyperKG,它利用双曲空间,以更好地反映知识库的拓扑特性。我们调查的类型,我们的模型可以捕获,我们表明,它是一个突出的候选人有效地代表一个子集的数据库规则。我们经验表明,使用各种链接预测数据集,双曲空间允许显着缩小平移和双线性模型之间的性能差距。
2019-08-17 cs.AI cs.CL
Towards Semantically Enriched Embeddings for Knowledge Graph Completion
Telecom Paris(巴黎电信学院);Institut Polytechnique de Paris(巴黎综合理工学院);Vrije Universiteit Amsterdam(阿姆斯特丹自由大学);Technical University of Munich(慕尼黑工业大学)
该愿景论文梳理了基于嵌入的知识图谱补全算法的现有研究,按嵌入生成差异分类讨论多类算法,反思研究现状并提出未来方向,提出可结合LLM与描述逻辑语义增强知识图谱嵌入能力。
2024-07-11 cs.AI cs.CL
TIE: A Framework for Embedding-based Incremental Temporal Knowledge Graph Completion
McGill University(麦吉尔大学);MILA(MILA研究所);University of Montreal(蒙特利尔大学)
时态知识图谱中的推理是信息检索和语义搜索的关键任务。当TKG频繁更新时,这尤其具有挑战性。该模型必须适应TKG的变化,以进行有效的训练和推理,同时保持其对历史知识的性能。最近的工作方法TKG完成(TKGC)通过增强编码器-解码器框架与时间感知编码功能。然而,使用这些方法在每个时间步处天真地微调模型并不能解决以下问题:1)灾难性遗忘,2)模型不能识别事实的变化(例如,政治关系的改变和婚姻的结束); 3)缺乏培训效率。为了解决这些挑战,我们提出了时间感知增量嵌入(TIE)框架,它结合了TKG表示学习,经验重放和时间正则化。我们引入了一组指标,其特征在于该模型的不妥协性,并提出了一个约束,删除的事实与负面标签。在Wikidata 12 k和YAGO 11 k数据集上的实验结果表明,与vanilla全批训练相比,所提出的TIE框架将训练时间减少了约10倍,并改进了所提出的指标。它不会对任何传统措施造成重大损失。广泛的消融研究揭示了不同评价指标之间的性能权衡,这对于围绕真实世界TKG应用的决策至关重要。
2021-05-09 cs.AI
RatE: Relation-Adaptive Translating Embedding for Knowledge Graph Completion
Australian AI Institute(澳大利亚人工智能研究所);University of Technology Sydney(悉尼科技大学)
许多图嵌入方法已经被提出用于通过链接预测来完成知识图谱。其中,翻译嵌入方法具有结构轻、效率高、可解释性强等优点。特别是当扩展到复向量空间时,它们表现出处理各种关系模式的能力,包括对称,反对称,反演和合成。然而,先前定义在复向量空间中的平移嵌入方法遭受两个主要问题:1)模型的表示和建模能力受到具有两个复数的严格乘法的平移函数的限制;以及2)由一对多关系引起的嵌入歧义没有显式减轻。在本文中,我们提出了一个关系自适应的翻译功能建立在一个新的加权积在复杂的空间,其中的权重是可学习的,关系特定的和独立的嵌入大小。该转换函数只需要每个关系增加8个标量参数,但提高了表达能力,并解决了嵌入歧义问题。基于该函数,我们提出了自适应平移嵌入(RatE)方法来对每个图三元组进行评分。此外,提出了一种新的负采样方法,利用先验知识和自对抗学习进行有效的优化。实验证明RatE在四个链接预测基准测试上达到了最先进的性能。
2020-10-10 cs.AI cs.CL
Model Graph Inductive Learning for Knowledge Graph Completion
Yazd University(亚兹德大学);Institute for Advanced Studies in Basic Sciences (IASBS)(基础科学高等研究所);Medizinische Universität Graz(格拉茨医科大学)
提出模型图归纳学习(MGIL)框架,通过聚类实体构建模型图并应用GNN捕获全局结构,生成高质量初始嵌入,在归纳链接预测任务上取得最优或竞争性结果。
2026-06-16 cs.AI
Inductive Learning on Commonsense Knowledge Graph Completion
University of Southern California(南加州大学);Stanford University(斯坦福大学)
常识知识图谱(CKG)是一种特殊类型的知识图谱(KG),其中实体由自由形式的文本组成。然而,大多数现有的CKG完成方法集中在所有实体都在训练时呈现的设置上。虽然这种设置是标准的传统幼儿园完成,它有限制CKG完成。在测试时,CKG中的实体可能是不可见的,因为它们可能具有不可见的文本/名称,并且实体可能与训练图断开连接,因为CKG通常非常稀疏。在这里,我们建议研究CKG完成的归纳学习设置,其中看不见的实体可能会出现在测试时。我们开发了一个新的学习框架命名为归纳。与以前的方法不同,归纳E通过直接从原始实体属性/文本计算实体嵌入来确保归纳学习能力。InductiveE由一个自由文本编码器、一个图形编码器和一个KG完成解码器组成。具体地,自由文本编码器首先基于预训练的语言模型和词嵌入来提取每个实体的文本表示。图编码器是门控关系图卷积神经网络,其从密集图中学习以进行更多信息实体表示学习。我们开发了一种方法,通过增加语义相关的实体之间的边缘,并提供更多的支持信息,未知实体,导致更好的泛化能力的实体嵌入未知实体的CKG致密。最后,归纳E采用Conv-TransE作为CKG完成解码器。实验结果表明,在ATOMIC和ConceptNet基准测试中,InductiveE在标准和归纳设置中的性能都明显优于最先进的基线。InductivE在感应场景中表现得特别好,与现有方法相比,它实现了48%以上的改进。
2021-02-17 cs.AI
Knowledge Graph Completion using Structural and Textual Embeddings
School of Computing, University of Georgia(佐治亚大学计算学院)
本文提出一种结合基于游走的嵌入与语言模型嵌入的关系预测模型,利用知识图谱的文本和结构信息有效表示节点,在广泛使用的数据集上取得了有竞争力的结果。
2024-04-24 cs.AI cs.CL
Uncertain Knowledge Graph Completion via Semi-Supervised Confidence Distribution Learning
School of Computer Science and Engineering, Southeast University, China(东南大学计算机科学与工程学院);Key Laboratory of New Generation Artificial Intelligence Technology and its Interdisciplinary Applications (Southeast University), Ministry of Education, China(新一代人工智能技术及跨学科应用重点实验室(东南大学));College of Design and Innovation, Tongji University, China(同济大学设计与创新学院)
针对不确定知识图谱中三元组置信度分布极度不平衡的问题,提出半监督 ssCDL 方法,通过置信度分布转换与元学习伪标签迭代增强嵌入学习,并在两个数据集上优于现有基线。
2025-10-21 cs.AI
IME: Integrating Multi-curvature Shared and Specific Embedding for Temporal Knowledge Graph Completion
Beijing University of Technology(北京工业大学);Griffith University(格里菲斯大学);The University of Sydney(悉尼大学);Peking University(北京大学)
本文提出IME模型,将时序知识图谱建模到多曲率空间,结合空间共享与特定特性及可调节多曲率池化,并设计三类损失函数,在TKGC任务上取得优于现有方法的性能。
2024-03-28 cs.AI
ComDensE : Combined Dense Embedding of Relation-aware and Common Features for Knowledge Graph Completion
Kakao Enterprise(Kakao企业);Korea University(高丽大学)
现实世界的知识图谱(KG)大多是不完整的。恢复缺失关系的问题,称为KG完成,最近已成为一个活跃的研究领域。知识图谱(KG)嵌入作为实体和关系的低维表示,是KG完备化的关键技术。诸如ConvE、SACN、InteractE和RGCN等模型中的卷积神经网络最近取得了成功。本文采取了不同的架构视图,并提出了ComDensE,它结合了关系感知和常见的功能,使用密集的神经网络。在关系感知的特征提取中,我们试图通过应用特定于每个关系的编码函数来创建关系归纳偏差。在公共特征提取中,我们将公共编码函数应用于所有输入嵌入。这些编码功能使用ComDensE中的密集层实现。与以前的基线方法相比,ComDensE在链接预测中的MRR、FB 15 k-237上的HIT@1和WN 18 RR上的HIT@1方面实现了最先进的性能。我们进行了广泛的消融研究,以检查ComDensE的关系感知层和公共层的影响。实验结果表明,在ComDensE实现的组合密集架构达到最佳性能。
2022-06-29 cs.AI cs.LG
Improving Graph Embeddings in Machine Learning Using Knowledge Completion with Validation in a Case Study on COVID-19 Spread
University of Messina(梅西纳大学)
本文提出一种整合知识补全的图机器学习流程,通过重塑图拓扑和嵌入动态,提升图表示质量,以新冠传播案例验证其有效性。
2025-11-15 cs.AI cs.LG
ExpressivE: A Spatio-Functional Embedding For Knowledge Graph Completion
TU Wien(维也纳工业大学)
知识图谱本质上是不完整的。因此,大量的研究已经指向知识图谱完成(KGC),即,从所述知识图谱(KG)中表示的所述信息预测缺失的三元组。KG嵌入模型(KGE)已经为KGC产生了有希望的结果,然而任何当前的KGE都不能:(1)完全捕获重要的推理模式(例如,合成),(2)联合地捕获突出图案(例如,层次和组成),以及(3)提供对捕获的模式的直观解释。在这项工作中,我们提出了ExpressivE,一个完全表达空间功能的KGE,同时解决了所有这些挑战。ExpressivE在虚拟三元空间$\mathbb{R}^{2d}$中将实体对嵌入为点,将关系嵌入为超平行四边形。这种模型设计不仅允许ExpressivE联合捕获丰富的推理模式集,而且还可以通过超平行四边形的空间关系显示任何支持的推理模式,为ExpressivE嵌入及其捕获的模式提供直观和一致的几何解释。在标准KGC基准测试上的实验结果表明,ExpressivE与最先进的KGE相比具有竞争力,甚至在WN18RR上的表现明显优于它们。
2023-03-22 cs.AI cs.LG
DsMtGCN: A Direction-sensitive Multi-task framework for Knowledge Graph Completion
Sun Yat-sen University(中山大学)
针对现有GCN知识图谱补全模型忽略方向信息的问题,提出方向敏感多任务GCN(DsMtGCN),利用多头自注意力组合不同方向嵌入,施加几何约束并改进损失函数,在基准数据集上验证了有效性。
2023-06-17 cs.AI
ConvD: Attention Enhanced Dynamic Convolutional Embeddings for Knowledge Graph Completion
College of Intelligence and Computing, Tianjin University(天津大学智能与计算学院);Tianjin Key Laboratory of Cognitive Computing and Application(认知计算与应用重点实验室);School of Economics and Management, Ningxia University(宁夏大学经济管理学院);School of Computer Science and Technology, Beijing Institute of Technology(北京理工大学计算机科学与技术学院)
针对现有知识图谱卷积嵌入模型特征交互受限的问题,提出带注意力增强的动态卷积嵌入模型ConvD,通过内部卷积核和注意力机制提升性能,在多数据集上指标提升且参数量大幅降低。
2025-06-12 cs.AI cs.CL
An Open-World Extension to Knowledge Graph Completion Models
National University of Science and Technology(国立科技大学);RheinMain University of Applied Sciences(莱茵美因应用科学大学)
我们提出了一种新的扩展嵌入式知识图谱完成模型,使他们能够执行开放世界的链接预测,即预测事实的基础上,他们的文本描述的训练中看不到的实体。我们的模型结合了从知识图谱中学习的常规链接预测模型和从文本语料库中学习的词嵌入。在独立训练两者之后,我们学习了一个转换,将实体名称和描述的嵌入映射到基于图的嵌入空间。在包括FB 20 k,DBPedia 50 k和我们的新数据集FB 15 k-237-OWE在内的几个数据集上的实验中,我们展示了具有竞争力的结果。特别是,我们的方法利用了完整的知识图谱结构,即使在文本描述很少的情况下,也不需要对图和文本进行联合训练,并且可以应用于任何基于嵌入的链接预测模型,例如transE,complEx和DistMult。
2019-06-19 cs.AI cs.CL
ProjE: Embedding Projection for Knowledge Graph Completion
University of Notre Dame(圣母大学)
随着每天产生的大量新信息,确定知识图谱中信息的有效性并填充其缺失部分是许多研究人员和实践者的关键任务。为了解决这个问题,许多知识图谱完成方法已经开发使用低维图嵌入。虽然研究人员继续使用越来越复杂的特征空间来改进这些模型,但我们表明,基础模型架构的简单变化可以胜过最先进的模型,而无需复杂的特征工程。在这项工作中,我们提出了一个共享变量的神经网络模型,称为ProjE,填补缺失的信息在知识图谱通过学习联合嵌入的知识图谱的实体和边缘,并通过微妙的,但重要的,改变标准的损失函数。在这样做时,ProjE的参数大小小于15个现有方法中的11个,同时在标准数据集上执行$37\%$比当前最好的方法更好。我们还表明,通过一个新的事实检查任务,ProjE是能够准确地确定许多声明性语句的准确性。
2016-11-16 cs.AI stat.ML
KG-NSF: Knowledge Graph Completion with a Negative-Sample-Free Approach
International University of Rabat(拉巴特国际大学)
知识图谱(KG)的补全是一项重要的任务,它极大地有利于许多领域(例如生物医学研究)的知识发现。近年来,学习KG嵌入来执行这一任务受到了相当大的关注。尽管KG嵌入方法取得了成功,但它们主要使用负采样,导致计算复杂性增加以及由于封闭世界假设而导致的有偏预测。为了克服这些局限性,我们提出了\textbf{KG-NSF},一个负采样的框架学习KG嵌入的基础上嵌入向量的互相关矩阵。结果表明,该方法实现了可比的链接预测性能负采样为基础的方法,同时收敛速度更快。
2022-07-29 cs.AI cs.CL cs.LG
Contextual Dictionary Lookup for Knowledge Graph Completion
Sun Yat-sen University(中山大学);Unisound Information Technology Co., Ltd(云知声信息技术有限公司)
针对现有知识图谱嵌入模型忽略关系细粒度语义、聚类类方法训练繁琐的问题,提出上下文词典查询的端到端方法,用含多潜在语义的词典表示关系,结合实体上下文自适应确定关系细粒度语义,应用于多个KGE模型后在基准数据集上取得显著性能提升。
2023-06-13 cs.AI
BoxE: A Box Embedding Model for Knowledge Base Completion
University of Oxford(牛津大学)
知识库补全(KBC)的目标是通过利用知识库(KB)中已经存在的信息来自动推断缺失的事实。KBC的一种有前途的方法是将知识嵌入到潜在空间中,并从学习的嵌入中进行预测。然而,现有的嵌入模型受到以下限制中的至少一个限制:(1)理论上的不可表达性,(2)缺乏对突出推理模式的支持(例如,层次结构),(3)缺乏对KBC的支持,以及(4)缺乏对合并逻辑规则的支持。在这里,我们提出了一个空间平移嵌入模型,称为BoxE,同时解决了所有这些限制。BoxE将实体嵌入为点,将关系嵌入为一组超矩形(或框),这些超矩形在空间上表征基本逻辑属性。这个看似简单的抽象产生了一个完全表达的模型,为许多所需的逻辑属性提供了一个自然的编码。BoxE可以从丰富的规则语言类中捕获和注入规则,远远超出了单个推理模式。通过设计,BoxE自然适用于更高级别的知识库。我们进行了详细的实验分析,并表明BoxE实现了最先进的性能,无论是在基准知识图谱和更一般的知识库,我们经验表明集成逻辑规则的力量。
2020-10-29 cs.AI cs.LG
Joint Language Semantic and Structure Embedding for Knowledge Graph Completion
Peking University(北京大学);Washington University in St. Louis(圣路易斯华盛顿大学);UC Berkeley(加州大学伯克利分校)
完成知识三元组的任务具有广泛的下游应用。结构信息和语义信息在知识图谱的构建中起着重要的作用。不同于以往的方法,依赖于结构或语义的知识图谱,我们提出了联合嵌入的语义在自然语言描述的知识三元组与它们的结构信息。我们的方法嵌入知识图谱的完成任务,通过微调预训练的语言模型相对于概率结构化损失,其中的前向传递的语言模型捕捉语义和损失重建结构。我们在各种知识图谱基准上的大量实验证明了我们方法的最先进性能。我们还表明,我们的方法可以显着提高在低资源制度的性能,由于更好地使用语义。代码和数据集可在https://github.com/pkusjh/LASS上获得。
2022-09-19 cs.AI cs.CL cs.LG
Combination of Unified Embedding Model and Observed Features for Knowledge Graph Completion
SOKENDAI (The Graduate University for Advanced Studies)(综合研究大学院大学);National Institute of Informatics(国立信息学研究所);National Institute of Advanced Industrial Science and Technology(产业技术综合研究所)
知识图谱对于许多人工智能任务都很有用,但通常会丢失数据。因此,需要一种用于完成知识图谱的方法。现有的方法包括嵌入模型,路径排名算法,规则评估模型。然而,这些方法具有局限性。例如,在嵌入模型中,所有的信息都是混合的并且难以解释,并且传统的规则评估模型基本上是缓慢的。在本文中,我们提供了各种方法的综合视图,并将它们结合起来,以弥补其局限性。我们首先统一了最先进的嵌入模型,如ComplEx和TorusE,将它们重新解释为基于嵌入的模型的变体。然后,我们表明,这些模型利用路径的链接预测,并提出了一种方法来评估规则的基础上,这一想法。最后,我们结合嵌入模型和观察到的特征模型来预测丢失的三元组。这是可能的,因为所有这些模型都使用路径。我们还进行实验,包括链接预测任务,与标准数据集,以评估我们的方法和框架。实验表明,我们的方法可以评估规则比传统方法更快,我们的框架优于国家的最先进的模型在链接预测。
2019-09-10 cs.AI cs.CL
Knowledge Acquisition and Completion for Long-Term Human-Robot Interactions using Knowledge Graph Embedding
Sapienza University of Rome(罗马第一大学)
在人机交互(HRI)系统中,一个具有挑战性的任务是共享操作环境的表示,融合符号知识和感知,用户和机器人之间。通过现有的HRI管道,用户可以教机器人一些概念,以增加他们的知识库。不幸的是,来自用户的数据通常不够密集,无法构建一致的表示。此外,现有的方法是不能够逐步建立自己的知识库,这是非常重要的,当机器人必须处理动态上下文。为此,我们提出了一个架构,从用户和环境中收集数据的长期运行的持续学习。我们采用知识图谱嵌入技术来概括所获得的信息,逐步扩展机器人的内部表示的环境的目标。我们评估的整体持续学习架构的性能,通过测量的机器人的学习实体和关系来自未知的情况下,通过一系列的增量学习会话的能力。
2023-01-17 cs.AI cs.RO
ProjB: An Improved Bilinear Biased ProjE model for Knowledge Graph Completion
Queen’s University(女王大学);Leipzig University(莱比锡大学);The Institute for Applied Informatics(应用信息学研究所)
知识图谱嵌入(KGE)方法已经得到了广泛的AI社区的极大关注,包括用于文本生成、分类和上下文归纳的自然语言处理(NLP)。在少量的维度中嵌入大量的相互关系,需要在认知和计算方面进行适当的建模。近年来,关于自然语言的认知和计算方面的许多目标函数被开发出来。其中包括线性、双线性、流形保持核、投影子空间和类比推理等最先进的方法。然而,这种模型的主要挑战在于它们的损失函数,将关系嵌入的维度与相应的实体维度相关联。这导致在错误地估计对应物时不准确地预测实体之间的对应关系。ProjE KGE,由Bordes等人出版,由于低计算复杂性和模型改进的高潜力,在这项工作中,在捕获实体非线性的同时,对所有平移和双线性相互作用进行了改进。在FB15 K和WN18等基准知识图谱上的实验结果表明,该方法在实体预测任务中的性能优于使用线性和双线性方法的最新模型以及其他最近的强大方法。此外,为了提高模型在大型KG上的可扩展性,提出了一种并行处理结构。不同的自适应聚类和新提出的采样方法的效果也被解释证明是有效的,在提高知识图谱完成的准确性。
2022-09-15 cs.AI
Combining Rules and Embeddings via Neuro-Symbolic AI for Knowledge Base Completion
IBM Research(IBM研究院)
最近对知识库补全(KBC)的兴趣导致了基于强化学习、归纳逻辑程序设计和图嵌入的大量方法。特别是,基于规则的KBC导致了可解释的规则,同时在性能上与图嵌入相当。即使在基于规则的KBC中,也存在不同的方法,导致不同质量的规则,以前的工作并不总是精确地突出这些差异。困扰大多数基于规则的KBC的另一个问题是关系路径的不一致性:一些关系序列出现在非常少的路径中,而另一些关系序列出现得非常频繁。在本文中,我们证明了并非所有基于规则的KBC模型都是相同的,并提出了两种不同的学习方法:1)混合关系和2)混合路径。当在神经符号AI之上实现时,后者通过将布尔逻辑扩展到实值逻辑来学习规则,后者模型在平均倒数排名方面的KBC准确性优于最先进的基于规则的KBC 2-10%。此外,为了解决关系路径的不一致性,我们将基于规则的KBC与图嵌入相结合,从而进一步改善了我们的结果,并实现了两全其美。
2021-09-16 cs.AI cs.LG cs.LO
DyERNIE: Dynamic Evolution of Riemannian Manifold Embeddings for Temporal Knowledge Graph Completion
LMU Munich(慕尼黑大学);Siemens AG(西门子股份公司);Technical University of Munich(慕尼黑工业大学)
最近有越来越多的兴趣在学习表示的时间知识图谱(KG),它记录了实体之间的动态关系,随着时间的推移。时间KG通常表现出多个同时的非欧结构,如层次结构和循环结构。然而,现有的时间KG嵌入方法通常学习实体表示及其在欧几里得空间中的动态演化,这可能无法很好地捕捉这种内在结构。为此,我们提出了Dy-ERNIE,一种非欧几里德嵌入方法,它可以学习黎曼流形乘积中的演化实体表示,其中组合空间是从底层数据的截面曲率估计的。产品流形使我们的方法,以更好地反映各种各样的几何结构的时间KG。此外,为了捕捉时间KG的演化动力学,我们让实体表示根据在每个时间戳的切空间中定义的速度向量来演化。我们详细分析了几何空间的贡献表示学习的时间KG和评估我们的模型上的时间知识图谱完成任务。在三个真实世界数据集上进行的大量实验表明,性能得到了显着提高,这表明多关系图数据的动态可以通过黎曼流形上嵌入的演变来更好地建模。
2020-12-02 cs.AI cs.CL cs.LG
Knowledge Graph Completion with Pre-trained Multimodal Transformer and Twins Negative Sampling
College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院);College of Software Technology, Zhejiang University(浙江大学软件学院)
将世界知识建模为结构三元组的知识图谱不可避免地是不完整的。多模态知识图谱(MMKG)仍然存在这样的问题。因此,知识图谱补全(KGC)对于预测现有知识图谱中缺失的三元组具有重要意义。对于现有的KGC方法,基于嵌入的方法依赖于人工设计来利用多模态信息,而基于细调的方法在链接预测方面并不优于基于嵌入的方法。针对这些问题,提出了一种基于VisualBERT的知识图谱补全模型(VBKGC)。VBKGC可以捕获实体的深度融合的多模态信息,并将其集成到KGC模型中。此外,通过设计一种新的负抽样策略--孪生负抽样,实现了KGC模型与负抽样的协同设计。双胞胎负采样适用于多模式场景,并且可以对齐实体的不同嵌入。通过大量的实验,验证了VBKGC在链接预测任务上的优异性能,并对VBKGC作了进一步的探索。
2022-09-15 cs.AI cs.CL
On the Effectiveness of Knowledge Graph Embeddings: a Rule Mining Approach
Peoples' Friendship University of Russia (RUDN University)(俄罗斯人民友谊大学(卢蒙巴大学));Joint Institute for Nuclear Research(联合核研究所);Vrije Universiteit Amsterdam(阿姆斯特丹自由大学);University of Skövde(舍夫德大学);Comenius University in Bratislava(布拉迪斯拉发夸美纽斯大学);University of Bergen(卑尔根大学)
研究了知识图谱嵌入算法在规则挖掘的知识图谱完备化中的有效性。更具体地说,我们挖掘规则,从KG之前和之后,他们已经完成了KGE比较可能的差异,在提取的规则。我们将此方法应用于经典的KGE方法,特别是,transE,DistMult和complEx。我们的实验表明,提取的规则之间可能存在巨大的差异,这取决于KG完成的KGE方法。特别是,在TransE完成后,提取了几个虚假的规则。
2022-06-23 cs.AI cs.LG
Multi-Partition Embedding Interaction with Block Term Format for Knowledge Graph Completion
The Graduate University for Advanced Studies, SOKENDAI(综合研究大学院大学);National Institute of Informatics(国立信息学研究所)
知识图谱补全是一项重要的任务,旨在预测实体之间缺失的关系链接。知识图谱嵌入方法通过将实体和关系表示为嵌入向量并对它们的交互进行建模以计算每个三元组的匹配分数来执行此任务。以前的工作通常将每个嵌入作为一个整体,并对这些整体嵌入之间的交互进行建模,这可能会使模型过于昂贵或需要专门设计的交互机制。在这项工作中,我们提出了多分区嵌入相互作用(MEI)模型与块项格式系统地解决这个问题。MEI将每个嵌入划分为多分区向量,以有效地限制交互。每一个局部的相互作用与Tucker张量格式建模和完整的相互作用与块项张量格式建模,使MEI控制表达能力和计算成本之间的权衡,从数据自动学习的相互作用机制,并实现国家的最先进的性能上的链接预测任务。此外,我们从理论上研究了参数效率问题,并推导出一个简单的经验验证的最佳参数权衡标准。我们还应用MEI的框架提供了一个新的广义解释,在以前的模型中的几个专门设计的相互作用机制。源代码发布于https://github.com/tranhungnghiep/MEI-KGE。
2022-10-01 cs.AI cs.CL cs.LG
SCEF: A Support-Confidence-aware Embedding Framework for Knowledge Graph Refinement
知识图谱(KG)精化主要针对KG的补全和修正(即,错误检测)。然而,传统的KG嵌入模型只关注KG完备化,并不合理地假设KG中的所有事实都是无噪声的,而忽略了错误检测,而错误检测对于KG的细化也是至关重要的。它通过学习具有三重支持度和三重置信度的知识表示来同时实现KG补全和校正。具体来说,我们建立模型的能量函数,将传统的预测为基础的模型的支持和信心。为了使我们的三重支持度-置信度更加充分和鲁棒,我们不仅考虑KG内部的结构信息,研究近似关系蕴涵作为三重置信度约束,而且考虑外部的文本证据,提出了两种分别基于实体类型和描述的三重支持度,并通过在真实数据集上的大量实验,证明了SCEF的有效性。
2019-07-27 cs.AI cs.CL
A Temporal Knowledge Graph Completion Method Based on Balanced Timestamp Distribution
Huazhong University of Science and Technology(华中科技大学);Hefei University of Technology(合肥工业大学)
通过知识图谱(KGE)的嵌入表示来实现知识完备化是近年来的一个研究热点。现实知识图谱大多与时间相关,而现有的KGE算法大多忽略了时间信息。现有的一些方法直接或间接地对时间信息进行编码,忽略了时间戳分布的均衡性,极大地限制了时态知识图谱补全(KGC)的性能。本文在直接编码时间信息框架的基础上,提出了一种基于时间的KGC方法,将给定的时间片作为时间戳均衡分布的最细粒度。在现实世界中提取的时态知识图谱数据集上的大量实验证明了该方法的有效性。
2021-11-06 cs.AI
Conditional Diffusion Guided Knowledge Transfer for Multi-Domain Knowledge Graph Completion
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);UCAS(中国科学院大学)
研究多域知识图谱补全问题,提出基于条件扩散引导的知识转移框架DMKGC,将各知识图谱视为实体信息的部分视图,通过扩散模型生成通用实体嵌入,提升尾实体预测性能。
2026-07-07 cs.AI cs.CL
Multilingual Knowledge Graph Completion via Ensemble Knowledge Transfer
UCLA(加州大学洛杉矶分校);USC(南加州大学);UPenn(宾夕法尼亚大学);NUDT(国防科技大学)
预测知识图谱中的缺失事实是知识库构建和推理中的一项重要任务,并且在最近的工作中使用KG嵌入已经成为许多研究的主题。虽然现有的KG嵌入方法主要学习和预测单个KG中的事实,但考虑到不同的KG在数据质量和覆盖范围方面有自己的优势和局限性,更合理的解决方案将受益于多语言特定KG中的知识。这是相当具有挑战性的,因为知识在多个独立维护的KG之间的传递常常受到比对信息不足和所描述事实不一致的阻碍。在本文中,我们提出了KEnS,一个新的框架嵌入学习和集成知识转移在一些特定语言的KG。KEnS将所有KG嵌入到一个共享的嵌入空间中,其中实体的关联是基于自学习捕获的。然后,KEnS执行集成推理,以组合来自多个语言特定KG的嵌入的预测结果,其中研究了多个集成技术。五个真实世界的语言特定的KG上的实验表明,KEnS不断提高国家的最先进的方法对KG完成,通过有效地识别和利用互补的知识。
2020-10-08 cs.AI cs.CL cs.LG
On Large-scale Evaluation of Embedding Models for Knowledge Graph Completion
University of Texas at Arlington(德克萨斯大学阿灵顿分校)
针对KGE评估基准不切实际、指标与数据集受限的问题,本文在FB-CVT-REV和FB+CVT-REV上大规模评估四种模型,揭示规模差异、n元关系二值化高估及现有协议的根本缺陷。
2025-06-10 cs.AI cs.LG
Flow-Modulated Scoring for Semantic-Aware Knowledge Graph Completion
Dalian University of Technology(大连理工大学);Beijing Institute of Technology(北京理工大学);University of Manchester(曼彻斯特大学);Renmin University of China(中国人民大学);Beijing Academy of Artificial Intelligence(北京人工智能研究院)
针对现有知识图谱补全方法难以兼顾语义上下文与关系动态性的问题,提出流调制评分框架FMS,结合静态语义嵌入与条件动态流调制评分,在多个基准任务上以极少参数取得SOTA性能,提供了高效参数的补全新范式。
2025-08-30 cs.AI cs.CL
OMNIA: Closing the Loop by Leveraging LLMs for Knowledge Graph Completion
OMNIA提出一种两阶段方法,结合结构和语义推理补全知识图谱,通过聚类生成候选三元组并利用轻量嵌入过滤和LLM验证,提升F1分数,减少搜索空间和验证成本。
2026-03-12 cs.AI cs.DB
End-to-end Structure-Aware Convolutional Networks for Knowledge Base Completion
University of Connecticut(康涅狄格大学);JD AI Research(京东人工智能研究院)
知识图谱嵌入是知识库补全的一个活跃的研究课题,从最初的transE、transH、DistMult等算法到目前最先进的ConvE算法,知识图谱嵌入技术不断发展。ConvE在嵌入和多层非线性特征上使用2D卷积来建模知识图谱。该模型可以有效地训练和扩展到大型知识图谱。然而,在ConvE的嵌入空间中没有结构强制。最近的图卷积网络(GCN)通过成功地利用图的连通性结构,提供了另一种学习图节点嵌入的方法。在这项工作中,我们提出了一种新的端到端结构感知卷积网络(SACN),它将GCN和ConvE的优点结合在一起。SACN由加权图卷积网络(WGCN)的编码器和称为Conv-TransE的卷积网络的解码器组成。WGCN利用了知识图谱的节点结构、节点属性和边关系类型。它具有可学习的权重,可以适应本地聚合中使用的邻居信息量,从而更准确地嵌入图节点。图中的节点属性表示为WGCN中的附加节点。解码器Conv-TransE使最先进的ConvE能够在实体和关系之间平移,同时保持与ConvE相同的链接预测性能。我们在标准FB 15 k-237和WN 18 RR数据集上证明了所提出的SACN的有效性,并且在HITS@1,HITS@3和HITS@10方面,它比最先进的ConvE相对提高了约10%。
2018-11-15 cs.AI cs.CL
Knowledge Graph Completion via Complex Tensor Factorization
Univ. Grenoble Alpes(格勒诺布尔阿尔卑斯大学);NAVER LABS Europe(NAVER LABS 欧洲实验室);University College London(伦敦大学学院);Bloomsbury AI
在统计关系学习中,知识图谱完成涉及自动理解大型知识图谱的结构--标记的有向图--并预测缺失的关系--标记的边。最先进的嵌入模型提出了建模表现力与时间和空间复杂度之间的不同权衡。我们通过使用复值嵌入来调和表达性和复杂性,并探索这种复值嵌入和酉对角化之间的联系。我们证实了我们的方法理论上,并表明,所有真正的方阵-因此所有可能的关系/邻接矩阵-是一些酉可对角化矩阵的实部。这一结果为方阵因式分解的许多其他应用打开了大门。我们基于复杂嵌入的方法可以说是简单的,因为它只涉及Hermitian点积,即实向量之间标准点积的复杂对应物,而其他方法则采用越来越复杂的复合函数来增加它们的表现力。所提出的复杂嵌入可扩展到大数据集,因为它在空间和时间上都保持线性,同时在标准链接预测基准上始终优于替代方法。
2017-11-26 cs.AI cs.LG math.SP
To Copy Rather Than Memorize: A Vertical Learning Paradigm for Knowledge Graph Completion
Dalian University of Technology(大连理工大学);Renmin University of China(中国人民大学);Microsoft Research Asia(微软亚洲研究院);Université de Montréal(蒙特利尔大学);Microsoft(微软)
针对嵌入模型在知识图谱补全中难以记忆多跳关系规则导致远距离链接预测不佳的问题,提出垂直学习范式(VLP),通过显式复制相关事实信息提供额外线索,并引入基于相对距离的负采样技术,显著提升了模型的泛化能力和预测准确性。
2023-05-23 cs.AI cs.CL
SMORE: Knowledge Graph Completion and Multi-hop Reasoning in Massive Knowledge Graphs
Stanford University(斯坦福大学);Google Brain(谷歌大脑);UC Berkeley(加州大学伯克利分校)
知识图谱(KG)以头-关系-尾三元组的形式捕获知识,并且是许多AI系统中的重要组成部分。KG上有两个重要的推理任务:(1)单跳知识图谱完成,其涉及预测KG中的各个链接;以及(2)多跳推理,其中目标是预测哪些KG实体满足给定的逻辑查询。基于嵌入的方法通过首先计算每个实体和关系的嵌入,然后使用它们来形成预测来解决这两个任务。然而,现有的可扩展KG嵌入框架仅支持单跳知识图谱完成,不能应用于更具挑战性的多跳推理任务。在这里,我们提出了可扩展的多hOp推理(SMORE),第一个通用的框架,单跳和多跳推理在KG。使用单机SMORE可以在Freebase KG(86 M实体,338 M边)中执行多跳推理,这是以前考虑的KG的1,500倍。SMORE的运行时性能的关键是一个新的双向拒绝采样,实现了在线训练数据生成的复杂性的平方根减少。此外,SMORE利用异步调度,重叠基于CPU的数据采样,基于GPU的嵌入计算,以及频繁的CPU-GPU IO。SMORE增加了吞吐量(即,训练速度)是先前多跳KG框架的2.2倍,具有最小的GPU内存需求(2GB用于在86 M节点Freebase上训练400-dim嵌入),并实现了与GPU数量接近线性的加速。此外,在更简单的单跳知识图谱完成任务SMORE上,在单GPU和多GPU设置上实现了与最先进的框架相当甚至更好的运行时性能。
2021-11-01 cs.AI cs.DB cs.DC
Learning Sequence Encoders for Temporal Knowledge Graph Completion
NEC Labs Europe(NEC欧洲实验室);KU Leuven(鲁汶大学)
知识图谱中链接预测的研究主要集中在静态多关系数据上。在这项工作中,我们考虑时间知识图谱,实体之间的关系可能只在一个时间间隔或一个特定的时间点。与以前的静态知识图谱的工作,我们建议解决这个问题,通过学习潜在的实体和关系类型表示。为了整合时间信息,我们利用递归神经网络来学习关系类型的时间感知表示,这些关系类型可以与现有的潜在因子分解方法结合使用。所提出的方法被证明是强大的共同挑战,在现实世界中的KG:时间表达式的稀疏性和异质性。实验表明,我们的方法对四个时间KG的好处。这些数据集在许可的BSD-3许可证下可用1。
2018-09-10 cs.AI cs.CL
A Pluggable Common Sense-Enhanced Framework for Knowledge Graph Completion
School of Artificial Intelligence, Beihang University(北京航空航天大学人工智能学院);College of Information and Communication Engineering, Hainan University(海南大学信息与通信工程学院)
针对现有知识图谱补全方法依赖事实三元组易出现常识不符、常识生成成本高的问题,提出可插拔常识增强框架,适配不同类型知识图谱,可集成至多种KGE模型,提升KGC任务效果。
2024-10-06 cs.AI cs.CL
Realistic Re-evaluation of Knowledge Graph Completion Methods: An Experimental Study
University of Texas at Arlington(德克萨斯大学阿灵顿分校);Nanjing University(南京大学)
在将嵌入模型用于知识图谱完成的活跃研究领域,特别是用于链接预测的任务中,大多数先前的研究使用两个基准数据集FB 15 k和WN 18来评估这样的模型。此类研究中的这些数据集和其他数据集中的大多数三元组属于反向和重复关系,由于语义重复、相关性或数据不完整性,这些关系表现出高数据冗余。这是一种过度数据泄漏的情况--当模型需要应用于实际预测时,使用无法使用的特征来训练模型。也有笛卡尔积关系,对于这些笛卡尔积关系,由适用的主体和客体的笛卡尔积形成的每个三元组都是真事实。对上述关系的链接预测是容易的,并且可以使用直接的规则而不是复杂的嵌入模型以甚至更好的精度来实现。这些模型的一个更根本的缺陷是,给定这些数据的链接预测场景在现实世界中是不存在的。本文是第一个系统的研究,其主要目标是评估嵌入模型的真实有效性时,不切实际的三元组被删除。我们的实验结果表明,这些模型远不如我们过去所感知的准确。他们的准确性差,使链接预测的任务,没有真正有效的自动化解决方案。因此,我们呼吁重新研究可能的有效办法。
2020-03-18 cs.AI cs.CL
CAKE: A Scalable Commonsense-Aware Framework For Multi-View Knowledge Graph Completion
Beihang University(北京航空航天大学);Hikvision Research Institute(海康威视研究院)
知识图谱不可避免地存储了大量的事实三元组,而它们仍然是不完整的。以往的知识图谱完备模型仅仅依靠事实视图数据来预测实体之间的缺失链接,而忽略了有价值的常识知识。以往的知识图谱嵌入技术存在负采样无效和事实视图链接预测不确定等问题,限制了知识图嵌入的性能。为了解决上述挑战,我们提出了一个新的和可扩展的常识感知知识嵌入(CAKE)框架,自动提取常识的事实三元组与实体概念。所生成的常识增强了有效的自我监督,以促进高质量的负采样(NS)和联合常识和事实观点链接预测。KGC任务的实验结果表明,组装我们的框架可以提高原来的KGE模型的性能,和建议的常识感知NS模块是优于其他NS技术。此外,我们提出的框架可以很容易地适应各种KGE模型和解释预测结果。
2022-04-17 cs.AI cs.CL
Knowledge Graph Embedding: An Overview
University of Southern California(南加州大学)
本文综述了知识图谱嵌入的两类主要方法,揭示模型间联系与发展趋势,并探讨CompoundE系列及结合预训练语言模型的新兴补全路径。
2023-09-21 cs.AI cs.CL cs.LG
T-GAP: Learning to Walk across Time for Temporal Knowledge Graph Completion
Seoul National University(首尔国立大学);Jeonbuk National University(全北国立大学)
与静态知识图谱相比,时态知识图谱本质上反映了现实世界知识的瞬时性。自然,自动TKG完成已经吸引了许多研究兴趣,为更现实的关系推理建模。然而,现有的TKG补全模型大多扩展了静态KG嵌入,没有充分利用TKG结构,因此缺乏1)对查询局部邻域中时间相关事件的考虑,以及2)基于路径的推理,从而促进了多跳推理和更好的可解释性。在本文中,我们提出了T-GAP,一种新的模型TKG完成,最大限度地利用时间信息和图形结构在其编码器和解码器。T-GAP通过关注每个事件和查询时间戳之间的时间位移来编码TKG的查询特定子结构,并通过在图中传播注意力来执行基于路径的推理。我们的实证实验表明,T-GAP不仅实现了卓越的性能对国家的最先进的基线,但也能胜任地推广到查询看不见的时间戳。通过大量的定性分析,我们还表明,T-GAP享有透明的可解释性,并遵循人类的直觉,在其推理过程。
2020-12-19 cs.AI cs.CL cs.LG
Fast Knowledge Graph Completion using Graphics Processing Units
ETRI(韩国电子通信研究院)
针对知识图谱补全中向量运算成本高的问题,提出基于GPU的框架,将可转换为度量空间的模型的补全问题转为相似连接问题,推导公式并开发快速算法,实验验证了高效性。
2023-07-22 cs.AI cs.DB cs.LG
InGram: Inductive Knowledge Graph Embedding via Relation Graphs
KAIST(韩国科学技术院)
针对归纳知识图谱补全中推理时新实体常伴随新关系的问题,本文提出 InGram,通过关系图与注意力机制聚合生成新实体和新关系嵌入,并在多种场景下优于14种最先进方法。
2023-08-17 cs.AI cs.LG
The Role of Graph Topology in the Performance of Biomedical Knowledge Graph Completion Models
Graphcore Research(Graphcore研究机构)
本文系统研究公开生物医学知识图谱的拓扑性质,揭示其与知识图谱补全模型在真实任务中准确性的关联,并发布模型预测与分析工具以推动后续研究。
2025-09-18 cs.AI cs.LG q-bio.QM
Spectral Initialization and Scheduled Graph Smoothness for Uncertain Knowledge Graph Completion
University of Southern California(南加州大学);Islamic University of Technology(伊斯兰技术大学)
提出QUEST方法,通过谱初始化和狄利克雷能量正则化,提升不确定知识图谱补全的准确性、训练稳定性与检查点可靠性。
2026-09-03 cs.AI cs.LG
Simple Rule Injection for ComplEx Embeddings
University of Florida(佛罗里达大学);New York University(纽约大学)
本文提出InjEx机制,通过简单约束将多种Horn规则注入ComplEx嵌入,理论证明其可行性,并在知识图谱补全和少样本补全任务上验证其优于基线模型。
2023-08-07 cs.AI cs.CL cs.LG
Towards Loosely-Coupling Knowledge Graph Embeddings and Ontology-based Reasoning
Technische Universität Berlin(柏林工业大学);Sapienza University of Rome(罗马第一大学)
知识图谱完成(又名~链接预测),即~从知识图谱推断缺失信息的任务是在诸如产品推荐和问答的许多应用中广泛使用的任务。知识图谱嵌入和/或规则挖掘和推理的现有技术方法是数据驱动的,因此仅基于输入知识图谱包含的信息。这导致不令人满意的预测结果,使得这种解决方案不适用于关键领域,如医疗保健。为了进一步提高知识图谱完成的准确性,我们提出将知识图谱嵌入的数据驱动能力与源于专家或蕴涵机制的特定于领域的推理(例如,OWL2)。通过这种方式,我们不仅可以利用输入知识图谱中可能不包括的领域知识来提高预测精度,而且还允许用户插入他们自己的知识图谱嵌入和推理方法。我们的初步结果表明,我们提高了香草知识图谱嵌入的MRR精度高达3倍,并优于混合解决方案,结合知识图谱嵌入与规则挖掘和推理高达3.5倍MRR。
2022-07-04 cs.AI cs.DB cs.LG
Leveraging Static Models for Link Prediction in Temporal Knowledge Graphs
Utrecht University(乌得勒支大学)
在知识图谱嵌入(KGE)中包含事实的时间范围为改进所得到的嵌入提供了重要的机会,并且因此为下游应用中的提高的性能提供了重要的机会。然而,很少有研究工作集中在这一领域,许多研究报告显示,与没有时间范围训练的模型(静态模型)相比,结果只略有改善。此外,而不是利用现有的静态模型的工作,他们介绍了特定的时间知识图谱的新模型。我们提出了一个新的视角,利用现有的静态嵌入模型的力量,集中精力操纵数据,而不是。我们的方法SpiMe从信号处理领域和图嵌入的早期工作中汲取灵感。我们表明,SpliMe竞争或优于目前的最先进的时间KGE。此外,我们发现目前用于评估静态模型在时间图上的性能的过程中存在的问题,并介绍了两种方法来抵消它们。
2021-06-29 cs.AI cs.CL cs.LG