TripleRE: Knowledge Graph Embeddings via Tripled Relation Vectors
Qihoo360(奇虎360);Xi’an Jiaotong University(西安交通大学)
基于翻译的知识图谱嵌入是transE提出以来知识表示学习的重要分支之一。虽然近年来许多基于预处理的方法取得了一定的进展,但其性能仍然不尽如人意。提出了一种新的知识图谱嵌入方法TripleRE,该方法具有两个版本。TripleRE的第一个版本创造性地将关系向量分为三个部分。第二个版本利用了残差的概念,并实现了更好的性能。此外,尝试使用NodePiece来编码实体在减少参数大小方面取得了令人满意的结果,并解决了可扩展性问题。实验结果表明,该方法在大规模知识图谱数据集上取得了较好的性能,在其他数据集上也取得了较好的性能。
2022-09-17 cs.AI
Relational Triple Extraction: One Step is Enough
Beijing Institute of Technology(北京理工大学);Huazhong University of Science and Technology(华中科技大学)
从非结构化文本中抽取关系三元组是自然语言处理和知识图谱构建中的一项重要任务。现有的方法通常包含两个基本步骤:(1)找到头部和尾部实体的边界位置;(2)连接特定的标记以形成三元组。然而,几乎所有先前的方法都存在误差累积的问题,即,步骤(1)中每个实体的边界识别误差将被累积到最终的组合三元组中。为了解决这个问题,本文引入了一个新的视角来重新审视三元组提取任务,并提出了一个简单而有效的模型,命名为DirectRel。该模型首先通过列举句子中的标记序列生成候选实体,然后将三元组抽取问题转化为"头$\rightarrow$尾"二分图上的连接问题.通过这样做,所有三元组可以在一个步骤中直接提取。在两个广泛使用的数据集上的大量实验结果表明,该模型的性能优于最先进的基线。
2022-05-11 cs.AI cs.CL
AgREE: Agentic Reasoning for Knowledge Graph Completion on Emerging Entities
针对新兴实体知识图谱补全难题,提出基于智能体的AgREE框架,结合迭代检索与多步推理,无需训练即显著提升三元组构建性能,最高提升13.7%,并引入新评估方法与基准。
2025-08-06 cs.AI cs.CL
Learning Chain Of Thoughts Prompts for Predicting Entities, Relations, and even Literals on Knowledge Graphs
Department of Computer Science(计算机科学系)
本文提出RALP方法,通过学习基于字符串的链式思维提示作为评分函数,提升知识图谱链接预测的性能,实验表明其在多个基准测试中均取得显著提升。
2026-04-14 cs.AI cs.CL
On the Role of Conceptualization in Commonsense Knowledge Graph Construction
Hong Kong University of Science and Technology(香港科技大学);Tencent(腾讯)
常识知识图谱(CKG)如Atomic和ASER与传统知识图谱有很大的不同,因为它们由大量由松散结构的文本形成的节点组成,这虽然使它们能够处理与常识相关的自然语言中的高度多样化的查询,但导致自动知识图谱构建方法的独特挑战。除了识别节点之间的KG中不存在的关系之外,还期望这些方法探索由文本表示的不存在的节点,其中可能出现不同的现实世界事物或实体。为了处理现实世界中涉及常识的无数实体,我们将概念化引入CKG构造方法,即,将文本中提到的实体视为特定概念的实例,反之亦然。我们通过概念化构建合成三元组,并进一步将任务制定为三元组分类,由一个具有从预训练的语言模型转移的知识的判别模型处理,并通过负采样进行微调。实验表明,我们的方法可以有效地识别合理的三元组和扩大KG的三元组的新节点和边缘的高多样性和新颖性。
2020-04-07 cs.AI cs.CL
Relational Message Passing for Fully Inductive Knowledge Graph Completion
Zhejiang University(浙江大学);Donghai Laboratory(东海实验室);The University of Manchester(曼彻斯特大学);The University of Edinburgh(爱丁堡大学);Huawei Technologies Co., Ltd.(华为技术有限公司)
在知识图谱完备化(KGC)中,预测涉及新出现的实体和/或关系的三元组(当学习KG嵌入时不可见)已成为关键挑战。基于消息传递的子图推理是一种很有前途和流行的解决方案。最近的一些方法已经取得了良好的性能,但它们(i)通常只能预测单独涉及看不见的实体的三元组,无法解决更现实的完全归纳的情况下,看不见的实体和看不见的关系,(ii)经常进行消息传递的实体与关系模式没有充分利用。在这项研究中,我们提出了一种新的方法命名为RMPI,它使用了一种新的关系消息传递网络完全归纳KGC。该方法利用关系模式进行子图推理,在图变换、图剪枝、关系感知邻域关注、空子图寻址等方面提出了新的技术,并且可以利用KG的本体模式中定义的关系语义。多个基准测试的广泛评估表明,RMPI所涉及的技术的有效性和更好的性能相比,现有的方法,支持完全归纳KGC。RMPI也可以与最先进的部分归纳KGC方法相媲美,取得了非常有前途的结果。我们的代码和数据可在https://github.com/zjukg/RMPI上获取。
2022-12-30 cs.AI
A Review of Knowledge Graph Completion
University of North Dakota(北达科他大学)
信息抽取方法被证明是有效的三重提取结构化或非结构化数据。将这种三元组以(头实体、关系、尾实体)的形式组织起来,称为知识图谱(KG)的构建。目前的知识图谱大多是不完整的。为了在下游任务中使用KG,期望预测KG中的缺失链接。最近已经提出了不同的方法,通过将实体和关系嵌入到低维向量空间中,旨在基于先前访问的三元组预测未知的三元组,来进行KG的表示学习。根据三元组的独立或依赖处理方式,将知识图谱的完成分为传统的和图神经网络的表示学习两种,并对它们进行了详细的讨论。在传统方法中,每个三元组将被独立处理,而在基于GNN的方法中,三元组还考虑它们的局部邻域。查看全文
2022-08-24 cs.AI
Unsupervised Robust Cross-Lingual Entity Alignment via Neighbor Triple Matching with Entity and Relation Texts
Yonsei University(延世大学);Korea University(高丽大学)
针对跨语言实体对齐中获取标签困难及现有无监督方法的局限,本文提出ERAlign,通过邻居三元组匹配联合实体和关系文本语义,实现无监督鲁棒对齐,提升精度并增强对噪声的抵抗能力。
2025-02-12 cs.AI cs.CL
Alleviating Sparsity of Open Knowledge Graphs with Ternary Contrastive Learning
Northeastern University(东北大学);Nanyang Technological University(南洋理工大学);Salesforce Research(Salesforce研究院)
形式知识的稀疏性和非本体结构的粗糙性使得稀疏性问题在开放知识图谱中尤为突出。由于稀疏的链接,学习有效的表示Few-Shot实体变得困难。我们假设,通过引入负样本,对比学习(CL)配方可能是有益的,在这种情况下。然而,现有的CL方法将KG三元组建模为实体的二进制对象,忽略了关系引导的三元传播模式,并且它们太通用,即,它们忽略了OpenKG中出现的zero-shot、Few-Shot和同步性问题。为了解决这个问题,我们提出了TernaryCL,CL框架的基础上三元传播模式之间的头部,关系和尾部。TernaryCL设计了对比实体和对比关系来挖掘具有否定实体和关系的三元区分特征,引入对比自我来帮助零和Few-Shot实体学习区分特征,引入对比同义词来建模同义实体,并引入对比融合来聚合来自多个路径的图特征。大量的基准测试实验证明了TernaryCL的优越性超过国家的最先进的模型。
2022-11-08 cs.AI
Learning to Exploit Long-term Relational Dependencies in Knowledge Graphs
Nanjing University(南京大学)
研究了知识图谱的嵌入问题。对这个问题的一个广泛建立的假设是,相似的实体可能具有相似的关系角色。然而,现有的相关方法主要是基于三层学习的KG嵌入,缺乏捕获实体长期关系依赖的能力。此外,三层学习不足以在实体之间传播语义信息,特别是对于跨KG嵌入的情况。在本文中,我们提出了循环跳跃网络(RSNs),它采用跳跃机制来弥合实体之间的差距。RSN将递归神经网络(RNN)与剩余学习相结合,以有效地捕获KG内部和之间的长期关系依赖关系。我们设计了一个端到端的框架,以支持不同任务的RSN。我们的实验结果表明,RSN优于最先进的基于嵌入的实体对齐方法,并取得了竞争力的KG完成性能。
2019-05-13 cs.AI cs.CL cs.LG
Negative Sampling with Adaptive Denoising Mixup for Knowledge Graph Embedding
Zhejiang University(浙江大学)
针对知识图谱嵌入中负采样易含噪声的问题,提出DeMix方法,通过自监督去噪混合生成高质量三元组,提升收敛速度与链接预测性能。
2023-10-15 cs.AI
SemOpenAlex: The Scientific Landscape in 26 Billion RDF Triples
Karlsruhe Institute of Technology (KIT)(卡尔斯鲁厄理工学院(KIT));metaphacts GmbH(Metaphacts有限公司)
本文提出SemOpenAlex,一个包含超260亿三元组的开放RDF科学知识图谱,通过SPARQL、Linked Open Data和实体嵌入支持语义搜索、影响力量化、推荐系统及语言模型等多种学术大数据应用。
2023-08-07 cs.AI cs.DL
DOLORES: Deep Contextualized Knowledge Graph Embeddings
Shanghai Jiao Tong University(上海交通大学);UC Santa Barbara(加州大学圣塔芭芭拉分校)
我们介绍了一种新的方法DOLORES学习知识图谱嵌入,有效地捕捉上下文线索和实体和关系之间的依赖关系。首先,我们注意到,由实体和关系链组成的知识图谱上的短路径可以编码关于其上下文使用的有价值的信息。我们通过将知识图谱表示为实体-关系链的集合而不是三元组的集合来实现这一概念,并使用捕获这种上下文用法的深度神经模型来学习实体和关系的嵌入。特别是,我们的模型基于双向LSTM,并从构建的实体关系链中学习实体和关系的深层表示。我们表明,这些表示可以很容易地被纳入现有的模型,显着推进的几个知识图谱预测任务,如链接预测,三重分类,和丢失的关系类型预测(在某些情况下,至少9.5%)的最先进的。
2018-10-31 cs.AI cs.CL cs.LG
BambooKG: A Neurobiologically-inspired Frequency-Weight Knowledge Graph
针对检索增强生成的多跳关系推理短板及传统知识图谱的三元组结构信息遗漏问题,提出受赫布原则启发、带频率权重非三元组边的BambooKG,减少信息损失并提升单/多跳推理性能。
2025-10-29 cs.AI
LLM-Assisted Ontology Engineering and Construction of a French Legal Knowledge Graph
Université Côte d'Azur(蔚蓝海岸大学);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);Berger-Levrault(贝尔热-勒弗罗公司)
针对法国维护法规处理难题,提出两阶段大语言模型辅助工作流程,先进行本体工程,再构建知识图谱。经实验,该流程输出强大、对齐良好,减少重复,明确关键细化步骤。
2026-07-28 cs.AI
Repurposing Knowledge Graph Embeddings for Triple Representation via Weak Supervision
Drexel University(德雷塞尔大学)
大多数知识图谱嵌入技术将实体和谓词视为单独的嵌入矩阵,使用聚合函数来构建输入三元组的表示。然而,这些聚合是有损的,即它们不捕获原始三元组的语义,例如谓词中包含的信息。为了克服这些缺点,目前的方法从头开始学习三重嵌入,而不利用来自预训练模型的实体和谓词嵌入。在本文中,我们设计了一种新的微调方法来学习三重嵌入创建弱监督信号从预训练的知识图谱嵌入。我们开发了一种从知识图谱中自动采样三元组并从预训练的嵌入模型中估计其成对相似性的方法。然后,这些成对的相似性得分被馈送到一个类似于Siamese的神经架构中,以微调三重表示。我们评估所提出的方法在两个广泛研究的知识图谱,并表现出一致的改进,比其他国家的最先进的三重嵌入方法的三重分类和三重聚类任务。
2022-08-22 cs.AI cs.CL
Interaction Embeddings for Prediction and Explanation in Knowledge Graphs
Zhejiang University(浙江大学);University of Zürich(苏黎世大学);Alibaba Group(阿里巴巴集团);AZFT Joint Lab of Knowledge Engine(AZFT知识引擎联合实验室)
知识图谱嵌入的目的是学习实体和关系的分布式表示,并在许多应用中被证明是有效的。交叉交互作用-实体和关系之间的双向效应-在预测新的三元组时有助于选择相关信息,但以前没有正式讨论过。在本文中,我们提出了CrossE,一种新的知识图谱嵌入显式模拟交叉的相互作用。它不仅像大多数以前的方法那样为每个实体和关系学习一个通用嵌入,而且还为它们生成多个三重特定嵌入,称为交互嵌入。我们评估了典型链接预测任务的嵌入,发现CrossE在复杂和更具挑战性的数据集上实现了最先进的结果。此外,我们从一个新的角度评估嵌入-给出预测三元组的解释,这对实际应用很重要。在这项工作中,一个三元组的解释被认为是一个可靠的封闭路径之间的头部和尾部实体。与其他基线相比,我们的实验表明,CrossE,受益于交互嵌入,更能够生成可靠的解释,以支持其预测。
2019-03-12 cs.AI cs.CL
Learning High-order Structural and Attribute information by Knowledge Graph Attention Networks for Enhancing Knowledge Graph Embedding
Tencent Inc(腾讯公司)
知识图谱表示学习的目标是将实体和关系编码到一个低维的嵌入空间中。最近的许多工作已经证明了知识图谱嵌入知识图谱完成任务的好处,如关系抽取。然而,我们注意到:1)现有方法只考虑实体间的直接关系,无法表达实体间的高阶结构关系; 2)这些方法只利用KG的关系三元组,而忽略了大量编码丰富语义信息的属性三元组。为了克服这些局限性,本文提出了一种新的知识图谱嵌入方法,命名为KANE,这是最近的发展的启发图卷积网络(GCN)。KANE在图卷积网络的框架下,能够高效、清晰、统一地捕捉知识群的高阶结构和属性信息。三个数据集的实证结果表明,KANE显着优于七个国家的最先进的方法。进一步的分析验证了我们的方法的有效性和注意力机制带来的好处。
2019-10-10 cs.AI cs.CL
RDF-star2Vec: RDF-star Graph Embeddings for Data Mining
National Institute of Advanced Industrial Science and Technology(日本产业技术综合研究所);Fujitsu Ltd.(富士通株式会社);National Agriculture and Food Research Organization(日本国家农业和食品研究机构);Osaka Electro-Communication University(大阪电气通信大学)
本文提出RDF-star2Vec,一种针对RDF-star图的新型知识图谱嵌入模型,通过图游走和结构化skip-gram学习QT、实体和关系的特征向量,在分类、聚类等任务上优于RDF2Vec扩展。
2023-12-25 cs.AI cs.CL cs.IR
Type-enhanced Ensemble Triple Representation via Triple-aware Attention for Cross-lingual Entity Alignment
Tongji University(同济大学)
针对现有实体对齐方法忽略三元组不可分割性与实体角色多样性的问题,提出TTEA框架,以关系为信息载体结合三元组注意力与实体增强,在三个跨语言数据集上性能优于SOTA方法。
2023-05-02 cs.AI cs.CL
ImbalancE: Inference-Time Latent Search Against Degree Imbalance in Link Prediction
Accenture Labs(埃森哲实验室)
针对知识图谱链接预测中实体度不平衡导致的预测困难,提出推理时潜在搜索优化方法,在评估时融合已知与带外信息,显著提升不平衡三元组的预测性能。
2026-09-30 cs.AI cs.LG
ReCDAP: Relation-Based Conditional Diffusion with Attention Pooling for Few-Shot Knowledge Graph Completion
Myongji University(明溪大学)
针对少样本知识图谱补全中关系长尾及负三元组利用不足的问题,提出ReCDAP,通过条件扩散分别建模正负关系分布并以注意力池化显式区分二者,在两个基准上达到最先进性能。
2025-05-12 cs.AI cs.IR
Diversified and Adaptive Negative Sampling on Knowledge Graphs
Singapore Management University(新加坡管理学院);Institute for Infocomm Research(信息与通信研究所);Beijing Normal University(北京师范大学)
针对知识图谱嵌入中负采样信息量不足的问题,提出生成对抗方法DANS,利用双向生成器和自适应机制增强负例多样性与细粒度,在三个基准上验证了有效性。
2025-10-26 cs.AI
Query Expansion and Entity Weighting for Query Reformulation Retrieval in Voice Assistant Systems
Amazon Alexa AI(亚马逊Alexa人工智能部门)
Alexa、Siri和Google Assistant等语音助手在全球范围内越来越受欢迎。然而,语言变化、语音模式的可变性、环境声学条件和其他这样的因素通常与助理误解用户的查询相关。为了提供更好的客户体验,基于检索的查询重构(QR)系统被广泛用于重构那些被误解的用户查询。目前的QR系统通常专注于神经检索模型训练或直接实体检索以进行重构。然而,这些方法很少同时关注查询扩展和实体加权,这可能限制查询重构检索的范围和准确性。在这项工作中,我们提出了一种新的查询扩展和实体加权方法(QEEW),它利用实体目录中的实体(包括用户的查询,助理的响应,和相应的实体)之间的关系,以提高查询重构性能。在Alexa注释数据上的实验表明,与不使用查询扩展和加权的基线相比,QEEW提高了所有顶级精度指标,特别是top10精度提高了6%;与使用查询扩展和加权的其他基线相比,top10精度提高了5%以上。
2022-02-22 cs.AI cs.IR
BioBLP: A Modular Framework for Learning on Multimodal Biomedical Knowledge Graphs
Vrije Universiteit Amsterdam(荷兰阿姆斯特丹自由大学);University of Amsterdam(阿姆斯特丹大学);Elsevier B.V.(埃森哲公司);Discovery Lab, Elsevier(埃森哲发现实验室)
本文提出BioBLP框架,用于处理多模态生物医学知识图谱中的实体属性,支持不同模态的数据编码及缺失属性处理,并通过预训练策略提升训练效率,在药物-蛋白质相互作用预测任务中表现优于基线方法。
2023-06-06 cs.AI
Learning First-Order Rules with Relational Path Contrast for Inductive Relation Reasoning
School of Computer Science and Technology, Xi’an Jiaotong University(西安交通大学计算机科学与技术学院)
提出 RPC-IR,通过提取关系路径、构造正负路径对比并联合监督训练,学习实体无关的一阶逻辑规则,在三个归纳数据集上提升知识图谱关系推理性能与可解释性。
2021-10-17 cs.AI cs.LO
THOR: Inductive Link Prediction over Hyper-Relational Knowledge Graphs
University of Macau(澳门大学);Khalifa University(哈利法大学)
THOR提出了一种针对超关系知识图谱的归纳链接预测方法,通过基础图建模和Transformer解码器提升预测性能,优于多种基线方法。
2026-02-06 cs.AI
RAGA: Relation-aware Graph Attention Networks for Global Entity Alignment
School of Software and Microelectronics, Peking University(北京大学软件与微电子学院);National Engineering Research Center for Software Engineering, Peking University(北京大学国家软件工程研究中心);Key Laboratory of High Confidence Software Technologies (PKU), Ministry of Education(教育部高可信软件技术重点实验室(北京大学))
实体对齐是从不同的知识图谱中发现涉及同一真实世界对象的实体的任务,是集成多源知识图谱的关键步骤。现有的基于嵌入的实体对齐方法大多是将实体和关系嵌入到基于KG关系三元组的向量空间中进行局部对齐。由于这些方法没有充分考虑实体之间的多重关系,知识库的结构信息没有得到充分利用。在本文中,我们提出了一个新的框架的基础上,感知图注意力网络捕捉实体和关系之间的相互作用。我们的框架采用自我注意力机制将实体信息传播给关系,然后将关系信息聚合回实体。此外,我们提出了一个全局对齐算法,使一对一的实体对齐与细粒度的相似性矩阵。三个真实世界的跨语言数据集上的实验表明,我们的框架优于国家的最先进的方法。
2021-03-01 cs.AI cs.CL
Collaborative Knowledge Graph Fusion by Exploiting the Open Corpus
Central University of Finance and Economics(中央财经大学);Huazhong University of Science and Technology(华中科技大学);Beijing Normal University(北京师范大学);Zhejiang Normal University(浙江师范大学);University of Illinois at Chicago(伊利诺伊大学芝加哥分校);University of York(约克大学)
为了减轻从头开始构建知识图谱(KG)的挑战,更一般的任务是使用来自开放语料库的三元组来丰富KG,其中所获得的三元组包含噪声实体和关系。在保持知识表示的质量的同时,用新收获的三元组来丰富KG是具有挑战性的。本文提出了一个系统,以完善KG使用从一个额外的语料库收获的信息。为此,我们制定我们的任务为两个耦合的子任务,即连接事件提取(JEE)和知识图谱融合(KGF)。然后,我们提出了一个合作的知识图谱融合框架,让我们的子任务,以交替的方式互相帮助。更具体地说,探索者在地面实况注释和监督者提供的现有KG的监督下执行JEE。然后,管理员评估由探索者提取的三元组,并使用排名高的三元组来丰富KG。为了实现这一评估,我们进一步提出了一个翻译关系对齐评分机制,对齐和翻译提取的三元组先前KG。实验证明,这种协作可以同时提高JEE和KGF的性能。
2022-06-15 cs.AI
Knowledge Graph Refinement based on Triplet BERT-Networks
LISN, CNRS (UMR 9015), Paris Saclay University(巴黎萨克雷大学、法国国家科学研究中心LISN实验室(UMR 9015));LIPN, CNRS (UMR 7030), University Sorbonne Paris Nord(索邦巴黎北大学、法国国家科学研究中心LIPN实验室(UMR 7030))
知识图谱嵌入技术被广泛用于知识图谱细化任务,例如图完成和三重分类。这些技术旨在将知识图谱的实体和关系嵌入到低维连续特征空间中。本文采用基于transformer的三元组网络,创建一个嵌入空间,将KG中的实体或关系的信息进行聚类。它从事实中创建文本序列,并微调预先训练的基于transformer的语言模型的三元组网络。它坚持一个评估范式,依赖于一个有效的空间语义搜索技术。我们表明,这种评估协议更适合于关系预测任务的Few-Shot设置。我们提出的GilBERT方法在多个知名的基准知识图谱(如FB13,WN11和FB15K)上进行了三元组分类和关系预测任务的评估。我们表明,GilBERT实现了更好的或可比的结果,这两个细化任务的最先进的性能。
2022-11-18 cs.AI cs.CL
PPKE: Knowledge Representation Learning by Path-based Pre-training
School of Computer Science, Harbin Institute of Technology(哈尔滨工业大学计算机学院)
实体在知识图谱(KG)中可能具有复杂的交互,例如多步关系,其可以被视为实体的图上下文信息。传统的知识表示学习(KRL)方法通常将单个三元组作为训练单元,忽略了知识组拓扑结构中存在的大部分图上下文信息。在这项研究中,我们提出了一种基于路径的预训练模型来学习知识嵌入,称为PPKE,其目的是将实体之间的更多图上下文信息集成到KRL模型中。实验表明,该模型在链接预测和关系预测任务的多个基准数据集上均取得了最佳的结果,表明该模型为知识库中利用图上下文信息提供了一种可行的方法.
2020-12-07 cs.AI cs.CL
Multi-task Pre-training Language Model for Semantic Network Completion
Tencent(腾讯);Beijing Institute of Microbiology and Epidemiology(北京微生物与流行病学研究所);State Key Laboratory of Pathogen and Biosecurity(病原与生物安全国家重点实验室);National University of Defense Technology(国防科技大学);National Key Lab of Parallel and Distributed Processing(并行与分布式处理国家重点实验室)
诸如知识图谱之类的语义网络可以利用图结构来表示知识。虽然知识图谱在自然语言处理中显示出很好的应用价值,但它存在不完备性。通过预测实体之间的链接来完成知识图谱的构建是一项基本而关键的工作。语义匹配是一种潜在的解决方案,因为它可以处理基于平移距离的方法难以处理的不可见实体。然而,为了实现基于平移距离的方法的竞争性能,基于语义匹配的方法需要用于训练目的的大规模数据集,这在实际环境中通常是不可用的。因此,我们采用语言模型,提出了一种新的知识图谱结构LP-BERT,它包含两个主要阶段:多任务预训练和知识图谱微调。在预训练阶段,通过预测实体或关系来驱动模型从三元组学习关系。而在微调阶段,受对比学习的启发,我们设计了一种三重式的批量负采样,在保持训练时间几乎不变的情况下,大大提高了负采样的比例。此外,我们提出了一种新的数据增强方法,利用三元组的反向关系,以提高模型的性能和鲁棒性。为了证明我们的方法的有效性,我们在三个广泛使用的数据集上进行了广泛的实验,WN 18 RR,FB 15 k-237和UMLS。实验结果证明了我们的方法的优越性,我们的方法在WN 18 RR和FB 15 k-237数据集上取得了最先进的结果。值得注意的是,在WN 18 RR数据集上,Hits@10指标比之前的最新结果提高了5%,而在UMLS数据集上达到了100%。
2022-04-28 cs.AI cs.CL
Knowledge Graph Completion with Pre-trained Multimodal Transformer and Twins Negative Sampling
College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院);College of Software Technology, Zhejiang University(浙江大学软件学院)
将世界知识建模为结构三元组的知识图谱不可避免地是不完整的。多模态知识图谱(MMKG)仍然存在这样的问题。因此,知识图谱补全(KGC)对于预测现有知识图谱中缺失的三元组具有重要意义。对于现有的KGC方法,基于嵌入的方法依赖于人工设计来利用多模态信息,而基于细调的方法在链接预测方面并不优于基于嵌入的方法。针对这些问题,提出了一种基于VisualBERT的知识图谱补全模型(VBKGC)。VBKGC可以捕获实体的深度融合的多模态信息,并将其集成到KGC模型中。此外,通过设计一种新的负抽样策略--孪生负抽样,实现了KGC模型与负抽样的协同设计。双胞胎负采样适用于多模式场景,并且可以对齐实体的不同嵌入。通过大量的实验,验证了VBKGC在链接预测任务上的优异性能,并对VBKGC作了进一步的探索。
2022-09-15 cs.AI cs.CL
Medical Entity Linking using Triplet Network
IIT Kharagpur(印度理工学院卡拉格普尔分校);Excelra Knowledge Solutions Pvt Ltd(Excelra知识解决方案私人有限公司)
实体链接(或规范化)是文本挖掘中的一项重要任务,它将医学文本中提到的实体映射到给定知识库(KB)中的标准实体。这项工作在医学领域具有重要意义。它还可以用于合并不同的医学和临床本体。在本文中,我们围绕疾病的链接或正常化的问题。该任务分两个阶段执行:候选人生成和候选人评分。在本文中,我们提出了一种方法来排名的候选知识库条目的基础上,他们的相似性与疾病的提及。我们使用三重网络进行候选人排名。虽然现有的方法已经使用精心生成的筛子和外部资源的候选生成,我们引入了一个强大的和便携式的候选生成方案,不使用手工制作的规则。在标准基准NCBI疾病数据集上的实验结果表明,我们的系统比以前的方法有显着的优势。
2020-12-21 cs.AI cs.CL
Efficient Relational Context Perception for Knowledge Graph Completion
School of Computer Science, Wuhan University(武汉大学计算机学院)
本文提出TRP架构结合张量分解,通过学习实体和关系的动态上下文并高效计算三元组得分,在多个基准数据集上优于现有知识图谱补全模型。
2024-12-31 cs.AI cs.CL cs.LG
Mutually Guided Few-shot Learning for Relational Triple Extraction
Tongji University(同济大学);City University of Hong Kong(香港城市大学)
提出相互引导小样本学习框架MG-FTE,通过实体引导关系分类和关系引导实体抽取,并设计原型级融合模块,在FewRel 1.0和2.0上分别提升F1达12.6和20.5。
2023-06-23 cs.AI cs.CL
InGram: Inductive Knowledge Graph Embedding via Relation Graphs
KAIST(韩国科学技术院)
针对归纳知识图谱补全中推理时新实体常伴随新关系的问题,本文提出 InGram,通过关系图与注意力机制聚合生成新实体和新关系嵌入,并在多种场景下优于14种最先进方法。
2023-08-17 cs.AI cs.LG
Context-Enhanced Entity and Relation Embedding for Knowledge Graph Completion
Computer Network Information Center, Chinese Academy of Sciences(中国科学院计算机网络信息中心);University of Chinese Academy of Sciences(中国科学院大学)
大多数知识图谱完备化的研究都是通过学习实体和关系的表示来预测不完备知识图谱中缺失的链接。然而,这些方法未能充分利用实体和关系的上下文信息。在这里,我们从它们组成的三元组中提取实体和关系的上下文。提出了一个AggrE模型,该模型分别对实体上下文和关系上下文进行多跳高效聚合,并学习上下文增强的实体和关系嵌入,以完成知识图谱。实验结果表明,AggrE与现有模型相比具有较强的竞争力。
2020-12-13 cs.AI cs.CL
Textual Entailment for Effective Triple Validation in Object Prediction
针对基于提示的语言模型事实检索不稳定、易产生幻觉的问题,提出用文本蕴含验证完形填空提取的事实,可提升不同训练机制下的预测效果,还适用于验证知识图谱、文本段落等其他来源的候选事实。
2024-01-29 cs.AI cs.CL cs.DL
Knowledge Graph Embeddings with Representing Relations as Annular Sectors
Corresponding author(通讯作者)
针对现有基于区域的知识图谱嵌入模型忽略实体语义层级的问题,提出极坐标下的SectorE模型,将关系建模为环形扇区、实体嵌入为扇区内点以编码层级结构,在多个基准数据集上取得了有竞争力的性能。
2025-06-06 cs.AI cs.CL cs.LG
Acquiring and Modelling Abstract Commonsense Knowledge via Conceptualization
The Hong Kong University of Science and Technology(香港科技大学)
针对现有常识建模方法难以覆盖多样实体情境知识的问题,本研究提出基于概念化的抽象常识知识获取框架,结合ATOMIC、Probase构建抽象常识知识图谱,验证了其在常识推理等下游任务的有效性。
2024-05-18 cs.AI cs.CL
DHGE: Dual-View Hyper-Relational Knowledge Graph Embedding for Link Prediction and Entity Typing
School of Computer Science, Beijing University of Posts and Telecommunications(北京邮电大学计算机学院)
提出双视图超关系知识图谱结构DH-KG及嵌入模型DHGE,首次定义链接预测和实体类型标注任务,构建两个数据集,实验表明模型优于基线,并应用于高血压治疗。
2023-03-31 cs.AI cs.CL cs.LG
PathE: Leveraging Entity-Agnostic Paths for Parameter-Efficient Knowledge Graph Embeddings
King’s College London(伦敦国王学院);University of Liverpool(利物浦大学)
PathE模型通过仅为关系分配嵌入表并利用实体-关系路径计算实体嵌入,解决了大规模知识图谱嵌入的计算可扩展性问题,在减少参数的同时保持了竞争性能。
2025-01-31 cs.AI cs.LG
Reasoning Through Memorization: Nearest Neighbor Knowledge Graph Embeddings
Zhejiang University(浙江大学)
提出kNN-KGE方法,通过预训练语言模型结合k近邻线性插值实体分布,显式记忆罕见或新实体,显著提升归纳与直推式链接预测及低资源场景下的性能。
2023-07-30 cs.AI cs.CL cs.DB
DERA: Dense Entity Retrieval for Entity Alignment in Knowledge Graphs
Beijing Normal University(北京师范大学)
本文提出稠密实体检索框架DERA,利用语言模型统一编码知识图谱实体的结构与属性特征,通过检索加重排序实现实体对齐,在跨语言和单语言数据集上取得最优性能。
2024-08-02 cs.AI cs.CL
Learning Representations of Bi-level Knowledge Graphs for Reasoning beyond Link Prediction
KAIST(韩国科学技术院)
提出双层知识图概念及BiVE模型,通过建模三元组间关系并利用随机游走数据增强,在三元组预测和条件链接预测等新任务上显著优于现有方法。
2023-10-23 cs.AI cs.LG
Multi-task Neural Network for Non-discrete Attribute Prediction in Knowledge Graphs
Nanyang Technological University(南洋理工大学);Institute for Infocomm Research(信息通信研究所)
许多流行的知识图谱(如Freebase、YAGO或DBPedia)为每个实体维护一个非离散属性列表。直观地说,这些属性,如高度,价格或人口计数能够丰富的特点,实体在知识图谱。这种额外的信息源可以帮助缓解知识图谱中普遍存在的固有稀疏性和不完整性问题。不幸的是,由于在固有二进制性质的知识图谱中处理非离散数据类型的挑战性本质,许多最先进的关系学习模型忽略了该信息。在本文中,我们提出了一种新的多任务神经网络方法的编码和预测的非离散属性信息的关系设置。具体来说,我们训练一个用于三重预测的神经网络,以及一个用于属性值回归的单独网络。通过多任务学习,我们能够学习实体,关系和属性的表示,这些表示编码了关于两个任务的信息。此外,这些属性不仅作为信息源而且作为预测目标对于许多预测任务是中心的。因此,能够在关系学习环境中编码、合并和预测这些信息的模型也非常有吸引力。我们表明,我们的方法优于许多国家的最先进的方法的任务,关系三元组分类和属性值预测。
2017-08-16 cs.AI cs.IR
Meta-Learning Based Knowledge Extrapolation for Temporal Knowledge Graph
National University of Defense Technology(国防科技大学);International Digital Economy Academy(国际数字经济研究院)
在过去的几年里,通过学习实体和关系的嵌入来完成知识图谱(KG)的解决方案引起了人们的极大兴趣。时态知识图(TKG)通过将静态三元组与形成四元组的时间戳相关联来扩展传统的知识图谱(KG)。与转换情境中的知识生成和传统知识生成不同,不完全传统知识生成中不断涌现的实体和关系产生了预测具有不可见成分的缺失事实的需求,这就是外推情境。传统的时间知识图谱嵌入(TKGE)方法在外推设置中受到限制,因为它们是在固定的组件集内训练的。在本文中,我们提出了一种基于元学习的时间知识图谱外推(MTKGE)模型,该模型在从现有TKG中采样的链接预测任务上进行训练,并在具有不可见实体和关系的新兴TKG中进行测试。具体来说,我们元训练GNN框架,该框架捕获关系之间的相对位置模式和时间序列模式。学习的模式嵌入可以被转移到嵌入看不见的组件。在两个不同的TKG外推数据集上的实验结果表明,MTKGE始终优于现有的知识图谱外推模型和专门适应的KGE和TKGE基线。
2023-02-11 cs.AI cs.LG
Entity Aware Negative Sampling with Auxiliary Loss of False Negative Prediction for Knowledge Graph Embedding
Kakao Enterprise Corp.(Kakao企业公司)
知识图谱(KG)嵌入被广泛用于使用KG的许多下游应用中。通常,由于KG仅包含地面真值三元组,因此需要构造任意负样本以用于KG的表示学习。近年来,由于负三元组的质量对KG嵌入有很大的影响,人们研究了各种高质量负样本的采样方法。本文提出了一种新的实体感知负采样(Entity Aware Negative Sampling,EANS)方法,该方法通过对对齐后的实体索引空间采用高斯分布,能够对与正实体相似的负实体进行采样。此外,我们为假阴性预测引入了辅助损失,可以减轻采样的假阴性三元组的影响。无论阴性样本大小如何,该方法都可以生成高质量的阴性样本,并有效减轻假阴性样本的影响。标准基准测试的实验结果表明,我们的EANS优于现有的国家的最先进的负采样方法在几个知识图谱嵌入模型。此外,所提出的方法实现了竞争力的性能,即使当负样本的数量被限制为只有一个。
2022-10-12 cs.AI cs.LG
Incorporating GAN for Negative Sampling in Knowledge Representation Learning
Sun Yat-sen University(中山大学);iPIN Inc.(iPIN公司)
知识表示学习的目的是通过将实体和关系编码到低维空间中来对知识图谱进行建模。大多数传统的知识嵌入工作需要负采样,以最大限度地减少基于边缘的排名损失。然而,这些工作通过随机模式构造负样本,这样的样本往往太微不足道,不能有效地拟合模型。本文提出了一种基于生成对抗网络(GAN)的知识表示学习框架。在这个基于GAN的框架中,我们利用生成器来获得高质量的负样本。同时,GAN中的学习器学习知识图谱中实体和关系的嵌入。因此,我们可以将所提出的基于GAN的框架融入到各种传统模型中,以提高知识表示学习的能力。实验结果表明,我们提出的基于GAN的框架优于基线的三元组分类和链接预测任务。
2018-09-23 cs.AI cs.LG
RelExt: Relation Extraction using Deep Learning approaches for Cybersecurity Knowledge Graph Improvement
University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校);Laboratory for Physical Sciences(物理科学实验室)
在“安全运营中心”(SoC)工作的安全分析师在确保组织的安全方面发挥着重要作用。他们拥有的关于不断发展的和新的攻击的背景知识的数量在他们检测攻击的能力上有很大的不同。开源威胁情报源,如关于网络攻击的文本描述,可以以结构化的方式存储在网络安全知识图谱中。网络安全知识图谱在帮助安全分析师检测网络威胁方面可能是至关重要的,因为它以可以查询的语义三元组的形式存储了大量的网络威胁信息。语义三元组包含两个网络安全实体,它们之间存在关系。在这项工作中,我们提出了一个系统来创建语义三元组的网络安全文本,使用深度学习方法来提取可能的关系。我们使用通过我们的系统生成的语义三元组的集合来在网络安全知识图谱中断言。安全分析师可以从知识图谱中检索这些数据,并使用这些信息来形成有关网络攻击的决策。
2019-05-16 cs.AI cs.CL cs.CR
Meta-Knowledge Transfer for Inductive Knowledge Graph Embedding
Zhejiang University(浙江大学);Huawei Technologies Co., Ltd.(华为技术有限公司);State Key Laboratory of Media Convergence Production Technology and Systems(媒体融合生产技术与系统国家重点实验室);ZJU-Hangzhou Global Scientific and Technological Innovation Center(浙江大学杭州国际科创中心);Alibaba-Zhejiang University Joint Institute of Frontier Technologies(阿里巴巴-浙江大学前沿技术联合研究院)
由大量三元组组成的知识图(Knowledge Graph,KG)近年来得到广泛应用,许多知识图谱嵌入(Knowledge Graph,KGE)方法被提出来将KG中的实体和关系嵌入到连续向量空间中。这种嵌入方法简化了进行各种KG内任务(例如,链接预测)和KG外任务(例如,问答)。它们可以被视为代表KG的一般解决方案。然而,现有的KGE方法不适用于归纳设置,其中在源KG上训练的模型将在目标KG上进行测试,其中在模型训练期间看不到实体。现有的工作集中在归纳设置中的KG只能解决归纳关系预测任务。它们不能像KGE方法那样处理其他KG外的任务,因为它们不为实体生成嵌入。在本文中,实现归纳知识图谱嵌入,我们提出了一个模型MorsE,它不学习实体的嵌入,但学习可转移的元知识,可用于产生实体嵌入。这种元知识由实体独立的模块建模,并通过元学习来学习。实验结果表明,我们的模型显着优于相应的基线在KG和KG外的任务在归纳设置。
2022-05-06 cs.AI cs.CL cs.LG
Unleashing the Power of Imbalanced Modality Information for Multi-modal Knowledge Graph Completion
Zhejiang University(浙江大学);Ant Group(蚂蚁集团);Alibaba-Zhejiang University Joint Institute of Frontier Technology(阿里巴巴-浙江大学前沿技术联合研究中心);Zhejiang University-Ant Group Joint Laboratory of Knowledge Graph(浙江大学-蚂蚁集团知识图谱联合实验室)
针对多模态知识图谱补全中实体模态信息不平衡问题,提出AdaMF-MAT方法,通过自适应模态权重融合与模态对抗训练增强不平衡模态信息,在三个公开基准上超越19种现有方法并取得最优结果。
2024-02-22 cs.AI cs.CL cs.LG
CL4KGE: A Curriculum Learning Method for Knowledge Graph Embedding
Ant Group(蚂蚁集团)
针对知识图谱嵌入训练中三元组难度难以衡量的问题,本文提出可插拔的课程学习方法 CL4KGE,利用 Z-counts 调度训练并提升多种 KGE 模型性能。
2024-09-09 cs.AI cs.CL cs.LG