Fine-Grained Entity Typing for Domain Independent Entity Linking
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
神经实体链接模型非常强大，但存在过度拟合其训练领域的风险。对于这个问题，一个域的特征不仅在于文本的类型，甚至还在于实体的特定分布等特定因素，因为神经模型往往会通过记忆数据集中频繁实体的属性来过拟合。我们解决的问题，建立强大的实体链接模型，有效地推广，不依赖于标记的实体链接数据与特定的实体分布。我们的方法不是直接预测实体，而是对细粒度的实体属性进行建模，这可以帮助消除甚至密切相关的实体之间的歧义。我们从Wikipedia分类中获得大量的类型（数万个），并使用Wikipedia中的超链接提及来远程标记数据并训练实体类型模型。在测试时，我们使用此类型模型对提及进行分类，并使用软类型预测将提及链接到最相似的候选实体。我们在CoNLL-YAGO数据集上评估我们的实体链接系统（Hoffart等人，2011），并表明我们的方法优于以前的域独立的实体链接系统。我们还在来自WikilinksNED数据集的更难的设置中测试了我们的方法（Eshel等人，2017），其中所有提及实体对在测试时间期间是不可见的。结果表明，我们的方法比数据集上最先进的神经模型更好地推广。
2020-01-08 cs.AI cs.CL cs.LG
GNBAN: Graph Neural Basis Attention Networks for Long-Horizon Forecasting over Large Entity Sets
Phi Labs, Quantiphi
提出GNBAN架构，通过异构图表示学习和可解释的基分解头，实现大规模零售需求预测，在M5和Favorita数据集上WRMSSE降低4-5%。
2026-06-29 cs.AI cs.LG
Query Entity-Oriented Graph Neural Networks for Knowledge Graph Completion
College of Intelligence and Computing, Tianjin University（智能与计算学院，天津大学）
提出Q-GNN，通过融合查询实体的结构上下文和语义类型信息，增强图神经网络在知识图谱补全中的推理能力。
2026-11-02 cs.LG
Multilingual Knowledge Graph Completion with Joint Relation and Entity Alignment
Indian Institute of Technology Delhi（印度理工学院德里分校）；Indian Institute of Technology Bombay（印度理工学院孟买分校）
知识图谱完备（KGC）预测不完整知识图谱中缺失的事实。几乎所有现有的KGC研究都只适用于一个KG，并且只适用于一种语言。然而，不同的语言使用者可能会以他们的语言维持单独的幼儿园，并且预计不会有单独的幼儿园。此外，这些知识群中的共同实体或关系具有不同的表面形式和ID，导致ID扩散。实体对齐（EA）和关系对齐（RA）任务通过识别不同KG中表示相同实体（关系）的实体（关系）ID对来解决这个问题。这可以进一步帮助预测缺失的事实，因为来自一个KG的知识可能有利于完成另一个KG。高置信度预测还可以为对准任务添加有价值的信息。作为回应，我们研究了联合训练多语言KGC，关系对齐和实体对齐模型的新任务。我们提出了ALIGNKGC，它使用一些种子比对，共同优化所有三个KGC，EA和RA损失。ALIGNKGC的一个关键组成部分是基于嵌入的非对称重叠的软概念，定义在关系的（主体，客体）集合签名上，这有助于更好地预测与其他关系等效或隐含的关系。DBPedia在五种语言中的广泛实验建立了联合训练对所有任务的好处，在每个单语KG上，ALIGNKGC在强大的最先进的单KGC系统完成模型上实现了10-32的MRR改进。此外，ALIGNKGC在EA和RA任务中实现了合理的收益，超过了KG的香草完成模型，该模型结合了所有事实而没有对齐，强调了联合培训对这些任务的价值。
2021-04-18 cs.AI cs.CL cs.LG
Metapath- and Entity-aware Graph Neural Network for Recommendation
Technische Universität München（慕尼黑工业大学）；Mercateo（Mercateo公司）；fortiss GmbH（fortiss有限公司）；Ludwig-Maximilians-University（慕尼黑大学）
在图神经网络（GNNs）中，消息传递迭代地聚合来自其直接邻居的节点信息，而忽略了多跳节点连接的顺序性质。这种顺序节点连接例如，metapaths，捕获下游任务的关键见解。具体地说，在推荐系统（RS）中，忽视这些见解会导致协作信号的不充分蒸馏。在本文中，我们采用协作子图（CSG）和元路径，形成元路径感知的子图，明确捕捉图结构中的顺序语义。我们提出了Meta \textbf{P}路径和\textbf{E}实体- \textbf{A} ware \textbf{G}和\textbf{N} eural \textbf{N} etwork（PEAGNN），它训练多层GNN在这样的子图上执行元路径感知的信息聚合。然后使用注意力机制融合来自不同元路径的聚合信息。最后，PEAGNN给出了节点和子图的表示，可以用来训练MLP来预测目标用户-项目对的得分。为了利用CSG的局部结构，我们提出了实体意识，作为节点嵌入的对比正则化。此外，PEAGNN可以与GAT，GCN和GraphSage等突出层相结合。我们的实证评估表明，我们提出的技术优于竞争基准的几个数据集的推荐任务。进一步的分析表明，PEAGNN还可以从给定的元路径集合中学习有意义的元路径组合。
2021-04-02 cs.AI cs.LG
Type Prediction Systems
IBM Research AI（IBM研究院AI）
推断文本文档中实体提及的语义类型是许多下游NLP任务的重要资产，例如语义角色标签，实体消歧，知识库问答等。先前的工作主要集中在监督解决方案上，这些解决方案通常在相对较小到中等大小的类型系统上操作。在这项工作中，我们描述了两个系统，旨在预测以下两个任务的类型信息，即TypeSuggest模块，一个无监督的系统，旨在预测一组用户输入的查询条件的类型，和一个答案类型预测模块，它提供了一个解决方案的任务，确定正确类型的答案预期给定的查询。我们的系统推广到任何大小的任意类型系统，从而使其成为一个非常吸引人的解决方案，以任何粒度提取类型信息。
2021-04-02 cs.CL cs.IR cs.LG
DegreEmbed: incorporating entity embedding into logic rule learning for knowledge graph reasoning
Harbin Institute of Technology at Weihai（哈尔滨工业大学（威海））
提出DegreEmbed模型，结合实体嵌入与逻辑规则挖掘，从节点度视角解决异构知识图谱的缺失链接预测问题，在真实数据集上优于现有方法且具高可解释性。
2023-06-26 cs.AI cs.LG
DSKG: A Deep Sequential Model for Knowledge Graph Completion
Nanjing University（南京大学）；Science and Technology on Information Systems Engineering Lab（信息系统工程技术实验室）
知识图谱（KG）补全旨在填充KG中缺失的事实，其中事实以$(subject, relation, object)$的形式表示为三元组。目前的幼儿园完成模式要求提供三分之二的三分之二（例如，$subject$和$relation$）来预测剩余的一个。在本文中，我们提出了一个新的模型，它使用KG特定的多层递归神经网络（RNN）模型的三元组在KG序列。基于两个基准数据集和一个更困难的数据集，它在许多评估指标的传统实体预测任务上优于几个最先进的KG完成模型。此外，我们的模型是由顺序特性，从而能够预测整个三元组只给定一个实体。我们的实验表明，我们的模型在这个新的三重预测任务上取得了令人满意的性能。
2018-12-30 cs.LG stat.ML
Attention-Based Recommendation On Graphs
图神经网络（GNN）在不同的任务中表现出了卓越的性能。然而，目前关于GNN在推荐系统上的研究还很少。GCN作为GNN的一种类型，可以为图中的不同实体提取高质量的嵌入。在协同过滤任务中，核心问题是找出实体对预测目标用户未来行为的信息量。使用注意力机制，当底层数据被建模为图时，我们可以使GCN能够进行这样的分析。在这项研究中，我们提出了GARec作为一个基于模型的推荐系统，它应用了一个注意力机制以及一个空间GCN的推荐图，以提取嵌入的用户和项目。注意力机制告诉GCN一个相关的用户或项目应该在多大程度上影响目标实体的最终表示。我们比较的性能GARec对一些基线算法的RMSE。该方法在不同的MovieLens数据集上优于现有的基于模型的非图神经网络和图神经网络。
2022-01-04 cs.IR cs.LG
A shallow neural model for relation prediction
Paderborn University（帕德博恩大学）
知识图谱补全是指预测缺失的三元组。大多数方法通过预测实体来实现这个目标，给定实体和关系。我们通过关系预测来预测缺失的三元组。为此，我们将关系预测问题框架为多标签分类问题，并提出了一个浅层神经模型（SHALLOM），该模型可以准确地从实体中推断出缺失的关系。SHALLOM类似于C-BOW，因为这两种方法都预测了给定周围标记（（s，o））的中心标记（p）。我们的实验表明，SHALTOM在FB 15 K-237和WN 18 RR上的性能优于最先进的方法，其裕度分别高达$3\%$和$8\%$（绝对值），同时在这些数据集上需要8分钟的最大训练时间。我们通过在{ \url{https://github.com/dice-group/Shallom}}提供包括培训和评估脚本在内的开源实施来确保结果的可重复性。
2021-01-22 cs.CL cs.LG
Induction and Reference of Entities in a Visual Story
Carnegie Mellon University（卡内基梅隆大学）
在我们的日常生活中，我们被视觉解释的故事所包围。我们叙述一个故事的方式通常包括两个阶段，即形成实体的中心思维导图，然后围绕它们编织一个故事。连贯性的一个促进因素不仅是以这些实体为基础的故事，而且还使用适当的术语来提及它们以避免重复。在本文中，我们解决了这两个阶段，在看似合理的交界处引入正确的实体，并在视觉故事的背景下连贯地引用它们。中心思维导图的构建块，也被称为实体骨架，是包括名词性和共指表达的实体链。这个实体骨架也被表示在不同的抽象层次中，以组成一个概括的框架来编织故事。我们建立在一个编码器-解码器框架上，当解码的故事不符合这个实体骨架时，我们会惩罚模型。我们建立了一个强大的基线骨架知情生成，然后扩展到具有多任务的能力，除了生成故事预测的骨架。最后，我们建立在这个模型，并提出了一个glocal层次注意力模型，出席在句子（本地）和故事（全球）的水平的骨架。我们观察到，我们提出的模型在自动评估指标METEOR方面优于基线。我们执行各种分析，以评估我们执行实体骨架任务的性能，例如生成的实体的数量和多样性。我们还进行了人类评估，从中得出结论，我们的模型生成的视觉故事在82%的情况下是首选的。此外，我们表明，我们的glocal层次注意力模型提高了一致性，通过引入更多的代词所需的名词的存在。
2019-09-15 cs.CL cs.LG stat.ML
SIRE: Separate Intra- and Inter-sentential Reasoning for Document-level Relation Extraction
Peking University（北京大学）；School of Software and Microelectronics, Peking University（北京大学软件与微电子学院）；Wangxuan Institute of Computer Technology, Peking University（北京大学王选计算机研究所）
文档级关系抽取是近年来研究的热点。它通常被公式化为一个分类问题，预测文档中所有实体对的关系。然而，以前的作品不加区别地以同样的方式代表内部和内部关系，混淆了预测它们的不同模式。此外，他们还创建了一个文档图，并使用图上实体之间的路径作为逻辑推理的线索。然而，并非所有实体对都可以用路径连接，并且在其图中具有正确的逻辑推理路径。因此，许多逻辑推理的情况是不能涵盖的。本文提出了一种有效的体系结构，SIRE，以不同的方式表示内部和内部关系。我们设计了一种新的、直观的逻辑推理模块，它可以覆盖更多的逻辑推理链。在公开数据集上的实验表明，SIRE的性能优于以往的最先进的方法。进一步的分析表明，我们的预测是可靠的和可解释的。我们的代码可在https://github.com/DreamInvoker/SIRE上获得。
2021-06-03 cs.AI cs.CL cs.LG
SimplE Embedding for Link Prediction in Knowledge Graphs
University of British Columbia（不列颠哥伦比亚大学）
知识图谱包含关于世界的知识，并提供这些知识的结构化表示。目前的知识图谱只包含世界上真实知识的一小部分。链接预测方法的目标是在给定实体之间的现有链接的情况下预测知识图的新链接。张量分解方法已被证明是有前途的链接预测问题。在1927年提出的，典型的Polyadic（CP）分解是最早的张量分解方法之一。CP通常在链接预测方面表现不佳，因为它为每个实体学习两个独立的嵌入向量，而它们实际上是绑定的。我们提出了一个简单的增强CP（我们称之为SimpleE），让每个实体的两个嵌入学习依赖。SimpleE的复杂度随着嵌入的大小线性增长。通过SimpleE学习的嵌入是可解释的，某些类型的背景知识可以通过权重绑定并入这些嵌入。我们证明了SimplE是完全表达的，并推导出一个充分表达的嵌入大小的界限。我们的经验表明，尽管它的简单性，简单优于几个国家的最先进的张量因式分解技术。SimplE的代码可以在GitHub上找到，网址是https://github.com/Mehran-k/SimplE。
2018-10-26 cs.LG stat.ML
ImbalancE: Inference-Time Latent Search Against Degree Imbalance in Link Prediction
Accenture Labs（埃森哲实验室）
针对知识图谱链接预测中实体度不平衡导致的预测困难，提出推理时潜在搜索优化方法，在评估时融合已知与带外信息，显著提升不平衡三元组的预测性能。
2026-09-30 cs.AI cs.LG
MKDTI: Predicting drug-target interactions via multiple kernel fusion on graph attention network
School of Computer Science and Technology, Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳）计算机科学与技术学院）
本研究提出MKDTI模型，通过图注意力网络各层嵌入提取核信息并融合，结合双拉普拉斯正则化最小二乘框架预测药物-靶点相互作用，性能优于基准算法。
2024-07-14 cs.LG q-bio.QM
Learning to Speed Up Structured Output Prediction
University of Utah（犹他大学）
预测结构化输出可能是计算繁重，由于组合大的输出空间。在本文中，我们专注于减少训练的黑盒结构分类器的预测时间，而不损失准确性。为此，我们训练一个加速分类器，学习模仿黑盒分类器下的学习搜索方法。随着结构化分类器预测更多的示例，加速分类器将作为学习的启发式操作，以引导搜索到输出空间的有利区域。我们提出了一个错误的加速分类器和识别推理的情况下，它可以独立地作出正确的判断，而无需输入功能。我们评估我们的方法上的实体和关系抽取的任务，并表明，加速分类优于甚至贪婪搜索的速度，而不损失的准确性。
2018-06-11 cs.LG stat.ML
Learning from History: Modeling Temporal Knowledge Graphs with Sequential Copy-Generation Networks
National University of Defense Technology（国防科技大学）；University of Southern California（南加州大学）
大型知识图谱通常会增长以存储时间事实，这些时间事实对实体沿时间轴的动态关系或交互进行建模。由于这样的时间知识图谱经常遭受不完整性，重要的是开发时间感知的表示学习模型，帮助推断缺失的时间事实。虽然时间事实通常是不断演变的，但据观察，许多事实往往显示出沿时间轴的重复模式，如经济危机和外交活动。这一观察表明，模型可以从历史上出现的已知事实中学到很多东西。为此，我们提出了一个新的表示学习模型的时间知识图谱，即CyGNet，基于一个新的时间感知副本生成机制。CyGNet不仅能够从整个实体词汇中预测未来的事实，而且能够识别具有重复性的事实，并参考过去的已知事实来预测这些未来的事实。我们使用五个基准数据集评估所提出的方法上的知识图谱完成任务。大量的实验表明，CyGNet的有效性预测未来的事实与重复以及从头事实预测。
2021-03-05 cs.AI cs.CL cs.LG
On Large-scale Evaluation of Embedding Models for Knowledge Graph Completion
University of Texas at Arlington（德克萨斯大学阿灵顿分校）
针对KGE评估基准不切实际、指标与数据集受限的问题，本文在FB-CVT-REV和FB+CVT-REV上大规模评估四种模型，揭示规模差异、n元关系二值化高估及现有协议的根本缺陷。
2025-06-10 cs.AI cs.LG
Interpretable Disease Prediction based on Reinforcement Path Reasoning over Knowledge Graphs
目的：将医学知识和医学数据结合起来，对疾病风险进行可解释的预测。方法：我们将疾病预测任务制定为沿着知识图谱（KG）的随机行走。具体来说，我们建立了一个KG来记录疾病和危险因素之间的关系，根据验证的医学知识。然后，一个数学对象沿着KG走。它在患者实体处开始行走，基于患者当前疾病或风险因素连接KG，并在代表预测疾病的疾病实体处停止。由对象生成的轨迹表示给定患者的可解释的疾病进展路径。对象的动态由基于策略的强化学习（RL）模块控制，该模块由电子健康记录（EHR）训练。实验：我们利用两个真实世界的EHR数据集来评估我们的模型的性能。在疾病预测任务中，我们的模型在预测两个数据集中的53种循环系统疾病时，在宏观曲线下面积（AUC）方面分别达到0.743和0.639。这种性能与医学研究中常用的机器学习（ML）模型相当。在定性分析中，我们的临床合作者回顾了我们模型产生的疾病进展路径，并主张其可解释性和可靠性。结论：实验结果验证了所提出的模型在可解释的评估和优化疾病预测。意义：我们的工作有助于利用医学知识和医学数据的潜力，共同完成可解释的预测任务。
2023-01-06 cs.AI cs.IR cs.LG
Learning New Facts From Knowledge Bases With Neural Tensor Networks and Semantic Word Vectors
Stanford University（斯坦福大学）
知识库为应用程序提供了易于访问的系统的关系知识，但在实践中往往遭受其不完整性和缺乏新的实体和关系的知识。许多工作都集中在通过在大型未注释的文本语料库中找到模式来构建或扩展它们。相比之下，在这里，我们的主要目标是通过预测实体之间的其他真实关系来完成知识库，基于可以在给定的知识库中识别的概括。我们介绍了一个神经张量网络（NTN）模型，预测新的关系条目，可以添加到数据库中。该模型可以通过使用以无监督方式从文本中学习的词向量初始化实体表示来改进，并且在这样做时，甚至可以查询现有关系以查找数据库中不存在的实体。我们的模型概括了这个问题，并优于现有的模型，并可以分类在WordNet中看不见的关系，准确率为75.8%。
2013-03-16 cs.CL cs.LG
Inter-domain Multi-relational Link Prediction
Kyoto University（京都大学）；Fujitsu Research, Fujitsu Ltd.（富士通研究，富士通有限公司）
多关系图是一种普遍而重要的数据结构，它允许灵活地表示实体之间的多种类型的交互和关系。与其他图结构数据类似，链接预测是多关系图上最重要的任务之一，通常用于知识补全。当相关图共存时，通过集成较小的图来构建较大的图是非常有益的。集成需要预测属于不同图的实体之间的隐藏关系连接（域间链接预测）。然而，这对仅为同一图的实体之间的链接预测专门设计的现有方法（域内链接预测）提出了真正的挑战。在这项研究中，我们提出了一种新的方法来解决域间链接预测问题，软对齐不同域之间的实体分布与最佳的运输和最大平均差异正则化。在真实世界数据集上的实验表明，最优传输正则化器是有益的，并大大提高了基线方法的性能。
2021-07-09 cs.LG
Topology-Aware Correlations Between Relations for Inductive Link Prediction in Knowledge Graphs
University of Science and Technology of China（中国科学技术大学）
归纳链接预测--其中在训练和推理阶段的实体可以是不同的--已被证明有希望完成不断进化的知识图谱。现有的归纳推理模型主要集中在通过学习逻辑规则来预测缺失环节。然而，许多现有的方法不考虑关系之间的语义相关性，这是常见的在现实世界的知识图谱。为了解决这个问题，我们提出了一种新的归纳推理方法，即TACT，它可以有效地利用拓扑感知的关系之间的关联，在一个实体独立的方式。TACT的灵感来自于观察到两个关系之间的语义相关性与它们在知识图谱中的拓扑结构高度相关。具体来说，我们将所有的关系对分为几个拓扑模式，然后提出了一个关系相关网络（RCN）学习的重要性，归纳链接预测的不同模式。实验表明，TACT可以有效地建模关系之间的语义相关性，并显着优于现有的国家的最先进的方法在基准数据集上的归纳链接预测任务。
2021-03-05 cs.CL cs.LG
Subgraph Neighboring Relations Infomax for Inductive Link Prediction on Knowledge Graphs
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）
针对知识图谱的归纳链接预测旨在预测在训练阶段未示出的看不见的实体之间的缺失链接。大多数以前的作品学习实体特定的嵌入实体，不能处理看不见的实体。最近的几种方法利用封闭子图来获得归纳能力。然而，这些工作都只考虑子图的封闭部分，而没有考虑完全的邻接关系，导致部分邻接关系被忽略，稀疏子图难以处理。为了解决这个问题，我们提出了子图相邻关系Infomax，SNRI，它充分利用完全相邻关系从两个方面：相邻关系特征的节点特征和相邻关系路径的稀疏子图。为了进一步在全局范围内对相邻关系进行建模，我们创新性地将互信息（MI）最大化应用于知识图谱。实验结果表明，SNRI算法在归纳链接预测任务上的性能明显优于现有方法，并验证了该算法在稀疏子图上以全局的方式探索节点间的完全邻接关系来刻画节点特征和推理的有效性.
2022-08-26 cs.AI cs.LG
A Framework for Probabilistic Generic Traffic Scene Prediction
University of California, Berkeley（加州大学伯克利分校）
在给定的场景中，同时准确地预测交通参与者的每一个可能的交互是自动驾驶车辆的重要能力。目前的研究大多集中在单个实体的预测，而没有考虑环境信息。虽然一些方法旨在预测多个车辆，但它们要么独立地预测每个车辆而不考虑与周围实体的可能交互，要么生成离散的关节运动，这些运动不能直接用于自主车辆的决策和运动规划。在本文中，我们提出了一个概率框架，能够联合预测连续运动的多个相互作用的道路参与者在任何驾驶场景下，并能够预测每次互动的持续时间，这可以提高预测性能和效率。提出的交通场景预测框架包含两个层次模块：上层模块和下层模块。上部模块预测预测车辆的意图，而下部模块预测交互场景实体的运动。一个典型的现实世界的情况下，用于实现和检查所提出的框架。
2018-10-30 cs.LG cs.RO stat.ML
Numerical Literals in Link Prediction: A Critical Examination of Models and Datasets
Bielefeld University（比勒费尔德大学）；University of Oslo（奥斯陆大学）
本文提出一种评估结合数值字面量的链接预测模型的方法论，通过构建合成数据集与消融策略，发现许多模型未充分利用字面量信息，揭示了现有基准数据集的不足及更广泛评估的必要性。
2024-07-25 cs.DB cs.LG
Knowledge Graph Fact Prediction via Knowledge-Enriched Tensor Factorization
University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）
我们提出了一个家庭的新方法嵌入知识图谱到实值张量。这些基于张量的嵌入捕获了由语义Web语言（如RDF）表示的知识图谱中典型的有序关系。与许多以前的模型不同，我们的方法可以很容易地使用用户提供的或从现有的知识图谱自动提取的先验背景知识。除了为知识图谱嵌入提供更鲁棒的方法外，我们还提供了一个可证明收敛的线性张量分解算法。我们证明了我们的模型在预测八个不同知识图谱的新事实的任务中的有效性，与现有的最先进的知识图谱嵌入技术相比，实现了5%到50%的相对改进。我们的实证评估表明，当图中实体的平均度很高时，所有的张量分解模型都表现良好，基于约束的模型在具有少量高度相似关系的图上表现更好，而基于正则化的模型在具有不同相似度关系的图中占主导地位。
2019-02-08 cs.AI cs.CL cs.LG
Heterogeneous Causal Metapath Graph Neural Network for Gene-Microbe-Disease Association Prediction
College of Informatics, Huazhong Agricultural University（华中农业大学信息学院）；Hubei Key Laboratory of Agricultural Bioinformatics, Huazhong Agricultural University（华中农业大学农业生物信息学湖北省重点实验室）
本文提出异构因果元路径图神经网络（HCMGNN），通过构建异构图并利用六条因果元路径提取子图进行多视图分析，有效预测复杂的基因-微生物-疾病关联并缓解稀疏问题。
2024-06-27 cs.LG
Resilience Inference for Supply Chains with Hypergraph Neural Network
本文提出基于超图神经网络的供应链韧性推断方法，通过超图拓扑和库存轨迹预测供应链韧性，有效解决传统方法在多实体依赖和动态方程方面的不足。
2025-12-04 cs.AI cs.LG
Probabilistic Logic Neural Networks for Reasoning
Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）；University of Montréal（蒙特利尔大学）；HEC Montréal（蒙特利尔高等商学院）
知识图谱推理的目的是通过对观察到的事实进行推理来预测缺失的事实，它在许多应用中起着关键作用。传统的基于逻辑规则的方法和最近的知识图谱嵌入方法已经对这一问题进行了广泛的研究。基于规则的原则性逻辑方法是马尔可夫逻辑网络（MLN），它能够利用一阶逻辑的领域知识，同时处理它们的不确定性。然而，MLN的推理通常是非常困难的，由于复杂的图结构。与MLN不同的是，知识图谱嵌入方法（例如，TransE、DistMult）学习有效的实体和关系嵌入以用于推理，这是更有效和高效的。然而，他们无法利用领域知识。在本文中，我们提出了概率逻辑神经网络（pLogicNet），它结合了这两种方法的优点。pLogicNet通过使用具有一阶逻辑的马尔可夫逻辑网络来定义所有可能的三元组的联合分布，可以使用变分EM算法来有效地优化。在E-步骤中，一个知识图谱嵌入模型用于推断丢失的三元组，而在M-步骤中，逻辑规则的权重更新的基础上观察和预测三元组。在多个知识图谱上的实验证明了pLogicNet在许多竞争基线上的有效性。
2019-10-29 cs.AI cs.LG stat.ML
