Distributional Matrix Completion via Nearest Neighbors in the Wasserstein Space
Industrial Engineering and Operations Research, Columbia University（哥伦比亚大学工业工程与运筹学系）；Statistics and Data Science, Cornell Tech, Cornell University（康奈尔大学数据科学与统计学系）；Operations Research and Information Engineering, Cornell Tech, Cornell University（康奈尔大学运筹学与信息工程系）
本文将最优传输与最近邻方法结合，提出分布矩阵补全方法，在潜在因子模型下证明其Wasserstein恢复性质，并通过模拟和真实盈利预测数据验证其在分布估计、风险度量和异方差场景中的有效性。
2025-06-05 cs.LG stat.ME stat.ML
Temporal Knowledge Base Completion: New Algorithms and Evaluation Protocols
Indian Institute of Technology Delhi（德里印度理工学院）；Indian Institute of Technology Bombay（孟买印度理工学院）
时态知识库将关系（s，r，o）三元组与关系有效时的一组时间（或单个时刻）相关联。虽然时间不可知的知识库补全（KBC）已经见证了重要的研究，时间知识库补全（TKBC）是在它的早期。在本文中，我们考虑预测丢失的实体（链接预测）和丢失的时间间隔（时间预测）作为联合TKBC任务，其中实体，关系和时间都嵌入在一个统一的，兼容的空间。我们提出了TIMEPLEX，一种新的时间感知的KBC方法，也自动利用一些关系和时间对关系之间的相互作用的经常性。TIMEPLEX在两个预测任务上都达到了最先进的性能。我们还发现，现有的TKBC模型严重高估了链接预测性能，由于不完善的评估机制。作为回应，我们提出了改进的TKBC评估协议的链接和时间预测任务，处理微妙的问题，从黄金实例和系统预测的时间间隔的部分重叠。
2020-10-11 cs.LG cs.SI
Link Prediction via Matrix Completion
University of Electronic Science and Technology of China（电子科技大学）
受社交网络、经济网络、生物网络等的现实意义的启发，近年来，对大型复杂网络的研究引起了人们的极大关注。链接预测是理解网络中新链接添加机制的基本问题。将鲁棒主元分析方法引入到链接预测中，对邻接矩阵的缺失项进行估计。一方面，我们的算法是基于矩阵的稀疏性和低秩性，另一方面，它也表现出很好的网络是密集的。这是因为相对密集的真实网络与完整图相比也是稀疏的。通过对不同领域的真实网络进行大量实验，当目标网络连通且足够密集时，无论加权与否，我们的方法都是非常有效的，并且与许多最先进的算法相比，预测精度有了很大的提高。
2016-06-23 cs.LG cs.SI physics.soc-ph
N$^2$: A Unified Python Package and Test Bench for Nearest Neighbor-Based Matrix Completion
Cornell University（康奈尔大学）；Columbia University（哥伦比亚大学）；University of Pennsylvania（宾夕法尼亚大学）
本文提出N²，一种统一的Python包和测试平台，用于基于最近邻的矩阵补全，展示了新的NN变体和现实世界数据集的基准测试，证明NN方法在现实应用中的优越性。
2026-09-15 cs.LG stat.CO stat.ML
Subgraph Neighboring Relations Infomax for Inductive Link Prediction on Knowledge Graphs
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）
针对知识图谱的归纳链接预测旨在预测在训练阶段未示出的看不见的实体之间的缺失链接。大多数以前的作品学习实体特定的嵌入实体，不能处理看不见的实体。最近的几种方法利用封闭子图来获得归纳能力。然而，这些工作都只考虑子图的封闭部分，而没有考虑完全的邻接关系，导致部分邻接关系被忽略，稀疏子图难以处理。为了解决这个问题，我们提出了子图相邻关系Infomax，SNRI，它充分利用完全相邻关系从两个方面：相邻关系特征的节点特征和相邻关系路径的稀疏子图。为了进一步在全局范围内对相邻关系进行建模，我们创新性地将互信息（MI）最大化应用于知识图谱。实验结果表明，SNRI算法在归纳链接预测任务上的性能明显优于现有方法，并验证了该算法在稀疏子图上以全局的方式探索节点间的完全邻接关系来刻画节点特征和推理的有效性.
2022-08-26 cs.AI cs.LG
Neo-GNNs: Neighborhood Overlap-aware Graph Neural Networks for Link Prediction
Korea University（高丽大学）
图神经网络（GNN）已经被广泛应用于各种领域，用于对图结构数据进行学习。它们在节点分类和图分类等各种任务上都比传统的探试法有了显着的改进。然而，由于GNN严重依赖于平滑的节点特征而不是图结构，因此它们在链接预测中通常表现出比简单的探试法差的性能，其中结构信息，例如，重叠的邻域、度和最短路径是至关重要的。为了解决这一限制，我们提出了邻域重叠感知图神经网络（Neo-GNNs），它从邻接矩阵中学习有用的结构特征，并估计用于链接预测的重叠邻域。我们的Neo-GNNs推广了基于邻域的探试法，并处理重叠的多跳邻域。我们在Open Graph Benchmark数据集（OGB）上进行的大量实验表明，Neo-GNN在链接预测中始终达到最先进的性能。我们的代码可在https://github.com/seongjunyun/Neo_GNNs上公开获取。
2022-06-09 cs.AI cs.LG
Efficient Neural Common Neighbor for Temporal Graph Link Prediction
Institute for Artificial Intelligence, Peking University（人工智能研究院，北京大学）；State Key Laboratory of General Artificial Intelligence, Peking University（通用人工智能国家重点实验室，北京大学）
TNCN通过高效的时间图架构和多跳共同邻居学习，实现了在大规模时间图上高效且准确的链接预测。
2025-12-14 cs.AI cs.LG cs.SI
Does Pre-trained Language Model Actually Infer Unseen Links in Knowledge Graph Completion?
Nara Institute of Science and Technology（奈良科学技术研究所）；The University of Tokyo（东京大学）
本文分析基于预训练语言模型的知识图谱补全方法究竟是在进行推断还是仅访问记忆知识，通过构建合成数据集证明PLM确实通过预训练获得了KGC所需的推断能力，但性能提升主要来自实体和关系的文本信息。
2024-06-06 cs.AI cs.CL cs.LG
Transformer-Based Multimodal Knowledge Graph Completion with Link-Aware Contexts
Department of Computer and Information Science and Engineering, University of Florida（计算机与信息科学与工程系，佛罗里达大学）
提出一种结合基于Transformer的KGE模型与预训练VLM生成跨模态上下文的新方法，通过将视觉信息转为文本序列并以序列到序列任务微调模型，有效减小了模型规模并在多个大规模数据集上取得竞争力表现。
2025-09-15 cs.AI cs.CL cs.LG
Friendly Neighbors: Contextualized Sequence-to-Sequence Link Prediction
University of Mannheim（曼海姆大学）；Adobe Research（Adobe研究院）
本文提出 KGT5-context，通过在序列到序列链接预测模型中引入查询实体邻域上下文信息，替代庞大昂贵的知识图谱嵌入模型集成，在显著减小模型规模的同时取得最先进性能。
2023-05-31 cs.AI cs.LG cs.SI
NePTuNe: Neural Powered Tucker Network for Knowledge Graph Completion
Rice University（莱斯大学）；Pennsylvania State University（宾夕法尼亚州立大学）
知识图谱通过关系链接实体以提供真实世界事实的结构化表示。然而，它们往往是不完整的，因为它们只基于所有可信事实的一小部分。通过链接预测完成知识图谱的任务旨在通过推断表示为实体之间的链接的缺失事实来克服这一挑战。链接预测的当前方法利用张量因子分解和/或深度学习。因式分解方法训练和部署迅速，这要归功于它们的参数数量少，但由于它们的基本线性方法，表现力有限。深度学习方法更有表现力，但由于其大量的可训练参数，计算成本也很高，并且容易过拟合。我们提出了神经动力塔克网络（NePTuNe），这是一种新的混合链接预测模型，它将深度模型的表现力与线性模型的速度和大小相结合。我们证明了NePTuNe在FB 15 K-237数据集上提供了最先进的性能，在WN 18 RR数据集上提供了接近最先进的性能。
2021-04-15 cs.LG stat.ML
Two-Sided Nearest Neighbors: An adaptive and minimax optimal procedure for matrix completion
Cornell University（康奈尔大学）；University of Pennsylvania（宾夕法尼亚大学）；Cornell Tech（康奈尔科技）
本文针对矩阵补全问题，提出自适应且极小极大最优的双边最近邻算法，其均方误差可自适应非线性光滑度，在正则条件下达到神谕误差率，经模拟和HeartSteps数据验证有效。
2026-08-26 cs.LG math.ST stat.ME
CoDEx: A Comprehensive Knowledge Graph Completion Benchmark
University of Michigan（密歇根大学）
我们提出了CoDEx，一组从Wikidata和Wikipedia中提取的知识图谱完成数据集，在范围和难度水平上改进了现有的知识图谱完成基准。就范围而言，CoDEx包括三个大小和结构不同的知识图谱，实体和关系的多语言描述，以及数万个看似合理但经验证为错误的硬否定三元组。为了表征CoDEx，我们提供了全面的实证分析和基准测试实验。首先，我们根据逻辑关系模式分析每个CoDEx数据集。接下来，我们报告CoDEx上五个广泛调整的嵌入模型的基线链接预测和三重分类结果。最后，我们将CoDEx与流行的FB 15 K-237知识图谱完成数据集区分开来，表明CoDEx涵盖了更多样化和可解释的内容，并且是一个更困难的链接预测基准。数据、代码和预训练模型可在https://bit.ly/2EPbrJs上获得。
2020-10-06 cs.AI cs.CL cs.IR
Path-based Explanation for Knowledge Graph Completion
Huawei Technologies Co., Ltd.（华为技术有限公司）；Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））
本文提出首个基于路径的KGC解释器Power-Link，通过简化图幂技术高效生成路径解释，并在可解释性、效率和可扩展性上超越现有基线。
2024-10-18 cs.AI cs.LG cs.SI
Relational Message Passing for Knowledge Graph Completion
Stanford University（斯坦福大学）
知识图谱补全的目的是预测知识图谱中实体之间缺失的关系。在这项工作中，我们提出了一个关系消息传递方法的知识图谱完成。与现有的基于嵌入的方法不同，关系消息传递仅考虑边缘特征（即，关系类型），并迭代地在边之间传递关系消息以聚合邻域信息。具体而言，在关系消息传递框架下，为给定实体对建模了两种邻域拓扑：（1）关系上下文，它捕获给定实体对相邻边的关系类型;（2）关系路径，它表征给定两个实体在知识图谱中的相对位置。这两个消息传递模块结合在一起进行关系预测。在知识图谱基准测试和我们新提出的数据集上的实验结果表明，我们的方法PathCon的性能大大优于最先进的知识图谱完成方法。PathCon也被证明适用于在训练阶段看不到实体的归纳设置，并且能够为预测结果提供可解释的解释。代码和所有数据集都可以在https://github.com/hwwang55/PathCon上找到。
2021-05-27 cs.LG stat.ML
OCN: Effectively Utilizing Higher-Order Common Neighbors for Better Link Prediction
Institute for Artificial Intelligence, Peking University（人工智能研究院，北京大学）；School of Intelligence Science and Technology, Peking University（智能科学与技术学院，北京大学）
OCN通过正交化和归一化技术有效利用高阶共同邻居，显著提升链接预测性能。
2026-03-09 cs.AI cs.LG
Inductive Matrix Completion Using Graph Autoencoder
Nanjing University（南京大学）；Tsinghua University（清华大学）；ShanghaiTech University（上海科技大学）；Beihang University（北京航空航天大学）；Nanjing University of Information Science and Technology（南京信息工程大学）
最近，图神经网络（GNN）通过将评级矩阵公式化为二分图，然后预测相应的用户和项目节点之间的链接，在矩阵完成中显示出强大的功能。大多数基于GNN的矩阵补全方法都是基于图自动编码器（GAE）的，它将one-hot索引作为输入，将用户（或项目）索引映射到可学习的嵌入，应用GNN来学习基于这些可学习的嵌入的特定于节点的表示，并最终聚合目标用户及其对应项目节点的表示来预测丢失的链接。然而，如果没有节点内容（即，边信息）进行训练，用户（或项目）特定的表示不能在归纳设置中学习，也就是说，在一组用户（或项目）上训练的模型不能适应新的用户（或项目）。为此，我们提出了一种使用GAE的归纳矩阵完成方法（IMC-GAE），该方法利用GAE学习个性化推荐的用户特定（或特定于项目）表示和归纳矩阵完成的局部图模式。具体来说，我们设计了两个信息节点的功能，并采用逐层节点辍学计划在GAE学习本地图形模式，可以推广到看不见的数据。我们的论文的主要贡献是在GAE中有效学习局部图模式的能力，与以前基于GNN的矩阵完成方法相比，具有良好的可扩展性和卓越的表达能力。此外，大量的实验表明，我们的模型在几个矩阵完成基准上达到了最先进的性能。我们的官方代码是公开的。
2021-08-25 cs.AI cs.LG
Graph Learning with Localized Neighborhood Fairness
Harvard University（哈佛大学）；Adobe Research（奥多比研究院）；Intel Labs（英特尔研究院）
学习公平图表示下游应用程序变得越来越重要，但现有的工作主要集中在提高公平性在全球范围内通过修改图结构或目标函数，而不考虑本地邻域的节点。在这项工作中，我们正式引入了邻域公平的概念，并开发了一个计算框架，用于学习这种局部公平嵌入。我们认为，邻域公平的概念更合适，因为基于GNN的模型在节点的局部邻域级别上运行。我们的邻域公平框架有两个主要组件，可以灵活地从任意数据中学习公平图表示：第一个目标是为图中的任何任意节点构造公平邻域，第二个目标使得这些公平邻域能够自适应以更好地捕获某些应用或数据相关约束，例如允许邻域更偏向于图中的某些属性或邻居。虽然链接预测已经被广泛研究，但是我们是第一个研究公平链接分类的图表示学习任务的人。我们证明了所提出的邻域公平框架的有效性，各种图形机器学习任务，包括公平的链接预测，链接分类，学习公平的图形嵌入。值得注意的是，我们的方法不仅实现了更好的公平性，而且在大多数情况下，在各种各样的图表，问题设置和指标中提高了准确性。
2022-12-22 cs.LG cs.SI
KGBoost: A Classification-based Knowledge Base Completion Method with Negative Sampling
University of Southern California（南加州大学）；National University of Singapore（新加坡国立大学）
在这项工作中，知识库完成制定为一个二元分类问题，其中XGBoost二元分类器的训练，使用相关的链接在知识图谱（KG）的每个关系。该方法采用模块化设计，通过寻找硬负样本，训练出一个用于丢失链接预测的分类器。我们在多个基准数据集上进行实验，并证明KGBoost在大多数数据集上的性能优于最先进的方法。此外，与通过端到端优化训练的模型相比，KGBoost在低维设置下工作得很好，从而允许更小的模型大小。
2021-12-17 cs.CL cs.LG
Tensor Decompositions for temporal knowledge base completion
Université Paris-Est（巴黎东大学）；Ecole des Ponts ParisTech（巴黎高科桥路学院）；Facebook AI Research（Facebook人工智能研究院）；Swiss Data Science Center（瑞士数据科学中心）；EPFL（洛桑联邦理工学院）；ETH Zürich（苏黎世联邦理工学院）
大多数关系数据中的表示学习和链接预测算法都是针对静态数据设计的。然而，它们所应用的数据通常会随着时间的推移而演变，例如社交网络中的朋友图或推荐系统中的用户与项目的交互。这也是知识库的情况，它包含的事实，如（美国，有总统，B。奥巴马，[2009-2017]），仅在某些时间点有效。对于时间约束下的链路预测问题，即，回答诸如（US，has president，？，2012），我们提出了一个解决方案的灵感来自4阶张量的典型分解。我们引入了新的正则化方案并提出了ComplEx的扩展（Trouillon等人，2016年），实现了最先进的性能。此外，我们提出了一个新的数据集的知识库完成从维基数据，大于以前的基准由一个数量级，作为一个新的参考评估时间和非时间的链接预测方法。
2020-04-10 cs.LG stat.ML
Can GNNs Learn Link Heuristics? A Concise Review and Evaluation of Link Prediction Methods
Faculty of Engineering and Information Technology, University of Technology Sydney（工程与信息技术学院，悉尼大学）；Faculty of Engineering and Information Sciences, University of Wollongong（工程与信息科学学院，沃林戈大学）；College of Electrical Engineering, Zhejiang University（电气工程学院，浙江大学）
本文研究了图神经网络在链接预测中的能力，发现可训练节点嵌入能提升性能，且图密度越高提升越显著，为未来算法发展提供指导。
2025-12-07 cs.LG cs.SI
High-order Graph Neural Networks with Common Neighbor Awareness for Link Prediction
School of Computer Science and Technology, Chongqing University of Posts and Telecommunications（重庆邮电大学计算机科学与技术学院）；Chongqing Institute of Green and Intelligent Technology, Chinese Academy of Sciences（中国科学院重庆绿色智能技术研究院）；College of Computer and Information Science, Southwest University（西南大学计算机与信息科学学院）
针对动态图神经网络忽略共同邻居交互的局限，提出具有共同邻居感知的高阶图神经网络HGNN-CNA，通过多跳共同邻居估计相关性并融入消息传递，显著提升了链路预测准确率。
2025-04-26 cs.LG
TuckER: Tensor Factorization for Knowledge Graph Completion
University of Edinburgh（爱丁堡大学）；Samsung AI Centre（三星人工智能中心）
知识图谱是现实世界事实的结构化表示。然而，它们通常只包含所有可能事实的一小部分。链接预测是基于现有事实推断缺失事实的任务。我们提出了TuckER，一个相对简单，但功能强大的线性模型的基础上塔克分解的二进制张量表示的知识图谱三元组。TuckER在标准链接预测数据集上的表现优于以前最先进的模型，为更精细的模型提供了强大的基线。我们表明，TuckER是一个充分表达的模型，推导出其嵌入维数的足够的界限，并表明，以前介绍的几个线性模型可以被视为特殊情况下的TuckER。
2019-08-24 cs.LG stat.ML
Link Prediction using Embedded Knowledge Graphs
Microsoft Research（微软研究院）；Google Research（谷歌研究院）
由于大型知识库通常是不完整的，因此需要在称为知识库完成的任务中从观察到的事实推断缺失的事实。最成功的方法，这个任务通常探索显式路径通过序列的三元组。这些方法通常采用人为设计的采样程序，因为大型知识图谱会产生大量的可能路径，其中大多数是没有信息的。作为一种替代方法，我们建议执行一个单一的，短序列的交互式查找操作的嵌入式知识图谱已通过端到端的反向传播训练的初始知识库的优化和压缩版本。我们提出的模型，称为嵌入式知识图谱网络（EKGN），达到了新的国家的最先进的成果，流行的知识库完成基准。
2018-04-22 cs.AI cs.CL cs.LG
Context Pooling: Query-specific Graph Pooling for Generic Inductive Link Prediction in Knowledge Graphs
Nanyang Technological University（南洋理工大学）
提出Context Pooling方法，通过查询特定的图池化和邻居逻辑相关性评估，提升GNN在知识图谱链接预测中的性能，在48个设置中42个达到SOTA。
2025-07-10 cs.AI cs.LG
Knowledge Graph Completion with Counterfactual Augmentation
Tsinghua University（清华大学）；Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））
近年来，图神经网络（GNN）通过对实体和关系如何交互进行建模，在知识图谱完成（KGC）方面取得了巨大成功。然而，它们中的大多数被设计为从观察到的图结构中学习，这似乎在训练阶段具有不平衡的关系分布。受知识图谱上实体间因果关系的启发，我们通过一个反事实问题来探讨这一缺陷：“如果实体的邻域与观察结果不同，这种关系还会存在吗？”".在知识图谱上设计了一个因果模型的实例，以给定关系的实体对的表示为上下文，以关系感知邻域的结构信息为处理，以组合三元组的有效性为结果，生成反事实关系来回答问题。此外，我们将所创建的反事实关系与基于GNN的KG框架相结合，以增强他们从观察到的和反事实关系中对实体对表示的学习。基准测试的实验表明，我们提出的方法优于现有的KGC任务的方法，实现了新的国家的最先进的结果。此外，我们证明了所提出的基于反事实关系的增强也通过预测的路径解释增强了基于GNN的框架的可解释性。
2023-02-25 cs.LG
Pure Message Passing Can Estimate Common Neighbor for Link Prediction
University of Notre Dame（圣母大学）；Lucy Family Institute for Data and Society, University of Notre Dame（圣母大学露西数据与社会家族研究所）；Computer Science and Engineering, University of Notre Dame（圣母大学计算机科学与工程学院）
针对MPNNs在链接预测中难以编码联合结构特征的问题，提出利用输入向量正交性的纯消息传递模型MPLP，通过准正交向量估计链接级结构特征，在多领域基准数据集上持续优于基线方法。
2024-10-14 cs.IR cs.LG cs.SI
Biomedical Knowledge Graph Refinement and Completion using Graph Representation Learning and Top-K Similarity Measure
The University of Texas at Austin（得克萨斯大学奥斯汀分校）；AbbVie Inc.（艾伯维公司）；Indiana University（印第安纳大学）
知识图谱已成为集成异构数据源的基本方法之一。集成异构数据源至关重要，特别是在生物医学领域，其中药物发现等中央数据驱动的任务依赖于整合来自不同生物医学数据库的信息。这些数据库包含各种生物实体和关系，如蛋白质（PDB）、基因（Gene Ontology）、药物（DrugBank）、疾病（DDB）和蛋白质-蛋白质相互作用（BioGRID）。在语义上集成异构生物医学数据库的过程往往是千疮百孔的缺陷。数据驱动的药物发现的质量取决于所使用的挖掘方法的准确性和数据的质量。因此，拥有完整和精炼的生物医学知识图谱是实现更准确的药物发现结果的核心。在这里，我们建议使用最新的图表示学习和嵌入模型来完善和完善生物医学知识图谱。这项初步工作演示了学习集成生物医学知识图谱Chem 2Bio 2 RD的离散表示[3]。我们执行知识图谱完成和细化任务，使用学习的嵌入向量之间的简单top-K余弦相似性度量来预测数据中存在的药物和靶标之间的缺失链接。我们表明，这个简单的过程可以用来替代二进制分类器在链接预测。
2020-12-18 cs.AI cs.LG
RMNA: A Neighbor Aggregation-Based Knowledge Graph Representation Learning Model Using Rule Mining
College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院）；School of Remote Sensing and Information Engineering, Wuhan University（武汉大学遥感信息工程学院）
传统的表示学习（TRL）模型虽然在知识图谱的完备性方面表现出了较好的性能，但实体之间的嵌入没有参数共享，实体之间的连接也较弱。因此，提出了基于邻居聚合的表示学习（NARL）模型，该模型将实体邻居中的信息编码到其嵌入中。然而，现有的NARL模型要么只利用单跳邻居，忽略了多跳邻居中的信息，要么通过层次邻居聚合利用多跳邻居，破坏了多跳邻居的完整性。本文提出了一种NARL模型RMNA，通过规则挖掘算法获取和过滤喇叭规则，并利用筛选出的喇叭规则将有价值的多跳邻居转化为一跳邻居，从而通过聚合这些一跳邻居，充分利用有价值的多跳邻居中的信息。在实验中，我们比较RMNA与国家的最先进的TRL模型和NARL模型。结果表明，RMNA具有竞争力的性能。
2021-11-04 cs.AI cs.LG
Progressive Knowledge Graph Completion
Tsinghua University（清华大学）；Carnegie Mellon University（卡内基梅隆大学）；Ping An Technology (Shenzhen) Co., Ltd.（平安科技（深圳）有限公司）；Baidu Inc.（百度公司）
针对传统知识图谱补全任务与真实场景契合度低的问题，本文提出模拟真实KG逐步构建的PKGC任务，设计两个加速模块提升挖掘效率，实验发现链接预测性能无法代表PKGC表现，并明确了未来研究方向。
2024-04-15 cs.AI cs.CL cs.LG
KG-NSF: Knowledge Graph Completion with a Negative-Sample-Free Approach
International University of Rabat（拉巴特国际大学）
知识图谱（KG）的补全是一项重要的任务，它极大地有利于许多领域（例如生物医学研究）的知识发现。近年来，学习KG嵌入来执行这一任务受到了相当大的关注。尽管KG嵌入方法取得了成功，但它们主要使用负采样，导致计算复杂性增加以及由于封闭世界假设而导致的有偏预测。为了克服这些局限性，我们提出了\textbf{KG-NSF}，一个负采样的框架学习KG嵌入的基础上嵌入向量的互相关矩阵。结果表明，该方法实现了可比的链接预测性能负采样为基础的方法，同时收敛速度更快。
2022-07-29 cs.AI cs.CL cs.LG
Scientific Language Models for Biomedical Knowledge Base Completion: An Empirical Study
University of Washington（华盛顿大学）；Allen Institute for Artificial Intelligence (AI2)（艾伦人工智能研究所）
生物医学知识图谱（KG）保存了关于疾病、药物和基因等实体的丰富信息。预测这些图中缺失的链接可以促进许多重要的应用，例如药物设计和再利用。最近的工作表明，通用域语言模型（LM）可以作为“软”KG，他们可以微调KG完成的任务。在这项工作中，我们研究了KG完成的科学LM，探索我们是否可以利用它们的潜在知识来增强生物医学链接预测。我们评估了几个特定领域的LM，在以药物和疾病为中心的数据集上对它们进行微调，我们将其表示为KG，并使用文本实体描述进行丰富。我们将基于LM的模型与KG嵌入模型集成，使用路由器方法，该方法学习将每个输入示例分配给任何类型的模型，并提供了性能的大幅提升。最后，我们展示了LM模型在新的科学实体的归纳设置的优势。我们的数据集和代码是公开的。
2021-09-21 cs.CL cs.LG
Soft Marginal TransE for Scholarly Knowledge Graph Completion
University of Bonn（波恩大学）
知识图谱（KG），即作为语义图的信息表示，为包括问答、推荐和链接预测在内的许多任务提供了重要的测试平台。不同数量的学术元数据已经成为来自不同数据提供者和代理的知识图谱。然而，这些大量的数据在快速增长的同时，在完整性方面仍远未达到质量标准。完成这些幼儿园的大多数尝试都遵循传统的数据数字化，收获和合作策展方法。然而，高级的AI相关方法，如嵌入模型-专为此类任务设计-通常会针对Freebase和Wordnet等标准基准进行评估。这些数据集的定制性质阻止了这些方法揭示更准确的发现。这种模型在特定领域的KG上的应用利用了丰富的元数据，并提供了准确的结果，其中底层领域可以极大地受益。在这项工作中，transE嵌入模型是协调学术元数据的特定链接预测任务。结果表明，在具有学术元数据的数据集上，模型的准确性和性能评估发生了显著变化。新提出的版本的transE获得99.9%的链接预测任务，而原来的transE获得95%。在准确性和Hit@10方面，TransE优于其他嵌入模型，例如在学术知识图谱上进行实验的ComplEx，TransH和TransR
2019-04-27 cs.AI cs.IR cs.LG
Co-Neighbor Encoding Schema: A Light-cost Structure Encoding Method for Dynamic Link Prediction
Beihang University（北京航空航天大学）；Zhongguancun Laboratory（中关村实验室）；School of Transportation Science and Engineering, Beihang University（北京航空航天大学交通科学与工程学院）
针对时序图结构编码因高阶子图构建导致计算耗时的问题，提出基于哈希表内存的低成本共邻居编码模式（CNES）及动态图学习框架CNE-N，通过避免冗余计算和生成长短时结构编码，在十三个数据集上验证了高效性。
2024-07-30 cs.LG
Knowledge Graph Completion with Mixed Geometry Tensor Factorization
HSE University（高等经济大学）；AIRI（人工智能研究所）
本文提出一种结合欧几里得与双曲几何的混合张量分解方法，通过引入双曲相互作用项修正Tucker分解模型，在显著减少参数的同时实现了SOTA的知识图谱链接预测精度。
2025-04-03 cs.AI cs.IR cs.LG
T-GAP: Learning to Walk across Time for Temporal Knowledge Graph Completion
Seoul National University（首尔国立大学）；Jeonbuk National University（全北国立大学）
与静态知识图谱相比，时态知识图谱本质上反映了现实世界知识的瞬时性。自然，自动TKG完成已经吸引了许多研究兴趣，为更现实的关系推理建模。然而，现有的TKG补全模型大多扩展了静态KG嵌入，没有充分利用TKG结构，因此缺乏1）对查询局部邻域中时间相关事件的考虑，以及2）基于路径的推理，从而促进了多跳推理和更好的可解释性。在本文中，我们提出了T-GAP，一种新的模型TKG完成，最大限度地利用时间信息和图形结构在其编码器和解码器。T-GAP通过关注每个事件和查询时间戳之间的时间位移来编码TKG的查询特定子结构，并通过在图中传播注意力来执行基于路径的推理。我们的实证实验表明，T-GAP不仅实现了卓越的性能对国家的最先进的基线，但也能胜任地推广到查询看不见的时间戳。通过大量的定性分析，我们还表明，T-GAP享有透明的可解释性，并遵循人类的直觉，在其推理过程。
2020-12-19 cs.AI cs.CL cs.LG
Sequence-to-Sequence Knowledge Graph Completion and Question Answering
Indian Institute of Science（印度科学学院）；University of Mannheim（曼海姆大学）
知识图谱嵌入模型用低维嵌入向量表示知识图谱的各个实体和关系。这些方法最近已被应用到KG链接预测和不完整KG上的问答（KGQA）。KGE通常为图中的每个实体创建嵌入，这导致具有数百万实体的真实世界图上的大模型大小。对于下游任务，这些原子实体表示通常需要集成到多级管道中，这限制了它们的实用性。我们表明，一个现成的编码器-解码器Transformer模型可以作为一个可扩展的和通用的KGE模型获得最先进的结果KG链接预测和不完整的KG问答。我们通过将KG链接预测作为序列到序列的任务来实现这一点，并将先前KGE方法采用的三重评分方法与自回归解码交换。与传统的KGE模型相比，这种简单但功能强大的方法将模型大小减少了98%，同时保持推理时间易于处理。在对不完整KG的KGQA任务进行微调后，我们的方法在多个大规模数据集上的性能优于基线，而无需进行广泛的超参数调整。
2022-03-19 cs.CL cs.LG
Node Attribute Completion in Knowledge Graphs with Multi-Relational Propagation
EPFL（洛桑联邦理工学院）
现有的关于知识图谱完成的文献大多集中在链接预测任务上。然而，知识图谱有一个额外的不完整性问题：它们的节点拥有数值属性，其值经常丢失。我们的方法，表示为MrAP，通过在知识图谱的多关系结构中传播信息来估算缺失属性的值。它采用回归函数根据节点之间的关系和属性的类型来预测一个节点属性与另一个节点属性。传播机制在消息传递方案中迭代地操作，该方案在每次迭代时收集预测并更新节点属性的值。在两个基准数据集上的实验表明了该方法的有效性。
2020-11-10 cs.LG
Knowledge Graph Completion via Complex Tensor Factorization
Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；NAVER LABS Europe（NAVER LABS 欧洲实验室）；University College London（伦敦大学学院）；Bloomsbury AI
在统计关系学习中，知识图谱完成涉及自动理解大型知识图谱的结构--标记的有向图--并预测缺失的关系--标记的边。最先进的嵌入模型提出了建模表现力与时间和空间复杂度之间的不同权衡。我们通过使用复值嵌入来调和表达性和复杂性，并探索这种复值嵌入和酉对角化之间的联系。我们证实了我们的方法理论上，并表明，所有真正的方阵-因此所有可能的关系/邻接矩阵-是一些酉可对角化矩阵的实部。这一结果为方阵因式分解的许多其他应用打开了大门。我们基于复杂嵌入的方法可以说是简单的，因为它只涉及Hermitian点积，即实向量之间标准点积的复杂对应物，而其他方法则采用越来越复杂的复合函数来增加它们的表现力。所提出的复杂嵌入可扩展到大数据集，因为它在空间和时间上都保持线性，同时在标准链接预测基准上始终优于替代方法。
2017-11-26 cs.AI cs.LG math.SP
Relation Adversarial Network for Low Resource Knowledge Graph Completion
Alibaba Group（阿里巴巴集团）；AZFT Joint Lab for Knowledge Engine（AZFT知识引擎联合实验室）；Zhejiang University（浙江大学）；Carnegie Mellon University（卡内基梅隆大学）；Oxford University（牛津大学）
知识图谱补全（KGC）已经被提出来通过经由链接预测或关系抽取填充缺失连接来改进知识图谱。KGC的主要困难之一是资源不足问题。以前的方法假设有足够的训练三元组来学习实体和关系的通用向量，或者假设有足够数量的标记句子来训练一个合格的关系抽取模型。然而，低资源关系在KG中非常普遍，并且那些新添加的关系通常没有很多已知的样本用于训练。在这项工作中，我们的目标是在一个具有挑战性的环境下预测新的事实，其中只有有限的训练实例可用。我们提出了一个通用的框架，称为加权关系对抗网络，它利用一个对抗过程，以帮助适应知识/功能从高资源关系到不同的，但相关的低资源关系。具体而言，该框架利用关系映射来区分来自不同关系的样本，并帮助学习从源关系到目标关系更可转移的关系不变特征。实验结果表明，该方法优于以往的方法，低资源设置的链接预测和关系抽取。
2020-06-22 cs.AI cs.CL cs.DB
Node Co-occurrence based Graph Neural Networks for Knowledge Graph Link Prediction
Oracle Labs, Australia（甲骨文实验室（澳大利亚））；VinAI Research, Vietnam（VinAI 研究院（越南））；Monash University, Australia（莫纳什大学（澳大利亚））
我们引入了一种新的嵌入模型，称为NoGE，其目的是将实体和关系之间的共现集成到图神经网络中，以提高知识图谱的完备性（即，链接预测）。给定一个知识图谱，NoGE将实体和关系视为单个节点来构建单个图。然后，NoGE基于实体和关系的共现来计算节点之间的边的权重。接下来，NoGE提出了双四元数图神经网络（DualQGNN），并利用DualQGNN更新实体和关系节点的矢量表示。然后，NoGE采用评分函数来产生三重评分。综合实验结果表明，NoGE获得了国家的最先进的结果在三个新的和困难的基准数据集CoDEx的知识图谱完成。
2021-12-26 cs.CL cs.LG
Hybrid Transformer with Multi-level Fusion for Multimodal Knowledge Graph Completion
Zhejiang University（浙江大学）；Alibaba Group（阿里巴巴集团）；State Key Laboratory of Media Convergence Production Technology and Systems（媒体融合生产技术与系统国家重点实验室）
本文提出混合Transformer模型MKGformer，通过统一输入输出架构和多级融合机制整合视觉与文本表示，在多模态知识图谱补全的四个数据集上取得SOTA性能。
2023-09-18 cs.AI cs.CL cs.CV
Unifying Structure and Language Semantic for Efficient Contrastive Knowledge Graph Completion with Structured Entity Anchors
Naver Corp.（Naver公司）
针对现有融合文本与结构的KGC方法性能不足或丧失归纳能力的问题，提出带结构化实体锚点的对比学习方法，统一结构与语义表示且保留归纳能力，在标准基准上性能超越现有SOTA模型。
2023-11-07 cs.AI cs.CL cs.LG
Efficient Relational Context Perception for Knowledge Graph Completion
School of Computer Science, Wuhan University（武汉大学计算机学院）
本文提出TRP架构结合张量分解，通过学习实体和关系的动态上下文并高效计算三元组得分，在多个基准数据集上优于现有知识图谱补全模型。
2024-12-31 cs.AI cs.CL cs.LG
Optimizing Long-tailed Link Prediction in Graph Neural Networks through Structure Representation Enhancement
Ant Group（蚂蚁集团）
本文提出LTLP框架，通过为尾部节点对补充高质量边并强制同类别内头部和尾部节点对表示对齐，消除共同邻居长尾分布的负面影响，提升图神经网络链路预测性能。
2024-07-30 cs.LG
GCN-LASE: Towards Adequately Incorporating Link Attributes in Graph Convolutional Networks
Yuanpei College, Peking University（北京大学元培学院）；Key Laboratory of Machine Perception, Ministry of Education, Peking University（北京大学教育部机器感知重点实验室）
图卷积网络（GCN）已被证明是一个最强大的架构，在聚合局部邻域信息的个别图节点。在现有的GCN中成功地利用了低秩邻近性和节点特征，然而，图链接可能携带的属性通常被忽略，因为几乎所有这些模型都将图链接简化为描述节点连通性的二进制或标量值。相反，在我们的论文中，链接被恢复到实体之间的实体属性的关系。我们提出了GCN-LASE（GCN与链路属性和抽样估计），一种新的GCN模型，以节点和链路属性作为输入。为了充分捕捉链接和节点属性之间的相互作用，它们的张量积被用作邻居特征，在此基础上，我们定义了几个图核，并进一步开发了相应的LASE架构。此外，为了加快训练过程，整个邻域的特征之和估计通过蒙特卡罗方法，与新的采样策略设计的LASE，以最小化估计方差。我们的实验表明，LASE在各种图形数据集上的表现优于强基线，进一步的实验证实了链接属性的信息量以及我们的模型充分利用它们的能力。
2019-05-30 cs.CV cs.LG cs.SI
Pre-training Transformers for Knowledge Graph Completion
Duke University（杜克大学）；Microsoft Research（微软研究院）；Microsoft Bing Ads（微软必应广告）；University of Virginia（弗吉尼亚大学）
知识图谱的异构性和多关系性使得知识图谱的可迁移表示具有挑战性。受基于transformer的预训练语言模型在学习文本的可迁移表示方面的成功启发，本文提出了一种新的归纳KG表示模型（iHT），用于通过大规模预训练完成KG表示。iHT由实体编码器（例如，BERT）和邻居感知关系评分函数，两者都由Transformers参数化。我们首先在一个大型KG数据集Wikidata 5 M上预训练iHT。我们的方法实现了新的国家的最先进的匹配评估结果，平均倒数排名比以前的SOTA模型的相对改善超过25%。当对具有实体和关系移位的较小KG进行进一步微调时，预训练的iHT表示被证明是可转移的，显著提高了FB 15 K-237和WN 18 RR的性能。
2023-03-28 cs.CL cs.LG
A Critical Examination of RESCAL for Completion of Knowledge Bases with Transitive Relations
Johns Hopkins University（约翰斯·霍普金斯大学）
大型知识图中的链接预测最近受到了很多关注，因为它对于推断缺失的关系以及完善和改进噪声提取的知识图非常重要。多年来，许多机器学习研究人员已经提出了各种模型来预测知识库中缺失关系的存在。虽然所有以前的方法都给出了在选择数据集上表现出高性能的经验结果，但几乎没有以前的工作来理解知识库的属性与模型性能之间的联系。本文分析了RESCAL方法，证明了它不能对知识库中的非对称传递关系进行编码。
2016-05-16 cs.AI cs.DB cs.LG
Graph Convolutional Matrix Completion
University of Amsterdam（阿姆斯特丹大学）；Canadian Institute for Advanced Research（加拿大高等研究院）
我们考虑矩阵完成推荐系统的链接预测图的角度来看。交互数据，如电影评级，可以表示为二分用户项目图与标记的边缘表示观察到的评级。基于图结构数据深度学习的最新进展，我们提出了一个基于二分交互图上可区分消息传递的图自动编码器框架。我们的模型在标准的协同过滤基准测试中表现出了竞争力。在提供免费功能信息或结构化数据（如社交网络）的环境中，我们的框架优于最近的最先进的方法。
2017-10-25 cs.DB cs.IR cs.LG
Revisiting Neighborhood-based Link Prediction for Collaborative Filtering
Carnegie Mellon University（卡内基梅隆大学）；Snap Inc.（Snap公司）
协同过滤是推荐系统中最成功和最基本的技术之一。近年来，基于图神经网络（GNN）的CF模型，如NGCF [31]，LightGCN [10]和GTN [9]取得了巨大的成功，并显着推进了最先进的技术水平。虽然有丰富的文献，这些作品使用先进的模型分别学习用户和项目表示，项目推荐本质上是用户和项目之间的链接预测问题。此外，虽然已经有早期的作品采用链接预测的协同过滤[5，6]，这种趋势在很大程度上已经让位于集中于从用户和项目节点聚合信息的作品，而不是直接建模链接。在本文中，我们提出了一个新的链接（连通性）评分的二分图，推广多个标准的链接预测方法。我们结合这个新的分数与用户-项目交互二分图中的迭代度更新过程来利用局部图结构，而无需任何节点建模。结果是一个简单的非深度学习模型，只有六个可学习的参数。尽管它很简单，但我们证明了我们的方法在四个广泛使用的基准测试中显着优于现有的最先进的基于GNN的CF方法。特别是，在亚马逊图书上，我们展示了召回和NDCG的60%以上的改进。我们希望我们的工作将邀请社区重新审视协同过滤的链接预测方面，通过将链接预测与项目推荐对齐，可以实现显着的性能增益。
2022-03-29 cs.IR cs.LG
Using Graph Algorithms to Pretrain Graph Completion Transformers
ServiceNow Research（ServiceNow研究院）；Mila（米拉研究所）；Samsung AI（三星人工智能中心）；Polytechnique Montreal（蒙特利尔综合理工学院）；Google Research（谷歌研究院）
最近关于图神经网络的研究表明，自监督预训练可以进一步提高下游图、链接和节点分类任务的性能。然而，预训练任务的有效性还没有得到充分的研究，下游大型知识图谱完成任务。使用上下文化的知识图谱嵌入方法，我们研究了五种不同的预训练信号，使用几种图算法构建，没有外部数据，以及它们的组合。我们利用基于transformer的模型的多功能性来探索图结构生成预训练任务（即路径和k-hop邻域生成），通常不适用于大多数图嵌入方法。我们进一步提出了一种新的路径查找算法引导的信息增益，并发现它是最好的预训练任务跨三个下游的知识图谱完成数据集。虽然使用我们的新的路径查找算法作为预训练信号提供了2-3%的MRR改进，我们表明，所有信号的预训练一起给出了最好的知识图谱完成结果。在结合所有预训练任务的多任务设置中，我们的方法在FB 15 K-237的所有指标上，在WN 18 RR的MRR和Hit@1上，以及在JF 17 K（知识超图数据集）的MRR和hit@10上，都超过了最新且性能强大的知识图谱嵌入方法。
2023-03-27 cs.LG
Predicting from a Different Perspective: A Re-ranking Model for Inductive Knowledge Graph Completion
The University of Electro-Communications（电气通信大学）
针对归纳式知识图谱补全场景下规则归纳模型因规则不同导致预测有差异的特性，提出重排序模型ReDistLP，利用初始检索器与重排器的预测差异提升效果，在2/3基准上超越现有最优方法。
2024-06-19 cs.LG
Convolutional Geometric Matrix Completion
Nanjing University（南京大学）；Tencent（腾讯）
几何矩阵补全（GMC）已被提出用于推荐，通过将用户/项目之间的关系（链接）图集成到矩阵补全（MC）中。传统的GMC方法通常采用图正则化来为MC施加平滑先验。最近，提出了图上的几何深度学习（GDLG）来解决GMC问题，表现出比现有的GMC方法（包括传统的基于图正则化的方法）更好的性能。据我们所知，GMC只有一种GDLG方法，称为RMGCNN。RMGCNN将图卷积网络（GCN）和递归神经网络（RNN）结合起来用于GMC。在RMGCNN的原始工作中，RMGCNN表现出比纯GCN方法更好的性能。在本文中，我们提出了一种新的GMC方法，称为卷积几何矩阵完成（CGMC），推荐与用户/项目之间的图形。CGMC是一种纯GCN为基础的方法与新设计的图卷积网络。在真实数据集上的实验结果表明，CGMC在准确性和速度方面都优于其他最先进的方法，包括RMGCNN。
2019-05-27 cs.IR cs.LG
Under-Counted Tensor Completion with Neural Incorporation of Attributes
Oregon State University（俄勒冈州立大学）；Brown University（布朗大学）
本文提出带非线性辅助信息提取器的低秩 Poisson 张量模型及联合学习算法，解决欠计数多方面数据补全问题，并首次给出可恢复性理论保证。
2023-06-05 cs.LG eess.SP
