IRT2: Inductive Linking and Ranking in Knowledge Graphs of Varying Scale
RheinMain University of Applied Sciences(莱茵美因应用科学大学)
我们解决了为工业用例构建特定领域知识模型的挑战,其中标记数据和分类信息最初是稀缺的。我们的重点是归纳链接预测模型作为实用工具的基础,支持知识工程师探索文本集合,发现和链接新的(所谓的开放世界)实体的知识图谱。我们认为,虽然神经文本挖掘方法在过去几年中取得了令人印象深刻的结果,目前的基准并不能正确反映工业界遇到的典型挑战。因此,我们的第一个贡献是一个开放的基准创造的IRT 2(归纳推理与文本),(1)涵盖不同大小的知识图谱(包括非常小的),(2)附带的,低质量的文本提及,(3)不仅包括三重完成,而且还包括排名,这与支持专家发现任务有关。我们研究了两种用于归纳链接预测的神经模型,一种是基于端到端学习的,另一种是在不同的步骤中从知识图谱和文本数据中学习的。这些模型与强大的词袋基线竞争。结果表明,神经方法的性能显着的进步,只要可用的图形数据减少链接。对于排名,结果是有希望的,神经方法优于稀疏检索器的一个很大的保证金。
2023-01-02 cs.AI cs.CL cs.LG
Self-attention Presents Low-dimensional Knowledge Graph Embeddings for Link Prediction
University of Tehran(德黑兰大学)
一些模型试图通过在更低的维度中嵌入知识图谱来解决链接预测问题,也称为知识图谱完成。然而,国家的最先进的结果是在相当大的增加嵌入的维数的成本,导致可扩展性问题的情况下,巨大的知识库。Transformers最近已经成功地用作知识图谱的强大编码器,但是可用的模型仍然具有可扩展性问题。为了解决这个问题,我们引入了一个基于transformer的模型来获得有表现力的低维嵌入。我们利用大量的自注意力头的关键应用查询相关的投影捕捉实体和关系之间的互信息。以WN 18 RR和FB 15 k-237作为标准链接预测基准测试的实验结果表明,该模型与当前最先进的模型具有相当的性能。值得注意的是,与最近五个最好的最先进的竞争对手相比,我们得到了令人鼓舞的结果,嵌入的维度平均减少了66.9%。
2022-11-26 cs.AI cs.LG
JEL: A Novel Model Linking Knowledge Graph entities to News Mentions
J.P.Morgan(摩根大通)
本文提出JEL,一种计算高效的多神经网络端到端实体链接模型,超越现有最先进方法,旨在将知识图谱实体与新闻提及准确连接,支撑新闻分析等应用。
2025-09-09 cs.AI cs.LG
Towards Few-shot Inductive Link Prediction on Knowledge Graphs: A Relational Anonymous Walk-guided Neural Process Approach
Nanjing University of Science and Technology(南京理工大学);Monash University(莫纳什大学);Griffith University(格里菲斯大学)
本文提出RawNP方法,通过关系匿名游走提取少样本观测中的关系模体,并结合神经过程建模链接预测函数分布,以快速适应新实体并估计不确定性,从而在知识图谱少样本归纳式链接预测任务上取得最先进性能。
2023-06-26 cs.AI cs.LG
Semi-supervised Training for Knowledge Base Graph Self-attention Networks on Link Prediction
Nanjing University of Aeronautics and Astronautics(南京航空航天大学);Nanjing University of Finance and Economics(南京财经大学)
链接预测的任务旨在解决由于难以从现实世界中收集事实而导致的知识不完整的问题。基于GCN的模型由于其复杂性而被广泛应用于解决链接预测问题,但基于GCN的模型在结构和训练过程中存在两个问题。1)在基于GCN的知识表示模型中,GCN各层的转换方法变得越来越复杂; 2)由于知识图谱收集过程的不完备性,在已标注的否定样本中存在大量未收集的真事实。为此,本文研究了GAT结构中相邻节点的信息聚集系数(自注意力)特性,并重新设计了GAT结构的自注意力机制。同时,受人类思维习惯的启发,我们设计了一种基于预训练模型的半监督自训练方法。在FB 15 k-237和WN 18 RR数据集上的实验结果表明,本文提出的自注意力机制和半监督自训练方法能够有效提高链接预测任务的性能.例如,如果您查看FB 15 k-237,则所提出的方法将Hits@1提高了约30%。
2022-09-03 cs.AI cs.LG
Learning to Rank Query Graphs for Complex Question Answering over Knowledge Graphs
University of Bonn(波恩大学)
在本文中,我们进行了一个实证调查的神经查询图排序方法的任务复杂的问答在知识图谱。我们实验了六种不同的排名模型,并提出了一种新的基于自我注意力的插槽匹配模型,该模型利用了查询图的固有结构,我们的逻辑形式的选择。我们提出的模型一般优于其他模型的两个QA数据集上的DBpedia知识图谱,在不同的设置进行评估。此外,我们表明,从较大的QA数据集到较小的数据集的迁移学习产生了实质性的改进,有效地弥补了训练数据的普遍缺乏。
2018-11-02 cs.AI cs.LG stat.ML
Attribute-Enhanced Similarity Ranking for Sparse Link Prediction
Rice University(莱斯大学);UC Santa Barbara(加州大学圣巴巴拉分校);TikTok Inc.(字节跳动公司);Visa Inc.(维萨公司)
针对稀疏图链路预测中均衡评估失真问题,提出 Gelato,融合属性图学习、排序损失与图划分难负采样,性能优于现有 GNN 方法。
2024-11-29 cs.AI cs.LG cs.SI
HyperCausalLP: Causal Link Prediction using Hyper-Relational Knowledge Graph
Artificial Intelligence Institute, University of South Carolina(南卡罗来纳大学人工智能研究所);Bosch Center for Artificial Intelligence(博世人工智能中心)
本文提出HyperCausalLP方法,将带中介变量的因果链接预测建模为超关系知识图谱补全,并在CLEVRER-Humans上验证其有效性。
2024-09-12 cs.AI
Explaining Link Predictions in Knowledge Graph Embedding Models with Influential Examples
Accenture Labs(埃森哲实验室)
研究了知识图谱嵌入模型中链接预测的解释问题。我们提出了一个基于实例的方法,利用潜在的空间表示的节点和边缘的知识图谱来解释预测。我们通过观察有影响力的三元组删除后模型性能的逐步退化来评估识别三元组的重要性。我们的实验表明,这种方法产生的解释优于基线KGE模型的两个公开可用的数据集。
2022-12-05 cs.LG
Link Prediction using Embedded Knowledge Graphs
Microsoft Research(微软研究院);Google Research(谷歌研究院)
由于大型知识库通常是不完整的,因此需要在称为知识库完成的任务中从观察到的事实推断缺失的事实。最成功的方法,这个任务通常探索显式路径通过序列的三元组。这些方法通常采用人为设计的采样程序,因为大型知识图谱会产生大量的可能路径,其中大多数是没有信息的。作为一种替代方法,我们建议执行一个单一的,短序列的交互式查找操作的嵌入式知识图谱已通过端到端的反向传播训练的初始知识库的优化和压缩版本。我们提出的模型,称为嵌入式知识图谱网络(EKGN),达到了新的国家的最先进的成果,流行的知识库完成基准。
2018-04-22 cs.AI cs.CL cs.LG
Directed Criteria Citation Recommendation and Ranking Through Link Prediction
S&P Global(标普全球)
本文提出利用基于Transformer的图嵌入进行链路预测,以自动推荐和排序与新文档相关的引文,实验表明其语义表示优于其他基于内容的方法。
2024-03-18 cs.IR cs.LG cs.SI
LinkThief: Combining Generalized Structure Knowledge with Node Similarity for Link Stealing Attack against GNN
East China Normal University(华东师范大学);TongJi University(同济大学)
针对现有GNN链路窃取攻击依赖节点后验相似假设、无法覆盖不满足该假设的链路的问题,提出结合广义结构知识与节点相似性的LinkThief攻击方法,通过构建影子-目标桥接图提取结构特征,实验验证其在无额外假设下仍有效。
2024-10-01 cs.AI cs.CR cs.LG
LinkLogic: A New Method and Benchmark for Explainable Knowledge Graph Predictions
Inbound Health;University of São Paulo(圣保罗大学);Nvidia(英伟达);BenevolentAI
本文提出LinkLogic链路预测解释方法,并基于FB13数据集构建了首个链路预测解释基准,通过定量和定性评估生成解释的保真度、选择性和相关性,为知识图谱预测解释方法的实证评估奠定基础。
2024-06-02 cs.AI cs.LG cs.SI
Scalable and interpretable rule-based link prediction for large heterogeneous knowledge graphs
Medical University of Vienna(维也纳医科大学);University Mannheim(曼海姆大学)
基于神经嵌入的机器学习模型已经显示出预测生物医学知识图谱中新链接的前景。不幸的是,它们的实际效用由于缺乏可解释性而减少。最近,完全可解释的,基于规则的算法AnyBURL在许多通用链接预测基准测试中产生了极具竞争力的结果。然而,它的适用性复杂的生物医学知识基础上的大规模预测任务是有限的推理时间长,并与聚合预测的多个规则的困难。我们通过引入SAFRAN规则应用框架来改进AnyBURL,该框架通过可扩展的聚类算法聚合规则。在已建立的通用基准FB 15 K-237和大规模生物医学基准OpenBioLink上,赛峰提供了完全可解释的链接预测的最新结果。此外,它超过了FB 15 K-237上多个已建立的基于嵌入的算法的结果,并缩小了OpenBioLink上基于规则和基于嵌入的算法之间的差距。我们还表明,赛峰智能推理系统将推理速度提高了两个数量级。
2020-12-10 cs.AI cs.IR cs.LG
LINK-KG: LLM-Driven Coreference-Resolved Knowledge Graphs for Human Smuggling Networks
Department of Computer Science(计算机科学系);George Mason University(乔治·梅森大学);Schar School of Policy and Government(政策与政府学院)
人口偷运网络复杂且不断演变,因此难以对其进行全面分析。法律案例文档为这些网络提供了丰富的事实和程序见解,但通常很长、无结构,并且充满了模糊或不断变化的引用,这对自动化知识图谱(KG)构建构成了重大挑战。现有的方法要么忽略了共指消解,要么无法扩展到短文本范围之外,导致碎片化的图形和不一致的实体链接。我们提出LINK-KG,一个模块化的框架,集成了一个三阶段,LLM引导的共指消解管道与下游KG提取。我们的方法的核心是一个特定类型的提示缓存,它始终跟踪和解决跨文档块的引用,使清洁和消除歧义的叙述结构化的知识图谱建设从短期和长期的法律文本。与基线方法相比,LINK-KG减少了45.21%的平均节点重复和32.22%的噪声节点,从而使图形结构更清晰,更连贯。这些改进使LINK-KG成为分析复杂犯罪网络的坚实基础。
2025-10-30 cs.AI cs.IR cs.LG
Does Pre-trained Language Model Actually Infer Unseen Links in Knowledge Graph Completion?
Nara Institute of Science and Technology(奈良科学技术研究所);The University of Tokyo(东京大学)
本文分析基于预训练语言模型的知识图谱补全方法究竟是在进行推断还是仅访问记忆知识,通过构建合成数据集证明PLM确实通过预训练获得了KGC所需的推断能力,但性能提升主要来自实体和关系的文本信息。
2024-06-06 cs.AI cs.CL cs.LG
LowFER: Low-rank Bilinear Pooling for Link Prediction
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心(DFKI));Saarland University(萨尔大学)
知识图谱本质上是不完整的,只有有限数量的来自世界知识的观察到的事实被表示为实体之间的结构化关系。为了部分解决这个问题,统计关系学习中的一个重要任务是链接预测或知识图谱完成。线性和非线性模型都被提出来解决这个问题。双线性模型,虽然表达,容易过拟合,并导致二次增长的参数数量的关系。更简单的模型已经变得更加标准,以双线性映射上的某些约束作为关系参数。在这项工作中,我们提出了一个因子分解的双线性池模型,通常用于多模态学习,更好地融合实体和关系,从而产生一个高效和无约束的模型。我们证明了我们的模型是充分表达,提供嵌入维数和因式分解秩的界限。我们的模型自然地推广了基于Tucker分解的Tucker模型,该模型已被证明是推广其他模型,作为有效的低秩近似,而不会实质上损害性能。由于采用了低秩近似,模型的复杂性可以通过因子分解秩来控制,避免了Tucker可能的立方增长。从经验上讲,我们在真实世界的数据集上进行评估,达到同等水平或最先进的性能。在极低的秩,模型保持性能,同时保持参数有效。
2020-08-25 cs.LG stat.ML
Graph Pattern Entity Ranking Model for Knowledge Graph Completion
SOKENDAI(综合研究大学院大学);National Institute of Informatics(国立信息学研究所)
近年来,知识图谱发展迅速,其有用性已在许多人工智能任务中得到证明。然而,知识图谱往往有很多缺失的事实。为了解决这个问题,许多知识图谱嵌入模型已经被开发出来填充知识图谱,这些都表现出出色的性能。然而,知识图谱嵌入模型是所谓的黑盒,并且用户不知道如何处理知识图谱中的信息,并且模型可能难以解释。在本文中,我们利用知识图谱中的图形模式来克服这些问题。我们提出的模型,{ \it图形模式实体排名模型}(GRank),构建了一个实体排名系统,为每个图形模式,并评估他们使用的排名措施。通过这样做,我们可以找到对预测事实有用的图形模式。然后,我们在标准数据集上执行链接预测任务,以评估我们的GRank方法。我们表明,我们的方法优于其他国家的最先进的方法,如ComplEx和TorusE的标准指标,如HITS@{ \it n}和MRR。此外,我们的模型是很容易解释的,因为输出的事实描述的图形模式。
2019-04-05 cs.AI cs.CL
Towards Combinational Relation Linking over Knowledge Graphs
Fudan University(复旦大学);Wuhan University of Science and Technology(武汉科技大学)
给定一个自然语言短语,关系链接旨在从底层知识图谱中找到一个关系(谓词或属性)以匹配该短语。它在自然语言问答、个性化推荐、文本摘要等方面有着广泛的应用前景。然而,以前的关系链接算法通常为输入短语产生单个关系,而很少关注更一般和更具有挑战性的问题,即,组合关系链接,其提取子图模式以匹配复合短语(例如,mother-in-law)。本文主要研究知识图谱上的组合关系连接问题。为了解决这个问题,我们设计了一个系统的方法,基于数据驱动的关系组装技术,这是在Meta模式的指导下进行的。我们还引入了外部知识,以提高系统的理解能力。最后,我们在真实的知识图谱上进行了大量的实验,以研究所提出的方法的性能。
2019-10-24 cs.AI cs.CL
Analysis of the Impact of Negative Sampling on Link Prediction in Knowledge Graphs
University of Heidelberg(海德堡大学)
知识图谱是一个庞大、有用但不完整的知识库。它们通过实体和关系对知识进行编码,这些实体和关系通过图的连接结构相互定义。这启发了用于在连续低维向量空间中联合嵌入实体和关系的方法,其可用于在图中诱导新的边,即,知识图谱中的链接预测。学习这些表征依赖于将正面实例与负面实例进行对比。知识图谱只包括正相关实例,为选择负相关实例的各种方法敞开了大门。在本文中,我们提出了一个实证研究的影响,负采样的学习嵌入,评估通过任务的链接预测。我们使用最先进的知识图谱嵌入- \rescal,TransE,DistMult和ComplEX -并在基准数据集上进行评估-FB 15 k和WN 18。我们比较知名的负采样方法,并提出基于嵌入的采样方法。我们注意到这些采样方法对两个数据集的影响存在显着差异,“传统”的破坏性阳性方法在WN 18上获得最佳结果,而基于嵌入的方法则有利于FB 15 k上的任务。
2018-03-02 cs.AI
Predictive Multiplicity of Knowledge Graph Embeddings in Link Prediction
Cardiff University(卡迪夫大学);University of Stuttgart(斯图加特大学);Bosch Center for AI(博世人工智能中心);University of Oslo(奥斯陆大学);University of Southampton(南安普顿大学)
本文定义并测量了知识图谱嵌入在链接预测中的预测多重性,发现8%到39%的测试查询存在冲突预测,并提出基于社会选择理论投票方法,将冲突缓解66%到78%。
2024-10-04 cs.AI
Guiding Graph Embeddings using Path-Ranking Methods for Error Detection innoisy Knowledge Graphs
Institute of Informatics and Telecommunications, National Center Scientific Research Demokritos(德谟克利特国家科学研究中心信息与电信研究所);Department of Informatics and Telecommunications, National and Kapodistrian University of Athens(雅典大学信息与电信学院)
知识图谱是目前异构大数据关系信息表示的主流方法,但其自动构建时可能包含大量的输入噪声。为了解决这个问题,已经提出了不同的错误检测方法,主要集中在路径排序和表示学习。这项工作提出了各种主流的方法,并提出了一个混合和模块化的方法的任务。我们在两个基准和一个真实世界的生物医学出版物数据集上比较了不同的方法,展示了我们方法的潜力,并提供了在处理有噪知识图谱时图嵌入的见解。
2020-12-12 cs.AI cs.IR cs.LG
A Survey of Link Prediction in N-ary Knowledge Graphs
School of Computer Science and Technology, University of Chinese Academy of Sciences(中国科学院大学计算机科学与技术学院);Key Laboratory of Network Data Science and Technology, Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所网络数据科学与技术重点实验室)
本文首次系统综述N元知识图谱链接预测,分类现有方法、分析性能与应用,并指出未来研究方向。
2025-06-10 cs.AI
Learning to Extrapolate Knowledge: Transductive Few-shot Out-of-Graph Link Prediction
KAIST(韩国科学技术院);AITRICS
许多实际的图问题,如知识图谱构建和药物相互作用预测,需要处理多关系图。然而,使用图神经网络(GNN)处理现实世界的多关系图通常具有挑战性,因为它们的演化性质,随着时间的推移,新的实体(节点)可能会出现。此外,新出现的实体往往没有什么联系,这使得学习更加困难。出于这一挑战,我们引入了一个现实的问题,Few-Shot出图链接预测,在那里我们不仅预测看到的和看不见的节点之间的链接,在传统的知识外链接预测任务,但也看不见的节点之间,每个节点只有很少的边缘。我们用一个新的转导元学习框架来解决这个问题,我们称之为图外推网络(GEN)。GEN元学习用于归纳推理(seen-to-unseen)的节点嵌入网络和用于转导推理(unseen-to-unseen)的链接预测网络。对于直推式链接预测,我们进一步提出了一个随机嵌入层来模拟未知实体之间的链接预测中的不确定性。我们在多个基准数据集上验证了我们的模型,用于知识图谱完成和药物相互作用预测。结果表明,我们的模型显着优于相关基线的图外链接预测任务。
2020-10-29 cs.LG stat.ML
CausalLP: Learning causal relations with weighted knowledge graph link prediction
针对因果网络常存在关系缺失的问题,本文提出CausalLP方法,将其转化为加权知识图谱链接预测任务,支持因果解释与预测,实验验证了加权因果关系可提升预测性能。
2024-07-12 cs.AI
Farspredict: A benchmark dataset for link prediction
Iran University of Science and Technology(伊朗科技大学)
基于知识图谱嵌入的链接预测是知识图谱补全的一种常用方法。此外,在非英语知识图谱上训练KGE促进了这些语言的上下文中的知识提取和知识图谱推理。然而,许多挑战,在非英语知识的几何图形构成学习的低维表示的知识图谱的实体和关系。本文提出了基于Farsbase(波斯语中最全面的知识图谱)的波斯语知识图谱“Farspredict”。它还解释了知识图谱结构如何影响KGE中的链接预测精度。为了评估Farspredict,我们在其上实现了流行的KGE模型,并将结果与Freebase进行了比较。根据分析结果,对知识图谱进行了优化,以提高知识图谱在KGE中的功能。结果,得到了一个新的波斯语知识图谱。在许多情况下,Farspredict上的KGE模型的实现结果优于Freebases。最后,我们讨论了哪些改进可以有效地提高Farspredict的质量,以及它提高了多少。
2023-03-26 cs.AI cs.CL
Benchmarking neural embeddings for link prediction in knowledge graphs under semantic and structural changes
Medical University of Vienna(维也纳医科大学)
近年来,基于神经元嵌入的链接预测算法在语义Web领域得到了广泛的应用,并被广泛用于知识图谱的构建。虽然算法的进步主要集中在学习嵌入的有效方法上,但很少有人关注评估嵌入性能和鲁棒性的不同方法。在这项工作中,我们提出了一个开源的评估管道,基准神经嵌入的准确性的情况下,知识图谱可能会遇到语义和结构的变化。我们定义了以关系为中心的连接措施,使我们能够连接的链接预测能力的知识图谱的结构。这样的评估管道对于模拟预期频繁更新的知识图谱的嵌入精度尤其重要。
2020-05-28 cs.AI cs.CL stat.ML
LinkNBed: Multi-Graph Representation Learning with Entity Linkage
Georgia Tech(佐治亚理工学院)
知识图谱已成为研究复杂多关系数据的重要模型。这导致了大量大规模但不完整的知识图谱的构建,这些知识图谱对从各种资源中提取的信息进行编码。一种有效且可扩展的方法来联合学习多个图并最终构建一个统一的图是许多下游应用程序成功进行基于知识的推理的关键下一步。为此,我们提出了LinkNBed,这是一个深度关系学习框架,可以跨多个图学习实体和关系表示。我们确定跨图的实体链接是实现我们目标的重要组成部分。我们设计了一个新的目标,利用实体链接,并建立一个有效的多任务训练过程。在链接预测和实体链接上的实验表明,与最先进的关系学习方法相比,该方法有了很大的改进。
2018-07-23 cs.AI cs.CL cs.LG
Knowledge graph based methods for record linkage
Computer Vision Center(计算机视觉中心);Universitat Autònoma de Barcelona(巴塞罗那自治大学);Demographic Center Studies(人口研究中心)
如今,它是常见的历史人口学的个人层面的数据作为一个主要的生命过程的方法的理解的人口行为,家庭过渡,流动性等的结果,使用记录链接进步是关键,因为它允许增加的数量和数据的复杂性进行分析,在这些学科。然而,当前的方法被限制为链接来自相同种类的源的数据。知识图谱是灵活的语义表示,它允许以结构化的方式对数据变化和语义关系进行编码。本文提出了利用知识图谱来解决记录连接任务。所提出的方法,命名为{ \bf WERL},利用主要的知识图谱属性和学习嵌入向量编码普查信息。这些嵌入被适当地加权以最大化记录链接性能。我们已经评估了这种方法的基准数据集,我们已经比较了相关的方法与刺激和令人满意的结果。
2020-03-06 cs.AI cs.CV
Drug Similarity and Link Prediction Using Graph Embeddings on Medical Knowledge Graphs
National University of Ireland Galway(爱尔兰国立大学高威)
本文利用一个大型生物医学数据库的实体生成的图嵌入来执行链接预测,以捕捉不同实体之间的各种新的关系。提出了一种新的节点相似性度量方法,该方法利用图嵌入和链接预测得分来计算不同药物之间的相似性得分,从而为医学专家推荐替代药物以避免原药物的副作用。与传统生物医学方法相比,利用知识图谱上的机器学习进行药物相似性和推荐将成本更低、耗时更少,并且具有更高的可扩展性,因为后者依赖于昂贵的医疗设备和专家。
2021-10-29 cs.AI cs.IR
LineaRE: Simple but Powerful Knowledge Graph Embedding for Link Prediction
Nanjing University of Science and Technology(南京理工大学)
知识图谱的链接预测的任务是预测实体之间缺失的关系。知识图谱嵌入是将知识图谱中的实体和关系表示为连续向量空间中的低维向量,具有良好的预测性能。如果一个嵌入模型能够尽可能多地覆盖不同类型的连接模式和关系的映射属性,那么它将潜在地为链接预测任务带来更多的好处。在本文中,我们提出了一种新的嵌入模型,即LineaRE,它能够建模四种连接模式(即,对称性、反对称性、反转和合成)和四个映射性质(即,一对一、一对多、多对一和多对多)关系。具体来说,我们把知识图谱嵌入作为一个简单的线性回归任务,其中的关系被建模为一个线性函数的两个低维向量表示的实体与两个权重向量和一个偏置向量。由于向量定义在实数空间中,并且模型的评分函数是线性的,因此我们的模型简单并且可扩展到大型知识图谱。在多个广泛使用的真实数据集上的实验结果表明,所提出的LineaRE模型在链接预测任务上的性能明显优于现有的最新模型.
2021-02-18 cs.AI cs.CL
Transformation of Node to Knowledge Graph Embeddings for Faster Link Prediction in Social Networks
University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校);Siemens Corporate Technology(西门子企业技术)
神经网络的最新进展已经解决了常见的图形问题,如链接预测,节点分类,节点聚类,节点推荐,通过开发实体和关系到向量空间的嵌入。图嵌入对图中存在的结构信息进行编码。然后,编码的嵌入可以用于预测图中丢失的链接。然而,获得最佳的嵌入图可以是一个具有挑战性的计算任务,特别是在嵌入式系统。我们在这项工作中关注的两个技术是1)基于随机游走的方法的节点嵌入和2)知识图谱嵌入。基于随机游走的嵌入在计算上是廉价的,但是是次优的,而知识图谱嵌入表现更好,但是在计算上是昂贵的。在这项工作中,我们研究了一个转换模型,该模型将从基于随机游走的方法获得的节点嵌入直接从知识图谱方法获得的嵌入,而不会增加计算成本。大量的实验表明,所提出的转换模型可以用于实时解决链接预测。
2021-11-17 cs.LG cs.SI
LOKE: Linked Open Knowledge Extraction for Automated Knowledge Graph Construction
Rensselaer Polytechnic Institute(伦斯勒理工学院)
针对开放信息抽取与知识图谱对齐不足的问题,提出LOKE方法,利用GPT模型和提示工程结合实体链接,在OKE任务上优于OpenIE 4,抽取结果适用于半自动知识图谱构建。
2023-11-15 cs.AI cs.CL
KGLM: Integrating Knowledge Graph Structure in Language Models for Link Prediction
University of California, Davis(加州大学戴维斯分校)
提出KGLM架构,通过引入新的实体/关系嵌入层学习知识图谱结构,并使用图谱三元组进一步预训练语言模型,在链接预测任务上取得最先进性能。
2023-05-17 cs.AI cs.CL
PDD Graph: Bridging Electronic Medical Records and Biomedical Knowledge Graphs via Entity Linking
Nanjing University(南京大学)
电子病历包含多种格式的电子医疗数据,其中包含丰富的医学知识。面对患者的症状,有经验的护理人员根据他们的专业知识做出正确的医疗决策,准确把握症状,诊断和相应治疗之间的关系。在本文中,我们的目标是通过构建一个连接电子病历中的患者、疾病和药物(PDD)的大型高质量异质图来捕获这些关系。具体而言,我们提出了一种新的框架,提取重要的医学实体MIMIC-III(医学信息集市重症监护III),并自动将它们与现有的生物医学知识图谱,包括ICD-9本体和DrugBank。本文中提出的PDD图可以通过SPARQL端点在Web上访问,并为医学发现和应用提供了一条途径,例如有效的治疗建议。
2017-07-24 cs.AI cs.DB cs.IR
Linking Knowledge to Care: Knowledge Graph-Augmented Medical Follow-Up Question Generation
Carnegie Mellon university(卡内基梅隆大学);Amazon Health AI(亚马逊健康AI)
本文提出KG-Followup方法,通过知识图谱增强LLM,提升医疗随访问题生成的准确性和效率。
2026-03-01 cs.AI cs.CL
Node Co-occurrence based Graph Neural Networks for Knowledge Graph Link Prediction
Oracle Labs, Australia(甲骨文实验室(澳大利亚));VinAI Research, Vietnam(VinAI 研究院(越南));Monash University, Australia(莫纳什大学(澳大利亚))
我们引入了一种新的嵌入模型,称为NoGE,其目的是将实体和关系之间的共现集成到图神经网络中,以提高知识图谱的完备性(即,链接预测)。给定一个知识图谱,NoGE将实体和关系视为单个节点来构建单个图。然后,NoGE基于实体和关系的共现来计算节点之间的边的权重。接下来,NoGE提出了双四元数图神经网络(DualQGNN),并利用DualQGNN更新实体和关系节点的矢量表示。然后,NoGE采用评分函数来产生三重评分。综合实验结果表明,NoGE获得了国家的最先进的结果在三个新的和困难的基准数据集CoDEx的知识图谱完成。
2021-12-26 cs.CL cs.LG
MDistMult: A Multiple Scoring Functions Model for Link Prediction on Antiviral Drugs Knowledge Graph
Wuhan University(武汉大学);Hainan University(海南大学);Shanghai University of Engineering Science(上海工程技术大学);Institute of Scientific and Technical Information of China(中国科学技术信息研究所)
构建了COVID-19的知识图谱(KG),以加快COVID-19的研究进程。然而,幼儿园总是不完整的,尤其是新建的COVID-19幼儿园。链接预测任务旨在预测(e,r,t)或(h,r,e)的缺失实体,其中h和t是某些实体,e是需要预测的实体,r是关系。此任务亦有可能解决COVID-19相关幼儿园的不完整问题。尽管已经提出了各种知识图谱嵌入(KGE)方法来进行链接预测任务,但是这些现有方法受到使用单个评分函数的限制,这无法捕获COVID-19 KG的丰富特征。在这项工作中,我们提出了MDistMult模型,利用多个评分功能,从现有的三元组提取更多的功能。我们在CCKS 2020 COVID-19抗病毒药物知识图谱(CADKG)上进行实验。实验结果表明,我们的MDistMult在CADKG数据集上的链接预测任务中达到了最先进的性能
2021-11-29 cs.AI cs.CY
Mobile Link Prediction: Automated Creation and Crowd-sourced Validation of Knowledge Graphs
ETH Zurich(苏黎世联邦理工学院);University of Leeds(利兹大学)
为网络物理社会系统(CPSS)构建可信的知识图谱是一项挑战。特别地,当前依赖于人类专家的方法具有有限的可扩展性,而自动化方法通常不对用户负责,从而导致质量有问题的知识图谱。本文介绍了一种新的普及知识图谱建设者,汇集了自动化,专家和众包市民的知识。知识图谱通过使用遗传编程的自动链接预测来增长,这些预测由人类验证以提高透明度和校准准确性。知识图谱构建器专为智能手机等普及设备而设计,并通过本地化所有计算来保护隐私。知识图谱构建器的准确性、实用性和可用性在一个真实的社会实验中进行了评估,该实验涉及智能手机实现和智能城市应用场景。所提出的知识图谱构建方法在准确性方面优于基线方法,同时证明其在智能手机上的高效计算以及在高交互吞吐量方面的普遍人类监督过程的可行性。这些发现为智能城市中的网络物理社会系统提供了众包和操作普适推理系统的新机会。
2020-06-30 cs.AI cs.CY cs.SI
Learning Hierarchy-Aware Knowledge Graph Embeddings for Link Prediction
University of Science and Technology of China(中国科学技术大学)
知识图谱嵌入,旨在将实体和关系表示为低维向量(或矩阵,张量等),已被证明是预测知识图谱中缺失链接的强大技术。现有的知识图谱嵌入模型主要集中在对称/反对称、反转、组合等关系模式的建模上。然而,许多现有的方法无法建模语义层次结构,这是常见的在现实世界中的应用。为了解决这个问题,我们提出了一种新的知识图谱嵌入模型-即层次感知知识图谱嵌入(HAKE)-将实体映射到极坐标系。HAKE的灵感来自于极坐标系中的同心圆可以自然地反映层次结构。具体而言,径向坐标旨在对层次结构中不同级别的实体进行建模,并且具有较小半径的实体预计处于较高级别;角坐标旨在区分层次结构中相同级别的实体,并且这些实体预计具有大致相同的半径但不同的角度。实验表明,HAKE可以有效地建模知识图谱中的语义层次结构,并显着优于现有的最先进的方法在基准数据集上的链接预测任务。
2022-04-06 cs.CL cs.LG stat.ML
Handling Class Imbalance in Link Prediction using Learning to Rank Techniques
我们考虑部分观测网络中的链路预测问题,目标是在网络的未观测部分进行预测。许多现有的方法减少链接预测二进制分类问题。然而,在现实世界的网络中,不存在的链接的主导地位,使误分类错误的性能指标差。相反,研究人员主张使用排名性能指标,如AUC,AP和NDCG进行评估。我们的主要贡献是将链接预测问题重新定义为学习排名问题,并在训练过程中直接使用有效的学习排名技术。这与仅在评估期间使用排名措施的现有工作形成对比。我们的方法能够通过在训练过程中使用有效的、可扩展的学习来排名技术来处理类不平衡问题。此外,我们的方法允许我们结合网络拓扑结构和节点功能。作为我们的一般方法的演示,我们开发了一个链接预测方法,通过优化交叉熵代理,最初用于流行的ListNet排名算法。我们进行了广泛的实验公开的合著,引用和代谢网络,以证明我们的方法的优点。
2016-02-22 cs.LG cs.SI stat.ML
RankMerging: A supervised learning-to-rank framework to predict links in large social network
L2TI, Université Paris-Nord(L2TI,巴黎第十三大学);naXys, University of Namur(纳克西斯研究所,那慕尔大学);Mathematical Institute, University of Oxford(牛津大学数学研究所)
本文提出监督学习排序框架RankMerging,融合多种无监督排名信息,在三种社交网络上显著提升链接预测性能,并探讨特征选择与参数估计,适用于大型网络的可调数量链接预测。
2025-03-29 cs.IR cs.LG cs.SI
Low-Rank Single-Index Bandits with Unknown Links: From Matrices to Tensors
本研究提出T-ESTOR和T-BSTOR算法,解决低秩矩阵与张量老虎机中未知奖励链接的问题,分别实现最优遗憾界,并通过实验验证了结构化估计的优势。
2026-09-29 cs.LG stat.ML
Pairwise Learning for Neural Link Prediction
WeChat Pay, Tencent(腾讯微信支付);WeChat Search, Tencent(腾讯微信搜索)
在本文中,我们的目标是提供一个有效的成对学习神经链接预测(PLNLP)框架。该框架将链接预测视为成对的学习排序问题,并且由四个主要组件组成,即,邻域编码器、链接预测器、负采样器和目标函数。该框架是灵活的,任何通用的图神经卷积或链接预测特定的神经结构可以被用作邻域编码器。对于链接预测器,我们设计了不同的评分函数,可以根据不同类型的图进行选择。在负采样器中,我们提供了几种采样策略,这些策略是针对具体问题的。至于目标函数,我们建议使用一个有效的排名损失,近似最大化的标准排名指标AUC。我们在Open Graph Benchmark的4个链接属性预测数据集上评估了所提出的PLNLP框架,包括ogbl-ddi,ogbl-collab,ogbl-ppa和ogbl-ciation 2。PLNLP在ogbl-ddi和ogbl-collab上实现了top 1性能,在ogbl-ciation 2上仅使用基本神经架构实现了top 2性能。性能证明了PLNLP的有效性。
2022-01-21 cs.AI cs.LG cs.SI
Neural graph embeddings as explicit low-rank matrix factorization for link prediction
Institute of Artificial Intelligence, Medical University of Vienna(维也纳医科大学人工智能研究所)
学习高质量的神经图嵌入一直是通过最小化模拟随机游动中同现节点的逐点互信息(PMI)来实现的。这种设计选择主要是通过直接应用非常成功的词嵌入算法word2vec来预测社交网络、共同引用网络和生物网络中新链接的形成而推广的。然而,这种拟态设计的图嵌入方法需要截断来自具有低PMI的节点对的信息。为了避免这个问题,我们提出了一种改进的方法来学习低秩分解嵌入,将信息从这样的不太可能的节点对,并表明它可以提高链接预测性能的基线方法从1.2%到24.2%。根据我们的结果和观察,我们概述了进一步的步骤,可以改善设计的下一个图嵌入算法的基础上矩阵分解。
2022-08-25 cs.AI cs.LG cs.NA
Multimodal Generative Engine Optimization: Rank Manipulation for Vision-Language Model Rankers
Georgetown University(乔治城大学);University of Southern California(南加州大学);University of Maryland, College Park(马里兰大学学院公园分校);Arizona State University(亚利桑那州立大学)
提出多模态生成式引擎优化(MGEO)方法,通过联合优化图像扰动和文本后缀,利用视觉-语言模型内部跨模态知识耦合,实现对产品排名的有效操纵,揭示了多模态基础模型知识基础的脆弱性。
2026-06-07 cs.AI cs.CL cs.LG
Higher-Order Ranking and Link Prediction: From Closing Triangles to Closing Higher-Order Motifs
Adobe Research(奥多比研究院);Intel Labs(英特尔研究院)
在本文中,我们介绍了模体封闭的概念,并描述了高阶排名和链接预测方法的基础上关闭高阶网络模体的概念。该方法对于实时排名和基于链接预测的应用(诸如web搜索、在线广告和推荐)是快速且有效的。在这些应用中,实时性能至关重要。所提出的方法不需要任何显式的训练数据,也不从图形数据导出嵌入,或执行任何显式学习。具有上述期望属性的现有方法都是基于闭合三角形(公共邻居,Jaccard相似性等)。在这项工作中,我们调查高阶网络图案和开发技术的基础上关闭高阶图案的概念,超越关闭简单的三角形。在这项工作中描述的所有方法都是快速的,运行时在节点数量上是次线性的。实验结果表明,关闭高阶模体的排名和链接预测应用的重要性。最后,所提出的高阶模体闭合的概念可以作为研究和开发更好的排名和链接预测方法的基础。
2019-06-12 cs.IR cs.LG cs.SI
Multi-Step Knowledge Interaction Analysis via Rank-2 Subspace Disentanglement
Department of Computer Science, University of Copenhagen, Copenhagen, Denmark(计算机科学系,哥本哈根大学,哥本哈根,丹麦)
本文提出一种秩-2子空间方法,用于多步分析NLE中的知识交互,揭示PK和CK在不同生成中的对齐特性。
2026-09-02 cs.AI cs.CL cs.LG
Predicting from a Different Perspective: A Re-ranking Model for Inductive Knowledge Graph Completion
The University of Electro-Communications(电气通信大学)
针对归纳式知识图谱补全场景下规则归纳模型因规则不同导致预测有差异的特性,提出重排序模型ReDistLP,利用初始检索器与重排器的预测差异提升效果,在2/3基准上超越现有最优方法。
2024-06-19 cs.LG
EdgeReMIND: A Scalable, Top-Ranked Memorization Baseline for Temporal Multi-Relational Link Prediction
Clemson University(克莱姆森大学)
EdgeReMIND提出一种线性记忆模型,在TGB 2.0基准上实现可扩展的时序多关系链接预测,在六个数据集上取得最高MRR,并成为唯一可运行于全部数据集的关系感知基线。
2026-09-17 cs.LG
LinkQ: An LLM-Assisted Visual Interface for Knowledge Graph Question-Answering
MIT Lincoln Laboratory(麻省理工学院林肯实验室);Tufts University(塔夫茨大学)
针对传统知识图谱查询需专业语言知识的局限,提出LinkQ系统,通过LLM辅助将自然语言问题转化为规范查询,支持问题迭代细化与探索分析,经定性研究验证其有效性并获从业者认可。
2025-02-10 cs.AI cs.CL cs.LG
Compact Factorization of Matrices Using Generalized Round-Rank
University of California(加利福尼亚大学);University of Washington(华盛顿大学)
矩阵分解是机器学习中一个研究得很好的任务,用于复杂地表示大的、有噪声的数据。在我们的方法中,而不是使用传统的矩阵秩的概念,我们定义了一个新的概念的链接秩的基础上使用的非线性链接函数的因式分解。特别地,通过在因子分解上应用轮函数来获得序值矩阵,我们引入了广义轮秩(GRR)。我们发现,不仅有许多满秩矩阵是低GRR,但进一步,这些矩阵不能很好地近似低秩线性分解。我们提供的唯一性条件,这个配方,并提供梯度下降为基础的算法。最后,我们在真实世界的数据集上进行了实验,以证明基于GRR的因子分解比线性因子分解更准确,同时收敛速度更快并使用较低的秩表示。
2018-05-01 cs.AI cs.LG stat.ML
Linking OpenStreetMap with Knowledge Graphs -- Link Discovery for Schema-Agnostic Volunteered Geographic Information
Leibniz Universität Hannover(莱布尼茨汉诺威大学);University of Bonn(波恩大学)
在流行的知识图谱(如Wikidata和DBpedia)中捕获的地理实体的表示通常是不完整的。OpenStreetMap(OSM)是一个丰富的公开可用的、自愿提供的地理信息源,具有很大的潜力来补充这些表示。然而,知识图谱实体和OSM节点之间的身份链接仍然很少。在这些设置中的链接发现的问题是特别具有挑战性的,由于缺乏一个严格的模式和异构性的用户定义的节点表示在OSM。在这篇文章中,我们提出了OSM 2KG-一种新的链接发现方法来预测身份OSM节点和地理实体之间的链接在知识图谱。OSM 2KG方法的核心是OSM节点的一种新的潜在的紧凑表示,它在嵌入中捕获语义节点相似性。OSM 2KG采用这种潜在表示来训练用于链接预测的监督模型,并利用OSM和知识图谱之间的现有链接进行训练。我们在几个OSM数据集,以及Wikidata和DBpedia知识图谱上进行的实验表明,OSM 2KG可以可靠地发现身份链接。OSM 2KG在Wikidata上的F1得分为92.05%,在DBpedia上的平均得分为94.17%,与表现最好的基线相比,维基数据上的F1得分增加了21.82个百分点。
2020-11-19 cs.LG cs.SI
Robust Knowledge Graph Completion with Stacked Convolutions and a Student Re-Ranking Network
Carnegie Mellon University(卡内基梅隆大学);University of Pittsburgh(匹兹堡大学);Microsoft Research(微软研究院)
知识图谱(KG)完成研究通常集中在密集连接的基准数据集,不代表真正的KG。我们策划了两个KG数据集,其中包括生物医学和儿科知识,并使用现有的常识KG数据集,以探索KG完成在更现实的设置,密集的连接是不能保证。我们开发了一个利用文本实体表示的深度卷积网络,并证明我们的模型在这种具有挑战性的环境中优于最近的KG完成方法。我们发现,我们的模型的性能改进主要源于它的鲁棒性稀疏。然后,我们将卷积网络中的知识提取到一个学生网络中,该网络对有希望的候选实体进行重新排名。这一重新排序阶段导致业绩的进一步改善,并证明了实体重新排序对幼儿园完成的有效性。
2021-06-11 cs.LG