Discriminative Probabilistic Models for Relational Data
Stanford University（斯坦福大学）
在许多监督学习任务中，待标记的实体以复杂的方式彼此相关，并且它们的标记不是独立的。例如，在超文本分类中，链接页面的标签高度相关。一种标准的方法是对每个实体独立分类，忽略它们之间的相关性。最近，概率关系模型，贝叶斯网络的关系版本，被用来定义一个联合概率模型的相关实体的集合。在本文中，我们提出了一个替代框架，建立在（条件）马尔可夫网络和解决以前的方法的两个局限性。首先，无向模型不施加非循环约束，这阻碍了有向模型中许多重要关系依赖的表示。其次，无向模型非常适合区分训练，在这种情况下，我们优化了给定特征的标签的条件似然，这通常会提高分类准确性。我们展示了如何有效地训练这些模型，以及如何使用近似概率推理的学习模型的集体分类的多个相关的实体。我们提供了一个网页分类任务的实验结果，表明可以显着提高准确性建模的关系依赖。
2012-12-12 cs.AI cs.LG stat.ML
GNBAN: Graph Neural Basis Attention Networks for Long-Horizon Forecasting over Large Entity Sets
Phi Labs, Quantiphi
提出GNBAN架构，通过异构图表示学习和可解释的基分解头，实现大规模零售需求预测，在M5和Favorita数据集上WRMSSE降低4-5%。
2026-06-29 cs.AI cs.LG
Out-of-Sample Representation Learning for Multi-Relational Graphs
Borealis AI（北极光人工智能）
许多重要的问题都可以用知识图谱来表示。表示学习已被证明对转换推理非常有效，在转换推理中，人们需要对已经观察到的实体做出新的预测。这对于属性图（其中每个实体都有一个初始特征向量）和非属性图（其中唯一的初始信息来自与其他实体的已知关系）都是如此。对于样本外推理，需要对训练时看不到的实体进行预测，许多先前的工作考虑了属性图。然而，令人惊讶的是，这个问题对于非属性图的探索不足。在本文中，我们研究了非属性知识图谱的样本外表示学习问题，为这项任务创建基准数据集，开发几个模型和基线，并提供实证分析和比较所提出的模型和基线。
2020-10-23 cs.AI cs.CL cs.LG
Semantic-Enhanced Relational Metric Learning for Recommender Systems
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）；School of Computer Science and Engineering, The University of New South Wales（新南威尔士大学计算机科学与工程学院）
针对推荐系统中隐式关系缺乏语义的问题，提出SERML框架，从评论提取语义信号并构建回归模型增强关系度量训练，在四个公开数据集上表现优于或可比现有方法。
2024-06-07 cs.AI cs.IR
Relational Graph Transformer
Stanford University（斯坦福大学）；NVIDIA
RelGT通过新颖的多元素分词策略，解决关系图中异构性、时效性和拓扑结构的编码问题，实现对关系数据的高效建模，优于GNN基线。
2026-02-05 cs.AI cs.DB cs.LG
Relation Prediction as an Auxiliary Training Objective for Improving Multi-Relational Graph Representations
University College London（伦敦大学学院）；Facebook AI Research（Facebook人工智能研究院）
学习多关系图上的良好表示对于知识库完成（KBC）至关重要。在本文中，我们提出了一个新的自监督训练目标的多关系图表示学习，通过简单地将关系预测到常用的1vsAll目标。新的训练目标不仅包含用于预测给定三元组的主体和客体的术语，而且还包含用于预测关系类型的术语。我们分析了这一新目标如何影响KBC中的多关系学习：在各种数据集和模型上的实验表明，关系预测可以显著提高实体排名，这是KBC最广泛使用的评估任务，在FB 15 k-237上，MRR增加6.1%，Hits@1增加9.9%，在FB-v4上，MRR增加3.1%，Hits@1增加3.4%。此外，我们观察到，所提出的目标是特别有效的高度多关系的数据集，即具有大量的谓词的数据集，并生成更好的表示时，使用较大的嵌入大小。
2021-10-06 cs.AI cs.CL
Jointly Learning Knowledge Embedding and Neighborhood Consensus with Relational Knowledge Distillation for Entity Alignment
Tsinghua University（清华大学）
实体对齐的目的是整合来自不同知识图谱的异构知识。最近的研究采用基于嵌入的方法，首先学习的知识图谱的表示，然后通过测量实体嵌入之间的相似性进行实体对齐。然而，由于学习知识嵌入和邻域一致性的不同目标导致的权衡问题，它们未能很好地利用关系语义信息。为了解决这个问题，我们提出了关系知识蒸馏实体对齐（RKDEA），图卷积网络（GCN）为基础的模型配备了知识蒸馏实体对齐。我们采用基于GCN的模型来学习实体的表示，考虑图的结构，并通过知识蒸馏将关系语义信息纳入GCN。然后，我们引入了一种新的自适应机制来传递关系知识，从而共同学习实体嵌入和邻域一致性。在多个基准数据集上的实验结果证明了该模型的有效性。
2022-01-25 cs.AI cs.CL cs.LG
RelBench: A Benchmark for Deep Learning on Relational Databases
Stanford University（斯坦福大学）；Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）
提出了 RelBench 基准，用于通过图神经网络解决关系数据库预测任务，并首次全面验证了关系深度学习（RDL）在减少人工特征工程的同时能学习到更优的预测模型。
2024-07-29 cs.AI cs.DB cs.LG
Towards Foundation Models for Relational Databases with Language Models and Graph Neural Networks
University of Stuttgart, Stuttgart, Germany（斯图加特大学）；Internet Science Research Group, University of Southampton, Southampton, United Kingdom（互联网科学研究组，南安普顿大学）
本文提出结合语言模型和图神经网络的混合架构，通过关系实体图建模提升关系数据库的预测性能，实验表明其在多个任务中表现优异，接近监督基线并缩小与RDL的差距。
2026-05-15 cs.AI cs.DB
r-GAT: Relational Graph Attention Network for Multi-Relational Graphs
Peking University（北京大学）
图注意力网络（GAT）专注于建模简单的无向和单一的关系图数据。这限制了它处理更一般和复杂的多关系图的能力，这些图包含具有不同标签的有向链接的实体（例如，知识图谱）。因此，直接将GAT应用于多关系图会导致次优解决方案。为了解决这个问题，我们提出了r-GAT，一个关系图注意力网络来学习多通道实体表示。具体地，每个通道对应于实体的潜在语义方面。这使我们能够使用关系特征来聚合当前方面的邻域信息。我们进一步提出了一个查询感知的注意力机制，为后续的任务选择有用的方面。在链接预测和实体分类任务上的大量实验表明，我们的r-GAT可以有效地建模多关系图。此外，我们通过案例研究表明我们的方法的可解释性。
2021-09-13 cs.AI cs.CL cs.LG
SketchGraphs: A Large-Scale Dataset for Modeling Relational Geometry in Computer-Aided Design
Princeton University（普林斯顿大学）；Columbia University（哥伦比亚大学）
参数化计算机辅助设计（CAD）是机械工程中物理设计的主要范例。与关系几何不同，参数化CAD模型开始时是由几何图元组成的二维草图（例如，线段，弧）和它们之间的显式约束（例如，巧合，巧合），形成了三维构造操作的基础。训练机器学习模型来推理和合成参数化CAD设计，有可能缩短设计时间，实现新的设计工作流程。此外，参数化CAD设计可以被视为约束编程的实例，它们为探索程序合成和归纳中的想法提供了一个范围很广的测试平台。为了促进这项研究，我们引入了SketchGraphs，这是一个从现实世界的CAD模型中提取的1500万张草图的集合，加上一个开放的源数据处理管道。每个草图表示为几何约束图，其中边表示设计者施加的图元（图的节点）之间的几何关系。我们演示并建立了数据集的两个用例的基准：草图的生成建模和无约束几何形状的可能约束的条件生成。
2020-07-16 cs.LG stat.ML
Relational Reflection Entity Alignment
East China Normal University（华东师范大学）；Alibaba Group（阿里巴巴集团）
实体对齐的目的是从不同的知识图谱中识别出等价的实体对，这对于集成多源知识图谱至关重要。最近，随着GNN引入实体对齐，最近模型的架构变得越来越复杂。我们甚至在这些方法中发现了两个违反直觉的现象：（1）GNN中的标准线性变换工作得不好。(2)许多为链接预测任务设计的高级KG嵌入模型在实体对齐方面表现不佳。在本文中，我们抽象现有的实体对齐方法到一个统一的框架，形状生成器和对齐，这不仅成功地解释了上述现象，并得出了两个关键的标准，一个理想的转换操作。此外，我们提出了一种新的基于GNNs的方法，关系反射实体对齐（RREA）。RREA利用关系反射转换以更有效的方式为每个实体获取特定于关系的嵌入。在真实世界数据集上的实验结果表明，我们的模型显著优于最先进的方法，在Hits@1上超过5.8%-10.9%。
2020-08-18 cs.CL cs.IR cs.LG
Multiple Heads are Better than One: Mixture of Modality Knowledge Experts for Entity Representation Learning
College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院）；ZJU-Ant Group Joint Lab of Knowledge Graph（浙江大学-蚂蚁集团知识图谱联合实验室）；Ant Group（蚂蚁集团）；School of Software Technology, Zhejiang University（浙江大学软件学院）；Zhejiang Key Laboratory of Big Data Intelligent Computing（浙江省大数据智能计算重点实验室）
针对多模态知识图谱补全中现有方法忽视关系语境下多视角特征的问题，提出模态知识专家混合框架MoMoK，通过关系引导专家获取自适应实体表示并解耦专家，在四个公开基准上取得优异性能。
2025-04-06 cs.AI cs.CL
Answering Visual-Relational Queries in Web-Extracted Knowledge Graphs
NEC Labs Europe（欧洲NEC实验室）；University of Alcalá（阿尔卡拉大学）
视觉关系知识图谱（KG）是其实体与图像相关联的多关系图。我们探索新的机器学习方法来回答网络提取的知识图谱中的视觉关系查询。为此，我们创建了ImageGraph，这是一个KG，包含1，330个关系类型，14，870个实体和829，931个从Web上抓取的图像。使用视觉关系KG（如ImageGraph），可以引入新的概率查询类型，其中图像被视为一等公民。不可见图像之间的关系预测以及多关系图像检索都可以用特定的视觉关系查询族来表示。我们引入卷积网络和知识图谱嵌入方法的新组合来回答此类查询。我们还探讨了一个零样本学习的情况下，一个全新的实体的图像与现有KG的实体的多个关系。所得到的将看不见的实体图像到知识图谱中的多关系基础用作语义实体表示。我们进行实验，以证明所提出的方法可以回答这些视觉关系查询有效和准确。
2019-05-03 cs.AI cs.LG
Modeling Relational Data with Graph Convolutional Networks
University of Amsterdam（阿姆斯特丹大学）；VU Amsterdam（阿姆斯特丹自由大学）；CIFAR（加拿大高等研究院）
知识图谱支持各种各样的应用，包括问答和信息检索。尽管在创建和维护方面投入了巨大的努力，但即使是最大的（例如，Yago、DBPedia或Wikidata）仍然不完整。我们介绍了关系图卷积网络（R-GCN），并将其应用于两个标准的知识库完成任务：链接预测（恢复丢失的事实，即主谓宾三元组）和实体分类（恢复丢失的实体属性）。R-GCN与最近一类在图上操作的神经网络相关，并且专门开发用于处理现实知识库的高度多关系数据特性。我们证明了R-GCN作为实体分类的独立模型的有效性。我们进一步表明，通过使用编码器模型来丰富它们，以在关系图中的多个推理步骤中积累证据，可以显着改进用于链接预测的因子分解模型（如DistMult），与仅解码器基线相比，FB 15 k-237有29.8%的大幅改进。
2017-10-26 cs.AI cs.DB cs.LG
DHGE: Dual-View Hyper-Relational Knowledge Graph Embedding for Link Prediction and Entity Typing
School of Computer Science, Beijing University of Posts and Telecommunications（北京邮电大学计算机学院）
提出双视图超关系知识图谱结构DH-KG及嵌入模型DHGE，首次定义链接预测和实体类型标注任务，构建两个数据集，实验表明模型优于基线，并应用于高血压治疗。
2023-03-31 cs.AI cs.CL cs.LG
Differentially Private Relational Learning with Entity-level Privacy Guarantees
Georgia Institute of Technology（佐治亚理工学院）；Purdue University（普渡大学）
本文提出了一种具有实体级差分隐私保证的关系学习框架，通过自适应梯度裁剪和隐私放大分析，实现对关系数据的隐私保护与模型训练的平衡。
2026-02-03 cs.CR cs.LG
Improving Hyper-Relational Knowledge Graph Completion
Carnegie Mellon University（卡内基梅隆大学）
与传统的知识图谱（KG）不同，其中事实被表示为实体-关系-实体三元组，超关系KG（HKG）允许三元组与额外的关系-实体对（也称为限定符）相关联以传达更复杂的信息。如何有效和高效地建模的三重限定符关系的预测任务，如HKG完成是一个开放的挑战的研究。本文提出通过引入两个新的修改来改进HKG完成中性能最好的方法，即STARE：（1）用轻量级实体/关系嵌入处理技术取代计算繁重的图神经网络模块，以在不牺牲有效性的情况下提高效率;（2）添加面向限定符的辅助训练任务，以提高我们的方法对HKG完成的预测能力。在我们对三个基准数据集的实验中，所提出的方法始终优于STARE，并显着提高了计算效率。
2021-04-16 cs.LG
Association Rules in the Relational Calculus
School of Computing Science（计算科学学院）；Simon Fraser University（西蒙弗雷泽大学）
最常用的数据采掘任务之一是寻找关联规则。关联规则表示事务中项目之间的重要关系。我们扩展了关联规则的概念，以表示更广泛的一类关联，我们称之为\emph{entity-relationship rules.}语义上，实体关系规则表示相关对象的属性之间的关联。从语法上讲，这些规则基于安全域关系演算查询的一个广泛子类。我们提出了一个新的定义支持和实体关系的规则和实体关系查询的频率的信心。我们证明了频率的定义满足标准概率公理和Apriori性质。
2007-10-10 cs.DB cs.LG cs.LO
HittER: Hierarchical Transformers for Knowledge Graph Embeddings
University of Virginia（弗吉尼亚大学）；Microsoft Research（微软研究院）；Microsoft Bing Ads（微软必应广告）
本文研究了在复杂的多关系知识图谱中学习实体和关系表示的挑战性问题。我们提出了HittER，一个分层的Transformer模型，共同学习基于源实体邻域的语义关系组合和关系上下文化。我们提出的模型由两个不同的Transformer块组成：底部块提取源实体的局部邻域中的每个实体-关系对的特征，顶部块从底部块的输出中聚合关系信息。我们进一步设计了一个掩码实体预测任务，以平衡来自关系上下文和源实体本身的信息。实验结果表明，HittER在多个链接预测数据集上取得了新的最先进的结果。此外，我们提出了一个简单的方法来集成HittER到BERT，并证明其有效性的两个Freebase的模拟问答数据集。
2021-10-06 cs.CL cs.LG
Few-shot Link Prediction on N-ary Facts
School of Computer Science and Technology, University of Chinese Academy of Sciences（中国科学院大学计算机科学与技术学院）；Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）
本文提出超关系事实上的少样本链接预测任务，并设计MetaRH模型，通过关系学习、支持集特定调整和查询推理三个模块从有限支持实例中捕获元关系信息，在三个新构建数据集上显著优于现有模型。
2024-04-02 cs.AI cs.IR cs.LG
Equivariant Entity-Relationship Networks
University of British Columbia（不列颠哥伦比亚大学）；McGill University（麦吉尔大学）；Mila（米拉研究所）
关系模型是大数据的普遍表示，部分原因是它在数据库中的广泛使用。在本文中，我们提出了等变的机密关系网络（EERN），这是一个多层感知器等变的对称变换的机密关系模型。为此，我们确定了最有表现力的线性映射，是完全等变的实体关系对称性的家庭，并进一步表明，他们subterranean最近推出的等变映射集，可交换张量，和图形。所提出的前馈层具有线性复杂度的数据，并可用于归纳和直推推理的关系数据库，包括数据库嵌入，和预测丢失的记录。这为将深度学习应用于最丰富的数据形式之一提供了原则性的理论基础。经验上，EERN优于不同的变种耦合矩阵张量分解在合成和真实数据的实验。
2020-06-05 cs.LG stat.ML
Large Language Models are Good Relational Learners
Stanford University（斯坦福大学）
本文提出Rel-LLM，通过GNN编码器在RAG框架内生成保留关系结构的提示，使LLM能有效推理实体关系，并在关键RDL任务上超越现有方法。
2025-06-06 cs.AI cs.CL cs.LG
A Relational Tucker Decomposition for Multi-Relational Link Prediction
University of Mannheim（曼海姆大学）
提出了一种用于知识图谱中多关系链接预测的关系塔克3（RT）分解方法。我们发现，许多现有的知识图谱嵌入模型是特殊情况下的RT分解与某些预定义的稀疏模式在其组件。与这些先前的模型相比，RT将实体和关系嵌入的大小合并，允许在关系之间共享参数，并且不使用预定义的稀疏模式。我们使用RT分解作为工具来探索自动学习稀疏模式是否可能和有益，以及密集模型是否可以优于稀疏模型（使用相同数量的参数）。我们的实验表明，根据数据集的不同，这两个问题都可以得到肯定的回答。
2019-02-03 cs.LG stat.ML
Link Prediction on N-ary Relational Data Based on Relatedness Evaluation
University of Chinese Academy of Sciences（中国科学院大学）；Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）
随着知识图（Knowledge Graphs，KG）的广泛应用，链接预测填补知识图中缺失的信息一直是研究者关注的焦点。然而，它们主要集中在二进制关系数据上的链接预测，其中事实通常以（头实体，关系，尾实体）的形式表示为三元组。在实践中，n元关系事实也无处不在。当遇到这样的事实，现有的研究通常分解成三元组，通过引入大量的辅助虚拟实体和额外的三元组。这些转换导致在n元关系数据上执行链接预测的复杂性。它甚至已经证明，它们可能会导致结构信息的丢失。为了克服这些问题，在本文中，我们表示每个n元的关系事实作为一组的角色和角色-值对。然后，我们提出了一种称为NaLP的方法进行链接预测的n元关系数据，显式模型的相关性的所有角色和角色-值对的n元关系事实。我们进一步扩展了NaLP，引入了角色和角色值的类型约束，而没有任何外部类型特定的监督，并提出了一个更合理的负采样机制。实验结果验证了所提方法的有效性和优越性。
2021-04-21 cs.AI cs.CL cs.LG
Multi-relational Poincaré Graph Embeddings
University of Edinburgh（爱丁堡大学）；Samsung AI Centre（三星人工智能中心）
双曲嵌入最近在机器学习中受到关注，因为它们能够比它们的欧几里得类似物更准确和简洁地表示分层数据。然而，多关系知识图谱往往表现出多个同时的层次结构，目前的双曲线模型没有捕捉。为了解决这个问题，我们提出了一个模型，嵌入多关系图数据的庞加莱球模型的双曲空间。我们的多关系庞加莱模型（MuRP）通过莫比乌斯矩阵向量乘法和莫比乌斯加法来学习特定于关系的参数来转换实体嵌入。在WN18 RR知识图谱上的实验表明，本文提出的Poincaré嵌入方法在链接预测任务上的性能优于欧氏嵌入方法和现有的嵌入方法，特别是在低维情况下.
2019-10-27 cs.LG stat.ML
kLog: A Language for Logical and Relational Learning with Kernels
Università degli Studi di Firenze（佛罗伦萨大学）；KU Leuven（鲁汶大学）；Albert-Ludwigs-Universität（阿尔伯特-路德维希大学）
我们介绍kLog，一种新的统计关系学习方法。与标准方法不同，kLog不直接表示概率分布。它更像是一种在表达性逻辑和关系表示上执行基于内核的学习的语言。kLog允许用户以声明的方式指定学习问题。它建立在简单但强大的概念上：从解释中学习，实体/关系数据建模，逻辑编程和演绎数据库。内核对丰富表示的访问是通过一种我们称为图形化的技术来进行的：关系表示首先被转换成一个图-特别是一个接地的实体/关系图。随后，图核的选择定义特征空间。kLog支持混合的数字和符号数据，以及以Prolog或Datalog程序形式存在的背景知识，如归纳逻辑程序设计系统。kLog框架可以应用于处理使统计关系学习如此流行的相同范围的任务，包括分类，回归，多任务学习和集体分类。我们还报告了经验比较，表明kLog可以更准确，或者在相同的精度水平下比Tilde和Alchemy快得多。kLog是GPL v3许可的，可在http://klog.dinfo.unifi.it上获得，并附有教程。
2014-07-28 cs.AI cs.LG cs.PL
TeRoR: Decoupled Temporal Rotation with Relational Circular Region for Temporal Knowledge Graph Embedding
South China Normal University（华南师范大学）
针对TeRo模型在关系映射特性和时间信息表达上的不足，提出TeRoR方法，通过解耦实体嵌入的时间演化、独立旋转头尾实体增强时间建模，并利用半径约束头实体在尾实体圆形区域内以捕捉关系映射特性，在四个数据集上取得竞争性能。
2026-06-29 cs.LG
Mitigating Relational Bias on Knowledge Graphs
Rice University（莱斯大学）；Texas A&M University（得克萨斯农工大学）
知识图谱数据在实际应用中非常普遍，知识图谱神经网络（KGNNs）是知识图谱表示学习的基本技术。虽然KGNN有效地模拟了来自知识图谱的结构信息，但这些框架放大了潜在的数据偏见，导致在最终的应用程序中对某些群体或个人的歧视。此外，由于现有的去偏置方法主要集中在实体方面的偏差，消除普遍存在于知识图谱中的多跳关系偏差仍然是一个悬而未决的问题。然而，由于产生偏差的路径的稀疏性和知识图谱的非线性邻近结构，消除关系偏差是非常具有挑战性的。为了应对这些挑战，我们提出了Fair-KGNN，一个KGNN框架，同时消除多跳偏差，并保留知识图谱中实体到关系的邻近信息。所提出的框架是可推广的，以减轻所有类型的KGNN的关系偏差。我们开发了两个实例的公平KGNN结合两个国家的最先进的KGNN模型，RGCN和CompGCN，以减轻性别职业和国籍工资偏见。在三个基准知识图谱数据集上进行的实验表明，Fair-KGNN可以有效地减轻表示学习过程中的不公平情况，同时保持KGNN模型的预测性能。
2022-12-03 cs.AI cs.CY cs.LG
Learning Multi-Relational Semantics Using Neural-Embedding Models
Cornell University（康奈尔大学）；Microsoft Research（微软研究院）
在本文中，我们提出了一个统一的框架，建模多关系表示，评分和学习，并进行了实证研究，最近的几个多关系嵌入模型的框架下。我们研究了基于线性和双线性变换的关系运算符的不同选择，以及通过合并在额外文本资源上预训练的无监督向量来实现实体表示的效果。我们的研究结果显示了几个有趣的发现，使一个简单的嵌入模型的设计，实现了新的国家的最先进的性能在Freebase上评估的一个流行的知识库完成任务。
2014-11-14 cs.CL cs.LG stat.ML
Composition-based Multi-Relational Graph Convolutional Networks
Indian Institute of Science（印度科学学院）；Carnegie Mellon University（卡内基梅隆大学）；Columbia University（哥伦比亚大学）
图卷积网络（GCN）最近被证明是非常成功的建模图结构的数据。然而，主要的焦点是处理简单的无向图。多关系图是一种更普遍和流行的图，其中每个边都有一个标签和方向与之相关联。大多数现有的方法来处理这类图遭受过度参数化，并仅限于学习节点的表示。在本文中，我们提出了CompGCN，一种新的图卷积框架，它联合嵌入节点和关系图中的关系。CompGCN利用来自知识图谱嵌入技术的各种实体-关系组合操作，并随关系的数量而缩放。它还推广了现有的几个多关系GCN方法。我们评估我们提出的方法在多个任务，如节点分类，链接预测，和图形分类，并取得了明显的优越的结果。我们提供CompGCN的源代码，以促进可重复的研究。
2020-01-18 cs.LG stat.ML
Biquaternionic Space with Complex-valued Attention for Temporal Knowledge Graph Completion
University of Chinese Academy of Sciences（中国科学院大学）
提出BSCA模型，在双四元数空间中结合圆与双曲旋转，用复值注意力动态融合实体表示，在GDELT等基准上显著提升时序知识图谱补全性能。
2026-09-15 cs.AI cs.LG
Multi-view Knowledge Graph Embedding for Entity Alignment
Nanjing University（南京大学）；University of California, Los Angeles（加州大学洛杉矶分校）
研究了基于嵌入的知识图谱实体对齐问题。以前的工作主要集中在实体的关系结构。一些进一步结合另一种类型的特征，例如属性，用于细化。然而，大量的实体特征仍然没有被探索或没有被平等地对待在一起，这削弱了基于嵌入的实体对齐的准确性和鲁棒性。在本文中，我们提出了一个新的框架，统一实体的多个视图来学习嵌入实体对齐。具体来说，我们嵌入实体的基础上的实体名称，关系和属性的意见，与几个组合策略。此外，我们设计了一些跨KG推理方法，以提高两个KG之间的对齐。我们在真实世界数据集上的实验表明，该框架显着优于最先进的基于嵌入的实体对齐方法。选择的观点、跨KG推理和组合策略都有助于绩效的提高。
2019-06-06 cs.AI cs.CL cs.LG
Towards Heterogeneous Multi-Agent Reinforcement Learning with Graph Neural Networks
FEI University Center（FEI大学中心）
这项工作提出了一种神经网络架构，可以在异构多代理强化环境中学习多个代理类的策略。该网络使用有向标记图表示状态，为不同的实体类编码不同大小的特征向量，使用关系图卷积层来模拟实体类型之间的不同通信通道，并为不同的代理类学习不同的策略，尽可能共享参数。结果表明，专门的实体类之间的通信通道是一个有前途的一步，以实现更高的性能，在环境中组成的异构实体。
2020-10-20 cs.AI cs.LG
Context Window Failures in Relational Foundation Models
Kunumi Institute（库纳米研究所）；Universidade Federal de Minas Gerais（米纳斯吉拉斯联邦大学）
研究发现现有关系基础模型处理高基数关系数据时存在上下文窗口失效问题，在合成金融数据集Animus上，经简单时间预聚合可显著提升模型预测客户收入的R²值。
2026-09-02 cs.LG
Relational Graph Convolutional Neural Networks for Multihop Reasoning: A Comparative Study
University of Cambridge（剑桥大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
多跳问答是一个复杂的自然语言处理任务，需要多个推理步骤来找到给定问题的正确答案。以前的研究已经探索了使用基于图神经网络的模型来解决这一任务。已经提出了各种架构，包括关系图卷积网络（RGCN）。对于这些许多节点类型和它们之间的关系已经被引入，例如简单的实体同现，建模共引用，或通过中间实体从问题到答案的“推理路径”。然而，关于哪些关系、节点类型、嵌入和架构对这项任务最有益的深入分析仍然缺失。在本文中，我们探索了一些基于RGCN的多跳QA模型，图关系和节点嵌入，并实证探索每个对WikiHop数据集上的多跳QA性能的影响。
2022-10-13 cs.AI cs.CL cs.LG
Learning Hidden Structures with Relational Models by Adequately Involving Rich Information in A Network
有效地对网络中的隐藏结构进行建模是非常实用的，但在理论上具有挑战性。现有的关系模型只涉及非常有限的信息，即二进制有向链接数据，嵌入在网络中学习隐藏的网络结构。还有其他丰富而有意义的信息（例如，实体的各种属性和比诸如“喜欢”或“不喜欢”之类的二进制元素更细粒度的信息）被遗漏，这在形成和理解网络中的关系中起着关键作用。在这项工作中，我们提出了一个信息关系模型（InfRM）框架，充分涉及丰富的信息和粒度在网络中，包括元数据信息的每个实体和各种形式的链接数据。首先，对关系模型MMSB和LFRM的先验信息采用一种有效的元数据信息合并方法。这是为了鼓励具有相似元数据信息的实体具有相似的隐藏结构。其次，我们提出了各种解决方案，以满足替代形式的链接数据。已经作出了大量的努力，以模拟适当性和效率，例如，使用共轭先验。我们在不同的数据集上评估了我们的框架及其推理算法，这表明了我们的模型在捕获网络中隐式结构方面的通用性和有效性。
2013-10-06 cs.LG cs.SI stat.ML
Bridging Text and Knowledge with Multi-Prototype Embedding for Few-Shot Relational Triple Extraction
Zhejiang University（浙江大学）；AZFT Joint Lab for Knowledge Engine（AZFT知识引擎联合实验室）；Alibaba Group（阿里巴巴集团）
目前的监督关系三元组提取方法需要大量的标记数据，因此在Few-Shot设置中性能较差。然而，人们可以通过学习一些实例来掌握新知识。为此，我们采取的第一步，研究Few-Shot关系三元组提取，这还没有得到很好的理解。与以前的单任务Few-Shot问题不同，关系三元组提取更具挑战性，因为实体和关系具有隐式相关性。本文提出了一种新的多原型嵌入网络模型，用于联合提取关系三元组的组成，即实体对和对应关系。具体而言，我们设计了一个混合原型学习机制，桥梁文本和知识的实体和关系。因此，实体和关系之间的隐式相关性被注入。此外，我们还提出了一个原型感知的正则化来学习更多有代表性的原型。实验结果表明，该方法可以提高Few-Shot三重提取的性能。
2020-10-30 cs.AI cs.CL cs.DB
Poisson-Gamma Modeling of Inter-Relational Dependencies in Dynamic Knowledge Graphs
Tsinghua University（清华大学）；Guangdong Provincial Key Laboratory of Mathematical and Neural Dynamical Systems（广东省数学与神经动力学系统重点实验室）
针对动态知识图谱的时间和关系依赖建模难题，提出PGRE模型，用泊松-伯努利公式表示多关系时间链接，引入伽马分布潜变量，通过伽马马尔可夫过程建模潜变量时间演化，实验表明该模型在链接预测上性能良好。
2026-07-07 cs.LG
Infinite Hidden Relational Models
在许多情况下，对关系进行对称建模是有意义的，而不意味着任何特定的方向性。考虑推荐系统的经典示例，其中用户对项目的评级应该对称地取决于用户和项目的属性。（已知）关系的属性也与预测实体的属性和预测新关系的属性相关。在推荐系统中，关系属性的利用通常被称为协同过滤。同样，在许多应用中，人们可能更喜欢以对称的方式来模拟协作效果。本文提出了一个完全对称的关系模型。关键的创新是，我们为每个实体（或对象）引入一个无限维的潜变量作为狄利克雷过程（DP）模型的一部分。我们讨论了模型中的推断，该模型基于DP Gibbs采样器，即，中国餐馆的过程。我们将中国餐馆的过程扩展到关系建模。我们的方法是在三个应用程序进行评估。一个是基于MovieLens数据集的推荐系统。第二个应用是利用多关系模型对KDD Cup 2001的数据集进行酵母基因/蛋白质功能的预测。第三个应用涉及关系医学领域。实验结果表明，我们的模型给出了显着改善的属性描述的关系或复杂的关系模型中的实体的估计。
2012-06-27 cs.AI cs.DB cs.LG
Learning Relational Tabular Data without Shared Features
National University of Singapore（新加坡国立大学）；Institute of Data Science, National University of Singapore（新加坡国立大学数据科学研究院）；Department of Computer Science, National University of Singapore（新加坡国立大学计算机学院）；Department of Mathematics, National University of Singapore（新加坡国立大学数学学院）
针对关系型表格跨表学习中无共享特征、无预对齐数据的挑战，提出Leal框架，通过软对齐机制和可微分聚类采样器实现有效训练，在真实与合成数据集上预测性能较最优方法提升达26.8%。
2025-02-14 cs.AI cs.LG
Relational Learning in Pre-Trained Models: A Theory from Hypergraph Recovery Perspective
School of Intelligence Science and Technology, Peking University（北京大学智能科学与技术学院）；Institute for Artificial Intelligence, Peking University（北京大学人工智能研究院）；Pazhou Laboratory (Huangpu)（琶洲实验室（黄埔））；University of Illinois Chicago（芝加哥大学伊利诺伊分校）
本文提出将关系学习形式化为超图恢复的数学框架，分析预训练模型恢复世界关系结构的可行性与极小极大近最优数据效率，并扩展至多模态实体对齐。
2024-06-17 cs.AI cs.LG
Inter-domain Multi-relational Link Prediction
Kyoto University（京都大学）；Fujitsu Research, Fujitsu Ltd.（富士通研究，富士通有限公司）
多关系图是一种普遍而重要的数据结构，它允许灵活地表示实体之间的多种类型的交互和关系。与其他图结构数据类似，链接预测是多关系图上最重要的任务之一，通常用于知识补全。当相关图共存时，通过集成较小的图来构建较大的图是非常有益的。集成需要预测属于不同图的实体之间的隐藏关系连接（域间链接预测）。然而，这对仅为同一图的实体之间的链接预测专门设计的现有方法（域内链接预测）提出了真正的挑战。在这项研究中，我们提出了一种新的方法来解决域间链接预测问题，软对齐不同域之间的实体分布与最佳的运输和最大平均差异正则化。在真实世界数据集上的实验表明，最优传输正则化器是有益的，并大大提高了基线方法的性能。
2021-07-09 cs.LG
Relational Multi-Agent Reinforcement Learning for Dynamic Pricing in High-Speed Railway Markets
Department of Technologies and Information Systems, Universidad de Castilla-La Mancha（卡斯蒂利亚-拉曼恰大学技术与信息系统系）；Warwick Manufacturing Group, University of Warwick（华威大学华威制造集团）
针对高铁市场部分可观测、禁直接通信的动态定价难题，提出实体图建模与改进多智能体强化学习算法，较基线方法提升收益与稳定性。
2026-07-07 cs.AI cs.LG cs.MA
MRC-GAT: A Meta-Relational Copula-Based Graph Attention Network for Interpretable Multimodal Alzheimer's Disease Diagnosis
Razi University（拉齐大学）
MRC-GAT通过元关系耦合和多关系注意力机制，实现多模态阿尔茨海默病诊断的高精度与可解释性。
2026-02-17 cs.AI cs.LG q-bio.QM
TransGCN:Coupling Transformation Assumptions with Graph Convolutional Networks for Link Prediction
University of California, Santa Barbara（加州大学圣巴巴拉分校）
链接预测是统计关系学习中一个重要且经常被研究的任务，它有助于理解知识图谱（KG）的结构。受图卷积网络（GCN）在图形数据建模方面的成功启发，我们提出了一个统一的GCN框架，名为TransGCN，以解决这一任务，其中关系和实体嵌入同时学习。为了处理KG中的异构关系，我们引入了一种新的方式表示异构邻域通过引入转换假设的主题，关系，和对象的三元组之间的关系。具体来说，关系被视为将头实体转换为尾实体的转换运算符。在我们的框架中，transE的平移假设和旋转假设RotatE的探索。另外，代替仅学习基于卷积的编码器中的实体嵌入，同时学习解码器中的关系嵌入，如由现有技术的模型所完成的，例如，R-GCN，TransGCN框架在图卷积操作期间同时训练关系嵌入和实体嵌入，因此与R-GCN相比具有更少的参数。实验表明，我们的模型优于最先进的方法在FB 15 K-237和WN 18 RR。
2019-10-01 cs.CL cs.LG stat.ML
IRG: Modular Synthetic Relational Database Generation with Complex Relational Schemas
University of Illinois, Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；National University of Singapore（新加坡国立大学）
IRG提出一种模块化框架，通过学习关系连接上下文生成合成关系数据库，有效处理复杂关系模式和数据相关性。
2025-12-14 cs.DB cs.LG
Two-dimensional Taxonomy for N-ary Knowledge Representation Learning Methods
University of Rouen Normandy（诺曼底大学）；Nokia Bell Labs（诺基亚贝尔实验室）；Télécom Paris, Institut Polytechnique de Paris（巴黎电信学院，巴黎理工学院）
本文提出一种二维分类法，系统综述了静态知识超图和超关系知识图谱的表示学习方法，涵盖五类模型及角色感知分类，并总结基准与挑战。
2026-09-09 cs.LG
SNAP-KG: Streaming Node Assignment via Projection for Knowledge Graph Entity Integration
Rensselaer Polytechnic Institute（伦斯勒理工学院）
该研究提出SNAP-KG框架，通过训练投影器实现流式知识图谱实体的快速分配，在多个基准数据集和生产级KG上实现推理速度大幅提升与候选搜索范围显著缩小。
2026-08-27 cs.LG
Pseudo-Label Calibration Semi-supervised Multi-Modal Entity Alignment
Renmin University of China（中国人民大学）
针对半监督多模态实体对齐中的模态噪声与标签利用不足问题，提出 PCMEA，通过多模态特征编码、互信息最大化去噪及伪标签校准动量对比学习，在两个数据集上达到 SOTA。
2024-03-02 cs.CL cs.DB cs.LG
Local Embeddings for Relational Data Integration
EURECOM（欧洲通信学院）；QCRI, HBKU（哈马德·本·哈利法大学卡塔尔计算研究所）
基于深度学习的技术最近已经被用于数据集成问题，并取得了令人鼓舞的结果。一些方法直接使用在维基百科等大型语料库上训练的预训练嵌入。但是，对于具有自定义词汇表的企业数据集，它们可能并不总是合适的选择。其他方法采用来自自然语言处理的技术来获得企业关系数据的嵌入。然而，这种方法盲目地将元组视为句子，从而丢失了元组中存在的大量上下文信息。我们提出了算法，获得本地嵌入，有效的数据集成任务的关系数据库。我们做出了四项重大贡献。首先，我们描述了一个紧凑的基于图的表示，允许在关系世界中固有的丰富的关系集的规范。其次，我们提出了如何从这样的图中导出句子，有效地“描述”两个数据集中的元素（令牌，属性，行）之间的相似性。嵌入是基于这样的句子学习的。第三，我们提出了有效的优化，以提高学习嵌入的质量和集成任务的性能。最后，我们提出了一系列不同的标准来评估关系嵌入，并进行了一系列广泛的实验，验证它们对多个基线方法。我们的实验表明，我们的框架，EmbDI，产生有意义的结果，数据集成任务，如模式匹配和实体分辨率在监督和无监督的设置。
2020-09-03 cs.CL cs.DB cs.LG
Auto-Tables: Synthesizing Multi-Step Transformations to Relationalize Tables without Using Examples
Georgia Tech（佐治亚理工学院）；Microsoft Research（微软研究院）
Auto-Tables系统自动合成多步变换流水线，将非关系表转换为标准关系表，无需用户示例或编程，在244个真实测试用例上以交互速度成功处理超过70%的用例。
2023-08-09 cs.DB cs.LG
