TeRoR: Decoupled Temporal Rotation with Relational Circular Region for Temporal Knowledge Graph Embedding
South China Normal University(华南师范大学)
针对TeRo模型在关系映射特性和时间信息表达上的不足,提出TeRoR方法,通过解耦实体嵌入的时间演化、独立旋转头尾实体增强时间建模,并利用半径约束头实体在尾实体圆形区域内以捕捉关系映射特性,在四个数据集上取得竞争性能。
2026-06-29 cs.LG
A Relational Tucker Decomposition for Multi-Relational Link Prediction
University of Mannheim(曼海姆大学)
提出了一种用于知识图谱中多关系链接预测的关系塔克3(RT)分解方法。我们发现,许多现有的知识图谱嵌入模型是特殊情况下的RT分解与某些预定义的稀疏模式在其组件。与这些先前的模型相比,RT将实体和关系嵌入的大小合并,允许在关系之间共享参数,并且不使用预定义的稀疏模式。我们使用RT分解作为工具来探索自动学习稀疏模式是否可能和有益,以及密集模型是否可以优于稀疏模型(使用相同数量的参数)。我们的实验表明,根据数据集的不同,这两个问题都可以得到肯定的回答。
2019-02-03 cs.LG stat.ML
Query Embedding on Hyper-relational Knowledge Graphs
Vrije Universiteit Amsterdam(阿姆斯特丹自由大学);Elsevier(爱思唯尔);LMU Munich(慕尼黑大学);Mila(米拉研究所);McGill University(麦吉尔大学)
多跳逻辑推理是知识图谱(KG)上的表示学习领域中的既定问题。它包含单跳链接预测以及其他更复杂类型的逻辑查询。现有的算法只在经典的,基于三元组的图上操作,而现代KG通常采用超关系建模范式。在这个范例中,类型化的边可能有几个键值对,称为限定符,为事实提供细粒度的上下文。在查询中,此上下文修改关系的含义,并且通常减少答案集。超关系查询经常在现实世界的KG应用程序中观察到,现有的近似查询回答方法不能使用限定符对。在这项工作中,我们弥合了这一差距,并将多跳推理问题扩展到超关系KG,以解决这种新型的复杂查询。基于图神经网络和查询嵌入技术的最新进展,我们研究了如何嵌入和回答超关系合取查询。除此之外,我们提出了一种方法来回答这样的查询,并在我们的实验中证明,限定符提高查询回答不同的查询模式。
2022-09-06 cs.AI cs.DB cs.IR
HEHRGNN: A Unified Embedding Model for Knowledge Graphs with Hyperedges and Hyper-Relational Edges
organization= Department of Computer Science;Engineering Indian Institute of Technology Palakkad , country= India
HEHRGNN是一种统一的嵌入模型,用于处理具有超边和超关系边的n-元关系知识图谱,通过统一的事实表示格式和新型消息传播模型,提升链接预测性能。
2026-02-21 cs.AI cs.LG
Multi-Relational Knowledge Graph Enhanced Embedding for Trajectory-User Linking
the College of Information, Mechanical and Electrical Engineering, Shanghai Normal University(上海师范大学信息与机电工程学院);Shanghai Urban-Rural Construction & Transportation Development Institute(上海城乡建设与交通发展研究院);Zhongke Zidong Information Technology(中科紫东信息技术(北京)有限公司)
MakeTUL首次将知识图谱表示学习引入TUL,通过多关系移动知识图谱和双分支分类层,解决现有TUL方法特征利用不足等问题,提升轨迹用户链接性能。
2026-08-11 cs.CV cs.LG
Hierarchical Attention Models for Multi-Relational Graphs
University of California, Los Angeles(加州大学洛杉矶分校)
该研究提出结合双层注意力与关系图卷积的BR-GCN模型,将Transformer和GAT注意力拓展到大规模异构图,在节点分类、链路预测任务上性能优于现有基线,且具备可扩展性。
2024-04-14 cs.LG
Reducing Over-smoothing in Graph Neural Networks Using Relational Embeddings
University of Amsterdam(阿姆斯特丹大学)
图神经网络(GNN)在处理图结构数据方面取得了很大的成功。然而,据观察,GNN的性能不会随着层数的增加而改善(甚至恶化)。这种效应被称为过度平滑,这意味着当堆叠多个层时,不同类的图节点的表示将变得无法区分。在这项工作中,我们提出了一种新的简单而有效的方法,通过显式地使用节点嵌入之间的关系来减轻GNNs中过度平滑问题的影响。在真实世界数据集上的实验表明,利用节点嵌入关系使GNN模型(如图注意力网络)对过度平滑更具鲁棒性,并在更深的GNN中实现更好的性能。我们的方法可以与其他方法结合使用,以获得最佳性能。GNN应用程序是无止境的,取决于用户的目标和他们拥有的数据类型。解决过度平滑问题可以潜在地提高模型在所有这些任务上的性能。
2023-01-07 cs.AI cs.LG
Neuro-Relational Programs: Unifying Queries and Neural Computation over Structured Data
ILLC, University of Amsterdam(伊拉斯谟罗素学院,阿姆斯特丹大学);Leipzig University(莱比锡大学);ScaDS.AI Center(ScaDS.AI研究中心);Technion(技术学院);RelationalAI(关系AI)
提出神经关系程序(NRP),一种扩展Datalog规则的声明式查询语言,通过嵌入操作融合关系推理与可学习神经组件,实现关系数据上的通用神经计算。
2026-10-16 cs.CC cs.DB cs.LG
Transductive Data Augmentation with Relational Path Rule Mining for Knowledge Graph Embedding
Tokyo Institute of Technology(东京工业大学);Chiba Institute of Technology(千叶工业大学);Riken AIP(日本理化学研究所人工智能项目);Nara Institute of Science & Technology(奈良先端科学技术大学)
对于知识图谱的完备化,存在两种主要类型的预测模型:一种基于图嵌入,另一种基于关系路径规则归纳。它们有不同的优点和缺点。为了利用这两种类型,最近已经提出了混合模型。混合模型之一UniKER通过关系路径规则交替地增加训练数据并训练嵌入模型。尽管它的预测精度很高,但它并没有充分利用关系路径规则,因为它忽略了低置信度规则,以保持增强数据的质量。为了缓解这一限制,我们提出了通过关系路径规则和增强数据的基于置信度的权重的转换数据增强。结果和分析表明,我们提出的方法有效地提高了嵌入模型的性能,通过增加数据,包括真正的答案或类似的实体。
2021-11-01 cs.CL cs.IR cs.LG
HittER: Hierarchical Transformers for Knowledge Graph Embeddings
University of Virginia(弗吉尼亚大学);Microsoft Research(微软研究院);Microsoft Bing Ads(微软必应广告)
本文研究了在复杂的多关系知识图谱中学习实体和关系表示的挑战性问题。我们提出了HittER,一个分层的Transformer模型,共同学习基于源实体邻域的语义关系组合和关系上下文化。我们提出的模型由两个不同的Transformer块组成:底部块提取源实体的局部邻域中的每个实体-关系对的特征,顶部块从底部块的输出中聚合关系信息。我们进一步设计了一个掩码实体预测任务,以平衡来自关系上下文和源实体本身的信息。实验结果表明,HittER在多个链接预测数据集上取得了新的最先进的结果。此外,我们提出了一个简单的方法来集成HittER到BERT,并证明其有效性的两个Freebase的模拟问答数据集。
2021-10-06 cs.CL cs.LG
RotatE: Knowledge Graph Embedding by Relational Rotation in Complex Space
Peking University(北京大学);Université de Montréal(蒙特利尔大学);Mila-Quebec Institute for Learning Algorithms(米拉-魁北克学习算法研究所);HEC Montréal(蒙特利尔高等商学院)
我们研究的问题,学习表示的实体和关系的知识图谱预测丢失的链接。这种任务的成功在很大程度上依赖于建模和推断关系(或关系之间)的模式的能力。在本文中,我们提出了一种新的知识图谱嵌入方法称为RotatE,它能够建模和推断各种关系模式,包括:对称/反对称,反转,和组合。具体来说,RotatE模型将每个关系定义为复向量空间中从源实体到目标实体的旋转。此外,我们还提出了一种新的自对抗负采样技术,用于有效地训练RotatE模型。在多个基准知识图谱上的实验结果表明,所提出的RotatE模型不仅具有良好的可扩展性,而且能够对各种关系模式进行推理和建模,并在链接预测方面明显优于现有的最新模型.
2019-02-26 cs.CL cs.LG stat.ML
Self-Aware Vector Embeddings for Retrieval-Augmented Generation: A Neuroscience-Inspired Framework for Temporal, Confidence-Weighted, and Relational Knowledge
Principal Consultant, CMC APAC(CMC APAC 主任顾问)
本文提出SmartVector框架,通过引入时间意识、置信度衰减和关系意识,改进检索增强生成系统,提升准确性与鲁棒性。
2026-04-22 cs.CL cs.DB cs.IR
Multi-Relational Graph Neural Network for Out-of-Domain Link Prediction
Universitá di Pisa(比萨大学);H&M Group(H&M集团)
针对动态多关系图中的域外链接预测任务,提出GOOD模型,通过解耦关系嵌入混合比例实现泛化,在零售领域基准上取得最优结果。
2024-03-17 cs.AI cs.LG
SGHormer: An Energy-Saving Graph Transformer Driven by Spikes
Sun Yat-sen University(中山大学)
针对图Transformer高能耗与计算开销问题,提出基于脉冲的图Transformer模型SGHormer,通过将全精度嵌入转化为稀疏二值化脉冲并设计脉冲自注意力与校正模块,在保持性能的同时大幅降低计算能耗。
2024-03-26 cs.AI cs.LG cs.NE
Reinforced Neighborhood Selection Guided Multi-Relational Graph Neural Networks
Beihang University(北京航空航天大学);University of Illinois at Chicago(伊利诺伊大学芝加哥分校);University of Leeds(利兹大学)
图神经网络(GNN)已被广泛用于各种结构化图数据的表示学习。虽然很有前途,但大多数现有的GNN过度简化了图中边的复杂性和多样性,因此无法有效地处理普遍存在的异构图,这些异构图通常是多关系图表示的形式。在本文中,我们提出了RioGNN,一种新的加强,递归和灵活的邻域选择引导的多关系图神经网络架构,导航复杂的神经网络结构,同时保持关系依赖的表示。首先根据实际任务构造一个多关系图,反映节点、边、属性和标签的异构性。为了避免不同类型节点之间的嵌入过度同化,我们采用了一种标签感知的神经相似性度量来确定基于节点属性的最相似邻居。一个增强的关系感知的邻居选择机制,选择最相似的邻居的目标节点在一个关系,然后聚合所有的邻居信息从不同的关系,以获得最终的节点嵌入。特别地,为了提高邻居选择的效率,我们提出了一种新的递归和可扩展的强化学习框架,具有可估计的深度和宽度的不同规模的多关系图。RioGNN可以通过过滤阈值机制识别每个关系的个体重要性,从而学习更多有区别的节点嵌入,增强了可解释性。在真实图数据和实际任务上的综合实验表明,与其他比较GNN模型相比,该模型在有效性、效率和模型可解释性方面都有很大的进步。
2021-10-05 cs.LG cs.SI
Understanding the Embedding Models on Hyper-relational Knowledge Graph
Southeast University(东南大学);The Hong Kong Polytechnic University(香港理工大学);Tencent(腾讯)
本文通过分解方法评估经典KGE模型在超关系知识图谱上的表现,发现其可与专用模型媲美,并揭示现有HKGE模型的不足,进而提出FormerGNN框架以保留拓扑、捕获长程依赖并整合信息,实验证明其性能优越。
2025-08-05 cs.CL cs.LG cs.SI
Enhancing Embedding Representations of Biomedical Data using Logic Knowledge
University of Siena(锡耶纳大学)
知识图谱嵌入(KGE)已经成为一种非常流行的模型,专门设计用于处理本体和图结构数据,因为它们可以隐式地编码潜在空间中实体和关系之间的统计依赖关系。KGE技术对于生物医学领域特别有效,在生物医学领域中,处理生物和化学对象之间的复杂相互作用的大知识图谱是非常常见的。最近在文献中,PharmKG数据集已被提出作为最具挑战性的知识图谱生物医学基准之一,具有基因,疾病和化学品之间的数十万个关系事实。尽管KGE可以扩展到非常大的关系域,但它们通常无法表示事实之间更复杂的关系依赖关系,如逻辑规则,这可能是复杂实验环境中的基础。在本文中,我们利用逻辑规则来增强嵌入表示的KGE的PharmKG数据集。为此,我们采用了关系推理网络(R2N),最近提出的神经符号的方法显示出可喜的成果知识图谱完成任务。R2N使用可用的逻辑规则来构建一个神经架构,在KGE潜在表示上进行推理。在实验中,我们表明,我们的方法能够显着改善PharmKG数据集的当前最先进水平。最后,我们提供了一个消融研究实验比较的效果,根据不同的选择标准和不同的考虑规则的数量的替代规则集。
2023-03-23 cs.AI cs.LG q-bio.QM
Holographic Embeddings of Knowledge Graphs
Massachusetts Institute of Technology(麻省理工学院);Istituto Italiano di Tecnologia(意大利技术研究院);Universita Degli Studi Di Genova(热那亚大学)
实体和关系的学习嵌入是对诸如知识图谱的关系数据执行机器学习的有效且通用的方法。在这项工作中,我们提出了全息嵌入(HolE)来学习整个知识图谱的组成向量空间表示。所提出的方法与关联记忆的全息模型有关,因为它采用循环相关来创建组合表示。通过使用相关性作为组合算子,HolE可以捕获丰富的交互,但同时保持计算效率,易于训练,并且可扩展到非常大的数据集。在大量的实验中,我们表明,全息嵌入能够优于最先进的方法,在知识图谱和关系学习基准数据集的链接预测。
2015-12-07 cs.AI cs.LG stat.ML
Relational Graph Convolutional Neural Networks for Multihop Reasoning: A Comparative Study
University of Cambridge(剑桥大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
多跳问答是一个复杂的自然语言处理任务,需要多个推理步骤来找到给定问题的正确答案。以前的研究已经探索了使用基于图神经网络的模型来解决这一任务。已经提出了各种架构,包括关系图卷积网络(RGCN)。对于这些许多节点类型和它们之间的关系已经被引入,例如简单的实体同现,建模共引用,或通过中间实体从问题到答案的“推理路径”。然而,关于哪些关系、节点类型、嵌入和架构对这项任务最有益的深入分析仍然缺失。在本文中,我们探索了一些基于RGCN的多跳QA模型,图关系和节点嵌入,并实证探索每个对WikiHop数据集上的多跳QA性能的影响。
2022-10-13 cs.AI cs.CL cs.LG
Relational Reflection Entity Alignment
East China Normal University(华东师范大学);Alibaba Group(阿里巴巴集团)
实体对齐的目的是从不同的知识图谱中识别出等价的实体对,这对于集成多源知识图谱至关重要。最近,随着GNN引入实体对齐,最近模型的架构变得越来越复杂。我们甚至在这些方法中发现了两个违反直觉的现象:(1)GNN中的标准线性变换工作得不好。(2)许多为链接预测任务设计的高级KG嵌入模型在实体对齐方面表现不佳。在本文中,我们抽象现有的实体对齐方法到一个统一的框架,形状生成器和对齐,这不仅成功地解释了上述现象,并得出了两个关键的标准,一个理想的转换操作。此外,我们提出了一种新的基于GNNs的方法,关系反射实体对齐(RREA)。RREA利用关系反射转换以更有效的方式为每个实体获取特定于关系的嵌入。在真实世界数据集上的实验结果表明,我们的模型显著优于最先进的方法,在Hits@1上超过5.8%-10.9%。
2020-08-18 cs.CL cs.IR cs.LG
Long-tail Relation Extraction via Knowledge Graph Embeddings and Graph Convolution Networks
Zhejiang University(浙江大学);Alibaba Group(阿里巴巴集团);Tencent(腾讯)
我们提出了一个距离监督的关系抽取方法长尾,不平衡的数据,这是在现实世界中普遍存在的。在这里,挑战是学习精确的“Few-Shot”模型,用于存在于类分布的尾部的类,对于这些类,几乎没有可用的数据。受长尾类和头部类之间丰富的语义相关性的启发,我们利用分布头部数据丰富类的知识来提高尾部数据贫乏类的性能。首先,我们提出利用知识图谱嵌入的类标签之间的隐式关系知识,并使用图卷积网络学习显式关系知识。其次,通过知识感知的注意力机制将关系知识集成到关系抽取模型中。我们展示了我们的结果,一个大规模的基准数据集,这表明我们的方法显着优于其他基线,特别是长尾关系。
2019-03-04 cs.AI cs.CL cs.DB
QuatE-D: A Distance-Based Quaternion Model for Knowledge Graph Embedding
School of Electrical and Computer Engineering., College of Engineering., University of Tehran,Tehran., Iran.(电气与计算机工程学院,工程学院,德黑兰大学,德黑兰,伊朗)
提出QuatE-D,一种基于距离评分的四元数知识图谱嵌入模型,通过欧几里得距离增强可解释性和灵活性,在平均秩降低上表现优异,为知识图谱补全提供新方向。
2025-04-18 cs.LG
Propositionalization and Embeddings: Two Sides of the Same Coin
Jožef Stefan Institute(约瑟夫·斯特凡研究所);University of Nova Gorica(新戈里察大学);International Postgraduate School Jožef Stefan(约瑟夫·斯特凡国际研究生院);University of Ljubljana(卢布尔雅那大学)
数据预处理是机器学习流水线的重要组成部分,需要大量的时间和资源。预处理的一个组成部分是将数据转换为给定学习算法所需的格式。本文概述了关系学习中使用的一些现代数据处理技术,这些技术可以将不同类型和格式的输入数据融合为单个表数据表示,重点是命题化和嵌入数据转换方法。虽然这两种方法都旨在将数据转换为表格数据格式,但它们使用不同的术语和任务定义,被认为是针对不同的目标,并且在不同的上下文中使用。本文提供了一个统一的框架,允许这两个数据转换技术的统一定义,并通过解释这两种方法之间的相似性和差异,作为一个统一的复杂的数据转换任务的变体,以提高理解。除了统一的框架之外,本文的新颖之处在于结合了命题化和嵌入的统一方法,这得益于两者在解决复杂数据转换和学习任务方面的优势。我们提出了两个有效的实现统一的方法:一个基于实例的PropDRM方法,和一个基于特征的PropStar方法的数据转换和学习,以及他们的经验评估几个关系问题。结果表明,新的算法可以优于现有的关系学习器,可以解决更大的问题。
2020-06-08 cs.LG stat.ML
Answering Visual-Relational Queries in Web-Extracted Knowledge Graphs
NEC Labs Europe(欧洲NEC实验室);University of Alcalá(阿尔卡拉大学)
视觉关系知识图谱(KG)是其实体与图像相关联的多关系图。我们探索新的机器学习方法来回答网络提取的知识图谱中的视觉关系查询。为此,我们创建了ImageGraph,这是一个KG,包含1,330个关系类型,14,870个实体和829,931个从Web上抓取的图像。使用视觉关系KG(如ImageGraph),可以引入新的概率查询类型,其中图像被视为一等公民。不可见图像之间的关系预测以及多关系图像检索都可以用特定的视觉关系查询族来表示。我们引入卷积网络和知识图谱嵌入方法的新组合来回答此类查询。我们还探讨了一个零样本学习的情况下,一个全新的实体的图像与现有KG的实体的多个关系。所得到的将看不见的实体图像到知识图谱中的多关系基础用作语义实体表示。我们进行实验,以证明所提出的方法可以回答这些视觉关系查询有效和准确。
2019-05-03 cs.AI cs.LG
Improving Hyper-Relational Knowledge Graph Completion
Carnegie Mellon University(卡内基梅隆大学)
与传统的知识图谱(KG)不同,其中事实被表示为实体-关系-实体三元组,超关系KG(HKG)允许三元组与额外的关系-实体对(也称为限定符)相关联以传达更复杂的信息。如何有效和高效地建模的三重限定符关系的预测任务,如HKG完成是一个开放的挑战的研究。本文提出通过引入两个新的修改来改进HKG完成中性能最好的方法,即STARE:(1)用轻量级实体/关系嵌入处理技术取代计算繁重的图神经网络模块,以在不牺牲有效性的情况下提高效率;(2)添加面向限定符的辅助训练任务,以提高我们的方法对HKG完成的预测能力。在我们对三个基准数据集的实验中,所提出的方法始终优于STARE,并显着提高了计算效率。
2021-04-16 cs.LG
Neural-Symbolic Relational Reasoning on Graph Models: Effective Link Inference and Computation from Knowledge Bases
Institute of Informatics, UFRGS(UFRGS信息学院);City, University of London(伦敦大学城市学院)
神经符号模型的最新发展和日益增长的兴趣表明,混合方法可以为人工智能提供更丰富的模型。有效的关系学习和推理方法的整合是这一方向的关键挑战之一,因为神经学习和符号推理提供了互补的特征,有利于人工智能系统的开发。知识图谱上的关系标注或链接预测已经成为基于深度学习的自然语言处理研究的主要问题之一。此外,利用神经符号技术的其他领域也可能从这种研究努力中受益。在知识图谱中,已经有几种努力从现有事实中识别缺失的事实。两条研究路线试图通过考虑连接两个实体的所有已知事实或连接它们的几条事实路径来预测它们之间的知识关系。我们提出了一个神经符号图神经网络,它适用于学习所有的路径喂养的模型与嵌入的最小子集的知识图谱包含这样的路径。通过学习生成对应于词嵌入的实体和事实的表示,我们展示了如何端到端地训练模型来解码这些表示并以多任务方法推断实体之间的关系。我们的贡献是双重的:一个神经符号的方法,利用大型图的关系推理的分辨率,我们也证明了这种神经符号模型比基于路径的方法更有效
2020-05-05 cs.AI cs.LG stat.ML
Zero-Shot Relational Learning for Multimodal Knowledge Graphs
University of California, Davis(加利福尼亚大学戴维斯分校);University of Massachusetts Boston(马萨诸塞大学波士顿分校);University of Notre Dame(圣母大学)
针对多模态知识图谱补全中零样本关系学习缺乏多模态信息利用的问题,本文提出含三个组件的端到端框架,整合多模态信息与图谱结构,在三个数据集上表现出优越性能。
2024-12-04 cs.LG cs.MM
STARS: Spike Tail-Aware Relational Synthesis for ANN-to-SNN Data-Free Knowledge Distillation
Nanyang Technological University(南洋理工大学);Jilin University(吉林大学);Wuhan University(武汉大学);Sun Yat-sen University(中山大学)
提出STARS方法,通过关系一致性对齐和尾部感知正则化增强BN引导的合成数据,解决SNN学生网络在无数据知识蒸馏中约束不足的问题,在多个数据集上提升性能。
2026-05-12 cs.AI cs.LG cs.NE
HIRE: Distilling High-order Relational Knowledge From Heterogeneous Graph Neural Networks
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);Zhejiang University(浙江大学)
由于异构图在学术界和工业界的普遍存在,近年来研究人员提出了大量的异构图神经网络(HGNNs)。在本文中,我们没有追求更强大的HGNN模型,而是有兴趣设计一个通用的即插即用模块,该模块负责从预训练的HGNN中提取关系知识。据我们所知,我们是第一个在异构图上提出高阶关系(HIRE)知识蒸馏框架的人,无论HGNN的模型架构如何,它都可以显着提高预测性能。具体地说,我们的HIRE框架最初执行一阶节点级知识蒸馏,它编码的教师HGNN的语义与其预测逻辑。同时,二阶关系级知识蒸馏模仿由教师HGNN生成的不同类型的节点嵌入之间的关系相关性。在各种流行的HGNNs模型和三个真实世界的异构图上进行的大量实验表明,我们的方法获得了一致和可观的性能增强,证明了其有效性和泛化能力。
2022-07-25 cs.LG
Composition-based Multi-Relational Graph Convolutional Networks
Indian Institute of Science(印度科学学院);Carnegie Mellon University(卡内基梅隆大学);Columbia University(哥伦比亚大学)
图卷积网络(GCN)最近被证明是非常成功的建模图结构的数据。然而,主要的焦点是处理简单的无向图。多关系图是一种更普遍和流行的图,其中每个边都有一个标签和方向与之相关联。大多数现有的方法来处理这类图遭受过度参数化,并仅限于学习节点的表示。在本文中,我们提出了CompGCN,一种新的图卷积框架,它联合嵌入节点和关系图中的关系。CompGCN利用来自知识图谱嵌入技术的各种实体-关系组合操作,并随关系的数量而缩放。它还推广了现有的几个多关系GCN方法。我们评估我们提出的方法在多个任务,如节点分类,链接预测,和图形分类,并取得了明显的优越的结果。我们提供CompGCN的源代码,以促进可重复的研究。
2020-01-18 cs.LG stat.ML
Incorporating Deep Learning Design in Database Queries
University of Washington(华盛顿大学)
提出一种将深度学习自然集成到数据库查询中的方法,通过为元组关联可学习的向量嵌入,使查询同时操作数据和嵌入,实现关系深度学习。
2026-05-22 cs.DB cs.LG
Relational Prompt-based Pre-trained Language Models for Social Event Detection
Kunming University of Science and Technology(昆明理工大学);Beijing Institute of Technology(北京理工大学);Beihang University(北京航空航天大学);North China Electric Power University(华北电力大学);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
针对GNN社会事件检测中边噪声及文本与关系难以联合学习的问题,提出RPLM_SED,通过成对多关系消息建模、关系提示学习和聚类约束提升表示区分度,并在多场景取得SOTA。
2024-09-10 cs.AI cs.CL cs.LG
Characterizing Polarization in Social Networks using the Signed Relational Latent Distance Model
Technical University of Denmark(丹麦技术大学)
图表示学习已经成为表征和理解网络结构的重要工具,特别是社交网络。通常,这些表示学习方法将网络嵌入到低维空间中,其中每个个体的角色可以根据其潜在位置来表征。社交网络目前的一个主要问题是出现两极分化和过滤泡沫,促进“我们与他们”的心态,这种心态可能由被认为最终导致政治暴力和民主侵蚀的极端立场所界定。这种极化网络通常以反映喜欢和不喜欢的有符号链接来表征。我们提出了潜在的符号关系潜在距离模型(SLIM),首次使用的似然函数的符号网络和扩展的建模,以不同的极端位置的特征,通过限制嵌入空间的多面体。在四个真实的社会符号极化网络上,我们证明了该模型提取了低维特征,可以很好地预测友谊和敌意,同时提供了可解释的可视化定义的极端位置时,赋予模型的嵌入空间限制到多面体。
2023-03-03 cs.LG cs.SI stat.ML
zrLLM: Zero-Shot Relational Learning on Temporal Knowledge Graphs with Large Language Models
LMU Munich(慕尼黑大学);Siemens AG(西门子公司);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心);University of Stuttgart(斯图加特大学)
本文提出zrLLM方法,利用大语言模型从关系文本描述生成表示,融入基于嵌入的时态知识图谱预测模型,以解决零样本关系预测难题,实验证明该方法在不牺牲已见关系预测性能的同时,显著提升了对未见关系的预测能力。
2024-03-15 cs.AI cs.CL cs.LG
Efficient Relational Context Perception for Knowledge Graph Completion
School of Computer Science, Wuhan University(武汉大学计算机学院)
本文提出TRP架构结合张量分解,通过学习实体和关系的动态上下文并高效计算三元组得分,在多个基准数据集上优于现有知识图谱补全模型。
2024-12-31 cs.AI cs.CL cs.LG
Why PairDiff works? -- A Mathematical Analysis of Bilinear Relational Compositional Operators for Analogy Detection
University of Liverpool(利物浦大学);Japan Advanced Institute of Science and Technology(日本先端科学技术大学院大学)
表示两个给定单词(或实体)之间存在的语义关系是自然语言处理(NLP)广泛应用的重要第一步,如类比推理、知识库补全和关系信息检索。一种简单但精确得令人惊讶的表示两个词之间关系的方法是计算它们对应的词嵌入之间的向量偏移(\PairDiff)。尽管取得了经验上的成功,但仍然不清楚\PairDiff是否是从词嵌入中获得关系表示的最佳算子。我们进行了理论分析的广义双线性算子,可以用来衡量两个字对之间的$\ell_{2}$关系距离。我们表明,如果词嵌入是标准化的和不相关的,这样的操作将是独立的双线性项,并可以简化为一个线性形式,其中\PairDiff是一个特殊情况。对于众多的词嵌入类型,我们实证验证了不相关的假设,证明了我们的理论结果的普遍适用性。此外,我们实验发现\PairDiff从双线性关系复合算子在几个基准模拟数据集。
2017-12-15 cs.AI cs.CL cs.LG
Deep Compressive Autoencoder for Action Potential Compression in Large-Scale Neural Recording
Nerves Incorporated(Nerves公司)
理解大脑计算背后的协调活动需要大规模的,同时记录分布式神经元结构在细胞水平的分辨率。设计高带宽、高精度、大规模神经接口的一个主要障碍在于记录器芯片产生的强大数据流,这些数据流需要在线传输到远程计算机。数据率可能需要记录器芯片上的数百到数千个I/O焊盘,并且仅用于数据流的功耗就在瓦特量级。我们开发了一种基于深度学习的压缩模型,以降低多通道动作电位的数据率。所提出的模型是建立在一个深度压缩自动编码器(CAE)与离散潜在嵌入。编码器配备有残差变换,以从尖峰信号中提取代表性特征,这些特征被映射到潜在嵌入空间并通过矢量量化(VQ)进行更新。解码器网络从量化的潜在嵌入重构尖峰波形。实验结果表明,该模型始终优于传统的方法,实现更高的压缩比(20- 500倍)和更好的或相当的重建精度。测试结果还表明,CAE是强大的对各种各样的缺陷,如波形变化和尖峰错位,并有微小的影响尖峰排序精度。此外,我们估计了CAE的硬件成本和实时性能,并表明它可以同时支持数千个记录通道,而不会产生过多的功耗/散热。该模型可以降低大规模记录实验中所需的数据传输带宽,并保持良好的信号质量。该工作的代码已在https://github.com/tong-wu-umn/spike-compression-autoencoder上提供
2018-09-17 cs.AI cs.NE q-bio.QM