Geometric Relational Embeddings
Universität Stuttgart(斯图加特大学);Institut für Künstliche Intelligenz (KI) der Universität Stuttgart(斯图加特大学人工智能研究所)
针对向量表示难以捕捉关系数据复杂符号属性的问题,提出几何关系嵌入范式,通过多种模型捕捉网络、知识图谱及本体中的复杂结构、逻辑约束与高阶结构,有效保留数据的离散符号特性。
2024-09-18 cs.AI cs.LG cs.SI
Multi-Relational Hyperbolic Word Embeddings from Natural Language Definitions
Idiap Research Institute(伊迪亚普研究所);University of Manchester(曼彻斯特大学);National Biomarker Centre(国家生物标志物中心)
本文提出一种多关系模型,通过从词典定义中自动提取概念关系,在双曲空间中利用翻译框架学习词嵌入,实验证明其比欧几里得方法更优,且比神经模型更高效可解释。
2024-02-16 cs.CL cs.LG
Balanced Multi-Relational Graph Clustering
University of Electronic Science and Technology of China(电子科技大学)
针对多关系图聚类中视图不平衡问题,提出平衡多关系图聚类方法BMGC,通过无监督主导视图挖掘与双信号引导表示学习协同提升聚类性能,实验证明其达到最先进水平。
2024-07-23 cs.AI cs.LG cs.SI
Hierarchical Latent Relation Modeling for Collaborative Metric Learning
Deezer Research(迪泽尔研究院);LIX, École Polytechnique(巴黎综合理工学院LIX实验室)
协作度量学习(CML)是近年来兴起的一种基于隐式反馈协同过滤的推荐方法。然而,标准的CML方法学习固定的用户和项目表示,这无法捕捉用户的复杂兴趣。CML的现有扩展也忽略了用户-项目关系的异质性,即用户可以同时喜欢非常不同的项目,或潜在的项目-项目关系,即用户对项目的偏好不仅取决于其内在特征,而且还取决于他们以前与之交互的项目。在本文中,我们提出了一个分层的CML模型,共同捕捉潜在的用户项目和项目项目之间的关系,从隐式数据。我们的方法受到来自知识图谱嵌入的翻译机制的启发,并利用基于记忆的注意力网络。我们通过在几个真实数据集上的推荐任务上优于现有的CML模型,实证地展示了这种联合关系建模的相关性。我们的实验还强调了当前CML关系模型在非常稀疏的数据集上的局限性。
2021-07-26 cs.IR cs.LG
SketchGraphs: A Large-Scale Dataset for Modeling Relational Geometry in Computer-Aided Design
Princeton University(普林斯顿大学);Columbia University(哥伦比亚大学)
参数化计算机辅助设计(CAD)是机械工程中物理设计的主要范例。与关系几何不同,参数化CAD模型开始时是由几何图元组成的二维草图(例如,线段,弧)和它们之间的显式约束(例如,巧合,巧合),形成了三维构造操作的基础。训练机器学习模型来推理和合成参数化CAD设计,有可能缩短设计时间,实现新的设计工作流程。此外,参数化CAD设计可以被视为约束编程的实例,它们为探索程序合成和归纳中的想法提供了一个范围很广的测试平台。为了促进这项研究,我们引入了SketchGraphs,这是一个从现实世界的CAD模型中提取的1500万张草图的集合,加上一个开放的源数据处理管道。每个草图表示为几何约束图,其中边表示设计者施加的图元(图的节点)之间的几何关系。我们演示并建立了数据集的两个用例的基准:草图的生成建模和无约束几何形状的可能约束的条件生成。
2020-07-16 cs.LG stat.ML
Relational Similarity Machines
Palo Alto Research Center(帕洛阿尔托研究中心);Intel Labs(英特尔实验室)
本文提出了关系相似机(RSM):一个快速,准确,灵活的关系学习框架的监督和半监督学习任务。尽管关系学习的重要性,大多数现有的方法很难适应不同的设置,由于处理各种各样的分类问题,数据,约束和任务的效率,可扩展性,准确性和灵活性的问题。例如,许多现有的方法对于多类分类问题、稀疏标记的图或具有低关系自相关的网络数据表现不佳。相比之下,所提出的关系学习框架被设计为(i)以实时交互速率快速学习和推理,以及(ii)灵活的各种学习设置(多类问题),约束(很少标记的实例)和应用领域。实验证明了响应面方法对各种任务和数据的有效性。
2016-08-02 cs.AI cs.LG stat.ML
Tensor Decomposition with Relational Constraints for Predicting Multiple Types of MicroRNA-disease Associations
Huazhong Agriculture University(华中农业大学);The Ohio State University(俄亥俄州立大学)
microRNAs(miRNAs)在与人类疾病相关的多种生物学过程中起着至关重要的作用。识别潜在的miRNA-疾病关联有助于理解miRNA相关疾病的分子机制。现有的大多数计算方法主要集中在预测是否存在miRNA与疾病的关联。然而,miRNAs在疾病中的作用是显著分歧的,例如,miRNAs的遗传变异体(mir-15)可能影响miRNAs的表达水平,导致B细胞慢性淋巴细胞白血病,而循环miRNAs(包括mir-1246、mir-1307- 3 p等)可能影响miRNAs的表达水平,导致B细胞慢性淋巴细胞白血病。具有早期发现乳腺癌的潜力。在本文中,我们的目标是预测多种类型的miRNA与疾病的关联,而不是将它们视为二元的。为此,我们创新性地将miRNA疾病类型三联体表示为张量,并引入张量分解方法来解决预测任务。在两个广泛采用的miRNA疾病数据集:HMDD v2.0和HMDD v3.2上的实验结果表明,张量分解方法在很大程度上改善了最近的基线(在top-1 F1中高达38%)。我们进一步提出了一种新的方法,张量分解与关系约束(TDRC),它结合了生物特征的关系约束,进一步现有的张量分解方法。与现有的两种张量分解方法相比,TDRC具有更好的性能和更高的效率。
2020-03-09 cs.LG q-bio.QM stat.ML
Model-based Exception Mining for Object-Relational Data
Simon Fraser University(西蒙弗雷泽大学)
这篇文章是基于以前的出版物[29]。我们的工作扩展异常挖掘和离群值检测的情况下,对象关系数据。对象关系数据表示一个复杂的异构网络[12],它包括不同类型的对象,这些对象之间的链接,也是不同类型的,以及这些链接的属性。这种特殊的结构禁止直接的矢量数据表示。我们遵循成熟的异常模型挖掘框架,该框架利用机器学习模型进行异常挖掘:对象是异常的,因为为对象数据学习的模型不同于为一般人群学习的模型。异常对象可以被视为离群值。我们应用最先进的概率建模技术的对象关系数据,构建一个图形化的模型(贝叶斯网络),其中companion表示数据中的概率关联。一个新的度量,来自学习对象-关系模型,量化的程度,一个潜在的离群值的个体关联模式偏离整个人口。该度量基于两个参数向量的似然比:一个表示总体关联,另一个表示个体关联。我们的方法在合成数据集和真实世界的足球比赛和电影数据集上进行了验证。与基线方法相比,我们的新转换似然比在所有数据集上都达到了最佳的检测精度。
2018-07-01 cs.AI cs.LG stat.ML
Identifying Performance Issues in Cloud Service Systems Based on Relational-Temporal Features
The Chinese University of Hong Kong(香港中文大学);Sun Yat-sen University(中山大学);Huawei Cloud Computing Technology Co., Ltd(华为云计算技术有限公司)
提出ISOLATE方法,利用图注意力网络和GRU/卷积网络结合关系与时序特征,并通过正-未标记学习处理噪声,在公共和工业数据集上以0.945的F1分数和0.920的Hit rate@3优于所有基线,用于准确识别云服务系统中的性能问题。
2024-11-07 cs.LG cs.SE
IRG: Modular Synthetic Relational Database Generation with Complex Relational Schemas
University of Illinois, Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);National University of Singapore(新加坡国立大学)
IRG提出一种模块化框架,通过学习关系连接上下文生成合成关系数据库,有效处理复杂关系模式和数据相关性。
2025-12-14 cs.DB cs.LG
Relational Neurosymbolic Markov Models
KU Leuven(鲁汶大学);Örebro University(厄勒布鲁大学)
针对深度序列模型无法保证约束满足及神经符号方法在序列问题上的指数扩展问题,提出关系神经符号马尔可夫模型,结合近似贝叶斯推理与自动推理,实现可扩展且可证明满足逻辑约束的端到端可微序列建模。
2024-12-17 cs.AI cs.LG
Structural Adversarial Attacks on Relational Deep Learning under Integrity Constraints
Univ. Grenoble Alpes, CNRS, Grenoble INP, LIG(格勒诺布尔阿尔卑斯大学、法国国家科学研究中心、格勒诺布尔国立综合理工学院、格勒诺布尔信息与图像实验室);Singapore Institute of Technology(新加坡科技学院)
研究关系深度学习在完整性约束下的对抗鲁棒性,白盒攻击者通过重连外键引用攻击上游数据库,探索七种攻击启发式方法,基于梯度的攻击在回归任务中表现优,分类任务收益小。
2026-07-09 cs.DB cs.LG
RelShap: Relationally Consistent Shapley Explanations
RelShap是融入关系约束的Shapley解释框架,可提升解释的忠实度,在受控设置中能正确识别主导特征,且运行时可通过等价类优化。
2026-08-13 cs.LG
On Multi-Relational Link Prediction with Bilinear Models
University of Mannheim(曼海姆大学);The University of Hong Kong(香港大学)
我们研究了多关系链接预测和知识图谱补全任务的双线性嵌入模型。双线性模型是最基本的模型,它具有训练和使用效率高,预测性能好的特点。本文的主要目标是探讨文献中提出的各种双线性模型的表达能力和之间的联系。特别是,大量的模型可以表示为双线性模型,并对嵌入施加某些额外的约束。我们探讨这些约束是否会导致普遍的模型,它可以在原则上代表每一组关系,以及是否有各种模型之间的包容关系。我们报告的结果,一个独立的实验研究,评估最近的双线性模型在一个共同的实验设置。最后,我们提供的证据表明,多个双线性模型的关系级集成可以实现最先进的预测性能。
2017-09-14 cs.LG
Relational Surrogate Loss Learning
The University of Sydney(悉尼大学);SenseTime Research(商汤科技研究院);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);Huazhong University of Science and Technology(华中科技大学);University of Science and Technology of China(中国科学技术大学)
机器学习中的评估度量通常很难被视为损失函数,因为它们可能是不可微和不可分解的,例如,平均精度和F1得分。本文旨在通过重新审视替代损失学习来解决这个问题,其中采用深度神经网络来近似评估指标。与其通过深度神经网络来追求评估度量的精确恢复,我们被提醒这些评估度量存在的目的,即区分一个模型比另一个模型更好还是更差。在本文中,我们表明,直接维护代理损失和指标之间的模型的关系就足够了,并提出了一种基于秩相关的优化方法,以最大限度地提高这种关系,并学习代理损失。与以前的作品相比,我们的方法更容易优化,并享有显着的效率和性能增益。大量的实验表明,我们的方法实现了各种任务,包括图像分类和神经机器翻译的改进,甚至优于人类姿势估计和机器阅读理解任务的最先进的方法。代码可在:https://github.com/hunto/ReLoss.
2022-02-26 cs.CV cs.LG
Discriminative Probabilistic Models for Relational Data
Stanford University(斯坦福大学)
在许多监督学习任务中,待标记的实体以复杂的方式彼此相关,并且它们的标记不是独立的。例如,在超文本分类中,链接页面的标签高度相关。一种标准的方法是对每个实体独立分类,忽略它们之间的相关性。最近,概率关系模型,贝叶斯网络的关系版本,被用来定义一个联合概率模型的相关实体的集合。在本文中,我们提出了一个替代框架,建立在(条件)马尔可夫网络和解决以前的方法的两个局限性。首先,无向模型不施加非循环约束,这阻碍了有向模型中许多重要关系依赖的表示。其次,无向模型非常适合区分训练,在这种情况下,我们优化了给定特征的标签的条件似然,这通常会提高分类准确性。我们展示了如何有效地训练这些模型,以及如何使用近似概率推理的学习模型的集体分类的多个相关的实体。我们提供了一个网页分类任务的实验结果,表明可以显着提高准确性建模的关系依赖。
2012-12-12 cs.AI cs.LG stat.ML
Improving Inductive Link Prediction Using Hyper-Relational Facts
University of Bonn(波恩大学);Fraunhofer Institute for Intelligent Analysis and Information Systems (IAIS)(弗劳恩霍夫智能分析与信息系统研究所(IAIS));Ludwig-Maximilians-Universität München(慕尼黑路德维希-马克西米利安大学(慕尼黑大学));McGill University(麦吉尔大学);Mila(米拉研究所);IBM Research(IBM研究院);Siemens AG(西门子股份公司)
多年来,知识图谱(KG)上的链接预测一直是一个纯粹的转换任务,不允许对看不见的实体进行推理。最近,越来越多的努力投入到探索半和完全归纳的情况下,使推理看不见的和新兴的实体。尽管如此,所有这些方法仅考虑基于三元组的\glspl{kg},而它们更丰富的对应物,超关系KG(例如,Wikidata),尚未得到适当的研究。在这项工作中,我们对不同的归纳设置进行分类,并研究了在图神经网络的最新进展驱动的广泛的半和全归纳链接预测任务上采用超关系KG的好处。我们在一组新的基准测试上的实验表明,与仅三重基准相比,类型化边缘上的限定符可以导致6%的绝对增益(对于Hits@10度量)的性能改进。我们的代码可在\url{https://github.com/mali-git/hyper_relational_ilp}上找到。
2021-07-10 cs.LG
Usable & Scalable Learning Over Relational Data With Automatic Language Bias
Oregon State University(俄勒冈州立大学)
关系数据库是学习新颖有趣的关系和概念的宝贵资源。为了约束搜索通过候选定义的大空间,用户必须通过指定语言偏好来调整算法。不幸的是,具体说明语言偏见是通过试验和错误来完成的,并由专家的直觉指导。我们提出了AutoBias,一个利用数据库的模式和内容中的信息来自动诱导流行的关系学习系统所使用的语言偏见的系统。我们表明,AutoBias提供了相同的准确性,使用手动编写的语言偏见只施加轻微的开销上的运行时间的学习算法。
2020-04-06 cs.DB cs.LG
Relational Knowledge Distillation
POSTECH(浦项科技大学);Microsoft Research(微软研究院)
知识蒸馏旨在将一个模型(教师)中获得的知识转移到另一个模型(学生)中,该模型通常较小。以前的方法可以表示为训练学生模仿由教师表示的单个数据示例的输出激活的形式。我们介绍了一种新的方法,被称为关系知识蒸馏(RKD),而不是转移相互关系的数据示例。对于RKD的具体实现,我们提出了距离和角度蒸馏损失,惩罚关系中的结构差异。在不同任务上进行的实验表明,该方法提高了受过教育的学生模型具有显着的利润率。特别是对于度量学习,它允许学生超越老师的表现,在标准基准数据集上达到最先进的水平。
2019-05-01 cs.CV cs.LG
Synthesis Without Training: An Inference-Only Pipeline for Tabular, Temporal, and Relational Synthetic Data
Betterdata AI;National University of Singapore(新加坡国立大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);KAJIMA Technical Research Institute Singapore(鹿岛技术研究所新加坡分所)
提出GENSCRIPT纯推理流水线,通过统计画像和语言模型推断约束,无需训练即可生成表格、时序和关系型合成数据,兼顾效率与保真度。
2026-10-01 cs.LG
Effective Analog ICs Floorplanning with Relational Graph Neural Networks and Reinforcement Learning
University of Trieste(的里雅斯特大学);Infineon Technologies AT(英飞凌科技奥地利公司);Infineon Technologies AG(英飞凌科技股份公司)
本文提出结合关系图卷积神经网络与强化学习的模拟IC自动布局规划方法,实现跨电路设计知识迁移,在6个工业电路上较现有技术显著提升速度、面积与线长,并大幅缩短整体布局时间。
2024-11-20 cs.AI cs.LG cs.SY
What Converges in the Platonic Representation Hypothesis? Structure over Geometry
KAIST(韩国科学技术院);POSTECH(浦项科技大学)
该研究挑战柏拉图式表征假说的局部收敛解释,提出结构尺度与比较对象的混淆,构建2×2框架评估关系结构与度量几何,发现关系结构在局部和全局尺度均稳健收敛,而度量几何收敛显著较弱。
2026-09-24 cs.CV cs.LG math.AT
RelBench v2: A Large-Scale Benchmark and Repository for Relational Data
Stanford University(斯坦福大学);National University of Singapore(新加坡国立大学);University of Ljubljana(卢布尔雅那大学);Kumo AI;University of Oxford(牛津大学)
RelBench v2引入了四个大规模关系数据集,扩展了基准测试,并引入了自动补全任务,展示了关系学习模型在多表预测中的优势。
2026-05-09 cs.LG
STARS: Spike Tail-Aware Relational Synthesis for ANN-to-SNN Data-Free Knowledge Distillation
Nanyang Technological University(南洋理工大学);Jilin University(吉林大学);Wuhan University(武汉大学);Sun Yat-sen University(中山大学)
提出STARS方法,通过关系一致性对齐和尾部感知正则化增强BN引导的合成数据,解决SNN学生网络在无数据知识蒸馏中约束不足的问题,在多个数据集上提升性能。
2026-05-12 cs.AI cs.LG cs.NE
Link Prediction on N-ary Relational Data Based on Relatedness Evaluation
University of Chinese Academy of Sciences(中国科学院大学);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所)
随着知识图(Knowledge Graphs,KG)的广泛应用,链接预测填补知识图中缺失的信息一直是研究者关注的焦点。然而,它们主要集中在二进制关系数据上的链接预测,其中事实通常以(头实体,关系,尾实体)的形式表示为三元组。在实践中,n元关系事实也无处不在。当遇到这样的事实,现有的研究通常分解成三元组,通过引入大量的辅助虚拟实体和额外的三元组。这些转换导致在n元关系数据上执行链接预测的复杂性。它甚至已经证明,它们可能会导致结构信息的丢失。为了克服这些问题,在本文中,我们表示每个n元的关系事实作为一组的角色和角色-值对。然后,我们提出了一种称为NaLP的方法进行链接预测的n元关系数据,显式模型的相关性的所有角色和角色-值对的n元关系事实。我们进一步扩展了NaLP,引入了角色和角色值的类型约束,而没有任何外部类型特定的监督,并提出了一个更合理的负采样机制。实验结果验证了所提方法的有效性和优越性。
2021-04-21 cs.AI cs.CL cs.LG
Improving Federated Relational Data Modeling via Basis Alignment and Weight Penalty
Ant Group(蚂蚁集团)
联邦学习(FL)近年来受到越来越多的关注。作为一种保护隐私的协作学习范式,它可以实现更广泛的应用,特别是对于计算机视觉和自然语言处理任务。然而,迄今为止,联邦学习在关系数据上的研究有限,即知识图谱(KG)。在这项工作中,我们提出了一个修改后的版本的图神经网络算法,在不同的参与者进行联合建模的KG。具体来说,为了解决固有的数据异构性问题和算法收敛效率低下,我们提出了一种新的优化算法,命名为FedAlign,1)最佳运输(OT)的客户端个性化和2)重量约束,以加快收敛。在几个广泛使用的数据集上进行了大量的实验。实验结果表明,我们提出的方法优于最先进的FL方法,如FedAVG和FedProx,具有更好的收敛性。
2020-11-23 cs.AI cs.LG
Relational Graph Transformer
Stanford University(斯坦福大学);NVIDIA
RelGT通过新颖的多元素分词策略,解决关系图中异构性、时效性和拓扑结构的编码问题,实现对关系数据的高效建模,优于GNN基线。
2026-02-05 cs.AI cs.DB cs.LG
Causal Relational Learning
University of Washington(华盛顿大学);Duke University(杜克大学);University of California at Santa Cruz(加州大学圣克鲁兹分校)
因果推理是自然科学和社会科学实证研究的核心,对于科学发现和知情决策至关重要。因果推理的黄金标准是进行随机对照试验;不幸的是,由于伦理、法律或成本的限制,这些试验并不总是可行的。作为一种替代办法,统计研究和社会科学已经发展出从观测数据进行因果推断的方法。然而,现有的方法严重依赖于限制性的假设,如研究人口组成的同质元素,可以表示在一个单一的平面表,其中每一行被称为一个单位。相比之下,在许多现实环境中,研究领域自然由具有复杂关系结构的异构元素组成,其中数据自然表示在多个相关表中。在本文中,我们提出了一个正式的框架,因果关系的数据推断。我们提出了一种称为CaRL的声明性语言,用于捕获因果背景知识和假设,并使用简单的数据日志式规则指定因果查询。CaRL为推断因果关系和推理关系域中复杂干预的影响提供了基础。我们对真实的关系数据进行了广泛的实验评估,以说明CaRL在社会科学和医疗保健中的适用性。
2020-04-07 cs.AI cs.DB cs.LG