Are Hyperbolic Representations in Graphs Created Equal?
Skolkovo Institute of Science and Technology(斯科尔科沃科学技术学院);Criteo AI Lab(Criteo人工智能实验室)
最近,人们对图神经网络在非欧几何中的应用越来越感兴趣,然而,非欧几何表示对于图学习任务总是有用的吗?对于不同的问题,如节点分类和链接预测,我们计算双曲线嵌入,并得出结论,对于需要全局预测一致性的任务,使用非欧几里德嵌入可能是有用的,而对于其他任务,欧几里德模型是优越的。要做到这一点,我们首先解决了与零曲率优化过程相关的现有模型的问题。目前的双曲模型处理梯度在原点在特设的方式,这是效率低下,并可能导致数值不稳定。我们解决了kappa-Stereographic模型在零曲率情况下的不稳定性,并在几个图表示学习任务中评估了将图嵌入流形的方法。
2020-07-15 cs.LG stat.ML
Node-Specific Space Selection via Localized Geometric Hyperbolicity in Graph Neural Networks
Nanyang Technological University(南洋理工大学)
已经开发了许多图神经网络来学习欧几里得或双曲空间中的图表示,其中所有节点的表示嵌入在单个空间中。然而,一个图可以在图的不同区域具有双曲和欧几里得几何。因此,将整个图无差别地嵌入单个空间是次优的。在本文中,我们探索和分析两个概念的局部双曲,描述了潜在的局部几何:几何(格罗莫夫)和基于模型,以确定每个节点的嵌入的首选空间。使用Wasserstein度量来对齐两个双曲性的分布,使得计算的几何双曲性指导学习的模型双曲性的选择。因此,我们的模型联合空间图神经网络(JSGNN)可以通过允许节点特定的几何空间选择,在学习过程中利用欧几里得和双曲空间。我们评估我们的模型上的节点分类和链接预测任务,并观察到有前途的性能相比,基线模型。
2023-03-03 cs.LG
Multi-Hyperbolic Space-based Heterogeneous Graph Attention Network
Department of Computer Science and Engineering, Chungnam National University, Daejeon, South Korea(计算机科学与工程系,全南国立大学,大田,韩国)
针对异质图嵌入中单一双曲空间难以捕获多样幂律结构的问题,提出多双曲空间异质图注意力网络MSGAT,实验证明其在多种图任务上优于现有基线。
2024-11-18 cs.AI cs.LG
Time-aware Hyperbolic Graph Attention Network for Session-based Recommendation
Walmart Global Tech(沃尔玛全球技术);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
基于会话的推荐(SBR)是根据用户先前的浏览会话来预测用户下一个感兴趣的项目。现有方法将会话建模为图形或序列,以基于用户交互的项目来估计用户兴趣,从而进行推荐。近年来,基于图的方法在SBR上取得了优异的性能。然而,这些方法都没有考虑时间信息,这是SBR中的一个重要特征,因为它表明了时间性或时效性。此外,会话图呈现出层次结构,并被证明是适用于双曲几何。但在双曲空间中设计模型的文献还很少,这方面的研究还处于探索阶段。在本文中,我们提出了时间感知双曲图注意力网络(TA-HGAT)-一种新的双曲图神经网络框架,建立一个基于会话的推荐模型考虑时间信息。更具体地说,在TA-HGAT中有三个组成部分。首先,双曲投影模块将项目特征转换到双曲空间。第二,时间感知图形注意力模块对项目与用户当前兴趣之间的时间间隔进行建模。第三,在模型结束时的进化损失提供了基于给定时间戳的推荐项目的准确预测。TA-HGAT构建在双曲空间中,用于学习会话图的层次结构。实验结果表明,提出的TA-HGAT具有最好的性能相比,10个基线模型在两个真实世界的数据集。
2023-01-10 cs.IR cs.LG cs.SI
Hyperbolic Graph Representation Learning: A Tutorial
Noah’s Ark Lab, Huawei Technologies(华为技术有限公司诺亚方舟实验室);The Chinese University of Hong Kong(香港中文大学)
图结构的数据广泛存在于现实世界的应用中,如社交网络,推荐系统,知识图谱,化学分子等。尽管欧几里德空间的图相关的学习任务的成功,其建模复杂模式的能力基本上是由其多项式增长的能力受到限制。最近,双曲空间已经成为一个有前途的替代处理图形数据与树状结构或幂律分布,由于指数增长的性质。与欧氏空间的多项式扩展不同,双曲空间的指数增长特性使得它在抽象具有层次结构的树型图或无标度图方面具有天然的优势。在本教程中,我们的目标是介绍这个新兴的图表示学习领域,并明确表示所有受众都可以访问。我们首先简要介绍了图表示学习以及一些初步的黎曼几何和双曲几何。然后,我们全面回顾了双曲嵌入技术,包括双曲浅模型和双曲神经网络。此外,我们介绍了目前的双曲图神经网络的技术细节,将它们统一到一个通用的框架,并总结了每个组件的变体。此外,我们进一步介绍了一系列相关的应用在各个领域。在最后一部分中,我们讨论了关于图表示学习的双曲几何的几个高级主题,这些主题可能为进一步繁荣非欧几里得图学习社区提供指导。
2022-11-08 cs.AI cs.LG
Hyperbolic Variational Graph Neural Network for Modeling Dynamic Graphs
Beijing University of Posts and Telecommunications(北京邮电大学);Florida State University(佛罗里达州立大学);Beihang University(北京航空航天大学);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
学习图的表示在广泛的下游应用中发挥着关键作用。在本文中,我们总结了现有的工作的局限性在三个方面:表示空间,建模动力学和建模的不确定性。为了弥合这一差距,我们首次提出学习双曲空间中的动态图表示,旨在推断随机节点表示。利用双曲空间,我们提出了一种新的双曲变分图神经网络,简称HVGNN。特别是,为了对动态进行建模,我们引入了一种基于理论基础的时间编码方法的时间GNN(TGNN)。为了模拟的不确定性,我们设计了一个双曲线图变分自编码器建立在建议的TGNN生成随机节点表示的双曲正态分布。此外,我们引入了双曲正态分布的可重参数化采样算法,以实现HVGNN的基于梯度的学习。大量的实验表明,HVGNN在真实世界数据集上的性能优于最先进的基线。
2021-04-06 cs.LG cs.SI
A Unified Framework of Hyperbolic Graph Representation Learning Methods
CSIC i+d project(西班牙国家科研委员会i+d项目)
本文提出一个统一的开源框架,整合多种常用嵌入方法,实现超几何嵌入的一致训练、可视化和评估,通过实验证讨超几何嵌入在现实网络中的表现,包括链接预测和节点分类任务。
2026-04-30 cs.LG
Hyperbolic-PDE GNN: Spectral Graph Neural Networks in the Perspective of A System of Hyperbolic Partial Differential Equations
School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院)
本文将图神经网络的消息传递形式化为双曲偏微分方程系统,将节点表示映射到由拓扑特征向量张成的解空间,从而增强可解释性并显式提取拓扑特征,同时建立与谱图神经网络的联系,引入多项式逼近滤波函数,显著提升了多种谱图神经网络在图任务上的性能。
2025-05-29 cs.LG
Hyperbolic Graph Representation Learning for Differential Diagnosis on Biomedical Knowledge Graphs
Università degli Studi di Milano(米兰大学);Università della Svizzera italiana (USI)(瑞士意大利语大学);Politecnico di Milano(米兰理工大学);Aalto University(阿尔托大学);FGV(杰图利奥·瓦加斯基金会)
本文研究双曲图表示学习在生物医学知识图谱中用于孟德尔疾病鉴别诊断,证明其在低维下优于欧几里得基线,并能利用层次结构支持诊断推理。
2026-09-17 cs.AI cs.LG
ACE-HGNN: Adaptive Curvature Exploration Hyperbolic Graph Neural Network
Beihang University(北京航空航天大学);Macquarie University(麦考瑞大学);Central South University(中南大学);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
图神经网络在各种图数据采掘任务中得到了广泛的研究。大多数现有的GNN将图数据嵌入到欧几里得空间中,因此在捕获现实世界网络中无处不在的层次结构方面效率较低。双曲图神经网络(HGNNs)将GNNs扩展到双曲空间,因此在节点表示学习中更有效地捕获图的层次结构。在双曲几何中,图的层次结构可以通过双曲空间的曲率来反映,并且不同的曲率可以模拟图的不同层次结构。然而,为了简单起见,大多数现有的HGNN手动将曲率设置为固定值,由于图的复杂和多样的层次结构,这实现了图学习的次优性能。为了解决这个问题,我们提出了一个自适应曲率探索双曲图神经网络命名为ACE-HGNN自适应学习最佳曲率根据输入图和下游任务。具体来说,ACE-HGNN利用多智能体强化学习框架,并包含两个代理,ACE-Agent和HGNN-Agent分别用于学习曲率和节点表示。两个智能体通过NashQ学习算法协同更新,寻求以曲率为索引的最优双曲空间。在多个真实世界图数据集上进行的大量实验表明,模型质量得到了显着和一致的性能改善,具有竞争力的性能和良好的泛化能力。
2021-10-15 cs.LG cs.SI
Public Wisdom Matters! Discourse-Aware Hyperbolic Fourier Co-Attention for Social-Text Classification
IIIT Delhi(德里英迪拉·甘地信息技术研究所);LinkedIn(领英);IIT Delhi(印度理工学院德里分校)
社交媒体已经成为所有形式的沟通的支点。对假新闻、谣言、讽刺等社交文本进行分类已经引起了极大的关注。社交文本本身表达的表面信号可能不足以完成这些任务;因此,最近的方法试图结合其他内在信号,如用户行为和底层图形结构。通常情况下,通过对社交文本的评论/回复表达的“公共智慧”可以替代众包观点,并可能为我们提供补充信号。社会文本分类的最先进的方法往往会忽略这样一个丰富的层次信号。在这里,我们提出了Hyphen,一个话语感知的双曲谱共同注意力网络。连字符是双曲线图表示学习与新的傅立叶协同注意力机制的融合,试图通过纳入公共话语来概括社会文本分类任务。我们将公共话语解析为抽象意义表示(AMR)图,并使用强大的双曲几何表示来建模具有层次结构的图。最后,我们为它配备了一个新的傅立叶共注意力机制,以捕捉源帖子和公共话语之间的相关性。在四个不同的社交文本分类任务上进行的广泛实验,即检测假新闻,仇恨言论,谣言和讽刺,表明Hyphen具有良好的泛化能力,并在十个基准数据集上取得了最先进的结果。我们还使用了一个经过事实检查和注释的数据集来评估Hyphen如何能够产生解释作为最终预测的类似证据。
2022-10-11 cs.CL cs.LG cs.SI
Knowledge Association with Hyperbolic Knowledge Graph Embeddings
Nanjing University(南京大学);University of Pennsylvania(宾夕法尼亚大学);University of Southern California(南加利福尼亚大学);Alibaba Group(阿里巴巴集团)
通过实体对齐、实体类型推断和其他相关任务捕获知识图谱(KG)的关联,使NLP应用程序具有全面的知识表示。最近的相关方法建立在欧几里德嵌入的层次结构和不同规模的KG的挑战。它们还依赖于高嵌入维数来实现足够的表现力。随后,我们探索低维双曲嵌入知识关联。我们提出了一个双曲关系图神经网络KG嵌入和捕捉知识的关联与双曲变换。在实体对齐和类型推断上的大量实验证明了该方法的有效性。
2020-10-05 cs.AI cs.CL cs.LG
Complex Hyperbolic Knowledge Graph Embeddings with Fast Fourier Transform
Hong Kong University of Science and Technology(香港科技大学);NVIDIA(英伟达)
知识图谱(KG)嵌入的几何空间的选择对KG完成任务的性能有显著影响。双曲几何已被证明可以捕获层次模式,由于其树状度量,解决了欧几里德嵌入模型的局限性。最近对复杂双曲几何的探索进一步改进了双曲嵌入,以捕获各种层次结构。然而,双曲KG嵌入模型对非传递关系的性能仍然不令人满意,而复双曲嵌入不处理多关系。本文旨在利用复双曲几何在多关系KG嵌入中的表示能力。为了在复双曲空间中应用几何变换和注意力机制,我们提出用快速傅立叶变换(FFT)作为实双曲空间和复双曲空间之间的转换。在复空间中构造基于注意力的变换是非常具有挑战性的,而所提出的基于傅立叶变换的复双曲方法提供了一种简单有效的解决方案。实验结果表明,我们的方法优于基线,包括欧几里德和真正的双曲线嵌入模型。
2022-11-07 cs.AI cs.LG
Fully Hyperbolic Rotation for Knowledge Graph Embedding
College of Computer Science, Inner Mongolia University(内蒙古大学计算机学院);National and Local Joint Engineering Research Center of Intelligent Information Processing Technology for Mongolian(蒙古语智能信息处理技术国家地方联合工程研究中心);Inner Mongolia Key Laboratory of Multilingual Artificial Intelligence Technology(内蒙古多语言人工智能技术重点实验室)
针对现有双曲旋转模型仅部分利用双曲空间的问题,提出直接在洛伦兹模型下定义旋转的全双曲嵌入模型,以洛伦兹距离评分,在标准基准上以更少参数取得竞争性结果,并在CoDEx数据集上达到最优。
2024-11-07 cs.AI cs.LG
Text Enriched Sparse Hyperbolic Graph Convolutional Networks
Virginia Tech(弗吉尼亚理工大学);Amazon(亚马逊)
异构网络连接包含具有不同边缘类型的文本的信息节点,通常用于存储和处理各种现实世界应用中的信息。图神经网络(GNN)及其双曲变体分别通过邻域聚合和分层特征提取提供了一种有前途的方法来在低维潜在空间中对此类网络进行编码。然而,这些方法通常忽略元路径结构和可用的语义信息。此外,这些方法对训练数据中存在的噪声敏感。为了解决这些局限性,在本文中,我们提出了文本丰富的稀疏双曲图卷积网络(TESH-GCN),使用语义信号捕获图的元路径结构,并进一步提高对大型异构图的预测。在TESH-GCN中,我们提取语义节点信息,它依次作为连接信号,从重构的双曲图卷积层的稀疏邻接张量中提取相关节点的局部邻域和图级元路径特征。这些提取的特征与来自语言模型的语义特征(为了鲁棒性)一起用于最终的下游任务。在各种异构图数据集上的实验表明,我们的模型在链接预测的任务上大大优于当前最先进的方法。我们还报告了减少训练时间和模型参数相比,现有的双曲线的方法,通过重新制定的双曲线图卷积。此外,我们通过在图结构和文本中实验不同级别的模拟噪声来说明我们的模型的鲁棒性,并且通过分析提取的元路径来解释TESH-GCN的预测。
2022-07-07 cs.IR cs.LG cs.SI
A Hyperbolic-to-Hyperbolic Graph Convolutional Network
Beijing Institute of Technology (BIT)(北京理工大学)
双曲图卷积网络(GCN)具有强大的表示能力,可以对具有层次结构的图进行建模。现有的双曲GCN借助于切空间来实现双曲流形上的图卷积,这是较差的,因为切空间只是流形的局部近似。在本文中,我们提出了一个双曲到双曲图卷积网络(H2 H-GCN),直接工作在双曲流形。具体来说,我们开发了一个流形保持图卷积,由双曲特征变换和双曲邻域聚合组成。双曲特征变换作为双曲流形上的线性变换。通过对变换子矩阵施加正交约束,保证变换后的节点表示仍位于双曲流形上。双曲邻域聚合通过爱因斯坦中点更新每个节点表示。H2 H-GCN避免了切空间近似引起的失真,保持了全局双曲结构。大量实验表明,H2 H-GCN在链接预测、节点分类和图分类任务上取得了实质性的改进。
2021-04-14 cs.LG
Hyperbolic Disk Embeddings for Directed Acyclic Graphs
LAPRAS Inc.(LAPRAS公司)
获得结构数据的连续表示,例如有向无环图(DAG),在机器学习和人工智能中受到了关注。然而,嵌入复杂的DAG,其中节点的祖先和后代都呈指数增长是困难的。为了解决这个问题,我们开发了Disk Embeddings,这是一个将DAG嵌入到准度量空间中的框架。现有的最先进的方法,顺序嵌入和双曲蕴涵锥,盘嵌入在欧氏空间和球的实例分别。此外,我们提出了一种新的方法双曲盘嵌入处理指数增长的关系。我们的实验结果表明,我们的磁盘嵌入模型优于现有的方法,特别是在复杂的DAG以外的树。
2019-05-15 cs.LG stat.ML
HyPE: Attention with Hyperbolic Biases for Relative Positional Encoding
Independent Researcher(独立研究者)
本文提出HyPE方法,利用双曲函数编码token相对位置,在不存储$O(L^2)$掩码的情况下为注意力机制施加偏置,兼容FlashAttention-2并支持梯度回传,且可近似ALiBi的注意力偏置以提升长上下文泛化能力。
2026-10-20 cs.LG
HCC+: Hyperbolic Guarding for Certified Attention Retrieval
针对双曲空间注意力检索的有限精度确定性保证问题,提出HCC+理论框架,实现10%以内的注意力偏差、O(1/√n)的软注意力总变差衰减,并获6.1倍存储缩减,为非欧几何提供首个相关确定性检索证书。
2026-08-27 cs.DS cs.LG
Lorentzian Graph Convolutional Networks
Beijing University of Posts and Telecommunications(北京邮电大学);Peking University(北京大学)
图卷积网络(GCN)近年来受到了广泛的研究关注。大多数GCN学习欧几里得几何中的节点表示,但在嵌入具有无标度或分层结构的图的情况下,这可能会产生高度失真。最近,一些GCN被提出来处理非欧几何中的这个问题,例如,双曲几何虽然双曲GCN取得了令人满意的性能,但现有的双曲图操作实际上不能严格遵循双曲几何,这可能会限制双曲几何的能力,从而损害双曲GCN的性能。本文提出了一种新的双曲GCN--洛伦兹图卷积网络(LGCN),它严格保证了学习的节点特征遵循双曲几何。具体地说,我们用洛伦兹版本重建了双曲GCN的图运算,例如,特征变换和非线性激活。此外,一个优雅的邻域聚合方法设计的基础上的洛伦兹距离的质心。此外,我们还证明了所提出的一些图运算在不同类型的双曲几何中是等价的,这从根本上说明了它们的正确性。在六个数据集上的实验表明,LGCN的性能优于最先进的方法。与现有的双曲GCN相比,LGCN具有更低的失真来学习树状图的表示。我们还发现,一些双曲GCN的性能可以得到改善,通过简单地取代与我们在本文中定义的图操作。
2021-04-15 cs.LG
Enhancing Hyperbolic Graph Embeddings via Contrastive Learning
Harbin Institute of Technology(Shenzhen)(哈尔滨工业大学(深圳));The Chinese University of Hong Kong(香港中文大学);Huawei Technologies co.ltd(华为技术有限公司);Shenzhen University(深圳大学)
最近,双曲空间已经成为半监督图表示学习的一个有前途的替代方案。已经做出了许多努力来设计神经网络操作的双曲线版本。然而,这种独特的几何形状的鼓舞人心的几何特性尚未得到充分的探索。由双曲空间驱动的图模型的潜力仍然在很大程度上被低估。此外,大量未标记样本所携带的丰富信息也没有得到很好的利用。受最近活跃的和新兴的自监督学习的启发,在本研究中,我们试图通过利用对比学习的优点来增强双曲图模型的表示能力。更具体地说,我们提出了一种新的双曲图对比学习(HGCL)框架,通过多个双曲空间学习节点表示,隐式地捕捉不同视图之间共享的层次结构。然后,我们设计了一个基于双曲距离和同伦假设的双曲位置一致性(HPC)约束,使对比学习适合于双曲空间。在多个真实数据集上的实验结果表明了所提出的HGCL的优越性,因为它在节点分类任务上始终优于竞争方法。
2022-01-21 cs.LG
LAtte: Hyperbolic Lorentz Attention for Cross-Subject EEG Classification
Data Science Group(数据科学组);ISMLL;Universität Hildesheim(希尔德斯海姆大学)
本文提出LAtte框架,结合双曲InceptionTime编码器与洛伦兹注意力,提升跨受试者EEG分类性能,通过分解EEG信号并引入低秩适应模块增强鲁棒性与泛化能力。
2026-05-14 cs.LG
Random Walk Guided Hyperbolic Graph Distillation
University of Cambridge(剑桥大学);The Alan Turing Institute(阿兰·图灵研究所)
本文提出HyDRO方法,利用双曲嵌入捕捉复杂几何模式并优化谱隙,有效解决了现有图蒸馏方法无法捕捉树状几何结构和动态属性的问题,在节点分类、链接预测及持续图学习等任务中表现优异。
2025-01-26 cs.LG
Busemann energy-based attention for emotion analysis in Poincaré discs
本文提出EmBolic,一种全新的全双曲深度学习架构,用于从文本消息中进行细粒度情感分析。通过双曲几何捕捉词与情感间的层次结构,利用双曲盘中的注意力机制生成查询并计算Busemann能量以预测情感。
2026-04-08 cs.LG
DeepHGCN: Toward Deeper Hyperbolic Graph Convolutional Networks
School of Electrical Engineering, Electronics and Computer Science, University of Liverpool(利物浦大学电气、电子与计算机科学学院);Southeast University(东南大学)
本文提出首个深层多层双曲图卷积网络 DeepHGCN,通过快速准确的双曲特征变换、残差连接与正则化缓解计算开销和过平滑,并在链路预测与节点分类上显著优于欧几里得及浅层双曲基线。
2024-08-09 cs.LG
Residual Hyperbolic Graph Convolution Networks
Beijing Institute of Technology(北京理工大学);Guangdong Laboratory of Machine Perception and Intelligent Computing(广东省机器感知与智能计算实验室);Shenzhen MSU-BIT University(深圳北理莫斯科大学)
针对 HGCN 随层数加深产生的过平滑问题,本文提出 R-HGCN,通过双曲残差连接、多原点乘积流形和 HyperDrop 增强表示并缓解过拟合。
2024-12-05 cs.LG
FFHR: Fully and Flexible Hyperbolic Representation for Knowledge Graph Completion
University of Science and Technology of China(中国科学技术大学);meituan(美团);Sichuan University(四川大学)
知识图谱的双曲嵌入学习由于其在捕获层次结构方面的优势而受到越来越多的关注。然而,双曲空间中的一些重要运算仍然缺乏良好的定义,使得现有的方法无法充分利用双曲空间的优点。具体而言,它们受到两个主要限制:1)现有的双曲空间中的图卷积网络(GCN)方法依赖于切空间近似,这会在表示学习中产生近似误差; 2)由于双曲空间中缺乏内积运算定义,现有方法只能用双曲距离来度量事实(链接)的可扩展性,其难以捕获复杂的数据模式。在这项工作中,我们贡献:1)一个完整的庞加莱多关系GCN,实现了图信息传播在双曲空间,而不需要任何近似,和2)双曲推广的欧几里得内积,这是有益的,以捕捉层次和复杂的模式。在此基础上,我们进一步发展了一个\textbf{F} ully和\textbf{F} flexible \textbf{H}双曲\textbf{R}表示框架(\textbf{FFHR}),它能够将最近的基于欧几里得的进展转移到双曲空间。我们证明它通过实例化FFHR与四个代表性的KGC方法。在基准数据集上进行的大量实验验证了我们的FFHR比欧几里得算法以及最先进的双曲嵌入方法的优越性。
2023-02-07 cs.IR cs.LG
Hyperbolic Graph Diffusion Model
East China Normal University(华东师范大学);Information Engineering University(信息工程大学)
针对现实图数据的非欧几里得和层次特性,提出双曲图扩散模型(HGDM),利用双曲自编码器与潜在扩散模型提取层次分布并生成图,在高度层次结构的图生成质量上提升48%。
2024-01-03 cs.AI cs.LG q-bio.QM
Bending the Future: Autoregressive Modeling of Temporal Knowledge Graphs in Curvature-Variable Hyperbolic Spaces
University of Southern California(南加州大学);University of California, Los Angeles(加州大学洛杉矶分校)
近年来,时变知识图谱或时态知识图谱(TKG)越来越受到学术界的关注。以往的研究表明,不同的方法TKG推理,使用历史信息。然而,较少关注的层次结构内的信息在不同的时间戳。假定TKG是基于时间的知识图谱的序列,则序列中的年表导出图之间的层次结构。此外,每个知识图谱具有其可以彼此不同的层次级别。为了解决TKG中的这些层次特征,我们提出了HyperVC,它利用双曲空间比欧几里得空间更好地编码层次。通过将知识图谱作为向量嵌入到公共双曲空间中,来表示不同时间戳处的知识图谱之间的时序层次。此外,不同层次的知识图谱表示通过调整其实体和关系的双曲嵌入的曲率。在四个基准数据集上的实验表明,该算法有了很大的改进,特别是在层次较高的数据集上。
2022-09-12 cs.AI cs.LG
Hypformer: Exploring Efficient Transformer Fully in Hyperbolic Space
Yale University(耶鲁大学);Birla Institute of Technology(比拉理工学院);The Chinese University of Hong Kong(香港中文大学)
针对双曲空间中Transformer适配研究有限的问题,提出基于Lorentz模型的Hypformer,通过定义双曲空间核心模块及线性自注意力机制,首次实现十亿规模图数据和长序列处理,验证了其有效性与可扩展性。
2025-08-24 cs.AI cs.LG
Metapath-based Hyperbolic Contrastive Learning for Heterogeneous Graph Embedding
提出MHCL框架,利用多个双曲空间捕获异构图中多样幂律结构,通过对比学习增强元路径嵌入可区分性,实验证明其优于现有基线。
2025-06-20 cs.AI cs.LG cs.SI
sHGCN: Simplified hyperbolic graph convolutional neural networks
Department of Artificial Intelligence(人工智能系);Nostrum Biodiscovery S.L.(诺斯特姆生物发现有限公司)
针对双曲神经网络计算效率低、高精度任务表现不佳的问题,提出简化核心运算的sHGCN,显著提升了运行速度与预测准确率,拓展了双曲神经网络的应用范围。
2025-06-17 cs.AI cs.LG
Comparing Euclidean and Hyperbolic Embeddings on the WordNet Nouns Hypernymy Graph
Bloomberg(彭博)
Nickel和Kiela(2017)提出了一种在庞加莱球中嵌入树节点的新方法,并提出这些双曲嵌入在大型分层结构图(如WordNet名词上位树)中嵌入节点时比欧几里得嵌入更有效。这在低维度中尤其如此(Nickel和Kiela,2017,表1)。在这项工作中,我们试图重现他们的实验嵌入和重建WordNet名词上位图。相反,他们的报告,我们发现,欧几里德嵌入能够表示这棵树至少以及庞加莱嵌入,当允许至少50个维度。我们注意到,这并没有削弱他们的工作的重要性,因为双曲嵌入在非常低维的设置中有着令人印象深刻的性能。然而,考虑到他们的工作的广泛影响,我们在这里的目的是提出一个更新的和更准确的比较欧几里德和双曲嵌入。
2021-09-15 cs.CL cs.LG