HetCAN: A Heterogeneous Graph Cascade Attention Network with Dual-Level Awareness
School of Data Science and Engineering, East China Normal University(华东师范大学数据科学与工程学院);Baidu Inc.(百度公司)
针对异构图方法忽略特征级交互且易丢失节点类型信息的问题,本文提出由类型感知与维度感知编码器级联构成的 HetCAN,全面编码特征、异质性与结构信息,实验验证其优越、高效且鲁棒。
2024-05-29 cs.LG cs.SI
HeteGraph-Mamba: Heterogeneous Graph Learning via Selective State Space Model
Northwestern University(西北大学);Texas A&M University(德克萨斯农工大学)
提出HGMN,首次将选择性状态空间模型用于异构图学习,通过两级标记化捕获长距离依赖,在异构基准上超越19种最先进方法。
2024-05-22 cs.LG cs.SI
Modelling graph dynamics in fraud detection with "Attention"
ETH Zurich(苏黎世联邦理工学院);Ebay China(易贝中国)
在在线零售平台上,检测欺诈性账户和交易对于改善客户体验、最大限度地减少损失和避免未经授权的交易至关重要。尽管图上的深度学习有各种不同的模型,但很少有方法被提出来处理异构和动态的图。在本文中,我们提出了DyHGN(动态异构图神经网络)和它的变种捕捉时间和异构信息。我们首先从eBay的注册和交易数据构建动态异构图。然后,我们建立模型的历时实体嵌入和异构图Transformer。我们还使用模型可解释性技术来理解DyHGN-* 模型的行为。我们的研究结果表明,建模图形动态与异构输入需要进行“注意”取决于数据结构,分布和计算成本。
2022-04-22 cs.AI cs.LG cs.SI
Deep Generation of Heterogeneous Networks
本文提出异质图生成框架HGEN,通过异质游走生成器和异质图组装器联合建模语义、结构与全局分布,并在多数据集上验证其生成逼真异质图的有效性。
2023-07-05 cs.IT cs.SI math.IT
Meta Graph Attention on Heterogeneous Graph with Node-Edge Co-evolution
Didi Chuxing(滴滴出行)
图神经网络已成为结构化数据建模的重要工具。在许多现实世界的系统中,可能存在复杂的隐藏信息,例如,节点/边的异质性、静态节点/边属性和时空节点/边特征。然而,大多数现有的方法只考虑了部分信息。在本文中,我们提出了协同进化的Meta图神经网络(CoMGNN),它适用于元图注意异构图的节点和边缘状态的协同进化。我们进一步提出了一个时空适应的CoMGNN(ST-CoMGNN)的节点和边缘的时空模式建模。我们在两个大规模的真实世界数据集上进行了实验。实验结果表明,我们的模型显着优于国家的最先进的方法,从不同方面的编码不同的信息的有效性。
2020-10-09 cs.LG cs.SI stat.ML
Fake News Detection on News-Oriented Heterogeneous Information Networks through Hierarchical Graph Attention
Florida State University(佛罗里达州立大学)
假新闻的病毒式传播造成了巨大的社会危害,使得假新闻侦破成为一项紧迫的任务。目前的假新闻检测方法严重依赖于文本信息,通过学习提取的新闻内容或写作风格的内部知识。然而,故意的谣言可以掩盖写作风格,绕过语言模型,并使简单的基于文本的模型无效。事实上,新闻文章和其他相关组件(如新闻创作者和新闻主题)可以建模为异构信息网络(简称HIN)。本文提出了一种新的虚假新闻检测框架--层次图注意力网络(HGAT),该框架利用层次注意力机制对HIN中的节点进行表示学习,然后通过对新闻文章节点进行分类来检测虚假新闻。在两个真实世界的假新闻数据集上的实验表明,HGAT可以优于基于文本的模型和其他基于网络的模型。此外,实验证明了我们的图表示学习和其他节点分类相关的应用在异构图的可扩展性和通用性。
2021-02-13 cs.CL cs.LG cs.SI
Enhancing Homophily-Heterophily Separation: Relation-Aware Learning in Heterogeneous Graphs
School of Computer Science and Technology(计算机科学与技术学院);Xidian University(西安电子科技大学)
针对异构图中节点异配性建模的挑战,提出对比学习框架RASH,通过双异构超图编码与关系重要性动态构建同配/异配图,并利用多关系对比损失最大化互信息,有效解决了异质性与异配性双重难题。
2025-06-26 cs.AI cs.SI
Graphlet and Orbit Computation on Heterogeneous Graphs
针对异质图中 graphlet 与 orbit 计算难题,本文将其建模为有色图,利用规范标号处理多状态节点和边的同构判定,并提供可生成 orbit、统计频率的 Python 包。
2023-06-05 cs.SI physics.data-an
Metapaths guided Neighbors aggregated Network for?Heterogeneous Graph Reasoning
Alibaba Group(阿里巴巴集团)
大多数真实世界的数据集本质上是异构的图,涉及到节点和关系类型的多样性。异构图嵌入是从图中学习结构和语义信息,然后嵌入到低维节点表示中。现有的方法通常通过定义元路径来捕捉异构图的复合关系,元路径表示图的语义。然而,这些方法要么忽略节点属性,要么丢弃图的局部和全局信息,要么只考虑一个元路径。为了解决这些限制,我们提出了一个元路径引导的邻居聚集异构图神经网络(MHN),以提高性能。特别地,MHN采用节点基嵌入来封装节点属性,元路径内的BFS和DFS邻居聚合来捕获局部和全局信息,以及元路径聚合来组合异构图的不同语义。我们在三个真实世界的异构图数据集上进行了大量的实验,包括节点分类,链接预测和阿里巴巴移动应用程序的在线A/B测试。结果表明,MHN表现优于其他国家的最先进的基线。
2021-03-11 cs.AI cs.LG cs.SI
Heterogeneous Graph Transformer
University of California, Los Angeles(加州大学洛杉矶分校);Microsoft Research(微软研究院)
近年来,图神经网络(GNNs)在结构化数据建模方面取得了巨大的成功。然而,大多数GNN都是为同构图设计的,其中所有节点和边都属于相同的类型,这使得它们无法表示异构结构。在本文中,我们提出了异构图Transformer(HGT)的架构建模Web规模的异构图。为了对异质性进行建模,我们设计了节点和边缘类型相关的参数来表征每个边缘上的异质注意力,使HGT能够为不同类型的节点和边缘保持专用的表示。为了处理动态异构图,我们将相对时间编码技术引入到HGT中,它能够捕获具有任意持续时间的动态结构依赖。为了处理Web规模的图数据,我们设计了异构小批量图采样算法--HGSampling--以实现高效和可扩展的训练。在1.79亿个节点和20亿条边的Open Academic Graph上进行的大量实验表明,所提出的HGT模型在各种下游任务上的性能始终优于所有最先进的GNN基线9%-21%。
2020-03-03 cs.LG cs.SI stat.ML
Representing Social Networks as Dynamic Heterogeneous Graphs
Muma College of Business University of South Florida
过去,现实世界社交网络的图形表示缺少两个重要元素:连接的多样性以及表示时间。为此,在本文中,我们提出了一种新的动态异构图表示的社交网络,其中包括时间在每个单一的组成部分,即,节点和边,每一种都是不同的类型,它们捕获了异质性。我们通过提出四个时间相关查询和深度学习问题来说明这种表示的强大功能,这些问题在常用的传统同构图表示中无法轻松处理。作为概念的证明,我们提出了一个新的社交媒体平台(Steemit),我们用它来说明动态查询能力以及预测任务,使用图神经网络(GNNs)的详细表示。实验结果表明了动态异构图表示对社交网络建模的强大功能。鉴于这是一个相对欠研究的领域,我们还说明了未来的工作机会,在查询优化以及新的动态预测任务异构图结构。
2022-09-12 cs.AI cs.SI
AHEAD: A Triple Attention Based Heterogeneous Graph Anomaly Detection Approach
Xi’an Jiaotong University(西安交通大学);University of Virginia(弗吉尼亚大学);University of Washington(华盛顿大学);Ant Financial(蚂蚁金服)
属性网络上的图异常检测因其在许多有影响力的领域中的广泛应用而成为一个热门的研究课题。在现实世界中,属性网络中的节点和边通常表现出明显的异质性,即不同类型节点的属性表现出极大的多样性,不同类型的关系表现出不同的意义。在这些网络的异质性的各种角度来看,异常通常表现得与大多数不同。然而,现有的图异常检测方法没有利用属性网络中的异质性,这是高度相关的异常检测。针对这一问题,我们提出了AHEAD:一种基于编码器-解码器框架的异质性感知无监督图异常检测方法。具体而言,编码器设计了属性级、节点类型级和边级三个层次的注意力,分别用于捕捉网络结构、节点属性和单个节点信息的异质性。在解码器中,我们利用结构,属性和节点类型重建条款,以获得每个节点的异常得分。大量的实验表明,AHEAD的优越性在几个现实世界的异构信息网络相比,在无监督设置的艺术。进一步的实验验证了我们的三重注意力,模型骨干和解码器的有效性和鲁棒性。
2022-08-17 cs.LG cs.SI
DisenHAN: Disentangled Heterogeneous Graph Attention Network for Recommendation
Peking University(北京大学);University of Washington(华盛顿大学)
由于异构信息网络可以模拟用户与项目交互过程中丰富的上下文信息,因此被广泛用于解决推荐系统中的稀疏性和冷启动问题。图神经网络能够通过在图上的传播来编码这种丰富的上下文信息。然而,现有的异构图神经网络忽略了不同方面潜在因素的纠缠性。此外,现有方法中的Meta路径被简化为节点对之间的连接路径或边信息,忽略了路径中丰富的语义信息。在本文中,我们提出了一种新的解纠缠异构图注意力网络DisenHAN顶部- $N$推荐,学习解纠缠用户/项目表示从不同的方面在一个异构的信息网络。特别是,我们使用Meta关系来分解节点对之间的高阶连接,并提出了一个解开嵌入传播层,它可以迭代地识别Meta关系的主要方面。我们的模型从目标用户/项目的每个Meta关系中聚合相应的方面特征。通过不同层次的嵌入传播,DisenHAN能够显式地捕捉协同过滤效果的语义。在三个真实世界数据集上的广泛实验表明,DisenHAN始终优于最先进的方法。我们通过富有洞察力的案例研究和可视化进一步证明了学习到的解纠缠表示的有效性和可解释性。
2021-06-21 cs.IR cs.LG cs.SI
GAHNE: Graph-Aggregated Heterogeneous Network Embedding
Tsinghua University(清华大学)
现实世界中的网络往往由不同类型的节点和边组成,具有丰富的语义,被广泛称为异构信息网络(HIN)。异构网络嵌入的目的是将节点嵌入到低维向量中,以获取异构网络丰富的内在信息。然而,现有的模型要么依赖于人工设计的元路径,忽略了不同语义之间的相互影响,或忽略了全球网络的某些方面的信息。为了解决这些局限性,我们提出了一种新的图聚合异构网络嵌入(GAHNE),旨在尽可能全面地提取HIN的语义,以改善基于图卷积神经网络的下游任务的结果。在GAHNE模型中,我们开发了几种机制,可以聚合来自不同单类型子网络的语义表示,以及融合全局信息到最终的嵌入。在三个真实世界的HIN数据集上进行的大量实验表明,我们提出的模型始终优于现有的最先进的方法。
2020-12-23 cs.AI cs.SI
Homophily-aware Heterogeneous Graph Contrastive Learning
Southeast University(东南大学);East China Normal University(华东师范大学);Zhejiang University of Finance and Economics(浙江财经大学)
针对现有异质图预训练忽视真实图异质性问题,提出基于连接强度与多视图自表达的HGMS框架,通过异质边丢弃增强、自表达矩阵求解优化对比学习,在多下游任务上性能更优。
2025-01-15 cs.LG cs.SI
AH-UGC: Adaptive and Heterogeneous-Universal Graph Coarsening
Yardi School of Artificial Intelligence(雅迪人工智能学院);Department of Electrical Engineering(电气工程系);Bharti School of Telecommunication Technology and Management(巴希蒂电信技术与管理学院)
提出AH-UGC框架,结合局部敏感哈希与一致性哈希实现自适应图粗化,并针对异构图提出类型隔离策略,在23个数据集上验证了高效性与结构语义保持。
2025-05-18 cs.LG cs.SI
Graph Embedding with Rich Information through Heterogeneous Network
King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
图嵌入由于其在社会网络分析中的重要应用而受到越来越多的关注。现有的图嵌入算法大多只依赖于图的类型信息,而没有充分利用图中丰富的节点和边信息。因此,他们在许多任务上的表现可能不令人满意。本文通过构造一个二分异构网络,提出了一种新颖的、通用的富文本信息图的表示学习框架。特别地,我们设计了一个有偏随机游动来探索所构建的异构网络与灵活的邻域的概念。我们的方法的有效性证明了广泛的比较实验与不同的数据集上的几个基线。在Cora数据集上,节点分类的Micro-F1和Macro-F1分别提高了10%和7%。
2018-01-17 cs.AI cs.SI
Heterogeneous Graph Generation: A Hierarchical Approach using Node Feature Pooling
Indian Institute of Technology Kharagpur(印度理工学院克勒格布尔分校);Singapore Management University(新加坡管理大学);Rutgers University(罗格斯大学)
本文提出一种两阶段分层结构的异构图生成方法,第一阶段用基于扩散的模型生成带节点类型的骨架图,第二阶段用编码器、采样器和判别器从节点特征池中采样分配特征,在IMDB和DBLP子集上验证了有效性。
2024-10-15 cs.LG cs.SI
Heterogeneous Deep Graph Infomax
Florida State University(佛罗里达州立大学);JD Finance America Corporation(京东金融美国公司)
图表示学习是学习既保留节点属性又保留结构信息的通用节点表示。导出的节点表示可以用于服务于各种下游任务,例如节点分类和节点聚类。当一个图是异构的,问题变得更具挑战性比同构图节点学习问题。受新兴的基于信息理论的学习算法的启发,本文提出了一种用于异构图表示学习的无监督图神经网络Heterogeneous Deep Graph Infomax(HDGI)。我们使用元路径结构来分析异构图中涉及语义的连接,并利用图卷积模块和语义级注意力机制来捕获局部表示。通过最大化局部-全局互信息,HDGI有效地学习可以在下游图相关任务中使用的高级节点表示。实验结果表明,HDGI在分类和聚类任务上都明显优于最先进的无监督图表示学习方法。通过将学习到的表示馈送到参数模型(如逻辑回归)中,我们甚至在节点分类任务中实现了与最先进的监督端到端GNN模型相比相当的性能。
2020-11-13 cs.LG cs.SI stat.ML
Meta-node: A Concise Approach to Effectively Learn Complex Relationships in Heterogeneous Graphs
Seoul National University(首尔大学);NAVER
由于异构图的固有性质,现有的用于异构图的消息传递神经网络依赖于元路径或元图的概念。然而,元路径和元图需要在学习之前预先配置,并且高度依赖于专家知识来构建它们。为了解决这个问题,我们提出了一个新的概念,元节点的消息传递,可以学习丰富的关系知识,从复杂的异构图,没有任何元路径和元图显式建模之间的关系相同类型的节点。与元路径和元图不同,元节点不需要任何需要专业知识的预处理步骤。更进一步,我们提出了一个元节点的消息传递计划,并将我们的方法应用到对比学习模型。在节点聚类和分类任务的实验中,所提出的元节点消息传递方法优于依赖于元路径的现有技术。我们的研究结果表明,有效的异构图学习是可能的,而不需要在这个领域中经常使用的元路径。
2022-10-26 cs.AI cs.LG cs.SI
Multiplex Heterogeneous Graph Convolutional Network
Ocean University of China(中国海洋大学);The University of Hong Kong(香港大学);Shandong University of Science and Technology(山东科技大学)
异构图卷积网络在处理异构网络数据的各种网络分析任务(范围从链接预测到节点分类)中获得了极大的普及。然而,现有的研究大多忽略了多类型节点间的关系异构性以及节点嵌入时元路径中关系重要性的差异,难以捕捉不同关系间的异构结构信号。为了解决这一问题,本文提出了一种用于异构网络嵌入的多路异构图卷积网络(MHGCN)。我们的MHGCN可以自动学习有用的异构元路径的相互作用,通过多层卷积聚合在多个异构网络中的不同长度。此外,我们有效地集成多关系结构信号和属性语义到学习节点嵌入与无监督和半监督学习范例。在五个具有各种网络分析任务的真实世界数据集上进行的广泛实验表明,MHGCN在所有评估指标方面都优于最先进的嵌入基线。
2022-08-12 cs.AI cs.LG cs.SI
Higher-order Spectral Clustering for Heterogeneous Graphs
Stanford University(斯坦福大学);Adobe Research(Adobe 研究院)
高阶连通性模式,如称为graphlet(网络基序)的小诱导子图,对于理解控制复杂网络配置和行为的重要组件(模块/功能单元)至关重要。现有的工作在高阶聚类集中在一个单一的节点/边类型的简单的同质图。然而,由不同类型的节点和边组成的异构图在现实世界中似乎无处不在。在这项工作中,我们引入了typed-graphlet的概念,明确地捕捉丰富的(类型化的)连接模式在异构网络。使用typed-graphlets作为基础,我们开发了一个通用的原则框架,在异构网络中的高阶聚类。该框架提供了数学保证的最优的高阶聚类。实验证明了该框架的有效性定量的三个重要的应用程序,包括(i)聚类,(ii)链接预测,和(iii)图压缩。特别是,该方法实现了43倍的平均改善所有的方法和图形聚类,同时实现了18.7%和20.8%的改善链接预测和图形压缩,分别。
2018-10-06 cs.LG cs.SI math.SP
Metapath-based Hyperbolic Contrastive Learning for Heterogeneous Graph Embedding
提出MHCL框架,利用多个双曲空间捕获异构图中多样幂律结构,通过对比学习增强元路径嵌入可区分性,实验证明其优于现有基线。
2025-06-20 cs.AI cs.LG cs.SI
Heterogeneous Network Motifs
Adobe Research(奥多比研究院);Intel Labs(英特尔研究院);Stanford University(斯坦福大学)
许多现实世界的应用产生了大型异构网络,其中节点和边可以是任何任意类型(例如,用户、网页、位置)。这种异构图的特殊情况包括齐次图、二部图、k部图、带符号图、标记图等。在这项工作中,我们推广的概念,网络图案的异构网络。特别是,小诱导类型的子图称为类型的graphlets(异构网络图案)的介绍,并证明是复杂的异构网络的基本组成部分。类型化小图是小图(网络基序)概念到异构网络的有力概括,因为它们捕获感兴趣的诱导子图以及与诱导子图中的节点相关联的类型。为了解决这个问题,我们提出了一个快速,并行和空间效率的框架,用于计算大型网络中的类型化图。我们发现低阶($k-1$)节点类型的小图之间存在非平凡的组合关系,并利用它们在$o(1)$恒定时间内导出许多$k$节点类型的小图。因此,我们避免显式枚举那些类型化的graphlet。值得注意的是,时间复杂度与最佳无类型图计数算法相匹配。实验表明,所提出的框架的有效性,在运行时间,空间效率,并行加速,和可扩展性,因为它是能够处理大规模的网络。
2019-05-11 cs.DM cs.DS cs.LG
Heterogeneous-Temporal Graph Convolutional Networks: Make the Community Detection Much Better
Harbin Institute of Technology(哈尔滨工业大学);Jilin University(吉林大学);Peng Cheng Laboratory(鹏城实验室);Nanyang Technological University(南洋理工大学)
社区发现一直是复杂网络分析中的一个重要而又具有挑战性的课题,其研究重点是发现图数据的拓扑结构。本质上,真实世界的图数据包含各种特征、节点和边类型,这些特征随时间动态变化,这使得大多数现有的社区发现方法失效。为了解决这些问题,本文提出了异构时间图卷积网络(HTGCN),以检测社区从异构和时间图。特别地,我们首先设计了一个异构GCN组件,以获取每个异构图在每个时间步的特征表示。然后,提出了一个残余的压缩聚合组件来表示“变化”社区的“动态”特征,然后将其与从当前图中提取的“静态”特征聚合。在两个真实世界的数据集上进行了广泛的实验,即,DBLP和IMDB。有希望的结果表明,提出的HTGCN是优于基准和国家的最先进的方法,例如,GCN、GAT、GNN、LGNN、HAN和STAR,涉及若干评价标准。
2020-03-13 cs.LG cs.SI stat.ML
Heterogeneous Graph Attention Networks for Early Detection of Rumors on Twitter
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院);Macquarie University(麦考瑞大学);Xiaomi AI Lab(小米人工智能实验室)
随着移动互联网技术的快速发展和移动设备的广泛使用,人们在社交媒体上表达自己的意见变得更加容易。社交媒体平台的开放性和便利性为人们提供了自由表达的机会,但也引发了新的社会问题。社交媒体上虚假谣言的泛滥会带来公众的恐慌,损害个人声誉,这使得谣言自动检测技术变得尤为必要。现有的大多数谣言检测方法都集中在从文本内容、用户简档和传播模式中挖掘有效特征。然而,这些方法并没有充分利用文本内容的全局语义关系,这体现了谣言的语义共性作为检测谣言的关键因素。本文基于谣言的文本内容和源推文传播,构建了一个推文-词-用户异质图。提出了一种基于元路径的异构图注意力网络框架,用于捕获文本内容的全局语义关系,以及源推文传播的全局结构信息,用于谣言检测。真实世界的Twitter数据上的实验证明了所提出的方法的优越性,它也具有相当的能力,在非常早期的阶段检测谣言。
2020-06-10 cs.IR cs.LG cs.SI
Semisupervised Learning on Heterogeneous Graphs and its Applications to Facebook News Feed
Facebook, Inc(脸书公司);University of California, Berkeley(加州大学伯克利分校)
基于图的半监督学习是机器学习的一个基本问题,已经得到了很好的研究。大多数研究集中在同质网络(如引文网络、朋友网络)上。在本文中,我们提出了异构嵌入标签传播(HELP)算法,这是一种基于图的半监督深度学习算法,用于以异构节点类型为特征的图。实证上,我们证明了这种方法在领域分类任务与Facebook的用户域交互图的有效性,并比较所提出的HELP算法的性能与最先进的算法。我们表明,HELP算法提高了多个任务的预测性能,同时具有语义意义的嵌入对下游分类或回归任务具有区分性。
2018-07-05 cs.IR cs.LG cs.MM
Hyperbolic Heterogeneous Graph Transformer
Department Computer Science and Engineering(计算机科学与工程系);Chungnam National University(Chungnam国立大学);School of Mathematics and Computing (Computational Science and Engineering)(数学与计算学系(计算科学与工程));Yonsei University(延世大学)
HypHGT通过双曲空间内的变换器架构,高效捕捉异质图的局部和全局依赖关系,提升节点分类性能并减少计算开销。
2026-01-13 cs.AI cs.LG cs.SI
HMSG: Heterogeneous Graph Neural Network based on Metapath Subgraph Learning
College of Computer Science, Chongqing University(重庆大学计算机学院);School of Computer Science, Shaanxi Normal University(陕西师范大学计算机学院)
针对现有异构图模型处理同构和异构邻居信息不够全面的问题,提出 HMSG 模型,通过分解元路径子图并独立聚合消息,全面捕获结构、语义和属性信息,在多项任务上取得最优性能。
2021-09-07 cs.AI cs.LG cs.SI
FedHGN: A Federated Framework for Heterogeneous Graph Neural Networks
The Chinese University of Hong Kong(香港中文大学)
针对联邦异构图学习中私有图模式隐私问题,提出FedHGN框架,通过模式-权重解耦和系数对齐实现与模式无关的知识共享,在多个数据集上优于传统方法。
2023-05-16 cs.AI cs.DC cs.LG