Hypergraph Convolution and Hypergraph Attention
University of Oxford(牛津大学)
近年来,图神经网络引起了人们的极大关注,并在各个研究领域取得了突出的表现。这些算法中的大多数都假设了感兴趣对象的成对关系。然而,在许多实际应用中,对象之间的关系是高阶的,超出了成对的公式。为了有效地学习高阶图结构数据上的深度嵌入,我们向图神经网络家族引入了两个端到端可训练算子,即,超图卷积和超图注意。虽然超图卷积定义了在超图上执行卷积的基本公式,但超图注意力通过利用注意力模块进一步增强了表示学习的能力。利用这两个算子,图神经网络可以很容易地扩展为更灵活的模型,并应用于观察到非成对关系的各种应用。半监督节点分类的大量实验结果证明了超图卷积和超图注意力的有效性。
2020-10-10 cs.CV cs.LG stat.ML
Deep Hypergraph U-Net for Brain Graph Embedding and Classification
Istanbul Technical University(伊斯坦布尔理工大学);University of Dundee(邓迪大学)
- 背景网络神经科学将大脑作为一个由网络(或连接体)表示的复杂系统进行研究,为大脑形态和功能提供更深入的见解,允许识别非典型的大脑连接改变,这可以用作神经系统疾病的诊断标志物。- 现有方法。映射数据样本的图嵌入方法(例如,脑网络)到低维空间中的方法已经被广泛用于探索用于分类或预测任务的样本之间的关系。然而,这些工作中的大多数都是基于对样本之间的成对关系建模,未能捕捉到它们的高阶关系。- 新方法在本文中,受几何深度学习这一新兴领域的启发,我们提出了Hypergraph U-Net(HUNet),这是一种新型的数据嵌入框架,利用超图结构来学习数据样本的低维嵌入,同时捕获它们的高阶关系。具体来说,我们通过改进局部特征聚合和保留数据中存在的高阶关系,将自然在图上操作的U-Net架构推广到超图。- 结果我们分别在小规模和大规模的异构脑连接数据集上测试了我们的方法,这些数据集包括自闭症和痴呆患者的形态和功能脑网络。- 结论我们的HUNet优于最先进的几何图和超图数据嵌入技术,分类准确率提高了4-14%,证明了可扩展性和可推广性。HUNet代码可在https://github.com/basiralab/HUNet上获得。
2020-08-30 cs.CV cs.LG q-bio.NC
UniG-Encoder: A Universal Feature Encoder for Graph and Hypergraph Node Classification
Fudan University(复旦大学);Institute of AI and Robotics, Academy for Engineering and Technology, Fudan University(复旦大学工程与应用技术研究院人工智能与机器人研究所);Research Institute of Intelligent Complex Systems, Fudan University(复旦大学智能复杂体系研究院)
针对现有GNN/HGNN在部分基准上不及MLP的问题,提出UniG-Encoder通用特征编码器,通过投影矩阵正反向变换统一利用节点特征与拓扑,在12个超图和6个图数据集上超越现有方法。
2023-08-03 cs.LG
Un-normalized hypergraph p-Laplacian based semi-supervised learning methods
EPHE-PSL University(巴黎高等实践研究学院-PSL大学)
大多数基于网络的机器学习方法都假设网络中两个相邻样本的标签很可能是相同的。然而,假设样本之间的成对关系是不完整的。一组样本显示非常相似的模式,往往有类似的标签的信息被错过了。克服上述假设的信息损失的自然方法是将样本的特征数据集表示为超图。因此,在本文中,我们将提出非规范化超图p-Laplacian半监督学习方法。这些方法将应用于动物园数据集和20个新闻组数据集的小型版本。实验结果表明,这些基于非规范化超图p-Laplacian的半监督学习方法的准确率性能指标明显高于基于非规范化超图Laplacian的半监督学习方法(目前最先进的方法基于超图Laplacian的半监督学习方法用于p=2的分类问题)的准确率性能指标。
2019-04-28 cs.LG stat.ML
Message Passing Neural Networks for Hypergraphs
超图表示更有效,也更适合于描述由两个或多个对象之间的关系表征的数据。在这项工作中,我们提出了一个新的图神经网络的消息传递的基础上能够处理超图结构的数据。我们表明,该模型定义了一个超图的神经网络模型的设计空间,从而推广现有的超图模型。我们报告的基准数据集上的节点分类实验,突出了所提出的模型的有效性,相对于其他国家的最先进的方法的图形和超图。我们还讨论了使用超图表示的好处,并在同一时间,突出使用等价图表示的限制时,潜在的问题有两个以上的对象之间的关系。
2022-04-07 cs.LG
Heterogeneous Directed Hypergraph Neural Network over abstract syntax tree (AST) for Code Classification
School of Computer Science and Technology, East China Normal University(计算机科学与技术学院,东华大学);NPPA Key Laboratory of Publishing Integration Development, ECNUP(出版集成发展关键实验室,ECNUP)
针对现有代码分类方法忽略AST中高阶关联及语义结构信息的问题,提出异构有向超图及其神经网络,在Python和Java数据集上超越现有方法。
2025-09-24 cs.AI cs.LG cs.SE
You are AllSet: A Multiset Function Framework for Hypergraph Neural Networks
University of Illinois, Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
超图被用来模拟代理之间的高阶交互,并且存在许多实际相关的超图数据集实例。为了能够有效地处理超图结构的数据,已经提出了几个超图神经网络平台,用于学习超图的属性和结构,特别关注节点分类。然而,几乎所有现有的方法都使用启发式传播规则,并在许多数据集上提供次优性能。我们提出了AllSet,一种新的超图神经网络范式,它代表了(超)图神经网络的一个高度通用的框架,并首次将超图神经网络层实现为两个多集函数的组合,可以有效地学习每个任务和每个数据集。此外,AllSet利用了超图神经网络与多集函数深度学习的最新进展之间的新联系。特别是,所提出的架构利用深集和集Transformer架构,允许显着的建模灵活性,并提供高的表达能力。为了评估AllSet的性能,我们进行了迄今为止最广泛的实验,涉及十个已知的基准数据集和三个新策划的数据集,这些数据集代表了超图节点分类的重大挑战。结果表明,AllSet具有独特的能力,在测试数据集上始终匹配或优于所有其他超图神经网络。
2022-03-28 cs.AI cs.LG
Convolutional Signal Propagation: A Simple Scalable Algorithm for Hypergraphs
Cisco Systems, Inc.(思科系统公司);Faculty of Nuclear Sciences and Physical Engineering, Czech Technical University in Prague(布拉格捷克技术大学核科学与物理工程学院)
本文提出了一种非参数、简单且可扩展的卷积信号传播(CSP)算法,原生支持二部图(超图),在保持低计算复杂度的同时,在多领域真实数据集的检索与分类任务上表现优异,是理想的超图基线方法。
2024-09-26 cs.LG
Hypergraph-enhanced Dual Semi-supervised Graph Classification
School of Statistics and Data Science, Nankai University(南开大学统计与数据科学学院);Department of Computer Science, University of California, Los Angeles(加利福尼亚大学洛杉矶分校计算机系)
提出超图增强双框架HEAL,通过超图结构学习和线图交互捕捉高阶依赖,结合关系一致性学习,有效解决半监督图分类中标记数据稀缺问题。
2024-05-28 cs.AI cs.IR cs.LG
A HyperGraphMamba-Based Multichannel Adaptive Model for ncRNA Classification
提出HGMamba-ncRNA,一种基于HyperGraphMamba的多通道自适应模型,整合序列、结构与表达特征,通过MKC-L、MSGraphTransformer和CPKAN分别建模各模态,在三个数据集上优于现有方法,实现准确鲁棒的ncRNA分类。
2025-09-24 cs.AI cs.LG
Edge Representation Learning with Hypergraphs
KAIST(韩国科学技术院);AITRICS
图神经网络最近在表示图结构数据方面取得了显著的成功,在节点嵌入和图池方法方面都取得了快速进展。然而,他们主要集中在从考虑其连通性的节点中捕获信息,而在表示作为图的基本组成部分的边方面没有做太多工作。然而,对于诸如图重构和生成的任务,以及边缘对于区分很重要的图分类任务,准确地表示给定图的边缘对于图表示学习的成功至关重要。为此,我们提出了一种新的边表示学习框架的基础上的对偶超图变换(DHT),它转换到超图的节点图的边。这种双重超图的建设,使我们能够应用消息传递技术的节点表示的边缘。在从超图获得边缘表示之后,我们然后聚类或丢弃边缘以获得整体图级边缘表示。我们验证了我们的边缘表示学习方法与超图在不同的图形数据集的图形表示和生成性能,我们的方法大大优于现有的图形表示学习方法。此外,我们的边表示学习和池化方法在图分类上也大大优于最先进的图池化方法,这不仅是因为其精确的边表示学习,而且还因为其节点的无损压缩和有效的消息传递的不相关边的去除。
2021-10-29 cs.LG
From Hypergraph Energy Functions to Hypergraph Neural Networks
Fudan University(复旦大学);Amazon(亚马逊);Peng Cheng Laboratory(鹏城实验室);Shanghai Collaborative Innovation Center of Intelligent Visual Computing(上海智能视觉计算协同创新中心)
本文提出参数化超图正则化能量函数,其极小值作为节点嵌入,通过双层优化端到端训练分类器,并在超图节点分类基准上取得最先进结果。
2023-06-19 cs.LG
Line Hypergraph Convolution Network: Applying Graph Convolution for Hypergraphs
IBM Research(IBM研究院);Indian Institute of Science(印度科学研究所)
由于不同类型的图神经网络的出现,网络表示学习和图中节点分类得到了极大的关注。图卷积网络(GCN)是一种流行的半监督技术,它聚集每个节点邻域内的属性。传统的GCN可以应用于每个边仅连接两个节点的简单图。但是,许多现代应用程序需要在图中建模高阶关系。超图是处理这种复杂关系的有效数据类型。在本文中,我们提出了一种新的技术,应用图卷积的超图具有可变的超边大小。在超图学习文献中,我们首次使用超图的线图的经典概念。然后,我们提出使用图卷积的线图超图。多个真实世界的网络数据集上的实验分析表明,我们的方法相比,国家的最先进的优点。
2020-02-09 cs.LG cs.SI
Learning from Heterogeneity: A Dynamic Learning Framework for Hypergraphs
School of Computer Science and Technology, Tongji University(同济大学计算机科学与技术学院);Ant Group(蚂蚁集团);School of Computer Science and Artificial Intelligence, Wuhan University of Technology(武汉理工大学计算机科学与人工智能学院);School of Computer Science, Fudan University(复旦大学计算机学院);School of Science, Computing and Engineering Technologies, Swinburne University of Technology(斯威本科技大学科学、计算与工程技术学院)
本文提出超图学习框架LFH,利用图的异质性进行动态超边构建与注意力嵌入更新,在节点分类和链路预测上显著优于现有方法。
2024-12-29 cs.LG
Equivariant Hypergraph Neural Networks
KAIST(韩国科学技术院);LG AI Research(LG人工智能研究院)
计算机视觉和机器学习中的许多问题都可以转换为表示高阶关系的超图上的学习。最近的超图学习方法扩展了基于消息传递的图神经网络,这是简单的,但从根本上限制了建模的长期依赖性和表达能力。另一方面,基于张量的等变神经网络具有最大的表达能力,但由于计算量大和对固定阶超边的严格假设,其应用在超图中受到限制。我们解决了这些问题,并提出了等变超图神经网络(EHNN),第一次尝试实现最大表达的一般超图学习的等变层。我们还提出了我们的框架的两个实际实现的基础上超网络(EHNN-MLP)和自我注意(EHNN-Transformer),这是很容易实现,理论上更有表现力的消息传递方法。我们展示了他们在一系列超图学习问题中的能力,包括合成k边识别,半监督分类和视觉关键点匹配,并报告了在强消息传递基线上的改进性能。我们的实现可以在https://github.com/jw9730/ehnn上获得。
2022-08-22 cs.LG
DLGNet: Hyperedge Classification through Directed Line Graphs for Chemical Reactions
Istituto Italiano di Tecnologia(意大利技术研究院);University of Bergamo(贝加莫大学);University of Milano-Bicocca(米兰比可卡大学)
本研究针对化学反应分类问题,提出有向线图概念并构建基于谱的DLGNet模型,借助新型有向线图拉普拉斯矩阵编码超边方向性,在真实化学反应数据集上实现显著性能提升。
2024-10-09 cs.AI cs.LG
Self-Supervised Pretraining for Heterogeneous Hypergraph Neural Networks
Meta AI
提出用于异构超图神经网络的自监督预训练框架SPHH,通过两个预训练任务学习局部和全局表示,在多种下游任务中显著提升性能并展现鲁棒性。
2023-11-19 cs.LG cs.SI stat.ML
UniGNN: a Unified Framework for Graph and Hypergraph Neural Networks
Institute of Image Processing and Pattern Recognition, Shanghai Jiao Tong University(上海交通大学图像处理与模式识别研究所)
超图作为一种能够灵活表达实体间高阶关系的结构,近年来受到了各个领域的广泛关注。尽管图神经网络(GNN)在图表示学习方面取得了成功,但如何将强大的GNN变体直接适应超图仍然是一个具有挑战性的问题。在本文中,我们提出了UniGNN,一个统一的框架,用于解释图和超图神经网络中的消息传递过程,它可以将一般的GNN模型推广到超图。在这个框架中,旨在深化GNN的精心设计的架构也可以以最少的努力被合并到超图中。已经进行了大量的实验来证明UniGNN在多个真实世界数据集上的有效性,这些数据集的性能远远优于最先进的方法。特别是对于DBLP数据集,我们将半监督超节点分类任务的准确率从77.4%提高到88.8%。我们进一步证明了所提出的基于消息传递的UniGNN模型在区分非同构超图方面最多与一维广义Weisfeiler-Leman(1-GWL)算法一样强大。我们的代码可在\url{https://github.com/OneForward/UniGNN}上获得。
2021-05-03 cs.LG cs.SI
LHNN: Lattice Hypergraph Neural Network for VLSI Congestion Prediction
The Chinese University of Hong Kong(香港中文大学);Shenzhen Institutes of Advanced Technology(深圳先进技术研究院);Huawei Noah’s Ark Lab(华为诺亚方舟实验室);Huawei Hisilicon(华为海思);Peking University(北京大学)
从布局解决方案中精确预测拥塞在电路布局中起着至关重要的作用。本文提出了一种新的电路图形表示方法--格超图(Lattice Hypergraph,LH-graph),它在整个学习过程中保留了网表数据,并使拥塞信息能够以几何和拓扑方式传播。在此基础上,进一步开发了异构图神经网络结构的LHNN,结合路径需求回归支持拥挤点分类。LHNN在F1得分上与U网和Pix 2 Pix相比不断取得超过35%的改进。我们希望我们的工作将突出使用机器学习进行拥塞预测的基本程序。
2022-03-24 cs.LG
Topology-guided Hypergraph Transformer Network: Unveiling Structural Insights for Improved Representation
Georgia State University(佐治亚州立大学)
针对超图Transformer忽略拓扑结构的问题,提出拓扑引导的超图Transformer网络(THTN),通过结构编码和结构感知自注意力捕获高阶关系,在节点分类任务上超越现有方法。
2024-11-06 cs.LG
Semi-Supervised Classification on Non-Sparse Graphs Using Low-Rank Graph Convolutional Networks
Department of Mathematics, Chair of Scientific Computing(数学系,科学计算教研室)
本文提出了一种低秩图卷积网络架构,用于高效处理非稀疏图上的半监督学习问题,通过引入低秩滤波器提升运行效率和准确率,并扩展到超图数据集的处理。
2019-05-24 cs.DM cs.LG cs.NA
Hypergraph based semi-supervised learning algorithms applied to speech recognition problem: a novel approach
Ho Chi Minh City University of Technology-VNU HCM(胡志明市理工大学(越南国家大学胡志明市分校))
大多数基于网络的语音识别方法都是基于网络中两个相邻语音样本的标签可能相同的假设。然而,假设语音样本之间的成对关系是不完整的。一组语音样本显示非常相似的模式,往往有类似的标签的信息被错过了。克服上述假设的信息损失的自然方法是将语音样本的特征数据表示为超图。因此,本文介绍了三种基于半监督学习的非规范化、随机游动和对称规范化超图Laplacian方法,并将其应用于由语音样本特征数据构造的超图,以预测语音样本的标签。实验结果表明,这三种基于超图拉普拉斯算子的半监督学习方法的灵敏度性能指标均大于隐马尔可夫模型方法的灵敏度性能指标(当前应用于语音识别问题的最先进的方法)和基于图的半监督学习方法(即当前最先进的基于网络的分类问题的方法)应用于从语音样本的特征数据创建的网络。
2018-10-28 cs.LG cs.SD eess.AS
Prototype-Enhanced Hypergraph Learning for Heterogeneous Information Networks
University of Amsterdam(阿姆斯特丹大学);University of Johannesburg(约翰内斯堡大学)
针对异构信息网络中依赖元路径、难以建模高阶关系的问题,提出原型增强超图学习方法,实现无元路径的节点分类并提升鲁棒性与可解释性。
2023-09-22 cs.LG cs.SI
Wasserstein Hypergraph Neural Network
Department of Computer Science University of Cambridge(计算机科学系剑桥大学)
针对现有超图神经网络聚合多借鉴图方法、采用基础池化的局限,提出将节点与超边邻域视为分布、用切片Wasserstein池化聚合的Wasserstein超图神经网络,可保留分布几何属性,在多真实数据集的节点分类任务上取得最优性能。
2025-06-11 cs.LG
Hypergraph Pre-training with Graph Neural Networks
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Amazon(亚马逊)
尽管超图在各种高影响力的应用中普遍存在,但关于超图表示学习的工作相对较少,其中大多数主要集中在超链接预测上,通常限于转导学习环境。其中,有效的超图表示学习的主要障碍在于节点和/或超边的标签稀缺性。为了解决这个问题,本文提出了一个端到端的,两个层次的预训练策略与图神经网络的超图。所提出的名为HyperGene的框架具有三个独特的优势。首先,它能够在可用时摄取标签信息,但更重要的是,它主要是以自我监督的方式设计的,这大大拓宽了它的适用性。其次,在心脏的建议HyperGene是两个精心设计的借口,一个在节点级别和其他的超边缘水平,这使我们能够编码本地和全球的背景下,在一个相互补充的方式。第三,所提出的框架可以在转换和归纳设置。当串联应用这两个提出的借口时,由于所提出的方法的双层性质,它可以加速知识从预训练模型到转换设置中的下游应用的适应。大量的实验结果表明:(1)HyperGene在超边缘分类方面实现了高达5.69%的改进,(2)平均提高了42.80%的预训练效率。
2021-05-23 cs.LG
Momentum Gradient-based Untargeted Attack on Hypergraph Neural Networks
School of Computer Science, Qinghai Normal University(青海师范大学计算机科学学院);Radboud University(拉德堡德大学)
本文针对超图神经网络对抗攻击研究空白,提出一种基于动量梯度的无目标攻击模型MGHGA,通过特征选择与修改模块在超图建模前实施攻击,在五个基准数据集上平均性能提升2%。
2023-10-24 cs.LG
Implicit Hypergraph Neural Network
Dept of Computer Science, University of Iowa(计算机科学系,爱荷华大学)
隐式超图神经网络通过联合学习节点和超边的固定点表示,解决超图中长距离依赖问题,提升节点分类性能。
2025-12-01 cs.AI cs.LG
HyperBERT: Mixing Hypergraph-Aware Layers with Language Models for Node Classification on Text-Attributed Hypergraphs
University of Cambridge(剑桥大学)
提出HyperBERT架构,通过在预训练BERT中融合超图感知层引入高阶结构归纳偏置,同时建模超图关系结构与文本语义,在五个文本属性超图节点分类基准上达到最优。
2024-09-27 cs.CL cs.LG stat.ML
Hyperedge Modeling in Hypergraph Neural Networks by using Densest Overlapping Subgraphs
University of Windsor(温莎大学)
针对超图神经网络的超边建模问题,提出基于凝聚贪心枚举的最稠密重叠子图求解算法以鲁棒构建超图,节点分类任务性能显著优于现有方法。
2024-09-16 cs.AI cs.LG cs.SI
Semi-supervised Hypergraph Node Classification on Hypergraph Line Expansion
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);George Mason University(乔治梅森大学)
本文提出超图线扩展方法,将顶点-超边对视为线节点以保留共现对称性,并验证其在五个数据集上半监督节点分类性能显著超越现有最优基线。
2023-04-13 cs.LG cs.SI stat.ML
HNHN: Hypergraph Networks with Hyperedge Neurons
Microsoft(微软);Columbia University(哥伦比亚大学);Mila;Université de Montréal(蒙特利尔大学)
超图为许多真实世界的数据集提供了自然的表示。我们提出了一个新的超图表示学习框架HNHN。HNHN是一个超图卷积网络,其非线性激活函数应用于超节点和超边,并结合了一个归一化方案,可以根据数据集灵活调整高基数超边和高度顶点的重要性。我们证明了改进的性能HNHN在分类精度和速度在现实世界的数据集相比,最先进的方法。
2020-06-22 cs.LG stat.ML
Binary Classification in Unstructured Space With Hypergraph Case-Based Reasoning
IBM Krakow Software Lab(IBM克拉科夫软件实验室);Poznań University of Technology(波兹南理工大学)
二分分类是机器学习中最常见的问题之一。它包括预测给定的元素是否属于特定的类。本文提出了一种基于超图表示的二进制分类算法。该方法与数据表示无关,可以处理多个数据源或非度量空间,并适应缺失值。因此,它大大减少了对数据预处理或特征工程的需求。每个待分类的元素根据其与训练集的交互进行划分。对于每个类,学习训练集分区上的一个参数来表示支持该类的证据的分布。经验验证表明,它的高潜力,在广泛的知名数据集和结果进行比较的国家的最先进的。时间复杂度给出和经验验证。它的鲁棒性方面的超参数的敏感性进行了研究,并与标准的分类方法。最后,讨论了模型空间的局限性,并提出了一些可能的解决方案。
2019-03-09 cs.AI cs.LG stat.ML
A Markov Random Field model for Hypergraph-based Machine Learning
Shanghai Jiao Tong University and Shanghai AI laboratory(上海交通大学和上海人工智能实验室)
本文提出超图马尔可夫随机场模型,以多元高斯分布刻画节点与超边特征的联合分布,并据此设计HGSI结构推断框架和Hypergraph-MLP节点分类框架,实验证明二者在各自任务上均优于现有方法。
2025-08-08 cs.AI cs.LG cs.SI
Learning over Families of Sets -- Hypergraph Representation Learning for Higher Order Tasks
Purdue University(普渡大学);Amazon Web Services(亚马逊云科技)
图表示学习在过去的十年中取得了重大进展。然而,在许多关系域中,输入数据不适合于简单的图形表示,因为实体之间的关系超出了成对交互。在这种情况下,数据中的关系更好地表示为非均匀超图的超边(实体集)。虽然已经有关于用于学习超图的节点的表示的原则性方法的工作,但是这些方法在其对非均匀超图(具有不同基数的超边)上的任务的适用性方面是有限的。在这项工作中,我们利用关联结构开发一个超图神经网络学习可证明的表达表示的可变大小的超边,保持局部同构的线图的超图,同时也是不变的置换其组成顶点。具体来说,对于一个给定的顶点集,我们提出了(1)超边分类和(2)可变大小的扩展部分观察到的超边捕捉顶点和超边之间的高阶相互作用的框架。我们在多个真实世界的超图数据集上评估了性能,并在最先进的模型上展示了一致的,显著的准确性提高。
2021-01-19 cs.LG stat.ML
Hypergraph Neural Networks
Xiamen University(厦门大学);Tsinghua University(清华大学);Peng Cheng Laboratory(鹏城实验室)
本文提出了一种用于数据表示学习的超图神经网络(HGNN)框架,它可以将高阶数据相关性编码在超图结构中。面对现实中学习表示复杂数据的挑战,我们提出将这种数据结构合并到超图中,这在数据建模上更灵活,特别是在处理复杂数据时。在该方法中,设计了一个超边缘卷积操作来处理表示学习过程中的数据相关性。通过这种方式,传统的超图学习过程可以有效地使用超边缘卷积操作进行。HGNN能够学习考虑高阶数据结构的隐藏层表示,这是考虑复杂数据相关性的通用框架。我们在引文网络分类和视觉对象识别任务上进行了实验,并将HGNN与图卷积网络和其他传统方法进行了比较。实验结果表明,所提出的HGNN方法优于最近的国家的最先进的方法。我们还可以从结果中发现,与现有方法相比,所提出的HGNN在处理多模态数据时更优越。
2019-02-23 cs.LG stat.ML
Pseudoinverse Graph Convolutional Networks: Fast Filters Tailored for Large Eigengaps of Dense Graphs and Hypergraphs
Chemnitz University of Technologies(开姆尼茨工业大学)
图卷积网络(GCN)已被证明是基于图的数据集上的半监督分类的成功工具。我们提出了一个新的GCN变体,其三部分过滤器空间是针对稠密图。示例包括用于3D点云的高斯图,其增加了对非局部信息的关注,以及基于分类数据的超图。这些图不同于常见的稀疏基准图,因为它们的图拉普拉斯算子的谱性质。最值得注意的是,我们观察到大的本征间隙,这是不利的流行现有的GCN架构。我们的方法通过利用拉普拉斯算子的伪逆来克服这些问题。另一个关键因素是卷积矩阵的低秩近似,确保计算效率并同时提高精度。我们概述了如何在每个应用程序中有效地计算必要的本征信息,并讨论了适当的选择的唯一元参数,近似秩。最后,我们展示了我们的方法的性能,在各种实验与真实世界的数据集的运行时间和准确性。
2021-01-28 cs.LG stat.ML
Neural Graph Matching Network: Learning Lawler's Quadratic Assignment Problem with Extension to Hypergraph and Multiple-graph Matching
Shanghai Jiao Tong University(上海交通大学)
图匹配涉及基于边到边亲和矩阵的组合优化,其通常可以表述为Lawler的二次分配问题(QAP)。本文提出了一种QAP网络直接学习的亲和矩阵(相当于关联图),从而将匹配问题转化为一个受约束的顶点分类任务。关联图通过嵌入网络进行顶点分类,然后通过Sinkhorn归一化和交叉熵损失进行端到端学习。通过引入基于Sinkhorn的匹配感知约束,以及虚拟节点来处理大小不等的图,我们进一步改进了关联图上的嵌入模型。据我们所知,这是第一个直接学习通用劳勒QAP的网络之一。相比之下,最近的深度匹配方法专注于分别学习两个图中的节点/边特征。我们还展示了如何将我们的网络扩展到超图匹配和多个图的匹配。在合成图和真实图像上的实验结果表明了该方法的有效性。对于合成数据和QAPLIB基准上的纯QAP任务,我们的方法可以具有竞争力,甚至超过最先进的图匹配和QAP求解器,具有显着更少的时间成本。我们在http://thinklab.sjtu.edu.cn/project/NGM/index.html上提供了一个项目主页。
2021-05-06 cs.CV cs.LG stat.ML
Heterogeneous Hypergraph Embedding for Recommendation Systems
Griffith University(格里菲斯大学);Hanoi University of Science and Technology(河内科技大学);Ecole Polytechnique Federale de Lausanne(洛桑联邦理工学院);The University of Queensland(昆士兰大学)
本文提出知识增强异构超图推荐系统KHGRec,通过协作知识异构超图建模高阶交互,结合跨视图自监督学习与注意力机制,在多个数据集上平均提升5.18%,并验证了噪声鲁棒性和冷启动性能。
2024-07-04 cs.AI cs.IR cs.LG