Understanding Expressivity of GNN in Rule Learning
Tsinghua University(清华大学);The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))
本文将尾实体评分 GNN 统一为通用框架,刻画其可学习的规则结构并证明表达优势,进而提出新标注策略以学习更多 KG 推理规则。
2024-04-10 cs.AI cs.LG
Two-view Graph Neural Networks for Knowledge Graph Completion
University of Stuttgart(斯图加特大学);Oracle Labs(甲骨文实验室);Monash University(莫纳什大学);VinAI Research(VinAI研究院)
我们提出了一个有效的基于图神经网络(GNN)的知识图谱嵌入模型,我们命名为WGE,捕捉实体和关系为重点的图形结构。给定一个知识图谱,WGE构建一个无向的以实体为中心的图,将实体视为节点。WGE还从关注关系的约束中构造了另一个无向图,它将实体和关系视为节点。然后,WGE提出了一个基于GNN的架构,以更好地从这两个单一的实体和关系集中的图中学习实体和关系的向量表示。WGE将学习到的实体和关系表示馈送到加权得分函数中,以返回知识图谱完成的三重得分。实验结果表明,WGE优于强基线上的七个基准数据集的知识图谱完成。
2023-03-11 cs.AI cs.CL cs.LG
GDGRU-DTA: Predicting Drug-Target Binding Affinity Based on GNN and Double GRU
Hunan Normal University(湖南师范大学)
预测药物和靶点亲和力(DTA)的工作对于药物开发和再利用至关重要。在这项工作中,我们提出了一种称为GDGRU-DTA的新方法来预测药物与靶标之间的结合亲和力,该方法基于GraphDTA,但我们认为蛋白质序列是长序列,因此简单的CNN不能很好地捕获蛋白质序列中的上下文依赖性。因此,我们通过将蛋白质序列解释为时间序列并使用门递归单元(GRU)和双向门递归单元(BiGRU)提取其特征来改进它。对于药物,我们的处理方法与GraphDTA类似,但使用了两种不同的图形卷积方法。随后,药物和蛋白质的表示被连接起来用于最终预测。我们在两个基准数据集上评估了所提出的模型。我们的模型优于一些最先进的深度学习方法,结果证明了我们模型的可行性和出色的特征捕获能力。
2022-04-25 cs.AI cs.LG q-bio.QM
Bi-Level Attention Graph Neural Networks
University of California, Los Angeles(加州大学洛杉矶分校)
针对异构图中节点级与关系级注意力难以联合建模且关系依赖被忽视的问题,提出BA-GNN,利用局部邻域上下文分层建模两类交互,并在七个真实数据集上验证其优越性能与注意力可迁移性。
2023-04-23 cs.IR cs.LG
Predicting Patient Outcomes with Graph Representation Learning
University of Cambridge(剑桥大学);Samsung AI Center(三星人工智能中心);University of Oxford(牛津大学)
最近关于预测重症监护室(ICU)中患者结局的工作主要集中在生理时间序列数据上,在很大程度上忽略了诊断和药物治疗等稀疏数据。当它们被包括在内时,它们通常在模型的后期阶段被连接起来,这可能很难从罕见的疾病模式中学习。相反,我们提出了一种策略,通过在图中连接类似的患者来利用诊断作为关系信息。为此,我们提出了LSTM-GNN的病人结果预测任务:一个混合模型结合长短期记忆网络(LSTM)提取时间特征和图神经网络(GNNs)提取病人的邻域信息。我们证明了LSTM-GNN在eICU数据库上的住院时间预测任务上优于仅LSTM基线。更一般地说,我们的研究结果表明,利用图神经网络从相邻的病人病例的信息是一个很有前途的研究方向,产生有形回报的监督学习性能的电子健康记录。
2021-01-11 cs.LG
GNN4REL: Graph Neural Networks for Predicting Circuit Reliability Degradation
New York University Abu Dhabi(纽约大学阿布扎比分校);University of Stuttgart(斯图加特大学)
工艺变化和器件老化给电路设计人员带来了深刻的挑战。如果不精确了解变化对电路路径延迟的影响,则无法正确估计防止时序违规的保护带。对于先进技术节点,这个问题更加严重,其中晶体管尺寸达到原子级,并且已建立的裕度受到严重限制。因此,传统的最坏情况分析变得不切实际,导致无法忍受的性能开销。此外,工艺变化/老化感知静态时序分析(STA)为设计人员提供了准确的统计延迟分布。然后可以有效地估计小但足够的定时保护带。然而,这种分析是昂贵的,因为它需要密集的蒙特卡罗模拟。此外,它需要访问机密的基于物理的老化模型,以生成STA所需的标准单元库。在这项工作中,我们采用图神经网络(GNNs),以准确地估计电路内的任何路径的延迟的过程变化和设备老化的影响。我们提出的GNN 4 REL框架使设计人员能够在不访问晶体管模型、标准单元库甚至STA的情况下进行快速准确的可靠性评估;这些组件都通过代工厂的培训纳入GNN模型。具体来说,GNN 4 REL是在FinFET技术模型上训练的,该模型是根据工业14 nm测量数据校准的。通过对EPFL和ITC-99基准测试以及RISC-V处理器的广泛实验,我们成功地估计了所有路径的延迟退化-特别是在几秒钟内-平均绝对误差降至0.01个百分点。
2022-08-04 cs.CR cs.LG
Collaborative learning of images and geometrics for predicting isocitrate dehydrogenase status of glioma
University of Cambridge(剑桥大学);University of Bath(巴斯大学)
异柠檬酸脱氢酶(IDH)基因突变状态是胶质瘤患者的重要生物标志物。IDH突变检测的金标准需要通过侵入性方法获得的肿瘤组织,并且通常是昂贵的。放射基因组学的最新进展为基于MRI的IDH突变预测提供了一种非侵入性方法。同时,肿瘤几何学包含肿瘤表型的关键信息。在这里,我们提出了一个协作学习框架,分别使用卷积神经网络(CNN)和图神经网络(GNN)学习肿瘤图像和肿瘤几何学。我们的研究结果表明,该模型优于3D-DenseNet121的基线模型。此外,协作学习模型实现了比单独的CNN或GNN更好的性能。模型解释表明,CNN和GNN可以识别IDH突变预测的共同和独特的感兴趣区域。总之,合作的图像和几何学习者提供了一种新的方法来预测基因型和表征胶质瘤。
2022-01-14 cs.LG q-bio.QM
Graph Neural Networks for Inconsistent Cluster Detection in Incremental Entity Resolution
Amazon(亚马逊)
在线商店经常利用产品关系,如捆绑和替代品,以提高其目录质量,并引导客户通过无数的选择。使用成对产品匹配模型的实体解析提供了一种推断产品之间关系的方法。在成熟的数据存储库中,关系可能基本正确,但由于原始数据或实体解析系统中的错误,需要逐步改进。设计增量实体解析(IER)方法来改善关系的健康状况至关重要。然而,大多数现有的IER研究集中在新产品或信息添加到现有的关系。相对较少的研究已经做了检测当前关系中的低质量。本文提出了一种新的方法来识别不一致的集群(IC),现有的相关产品,不属于在一起的群体。我们建议把识别不一致的集群作为一个监督学习任务,它预测是否有相似性的加权边缘的产品图应划分为多个集群。在这种情况下,问题变成了加权图上的分类任务,并代表了图神经网络(GNN)等现代工具的一个有趣的应用领域。我们证明了现有的消息传递神经网络在这项任务中表现良好,超过了传统的图形处理技术。我们还为消息传递神经网络开发了一种新的消息聚合方案,进一步提高了GNN在此任务上的性能。我们将该模型应用于合成数据集,公共基准数据集和内部应用程序。我们的研究结果表明,IER和图神经网络的能力,开发有用的表示图分区的图分类的价值。
2021-05-12 cs.LG
Uncertainty-aware Attention Graph Neural Network for Defending Adversarial Attacks
University of California, Santa Barbara(加利福尼亚大学圣巴巴拉分校)
随着基于图的学习的日益普及,图神经网络(GNN)成为从图中获得洞察力的重要工具。然而,与已经被广泛探索和彻底测试的传统CNN不同,人们仍然担心GNN在关键环境下的鲁棒性,例如金融服务。主要原因是现有的GNN通常在预测中充当黑箱,并且不提供预测的不确定性。另一方面,贝叶斯深度学习在CNN上的最新进展已经证明了它在量化和解释这种不确定性以加强CNN模型方面的成功。受这些观察的启发,我们提出了UAG,这是第一个通过识别和利用GNN中的层次不确定性来防御对GNN的对抗攻击的系统解决方案。UAG开发了贝叶斯不确定性技术(BUT)来明确捕获GNN中的不确定性,并进一步采用不确定性感知注意力技术(UAT)来防御对GNN的对抗攻击。密集的实验表明,我们提出的防御方法优于国家的最先进的解决方案的显着保证金。
2020-09-22 cs.LG stat.ML
Predicting Biomedical Interactions with Probabilistic Model Selection for Graph Neural Networks
Amazon(亚马逊)
本文提出基于概率模型选择的框架,通过推断最合适的图卷积层数量、应用dropout正则化和学习网络参数,提升生物医学相互作用预测的性能和校准度。
2026-03-17 cs.LG q-bio.QM
Weisfeiler-Lehman Embedding for Molecular Graph Neural Networks
Preferred Networks, Inc.(Preferred Networks 公司);The University of Tokyo(东京大学)
图神经网络(GNN)是预测分子化学性质的一个很好的选择。然而,与其他深度网络相比,GNN目前的性能由于“深度诅咒”而受到限制。“受到化学领域长期建立的特征工程的启发,我们使用Weisfeiler-Lehman(WL)嵌入扩展了原子表示,该嵌入旨在捕获主导分子化学性质的局部原子模式。在可表示性方面,我们证明了WL嵌入可以用更小的权重范数取代ReLU GNN的前两层-正常嵌入和隐藏的GNN层。然后,我们证明了WL嵌入一致地提高了多个GNN架构和几个分子图数据集的经验性能。
2020-08-18 cs.LG stat.ML
Multi-Task Mixture Density Graph Neural Networks for Predicting Cu-based Single-Atom Alloy Catalysts for CO2 Reduction Reaction
Tsinghua University(清华大学);Tsinghua-Berkeley Shenzhen Institute(清华-伯克利深圳学院);Tsinghua Shenzhen International Graduate School(清华大学深圳国际研究生院);Shenzhen Geim Graphene Center(深圳盖姆石墨烯中心);The Chinese University of Hong Kong(香港中文大学);Tencent(腾讯);Zhejiang University(浙江大学);Zhejiang Lab(之江实验室)
图神经网络(GNNs)已经引起了越来越多的材料科学家的关注,并表现出很高的能力,建立结构和性能之间的联系。然而,仅提供非松弛结构作为输入,很少GNN模型可以预测松弛构型的热力学性质,具有可接受的误差水平。在这项工作中,我们开发了一个基于DimeNet++和混合密度网络的多任务(MT)架构,以提高此类任务的性能。以CO在Cu基单原子合金催化剂上的吸附为例,我们表明,我们的方法可以可靠地估计CO的吸附能与初始CO吸附结构的平均绝对误差为0.087 eV,而无需昂贵的第一性原理计算。此外,与其他最先进的GNN方法相比,我们的模型在预测用看不见的衬底表面或掺杂物质构建的域外配置的催化性能时表现出改进的泛化能力。我们表明,建议的MT GNN策略可以促进催化剂的发现。
2022-09-15 cond-mat.mtrl-sci cs.LG
SURF: A Generalization Benchmark for GNNs Predicting Fluid Dynamics
ETH Zurich(苏黎世联邦理工学院)
提出SURF基准,通过独立数据集与特定指标评估基于图的流体模拟器在不同拓扑、分辨率和热力学范围下的泛化能力,揭示最先进模型的新见解。
2023-11-20 cs.AI cs.LG physics.flu-dyn
Hierarchical Protein Function Prediction with Tail-GNNs
University of Belgrade(贝尔格莱德大学);DeepMind
蛋白质功能预测可以被构建为预测描述蛋白质功能层次结构的有向非循环图的子图(具有某些封闭性质)。图神经网络(GNN)具有内置的关系数据归纳偏差,因此自然适合这项任务。然而,与大多数GNN应用程序相比,图与输入无关,而是与标签空间相关。因此,我们提出了Tail-GNNs,即自然与任何神经网络的输出空间组合以进行多任务预测的神经网络,以提供关系增强标签。对于蛋白质功能预测,我们将Tail-GNN与学习蛋白质序列表示的扩张卷积网络相结合,使F_1得分显着提高,并展示了Tail-GNN学习有用的标签表示并将其用于现实世界问题解决的能力。
2020-07-24 cs.LG q-bio.BM stat.ML
Predicting Drug Effects from High-Dimensional, Asymmetric Drug Datasets by Using Graph Neural Networks: A Comprehensive Analysis of Multitarget Drug Effect Prediction
Oak Ridge National Laboratory(橡树岭国家实验室)
针对高维不对称数据集下图神经网络预测药物效应性能不佳的问题,提出新的过采样技术以改善数据不平衡,并开发混合GNN模型在多标签分类任务上显著优于其他机器学习模型。
2024-10-11 cs.LG
Predicting drug-target interaction using 3D structure-embedded graph representations from graph neural networks
KAIST(韩国科学技术院)
药物-靶点相互作用(DTI)的准确预测对于计算机药物设计至关重要。为此,我们提出了一种新的方法,用于预测DTI使用GNN,直接结合了蛋白质-配体复合物的三维结构。我们还应用了一个距离感知的图注意力算法与门增强,以提高我们的模型的性能。因此,我们的模型在虚拟筛选和姿态预测方面都表现出比对接和其他深度学习方法更好的性能。此外,我们的模型可以再现自然的人口分布的活性分子和非活性分子。
2019-04-17 cs.LG stat.ML
Attention-Based Recommendation On Graphs
图神经网络(GNN)在不同的任务中表现出了卓越的性能。然而,目前关于GNN在推荐系统上的研究还很少。GCN作为GNN的一种类型,可以为图中的不同实体提取高质量的嵌入。在协同过滤任务中,核心问题是找出实体对预测目标用户未来行为的信息量。使用注意力机制,当底层数据被建模为图时,我们可以使GCN能够进行这样的分析。在这项研究中,我们提出了GARec作为一个基于模型的推荐系统,它应用了一个注意力机制以及一个空间GCN的推荐图,以提取嵌入的用户和项目。注意力机制告诉GCN一个相关的用户或项目应该在多大程度上影响目标实体的最终表示。我们比较的性能GARec对一些基线算法的RMSE。该方法在不同的MovieLens数据集上优于现有的基于模型的非图神经网络和图神经网络。
2022-01-04 cs.IR cs.LG
Uncertainty Quantification over Graph with Conformalized Graph Neural Networks
Stanford University(斯坦福大学)
本文提出共形化图神经网络(CF-GNN),将共形预测扩展到图数据,通过置换不变性条件保证覆盖率,并利用拓扑感知的输出校正模型显著减小预测集合/区间大小,在保证目标边际覆盖率的同时将集合大小最多减小74%。
2023-10-30 cs.LG stat.ML
MVIN: Learning Multiview Items for Recommendation
Academia Sinica(中央研究院)
研究人员已经开始利用异构知识图谱作为推荐系统的辅助信息,以减轻冷启动和稀疏性问题。然而,利用图神经网络(GNN)来捕获KG中的信息并进一步应用于RS仍然是有问题的,因为它无法从多个角度看到每个项目的属性。为了解决这些问题,我们提出了多视图项目网络(MVIN),一个基于GNN的推荐模型,它通过从用户和实体的角度描述一个独特的混合视图的项目,提供卓越的建议。MVIN从用户视图和实体视图中学习项目表示。从用户的角度来看,面向用户的模块评分和聚合功能,使建议从个性化的角度构建根据KG实体,其中包括用户点击信息。从实体视图来看,混合层对比逐层GCN信息,以进一步从KG中的内部实体-实体交互中获得综合特征。我们在三个真实世界的数据集上评估MVIN:MovieLens-1 M(ML-1 M),LFM-1b 2015(LFM-1b)和Amazon-Book(AZ-book)。结果表明,MVIN在这三个数据集上的性能明显优于最先进的方法。此外,从用户视图的情况下,我们发现,MVIN确实捕捉吸引用户的实体。图进一步说明了混合层在异构KG中在邻域信息聚合中起着至关重要的作用。
2020-05-26 cs.IR cs.LG
Predicting Basin Stability of Power Grids using Graph Neural Networks
随着可再生能源在电力系统中所占比重的增加,由于其分散的结构、较小的惯性和波动性,电网的动态稳定性预测变得更加重要和具有挑战性。我们研究了应用图神经网络(GNN)预测同步在复杂电网的动态稳定性,使用单节点流域稳定性(SNBS)作为一种措施的可行性。为此,我们分别为20和100个节点的网格生成两个合成数据集,并使用Monte-Carlo抽样估计SNBS。这些数据集用于训练和评估八种不同GNN模型的性能。所有模型都使用没有简化的完整图作为输入,并在逐步回归设置中预测SNBS。我们表明,SNBS可以预测一般和性能显着变化,使用不同的GNN模型。此外,我们观察到我们方法的有趣传输能力:在较小网格上训练的GNN模型可以直接应用于较大网格,而无需重新训练。
2022-05-05 cs.LG cs.SY eess.SY
A Hybrid GNN approach for predicting node data for 3D meshes
Université Paris-Saclay(巴黎萨克雷大学);CentraleSupelec(巴黎中央理工-高等电力学院);LISN(计算机科学与神经科学实验室);MICS(数学与计算机科学实验室)
本文提出一种基于图卷积的混合代理图神经网络方法,将3D网格数据转换为图或点云结构进行深度学习,以替代耗时的有限元方法预测金属锻造最佳参数,新模型在仿真生成上优于现有PointNet和简单GNN且误差较低。
2023-10-23 cs.LG cs.NA math.NA
An Effective and Efficient Time-aware Entity Alignment Framework via Two-aspect Three-view Label Propagation
East China Normal University(华东师范大学);Guizhou University(贵州大学);Ant Group(蚂蚁集团);Tsinghua University(清华大学);Shanghai Institute of AI for Education(上海智能教育研究院);Lingang Laboratory(临港实验室)
针对基于GNN的时间感知实体对齐难以扩展的问题,提出非神经框架LightTEA,通过标签传播、稀疏相似性、Sinkhorn算子和时序迭代学习提升性能与效率。
2023-07-12 cs.AI cs.LG
Predicting Brain Morphometry with MT-GNN: Mesh Evolution in Continuous Time with Graph-Based Metric Tensor Embeddings
Illinois Institute of Technology(伊利诺伊理工学院);University of Southern California(南加州大学)
该研究提出MT-GNN模型,通过图网络预测连续时间内皮层下结构的度量张量,经ADNI数据集验证,其网格演化预测性能优于DCM、TransforMesh等基准方法。
2026-08-06 cs.CV cs.LG
Metapath- and Entity-aware Graph Neural Network for Recommendation
Technische Universität München(慕尼黑工业大学);Mercateo(Mercateo公司);fortiss GmbH(fortiss有限公司);Ludwig-Maximilians-University(慕尼黑大学)
在图神经网络(GNNs)中,消息传递迭代地聚合来自其直接邻居的节点信息,而忽略了多跳节点连接的顺序性质。这种顺序节点连接例如,metapaths,捕获下游任务的关键见解。具体地说,在推荐系统(RS)中,忽视这些见解会导致协作信号的不充分蒸馏。在本文中,我们采用协作子图(CSG)和元路径,形成元路径感知的子图,明确捕捉图结构中的顺序语义。我们提出了Meta \textbf{P}路径和\textbf{E}实体- \textbf{A} ware \textbf{G}和\textbf{N} eural \textbf{N} etwork(PEAGNN),它训练多层GNN在这样的子图上执行元路径感知的信息聚合。然后使用注意力机制融合来自不同元路径的聚合信息。最后,PEAGNN给出了节点和子图的表示,可以用来训练MLP来预测目标用户-项目对的得分。为了利用CSG的局部结构,我们提出了实体意识,作为节点嵌入的对比正则化。此外,PEAGNN可以与GAT,GCN和GraphSage等突出层相结合。我们的实证评估表明,我们提出的技术优于竞争基准的几个数据集的推荐任务。进一步的分析表明,PEAGNN还可以从给定的元路径集合中学习有意义的元路径组合。
2021-04-02 cs.AI cs.LG
Semi-Supervised Graph Representation Learning with Human-centric Explanation for Predicting Fatty Liver Disease
Ajou University(亚洲大学);Seoul National University Hospital Healthcare System Gangnam Center(首尔大学医院保健体系江南中心)
针对脂肪肝预测中临床标记数据不足的问题,提出基于图神经网络的半监督图表示学习方法,构建受试者相似图挖掘风险模式,结合可解释GNN提供以人为中心的个性化解释,提升临床可用性。
2024-03-05 cs.AI cs.LG
DeepCrysTet: A Deep Learning Approach Using Tetrahedral Mesh for Predicting Properties of Crystalline Materials
SAKURA internet Inc.(樱花互联网公司);National Institute for Materials Science (NIMS)(国立材料科学研究所);The University of Tokyo(东京大学);RIKEN(理化学研究所);Kyoto University(京都大学)
针对图表示丢失晶体三维信息的问题,提出基于Delaunay四面体网格的深度学习框架DeepCrysTet,在分类和弹性属性预测上超越现有GNN模型。
2023-09-07 cond-mat.mtrl-sci cs.LG
Knowledge Graph Completion with Counterfactual Augmentation
Tsinghua University(清华大学);Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))
近年来,图神经网络(GNN)通过对实体和关系如何交互进行建模,在知识图谱完成(KGC)方面取得了巨大成功。然而,它们中的大多数被设计为从观察到的图结构中学习,这似乎在训练阶段具有不平衡的关系分布。受知识图谱上实体间因果关系的启发,我们通过一个反事实问题来探讨这一缺陷:“如果实体的邻域与观察结果不同,这种关系还会存在吗?”".在知识图谱上设计了一个因果模型的实例,以给定关系的实体对的表示为上下文,以关系感知邻域的结构信息为处理,以组合三元组的有效性为结果,生成反事实关系来回答问题。此外,我们将所创建的反事实关系与基于GNN的KG框架相结合,以增强他们从观察到的和反事实关系中对实体对表示的学习。基准测试的实验表明,我们提出的方法优于现有的KGC任务的方法,实现了新的国家的最先进的结果。此外,我们证明了所提出的基于反事实关系的增强也通过预测的路径解释增强了基于GNN的框架的可解释性。
2023-02-25 cs.LG
Relational Graph Modeling for Credit Default Prediction: Heterogeneous GNNs and Hybrid Ensemble Learning
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出异构图神经网络与混合集成学习方法,通过构建大规模异构图整合借款人与交易数据,提升信用违约预测的准确性和公平性。
2026-01-21 cs.LG
SkipGNN: Predicting Molecular Interactions with Skip-Graph Networks
Harvard T.H. Chan School of Public Health(哈佛大学陈曾熙公共卫生学院);IQVIA(艾昆纬);Harvard University(哈佛大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
分子相互作用网络是发现的有力资源。它们越来越多地与机器学习方法一起使用,以预测生物学上有意义的相互作用。虽然图上的深度学习极大地提高了预测能力,但当前的图神经网络(GNN)方法是基于交互节点之间的直接相似性进行优化的。然而,在生物网络中,不直接交互的节点之间的相似性在过去十年中被证明在各种交互网络中非常有用。在这里,我们提出了SkipGNN,一个图神经网络方法预测分子相互作用。SkipGNN不仅通过聚合来自直接相互作用的信息,还通过聚合来自二级相互作用的信息来预测分子相互作用,我们称之为跳过相似性。与现有的GNN相比,SkipGNN从交互网络中的两跳邻居以及直接邻居接收神经消息,并对消息进行非线性变换以获得有用的预测信息。为了将跳跃相似性注入GNN,我们构建了原始网络的修改版本,称为跳跃图。然后,我们开发了一个迭代融合方案,使用跳过图和原始图来优化GNN。在药物-药物、药物-靶标、蛋白质-蛋白质和基因-疾病相互作用等四种相互作用网络上的实验表明,SkipGNN实现了卓越而稳健的性能,比现有方法的精确召回曲线下面积(PR-AUC)高出28.8%。此外,我们表明,与流行的GNN不同,SkipGNN学习生物学上有意义的嵌入,并且在嘈杂的、不完整的交互网络上表现得特别好。
2020-12-09 cs.LG q-bio.MN
Prediction of Effective Elastic Moduli of Rocks using Graph Neural Networks
Stanford University(斯坦福大学);Columbia University(哥伦比亚大学)
本研究提出基于图神经网络的方法,利用Mapper算法将3D数字岩石CT图像转为图数据预测有效弹性模量,相比CNN具有更高预测精度且显著降低GPU内存需求。
2024-01-02 cs.LG physics.comp-ph physics.geo-ph
Predicting building types and functions at transnational scale
本研究首次依托开放GIS数据集,采用基于局部子图训练的图Transformer模型,实现欧洲尺度建筑类型与功能分类,验证了跨国分类可行性及邻域信息、局部子图对性能的提升作用。
2024-09-15 cs.LG
Knowledge Graph Alignment Network with Gated Multi-hop Neighborhood Aggregation
Nanjing University(南京大学);University of California, Los Angeles(加利福尼亚大学洛杉矶分校);Alibaba Group(阿里巴巴集团)
图神经网络(GNN)由于其识别同构子图的能力,已经成为基于嵌入的实体对齐的强大范例。然而,在真实的知识图谱中,对应实体通常具有非同构的邻域结构,这容易导致GNN对它们产生不同的表示。为了解决这个问题,我们提出了一个新的KG对齐网络,即AliNet,旨在以端到端的方式减轻邻域结构的非同构。由于模式异构性,对应实体的直接邻居通常是不相似的,AliNet引入远邻居来扩展它们的邻居结构之间的重叠。它采用了一种注意力机制来突出有用的远距离邻居并减少噪音。然后,它使用门控机制控制直接和远距离邻域信息的聚合。我们进一步提出了一个关系损失,以细化实体表示。我们对五个实体对齐数据集进行了详细的消融研究和分析,证明了AliNet的有效性。
2019-11-20 cs.AI cs.CL cs.LG
Spatial Graph Coarsening: Weather and Weekday Prediction with London's Bike-Sharing Service using GNN
London School of Economics and Political Science(伦敦政治经济学院)
本研究提出基于图神经网络的空间图粗化方法,利用伦敦共享单车数据预测天气和星期,通过拼接图特征与节点嵌入及地理邻接粗化算子,在验证集上优于基线模型。
2023-08-30 cs.LG
Graph Neural Network Approach to Predicting Magnetization in Quasi-One-Dimensional Ising Systems
B. Verkin Institute for Low Temperature Physics and Engineering of the National Academy of Sciences of Ukraine(贝拉维金低温物理与工程研究所(乌克兰国家科学院))
本文提出基于图神经网络的深度学习框架,将晶格结构编码为图并结合 Monte Carlo 数据训练,以直接预测准一维 Ising 系统磁化曲线及临界与阻挫特征。
2025-07-23 cond-mat.dis-nn cs.LG
Graph Neural Networks-based Hybrid Framework For Predicting Particle Crushing Strength
Hangzhou City University(浙大城市学院);Zhejiang University(浙江大学)
本文提出基于图神经网络的混合框架,利用45,000次数值模拟和900种颗粒类型的数据集,从颗粒碎片视角预测颗粒破碎强度,并通过与传统方法和MLP对比验证有效性。
2023-07-26 cs.CE cs.LG
Graph Neural Networks for Predicting Solvability of Finite Groups
The Institute of Agricultural and Biosystems Engineering Agricultural Research Organization - Volcani Institute(农业与生物系统工程研究所农业研究组织-瓦尔康伊研究所)
提出图神经网络框架,利用Cayley图等图表示,仅通过结构信息区分可解群与不可解群,探索图神经网络学习群论代数性质的能力。
2026-07-28 cs.LG math.GR
DefaultGNN: A Dual-Perspective GNN Framework for Predicting Corporate Default from Buyer-Seller Transaction Networks
KAIST(韩国科学技术院);Techfin Ratings;Douzone
针对企业违约预测中财务报表数据稀疏的问题,提出双视角图神经网络框架DefaultGNN,整合买卖双方交易网络建模风险传播,显著提升预测性能,并提高信用审批率7-11个百分点。
2026-09-23 cs.AI cs.LG
Graph Neural Networks for Temperature-Dependent Activity Coefficient Prediction of Solutes in Ionic Liquids
RWTH Aachen University(亚琛工业大学);Delft University of Technology(代尔夫特理工大学);Forschungszentrum Jülich GmbH(于利希研究中心);JARA-ENERGY
本文提出一种图神经网络,在超过4万个活度系数值的数据集上训练,用于预测离子液体中溶质的温度依赖性无限稀释活度系数,其性能与最先进矩阵补全方法相当,并能泛化到训练中未出现的离子液体和溶质。
2022-06-23 cs.LG physics.chem-ph
Predicting Cognition from fMRI:A Comparative Study of Graph, Transformer, and Kernel Models Across Task and Rest Conditions
本文在HCP Young Adult的静息态与任务fMRI上比较KRR、GNN和TGNN,发现任务态优于静息态,融合SC与FC的GNN表现最佳但相对KRR优势不显著。
2025-07-28 cs.LG q-bio.NC
Collusion Detection with Graph Neural Networks
University of Hamburg(汉堡大学);Skolkovo Institute of Science and Technology(斯科尔科沃科技学院)
本研究提出基于神经网络和图神经网络的两阶段合谋检测方法,可在多国市场单市场检测及零样本迁移场景下实现合谋识别,实证表明图神经网络检测效果更优,为经济领域反合谋应用提供参考。
2024-10-09 cs.LG econ.EM stat.ML
MGM: Global Understanding of Audience Overlap Graphs for Predicting the Factuality and the Bias of News Media
Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);Sun Yat-sen University(中山大学)
针对新闻媒体政治偏见与真实性分类,提出基于变分EM框架的MGM,利用全局相似节点信息增强GNN和PLM,实现新最先进性能。
2024-12-12 cs.AI cs.CL cs.LG
Scalable GNN-based Knowledge Graph Representation Learning with Efficient Message Passing
Bosch Center for Artificial Intelligence(博世人工智能中心);University of Mannheim(曼海姆大学)
本文提出扩展RSPMM以支持更表达力的组合函数,实现知识图谱上GNN消息传递的无损高效计算,显著降低运行时和空间开销,同时保持接近最先进的性能。
2026-09-29 cs.AI cs.LG
Learning multi-phase flow and transport in fractured porous media with auto-regressive and recurrent graph neural networks
Khalifa University of Science and Technology(哈利法科技大学);Delft University of Technology(代尔夫特理工大学);Qingdao University of Technology(青岛理工大学)
本文提出用图神经网络学习裂隙多孔介质多相流,采用两阶段训练(自回归+微调),循环GNN在长时预测中表现更优。
2025-02-22 cs.LG physics.flu-dyn
LLM and GNN are Complementary: Distilling LLM for Multimodal Graph Learning
The Pennsylvania State University(宾夕法尼亚州立大学)
针对GNN难以处理分子文本与视觉信息的问题,提出GALLON框架,通过将LLM和GNN的多模态知识蒸馏到统一MLP中,显著提升了分子性质预测的准确性与效率。
2024-06-03 cs.AI cs.LG
Heterogeneous graph neural networks for species distribution modeling
Google Research(谷歌研究);Google DeepMind(谷歌DeepMind)
本文提出将物种与地点作为异构图节点、检测记录作为边的 GNN 物种分布模型,并在 NCEAS 六区域数据集上验证其可比或优于现有 SDM 与神经网络基线。
2025-05-14 cs.LG q-bio.PE stat.ML
Predicting the Temperature-Dependent CMC of Surfactant Mixtures with Graph Neural Networks
BASF Personal Care and Nutrition GmbH(巴斯夫个人护理与营养有限公司);RWTH Aachen University(亚琛工业大学);Forschungszentrum Jülich GmbH(于利希研究中心);JARA Center for Simulation and Data Science (CSD)(JARA模拟与数据科学中心)
本研究开发了一种图神经网络框架,用于预测表面活性剂混合物的温度依赖性临界胶束浓度,在多种预测场景下表现优异,并优于传统半经验模型。
2024-11-05 cs.LG physics.chem-ph
Predicting cognitive scores with graph neural networks through sample selection learning
Zuse Institute Berlin(柏林祖斯研究所);Istanbul Technical University(伊斯坦布尔技术大学);Ecole Polytechnique de Tunisie(突尼斯理工学院);University of Dundee(邓迪大学)
分析智力和神经活动之间的关系对于理解健康和疾病中人脑的工作原理至关重要。在现有文献中,功能性脑连接组已成功用于使用机器学习模型预测健康和紊乱队列中的认知测量,例如智商(IQ)分数。然而,现有的方法诉诸于使脑连接体变平(即,图)通过忽略其拓扑性质的向量化。为了解决这一局限性,并从新兴的图神经网络(GNNs)的启发,我们设计了一种新的回归GNN模型(即RegGNN)预测智商分数从大脑连接。最重要的是,我们引入了一种新颖的,完全模块化的样本选择方法,以选择最好的样本来学习我们的目标预测任务。然而,由于这种深度学习架构在训练时计算成本很高,因此我们进一步提出了一种\emph{learning-based sample selection}方法,该方法学习如何选择对未知样本具有最高预期预测能力的训练样本。为此,我们利用了连接体(即,它们的邻接矩阵)位于对称正定(SPD)矩阵锥中。我们的研究结果在自闭症谱系障碍队列中的全面和言语智商预测优于比较方法,并使用3倍交叉验证实现了神经型受试者的竞争力表现。此外,我们还证明了我们的样本选择方法可以推广到其他基于学习的方法,这表明它的实用性超出了我们的GNN架构。
2022-02-15 cs.LG q-bio.NC
Dynamic Portfolio Rebalancing: A Hybrid new Model Using GNNs and Pathfinding for Cost Efficiency
本文提出一种混合模型,利用图神经网络预测交易成本并结合Dijkstra算法寻找最低成本再平衡路径,以显著降低投资组合再平衡的交易成本。
2024-10-02 cs.LG q-fin.PM
Graph Dimension Attention Networks for Enterprise Credit Assessment
Guangxi University(广西大学);Southwestern University of Finance and Economics(西南财经大学);Zhongguancun Laboratory(中关村实验室)
针对现有图神经网络在企业信用评估中忽视特征维度异质性的问题,提出维度级注意力网络GDAN及数据驱动解释器DistShift,并在自建数据集ECAD及公开数据集上验证了有效性。
2024-07-16 cs.AI cs.LG
Hyperbolic Benchmarking Unveils Network Topology-Feature Relationship in GNN Performance
Universitat de Barcelona(巴塞罗那大学);UBICS;ICREA(加泰罗尼亚研究与高级研究所)
本研究提出基于双曲空间几何软配置模型的图机器学习基准测试框架,通过生成合成网络评估网络拓扑与节点特征对GNN性能的影响,为模型选择提供指导。
2024-06-04 cs.LG
Predicting CO$_2$ Absorption in Ionic Liquids with Molecular Descriptors and Explainable Graph Neural Networks
Carnegie Mellon University(卡内基梅隆大学)
离子液体(Ionic Liquids,IL)为CO $_2$的捕获和储存提供了一种很有前途的解决方案,以减缓全球变暖。然而,从巨大的化学空间中识别和设计高容量IL需要昂贵且详尽的模拟和实验。机器学习(ML)可以通过以数据驱动的方式进行准确有效的性质预测来加速搜索所需离子分子的过程。但现有的描述符和ML模型的离子分子遭受的分子图结构的适应效率低下。此外,很少有研究ML模型的可解释性,以帮助理解可以指导有效离子分子设计的学习特征。在这项工作中,我们开发了基于指纹的ML模型和图神经网络(GNNs)来预测IL中的CO $_2$吸收。指纹在特征提取阶段处理图结构,而GNN在特征提取和模型预测阶段直接处理分子结构。我们表明,我们的方法优于以前的ML模型,达到了高精度(MAE为0.0137,$R^2$为0.9884)。此外,我们利用GNNs特征表示的优势,并开发了一种基于子结构的解释方法,该方法可以深入了解IL分子中的每个化学片段如何有助于ML模型的CO $_2$吸收预测。我们的解释结果与离子液体中CO $_2$吸附的理论反应机理相吻合,为今后设计新型高效的功能化离子液体提供了参考。
2022-11-09 cs.LG physics.chem-ph
Unboxing the graph: Neural Relational Inference for Mobility Prediction
Machine Learning for Smart Mobility, Transport Division, DTU Management(丹麦技术大学管理学院交通系智慧出行机器学习组)
预测交通系统的供给和需求对于有效的交通管理、控制、优化和规划至关重要。例如,预测人们打算乘坐出租车从哪里/到哪里以及何时出行可以支持车队管理者分配资源;更好地预测交通速度/拥堵可以采取主动控制措施或让用户更好地选择他们的路径。进行时空预测是一项艰巨的任务,但最近图神经网络(GNNs)已被广泛应用于非欧空间数据。然而,大多数GNN模型都需要一个预定义的图,到目前为止,研究人员依靠算法来生成这个图供模型使用。在本文中,我们使用神经关系推理来学习模型的最优图。我们的方法有几个优点:1)变分自动编码器结构允许图形由数据动态确定,可能随时间变化; 2)编码器结构允许在图形生成中使用外部数据; 3)可以在生成的图形上放置贝叶斯先验来编码领域知识。我们在两个数据集上进行实验,即纽约市黄色出租车和PEMS道路交通数据集。在这两个数据集中,我们的表现优于基准测试,并显示出与最先进的性能相当的性能。此外,我们对学习的图形进行了深入分析,提供了关于GNN在传输域中用于时空预测的连接类型的见解。
2022-01-25 cs.LG
Predicting Aqueous Solubility of Organic Molecules Using Deep Learning Models with Varied Molecular Representations
Pacific Northwest National Laboratory(太平洋西北国家实验室)
确定分子的水溶性是许多制药,环境和能量存储应用中的重要步骤。尽管几十年来做出了努力,但仍然存在与开发对于许多这些应用具有令人满意的准确度的溶解度预测模型相关联的挑战。本研究的目的是开发一个通用的模型,能够预测范围广泛的有机分子的溶解度。使用目前最大的溶解度数据集,我们实现了基于深度学习的模型来预测分子结构的溶解度,并使用四种不同的神经网络架构探索了几种不同的分子表示,包括分子描述符,简化的分子输入线输入系统(SMILES)字符串,分子图和三维(3D)原子坐标-全连接神经网络(FCNN),递归神经网络(RNN)、图神经网络(GNNs)和SchNet。我们发现,使用分子描述符的模型实现了最佳性能,GNN模型也实现了良好的性能。我们进行广泛的错误分析,以了解影响模型性能的分子特性,进行特征分析,以了解哪些分子结构信息对预测最有价值,并进行迁移学习和数据大小研究,以了解数据可用性对模型性能的影响。
2021-05-27 cond-mat.mtrl-sci cs.LG
GeoTMI:Predicting quantum chemical property with easy-to-obtain geometry via positional denoising
KAIST(韩国科学技术院)
针对依赖高级量子计算3D几何结构的GNN量子化学性质预测方法实用性受限的问题,提出GeoTMI训练框架,通过去噪和最大化三类变量互信息,利用易获取的低精度几何结构实现精准预测,在多任务中验证了有效性与鲁棒性。
2023-12-14 cs.AI cs.LG physics.chem-ph