Equivariant Graph Hierarchy-Based Neural Networks
Tsinghua University(清华大学);Renmin University of China(中国人民大学);Tencent AI Lab(腾讯人工智能实验室)
等变图神经网络(EGN)是描述多体物理系统动力学的一种有效方法。现有的EGN进行平面消息传递,这,然而,是无法捕捉的空间/动态层次结构的复杂系统,特别是,限制子结构发现和全球信息融合。在本文中,我们提出了基于等变层次图网络(EGHN),它包括三个关键组件:广义等变矩阵消息传递(EMMP),E-Pool和E-UpPool。EMMP能够提高传统等变消息传递的表达能力,E-Pool将底层节点的数量分配到高层簇中,E-UpPool利用高层信息更新底层节点的动态。正如它们的名字所暗示的,E-Pool和E-UpPool都保证是等变的,以满足对称性。大量的实验评估验证了我们的EGHN的有效性,包括多目标动力学模拟,运动捕捉,蛋白质动力学建模的几个应用程序。
2022-10-15 cs.LG
Utility of Equivariant Message Passing in Cortical Mesh Segmentation
Budapest University of Technology and Economics(布达佩斯技术与经济大学);Imperial College London(帝国理工学院);DeepMind(深度思维)
大脑皮层区域的自动分割一直是医学图像分析中的一个长期挑战。大脑皮层的复杂几何形状通常表示为多边形网格,其分割可以通过基于图的学习方法来解决。当皮质网格在受试者之间未对齐时,当前方法产生显著更差的分割结果,限制了其处理多域数据的能力。在本文中,我们研究了E(n)-等变图神经网络(EGNNs)的效用,比较了它们与普通图神经网络(GNNs)的性能。我们的评估表明,GNN在对齐网格上的性能优于EGNN,因为它们能够利用全局坐标系的存在。在未对齐的网格上,普通GNN的性能大幅下降,而E(n)-等变消息传递保持相同的分割结果。通过在重新对齐的数据(全局坐标系中的共配准网格)上使用普通GNN也可以获得最佳结果。
2022-06-15 cs.CV cs.LG
EDEN: A Plug-in Equivariant Distance Encoding to Beyond the 1-WL Test
Shanghai Jiao Tong University(上海交通大学)
消息传递机制是图表示学习的核心。虽然大多数现有的消息传递图神经网络(MPNN)在图级表示学习中是置换不变的,而在节点和边级表示学习中是置换等变的,但它们的表达能力通常受到1-Weisfeiler-Lehman(1-WL)图同构测试的限制。最近提出的表达图神经网络(GNNs)与专门设计的复杂的消息传递机制是不实用的。为了弥补这一差距,我们提出了一个插件等变距离ENcoding(EDEN)的MPNN。EDEN是从图的距离矩阵上的一系列可解释的变换中推导出来的。我们从理论上证明了EDEN对所有层次的图表示学习都是置换等变的,并从实验上证明了EDEN的表达能力可以达到3-WL测试。在真实世界数据集上进行的大量实验表明,将EDEN与传统的GNN相结合超越了最近的先进GNN。
2022-11-19 cs.LG
P-Tensors: a General Formalism for Constructing Higher Order Message Passing Networks
Department of Computer Science(计算机科学系);University of Chicago(芝加哥大学);Computational and Applied Math Department of Statistics(计算与应用数学统计系);Department of Statistics(统计系)
本文提出P-张量作为一种通用形式化方法,用于构建高阶信息传递网络,通过在子图神经网络中实现高阶排列等价的信息传递,从而在分子数据集上取得最佳性能。
2026-02-03 cs.LG math.ST stat.ML
Equivariant Hypergraph Neural Networks
KAIST(韩国科学技术院);LG AI Research(LG人工智能研究院)
计算机视觉和机器学习中的许多问题都可以转换为表示高阶关系的超图上的学习。最近的超图学习方法扩展了基于消息传递的图神经网络,这是简单的,但从根本上限制了建模的长期依赖性和表达能力。另一方面,基于张量的等变神经网络具有最大的表达能力,但由于计算量大和对固定阶超边的严格假设,其应用在超图中受到限制。我们解决了这些问题,并提出了等变超图神经网络(EHNN),第一次尝试实现最大表达的一般超图学习的等变层。我们还提出了我们的框架的两个实际实现的基础上超网络(EHNN-MLP)和自我注意(EHNN-Transformer),这是很容易实现,理论上更有表现力的消息传递方法。我们展示了他们在一系列超图学习问题中的能力,包括合成k边识别,半监督分类和视觉关键点匹配,并报告了在强消息传递基线上的改进性能。我们的实现可以在https://github.com/jw9730/ehnn上获得。
2022-08-22 cs.LG
Direct Molecular Polarizability Prediction with SO(3) Equivariant Local Frame GNNs
Institute of Computer Science, Johannes Gutenberg-University, Mainz(计算机科学研究所,吉森大学,美因茨);Max Planck Institute for Polymer Research, Mainz(聚合物研究所,美因茨)
本文提出一种基于SO(3)等变局部坐标系的图神经网络,通过标量、向量和张量通道的消息传递直接预测分子极化率,并在QM7-X数据集上验证其优于标量消息传递模型。
2025-11-10 cs.LG
Gauge-Equivariant Graph Neural Networks for Lattice Gauge Theories
Department of Physics, University of Virginia, Charlottesville, VA 22904, USA(弗吉尼亚大学物理系);Department of Computer Science, Old Dominion University, Norfolk, VA 22904, USA(老 Dominion 大学计算机科学系)
本文提出一种 gauge-等价图神经网络,通过矩阵值 gauge-协变 特征和对称兼容更新,实现非阿贝尔对称的嵌入,扩展了 equivariant 学习到完全局部对称。
2026-04-22 cond-mat.str-el cs.LG hep-lat
Enhancing Graph Neural Networks Using Proximity Graphs for Dust Source Emission Forecasting
Amirkabir University of Technology(阿米尔卡比尔理工大学);University of Tehran(德黑兰大学)
提出使用Delaunay三角剖分等邻近图作为图神经网络输入,通过消息传递捕捉沙尘源排放的时空动态,相比随机图和LSTM模型显著提升预测精度。
2026-06-19 cs.LG
A Complete Guide to Spherical Equivariant Graph Transformers
University of Pennsylvania(宾夕法尼亚大学)
本指南介绍球面等变图变换器,涵盖群表示、张量积、等变核构建及SE(3)-Transformer架构,用于三维分子和生物分子系统的等变建模与预测。
2025-12-15 cs.LG q-bio.QM
Geometrically Equivariant Graph Neural Networks: A Survey
Tsinghua University(清华大学);Tencent AI Lab(腾讯人工智能实验室)
许多科学问题需要以几何图形的形式处理数据。与一般图形数据不同,几何图形表现出平移、旋转和/或反射的对称性。研究人员利用这种归纳偏差,开发了几何等变图神经网络(GNNs),以更好地表征几何图的几何和拓扑结构。尽管取得了丰硕的成果,但仍然缺乏一个综述来描述同变GNN是如何发展的,这反过来又阻碍了同变GNN的进一步发展。为此,基于必要但简洁的数学描述,我们分析并将现有方法分为三组,分别关于GNN中的消息传递和聚合如何表示。我们还总结了基准以及相关的数据集,以方便以后的研究方法的发展和实验评估。并对今后的发展方向进行了展望。
2022-02-22 cs.LG
Provably Powerful Graph Networks
Weizmann Institute of Science(魏茨曼科学研究所)
最近,Weisfeiler-Lehman(WL)图同构测试被用来衡量图神经网络(GNN)的表达能力。研究表明,流行的消息传递GNN无法区分1-WL测试无法区分的图(Morris et al. 2018; Xu et al. 2019)。不幸的是,许多简单的图的例子是无法区分的1-WL测试。为了寻找更具表现力的图学习模型,我们建立在最近的k阶不变和等变图神经网络(Maron et al. 2019 a,b)的基础上,并提出了两个结果:首先,我们证明了这样的k阶网络可以像k-WL测试一样区分非同构图,对于k>2,可以证明k-WL测试比1-WL测试更强。这使得这些模型严格地比消息传递模型更强大。不幸的是,这些模型的更高表现力伴随着处理高阶张量的计算成本。其次,我们的目标是建立一个可证明的更强大,简单和可扩展的模型,我们证明了一个只包含缩放恒等算子的简化2阶网络,用一个二次运算(矩阵乘法)增强,具有可证明的3-WL表达能力。因此,我们提出了一个简单的模型,交错应用的标准多层感知器(MLP)的特征尺寸和矩阵乘法。我们通过展示流行的图分类和回归任务的最新结果来验证这个模型。据我们所知,这是第一个具有保证3-WL表达能力的实用不变/等变模型,严格比消息传递模型更强。
2020-06-09 cs.LG stat.ML
Frame Averaging for Invariant and Equivariant Network Design
Weizmann Institute of Science(魏茨曼科学研究所);Facebook AI Research(脸书人工智能研究院)
许多机器学习任务涉及学习已知对于输入数据的某些对称性不变或等变的函数。然而,设计尊重这些对称性同时具有表达性和计算效率的神经网络架构通常是具有挑战性的。例如,欧几里德运动不变/等变图或点云神经网络。我们介绍帧平均(FA),一个通用的和系统的框架,用于适应已知的(骨干)架构,成为新的对称类型不变或等变。我们的框架建立在众所周知的组平均算子,保证不变性或等变性,但难以处理。相反,我们观察到,对于许多重要的对称类,这个算子可以用一个平均算子在一个小的子集的组元素,称为一个框架。我们表明,平均在一个帧保证确切的不变性或等变性,而往往是更简单的计算比平均在整个组。此外,我们证明了基于FA的模型在广泛的环境中具有最大的表达能力,并且在一般情况下保留了其骨干架构的表达能力。使用帧平均,我们提出了一类新的通用图神经网络(GNNs),通用欧几里德运动不变点云网络,和欧几里德运动不变消息传递(MP)GNNs。我们证明了FA在几个应用程序中的实际有效性,包括点云正常估计,超越$2$ -WL图分离,和$n$ -身体动力学预测,在所有这些基准测试中达到最先进的结果。
2022-03-15 cs.LG stat.ML
Equivariant Networks for Crystal Structures
McGill University(麦吉尔大学);Mila - Quebec Artificial Intelligence Institute(米拉-魁北克人工智能研究所)
基于深度模型的监督学习在材料科学中具有巨大的应用潜力。最近,图神经网络已被用于这方面,从分子模型中获得直接灵感。然而,材料通常比分子结构化得多,这是这些模型没有利用的特征。在这项工作中,我们介绍了一类模型是等变的结晶对称群。我们通过定义消息传递操作的一般化来实现这一点,这些操作可以与更一般的置换群一起使用,或者可以被视为在晶体图上定义表达卷积操作。从经验上讲,这些模型在属性预测任务上具有最先进的竞争力。
2023-01-16 cond-mat.mtrl-sci cs.LG
OOD Link Prediction Generalization Capabilities of Message-Passing GNNs in Larger Test Graphs
Purdue University(普渡大学);Ludwig-Maximilians-Universitat München(慕尼黑大学)
这项工作提供了关于图消息传递神经网络(gMPNN)-如图神经网络(GNN)-执行归纳分布外(OOD)链接预测任务的能力的第一个理论研究,其中部署(测试)图的大小大于训练图。我们首先证明了非渐近界,表明基于置换等变(结构)节点嵌入gMPNN的链接预测可以收敛到一个随机猜测的测试图变得更大。然后,我们提出了一个理论上合理的gMPNN输出结构成对(2节点)嵌入,并证明非渐近界显示,随着测试图的增长,这些嵌入收敛到一个连续函数的嵌入,保留其预测链接OOD的能力。随机图上的实验结果与我们的理论结果一致。
2022-10-10 cs.AI cs.LG cs.NA
Directional Message Passing for Molecular Graphs
Technical University of Munich(慕尼黑工业大学)
图神经网络近年来在预测分子的量子力学性质方面取得了巨大的成功。这些模型仅使用原子(节点)之间的距离将分子表示为图。然而,他们没有考虑从一个原子到另一个原子的空间方向,尽管方向信息在分子的经验势中起着核心作用,例如在角势中。为了缓解这一限制,我们提出了定向消息传递,其中我们嵌入原子之间传递的消息,而不是原子本身。每个消息与坐标空间中的方向相关联。这些方向信息嵌入是旋转等变的,因为相关的方向随分子旋转。我们提出了一个类似于信念传播的消息传递方案,它通过基于它们之间的角度转换消息来使用方向信息。此外,我们使用球面贝塞尔函数和球谐函数来构建理论上有充分依据的正交表示,这些表示比目前流行的高斯径向基表示具有更好的性能,同时使用不到1/4的参数。我们利用这些创新来构建定向消息传递神经网络(DimeNet)。DimeNet在MD 17上的平均表现优于之前的GNN 76%,在QM 9上则优于之前的GNN 31%。我们的实现可在线获得。
2022-04-05 cs.LG physics.comp-ph stat.ML
Equivariant Graph Mechanics Networks with Constraints
Tsinghua University(清华大学);Tencent AI Lab(腾讯人工智能实验室);University of Texas at Arlington(德克萨斯大学阿灵顿分校)
在机器学习中,学习推理多个交互对象之间的关系和动态是一个具有挑战性的课题。挑战主要来自于相互作用系统是指数组成的,对称的,通常几何约束。目前的方法,特别是基于等变图神经网络(GNNs)的方法,针对前两个挑战,但仍然不成熟的约束系统。在本文中,我们提出了图力学网络(GMN),这是组合有效,等变和约束感知。GMN的核心是用广义坐标表示结构物体的正运动学信息(位置和速度)。以这种方式,几何约束被隐含地且自然地编码在正运动学中。此外,为了允许在GMN中传递等变消息,我们已经开发了一种通用形式的正交等变函数,考虑到约束系统的动力学比无约束系统更复杂。理论上,证明了所提出的等变公式在一定条件下具有普适性。大量的实验支持GMN的优势相比,国家的最先进的GNNs在预测精度,约束满足和数据效率方面的模拟系统组成的粒子,棍棒和铰链,以及两个现实世界的数据集的分子动力学预测和人体运动捕捉。
2022-03-12 cs.LG
SpeqNets: Sparsity-aware Permutation-equivariant Graph Networks
McGill University(麦吉尔大学);Mila Quebec AI Institute(米拉魁北克人工智能研究所);RWTH Aachen University(亚琛工业大学);Max Planck Institute for Software Systems(马克斯·普朗克软件系统研究所)
虽然(消息传递)图神经网络在图或一般关系数据上近似置换等变函数方面具有明显的局限性,但更具表达力的高阶图神经网络不能扩展到大型图。它们要么在$k$阶张量上操作,要么考虑所有$k$节点子图,这意味着内存需求对$k$的指数依赖,并且不适应图的稀疏性。通过引入新的算法的图同构问题,我们设计了一类通用的,置换等变图网络,这与以前的架构不同,提供了一个细粒度的控制之间的表达性和可扩展性,并适应稀疏的图形。与标准高阶图网络相比,这些架构在监督节点级和图级分类和回归机制中大大减少了计算时间,同时在预测性能方面显著改善了标准图神经网络和图核架构。
2022-08-30 cs.AI cs.DS cs.LG
A Flexible, Equivariant Framework for Subgraph GNNs via Graph Products and Graph Coarsening
Computer Science Technion - Israel Institute of Technology(技术学院-以色列理工学院计算机科学系);Electrical & Computer Engineering Technion - Israel Institute of Technology(技术学院-以色列理工学院电气与计算机工程系);NVIDIA Research(NVIDIA研究)
本文提出一种基于图粗化与图乘积的子图GNN等变框架,通过将子图与节点簇关联实现任意数量子图的灵活选择,在保持表达能力的同时显著提升了可扩展性与性能。
2025-05-29 cs.LG
Subgraph Permutation Equivariant Networks
University of Glasgow(格拉斯哥大学)
在这项工作中,我们开发了一种新的方法,命名为子图置换等变网络(SPEN),它提供了一个框架,用于构建操作子图的图神经网络,同时使用一个基更新函数,是置换等变的,是等变的一个新的选择的自同构群。消息传递神经网络已被证明是有限的,在他们的表达能力和最近的方法来克服这要么缺乏可扩展性或需要结构信息被编码到特征空间。这里提出的一般框架克服了可扩展性问题与全球置换等方差的操作更本地的子图。此外,通过对子图进行操作,提高了高维全局置换等变网络的表达能力;这是由于两个不可区分的图通常包含可区分的子图。此外,所提出的框架仅需要选择用于创建自我网络子图的$k$跳和选择用于每层的表示空间,这使得该方法容易地适用于基于图的域的范围。我们在一系列图基准分类任务上通过实验验证了该方法,在七个基准中的六个基准上展示了统计上与最先进的结果无法区分的结果。此外,我们证明了本地更新功能的使用提供了一个显着的改善GPU内存的全局方法。
2022-10-17 cs.LG
Multivector Neurons: Better and Faster O(n)-Equivariant Clifford Graph Neural Networks
AMLab;AI4Science Lab(AI4Science实验室);Anton Pannekoek Institute(安东·潘内科克研究所)
针对现有O(n)/SO(n)等变深度学习模型的局限,提出基于Clifford多向量的新型消息传递GNN,结合不变标量特征与等变几何积算子,在N体模拟和蛋白质去噪任务上实现性能提升与高效率。
2024-07-10 cs.AI cs.LG
Topological Neural Networks go Persistent, Equivariant, and Continuous
Aalto University(阿尔托大学);Federal Institute of Ceará(塞阿拉联邦学院);YaiYai Ltd(YaiYai有限公司)
本文提出TopNets框架,统一了TNNs与持续同调方法,并扩展至几何复形的等变与连续空间设置,理论证明其能增强网络表达能力,在抗体设计等任务上表现优异。
2024-06-05 cs.LG
Are High-Degree Representations Really Unnecessary in Equivariant Graph Neural Networks?
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学耿丽人工智能学院);Beijing Key Laboratory of Big Data Management and Analysis Methods(北京大数据管理与分析方法重点实验室);Laboratories, Huawei Technologies, Shanghai(华为技术有限公司上海2012实验室)
本文通过理论分析证明固定低阶表示的等变GNNs会退化为零函数,并提出高阶版本HEGNN以增强表达能力,实验验证其在对称结构和复杂数据集上的有效性。
2025-10-15 cs.LG
Emergent Loop Geometry in Gauge-Equivariant Graph Neural Networks
University of Virginia(弗吉尼亚大学)
该研究针对规范等变图神经网络,探究其生成的闭合格点游走的统计系综,揭示了轮廓长度与空间扩张的增长层级,为学习格点规范可观测量提供了几何视角。
2026-10-14 cond-mat.stat-mech cond-mat.str-el cs.LG
HollowFlow: Efficient Sample Likelihood Evaluation using Hollow Message Passing
Department of Computer Science and Engineering, Chalmers University of Technology and University of Gothenburg(计算机科学与工程系,查尔姆斯理工大学和戈尔德堡大学)
HollowFlow通过非回溯图神经网络和块对角雅可比结构,实现常数次反向传播的似然评估,加速高达O(n^2),并适用于任意等变GNN,显著提升玻尔兹曼生成器在大规模系统中的采样效率。
2025-10-24 cs.LG stat.ML
Natural Graph Networks
Qualcomm AI Research(高通人工智能研究院);University of Amsterdam(阿姆斯特丹大学)
图神经网络的一个关键要求是,它们必须以一种不依赖于图是如何描述的方式来处理图。传统上,这意味着图网络必须与节点排列等变。在这里,我们表明,而不是等方差,更一般的概念的自然性是足够的图网络是明确的,开辟了一个更大的类的图网络。我们定义了全局和局部自然图网络,后者与传统的消息传递图神经网络一样具有可扩展性,同时更灵活。我们给出了一个实际的自然网络的实例图,它使用了等变消息网络参数化,在几个基准测试中获得了良好的性能。
2020-11-23 cs.CV cs.LG stat.ML
Universality and Approximation Rates of Graph Neural Networks with Random Features
该研究针对带随机节点特征的排列等变神经网络(PENNs),证明其可概率逼近固定大小有向图上的任意可测排列不变/等变函数,并推导了k≥2时的近似率上界,明确了前馈组件复杂度与近似精度的关系。
2026-07-30 cs.LG stat.ML
Lost in Aggregation: On a Fundamental Expressivity Limit of Message-Passing Graph Neural Networks
RWTH Aachen University(亚琛工业大学)
本文定义了聚合函数的信息-复杂度属性,证明了具有此类聚合的MP-GNN模型在所有图上仅诱导多项式数量的等价类,而非同构图的数量是超指数级的。
2026-08-12 cs.CC cs.LG
Equivariant Matrix Function Neural Networks
University of Cambridge(剑桥大学);Beijing Normal University(北京师范大学);University of British Columbia(不列颠哥伦比亚大学)
针对MPNN建模图非局部相互作用时的过平滑、过挤压问题,以及现有方法泛化性或结构捕捉能力不足的缺陷,提出通过解析矩阵等变函数参数化非局部相互作用的矩阵函数神经网络,在标准图基准取得SOTA,还可捕捉量子系统非局部相互作用。
2024-01-30 cond-mat.mtrl-sci cs.LG physics.chem-ph
Foundations of Equivariant Deep Learning: Unifying Graph and Sheaf Neural Networks
扩展几何深度学习利用更丰富对称结构,开发等变神经网络,刻画线性等变映射,构建层并证明连续等变映射的通用逼近定理,还扩展到范畴等变神经网络,给出等变神经网络通用形式及定理。
2026-08-12 cs.AI cs.CV cs.LG
MEGA: Message Passing Neural Networks for Multigraphs with EdGe Attributes
Delft University of Technology(代尔夫特理工大学);University of Neuchâtel(纳沙泰尔大学)
针对带边属性多重图学习的局限,该研究提出邻居感知聚合算子,构建MEGA-GNN框架,在社交和金融数据集上验证其性能达到或超越现有最优方法。
2026-09-01 cs.LG
Equivariant Spatio-Temporal Attentive Graph Networks to Simulate Physical Dynamics
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学高瓴人工智能学院);North Carolina State University(北卡罗来纳州立大学);Institute for AI Industry Research (AIR), Tsinghua University(清华大学人工智能产业研究院);Tencent AI Lab(腾讯AI实验室)
针对物理动力学模拟中逐帧建模忽视非马尔可夫效应的问题,本文提出 ESTAG,利用 EDFT、ESM 与 ETM 建模历史时空相互作用,并在三类真实数据集上验证其优于现有 GNN。
2024-05-21 cs.AI cs.LG
AdS-GNN -- a Conformally Equivariant Graph Neural Network
University of Amsterdam(阿姆斯特丹大学);Durham University(杜伦大学)
该研究提出共形等变图神经网络AdS-GNN,通过将欧氏空间数据提升至AdS空间利用共形与等距变换的对应关系,结合固有距离条件的消息传递层构建高效框架,在多领域任务中展现优异性能与共形数据提取能力。
2025-05-19 cs.AI cs.LG hep-th
Beyond Canonicalization: How Tensorial Messages Improve Equivariant Message Passing
Interdisciplinary Center for Scientific Computing (IWR), Heidelberg University(海德堡大学跨学科科学计算中心)
本文提出了一种基于局部规范化的等变消息传递框架,通过引入张量消息在不同局部坐标系间一致传递几何信息,可无限制集成至任意架构,在法向量回归等3D点云任务上取得优异结果。
2025-03-05 cs.LG
Gauge-Equivariant Graph Networks via Self-Interference Cancellation
Department of Artificial Intelligence, Sookmyung Women's University, Seoul, South Korea(首尔大学女子大学人工智能系);Korea Advanced Institute of Science and Technology, Seoul, South Korea(韩国科学技术院)
本文提出了一种通过自干扰消除的 gauge-等变图网络(GESC),该网络通过投影机制替代传统的加法聚合,有效处理异质图中的自干扰问题,从而提升模型在异质图上的表现。
2026-05-19 cs.LG
Equivariant Message Passing Neural Network for Crystal Material Discovery
Univ. Artois(阿尔图瓦大学)
自动发现具有所需性能的材料是材料科学的基本挑战。近来,相当多的注意力被投入到产生稳定的晶体结构上。虽然现有的工作已经显示出令人印象深刻的成功的监督任务,如属性预测,在无监督的任务,如材料生成的进展仍然受到限制的程度,其中相同的晶体的等效几何表示被认为是。为了解决这一挑战,我们提出了EMPNN的周期性等变的消息传递神经网络,学习晶格变形在一个无监督的方式。我们的模型根据必须执行的变形动作等效地作用于晶格,使其适合于晶体生成,松弛和优化。我们提出的实验评估,证明我们的方法的有效性。
2023-02-01 cs.LG
Tensor Channel Equivariant Graph Neural Networks for Molecular Polarizability Prediction
Institute for Computer Science, Johannes Gutenberg University Mainz, Germany(明斯特大学计算机科学研究所,德国)
本文提出了一种张量通道等价图神经网络,用于直接预测分子极化率张量,通过改进的PaiNN架构,在消息传递中传播张量结构,从而在分子极化率预测任务中取得更好的性能。
2026-05-16 cs.LG
Relaxing Continuous Constraints of Equivariant Graph Neural Networks for Physical Dynamics Learning
Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Hong Kong University of Science and Technology(香港科技大学);Tencent AI Lab(腾讯AI Lab)
针对现有图神经网络在离散对称物理动力学场景中等变性适配不足的问题,提出离散等变图神经网络DEGNN通过松弛连续等变约束,采用两种置换不变函数实现方式,在多类物理动力学20种场景中性能优于现有最优方法,且数据效率高、跨场景泛化性强。
2024-06-24 cs.AI cs.LG
Learning Non-Local Molecular Interactions via Equivariant Local Representations and Charge Equilibration
TUM School of Engineering and Design, Technical University of Munich(慕尼黑技术大学工程与设计学院);Technical University of Munich(慕尼黑技术大学)
本文提出电荷平衡层(CELLI),将经典电荷平衡方法推广为等变图神经网络的模型无关组件,使局部模型能高效模拟非局部长程相互作用,在基准上取得最优结果且具高可解释性。
2025-06-27 cs.LG physics.chem-ph physics.comp-ph
Equivariant Sheaf Neural Networks: Learning Geometric Transport on Graphs
University of Cambridge(剑桥大学);Sapienza University of Rome(罗马第一大学);University of Padua(帕多瓦大学)
该研究提出等变层状神经网络(ESNN),通过学习图上边的矩阵值几何传输,在保持等变性的同时提升了多个几何相关任务的性能。
2026-10-02 cs.AI cs.LG
EqCollide: Equivariant and Collision-Aware Deformable Objects Neural Simulator
Westlake University(西交大大学);Fudan University(复旦大学);Tongji University(同济大学);McGill University(麦吉尔大学)
提出首个端到端等变神经场模拟器EqCollide,通过等变编码器和碰撞感知消息传递的图神经网络常微分方程,实现可变形物体碰撞的准确、稳定和可扩展模拟。
2026-06-17 cs.CE cs.LG cs.RO
Equivariant Machine Learning Interatomic Potentials with Global Charge Redistribution
Department of Mechanical Engineering, Texas Tech University, Lubbock, Texas 79409, USA(德克萨斯理工大学机械工程系);Samsung Advanced Institute of Technology, Samsung Electronics, Suwon 16678, Republic of Korea(三星电子首尔先进技术研究所)
针对现有机器学习原子间势难处理长程相互作用等系统的问题,研究提出融合全局电荷分布与电荷平衡方案的等变MLIP,在多基准数据集上的能量、力预测表现更优,拓展了其在计算材料科学的应用。
2025-03-23 cond-mat.mtrl-sci cs.LG physics.chem-ph
MACE: Higher Order Equivariant Message Passing Neural Networks for Fast and Accurate Force Fields
University of Cambridge(剑桥大学);ENS Paris-Saclay, Université Paris-Saclay(巴黎萨克雷大学巴黎萨克雷高等师范学院);University of British Columbia(不列颠哥伦比亚大学)
创建快速准确的力场是计算化学和材料科学中的一个长期挑战。最近,几个等变消息传递神经网络(MPNN)已被证明优于使用其他方法建立的模型的准确性。然而,大多数MPNN的计算成本高,可扩展性差。我们认为这些限制的出现是因为MPNN只传递两体消息,导致网络的层数和表达能力之间存在直接关系。在这项工作中,我们介绍了MACE,一个新的等变MPNN模型,使用更高的身体秩序的消息。特别是,我们表明,使用四体消息将所需的消息传递迭代次数减少到只有两次,从而产生快速且高度并行化的模型,在rMD17,3BPA和AcAc基准任务上达到或超过最先进的精度。我们还证明了使用高阶消息会导致学习曲线的陡度提高。
2023-01-26 cond-mat.mtrl-sci cs.LG physics.chem-ph
Multi-Attractor GNNs: Set-Valued Expressivity Beyond Unique Equilibria
University of Central Florida(中佛罗里达大学)
本文提出多吸引子图神经网络,利用多个均衡使权重共享的消息传递GNN表示集值等变映射,无需解标签即可学习,在多个任务上优于现有基线。
2026-09-29 cs.AI cs.LG
Geometric and Physical Quantities Improve E(3) Equivariant Message Passing
University of Amsterdam(阿姆斯特丹大学);Johannes Kepler University Linz(林茨约翰内斯·开普勒大学);UvA-Bosch DeltaLab(阿姆斯特丹大学-博世德尔塔实验室)
包括协变信息,如位置,力,速度或自旋在计算物理和化学中的许多任务中是重要的。我们引入了可操纵E(3)等变图神经网络(SEGNN),它推广了等变图网络,使得节点和边属性不限于不变标量,而是可以包含协变信息,如向量或张量。该模型由可操纵的MLP组成,能够在消息和更新功能中结合几何和物理信息。通过定义可操纵节点属性,MLP提供了一类新的激活函数,可与可操纵特征场一起通用。我们通过等变非线性卷积的镜头来讨论我们和相关工作,这进一步使我们能够确定SEGNN的成功组件:非线性消息聚合改进了经典的线性(可转向)点卷积;可转向消息改进了最近发送不变消息的等变图网络。我们证明了我们的方法在计算物理和化学的几个任务的有效性,并提供了广泛的消融研究。
2022-03-26 cs.AI cs.LG stat.ML
Autobahn: Automorphism-based Graph Neural Nets
Flatiron Institute(弗莱顿研究所);New York University(纽约大学);University of Chicago(芝加哥大学)
我们介绍了基于自同构的图神经网络(Autobahn),一个新的家庭的图神经网络。在一个高速公路,我们分解成一个子图的集合图,并应用局部卷积是等变的每个子图的自同构群。局部邻域和子图的特定选择恢复了现有的架构,例如消息传递神经网络。我们的形式主义还包括新颖的架构:作为一个例子,我们引入了一个图神经网络,它将图分解为路径和循环。由此产生的卷积反映了部分图可以变换的自然方式,保留了卷积的直观含义,而不会牺牲全局置换等方差。我们验证了我们的方法,应用Autobahn分子图,在那里它实现了竞争的结果与国家的最先进的消息传递算法。
2022-02-03 cs.LG
Equivariant Spherical Transformer for Efficient Molecular Modeling
SAIS(上海人工智能科学研究院);Shanghai Innovation Institute(上海创新研究院);Xiamen University(厦门大学);INFTech;Sun Yat-sen University(中山大学);Nanjing University(南京大学);Fudan University Zhongshan Hospital(复旦大学中山医院)
本文提出即插即用的 Equivariant Spherical Transformer,在群表示 Fourier 空间域引入 Transformer 并保持等变归纳偏置,在 OC20、QM9 上达到最先进性能并验证其等变性。
2026-11-10 cs.AI cs.LG
Neural Message Passing on Structural Interaction Graphs for Fully-Inductive Graph Neural Networks
该研究提出SIGIL框架,通过结构交互图和关系消息传递网络实现图特征的统一表示,可用于全归纳链接预测,还能统一多种图基础模型设计范式。
2026-08-14 cs.LG
Equivariant message passing for the prediction of tensorial properties and molecular spectra
Technische Universität Berlin(柏林工业大学);Berlin Institute for the Foundations of Learning and Data(柏林学习与数据基础研究所)
消息传递神经网络已成为一种选择的方法,用于学习图,特别是化学性质的预测和分子动力学研究的加速。虽然它们很容易扩展到大的训练数据集,但以前的方法已被证明比内核方法的数据效率低。我们确定的一个主要原因不变表示的限制,并扩展到旋转等变表示的消息传递制定。在此基础上,我们提出了极化原子相互作用神经网络(PaiNN),并对常用的分子基准进行了改进,同时减小了模型规模和推理时间。我们利用PaiNN获得的等变atomwise表示来预测张量性质。最后,我们将其应用于分子光谱的模拟,与电子结构参考相比,实现了4-5个数量级的加速。
2021-06-07 cs.LG physics.chem-ph
Weisfeiler and Lehman Go Topological: Message Passing Simplicial Networks
University of Cambridge(剑桥大学);Twitter(推特);Imperial College London(帝国理工学院);University of New South Wales(新南威尔士大学);Max Planck Institute for Mathematics in the Sciences(马克斯·普朗克数学科学研究所);Shanghai Jiao Tong University(上海交通大学);University of California, Los Angeles(加州大学洛杉矶分校)
图机器学习的成对交互范例主要支配关系系统的建模。然而,图本身不能捕捉到许多复杂系统中存在的多层次的相互作用,这种计划的表达能力被证明是有限的。为了克服这些限制,我们提出了消息传递单纯网络(MPSN),一类模型,执行单纯复合体(SC)上的消息传递。为了从理论上分析我们的模型的表现力,我们引入了一个简单的Weisfeiler-Lehman(SWL)着色程序来区分非同构的SC。我们与SWL的权力区分非同构图的问题,并表明,SWL和MPSNs是严格更强大的WL测试和不低于3-WL测试的强大。我们通过比较我们的模型与传统的具有ReLU激活的图神经网络(GNNs),根据它们可以表示的函数的线性区域的数量来深化分析。我们经验上支持我们的理论主张,表明MPSN可以区分具有挑战性的强正则图,GNN失败,当配备定向等变层时,与GNN基线相比,它们可以提高定向SC的分类精度。
2021-06-14 cs.LG cs.SI
VN-EGNN: E(3)-Equivariant Graph Neural Networks with Virtual Nodes Enhance Protein Binding Site Identification
ELLIS Unit Linz(ELLIS林茨单元);JKU Linz(约翰内斯·开普勒大学林茨分校);NXAI GmbH(NXAI有限公司)
针对现有图神经网络在蛋白质结合位点识别上性能受限的问题,研究提出添加虚拟节点并扩展消息传递的VN-EGNN方法,在多个基准数据集上实现结合位点中心定位的新SOTA。
2024-04-10 cs.AI cs.LG q-bio.BM
Fast and Distributed Equivariant Graph Neural Networks by Virtual Node Learning
Stanford University(斯坦福大学)
针对等变GNN在大规模几何图上的效率与稀疏化性能问题,提出FastEGNN与DistEGNN,利用虚拟节点学习实现高效分布式处理,在多个大规模基准上取得优越性能。
2025-06-24 cs.AI cs.LG
NEMORA: Neural Equivariant Multipole Operators for Long-Range Atomistic Learning
Courant Institute(库朗研究所);New York University(纽约大学);Tandon School of Engineering(坦登工程学院);The University of Chicago(芝加哥大学)
NEMORA是FMM的神经等变扩展,可线性复杂度处理数十万个原子,在非局部基准上大幅降低力和能量误差,性能优于或媲美现有长程方法。
2026-10-09 cs.LG physics.chem-ph physics.comp-ph
E(n) Equivariant Topological Neural Networks
Harvard University(哈佛大学);ETH Zurich(苏黎世联邦理工学院)
本文提出E(n)-等变拓扑神经网络(ETNNs),在统一多种组合结构的组合复形上进行等变消息传递,以更低计算成本在QM9分子预测和空气污染回归任务上达到或超越最先进的等变TDL模型。
2025-02-06 cs.LG cs.NE
EquiPocket: an E(3)-Equivariant Geometric Graph Neural Network for Ligand Binding Site Prediction
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学高瓴人工智能学院);Beijing Institute of Technology(北京理工大学)
针对现有3D CNN方法预测蛋白质结合位点的缺陷,本研究提出E(3)等变GNN模型EquiPocket,结合密集注意力层缓解尺寸问题,实验表明其性能优于现有方法。
2026-08-19 cs.LG q-bio.BM