Unifying O(3) Equivariant Neural Networks Design with Tensor-Network Formalism
University of Cambridge(剑桥大学);The University of Chicago(芝加哥大学);Flatiron Institute(弗拉蒂伦研究所)
本文提出用张量网络中的融合图技术设计O(3)等变神经网络组件(融合块),作为任意连续等变函数的通用逼近器,集成到Cormorant和MACE中提升性能并应用于二苯乙烯异构化动力学。
2024-05-22 cs.AI cs.LG quant-ph
Relaxed Equivariant Graph Neural Networks
Northeastern University(东北大学)
该研究基于e3nn框架提出松弛$E(3)$图等变神经网络框架,通过松弛权重实现可控对称性破缺,实验验证其可学习到恰当的破缺程度,为复杂物理系统建模提供新方法。
2024-12-10 cs.LG
Geometrically Equivariant Graph Neural Networks: A Survey
Tsinghua University(清华大学);Tencent AI Lab(腾讯人工智能实验室)
许多科学问题需要以几何图形的形式处理数据。与一般图形数据不同,几何图形表现出平移、旋转和/或反射的对称性。研究人员利用这种归纳偏差,开发了几何等变图神经网络(GNNs),以更好地表征几何图的几何和拓扑结构。尽管取得了丰硕的成果,但仍然缺乏一个综述来描述同变GNN是如何发展的,这反过来又阻碍了同变GNN的进一步发展。为此,基于必要但简洁的数学描述,我们分析并将现有方法分为三组,分别关于GNN中的消息传递和聚合如何表示。我们还总结了基准以及相关的数据集,以方便以后的研究方法的发展和实验评估。并对今后的发展方向进行了展望。
2022-02-22 cs.LG
Equivariant Graph Hierarchy-Based Neural Networks
Tsinghua University(清华大学);Renmin University of China(中国人民大学);Tencent AI Lab(腾讯人工智能实验室)
等变图神经网络(EGN)是描述多体物理系统动力学的一种有效方法。现有的EGN进行平面消息传递,这,然而,是无法捕捉的空间/动态层次结构的复杂系统,特别是,限制子结构发现和全球信息融合。在本文中,我们提出了基于等变层次图网络(EGHN),它包括三个关键组件:广义等变矩阵消息传递(EMMP),E-Pool和E-UpPool。EMMP能够提高传统等变消息传递的表达能力,E-Pool将底层节点的数量分配到高层簇中,E-UpPool利用高层信息更新底层节点的动态。正如它们的名字所暗示的,E-Pool和E-UpPool都保证是等变的,以满足对称性。大量的实验评估验证了我们的EGHN的有效性,包括多目标动力学模拟,运动捕捉,蛋白质动力学建模的几个应用程序。
2022-10-15 cs.LG
Permutation Equivariant Neural Controlled Differential Equations for Dynamic Graph Representation Learning
Heidelberg Institute for Theoretical Studies(海德堡理论研究所);Mathematical Institute, University of Oxford(牛津大学数学研究所);City University of Hong Kong(香港城市大学);IAR, Karlsruhe Institute of Technology(卡尔斯鲁厄技术大学IAR研究所);Department of Psychiatry, Warneford Hospital(沃内福德医院精神病科)
本文提出置换等变神经图受控微分方程,通过将模型投影到置换等变空间减少参数,提升动态图表示学习的训练效率与泛化,在插值和外推任务中表现更优。
2025-10-27 cs.LG
Equivariant Neural Network for Factor Graphs
Stanford University(斯坦福大学);Dexterity(德克斯特公司);Cornell University(康奈尔大学)
在因子图数据结构中使用的若干索引可以被置换而不改变潜在的概率分布。在因子图上执行推理的算法理想地应该对节点的全局索引、因子内的变量排序和变量赋值排序的排列是等变的或不变的。然而,现有的基于神经网络的推理过程未能利用这种归纳偏差。在本文中,我们精确地描述了这些同构的因素图的性质,并提出了两个推理模型:因子-等变神经信念传播(FE-NBP)和因子-等变图神经网络(FE-GNN)。FE-NBP是一个神经网络,它概括了BP并尊重因子图的上述每个属性,而FE-GNN是一个表达性GNN模型,它放松了同构属性,有利于更大的表达性。从经验上讲,我们在真实世界和合成数据集上证明,对于边缘推理和MAP推理,FE-NBP和FE-GNN共同涵盖了一系列样本复杂性机制:FE-NBP在小数据集上实现了最先进的性能,而FE-GNN在大数据集上实现了最先进的性能。
2021-09-29 cs.LG
Equivariant Hypergraph Neural Networks
KAIST(韩国科学技术院);LG AI Research(LG人工智能研究院)
计算机视觉和机器学习中的许多问题都可以转换为表示高阶关系的超图上的学习。最近的超图学习方法扩展了基于消息传递的图神经网络,这是简单的,但从根本上限制了建模的长期依赖性和表达能力。另一方面,基于张量的等变神经网络具有最大的表达能力,但由于计算量大和对固定阶超边的严格假设,其应用在超图中受到限制。我们解决了这些问题,并提出了等变超图神经网络(EHNN),第一次尝试实现最大表达的一般超图学习的等变层。我们还提出了我们的框架的两个实际实现的基础上超网络(EHNN-MLP)和自我注意(EHNN-Transformer),这是很容易实现,理论上更有表现力的消息传递方法。我们展示了他们在一系列超图学习问题中的能力,包括合成k边识别,半监督分类和视觉关键点匹配,并报告了在强消息传递基线上的改进性能。我们的实现可以在https://github.com/jw9730/ehnn上获得。
2022-08-22 cs.LG
EDEN: A Plug-in Equivariant Distance Encoding to Beyond the 1-WL Test
Shanghai Jiao Tong University(上海交通大学)
消息传递机制是图表示学习的核心。虽然大多数现有的消息传递图神经网络(MPNN)在图级表示学习中是置换不变的,而在节点和边级表示学习中是置换等变的,但它们的表达能力通常受到1-Weisfeiler-Lehman(1-WL)图同构测试的限制。最近提出的表达图神经网络(GNNs)与专门设计的复杂的消息传递机制是不实用的。为了弥补这一差距,我们提出了一个插件等变距离ENcoding(EDEN)的MPNN。EDEN是从图的距离矩阵上的一系列可解释的变换中推导出来的。我们从理论上证明了EDEN对所有层次的图表示学习都是置换等变的,并从实验上证明了EDEN的表达能力可以达到3-WL测试。在真实世界数据集上进行的大量实验表明,将EDEN与传统的GNN相结合超越了最近的先进GNN。
2022-11-19 cs.LG
E($3$) Equivariant Graph Neural Networks for Particle-Based Fluid Mechanics
Technical University of Munich(慕尼黑工业大学);Microsoft Research(微软研究院)
本文证明在3D衰减Taylor-Green涡旋和3D反向Poiseuille流基准上,等变图神经网络比非等变模型能学习物理上更准确的动态交互,为湍流粗粒化建模与跨系统泛化提供了新机遇。
2023-03-31 cs.LG physics.flu-dyn
Using Multiple Vector Channels Improves E(n)-Equivariant Graph Neural Networks
McGill University(麦吉尔大学);Mila, Quebec AI Institute(米拉魁北克人工智能研究所);Intel Labs(英特尔实验室)
提出在每个节点使用多个等变向量的多通道 EGNN 扩展,在运行时间和参数量极小差异下,于 N 体动力学、分子属性预测等物理基准任务上显著优于单通道 EGNN。
2023-09-06 cs.LG
Equivariant Graph Neural Networks for 3D Macromolecular Structure
Stanford University(斯坦福大学)
在机器学习中,关于大分子的3D结构的表示和推理正在成为一个独特的挑战。在这里,我们扩展了最近的工作几何矢量感知器和应用等变图神经网络的任务范围广泛的结构生物学。我们的方法在ATOM 3D基准测试中的八个任务中的三个任务上优于所有参考架构,在另外两个任务上并列第一,并且与使用高阶表示和球谐卷积的等变网络竞争。此外,我们证明了迁移学习可以进一步提高某些下游任务的性能。代码可在https://github.com/drorlab/gvp-pytorch上获得。
2021-07-13 cs.LG q-bio.BM
Subgraph Permutation Equivariant Networks
University of Glasgow(格拉斯哥大学)
在这项工作中,我们开发了一种新的方法,命名为子图置换等变网络(SPEN),它提供了一个框架,用于构建操作子图的图神经网络,同时使用一个基更新函数,是置换等变的,是等变的一个新的选择的自同构群。消息传递神经网络已被证明是有限的,在他们的表达能力和最近的方法来克服这要么缺乏可扩展性或需要结构信息被编码到特征空间。这里提出的一般框架克服了可扩展性问题与全球置换等方差的操作更本地的子图。此外,通过对子图进行操作,提高了高维全局置换等变网络的表达能力;这是由于两个不可区分的图通常包含可区分的子图。此外,所提出的框架仅需要选择用于创建自我网络子图的$k$跳和选择用于每层的表示空间,这使得该方法容易地适用于基于图的域的范围。我们在一系列图基准分类任务上通过实验验证了该方法,在七个基准中的六个基准上展示了统计上与最先进的结果无法区分的结果。此外,我们证明了本地更新功能的使用提供了一个显着的改善GPU内存的全局方法。
2022-10-17 cs.LG
E(3)-Equivariant Mesh Neural Networks
FPT Software AI Center(FPT软件人工智能中心);McGill University(麦吉尔大学);Mila - Quebec AI Institute(米拉-魁北克人工智能研究所);Ton Duc Thang University(同塔大学);Indiana State University(印第安纳州立大学)
针对三维网格几何深度学习,本文通过最小限度扩展EGNNs更新方程并引入层次结构处理长程交互,提出了EMNN架构,在网格任务上以更快的运行速度和无需昂贵预处理的优势超越了复杂等变方法。
2024-02-19 cs.LG
SpeqNets: Sparsity-aware Permutation-equivariant Graph Networks
McGill University(麦吉尔大学);Mila Quebec AI Institute(米拉魁北克人工智能研究所);RWTH Aachen University(亚琛工业大学);Max Planck Institute for Software Systems(马克斯·普朗克软件系统研究所)
虽然(消息传递)图神经网络在图或一般关系数据上近似置换等变函数方面具有明显的局限性,但更具表达力的高阶图神经网络不能扩展到大型图。它们要么在$k$阶张量上操作,要么考虑所有$k$节点子图,这意味着内存需求对$k$的指数依赖,并且不适应图的稀疏性。通过引入新的算法的图同构问题,我们设计了一类通用的,置换等变图网络,这与以前的架构不同,提供了一个细粒度的控制之间的表达性和可扩展性,并适应稀疏的图形。与标准高阶图网络相比,这些架构在监督节点级和图级分类和回归机制中大大减少了计算时间,同时在预测性能方面显著改善了标准图神经网络和图核架构。
2022-08-30 cs.AI cs.DS cs.LG
Foundations of Equivariant Deep Learning: Unifying Graph and Sheaf Neural Networks
扩展几何深度学习利用更丰富对称结构,开发等变神经网络,刻画线性等变映射,构建层并证明连续等变映射的通用逼近定理,还扩展到范畴等变神经网络,给出等变神经网络通用形式及定理。
2026-08-12 cs.AI cs.CV cs.LG
Learning Lagrangian Fluid Mechanics with E($3$)-Equivariant Graph Neural Networks
Technical University of Munich(慕尼黑工业大学);Microsoft Research AI4Science(微软研究院AI4Science)
本文研究E(3)-等变图神经网络在拉格朗日流体力学中的应用,通过在三维衰减Taylor-Green涡旋和三维反向Poiseuille流上的基准测试,证明所提出的物理历史嵌入方法能使等变模型学习到比非等变模型更精确的动态交互。
2023-05-24 cs.LG physics.flu-dyn
Equivariant Graph Mechanics Networks with Constraints
Tsinghua University(清华大学);Tencent AI Lab(腾讯人工智能实验室);University of Texas at Arlington(德克萨斯大学阿灵顿分校)
在机器学习中,学习推理多个交互对象之间的关系和动态是一个具有挑战性的课题。挑战主要来自于相互作用系统是指数组成的,对称的,通常几何约束。目前的方法,特别是基于等变图神经网络(GNNs)的方法,针对前两个挑战,但仍然不成熟的约束系统。在本文中,我们提出了图力学网络(GMN),这是组合有效,等变和约束感知。GMN的核心是用广义坐标表示结构物体的正运动学信息(位置和速度)。以这种方式,几何约束被隐含地且自然地编码在正运动学中。此外,为了允许在GMN中传递等变消息,我们已经开发了一种通用形式的正交等变函数,考虑到约束系统的动力学比无约束系统更复杂。理论上,证明了所提出的等变公式在一定条件下具有普适性。大量的实验支持GMN的优势相比,国家的最先进的GNNs在预测精度,约束满足和数据效率方面的模拟系统组成的粒子,棍棒和铰链,以及两个现实世界的数据集的分子动力学预测和人体运动捕捉。
2022-03-12 cs.LG
Using Random Noise Equivariantly to Boost Graph Neural Networks Universally
Institute for Artificial Intelligence, Peking University(北京大学人工智能研究院)
本文提出等变噪声图神经网络ENGNN,通过理论分析随机噪声引入GNN的样本复杂度问题,并利用噪声对称性提升节点、链路、子图及图级任务的表达能力与泛化性能。
2025-02-04 cs.LG
Equivariance Is Not All You Need: Characterizing the Utility of Equivariant Graph Neural Networks for Particle Physics Tasks
Columbia University(哥伦比亚大学);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室)
针对粒子物理重建任务,研究通过真实场景评估发现等变图神经网络的诸多理论优势在实际系统中未必成立,为机器学习与物理应用交叉研究指明新方向。
2023-11-06 cs.LG hep-ex
Equivariant geometric learning for digital rock physics: estimating formation factor and effective permeability tensors from Morse graph
Stony Brook University(石溪大学);Halicioglu Data Science Institute, University of California, San Diego(加州大学圣地亚哥分校哈利西奥格鲁数据科学研究所);Columbia University(哥伦比亚大学)
提出了一种SE(3)-等变图神经网络(GNN)方法,直接从微观CT图像预测地层系数和有效渗透率。建立FFT求解器来计算地层因素和有效渗透率,而孔隙空间的拓扑结构和几何形状由基于持久性的Morse图表示。它们共同构成了用于训练、验证和测试神经网络的数据库。虽然图和欧几里得卷积方法都采用神经网络来生成低维潜在空间来表示用于前向预测的微结构的特征,但发现SE(3)等变神经网络可以生成更准确的预测,特别是当训练数据有限时。数值实验还表明,新的SE(3)方法导致满足材料框架无差异的预测,而经典卷积神经网络(CNN)的预测可能会受到对训练数据的坐标系的虚假依赖。从训练CNN推断出的预测与从具有和不具有等变约束的图卷积神经网络(GNN)推断出的预测之间的比较表明,等变图神经网络似乎比CNN和GNN在不强制等变约束的情况下表现得更好。
2021-10-12 cs.LG physics.geo-ph
Are High-Degree Representations Really Unnecessary in Equivariant Graph Neural Networks?
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学耿丽人工智能学院);Beijing Key Laboratory of Big Data Management and Analysis Methods(北京大数据管理与分析方法重点实验室);Laboratories, Huawei Technologies, Shanghai(华为技术有限公司上海2012实验室)
本文通过理论分析证明固定低阶表示的等变GNNs会退化为零函数,并提出高阶版本HEGNN以增强表达能力,实验验证其在对称结构和复杂数据集上的有效性。
2025-10-15 cs.LG
Quantized SO(3)-Equivariant Graph Neural Networks for Efficient Molecular Property Prediction
Suzhou Lab(苏州实验室);Nanjing University(南京大学)
本文提出量化SO(3)等价图神经网络方法,通过低比特量化技术提升分子性质预测的效率,实现准确性和效率的平衡。
2026-03-03 cs.LG
E(n)-equivariant Graph Neural Cellular Automata
Independent researcher(独立研究者)
针对现有图神经细胞自动机违反局部性且具各向异性的问题,提出E(n)-等变图神经细胞自动机,通过替换为E(n)-等变图卷积实现各向同性,能处理大图并展现自组织行为,成功应用于图案形成、图自编码与动力系统模拟。
2025-02-03 cs.LG
Equivariant Matrix Function Neural Networks
University of Cambridge(剑桥大学);Beijing Normal University(北京师范大学);University of British Columbia(不列颠哥伦比亚大学)
针对MPNN建模图非局部相互作用时的过平滑、过挤压问题,以及现有方法泛化性或结构捕捉能力不足的缺陷,提出通过解析矩阵等变函数参数化非局部相互作用的矩阵函数神经网络,在标准图基准取得SOTA,还可捕捉量子系统非局部相互作用。
2024-01-30 cond-mat.mtrl-sci cs.LG physics.chem-ph
E(3)-Equivariant Graph Neural Networks for Data-Efficient and Accurate Interatomic Potentials
Harvard University(哈佛大学);École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院);Robert Bosch Research and Technology Center(罗伯特·博世研究与技术中心);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室);Massachusetts Institute of Technology(麻省理工学院)
本文介绍了神经等变原子间势(NequIP),一种用于从从头计算中学习原子间势的E(3)-等变神经网络方法,用于分子动力学模拟。虽然大多数当代的几何感知模型使用不变卷积并且只作用于标量,但NequIP使用E(3)-等变卷积来处理几何张量的相互作用,从而使原子环境的信息更加丰富和忠实。该方法在一组具有挑战性和多样性的分子和材料上实现了最先进的准确性,同时表现出显着的数据效率。NequIP的性能优于现有模型,训练数据少了三个数量级,挑战了人们普遍认为的深度神经网络需要大量训练集的观点。该方法的高数据效率允许使用高阶量子化学理论水平作为参考来构建精确的势,并且能够在长时间尺度上进行高保真度的分子动力学模拟。
2021-12-16 cond-mat.mtrl-sci cs.LG physics.comp-ph
Morphological-Symmetry-Equivariant Heterogeneous Graph Neural Network for Robotic Dynamics Learning
California Institute of Technology(加州理工学院);Georgia Institute of Technology(佐治亚理工学院)
本文提出MS-HGNN,通过整合机器人运动学结构和形态对称性,实现高效的动力学学习,并在多个四足机器人任务中验证了其有效性。
2026-03-10 cs.LG cs.RO
Spacetime $E(n)$-Transformer: Equivariant Attention for Spatio-temporal Graphs
Stanford University(斯坦福大学)
本文提出 Spacetime $E(n)$-Transformer(SET),通过在空间与时间中引入旋转、平移和排列等变归纳偏置,在带电 $N$ 体问题上显著优于缺乏对称性保持的模型。
2024-08-12 cs.AI cs.LG
Multivector Neurons: Better and Faster O(n)-Equivariant Clifford Graph Neural Networks
AMLab;AI4Science Lab(AI4Science实验室);Anton Pannekoek Institute(安东·潘内科克研究所)
针对现有O(n)/SO(n)等变深度学习模型的局限,提出基于Clifford多向量的新型消息传递GNN,结合不变标量特征与等变几何积算子,在N体模拟和蛋白质去噪任务上实现性能提升与高效率。
2024-07-10 cs.AI cs.LG
Equivariant Quantum Graph Circuits
University of Oxford(牛津大学);Charm Therapeutics(魅力治疗公司);Cambridge Quantum Computing(剑桥量子计算公司);Quantinuum(昆腾努姆公司)
研究了用于图表示学习的量子电路,提出了等变量子图电路(equivariant quantum graph circuits,EQGC),作为一类具有强关系归纳偏差的参数化量子电路,用于图结构数据的学习.从概念上讲,EQGC作为量子图表示学习的统一框架,允许我们定义几个有趣的子类,这些子类继承了现有的建议。在表示能力方面,我们证明了所研究的EQGC子类是有界图域上函数的通用逼近器。这种对量子图机器学习方法的理论观点为进一步的工作开辟了许多方向,并可能导致具有超越经典方法的能力的模型。我们通过对合成数据的专门实验来经验性地验证EQGC的表达能力,并且另外观察到EQGC的性能随着模型的深度而良好地扩展,并且不遭受贫瘠的高原问题。
2022-06-13 cs.LG quant-ph
PEnGUiN: Partially Equivariant Graph NeUral Networks for Sample Efficient MARL
University of Maryland College Park(马里兰大学学院公园分校);The Johns Hopkins Applied Physics Lab(约翰斯·霍普金斯大学应用物理实验室)
针对现实MARL环境存在不对称性、现有等变图神经网络适配性不足的问题,提出PEnGUiN部分等变图神经网络架构,可统一学习等变与非等变表示,在非对称场景下性能优于EGNN和标准GNN,提升算法鲁棒性与现实适用性。
2025-03-19 cs.AI cs.LG cs.RO
Predicting Protein-Ligand Binding Affinity with Equivariant Line Graph Network
Shenzhen University(深圳大学);Tencent AI Lab(腾讯人工智能实验室)
三维蛋白质配体复合物的结合亲和力预测对于药物重新定位和虚拟药物筛选具有重要意义。现有的方法将3D蛋白质-配体复合物转换为二维(2D)图,然后使用图神经网络(GNN)来预测其结合亲和力。然而,2D图的节点和边特征是基于3D复合体的不变局部坐标系来提取的。因此,该方法不能充分学习复合物的全局信息,如物理对称性和键的拓扑信息。为了解决这些问题,我们提出了一种新的等变线图网络(ELGN)的3D蛋白质配体复合物的亲和力预测。该算法首先在三维复合体上添加一个超级节点,然后在三维复合体上构建一个线图。之后,ELGN使用一个新的E(3)-等变网络层来传递基于3D复合体的全局坐标系的节点和边之间的消息。在两个真实数据集上的实验结果证明了ELGN在几个最先进的基线上的有效性。
2022-10-27 cs.LG q-bio.BM
Equivariant Spatio-Temporal Attentive Graph Networks to Simulate Physical Dynamics
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学高瓴人工智能学院);North Carolina State University(北卡罗来纳州立大学);Institute for AI Industry Research (AIR), Tsinghua University(清华大学人工智能产业研究院);Tencent AI Lab(腾讯AI实验室)
针对物理动力学模拟中逐帧建模忽视非马尔可夫效应的问题,本文提出 ESTAG,利用 EDFT、ESM 与 ETM 建模历史时空相互作用,并在三类真实数据集上验证其优于现有 GNN。
2024-05-21 cs.AI cs.LG
A Complete Guide to Spherical Equivariant Graph Transformers
University of Pennsylvania(宾夕法尼亚大学)
本指南介绍球面等变图变换器,涵盖群表示、张量积、等变核构建及SE(3)-Transformer架构,用于三维分子和生物分子系统的等变建模与预测。
2025-12-15 cs.LG q-bio.QM
SE(3) Equivariant Graph Neural Networks with Complete Local Frames
Chinese Academy of Sciences(中国科学院);Xi’an Jiaotong University(西安交通大学);George Mason University(乔治梅森大学);Microsoft Research(微软研究院)
群等变性(例如SE(3)等变性)是科学中的一个关键物理对称性,从经典物理和量子物理到计算生物学。它可以在任意参考变换下进行鲁棒和准确的预测。有鉴于此,人们已经投入了大量精力将这种对称性编码到深度神经网络中,这已被证明可以提高下游任务的泛化性能和数据效率。构造等变神经网络通常带来高计算成本以确保表达性。因此,如何更好地权衡表达能力和计算效率是设计等变深度学习模型的核心问题。本文提出了一种构造SE(3)等变图神经网络的框架,它可以有效地逼近几何量。受微分几何和物理学的启发,我们将等变局部完备框架引入到图神经网络中,使得给定阶的张量信息可以投影到框架上。构造局部框架以形成避免方向退化并确保完备性的正交基。由于框架仅通过叉积运算构建,因此我们的方法在计算上是高效的。我们评估我们的方法上的两个任务:牛顿力学建模和平衡分子构象生成。大量的实验结果表明,我们的模型在两种类型的数据集达到最好的或有竞争力的性能。
2022-07-06 cs.AI cs.CE cs.LG
Gauge-Equivariant Graph Neural Networks for Lattice Gauge Theories
Department of Physics, University of Virginia, Charlottesville, VA 22904, USA(弗吉尼亚大学物理系);Department of Computer Science, Old Dominion University, Norfolk, VA 22904, USA(老 Dominion 大学计算机科学系)
本文提出一种 gauge-等价图神经网络,通过矩阵值 gauge-协变 特征和对称兼容更新,实现非阿贝尔对称的嵌入,扩展了 equivariant 学习到完全局部对称。
2026-04-22 cond-mat.str-el cs.LG hep-lat
Equivariant Graph Attention Networks for Molecular Property Prediction
Bayer AG(拜耳股份公司);Freie Universität Berlin(柏林自由大学)
关于具有不同尺寸的3D分子结构的学习和推理是机器学习中尤其是药物发现中的新兴且重要的挑战。等变图神经网络(GNN)可以同时利用问题域的几何和关系细节,并且已知通过利用高阶表示的节点之间的信息传播来学习表达性表示,以忠实地表达数据的几何结构,例如其中间层中的方向性。在这项工作中,我们提出了一个等变GNN,与笛卡尔坐标操作,以纳入方向性,我们实现了一种新的注意力机制,作为一个内容和空间相关的过滤器时,节点之间传播信息。我们证明了我们的架构在预测小分子的量子力学性质上的功效,以及它在涉及大分子结构(如蛋白质复合物)的问题上的益处。
2022-03-02 cs.LG q-bio.BM
EqCollide: Equivariant and Collision-Aware Deformable Objects Neural Simulator
Westlake University(西交大大学);Fudan University(复旦大学);Tongji University(同济大学);McGill University(麦吉尔大学)
提出首个端到端等变神经场模拟器EqCollide,通过等变编码器和碰撞感知消息传递的图神经网络常微分方程,实现可变形物体碰撞的准确、稳定和可扩展模拟。
2026-06-17 cs.CE cs.LG cs.RO
Concept Prerequisite Relation Prediction by Using Permutation-Equivariant Directed Graph Neural Networks
School of Computer Science, Northwestern Polytechnical University(西北工业大学计算机学院);Big data Storage and Management MIIT Lab(大数据存储与管理工业和信息化部实验室)
针对现有有向图神经网络处理概念先修关系预测时存在的图同构表达能力不足问题,提出融合Weisfeiler-Lehman测试的置换等变有向GNN模型,在三个公开数据集上取得优于现有最优方法的预测效果。
2024-06-21 cs.AI cs.LG
GEqTrain: A Configuration-Driven Framework for Retargeting Equivariant Graph Neural Networks Across 3D Scientific Tasks
Faculty of Biomedical Sciences, Euler Institute, Universitá della Svizzera italiana(瑞士意大利语区大学 生物医学科学学院欧拉研究所)
研究针对等变图神经网络重用受限问题,提出配置驱动框架GEqTrain,可通过配置重新定位到新任务,在多3D科学任务展示灵活性,还引入GEqDiff,验证其能力,目标是提升等变建模的可重复性、扩展性和可重用性。
2026-08-19 cs.LG q-bio.BM
DuSEGO: Dual Second-order Equivariant Graph Ordinary Differential Equation
Mohamed bin Zayed University of Artificial Intelligence(莫扎德·本·扎耶德人工智能大学);California State Polytechnic University(加州州立理工大学);University of Glasgow(格拉斯哥大学);Sun Yat-sen University(中山大学)
针对等变图神经网络存在的过平滑、梯度消失及忽略二阶信息问题,提出DuSEGO模型,通过在图嵌入和节点坐标上同时应用二阶等变图常微分方程,有效提升了等变表示能力与深层网络训练稳定性。
2025-11-03 cs.AI cs.LG
Permutation Equivariant Graph Framelets for Heterophilous Graph Learning
City University of Hong Kong(香港城市大学);Zhejiang Normal University(浙江师范大学)
针对异嗜图学习,本文提出基于置换等变Haar型图框架小波的PEGFAN模型,实现多尺度特征提取,在多个异嗜数据集上达到最优或竞争力性能。
2023-10-17 cs.AI cs.LG cs.SI
A new perspective on building efficient and expressive 3D equivariant graph neural networks
Chinese Academy of Sciences(中国科学院);Cornell University(康奈尔大学);Texas A&M University(得克萨斯农工大学);Zhejiang University(浙江大学)
本文提出3D同构局部层级体系评估等变GNN表达力,并设计LSE与FTE两个关键模块,据此构建LEFTNet在分子性质预测任务上取得最先进性能。
2023-04-07 cs.AI cs.LG
Fast and Distributed Equivariant Graph Neural Networks by Virtual Node Learning
Stanford University(斯坦福大学)
针对等变GNN在大规模几何图上的效率与稀疏化性能问题,提出FastEGNN与DistEGNN,利用虚拟节点学习实现高效分布式处理,在多个大规模基准上取得优越性能。
2025-06-24 cs.AI cs.LG
NEMORA: Neural Equivariant Multipole Operators for Long-Range Atomistic Learning
Courant Institute(库朗研究所);New York University(纽约大学);Tandon School of Engineering(坦登工程学院);The University of Chicago(芝加哥大学)
NEMORA是FMM的神经等变扩展,可线性复杂度处理数十万个原子,在非局部基准上大幅降低力和能量误差,性能优于或媲美现有长程方法。
2026-10-09 cs.LG physics.chem-ph physics.comp-ph
Equivariant Graph Neural Networks for Charged Particle Tracking
Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室);Columbia University(哥伦比亚大学)
本文提出对称等变图神经网络EuclidNet,用于带电粒子径迹重建,通过在TrackML数据集上对比验证其在极小参数规模下接近最先进性能并优于非等变基准。
2023-04-11 cs.LG hep-ex physics.comp-ph
Lie-Equivariant Quantum Graph Neural Networks
QuaTI;UNESP(圣保罗州立大学);IFT(理论物理研究所);University of Florida(佛罗里达大学);University of Alabama(阿拉巴马大学);University of Kansas(堪萨斯大学)
本文提出李群等变量子图神经网络Lie-EQGNN,利用洛伦兹群等变性实现夸克-胶子喷注判别,性能与经典最优模型LorentzNet相当,为LHC数据分析提供了可行的量子替代方案。
2024-11-22 cs.LG hep-ex hep-ph
Emergent Loop Geometry in Gauge-Equivariant Graph Neural Networks
University of Virginia(弗吉尼亚大学)
该研究针对规范等变图神经网络,探究其生成的闭合格点游走的统计系综,揭示了轮廓长度与空间扩张的增长层级,为学习格点规范可观测量提供了几何视角。
2026-10-14 cond-mat.stat-mech cond-mat.str-el cs.LG
Universal approximations of permutation invariant/equivariant functions by deep neural networks
RIKEN Center for Advanced Intelligence Project(理化学研究所先进智能项目中心);Keio University(庆应义塾大学);École Normale Supérieure Paris-Saclay(巴黎萨克雷高等师范学院)
在本文中,我们发展了一个理论之间的关系$G$不变/等变函数和深度神经网络有限群$G$。特别地,对于一个给定的$G$ -不变/等变函数,我们通过深度神经网络构造了它的通用逼近器,该深度神经网络的层装备了$G$ -作用,并且每个仿射变换都是$G$ -等变/不变的。由于表示理论,我们可以证明,这个近似有指数更少的自由参数比通常的模型。
2019-09-26 cs.LG stat.ML
Invariant and Equivariant Graph Networks
Weizmann Institute of Science(魏茨曼科学研究所)
不变和等变网络已成功用于学习图像、集合、点云和图形。开发这种网络的一个基本挑战是找到不变和等变线性层的最大集合。虽然前三个例子回答了这个问题(至少对于流行的变换),但图的不变和等变线性层的完整表征还不清楚。在本文中,我们提供了所有的置换不变和等变的线性层(超)图数据的一个特征,并表明其维数,在边值图数据的情况下,分别为2和15。更一般地,对于在节点的k元组上定义的图形数据,维度是第k个和第2k个贝尔数。计算层的正交基,包括对多图数据的泛化。恒定数量的基本元素及其特性允许成功地将网络应用于不同大小的图。从理论的角度来看,我们的研究结果推广和统一了等变深度学习的最新进展。特别是,我们表明,我们的模型是能够近似任何消息传递神经网络应用这些新的线性层在一个简单的深神经网络框架显示,以实现可比的结果,以国家的最先进的,并具有更好的表现力比以前的不变和等变的基础。
2019-04-30 cs.LG stat.ML
Equivariant Learning of Stochastic Fields: Gaussian Processes and Steerable Conditional Neural Processes
University of Oxford(牛津大学);DeepMind(深度思维)
受电场或流体流等对象的启发,我们研究学习随机场的问题,即随机过程,其样本是物理和工程中发生的场。考虑到一般的变换,如旋转和反射,我们表明,随机场的空间不变性要求推理模型是等变的。利用最近的进展,从等方差文献,我们研究等方差在两类模型。首先,我们完全证明了等变高斯过程。其次,我们介绍了可操纵条件神经过程(SteerCNPs),神经过程家族的一个新的,完全等变的成员。在高斯过程向量场、图像和真实天气数据的实验中,我们观察到SteerCNP显著提高了以前模型的性能,等方差导致迁移学习任务的改进。
2021-07-17 cs.LG stat.ML
Approximately Equivariant Neural Processes
University of Cambridge(剑桥大学);The Alan Turing Institute(图灵研究所);Microsoft Research AI for Science(微软研究院科学智能事业部)
本文提出一种通用方法,利用现有等变架构构建近似等变神经过程,在合成和真实回归任务中优于非等变和严格等变模型。
2024-11-09 cs.LG stat.ML
Isometric Transformation Invariant and Equivariant Graph Convolutional Networks
University of Tsukuba(筑波大学);Research Institute for Computational Science Co. Ltd.(计算科学研究所有限公司)
图是表示对象间成对关系的最重要的数据结构之一。具体来说,嵌入在欧几里得空间中的图对于解决实际问题(如物理模拟)至关重要。将欧几里得空间中的图应用于物理模拟的关键要求是以计算高效的方式学习和推断等距变换不变和等变特征。在本文中,我们提出了一套基于图卷积网络的变换不变和等变模型,称为IsoGCN。我们证明,该模型具有竞争力的性能相比,国家的最先进的方法有关的几何和物理仿真数据的任务。此外,该模型可以扩展到1M顶点的图,并进行推理速度比传统的有限元分析,现有的等变模型无法实现。
2021-03-10 cs.LG stat.ML
Group Equivariant Conditional Neural Processes
The University of Tokyo(东京大学);RIKEN AIP(理化学研究所人工智能项目中心)
我们提出了组等变条件神经过程(EquivCNP),这是一种元学习方法,与传统的条件神经过程(CNP)一样,在数据集中具有排列不变性,并且在数据空间中也具有变换等变性。解释组等方差,如旋转和缩放等方差,提供了一种考虑真实世界数据对称性的方法。我们给出了一个置换不变和群等变映射的分解定理,这使我们能够构造具有无限维潜空间的EquivCNP来处理群对称性。在本文中,我们使用李群卷积层构建架构以供实际实现。我们表明,翻译等方差的EquivCNP在一维回归任务中实现了与传统CNP相当的性能。此外,我们证明,将适当的李群等方差,EquivCNP是能够zero-shot概括的图像完成任务,通过选择适当的李群等方差。
2021-02-17 cs.LG stat.ML
Theoretical Aspects of Group Equivariant Neural Networks
University of Pennsylvania(宾夕法尼亚大学)
群等变神经网络在过去的几年里一直在探索,从理论和实践的角度来看都很有趣。他们利用了群表示理论,非交换调和分析和微分几何的概念,这些概念在机器学习中并不经常出现。在实践中,它们已被证明可以降低样本和模型的复杂性,特别是在存在输入变换(如任意旋转)的挑战性任务中。我们开始这项工作的阐述组表示理论和必要的机械定义和评估积分和卷积组。然后,我们展示了最近的SO(3)和SE(3)等变网络的应用,即球形CNN,Clebsch-Gordan网络和3D Steerable CNN。我们继续讨论两个最近的理论结果。第一个是Kondor和Trivedi(ICML'18),表明神经网络是群等变的当且仅当它具有卷积结构。第二个由Cohen等人提出(NeurIPS'19),将第一个推广到更大的一类网络,将特征映射作为齐次空间上的场。
2020-04-30 cs.LG stat.ML