E(3)-Equivariant Mesh Neural Networks
FPT Software AI Center(FPT软件人工智能中心);McGill University(麦吉尔大学);Mila - Quebec AI Institute(米拉-魁北克人工智能研究所);Ton Duc Thang University(同塔大学);Indiana State University(印第安纳州立大学)
针对三维网格几何深度学习,本文通过最小限度扩展EGNNs更新方程并引入层次结构处理长程交互,提出了EMNN架构,在网格任务上以更快的运行速度和无需昂贵预处理的优势超越了复杂等变方法。
2024-02-19 cs.LG
Using Random Noise Equivariantly to Boost Graph Neural Networks Universally
Institute for Artificial Intelligence, Peking University(北京大学人工智能研究院)
本文提出等变噪声图神经网络ENGNN,通过理论分析随机噪声引入GNN的样本复杂度问题,并利用噪声对称性提升节点、链路、子图及图级任务的表达能力与泛化性能。
2025-02-04 cs.LG
Are High-Degree Representations Really Unnecessary in Equivariant Graph Neural Networks?
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学耿丽人工智能学院);Beijing Key Laboratory of Big Data Management and Analysis Methods(北京大数据管理与分析方法重点实验室);Laboratories, Huawei Technologies, Shanghai(华为技术有限公司上海2012实验室)
本文通过理论分析证明固定低阶表示的等变GNNs会退化为零函数,并提出高阶版本HEGNN以增强表达能力,实验验证其在对称结构和复杂数据集上的有效性。
2025-10-15 cs.LG
Quantized SO(3)-Equivariant Graph Neural Networks for Efficient Molecular Property Prediction
Suzhou Lab(苏州实验室);Nanjing University(南京大学)
本文提出量化SO(3)等价图神经网络方法,通过低比特量化技术提升分子性质预测的效率,实现准确性和效率的平衡。
2026-03-03 cs.LG
Topological Neural Networks go Persistent, Equivariant, and Continuous
Aalto University(阿尔托大学);Federal Institute of Ceará(塞阿拉联邦学院);YaiYai Ltd(YaiYai有限公司)
本文提出TopNets框架,统一了TNNs与持续同调方法,并扩展至几何复形的等变与连续空间设置,理论证明其能增强网络表达能力,在抗体设计等任务上表现优异。
2024-06-05 cs.LG
E(n) Equivariant Graph Neural Networks
UvA-Bosch Delta Lab(阿姆斯特丹大学-博世德尔塔实验室);University of Amsterdam(阿姆斯特丹大学)
本文提出了一种新的学习与旋转、平移、反射和置换等变的图神经网络的模型,称为E(n)-等变图神经网络(EGNNs)。与现有的方法相比,我们的工作不需要在中间层计算昂贵的高阶表示,同时它仍然实现了竞争力或更好的性能。此外,尽管现有的方法仅限于三维空间上的等方差,但我们的模型很容易扩展到高维空间。我们证明了我们的方法对动力学系统建模,图自动编码器中的表示学习和预测分子性质的有效性。
2022-02-16 cs.LG stat.ML
E($3$) Equivariant Graph Neural Networks for Particle-Based Fluid Mechanics
Technical University of Munich(慕尼黑工业大学);Microsoft Research(微软研究院)
本文证明在3D衰减Taylor-Green涡旋和3D反向Poiseuille流基准上,等变图神经网络比非等变模型能学习物理上更准确的动态交互,为湍流粗粒化建模与跨系统泛化提供了新机遇。
2023-03-31 cs.LG physics.flu-dyn
Equivariant Graph Neural Networks for 3D Macromolecular Structure
Stanford University(斯坦福大学)
在机器学习中,关于大分子的3D结构的表示和推理正在成为一个独特的挑战。在这里,我们扩展了最近的工作几何矢量感知器和应用等变图神经网络的任务范围广泛的结构生物学。我们的方法在ATOM 3D基准测试中的八个任务中的三个任务上优于所有参考架构,在另外两个任务上并列第一,并且与使用高阶表示和球谐卷积的等变网络竞争。此外,我们证明了迁移学习可以进一步提高某些下游任务的性能。代码可在https://github.com/drorlab/gvp-pytorch上获得。
2021-07-13 cs.LG q-bio.BM
A Simple Proof of the Universality of Invariant/Equivariant Graph Neural Networks
RIKEN AIP(理化学研究所先进智能项目中心);Tokyo Institute of Technology(东京工业大学)
本文给出了不变和等变张量化图神经网络普适性的一个简单证明。我们的方法考虑了一个受限制的中间假设模型,称为图同态模型,以达到普遍性的结论,包括高阶输出的开放情况。我们发现,我们提出的技术不仅导致简单的证明的普遍性属性,但也给出了一个自然的解释张量化以前研究的模型。最后,我们给出了我们的模型和图的连续表示之间的联系的一些评论。
2019-10-09 cs.LG stat.ML
Learning Lagrangian Fluid Mechanics with E($3$)-Equivariant Graph Neural Networks
Technical University of Munich(慕尼黑工业大学);Microsoft Research AI4Science(微软研究院AI4Science)
本文研究E(3)-等变图神经网络在拉格朗日流体力学中的应用,通过在三维衰减Taylor-Green涡旋和三维反向Poiseuille流上的基准测试,证明所提出的物理历史嵌入方法能使等变模型学习到比非等变模型更精确的动态交互。
2023-05-24 cs.LG physics.flu-dyn
Equivariance Is Not All You Need: Characterizing the Utility of Equivariant Graph Neural Networks for Particle Physics Tasks
Columbia University(哥伦比亚大学);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室)
针对粒子物理重建任务,研究通过真实场景评估发现等变图神经网络的诸多理论优势在实际系统中未必成立,为机器学习与物理应用交叉研究指明新方向。
2023-11-06 cs.LG hep-ex
Equivariant geometric learning for digital rock physics: estimating formation factor and effective permeability tensors from Morse graph
Stony Brook University(石溪大学);Halicioglu Data Science Institute, University of California, San Diego(加州大学圣地亚哥分校哈利西奥格鲁数据科学研究所);Columbia University(哥伦比亚大学)
提出了一种SE(3)-等变图神经网络(GNN)方法,直接从微观CT图像预测地层系数和有效渗透率。建立FFT求解器来计算地层因素和有效渗透率,而孔隙空间的拓扑结构和几何形状由基于持久性的Morse图表示。它们共同构成了用于训练、验证和测试神经网络的数据库。虽然图和欧几里得卷积方法都采用神经网络来生成低维潜在空间来表示用于前向预测的微结构的特征,但发现SE(3)等变神经网络可以生成更准确的预测,特别是当训练数据有限时。数值实验还表明,新的SE(3)方法导致满足材料框架无差异的预测,而经典卷积神经网络(CNN)的预测可能会受到对训练数据的坐标系的虚假依赖。从训练CNN推断出的预测与从具有和不具有等变约束的图卷积神经网络(GNN)推断出的预测之间的比较表明,等变图神经网络似乎比CNN和GNN在不强制等变约束的情况下表现得更好。
2021-10-12 cs.LG physics.geo-ph
Foundations of Equivariant Deep Learning: Unifying Graph and Sheaf Neural Networks
扩展几何深度学习利用更丰富对称结构,开发等变神经网络,刻画线性等变映射,构建层并证明连续等变映射的通用逼近定理,还扩展到范畴等变神经网络,给出等变神经网络通用形式及定理。
2026-08-12 cs.AI cs.CV cs.LG
Symmetry Breaking and Equivariant Neural Networks
Mila - Quebec AI Institute(米拉-魁北克人工智能研究所);McGill University(麦吉尔大学)
本文分析了等变神经网络无法在单样本层面打破对称性的局限性,提出“松弛等变”概念并将其整合到等变多层感知机(E-MLPs)中,为物理、图表示学习及组合优化等领域提供了替代噪声注入的新方案。
2024-03-22 cs.LG stat.ML
Universal Invariant and Equivariant Graph Neural Networks
École Normale Supérieure(巴黎高等师范学院);CNRS(法国国家科学研究中心)
图神经网络(GNN)有很多种形式,但应该始终是不变的(输入图节点的排列不影响输出)或等变的(输入的排列改变输出)。在本文中,我们考虑一类特定的不变和等变网络,我们证明了新的普遍性定理。更确切地说,我们认为网络与一个单一的隐藏层,通过求和通道形成的应用等变线性算子,逐点非线性和不变或等变线性算子。最近,Maron等人(2019)表明,通过允许网络内部的高阶张量化,可以获得通用不变GNN。作为第一个贡献,我们提出了一个替代证明这一结果,它依赖于斯通-维尔斯特拉斯定理代数的实值函数。我们的主要贡献是,这一结果的等变的情况下,出现在许多实际应用中,但从理论的角度来看,研究较少。证明依赖于一个新的广义Stone-Weierstrass定理代数的等变函数,这是独立的利益。最后,与之前考虑固定节点数量的设置不同,我们的结果表明,由一组参数定义的GNN可以均匀地近似定义在不同大小的图上的函数。
2019-10-24 cs.LG stat.ML
Unifying O(3) Equivariant Neural Networks Design with Tensor-Network Formalism
University of Cambridge(剑桥大学);The University of Chicago(芝加哥大学);Flatiron Institute(弗拉蒂伦研究所)
本文提出用张量网络中的融合图技术设计O(3)等变神经网络组件(融合块),作为任意连续等变函数的通用逼近器,集成到Cormorant和MACE中提升性能并应用于二苯乙烯异构化动力学。
2024-05-22 cs.AI cs.LG quant-ph
Morphological-Symmetry-Equivariant Heterogeneous Graph Neural Network for Robotic Dynamics Learning
California Institute of Technology(加州理工学院);Georgia Institute of Technology(佐治亚理工学院)
本文提出MS-HGNN,通过整合机器人运动学结构和形态对称性,实现高效的动力学学习,并在多个四足机器人任务中验证了其有效性。
2026-03-10 cs.LG cs.RO
Multivector Neurons: Better and Faster O(n)-Equivariant Clifford Graph Neural Networks
AMLab;AI4Science Lab(AI4Science实验室);Anton Pannekoek Institute(安东·潘内科克研究所)
针对现有O(n)/SO(n)等变深度学习模型的局限,提出基于Clifford多向量的新型消息传递GNN,结合不变标量特征与等变几何积算子,在N体模拟和蛋白质去噪任务上实现性能提升与高效率。
2024-07-10 cs.AI cs.LG
A Geometric Insight into Equivariant Message Passing Neural Networks on Riemannian Manifolds
ENS Paris-Saclay(巴黎萨克雷高等师范学院);Université Paris-Saclay(巴黎萨克雷大学);University of Cambridge(剑桥大学)
本文通过度量保持的最优嵌入准则,将等变消息传递建模为扭曲Polyakov作用量最小化导出的扩散过程,并离散化得到高阶等变GNN,推广ACE/MACE至黎曼流形。
2023-10-16 cs.LG stat.ML
E(3)-Equivariant Graph Neural Networks for Data-Efficient and Accurate Interatomic Potentials
Harvard University(哈佛大学);École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院);Robert Bosch Research and Technology Center(罗伯特·博世研究与技术中心);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室);Massachusetts Institute of Technology(麻省理工学院)
本文介绍了神经等变原子间势(NequIP),一种用于从从头计算中学习原子间势的E(3)-等变神经网络方法,用于分子动力学模拟。虽然大多数当代的几何感知模型使用不变卷积并且只作用于标量,但NequIP使用E(3)-等变卷积来处理几何张量的相互作用,从而使原子环境的信息更加丰富和忠实。该方法在一组具有挑战性和多样性的分子和材料上实现了最先进的准确性,同时表现出显着的数据效率。NequIP的性能优于现有模型,训练数据少了三个数量级,挑战了人们普遍认为的深度神经网络需要大量训练集的观点。该方法的高数据效率允许使用高阶量子化学理论水平作为参考来构建精确的势,并且能够在长时间尺度上进行高保真度的分子动力学模拟。
2021-12-16 cond-mat.mtrl-sci cs.LG physics.comp-ph
GEqTrain: A Configuration-Driven Framework for Retargeting Equivariant Graph Neural Networks Across 3D Scientific Tasks
Faculty of Biomedical Sciences, Euler Institute, Universitá della Svizzera italiana(瑞士意大利语区大学 生物医学科学学院欧拉研究所)
研究针对等变图神经网络重用受限问题,提出配置驱动框架GEqTrain,可通过配置重新定位到新任务,在多3D科学任务展示灵活性,还引入GEqDiff,验证其能力,目标是提升等变建模的可重复性、扩展性和可重用性。
2026-08-19 cs.LG q-bio.BM
PEnGUiN: Partially Equivariant Graph NeUral Networks for Sample Efficient MARL
University of Maryland College Park(马里兰大学学院公园分校);The Johns Hopkins Applied Physics Lab(约翰斯·霍普金斯大学应用物理实验室)
针对现实MARL环境存在不对称性、现有等变图神经网络适配性不足的问题,提出PEnGUiN部分等变图神经网络架构,可统一学习等变与非等变表示,在非对称场景下性能优于EGNN和标准GNN,提升算法鲁棒性与现实适用性。
2025-03-19 cs.AI cs.LG cs.RO
A new perspective on building efficient and expressive 3D equivariant graph neural networks
Chinese Academy of Sciences(中国科学院);Cornell University(康奈尔大学);Texas A&M University(得克萨斯农工大学);Zhejiang University(浙江大学)
本文提出3D同构局部层级体系评估等变GNN表达力,并设计LSE与FTE两个关键模块,据此构建LEFTNet在分子性质预测任务上取得最先进性能。
2023-04-07 cs.AI cs.LG
Equivariant Sheaf Neural Networks: Learning Geometric Transport on Graphs
University of Cambridge(剑桥大学);Sapienza University of Rome(罗马第一大学);University of Padua(帕多瓦大学)
该研究提出等变层状神经网络(ESNN),通过学习图上边的矩阵值几何传输,在保持等变性的同时提升了多个几何相关任务的性能。
2026-10-02 cs.AI cs.LG
Concept Prerequisite Relation Prediction by Using Permutation-Equivariant Directed Graph Neural Networks
School of Computer Science, Northwestern Polytechnical University(西北工业大学计算机学院);Big data Storage and Management MIIT Lab(大数据存储与管理工业和信息化部实验室)
针对现有有向图神经网络处理概念先修关系预测时存在的图同构表达能力不足问题,提出融合Weisfeiler-Lehman测试的置换等变有向GNN模型,在三个公开数据集上取得优于现有最优方法的预测效果。
2024-06-21 cs.AI cs.LG
SEGNO: Generalizing Equivariant Graph Neural Networks with Physical Inductive Biases
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));The Hong Kong University of Science and Technology(香港科技大学);Tencent AI Lab(腾讯AI实验室)
针对现有等变图神经网络物理归纳偏置不足的问题,提出二阶等变图神经常微分方程SEGNO,兼具二阶连续性与等变性,理论上轨迹误差有界,在多类物理系统任务上性能优于SOTA基线。
2024-03-12 cs.AI cs.LG
Relaxing Continuous Constraints of Equivariant Graph Neural Networks for Physical Dynamics Learning
Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Hong Kong University of Science and Technology(香港科技大学);Tencent AI Lab(腾讯AI Lab)
针对现有图神经网络在离散对称物理动力学场景中等变性适配不足的问题,提出离散等变图神经网络DEGNN通过松弛连续等变约束,采用两种置换不变函数实现方式,在多类物理动力学20种场景中性能优于现有最优方法,且数据效率高、跨场景泛化性强。
2024-06-24 cs.AI cs.LG
Gauge-Equivariant Graph Neural Networks for Lattice Gauge Theories
Department of Physics, University of Virginia, Charlottesville, VA 22904, USA(弗吉尼亚大学物理系);Department of Computer Science, Old Dominion University, Norfolk, VA 22904, USA(老 Dominion 大学计算机科学系)
本文提出一种 gauge-等价图神经网络,通过矩阵值 gauge-协变 特征和对称兼容更新,实现非阿贝尔对称的嵌入,扩展了 equivariant 学习到完全局部对称。
2026-04-22 cond-mat.str-el cs.LG hep-lat
EqCollide: Equivariant and Collision-Aware Deformable Objects Neural Simulator
Westlake University(西交大大学);Fudan University(复旦大学);Tongji University(同济大学);McGill University(麦吉尔大学)
提出首个端到端等变神经场模拟器EqCollide,通过等变编码器和碰撞感知消息传递的图神经网络常微分方程,实现可变形物体碰撞的准确、稳定和可扩展模拟。
2026-06-17 cs.CE cs.LG cs.RO
NEMORA: Neural Equivariant Multipole Operators for Long-Range Atomistic Learning
Courant Institute(库朗研究所);New York University(纽约大学);Tandon School of Engineering(坦登工程学院);The University of Chicago(芝加哥大学)
NEMORA是FMM的神经等变扩展,可线性复杂度处理数十万个原子,在非局部基准上大幅降低力和能量误差,性能优于或媲美现有长程方法。
2026-10-09 cs.LG physics.chem-ph physics.comp-ph
SE(3) Equivariant Graph Neural Networks with Complete Local Frames
Chinese Academy of Sciences(中国科学院);Xi’an Jiaotong University(西安交通大学);George Mason University(乔治梅森大学);Microsoft Research(微软研究院)
群等变性(例如SE(3)等变性)是科学中的一个关键物理对称性,从经典物理和量子物理到计算生物学。它可以在任意参考变换下进行鲁棒和准确的预测。有鉴于此,人们已经投入了大量精力将这种对称性编码到深度神经网络中,这已被证明可以提高下游任务的泛化性能和数据效率。构造等变神经网络通常带来高计算成本以确保表达性。因此,如何更好地权衡表达能力和计算效率是设计等变深度学习模型的核心问题。本文提出了一种构造SE(3)等变图神经网络的框架,它可以有效地逼近几何量。受微分几何和物理学的启发,我们将等变局部完备框架引入到图神经网络中,使得给定阶的张量信息可以投影到框架上。构造局部框架以形成避免方向退化并确保完备性的正交基。由于框架仅通过叉积运算构建,因此我们的方法在计算上是高效的。我们评估我们的方法上的两个任务:牛顿力学建模和平衡分子构象生成。大量的实验结果表明,我们的模型在两种类型的数据集达到最好的或有竞争力的性能。
2022-07-06 cs.AI cs.CE cs.LG
Equivariant Graph Neural Networks for Charged Particle Tracking
Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室);Columbia University(哥伦比亚大学)
本文提出对称等变图神经网络EuclidNet,用于带电粒子径迹重建,通过在TrackML数据集上对比验证其在极小参数规模下接近最先进性能并优于非等变基准。
2023-04-11 cs.LG hep-ex physics.comp-ph
Lie-Equivariant Quantum Graph Neural Networks
QuaTI;UNESP(圣保罗州立大学);IFT(理论物理研究所);University of Florida(佛罗里达大学);University of Alabama(阿拉巴马大学);University of Kansas(堪萨斯大学)
本文提出李群等变量子图神经网络Lie-EQGNN,利用洛伦兹群等变性实现夸克-胶子喷注判别,性能与经典最优模型LorentzNet相当,为LHC数据分析提供了可行的量子替代方案。
2024-11-22 cs.LG hep-ex hep-ph
Emergent Loop Geometry in Gauge-Equivariant Graph Neural Networks
University of Virginia(弗吉尼亚大学)
该研究针对规范等变图神经网络,探究其生成的闭合格点游走的统计系综,揭示了轮廓长度与空间扩张的增长层级,为学习格点规范可观测量提供了几何视角。
2026-10-14 cond-mat.stat-mech cond-mat.str-el cs.LG
Equivariant Matrix Function Neural Networks
University of Cambridge(剑桥大学);Beijing Normal University(北京师范大学);University of British Columbia(不列颠哥伦比亚大学)
针对MPNN建模图非局部相互作用时的过平滑、过挤压问题,以及现有方法泛化性或结构捕捉能力不足的缺陷,提出通过解析矩阵等变函数参数化非局部相互作用的矩阵函数神经网络,在标准图基准取得SOTA,还可捕捉量子系统非局部相互作用。
2024-01-30 cond-mat.mtrl-sci cs.LG physics.chem-ph
Equivariant Neural Diffusion for Molecule Generation
Technical University of Denmark(丹麦技术大学);University of Amsterdam(阿姆斯特丹大学)
本研究提出对欧几里得变换等变的三维分子生成扩散模型END,其核心创新是可学习的等变前向过程,实验显示该模型在标准基准的无条件与条件生成任务上性能具备竞争力。
2025-06-12 cs.LG
GLGENN: A Novel Parameter-Light Equivariant Neural Networks Architecture Based on Clifford Geometric Algebras
HSE University(莫斯科高等经济大学);Skolkovo Institute of Science(斯克尔科沃科学研究院);Institute for Information Transmission Problems of the Russian Academy of Sciences(俄罗斯科学院信息传输问题研究所)
GLGENN基于克莱因几何代数提出一种参数轻量的等变神经网络架构,在等变任务中表现优异且参数更少。
2025-12-03 cs.LG
Equivariant Neural Tangent Kernels
Chalmers University of Technology(查尔姆斯理工大学);the University of Gothenburg(哥德堡大学);Prescient Design, Genentech Roche(基因泰克罗氏公司 Prescient Design 部门)
本文推导了基于群卷积的等变神经正切核(NTKs),证明了等变网络与数据增强在训练动力学上等效,并在图像分类和量子性质预测任务中验证了其优于非等变模型。
2025-01-31 cs.LG
A Feedforward Unitary Equivariant Neural Network
United Kingdom Atomic Energy Authority(英国原子能管理局);The University of Hong Kong(香港大学)
我们设计了一种新型的前馈神经网络。它与酉群$U(n)$是等变的。输入和输出可以是具有任意维度$n$的$\mathbb{C}^n$中的向量。在我们的实现中不需要卷积层。避免了类傅里叶变换中高阶项截断所带来的误差。每一层的实现都可以通过简单的计算有效地完成。作为概念的证明,我们已经给出了原子运动动力学预测的经验结果,以证明我们的方法的实用性。
2022-08-25 cs.LG
Equivariant neural networks for inverse problems
NTNU(挪威科技大学);University of Bath(巴斯大学);University of Cambridge(剑桥大学)
近年来,在神经网络中使用卷积层来编码归纳偏差(平移等方差)已被证明是一个非常富有成效的想法。这种方法的成功激发了一系列研究,将其他对称性纳入深度学习方法,以组等变卷积神经网络的形式。这项工作的大部分集中在旋转平移对称的$\mathbf R^d$,但其他的例子是缩放对称的$\mathbf R^d$和旋转对称的球。在这项工作中,我们证明了群等变卷积运算可以自然地融入到由变分正则化方法驱动的逆问题的学习重建方法中。事实上,如果正则化泛函在群对称下是不变的,则相应的邻近算子将满足关于相同群对称的等方差性质。由于这一观察结果,我们设计了学习迭代法,其中邻近算子被建模为组等变卷积神经网络。我们使用的方法,并将其应用到低剂量的计算机断层扫描重建和子采样的磁共振成像重建的问题的旋转-旋转等变运算。所提出的方法被证明可以提高学习重建方法的重建质量,在训练时具有一点额外的计算成本,但在测试时没有任何额外的成本。
2021-02-23 cs.LG
Equivariant Message Passing Neural Network for Crystal Material Discovery
Univ. Artois(阿尔图瓦大学)
自动发现具有所需性能的材料是材料科学的基本挑战。近来,相当多的注意力被投入到产生稳定的晶体结构上。虽然现有的工作已经显示出令人印象深刻的成功的监督任务,如属性预测,在无监督的任务,如材料生成的进展仍然受到限制的程度,其中相同的晶体的等效几何表示被认为是。为了解决这一挑战,我们提出了EMPNN的周期性等变的消息传递神经网络,学习晶格变形在一个无监督的方式。我们的模型根据必须执行的变形动作等效地作用于晶格,使其适合于晶体生成,松弛和优化。我们提出的实验评估,证明我们的方法的有效性。
2023-02-01 cs.LG
Universal approximations of permutation invariant/equivariant functions by deep neural networks
RIKEN Center for Advanced Intelligence Project(理化学研究所先进智能项目中心);Keio University(庆应义塾大学);École Normale Supérieure Paris-Saclay(巴黎萨克雷高等师范学院)
在本文中,我们发展了一个理论之间的关系$G$不变/等变函数和深度神经网络有限群$G$。特别地,对于一个给定的$G$ -不变/等变函数,我们通过深度神经网络构造了它的通用逼近器,该深度神经网络的层装备了$G$ -作用,并且每个仿射变换都是$G$ -等变/不变的。由于表示理论,我们可以证明,这个近似有指数更少的自由参数比通常的模型。
2019-09-26 cs.LG stat.ML
EquiHGNN: Scalable Rotationally Equivariant Hypergraph Neural Networks
The University of Alabama at Birmingham(阿拉巴马大学伯明翰分校)
本文提出等变超图神经网络框架EquiHGNN,通过对称性约束和几何特征建模分子高阶交互,在大分子数据集上显著优于传统二维图方法。
2025-05-08 cs.LG
Equivariant neural networks and piecewise linear representation theory
The University of Sydney(悉尼大学)
本文探讨等变神经网络的结构,通过群表示论分解网络层,利用非线性激活函数构建分段线性映射,提出等变神经网络的过滤框架,扩展了傅里叶级数的应用。
2024-12-20 cs.LG math.GR math.RT
Activation Functions for "A Feedforward Unitary Equivariant Neural Network"
University of Oxford(牛津大学)
本文将前馈酉等变神经网络中的三种激活函数推广为单一函数形式,在保持酉等变性的同时提升了网络架构设计的灵活性。
2024-11-17 cs.LG cs.NE
Theoretical Aspects of Lie Groupoid and Lie Algebroid Equivariant Convolutional Neural Networks
Department of Mathematics, University of Manitoba(曼尼托巴大学数学系)
本文引入李群胚等变神经网络作为拓扑范畴等变神经网络在可微情形的特化,证明其与李代数胚等变神经网络的等价性,并推广了群不变全局池化。
2026-07-24 cs.LG math.CT math.DG
Graded Representation Theory of Equivariant Neural Networks
School of Mathematics and Statistics, University of Sydney(悉尼大学数学与统计学院)
本文通过高斯度分解扩展多项式度,证明等变层中每个度可分解为线性映射多项式与激活标量,从而分离对称性、坐标和激活三个障碍。
2026-09-23 cs.LG math.RT
Geometrical aspects of lattice gauge equivariant convolutional neural networks
Chalmers University of Technology(查尔姆斯理工大学);TU Wien(维也纳工业大学)
格点规范等变卷积神经网络(L-CNN)是一种卷积神经网络的框架,可以应用于非阿贝尔格点规范理论,而不违反规范对称性。我们演示了L-CNN如何配备全局组等方差。这使我们能够扩展的配方是等变的,不仅在翻译,但在全球晶格对称性,如旋转和反射。此外,我们提供了一个几何公式的L-CNN,并显示如何在L-CNN卷积出现作为一个特殊的情况下规范等变神经网络SU($N$)的主丛。
2023-03-20 cs.LG hep-lat stat.ML
Equivariant neural networks for recovery of Hadamard matrices
Inductiva Research Labs(Inductiva Research Labs(Inductiva研究实验室))
我们提出了一个消息传递神经网络架构设计成等变的列和行排列的矩阵。我们说明了它的优势,传统的架构,如多层感知器(MLP),卷积神经网络(CNN),甚至Transformers,在组合优化任务恢复一组删除的条目的阿达玛矩阵。我们认为,这是几何深度学习原理在基础数学中的强大应用,也是使用机器学习技术对阿达玛猜想进行更多深入了解的潜在垫脚石。
2022-01-31 cs.DM cs.LG
Categorical Equivariant Deep Learning: Category-Equivariant Neural Networks and Universal Approximation Theorems
School of Informatics, Nagoya University, Japan(名古屋大学信息学系);School of Computing, Australian National University, Australia(澳大利亚国立大学计算机学系)
本文提出范畴等变神经网络理论,证明其在不同结构下的通用逼近能力,扩展了等变深度学习的应用范围。
2025-12-23 cs.AI cs.CV cs.LG
Geometric Deep Learning and Equivariant Neural Networks
Chalmers University of Technology(查尔姆斯理工大学);Gothenburg University(哥德堡大学);Umeå University(于默奥大学);Zenseact
我们概述了几何深度学习的数学基础,重点是群等变和规范等变神经网络。我们开发了任意流形$\mathcal{M}$上的规范等变卷积神经网络,使用具有结构群$K$的主丛和相关向量丛的部分之间的等变映射。我们还讨论了群等变神经网络的齐性空间$\mathcal{M}=G/K$,而不是等变的整体对称性$G$ $\mathcal{M}$。群等变层可以被解释为$G$的诱导表示之间的交织,我们展示了它们与规范等变卷积层的关系。我们分析了这种形式主义的几个应用,包括语义分割和对象检测网络。我们还详细讨论了球形网络的情况,对应于$\mathcal{M}=S^2=\mathrm{SO}(3)/\mathrm{SO}(2)$的情况。在这里,我们强调使用傅立叶分析,包括Wigner矩阵,球谐函数和Clebsch-Gordan系数用于$G=\mathrm{SO}(3)$,说明表示理论在深度学习中的作用。
2021-05-28 cs.CV cs.LG hep-th
Magnitude-Modulated Equivariant Adapter for Parameter-Efficient Fine-Tuning of Equivariant Graph Neural Networks
MMEA是一种新颖的等价微调方法,通过轻量级标量门控调节特征幅度,在保持等价性的同时提升模型在多个基准上的能量和力预测性能。
2025-12-11 cs.AI cs.LG
Equivariant Learning of Stochastic Fields: Gaussian Processes and Steerable Conditional Neural Processes
University of Oxford(牛津大学);DeepMind(深度思维)
受电场或流体流等对象的启发,我们研究学习随机场的问题,即随机过程,其样本是物理和工程中发生的场。考虑到一般的变换,如旋转和反射,我们表明,随机场的空间不变性要求推理模型是等变的。利用最近的进展,从等方差文献,我们研究等方差在两类模型。首先,我们完全证明了等变高斯过程。其次,我们介绍了可操纵条件神经过程(SteerCNPs),神经过程家族的一个新的,完全等变的成员。在高斯过程向量场、图像和真实天气数据的实验中,我们观察到SteerCNP显著提高了以前模型的性能,等方差导致迁移学习任务的改进。
2021-07-17 cs.LG stat.ML
Approximately Equivariant Neural Processes
University of Cambridge(剑桥大学);The Alan Turing Institute(图灵研究所);Microsoft Research AI for Science(微软研究院科学智能事业部)
本文提出一种通用方法,利用现有等变架构构建近似等变神经过程,在合成和真实回归任务中优于非等变和严格等变模型。
2024-11-09 cs.LG stat.ML