Pointspectrum: Equivariance Meets Laplacian Filtering for Graph Representation Learning
Aristotle University of Thessaloniki（塞萨洛尼基亚里士多德大学）
图表示学习（GRL）已成为现代图数据采掘和学习任务的基本要求。GRL的目标是捕获图的结构信息，并将其与节点和边属性相结合，以计算低维表示。虽然图神经网络（GNN）已被用于最先进的GRL架构中，但当需要堆叠许多GNN层时，它们已被证明存在过度平滑的问题。在不同的GRL方法中，基于图滤波的谱方法已经出现了解决平滑问题的方法;然而，到目前为止，它们采用传统的神经网络，无法有效地利用图数据的结构。出于这一动机，我们提出了PointSpectrum，一种谱方法，它采用了一组等变网络来解释图的结构。PointSpectrum增强了谱方法的效率和表现力，同时优于最先进的GRL方法或与之竞争。总的来说，PointSpectrum通过使用图滤波器来解决平滑问题，并通过集合等方差来捕获图的结构，位于GNN和谱方法的交叉点上。我们的研究结果是有希望的频谱方法和GRL的这种架构转变的好处和适用性。
2021-09-07 cs.AI cs.LG
Approximate Equivariance via Projection-based Regularisation
Heidelberg Institute for Theoretical Studies（海德堡理论研究所）；Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
提出一种基于投影的正则化方法，通过在线性层中分解等变与非等变分量并惩罚非等变算子范数，实现高效且精确的近似等变性，在SO(3)等连续群上优于样本基方法。
2026-05-26 cs.LG
Balancing Symmetry and Efficiency in Graph Flow Matching
LTS4, EPFL, Lausanne, Switzerland（LTS4，瑞士洛桑联邦理工学院，拉夫斯堡）
通过可控对称调制方案，研究图生成模型中严格等变性带来的计算成本与收敛速度之间的权衡，发现适当调节对称性可在加速收敛的同时避免过拟合。
2026-06-02 cs.LG
Relaxed Equivariance via Multitask Learning
University of Oxford（牛津大学）；ELLIS Institute（ELLIS研究所）；Max Planck Institute for Intelligent Systems（智能系统马克斯·普朗克研究所）；Tübingen AI Center（图宾根人工智能中心）；AITHYRA
本文提出REMUL方法，通过多任务学习在无约束网络中学习近似等变性，实现对称性的有效利用，提升模型性能并减少计算开销。
2026-01-04 cs.LG
Boosting Sample Efficiency and Generalization in Multi-agent Reinforcement Learning via Equivariance
The Johns Hopkins University Applied Physics Lab（约翰霍普金斯大学应用物理实验室）；University of Maryland（马里兰大学）
本文针对多智能体强化学习样本效率低和泛化差的问题，提出探索增强的等变图神经网络E2GN2，在MPE和SMACv2基准上显著提升样本效率、最终奖励收敛及泛化性能（较标准GNN提升2-5倍）。
2024-10-22 cs.AI cs.LG
Equivariance Everywhere All At Once: A Recipe for Graph Foundation Models
University of Oxford（牛津大学）；TU Wien（维也纳工业大学）；AITHYRA；Technion – Israel Institute of Technology（以色列理工学院）
针对图机器学习架构任务定制化导致泛化性不足的问题，本研究从对称性出发提出图基础模型构建方案，证明其为多重集通用逼近器，在29个节点分类数据集上验证了优异的零样本性能和随训练数据增长的提升效果。
2025-10-28 cs.LG cs.SI stat.ML
Does equivariance matter at scale?
Qualcomm AI Research（高通人工智能研究）
本文通过刚体相互作用基准实证比较等变与非等变 transformer，揭示二者在数据效率、算力幂律扩展及最优算力分配上的差异。
2025-07-27 cs.LG
Generalized Equivariance and Preferential Labeling for GNN Node Classification
Peking University（北京大学）；University of Alberta（阿尔伯塔大学）
现有的图神经网络（GNN）在很大程度上依赖于节点嵌入，节点嵌入通过其身份、类型或内容将节点表示为向量。然而，具有无属性节点的图广泛存在于现实世界的应用中（例如，匿名社交网络）。以前的GNN要么为节点分配随机标签（这会给GNN引入伪影），要么为所有节点分配一个嵌入（这无法显式区分一个节点与另一个节点）。此外，当这些GNN应用于无属性节点分类问题时，它们具有不期望的等方差属性，这从根本上无法解决具有多个可能输出的数据。在本文中，我们分析了现有的节点分类问题的方法的局限性。我们的分析的启发，我们提出了一个广义的等方差属性和优先标签技术，满足所需的属性渐近。实验结果表明，我们取得了较高的性能在几个无属性的节点分类任务。
2022-02-26 cs.AI cs.LG
Empowering Networks With Scale and Rotation Equivariance Using A Similarity Convolution
The Chinese University of Hong Kong（香港中文大学）
卷积神经网络（CNN）的平移等变性质是其在计算机视觉中取得巨大成功的原因。然而，网络不具有更一般的等方差特性，如旋转或缩放，最终限制了它们的泛化性能。为了解决这一限制，我们设计了一种方法，赋予CNN关于平移，旋转和缩放的同时等方差。我们的方法定义了一个类似卷积的操作，并确保基于我们提出的可扩展傅立叶-阿冈表示的等方差。该方法保持了与传统网络相似的效率，并且几乎不引入任何额外的可学习参数，因为它不面临群卷积算子中经常出现的计算问题。我们验证了我们的方法在图像分类任务中的有效性，证明了它对缩放和旋转输入的鲁棒性和泛化能力。
2023-03-01 cs.CV cs.LG
Equivariance Is Not All You Need: Characterizing the Utility of Equivariant Graph Neural Networks for Particle Physics Tasks
Columbia University（哥伦比亚大学）；Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）
针对粒子物理重建任务，研究通过真实场景评估发现等变图神经网络的诸多理论优势在实际系统中未必成立，为机器学习与物理应用交叉研究指明新方向。
2023-11-06 cs.LG hep-ex
Equivariant Neural Operator Learning with Graphon Convolution
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
提出结合系数学习与残差算子层的SE(3)等变通用架构InfGCN，利用连续graphon和离散图结构捕获几何信息，在大规模电子密度数据集上显著优于现有SOTA。
2023-11-17 cs.LG
PEnGUiN: Partially Equivariant Graph NeUral Networks for Sample Efficient MARL
University of Maryland College Park（马里兰大学学院公园分校）；The Johns Hopkins Applied Physics Lab（约翰斯·霍普金斯大学应用物理实验室）
针对现实MARL环境存在不对称性、现有等变图神经网络适配性不足的问题，提出PEnGUiN部分等变图神经网络架构，可统一学习等变与非等变表示，在非对称场景下性能优于EGNN和标准GNN，提升算法鲁棒性与现实适用性。
2025-03-19 cs.AI cs.LG cs.RO
Provable Adversarial Robustness for Group Equivariant Tasks: Graphs, Point Clouds, Molecules, and More
Technical University of Munich（慕尼黑工业大学）；Department of Computer Science & Munich Data Science Institute（计算机科学系与慕尼黑数据科学研究所）
本文首次提出考虑任务等变性的对抗鲁棒性概念，并通过匹配模型等变性与传统认证、以及提出保持等变性的随机平滑框架和首个图编辑距离证书，实现了对图、点云、分子等任务的架构无关可证明鲁棒性。
2024-01-15 cs.CR cs.LG stat.ML
On the Generalization of Equivariance and Convolution in Neural Networks to the Action of Compact Groups
The University of Chicago（芝加哥大学）；Toyota Technological Institute at Chicago（芝加哥丰田技术研究院）
卷积神经网络在图像识别领域非常成功，因为它们确保了平移的等方差。最近有许多尝试将这个框架推广到其他领域，包括图形和数据躺在流形上。在本文中，我们给出了一个严格的，在神经网络中的卷积和等方差的理论处理，不只是平移，但任何紧凑组的行动。我们的主要结果是证明（给定一些自然约束）卷积结构不仅是一个充分的，而且是一个必要条件，一个紧凑的群的作用等变性。我们的论述利用表示论和非交换调和分析的概念，推导出新的广义卷积公式。
2018-11-10 cs.LG stat.ML
Approximate Equivariance in Reinforcement Learning
Northeastern University（东北大学）；J.P.Morgan AI Research（摩根大通AI研究）
本研究提出强化学习中的近似等变算法，定义近似等变MDP，用松弛群和可转向卷积构建网络，在连续控制和股票交易中验证，性能优于精确等变网络且更鲁棒。
2025-04-22 cs.LG
Training Dynamics of Learning 3D-Rotational Equivariance
Genentech Computational Sciences（基因泰克计算科学）
本文研究了学习3D旋转等价性的动力学，发现其损失景观更平滑且更容易优化，从而在训练早期即可显著降低等价性误差。
2025-12-02 cs.LG q-bio.BM
Constructing 3D Rotational Invariance and Equivariance with Symmetric Tensor Networks
Institute of Artificial Intelligence, Hefei Comprehensive National Science Center（人工智能研究所）；School of Information Science and Technology, University of Science and Technology of China（信息科学与技术学院）；CAS Key Laboratory of Quantum Information, University of Science and Technology of China（中国科学技术大学量子信息关键实验室）；Hefei National Laboratory, University of Science and Technology of China（合肥国家实验室）
本文提出通过对称张量网络构建连续旋转不变和等变函数的方法，支持不同阶张量输入输出，并揭示几何图神经网络中等变基本单元的生成机制。
2026-02-02 cs.LG
Permutation-equivariant and Proximity-aware Graph Neural Networks with Stochastic Message Passing
Tsinghua University（清华大学）；Carnegie Mellon University（卡内基梅隆大学）；Simon Fraser University（西蒙弗雷泽大学）；Tencent（腾讯）
图神经网络（GNN）是一种新兴的基于图的机器学习模型。置换等方差和邻近感知是GNN非常需要的两个重要属性。这两个属性都需要解决一些具有挑战性的图形问题，例如寻找社区和领导者。在本文中，我们首先分析表明，现有的GNNs，主要是基于消息传递机制，不能同时保持这两个属性。然后，我们提出了随机消息传递（SMP）模型，一个通用的和简单的GNN保持接近意识和置换等变性。为了保持节点的邻近性，我们用随机节点表示来增强现有的GNN。我们从理论上证明了该机制可以使GNN保持节点的邻近性，同时，保持一定的参数化的置换等变性。我们报告了广泛的实验结果，在10个数据集上，并证明了SMP的有效性和效率的各种典型的图挖掘任务，包括图重建，节点分类，和链接预测。
2022-02-22 cs.LG stat.ML
Learning (Approximately) Equivariant Networks via Constrained Optimization
Computer Science Department, University of Stuttgart（斯图加特大学计算机科学系）；International Max Planck Research School for Intelligent Systems（国际马克斯·普朗克智能系统研究学校）；Department of Applied Mathematics, École Polytechnique de Paris（巴黎高等理工学院应用数学系）
本文提出自适应约束等变方法，通过逐步增强模型的等变性，提升性能、样本效率和鲁棒性。
2025-12-11 cs.AI cs.LG
Translational Equivariance in Kernelizable Attention
ETH Zürich（苏黎世联邦理工学院）
虽然Transformer架构已经显示出显著的成功，但是它们被绑定到输入元素的所有成对交互的计算，并且因此遭受有限的可扩展性。最近的工作已经成功地避免了完整的注意力矩阵的计算，但会导致问题。缺乏明确的注意力矩阵使得包含依赖于元素之间相对相互作用的归纳偏差更具挑战性。一个非常强大的归纳偏差是平移等方差，这已被证明是负责图像识别任务的卷积神经网络的成功很大一部分。在这项工作中，我们将展示如何翻译等方差可以实现高效的Transformers的基础上内核化的注意-表演。我们的实验强调，设计的方法显着提高了鲁棒性的演员输入图像的变化相比，他们的天真的应用程序。这代表着在用更具表现力的Transformer架构取代卷积神经网络的道路上迈出了重要的一步，并将有助于提高该领域的样本效率和鲁棒性。
2021-02-15 cs.CV cs.LG
FIRE-GNN: Force-informed, Relaxed Equivariance Graph Neural Network for Rapid and Accurate Prediction of Surface Properties
Northeastern University（东北大学）；Department of Mathematics（数学系）；Khoury College of Computer Sciences（计算机科学学院）；Department of Mechanical and Industrial Engineering（机械与工业工程系）
FIRE-GNN通过整合力信息和对称性打破，实现了对表面性质预测的准确性和速度提升。
2025-08-22 cond-mat.mtrl-sci cs.LG physics.comp-ph
Double Equivariance for Inductive Link Prediction for Both New Nodes and New Relation Types
Purdue University（普渡大学）
针对知识图谱完全归纳式链接预测任务，提出双重置换等变表示概念，证明其必要性并指出现有模型符合该框架，同时揭示其固有局限性，说明双重等变性并非充分条件。
2025-01-14 cs.AI cs.CL cs.LG
DeepSphere: towards an equivariant graph-based spherical CNN
EPFL（洛桑联邦理工学院）；Swiss Data Science Center（瑞士数据科学中心）；ETH Zurich（苏黎世联邦理工学院）
球形数据在许多应用中都可以找到。通过将离散球建模为图，我们可以适应非均匀分布的，部分的和不断变化的采样。此外，图卷积在计算上比球面卷积更有效。由于利用旋转对称性需要等方差，我们讨论了如何使用Defferard等人（2016）中介绍的图神经网络来接近旋转等方差。实验表明，良好的性能旋转不变的学习问题。代码和示例可在https://github.com/SwissDataScienceCenter/DeepSphere上获得
2019-04-08 cs.LG stat.ML
Harnessing Equivariance: Modeling Turbulence with Graph Neural Networks
Institute of Aerodynamics and Gas Dynamics, University of Stuttgart（斯图加特大学空气动力学与气体动力学研究所）；Centre for Analysis, Scientific Computing and Applications, Eindhoven University of Technology（埃因霍温理工大学分析、科学计算与应用中心）
本文提出将旋转、反射和平移等变性嵌入图神经网络，用于大涡模拟湍流建模，并结合强化学习训练，在均匀各向同性湍流和湍流通道流中验证了其保持对称性、稳定性和精度。
2025-04-10 cs.LG physics.flu-dyn
Adaptive Sampling for Continuous Group Equivariant Neural Networks
University of Amsterdam（阿姆斯特丹大学）；Qualcomm AI Research（高通人工智能研究中心）
针对连续群等变可导向网络中全群采样计算成本高的问题，提出自适应采样方法，根据数据对称性动态调整采样，减少采样量，在提升性能的同时小幅提高内存效率。
2024-09-13 cs.LG
PDO-eS2CNNs: Partial Differential Operator Based Equivariant Spherical CNNs
Peking University（北京大学）；The Chinese University of Hong Kong（香港中文大学）；Pazhou Lab（琶洲实验室）
球形信号存在于许多应用中，例如，行星数据、激光雷达扫描和3D物体的数字化，需要能够有效处理球形数据的模型。当简单地将球形数据投影到2D平面中然后使用平面卷积神经网络（CNN）时，由于投影的失真和无效的平移等方差，它的表现不佳。实际上，设计球形CNN的好原则是避免扭曲，并将平面CNN中的移位等变性转换为球形域中的旋转等变性。在这项工作中，我们使用偏微分算子（PDO）来设计一个球面等变的CNN，PDO-eS 2 CNN，这是完全旋转等变的连续域。然后对PDO-eS 2CNN进行离散化，并分析了离散化产生的等方差误差。这是第一次在球面域上对等方差误差进行理论分析。在实验中，PDO-eS 2CNN显示出更高的参数效率，并且在几项任务上显著优于其他球形CNN。
2022-01-14 cs.CV cs.LG
Diffeomorphism-Equivariant Neural Networks
Institute of Mathematics（数学研究所）；Image Computing, University of Luebeck, Luebeck, Germany（图像计算，吕贝克大学，吕贝克，德国）；Department of Applied Mathematics（应用数学系）；Theoretical Physics, University of Cambridge, Cambridge, United Kingdom（理论物理，剑桥大学，剑桥，英国）
本文提出通过能量基于规范化诱导预训练网络的微分同胚等变性，实现对无限维群的等变性扩展，适用于分割和分类任务。
2026-02-06 cs.CV cs.LG
PERM EQ x GRAPH EQ: Equivariant Neural Networks for Quantum Molecular Learning
Independent Researcher, College Park, Maryland, United States（独立研究者，马里兰州学院公园，美国）；Independent AI Researcher, San Francisco, California, United States（独立AI研究者，加利福尼亚州旧金山，美国）
本文提出了一种基于等变神经网络的量子分子学习方法，通过比较不同等变性模型的性能，发现置换对称嵌入在几何学习中具有最佳通用性。
2025-12-05 cs.AI cs.LG quant-ph
Revisiting Multi-Permutation Equivariance through the Lens of Irreducible Representations
Technion – Israel Institute of Technology（以色列理工学院）
本文基于不可约表示与舒尔引理提出新方法，推导了DeepSets等模型，扩展到未对齐对称集时发现大量非暹罗式层，经实验其可提升多项任务性能。
2026-08-25 cs.AI cs.LG
Graph Neural PDE Solvers with Conservation and Similarity-Equivariance
RICOS Co. Ltd.（理科斯有限公司）；Graduate School of Science and Technology, University of Tsukuba（筑波大学理工学研究科）
本研究提出一种基于图神经网络、融入守恒定律和物理对称性的新型机器学习架构，用于求解偏微分方程，显著提升了对未见空间域的泛化能力。
2024-05-25 cs.AI cs.CE cs.LG
Quick ViTs: Speeding up Vision Transformers through Equivariance
Chalmers University of Technology（查尔姆斯理工大学）；Linköping University（林堡大学）；University of Amsterdam（阿姆斯特丹大学）
研究利用反射和旋转等变性加速视觉变换器，核心方法是基于八面体等变线性层构建快速视觉变换器，贡献是大幅降低计算量和内存，提升效率且保持或超越基线精度。
2026-07-07 cs.AI cs.CV cs.LG
Group-Equivariant Poincaré Convolutional Networks
School of Computing Sciences, University of East Anglia（东安格利亚大学计算机科学学院）；Department of Physics and Technology, UiT The Arctic University of Norway（北极大学挪威分校物理与技术系）
针对庞加莱ResNet优化困难及标准双曲网络无法处理空间变换等变性的问题，提出结合双曲几何与离散对称群的等变庞加莱ResNet，通过几何安全的张量重塑、左正则置换和联合定向批归一化，实现边界约束下的快速收敛和空间群等变性。
2026-08-25 cs.AI cs.LG
Large Language-Geometry Model: When LLM meets Equivariance
Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学高瓴人工智能学院）；DAMO Academy, Alibaba Group（阿里巴巴达摩院）；Hupan Lab（湖畔实验室）
本文提出 EquiLLM 框架，通过几何感知提示、等变编码器、LLM 与等变适配器结合 E(3)-等变性和语言模型知识，并在分子动力学、人体运动及抗体设计任务上显著优于既有方法。
2025-02-19 cs.AI cs.LG
Do we need equivariant models for molecule generation?
本文探讨在分子生成中非等变CNN结合旋转增强能否替代复杂的等变GNN，通过推导分离预测与等变误差的损失分解，首次分析了生成任务中学习到的等变性。
2025-07-13 cs.LG q-bio.QM
SE(3)-Transformers: 3D Roto-Translation Equivariant Attention Networks
Bosch Center for Artificial Intelligence（博世人工智能中心）；Oxford University（牛津大学）；University of Amsterdam（阿姆斯特丹大学）
我们介绍了SE（3）-Transformer，这是三维点云和图形的自注意模块的一个变体，它在连续的三维旋转平移下是等变的。等方差对于确保在数据输入存在干扰转换的情况下的稳定和可预测的性能非常重要。等方差的一个正的推论是增加模型内的权重绑定。SE（3）-Transformer利用自注意力的优势，在大型点云和具有不同数量点的图形上进行操作，同时保证SE（3）-等方差的鲁棒性。我们在一个玩具N体粒子模拟数据集上评估了我们的模型，展示了在输入旋转下预测的鲁棒性。我们在两个真实世界的数据集ScanObjectNN和QM 9上进一步实现了具有竞争力的性能。在所有情况下，我们的模型都优于强大的非等变注意力基线和无注意力的等变模型。
2020-11-24 cs.LG stat.ML
HyQuRP: Hybrid quantum-classical neural network with rotational and permutational equivariance
School of Integrated Technology, Yonsei University, Seoul 03722, Korea（整合技术学院，延世大学，首尔03722，韩国）；Department of Quantum Information, Yonsei University, Seoul 03722, Korea（量子信息系，延世大学，首尔03722，韩国）
本文提出HyQuRP，一种具有旋转和置换等价性的混合量子-经典神经网络，通过组表示理论分析门空间维度，实验证明其在稀疏点云分类中优于经典和量子基线模型。
2026-05-07 cs.LG quant-ph
DeepSphere: a graph-based spherical CNN
École Polytechnique Fédérale de Lausanne (EPFL)（洛桑联邦理工学院）；Swiss Data Science Center (SDSC)（瑞士数据科学中心）
为球形神经网络设计卷积需要在效率和旋转等方差之间进行微妙的权衡。DeepSphere是一种基于采样球体的图形表示的方法，它在这两个需求之间取得了可控的平衡。这种贡献是双重的。首先，我们从理论上和经验上研究了等方差是如何影响的基础图的顶点和邻居的数量。其次，我们对DeepSphere的相关问题进行了评估。实验显示了最先进的性能，并证明了这种配方的效率和灵活性。也许令人惊讶的是，与以前的工作相比，各向异性过滤器可能是一个不必要的代价。我们的代码可在https://github.com/deepsphere上获得
2020-12-30 cs.CV cs.LG stat.ML
Approximately Equivariant Networks for Imperfectly Symmetric Dynamics
University of California San Diego（加州大学圣地亚哥分校）；Northeastern University（东北大学）
将对称性作为归纳偏差引入神经网络体系结构中，导致了动力学建模中泛化、数据效率和物理一致性的改进。诸如CNN或等变神经网络之类的方法使用权重绑定来强制对称性，例如移位不变性或旋转等变性。然而，尽管物理定律服从许多对称性，但现实世界的动力学数据很少符合严格的数学对称性，这要么是由于噪声或不完整的数据，要么是由于基础动力学系统中的对称性破缺特征。我们探讨近似等变网络偏向于保持对称性，但不严格限制这样做。通过放松等方差约束，我们发现，我们的模型可以优于两个基线没有对称性偏差和基线过于严格的对称性在模拟的湍流域和现实世界的多流射流。
2022-06-16 cs.LG
Relaxing Continuous Constraints of Equivariant Graph Neural Networks for Physical Dynamics Learning
Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；Hong Kong University of Science and Technology（香港科技大学）；Tencent AI Lab（腾讯AI Lab）
针对现有图神经网络在离散对称物理动力学场景中等变性适配不足的问题，提出离散等变图神经网络DEGNN通过松弛连续等变约束，采用两种置换不变函数实现方式，在多类物理动力学20种场景中性能优于现有最优方法，且数据效率高、跨场景泛化性强。
2024-06-24 cs.AI cs.LG
A Clifford Algebraic Approach to E(n)-Equivariant High-order Graph Neural Networks
National University of Singapore（新加坡国立大学）
针对现有 EGNN 表达能力受限及高阶图网络缺乏等变性的问题，本文提出基于 Clifford 代数的 CG-EGNN，以高阶与 $k$-hop 消息传递增强几何图学习，并在多个基准上验证其优势。
2025-03-13 cs.LG stat.ML
Resource Allocation via Graph Neural Networks in Free Space Optical Fronthaul Networks
University of Pennsylvania（宾夕法尼亚大学）；Intel Corporation（英特尔公司）
研究了自由空间光前传网络中的最优资源分配问题。最优分配最大化平均加权和容量受功率限制和数据拥塞约束。基于链路的瞬时信道状态信息（CSI），考虑自适应功率分配和节点选择。通过参数化的资源分配政策，我们制定的问题作为一个无监督的统计学习问题。我们认为图形神经网络（GNN）的政策参数化，利用FSO网络结构与小规模的训练参数。GNN保持与网络中的资源分配策略的置换等方差相匹配的置换等方差。原始-对偶学习算法的开发训练的GNN在无模型的方式，其中的知识系统模型是不需要的。数值模拟显示GNN相对于具有相等功率分配和随机节点选择的基线策略的强大性能。
2020-06-26 cs.LG eess.SP
Lorentz Equivariant Model for Knowledge-Enhanced Hyperbolic Collaborative Filtering
South China Normal University（华南师范大学）；Research Institute of China Telecom Corporate Ltd.（中国电信股份有限公司研究院）
从知识图谱中引入先验辅助信息辅助用户-项目图，可以提高推荐系统的综合性能。最近的研究表明，双曲空间的系综性质很好地拟合了上述两类图的无标度和层次特征。然而，现有的双曲方法忽略了对等方差的考虑，因此它们不能在给定的变换下推广对称特征，这严重限制了模型的能力。此外，它们不能平衡保持异构性和挖掘高阶实体信息的用户在两个图。为了填补这些空白，我们提出了一个严格的洛伦兹群等变知识增强的协同过滤模型（LECF）。创新性地，我们联合更新属性嵌入（包含来自KG的高阶实体信号）和双曲嵌入（双曲嵌入之间的距离揭示了推荐趋势）通过LECF层与洛伦兹等变变换。此外，我们提出了双曲稀疏注意力机制，以采样的信息最丰富的邻居节点。洛伦兹等方差是严格保持在整个模型中，并强制等方差是必要的实验证明。在三个真实世界的基准上进行的大量实验表明，LECF显著优于最先进的方法。
2023-03-18 cs.IR cs.LG cs.SI
Learning Color Equivariant Representations
Princeton University（普林斯顿大学）；University of Oxford（牛津大学）
本文提出颜色等变图卷积神经网络，解决颜色变化下的等变问题，通过提升等变性并扩展到饱和度和亮度变化，提升模型泛化能力和样本效率。
2026-04-12 cs.CV cs.LG
Quantized SO(3)-Equivariant Graph Neural Networks for Efficient Molecular Property Prediction
Suzhou Lab（苏州实验室）；Nanjing University（南京大学）
本文提出量化SO(3)等价图神经网络方法，通过低比特量化技术提升分子性质预测的效率，实现准确性和效率的平衡。
2026-03-03 cs.LG
Building powerful and equivariant graph neural networks with structural message-passing
EPFL（洛桑联邦理工学院）
消息传递已被证明是设计图神经网络的一种有效方法，因为它能够利用置换等方差和对学习局部结构的归纳偏差，以实现良好的泛化。然而，目前的消息传递架构具有有限的表示能力，并且无法学习图的基本拓扑属性。我们解决这个问题，并提出了一个强大的和equivariant消息传递框架的基础上两个想法：第一，我们传播一个热编码的节点，除了功能，为了学习每个节点周围的本地上下文矩阵。该矩阵包含关于特征和拓扑的丰富的本地信息，并且最终可以被合并以构建节点表示。其次，我们提出的方法参数化的消息和更新功能，确保置换等变性。具有独立于独热编码的特定选择的表示允许归纳推理并导致更好的泛化属性。实验上，我们的模型可以比以前的方法更准确地预测合成数据的各种图拓扑属性，并在ZINC数据集上的分子图回归方面取得了最先进的结果。
2020-10-23 cs.LG stat.ML
Learning Probabilistic Symmetrization for Architecture Agnostic Equivariance
KAIST（韩国科学技术院）
该研究提出概率对称化框架，用小型等变网络参数化对称化分布，结合任意基础模型端到端训练，实现架构无关的群等变性，在多对称群测试中性能媲美定制等变架构，还可跨模态预训练增强效果。
2024-04-13 cs.AI cs.LG
Autobahn: Automorphism-based Graph Neural Nets
Flatiron Institute（弗莱顿研究所）；New York University（纽约大学）；University of Chicago（芝加哥大学）
我们介绍了基于自同构的图神经网络（Autobahn），一个新的家庭的图神经网络。在一个高速公路，我们分解成一个子图的集合图，并应用局部卷积是等变的每个子图的自同构群。局部邻域和子图的特定选择恢复了现有的架构，例如消息传递神经网络。我们的形式主义还包括新颖的架构：作为一个例子，我们引入了一个图神经网络，它将图分解为路径和循环。由此产生的卷积反映了部分图可以变换的自然方式，保留了卷积的直观含义，而不会牺牲全局置换等方差。我们验证了我们的方法，应用Autobahn分子图，在那里它实现了竞争的结果与国家的最先进的消息传递算法。
2022-02-03 cs.LG
Top-N: Equivariant set and graph generation without exchangeability
EPFL（洛桑联邦理工学院）
这项工作解决了一次拍摄集和图形生成，更具体地说，概率解码器的参数化，映射一个矢量形状之前的分布集或图形。集合和图形通常由第一采样点i.i.d.生成。从正态分布，然后使用Transformer层或图神经网络处理这些点以及先前的向量。该架构被设计为生成可交换的分布，即，所生成的输出的所有排列都是同样可能的。然而，我们表明，它只优化代理的证据下限，这使得它很难训练。然后，我们研究生成设置中的等方差，并表明非交换方法仍然可以实现置换等方差。利用这个结果，我们引入了Top-n创建，这是一种可微分生成机制，它使用潜在向量从可训练的参考集中选择最相关的点。Top-n可以代替i.i.d.在任何变分自编码器或生成对抗网络中生成。实验上，我们的方法优于i.i.d.在SetMNIST重建时生成15%，在CLEVR上的目标检测时生成33%，生成的集合更接近合成分子样数据集上的真实分布74%，并在QM 9上生成更多有效分子。
2022-04-01 cs.LG stat.ML
On the Sample Complexity of One Hidden Layer Networks with Equivariance, Locality and Weight Sharing
Qualcomm AI Research（高通人工智能研究部门）；Qualcomm Technologies, Inc.（高通技术公司）
本文通过统计学习理论，分析了单隐层网络中权重共享、等变性和局部性对样本复杂度的影响，给出了维度无关的界，并指出局部性与表达力存在权衡。
2025-01-23 cs.LG math.ST stat.ML
ChebLieNet: Invariant Spectral Graph NNs Turned Equivariant by Riemannian Geometry on Lie Groups
EPFL（洛桑联邦理工学院）；UvA（阿姆斯特丹大学）
我们介绍ChebLieNet，（各向异性）流形上的群等变方法。在基于图和基于组的神经网络的成功基础上，我们利用几何深度学习领域的最新发展，推导出一种新的方法来利用数据中的任何各向异性。通过李群的离散近似，我们开发了一个图神经网络，由各向异性卷积层（Chebyshev卷积），空间池化和非池化层，以及全局池化层组成。群等变是通过图上的等变和不变算子实现的，图的边缘上编码有各向异性的左不变的基于黎曼距离的仿射。由于其简单的形式，黎曼度量可以在空间和方向域中对任何各向异性进行建模。对黎曼度量的各向异性的这种控制允许平衡图卷积层的等方差（各向异性度量）与不变性（各向同性度量）。因此，我们打开了大门，以更好地了解各向异性性能。此外，我们凭经验证明了CIFAR10上各向异性参数的（数据依赖性）最佳点的存在。这一关键结果证明了利用数据中的各向异性特性可以获得的好处。我们还评估了这种方法在STL 10（图像数据）和ClimateNet（球形数据）上的可扩展性，显示出其对不同任务的显著适应性。
2021-11-23 cs.LG stat.ML
Scale-Equivariant Deep Learning for 3D Data
Technical University of Munich（慕尼黑工业大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）；Friedrich-Alexander University Erlangen-Nuremberg（埃尔朗根-纽伦堡弗里德里希-亚历山大大学）
本文提出三维尺度等变卷积层并构建尺度等变U-Net，用于医学图像分割，通过免除逐尺度学习提升三维CNN的性能与数据效率。
2023-04-12 cs.CV cs.LG
Efficient and Equivariant Graph Networks for Predicting Quantum Hamiltonian
Texas A&M University（德克萨斯A&M大学）
针对量子哈密顿量预测中效率与等变性难以兼顾的问题，提出SE(3)-等变网络QHNet，通过架构创新大幅减少张量积并抑制通道维度膨胀，在MD17数据集上实现更快速度、更低内存且性能比肩现有最优方法。
2023-11-08 cs.LG physics.comp-ph
Multi-body SE(3) Equivariance for Unsupervised Rigid Segmentation and Motion Estimation
University of Oxford（牛津大学）
本文提出一种无监督的 SE(3) 等变架构与在线训练策略，通过联合优化分割掩码和刚性运动，在仅 0.25M 参数下实现动态点云中类别无关的部件级刚性分割与运动估计。
2023-10-31 cs.AI cs.CV cs.LG
E3DGS: Unified Geometric-Photometric Equivariance for 3D Gaussian Splatting via Color-as-Geometry Embedding
University of Michigan（密歇根大学）
研究针对3D高斯点云构建等变架构的表示瓶颈问题，提出基于表示理论的统一解决方案，通过将光度学与几何张量同构等方法，引入统一矩阵嵌入，构建E3DGS架构，提升了相机帧变化下的鲁棒性和数据效率。
2026-07-20 cs.CV cs.LG
