A Neural Multigrid Solver for Helmholtz Equations with High Wavenumber and Heterogeneous Media
本文提出Wave-ADR-NS神经多重网格求解器，通过谱分析分离误差分量，结合多重网格波循环、学习相位函数和ADR循环，高效求解波数超2000的非均匀亥姆霍兹方程。
2025-03-11 cs.NA math.NA
MG-GNN: Multigrid Graph Neural Networks for Learning Multilevel Domain Decomposition Methods
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Memorial University of Newfoundland（纽芬兰纪念大学）
区域分解法是求解偏微分方程离散系统的常用方法，它可以求解单级和多级变量。这些求解器依赖于几个算法和数学参数，规定重叠，子域边界条件和其他属性的DDM。虽然已经做了一些工作，优化这些参数，它主要集中在一级设置或特殊情况下，如结构网格离散与定期子域建设。在本文中，我们提出了多重网格图神经网络（MG-GNN），一种新的GNN结构的学习优化参数的两级DDM。我们使用一个新的无监督损失函数来训练MG-GNN，从而能够在小问题上进行有效的训练，从而在比训练集中的网格大几个数量级的非结构化网格上产生鲁棒的性能。我们表明，MG-GNN优于流行的分层图网络架构的这种优化，我们提出的损失函数是实现这种改进的性能的关键。
2023-03-02 cs.AI cs.LG cs.NA
Structure Preservation for the Deep Neural Network Multigrid Solver
偏微分方程的数值模拟是数值分析的中心课题，也是科学、工程及相关领域中不可缺少的工具。现有的方法，如有限元，提供了（高度）有效的工具，但基于深度神经网络的技术在过去几年中作为一种替代方案出现，具有非常有前途的结果。我们调查的组合这两种方法的近似的Navier-斯托克斯方程和在何种程度上的结构特性，如发散自由度可以和应该得到尊重。我们的工作基于DNN-MG，这是我们最近引入的一种深度神经网络多重网格技术，它使用神经网络来表示几何多重网格有限元求解器无法解决的精细网格波动。虽然DNN-MG提供了非常好的精度和计算效率高的解决方案，我们注意到，基于神经网络的校正实质上违反了速度向量场的发散自由。在这篇文章中，我们讨论了这些发现，并分析了三种方法来解决这个问题：一个惩罚项，以鼓励发散自由的网络输出;一个惩罚项的校正速度场;和一个网络，学习的流函数，即标量势的发散自由速度向量场，从而产生建设发散自由校正。我们的实验结果表明，第三种方法的基础上的流函数优于其他两个，不仅提高了发散的自由度，但特别是也整体的模拟保真度。
2020-12-09 cs.NA math.NA
A comparison of Algebraic Multigrid Bidomain solvers on hybrid CPU-GPU architectures
本研究针对心脏电生理Bidomain系统，在混合CPU-GPU架构上基准测试PETSc库中两种AMG预条件子，发现GPU在求解时间上性能最佳。
2023-11-23 cs.NA math.NA
Accelerating Algebraic Multigrid Methods via Artificial Neural Networks
本研究提出AMG-ANN算法，利用人工神经网络预测AMG的强连接参数以最大化收敛因子，经两类二维PDE模型问题实验验证并分析了参数调整的影响。
2022-10-06 cs.NA math.NA
Multigrid Training for Molecular Generation using Graph Neural Networks
Department of Mathematics, Michigan State University（密歇根州立大学数学系）；Department of Mathematics, Hamline University（哈姆林大学数学系）
提出多网格训练策略，通过跨离散化参数传递加速高分辨率分子建模，在图和3D网格表示上分别采用随机游走上采样和形状兼容参数初始化，实验证明收敛更快且泛化更好。
2026-06-23 cs.LG cs.NA math.NA
UGrid: An Efficient-And-Rigorous Neural Multigrid Solver for Linear PDEs
Stony Brook University (SUNY)（纽约州立大学石溪分校）；Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所）；University of Chinese Academy of Sciences（中国科学院大学）
本文提出融合 U-Net 与多重网格的线性 PDE 神经求解器 UGrid，兼具收敛与正确性证明、高精度及跨几何和 PDE 形式的泛化能力，并以残差损失实现稳定无监督训练。
2024-08-09 cs.AI cs.LG cs.MS
Combining p-multigrid and multigrid reduced in time methods to obtain a scalable solver for Isogeometric Analysis
等几何分析（IgA）已成为有限元法（FEM）的一种可行的替代方法，并且通常与直线法中的时间积分方案结合用于时间相关问题。然而，由于处理器时钟速度的停滞，传统的（即顺序）时间积分方案变得越来越瓶颈，在这些大规模的计算，这导致了时间并行方法的发展，如多重网格减少时间（MGRIT）方法。最近，MGRIT已成功地应用于IgA的背景下，收敛独立的网格宽度，逼近阶的B样条基函数和时间步长的各种基准问题。然而，当采用标准的共轭梯度法在MGRIT中进行空间求解时，可以看到CPU时间对近似阶数的强烈依赖性。在本文中，我们结合MGRIT与一个国家的最先进的求解器（即p-多重网格法），专门为IgA设计，从而显着降低了整体计算成本的MGRIT。此外，我们研究了MGRIT的性能和它的可扩展性上的现代copmuter架构。
2021-07-12 cs.NA math.NA
Parallelizing Over Artificial Neural Network Training Runs with Multigrid
Center for Applied Scientific Computing, Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室应用科学计算中心）
本文提出一种多网格降时（MGRIT）算法，用于并行化神经网络训练运行，以解决训练阶段的瓶颈问题，通过将训练视为演化方程来实现并行计算。
2017-10-01 cs.LG cs.NA math.NA
A hybrid finite element/neural network solver and its application to the Poisson problem
本文形式化了一种混合有限元/神经网络求解器，用于丰富粗网格解，并分析了其先验误差及训练集大小对解质量的影响。
2023-07-03 cs.NA math.NA
Construction of Grid Operators for Multilevel Solvers: a Neural Network Approach
Università della Svizzera Italiana（提契诺大学）
在本文中，我们研究多重网格方法和神经网络的结合，从一个椭圆型偏微分方程的有限元离散。多重网格方法使用插值算子在不同的近似水平之间传递信息。这些算子对于多重网格的快速收敛是至关重要的，但它们通常是未知的。我们提出了用于学习插值算子的深度神经网络模型，并根据网络的输出构建了一个多级层次结构。我们研究了神经网络预测的插值算子的准确性，并使用不同的网络架构对其进行测试。这种用于构造网格算子的神经网络方法可以扩展为多级求解器的自动定义，从而在科学计算中实现便携式解决方案
2021-09-13 cs.LG cs.NA math.NA
Smoothers with localized residual computations for geometric multigrid methods
本研究通过重组平滑步骤中的操作并采用批次循环，在补丁平滑器中结合局部残差计算与局部求解器，减少了多核架构上的内存传输，提升了多重网格求解器的性能。
2024-07-02 cs.NA math.NA
Non-invasive multigrid for semi-structured grids
该研究提出半结构化多重网格求解器的数学框架，将HHG理念推广至更复杂半结构化网格，支持现有应用非侵入式适配，验证了其通用性与性能提升潜力。
2021-03-22 cs.MS cs.NA math.NA
Agglomeration of Polygonal Grids using Graph Neural Networks with applications to Multigrid solvers
Politecnico di Milano（米兰理工大学）
凝聚为基础的战略是很重要的自适应精化算法和构建可扩展的多级代数求解器。为了自动执行多边形网格的聚集，我们提出了使用机器学习（ML）策略，可以自然地利用网格的几何信息，以保持网格的质量，提高性能的数值方法和降低整体计算成本。特别是，我们采用k-均值聚类算法和图神经网络（GNNs）划分的计算网格的连接图。此外，GNN具有很高的在线推理速度和优势，自然，同时处理网格的图形结构和几何信息，如元素的面积或其重心坐标。这些技术进行了比较与METIS，一个标准的算法图分割，这是为了处理的网格的图形信息。我们证明了ML策略在质量指标方面的性能得到了增强。当应用于更复杂的几何形状时，例如脑部MRI扫描，这种模型也显示出良好的泛化能力，并且能够保持网格的质量。这些策略的有效性也被证明时，应用到多网格（MG）求解器的多边形不连续伽辽金（PolyDG）框架。在所考虑的实验中，GNNs在推理速度，准确性和方法的灵活性方面表现出整体最佳的性能。
2023-03-16 cs.LG cs.NA math.NA
Scaling Structured Multigrid to 500K+ Cores through Coarse-Grid Redistribution
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）
本文提出通过增量聚类实现粗网格问题的重分布算法，提升结构化多网格的并行扩展性，通过二维扩散问题验证性能提升，并在大规模计算系统上展示可扩展性。
2018-03-06 cs.MS cs.NA cs.PF
Learning to Optimize Multigrid PDE Solvers
Weizmann Institute of Science（魏茨曼科学研究所）；Technion, Israel Institute of Technology（以色列理工学院）
构造偏微分方程的快速数值求解器对于许多科学学科都是至关重要的。求解大规模偏微分方程的一个主要技术是使用多重网格方法。多重网格求解器的核心是延拓矩阵，它与问题的不同尺度之间相关。这个矩阵是强烈的问题依赖性，其最佳结构是至关重要的求解器的效率。然而，在实践中，为新问题设计多重网格算法往往会带来巨大的挑战。在本文中，我们提出了一个学习多重网格求解器的框架。我们的方法学习一个（单一）映射从一个家庭的参数化偏微分方程延长运营商。我们训练一个神经网络一次为整个类的偏微分方程，使用一个有效的和无监督的损失函数。广泛的一类2D扩散问题的实验表明，改进的收敛速度相比，广泛使用的黑盒多重网格计划，这表明我们的方法成功地学习规则，构造延长矩阵。
2019-08-05 cs.LG cs.NA math.NA
MgNet: A Unified Framework of Multigrid and Convolutional Neural Network
School of Mathematical Sciences, Peking University（北京大学数学科学学院）；The Pennsylvania State University（宾夕法尼亚州立大学）
本文提出统一模型 MgNet，揭示了卷积神经网络与多重网格方法的内在联系，并据此开发了权重和超参数更少且在 CIFAR-10 和 CIFAR-100 上性能优越的改进 CNN 模型。
2019-05-01 cs.CV cs.LG cs.NA
MgNO: Efficient Parameterization of Linear Operators via Multigrid
King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）
本文提出MgNO，一种利用多重网格结构高效参数化神经元间线性算子的神经算子架构，兼具数学严谨性与实用性，无需提升/投影算子，适应多种边界条件，在多种PDE上达到最先进性能。
2024-06-26 cs.LG cs.NA math.NA
Implementation techniques for multigrid solvers for high-order Discontinuous Galerkin methods
Durham University（杜伦大学）；University of Bath（巴斯大学）
针对高阶DG方法离散的椭圆PDE无矩阵几何多重网格求解器的性能局限，提出分离单元面运算、循环融合等hp-多重网格高效执行策略，提升求解器性能并向更广泛从业者推广。
2025-10-01 cs.NA math.NA
MgFNO: Multi-grid Architecture Fourier Neural Operator for Parametric Partial Differential Equations
本研究提出三级层次架构的多网格傅里叶神经算子MgFNO，通过解耦训练策略结合神经网络与多网格方法的互补特性，在三类PDE上大幅降低相对误差，还支持零样本超分辨率预测，为复杂PDE求解提供高效高精度新范式。
2025-05-21 cs.NA math.NA
A Geometric Multigrid-Accelerated Compact Gas-Kinetic Scheme for Fast Convergence in High-Speed Flows on GPUs
针对高速流动高阶CFD中隐式与GPU并行难以结合的问题，提出GPU优化的几何多重网格加速紧致气体动理学格式，通过多色LU-SGS、间断自适应松弛及三层V循环多重网格，实现比显式求解器快1-2个数量级的收敛，并保持激波捕捉鲁棒性和可扩展性。
2025-09-08 cs.NA math.NA physics.comp-ph
Connections between Numerical Algorithms for PDEs and Neural Networks
Saarland University（萨尔兰大学）
我们研究了偏微分方程（PDE）的数值算法和神经架构之间的许多结构连接。我们的目标是将丰富的数学基础从偏微分方程转移到神经网络。除了结构的见解，我们提供了具体的例子和实验评估所产生的架构。以一维广义非线性扩散为例，我们考虑了显式格式、加速策略、隐格式和多重网格方法。我们将这些概念与残差网络、递归神经网络和U-网架构联系起来。我们的研究结果启发了一个对称的残差网络设计与可证明的稳定性保证，并证明跳跃连接的有效性，从数值的角度来看，在神经网络。此外，我们提出了U-网络架构，实现多重网格技术学习有效解的偏微分方程模型，并激励不寻常的设计选择，如可训练的非单调激活函数。实验结果表明，所提出的架构节省了一半的可训练参数，因此可以在相同的模型复杂度下优于标准的。我们的考虑是解释流行神经架构成功的基础，并为开发新的数学基础良好的神经构建模块提供了蓝图。
2022-03-21 cs.LG cs.NA math.NA
A matrix-free approach for finite-strain hyperelastic problems using geometric multigrid
Friedrich-Alexander-Universität Erlangen-Nürnberg（埃尔朗根-纽伦堡大学）；Heidelberg University（海德堡大学）；University of Glasgow（格拉斯哥大学）
本文研究了将无矩阵方法应用于准静态有限变形超弹性问题的可行性，探讨了有限元切线算子的不同数值实现，并提出了一种构造多级切线算子以定义几何多网格预条件子的方法，通过与基于矩阵的实现进行比较，验证了无矩阵方法在固体力学中的潜力。
2019-04-30 cs.NA math.NA physics.comp-ph
Jacobian-free Multigrid Preconditioner for Discontinuous Galerkin Methods applied to Numerical Weather Prediction
针对数值天气预报中高阶DG方法缺乏高效求解器的问题，提出基于低阶有限体积子网格多重网格的无雅可比预条件子，结合显式Runge-Kutta伪时间迭代平滑器，实现了低内存、高并行的隐式求解，并在大气流动实验中验证了其有效性。
2025-05-30 cs.NA math.NA physics.comp-ph
MGCNN: a learnable multigrid solver for sparse linear systems from PDEs on structured grids
提出 MGCNN 可学习多重网格求解器，利用类 CNN 的多层级、线性和权重共享结构离线求解结构化网格上的异质系数 PDE 稀疏系统，并在对流–扩散方程上显著优于 GMG。
2024-05-09 cs.NA math.NA
Multigrid-augmented deep learning preconditioners for the Helmholtz equation
Ben-Gurion University（本-古里安大学）
在本文中，我们提出了一个数据驱动的方法来迭代求解离散非均匀亥姆霍兹方程在高波数。在我们的方法中，我们将经典的迭代求解器与卷积神经网络（CNN）相结合，形成一个应用于Krylov求解器的预处理器。对于预处理器，我们使用了一个CNN类型的U-Net，结合多网格成分。提出了两种类型的预处理器：1）U-Net作为粗网格求解器，2）U-Net作为具有移位拉普拉斯V-圈的收缩算子。在我们的训练方案和数据增强之后，我们的CNN预处理器可以在残差和一组相对一般的波慢度模型上进行推广。最重要的是，我们还提供了一个编码器-求解器框架，其中“编码器”网络在介质上进行泛化，并将上下文向量发送到另一个“求解器”网络，后者在右侧进行泛化。我们表明，这个选项是更强大和更有效的比独立的变体。最后，我们还提供了一个小型的再训练过程，以改善求解器后，模型是已知的。此选项在求解多个右侧时非常有用，例如在逆问题中。我们证明了我们的方法在各种二维问题的效率和泛化能力。
2022-03-14 cs.CE cs.LG cs.NA
Neumann Series in GMRES and Algebraic Multigrid Smoothers
Neumann级数是Krylov方法和代数多重网格平滑器的基础。提出了一种低同步的改进的Gram-Schmidt（MGS）-GMRES算法，该算法采用Neumann级数来加速投影步骤。Paige等人（2006）的向后稳定性结果的推论证明了截断Neumann级数逼近足以收敛GMRES。与校正矩阵$T_m = (\: I + L_m \:)^{-1}$相关联的下三角解算器然后可以被与$T_m = I - L_m$的矩阵-向量积替换。其次，Neumann级数应用于加速经典的Rüge-Stuben代数多重网格预处理器使用多项式高斯-赛德尔或不完全ILU平滑。稀疏的三角形求解器在这些平滑被取代的内迭代的基础上矩阵矢量产品。Henrici的偏离正常的相关迭代矩阵导致更好地理解这些系列。连接之间的（非）正常的$L$和$U$因素和非线性稳定性分析，以及伪谱的系数矩阵。此外，保持结构对称性的重新排序也减少了偏离上三角因子的正态性，并提高了三角解的相对残差。为了证明这种方法在众核架构上的有效性，将所提出的求解器和预处理器应用于不可压缩Navier-斯托克斯方程的压力连续性方程。在不改变收敛速度的情况下，压力求解时间大大减少，并将多项式Gauss-Seidel平滑器与Jacobi平滑器进行了比较。数值和定时结果Nalu-Wind和PeleLM燃烧代码，其中ILU与迭代三角形求解器被证明是更有效的多项式高…
2021-12-29 cs.MS cs.NA math.NA
Deep Learning Accelerated Algebraic Multigrid Methods for Polytopal Discretizations of Second-Order Differential Problems
Politecnico di Milano（米兰理工大学）
本文提出一种深度学习方法，自动调整AMG求解器中的强阈值参数和平滑器选择，以提高多面体离散化问题的求解效率。
2025-12-30 cs.NA math.NA
A Neural-preconditioned Poisson Solver for Mixed Dirichlet and Neumann Boundary Conditions
University of California, Davis, USA（加州大学戴维斯分校）；University of California, Los Angeles, USA（加州大学洛杉矶分校）；Waseda University, Tokyo, Japan（早稻田大学）
本文提出了一种神经预条件求解器，用于解决混合边界条件下的泊松方程，通过轻量神经网络架构实现高效求解，优于传统多网格方法。
2026-09-07 cs.GR cs.LG cs.NA
Multi-level Neural Networks for high-dimensional parametric obstacle problems
École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）
本文针对高维参数化障碍问题，提出一种受有限元约束多重网格算法启发的卷积神经网络方法，利用多层数据显式输出实现高效训练，并完成了先验收敛性与复杂度分析，数值实验达到最先进性能。
2025-04-07 cs.LG cs.NA math.FA
Finite Element Neural Network Interpolation. Part I: Interpretable and Adaptive Discretization for Solving PDEs
LMS, École Polytechnique（巴黎综合理工学院力学实验室）；IPP/CNRS（法国国家科学研究中心）；INRIA（法国国家信息与自动化研究所）
本文提出 FENNI 稀疏有限元神经网络框架，通过参考单元架构、多重网格训练和二维 rh 自适应实现可解释的 PDE 求解，并验证其效率、精度与变分损失优势。
2024-12-07 cs.LG cs.NA math.NA
A Deep Learning algorithm to accelerate Algebraic Multigrid methods in Finite Element solvers of 3D elliptic PDEs
Politecnico di Milano（米兰理工大学）
针对代数多重网格方法参数调优成本高的问题，提出利用深度学习网络通过池化处理稀疏矩阵来调优强阈值参数，可在未见过的三维问题上最多减少30%计算时间，且代码改动极小。
2023-11-02 cs.LG cs.NA math.NA
Gauge-equivariant pooling layers for preconditioners in lattice QCD
University of Regensburg（雷根斯堡大学）
本文提出用于格点 QCD 多重网格预条件子的规范等变池化与反池化层，并通过 Galerkin 粗网格规范场构造消除临界慢化。
2023-04-20 cs.LG cs.NA hep-lat
A quantitative performance analysis for Stokes solvers at the extreme scale
本文提出了一个系统的定量性能分析的大型有限元计算极端规模的计算系统。三个并行迭代求解器的斯托克斯系统，离散的低阶四面体元素，比较其数值效率和可扩展性上运行到$786\,432$并行线程。一个真正的多重网格方法的鞍点系统，使用Uzawa型平滑提供了最好的整体性能方面的内存消耗和时间的解决方案。在Blue Gene/Q系统上求解的最大系统有超过十万亿（$1.1 \cdot 10 ^{13}$）未知数，需要大约13分钟的计算时间。尽管无矩阵和高度优化的实现，解决方案向量和辅助向量的内存需求约为200 TB。Brandt的“教科书多重网格效率”的概念被用来研究迭代求解器的算法性能。最近扩展到“并行教科书多重网格效率”的这种模式，使它有可能评估的效率，也为一个给定的硬件架构的并行迭代求解器的绝对值。该方法的效率被证明是模拟不可压缩流体在充满球形障碍物的管道中的流动。
2015-11-06 cs.CE cs.MS cs.NA
Green Multigrid Network
School of Mathematics, Jilin University（吉林大学数学学院）；Department of Mathematics, Texas State University（德克萨斯州立大学数学系）
本文提出 GreenMGNet，通过分段建模 Green 函数并结合增广输出神经网络与 MLMI 算法，在显著降低数据和计算成本的同时提升算子学习精度。
2024-07-04 cs.LG cs.NA math.NA
Translating Numerical Concepts for PDEs into Neural Architectures
Saarland University（萨尔兰大学）
我们研究了将数值算法转化为神经网络可以学到什么。在数值方面，我们考虑了一般高阶非线性扩散方程的显式、加速显式和隐格式，以及线性多重网格方法。在神经网络方面，我们确定了残差网络（ResNets），递归网络和U网的相应概念。这些连接保证了每个块中具有转置卷积层结构的特定ResNet的欧几里得稳定性。我们提出了三个数值的理由跳跃连接：作为显式计划的时间离散，作为外推机制，加速这些方法，并作为经常性的连接在不动点求解器的隐格式计划。最后但并非最不重要的是，我们还激励不寻常的设计选择，如非单调激活函数。我们的研究结果为现代神经网络架构的成功提供了一个数字视角，并为稳定的网络提供了设计标准。
2021-05-17 cs.LG cs.NA math.NA
Multiresolution Convolutional Autoencoders
University of Washington（华盛顿大学）；Lawrence Livermore National Lab（劳伦斯利弗莫尔国家实验室）
我们提出了一种多分辨率卷积自动编码器（MrCAE）架构，该架构集成并利用了三种非常成功的数学架构：（i）多重网格方法，（ii）卷积自动编码器和（iii）迁移学习。该方法提供了一个自适应的，分层的架构，利用渐进的训练方法多尺度时空数据。该框架允许跨多个尺度的输入：从紧凑的（少量权重）网络架构和低分辨率数据开始，我们的网络以原则性的方式逐步加深和扩大，以基于其当前重建性能在更高分辨率数据中编码新信息。应用基本的迁移学习技术来确保从先前的训练步骤中学习到的信息可以快速地转移到更大的网络中。因此，网络可以动态地捕获网络的不同深度处的不同缩放特征。这种自适应多尺度架构的性能增益说明通过一系列的数值实验合成的例子和现实世界的时空数据。
2020-04-10 cs.LG cs.NA eess.IV
NSPOD: Accelerating Krylov solvers via DeepONet-learned POD subspaces
Synopsys UK Ltd（Synopsys英国有限公司）；Division of Applied Mathematics, Brown University（布朗大学应用数学系）
本文提出NSPOD，一种基于DeepONet的预条件器，通过减少迭代次数提升Krylov求解器效率，尤其在复杂CAD几何的线性化固体力学PDE中表现优异。
2026-05-11 cs.LG cs.NA math.NA
FMM-Net: neural network architecture based on the Fast Multipole Method
Skolkovo Institute of Science and Technology（斯科尔科沃科技学院）；Marchuk Institute of Numerical Mathematics of the Russian Academy of Sciences（俄罗斯科学院马尔丘克数值数学研究所）
在本文中，我们提出了一种新的神经网络结构的基础上的H2矩阵。尽管具有H2启发架构的网络已经存在，但我们的方法旨在通过考虑H2矩阵的稀疏模板来降低内存成本并提高性能。在与其他神经网络（包括已知的基于H2的神经网络）的数值比较中，我们的架构在性能、内存和可扩展性方面表现出了优势。
2022-12-25 cs.AI cs.LG cs.NA
Multilevel Neural Corrections with Adaptive Sampling for Partial Differential Equations
Sichuan University（四川大学）
本文提出了一种多级深度框架，通过自适应采样和深度神经网络更新，提升偏微分方程求解器的性能。
2026-10-19 cs.NA math.NA
Matrix-Free Higher-Order Finite Element Methods for Hyperelasticity
本文提出采用 hp-多重网格预条件器的无矩阵有限应变弹性求解器，通过弱形式选择、预计算与存储策略及精度稳定性设计，在患者特异性髂动脉分叉问题上显著加速高阶有限元计算。
2024-12-04 cs.CE cs.NA math.NA
On the approximation of the solution of partial differential equations by artificial neural networks trained by a multilevel Levenberg-Marquardt method
INPT-IRIT, University of Toulouse and ENSEEIHT（INPT-IRIT，图卢兹大学和ENSEEIHT）；ISAE-SUPAERO, University of Toulouse（ISAE-SUPAERO，图卢兹大学）
本文研究了利用人工神经网络近似偏微分方程解的问题，提出了一种多级Levenberg-Marquardt方法用于训练，通过数值实验展示了该方法在训练人工神经网络时的高效性。
2019-04-09 cs.LG cs.NA math.NA
DNN-MG: A Hybrid Neural Network/Finite Element Method with Applications to 3D Simulations of the Navier-Stokes Equations
本文扩展了DNN-MG混合求解器，结合有限元与局部神经网络处理三维纳维-斯托克斯方程，实现粗网格高精度，大幅降低计算时间。
2023-11-01 cs.NA math.NA physics.comp-ph
Multilevel-in-Layer Training for Deep Neural Network Regression
Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）；Portland State University（波特兰州立大学）
回归中的一个常见挑战是，对于许多问题，高质量解决方案所需的自由度也允许过拟合。正则化是一类寻求限制可能解的范围的策略，以阻止过拟合，同时仍然能够实现好的解，并且不同的正则化策略施加不同类型的限制。在本文中，我们提出了一种多级正则化策略，该策略构建和训练一个神经网络层次，每个神经网络的层都是前一个网络层的更宽版本。我们从代数多重网格（AMG）领域汲取直觉和技术，传统上用于求解线性和非线性方程组，并特别将非线性方程组的完全近似方案（FAS）适用于深度学习问题。然后，通过V循环进行训练会鼓励神经网络建立对问题的分层理解。我们把这种方法称为\emph{multilevel-in-width}，以区别于以前的多级工作，分层改变神经网络的深度。由此产生的方法是一个高度灵活的框架，可以应用于各种层类型，我们用全连接层和卷积层来演示。我们的实验表明，与PDE回归问题，我们的多级训练方法是一个有效的正则化，提高广义性能的神经网络研究。
2022-11-11 cs.LG cs.NA math.NA
IV-Net: A neural network for elliptic PDEs with random and highly varying coefficients
Oden Institute for Computational Science and Engineering, The University of Texas at Austin（计算科学与工程院，德克萨斯大学奥斯汀分校）；Walker Department of Mechanical Engineering, The University of Texas at Austin（机械工程系，德克萨斯大学奥斯汀分校）
提出一种受V-cycle多重网格求解器启发的神经算子架构IV-Net，用于逼近高对比度空间变系数线性椭圆型偏微分方程的解，在高度异质系数问题上优于POD和现有神经算子，在光滑系数低频振荡Helmholtz问题上与Fourier神经算子性能相当。
2026-05-24 cs.LG cs.NA math.NA
Graph Neural Multilevel Preconditioners for Iterative Solvers
University of Minnesota（明尼苏达大学）；Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）
本研究针对大型稀疏线性系统求解问题，提出图神经多重网格预条件子（GMP），在800余个稀疏矩阵基准上验证其性能，明确该方法的收敛提升潜力与开销局限。
2026-07-31 cs.LG cs.NA math.NA
How Does Momentum Benefit Deep Neural Networks Architecture Design? A Few Case Studies
University of Utah（犹他大学）；UCLA（加州大学洛杉矶分校）
我们提出和审查的算法和理论框架，通过动量改进神经网络架构设计。作为案例研究，我们考虑动量如何改善递归神经网络（RNN），神经常微分方程（ODE）和Transformers的架构设计。我们证明了将动量集成到神经网络架构中具有几个显着的理论和经验优势，包括1）将动量集成到RNN和神经ODE中可以克服训练RNN和神经ODE中的消失梯度问题，从而有效地学习长期依赖性。2)神经常微分方程中的动量可以降低常微分方程动力学的刚度，这显著提高了训练和测试中的计算效率。3)动量可以提高Transformers的效率和精度。
2021-10-19 cs.LG cs.NA math.DS
