Convergence rates of individual Ritz values in block preconditioned gradient-type eigensolvers
许多流行的大型稀疏埃尔米特矩阵或矩阵对的特征值求解器可以被解释为加速块预条件梯度（BPG）迭代，以便通过组合已知估计来分析其收敛行为。BPG的一个重要特性是集群鲁棒性，即，通过足够大的块大小来确保用于计算群集特征值的合理性能。这一特点可以很容易地解释为精确逆（精确移位逆）预处理通过调整经典的估计非预处理的特征值求解器，而现有的结果更一般的预处理仍然是可改进的。我们期望将相应向量迭代的某些尖锐估计扩展到BPG，其中要导出各个Ritz值的收敛速度的适当界。在[Math. Comp. 88（2019），2737--2765]中，对于具有固定步长的BPG，已经实现了这种扩展。本文论述了更实际的情况下，步长隐式优化的瑞利-里兹方法。我们的新估计改进了一些以前的简洁和更灵活的界限。
2022-06-01 cs.NA math.NA
A comparison study of deep Galerkin method and deep Ritz method for elliptic problems with different boundary conditions
近年来，人们对利用深度神经网络求解偏微分方程的兴趣越来越大，特别是在高维情况下。与经典的数值方法，如有限差分法和有限元法不同，深度神经网络中边界条件的强制执行是高度非平凡的。一个通用的策略是使用惩罚方法。在工作中，我们进行了比较研究的椭圆问题的四种不同的边界条件，即，Dirichlet，Neumann，Robin，和周期边界条件，采用了两种有代表性的方法：深度Galerkin方法和深度Ritz方法。在前者中，PDE残差在最小二乘意义下最小化，而相应的变分问题在后者中最小化。因此，可以合理地预期，深层伽辽金方法更适合光滑解，而深层里兹方法更适合低正则性解。然而，通过大量的例子，我们观察到，即使对于光滑解，深度Ritz方法也可以优于深度Galerkin方法，并且具有明显的维数依赖性;对于低正则性解，深度Galerkin方法也可以优于深度Ritz方法。此外，在某些情况下，当边界条件可以以精确的方式实现时，我们发现这样的策略不仅提供了更好的近似解，而且便于训练过程。
2020-07-27 cs.NA math.NA
Error Analysis of Deep Ritz Methods for Elliptic Equations
使用深度神经网络来解决偏微分方程最近引起了很多关注。然而，深度学习方法的成功原因远远落后于它的经验成功。本文对二阶椭圆型方程的深Ritz方法（DRM）\cite{Weinan2017The}分别在Drichilet、Neumann和Robin边界条件下进行了严格的数值分析.我们使用深度网络建立了DRM的$H^1$范数下的第一个非渐近收敛速度，其中光滑激活函数包括logistic和双曲正切函数。我们的研究结果表明，如何设置深度和宽度的超参数，以达到所需的收敛速度方面的训练样本的数量。
2021-09-05 cs.NA math.NA
Bounds on the convergence of Ritz values from Krylov subspaces to interior eigenvalues of Hermitean matrices
Tait Institute SUPA NAIS and EPCC Department of Physics and Astronomy The University of Edinburgh（爱丁堡大学物理与天文学系）
通过移位平方矩阵上的 Kaniel-Paige-Saad 形式，推导了 Krylov 子空间序列中 Ritz 值收敛到 Hermite 矩阵内部特征值的界，适用于低谱密度区域（如谱空隙附近）。
2011-10-13 cs.NA hep-lat math.NA
Deep Ritz Physics-Informed Neural Network Method for Solving the Variational Inequality
本文提出基于物理信息神经网络的深度Ritz方法，用于高效求解变分不等式问题，通过优化损失函数和自适应数据集更新提升准确性和收敛性。
2026-03-12 cs.NA math.NA
Deep Nitsche Method: Deep Ritz Method with Essential Boundary Conditions
我们提出了一种新的方法来处理基于深度学习的偏微分方程数值求解器中遇到的本质边界条件。由深度神经网络表示的测试函数是非插值的，这使得本质边界条件的强制执行成为一个重要的问题。我们的方法诉诸Nitsche的变分公式来处理这个困难，这是一致的，并不需要显着的额外计算成本。我们证明了能量范数下的误差估计，并对最多100维的几个典型问题给出了该方法。
2021-01-12 cs.NA math.NA
A Deep Uzawa-Lagrange Multiplier Approach for Boundary Conditions in PINNs and Deep Ritz Methods
本文提出一种基于深度学习的Deep Uzawa算法，通过引入Lagrange乘子在PINNs和Deep Ritz方法中弱执行偏微分方程边界条件，在仅需微小计算调整下显著提升收敛性，并在高维、奇异摄动及非凸域等问题上验证了其准确性和有效性。
2024-11-14 cs.NA math.NA
Deep Ritz method for the spectral fractional Laplacian equation using the Caffarelli-Silvestre extension
本文提出了一种求解高维谱分数阶Laplacian方程的新方法。利用Caffarelli-Silvestre延拓，将$d$维谱分数阶方程转化为$d+1$维的正则偏微分方程.我们将扩展方程转化为最小Ritz能量泛函问题，并在一类特殊的深度神经网络中搜索其最小值。此外，基于网络的逼近性质，我们建立了深里兹方法的误差估计。数值结果表明，所提出的方法求解分数拉普拉斯方程的有效性，高达10维。在技术上，该方法设计了一种特殊的网络结构，以适应真解的奇异性和指数衰减性。同时，本文还提出了一种结合蒙特卡罗方法和sinc积分的混合积分方法，以更高的精度计算损失函数。
2021-12-29 cs.NA math.NA
The Refined Joint Bidiagonalization Method and an Implicitly Restarted Algorithm for Large GSVD Computations
Tsinghua University（清华大学）
本文针对大规模GSVD计算，分析联合双对角化（JBD）方法的收敛问题，提出改进JBD（RJBD）方法及隐式重启算法，实验表明该算法效率优于隐式重启JBD算法。
2026-08-06 cs.NA math.NA
A priori and a posteriori error estimates for the Deep Ritz method applied to the Laplace and Stokes problem
我们分析了神经网络解决方案的偏微分方程获得物理知情的神经网络。特别是，我们应用经典的有限元误差分析的工具，以获得的结论适用于拉普拉斯和斯托克斯方程的深里兹方法的错误。进一步，我们发展了神经网络逼近偏微分方程的后验误差估计器。所提出的方法是基于双加权残差估计。它注定要作为一个停止标准，保证独立的神经网络训练的设计的解决方案的准确性。最后给出了Laplace和Stokes问题的计算实例。
2022-09-12 cs.NA math.NA
Neural numerical homogenization based on Deep Ritz corrections
Institute for Applied and Numerical Mathematics, Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院应用与数值数学研究所）
本文提出基于深度Ritz方法的神经数值均质化方法，用于处理具有时间变化或不确定性的高振荡系数问题。
2026-11-03 cs.NA math.NA
Robin Pre-Training for the Deep Ritz Method
我们比较了不同的训练策略的深Ritz方法的椭圆型方程的Dirichlet边界条件和突出的问题所产生的边界值。我们区分边界值的精确分辨率通过引入距离函数和近似通过罗宾边值问题。然而，距离函数是很难获得复杂的域。因此，求解近似于Dirichlet边值问题的Robin边值问题是更可行的，但是对于大的惩罚，这个问题的简单方法变得不稳定。提出了一种新的方法来补偿这个问题，在对目标惩罚强度进行主训练之前，使用较小的惩罚强度对模型进行预训练。我们提出的数值和理论证据表明，该方法是有益的。
2021-06-11 cs.NA math.NA
Higher-order multi-scale deep Ritz method for multi-scale problems of authentic composite materials
本文提出高阶多尺度深度Ritz方法（HOMS-DRM），结合高阶多尺度建模与改进深度Ritz方法，解决真实复合材料热传导多尺度问题，并证明其收敛性和数值精度。
2023-08-11 cs.NA math.NA
Inexact Uzawa-Double Deep Ritz Method for Weak Adversarial Neural Networks
University of Nottingham（诺丁汉大学）
研究针对弱对抗神经网络求解偏微分方程时鞍点问题数值解不稳定的情况，提出Uzawa双深度Ritz方法，通过耦合更新规则及神经网络表示变量，建立收敛理论，经数值实验验证了方法的有效性与鲁棒性。
2026-07-20 cs.NA math.NA
A Natural Deep Ritz Method for Essential Boundary Value Problems
针对深度神经网络求解偏微分方程时本质边界条件难以施加的问题，提出一种受内在结构启发的自然深度 Ritz 方法，避免了惩罚型方法的超参数调优和额外刚度问题，并在 Poisson 问题上验证了其有效性与鲁棒性。
2024-11-15 cs.NA math.NA
Analysis of Deep Ritz Methods for Laplace Equations with Dirichlet Boundary Conditions
深度里兹方法（DRM）已被证明是有效的数值求解偏微分方程。本文给出了Dirichlet边界条件下Laplace方程的深度Ritz方法在$H^{1}$范数下的收敛速度，其中误差显式地依赖于深度神经网络的深度和宽度以及样本个数.此外，我们可以根据训练样本的数量来适当地选择深度神经网络的深度和宽度。证明的主要思想是将DRM的总误差分解为三部分，即近似误差、统计误差和边界罚函数引起的误差。我们用$\mathrm{ReLU}^{2}$网络来约束$H^{1}$范数下的近似误差，并通过Rademacher复杂度来控制统计误差。特别地，我们得到了梯度范数与$\mathrm{ReLU}^{2}$网络的非Lipschitz复合的Rademacher复杂性的界，这是巨大的独立利益。分析了边界罚方法引入的误差，并给出了一个预先调整罚参数的规则。
2021-11-03 cs.NA math.NA
Kernel Methods in the Deep Ritz framework: Theory and practice
University of Graz（格拉茨大学）；Ludwig Maximilian University of Munich（慕尼黑大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）
本文在Deep Ritz方法中采用核近似作为试探函数，结合Nitsche方法弱施加边界条件，求解椭圆型偏微分方程的弱解，并证明了先验误差估计。
2026-06-01 cs.NA math.NA
Refined generalization analysis of the Deep Ritz Method and Physics-Informed Neural Networks
本文推导了Deep Ritz方法（DRM）和物理信息神经网络（PINNs）的精细化泛化界，基于局部化技术、局部Rademacher复杂度及Barron空间假设，为多种椭圆偏微分方程提供了更尖锐的泛化分析与过参数化误差讨论。
2025-06-02 cs.NA math.NA
Stochastic Deep-Ritz for Parametric Uncertainty Quantification
本文提出一种基于深度学习的随机Deep-Ritz数值方法，通过结合深度学习近似与蒙特卡洛采样，有效解决了材料科学与工程中不确定性下的变分问题，并在多个变分问题上验证了其性能与精度。
2023-05-23 cs.NA math.NA
An adaptive Deep Ritz framework for second-order fully nonlinear partial differential equations
Geneva School of Business Administration (HEG-Genève), University of Applied Sciences and Arts Western Switzerland (HES-SO)（日内瓦商业管理学院（HEG-Genève），瑞士西部应用科学和艺术大学（HES-SO））；Institute of Mathematics, Ecole Polytechnique Fédérale de Lausanne（洛桑联邦理工学院数学研究所）
本文提出了一种替代PINNs的Deep Ritz框架，通过最小二乘法分离非线性项与变分特征，结合分裂方法迭代求解局部非线性问题和线性变分问题，采用自适应采样策略提升效率，通过数值实验验证了该方法在处理全非线性方程中的灵活性和准确性。
2026-09-30 cs.NA math.NA
The Deep Ritz Method for Parametric $p$-Dirichlet Problems
University of Freiburg（弗莱堡大学）；Simula Research Laboratory（西穆拉研究实验室）
我们建立的误差估计的近似参数$p$ -狄利克雷问题部署深里兹方法。参数依赖性包括，例如，不同的几何形状和指数$p\in (1,\infty)$。将导出的误差估计与定量逼近定理相结合，得到了误差衰减率，并建立了Deep Ritz方法在高维函数的逼近中保留了神经网络的良好逼近能力，这使得该方法对参数问题具有吸引力。最后，我们提出了数值例子来说明潜在的应用。
2022-07-05 cs.LG cs.NA cs.NE
Deep Ritz Method with Adaptive Quadrature for Linear Elasticity
本文研究求解线性弹性方程的深度Ritz方法，引入基于$H^{1/2}(Γ_D)$范数的修正变分形式处理Dirichlet边界条件，证明其能量范数下的最佳逼近性，并提出基于自适应求积的数值积分技术以控制积分误差，有效提升了方法求解各类弹性问题的精度与效率。
2023-05-24 cs.NA math-ph math.MP
Implicit bias with Ritz-Galerkin method in understanding deep learning for solving PDEs
本文旨在研究Ritz-Galerkin（R-G）方法和深度神经网络（DNN）方法在求解偏微分方程（PDE）方面的差异，以更好地理解深度学习。为此，我们考虑求解一个特定的泊松问题，其中方程f的右侧信息仅在n个样本点处可用，即f在有限个样本点处是已知的。通过理论和数值研究，我们证明了对于一维问题，R-G方法的解收敛于分段线性函数，对于高维问题，R-G方法的解收敛于正则性较低的函数.然而，在相同的设置下，DNN学习相对平滑的解决方案，而不管维度如何，也就是说，DNN隐含地偏向于在所有函数中具有更多低频分量的函数，这些函数可以在可用数据点处拟合方程。最近对频率原理的研究解释了这种偏差（Xu等人，（2019）[17]和Zhang等人，（2019）[11，19]）。除了传统数值方法和DNN在近似角度上的相似性之外，我们的工作表明，不同于传统数值方法的学习过程中的隐式偏差可以帮助更好地理解DNN的特性。
2020-12-09 cs.NA math.NA
A Deep Double Ritz Method (D$^2$RM) for solving Partial Differential Equations using Neural Networks
Basque Center for Applied Mathematics (BCAM)（巴斯克应用数学中心）；Universidad del País Vasco/Euskal Herriko Unibertsitatea (UPV/EHU)（巴斯克大学）；Basque Foundation for Science (Ikerbasque)（巴斯克科学基金会）；Pontificia Universidad Católica de Valparaíso (PUCV)（瓦尔帕莱索天主教大学）；Oden Institute for Computational Engineering and Sciences (OICES)（奥登计算工程与科学研究所）
残差最小化是求解变分形式的偏微分方程的一种广泛使用的方法。它最小化残差的对偶范数，这自然会在所谓的试验和测试空间上产生鞍点（最小-最大）问题。在神经网络的背景下，我们可以通过使用一个网络来寻求试验最小值，而另一个网络则寻求测试最大化器来解决这种最小-最大方法。然而，当我们接近试探解时，所得到的方法在数值上是不稳定的。为了克服这一点，我们重新制定的剩余最小化作为一个等效的最小化的Ritz功能美联储从另一个Ritz功能最小化计算的最佳检验函数。我们称之为深双里兹方法（D $^2$ RM），它结合了两个神经网络近似测试函数和最佳检验函数沿嵌套双里兹最小化策略。不同的扩散和对流问题的数值结果支持我们的方法的鲁棒性，网络的逼近性能和优化器的训练能力。
2023-01-19 cs.LG cs.NA math.NA
Error Estimates for the Deep Ritz Method with Boundary Penalty
Max Planck Institute for Mathematics in the Sciences（马克斯·普朗克数学研究所）；Simula Research Laboratory（西穆拉研究实验室）
本文对线性椭圆型方程的Deep Ritz方法进行了误差估计。对于Dirichlet边界条件，我们估计了边界值通过边界罚方法施加时的误差。我们的研究结果适用于任意集的anastomic函数和估计的误差依赖的优化精度，近似能力的anastomic类和-在Dirichlet边界值的情况下-惩罚强度$λ$。据我们所知，我们的结果是目前文献中唯一的处理Dirichlet边界条件的情况下，在充分的一般性，即，而没有导致所有$H^1(Ω)$上的双折射率的低阶项。此外，我们还讨论了我们的结果对通过ReLU网络给出的animals类的影响以及与现有有限元函数估计的关系。对于高维问题，我们的结果表明，良好的逼近能力的光滑函数的神经网络继承了深里兹方法。
2022-09-05 cs.LG cs.NA math.NA
A Deep Ritz Method for High-Dimensional Steady States of the Cahn-Hilliard Equation
School of Artificial Intelligence, Shenzhen Technology University（深圳职业技术大学人工智能学院）
提出一种增强增广拉格朗日形式的深度Ritz方法，结合可分离傅里叶特征映射，高效计算Cahn-Hilliard方程高维稳态解，并识别多解。
2026-05-24 cs.NA math.NA
An Iterative Deep Ritz Method for Monotone Elliptic Problems
The Chinese University of Hong Kong（香港中文大学）
提出迭代深度 Ritz 方法（IDRM）求解单调椭圆问题，通过编码函数空间几何并引入凸惩罚提升性能，在收敛性理论上有所突破，且在精度上优于现有神经 PDE 求解器。
2025-01-25 cs.LG cs.NA math.NA
Penalty-Free Natural Deep Ritz Method Based on de Rham Complex for High-Dimensional Dirichlet Boundary Value Problems
School of Mathematics and Statistics, Beijing Institute of Technology（北京理工大学数学与统计学院）；Beijing Key Laboratory on MCAACI, Beijing Institute of Technology（北京理工大学MCAACI北京市重点实验室）；Institute of Computational Mathematics and Scientific/Engineering Computing, Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院计算数学与科学工程计算研究所）；University of Chinese Academy of Sciences（中国科学院大学）
提出基于de Rham复形的无罚自然深度Ritz方法，通过curl型算子将Dirichlet边界条件转化为自然边界子问题，消除罚参数，在高维问题中稳定收敛。
2026-07-02 cs.NA math.NA
A Hybrid Iterative Deep Ritz Method for Elliptic Interface Problems
The Chinese University of Hong Kong（香港中文大学）；Shanghai Normal University（上海师范大学）
提出混合迭代深度Ritz方法，基于混合形式和水平集神经网络求解椭圆界面问题，避免界面采样，数值实验表明在高维、复杂界面和低正则性问题上优于现有神经求解器。
2026-09-24 cs.LG cs.NA math.NA
Elliptic Regularity Theory in Barron Spaces and Applications to the Deep Ritz Method
University of Pittsburgh（匹兹堡大学）
研究巴伦空间中调和函数正则性，证明其通常非利普希茨连续且不在$H^2$等类中，但可被低范数巴伦函数近似。在简单区域成立该结果，并将其应用于深度里兹神经偏微分方程求解器，获先验误差估计。
2026-07-29 cs.NA math.AP math.NA
Solving Elliptic Problems with Singular Sources using Singularity Splitting Deep Ritz Method
Jilin University（吉林大学）；The Chinese University of Hong Kong（香港中文大学）；The Hong Kong Polytechnic University（香港理工大学）
本文提出奇性分离深度Ritz方法，将解分解为基于Laplace基本解的奇异部分和由深度Ritz方法求解的正则部分，并引入路径跟踪策略选择惩罚参数，高效求解含点源、线源及其组合的变系数二阶椭圆方程。
2023-04-17 cs.LG cs.NA math.NA
Maximum norm stability and error estimates for the evolving surface finite element method
University of Tübingen（蒂宾根大学）
本文研究了线性抛物型偏微分方程在演化曲面上的线性有限元半离散化在L^∞和W^{1,∞}范数下的收敛性，通过Ritz映射的误差估计、材料导数误差估计和弱离散最大原理证明了稳定性与误差界。
2016-12-09 cs.NA math.NA
Deep Ritz-Finite Element methods: Neural Network Methods trained with Finite Elements
本文提出深度 Ritz-有限元方法，通过有限元空间计算损失积分来训练神经网络，用于求解低维椭圆型偏微分方程，兼具稳定性、收敛性及高效鲁棒性。
2025-02-05 cs.NA math.NA physics.comp-ph
Approximating the extreme Ritz values and upper bounds for the $A$-norm of the error in CG
Charles University（查理大学）
本文提出了一种新的误差A-范数上界，用于监控共轭梯度法求解Ax=b的近似解质量，并讨论了如何选择参数μ作为A的最小特征值的下界，同时介绍了基于增量范数估计技术的高效算法来估计极值Ritz值，并展示了在CG计算中近似规范向后误差的实用性。
2018-10-04 cs.NA math.NA
Global Convergence of Hessenberg Shifted QR II: Numerical Stability
我们开发了一个框架，证明快速收敛的移位QR算法，使用里兹值作为移位，在有限算术。我们的主要贡献是一个二分法的结果，它解决了已知的前向不稳定性问题周围的移位QR迭代[Parlett和Le 1993]：我们给出了一个程序，可证明要么计算一组近似Ritz值的Hessenberg矩阵具有良好的前向稳定性，或导致早期解耦的矩阵通过少量的QR步骤。使用这个框架，我们表明，在本系列的第一部分中介绍的移位策略[银行，加尔萨-巴尔加斯，和Srivastava 2021]收敛迅速，在有限算术与所需精度的位数的多对数界，当调用控制特征向量条件数和最小特征值间隙的矩阵。
2022-05-13 cs.DS cs.NA math.NA
Nonlinear elliptic homogenization with the parametric Deep Ritz method
Smead Aerospace Engineering Sciences（斯米德航空航天工程科学学院）；University of Colorado Boulder（科罗拉多大学博尔德分校）
本文提出参数化深度Ritz方法求解非线性椭圆均匀化中的参数化单元问题，提供连续可微的单元响应表示，显著加速宏观尺度求解。
2026-09-09 cs.LG cs.NA math.NA
Deep Ritz revisited
Max Planck Institute for Mathematics in the Sciences（马克斯·普朗克数学研究所）；University of Freiburg（弗莱堡大学）
近年来，神经网络在偏微分方程数值分析中的应用取得了一定的进展。在后者的变分制定的泊松问题是为了获得一个目标函数-一个正则狄利克雷能量-这是用于优化的一些神经网络。在本文中，我们使用$Γ$ -收敛的概念来证明，相对于适当正则化的Dirichlet能量进行训练的增长架构的ReLU网络收敛到泊松问题的真实解。我们讨论了这种方法如何推广到任意变分问题的神经网络的某些普遍性假设下，看到这包括一些非线性平稳偏微分方程一样的$p$ -拉普拉斯。
2020-01-10 cs.LG cs.NA cs.NE
Element-wise Convergence Behavior of Subspace Iteration
本文研究子空间迭代的逐元素收敛行为，针对对角矩阵情形推导了迭代矩阵和Ritz向量各元素模的精确渐近衰减速率，并推广至实对称或复正规矩阵。
2026-11-05 cs.NA math.NA
Finite Element Convergence Analysis For Wave Equations With Time-Dependent Coefficients
University of Basel（巴塞尔大学）
本文研究了具有时空依赖系数的二阶超几何偏微分方程的有限元近似误差估计，证明了半离散伽辽金有限元解在能量范数下的最优收敛率，并通过数值实验验证了收敛率及时间调制子波长谐振器中的局部波场增强现象。
2026-03-14 cs.NA math.NA
A Priori Generalization Analysis of the Deep Ritz Method for Solving High Dimensional Elliptic Equations
Duke University（杜克大学）；University of Massachusetts（马萨诸塞大学）
本文研究了DeepRitz方法（DRM）的先验推广分析[W. E和B。Yu，2017]，一种基于神经网络的求解高维偏微分方程的方法。在DRM框架下，我们得到了两层神经网络在求解$d$维单位超立方体上的泊松方程和静态薛定谔方程时的推广误差界.具体地说，我们证明了推广误差的收敛速度是独立的维数$d$下，先验假设的精确解的偏微分方程位于一个合适的低复杂度的空间称为谱巴伦空间。此外，我们给出了关于强迫项和势函数的充分条件，保证解是谱Barron函数。我们实现了这一点，通过开发一个新的解决方案理论的谱巴伦空间上的偏微分方程，这可以被看作是一个模拟的经典Sobolev正则性理论偏微分方程。
2021-03-22 cs.LG cs.NA math.AP
Goal oriented error estimation for adaptive sampling of PINNS
Otto-von Guericke University（奥托·冯·格里克大学）
本文研究了利用经典PINN和变分方法Deep Ritz求解拉普拉斯方程，提出面向目标的重要性采样策略以加速功能误差收敛和目标功能最小化。
2026-04-02 cs.NA math.NA
Error Analysis of Three-Layer Neural Network Trained with PGD for Deep Ritz Method
The Hong Kong University of Science and Technology（香港科技大学）
本文在深度Ritz方法中用PDG训练三层tanh网络求解三类边界条件的二阶椭圆方程，证明全局收敛并统一给出近似、泛化与优化误差界。
2024-05-19 cs.AI cs.NA math.AP
Deep learning methods for stochastic Galerkin approximations of random domain problems
University of Stuttgart（斯图加特大学）
本文用深度学习方法（物理信息神经网络和Deep Ritz）替代传统数值方法求解随机域椭圆PDE的随机伽辽金系统，并在二维随机几何上验证了有效性。
2026-09-29 cs.NA math.NA
Deep Domain Decomposition Method for Solving the Variational Inequality Problems
School of Mathematics and Computing Science, Guilin University of Electronics Technology（桂林电子科技大学数学与计算科学学院）；Center for Applied Mathematics of Guangxi (GUET)（广西应用数学中心）
本文提出一种结合PINN与域分解方法的深度域分解方法，用于高效求解椭圆变分不等式问题，通过残差自适应训练策略提升模型学习能力，实验表明该方法具有高精度和稳定性。
2026-03-12 cs.NA math.NA
N-Adaptive Ritz Method: A Neural Network Enriched Partition of Unity for Boundary Value Problems
University of California, San Diego（加州大学圣迭戈分校）；Coreform, LLC（Coreform有限责任公司）
提出神经网络增强单位分解法（NN-PU），结合预训练特征编码与Ritz能量最小化，实现边值问题的高效自适应求解，降低计算成本。
2024-01-16 cs.LG cs.NA math.NA
Priori Error Estimate of Deep Mixed Residual Method for Elliptic PDEs
在这项工作中，我们推导出一个先验误差估计的混合残差方法时，解决一些椭圆型偏微分方程。我们的工作是第一次对这种方法进行理论研究。我们证明了，如果我们增加训练样本和网络的大小没有任何限制的比例的训练样本的神经网络的解决方案将收敛。此外，我们的结果表明，混合残差方法可以恢复高阶导数比深里兹方法，这也被我们的数值实验验证。
2022-06-15 cs.NA math.NA
Convergence Guarantees for Gradient-Based Training of Neural PDE Solvers: From Linear to Nonlinear PDEs
本文提出统一收敛理论，证明线性PDE下PINNs的全局收敛和非线性PDE下随机特征模型收敛到临界点，并揭示隐式正则化效应，实验验证了理论。
2025-10-08 cs.NA math.NA
Deep learning methods for stochastic Galerkin approximations of elliptic random PDEs
University of Stuttgart（斯图加特大学）
本文提出利用深度学习方法，如物理信息神经网络和深度Ritz方法，高效求解具有随机系数的椭圆随机偏微分方程。
2026-01-09 cs.NA math.AP math.NA
Global and Unconditional $R$-Linear Convergence of Rank-Compressed Weighted LMSD Sweeps for Strictly Convex Quadratics
State Key Laboratory of Scientific and Engineering Computing, Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院计算数学与科学工程计算国家重点实验室）；University of Chinese Academy of Sciences（中国科学院大学）；School of Mathematical Sciences, University of Science and Technology of China（中国科学技术大学数学科学学院）
针对严格凸二次优化，研究秩压缩LMSD的全局无条件R-线性收敛性，给出均匀端点估计，并证明加权方法共享衰减因子。
2026-09-14 cs.NA math.NA math.OC
Quasi-Monte Carlo sampling for machine-learning partial differential equations
Soochow University（苏州大学）；CW Chu College, Soochow University（苏州大学敬文书院）
近年来，利用深度神经网络求解高维偏微分方程引起了人们的广泛关注。在许多情况下，损失函数被定义为在高维域上的积分。蒙特卡罗方法与深度神经网络一起用于克服维数灾难，而经典方法失败。通常，深度神经网络在精度和效率方面都优于经典的数值方法。本文提出用拟蒙特卡罗方法抽样代替蒙特卡罗方法来逼近损失函数。为了验证这一思想，我们在E. Weinan和Bing Yu提出的深度Ritz方法框架下进行了数值实验。对于相同的精度要求，可以观察到，相比于MC方法，拟蒙特卡罗方法采样减少了两个数量级以上的训练数据集的大小。在一定的假设条件下，我们证明了拟蒙特卡罗采样与深度神经网络一起生成收敛级数，其收敛速率与用于数值积分的拟蒙特卡罗方法的近似精度成比例。在数值上，拟合的收敛速度稍小，但所提出的方法总是优于蒙特卡罗方法。值得一提的是，收敛性分析是通用的，只要损失函数近似的拟蒙特卡罗方法，虽然这里的观察是基于深里兹方法。
2019-11-05 cs.LG cs.NA math.NA
Machine Learning For Elliptic PDEs: Fast Rate Generalization Bound, Neural Scaling Law and Minimax Optimality
Stanford University（斯坦福大学）；Caltech（加州理工学院）；Duke University（杜克大学）
在本文中，我们研究了使用深度里兹方法（DRM）和物理信息神经网络（PINN）从随机样本求解椭圆偏微分方程（PDE）的深度学习技术的统计极限。为了简化问题，我们研究了一个椭圆型偏微分方程的原型：超立方体上的零Dirichlet边界条件的薛定谔方程，它在量子力学系统中有着广泛的应用。我们建立了这两种方法的上界和下界，这提高了同时开发的上界，通过一个快速的泛化界。我们发现现有的Deep Ritz方法是次优的，并提出了一种改进的Deep Ritz方法，同时证明了PINN和改进的DRM方法可以在索伯列夫空间上达到极大极小最优界.从经验上讲，最近的工作表明，根据幂律，随着训练集的增长，深度模型的准确性将得到提高，我们提供了计算实验，以显示深度PDE求解器的维度相关幂律的类似行为。
2021-11-13 cs.LG cs.NA math.NA
Convergence analysis of a quasi-Monte Carlo-based deep learning algorithm for solving partial differential equations
Tsinghua University（清华大学）
深度学习方法在求解偏微分方程（PDE）方面取得了巨大成功，其中损失通常被定义为积分。这些算法的精度和效率在很大程度上取决于求积方法。本文提出将拟蒙特卡罗方法（QMC）应用于求解泊松方程和静态薛定谔方程的Neumann问题的Deep Ritz方法（DRM）。对于误差估计，我们将使用深度学习算法求解偏微分方程的误差分解为泛化误差、近似误差和训练误差。我们建立了上界，并证明了基于QMC的DRM实现了比DRM渐近更小的误差界。数值实验表明，该方法在所有情况下收敛速度都更快，且基于随机QMC的DRM的梯度估计方差比DRM的梯度估计方差小小于，说明了QMC在深度学习方面优于MC.
2022-10-28 cs.LG cs.NA math.NA
Multi-scale Deep Neural Networks for Solving High Dimensional PDEs
Southern Methodist University（南卫理公会大学）；Shanghai Jiao Tong University（上海交通大学）
本文提出了频域径向尺度化的思想，并利用紧支集的激活函数构造多尺度动态神经网络（MscaleDNN），使其具有多尺度逼近高频高维函数的能力，加快了高维偏微分方程的求解速度.使用带有Ritz能量或最小二乘PDE残差的损失函数进行高维函数拟合和高维PDE求解的数值结果验证了所提出的MscaleDNN的多尺度分辨率和高频捕获能力的提高。
2019-10-25 cs.LG cs.NA math.NA
Stochastic Quadrature Rules for Solving PDEs using Neural Networks
CUNEF Universidad（CUNEF大学）；University of the Basque Country (UPV/EHU)（巴斯克大学）；Basque Center for Applied Mathematics (BCAM)（巴斯克应用数学中心）
本文针对神经网络求解PDE时的积分误差问题，提出在低维网格上使用高阶无偏随机求积规则，并为三角形和四面体单元设计新方法，证明其能以与蒙特卡洛相当的计算成本显著提升收敛速度，同时指出梯度精确积分是优化收敛的关键。
2026-10-05 cs.NA math.NA
