Analysis of an Adaptive Safeguarded Newton-Anderson Algorithm of Depth One with Applications to Fluid Problems
本文提出一种自适应 gamma 保护方案,与 Anderson 加速协同提升 Newton 方法在奇异点附近的性能,实现更快的局部收敛且几乎无额外计算成本,并在不可压缩流基准问题上验证了其有效性。
2024-08-21 cs.NA math.NA
Newton's method in adaptive iteratively linearized FEM
本文提出了一种自适应迭代线性化有限元方法,通过自适应阻尼参数实现非线性PDEs的高效求解,并首次在能量最小化问题之外实现了最优收敛率的理论分析。
2025-12-22 cs.NA math.NA
A time adaptive multirate Quasi-Newton waveform iteration for coupled problems
本文提出将拟牛顿方法扩展到时间自适应波形迭代中,用于求解通过低维界面耦合的动态问题,并在传热和流固耦合算例上验证了其相对于现有求解器的效率优势。
2025-02-05 cs.NA math.NA
Solving Stochastic Optimization by Newton-type methods with Dimension-Adaptive Sparse Grid Quadrature
随机最优化问题最小化随机费用函数的期望。我们采用先优化后离散的方法来解决随机优化问题。在我们的方法中,需要精确的求积方法来计算实际上是积分的目标、梯度或Hessian。当问题是高维的时候,我们应用维数自适应的稀疏网格求积来近似这些积分。自适应稀疏网格求积方法在计算光滑被积函数的积分时具有较高的精度和效率。它是经典稀疏网格方法的一种推广,根据其重要性细化不同的维度。我们表明,维数自适应稀疏网格求积有更好的性能,在优化后离散的方法比离散后优化的方法。
2022-02-21 cs.NA math.NA
Two Iterative algorithms for the matrix sign function based on the adaptive filtering technology
本文将滤波算法分别与牛顿法和牛顿-舒尔茨法相结合,提出了两种计算大型稀疏矩阵符号函数的新算法。通过对迭代过程中误差扩散的理论分析,设计了一种自适应滤波阈值,可以保证滤波对迭代过程和计算结果的影响很小。数值实验与我们的理论分析一致,表明我们的方法的计算效率远优于牛顿法和牛顿-舒尔茨法,计算误差与两种方法在同一数量级。
2022-10-07 cs.NA math.NA
Adaptive Multilevel Newton: A Quadratically Convergent Optimization Method
UniDistance Suisse(瑞士远程教育大学);Imperial College(帝国理工学院)
自适应多级牛顿法通过自动切换到完全牛顿法,实现强凸函数的二次收敛,优于传统牛顿法和梯度下降法。
2026-02-24 cs.NA math.NA math.OC
Adaptive Quasi-Newton and Anderson Acceleration Framework with Explicit Global (Accelerated) Convergence Rates
针对拟牛顿和Anderson加速方法全局收敛率长期缺失的问题,提出自适应框架,在温和假设下获得融合梯度下降与三次正则化牛顿法的显式非渐近收敛率,并含凸函数加速版本,数值实验优于l-BFGS。
2023-11-14 cs.NA math.NA math.OC
Adaptive Residual-Driven Newton Solver for Nonlinear Systems of Equations
针对非线性方程组中非线性不平衡导致 Newton 求解困难的问题,提出残差驱动的自适应权重乘子策略,以低开销改善步长选择、效率与鲁棒性。
2025-01-07 cs.NA math.NA
Newton Like Iterative Method without Derivative for Solving Nonlinear Equations Based on Dynamical Systems
研究了非线性方程组的迭代求解问题。基于动态系统理论,设计了一种新的参数可调的类牛顿迭代法。为了避免迭代格式中的导数函数,用差商代替导数。与现有方法不同,本文的差商格式具有更高的精度。因此,新的迭代法适用于更广泛的初值范围。最后,通过数值算例验证了该方法的实用性和优越性.
2022-11-08 cs.NA math.NA
Phase field fracture modelling using quasi-Newton methods and a new adaptive step scheme
我们研究了拟牛顿法在促进相场断裂模拟的整体解决方案的收敛的潜力。几个典型的边值问题的解决,跨越准静态断裂,疲劳损伤和动态开裂领域。得到的有限元结果揭示了拟牛顿整体格式的鲁棒性,在稳定和不稳定的开裂条件下都容易达到收敛。此外,由于该解决方案的方法是无条件稳定的,非常显着的计算增益观察到相对于广泛使用的交错解决方案。此外,提出了一种新的自适应时间增量方案,以进一步降低计算成本,同时允许准确地解决材料行为的突然变化,如不稳定的裂纹扩展。计算时间可以减少几个数量级,相应的交错解决方案所需的载荷增量高达3000倍。拟牛顿整体解决方案可以是大规模相场断裂模拟的关键使能器。影响是特别相关的相场疲劳的新兴领域,结果表明,交错周期的周期计算是禁止在中期或高周疲劳。有限元代码可从www.empaneda.com/codes下载。
2019-12-18 cond-mat.mtrl-sci cs.NA math.NA
An adaptive Newton-based free-boundary Grad-Shafranov solver
针对自由边界Grad-Shafranov方程求解的非线性优化难题,提出结合自适应有限元、形状微积分与AMG预处理的牛顿求解器,可高效收敛并解决常规Picard法失效的泰勒态平衡问题。
2025-06-11 cs.NA math.NA
Adaptive Nonlinear Elimination Preconditioning for Transport in Fractured Porous Media
针对裂缝多孔介质输运子问题中牛顿法收敛差的问题,提出自适应非线性消去预处理精确牛顿算法,显著提升了收敛性与计算效率。
2025-04-26 cs.NA math.NA
Towards the efficient calculation of quantity of interest from steady Euler equations I: a dual-consistent DWR-based h-adaptive Newton-GMG solver
本文针对稳态欧拉方程提出一个对偶一致的基于 DWR 的 h-自适应 Newton-GMG 求解器,通过边界修正、几何多重网格和正则化技术,在保证感兴趣量稳定收敛的同时显著节省网格。
2023-08-14 cs.NA math.NA
A regularized Newton-like method for nonlinear PDE
Texas A&M University(德克萨斯农工大学)
本文提出了一种自适应正则化策略,用于稳定粗网格上的牛顿迭代,通过自适应有限元方法解决非线性PDE问题,展示了局部q线性收敛性和数值示例。
2015-01-25 cs.NA math.NA
An adaptive projected Newton non-conforming dual approach for trust-region reduced basis approximation of PDE-constrained parameter optimization
在这方面的贡献,我们设备和分析的非协调对偶方法的置信域减少基础(TR-RB)逼近的PDE约束参数最优化,最近已在[Keil等人。偏微分方程约束优化的自适应置信域缩减基逼近的非协调对偶方法。arXiv:2006.09297,2020]。所提出的方法使用模型降阶技术的参数化偏微分方程显着减少的参数最优化的计算需求,在大规模或多尺度应用的背景下,偏微分方程的约束。自适应TR方法允许沿着优化路径相对于参数空间局部化减少,而不会在离线阶段浪费不必要的资源。改进的变体采用投影牛顿法来解决每个TR步骤内的局部最优化问题,以受益于高收敛速度。这意味着新的战略,在建设的RB空间,以及估计的近似海森。此外,我们提出了一个新的证明收敛的TR-RB方法的基础上无限维的参数,不限于特定情况下的RB近似,并提供了一个后验误差估计的最佳参数的近似。数值实验证明了所提出方法的有效性。
2020-12-21 cs.NA math.NA math.OC
An adaptive solution strategy for Richards' equation
饱和多孔介质中的流动通常由Richards方程建模,Richards方程是一个非线性椭圆-抛物型方程,其众所周知的是数值求解具有挑战性。本文提出了一种求解Richards方程的鲁棒快速迭代算法。求解器依赖于一个自适应切换算法,严格推导的后验指标的基础上,两个线性化方法之间:L-计划和牛顿。虽然在[List & Radu(2016)]中引入了组合L方案/牛顿策略,但在这里,我们首次提出了在这些方案之间切换的可靠和鲁棒的标准。的求解器,它可以在原则上适用于任何空间离散化和线性化方法的性能,通过几个数值例子说明。
2023-01-05 cs.NA math.NA
Goal oriented adaptivity in the IRGNM for parameter identification in PDEs I:\\ reduced formulation
本文研究了在每次牛顿步中使用后验(不相容原理)选择正则化参数的迭代正则化Gauss-Newton方法(IRGNM)的自适应离散化,证明了收敛性和收敛速率,并讨论了基于加权对偶残差方法计算误差估计器的算法,最终将结果扩展到Banach空间和一般Tikhonov函数的正则化。
2013-09-26 cs.NA math.NA
Goal oriented adaptivity in the IRGNM for parameter identification in PDEs II: all-at once formulations
本文基于IRGNM方法,提出一次性 formulations用于PDE参数识别,通过自适应离散化提升求解效率,尤其在强非线性PDE中优于非线性Tikhonov正则化。
2013-10-24 cs.NA math.NA
The Lyapunov spectrum as the Newton method
Pontificia Universidad Católica de Chile(智利天主教 Pontificia 大学)
对于cookie-cutter映射类动力系统,证明Lyapunov谱与对压力函数导数应用Newton-Raphson方法得到的映射一致。
2011-10-04 cs.NA math.DS math.NA
Robust, fast, and adaptive splitting schemes for nonlinear doubly-degenerate diffusion equations
针对非线性双重退化扩散方程,提出基于隐式Euler的分裂策略及多种迭代线性化格式,证明了L-scheme与改进L-scheme的收敛性,并开发基于后验估计的自适应M-scheme加速收敛,数值实验表明其比Newton格式更稳定高效。
2025-08-10 cs.NA math.AP math.NA
Augmented Newton Method for Optimization: Global Linear Rate and Momentum Interpretation
本文提出了求解无约束极小化问题的两种变形牛顿法。我们的方法利用优化技术,如罚款和增广拉格朗日方法,以产生新的变种的牛顿法,即罚款牛顿法和增广牛顿法。在这样做时,我们恢复几个著名的现有的牛顿方法的变种,如阻尼牛顿,Levenberg和Levenberg-Marquardt方法的特殊情况。此外,所提出的增广牛顿法可以解释为自适应重球动量的牛顿法。我们提供了整体收敛的结果,所提出的方法在温和的假设下,适用于各种各样的问题。所提出的方法可以被视为Karimireddy等人结果的惩罚和增广扩展。al [24].
2022-05-23 cs.LG cs.NA math.NA
A randomized Newton's method for solving differential equations based on the neural network discretization
我们开发了一个随机牛顿法求解微分方程,基于一个完全连接的神经网络离散化。特别地,随机牛顿法从由神经网络离散化产生的超定非线性系统中随机选择方程,并自适应地求解非线性系统。从理论上证明了随机牛顿法具有局部平方收敛。我们也将此新方法应用于各种数值例子,从一维到高维微分方程,以验证其可行性和效率。此外,随机化牛顿法可以允许神经网络“学习”微分方程的非线性系统的多个解,例如模式形成问题,并提供了一种从整体上研究非线性微分方程的解结构的替代方法。
2019-12-06 cs.NA math.NA math.OC
A Globally Convergent Third-Order Newton Method via Unified Semidefinite Programming Subproblems
Massachusetts Institute of Technology(麻省理工学院);University of Oxford(牛津大学)
ALMTON通过统一半定规划子问题实现了无约束非凸优化的全局收敛三次牛顿法,具有更稳定的收敛性和更广的吸引盆地。
2026-08-24 cs.NA math.NA math.OC
New versions of Newton method: step-size choice, convergence domain and under-determined equations
牛顿法是求解非线性方程组并证明其存在性的最有力的方法之一。在它的“纯”形式下,它在解附近具有快速收敛性,但收敛域较小。阻尼牛顿法的收敛速度较慢,但对初始点的条件较弱。我们提供了新版本的Newton类算法,导致组合的Newton和阻尼Newton方法与特殊的步长选择,并估计其收敛域。在某些假设下,收敛是全局的。显式的复杂性结果也得到了解决。自适应版本的算法(没有先验常数的知识)。该方法适用于欠定方程(其中$m<n$、$m$是方程的数目,而$n$是变量的数目)。结果是指定系统的二次方程,复合映射和一维方程和不等式。
2019-08-26 cs.NA math.NA math.OC
Unifying Optimization and Dynamics to Parallelize Sequential Computation: A Guide to Parallel Newton Methods for Breaking Sequential Bottlenecks
STANFORD UNIVERSITY(斯坦福大学)
本文提出并行牛顿方法,通过统一固定点方法,解决动态系统并行化中的效率、稳定性及收敛性问题,基于Lyapunov指数确定并行加速条件。
2026-03-17 cs.AI cs.DC cs.NA
A Neural-Operator Preconditioned Newton Method for Accelerated Nonlinear Solvers
Brown University(布朗大学);Division of Applied Mathematics(应用数学系);DARPA-DIAL grant(DARPA-DIAL项目)
针对参数化非线性方程组求解中牛顿迭代因不平衡非线性出现停滞或不稳定的问题,提出结合定点神经算子(FPNO)的NP-Newton方法,通过自适应负步长提升效率与鲁棒性,尤其适用于强非线性场景。
2025-11-11 cs.LG cs.NA math.NA
Dynamical p-adaptivity for LES of compressible flows in a high order DG framework
我们调查的可能性,减少计算负担的LES模型采用本地和动态自适应多项式的程度在一个高秩序DG方法的框架。一个程度的适应技术,特别是功能是有效的LES应用程序,这是以前开发的作者和测试中的静态自适应的情况下,在这里应用于动态自适应的方式。两个重要的基准被认为是自适应和非自适应模拟的结果进行比较。所提出的动态自适应方法允许代表LES计算的计算成本的显着降低,同时允许保持由LES进行恒定的,最大的多项式次数值保证的精度水平。
2019-11-04 cs.NA math.NA physics.flu-dyn
Negativity of Lyapunov Exponents and Convergence of Generic Random Polynomial Dynamical Systems and Random Relaxed Newton's Methods
我们调查内部调查科。随机复动力系统产生的概率测度有限工会的全纯家庭的有理映射的黎曼球面上的轨迹。我们证明了在族的某些条件下,对于一般系统(特别是一般随机多项式动力系统),对于Riemann球面上除了可数个初始值以外的所有初始值$z$,对于几乎所有映射序列$γ=(γ_{1},γ_{2},\ldots )$,$γ$在$z$处的李雅普诺夫指数为负.对于一般的系统,对于Riemann球上的每个初值$z$,在转移算子的对偶映射迭代下,在$z$上的Dirac测度的轨道趋向于Riemann球上的概率测度空间中的测度的周期环.注意,这些是随机复杂动力学中的新现象,在确定性复杂动力系统中不成立。本文应用随机复动力系统的上述理论和结果,用随机松弛牛顿法求任意多项式的根,证明了对任意多项式$g$,对复平面上任意初始值$z$,如果它不是$g'$的根,则从$z$开始的随机轨道几乎必然趋向于$g$的根,这是随机效应的结果.
2021-06-21 cs.NA math.CV math.DS