Techniques for Accelerating the Convergence of Restarted GMRES Based on the Projection
University of Electronic Science and Technology of China(电子科技大学);Nagoya University(名古屋大学)
本文研究了重启Krylov子空间方法(典型代表为GMRES(m)方法),通过分析GMRES(m)在每次重启时迭代解的变化量,提出基于投影的GMRES(m)扩展方法LGMRES,并结合回溯重启技术得到LLBGMRE方法,理论分析和数值实验表明LGMRES和LLBGMRE在收敛性上优于传统重启GMRES(m)方法。
2018-10-24 cs.NA math.NA
The worst-case root-convergence factor of GMRES(1)
本研究基于向量依赖的非线性特征值问题分析GMRES(1)的渐近收敛性,推导了对称及斜对称两类线性系统的最坏情况根收敛因子,得出q-线性收敛因子与该值一致,并通过数值实验验证了理论结果。
2025-01-17 cs.NA math.NA
Superlinear Convergence of GMRES for clustered eigenvalues and its application to least squares problems
本文分析GMRES在系数矩阵特征值聚集时的超线性收敛,利用范德蒙德矩阵推导残差上界,并应用于解释最小二乘问题中内迭代预条件GMRES的收敛。
2025-04-24 cs.NA math.NA
GMRES convergence bounds for eigenvalue problems
University of Bath(巴斯大学);Max Planck Institute for Dynamics of Complex Technical Systems(马克斯·普朗克复杂技术系统动力学研究所);University of Strathclyde(斯特拉斯克莱德大学)
本文研究了求解本征值问题时GMRES方法的收敛界,提出新的边界条件以考虑右端向量的特殊行为,并介绍了适应性预处理方法,数值结果表明新边界条件比传统方法更精确。
2017-05-30 cs.NA math.NA
Heavy Ball GMRESR method for Nonsymmetric Linear Systems
The University of Texas at Arlington(阿灵顿得克萨斯大学)
本文针对GMRESR收敛慢的问题,提出以HBGMRES为内层循环的HBGMRESR方法,通过真实数据测试验证其性能优于GMRESR与HBGMRES。
2026-08-13 cs.NA math.NA
Admissible and attainable convergence behavior with stagnation mirroring in restarted (block) GMRES
School of Mathematics, Trinity College Dublin(都柏林三一学院数学学院)
本文通过构造特定的矩阵和右端向量,实现可接受和可实现的块GMRES收敛行为,并提供了更易推广到块设置的替代证明。
2026-02-18 cs.NA math.NA
New Convergence Analysis of GMRES with Weighted Norms, Preconditioning and Deflation, Leading to a New Deflation Space
本文为加权、预处理和压缩GMRES建立了新的收敛界,在Hermitian部分正定且权重等于预处理器条件下给出显式界,并据此提出一个新的压缩空间,数值实验验证其加速收敛效果。
2024-06-10 cs.NA math.NA
Convergence analysis of GMRES applied to Helmholtz problems near resonances
Eindhoven University of Technology(埃因霍温理工大学);CNRS(法国国家科学研究中心);Inria(法国国家计算机科学研究所);ENSTA(国立高等先进技术学院);Institut Polytechnique de Paris(巴黎理工学院)
针对共振或准共振频率附近亥姆霍兹问题有限元求解中迭代求解器收敛退化现象,基于调和Ritz值推导GMRES收敛估计,分析紧缩策略与复位移拉普拉斯预条件子的相互作用,实验验证理论并展示紧缩策略有效性。
2026-10-12 cs.NA math.NA
Convergence Analysis of An Alternating Nonlinear GMRES on Linear Systems
本研究提出用于线性系统的交替非线性GMRES算法aNGMRES(m,p),证明其与GMRES的周期等价性,分析收敛特性,该算法无需每步解最小二乘问题,成本更低且抗停滞鲁棒性更强。
2025-10-29 cs.NA math.NA
Convergence Analysis for Nonlinear GMRES
本文分析了非线性GMRES方法在非线性系统中的收敛性,证明了其在不同窗口大小下的线性收敛特性。
2025-11-23 cs.NA math.NA
Improved Polynomial Bounds and Acceleration of GMRES by Solving a min-max Problem on Rectangles, and by Deflating
该研究将GMRES的多项式收敛界推广至多种预条件及消元、加权情形,通过复平面矩形极小极大问题求解并结合特定消元空间与预条件子优化界、加速收敛,用数值算例验证了结果。
2025-10-02 cs.NA math.NA
Flexible GMRES converges in two phases
The University of Manchester(曼彻斯特大学)
本文推导了灵活GMRES方法残差的精确上界,揭示其收敛行为分两个阶段,小容差时收敛速率恒定,大容差时更明显,并构造了等号成立的例子。
2026-10-21 cs.NA math.NA
Analysis of GMRES for Low-Rank and Small-Norm Perturbations of the Identity Matrix
在许多应用中,出现线性系统,其中系数矩阵采用特殊形式${\bf I} + {\bf K} + {\bf E}$,其中${\bf I}$是维度$n$、${\rm rank}({\bf K}) = p \ll n$和$\|{\bf E}\| \leq ε< 1$的单位矩阵。众所周知的理论保证了具有${\bf I} + {\bf K}$和${\bf I} + {\bf E}$形式的系数矩阵的线性系统的GMRES收敛速度,但是目前只存在${\bf I} + {\bf K} + {\bf E}$形式的矩阵的相对弱的收敛界。本文通过考虑${\bf I} + {\bf K}$的伪谱,研究了具有这类系数矩阵的线性方程组的收敛性。当近似求解线性系统$({\bf I} + {\bf K} + {\bf E}){\bf x} = {\bf b}$时,我们推导出GMRES残差的$ε$界,并确定了对扰动敏感的${\bf I} + {\bf K}$的特征值。特别是,虽然远离原点的聚类谱通常是快速GMRES收敛的良好指标,但当这些特征值中的一些是病态时,收敛可能会很慢。我们可以有至多$2p$特征值的${\bf I} + {\bf K}$是敏感的小扰动。我们提出的数值计算结果时,使用GMRES解决一系列的线性系统的形式$({\bf I} + {\bf K}_j + {\bf E}_j){\bf x}_j = {\…
2022-10-21 cs.NA math.NA
Convergence analysis of GMRES for the Helmholtz equation via pseudospectrum
Aalto University(阿尔托大学)
本文通过伪谱分析研究GMRES求解非正常系数矩阵的收敛性,分析了亥姆霍兹方程在有吸收边界条件和预处理下的伪谱特性。
2015-05-29 cs.NA math.NA
GMRES algorithms over 35 years
本文研究求解非奇异线性系的GMRES算法。我们首先考虑基本算法,并研究其收敛性。然后,我们专注于加速策略和并行算法,是有用的解决具有挑战性的系统。我们还简要讨论了其他问题,如系统的多个右手边,移动系统,奇异系统。
2023-02-07 cs.NA math.NA
Preconditioning of GMRES for Helmholtz problems with quasimodes
本文针对 Helmholtz 问题中准模导致 GMRES 收敛困难的现象,推导了基于调和 Ritz 值的收敛界,并结合区域分解与特征向量紧缩技术改善共振条件下的求解性能。
2025-11-06 cs.NA math.NA
Hermitian Preconditioning for a class of Non-Hermitian Linear Systems
针对非奇异非埃尔米特线性系统,提出采用埃尔米特预条件子并在其诱导内积下运行GMRES的方法,推导了正定矩阵下的收敛界,证明方法具备可扩展性并通过数值验证。
2023-11-08 cs.NA math.NA
GMRES Convergence Analysis for Nonsymmetric Saddle-Point Systems When the Field of Values Contains the Origin
The University of British Columbia(不列颠哥伦比亚大学)
本文研究了非对称鞍点系统在场值包含原点时GMRES收敛性,通过谱集理论推导了与矩阵尺寸无关的收敛条件,并展示了其在新型块预处理家族中的应用。
2026-02-11 cs.NA math.NA
Extending Elman's Bound for GMRES
针对数值域含原点时Elman界不适用于GMRES算法的问题,通过求解Lyapunov方程构造新内积并应用Elman界,结合Lyapunov逆迭代构建内积族以权衡参数,补充了非正规矩阵GMRES收敛性研究的相关技术。
2025-02-21 cs.NA math.NA
On the Asymptotic Linear Convergence Speed of Anderson Acceleration, Nesterov Acceleration, and Nonlinear GMRES
University of Waterloo(滑铁卢大学)
我们考虑了不动点迭代$x_{k+1}=q(x_k)$的非线性加速收敛方法,包括Anderson加速(AA),非线性GMRES(NGMRES)和Nesterov型加速(对应于窗口大小为1的AA).我们专注于不动点方法,收敛因子$ρ<1$渐近线性收敛,并解决了一个基本的完全光滑和非凸优化问题。人们经常观察到AA和NGMRES大大改善了定点迭代的渐近收敛行为,但这种改善尚未在理论上量化。我们在简化的条件下研究这个问题。首先,我们考虑固定版本的AA和NGMRES,并确定系数,导致最佳渐近收敛因子,给定知识的频谱$q'(x)$在固定点$x^*$。这使我们能够理解和量化的渐近收敛的改善,可以提供非线性收敛加速,查看$x_{k+1}=q(x_k)$作为AA和NGMRES的非线性预条件。其次,对于无限窗口的情况,我们考虑了GMRES应用于关于$x^*$线性化的不动点迭代的线性渐近收敛界。由于AA和NGMRES在线性情况下等同于GMRES,因此可以预期GMRES收敛因子与AA和NGMRES相关,如$x_k \rightarrow x^*$。我们的研究结果数值说明了一类测试问题的典型张量分解,比较最速下降和交替最小二乘(ALS)的固定点迭代加速AA和NGMRES。我们的数值试验表明,这两种方法使我们能够估计渐近收敛速度非平稳AA和NGMRES有限的窗口大小。
2020-11-07 cs.LG cs.NA math.NA
Any decreasing cycle-convergence curve is possible for restarted GMRES
本文证明,对于任意给定的递减正序列,存在一个矩阵和初始残差,使得重启GMRES的残差范数精确等于该序列,且矩阵可具有任意特征值,并推广到停滞情形。
2009-07-21 cs.NA math.NA
Convergence analysis of iterative solution with inexact block preconditioning for weak Galerkin finite element approximation of Stokes flow
本文分析了采用weak Galerkin有限元离散并使用非精确块Schur补预处理的Stokes流迭代解收敛性,证明MINRES/GMRES的收敛因子几乎与粘度和网格大小无关。
2024-09-24 cs.NA math.NA
An Integer Arithmetic-Based Sparse Linear Solver Using a GMRES Method and Iterative Refinement
在本文中,我们开发了一个(预处理)GMRES求解器的整数运算的基础上,并介绍了一个迭代精化框架的求解器。我们描述了基于整数或定点数的求解器的系数矩阵和向量的数据格式。为了避免计算中的溢出,我们在算术运算中引入了初始缩放和操作数的逻辑移位(调整)。针对GMRES算法的特点,提出了操作数移位的方法。数值试验表明,基于整数算法的求解器与迭代精化具有可比的求解器性能的收敛性的标准求解器的基础上浮点运算。此外,我们表明,预处理是很重要的,不仅可以提高收敛性,但也减少了溢出的风险。
2021-03-03 cs.MS cs.NA math.NA
A two-level shifted Laplace preconditioner for Helmholtz problems: Field-of-values analysis and wavenumber-independent convergence
用于求解由亥姆霍兹方程的离散化产生的线性系统的主要工具之一是移位拉普拉斯预条件子,其由扰动亥姆霍兹问题$-Δu - (k^2 + i \varepsilon )u = f$的离散化产生,其中$0 \neq \varepsilon \in \mathbb{R}$是吸收参数。在这项工作中,我们重新审视的想法相结合的移位拉普拉斯预条件与两级紧缩,并将其应用到亥姆霍兹问题离散线性有限元。我们使用的GMRES的收敛理论的价值领域的基础上证明,GMRES应用到两个水平的预处理系统的移位参数$\varepsilon \sim k^2$收敛在一些迭代独立的波数$k$,提供的粗网格尺寸$H$满足形式$Hk^{2} \leq C$的一些恒定的$C$依赖于域,但独立于波数$k$的条件。这种行为与独立的移位拉普拉斯算子截然不同,对于独立的移位拉普拉斯算子,仅在[M. J. Gander,I.G.格雷厄姆和E.A.斯宾思,努默数学,131(2015),567-614]。最后,我们提出的数值证据表明,波数无关的GMRES收敛也适用于无污染网格,其中粗网格尺寸满足$Hk^{3/2} \leq C $,和不精确的粗网格解决。
2020-06-17 cs.NA math.NA
TT-GMRES: on solution to a linear system in the structured tensor format
Institute of Numerical Mathematics, Russian Academy of Sciences(俄罗斯科学院计算数学研究所)
针对张量列(TT)格式,提出并研究了一种自适应的张量结构化GMRES方法,通过松弛技术改善收敛性能,并在高维参数化sPDE问题中与ALS和DMRG方法进行了比较。
2012-06-24 cs.NA math.NA
Convergence Analysis of the Alternating Anderson-Picard Method for Nonlinear Fixed-point Problems
本文研究了非线性不动点问题中的交替Anderson-Picard(AAP)方法,通过建立其与multisecant-GMRES的等价性,证明AAP渐近收敛于Newton-GMRES方法,并得出其局部q-线性收敛性及收敛因子上界。
2025-07-11 cs.NA math.NA
Toward Efficient Polynomial Preconditioning for GMRES
提出了一种求解大型线性方程组的多项式预条件子。该多项式是从最小残差多项式(GMRES多项式)导出的,并且比许多以前的多项式预条件子更容易计算和实现。我们目前使用它的根实现这个多项式自然比以前计算相同多项式的方法更稳定。我们实现进一步的稳定性控制,使用添加的根,这允许高次多项式。我们讨论了根添加的有效性和挑战,并对稳定性进行了额外的检查。在本文中,我们研究的多项式预条件适用于GMRES,但它可以与任何Krylov求解器。这种多项式预处理算法可以显着提高收敛性的一些问题,特别是对困难的问题,并可以减少点积由一个更大的利润。
2022-01-12 cs.NA math.NA
Near-optimal convergence of the full orthogonalization method
本文证明了全正交化方法(FOM)具有近最优收敛性,其残差范数在某一不超过当前迭代次数的迭代点上至多为GMRES的$\sqrt{k+1}$倍,且该界是紧的。
2024-08-27 cs.NA math.NA
Infinite GMRES for parameterized linear systems
我们考虑线性参数依赖系统$A(μ) x(μ) = b$为许多不同的$μ$,其中$A$是大的和稀疏的,并依赖于$μ$非线性。为每个$μ$单独求解此类系统将需要大量的计算工作。在这项工作中,我们建议计算部分参数化$\tilde{x} \approx x(μ)$,其中$\tilde{x}(μ)$是便宜的计算许多不同的$μ$。我们的方法是基于这样的观察,即可以形成伴随线性化,其中对$μ$的依赖性仅是线性的。特别是,我们开发的方法相结合,完善的Krylov子空间方法的线性系,GMRES,与算法的非线性本征值问题(NEPs)生成的基础Krylov子空间。在这种新方法中,基矩阵以三种不同的方式构造,使用张量结构并利用某些问题具有低秩性质。我们显示的收敛因子界获得类似的方法GMRES线性系。更具体地,基于参数$μ$的大小和线性友矩阵的谱来获得界限,其对应于对应NEP的倒数解。数值实验说明了我们的方法对大规模问题的竞争力。这些模拟是可重复的,并可在网上公开获得。
2021-04-19 cs.NA math.NA
Arnoldi decomposition, GMRES, and preconditioning for linear discrete ill-posed problems
University of Bath(巴斯大学);SAPIENZA Università di Roma(罗马大学);Università di Trieste(的里雅斯特大学);Kent State University(肯特州立大学)
本文探讨了GMRES在解决线性离散病态问题时的性能问题,分析了Arnoldi分解与预处理在Tikhonov和TSVD正则化中的应用。
2018-06-18 cs.NA math.NA
The GMRES method for solving the large indefinite least squares problem via an accelerated preconditioner
本研究针对大型不定最小二乘问题,将其正规方程转化为稀疏三乘三块线性系统,提出一种加速预条件GMRES方法,理论证明特征值聚集且数值实验验证有效性。
2025-05-23 cs.NA math.NA
Preprocessed GMRES for fast solution of linear equations
本文提出以 RPCG、ADI 和 Kaczmarz 为内迭代、BA-GMRES 为外迭代的预处理框架,并通过收敛分析与数值实验验证其在快速求解线性方程组中的有效性。
2024-04-09 cs.NA math.NA
Consistency enforcement for the iterative solution of weak Galerkin finite element approximation of Stokes flow
针对Stokes问题有限元离散产生的不一致鞍点系统导致迭代法难收敛的问题,提出修改最低阶弱Galerkin离散线性系统右端项的一致性强制方法,搭配预处理器与MINRES/GMRES法,实现与粘度、网格无关的收敛,且不影响最优阶精度。
2024-12-13 cs.NA math.NA
Hybrid-Precision Block-Jacobi Preconditioned GMRES Solver for Linear System in Circuit Simulation
针对电路仿真中大规模稀疏线性系统,提出混合精度块-Jacobi预条件GMRES求解器,利用结构稀疏性并采用单双精度混合策略,实验表明在预条件和运行时间上优于SuperLU、KLU和SFLU。
2026-10-06 cs.NA math.NA
A randomized global GMRES method for matrix equations
Mohammed VI Polytechnic University (UM6P)(穆罕默德六世理工大学);Southwestern University of Finance and Economics(西南财经大学)
本文提出了一种新的随机全局广义最小余数方法,通过引入矩阵草图技术,有效求解大规模线性系统,实验表明其在处理多右端向量问题时具有竞争力。
2026-09-09 cs.NA math.NA
On the Choice of Subspace for the Quasi-minimal Residual Method for Linear Inverse Problems
本文研究Krylov子空间方法(GMRES、QMR及其范围受限变体)求解线性反问题,发现范围受限QMR因奇异谱优势对噪声不敏感,在噪声水平不确定时尤为有效。
2025-08-07 cs.NA math.NA
Additive average Schwarz method for a Crouzeix-Raviart Finite Volume Element Discretization of Elliptic Problems with Heterogeneous Coefficients
University of Bergen(卑尔根大学);University of Warsaw(华沙大学);Bergen University College(卑尔根学院)
本文提出一种加法Schwarz方法,用于解决具有不连续系数的椭圆问题的Crouzeix-Raviart有限体积元离散化。方法参数的收敛性依赖于网格参数H/h的线性或二次关系,且在特定条件下系数跳跃不影响收敛性。
2014-07-31 cs.NA math.NA
Orthogonal polynomials of the R-linear generalized minimal residual method
Aalto University(阿尔托大学)
本文通过谱有限子集上的多项式逼近问题界定了R-线性GMRES的收敛速度,并证明了存在三项递推生成正交多项式族,建立了与复对称Jacobi矩阵的自然联系。
2011-12-14 cs.NA math.NA
On $τ$-preconditioners for a quasi-compact difference scheme to Riesz fractional diffusion equations with variable coefficients
Hanshan Normal University(韩山师范学院);Southwestern University of Finance and Economics(西南财经大学);University of Insubria(因苏布里亚大学);University of Uppsala(乌普萨拉大学)
针对变系数Riesz分数阶扩散方程离散的非对称线性系统,提出τ预条件子加速GMRES收敛,理论与数值结果验证其有效性。
2026-08-05 cs.NA math.NA
Towards understanding CG and GMRES through examples
本文针对当前CG、GMRES等Krylov子空间方法依赖简化表征导致认知受限的问题,通过计算示例展示二者的关键行为,结合文献指引支持不同深度的学习,既澄清误解也引出开放问题,为Krylov子空间方法的研究与应用提供新视角。
2024-02-01 cs.NA math.NA
A Robust Multilevel Method for Hybridizable Discontinuous Galerkin Method for the Helmholtz Equation
Xiamen University(厦门大学);Academy of Mathematics and System Sciences, Chinese Academy of Sciences(中国科学院数学与系统科学研究院)
本文提出一种基于混合不连续伽辽金方法的鲁棒多级预处理器,用于高波数亥姆霍兹方程。核心方法包括选择合适的跨网格传输算子和在粗网格上使用GMRES平滑。通过局部傅里叶分析验证了算法收敛性,数值结果表明算法收敛性与网格无关,且对波数依赖较弱。
2013-06-25 cs.NA math.NA
Anderson Accelerated PMHSS for Complex-Symmetric Linear Systems
本文提出 AA-PMHSS 方法求解复对称线性系统,通过更快计算预处理子,在电磁学等问题中展现出优于预处理 GMRES 的性能且收敛速率与离散化尺寸无关。
2023-08-01 cs.NA math.NA
A Unified Two-Grid Framework for Anderson Acceleration and Nonlinear GMRES
Tufts University(塔夫茨大学);University of Houston(休斯顿大学)
本文提出统一两网格框架,将Anderson加速与非线性GMRES统一,并据此设计新变体,通过扩大粗空间提升性能,数值实验验证其优越性。
2026-09-14 cs.NA math.NA
A new preconditioner for elliptic PDE-constrained optimization problems
我们提出了一个预条件子来加速GMRES迭代法的收敛性,该迭代法用于求解线性方程组,该线性方程组是由应用于偏微分方程约束的最优控制问题的离散-优化方法得到的。讨论了预条件矩阵的特征值分布及其特征向量。数值结果的建议预处理器与几个现有的预处理器进行比较,以显示其效率。
2019-11-13 cs.NA math.NA
Convergence characteristics of the generalized residual cutting method
Advanced Science & Intelligence Research Institute(先进科学与智能研究所);University of Texas, San Antonio(德克萨斯大学圣安东尼奥分校);University of Patras(帕特雷大学)
本文研究了广义残差切割法的数学性质,证明其为Krylov子空间方法,并展示其与共轭梯度法的关联,针对对称矩阵等价,且在大规模矩阵中表现出更稳健的收敛性和更低的内存需求。
2018-02-01 cs.NA math.NA
A variant of the block preconditioner for indefinite complex symmetric linear systems
University of Kurdistan(库尔德斯坦大学);University of Guilan(吉兰大学)
本文提出不定复对称线性方程组的一种高效块预处理子,分析其谱性质与迭代收敛性,用于加速灵活型GMRES收敛,数值实验表明其性能优于现有块预处理子。
2026-09-01 cs.NA math.NA
An efficient preconditioner for evolutionary partial differential equations with $θ$-method in time discretization
本文针对θ-方法时间离散的演化偏微分方程,提出一种可时间并行实现的高效单侧预条件子,并通过双侧预条件系统的条件数一致有界性证明保证GMRES收敛,数值实验验证了其有效性与鲁棒性。
2024-08-07 cs.NA math.NA
A new iterative method for solving a class of two-by-two block complex linear systems
本文提出了一种定常迭代法,即交替对称正定和尺度对称半正定分裂法(ASSS),用于求解分布式最优控制问题的有限元离散化得到的线性方程组和时间周期抛物型方程。给出了迭代法的谱半径的一个上界,它总是小于1。从而保证了ASSS迭代法的收敛性。导出的ASSS预条件子用于加速GMRES方法求解该系统的收敛速度。数值结果证明了ASSS迭代法和ASSS预条件子的有效性。
2021-06-18 cs.NA math.NA
On semi-convergence of generalized skew-Hermitian triangular splitting iteration methods for singular saddle-point problems
School of Mathematics and Statistics, Lanzhou University(兰州大学数学与统计学院)
本文研究了广义斜厄米特三角分裂迭代方法在奇异鞍点问题中的半收敛性,通过奇异值分解和Moore-Penrose逆分析其性质,并通过数值实验验证其作为求解器和预条件子的可行性。
2014-02-22 cs.NA math.NA
A block lower triangular preconditioner for a class of complex symmetric system of linear equations
Faculty of Mathematical Sciences, University of Guilan(吉尔兰大学数学科学学院)
本文提出了一种块下三角预条件子,以加速广义最小残量法等Krylov子空间迭代方法的收敛速度,针对复对称线性方程组进行数值验证。
2016-11-11 cs.NA math.NA
DGMRES method augmented with eigenvectors for computing the Drazin-inverse solution of singular linear systems
College of Science, Nanjing University of Aeronautics and Astronautics(南京航空航天大学理学院)
针对DGMRES重启导致收敛慢或停滞的问题,提出通过添加特征向量扩充子空间以加速收敛,并给出实现与数值验证。
2010-09-22 cs.NA math.NA
Anderson Acceleration as a Krylov Method with Application to Asymptotic Convergence Analysis
University of Waterloo(滑铁卢大学)
Anderson加速(AA)被广泛用于加速非线性不动点方法$x_{k+1}=q(x_{k})$、$x_k \in \mathbb{R}^n$的收敛,但如何量化AA提供的收敛加速却知之甚少。作为对AA加速收敛的更多理解的道路,我们研究了AA($m$),即,有限窗口尺寸$m$的Anderson加速,适用于线性定点迭代$x_{k+1}=M x_{k}+b$的情况。我们把AA($m$)写成一个带有多项式残差更新公式的Krylov方法,并推导出AA($m$)多项式的递推关系.将AA($m$)写为Krylov方法立即意味着AA($m$)的$k$迭代不能产生比没有重启的GMRES的$k$迭代更小的残差(但没有暗示任何关于(窗口化)AA($m$)与重启的GMRES($m$)的相对收敛速度)。我们发现,AA($m$)残差多项式观察到一个周期性的记忆效应,随着迭代次数的增加,误差迭代矩阵$M$的增加功率作用于初始残差。基于这些多项式残差更新公式,我们得到了几个进一步的结果,包括正交关系,AA(1)加速系数$β_k$的下界,以及AA(1)残差和不含加速系数$β_k$的残差多项式的显式非线性递归.使用这些递归关系,我们还得到了新的残差收敛界AA(1)在线性情况下,演示了如何每迭代残差减少$||r_{k+1}||/||r_{k}||$强烈依赖于在前一次迭代中的残差减少和在先前的残差向量$r_k$和$r_{k…
2023-02-24 cs.LG cs.NA math.NA
On the Performance of a Novel Class of Linear System Solvers and Comparison with State-of-The-Art Algorithms
本文实现并评估 TA 与 CTA 线性系统求解器,在大规模方阵和矩形矩阵上于运行时间、残差质量及收敛稳定性方面优于 GMRES 和 lsqminnorm,并扩展至 LP 可行性问题。
2023-04-24 cs.NA math.NA
Generalized SOR iterative method for a class of complex symmetric linear system of equations
Faculty of Mathematical Sciences, University of Guilan(吉兰大学数学科学学院)
本文提出广义SOR迭代法用于求解复对称线性方程组,将其转换为实形式并分析收敛性,确定最优参数及收敛因子,并用于预处理Krylov子空间方法,通过数值实验验证理论结果。
2014-03-24 cs.NA math.NA