Analysis of GMRES for Low-Rank and Small-Norm Perturbations of the Identity Matrix
在许多应用中,出现线性系统,其中系数矩阵采用特殊形式${\bf I} + {\bf K} + {\bf E}$,其中${\bf I}$是维度$n$、${\rm rank}({\bf K}) = p \ll n$和$\|{\bf E}\| \leq ε< 1$的单位矩阵。众所周知的理论保证了具有${\bf I} + {\bf K}$和${\bf I} + {\bf E}$形式的系数矩阵的线性系统的GMRES收敛速度,但是目前只存在${\bf I} + {\bf K} + {\bf E}$形式的矩阵的相对弱的收敛界。本文通过考虑${\bf I} + {\bf K}$的伪谱,研究了具有这类系数矩阵的线性方程组的收敛性。当近似求解线性系统$({\bf I} + {\bf K} + {\bf E}){\bf x} = {\bf b}$时,我们推导出GMRES残差的$ε$界,并确定了对扰动敏感的${\bf I} + {\bf K}$的特征值。特别是,虽然远离原点的聚类谱通常是快速GMRES收敛的良好指标,但当这些特征值中的一些是病态时,收敛可能会很慢。我们可以有至多$2p$特征值的${\bf I} + {\bf K}$是敏感的小扰动。我们提出的数值计算结果时,使用GMRES解决一系列的线性系统的形式$({\bf I} + {\bf K}_j + {\bf E}_j){\bf x}_j = {\…
2022-10-21 cs.NA math.NA
Hybrid-Precision Block-Jacobi Preconditioned GMRES Solver for Linear System in Circuit Simulation
针对电路仿真中大规模稀疏线性系统,提出混合精度块-Jacobi预条件GMRES求解器,利用结构稀疏性并采用单双精度混合策略,实验表明在预条件和运行时间上优于SuperLU、KLU和SFLU。
2026-10-06 cs.NA math.NA
Solving nonlinear ODEs with the ultraspherical spectral method
本文将超球面谱方法扩展至非线性 ODE 边值问题,提出基于结构化算子的 inexact Newton-GMRES 框架以实现高效预条件与快速 Jacobian-向量乘法,混合精度实现下展现出极高的速度与精度。
2023-06-30 cs.NA math.NA
A fast normal splitting preconditioner for attractive coupled nonlinear Schrödinger equations with fractional Laplacian
针对分数阶拉普拉斯吸引耦合非线性薛定谔方程,提出基于正规分裂的快速预条件子,加速GMRES收敛,且与网格尺寸和分数阶几乎无关,并保持守恒性质。
2023-10-18 cs.NA math.NA
Can coercive formulations lead to fast and accurate solution of the Helmholtz equation?
University College London(伦敦大学学院);University of Pavia(帕维亚大学);University of Bath(巴斯大学)
本文研究了一种新的强制性亥姆霍兹方程公式,并探讨了其h版本伽辽金离散化及迭代求解线性系统的方法,证明了在对称正定预处理下,该公式的GMRES迭代次数具有k显式界。
2018-09-19 cs.NA math.NA
Fast solution of boundary integral equations with the generalized Neumann kernel
King Khalid University(国王哈立德大学)
本文提出了一种快速求解带有广义Neumann核和伴随广义Neumann核的边界积分方程的方法,基于Nystrom方法结合梯形法则,通过GMRES方法求解得到的线性系统,并利用快速多极子方法降低计算复杂度。
2014-03-14 cs.NA math.NA
On the Performance of a Novel Class of Linear System Solvers and Comparison with State-of-The-Art Algorithms
本文实现并评估 TA 与 CTA 线性系统求解器,在大规模方阵和矩形矩阵上于运行时间、残差质量及收敛稳定性方面优于 GMRES 和 lsqminnorm,并扩展至 LP 可行性问题。
2023-04-24 cs.NA math.NA
Anderson Accelerated PMHSS for Complex-Symmetric Linear Systems
本文提出 AA-PMHSS 方法求解复对称线性系统,通过更快计算预处理子,在电磁学等问题中展现出优于预处理 GMRES 的性能且收敛速率与离散化尺寸无关。
2023-08-01 cs.NA math.NA
A single-sided all-at-once preconditioning for linear system from a non-local evolutionary equation with weakly singular kernels
本文将非局部演化方程的双侧预条件合并为单侧预条件,通过快速可对角化矩阵近似空间矩阵,理论上证明单侧预条件GMRES方法收敛速率不劣于双侧,且总计算时间更少。
2024-04-22 cs.NA math.NA
An introduction to ML(n)BiCGStab
ML(n)BiCGStab是一种Krylov子空间方法,用于求解大型、稀疏和非对称线性系。从理论上讲,它是一种介于众所周知的BiCGStab和GMRES/FOM之间的方法。实际上,当n = 1时,ML(1)BiCGStab是BiCGStab,当n = N时,ML(N)BiCGStab是GMRES/FOM,其中N是线性系的大小。因此,ML(n)BiCGStab是连接基于Lanczos的BiCGStab和基于Arnoldi的GMRES/FOM的桥梁。在计算上,ML(n)BiCGStab比BiCGStab在求解病态问题时更稳定,收敛速度更快。我们已经在标准油藏模拟测试数据SPE 9上测试了ML(n)BiCGStab,发现与BiCGStab相比,ML(n)BiCGStab将总计算时间减少了60%以上。对Matrix Market数据进行的检验也支持ML(n)BiCGStab优于BiCGStab。由于在完整的GMRES中的存储需求为O(N^2),因此在实现GMRES时必须采用重启策略来控制存储。相比之下,ML(n)BiCGStab是一个只需要O(nN)存储的方法,因此它不需要重新启动策略。在本文中,我们介绍ML(n)BiCGStab(特别是,一个新的算法涉及A转置),它的关系,一些现有的方法和它的实现。
2011-06-18 cs.NA math.NA math.OC
An efficient preconditioner for evolutionary partial differential equations with $θ$-method in time discretization
本文针对θ-方法时间离散的演化偏微分方程,提出一种可时间并行实现的高效单侧预条件子,并通过双侧预条件系统的条件数一致有界性证明保证GMRES收敛,数值实验验证了其有效性与鲁棒性。
2024-08-07 cs.NA math.NA
A fast solver for ill-conditioned linear systems using randomized stable solutions of its blocks
Indian Institute of Science(印度科学学院)
提出一种改进的基于行的随机块Kaczmarz方法,通过块更新正则化和基于残差与块间正交性的动态提议分布,高效求解病态稀疏或稠密最小二乘问题,可作为预求解器加速其他迭代方法。
2026-06-17 cs.NA math.NA
Fast multilevel solvers for a class of discrete fourth order parabolic problems
Pacific Northwest National Laboratory(太平洋西北国家实验室);Southwest Jiaotong University(西南交通大学);Tufts University(塔夫茨大学);University of California, Irvine(加州大学尔湾分校);University of Maryland(马里兰大学);Pennsylvania State University(宾夕法尼亚州立大学)
本文研究了混合有限元方法离散的四阶抛物方程快速迭代求解器,提出使用一致质量矩阵进行离散并利用 lumped 质量矩阵构建高效预处理子程序,通过特征值分析估计预处理 GMRes 方法的收敛率,并展示预处理子程序仅需通过最优多级算法近似求解。
2016-02-25 cs.NA math.NA
Fast solvers for two-dimensional fractional diffusion equations using rank structured matrices
考虑了含分数阶导数的时空扩散方程在空间域和一维或二维空间域的离散化问题。在时间上采用隐式Euler格式,在空间上采用有限差分或有限元,得到一系列稠密的大规模线性系,描述解在时间上的行为。我们证明了在一维上下文中产生的系数矩阵的秩结构,可以有效地表示使用分层格式($\mathcal H$ -矩阵,HODLR)。这些矩阵的非对角块的秩的定量估计。我们分析使用HODLR算法解决一维的情况下,我们比较这种策略与现有的方法,利用Toeplitz结构的GMRES迭代的先决条件。数值试验表明,HODLR格式的方便时,至少需要一个合理的低数量的时间步长。最后,我们解释了如何利用这些属性来设计快速求解器的二维空间域的问题,可以重新表述为矩阵方程。实验结果表明,该方法的基础上使用的秩结构的算法是特别有效的,优于目前的最先进的技术。
2019-08-10 cs.NA math.NA
A Fast Solver for the Elastic Scattering of Multiple Particles
Zhejiang University(浙江大学);Purdue University(普渡大学)
本文提出了一种快速求解多粒子弹性散射问题的方法,通过将弹性波方程的边界值问题转化为亥姆霍兹方程的耦合边界值问题,并利用单层、双层和组合层势函数,结合快速多极子方法加速求解,实现了高精度和高效计算。
2018-12-13 cs.NA math.NA
Sine-transform-based fast solvers for Riesz fractional nonlinear Schrödinger equations with attractive nonlinearities
针对带 Riesz 导数和吸引非线性的分数阶 Schrödinger 离散系统,提出结合反对称正规分裂与正弦变换预条件的快速求解器,实现无条件、无参数且与网格和分数阶无关的收敛。
2024-10-04 cs.NA math.NA
Operator Coefficient Methods for Linear Equations
Sandia National Laboratories(桑迪亚国家实验室)
提出一种结合高阶递推与矩阵多项式系数的迭代方法,用于高效求解线性方程。
2012-03-12 cs.NA math.NA
A $τ$-preconditioner for space fractional diffusion equation with non-separable variable coefficients
本文针对非可分离变系数空间分数阶扩散方程离散化的线性系统,提出基于$τ$-矩阵逼近的预条件子,结合FST实现快速求逆,证明GMRES求解具最优收敛速度,为该类问题首个最优收敛预条件方法,数值实验验证了其有效性。
2024-04-17 cs.NA math.NA
Fast hierarchical solvers for sparse matrices using extended sparsification and low-rank approximation
用标准的直接求解方案求稀疏矩阵的逆是鲁棒的,但是计算昂贵。另一方面,迭代求解器表现出更好的可扩展性;但是,需要与适当的预处理器一起使用(例如,ILU、AMG、Gauss-Seidel等)为了正确的收敛。有效预条件子的选择是高度依赖于问题的。提出了一种新的全代数稀疏矩阵求解算法,该算法的复杂度与问题规模成线性关系。我们的方案是基于高斯消元法。对于一个给定的矩阵,我们近似的LU分解与先验确定的可调精度。该方法可以作为一个独立的直接求解器,具有线性复杂度和可调精度,或者它可以作为一个黑盒预处理器与迭代法,如GMRES。建议的求解器是基于低秩近似的消除过程中产生的填充。类似于H矩阵,对应于邻接图中良好分离的块的填充通过分层结构来表示。算法的线性复杂度是有保证的,如果块对应于良好分离的变量集群是数值低秩。
2016-12-15 cs.DS cs.NA math.NA
An efficient and highly accurate solver for multi-body acoustic scattering problems involving rotationally symmetric scatterers
本文提出一种高效求解声散射问题的数值方法,可处理数十个长数波长的散射体,采用边界积分方程和高阶Nyström方法,结合GMRES与快速多极子方法,但仅适用于旋转对称散射体。
2014-06-02 cs.NA math.NA
A GPU-accelerated Direct-sum Boundary Integral Poisson-Boltzmann Solver
本文提出了一种GPU加速的直和边界积分法来求解线性Poisson-Boltzmann(PB)方程。在我们的方法中,适定的边界积分公式,以确保快速收敛的Krylov子空间为基础的线性代数求解器,如GMRES。采用平面三角形和质心配点法对分子表面进行离散。为了加快我们的方法,我们利用边界积分公式的并行性,并在GPU上的CUDA共享内存架构内并行化的计划。该方案仅使用$11N+6N_c$双尺寸器件存储器用于具有$N$三角形表面元件和$N_c$部分电荷的生物分子。数值试验表明,这些计划保持良好的精度和快速收敛。使用一块GPU卡(Nvidia Tesla M2070)的GPU实现实现比使用一个CPU(Intel L5640 2.27GHz)的实现实现速度提高了120- 150倍。使用我们的方法,在具有多达300,000个边界元的良好离散的分子表面上求解PB方程将花费小于约10分钟,因此我们的方法特别适合于小到中等生物分子的快速静电计算。
2013-01-24 cs.NA math.NA physics.comp-ph
Solving the 3D High-Frequency Helmholtz Equation using Contour Integration and Polynomial Preconditioning
Rice University(莱斯大学);Emory University(埃默里大学);University of Minnesota(明尼苏达大学)
本文提出了一种求解三维高频亥姆霍兹方程的迭代方法,利用谱投影的轮廓积分公式,在特定不变子空间中通过求解复移位线性系统近似解,从而加速GMRES迭代。通过多项式固定点迭代求解移位系统,即使移位幅度小也能保持鲁棒性,数值测试表明高精度求解高频问题需要O(n^{1/3})次矩阵-向量乘积,该方法存储需求小,适用于稠密和稀疏线性系统,并具有高度并行化能力。
2018-11-29 cs.NA math.NA
Fast high-order solvers for the Lippmann--Schwinger equation in piecewise-smooth heterogeneous media
Rice University(莱斯大学);University of Twente(特温特大学);POEMS, CNRS, Inria, ENSTA Paris, Institut Polytechnique de Paris(法国巴黎理工学院 ENSTA 巴黎校区,与 CNRS 和 Inria 合作的 POEMS 实验室)
本文针对分段光滑非均匀介质的时谐散射问题,提出了一种结合非结构化网格高阶离散与结构化网格预处理的快速高阶Nyström求解器,其迭代次数与网格尺寸、波数无关,兼具几何灵活性与频率鲁棒性。
2026-08-19 cs.NA math.NA physics.comp-ph
Fast Direct Solvers
University of Texas at Austin(德克萨斯大学奥斯汀分校);Courant Institute, New York University(纽约大学库朗数学科学研究所)
本综述介绍快速直接求解器这一类方法,其解决椭圆型PDE或积分方程离散化产生的线性方程组问题,利用矩阵逆近似或因式分解,在线性/近线性时间求解,为稀疏和稠密情况提供统一背景及方法选择指导。
2025-11-11 cs.NA math.AP math.NA
A new interpolated pseudodifferential preconditioner for the Helmholtz equation in heterogeneous media
本研究针对含吸收的非均匀介质Helmholtz方程,提出一种基于波速插值的新型伪微分预处理器,实现对数线性计算复杂度,结合GMRES方法验证了求解有效性,还实现了复值波速吸收层并讨论了局限与拓展方向。
2024-12-11 cs.NA math.NA physics.comp-ph
A Cartesian grid-based boundary integral method for moving interface problems
University of Pennsylvania(宾夕法尼亚大学);Illinois Institute of Technology(伊利诺伊理工学院);Shanghai Jiao Tong University(上海交通大学)
本文提出一种基于笛卡尔网格的边界积分方法,用于高效稳定求解Hele-Shaw流动和Stefan问题,通过将椭圆和抛物型PDE转化为边界积分方程,并利用无矩阵广义最小余数法求解,同时采用有限差分法简化边界积分计算,提升求解效率。
2026-04-20 cs.NA math.NA physics.comp-ph
Stein-based preconditioners for weak-constraint 4D-var
本文针对弱约束4D-var数据同化中大型线性系统求解难题,提出基于Stein矩阵方程的新型高效预条件算子,有效提升计算性能并给出更紧的特征值分布界限。
2023-03-01 cs.NA math.NA
Diagonal and normal with Toeplitz-block splitting iteration method for space fractional coupled nonlinear Schrödinger equations with repulsive nonlinearities
针对带排斥非线性的空间分数阶耦合非线性Schrödinger方程导出的线性系统,提出了无条件收敛的对角与正规含Toeplitz块分裂迭代法及高效预条件子,显著提升了Krylov子空间迭代法的计算效率。
2024-10-17 cs.NA math.NA
PetRBF--A parallel O(N) algorithm for radial basis function interpolation
University of Bristol(布里斯托大学);Boston University(波士顿大学);University of Chicago(芝加哥大学)
提出一种并行径向基函数插值算法,通过GMRES迭代求解器与限制性加性Schwarz方法预条件器实现O(N)复杂度和良好可扩展性,适用于高斯基函数的大规模插值问题。
2009-09-29 cs.DC cs.MS cs.NA
Efficient parameter-robust preconditioners for linear poroelasticity and elasticity in the primal formulation
针对多孔弹性离散化产生的大规模鞍点系统,提出非奇异块三角Schur补预条件子,其特征值簇半径独立于网格尺寸、时间步长和锁定参数,结合无锁定弱Galerkin有限元方法,实现了高效且参数鲁棒的快速迭代求解。
2025-06-26 cs.NA math.NA
Implicit Asymptotic Preserving Method for Linear Transport Equations
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);State University of New York at Buffalo(纽约州立大学布法罗分校)
本文提出隐式渐近保方法用于求解辐射传输方程,通过利用不规则矩阵的谱结构构建预条件子,结合空间和角依赖性分解,提升条件数并实现矩阵自由处理,同时设计快速求解器和偶奇奇偶分解方法,实现对称正定矩阵的求解。
2016-02-01 cs.NA math.NA
Graph Neural Preconditioners for Iterative Solutions of Sparse Linear Systems
MIT-IBM Watson AI Lab, IBM Research(MIT-IBM沃森人工智能实验室 IBM研究院)
提出图神经网络预条件子(GNPs)用于大型稀疏线性方程组迭代求解,在超过800个矩阵上验证其构建时间更短且性能优于ILU、AMG等主流方法。
2025-01-26 cs.LG cs.NA math.NA
A scalable multilevel domain decomposition preconditioner with a subspace-based coarsening algorithm for the neutron transport calculations
多群中子输运方程已被广泛用于研究核反应堆中中子与本底物质的相互作用。使用现代超级计算机对多群中子输运方程进行高分辨率模拟需要发展可扩展的并行求解技术。本文研究了一种求解多群中子输运方程离散化所产生的代数系统的可缩放输运方法。建议的运输方法包括一个完全耦合的牛顿求解器的广义本征值问题和GMRES连同一个新的多级区域分解预处理的雅可比系统。多级预处理器已成功地用于许多问题,但某些问题,特别是非结构化网格问题的粗糙空间的构建是昂贵的,往往是不可扩展的。我们引入了一个新的基于子空间的粗化算法来解决这个问题,探索在中子输运问题的离散化版本的矩阵的结构。我们数值证明,所提出的传输方法是高度可扩展的,具有超过10,000个处理器内核的3D C5G7基准问题的非结构化网格与数十亿个未知数。与传统的多级区域分解方法相比,该方法采用了基于子空间的粗化算法,在粗空间的构造上速度更快。
2019-06-18 cs.DC cs.NA math.NA
Performance of linear solvers in tensor-train format on current multicore architectures
本文研究张量列车格式下低秩线性系统求解器在多核 CPU 上的性能,比较 TT-GMRES、MALS 和 AMEn 三种算法,并通过优化正交化、SVD 和张量收缩及提出 TT 秩 1 预条件子,使 AMEn 获得约 5 倍加速。
2024-10-24 cs.MS cs.NA math.NA
Numerical Algorithms for Water Waves with Background Flow over Obstacles and Topography
我们提出了两个准确和有效的算法求解不可压缩,无旋欧拉方程的自由表面在二维背景流周期性,多连通的流体域,包括固定的障碍物和可变的底部地形。一种方法是制定的表面速度潜力,而其他的演变涡面强度。这两种方法采用层电位的形式周期柯西积分计算的正常速度的自由表面,与任意参数化的自由表面和边界兼容,并允许循环周围的每个障碍物,这导致多值速度势,但单值流函数。我们证明了由此产生的第二类Fredholm积分方程是可逆的,可能经过物理动机的有限秩校正。在一个角度弧长设置,我们展示了如何避免与空间周期性不兼容的曲线重建错误。我们使用所提出的方法来研究重力毛细波产生的流动周围的几个椭圆形障碍物以上的平坦或可变的底部边界。在每种情况下,自由表面最终在飞溅奇点中自相交或与边界碰撞。我们还展示了如何评估整个流体的速度和压力与频谱精度,包括附近的自由表面和固体边界。为了评估时间演化的准确性,我们监测能量守恒和傅立叶模式的衰减,并比较两种方法的数值结果。我们实现了几个求解器的离散线性系统,并比较它们的性能。最快的方法采用图形处理单元(GPU)来构造矩阵并执行广义最小残差方法(GMRES)的迭代。
2022-05-05 cs.NA math-ph math.AP