Stagnation of block GMRES and its relationship to block FOM
我们分析了块GMRES的收敛行为，并描述了停滞现象，然后将其与块FOM方法的行为联系起来。我们推广块FOM方法，以产生良好定义的近似的情况下，块FOM通常会打破，这些广义解在我们的分析中使用。此行为还与先前块GMRES残差的列空间与当前最小残差约束空间之间的主要角度有关。在迭代$j$时，证明了GMRES停滞到块设置的适当推广与第$j$块Arnoldi向量的列空间有关。我们的分析涵盖了正常的迭代以及块Arnoldi故障，其中相关的基向量替换为随机的情况下。数值例子来说明我们已经证明，包括一个小的应用问题，以证明在一个不太病态的情况下的分析的有效性。
2016-07-11 cs.NA math.NA
Admissible and attainable convergence behavior with stagnation mirroring in restarted (block) GMRES
School of Mathematics, Trinity College Dublin（都柏林三一学院数学学院）
本文通过构造特定的矩阵和右端向量，实现可接受和可实现的块GMRES收敛行为，并提供了更易推广到块设置的替代证明。
2026-02-18 cs.NA math.NA
Randomized Gram-Schmidt process with application to GMRES
提出了一种随机化的Gram-Schmidt算法，用于高维向量的正交归一化或QR分解。所提出的过程可以比经典的Gram-Schmidt过程更少的计算开销，同时至少与修改的Gram-Schmidt过程一样数值稳定。我们的方法是基于随机素描，这是一种降维技术，包括在估计的内积的高维向量的内积的小有效计算的随机图像，所谓的草图。通过这种方式，全矢量的近似正交性可以通过它们的草图的正交化来获得。提出的Gram-Schmidt算法可以在任何架构中降低计算成本。通过以更高的精度执行非优势操作，可以放大随机草图的好处。在这种情况下，可以保证数值稳定性与工作单位的循环无关的问题的维数。本文提出的Gram-Schmidt过程可应用于Arnoldi迭代，从而得到求解高维方程组或本征值问题的新Krylov子空间方法。其中，我们选择了随机GMRES方法作为该方法的实际应用。
2022-01-18 cs.NA math.NA
GPMR: An Iterative Method for Unsymmetric Partitioned Linear Systems
本文介绍一种求解2 × 2块非对称线性系的迭代法GPMR。GPMR是基于一个新的过程，同时减少两个矩形矩阵上Hessenberg形式，这是密切相关的块Arnoldi过程。GPMR相当于具有两个右侧的块GMRES，其中两个近似解在每次迭代时求和，但每次迭代需要较少的存储和工作。我们比较了GPMR与GMRES和Block-GMRES在SuiteSparse Matrix Collection的线性系上的性能。在我们的实验中，GPMR终止显着早于GMRES的残差为基础的停止条件下的改进范围从约10%到50%的迭代次数。我们还通过实验说明，GPMR出现更有弹性的正交性损失比块GMRES。
2021-11-13 cs.NA math.NA
Numerical solution of saddle point problems by block {Gram--Schmidt} orthogonalization
Warsaw University of Technology（华沙理工大学）
本文提出并分析了基于块Gram-Schmidt方法求解对称鞍点问题的算法，证明了BCGS2算法在浮点运算下是稳定的，能保证计算结果是稍有扰动的线性方程组的精确解。
2013-12-18 cs.NA math.NA
Hybrid-Precision Block-Jacobi Preconditioned GMRES Solver for Linear System in Circuit Simulation
针对电路仿真中大规模稀疏线性系统，提出混合精度块-Jacobi预条件GMRES求解器，利用结构稀疏性并采用单双精度混合策略，实验表明在预条件和运行时间上优于SuperLU、KLU和SFLU。
2026-10-06 cs.NA math.NA
A numerically stable communication-avoiding s-step GMRES algorithm
针对s步GMRES算法的数值不稳定性问题，通过选择合适的多项式基与块正交化方案，构建了能自动选择最优步长的避免通信的s步GMRES算法，并在超11.4万核心上验证了其稳定性与完美线性扩展性。
2024-07-26 cs.NA math.NA
A block Recycled GMRES method with investigations into aspects of solver performance
Oak Ridge National Laboratory（橡树岭国家实验室）；Trinity College Dublin（都柏林三一学院）；Temple University（天普大学）
本文提出一种块Krylov子空间版本的GCRO-DR方法，探讨了求解器性能中的关键问题，通过数值实验分析收敛性及数据移动效率。
2026-08-14 cs.NA math.NA
Objective acceleration for unconstrained optimization
Mathematical Institute, University of Oxford（牛津大学数学研究所）
本文提出了一种新的目标加速方法O-ACCEL，通过在实数空间子空间上最小化目标函数的近似值来加速无约束优化过程，并证明其在二次目标时退化为线性系统的全正交化方法，与L-BFGS和N-CG相比表现出竞争力。
2018-05-30 cs.NA math.NA math.OC
Convergence analysis of iterative solution with inexact block preconditioning for weak Galerkin finite element approximation of Stokes flow
本文分析了采用weak Galerkin有限元离散并使用非精确块Schur补预处理的Stokes流迭代解收敛性，证明MINRES/GMRES的收敛因子几乎与粘度和网格大小无关。
2024-09-24 cs.NA math.NA
On Two-Stage Householder Orthogonalization
School of Data Science, Fudan University（复旦大学数据科学学院）；MOE Key Laboratory for Computational Physical Sciences, Fudan University（复旦大学计算物理科学教育部重点实验室）
本文提出一种基于广义Householder变换的两阶段Householder正交化算法，解决了传统方法对矩阵条件数依赖的问题，通过仅正交化V的平方子矩阵提升了稳定性。
2026-03-23 cs.NA math.NA
The GMRES method for solving the large indefinite least squares problem via an accelerated preconditioner
本研究针对大型不定最小二乘问题，将其正规方程转化为稀疏三乘三块线性系统，提出一种加速预条件GMRES方法，理论证明特征值聚集且数值实验验证有效性。
2025-05-23 cs.NA math.NA
Greedy double subspaces coordinate descent method via orthogonalization
坐标下降法是求解大型线性最小二乘问题的一种有效的迭代法。在本文中，对于高度相干列的情况下，我们构造了一个有效的坐标下降法迭代投影的估计到一个解决方案的空间，通过Gram-Schmidt正交化的两个greenly选定的超平面形成。我们的方法可以被看作是一个简单的块版本的坐标下降法，其中涉及两个活动列。文中给出了该方法的收敛性分析，并通过数值模拟证实了该方法对具有高度相干列的矩阵的有效性。
2022-04-19 cs.NA math.NA math.OC
An orthogonalization-free implementation of the LOBPCG method in solving Kohn-Sham equation
本文提出一种免正交化的 LOBPCG 方法实现框架，通过避免正交化降低计算复杂度，并利用 OpenMP 并行化 R-R 过程及设计有效预处理策略，显著提升了求解 Kohn-Sham 方程 SCF 迭代的效率。
2023-06-28 cs.NA math.NA
An energy-efficient GMRES-Multigrid solver for space-time finite element computation of dynamic poro- and thermoelasticity
提出了求解双曲-抛物耦合多孔弹性或热弹性方程组的时空有限元法族。证明了离散问题的适定性。高阶近似继承了计算上可行的网格上的连续问题的解决方案的大多数丰富的结构是自然嵌入的。然而，对于这些族的成员，代数系统的块结构和解变得越来越复杂。我们提出并分析了一个强大的几何多重网格（GMG）预处理GMRES迭代。GMG方法使用局部Vanka型平滑器。它的作用是以精确的数学方式定义的。由于未知量的非局部耦合机制，平滑器应用于单元的补丁。这确保了误差频率的衰减。在一系列的数值实验中，包括一个具有挑战性的三维基准的实际利益，效率的求解器STFEM的说明和确认。分析了其并行可扩展性。除了经典的性能工程的研究，求解器的能源效率进行了调查，作为一个额外的和新兴的尺寸在设计和调整的算法及其硬件上的实现。
2023-03-12 cs.NA math.NA
A new block diagonal preconditioner for a class of $3\times 3$ block saddle point problems
研究了一类$3\times3$块鞍点问题的块预条件子的性能，这些问题是由求解含时Maxwell方程的有限元法和其它一些实际问题引起的.我们还估计了预条件矩阵特征值的上下上界。\cred {最后，我们测试了我们的新预条件子，以加快GMRES方法的收敛速度，这表明了预条件子的有效性。
2021-09-23 cs.NA math.NA
Gl-QFOM and Gl-QGMRES: two efficient algorithms for quaternion linear systems with multiple right-hand sides
针对多右端项四元数线性系统求解问题，提出基于四元数矩阵Krylov子空间投影的Gl-QFOM与Gl-QGMRES算法，推导全局四元数Arnoldi过程，完成收敛分析并拓展至Sylvester四元数矩阵方程，数值实验验证其优于传统实表示迭代法。
2023-08-25 cs.NA math.NA
A deflated Schur complement method for the iterative solution of a high-order discontinuous element discretization of the Poisson equation
Cornell University（康奈尔大学）
本文提出一种结合块雅可比和消去预处理的方法，用于求解泊松-诺伊曼系统在不可压缩纳维-斯托克斯方程操作分裂中的施乌尔补问题，证明该方法在不影响精度的情况下可解决施乌尔补问题的不一致性。
2016-01-13 cs.NA math.NA
A block preconditioner with two parameters for double saddle point systems in liquid crystal director modeling
University of Kurdistan（库尔德斯坦大学）；University of Guilan（吉兰大学）
本文针对液晶指向矢建模的双鞍点系统，提出双参数块预条件子，建立收敛条件、完成谱分析以确定参数策略，用于加速柔性GMRES收敛，实验验证其性能优异。
2026-08-11 cs.NA math.NA
Matrix-Free FFT-HSS Preconditioning for Periodic Landau-Lifshitz-Gilbert Saddle-Point Systems
Tongji University（同济大学）；The Chinese University of Hong Kong（香港中文大学）
针对朗道 - 里夫希茨 - 吉尔伯特方程数值模拟难题，结合基于快速傅里叶变换的技术与分裂迭代法，为隐式欧拉格式开发无矩阵预条件器，研究克兰克 - 尼科尔森格式，经实验验证该方法能有效用于大规模微磁模拟。
2026-08-11 cs.NA math.NA
Consistency enforcement for the iterative solution of weak Galerkin finite element approximation of Stokes flow
针对Stokes问题有限元离散产生的不一致鞍点系统导致迭代法难收敛的问题，提出修改最低阶弱Galerkin离散线性系统右端项的一致性强制方法，搭配预处理器与MINRES/GMRES法，实现与粘度、网格无关的收敛，且不影响最优阶精度。
2024-12-13 cs.NA math.NA
A new iterative method for solving a class of two-by-two block complex linear systems
本文提出了一种定常迭代法，即交替对称正定和尺度对称半正定分裂法（ASSS），用于求解分布式最优控制问题的有限元离散化得到的线性方程组和时间周期抛物型方程。给出了迭代法的谱半径的一个上界，它总是小于1。从而保证了ASSS迭代法的收敛性。导出的ASSS预条件子用于加速GMRES方法求解该系统的收敛速度。数值结果证明了ASSS迭代法和ASSS预条件子的有效性。
2021-06-18 cs.NA math.NA
Randomized Block Davidson Eigensolvers for Plane-Wave Density-Functional Theory
Paul Scherrer Institute（保罗谢勒研究所）；École Polytechnique Fédérale de Lausanne (EPFL)（洛桑联邦理工学院）；Swiss National Supercomputing Centre (CSCS)（瑞士国家超级计算中心）；ETH Zurich（苏黎世联邦理工学院）
本文提出分块随机Davidson本征求解器，用随机Gram-Schmidt替代正交化，在特定矩阵规模下比确定性求解器更快，其收益受所需态与问题维度缩放关系影响。
2026-08-26 cond-mat.mtrl-sci cs.NA math.NA
Optimal and Low-Memory Near-Optimal Preconditioning of Fully Implicit Runge-Kutta Schemes for Parabolic PDEs
Runge-Kutta（RK）格式，特别是Gauss-Legendre和其他一些全隐式RK（FIRK）格式，由于其A-稳定性和高阶精度，在抛物型偏微分方程的时间积分中是理想的。然而，这是显着更具挑战性的构造最佳预条件相比，对角隐式RK（或DIRK）计划。为了解决这一挑战，我们首先引入数学上最优的预条件，称为块复舒尔分解（BCSD），块实舒尔分解（BRSD），和块约旦形式（BJF），由块循环预条件和约旦形式解决方案技术IRK的动机。然后，我们得到了一个有效的，近最佳的单对角近似BRSD（SABRSD）的近似实Schur分解中的准三角矩阵使用一个优化的上三角形矩阵与一个单一的对角线值。SABRSD的一个理想特性是它具有与单个DIRK（SDIRK）相当的内存需求和因子分解（或设置）成本。在这些预处理技术中，我们使用具有（近）线性复杂度的不完全因式分解来近似对角块，例如多级ILU，ILU（0）或具有基于ILU的平滑器的多重网格方法。本文将右预处理GMRES中的块预处理子应用于三维对流扩散方程的有限元和有限差分法求解。我们表明，BCSD，BRSD和BJF显着优于其他预条件的GMRES迭代，和SABRSD是有竞争力的，他们和现有技术的计算成本方面，同时需要最少的内存。
2021-06-13 cs.NA math.AP math.NA
Block preconditioning methods for asymptotic preserving scheme arising in anisotropic elliptic problems
强各向异性椭圆型方程的高效、鲁棒迭代求解是一个极具挑战性的问题。本文提出了一种块预处理方法来求解一类微宏保渐近（MMAP）格式的线性代数系统。MMAP方法由Degond { \it et al.}其中离散矩阵具有$2\times2$块结构。利用近似Schur补构造了一系列块预条件子。我们首先分析一个自然的近似舒尔补，它是原始非AP离散化的系数矩阵。然而，它往往是奇异的非常小的各向异性参数。然后，我们改进它通过使用更合适的近似边界行的确切舒尔补。利用这些块预条件子，建立了求解离散方程组的预条件GMRES迭代法。一些数值试验表明，块预处理方法可以是一个强大的战略方面的网格细化和各向异性的强度。
2021-11-16 cs.NA math.NA
On $τ$-preconditioners for a quasi-compact difference scheme to Riesz fractional diffusion equations with variable coefficients
Hanshan Normal University（韩山师范学院）；Southwestern University of Finance and Economics（西南财经大学）；University of Insubria（因苏布里亚大学）；University of Uppsala（乌普萨拉大学）
针对变系数Riesz分数阶扩散方程离散的非对称线性系统，提出τ预条件子加速GMRES收敛，理论与数值结果验证其有效性。
2026-08-05 cs.NA math.NA
Block triangular preconditioning for inverse source problems in time-space fractional diffusion equations
University of Insubria（因苏布里亚大学）；Uppsala University（乌普萨拉大学）；University of Cagliari（卡利亚里大学）
针对时空分数阶扩散方程反源问题，本文采用拟边值正则化与有限差分离散，并提出块三角预处理策略，显著提升GMRES的收敛性、鲁棒性与精度。
2025-09-29 cs.NA math.NA
Hardware-Oriented Krylov Methods for High-Performance Computing
Krylov子空间方法是数值模拟软件的重要组成部分。现代硬件的有效利用是这些方法发展中的一个具有挑战性的问题。在这项工作中，我们开发Krylov子空间方法来解决多个右手边的线性系，适合现代硬件的高性能计算。为此，我们分析了一个创新的块Krylov子空间框架，允许平衡计算和数据传输成本的硬件。基于该框架，我们制定了常用的Krylov方法。对于CG和BiCGStab方法，我们引入了一种新的稳定方法作为通货紧缩策略的替代方案。这有助于我们保留块大小，从而实现更简单，更高效的实现。此外，针对分布式存储系统和通信开销的特点，进一步优化了算法.对于CG方法，我们分析了重叠的通信和计算的方法，并提出了CG方法的多个变体，这些变体在它们的通信特性上有所不同。此外，我们提出了优化的正交化过程中的GMRes方法。除了引入一个流水线的Gram-Schmidt变体，重叠的全球通信的内积的计算，我们提出了一种新的正交归一化方法的基础上的TSQR算法，这是通信最优的和稳定的。对于所有优化的方法，我们提出了测试，显示其在分布式设置的优越性。
2021-04-06 cs.DC cs.MS cs.NA
Computing excited states with isometric tensor networks in two-dimensions
Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）；California Institute of Technology（加州理工学院）
本文提出一种基于块等距投影纠缠对态（block-isoPEPS）的子空间迭代方法，用于高效计算二维量子多体哈密顿量的激发态，并通过横场伊辛和海森堡模型验证了其可扩展性。
2025-10-22 cs.NA math.NA
GP-CMRH: An inner product free iterative method for block two-by-two nonsymmetric linear systems
针对块二乘二非对称线性系统，提出无内积迭代方法GP-CMRH，通过同时Hessenberg过程降低计算成本，在保持与GPMR可比收敛行为的同时显著提升了运行效率并优于GMRES和CMRH。
2025-09-14 cs.NA math.NA
On fixed-point, Krylov, and $2\times 2$ block preconditioners for nonsymmetric problems
本文研究非对称2×2块矩阵的迭代求解，证明在精确求逆一个对角块的条件下，块预条件Krylov或定点迭代的收敛性与预条件Schur补问题等价，并指出有效Schur补预条件子是块预条件GMRES快速收敛的充要条件，同时揭示近似块LDU等预条件子相对块三角预条件子迭代次数减少有限。
2020-03-26 cs.NA math.NA
Augmented Block-Arnoldi Recycling CFD Solvers
针对循环GCRO方法基向量正交化计算量大的问题，引入低同步算法进展，采用带块下三角校正矩阵的逆紧致WY改进Gram-Schmidt块间正交化方案，结合加权投影可大幅减少迭代次数，且循环子空间特征谱可替代预处理器。
2023-06-09 cs.NA math.NA
Hybrid Analog-Digital Approximate Inverse Preconditioning for Krylov Methods
Emory University（埃默里大学）；Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）；Thomas J. Watson Research Center, IBM（IBM 托马斯·J·沃森研究中心）
研究混合数模环境下Krylov子空间方法的近似逆预条件，采用灵活GMRES处理模拟预条件的不精确性，通过模拟感知的块大小、阻尼等设计实现稳健收敛。
2026-11-13 cs.NA math.NA
A Generalized Block Circulant Preconditioner for Crank-Nicolson All-at-Once Systems with Applications to Option Pricing PDEs
Sichuan Normal University（四川师范大学）；Southwestern University of Finance and Economics（西南财经大学）；Utrecht University（乌得勒支大学）
本文针对Crank-Nicolson离散格式的串行缺陷，提出全离散格式与广义块循环预条件子，实现时间并行求解，其预条件化GMRES方法收敛速度与离散步长无关，经期权定价PDE数值实验验证有效。
2026-08-05 cs.NA math.NA
Structural Packing and Dyadic Factorization of Sparse Positive Definite Matrices
Institute of Mathematics, University of Wrocław（弗罗茨瓦夫大学数学研究所）；Department of Statistics, Lund University（隆德大学统计系）
本研究将嵌套剖分重构为两阶段框架，提出基于ℓ₁准则的打包算法与二元结构化矩阵分解理论，实现了大型稀疏正定矩阵的高效求逆。
2026-09-01 cs.NA math.NA stat.CO
Efficient Krylov solvers for inverse source problem in 2D space-time fractional diffusion equation
University of Insubria（因苏布里亚大学）；Uppsala University（乌普萨拉大学）
针对二维变系数时空分数阶扩散方程的逆源问题，采用拟边界正则化方法，通过GLT理论分析离散矩阵谱性质并构造多级Toeplitz-like预条件子，加速GMRES收敛。
2026-06-25 cs.NA math.NA
Efficient parameter-robust preconditioners for linear poroelasticity and elasticity in the primal formulation
针对多孔弹性离散化产生的大规模鞍点系统，提出非奇异块三角Schur补预条件子，其特征值簇半径独立于网格尺寸、时间步长和锁定参数，结合无锁定弱Galerkin有限元方法，实现了高效且参数鲁棒的快速迭代求解。
2025-06-26 cs.NA math.NA
Fast solvers for two-dimensional fractional diffusion equations using rank structured matrices
考虑了含分数阶导数的时空扩散方程在空间域和一维或二维空间域的离散化问题。在时间上采用隐式Euler格式，在空间上采用有限差分或有限元，得到一系列稠密的大规模线性系，描述解在时间上的行为。我们证明了在一维上下文中产生的系数矩阵的秩结构，可以有效地表示使用分层格式（$\mathcal H$ -矩阵，HODLR）。这些矩阵的非对角块的秩的定量估计。我们分析使用HODLR算法解决一维的情况下，我们比较这种策略与现有的方法，利用Toeplitz结构的GMRES迭代的先决条件。数值试验表明，HODLR格式的方便时，至少需要一个合理的低数量的时间步长。最后，我们解释了如何利用这些属性来设计快速求解器的二维空间域的问题，可以重新表述为矩阵方程。实验结果表明，该方法的基础上使用的秩结构的算法是特别有效的，优于目前的最先进的技术。
2019-08-10 cs.NA math.NA
A modified version of the PRESB preconditioner for a class of non-Hermitian complex systems of linear equations
针对一类二阶块非埃尔米特复线性方程组，提出改进的PRESB预条件子，分析其谱性质，给出迭代求解方案，并通过数值实验验证其在PDE约束优化问题中的有效性。
2024-05-14 cs.NA math.NA
