Biorthogonal Extended Krylov Subspace Methods
给出了非厄米矩阵在有理Krylov子空间上斜投影的一般框架。为了获得这个框架,我们重新审视了经典的合理Krylov子空间算法,并证明了投影矩阵可以有效地写为结构铅笔,其中的结构可以采取几种形式,如Hessenberg或逆Hessenberg。在这个斜投影框架中出现的结构的一个具体实例是三对角束。这是经典的双正交Krylov子空间方法的直接推广,其中投影成为一个单一的非厄米特三对角矩阵和合理的Krylov子空间的Hessenberg铅笔表示。基于这个三对角束在双正交集上的紧凑存储,我们可以得到短递归。数值实验证实了该方法的有效性。
2019-11-15 cs.NA math.NA
Block Krylov subspace recycling for shifted systems with unrelated right-hand sides
许多用于移位线性系的Krylov子空间方法利用Krylov子空间在矩阵移位下的不变性。然而,在非埃尔米特情况下利用这一事实引入了限制;例如,初始残差必须是共线的,并且在重新启动时必须保持该共线。因此,我们不能同时解决移位系统与不相关的右手边使用这种策略,所有的移位残差不能同时最小化的Krylov子空间,使共线性保持。已经表明,这使得它们通常与子空间再循环技术不兼容[Soodhalter等人,APNUM '14]。然而,这个问题是可以克服的。通过将一族移位系统解释为一个Sylvester方程,我们可以利用Sylvester算子生成的Krylov子空间的已知“移位不变性”。因此,我们可以同时解决所有系统在一个块Krylov子空间使用FOM或GMRES类型的方法,即使他们有不相关的右手边。由于剩余共线性不再是重新启动时的要求,这些方法与子空间回收技术完全兼容。此外,我们认识到块稀疏矩阵操作的好处,出现在高性能计算应用程序的背景下。在本文中,我们讨论利用这西尔维斯特方程的观点,产生了方法的移位系统是兼容的无关的右手边。在此基础上,我们提出了一种同时求解位移方程组的循环GMRES方法,数值实验表明了该方法的有效性。
2015-10-26 cs.NA math.NA
Computation of generalized matrix functions with rational Krylov methods
我们提出了一类基于有理Krylov方法的算法来计算广义矩阵函数对向量的作用。这些算法将现有的方法的基础上Golub-Kahan双对角化作为一种特殊情况。通过利用投影矩阵的准可分结构,我们证明了基向量可以使用短递归来更新,这可以被看作是Golub-Kahan双对角化的合理情况的推广。我们还证明了这些方法的误差一致有理逼近的误差界。数值实验表明了算法的有效性和边界的准确性。
2021-07-26 cs.NA math.NA
Memory-efficient recycling of large Krylov-subspaces for sequences of Hermitian linear systems
RWTH Aachen(亚琛工业大学);Institut für Geometrie und Praktische Mathematik (IGPM), RWTH Aachen(亚琛工业大学几何与应用数学研究所)
本文提出一种高效回收Krylov子空间的方法,用于解决具有固定矩阵和变化右端的Hermitian线性系统序列,通过残差优化预处理共轭残差法实现更小的计算开销和存储需求。
2016-04-14 cs.NA math.NA
The Hamiltonian Extended Krylov Subspace Method
导出了构造扩展Krylov子空间$\mathcal{K}_{r,s}=\operatorname{range}\{u,Hu, H^2u,$ $ \ldots, $ $H^{2r-1}u, H^{-1}u, H^{-2}u, \ldots, H^{-2s}u\},$的$J$ -正交基的算法(对于$r = s+1$或$r=s$),其中$H \in \mathbb{R}^{2n \times 2n}$是一个大的(且稀疏的)哈密顿矩阵.令人惊讶的是,这允许最多涉及五个先前生成的基向量的短递归。将$H$投影到子空间$\mathcal{K}_{r,s}$上产生小的哈密顿矩阵。可以使用所得到的HEKS算法以便近似$f(H)u$,其中$f$是将哈密顿矩阵$H$映射到例如(斜)哈密尔顿矩阵或辛矩阵。数值实验表明,近似$f(H)u$与HEKS算法相比,使用其他(结构保持)Krylov子空间方法的一些功能是有竞争力的。
2022-02-25 cs.NA math.NA
Numerical analysis of the maximal attainable accuracy in communication hiding pipelined Conjugate Gradient methods
University of Antwerp(安特卫普大学)
本文研究了流水线共轭梯度方法中局部舍入误差对可实现精度的影响,通过推导变量间隙表达式并进行数值实验,分析了误差传播对精度的效应。
2018-08-21 cs.NA math.NA
Adaptive Krylov-Type Time Integration Methods
Rosenbrock-Krylov族时间积分方案是Rosenbrock-W方法的扩展,其采用特定的基于Krylov的对积分器的每个阶段内产生的线性系解的近似。这项工作提出了一个扩展的Rosenbrock-Krylov方法,以解决稳定性问题的方法,利用不精确的线性系解决方案的战略。提出了两种提高Rosenbrock-Krylov方法稳定性和效率的方法,一种是通过直接控制线性系残差,另一种是通过扩展Krylov空间使其包含阶段右侧向量.采用新方法的Rosenbrock-Krylov方法显示出相对于先前实现的计算效率的实质性改进。
2019-10-06 cs.NA math.NA
Finite-Precision Symmetric Krylov Methods: Exact Rounding Examples, Block Paige Identities,and a Variable-Block Lanczos Model
本文研究有限精度下对称 Krylov 方法的数值分歧,通过精确舍入示例和块 Paige 恒等式,提出变块 Lanczos 模型,并给出精度界和收敛性分析。
2026-09-09 cs.NA math.NA
Numerical methods for differential linear matrix equations via Krylov subspace methods
Université des Sciences et Technologies de Lille(里尔科学技术大学);L.M.P.A, Université du Littoral Côte d’Opale(海岸大学应用数学与概率实验室)
本文提出计算大规模微分线性矩阵方程近似解的数值方法,采用全局Galerkin和范数最小化方法求解全秩方程,利用扩展全局Arnoldi过程求解低秩方程,并提供理论结果和数值实验。
2018-05-25 cs.NA math.NA
Augmented unprojected Krylov subspace methods
本文证明增广 Krylov 子空间方法的投影问题具有等价的非投影表述,据此推导出首个非投影增广 FOM 并证明其作为回收方法的有效性,同时展示了 R$^{3}$GMRES 和非投影增广短递归方法(如 AugCG)在特定条件下契合该框架。
2023-05-18 cs.NA math.NA
Biorthogonal Rosenbrock-Krylov time discretization methods
许多科学应用需要求解大初值问题,如偏微分方程空间半离散化后的直线法所产生的问题。隐式时间离散化的计算成本主要取决于在每个时间步上的非线性系统方程的解。为了减少这种成本,最近发展的Rosenbrock-Krylov(ROK)时间积分方法扩展了经典的线性隐式Rosenbrock(-W)方法,并利用Krylov子空间近似的雅可比矩阵通过Arnoldi过程计算。由于ROK序条件依赖于单个Krylov空间的构造,因此不允许重新启动Arnoldi过程,并且随着子空间维度的增加,迭代很快变得昂贵。这项工作扩展了韩国的框架,使利用Lanczos双正交化过程构建雅可比近似。由此产生的新的家庭的方法被命名为双正交韩国(BOROK)。Lanczos程序的短期两项递归允许BOROK方法利用更大的子空间的雅可比近似,从而增加了数值稳定性的时间积分在降低计算成本。自适应子空间大小的选择和基扩展程序也开发了新的计划。数值实验表明,对于刚性问题,需要一个大的子空间来近似雅可比矩阵的稳定性,BOROK方法优于原来的ROK方法。
2019-08-28 cs.NA math.NA
From low-rank approximation to an efficient rational Krylov subspace method for the Lyapunov equation
Skolkovo Institute of Science and Technology(斯科尔科沃科学技术研究所);Institute of Numerical Mathematics(计算数学研究所)
本文提出一种基于自适应移位扩展有理Krylov子空间近似的Lyapunov方程近似求解方法,结合线性ODE系统求解与低秩近似交替最小二乘法,验证了方法的有效性。
2015-05-26 cs.NA math.NA
Factorized Krylov subspace methods for solving large Sylvester equations
Hokkaido University(北海道大学);Nagoya University(名古屋大学)
本文提出一种基于矩阵Krylov子空间方法重构的低秩框架,利用Sylvester算子数学性质和右端项低秩结构,实现高效求解大型Sylvester方程的因子化算法。
2026-09-15 cs.NA math.NA
A CG Method for Multiple Right Hand Sides and Multiple Shifts in Lattice QCD Calculations
Bergische Universität Wuppertal(伍珀塔尔大学)
本文提出一种基于块Lanczos过程的块Krylov子空间方法,同时利用平移和多个右端项,高效求解格点QCD中出现的线性系统。
2012-05-02 cs.NA hep-lat math.NA
Lanczos with compression for symmetric eigenvalue problems
EPFL(洛桑联邦理工学院)
本文提出了一种基于有理逼近的Lanczos压缩方法,用于高效求解对称本征值问题,相较于传统方法在矩阵向量乘积效率上表现更优。
2026-08-20 cs.NA math.NA
The Short-term Rational Lanczos Method and Applications
有理Krylov子空间已成为降维过程中的几个应用问题的参考工具。当数据矩阵是对称的时,可以使用短期递归来生成关联的规范正交基。在过去,这个过程被放弃,因为它需要两倍的数量线性系解决每个迭代相比,经典的长期的方法。我们提出了一个实现,允许一个以较低的整体计算成本比在文献中提出的还方便地结合两个系统的解决方案,以获得合理的子空间减少矩阵。几个应用程序进行了讨论,短期递归功能,可以利用,以避免存储整个规范正交基。我们用几个例子说明了所提出的方法的优点。
2021-12-18 cs.NA math.NA
Krylov-subspace recycling via the POD-augmented conjugate-gradient method
Sandia National Laboratories(桑迪亚国家实验室);University of Maryland(马里兰大学)
本文提出一种新的Krylov子空间回收方法,用于高效求解右端变化的线性方程组。该方法基于目标导向的POD模型降阶思想,结合POD的最优性特性,提升子空间的适应性,通过混合直接/迭代三阶段方法提高求解效率。
2016-01-21 cs.NA math.NA
On a fast Arnoldi method for BML matrices
本文提出一种快速Arnoldi方法用于BML矩阵,通过GMRES残差向量生成正交Krylov基,利用低秩结构简化计算。
2017-02-02 cs.NA math.CA math.NA
An efficient block rational Krylov solver for Sylvester equations with adaptive pole selection
该研究提出一种求解低秩右端Sylvester方程的块有理Krylov投影算法,通过极点重排序实现低成本残差计算,将收敛分析推广到块情形并推导出自适应极点选择策略。
2023-08-25 cs.NA math.NA
Analyzing the effect of local rounding error propagation on the maximal attainable accuracy of the pipelined Conjugate Gradient method
University of Antwerp(安特卫普大学);Istanbul Kemerburgaz University(伊斯坦布尔凯梅尔巴扎大学);Inria Bordeaux - Sud-Ouest(法国国家信息与自动化研究所波尔多西南中心)
本文研究了流水线共轭梯度方法中局部舍入误差对最大可实现精度的影响,提出自动残差替换策略以提升精度并保持并行性能。
2017-11-29 cs.NA math.NA
Recycling Krylov Subspaces for Efficient Partitioned Solution of Aerostructural Adjoint Systems
本文针对气动结构耦合伴随分区求解器迭代次数多的问题,提出结合近似不变子空间回收与内外 Krylov 求解器及特征向量压缩的加速方法,在 ONERA-M6 跨声速算例中使矩阵-向量乘积最多减少 39%。
2023-09-22 cs.NA math.NA
Analyzing and improving maximal attainable accuracy in the communication hiding pipelined BiCGStab method
University of Antwerp(安特卫普大学)
本文研究了流水线BiCGStab方法在通信隐藏下的最大可实现精度,通过数值稳定性分析量化了局部舍入误差对多项递推中残差的最大可实现精度的影响,并通过数值实验验证了残差替换策略的有效性。
2019-03-25 cs.NA math.NA
Blockwise Stabilized Adaptive Cubic Regularization with Subsolvers via Recurrence
Texas State University(德克萨斯州立大学)
本文提出分块稳定自适应三次正则化优化器ARC-φ₁,将参数按张量分块求解,在大参数INR任务上收敛速度与性能显著优于Adam。
2026-10-16 cs.LG cs.NA math.NA
Strategies for the vectorized Block Conjugate Gradients method
块Krylov方法最近获得了很大的吸引力。由于它们增加了运算强度,它们提供了一种很有前途的方法来提高现代硬件的性能。最近Frommer等人提出了一个块Krylov框架,它结合了块Krylov方法和数据并行方法的优点。我们回顾了这个框架,并将其应用于块共轭矩阵方法,以解决具有多个右手边的线性系。在本课程中,我们考虑现代硬件上出现的挑战,如有限的内存带宽,SIMD指令的使用和通信开销。我们提出了一个性能模型来预测不同块CG变体的效率,并将其与实验数值结果进行比较。
2019-12-26 cs.MS cs.NA math.NA
Block variants of the COCG and COCR methods for solving complex symmetric linear systems with multiple right-hand sides
University of Electronic Science and Technology of China(电子科技大学);University of Groningen(格罗宁根大学);Nottingham Trent University(诺丁汉特伦特大学);Taishan University(泰山学院)
本文提出两种块变体的COCG和COCR方法,用于求解复对称线性系统,利用系数矩阵的复对称性,并通过数值实验展示其在电磁模拟中的收敛优势。
2016-01-20 cs.NA math.NA
Hardware-Oriented Krylov Methods for High-Performance Computing
Krylov子空间方法是数值模拟软件的重要组成部分。现代硬件的有效利用是这些方法发展中的一个具有挑战性的问题。在这项工作中,我们开发Krylov子空间方法来解决多个右手边的线性系,适合现代硬件的高性能计算。为此,我们分析了一个创新的块Krylov子空间框架,允许平衡计算和数据传输成本的硬件。基于该框架,我们制定了常用的Krylov方法。对于CG和BiCGStab方法,我们引入了一种新的稳定方法作为通货紧缩策略的替代方案。这有助于我们保留块大小,从而实现更简单,更高效的实现。此外,针对分布式存储系统和通信开销的特点,进一步优化了算法.对于CG方法,我们分析了重叠的通信和计算的方法,并提出了CG方法的多个变体,这些变体在它们的通信特性上有所不同。此外,我们提出了优化的正交化过程中的GMRes方法。除了引入一个流水线的Gram-Schmidt变体,重叠的全球通信的内积的计算,我们提出了一种新的正交归一化方法的基础上的TSQR算法,这是通信最优的和稳定的。对于所有优化的方法,我们提出了测试,显示其在分布式设置的优越性。
2021-04-06 cs.DC cs.MS cs.NA
Speeding up an unsteady flow simulation by adaptive BDDC and Krylov subspace recycling
Institute of Mathematics of the Czech Academy of Sciences(捷克科学院数学研究所);Faculty of Mechanical Engineering, Czech Technical University in Prague(布拉格捷克理工大学机械工程学院)
本文通过自适应BDDC和Krylov子空间回收技术,显著加速了不稳流模拟中大规模线性方程组的求解,节省了超过40%的计算时间。
2026-01-28 cs.NA math.NA
A survey of subspace recycling iterative methods
本次调查关注的子空间回收方法,一个流行的迭代法,使有效地重用子空间信息,以加快收敛速度,并找到良好的初始猜测序列的线性系缓慢变化的系数矩阵,多个右手边,或两者兼而有之。被再循环的子空间信息通常在对一个或多个系统运行迭代法(通常是Krylov子空间法)期间生成。在介绍了定义和符号之后,我们研究了早期增强方案的历史以及紧缩预处理方案及其对回收方法发展的影响。然后,我们讨论了一个一般的剩余约束框架,通过它可以看到许多增强Krylov和回收方法。在此框架内,我们回顾了几种增强和回收方法。然后,我们讨论了一些已知的有效的策略,选择子空间回收之前,采取读者通过最近的发展,广义回收(序列)转移线性系,其中一些考虑到多个右手边。我们圆了我们的调查,已经看到受益于子空间回收方法的应用领域的简要回顾。
2020-07-29 cs.NA math.NA
Fast Flexible LSQR with a Hybrid Variant for Efficient Large-Scale Regularization
本文提出快速灵活Golub-Kahan双对角化方法及FaFLSQR算法,通过结合长期与短期递推降低计算成本,在支持混合正则化的同时证明与FCGLS数学等价,并在浮点运算中显著提升计算效率。
2025-06-24 cs.NA math.NA
Gl-QFOM and Gl-QGMRES: two efficient algorithms for quaternion linear systems with multiple right-hand sides
针对多右端项四元数线性系统求解问题,提出基于四元数矩阵Krylov子空间投影的Gl-QFOM与Gl-QGMRES算法,推导全局四元数Arnoldi过程,完成收敛分析并拓展至Sylvester四元数矩阵方程,数值实验验证其优于传统实表示迭代法。
2023-08-25 cs.NA math.NA
Computing Reduced Order Models via Inner-Outer Krylov Recycling in Diffuse Optical Tomography
Tufts University(塔夫茨大学);Virginia Tech(弗吉尼亚理工大学)
本文提出通过内外Krylov回收方法动态计算降阶模型的全局基,以提高扩散光学断层成像中逆问题求解效率,减少大规模离散PDE求解成本。
2016-03-07 cs.NA math.NA
Toeplitz Infinite GMRES for Parameterized Linear Systems
Fudan University(复旦大学);Shanghai Key Laboratory of Contemporary Applied Mathematics(上海市当代应用数学重点实验室)
本文提出Toeplitz无限GMRES方法,利用块上三角Toeplitz结构高效求解多参数线性系统,通过增量递推和动态刷新策略降低计算与存储开销,并扩展至矩阵函数场景。
2026-10-27 cs.NA math.NA
Compact Rational Krylov for Parametrized Systems with Application to BEM Frequency Sweeping
KU Leuven(荷语鲁汶大学)
研究参数化线性系统求解问题,利用紧凑有理Krylov(CORK)框架,先线性化系统,制定左右预处理有理Krylov GMRES方法,展示其加速作用及相关应用,如通过边界元法对亥姆霍兹散射问题进行频率扫描。
2026-08-07 cs.MS cs.NA math.NA
Cross-interactive residual smoothing for global and block Lanczos-type solvers for linear systems with multiple right-hand sides
整体Krylov子空间方法和块Krylov子空间方法是求解具有多个右端的大型稀疏线性系的有效迭代方法。然而,全球或块Lanczos型求解器往往表现出大的振荡的残差范数,并可能有一个大的残差差距有关的损失可达到的精度的近似。传统的残差平滑方案抑制这些振荡,但不能提高可达到的精度,而最近的残差平滑方案,使单右手侧Lanczos型求解器的可达到的精度的提高。该方案的基本概念是近似和残差的原始和平滑序列相互影响,从而避免了舍入误差的严重传播。在目前的研究中,我们将这种交叉交互式残差平滑的情况下,解决线性系与多个右手边。所得到的平滑方法可以减少剩余的差距与低的额外成本相比,他们原来的同行。我们通过舍入误差分析和数值实验证明了该方法的有效性。
2022-03-02 cs.NA math.NA
XAMG: A library for solving linear systems with multiple right-hand side vectors
本文介绍了XAMG库求解大型稀疏系统的线性代数方程组与多个右手边向量。该图书馆专门但不限于从椭圆微分方程的离散化获得的线性系统的解决方案。相应的数值方法包括Krylov子空间、代数多重网格、Jacobi、Gauss-Seidel和Chebyshev迭代法。并行化采用MPI+POSIX共享内存混合编程模型实现,该模型采用三级层次分解,每级使用相应的同步和通信原语。该代码包含许多优化,包括多级数据分段、索引压缩、混合精度浮点计算、向量状态标志等。XAMG库使用著名的hypre库的程序代码来构造多重网格矩阵层次结构。XAMG自己的迭代法求解阶段的实现与hypre相比,为所执行的测试提供了两倍的加速。此外,XAMG还提供了扩展功能来解决具有多个右侧向量的系统。
2021-03-12 cs.DC cs.MS cs.NA
Recycling BiCG for families of shifted linear systems
本文提出改进的RBiCG算法,通过强制移位系统中的共线性条件,提升收敛性并高效求解多个移位线性系统。
2014-06-25 cs.NA math.NA
M(s)stab(L): A Generalization of IDR(s)stab(L) for Sequences of Linear Systems
RWTH Aachen University(亚琛工业大学)
本文提出Mstab方法,用于求解具有固定系统矩阵和变化右端项的线性系统序列,相比IDRstab方法在处理序列时更高效。
2016-04-20 cs.NA math.NA
A fast fractional block-centered finite difference method for two-sided space-fractional diffusion equations on general nonuniform grids
本文针对一般非均匀网格上的双边变系数空间分数阶扩散方程,提出分数阶块中心有限差分法,并结合指数和近似与Krylov子空间方法设计快速算法,显著降低计算复杂度和内存需求,同时保持精度。
2024-10-04 cs.NA math.AP math.NA
Preconditioned Chebyshev BiCG for parameterized linear systems
针对参数化大型稀疏非线性线性系统的多参数求解问题,提出基于切比雪夫插值伴随线性化的预处理BiCG短递推方法,一次运行可同时得到多参数解,通过Helmholtz方程离散问题验证了有效性且实验可复现。
2023-10-09 cs.NA math.NA
Recycling BiCGSTAB with an Application to Parametric Model Order Reduction
Indian Institute of Technology Indore(印度印度技术学院印多尔分校);Max Planck Institute for Dynamics of Complex Technical Systems(马克斯·普朗克复杂技术系统动力学研究所);Department of Mathematics, Virginia Tech(弗吉尼亚理工大学数学系)
本文提出了一种回收BiCGSTAB算法,用于高效求解非对称线性系统序列,相比其他方法在存储和计算成本上更具优势,并在参数模型降阶中取得显著效果。
2015-01-25 cs.NA math.NA
WING: A Simple Windowed Nonorthogonalized Initial Guess Procedure for Repeated Matrix Solves
University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校);University at Buffalo, State University of New York(纽约州立大学布法罗分校)
针对相同矩阵、相似右端项的序列线性系统,提出WING算法,通过跳过正交化并求解伪逆来降低初始猜测成本,数值实验证明其在粗相对容差下有效。
2026-06-08 cs.NA math.NA
Numerically Stable Variants of the Communication-hiding Pipelined Conjugate Gradients Algorithm for the Parallel Solution of Large Scale Symmetric Linear Systems
University of Antwerp(安特卫普大学)
本文提出并比较了几种稳定化的流水线共轭梯度方法,通过引入特定辅助变量的递归移位,减少局部舍入误差的放大,恢复计算精度并保持并行性能。
2018-09-06 cs.NA math.NA
The matrix-vector complexity of $Ax=b$
University of Michigan(密歇根大学);UC Berkeley(加州大学伯克利分校);ICSI(国际计算机科学研究所)
本文研究了求解线性方程组的矩阵-向量算法复杂度,证明了在最坏情况下所需矩阵-向量乘法次数的下界,验证了共轭梯度法的最优性。
2026-07-23 cs.DS cs.NA math.NA