Short-Recurrence and -Storage Recycling of large Krylov-Subspaces for Sequences of Linear Systems with changing Right-Hand-Sides
本文提出新的原理和迭代方法,用于求解具有固定系数矩阵和变化右端的线性系统序列,通过回收前一系统求解过程中获得的子空间信息,利用短递推和小存储需求提高效率。
2015-12-16 cs.NA math.NA
Krylov Subspace Recycling for Evolving Structures
Krylov子空间循环是一个强大的工具,用于解决长系列的大型,稀疏的线性系,变化缓慢。在PDE约束形状优化中,这些会很自然地出现,因为需要数百个或更多的优化步骤,而几何形状只有很小的变化。然而,在这种情况下,应用Krylov子空间回收可能是困难的。随着几何形状的演变,有限元网格也会演变,特别是在需要重新网格化的情况下。结果,系统中的代数自由度的数量可以从一个优化步骤到下一个优化步骤改变,并且有限元系统矩阵的大小也随之改变。网格的变化也会导致基质的结构变化。在重新划分网格的情况下,即使几何体仅发生微小变化,相应的网格也可能与前一个网格有很大不同。这就防止了线性系矩阵的近似不变子空间(本文中回收的重点)从一个步骤到下一个步骤的任何直接映射;对于其他选定的子空间也会出现类似的问题。我们提出了一个算法,一般网格映射的近似不变子空间的系统矩阵的前一个优化步骤的近似不变子空间的系统矩阵的当前优化步骤。我们利用从系数向量到网格上的有限元函数的映射,结合有限元网格上的函数逼近。此外,我们开发了一个简单的热启动适应的Krylov-Schur算法[G.W. Stewart,SIAM J. Matrix Anal. Appl.23,2001],以在需要时在新的优化步骤开始时改进近似不变子空间。我们证明了我们的方法的有效性,数值与几个证明的概念研究一个特定的网格技术。
2020-10-22 cs.NA math.NA
Efficient gradient-based methods for bilevel learning via recycling Krylov subspaces
本文提出一种基于Ritz广义奇异向量的新型Krylov子空间回收策略,用于高效计算双层学习中的超梯度,并通过成像反问题实验验证了其有效性。
2025-10-08 cs.NA math.NA math.OC
Unprojected recycled block Krylov subspace methods for shifted systems
[Soodhalter,SISC 2016]中首次提出使用块Krylov子空间方法计算使用子空间回收的移位线性系序列的解,其中提出了回收移位块GMRES算法(rsbGMRES)。这样的方法使用的移位系统的西尔维斯特方程的等价性,并利用从西尔维斯特算子生成的块Krylov子空间的移位不变性。这避免了需要初始残差跨越相同的子空间,并允许一个可行的重新启动Krylov子空间方法与循环求解序列的移位系统。在本文中,我们建议开发这些类型的方法使用非投影Krylov子空间。在这样做的过程中,我们展示了如何克服与开发方法的基础上,如rsbGMRES预测克雷洛夫子空间的困难,同时也允许实用的方法,以适应一个众所周知的残差投影框架。此外,当投影仪应用昂贵时,已知非投影方法是有利的,这使得它们对于高性能计算应用非常感兴趣。我们开发了一个非投影rsbFOM和非投影rsbGMRES。我们还开发了一个程序,用于提取移位相关的谐波Ritz向量的增广块Krylov子空间移位系统产生的方法选择一个新的循环子空间后,每个周期的算法。数值实验证明了该方法的有效性。
2022-09-14 cs.NA math.NA
Accelerating Data Generation for Neural Operators via Krylov Subspace Recycling
University of Science and Technology of China(中国科学技术大学);Tsinghua University(清华大学)
提出排序Krylov回收(SKR)方法,利用Krylov子空间回收和排序算法加速求解相关线性系统,从而显著提升神经算子训练数据生成效率,实现最高13.9倍加速。
2024-03-19 cs.AI cs.LG cs.NA
Recycling Krylov subspaces for CFD applications and a new hybrid recycling solver
Virginia Tech(弗吉尼亚理工大学);IIT Indore(印度理工学院印多尔分校)
本文提出一种混合回收求解器,结合BiCGStab的高效迭代与rGCROT的鲁棒性,提升求解无粘纳维-斯托克斯方程的效率和稳定性。
2015-09-25 cs.NA math.NA physics.comp-ph
Speeding up an unsteady flow simulation by adaptive BDDC and Krylov subspace recycling
Institute of Mathematics of the Czech Academy of Sciences(捷克科学院数学研究所);Faculty of Mechanical Engineering, Czech Technical University in Prague(布拉格捷克理工大学机械工程学院)
本文通过自适应BDDC和Krylov子空间回收技术,显著加速了不稳流模拟中大规模线性方程组的求解,节省了超过40%的计算时间。
2026-01-28 cs.NA math.NA
A survey of subspace recycling iterative methods
本次调查关注的子空间回收方法,一个流行的迭代法,使有效地重用子空间信息,以加快收敛速度,并找到良好的初始猜测序列的线性系缓慢变化的系数矩阵,多个右手边,或两者兼而有之。被再循环的子空间信息通常在对一个或多个系统运行迭代法(通常是Krylov子空间法)期间生成。在介绍了定义和符号之后,我们研究了早期增强方案的历史以及紧缩预处理方案及其对回收方法发展的影响。然后,我们讨论了一个一般的剩余约束框架,通过它可以看到许多增强Krylov和回收方法。在此框架内,我们回顾了几种增强和回收方法。然后,我们讨论了一些已知的有效的策略,选择子空间回收之前,采取读者通过最近的发展,广义回收(序列)转移线性系,其中一些考虑到多个右手边。我们圆了我们的调查,已经看到受益于子空间回收方法的应用领域的简要回顾。
2020-07-29 cs.NA math.NA
Recycling BiCG for families of shifted linear systems
本文提出改进的RBiCG算法,通过强制移位系统中的共线性条件,提升收敛性并高效求解多个移位线性系统。
2014-06-25 cs.NA math.NA
A comparison of Krylov methods for Shifted Skew-Symmetric Systems
本文针对位移反对称系数矩阵线性系统,提出使用短向量递归的MRS3最小残差求解器,通过理论与数值实验对比证明其为最快且最鲁棒的Krylov方法。
2023-04-08 cs.NA math.NA
Computing Reduced Order Models via Inner-Outer Krylov Recycling in Diffuse Optical Tomography
Tufts University(塔夫茨大学);Virginia Tech(弗吉尼亚理工大学)
本文提出通过内外Krylov回收方法动态计算降阶模型的全局基,以提高扩散光学断层成像中逆问题求解效率,减少大规模离散PDE求解成本。
2016-03-07 cs.NA math.NA
Recycling Krylov Subspaces for Efficient Partitioned Solution of Aerostructural Adjoint Systems
本文针对气动结构耦合伴随分区求解器迭代次数多的问题,提出结合近似不变子空间回收与内外 Krylov 求解器及特征向量压缩的加速方法,在 ONERA-M6 跨声速算例中使矩阵-向量乘积最多减少 39%。
2023-09-22 cs.NA math.NA
Minimal residual rational Krylov subspace method for sequences of shifted linear systems
STFC, Rutherford Appleton Laboratory(STFC 拉瑟福德·阿普尔顿实验室);Alma Mater Studiorum - Università di Bologna(博洛尼亚大学)
本文提出了一种基于最小余数有理Krylov子空间的方法,用于高效求解移位线性系统序列,尤其在处理非对称复数移位问题时表现优异。
2026-01-26 cs.NA math.NA
K$ω$ -- Open-source library for the shifted Krylov subspace method of the form $(zI-H)x=b$
我们开发了K $ω$,一个开源的线性代数库的移位Krylov子空间方法。该方法同时求解给定矩阵$H$和向量$b$的一组移位线性方程组$(z_k I-H)x^{(k)}=b\, (k=0,1,2,...)$。运营成本的首阶与单个方程的首阶相同。Krylov子空间的平移不变性是平移Krylov子空间方法的数学基础。在材料科学中的应用,以证明该算法的优势,标准的Krylov子空间方法,如Lanczos方法。我们介绍基准计算(i)激发(光学)光谱和(ii)中间本征值的轮廓积分的复平面。结合量子晶格求解器$\mathcal{H} Φ$,K $ω$可实现多种量子晶格模型激发谱和中间本征值的并行计算。
2020-05-28 cond-mat.str-el cs.NA math.NA
Subspace Recycling for Sequences of Shifted Systems with Applications in Image Recovery
本文针对图像恢复中非线性迭代产生的移位系统序列,提出了一种内外Krylov子空间回收方法,通过主回收空间和特定移位回收空间构建初始猜测,大幅减少了矩阵-向量乘积总数并加速收敛。
2023-06-26 cs.NA math.NA
Recycling MMGKS for large-scale dynamic and streaming data
针对 MM-GKS 在大规模问题中反复扩展子空间导致的内存与正交化开销,提出 RMM-GKS,通过交替扩大、压缩并回收重要 GKS 方向,支持动态光声层析与流式 CT 成像。
2023-09-27 cs.NA math.NA
Augmented unprojected Krylov subspace methods
本文证明增广 Krylov 子空间方法的投影问题具有等价的非投影表述,据此推导出首个非投影增广 FOM 并证明其作为回收方法的有效性,同时展示了 R$^{3}$GMRES 和非投影增广短递归方法(如 AugCG)在特定条件下契合该框架。
2023-05-18 cs.NA math.NA
A Flexible Krylov Solver for Shifted Systems with Application to Oscillatory Hydraulic Tomography
针对振荡水力学层析成像中出现的移位线性系统,提出一种灵活的预条件Krylov子空间求解器,允许预条件子每步变化,并分析其收敛性和误差,通过实际应用验证计算效率。
2014-02-17 cs.NA math.NA
Krylov Subspace Recycling for Fast Iterative Least-Squares in Machine Learning
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
本文研究了利用Krylov子空间回收方法提高机器学习中对称正定线性问题求解效率,通过迭代优化低秩近似以平衡计算成本与数值精度。
2017-06-01 cs.LG cs.NA math.NA
On Krylov subspace methods for skew-symmetric and shifted skew-symmetric linear systems
本文将非奇异反对称线性系统的Krylov子空间方法数值等价性扩展至奇异情形,系统研究了基于Lanczos三角化的移位反对称线性系统求解方法S$^3$CG、S$^3$MR和S$^3$LQ,并给出新理论结果与方法间关系。
2023-07-31 cs.NA math.NA
An improved Krylov eigenvalue strategy using the FEAST algorithm with inexact system solves
FEAST特征值算法是一种子空间迭代算法,它使用复平面中的轮廓积分来获得位于任何用户定义的搜索区间中的特征值的矩阵的特征向量。通过计算在复平面的特定区域中的少量特征值,FEAST能够通过同时求解多个特征对来自然地并行化本征值问题的解决方案。传统的FEAST算法是通过直接求解移位的线性系方程组来实现的;在本文中,我们描述了一种使用迭代Krylov子空间算法来不精确地求解移位的线性系的FEAST算法的变体。我们表明,这种迭代FEAST算法(我们称之为IFEAST)是数学上等价的块Krylov子空间方法解决本征值问题。通过使用Krylov子空间间接通过解决移位线性系,而不是直接投影的特征值问题,IFEAST是能够解决本征值问题使用非常大的维度Krylov子空间,而不必存储这些子空间的基础。因此,IFEAST结合了Krylov方法的灵活性和功能,只需要矩阵向量乘法来解决本征值问题,与传统FEAST算法的自然并行性。我们讨论IFEAST和更传统的Krylov方法之间的关系,并提供数值例子说明其行为。
2017-06-02 cs.NA math.NA
GMRES with randomized sketching and deflated restarting
提出一种结合随机草图与 deflate 重启的 Krylov 子空间回收方法 GMRES-SDR,通过避免正交化完整基以降低计算开销,并从理论和数值实验上证明其残差收敛性及优于 GMRES-DR 和 GCRO-DR 的有效性。
2024-09-27 cs.NA math.NA
On an integrated Krylov-ADI solver for large-scale Lyapunov equations
在求解大规模李雅普诺夫方程的低秩ADI方法中,计算量最大的步骤之一是在每次迭代中求解一个移位的线性系。我们建议使用扩展的Krylov子空间方法完成这项任务。特别是,我们说明了如何可以构造一个单一的近似空间来解决所有的移位线性系需要达到规定的精度方面的李雅普诺夫剩余范数。此外,我们展示了如何充分合并的两个迭代程序,以获得一个新的,有效的实现低秩ADI方法,一类重要的方程。许多国家的最先进的算法的移位计算可以很容易地纳入我们的新计划,以及。几个数值结果说明了我们的新程序相比,低秩ADI方法的基础上稀疏直接求解器的移位线性系的实施潜力。
2022-08-08 cs.NA math.NA
Augmented Block-Arnoldi Recycling CFD Solvers
针对循环GCRO方法基向量正交化计算量大的问题,引入低同步算法进展,采用带块下三角校正矩阵的逆紧致WY改进Gram-Schmidt块间正交化方案,结合加权投影可大幅减少迭代次数,且循环子空间特征谱可替代预处理器。
2023-06-09 cs.NA math.NA
A note on augmented unprojected Krylov subspace methods
子空间循环迭代法和其他子空间增强方案是Krylov子空间方法的成功扩展,其中Krylov子空间用被认为有助于加速收敛或传达解的知识的向量所跨越的固定子空间来增强。最近,发表了一项调查,其中提出了描述绝大多数此类方法的框架[Soodhalter等人,GAMM-Mitt. 2020年]。在许多这些方法中,Krylov子空间是由依赖于增广空间的投影器组成的系统矩阵生成的子空间。然而,并不要求使用投影Krylov子空间。有一些增广方法是建立在使用由原始系统矩阵生成的Krylov子空间的基础上的,这些方法也适合于一般的框架。在这份说明中,我们观察到,一个增益的实施效益,考虑这种增强方法与非投影Krylov子空间的一般框架。我们通过将该想法应用于[Dong et al. ETNA 2014]中提出的R $^3$ GMRES方法来证明这一点,以获得简化的实现,并将该算法与基于灵活预处理的早期增强方案相连接[Saad. SIMAX 1997]。
2022-02-10 cs.NA math.NA
An accurate restarting for shift-and-invert Krylov subspaces computing matrix exponential actions of nonsymmetric matrices
提出了一种用移位求逆Krylov子空间方法计算非对称矩阵指数作用的精确剩余时间(AccuRT)重新启动方法。建议的重新启动方法是最近提出的RT(剩余时间)重新启动的扩展,它的目的是避免在传统的RT重新启动可能的精度损失。SAI Krylov方法的一个昂贵的部分是具有移位矩阵的线性系的解。由于AccuRT算法调整的移位值,我们讨论如何建议重新启动可以实现一个单一的LU分解(或预条件设置)的移位矩阵。数值实验表明,该方法提高了精度和效率。
2019-12-05 cs.NA math.NA physics.comp-ph
Recycling BiCGSTAB with an Application to Parametric Model Order Reduction
Indian Institute of Technology Indore(印度印度技术学院印多尔分校);Max Planck Institute for Dynamics of Complex Technical Systems(马克斯·普朗克复杂技术系统动力学研究所);Department of Mathematics, Virginia Tech(弗吉尼亚理工大学数学系)
本文提出了一种回收BiCGSTAB算法,用于高效求解非对称线性系统序列,相比其他方法在存储和计算成本上更具优势,并在参数模型降阶中取得显著效果。
2015-01-25 cs.NA math.NA
Recycling BiCG with an Application to Model Reduction
Virginia Tech(弗吉尼亚理工大学)
针对双线性系统序列求解问题,提出回收BiCG方法,通过回收两个Krylov子空间加速迭代,并在模型降阶中实现高达70%的迭代节省。
2011-10-16 cs.NA math.DS math.NA
Shifted Laplacian based multigrid preconditioners for solving indefinite Helmholtz equations
Ball State University(ball州立大学)
本文提出结合移位拉普拉斯和原方程的新型预处理器,通过加速Krylov迭代并改进多网格方法求解不定亥姆霍兹方程。
2013-12-10 cs.NA math.NA
Compact Rational Krylov for Parametrized Systems with Application to BEM Frequency Sweeping
KU Leuven(荷语鲁汶大学)
研究参数化线性系统求解问题,利用紧凑有理Krylov(CORK)框架,先线性化系统,制定左右预处理有理Krylov GMRES方法,展示其加速作用及相关应用,如通过边界元法对亥姆霍兹散射问题进行频率扫描。
2026-08-07 cs.MS cs.NA math.NA
Accelerating the iterative solution of convection-diffusion problems using singular value decomposition
SISSA — International School for Advanced Studies(国际高等研究院)
本文提出基于奇异值分解的回收策略,用于加速迭代求解对流-扩散问题,通过经典和新类型的增广与消去方法提升收敛速度。
2018-07-25 cs.NA math.NA
Bounds on the convergence of Ritz values from Krylov subspaces to interior eigenvalues of Hermitean matrices
Tait Institute SUPA NAIS and EPCC Department of Physics and Astronomy The University of Edinburgh(爱丁堡大学物理与天文学系)
通过移位平方矩阵上的 Kaniel-Paige-Saad 形式,推导了 Krylov 子空间序列中 Ritz 值收敛到 Hermite 矩阵内部特征值的界,适用于低谱密度区域(如谱空隙附近)。
2011-10-13 cs.NA hep-lat math.NA
A block Recycled GMRES method with investigations into aspects of solver performance
Oak Ridge National Laboratory(橡树岭国家实验室);Trinity College Dublin(都柏林三一学院);Temple University(天普大学)
本文提出一种块Krylov子空间版本的GCRO-DR方法,探讨了求解器性能中的关键问题,通过数值实验分析收敛性及数据移动效率。
2026-08-14 cs.NA math.NA
New efficient substepping methods for exponential timestepping
Heriot-Watt University(赫瑞-瓦特大学)
本文提出新的高效子步方法,通过分解时间步并重用Krylov子空间降低计算成本,提出一种二阶积分器提升整体精度,适用于大规模系统。
2016-08-06 cs.NA math.NA
Adaptive rational Krylov methods for exponential Runge--Kutta integrators
针对大型刚性ODE求解中多项式Krylov方法迭代次数随谱半径激增的问题,提出带后验误差估计的自适应有理Krylov方法,大谱半径下性能更优且运行时间近线性缩放。
2023-08-23 cs.NA math.NA
Two recursive GMRES-type methods for shifted linear systems with general preconditioning
本文提出了两种求解移位线性系序列的最小残差方法,即右预处理移位GMRES和移位回收GMRES算法。这些方法与所有系统的一般预处理是兼容的,并且当仅限于右预处理时,不需要额外的算子或预处理器。这些种子投影方法对基本系统执行最小残差迭代,同时以很少的额外成本改进移位系统的近似。迭代继续,直到基本系统近似具有令人满意的质量。该方法,然后递归调用其余的未收敛系统。我们提出了这两种方法内的一个一般的框架,允许这些技术被扩展到设置灵活的预处理和不精确的Krylov方法。我们提出了一些这样的方法和数值实验的分析,证明了我们所得出的算法的有效性。
2016-02-03 cs.NA math.NA
A CG Method for Multiple Right Hand Sides and Multiple Shifts in Lattice QCD Calculations
Bergische Universität Wuppertal(伍珀塔尔大学)
本文提出一种基于块Lanczos过程的块Krylov子空间方法,同时利用平移和多个右端项,高效求解格点QCD中出现的线性系统。
2012-05-02 cs.NA hep-lat math.NA
Efficient variants of the CMRH method for solving a sequence of multi-shifted non-Hermitian linear systems simultaneously
具有非厄米系数矩阵的多移位线性系出现在时变偏/分数阶微分方程(PDE/FDES)的数值解、控制理论、PageRank问题和其他研究领域中。我们推导出有效的变种重新启动的改变最小残差方法的基础上,成本效益的Hessenberg程序(CMRH)这类问题。然后,我们引入了一个灵活的算法的变体,允许在每次迭代中使用变量预处理,以进一步加速移位CMRH的收敛。我们分析了这类新方法在偏微分方程和有限差分方程的数值解中的性能,以及对其他多移位Krylov子空间方法的性能。
2019-08-20 cs.NA math.NA
M(s)stab(L): A Generalization of IDR(s)stab(L) for Sequences of Linear Systems
RWTH Aachen University(亚琛工业大学)
本文提出Mstab方法,用于求解具有固定系统矩阵和变化右端项的线性系统序列,相比IDRstab方法在处理序列时更高效。
2016-04-20 cs.NA math.NA
A shifted Laplace rational filter for large-scale eigenvalue problems
针对对称正定特征值问题,提出一种受移位拉普拉斯预条件子启发的有理滤波器极点选择方法,平衡特征值增强与迭代求解器收敛,并在振动有限元模型中验证其优于基于求积的轮廓积分滤波器。
2025-03-27 cs.NA math.NA
Priorconditioned Sparsity-Promoting Projection Methods for Deterministic and Bayesian Linear Inverse Problems
针对S-GKS方法收敛慢的问题,提出结合预条件的PS-GKS方法及其变体,通过集成IAS算法自动选择超先验参数,理论分析与数值实验证明其优于现有混合Krylov方法。
2025-05-03 cs.NA math.NA