Krylov Subspace Recycling for Evolving Structures
Krylov子空间循环是一个强大的工具,用于解决长系列的大型,稀疏的线性系,变化缓慢。在PDE约束形状优化中,这些会很自然地出现,因为需要数百个或更多的优化步骤,而几何形状只有很小的变化。然而,在这种情况下,应用Krylov子空间回收可能是困难的。随着几何形状的演变,有限元网格也会演变,特别是在需要重新网格化的情况下。结果,系统中的代数自由度的数量可以从一个优化步骤到下一个优化步骤改变,并且有限元系统矩阵的大小也随之改变。网格的变化也会导致基质的结构变化。在重新划分网格的情况下,即使几何体仅发生微小变化,相应的网格也可能与前一个网格有很大不同。这就防止了线性系矩阵的近似不变子空间(本文中回收的重点)从一个步骤到下一个步骤的任何直接映射;对于其他选定的子空间也会出现类似的问题。我们提出了一个算法,一般网格映射的近似不变子空间的系统矩阵的前一个优化步骤的近似不变子空间的系统矩阵的当前优化步骤。我们利用从系数向量到网格上的有限元函数的映射,结合有限元网格上的函数逼近。此外,我们开发了一个简单的热启动适应的Krylov-Schur算法[G.W. Stewart,SIAM J. Matrix Anal. Appl.23,2001],以在需要时在新的优化步骤开始时改进近似不变子空间。我们证明了我们的方法的有效性,数值与几个证明的概念研究一个特定的网格技术。
2020-10-22 cs.NA math.NA
Unprojected recycled block Krylov subspace methods for shifted systems
[Soodhalter,SISC 2016]中首次提出使用块Krylov子空间方法计算使用子空间回收的移位线性系序列的解,其中提出了回收移位块GMRES算法(rsbGMRES)。这样的方法使用的移位系统的西尔维斯特方程的等价性,并利用从西尔维斯特算子生成的块Krylov子空间的移位不变性。这避免了需要初始残差跨越相同的子空间,并允许一个可行的重新启动Krylov子空间方法与循环求解序列的移位系统。在本文中,我们建议开发这些类型的方法使用非投影Krylov子空间。在这样做的过程中,我们展示了如何克服与开发方法的基础上,如rsbGMRES预测克雷洛夫子空间的困难,同时也允许实用的方法,以适应一个众所周知的残差投影框架。此外,当投影仪应用昂贵时,已知非投影方法是有利的,这使得它们对于高性能计算应用非常感兴趣。我们开发了一个非投影rsbFOM和非投影rsbGMRES。我们还开发了一个程序,用于提取移位相关的谐波Ritz向量的增广块Krylov子空间移位系统产生的方法选择一个新的循环子空间后,每个周期的算法。数值实验证明了该方法的有效性。
2022-09-14 cs.NA math.NA
Krylov Subspace Recycling for Sequences of Shifted Linear Systems
我们研究了使用Krylov子空间回收的解决方案的序列缓慢变化的家庭的线性系,其中每个家庭由移位的线性系,不同的系数矩阵,只有倍数的身份。我们的目标是探索同时解决方案的每个家庭的移位系统的框架内的子空间回收,使用一个增广子空间提取候选解决方案的所有移位系统。理想的方法将为所有系统使用相同的增强子空间,并且具有固定的存储要求,与每个系列的移动系统数量无关。我们表明,满足这两个要求的方法不能存在于这个框架。作为替代方案,我们引入两个方案。我们为每个移位系统构造一个单独的收缩空间,但同时求解每个移位系统族。另一种方法只建立一个循环子空间,并在迭代线性求解器的每个循环中构造对移位系统的解的近似校正,同时只最小化基本系统残差。在收敛的基本系统的解决方案,我们递归地应用该方法的其余未收敛的系统。我们提出的数值例子涉及系统产生的晶格量子色动力学。
2013-08-29 cs.MS cs.NA math.NA
Speeding up an unsteady flow simulation by adaptive BDDC and Krylov subspace recycling
Institute of Mathematics of the Czech Academy of Sciences(捷克科学院数学研究所);Faculty of Mechanical Engineering, Czech Technical University in Prague(布拉格捷克理工大学机械工程学院)
本文通过自适应BDDC和Krylov子空间回收技术,显著加速了不稳流模拟中大规模线性方程组的求解,节省了超过40%的计算时间。
2026-01-28 cs.NA math.NA
Efficient gradient-based methods for bilevel learning via recycling Krylov subspaces
本文提出一种基于Ritz广义奇异向量的新型Krylov子空间回收策略,用于高效计算双层学习中的超梯度,并通过成像反问题实验验证了其有效性。
2025-10-08 cs.NA math.NA math.OC
A survey of subspace recycling iterative methods
本次调查关注的子空间回收方法,一个流行的迭代法,使有效地重用子空间信息,以加快收敛速度,并找到良好的初始猜测序列的线性系缓慢变化的系数矩阵,多个右手边,或两者兼而有之。被再循环的子空间信息通常在对一个或多个系统运行迭代法(通常是Krylov子空间法)期间生成。在介绍了定义和符号之后,我们研究了早期增强方案的历史以及紧缩预处理方案及其对回收方法发展的影响。然后,我们讨论了一个一般的剩余约束框架,通过它可以看到许多增强Krylov和回收方法。在此框架内,我们回顾了几种增强和回收方法。然后,我们讨论了一些已知的有效的策略,选择子空间回收之前,采取读者通过最近的发展,广义回收(序列)转移线性系,其中一些考虑到多个右手边。我们圆了我们的调查,已经看到受益于子空间回收方法的应用领域的简要回顾。
2020-07-29 cs.NA math.NA
A comparison of limited-memory Krylov methods for Stieltjes functions of Hermitian matrices
给定有限的内存和目标精度,我们提出并比较了几个多项式Krylov方法的逼近f(A)b,一个大的埃尔米特矩阵上的Stieltjes矩阵函数的向量。使用新的误差界和估计,以及现有的结果,我们得到的方法的实际性能的预测,并相应地排名。作为副产品,我们得出新的结果,不精确的Krylov迭代矩阵函数,以允许合理的Krylov方法与多项式内解决公平的比较。
2020-11-03 cs.NA math.NA
Accelerating Data Generation for Neural Operators via Krylov Subspace Recycling
University of Science and Technology of China(中国科学技术大学);Tsinghua University(清华大学)
提出排序Krylov回收(SKR)方法,利用Krylov子空间回收和排序算法加速求解相关线性系统,从而显著提升神经算子训练数据生成效率,实现最高13.9倍加速。
2024-03-19 cs.AI cs.LG cs.NA
Recycling Krylov subspaces for CFD applications and a new hybrid recycling solver
Virginia Tech(弗吉尼亚理工大学);IIT Indore(印度理工学院印多尔分校)
本文提出一种混合回收求解器,结合BiCGStab的高效迭代与rGCROT的鲁棒性,提升求解无粘纳维-斯托克斯方程的效率和稳定性。
2015-09-25 cs.NA math.NA physics.comp-ph
Computing Reduced Order Models via Inner-Outer Krylov Recycling in Diffuse Optical Tomography
Tufts University(塔夫茨大学);Virginia Tech(弗吉尼亚理工大学)
本文提出通过内外Krylov回收方法动态计算降阶模型的全局基,以提高扩散光学断层成像中逆问题求解效率,减少大规模离散PDE求解成本。
2016-03-07 cs.NA math.NA
Recycling Krylov Subspaces for Efficient Partitioned Solution of Aerostructural Adjoint Systems
本文针对气动结构耦合伴随分区求解器迭代次数多的问题,提出结合近似不变子空间回收与内外 Krylov 求解器及特征向量压缩的加速方法,在 ONERA-M6 跨声速算例中使矩阵-向量乘积最多减少 39%。
2023-09-22 cs.NA math.NA
Recycling MMGKS for large-scale dynamic and streaming data
针对 MM-GKS 在大规模问题中反复扩展子空间导致的内存与正交化开销,提出 RMM-GKS,通过交替扩大、压缩并回收重要 GKS 方向,支持动态光声层析与流式 CT 成像。
2023-09-27 cs.NA math.NA
Augmented unprojected Krylov subspace methods
本文证明增广 Krylov 子空间方法的投影问题具有等价的非投影表述,据此推导出首个非投影增广 FOM 并证明其作为回收方法的有效性,同时展示了 R$^{3}$GMRES 和非投影增广短递归方法(如 AugCG)在特定条件下契合该框架。
2023-05-18 cs.NA math.NA
A flexible short recurrence Krylov subspace method for matrices arising in the time integration of port Hamiltonian systems and ODEs/DAEs with a dissipative Hamiltonian
对于产生线性系的几类数学模型,将矩阵分裂成其厄米特部分和斜厄米特部分自然与底层模型的性质有关。这对于耗散哈密顿常微分方程、微分代数方程和端口哈密顿系统的离散化尤其如此,此外,厄米部分是正定或半定的。然后,它是可能的开发短的递归最优Krylov子空间方法,其中的埃尔米特部分被用作预条件。在本文中,我们开发了新的,正确的预处理的变种,这种方法,作为其关键的新功能,允许系统的厄米特部分,只有大约在每次迭代中解决,同时保持短递归。这类新的方法是特别有效的,因为它允许,例如,使用几个步骤的多重网格求解器或(预处理)CG方法的埃尔米特部分在每次迭代。我们说明了这与几个大规模系统的数值实验。
2022-12-29 cs.NA math.NA
Deflation and augmentation techniques in Krylov subspace methods for the solution of linear systems
INRIA(法国国家研究院)
本文综述了针对非Hermitian和Hermitian正定线性系统的Krylov子空间方法中的紧缩与增广加速收敛技术。
2013-03-21 cs.NA math.NA
GMRES with randomized sketching and deflated restarting
提出一种结合随机草图与 deflate 重启的 Krylov 子空间回收方法 GMRES-SDR,通过避免正交化完整基以降低计算开销,并从理论和数值实验上证明其残差收敛性及优于 GMRES-DR 和 GCRO-DR 的有效性。
2024-09-27 cs.NA math.NA
Krylov Subspace Recycling for Fast Iterative Least-Squares in Machine Learning
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
本文研究了利用Krylov子空间回收方法提高机器学习中对称正定线性问题求解效率,通过迭代优化低秩近似以平衡计算成本与数值精度。
2017-06-01 cs.LG cs.NA math.NA
Augmented Block-Arnoldi Recycling CFD Solvers
针对循环GCRO方法基向量正交化计算量大的问题,引入低同步算法进展,采用带块下三角校正矩阵的逆紧致WY改进Gram-Schmidt块间正交化方案,结合加权投影可大幅减少迭代次数,且循环子空间特征谱可替代预处理器。
2023-06-09 cs.NA math.NA
A note on augmented unprojected Krylov subspace methods
子空间循环迭代法和其他子空间增强方案是Krylov子空间方法的成功扩展,其中Krylov子空间用被认为有助于加速收敛或传达解的知识的向量所跨越的固定子空间来增强。最近,发表了一项调查,其中提出了描述绝大多数此类方法的框架[Soodhalter等人,GAMM-Mitt. 2020年]。在许多这些方法中,Krylov子空间是由依赖于增广空间的投影器组成的系统矩阵生成的子空间。然而,并不要求使用投影Krylov子空间。有一些增广方法是建立在使用由原始系统矩阵生成的Krylov子空间的基础上的,这些方法也适合于一般的框架。在这份说明中,我们观察到,一个增益的实施效益,考虑这种增强方法与非投影Krylov子空间的一般框架。我们通过将该想法应用于[Dong et al. ETNA 2014]中提出的R $^3$ GMRES方法来证明这一点,以获得简化的实现,并将该算法与基于灵活预处理的早期增强方案相连接[Saad. SIMAX 1997]。
2022-02-10 cs.NA math.NA
Recycling BiCGSTAB with an Application to Parametric Model Order Reduction
Indian Institute of Technology Indore(印度印度技术学院印多尔分校);Max Planck Institute for Dynamics of Complex Technical Systems(马克斯·普朗克复杂技术系统动力学研究所);Department of Mathematics, Virginia Tech(弗吉尼亚理工大学数学系)
本文提出了一种回收BiCGSTAB算法,用于高效求解非对称线性系统序列,相比其他方法在存储和计算成本上更具优势,并在参数模型降阶中取得显著效果。
2015-01-25 cs.NA math.NA
Error Bounds for the Krylov Subspace Methods for Computations of Matrix Exponentials
University of Kentucky(肯塔基大学)
本文提出新的后验和先验误差界,用于计算矩阵指数$e^{-τA}v$,分析了Hermitian部分和 skew-Hermitian 部分的特征值对收敛的影响,并通过数值例子验证了理论结果。
2016-03-23 cs.NA math.NA
Recycling BiCG for families of shifted linear systems
本文提出改进的RBiCG算法,通过强制移位系统中的共线性条件,提升收敛性并高效求解多个移位线性系统。
2014-06-25 cs.NA math.NA
Recycling BiCG with an Application to Model Reduction
Virginia Tech(弗吉尼亚理工大学)
针对双线性系统序列求解问题,提出回收BiCG方法,通过回收两个Krylov子空间加速迭代,并在模型降阶中实现高达70%的迭代节省。
2011-10-16 cs.NA math.DS math.NA
Accelerating the iterative solution of convection-diffusion problems using singular value decomposition
SISSA — International School for Advanced Studies(国际高等研究院)
本文提出基于奇异值分解的回收策略,用于加速迭代求解对流-扩散问题,通过经典和新类型的增广与消去方法提升收敛速度。
2018-07-25 cs.NA math.NA
Block Krylov subspaces and orthogonal matrix polynomials: a structural correspondence with applications to unitary matrices
KU Leuven(鲁汶大学)
本文研究了块Krylov子空间与矩阵正交函数之间的联系,提出了一种统一的框架用于分析和构造正交基和递推关系,并在单位ary矩阵情况下展示了如何将正交矩阵多项式的Szegő递推和CMV框架转移到块Krylov设置中。
2026-05-16 cs.NA math.NA
Minimal residual Hermitian and skew-Hermitian splitting iteration method for the continuous Sylvester equation
将最小残差技术应用于Hermitian和斜Hermitian(HSS)迭代格式,提出一种求解连续Sylvester方程的非定常迭代法--最小残差Hermitian和斜Hermitian(MRHSS)迭代法.数值结果验证了MRHSS迭代法与HSS方法对连续Sylvester方程的有效性和鲁棒性。此外,通过数值计算,我们证明了MRHSS分裂可以作为分裂预条件子,从而导出求解连续Sylvester方程的精确、鲁棒和有效的预条件Krylov子空间迭代法.
2020-12-01 cs.NA math.NA
Subspace Recycling for Sequences of Shifted Systems with Applications in Image Recovery
本文针对图像恢复中非线性迭代产生的移位系统序列,提出了一种内外Krylov子空间回收方法,通过主回收空间和特定移位回收空间构建初始猜测,大幅减少了矩阵-向量乘积总数并加速收敛。
2023-06-26 cs.NA math.NA
A Krylov Eigenvalue Solver Based on Filtered Time Domain Solutions
本文提出一种求解大规模广义 Hermitian 矩阵特征值问题的方法,通过结合显式时域积分器、滤波和 Krylov 迭代,高效计算给定区域内的特征值,并在小规模模型和三维猎号声学共振问题中验证了可靠性与效率。
2024-02-13 cs.NA math.NA
Computing low-rank approximations of the Fréchet derivative of a matrix function using Krylov subspace methods
矩阵函数$f(A)$的Fréchet导数$L_f(A,E)$在许多不同的应用中起着重要的作用,包括条件数估计和网络分析。当方向项$E$为秩1时,我们给出了几种不同的Krylov子空间方法来计算$L_f(A,E)$的低秩逼近(这可以很容易地推广到一般的低秩逼近).我们分析了所得到的方法的收敛性的重要特殊情况下,$A$是埃尔米特和$f$是指数,对数或Stieltjes函数。在一些数值测试中,包括基准集合和现实世界的应用程序的矩阵,我们证明和比较所提出的方法的准确性和效率。
2020-08-29 cs.NA math.NA
Minimal Residual Methods for Complex Symmetric, Skew Symmetric, and Skew Hermitian Systems
Computation Institute, University of Chicago(芝加哥大学计算研究所)
本文扩展了MINRES和MINRES-QLP算法以处理复杂对称、斜对称和斜厄米特系统,提供更稳定的解决方案,适用于各种情况。
2014-01-13 cs.MS cs.NA math.NA
A block Recycled GMRES method with investigations into aspects of solver performance
Oak Ridge National Laboratory(橡树岭国家实验室);Trinity College Dublin(都柏林三一学院);Temple University(天普大学)
本文提出一种块Krylov子空间版本的GCRO-DR方法,探讨了求解器性能中的关键问题,通过数值实验分析收敛性及数据移动效率。
2026-08-14 cs.NA math.NA
New efficient substepping methods for exponential timestepping
Heriot-Watt University(赫瑞-瓦特大学)
本文提出新的高效子步方法,通过分解时间步并重用Krylov子空间降低计算成本,提出一种二阶积分器提升整体精度,适用于大规模系统。
2016-08-06 cs.NA math.NA
A low-memory Lanczos method with rational Krylov compression for matrix functions
本研究提出一种结合有理Lanczos算法与基于有理Krylov子空间基压缩的低内存方法,用于计算厄米矩阵函数对向量的作用,可大幅降低内存需求,误差可忽略,性能具竞争力。
2024-03-07 cs.NA math.NA
A Multilevel Spectral Indicator Method for Eigenvalues of Large Non-Hermitian Matrices
最近提出了一种新的本征解算器族,称为谱指示器方法(SIM)。给定复平面上的区域,SIM首先通过光谱投影计算指示符。指示符用于测试区域是否包含特征值。然后对包含特征值的区域进行细分和测试。重复该过程,直到在指定的精度内识别特征值。本文利用Cayley变换和Krylov子空间,提出了一种高效的多层特征值求解器。与早期版本的SIM相比,该方法使用更少的内存,并且特别适合于计算大型稀疏(非Hermitian)矩阵的许多特征值。文中给出了几个实例。
2020-06-29 cs.NA math.NA
On non-Hermitian positive (semi)definite linear algebraic systems arising from dissipative Hamiltonian DAEs
讨论了耗散Hamilton微分代数方程和线性代数系统在线性化或离散化过程中出现的不同情况。对于每一种情况,我们都给出了实际应用的例子。线性代数系统的一个重要特征是(非厄米特)系统矩阵具有正定或半正定厄米特部分。在正定情况下,我们可以用基于有效三项递推的Krylov子空间方法迭代求解线性代数系统。我们说明了这些迭代法的性能上的几个例子。半定的情况可能是具有挑战性的,需要额外的技术来处理“奇异部分”,而“正定部分”仍然可以用三项递归方法来处理。
2022-08-04 cs.NA math.NA
A class of Petrov-Galerkin Krylov methods for algebraic Riccati equations
针对大规模连续时间代数Riccati方程,提出基于块有理Krylov子空间的Petrov-Galerkin投影方法,可高效构建低秩近似解、计算残差范数并通过特征值截断进一步降秩,给出了数值算例。
2024-08-16 cs.NA math.NA
Pade-Type Model Reduction of Second-Order and Higher-Order Linear Dynamical Systems
提出一种基于投影到适当分块的Krylov基矩阵上的新方法,用于高阶线性动力系统的模型降阶,保持原系统形式并满足Padé型逼近性质。
2004-10-06 cs.NA math.DS math.NA
M(s)stab(L): A Generalization of IDR(s)stab(L) for Sequences of Linear Systems
RWTH Aachen University(亚琛工业大学)
本文提出Mstab方法,用于求解具有固定系统矩阵和变化右端项的线性系统序列,相比IDRstab方法在处理序列时更高效。
2016-04-20 cs.NA math.NA
A modified version of the PRESB preconditioner for a class of non-Hermitian complex systems of linear equations
针对一类二阶块非埃尔米特复线性方程组,提出改进的PRESB预条件子,分析其谱性质,给出迭代求解方案,并通过数值实验验证其在PDE约束优化问题中的有效性。
2024-05-14 cs.NA math.NA
Circulant preconditioners for functions of Hermitian Toeplitz matrices
University of Oxford(牛津大学)
本文研究了循环预条件子在Hermitian Toeplitz矩阵函数系统中的应用,提出绝对值超优化循环预条件子,并通过理论分析和数值实验验证了其在求解此类系统时的有效性,证明预条件矩阵的特征值聚集于±1,从而保证Krylov子空间方法的快速收敛。
2018-07-28 cs.NA math.NA
Efficient variants of the CMRH method for solving a sequence of multi-shifted non-Hermitian linear systems simultaneously
具有非厄米系数矩阵的多移位线性系出现在时变偏/分数阶微分方程(PDE/FDES)的数值解、控制理论、PageRank问题和其他研究领域中。我们推导出有效的变种重新启动的改变最小残差方法的基础上,成本效益的Hessenberg程序(CMRH)这类问题。然后,我们引入了一个灵活的算法的变体,允许在每次迭代中使用变量预处理,以进一步加速移位CMRH的收敛。我们分析了这类新方法在偏微分方程和有限差分方程的数值解中的性能,以及对其他多移位Krylov子空间方法的性能。
2019-08-20 cs.NA math.NA
Efficient solution of sequences of parametrized Lyapunov equations with applications
针对参数化Lyapunov方程序列,提出两种利用低秩修正结构的高效算法,分别基于SMW公式和扩展Krylov子空间,在阻尼振动与多智能体同步问题中显著加速求解。
2024-05-28 cs.NA math.NA
Priorconditioned Sparsity-Promoting Projection Methods for Deterministic and Bayesian Linear Inverse Problems
针对S-GKS方法收敛慢的问题,提出结合预条件的PS-GKS方法及其变体,通过集成IAS算法自动选择超先验参数,理论分析与数值实验证明其优于现有混合Krylov方法。
2025-05-03 cs.NA math.NA
A thick-restart Lanczos type method for Hermitian $J$-symmetric eigenvalue problems
针对Hermitian $J$ -对称矩阵提出了一种厚重启动Lanczos型算法.由于Hermitian $J$ -对称矩阵具有双重退化谱或双重重特征值,且退化特征向量之间具有简单的关系,我们可以通过将Krylov子空间的搜索空间限制在由每对退化特征向量对中的一个构成的搜索空间来改善Lanczos算法的收敛性.我们表明,Lanczos迭代是兼容的$J$ -对称性,使子空间可以分为两个子空间是相互正交的。该算法在两个子空间中的一个子空间中搜索特征向量,而不需要重数。与它们配对的其他特征向量可以通过$J$ -对称性的简单关系容易地重构。我们测试我们的算法随机生成的小密集矩阵和稀疏的大矩阵源自量子场论。
2020-09-11 cs.NA hep-lat math.NA
Generalized SOR iterative method for a class of complex symmetric linear system of equations
Faculty of Mathematical Sciences, University of Guilan(吉兰大学数学科学学院)
本文提出广义SOR迭代法用于求解复对称线性方程组,将其转换为实形式并分析收敛性,确定最优参数及收敛因子,并用于预处理Krylov子空间方法,通过数值实验验证理论结果。
2014-03-24 cs.NA math.NA
Optimal near-optimality bounds for the Lanczos method for matrix functions
NYU(纽约大学);Flatiron Institute(平顿研究所)
该研究针对埃尔米特正定矩阵,证明了Stieltjes函数下Lanczos方法近似矩阵函数的误差界,强化推广了已有结果并确定了该界的最优性。
2026-08-10 cs.NA math.NA