Krylov Subspace Recycling for Evolving Structures
Krylov子空间循环是一个强大的工具,用于解决长系列的大型,稀疏的线性系,变化缓慢。在PDE约束形状优化中,这些会很自然地出现,因为需要数百个或更多的优化步骤,而几何形状只有很小的变化。然而,在这种情况下,应用Krylov子空间回收可能是困难的。随着几何形状的演变,有限元网格也会演变,特别是在需要重新网格化的情况下。结果,系统中的代数自由度的数量可以从一个优化步骤到下一个优化步骤改变,并且有限元系统矩阵的大小也随之改变。网格的变化也会导致基质的结构变化。在重新划分网格的情况下,即使几何体仅发生微小变化,相应的网格也可能与前一个网格有很大不同。这就防止了线性系矩阵的近似不变子空间(本文中回收的重点)从一个步骤到下一个步骤的任何直接映射;对于其他选定的子空间也会出现类似的问题。我们提出了一个算法,一般网格映射的近似不变子空间的系统矩阵的前一个优化步骤的近似不变子空间的系统矩阵的当前优化步骤。我们利用从系数向量到网格上的有限元函数的映射,结合有限元网格上的函数逼近。此外,我们开发了一个简单的热启动适应的Krylov-Schur算法[G.W. Stewart,SIAM J. Matrix Anal. Appl.23,2001],以在需要时在新的优化步骤开始时改进近似不变子空间。我们证明了我们的方法的有效性,数值与几个证明的概念研究一个特定的网格技术。
2020-10-22 cs.NA math.NA
Short-Recurrence and -Storage Recycling of large Krylov-Subspaces for Sequences of Linear Systems with changing Right-Hand-Sides
本文提出新的原理和迭代方法,用于求解具有固定系数矩阵和变化右端的线性系统序列,通过回收前一系统求解过程中获得的子空间信息,利用短递推和小存储需求提高效率。
2015-12-16 cs.NA math.NA
Block Krylov subspace recycling for shifted systems with unrelated right-hand sides
许多用于移位线性系的Krylov子空间方法利用Krylov子空间在矩阵移位下的不变性。然而,在非埃尔米特情况下利用这一事实引入了限制;例如,初始残差必须是共线的,并且在重新启动时必须保持该共线。因此,我们不能同时解决移位系统与不相关的右手边使用这种策略,所有的移位残差不能同时最小化的Krylov子空间,使共线性保持。已经表明,这使得它们通常与子空间再循环技术不兼容[Soodhalter等人,APNUM '14]。然而,这个问题是可以克服的。通过将一族移位系统解释为一个Sylvester方程,我们可以利用Sylvester算子生成的Krylov子空间的已知“移位不变性”。因此,我们可以同时解决所有系统在一个块Krylov子空间使用FOM或GMRES类型的方法,即使他们有不相关的右手边。由于剩余共线性不再是重新启动时的要求,这些方法与子空间回收技术完全兼容。此外,我们认识到块稀疏矩阵操作的好处,出现在高性能计算应用程序的背景下。在本文中,我们讨论利用这西尔维斯特方程的观点,产生了方法的移位系统是兼容的无关的右手边。在此基础上,我们提出了一种同时求解位移方程组的循环GMRES方法,数值实验表明了该方法的有效性。
2015-10-26 cs.NA math.NA
Preconditioned Recycling Krylov subspace methods for self-adjoint problems
Technische Universität Berlin(柏林工业大学);Universiteit Antwerpen(安特卫普大学)
提出一种回收Krylov子空间方法,通过从MINRES运行中自动提取Ritz向量并用于自伴紧缩,以高效求解序列自伴线性系统,数值实验表明可大幅减少计算时间。
2015-01-07 cs.NA math.NA physics.comp-ph
Subspace Recycling for Sequences of Shifted Systems with Applications in Image Recovery
本文针对图像恢复中非线性迭代产生的移位系统序列,提出了一种内外Krylov子空间回收方法,通过主回收空间和特定移位回收空间构建初始猜测,大幅减少了矩阵-向量乘积总数并加速收敛。
2023-06-26 cs.NA math.NA
Krylov Subspace Recycling for Sequences of Shifted Linear Systems
我们研究了使用Krylov子空间回收的解决方案的序列缓慢变化的家庭的线性系,其中每个家庭由移位的线性系,不同的系数矩阵,只有倍数的身份。我们的目标是探索同时解决方案的每个家庭的移位系统的框架内的子空间回收,使用一个增广子空间提取候选解决方案的所有移位系统。理想的方法将为所有系统使用相同的增强子空间,并且具有固定的存储要求,与每个系列的移动系统数量无关。我们表明,满足这两个要求的方法不能存在于这个框架。作为替代方案,我们引入两个方案。我们为每个移位系统构造一个单独的收缩空间,但同时求解每个移位系统族。另一种方法只建立一个循环子空间,并在迭代线性求解器的每个循环中构造对移位系统的解的近似校正,同时只最小化基本系统残差。在收敛的基本系统的解决方案,我们递归地应用该方法的其余未收敛的系统。我们提出的数值例子涉及系统产生的晶格量子色动力学。
2013-08-29 cs.MS cs.NA math.NA
Recycling BiCGSTAB with an Application to Parametric Model Order Reduction
Indian Institute of Technology Indore(印度印度技术学院印多尔分校);Max Planck Institute for Dynamics of Complex Technical Systems(马克斯·普朗克复杂技术系统动力学研究所);Department of Mathematics, Virginia Tech(弗吉尼亚理工大学数学系)
本文提出了一种回收BiCGSTAB算法,用于高效求解非对称线性系统序列,相比其他方法在存储和计算成本上更具优势,并在参数模型降阶中取得显著效果。
2015-01-25 cs.NA math.NA
Unprojected recycled block Krylov subspace methods for shifted systems
[Soodhalter,SISC 2016]中首次提出使用块Krylov子空间方法计算使用子空间回收的移位线性系序列的解,其中提出了回收移位块GMRES算法(rsbGMRES)。这样的方法使用的移位系统的西尔维斯特方程的等价性,并利用从西尔维斯特算子生成的块Krylov子空间的移位不变性。这避免了需要初始残差跨越相同的子空间,并允许一个可行的重新启动Krylov子空间方法与循环求解序列的移位系统。在本文中,我们建议开发这些类型的方法使用非投影Krylov子空间。在这样做的过程中,我们展示了如何克服与开发方法的基础上,如rsbGMRES预测克雷洛夫子空间的困难,同时也允许实用的方法,以适应一个众所周知的残差投影框架。此外,当投影仪应用昂贵时,已知非投影方法是有利的,这使得它们对于高性能计算应用非常感兴趣。我们开发了一个非投影rsbFOM和非投影rsbGMRES。我们还开发了一个程序,用于提取移位相关的谐波Ritz向量的增广块Krylov子空间移位系统产生的方法选择一个新的循环子空间后,每个周期的算法。数值实验证明了该方法的有效性。
2022-09-14 cs.NA math.NA
Recycling Krylov subspaces for CFD applications and a new hybrid recycling solver
Virginia Tech(弗吉尼亚理工大学);IIT Indore(印度理工学院印多尔分校)
本文提出一种混合回收求解器,结合BiCGStab的高效迭代与rGCROT的鲁棒性,提升求解无粘纳维-斯托克斯方程的效率和稳定性。
2015-09-25 cs.NA math.NA physics.comp-ph
Mixed Precision GMRES-based Iterative Refinement with Recycling
随着硬件中混合精度能力的出现,用于求解线性系的迭代精化方案$Ax=b$最近在三个或更多精度的上下文中被重新审视和重新分析。这些新的分析表明,在条件数的某些约束下,可以计算低精度的矩阵的LU分解,而不影响最终的精度。另一种有前途的技术是基于GMRES的迭代精化,与标准方法相比,该方法使用由低精度三角因子预处理的GMRES来求解每个精化步骤中的近似解更新。这种更精确的求解方法扩展了可以用给定的精度组合解决的问题的范围。然而,在某些设置中,GMRES每个细化步骤可能需要太多的迭代,使得它可能比简单地以更高的精度重新计算LU因子更昂贵。Krylov子空间再循环是一种众所周知的技术,用于在具有相同或缓慢变化的系数矩阵的系统上跨Krylov子空间方法的顺序调用重用信息。在这项工作中,我们将Krylov子空间回收的想法到一个混合精度GMRES为基础的迭代精化求解器。我们的见解是,在每个细化步骤中,我们在具有相同系数矩阵$A$的线性系上调用预处理GMRES,只有右侧发生变化。通过这种方式,可以通过回收从第一步获得的信息来加速后续细化步骤中的GMRES求解。我们进行了广泛的数值实验上的各种随机稠密问题,Toeplitz问题(扁长矩阵),并从实际应用中,这证实了回收方法的好处的问题。
2022-02-16 cs.NA math.NA
Efficient gradient-based methods for bilevel learning via recycling Krylov subspaces
本文提出一种基于Ritz广义奇异向量的新型Krylov子空间回收策略,用于高效计算双层学习中的超梯度,并通过成像反问题实验验证了其有效性。
2025-10-08 cs.NA math.NA math.OC
Recycling MMGKS for large-scale dynamic and streaming data
针对 MM-GKS 在大规模问题中反复扩展子空间导致的内存与正交化开销,提出 RMM-GKS,通过交替扩大、压缩并回收重要 GKS 方向,支持动态光声层析与流式 CT 成像。
2023-09-27 cs.NA math.NA
Speeding up an unsteady flow simulation by adaptive BDDC and Krylov subspace recycling
Institute of Mathematics of the Czech Academy of Sciences(捷克科学院数学研究所);Faculty of Mechanical Engineering, Czech Technical University in Prague(布拉格捷克理工大学机械工程学院)
本文通过自适应BDDC和Krylov子空间回收技术,显著加速了不稳流模拟中大规模线性方程组的求解,节省了超过40%的计算时间。
2026-01-28 cs.NA math.NA
Hybrid Projection Methods with Recycling for Inverse Problems
迭代混合投影方法由于其固有的正则化特性以及自适应选择正则化参数的灵活性,已被证明是非常有效的解决大型线性反问题。在这项工作中,我们开发了基于Golub-Kahan的混合投影方法,该方法可以利用压缩和回收技术来解决一类广泛的逆问题,其中内存需求或高计算成本可能会令人望而却步。对于具有许多未知参数且需要多次迭代的问题,可以使用具有回收的混合投影方法来压缩和回收解基向量,以减少必须存储的解基向量的数量,同时获得与标准方法相当的解精度。如果需要重新正交化,这也可以大大降低计算成本。在其他场景中,例如流数据问题或多个数据集的逆问题,具有再循环的混合投影方法可以用于有效地整合先前计算的信息,以实现更快和更好的重建。所提出的方法的额外益处在于,可以并入各种子空间选择和压缩技术,可以使用用于自动正则化参数选择的标准技术,并且可以以迭代方式多次应用所述方法。理论结果表明,在合理的条件下,我们提出的回收混合方法的正则化的解决方案仍然接近标准的混合方法的正则化的解决方案,并揭示了重要的连接所产生的投影矩阵。从图像处理的数值例子显示了结合回收与混合投影方法的潜在好处。
2020-07-01 cs.NA math.NA
Accelerating Data Generation for Neural Operators via Krylov Subspace Recycling
University of Science and Technology of China(中国科学技术大学);Tsinghua University(清华大学)
提出排序Krylov回收(SKR)方法,利用Krylov子空间回收和排序算法加速求解相关线性系统,从而显著提升神经算子训练数据生成效率,实现最高13.9倍加速。
2024-03-19 cs.AI cs.LG cs.NA
Recycling Krylov Subspaces for Efficient Partitioned Solution of Aerostructural Adjoint Systems
本文针对气动结构耦合伴随分区求解器迭代次数多的问题,提出结合近似不变子空间回收与内外 Krylov 求解器及特征向量压缩的加速方法,在 ONERA-M6 跨声速算例中使矩阵-向量乘积最多减少 39%。
2023-09-22 cs.NA math.NA
Augmented Block-Arnoldi Recycling CFD Solvers
针对循环GCRO方法基向量正交化计算量大的问题,引入低同步算法进展,采用带块下三角校正矩阵的逆紧致WY改进Gram-Schmidt块间正交化方案,结合加权投影可大幅减少迭代次数,且循环子空间特征谱可替代预处理器。
2023-06-09 cs.NA math.NA
Augmented unprojected Krylov subspace methods
本文证明增广 Krylov 子空间方法的投影问题具有等价的非投影表述,据此推导出首个非投影增广 FOM 并证明其作为回收方法的有效性,同时展示了 R$^{3}$GMRES 和非投影增广短递归方法(如 AugCG)在特定条件下契合该框架。
2023-05-18 cs.NA math.NA
Recycling BiCG for families of shifted linear systems
本文提出改进的RBiCG算法,通过强制移位系统中的共线性条件,提升收敛性并高效求解多个移位线性系统。
2014-06-25 cs.NA math.NA
Krylov Subspace Recycling for Fast Iterative Least-Squares in Machine Learning
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
本文研究了利用Krylov子空间回收方法提高机器学习中对称正定线性问题求解效率,通过迭代优化低秩近似以平衡计算成本与数值精度。
2017-06-01 cs.LG cs.NA math.NA
Recycling BiCG with an Application to Model Reduction
Virginia Tech(弗吉尼亚理工大学)
针对双线性系统序列求解问题,提出回收BiCG方法,通过回收两个Krylov子空间加速迭代,并在模型降阶中实现高达70%的迭代节省。
2011-10-16 cs.NA math.DS math.NA
A preconditioned Krylov subspace method for linear inverse problems with general-form Tikhonov regularization
本文提出基于预条件Golub-Kahan双对角化的Krylov子空间迭代方法,用于求解一般形式Tikhonov正则化线性反问题,并进一步设计两种混合正则化算法以克服半收敛不稳定性,数值实验验证了其优越性能。
2023-08-12 cs.NA math.NA
GMRES with randomized sketching and deflated restarting
提出一种结合随机草图与 deflate 重启的 Krylov 子空间回收方法 GMRES-SDR,通过避免正交化完整基以降低计算开销,并从理论和数值实验上证明其残差收敛性及优于 GMRES-DR 和 GCRO-DR 的有效性。
2024-09-27 cs.NA math.NA
Subspace projection regularization for large-scale Bayesian linear inverse problems
针对带高斯噪声与高斯先验的贝叶斯线性逆问题,提出基于子空间投影的迭代正则化算法,通过低维最小二乘更新和早期停止实现高效精确求解。
2024-05-19 cs.NA math.NA
A generalized matrix Krylov subspace method for TV regularization
Faculté des Sciences et Techniques-Gueliz, Laboratoire de Mathématiques Appliquées et Informatique(盖利兹科学技术学院,应用数学与计算机实验室);Université de Lille Nord de France, L.M.P.A, ULCO(法国北部里尔大学,L.M.P.A,ULCO)
本文提出一种高效算法解决受模糊和噪声污染的图像总变分正则化问题,通过转化为约束优化问题,并采用增广拉格朗日方法和交替方向法求解。
2018-02-10 cs.NA math.NA
Extended-Krylov-subspace methods for trust-region and norm-regularization subproblems
Computational Mathematics Theme, Scientific Computing Department, Rutherford Appleton Laboratory(拉瑟福德·阿普尔顿实验室科学计算部计算数学主题)
本文提出了一种基于扩展Krylov子空间的方法,用于高效求解信任区域和范数正则化子问题,通过低维子空间和高效根寻找方法提升计算效率。
2026-03-02 cs.NA math.NA math.OC
Low-rankness and Smoothness Meet Subspace: A Unified Tensor Regularization for Hyperspectral Image Super-resolution
College of Science, Jiangxi University of Water Resources and Electric Power(江西水利水电大学理学院);Key Laboratory of Engineering Mathematics and Advanced Computing, Jiangxi University of Water Resources and Electric Power(江西水利水电大学工程数学与先进计算重点实验室);Department of Statistics and Data Science, Southern University of Science and Technology(南方科技大学统计与数据科学系)
本文提出一种统一的张量正则化方法JLRST,结合低秩性和局部光滑性先验,通过子空间框架提升超分辨率 hyperspectral 图像的效率和精度。
2026-05-12 cs.NA math.NA
A Sketched Generalized Krylov Subspace Method for Large-Scale Regularization
Alma Mater Studiorum Università di Bologna(博洛尼亚大学);Virginia Tech(弗吉尼亚理工大学)
提出草图广义Krylov子空间方法(sGKS),通过压缩矩阵QR分解和跳过重正交化,解决大规模Tikhonov正则化中GKS方法的计算瓶颈,保持近似质量并显著降低计算成本。
2026-06-17 cs.NA math.NA
Tensor Krylov subspace methods via the T-product for color image processing
本文研究了求解大型多线性张量方程的张量迭代Krylov子空间方法。我们使用著名的T-产品的两个张量定义张量全球Arnoldi和张量全球Gloub-Kahan双对角化算法。此外,我们还说明了如何利用基于张量的全局方法来解决恢复模糊多通道(彩色)图像和视频所产生的不适定问题,使用所谓的Tikhonov正则化技术,以提供可计算的近似正则化解决方案。我们还审查了广义交叉验证和差异原则类型的标准选择的正则化参数的Tikhonov正则化。RGB图像和视频处理的应用证明了算法的有效性。
2020-06-10 cs.NA math.NA
Random Subspace Cubic-Regularization Methods, with Applications to Low-Rank Functions
NAG Ltd(NAG有限公司)
本文提出ARC算法的随机子空间变体,仅利用导数的低维投影计算步长,在保持最优全局收敛速率的同时提升可扩展性,并可自适应低秩函数的真实秩。
2025-01-16 cs.LG cs.NA math.NA
Projected iterated Tikhonov regularization in low precision
本文提出了一种在低精度下通过投影迭代Tikhonov方法解决线性反问题的新方法,展示了其在保持计算效率的同时实现高精度的正则化能力。
2025-11-29 cs.NA math.NA
Rank/Norm Regularization with Closed-Form Solutions: Application to Subspace Clustering
University of Alberta(阿尔伯塔大学)
本文通过推广Eckart-Young-Mirsky定理到所有酉不变范数,得到秩/范数正则化问题的闭式解,并应用于子空间聚类,获得新理论见解和实验效果。
2012-10-09 cs.LG cs.NA math.NA
Regularization by Discretization in Banach Spaces
University of Tartu(塔尔图大学);Alpen-Adria-Universität Klagenfurt(阿尔卑斯-阿迪迦克拉根福大学)
研究Banach空间中病态线性算子方程的求解,采用有限维子空间投影方法,分析最小子集法和最小误差法,并通过先验和后验准则选择子空间维度。
2016-04-23 cs.NA math.NA
Maximal Spaces for Approximation Rates in $\ell^1$-regularization
本文研究了具有加权$\ell^1$ -惩罚的可能非线性反问题的Tikhonov正则化。从数列空间映射到任意Banach空间的前向算子,通常是$L^2$ -空间,被假定满足关于加权$\ell^2$ -范数和像空间范数的双边利普希茨条件.我们表明,在这种设置的逼近率的任意高的Hölder型顺序的正则化参数可以实现,我们的特点是最大的子空间序列上,这些速度达到。在这些子空间上,该方法也收敛于最佳速率的噪声水平与差异原则作为参数选择规则。我们的分析包括惩罚项在精确解上不是有限的情况(“过平滑”).作为一个标准的例子,我们讨论小波正则化Besov空间$B^r_{1,1}$。在这种情况下,我们证明在数值模拟的参数识别问题的微分方程,我们的理论结果正确地预测改进的分段光滑未知系数的收敛速度。
2021-10-18 cs.NA math.NA
Some Results on Regularization of LSQR and CGLS for Large-Scale Discrete Ill-Posed Problems
本文研究了LSQR和CGLS在大规模离散病态问题中的正则化特性,建立了Krylov子空间与主导右奇异向量子空间的距离界限,指出严重和中等病态问题中Krylov子空间能捕捉主导奇异向量,但轻微病态问题则不然,并提出混合LSQR方法适用于轻微病态问题。
2015-01-24 cs.NA math.NA
Hybrid LSMR algorithms for large-scale general-form regularization
提出面向大规模一般形式正则化的混合 LSMR 算法,结合 Golub–Kahan 双对角化、正则化投影与 LSQR 内迭代,并给出容差选择理论,精度可媲美 JBDQR。
2024-09-13 cs.NA math.NA
Adaptive Regularization Parameter Choice Rules for Large-Scale Problems
本文推导出一类新的自适应正则化参数选择策略,可以有效地和高效地应用于正则化大规模线性反问题时,通过结合标准的Tikhonov正则化和投影到Krylov子空间的维数增加(由Golub-Kahan双对角化算法计算)。这种正则化方法的成功很大程度上取决于两个参数的精确调整(即,吉洪诺夫参数和投影子空间的维数):使用可以被认为是双层最优化方法的特殊实例的新策略来同时设置这些,这些问题是通过使用一种新的范例来解决的,该范例交错执行迭代以投影吉洪诺夫问题(较低级别的问题)与那些执行应用一个给定的参数选择规则(较高级别的问题)。差异原则,一般变异系数,准最优性准则,Regieska准则都可以适用于这个框架。高斯求积和Golub-Kahan双对角化之间的联系被用来证明差异原理的收敛结果,并深入了解其他考虑的正则化参数选择规则的行为。几个数值试验建模成像中的逆问题表明,新的参数选择策略导致正则化方法是可靠的,本质上更简单,更便宜的比其他战略已经在文献中。
2019-07-12 cs.NA math.NA
Hybrid and iteratively reweighted regularization by unbiased predictive risk and weighted GCV for projected systems
Arizona State University(亚利桑那州立大学);University of Tehran(德黑兰大学)
本文研究了大规模病态问题的投影解的Tikhonov正则化,通过无偏预测风险估计、广义交叉验证和不一致原理确定正则化参数,并展示了无偏预测风险估计在中等至严重病态问题中的有效性,同时解释了无加权广义交叉验证的局限性。
2016-12-01 cs.NA math.NA
Augmented Flexible Krylov Subspace methods with applications to Bayesian inverse problems
针对可建模为两类随机变量之和的大规模线性离散不适定问题,提出两种增广灵活Krylov子空间方法,兼具收敛理论保证与稳定数值性能,在多类反问题实验中验证了效率。
2023-10-08 cs.NA math.NA
Some Results on the Regularization of LSQR for Large-Scale Discrete Ill-Posed Problems
Tsinghua University(清华大学)
本文研究了LSQR在大规模离散病态问题中的正则化效果,通过建立Krylov子空间与主导右奇异空间的距离界限,证明LSQR在严重和中等病态问题中具有更好的正则化效果,但对轻度病态问题需要额外正则化。
2016-01-19 cs.NA math.NA
Scalable iterative data-adaptive RKHS regularization
本文提出可扩展的迭代数据自适应 RKHS 正则化方法 iDARR,通过广义 Golub-Kahan 双对角化过程构造 Krylov 子空间正交基,高效求解不适定线性反问题,并在图像去模糊等实验中展现出优于传统范数的准确性与稳定性。
2024-01-01 cs.NA math.NA
Regularized methods via cubic model subspace minimization for nonconvex optimization
针对非凸优化自适应三次正则化方法的试探步计算问题,提出低维子空间重复利用的三次模型最小化新方法,辅以正则化牛顿步,保留经典方法最坏情况复杂度,实验表明其相比标准实现优势显著。
2024-11-28 cs.NA math.NA math.OC
Randomized Krylov-Projected Iterated Tikhonov Regularization for Large-Scale Ill-posed Problems Under A Posteriori Stopping Rule
Indian Institute of Technology Roorkee(印度理工学院罗尔基分校)
针对大规模线性不适定逆问题,提出RIGKT和RIAT随机迭代正则化框架,结合随机迭代Tikhonov正则化与Krylov子空间投影技术,纳入多种策略及后验停止规则,经分析和实验验证其能可靠重建结构特征。
2026-07-28 cs.NA math.NA
Projected Newton method for noise constrained $\ell_p$ regularization
对于被测量误差或噪声污染的不适定线性反问题,选择适当的正则化项是获得有意义解的必要条件。$\ell_p$范数涵盖了正则化项的广泛选择,因为它的行为关键取决于$p$的选择,并且因为它可以很容易地与合适的正则化矩阵组合。我们开发了一个有效的算法,同时确定正则化参数和相应的$\ell_p$正则化的解决方案,这样的差异原则是满意的。我们将问题投影到一个低维的广义Krylov子空间上,并计算这个小得多的问题的牛顿方向。我们说明了一些有趣的属性的算法,并比较其性能与其他国家的最先进的方法,使用一些数值实验,特别关注的稀疏诱导$\ell_1$规范和边缘保持全变差正则化。
2020-07-31 cs.NA math.NA
Nonlinear Model Order Reduction on Quadratic Manifolds via Greedy Algorithms with Dimension-Dependent Regularization
Shanghai University(上海大学);University of South Carolina(南卡罗来纳大学);University of Massachusetts Dartmouth(马萨诸塞大学达特茅斯分校)
本文提出一种改进的二次流形方法,结合双贪心算法和物理参数贪心算法,平衡降阶模型的精度与稳定性,提升计算效率。
2026-03-26 cs.NA math.NA
Hybrid CGME and TCGME algorithms for large-scale general-form regularization
本文提出两种基于Krylov子空间内外迭代的混合算法,用于大规模一般形式正则化问题,通过改进内层LSQR求解的条件性与停止容差选择,提升计算效率和精度。
2024-08-30 cs.NA math.NA
M(s)stab(L): A Generalization of IDR(s)stab(L) for Sequences of Linear Systems
RWTH Aachen University(亚琛工业大学)
本文提出Mstab方法,用于求解具有固定系统矩阵和变化右端项的线性系统序列,相比IDRstab方法在处理序列时更高效。
2016-04-20 cs.NA math.NA
Sequential subspace optimization for nonlinear inverse problems
Saarland University(萨尔兰大学)
本文提出将序列子空间优化方法应用于非线性反问题,通过多搜索方向适应非线性前向算子,迭代投影初始值并分析收敛性与正则化性质。
2016-02-22 cs.NA math.NA
A fast subspace optimization method for nonlinear inverse problems in Banach spaces with an application in parameter identification
Saarland University(萨尔兰大学)
本文提出一种基于顺序Bregman投影的快速迭代方法,用于Banach空间中的非线性反问题,通过多搜索方向和步长调节减少迭代次数,适用于精确和噪声数据,并在椭圆边界值问题中用于参数识别。
2018-01-16 cs.NA math.NA
A provably convergent MM-GKS variant for large-scale inverse problems
Virginia Tech(弗吉尼亚理工大学);Tufts University(塔夫茨大学)
针对大规模反问题,提出一种可证明收敛的MM-GKS变体,通过交替压缩和扩展搜索空间,在保持小维度下严格单调收敛,显著降低内存与计算成本,并推广至流式数据处理。
2026-09-16 cs.NA math.NA
RBF approximation of three dimensional PDEs using Tensor Krylov subspace methods
在本文中,我们提出了不同的算法解决张量线性离散不适定的问题所产生的应用程序的无网格方法求解偏微分方程在三维空间中使用多二次径向基函数。截断奇异值分解(TSVD)是求解病态系统最常用的有效方法,但对于大规模矩阵,用TSVD求解线性系的运算量很大。在目前的工作中,我们提出了算法的基础上使用著名的爱因斯坦产品的两个张量定义张量全球Arnoldi和张量Gloub Kahan双对角化算法。使用所谓的Tikhonov正则化技术,我们将能够在几次迭代中提供可计算的近似正则化解。
2021-03-03 cs.NA math.NA
A remark on an error analysis for classical and learned Tikhonov regularization schemes
Center for Industrial Mathematics, University of Bremen(不来梅大学工业数学中心);LMAM, School of Mathematical Sciences, Peking University(北京大学数学科学学院);Faculty of Mathematics, Chemnitz University of Technology(开姆尼茨工业大学数学学院)
本文分析了经典和学习正则化方案在反问题中的误差,指出固定正则化参数对重构误差影响有限,并提出基于数值实验估计未知子空间维度的策略,以及通过学习稀疏性促进项改进逆问题的方法。
2026-04-01 cs.NA math.NA
Projected Newton Method for noise constrained Tikhonov regularization
Tikhonov正则化是一种用于求解病态线性最小二乘问题的有效方法。Morozov的差异原理给出了一个选择正则化参数的相对简单的方法。然而,大多数方法需要解决的吉洪诺夫问题的许多不同值的正则化参数,这是计算要求大规模的问题。我们提出了一个新的和有效的算法,同时解决了Tikhonov问题,并找到相应的正则化参数,使差异原则得到满足。我们实现这一点,制定的问题作为一个非线性系统的方程和解决这个系统使用线搜索法。我们通过将问题投影到一个低维Krylov子空间上并计算投影问题的牛顿方向来获得一个好的搜索方向。这个投影牛顿方向,这是显着更少的计算昂贵的计算比真正的牛顿方向,然后结合回溯线搜索,以获得一个全局收敛的算法,我们称之为投影牛顿法。我们证明了算法的收敛性,并通过一些数值实验说明了当前最先进的求解器的改进性能。
2020-04-30 cs.NA math.NA
Tensor regularization by truncated iteration: a comparison of some solution methods for large-scale linear discrete ill-posed problem with a t-product
本文描述并比较了用t-积求解线性离散不适定问题的几种保结构技术。提出了一种新的带t-乘积的随机张量奇异值分解(R-tSVD),用于低秩张量逼近.研究了线性反问题的截断张量特征值分解(T-tEVD)、截断tSVD(T-tSVD)、随机T-tSVD(RT-tSVD)、t-product Golub-Kahan双对角化(tGKB)和t-product Lanczos(t-Lanczos)过程的正则化.描述了一种基于重用tGKB过程生成的张量Krylov子空间的求解方法。正则化参数是每种方法所需的迭代次数。差异原理被用来确定这个参数。截断迭代的基础上的解决方案的方法进行了比较,结合吉洪诺夫正则化与tGKB和t-Lanczos过程的解决方案的方法。计算实例说明了这些方法的性能时,适用于图像和灰度视频转换。我们的新的RT-tSVD方法被认为是需要更少的CPU时间,并产生更高的质量比T-tSVD方法的简化。
2021-10-15 cs.NA math.NA