Compensated Splitting For Generalized Lyapunov Equations
Nanchang University(南昌大学);University of Texas at Arlington(德克萨斯大学阿灵顿分校)
针对广义Lyapunov方程的标准不动点迭代可能发散或收敛慢的问题,提出补偿分裂方案以减小谱半径,使补偿不动点迭代具有更好的收敛性。
2026-10-26 cs.NA math.NA
An iterative method to solve Lyapunov equations
本文提出一种基于Kronecker积形式的分裂迭代法求解Lyapunov方程,每次迭代仅需对矩阵A做一次乘法和一次求逆,并给出保证收敛的参数条件及构造良好起始向量的定理。
2023-09-24 cs.NA math.NA
The inexact residual iteration method for quadratic eigenvalue problem and the analysis of convergence
LMIB & School of Mathematics and Systems Science, BeiHang University(北京航空航天大学数学与系统科学学院)
本文建立了求解二次特征值问题的残差迭代法收敛准则,分析了位移点和子空间扩展对收敛性的影响,并提出了一种内外迭代版本的残差迭代法,通过迭代方法求解方程并利用近似解扩展子空间,提供了内迭代与外迭代的关系分析及收敛保证的量化准则。
2017-01-11 cs.NA math.NA
Low-rank generalized alternating direction implicit iteration method for solving matrix equations
针对大规模稀疏稳定 Lyapunov 与连续时间代数 Riccati 矩阵方程,提出结合低秩性质和 Cholesky 分解的 R-GADI 方法,并分析其收敛性、通过数值实验验证有效性。
2024-04-09 cs.NA math.NA
Inexact inner-outer Golub-Kahan bidiagonalization method: A relaxation strategy
针对2×2分块鞍点问题,提出带松弛策略的非精确内外迭代广义Golub-Kahan算法,动态调整内迭代容差以降低计算成本,在Stokes和Poisson混合问题上验证了有效性。
2022-08-01 cs.NA math.NA
Inexact methods for the low rank solution to large scale Lyapunov equations
Max Planck Institute for Dynamics of Complex Technical Systems(马普复杂技术系统动力学研究所);Department of Mathematical Sciences, University of Bath(巴斯大学数学科学系)
本文研究了大规模李雅普诺夫方程低秩解的近似方法,提出了一种放松策略理论,用于改进理性Krylov子空间方法和低秩交替方向隐式迭代方法的近似求解过程,并通过数值实验验证了该方法的有效性。
2019-05-06 cs.NA math.NA
A tangential low-rank ADI method for solving indefinite Lyapunov equations
Virginia Tech(弗吉尼亚理工大学)
本文提出了一种切向低秩ADI方法,用于高效求解具有不定右端项的Lyapunov方程,通过自适应参数选择提升计算效率。
2026-09-15 cs.NA math.NA math.OC
A cross-product free Jacobi-Davidson type method for computing a partial generalized singular value decomposition (GSVD) of a large matrix pair
提出了一种计算大型正则矩阵对$(A,B)$的部分广义奇异值分解(GSVD)的无向量积(CPF)Jacobi-Davidson(JD)方法.它隐式地解决了$(A^TA,B^TB)$的数学等价的广义本征值问题,但没有显式地形成向量积矩阵,从而避免了计算广义奇异值和广义奇异向量可能带来的精度损失.该方法是一种内-外迭代方法,其中右搜索子空间的扩展形成近似求解所涉及的校正方程的内迭代,而外迭代提取关于子空间的近似GSVD分量。建立了内迭代和外迭代的收敛性结果,并根据这些结果设计了内迭代的实用停止准则。提出了一种带收缩的厚重启动CPF-JDGSVD算法,用于计算多个GSVD分量。数值实验验证了算法的有效性。
2021-03-09 cs.NA math.NA
On inner iterations of Jacobi-Davidson type methods for large SVD computations
Tsinghua University(清华大学)
本文研究了用于计算大矩阵A的一个或多个内部奇异三元组的Jacobi-Davidson SVD(JDSVD)类型方法的谐振和改进谐振提取版本的收敛性分析,提出了一种实用的内部迭代停止准则,并通过数值实验验证了理论和算法的有效性。
2018-11-10 cs.NA math.NA
An Inner-Outer Iterative Method for Edge Preservation in Image Restoration and Reconstruction
提出了一种新的图像边缘增强的内外迭代算法。在每次外部迭代,我们制定了一个Tikhonov正则化的问题,其中的惩罚表示在2-范数,并涉及一个正则化算子,旨在提高边缘分辨率的外迭代的进展,通过自适应过程。一个有效的混合正则化方法被用来项目的Tikhonov正则化问题的近似子空间的维数增加(内迭代),同时方便地选择正则化参数(通过应用众所周知的技术,如差异原则或${\mathcal L}$曲线标准,投影的问题)。该过程导致用于边缘恢复的自动化算法,其不涉及用户的正则化参数调整,也不重复调用复杂的优化算法,因此从计算的角度来看特别有吸引力。新算法成功的关键是通过使用自适应对角加权矩阵来设计正则化算子,该自适应对角加权矩阵仅在需要时有效地执行平滑。我们证明了我们的方法在X射线CT图像重建和图像去模糊中的应用价值,并表明它可以在计算上比其他知名的边缘保护策略更具吸引力,同时提供更高或同等质量的解决方案。
2019-12-30 cs.NA math.NA
Existence of positive solutions for generalized Lyapunov equations via a coupled fixed point theorem
利用Bhaskar和Lakshmikantham的耦合不动点定理,在给定条件下证明了广义连续时间Lyapunov方程存在唯一Hermitian正定解,并提供了迭代方法。
2012-03-07 cs.NA math.NA
An inexact Noda iteration for computing the smallest eigenpair of a large irreducible monotone matrix
National Chiao Tung University(国立交通大学)
本文提出了一种近似Noda迭代法,用于求解大不可约单调矩阵的最小特征值及其对应的特征向量。该方法通过两个松弛步骤分别计算特征值和特征向量,并分析松弛因子对收敛性的影响,证明了其全局线性或超线性收敛性。
2015-05-21 cs.NA math.NA
A Column-Wise Reflection Method with Safeguarded Anderson Acceleration for the Continuous Sylvester Matrix Equation
School of Mathematics and Statistics, Anhui University of Finance and Economics(安徽财经大学数学与统计学院)
提出带保护的Anderson加速反射(SAAR)方法求解连续Sylvester方程,通过逐列反射内迭代与残差保护的外层Anderson加速,实现线性收敛并显著减少迭代次数与CPU时间。
2026-10-07 cs.NA math.NA
Low-rank-modified Galerkin methods for the Lyapunov equation
本文提出通过低秩加性修正改造 Lyapunov 方程的 Galerkin 投影方法,在保持原有计算成本的同时获得类似最小残差法的单调收敛性,并用数值实验验证其潜力。
2024-03-05 cs.NA math.NA
Numerical solution of Lyapunov equations related to Markov jump linear systems
Kyoto University(京都大学);University of Kaiserslautern(凯泽斯劳滕工业大学)
本文比较了求解Lyapunov型方程的不同数值方法,针对马尔可夫跳跃线性系统的控制应用,发现信任区域方法在大规模问题中优于梯度下降和共轭梯度法,而固定点方法在优化方法中表现更优。
2017-03-13 cs.NA math.NA
On an integrated Krylov-ADI solver for large-scale Lyapunov equations
在求解大规模李雅普诺夫方程的低秩ADI方法中,计算量最大的步骤之一是在每次迭代中求解一个移位的线性系。我们建议使用扩展的Krylov子空间方法完成这项任务。特别是,我们说明了如何可以构造一个单一的近似空间来解决所有的移位线性系需要达到规定的精度方面的李雅普诺夫剩余范数。此外,我们展示了如何充分合并的两个迭代程序,以获得一个新的,有效的实现低秩ADI方法,一类重要的方程。许多国家的最先进的算法的移位计算可以很容易地纳入我们的新计划,以及。几个数值结果说明了我们的新程序相比,低秩ADI方法的基础上稀疏直接求解器的移位线性系的实施潜力。
2022-08-08 cs.NA math.NA
Interior Eigensolver Based on Rational Filter with Composite rule
本文针对非埃尔米特广义特征值问题,证明围道积分梯形求积的渐近最优性,推导复合规则并提出两种内部特征求解器,实验验证其效率与稳定性。
2024-10-08 cs.NA math.NA
Towards a mixed-precision ADI method for Lyapunov equations
Max Planck Institute for Dynamics of Complex Technical Systems(马克斯·普朗克复杂技术系统动力学研究所)
本文提出了一种混合精度的ADI方法用于求解低秩李雅普诺夫方程,通过降低部分计算精度以提高效率,同时保持解的精度。
2026-02-10 cs.NA math.NA
Mixed-precision iterative refinement for low-rank Lyapunov equations
Max Planck Institute for Dynamics of Complex Technical Systems(马克斯·普朗克复杂技术系统动力学研究所)
本文提出一种混合精度迭代精炼框架,用于求解低秩李雅普诺夫矩阵方程,通过误差分析确定不同精度设置下的残差条件,展示如何选择算法参数以提高求解效率。
2026-11-03 cs.NA math.NA
Comparisons of Some Iterative Algorithms for Biot Equations
Morgan State University(摩根州立大学)
本文比较了求解稳定有限元离散化Biot模型的通用鞍点线性系统的方法,提出并比较了三种迭代方法,包括GMRES、带变量松弛参数的Uzawa方法以及Anderson加速的固定点迭代,采用傅里叶分析方法构造Schur补近似作为预处理子,通过大量实验验证方法性能。
2017-08-29 cs.NA math.NA
Lyapunov and Sylvester equations: A quadrature framework
TU Braunschweig(不伦瑞克工业大学)
本文提出了一种新的框架,用于求解(大规模)Lyapunov 和 Sylvester 方程,这些方程来源于数值积分方法。引入了适合的常微分方程系统,通过Runge-Kutta方法生成其解的低秩近似。根据几何数值积分的思想,识别出适当的Runge-Kutta方法以保持低秩残差。对于这两种方程,证明了所得到算法的一个特例与已知的ADI迭代等价。由于该一般方法即使对于实问题也会导致复数计算,我们提出了一种基于相似变换的通用实化方法。
2019-03-13 cs.NA math.NA
Iterative and doubling algorithms for Riccati-type matrix equations: a comparative introduction
本文综述了一类求解李雅普诺夫型和黎卡提型方程的算法,它们都是通过\emph{doubling}的思想联系在一起的:它们通过一种重复平方构造了另一个自然产生的不动点迭代$(X_h)$的解$Q_k = X_{2^k}$.我们考虑的方程是Stein方程$X - A^*XA=Q$、Lyapunov方程$A^*X+XA+Q=0$、离散时间代数Riccati方程$X=Q+A^*X(I+GX)^{-1}A$、连续时间代数Riccati方程$Q+A^*X+XA-XGX=0$、回文二次矩阵方程$A+QY+A^*Y^2=0$和非线性矩阵方程$X+A^*X^{-1}A=Q$。我们绘制这些算法之间的比较,突出它们之间的连接和其他算法,如子空间迭代,并讨论其理论中的开放问题。
2020-05-18 cs.NA math.NA
New Jacobi--Davidson type methods for the large SVD computations
Soochow University(苏州大学);Tsinghua University(清华大学)
本文提出了一种改进的JDSVD方法,通过优化校正方程求解提高效率,显著提升大规模SVD计算性能。
2026-02-15 cs.NA math.NA
The joint bidiagonalization of a matrix pair with inaccurate inner iterations
针对联合双对角化(JBD)过程内迭代无法精确计算的问题,提出带重正交化的rJBD方法,分析其误差、收敛性与GSVD计算精度的影响因素,为内迭代精度选择提供指导并经实验验证。
2024-02-03 cs.NA math.NA
On bounds for rank growth of iterands in conjugate gradients for Lyapunov equation
Department of Mathematics, Technical University of Liberec(捷克理工大学数学系)
针对Lyapunov方程,研究共轭梯度法迭代中解近似、残差和方向向量秩的界,为低秩求解提供理论保证。
2026-10-01 cs.NA math.NA
Faithful-Newton Framework: Bridging Inner and Outer Solvers for Enhanced Optimization
University of Queensland(昆士兰大学);ARC Training Centre for Information Resilience (CIRES)(ARC信息韧性培训中心)
本文提出Faithful-Newton框架,通过紧密整合内层子问题求解与外层优化迭代,在保留简单线性系统子问题的同时,实现了强凸问题的全局超线性、条件数无关线性及局部二次收敛,并具有竞争力的迭代复杂度。
2025-10-17 cs.NA math.NA math.OC
On Inner Iterations in the Shift-Invert Residual Arnoldi Method and the Jacobi--Davidson Method
Tsinghua University(清华大学)
本文通过新的分析框架,建立了移位反演残差Arnoldi (SIRA) 方法计算给定目标σ最近简单特征值及特征向量的通用收敛理论,并推广到Jacobi-Davidson (JD) 方法,证明了低精度内迭代下外迭代次数与精确方法几乎相同,设计了实用内迭代停止准则。
2015-03-16 cs.NA math.NA
Termination criteria for inexact fixed point methods
Lund University(隆德大学);University of Kassel(卡塞尔大学)
研究不精确固定点迭代中内层解的精度对整体迭代误差的影响,证明特定相对终止准则可保证收敛,而标准准则不能。
2014-03-11 cs.NA math.NA
A unifying framework for ADI-like methods for linear matrix equations and beneficial consequences
本文提出基于交换算子分裂的统一ADI框架,将低秩ADI方法扩展至任意初始值,并证明其性能优势,在两类Riccati方程求解中分别获得17%和8倍加速。
2025-01-23 cs.NA math.NA
On the approximability of Koopman-based operator Lyapunov equations
本文利用 Koopman 算子将非线性有限维系统提升为无限维线性系统,在加权 L^p 空间中建立算子 Lyapunov 方程与 Lyapunov 函数的联系,并证明其解的快速特征值衰减支持有限秩数值逼近。
2023-11-02 cs.NA math.NA math.OC
On the order optimality of the regularization via inexact Newton iterations
Mathematical Sciences Institute, The Australian National University(澳大利亚国立大学数学科学学院)
本文研究非精确牛顿正则化方法求解非线性不适定反问题,通过结合Landweber迭代、隐式迭代、渐近正则化和Tikhonov正则化作为内层方案,在Hilbert尺度下获得了阶最优收敛速率,改进了Rieder的次优结果。
2011-11-08 cs.NA math.NA
A novel iterative method to approximate structured singular values
Università degli Studi di L’ Aquila(拉奎拉大学);Gran Sasso Science Institute (GSSI)(格兰萨索科学研究所);EPFL-SB-MATHICSE-ANCHP(洛桑联邦理工学院数学系)
本文提出了一种新的迭代方法来近似结构奇异值,通过内外迭代方法结合牛顿法和梯度系统,验证了该方法在控制系统的稳定性分析中的有效性。
2016-05-13 cs.NA math.NA math.OC
Steepest descent and conjugate gradient methods with variable preconditioning
研究带可变预处理的共轭梯度法,证明在预处理系统矩阵条件数一致有界时,该方法可能不优于梯度下降法,并给出新几何证明及数值实验揭示两种意外效应。
2007-04-02 cs.NA math.NA
The nonlinear HSS-like iteration method for absolute value equations
School of Mathematics and Statistics, Lanzhou University(兰州大学数学与统计学院);School of Mathematics and Statistics, Hexi University(河西学院数学与统计学院);School of Chemistry and Chemical Engineering, Hexi University(河西学院化学化工学院)
本文提出非线性HSS-like迭代法以改进Picard-HSS方法,通过单层迭代结构提升效率,数值实验验证其有效性。
2018-01-02 cs.NA math.NA math.OC
Multi-stage waveform Relaxation and Multisplitting Methods for Differential Algebraic Systems
Ruhr University of Bochum(波鸿鲁尔大学)
本文提出多阶段波形松弛与多分裂方法用于求解微分代数方程,通过外层和内层迭代解耦方程,简化矩阵运算并加速求解过程。
2016-01-04 cs.NA math.NA
On Convergence of the Inexact Rayleigh Quotient Iteration with MINRES
Tsinghua University(清华大学)
针对Hermitian非精确Rayleigh商迭代,提出基于均匀正定条件的新收敛理论,证明与MINRES结合时可在更宽松的内迭代容差下实现三次、二次和线性收敛。
2010-06-15 cs.NA math.NA
PPD-IPM: Outer primal, inner primal-dual interior-point method for nonlinear programming
本文提出一种新的数值方法,用于计算二次光滑可微非线性规划问题的局部极小解,通过结合外原问题和内原对偶内点法,克服传统SQP、AS和IPM方法的迭代复杂度、子问题可行性管理和初始猜测实用性等缺点。
2018-03-05 cs.NA math.NA
Adaptive Metrics for Norm-Minimization-Based Outer Approximation in Convex Vector Optimization
King Fahd University of Petroleum & Minerals(国王法赫德国王石油与矿产大学);Interdisciplinary Research Center for Smart Mobility and Logistics, King Fahd University of Petroleum & Minerals(国王法赫德国王石油与矿产大学智能交通与物流交叉研究中心)
提出一种自适应度量框架,通过动态改变标量化度量并利用问题几何结构,在凸向量优化的外部逼近算法中实现更优的收敛速率和迭代次数减少。
2026-07-15 cs.NA math.NA math.OC
On Parallel and Batch-Cutting Strategies for Norm-Minimization-Based Convex Vector Optimization
King Fahd University of Petroleum & Minerals(法赫德国王石油与矿产大学);Interdisciplinary Research Center for Smart Mobility and Logistics, King Fahd University of Petroleum & Minerals(法赫德国王石油与矿产大学智能交通与物流交叉研究中心)
针对凸向量优化的范数最小化外包逼近算法,提出并行化子问题评估和批量切割策略,在保持收敛率的同时减少迭代次数和墙钟时间。
2026-06-04 cs.NA math.NA math.OC
A Newton multigrid method for steady-state shallow water equations with topography and dry areas
Peking University(北京大学)
本文提出一种用于稳态浅水方程的牛顿多网格方法,通过牛顿法和几何多网格方法求解非线性系统,有效处理湿干过渡问题,通过数值实验验证了方法的效率和平衡性。
2016-08-24 cs.NA math.NA
A Lyapunov Analysis of Accelerated PDHG Algorithms
本文通过离散李雅普诺夫分析证明了变步长PDHG算法在广义Lasso模型中的近 $O(1/k^2)$ 及 $O(1/k^2)$ 收敛速率,并在目标函数强凸时建立最优线性收敛速率。
2024-07-26 cs.NA math.NA math.OC
Convergence rate analysis and improved iterations for numerical radius computation
计算数值半径的两种主要算法是Mengi和Overton的水平集方法和Uhlig的割平面法。通过新的分析,我们解释了为什么切割平面的方法有时比水平集的方法快得多或慢得多,然后提出了一个新的混合算法,在所有情况下仍然有效。对于矩阵的字段的值是一个圆盘中心在原点,我们表明,成本Uhlig的方法爆炸相对于所需的相对精度。更一般地说,我们还分析了当地的行为Uhlig的切割程序在最外面的点在该领域的价值观,表明它往往有一个快速的Q-线性收敛速率,是Q-超线性的角落。最后,我们确定并解决在水平集和切割平面的方法,并提出这些技术的改进版本的效率低下。
2022-06-06 cs.NA math.NA math.OC
On Novel Fixed-Point-Type Iterations with Structure-Preserving Doubling Algorithms for Stochastic Continuous-time Algebraic Riccati equations
本文针对随机连续时间代数Riccati方程提出FP-CARE SDA不动点迭代,证明其单调性与R-线性收敛性,并进一步结合修正牛顿法形成FPC-mNT-Lyap SDA算法,数值实验表明其优于现有方法。
2023-12-01 cs.NA math.NA math.OC
Highly Efficient Computation of Generalized Inverse of a Matrix
Lehman College of CUNY(纽约市立大学莱曼学院);Universitat Politècnica de València(瓦伦西亚理工大学);The Graduate Center of CUNY(纽约市立大学研究生中心)
本文提出一种超幂迭代法,通过每次仅七次矩阵乘法实现18阶收敛,显著提升计算效率。算法在稳定性上有所牺牲,但整体效率远超现有稳定迭代方法,适用于Drazin逆、矩形矩阵及线性系统预处理等场景。
2016-04-27 cs.NA math.NA math.RA
A Unified Low-rank ADI Framework with Shared Linear Solves for Simultaneously Solving Multiple Lyapunov, Sylvester, and Riccati Equations
Yangtze University(长江大学);Shanghai University(上海大学);Hubei Normal University(湖北师范大学)
本文提出了一种统一的低秩ADI框架,通过共享线性求解来同时求解多个李雅普诺夫、塞维斯特和里卡蒂方程,提高了计算效率。
2025-12-14 cs.NA cs.SY eess.SY
A convergence framework for inexact nonconvex and nonsmooth algorithms and its applications to several iterations
National University of Defense Technology(国防科技大学);The State Key Laboratory for High Performance Computation, National University of Defense Technology(高性能计算国家重点实验室(国防科技大学));School of Mathematics and Computational Science, Xiangtan University(湘潭大学数学与计算科学学院)
本文提出了一种不精确非凸和非光滑算法的收敛框架,通过引入伪充分下降条件和伪相对误差条件,并假设连续性条件,证明在特定可和假设下,生成的序列收敛到目标函数的临界点,并将其应用于几种经典非凸迭代算法,推导了相应的收敛结果。
2018-11-28 cs.NA math.NA math.OC
On the ADI method for the Sylvester Equation and the optimal-$\mathcal{H}_2$ points
Department of Mathematics, Virginia Tech(弗吉尼亚理工大学数学系)
本文证明当使用特殊选择的移位(称为伪H2最优移位)时,ADI迭代与有理Krylov投影方法等价,并且这些移位在Lyapunov方程中产生与有理Krylov投影子空间正交的残差,从而获得近最优的低秩近似。
2012-01-23 cs.NA cs.SY eess.SY
Negativity of Lyapunov Exponents and Convergence of Generic Random Polynomial Dynamical Systems and Random Relaxed Newton's Methods
我们调查内部调查科。随机复动力系统产生的概率测度有限工会的全纯家庭的有理映射的黎曼球面上的轨迹。我们证明了在族的某些条件下,对于一般系统(特别是一般随机多项式动力系统),对于Riemann球面上除了可数个初始值以外的所有初始值$z$,对于几乎所有映射序列$γ=(γ_{1},γ_{2},\ldots )$,$γ$在$z$处的李雅普诺夫指数为负.对于一般的系统,对于Riemann球上的每个初值$z$,在转移算子的对偶映射迭代下,在$z$上的Dirac测度的轨道趋向于Riemann球上的概率测度空间中的测度的周期环.注意,这些是随机复杂动力学中的新现象,在确定性复杂动力系统中不成立。本文应用随机复动力系统的上述理论和结果,用随机松弛牛顿法求任意多项式的根,证明了对任意多项式$g$,对复平面上任意初始值$z$,如果它不是$g'$的根,则从$z$开始的随机轨道几乎必然趋向于$g$的根,这是随机效应的结果.
2021-06-21 cs.NA math.CV math.DS
Deterministic continutation of stochastic metastable equilibria via Lyapunov equations and ellipsoids
Max Planck Institute for the Physics of Complex Systems(马克斯·普朗克复杂系统物理研究所)
本文通过结合概率论、动力系统、数值分析、优化和控制理论的方法,将确定性延拓算法扩展到随机微分方程的亚稳态平衡点跟踪,利用椭球定义样本路径的高集中区域,并通过迭代方法高效计算椭球及其距离。
2012-01-09 cs.NA math.DS math.NA
Fast Differentiable Matrix Square Root
University of Trento(特伦托大学)
以可微方式计算矩阵平方根或其逆在各种计算机视觉任务中是重要的。以往的方法要么采用奇异值分解(SVD)显式分解矩阵或使用牛顿-舒尔茨迭代(NS迭代)来获得近似解。然而,这两种方法在向前传递或向后传递中的计算效率都不够。在本文中,我们提出了两个更有效的变体来计算可微矩阵的平方根。对于前向传播,一种方法是使用矩阵泰勒多项式(MTP),另一种方法是使用矩阵Padé近似(MPA)。后向梯度的计算是通过迭代求解连续时间李雅普诺夫方程使用矩阵符号函数。这两种方法产生相当大的速度相比,SVD或牛顿-舒尔茨迭代。在去相关的批量归一化和二阶视觉Transformer上的实验结果表明,我们的方法也可以达到有竞争力的,甚至略好的性能。代码可在\href{https://github.com/KingJamesSong/FastDifferentiableMatSqrt}{https://github.com/KingJamesSong/FastDifferentiableMatSqrt}上获得。
2022-01-21 cs.CV cs.LG cs.MS