On the convergence of orthogonalization-free conjugate gradient method for extreme eigenvalues of Hermitian matrices: a Riemannian optimization interpretation
本文证明求解无约束 Burer-Monteiro 公式的非线性共轭梯度法等价于 Bures-Wasserstein 度量下商流形上的黎曼共轭梯度法,从而证明其全局收敛性,并通过数值实验验证了其在大规模厄米矩阵极端特征值计算中的高效性。
2023-12-02 cs.NA math.NA math.OC
Alternative Orthogonal Polynomials
本文提出用双向正交化算法构造区间[0,1]上权重为1的正交多项式序列,推导其函数与递推关系,并描述由此生成的正交求积公式。
2004-05-17 cs.NA math.CA math.NA
A quasi-orthogonal method based on the inverse operator for Schr{ö}dinger eigenvalue problems
SKLMS, Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院);School of Mathematical Sciences, University of Chinese Academy of Sciences(中国科学院大学数学科学学院)
提出一种基于逆算子的准正交演化模型和离散数值方案,避免显式正交化,保证迭代保持满列秩,并渐近收敛到精确特征函数,具有指数收敛速率和与空间离散无关的时间步长。
2026-05-24 cs.NA math.NA
Lippmann-Schwinger-Lanczos algorithm for inverse scattering problems
数据驱动的降阶模型(ROM)与Lippmann-Schwinger积分方程相结合,产生一个直接的非线性反演方法。ROM被视为Galerkin投影,由于Lanczos正交化而稀疏。嵌入到连续问题中,产生了数据驱动的内部解决方案。这个内部解然后被用于李普曼-施温格方程中,从而使进一步的迭代更新变得不必要。我们的反演是远远优于玻恩反演和工程,以及当真正的内部解决方案是已知的谱域域数据的数值实验。
2021-04-11 cs.NA math.NA
Smoothed-adaptive perturbed inverse iteration for elliptic eigenvalue problems
本文提出了一种扰动子空间迭代算法来逼近椭圆型本征值问题的最低特征值簇。作为一个原型,我们考虑多边形区域上的拉普拉斯本征值问题。该算法是由分析不精确(扰动)逆迭代算法的数值线性代数。将扰动逆迭代方法与基于残差估计的网格加密策略相结合。我们展示了我们的方法模型问题的二维和三维。
2021-02-12 cs.NA math.NA
Convergence Analysis of Shift-Inverse Method with Richardson Iteration For Eigenvalue Problem
Memorial University of Newfoundland(纽芬兰纪念大学);Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院)
本文分析了位移反演法结合里茨迭代法在特征值问题中的收敛性,探讨了目标特征值与非目标特征值间特征值间隙对收敛速度的影响。
2018-04-05 cs.NA math.NA
Inverse Cubic Iteration
关于非线性标量方程求根的论文有成千上万篇。这里还有一个,谈论一个明显的新方法,我称之为“逆三次迭代”(ICI),类似于Richard Brent的zeroin方法中的逆二次迭代。这种可能的新方法是基于反函数的切线近似的三次混合。为了数值稳定性,我们将此迭代重写为两个牛顿步骤和一个正割步骤的平均值:每个步骤只需要一个新的函数求值和导数求值。因此,该方法的总成本仅比牛顿法略高,并且我们将看到它具有$1+\sqrt{3} = 2.732...$阶,从而确保要达到给定的精度,它通常比牛顿法花费更少的步骤,而每步使用基本相同的努力。
2020-07-13 cs.NA math.NA
Inverse Scale Space Iterations for Non-Convex Variational Problems Using Functional Lifting
非线性滤波方法允许相对于尺度的非经典概念获得图像的分解。相关的逆尺度空间流可以使用经典的Bregman迭代应用于凸的,绝对单齐次正则化。为了将这些方法扩展到具有非凸数据项的一般能量,我们将Bregman迭代应用于具有子标签精确离散化的功能的提升版本。我们提供了一个条件下,这个提升迭代减少到标准的Bregman迭代的正则化子的次梯度。我们展示了凸和非凸情况下的实验结果。
2021-05-06 cs.NA math.NA
A sparse approximate inverse for triangular matrices based on Jacobi iteration
本文提出了一种简单的三角形矩阵稀疏近似逆(SAIT)。利用Jacobi迭代法,得到了三角形矩阵的精确逆的表达式,它是一个有限级数。SAIT是基于这个系列构建的。我们将SAIT矩阵应用于带ILU预条件的迭代法。ILU预处理过程中的两个三角形求解器被两个矩阵向量乘法所取代,这可以被细粒度并行化。我们用预条件迭代法求解一些线性系和本征值问题来检验这种方法。
2021-11-18 cs.NA math.NA
Iterative Refinement of Schur decompositions
方阵$A$的Schur分解是求解本征值问题、矩阵函数和矩阵方程的最新数值算法的重要中间步骤。这项工作涉及以下任务:计算一个(更)准确的Schur分解$A$从一个给定的近似Schur分解。例如,在参数相关的本征值问题和混合精度计算的背景下,这个任务出现。我们已经开发了一个牛顿算法,需要解决一个三角形矩阵方程和一个近似正交化的步骤,在每一个迭代。我们证明了局部平方收敛矩阵相互不同的特征值和观察快速收敛在实践中。在混合低-高精度环境中,我们的算法基本上减少到每次迭代只有四个高精度矩阵-矩阵乘法。当将精度从两倍提高到四倍时,它通常只需要3-4次迭代,这将计算四倍精度Schur分解的时间减少了10-20倍。
2022-03-21 cs.NA math.NA
An adaptive algorithm based on the shifted inverse iteration for the Steklov eigenvalue problem
School of Mathematics and Computer Science, Guizhou Normal University(贵州师范大学数学与计算机科学学院)
本文提出并分析了有限元多尺度离散化近似Steklov特征值问题的后验误差估计器,设计了移位反迭代类型的自适应算法,并通过数值实验验证了其效率。
2016-01-07 cs.NA math.NA
Inverse Scale Space Iterations for Non-Convex Variational Problems: The Continuous and Discrete Case
非线性滤波方法允许获得关于尺度的非经典概念的图像的分解,这是由凸的、绝对单齐次正则化子的选择引起的。相关的逆尺度空间流可以使用经典的Bregman迭代与二次数据项。我们应用布雷格曼迭代解除,即高维和凸,泛函,以扩大这些方法的范围,任意数据项的泛函。我们提供的正则化子梯度的条件-在连续和离散设置-下,这种解除迭代减少到标准的Bregman迭代。我们展示了凸和非凸情况下的实验结果。
2022-03-21 cs.NA math.NA
The dependency of spectral gaps on the convergence of the inverse iteration for a nonlinear eigenvector problem
本文研究Gross-Pitaevskii特征向量问题的广义逆迭代收敛性,证明其线性收敛速率与线性化算子第一谱隙相关,建立无阻尼逆迭代局部收敛结果并推广至扩展方法,解释了谱移效果不佳的原因并通过数值实验验证。
2024-03-08 cs.NA math.NA
Multigrid methods based on shifted inverse iteration for the Maxwell eigenvalue problem
Guizhou Normal University(贵州师范大学)
本文提出两种多重网格方法用于求解具有不连续相对磁导率和电容率的Maxwell特征值问题,通过混合形式源问题证明了离散解算子在$ L^2(Ω) $中的统一收敛性,并给出了两种多重网格方法的渐近最优误差估计。
2017-02-27 cs.NA math.NA
A Sparse-Sparse Iteration for Computing a Sparse Incomplete Factorization of the Inverse of an SPD Matrix
University of Mohaghegh Ardabili(莫哈杰·阿尔达比勒大学);Ferdowsi University of Mashhad(马什哈德 Ferdowsi 大学)
提出一种通过稀疏-稀疏迭代计算对称正定矩阵逆的稀疏不完全分解的方法,并将其作为预条件子用于预条件共轭梯度法求解线性方程组,数值实验表明其性能优于已知算法。
2008-07-23 cs.NA math.NA
Polynomial Approximation to the Inverse of a Large Matrix
本文研究用低次多项式逼近大矩阵逆,以GMRES迭代多项式为候选,通过理论和实验评估其质量,并讨论稳定性改进及应用场景。
2025-02-25 cs.NA math.NA
Asymptotic convergence of spectral inverse iterations for stochastic eigenvalue problems
Aalto University(阿尔托大学)
本文研究了利用谱逆迭代算法及其子空间迭代变体计算椭圆算子随机本征值问题的本征对,采用张量积空间进行有限维空间构建,结合稀疏多项式逼近和经典有限元方法,分析了算法的渐近收敛性,并通过数值实验验证了结果。
2017-06-12 cs.NA math.NA
Perturbed preconditioned inverse iteration for operator eigenvalue problems with applications to adaptive wavelet discretization
TU Berlin(柏林工业大学)
本文提出一种扰动预处理逆迭代(PPINVIT)方法,用于求解椭圆算子特征值问题的最小特征值,并证明在算子近似应用下收敛性得以保持,同时通过多边形域上泊松特征值问题的Besov正则性分析,展示了自适应小波基相对于均匀网格的优势。
2010-03-08 cs.NA math.NA
Global Convergence of Hessenberg Shifted QR III: Approximate Ritz Values via Shifted Inverse Iteration
我们给出了一个自包含的随机算法的基础上移位逆迭代可证明计算的特征值的任意矩阵$M\in\mathbb{C}^{n\times n}$向后错误$δ\|M\|$在$O(n^4+n^3\log^2(n/δ)+\log(n/δ)^2\log\log(n/δ))$浮点运算使用$O(\log^2(n/δ))$位的精度。虽然$O(n^4)$的复杂性对于大矩阵是禁止的,但是该算法是简单的,并且可以用于使用受控精度可证明地计算小矩阵的特征值,特别是用于计算移位QR算法中的Ritz值,如(Banks,Garza-Vargas,Srivastava,2022)。
2022-05-13 cs.NA math.NA
A generalized Newton iteration for computing the solution of the inverse Henderson problem
Johannes Gutenberg-Universität Mainz(约翰内斯·古腾堡美因茨大学)
本文提出了一种通用的牛顿迭代方案IHNC,用于构建有效配对势能,以模拟相互作用的点状粒子系统。该方法通过匹配给定的径向分布函数来构造势能,并利用超网链积分方程近似计算正向算子的雅可比矩阵的逆。
2018-06-28 cs.NA math.NA
A data-driven iteratively regularized Landweber iteration
我们推导并分析了一个新的变种的迭代正则化Landweber迭代,求解线性和非线性不适定反问题。该方法考虑了训练数据,这些数据用于估计黑盒的内部,黑盒用于定义迭代过程。在无穷维希尔伯特空间中证明了格式的收敛性和稳定性。这些理论结果的补充几个数值实验解决线性反问题的Radon变换和纹影层析成像的非线性反问题。
2020-03-18 cs.NA math.NA
An iteration regularizaion method with general convex penalty for nonlinear inverse problems in Banach spaces
Department of Mathematics, Harbin Institute of Technology(哈尔滨工业大学数学系)
本文提出一种新的迭代正则化方法,利用同调扰动技术解决Banach空间中的非线性反问题,通过凸分析工具分析算法的收敛性和稳定性,并通过数值模拟验证其在减少计算时间方面的有效性。
2018-01-09 cs.NA math.NA
The Averaged Kaczmarz Iteration for Solving Inverse Problems
National University of Defense Technology(国防科技大学);University of Innsbruck(因斯布鲁克大学)
本文提出一种新的迭代正则化方法,用于求解可表示为Hilbert空间中线性或非线性方程组的反问题。该方法结合Landweber和Kaczmarz方法,通过评估一个正向和一个伴随子问题实现稳定性提升,并在光电声学断层成像的有限数据问题中进行了数值研究。
2018-01-18 cs.NA math.NA
Inverse Iterations for Phase-Invariant Nonlinear Eigenvalue Problems
Ruhr-University Bochum(波鸿鲁尔大学)
本文提出了一种非线性逆迭代方法,用于高效计算自旋-轨道耦合量子气体的基态,通过谱偏移技术实现加速收敛。
2026-11-03 cs.NA math.NA
The Akhiezer iteration and inverse-free solvers for Sylvester matrix equations
本文提出两种基于 Akhiezer 迭代的无逆求解器,用于求解系数矩阵谱位于不相交子区间的 Sylvester 矩阵方程,具有可证明的几何收敛速度,且在处理低秩右端及稠密系数矩阵时更高效省存储。
2025-07-14 cs.NA math.NA
Gl-QFOM and Gl-QGMRES: two efficient algorithms for quaternion linear systems with multiple right-hand sides
针对多右端项四元数线性系统求解问题,提出基于四元数矩阵Krylov子空间投影的Gl-QFOM与Gl-QGMRES算法,推导全局四元数Arnoldi过程,完成收敛分析并拓展至Sylvester四元数矩阵方程,数值实验验证其优于传统实表示迭代法。
2023-08-25 cs.NA math.NA
A Note on Approximate Inverse Iteration
Institut für Mathematik, Technische Universität Berlin(柏林工业大学数学研究所)
本文扩展了D'yakonov和Orekhov的经典收敛理论,适用于无限维希尔伯特空间中的本质谱算子,并允许任意小扰动,补充了矩阵情况下的收敛理论,适合教学使用。
2016-11-13 cs.NA math.NA
A preconditioned inverse iteration with an improved convergence guarantee
本文针对预处理逆迭代(PINVIT)变体提出了新的非渐近收敛证明,通过分析等效黎曼最速下降法,在放宽起始向量条件的同时实现了与PINVIT相近的收敛率,并通过理论和实验验证了改进的全局收敛性。
2024-12-19 cs.NA math.NA
Bouligand-Levenberg-Marquardt iteration for a non-smooth ill-posed inverse problem
在本文中,我们考虑一个修改的Levenberg-Marquardt方法解决不适定的反问题的前向映射是不Gâteaux可微的。通过放松经典光滑设置的标准假设,我们得到渐近稳定性估计,然后用于证明所提出的方法的收敛性。这种方法可以应用到一个反源问题的非光滑半线性椭圆型偏微分方程的Bouligand次微分可以用来代替不存在的Fréchet导数,我们证明了相应的Bouligand-Levenberg-Marquardt迭代是一个迭代正则化方案。数值例子说明了相应的Bouligand-Landweber迭代的优势。
2019-06-23 cs.NA math.NA math.OC
An inverse iteration method for eigenvalue problems with eigenvector nonlinearities
KTH Royal Institute of Technology(瑞典皇家理工学院);University of Oslo(奥斯陆大学);K.U. Leuven(荷语鲁汶大学)
针对特征向量非线性的对称矩阵特征值问题,提出反迭代方法的推广,证明其局部收敛性质,并应用于Gross-Pitaevskii方程。
2012-12-03 cs.NA math.NA
Regularized Reduced Order Lippman-Schwinger-Lanczos Method for Inverse Scattering Problems in the Frequency Domain
本文提出一种基于预解算子近似的鲁棒直接降阶模型方法,通过双层正则化的Lippmann-Schwinger-Lanczos算法求解频域逆散射问题,并在含噪和大规模数据下实现了良好的重建。
2023-11-27 cs.NA math.NA
Computing excited states with isometric tensor networks in two-dimensions
Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室);California Institute of Technology(加州理工学院)
本文提出一种基于块等距投影纠缠对态(block-isoPEPS)的子空间迭代方法,用于高效计算二维量子多体哈密顿量的激发态,并通过横场伊辛和海森堡模型验证了其可扩展性。
2025-10-22 cs.NA math.NA
A convergence analysis of a multi-level projected steepest descent iteration for nonlinear inverse problems in Banach spaces subject to stability constraints
Purdue University(普渡大学);University of Vienna(维也纳大学)
针对Banach空间中具有条件稳定性的非线性逆问题,提出一种新型非线性投影最速下降迭代法,并基于嵌套闭凸子集族开发多层算法,证明在有限步内达到期望的偏差准则。
2012-06-16 cs.NA math.FA math.NA
A preconditioned iteration method for solving saddle point problems
针对鞍点系统,本文提出结合稀疏矩阵近似逆与低秩处理的预处理迭代方法,并通过数值实验验证 PSLR-GMRES 可降低复杂度并有效求解。
2024-04-09 cs.NA math.NA
A numerical comparison of some heuristic stopping rules for nonlinear Landweber iteration
正则化参数的选择是大多数反问题正则化方法的重要组成部分。在没有可靠的估计的噪声水平,启发式参数选择规则可以用来完成这项任务。虽然它们已经在线性问题的情况下得到了相当好的理解和测试,但对它们在非线性问题中的行为知之甚少,在迭代正则化的相应情况下甚至更少。因此,在本文中,我们数值研究这些规则的性能时,用于确定停止指数Landweber迭代各种非线性反问题。这些是从不同的实际相关领域,如积分方程,参数估计,和层析成像。
2022-05-19 cs.NA math.NA
On inverse problems modeled by PDE's
本文研究了由Maz'ya和Kozlov(见[3],[4])提出的求解由偏微分方程建模的不适定重建问题的迭代法。我们考虑线性不定常问题的椭圆,双曲和抛物型。每一次迭代的分析方法包括一个适定的边界(或初始)值问题的解决方案。迭代被描述为仿射算子的幂,如在[4]中。我们利用谱理论和一些泛函分析结果(见[5],[6])给出了算法的另一种收敛性证明。
2020-11-30 cs.NA math.NA
Parameter Selection by GCV and a $χ^2$ test within Iterative Methods for $\ell_1$-regularized Inverse Problems
针对ℓ₁正则化反问题的Split Bregman、Majorization-Minimization迭代方法,将GCV和χ²检验等方法拓展用于迭代内广义Tikhonov正则参数选择,图像去模糊实验验证了该自动选参策略的有效性。
2024-12-13 cs.NA math.NA
A Policy Iteration Method for Inverse Mean Field Games
Columbia University(哥伦比亚大学);University of Pennsylvania(宾夕法尼亚大学)
本文提出了一种策略迭代方法,用于高效求解均场博弈的反问题,通过价值函数数据重建障碍函数,并证明了其线性收敛性。
2026-02-11 cs.GT cs.NA math.AP
A fast subspace optimization method for nonlinear inverse problems in Banach spaces with an application in parameter identification
Saarland University(萨尔兰大学)
本文提出一种基于顺序Bregman投影的快速迭代方法,用于Banach空间中的非线性反问题,通过多搜索方向和步长调节减少迭代次数,适用于精确和噪声数据,并在椭圆边界值问题中用于参数识别。
2018-01-16 cs.NA math.NA
Reconstruction of inhomogeneous media by an iteration algorithm with a learned projector
本文针对二维非均匀介质声波反演重建问题,提出将深度学习网络作为学习投影子与迭代正则化Gauss-Newton方法相结合的迭代重建算法,实验表明其在高对比度下仍能取得良好重建效果并具备较好泛化能力。
2023-09-20 cs.NA math.NA
Inverse iteration method for higher eigenvalues of the $p$-Laplacian
本文提出了一种基于平衡正负解雷利商的逆迭代方法,用于求解$p$-拉普拉斯算子的更高特征值,并证明了该方法的收敛性及数值计算结果。
2025-04-17 cs.NA math.AP math.NA
Inverse subspace iteration for spectral stochastic finite element methods
University of Maryland, Baltimore County(马里兰大学巴尔的摩分校);University of Maryland, College Park(马里兰大学帕克分校)
本文研究了谱随机有限元方法中随机本征值问题的求解,提出基于随机伽辽金有限元方法的随机逆子空间迭代法,并通过数值实验验证其在振动分析中的有效性。
2015-12-15 cs.NA math.NA math.PR
Why do we regularise in every iteration for imaging inverse problems?
Finden Ltd(芬登有限公司);University College London(伦敦大学学院);Queen Mary University of London(伦敦玛丽女王大学)
针对成像逆问题迭代法中每次计算正则化近端算子开销大的问题,本文首次将ProxSkip算法应用于该领域,提出PDHGSkip变体,可在保障重建质量与收敛性的同时加速计算。
2024-11-01 cs.CV cs.NA math.NA
Highly Efficient Computation of Generalized Inverse of a Matrix
Lehman College of CUNY(纽约市立大学莱曼学院);Universitat Politècnica de València(瓦伦西亚理工大学);The Graduate Center of CUNY(纽约市立大学研究生中心)
本文提出一种超幂迭代法,通过每次仅七次矩阵乘法实现18阶收敛,显著提升计算效率。算法在稳定性上有所牺牲,但整体效率远超现有稳定迭代方法,适用于Drazin逆、矩形矩阵及线性系统预处理等场景。
2016-04-27 cs.NA math.NA math.RA
Adaptive Spectral Inversion for Inverse Medium Problems
提出自适应谱反演(ASI)算法,通过在动态特征子空间中迭代最小化失配求解反介质问题,无需额外Tikhonov惩罚,并在收敛性证明和数值实验中展现出优于标准网格反演的精度。
2023-07-27 cs.NA math.NA
An efficient iteration method to reconstruct the drift term from the final measurement
Southern University of Science and Technology(南方科技大学);Sun Yat-sen University(中山大学)
本文研究一维抛物方程逆漂移问题,通过构造不动点算子证明唯一性并提出启发式数值算法,结合数据磨光处理不适定性并给出数值结果。
2025-10-13 cs.NA math.AP math.NA
Stochastic gradient descent based variational inference for infinite-dimensional inverse problems
School of Mathematics and Statistics, Xi’an Jiaotong University(西安交通大学数学与统计学院);School of Mathematics, University of Birmingham(伯明翰大学数学学院)
本文提出基于随机梯度下降的变分推断方法,用于解决无限维反问题,通过引入随机化策略和预条件版本提升采样效率,并通过数值实验验证其有效性。
2026-03-04 cs.NA math.NA
A novel two-point gradient method for Regularization of inverse problems in Banach spaces
本文提出了一种新的求解巴拿赫空间中不适定问题的两点梯度法,并研究了它的收敛性。该方法是基于众所周知的迭代正则化Landweber迭代法与外推策略。迭代正则化Landweber迭代法在巴拿赫空间的一般配方排除了使用某些功能,如全变差像罚函数,$L^1$功能等,本文提出的新方案允许使用这种非光滑的惩罚条款,可以在实际应用中涉及的几个重要功能,如分段常数和稀疏性的解决方案的重建是有帮助的。我们仔细讨论了重要参数的选择,如组合参数和步长的方法的设计。此外,我们还讨论了一个例子来验证我们的假设。
2021-05-31 cs.NA math.NA
Computing the first eigenpair of the p-Laplacian via inverse iteration of sublinear supersolutions
Universidade Federal de Minas Gerais(米纳斯吉拉斯联邦大学);ETH Zürich(苏黎世联邦理工学院);Argonne National Laboratory(阿贡国家实验室);Universidade Federal de Ouro Preto(欧罗普雷图联邦大学)
提出一种迭代方法,通过次线性 Lane-Emden 方程的解在 q→p⁻ 时的极限来计算 p-Laplacian 的第一特征对,并证明收敛性及收敛速率。
2011-07-03 cs.NA math.AP math.NA
Eigenvalues and eigenfunctions of the Laplacian via inverse iteration with shift
Universidade Federal de Minas Gerais(米纳斯吉拉斯联邦大学);Universidade Federal de Ouro Preto(欧罗普雷托联邦大学)
本文提出一种受有限线性代数中带位移逆迭代技术启发的迭代方法,用于求解任意有界区域上带齐次Dirichlet边界条件的拉普拉斯算子的特征值和特征函数,具有直接泛函分析途径,避免将特征值近似为有限线性算子的特征值,并引入更高效的Rayleigh商替代表达式。
2012-06-01 cs.NA math.NA math.SP
A General Algorithm to Calculate the Inverse Principal $p$-th Root of Symmetric Positive Definite Matrices
Johannes Gutenberg University of Mainz(约翰内斯·古腾堡美因茨大学);Paderborn University(帕德博恩大学)
本文提出了一种计算对称正定矩阵逆$p$-次根的通用算法,通过构造迭代函数实现高效计算,并展示了该方法具有至少二次收敛速度,通过调整参数$q$进一步提升收敛速度。
2018-02-27 cs.NA math.NA math.RA
Theoretical stability in coefficient inverse problems for general hyperbolic equations with numerical reconstruction
School of Mathematical Sciences, Fudan University(复旦大学数学科学学院)
本文从理论和数值角度研究如何通过部分边界和内部测量确定双曲方程时间依赖二次系数的空间分量,利用Carleman估计建立局部Hölder稳定性,并设计基于Tikhonov泛函最小化的迭代方法进行数值重建。
2017-05-18 cs.NA math.AP math.NA
Fixed-point iterative linear inverse solver with extended precision
求解线性系是科学和工程中普遍存在的问题。由于直接反演大规模线性系可能在计算上是昂贵的,因此迭代算法通常用于数值地求逆。为了适应动态范围和精度要求,这些迭代算法通常在浮点处理单元上执行。低精度、不动点处理器每次操作所需的能量仅为浮点处理器的一小部分,但由于不动点运算产生的计算误差,它们目前的使用不包括迭代求解器。在这项工作中,我们表明,对于一个简单的迭代算法,如Richardson迭代,使用不动点处理器可以提供相同的收敛速率,并实现高精度的解决方案时,结合剩余迭代超过其原生精度限制。这些结果表明,由模拟计算设备组成的节能计算平台可以用于解决广泛的问题,而不会影响速度或精度。
2021-07-17 cs.NA math.NA math.OC
Efficient and Stable Algorithms to Extend Greville's Method to Partitioned Matrices Based on Inverse Cholesky Factorization
Shenzhen University(深圳大学)
Greville的方法已被用于BLS(Broad Learn-ing System)中,提出了一种有效的增量学习系统,而无需从一开始就对整个网络进行重新训练。对于第二部分由p列组成的列分块矩阵,Greville方法需要p次迭代来从第一部分的伪逆计算整个矩阵的伪逆。BLS中的增量算法是对Greville方法的一种扩展,即从第一部分矩阵的伪逆计算整个矩阵的伪逆,只需一次迭代,但这种方法忽略了一些可能的情况,需要进一步提高效率和数值稳定性。在本文中,我们提出了一个有效的和数值稳定的算法从Greville的方法,计算整个矩阵的伪逆的第一部分的伪逆,只有1次迭代,其中考虑了所有可能的情况下,最近提出的逆Cholesky分解可以应用,以进一步降低计算复杂性。最后给出了BLS中列分块矩阵的完整算法。另一方面,我们也给出了BLS中行分块矩阵的算法。
2022-10-27 cs.LG cs.NA math.NA