Accelerated Kaczmarz methods via randomized sketch techniques for solving consistent linear systems
School of Mathematics and Statistics, Guangdong University of Technology(广东工业大学数学与统计学院)
针对相容线性系统求解问题,本文采用两种随机草图技术改进两类Kaczmarz方法,完成收敛性分析与解偏差上界推导,实验验证新方法在同等精度下运行效率更优。
2025-11-17 cs.NA math.NA
Randomized block subsampling Kaczmarz-Motzkin method
通过引入子采样策略,提出了一种求解线性系的随机块Kaczmarz-Motzkin方法.这种策略不仅决定了块的大小,而且结合和扩展了两个著名的策略,随机性和贪婪,因此可以继承他们的优点。理论分析表明,所提出的方法线性收敛于期望的最小欧几里德范数的解决方案。数值算例验证了新方法的有效性和可行性。
2022-11-30 cs.NA math.NA
Randomized Extended Kaczmarz is a Limit Point of Sketch-and-Project
用于求解线性方程组的草图和投影(SAP)框架已经统一了流行的投影迭代法(诸如随机Kaczmarz、随机坐标下降及其变体)背后的理论。随机化扩展Kaczmarz(REK)方法是随机化Kaczmarz方法的一个流行的扩展,用于解决不一致系统,尚未被证明是在SAP框架内。在这项工作中,我们表明,在某种意义上说,REK可以表示为一个家庭的SAP方法的极限点,但我们认为,它是不太可能的,REK可以被翻译成一个SAP方法本身。我们提供了一个广泛的理论分析家庭的方法,包括所述限制,包括收敛保证和进一步连接到REK。我们遵循这一点,一系列的实验证明这些方法和它们在实践中的联系。
2022-04-11 cs.NA math.NA
A Novel Greedy Kaczmarz Method For Solving Consistent Linear Systems
通过一种完全不同的确定工作行的方法,我们提出了一种新的求解相容线性系的贪婪Kaczmarz方法。对新方法进行了收敛性分析。数值实验表明,在相同的精度下,本文方法优于贪婪随机Kaczmarz方法和最近由Bai和Wu [Z.Z. BAI和W.T.吴,关于求解大型稀疏线性系的贪婪随机Kaczmarz方法,SIAM J. Sci.计算:40(2018),pp. A592-A606; Z.Z. BAI和W.T.吴,解大型稀疏线性系的松弛贪婪随机Kaczmarz方法,应用数学快报,83(2018),pp. [21- 26]计算时间。
2020-04-05 cs.NA math.NA
Accelerated Kaczmarz Algorithms using History Information
IBM Research-Tokyo(IBM 东京研究所)
本文提出两种方法加速随机Kaczmarz算法,利用历史估计生成预条件器或结合SAG方法提升收敛速度,数值实验显示性能显著优于标准算法。
2016-08-01 cs.NA math.NA
Greedy randomized sampling nonlinear Kaczmarz methods
最近提出的非线性Kaczmarz方法来解决非线性方程组。在本文中,我们首先讨论两个贪婪选择规则,即,非线性Kaczmarz迭代的最大残差准则和最大距离准则。在此基础上,提出了两种贪婪随机抽样方法。此外,我们还设计了四个相应的贪婪随机区组方法,即,基于多样本的方法。证明了所提出的方法均具有期望的线性收敛性。数值结果表明,在布朗概线性函数和广义线性模型等应用中,贪婪选择规则比随机选择规则具有更快的收敛速度,块方法优于单样本方法.
2022-09-13 cs.NA math.NA
On global randomized block Kaczmarz algorithm for solving large-scale matrix equations
School of Mathematics and Statistics, Lanzhou University(兰州大学数学与统计学院)
本文提出两种全局随机块Kaczmarz算法,用于高效求解大规模线性矩阵方程,并在图像去模糊中表现出色。
2022-04-29 cs.NA math.NA
Randomized double and triple Kaczmarz for solving extended normal equations
随机Kaczmarz算法由于其简单、快速和近似求解大规模线性系方程组的能力而受到广泛关注。本文提出了求解$\bf A^\top Ax=A^\top b-c$形式的扩展正规方程的随机双Kaczmarz算法和三Kaczmarz算法。所提出的算法避免了显式地形成$\bf A^\top A$,并且适用于{ \it arbitrary} $\mbf A\in\mbbr^{m\times n}$(满秩或秩亏,$m\geq n$或$m<n$)。给出了算法均方指数收敛的{ \it Tight}上界,并给出了数值实验.
2020-10-27 cs.NA math.NA
Deterministic Versus Randomized Kaczmarz Iterative Projection
Tennessee State University(田纳西州立大学)
本文分析了确定性和随机化Kaczmarz算法的收敛性,探讨了两者间的联系,并提出新的随机化方法以加快收敛速度。
2014-07-21 cs.NA math.NA
Two-dimensional greedy randomized Kaczmarz methods for solving large-scale linear systems
针对大规模线性系统求解,提出基于贪婪选择和半随机策略的二维随机Kaczmarz方法,理论上证明其收敛于唯一最小范数解,且数值实验显示其在计算时间上优于现有方法。
2025-06-26 cs.NA math.NA
Randomized extended block Kaczmarz for solving least squares
随机迭代算法最近被提出来解决大规模线性系。本文提出了一个简单的随机扩展块Kaczmarz算法,该算法以均方指数收敛于给定线性系方程组的唯一最小$\ell_2$范数最小二乘解.该算法是伪逆自由,因此不同的投影为基础的随机双块Kaczmarz算法的Needell,赵,和Zouzias。我们强调,我们的方法适用于所有类型的线性系(一致或不一致,超定或欠定,满秩或秩亏)。此外,我们的方法可以利用分布式计算单元上的高效实现,在计算时间上产生显着的改善。数值算例表明了新算法的有效性。
2020-07-08 cs.NA math.NA
Randomized Kaczmarz with Averaging
随机Kaczmarz(RK)方法是一种用于逼近大型线性系方程组的最小二乘解的迭代法。标准的RK方法使用顺序更新,使得并行计算变得困难。在这里,我们研究了RK的一个并行版本,其中使用了独立更新的加权平均值。我们分析了平均RK的收敛性,并实证证明了其性能。我们发现,随着线程数的增加,收敛的收敛速率提高,不一致系统的收敛范围减小。
2020-02-10 cs.NA math.NA
On Convergence Behavior of Randomized Kaczmarz-type Methods for Solving Doubly Noisy Linear Systems
Imagination Corp.(Imagination公司);Fictional University(虚构大学);School of Mathematics, China University of Mining and Technology(中国矿业大学数学学院)
本文针对双重噪声线性系统,首次分析了REK、RBK、RDBK等随机Kaczmarz型算法的收敛性,证明其收敛到无噪声系统最小二乘解邻域,并通过数值实验验证了理论结果。
2026-10-09 cs.NA math.NA
Inertial randomized Kaczmarz algorithms for solving coherent linear systems
本研究针对相干线性系统求解问题,将双子空间Kaczmarz方法视为交替惯性随机Kaczmarz算法并提出更优收敛速率估计,进一步提出多步惯性随机Kaczmarz算法加速收敛,实验验证其性能显著更优。
2023-06-14 cs.NA math.NA math.OC
Selectable Set Randomized Kaczmarz
随机Kaczmarz方法(RK)是一种用于求解线性系的随机迭代法,由于其速度快、内存要求低,近年来受到越来越多的关注。可选集合随机化Kaczmarz(SSRK)是RK的一个变体,它利用关于Kaczmarz随机化的现有信息来识别自适应的“可选集合”,从而产生改进的收敛保证。在本文中,我们提出了一个一般的角度选择集的方法,并证明了该框架的收敛结果。此外,我们定义了两个特定的可选择的集合抽样策略,具有竞争力的收敛保证的RK的其他变种。一种可选的集合采样策略利用了关于先前的矩阵的信息,而另一种策略通过Gramian矩阵利用了问题的正交结构。我们补充我们的理论结果与数值实验,比较我们提出的规则与现有的文献中。
2022-02-02 cs.NA math.NA
Two-dimensional greedy randomized extended Kaczmarz methods
本文提出二维贪心随机扩展Kaczmarz方法及其半随机改进版,通过每次迭代选取残差中两个较大条目对应的两行两列,加速大规模最小二乘求解,数值实验显示计算时间更优。
2025-06-19 cs.NA math.NA
Deterministic and randomized Kaczmarz methods for $AXB=C$ with applications to color image restoration
School of Mathematics and Statistics, Beijing Jiaotong University(北京交通大学数学与统计学院);Department of Mathematics and Computer Science, TU Eindhoven(埃因霍温理工大学数学与计算机科学系)
本文提出确定性和随机性Kaczmarz方法用于求解$AXB=C$,并应用于彩色图像恢复,通过理论分析和实验验证其有效性。
2026-02-03 cs.NA math.NA
A Note On The Randomized Kaczmarz Method With A Partially Weighted Selection Step
在本文中,我们重新考虑了两个已知的算法,这两个算法通常比Strohmer和Vershynin(2009)引入的随机Kaczmarz方法收敛得更快,但需要在每一步额外计算迭代的所有残差。如文献中已经指出的,例如arXiv:2007.02910和arXiv:2011.14693,表明两种算法的非随机化版本至少与随机化版本一样快地收敛,同时仍然需要计算所有残差。基于该观察结果,arXiv:2011.14693引入了一种新的简单随机样本选择方案,以减少所需的残差总数。在同样的光,我们提出了一种替代的随机选择方案,可以很容易地被包括作为一个'部分加权选择步骤'到经典的随机Kaczmarz算法没有太多的麻烦。数值例子表明,随机确定的所需残差的数量可以是相当温和的。
2021-06-30 cs.NA math.NA
Randomized Kaczmarz method with adaptive stepsizes for inconsistent linear systems
我们研究了随机Kaczmarz方法,自适应更新的步长使用现成的信息解决不一致的线性系。一个新的几何解释,这表明该方法可以被看作是一个正交投影方法在某种意义上。我们证明了该方法线性期望收敛于该线性系的唯一最小欧氏范数最小二乘解,并给出了该方法收敛性的一个紧上界.数值实验也验证了理论结果。
2023-03-16 cs.NA math.NA
Paved with Good Intentions: Analysis of a Randomized Block Kaczmarz Method
块Kaczmarz方法是求解超定最小二乘问题的一种迭代格式。在每一步中,算法将当前的约束映射到约束子集的解空间上。本文介绍了一种块Kaczmarz算法,它使用一个随机控制方案来选择在每一步的子集。该算法是第一个块Kaczmarz方法与(预期)的线性收敛速率,可以表示在矩阵及其子矩阵的几何性质。分析表明,该算法是最有效的,当它给出了一个良好的行铺设的矩阵,划分成良好的条件块的行。运营商理论文献提供了关于良好的行铺面的存在和建设的详细信息。总之,这些结果产生一个有效的块Kaczmarz计划,适用于许多超定最小二乘问题。
2012-12-17 cs.NA math.NA
Randomized Kaczmarz methods for t-product tensor linear systems with factorized operators
本文扩展随机Kaczmarz方法以求解t-积张量线性系统,利用因子化算子近似求解一致与不一致问题,提供指数收敛保证并联系早期方法。
2024-12-13 cs.NA math.NA
Randomized Block Kaczmarz Method with Projection for Solving Least Squares
Claremont McKenna College(克莱蒙特麦肯纳学院);Claremont Graduate Univ.(克莱蒙特研究生大学);IBM Research Lab, Zurich(IBM苏黎世研究实验室)
本文提出两种随机块Kaczmarz方法,通过矩阵分块加速对不一致系统的最小二乘解的收敛。
2015-06-23 cs.NA math.NA
Multi-Randomized Kaczmarz for Latent Class Regression
线性回归在识别数据集中可解释的趋势方面是有效的,但平均化了对数据内亚组的潜在不同影响。我们提出了一个迭代算法的基础上的随机Kaczmarz(RK)方法,自动识别数据中的子组,并同时对这些组进行线性回归。我们证明了该方法的几乎必然收敛,以及在一定条件下的期望线性收敛。结果是一个可解释的回归变量的不同权向量集合,这些向量捕获数据中的不同趋势。此外,我们通过实验验证了我们的收敛结果,证明该方法可以成功地识别模拟数据中的两个趋势。
2022-12-07 cs.NA math.NA
Adaptive Randomized Extended Bregman-Kaczmarz Method for Combined Optimization Problems
Shanghai Research Institute for Intelligent Autonomous Systems, Tongji University(同济大学上海智能自主系统研究院);School of Mathematical Sciences, Tongji University(同济大学数学科学学院);The Institute for Advanced Study, Shenzhen University(深圳大学高等研究院)
本文提出了一种自适应随机平均块扩展Bregman-卡茨马茨方法,用于解决联合优化问题,通过自动调整松弛参数提升收敛速度和鲁棒性。
2026-01-16 cs.NA math.NA
On the alternating randomized block Kaczmarz method
School of Mathematics and Statistics, South-Central Minzu University(中南民族大学数学与统计学院);School of Mathematics and Computational Science, Huaihua University(怀化学院数学与计算科学系);College of Applied Mathematics, Shanxi University of Finance and Economics(山西财经大学应用数学学院)
本文提出交替随机块Kaczmarz方法用于求解线性矩阵方程,通过随机索引选择方案实现线性收敛。
2023-11-01 cs.NA math.NA
On convergence of residual-based extended randomized Kaczmarz methods for matrix equations
College of Science, China University of Petroleum(中国石油大学理学院)
本文提出了一种双空间残差基随机扩展Kaczmarz方法及其带有Nesterov动量的变种,无需系数矩阵的满列秩假设,推导了收敛率上界,并通过数值实验验证了其有效性。
2026-04-07 cs.NA math.NA
A Relaxed Randomized Averaging Block Extended Bregman-Kaczmarz Method for Combined Optimization Problems
Shanghai Research Institute for Intelligent Autonomous Systems, Tongji University(同济大学上海智能无人系统研究院);School of Mathematical Sciences, Tongji University(同济大学数学科学学院);The Institute for Advanced Study, Shenzhen University(深圳大学高等研究院);Key Laboratory of Intelligent Computing and Applications (Ministry of Education), School of Mathematical Sciences, Tongji University(同济大学数学科学学院智能计算与应用教育部重点实验室)
本文提出了一种用于联合优化问题的rRABEBK方法,通过引入平均块策略和松弛参数,提升收敛速度和稳定性,并在理论和实践中均优于传统Kaczmarz算法。
2025-12-10 cs.NA math.NA
Acceleration of Randomized Kaczmarz Method via the Johnson-Lindenstrauss Lemma
Stanford University(斯坦福大学);Technion - Israel Institute of Technology(以色列理工学院)
本文提出一种改进的随机Kaczmarz方法,通过从随机选择的集合中选择最优投影,并利用Johnson-Lindenstrauss降维技术保持运行时间,显著加速收敛。
2011-02-12 cs.NA math.NA
Numerical Instabilities in the Kaczmarz Method and Stabilization by Iterative Refinement
University of Michigan(密歇根大学);University of California, Berkeley(加州大学伯克利分校);University of California, Los Angeles(加州大学洛杉矶分校)
本文研究了经典和加速随机Kaczmarz方法的稳定性问题,指出其缺乏前向稳定性,并提出通过迭代细化来控制误差累积,恢复高精度解,实验验证了该方法的有效性。
2026-05-16 cs.NA math.NA
An Asynchronous Parallel Randomized Kaczmarz Algorithm
我们描述了一个异步并行变量的随机Kaczmarz(RK)算法求解线性系$Ax=b$。分析表明,线性收敛,并表明,近线性加速,可以预期,如果处理器的数量是有界的$A$中的行数的倍数。
2014-06-07 cs.NA math.NA math.OC
Linear convergence of randomized Kaczmarz method for solving complex-valued phaseless equations
最近提出了一种用于相位恢复的随机Kaczmarz方法,数值结果表明,该方法在采样复杂度和计算时间方面都表现出优于其他最先进相位恢复算法的经验性能。虽然在信号和测量矢量都是实值的真实情况下已经很好地研究了收敛的收敛速率,但是在复数情况下不能保证收敛。事实上,用于相位恢复的随机化Kaczmarz方法在复杂设置中的线性收敛被Tan和Vershynin作为猜想留下。本文首先给出了它的理论保证,证明了对于从复单位球面独立一致地画出的随机测量$\mathbf{a}_j \in \mathbb{C}^n, j=1,\ldots,m $或等价的独立复高斯随机向量,当$m \ge Cn$对某个普适正常数$C$,具有良好初始化的随机化Kaczmarz方案以高概率线性收敛到期望的目标解(直到全局相位)。这给了这个猜想一个肯定的答案。
2021-09-24 cs.NA math.NA
Randomized Kaczmarz with tail averaging
本文提出尾部平均随机 Kaczmarz(TARK)方法,通过对 RK 尾部迭代取平均,使相容和不相容最小二乘问题均达到最优多项式收敛速率,并扩展用于岭正则化问题。
2025-04-10 cs.NA math.NA
Read Between the Hyperplanes: On Spectral Projection and Sampling Approaches to Randomized Kaczmarz
University of California, Irvine(加州大学尔湾分校)
本文提出通过行间关系和谱多样性行采样改进随机Kaczmarz方法,以加速病态和过定线性系统的收敛。
2026-02-28 cs.NA math.NA
Relaxed Greedy Randomized Kaczmarz with Signal Averaging for Solving Doubly-Noisy Linear Systems
College of Science, National University of Defense Technology(国防科技大学理学院)
本文提出RGRK-SA方法,通过信号平均解决双噪声线性系统,实现多项式收敛速率,数值实验显示其优于传统随机Kaczmarz方法。
2026-03-31 cs.NA math.NA
On the Relation Between the Randomized Extended Kaczmarz Algorithm and Coordinate Descent
University Politehnica of Bucharest(布加勒斯特理工大学);Tampere University of Technology(坦佩雷理工大学)
本文比较了随机扩展Kaczmarz算法与随机坐标下降算法在求解满秩过定线性最小二乘问题中的效率,证明坐标下降在满足相同残差终止条件时操作更少,且先用坐标下降计算残差再用标准Kaczmarz求解一致系统比扩展Kaczmarz更高效。
2014-08-30 cs.DS cs.NA math.NA
Linear convergence of the Randomized Sparse Kaczmarz Method
已知解线性系的随机化Kaczmarz方法在期望中线性收敛。在这项工作中,我们扩展了这一结果,并表明,最近提出的随机稀疏Kaczmarz方法恢复稀疏的解决方案,以及许多变种,也线性收敛的预期。这一结果是在分裂可行性问题及其解决方案的框架内通过随机Bregman投影关于强凸函数。为了获得预期的收敛速度,我们证明了投影的误差界的扩展。收敛结果表明,持有在更一般的设置,包括光滑凸函数,分段线性二次函数,也正则化核范数,这是用于该地区的低秩矩阵问题。数值实验表明,随机稀疏Kaczmarz方法在求解欠定和过定线性系问题时,优于非随机和非稀疏Kaczmarz方法.
2016-10-10 cs.NA math.NA math.OC
Greedy randomized block Kaczmarz method for matrix equation AXB=C and its applications in color image restoration
School of Mathematics and Statistics, Beijing Jiaotong University(北京交通大学数学与统计学院)
本文提出了一种用于解决矩阵方程AXB=C的贪心随机块Kaczmarz方法,并应用于彩色图像恢复
2026-02-04 cs.NA math.NA
Convergence properties of the randomized extended Gauss-Seidel and Kaczmarz methods
本文研究了随机扩展Gauss-Seidel和Kaczmarz方法在不同系统设定下的收敛性,提供了统一理论及证明扩展版本在欠定情况下能收敛到最小范数解。
2018-02-01 cs.NA math.NA
Randomized regularized extended Kaczmarz algorithms for tensor recovery
最近提出了随机正则化Kaczmarz算法来求解具有{ \it consistent}线性测量的张量恢复模型。在这项工作中,我们提出了一种新的算法的基础上的随机扩展Kaczmarz算法(在期望线性收敛到唯一的最小范数最小二乘解的线性系)的张量恢复模型与{ \it不一致}的线性测量。证明了算法在期望条件下的线性收敛。最后给出了张量最小二乘问题和稀疏张量恢复问题的数值实验。
2021-12-16 cs.NA math.NA math.OC
A semi-randomized and augmented Kaczmarz method with simple random sampling for large-scale inconsistent linear systems
针对大规模不相容线性系统,提出加速贪婪随机增广Kaczmarz方法和基于简单随机采样的半随机化方法以降低计算开销,并首次引入实用的理论终止准则,实验验证了其高效性。
2023-10-22 cs.NA math.NA
On greedy multi-step inertial randomized Kaczmarz method for solving linear systems
本文针对大规模线性系统求解问题,提出融合贪心概率准则与更严格阈值的贪心多步惯性随机Kaczmarz方法,证明其收敛性更优,阐明多步惯性外推的几何解释及与两类投影方法的关联,通过数值实验验证结论。
2024-10-08 cs.NA math.NA
A simple linear convergence analysis of the randomized reshuffling Kaczmarz method
本文提出对随机重排Kaczmarz方法的新分析,证明其线性收敛于线性系统唯一最小范数解,且收敛上界紧且不依赖矩阵维度。
2025-08-07 cs.NA math.NA
Parallelization Strategies for the Randomized Kaczmarz Algorithm on Large-Scale Dense Systems
针对现有Kaczmarz算法并行研究多聚焦稀疏系统的问题,本文探究大规模稠密系统下共享与分布式内存的并行化方案,实现RKA方法并提出性能更优的分块平均方法。
2024-01-30 cs.DC cs.NA math.NA
Preconvergence of the randomized extended Kaczmarz method
本文分析了随机扩展Kaczmarz(REK)方法对所有类型的线性系(相容或不相容,超定或欠定,满秩或秩亏)的收敛性.分析表明,$A$的奇异值越大,误差在相应的右奇异向量空间中衰减越快,并且作为$k\rightarrow\infty$,$x_{k}-x_{\star}$趋向于$A$的最小奇异值所对应的右奇异向量,其中$x_{k}$是REK方法的$k$阶近似,$x_{\star}$是最小$\ell_2 $ -范数最小二乘解.这些结果解释了在文献中出现的大量数值实验中发现的现象,即REK方法似乎在开始时收敛得更快。一个简单的数值例子来证实上述发现。
2021-05-11 cs.NA math.NA
Semi-randomized block Kaczmarz methods with simple random sampling for large-scale linear systems
本文针对大规模线性系统提出基于简单随机抽样的半随机化分块Kaczmarz方法,无需扫描全部行或计算概率与残差,可同时处理多右端项,实验表明其优于现有方法。
2023-12-01 cs.NA math.NA
Extended Randomized Kaczmarz Method for Sparse Least Squares and Impulsive Noise Problems
扩展的随机Kaczmarz方法是一个著名的迭代格式,它可以找到一个可能不相容的线性系的Moore-Penrose逆解,并且与标准的随机Kaczmarz方法相比,在每次迭代中只需要增加系统矩阵的一列。此外,稀疏随机Kaczmarz方法已被证明是线性收敛到一个一致的线性系的稀疏解决方案。在这里,我们结合这两个想法,并提出了一个扩展的稀疏随机Kaczmarz方法。我们表明线性预期收敛到稀疏最小二乘解的意义上说,一个扩展的变量的正则基追踪问题得到解决。此外,我们推广了该方法中的附加步骤,并证明了收敛到一个更抽象的最优化问题。我们数值证明,我们的方法可以找到稀疏的最小二乘解的真实和复杂的系统,如果噪声集中在补的范围内的系统矩阵,我们的推广可以处理脉冲噪声。
2022-07-20 cs.NA math.NA math.OC
On Subsampled Quantile Randomized Kaczmarz
本文提出并分析 sQRK 算法,用子采样残差近似分位数阈值,以在含少量严重损坏测量的大规模线性系统中避免全残差计算,并证明其唯一解收敛性。
2023-08-15 cs.NA math.NA
Sparse Sampling Kaczmarz-Motzkin Method with Linear Convergence
随机稀疏Kaczmarz方法是最近提出的恢复线性系稀疏解的方法。在这项工作中,我们引入了一个贪婪的变体的随机稀疏Kaczmarz方法,采用采样Kaczmarz-Motzkin方法,并证明其线性收敛的预期在无噪声和噪声情况下的Bregman距离。该贪婪算法是抽样Kaczmarz-Motzkin方法和随机稀疏Kaczmarz方法的统一,继承了这两种方法的优点。数值上,我们报告了一对夫妇的实验结果,以证明其优越性
2021-01-14 cs.NA math.NA math.OC
RGDBEK: Randomized Greedy Double Block Extended Kaczmarz Algorithm with Hybrid Parallel Implementation and Applications
本文提出随机贪婪双块扩展 Kaczmarz(RGDBEK)算法,通过基于残差概率的随机行列块选择缓解跷跷板效应,并利用混合 CPU-GPU 并行实现提升大规模稀疏线性系统求解效率,在合成与真实矩阵上均优于现有 Kaczmarz 变体。
2025-09-23 cs.NA math.NA
Randomized Extended Kaczmarz for Solving Least-Squares
University of Toronto(多伦多大学);IBM Research - Zürich(IBM苏黎世研究中心)
提出一种随机迭代算法,指数收敛到线性系统的最小欧几里得范数最小二乘解,其运算复杂度与系统条件数的平方和输入矩阵非零元数成正比。
2013-01-05 cs.DS cs.NA math.NA
Fusion frames and randomized subspace actions
University of Missouri(密苏里大学);Vanderbilt University(范德堡大学)
本文研究了随机子空间动作算法在融合框架信号恢复中的应用,探讨了哪种概率分布能保证快速收敛,并证明了最优分布的唯一性。
2015-04-22 cs.NA math.NA
On Kaczmarz method with oblique projection for solving large overdetermined linear systems
本文介绍并分析了Kaczmarz方法的一种扩展--斜投影Kaczmarz方法(KO)。该方法大大减少了求解超定线性方程组的迭代次数,节省了计算时间,特别是对于含有近似线性相关的线性方程组的问题。同时,建立了一种随机化的斜投影随机化Kaczmarz方法(RKO).给出了这两种方法的收敛性证明,数值实验表明了这两种方法对均匀分布随机数据的有效性。特别是当系统中存在相关行时,实验结果的改善非常突出。
2021-06-25 cs.NA math.NA
Penalty & Augmented Kaczmarz Methods For Linear Systems & Linear Feasibility Problems
在这项工作中,我们阐明了所谓的Kaczmarz方法解决线性系(LS)和线性可行性(LF)问题,从优化的角度来看。我们介绍了著名的优化方法,如拉格朗日惩罚和增广拉格朗日随机Kaczmarz(RK)方法。在这样做时,我们提出了RK方法的两个变体,即随机罚Kacmarz(RPK)方法和随机增强Kacmarz(RAK)方法。我们对所提出的方法进行了收敛性分析,得到了线性收敛的结果。
2022-08-12 cs.NA math.NA math.OC
The Randomized Kaczmarz Method with Mismatched Adjoint
本文研究的随机版本的Kaczmarz方法来解决线性系的情况下,伴随的系统矩阵是不准确的-一种情况下,我们称之为“失配伴随”。我们证明了在适当的条件下,该方法在超定和欠定相容情形下仍然是收敛的,并计算了线性收敛的期望渐近速度。此外,我们分析了不一致的情况下,得到的结果与标准方法的不匹配伴随的方法。最后,我们推导出一种方法来计算优化的概率选择的行,并说明我们的研究结果与数值例子。
2018-03-07 cs.NA math.NA math.OC