Accelerating Random Kaczmarz Algorithm Based on Clustering Information
Department of Computer Science and Engineering(计算机科学与工程系);Shanghai Jiao Tong University(上海交通大学)
本文提出基于聚类信息的加速随机Kaczmarz算法,利用Johnson-Lindenstrauss引理改进块Kaczmarz和普通Kaczmarz算法,并理论证明了收敛性的提升。
2015-11-19 cs.NA math.NA
Refined upper bounds for the convergence of the randomized extended Kaczmarz and Gauss-Seidel algorithms
School of Mathematical Sciences and Fujian Provincial Key Laboratory of Mathematical Modeling and High-Performance Scientific Computing, Xiamen University(厦门大学数学科学学院、福建省数学建模与高性能科学计算重点实验室)
本文研究随机扩展Kaczmarz和Gauss-Seidel算法的收敛性,提出更精确的收敛上界。
2018-01-10 cs.NA math.NA
Deterministic Versus Randomized Kaczmarz Iterative Projection
Tennessee State University(田纳西州立大学)
本文分析了确定性和随机化Kaczmarz算法的收敛性,探讨了两者间的联系,并提出新的随机化方法以加快收敛速度。
2014-07-21 cs.NA math.NA
Accelerated Kaczmarz Algorithms using History Information
IBM Research-Tokyo(IBM 东京研究所)
本文提出两种方法加速随机Kaczmarz算法,利用历史估计生成预条件器或结合SAG方法提升收敛速度,数值实验显示性能显著优于标准算法。
2016-08-01 cs.NA math.NA
Two-dimensional greedy randomized Kaczmarz methods for solving large-scale linear systems
针对大规模线性系统求解,提出基于贪婪选择和半随机策略的二维随机Kaczmarz方法,理论上证明其收敛于唯一最小范数解,且数值实验显示其在计算时间上优于现有方法。
2025-06-26 cs.NA math.NA
On global randomized block Kaczmarz algorithm for solving large-scale matrix equations
School of Mathematics and Statistics, Lanzhou University(兰州大学数学与统计学院)
本文提出两种全局随机块Kaczmarz算法,用于高效求解大规模线性矩阵方程,并在图像去模糊中表现出色。
2022-04-29 cs.NA math.NA
Randomized double and triple Kaczmarz for solving extended normal equations
随机Kaczmarz算法由于其简单、快速和近似求解大规模线性系方程组的能力而受到广泛关注。本文提出了求解$\bf A^\top Ax=A^\top b-c$形式的扩展正规方程的随机双Kaczmarz算法和三Kaczmarz算法。所提出的算法避免了显式地形成$\bf A^\top A$,并且适用于{ \it arbitrary} $\mbf A\in\mbbr^{m\times n}$(满秩或秩亏,$m\geq n$或$m<n$)。给出了算法均方指数收敛的{ \it Tight}上界,并给出了数值实验.
2020-10-27 cs.NA math.NA
Paved with Good Intentions: Analysis of a Randomized Block Kaczmarz Method
块Kaczmarz方法是求解超定最小二乘问题的一种迭代格式。在每一步中,算法将当前的约束映射到约束子集的解空间上。本文介绍了一种块Kaczmarz算法,它使用一个随机控制方案来选择在每一步的子集。该算法是第一个块Kaczmarz方法与(预期)的线性收敛速率,可以表示在矩阵及其子矩阵的几何性质。分析表明,该算法是最有效的,当它给出了一个良好的行铺设的矩阵,划分成良好的条件块的行。运营商理论文献提供了关于良好的行铺面的存在和建设的详细信息。总之,这些结果产生一个有效的块Kaczmarz计划,适用于许多超定最小二乘问题。
2012-12-17 cs.NA math.NA
Selectable Set Randomized Kaczmarz
随机Kaczmarz方法(RK)是一种用于求解线性系的随机迭代法,由于其速度快、内存要求低,近年来受到越来越多的关注。可选集合随机化Kaczmarz(SSRK)是RK的一个变体,它利用关于Kaczmarz随机化的现有信息来识别自适应的“可选集合”,从而产生改进的收敛保证。在本文中,我们提出了一个一般的角度选择集的方法,并证明了该框架的收敛结果。此外,我们定义了两个特定的可选择的集合抽样策略,具有竞争力的收敛保证的RK的其他变种。一种可选的集合采样策略利用了关于先前的矩阵的信息,而另一种策略通过Gramian矩阵利用了问题的正交结构。我们补充我们的理论结果与数值实验,比较我们提出的规则与现有的文献中。
2022-02-02 cs.NA math.NA
Randomized extended block Kaczmarz for solving least squares
随机迭代算法最近被提出来解决大规模线性系。本文提出了一个简单的随机扩展块Kaczmarz算法,该算法以均方指数收敛于给定线性系方程组的唯一最小$\ell_2$范数最小二乘解.该算法是伪逆自由,因此不同的投影为基础的随机双块Kaczmarz算法的Needell,赵,和Zouzias。我们强调,我们的方法适用于所有类型的线性系(一致或不一致,超定或欠定,满秩或秩亏)。此外,我们的方法可以利用分布式计算单元上的高效实现,在计算时间上产生显着的改善。数值算例表明了新算法的有效性。
2020-07-08 cs.NA math.NA
Randomized Block Kaczmarz Method with Projection for Solving Least Squares
Claremont McKenna College(克莱蒙特麦肯纳学院);Claremont Graduate Univ.(克莱蒙特研究生大学);IBM Research Lab, Zurich(IBM苏黎世研究实验室)
本文提出两种随机块Kaczmarz方法,通过矩阵分块加速对不一致系统的最小二乘解的收敛。
2015-06-23 cs.NA math.NA
A Note On The Randomized Kaczmarz Method With A Partially Weighted Selection Step
在本文中,我们重新考虑了两个已知的算法,这两个算法通常比Strohmer和Vershynin(2009)引入的随机Kaczmarz方法收敛得更快,但需要在每一步额外计算迭代的所有残差。如文献中已经指出的,例如arXiv:2007.02910和arXiv:2011.14693,表明两种算法的非随机化版本至少与随机化版本一样快地收敛,同时仍然需要计算所有残差。基于该观察结果,arXiv:2011.14693引入了一种新的简单随机样本选择方案,以减少所需的残差总数。在同样的光,我们提出了一种替代的随机选择方案,可以很容易地被包括作为一个'部分加权选择步骤'到经典的随机Kaczmarz算法没有太多的麻烦。数值例子表明,随机确定的所需残差的数量可以是相当温和的。
2021-06-30 cs.NA math.NA
A simple linear convergence analysis of the randomized reshuffling Kaczmarz method
本文提出对随机重排Kaczmarz方法的新分析,证明其线性收敛于线性系统唯一最小范数解,且收敛上界紧且不依赖矩阵维度。
2025-08-07 cs.NA math.NA
On Kaczmarz method with oblique projection for solving large overdetermined linear systems
本文介绍并分析了Kaczmarz方法的一种扩展--斜投影Kaczmarz方法(KO)。该方法大大减少了求解超定线性方程组的迭代次数,节省了计算时间,特别是对于含有近似线性相关的线性方程组的问题。同时,建立了一种随机化的斜投影随机化Kaczmarz方法(RKO).给出了这两种方法的收敛性证明,数值实验表明了这两种方法对均匀分布随机数据的有效性。特别是当系统中存在相关行时,实验结果的改善非常突出。
2021-06-25 cs.NA math.NA
Randomized Kaczmarz methods for t-product tensor linear systems with factorized operators
本文扩展随机Kaczmarz方法以求解t-积张量线性系统,利用因子化算子近似求解一致与不一致问题,提供指数收敛保证并联系早期方法。
2024-12-13 cs.NA math.NA
Quantile-Based Random Kaczmarz for corrupted linear systems of equations
我们考虑线性系$Ax = b$,其中$A \in \mathbb{R}^{m \times n}$由规范化的行,$\|a_i\|_{\ell^2} = 1$,其中高达$βm$条目的$b$已损坏(可能由任意大的数字)。Haddock、Needell、Rebrova和Swartworth提出了一种基于分位数的随机Kaczmarz方法,并证明了对于某些随机矩阵$A$,它以很高的似然收敛到真实解。我们证明了一个确定性的版本,任何矩阵$A$,$β_A$的数量,使有收敛的所有扰动与$β< β_A$。假设随机矩阵启发式,这证明了具有高达$\sim 0.5\%$损坏(可能会改进的数字)的高高斯矩阵的收敛性。
2021-07-12 cs.NA math.NA
A semi-randomized and augmented Kaczmarz method with simple random sampling for large-scale inconsistent linear systems
针对大规模不相容线性系统,提出加速贪婪随机增广Kaczmarz方法和基于简单随机采样的半随机化方法以降低计算开销,并首次引入实用的理论终止准则,实验验证了其高效性。
2023-10-22 cs.NA math.NA
Survey of a Class of Iterative Row-Action Methods: The Kaczmarz Method
本文以大规模稠密随机线性方程组为基准,系统比较原生Kaczmarz算法及其随机、无放回和拟随机采样等变体,揭示相容与不相容系统下的最优求解选择。
2024-04-09 cs.NA math.NA
Read Between the Hyperplanes: On Spectral Projection and Sampling Approaches to Randomized Kaczmarz
University of California, Irvine(加州大学尔湾分校)
本文提出通过行间关系和谱多样性行采样改进随机Kaczmarz方法,以加速病态和过定线性系统的收敛。
2026-02-28 cs.NA math.NA
Semi-randomized block Kaczmarz methods with simple random sampling for large-scale linear systems
本文针对大规模线性系统提出基于简单随机抽样的半随机化分块Kaczmarz方法,无需扫描全部行或计算概率与残差,可同时处理多右端项,实验表明其优于现有方法。
2023-12-01 cs.NA math.NA
Random Greedy Fast Block Kaczmarz Method for Solving Large-Scale Nonlinear Systems
针对大规模非线性系统求解,提出随机贪婪快速块Kaczmarz方法,通过融合随机与贪婪策略并避免Jacobian子矩阵伪逆计算,在期望下实现线性收敛,显著提升了求解效率与鲁棒性。
2025-08-13 cs.NA math.NA
Inertial randomized Kaczmarz algorithms for solving coherent linear systems
本研究针对相干线性系统求解问题,将双子空间Kaczmarz方法视为交替惯性随机Kaczmarz算法并提出更优收敛速率估计,进一步提出多步惯性随机Kaczmarz算法加速收敛,实验验证其性能显著更优。
2023-06-14 cs.NA math.NA math.OC
RGDBEK: Randomized Greedy Double Block Extended Kaczmarz Algorithm with Hybrid Parallel Implementation and Applications
Indian Institute of Science(印度科学学院)
本文提出随机贪婪双块扩展 Kaczmarz(RGDBEK)算法,通过基于残差概率的随机行列块选择缓解跷跷板效应,并利用混合 CPU-GPU 并行实现提升大规模稀疏线性系统求解效率,在合成与真实矩阵上均优于现有 Kaczmarz 变体。
2025-09-23 cs.NA math.NA
On Subsampled Quantile Randomized Kaczmarz
本文提出并分析 sQRK 算法,用子采样残差近似分位数阈值,以在含少量严重损坏测量的大规模线性系统中避免全残差计算,并证明其唯一解收敛性。
2023-08-15 cs.NA math.NA
A Count Sketch Kaczmarz Method For Solving Large Overdetermined Linear Systems
本文结合计数草图和最大加权残差Kaczmarz方法,提出了一种求解大型超定线性系的快速随机化算法。对新算法进行了收敛性分析。数值实验表明,在相同的精度下,我们的方法表现出更好的计算时间相比,最先进的算法。
2020-04-06 cs.NA math.NA
An Asynchronous Parallel Randomized Kaczmarz Algorithm
我们描述了一个异步并行变量的随机Kaczmarz(RK)算法求解线性系$Ax=b$。分析表明,线性收敛,并表明,近线性加速,可以预期,如果处理器的数量是有界的$A$中的行数的倍数。
2014-06-07 cs.NA math.NA math.OC
Greed Works: An Improved Analysis of Sampling Kaczmarz-Motzkin
随机迭代算法最近在机器学习和信号处理中获得了用于求解大规模方程组$Ax=b$的兴趣。一个这样的示例是随机化Kaczmarz(RK)算法,其一次仅作用于矩阵$A$的单行。虽然RK随机选择$A$的一行进行处理,但Motzkin方法(MM)采用贪婪的行选择。这两种算法之间的联系导致了采样Kaczmarz-Motzkin(SKM)算法,该算法对$A$的$β$行的随机子集进行采样,然后从子集中选择最佳行。尽管他们的变量计算成本,所有三种算法已被证明有相同的理论上界的收敛速度。在这项工作中,一个改进的分析范围的随机(RK)贪婪(MM)的方法。这种分析改进了以前已知的SKM收敛界,捕获部分贪婪选择方案的好处。这项工作还进一步推广了以前已知的结果,消除了理论假设,$β$必须是固定的,在每次迭代和$A$必须有规范化的行。
2020-07-24 cs.NA math.NA
On the Relation Between the Randomized Extended Kaczmarz Algorithm and Coordinate Descent
University Politehnica of Bucharest(布加勒斯特理工大学);Tampere University of Technology(坦佩雷理工大学)
本文比较了随机扩展Kaczmarz算法与随机坐标下降算法在求解满秩过定线性最小二乘问题中的效率,证明坐标下降在满足相同残差终止条件时操作更少,且先用坐标下降计算残差再用标准Kaczmarz求解一致系统比扩展Kaczmarz更高效。
2014-08-30 cs.DS cs.NA math.NA
A federated Kaczmarz algorithm
提出一种受随机化 Kaczmarz 启发的联邦线性系统求解算法,给出收敛保证,并验证其在稀疏逼近、不相容系统和真实数据上的有效性。
2025-05-14 cs.NA math.NA
Randomized regularized extended Kaczmarz algorithms for tensor recovery
最近提出了随机正则化Kaczmarz算法来求解具有{ \it consistent}线性测量的张量恢复模型。在这项工作中,我们提出了一种新的算法的基础上的随机扩展Kaczmarz算法(在期望线性收敛到唯一的最小范数最小二乘解的线性系)的张量恢复模型与{ \it不一致}的线性测量。证明了算法在期望条件下的线性收敛。最后给出了张量最小二乘问题和稀疏张量恢复问题的数值实验。
2021-12-16 cs.NA math.NA math.OC
Fusion frames and randomized subspace actions
University of Missouri(密苏里大学);Vanderbilt University(范德堡大学)
本文研究了随机子空间动作算法在融合框架信号恢复中的应用,探讨了哪种概率分布能保证快速收敛,并证明了最优分布的唯一性。
2015-04-22 cs.NA math.NA
Parallelization Strategies for the Randomized Kaczmarz Algorithm on Large-Scale Dense Systems
针对现有Kaczmarz算法并行研究多聚焦稀疏系统的问题,本文探究大规模稠密系统下共享与分布式内存的并行化方案,实现RKA方法并提出性能更优的分块平均方法。
2024-01-30 cs.DC cs.NA math.NA
Block sampling Kaczmarz-Motzkin methods for consistent linear systems
抽样Kaczmarz-Motzkin(SKM)方法是随机Kaczmarz和Motzkin方法的推广。该算法首先对系数矩阵的若干行进行随机采样,建立一个集合,然后利用该集合中的最大违反准则确定一个约束。最后,它通过强制执行这一单一约束来取得进展。本文在SKM方法框架的基础上,考虑贪婪策略,提出了两种求解相容线性系的块采样Kaczmarz-Motzkin方法。具体来说,我们也首先采样系数矩阵的行的子集,然后使用最大违规准则确定在这个集合中的索引。与SKM方法不同,在其余的块方法中,我们设计了不同的贪婪策略来构建索引集。然后,新方法通过同时执行相应的多个约束来取得进展。理论分析表明,这些块方法收敛速度至少与SKM方法一样快,数值实验表明,对于相同的精度,我们的方法优于SKM方法的迭代次数和计算时间。
2020-11-12 cs.NA math.NA
Randomized Extended Kaczmarz for Solving Least-Squares
University of Toronto(多伦多大学);IBM Research - Zürich(IBM苏黎世研究中心)
提出一种随机迭代算法,指数收敛到线性系统的最小欧几里得范数最小二乘解,其运算复杂度与系统条件数的平方和输入矩阵非零元数成正比。
2013-01-05 cs.DS cs.NA math.NA
Adaptively Sketched Bregman Projection Methods for Linear Systems
草图投影算法是求解线性系的一种通用原型算法,它统一了随机Kaczmarz和随机坐标下降等多种随机迭代法。然而,由于它的目的是从一个线性系找到一个最小范数解,随机稀疏Kaczmarz不能被包括在内。这促使我们提出了一个更一般的框架,称为草图Bregman投影(SBP)方法,在其中,我们能够找到解决方案与某些结构的线性系。为了推广自适应采样的SBP方法的概念,我们展示了如何进步,布雷格曼距离测量,单步直接依赖于一个草图损失函数。理论上,我们提供了详细的整体收敛的SBP方法与不同的自适应采样规则的结果。最后,对稀疏Kaczmarz方法进行了一组数值模拟,验证了与其他采样规则相比,采用采样Kaczmarz-Motzkin规则的方法在达到给定误差界时所需的计算量最少.
2021-12-29 cs.NA math.NA
Reverse Quantile-RK and its Application to Quantile-RK
本文提出逆分位数随机Kaczmarz方法,利用分位数信息加速随机Kaczmarz算法,并可与分位数随机Kaczmarz方法结合,在不增加计算复杂度的情况下高效鲁棒地求解大规模稀疏污染线性系统。
2024-10-17 cs.NA math.NA
An Accelerated Randomized Kaczmarz Algorithm
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本文提出一种加速随机Kaczmarz算法,用于解决病态线性系统,相比标准算法在收敛性上有优势,同时提出高效实现SARK以应对稀疏情况。
2014-06-07 cs.NA math.NA math.OC
A Weighted Randomized Sparse Kaczmarz Method for Solving Linear Systems
本研究提出一种加权随机稀疏Kaczmarz方法,通过基于残差的概率采样选择投影超平面,在随机与贪心Kaczmarz方法间建立关联,理论证明其期望线性收敛且效率不低于原有方法,数值实验验证了其优越性。
2023-06-12 cs.NA math.NA math.OC
Randomized Kaczmarz solver for noisy linear systems
Stanford University(斯坦福大学)
针对带噪声的线性系统Ax≈b+r,提出随机Kaczmarz方法,证明其以与无噪声情况相同的指数收敛速率达到依赖于矩阵A的误差阈值。
2010-03-23 cs.NA math.NA math.PR
Faster Randomized Block Sparse Kaczmarz by Averaging
标准随机稀疏Kaczmarz(RSK)方法是计算方程的线性系的稀疏解的算法,并且使用顺序更新,并且因此不利用并行计算。在这项工作中,我们介绍了一个并行(小批量)版本的RSK平均几个Kaczmarz步骤的基础上。自然,这种方法允许并行化,我们表明,它也可以利用大的过度松弛。我们证明了线性预期收敛,并表明,由于并行计算可以利用,该方法可证明提供更快的收敛速度比标准方法。这种方法也可以被看作是一个变种的线性化Bregman算法,一个随机双块坐标下降更新,一个随机镜像下降更新,或一个放松版本的RSK和我们恢复标准RSK方法时,批量大小等于1。我们还提供了不一致的系统的估计,并表明,迭代收敛到一个错误的顺序的噪声水平。最后,数值例子说明了新算法的好处。
2022-10-17 cs.NA math.NA math.OC
Randomized Kaczmarz Method for Single Particle X-ray Image Phase Retrieval
本文研究了单粒子X射线成像数据的相位恢复算法。我们提出了一个方差减少随机Kaczmarz(VR-RK)算法相位恢复。VR-RK算法的灵感来自随机Kaczmarz方法和随机方差减少梯度下降(SVRG)算法。数值实验表明,VR-RK算法比随机Kaczmarz算法和迭代投影相位恢复方法(如混合输入输出(HIO)和松弛平均交替反射(RAAR)方法)具有更快的收敛速度。VR-RK算法能够以更高的精度恢复相位,并且对噪声具有鲁棒性。实验结果表明,VR-RK算法能够有效地恢复相位,提高单粒子图像的识别率。
2022-07-11 cs.NA eess.IV math.NA
Single Projection Kaczmarz Extended Algorithms
University of Heidelberg(海德堡大学);OVIDIUS University of Constanta(康斯坦察奥维迪乌斯大学)
本文研究了单投影Kaczmarz扩展算法,通过同时去除误差项和应用Kaczmarz迭代,实现对大不一致方程组的最小二乘解的收敛。
2015-04-01 cs.DS cs.NA math.NA
Kaczmarz Algorithm with Soft Constraints for User Interface Layout
本文提出改进的Kaczmarz算法以处理包含软约束的用户界面布局规范,通过优先级IIS检测算法提升性能,实验表明其优于Matlab的LINPROG。
2013-09-27 cs.NA math.NA
A randomized Kaczmarz algorithm with exponential convergence
针对超定相容线性方程组,提出一种随机Kaczmarz算法,证明其期望收敛速度为指数级,且与方程数量无关,在极度过定系统中优于现有方法。
2007-02-08 cs.NA math.NA math.PR
Extension of Sparse Randomized Kaczmarz Algorithm for Multiple Measurement Vectors
Indraprastha Institute of Information Technology-Delhi(英德拉普拉斯塔信息技术学院-德里)
本文提出改进的随机Kaczmarz算法解决多测量向量问题,通过共同稀疏支持实现更高效的恢复与收敛。
2014-02-02 cs.LG cs.NA math.NA
An optimal scheduled learning rate for a randomized Kaczmarz algorithm
Oregon State University(俄勒冈州立大学);Princeton University(普林斯顿大学)
我们研究了学习率如何影响求解$A x \approx b + \varepsilon$的松弛随机Kaczmarz算法的性能,其中$A x =b$是一个一致的线性系,$\varepsilon$具有独立的平均零随机条目。我们推导出一个学习率时间表,优化的预期误差,在某些情况下是尖锐的约束,在相反的指数收敛的标准随机Kaczmarz算法,我们的优化的约束涉及的倒数的兰伯特- $W$函数的指数。
2022-08-09 cs.LG cs.NA math.CA
A subspace constrained randomized Kaczmarz method for structure or external knowledge exploitation
本文提出一种子空间约束随机 Kaczmarz 方法,利用结构或外部知识限制迭代空间以加速收敛,并基于此构建分位数算法处理任意稀疏污染线性系统。
2024-06-07 cs.NA math.NA math.PR
A fast randomized Kaczmarz algorithm for sparse solutions of consistent linear systems
University of British Columbia(不列颠哥伦比亚大学)
本文提出一种改进的随机Kaczmarz算法,通过加权行投影加速稀疏解求解,适用于一致线性系统。
2013-05-16 cs.IT cs.NA math.IT
Phase retrieval of complex-valued objects via a randomized Kaczmarz method
本文研究了复值物体相位恢复问题的随机Kaczmarz算法的收敛性。虽然这个算法已经研究了实值的情况下,其推广到复值的情况下是不平凡的,并已离开作为一个猜想。本文建立了算法的收敛性与目标函数的凸性之间的联系。在此基础上,证明了当感知矢量在单位球面上均匀采样,且感知矢量个数$m$满足$m>O(n\log n)$为$n, m\rightarrow\infty$时,该算法在良好的初始化条件下,以高概率线性收敛到解.
2020-10-13 cs.IT cs.NA math.IT
Quantile Randomized Kaczmarz Algorithm with Whitelist Trust Mechanism
Michigan State University(密歇根州立大学)
分位数随机Kaczmarz算法结合白名单信任机制,通过在线检测器和分位数估计提升超定系统在噪声下的鲁棒性和收敛效率。
2026-02-12 cs.NA math.NA stat.ME
Rows vs Columns for Linear Systems of Equations - Randomized Kaczmarz or Coordinate Descent?
Carnegie Mellon University(卡内基梅隆大学)
本文研究了线性系$X β= y$在不同情况下的随机迭代算法。当Strohmer和Vershynin(2009)证明了随机Kaczmarz(RK)算法在$X$(数据点)行上的线性收敛速率时,最近对该主题的兴趣被重新点燃。之后,Leventhal和Lewis(2010)证明了随机坐标下降(RCD)算法的线性收敛性,该算法适用于$X$(特征)的列。本文的目的是简化我们对这两种算法的理解,建立它们之间的直接关系(尽管RK经常与随机梯度下降进行比较),并检查算法的共性或涉及行或列的权衡。我们还讨论了核岭回归,并提出了一种Kaczmarz风格的算法,该算法适用于数据点,并且具有解决问题的优势,而无需存储或形成Gram矩阵,这是扩展核化方法时遇到的公认问题之一。
2014-06-20 cs.LG cs.NA math.NA
Pseudoinverse-free randomized block iterative algorithms for consistent and inconsistent linear systems
随机迭代算法由于能够近似求解大规模线性系方程组而不需要访问整个系数矩阵,近年来受到了广泛的关注。本文提出了求解相容和不相容线性系的两个新的无伪逆随机块迭代算法。所提出的算法需要两个用户定义的随机矩阵:一个用于行采样,另一个用于列采样。我们可以恢复著名的双随机高斯-赛德尔,随机Kaczmarz,随机坐标下降,随机扩展Kaczmarz算法,通过选择适当的随机矩阵在我们的算法。由于我们的算法允许这两个随机矩阵的更广泛的选择,一些新的特定的算法可以得到。我们证明了算法在均方意义下的线性收敛。对具有合成系数矩阵和真实系数矩阵的线性系的数值实验表明了本文算法在某些特殊情况下的有效性。
2021-10-21 cs.NA math.NA
A deterministic Kaczmarz algorithm for solving linear systems
提出一种用反射替代正交投影的确定性Kaczmarz算法,通过球面点分布平均逼近线性系统解,并证明其与随机化Kaczmarz算法性能相当。
2023-05-16 cs.NA math.NA
Two-subspace Projection Method for Coherent Overdetermined Systems
提出一种基于两个随机行投影到解空间的双子空间Kaczmarz方法,实现期望指数收敛,在行相关系统中优于随机Kaczmarz方法。
2012-10-08 cs.NA math.NA math.PR