Paved with Good Intentions: Analysis of a Randomized Block Kaczmarz Method
块Kaczmarz方法是求解超定最小二乘问题的一种迭代格式。在每一步中,算法将当前的约束映射到约束子集的解空间上。本文介绍了一种块Kaczmarz算法,它使用一个随机控制方案来选择在每一步的子集。该算法是第一个块Kaczmarz方法与(预期)的线性收敛速率,可以表示在矩阵及其子矩阵的几何性质。分析表明,该算法是最有效的,当它给出了一个良好的行铺设的矩阵,划分成良好的条件块的行。运营商理论文献提供了关于良好的行铺面的存在和建设的详细信息。总之,这些结果产生一个有效的块Kaczmarz计划,适用于许多超定最小二乘问题。
2012-12-17 cs.NA math.NA
Randomized block subsampling Kaczmarz-Motzkin method
通过引入子采样策略,提出了一种求解线性系的随机块Kaczmarz-Motzkin方法.这种策略不仅决定了块的大小,而且结合和扩展了两个著名的策略,随机性和贪婪,因此可以继承他们的优点。理论分析表明,所提出的方法线性收敛于期望的最小欧几里德范数的解决方案。数值算例验证了新方法的有效性和可行性。
2022-11-30 cs.NA math.NA
On averaging block Kaczmarz methods for solving nonlinear systems of equations
本文提出了一类求解非线性方程组的平均块非线性Kaczmarz方法,建立了其在常数和自适应步长下的收敛理论与收敛率上界,数值实验证明该方法在迭代步数和计算成本上优于现有方法。
2023-07-28 cs.NA math.NA
A class of pseudoinverse-free greedy block nonlinear Kaczmarz methods for nonlinear systems of equations
针对非线性方程组求解,本文提出一类无需Moore-Penrose伪逆的非线性贪心平均分块Kaczmarz方法,并通过收敛性分析与数值实验验证其计算效率和有效性。
2023-04-26 cs.NA math.NA
A greedy double-block nonlinear Bregman-Kaczmarz method for nonlinear equations
College of Science, China University of Petroleum(中国石油大学理学院)
针对非线性方程稀疏解问题,提出贪心双块非线性Bregman-Kaczmarz方法,建立其理论收敛速率,数值实验验证该方法性能更优。
2026-10-14 cs.NA math.NA
A Note On The Randomized Kaczmarz Method With A Partially Weighted Selection Step
在本文中,我们重新考虑了两个已知的算法,这两个算法通常比Strohmer和Vershynin(2009)引入的随机Kaczmarz方法收敛得更快,但需要在每一步额外计算迭代的所有残差。如文献中已经指出的,例如arXiv:2007.02910和arXiv:2011.14693,表明两种算法的非随机化版本至少与随机化版本一样快地收敛,同时仍然需要计算所有残差。基于该观察结果,arXiv:2011.14693引入了一种新的简单随机样本选择方案,以减少所需的残差总数。在同样的光,我们提出了一种替代的随机选择方案,可以很容易地被包括作为一个'部分加权选择步骤'到经典的随机Kaczmarz算法没有太多的麻烦。数值例子表明,随机确定的所需残差的数量可以是相当温和的。
2021-06-30 cs.NA math.NA
On global randomized block Kaczmarz algorithm for solving large-scale matrix equations
本文提出两种全局随机块Kaczmarz算法,用于高效求解大规模线性矩阵方程,并在图像去模糊中表现出色。
2022-04-29 cs.NA math.NA
A Tensor Greedy Double-Block Extended Kaczmarz Method for Inconsistent Tensor Linear Systems under the t-product
African Institute of Mathematical Sciences(非洲数学科学学院);African Master’s of Machine Intelligence(非洲机器学习硕士项目);Institute for Analysis and Algebra, TU Braunschweig(不伦瑞克工业大学分析与代数研究所)
本文针对t-积下的三阶不相容张量线性系统,提出TGDBEK方法,通过贪心策略动态调整活动块大小,理论上线性收敛,数值实验显示其性能优于现有同类张量Kaczmarz求解器。
2026-08-26 cs.NA math.NA
On the alternating randomized block Kaczmarz method
School of Mathematics and Statistics, South-Central Minzu University(中南民族大学数学与统计学院);School of Mathematics and Computational Science, Huaihua University(怀化学院数学与计算科学系);College of Applied Mathematics, Shanxi University of Finance and Economics(山西财经大学应用数学学院)
本文提出交替随机块Kaczmarz方法用于求解线性矩阵方程,通过随机索引选择方案实现线性收敛。
2023-11-01 cs.NA math.NA
Randomized extended block Kaczmarz for solving least squares
随机迭代算法最近被提出来解决大规模线性系。本文提出了一个简单的随机扩展块Kaczmarz算法,该算法以均方指数收敛于给定线性系方程组的唯一最小$\ell_2$范数最小二乘解.该算法是伪逆自由,因此不同的投影为基础的随机双块Kaczmarz算法的Needell,赵,和Zouzias。我们强调,我们的方法适用于所有类型的线性系(一致或不一致,超定或欠定,满秩或秩亏)。此外,我们的方法可以利用分布式计算单元上的高效实现,在计算时间上产生显着的改善。数值算例表明了新算法的有效性。
2020-07-08 cs.NA math.NA
Randomized Block Kaczmarz Method with Projection for Solving Least Squares
Claremont McKenna College(克莱蒙特麦肯纳学院);Claremont Graduate Univ.(克莱蒙特研究生大学);IBM Research Lab, Zurich(IBM苏黎世研究实验室)
本文提出两种随机块Kaczmarz方法,通过矩阵分块加速对不一致系统的最小二乘解的收敛。
2015-06-23 cs.NA math.NA
Block sampling Kaczmarz-Motzkin methods for consistent linear systems
抽样Kaczmarz-Motzkin(SKM)方法是随机Kaczmarz和Motzkin方法的推广。该算法首先对系数矩阵的若干行进行随机采样,建立一个集合,然后利用该集合中的最大违反准则确定一个约束。最后,它通过强制执行这一单一约束来取得进展。本文在SKM方法框架的基础上,考虑贪婪策略,提出了两种求解相容线性系的块采样Kaczmarz-Motzkin方法。具体来说,我们也首先采样系数矩阵的行的子集,然后使用最大违规准则确定在这个集合中的索引。与SKM方法不同,在其余的块方法中,我们设计了不同的贪婪策略来构建索引集。然后,新方法通过同时执行相应的多个约束来取得进展。理论分析表明,这些块方法收敛速度至少与SKM方法一样快,数值实验表明,对于相同的精度,我们的方法优于SKM方法的迭代次数和计算时间。
2020-11-12 cs.NA math.NA
On convergence of greedy block nonlinear Kaczmarz methods with momentum
针对非线性方程组,本文融合加权非线性 Kaczmarz 与 heavy ball 技术,提出两种免伪逆的动量贪心分块方法,并在无 Jacobi 矩阵列满秩假设下证明收敛、给出速率上界,实验显示其显著优于现有方法。
2025-03-13 cs.NA math.NA
Greedy randomized block Kaczmarz method for matrix equation AXB=C and its applications in color image restoration
School of Mathematics and Statistics, Beijing Jiaotong University(北京交通大学数学与统计学院)
本文提出了一种用于解决矩阵方程AXB=C的贪心随机块Kaczmarz方法,并应用于彩色图像恢复
2026-02-04 cs.NA math.NA
A Relaxed Randomized Averaging Block Extended Bregman-Kaczmarz Method for Combined Optimization Problems
本文提出了一种用于联合优化问题的rRABEBK方法,通过引入平均块策略和松弛参数,提升收敛速度和稳定性,并在理论和实践中均优于传统Kaczmarz算法。
2025-12-10 cs.NA math.NA
Block Kaczmarz Method with Inequalities
本文提出一种块型方法用于混合等式和不等式系统,通过矩阵分块提升收敛性,并证明线性收敛率,同时探讨不等式块在特定几何条件下同样有效。
2014-09-02 cs.NA math.NA
Accelerating Random Kaczmarz Algorithm Based on Clustering Information
Department of Computer Science and Engineering(计算机科学与工程系);Shanghai Jiao Tong University(上海交通大学)
本文提出基于聚类信息的加速随机Kaczmarz算法,利用Johnson-Lindenstrauss引理改进块Kaczmarz和普通Kaczmarz算法,并理论证明了收敛性的提升。
2015-11-19 cs.NA math.NA
Average block nonlinear Kaczmarz methods with adaptive momentum for nonlinear systems of equations
School of Mathematics and Computational Science, Xiangtan University(湘潭大学数学与计算科学学院);Hunan Research Center of the Basic Discipline Fundamental Algorithmic Theory and Novel Computational Methods, School of Mathematics and Computational Science, Xiangtan University(湘潭大学数学与计算科学学院基础学科基本算法理论与新型计算方法湖南省研究中心);Department of Mathematics, The Chinese University of Hong Kong(香港中文大学数学系)
本文提出一种适用于大规模非线性系统和病态问题的自适应动量平均块非线性Kaczmarz方法,通过自适应选择步长和动量系数,提高了计算效率并证明了收敛性。
2026-03-27 cs.NA math.NA
A Count Sketch Kaczmarz Method For Solving Large Overdetermined Linear Systems
本文结合计数草图和最大加权残差Kaczmarz方法,提出了一种求解大型超定线性系的快速随机化算法。对新算法进行了收敛性分析。数值实验表明,在相同的精度下,我们的方法表现出更好的计算时间相比,最先进的算法。
2020-04-06 cs.NA math.NA
Random Greedy Fast Block Kaczmarz Method for Solving Large-Scale Nonlinear Systems
针对大规模非线性系统求解,提出随机贪婪快速块Kaczmarz方法,通过融合随机与贪婪策略并避免Jacobian子矩阵伪逆计算,在期望下实现线性收敛,显著提升了求解效率与鲁棒性。
2025-08-13 cs.NA math.NA
On the Relation Between the Randomized Extended Kaczmarz Algorithm and Coordinate Descent
University Politehnica of Bucharest(布加勒斯特理工大学);Tampere University of Technology(坦佩雷理工大学)
本文比较了随机扩展Kaczmarz算法与随机坐标下降算法在求解满秩过定线性最小二乘问题中的效率,证明坐标下降在满足相同残差终止条件时操作更少,且先用坐标下降计算残差再用标准Kaczmarz求解一致系统比扩展Kaczmarz更高效。
2014-08-30 cs.DS cs.NA math.NA
Semi-randomized block Kaczmarz methods with simple random sampling for large-scale linear systems
本文针对大规模线性系统提出基于简单随机抽样的半随机化分块Kaczmarz方法,无需扫描全部行或计算概率与残差,可同时处理多右端项,实验表明其优于现有方法。
2023-12-01 cs.NA math.NA
RGDBEK: Randomized Greedy Double Block Extended Kaczmarz Algorithm with Hybrid Parallel Implementation and Applications
本文提出随机贪婪双块扩展 Kaczmarz(RGDBEK)算法,通过基于残差概率的随机行列块选择缓解跷跷板效应,并利用混合 CPU-GPU 并行实现提升大规模稀疏线性系统求解效率,在合成与真实矩阵上均优于现有 Kaczmarz 变体。
2025-09-23 cs.NA math.NA
The sparse Kaczmarz method with surrogate hyperplane for the regularized basis pursuit problem
针对正则化基追踪问题,本文提出带代理超平面的稀疏Kaczmarz方法通用框架,给出基于残差的具体实现,证明收敛性并比较线性收敛速率,实验验证了方法的有效性。
2024-06-21 cs.NA math.NA
On Block Accelerations of Quantile Randomized Kaczmarz for Corrupted Systems of Linear Equations
随着大数据和大规模学习任务的增长,对高效和鲁棒的线性系求解器的需求大于以往任何时候。随机Kaczmarz方法(RK)和类似的随机迭代法由于其高效的实现和内存占用而受到了相当大的关注。这些方法可以容忍流式数据,一次只访问部分数据,并且即使系统受到噪声的影响,也可以近似最小二乘解。然而,当数据受到大的(可能是对抗性的)破坏的影响时,这些方法无法收敛,因为破坏的数据点绘制的迭代远离真正的解决方案。最近提出的解决方案是QuantileRK方法,它通过在方法迭代时仔细探索空间来避免有害的损坏数据。探索组件需要计算来自系统的大样本的分位数,并且在计算上比随后的迭代更新重得多。在本文中,我们提出了一种方法,更好地利用在勘探过程中获得的信息,将块Kaczmarz方法的平均版本。这显著加快了收敛速度,同时仍然允许一个常数部分的方程被任意破坏。我们提供了理论上的收敛保证以及实验支持的证据。我们还证明了经典的基于投影的块Kaczmarz方法不能对稀疏对抗性腐败具有鲁棒性,而是必须通过平均一维投影来进行阻塞。
2022-12-21 cs.NA math.NA
Reflective block Kaczmarz algorithms for least squares
本文全面研究了两种新型Kaczmarz算法,理论分析了其求解最小二乘的性能,将其扩展为块版本并给出收敛速率,数值实验验证了其高效性,同时解答了相关遗留问题。
2024-07-27 cs.NA math.NA
OBK-RCM: Accelerated Orthogonal Block Kaczmarz Algorithm via RCM Reordering and Dynamic Grouping for Sparse Linear Systems
针对稀疏线性系统,提出OBK-RCM算法,结合RCM重排序和动态分组提升块正交性,显著加速并减少迭代,实验显示10-50倍CPU加速和50-90%迭代减少。
2025-06-21 cs.NA math.NA
Greedy randomized sampling nonlinear Kaczmarz methods
最近提出的非线性Kaczmarz方法来解决非线性方程组。在本文中,我们首先讨论两个贪婪选择规则,即,非线性Kaczmarz迭代的最大残差准则和最大距离准则。在此基础上,提出了两种贪婪随机抽样方法。此外,我们还设计了四个相应的贪婪随机区组方法,即,基于多样本的方法。证明了所提出的方法均具有期望的线性收敛性。数值结果表明,在布朗概线性函数和广义线性模型等应用中,贪婪选择规则比随机选择规则具有更快的收敛速度,块方法优于单样本方法.
2022-09-13 cs.NA math.NA
Deterministic and randomized Kaczmarz methods for $AXB=C$ with applications to color image restoration
School of Mathematics and Statistics, Beijing Jiaotong University(北京交通大学数学与统计学院);Department of Mathematics and Computer Science, TU Eindhoven(埃因霍温理工大学数学与计算机科学系)
本文提出确定性和随机性Kaczmarz方法用于求解$AXB=C$,并应用于彩色图像恢复,通过理论分析和实验验证其有效性。
2026-02-03 cs.NA math.NA
Greedy capped nonlinear Kaczmarz methods
为了解决非线性问题,通过设置上限阈值和引入有效的概率准则来选择雅可比矩阵的行,构造了两类贪婪上限非线性Kaczmarz方法.最大残差准则和最大距离准则是确定阈值和概率准则的主要依据。新方法的块版本也被提出。我们给出了这些方法的收敛性分析,其数值结果表现得相当好。
2022-10-02 cs.NA math.NA
Greedy Motzkin-Kaczmarz methods for solving linear systems
著名的贪婪随机Kaczmarz(GRK)方法使用最大距离的贪婪选择规则来确定工作行的索引子集。利用最大残差的贪婪选择准则,提出了求解线性系的贪婪随机Motzkin-Kaczmarz(GRMK)方法.文中还给出了新方法的块形式。我们分析了这两种方法的收敛性,并给出了相应的收敛因子。大量的数值实验表明,GRMK方法对稠密矩阵具有与GRK方法几乎相同的性能,而对某些稀疏矩阵,GRMK方法在计算时间上优于GRK方法,而且GRMK和GRK方法的分块版本总是具有几乎相同的性能.
2020-11-12 cs.NA math.NA
Randomized block Kaczmarz with volume sampling: Momentum acceleration and efficient implementation
针对随机分块 Kaczmarz 依赖行铺砌的问题,提出体积采样分块选择与动量加速,并给出稀疏矩阵下近对数复杂度的高效实现,显著改善收敛因子。
2025-03-18 cs.NA math.NA
On block Gaussian sketching for the Kaczmarz method
Kaczmarz算法由于其简单性和计算效率而成为求解大规模超定线性方程组最常用的方法之一。此方法可视为更一般的草图和项目方法类的特殊实例。最近,提出了一个块高斯版本,该版本使用块高斯草图,享受高斯草图的正则化属性,并结合块变体的加速。理论分析只提供了非块版本的高斯草图方法。在这里,我们提供了理论保证的块高斯Kaczmarz方法,证明了一些收敛结果显示收敛到解决方案的指数快速的期望。另一方面,有了这个理论和广泛的实验支持,我们观察到,每次迭代的数值复杂性通常使这种方法不如其他迭代投影方法。我们只强调一种可能有利的设置,即当正则化效应用于减少某些噪声模型下迭代的方差和某些特定矩阵构造的收敛性时。
2020-01-21 cs.NA math.NA math.PR
Error estimates of Kaczmarz and randomized Kaczmarz methods
Kaczmarz方法是求解相容系统$Ax = b$的一种迭代投影格式。后来,它被推广到不一致和不适定的线性问题。但经典的Kaczmarz方法对相邻方程的相关性很敏感。为了减小相关性对收敛速度的影响,分别提出了随机化Kaczmarz方法和随机化块Kaczmarz方法。在现有文献中,这些方法的误差估计结果都是基于误差$\|x_k-x_*\|_2$建立的,其中$x_*$是线性系$Ax=b$的解。本文在KunioTanabe收敛定理的基础上,推广了Kaczmarz方法和随机Kaczmarz方法的现有误差估计,得到了关于误差$\|x_k-P_{N(A)}x_0-x^\dagger\|_2$的一些一般性结果.
2022-10-02 cs.NA math.NA
Accelerated Kaczmarz methods via randomized sketch techniques for solving consistent linear systems
针对相容线性系统求解问题,本文采用两种随机草图技术改进两类Kaczmarz方法,完成收敛性分析与解偏差上界推导,实验验证新方法在同等精度下运行效率更优。
2025-11-17 cs.NA math.NA
On Subsampled Quantile Randomized Kaczmarz
本文提出并分析 sQRK 算法,用子采样残差近似分位数阈值,以在含少量严重损坏测量的大规模线性系统中避免全残差计算,并证明其唯一解收敛性。
2023-08-15 cs.NA math.NA
A note on Kaczmarz algorithm with remotest set control sequence
Ovidius University of Constanta(康斯坦察奥维迪乌斯大学);“Gheorghe Mihoc - Caius Iacob” Institute of Statistical Mathematics and Applied Mathematics of the Romanian Academy(罗马尼亚科学院“格奥尔基·米霍克-卡尤斯·雅各布”统计数学与应用数学研究所)
本文研究了基于最远集合控制的Kaczmarz投影算法,证明在欠定满行秩系统中,该方法能保证每行索引在迭代中至少被选中一次。
2017-02-09 cs.NA math.NA
On Convergence Behavior of Randomized Kaczmarz-type Methods for Solving Doubly Noisy Linear Systems
Imagination Corp.(Imagination公司);Fictional University(虚构大学);School of Mathematics, China University of Mining and Technology(中国矿业大学数学学院)
本文针对双重噪声线性系统,首次分析了REK、RBK、RDBK等随机Kaczmarz型算法的收敛性,证明其收敛到无噪声系统最小二乘解邻域,并通过数值实验验证了理论结果。
2026-10-09 cs.NA math.NA
Faster Randomized Block Sparse Kaczmarz by Averaging
标准随机稀疏Kaczmarz(RSK)方法是计算方程的线性系的稀疏解的算法,并且使用顺序更新,并且因此不利用并行计算。在这项工作中,我们介绍了一个并行(小批量)版本的RSK平均几个Kaczmarz步骤的基础上。自然,这种方法允许并行化,我们表明,它也可以利用大的过度松弛。我们证明了线性预期收敛,并表明,由于并行计算可以利用,该方法可证明提供更快的收敛速度比标准方法。这种方法也可以被看作是一个变种的线性化Bregman算法,一个随机双块坐标下降更新,一个随机镜像下降更新,或一个放松版本的RSK和我们恢复标准RSK方法时,批量大小等于1。我们还提供了不一致的系统的估计,并表明,迭代收敛到一个错误的顺序的噪声水平。最后,数值例子说明了新算法的好处。
2022-10-17 cs.NA math.NA math.OC
On Application of Block Kaczmarz Methods in Matrix Factorization
矩阵分解技术计算高维数据矩阵的低秩乘积近似,因此,经常在推荐系统和协同过滤应用中使用。然而,许多算法,这项任务利用精确的最小二乘求解器的计算是耗时和内存昂贵的。在本文中,我们讨论和测试块Kaczmarz求解器,取代最小二乘法子程序在常见的交替计划矩阵因式分解。这种变体以因子分解误差的小幅增加换取显著更快的算法性能。在这样做的时候,我们发现块的大小,产生的解决方案相比,最小二乘求解器的运行时间和工作内存的要求只有一小部分。
2020-10-20 cs.LG cs.NA math.NA
Adaptive Bregman-Kaczmarz: An Approach to Solve Linear Inverse Problems with Independent Noise Exactly
针对每次访问分块都产生独立新噪声的线性反问题,本文提出带可估计自适应步长的分块 Bregman-Kaczmarz 方法,证明其可精确收敛,并通过数值实验验证有效性。
2024-05-09 cs.NA math.NA math.OC
Block Matrix and Tensor Randomized Kaczmarz Methods for Linear Feasibility Problems
本文提出块随机Kaczmarz方法B-MRK及两种张量随机Kaczmarz方法TRK-L和TRK-LB,分别处理矩阵与张量线性可行性问题,并证明其期望线性收敛性。
2024-06-17 cs.NA math.NA math.OC
Adaptive Randomized Extended Bregman-Kaczmarz Method for Combined Optimization Problems
Shanghai Research Institute for Intelligent Autonomous Systems, Tongji University(同济大学上海智能自主系统研究院);School of Mathematical Sciences, Tongji University(同济大学数学科学学院);The Institute for Advanced Study, Shenzhen University(深圳大学高等研究院)
本文提出了一种自适应随机平均块扩展Bregman-卡茨马茨方法,用于解决联合优化问题,通过自动调整松弛参数提升收敛速度和鲁棒性。
2026-01-16 cs.NA math.NA
Randomized batch-sampling Kaczmarz methods for solving linear systems
Nanjing University of Aeronautics and Astronautics(南京航空航天大学)
本文提出一种统一的随机批量采样Kaczmarz框架,通过集中不等式推导出新的期望线性收敛率界,并探讨其在特定应用中的高效性能潜力。
2026-04-18 cs.NA math.NA stat.ML
Two-dimensional greedy randomized Kaczmarz methods for solving large-scale linear systems
针对大规模线性系统求解,提出基于贪婪选择和半随机策略的二维随机Kaczmarz方法,理论上证明其收敛于唯一最小范数解,且数值实验显示其在计算时间上优于现有方法。
2025-06-26 cs.NA math.NA
Two-dimensional greedy randomized extended Kaczmarz methods
本文提出二维贪心随机扩展Kaczmarz方法及其半随机改进版,通过每次迭代选取残差中两个较大条目对应的两行两列,加速大规模最小二乘求解,数值实验显示计算时间更优。
2025-06-19 cs.NA math.NA
Single Projection Kaczmarz Extended Algorithms
University of Heidelberg(海德堡大学);OVIDIUS University of Constanta(康斯坦察奥维迪乌斯大学)
本文研究了单投影Kaczmarz扩展算法,通过同时去除误差项和应用Kaczmarz迭代,实现对大不一致方程组的最小二乘解的收敛。
2015-04-01 cs.DS cs.NA math.NA
Adaptive Row Selection Meets Asynchrony in Randomized Kaczmarz
University of Mary Washington(玛丽华盛顿大学)
研究随机化Kaczmarz中自适应行选择与异步性,通过在96核节点上339次运行测量实际延迟,发现稳定性受边界$\ell^*(T)$等影响,阈值贪婪选择在高线程数不稳定,欠松弛可恢复边界,不一致读取更优,还验证实现并概述分布式两级采样器。
2026-08-25 cs.DC cs.NA math.NA
A semi-randomized and augmented Kaczmarz method with simple random sampling for large-scale inconsistent linear systems
针对大规模不相容线性系统,提出加速贪婪随机增广Kaczmarz方法和基于简单随机采样的半随机化方法以降低计算开销,并首次引入实用的理论终止准则,实验验证了其高效性。
2023-10-22 cs.NA math.NA
Acceleration and restart for the randomized Bregman-Kaczmarz method
本文提出一种分块加速随机化Bregman-Kaczmarz方法,通过利用对偶问题的Polyak-Lojasiewicz性质并在原始空间中分析,实现了强凸函数线性约束优化问题的线性收敛,数值实验验证了其高效性。
2024-04-03 cs.NA math.NA
On Quantile Randomized Kaczmarz for Linear Systems with Time-Varying Noise and Corruption
本文证明了分位数随机Kaczmarz方法在存在随时间变化的噪声和损坏的大规模线性系统中仍能收敛至一定范围,并给出了残差揭示损坏的概率下界。
2024-12-23 cs.NA math.NA
Kaczmarz and Gauss-Seidel Algorithms with Volume Sampling
本文将交替投影法的随机化收敛结果通过体积采样扩展至批量大小大于1,证明收敛速度随块大小增加而单调提升,克服了均匀采样无法保证此特性的局限。
2025-05-31 cs.NA math.NA math.OC
Accelerated Exact Recovery from Noisy Data via Averaging and Noise-Aware Adaptive Bregman-Kaczmarz
TU Braunschweig(布伦瑞克工业大学);African Institute for Mathematical Sciences (AIMS)(非洲数学科学研究所);AMMI Senegal(塞内加尔应用数学与机器学习中心);University of Pisa(比萨大学)
研究从噪声数据中精确恢复线性逆问题,核心方法是通过平均和噪声感知自适应布雷格曼 - 卡兹马尔兹方法,包括用块平均代替块和、引入噪声感知加权、自适应步长插值等,证明收敛性与批量大小等的关系,通过实验验证方法有效性。
2026-07-20 cs.NA math.NA math.OC
Parallelization Strategies for the Randomized Kaczmarz Algorithm on Large-Scale Dense Systems
针对现有Kaczmarz算法并行研究多聚焦稀疏系统的问题,本文探究大规模稠密系统下共享与分布式内存的并行化方案,实现RKA方法并提出性能更优的分块平均方法。
2024-01-30 cs.DC cs.NA math.NA