Kaczmarz Projection Algorithms in Moving Window: Performance Improvement via Extended Orthogonality & Forgetting
提出带秩二增益更新、扩展正交性和遗忘机制的新型Kaczmarz算法,通过遗忘因子和窗口大小实现指数与瞬时遗忘,并与秩一更新算法关联以提升性能。
2024-05-27 cs.NA math.DS math.NA
Randomized Block Kaczmarz Method with Projection for Solving Least Squares
Claremont McKenna College(克莱蒙特麦肯纳学院);Claremont Graduate Univ.(克莱蒙特研究生大学);IBM Research Lab, Zurich(IBM苏黎世研究实验室)
本文提出两种随机块Kaczmarz方法,通过矩阵分块加速对不一致系统的最小二乘解的收敛。
2015-06-23 cs.NA math.NA
A note on Kaczmarz algorithm with remotest set control sequence
Ovidius University of Constanta(康斯坦察奥维迪乌斯大学);“Gheorghe Mihoc - Caius Iacob” Institute of Statistical Mathematics and Applied Mathematics of the Romanian Academy(罗马尼亚科学院“格奥尔基·米霍克-卡尤斯·雅各布”统计数学与应用数学研究所)
本文研究了基于最远集合控制的Kaczmarz投影算法,证明在欠定满行秩系统中,该方法能保证每行索引在迭代中至少被选中一次。
2017-02-09 cs.NA math.NA
Randomized Extended Kaczmarz for Solving Least-Squares
University of Toronto(多伦多大学);IBM Research - Zürich(IBM苏黎世研究中心)
提出一种随机迭代算法,指数收敛到线性系统的最小欧几里得范数最小二乘解,其运算复杂度与系统条件数的平方和输入矩阵非零元数成正比。
2013-01-05 cs.DS cs.NA math.NA
Refined upper bounds for the convergence of the randomized extended Kaczmarz and Gauss-Seidel algorithms
School of Mathematical Sciences and Fujian Provincial Key Laboratory of Mathematical Modeling and High-Performance Scientific Computing, Xiamen University(厦门大学数学科学学院、福建省数学建模与高性能科学计算重点实验室)
本文研究随机扩展Kaczmarz和Gauss-Seidel算法的收敛性,提出更精确的收敛上界。
2018-01-10 cs.NA math.NA
On multi-step extended maximum residual Kaczmarz method for solving large inconsistent linear systems
提出多步扩展最大残差Kaczmarz方法求解大型不相容线性系统,理论证明收敛并给出上界,数值实验显示其优于现有方法。
2023-09-06 cs.NA math.NA
Convergence rates for Kaczmarz-type algorithms
Ovidius University of Constanta(奥维迪乌斯康斯坦察大学);“Gheorghe Mihoc - Caius Iacob” Institute of Statistical Mathematics and Applied Mathematics of the Romanian Academy(罗马尼亚科学院格奥尔基·米霍克-卡尤斯·雅各布统计数学与应用数学研究所)
本文分析了Kaczmarz和扩展Kaczmarz投影算法在常用控制序列下的收敛速度,证明了Kaczmarz-Tanabe及其扩展方法的线性收敛性,并为近似循环和最远集控制策略的Kaczmarz算法及其扩展版本建立了亚线性和线性收敛性结果。
2017-01-27 cs.NA math.NA
A Kaczmarz algorithm for sequences of projections, infinite products, and applications to frames in IFS $L^{2}$ spaces
The University of Iowa(爱荷华大学);Southern Illinois University Edwardsville(南伊利诺伊大学爱德华兹维尔分校);Hampton University(汉普顿大学)
本文提出了一种新的递归迭代方案,用于处理无限维和非交换设置中的问题,如算子谱理论、优化、大规模稀疏系统、迭代函数系统(IFS)和分形调和分析。
2019-04-09 cs.NA math.FA math.NA
Adaptive Randomized Extended Bregman-Kaczmarz Method for Combined Optimization Problems
Shanghai Research Institute for Intelligent Autonomous Systems, Tongji University(同济大学上海智能自主系统研究院);School of Mathematical Sciences, Tongji University(同济大学数学科学学院);The Institute for Advanced Study, Shenzhen University(深圳大学高等研究院)
本文提出了一种自适应随机平均块扩展Bregman-卡茨马茨方法,用于解决联合优化问题,通过自动调整松弛参数提升收敛速度和鲁棒性。
2026-01-16 cs.NA math.NA
Randomized double and triple Kaczmarz for solving extended normal equations
随机Kaczmarz算法由于其简单、快速和近似求解大规模线性系方程组的能力而受到广泛关注。本文提出了求解$\bf A^\top Ax=A^\top b-c$形式的扩展正规方程的随机双Kaczmarz算法和三Kaczmarz算法。所提出的算法避免了显式地形成$\bf A^\top A$,并且适用于{ \it arbitrary} $\mbf A\in\mbbr^{m\times n}$(满秩或秩亏,$m\geq n$或$m<n$)。给出了算法均方指数收敛的{ \it Tight}上界,并给出了数值实验.
2020-10-27 cs.NA math.NA
Two-dimensional greedy randomized extended Kaczmarz methods
本文提出二维贪心随机扩展Kaczmarz方法及其半随机改进版,通过每次迭代选取残差中两个较大条目对应的两行两列,加速大规模最小二乘求解,数值实验显示计算时间更优。
2025-06-19 cs.NA math.NA
Convergence acceleration of Kaczmarz's method
Université des Sciences et Technologies de Lille(里尔科学技术大学);Università degli Studi di Padova(帕多瓦大学)
针对Kaczmarz方法收敛慢的问题,提出基于序列变换的加速策略,通过直接加速或重启加速提高效率,数值实验验证有效性。
2013-02-01 cs.NA math.NA
Randomized Extended Kaczmarz is a Limit Point of Sketch-and-Project
用于求解线性方程组的草图和投影(SAP)框架已经统一了流行的投影迭代法(诸如随机Kaczmarz、随机坐标下降及其变体)背后的理论。随机化扩展Kaczmarz(REK)方法是随机化Kaczmarz方法的一个流行的扩展,用于解决不一致系统,尚未被证明是在SAP框架内。在这项工作中,我们表明,在某种意义上说,REK可以表示为一个家庭的SAP方法的极限点,但我们认为,它是不太可能的,REK可以被翻译成一个SAP方法本身。我们提供了一个广泛的理论分析家庭的方法,包括所述限制,包括收敛保证和进一步连接到REK。我们遵循这一点,一系列的实验证明这些方法和它们在实践中的联系。
2022-04-11 cs.NA math.NA
A Tensor Greedy Double-Block Extended Kaczmarz Method for Inconsistent Tensor Linear Systems under the t-product
African Institute of Mathematical Sciences(非洲数学科学学院);African Master’s of Machine Intelligence(非洲机器学习硕士项目);Institute for Analysis and Algebra, TU Braunschweig(不伦瑞克工业大学分析与代数研究所)
本文针对t-积下的三阶不相容张量线性系统,提出TGDBEK方法,通过贪心策略动态调整活动块大小,理论上线性收敛,数值实验显示其性能优于现有同类张量Kaczmarz求解器。
2026-08-26 cs.NA math.NA
Randomized regularized extended Kaczmarz algorithms for tensor recovery
最近提出了随机正则化Kaczmarz算法来求解具有{ \it consistent}线性测量的张量恢复模型。在这项工作中,我们提出了一种新的算法的基础上的随机扩展Kaczmarz算法(在期望线性收敛到唯一的最小范数最小二乘解的线性系)的张量恢复模型与{ \it不一致}的线性测量。证明了算法在期望条件下的线性收敛。最后给出了张量最小二乘问题和稀疏张量恢复问题的数值实验。
2021-12-16 cs.NA math.NA math.OC
Randomized extended block Kaczmarz for solving least squares
随机迭代算法最近被提出来解决大规模线性系。本文提出了一个简单的随机扩展块Kaczmarz算法,该算法以均方指数收敛于给定线性系方程组的唯一最小$\ell_2$范数最小二乘解.该算法是伪逆自由,因此不同的投影为基础的随机双块Kaczmarz算法的Needell,赵,和Zouzias。我们强调,我们的方法适用于所有类型的线性系(一致或不一致,超定或欠定,满秩或秩亏)。此外,我们的方法可以利用分布式计算单元上的高效实现,在计算时间上产生显着的改善。数值算例表明了新算法的有效性。
2020-07-08 cs.NA math.NA
Error estimates of Kaczmarz and randomized Kaczmarz methods
Kaczmarz方法是求解相容系统$Ax = b$的一种迭代投影格式。后来,它被推广到不一致和不适定的线性问题。但经典的Kaczmarz方法对相邻方程的相关性很敏感。为了减小相关性对收敛速度的影响,分别提出了随机化Kaczmarz方法和随机化块Kaczmarz方法。在现有文献中,这些方法的误差估计结果都是基于误差$\|x_k-x_*\|_2$建立的,其中$x_*$是线性系$Ax=b$的解。本文在KunioTanabe收敛定理的基础上,推广了Kaczmarz方法和随机Kaczmarz方法的现有误差估计,得到了关于误差$\|x_k-P_{N(A)}x_0-x^\dagger\|_2$的一些一般性结果.
2022-10-02 cs.NA math.NA
A Relaxed Randomized Averaging Block Extended Bregman-Kaczmarz Method for Combined Optimization Problems
Shanghai Research Institute for Intelligent Autonomous Systems, Tongji University(同济大学上海智能无人系统研究院);School of Mathematical Sciences, Tongji University(同济大学数学科学学院);The Institute for Advanced Study, Shenzhen University(深圳大学高等研究院);Key Laboratory of Intelligent Computing and Applications (Ministry of Education), School of Mathematical Sciences, Tongji University(同济大学数学科学学院智能计算与应用教育部重点实验室)
本文提出了一种用于联合优化问题的rRABEBK方法,通过引入平均块策略和松弛参数,提升收敛速度和稳定性,并在理论和实践中均优于传统Kaczmarz算法。
2025-12-10 cs.NA math.NA
On convergence of residual-based extended randomized Kaczmarz methods for matrix equations
College of Science, China University of Petroleum(中国石油大学理学院)
本文提出了一种双空间残差基随机扩展Kaczmarz方法及其带有Nesterov动量的变种,无需系数矩阵的满列秩假设,推导了收敛率上界,并通过数值实验验证了其有效性。
2026-04-07 cs.NA math.NA
Two-subspace Projection Method for Coherent Overdetermined Systems
提出一种基于两个随机行投影到解空间的双子空间Kaczmarz方法,实现期望指数收敛,在行相关系统中优于随机Kaczmarz方法。
2012-10-08 cs.NA math.NA math.PR
Adaptively Sketched Bregman Projection Methods for Linear Systems
草图投影算法是求解线性系的一种通用原型算法,它统一了随机Kaczmarz和随机坐标下降等多种随机迭代法。然而,由于它的目的是从一个线性系找到一个最小范数解,随机稀疏Kaczmarz不能被包括在内。这促使我们提出了一个更一般的框架,称为草图Bregman投影(SBP)方法,在其中,我们能够找到解决方案与某些结构的线性系。为了推广自适应采样的SBP方法的概念,我们展示了如何进步,布雷格曼距离测量,单步直接依赖于一个草图损失函数。理论上,我们提供了详细的整体收敛的SBP方法与不同的自适应采样规则的结果。最后,对稀疏Kaczmarz方法进行了一组数值模拟,验证了与其他采样规则相比,采用采样Kaczmarz-Motzkin规则的方法在达到给定误差界时所需的计算量最少.
2021-12-29 cs.NA math.NA
Extended Randomized Kaczmarz Method for Sparse Least Squares and Impulsive Noise Problems
扩展的随机Kaczmarz方法是一个著名的迭代格式,它可以找到一个可能不相容的线性系的Moore-Penrose逆解,并且与标准的随机Kaczmarz方法相比,在每次迭代中只需要增加系统矩阵的一列。此外,稀疏随机Kaczmarz方法已被证明是线性收敛到一个一致的线性系的稀疏解决方案。在这里,我们结合这两个想法,并提出了一个扩展的稀疏随机Kaczmarz方法。我们表明线性预期收敛到稀疏最小二乘解的意义上说,一个扩展的变量的正则基追踪问题得到解决。此外,我们推广了该方法中的附加步骤,并证明了收敛到一个更抽象的最优化问题。我们数值证明,我们的方法可以找到稀疏的最小二乘解的真实和复杂的系统,如果噪声集中在补的范围内的系统矩阵,我们的推广可以处理脉冲噪声。
2022-07-20 cs.NA math.NA math.OC
Linear convergence of the Randomized Sparse Kaczmarz Method
已知解线性系的随机化Kaczmarz方法在期望中线性收敛。在这项工作中,我们扩展了这一结果,并表明,最近提出的随机稀疏Kaczmarz方法恢复稀疏的解决方案,以及许多变种,也线性收敛的预期。这一结果是在分裂可行性问题及其解决方案的框架内通过随机Bregman投影关于强凸函数。为了获得预期的收敛速度,我们证明了投影的误差界的扩展。收敛结果表明,持有在更一般的设置,包括光滑凸函数,分段线性二次函数,也正则化核范数,这是用于该地区的低秩矩阵问题。数值实验表明,随机稀疏Kaczmarz方法在求解欠定和过定线性系问题时,优于非随机和非稀疏Kaczmarz方法.
2016-10-10 cs.NA math.NA math.OC
Preconvergence of the randomized extended Kaczmarz method
本文分析了随机扩展Kaczmarz(REK)方法对所有类型的线性系(相容或不相容,超定或欠定,满秩或秩亏)的收敛性.分析表明,$A$的奇异值越大,误差在相应的右奇异向量空间中衰减越快,并且作为$k\rightarrow\infty$,$x_{k}-x_{\star}$趋向于$A$的最小奇异值所对应的右奇异向量,其中$x_{k}$是REK方法的$k$阶近似,$x_{\star}$是最小$\ell_2 $ -范数最小二乘解.这些结果解释了在文献中出现的大量数值实验中发现的现象,即REK方法似乎在开始时收敛得更快。一个简单的数值例子来证实上述发现。
2021-05-11 cs.NA math.NA
Two-subspace Projection Method for Coherent Overdetermined Systems (Technical Report)
提出一种基于双子空间投影的POCS算法,通过迭代投影到两个随机行定义的解空间,在相干超定线性系统中实现指数收敛,显著优于随机Kaczmarz方法。
2012-04-01 cs.NA math.NA math.PR
Convergence properties of the randomized extended Gauss-Seidel and Kaczmarz methods
本文研究了随机扩展Gauss-Seidel和Kaczmarz方法在不同系统设定下的收敛性,提供了统一理论及证明扩展版本在欠定情况下能收敛到最小范数解。
2018-02-01 cs.NA math.NA
On sampling Kaczmarz-Motzkin methods for solving large-scale nonlinear systems
本文提出了一种求解大型非线性方程组的非线性采样Kaczmarz-Motzkin(NSKM)方法。基于局部切锥条件和Jensen不等式,在两种不同的假设下证明了算法的收敛性.然后,为求解非线性方程组的凸约束,我们提出了两个变种的NSKM方法:投影采样Kaczmarz-Motzkin(PSKM)方法和加速投影采样Kaczmarz-Motzkin(APSKM)方法。利用投影的非扩张性和NSKM方法的收敛性,给出了收敛性分析。数值结果表明,在适当的样本大小下,NSKM方法在计算时间上优于非线性随机Kaczmarz(NRK)方法。APSKM方法和PSKM方法对于求解有约束的非线性问题是很有前途的。
2022-09-09 cs.NA math.NA
Randomized Kaczmarz method with adaptive stepsizes for inconsistent linear systems
我们研究了随机Kaczmarz方法,自适应更新的步长使用现成的信息解决不一致的线性系。一个新的几何解释,这表明该方法可以被看作是一个正交投影方法在某种意义上。我们证明了该方法线性期望收敛于该线性系的唯一最小欧氏范数最小二乘解,并给出了该方法收敛性的一个紧上界.数值实验也验证了理论结果。
2023-03-16 cs.NA math.NA
RGDBEK: Randomized Greedy Double Block Extended Kaczmarz Algorithm with Hybrid Parallel Implementation and Applications
本文提出随机贪婪双块扩展 Kaczmarz(RGDBEK)算法,通过基于残差概率的随机行列块选择缓解跷跷板效应,并利用混合 CPU-GPU 并行实现提升大规模稀疏线性系统求解效率,在合成与真实矩阵上均优于现有 Kaczmarz 变体。
2025-09-23 cs.NA math.NA
A Bregman-Kaczmarz method for nonlinear systems of equations
本文提出一种基于Bregman投影和自适应步长的随机镜像下降法求解非线性方程组,在凸非负函数和切锥条件下证明收敛,并在相同内存需求下优于类似方法。
2024-02-23 cs.NA math.NA math.OC
Linear convergence of Gearhart-Koshy accelerated Kaczmarz methods for tensor linear systems
Beihang University(北京航空航天大学)
本文研究了改进的Gearhart-Koshy加速Kaczmarz方法在张量线性系统中的线性收敛性,证明其能收敛到唯一最小范数解,并提出高效的Gram-Schmidt实现方法,与Arnoldi型Krylov子空间方法建立联系。
2026-04-07 cs.NA math.NA
Kaczmarz and Gauss-Seidel Algorithms with Volume Sampling
本文将交替投影法的随机化收敛结果通过体积采样扩展至批量大小大于1,证明收敛速度随块大小增加而单调提升,克服了均匀采样无法保证此特性的局限。
2025-05-31 cs.NA math.NA math.OC
A Weighted Randomized Sparse Kaczmarz Method for Solving Linear Systems
本研究提出一种加权随机稀疏Kaczmarz方法,通过基于残差的概率采样选择投影超平面,在随机与贪心Kaczmarz方法间建立关联,理论证明其期望线性收敛且效率不低于原有方法,数值实验验证了其优越性。
2023-06-12 cs.NA math.NA math.OC
Acceleration of Randomized Kaczmarz Method via the Johnson-Lindenstrauss Lemma
Stanford University(斯坦福大学);Technion - Israel Institute of Technology(以色列理工学院)
本文提出一种改进的随机Kaczmarz方法,通过从随机选择的集合中选择最优投影,并利用Johnson-Lindenstrauss降维技术保持运行时间,显著加速收敛。
2011-02-12 cs.NA math.NA
Randomized Kaczmarz Method for Single Particle X-ray Image Phase Retrieval
本文研究了单粒子X射线成像数据的相位恢复算法。我们提出了一个方差减少随机Kaczmarz(VR-RK)算法相位恢复。VR-RK算法的灵感来自随机Kaczmarz方法和随机方差减少梯度下降(SVRG)算法。数值实验表明,VR-RK算法比随机Kaczmarz算法和迭代投影相位恢复方法(如混合输入输出(HIO)和松弛平均交替反射(RAAR)方法)具有更快的收敛速度。VR-RK算法能够以更高的精度恢复相位,并且对噪声具有鲁棒性。实验结果表明,VR-RK算法能够有效地恢复相位,提高单粒子图像的识别率。
2022-07-11 cs.NA eess.IV math.NA
Randomized Kaczmarz Methods with Beyond-Krylov Convergence
University of Michigan(密歇根大学);University of California, Los Angeles(加州大学洛杉矶分校);Princeton University(普林斯顿大学)
针对传统随机Kaczmarz方法收敛慢于Krylov子空间方法的问题,提出带自适应动量等改进的Kaczmarz++算法,可利用离群奇异值实现超Krylov收敛,半正定系统变体CD++运算效率与CG、GMRES相当。
2025-07-29 cs.DS cs.LG cs.NA
On regularization methods of EM-Kaczmarz type
University of Innsbruck(因斯布鲁克大学);Federal University of St. Catarina(圣卡塔琳娜联邦大学);Johannes Kepler University(约翰内斯·开普勒大学)
针对不适定方程,结合Kaczmarz类型正则化方法与期望最大化算法,提出稳定化的有序子集期望最大化迭代扩展,并通过数值实验证明其比标准EM算法更快。
2008-10-20 cs.NA math.NA
Randomized Kaczmarz Algorithm for Inconsistent Linear Systems: An Exact MSE Analysis
我们提供了一个完整的刻画随机Kaczmarz算法(RKA)的不相容线性系。卡茨马兹算法(英语:Kaczmarz algorithm),在某些领域被称为代数重建技术,是一种通过一系列投影算子求解大规模超定线性系的经典方法;随机卡茨马兹算法(英语:Randomized Kaczmarz algorithm)是Strohmer和Vershynin最近提出的一种将投影序列随机化以保证解的指数收敛(均方)的方法。随着这一发展,一系列的工作随之而来,人们对算法、其扩展及其性能的各种界限重新产生了兴趣。前面,我们研究了相容线性系的特殊情况,并提供了RKA重建值的均方误差(MSE)的精确公式,以及计算误差精确衰减率的简单方法。在这项工作中,我们考虑的情况下,不一致的线性系,这是一个更相关的情况下,大多数应用程序。首先,通过使用“提升技巧”,我们推导出一个精确的公式的MSE给定一个固定的噪声矢量添加到测量。然后,我们展示了如何平均噪声时,它是从一个已知的第一和第二顺序统计量分布。最后,我们通过数值模拟证明了我们的精确MSE公式的准确性,这也说明了文献中以前的上界可能高出几个数量级。
2015-02-01 cs.IT cs.NA math.IT
On Convergence Behavior of Randomized Kaczmarz-type Methods for Solving Doubly Noisy Linear Systems
Imagination Corp.(Imagination公司);Fictional University(虚构大学);School of Mathematics, China University of Mining and Technology(中国矿业大学数学学院)
本文针对双重噪声线性系统,首次分析了REK、RBK、RDBK等随机Kaczmarz型算法的收敛性,证明其收敛到无噪声系统最小二乘解邻域,并通过数值实验验证了理论结果。
2026-10-09 cs.NA math.NA
On block Gaussian sketching for the Kaczmarz method
Kaczmarz算法由于其简单性和计算效率而成为求解大规模超定线性方程组最常用的方法之一。此方法可视为更一般的草图和项目方法类的特殊实例。最近,提出了一个块高斯版本,该版本使用块高斯草图,享受高斯草图的正则化属性,并结合块变体的加速。理论分析只提供了非块版本的高斯草图方法。在这里,我们提供了理论保证的块高斯Kaczmarz方法,证明了一些收敛结果显示收敛到解决方案的指数快速的期望。另一方面,有了这个理论和广泛的实验支持,我们观察到,每次迭代的数值复杂性通常使这种方法不如其他迭代投影方法。我们只强调一种可能有利的设置,即当正则化效应用于减少某些噪声模型下迭代的方差和某些特定矩阵构造的收敛性时。
2020-01-21 cs.NA math.NA math.PR
OBK-RCM: Accelerated Orthogonal Block Kaczmarz Algorithm via RCM Reordering and Dynamic Grouping for Sparse Linear Systems
针对稀疏线性系统,提出OBK-RCM算法,结合RCM重排序和动态分组提升块正交性,显著加速并减少迭代,实验显示10-50倍CPU加速和50-90%迭代减少。
2025-06-21 cs.NA math.NA
Block Kaczmarz Method with Inequalities
本文提出一种块型方法用于混合等式和不等式系统,通过矩阵分块提升收敛性,并证明线性收敛率,同时探讨不等式块在特定几何条件下同样有效。
2014-09-02 cs.NA math.NA
Randomized batch-sampling Kaczmarz methods for solving linear systems
Nanjing University of Aeronautics and Astronautics(南京航空航天大学)
本文提出一种统一的随机批量采样Kaczmarz框架,通过集中不等式推导出新的期望线性收敛率界,并探讨其在特定应用中的高效性能潜力。
2026-04-18 cs.NA math.NA stat.ML
Successive Projection for Solving Systems of Nonlinear Equations/Inequalities
求解大型非线性方程/不等式组是计算和优化中的一个基本问题。在本文中,我们提出了一个通用的连续投影(SP)框架,这个问题。SP顺序地将当前约束投影到与每个非线性(非)等式对应的约束集上。它扩展冯诺依曼的交替投影寻找一个点的交叉两个线性子空间,布雷格曼的方法寻找一个共同点的凸集和Kaczmarz方法求解系统的线性方程更一般的情况下,多个非线性和非凸集。现有的随机Kaczmarz收敛性分析仅适用于线性情形。对于求解非线性方程组,目前还没有SP的理论收敛性结果。本文首次证明了SP以线性速度局部收敛于非线性方程/不等式的解。我们的工作建立了多个非线性和非凸集的情况下的SP的收敛理论。除了循环和随机投影,我们设计了两个新的贪婪投影方法,显着加快收敛。并给出了算法收敛速度的理论界。我们揭示了收敛速度与非线性函数在解处的雅可比矩阵的Hoffman常数有关。讨论了用SP方法解决理论计算机科学中备受关注的图实现问题。
2020-12-14 cs.NA math.NA math.OC
Randomized Iterative Methods with Alternating Projections
School of Mathematics and Statistics, Wuhan University(武汉大学数学与统计学院);Institute of Mathematics, Hangzhou Dianzi University(杭州电子科技大学数学研究所)
该研究用统一框架梳理16种随机迭代方法并提出新格式,结合交替投影矩阵积分分析收敛性,还讨论了与MG、DDM的关联,通过数值算例验证收敛行为。
2017-08-31 cs.NA math.NA
A deterministic Kaczmarz algorithm for solving linear systems
提出一种用反射替代正交投影的确定性Kaczmarz算法,通过球面点分布平均逼近线性系统解,并证明其与随机化Kaczmarz算法性能相当。
2023-05-16 cs.NA math.NA
Positive Definite Kernels, Algorithms, Frames, and Approximations
本文的主要目的是在希尔伯特空间的算子框架下设计Kaczmarz型算法的一种新方法。我们的应用包括各种各样的最优化问题,新的Karhunen-Loève变换,和数字图像的主成分分析(PCA)。我们的算法的一个关键特点是我们使用的递归系统的投影算子。具体来说,我们应用我们的递归投影算法的PCA概率和方差数据的新计算。为此,我们还利用特定的再生核希尔伯特空间,核的因式分解和有限维近似。我们的投影算法的设计,以最大似然的解决方案,最小化的“成本”的问题,识别的主成分,和数据降维。
2021-04-23 cs.NA math.FA math.NA
Pseudoinverse-free randomized block iterative algorithms for consistent and inconsistent linear systems
随机迭代算法由于能够近似求解大规模线性系方程组而不需要访问整个系数矩阵,近年来受到了广泛的关注。本文提出了求解相容和不相容线性系的两个新的无伪逆随机块迭代算法。所提出的算法需要两个用户定义的随机矩阵:一个用于行采样,另一个用于列采样。我们可以恢复著名的双随机高斯-赛德尔,随机Kaczmarz,随机坐标下降,随机扩展Kaczmarz算法,通过选择适当的随机矩阵在我们的算法。由于我们的算法允许这两个随机矩阵的更广泛的选择,一些新的特定的算法可以得到。我们证明了算法在均方意义下的线性收敛。对具有合成系数矩阵和真实系数矩阵的线性系的数值实验表明了本文算法在某些特殊情况下的有效性。
2021-10-21 cs.NA math.NA
On adaptive stochastic extended iterative methods for solving least squares
本文提出一种自适应随机扩展迭代方法,通过引入三种随机重构并交替使用自适应SHBM方法求解最小二乘问题,证明了其R-线性收敛性,实验显示优于非自适应方法。
2025-09-22 cs.NA math.NA
Asynchronous Stochastic Block Projection Algorithm for Solving Linear Systems under Predefined Communication Patterns
提出事件触发异步分布式随机块 Kaczmarz 投影算法 ER-AD-RBKP,通过局部块投影与条件通信降低计算和通信开销,并证明期望指数收敛及不相容系统误差界,ROS2 实验验证其效率与鲁棒性。
2025-06-15 cs.NA math.NA
Coarse-graining molecular dynamics models using an extended Galerkin projection
the Pennsylvania State University(宾夕法尼亚州立大学)
本文提出一种基于扩展Galerkin投影的粗粒化框架,通过增加界面附近粗粒变量减少声子反射,无需预计算记忆函数,并保持力学平衡稳定性。
2012-10-16 cs.NA math.NA
On the stability of the boundary trace of the polynomial L^2-projection on triangles and tetrahedra (extended version)
Vienna University of Technology(维也纳工业大学)
研究参考三角形或四面体上L^2投影到N次多项式空间的稳定性,得到边界L^2范数被内部L^2和H^1范数乘积控制的不等式,进而推出逼近误差的最优收敛率。
2014-01-11 cs.NA math.NA
Biorthogonal Extended Krylov Subspace Methods
给出了非厄米矩阵在有理Krylov子空间上斜投影的一般框架。为了获得这个框架,我们重新审视了经典的合理Krylov子空间算法,并证明了投影矩阵可以有效地写为结构铅笔,其中的结构可以采取几种形式,如Hessenberg或逆Hessenberg。在这个斜投影框架中出现的结构的一个具体实例是三对角束。这是经典的双正交Krylov子空间方法的直接推广,其中投影成为一个单一的非厄米特三对角矩阵和合理的Krylov子空间的Hessenberg铅笔表示。基于这个三对角束在双正交集上的紧凑存储,我们可以得到短递归。数值实验证实了该方法的有效性。
2019-11-15 cs.NA math.NA
Runge--Kutta methods determined from extended phase space methods for Hamiltonian systems
本文研究哈密顿系统的中点投影法和对称投影法,证明前者是伪辛伪对称龙格-库塔方法,后者是单隐式辛龙格-库塔方法。
2023-08-12 cs.NA math.NA physics.comp-ph