Deterministic Versus Randomized Kaczmarz Iterative Projection
Tennessee State University（田纳西州立大学）
本文分析了确定性和随机化Kaczmarz算法的收敛性，探讨了两者间的联系，并提出新的随机化方法以加快收敛速度。
2014-07-21 cs.NA math.NA
Randomized sparse grid algorithms for multivariate integration on Haar-Wavelet spaces
\emph{deterministic}稀疏网格方法，也称为Scarlak方法，是一种成熟且广泛使用的处理多元近似问题的工具，有大量的文献对其进行了研究，但对稀疏网格方法的\emph{randomized}版本知之甚少。本文分析了$D$维单位立方体$[0,1)^D$上多元积分的随机稀疏网格算法，即随机稀疏网格求积。令$d,s \in \mathbb{N}$使得$D=d\cdot s$。稀疏网格求积的$s$维构建块基于$s=1$的分层采样和$s\ge 2$的加扰$(0,m,s)$ -网。我们考虑的被积函数空间和误差准则是具有参数$α$和随机误差的Haar小波空间（即，最坏情况的均方根误差）。我们证明了自己的敏锐（即，匹配）的上界和下界的收敛速度的$N$ -th最小误差的参数$d$和$s$的所有可能的组合。如果把Haar小波空间看作是具有光滑参数$1/2< α< 1$的混合控制光滑的Sobolev被积空间，我们的误差上界仍然成立.
2020-01-23 cs.NA math.NA
A greedy randomized average block projection method for linear feasibility problems
随机投影（RP）方法是求解线性可行性问题的一种简单的迭代方法，由于其速度快和内存要求低，近年来得到了广泛的应用。利用贪婪概率准则和平均块方法，发展了标准RP方法的加速变体，得到了求解大型线性不等式组的贪婪随机平均块投影（GRABP）方法.我们证明了该方法在不同的外推步长选择下线性收敛于期望。随机生成和真实世界数据的数值实验表明，GRABP的优势，几个国家的最先进的解决方案，如随机投影（RP）方法，采样Kaczmarz Motzkin（SKM）方法，广义SKM（GSKM）方法，和Nesterov加速SKM方法。
2022-11-18 cs.NA math.NA math.OC
Volume Sampling and Spectral Equalization in Randomized Alternating Projections
University of Florida（佛罗里达大学）
该研究针对随机交替投影方法，提出体积采样的性能界刻画，揭示谱均衡机制，引入高效均匀采样方案，其收敛性优于体积采样且适用于多种迭代方法。
2026-10-09 cs.NA math.NA
Randomized Projection Methods for Linear Systems with Arbitrarily Large Sparse Corruptions
在医学成像、纠错和传感器网络等应用中，需要求解大规模线性系，这些系统可能会被少量任意大的破坏所破坏。我们考虑求解由于测量向量$\mathbf{b}$中的损坏而不一致的线性方程组$A\mathbf{x}=\mathbf{b}$的这种大规模系统。以此作为我们激励的例子，我们开发了一种方法，这种设置，允许检测损坏的条目，从而收敛到原始系统的“真正”的解决方案。我们为我们的方法提供了分析依据，并在真实和合成系统上提供了实验证据。
2018-12-23 cs.NA math.NA
A fast randomized algorithm for orthogonal projection
提出一种随机算法，通过预处理和随机化快速计算任意向量在矩阵零空间和行空间上的正交投影，并可用于求解超定最小二乘问题，加速凸优化内点法。
2009-12-10 cs.NA math.NA
Linear convergence of the Randomized Sparse Kaczmarz Method
已知解线性系的随机化Kaczmarz方法在期望中线性收敛。在这项工作中，我们扩展了这一结果，并表明，最近提出的随机稀疏Kaczmarz方法恢复稀疏的解决方案，以及许多变种，也线性收敛的预期。这一结果是在分裂可行性问题及其解决方案的框架内通过随机Bregman投影关于强凸函数。为了获得预期的收敛速度，我们证明了投影的误差界的扩展。收敛结果表明，持有在更一般的设置，包括光滑凸函数，分段线性二次函数，也正则化核范数，这是用于该地区的低秩矩阵问题。数值实验表明，随机稀疏Kaczmarz方法在求解欠定和过定线性系问题时，优于非随机和非稀疏Kaczmarz方法.
2016-10-10 cs.NA math.NA math.OC
Randomized Block Kaczmarz Method with Projection for Solving Least Squares
Claremont McKenna College（克莱蒙特麦肯纳学院）；Claremont Graduate Univ.（克莱蒙特研究生大学）；IBM Research Lab, Zurich（IBM苏黎世研究实验室）
本文提出两种随机块Kaczmarz方法，通过矩阵分块加速对不一致系统的最小二乘解的收敛。
2015-06-23 cs.NA math.NA
Extended Randomized Kaczmarz Method for Sparse Least Squares and Impulsive Noise Problems
扩展的随机Kaczmarz方法是一个著名的迭代格式，它可以找到一个可能不相容的线性系的Moore-Penrose逆解，并且与标准的随机Kaczmarz方法相比，在每次迭代中只需要增加系统矩阵的一列。此外，稀疏随机Kaczmarz方法已被证明是线性收敛到一个一致的线性系的稀疏解决方案。在这里，我们结合这两个想法，并提出了一个扩展的稀疏随机Kaczmarz方法。我们表明线性预期收敛到稀疏最小二乘解的意义上说，一个扩展的变量的正则基追踪问题得到解决。此外，我们推广了该方法中的附加步骤，并证明了收敛到一个更抽象的最优化问题。我们数值证明，我们的方法可以找到稀疏的最小二乘解的真实和复杂的系统，如果噪声集中在补的范围内的系统矩阵，我们的推广可以处理脉冲噪声。
2022-07-20 cs.NA math.NA math.OC
Adaptively Sketched Bregman Projection Methods for Linear Systems
草图投影算法是求解线性系的一种通用原型算法，它统一了随机Kaczmarz和随机坐标下降等多种随机迭代法。然而，由于它的目的是从一个线性系找到一个最小范数解，随机稀疏Kaczmarz不能被包括在内。这促使我们提出了一个更一般的框架，称为草图Bregman投影（SBP）方法，在其中，我们能够找到解决方案与某些结构的线性系。为了推广自适应采样的SBP方法的概念，我们展示了如何进步，布雷格曼距离测量，单步直接依赖于一个草图损失函数。理论上，我们提供了详细的整体收敛的SBP方法与不同的自适应采样规则的结果。最后，对稀疏Kaczmarz方法进行了一组数值模拟，验证了与其他采样规则相比，采用采样Kaczmarz-Motzkin规则的方法在达到给定误差界时所需的计算量最少.
2021-12-29 cs.NA math.NA
Randomized LU Decomposition
我们提出了一个快速的随机算法，计算低秩LU分解。我们的算法使用随机投影类型的技术，有效地计算大型矩阵的低秩近似。随机LU算法可以并行化，并通过在其投影步骤中使用稀疏随机矩阵来进一步加速。几个不同的误差界证明了算法的近似。为了证明这些界限，最近的结果从随机矩阵理论有关的次高斯矩阵。作为一个应用程序，我们还展示了如何利用该算法来解决问题，如秩亏最小二乘问题。数值例子，说明了算法的性能，并将其与其他分解方法进行比较。
2016-01-30 cs.NA math.NA
Distributed-Memory Randomized Algorithms for Sparse Tensor CP Decomposition
本文提出了两种随机CP分解算法（CP-ARLS-LEV和STS-CP）的首个分布式内存实现，通过杠杆得分采样和定制通信调度，在十亿规模张量上实现了比SPLATT快11倍的加速。
2024-04-28 cs.NA math.NA
Sparse Randomized Approximation of Normal Cycles
University of Bath（巴斯大学）
针对形状的嵌入法向环表示，在常法向核假设下，利用再生核希尔伯特空间中的Nyström逼近和岭杠杆分数采样，提出一种压缩算法，并证明压缩误差衰减的理论保证，在LDDMM框架下实现高压缩比下的非线性形状配准加速。
2026-05-25 cs.NA math.NA
Sketch low-rank dynamics: orthogonal vs. oblique projections
Paul Scherrer Institute（保罗谢尔研究所）；EPFL（洛桑联邦理工学院）
研究将随机数值线性代数中的草图技术融入大规模矩阵微分方程的动态低秩逼近，对比斜投影与新兴的正交草图DLRA方法，后者保留经典DLRA几何结构且数值稳定，还推导了积分器并进行方程验证。
2026-07-07 cs.NA math.NA
On Kaczmarz method with oblique projection for solving large overdetermined linear systems
本文介绍并分析了Kaczmarz方法的一种扩展--斜投影Kaczmarz方法（KO）。该方法大大减少了求解超定线性方程组的迭代次数，节省了计算时间，特别是对于含有近似线性相关的线性方程组的问题。同时，建立了一种随机化的斜投影随机化Kaczmarz方法（RKO）.给出了这两种方法的收敛性证明，数值实验表明了这两种方法对均匀分布随机数据的有效性。特别是当系统中存在相关行时，实验结果的改善非常突出。
2021-06-25 cs.NA math.NA
Faster Randomized Block Sparse Kaczmarz by Averaging
标准随机稀疏Kaczmarz（RSK）方法是计算方程的线性系的稀疏解的算法，并且使用顺序更新，并且因此不利用并行计算。在这项工作中，我们介绍了一个并行（小批量）版本的RSK平均几个Kaczmarz步骤的基础上。自然，这种方法允许并行化，我们表明，它也可以利用大的过度松弛。我们证明了线性预期收敛，并表明，由于并行计算可以利用，该方法可证明提供更快的收敛速度比标准方法。这种方法也可以被看作是一个变种的线性化Bregman算法，一个随机双块坐标下降更新，一个随机镜像下降更新，或一个放松版本的RSK和我们恢复标准RSK方法时，批量大小等于1。我们还提供了不一致的系统的估计，并表明，迭代收敛到一个错误的顺序的噪声水平。最后，数值例子说明了新算法的好处。
2022-10-17 cs.NA math.NA math.OC
Sparse Sampling Kaczmarz-Motzkin Method with Linear Convergence
随机稀疏Kaczmarz方法是最近提出的恢复线性系稀疏解的方法。在这项工作中，我们引入了一个贪婪的变体的随机稀疏Kaczmarz方法，采用采样Kaczmarz-Motzkin方法，并证明其线性收敛的预期在无噪声和噪声情况下的Bregman距离。该贪婪算法是抽样Kaczmarz-Motzkin方法和随机稀疏Kaczmarz方法的统一，继承了这两种方法的优点。数值上，我们报告了一对夫妇的实验结果，以证明其优越性
2021-01-14 cs.NA math.NA math.OC
A Data-Scalable Randomized Misfit Approach for Solving Large-Scale PDE-Constrained Inverse Problems
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文提出一种随机化误差点方法，用于高效求解高维数据下的大规模偏微分方程约束反问题，通过随机投影理论建立理论框架，分析随机化误差点收敛性，并展示Johnson-Lindenstrauss理论与Morozov不相容原理的相互作用。
2017-04-17 cs.NA math.NA
A Weighted Randomized Sparse Kaczmarz Method for Solving Linear Systems
本研究提出一种加权随机稀疏Kaczmarz方法，通过基于残差的概率采样选择投影超平面，在随机与贪心Kaczmarz方法间建立关联，理论证明其期望线性收敛且效率不低于原有方法，数值实验验证了其优越性。
2023-06-12 cs.NA math.NA math.OC
Randomized algorithms for the low multilinear rank approximations of tensors
本文基于随机投影和奇异值分解，重点研究了张量低多线性秩近似的随机算法。根据次高斯矩阵的奇异值理论，对随机化算法的误差界进行了概率分析。我们通过几个数值例子证明了所提出的算法的有效性。
2020-03-19 cs.NA math.NA
Preconditioning via Randomized Range Deflation (RandRAND)
本文提出RandRAND，一种通过随机子空间正交投影收缩谱的预处理方法，无需特征分解，具有低计算成本、强数值稳定性及弱依赖问题规模的条件数界，并支持快速随机变换。
2025-09-24 cs.NA math.NA
Fast Parallel Randomized Algorithm for Nonnegative Matrix Factorization with KL Divergence for Large Sparse Datasets
本文提出一种快速并行随机坐标下降算法，用于大规模稀疏数据集的非负矩阵分解与KL散度优化，实现更高效的稀疏建模与表示。
2016-04-14 cs.LG cs.NA math.NA
Randomized Low-Memory Singular Value Projection
UPMC Paris 6（巴黎第六大学）；École polytechnique Fédérale de Lausanne（洛桑联邦理工学院）
针对仿射秩最小化问题，提出一种融合随机近似的恢复方案，在仅与问题自由度成比例的空间上运行，并从理论上建立了估计保证。
2013-06-01 cs.NA math.NA math.OC
Randomized Methods for Linear Constraints: Convergence Rates and Conditioning
School of Operations Research and Information Engineering, Cornell University（康奈尔大学运筹与信息工程学院）
研究线性方程组坐标下降和线性不等式系统迭代投影的随机变体，通过适当概率分布给出期望线性收敛速率与自然线性代数条件数的关系，并推广到度量正则性假设下的凸系统。
2008-06-18 cs.NA math.NA math.OC
A fast randomized Kaczmarz algorithm for sparse solutions of consistent linear systems
University of British Columbia（不列颠哥伦比亚大学）
本文提出一种改进的随机Kaczmarz算法，通过加权行投影加速稀疏解求解，适用于一致线性系统。
2013-05-16 cs.IT cs.NA math.IT
Randomized Projection Learning Method forDynamic Mode Decomposition
Clarkson University（克拉克森大学）
一种被称为动态模式分解（DMD）的数据驱动分析方法在投影空间上近似线性Koopman算子。根据Johnson-Lindenstrauss引理，我们将使用随机投影来估计约维空间中的DMD模式。在实际应用中，快照是在高维可观测空间中，DMD算子矩阵是巨大的。因此，用全谱计算DMD是不可行的，所以我们的主要计算目标是估计DMD算子在投影域中的本征值和本征向量。我们将推广目前的算法来估计一个投影DMD算子。我们专注于一个强大的和简单的随机投影算法，将减少计算和存储成本。虽然很明显，随机投影简化了详细的最佳投影的算法复杂性，但正如我们将展示的那样，通常结果仍然很好，并且通过完善的随机投影理论可以理解质量。我们将证明，模式可以计算为低成本的投影数据具有足够的维度。关键词：Koopman算子，动态模式分解（DMD），Johnson-Lindenstrauss引理，随机投影，数据驱动方法。
2021-09-22 cs.LG cs.NA math.NA
Error Analysis of Randomized Symplectic Model Order Reduction for Hamiltonian systems
针对哈密顿系统模型降阶需保结构且高效计算的需求，研究随机复奇异值分解（rcSVD）辛基生成方法，推导其误差界，证明合适超参数下其投影误差最多比cSVD差一个常数因子，并通过数值实验验证效率。
2024-05-16 cs.NA math.NA
Extension of Sparse Randomized Kaczmarz Algorithm for Multiple Measurement Vectors
Indraprastha Institute of Information Technology-Delhi（英德拉普拉斯塔信息技术学院-德里）
本文提出改进的随机Kaczmarz算法解决多测量向量问题，通过共同稀疏支持实现更高效的恢复与收敛。
2014-02-02 cs.LG cs.NA math.NA
A Computationally Optimal Randomized Proper Orthogonal Decomposition Technique
Department of Aerospace Engineering, Texas A&M University（德克萨斯农工大学航空航天工程系）
本文提出了一种计算最优的随机正交分解技术，通过在原系统和对偶系统中引入高斯白噪声来获得降阶模型，比BPOD和BPOD输出投影算法更高效且性能更优，仅需最少的快照数。
2016-05-03 cs.NA math.DS math.NA
Practical Sketching-Based Randomized Tensor Ring Decomposition
基于草图技术，我们提出了两个张量环（TR）分解的随机化算法。具体来说，通过定义新的张量积并研究其性质，将Kronecker子采样随机傅里叶变换和TensorSketch应用于TR分解最小化问题的交替最小二乘问题，设计了随机化算法。在此基础上，提出了一种基于随机投影的随机TR分解算法框架。理论结果的草图大小和复杂性分析的两个算法。我们比较我们的建议与国家的最先进的方法，使用合成和真实的数据。数值结果表明，它们在精度和计算时间上都有较好的性能
2022-09-12 cs.NA math.NA
Efficient QR-based Column Subset Selection through Randomized Sparse Embeddings
PSI Center for Scientific Computing, Theory and Data（瑞士保罗谢勒研究所科学计算、理论与数据中心）；Institute of Mathematics, EPFL（洛桑联邦理工学院数学研究所）
介绍一种结合列主元 QR 分解与稀疏子空间嵌入的列子集选择高效算法 SE - QRCS，对宽矩阵有效，能从草图矩阵选列并映射回原矩阵，证明其分解有强秩揭示特性，所得界对\(A\)列数依赖性降低，一般矩阵可扩展。
2026-07-27 cs.NA math.NA
Sparse Randomized Kaczmarz for Support Recovery of Jointly Sparse Corrupted Multiple Measurement Vectors
Spiceworks；Goucher College（古彻学院）；Yale University（耶鲁大学）；Colorado School of Mines（科罗拉多矿业学院）；Claremont Graduate University（克莱蒙特研究生大学）；University of California, Los Angeles（加州大学洛杉矶分校）；Montana State University（蒙大拿州立大学）
本文提出一种随机迭代算法，用于恢复受污染的多重测量向量的共同支持。通过改进的稀疏随机Kaczmarz算法，比较了与现有Kaczmarz类型算法的性能，并展示了在线设置下的实用性及对污染分布和数量的鲁棒性。
2018-06-14 cs.DS cs.NA eess.SP
A Novel Greedy Kaczmarz Method For Solving Consistent Linear Systems
通过一种完全不同的确定工作行的方法，我们提出了一种新的求解相容线性系的贪婪Kaczmarz方法。对新方法进行了收敛性分析。数值实验表明，在相同的精度下，本文方法优于贪婪随机Kaczmarz方法和最近由Bai和Wu [Z.Z. BAI和W.T.吴，关于求解大型稀疏线性系的贪婪随机Kaczmarz方法，SIAM J. Sci.计算：40（2018），pp. A592-A606; Z.Z. BAI和W.T.吴，解大型稀疏线性系的松弛贪婪随机Kaczmarz方法，应用数学快报，83（2018），pp. [21- 26]计算时间。
2020-04-05 cs.NA math.NA
Theoretical and Experimental Analysis of a Randomized Algorithm for Sparse Fourier Transform Analysis
提出并实现了一种改进的实用化随机化稀疏傅里叶分析算法（RAlSFA），在多项式时间内以高概率构造近最优B项稀疏表示，并在一维和二维中优于FFTW。
2005-06-10 cs.NA math.NA
Randomized Functional Sparse Tucker Tensor for Compression and Fast Visualization of Scientific Data
针对非结构化网格科学数据，提出随机函数稀疏Tucker张量压缩方法，通过插值、截断高阶奇异值分解、稀疏函数拟合及随机最小二乘重估系数，实现高压缩比与快速可视化。
2019-07-11 cs.NA math.NA
Randomized Sparse Neural Galerkin Schemes for Solving Evolution Equations with Deep Networks
Courant Institute for Mathematical Sciences（库朗数学科学研究所）；New York University（纽约大学）
针对时间序列训练神经网络求解含时偏微分方程时误差易累积放大的问题，提出随机稀疏更新参数的神经伽辽金格式，兼具防过拟合与低计算成本优势，在精度和速度上均较稠密更新格式最高提升两个数量级。
2023-10-07 cs.LG cs.NA math.NA
An Efficient Randomized Fixed-Precision Algorithm for Tensor Singular Value Decomposition
针对随机张量奇异值分解需预先估计管秩的问题，提出基于随机投影与幂迭代的固定精度算法，可自动确定最优管秩并在合成及真实数据集上验证其效率与性能。
2024-04-08 cs.NA math.NA
Randomized methods for matrix computations
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文介绍了一种用于矩阵分解的新算法，通过减少中间计算的维度来提高实际速度，主要贡献是能够高效计算非常大矩阵的低秩近似。
2019-02-07 cs.NA math.NA
Fast & Accurate Randomized Algorithms for Linear Systems and Eigenvalue Problems
本文发展了一类新的求解一般线性系和本征值问题的算法。这些算法应用快速随机草图来加速子空间投影方法，如GMRES和Rayleigh-Ritz。这种方法在设计近似子空间的基础方面提供了很大的灵活性，这可以提高许多计算环境中的可扩展性。由此产生的算法优于经典的方法，以最小的精度损失。对于模型问题，数值实验表明，MATLAB的优化例程，包括一个$100 \times$加速gmres和一个$10 \times$加速eigs有很大的优势。
2022-02-16 cs.NA math.NA
Randomized Alternating Least Squares for Canonical Tensor Decompositions: Application to a PDE with Random Data
University of Colorado at Boulder（科罗拉多大学博尔德分校）
本文提出了一种随机化交替最小二乘法用于张量格式的秩缩减，以解决交替最小二乘法迭代中最小二乘矩阵可能的数值病态问题，通过随机张量投影降低条件数，并在三个例子中验证了算法性能。
2015-10-05 cs.NA math.NA math.PR
GPU-Parallelizable Randomized Sketch-and-Precondition for Linear Regression using Sparse Sign Sketches
本文研究GPU环境下基于稀疏符号草图的草图与预处理方法，提出一种基于拒绝采样的易并行稀疏符号草图生成方法，并通过单GPU和多GPU实验验证其在大规模线性回归中的适用性。
2025-06-06 cs.DC cs.DS cs.NA
Random Projections and Dimension Reduction
广义上讲，本文涵盖了随机性在两个主要领域的应用：低秩近似和核方法。低秩逼近在数值线性代数中非常重要。许多应用程序依赖于矩阵分解算法，提供准确的低秩表示的数据。然而，在现代问题中，各种因素使这很难实现。这些问题的一个解决方案是使用随机投影。我们不直接计算矩阵的分解，而是将矩阵随机投影到一个低维子空间上，然后计算分解。通常，我们能够做到这一点，而不会严重损失准确性。我们描述了如何随机化可以用来创建更有效的算法来执行低秩矩阵近似，以及引入一种新的随机化算法矩阵分解。与标准方法相比，随机算法通常更快、更鲁棒。有了这些随机算法，分析海量数据集变得容易了。核方法几乎与低秩近似完全相反。其思想是将低维数据投影到高维的“特征空间”中，使其在特征空间中是线性可分的。这使得模型能够学习数据的非线性分离。和以前一样，对于大数据矩阵，计算核矩阵可能是昂贵的，所以我们使用随机方法来近似矩阵。此外，我们提出了一个扩展的随机傅立叶特征内核，其中超参数值是从一个区间或博雷尔集随机采样。本文中讨论的实验可以在我们的网站https://rishi1999.github.io/random-projections上找到。
2020-08-11 cs.NA math.NA
Matrix-free construction of HSS representation using adaptive randomized sampling
University of California, Santa Barbara（加州大学圣塔芭芭拉分校）；Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）；University of Manchester（曼彻斯特大学）；Livermore Software Technology Corporation（利弗莫尔软件技术公司）
本文提出新的随机构造分层半分离矩阵算法，通过自适应随机投影方案确定最大非对角块秩，并开发相对和绝对停止准则以确定足够精度的随机投影矩阵最小维度，同时讨论了并行实现及计算和通信成本。
2018-10-11 cs.MS cs.NA math.NA
Randomized and Inner-product Free Krylov Methods for Large-scale Inverse Problems
本文提出一种无内积且最小化更接近残差范数泛函的 Krylov 方法，结合无内积 Hessenberg 投影与随机化 sketch-and-solve 技术，高效求解大规模反问题。
2025-02-04 cs.NA math.NA
On the Robustness of Sparse Randomized Sketching to FP16 Rounding on GPUs
Technical University of Munich（慕尼黑工业大学）；International Computer Science Institute（国际计算机科学研究所）；University of Tennessee, Knoxville（田纳西大学）
研究随机草图在GPU低精度下的性能与精度，提出SparseStack改进CountSketch，发现FP16舍入方式对嵌入质量影响小，分布比量化更关键。
2026-06-19 cs.NA cs.PF math.NA
Randomized extended block Kaczmarz for solving least squares
随机迭代算法最近被提出来解决大规模线性系。本文提出了一个简单的随机扩展块Kaczmarz算法，该算法以均方指数收敛于给定线性系方程组的唯一最小$\ell_2$范数最小二乘解.该算法是伪逆自由，因此不同的投影为基础的随机双块Kaczmarz算法的Needell，赵，和Zouzias。我们强调，我们的方法适用于所有类型的线性系（一致或不一致，超定或欠定，满秩或秩亏）。此外，我们的方法可以利用分布式计算单元上的高效实现，在计算时间上产生显着的改善。数值算例表明了新算法的有效性。
2020-07-08 cs.NA math.NA
Randomized-Accelerated FEAST: A Hybrid Approach for Large-Scale Eigenvalue Problems
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
RA-FEAST通过结合随机数值线性代数与FEAST算法，实现对大规模矩阵本征分解的高效准确计算。
2025-12-01 cs.NA math.NA stat.CO
Two-subspace Projection Method for Coherent Overdetermined Systems
提出一种基于两个随机行投影到解空间的双子空间Kaczmarz方法，实现期望指数收敛，在行相关系统中优于随机Kaczmarz方法。
2012-10-08 cs.NA math.NA math.PR
Algorithm xxx: Faster Randomized SVD with Dynamic Shifts
针对大型稀疏矩阵的截断SVD计算需求，提出结合动态移位幂迭代与稀疏矩阵处理技巧，提出dashSVD算法，含精度控制机制，在真实数据实验验证其精度更高、遍历次数更少且运行与并行效率优，还证明了误差界。
2024-04-14 cs.MS cs.NA math.NA
Projection Algorithms for Non-Convex Minimization with Application to Sparse Principal Component Analysis
University of Florida（佛罗里达大学）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）
本文研究了非凸集上的凹最小化问题，提出并分析了梯度投影算法和近似牛顿算法，展示了其在稀疏主成分分析中的应用效果。
2019-04-06 cs.NA math.NA math.OC
An Accelerated Randomized Kaczmarz Algorithm
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
本文提出一种加速随机Kaczmarz算法，用于解决病态线性系统，相比标准算法在收敛性上有优势，同时提出高效实现SARK以应对稀疏情况。
2014-06-07 cs.NA math.NA math.OC
Alternating Projections and Douglas-Rachford for Sparse Affine Feasibility
Institut für Numerische und Angewandte Mathematik Universität Göttingen（哥廷根大学应用数值数学研究所）
本文提出基于投影的非凸松弛方法，解决稀疏可行性问题，证明交替投影和Douglas-Rachford算法在全局线性收敛性。
2014-03-14 cs.NA math.NA math.OC
RCHOL: Randomized Cholesky Factorization for Solving SDD Linear Systems
我们引入一个随机算法，即RCHOL，来构造一个给定拉普拉斯矩阵（a.k.a.，图Laplacian）。从图的角度来看，精确的Cholesky分解在消除行/列之后在底层图中引入了一个团。通过随机化，RCHOL使用Spielman和Kyng开发的随机采样仅保留集团中边缘的稀疏子集。我们证明了RCHOL是无故障的，并将其应用于求解具有对称对角占优矩阵的大型稀疏线性系。此外，我们并行化RCHOL的基础上嵌套解剖排序共享内存的机器。我们报告的数值实验，证明RCHOL的鲁棒性和可扩展性。例如，我们的并行代码在单个节点上扩展到64个线程，用于求解3D泊松方程，该方程在$1024\times 1024 \times 1024$网格上使用7点模板离散化，该问题具有10亿个未知数。
2021-09-02 cs.MS cs.NA math.NA
Two-subspace Projection Method for Coherent Overdetermined Systems (Technical Report)
提出一种基于双子空间投影的POCS算法，通过迭代投影到两个随机行定义的解空间，在相干超定线性系统中实现指数收敛，显著优于随机Kaczmarz方法。
2012-04-01 cs.NA math.NA math.PR
