A Randomized Tensor Train Singular Value Decomposition
本文提出并分析了一种基于张量展开格式的随机算法,用于计算张量展开格式下的层次奇异值分解,改进了高维数据的低秩近似方法。
2017-10-23 cs.NA math.NA
Single-pass randomized QLP decomposition for low-rank approximation
QLP分解是数值线性代数中逼近奇异值分解的有效算法之一。在本文中,我们提出了一些单遍随机QLP分解算法计算低秩矩阵近似。与确定性QLP分解相比,所提出的算法的复杂度没有显着增加,并且仅需要访问系统矩阵一次。因此,我们的算法非常适合存储在内存之外或由流数据生成的大型矩阵。在误差分析中,我们给出了矩阵逼近误差和奇异值逼近误差的界。数值实验也证实了我们的结果。
2020-11-27 cs.NA math.NA
Randomized LU Decomposition
我们提出了一个快速的随机算法,计算低秩LU分解。我们的算法使用随机投影类型的技术,有效地计算大型矩阵的低秩近似。随机LU算法可以并行化,并通过在其投影步骤中使用稀疏随机矩阵来进一步加速。几个不同的误差界证明了算法的近似。为了证明这些界限,最近的结果从随机矩阵理论有关的次高斯矩阵。作为一个应用程序,我们还展示了如何利用该算法来解决问题,如秩亏最小二乘问题。数值例子,说明了算法的性能,并将其与其他分解方法进行比较。
2016-01-30 cs.NA math.NA
A randomized singular value decomposition for third-order oriented tensors
由Zeng和Ng提出的定向奇异值分解(O-SVD)提供了一种基于t积的三阶张量奇异值分解的混合方法,其变换矩阵是高阶奇异值分解的因子矩阵。继续沿着这条思路,本文探讨了实现O-SVD更有效的张量列秩-1分解,并给出了截断O-SVD。受概率算法成功的启发,我们开发了一个随机版本的O-SVD,并提出了详细的误差分析。与现有的张量分解算法相比,新算法在保持良好精度的同时,在效率上具有优势。我们的主张是支持从实际应用中的几个定向张量的数值实验。
2023-02-27 cs.NA math.NA
An Efficient Randomized Fixed-Precision Algorithm for Tensor Singular Value Decomposition
针对随机张量奇异值分解需预先估计管秩的问题,提出基于随机投影与幂迭代的固定精度算法,可自动确定最优管秩并在合成及真实数据集上验证其效率与性能。
2024-04-08 cs.NA math.NA
Parallel Randomized Tucker Decomposition Algorithms
该研究提出两种结合随机化与并行化的Tucker张量分解算法,采用Kronecker结构随机矩阵做随机概要以降本提效,经概率误差分析与实验验证,在3D模拟数据上较最快确定性并行实现最高达16倍加速。
2023-06-09 cs.NA math.NA
Randomized Quaternion Singular Value Decomposition for Low-Rank Approximation
针对彩色人脸识别、视频压缩和信号处理中的低秩矩阵逼近问题,提出了一种随机四元数奇异值分解(QSVD)算法。该算法利用四元数正态分布的随机抽样方法,将高维数据投影到低维子空间中,然后识别出四元数矩阵的近似值域子空间。提出了四元数Wishart分布的关键统计性质,并利用其对算法进行了近似误差分析。理论结果表明,随机QSVD算法可以跟踪四元数矩阵的优势奇异值分解三元组,并具有可接受的精度。数值实验也表明了所提出理论的合理性。将随机QSVD算法应用于彩色人脸识别问题,与基于Lanczos的部分QSVD算法和四元数快速频繁方向算法相比,该算法具有更高的识别精度和更好的效率。
2021-12-26 cs.NA math.NA
Randomized Algorithms for Generalized Singular Value Decomposition with Application to Sensitivity Analysis
广义奇异值分解(GSVD)是计算科学中一种有价值的工具,有着广泛的应用。然而,计算大规模问题的GSVD是具有挑战性的。受超微分灵敏度分析(HDSA)应用的启发,本文提出了一种新的基于随机子空间迭代和加权QR分解的GSVD随机算法。详细的误差分析提供了洞察算法的精度和算法参数的选择。我们证明了我们的算法的性能测试矩阵和一个大规模的模型问题,HDSA是用来研究地下水流。
2020-02-07 cs.NA math.NA
Block-Randomized Stochastic Methods for Tensor Ring Decomposition
张量环(TR)分解是一种简单但有效的张量网络,用于分析和解释张量的潜在模式。在这项工作中,我们提出了一个双随机优化框架计算TR分解。它可以被视为随机块坐标下降和随机梯度下降的合理混合,因此以双随机方式运行,可以实现轻量级更新和小内存占用。此外,为了提高收敛性,特别是对于病态问题,我们提出了一个缩放版本的框架,可以被视为自适应预处理或对角缩放的变体。文中还给出了四种不同的选择小批量的概率分布和确定步长的自适应策略。最后,我们提出了我们的建议的理论性质和数值性能。
2023-03-29 cs.NA math.NA
Regularized Linear Inversion with Randomized Singular Value Decomposition
在这项工作中,我们开发了基于随机奇异值分解(RSVD)的线性反问题的有效求解器。这是通过将RSVD与经典正则化方法相结合来实现的,例如,截断奇异值分解、Tikhonov正则化和带有平滑惩罚的一般Tikhonov正则化。所提出的方法的一个显著特点是,它显式地保留了正则化解的结构,在这个意义上,它总是位于某个伴随算子的范围内。在正则源条件下,给出了近似解与精确解之间的误差估计,并从凸对偶的角度解释了这种方法。大量的数值实验证明了该方法的有效性和准确性。
2019-09-04 cs.NA math.NA
The randomized Milstein scheme for stochastic Volterra integral equations with weakly singular kernels
针对漂移系数不可微的弱奇异核随机 Volterra 积分方程,提出随机化 Milstein 格式,并借助随机化求积与 Riemann–Stieltjes 积分完成误差分析和数值模拟。
2023-12-06 cs.NA math.NA
Efficient randomized algorithms for the fixed Tucker-rank problem of Tucker decomposition with adaptive shifts
Guizhou University(贵州大学);Fudan University(复旦大学);City University of Hong Kong(香港城市大学)
本文提出融入动态移位策略的自适应移位幂迭代,改进T-HOSVD和ST-HOSVD的随机变体,求解Tucker分解固定Tucker秩问题,在保持精度的同时减少迭代次数,效率和精度优于现有技术。
2026-08-18 cs.NA math.NA
Randomized Interpolative Decomposition of Separated Representations
我们引入张量插值分解(张量ID)的标准张量分解(CTD)的分离秩的减少。对于用户定义的准确度ε,张量ID选择CTD的项的接近最优的子集,以经由所选项的线性组合来表示剩余项。张量ID可以用作交替最小二乘(ALS)算法的替代方案或步骤。此外,我们简要讨论了Q因子分解,以减少ALS迭代中的组件的大小。结合,张量ID和Q-因子分解导致一个新的范例减少的分离秩的CTD。在这种情况下,我们还讨论了谱范数作为计算替代Frobenius范数。我们减少了张量ID的问题,构造某些矩阵的插值分解。这些矩阵通过给定张量的随机投影或随机采样生成。我们提供了成本估计和几个例子的新方法,以减少分离秩。
2013-12-17 cs.NA math.NA
Fast Randomized Matrix and Tensor Interpolative Decomposition Using CountSketch
本文提出一种利用 CountSketch 的快速随机矩阵与张量插值分解算法,理论证明其性能保证,实验表明在保持精度的同时于大型数据上实现至少一个数量级加速。
2021-11-22 cs.NA math.NA
Mathematical Considerations on Randomized Orthgonal Decomposition Method for Developing Twin Data Models
本文提出随机正交分解方法以构建孪生数据模型,克服传统降阶建模缺陷,并通过粘性 Burgers 方程激波算例验证其数值精度与计算性能优势。
2024-09-23 cs.NA math.NA
Randomized Model Order Reduction
Florida State University(佛罗里达州立大学);University of Washington(华盛顿大学)
本文提出利用随机矩阵分解高效计算降阶基函数,通过随机SVD替代传统SVD,降低计算成本,验证了其在POD和DMD中的有效性。
2016-11-07 cs.NA math.NA
A Fast Implementation of Singular Value Thresholding Algorithm using Recycling Rank Revealing Randomized Singular Value Decomposition
Tsinghua University(清华大学);Old Dominion University(老道明大学)
本文提出一种快速实现奇异值阈值算法的方法,通过回收秩揭示随机奇异值分解算法降低计算成本,用于矩阵补全问题,包括图像恢复和电影推荐系统。
2017-04-14 cs.NA math.NA
Randomized algorithms for low-rank tensor decompositions in the Tucker format
数据科学和科学计算中的许多应用都涉及大规模数据集,这些数据集的存储和计算成本很高,但可以有效地压缩并以适当的张量格式存储。近年来,随机矩阵方法已被用来有效和准确地计算低秩矩阵分解。受此成功的启发,我们专注于开发随机算法的张量分解的塔克表示。具体来说,我们提出了两个著名的压缩算法,即HOSVD和STHOSVD的随机版本。我们提出了一个详细的随机张量算法的错误概率分析。我们还开发了这些算法的变体,以解决大规模数据集带来的特定挑战。第一种变体自适应地找到满足给定容限的低秩表示,并且当目标秩事先不知道时是有益的。第二种变体保留了原始张量的结构,并且对于难以加载到内存中的大型稀疏张量是有益的。我们考虑了几个不同的数据集,我们的数值实验:合成测试张量和现实的应用程序,如Olivetti数据库中的面部图像样本的压缩和安然电子邮件数据集中的字数。
2019-05-17 cs.NA math.NA
Randomized residual-based error estimators for the Proper Generalized Decomposition approximation of parametrized problems
本文提出了一种新的参数化方程本征广义分解(PGD)逼近的误差估计。估计是内在随机的:它建立在高斯映射的浓度不等式和随机右手边的伴随问题上,我们使用PGD近似。这种随机化误差估计的有效性可以任意地接近于具有高概率的单位,允许相对于任何用户定义的范数的误差的估计以及在一些感兴趣的量的误差。误差估计的性能进行了演示,并与一些现有的误差估计的参数化时谐弹性动力学问题的PGD和参数化方程的线性弹性与高维参数空间。
2019-10-25 cs.NA math.NA
Randomized Symplectic Model Order Reduction for Hamiltonian Systems
在多查询或实时上下文中的大规模动力系统的仿真需要高效的代理建模技术,例如通过模型降阶(MOR)实现。最近,为了在MOR期间保持Hamilton结构,人们开发了复奇异值分解(cSVD)或类SVD分解等辛方法。在目前的贡献,我们展示了如何保辛结构的基础生成可以更有效地与随机矩阵分解。我们提出了一个随机的复杂SVD(rcSVD)算法和一个随机SVD(rSVD-like)分解。我们证明了高维系统的数值实验的方法的效率。
2023-03-07 cs.NA math.NA
Randomized LU Decomposition Using Sparse Projections
提出了一种低秩LU分解的快速近似算法。为了达到较低的复杂度,该算法使用稀疏随机投影结合基于FFT的随机投影。分析了算法的渐近逼近误差,给出了算法的理论误差界。最后,数值例子表明,对于类似的近似误差,稀疏LU算法是更快的比最近的国家的最先进的方法。该算法是完全可并行的,可以在GPU上运行。在GPU卡上测试了性能,与顺序执行相比,运行时间有了显着改善。
2016-01-17 cs.NA math.NA
Randomized Algorithms for Computation of Tucker decomposition and Higher Order SVD (HOSVD)
大数据分析已成为物联网、网络物理分析、深度学习、异常检测等新兴技术的重要组成部分。在许多其他技术中,降维在此类分析中起着关键作用,并有助于特征选择和特征提取。随机算法是处理大数据张量的有效工具。它们通过降低确定性算法的计算复杂性和存储层次结构的不同级别之间的通信来加速分解大规模数据张量,这是现代计算环境和架构中的主要瓶颈。本文综述了Tucker分解和高阶奇异值分解(HOSVD)计算中的随机化方法的最新进展。我们讨论了随机投影和采样方法,单通道和多通道随机算法,以及如何利用它们在计算的塔克分解和HOSVD。模拟合成和真实的数据集提供了一些最好的和最有前途的算法的性能进行比较。
2021-12-12 cs.NA math.NA
Distributed-Memory Randomized Algorithms for Sparse Tensor CP Decomposition
本文提出了两种随机CP分解算法(CP-ARLS-LEV和STS-CP)的首个分布式内存实现,通过杠杆得分采样和定制通信调度,在十亿规模张量上实现了比SPLATT快11倍的加速。
2024-04-28 cs.NA math.NA
A Practical Randomized CP Tensor Decomposition
Georgia Institute of Technology(佐治亚理工学院);Wake Forest University(维克森林大学);Sandia National Laboratories(桑迪亚国家实验室)
本文提出一种基于随机最小二乘法的CP张量分解方法,通过高效预处理和采样技术显著提升计算效率,同时保持分解质量。
2017-10-22 cs.NA math.NA
Randomized Dynamic Mode Decomposition
提出了一种计算近优低秩动态模式分解(DMD)的随机算法。随机算法是计算低秩矩阵近似值的新兴技术,其成本仅为确定性算法的一小部分,缓解了“大数据”领域出现的计算挑战。其思想是从高维数据中导出一个小矩阵,然后使用该矩阵来有效地计算动态模式和特征值。该算法采用模块化概率框架,通过过采样和幂次迭代控制逼近质量。所得到的随机DMD算法的有效性证明了几个基准的例子越来越复杂,提供了一个准确和有效的方法来提取时空相干结构从大数据的框架中,规模与固有的排名的数据,而不是周围的测量尺寸。在这项工作中,我们假设所考虑的问题的动力学是在一个低维子空间上发展的,该子空间的特征在于快速衰减的奇异值谱。
2019-11-27 cs.NA math.NA
Towards Efficient and Accurate Approximation: Tensor Decomposition Based on Randomized Block Krylov Iteration
Guangdong University of Technology(广东工业大学);RIKEN(理化学研究所)
高效、准确的低秩近似(LRA)方法对于大规模数据分析具有重要意义。随机张量分解已经成为满足这一需求的强大工具,但大多数现有方法在存在噪声干扰的情况下表现不佳。受随机块Krylov迭代(rBKI)在减少尾部奇异值影响方面的显著性能的启发,本文设计了一种基于rBKI的Tucker分解(rBKI-TK)用于精确逼近,以及一种基于rBKI-TK的分层张量环分解用于大规模数据的有效压缩。此外,还研究了确定性LRA与随机化LRA的误差界。数值实验表明,所提出的方法在数据压缩和去噪方面的效率,准确性和可扩展性。
2022-11-27 cs.LG cs.NA math.NA
Randomized Dynamic Mode Decomposition for Non-Intrusive Reduced Order Modelling
Politehnica University of Timisoara(蒂米什瓦拉理工大学);Florida State University(佛罗里达州立大学)
本文提出一种新的非侵入式数据降阶建模框架,结合随机动态模式分解与径向基函数插值,提升复杂流场建模效率与精度,减少计算时间。
2016-11-15 cs.NA math.NA
Randomized GCUR decompositions
本文提出一种高效的随机化广义 CUR 分解算法,结合 L-DEIM 方法降低大规模数据集计算成本,并扩展至基于 RSVD 的 CUR 分解,同时提供了详细的概率误差分析与数值验证。
2023-04-06 cs.NA math.NA
Optimal randomized changing dimension algorithms for infinite-dimensional integration on function spaces with ANOVA-type decomposition
School of Mathematics and Statistics, University of New South Wales(新南威尔士大学数学与统计学院)
本文研究了具有无限多个变量的函数积分问题,提出了一种基于ANOVA分解的随机变维算法,通过分析随机求积算法的误差界,证明了其在不同权重下的最优性。
2013-06-12 cs.NA math.NA
Beyond singular value gaps in randomized subspace approximation
Cornell University(康奈尔大学)
本文提出通过Frobenius奇异值比改进随机范围查找器的子空间质量分析,并提供更严格的概率保证。
2026-09-23 cs.NA math.NA
Optimal randomized multilevel algorithms for infinite-dimensional integration on function spaces with ANOVA-type decomposition
University of Technology, Sydney(悉尼科技大学);University of New South Wales(新南威尔士大学)
针对加权再生核希尔伯特空间中的无穷维积分问题,提出新的随机多水平算法并证明其最优性,显著改进了已有误差界。
2012-09-05 cs.NA math.NA
Simpler is better: A comparative study of randomized algorithms for computing the CUR decomposition
CUR分解是一种低秩近似技术,它选择给定矩阵的列和行的小子集作为其列和行空间的基础。由于它比传统的基于规范正交基的低秩分解具有许多优点,近年来引起了人们的广泛兴趣。这些特性包括保留稀疏性或非负性等属性、解释数据的能力以及降低存储需求。找到最小化残差范数的骨架集的问题已知是NP难的,但经典的枢转方案,如列枢转QR工作往往在实践中工作得很好。当与随机化降维技术相结合时,经典的基于旋转的方法变得特别有效,并且已经证明能够非常快速地计算大的、潜在稀疏的矩阵的近似CUR分解。另一类用于计算CUR分解的流行算法是基于使用基于杠杆分数的专用概率分布从完整索引集中随机绘制列和行。这种基于采样的技术对于非常大规模的问题特别有吸引力,并且得到理论性能保证的很好支持。这份手稿提供了一个比较研究的各种随机算法计算CUR分解,最近提出的。此外,它提出了一些修改和简化现有的算法,导致更快的执行时间。
2022-06-03 cs.NA math.NA
Stability of discrete empirical interpolation and gappy proper orthogonal decomposition with randomized and deterministic sampling points
本文研究了非线性模型简化和测量态场近似的(离散)经验插值的稳定性。经验插值通过低维空间中的插值从一些样本(测量)中获得近似值。已经观察到,如果样本由于例如以下原因而被扰动,则经验插值可能变得不稳定,噪声、湍流和数值不准确。这项工作的主要贡献是一个概率分析表明,如果样本是随机的,如果更多的样本比维度的低维空间,获得稳定的近似。过采样,即,采用比低维空间的维数更多的采样点,导致通过回归的近似,并且以Gappy适当正交分解的名义而被公知。建立在概率分析的见解,一个确定性的抽样策略,旨在实现更低的近似误差与随机抽样,通过考虑到低维空间的信息较少的点。通过对燃烧过程噪声测量数据的速度场重建和噪声条件下的模型降阶,验证了经验插值的不稳定性和带间隙的正交分解的稳定性。
2020-05-19 cs.NA math.NA
A Block-Randomized Stochastic Method with Importance Sampling for CP Tensor Decomposition
计算张量的CANDECOMP/PARAFAC(CP)分解的一种流行方法是将问题转化为一系列包含因子矩阵的具有Khatri-Rao乘积(KRP)结构的超定最小二乘法子问题。本文在随机选取因子矩阵的基础上,提出了一种基于重要抽样的小批量随机梯度下降法。提供了两种不同的采样策略。它们可以避免显式地形成完整的KRP并直接计算相应的概率。文中还给出了该方法的自适应步长形式。对于所提出的方法,我们提出了详细的理论性质和全面的数值性能。对合成数据和实际数据的实验结果表明,该方法的性能优于文献中的相应方法。
2023-01-24 cs.NA math.NA
A Novel Randomized XR-Based Preconditioned CholeskyQR Algorithm
CholeskyQR是通过Cholesky分解的一种简单而快速的QR分解,但它被认为对条件数高度敏感。在本文中,我们提供了一个随机的预处理框架CholeskyQR算法。在此框架下,提出并讨论了两种方法(随机LU-CholeskyQR和随机QR-CholeskyQR)。我们证明了所提出的预条件子可以有效地减少条件数,数值试验也证明了这一点。大量的数值试验表明,该方法比现有算法更稳定、更快速,并具有良好的可扩展性。
2021-11-24 cs.NA math.NA
Sublinear randomized algorithms for skeleton decompositions
令$A$是$n$乘$n$矩阵。骨架分解是$CUR$形式的任何因式分解,其中$C$包括$A$的列,$R$包括$A$的行。在本文中,我们考虑均匀采样$ł\simeq k \log n$的行和列,以产生一个骨架分解。该算法在$O(ł^3)$时间内运行,并具有以下错误保证。令$\norm{\cdot}$表示2-范数。假设$A\simeq X B Y^T$,其中$X,Y$各自具有$k$正交归一化列。假设$X,Y$是不相干的,我们表明,以高概率,近似误差$\norm{A-CUR}$将规模与$(n/ł)\norm{A-X B Y^T}$或更好。该算法中的关键步骤涉及正则化。这一步对于非对称$A$是至关重要的,正如经验结果所表明的那样。最后,我们使用我们的证明框架,以直观的方式分析两个现有的算法。
2012-04-10 cs.NA math.NA
A new randomized CholeskyQR based on LU decomposition with partial pivoting
Huawei Leibniz Research Center(华为莱布尼茨研究中心);The Hong Kong Polytechnic University(香港理工大学)
研究针对计算高瘦矩阵 QR 分解问题,提出基于带部分主元 LU 分解的新型随机 CholeskyQR 算法 RCLUPP 及其变体 RCLUPPr。通过特定分解和运算提高适用性与效率,有严格误差分析,实验验证其在多方面优于其他算法。
2026-07-15 cs.NA math.NA
Randomized algorithms for the low multilinear rank approximations of tensors
本文基于随机投影和奇异值分解,重点研究了张量低多线性秩近似的随机算法。根据次高斯矩阵的奇异值理论,对随机化算法的误差界进行了概率分析。我们通过几个数值例子证明了所提出的算法的有效性。
2020-03-19 cs.NA math.NA
Reduced Order Data-driven Twin Models for Nonlinear PDEs by Randomized Koopman Orthogonal Decomposition and Explainable Deep Learning
本文提出一种基于Koopman算子理论的数据驱动孪生建模框架,结合随机正交投影与可解释深度学习,构建高保真降阶模型,并在激波实验中验证其精度与效率。
2025-08-05 cs.NA math.NA
Total variation regularization of the $3$-D gravity inverse problem using a randomized generalized singular value decomposition
Institute of Geophysics University of Tehran(德黑兰大学地球物理研究所);School of Mathematical and Statistical Sciences Arizona State University(亚利桑那州立大学数学与统计科学学院)
本文提出了一种快速算法,用于解决三维重力反演问题的总变分正则化。通过总变分正则化,可以更好地保留具有尖锐不连续性的地下结构,优于传统最小结构反演。正则化问题的公式是非线性的,但可以使用迭代加权最小二乘算法求解。对于小规模问题,可以在每次迭代中使用广义奇异值分解求解正则化最小二乘问题,但这种方法不适用于大规模问题。为此,我们引入了随机广义奇异值分解,以减少问题的维度并提供有效且高效的解决方案。为了进一步提高效率,使用交替方向算法在迭代加权最小二乘算法中实现总变分加权操作符。合成示例的结果表明,新的随机分解在降低计算和内存需求的同时,比使用经典方法提供了更好的准确性。
2017-09-23 cs.NA math.NA
Fast, High-Accuracy, Randomized Nullspace Computations for Tall Matrices
University of California Berkeley(加州大学伯克利分校);EPF Lausanne(洛桑联邦理工学院);University of Oxford(牛津大学)
本文提出RLOBPCG方法,通过随机预处理与LOBPCG结合,高效计算高矩阵的最小奇异向量,实现高精度和速度提升。
2026-02-18 cs.NA math.NA
A Precise Performance Analysis of the Randomized Singular Value Decomposition
本文推导了随机奇异值分解(RSVD)近似误差的精确渐近表达式,针对幂律和双水平奇异值分布矩阵,并扩展到多项式滤波RSVD,以量化理论界与实际性能的差距。
2025-10-07 cs.NA math.NA
Randomized coupled decompositions
University of Zagreb Faculty of Chemical Engineering and Technology(萨格勒布大学化学工程与技术学院);University of Split Faculty of Electrical Engineering, Mechanical Engineering and Naval Architecture(斯普利特大学电气、机械与船舶工程学院);University of Zagreb Faculty of Science(萨格勒布大学理学院)
本文研究了耦合矩阵分解和耦合矩阵张量分解问题,提出通过奇异值分解直接求解,而非迭代方法,并引入随机化技术提升效率,应用于人脸识别。
2026-04-21 cs.NA math.NA
Fast and Accurate Randomized Algorithms for Low-rank Tensor Decompositions
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
低秩Tucker和CP张量分解是数据分析中的强大工具。广泛使用的交替最小二乘(ALS)方法,它解决了一系列超定最小二乘子问题,是昂贵的大型和稀疏张量。我们提出了一个快速,准确的草图ALS算法的塔克分解,解决了一系列的草图秩约束线性最小二乘法子问题。理论草图大小上界提供实现$O(ε)$相对误差的每个子问题与两个草图技术,TensorSketch和杠杆得分采样。实验结果表明,这种新的ALS算法,结合一个新的初始化方案的基础上随机测距仪,产量高达$22.0\%$相对分解残留的改善相比,国家的最先进的草图随机算法的各种合成和真实数据集的塔克分解。该Tucker-ALS算法进一步用于加速CP分解,通过使用随机化Tucker压缩,然后对Tucker核心张量进行CP分解。实验结果表明,该算法不仅收敛速度快,而且CP分解精度高。
2021-08-25 cs.DS cs.LG cs.NA
Convergence directions of the randomized Gauss--Seidel method and its extension
随机化Gauss-Seidel方法及其推广近年来引起了人们的广泛关注,其收敛速度也得到了广泛的研究。然而,通常由上界来确定收敛速度,这不能完全反映实际的收敛性。本文详细分析了它们的收敛性。分析表明,$A$的奇异值越大,误差在相应的奇异向量空间中衰减越快,收敛方向开始主要由大的奇异值驱动,然后逐渐由小的奇异值驱动,最后由最小的非零奇异值驱动.这些结果解释了在文献中出现的大量数值实验中发现的现象,即这两种方法似乎在开始时收敛得更快。数值例子证实了上述发现。
2021-05-22 cs.NA math.NA
A Rank Revealing Randomized Singular Value Decomposition (R3SVD) Algorithm for Low-rank Matrix Approximations
本文提出R3SVD算法,通过正交高斯采样逐步构建低秩近似,并自适应估计秩以捕捉矩阵主要特征。算法在图像压缩和矩阵补全中验证了有效性。
2016-05-26 cs.NA math.NA
Preconvergence of the randomized extended Kaczmarz method
本文分析了随机扩展Kaczmarz(REK)方法对所有类型的线性系(相容或不相容,超定或欠定,满秩或秩亏)的收敛性.分析表明,$A$的奇异值越大,误差在相应的右奇异向量空间中衰减越快,并且作为$k\rightarrow\infty$,$x_{k}-x_{\star}$趋向于$A$的最小奇异值所对应的右奇异向量,其中$x_{k}$是REK方法的$k$阶近似,$x_{\star}$是最小$\ell_2 $ -范数最小二乘解.这些结果解释了在文献中出现的大量数值实验中发现的现象,即REK方法似乎在开始时收敛得更快。一个简单的数值例子来证实上述发现。
2021-05-11 cs.NA math.NA
Tracking Tensor Ring Decompositions of Streaming Tensors
本文研究流式张量的张量环分解跟踪问题,提出一种高效算法及基于随机化技术的流式TR分解,利用TR结构并支持任意草图类型,理论与数值结果表明其在保持相似精度的同时显著提升了计算效率。
2023-07-03 cs.NA math.NA
Study of Compressed Randomized UTV Decompositions for Low-Rank Matrix Approximations in Data Science
在这项工作中,提出了一种新的秩显示矩阵分解算法,称为压缩随机UTV(CoR-UTV)分解以及一个CoR-UTV变体的辅助下的功率方法技术。CoR-UTV通过使用随机采样方案来计算低秩输入矩阵的近似值。给定大小为$m\times n$且具有数值秩$k$的大且密集的矩阵,其中$k \ll \text{min} \{m,n\}$,CoR-UTV需要在数据上经过几次,并且在$O(mnk)$浮点运算中运行。此外,CoR-UTV可以利用现代计算平台,并可以优化以实现最大效率。CoR-UTV也适用于解决鲁棒主成分分析问题。仿真结果表明,CoR-UTV优于现有的方法。
2019-06-08 cs.DS cs.NA math.NA
Fast randomized Kronecker tensor decomposition: algorithms and error analysis
Research Center of the Artificial Intelligence Institute, Innopolis University(因诺波利斯大学人工智能研究院研究中心);Lab of Machine Learning and Knowledge Representation, Innopolis University(因诺波利斯大学机器学习与知识表示实验室);Peoples’ Friendship University of Russia(俄罗斯人民友谊大学);Department of Teleinformatics Engineering, Federal University of Ceara(塞阿拉联邦大学电信信息工程系);School of Information and Communication Engineering, University of Electronic Science and Technology of China (UESTC)(电子科技大学信息与通信工程学院)
该研究针对Kronecker张量分解问题,提出用含过采样和幂迭代的随机SVD替代确定性SVD的快速算法,能显著加快分解速度,经理论分析和实验验证,相比确定性方法有数量级加速,且可应用于多种领域。
2026-07-22 cs.NA math.NA
A Randomized Algorithm for Tensor Singular Value Decomposition using an Arbitrary Number of Passes
本文提出一种可处理任意遍历次数的随机 t-SVD 算法,通过推广矩阵方法降低计算与通信成本,并证明其误差界及在实验和张量补全中的优越性。
2025-02-06 cs.NA math.NA
A generalization of the randomized singular value decomposition
University of Oxford(牛津大学);Cornell University(康奈尔大学)
随机奇异值分解(SVD)是一种利用矩阵向量与标准高斯向量的乘积来计算矩阵$A$的近最佳秩$k$近似的流行而有效的算法。在这里,我们将随机SVD推广到多变量高斯向量,允许将$A$的先验知识纳入算法。这使我们能够探索连续模拟的随机SVD希尔伯特-施密特(HS)运营商使用运营商的功能产品从高斯过程(GP)的功能。然后,我们构造了一个新的协方差核的GP,加权雅可比多项式的基础上,这使我们能够快速采样的GP和控制随机生成的函数的平滑度。矩阵和HS算子的数值例子证明了算法的适用性。
2022-01-21 cs.LG cs.NA math.NA
Randomized Rank-Revealing QLP for Low-Rank Matrix Decomposition
本文提出随机化无主元QLP分解(RU-QLP),通过随机列采样和无主元QR分解实现低秩矩阵的秩揭示分解,并给出谱范数和Frobenius范数下的理论界,实验表明其相比随机化SVD在CPU和GPU上分别获得最高7.1倍和2.3倍加速。
2023-07-05 cs.NA eess.SP math.NA
Randomized CP Tensor Decomposition
University of California, Berkeley(加州大学伯克利分校);California Institute of Technology(加州理工学院);University of Washington(华盛顿大学)
本文提出了一种基于随机算法的CP张量分解方法,通过高效处理大规模张量数据,实现低秩近似并控制误差。
2020-03-13 cs.NA math.NA stat.CO