Sparse Logistic Tensor Decomposition for Binary Data
张量数据在许多应用领域中越来越可用。我们开发了几种张量分解方法的二进制张量数据。不同于经典的张量分解的连续值数据的平方误差损失,我们制定的逻辑张量分解的二进制数据与伯努利似然。为了提高估计因子的可解释性和进一步提高其稳定性,我们提出了考虑$\ell_{1}$ -范数和$\ell_{0}$ -范数正则似然的Logistic张量分解的稀疏公式。为了处理由此产生的优化问题,我们开发了计算算法,结合张量幂方法和优化最小化(MM)算法的优势。通过模拟研究,我们证明了我们的方法在分析二进制张量数据的效用。为了说明所提出的方法的有效性,我们分析了一个关于国家和他们的政治关系的数据集,并进行估计因素的共聚类,以找到国家和政治关系之间的关联。
2021-06-27 stat.AP stat.CO
Dictionary-based Tensor Canonical Polyadic Decomposition
为了确保张量分解中提取的源的可解释性,本文介绍了一种基于字典的张量正则多元分解,该分解强制一个因子完全属于已知字典。提出了一种新的稀疏编码公式,使高维张量字典为基础的规范polyadic分解。在张量分解模型中使用字典的好处是探索参数可识别性和估计精度。通过对模拟数据的分解和高光谱图像的解混,对算法的性能进行了评价。
2017-11-08 stat.ML
CPQR-based randomized algorithms for generalized CUR decompositions
基于列旋转QR分解,我们提出了矩阵对和矩阵三元组的广义CUR分解的随机化算法,其中包括通过有效算法。对这些算法进行了详细的误差分析。数值实验给出了测试所提出的随机化算法。
2023-03-13 cs.NA math.NA
Randomized dual singular value decomposition
本文提出对偶矩阵的简洁奇异值分解及其随机化版本,在保持相似精度的同时显著降低计算成本,并分析了理论性质与数值表现。
2024-07-24 cs.NA math.NA
Randomized Kaczmarz for Tensor Linear Systems
求解线性系方程组是数学中的一个基本问题。当线性系很大,无法立即装入内存时,迭代法(如随机Kaczmarz方法)就很好。在这里,我们将随机Kaczmarz方法扩展到求解张量-张量t-乘积下的多线性(张量)系统。我们提供的张量随机Kaczmarz的矩阵线性系的随机Kaczmarz方法类似的收敛保证。我们证明了张量随机Kaczmarz方法收敛速度比传统的随机Kaczmarz适用于一个天真的矩阵化版本的线性系。此外,我们绘制所提出的算法和以前已知的矩阵线性系的随机Kaczmarz算法的扩展之间的连接。
2020-06-01 cs.NA math.NA
Randomized Algorithms for Low-Rank Matrix and Tensor Decompositions
Oden Institute & Dept. of Mathematics, University of Texas at Austin(德克萨斯大学奥斯汀分校奥登研究所与数学系)
本文提出随机算法用于加速低秩矩阵和张量分解,涵盖SVD、ID、CUR等方法,并探讨其在张量分解中的应用。
2025-12-30 cs.NA math.NA
Practical Sketching-Based Randomized Tensor Ring Decomposition
基于草图技术,我们提出了两个张量环(TR)分解的随机化算法。具体来说,通过定义新的张量积并研究其性质,将Kronecker子采样随机傅里叶变换和TensorSketch应用于TR分解最小化问题的交替最小二乘问题,设计了随机化算法。在此基础上,提出了一种基于随机投影的随机TR分解算法框架。理论结果的草图大小和复杂性分析的两个算法。我们比较我们的建议与国家的最先进的方法,使用合成和真实的数据。数值结果表明,它们在精度和计算时间上都有较好的性能
2022-09-12 cs.NA math.NA
Randomized Quaternion UTV Decomposition and Randomized Quaternion Tensor UTV Decomposition
提出 QUTV 与 QTUTV 分解及其随机化算法,给出秩 K、TQt-秩 K 的确定性与平均情形误差界,并通过实验证明其高效性及在彩色图像和视频处理中的潜力。
2024-06-22 cs.NA math.NA
A randomized algorithm for the QR decomposition-based approximate SVD
本文提出一种基于QR分解的随机近似SVD算法(RCSVD-QR),利用随机采样解决经典SVD瓶颈,在收敛速度和精度上表现优异,并提供了Frobenius范数下的误差估计。
2023-05-19 cs.NA math.NA
A Randomized Tensor Train Singular Value Decomposition
本文提出并分析了一种基于张量展开格式的随机算法,用于计算张量展开格式下的层次奇异值分解,改进了高维数据的低秩近似方法。
2017-10-23 cs.NA math.NA
A Randomized Block Krylov Method for Tensor Train Approximation
本文针对含噪大规模张量的低秩张量列逼近问题,提出一种基于随机块Krylov子空间迭代的随机算法,并给出理论保证,在合成与真实数据上验证了其有效性。
2023-08-07 cs.NA math.NA
Randomized algorithms for the low multilinear rank approximations of tensors
本文基于随机投影和奇异值分解,重点研究了张量低多线性秩近似的随机算法。根据次高斯矩阵的奇异值理论,对随机化算法的误差界进行了概率分析。我们通过几个数值例子证明了所提出的算法的有效性。
2020-03-19 cs.NA math.NA
Randomized Tensor Krylov Subspace Methods via Sketched Einstein Product with Applications to Image and Video Restoration
Mohammed VI Polytechnic University(穆罕默德六世理工大学)
本文提出了一种基于刻痕爱因斯坦乘积的随机张量Krylov子空间方法,用于高效求解图像和视频恢复中的大规模多线性系统。
2026-02-28 cs.NA math.NA
Single-pass randomized QLP decomposition for low-rank approximation
QLP分解是数值线性代数中逼近奇异值分解的有效算法之一。在本文中,我们提出了一些单遍随机QLP分解算法计算低秩矩阵近似。与确定性QLP分解相比,所提出的算法的复杂度没有显着增加,并且仅需要访问系统矩阵一次。因此,我们的算法非常适合存储在内存之外或由流数据生成的大型矩阵。在误差分析中,我们给出了矩阵逼近误差和奇异值逼近误差的界。数值实验也证实了我们的结果。
2020-11-27 cs.NA math.NA
Randomized LU Decomposition
我们提出了一个快速的随机算法,计算低秩LU分解。我们的算法使用随机投影类型的技术,有效地计算大型矩阵的低秩近似。随机LU算法可以并行化,并通过在其投影步骤中使用稀疏随机矩阵来进一步加速。几个不同的误差界证明了算法的近似。为了证明这些界限,最近的结果从随机矩阵理论有关的次高斯矩阵。作为一个应用程序,我们还展示了如何利用该算法来解决问题,如秩亏最小二乘问题。数值例子,说明了算法的性能,并将其与其他分解方法进行比较。
2016-01-30 cs.NA math.NA
A randomized singular value decomposition for third-order oriented tensors
由Zeng和Ng提出的定向奇异值分解(O-SVD)提供了一种基于t积的三阶张量奇异值分解的混合方法,其变换矩阵是高阶奇异值分解的因子矩阵。继续沿着这条思路,本文探讨了实现O-SVD更有效的张量列秩-1分解,并给出了截断O-SVD。受概率算法成功的启发,我们开发了一个随机版本的O-SVD,并提出了详细的误差分析。与现有的张量分解算法相比,新算法在保持良好精度的同时,在效率上具有优势。我们的主张是支持从实际应用中的几个定向张量的数值实验。
2023-02-27 cs.NA math.NA
An Efficient Randomized Fixed-Precision Algorithm for Tensor Singular Value Decomposition
针对随机张量奇异值分解需预先估计管秩的问题,提出基于随机投影与幂迭代的固定精度算法,可自动确定最优管秩并在合成及真实数据集上验证其效率与性能。
2024-04-08 cs.NA math.NA
Parallel Randomized Tucker Decomposition Algorithms
该研究提出两种结合随机化与并行化的Tucker张量分解算法,采用Kronecker结构随机矩阵做随机概要以降本提效,经概率误差分析与实验验证,在3D模拟数据上较最快确定性并行实现最高达16倍加速。
2023-06-09 cs.NA math.NA
Randomized Quaternion Singular Value Decomposition for Low-Rank Approximation
针对彩色人脸识别、视频压缩和信号处理中的低秩矩阵逼近问题,提出了一种随机四元数奇异值分解(QSVD)算法。该算法利用四元数正态分布的随机抽样方法,将高维数据投影到低维子空间中,然后识别出四元数矩阵的近似值域子空间。提出了四元数Wishart分布的关键统计性质,并利用其对算法进行了近似误差分析。理论结果表明,随机QSVD算法可以跟踪四元数矩阵的优势奇异值分解三元组,并具有可接受的精度。数值实验也表明了所提出理论的合理性。将随机QSVD算法应用于彩色人脸识别问题,与基于Lanczos的部分QSVD算法和四元数快速频繁方向算法相比,该算法具有更高的识别精度和更好的效率。
2021-12-26 cs.NA math.NA
Randomized Algorithms for Generalized Singular Value Decomposition with Application to Sensitivity Analysis
广义奇异值分解(GSVD)是计算科学中一种有价值的工具,有着广泛的应用。然而,计算大规模问题的GSVD是具有挑战性的。受超微分灵敏度分析(HDSA)应用的启发,本文提出了一种新的基于随机子空间迭代和加权QR分解的GSVD随机算法。详细的误差分析提供了洞察算法的精度和算法参数的选择。我们证明了我们的算法的性能测试矩阵和一个大规模的模型问题,HDSA是用来研究地下水流。
2020-02-07 cs.NA math.NA
Block-Randomized Stochastic Methods for Tensor Ring Decomposition
张量环(TR)分解是一种简单但有效的张量网络,用于分析和解释张量的潜在模式。在这项工作中,我们提出了一个双随机优化框架计算TR分解。它可以被视为随机块坐标下降和随机梯度下降的合理混合,因此以双随机方式运行,可以实现轻量级更新和小内存占用。此外,为了提高收敛性,特别是对于病态问题,我们提出了一个缩放版本的框架,可以被视为自适应预处理或对角缩放的变体。文中还给出了四种不同的选择小批量的概率分布和确定步长的自适应策略。最后,我们提出了我们的建议的理论性质和数值性能。
2023-03-29 cs.NA math.NA
Randomized regularized extended Kaczmarz algorithms for tensor recovery
最近提出了随机正则化Kaczmarz算法来求解具有{ \it consistent}线性测量的张量恢复模型。在这项工作中,我们提出了一种新的算法的基础上的随机扩展Kaczmarz算法(在期望线性收敛到唯一的最小范数最小二乘解的线性系)的张量恢复模型与{ \it不一致}的线性测量。证明了算法在期望条件下的线性收敛。最后给出了张量最小二乘问题和稀疏张量恢复问题的数值实验。
2021-12-16 cs.NA math.NA math.OC
Randomized block Krylov method for approximation of truncated tensor SVD
Research Center of the Artificial Intelligence Institute, and Lab of Machine Learning and Knowledge Representation, Innopolis University(因诺波利斯大学人工智能研究所研究中心及机器学习和知识表示实验室);Department of Teleinformatics Engineering, Federal University of Ceara(福塔莱萨塞阿拉联邦大学电信信息工程系)
本文提出了一种随机块Krylov方法用于截断张量SVD的近似,通过理论分析和实验验证了该方法在数据补全和压缩中的有效性。
2026-03-23 cs.NA math.NA
Regularized Linear Inversion with Randomized Singular Value Decomposition
在这项工作中,我们开发了基于随机奇异值分解(RSVD)的线性反问题的有效求解器。这是通过将RSVD与经典正则化方法相结合来实现的,例如,截断奇异值分解、Tikhonov正则化和带有平滑惩罚的一般Tikhonov正则化。所提出的方法的一个显著特点是,它显式地保留了正则化解的结构,在这个意义上,它总是位于某个伴随算子的范围内。在正则源条件下,给出了近似解与精确解之间的误差估计,并从凸对偶的角度解释了这种方法。大量的数值实验证明了该方法的有效性和准确性。
2019-09-04 cs.NA math.NA
Randomized algorithms for low-rank tensor decompositions in the Tucker format
数据科学和科学计算中的许多应用都涉及大规模数据集,这些数据集的存储和计算成本很高,但可以有效地压缩并以适当的张量格式存储。近年来,随机矩阵方法已被用来有效和准确地计算低秩矩阵分解。受此成功的启发,我们专注于开发随机算法的张量分解的塔克表示。具体来说,我们提出了两个著名的压缩算法,即HOSVD和STHOSVD的随机版本。我们提出了一个详细的随机张量算法的错误概率分析。我们还开发了这些算法的变体,以解决大规模数据集带来的特定挑战。第一种变体自适应地找到满足给定容限的低秩表示,并且当目标秩事先不知道时是有益的。第二种变体保留了原始张量的结构,并且对于难以加载到内存中的大型稀疏张量是有益的。我们考虑了几个不同的数据集,我们的数值实验:合成测试张量和现实的应用程序,如Olivetti数据库中的面部图像样本的压缩和安然电子邮件数据集中的字数。
2019-05-17 cs.NA math.NA
Towards Efficient and Accurate Approximation: Tensor Decomposition Based on Randomized Block Krylov Iteration
Guangdong University of Technology(广东工业大学);RIKEN(理化学研究所)
高效、准确的低秩近似(LRA)方法对于大规模数据分析具有重要意义。随机张量分解已经成为满足这一需求的强大工具,但大多数现有方法在存在噪声干扰的情况下表现不佳。受随机块Krylov迭代(rBKI)在减少尾部奇异值影响方面的显著性能的启发,本文设计了一种基于rBKI的Tucker分解(rBKI-TK)用于精确逼近,以及一种基于rBKI-TK的分层张量环分解用于大规模数据的有效压缩。此外,还研究了确定性LRA与随机化LRA的误差界。数值实验表明,所提出的方法在数据压缩和去噪方面的效率,准确性和可扩展性。
2022-11-27 cs.LG cs.NA math.NA
Fast randomized algorithms for computing the generalized tensor SVD based on the tubal product
针对大规模数据张量的广义张量奇异值分解(GTSVD)计算问题,提出两种基于管积的快速随机算法,通过随机投影生成小型概要张量后用确定性方法求解再恢复原张量GTSVD,实验验证了方法有效性。
2024-09-12 cs.NA math.NA
A Randomized Tensor Singular Value Decomposition based on the t-product
由Kilmer和Martin~ \cite{2011kilmer}提出的三阶张量的张量奇异值分解(t-SVD)在计算机断层扫描、人脸识别、视频补全等领域得到了成功的应用。在本文中,我们提出了一种方法,扩展了著名的随机矩阵方法的t-SVD。这种方法可以产生具有与t-SVD相似性质的因子分解,但在非常大的数据集上计算效率更高。我们提出的算法,理论结果的细节,并提供数值结果,显示我们的方法压缩和分析数据集的承诺。我们还提出了一个改进的分析矩阵的随机子空间迭代,这可能是独立的兴趣,科学界。
2016-09-22 cs.NA math.NA
Efficient randomized algorithms for the fixed Tucker-rank problem of Tucker decomposition with adaptive shifts
Guizhou University(贵州大学);Fudan University(复旦大学);City University of Hong Kong(香港城市大学)
本文提出融入动态移位策略的自适应移位幂迭代,改进T-HOSVD和ST-HOSVD的随机变体,求解Tucker分解固定Tucker秩问题,在保持精度的同时减少迭代次数,效率和精度优于现有技术。
2026-08-18 cs.NA math.NA
Randomized Interpolative Decomposition of Separated Representations
我们引入张量插值分解(张量ID)的标准张量分解(CTD)的分离秩的减少。对于用户定义的准确度ε,张量ID选择CTD的项的接近最优的子集,以经由所选项的线性组合来表示剩余项。张量ID可以用作交替最小二乘(ALS)算法的替代方案或步骤。此外,我们简要讨论了Q因子分解,以减少ALS迭代中的组件的大小。结合,张量ID和Q-因子分解导致一个新的范例减少的分离秩的CTD。在这种情况下,我们还讨论了谱范数作为计算替代Frobenius范数。我们减少了张量ID的问题,构造某些矩阵的插值分解。这些矩阵通过给定张量的随机投影或随机采样生成。我们提供了成本估计和几个例子的新方法,以减少分离秩。
2013-12-17 cs.NA math.NA
Fast Randomized Matrix and Tensor Interpolative Decomposition Using CountSketch
本文提出一种利用 CountSketch 的快速随机矩阵与张量插值分解算法,理论证明其性能保证,实验表明在保持精度的同时于大型数据上实现至少一个数量级加速。
2021-11-22 cs.NA math.NA
Mathematical Considerations on Randomized Orthgonal Decomposition Method for Developing Twin Data Models
本文提出随机正交分解方法以构建孪生数据模型,克服传统降阶建模缺陷,并通过粘性 Burgers 方程激波算例验证其数值精度与计算性能优势。
2024-09-23 cs.NA math.NA
Randomized Model Order Reduction
Florida State University(佛罗里达州立大学);University of Washington(华盛顿大学)
本文提出利用随机矩阵分解高效计算降阶基函数,通过随机SVD替代传统SVD,降低计算成本,验证了其在POD和DMD中的有效性。
2016-11-07 cs.NA math.NA
Randomized Estimation of T-Eigenvalues of T-SPD Tensors: A Two-Sided Bracket
Indian Institute of Information Technology, Design and Manufacturing Kancheepuram(印度信息技术学院坎切普拉姆分校)
针对T-SPD张量,提出四种随机方法估计极值T-特征值,包括随机幂法、子空间迭代、结合确定性上界的双边括号法以及仅需矩阵向量乘积的Hutchinson型方法,克服了确定性界在大型张量中相对间隙过大的局限。
2026-06-24 cs.NA math.NA
A Fast Implementation of Singular Value Thresholding Algorithm using Recycling Rank Revealing Randomized Singular Value Decomposition
Tsinghua University(清华大学);Old Dominion University(老道明大学)
本文提出一种快速实现奇异值阈值算法的方法,通过回收秩揭示随机奇异值分解算法降低计算成本,用于矩阵补全问题,包括图像恢复和电影推荐系统。
2017-04-14 cs.NA math.NA
Randomized residual-based error estimators for the Proper Generalized Decomposition approximation of parametrized problems
本文提出了一种新的参数化方程本征广义分解(PGD)逼近的误差估计。估计是内在随机的:它建立在高斯映射的浓度不等式和随机右手边的伴随问题上,我们使用PGD近似。这种随机化误差估计的有效性可以任意地接近于具有高概率的单位,允许相对于任何用户定义的范数的误差的估计以及在一些感兴趣的量的误差。误差估计的性能进行了演示,并与一些现有的误差估计的参数化时谐弹性动力学问题的PGD和参数化方程的线性弹性与高维参数空间。
2019-10-25 cs.NA math.NA
Randomized Alternating Least Squares for Canonical Tensor Decompositions: Application to a PDE with Random Data
University of Colorado at Boulder(科罗拉多大学博尔德分校)
本文提出了一种随机化交替最小二乘法用于张量格式的秩缩减,以解决交替最小二乘法迭代中最小二乘矩阵可能的数值病态问题,通过随机张量投影降低条件数,并在三个例子中验证了算法性能。
2015-10-05 cs.NA math.NA math.PR
Randomized Symplectic Model Order Reduction for Hamiltonian Systems
在多查询或实时上下文中的大规模动力系统的仿真需要高效的代理建模技术,例如通过模型降阶(MOR)实现。最近,为了在MOR期间保持Hamilton结构,人们开发了复奇异值分解(cSVD)或类SVD分解等辛方法。在目前的贡献,我们展示了如何保辛结构的基础生成可以更有效地与随机矩阵分解。我们提出了一个随机的复杂SVD(rcSVD)算法和一个随机SVD(rSVD-like)分解。我们证明了高维系统的数值实验的方法的效率。
2023-03-07 cs.NA math.NA
Randomized algorithms for rounding in the Tensor-Train format
Tensor-Train(TT)格式是高维张量的高度紧凑的低秩表示。当表示某些类型的参数化偏微分方程的解的近似时,TT特别有用。对于这些问题中的许多问题,显式计算解决方案将需要不可行的内存和计算时间。虽然TT格式使这些问题易于处理,但求解偏微分方程的迭代技术必须适应于在保持隐式结构的同时执行算术。用于保持可行的内存和计算时间的基本运算称为舍入,其截断已经在TT格式中的张量的内部秩。我们提出了几个随机算法,为这项任务的随机低秩矩阵近似算法的推广,并提供显着减少计算相比,确定性TT-舍入算法。随机化在四舍五入TT张量的总和的情况下特别有效(我们观察到20倍加速),这是GMRES适应TT格式向量的瓶颈计算。我们提出了随机算法,并比较其经验的准确性和计算时间与确定性的替代品。
2021-10-08 cs.NA math.NA
Randomized LU Decomposition Using Sparse Projections
提出了一种低秩LU分解的快速近似算法。为了达到较低的复杂度,该算法使用稀疏随机投影结合基于FFT的随机投影。分析了算法的渐近逼近误差,给出了算法的理论误差界。最后,数值例子表明,对于类似的近似误差,稀疏LU算法是更快的比最近的国家的最先进的方法。该算法是完全可并行的,可以在GPU上运行。在GPU卡上测试了性能,与顺序执行相比,运行时间有了显着改善。
2016-01-17 cs.NA math.NA
Randomized Kaczmarz methods for t-product tensor linear systems with factorized operators
本文扩展随机Kaczmarz方法以求解t-积张量线性系统,利用因子化算子近似求解一致与不一致问题,提供指数收敛保证并联系早期方法。
2024-12-13 cs.NA math.NA
A Spectrally Damped Tensor Randomized Kaczmarz Method for Doubly Noisy Tensor Systems
University of California San Diego(加州大学圣迭戈分校)
研究双噪声扰动模型下张量随机化Kaczmarz方法,先分析标准TRK,再引入谱阻尼张量随机化Kaczmarz方法(SD - TRK),证明其误差递推式,给出基于FFT的实现,通过数值实验展示SD - TRK在噪声和病态设置下相对于标准TRK的稳定行为。
2026-08-17 cs.NA math.NA
Fast and Accurate Randomized Algorithms for Low-rank Tensor Decompositions
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
低秩Tucker和CP张量分解是数据分析中的强大工具。广泛使用的交替最小二乘(ALS)方法,它解决了一系列超定最小二乘子问题,是昂贵的大型和稀疏张量。我们提出了一个快速,准确的草图ALS算法的塔克分解,解决了一系列的草图秩约束线性最小二乘法子问题。理论草图大小上界提供实现$O(ε)$相对误差的每个子问题与两个草图技术,TensorSketch和杠杆得分采样。实验结果表明,这种新的ALS算法,结合一个新的初始化方案的基础上随机测距仪,产量高达$22.0\%$相对分解残留的改善相比,国家的最先进的草图随机算法的各种合成和真实数据集的塔克分解。该Tucker-ALS算法进一步用于加速CP分解,通过使用随机化Tucker压缩,然后对Tucker核心张量进行CP分解。实验结果表明,该算法不仅收敛速度快,而且CP分解精度高。
2021-08-25 cs.DS cs.LG cs.NA
An efficient randomized homotopy method to approximate eigenpairs of tensors
MPI MiS Leipzig(莱比锡马克斯·普朗克微电子研究所)
本文提出一种高效的随机算法,用于近似复张量的h-特征对,通过随机输入实现多项式时间内运算。
2018-01-11 cs.NA math.NA
Randomized Algorithms for Computation of Tucker decomposition and Higher Order SVD (HOSVD)
大数据分析已成为物联网、网络物理分析、深度学习、异常检测等新兴技术的重要组成部分。在许多其他技术中,降维在此类分析中起着关键作用,并有助于特征选择和特征提取。随机算法是处理大数据张量的有效工具。它们通过降低确定性算法的计算复杂性和存储层次结构的不同级别之间的通信来加速分解大规模数据张量,这是现代计算环境和架构中的主要瓶颈。本文综述了Tucker分解和高阶奇异值分解(HOSVD)计算中的随机化方法的最新进展。我们讨论了随机投影和采样方法,单通道和多通道随机算法,以及如何利用它们在计算的塔克分解和HOSVD。模拟合成和真实的数据集提供了一些最好的和最有前途的算法的性能进行比较。
2021-12-12 cs.NA math.NA
Computing low-rank approximations of large-scale matrices with the Tensor Network randomized SVD
我们提出了一种新的算法,用于计算矩阵乘积算子(MPO)格式(也称为张量训练矩阵格式)中矩阵的奇异值分解(SVD)低秩近似。我们的张量网络随机SVD(TNrSVD)算法是一个MPO实现的随机SVD算法,能够计算占主导地位的奇异值及其相应的奇异向量。与最先进的基于张量的交替最小二乘SVD(ALS-SVD)和改进的交替最小二乘SVD(MALS-SVD)矩阵近似方法相比,TNrSVD可以在达到相同精度的同时快17倍。此外,我们的TNrSVD算法也产生准确的近似在特定情况下,ALS-SVD和MALS-SVD都无法收敛。我们还提出了一种新的算法,用于将稀疏矩阵快速转换为相应的MPO形式,该算法比标准的张量训练SVD(TT-SVD)方法快509倍,同时实现机器精度。数值实验证明了这两种算法的有效性和准确性。
2017-07-25 cs.NA math.NA
Distributed-Memory Randomized Algorithms for Sparse Tensor CP Decomposition
本文提出了两种随机CP分解算法(CP-ARLS-LEV和STS-CP)的首个分布式内存实现,通过杠杆得分采样和定制通信调度,在十亿规模张量上实现了比SPLATT快11倍的加速。
2024-04-28 cs.NA math.NA
A Practical Randomized CP Tensor Decomposition
Georgia Institute of Technology(佐治亚理工学院);Wake Forest University(维克森林大学);Sandia National Laboratories(桑迪亚国家实验室)
本文提出一种基于随机最小二乘法的CP张量分解方法,通过高效预处理和采样技术显著提升计算效率,同时保持分解质量。
2017-10-22 cs.NA math.NA
Randomized Dynamic Mode Decomposition
提出了一种计算近优低秩动态模式分解(DMD)的随机算法。随机算法是计算低秩矩阵近似值的新兴技术,其成本仅为确定性算法的一小部分,缓解了“大数据”领域出现的计算挑战。其思想是从高维数据中导出一个小矩阵,然后使用该矩阵来有效地计算动态模式和特征值。该算法采用模块化概率框架,通过过采样和幂次迭代控制逼近质量。所得到的随机DMD算法的有效性证明了几个基准的例子越来越复杂,提供了一个准确和有效的方法来提取时空相干结构从大数据的框架中,规模与固有的排名的数据,而不是周围的测量尺寸。在这项工作中,我们假设所考虑的问题的动力学是在一个低维子空间上发展的,该子空间的特征在于快速衰减的奇异值谱。
2019-11-27 cs.NA math.NA
Randomized algorithms for streaming low-rank approximation in tree tensor network format
本研究提出树张量网络Nyström算法及其序列变体,将可流式张量逼近拓展至通用树张量网络格式,保留随机化、单遍等特性,支持并行,给出误差界,适用于张量再压缩,实验验证了其高效有效。
2024-12-09 cs.NA math.NA
Randomized average block coordinate descent method with heavy-ball momentum for tensor least squares problem under the t-product
Tongji University(同济大学)
针对t-积张量最小二乘问题,提出带重球动量的随机平均块坐标下降法,通过平均技术避免计算Moore-Penrose逆,并自适应确定步长与动量,理论证明收敛且改进线性收敛率,实验验证其迭代效率与视频恢复性能。
2026-09-15 cs.NA math.NA
Randomized Dynamic Mode Decomposition for Non-Intrusive Reduced Order Modelling
Politehnica University of Timisoara(蒂米什瓦拉理工大学);Florida State University(佛罗里达州立大学)
本文提出一种新的非侵入式数据降阶建模框架,结合随机动态模式分解与径向基函数插值,提升复杂流场建模效率与精度,减少计算时间。
2016-11-15 cs.NA math.NA
Randomized GCUR decompositions
本文提出一种高效的随机化广义 CUR 分解算法,结合 L-DEIM 方法降低大规模数据集计算成本,并扩展至基于 RSVD 的 CUR 分解,同时提供了详细的概率误差分析与数值验证。
2023-04-06 cs.NA math.NA
Efficient randomized tensor-based algorithms for function approximation and low-rank kernel interactions
在本文中,我们介绍了一种多元函数逼近的方法,使用功能评估,切比雪夫多项式,和基于张量的压缩技术通过塔克格式。我们开发了新的随机技术来完成张量压缩,提供了一个详细的分析计算成本,提供洞察所得近似的错误,并讨论所提出的方法的好处。我们还应用基于张量的函数近似来开发低秩矩阵近似,以描述两组点之间的成对相互作用的核矩阵;由此产生的低秩近似计算和存储效率高(复杂度在点数上是线性的)。我们有详细的数值实验的例子问题,涉及多元函数逼近,低秩矩阵近似的核矩阵,涉及良好分离的集群的源和目标点,和全球低秩近似的核矩阵与高斯过程的应用。
2021-07-27 cs.NA math.NA