A Fast Implementation of Singular Value Thresholding Algorithm using Recycling Rank Revealing Randomized Singular Value Decomposition
Tsinghua University（清华大学）；Old Dominion University（老道明大学）
本文提出一种快速实现奇异值阈值算法的方法，通过回收秩揭示随机奇异值分解算法降低计算成本，用于矩阵补全问题，包括图像恢复和电影推荐系统。
2017-04-14 cs.NA math.NA
Decomposition and conformal mapping techniques for the quadrature of nearly singular integrals
Gauss-Legendre积分和梯形法则是解析函数的数值积分的有力工具。然而，对于几乎奇异的问题，这些标准方法变得令人无法接受的慢。我们讨论和推广了一些现有的方法，以改善这些计划的位置附近的奇异性是已知的。最后，我们的应用程序的粘性流的一些近奇异曲面积分。
2022-10-18 cs.NA math.NA
Very Large-Scale Singular Value Decomposition Using Tensor Train Networks
我们提出了新的算法奇异值分解（SVD）的非常大规模的矩阵的基础上的低秩张量近似技术称为张量训练（TT）格式。该算法可以计算出TT格式的大规模结构矩阵的几个主要奇异值和相应的奇异向量。假设矩阵和奇异向量都允许低秩TT分解，所提出的方法的计算复杂性与矩阵大小成几何比例。所提出的方法，这被称为交替最小二乘SVD（ALS-SVD）和改进的交替最小二乘SVD（MALS-SVD），通过块TT分解近似计算左，右奇异向量。超大规模优化问题被简化为连续的小规模最优化问题，并且块TT分解的每个核张量可以通过应用任何标准最优化方法来更新。在迭代过程中自适应地确定块TT分解的最优秩，从而获得较高的逼近精度。对几类TT结构矩阵如Hilbert矩阵、Toeplitz矩阵、具有指定奇异值的随机矩阵和三对角矩阵进行了广泛的数值模拟。仿真结果表明，所提出的方法相比，标准的SVD算法和基于TT的对称特征值分解算法的有效性。
2014-12-13 cs.NA math.NA
Regularized Linear Inversion with Randomized Singular Value Decomposition
在这项工作中，我们开发了基于随机奇异值分解（RSVD）的线性反问题的有效求解器。这是通过将RSVD与经典正则化方法相结合来实现的，例如，截断奇异值分解、Tikhonov正则化和带有平滑惩罚的一般Tikhonov正则化。所提出的方法的一个显著特点是，它显式地保留了正则化解的结构，在这个意义上，它总是位于某个伴随算子的范围内。在正则源条件下，给出了近似解与精确解之间的误差估计，并从凸对偶的角度解释了这种方法。大量的数值实验证明了该方法的有效性和准确性。
2019-09-04 cs.NA math.NA
Phase Factors in Singular Value Decomposition and Schmidt Decomposition
在复矩阵A的奇异值分解（SVD）中，奇异向量或特征向量Af和Af A对于复相位因子是唯一的。因此，SVD中的两个酉矩阵直到相位因子的对角矩阵（相位因子矩阵）是唯一的。此外，这两个相位因子矩阵的积，或具有相同奇异值的相应奇异向量的相位因子的积，是唯一的。在施密特分解中，相位因子矩阵是单独作用于子系统的相位旋转算子。我们在这里总结了三个简单的步骤，以一致地执行SVD和施密特分解，包括相位因子。
2022-03-23 cs.NA math.NA quant-ph
Singular Values using Cholesky Decomposition
ST-Ericsson AT GmbH（ST-Ericsson AT 有限公司）
本文提出两种基于Cholesky分解计算奇异值的方法，利用对称半正定矩阵的Cholesky分解来高效求解奇异值。
2012-02-07 cs.MS cs.NA math.NA
A tensor bidiagonalization method for higher-order singular value decomposition with applications
在数据压缩和提取中，需要知道与三阶张量的最大奇异值相关联的几个奇异三元组。本文介绍了一种新的方法，他们的计算使用的t-产品。还提出了确定与最小奇异值相关的一对奇异三元组的方法。所提出的方法推广了现有的重新启动的Lanczos双对角化方法，用于计算矩阵的最大或最小奇异三元组。本文的方法使用里兹和谐波里兹横向切片，以确定准确的近似的最大和最小的奇异三元组，分别。计算实例显示了数据压缩和人脸识别的应用。
2023-01-08 cs.NA math.NA
Adomian decomposition method for solving derivative-dependent doubly singular boundary value problems
Birla Institute of Technology Mesra（比尔拉理工学院梅斯腊分校）
本文提出一种改进的Adomian分解法，用于求解非线性导数依赖的双奇异边值问题，通过双重积分算子和级数展开方法，验证了该方法的有效性。
2017-11-22 cs.NA math.NA
Quaternion Singular Value Decomposition based on Bidiagonalization to a Real Matrix using Quaternion Householder Transformations
本文提出一种实用高效的四元数矩阵奇异值分解方法，通过四元数Householder变换将四元数矩阵双对角化为实双对角矩阵，再利用LAPACK等库计算实矩阵的SVD，从而得到原四元数矩阵的奇异值和奇异向量。
2006-03-10 cs.NA math.NA
A Power Method for Computing Singular Value Decomposition
本文提出一种基于神经网络编码器的幂方法，用于高效计算实值矩阵的SVD子空间，通过优化器设置和奇异值行为影响精度。
2025-12-07 cs.NA math.NA
An Efficient Randomized Fixed-Precision Algorithm for Tensor Singular Value Decomposition
针对随机张量奇异值分解需预先估计管秩的问题，提出基于随机投影与幂迭代的固定精度算法，可自动确定最优管秩并在合成及真实数据集上验证其效率与性能。
2024-04-08 cs.NA math.NA
Singular Value Decomposition Approximation via Kronecker Summations for Imaging Applications
Emory University（埃默里大学）
本文提出通过将矩阵分解为克罗内克积之和来近似大型结构矩阵的截断奇异值分解，更高效地计算奇异值和向量，用于求解大规模病态逆问题。
2018-04-02 cs.NA math.NA
Randomized Algorithms for Generalized Singular Value Decomposition with Application to Sensitivity Analysis
广义奇异值分解（GSVD）是计算科学中一种有价值的工具，有着广泛的应用。然而，计算大规模问题的GSVD是具有挑战性的。受超微分灵敏度分析（HDSA）应用的启发，本文提出了一种新的基于随机子空间迭代和加权QR分解的GSVD随机算法。详细的误差分析提供了洞察算法的精度和算法参数的选择。我们证明了我们的算法的性能测试矩阵和一个大规模的模型问题，HDSA是用来研究地下水流。
2020-02-07 cs.NA math.NA
Singular value decomposition of the wave forward operator with radial variable coefficients
光声层析成像（PAT）是一种新型的和有前途的混合医学成像技术，涉及通过激发电磁能量在感兴趣的对象中产生声波。声波是在物体外部测量的。PAT中的关键数学问题之一是重建包含来自声换能器表面上的波动方程的解的诊断信息的初始函数。在这里，我们提出了一个波向前运营商，指定一个初始函数，以获得单位球上的波动方程的解决方案。在超声径向变速的假设下，通过确定由特征函数组成的希尔伯特空间的规范正交基，得到了这种波向前算子的奇异值分解。利用连续Galerkin方法的数值模拟结果验证了奇异值分解反演的有效性。
2022-08-23 cs.NA math.NA
Linear and nonlinear substructured Restricted Additive Schwarz iterations and preconditioning
子结构区域分解（DD）方法已被广泛研究，它们通常与非重叠分解。我们在这里介绍一个子结构版本的限制性添加剂施瓦茨（RAS），我们称之为SRAS，我们讨论了它的优点相比，标准体积制定的施瓦茨方法时，他们都被用来作为迭代求解器和预条件的Krylov方法。为了将SRAS扩展到非线性问题，我们引入了SRASPEN（子结构限制加法Schwarz预条件精确牛顿），其中SRAS被用作牛顿法的预条件。我们仔细研究子结构的影响，这些方法的收敛性和性能，以及它们的实现。最后，我们介绍了两个层次的版本的非线性SRAS和SRASPEN。数值实验证实了制定Schwarz方法在子结构层次上的优势。
2021-03-31 cs.NA math.NA
A Randomized Tensor Train Singular Value Decomposition
本文提出并分析了一种基于张量展开格式的随机算法，用于计算张量展开格式下的层次奇异值分解，改进了高维数据的低秩近似方法。
2017-10-23 cs.NA math.NA
Quaternion tensor singular value decomposition using a flexible transform-based approach
针对$L$阶（$L\geq 3$）四元数张量，提出了一种基于柔性变换的张量积，称为$\star_{\rm{QT}}$ -积.基于$\star_{\rm{QT}}$ -积，我们定义了$L$阶（$L\geq 3$）四元数张量的相应的奇异值分解TQt-SVD和秩TQt-rank.此外，通过正交四元数变换，TQt-SVD可以提供任何$L$第（$L\geq 3$）四元数张量的最佳TQt-rank- $s$近似。在实验中，我们已经验证了所提出的TQt-SVD的最佳TQt-rank- $s$近似的三阶四元数张量表示的彩色视频中的应用的有效性。
2021-12-16 cs.NA math.NA
Singular Value and Frame Decomposition-based Reconstruction for Atmospheric Tomography
本文将大气层析算子的奇异值分解推广到加权Sobolev设置，推导基于框架的近似解算子，并在超大望远镜自适应光学系统中通过MOST模拟验证了所提数值方法的有效性。
2024-07-09 cs.NA math.NA
Two harmonic Jacobi--Davidson methods for computing a partial generalized singular value decomposition of a large matrix pair
针对大型正则矩阵对的部分广义奇异值分解（GSVD）问题，提出了两种基于谐波提取的Jacobi-Davidson（JD）型算法.它们被称为无向量积（CPF）和无逆（IF）谐波JDGSVD算法，分别简称为CPF-HJDGSVD和IF-HJDGSVD。与基于标准提取的JDGSVD算法相比，基于谐波提取的算法收敛更有规律，更适合于计算内部广义奇异值对应的GSVD分量。提出了一种基于压缩和净化技术的厚重启动CPF-HJDGSVD和IF-HJDGSVD算法，用于计算多个GSVD分量。数值实验证实了CPF-HJDGSVD和IF-HJDGSVD算法优于基于标准抽取的JDGSVD算法。
2022-01-09 cs.NA math.NA
Streaming GPU Singular Value and Dynamic Mode Decompositions
本文提出了一种在图形处理器上并行计算动态模式分解（DMD）的算法，该算法采用快照流方法进行奇异值分解。这使得算法能够在新数据可用时通过避免冗余内积来有效地对流数据进行操作。此外，可以利用许多数据流（例如，在傅立叶域中稀疏表示的HD视频和计算物理代码）的原生压缩格式，以大量减少从CPU到GPU的数据传输，并实现稀疏矩阵乘法。两者合计，这些算法有利于实时流DMD的高维数据流。我们证明了所提出的方法在众多的高维数据集，从视频背景建模到科学计算应用，DMD正在成为一个支柱算法。计算框架被开发为用C++与CUDA编写的开源库，并且算法可以被推广到包括其他DMD进展，例如压缩感测DMD、多分辨率DMD或具有控制的DMD。保留字：奇异值分解，动态模式分解，流式计算，图形处理单元，视频背景建模，科学计算。
2016-12-23 cs.NA math.NA
Randomized Quaternion Singular Value Decomposition for Low-Rank Approximation
针对彩色人脸识别、视频压缩和信号处理中的低秩矩阵逼近问题，提出了一种随机四元数奇异值分解（QSVD）算法。该算法利用四元数正态分布的随机抽样方法，将高维数据投影到低维子空间中，然后识别出四元数矩阵的近似值域子空间。提出了四元数Wishart分布的关键统计性质，并利用其对算法进行了近似误差分析。理论结果表明，随机QSVD算法可以跟踪四元数矩阵的优势奇异值分解三元组，并具有可接受的精度。数值实验也表明了所提出理论的合理性。将随机QSVD算法应用于彩色人脸识别问题，与基于Lanczos的部分QSVD算法和四元数快速频繁方向算法相比，该算法具有更高的识别精度和更好的效率。
2021-12-26 cs.NA math.NA
On choices of formulations of computing the generalized singular value decomposition of a large matrix pair
对于满列秩的大型矩阵对$(A,B)$的广义奇异值分解（GSVD）的计算，一般将GSVD表示为两个数学等价的广义本征值问题，从而可以将广义本征值求解器应用于其中一个问题，然后从计算的广义本征对中恢复所需的GSVD分量.我们关心的是，在有限精度算法中，哪种广义本征值公式在计算所需的GSVD分量时更精确。我们对这两种提法进行了详细的扰动分析，并展示了如何在它们之间做出适当的选择。数值实验验证了所得结果。
2020-01-10 cs.NA math.NA
Inverse Scale Space Decomposition
University of Cambridge（剑桥大学）
本文研究了逆尺度空间流作为分解方法，用于将数据分解为广义奇异向量。通过凸和绝对一齐次正则化泛函，证明了该方法能将数据分解为个体奇异向量，并探讨了逆尺度空间流在初始数据任意时返回广义奇异向量的条件。
2016-12-29 cs.NA math.NA
Convergence Analysis of the Rank-Restricted Soft SVD Algorithm
软奇异值分解是一种鲁棒的矩阵分解算法，也是矩阵完备化方法的关键组成部分。然而，由于大的存储器需求，使用用于SVD的常规数值方法来计算大型稀疏矩阵的软SVD通常是不切实际的。由Hastie等人引入的秩限制软SVD（RRSS）算法通过顺序计算容易适合内存的低秩SVD来解决这个问题。我们分析了标准RRSS算法的收敛性，并给出了标准算法不收敛的例子。我们表明，收敛需要修改的标准算法，并与非唯一性的SVD。我们的修改指定了一个一致的选择符号的左奇异向量的低秩SVD的迭代。在这些条件下，我们证明了线性收敛的奇异向量使用交替子空间迭代激发的技术。然后，我们推导出一个不动点迭代的奇异值的演变和显示线性收敛的软阈值的奇异值的原始矩阵。这最后一步需要一个扰动结果的不动点迭代，这可能是独立的利益。
2021-04-03 cs.NA math.NA
Convergence of Regularization Parameters for Solutions Using the Filtered Truncated Singular Value Decomposition
截断的奇异值分解可以用于结合Tikhonov正则化来找到线性离散不适定问题的解，并且需要估计正则化参数，该正则化参数在拟合数据函数和正则化项的大小之间进行平衡。无偏预测风险估计器是当测量中的噪声正态分布且方差已知时寻找正则化参数的一种建议方法。在本文中，我们提供了一个算法，使用无偏预测风险估计，自动发现正则化参数和使用的奇异值分解的条款的数量。该算法的基础是一个新的结果，证明了正则化参数收敛的奇异值分解的项数。对于分析，它是足够的假设，离散皮卡德条件是满足精确的数据和噪声完全污染的测量数据系数足够大的数量的条款，取决于噪声水平和不适定性的系统的程度。提供了正则化参数的下界，从而导致计算上有效的算法。支持的结果进行了比较，使用广义交叉验证的方法。二维算例的仿真验证了理论分析和算法对噪声水平增加的有效性，并表明截断奇异值分解的相对重建误差小于奇异值分解的相对重建误差。这是一篇发表在BIT数值数学上的文章的预印本。最终认证版本可在https://doi.org/10.1007%2Fs10543-019-00762-7网站上获得。
2019-06-16 cs.NA math.NA
Fast and Accurate Proper Orthogonal Decomposition using Efficient Sampling and Iterative Techniques for Singular Value Decomposition
在本文中，我们提出了一个计算效率高的迭代算法的本征正交分解（POD）使用随机采样为基础的技术。在该算法中，额外的行和列被采样，并在每次迭代中使用合并技术来更新占主导地位的POD模式。我们推导出一系列合并操作引入的错误的谱范数的界限。我们利用一个已有的定理得到了迭代收敛时所得到的子空间的质量的一个近似度量。在各种数据集上的结果表明，POD模式和/或子空间近似具有良好的精度与显着的运行时间改善计算截断SVD。我们还提出了一种方法来计算POD模式的大型矩阵，不适合在RAM使用这种迭代采样和合并算法。
2020-11-20 cs.NA math.NA
A Randomized Tensor Singular Value Decomposition based on the t-product
由Kilmer和Martin~ \cite{2011kilmer}提出的三阶张量的张量奇异值分解（t-SVD）在计算机断层扫描、人脸识别、视频补全等领域得到了成功的应用。在本文中，我们提出了一种方法，扩展了著名的随机矩阵方法的t-SVD。这种方法可以产生具有与t-SVD相似性质的因子分解，但在非常大的数据集上计算效率更高。我们提出的算法，理论结果的细节，并提供数值结果，显示我们的方法压缩和分析数据集的承诺。我们还提出了一个改进的分析矩阵的随机子空间迭代，这可能是独立的兴趣，科学界。
2016-09-22 cs.NA math.NA
A Hybrid Algorithm for Computing a Partial Singular Value Decomposition Satisfying a Given Threshold
本文提出一种计算高于给定阈值的所有奇异三元组的混合算法，并提供MATLAB/Octave和R实现，通过矩阵补全与图像压缩示例验证其高性能和易用性。
2024-08-02 cs.NA math.NA
Making matrices better: Geometry and topology of polar and singular value decomposition
从几何与拓扑角度研究固定尺寸矩阵空间，探讨不同秩家族及其关联，分析矩阵的最近正交邻近和最近奇异邻近，以及极值和奇异值分解及其应用。
2017-02-07 cs.NA math.NA math.RA
Updating Singular Value Decomposition for Rank One Matrix Perturbation
School of Engineering \& Applied Science, Ahmedabad University, Ahmedabad-380009, India
本文提出一种高效算法，用于在O(n² log(1/ε))时间内更新秩一扰动矩阵的奇异值分解，利用快速多极子方法在O(n log(1/ε))时间内更新奇异向量。
2017-07-26 cs.LG cs.NA math.NA
Perturbation expansions and error bounds for the truncated singular value decomposition
截断奇异值分解是奇异值分解的简化版本，其中仅保留少数最大的奇异值。提出了一种新的实矩阵截断奇异值分解的扰动分析方法。首先，我们描述的奇异值截断阶$r$的扰动展开。我们推广了奇异子空间分解的扰动结果，导出了截断算子关于秩大于或等于$r$的矩阵的一阶扰动展开式。当矩阵具有精确秩$r$时，一阶展开可以大大简化，进一步证明了奇异值截断允许关于秩- $r$矩阵的简单二阶扰动展开.其次，我们引入了扰动秩- $r$矩阵的截断奇异值分解的线性逼近的第一已知误差界。我们的界只依赖于未扰动矩阵的最小奇异值和扰动矩阵的范数。有趣的是，虽然奇异子空间是非常敏感的加性噪声，新建立的误差界普遍适用于任意大小的扰动。最后，我们展示了应用我们的结果与TSVD为基础的矩阵去噪解决方案的均方误差的分析。
2021-05-30 cs.NA math.NA math.ST
Singular Value Decomposition and Neural Networks
University of St.Gallen（圣加仑大学）；University Passau（帕绍大学）
奇异值分解（SVD）是线性代数概念和多层神经网络之间的桥梁，是它们的线性类比。除了这种洞察力之外，它还可以用作网络参数的良好初始猜测，从而获得更好的优化结果。
2019-06-27 cs.LG cs.NA math.NA
A note on the hyperbolic singular value decomposition without hyperexchange matrices
本文给出了一种新的双曲型奇异值分解（HSVD）公式，它适用于任意复（或实）矩阵，且不含超交换矩阵和冗余不变参数。在我们的公式中，我们只使用伪酉（或伪正交）矩阵的概念。我们表明，计算HSVD在一般情况下减少到计算的特征值，特征向量和广义特征向量的一些辅助矩阵。新配方更自然，对某些应用程序更有用。它自然包括普通的奇异值分解。
2020-05-03 cs.NA math-ph math.MP
Singular value soft-thresholding via the polar decomposition
University of Colorado Boulder（科罗拉多大学波得尔分校）
研究奇异值软阈值处理，核心方法是通过极分解计算，相比标准奇异值分解方法，在GPU上有显著加速，不过因符号函数不连续，该方法可能仅适用于低精度应用。
2026-07-27 cs.LG cs.NA math.NA
An Algorigtm for Singular Value Decomposition of Matrices in Blocks
提出两种块矩阵奇异值分解方法（经济分解和全分解），避免处理大于最大块的矩阵，适用于矩阵规模受限场景，并在文档-术语矩阵上验证。
2008-06-07 cs.IR cs.NA math.AC
On the Nuclear Norm and the Singular Value Decomposition of Tensors
求张量的秩是一个有许多应用的问题。不幸的是，通常很难确定给定张量的秩。受凸松弛理论的启发，我们考虑了核范数而不是张量的秩。我们确定各种感兴趣的张量的核范数。同时，我们还系统地研究了张量积空间中正交性的各种度量，并将奇异值分解推广到高阶张量。
2014-04-21 cs.NA math.NA math.OC
Tutorial: Complexity analysis of Singular Value Decomposition and its variants
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；University of Chinese Academy of Sciences（中国科学院大学）
比较了常规的奇异值分解、截断奇异值分解、Krylov方法和随机PCA方法的时间和空间复杂度。众所周知，Krylov方法和随机PCA仅在k << n时表现良好，即所需的特征对的数量远远小于矩阵大小。我们比较了它们来计算所有的特征对。讨论了主成分分析与奇异值分解的关系。
2019-10-14 cs.LG cs.NA math.NA
A Comparative Analysis of Principal Component Analysis (PCA) and Singular Value Decomposition (SVD) as Dimensionality Reduction Techniques
Wingate University（威根大学）
本文从第一性原理推导并纯分析性地比较了主成分分析（PCA）与奇异值分解（SVD）两种降维技术的可解释性、数值稳定性及对不同矩阵形状的适用性，为算法选择提供了无需经验基准的经验法则。
2025-06-25 cs.CV cs.NA math.NA
High Order Singular Value Decomposition for Plant Biodiversity Estimation
提出了一种利用张量高阶奇异值分解（HOSVD）估计R {é} nyi和Rao指数的植物多样性的新方法。从NASA多光谱图像开始，我们评估生物多样性，并将原始生物多样性估计与通过HOSVD压缩方法实现的大数据进行比较。事实证明，我们的策略在存储内存和结果精度方面非常强大。所得到的结果是如此有希望，我们可以支持我们的方法在生态框架的效率。
2019-11-29 cs.NA eess.SP math.NA
Randomized algorithms for distributed computation of principal component analysis and singular value decomposition
本文提出面向高长方矩阵 PCA/SVD 及任意矩阵低秩近似的分布式随机算法，并在 Spark 上证明其优于现成确定性实现且左奇异向量接近机器精度正交归一。
2018-01-01 cs.DC cs.NA math.NA
Derivative of the truncated singular value and eigen decomposition
Dahlem Center for Complex Quantum Systems and Institut für Theoretische Physik, Freie Universität Berlin（达勒姆复杂量子系统中心和理论物理研究所，柏林自由大学）
针对机器学习与计算物理中自动微分对线性代数梯度计算的需求，本技术说明梳理已有研究，给出了无需完整分解信息、基于截断部分推导截断奇异值与特征值分解导数的方法。
2025-11-18 cs.LG cs.NA math.NA
Differentiable Singular Value Decomposition
针对一般复矩阵SVD导数计算在精度与可扩展性上的局限，本文提出两种基于伴随方法和反向自动微分的高效求导算法，经验证精度达5至7位有效数字，并在大型湍流数据集POD中展示了良好的可扩展性。
2025-05-28 cs.NA math.CV math.FA
