A randomized singular value decomposition for third-order oriented tensors
由Zeng和Ng提出的定向奇异值分解（O-SVD）提供了一种基于t积的三阶张量奇异值分解的混合方法，其变换矩阵是高阶奇异值分解的因子矩阵。继续沿着这条思路，本文探讨了实现O-SVD更有效的张量列秩-1分解，并给出了截断O-SVD。受概率算法成功的启发，我们开发了一个随机版本的O-SVD，并提出了详细的误差分析。与现有的张量分解算法相比，新算法在保持良好精度的同时，在效率上具有优势。我们的主张是支持从实际应用中的几个定向张量的数值实验。
2023-02-27 cs.NA math.NA
A note on the singular value decomposition of (skew-)involutory and (skew-)coninvolutory matrices
$n \times n$对合矩阵$A$的奇异值$σ>1$成对出现$(σ, \frac{1}σ),$，而奇异值$σ= 1$可以成对出现$(1,1)$或单独出现。奇异值对的左、右奇异向量是紧密相连的。这个环节是用来重新制定的奇异值分解（SVD）的对合矩阵的特征分解。这显示了对合矩阵的奇异值与其特征值之间的一种有趣关系。对于（斜）卷积矩阵的奇异值分解、奇异值和共特征值也有类似的结果.
2019-07-28 cs.NA math.NA
Singular value soft-thresholding via the polar decomposition
University of Colorado Boulder（科罗拉多大学波得尔分校）
研究奇异值软阈值处理，核心方法是通过极分解计算，相比标准奇异值分解方法，在GPU上有显著加速，不过因符号函数不连续，该方法可能仅适用于低精度应用。
2026-07-27 cs.LG cs.NA math.NA
A note on the singular value decomposition of idempotent and involutory matrices
该研究明确了幂等矩阵不同取值奇异值的精确数量，推导了能揭示其左右奇异向量紧密联系的奇异值分解形式，并将相关思路用于补充对合矩阵奇异值的已有研究结果。
2024-03-08 cs.NA math.NA
A Fast Implementation of Singular Value Thresholding Algorithm using Recycling Rank Revealing Randomized Singular Value Decomposition
Tsinghua University（清华大学）；Old Dominion University（老道明大学）
本文提出一种快速实现奇异值阈值算法的方法，通过回收秩揭示随机奇异值分解算法降低计算成本，用于矩阵补全问题，包括图像恢复和电影推荐系统。
2017-04-14 cs.NA math.NA
On the Nuclear Norm and the Singular Value Decomposition of Tensors
求张量的秩是一个有许多应用的问题。不幸的是，通常很难确定给定张量的秩。受凸松弛理论的启发，我们考虑了核范数而不是张量的秩。我们确定各种感兴趣的张量的核范数。同时，我们还系统地研究了张量积空间中正交性的各种度量，并将奇异值分解推广到高阶张量。
2014-04-21 cs.NA math.NA math.OC
Decomposition and conformal mapping techniques for the quadrature of nearly singular integrals
Gauss-Legendre积分和梯形法则是解析函数的数值积分的有力工具。然而，对于几乎奇异的问题，这些标准方法变得令人无法接受的慢。我们讨论和推广了一些现有的方法，以改善这些计划的位置附近的奇异性是已知的。最后，我们的应用程序的粘性流的一些近奇异曲面积分。
2022-10-18 cs.NA math.NA
Very Large-Scale Singular Value Decomposition Using Tensor Train Networks
我们提出了新的算法奇异值分解（SVD）的非常大规模的矩阵的基础上的低秩张量近似技术称为张量训练（TT）格式。该算法可以计算出TT格式的大规模结构矩阵的几个主要奇异值和相应的奇异向量。假设矩阵和奇异向量都允许低秩TT分解，所提出的方法的计算复杂性与矩阵大小成几何比例。所提出的方法，这被称为交替最小二乘SVD（ALS-SVD）和改进的交替最小二乘SVD（MALS-SVD），通过块TT分解近似计算左，右奇异向量。超大规模优化问题被简化为连续的小规模最优化问题，并且块TT分解的每个核张量可以通过应用任何标准最优化方法来更新。在迭代过程中自适应地确定块TT分解的最优秩，从而获得较高的逼近精度。对几类TT结构矩阵如Hilbert矩阵、Toeplitz矩阵、具有指定奇异值的随机矩阵和三对角矩阵进行了广泛的数值模拟。仿真结果表明，所提出的方法相比，标准的SVD算法和基于TT的对称特征值分解算法的有效性。
2014-12-13 cs.NA math.NA
Perturbation expansions and error bounds for the truncated singular value decomposition
截断奇异值分解是奇异值分解的简化版本，其中仅保留少数最大的奇异值。提出了一种新的实矩阵截断奇异值分解的扰动分析方法。首先，我们描述的奇异值截断阶$r$的扰动展开。我们推广了奇异子空间分解的扰动结果，导出了截断算子关于秩大于或等于$r$的矩阵的一阶扰动展开式。当矩阵具有精确秩$r$时，一阶展开可以大大简化，进一步证明了奇异值截断允许关于秩- $r$矩阵的简单二阶扰动展开.其次，我们引入了扰动秩- $r$矩阵的截断奇异值分解的线性逼近的第一已知误差界。我们的界只依赖于未扰动矩阵的最小奇异值和扰动矩阵的范数。有趣的是，虽然奇异子空间是非常敏感的加性噪声，新建立的误差界普遍适用于任意大小的扰动。最后，我们展示了应用我们的结果与TSVD为基础的矩阵去噪解决方案的均方误差的分析。
2021-05-30 cs.NA math.NA math.ST
Regularized Linear Inversion with Randomized Singular Value Decomposition
在这项工作中，我们开发了基于随机奇异值分解（RSVD）的线性反问题的有效求解器。这是通过将RSVD与经典正则化方法相结合来实现的，例如，截断奇异值分解、Tikhonov正则化和带有平滑惩罚的一般Tikhonov正则化。所提出的方法的一个显著特点是，它显式地保留了正则化解的结构，在这个意义上，它总是位于某个伴随算子的范围内。在正则源条件下，给出了近似解与精确解之间的误差估计，并从凸对偶的角度解释了这种方法。大量的数值实验证明了该方法的有效性和准确性。
2019-09-04 cs.NA math.NA
Singular Value Decomposition and Neural Networks
University of St.Gallen（圣加仑大学）；University Passau（帕绍大学）
奇异值分解（SVD）是线性代数概念和多层神经网络之间的桥梁，是它们的线性类比。除了这种洞察力之外，它还可以用作网络参数的良好初始猜测，从而获得更好的优化结果。
2019-06-27 cs.LG cs.NA math.NA
Gappy probabilistic manifold decomposition for nonlinear field reconstruction
Tongji University（同济大学）
本文提出Gappy PMD方法，结合可微点选择方法DPS优化采样点，在圆柱绕流等三个测试案例中，其平均相对L²误差比Gappy POD低一到两个数量级，提升了稀疏测量下的高维场重建精度。
2026-09-01 cs.NA math.NA
Making matrices better: Geometry and topology of polar and singular value decomposition
从几何与拓扑角度研究固定尺寸矩阵空间，探讨不同秩家族及其关联，分析矩阵的最近正交邻近和最近奇异邻近，以及极值和奇异值分解及其应用。
2017-02-07 cs.NA math.NA math.RA
A note on the hyperbolic singular value decomposition without hyperexchange matrices
本文给出了一种新的双曲型奇异值分解（HSVD）公式，它适用于任意复（或实）矩阵，且不含超交换矩阵和冗余不变参数。在我们的公式中，我们只使用伪酉（或伪正交）矩阵的概念。我们表明，计算HSVD在一般情况下减少到计算的特征值，特征向量和广义特征向量的一些辅助矩阵。新配方更自然，对某些应用程序更有用。它自然包括普通的奇异值分解。
2020-05-03 cs.NA math-ph math.MP
A tensor bidiagonalization method for higher-order singular value decomposition with applications
在数据压缩和提取中，需要知道与三阶张量的最大奇异值相关联的几个奇异三元组。本文介绍了一种新的方法，他们的计算使用的t-产品。还提出了确定与最小奇异值相关的一对奇异三元组的方法。所提出的方法推广了现有的重新启动的Lanczos双对角化方法，用于计算矩阵的最大或最小奇异三元组。本文的方法使用里兹和谐波里兹横向切片，以确定准确的近似的最大和最小的奇异三元组，分别。计算实例显示了数据压缩和人脸识别的应用。
2023-01-08 cs.NA math.NA
Differentiable SVD based on Moore-Penrose Pseudoinverse for Inverse Imaging Problems
School of Electronics and Information Engineering, Harbin Institute of Technology（哈尔滨工业大学电子与信息工程学院）
本文针对深度展开网络中SVD因重复奇异值不可微导致的训练不稳定问题，提出基于Moore-Penrose伪逆的可微SVD，并通过理论分析和压缩感知与动态MRI实验验证其有效性与精度。
2024-11-21 cs.AI cs.CV cs.NA
Adomian decomposition method for solving derivative-dependent doubly singular boundary value problems
Birla Institute of Technology Mesra（比尔拉理工学院梅斯腊分校）
本文提出一种改进的Adomian分解法，用于求解非线性导数依赖的双奇异边值问题，通过双重积分算子和级数展开方法，验证了该方法的有效性。
2017-11-22 cs.NA math.NA
Updating Singular Value Decomposition for Rank One Matrix Perturbation
School of Engineering \& Applied Science, Ahmedabad University, Ahmedabad-380009, India
本文提出一种高效算法，用于在O(n² log(1/ε))时间内更新秩一扰动矩阵的奇异值分解，利用快速多极子方法在O(n log(1/ε))时间内更新奇异向量。
2017-07-26 cs.LG cs.NA math.NA
Quaternion Singular Value Decomposition based on Bidiagonalization to a Real Matrix using Quaternion Householder Transformations
本文提出一种实用高效的四元数矩阵奇异值分解方法，通过四元数Householder变换将四元数矩阵双对角化为实双对角矩阵，再利用LAPACK等库计算实矩阵的SVD，从而得到原四元数矩阵的奇异值和奇异向量。
2006-03-10 cs.NA math.NA
A Power Method for Computing Singular Value Decomposition
本文提出一种基于神经网络编码器的幂方法，用于高效计算实值矩阵的SVD子空间，通过优化器设置和奇异值行为影响精度。
2025-12-07 cs.NA math.NA
An Algorigtm for Singular Value Decomposition of Matrices in Blocks
提出两种块矩阵奇异值分解方法（经济分解和全分解），避免处理大于最大块的矩阵，适用于矩阵规模受限场景，并在文档-术语矩阵上验证。
2008-06-07 cs.IR cs.NA math.AC
An Efficient Randomized Fixed-Precision Algorithm for Tensor Singular Value Decomposition
针对随机张量奇异值分解需预先估计管秩的问题，提出基于随机投影与幂迭代的固定精度算法，可自动确定最优管秩并在合成及真实数据集上验证其效率与性能。
2024-04-08 cs.NA math.NA
Singular Value Decomposition Approximation via Kronecker Summations for Imaging Applications
Emory University（埃默里大学）
本文提出通过将矩阵分解为克罗内克积之和来近似大型结构矩阵的截断奇异值分解，更高效地计算奇异值和向量，用于求解大规模病态逆问题。
2018-04-02 cs.NA math.NA
Randomized Algorithms for Generalized Singular Value Decomposition with Application to Sensitivity Analysis
广义奇异值分解（GSVD）是计算科学中一种有价值的工具，有着广泛的应用。然而，计算大规模问题的GSVD是具有挑战性的。受超微分灵敏度分析（HDSA）应用的启发，本文提出了一种新的基于随机子空间迭代和加权QR分解的GSVD随机算法。详细的误差分析提供了洞察算法的精度和算法参数的选择。我们证明了我们的算法的性能测试矩阵和一个大规模的模型问题，HDSA是用来研究地下水流。
2020-02-07 cs.NA math.NA
Singular value decomposition of the wave forward operator with radial variable coefficients
光声层析成像（PAT）是一种新型的和有前途的混合医学成像技术，涉及通过激发电磁能量在感兴趣的对象中产生声波。声波是在物体外部测量的。PAT中的关键数学问题之一是重建包含来自声换能器表面上的波动方程的解的诊断信息的初始函数。在这里，我们提出了一个波向前运营商，指定一个初始函数，以获得单位球上的波动方程的解决方案。在超声径向变速的假设下，通过确定由特征函数组成的希尔伯特空间的规范正交基，得到了这种波向前算子的奇异值分解。利用连续Galerkin方法的数值模拟结果验证了奇异值分解反演的有效性。
2022-08-23 cs.NA math.NA
A Randomized Tensor Train Singular Value Decomposition
本文提出并分析了一种基于张量展开格式的随机算法，用于计算张量展开格式下的层次奇异值分解，改进了高维数据的低秩近似方法。
2017-10-23 cs.NA math.NA
Tutorial: Complexity analysis of Singular Value Decomposition and its variants
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；University of Chinese Academy of Sciences（中国科学院大学）
比较了常规的奇异值分解、截断奇异值分解、Krylov方法和随机PCA方法的时间和空间复杂度。众所周知，Krylov方法和随机PCA仅在k << n时表现良好，即所需的特征对的数量远远小于矩阵大小。我们比较了它们来计算所有的特征对。讨论了主成分分析与奇异值分解的关系。
2019-10-14 cs.LG cs.NA math.NA
Quaternion tensor singular value decomposition using a flexible transform-based approach
针对$L$阶（$L\geq 3$）四元数张量，提出了一种基于柔性变换的张量积，称为$\star_{\rm{QT}}$ -积.基于$\star_{\rm{QT}}$ -积，我们定义了$L$阶（$L\geq 3$）四元数张量的相应的奇异值分解TQt-SVD和秩TQt-rank.此外，通过正交四元数变换，TQt-SVD可以提供任何$L$第（$L\geq 3$）四元数张量的最佳TQt-rank- $s$近似。在实验中，我们已经验证了所提出的TQt-SVD的最佳TQt-rank- $s$近似的三阶四元数张量表示的彩色视频中的应用的有效性。
2021-12-16 cs.NA math.NA
High Order Singular Value Decomposition for Plant Biodiversity Estimation
提出了一种利用张量高阶奇异值分解（HOSVD）估计R {é} nyi和Rao指数的植物多样性的新方法。从NASA多光谱图像开始，我们评估生物多样性，并将原始生物多样性估计与通过HOSVD压缩方法实现的大数据进行比较。事实证明，我们的策略在存储内存和结果精度方面非常强大。所得到的结果是如此有希望，我们可以支持我们的方法在生态框架的效率。
2019-11-29 cs.NA eess.SP math.NA
Randomized algorithms for distributed computation of principal component analysis and singular value decomposition
本文提出面向高长方矩阵 PCA/SVD 及任意矩阵低秩近似的分布式随机算法，并在 Spark 上证明其优于现成确定性实现且左奇异向量接近机器精度正交归一。
2018-01-01 cs.DC cs.NA math.NA
Singular Value and Frame Decomposition-based Reconstruction for Atmospheric Tomography
本文将大气层析算子的奇异值分解推广到加权Sobolev设置，推导基于框架的近似解算子，并在超大望远镜自适应光学系统中通过MOST模拟验证了所提数值方法的有效性。
2024-07-09 cs.NA math.NA
Two harmonic Jacobi--Davidson methods for computing a partial generalized singular value decomposition of a large matrix pair
针对大型正则矩阵对的部分广义奇异值分解（GSVD）问题，提出了两种基于谐波提取的Jacobi-Davidson（JD）型算法.它们被称为无向量积（CPF）和无逆（IF）谐波JDGSVD算法，分别简称为CPF-HJDGSVD和IF-HJDGSVD。与基于标准提取的JDGSVD算法相比，基于谐波提取的算法收敛更有规律，更适合于计算内部广义奇异值对应的GSVD分量。提出了一种基于压缩和净化技术的厚重启动CPF-HJDGSVD和IF-HJDGSVD算法，用于计算多个GSVD分量。数值实验证实了CPF-HJDGSVD和IF-HJDGSVD算法优于基于标准抽取的JDGSVD算法。
2022-01-09 cs.NA math.NA
Streaming GPU Singular Value and Dynamic Mode Decompositions
本文提出了一种在图形处理器上并行计算动态模式分解（DMD）的算法，该算法采用快照流方法进行奇异值分解。这使得算法能够在新数据可用时通过避免冗余内积来有效地对流数据进行操作。此外，可以利用许多数据流（例如，在傅立叶域中稀疏表示的HD视频和计算物理代码）的原生压缩格式，以大量减少从CPU到GPU的数据传输，并实现稀疏矩阵乘法。两者合计，这些算法有利于实时流DMD的高维数据流。我们证明了所提出的方法在众多的高维数据集，从视频背景建模到科学计算应用，DMD正在成为一个支柱算法。计算框架被开发为用C++与CUDA编写的开源库，并且算法可以被推广到包括其他DMD进展，例如压缩感测DMD、多分辨率DMD或具有控制的DMD。保留字：奇异值分解，动态模式分解，流式计算，图形处理单元，视频背景建模，科学计算。
2016-12-23 cs.NA math.NA
Randomized Quaternion Singular Value Decomposition for Low-Rank Approximation
针对彩色人脸识别、视频压缩和信号处理中的低秩矩阵逼近问题，提出了一种随机四元数奇异值分解（QSVD）算法。该算法利用四元数正态分布的随机抽样方法，将高维数据投影到低维子空间中，然后识别出四元数矩阵的近似值域子空间。提出了四元数Wishart分布的关键统计性质，并利用其对算法进行了近似误差分析。理论结果表明，随机QSVD算法可以跟踪四元数矩阵的优势奇异值分解三元组，并具有可接受的精度。数值实验也表明了所提出理论的合理性。将随机QSVD算法应用于彩色人脸识别问题，与基于Lanczos的部分QSVD算法和四元数快速频繁方向算法相比，该算法具有更高的识别精度和更好的效率。
2021-12-26 cs.NA math.NA
Derivative of the truncated singular value and eigen decomposition
Dahlem Center for Complex Quantum Systems and Institut für Theoretische Physik, Freie Universität Berlin（达勒姆复杂量子系统中心和理论物理研究所，柏林自由大学）
针对机器学习与计算物理中自动微分对线性代数梯度计算的需求，本技术说明梳理已有研究，给出了无需完整分解信息、基于截断部分推导截断奇异值与特征值分解导数的方法。
2025-11-18 cs.LG cs.NA math.NA
On choices of formulations of computing the generalized singular value decomposition of a large matrix pair
对于满列秩的大型矩阵对$(A,B)$的广义奇异值分解（GSVD）的计算，一般将GSVD表示为两个数学等价的广义本征值问题，从而可以将广义本征值求解器应用于其中一个问题，然后从计算的广义本征对中恢复所需的GSVD分量.我们关心的是，在有限精度算法中，哪种广义本征值公式在计算所需的GSVD分量时更精确。我们对这两种提法进行了详细的扰动分析，并展示了如何在它们之间做出适当的选择。数值实验验证了所得结果。
2020-01-10 cs.NA math.NA
Inverse Scale Space Decomposition
University of Cambridge（剑桥大学）
本文研究了逆尺度空间流作为分解方法，用于将数据分解为广义奇异向量。通过凸和绝对一齐次正则化泛函，证明了该方法能将数据分解为个体奇异向量，并探讨了逆尺度空间流在初始数据任意时返回广义奇异向量的条件。
2016-12-29 cs.NA math.NA
Convergence of Regularization Parameters for Solutions Using the Filtered Truncated Singular Value Decomposition
截断的奇异值分解可以用于结合Tikhonov正则化来找到线性离散不适定问题的解，并且需要估计正则化参数，该正则化参数在拟合数据函数和正则化项的大小之间进行平衡。无偏预测风险估计器是当测量中的噪声正态分布且方差已知时寻找正则化参数的一种建议方法。在本文中，我们提供了一个算法，使用无偏预测风险估计，自动发现正则化参数和使用的奇异值分解的条款的数量。该算法的基础是一个新的结果，证明了正则化参数收敛的奇异值分解的项数。对于分析，它是足够的假设，离散皮卡德条件是满足精确的数据和噪声完全污染的测量数据系数足够大的数量的条款，取决于噪声水平和不适定性的系统的程度。提供了正则化参数的下界，从而导致计算上有效的算法。支持的结果进行了比较，使用广义交叉验证的方法。二维算例的仿真验证了理论分析和算法对噪声水平增加的有效性，并表明截断奇异值分解的相对重建误差小于奇异值分解的相对重建误差。这是一篇发表在BIT数值数学上的文章的预印本。最终认证版本可在https://doi.org/10.1007%2Fs10543-019-00762-7网站上获得。
2019-06-16 cs.NA math.NA
A Comparative Analysis of Principal Component Analysis (PCA) and Singular Value Decomposition (SVD) as Dimensionality Reduction Techniques
Wingate University（威根大学）
本文从第一性原理推导并纯分析性地比较了主成分分析（PCA）与奇异值分解（SVD）两种降维技术的可解释性、数值稳定性及对不同矩阵形状的适用性，为算法选择提供了无需经验基准的经验法则。
2025-06-25 cs.CV cs.NA math.NA
