QR Decomposition of Dual Matrices and its Application to Traveling Wave Identification in the Brain
本文提出对偶矩阵的QR分解算法,用于大规模行波识别,通过本征正交分解分析fMRI数据,显著提升脑功能回路中两类波信号的识别精度,为认知神经科学提供实证支持。
2024-04-21 cs.NA math.NA
Generalized Pseudoskeleton Decompositions
我们刻画了任意域上矩阵和张量的伪骨架(也称为CUR)分解的一些变化。这些特征扩展到任意领域和分解,使用广义逆的组成矩阵,摩尔-彭罗斯pseudoinverses在以前的作品是具体的实值或复值矩阵,并显着更结构化。
2022-06-29 cs.NA math.NA
The eigenvalue decomposition of normal matrices by the skew-symmetric part
ICTEAM Institute, UCLouvain(UCLouvain ICTEAM研究所);Department of Mathematics, Florida State University(佛罗里达州立大学数学系)
本文提出通过分解斜反对称部分计算实正常矩阵特征值分解的新方法,利用已知高效算法如双对角SVD和对称特征值分解,针对具有少数实特征值的正常矩阵(如随机正交矩阵)具有优势,并分析了方法的稳定性与复杂度。
2026-03-30 cs.NA math.NA
Efficient Decomposition-Based Algorithms for $\ell_1$-Regularized Inverse Problems with Column-Orthogonal and Kronecker Product Matrices
本文针对具有Kronecker积结构的ℓ1正则化反问题,提出利用广义奇异值分解构造联合分解,并将其集成到Split Bregman和Majorization-Minimization方法中,同时证明列正交情形下可直接由系统矩阵奇异值分解导出联合分解,从而高效处理图像去模糊问题。
2024-09-02 cs.NA math.NA
Circulant decomposition of a matrix and the eigenvalues of Toeplitz type matrices
我们首先表明,任何$n \times n$矩阵可以分解成$n$循环矩阵与周期性松弛的单位圆的总和。这种分解相对于Frobenius内积是正交的,允许这些循环分量的递归迭代。它还表明,在矩阵中的几个循环分量的优势,允许稀疏的相似变换,使用快速傅立叶变换(FFT)操作。这使得稠密Toeplitz、块Toeplitz和其他周期或准周期矩阵的所有特征值的评估能够在$\mathcal{O}(n^2)$算术运算中合理地近似。近似相似变换在预处理线性求解器中的实用性也得到了证明。
2022-09-28 cs.NA math.NA
A note on the singular value decomposition of (skew-)involutory and (skew-)coninvolutory matrices
$n \times n$对合矩阵$A$的奇异值$σ>1$成对出现$(σ, \frac{1}σ),$,而奇异值$σ= 1$可以成对出现$(1,1)$或单独出现。奇异值对的左、右奇异向量是紧密相连的。这个环节是用来重新制定的奇异值分解(SVD)的对合矩阵的特征分解。这显示了对合矩阵的奇异值与其特征值之间的一种有趣关系。对于(斜)卷积矩阵的奇异值分解、奇异值和共特征值也有类似的结果.
2019-07-28 cs.NA math.NA
A Robust Algebraic Multilevel Domain Decomposition Preconditioner For Sparse Symmetric Positive Definite Matrices
区域分解(DD)方法被广泛用作预处理技术。它们的有效性依赖于局部构造的粗糙空间的选择。到目前为止,这种构造主要是使用来自离散偏微分方程(PDE)的非组装矩阵来实现的。因此,DD方法主要是成功地解决系统源于偏微分方程。本文提出了一种完全代数的多级DD方法,该方法可以在不需要除系数矩阵外的任何信息的情况下局部有效地构造粗空间。预处理矩阵的条件数可以由用户指定的数来限定。数值实验说明了预条件子对不同应用中出现的一系列问题的有效性。
2021-09-13 cs.NA math.NA
Fast QR decomposition of HODLR matrices
École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)
本文提出了一种针对HODLR矩阵的快速且稳定的QR分解算法,通过使用Householder反射器提高精度,并结合HODLR格式的高效操作和紧凑的WY表示以及Elmroth和Gustavson的递归QR分解来提高效率,实验证明该算法在处理病态矩阵时具有良好的数值稳定性。
2018-09-27 cs.NA math.NA
Accurate eigenvalue decomposition of arrowhead matrices and applications
Faculty of Electrical Engineering, Mechanical Engineering and Naval Architecture, University of Split(斯普利特大学电气、机械和造船工程学院);Department of Computer Science and Engineering, The Pennsylvania State University(宾夕法尼亚州立大学计算机科学与工程系)
提出一种新算法,以高相对精度在O(n²)操作内计算实对称箭头矩阵的所有特征值和特征向量分量,基于移位求逆方法,支持并行计算,并推广到埃尔米特箭头矩阵、实对称对角加秩一矩阵和实三角箭头矩阵的奇异值分解。
2013-04-11 cs.NA math.NA
A Hierarchical Singular Value Decomposition Algorithm for Low Rank Matrices
Indian Institute of Technology-Madras(印度马德拉斯理工学院)
本文提出了一种基于树结构的合并-截断算法,用于高效计算低秩矩阵的截断奇异值分解,该方法适用于任意大小的矩阵,且在单核运行时能显著提升速度,误差通常低于3%。
2019-05-10 cs.NA math.NA
A Higher-Order Generalized Singular Value Decomposition for Rank Deficient Matrices
高阶广义奇异值分解(HO-GSVD)是一种将GSVD扩展到$N \ge 2$数据矩阵的矩阵分解技术,可用于识别具有不同行维数的多个大规模数据集中的共享子空间。标准HO-GSVD将$N$矩阵$A_i\in\mathbb{R}^{m_i\times n}$因子化为$A_i=U_iΣ_i V^\text{T}$,但要求每个矩阵$A_i$具有全列秩。我们提出了一个修改的HO-GSVD扩展其适用性秩亏数据矩阵$A_i$。如果堆叠$A_i$的矩阵有满秩,我们表明,原来的HO-GSVD的性质扩展到我们的方法。我们将公共子空间的概念扩展到孤立子空间,它识别一个$A_i$所特有的特征。我们还将我们的结果推广到高阶余弦-正弦分解(HO-CSD),这是密切相关的HO-GSVD。我们的标准HO-GSVD的扩展允许其应用程序的数据集与$m_i<n$或$\text{rank}(A_i)<n$,如遇到生物信息学,神经科学,控制理论或分类问题。
2022-06-20 cs.NA math.NA
Factorization of Binary Matrices: Rank Relations, Uniqueness and Model Selection of Boolean Decomposition
二元矩阵的应用很多.通过低秩分解将矩阵表示为一小部分潜在向量的混合,通常被视为解释和分析数据的有利方法。在这项工作中,我们研究使用标准的算术(实和非负)和逻辑运算(布尔和$\mathbb{Z}_2$)的二进制矩阵的因式分解。我们研究了不同秩之间的关系,并讨论了因子分解是唯一的。特别是,我们的特点时,布尔因式分解$X = W \land H$有一个独特的$W$,一个独特的$H$(对于一个固定的$W$),当$W$和$H$是唯一的,给定的秩约束。我们介绍了一种强大的布尔模型选择方法,称为BMF $k$,并显示数值例子,BMF $k$不仅准确地确定了正确的布尔潜在特征的数量,但重建的预定因素准确。
2021-11-01 cs.NA math.NA
Efficient Reduction of Compressed Unitary plus Low-rank Matrices to Hessenberg form
我们提出了一种快速的数值方法来计算一个酉加低秩矩阵$A=G+U V^H$的Hessenberg约化,其中$G\in \mathbb C^{n\times n}$是一个酉矩阵表示在某种压缩格式使用$O(nk)$参数和$U$和$V$是$n\times k$矩阵与$k< n$。这些方法的核心是作为大小为$n$的三个可能扰动的酉$k$ Hessenberg矩阵的乘积的$A$的某种结构化分解,称为LFR分解。它表明,在最有趣的情况下,初始LFR分解的$A$可以计算非常便宜。然后我们证明了LFR分解的结构性质,给出了$A$的LFR分解蕴涵其Hessenberg形的条件。最后,我们描述了一个鼓包追逐计划转换的初始LFR分解的$A$到LFR分解的Hessenberg矩阵通过酉变换。可以以使用$O(nk)$存储的$O(n^2 k)$算术运算的总计算成本来执行该减少。计算得到的$A$的Hessenberg约化的LFR分解可以用[8]中提出的快速QR算法进行处理,以便在相同的代价下计算$A$的特征值。
2019-08-29 cs.NA math.NA
Low-rank approximation of parameter-dependent matrices via CUR decomposition
Mathematical Institute, University of Oxford(牛津大学数学研究所)
本文提出AdaCUR算法,通过CUR分解高效计算参数依赖矩阵的低秩近似,同时提供误差控制和竞争力复杂度。
2025-02-26 cs.NA math.NA
Effective Methods of QR-Decompositions of Square Complex Matrices by Fast Discrete Signal-Induced Heap Transforms
本文提出利用快速离散信号诱导堆变换 DsiHT 构造复方矩阵的多种 QR 分解,包括 T/G/M 型、解析型与混合型,并通过多规模实验对比 Householder 方法且提供 MATLAB 实现。
2023-12-11 cs.NA math.NA
Phase Factors in Singular Value Decomposition and Schmidt Decomposition
在复矩阵A的奇异值分解(SVD)中,奇异向量或特征向量Af和Af A对于复相位因子是唯一的。因此,SVD中的两个酉矩阵直到相位因子的对角矩阵(相位因子矩阵)是唯一的。此外,这两个相位因子矩阵的积,或具有相同奇异值的相应奇异向量的相位因子的积,是唯一的。在施密特分解中,相位因子矩阵是单独作用于子系统的相位旋转算子。我们在这里总结了三个简单的步骤,以一致地执行SVD和施密特分解,包括相位因子。
2022-03-23 cs.NA math.NA quant-ph
An Algorigtm for Singular Value Decomposition of Matrices in Blocks
提出两种块矩阵奇异值分解方法(经济分解和全分解),避免处理大于最大块的矩阵,适用于矩阵规模受限场景,并在文档-术语矩阵上验证。
2008-06-07 cs.IR cs.NA math.AC
A note on the hyperbolic singular value decomposition without hyperexchange matrices
本文给出了一种新的双曲型奇异值分解(HSVD)公式,它适用于任意复(或实)矩阵,且不含超交换矩阵和冗余不变参数。在我们的公式中,我们只使用伪酉(或伪正交)矩阵的概念。我们表明,计算HSVD在一般情况下减少到计算的特征值,特征向量和广义特征向量的一些辅助矩阵。新配方更自然,对某些应用程序更有用。它自然包括普通的奇异值分解。
2020-05-03 cs.NA math-ph math.MP
Randomized LU Decomposition
我们提出了一个快速的随机算法,计算低秩LU分解。我们的算法使用随机投影类型的技术,有效地计算大型矩阵的低秩近似。随机LU算法可以并行化,并通过在其投影步骤中使用稀疏随机矩阵来进一步加速。几个不同的误差界证明了算法的近似。为了证明这些界限,最近的结果从随机矩阵理论有关的次高斯矩阵。作为一个应用程序,我们还展示了如何利用该算法来解决问题,如秩亏最小二乘问题。数值例子,说明了算法的性能,并将其与其他分解方法进行比较。
2016-01-30 cs.NA math.NA
Making matrices better: Geometry and topology of polar and singular value decomposition
从几何与拓扑角度研究固定尺寸矩阵空间,探讨不同秩家族及其关联,分析矩阵的最近正交邻近和最近奇异邻近,以及极值和奇异值分解及其应用。
2017-02-07 cs.NA math.NA math.RA
Solving an Integral Equation Eigenvalue Problem via a New Domain Decomposition Method and Hierarchical Matrices
Institut für Geometrie und Praktische Mathematik, RWTH Aachen University(几何学与实用数学研究所,亚琛工业大学)
本文提出一种新的域分解方法,结合递归方法和分层矩阵,用于求解积分方程本征值问题,解决传统方法在处理密集矩阵时的效率问题。
2017-12-28 cs.NA math.NA
Generalized singular value decompositions of dual quaternion matrices and beyond
本文基于对偶四元数矩阵SVD,根据矩阵维数提出了多种广义奇异值分解方法,包括商型、典型相关和乘积型分解,并研究了相关的QR与CS分解,拓展了数值线性代数工具。
2025-11-04 cs.NA math.NA
Schur decomposition of several matrices
与周期本征值问题相关的单个矩阵、一对矩阵或矩阵集合的Schur分解和相应的Schur形式经常被使用和研究。这些形式是上三角复矩阵或准上三角实矩阵,它们分别通过酉变换或正交变换等价于原始矩阵。一般来说,为了理论和数值的目的,我们经常需要通过容许变换将矩阵集合约简为Schur形式。不幸的是,这种减少并不总是可能的。在本文中,我们描述了所有的复杂的(实)矩阵,可以减少到舒尔形式的相应的酉(正交)变换,并解释如何减少可以做到这一点。我们证明了这个类由与伪森林图相关的矩阵的集合组成。换句话说,我们描述了矩阵集合的Schur形式何时存在以及如何找到它。
2023-02-01 cs.NA math.CO math.NA
Regularized Computation of Approximate Pseudoinverse of Large Matrices Using Low-Rank Tensor Train Decompositions
提出了一种利用张量网络对大规模矩阵的Moore-Penrose伪逆进行低秩逼近的新方法。计算的伪逆可用于求解或预处理大型超定或欠定组线性方程组。该算法基于改进的交替最小二乘(MALS)格式,采用低秩张量训练(TT)分解和张量网络收缩,计算效率高,稳定性好.制定的大规模最优化问题减少到顺序较小规模的问题,任何标准和稳定的算法可以应用。正则化技术,以减轻不适定性,并获得强大的低秩近似。数值模拟的结果表明,一类非方或非对称矩阵的正则化伪逆都具有良好的低秩近似TT表示。此外,我们证明了所提出的方法的计算成本仅是对数的矩阵大小给定的TT-秩的数据矩阵及其近似伪逆是有界的。算例表明,利用该方法计算的预条件子可以有效地求解强非对称对流-扩散问题。
2015-12-22 cs.NA math.NA
Symbolic spectral decomposition of 3x3 matrices
矩阵的谱分解是应用数学、物理学和工程学中经常出现的重要课题。许多应用问题需要考虑具有实数上的谱分解的三阶矩阵。如果必须保持谱分解对矩阵元素的函数相关,则必须考虑封闭形式的解方法。现有的封闭形式的表达式是基于主矩阵不变量的使用,遭受了一些缺陷时,在有限精度算术的框架进行评估。本文介绍了另一种形式的计算所涉及的矩阵不变量(特别是判别式)的乘积表达式的总和作为矩阵元素的函数。我们证明和数值例子表明,这种替代方法导致增加浮点精度,特别是在所有重要的极限情况下(如特征值多重性)。据信,符号算法与本文提出的精度改进相结合,可以作为许多工程任务的一个强大的积木。
2021-11-03 cs.MS cs.NA math.NA
A sparse decomposition of low rank symmetric positive semi-definite matrices
Caltech(加州理工学院);UW-Madison(威斯康星大学麦迪逊分校)
本文提出一种稀疏模式分解方法,用于分解低秩对称半正定矩阵,通过局部模式构造与拼接流程,实现稀疏性度量并证明方法的最优性与鲁棒性。
2016-12-05 cs.NA math.NA
A random algorithm for low-rank decomposition of large-scale matrices with missing entries
Sichuan University(四川大学)
本文提出随机子矩阵方法(RSM)用于大规模矩阵低秩分解,该方法在速度和内存使用上优于现有算法,并在精度上达到或接近最优。
2014-11-04 cs.CV cs.NA math.NA
Jordan algebras, hemiplex numbers, and the Cholesky decomposition of arbitrary symmetric matrices
Massachusetts Institute of Technology(麻省理工学院);Washington University School of Medicine(华盛顿大学医学院)
研究任意对称矩阵Cholesky分解,通过类比正定矩阵与特定二次方程,利用半复数这种非结合代数实现分解,无需pivoting保持带状结构,对奇异矩阵可生成零空间参数化,为求解对称线性方程增添实用工具。
2026-07-24 cs.NA math.NA math.RA
Decomposition of arrow type positive semidefinite matrices with application to topology optimization
Kojima等人最近使用了弦稀疏图矩阵的大型矩阵不等式分解。\cite{kim2011exploiting}用于减小大规模半定优化(SDO)问题的问题大小,从而提高标准SDO软件的效率。这种分解的副产品是引入新的密集小尺寸矩阵变量。我们将证明,对于满足适当假设的箭型矩阵,附加的矩阵变量具有秩1,因此可以用相同维数的向量变量代替。这导致了标准SDO软件效率的显著提高。我们将把这种思想应用到拓扑优化问题中,将其表述为一个大规模线性半定最优化问题。数值算例表明,与原大规模问题相比,分解问题的求解速度有了很大的提高。在我们的数值例子中,分解的问题表现出线性增长的复杂性相比,超过立方增长的原始问题制定。我们还将给出一个连接我们的方法的标准理论的区域分解,并表明,额外的向量变量的结果,相应的离散Steklov-Poincaré运营商。
2019-11-21 cs.NA math.NA math.OC
Accelerated decomposition of bistochastic kernel matrices by low rank approximation
Dartmouth College(达特茅斯学院)
本文提出一种加速算法,用于对对称归一化核矩阵进行近似特征值分解,采用 pivoted partial Cholesky 算法构建低秩近似,减少 full kernel matrix 的计算成本,并推导了两类归一化核矩阵的迹范数误差界。
2026-10-15 cs.NA math.NA physics.comp-ph
A Unique Inverse Decomposition of Positive Definite Matrices under Linear Constraints
The Hebrew University(希伯来大学)
本文提出了一种正定矩阵在给定线性子空间约束下的唯一逆分解方法,并通过变分分析和牛顿型算法实现了该分解的稳定性与高效计算。
2026-08-07 cs.NA math.NA math.OC
QR and LQ Decomposition Matrix Backpropagation Algorithms for Square, Wide, and Deep -- Real or Complex -- Matrices and Their Software Implementation
AI SpaceTime(AI时空);Amazon(亚马逊)
本文提出了矩阵$A_{m, n}$的QR分解的矩阵反向传播算法,这些矩阵可以是正方形(m = n)、宽(m < n)或深(m > n)的,秩为$k = min(m, n)$。此外,我们得到新的矩阵反向传播结果的枢轴(满秩)QR分解和深输入矩阵的LQ分解。可微QR分解提供了一种数值稳定,计算效率高的方法来解决机器学习和计算机视觉中经常遇到的最小二乘问题。其他用例,如图学习和网络压缩,在文章中列出。流行的深度学习框架(PyTorch,TensorFlow,MXNet)的软件实现包含了深度学习社区中通用的方法。此外,这篇文章帮助从业者理解矩阵反向传播方法作为更大的计算图的一部分。
2020-12-11 cs.LG cs.MS cs.NA
Structured low rank decomposition of multivariate Hankel matrices
UCA, Inria, Aromath(法国南方高等研究院,Inria,Aromath);Laboratory of mathematics and its applications LaMa-Lebanon, Lebanese University(黎巴嫩大学,数学及其应用实验室LaMa-Lebanon)
本文研究了多变量Hankel矩阵H_σ作为小秩Hankel矩阵之和的分解,基于其符号σ作为多项式-指数级数之和的分解,提出新算法计算Hankel算子的低秩分解及其符号分解,利用关联的Artinian Gorenstein商代数A_σ的性质。
2017-01-19 cs.NA math.AG math.NA
CUR Decompositions, Similarity Matrices, and Subspace Clustering
本文提出了一种利用CUR分解解决子空间聚类问题的通用框架,通过构造相似矩阵实现无噪声情况下的精确聚类,并展示了如何通过CUR分解生成多种相似矩阵以处理噪声数据,同时推导出两种已知的子空间聚类方法。
2018-12-11 cs.CV cs.LG cs.NA
Numerical tolerance for spectral decompositions of random matrices
我们精确地量化的质量的数值逼近随机矩阵特征分解的统计误差的影响,并在温和的条件下,我们用它来引入一个最佳的数值公差的残余误差的谱分解的随机矩阵。我们表明,终止的特征分解算法时,数值误差和统计误差是相同的顺序的结果在计算上的节省没有损失的准确性。我们还修复了一个无处不在的终止条件,在几个计算线性代数实现广泛使用的缺陷。我们说明了我们的停止标准与模拟和真实网络的分析的实际后果。我们的理论结果和实际数据的例子表明,统计和数值误差之间的权衡对于数据科学来说是非常重要的。
2020-01-31 cs.NA math.NA stat.CO
On joint eigen-decomposition of matrices
针对工程与信号处理中的矩阵近似联合对角化优化问题,本文开展代价泛函理论研究,证明其在秩亏矩阵邻域以概率1趋于无穷大以验证问题适定性,给出高阶导数、梯度及海森矩阵的表达式,为改进数值求解方案提供支撑,并讨论自伴矩阵情形。
2024-09-16 cs.NA math.NA math.OC
RSVDPACK: An implementation of randomized algorithms for computing the singular value, interpolative, and CUR decompositions of matrices on multi-core and GPU architectures
RSVDPACK库通过高效随机算法实现矩阵低秩近似,支持SVD、ID和CUR分解,提升数据解释效率并降低内存需求。
2016-08-29 cs.MS cs.NA math.NA
LU decomposition and Toeplitz decomposition of a neural network
University of Chicago(芝加哥大学)
众所周知,任何矩阵$A$都有LU分解。不太为人所知的是它有一个“Toeplitz分解”$A = T_1 T_2 \cdots T_r$,其中$T_i$是Toeplitz矩阵。我们将证明,任何连续函数$f : \mathbb{R}^n \to \mathbb{R}^m$都具有采用$L_1 σ_1 U_1 σ_2 L_2 σ_3 U_2 \cdots L_r σ_{2r-1} U_r$形式的神经网络的任意精度的近似,即,其中权重矩阵在下三角矩阵和上三角矩阵之间交替,对于某个偏置向量$b_i$,为$σ_i(x) := σ(x - b_i)$,并且激活$σ$可以被选择为基本上任何一致连续的非多项式函数。同样的结果也适用于Toeplitz矩阵,即,$f \approx T_1 σ_1 T_2 σ_2 \cdots σ_{r-1} T_r$到任意精度,并且对于Hankel矩阵也是如此。我们的Toeplitz结果的一个结果是卷积神经网络的固定宽度通用近似定理,到目前为止,卷积神经网络只有任意宽度的版本。由于我们的结果特别适用于$f$是一般神经网络的情况,我们可以把它们看作是神经网络的LU和Toeplitz分解。我们的研究结果的实际意义是,可以大大减少神经网络中的权重参数的数量,而不牺牲其通用逼近的能力。我们将在真实数据集上进行几个实验,以表明在权重矩阵上施加这种结构会大幅减少训练参数的数量,而对…
2022-11-25 cs.LG cs.NA math.NA
Rigorous Perturbation Bounds for the QX Decomposition for Centrosymmetric Matrices
本文针对中心对称矩阵的 QX 分解,利用矩阵方程方法、Lyapunov 主函数和 Banach 不动点定理,推导了范数型和分量型扰动下的严格扰动界及条件数上界,并通过数值实验验证了理论结果。
2025-02-07 cs.NA math.FA math.NA
Low rank approximation and decomposition of large matrices using error correcting codes
Department of Computer Science and Engineering, University of Minnesota, Twin Cities(计算机科学与工程系,明尼苏达大学,双城分校);Department of Electrical and Computer Engineering, University of Minnesota, Twin Cities(电气与计算机工程系,明尼苏达大学,双城分校)
本文探讨利用纠错码矩阵进行大矩阵低秩近似与分解,提出该方法在低秩近似、线性回归等问题中的优势,包括减少随机性、子空间嵌入性质、并行计算优势等。
2017-06-15 cs.IT cs.LG cs.NA