Spectral and norm estimates for matrix sequences arising from a finite difference approximation of elliptic operators
当近似椭圆问题使用专门的近似技术,我们得到大型结构矩阵的分析提供了信息的稳定性的方法。在这里,我们提供谱和范数估计所产生的近似拉普拉斯通过特设有限差分矩阵序列。分析涉及几个工具,从矩阵理论,特别是从设置的Toeplitz运营商和广义局部Toeplitz矩阵序列。数值实验结果验证了理论分析的正确性。
2021-08-20 cs.NA math.NA
Algorithms for the rational approximation of matrix-valued functions
讨论了矩阵值函数的有理逼近的一系列算法,包括插值AAA方法、基于近似最小二乘拟合的RKFIT方法、向量拟合和基于块Loewner矩阵低秩逼近的方法。提出了一种基于矩阵权值的广义重心公式的块AAA算法。所有算法的近似精度和运行时间方面进行了比较,从模型降阶和非线性本征值问题,包括噪声数据的例子的一组问题。据发现,插值为基础的方法通常是更便宜的运行,但他们可能会遭受在噪声的存在下,近似为基础的方法执行得更好。
2021-04-20 cs.NA math.NA
An efficient numerical method for condition number constrained covariance matrix approximation
在高维数据环境中,样本协方差阵是奇异的。为了得到高维数据下样本协方差阵的数值稳定的正定修正,本文研究了条件数约束下的协方差阵逼近问题,并给出了其关于Frobenius范数的显式解.条件数约束同时保证了逼近形式的数值稳定性和正定性。通过利用高维数据中数据矩阵的特殊结构,我们还提出了一些基于有效矩阵分解技术的新算法。数值实验也显示了所提出的算法的计算效率。
2021-01-19 cs.NA math.NA
Nonintrusive approximation of parametrized limits of matrix power algorithms -- application to matrix inverses and log-determinants
Safran Tech(赛峰技术)
本文研究了通过参数化矩阵幂的极限获得的量(如矩阵逆和对数行列式),在参数呈仿射依赖的情况下,利用经验插值法(EIM)推导出矩阵幂的近似,从而得到非侵入性近似。还推导了所获公式的误差上界,并与经典侵入性和非侵入性近似技术进行了数值比较,结果显示算法在测试用例中表现良好。
2018-05-24 cs.NA math.NA
The Convergence of Least-Squares Progressive Iterative Approximation with Singular Iterative Matrix
Zhejiang University(浙江大学)
本文研究了在迭代矩阵奇异时最小型递进迭代逼近法的收敛性,通过分析证明其在奇异情况下仍具收敛性。
2017-07-28 cs.NA math.NA
Low-Rank Matrix Approximations Do Not Need a Singular Value Gap
Purdue University(普渡大学);North Carolina State University(北卡罗来纳州立大学)
研究低秩近似对矩阵扰动的鲁棒性,证明在不同范数下低秩近似误差对加性扰动不敏感,无需奇异值间隙。
2018-01-02 cs.NA math.NA
Fast Spectral Low Rank Matrix Approximation
本文提出基于谱范数的快速近似矩阵乘法、广义线性回归算法及快速近似SVD方法,提升大规模矩阵分解效率。
2015-11-10 cs.NA math.NA
New Schemes for Solving the Principal Eigenvalue Problems of Perron-like Matrices via Polynomial Approximations of Matrix Exponentials
一个实方阵是类佩龙矩阵,如果它有一个实特征值$s$,称为矩阵的主特征值,和$\mbox{Re}\,μ<s$的任何其他特征值$μ$。非负矩阵和对称矩阵是这类矩阵的典型例子。本文的主要目的是利用矩阵指数的多项式逼近,发展一套计算Perron-like矩阵的主特征值和相应的广义本征空间的新方案.数值算例表明,这些格式在实际中是有效的。
2020-08-16 cs.NA math.NA
Fast Approximation of the Gauss-Newton Hessian Matrix for the Multilayer Perceptron
我们介绍了一种快速算法的全连接前馈神经网络的高斯-牛顿海森(GNH)矩阵的条目式评估。该算法有一个预计算步骤和一个采样步骤。虽然通常需要$O(Nn)$工作来计算具有$N$参数和$n$数据点的神经网络的GNH矩阵中的条目(和整个列),但我们的快速采样算法将成本降低到$O(n+d/ε^2)$工作,其中$d$是网络的输出维度,$ε$是规定的精度(独立于$N$)。我们的算法的一个应用是构造层次矩阵(H矩阵)近似的GNH矩阵求解线性系统和特征值问题。它通常需要$O(N^2)$存储器和$O(N^3)$工作来分别存储和分解GNH矩阵。H矩阵近似只需要$O(N r_o)$内存占用和$O(N r_o^2)$工作被因式分解,其中$r_o \ll N$是GNH矩阵中非对角块的最大秩。我们展示了我们的快速算法和H-矩阵近似分类和自动编码器神经网络的性能。
2020-11-14 cs.NA math.NA
Fast Recovery and Approximation of Hidden Cauchy Structure
TU Berlin(柏林工业大学);École polytechnique fédérale de Lausanne(洛桑联邦理工学院)
本文提出了一种最优复杂度的算法,用于判断给定矩阵是否为柯西矩阵,并精确恢复定义柯西矩阵的柯西点。同时研究了如何用柯西矩阵近似给定矩阵,重点在于从噪声数据中恢复柯西点。
2015-08-30 cs.NA math.NA
A Rank Revealing Randomized Singular Value Decomposition (R3SVD) Algorithm for Low-rank Matrix Approximations
本文提出R3SVD算法,通过正交高斯采样逐步构建低秩近似,并自适应估计秩以捕捉矩阵主要特征。算法在图像压缩和矩阵补全中验证了有效性。
2016-05-26 cs.NA math.NA
Generalized rank-constrained matrix approximations
本文给出了Frobenius范数下秩约束矩阵逼近的显式解,推广了经典的低秩矩阵逼近问题。
2006-03-29 cs.NA math.NA math.OC
Low-memory Krylov subspace methods for optimal rational matrix function approximation
本文提出Lanczos-OR方法,利用稍大的Krylov子空间信息实现有理矩阵函数与向量乘积的最优逼近,并给出低内存实现,可推广至矩阵符号函数等计算,在几乎不增加计算开销的情况下提升逼近质量。
2023-05-31 cs.NA math.NA
Efficient Orthogonal Decomposition with Automatic Basis Extraction for Low-Rank Matrix Approximation
针对低秩矩阵逼近中矩阵秩未知的问题,提出具有自动基提取的高效正交分解(EOD-ABE)算法,通过随机算法自动提取基以揭示秩,理论与数值验证表明其速度、准确性和鲁棒性优于现有方法,并在图像重建中取得显著成果。
2024-04-26 cs.NA math.NA
Polynomial approximations for the matrix logarithm with computation graphs
本文针对矩阵对数计算中矩阵乘法与左除法开销大的问题,提出基于计算图的高效多项式求值方案,并结合舍入误差与后向误差分析,实验表明其在时间与精度上均具竞争力。
2024-01-18 cs.NA math.NA
Efficient quaternion CUR method for low-rank approximation to quaternion matrix
针对 QSVD 计算代价高的问题,提出利用矩阵实际行列和两种采样策略的 QMCUR 低秩近似方法,并通过扰动分析与合成、真实数据实验验证其效率和精度优势。
2024-02-29 cs.NA math.NA
Min-plus algebraic low rank matrix approximation: a new method for revealing structure in networks
University of Bath(巴斯大学)
本文提出min-plus低秩矩阵近似方法,通过使用min和plus运算代替传统矩阵乘法中的plus和times,能检测到不同于PCA等传统方法的网络结构特征。
2017-08-22 cs.NA cs.SI math.NA
Matrix methods for Padé approximation: numerical calculation of poles, zeros and residues
Texas Southern University(德克萨斯南方大学);Instytut Matematyki, Wydział Matematyki i Informatyki, Uniwersytet Jagielloński(雅盖隆大学数学与信息学院数学研究所)
本文提出利用三对角矩阵J表示信号Z变换的帕德逼近,并推导了极点、零点和留数的计算公式,分析了其数值稳定性及误差计算方法。
2018-01-17 cs.NA math.FA math.NA
Low Rank Pure Quaternion Approximation for Pure Quaternion Matrices
四元数矩阵在彩色图像处理中有着广泛的应用。特别地,可以使用纯四元数矩阵来表示彩色图像的红色、绿色和蓝色通道。利用四元数奇异值分解可以得到纯四元数矩阵的低秩逼近。然而,这种近似不是最佳的,因为得到的低秩近似矩阵可能不是纯四元数,即,低秩矩阵包含对于彩色图像的表示无用的实分量。本文的主要贡献是找到一个最佳的秩- $r$纯四元数矩阵逼近的纯四元数矩阵(彩色图像)。我们的想法是使用一个低秩四元数矩阵流形上的投影和一个零实分量的四元数矩阵上的投影,并开发一个交替投影算法来找到这样的最佳低秩纯四元数矩阵近似。投影算法的收敛性可以通过证明低秩四元数矩阵流形和零实分量四元数矩阵流形具有非平凡交点来建立。对合成纯四元数矩阵和彩色图像的数值算例表明,该投影算法可以为纯四元数矩阵或彩色图像找到最优的低秩纯四元数逼近。
2020-12-30 cs.NA math.NA math.OC
On the approximation of a matrix
Indian Statistical Institute(印度统计学院)
令$F^{*}$是通过非随机化方法导出的给定$(a \times b)$矩阵$F$的近似。我们证明了对于给定的$F$和$F^{*}$,$H$和$T$可以用随机算法计算,使得$(HT)$是$F$的一个近似,优于$F^{*}$ .
2021-08-25 cs.LG cs.NA math.NA
Sketching for low-rank nonnegative matrix approximation: Numerical study
本文提出基于随机草图的近似交替投影方法求解低秩非负矩阵近似问题,分析复杂度并经数值实验证明其比确定性方法更快且收敛性质相近。
2023-04-24 cs.NA math.NA math.OC
Maximal Volume Matrix Cross Approximation for Image Compression and Least Squares Solution
University of Georgia(佐治亚大学);Georgia Institute of Technology(佐治亚理工学院)
本文改进经典最大体积子矩阵交叉逼近的估计常数,提出一族具有收敛保证的贪心最大体积算法以提升计算效率,并在图像压缩和连续函数最小二乘逼近中验证了有效性。
2024-12-27 cs.LG cs.NA math.NA
Near-optimal hierarchical matrix approximation from matrix-vector products
提出仅用 A 与 A^T 矩阵-向量乘积构造近最优 HODLR 逼近的随机剥离算法,给出查询与计算复杂度上下界及低秩扰动稳定性保证。
2024-10-24 cs.DS cs.NA math.NA
An improved analysis and unified perspective on deterministic and randomized low rank matrix approximations
本文提出了一种用于低秩矩阵逼近的广义LU-因子分解(\textbf{GLU})。我们将其与过去的方法,并广泛地分析其近似特性。所建立的确定性保证相结合的草图合奏满足约翰逊-林登施特劳斯性质,目前完整的界限。特别是良好的性能示出的子采样随机Hadamard变换(SRHT)合奏。此外,因子分解是统一和推广许多过去的算法。这也有助于解释在高斯消去法中,素描对生长因子的影响。
2019-10-01 cs.DS cs.NA math.NA
Fixed-sparsity matrix approximation from matrix-vector products
New York University(纽约大学);Cornell University(康奈尔大学);UMass Amherst(麻省大学阿默斯特分校)
本文提出了一种随机算法,用于在仅能通过矩阵向量积访问矩阵时,以固定稀疏模式近似矩阵,并证明了该问题的查询复杂度下界。
2024-03-26 cs.DS cs.NA math.NA
More on the Power of Randomized Matrix Computations
一个随机矩阵很可能是良态的,并且受这个众所周知的性质的激励,我们采用随机矩阵乘法器来推进一些基本的矩阵计算。这包括数值稳定的高斯消去法没有枢轴以及块高斯消去法,近似的领先和落后的奇异空间的病态矩阵,其最大和最小的奇异值,分别与低秩矩阵,并近似此矩阵,进一步扩展到计算数值秩和张量分解的近似。我们正式支持所提出的技术的效率,我们采用高斯随机乘数,但我们广泛的测试一直产生相同的结果,而不是我们使用稀疏和结构化的随机乘数,定义的随机参数相比,其条目的数量少得多。
2012-12-24 cs.NA math.NA math.PR
A Krylov subspace method for the approximation of bivariate matrix functions
本文提出一种张量化的Krylov子空间方法,用于近似双变量矩阵函数,并分析其收敛性,为除Sylvester矩阵方程外的所有情况提供了新的收敛估计和见解。
2018-02-20 cs.NA math.NA math.OA
Analysis of a randomized approximation scheme for matrix multiplication
Microsoft Research(微软研究院);Rutgers University(罗格斯大学)
本文分析了Sarlos (2006)提出的基于随机旋转和均匀列采样的矩阵乘法随机近似方案,利用矩阵Bernstein不等式和次高斯随机向量二次型的尾部不等式给出简单分析。
2012-11-23 cs.DS cs.LG cs.NA
Fixed-Rank Approximation of a Positive-Semidefinite Matrix from Streaming Data
Caltech(加州理工学院);EPFL(洛桑联邦理工学院);Cornell(康奈尔大学)
本文提出一种基于Nystrom方法和新秩截断机制的算法,用于从数据流中近似正定矩阵,理论分析证明其在Schatten 1范数下可达到任意给定的相对误差,并通过实验验证其在多种示例中的优越性。
2017-06-18 cs.DS cs.NA math.NA
Missing Entries Matrix Approximation and Completion
School of Electrical Engineering Tel Aviv University(电气工程学院 特拉维夫大学);School of Computer Science Tel Aviv University(计算机科学学院 特拉维夫大学)
针对仅部分条目已知的矩阵,提出一系列算法实现矩阵补全与逼近,支持低秩、核范数、谱范数等多种约束,并证明凸情形下全局收敛,无需参数且适用于图像重建及偏微分方程数据恢复。
2014-06-29 cs.LG cs.NA math.NA
Tensor approximation of the self-diffusion matrix of tagged particle processes
本文的目的是研究一种新的数值方法,用于近似定义在网格上的标记粒子过程的自扩散矩阵。虽然标准的数值方法利用一些随机过程的偏差的经验平均值的长时间平均值,并因此受到统计噪声,我们在这里提出了一个张量方法,以计算一个高维二次最优化问题的解决方案的近似,这使得能够获得一个数值逼近的自扩散矩阵。我们在这里使用的张量方法依赖于一个迭代方案,该方案建立了感兴趣的数量的低秩近似,并仔细调整方差减少方法,以评估泛函中出现的各种项,以最小化。特别是,我们在数值上观察到,它比经典方法更少受到统计噪声的影响。
2022-10-24 cs.NA math.NA physics.comp-ph
Practical sketching algorithms for low-rank matrix approximation
California Institute of Technology(加州理工学院);École Polytechnique Fédéral de Lausanne(洛桑联邦理工学院);Cornell University(康奈尔大学)
本文提出了一系列构造输入矩阵低秩近似的算法,通过随机线性图像生成 sketch,保留矩阵结构特性,提供指定秩的近似,并保证数值稳定性与正确性。
2018-01-02 cs.DS cs.NA math.NA