Quasiseparable Hessenberg reduction of real diagonal plus low rank matrices and applications
Università di Pisa(比萨大学);Scuola Normale Superiore(意大利高等师范学院)
本文提出一种新的算法,用于降阶实对角加低秩矩阵,时间复杂度为O(n²k),基于准分离矩阵技术,应用于多项式特征值问题及数值实验分析稳定性。
2015-01-30 cs.NA math.NA
Recovery of Sparse and Low Rank Components of Matrices Using Iterative Method with Adaptive Thresholding
Advanced Communication Research Institute (ACRI), Electrical Engineering Department, Sharif University of Technology(德黑兰理工大学先进通信研究院)
本文提出一种利用自适应阈值迭代方法恢复矩阵稀疏和低秩成分的算法,通过阈值操作获取低秩和稀疏成分,具有高效性和易实现性,并在非稀疏噪声应用中表现出良好的性能。
2017-04-12 cs.NA math.NA stat.ML
An iterative coordinate descent algorithm to compute sparse low-rank approximations
University Politehnica of Bucharest(布加勒斯特理工大学);University of Bucharest(布加勒斯特大学)
在本文中,我们描述了一个新的算法,建立一些稀疏的主成分从一个给定的数据矩阵。我们的方法不显式地创建数据的协方差矩阵,并且可以被视为Kogbetliantz算法的扩展,以建立几个主成分的近似奇异值分解。我们展示了所提出的算法的性能,从文献中的各种数据集上恢复稀疏主成分,并进行降维分类应用。
2021-07-30 cs.DS cs.LG cs.NA
Several Approximation Algorithms for Sparse Best Rank-1 Approximation to Higher-Order Tensors
Guangxi University(广西大学)
稀疏张量最佳秩1近似(BR1Approx)是稠密张量BR1Approx的稀疏推广,是稀疏矩阵BR1Approx的高阶扩展,是稀疏张量分解及相关统计和机器学习问题中的重要问题之一.利用问题的多重线性和稀疏结构,提出了四种易于实现、计算复杂性低、可作为迭代算法初始化步骤的近似算法。此外,理论上保证最坏情况下的近似下界证明了所有的算法。我们提供了数值实验的合成和真实的数据来说明所提出的算法的有效性。
2022-07-14 cs.LG cs.NA math.NA
Low-rank plus diagonal approximations for Riccati-like matrix differential equations
本文提出用“低秩加对角”矩阵近似 Riccati 类矩阵微分方程的解,通过动态低秩投影实现线性存储与计算成本,并保证矩阵可逆,成功应用于 Wasserstein 梯度流和 Kalman 滤波。
2024-07-01 cs.NA math.NA
Low rank tensor completion with sparse regularization in a transformed domain
University of Electronic Science and Technology of China(电子科技大学)
张量完备化是一个具有挑战性的问题,有着广泛的应用。基于张量的低秩先验,已经提出了许多相关的模型。然而,低秩先验可能不足以从观察到的不完整张量恢复原始张量。本文利用张量的低秩和稀疏先验,提出了一种张量完备化方法。具体地,张量完成任务可以被公式化为具有稀疏正则化器的低秩最小化问题。基于张量奇异值分解(T-SVD)的张量截断核范数刻画了其低秩性质,与张量核范数相比,T-SVD是张量管秩的一种更好的近似.而稀疏正则化子是在离散余弦变换(DCT)域中通过$\ell_{1}$ -范数来实现的,它能更好地利用完备数据的局部稀疏性。为了解决最优化问题,我们采用了交替方向法的乘法器(ADMM),其中我们只需要解决几个子问题,有封闭形式的解决方案。在真实图像和视频上的大量实验表明,该方法具有更好的性能比现有的国家的最先进的方法。
2019-11-19 cs.LG cs.NA math.NA
Efficient Reduction of Compressed Unitary plus Low-rank Matrices to Hessenberg form
我们提出了一种快速的数值方法来计算一个酉加低秩矩阵$A=G+U V^H$的Hessenberg约化,其中$G\in \mathbb C^{n\times n}$是一个酉矩阵表示在某种压缩格式使用$O(nk)$参数和$U$和$V$是$n\times k$矩阵与$k< n$。这些方法的核心是作为大小为$n$的三个可能扰动的酉$k$ Hessenberg矩阵的乘积的$A$的某种结构化分解,称为LFR分解。它表明,在最有趣的情况下,初始LFR分解的$A$可以计算非常便宜。然后我们证明了LFR分解的结构性质,给出了$A$的LFR分解蕴涵其Hessenberg形的条件。最后,我们描述了一个鼓包追逐计划转换的初始LFR分解的$A$到LFR分解的Hessenberg矩阵通过酉变换。可以以使用$O(nk)$存储的$O(n^2 k)$算术运算的总计算成本来执行该减少。计算得到的$A$的Hessenberg约化的LFR分解可以用[8]中提出的快速QR算法进行处理,以便在相同的代价下计算$A$的特征值。
2019-08-29 cs.NA math.NA
Analyzing Large and Sparse Tensor Data using Spectral Low-Rank Approximation
信息是从组织为3模式张量的大型稀疏数据集中提取的。基于张量的最佳秩-(2,2,2)和秩-(2,2,1)近似,描述了两种方法。第一种方法可以被认为是谱图划分到张量的推广,并且它给出了对信息进行聚类的张量的重新排序。第二种方法给出张量在稀疏秩-(2,2,1)项中的展开,其中项对应于图。低秩近似计算使用一个有效的Krylov-Schur型算法,避免填充稀疏数据。该方法被应用到新闻文本中的主题搜索,一个张量代表会议作者-条款-年,和网络流量日志。
2021-02-08 cs.NA math.NA
Reduce the rank calculation of a high-dimensional sparse matrix based on network controllability theory
本文受复杂网络可控性理论启发,将矩阵秩计算转化为最大匹配问题,并利用腔方法提出一种低复杂度的高维稀疏矩阵秩快速估计算法,在保持高精度的同时显著快于SVD。
2022-04-06 cs.NA math.NA
Learning the Sparse and Low Rank PARAFAC Decomposition via the Elastic Net
Peking University(北京大学);Massachusetts General Hospital(麻省总医院)
本文提出一种贝叶斯模型,通过弹性网学习存在缺失值的张量的稀疏和低秩PARAFAC分解,能鲁棒地找到真实秩和稀疏因子矩阵,并提出高效的块坐标下降算法和admax随机块坐标下降算法以解决大规模问题。
2017-05-29 cs.NA math.NA math.OC
A least-squares method for sparse low rank approximation of multivariate functions
Ecole Centrale Nantes, Université de Nantes, GeM UMR CNRS 6183(南特中央理工学院,南特大学,GeM UMR CNRS 6183);Department of Applied Mathematics and Modeling, Airbus Group(空中客车集团应用数学与建模系)
本文提出一种基于离散最小二乘的低秩近似方法,用于从随机无噪声观测中近似多变量函数,通过引入稀疏诱导正则化技术,利用交叉验证选择最优正则化参数和秩,验证该算法在少次数评估下近似多变量函数的能力。
2014-07-09 cs.NA math.NA stat.ML
Semi-Supervised Classification on Non-Sparse Graphs Using Low-Rank Graph Convolutional Networks
Department of Mathematics, Chair of Scientific Computing(数学系,科学计算教研室)
本文提出了一种低秩图卷积网络架构,用于高效处理非稀疏图上的半监督学习问题,通过引入低秩滤波器提升运行效率和准确率,并扩展到超图数据集的处理。
2019-05-24 cs.DM cs.LG cs.NA
An Efficient Solver for Sparse Linear Systems Based on Rank-Structured Cholesky Factorization
本文提出一种结合传统超节点Cholesky算法高效内存访问与秩结构直接求解器内存效率的稀疏Cholesky算法,用于求解由偏微分方程离散化得到的正定线性系统,展现出更优的内存使用和运行时间表现。
2015-07-20 cs.NA math.NA
Riemannian thresholding methods for row-sparse and low-rank matrix recovery
在本文中,我们提出了修改的迭代硬阈值(IHT)方法恢复联合行稀疏和低秩矩阵。特别是一个黎曼版本的IHT被认为是显着降低计算成本的梯度投影的情况下,秩一测量算子,这在盲反卷积的具体应用。实验结果表明,高斯和秩一测量接近最佳的恢复,自适应步长提供了至关重要的改善。对于稀疏性未知的特殊情况,导出了一种黎曼近似梯度法.
2022-09-30 cs.NA math.NA math.OC
Low Rank Approximation of Tensors via Sparse Optimization
Northeast Normal University(东北师范大学);University of Alabama at Birmingham(阿拉巴马大学伯明翰分校)
本文通过稀疏优化方法解决张量低秩近似问题,提出基于l1正则化的稀疏优化问题,并设计了近端交替最小化算法,实现了张量秩的计算及稀疏性分析。
2016-10-19 cs.NA math.NA
Low-rank eigenvalue solvers for block-sparse matrix product states
RWTH Aachen University(亚琛工业大学);Georg-August Universität Göttingen(哥廷根大学)
本文提出一种迭代求解薛定谔方程的低秩特征值求解器,重点研究费米子在二次量子化形式下的薛定谔方程及矩阵乘积态对粒子数守恒的约束,结合预条件反迭代与秩截断方法,并扩展到子空间迭代以联合逼近多个特征子空间。
2026-04-17 cs.NA math.NA
Everything is Vecchia: Unifying low-rank and sparse inverse Cholesky approximations
University of California San Diego(加利福尼亚大学圣地亚哥分校)
本文通过结合部分Cholesky近似与Vecchia近似,证明Vecchia近似能统一低秩和稀疏逆Cholesky近似方法,拓展了其应用范围。
2026-03-05 cs.NA math.NA
Fast QR iterations for unitary plus low rank matrices
最近文献中出现了一些计算块伴随矩阵$A = U + XY^H$特征值的快速算法,其中$U\in \mathbb C^{n\times n}$是酉块循环矩阵,$X, Y \in\mathbb{C}^{n \times k}$是酉块循环矩阵。这些算法中的大多数都依赖于将$A$分解为纯量伴随矩阵的积,这会变成$A$的Hessenberg约化的因子化表示。在本文中,我们推广的方法,以涵盖形式$A=U + XY^H$的Hessenberg矩阵,其中$U$是一般的酉矩阵。一个显着的情况是$U$酉对角线,这使得有可能处理的插值技术的寻根问题和非线性本征值问题。我们的扩展利用了一个更大的矩阵$\hat A$的性能,通过一定的嵌入的Hessenberg减少$A$适合保持其结构特性。我们发现,$\hat A$可以分解为产品的下,上酉Hessenberg矩阵可能在第一$k$行扰动,而且,这样的数据稀疏表示是非常适合的QR/QZ迭代的基础上的快速特征值求解器的设计。该算法具有快速性和后向稳定性。
2019-08-29 cs.NA math.NA
Sparse and low-rank approximations of parametric elliptic PDEs: the best of both worlds
本文提出一种结合低秩张量逼近与稀疏多项式展开的新格式,用于高效求解参数化椭圆型PDE,并设计了保持准最优秩与最优收敛速度的自适应求解器。
2025-06-24 cs.NA math.NA
Fast algebraic multigrid for block-structured dense and Toeplitz-like-plus-Cross systems arising from nonlocal diffusion problems
代数多重网格(AMG)是求解大型稀疏方程组最有效的迭代法之一。然而,如何在非对称{ \em sparse}系统的AMG方法的实践中建立/检查限制和延拓算子仍然是一个有趣的开放问题[Brezina,Manteueland,McCormick,Runge,and Sanders,SIAM J. Sci. Comput.(2010); Manteueland Southworth,SIAM J. Sci. Comput.(2019)]。研究了由非局部扩散问题和周期问题引起的块结构稠密Toeplitz-like-plus-Cross系统,包括{ \em非对称}不定、对称正定(SPD).简单的(传统的)限制算子和延长算子,以处理这样的块结构的稠密和Toeplitz-like-plus-Cross系统,这是方便和有效的,当采用快速AMG。我们的工作重点是提供详细的证明,这种SPD的情况下的两个网格方法的收敛性。为了验证收敛性,进行了数值实验,只有$\mathcal{O}(N \mbox{log} N)$算术运算的计算成本,通过使用几个快速傅里叶变换,其中$N$是网格点的数量。据我们所知,这是第一个贡献关于Toeplitz样加交叉线性系解决了通过一个快速AMG。
2022-02-23 cs.NA math.NA
A Krylov-Schur like method for computing the best rank-$(r_1,r_2,r_3)$ approximation of large and sparse tensors
本文讨论了大张量和稀疏张量的最佳低多线性秩逼近的计算方法。Krylov型方法已被用于这个问题;这里介绍块版本。对于矩阵的部分特征值和奇异值分解的计算,Krylov-Schur(重新启动Arnoldi)方法被使用。我们描述了这种方法的推广张量,计算最好的低多线性秩近似的大型和稀疏张量。与矩阵情况类似,大张量仅在张量和向量块之间的乘法中访问,从而避免过多的内存使用。证明了在初始逼近足够好的情况下,张量Krylov-Schur方法是收敛的。给出了合成张量和稀疏张量的数值算例,结果表明,对于大多数大型问题,Krylov-Schur方法比高阶正交迭代收敛更快,更稳健.
2020-12-16 cs.NA math.NA
Recursive sparse LU decomposition based on nested dissection and low rank approximations
针对线性偏微分方程离散化产生的大型稀疏矩阵,提出基于嵌套剖分和低秩近似的递归稀疏LU分解方法,通过分层稀疏化稠密块并引入混合算法提取低秩结构,实现了复杂度为 $Ø(N)$ 的快速直接求解器。
2024-08-26 cs.NA math.NA
Spectral Partitioning of Large and Sparse Tensors using Low-Rank Tensor Approximation
研究了由一系列邻接矩阵组成的稀疏张量的划分问题。理论的发展,是一个概括的谱图分割。为$λ=1,2,3$计算最佳秩- $(2,2,λ)$近似,并且从该近似的正交矩阵和核张量计算分区。证明了如果张量具有某种约化结构,则最佳逼近问题的解表现出张量的约化结构。此外,如果张量接近于可约的,则仍然的解展示张量的结构。数值例子与合成数据证实了理论结果。实验结果表明,该方法可以从大量的、稀疏的和有噪声的数据中提取相关信息。
2020-12-16 cs.NA math.NA
A low-rank tensor method to reconstruct sparse initial states for PDEs with Isogeometric Analysis
当使用偏微分方程时,重建以前的状态往往是困难的。良好的先验知识和快速的计算方法对于构建工作重建至关重要。我们希望在小的、不同的源的假设下,从以后的测量中识别三维域上的热源,例如来自铣削工具的热切屑。这导致我们需要一个先验来反映这个先验信息。稀疏诱导超先验已被证明可用于稀疏信号或图像重建的类似问题。我们结合的方法,使用分层贝叶斯模型与伽玛超先验,以促进稀疏与低秩计算的PDE系统中的张量训练格式。
2021-09-07 cs.NA math.NA math.OC
Beyond Low Rank + Sparse: Multi-scale Low Rank Matrix Decomposition
本文提出了一种多尺度低秩矩阵分解方法,通过凸优化解决数据矩阵的多尺度分解问题,并在多个应用中验证了其有效性。
2016-08-03 cs.IT cs.NA cs.SY
Sparse system identification by low-rank approximation
本文介绍了逼近论和矩阵分析在时间序列模型和非线性离散时间动力系统稀疏辨识中的应用。上述理论方法被转化为算法,可用于离散时间动力系统的稀疏模型识别,从系统测量的结构化数据的基础上。状态转换算子的近似主要由基于从给定系统测量的数据待识别的参数矩阵确定,通过识别对应于测量数据的轨迹矩阵的子矩阵的低秩近似的存在条件来接近,其可以用于计算参数矩阵的近似稀疏表示。本文中提出的低秩近似方法的主要优点之一涉及线性和非线性模型的参数估计,其中数值或测量噪声可能显著影响估计。给出了基于上述技术的原型算法以及在理论物理、流体动力学和天气预报中对具有对称性和非线性结构动力系统的时间序列模型的近似辨识和预测模拟的应用。
2021-08-03 cs.NA cs.SY eess.SY