A note on the prediction error of principal component regression
分析了主成分回归(PCR)的预测误差,证明了相应的平方风险的非渐近上界。在温和的假设下,我们表明,PCR执行以及通过取代经验的主成分由他们的人口同行所获得的预言方法。我们的方法依赖于主成分分析的超额风险上界。
2019-04-16 math.ST stat.TH
Principal Component Analysis of Persistent Homology Rank Functions with case studies of Spatial Point Patterns, Sphere Packing and Colloids
持续同源性,虽然表面上测量拓扑结构的变化,捕获多尺度几何信息。它是分析点模式的自然工具。在本文中,我们探讨了(持续同源)秩函数的统计能力。对于点模式$X$,我们通过取以$X$中的点为中心的半径为$a$的球的并集,$X_a = \cup_{x\in X}B(x,a)$,构造空间的过滤。秩函数$β_k(X):{\{(a,b)\in \mathbb{R}^2: a\leq b\}} \to \mathbb{R}$则由$β_k(X)(a,b) = rank ( ι_*:H_k(X_a) \to H_k(X_b))$定义,其中$ι_*$是从空间上的包含映射导出的同调映射。我们认为秩函数位于一个希尔伯特空间,并表明在合理的条件下,从多个模拟或实验的秩函数将位于一个仿射子空间。这使我们能够进行功能主成分分析,我们适用于实验数据从胶体在不同的有效温度和球填料具有不同的体积分数。我们还研究了潜在的秩函数在提供一个测试的完整的空间随机性的2D点模式使用的距离,经验计算的平均秩函数的二项式点模式在单位正方形。
2015-07-06 math.AT math.ST stat.AP
Online Distributed Estimation of Principal Eigenspaces
University of Florida(佛罗里达大学)
主成分分析(PCA)是一种应用广泛的降维技术。本文提出了一种在线分布式主特征空间恢复算法。我们进一步建立它的收敛速度,并显示它如何涉及到分布式计算中使用的节点数,所考虑的数据矩阵的有效秩,以及底层人口协方差阵的频谱中的差距。所提出的算法说明低秩近似和$\boldsymbol{k}$均值聚类任务。数值结果表明,一个显着的计算速度比标准的分布式PCA算法,而不影响学习精度。
2019-05-17 cs.LG stat.ML
The Sparse Reverse of Principal Component Analysis for Fast Low-Rank Matrix Completion
University of Michigan-Dearborn(密歇根大学迪尔伯恩分校)
矩阵完备化一直受到许多研究领域的极大关注。它通常应用于推荐系统,例如电影评级,计算机视觉,例如图像重建或完成,多任务学习,例如协作建模多个传感器的时间序列趋势,以及许多其他应用。矩阵完成技术通常是计算穷举的和/或不能捕获数据中的异质性。例如,图像通常包含一组异构的对象,因此重建具有高水平缺失数据的图像是一项具有挑战性的任务。本文提出了主成分分析的稀疏逆矩阵完备化方法。所提出的方法保持整个矩阵的平滑度,产生准确的估计缺失的数据,迭代收敛,它是计算上易于处理的迭代次数的可控上限,直到收敛。所提出的技术的准确性进行了验证自然图像,电影收视率,和多传感器数据。它也比较常见的基准方法用于矩阵完成。
2019-10-04 cs.LG eess.SP stat.ML
T-SVD Based Non-convex Tensor Completion and Robust Principal Component Analysis
Peking University(北京大学)
张量完备化和鲁棒主元分析在机器学习中得到了广泛的应用,但其关键问题是如何最小化张量秩,这是一个非常具有挑战性的问题。解决这一问题的一种常用方法是基于张量奇异值分解(T-SVD),用奇异值的$\ell_1-$范数来近似张量秩。此外,张量的稀疏性也可以用它的$\ell_1-$范数来度量。然而,$\ell_1$罚分本质上是有偏差的,因此结果将偏离。为了避免这种偏差,我们提出了一种新的非凸张量秩代理函数和一种新的非凸稀疏性度量。在这种新的设置中,通过使用的凸性,而不是一个优化最小化算法进一步设计张量完成和鲁棒的主成分分析。此外,我们分析了它的理论性质。最后,自然和高光谱图像上的实验证明了我们提出的方法的有效性和效率。
2021-05-25 cs.CV cs.LG stat.ML
Exactly Robust Kernel Principal Component Analysis
City University of Hong Kong(香港城市大学)
鲁棒主元分析(RPCA)可以在低秩矩阵被稀疏噪声污染时恢复低秩矩阵。然而,在实践中,许多矩阵是高秩的,因此不能通过RPCA恢复。我们提出了一种新的方法称为鲁棒核主成分分析(RKPCA)分解部分损坏的矩阵作为稀疏矩阵加上高或满秩矩阵具有低潜在维度。RKPCA可以应用于噪声去除和子空间聚类等许多问题,并且仍然是唯一对稀疏噪声具有鲁棒性的无监督非线性方法。理论分析表明,RKPCA具有较高的恢复精度。RKPCA的优化涉及非凸和不可微问题。我们提出了两个非凸优化算法的RKPCA。这两种方法分别是带回溯线搜索的交替方向乘子法和自适应步长的近似线性化极小化法。在噪声去除和鲁棒子空间聚类方面的比较研究证实了RKPCA的有效性和优越性。
2019-04-17 cs.LG stat.ML
Optimal Estimation and Rank Detection for Sparse Spiked Covariance Matrices
本文研究了高维稀疏加样协方差阵模型,研究了协方差阵和主子空间的Minimax估计以及Minimax秩检测。建立了在谱范数下估计尖峰协方差矩阵的最优收敛速率,这需要与估计其他结构化协方差阵(如可带或稀疏协方差阵)的技术显著不同的技术。我们还建立了谱范数下的极小极大率,用于估计主成分分析中的主要感兴趣对象主子空间。此外,最佳速率的秩检测边界得到。这一结果也解决了Berthet和Rigollet [1]最近的一篇论文中的空白,其中考虑了秩1的特殊情况。
2016-03-25 math.ST stat.TH
Multi-Rank Sparse and Functional PCA: Manifold Optimization and Iterative Deflation Techniques
Rice University(莱斯大学)
我们考虑的问题,估计多个主成分使用最近提出的稀疏和功能主成分分析(SFPCA)估计。首先,我们提出了一个扩展的SFPCA估计几个主成分同时使用流形优化技术来执行正交约束。虽然有效,这种方法是计算负担,所以我们也考虑迭代放气的方法,利用现有的快速算法的秩一SFPCA。我们表明,替代紧缩方案可以更有效地从数据中提取信号,从而提高后续组件的估计。最后,我们比较了我们的流形优化和紧缩技术的性能在正交性不成立的情况下,发现它们仍然导致显着提高性能。
2019-10-10 cs.LG stat.CO stat.ML
Logistic principal component analysis via non-convex singular value thresholding
在当前的生物学研究中,多元二进制数据变得越来越丰富。逻辑主成分分析(PCA)是通过利用底层低秩结构来探索多元二进制数据集内部关系的常用工具之一。基于二值数据的广义线性模型的潜变量解释,我们重新表达了逻辑主成分分析模型。多元二进制数据集被假定为未观测的定量数据集的符号观测,其上假定存在低秩结构。然而,标准的逻辑主成分分析模型(使用精确的低秩约束)容易过拟合,这可能导致一些估计的参数朝着无穷大发散。我们建议通过非凸奇异值阈值来拟合Logistic PCA模型,以减轻过拟合问题。采用一种高效的优化-最小化算法对模型进行拟合,并引入一种基于缺失值的交叉验证(CV)过程进行模型选择。对不平衡二进制数据和低信噪比的真实模拟实验表明,基于CV误差的模型选择过程在选择所提出的模型方面是成功的。此外,所选择的模型表现出优越的性能,在恢复底层的低秩结构相比,模型与凸核范数惩罚和精确的低秩约束。一个二进制拷贝数畸变数据集被用来说明所提出的方法在实践中。
2019-02-25 stat.ME stat.ML
Cauchy Principal Component Analysis
Carnegie Mellon University(卡内基梅隆大学)
主成分分析在机器学习、文本挖掘和计算机视觉等领域有着广泛的应用。基于高斯噪声模型的经典PCA对大幅度的噪声是脆弱的。基于拉普拉斯噪声假设的PCA方法不能有效地处理密集噪声。在本文中,我们提出了柯西主成分分析(柯西PCA),一个非常简单而有效的PCA方法,是强大的各种类型的噪声。我们利用柯西分布模型噪声和推导柯西主成分分析下的最大似然估计(MLE)框架下的低秩约束。无论噪声大小、密集或稀疏,我们的方法都能鲁棒地估计低秩矩阵。从稳健统计的角度分析了Cauchy PCA的稳健性,并提出了一种有效的奇异值投影优化方法。仿真数据和实际应用的实验结果表明,柯西PCA的各种噪声模式的鲁棒性。
2014-12-19 cs.LG stat.ML
A randomized algorithm for principal component analysis
主成分分析(PCA)需要计算包含被分析数据的矩阵的低秩近似。在PCA的许多应用中,任何秩亏近似的最佳可能精度最多是几位数(以谱范数测量,相对于被近似的矩阵的谱范数)。在这种情况下,有效的算法并不能保证良好的精度,除非被近似的矩阵的一个或两个维度都很小。我们描述了一个有效的算法,低秩近似的矩阵,产生的准确性非常接近最好的可能,对于任意大小的矩阵。我们通过几个数值例子来说明我们的理论结果。
2009-07-05 stat.CO
$e^{\text{RPCA}}$: Robust Principal Component Analysis for Exponential Family Distributions
本文提出e^{RPCA}方法,将鲁棒主成分分析扩展到指数族分布,并设计交替方向乘子法优化算法,在钢板缺陷检测和亚特兰大犯罪监测中验证了其有效性。
2023-10-30 stat.AP stat.ME stat.ML
ReFACTor: Practical Low-Rank Matrix Estimation Under Column-Sparsity
数据分析和统计遗传学中的各种问题都要求从噪声观测中恢复列稀疏的低秩矩阵。我们提出了ReFACTor,经典的截断奇异值分解(TSVD)算法的一个简单的变化。在以前的稀疏主成分分析(PCA)算法相比,我们的算法可以证明揭示一个低秩信号矩阵更好,往往显着优于,比广泛使用的TSVD,使之成为选择的算法列稀疏性被怀疑。从经验上讲,我们观察到,即使底层信号不稀疏,ReFACTor也始终优于TSVD,这表明使用ReFACTor而不是TSVD和PCA通常是安全的。该算法实现非常简单,其运行时间由PCA的运行时间决定,使其与标准主成分分析一样实用。
2017-05-22 stat.ML
Tensor Robust Principal Component Analysis with A New Tensor Nuclear Norm
Carnegie Mellon University(卡内基梅隆大学);National University of Singapore(新加坡国立大学);Cornell University(康奈尔大学);Tencent AI Lab(腾讯人工智能实验室);Peking University(北京大学)
在本文中,我们考虑张量鲁棒主成分分析(TRPCA)问题,其目的是从它们的和中准确地恢复低秩和稀疏的成分。我们的模型是基于最近提出的张量积(或t-产品)。由t-积导出了张量谱范数、张量核范数和张量平均秩,证明了张量核范数是张量平均秩在张量谱范数单位球内的凸包络.这些定义、它们之间的关系和性质与矩阵情况是一致的。在此基础上,通过求解一个凸规划来求解TRPCA问题,为精确恢复提供了理论保证。我们的TRPCA模型和恢复保证包括矩阵RPCA作为特例。数值实验验证了我们的结果,并应用于图像恢复和背景建模问题证明了我们的方法的有效性。
2019-03-07 cs.LG stat.ML
Transformed $\ell_1$ Regularizations for Robust Principal Component Analysis: Toward a Fine-Grained Understanding
本文提出用非凸 transformed $\ell_1$(TL1)正则化改进 RPCA 中秩与稀疏度近似,并给出一般采样下的收敛率及常数阶估计上界,实验显示其优于经典凸模型。
2025-10-04 math.ST stat.ML stat.TH
Robust Tensor Principal Component Analysis: Exact Recovery via Deterministic Model
本文提出了一种基于张量-张量积和t-SVD的鲁棒张量主成分分析方法,通过确定性模型实现张量低秩和稀疏成分的精确恢复。
2025-12-17 cs.LG math.ST stat.ML
Exact Recovery of Tensor Robust Principal Component Analysis under Linear Transforms
Carnegie Mellon University(卡内基梅隆大学);National University of Singapore(新加坡国立大学)
本文研究了张量鲁棒主成分分析(TRPCA)问题,其目的是从它们的和中准确地恢复低秩和稀疏分量。我们的模型的动机是最近提出的基于张量-张量积和张量SVD的线性变换。我们定义了一个新的依赖于张量秩的变换和相应的张量核范数。然后,我们解决了TRPCA问题的凸优化,其目标是一个新的张量核范数和$\ell_1$ -范数的加权组合。在理论上,我们证明了在一定的不相干条件下,凸规划精确地恢复了底层的低秩和稀疏分量。我们的新TRPCA模型推广了现有的工作,这是非常有趣的。特别是,如果研究的张量减少到一个矩阵,我们的TRPCA模型减少到已知的矩阵RPCA。我们的新TRPCA可以使用一般的线性变换,可以被视为我们以前的TRPCA工作,使用离散傅立叶变换的扩展。但他们的追偿担保证明是不同的。数值实验验证了我们的结果,图像恢复的应用表明了我们的方法的优越性。
2019-07-16 cs.CV cs.LG stat.ML
Generalized Integrative Principal Component Analysis for Multi-Type Data with Block-Wise Missing Structure
高维多源数据在很多领域都是经常遇到的。尽管最近在这种数据的综合降维方面取得了进展,但大多数现有方法不能容易地适应多种类型的数据(例如,二进制或计数值)。此外,多源数据通常具有分块缺失结构,即,对于样本,一个或多个源中的数据可能是完全不可观测的。异构数据类型和块级缺失数据的存在对多源数据的集成和进一步的统计分析提出了重大挑战。在本文中,我们开发了一种低秩的方法,称为广义综合主成分分析(GIPCA),同时降维和填补多源块式缺失数据,其中不同的来源可能有不同的数据类型。我们还设计了一个自适应的BIC标准的秩估计。综合仿真研究表明,所提出的方法在秩估计,信号恢复,和缺失数据填补的有效性。我们将GIPCA应用于死亡率研究。我们实现了准确的块式缺失数据插补,并确定了有趣的潜在死亡率模式与社会学的相关性。
2018-08-07 stat.ME
When are the most informative components for inference also the principal components?
University of Michigan(密歇根大学)
信号加噪声数据矩阵的奇异值分解的哪些分量对于检测或估计嵌入式低秩信号矩阵的推理任务来说信息量最大?主成分分析将更大的重要性归于捕获最大变化的成分,即,与最大奇异值相关联的奇异向量。这种选择通常通过调用Eckart-Young定理来证明,即使该工作解决了如何使用低秩近似最好地表示信号加噪声矩阵的问题,而不是如何最好地推断潜在的低秩信号分量。在这里,我们采取的第一原理的方法,我们开始与信号加噪声的数据矩阵,并显示如何频谱的噪声只占主导地位的奇异值分解的数据矩阵的主要或中间组件将是信息组件的推断。简单地说,如果噪声谱支持在一个连接的区间上,在某种意义上,我们使精确,那么使用主成分是合理的。当噪声频谱在多个间隔上得到支持时,中间分量可能比主分量提供更多信息。最终结果是在噪声矩阵为i.i.d.的设置中使用主成分的适当理由。高斯和场景的识别,一般涉及异质噪声模型,例如高斯混合,其中中间分量可能比主分量信息更多,因此可以利用它们来提取额外的处理增益。我们的研究结果表明,如何盲目使用主成分可能会导致次优甚至错误的推理,因为相变,分离的制度,其中的主成分是信息的制度,他们是无信息的。
2013-02-05 cs.DS cs.IT cs.LG
An implementation of a randomized algorithm for principal component analysis
近年来,低秩近似的随机化方法得到了迅速的发展。这些方法的目标是主成分分析(PCA)和截断奇异值分解(SVD)的计算。本文提出了一个基本上黑盒,傻瓜的实现Mathworks的MATLAB,一个流行的软件平台的数值计算。如通过几个测试所示,用于低秩近似的随机化算法在基本上所有方面都优于或至少匹配经典技术(例如Lanczos迭代):准确性,计算效率(速度和内存使用),易用性,并行性和可靠性。然而,经典方法仍然是估计谱范数的首选方法,并且在计算最小奇异值和相应的奇异向量(或奇异子空间)方面要优越得多。
2014-12-11 cs.MS stat.CO
Maximum Margin Principal Components
University of Waikato(怀卡托大学)
主成分分析(PCA)是一种非常成功的降维技术,广泛应用于预测建模。其在该领域中广泛使用的一个关键因素是数据集到其第一$K$主成分上的投影使原始数据与所有可能秩$K$投影上的投影数据之间的平方误差之和最小化。因此,PCA为标准建模假设下的最小二乘线性回归提供了数据的最佳低秩表示。另一方面,当预测问题的损失函数不是最小二乘误差时,PCA通常是降维的启发式选择-特别是对于0 - 1损失下的分类问题。在本文中,我们的目标分类问题,提出了一个简单的替代PCA,旨在最大限度地减少原始数据和投影数据之间的利润分布的差异。大量的实验表明,我们的简单方法在分类误差方面通常优于任何特定数据集上的PCA,尽管这种差异并不总是统计学上显著的,尽管是一种过滤方法,但在广泛的数据集上经常与偏最小二乘(PLS)和Lasso竞争。
2017-05-17 cs.LG stat.ML
Multivariate Functional Regression via Nested Reduced-Rank Regularization
本文提出了一种嵌套降秩回归(NRRR)方法,用于拟合具有多元函数响应和预测因子的回归模型,以实现定制的降维并便于解释/可视化所得到的函数模型。我们的方法是基于一个两级的低秩结构上的功能回归表面。一个全球低秩结构识别一小组潜在的主要功能反应和预测驱动的潜在回归关联。然后,局部低秩结构控制主要功能反应和预测因子之间关联的复杂性和平滑性。通过基扩展方法,函数问题归结为一个有趣的集成矩阵近似任务,其中集成低秩矩阵的块或子矩阵共享一些公共的行空间和/或列空间。提出了一种保证收敛的迭代算法。我们建立的一致性NRRR,并通过非渐近分析表明,它可以实现至少一个可比的误差率的降秩回归。仿真研究证明了NRRR的有效性。我们将NRRR应用于电力需求问题,将每日电力消耗的轨迹与每日温度的轨迹联系起来。
2020-03-10 stat.ME stat.ML
Maximally Correlated Principal Component Analysis
Stanford University(斯坦福大学)
在大数据时代,减少数据维度在许多科学领域都至关重要。广泛使用的主成分分析(PCA)通过计算最大程度地解释数据方差的低维数据嵌入来解决这个问题。然而,PCA有两个主要缺点。首先,它只考虑变量(特征)之间的线性相关性,其次它不适合分类数据。我们提出了最大相关主成分分析(MCPCA)来解决这些问题。MCPCA计算其协方差阵具有最大Ky Fan范数的变量的变换。变量变换是未知的,可以是非线性的,并且在优化中计算。MCPCA也可以被看作是最大相关的多变量扩展。对于联合高斯变量,我们表明,对应的身份(或负的身份)变换的协方差矩阵majorizes非单位函数的协方差阵。利用这一结果,我们的特点全球MCPCA优化联合高斯变量的非线性函数的每个秩约束。对于分类变量,我们的特点是全球MCPCA优化的秩一约束的基础上使用成对联合分布计算的矩阵的领导特征向量。对于一般的秩约束,我们提出了一个块坐标下降算法,并证明了其收敛到稳定点的MCPCA优化。我们比较了MCPCA与PCA和其他最先进的降维方法,包括Isomap,LLE,多层自编码器(神经网络),核PCA,概率PCA和扩散映射在几个合成和真实的数据集。我们表明,MCPCA始终提供了改进的性能相比,其他方法。
2017-02-21 cs.IT cs.LG math.IT
Sparse Equisigned PCA: Algorithms and Performance Bounds in the Noisy Rank-1 Setting
University of Michigan(密歇根大学);University of California, Davis(加州大学戴维斯分校)
基于奇异值分解(SVD)的主成分分析(PCA)在高维和有限的样本量范围内失效,低于取决于系统的维数和样本的样本个数的某个临界特征SNR。低于这个临界特征SNR,SVD返回的估计值与潜在主成分渐近不相关。我们考虑一种设置,其中底层秩一信号矩阵的左奇异向量被假设为稀疏的,并且右奇异向量被假设为等符号的,即,具有仅非负或仅非正的条目。我们考虑六种不同的算法,估计稀疏的主成分基于不同的统计标准,并证明,通过利用稀疏性,我们恢复相合估计在低特征信噪比制度的SVD失败。我们的分析揭示了条件下,一个基于\textit{sum-type decision statistic}的坐标选择方案优于计划,利用$\ell_1$和$\ell_2$规范为基础的统计。我们推导出主左奇异向量的可检测坐标的大小的下界,并利用这些下界推导出最坏情况下的风险的下界。最后,我们用数值模拟验证了我们的发现,并用视频数据示例说明了性能,其中兴趣在于识别对象。
2019-12-16 cs.LG eess.SP math.ST
Principal component analysis in econometrics: a selective inference perspective
本文从选择推断视角提出了一种数据驱动方法,用于经济计量学中主成分数量的确定,通过特征值分析实现渐近精确的I型错误控制。
2025-12-11 econ.EM stat.AP
A singular M-matrix perturbed by a nonnegative rank one matrix has positive principal minors; is it D-stable?
Donders Institute for Brain, Cognition and Behaviour, Radboud University Nijmegen(拉德堡德大学尼梅根大脑、认知与行为多德斯研究所);Department of Mathematics, FEW, VU university Amsterdam(阿姆斯特丹自由大学FEW数学系);Unit for BMI, North-West University(西北大学BMI单元)
研究奇异M矩阵在被非负秩一扰动后的正稳定性与D稳定性,特别情况下可以证明正稳定性或D稳定性,但一般情况无法成立,通过反例说明。然而,此类矩阵被证明为P矩阵。
2014-05-09 cs.NA math.NA math.RA
An iterative coordinate descent algorithm to compute sparse low-rank approximations
University Politehnica of Bucharest(布加勒斯特理工大学);University of Bucharest(布加勒斯特大学)
在本文中,我们描述了一个新的算法,建立一些稀疏的主成分从一个给定的数据矩阵。我们的方法不显式地创建数据的协方差矩阵,并且可以被视为Kogbetliantz算法的扩展,以建立几个主成分的近似奇异值分解。我们展示了所提出的算法的性能,从文献中的各种数据集上恢复稀疏主成分,并进行降维分类应用。
2021-07-30 cs.DS cs.LG cs.NA
Strongly Convex Programming for Principal Component Pursuit
the School of Electronic Engineering University of Electronic Science and Technology of China(电子科技大学电子工程学院);Department of Electrical Engineering, ESAT-SCD / IBBT - KU Leuven Future Health Department, KU Leuven(荷语鲁汶大学电气工程系、ESAT-SCD/IBBT未来健康部门)
本文针对降维线性测量下的主成分追踪问题,提出强凸规划模型,给出精确恢复低秩和稀疏矩阵的充分条件及参数选择建议。
2012-09-20 cs.IT cs.NA math.IT
Higher-order principal component analysis for the approximation of tensors in tree-based low-rank formats
Centrale Nantes, LMJL, UMR CNRS 6629(南特中央理工学院,LMJL,CNRS 6629联合研究单位)
本文研究了使用树基张量格式对张量进行近似的问题,提出了一种基于高阶奇异值分解变种的算法,通过点评估或多维数组部分评估来构建近似,并通过经验主成分分析估计最优子空间,以实现给定秩或相对误差的近似。
2018-04-19 cs.NA math.NA
Variational Bayesian Inference for Tensor Robust Principal Component Analysis
Department of Statistics and Data Science, Southern University of Science and Technology(统计与数据科学系,南方科技大学);Lingnan University(岭南大学);Key Laboratory of Computing and Stochastic Mathematics (LCSM), School of Mathematics and Statistics, Hunan Normal University(计算与随机数学重点实验室(LCSM),数学与统计学学院,湖南师范大学)
本文提出基于贝叶斯框架的TRPCA方法,通过整合低秩核范数和稀疏诱导先验,自动优化张量核范数并提升在混合噪声下的性能。
2026-01-14 cs.LG cs.NA math.NA
A Batch-Incremental Video Background Estimation Model using Weighted Low-Rank Approximation of Matrices
King Abdullah University of Science and Technology (KAUST)(阿卜杜拉国王科技大学);University of Central Florida(中佛罗里达大学);University of Edinburgh(爱丁堡大学)
本文提出一种批量增量视频背景估计模型,通过加权低秩近似改进传统方法,在实测和合成视频上优于GRASTA、ReProCS等算法。
2017-07-02 cs.CV cs.NA math.NA
Principal Component Analysis with Tensor Train Subspace
Purdue University(普渡大学)
本文提出TT-PCA算法,通过保持低秩张量结构来估计结构化的张量列车子空间,相比PCA和Tucker-PCA更具鲁棒性,实验验证其有效性。
2018-03-13 cs.CV cs.IT cs.LG
Accelerated Alternating Projections for Robust Principal Component Analysis
Department of Mathematics, University of California, Los Angeles(加州大学洛杉矶分校数学系);Department of Mathematics, Hong Kong University of Science and Technology(香港理工大学数学系);School of Data Science, Fudan University(复旦大学数据科学学院)
本文提出了一种加速交替投影算法,用于鲁棒主成分分析,显著提高了现有交替投影方法在更新低秩因子时的计算效率,并证明了该算法的精确恢复保证和线性收敛性。
2019-02-11 cs.IT cs.LG cs.NA
Principal submatrices, restricted invertibility and a quantitative Gauss-Lucas theorem
本文通过主子矩阵替代秩1分解,给出了受限可逆性结果的另一种证明,并展示了如何找到良好条件的列子矩阵,直至修改稳定秩。同时,得到一个关于复多项式临界点的定量高斯-卢卡斯定理变种。
2017-03-15 cs.NA math.CO math.FA