On the estimation of the number of components in multivariate functional principal component analysis
本文通过模拟研究探讨多元函数主成分分析中主成分个数的选择，发现传统方差解释阈值方法不可靠，建议谨慎使用。
2025-01-26 stat.ME stat.ML
Derivative Principal Component Analysis for Representing the Time Dynamics of Longitudinal and Functional Data
我们提出了一个非参数的方法来明确地建模和表示的衍生物的光滑的基本轨迹的纵向数据。这种表示是基于一个直接的Karhunen-Loève扩展的未观察到的衍生物，并导致衍生主成分分析的概念，补充功能主成分分析，最流行的工具之一的功能数据分析。建议的衍生主成分得分可以获得不规则间隔和稀疏观察的纵向数据，通常遇到的生物医学研究，以及密集测量的功能数据。新的一致性结果和渐近收敛速度的衍生主成分分数和模型的其他组件的建议估计的稀疏或密集的观测和温和的条件下，一个统一的计划。我们比较所提出的表示衍生工具与替代方法在模拟设置，也在一个小袋鼠生长曲线的应用。它出现的表示使用所提出的衍生主成分分析恢复底层衍生物更准确地相比，主成分分析为基础的方法，特别是在设置中的功能数据表示只有非常少量的组件或密集采样。在第二个小麦光谱分类的例子中，衍生主成分分数被发现是更好的预测小麦的蛋白质含量比传统的功能主成分分数。
2017-07-14 math.ST stat.ME stat.TH
On optimal allocation of treatment/condition variance in principal component analysis
主成分分析（PCA）中条件效应分配错误（方差分配错误）的问题已在脑电事件相关电位研究中得到解决。然而，PCA组件的条件效应的正确分配可能是相关的几个领域的研究。本文探讨是否在每个条件水平的不同加载模式的基础上，主成分的条件间方差的最优分配。事实证明，在每个条件水平相似的加载形状是条件间方差的最优分配的必要条件，而类似的加载幅度是不必要的。
2018-04-19 stat.AP stat.ME
Sparse Principal Component Analysis: a Least Squares approximation approach
稀疏主成分分析的目的是找到具有很少非零载荷的主成分。我们得到这样的稀疏的解决方案，通过添加一个真正的稀疏性要求，原来的主成分分析（PCA）的目标函数。这种方法与其他方法不同，因为它保留了PCA的原始最优性：分量的\uns \和数据的最小二乘近似。为了确定非零负载的最佳子集，我们提出了一个分支定界搜索和迭代消除算法。最后一个算法发现稀疏的解决方案与大负载，可以运行，而无需指定的基数的负载和组件的数量来计算提前。我们与现有的稀疏PCA方法和几个真实数据集上的例子进行了全面的比较。
2014-08-17 stat.ME
Principal Component Analysis versus Factor Analysis
Warsaw School of Computer Science（华沙计算机科学学校）
本文讨论了与主成分分析（PCA）和因子分析（FA）有关的选定问题。特别是，这两种类型的分析进行了比较。还提出了PCA和FA的向量解释。详细讨论了主成分分析中主成分个数和FA中因子个数的确定问题。一个新的标准，用于确定的因素和主成分的数量进行了讨论，这将允许目前大多数的方差的每个分析的主要变量。提出了一种有效的算法来确定FA中的因子的数量，它符合这个标准，也提出了。该算法适用于主成分分析中主成分个数的确定。还提出了使用确定主成分数目的新方法来修改PCA算法。对所得结果进行了讨论。
2021-10-21 cs.LG stat.ME
Principal Component Projection Without Principal Component Analysis
Stanford University（斯坦福大学）；MIT（麻省理工学院）；Microsoft Research, New England（新英格兰微软研究院）
我们展示了如何有效地将向量投影到矩阵的顶部主成分上，而无需显式计算这些成分。具体来说，我们引入了一个迭代算法，可证明使用几个调用任何黑盒例程岭回归计算的投影。通过避免显式主成分分析（PCA），我们的算法是第一个没有运行时依赖于顶部主成分的数量。我们表明，它可以用来给一个快速的迭代法流行的主成分回归问题，给出了第一个主要的运行时改进的天真的方法相结合的PCA回归。为了实现我们的结果，我们首先观察到岭回归可以用于获得到顶部主成分上的“平滑投影”。然后，我们锐化这种近似真实的投影使用低次多项式近似矩阵阶跃函数。阶跃函数逼近是科学计算中一个长期关注的课题。我们通过构造具有简单迭代结构的多项式并在有限精度下严格分析其行为来扩展先验理论。
2019-11-26 cs.DS cs.LG stat.ML
A note on the prediction error of principal component regression
分析了主成分回归（PCR）的预测误差，证明了相应的平方风险的非渐近上界。在温和的假设下，我们表明，PCR执行以及通过取代经验的主成分由他们的人口同行所获得的预言方法。我们的方法依赖于主成分分析的超额风险上界。
2019-04-16 math.ST stat.TH
Sparse principal component regression via singular value decomposition approach
The University of Electro-Communications（电气通信大学）
主成分回归（PCR）是一个两阶段的过程：第一阶段执行主成分分析（PCA），第二阶段构建回归模型，其解释变量由第一阶段获得的主成分代替。由于PCA仅使用解释变量进行，因此主成分没有关于响应变量的信息。为了解决这个问题，我们提出了一个单阶段的PCR过程中的奇异值分解方法。我们的方法是基于两个损失函数，回归损失和PCA损失，稀疏正则化。所提出的方法使我们能够获得主成分负荷，拥有解释变量和响应变量的信息。提出了一种利用乘子交替方向法的估计算法。我们进行数值研究，以显示所提出的方法的有效性。
2020-02-21 cs.LG stat.ME stat.ML
New Interpretation of Principal Components Analysis
对主成分分析提出了新的看法。首先给出了决定系数的几何解释。反过来，以易于理解的基本几何结构的形式表示分析数据及其相互依赖性的能力也得到了展示。作为这些结构的分析结果，它被建议，以丰富经典的PCA。特别是，它提出了一个新的标准，选择重要的主成分和一个新的算法聚类的主要变量的相似程度的主成分。虚拟和真实的数据空间，以及张量操作的数据，也已确定的数据的各向异性。
2017-11-10 stat.ME
Hybrid principal component analysis in multivariate allometric regression
Kyushu University（九州大学）；Keio University（庆应义塾大学）
针对异速数据中小特征值接近导致的不稳定性，提出混合主成分分析估计量渐近正态性，并基于几何统计量检验回归方向与主成分方向的平行性，应用于龟壳数据验证性别间异速关系。
2026-07-01 stat.ME
Generalized Spherical Principal Component Analysis
离群值污染数据集是对统计估计器的挑战。即使是一小部分离群观测值也会严重影响大多数经典统计方法。在本文中，我们提出了广义球面主成分分析，一个新的稳健版本的主成分分析，是基于广义空间符号协方差阵。支持所提出的方法，包括影响函数，击穿值和渐近有效性的理论性质进行了研究，并进行了仿真研究，比较我们的新方法与现有的方法。我们还提出了一个调整的广义空间符号协方差阵，以实现更好的Fisher一致性属性。我们说明，广义球面主成分分析，取决于所选择的径向函数，具有很大的鲁棒性和效率特性，除了一个低的计算成本。
2023-03-10 stat.ME
A Generalization of Principal Component Analysis
传统的主成分分析（PCA）找到一个主向量，最大化主成分的二次幂和。我们考虑一个广义PCA，其目的是最大化的主成分的任意凸函数的总和。我们提出了一个梯度上升算法来解决这个问题。对于广义PCA的核版本，我们证明了解决方案可以作为一个简单的单层递归神经网络的不动点。我们还在不同的数据集上评估了我们的算法。
2019-11-15 cs.LG eess.SP stat.ML
Sparse principal component analysis for high-dimensional stationary time series
本文研究高维平稳过程的稀疏主成分分析。当过程的维数较大时，标准主成分分析表现不佳。建立了含重尾时间序列的惩罚主成分估计的预言不等式。建立了估计量的收敛速度收敛速率。我们还阐明了在惩罚估计中选择调整参数的理论速率。通过数值模拟证明了稀疏主成分分析的性能。稀疏主成分分析对时间序列数据的实用性通过应用于平均温度数据来举例说明。
2021-09-16 math.ST stat.TH
Localized Sparse Principal Component Analysis of Multivariate Time Series in Frequency Domain
Department of Biostatistics & Bioinformatics, Emory University（埃默里大学生物统计与生物信息学系）；University of Pittsburgh（匹兹堡大学）
本文提出一种在频域中对高维时间序列进行可解释主成分分析的方法，通过开发高效的频域序列算法，实现稀疏局部化的主成分估计，用于理解精神分裂症患者的神经机制。
2026-03-18 stat.ME stat.ML
A unified framework of principal component analysis and factor analysis
本文提出一个连接主成分分析与因子分析的统一框架，从损失函数最小化视角将两者视为特定损失函数下矩阵优化问题的解，并探讨了相关算法与模型，为数据分析提供新工具。
2024-05-30 stat.ME
Principal component-guided sparse regression
我们提出了一种新的监督学习方法，特别适合于特征数量远远大于观测数量的宽数据。该方法结合了套索（$\ell_1$）稀疏惩罚与二次惩罚，缩小系数向量的特征矩阵的领先的主成分。我们称所提出的方法为“主成分套索”（“pcLasso”）。如果特征被预先分配到组（例如细胞通路、测定或蛋白质相互作用网络），则该方法可以特别强大。在这种情况下，pcLasso会将解的每个分组分量缩小到该组的领先主分量。在此过程中，还进行了特征组的选择。我们提供了一些理论，这种方法，并说明它的一些模拟和真实数据的例子。
2018-10-24 stat.ME stat.ML
Tutorial on principal component analysis, with applications in R
本教程回顾了多元数据集的主成分分析的主要步骤，以及随后在确定主导主成分的基础上进行的降维。底层计算通过统计软件包R中编写的脚本进行演示和执行。
2021-12-08 stat.AP stat.OT
Weighted principal component analysis: a weighted covariance eigendecomposition approach
本文提出了一种新的基于加权方差-协方差矩阵对角化的直接主成分分析（PCA）方法，通过两种谱分解方法：幂迭代和Rayleigh商迭代。该方法允许检索给定数量的正交主成分之间的最有意义的加权和/或缺失数据的问题的情况下。然后通过将主成分拟合到数据来检索主系数，同时提供最终分解。对真实和模拟案例进行的测试表明，我们的方法是最佳的识别数据集内的最显着的模式。我们说明了这种方法的有用性，通过评估其质量的外推斯隆数字巡天类星体光谱从测得的波长较短和较长的波长。我们的新算法还受益于快速灵活的实现。
2014-12-15 astro-ph.IM stat.ME
Near-Optimal Stochastic Approximation for Online Principal Component Estimation
主成分分析（PCA）是高维数据分析的重要工具。通过处理流数据来估计主成分的在线算法具有巨大的实际和理论意义。尽管其丰富的应用，理论上的收敛分析仍然在很大程度上是开放的。本文将在线PCA问题转化为随机非凸最优化问题，并将在线PCA算法分析为随机逼近迭代。随机逼近迭代递增地处理数据点并保持主成分的运行估计。我们证明了第一次几乎最佳的有限样本误差界的在线PCA算法。在亚高斯假设下，我们证明了有限样本误差界与极大极小信息下界密切匹配。
2017-10-05 math.OC stat.ML
Principal Component Analysis in the Graph Frequency Domain
提出图频域主成分分析方法，通过闭式重构降低多变量图信号维度并引入图谱包络识别公共频率，经模拟与首尔地铁数据验证有效。
2024-10-10 stat.ME
Modularity Component Analysis versus Principal Component Analysis
本文给出了模块度矩阵的首特征向量与非中心数据矩阵的奇异向量之间的精确线性关系。在此基础上定义了模块化构件的概念，并研究了其性质。结果表明，模块化成分分析可以用于聚类数据类似于传统的主成分分析是如何使用的，除了模块化成分分析不需要数据中心。
2016-02-19 stat.ML
Generalized Principal Component Analysis
Harvard University（哈佛大学）
广义主成分分析（GLM-PCA）有利于非正态分布数据的降维。我们提供了一个详细的推导GLM-PCA的重点是优化。我们还演示了如何将协变量，并建议后处理转换，以提高潜在因素的可解释性。
2019-07-03 cs.LG stat.ML
Sparse Principal Component Analysis with missing observations
本文研究了高维情形下的稀疏主成分分析问题。我们的目标是当我们只能获得部分观测值时估计第一主成分。现有的估计技术通常来自充分观察的数据集，并需要先验知识的稀疏性的第一主成分，以实现良好的统计保证。我们的贡献是三方面的。首先，我们建立了具有缺失观测的稀疏PCA问题的第一信息论下界。其次，我们提出了一个简单的程序，不需要任何先验知识的稀疏性未知的第一个主成分或任何填补的缺失的意见，适应未知的稀疏性的第一个主成分，并达到最佳估计率的对数因子。第三，如果感兴趣的协方差阵允许稀疏的第一主成分并且另外近似低秩，则我们可以导出在高维中计算上易于处理的完全数据驱动的过程，适应于第一主成分的未知稀疏性并且是统计上最优的（直到对数因子）。
2012-06-01 math.ST stat.TH
On the Error-Propagation of Inexact Hotelling's Deflation for Principal Component Analysis
Rice University（莱斯大学）
本文数学刻画了PCA中非精确Hotelling消减法的误差传播，分别在抽象子程序和幂迭代两种场景下给出了误差演进界，并利用幂迭代方向信息获得了更紧的误差界。
2024-05-29 cs.LG math.OC stat.ML
Principal Component Analysis for Equation Discovery
本文提出利用PCA的最后几个主成分反映常数组合的特性来发现潜在自然规律，通过选择准则识别相关特征向量，成功发现了Kepler第三定律和测高方程。
2024-01-09 stat.ME
Generalized dynamic functional principal component analysis
Universiti Malaya（马来亚大学）；Université de Lille（里尔大学）；New York University Abu Dhabi（纽约大学阿布扎比分校）；CNRS（法国国家科学研究中心）；Inria
本文提出广义动态功能主成分分析方法，用于功能时间序列的降维，不依赖谱密度估计，在平稳和非平稳数据中均表现出良好的性能。
2026-02-23 stat.ME
Dimension Reduction in Principal Component Analysis for Trees
树型结构数据的统计分析是统计学中的一个新课题，有着广泛的应用前景。一些主成分分析（PCA）的想法是以前开发的二叉树空间。在这项研究中，我们将这些想法扩展到更一般的空间的根和标记的树。我们重新定义的概念，如树线和前向主成分树线这个更一般的空间，并推广的最佳算法，找到他们。然后，我们开发了一个模拟的经典降维技术在PCA的树空间。为了做到这一点，我们定义了携带树数据集的最小变化量的成分，称为向后主成分。我们提出了一个最优算法来找到它们。此外，我们调查这些前向主成分的关系，并证明了前向和后向技术之间的路径无关性。我们将我们的方法应用于98名受试者的脑动脉数据集。利用我们的技术，我们调查了衰老如何影响男性和女性的脑动脉结构。我们还分析了美国一家大型公司的组织结构数据集，并探讨了公司内部不同类型部门的结构差异。
2012-02-10 stat.ME
Evaluation of population structure inferred by principal component analysis or the admixture model
主成分分析（PCA）是遗传学中常用的一种方法，用于推断和可视化种群结构和种群间的混合。PCA通常被解释为类似于推断混合比例的方式，其中假设个体属于几个可能的种群之一或在这些种群之间混合。我们提出了一种新的方法来评估PCA的统计拟合（解释为由顶部主成分跨越的模型），并表明违反PCA假设会影响拟合。我们的方法使用所选择的顶部主成分来预测基因型。通过评估残差的协方差（和相关性）（观察到的和预测的基因型之间的差异），我们能够检测模型假设的违反。基于模拟和全基因组的人类数据，我们表明，我们的评估适合可以用来指导数据的解释，并查明个人没有很好地代表所选择的主成分。我们的方法同样适用于其他类似的模型，如混合模型，其中数据的平均值由线性矩阵分解表示。
2023-02-09 stat.ME
Multiscale principal component analysis
主成分分析（PCA）是一种重要的数据挖掘工具。PCA的传统方法导致有利于具有大方差的结构的解决方案。这对异常值很敏感，可能会混淆有趣的底层结构。PCA的一个等价定义是，它寻找最大化数据投影之间的平方成对距离之和的子空间。这一定义为主成分分析提供了更大的灵活性，这对增强主成分分析很有用。在本文中，我们引入PCA尺度最大化的距离在选定的区间内的值[l，u]的数据点对的投影之间的成对距离的总和。在多尺度PCA中得到的主成分分解取决于平面上的点（l，u），并且对于每个点，我们定义投影到主成分上。这些投影仪的聚类分析揭示了数据在不同尺度上的结构。每个结构由代表该结构的簇的中心点处的特征向量来描述。我们还使用预测的失真作为选择适当尺度的标准，特别是对于具有离群值的数据。该方法在人工分布数据和真实数据上进行了测试。对于具有多尺度结构的数据，该方法能够揭示数据的不同结构，并能减少主成分分析中离群值的影响。
2013-07-31 stat.ME
Supervised Principal Component Regression for Functional Responses with High Dimensional Predictors
针对函数型响应与高维预测变量的关联建模，提出监督主成分回归，通过稀疏同步线性回归等价求解非凸广义瑞利商问题，并给出子空间恢复条件、非渐近误差界及实证优势。
2023-08-15 stat.ME
Principal component analysis and the locus of the Frechet mean in the space of phylogenetic trees
大多数生物数据是多维的，这对人类的理解和计算分析构成了重大挑战。主成分分析是在这种多维数据中呈现主要趋势的二维或三维表示的最流行的方法。多维性的问题在快速发展的基因组学领域是尖锐的。进化关系由系统发育树表示，并且非常典型的是，一个单基因组分析导致这样的树的集合，每个树对应于分析中的每个基因。主成分分析提供了一种通过降维来量化变异和总结变异集合的方法。然而，在一个固定的物种集合上的所有可能的共生空间并不构成一个欧氏向量空间，因此主成分分析必须在树空间的几何中重新表述，树空间是一个CAT（0）测地度量空间。以前的工作主要集中在第一个主成分，或主测地线的建设。在这里，我们提出了一个几何对象，它代表了$k$阶主成分：轨迹的加权Fréchet平均值的$k+1$点在树空间中，其中的权重不同的标准$k$维单纯形。我们建立这些对象的基本属性，特别是当地他们一般有尺寸$k$，我们提出了一个有效的算法投影到这些表面上。该投影算法与随机最优化算法相结合，给出了在树空间中构造任意阶主成分的过程。仿真研究证实这些算法表现良好，并将其应用于Apicomplexa基因树和非洲腔棘鱼基因组的数据集。结果使树空间的切片可视化，揭示了这些复杂数据集内的结构。
2016-09-10 stat.ME
Globally aligned Principal Component Analysis for multi-group data
针对多组数据集测量相同数值变量的情况，提出基于正则化优化的全局对齐主成分分析方法，结合特定组与全局主成分，通过模拟研究和实际数据应用，在捕获组内变化与保持组间可解释性和稳定性间取得良好平衡。
2026-07-29 stat.ME
A novel principal component analysis for spatially-misaligned multivariate air pollution data
我们提出了新的方法预测（稀疏）PCA与空间错位的数据。这些方法识别主成分载荷向量，其解释观测数据中尽可能多的可变性，同时还确保在空气污染测量不可用的位置处通过空间统计学可以准确地预测对应的主成分分数。这将使得有可能确定空气污染物的重要混合物，并在无法使用现有方法的队列研究中量化其健康影响。我们证明了预测（稀疏）PCA在模拟数据中的实用性，并将该方法应用于国家环境保护局（EPA）监管监测器的颗粒物形态数据的年平均值。
2015-09-03 stat.ME
A Bias Trick for Centered Robust Principal Component Analysis
The University of Texas at Dallas（德克萨斯大学达拉斯分校）
基于离群值的鲁棒主成分分析（RPCA）需要对非离群值进行中心化。我们展示了一个“偏差技巧”，自动将这些非离群值集中起来。使用这种偏置技巧，我们获得了第一个RPCA算法，这是最佳的中心。
2019-11-19 cs.LG stat.ML
Dynamic principal component regression: Application to age-specific mortality forecasting
在应用领域，包括精算学和人口学，越来越普遍地考虑曲线的时间序列;这方面的一个例子是在若干年期间观察到的按年龄划分的死亡率。考虑到年龄可以被视为离散或连续变量，通常实施诸如主成分分析的降维技术。然而，在存在中等到强的时间依赖性的情况下，通常用于分析独立同分布数据的静态主成分分析可能是不够的。作为一种替代方案，我们考虑一个\textit{dynamic}主成分的方法来模拟时间依赖的时间序列的曲线。受Brillinger（1974）的动态主成分理论的启发，本文提出了一种基于估计长期协方差的特征分解的动态主成分分析。通过一系列的实证应用，我们证明了潜在的改善一年提前点和区间预测精度的动态主成分回归需要相比，静态对应。
2019-05-10 stat.AP
A robust approach for principal component analyisis
在本文中，我们分析了不同的方式执行主成分分析通过三种不同的方法：鲁棒协方差和相关阵估计，投影寻踪方法和非参数最大熵算法。这些方法的目的是纠正主成分分析的经典方法对异常值的众所周知的敏感性。由于它们的鲁棒性，它们在污染数据中表现得非常好，而经典方法无法保持核心信息的特征。
2019-02-28 math.ST stat.TH
When are the most informative components for inference also the principal components?
University of Michigan（密歇根大学）
信号加噪声数据矩阵的奇异值分解的哪些分量对于检测或估计嵌入式低秩信号矩阵的推理任务来说信息量最大？主成分分析将更大的重要性归于捕获最大变化的成分，即，与最大奇异值相关联的奇异向量。这种选择通常通过调用Eckart-Young定理来证明，即使该工作解决了如何使用低秩近似最好地表示信号加噪声矩阵的问题，而不是如何最好地推断潜在的低秩信号分量。在这里，我们采取的第一原理的方法，我们开始与信号加噪声的数据矩阵，并显示如何频谱的噪声只占主导地位的奇异值分解的数据矩阵的主要或中间组件将是信息组件的推断。简单地说，如果噪声谱支持在一个连接的区间上，在某种意义上，我们使精确，那么使用主成分是合理的。当噪声频谱在多个间隔上得到支持时，中间分量可能比主分量提供更多信息。最终结果是在噪声矩阵为i.i.d.的设置中使用主成分的适当理由。高斯和场景的识别，一般涉及异质噪声模型，例如高斯混合，其中中间分量可能比主分量信息更多，因此可以利用它们来提取额外的处理增益。我们的研究结果表明，如何盲目使用主成分可能会导致次优甚至错误的推理，因为相变，分离的制度，其中的主成分是信息的制度，他们是无信息的。
2013-02-05 cs.DS cs.IT cs.LG
Inference for Model Misspecification in Interest Rate Term Structure using Functional Principal Component Analysis
水平、斜率和曲率是利率期限结构的三个常用的主成分，因此在建模中得到了广泛的应用。本文的特点是异质性如何错误指定这些模型是通过时间。将Nelson-Siegel模型中的标准正交基解释为三个因子，设计了两个非参数检验，分别考虑特征函数的排序和不考虑特征函数的排序，检验标准正交基是否等价于数据驱动的函数主成分基。最终，我们发现两个基地之间的高离散度时，罕见的事件发生，这表明偶尔的错误，即使该模型是整体表达。
2022-12-21 econ.EM math.FA math.ST
Adjusting systematic bias in high dimensional principal component scores
主成分分析一直是高维数据降维的有力工具。我们假设一个方差发散模型，并使用高维，低样本量的渐近性，即使主成分方向是不一致的，样本和预测的主成分得分可以在揭示人口结构是有用的。我们进一步表明，这些分数是有偏见的，和偏见是渐近分解成旋转和缩放部分。我们提出的方法，偏差调整，被证明是一致的，并在高维的情况下，小样本量。在分类设置中证明了偏差调整的潜在优势。
2020-09-25 math.ST stat.TH
Analysis of multiple data sequences with different distributions: defining common principal component axes by ergodic sequence generation and multiple reweighting composition
主成分分析（PCA）定义了一个由PC轴描述的多维数据序列的减少空间，以捕捉数据的变化。在实践中，我们需要多个数据序列，精确地服从各个概率分布，并且为了对序列进行公平比较，我们需要PC轴，该PC轴对于多个序列是共同的，但适当地捕获这些多个分布。对于这些要求，我们提出了个人遍历采样这些序列，并提供特殊的重新加权恢复目标分布。
2021-04-16 physics.bio-ph stat.ME
Principal Component Analysis for Functional Data on Riemannian Manifolds and Spheres
Functional data analysis on nonlinear manifolds has drawn recent interest. Sphere-valued functional data, which are encountered for example as movement trajectories on the surface of the earth, are an important special case. We consider an intrinsic principal component analysis for smooth Riemannian manifold -valued functional data and study its asymptotic properties. Riemannian functional principal component analysis (RFPCA) is carried out by first mapping the manifold-valued data through Riemannian logarithm maps to tangent spaces around the time-varying Fréchet mean function, and then perfo…
2017-10-24 math.ST stat.TH
Sparse principal component analysis and iterative thresholding
主成分分析（PCA）是一种经典的降维方法，它将数据投影到由协方差阵的前导特征向量所构成的主子空间上。然而，当特征数量p与样本量n相当或甚至比其大得多时，其表现较差。在本文中，我们提出了一个新的迭代阈值方法估计主子空间的设置中的领导特征向量稀疏。在尖峰协方差模型下，我们发现新方法在一系列高维稀疏设置中一致地恢复了主子空间和前导特征向量，甚至是最优的。仿真算例也证明了该算法的优越性。
2013-05-24 math.ST stat.ME stat.TH
Sparse principal component analysis via axis-aligned random projections
我们介绍了一种新的方法，稀疏主成分分析的基础上聚集的特征向量信息从精心选择的轴对齐的随机投影的样本协方差阵。与大多数替代方法不同，我们的算法是非迭代的，所以不容易受到初始化选择不好的影响。我们提供了理论保证下，我们的主子空间估计可以达到最小最大的最优收敛速度在多项式时间。此外，我们的理论提供了一个更精细的理解稀疏主成分估计的问题中的统计和计算的权衡，揭示了一个微妙的相互作用之间的有效样本量和随机投影的数量，需要达到最小最大的最优速率。数值研究提供了进一步的洞察过程，并确认其极具竞争力的有限样本性能。
2019-05-06 math.ST stat.ME stat.ML
Fast, Exact Bootstrap Principal Component Analysis for p>1 million
许多人提出了一个自助程序估计抽样变异的主成分分析（PCA）的结果。然而，当每个受试者的测量次数（$p$）远大于受试者的数量（$n$）时，计算和存储来自每个自举样本的前导主成分的挑战在计算上是不可行的。为了解决这个问题，我们概述了快速，准确计算自助主成分，特征值和分数的方法。我们的方法利用了这样一个事实，即所有引导样本占用相同的$n$维子空间作为原始样本。结果，所有的引导主成分被限制到相同的$n$维子空间，并且可以有效地由它们在该子空间中的低维坐标表示。可以仅基于这些低维坐标的自举分布来计算若干不确定性度量，而不计算或存储$p$维自举分量。将快速自举PCA应用于睡眠脑电图（EEG）记录数据集（$p=900$，$n=392$）和脑磁共振图像（MRI）数据集（$p\approx$ 300万，$n=352$）。对于脑MRI数据集，我们的方法允许基于1000个自举样本的前3个主成分的标准误在47分钟内在标准笔记本电脑上计算，而标准方法大约需要4天。
2014-05-14 stat.AP stat.CO stat.ME
Functional Principal Component Analysis for Cointegrated Functional Time Series
本文研究如何将函数主成分分析（FPCA）用于协整函数时间序列，提出一种改进的FPCA方法，既能更有效地估计协整向量，又能构建检验协整函数时间序列基本性质的新检验。
2023-04-17 econ.EM math.ST stat.ME
HeMPPCAT: Mixtures of Probabilistic Principal Component Analysers for Data with Heteroscedastic Noise
混合概率主成分分析（MPPCA）是主成分分析（PCA）的一种著名的混合模型扩展。与PCA类似，MPPCA假设每个混合物中的数据样本包含同方差噪声。然而，样本间具有异质噪声的数据集变得越来越普遍，因为通过从具有不同噪声分布的多个源收集样本来生成较大的数据集。MPPCA的性能是次优的异方差噪声跨样本的数据。本文提出了一种异方差混合的概率PCA技术（HeMPPCAT），使用广义期望最大化（GEM）算法联合估计未知的潜在因素，手段，和噪声方差下的异方差噪声设置。仿真结果表明，与MPPCA相比，HeMPPCAT的因子估计和聚类精度得到了提高.
2023-01-25 eess.SP stat.ME stat.ML
Principal Component Analysis: A Generalized Gini Approach
提出了一种基于广义基尼相关指数的主成分分析方法（Gini PCA）。Gini PCA是基于方差的标准PCA的推广。它示出，在高斯的情况下，标准的PCA是等效的基尼PCA。它还证明了基于广义基尼相关矩阵的降维，依赖于城市街区的距离，是强大的离群值。蒙特卡罗模拟和应用程序的汽车数据（离群值）显示了基尼PCA的鲁棒性，并提供不同的解释相比，方差PCA的结果。
2019-10-22 econ.EM stat.CO stat.ME
Robust Principal Component Analysis Based On Maximum Correntropy Power Iterations
Imperial College London（帝国理工学院）
主成分分析（PCA）被认为是描述数据集特征之间线性关系的典型数据分析技术。然而，PCA对非高斯样本和/或离群值的众所周知的敏感性通常使其在实践中不可靠。为此，一个强大的PCA公式推导出基于最大相关熵准则（MCC），以最大限度地提高高斯分布的重建误差的预期可能性。通过这种方式，所提出的解决方案减少到广义幂迭代，从而：（i）即使在存在离群值的情况下也可以获得主成分的鲁棒估计;（ii）不需要预先指定主成分的数量;以及（iii）可以获得整个主成分集合，这与现有方法不同。通过一个直观的数值算例说明了最大相关熵幂迭代法的优点。
2019-10-24 cs.IT cs.LG eess.SP
A Dual Formulation for Probabilistic Principal Component Analysis
KU Leuven（鲁汶大学）
该研究提出概率主成分分析的希尔伯特空间对偶表示，构建核方法生成框架，证明其涵盖核主成分分析，并通过模拟与真实数据集验证有效性。
2023-07-19 cs.LG stat.ML
Determining Principal Component Cardinality through the Principle of Minimum Description Length
Facebook Research（脸书研究院）
PCA（Principal Component Analysis）及其变体是矩阵降维和降维潜在因子提取的普遍技术。使用PCA的一个重要挑战是主成分数量的选择。信息论的最小描述长度（MDL）原则为模型选择提供了基于压缩的客观标准，但很难将其现代定义--归一化最大似然（NML）--应用于PCA问题。这项工作显示了NML问题的一般减少到低维问题。应用这一约简，它用已知的线性回归的NML项来界定PCA的NML。
2019-06-29 cs.LG stat.ML
Clustering of Gamma-Ray bursts through kernel principal component analysis
我们认为有关的问题聚类的伽玛射线暴（从“BATSE”目录），通过内核主成分分析，我们提出的内核优于其他主管内核的聚类精度方面的结果，我们得到三个物理解释组的伽玛射线暴。在两个模拟数据集的有效性，同时降低了数据的维数，建议的内核结合内核主成分分析揭示自然集群在噪声和非线性数据。
2017-03-16 astro-ph.HE astro-ph.IM stat.AP
Principal Component Classification
Maynooth University（梅努斯大学）
我们建议直接计算分类估计学习特征编码与他们的类得分使用PCA。我们得到的模型有一个适合监督学习的编码器-解码器结构，它是计算效率高，并在多个数据集上进行分类。
2022-10-26 cs.CV cs.LG stat.ML
A note on the prediction error of principal component regression in high dimensions
本文分析了高维主成分回归（PCR）的预测误差，证明了给定设计下平方风险的高概率界，揭示了有效秩条件对PCR与预言方法表现对比的影响及违反时的自诱导正则化现象。
2024-01-02 math.ST stat.TH
Fast Ridge Regression with Randomized Principal Component Analysis and Gradient Descent
提出了一种新的求解大规模回归问题的两阶段算法LING。在固定设计设置下，LING与众所周知的岭回归具有相同的风险，并且可以更快地计算。我们的实验表明，与其他大规模回归算法（如梯度下降，随机梯度下降和主成分回归）相比，LING在模拟和真实数据集上的预测精度和计算效率方面都表现良好。
2014-05-15 stat.ML
