Principal Component Analysis for Functional Data on Riemannian Manifolds and Spheres
Functional data analysis on nonlinear manifolds has drawn recent interest. Sphere-valued functional data, which are encountered for example as movement trajectories on the surface of the earth, are an important special case. We consider an intrinsic principal component analysis for smooth Riemannian manifold -valued functional data and study its asymptotic properties. Riemannian functional principal component analysis (RFPCA) is carried out by first mapping the manifold-valued data through Riemannian logarithm maps to tangent spaces around the time-varying Fréchet mean function, and then perfo…
2017-10-24 math.ST stat.TH
A note on the prediction error of principal component regression in high dimensions
本文分析了高维主成分回归（PCR）的预测误差，证明了给定设计下平方风险的高概率界，揭示了有效秩条件对PCR与预言方法表现对比的影响及违反时的自诱导正则化现象。
2024-01-02 math.ST stat.TH
Approximating the Span of Principal Components via Iterative Least-Squares
在上个世纪的过程中，主成分分析（PCA）已经成为现代科学方法的支柱之一。虽然PCA通常被视为一种统计工具，旨在寻找方差最大化的正交方向，但Pearson在1901年首次引入PCA是通过定义一个非线性最小二乘最小化问题来完成的，该问题将平面拟合到分散的数据点。因此，PCA和线性最小二乘回归在某种程度上是相关的，因为它们都旨在将平面拟合到数据点。在本文中，我们提出了两种方法之间的连接。具体来说，我们提出了一种迭代线性最小二乘方法，产生一系列子空间，它收敛到由领先的主成分（即，主空间）。
2019-07-28 math.ST stat.TH
Asymptotics for Model Selection in Probabilistic Principal Component Analysis
Technical University of Munich（慕尼黑工业大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）；University of Alberta（阿尔伯塔大学）；KU Leuven（荷语鲁汶大学）
本研究利用奇异学习理论工具，推导了概率主成分分析（PPCA）的边缘似然渐近性质，提出结合奇异贝叶斯信息准则（sBIC）的有效模型选择方法，可选择主成分数量，还可在PPCA与因子分析间选择，经模拟和真实数据验证有效。
2026-08-25 math.ST stat.TH
Quantifying the Estimation Error of Principal Components
主成分分析是一种重要的模式识别和降维工具。主成分被计算为最大似然协方差$\widehatΣ$的特征向量，该最大似然协方差近似于总体协方差$Σ$，并且这些特征向量通常用于提取关于所研究的总体的变量（或属性）的结构信息。由于PCA基于代理协方差$\widehatΣ$的特征分解，而不是地面实况$Σ$，因此理解每个个体特征向量中的近似误差作为可用样本数量的函数是很重要的。Kolchinskii和Lounici最近的结果给出了这样的界限。在本文中，我们锐化这些界限，并表明，特征向量往往可以重建到所需的精度从一个样本的严格较小的大小顺序。
2017-10-27 math.ST stat.TH
Consistency of Sparse PCA in High Dimension, Low Sample Size Contexts
稀疏主成分分析（PCA）方法是对复杂数据进行降维（或变量数目）的有效工具。稀疏主成分（PC）比传统的PC更容易解释，因为大多数载荷为零。我们研究了这些稀疏PC方向的渐近性质的情况下，固定样本量和增加的维度（即高维，低样本量（HDLSS））。在先前研究的尖峰协方差假设下，我们表明稀疏PCA在先前为传统PCA建立的相同大尖峰条件下保持一致。在广泛的小尖峰条件下，我们发现了一个大的稀疏性假设，稀疏PCA是一致的，但PCA是强烈不一致的。一致性区域的边界使用一个oracle结果来澄清。
2011-04-21 math.ST stat.TH
Derivative Principal Component Analysis for Representing the Time Dynamics of Longitudinal and Functional Data
我们提出了一个非参数的方法来明确地建模和表示的衍生物的光滑的基本轨迹的纵向数据。这种表示是基于一个直接的Karhunen-Loève扩展的未观察到的衍生物，并导致衍生主成分分析的概念，补充功能主成分分析，最流行的工具之一的功能数据分析。建议的衍生主成分得分可以获得不规则间隔和稀疏观察的纵向数据，通常遇到的生物医学研究，以及密集测量的功能数据。新的一致性结果和渐近收敛速度的衍生主成分分数和模型的其他组件的建议估计的稀疏或密集的观测和温和的条件下，一个统一的计划。我们比较所提出的表示衍生工具与替代方法在模拟设置，也在一个小袋鼠生长曲线的应用。它出现的表示使用所提出的衍生主成分分析恢复底层衍生物更准确地相比，主成分分析为基础的方法，特别是在设置中的功能数据表示只有非常少量的组件或密集采样。在第二个小麦光谱分类的例子中，衍生主成分分数被发现是更好的预测小麦的蛋白质含量比传统的功能主成分分数。
2017-07-14 math.ST stat.ME stat.TH
Sparse principal component analysis and iterative thresholding
主成分分析（PCA）是一种经典的降维方法，它将数据投影到由协方差阵的前导特征向量所构成的主子空间上。然而，当特征数量p与样本量n相当或甚至比其大得多时，其表现较差。在本文中，我们提出了一个新的迭代阈值方法估计主子空间的设置中的领导特征向量稀疏。在尖峰协方差模型下，我们发现新方法在一系列高维稀疏设置中一致地恢复了主子空间和前导特征向量，甚至是最优的。仿真算例也证明了该算法的优越性。
2013-05-24 math.ST stat.ME stat.TH
On the Correlation between Random Variables and their Principal Components
Warsaw School of Computer Science（华沙计算机科学学院）
本文推导出随机变量与其主成分间相关系数的代数公式，该公式与因子载荷公式一致，可用于优化主成分及因子数量。
2023-10-09 cs.LG math.ST stat.TH
An Infinitesimal Probabilistic Model for Principal Component Analysis of Manifold Valued Data
University of Copenhagen（哥本哈根大学）
我们提供了一个概率和无穷小的观点如何主成分分析程序（PCA）可以推广到非线性流形值数据的分析。从概率PCA的解释欧几里德PCA过程，我们展示了如何PCA可以推广到流形的内在方式，不诉诸线性化的数据空间。基本的概率模型是通过利用欧氏半鞅的随机发展将欧氏随机过程映射到流形上来构造的。该结构使用连接和束的共变张量，以允许全球运输的主要特征向量，该模型是一个例子，如何主纤维丛可以用来处理缺乏全球坐标系和方向的特点，多方面的价值统计。我们展示了如何曲率意味着非积分的等价的欧几里得主子空间，以及如何随机流提供了一种替代明确建设这样的子空间。我们描述的参数推断和预测的主成分估计程序，我们给嵌入式表面上的模型的属性的例子。
2018-06-24 cs.CV math.ST stat.TH
Testing Goodness-of-Fit for Conditional Distributions: A New Perspective based on Principal Component Analysis
本文针对参数条件分布拟合优度检验问题，基于残差标记经验过程提出条件主成分分析方法，构建多种检验形式并设计分量选择策略，经蒙特卡洛实验验证了有限样本性能。
2025-06-17 econ.EM math.ST stat.TH
On the Multiway Principal Component Analysis
多路数据变得越来越普遍。虽然有许多方法可以将主成分分析（PCA）从通常的数据矩阵扩展到多路阵列，但它们与通常的PCA的概念差异以及这种差异的方法学含义仍然在很大程度上未知。这项工作旨在具体解决这些问题。特别是，我们澄清PCA和奇异值分解（SVD）的多路数据之间的细微差别，并表明，多路主成分（PC）可以可靠地估计在没有通常的PCA所需的特征间隙，并在一般情况下更有效地比通常的PC。此外，样本多路PC是渐近独立的，因此允许对总体PC进行单独和更准确的推断。通过数值模拟和实际数据的例子，多路PCA的实际优点进一步证明。
2023-02-14 math.ST stat.ME stat.TH
Sparse principal component analysis via axis-aligned random projections
我们介绍了一种新的方法，稀疏主成分分析的基础上聚集的特征向量信息从精心选择的轴对齐的随机投影的样本协方差阵。与大多数替代方法不同，我们的算法是非迭代的，所以不容易受到初始化选择不好的影响。我们提供了理论保证下，我们的主子空间估计可以达到最小最大的最优收敛速度在多项式时间。此外，我们的理论提供了一个更精细的理解稀疏主成分估计的问题中的统计和计算的权衡，揭示了一个微妙的相互作用之间的有效样本量和随机投影的数量，需要达到最小最大的最优速率。数值研究提供了进一步的洞察过程，并确认其极具竞争力的有限样本性能。
2019-05-06 math.ST stat.ME stat.ML
Functional Principal Component Analysis for Cointegrated Functional Time Series
本文研究如何将函数主成分分析（FPCA）用于协整函数时间序列，提出一种改进的FPCA方法，既能更有效地估计协整向量，又能构建检验协整函数时间序列基本性质的新检验。
2023-04-17 econ.EM math.ST stat.ME
When are the most informative components for inference also the principal components?
University of Michigan（密歇根大学）
信号加噪声数据矩阵的奇异值分解的哪些分量对于检测或估计嵌入式低秩信号矩阵的推理任务来说信息量最大？主成分分析将更大的重要性归于捕获最大变化的成分，即，与最大奇异值相关联的奇异向量。这种选择通常通过调用Eckart-Young定理来证明，即使该工作解决了如何使用低秩近似最好地表示信号加噪声矩阵的问题，而不是如何最好地推断潜在的低秩信号分量。在这里，我们采取的第一原理的方法，我们开始与信号加噪声的数据矩阵，并显示如何频谱的噪声只占主导地位的奇异值分解的数据矩阵的主要或中间组件将是信息组件的推断。简单地说，如果噪声谱支持在一个连接的区间上，在某种意义上，我们使精确，那么使用主成分是合理的。当噪声频谱在多个间隔上得到支持时，中间分量可能比主分量提供更多信息。最终结果是在噪声矩阵为i.i.d.的设置中使用主成分的适当理由。高斯和场景的识别，一般涉及异质噪声模型，例如高斯混合，其中中间分量可能比主分量信息更多，因此可以利用它们来提取额外的处理增益。我们的研究结果表明，如何盲目使用主成分可能会导致次优甚至错误的推理，因为相变，分离的制度，其中的主成分是信息的制度，他们是无信息的。
2013-02-05 cs.DS cs.IT cs.LG
Inference for Model Misspecification in Interest Rate Term Structure using Functional Principal Component Analysis
水平、斜率和曲率是利率期限结构的三个常用的主成分，因此在建模中得到了广泛的应用。本文的特点是异质性如何错误指定这些模型是通过时间。将Nelson-Siegel模型中的标准正交基解释为三个因子，设计了两个非参数检验，分别考虑特征函数的排序和不考虑特征函数的排序，检验标准正交基是否等价于数据驱动的函数主成分基。最终，我们发现两个基地之间的高离散度时，罕见的事件发生，这表明偶尔的错误，即使该模型是整体表达。
2022-12-21 econ.EM math.FA math.ST
On the Consistency of Maximum Likelihood Estimation of Probabilistic Principal Component Analysis
Université de Montréal（蒙特利尔大学）；Northwestern University（西北大学）
针对PPCA模型因旋转对称导致的不可识别性问题，提出基于商拓扑空间的方法，证明最大似然估计在商欧几里得空间中具有一致性，并推广至更广估计器类别。
2023-11-13 cs.LG stat.ML
Principal Component Projection Without Principal Component Analysis
Stanford University（斯坦福大学）；MIT（麻省理工学院）；Microsoft Research, New England（新英格兰微软研究院）
我们展示了如何有效地将向量投影到矩阵的顶部主成分上，而无需显式计算这些成分。具体来说，我们引入了一个迭代算法，可证明使用几个调用任何黑盒例程岭回归计算的投影。通过避免显式主成分分析（PCA），我们的算法是第一个没有运行时依赖于顶部主成分的数量。我们表明，它可以用来给一个快速的迭代法流行的主成分回归问题，给出了第一个主要的运行时改进的天真的方法相结合的PCA回归。为了实现我们的结果，我们首先观察到岭回归可以用于获得到顶部主成分上的“平滑投影”。然后，我们锐化这种近似真实的投影使用低次多项式近似矩阵阶跃函数。阶跃函数逼近是科学计算中一个长期关注的课题。我们通过构造具有简单迭代结构的多项式并在有限精度下严格分析其行为来扩展先验理论。
2019-11-26 cs.DS cs.LG stat.ML
A Generalization of Principal Component Analysis
传统的主成分分析（PCA）找到一个主向量，最大化主成分的二次幂和。我们考虑一个广义PCA，其目的是最大化的主成分的任意凸函数的总和。我们提出了一个梯度上升算法来解决这个问题。对于广义PCA的核版本，我们证明了解决方案可以作为一个简单的单层递归神经网络的不动点。我们还在不同的数据集上评估了我们的算法。
2019-11-15 cs.LG eess.SP stat.ML
The curse of isotropy: from principal components to principal subspaces
该研究指出主成分分析中特征值相近的主成分存在旋转变异性的“各向同性诅咒”问题，提出从定义模糊的主成分转向更具可解释性的主子空间的分析方法，该方法简单且在多领域数据集上效果良好。
2025-08-01 stat.ME
Tutorial on principal component analysis, with applications in R
本教程回顾了多元数据集的主成分分析的主要步骤，以及随后在确定主导主成分的基础上进行的降维。底层计算通过统计软件包R中编写的脚本进行演示和执行。
2021-12-08 stat.AP stat.OT
Modularity Component Analysis versus Principal Component Analysis
本文给出了模块度矩阵的首特征向量与非中心数据矩阵的奇异向量之间的精确线性关系。在此基础上定义了模块化构件的概念，并研究了其性质。结果表明，模块化成分分析可以用于聚类数据类似于传统的主成分分析是如何使用的，除了模块化成分分析不需要数据中心。
2016-02-19 stat.ML
Cauchy robust principal component analysis with applications to high-deimensional data sets
主成分分析（PCA）是一种标准的降维技术，用于各种研究和应用领域。从算法的角度来看，经典的PCA可以用多变量高斯似然运算来表示。作为隐含高斯公式的结果，主成分对离群值不具有鲁棒性。在本文中，我们提出了一个修改后的配方，基于使用的多元柯西似然，而不是高斯似然，它具有鲁棒的主成分的效果。我们提出了一个算法来计算这些鲁棒主成分。我们还推导出第一个组件的相关影响函数，并检查其理论性质。在高维数据集上的仿真实验表明，基于柯西似然估计的主成分优于或等同于现有的鲁棒PCA技术。
2022-11-06 stat.ME
Generalized Principal Component Analysis
Harvard University（哈佛大学）
广义主成分分析（GLM-PCA）有利于非正态分布数据的降维。我们提供了一个详细的推导GLM-PCA的重点是优化。我们还演示了如何将协变量，并建议后处理转换，以提高潜在因素的可解释性。
2019-07-03 cs.LG stat.ML
On the number of principal components in high dimensions
考虑了当维数远大于观测值个数时，主成分分析应用中应保留多少成分的问题。为了估计组件的数量，我们建议顺序测试通过删除领先的主成分获得的残差分数的平方长度的偏度。如果去除所有方差发散的主成分，则残差长度渐近左偏，否则渐近右偏。所提出的估计被证明是一致的，在高维模拟研究中表现良好，并提供了合理的估计，在一些实际数据的例子。
2017-08-16 stat.ME
Extrinsic Principal Component Analysis
本文提出外在主成分分析方法，通过将流形嵌入数值空间并利用弦距离，实现高维乃至无限维数据的快速降维，并在轮廓形状数据上验证了其有效性。
2024-10-03 stat.ME
MML Probabilistic Principal Component Analysis
Faculty of Information Technology, Monash University（莫纳什大学信息技术学院）
本文提出基于贝叶斯最小信息量方法的自动主成分选择算法，并改进了残差方差估计方法，扩展至有限混合模型。
2026-02-09 stat.ME
On the estimation of the number of components in multivariate functional principal component analysis
本文通过模拟研究探讨多元函数主成分分析中主成分个数的选择，发现传统方差解释阈值方法不可靠，建议谨慎使用。
2025-01-26 stat.ME stat.ML
On optimal allocation of treatment/condition variance in principal component analysis
主成分分析（PCA）中条件效应分配错误（方差分配错误）的问题已在脑电事件相关电位研究中得到解决。然而，PCA组件的条件效应的正确分配可能是相关的几个领域的研究。本文探讨是否在每个条件水平的不同加载模式的基础上，主成分的条件间方差的最优分配。事实证明，在每个条件水平相似的加载形状是条件间方差的最优分配的必要条件，而类似的加载幅度是不必要的。
2018-04-19 stat.AP stat.ME
A Bias Trick for Centered Robust Principal Component Analysis
The University of Texas at Dallas（德克萨斯大学达拉斯分校）
基于离群值的鲁棒主成分分析（RPCA）需要对非离群值进行中心化。我们展示了一个“偏差技巧”，自动将这些非离群值集中起来。使用这种偏置技巧，我们获得了第一个RPCA算法，这是最佳的中心。
2019-11-19 cs.LG stat.ML
Sparse principal component regression via singular value decomposition approach
The University of Electro-Communications（电气通信大学）
主成分回归（PCR）是一个两阶段的过程：第一阶段执行主成分分析（PCA），第二阶段构建回归模型，其解释变量由第一阶段获得的主成分代替。由于PCA仅使用解释变量进行，因此主成分没有关于响应变量的信息。为了解决这个问题，我们提出了一个单阶段的PCR过程中的奇异值分解方法。我们的方法是基于两个损失函数，回归损失和PCA损失，稀疏正则化。所提出的方法使我们能够获得主成分负荷，拥有解释变量和响应变量的信息。提出了一种利用乘子交替方向法的估计算法。我们进行数值研究，以显示所提出的方法的有效性。
2020-02-21 cs.LG stat.ME stat.ML
Projection Sparse Principal Component Analysis: an efficient least squares method
提出了一种新的稀疏主成分分析（SPCA）方法，该方法通过将满基数主成分投影到变量子集上来获得解。所得到的分量保证解释给定比例的方差。这些解决方案的计算是非常有效的。该方法与最优最小二乘稀疏分量法相比效果良好。我们发现，其他SPCA方法无法识别主成分的最佳稀疏近似，并解释比我们的解决方案更少的方差。我们说明和比较我们的方法与分析的一个真实的数据集包含社会经济数据和计算结果的9个数据集的增加维度高达16,000个变量。
2019-10-07 stat.ME
Dynamic principal component regression: Application to age-specific mortality forecasting
在应用领域，包括精算学和人口学，越来越普遍地考虑曲线的时间序列;这方面的一个例子是在若干年期间观察到的按年龄划分的死亡率。考虑到年龄可以被视为离散或连续变量，通常实施诸如主成分分析的降维技术。然而，在存在中等到强的时间依赖性的情况下，通常用于分析独立同分布数据的静态主成分分析可能是不够的。作为一种替代方案，我们考虑一个\textit{dynamic}主成分的方法来模拟时间依赖的时间序列的曲线。受Brillinger（1974）的动态主成分理论的启发，本文提出了一种基于估计长期协方差的特征分解的动态主成分分析。通过一系列的实证应用，我们证明了潜在的改善一年提前点和区间预测精度的动态主成分回归需要相比，静态对应。
2019-05-10 stat.AP
Principal Component Analysis versus Factor Analysis
Warsaw School of Computer Science（华沙计算机科学学校）
本文讨论了与主成分分析（PCA）和因子分析（FA）有关的选定问题。特别是，这两种类型的分析进行了比较。还提出了PCA和FA的向量解释。详细讨论了主成分分析中主成分个数和FA中因子个数的确定问题。一个新的标准，用于确定的因素和主成分的数量进行了讨论，这将允许目前大多数的方差的每个分析的主要变量。提出了一种有效的算法来确定FA中的因子的数量，它符合这个标准，也提出了。该算法适用于主成分分析中主成分个数的确定。还提出了使用确定主成分数目的新方法来修改PCA算法。对所得结果进行了讨论。
2021-10-21 cs.LG stat.ME
Sparse Principal Component Analysis: a Least Squares approximation approach
稀疏主成分分析的目的是找到具有很少非零载荷的主成分。我们得到这样的稀疏的解决方案，通过添加一个真正的稀疏性要求，原来的主成分分析（PCA）的目标函数。这种方法与其他方法不同，因为它保留了PCA的原始最优性：分量的\uns \和数据的最小二乘近似。为了确定非零负载的最佳子集，我们提出了一个分支定界搜索和迭代消除算法。最后一个算法发现稀疏的解决方案与大负载，可以运行，而无需指定的基数的负载和组件的数量来计算提前。我们与现有的稀疏PCA方法和几个真实数据集上的例子进行了全面的比较。
2014-08-17 stat.ME
Localized Sparse Principal Component Analysis of Multivariate Time Series in Frequency Domain
Department of Biostatistics & Bioinformatics, Emory University（埃默里大学生物统计与生物信息学系）；University of Pittsburgh（匹兹堡大学）
本文提出一种在频域中对高维时间序列进行可解释主成分分析的方法，通过开发高效的频域序列算法，实现稀疏局部化的主成分估计，用于理解精神分裂症患者的神经机制。
2026-03-18 stat.ME stat.ML
New Interpretation of Principal Components Analysis
对主成分分析提出了新的看法。首先给出了决定系数的几何解释。反过来，以易于理解的基本几何结构的形式表示分析数据及其相互依赖性的能力也得到了展示。作为这些结构的分析结果，它被建议，以丰富经典的PCA。特别是，它提出了一个新的标准，选择重要的主成分和一个新的算法聚类的主要变量的相似程度的主成分。虚拟和真实的数据空间，以及张量操作的数据，也已确定的数据的各向异性。
2017-11-10 stat.ME
Hybrid principal component analysis in multivariate allometric regression
Kyushu University（九州大学）；Keio University（庆应义塾大学）
针对异速数据中小特征值接近导致的不稳定性，提出混合主成分分析估计量渐近正态性，并基于几何统计量检验回归方向与主成分方向的平行性，应用于龟壳数据验证性别间异速关系。
2026-07-01 stat.ME
Generalized Spherical Principal Component Analysis
离群值污染数据集是对统计估计器的挑战。即使是一小部分离群观测值也会严重影响大多数经典统计方法。在本文中，我们提出了广义球面主成分分析，一个新的稳健版本的主成分分析，是基于广义空间符号协方差阵。支持所提出的方法，包括影响函数，击穿值和渐近有效性的理论性质进行了研究，并进行了仿真研究，比较我们的新方法与现有的方法。我们还提出了一个调整的广义空间符号协方差阵，以实现更好的Fisher一致性属性。我们说明，广义球面主成分分析，取决于所选择的径向函数，具有很大的鲁棒性和效率特性，除了一个低的计算成本。
2023-03-10 stat.ME
Principal component-guided sparse regression
我们提出了一种新的监督学习方法，特别适合于特征数量远远大于观测数量的宽数据。该方法结合了套索（$\ell_1$）稀疏惩罚与二次惩罚，缩小系数向量的特征矩阵的领先的主成分。我们称所提出的方法为“主成分套索”（“pcLasso”）。如果特征被预先分配到组（例如细胞通路、测定或蛋白质相互作用网络），则该方法可以特别强大。在这种情况下，pcLasso会将解的每个分组分量缩小到该组的领先主分量。在此过程中，还进行了特征组的选择。我们提供了一些理论，这种方法，并说明它的一些模拟和真实数据的例子。
2018-10-24 stat.ME stat.ML
Robust Principal Component Analysis Based On Maximum Correntropy Power Iterations
Imperial College London（帝国理工学院）
主成分分析（PCA）被认为是描述数据集特征之间线性关系的典型数据分析技术。然而，PCA对非高斯样本和/或离群值的众所周知的敏感性通常使其在实践中不可靠。为此，一个强大的PCA公式推导出基于最大相关熵准则（MCC），以最大限度地提高高斯分布的重建误差的预期可能性。通过这种方式，所提出的解决方案减少到广义幂迭代，从而：（i）即使在存在离群值的情况下也可以获得主成分的鲁棒估计;（ii）不需要预先指定主成分的数量;以及（iii）可以获得整个主成分集合，这与现有方法不同。通过一个直观的数值算例说明了最大相关熵幂迭代法的优点。
2019-10-24 cs.IT cs.LG eess.SP
A Dual Formulation for Probabilistic Principal Component Analysis
KU Leuven（鲁汶大学）
该研究提出概率主成分分析的希尔伯特空间对偶表示，构建核方法生成框架，证明其涵盖核主成分分析，并通过模拟与真实数据集验证有效性。
2023-07-19 cs.LG stat.ML
Determining Principal Component Cardinality through the Principle of Minimum Description Length
Facebook Research（脸书研究院）
PCA（Principal Component Analysis）及其变体是矩阵降维和降维潜在因子提取的普遍技术。使用PCA的一个重要挑战是主成分数量的选择。信息论的最小描述长度（MDL）原则为模型选择提供了基于压缩的客观标准，但很难将其现代定义--归一化最大似然（NML）--应用于PCA问题。这项工作显示了NML问题的一般减少到低维问题。应用这一约简，它用已知的线性回归的NML项来界定PCA的NML。
2019-06-29 cs.LG stat.ML
Clustering of Gamma-Ray bursts through kernel principal component analysis
我们认为有关的问题聚类的伽玛射线暴（从“BATSE”目录），通过内核主成分分析，我们提出的内核优于其他主管内核的聚类精度方面的结果，我们得到三个物理解释组的伽玛射线暴。在两个模拟数据集的有效性，同时降低了数据的维数，建议的内核结合内核主成分分析揭示自然集群在噪声和非线性数据。
2017-03-16 astro-ph.HE astro-ph.IM stat.AP
Principal Component Classification
Maynooth University（梅努斯大学）
我们建议直接计算分类估计学习特征编码与他们的类得分使用PCA。我们得到的模型有一个适合监督学习的编码器-解码器结构，它是计算效率高，并在多个数据集上进行分类。
2022-10-26 cs.CV cs.LG stat.ML
On the Error-Propagation of Inexact Hotelling's Deflation for Principal Component Analysis
Rice University（莱斯大学）
本文数学刻画了PCA中非精确Hotelling消减法的误差传播，分别在抽象子程序和幂迭代两种场景下给出了误差演进界，并利用幂迭代方向信息获得了更紧的误差界。
2024-05-29 cs.LG math.OC stat.ML
Weighted principal component analysis: a weighted covariance eigendecomposition approach
本文提出了一种新的基于加权方差-协方差矩阵对角化的直接主成分分析（PCA）方法，通过两种谱分解方法：幂迭代和Rayleigh商迭代。该方法允许检索给定数量的正交主成分之间的最有意义的加权和/或缺失数据的问题的情况下。然后通过将主成分拟合到数据来检索主系数，同时提供最终分解。对真实和模拟案例进行的测试表明，我们的方法是最佳的识别数据集内的最显着的模式。我们说明了这种方法的有用性，通过评估其质量的外推斯隆数字巡天类星体光谱从测得的波长较短和较长的波长。我们的新算法还受益于快速灵活的实现。
2014-12-15 astro-ph.IM stat.ME
Near-Optimal Stochastic Approximation for Online Principal Component Estimation
主成分分析（PCA）是高维数据分析的重要工具。通过处理流数据来估计主成分的在线算法具有巨大的实际和理论意义。尽管其丰富的应用，理论上的收敛分析仍然在很大程度上是开放的。本文将在线PCA问题转化为随机非凸最优化问题，并将在线PCA算法分析为随机逼近迭代。随机逼近迭代递增地处理数据点并保持主成分的运行估计。我们证明了第一次几乎最佳的有限样本误差界的在线PCA算法。在亚高斯假设下，我们证明了有限样本误差界与极大极小信息下界密切匹配。
2017-10-05 math.OC stat.ML
Consistency of Generalized Dynamic Principal Components in Dynamic Factor Models
我们研究了Peña和Yohai（2016）中引入的广义动态主成分的理论性质。特别是，我们证明了，当数据遵循动态因子模型，重建提供的程序收敛于均方模型的共同部分的系列和期间的数量发散到无穷大。模拟研究的结果支持我们的研究结果。
2017-10-31 math.ST stat.TH
Fast Ridge Regression with Randomized Principal Component Analysis and Gradient Descent
提出了一种新的求解大规模回归问题的两阶段算法LING。在固定设计设置下，LING与众所周知的岭回归具有相同的风险，并且可以更快地计算。我们的实验表明，与其他大规模回归算法（如梯度下降，随机梯度下降和主成分回归）相比，LING在模拟和真实数据集上的预测精度和计算效率方面都表现良好。
2014-05-15 stat.ML
A Tutorial on Principal Component Analysis with the Accord.NET Framework
本文档旨在澄清有关使用Accord.NET Framework执行统计分析的常见问题。在这里，我们重现了著名的Lindsay的主成分分析的所有步骤，试图给读者一个完整的动手概述框架的基础知识，同时也讨论了一些结果和Accord.NET和其他软件包生成的结果之间的分歧来源。
2012-10-28 cs.SE stat.CO
A unified framework of principal component analysis and factor analysis
本文提出一个连接主成分分析与因子分析的统一框架，从损失函数最小化视角将两者视为特定损失函数下矩阵优化问题的解，并探讨了相关算法与模型，为数据分析提供新工具。
2024-05-30 stat.ME
Dynamic Principal Component Analysis: Identifying the Relationship between Multiple Air Pollutants
空气质量化学和传输的动态性质使得很难确定一个区域的空气污染物的混合物。在这项研究中，我们在休斯敦大都市区的空气质量应用动态主成分分析（DPCA）的一个规范化的多元时间序列的五种污染物（O3，CO，NO2，SO2，PM2.5）的每日浓度测量值从2009年1月1日至2011年12月31日，每天的24小时。由此产生的动态组件检查跨天的3年期间的小时。昼夜和季节性的模式，揭示了突出的时候，DPCA表现最好的和两个主成分（PC）解释多变量系列的变化。结果表明，DPCA在发现转换后的污染物测量值之间的线性关系方面优于静态主成分分析（PCA）。DPCA捕获了该地区多达34个监测点记录的基础污染物随时间变化的相关结构。在冬季早晨，第一主成分（PC1）（主要是CO和NO2）解释了高达70%的变异。增加第二主成分（PC2）（主要由SO2驱动），解释的变异性上升到90%。在下午，O3在第二主成分中获得突出地位。PC对方差的贡献的季节性分布在下午失去了它的区别，但累积起来，PC1和PC2仍然解释了环境空气数据中高达65%的变化。DPCA提供了一个战略，以确定不断变化的空气质量剖面的研究区域。
2016-08-10 stat.AP stat.ML
Two derivations of Principal Component Analysis on datasets of distributions
University of Amsterdam（阿姆斯特丹大学）
本文针对分布数据集提出PCA的两种等价推导，基于位置和协方差刻画分布，从方差最大化和重构误差最小化角度得到闭式解。
2023-06-23 cs.LG stat.ML
