New Interpretation of Principal Components Analysis
对主成分分析提出了新的看法。首先给出了决定系数的几何解释。反过来，以易于理解的基本几何结构的形式表示分析数据及其相互依赖性的能力也得到了展示。作为这些结构的分析结果，它被建议，以丰富经典的PCA。特别是，它提出了一个新的标准，选择重要的主成分和一个新的算法聚类的主要变量的相似程度的主成分。虚拟和真实的数据空间，以及张量操作的数据，也已确定的数据的各向异性。
2017-11-10 stat.ME
Hybrid principal component analysis in multivariate allometric regression
Kyushu University（九州大学）；Keio University（庆应义塾大学）
针对异速数据中小特征值接近导致的不稳定性，提出混合主成分分析估计量渐近正态性，并基于几何统计量检验回归方向与主成分方向的平行性，应用于龟壳数据验证性别间异速关系。
2026-07-01 stat.ME
Generalized Spherical Principal Component Analysis
离群值污染数据集是对统计估计器的挑战。即使是一小部分离群观测值也会严重影响大多数经典统计方法。在本文中，我们提出了广义球面主成分分析，一个新的稳健版本的主成分分析，是基于广义空间符号协方差阵。支持所提出的方法，包括影响函数，击穿值和渐近有效性的理论性质进行了研究，并进行了仿真研究，比较我们的新方法与现有的方法。我们还提出了一个调整的广义空间符号协方差阵，以实现更好的Fisher一致性属性。我们说明，广义球面主成分分析，取决于所选择的径向函数，具有很大的鲁棒性和效率特性，除了一个低的计算成本。
2023-03-10 stat.ME
A unified framework of principal component analysis and factor analysis
本文提出一个连接主成分分析与因子分析的统一框架，从损失函数最小化视角将两者视为特定损失函数下矩阵优化问题的解，并探讨了相关算法与模型，为数据分析提供新工具。
2024-05-30 stat.ME
Principal Component Analysis in the Graph Frequency Domain
提出图频域主成分分析方法，通过闭式重构降低多变量图信号维度并引入图谱包络识别公共频率，经模拟与首尔地铁数据验证有效。
2024-10-10 stat.ME
Principal Component Analysis for Equation Discovery
本文提出利用PCA的最后几个主成分反映常数组合的特性来发现潜在自然规律，通过选择准则识别相关特征向量，成功发现了Kepler第三定律和测高方程。
2024-01-09 stat.ME
Generalized dynamic functional principal component analysis
Universiti Malaya（马来亚大学）；Université de Lille（里尔大学）；New York University Abu Dhabi（纽约大学阿布扎比分校）；CNRS（法国国家科学研究中心）；Inria
本文提出广义动态功能主成分分析方法，用于功能时间序列的降维，不依赖谱密度估计，在平稳和非平稳数据中均表现出良好的性能。
2026-02-23 stat.ME
Dimension Reduction in Principal Component Analysis for Trees
树型结构数据的统计分析是统计学中的一个新课题，有着广泛的应用前景。一些主成分分析（PCA）的想法是以前开发的二叉树空间。在这项研究中，我们将这些想法扩展到更一般的空间的根和标记的树。我们重新定义的概念，如树线和前向主成分树线这个更一般的空间，并推广的最佳算法，找到他们。然后，我们开发了一个模拟的经典降维技术在PCA的树空间。为了做到这一点，我们定义了携带树数据集的最小变化量的成分，称为向后主成分。我们提出了一个最优算法来找到它们。此外，我们调查这些前向主成分的关系，并证明了前向和后向技术之间的路径无关性。我们将我们的方法应用于98名受试者的脑动脉数据集。利用我们的技术，我们调查了衰老如何影响男性和女性的脑动脉结构。我们还分析了美国一家大型公司的组织结构数据集，并探讨了公司内部不同类型部门的结构差异。
2012-02-10 stat.ME
On the estimation of the number of components in multivariate functional principal component analysis
本文通过模拟研究探讨多元函数主成分分析中主成分个数的选择，发现传统方差解释阈值方法不可靠，建议谨慎使用。
2025-01-26 stat.ME stat.ML
On optimal allocation of treatment/condition variance in principal component analysis
主成分分析（PCA）中条件效应分配错误（方差分配错误）的问题已在脑电事件相关电位研究中得到解决。然而，PCA组件的条件效应的正确分配可能是相关的几个领域的研究。本文探讨是否在每个条件水平的不同加载模式的基础上，主成分的条件间方差的最优分配。事实证明，在每个条件水平相似的加载形状是条件间方差的最优分配的必要条件，而类似的加载幅度是不必要的。
2018-04-19 stat.AP stat.ME
Principal Component Analysis versus Factor Analysis
Warsaw School of Computer Science（华沙计算机科学学校）
本文讨论了与主成分分析（PCA）和因子分析（FA）有关的选定问题。特别是，这两种类型的分析进行了比较。还提出了PCA和FA的向量解释。详细讨论了主成分分析中主成分个数和FA中因子个数的确定问题。一个新的标准，用于确定的因素和主成分的数量进行了讨论，这将允许目前大多数的方差的每个分析的主要变量。提出了一种有效的算法来确定FA中的因子的数量，它符合这个标准，也提出了。该算法适用于主成分分析中主成分个数的确定。还提出了使用确定主成分数目的新方法来修改PCA算法。对所得结果进行了讨论。
2021-10-21 cs.LG stat.ME
Localized Sparse Principal Component Analysis of Multivariate Time Series in Frequency Domain
Department of Biostatistics & Bioinformatics, Emory University（埃默里大学生物统计与生物信息学系）；University of Pittsburgh（匹兹堡大学）
本文提出一种在频域中对高维时间序列进行可解释主成分分析的方法，通过开发高效的频域序列算法，实现稀疏局部化的主成分估计，用于理解精神分裂症患者的神经机制。
2026-03-18 stat.ME stat.ML
Principal component-guided sparse regression
我们提出了一种新的监督学习方法，特别适合于特征数量远远大于观测数量的宽数据。该方法结合了套索（$\ell_1$）稀疏惩罚与二次惩罚，缩小系数向量的特征矩阵的领先的主成分。我们称所提出的方法为“主成分套索”（“pcLasso”）。如果特征被预先分配到组（例如细胞通路、测定或蛋白质相互作用网络），则该方法可以特别强大。在这种情况下，pcLasso会将解的每个分组分量缩小到该组的领先主分量。在此过程中，还进行了特征组的选择。我们提供了一些理论，这种方法，并说明它的一些模拟和真实数据的例子。
2018-10-24 stat.ME stat.ML
Weighted principal component analysis: a weighted covariance eigendecomposition approach
本文提出了一种新的基于加权方差-协方差矩阵对角化的直接主成分分析（PCA）方法，通过两种谱分解方法：幂迭代和Rayleigh商迭代。该方法允许检索给定数量的正交主成分之间的最有意义的加权和/或缺失数据的问题的情况下。然后通过将主成分拟合到数据来检索主系数，同时提供最终分解。对真实和模拟案例进行的测试表明，我们的方法是最佳的识别数据集内的最显着的模式。我们说明了这种方法的有用性，通过评估其质量的外推斯隆数字巡天类星体光谱从测得的波长较短和较长的波长。我们的新算法还受益于快速灵活的实现。
2014-12-15 astro-ph.IM stat.ME
Derivative Principal Component Analysis for Representing the Time Dynamics of Longitudinal and Functional Data
我们提出了一个非参数的方法来明确地建模和表示的衍生物的光滑的基本轨迹的纵向数据。这种表示是基于一个直接的Karhunen-Loève扩展的未观察到的衍生物，并导致衍生主成分分析的概念，补充功能主成分分析，最流行的工具之一的功能数据分析。建议的衍生主成分得分可以获得不规则间隔和稀疏观察的纵向数据，通常遇到的生物医学研究，以及密集测量的功能数据。新的一致性结果和渐近收敛速度的衍生主成分分数和模型的其他组件的建议估计的稀疏或密集的观测和温和的条件下，一个统一的计划。我们比较所提出的表示衍生工具与替代方法在模拟设置，也在一个小袋鼠生长曲线的应用。它出现的表示使用所提出的衍生主成分分析恢复底层衍生物更准确地相比，主成分分析为基础的方法，特别是在设置中的功能数据表示只有非常少量的组件或密集采样。在第二个小麦光谱分类的例子中，衍生主成分分数被发现是更好的预测小麦的蛋白质含量比传统的功能主成分分数。
2017-07-14 math.ST stat.ME stat.TH
Sparse principal component regression via singular value decomposition approach
The University of Electro-Communications（电气通信大学）
主成分回归（PCR）是一个两阶段的过程：第一阶段执行主成分分析（PCA），第二阶段构建回归模型，其解释变量由第一阶段获得的主成分代替。由于PCA仅使用解释变量进行，因此主成分没有关于响应变量的信息。为了解决这个问题，我们提出了一个单阶段的PCR过程中的奇异值分解方法。我们的方法是基于两个损失函数，回归损失和PCA损失，稀疏正则化。所提出的方法使我们能够获得主成分负荷，拥有解释变量和响应变量的信息。提出了一种利用乘子交替方向法的估计算法。我们进行数值研究，以显示所提出的方法的有效性。
2020-02-21 cs.LG stat.ME stat.ML
Principal Component Projection Without Principal Component Analysis
Stanford University（斯坦福大学）；MIT（麻省理工学院）；Microsoft Research, New England（新英格兰微软研究院）
我们展示了如何有效地将向量投影到矩阵的顶部主成分上，而无需显式计算这些成分。具体来说，我们引入了一个迭代算法，可证明使用几个调用任何黑盒例程岭回归计算的投影。通过避免显式主成分分析（PCA），我们的算法是第一个没有运行时依赖于顶部主成分的数量。我们表明，它可以用来给一个快速的迭代法流行的主成分回归问题，给出了第一个主要的运行时改进的天真的方法相结合的PCA回归。为了实现我们的结果，我们首先观察到岭回归可以用于获得到顶部主成分上的“平滑投影”。然后，我们锐化这种近似真实的投影使用低次多项式近似矩阵阶跃函数。阶跃函数逼近是科学计算中一个长期关注的课题。我们通过构造具有简单迭代结构的多项式并在有限精度下严格分析其行为来扩展先验理论。
2019-11-26 cs.DS cs.LG stat.ML
A note on the prediction error of principal component regression
分析了主成分回归（PCR）的预测误差，证明了相应的平方风险的非渐近上界。在温和的假设下，我们表明，PCR执行以及通过取代经验的主成分由他们的人口同行所获得的预言方法。我们的方法依赖于主成分分析的超额风险上界。
2019-04-16 math.ST stat.TH
A Generalization of Principal Component Analysis
传统的主成分分析（PCA）找到一个主向量，最大化主成分的二次幂和。我们考虑一个广义PCA，其目的是最大化的主成分的任意凸函数的总和。我们提出了一个梯度上升算法来解决这个问题。对于广义PCA的核版本，我们证明了解决方案可以作为一个简单的单层递归神经网络的不动点。我们还在不同的数据集上评估了我们的算法。
2019-11-15 cs.LG eess.SP stat.ML
Sparse principal component analysis for high-dimensional stationary time series
本文研究高维平稳过程的稀疏主成分分析。当过程的维数较大时，标准主成分分析表现不佳。建立了含重尾时间序列的惩罚主成分估计的预言不等式。建立了估计量的收敛速度收敛速率。我们还阐明了在惩罚估计中选择调整参数的理论速率。通过数值模拟证明了稀疏主成分分析的性能。稀疏主成分分析对时间序列数据的实用性通过应用于平均温度数据来举例说明。
2021-09-16 math.ST stat.TH
Sparse principal component analysis and iterative thresholding
主成分分析（PCA）是一种经典的降维方法，它将数据投影到由协方差阵的前导特征向量所构成的主子空间上。然而，当特征数量p与样本量n相当或甚至比其大得多时，其表现较差。在本文中，我们提出了一个新的迭代阈值方法估计主子空间的设置中的领导特征向量稀疏。在尖峰协方差模型下，我们发现新方法在一系列高维稀疏设置中一致地恢复了主子空间和前导特征向量，甚至是最优的。仿真算例也证明了该算法的优越性。
2013-05-24 math.ST stat.ME stat.TH
Fast, Exact Bootstrap Principal Component Analysis for p>1 million
许多人提出了一个自助程序估计抽样变异的主成分分析（PCA）的结果。然而，当每个受试者的测量次数（$p$）远大于受试者的数量（$n$）时，计算和存储来自每个自举样本的前导主成分的挑战在计算上是不可行的。为了解决这个问题，我们概述了快速，准确计算自助主成分，特征值和分数的方法。我们的方法利用了这样一个事实，即所有引导样本占用相同的$n$维子空间作为原始样本。结果，所有的引导主成分被限制到相同的$n$维子空间，并且可以有效地由它们在该子空间中的低维坐标表示。可以仅基于这些低维坐标的自举分布来计算若干不确定性度量，而不计算或存储$p$维自举分量。将快速自举PCA应用于睡眠脑电图（EEG）记录数据集（$p=900$，$n=392$）和脑磁共振图像（MRI）数据集（$p\approx$ 300万，$n=352$）。对于脑MRI数据集，我们的方法允许基于1000个自举样本的前3个主成分的标准误在47分钟内在标准笔记本电脑上计算，而标准方法大约需要4天。
2014-05-14 stat.AP stat.CO stat.ME
Tutorial on principal component analysis, with applications in R
本教程回顾了多元数据集的主成分分析的主要步骤，以及随后在确定主导主成分的基础上进行的降维。底层计算通过统计软件包R中编写的脚本进行演示和执行。
2021-12-08 stat.AP stat.OT
Sparse principal component analysis via axis-aligned random projections
我们介绍了一种新的方法，稀疏主成分分析的基础上聚集的特征向量信息从精心选择的轴对齐的随机投影的样本协方差阵。与大多数替代方法不同，我们的算法是非迭代的，所以不容易受到初始化选择不好的影响。我们提供了理论保证下，我们的主子空间估计可以达到最小最大的最优收敛速度在多项式时间。此外，我们的理论提供了一个更精细的理解稀疏主成分估计的问题中的统计和计算的权衡，揭示了一个微妙的相互作用之间的有效样本量和随机投影的数量，需要达到最小最大的最优速率。数值研究提供了进一步的洞察过程，并确认其极具竞争力的有限样本性能。
2019-05-06 math.ST stat.ME stat.ML
Modularity Component Analysis versus Principal Component Analysis
本文给出了模块度矩阵的首特征向量与非中心数据矩阵的奇异向量之间的精确线性关系。在此基础上定义了模块化构件的概念，并研究了其性质。结果表明，模块化成分分析可以用于聚类数据类似于传统的主成分分析是如何使用的，除了模块化成分分析不需要数据中心。
2016-02-19 stat.ML
Inference for Model Misspecification in Interest Rate Term Structure using Functional Principal Component Analysis
水平、斜率和曲率是利率期限结构的三个常用的主成分，因此在建模中得到了广泛的应用。本文的特点是异质性如何错误指定这些模型是通过时间。将Nelson-Siegel模型中的标准正交基解释为三个因子，设计了两个非参数检验，分别考虑特征函数的排序和不考虑特征函数的排序，检验标准正交基是否等价于数据驱动的函数主成分基。最终，我们发现两个基地之间的高离散度时，罕见的事件发生，这表明偶尔的错误，即使该模型是整体表达。
2022-12-21 econ.EM math.FA math.ST
Functional Principal Component Analysis for Cointegrated Functional Time Series
本文研究如何将函数主成分分析（FPCA）用于协整函数时间序列，提出一种改进的FPCA方法，既能更有效地估计协整向量，又能构建检验协整函数时间序列基本性质的新检验。
2023-04-17 econ.EM math.ST stat.ME
Generalized Principal Component Analysis
Harvard University（哈佛大学）
广义主成分分析（GLM-PCA）有利于非正态分布数据的降维。我们提供了一个详细的推导GLM-PCA的重点是优化。我们还演示了如何将协变量，并建议后处理转换，以提高潜在因素的可解释性。
2019-07-03 cs.LG stat.ML
Sparse Principal Component Analysis with missing observations
本文研究了高维情形下的稀疏主成分分析问题。我们的目标是当我们只能获得部分观测值时估计第一主成分。现有的估计技术通常来自充分观察的数据集，并需要先验知识的稀疏性的第一主成分，以实现良好的统计保证。我们的贡献是三方面的。首先，我们建立了具有缺失观测的稀疏PCA问题的第一信息论下界。其次，我们提出了一个简单的程序，不需要任何先验知识的稀疏性未知的第一个主成分或任何填补的缺失的意见，适应未知的稀疏性的第一个主成分，并达到最佳估计率的对数因子。第三，如果感兴趣的协方差阵允许稀疏的第一主成分并且另外近似低秩，则我们可以导出在高维中计算上易于处理的完全数据驱动的过程，适应于第一主成分的未知稀疏性并且是统计上最优的（直到对数因子）。
2012-06-01 math.ST stat.TH
A Bias Trick for Centered Robust Principal Component Analysis
The University of Texas at Dallas（德克萨斯大学达拉斯分校）
基于离群值的鲁棒主成分分析（RPCA）需要对非离群值进行中心化。我们展示了一个“偏差技巧”，自动将这些非离群值集中起来。使用这种偏置技巧，我们获得了第一个RPCA算法，这是最佳的中心。
2019-11-19 cs.LG stat.ML
Dynamic principal component regression: Application to age-specific mortality forecasting
在应用领域，包括精算学和人口学，越来越普遍地考虑曲线的时间序列;这方面的一个例子是在若干年期间观察到的按年龄划分的死亡率。考虑到年龄可以被视为离散或连续变量，通常实施诸如主成分分析的降维技术。然而，在存在中等到强的时间依赖性的情况下，通常用于分析独立同分布数据的静态主成分分析可能是不够的。作为一种替代方案，我们考虑一个\textit{dynamic}主成分的方法来模拟时间依赖的时间序列的曲线。受Brillinger（1974）的动态主成分理论的启发，本文提出了一种基于估计长期协方差的特征分解的动态主成分分析。通过一系列的实证应用，我们证明了潜在的改善一年提前点和区间预测精度的动态主成分回归需要相比，静态对应。
2019-05-10 stat.AP
A robust approach for principal component analyisis
在本文中，我们分析了不同的方式执行主成分分析通过三种不同的方法：鲁棒协方差和相关阵估计，投影寻踪方法和非参数最大熵算法。这些方法的目的是纠正主成分分析的经典方法对异常值的众所周知的敏感性。由于它们的鲁棒性，它们在污染数据中表现得非常好，而经典方法无法保持核心信息的特征。
2019-02-28 math.ST stat.TH
When are the most informative components for inference also the principal components?
University of Michigan（密歇根大学）
信号加噪声数据矩阵的奇异值分解的哪些分量对于检测或估计嵌入式低秩信号矩阵的推理任务来说信息量最大？主成分分析将更大的重要性归于捕获最大变化的成分，即，与最大奇异值相关联的奇异向量。这种选择通常通过调用Eckart-Young定理来证明，即使该工作解决了如何使用低秩近似最好地表示信号加噪声矩阵的问题，而不是如何最好地推断潜在的低秩信号分量。在这里，我们采取的第一原理的方法，我们开始与信号加噪声的数据矩阵，并显示如何频谱的噪声只占主导地位的奇异值分解的数据矩阵的主要或中间组件将是信息组件的推断。简单地说，如果噪声谱支持在一个连接的区间上，在某种意义上，我们使精确，那么使用主成分是合理的。当噪声频谱在多个间隔上得到支持时，中间分量可能比主分量提供更多信息。最终结果是在噪声矩阵为i.i.d.的设置中使用主成分的适当理由。高斯和场景的识别，一般涉及异质噪声模型，例如高斯混合，其中中间分量可能比主分量信息更多，因此可以利用它们来提取额外的处理增益。我们的研究结果表明，如何盲目使用主成分可能会导致次优甚至错误的推理，因为相变，分离的制度，其中的主成分是信息的制度，他们是无信息的。
2013-02-05 cs.DS cs.IT cs.LG
Adjusting systematic bias in high dimensional principal component scores
主成分分析一直是高维数据降维的有力工具。我们假设一个方差发散模型，并使用高维，低样本量的渐近性，即使主成分方向是不一致的，样本和预测的主成分得分可以在揭示人口结构是有用的。我们进一步表明，这些分数是有偏见的，和偏见是渐近分解成旋转和缩放部分。我们提出的方法，偏差调整，被证明是一致的，并在高维的情况下，小样本量。在分类设置中证明了偏差调整的潜在优势。
2020-09-25 math.ST stat.TH
Principal Component Analysis for Functional Data on Riemannian Manifolds and Spheres
Functional data analysis on nonlinear manifolds has drawn recent interest. Sphere-valued functional data, which are encountered for example as movement trajectories on the surface of the earth, are an important special case. We consider an intrinsic principal component analysis for smooth Riemannian manifold -valued functional data and study its asymptotic properties. Riemannian functional principal component analysis (RFPCA) is carried out by first mapping the manifold-valued data through Riemannian logarithm maps to tangent spaces around the time-varying Fréchet mean function, and then perfo…
2017-10-24 math.ST stat.TH
Robust Principal Component Analysis Based On Maximum Correntropy Power Iterations
Imperial College London（帝国理工学院）
主成分分析（PCA）被认为是描述数据集特征之间线性关系的典型数据分析技术。然而，PCA对非高斯样本和/或离群值的众所周知的敏感性通常使其在实践中不可靠。为此，一个强大的PCA公式推导出基于最大相关熵准则（MCC），以最大限度地提高高斯分布的重建误差的预期可能性。通过这种方式，所提出的解决方案减少到广义幂迭代，从而：（i）即使在存在离群值的情况下也可以获得主成分的鲁棒估计;（ii）不需要预先指定主成分的数量;以及（iii）可以获得整个主成分集合，这与现有方法不同。通过一个直观的数值算例说明了最大相关熵幂迭代法的优点。
2019-10-24 cs.IT cs.LG eess.SP
A Dual Formulation for Probabilistic Principal Component Analysis
KU Leuven（鲁汶大学）
该研究提出概率主成分分析的希尔伯特空间对偶表示，构建核方法生成框架，证明其涵盖核主成分分析，并通过模拟与真实数据集验证有效性。
2023-07-19 cs.LG stat.ML
Determining Principal Component Cardinality through the Principle of Minimum Description Length
Facebook Research（脸书研究院）
PCA（Principal Component Analysis）及其变体是矩阵降维和降维潜在因子提取的普遍技术。使用PCA的一个重要挑战是主成分数量的选择。信息论的最小描述长度（MDL）原则为模型选择提供了基于压缩的客观标准，但很难将其现代定义--归一化最大似然（NML）--应用于PCA问题。这项工作显示了NML问题的一般减少到低维问题。应用这一约简，它用已知的线性回归的NML项来界定PCA的NML。
2019-06-29 cs.LG stat.ML
Clustering of Gamma-Ray bursts through kernel principal component analysis
我们认为有关的问题聚类的伽玛射线暴（从“BATSE”目录），通过内核主成分分析，我们提出的内核优于其他主管内核的聚类精度方面的结果，我们得到三个物理解释组的伽玛射线暴。在两个模拟数据集的有效性，同时降低了数据的维数，建议的内核结合内核主成分分析揭示自然集群在噪声和非线性数据。
2017-03-16 astro-ph.HE astro-ph.IM stat.AP
Principal Component Classification
Maynooth University（梅努斯大学）
我们建议直接计算分类估计学习特征编码与他们的类得分使用PCA。我们得到的模型有一个适合监督学习的编码器-解码器结构，它是计算效率高，并在多个数据集上进行分类。
2022-10-26 cs.CV cs.LG stat.ML
On the Error-Propagation of Inexact Hotelling's Deflation for Principal Component Analysis
Rice University（莱斯大学）
本文数学刻画了PCA中非精确Hotelling消减法的误差传播，分别在抽象子程序和幂迭代两种场景下给出了误差演进界，并利用幂迭代方向信息获得了更紧的误差界。
2024-05-29 cs.LG math.OC stat.ML
Near-Optimal Stochastic Approximation for Online Principal Component Estimation
主成分分析（PCA）是高维数据分析的重要工具。通过处理流数据来估计主成分的在线算法具有巨大的实际和理论意义。尽管其丰富的应用，理论上的收敛分析仍然在很大程度上是开放的。本文将在线PCA问题转化为随机非凸最优化问题，并将在线PCA算法分析为随机逼近迭代。随机逼近迭代递增地处理数据点并保持主成分的运行估计。我们证明了第一次几乎最佳的有限样本误差界的在线PCA算法。在亚高斯假设下，我们证明了有限样本误差界与极大极小信息下界密切匹配。
2017-10-05 math.OC stat.ML
A note on the prediction error of principal component regression in high dimensions
本文分析了高维主成分回归（PCR）的预测误差，证明了给定设计下平方风险的高概率界，揭示了有效秩条件对PCR与预言方法表现对比的影响及违反时的自诱导正则化现象。
2024-01-02 math.ST stat.TH
Fast Ridge Regression with Randomized Principal Component Analysis and Gradient Descent
提出了一种新的求解大规模回归问题的两阶段算法LING。在固定设计设置下，LING与众所周知的岭回归具有相同的风险，并且可以更快地计算。我们的实验表明，与其他大规模回归算法（如梯度下降，随机梯度下降和主成分回归）相比，LING在模拟和真实数据集上的预测精度和计算效率方面都表现良好。
2014-05-15 stat.ML
A Tutorial on Principal Component Analysis with the Accord.NET Framework
本文档旨在澄清有关使用Accord.NET Framework执行统计分析的常见问题。在这里，我们重现了著名的Lindsay的主成分分析的所有步骤，试图给读者一个完整的动手概述框架的基础知识，同时也讨论了一些结果和Accord.NET和其他软件包生成的结果之间的分歧来源。
2012-10-28 cs.SE stat.CO
Approximating the Span of Principal Components via Iterative Least-Squares
在上个世纪的过程中，主成分分析（PCA）已经成为现代科学方法的支柱之一。虽然PCA通常被视为一种统计工具，旨在寻找方差最大化的正交方向，但Pearson在1901年首次引入PCA是通过定义一个非线性最小二乘最小化问题来完成的，该问题将平面拟合到分散的数据点。因此，PCA和线性最小二乘回归在某种程度上是相关的，因为它们都旨在将平面拟合到数据点。在本文中，我们提出了两种方法之间的连接。具体来说，我们提出了一种迭代线性最小二乘方法，产生一系列子空间，它收敛到由领先的主成分（即，主空间）。
2019-07-28 math.ST stat.TH
Dynamic Principal Component Analysis: Identifying the Relationship between Multiple Air Pollutants
空气质量化学和传输的动态性质使得很难确定一个区域的空气污染物的混合物。在这项研究中，我们在休斯敦大都市区的空气质量应用动态主成分分析（DPCA）的一个规范化的多元时间序列的五种污染物（O3，CO，NO2，SO2，PM2.5）的每日浓度测量值从2009年1月1日至2011年12月31日，每天的24小时。由此产生的动态组件检查跨天的3年期间的小时。昼夜和季节性的模式，揭示了突出的时候，DPCA表现最好的和两个主成分（PC）解释多变量系列的变化。结果表明，DPCA在发现转换后的污染物测量值之间的线性关系方面优于静态主成分分析（PCA）。DPCA捕获了该地区多达34个监测点记录的基础污染物随时间变化的相关结构。在冬季早晨，第一主成分（PC1）（主要是CO和NO2）解释了高达70%的变异。增加第二主成分（PC2）（主要由SO2驱动），解释的变异性上升到90%。在下午，O3在第二主成分中获得突出地位。PC对方差的贡献的季节性分布在下午失去了它的区别，但累积起来，PC1和PC2仍然解释了环境空气数据中高达65%的变化。DPCA提供了一个战略，以确定不断变化的空气质量剖面的研究区域。
2016-08-10 stat.AP stat.ML
Two derivations of Principal Component Analysis on datasets of distributions
University of Amsterdam（阿姆斯特丹大学）
本文针对分布数据集提出PCA的两种等价推导，基于位置和协方差刻画分布，从方差最大化和重构误差最小化角度得到闭式解。
2023-06-23 cs.LG stat.ML
Principal component analysis based clustering for high-dimension, low-sample-size data
在本文中，我们考虑基于主成分分析（PCA）的高维，低样本量（HDLSS）数据的聚类。我们给出了理论上的原因，为什么PCA是有效的聚类HDLSS数据。首先，我们推导出从两类混合模型的HDLSS数据的几何表示。借助几何表示，我们给出了HDLSS背景下样本主成分得分的几何一致性性质。我们发展了多类混合模型的几何表示和几何一致性性质的思想。我们表明，PCA可以分类HDLSS数据在一定条件下，在一个令人惊讶的明确的方式。最后，我们通过使用微阵列数据集展示了聚类的性能。
2015-03-16 math.ST stat.TH
A Tutorial on Principal Component Analysis
Google Research（谷歌研究院）
主成分分析（PCA）是现代数据分析的支柱-一个广泛使用但（有时）知之甚少的黑盒子。本文的目的是消除这个黑盒子背后的魔力。这份手稿的重点是建立一个坚实的直觉，如何以及为什么主成分分析工作。这份手稿通过简单的直觉和PCA背后的数学推导来具体化这些知识。本教程不回避非正式地解释这些想法，也不回避数学。希望通过解决这两个方面，各级读者将能够更好地了解PCA以及何时，如何和为什么应用这种技术。
2014-04-03 cs.LG stat.ML
On the Correlation between Random Variables and their Principal Components
Warsaw School of Computer Science（华沙计算机科学学院）
本文推导出随机变量与其主成分间相关系数的代数公式，该公式与因子载荷公式一致，可用于优化主成分及因子数量。
2023-10-09 cs.LG math.ST stat.TH
High Dimensional Principal Component Scores and Data Visualization
主成分分析是一种有效的降维和数据可视化方法。然而，在高维、低样本量的渐近情形下，当样本量固定而维数趋于无穷大时，出现了一个悖论。特别是，尽管通常从主成分分数可视化获得有用的真实数据见解，但即使样本特征向量一致，这些分数也不一致。这个悖论解决了样本和人口之间的比例的主成分得分的渐近研究。特别是，可以看出，这一比例收敛到一个非退化的随机变量。对于每个数据点，实现是相同的，即存在针对每个特征方向出现的公共随机重新缩放。然后，这会为标准分数图提供不一致的轴标签，但点（通常是主要视觉内容）的相对位置是一致的。当样本量达到无穷大时，这个悖论就消失了。
2012-11-20 stat.AP
Disjoint principal component analysis by constrained binary particle swarm optimization
Universidad de Salamanca（萨拉曼卡大学）；ESPOL Polytechnic University, Escuela Superior Politécnica del Litoral（ESPOL理工大学（海岸理工学院））；Institute of Biomedical Research of Salamanca（萨拉曼卡生物医学研究所）；Pontificia Universidad Católica de Valparaíso（瓦尔帕莱索天主教大学）
在本文中，我们提出了一种替代方法的不相交的主成分分析。该方法包括一个主成分分析的约束条件，这使我们能够确定不相交的组件是原始变量的不相交子集的线性组合。由于该方法是在粒子群优化算法的基础上发展起来的，因此被称为粒子群不相交主成分分析约束二进制优化算法。该方法使用随机优化，以找到解决方案的情况下，高计算复杂性。与该方法相关联的算法开始随机地生成粒子群，该粒子群迭代地进化直到达到全局最优，该全局最优是不相交分量的函数。数值结果证实了所提出的方法获得的解决方案的质量。最后给出了实际数据的算例，说明了该方法的应用前景.
2020-04-22 cs.LG cs.NE stat.CO
Polar $n$-Complex and $n$-Bicomplex Singular Value Decomposition and Principal Component Pursuit
Research Center for Information Technology Innovation, Academia Sinica（中央研究院资讯科技创新研究中心）
通过最近的工作通知张量奇异值分解和循环代数矩阵，本文提出了一个新的理论桥梁，统一的超复数和基于张量的奇异值分解和鲁棒主成分分析的方法。我们开始我们的工作，通过延长Olariu的极性$n$-复杂的数字，以及他们的双复的主要组成部分的追求。在这样做的时候，我们推导出了极性$n$-复和$n$-双复邻近算子的$\ell_1$-和迹-范数正则化，它可以被使用的邻近优化方法，如交替方向的乘法。两组音频数据的实验结果表明，我们的代数通知配方优于张量鲁棒主成分分析。我们的结论是，一个明智的定义的痕迹规范可以弥合超复杂和基于张量的方法之间的差距。我们的方法可以被看作是一个一般的方法，生成其他主成分追踪算法与适当的代数结构。
2018-01-09 cs.MM cs.SD eess.AS
