Principal Component Projection Without Principal Component Analysis
Stanford University（斯坦福大学）；MIT（麻省理工学院）；Microsoft Research, New England（新英格兰微软研究院）
我们展示了如何有效地将向量投影到矩阵的顶部主成分上，而无需显式计算这些成分。具体来说，我们引入了一个迭代算法，可证明使用几个调用任何黑盒例程岭回归计算的投影。通过避免显式主成分分析（PCA），我们的算法是第一个没有运行时依赖于顶部主成分的数量。我们表明，它可以用来给一个快速的迭代法流行的主成分回归问题，给出了第一个主要的运行时改进的天真的方法相结合的PCA回归。为了实现我们的结果，我们首先观察到岭回归可以用于获得到顶部主成分上的“平滑投影”。然后，我们锐化这种近似真实的投影使用低次多项式近似矩阵阶跃函数。阶跃函数逼近是科学计算中一个长期关注的课题。我们通过构造具有简单迭代结构的多项式并在有限精度下严格分析其行为来扩展先验理论。
2019-11-26 cs.DS cs.LG stat.ML
A Generalization of Principal Component Analysis
传统的主成分分析（PCA）找到一个主向量，最大化主成分的二次幂和。我们考虑一个广义PCA，其目的是最大化的主成分的任意凸函数的总和。我们提出了一个梯度上升算法来解决这个问题。对于广义PCA的核版本，我们证明了解决方案可以作为一个简单的单层递归神经网络的不动点。我们还在不同的数据集上评估了我们的算法。
2019-11-15 cs.LG eess.SP stat.ML
A Bias Trick for Centered Robust Principal Component Analysis
The University of Texas at Dallas（德克萨斯大学达拉斯分校）
基于离群值的鲁棒主成分分析（RPCA）需要对非离群值进行中心化。我们展示了一个“偏差技巧”，自动将这些非离群值集中起来。使用这种偏置技巧，我们获得了第一个RPCA算法，这是最佳的中心。
2019-11-19 cs.LG stat.ML
A Dual Formulation for Probabilistic Principal Component Analysis
KU Leuven（鲁汶大学）
该研究提出概率主成分分析的希尔伯特空间对偶表示，构建核方法生成框架，证明其涵盖核主成分分析，并通过模拟与真实数据集验证有效性。
2023-07-19 cs.LG stat.ML
Determining Principal Component Cardinality through the Principle of Minimum Description Length
Facebook Research（脸书研究院）
PCA（Principal Component Analysis）及其变体是矩阵降维和降维潜在因子提取的普遍技术。使用PCA的一个重要挑战是主成分数量的选择。信息论的最小描述长度（MDL）原则为模型选择提供了基于压缩的客观标准，但很难将其现代定义--归一化最大似然（NML）--应用于PCA问题。这项工作显示了NML问题的一般减少到低维问题。应用这一约简，它用已知的线性回归的NML项来界定PCA的NML。
2019-06-29 cs.LG stat.ML
Sparse principal component regression via singular value decomposition approach
The University of Electro-Communications（电气通信大学）
主成分回归（PCR）是一个两阶段的过程：第一阶段执行主成分分析（PCA），第二阶段构建回归模型，其解释变量由第一阶段获得的主成分代替。由于PCA仅使用解释变量进行，因此主成分没有关于响应变量的信息。为了解决这个问题，我们提出了一个单阶段的PCR过程中的奇异值分解方法。我们的方法是基于两个损失函数，回归损失和PCA损失，稀疏正则化。所提出的方法使我们能够获得主成分负荷，拥有解释变量和响应变量的信息。提出了一种利用乘子交替方向法的估计算法。我们进行数值研究，以显示所提出的方法的有效性。
2020-02-21 cs.LG stat.ME stat.ML
A Two-Stage Federated Learning Approach for Industrial Prognostics Using Large-Scale High-Dimensional Signals
North Carolina State University（北卡罗来纳州立大学）
针对工业预测中组织因数据不足和隐私限制无法独立训练模型的问题，提出一种两阶段联邦学习方法，通过联邦随机奇异值分解降维和联邦(log)-位置-尺度回归协作估计失效时间分布，在保护数据隐私的同时提升了小数据集下的预测性能。
2024-10-14 cs.LG stat.AP stat.ML
Diffusion Approximations for Online Principal Component Estimation and Global Convergence
Princeton University（普林斯顿大学）；Tencent AI Lab（腾讯人工智能实验室）
在本文中，我们建议采用扩散近似工具来研究动态Oja的迭代，这是一个在线的随机梯度下降方法的主成分分析。Oja的迭代维护了对流数据中真实主成分的运行估计，并且具有更低的时间和空间复杂性。我们表明，Oja的迭代的顶部特征向量生成一个连续状态的离散时间马尔可夫链的单位球。我们使用扩散近似和弱收敛工具将Oja迭代分为三个阶段。我们的三阶段分析进一步提供了一个有限样本误差界的运行估计，这匹配的极小极大信息下界的主成分分析下的附加假设的有界样本。
2018-08-29 cs.LG stat.ML
Two derivations of Principal Component Analysis on datasets of distributions
University of Amsterdam（阿姆斯特丹大学）
本文针对分布数据集提出PCA的两种等价推导，基于位置和协方差刻画分布，从方差最大化和重构误差最小化角度得到闭式解。
2023-06-23 cs.LG stat.ML
Towards federated multivariate statistical process control (FedMSPC)
Software Competence Center Hagenberg（哈根贝格软件能力中心）
从线性（生产-使用-处置）向循环经济的持续过渡对当前最先进的信息和通信技术提出了重大挑战。特别是，从价值链上产生的（实时）数据中获得关于材料、工艺和产品流的综合、高层次视图具有挑战性，原因有几个。最重要的是，足够丰富的数据往往是可用的，但由于隐私问题，这使得它不可能建立集成的过程模型，捕捉输入材料之间的相互关系，过程参数和关键性能指标沿价值链，而不是跨公司边界共享。在目前的贡献，我们提出了一个隐私保护，联邦多元统计过程控制（FedMSPC）框架的基础上联邦主成分分析（PCA）和安全多方计算，以促进利益相关者沿着价值链更紧密的合作。我们在两个工业基准数据集- SECOM和ST-AWFD上测试了我们的方法。我们的实证结果表明，所提出的方法相比，标准的，单一的一方（多路）PCA优越的故障检测能力。此外，我们还展示了我们的框架为价值链中的每个数据持有者提供隐私保护故障诊断的可能性，以支持安全数据共享和联邦流程建模的好处。
2022-11-04 cs.CR cs.LG stat.ME
When are the most informative components for inference also the principal components?
University of Michigan（密歇根大学）
信号加噪声数据矩阵的奇异值分解的哪些分量对于检测或估计嵌入式低秩信号矩阵的推理任务来说信息量最大？主成分分析将更大的重要性归于捕获最大变化的成分，即，与最大奇异值相关联的奇异向量。这种选择通常通过调用Eckart-Young定理来证明，即使该工作解决了如何使用低秩近似最好地表示信号加噪声矩阵的问题，而不是如何最好地推断潜在的低秩信号分量。在这里，我们采取的第一原理的方法，我们开始与信号加噪声的数据矩阵，并显示如何频谱的噪声只占主导地位的奇异值分解的数据矩阵的主要或中间组件将是信息组件的推断。简单地说，如果噪声谱支持在一个连接的区间上，在某种意义上，我们使精确，那么使用主成分是合理的。当噪声频谱在多个间隔上得到支持时，中间分量可能比主分量提供更多信息。最终结果是在噪声矩阵为i.i.d.的设置中使用主成分的适当理由。高斯和场景的识别，一般涉及异质噪声模型，例如高斯混合，其中中间分量可能比主分量信息更多，因此可以利用它们来提取额外的处理增益。我们的研究结果表明，如何盲目使用主成分可能会导致次优甚至错误的推理，因为相变，分离的制度，其中的主成分是信息的制度，他们是无信息的。
2013-02-05 cs.DS cs.IT cs.LG
A Tutorial on Principal Component Analysis
Google Research（谷歌研究院）
主成分分析（PCA）是现代数据分析的支柱-一个广泛使用但（有时）知之甚少的黑盒子。本文的目的是消除这个黑盒子背后的魔力。这份手稿的重点是建立一个坚实的直觉，如何以及为什么主成分分析工作。这份手稿通过简单的直觉和PCA背后的数学推导来具体化这些知识。本教程不回避非正式地解释这些想法，也不回避数学。希望通过解决这两个方面，各级读者将能够更好地了解PCA以及何时，如何和为什么应用这种技术。
2014-04-03 cs.LG stat.ML
A Federated Data Fusion-Based Prognostic Model for Applications with Multi-Stream Incomplete Signals
North Carolina State University（北卡罗来纳州立大学）
针对单组织历史数据不足且多流信号高维、不完整的问题，提出联邦数据融合预后模型，通过联邦多元函数主成分分析与（对数）位置尺度回归实现隐私保护的失效时间预测，性能媲美集中式模型并优于各用户本地模型。
2024-04-09 cs.LG eess.SP stat.ME
Principal Component Classification
Maynooth University（梅努斯大学）
我们建议直接计算分类估计学习特征编码与他们的类得分使用PCA。我们得到的模型有一个适合监督学习的编码器-解码器结构，它是计算效率高，并在多个数据集上进行分类。
2022-10-26 cs.CV cs.LG stat.ML
On the Error-Propagation of Inexact Hotelling's Deflation for Principal Component Analysis
Rice University（莱斯大学）
本文数学刻画了PCA中非精确Hotelling消减法的误差传播，分别在抽象子程序和幂迭代两种场景下给出了误差演进界，并利用幂迭代方向信息获得了更紧的误差界。
2024-05-29 cs.LG math.OC stat.ML
Modularity Component Analysis versus Principal Component Analysis
本文给出了模块度矩阵的首特征向量与非中心数据矩阵的奇异向量之间的精确线性关系。在此基础上定义了模块化构件的概念，并研究了其性质。结果表明，模块化成分分析可以用于聚类数据类似于传统的主成分分析是如何使用的，除了模块化成分分析不需要数据中心。
2016-02-19 stat.ML
Insights into the Unknown: Federated Data Diversity Analysis on Molecular Data
MIC at German Cancer Research Center Heidelberg, Germany（德国癌症研究中心希波德堡分部）；Medical Faculty of Heidelberg University Heidelberg, Germany（海德堡大学医学系）
本研究针对联邦学习中分子数据多样性分析难题，基准测试三种联邦聚类方法，并引入化学信息指标SF-ICF，证明融合领域知识对提升分析效果至关重要。
2025-10-22 cs.AI cs.LG
Kernel principal component analysis network for image classification
Southeast University（东南大学）；Université de Rennes 1（雷涅第一大学）
为了用线性分类器对非线性特征进行分类，提高分类精度，提出了一种名为核主成分分析网络（KPCANet）的深度学习网络。首先，利用核主成分分析将数据映射到更高的空间，使数据线性可分。然后建立一个两层的KPCANet来获取图像的主成分。最后用线性分类器对主成分进行分类。实验结果表明，KPCANet在人脸识别、物体识别和手写数字识别中具有较好的效果，总体性能优于主成分分析网络（PCANet）。此外，KPCANet具有光照不变性，对遮挡和轻微变形稳定。
2015-12-20 cs.CV cs.LG
On the estimation of the number of components in multivariate functional principal component analysis
本文通过模拟研究探讨多元函数主成分分析中主成分个数的选择，发现传统方差解释阈值方法不可靠，建议谨慎使用。
2025-01-26 stat.ME stat.ML
Principal Component Analysis versus Factor Analysis
Warsaw School of Computer Science（华沙计算机科学学校）
本文讨论了与主成分分析（PCA）和因子分析（FA）有关的选定问题。特别是，这两种类型的分析进行了比较。还提出了PCA和FA的向量解释。详细讨论了主成分分析中主成分个数和FA中因子个数的确定问题。一个新的标准，用于确定的因素和主成分的数量进行了讨论，这将允许目前大多数的方差的每个分析的主要变量。提出了一种有效的算法来确定FA中的因子的数量，它符合这个标准，也提出了。该算法适用于主成分分析中主成分个数的确定。还提出了使用确定主成分数目的新方法来修改PCA算法。对所得结果进行了讨论。
2021-10-21 cs.LG stat.ME
Robust Principal Component Analysis: A Construction Error Minimization Perspective
Clemson University（克莱姆森大学）
在本文中，我们提出了一种新的优化框架，系统地解决强大的PCA问题，严格的理论保证，在此基础上，我们研究非常计算经济的更新算法。
2021-11-23 cs.LG
Bayesian Nonlinear Principal Component Analysis Using Random Fields
Nanyang Technological University（南洋理工大学）
我们提出了一个新的模型，非线性降维的概率制定的主成分分析的动机。通过在潜在空间的不同位置指定不同的变换矩阵并使用马尔可夫随机场类型先验平滑变换来实现非线性。计算是可行的，最近的进展，从冯米塞斯-费舍尔分布抽样。
2008-02-09 cs.CV cs.LG
On principal component analysis of the convex combination of two data matrices and its application to acoustic metamaterial filters
IMT School for Advanced Studies, Lucca, Italy（IMT卢卡高等研究院）；University of Genoa, Italy（热那亚大学）
在这篇短文中，矩阵扰动界的特征值的主成分分析进行了研究，在这种情况下，数据矩阵上的主成分分析是一个凸组合的两个数据矩阵。将理论分析应用于多目标最优化问题（例如，在声学超材料滤波器的设计中出现的那些）连同可能的扩展一起被简要地讨论。
2021-04-16 cs.LG math.OC
Fast Ridge Regression with Randomized Principal Component Analysis and Gradient Descent
提出了一种新的求解大规模回归问题的两阶段算法LING。在固定设计设置下，LING与众所周知的岭回归具有相同的风险，并且可以更快地计算。我们的实验表明，与其他大规模回归算法（如梯度下降，随机梯度下降和主成分回归）相比，LING在模拟和真实数据集上的预测精度和计算效率方面都表现良好。
2014-05-15 stat.ML
Online Robust Principal Component Analysis with Change Point Detection
SAS Institute（SAS研究所）；Shanghai Jiao Tong University（上海交通大学）
鲁棒PCA方法通常是批处理算法，需要在处理之前将所有观测加载到内存中。这使得他们处理大数据的效率低下。本文提出了一种有效的在线鲁棒主成分分析方法，即在线移动窗口鲁棒主成分分析（OMWRPCA）。与现有的算法不同，OMWRPCA不仅可以成功地跟踪缓慢变化的子空间，也可以跟踪突变的子空间。通过在算法中嵌入假设检验，OMWRPCA可以检测到底层子空间的变化点。大量的仿真研究表明，OMWRPCA的优越性能相比，其他国家的最先进的方法。我们还将该算法应用于监控视频的实时背景减除。
2017-03-20 cs.CV cs.LG stat.AP
Localized Sparse Principal Component Analysis of Multivariate Time Series in Frequency Domain
Department of Biostatistics & Bioinformatics, Emory University（埃默里大学生物统计与生物信息学系）；University of Pittsburgh（匹兹堡大学）
本文提出一种在频域中对高维时间序列进行可解释主成分分析的方法，通过开发高效的频域序列算法，实现稀疏局部化的主成分估计，用于理解精神分裂症患者的神经机制。
2026-03-18 stat.ME stat.ML
A note on the prediction error of principal component regression
分析了主成分回归（PCR）的预测误差，证明了相应的平方风险的非渐近上界。在温和的假设下，我们表明，PCR执行以及通过取代经验的主成分由他们的人口同行所获得的预言方法。我们的方法依赖于主成分分析的超额风险上界。
2019-04-16 math.ST stat.TH
Principal Components of the Meaning
University of Leicester（莱斯特大学）；Lobachevsky University（罗巴切夫斯基大学）
在本文中，我们认为，（词汇）的科学意义可以表示在一个13维的意义空间。这个空间是使用主成分分析（奇异分解）的矩阵的词类别的相对信息增益，其中的类别是那些使用的Web of Science，和单词是从一个减少的词集从Web of Science的文本。我们表明，这个减少的词集合理地代表了语料库中的所有文本，使主成分分析有一定的客观意义的语料库。我们认为，13个维度足以描述科技文本的意义，并假设的主要成分的定性意义。
2020-09-18 cs.CL cs.LG
Principal component-guided sparse regression
我们提出了一种新的监督学习方法，特别适合于特征数量远远大于观测数量的宽数据。该方法结合了套索（$\ell_1$）稀疏惩罚与二次惩罚，缩小系数向量的特征矩阵的领先的主成分。我们称所提出的方法为“主成分套索”（“pcLasso”）。如果特征被预先分配到组（例如细胞通路、测定或蛋白质相互作用网络），则该方法可以特别强大。在这种情况下，pcLasso会将解的每个分组分量缩小到该组的领先主分量。在此过程中，还进行了特征组的选择。我们提供了一些理论，这种方法，并说明它的一些模拟和真实数据的例子。
2018-10-24 stat.ME stat.ML
Sparse principal component analysis for high-dimensional stationary time series
本文研究高维平稳过程的稀疏主成分分析。当过程的维数较大时，标准主成分分析表现不佳。建立了含重尾时间序列的惩罚主成分估计的预言不等式。建立了估计量的收敛速度收敛速率。我们还阐明了在惩罚估计中选择调整参数的理论速率。通过数值模拟证明了稀疏主成分分析的性能。稀疏主成分分析对时间序列数据的实用性通过应用于平均温度数据来举例说明。
2021-09-16 math.ST stat.TH
Near-Optimal Stochastic Approximation for Online Principal Component Estimation
主成分分析（PCA）是高维数据分析的重要工具。通过处理流数据来估计主成分的在线算法具有巨大的实际和理论意义。尽管其丰富的应用，理论上的收敛分析仍然在很大程度上是开放的。本文将在线PCA问题转化为随机非凸最优化问题，并将在线PCA算法分析为随机逼近迭代。随机逼近迭代递增地处理数据点并保持主成分的运行估计。我们证明了第一次几乎最佳的有限样本误差界的在线PCA算法。在亚高斯假设下，我们证明了有限样本误差界与极大极小信息下界密切匹配。
2017-10-05 math.OC stat.ML
Quantum image classification using principal component analysis
Institute of Theoretical and Applied Informatics, Polish Academy of Sciences（波兰科学院理论与应用信息学研究所）；Silesian University of Technology（西里西亚工业大学）
我们提出了一种新的量子图像分类算法。该算法是利用主成分分析和冯纽曼量子测量。为了应用该算法，我们提出了一种新的灰度图像的量子表示。
2015-04-02 cs.CV cs.LG quant-ph
The curse of isotropy: from principal components to principal subspaces
该研究指出主成分分析中特征值相近的主成分存在旋转变异性的“各向同性诅咒”问题，提出从定义模糊的主成分转向更具可解释性的主子空间的分析方法，该方法简单且在多领域数据集上效果良好。
2025-08-01 stat.ME
Deep Kernel Principal Component Analysis for Multi-level Feature Learning
KU Leuven（鲁汶大学）
主成分分析（PCA）及其非线性扩展核PCA（KPCA）在科学和工业中广泛用于数据分析和降维。现代深度学习工具已经取得了巨大的经验成功，但仍然缺乏深度主成分分析的框架。在这里，我们开发了一种深度核PCA方法（DKPCA）来提取数据中信息量最大的多个层次。我们的方案可以有效地识别新的层次变量，称为深主成分，通过一个简单的和可解释的数值优化捕捉高维数据的主要特征。我们耦合多个KPCA级别的主成分，理论上表明DKPCA创建跨级别的向前和向后依赖性，这在内核方法中尚未探索，但对于提取更多信息的特征至关重要。多种数据类型上的各种实验评估表明，DKPCA发现更有效和解纠缠表示更高的解释方差在较少的主成分，相比浅KPCA。我们证明，我们的方法允许有效的分层数据探索，与分离的输入数据的关键生成因素的能力，无论是大数据集，当很少的训练样本是可用的。总的来说，DKPCA可以通过学习在不同层次上组织的更多信息特征来促进从高维数据中提取有用的模式，提供多样化的方面来探索数据中的变化因素，同时保持简单的数学公式。
2023-02-22 cs.LG
Dynamic Principal Component Analysis: Identifying the Relationship between Multiple Air Pollutants
空气质量化学和传输的动态性质使得很难确定一个区域的空气污染物的混合物。在这项研究中，我们在休斯敦大都市区的空气质量应用动态主成分分析（DPCA）的一个规范化的多元时间序列的五种污染物（O3，CO，NO2，SO2，PM2.5）的每日浓度测量值从2009年1月1日至2011年12月31日，每天的24小时。由此产生的动态组件检查跨天的3年期间的小时。昼夜和季节性的模式，揭示了突出的时候，DPCA表现最好的和两个主成分（PC）解释多变量系列的变化。结果表明，DPCA在发现转换后的污染物测量值之间的线性关系方面优于静态主成分分析（PCA）。DPCA捕获了该地区多达34个监测点记录的基础污染物随时间变化的相关结构。在冬季早晨，第一主成分（PC1）（主要是CO和NO2）解释了高达70%的变异。增加第二主成分（PC2）（主要由SO2驱动），解释的变异性上升到90%。在下午，O3在第二主成分中获得突出地位。PC对方差的贡献的季节性分布在下午失去了它的区别，但累积起来，PC1和PC2仍然解释了环境空气数据中高达65%的变化。DPCA提供了一个战略，以确定不断变化的空气质量剖面的研究区域。
2016-08-10 stat.AP stat.ML
Tutorial on principal component analysis, with applications in R
本教程回顾了多元数据集的主成分分析的主要步骤，以及随后在确定主导主成分的基础上进行的降维。底层计算通过统计软件包R中编写的脚本进行演示和执行。
2021-12-08 stat.AP stat.OT
A random version of principal component analysis in data clustering
主成分分析（PCA）是一种广泛使用的数据分析技术，它依赖于被分析数据的协方差相关矩阵。然而，为了正确处理高维数据，PCA对分析中必须包含的不同重复或样本的最小数量提出了严格的数学约束。在这里，我们表明，修改后的算法不仅适用于尺寸良好的数据集，但也退化的。
2016-10-27 cs.LG q-bio.QM
Principal Components for Neural Network Initialization
Simula Metropolitan（Simula 城市）；University of Science（科学大学）
本文针对训练前对数据使用PCA导致XAI解释复杂的问题，提出用主成分初始化网络首层的PCsInit及其两个变体，以获得更直接的解释、理论保证和更好的反向传播训练效果。
2025-09-29 cs.AI cs.LG
Cauchy robust principal component analysis with applications to high-deimensional data sets
主成分分析（PCA）是一种标准的降维技术，用于各种研究和应用领域。从算法的角度来看，经典的PCA可以用多变量高斯似然运算来表示。作为隐含高斯公式的结果，主成分对离群值不具有鲁棒性。在本文中，我们提出了一个修改后的配方，基于使用的多元柯西似然，而不是高斯似然，它具有鲁棒的主成分的效果。我们提出了一个算法来计算这些鲁棒主成分。我们还推导出第一个组件的相关影响函数，并检查其理论性质。在高维数据集上的仿真实验表明，基于柯西似然估计的主成分优于或等同于现有的鲁棒PCA技术。
2022-11-06 stat.ME
FedCCRL: Federated Domain Generalization with Cross-Client Representation Learning
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））
针对联邦学习场景下现有域泛化算法因隐私约束、客户端数据量与域多样性有限而难以适用的问题，提出轻量级FedCCRL方法，通过跨客户端特征扩展和双阶段对齐模块提升泛化能力，在多数据集不同客户端数量设置下取得最优性能。
2024-11-24 cs.AI cs.LG
Sparse Principal Component Analysis with missing observations
本文研究了高维情形下的稀疏主成分分析问题。我们的目标是当我们只能获得部分观测值时估计第一主成分。现有的估计技术通常来自充分观察的数据集，并需要先验知识的稀疏性的第一主成分，以实现良好的统计保证。我们的贡献是三方面的。首先，我们建立了具有缺失观测的稀疏PCA问题的第一信息论下界。其次，我们提出了一个简单的程序，不需要任何先验知识的稀疏性未知的第一个主成分或任何填补的缺失的意见，适应未知的稀疏性的第一个主成分，并达到最佳估计率的对数因子。第三，如果感兴趣的协方差阵允许稀疏的第一主成分并且另外近似低秩，则我们可以导出在高维中计算上易于处理的完全数据驱动的过程，适应于第一主成分的未知稀疏性并且是统计上最优的（直到对数因子）。
2012-06-01 math.ST stat.TH
Derivative Principal Component Analysis for Representing the Time Dynamics of Longitudinal and Functional Data
我们提出了一个非参数的方法来明确地建模和表示的衍生物的光滑的基本轨迹的纵向数据。这种表示是基于一个直接的Karhunen-Loève扩展的未观察到的衍生物，并导致衍生主成分分析的概念，补充功能主成分分析，最流行的工具之一的功能数据分析。建议的衍生主成分得分可以获得不规则间隔和稀疏观察的纵向数据，通常遇到的生物医学研究，以及密集测量的功能数据。新的一致性结果和渐近收敛速度的衍生主成分分数和模型的其他组件的建议估计的稀疏或密集的观测和温和的条件下，一个统一的计划。我们比较所提出的表示衍生工具与替代方法在模拟设置，也在一个小袋鼠生长曲线的应用。它出现的表示使用所提出的衍生主成分分析恢复底层衍生物更准确地相比，主成分分析为基础的方法，特别是在设置中的功能数据表示只有非常少量的组件或密集采样。在第二个小麦光谱分类的例子中，衍生主成分分数被发现是更好的预测小麦的蛋白质含量比传统的功能主成分分数。
2017-07-14 math.ST stat.ME stat.TH
On the number of principal components in high dimensions
考虑了当维数远大于观测值个数时，主成分分析应用中应保留多少成分的问题。为了估计组件的数量，我们建议顺序测试通过删除领先的主成分获得的残差分数的平方长度的偏度。如果去除所有方差发散的主成分，则残差长度渐近左偏，否则渐近右偏。所提出的估计被证明是一致的，在高维模拟研究中表现良好，并提供了合理的估计，在一些实际数据的例子。
2017-08-16 stat.ME
Extrinsic Principal Component Analysis
本文提出外在主成分分析方法，通过将流形嵌入数值空间并利用弦距离，实现高维乃至无限维数据的快速降维，并在轮廓形状数据上验证了其有效性。
2024-10-03 stat.ME
Iterative Aggregation Method for Solving Principal Component Analysis Problems
本文提出一种两级聚合方法，用于高效求解主成分分析问题，通过迭代幂法求解特征值问题，并在大规模文本数据集上进行了测试。
2016-02-29 cs.IR cs.LG cs.NA
MML Probabilistic Principal Component Analysis
Faculty of Information Technology, Monash University（莫纳什大学信息技术学院）
本文提出基于贝叶斯最小信息量方法的自动主成分选择算法，并改进了残差方差估计方法，扩展至有限混合模型。
2026-02-09 stat.ME
On optimal allocation of treatment/condition variance in principal component analysis
主成分分析（PCA）中条件效应分配错误（方差分配错误）的问题已在脑电事件相关电位研究中得到解决。然而，PCA组件的条件效应的正确分配可能是相关的几个领域的研究。本文探讨是否在每个条件水平的不同加载模式的基础上，主成分的条件间方差的最优分配。事实证明，在每个条件水平相似的加载形状是条件间方差的最优分配的必要条件，而类似的加载幅度是不必要的。
2018-04-19 stat.AP stat.ME
On the Correlation between Random Variables and their Principal Components
Warsaw School of Computer Science（华沙计算机科学学院）
本文推导出随机变量与其主成分间相关系数的代数公式，该公式与因子载荷公式一致，可用于优化主成分及因子数量。
2023-10-09 cs.LG math.ST stat.TH
Sparse principal component analysis via axis-aligned random projections
我们介绍了一种新的方法，稀疏主成分分析的基础上聚集的特征向量信息从精心选择的轴对齐的随机投影的样本协方差阵。与大多数替代方法不同，我们的算法是非迭代的，所以不容易受到初始化选择不好的影响。我们提供了理论保证下，我们的主子空间估计可以达到最小最大的最优收敛速度在多项式时间。此外，我们的理论提供了一个更精细的理解稀疏主成分估计的问题中的统计和计算的权衡，揭示了一个微妙的相互作用之间的有效样本量和随机投影的数量，需要达到最小最大的最优速率。数值研究提供了进一步的洞察过程，并确认其极具竞争力的有限样本性能。
2019-05-06 math.ST stat.ME stat.ML
Disjoint principal component analysis by constrained binary particle swarm optimization
Universidad de Salamanca（萨拉曼卡大学）；ESPOL Polytechnic University, Escuela Superior Politécnica del Litoral（ESPOL理工大学（海岸理工学院））；Institute of Biomedical Research of Salamanca（萨拉曼卡生物医学研究所）；Pontificia Universidad Católica de Valparaíso（瓦尔帕莱索天主教大学）
在本文中，我们提出了一种替代方法的不相交的主成分分析。该方法包括一个主成分分析的约束条件，这使我们能够确定不相交的组件是原始变量的不相交子集的线性组合。由于该方法是在粒子群优化算法的基础上发展起来的，因此被称为粒子群不相交主成分分析约束二进制优化算法。该方法使用随机优化，以找到解决方案的情况下，高计算复杂性。与该方法相关联的算法开始随机地生成粒子群，该粒子群迭代地进化直到达到全局最优，该全局最优是不相交分量的函数。数值结果证实了所提出的方法获得的解决方案的质量。最后给出了实际数据的算例，说明了该方法的应用前景.
2020-04-22 cs.LG cs.NE stat.CO
Projection Sparse Principal Component Analysis: an efficient least squares method
提出了一种新的稀疏主成分分析（SPCA）方法，该方法通过将满基数主成分投影到变量子集上来获得解。所得到的分量保证解释给定比例的方差。这些解决方案的计算是非常有效的。该方法与最优最小二乘稀疏分量法相比效果良好。我们发现，其他SPCA方法无法识别主成分的最佳稀疏近似，并解释比我们的解决方案更少的方差。我们说明和比较我们的方法与分析的一个真实的数据集包含社会经济数据和计算结果的9个数据集的增加维度高达16,000个变量。
2019-10-07 stat.ME
Dynamic principal component regression: Application to age-specific mortality forecasting
在应用领域，包括精算学和人口学，越来越普遍地考虑曲线的时间序列;这方面的一个例子是在若干年期间观察到的按年龄划分的死亡率。考虑到年龄可以被视为离散或连续变量，通常实施诸如主成分分析的降维技术。然而，在存在中等到强的时间依赖性的情况下，通常用于分析独立同分布数据的静态主成分分析可能是不够的。作为一种替代方案，我们考虑一个\textit{dynamic}主成分的方法来模拟时间依赖的时间序列的曲线。受Brillinger（1974）的动态主成分理论的启发，本文提出了一种基于估计长期协方差的特征分解的动态主成分分析。通过一系列的实证应用，我们证明了潜在的改善一年提前点和区间预测精度的动态主成分回归需要相比，静态对应。
2019-05-10 stat.AP
A robust approach for principal component analyisis
在本文中，我们分析了不同的方式执行主成分分析通过三种不同的方法：鲁棒协方差和相关阵估计，投影寻踪方法和非参数最大熵算法。这些方法的目的是纠正主成分分析的经典方法对异常值的众所周知的敏感性。由于它们的鲁棒性，它们在污染数据中表现得非常好，而经典方法无法保持核心信息的特征。
2019-02-28 math.ST stat.TH
Adjusting systematic bias in high dimensional principal component scores
主成分分析一直是高维数据降维的有力工具。我们假设一个方差发散模型，并使用高维，低样本量的渐近性，即使主成分方向是不一致的，样本和预测的主成分得分可以在揭示人口结构是有用的。我们进一步表明，这些分数是有偏见的，和偏见是渐近分解成旋转和缩放部分。我们提出的方法，偏差调整，被证明是一致的，并在高维的情况下，小样本量。在分类设置中证明了偏差调整的潜在优势。
2020-09-25 math.ST stat.TH
