Cauchy robust principal component analysis with applications to high-deimensional data sets
主成分分析（PCA）是一种标准的降维技术，用于各种研究和应用领域。从算法的角度来看，经典的PCA可以用多变量高斯似然运算来表示。作为隐含高斯公式的结果，主成分对离群值不具有鲁棒性。在本文中，我们提出了一个修改后的配方，基于使用的多元柯西似然，而不是高斯似然，它具有鲁棒的主成分的效果。我们提出了一个算法来计算这些鲁棒主成分。我们还推导出第一个组件的相关影响函数，并检查其理论性质。在高维数据集上的仿真实验表明，基于柯西似然估计的主成分优于或等同于现有的鲁棒PCA技术。
2022-11-06 stat.ME
On the number of principal components in high dimensions
考虑了当维数远大于观测值个数时，主成分分析应用中应保留多少成分的问题。为了估计组件的数量，我们建议顺序测试通过删除领先的主成分获得的残差分数的平方长度的偏度。如果去除所有方差发散的主成分，则残差长度渐近左偏，否则渐近右偏。所提出的估计被证明是一致的，在高维模拟研究中表现良好，并提供了合理的估计，在一些实际数据的例子。
2017-08-16 stat.ME
Extrinsic Principal Component Analysis
本文提出外在主成分分析方法，通过将流形嵌入数值空间并利用弦距离，实现高维乃至无限维数据的快速降维，并在轮廓形状数据上验证了其有效性。
2024-10-03 stat.ME
MML Probabilistic Principal Component Analysis
Faculty of Information Technology, Monash University（莫纳什大学信息技术学院）
本文提出基于贝叶斯最小信息量方法的自动主成分选择算法，并改进了残差方差估计方法，扩展至有限混合模型。
2026-02-09 stat.ME
Projection Sparse Principal Component Analysis: an efficient least squares method
提出了一种新的稀疏主成分分析（SPCA）方法，该方法通过将满基数主成分投影到变量子集上来获得解。所得到的分量保证解释给定比例的方差。这些解决方案的计算是非常有效的。该方法与最优最小二乘稀疏分量法相比效果良好。我们发现，其他SPCA方法无法识别主成分的最佳稀疏近似，并解释比我们的解决方案更少的方差。我们说明和比较我们的方法与分析的一个真实的数据集包含社会经济数据和计算结果的9个数据集的增加维度高达16,000个变量。
2019-10-07 stat.ME
Sparse Principal Component Analysis: a Least Squares approximation approach
稀疏主成分分析的目的是找到具有很少非零载荷的主成分。我们得到这样的稀疏的解决方案，通过添加一个真正的稀疏性要求，原来的主成分分析（PCA）的目标函数。这种方法与其他方法不同，因为它保留了PCA的原始最优性：分量的\uns \和数据的最小二乘近似。为了确定非零负载的最佳子集，我们提出了一个分支定界搜索和迭代消除算法。最后一个算法发现稀疏的解决方案与大负载，可以运行，而无需指定的基数的负载和组件的数量来计算提前。我们与现有的稀疏PCA方法和几个真实数据集上的例子进行了全面的比较。
2014-08-17 stat.ME
New Interpretation of Principal Components Analysis
对主成分分析提出了新的看法。首先给出了决定系数的几何解释。反过来，以易于理解的基本几何结构的形式表示分析数据及其相互依赖性的能力也得到了展示。作为这些结构的分析结果，它被建议，以丰富经典的PCA。特别是，它提出了一个新的标准，选择重要的主成分和一个新的算法聚类的主要变量的相似程度的主成分。虚拟和真实的数据空间，以及张量操作的数据，也已确定的数据的各向异性。
2017-11-10 stat.ME
Hybrid principal component analysis in multivariate allometric regression
Kyushu University（九州大学）；Keio University（庆应义塾大学）
针对异速数据中小特征值接近导致的不稳定性，提出混合主成分分析估计量渐近正态性，并基于几何统计量检验回归方向与主成分方向的平行性，应用于龟壳数据验证性别间异速关系。
2026-07-01 stat.ME
Generalized Spherical Principal Component Analysis
离群值污染数据集是对统计估计器的挑战。即使是一小部分离群观测值也会严重影响大多数经典统计方法。在本文中，我们提出了广义球面主成分分析，一个新的稳健版本的主成分分析，是基于广义空间符号协方差阵。支持所提出的方法，包括影响函数，击穿值和渐近有效性的理论性质进行了研究，并进行了仿真研究，比较我们的新方法与现有的方法。我们还提出了一个调整的广义空间符号协方差阵，以实现更好的Fisher一致性属性。我们说明，广义球面主成分分析，取决于所选择的径向函数，具有很大的鲁棒性和效率特性，除了一个低的计算成本。
2023-03-10 stat.ME
A unified framework of principal component analysis and factor analysis
本文提出一个连接主成分分析与因子分析的统一框架，从损失函数最小化视角将两者视为特定损失函数下矩阵优化问题的解，并探讨了相关算法与模型，为数据分析提供新工具。
2024-05-30 stat.ME
Principal Balances of Compositional Data for Regression and Classification using Partial Least Squares
高维组成数据在现代组学科学中是常见的。成分数据的分析需要正确选择正交坐标表示，因为它们的相对性质与直接使用标准统计方法不兼容。主平衡是对数比坐标的一个特定类别，非常适合这种情况，因为它们是以这样一种方式构建的，即前几个坐标捕获了原始数据中的大部分可变性。专注于回归和分类问题的高维，我们提出了一种新的偏最小二乘（PLS）为基础的程序来构建主要的平衡，最大限度地解释响应变量的变异性，显着促进解释时相比，普通PLS制定。建议的PLS主平衡方法可以被理解为一个通用版本的常见logcontrast模型，因为多个正交（而不是一个）logcontrast同时估计。我们使用模拟和真实的数据集证明了该方法的性能。
2022-11-03 stat.ME
Unifying Amplitude and Phase Analysis: A Compositional Data Approach to Functional Multivariate Mixed-Effects Modeling of Mandarin Chinese
普通话是一种声调语言，它的音高（或$F_0$）承载着大量的语言信息。然而，来自不同个体的语音样本受到幅度和相位的变化的影响，这在试图提供语言的语言学上有意义的描述的任何分析中必须被考虑。本文提出了一个振幅、相位和持续时间的联合模型，它结合了函数数据分析、成分数据分析和线性混合效应模型的元素。通过功能主成分分析分解函数，并将配准函数连接到成分数据分析，可以制定联合多元混合效应模型，该模型可以洞察不同变化模式之间的关系以及它们对语言和非语言协变量的依赖。该模型被应用到COSPRO-1数据集，一个全面的数据库，台湾普通话口语，包含约5万语音不同的样本$F_0$轮廓（音节），并揭示语音信息是共同进行的幅度和相位变化。
2014-12-28 stat.AP stat.ME
Principal Component Analysis for Functional Data on Riemannian Manifolds and Spheres
Functional data analysis on nonlinear manifolds has drawn recent interest. Sphere-valued functional data, which are encountered for example as movement trajectories on the surface of the earth, are an important special case. We consider an intrinsic principal component analysis for smooth Riemannian manifold -valued functional data and study its asymptotic properties. Riemannian functional principal component analysis (RFPCA) is carried out by first mapping the manifold-valued data through Riemannian logarithm maps to tangent spaces around the time-varying Fréchet mean function, and then perfo…
2017-10-24 math.ST stat.TH
Accounting statement analysis at industry level. A gentle introduction to the compositional approach
University of Girona（赫罗纳大学）；University of Vic - Central University of Catalonia（维克大学-加泰罗尼亚中央大学）
本文介绍组合数据分析方法在行业层面财务报表分析中的应用，通过几何均值计算行业财务比率均值，利用组合主成分分析、聚类分析和回归模型进行可视化与建模，并以西班牙酒庄为例演示杜邦分析。
2026-05-28 q-fin.ST stat.AP stat.ME
On the estimation of the number of components in multivariate functional principal component analysis
本文通过模拟研究探讨多元函数主成分分析中主成分个数的选择，发现传统方差解释阈值方法不可靠，建议谨慎使用。
2025-01-26 stat.ME stat.ML
On optimal allocation of treatment/condition variance in principal component analysis
主成分分析（PCA）中条件效应分配错误（方差分配错误）的问题已在脑电事件相关电位研究中得到解决。然而，PCA组件的条件效应的正确分配可能是相关的几个领域的研究。本文探讨是否在每个条件水平的不同加载模式的基础上，主成分的条件间方差的最优分配。事实证明，在每个条件水平相似的加载形状是条件间方差的最优分配的必要条件，而类似的加载幅度是不必要的。
2018-04-19 stat.AP stat.ME
Principal Component Analysis versus Factor Analysis
Warsaw School of Computer Science（华沙计算机科学学校）
本文讨论了与主成分分析（PCA）和因子分析（FA）有关的选定问题。特别是，这两种类型的分析进行了比较。还提出了PCA和FA的向量解释。详细讨论了主成分分析中主成分个数和FA中因子个数的确定问题。一个新的标准，用于确定的因素和主成分的数量进行了讨论，这将允许目前大多数的方差的每个分析的主要变量。提出了一种有效的算法来确定FA中的因子的数量，它符合这个标准，也提出了。该算法适用于主成分分析中主成分个数的确定。还提出了使用确定主成分数目的新方法来修改PCA算法。对所得结果进行了讨论。
2021-10-21 cs.LG stat.ME
Localized Sparse Principal Component Analysis of Multivariate Time Series in Frequency Domain
Department of Biostatistics & Bioinformatics, Emory University（埃默里大学生物统计与生物信息学系）；University of Pittsburgh（匹兹堡大学）
本文提出一种在频域中对高维时间序列进行可解释主成分分析的方法，通过开发高效的频域序列算法，实现稀疏局部化的主成分估计，用于理解精神分裂症患者的神经机制。
2026-03-18 stat.ME stat.ML
Principal component-guided sparse regression
我们提出了一种新的监督学习方法，特别适合于特征数量远远大于观测数量的宽数据。该方法结合了套索（$\ell_1$）稀疏惩罚与二次惩罚，缩小系数向量的特征矩阵的领先的主成分。我们称所提出的方法为“主成分套索”（“pcLasso”）。如果特征被预先分配到组（例如细胞通路、测定或蛋白质相互作用网络），则该方法可以特别强大。在这种情况下，pcLasso会将解的每个分组分量缩小到该组的领先主分量。在此过程中，还进行了特征组的选择。我们提供了一些理论，这种方法，并说明它的一些模拟和真实数据的例子。
2018-10-24 stat.ME stat.ML
Weighted principal component analysis: a weighted covariance eigendecomposition approach
本文提出了一种新的基于加权方差-协方差矩阵对角化的直接主成分分析（PCA）方法，通过两种谱分解方法：幂迭代和Rayleigh商迭代。该方法允许检索给定数量的正交主成分之间的最有意义的加权和/或缺失数据的问题的情况下。然后通过将主成分拟合到数据来检索主系数，同时提供最终分解。对真实和模拟案例进行的测试表明，我们的方法是最佳的识别数据集内的最显着的模式。我们说明了这种方法的有用性，通过评估其质量的外推斯隆数字巡天类星体光谱从测得的波长较短和较长的波长。我们的新算法还受益于快速灵活的实现。
2014-12-15 astro-ph.IM stat.ME
Derivative Principal Component Analysis for Representing the Time Dynamics of Longitudinal and Functional Data
我们提出了一个非参数的方法来明确地建模和表示的衍生物的光滑的基本轨迹的纵向数据。这种表示是基于一个直接的Karhunen-Loève扩展的未观察到的衍生物，并导致衍生主成分分析的概念，补充功能主成分分析，最流行的工具之一的功能数据分析。建议的衍生主成分得分可以获得不规则间隔和稀疏观察的纵向数据，通常遇到的生物医学研究，以及密集测量的功能数据。新的一致性结果和渐近收敛速度的衍生主成分分数和模型的其他组件的建议估计的稀疏或密集的观测和温和的条件下，一个统一的计划。我们比较所提出的表示衍生工具与替代方法在模拟设置，也在一个小袋鼠生长曲线的应用。它出现的表示使用所提出的衍生主成分分析恢复底层衍生物更准确地相比，主成分分析为基础的方法，特别是在设置中的功能数据表示只有非常少量的组件或密集采样。在第二个小麦光谱分类的例子中，衍生主成分分数被发现是更好的预测小麦的蛋白质含量比传统的功能主成分分数。
2017-07-14 math.ST stat.ME stat.TH
Sparse principal component regression via singular value decomposition approach
The University of Electro-Communications（电气通信大学）
主成分回归（PCR）是一个两阶段的过程：第一阶段执行主成分分析（PCA），第二阶段构建回归模型，其解释变量由第一阶段获得的主成分代替。由于PCA仅使用解释变量进行，因此主成分没有关于响应变量的信息。为了解决这个问题，我们提出了一个单阶段的PCR过程中的奇异值分解方法。我们的方法是基于两个损失函数，回归损失和PCA损失，稀疏正则化。所提出的方法使我们能够获得主成分负荷，拥有解释变量和响应变量的信息。提出了一种利用乘子交替方向法的估计算法。我们进行数值研究，以显示所提出的方法的有效性。
2020-02-21 cs.LG stat.ME stat.ML
Compositional regression using principal nested spheres
Florida International University（佛罗里达国际大学）；Baptist Health South Florida（南佛罗里达浸信会医疗系统）；University of Nottingham（诺丁汉大学）
本文提出基于主嵌套球体（PNS）的组合回归方法，通过映射到可统计处理的中间空间，解决单纯形非线性几何和欧几里得方法限制的问题，展示了在环境化学暴露数据中的可解释性和实用性。
2026-03-21 stat.AP stat.ME
Compositional splines for representation of density functions
在函数数据分析的背景下，作为非负函数的密度函数的特征在于尺度不变性和相对尺度的特定性质，这使得能够用单位积分约束来表示它们而没有信息的损失。另一方面，当密度需要用样条函数近似时，所有这些性质都是一个挑战，包括相应样条基的构造。密度函数的贝叶斯空间方法使得能够使用中心对数比变换将它们表示为标准$L^2$空间中的实函数。所得函数满足零积分约束。这是一个关键，提出了一个新的样条基，保持相同的属性，并因此建立一个新的类样条函数，称为复合样条，它可以近似密度函数在一个一致的方式。本文还提供了光滑复合样条的构造和可能的样条基的正交归一化，这在某些应用中可能是有用的。最后，使用新的近似工具的密度的统计处理演示的情况下，人体测量数据的简单功能主成分分析。
2019-12-18 cs.NA math.NA math.ST
Principal Component Projection Without Principal Component Analysis
Stanford University（斯坦福大学）；MIT（麻省理工学院）；Microsoft Research, New England（新英格兰微软研究院）
我们展示了如何有效地将向量投影到矩阵的顶部主成分上，而无需显式计算这些成分。具体来说，我们引入了一个迭代算法，可证明使用几个调用任何黑盒例程岭回归计算的投影。通过避免显式主成分分析（PCA），我们的算法是第一个没有运行时依赖于顶部主成分的数量。我们表明，它可以用来给一个快速的迭代法流行的主成分回归问题，给出了第一个主要的运行时改进的天真的方法相结合的PCA回归。为了实现我们的结果，我们首先观察到岭回归可以用于获得到顶部主成分上的“平滑投影”。然后，我们锐化这种近似真实的投影使用低次多项式近似矩阵阶跃函数。阶跃函数逼近是科学计算中一个长期关注的课题。我们通过构造具有简单迭代结构的多项式并在有限精度下严格分析其行为来扩展先验理论。
2019-11-26 cs.DS cs.LG stat.ML
A note on the prediction error of principal component regression
分析了主成分回归（PCR）的预测误差，证明了相应的平方风险的非渐近上界。在温和的假设下，我们表明，PCR执行以及通过取代经验的主成分由他们的人口同行所获得的预言方法。我们的方法依赖于主成分分析的超额风险上界。
2019-04-16 math.ST stat.TH
A Generalization of Principal Component Analysis
传统的主成分分析（PCA）找到一个主向量，最大化主成分的二次幂和。我们考虑一个广义PCA，其目的是最大化的主成分的任意凸函数的总和。我们提出了一个梯度上升算法来解决这个问题。对于广义PCA的核版本，我们证明了解决方案可以作为一个简单的单层递归神经网络的不动点。我们还在不同的数据集上评估了我们的算法。
2019-11-15 cs.LG eess.SP stat.ML
Sparse principal component analysis for high-dimensional stationary time series
本文研究高维平稳过程的稀疏主成分分析。当过程的维数较大时，标准主成分分析表现不佳。建立了含重尾时间序列的惩罚主成分估计的预言不等式。建立了估计量的收敛速度收敛速率。我们还阐明了在惩罚估计中选择调整参数的理论速率。通过数值模拟证明了稀疏主成分分析的性能。稀疏主成分分析对时间序列数据的实用性通过应用于平均温度数据来举例说明。
2021-09-16 math.ST stat.TH
Tutorial on principal component analysis, with applications in R
本教程回顾了多元数据集的主成分分析的主要步骤，以及随后在确定主导主成分的基础上进行的降维。底层计算通过统计软件包R中编写的脚本进行演示和执行。
2021-12-08 stat.AP stat.OT
Modularity Component Analysis versus Principal Component Analysis
本文给出了模块度矩阵的首特征向量与非中心数据矩阵的奇异向量之间的精确线性关系。在此基础上定义了模块化构件的概念，并研究了其性质。结果表明，模块化成分分析可以用于聚类数据类似于传统的主成分分析是如何使用的，除了模块化成分分析不需要数据中心。
2016-02-19 stat.ML
Generalized Principal Component Analysis
Harvard University（哈佛大学）
广义主成分分析（GLM-PCA）有利于非正态分布数据的降维。我们提供了一个详细的推导GLM-PCA的重点是优化。我们还演示了如何将协变量，并建议后处理转换，以提高潜在因素的可解释性。
2019-07-03 cs.LG stat.ML
Sparse Principal Component Analysis with missing observations
本文研究了高维情形下的稀疏主成分分析问题。我们的目标是当我们只能获得部分观测值时估计第一主成分。现有的估计技术通常来自充分观察的数据集，并需要先验知识的稀疏性的第一主成分，以实现良好的统计保证。我们的贡献是三方面的。首先，我们建立了具有缺失观测的稀疏PCA问题的第一信息论下界。其次，我们提出了一个简单的程序，不需要任何先验知识的稀疏性未知的第一个主成分或任何填补的缺失的意见，适应未知的稀疏性的第一个主成分，并达到最佳估计率的对数因子。第三，如果感兴趣的协方差阵允许稀疏的第一主成分并且另外近似低秩，则我们可以导出在高维中计算上易于处理的完全数据驱动的过程，适应于第一主成分的未知稀疏性并且是统计上最优的（直到对数因子）。
2012-06-01 math.ST stat.TH
A Bias Trick for Centered Robust Principal Component Analysis
The University of Texas at Dallas（德克萨斯大学达拉斯分校）
基于离群值的鲁棒主成分分析（RPCA）需要对非离群值进行中心化。我们展示了一个“偏差技巧”，自动将这些非离群值集中起来。使用这种偏置技巧，我们获得了第一个RPCA算法，这是最佳的中心。
2019-11-19 cs.LG stat.ML
Dynamic principal component regression: Application to age-specific mortality forecasting
在应用领域，包括精算学和人口学，越来越普遍地考虑曲线的时间序列;这方面的一个例子是在若干年期间观察到的按年龄划分的死亡率。考虑到年龄可以被视为离散或连续变量，通常实施诸如主成分分析的降维技术。然而，在存在中等到强的时间依赖性的情况下，通常用于分析独立同分布数据的静态主成分分析可能是不够的。作为一种替代方案，我们考虑一个\textit{dynamic}主成分的方法来模拟时间依赖的时间序列的曲线。受Brillinger（1974）的动态主成分理论的启发，本文提出了一种基于估计长期协方差的特征分解的动态主成分分析。通过一系列的实证应用，我们证明了潜在的改善一年提前点和区间预测精度的动态主成分回归需要相比，静态对应。
2019-05-10 stat.AP
A robust approach for principal component analyisis
在本文中，我们分析了不同的方式执行主成分分析通过三种不同的方法：鲁棒协方差和相关阵估计，投影寻踪方法和非参数最大熵算法。这些方法的目的是纠正主成分分析的经典方法对异常值的众所周知的敏感性。由于它们的鲁棒性，它们在污染数据中表现得非常好，而经典方法无法保持核心信息的特征。
2019-02-28 math.ST stat.TH
When are the most informative components for inference also the principal components?
University of Michigan（密歇根大学）
信号加噪声数据矩阵的奇异值分解的哪些分量对于检测或估计嵌入式低秩信号矩阵的推理任务来说信息量最大？主成分分析将更大的重要性归于捕获最大变化的成分，即，与最大奇异值相关联的奇异向量。这种选择通常通过调用Eckart-Young定理来证明，即使该工作解决了如何使用低秩近似最好地表示信号加噪声矩阵的问题，而不是如何最好地推断潜在的低秩信号分量。在这里，我们采取的第一原理的方法，我们开始与信号加噪声的数据矩阵，并显示如何频谱的噪声只占主导地位的奇异值分解的数据矩阵的主要或中间组件将是信息组件的推断。简单地说，如果噪声谱支持在一个连接的区间上，在某种意义上，我们使精确，那么使用主成分是合理的。当噪声频谱在多个间隔上得到支持时，中间分量可能比主分量提供更多信息。最终结果是在噪声矩阵为i.i.d.的设置中使用主成分的适当理由。高斯和场景的识别，一般涉及异质噪声模型，例如高斯混合，其中中间分量可能比主分量信息更多，因此可以利用它们来提取额外的处理增益。我们的研究结果表明，如何盲目使用主成分可能会导致次优甚至错误的推理，因为相变，分离的制度，其中的主成分是信息的制度，他们是无信息的。
2013-02-05 cs.DS cs.IT cs.LG
Adjusting systematic bias in high dimensional principal component scores
主成分分析一直是高维数据降维的有力工具。我们假设一个方差发散模型，并使用高维，低样本量的渐近性，即使主成分方向是不一致的，样本和预测的主成分得分可以在揭示人口结构是有用的。我们进一步表明，这些分数是有偏见的，和偏见是渐近分解成旋转和缩放部分。我们提出的方法，偏差调整，被证明是一致的，并在高维的情况下，小样本量。在分类设置中证明了偏差调整的潜在优势。
2020-09-25 math.ST stat.TH
Robust Principal Component Analysis Based On Maximum Correntropy Power Iterations
Imperial College London（帝国理工学院）
主成分分析（PCA）被认为是描述数据集特征之间线性关系的典型数据分析技术。然而，PCA对非高斯样本和/或离群值的众所周知的敏感性通常使其在实践中不可靠。为此，一个强大的PCA公式推导出基于最大相关熵准则（MCC），以最大限度地提高高斯分布的重建误差的预期可能性。通过这种方式，所提出的解决方案减少到广义幂迭代，从而：（i）即使在存在离群值的情况下也可以获得主成分的鲁棒估计;（ii）不需要预先指定主成分的数量;以及（iii）可以获得整个主成分集合，这与现有方法不同。通过一个直观的数值算例说明了最大相关熵幂迭代法的优点。
2019-10-24 cs.IT cs.LG eess.SP
A Dual Formulation for Probabilistic Principal Component Analysis
KU Leuven（鲁汶大学）
该研究提出概率主成分分析的希尔伯特空间对偶表示，构建核方法生成框架，证明其涵盖核主成分分析，并通过模拟与真实数据集验证有效性。
2023-07-19 cs.LG stat.ML
Determining Principal Component Cardinality through the Principle of Minimum Description Length
Facebook Research（脸书研究院）
PCA（Principal Component Analysis）及其变体是矩阵降维和降维潜在因子提取的普遍技术。使用PCA的一个重要挑战是主成分数量的选择。信息论的最小描述长度（MDL）原则为模型选择提供了基于压缩的客观标准，但很难将其现代定义--归一化最大似然（NML）--应用于PCA问题。这项工作显示了NML问题的一般减少到低维问题。应用这一约简，它用已知的线性回归的NML项来界定PCA的NML。
2019-06-29 cs.LG stat.ML
Clustering of Gamma-Ray bursts through kernel principal component analysis
我们认为有关的问题聚类的伽玛射线暴（从“BATSE”目录），通过内核主成分分析，我们提出的内核优于其他主管内核的聚类精度方面的结果，我们得到三个物理解释组的伽玛射线暴。在两个模拟数据集的有效性，同时降低了数据的维数，建议的内核结合内核主成分分析揭示自然集群在噪声和非线性数据。
2017-03-16 astro-ph.HE astro-ph.IM stat.AP
Principal Component Classification
Maynooth University（梅努斯大学）
我们建议直接计算分类估计学习特征编码与他们的类得分使用PCA。我们得到的模型有一个适合监督学习的编码器-解码器结构，它是计算效率高，并在多个数据集上进行分类。
2022-10-26 cs.CV cs.LG stat.ML
On the Error-Propagation of Inexact Hotelling's Deflation for Principal Component Analysis
Rice University（莱斯大学）
本文数学刻画了PCA中非精确Hotelling消减法的误差传播，分别在抽象子程序和幂迭代两种场景下给出了误差演进界，并利用幂迭代方向信息获得了更紧的误差界。
2024-05-29 cs.LG math.OC stat.ML
Near-Optimal Stochastic Approximation for Online Principal Component Estimation
主成分分析（PCA）是高维数据分析的重要工具。通过处理流数据来估计主成分的在线算法具有巨大的实际和理论意义。尽管其丰富的应用，理论上的收敛分析仍然在很大程度上是开放的。本文将在线PCA问题转化为随机非凸最优化问题，并将在线PCA算法分析为随机逼近迭代。随机逼近迭代递增地处理数据点并保持主成分的运行估计。我们证明了第一次几乎最佳的有限样本误差界的在线PCA算法。在亚高斯假设下，我们证明了有限样本误差界与极大极小信息下界密切匹配。
2017-10-05 math.OC stat.ML
A note on the prediction error of principal component regression in high dimensions
本文分析了高维主成分回归（PCR）的预测误差，证明了给定设计下平方风险的高概率界，揭示了有效秩条件对PCR与预言方法表现对比的影响及违反时的自诱导正则化现象。
2024-01-02 math.ST stat.TH
Fast Ridge Regression with Randomized Principal Component Analysis and Gradient Descent
提出了一种新的求解大规模回归问题的两阶段算法LING。在固定设计设置下，LING与众所周知的岭回归具有相同的风险，并且可以更快地计算。我们的实验表明，与其他大规模回归算法（如梯度下降，随机梯度下降和主成分回归）相比，LING在模拟和真实数据集上的预测精度和计算效率方面都表现良好。
2014-05-15 stat.ML
A Tutorial on Principal Component Analysis with the Accord.NET Framework
本文档旨在澄清有关使用Accord.NET Framework执行统计分析的常见问题。在这里，我们重现了著名的Lindsay的主成分分析的所有步骤，试图给读者一个完整的动手概述框架的基础知识，同时也讨论了一些结果和Accord.NET和其他软件包生成的结果之间的分歧来源。
2012-10-28 cs.SE stat.CO
Testing for a common subspace in compositional datasets with structural zeros
University of Genova（热那亚大学）
本文针对含结构零的成分数据，提出兼容Aitchison几何与对数比分析的公共主子空间检测方法，含参数近似与非参数自助版本，经模拟及微生物组数据集验证有效。
2026-08-24 stat.AP stat.ME
SIMPCA: A framework for rotating and sparsifying principal components
我们提出了一个算法框架计算稀疏成分旋转的主成分。这种方法，称为SIMPCA，是有用的，以取代不可靠的做法，忽略小系数的旋转组件时，解释他们。该算法通过将旋转的主成分投影到变量的子集上来计算真正的稀疏成分。如此简化的组件与相应的组件高度相关。通过选择不同的简化策略，可以得到不同的稀疏解，这些解可以用来比较主成分的不同解释。我们给出了一些例子，如何有效的简化解决方案可以实现与SIMPCA使用一些公开的数据集。
2019-10-08 stat.ME
Sparse Principal Components Analysis: a Tutorial
本教程的主题是最小二乘稀疏主成分分析（LS SPCA），这是一种计算近似主成分的简单方法，近似主成分是仅少数观测变量的组合。类似于主成分，这些成分是不相关的，并且顺序地最接近数据集。LS SPCA的推导对于任何熟悉线性回归的人来说都是直观的。由于LS SPCA基于与其他SPCA方法不同的最优性，因此不会遭受严重的缺点。我将在两个数据集上演示如何计算有用和简约的稀疏PC。用于计算LS SPCA的R包可供下载。
2021-05-28 stat.ME
Efficiency of the principal component Liu-type estimator in logistic regression model
将主成分逻辑斯谛回归估计与Liu型Logistic估计相结合，提出了一种主成分Liu型Logistic估计，以克服多重共线性问题.在渐近均方误差均方误差矩阵下，研究了新估计相对于相关估计的优良性。利用均方误差准则设计了一个蒙特卡罗模拟实验来比较估计器的性能。最后是结论部分。
2017-07-24 stat.ME
Principal Fitted Components for Dimension Reduction in Regression
我们提供了一个补救措施，两个问题，一直困扰着使用主成分回归：（i）主成分计算的预测单独和不明显的使用的响应，（ii）主成分不是不变的或等变的满秩线性变换下的预测。开发从主拟合分量开始[Cook，R. D.（2007年）。Fisher讲座：回归中的降维（附讨论）。中央集权主义者Sci. 22 1- 26]并使用正态模型对响应进行预测因子的逆回归，以获得感兴趣的前向回归的还原信息。这种方法包括检验关于成分数量和预测因子之间的条件独立性的假设的方法。
2009-06-22 stat.ME
Compositional Models for Estimating Causal Effects
本文提出将结构化系统表示为异构组件组合的因果建模方法，通过模块化神经网络分解单元级因果查询，提升观测数据下个体因果效应估计的准确性、样本效率与组合泛化能力。
2025-03-17 cs.AI cs.LG stat.ME
Sparse principal component regression with adaptive loading
主成分回归（PCR）是一个两阶段的过程，选择一些主成分，然后将它们作为新的解释变量构建回归模型。请注意，主成分仅从解释变量获得，而不考虑响应变量。为了解决这个问题，我们提出了稀疏主成分回归（SPCR），这是一个阶段的PCR过程。SPCR使我们能够自适应地获得与响应变量相关的稀疏主成分载荷，并同时选择主成分的数量。SPCR可以通过坐标下降算法对每个参数进行凸优化问题来获得。通过蒙特卡罗模拟和实际数据分析，验证了SPCR的有效性.
2014-11-01 stat.ME stat.ML
