Bootstrapping spectral statistics in high dimensions
从样本协方差阵的特征值导出的统计量称为谱统计量,它们在多元检验中起着核心作用。虽然自举方法是一个既定的方法来近似低维问题的谱统计规律,这些方法是相对未开发的高维设置。本文的目的是专注于线性谱统计作为一类原型开发一个新的引导在高维-我们把这种方法作为频谱Bootstrap。从本质上讲,该方法起源于参数自举,并受到这样一个概念的激励,即在高维中,很难获得对完整数据生成分布的非参数近似。从实用的角度来看,该方法易于使用,并允许用户规避复杂的渐近公式的线性谱统计的困难。除了证明所提出的方法的一致性,我们提供了令人鼓舞的实证结果,在各种设置。最后,也许最有趣的是,我们通过模拟表明,该方法可以成功地应用于统计类以外的线性谱统计,如最大样本特征值和其他。
2019-02-20 stat.ME
Can we trust the bootstrap in high-dimension?
我们考虑线性回归设置的高维度的自举的性能,其中$p<n$但$p/n$不接近于零。我们认为普通的最小二乘以及强大的回归方法,并采用最低限度的性能要求:可以引导给我们一个很好的置信区间为一个单一的坐标$β$?(其中$β$是真实回归向量)。我们表明,通过混合的数值和理论工作的引导充满了问题。两种最常用的回归自举方法--残差自举和配对自举--随着比率$p/n$的增长,对$β$的推断非常差。我们发现,残差自举法倾向于给出反保守估计(膨胀的第一类错误),而配对自举法给出非常保守的估计(严重的功率损失),因为比率$p/n$的增长。我们还表明,刀切恢复技术估计的方差$\hatβ$严重高估的方差在高维度。我们的理论结果,减轻这些问题的基础上,我们提供替代引导程序。然而,校正取决于关于底层数据生成模型的假设,这表明在高维中可能难以具有通用的、鲁棒的自举技术。
2016-08-02 math.ST stat.ME stat.ML
Diffusion Bootstrap for High-Dimensional Linear Models
Institute of Statistics and Big Data, Renmin University of China(中国人民大学统计与大数据研究院)
研究高维线性模型中经典自举法的不足,提出基于扩散的配对自举法,通过学习生成律取代经验联合分布,经理论论证和实验验证,该方法能改善方差校准及I型错误校准。
2026-07-28 math.ST stat.ME stat.TH
Density Level Sets: Asymptotics, Inference, and Visualization
我们推导出了Hausstrom损失下密度水平集的插入估计的渐近理论。基于渐近理论,我们提出了水平集的两个自举置信区域。置信区域可用于执行异常检测和聚类的测试。我们还介绍了一种技术,可视化高维密度水平集相结合的模式聚类和多维缩放。
2016-09-05 math.ST stat.ME stat.TH
A Bootstrap Hypothesis Test for High-Dimensional Mean Vectors
本文提出一类基于 $\ell_p$-统计量的自助法假设检验,无需强混合或高阶矩条件,并开发了修正及自归一化版本,通过偏差校正提升有限样本精度,数值实验验证了其有效性。
2023-09-03 math.ST stat.ME stat.TH
High-dimensional Data Bootstrap
本文综述了近年来高维Bootstrap的研究进展。我们首先回顾高维中心极限定理分布的样本均值向量的矩形,自举一致性结果在高维,和关键技术用于建立这些结果。然后,我们审查选定的应用程序的高维引导:建设的同时置信集的高维向量参数,多个假设检验通过逐步下降,后选择推理,交叉界限部分确定的参数,并在政策评估的最佳政策的推断。最后,我们还对未来的研究方向进行了展望。
2022-05-19 econ.EM math.ST stat.TH
Mathematical modelling European temperature data: spatial differences in global warming
本文分析了网格化的欧洲降水数据。我们将简单的线性回归与聚类等数据挖掘工具相结合,并通过现代自举方法评估结果的强度。我们已经使用了65年来每日温度的0.5级网格,由欧洲气候评估创建。我们通过改变线性回归的起点来检查结果的稳定性-这种方法可能对气候学家寻找评估欧洲全球变暖的“最佳”起点有价值。比较了不同的Bootstrap方法,结果表明相依加权Bootstrap方法是检验估计量显著性的最佳方法。
2018-10-30 stat.AP
Investigation of Parameter Uncertainty in Clustering Using a Gaussian Mixture Model Via Jackknife, Bootstrap and Weighted Likelihood Bootstrap
混合模型是基于模型聚类的一种常用工具。这种模型通常通过最大化似然的过程来拟合,例如期望最大化算法。在收敛时,通常报告极大似然参数估计值,但在大多数情况下,很少强调与这些估计值相关的变异性。这部分地可能是由于在模型拟合算法中不直接计算标准误的事实,或者因为不需要它们来拟合模型,或者因为它们难以计算。因此,基于模型的聚类中的标准误的检查通常被忽略。最近广泛使用的R包方法引入了bootstrap和加权似然bootstrap方法,以方便标准误估计。本文提供了一个经验比较这些方法(连同刀切法)产生的标准误和置信区间的混合参数。这些方法的说明和对比,在模拟研究和传统的老忠实的数据集和甲状腺数据集。
2019-07-22 stat.CO stat.ME
Distributed Bootstrap for Simultaneous Inference Under High Dimensionality
我们提出了一个分布式的引导方法,同时推理的高维海量数据,存储和处理与许多机器。该方法产生一个$\ell_\infty$ -范数置信区域的基础上的通信有效的去偏套索,我们提出了一个有效的交叉验证方法来调整的方法在每次迭代。我们从理论上证明了一个下界的通信轮数$τ_{\min}$,保证统计的准确性和效率。此外,$τ_{\min}$仅随工人数和内在维数的增加而增加,而几乎不随名义维数的增加而变化。我们测试我们的理论,通过广泛的模拟研究,和一个半合成数据集的基础上,美国航空公司的准时性能数据集的变量筛选任务。再现数值结果的代码可在GitHub上获得:https://github.com/skchao74/Distributed-bootstrap。
2022-06-14 math.ST stat.ME stat.ML
Multiplier Bootstrap and Edge Phase Transitions of High-Dimensional Covariance Matrices
University of California, Davis(加州大学戴维斯分校)
本文研究乘子自助法对高维样本协方差矩阵最大特征值渐近分布的影响,揭示其在不同乘子下的边缘相变,验证其用于高维谱推断的可行性与有效性。
2026-08-18 math.ST stat.ME stat.TH
High Dimensional Bootstrap and Asymptotic Expansion for the $k$-th Largest Coordinate
Nankai University(南开大学)
本文研究高维数据中k-最大坐标的bootstrap推断,提出基于阶刻度的因子矩和加权包含-排除方法,推导出高维Edgeworth和Cornish-Fisher展开,并展示通过wild bootstrap可达到n^{-1}级的覆盖误差。
2026-04-06 math.ST stat.ME stat.TH
Improved Central Limit Theorem and bootstrap approximations in high dimensions
本文讨论了高维极大统计量分布的高斯近似和自举近似。该统计量以独立随机向量之和的各分量上的最大值的形式出现,其分布在许多高维计量经济学问题中起着关键作用。利用一种新的迭代随机化Lindeberg方法,本文得到了分布逼近误差的新的界。这些新的界限大大改善现有的,同时允许更大的一类引导方法。
2022-05-29 econ.EM math.ST stat.TH
Bootstrapping $\ell_p$-Statistics in High Dimensions
本文考虑一种新的Bootstrap方法来估计高维$\ell_p$ -统计量的分布,即$n$独立的$d$ -维随机向量之和的$\ell_p$ -范数与$d \gg n$和$p \in [1, \infty]$的分布.我们提供了一个非渐近表征的抽样分布的$\ell_p$ -统计量的高斯近似的基础上,并表明自举程序是一致的,在Kolmogorov-Smirnov距离在温和的条件下的协方差结构的数据。作为一般理论的一个应用,我们提出了一个自举假设检验的同时推理的高维均值向量。我们建立了它的渐近正确性和一致性下的高维替代品,并讨论了电源的测试以及相关的置信集的大小。我们说明了模拟数据的引导和测试过程。
2020-08-17 econ.EM math.PR math.ST
Testing the number of common factors by bootstrapped sample covariance matrix in high-dimensional factor models and errata
Shanghai University of Finance and Economics(上海财经大学);Jiangsu Normal University(江苏师范大学);National University of Singapore(新加坡国立大学)
本文研究了高维因子模型中自助法对样本协方差矩阵特征值分布的影响,利用尖刺与非尖刺特征值的不同渐近行为,提出了检验公共因子数目的创新方法,并证明了其在弱因子和截面相关误差下的可靠性。
2026-11-13 math.PR math.ST stat.ME
Bootstrap inference for quantile-based modal regression
本文提出了基于分位数回归的条件模式统一推理方法。具体来说,我们提出了估计条件模式的估计条件分位数函数的导数最小化平滑的线性分位数回归估计定义,并开发了两个自助方法,一个新的枢轴自助和非参数自助,我们的条件模式估计。建立在高维高斯近似技术,我们建立了同时从两个引导方法的条件模式的置信矩形的有效性。我们还将前面的分析扩展到协变量向量的维数随样本量增加的情况。最后,我们使用美国工资数据进行模拟实验和真实数据分析,以证明我们的推理方法的有限样本性能。
2021-04-12 math.ST stat.ME stat.TH
High-dimensional bootstrap and asymptotic expansion
Graduate School of Mathematical Sciences, University of Tokyo(东京大学大学院数学系研究科);CREST, Japan Science and Technology Agency(日本科学技术振兴机构 CREST)
本文研究高维情况下自助法的覆盖概率渐近展开,发现第三矩匹配野自助法在无学生化时具有高维优势,且双野自助法对协方差结构不敏感。
2026-03-16 math.PR math.ST stat.TH
Universal Bootstrap for Spectral Statistics: Beyond Gaussian Approximation
针对高维谱统计量渐近分布估计中Gaussian近似bootstrap方法不一致的问题,提出基于随机矩阵理论普适性概念的通用bootstrap程序,无需对总体协方差矩阵作结构假设即可一致近似谱统计量分布,并在高维协方差推断中表现出良好的有限样本性能。
2025-04-01 math.ST stat.TH
A Bootstrap Method for Spectral Statistics in High-Dimensional Elliptical Models
针对高维椭圆模型中谱统计推断bootstrap方法研究不足的问题,扩展原有IC模型的bootstrap方法以适配椭圆模型,理论上证明其可一致逼近线性谱统计量分布,实证显示对非线性谱统计量也表现良好。
2023-05-04 math.PR math.ST stat.ME
Asymptotic and bootstrap tests for the dimension of the non-Gaussian subspace
针对非高斯成分分析中非高斯信号子空间的维度确定问题,基于FOBI方法提出了渐近检验与bootstrap检验,为大型数据降维分析提供维度判定工具。
2017-01-24 math.ST stat.TH
Measuring Cluster Stability for Bayesian Nonparametrics Using the Linear Bootstrap
聚类过程通常估计哪些数据点聚集在一起,这是许多分析中最重要的数量。通常用作降维或促进解释的初步步骤,找到鲁棒和稳定的聚类通常对于下游分析至关重要。在目前的工作中,我们考虑贝叶斯非参数(BNP)模型,一组特别流行的贝叶斯模型聚类,由于其灵活性。由于其复杂性,贝叶斯后验往往不能精确计算,必须采用近似。平均场变分贝叶斯通过求解优化问题形成后验近似,由于其速度快而被广泛使用。当提供不同的数据时,确切的BNP后验可能会有很大差异。因此,应评估聚类的稳定性和稳健性。评估稳定性的一种流行方法是通过重新排序数据来应用bootstrap,并对每个模拟数据集进行聚类。因此,时间成本通常非常昂贵,特别是对于通常使用聚类的探索性分析。我们建议使用一个快速和自动近似的完整的引导称为“线性引导”,这可以看出,由本地数据扰动。在这项工作中,我们演示了如何将这个想法应用到数据分析管道,包括MFVB近似BNP聚类后的时间过程基因表达数据。我们表明,使用自动微分工具,必要的计算可以自动完成,并且线性引导是一种快速但近似的替代引导。
2017-12-05 stat.ME
Robust high-dimensional Gaussian and bootstrap approximations for trimmed sample means
CREST, ENSAE, Institut Polytechnique de Paris(CREST、ENSAE、巴黎理工学院)
该研究针对高维场景下的鲁棒均值估计问题,提出截尾样本均值的高斯与自助法近似方法,得到最优复杂度界,构造的置信区间在重尾与对抗性污染下可保持覆盖率。
2026-07-30 math.PR math.ST stat.TH
Parametric bootstrap inference for stratified models with high-dimensional nuisance specifications
关于感兴趣的标量参数的推断通常依赖于常见似然枢轴的渐近正态性,诸如带符号似然根、得分和Wald统计。然而,当冗余参数的维数相对于样本量较大时,以及当有关参数的信息有限时,所得到的推断过程被认为执行得很差。在许多这样的情况下,使用渐近正态性的分析修改的签署似然根是已知的恢复推理性能。本文证明了标准似然枢轴的参数自举法与带层特定冗余参数的分层模型中符号似然根的解析修正法一样能得到精确的推论。我们专注于具有挑战性的情况下,地层的数量增加的速度或更快的地层样本大小。它还表明,无论是否使用约束或无约束的引导,这种等价性。这是在对比时,层的数量是固定的或增加速度慢于层样本量,我们表明,约束引导纠正推断比无约束引导更高的顺序。仿真实验支持了理论研究结果,并证明了自举在极端情况下的优异性能。
2022-01-06 math.ST stat.TH
Flexible parametric bootstrap for testing homogeneity against clustering and assessing the number of clusters
聚类分析中有两个众所周知的难题,即估计聚类数量和检查待聚类的总体是否实际上不同质。给定一个数据集,聚类方法和聚类验证指数,本文提出建立空模型,捕捉不能被解释为指示聚类的数据的结构特征。人工数据集从空模型中采样,参数从原始数据集估计。这可用于检验同质总体相对于聚类备选方案的原假设。它还可以用于校准验证指数,以估计聚类数,通过考虑任何给定数量的聚类的空模型下的指数的预期分布。该方法说明了三个例子,涉及各种不同的聚类技术(分割围绕medoids,分层方法,高斯混合模型),验证指标(平均轮廓宽度,预测强度和BIC),和问题,如混合类型的数据,时间和空间自相关。
2015-02-09 stat.ME
Central Limit Theorem and Bootstrap Approximation in High Dimensions: Near $1/\sqrt{n}$ Rates via Implicit Smoothing
高斯近似和自举近似的非渐近界最近在高维统计中引起了极大的兴趣。本文研究了Berry-Esseen界的近似相对于多元Kolmogorov距离,在上下文中的$n$随机向量的总和是$p$维和i.i.d.到目前为止,越来越多的工作已经建立了对$p$有轻微对数依赖性的界限。然而,开发具有对$n$的近$n^{-1/2}$依赖性的相应界限的问题在很大程度上仍未解决。在具有次高斯或次指数项的随机向量的设置内,本文建立了具有近$n^{-1/2}$依赖性的高斯和自举近似的界。此外,证明是相当不同的其他最近的方法,并利用一个“隐式平滑”操作中的Lindeberg插值。
2022-02-07 math.PR math.ST stat.TH
Gaussian approximation and spatially dependent wild bootstrap for high-dimensional spatial data
在本文中,我们建立了一个高维CLT的样本均值的$p$ -维空间数据观察到的不规则间隔的采样点在$\mathbb{R}^d$,允许尺寸$p$是远远大于样本大小$n$。我们采用随机抽样方案,可以产生不规则间隔的采样点,在一个灵活的方式,包括纯增加域和混合增加域框架。为了方便统计推断,我们开发了空间依赖的野生自助(SDWB),并证明其渐近有效性在高维推导误差界,几乎肯定有条件地举行的随机抽样网站。我们的依赖条件的基础随机场覆盖了广泛的一类随机场,如高斯随机场和连续自回归滑动平均随机场。通过数值模拟和实际数据分析,我们证明了我们的基于引导的推理在几个应用中的有用性,包括联合置信区间建设的高维空间数据和时空数据的变点检测。
2021-03-26 math.ST stat.TH
High-Dimensional Analysis of Bootstrap Ensemble Classifiers
Huawei Noah’s Ark Lab, France(华为诺亚实验室,法国);SAMOVAR, Télécom SudParis Institut Polytechnique de Paris France(SAMOVAR,巴黎高等理工学院,法国);Technology Innovation Institute, United Arab Emirates(技术创新研究所,阿联酋);Chinese University of Hong Kong, China(香港中文大学,中国);Fraunhofer HHI, Germany, Aalto University Finland(弗劳恩霍夫研究所,德国,艾尔沃斯大学,芬兰)
本文研究了在大样本和高维数据下,bootstrap方法在LSSVM集成分类器中的性能,结合随机矩阵理论,提出选择子集数量和正则化参数的策略,通过实验验证理论结果。
2026-05-13 cs.LG stat.ML
Central Limit Theorems and Bootstrap in High Dimensions
本文给出了中心化高维随机向量之和到达超矩形和稀疏凸集的概率的中心极限定理和自助定理。具体而言,我们推导出高斯和自举近似概率$\Pr(n^{-1/2}\sum_{i=1}^n X_i\in A)$其中$X_1,\dots,X_n$是独立的随机向量在$\mathbb{R}^p$和$A$是一个超矩形,或者,更一般地说,一个稀疏的凸集,并表明,近似误差收敛到零,即使$p=p_n\to \infty$作为$n \to \infty$和$p \gg n$,特别是,$p$可以作为$O(e^{Cn^c})$大的一些常数$c,C>0$。该结果在所有超矩形,或更一般地,稀疏凸集上一致成立,并且不需要对$X_i$的坐标之间的相关结构进行任何限制。稀疏凸集是可以表示为许多凸集的交集的集合,其指示函数仅取决于它们的参数的一小部分,超矩形是一种特殊情况。
2016-03-08 math.ST stat.TH
K-bMOM: a robust Lloyd-type clustering algorithm based on bootstrap Median-of-Means
我们提出了一种新的聚类算法,是强大的离群值的存在下,在数据集。我们进行了稳健的估计的质心的迭代。更准确地说,我们建立在平均值统计的想法来估计质心,但允许在构建块时进行替换。我们称这种方法的引导中位数均值(bandwidth),并证明,如果足够的块通过引导抽样生成,那么它有一个更好的击穿点的平均估计比经典的中位数均值(bandwidth),其中块形成一个分区的数据集。从聚类的角度来看,bandwidth能够采取许多所需大小的块,从而避免了可能的集群消失在一些块,一个陷阱,可能发生的基于分区的块的生成的经典中值均值。在模拟数据集上的实验表明,所提出的方法,称为K-bandwidth,性能优于现有的鲁棒K-means的方法。为实际中调整超参数K-bandwidth提供了指导。还建议用户使用这种鲁棒的方法来初始化他们的聚类算法。最后,考虑到我们的估计的简化和理论版本,我们证明了它的鲁棒性对抗性污染的K均值失真推导出强大的收敛速度。据我们所知,这是第一个这样的结果K-均值失真。
2020-08-19 stat.ME stat.ML
CaSPECT: Discovering Causally Homogeneous Subgroups via Directed Spectral Clustering
Electronics and Communication Sciences Unit(电子与通信科学单位);Indian Statistical Institute(印度统计研究院)
该研究提出CaSPECT因果谱聚类框架,基于学习到的DAG拓扑定义相似性,从观测数据中识别因果同质亚组,无需预先指定倾向得分模型即可校正混杂,提升因果亚组发现可靠性。
2026-07-07 cs.LG stat.ME
Finite-sample Valid Permutation Inference under Multi-way Clustering
Booth School of Business, University of Chicago(芝加哥大学布斯商学院);IIIS, Tsinghua University and Shanghai Qi Zhi Institute(清华大学经济管理学院及上海人工智能实验室)
本文提出了一种在多重聚类和缺失数据下有效的有限样本排列推断方法,通过条件交换性假设保证推断的有效性,并在模拟中展示了其优越的统计性能。
2026-11-03 math.ST stat.ME stat.TH
Efficient and scalable clustering of survival curves
Universidade de Vigo(维戈大学);Universidade de Minho(米尼奥大学)
本文提出基于k-means和log-rank检验的生存曲线聚类方法,有效提升大规模生存数据分析的效率与可靠性。
2026-09-23 stat.CO stat.ME stat.ML
Clustering with missing data: which equivalent for Rubin's rules?
多重插补是处理缺失值的常用方法。然而,在MI之后应用集群的合适方法仍然不清楚:如何池分区?当数据不完全时,如何评估聚类不稳定性?通过对这两个问题的回答,本文提出了一个完整的观点,聚类与缺失数据使用MI。分区池的问题在这里解决使用共识聚类,同时,基于自举理论,我们解释了如何评估相关的观察和缺失数据的不稳定性。新规则池分区和不稳定性评估理论上论证和广泛的模拟研究。分区合并提高了准确性,而测量缺失数据的不稳定性扩大了数据分析的可能性:它允许评估聚类对插补模型的依赖性,以及在数据不完整时选择聚类数的方便方法,如真实数据集所示。
2022-05-13 stat.ME stat.ML
The functional mean-shift algorithm for mode hunting and clustering in infinite dimensions
我们介绍了功能的均值漂移算法,一个迭代算法估计的代理密度从功能数据的局部模式。我们表明,该算法可用于功能数据的聚类分析。我们提出了一个测试的基础上的自助的替代密度的估计局部模式的意义。我们提出了我们的方法的两个应用程序。在第一个应用程序中,我们演示了如何使用函数均值漂移算法来执行尖峰排序,即聚类神经活动曲线。在第二个应用中,我们使用函数均值漂移算法来区分原始签名和伪造签名。
2014-08-06 stat.AP stat.ME stat.ML
Robust model-based clustering with gene ranking
使用基因表达测量对生物样品进行聚类分析是一项常见的任务,其有助于发现具有不同mRNA谱的异质生物亚群。已经提出了几种基于模型的聚类算法,其中每个子组内的基因表达值的分布被假设为高斯分布。在存在噪声和极端观测的情况下,高斯密度的混合可能会过拟合并高估集群的真实数量。此外,常用的基于模型的聚类算法通常不提供量化每个基因对数据的最终划分的相对贡献的机制。我们提出了一个惩罚的混合学生的t分布基于模型的聚类和基因排名。连同自举程序,所提出的方法提供了一种手段,根据它们的贡献的聚类过程中的基因排名。实验结果表明,该算法在存在离群点和长尾分布的情况下,对传统的高斯混合模型有很好的逼近效果。该算法还能高灵敏度地识别出真实信息基因,实现了改进的模型选择。一个说明性的应用程序,乳腺癌的数据也证实了建立肿瘤亚类。
2012-01-27 stat.ME
Rates of Bootstrap Approximation for Eigenvalues in High-Dimensional PCA
在主成分分析(PCA)的背景下,自助法通常用于解决各种推理问题,例如为总体协方差阵$Σ$的特征值构建置信区间。然而,当数据是高维的,有相对较少的理论保证,量化的引导的性能。我们的目的是在本文中分析如何以及自助可以近似的联合分布的样本协方差阵$\hatΣ$的领先的特征值,我们建立非渐近率的近似多变量Kolmogorov度量。在一定的假设下,我们表明,自助可以实现无量纲率的${\tt{r}}(Σ)/\sqrt n$对数因子,其中${\tt{r}}(Σ)$是有效秩的$Σ$,和$n$是样本量。从方法论的角度来看,我们的工作也说明了,应用变换的特征值的$\hatΣ$引导之前是一个重要的考虑因素,在高维设置。
2022-02-16 math.ST stat.ME stat.TH
The bootstrap, covariance matrices and PCA in moderate and high-dimensions
我们认为,作为一种工具,推断有关的特征值的样本协方差阵计算从$n\times p$数据矩阵$X$的引导的属性。我们专注于现代的框架,其中$p/n$不接近0,但仍然有界的$n$和$p$趋于无穷大。通过混合的数值和理论的考虑,我们表明,在一般情况下,引导是不是一个可靠的推理工具,我们考虑的设置。然而,在总体协方差阵由有限秩矩阵很好地近似的情况下,自举的表现与其在有限维中的表现一样。
2016-08-02 math.ST stat.ME stat.TH
Bootstrap in High Dimension with Low Computation
针对高维场景下Bootstrap方法计算成本过高的问题,提出采用少量重采样的低成本Bootstrap方案,理论证明仅1次重采样即可在维度与样本量增速相近时保证有效覆盖率,并通过实验验证了该方法的性能。
2023-06-19 math.ST stat.CO stat.ME
Fast, Exact Bootstrap Principal Component Analysis for p>1 million
许多人提出了一个自助程序估计抽样变异的主成分分析(PCA)的结果。然而,当每个受试者的测量次数($p$)远大于受试者的数量($n$)时,计算和存储来自每个自举样本的前导主成分的挑战在计算上是不可行的。为了解决这个问题,我们概述了快速,准确计算自助主成分,特征值和分数的方法。我们的方法利用了这样一个事实,即所有引导样本占用相同的$n$维子空间作为原始样本。结果,所有的引导主成分被限制到相同的$n$维子空间,并且可以有效地由它们在该子空间中的低维坐标表示。可以仅基于这些低维坐标的自举分布来计算若干不确定性度量,而不计算或存储$p$维自举分量。将快速自举PCA应用于睡眠脑电图(EEG)记录数据集($p=900$,$n=392$)和脑磁共振图像(MRI)数据集($p\approx$ 300万,$n=352$)。对于脑MRI数据集,我们的方法允许基于1000个自举样本的前3个主成分的标准误在47分钟内在标准笔记本电脑上计算,而标准方法大约需要4天。
2014-05-14 stat.AP stat.CO stat.ME
Bootstrapping the Operator Norm in High Dimensions: Error Estimation for Covariance Matrices and Sketching
虽然算子(谱)范数是协方差估计中最广泛使用的度量之一,但对该范数中误差的波动知之甚少。具体而言,令$\hatΣ$表示$\mathbb{R}^p$中的$n$观测的样本协方差矩阵,这些观测来自总体矩阵$Σ$,令$T_n=\sqrt{n}\|\hatΣ-Σ\|_{\text{op}}$。在$Σ$的本征值具有$λ_j(Σ)\asymp j^{-2β}$形式的衰减曲线的设置中,我们分析了自举可以近似$T_n$的分布。我们的主要结果表明,对于Kolmogorov度量,对于$\log(n)$的因子,Bootstrap可以以无量纲率$n^{-\frac{β-1/2}{6β+4}}$逼近$T_n$的分布.也许令人惊讶的是,这种类型的结果似乎是新的,即使在设置$p< n$。更一般地说,我们讨论了这个结果超出协方差阵的后果,并展示了如何可以使用自举来估计随机数值线性代数(RandNLA)的草图算法的错误。这些想法的说明也提供了一个气候数据的例子。
2019-09-13 cs.NA math.NA math.ST