Optimal shrinkage covariance matrix estimation under random sampling from elliptical distributions
本文考虑了当样本量小于或不大于数据的维数时估计高维(HD)协方差阵的问题。本文提出了一种正则化的样本协方差阵(RSCM)估计器,它可以应用于常见的稀疏数据问题。建议的RSCM估计是基于未知的最佳(oracle)收缩参数,产生最小均方误差(MMSE)之间的RSCM和真正的协方差阵的数据是从一个未指定的椭圆对称分布采样时的估计。我们提出了两种变体的RSCM估计不同的方法,他们估计的基础球度参数中涉及的理论最佳收缩参数。建议RSCM估计的性能进行了评估与数值模拟研究。特别是当样本量较低时,建议的RSCM估计量通常比Ledoit和Wolf(2004)的传统RSCM估计量有显著改善。我们进一步评估所提出的估计在分类和投资组合优化问题与真实数据的性能,其中所提出的方法能够优于基准方法。
2018-08-30 stat.ME
Adaptive Thresholding for Sparse Covariance Matrix Estimation
在本文中,我们考虑估计稀疏的协方差阵,并提出了一个阈值的过程,这是自适应的个别项目的变异性。估计器是完全数据驱动的,在理论和数值上都具有出色的性能。证明了在谱范数下,估计量在一类稀疏协方差阵上自适应地达到最优收敛速度。与此相反,常用的通用阈值估计被证明是次优的相同的参数空间。支持恢复也进行了讨论。自适应阈值估计器易于实现。数值性能的估计研究使用模拟和真实数据。仿真结果表明,自适应阈值估计一致优于通用阈值估计。该方法还说明了在一个小的圆形蓝细胞肿瘤微阵列实验的数据集上的分析。本文的补充,其中包含额外的技术证明,可在网上查阅。
2011-02-10 stat.ME
Minimum regularized covariance trace estimator and outlier detection for functional data
提出MRCT估计量,利用基于中心性子集的fast-MCD型算法和自动选择的正则化参数α,实现高维或稀疏函数型数据的稳健协方差估计与自动异常值检测。
2023-07-25 stat.ME
The Minimum Regularized Covariance Determinant estimator
最小协方差行列式(MCD)方法使用具有最低样本协方差行列式的给定大小的子集稳健地估计位置和散布矩阵。它的主要缺点是当维度超过子集大小时无法应用。我们提出了最小正则协方差行列式(MRCD)的方法,它不同于MCD的散射矩阵是一个凸组合的目标矩阵和样本协方差阵的子集。数据驱动的过程设置目标矩阵的权重,以便仅在需要时使用正则化。的MRCD估计定义在任何维度,是良好的条件建设,并保持良好的稳健性的MCD。我们证明了所谓的浓度步骤可以执行,以减少MRCD目标函数,我们利用这一事实,构建一个快速算法。我们验证的准确性和鲁棒性的MRCD估计在模拟研究中,并说明其实际用途异常值检测和回归分析在现实生活中的高维数据集化学和犯罪学。
2018-12-01 stat.ME
A new approach to Cholesky-based covariance regularization in high dimensions
在本文中,我们提出了对协方差阵的Cholesky因子的新回归解释,与众所周知的逆协方差的Cholesky因子的回归解释相反,这导致了一类新的适用于高维问题的正则化协方差估计量。通过这种回归解释正则化协方差的Cholesky因子总是得到正定估计量。特别地,可以以与Bickel和Levina(2008 b)提出的流行的带状估计相同的计算成本获得协方差阵的正定带状估计,其不能保证是正定的。本文还建立了协方差阵及其逆矩阵的带状Cholesky因子与带状约束下的约束极大似然估计之间的理论联系,并在仿真和声纳数据实例中比较了几种方法的数值性能。
2009-03-03 stat.ME
Cross-Validated Loss-Based Covariance Matrix Estimator Selection in High Dimensions
针对高维协方差矩阵估计量选择问题,提出基于交叉验证损失的通用损失函数类,建立有限样本风险界与渐近最优性条件,并通过模拟和单细胞数据验证,提供cvCovEst R包实现。
2022-05-06 stat.ME
A large covariance matrix estimator under intermediate spikiness regimes
本文在低秩稀疏结构的假设下,研究了大协方差阵协方差阵的复合极小化估计问题。在该方法中,通过核范数加$l_1$范数惩罚下的最小二乘极小化来恢复协方差阵的低秩加稀疏分解。本文提出了一种新的估计,该家庭的基础上,一个额外的最小二乘再优化步骤,旨在不收缩的低秩分量的特征值估计在第一步。我们证明,这种非收缩导致最终估计接近目标尽可能接近Frobenius范数,同时准确地恢复底层的低秩和稀疏模式。当$n$至少为$O(p^{\frac{3}{2}δ})$时,保证一致性,前提是稀疏组件中每行的最大非零数为具有$δ\leq \frac{1}{2}$的$O(p^δ)$。如果潜在特征值缩放到$p^α$、$α\in[0,1]$,则确保一致的恢复,而如果$δ\leq α$,则确保秩一致性。由此产生的估计量被称为UNALCE(UNshrinked ALgeorge协方差估计),并表现出优于最先进的估计,特别是对于什么样的拟合特性和稀疏模式检测。UNALCE的有效性突出了一个真实的例子,关于欧洲央行银行监管数据。
2018-10-20 stat.ME
Spatial prediction variance estimation based on covariance penalty
在实践中,很少(如果有的话)是已知的空间预测问题的空间协方差。通常,在将估计的空间协方差参数插入预测方程之后执行预测。估计的空间关联参数也被插入到空间预测器的预测方差中。但是,简单地将空间协方差参数估计值插入空间预测因子的预测方差中并不考虑空间协方差参数的真实值的不确定性。因此,插件预测方差估计将低估估计的空间预测因子的真实预测方差,特别是对于小数据集。我们提出了一种新的方法来估计估计的预测方差的估计空间预测的协方差惩罚的基础上,使用参数自举。我们的新估计相比,其他三个预测方差估计在文献中提出。新的预测方差估计一般比插入式方法的小数据集与弱空间关联,虽然有时它是第二个最好的四个预测方差估计比较。此外,新的预测方差估计器可以潜在地用于非正态预测的情况。
2014-09-10 stat.ME
Shrinking the eigenvalues of M-estimators of covariance matrix
一种非常流行的正则化(收缩)协方差阵估计是收缩样本协方差阵(SCM),它与SCM共享相同的特征向量集,但将其特征值向SCM特征值的总均值收缩。本文提出了一种更一般的方法,即用散布矩阵的M-估计量代替SCM,并提出了一种全自动的数据自适应方法来计算最优收缩参数,使均方误差最小。我们的方法允许使用任何权重函数,如高斯,胡贝尔,泰勒,或t-权重函数,所有这些都是常用的M-估计框架。我们的仿真例子表明,收缩M-估计的基础上提出的最佳调整结合鲁棒权函数不松动的性能收缩SCM估计时,数据是高斯,但提供显着改善的性能时,数据是从一个未指定的重尾椭圆对称分布。最后,通过真实数据和模拟数据验证了该方法在实际应用中的有效性。
2020-10-28 stat.ME
Nonparametric Operator-Regularized Covariance Function Estimation for Functional Data
在函数型数据分析中,协方差函数不仅是理解函数型数据基本特征的关键量,而且是许多先进的函数型数据分析方法中不可缺少的组成部分。本文利用再生核Hilbert空间中算子的谱正则化方法,构造了一类新的非参数协方差函数估计.尽管它们具有非参数性质,但协方差估计量是自动半正定的,无需任何额外的修改步骤。建立了一个非传统的表示定理,为这类协方差估计量提供了一个有限维表示,从而得到了相应的$L^2$特征分解的封闭形式表达式。迹范数正则化是特别研究,以进一步实现低秩表示,另一个理想的属性,导致降维,往往需要在先进的FDA方法。在加速邻近梯度法的基础上提出了一种有效的算法。结果表明,在固定设计和随机设计下,该估计量都具有很好的收敛速度。通过仿真研究和对交通数据集的分析,证明了迹范数正则化协方差估计器的出色的实际性能。
2017-01-23 stat.ME
Optimal High-Dimensional Shrinkage Covariance Estimation for Elliptical Distributions
本文给出了一个最优收缩样本协方差阵(SCM)估计器,它适用于高维问题和从一个非指定的椭圆对称分布采样时。具体来说,我们推导出最佳(oracle)收缩参数,获得最小的均方误差(MMSE)之间的收缩SCM和真正的协方差阵从椭圆分布采样时。随后,我们展示了如何在随机矩阵理论下一致地估计预言收缩参数。仿真结果表明,所提出的估计的优势,由于Ledoit和Wolf(2004)的传统收缩SCM估计。建议收缩SCM估计往往提供了显着更好的性能比Ledoit-Wolf估计,并具有的优点,即一致性保证在整个类的椭圆分布有限的四阶矩。
2017-06-30 stat.ME
Simultaneous Confidence Band for Stationary Covariance Function of Dense Functional Data
研究了稠密函数型数据平稳协方差函数的联合置信带推断问题。提出了一种基于样条近似的两阶段估计方法,第一阶段估计所有的轨迹,第二阶段通过平滑经验协方差函数来估计协方差函数。当所有的轨迹都已知时,所提出的协方差估计器是光滑的,并且与Oracle估计器一样有效。渐近同步置信带(SCB)的真实协方差函数,覆盖概率是渐近正确的。仿真实验进行了建议的估计器和SCB的数值性能。最后通过两个实际数据实例说明了该方法的有效性。
2019-10-30 stat.ME
Hierarchical Bayesian Estimation of Covariance Matrices
提出层次贝叶斯框架估计协方差矩阵,利用O(p)-等变性,推导出Oracle贝叶斯规则,并通过有限Pólya树先验和吉布斯采样逼近,显著优于经典估计量。
2026-06-24 stat.ME
Gini Covariance Matrix and its Affine Equivariant Version
我们提出了一个新的协方差阵称为基尼协方差阵(GCM),这是一个自然的推广单变量基尼均值差(GMD)的多变量的情况下。该扩展是基于GMD的协方差表示,通过应用多元空间秩函数。我们研究了GCM的性质,特别是在椭圆分布族中。为了得到GCM的仿射等变性质,我们利用变换-再变换(TR)技术得到了一个仿射等变GCM,它是一个对称化的M-泛函。得到了这两种大气环流模式的影响函数,并给出了它们的估计。估计量的渐近结果已经建立。一个密切相关的散射Kotz功能和它的估计也进行了探讨。最后,在不同分布下,比较了TR型GCM与样本协方差阵、Tyler-M估计以及其它散布估计的渐近效率和有限样本效率。
2016-10-25 stat.ME
Difference-Based High-Dimensional Long-Run Covariance Matrix Estimation for Mean-shift Time Series
Guangzhou University(广州大学);Nankai University(南开大学)
本文提出基于差分的初始估计器,结合硬阈值、软阈值和 tapering 方法,用于高维数据的稀疏长期协方差估计,在非常数均值时间序列中实现稳健估计。
2026-03-18 stat.ME
Regularized tapered sample covariance matrix
协方差阵锥在信号处理及相关领域有着悠久的历史。应用的示例包括自回归模型(促进带状结构)或波束成形(加宽与波束成形器相关联的频谱零宽度)。在本文中,重点是高维设置,其中维度$p$高,而数据纵横比$n/p$低。我们提出了一种称为Tabasco(锥形或BAnded收缩协方差矩阵)的估计量,它将锥形样本协方差阵缩小到一个缩放的单位矩阵。我们推导出最佳和估计的(数据自适应)正则化参数,这些参数旨在最小化建议的收缩估计量和真实的协方差阵之间的均方误差(MSE)。这些参数的一般假设下得出的数据是从一个未指定的椭圆对称分布有限的四阶矩(实值和复值的情况下解决)。仿真研究表明,建议Tabasco优于所有竞争的锥形协方差阵估计在不同的设置。空时自适应处理(STAP)的应用程序也说明了所提出的估计在一个实际的信号处理设置的好处。
2021-09-03 stat.ME
Covariance Matrix Estimation for High-Dimensional Interval-Valued Data with Positive Definiteness
Peking University(北京大学);Beihang University(北京航空航天大学);Renmin University of China(中国人民大学);Southern University of Science and Technology(南方科技大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));University of Science and Technology of China(中国科学技术大学);PKU-Wuhan Institute for Artificial Intelligence(北京大学武汉人工智能研究院);Xiangjiang Laboratory(湘江实验室);Guanghua School of Management, Peking University(北京大学光华管理学院)
本文提出了一种针对高维区间值数据的协方差矩阵估计方法,通过引入区间值软阈值估计器并保证正定性,解决了高维情况下区间值数据协方差估计的问题。
2026-04-01 stat.ME
Non-parametric shrinkage mean estimation for quadratic loss functions with unknown covariance matrices
本文在已知二次损失函数和未知协方差阵的情况下,提出了总体均值的收缩估计。新的估计量是非参数的,因为它不假设数据的特定参数分布,也不需要关于总体协方差阵的先验信息。分析结果的改进建议的收缩估计,并得到一些相应的渐近性质。最后,我们通过广泛的模拟研究和实际数据分析证明了所提出的方法比现有方法的实际改进。关键词:高维数据;收缩估计;大$p$小$n$ ; $U$ -统计量。
2014-11-06 stat.ME
Robust high-dimensional precision matrix estimation
可以使用协方差阵$Σ$来分析多变量数据的相关性结构。在许多领域中,精度矩阵$Σ^{-1}$的信息量更大。由于样本协方差估计量在高维空间是奇异的,因此不能用它来获得精确的矩阵估计量。一个流行的高维估计是图形套索,但它缺乏鲁棒性。我们考虑高维独立污染模型。在这里,即使数据矩阵中很小百分比的受污染单元格也可能导致很高百分比的受污染行。通过传统的鲁棒程序对整个观测值进行降权,将导致信息丢失。在本文中,我们正式证明,取代样本协方差阵在图形套索与elementwise强大的协方差阵导致elementwise强大的,稀疏精度矩阵估计可计算的高维。这样的elementwise鲁棒协方差估计的例子。最终的精度矩阵估计是正定的,在元素污染下具有高崩溃点,并且可以快速计算。
2015-06-03 stat.ME
Bayesian Covariance Uncertainty for Adaptive Pilot-Sampling Termination in Multi-fidelity Uncertainty Quantification
针对多保真度不确定性量化中试点采样终止的预算分配难题,提出贝叶斯协方差不确定性框架,通过γ-高斯先验量化协方差不确定性并实现自适应终止,在基准和达西流问题上验证了其在有限预算下的高效性与方差减少能力。
2025-08-25 stat.ME
A Sparse Linear Model for Positive Definite Estimation of Covariance Matrices
Baylor University(贝勒大学);University of Michigan(密歇根大学)
本文提出了一种稀疏线性模型用于估计正定协方差矩阵,通过惩罚回归方法解决样本协方差矩阵中的相关性、正定性和无偏估计问题,并通过实验验证了方法的有效性。
2026-02-28 stat.ME
A Beta-Based Heteroskedasticity-Consistent Covariance Matrix Estimator
Universidade Federal de Pernambuco(伯南布哥联邦大学);Universidade Federal da Paraíba(帕拉伊巴联邦大学)
该研究针对普通最小二乘回归,提出用基于贝塔分布的数据驱动校正取代传统杠杆率调整来估计异方差一致协方差矩阵,经模拟和实证验证其优势,还开发了开源R包,能准确推断并适应异质杠杆率模式。
2026-11-03 stat.ME
Nonparametric covariance estimation with bias correction for spatial lattice processes
TU Dortmund University(多特蒙德工业大学)
本文针对$\boldsymbol{Z}^2$上平稳格点过程,推导样本协方差估计量的有限样本偏差公式,提出联合偏差校正的几乎无偏协方差估计量,经模拟和地形数据克里金应用验证了其降低偏差等优势。
2026-10-09 stat.ME
Towards a sparse, scalable, and stably positive definite (inverse) covariance estimator
高维协方差估计和图形模型是统计学和机器学习领域的一个当代课题,具有广泛的应用。在这方面的一个重要的研究路线是缩小极值谱的协方差阵估计。在文献中的一个单独的研究线已经考虑稀疏逆协方差估计,这反过来又引起图形模型。然而,在实践中,需要同时良好调节且同时计算上易处理的稀疏协方差或逆协方差阵。在这三个主题的交汇处几乎没有研究。在本文中,我们考虑施加一个条件数约束的各种类型的损失使用的协方差和逆协方差阵估计。当损失函数可以被分解为一个正交不变函数的估计和它的内积与样本协方差阵的函数的总和,我们表明,解决方案的路径算法可以推导出,涉及一系列的常微分方程。路径算法是有吸引力的,因为它提供了整个家庭的估计的所有可能的值的条件数界,在相同的计算成本的一个单一的估计与一个固定的上限。一个重要的发现是,条件数约束,这原来是非常有用的正则化损失函数,不是正交不变的,可能会产生非正定的估计,可以有效地计算这种路径算法的邻近算子。作为一个具体的说明其实际的重要性,我们开发了一个运营商分裂算法,最近提出的凸伪似然基于图形模型选择方法,以及空调以及正定性的保证。
2016-06-27 stat.ME
High-dimensional covariance matrix estimation using a low-rank and diagonal decomposition
在协方差/精度矩阵可分解为低秩分量L和对角分量D的假设下,研究了高维协方差/精度矩阵的估计. L的秩可以选择为小的或由惩罚函数控制。在适当的条件下,人口协方差/精度矩阵本身和惩罚函数,我们证明了一些一致性结果,我们的估计。一个分块坐标下降算法,迭代更新L和D,然后提出在实践中获得的估计。最后,各种数值实验:使用模拟数据,我们表明,我们的估计表现相当不错的Kullback-Leibler损失方面,使用股票收益率数据,我们表明,我们的方法可以应用于获得增强的解决方案的Markowitz投资组合选择问题。
2018-02-16 stat.ME
Ridge Estimation of Inverse Covariance Matrices from High-Dimensional Data
本文研究了高维情形下精度矩阵的岭估计,其中变量个数相对于样本量较大。我们首先回顾了两个原型岭估计,并指出,他们利用的罚款不符合共同岭处罚。随后,从一个共同的岭惩罚,解析表达式推导出两个可选的岭估计精度矩阵。的替代估计相比,关于特征值收缩和风险的原型。在图形建模的背景下,替代品也比较图形套索。的比较可能会有理由更喜欢拟议的替代估计。
2015-09-24 stat.ME
On the theoretic and practical merits of the banding estimator for large covariance matrices
本文考虑Bickel和Levina(2008)提出的用于估计大协方差阵的带估计量。我们证明了对于一类近似带状协方差阵,带状估计在算子范数下达到率最优,改进了Bickel和Levina(2008)的已有结果.此外,我们提出了一个斯坦的无偏风险估计(当然)类型的方法来选择带宽的带状估计。仿真结果表明,Sure-tuned带估计优于竞争估计。
2014-02-04 math.ST stat.ME stat.TH
Linear shrinkage of sample covariance matrix or matrices under elliptical distributions: a review
本文综述了单总体和多总体椭圆分布下样本协方差矩阵的线性收缩方法,指出最优收缩系数仅取决于椭圆峰度和球形度等少数参数,并展示了其在投资组合优化中的应用。
2023-08-09 stat.ME
A Bures-Wasserstein Formulation of Matrix Decomposition Structural Equation Modeling
Graduate School of Psychology, Kansai University(关西大学心理学研究生院)
该研究提出用Bures-Wasserstein公式化矩阵分解结构方程模型,建立其与协方差结构方程模型的等价关系,证明了估计量的理论性质,且其有限样本性能、数值稳定性优于传统估计量。
2026-08-05 stat.ME
Symmetric positive semi-definite Fourier estimator of instantaneous variance-covariance matrix
本文提出一种瞬时协方差矩阵估计量,通过修改 Fourier 协方差估计量确保估计结果对称半正定,数值模拟证实其在不同维度、异步数据和微观结构噪声场景下优于现有方法。
2023-04-10 q-fin.ST stat.ME
Rates of convergence in conditional covariance matrix with nonparametric entries estimation
设$X\in \mathbb{R}^p$和$Y\in \mathbb{R}$是两个随机变量。我们估计的条件协方差阵$\mathrm{Cov}\left(\mathrm{E}\left[\boldsymbol{X}\vert Y\right]\right)$应用插件内核为基础的算法,其条目。其次,我们研究了$(\boldsymbol{X},Y)$的密度函数在光滑假设下的估计的收敛速度。在一个高维的背景下,我们提高了一致性的整个矩阵估计提供了一个递减结构的$\mathrm{Cov}\left(\mathrm{E}\left[\boldsymbol{X}\vert Y\right]\right)$条目。我们说明了一个切片逆回归设置为时间序列匹配的条件下,我们的估计
2018-02-09 stat.ME
Shrinkage MMSE estimators of covariances beyond the zero-mean and stationary variance assumptions
本文提出超越零均值和平稳方差假设的协方差收缩MMSE估计器,通过扩展正则化矩阵并引入置信权重提升鲁棒性,在天文检测中验证了其优越性。
2024-06-26 astro-ph.IM stat.ME
Generalized Covariance Estimator
考虑一类具有强白噪声误差的半参数动态模型。这类过程包括标准向量自回归(VAR)模型,非基本结构VAR,混合因果模型,以及非线性动态模型,如(多变量)ARCH-M模型。对于估计的过程在这一类中,我们提出了广义协方差(GCov)估计,这是通过最小化剩余为基础的多元组合统计量作为替代的广义矩估计。我们推导出的GCov估计和相关的残差为基础的组合统计量的渐近性质。此外,我们证明了GCov估计是半参数有效的,基于残差的组合统计量是渐近卡方分布的。有限样本性能的GCov估计的仿真研究中示出。该估计器还应用于加密货币价格的动态模型。
2021-07-14 econ.EM stat.ME
Reduced-Rank Covariance Estimation in Vector Autoregressive Modeling
本文研究了高维向量自回归模型中白噪声协方差阵的降秩建模问题。首先,我们提出了降秩协方差估计的设置下,独立的观察。本文推导了向量观测值基于隐变量模型的降秩估计,并给出了其最大似然估计的解析形式。仿真结果表明,降秩协方差估计优于两个竞争的协方差估计的大规模的协方差阵从独立的观察。然后,我们描述了如何将所提出的降秩估计融入到高维VAR模型的拟合中,在这里我们考虑了两种需要不同模型拟合程序的情况。在VAR建模的背景下,我们的降秩协方差估计不仅提供了VAR过程的依赖结构的可解释的描述,但也导致改进模型拟合和预测不受限制的协方差估计。两个实际数据的例子来说明这些拟合程序。
2014-12-05 stat.AP stat.CO stat.ME
Non-Parametric Estimation of Spot Covariance Matrix with High-Frequency Data
特别是随着高频金融数据的日益可用,估计现货协方差是一个重要的研究问题。本文研究了高频数据点协方差的核方法估计。特别是,我们考虑第一核加权版本的实现协方差估计的价格过程所支配的一个连续的多元半鞅。接下来,我们将其扩展到阈值核估计的现货协方差时,潜在的价格过程是一个不连续的多元半鞅有限活动跳跃。我们得到了固定和收缩带宽的估计量的渐近分布。在一个设置与跳跃的估计有相同的速度收敛的扩散过程的估计没有跳跃。一个模拟研究检查估计的有限样本性质。此外,我们研究的估计量的协方差预测的背景下的应用。我们发现,预测模型与我们的估计优于基准模型在文献中。
2019-05-20 stat.AP stat.ME stat.OT
Improved Covariance Matrix Estimator using Shrinkage Transformation and Random Matrix Theory
SAP Labs(SAP实验室)
从样本协方差阵估计总体协方差矩阵是多变量分析中的一个主要难题。最近的协方差阵估计使用收缩变换或随机矩阵理论(RMT)的渐近结果。收缩技术有助于将极端相关值拉向某些目标值,而来自RMT的工具有助于去除SCM的噪声特征值。这两种技术都使用不同的方法来实现类似的目标,即去除噪声相关性并向SCM添加结构以克服偏差-方差权衡。在本文中,我们首先批判性地评估这两种技术的利弊,然后提出了一种改进的估计,利用两者的优点,通过采取最佳加权凸组合的协方差阵估计的改进收缩变换和RMT基于过滤器。它是一种广义估计器,可以通过执行超参数优化来适应各种数据集中不断变化的采样噪声条件。我们证明了这个估计的有效性的问题上设计一个金融投资组合的最小风险。我们之所以选择这个问题,是因为股票市场数据的复杂性质提供了极端条件来测试协方差估计量的稳健性。使用来自世界上最大的四个证券交易所的数据,我们表明,我们提出的估计优于现有的估计,在最大限度地减少样本外的投资组合的风险,从而更准确地预测人口统计。由于协方差分析是一个重要的统计工具,这种估计器可以用于广泛的机器学习,信号处理和高维模式识别应用。
2019-12-08 cs.LG eess.SP stat.ME
Covariance Expressions for Multi-Fidelity Sampling with Multi-Output, Multi-Statistic Estimators: Application to Approximate Control Variates
本文推导了多保真度采样中多输出、多统计量估计量的协方差表达式,并在approximate control variate方案中证明利用多输出能显著降低估计量方差。
2024-06-28 stat.CO stat.ME
Positive Definite $\ell_1$ Penalized Estimation of Large Covariance Matrices
门限协方差估计对于估计稀疏的大协方差阵具有很好的渐近性质,但在实际数据分析中往往具有负的特征值。为了同时实现稀疏性和正定性,我们提出了一种正定的$\ell_1$ -惩罚协方差估计器来估计稀疏的大协方差阵。提出了一种有效的交替方向法来求解这一具有挑战性的优化问题,并证明了该方法的收敛性。在弱正则条件下,建立了估计量的非渐近统计理论。仿真和实际应用表明,我们的建议的有限样本的竞争力的性能。
2012-08-28 math.OC stat.ME
An Orthogonally Equivariant Estimator of the Covariance Matrix in High Dimensions and for Small Sample Sizes
我们介绍了一种在高维环境下的协方差阵的估计方法,即,当矩阵的维数大于样本量时,具体来说,我们提出了一个正交等变估计。这种估计量的特征向量与样本协方差阵的特征向量相同。特征值估计是从调整后的轮廓似然函数获得的,该函数是通过近似样本协方差阵的密度函数在其特征向量上的积分得到的,这本身就是一个具有挑战性的问题。近似似然方程的精确解,获得和构造估计,涉及一个调整参数。提出了基于自举和交叉验证的算法,以在各种损失函数下选择该调谐参数。最后,给出了与两个著名的正交同变估计的协方差阵,这是基于模拟数据的Monte-Carlo风险估计和实际数据分析中的误分类误差的比较。此外,蒙特卡罗风险估计也提供了比较我们的估计的特征值的人口特征值的一致估计。
2020-12-03 math.ST stat.ME stat.TH
Cross-validated covariance estimators for high-dimensional minimum-variance portfolios
全球最小方差投资组合是一个典型的选择,因为它的简单性和广泛的适用性。虽然它只需要一个输入,即资产收益的协方差矩阵,但估计最优解仍然是一个挑战。在高维数据的存在下,样本协方差估计变得病态,并导致次优投资组合的样本外。为了解决这个问题,我们回顾了最近提出的有效的估计方法的协方差矩阵,并延长了文献中提出了一个多折交叉验证技术,在每个方法中选择必要的调整参数。基于标准普尔500指数的四个数据集进行了广泛的实证分析,我们表明,数据驱动的特定调整参数的选择与建议的交叉验证提高了全球最小方差投资组合的样本外性能。此外,我们确定的调整参数的选择有很大的影响,并检测交叉验证和评估的性能指标的选择标准之间的明确关系的估计。
2020-10-19 q-fin.PM stat.ME
Noise Estimation in the Spiked Covariance Model
研究了Frobenius损失下高维加样协方差阵的估计问题和加样PCA中噪声估计的并行问题。我们提出了一个估计的噪声参数最小化的无偏估计的不变Frobenius风险使用变分法。由此产生的估计,使用随机矩阵理论,是强一致的,基本上是渐近正常和极小极大的噪声估计问题。我们应用该构造构造了一个特征值一致的鲁棒尖峰协方差阵估计。
2014-08-27 math.ST stat.ME stat.TH
An algorithm for the multivariate group lasso with covariance estimation
本文研究了考虑相关误差项的多元线性回归模型的一个组Lasso估计。一个块坐标下降算法被用来计算这个估计。我们用分类数据和多变量时间序列数据进行了模拟研究,这些数据是预测变量之间自然分组的典型设置。我们的模拟研究表明,所提出的组套索估计的替代估计相比,具有良好的性能。我们说明了一个基因表达的时间序列数据集的方法。
2015-12-16 stat.CO stat.ME
Transferring supremum-norm rates and weak convergence of covariance kernel estimators to functional principal components
Philipps-Universität Marburg(马尔堡菲利普斯大学)
利用L2扰动理论,将协方差核估计量的上确界范数收敛速率与弱收敛性转移到函数主成分,并在离散观测模型下获得最优收敛速率与渐近正态性。
2026-07-03 math.ST stat.ME stat.TH
Direct covariance matrix estimation with compositional data
针对成分数据无法使用标准方法估计协方差矩阵的问题,提出一种多协方差矩阵直接估计量,通过近端-近端梯度下降算法求解凸优化问题,支持跨群体信息共享并确保正定性,在高维模拟和慢性疲劳综合征微生物组数据分析中优于现有方法。
2024-04-24 stat.AP stat.ME
Covariance Matrix Estimation under Total Positivity for Portfolio Selection
选择最优Markowitz模型取决于从历史数据的$T$期间估计$N$资产收益的协方差阵。问题是,$N$通常与$T$具有相同的阶数,这使得样本协方差阵估计器在经验上和理论上都表现不佳。虽然其他各种通用的协方差阵估计已被引入金融经济学和统计学文献处理这个问题的高维性,我们在这里提出了一个估计,利用资产通常是正相关的事实。这是通过强制收益的联合分布是2阶的多元全正分布($\text{MTP}_2$)来实现的。对协方差阵的这种约束不仅加强了资产之间的正相关性,而且还正则化了协方差阵,从而导致期望的统计特性,例如稀疏性。基于股票市场数据跨越三十年,我们表明,估计协方差阵下$\text{MTP}_2$优于以前的国家的最先进的方法,包括收缩估计和因子模型。
2020-12-28 stat.AP stat.ME
A New Covariance Estimator for Sufficient Dimension Reduction in High-Dimensional and Undersized Sample Problems
应用标准的充分的降维方法来减少预测因子的维数空间而不丢失回归信息,需要反转预测因子的协方差矩阵。这提出了许多挑战,特别是当分析预测因子$\mathit{p}$的数量远大于样本数量$n,~(n\ll p)$的高维数据集时。提出了一种新的协方差估计器,称为\textit{Maximum Entropy Covariance}(MEC),解决了类似的协方差矩阵线性组合时,使用\textit{Maximum Entropy}(ME)原则的协方差信息的损失。通过自然地将响应变量y的范围切片或离散化为\textit{H}非重叠类别$\mathit{h_{1},\ldots ,h_{H}}$,MEC首先组合从每个y切片$\mathit{h\in H}$中的样本产生的协方差矩阵,然后选择在最大不确定性原则下最大化熵的协方差矩阵。然后,MEC估计器由这种熵最大化样本协方差$S_{\mbox{mec}}$估计和跨$\mathit{H}$切片的合并样本协方差$\mathbf{S}_{\mathit{p}}$估计的凸混合形成,而不需要耗时的协方差优化过程。MEC直接处理回归和分类问题中样本组协方差估计的奇异性和不稳定性。MEC估计的效率与现有的充分的降维方法,如\textit{Sliced Inverse Regression}(SIR)和\textit{Sliced Average Variance E…
2019-09-28 cs.CC stat.CO stat.ME
Minimum Covariance Determinant Estimator and Outlier Detection for Interval-valued Data
Instituto Superior Técnico, Universidade de Lisboa(里斯本理工大学);Faculdade de Economia e Gestão, Universidade do Porto(波尔图大学经济管理学院);LIAAD-INESC TEC(INESC TEC LIAAD实验室)
本文提出一种针对区间值数据的鲁棒估计方法,通过扩展最小协方差行列式估计器,改进了协方差矩阵估计和异常检测性能。
2026-08-12 stat.CO stat.ME
Convex Banding of the Covariance Matrix
我们引入了一个新的稀疏估计的协方差阵的高维模型中的变量有一个已知的顺序。我们的估计,这是一个凸优化问题的解决方案,等价地表示为一个估计,该估计由Toeplitz,稀疏带状,数据自适应矩阵的样本协方差阵。由于这种自适应性,凸带状估计享有理论上的最优性能没有达到以前的带状或锥形估计。特别是,我们的凸带估计是极小极大率自适应Frobenius和运营商的规范,对数因子,在共同研究类的协方差阵,并在更一般的类。此外,它正确地恢复带宽时,真正的协方差是完全带状。我们的凸公式承认一个简单而有效的算法。实证研究证明了它的实际有效性,并说明我们的确切带状估计工作良好,即使当真正的协方差阵只是接近带状矩阵,证实了我们的理论结果。我们的方法与所有现有的方法相比,在精度和速度方面。我们说明了凸带估计的实际优点,它可以用来提高性能的判别分析分类录音。
2014-05-23 math.ST stat.CO stat.ME
Model-assisted analysis of covariance estimators for stepped wedge cluster randomized experiments
针对阶梯楔形整群随机实验,本文定义多层估计目标,提出四个模型辅助的 ANCOVA 估计量,证明其一致性与有限总体渐近正态性,并通过模拟和真实研究验证。
2024-09-11 stat.AP stat.ME
Robust covariance estimation and explainable outlier detection for matrix-valued data
提出 MMCD 方法以直接估计矩阵值数据的位置与行列协方差,并结合稳健马氏距离和 Shapley 值实现高性能、可解释的异常值检测。
2024-05-08 stat.CO stat.ME
Coupled regularized sample covariance matrix estimator for multiple classes
Aalto University(阿尔托大学)
在有限的训练数据下估计多类数据的协方差阵是一个困难的问题。已知当变量的数目与可用的样本数目相比较大时,样本协方差阵(SCM)表现不佳。为了减小SCM的均方误差(MSE),经常使用正则化(收缩)SCM估计器。在这项工作中,我们考虑正则化SCM(RSCM)估计的多类问题,耦合在一起的两个不同的目标矩阵正则化:池(平均)SCM的类和缩放的单位矩阵。当总体协方差相似时,对合并SCM的正则化是有益的,而对单位矩阵的正则化保证了估计量是正定的。我们推导出的MSE最优调谐参数的估计,以及提出了一种方法,他们的估计假设下,类人口遵循(未指定)椭圆分布有限的四阶矩。建议耦合RSCMs的MSE性能进行了评估与模拟和正则化判别分析(RDA)的分类设置上的真实数据。基于三个不同的真实数据集的结果表明,交叉验证的性能相当,但在计算时间上有显着的加速。
2021-11-09 cs.LG stat.ME stat.ML
Sparse Approximate Factor Estimation for High-Dimensional Covariance Matrices
提出了一种基于$l_1$正则化近似因子模型的协方差矩阵估计方法。我们的稀疏近似因子(SAF)协方差估计允许弱因子的存在,因此放松了标准近似因子模型通常采用的普遍性假设。我们证明了协方差矩阵估计在Frobenius范数下的相合性以及因子载荷和因子的相合性。我们的蒙特卡罗模拟表明,SAF协方差估计具有优越的性能,在有限样本的低,高维和不同的协方差矩阵的设计。此外,在样本外的投资组合预测应用的估计一致优于替代的投资组合策略的基础上,替代协方差估计方法和建模策略,包括$1/N$ -战略。
2019-06-13 econ.EM math.ST q-fin.PM
Localized covariance estimation: A Bayesian perspective
数值天气预报中的一个主要问题是从少量样本中估计高维协方差阵。当总体维数远大于样本数时,极大似然估计不能提供可靠的估计。幸运的是,NWP从业者已经找到了巧妙的方法,通过利用相关性随空间距离衰减的假设来提高协方差估计的准确性。在这项工作中,贝叶斯统计是用来提供一个新的理由和分析的实际数值预报协方差估计。贝叶斯框架涉及操纵对称正定矩阵上的分布,它导致两个主要发现:(i)协方差阵的常用“混合估计量”具有自然的贝叶斯解释;(ii)非常常用的“舒尔乘积估计量”不是贝叶斯的,但它可以在贝叶斯框架内进行研究和理解。作为实际意义,贝叶斯框架显示了如何减少协方差估计所需的调整量,它表明有效的协方差估计应该植根于理解和惩罚条件相关性,而不是相关性。
2023-01-12 cs.NA math.NA physics.ao-ph
Efficient nonparametric estimation of Toeplitz covariance matrices
本文提出一种基于数据变换的Toeplitz协方差矩阵非参数估计量,将其转化为近似高斯回归的均值估计,该方法正定、数据驱动且计算极快,并在谱范数下达到最小最大最优,同时扩展至逆矩阵估计。
2024-01-05 math.ST stat.ME stat.TH