Nonparametric Stein-type Shrinkage Covariance Matrix Estimators in High-Dimensional Settings
估计协方差阵在变量数大于观测数的应用中是一项重要任务。估计高维协方差矩阵的收缩方法经常被用来规避样本协方差阵的限制。提出了一类新的非参数Stein型收缩协方差估计,其成员表示为样本协方差阵和预定可逆目标矩阵的凸线性组合.在Frobenius范数准则下,定义最佳凸线性组合的最佳收缩强度取决于不可观测的协方差阵,并且必须从数据中估计。一个简单而有效的估计过程,产生非参数和相合估计量的最佳收缩强度为三个流行的目标矩阵。在模拟中,建议斯坦型收缩协方差阵估计的基础上缩放的单位矩阵似乎是高达80%的效率比现有的极端高维设置。结肠癌数据集进行了分析,以证明所提出的估计的效用。一个经验法则的特设选择三个常用的目标矩阵的建议。
2014-11-03 stat.ME
Linear shrinkage of sample covariance matrix or matrices under elliptical distributions: a review
本文综述了单总体和多总体椭圆分布下样本协方差矩阵的线性收缩方法,指出最优收缩系数仅取决于椭圆峰度和球形度等少数参数,并展示了其在投资组合优化中的应用。
2023-08-09 stat.ME
Shrinkage estimation of large covariance matrices using multiple shrinkage targets
协方差矩阵的线性收缩估计量--由样本协方差阵的加权平均值和预先指定的收缩目标矩阵定义--在分析高通量分子数据时很受欢迎。然而,它们的业绩在很大程度上取决于目标矩阵的适当选择。本文介绍了一类更灵活的线性收缩估计,可以容纳多个收缩目标矩阵,直接占目标选择的不确定性。这是在共轭贝叶斯框架内完成的,这在计算上是有效的。使用模拟和真实数据,我们表明,该估计是不太敏感的目标误指定,可以优于国家的最先进的(非参数)单目标线性收缩估计。使用来自癌症蛋白质组图谱的蛋白质表达数据,我们说明了如何将多个先验信息来源(从30多种不同的癌症类型中获得)纳入所提出的多目标线性收缩估计器中。特别是,它表明,目标特定的权重可以提供洞察癌症类型之间的差异和相似性。用于该方法的软件可以在http://github.com/HGray384/TAS作为R包免费获得。
2018-09-21 stat.AP stat.ME
Non-parametric shrinkage mean estimation for quadratic loss functions with unknown covariance matrices
本文在已知二次损失函数和未知协方差阵的情况下,提出了总体均值的收缩估计。新的估计量是非参数的,因为它不假设数据的特定参数分布,也不需要关于总体协方差阵的先验信息。分析结果的改进建议的收缩估计,并得到一些相应的渐近性质。最后,我们通过广泛的模拟研究和实际数据分析证明了所提出的方法比现有方法的实际改进。关键词:高维数据;收缩估计;大$p$小$n$ ; $U$ -统计量。
2014-11-06 stat.ME
Covariance shrinkage for cosmological inference with Sellentin-Heavens-type likelihoods
University of Campania “Luigi Vanvitelli”(坎帕尼亚路易吉·凡维泰利大学)
研究在有限模拟样本下协方差矩阵的收缩正则化方法,提出将收缩强度作为辅助推断量并边缘化其不确定性,以改进参数后验校准。
2026-06-18 astro-ph.CO astro-ph.IM stat.ME
Projection inference for high-dimensional covariance matrices with structured shrinkage targets
在相关性下分析高维数据的大样本是一个具有挑战性的统计问题,因为长时间序列可能具有变点,最重要的是在均值和边际协方差中,需要有效的测试。由于噪声累积,对大型协方差阵的推断尤其困难,导致奇异估计和相关测试的功效较差。高维样本协方差阵的奇异性可以通过考虑与规则的、更结构化的目标矩阵的线性组合来克服。这种方法被称为收缩,目标矩阵通常是对角形式。在本文中,我们考虑的协方差收缩对bandable或Toeplitz类型的结构非参数估计,分别,旨在提高估计精度和统计功效的测试,即使在非平稳。我们得到可行的高斯近似结果的双线性投影的收缩估计是有效的非平稳性和依赖。这些近似,特别是使我们能够制定一个统计测试的边缘协方差结构的高维时间序列的尺寸上没有限制,这是强大的对非平稳性的滋扰参数。我们通过模拟表明,收缩有助于提高所提出的测试的功率。此外,我们建议一个数据驱动的选择的收缩权重,并评估其性能的蒙特卡罗研究。结果表明,所提出的收缩估计是优越的非Toeplitz协方差结构接近分数高斯噪声。
2022-11-04 math.ST stat.ME stat.TH
Robust Shrinkage Estimation of High-dimensional Covariance Matrices
我们解决了椭圆分布样本的高维协方差估计,这也被称为球不变随机向量(SIRV)或复合高斯过程。具体来说,我们考虑收缩方法,适用于高维问题的少量样本(大$p$小$n$)。我们从一个经典的稳健协方差估计器[Tyler(1987)]开始,该估计器在椭圆分布族中是分布自由的,但在$n<p$时不适用。使用收缩系数,我们正则化泰勒的不动点迭代。我们证明了,对于所有的$n$和$p$,建议的不动点迭代收敛到一个唯一的极限,而不管初始条件。接下来,我们提出了一个简单的,封闭的形式和数据依赖的收缩系数,这是基于最小的均方误差框架的选择。仿真结果表明,该方法具有较低的估计误差,对重尾样本具有较好的鲁棒性。最后,作为一个现实世界中的应用程序,我们展示了所提出的技术的活动/入侵检测使用无线传感器网络的背景下的性能。
2010-09-27 stat.ME
R-NL: Covariance Matrix Estimation for Elliptical Distributions based on Nonlinear Shrinkage
本文提出R-NL方法,将Tyler稳健估计与非线性收缩结合,用于椭圆分布协方差矩阵估计,兼具对重尾和高维的稳健性,并通过理论收敛性证明、模拟和实证验证了其优越性能。
2023-05-03 stat.ME
Tuning-Free Covariance-Aware Sequential Shrinkage for Multi-Source Estimation
College of Business, City University of Hong Kong(香港城市大学商学院);Stern School of Business, New York University(纽约大学斯特恩商学院);Department of IEOR and Data Science Institute, Columbia University(哥伦比亚大学工业工程与运筹学系及数据科学研究所);Daniels School of Business, Purdue University(普渡大学丹尼尔斯商学院)
提出一种免调参的协方差感知收缩框架,利用协方差信息构造收缩方向,通过序贯算法逐步收缩至各源数据,在温和条件下渐近达到最优风险,并推广至一般光滑M估计问题。
2026-09-22 stat.ME
Core Shrinkage Covariance Estimation for Matrix-variate Data
随机矩阵的可分离协方差模型提供了矩阵行与列之间的协方差的简约描述,并允许以非常小的样本量进行基于似然的推断。然而,在许多应用中,精确可分性的假设不太可能得到满足,并且使用可分离模型的数据分析可能会忽略或歪曲数据中的重要依赖模式。在这篇文章中,我们提出了一个折衷的可分离和非结构化的协方差估计。我们展示了如何设置的协方差阵可以唯一参数化的一组可分离的协方差阵和一个互补的“核心”协方差阵,其中的核心可分离的协方差阵的单位矩阵。该参数化定义了协方差阵的克罗内克核分解。通过经验Bayes方法对样本协方差阵的核进行收缩,得到了一个能适应总体协方差阵可分性的估计量.
2022-07-25 stat.ME
Shrinkage MMSE estimators of covariances beyond the zero-mean and stationary variance assumptions
本文提出超越零均值和平稳方差假设的协方差收缩MMSE估计器,通过扩展正则化矩阵并引入置信权重提升鲁棒性,在天文检测中验证了其优越性。
2024-06-26 astro-ph.IM stat.ME
Non-linear shrinkage of the price return covariance matrix is far from optimal for portfolio optimisation
投资组合优化需要能够滤除估计噪声的复杂协方差估计器。非线性收缩是一种流行的估计器,它基于如何仅使用校准窗口中的数据计算Oracle特征值。与通常的看法相反,NLS对于投资组合优化不是最优的,因为当资产依赖结构是非平稳的时,NLS不能最小化正确的成本函数。相反,我们得出最佳目标。使用历史数据,我们量化了NLS可以改进的程度。我们的研究结果重新打开了如何建立协方差矩阵估计的投资组合优化在现实条件下的问题。
2022-10-13 math.OC q-fin.PM q-fin.ST
The Beta-Mixture Shrinkage Prior for Sparse Covariances with Posterior Minimax Rates
稀疏协方差阵的统计推断对于揭示大型多元数据集的相关结构至关重要,但缺乏可扩展的和理论支持的贝叶斯方法。在本文中,我们提出了β-混合收缩先验,计算效率比尖峰和板坯先验,稀疏协方差阵,并建立其在高维设置的极大极小最优性。建议的先验由β混合收缩和伽马先验的非对角和对角条目,分别。为了保证所得到的协方差阵的正定性,我们进一步将先验的支持度限制在正定矩阵的子空间中。在Frobenius范数下,我们得到了诱导后验估计的后验收敛速度,并建立了稀疏协方差阵的极大极小下界。本文所考虑的极小极大下界的稀疏协方差阵类由非零非对角元素的个数控制,比文献中出现的稀疏协方差矩阵类具有更直观的吸引力.除非真的协方差阵是非常稀疏的,否则所得到的后验收敛速度与极大极小下界一致。在模拟研究中,我们表明,所提出的方法是计算效率比竞争对手,同时实现可比的性能。基于两个真实数据集的收缩先验的优点证明。
2021-01-12 math.ST stat.ME stat.TH
Bayesian Covariance Estimation for Multi-group Matrix-variate Data
针对小样本多组矩阵变量数据协方差估计的方法选择难题,提出可同时实现跨组合并收缩与组内Kronecker结构收缩的分层先验,在语音识别等场景验证了效用。
2024-03-07 stat.ME
Optimal shrinkage covariance matrix estimation under random sampling from elliptical distributions
本文考虑了当样本量小于或不大于数据的维数时估计高维(HD)协方差阵的问题。本文提出了一种正则化的样本协方差阵(RSCM)估计器,它可以应用于常见的稀疏数据问题。建议的RSCM估计是基于未知的最佳(oracle)收缩参数,产生最小均方误差(MMSE)之间的RSCM和真正的协方差阵的数据是从一个未指定的椭圆对称分布采样时的估计。我们提出了两种变体的RSCM估计不同的方法,他们估计的基础球度参数中涉及的理论最佳收缩参数。建议RSCM估计的性能进行了评估与数值模拟研究。特别是当样本量较低时,建议的RSCM估计量通常比Ledoit和Wolf(2004)的传统RSCM估计量有显著改善。我们进一步评估所提出的估计在分类和投资组合优化问题与真实数据的性能,其中所提出的方法能够优于基准方法。
2018-08-30 stat.ME
Compositional Covariance Shrinkage and Regularised Partial Correlations
本研究针对高维成分数据的协方差估计问题,利用对数比率不相关成分构建定制收缩目标,提出偏相关估计方法,经模拟和单细胞基因表达数据验证,还解析推导了闭合性诱导的偏相关,代码数据开源。
2023-05-04 stat.AP stat.ME
Improved Covariance Matrix Estimator using Shrinkage Transformation and Random Matrix Theory
SAP Labs(SAP实验室)
从样本协方差阵估计总体协方差矩阵是多变量分析中的一个主要难题。最近的协方差阵估计使用收缩变换或随机矩阵理论(RMT)的渐近结果。收缩技术有助于将极端相关值拉向某些目标值,而来自RMT的工具有助于去除SCM的噪声特征值。这两种技术都使用不同的方法来实现类似的目标,即去除噪声相关性并向SCM添加结构以克服偏差-方差权衡。在本文中,我们首先批判性地评估这两种技术的利弊,然后提出了一种改进的估计,利用两者的优点,通过采取最佳加权凸组合的协方差阵估计的改进收缩变换和RMT基于过滤器。它是一种广义估计器,可以通过执行超参数优化来适应各种数据集中不断变化的采样噪声条件。我们证明了这个估计的有效性的问题上设计一个金融投资组合的最小风险。我们之所以选择这个问题,是因为股票市场数据的复杂性质提供了极端条件来测试协方差估计量的稳健性。使用来自世界上最大的四个证券交易所的数据,我们表明,我们提出的估计优于现有的估计,在最大限度地减少样本外的投资组合的风险,从而更准确地预测人口统计。由于协方差分析是一个重要的统计工具,这种估计器可以用于广泛的机器学习,信号处理和高维模式识别应用。
2019-12-08 cs.LG eess.SP stat.ME
Shrinkage Algorithms for MMSE Covariance Estimation
我们解决的协方差估计的意义下,最小均方误差(MMSE)的高斯样本。具体来说,我们考虑收缩的方法,这是适合于高维问题的样本数量少(大p小n)。首先,我们改进的Ledoit-Wolf(LW)方法的条件下,充分统计量。通过Rao-Blackwell定理,这产生了一个新的估计称为RBLW,其均方误差优于高斯变量的LW。其次,为了进一步减少估计误差,我们提出了一种迭代的方法,近似千里眼收缩估计。这种迭代方法的收敛性的建立和封闭形式的表达式的限制,这是被称为Oracle逼近收缩(OAS)估计。RBLW和OAS估计器都具有简单的表达式,并且易于实现。虽然这两种方法是从不同的角度发展起来的,但它们的结构在特定的常数下是相同的。RBLW估计证明优于LW方法。数值模拟表明,OAS的方法可以执行甚至比RBLW更好,特别是当n远小于p。我们还证明了这些技术的自适应波束形成的背景下的性能。
2009-07-27 stat.CO stat.ME
Self-Distillation is Optimal Among Spectral Shrinkage Estimators
Department of Statistics, Harvard University(哈佛大学统计学系);Department of Mathematics & Statistics, Boston University(波士顿大学数学与统计学系)
本文研究了自蒸馏在带噪协方差模型中的表现,证明了在谱收缩估计器中,s步自蒸馏在性能上最优,并展示了其在统计和机器学习中的优势。
2026-11-09 cs.LG math.ST stat.ME
On a Class of Shrinkage Priors for Covariance Matrix Estimation
我们提出了一类灵活的模型,基于均匀分布的尺度混合构造收缩先验的协方差阵估计。这类新的先验比传统的常规先验尺度混合具有许多优点,包括其在表征先验密度方面的简单性和灵活性。我们还展示了一个简单的,易于实现的吉布斯采样器的后验模拟,从而导致在高维问题的有效估计。我们首先讨论了这种新方法的理论和计算细节,然后将基本模型扩展到一类新的多元条件自回归模型,用于分析多元面积数据。所提出的空间模型灵活地表征空间和结果的相关性结构在一个吸引人的计算成本。合成和真实世界的数据组成的例子表明,这个新的框架的实用性方面的稳健估计,以及提高预测性能。
2011-10-06 stat.CO stat.ME
Fixed support positive-definite modification of covariance matrix estimators via linear shrinkage
本文研究了协方差阵估计的正定性问题。对于高维数据,在包含稀疏性的真协方差阵的结构假设下,提出了许多正则化估计。它们被证明是渐近一致的和速率最优的估计真实的协方差阵及其结构。然而,他们中的许多人没有考虑估计量的PD性,并产生非PD估计。为了实现PD性,研究人员考虑对特征值进行额外的正则化(或约束),这使得渐近分析和计算更加困难。在本文中,我们提出了一个简单的修改正则化的协方差阵估计,使其PD,同时保持支持。我们重新审视线性收缩的思想,并建议采取第一阶段估计(正则化的协方差阵没有PD)和给定形式的对角矩阵之间的凸组合。所提出的修改,我们表示为FSPD(固定支持和正相关性)估计,保持第一阶段估计的渐近性质,如果收缩参数是仔细选择的。它有一个封闭的形式表达和它的计算是优化自由,不同于现有的PD稀疏估计。此外,FSPD是通用的,因为它可以应用于任何非PD矩阵,包括精度矩阵。FSPD估计与其他稀疏PD估计进行了数值比较,以了解其有限样本特性以及计算增益。它也适用于两个多变量程序依赖于协方差阵估计-线性极小极大分类问题和Markowitz投资组合优化问题-并显示出大大提高这两个程序的性能。
2017-04-28 stat.ME
Variational Bayesian Adaptation of Noise Covariances in Non-Linear Kalman Filtering
本文研究非线性随机状态空间模型中状态和时变噪声协方差阵的联合估计问题。本文提出了一种基于变分贝叶斯和高斯滤波的近似滤波后验后验分布的有效计算方法。非线性状态空间模型计算的基于高斯滤波的公式化允许使用有效的高斯积分方法,例如无迹变换、体积积分和高斯-厄米特积分以及经典的泰勒级数近似。该算法的性能示出在一个模拟的应用程序。
2013-02-04 stat.ME
Shrinking the eigenvalues of M-estimators of covariance matrix
一种非常流行的正则化(收缩)协方差阵估计是收缩样本协方差阵(SCM),它与SCM共享相同的特征向量集,但将其特征值向SCM特征值的总均值收缩。本文提出了一种更一般的方法,即用散布矩阵的M-估计量代替SCM,并提出了一种全自动的数据自适应方法来计算最优收缩参数,使均方误差最小。我们的方法允许使用任何权重函数,如高斯,胡贝尔,泰勒,或t-权重函数,所有这些都是常用的M-估计框架。我们的仿真例子表明,收缩M-估计的基础上提出的最佳调整结合鲁棒权函数不松动的性能收缩SCM估计时,数据是高斯,但提供显着改善的性能时,数据是从一个未指定的重尾椭圆对称分布。最后,通过真实数据和模拟数据验证了该方法在实际应用中的有效性。
2020-10-28 stat.ME
High dimensional discriminant rules with shrinkage estimators of the covariance matrix and mean vector
线性判别分析(LDA)是解决大维数、小样本分类问题的一种典型方法。基于协方差阵和均值向量的不同类型的估计量,存在各种类型的LDA方法。在本文中,我们考虑基于非参数方法的收缩方法。对于精度矩阵,研究了基于稀疏结构或数据分裂的方法。关于均值向量的估计,采用非参数经验贝叶斯(NPEB)方法和非参数极大似然估计(NPMLE)方法,也分别称为f-建模和g-建模。分析了基于协方差阵和均值向量联合估计策略的线性判别规则的性能。特别是,该研究提出了NPEB方法的性能的理论结果,并与以前的研究进行了比较。利用不同的协方差阵和均值向量结构进行了仿真研究,以评估本文所讨论的方法。此外,还提供了基因表达和EEG数据等实际数据示例
2023-03-05 math.ST stat.ME stat.TH
Sparse Kalman Filtering Approaches to Covariance Estimation from High Frequency Data in the Presence of Jumps
由于收益率的非同步性、市场微观结构噪声和跳跃等因素的影响,高频数据下资产收益率协方差矩阵的估计变得复杂。一种用于解决异步回报和市场微观结构的技术是卡尔曼EM(KEM)算法。然而,KEM方法假设对数正态价格,并没有解决跳跃的回报过程中,可能会损坏估计的协方差矩阵。在本文中,我们扩展了KEM算法的价格模型,包括跳跃。我们提出了两种稀疏卡尔曼滤波方法来解决这个问题。在第一种方法中,我们开发了卡尔曼期望条件最大化(KECM)算法来确定未知的协方差以及检测跳跃。对于该算法,我们考虑拉普拉斯和尖峰和平板跳跃模型,这两个促进稀疏估计的跳跃。在第二种方法中,我们采取贝叶斯方法,并使用吉布斯抽样的协方差矩阵的后验分布下的尖峰和板跳模型的样本。使用模拟数据的数值结果表明,这些方法中的每一个都提供了改进的协方差估计相对于KEM方法在各种设置的跳跃发生。
2016-04-14 q-fin.ST stat.ME
Shrinkage for Covariance Estimation: Asymptotics, Confidence Intervals, Bounds and Applications in Sensor Monitoring and Finance
当将协方差阵向单位矩阵的(倍数)收缩时,协方差阵的迹自然地作为单位目标的最佳缩放因子出现。迹线也出现在其他情况下,例如当测量矩阵的大小或不确定性的量时。特别感兴趣的是当协方差阵的维数很大时的情况。当维数大于样本量时,就会出现样本协方差阵奇异的问题。另一个问题是,通常估计必须基于相关的时间序列数据。我们研究了高维时间序列模型的迹函数的估计,其中维数可以随着样本量的增长而增长-没有任何约束。基于最近的结果,我们调查的轨迹,这也使我们能够提出的收缩协方差估计的下限和上限,以及预测的方差的界限的置信区间。此外,我们提供了一个新的结果处理收缩对对角线的目标。我们调查的准确性的置信区间的模拟研究,这表明良好的性能,并分析三个股票市场的数据集,以说明建议的界限,其中的尺寸(股票数量)之间的$32$和$475$。特别是,我们将结果应用到投资组合优化和确定的风险与方差最小化的投资组合的界限。
2018-09-03 math.ST stat.AP stat.ME
Eigenstructure inference for high-dimensional covariance with generalized shrinkage inverse-Wishart prior
Seoul National University(首尔大学);Chonnam National University(全南国立大学);Sookmyung Women’s University(淑明女子大学)
本文提出广义收缩逆Wishart先验用于高维协方差估计,在尖峰假设下推导后验渐近性质,模拟显示对尖峰特征值估计更准确,区间更窄、覆盖率更高。
2025-10-23 math.ST stat.ME stat.TH
Covariance inflation in the ensemble Kalman filter: a residual nudging perspective and some implications
本文研究了协方差膨胀对测量观测值和模拟(或预测)观测值之间距离的影响。为了使上述距离在一定区间内有界,推导出了一些充分条件,表明协方差膨胀因子应在一定区间内有界,并且膨胀界与某些矩阵的最大和最小特征值有关。这些分析结果的含义进行了讨论,并提出了一个数值实验,以验证我们的分析的有效性。
2013-05-20 math.OC math.ST nlin.CD
Mens: Nonlinear shrinkage estimation in nonparanormal models for financial applications
Persian Gulf University(波斯湾大学);Ferdowsi University of Mashhad(马什哈德费尔多西大学)
研究针对非正态模型开发非线性收缩协方差估计理论,提出无边际非线性收缩估计器MENS,给出其经验谱分布收敛律及渐近最优性,建立尖峰相变,通过模拟和回测验证其优势,兼具稳健性与效率,对高维配置决策有实用价值。
2026-07-23 math.ST stat.ME stat.TH
Symmetry-Aware Convex Shrinkage for High-Dimensional Covariance Estimation
Darwin Deason Institute for Cyber Security(达尔文迪森网络安全研究所)
本文提出了一种数据自适应的收缩估计器,用于高维协方差估计,通过在有限对称群下使用雷诺德投影作为收缩目标,并结合结构化目标和自适应凸收缩方法,提高了估计精度。
2026-06-09 cs.IT eess.SP math.IT
Spectrally Robust Covariance Shrinkage for Hotelling's $T^2$ in High Dimensions
Information and Networks Division, Air Force Office of Scientific Research(空军科学研究办公室信息与网络部门);Radial Research and Development, Inc.(Radial研发有限公司)
研究高维下数据维度与样本量固定比例增长时霍特林 $T^2$ 的协方差收缩,提出有限样本收缩器,通过变分问题和随机矩阵定律逼近最优极限,实证显示该方法比其他方法功效最多可提高50%。
2026-07-20 math.PR math.ST stat.ME
M-estimators of scatter with eigenvalue shrinkage
一种流行的正则化(收缩)协方差估计是收缩样本协方差阵(SCM),它与SCM共享相同的特征向量集,但将其特征值向其总均值收缩。本文考虑了一种更一般的方法,其中SCM被散布矩阵的M-估计所取代,并提出了一种全自动的数据自适应方法来计算具有最小均方误差的最优收缩参数。我们的方法允许使用任何权重函数,如高斯,Huber的,或$t$的权重函数,所有这些都是常用的M-估计框架。我们的仿真例子表明,收缩M-估计的基础上提出的最佳调整结合强大的权重函数不松散的性能收缩SCM估计时,数据是高斯,但提供显着改善的性能时,数据是从重尾分布采样。
2020-02-12 stat.ME stat.ML
Error Propagation in Spectral Functionals of Shrinkage Covariance Estimators: Perturbation Bounds and Calibrated Inference
Chalmers University of Technology(查尔姆斯理工大学)
研究收缩协方差估计器谱泛函中的误差传播,通过推导特征子空间的零律、利用无分布方法校准测试等,证明尺度不变标量泛函的免疫性,给出高维无偏估计器,经模拟验证,用于总体未知时的诊断。
2026-07-08 math.ST q-fin.ST stat.CO
Non-Asymptotic Analysis of Ensemble Kalman Updates: Effective Dimension and Localization
本文对Ensemble Kalman更新进行非渐近分析,证明当先验协方差具有适度有效维度时小集合即可满足需求,并在统一框架下比较多种实现方法,同时提出新的协方差估计界限。
2023-10-05 cs.NA math.NA math.ST
Predictive densities for multivariate normal models based on extended models and shrinkage Bayes methods
研究了均值向量未知且协方差阵已知的多元正态模型的预测密度。基于收缩先验的贝叶斯预测密度通常具有复杂的表示,尽管它们在各种问题中是有效的。我们考虑以均值向量和协方差阵为参数的扩展正态模型,并采用属于包括原正态模型在内的扩展模型的预测密度。我们采用的预测密度是最佳的后验贝叶斯风险的扩展模型。基于超调和收缩先验的预测密度在基于库尔贝克-莱布勒散度的损失函数下优于基于均匀先验的贝叶斯预测密度。我们的方法提供了一种替代经验贝叶斯方法,这是广泛用于构建易于处理的预测密度。
2022-12-07 math.ST stat.ME stat.TH
Multi-Target Shrinkage
Stein表明,多元样本均值优于“收缩”到一个恒定的目标向量。Ledoit和Wolf将这种方法推广到样本协方差阵,并提出了单位元的倍数作为收缩目标。在一个一般的框架中,独立于一个特定的估计,我们扩展收缩的概念,允许同时收缩一组目标。应用场景包括以下设置:(A)来自潜在相似分布的额外数据集,(B)非平稳性,(C)数据的自然分组或(D)可以作为目标的多个替代估计量。我们表明,这种多目标收缩可以转化为一个二次规划,并推导出条件下,估计的收缩强度产生最佳的预期平方误差的限制。以样本均值和样本协方差为例,给出了MTS最优性成立的条件。我们考虑两个渐近设置:大尺寸限制(LDL),其中的维数和观测的数量以相同的速率无穷大,和有限的观测大尺寸限制(FOLDL),其中只有维数无穷大,而观测的数量保持不变。然后,我们在广泛的模拟和现实世界的数据显示的有效性。
2014-12-05 stat.ME stat.ML
The inverse Kalman filter
逆卡尔曼滤波器通过与共轭梯度算法结合,实现动态线性模型协方差矩阵与向量的高效矩阵-向量乘法,提升非参数估计的计算效率。
2026-07-10 stat.AP stat.CO stat.ME
Ledoit-Wolf linear shrinkage with unknown mean
本文在均值未知的 Kolmogorov 渐近框架下,将 Ledoit-Wolf 线性收缩估计推广到平移不变估计量,证明其收敛性质,并提出一个在实验中优于标准方法的新估计量。
2025-03-11 math.ST q-fin.ST stat.ME
Spectral diagonal ensemble Kalman filters
本文提出了一种新的集合卡尔曼滤波器,它是基于在谱基上用对角线代替分析步骤中的样本协方差。它被证明,这种技术提高了协方差的逼近时,协方差本身是对角的频谱基础,是这样的情况下,例如,对于二阶平稳随机场和傅立叶基。该方法是由小波的情况下,当状态变量是随机场,这是不是空间均匀的扩展。快速傅立叶变换(FFT)和离散小波变换(DWT)的有效实现提出了几种类型的观测,包括高维数据上的一部分域,如雷达和卫星图像。数值实验表明,该方法在求解Lorenz 96问题和浅水方程组的多个分析周期上都有很好的效果。
2014-12-31 physics.ao-ph stat.ME
Covariance Function Estimation for High-Dimensional Functional Time Series with Dual Factor Structures
本文提出双函数因子模型估计高维函数型时间序列的协方差函数,将主成分分析推广到函数“低秩加稀疏”结构,并用函数收缩估计特质分量的稀疏结构,同时给出大样本理论与模拟实证验证。
2024-01-12 econ.EM stat.ME
Restricted nonlinear shrinkage of high-dimensional residual covariance matrices in multivariate regressions
Persian Gulf University(波斯湾大学);Ferdowsi University of Mashhad(马什哈德 Ferdowsi 大学)
研究非正态模型的非线性收缩协方差估计,提出无边际非线性收缩估计器MENS,给出其经验谱分布收敛性及渐近最优性,建立相变,通过模拟和回测证实理论,展示其在高维配置和决策中的实用价值。
2026-07-29 math.ST stat.ME stat.TH
Regularization of the ensemble Kalman filter using a non-parametric, non-stationary spatial model
针对高维集合卡尔曼滤波先验协方差估计不准确的问题,提出基于约束高斯过程卷积模型的正则化方法,利用超先验与集合似然优化估计,神经贝叶斯实现高效且模拟实验性能显著优于现有技术。
2024-11-10 physics.ao-ph physics.data-an stat.AP