Predictive densities for multivariate normal models based on extended models and shrinkage Bayes methods
研究了均值向量未知且协方差阵已知的多元正态模型的预测密度。基于收缩先验的贝叶斯预测密度通常具有复杂的表示,尽管它们在各种问题中是有效的。我们考虑以均值向量和协方差阵为参数的扩展正态模型,并采用属于包括原正态模型在内的扩展模型的预测密度。我们采用的预测密度是最佳的后验贝叶斯风险的扩展模型。基于超调和收缩先验的预测密度在基于库尔贝克-莱布勒散度的损失函数下优于基于均匀先验的贝叶斯预测密度。我们的方法提供了一种替代经验贝叶斯方法,这是广泛用于构建易于处理的预测密度。
2022-12-07 math.ST stat.ME stat.TH
Two-Step Mixed-Type Multivariate Bayesian Sparse Variable Selection with Shrinkage Priors
提出一种使用收缩先验的混合类型多元回归贝叶斯框架,通过新颖的两步变量选择方法,在 $p$ 相对 $n$ 呈指数增长时实现后验收缩,并具备确定筛选性质。
2024-12-19 math.ST stat.TH
Structural shrinkage of nonparametric spectral estimators for multivariate time series
在本文中,我们研究了基于周期图的估计性能的可能高维时间序列的谱密度矩阵。我们建议和研究收缩作为对数值不稳定性的补救措施,由于恶化条件数(内核)平滑周期图矩阵。此外,收缩经验特征值在频域向彼此也改善了在同一时间的均方误差(MSE)的这些广泛使用的非参数谱估计。与一些现有的时域方法相比,仅限于i.i.d.数据时,在频域中,需要考虑平滑跨度的大小作为“有效或局部样本量“。虽然Böhm和von Sachs(2007)提出了单位矩阵的倍数作为最佳收缩目标,但在缺乏数据多维结构知识的情况下,这里我们考虑“结构”收缩。我们假设数据的谱结构是由潜在因素引起的。然而,在实际的因素建模的痛苦,需要选择的因素的数量,我们建议一个无模型的方法。我们的最终估计是渐近MSE最优的线性组合的平滑周期图和参数估计的基础上欠拟合(因此故意误指定)的因素模型。我们完成了我们的理论考虑,通过一些广泛的模拟研究。在高阶因子模型生成的数据的情况下,我们比较了所有四种类型的估计量(包括Böhm和von Sachs(2007))。
2008-08-13 math.ST stat.TH
Global-Local Shrinkage Priors for Asymptotic Point and Interval Estimation of Normal Means under Sparsity
本文在稀疏性场景下,利用全局-局部收缩先验研究多元正态均值的渐近估计,得到精确渐近极小极大误差,并推广到Dirichlet-Laplace先验及可信集构造。
2023-10-29 math.ST stat.TH
On shrinkage estimation for balanced loss functions
在平衡损失函数的自然修改下考虑多变量平均$θ$的估计:(i)$ω\, ρ(\|δ-δ_0\|^2) + (1-ω) \, ρ(\|δ-θ\|^2) $,和(ii)$\ell \left( ω\, \|δ-δ_0\|^2 + (1-ω) \, \|δ-θ\|^2 \right)\,$,其中$δ_0$是$γ(θ)$的目标估计量。在简要回顾了已知的结果与身份$ρ$或$\ell$的原始平衡损失,我们提供,增加和凹$ρ$和$\ell$也满足完全单调的属性,Baranchik型估计$θ$占主导地位的基准$δ_0(X)=X$ $X$无论是作为多元正态分布或作为一个规模混合的法线。给出了模型鲁棒性和同时优势的影响,无论是$ρ$或$ \ell
2019-04-05 math.ST stat.TH
Fast Monte Carlo Markov chains for Bayesian shrinkage models with random effects
当使用一般线性混合模型执行贝叶斯数据分析时,所得的后验密度几乎总是难以解析的。然而,如果使用适当的条件共轭先验,则存在一个简单的两块吉布斯采样器,该采样器在几乎所有实际设置中都是几何遍历的,包括$p > n$的情况(Abrahamsen和Hobert,2017)。不幸的是,$β$的(条件共轭)多元正态先验在$p \gg n$的高维环境中表现不佳。在本文中,我们考虑一种替代模型,其中多元正态先验被Griffin和Brown(2010)开发的正态-gamma收缩先验所取代。这一变化导致了更为复杂的后验密度,我们开发了一个简单的MCMC算法来探索它,该算法具有确定性和随机扫描组件,比更明显的三步Gibbs采样器更容易分析。事实上,我们证明了新算法是几何遍历在大多数实际设置。
2017-11-18 math.ST stat.TH
Ridge-type Linear Shrinkage Estimation of the Matrix Mean of High-dimensional Normal Distribution
在高维情形下讨论了多元正态分布均值矩阵的估计问题。考虑了基于精度矩阵岭估计而不是Moore-Penrose广义逆的Efron-Morris型线性收缩估计量,并根据最小化二次损失下的Stein无偏风险估计量来估计岭型线性收缩估计量中的权重。利用随机矩阵理论证明了在高维贝叶斯模型中,岭型线性收缩估计在权估计下是Minimax的,且权估计收敛于最优权.的脊型线性收缩估计的性能进行了数值比较与现有的估计,包括Efron-Morris和James-Stein估计。
2019-10-26 math.ST stat.TH
Double shrinkage priors for a normal mean matrix
本文针对Frobenius损失下正态均值矩阵估计,提出两种双重收缩先验,在奇异值收缩基础上增加标量或列向收缩,改进广义贝叶斯估计器并降低风险,同时给出预测密度的平行结果。
2024-04-18 math.ST stat.TH
Restricted nonlinear shrinkage of high-dimensional residual covariance matrices in multivariate regressions
Persian Gulf University(波斯湾大学);Ferdowsi University of Mashhad(马什哈德 Ferdowsi 大学)
研究非正态模型的非线性收缩协方差估计,提出无边际非线性收缩估计器MENS,给出其经验谱分布收敛性及渐近最优性,建立相变,通过模拟和回测证实理论,展示其在高维配置和决策中的实用价值。
2026-07-29 math.ST stat.ME stat.TH
An Empirical Bayes Approach to Shrinkage Estimation on the Manifold of Symmetric Positive-Definite Matrices
James-Stein估计量是多元正态均值的估计量,在平方误差损失下优于极大似然估计量(MLE)。最初的工作激发了人们对开发各种问题的收缩估计器的极大兴趣。然而,流形值数据的收缩估计的研究很少。本文给出了定义在$N \times N$对称正定矩阵流形上的对数正态分布参数的收缩估计。对于这个流形,我们选择对数欧几里德度量作为它的黎曼度量,因为它易于计算并且在应用中被广泛使用。通过在损失函数中使用对数欧几里德距离,我们导出了一个解析形式的收缩估计,并证明了它在一个大类估计中是渐近最优的,包括MLE,这是数据的样本Fréchet均值。我们通过几个模拟数据实验证明了所提出的收缩估计的性能。此外,我们应用收缩估计进行统计推断扩散磁共振成像问题。
2020-10-27 math.ST stat.TH
Relaxing the Gaussian assumption in Shrinkage and SURE in high dimension
收缩估计是现代统计学的基本工具,由Charles Stein在发现涉及多元高斯的着名悖论后开创。随后的大部分文献只考虑了收缩的效率,以及在原始工作的高斯设置中被称为Stein无偏风险估计(SURE)的相关程序的效率。我们调查什么样的扩展域的有效性收缩和SURE可以远离高斯通过使用工具开发的概率领域现在被称为斯坦的方法。我们表明,收缩是有效的远离高斯分布的噪声在非常温和的条件下。SURE也被证明是自适应类似的假设下,特别是在某种程度上,保留经典的渐近Pinsker定理。值得注意的是,收缩和SURE被证明是有效的温和的分布假设下,特别是一般各向同性的日志凹措施。
2022-03-29 math.ST stat.TH
An Improvement on the Hotelling $T^2$ Test Using the Ledoit-Wolf Nonlinear Shrinkage Estimator
Hotelling的$T^2$检验是一种经典的方法,用于区分共享总体协方差阵的两个多元正态样本的均值。Hotelling检验对于高维样本并不理想,因为估计的样本协方差阵的特征值对于其总体对应矩阵是不一致的估计量。我们用Ledoit和Wolf 2020的非线性收缩估计量代替了样本协方差阵。我们根据经验观察到,对于亚高斯数据,所得算法优于过去的方法(Bai和Saranadasa 1996,Chen和Qin 2010,以及Li等人2020),适用于一系列人口协方差阵,其中包括具有高或低条件数和许多或少数非平凡的矩阵-即,峰值特征值
2022-06-03 math.ST stat.TH
l_p-norm based James-Stein estimation with minimaxity and sparsity
研究了多元正态均值的一类新的Minimax Stein型收缩估计,其中收缩因子是基于l_p范数的.建议的估计允许一些,但不是所有的坐标估计为0,从而允许稀疏性以及极大极小。
2015-05-28 math.ST stat.TH
Bayesian shrinkage prediction for the regression problem
我们考虑贝叶斯收缩预测下的正态回归问题的频率Kullback-Leibler风险函数。首先,我们考虑均值未知和协方差已知的多元正态模型。当未知均值固定时,未来样本的协方差可能与训练样本不同。证明了如果协方差矩阵和未来协方差阵的先验分布是旋转不变的,则基于一致先验的贝叶斯预测分布优于基于一类先验的贝叶斯预测分布.然后,我们考虑一类先验的均值参数依赖于未来的协方差阵。有了这样的先验,我们可以构建一个贝叶斯预测分布优于基于一致先验。最后,将这一结果应用于正态线性回归模型中响应变量的预测,证明了在一致先验条件下,存在一个贝叶斯预测分布支配该分布。这些贝叶斯预测的极大极小性来自这些结果。
2007-01-21 math.ST stat.TH
Trace class Markov chains for the Normal-Gamma Bayesian shrinkage model
高维数据,其中变量的数量超过或相当于样本量,现在在许多科学应用中很普遍。近年来,贝叶斯收缩模型已被开发为分析此类数据的有效且计算上可行的工具,特别是在线性回归的背景下。本文主要研究Griffin和Brown提出的Normal-Gamma收缩模型。该模型包含了流行的贝叶斯套索模型,Griffin和Brown已经开发了一种三块Gibbs抽样算法来从所产生的棘手的后验分布中进行抽样。我们考虑一种替代的两块吉布斯采样算法,并严格证明其优势,通过比较特定的频谱特性的三块采样器。特别是,我们表明,马尔可夫算子对应的两块采样器是迹族(因此希尔伯特-施密特),而对应的三块采样器的操作员甚至不是希尔伯特-施密特。两块采样器的迹族属性意味着相关的马尔可夫链的几何收敛,这证明了使用马尔可夫链CLT的MCMC为基础的估计获得实际的误差界。此外,它有利于理论比较的两块采样器与三明治算法,旨在提高性能,通过插入廉价的额外步骤之间的两个条件绘制的两块采样器。
2018-04-16 math.ST stat.TH
Bayesian Shrinkage Estimation of Negative Multinomial Parameter Vectors
负多项分布是负二项分布的多元推广。本文考虑了在标准化平方误差损失下,基于负多项式变量的观测值估计未知概率矩阵的问题。首先,给出了收缩估计优于UMVU估计的一般充分条件,并构造了满足该条件的经验Bayes估计。其次,介绍了一种分层收缩先验,在一定条件下,一个相关的贝叶斯估计量在UMVU估计量中占主导地位,并对后验计算给出了一些说明。最后,通过模拟比较了收缩估计和UMVU估计。
2020-10-29 math.ST stat.ME stat.TH
Geometric Ergodicity of Gibbs Algorithms for a Normal Model With a Global-Local Shrinkage Prior
本文研究了具有全局-局部收缩先验的正态线性回归模型的 Gibbs 采样器,证明了其几何遍历性,提出了实用的拒绝采样方法,并通过模拟验证了其有效性。
2025-10-13 math.ST stat.CO stat.TH
A new perspective on dominating the James-Stein estimator
本文基于Stein风险表示提出新的充分条件,构造出一类在二次损失下支配James-Stein估计量且满足极小极大性的收缩估计量,并给出跨维度一致支配条件及数值验证。
2025-09-22 math.ST stat.TH
Partial Coherence Estimation via Spectral Matrix Shrinkage under Quadratic Loss
部分相干性是从光谱或精度矩阵导出的重要量,用于地震学、气象学、海洋学、神经科学和其他领域。如果复自由度的数量仅略微超过多元平稳时间序列的维度,则谱矩阵条件不佳,收缩技术建议自己。当真正的部分相干性是相当大的,然后收缩估计的对角加权类它是经验表明,风险最小化使用二次损失(QL)导致Oracle偏相干估计优于那些通过最小化风险使用希尔伯特-施密特(HS)损失。当真部分相干性很小时,方法的行为类似。我们得到了两个新的QL估计谱矩阵,新的QL和HS估计精度矩阵。此外,对于充分估计(非Oracle)的情况下,某些跟踪表达式也必须估计,我们研究了三种不同的QL估计的行为,精度矩阵似乎特别强大和可靠。对于实证研究,我们进行了精确的模拟来自真实的EEG数据为两个人,一个有大的,和其他小的,部分的连贯性。这确保了我们的研究涵盖了现实世界相关的案例。
2015-11-22 math.ST stat.TH
Improved minimax estimation of a multivariate normal mean under heteroscedasticity
考虑用已知的方差矩阵估计多元正态均值的问题,该方差矩阵不一定与单位矩阵成比例。在Efron和Morris的(J. Amer. Statist. Assoc.68(1973)117-130)经验贝叶斯方法,而成反比,他们的方差在伯杰的(Ann. Statist。4(1976)223-226)极大极小估计。本文提出了一种新的Minimax估计,通过在一类Minimax估计中近似最小化具有正态先验的贝叶斯风险,其中收缩方向是开放的,收缩量是确定的,以实现Minimax.建议的估计有一个有趣的简单的形式,使一组坐标收缩的方向伯杰的估计和其余的坐标收缩的方向的贝叶斯规则。此外,所提出的估计是规模自适应的:它可以实现接近最小的贝叶斯风险同时在一个规模类的正常先验(包括指定的先验),并实现接近极小极大线性风险在相应的规模类的超矩形。在我们的数值研究的各种情况下,建议的估计与极端先验产生更大的风险降低比现有的极大极小估计。
2015-05-28 math.ST stat.TH
Proper Bayes minimax multiple shrinkage estimation
University of Alberta(阿尔伯塔大学);Rutgers University(罗格斯大学);The Wharton School, University of Pennsylvania(宾夕法尼亚大学沃顿商学院)
研究在平方误差损失下估计多元正态均值问题,通过引入新方法证明适当贝叶斯极小极大多重收缩估计量存在,其能自适应向更有前景目标收缩,解决多目标选择挑战,且构建方式与以往不同。
2026-08-13 math.ST stat.ME stat.TH
Conditions for Posterior Contraction in the Sparse Normal Means Problem
稀疏正态均值问题的第一个贝叶斯结果被证明为尖峰和厚板先验。然而,从计算的角度来看,这些先验不太方便。同时,大量的连续收缩先验被提出。许多收缩先验可以写成法线的比例混合,这使得它们特别容易实现。我们提出了一般的条件上的先验的局部方差的规模混合的法线,这样,后收缩在极大极小率是有保证的。这些条件要求尾翼至少和拉普拉斯一样重,但不能太重,并且相对于尾翼有大量的质量在零附近,随着稀疏度的增加,质量越大。这些条件给出了在近似黑色稀疏假设下选择收缩先验估计的一些一般准则。我们验证了Ghosh和Chakrabarti(2015)所考虑的先验类的这些条件,其中包括马蹄和正态指数伽玛先验,以及马蹄+,逆高斯先验,正态伽玛先验和尖峰和平板Lasso,从而扩展了收缩先验的数量,已知这些先验会导致极小极大估计率的后验收缩。
2015-10-13 math.ST stat.TH
Posterior Concentration Properties of a General Class of Shrinkage Priors around Nearly Black Vectors
假设我们有一个根据多元正态分布生成的数据,其中有一个固定的未知均值向量,该向量在几乎为黑色的意义上是稀疏的。最优性的贝叶斯估计和后验浓度性质的极小极大风险的$l_2$规范对应于一个非常普遍的类连续收缩先验研究在这项工作中。考虑的先验类是丰富的,足以包括各种各样的重尾先验分布,如,三参数β正态混合(包括马蹄铁),广义双帕累托,逆伽玛和正常指数伽玛先验。假设非零分量的平均向量的数量是已知的,我们表明,贝叶斯估计对应于这一一般类先验达到极小极大风险的$l_2$规范(可能高达一个乘法常数)和相应的后验分布合同周围的真实均值向量在极小极大最优率适当选择的全球收缩参数。此外,我们提供的条件,这些后验分布合同周围相应的贝叶斯估计至少一样快的极小极大风险的$l_2$规范。我们还提供了一个下界的总后验方差的一个重要子类,这一般类收缩先验,包括广义双帕累托先验的形状参数$α=0.5$和三个参数β正常混合物的参数$a=0.5$和$b>0$(包括马蹄铁),特别是。本工作的灵感来自van der Pas等人(2014)最近的工作。在本设置下,马蹄先验的后收缩特性。我们扩展了他们的结果,这类先验知识,并提出了新的统一的证明工作的一个非常广泛的一类一组连续收缩先验。
2015-07-24 math.ST stat.TH
Singular Value Shrinkage Priors for Bayesian Prediction
在已知协方差阵的矩阵变量正态模型中,我们建立了均值矩阵参数的奇异值收缩先验。我们的先验是超调和的,并且对具有较小奇异值的矩阵赋予更多权重。它们是Stein先验的自然推广。在有限样本下,基于先验的贝叶斯估计和贝叶斯预测密度是极大极小的,并且优于基于一致先验的估计和贝叶斯预测密度。特别是,当参数的真实值具有低秩时,我们的先验工作得很好。
2021-04-02 math.ST stat.TH
Improved Concentration for Mean Estimators via Shrinkage
IMPA(巴西国家纯数学和应用数学研究所);ENSAE(法国国立统计与经济管理学院)
本文提出了一种通过收缩改进均值估计器集中性的方法,证明其在稳健性方面优于传统估计方法,并通过实验验证其有效性。
2026-08-03 math.ST stat.TH
Non-minimaxity of debiased shrinkage estimators
针对二次损失下的 p 元正态均值估计,本文分析在小范数时收缩、大范数时等于 X 的去偏收缩估计量,并证明其在温和条件下不具有极小极大性。
2023-06-07 math.ST stat.TH
Shrinkage estimation with a matrix loss function
考虑估计具有常方差的独立正态分布观测的n × p矩阵的均值的n × p矩阵,其中估计量的性能使用p × p矩阵二次误差损失函数来判断。一个矩阵版本的James-Stein估计提出,取决于一个调谐常数。当n大于或等于3时,对于某些调谐常数的选择,它将主导通常的极大似然估计。该结果也扩展到其他收缩估计量和设置。
2011-01-18 math.ST stat.TH
A Shrinkage Likelihood Ratio Test for High-Dimensional Subgroup Analysis with a Logistic-Normal Mixture Model
针对现有亚组存在性检验的分布难解、无法处理高维属性的局限,提出基于Logistic-Normal混合模型的收缩似然比检验,通过收缩不可识别参数恢复卡方渐近性,适配高维场景。
2025-03-19 math.ST stat.ME stat.TH
Bivariate phase-type distributions for experience rating in disability insurance
本文在经典马尔可夫链寿险框架下,建立混合泊松分布与异质性团体伤残保险定价的联系,研究含右删失的伤残与康复率收缩估计,提出多元混合泊松模型及EM估计方法,通过模拟数据验证其有效性,发现考虑潜在群体效应相关性可提升预测性能。
2025-11-13 math.ST stat.TH
Admissible Estimator of the Eigenvalues of Variance-Covariance Matrix for Multivariate Normal Distributions--Detailed Proof--
在尺度不变平方误差损失下,给出了多元正态分布的方差-协方差阵特征值的一个可容许估计。
2011-01-13 math.ST stat.TH
Admissible estimators of a multivariate normal mean vector when the scale is unknown
在尺度二次损失下,研究了方差未知时多元法向量的广义Bayes估计的一个子类的容许性。Minimaxity也建立了某些这些估计。
2020-03-19 math.ST stat.TH
On moments of folded and doubly truncated multivariate extended skew-normal distributions
本文建立了多元扩展偏态分布(ESN)密度函数积分的递推关系,包括Azzalini和Dalla-Valle(1996)提出的偏态分布(SN)和流行的多元正态分布。这些递归提供了一个快速计算任意阶的产品的时刻的多元截断扩展的偏态正态分布和多元折叠扩展的偏态正态分布与产品的时刻作为副产品。除了递归方法,我们认识到,任何任意时刻的截断多元扩展的偏态分布可以计算使用相应的时刻截断多元正态分布,指出了一种更快的算法,因为它的计算所需的积分数较少,结果更简单的评估。由于有几种方法可用于计算多元截断正态分布的前两个时刻,我们提出了一种优化的方法,提供了更好的性能,在时间和精度方面,除了考虑极端情况下,其他方法失败。R MomTrunc包为从业者提供了这些新的有效方法。
2020-09-28 math.ST stat.TH
Matrix norm shrinkage estimators and priors
The University of Tokyo(东京大学);RIKEN Center for Brain Science(理化学研究所脑科学中心)
该研究针对Frobenius损失下的正态均值矩阵,构造了推广James-Stein等经典估计量的极小极大估计量,提出推广Stein先验的超调和先验,经模拟验证其性能良好。
2026-08-25 math.ST stat.TH
Shrinkage Estimation of the Frechet Mean in Lie groups
非欧几里得空间中的数据在科学和工程的许多领域中经常遇到。例如,在机器人学中,姿态传感器捕获方位,方位是李群的元素。近年来,一些研究人员报道了在非线性空间中设计参数估计算法时考虑李群几何的方法。最大似然估计(MLE)是非常常用的,这是众所周知的统计领域,斯坦的收缩估计占主导地位的MLE在均方意义上假设的意见是从一个正常的人口。在本文中,我们提出了一种新的收缩估计驻留在李群,具体地说,交换或紧李群的数据。本文提出的关键理论结果是:(i)斯坦引理及其证明李群,(ii)证明的优势,建议收缩估计MLE交换和紧李群。我们提出的收缩估计和收缩估计多机器人定位的应用程序的优势模拟研究的例子。
2021-11-30 math.ST stat.TH
Posterior Contraction rate and Asymptotic Bayes Optimality for one-group shrinkage priors in sparse normal means problem
针对高维稀疏正态均值模型,本文研究单组全局-局部收缩先验的后验分布渐近性质,证明经验贝叶斯与分层贝叶斯方法下后验以接近极小化极大速率收缩,并推导全局参数先验条件以实现渐近贝叶斯最优性。
2024-07-09 math.ST stat.TH
Bias Reduction in Instrumental Variable Estimation through First-Stage Shrinkage
两阶段最小二乘(2SLS)估计是已知的有偏时,其第一阶段的拟合差。我表明,更好的第一阶段预测可以减轻这种偏见。在带正态噪声的两阶段线性回归模型中,考虑了第一阶段工具变量系数估计中的收缩效应。对于至少四个工具变量和一个单一的内生回归,我建立了标准的2SLS估计是占主导地位的偏差。占主导地位的IV估计应用詹姆斯-斯坦型收缩在第一阶段的高维正态平均值问题,其次是控制功能的方法在第二阶段。它保持了结构辅助变量方程的不变性。
2017-10-31 econ.EM math.ST stat.ME
Mass-shifting phenomenon of truncated multivariate normal priors
我们证明了截断到正正交点的非独立零均值正态分布的低维边缘密度表现出质量移动现象。尽管截断的多元正态密度在原点处具有众数,但随着维度的增加,边缘密度在原点附近分配越来越小的质量。这种现象随着随机变量之间的相关性增强而加剧。一个精确的量化特征的尺寸以及依赖的作用。这种令人惊讶的行为对贝叶斯约束估计和推理具有严重的影响,其中先验除了具有完全支持之外,还需要在原点附近分配相当大的概率以捕获感兴趣的真实函数的一部分。在没有进一步修改的情况下,我们表明,截断正常的先验不适合在区域建模,并提出了一种新的替代策略的基础上收缩的坐标使用乘法尺度参数。经验表明,建议的收缩先验,以防止质量转移现象,同时保持计算效率。
2020-05-19 math.ST stat.TH
On testing mean proportionality of multivariate normal variables
这个简短的说明考虑了两个多元正态变量的平均值成比例的原假设的检验问题。我们表明,通常的似然比$χ^2$ -测试是有效的非渐近。我们的证明依赖于表达的检验统计量的Wishart变量的最小特征值,并使用勒让德多项式的分布表示。
2021-03-09 math.ST stat.TH
Unbiased Shrinkage Estimation
收缩估计通常以偏差为代价来减少方差。但是,当我们只关心模型的一些参数时,我证明了如果我们有关于协变量分布的额外信息,我们可以减少方差而不会产生偏差。在具有同方差正态噪声的线性回归模型中,考虑了与控制变量相关的冗余参数的收缩估计。对于至少三个控制变量和外源性治疗,我建立了标准的最小二乘估计是占主导地位的治疗效果的平方误差损失,即使在无偏估计,甚至当目标参数是低维的。在高维正态均值问题中,我通过James-Stein收缩的一个变体构造了支配估计。它可以被解释为一个不变的广义贝叶斯估计与一个无信息(不适当的)Jeffreys先验的目标参数。
2017-10-31 econ.EM math.ST stat.ME
Local shrinkage rules, Levy processes, and regularized regression
我们使用Levy过程来生成联合先验分布,因此罚函数,为一个位置参数,随着p变大。这概括了类的局部-全局收缩规则的基础上规模混合的法线,照亮不同的方法之间的新的连接,并导致新的结果计算后的手段和模式下广泛的类先验。我们将这个框架扩展到大规模的正则化回归问题,其中p>n,并提供与其他方法的比较。
2011-04-23 math.ST stat.ME stat.TH
Asymptotic normality of generalized maximum spacing estimators for multivariate observations
本文讨论了多元观测值的最大间距法。最近邻球被用作单变量间距的多维模拟。利用一类信息型测度推广了最大间距估计的概念。证明了当所指定的模型类是正确的,即真密度是模型类的成员时,这些广义最大间距估计的渐近正态性。
2019-04-18 math.ST stat.TH
On the regular conditional distribution of a multivariate Normal given a linear transformation
证明了在线性算子T的伴随值域上的正交投影算子可以表示为UT,其中U是可逆的线性算子.利用这种表示,我们得到了一个多元正态随机变量Y的分解为Y的一个独立于TY的线性变换和TY的一个仿射变换之和。然后,我们使用这个分解证明了多元正态随机变量Y在给定线性变换TY的情况下的正则条件分布也是多元正态分布。这个结果等价于已知的结果:给定一个n维多元正态随机变量的k维分量,其中k < n,剩余的(n-k)维分量的正则条件分布是(n-k)维多元正态分布。
2017-10-26 math.ST stat.TH
Assessing the multivariate normal approximation of the maximum likelihood estimator from high-dimensional, heterogeneous data
正则性条件下极大似然估计的渐近正态性是统计理论的基石。本文给出了向量参数极大似然估计的分布与多元正态分布之间的分布距离的上界。我们的工作可能是高维的,独立的,但不一定是同分布的随机向量。此外,我们得到明确的上界,即使在MLE不能解析表示的情况下。
2018-07-20 math.ST stat.TH
Kurtosis Tests for Multivariate Normality with Monotone Incomplete Data
本文研究了由两步单调不完全观测值组成的随机样本的多元正态性检验问题。我们定义这样的数据的广义的Mardia的统计测量峰度,推导出渐近非零分布的统计量在一定的规律性条件下,对广泛的一类替代品,并给出一个应用程序的一个众所周知的数据集胆固醇测量。
2014-11-25 math.ST stat.TH
Tests for multivariate normality -- a critical review with emphasis on weighted $L^2$-statistics
本文简要介绍了独立同分布中多元正态性的仿射不变检验的新发展。设置,特别强调几类加权$L^2$ -统计量的渐近性质。由于加权$L^2$ -统计量通常在固定的正态性替代方案下具有极限正态分布,因此它们为正态性的模型验证的邻域开辟了道路。本文还回顾了其他几个不变检验这个问题,特别是能量测试,它提出了一个大规模的模拟研究的结果。研究中的所有测试均在随附的R-包mnt中实施。
2020-04-15 math.ST stat.TH
Multivariate normal approximation of the maximum likelihood estimator via the delta method
我们使用delta方法和Stein方法,在正则性条件下,推导出$d$维参数的最大似然估计(MLE)的分布与其渐近多元正态分布之间的分布距离的显式上界。我们的界限适用于MLE可以写成i.i.d.和的函数的情况。$t$ -维随机向量。我们应用我们的一般界建立一个界的多元正态近似的MLE的正态分布未知的均值和方差。
2018-08-09 math.ST stat.TH
Multivariate normality test based on the uniform distribution on the Stiefel manifold
Tokyo University of Science(东京科学大学)
本文提出基于Stiefel流形上均匀分布的多元正态性检验方法,通过残差矩阵与Wishart矩阵对称平方根的乘积构造检验统计量,证明其在原假设下服从矩阵正态分布,并通过蒙特卡洛模拟评估检验功效和一类错误率。
2026-03-13 math.ST stat.TH
Wasserstein distance error bounds for the multivariate normal approximation of the maximum likelihood estimator
我们得到了多参数极大似然估计的分布与多元正态分布之间的$p$距离误差界。我们的一般界限可能是高维的,独立和同分布的随机向量。我们的一般界是最佳的$\mathcal{O}(n^{-1/2})$顺序。当$p\in(1,2]$时,给出显式数值常数,而在$p>2$的情况下,边界是显式的,直到仅取决于$p$的常数因子。我们应用我们的一般界限,以获得Wasserstein距离误差界的多元正态近似的MLE在几个设置,这些是单参数指数家庭,规范参数化下的正态分布,和非规范参数化下的多元正态分布。此外,我们提供了上界相对于有界Wasserstein距离时,MLE是隐式定义的。
2021-09-24 math.ST stat.TH
Inference on the eigenvalues of the covariance matrix of a multivariate normal distribution--geometrical view--
本文考虑多元正态分布协方差阵特征值的一个推论。具有固定均值的多元正态分布族被看作是一个具有Fisher信息度量的黎曼流形。两个子流形自然产生;一个是由协方差阵的固定特征向量给出的子流形,另一个是由固定特征值给出的子流形。我们分析了这些流形在$e$ -联络和$m$ -联络下的度量、嵌入曲率等几何结构。在此基础上,我们研究了1)样本特征值的偏差,2)忽略样本特征向量所造成的信息损失,3)从几何角度自然导出的新估计。
2018-10-11 math.ST stat.TH
Generalized double Pareto shrinkage
提出了一种广义双Pareto先验,用于线性模型中的贝叶斯收缩估计和推断.先验可以通过拉普拉斯或正态分布的尺度混合来获得,从而在拉普拉斯先验和正态Jeffreys先验之间形成桥梁。虽然它像拉普拉斯密度一样在零处有尖峰,但它也有学生$t$样的尾部行为。贝叶斯计算是直接通过一个简单的吉布斯抽样算法。我们调查的最大后验估计的性质,稀疏估计在许多问题中起着重要的作用,揭示了一些完善的正则化程序的连接,并显示一些渐近结果。通过仿真和实际应用,验证了该算法的有效性。
2013-01-26 math.ST stat.ME stat.ML
Entropy-regularized optimal transport on multivariate normal and q-normal distributions
概率测度的距离和发散在统计学、机器学习和许多其他相关领域中起着核心作用。Wasserstein距离由于其与其他距离或分歧的区别,近年来受到了广泛的关注。虽然计算Wasserstein距离是昂贵的,但提出了熵正则化的最优输运以在计算上有效地近似Wasserstein距离。本研究旨在了解熵正则化最优输运的理论方面。本文主要研究多元正态分布和$q$ -正态分布上的熵正则化最优输运问题。我们~得到显式形式的熵正则化的最优输运成本的多元正态分布和$q$ -正态分布,这提供了一个视角来理解熵正则化的效果,这是以前只知道实验。进一步,我们得到了满足一定条件的概率测度的熵正则化Kantorovich估计。我们还演示了如何Wasserstein距离,最佳耦合,几何结构和统计效率的熵正则化在一些实验中的影响。特别是,我们的结果的显式形式的最佳耦合的Tsallis熵正则化的最最优输运多变量$q$ -正态分布和熵正则化的Kantorovich估计是新颖的,将成为第一步,了解一个更一般的设置。
2021-03-10 math.ST stat.TH
Improved Second Order Estimation in the Singular Multivariate Normal Model
我们考虑的问题,估计协方差和精度矩阵,以及相关的判别系数,从正常的数据时,协方差阵的秩是严格小于其维数和可用的样本量。使用无偏风险估计,我们构造新的估计,通过最小化上界的差异,在几个类的风险。经验证明,我们的建议估计提供了实质性的改进,经典的方法。
2015-09-08 math.ST stat.TH
Shannon Entropy and Kullback-Leibler Divergence in Multivariate Log Fundamental Skew-Normal and Related Distributions
本文主要研究了多元对数典型基本偏正态(LCFUSN)和典型基本偏正态(CFUSN)分布族的Shannon熵和Kullback-Leibler散度,推广了前人的工作.我们将我们的结果与其他著名的分布熵。作为一个副产品,我们还获得了这些家庭中的分布的互信息。利用Shannon熵对美国月降水量资料进行拟合比较。Kullback-Leibler散度用于根据空气湿度水平对大西洋区域进行聚类。
2016-09-20 math.ST stat.TH
Asymptotic normality of wavelet covariances and of multivariate wavelet Whittle estimators
具有长程相关特性的多变量过程在许多应用领域中都会遇到。这种框架的两个基本特征是长期相关参数和各组成部分时间序列之间的相关性。我们考虑多变量长程相关线性过程,不一定是高斯过程。我们表明,在这种设置的小波系数之间的协方差是渐近高斯。我们还研究了基于小波的Whittle过程的长期相关参数和长期协方差估计的渐近分布。我们证明了估计量的渐近正态性,并给出了渐近协方差的显式表达式。这一结果的实证说明提出了一个真实的数据集上的大鼠大脑的连接。
2022-04-06 math.ST stat.TH