Minimax Simple Bayes Estimators of a Normal Variance
Chiba University(千叶大学)
本文提出了一种简洁的贝叶斯估计器,解决了正态方差在熵损失下的最小最大性问题,提供了闭式结果。
2026-02-28 math.ST stat.TH
Constructing Bayes Minimax Estimators through Integral Transformations
本文研究二次损失下多元正态均值的贝叶斯极小极大估计,提出利用 I-变换与 Laplace 变换并配合球形先验来构造估计量,并通过示例验证其有效性。
2025-05-12 math.ST stat.TH
Proper Bayes and Minimax Predictive Densities for a Matrix-variate Normal Distribution
本文讨论了已知协方差阵的矩阵变量正态分布的预测密度估计问题。我们的主要目的是建立一些贝叶斯预测密度相关的矩阵收缩估计的正态均值矩阵。Kullback-Leibler损失用于评估预测密度的决策理论最优性。它表明,一个适当的分层先验产生一个容许的和极大极小的预测密度。同时,为了得到具有良好数值性能的极大极小预测密度,还考虑了先验密度的超调和性。
2017-03-31 math.ST stat.TH
Nearly minimax empirical Bayesian prediction of independent Poisson observables
本研究提出一类经验贝叶斯预测分布,用于独立泊松观测量,在K-L损失下优于Jeffreys先验贝叶斯预测,且风险小于极小极大下界的1.04倍。
2023-12-03 math.ST stat.TH
On Minimax Optimality of Sparse Bayes Predictive Density Estimates
研究了$\ell_0$ -稀疏高斯序列模型中Kullback-Leibler损失下的预测密度估计问题。在稀疏模型中,我们提出了适当的贝叶斯预测密度估计,并建立了渐近极小极大性。令人惊讶的是,在未来与过去的方差比$r$中存在相变。对于$r < r_0 = (\surd 5 - 1)/4$,自然离散先验不再是渐近最优的。相反,对于亚临界$r$,一个“双网格”前减少网格间距的中心区域恢复渐近极小极大。这种现象似乎没有类似的,否则平行理论的点估计的多元正态平均在二次损失。对于尖峰和平板先验有任何前景的极大极小,我们表明,稀疏参数空间也需要大小约束。在相当大的幅度范围内,尖峰和平板先验可以达到渐近极小极大。
2017-07-28 math.ST stat.TH
Minimaxity and Limits of Risks Ratios of Shrinkage Estimators of a Multivariate Normal Mean in the Bayesian Case
本文考虑了多元正态分布$X\sim N_{p}\left(θ, σ^{2}I_{p}\right)$的均值$θ$的两种形式的收缩估计,其中$σ^{2}$是未知的。我们采用先验律$θ\sim N_{p}\left(\upsilon, τ^{2}I_{p}\right)$,构造了修正贝叶斯估计量$δ_{B}^{\ast}$和经验修正贝叶斯估计量$δ_{EB}^{\ast}$ .当$n$和$p$趋于无穷大时,我们有兴趣研究这些估计量相对于极大似然估计量$X$的极小极大性和风险比的极限.
2020-02-13 math.ST stat.TH
Local asymptotic minimax risk bounds in a locally asymptotically mixture of normal experiments under asymmetric loss
在非对称损失函数下,研究了局部渐近混合正态分布族的局部渐近Minimax风险界,得到了达到该界的最优估计的渐近分布.
2006-11-07 math.ST q-fin.RM stat.TH
Admissibility and minimaxity of generalized Bayes estimators for spherically symmetric family
在平方误差损失下,给出了球对称分布位置向量广义Bayes估计可容许的一个充分条件。与已知的多元正态情形的结果相比,我们的充分条件是非常紧的,并且接近于必要条件。特别是,我们建立了广义贝叶斯估计的容许性关于调和先验和先验的尾部略重比调和先验。我们使用的理论,经常变化的功能,以构建一个序列的顺利适当的先验接近不适当的先验足够快,以建立容许性。我们还讨论了广义Bayes估计关于调和先验的极小极大性的条件。
2006-04-19 math.ST stat.TH
Bayes Minimax Competitors of Preliminary Test Estimators in k Sample Problems
本文研究了多元正态总体的均值向量的估计问题,其中均值向量被怀疑近似等于$k-1$其它总体的均值向量。作为一种替代的初步测试估计的基础上的检验统计量检验假设的平均值相等,我们得出经验和分层贝叶斯估计,缩小样本均值向量向一个合并的平均估计的假设。这些贝叶斯估计的极大极小性,并通过模拟研究其性能。
2018-03-13 math.ST stat.TH
A new class of generalized Bayes minimax ridge regression estimators
设y=Aβ+ε,其中y是N \times 1观测向量,β是未知回归系数的p \times 1向量,A是N \times p设计矩阵,ε是具有未知尺度参数σ的球对称误差项。本文考虑一般平方损失函数下β的估计,特别是推广了Strawderman [J. Amer. Statistist. Assoc.73(1978)623-627]和Casella [Ann. Statist. 8(1980)1036-1056,J. Amer. Statist. Assoc.80(1985)753-758]通过找到β的自适应极小极大估计(在正态性假设下,其也是广义贝叶斯),其具有更大的数值稳定性(即,较小的条件数)。特别是,我们给这样的估计,令人惊讶的是,有一个非常简单的形式的一个子类。我们还证明了在一定的条件下,广义Bayes极小极大估计在正常情况下也是广义Bayes和极小极大在一般情况下的球对称误差。
2005-08-16 math.ST stat.TH
General empirical Bayes wavelet methods and exactly adaptive minimax estimation
在许多统计问题中,随机信号可以表示为一个序列的噪声小波系数。本文发展了用于真信号估计的一般经验贝叶斯方法。我们的估计近似某些甲骨文可分离的规则,并实现适应理想的风险和确切的极大极小风险的广泛收集类的信号。特别地,我们的估计在Besov球上同时对可分离估计的最小风险和精确Minimax风险是一致自适应的,并且在Besov空间中具有有限次形状参数的紧集上,我们的估计在收敛速度上是一致超有效的.此外,在类之间嵌套的Besov球相同的平滑指数,我们的估计占主导地位的阈值和詹姆斯-斯坦估计在极小极大风险的无穷小部分。更一般的块经验贝叶斯估计。考虑了漂移白噪声和非参数回归。
2005-04-25 math.ST stat.TH
Adaptive Nonparametric Empirical Bayes Estimation Via Wavelet Series: the Minimax Study
本文给出了非参数经验Bayes估计的风险的下界。为了达到最佳的收敛速度,我们提出了推广的线性经验贝叶斯估计方法,利用小波技术的灵活性。我们提出了一个经验贝叶斯估计小波级数展开和估计系数通过最小化估计的先验风险。因此,小波系数的估计需要解一个适定的低维稀疏线性方程组线性方程组。系统的维数取决于小波支撑的大小和贝叶斯估计的光滑性。使用Lepski(1997)方法进行分辨率水平的自适应选择。该方法计算效率高,并提供渐近最优的自适应EB估计。这一理论有许多例子作了补充。
2013-06-11 math.ST stat.TH
A minimax and asymptotically optimal algorithm for stochastic bandits
Institut de Mathématiques de Toulouse(图卢兹数学研究所);Université de Toulouse(图卢兹大学);CNRS(法国国家科学研究中心)
本文提出了指数分布随机强盗模型中后悔最小化问题的kl-UCB ++算法。我们证明了它同时是渐近最优的(在Lai和Robbins的下界意义下)和极小极大最优的。这是第一个算法证明享有这两个属性在同一时间。这项工作因此合并了两个不同的研究路线与简单明了的证明。
2017-09-20 cs.LG math.ST stat.ML
Bayesimax Theory: Selecting Priors by Minimizing Total Information
本文提出 Bayesimax 理论,通过极小极大先验披露博弈选择先验,以最小化总信息量(条件熵最大化),并给出算法与理论性质。
2025-09-07 math.ST stat.TH
Sparse Minimax Optimality of Bayes Predictive Density Estimates from Clustered Discrete Priors
研究了高维高斯模型中位置参数具有精确稀疏约束的Kullback-Leibler损失下的预测密度估计问题。研究了基于乘积离散先验的Bayes预测密度估计的一阶渐近极小极大风险,其中非零坐标的比例随着维数的增加而收敛到零。离散先验的产品,聚集的单变量先验提供了一个易于处理的配置,分散未来的风险,并用于构建有效的预测密度估计。我们建立了贝叶斯预测密度估计从一个适当设计的聚类离散先验是渐近极小极大最优的。我们提出的先验的边缘有无限个大小相同的簇。簇内支持点是等概率的,并且簇随着它们远离原点而以几何衰减概率周期性地间隔开。簇的周期性取决于簇概率的衰减速率。在不同的稀疏性制度下,通过数值实验,我们比较了来自聚类先验的贝叶斯预测密度估计与各种竞争估计的最大风险,包括基于Johnstone(1994)和Mukherjee & Johnstone(2017)的几何衰减非聚类先验的估计,并获得了令人鼓舞的结果。
2019-05-23 math.ST stat.TH
Proper Bayes minimax multiple shrinkage estimation
University of Alberta(阿尔伯塔大学);Rutgers University(罗格斯大学);The Wharton School, University of Pennsylvania(宾夕法尼亚大学沃顿商学院)
研究在平方误差损失下估计多元正态均值问题,通过引入新方法证明适当贝叶斯极小极大多重收缩估计量存在,其能自适应向更有前景目标收缩,解决多目标选择挑战,且构建方式与以往不同。
2026-08-13 math.ST stat.ME stat.TH
Asymptotically Minimax Robust Likelihood Ratio Test
University Medical Center of the Johannes Gutenberg University Mainz(约翰内斯·古腾堡大学美因茨大学医学中心);Center for Thrombosis and Hemostasis, University Medical Center Johannes Gutenberg University Mainz(约翰内斯·古腾堡大学美因茨大学医学中心血栓与止血中心);German Center for Cardiovascular Research (DZHK), Partner Site Rhine Main, University Medical Center of the Johannes Gutenberg University Mainz(德国心血管研究联盟(DZHK)莱茵美因合作点,约翰内斯·古腾堡大学美因茨大学医学中心)
本文提出了一种统一框架,用于在分布不确定性下进行渐近最小最大稳健假设检验,通过非线性方程组计算,并验证了理论结果。
2026-02-09 cs.IT math.IT math.ST
Asymptotically Optimal Pointwise and Minimax Quickest Change-point Detection for Dependent Data
我们认为最快的变点检测问题在逐点和极大极小设置一般相关的数据模型。两个新的类的顺序检测程序与最大的“本地”的一个假警报的概率在一段时间内的一些固定长度的介绍。对于这些类别的检测程序,我们考虑两个流行的风险:预期的积极部分的延迟检测和条件延迟检测。在非常一般的条件下的观察,我们表明,流行的Shiryaev-罗伯茨过程是渐近最优的,作为局部的虚警概率为零,相对于这些风险逐点(均匀的每一个可能的点的变化),并在极大极小意义上(相对于最大的变化点的预期检测延迟)。这些条件是根据“变化”和“无变化”假设之间对数似然比的强大数律的收敛速率来制定的,具体地说,是归一化对数似然比到一个正数和有限数的均匀全收敛。我们还开发了工具和一组充分条件的一致全收敛的一大类马尔可夫过程的验证。这些工具是基于浓度不等式的功能的马尔可夫过程和Meyn-Tweedie几何遍历论。最后,我们检查这些充分条件的一些具有挑战性的例子(时间序列)经常出现在应用程序中,如自回归,自回归高斯等。
2016-01-15 math.ST stat.TH
Misspecified and Asymptotically Minimax Robust Quickest Change Diagnosis
研究了随机过程中未知变化的快速诊断问题。我们建立了新的边界上的错误指定的诊断算法的性能设计的变化,从那些不同的过程中,并提出和解决一个新的强大的最快的变化诊断问题的渐近制度的几个假警报和假隔离。模拟表明,我们的渐近鲁棒的解决方案提供了一个计算效率的替代广义似然比算法。
2020-04-21 cs.SY eess.SY math.ST
Classification with Minimax Fast Rates for Classes of Bayes Rules with Sparse Representation
我们构建了一个分类器,达到收敛速率$\log n/n$稀疏和利润的假设下。本文用一种近似于函数估计的逼近论中的方法得到了这一结果。我们的想法是开发贝叶斯规则的基本系统的$L^2([0,1]^d)$的指标并元集,并假设系数,等于$-1,0 {or} 1$,属于一种$L^1-$球。这个假设可以被看作是一个稀疏性假设,在这个意义上,系数不等于零的比例随着“频率”的增长而减少。最后,收敛速度得到通过使用一个通常的权衡之间的偏差项和方差项。
2006-07-18 math.ST stat.TH
Improved minimax estimation of a multivariate normal mean under heteroscedasticity
考虑用已知的方差矩阵估计多元正态均值的问题,该方差矩阵不一定与单位矩阵成比例。在Efron和Morris的(J. Amer. Statist. Assoc.68(1973)117-130)经验贝叶斯方法,而成反比,他们的方差在伯杰的(Ann. Statist。4(1976)223-226)极大极小估计。本文提出了一种新的Minimax估计,通过在一类Minimax估计中近似最小化具有正态先验的贝叶斯风险,其中收缩方向是开放的,收缩量是确定的,以实现Minimax.建议的估计有一个有趣的简单的形式,使一组坐标收缩的方向伯杰的估计和其余的坐标收缩的方向的贝叶斯规则。此外,所提出的估计是规模自适应的:它可以实现接近最小的贝叶斯风险同时在一个规模类的正常先验(包括指定的先验),并实现接近极小极大线性风险在相应的规模类的超矩形。在我们的数值研究的各种情况下,建议的估计与极端先验产生更大的风险降低比现有的极大极小估计。
2015-05-28 math.ST stat.TH
On the minimax-rate optimality of approximate Bayesian computation in nonparametric problems
La Trobe University(拉筹伯大学);Kyushu University(九州大学)
该研究证明近似贝叶斯计算(ABC)在非参数场景下可达到极小极大速率最优,提出基于统计量筛和局部先验质量条件的ABC后验收缩定理,并验证其在高斯序列估计、密度估计中的有效性。
2026-09-17 math.ST stat.TH
Asymptotic Minimaxity, Optimal Posterior Concentration and Asymptotic Bayes Optimality of Horseshoe-type Priors Under Sparsity
在这篇文章中,我们研究了一个非常广泛的一类一类连续收缩先验的同时估计和测试的稀疏正常均值向量向量的某些渐近最优性。本文研究了一般一类单组先验数据的贝叶斯估计的渐近最优性和后验集中性,其中数据假定为多元正态分布,具有一个固定的未知均值向量.在非零均值的数目已知的假设下,我们证明了贝叶斯估计所产生的这一一般类收缩先验研究中,达到极大极小风险,一些乘法常数,下$l_2$规范。特别地,对于马蹄型先验,如带参数$a=0.5, b>0$的三参数β正态混合和带形状参数$α=1$的广义双Pareto先验,相应的贝叶斯估计成为渐近极小极大.此外,后验分布所产生的这一一般类的一组先验的合同周围的真正的平均向量在极小极大$l_2$率为一个广泛的值域的值的全球收缩参数的基础均值向量的非零组件的比例。作为证明上述极大极小性结果所必需的一个关键结果的结果而出现的一个重要且显著的事实是,在Bogdan等人(2011)的渐近框架内,由于Carvalho等人(2010)基于马蹄型先验的自然阈值规则渐近地达到最优贝叶斯风险w.r.t.一个$0-1$损失,直到正确的乘法常数,并因此,渐近贝叶斯稀疏(ABOS)下的最优。
2015-11-10 math.ST stat.TH
Minimaxity under the half-Cauchy prior
针对二次损失下 p 元正态均值估计问题,本文利用区间算术从理论上证明了半 Cauchy 先验对应的 Bayes 估计量具有极小极大性。
2024-06-13 math.ST stat.TH
Asymptotically Optimal Pointwise and Minimax Change-point Detection for General Stochastic Models With a Composite Post-Change Hypothesis
一个加权Shiryaev-罗伯茨变化检测过程中示出,以近似最小化的预期延迟检测以及较高的时刻的检测延迟之间的所有变化点检测程序与给定的低最大局部概率的虚警在一个窗口内的一个固定长度的逐点和极大极小设置一般非独立同分布。数据模型和变更后参数未知时的复合变更后假设。我们建立了非常一般的条件下,加权Shiryaev-Roberts程序是渐近最优的模型。这些条件是根据强大数律中收敛速率对“变化”假设和“不变”假设之间的对数似然比来表示的,并且我们还为一大类遍历马尔可夫过程提供了充分条件.给出了这些条件成立的例子。
2019-09-02 math.PR math.ST stat.TH
The art of BART: Minimax optimality over nonhomogeneous smoothness in high dimension
本文在非齐次各向异性光滑性和可能非连续的条件下,提出分片异质各向异性Hölder函数类并推导高维极小极大下界,证明贝叶斯森林结合Dirichlet子集选择先验可自适应未知光滑性、非连续性与稀疏性,并在数值上优于随机森林和深度神经网络。
2023-12-03 math.ST stat.TH
Minimaxity under half-Cauchy type priors
针对半 Cauchy 先验下正态均值向量估计的极小极大性问题,本文推广到 U 形先验类,给出充分条件、后验采样算法及数值验证。
2023-08-18 math.ST stat.TH
Sharp Asymptotic Minimaxity for Multiple Testing Using One-Group Shrinkage Priors
Dhirubhai Ambani University(Dhirubhai Ambani大学);Texas A&M University(德克萨斯农工大学);Indian Statistical Institute(印度统计研究所)
研究稀疏高斯序列模型中基于全局-局部尺度混合正态先验的贝叶斯多重检验规则的渐近极小化极大性质,证明在已知或未知稀疏度下,适当选择全局收缩参数可使检验规则达到精确极小化极大风险。
2026-06-15 math.ST stat.TH
Asymptotically efficient estimators for nonparametric heteroscedastic regression models
本文研究了带高斯噪声和未知分布噪声的非参数异方差模型中在给定点处的回归函数的估计。在这两种情况下,一个渐近有效的核估计构造的极小极大绝对误差风险。
2007-11-29 math.ST stat.TH
Improved minimax predictive densities under Kullback--Leibler loss
令$X| μ\sim N_p(μ,v_xI)$和$Y| μ\sim N_p(μ,v_yI)$是独立的p维多元法向量,具有共同的未知均值$μ$。基于仅观察$X=x$,我们考虑获得$Y$的预测密度$\hat{p}(y| x)$的问题,该密度接近由预期Kullback-Leibler损失测量的$p(y| μ)$。这个问题的一个自然的过程是(正式的)贝叶斯预测密度$\hat{p}_{\mathrm{U}}(y| x)$下的均匀先验$π_{\mathrm{U}}(μ)\equiv 1$,这是最好的不变和极大极小。我们表明,任何贝叶斯预测密度将是极大极小的,如果它是由一个先验产生的边缘是超调和或其平方根是超调和。这产生了广泛的类极小极大程序,占主导地位的$\hat{p}_{\mathrm{U}}(y| x)$,包括贝叶斯预测密度下的超调和先验。基本的相似性和差异与平行的理论估计下的二次损失的多元正态平均值。
2006-05-16 math.ST stat.TH
A note on the minimax risk of sparse linear regression
Columbia University(哥伦比亚大学);Michigan State University(密歇根州立大学)
本文推导了稀疏线性回归在各项同性高斯随机设计下极小风险的渐近精确表达式,即$2\sigma^2 k/n \log(p/k)$,并总结了现有结果和未解决问题。
2026-06-18 math.ST stat.TH
Some results on contraction rates for Bayesian inverse problems
我们证明了一个一般引理,用于推导具有非参数非共轭先验的线性反问题的收缩率。然后,我们将其应用到收缩率的轻度和严重不适定的线性反问题的高斯先验非共轭的情况下。在严重不适定的情况下,我们的利率匹配的极大极小利率使用可扩展的先验与规模,不依赖于真正的解决方案的平滑度。在轻度不适定的情况下,我们的利率匹配的极大极小利率使用可扩展的先验时,真正的解决方案是不是太光滑。此外,使用引理,我们发现收缩率与高斯先验的半线性算子的反演。我们找到了一个紧支持先验的收缩率。我们还讨论了当真解所在的Sobolev球不同于通常的Sobolev球时,通过向前算子的基础定义的极大极小率。
2017-02-19 math.ST stat.TH
Entropic Strict Minimum Message Length and Its Connections to PAC-Bayes and NML
本文提出熵严格最小信息量(SMML),一种风险敏感的严格最小信息量编码扩展。该准则将先验预测分布下的期望两部分码长替换为指数确定等价,从而定义了一族参数化的编码规则,介于贝叶斯平均情况编码和最坏情况最小最大编码之间。研究显示,普通SMML在风险中性极限下被恢复,而极端风险敏感极限产生最小最大码长准则;当以 oracle 最大似然码长为中心时,该准则与规范化最大似然(NML)最小遗憾原则一致。进一步证明熵SMML可作为Kullback-Leibler正则化最坏情况期望码长的变分刻画,具有PAC-Bayes类型的解释。建立样本量n和风险参数τ的联合渐近理论,显示在正则参数模型中,贝叶斯、鲁棒和最小最大编码制度的过渡发生在对数尺度上。对于正则指数族,固定码书分区保持在充分统计量空间中为仿射,而码点满足倾斜矩匹配条件并可解释为倾斜Bregman重心。这些结果将熵SMML定位为信息论上连接MML、PAC-Bayes和MDL的桥梁。
2026-07-09 math.ST stat.TH
Asymptotic minimax risk of predictive density estimation for non-parametric regression
本文研究了非参数回归模型中未来观测值的预测密度估计问题。密度估计Kullback-Leibler发散下进行评估,我们的重点是在高斯误差的情况下建立极小极大风险的精确渐近性。我们推导出了高斯先验下贝叶斯预测密度之间的极小极大风险的收敛速度和常数,并证明了这种极小极大风险与所有密度估计之间的极小极大风险是渐近等价的。
2010-10-11 math.ST stat.TH
On Bayes Risk Lower Bounds
本文给出了统计估计的贝叶斯风险下界的一般方法,适用于任意损失函数和任意先验分布。贝叶斯风险的下界不仅作为极大极小风险的下界,而且还表征了给定先验知识的任何估计量的基本极限。我们的界限是基于$f$的概念-信息,这是一个功能的基础类的概率测度和先验。应用我们的边界需要上界的$f$ -信息,因此,我们得到新的上界的$f$ -信息,这往往会导致紧贝叶斯风险下界。我们的技术导致了各种经典的极大极小界的推广(例如,Fano不等式)。我们的贝叶斯风险下界可以直接应用到几个具体的估计问题,包括高斯位置模型,广义线性模型,和主成分分析的尖峰协方差模型。为了进一步证明我们的贝叶斯风险下界在机器学习问题中的应用,我们提出了两个新的理论结果:(1)在光滑分析框架下精确刻画了球面高斯混合模型学习的极大极小风险,和(2)贝叶斯风险的下界下的自然先验的预测和估计误差的高-维稀疏线性回归在不适当的学习设置。
2016-12-23 math.ST stat.TH
Optimal Grouping for Group Minimax Hypothesis Testing
贝叶斯假设检验和极大极小假设检验代表了检测的极端情况,其中假设的先验概率要么完全精确已知,要么完全未知。组极大极小,也被称为伽玛极大极小,是贝叶斯和极大极小假设检验之间的一个强大的中介,它允许通过使用先验集合的信息来粗略或部分预先了解假设先验。现有的工作组极大极小,但是,不考虑如何定义的集合或组的先验的问题;它是假设,组给定的。在这项工作中,我们提出了一种新的中间检测方案,制定通过量化的先验概率,最佳地确定组和组内的代表先验的空间。我们表明,从量化的角度来看,组极大极小值相当于确定质心与极大极小贝叶斯风险误差发散失真标准:适当的布雷格曼分歧这项任务。此外,先验概率空间的最优划分是Bregman沃罗诺伊图。总之,最佳的分组和代表点是一个ε-网相对于贝叶斯风险误差发散,并允许率失真型渐近分析的检测性能与组的数量。检测被加性高斯白噪声破坏的信号和区分指数分布信号的例子。
2013-07-24 cs.IT math.IT math.ST
Two New Families of Local Asymptotically Minimax Lower Bounds in Parameter Estimation
本文提出两类易于计算且更紧的局部渐近极小极大下界,分别适用于凸对称损失函数和误差矩,无需正则性条件,可推广至向量参数。
2024-09-19 cs.IT math.IT math.ST
Minimax Predictive Density for Sparse Count Data
本文讨论了稀疏约束下高维Poisson序列模型在Kullback-Leibler损失下的预测密度。计数数据的稀疏性意味着零通货膨胀。给出了一类稀疏泊松序列模型中渐近极小极大的贝叶斯预测密度。我们还表明,我们的类与未知的稀疏水平估计插件是自适应的渐近极大极小意义。对于应用,我们将我们的结果扩展到具有准稀疏性和缺失完全随机观测的设置。模拟研究以及实际数据的应用说明了所提出的贝叶斯预测密度的效率。
2020-09-05 math.ST stat.ME stat.TH
Equivariant minimax dominators of the MLE in the array normal model
多路数据阵列中的相关性可以使用阵列正态模型进行推断,阵列正态模型对应于具有可分离协方差阵的多元正态分布类。最大似然法和贝叶斯方法在阵列正态模型中的推断已经出现在文献中,但还没有任何结果,这些估计的最优性。在这篇文章中,我们得到的结果是类似于一些经典的结果,关于多元正态模型的协方差估计的阵列正态模型。我们证明了在下三角乘积群下,通过广义贝叶斯过程可以得到一致最小风险同变估计(UMREE)。虽然这个UMREE是极大极小的,并主导了极大似然估计,但它可以通过正交等变修改来改进。这些估计的风险的数值比较表明,同变估计可以有显着低于最大似然估计的风险。
2014-08-02 math.ST stat.TH
Metric Entropy and Minimax Risk of Ellipsoids with an Application to Pinsker's Theorem
本文通过类型τ积分刻画椭球度量熵与最小最大风险,改进Sobolev椭球熵刻画,并将Pinsker定理推广至任意有限维有界开域且给出二阶渐近项。
2025-10-25 math.FA math.ST stat.TH
On Estimation of $L_{r}$-Norms in Gaussian White Noise Models
Stanford University(斯坦福大学);University of California, Berkeley(加州大学伯克利分校);Harvard University(哈佛大学)
本文给出了Nikolskiii-Besov空间上高斯白噪声模型均值的$L_r$ -范数(对任何$r\ge 1$)的渐近Minimax估计.在这方面,我们补充了Lepski,Nemirovski和Spokoiny(1999)的工作,他们考虑了Hölder空间上的$r=1$(下界之间有多对数间隙)和$r$(下界渐近尖锐)的情况。此外,我们考虑的情况下,渐近自适应极大极小估计和证明之间的差异,甚至和非甚至$r$的调查员的能力,产生渐近自适应极大极小估计,而不支付罚款。
2021-03-03 cs.LG math.ST stat.TH
On Bayesian "testimation" and its application to wavelet thresholding
研究了高斯白噪声模型中未知响应函数的估计问题。我们首先利用最近开发的贝叶斯最大后验“testimation”阿布拉莫维奇等人(2007年)的程序恢复一个未知的高维高斯均值向量向量。现有的各种稀疏$l_p$ -球的误差上界的结果被扩展到更一般的情况下。我们表明,对于一个适当选择的前的均值向量的非零条目的数量,相应的自适应估计是同时渐近极大极小在一个广泛的稀疏和密集的$l_p$球。所提出的程序,然后应用在小波上下文中,以获得自适应的全球和水平的小波估计的未知响应函数的高斯白噪声模型。这些估计,然后证明是,分别渐近近极大极小和极大极小在很大范围内的Besov球。这些结果也被推广到响应函数的导数的估计。仿真结果表明,在有限样本的情况下,所提出的水平小波估计的性能,并与现有的几个比较
2009-12-22 math.ST stat.TH
Minimax and Bayes Optimal Best-Arm Identification
本文提出了一种同时具有极小极大和贝叶斯最优性质的最佳臂识别策略,通过两阶段采样和决策规则实现高效识别。
2026-07-20 cs.LG econ.EM math.ST
Adaptive Bayesian estimation in indirect Gaussian sequence space models
在一个间接的高斯数列空间模型的下限和上界推导出的浓度率的后验分布的参数的兴趣收缩的参数值$θ^\circ$,生成的数据。虽然这建立了后验一致性,但是,集中率取决于$θ^\circ$和进入先验分布的调谐参数。我们首先提供了一个优化参数的oracle最优选择,即,分别针对每个$θ^\circ$进行优化。先验分布的最优选择使我们能够推导出相关后验分布的预言最优集中率。此外,对于一个给定的类的参数和一个合适的选择的调谐参数,我们表明,由此产生的均匀浓度率在给定的类是最优的极大极小意义。最后,我们构造了一个分层的先验,是自适应的。这意味着,分别给定一个参数$θ^\circ$或一类参数,后验分布在该类上以预言率或极大极小率收缩。值得注意的是,分层先验既不依赖于$θ^\circ$,也不依赖于给定的类。此外,完全数据驱动的贝叶斯估计的收敛性在预言或在极大极小率。
2015-02-01 math.ST stat.TH
Adaptive Bayesian Predictive Inference in High-dimensional Regerssion
本文从预测推断视角研究高维回归中的稀疏先验,证明LASSO先验无法实现速率最优,而Spike-and-Slab及分层先验能实现自适应极小化极大速率,首次给出稀疏设置下预测密度估计的速率自适应结果。
2024-05-30 math.ST stat.TH
Minimax and Bayes Optimal Adaptive Experimental Design for Treatment Choice
本文提出了一种最小最大与贝叶斯最优的自适应实验设计方法,通过分阶段估计标准差并按比例分配治疗以优化治疗选择的后悔上界。
2025-12-09 cs.LG econ.EM math.ST
Signal-to-noise ratio aware minimaxity and higher-order asymptotics
本文提出信噪比感知的极小极大框架,通过高阶渐近精确近似风险并发现最优估计量,以解决经典极小极大理论在稀疏高斯序列模型中无法解释经验次优性能的问题。
2023-12-29 math.ST stat.TH
Asymptotically optimal nonparametric empirical Bayes via predictive recursion
经验贝叶斯问题具有从数据估计的未知先验。预测递归(PR)算法提供了混合分布的快速非参数估计,非常适合经验贝叶斯应用。本文提出了经验贝叶斯渐近最优性的一般概念,并证明了基于PR的程序在一定条件下满足这一性质。作为一个应用程序,在赛季预测棒球击球率的问题被认为是。在那里,基于PR的经验贝叶斯规则在预测误差和捕获潜在特征分布的能力方面表现良好。
2012-10-18 math.ST stat.TH
On asymptotically efficient statistical inference on a signal parameter
研究了高斯白噪声中信号参数的置信估计和假设检验问题。对于这些问题,我们指出了下界的渐近效率在区域的中等偏差概率。这些下界是局部渐近极小极大Hajek-Le Cam估计下界和假设检验Pitman有效性下界的版本。得到了中偏差概率对数渐近和锐渐近的下界。
2015-01-24 math.ST stat.TH
Memory Efficient And Minimax Distribution Estimation Under Wasserstein Distance Using Bayesian Histograms
该研究提出基于贝叶斯直方图的分布估计方法,证明在d<2v时其内存效率优于现有极小极大最优方法,构建速度达超线性,在低维Wasserstein距离场景下实用价值高并经仿真验证。
2023-07-19 math.ST stat.CO stat.ML
Exact minimax estimation of the predictive density in sparse Gaussian models
考虑了$\ell_0$稀疏高斯序列模型中Kullback-Leibler损失下的预测密度估计问题。一阶极大极小风险及其精确常数,渐近最不利的先验和最优预测密度估计的显式表达式。与正态均值点估计的稀疏恢复结果相比,发现了新的判决理论现象。插件密度估计类的次优性能反映了问题的预测性质,并且最优策略需要分散未来风险。我们发现,极小极大最优策略位于高斯家族之外,但可以构建阈值预测密度估计。新的极小极大技术,涉及同时校准的稀疏性调整和风险分散化机制被用来设计最佳的预测密度估计。
2015-06-03 math.ST stat.TH
Optimal Bayesian Estimation for Random Dot Product Graphs
我们提出了一种贝叶斯方法,称为后验谱嵌入,用于估计随机点积图中的潜在位置,并证明了它的最优性。与经典的基于谱的邻接/Laplacian谱嵌入不同,后验谱嵌入是一种完全基于似然的图估计方法,它利用了观测到的邻接矩阵的Bernoulli似然信息。我们开发了一个极小极大下界估计的潜在位置,并表明后验谱嵌入实现这一下界,因为它既在一个极小极大最优后收缩率的结果,并产生一个点估计渐近实现极小极大风险。收敛结果随后被应用到随机块模型中的聚类,其结果加强了现有的结果关于错误聚类顶点的数量。我们还研究了基于谱的高斯谱嵌入作为自然贝叶斯类比的邻接谱嵌入,但由此产生的后验收缩率是次优的额外的对数因子。所提出的方法的实际性能说明通过广泛的合成例子和维基百科的图形数据的分析。
2019-04-26 math.ST stat.ME stat.TH
Generalized Bayes Estimators with Closed forms for the Normal Mean and Covariance Matrices
在多元正态分布均值矩阵的估计中,给出了具有封闭形式的广义Bayes估计,并给出了关于矩阵损失函数和标量平方损失函数的极大极小的充分条件.给出了协方差阵的广义Bayes估计的封闭形式,并讨论了Stein损失函数的优势性质。
2021-08-13 math.ST stat.TH
Minimax Robust Quickest Change Detection using Wasserstein Ambiguity Sets
我们研究了未知的变化前和变化后的分布下的鲁棒最快变化检测。为了处理数据生成分布中的不确定性,我们基于Wasserstein距离制定了两个数据驱动的模糊集,没有任何参数假设。最小最大稳健性检验被构造为最不利分布下的最小最大稳健性检验,最不利分布是模糊度集中的一对代表性分布。我们证明了极大极小鲁棒检验可以以一种易于处理的方式得到,并且是渐近最优的。我们研究了所提出的鲁棒性检验的有效性,现有的方法,包括广义似然比检验和鲁棒性测试下KL散度为基础的模糊集。
2022-04-27 math.ST stat.ME stat.TH