Posterior contraction rate for non-parametric Bayesian estimation of the dispersion coefficient of a stochastic differential equation
本文给出了线性随机微分方程确定性离差系数的非参数贝叶斯估计的后误差收缩率。
2014-09-09 math.ST stat.TH
Posterior contraction in Gaussian process regression using Wasserstein approximations
研究协变量域无界的高斯过程回归的后验收缩率。我们的论点依赖于开发一个高斯近似的后首项系数的Karhunen-Loéve展开的高斯过程。我们的结果的显着特点是推导出这样一个近似的$L^2$ Wasserstein距离和相关的速度的近似后收缩率使用耦合参数。提供了高斯或平方指数协方差内核的具体说明。
2015-10-02 math.ST stat.TH
Posterior contraction rates for deconvolution of Dirichlet-Laplace mixtures
研究了拉普拉斯密度和狄利克雷过程在混合分布上的位置混合的非参数贝叶斯推断。我们推导出相应的后验分布的收缩率,无论是相对于Wasserstein度量的混合分布,还是相对于Hellinger和$L_q$度量的混合密度。
2016-01-26 math.ST stat.TH
Posterior contraction for deep Gaussian process priors
研究了一类深度高斯过程先验在回归函数的一般组合假设下应用于非参数回归问题的后验收缩率。结果表明,收缩率可以实现极小极大收敛速度(高达$\log n$因素),同时是自适应的底层结构和光滑的目标函数。该框架扩展了贝叶斯非参数理论的高斯过程先验。
2022-08-13 math.ST stat.TH
Posterior contraction rates for support boundary recovery
给定一个强度为$λ_f(x,y) = n \mathbf{1}(f(x) \leq y),$的Poisson点过程的样本,我们从非参数贝叶斯的角度研究了边界函数$f$的恢复问题.由于该模型的不规范性,导致分析不规范。基于熵和单侧小概率界,我们建立了关于$L^1$ -范数的后验收缩率的一般结果。从这一点,具体的后验收缩结果,高斯过程先验和先验的基础上随机小波序列。
2020-06-12 math.ST stat.TH
Dirichlet-Laplace priors for optimal shrinkage
惩罚回归方法,如$L_1$正则化,通常用于高维应用,并且有丰富的文献在稀疏性假设下的最优性。在贝叶斯范式中,稀疏性通常通过概率质量为零的两组分混合先验来诱导,但这种先验在高维中遇到了令人生畏的计算问题。这激发了各种各样的连续收缩先验,它们可以表示为高斯的全局-局部尺度混合,便于计算。与频率论文献形成鲜明对比的是,人们对这种先验的性质以及相应的后验分布的收敛性和集中性知之甚少。在这篇文章中,我们提出了一类新的狄利克雷-拉普拉斯(DL)先验,它具有最佳的后验浓度,并导致有效的后验计算利用归一化随机测度论的结果。有限样本的狄利克雷-拉普拉斯先验相对于替代品的性能进行评估,在模拟和真实数据的例子。
2014-01-21 math.ST stat.TH
Bayesian Structure Learning in Graphical Models using Shrinkage priors
我们考虑在稀疏性假设下学习高维精度矩阵结构的问题。我们建议使用收缩先验,称为DL-图形先验的基础上的狄利克雷-拉普拉斯先验用于高斯均值问题。同时给出了一种基于Gibbs抽样的后验抽样方案,并通过精度矩阵的后验收敛速度给出了该方法的理论保证。
2019-07-26 math.ST stat.ME stat.TH
Posterior contraction in group sparse logit models for categorical responses
本文研究了先验具有组稀疏结构的多类别logit模型的后验收缩率。我们考虑一类一般的logit模型,其中包括著名的多项logit模型作为一个特例。当预测变量自然聚集时,组稀疏性是有用的,并且对于多项logit模型中的变量选择特别有用。我们提供了一个统一的平台,包括个人稀疏下的二进制逻辑斯谛回归的组稀疏logit模型的后验收缩率。在本研究中,对真实信号没有直接的大小限制。除了建立有史以来第一次收缩属性下的多类别logit模型组稀疏性,这项工作也细化最近的研究结果的贝叶斯理论的二进制逻辑斯谛回归。
2022-01-29 math.ST stat.TH
Bayesian shrinkage
惩罚回归方法,如$L_1$正则化,通常用于高维应用,并且有丰富的文献在稀疏性假设下的最优性。在贝叶斯范式中,稀疏性通常通过概率质量为零的两组分混合先验来诱导,但这种先验在高维中遇到了令人生畏的计算问题。这激发了各种各样的连续收缩先验,它们可以表示为高斯的全局-局部尺度混合,便于计算。与相应的频率论文献形成鲜明对比的是,人们对这种先验的性质知之甚少。专注于一个广泛的类收缩先验,我们提供精确的结果先验和后验浓度。有趣的是,我们证明了最常用的收缩先验,包括贝叶斯套索,是次优的高维设置。提出了一类新的Dirichlet Laplace(DL)先验,该先验是最优的,并利用归一化随机测度论的结果进行有效的后验计算.有限样本性能的Dirichlet拉普拉斯先验相对于替代品进行评估模拟。
2012-12-25 math.ST stat.TH
A Diffusion Process Perspective on Posterior Contraction Rates for Parameters
本文通过Langevin扩散过程,特别是通过控制随机过程的矩和取极限,分析了贝叶斯模型中参数的后验收缩率。类似于统计M-估计和随机最优化算法的非渐近分析,我们的收缩率依赖于人口对数似然函数的结构,以及人口和样本对数似然函数之间的随机扰动界。收敛速度由一个非线性方程确定,该方程将种群水平结构与随机扰动项以及表征扩散行为的项联系起来。基于这种技术,我们还证明了非渐近版本的Bernstein-von-Mises保证后。我们说明了这一一般性的理论推导后收敛速度为各种具体的例子,以及近似后验分布使用Langevin抽样程序计算。
2022-08-17 math.ST stat.TH
On posterior contraction of parameters and interpretability in Bayesian mixture modeling
我们研究的背景下,贝叶斯混合建模,混合组件的数量是未知的,而模型本身可能会或可能不会被正确指定的参数的后验收缩行为。将考虑两种有代表性的先验规范:一种明确要求混合组分的数量上的先验分布,而另一种将混合分布的空间上的非参数先验。前者示出在最小条件下对模型参数产生最优的后验收缩率,而后者可以用来一致地恢复混合物成分的未知数,借助快速的概率后处理过程。然后,我们把这些贝叶斯程序的研究模型误设定的现实设置。它将被证明,核密度函数的建模选择可能起着最有影响力的作用,在错误指定的情况下,在确定后验收缩率。利用本文中建立的具体后验收缩率,我们希望强调一些方面的有趣的权衡模型的表达性和可解释性之间的统计建模必须谈判在丰富的世界的混合建模。
2019-01-15 math.ST stat.TH
Decoupling shrinkage and selection in Bayesian linear models: a posterior summary perspective
为线性模型选择变量子集仍然是一个活跃的研究领域。本文回顾了许多最近的贡献贝叶斯模型选择和收缩先前的文献。提出了一种后验变量选择方法,该方法将回归系数的后验分布提取为稀疏线性预测变量序列。
2014-08-03 stat.ME
Posterior contraction rates for non-parametric state and drift estimation
考虑线性随机热方程的状态和漂移联合估计问题。利用扩展状态空间上的卡尔曼-布西滤波器建立了无限维贝叶斯推理问题,并研究了其长时间渐近性质。本文的主要贡献是在未知漂移函数的渐近后验收缩率。这样的速率已经研究了固定的非参数贝叶斯逆问题,在这里,我们证明了我们的时间依赖性配方与这些以前的结果建立在尺度分离和慢流形近似的一致性。
2020-08-17 math.ST stat.TH
Rates of contraction of posterior distributions based on $p$-exponential priors
本文考虑一类无穷维积测度族,称之为$p$ -指数测度.我们研究了它们的测度论性质,特别是它们的浓度。我们的研究结果被用来发展一个一般的收缩理论的后验分布的非参数模型与$p$ -指数先验在可分的Banach参数空间。我们的方法建立在van der Vaart和van Zanten 2008中高斯过程先验的一般收缩理论基础上,即我们使用先验浓度来验证先验质量和熵条件足以进行后验收缩。然而,特定的浓度特性的$p$ -指数先验导致一个更复杂的熵界,可以产生负面影响所获得的收缩率,这取决于拓扑结构的参数空间。受更复杂的熵界,我们表明,收缩率取决于位置的真参数相对于一定的巴拿赫空间与$p$ -指数措施和小球概率这些措施。例如,我们应用我们的理论在白噪声模型下的Besov规律性的真相,并获得极小极大收缩率使用(重新缩放)$α$ -定期$p$ -指数先验。特别是,我们的研究结果表明,当感兴趣的空间不均匀的未知函数,在后收缩方面,最好使用拉普拉斯,而不是高斯先验。
2020-10-08 math.ST stat.TH
Posterior Contraction rate and Asymptotic Bayes Optimality for one-group shrinkage priors in sparse normal means problem
针对高维稀疏正态均值模型,本文研究单组全局-局部收缩先验的后验分布渐近性质,证明经验贝叶斯与分层贝叶斯方法下后验以接近极小化极大速率收缩,并推导全局参数先验条件以实现渐近贝叶斯最优性。
2024-07-09 math.ST stat.TH
Posterior Contraction Rates for the Bayesian Approach to Linear Ill-Posed Inverse Problems
本文考虑了一类带高斯噪声的可分希尔伯特空间中的线性反问题的贝叶斯非参数方法。我们假设高斯先验,这是共轭的模型,并提出了一种方法来识别后验使用其精度算子。与无界精度算子的工作使我们能够使用偏微分方程(PDE)的方法来获得收缩率的后验分布的狄拉克措施为中心的真正的解决方案。我们的方法假设先验协方差,噪声协方差和前向算子之间的关系相对较弱,允许广泛的应用。
2013-08-02 math.ST stat.TH
A general approach to posterior contraction in nonparametric inverse problems
本文提出了一种推导非参数反问题后验分布收缩率上界的一般方法。我们提出了一个一般定理,使我们能够从估计变换的感兴趣的参数的相关直接问题的收缩率导出感兴趣的参数的收缩率。这种方法的一个有趣的方面是,它允许我们推导出与算子的奇异值分解无关的先验的收缩率。我们应用我们的结果的线性反问题的几个例子,无论是在白噪声序列模型和非参数回归模型,使用先验的基础上的奇异值分解的运营商,位置混合先验和样条先验,并恢复极小极大自适应收缩率。
2017-01-23 math.ST stat.TH
On strong posterior contraction rates for Besov-Laplace priors in the white noise model
本文研究白噪声模型中Besov-Laplace先验的强后验收缩率,证明光滑度匹配先验在Besov空间上达到极小极大最优收缩率,并具备导数估计的插件性质,方法基于Wasserstein距离的新途径。
2024-11-11 math.ST stat.TH
Bayesian Posterior Contraction Rates for Linear Severely Ill-posed Inverse Problems
考虑一类由奇异值指数衰减到零的紧算子的逆引起的线性不适定反问题。我们采用贝叶斯方法,假设高斯先验的未知函数。如果假设观测噪声是高斯分布,则该先验与似然共轭,使得后验分布也是高斯分布。研究了小观测噪声下的贝叶斯后验一致性。我们假设前向算子与先验和噪声协方差算子相互交换。我们展示了如何,对于给定的平滑假设的真相,尺度参数的先验可以调整,以优化后验收缩率的真相,我们明确计算的对数率。
2013-12-06 math.ST stat.TH
Sub-optimality of some continuous shrinkage priors
双组分混合先验提供了一种传统的方法来诱导高维贝叶斯模型的稀疏性。然而,这样的先验的几个方面,包括在高维度的计算复杂性,在标准损失函数下的精确零和非稀疏后验摘要的解释,已经激发了惊人的各种连续收缩先验,可以表示为高斯的全局-局部尺度混合。有趣的是,我们证明了许多常用的收缩先验,包括贝叶斯套索,在高维环境中没有足够的后验浓度。
2016-05-18 math.ST stat.CO stat.TH
Rates of contraction of posterior distributions based on Gaussian process priors
我们推导了基于高斯过程的非参数或半参数模型的后验分布的收缩率。收缩率取决于真实参数相对于高斯过程的再生核希尔伯特空间和高斯过程的小球概率的位置。我们针对高斯先验的一系列示例和几种统计设置确定了这些量。例如,当先验将对数密度建模为(分数积分)布朗运动时,我们考虑基于从光滑密度模型采样的后验分布的收缩率。我们还考虑了高斯误差的回归和与各种先验相结合的logistic或probit链接函数下的平滑分类。
2008-06-18 math.ST stat.TH
Fixed-domain Posterior Contraction Rates for Spatial Gaussian Process Model with Nugget
空间高斯过程回归模型通常包含需要从数据估计的有限维协方差参数。研究了一类固定域渐近下平稳协方差函数中包含块金参数的协方差参数的贝叶斯估计,由于空间观测值之间的依赖性越来越强,这在理论上具有挑战性.我们提出了一种新的适应施瓦茨的一致性定理显示后收缩率的协方差参数,包括块金。我们得到了一个新的多项式证据下界,并提出了一致的高阶二次变差估计,满足浓度不等式指数小尾巴。我们的贝叶斯固定域渐近理论导致显式后验收缩率的微遍历和块金参数的各向同性Matern协方差函数下的一般分层抽样设计。我们验证了我们的理论和贝叶斯预测性能的模拟研究和应用到海表温度数据。
2023-02-21 math.ST stat.TH
Rates of contraction for posterior distributions in $\bolds{L^r}$-metrics, $\bolds{1\le r\le\infty}$
非参数贝叶斯估计的频率主义行为,更具体地说,收缩率的后验分布收缩$L^r$ -范数邻域,$1\le r\le\infty$,未知参数,进行了研究。在一般近似理论假设下,证明了非参数密度估计的一个定理。结果被应用到各种常见的例子,包括高斯过程,小波级数,正常的混合和直方图先验。对于$1\le r\le2$,收缩率是最小最大最优的,但随着$r$增加到超过2,收缩率恶化。在高斯非参数回归的情况下,高斯先验被设计成使得后验在所有$L^r$ -范数$1\le r\le\infty$中以最优速率收缩。
2012-03-09 math.ST stat.TH
Nonparametric Bayesian posterior contraction rates for scalar diffusions with high-frequency data
我们考虑了具有离散数据$(X_{jΔ_n})_{0\leq j \leq n}$、$n\to \infty,~Δ_n\to 0$和周期系数的标量扩散模型$dX_t=b(X_t)dt+σ(X_t)dW_t$中的推断。对于$σ$给定的,我们证明了一个一般定理详细的条件下,贝叶斯后验将合同在$L^2$ -距离周围的真实漂移函数$b_0$在频率最小最大率(对数因子)Besov光滑类。我们表现出自然的非参数先验满足我们的条件。我们的研究结果表明,贝叶斯方法适应未知的采样制度和未知的平滑度。
2018-08-23 math.ST stat.TH
Asymptotic behaviour of the empirical Bayes posteriors associated to maximum marginal likelihood estimator
我们考虑一般情况下边际最大似然经验贝叶斯后验分布的渐近行为。首先,我们描述了最大边际似然估计位于高概率的集合。然后给出了经验贝叶斯后验压缩率的预言型上界和下界。我们还表明,分层贝叶斯后验达到相同的收缩率的最大边际似然经验贝叶斯后验。我们证明了我们的一般结果的适用性,为各种模型和先验分布推导相应的经验和分层贝叶斯后验分布的收缩率的上限和下界。
2016-04-04 math.ST stat.TH
Posterior Contraction Rates for Gaussian Cox Processes with Non-identically Distributed Data
本文研究了非齐次泊松过程的非参数贝叶斯推断的后验收缩。我们考虑的质量推断率函数$λ$,给定非同分布的实现,其速率是$λ$的变换。在实践中经常出现这种数据,例如,这是因为在资源有限的情况下进行观测的挑战,或者天气对事件的可探测性的影响。我们推导出收缩率的后验估计所产生的Sigmoidal高斯Cox过程和二次高斯Cox过程模型。这些是流行的模型,其中$λ$分别被建模为高斯过程的逻辑变换和二次变换。我们的工作在几个方面超越了现有的分析。首先,我们考虑非同分布的数据,以前未研究的泊松过程设置。其次,我们考虑了二次高斯Cox过程模型,以前很少有理论上的理解。第三,我们提供了真实$λ$周围球宽度的收缩率,其中后部肿块集中,以及这些球外部后部肿块的收缩率-通常只明确给出前者。最后,我们的结果保持一定的有限数量的观察,而不仅仅是渐近的,我们与特定的选择超参数/这些结果之前。
2019-06-25 math.ST stat.TH
Adaptive posterior contraction rates for the horseshoe
本文研究了稀疏多元正态均值模型中基于马蹄先验的贝叶斯估计过程的频率论性质。以前的理论结果假设稀疏水平,即信号的数量,是已知的。我们放弃这一假设,并描述了马蹄铁先验的一个关键参数的最大边际似然估计(MMLE)的行为。我们证明了MMLE是一个有效的估计的稀疏水平,在这个意义上说,它导致(近)极小极大最优估计的基本均值向量生成的数据。除了这个经验贝叶斯过程中,我们考虑分层贝叶斯方法,把先验的未知稀疏水平以及。我们表明,这两种贝叶斯技术导致率自适应最优后验收缩,这意味着马蹄后验是一个很好的候选人生成率自适应可信集。
2017-02-13 math.ST stat.TH
Adaptive Supremum Norm Posterior Contraction: Wavelet Spike-and-Slab and Anisotropic Besov Spaces
在统计学中,上确界范数损失对函数估计误差的量化更有直观意义。在误差未知的多元非参数回归的背景下,我们提出了一个贝叶斯过程的基础上的尖峰和板条先验和小波投影估计的回归函数和所有的混合偏导数。我们证明了它们的后验分布在上模损失下最优地自适应地收缩到真值。在贝叶斯非参数化理论中,通过指数误差检验的主定理不足以处理这个问题,我们提出了一种新的思想,将回归模型下的后验系统地简化为由准白噪声模型产生的后验,后者大大简化了我们的速率计算。因此,本文采取的第一步,明确显示如何可以将结果从白噪声回归模型在贝叶斯设置。
2018-06-27 math.ST stat.TH
Posterior contraction under misspecification and heteroscedasticity in non-linear inverse problems
University of Cambridge(剑桥大学);Heidelberg University(海德堡大学)
本文研究了非线性反问题中异方差非参数回归问题,通过构建代理误差方差的对数似然模型,证明了后验分布的收缩性,适用于偏微分方程约束的反问题,并考虑了规格不正确和线性化模型的影响。
2026-03-30 math.ST stat.TH
On posterior distribution of Bayesian wavelet thresholding
我们调查后收敛速率小波收缩使用贝叶斯方法在一般Besov空间。而不是研究与特定损失函数相关的贝叶斯估计,我们专注于后验分布本身从非参数贝叶斯渐近的角度来看,并研究其收敛速率。我们得到相同的速度在\citet{abramovich04},其中作者研究了几个贝叶斯估计的收敛性。
2007-09-21 math.ST stat.TH
On the contraction properties of some high-dimensional quasi-posterior distributions
本文研究了当样本量$n$和参数维数$d$增加时,由拟似然函数和稀疏诱导先验分布在$\rset^d$上组合得到的拟后验分布$\checkΠ_{n,d}$的收缩性质.我们得出一些一般性的结果,突出了一组充分条件下,$\checkΠ_{n,d}$把越来越高的概率稀疏子集的$\rset^d$,并合同对真实值的参数。我们将这些结果应用于高维环境中的逻辑回归模型和二元图形模型的分析。对于逻辑回归模型,我们表明,对于表现良好的设计矩阵,后验分布的合同率$O(\sqrt{s_\star\log(d)/n})$,其中$s_\star$是非零组件的参数。对于二进制图形模型,在一定的规律性条件下,我们表明,准后验模拟的邻域选择\cite{meinshausen06}合同在Frobenius范数的速度$O(\sqrt{(p+S)\log(p)/n})$,其中$p$是节点的数量,和$S$的边缘的数量的真实的图形。
2016-11-19 math.ST stat.TH
Bayesian methods in the Shape Invariant Model (II): Identifiability and posterior contraction rates on functional spaces
在本文中,我们考虑所谓的形状不变模型,它代表的估计的函数f 0提交的一个随机平移的法律g 0的白噪声模型。我们感兴趣的是这样一个模型时的变形规律是未知的。我们的目标是恢复过程P(f0,g 0)以及f0和g 0的规律。我们首先提供了一些可识别性的结果,然后采用贝叶斯的观点。在这种观点下,我们找到f和g的某种先验,使得当n趋于无穷大时,后验分布集中在函数f0和g 0周围,从而得到log(n)^(-1)的a次幂的收缩率。我们还得到了一个下界的模型估计的f0和g 0的频率论范式,也减少以下的权力log(n)^(-1)。
2013-03-12 math.ST stat.TH
Bayesian methods in the Shape Invariant Model (I): Posterior contraction rates on probability measures
在本文中,我们考虑所谓的形状不变模型,它代表的估计的函数f 0提交的一个随机平移的法律g 0的白噪声模型。我们感兴趣的是这样一个模型时的变形规律是未知的。我们的目标是恢复过程P(f0,g0)的定律。从这个角度来看,我们采用贝叶斯的观点,并找到f和g的先验,使得当n趋于无穷大时,后验分布以多项式速率集中在P(f0,g0)附近。我们密集地使用一些贝叶斯非参数工具,再加上混合模型,并相信我们的一些结果在这个混合框架上获得的频率论的观点也可能是感兴趣的。
2013-03-12 math.ST stat.TH
Posterior contraction of the population polytope in finite admixture models
University of Michigan(密歇根大学)
我们研究了混合模型中随着数据量的增加而出现的潜在种群结构的后验收缩行为。我们采用混合模型的几何视图-或者称为主题模型-作为从(凸)人口多面体内部随机采样的点的数据生成机制,其极值点对应于感兴趣的人口结构变量。后验收缩率建立关于Hausdorff度量和最小匹配欧氏度量定义在多面体上。开发的工具包括分层模型的后验渐近性和凸几何的参数。
2015-04-15 cs.LG math.ST stat.TH
Eigenstructure inference for high-dimensional covariance with generalized shrinkage inverse-Wishart prior
本文提出广义收缩逆Wishart先验用于高维协方差估计,在尖峰假设下推导后验渐近性质,模拟显示对尖峰特征值估计更准确,区间更窄、覆盖率更高。
2025-10-23 math.ST stat.ME stat.TH
Posterior contraction for empirical Bayesian approach to inverse problems under non-diagonal assumption
研究了一类具有高斯先验和高斯噪声的线性反问题的经验贝叶斯非参数方法。考虑一类高斯先验概率测度的协方差算子由一个量化正则性的超参数索引。通过引入两个辅助问题,构造了一种经验贝叶斯方法,并证明了该方法可以自动选择超参数。此外,我们还表明,在不了解规律性指数的情况下,这种自适应贝叶斯过程可以提供最佳收缩率,直至缓慢变化的项和任意小的常数。该方法不需要先验协方差,噪声协方差和前向算子在奇异值分解中有共同的基,与已有结果相比,扩大了应用范围。
2020-08-25 math.ST stat.TH
Oracle posterior contraction rates under hierarchical priors
我们提供了一个一般的贝叶斯理论框架,以获得后验收缩率下的分层先验设计:第一步先验用于评估模型选择的不确定性,第二步先验量化的先验信念的强度的信号内选择的模型从第一步。特别是,我们建立了非渐近预言后验收缩率下(i)的对数似然比的统计实验的局部高斯条件,(ii)的局部熵条件的维数的模型,和(iii)的第二步附近的最佳逼近信号的充分质量条件。第一步先验可以一般地设计。后验分布具有高斯尾行为,因此所得后验均值也满足预言不等式,自动充当频率论意义上的自适应点估计器。在这些预言率中允许模型错误指定。局部高斯性条件作为实验的非渐近高斯量化的统一尝试,并且可以在[GvdV 07 a]及以后考虑的各种实验中容易地验证。一般的结果被应用在各种问题,包括:(i)跟踪回归,(ii)形状限制保序/凸回归,(iii)高维部分线性回归,(iv)协方差阵估计的稀疏因子模型,(v)非光滑多面体图像边界的检测,和(vi)强度估计的泊松点过程模型。这些新的结果既可以作为理论上的理由,在文献中的实际先前的建议,或作为一个复杂的实验的(近)极大极小自适应估计的一般建设计划的说明。
2021-02-10 math.ST stat.TH
Posterior Contraction and Testing for Multivariate Isotonic Regression
本文考虑了具有多个预测变量和一个可加误差的非参数回归问题,其中假设回归函数是坐标非减的。提出了一种贝叶斯方法对多元单调回归函数进行推断,得到了后验收缩率,并构造了一个多元单调性的普遍一致贝叶斯检验方法.为了便于后验分析,我们暂时搁置形状的限制,并赋予一个前块常数回归函数的高度独立正态分布。误差项的未知方差由边缘最大似然估计估计或配备有逆伽马先验。然后,不受限制的块高度是后验也独立正态分布的误差方差,共轭。为了符合形状的限制,我们将样本从不受限制的后验投影到多元单调函数类上,从而产生“投影-后验分布“,用于进行推断。在一个$\mathbb{L}_1$ -度量下,我们证明了基于$n$独立样本的投影后验以最优速率$n^{-1/(2+d)}$收缩在真实单调回归函数附近.然后,我们构造了一个贝叶斯检验的多元单调性的基础上的后验概率的收缩邻域的类多元单调函数。我们表明,测试是普遍一致的,也就是说,贝叶斯检验的水平为零,在任何固定的替代品的权力去一。此外,我们表明,对于一个光滑的替代功能,电源去1,只要它的距离类的多元单调函数至少是一个光滑函数的估计误差的顺序。
2022-11-22 math.ST stat.TH
Posterior contraction rates in a sparse non-linear mixed-effects model
本文研究高维稀疏非线性混合效应模型的贝叶斯后验收缩性质,采用spike-and-Laplace先验和Inverse-Wishart先验,推导出协方差参数、预测项及稀疏回归向量的后验收缩速率。
2025-09-22 math.ST stat.TH
Supremum Norm Posterior Contraction and Credible Sets for Nonparametric Multivariate Regression
在误差方差未知的非参数多元回归中,研究了估计回归函数f及其混合偏导数的贝叶斯方法的渐近性质.我们使用一个随机系列的张量积的B-样条与正规基系数作为先验的f,和误差方差估计使用经验贝叶斯方法或被赋予一个合适的先验的分层贝叶斯方法。我们建立了f及其混合偏导数的点态、L2和上确界范数后验压缩率,并证明了它们与极大极小压缩率相一致。我们的结果甚至覆盖了各向异性的情况,其中真正的回归函数在不同方向上可能具有不同的光滑度。利用收敛界,我们证明了f及其混合偏导数的点态、L2和上确界范数可信集具有最优的频率覆盖。同时,在B样条的张量积方面也得到了一些新的结果。
2015-09-24 math.ST stat.TH
Local shrinkage rules, Levy processes, and regularized regression
我们使用Levy过程来生成联合先验分布,因此罚函数,为一个位置参数,随着p变大。这概括了类的局部-全局收缩规则的基础上规模混合的法线,照亮不同的方法之间的新的连接,并导致新的结果计算后的手段和模式下广泛的类先验。我们将这个框架扩展到大规模的正则化回归问题,其中p>n,并提供与其他方法的比较。
2011-04-23 math.ST stat.ME stat.TH
Two-Step Mixed-Type Multivariate Bayesian Sparse Variable Selection with Shrinkage Priors
提出一种使用收缩先验的混合类型多元回归贝叶斯框架,通过新颖的两步变量选择方法,在 $p$ 相对 $n$ 呈指数增长时实现后验收缩,并具备确定筛选性质。
2024-12-19 math.ST stat.TH
Goodness-of-fit testing for nonlinear inverse problems with random observations
University of Potsdam(波茨坦大学)
本文提出了一种非线性逆问题中随机观测的拟合性检验方法,通过后验收缩速率分析,建立了区分备择假设与原假设的能力,并应用于药代动力学中的常微分方程问题。
2026-02-09 math.ST stat.TH
Posterior contraction rates in Sobolev norms and Bayesian derivative estimation for infinite-dimensional exponential families
University of Pavia(帕维亚大学);University of Turin(都灵大学);Collegio Carlo Alberto, Turin(都灵卡洛阿尔贝托学院)
该研究针对无穷维指数族,基于Wasserstein距离的新方法,证明匹配光滑度的先验可实现Sobolev范数下的极小极大最优后验收缩率,并在三类场景中验证了该理论的有效性。
2026-10-06 math.ST stat.ML stat.TH
SPDE Methods for Nonparametric Bayesian Posterior Contraction and Laplace Approximation
Basque Center for Applied Mathematics (BCAM)(巴斯克应用数学中心)
本文通过扩展Mou等人的扩散框架,推导了非参数贝叶斯模型的后验收缩率和有限样本伯恩斯坦-冯-米塞斯结果,并在希尔伯特空间上建立了拉普拉斯近似理论。
2026-03-23 cs.LG math.ST stat.ML
Adaptive posterior contraction rates for empirical Bayesian drift estimation of a diffusion
由于高斯过程先验的共轭后验,它在估计具有连续时间观测值的随机微分方程的漂移方面具有很大的吸引力。然而,它们的性能在很大程度上取决于超参数的选择。我们采用边际最大似然估计的缩放和/或平滑参数(S)的先验,并显示相应的后验具有最佳的收敛速度。一般定理并不直接适用于这个模型,因为通常的检验函数是关于随机的Hellinger型度量的。我们允许连续和离散,一维和二维的超参数集,其中优化的二维集的平滑度和缩放超参数被证明是有益的自适应范围。
2020-02-03 math.ST stat.ME stat.TH
Bayesian Fusion Estimation via t-Shrinkage
收缩先验在许多数据分析中取得了很大的成功,但其应用主要集中在稀疏参数的贝叶斯建模。在这项工作中,我们将贝叶斯收缩模型的高维参数,拥有一个未知的块结构。我们建议在此之前进行重尾收缩,例如,$t$先验,并且这样的融合先验将使连续的差异朝向零收缩,因此引起后阻滞。与传统的基于Laplace融合先验的贝叶斯融合套索算法相比,$t$融合先验具有更强的收缩效应和良好的后验一致性。仿真研究和实际数据分析表明,$t$融合具有优于频率论融合估计和贝叶斯拉普拉斯融合先验的性能。将这种$t$融合策略进一步发展,进行贝叶斯聚类分析,仿真结果表明,该算法比经典Dirichlet过程建模具有更好的后验分布收敛性。
2018-12-27 stat.ME
Bayesian fractional posteriors
我们考虑的分数后验分布,通过更新先验分布通过贝叶斯定理与分数似然函数,一个常见的似然函数提高到一个分数的权力。首先,我们分析了一般误指定框架下分数后验的收缩性质。我们的压缩结果只需要在真参数的Kullback-Leibler(KL)邻域上的先验质量条件(或在错误指定的情况下的KL散度极小化),以及在文献中分析正则后验压缩性质时常用的检验函数和筛子的构造.我们通过一个反例表明,控制参数空间的复杂性的一些条件是必要的定期后收缩,呈现额外的灵活性上的分数后验先验的选择。其次,我们在错误指定模型中,基于PAC-Bayes不等式,得到了一个新的Bayes预言不等式。我们的推导揭示了平均贝叶斯程序的优化基于频率程序的几个优点。作为贝叶斯预言不等式的应用,我们在任意维的凸回归问题中推导出了一个尖锐的预言不等式。我们还说明了高斯过程回归和密度估计问题的理论。
2016-11-07 math.ST stat.TH
High-Dimensional Multivariate Posterior Consistency Under Global-Local Shrinkage Priors
本文研究了带有$p$回归变量和$q$响应变量的经典多元线性回归模型的稀疏贝叶斯估计。在单响应$y$的单变量贝叶斯线性回归中,收缩先验可以表示为正态密度的尺度混合,用于获得系数的稀疏估计。在本文中,我们扩展使用这些先验的多变量的情况下,估计一个$p \times q$系数矩阵$\mathbf{B}$。我们推导出贝叶斯多元线性回归框架下的后验一致性的充分条件,并证明我们的方法实现后验一致性,即使当$p>n$,甚至当$p$增长与样本量的近指数率。我们推导出一个有效的吉布斯抽样算法,并提供了一个全面的R包称为MBSP的实施。最后,我们通过仿真和数据分析表明,我们的模型具有良好的有限样本性能。
2018-04-16 stat.ME
Rate-optimal posterior contraction for sparse PCA
主成分分析(PCA)可能是用于恢复数据的低秩结构的最广泛使用的统计工具之一。在高维情况下,样本协方差的前导特征向量可以近似正交于真实特征向量。然后,稀疏结构通常与低秩结构一起被假设。最近,在各种有趣的设置下,稀疏PCA的极大极小估计率被建立。另一方面,贝叶斯方法在高维估计中变得越来越流行,但很少有工作将频率论属性和贝叶斯方法联系起来进行高维数据分析。在本文中,我们提出了一个先验的稀疏PCA问题,并分析其理论性质。先验适应稀疏性和秩。证明了后验分布在最优极大极小化率下与真实值接近。此外,一个计算效率的策略,秩一的情况下进行了讨论。
2015-04-03 math.ST stat.TH
Power Transformations of Relative Count Data as a Shrinkage Problem
在这里,我们展示了我们最近提出的信息几何方法的组成数据分析(CoDA)的应用。本申请涉及相对计数数据,例如,从测序实验中获得。首先,我们详细回顾了各种必要的概念,从基本的计数分布和它们的信息几何描述之间的联系贝叶斯统计和收缩使用的功率变换CoDA。然后,我们表明,供电,即,等价于单纯形上的标量乘,可以理解为单纯形的切空间上的收缩问题。在信息几何术语中,传统的收缩对应于沿着混合(或m-)测地线的优化,而幂(或者,正如我们所说的,指数收缩)可以沿着指数(或e-)测地线进行优化。虽然m-测地线对应于使用共轭先验的多项式计数的后验平均值,但e-测地线对应于后验的另一种参数化,其中先验和数据贡献由几何平均值而不是算术平均值加权。为了优化指数收缩参数,我们使用均方误差作为切空间上的成本函数。这只是与真实参数的期望平方艾奇逊距离。我们推导出一个解析解的基础上的三角洲方法,并通过模拟测试它的最小值。我们还讨论了指数收缩作为替代零插补的降维和数据规范化。
2023-02-20 math.ST stat.AP stat.ME
Wasserstein posterior contraction rates in non-dominated Bayesian nonparametric models
后验收缩率(PCR)加强了贝叶斯一致性的概念,量化了后验分布集中在真实模型的任意小邻域的速度,随着样本量趋于无穷大,概率趋于1或几乎肯定。在贝叶斯非参数框架下,PCR研究中的一个常见假设是模型对观测值占主导地位;也就是说,假设后验可以通过贝叶斯公式表示。在本文中,我们考虑的问题,建立PCR的贝叶斯非参数模型的后验分布是不能通过贝叶斯公式,因此模型是非支配的观察。通过Wasserstein距离和一个合适的筛选结构,我们的主要结果建立了贝叶斯非参数模型的PCR后验是通过一个更一般的解体比贝叶斯公式。据我们所知,这是第一个通用的方法,提供非支配贝叶斯非参数模型中的PCR,它依赖于最小的建模假设和一个合适的连续性假设的后验分布。在对先验分布作了进一步假设的情况下,对所得结果进行了改进,并给出了Dirichlet过程先验和标准化扩展Gamma过程先验的应用.
2022-01-28 math.PR math.ST stat.TH
Geometric ergodicity of Gibbs samplers for the Horseshoe and its regularized variants
马蹄铁是高维贝叶斯线性回归中广泛使用的一种连续收缩先验。最近,正则化版本的马蹄事先也已在文献中介绍。在文献中已经开发了各种吉布斯采样马尔可夫链,以从相应的难处理的后验密度生成近似样本。建立这些马尔可夫链的几何遍历性为基于马尔可夫链的后验量估计的渐近标准误差的准确性提供了关键的技术依据。在本文中,我们建立了几何遍历对应于马蹄先验及其正则化变量的线性回归的背景下,各种吉布斯采样。首先,我们建立了几何遍历的吉布斯采样器的原始马蹄后严格弱于现有的分析文献中的条件下。其次,我们考虑了Piironen和Vehtari(2017)中引入的正则化马蹄先验,并证明了Gibbs采样马尔可夫链从相应的后验中采样的几何遍历性,而无需对全局和局部收缩参数进行任何截断约束。最后,我们考虑Nishimura和Suchard(2020)中引入的正则化马蹄先验的一个变体,并再次建立Gibbs采样马尔可夫链的几何遍历性,以从相应的后验中采样。
2021-01-02 math.ST stat.TH
Posterior contraction in sparse Bayesian factor models for massive covariance matrices
稀疏贝叶斯因子模型通常用于高维应用中的简约依赖建模和降维。我们提供了理论上的理解,这样的贝叶斯过程中推断高维协方差阵的维数可以大于样本量的后验收敛速度。在真实协方差阵的相关稀疏性假设下,我们证明了常用的点质量混合先验的因子载荷导致一致的估计算子范数,即使当$p\gg n$。我们的主要贡献之一是开发了一类新的连续收缩先验,并提供了对稀疏向量周围浓度的见解。使用这样的先验的因子载荷,我们得到类似的收敛速率获得点质量混合先验。为了获得收敛速度,我们构造检验函数,使用随机矩阵理论的见解分离高维协方差阵空间中的点;开发的工具可能是独立的兴趣。我们还推导出极大极小率,并表明贝叶斯后验收敛率与极大极小率一致,直到$\sqrt{\log n}$项。
2014-06-02 math.ST stat.TH