On frequentist coverage of Bayesian credible sets for estimation of the mean under constraints
研究了信号加噪声模型中一类噪声分布下$(1-α)$ -最高后验密度可信集的频率覆盖问题。我们考虑一类特殊的钉板先验分布。不同的制度被确定,我们推导出封闭形式的表达式为$(1-α)$ -HPD对这些制度。与Marchand和Strawderman的早期工作类似,在适当的条件下,频率论覆盖可以下降到$1-3α/2.$
2020-03-09 math.ST stat.TH
On frequentist coverage errors of Bayesian credible sets in moderately high dimensions
本文研究了具有(中等)高维回归变量的近似线性回归模型的贝叶斯可信集的频率覆盖误差,其中回归变量的维数可以随样本量而增加,但小于样本量.具体地说,我们考虑了准似然下的斜率向量与高斯误差分布的准贝叶斯推断。在这种设置下,我们推导出贝叶斯可信矩形的频率覆盖误差的有限样本界。这些界限的推导建立在一个新的Berry-Esseen型准后验分布和最近的结果高维CLT超矩形上的界限。我们使用这个一般的结果来量化覆盖误差的卡斯蒂略-尼克和$L^{\infty}$ -可信带高斯白噪声模型,线性逆问题,(可能是非高斯)非参数回归模型。特别是,我们表明,这些非参数模型的贝叶斯可信带的覆盖误差多项式衰减快的样本量,这意味着优势的贝叶斯可信带的置信带的基础上极值理论。
2019-06-27 math.ST stat.TH
On Bayesian credible sets in restricted parameter space problems and lower bounds for frequentist coverage
为了在Marchand和Strawderman(2006)的框架下估计下界参数函数,我们通过统一的方法给出了一类置信度为$1-α$且频率覆盖概率为$\frac{1-α}{1+α}$的贝叶斯置信区间.在潜在的枢轴分布是对称的情况下,调查结果表示扩展相对于通过选择{ \it消费函数}实现的可信集的规格,并包括Marchand和Strawderman的HPD程序的结果。对于非对称的情况下,这样一类贝叶斯可信集的确定填补了文献中的空白,包括HPD过程的“等尾”修改。几个例子展示了广泛的适用性。
2012-12-19 math.ST stat.TH
Frequentist coverage of adaptive nonparametric Bayesian credible sets
本文研究了非参数环境下贝叶斯可信集的频率覆盖问题。我们考虑一个尺度的先验的变化规律性和选择的规则性的经验贝叶斯方法。接下来,我们考虑一个中心集的规定后验概率的后验分布所选择的规律。我们表明,这样一个自适应贝叶斯可信集给出了正确的不确定性量化的“抛光尾”参数,在这个意义上的高概率覆盖这些参数。在消极的一面,我们通过理论和例子表明,适应的前必然导致毛和偶然的不确定性量化的一些真正的参数,仍然在超矩形的规律性尺度。
2015-09-04 math.ST stat.TH
Empirical priors and coverage of posterior credible sets in a sparse normal mean model
贝叶斯方法为不确定性量化提供了一种自然的手段,即可信集可以很容易地从后验分布中获得。但是,在后验可信集达到名义频率覆盖概率的意义上,这种不确定性量化是有效的吗?研究了稀疏正态均值模型中基于一类经验先验的后验不确定性量化的频率论有效性。特别是,我们证明了我们的边际后验可信区间实现标称频率覆盖概率的条件下略弱于所需的选择一致性和伯恩斯坦-冯米塞斯定理的完整后验,和数值研究表明,我们的经验贝叶斯方法具有优越的频率覆盖概率属性相比,其他完全贝叶斯方法。
2019-08-08 math.ST stat.TH
On the frequentist coverage of Bayesian credible intervals for lower bounded means
为了估计对称对数凹密度的下界位置或平均参数,我们研究了与先验相关的$100(1-α)%$贝叶斯HPD可信集的频率论性能,先验是平坦先验在受限参数空间上的截断.获得了各种新的性质。也就是说,我们精确地确定了获得最小覆盖的位置,并且我们表明该最小覆盖在$1-\frac{3α}{2}$和$1-\frac{3α}{2}+\frac{α^2}{1+α}$之间有界;其中下界$1-\frac{3α}{2}$在先前建立的([9]; [8])下界$\frac{1-α}{1+α}$上改进(对于$α\leq 1/3$)。给出了几个说明性的例子。
2008-11-13 math.ST stat.TH
The relation between frequentist confidence intervals and Bayesian credible intervals
我们调查频率和贝叶斯方法之间的关系。也就是说,我们找到了“频率论”的Bayes先验π_{f}(λ,x_{obs})= - \frac{\int_{-\infty}^{x_{obs}}\frac{\partial f(x,λ)}{\partial λ}dx}{f(x_{obs},λ)}(f(x,λ)是概率密度),在这个先验下,频率论和Bayes方法确定置信区间的结果是一致的。在许多情况下(但并不总是),再现频率论结果的“频率论”先验与杰弗里斯先验一致。
2012-11-14 math.ST physics.data-an stat.ME
Frequentist Coverage of Bayes Posteriors in Nonlinear Inverse Problems with Gaussian Priors
Duke University(杜克大学);University of Pisa(比萨大学)
研究高斯先验下非线性反问题中贝叶斯后验可信区间频率覆盖和近似高斯性质,证明在参数光滑性和似然与先验兼容条件下,可信区间具有保守覆盖,无论BvM定理是否成立。
2026-04-23 math.ST stat.TH
Asymptotic uncertainty quantification for communities in sparse planted bi-section models
在稀疏种植的两段模型中,群落结构的后验分布达到精确(分别为)。几乎精确的)恢复,其中边缘概率随着$O(\log(n)/n)$(分别为$O(1/n)$)。假设后验恢复,人们可以解释可信集(分别为)。扩大的可信集)作为渐近一致的置信集;这些可信集的直径由后验集中率控制。如果选择的可信水平足够快地增长到一个,相应的可信集可以被解释为频率置信集没有条件的后验浓度。在具有$O(1/n)$边缘稀疏性的机制中,或者当社区内和社区间边缘概率非常接近时,可信集可以被扩大以实现频率论渐近覆盖,也没有后验集中的条件。
2023-03-02 math.ST stat.TH
Defining a credible interval is not always possible with "point-null'' priors: A lesser-known correlate of the Jeffreys-Lindley paradox
研究指出,在嵌套模型之一为“点零”时,基于模型平均后验的 Bayes 可信区间可能显著偏离频率派置信区间,甚至无法定义,揭示了 Jeffreys-Lindley 悖论的重要关联。
2023-04-21 math.ST stat.TH
On the frequentist validity of Bayesian limits
对于计算后验的频率论者来说,并不是所有的先验都是有用的:在本文中,施瓦茨1965年的Kullback-Leibler条件被推广到使频率论者能够解释后验分布与复杂模型的收敛性,并且在当今的统计应用中经常依赖于数据集。我们证明了四个简单的和完全一般的频率论定理,后验一致性;后验收敛速度;在假设检验或模型选择的贝叶斯因子的一致性;和一个定理,以获得置信集的可信集。后者在频率论不确定性量化中具有重要的方法学后果:使用合适的先验知识可以将计算、模拟或近似后验的可信集合转换为渐近一致的置信集合。这将Bernstein-von Mises定理的主要推论延伸到没有光滑条件的非参数模型。证明需要存在贝叶斯类型的测试序列和先验,从而产生局部先验预测分布,该分布满足关于数据分布的弱化形式的Le~Cam邻接性。结果适用于广泛的例子和反例。
2017-11-27 math.ST stat.TH
Adaptive empirical Bayesian smoothing splines
在本文中,我们开发和研究自适应经验贝叶斯光滑样条。这些都是平滑样条函数,平滑参数和惩罚顺序都是通过经验贝叶斯方法从模型的边际似然确定的。选择的阶数和平滑参数用于构造具有良好频率覆盖的底层回归函数的自适应可信集。我们使用这些可信的集合作为代理,以显示自适应经验贝叶斯平滑样条相比,频率平滑样条的优越性能。
2015-11-17 math.ST stat.TH
Frequentist coverage and sup-norm convergence rate in Gaussian process regression
高斯过程(GP)回归是一种强大的插值技术,因为它在捕获非线性方面具有灵活性。在本文中,我们提供了一个一般的框架,了解点式和同时贝叶斯可信集GP回归的频率覆盖。作为中间结果,我们在随机设计GP回归中得到了上确界范数下的Bernstein von-Mises型结果。将高斯过程的后验分布的均值协方差函数确定为正则化的$M$ -估计,证明了后验均值函数的抽样分布和中心后验分布可以分别用两个总体水平的GP来近似.通过建立两个GP之间的比较不等式,给出了回归函数的贝叶斯逐点可信区间和同时可信带的频率覆盖概率的精确刻画.我们的研究结果表明,基于GP回归的推断往往是保守的,当先验是欠平滑的,由此产生的可信区间和波段具有最小最大最优的大小,其频率覆盖收敛到一个非退化值之间的标称水平和一个。作为我们理论的一个副产品,我们证明了GP回归也产生了相对于上确界范数的最小最大最优后验收缩率,这为GP回归中的最优上确界范数收缩率的长期存在的问题提供了积极的证据。
2017-08-16 math.ST stat.CO stat.ML
Nonparametric Bayesian analysis of the compound Poisson prior for support boundary recovery
给出了具有强度$(x,y) \mapsto n \mathbf{1}(f(x)\leq y),$频率论性质的Poisson点过程的数据,导出了支持边界函数$f$的贝叶斯重构.本文主要研究了具有固定强度的复合泊松过程先验,证明了后验概率在单调和分段常数支持边界下具有接近最优的收缩率,并适用于光滑指数至多为1的Hölder光滑边界.然后我们得到了一个非标准的Bernstein-vonMises结果的复合泊松过程前和函数空间与增加的参数维。作为一个中间结果的限制形状的随机直方图型先验的后验。在这两种设置中,它表明,边缘后的功能$\vartheta =\int f$执行自动偏差校正和合同比MLE更快的速度。在这种情况下,$(1-α)$ -可信集也是渐近$(1-α)$ -置信区间。作为一个负面的结果,它表明,频率覆盖的可信集丢失的线性函数,表明可信集只具有频率覆盖的先验知识,专门构建匹配的属性的基础真函数。
2018-09-11 math.ST stat.TH
Confidence sets in a sparse stochastic block model with two communities of unknown sizes
在具有两个大小不等的社区的稀疏随机块模型中,我们得到了两个后验浓度不等式,这意味着(1)在稀疏边界下的社区结构的后验(几乎)精确恢复,这与种植二节模型中众所周知的尖锐边界相当;(2)从可信集构造社区分配的置信集,具有有限的图大小。后者使精确的频率不确定量化与贝叶斯可信集在非渐近图的大小,后验可以很好地模拟。可信度和置信水平之间不成比例:对于给定的边缘概率和期望的置信水平,存在一个临界图大小,其中所需的可信水平从接近1急剧下降到接近0。在这样的图的大小,频率论者决定不包括大多数的后验支持来构建他的置信集,而只包括一小部分包含最高量的后验概率的社区分配(如最大后验估计)。有人认为,对于建议的置信集的建设,一种形式的早期停止适用于MCMC采样的后验,这将使置信集的计算在更大的图形大小。
2021-08-16 math.ST stat.TH
Non-parametric finite-sample credible intervals with one-dimensional priors: a middle ground between Bayesian and frequentist intervals
本文提出一种非参数有限样本可信区间构造方法,结合贝叶斯与频率学方法,通过一维先验实现统计区间的中间方法,展示其在两个不同问题中的应用及优势。
2026-05-08 physics.data-an stat.ME
Bayesian Multiscale Analysis of the Cox Model
针对贝叶斯Cox比例风险模型大样本性质不明的问题,研究构建了非共轭先验下的后验分布统一理论,推导了收缩率、渐近正态性及泛函极限结果,证明了生存函数可信带的最优频率覆盖性质,模拟验证了其有限样本表现。
2023-06-14 math.ST stat.TH
Uncertainty quantification for the horseshoe
研究了稀疏多元正态均值模型中马蹄先验的可信集和边际可信区间。我们这样做,在自适应设置,而不假设知识的稀疏水平(信号的数量)。我们考虑的分层贝叶斯方法,把一个先验的未知的稀疏水平和经验贝叶斯方法的最大边际似然估计的稀疏水平。我们表明,可信球和边际可信区间有良好的频率覆盖和最佳的大小,如果稀疏水平的先验知识是正确的。根据一般理论,诚实置信集的大小不能适应未知的稀疏水平。因此,基于马蹄先验的层次和经验贝叶斯可信集在整个参数空间上是不诚实的。我们表明,这是由于过度收缩某些参数和可靠的球和边际可信区间确实给正确的不确定性量化的参数集。特别是,我们证明了边缘贝叶斯过程的错误发现的分数是由一个正确的选择截止控制。
2017-02-13 math.ST stat.TH
Pointwise uncertainty quantification for sparse variational Gaussian process regression with a Brownian motion prior
本文针对采用特征向量诱导变量和重标度布朗运动先验的稀疏变分高斯过程,建立了逐点可信集频率学派覆盖率的理论保证,并精确刻画其渐近行为,揭示该方法何时保守或过度自信。
2023-10-31 math.ST stat.ML stat.TH
Valid Credible Ellipsoids for Linear Functionals by a Renormalized Bernstein-von Mises Theorem
本文针对无限维高斯回归模型,提出重整化 Bernstein-von Mises 定理,证明后验可信椭球为渐近置信集,并验证于 Darcy 与 Schrödinger 问题。
2024-11-10 math.ST stat.TH
Can we trust Bayesian uncertainty quantification from Gaussian process priors with squared exponential covariance kernel?
研究了具有平方指数协方差核的高斯过程先验的可信集的频率覆盖性质。首先,我们表明,通过选择缩放超参数使用最大边际似然估计(略有修改)平方指数协方差内核的相应的可信集将提供过度自信,误导性的不确定性声明的一个大的,有代表性的子类的功能参数的背景下的高斯白噪声模型。然后我们证明了,无论是用对数因子爆破可信集,还是用对数项修正极大边际似然估计,在一定的附加约束下,都可以得到可靠的不确定性陈述和可信集的自适应大小。最后,我们证明了一个数值研究,推导出的负面和正面的结果超出了高斯白噪声模型的非参数回归和分类模型的小样本量以及。
2019-04-02 math.ST stat.TH
Supremum Norm Posterior Contraction and Credible Sets for Nonparametric Multivariate Regression
在误差方差未知的非参数多元回归中,研究了估计回归函数f及其混合偏导数的贝叶斯方法的渐近性质.我们使用一个随机系列的张量积的B-样条与正规基系数作为先验的f,和误差方差估计使用经验贝叶斯方法或被赋予一个合适的先验的分层贝叶斯方法。我们建立了f及其混合偏导数的点态、L2和上确界范数后验压缩率,并证明了它们与极大极小压缩率相一致。我们的结果甚至覆盖了各向异性的情况,其中真正的回归函数在不同方向上可能具有不同的光滑度。利用收敛界,我们证明了f及其混合偏导数的点态、L2和上确界范数可信集具有最优的频率覆盖。同时,在B样条的张量积方面也得到了一些新的结果。
2015-09-24 math.ST stat.TH
Bayesian semi-parametric estimation of the long-memory parameter under FEXP-priors
对于具有长记忆行为的高斯时间序列,我们使用FEXP模型对长记忆参数$d$进行半参数估计。假设真实谱密度$f_o$具有长记忆参数$d_o$和Sobolev正则性$\be > 1$的FEXP展开。我们证明了当$k$遵循泊松或几何先验,或筛前增加率$n^{\frac{1}{1+2\be}}$,$d$收敛到$d_o$在一个次优的速度。然而,当筛先验以速率$n^{\frac{1}{2\be}}$增加时,几乎获得极小极大速率。我们的结果可以看作是一个贝叶斯等价的结果Moulines和Soulier获得的一些频率估计。
2012-02-22 math.ST stat.TH
Bayesian inverse problems with non-conjugate priors
本文研究了线性反问题中非参数贝叶斯过程在轻度不适定和严重不适定情形下的频率后验收缩率。在一般的希尔伯特空间中,在先验近似理论的假设下,证明了一个定理.结果适用于非共轭先验,特别是筛和小波级数先验,以及在共轭设置。在轻度不适定的设置极大极小最优率得到,与筛先验率自适应Sobolev类。在严重不适定的情况下,过度平滑先验会产生极大极小化率。使用该方法获得了先前在共轭设置中建立的结果。应用的例子包括反卷积,恢复热方程和Radon变换中的初始条件。
2015-01-22 math.ST stat.TH
Uncertainty quantification for sparse spectral variational approximations in Gaussian process regression
本文分析以谱特征为诱导变量的稀疏变分高斯过程回归,给出可信集频率学派覆盖保证、局限及达到极小极大后验收缩率所需诱导变量数的充要下界,并用数值实验验证更广泛方法中的类似现象。
2023-09-28 math.ST stat.TH
Bayesian recovery of the initial condition for the heat equation
我们研究了贝叶斯方法来恢复热方程的初始条件,在以后的时间从嘈杂的意见的解决方案。我们考虑一类先验分布指数的参数量化“平滑度”,并表明,相应的后验分布合同周围的真实参数的速度,取决于真实的初始条件的平滑度和规模的前。这些特征的正确组合会导致最优的极大极小化率。一种类型的先验导致速率自适应贝叶斯过程。可信集的频率覆盖率取决于先验和真参数的组合,以及与平滑先验导致零覆盖和粗糙先验(极其)保守的结果。在后一种情况下,可信集比频率置信集大得多,因为直径比发散到无穷大。数值模拟数据的例子说明了结果。
2013-03-01 math.ST stat.TH
Coverage of Credible Intervals in Bayesian Multivariate Isotonic Regression
我们考虑非参数多元保序回归问题,其中的回归函数被假定为非递减的关于每个预测。我们的目标是构造一个贝叶斯可信区间的函数值在一个给定的内点与确保有限的频率覆盖。我们对非限制阶跃函数赋予先验,但通过从非限制函数空间到多元单调函数空间的“浸入映射”,利用诱导后验测度进行推理.这允许保持后验采样的自然共轭性。使用的自然沉浸图是通过距离的投影,但在本上下文中,发现块等化图更有用。使用诱导的“浸入后验”度量代替原始后验来进行推理的方法提供了贝叶斯范式的有用扩展,特别是当模型空间受到某些复杂关系的限制时。我们建立了一个关键的弱收敛结果的后验分布的功能在一个点上的一些功能的多指标高斯过程,导致的表达式的限制覆盖的贝叶斯可信区间。类似于最近的一个结果,单变量单调函数,我们发现,限制覆盖率略高于可信度,在光滑问题中观察到的现象相反。有趣的是,可信度和限制覆盖率之间的关系不涉及任何未知参数。因此,通过重新校准过程,我们可以通过选择一个合适的可信度水平小于的目标覆盖率,从而得到一个预定的渐近覆盖率,从而也缩短了可信区间。
2022-11-22 math.ST stat.TH
Coverage of Credible Sets for Regression under Variable Selection
该研究提出变量选择下多元线性回归的新型贝叶斯可信集方法,通过稀疏诱导映射纳入变量选择,证明特定条件下修正可信区间有精确渐近覆盖率,给出参数选择准则并提供R包实现。
2024-06-20 stat.ME
Unified Bayesian theory of sparse linear regression with nuisance parameters
研究了高维高斯稀疏回归中含有未知冗余参数时贝叶斯过程的频率论渐近性质。冗余参数可以是有限维、高维或无限维的。零点质量和连续分布的混合用于稀疏回归系数的先验分布,并将适当的先验分布用于冗余参数。稀疏回归系数的最佳后验收缩,阻碍了冗余参数的存在,也检查和讨论。结果表明,该过程产生强大的模型选择的一致性。稀疏回归系数的Bernstein-vonMises型定理也得到了不确定性量化通过可信集与保证频率覆盖。许多例子的渐近性质进行了研究,使用本研究中开发的理论。
2021-02-17 math.ST stat.TH
Gaussian Approximation of General Nonparametric Posterior Distributions
在一般的贝叶斯非参数模型中,我们证明了后验分布可以用高斯过程渐近逼近。我们的结果适用于包含高斯和非高斯回归的非参数指数族,也适用于有效(root-n)和无效(non-root-n)估计。我们的一般近似定理不依赖于后验共轭,并且可以在具有平滑样条解释的一类高斯过程先验中得到验证[59,44]。特别是,限制后验措施成为先验自由下的贝叶斯版本的“下平滑”条件。最后,我们应用我们的近似定理来研究贝叶斯过程的渐近频率论性质,如可信区域和可信区间。
2017-10-31 math.ST stat.TH
A comparison of Bayesian and frequentist interval estimators in regression that utilize uncertain prior information
考虑一个具有回归参数β和正态分布误差的线性回归模型。假设感兴趣的参数是theta = a^T beta,其中a是指定的向量。定义参数tau = c^T beta - t,其中c和t是指定的,并且a和c是线性无关的。还假设我们有不确定的先验信息tau = 0。Kabaila和Giri,2009年,JSPI,描述了一种新的频率论1-alpha置信区间的θ,利用这种不确定的先验信息。我们比较这个置信区间与贝叶斯1-alpha等尾和最短的可信区间θ,从先验密度τ是一个混合的矩形“板”和狄拉克δ函数“尖峰”,结合非信息先验密度的模型的其他参数。我们表明,这些频率和贝叶斯区间估计依赖于数据在非常不同的方式。我们还考虑了这种先验分布,导致贝叶斯和频率区间估计更大的相似性的一些密切的变化。尽管如此,正如我们所展示的,这些区间估计量之间仍然存在很大的差异。
2014-01-14 math.ST stat.ME stat.TH
Calibrating general posterior credible regions
基于后验分布进行推断的方法的优点是容易获得可信区域。然而,除非在明确指定的情况下,否则不能保证这些区域将实现标称频率论覆盖概率,甚至近似。为了克服这个困难,我们提出了一个一般的策略,引入了一个额外的标量调整参数来控制后验传播,我们开发了一个算法,选择这个参数,使相应的可信区域达到标称覆盖概率。
2018-04-22 stat.ME
A Theory of Bootstrap Coverage Calibration for Generalized Posterior Credible Sets
Faculty of Economics, Fukuoka University(福冈大学经济学部)
针对广义后验可信集缺乏频率覆盖渐近保证的问题,提出通过Bootstrap估计覆盖并选择标量学习率进行校准,利用Edgeworth展开分析覆盖误差来源,证明校准的一致性。
2026-06-25 math.ST stat.CO stat.ME
Bayesian inverse problems with Gaussian priors
非参数反问题中的后验分布收缩到真实参数的速率取决于参数的平滑度,以及先验的平滑度和尺度。这些特征的正确组合导致极小极大率。可信集的频率论覆盖取决于先验参数和真实参数的组合,更平滑的先验会导致零覆盖,而更粗糙的先验会导致保守覆盖。在后一种情况下,可信集合具有正确的数量级。数值结果说明的问题,恢复一个功能,从观察一个嘈杂的版本,其原始的。
2012-02-23 math.ST stat.TH
On the behavior of Bayesian credible intervals for some restricted parameter space problems
为了估计正态均值,Zhang和Woodroofe(2003)以及Roe和Woodroofe(2000)研究了100个与先验相关的HPD可信集,这些先验是将无信息先验截断到受限参数空间上获得的。也就是说,他们建立了有吸引力的下界$\frac{1-α}{1+α}$的频率覆盖概率的这些程序。在这项工作中,我们建立了$\frac{1-α}{1+α}$的下界是适用于一个基本上更一般的设置与潜在的分布对称性,并获得各种其他性质。推导是统一的,并通过选择一个正确的Haar不变先验驱动。对非对称模型进行了研究,得到了类似的结果。也就是说,(i)我们证明了下界$\frac{1-α}{1+α}$仍然适用于某些类型的不对称性(或偏度),(ii)我们扩展了Zhang和Woodroofe(2002)估计Fisher分布尺度参数的结果;这在估计单向平衡随机效应ANOVA中的方差分量比时出现。最后,各种例子说明了广泛的应用范围进行了扩展。示例包括估计位置模型和位置-尺度模型中的参数、估计尺度模型中的尺度参数、估计诸如差的位置参数的线性组合、估计尺度参数的比率以及具有非独立观测的问题。
2006-11-22 math.ST stat.TH
Posterior consistency of nonparametric conditional moment restricted models
研究了含有无穷维参数$g_0$的非参数条件矩约束模型的估计问题。我们估计它在准贝叶斯的方式,基于有限的信息似然,并调查三种类型的先验后验一致性的影响:(i)截断先验(先验支持的有界集),(ii)薄尾先验(一个先验,有非常薄的尾巴以外的增长有界集)和(iii)正常的前与非收缩方差。此外,允许$g_0$在频率论意义上仅被部分地识别,并且参数空间不需要是紧凑的。使用一个缓慢增长的筛尺寸的后验正则化,它表明,后验收敛到任何小的邻域的识别区域。然后,我们将我们的结果应用到非参数工具回归模型。最后,研究了随机筛维参数下的后验一致性问题。
2012-03-12 math.ST stat.TH
Uncertainty Quantification for nonparametric regression using Empirical Bayesian neural networks
我们提出了一种新的,两步经验贝叶斯类型的神经网络的方法。我们表明,在上下文中的非参数回归模型的程序(对数因子)提供了最佳的恢复感兴趣的基本功能参数,并提供贝叶斯可信的频率覆盖保证集。该方法只需拟合神经网络一次,因此比Bootstrapping类型的方法快得多。我们证明了我们的方法在合成数据,观察良好的估计性能和可靠的不确定性量化的适用性。
2022-04-28 math.ST stat.TH
Bayesian Simultaneous Credible Bands for Polynomial Regression
The University of Manchester(曼彻斯特大学);University of Southampton(南安普顿大学)
提出一种在有限协变量区间上构建多项式回归曲线贝叶斯同时可信带的统一框架,开发了基于模拟的临界常数确定方法,并证明其渐近等价于频率学同时置信带,在剂量反应研究中用于确定最小有效剂量。
2026-06-29 stat.ME
Adaptive Bernstein-von Mises theorems in Gaussian white noise
研究了正则高斯白噪声模型下自适应非参数贝叶斯过程的Bernstein-vonMises定理。我们考虑希尔伯特空间和多尺度设置与$L^2$和$L^\infty$分别应用。这为插件程序提供了理论上的证明,例如,使用某些可信的集合来获得足够光滑的线性泛函。我们使用这种一般的方法来构造最佳的频率置信集的基础上的后验分布。我们还提供了模拟,以数字说明我们的方法,并获得所涉及的几何图形的视觉表示。
2016-12-19 math.ST stat.TH
Optimal post-selection inference for sparse signals: a nonparametric empirical-Bayes approach
许多最近发展的贝叶斯方法集中在稀疏信号检测。然而,解决自然的后续问题所做的工作要少得多:如何对选择后这些信号的大小进行有效的推断。普通贝叶斯可信区间由于推理对象的自适应选择而存在选择偏差。现有的贝叶斯方法用于校正这种偏差产生具有差的频率论属性的可信区间,而现有的频率论方法需要牺牲贝叶斯方法中典型的收缩的益处,从而导致不必要的宽的置信区间。我们解决这个差距,提出了一个非参数的随机贝叶斯方法构建最佳选择调整的置信集。我们的方法产生的置信集是尽可能短的平均值,同时调整选择和保持精确的频率覆盖均匀的参数空间。我们的主要理论结果建立了一个重要的一致性属性,我们的程序:在温和的条件下,它渐近收敛到一个预言贝叶斯分析的结果,其中的信号大小的先验分布是已知的。在一系列的例子中,该方法优于现有的频率论技术的后选择推理,产生的置信度集,显着更短,但具有相同的覆盖率保证。
2020-11-13 stat.ME
Asymptotic properties of Bayesian inference in linear regression with a structural break
本文研究带结构突变线性回归中斜率参数的贝叶斯推断,建立Bernstein-von Mises型定理证明其与频率学派方法渐近等价,并通过模拟和股票收益预测数据表明贝叶斯可信区间在有限样本下覆盖更合理。
2022-01-18 econ.EM math.ST stat.TH
Controlling the degree of caution in statistical inference with the Bayesian and frequentist approaches as opposite extremes
在统计实践中,是否使用贝叶斯或频率论方法进行推断不仅取决于先验信息的可用性,而且还取决于对部分先验信息的态度,频率论倾向于比贝叶斯更谨慎。拟议的框架以具体的谨慎程度界定了这种态度,从而能够在所需的谨慎程度上并根据任何先前的信息进行数据分析。谨慎参数表示对部分先验信息的态度,其方式与损失函数表示对风险的态度大致相同。当先验信息非常少且非零谨慎时,所得到的推断对应于与指定贝叶斯后验的可信区间和假设概率最相似的候选置信区间和p值。另一方面,在参数的已知物理分布的存在下,推断仅基于相应的物理后验。在先验信息可忽略或完全先验信息的极端情况下,推理不依赖于谨慎程度。在这两个极端之间的部分先验信息导致中间推理,在谨慎性高的情况下,中间推理更频繁,在谨慎性低的情况下,中间推理更贝叶斯。
2011-09-24 cs.IT math.IT math.ST
Bernstein-von Mises theorems and uncertainty quantification for linear inverse problems
我们考虑从被加性高斯白噪声破坏的线性测量中恢复未知函数$f$的统计逆问题。我们采用了一个非参数贝叶斯方法与标准高斯先验,基于后验的重建$f$对应的Tikhonov正则化$\bar f$与再生核希尔伯特空间范数惩罚。我们证明了一个半参数Bernstein-von Mises定理的大量收集的线性泛函的$f$,这意味着半参数后验估计和不确定性量化是有效的,从频率论的角度来看是最佳的。将所得结果应用于研究三个具体的例子,涵盖轻度和严重不适定的情况下:具体地说,一个椭圆反问题,一个椭圆边值问题和热方程。对于椭圆型边值问题,我们也得到了一个非参数版本的定理,需要收敛的后验分布的先验独立的无限维高斯概率测度与最小的协方差。因此,它遵循的Tikhonov正则化$\bar f$是一个有效的估计$f$,我们得到频率保证某些可信的球集中在$\bar{f}$。
2020-01-17 math.ST stat.TH
Bayesian High-dimensional Semi-parametric Inference beyond sub-Gaussian Errors
在高维情形下,考虑了具有未知对称误差的稀疏线性回归模型。假设真实误差分布属于局部$β$ -Hölder类,尾部呈指数下降,不需要是亚高斯分布。我们得到的回归系数和误差密度的后验收敛速度,这是近最优的和自适应的未知稀疏水平。此外,我们推导了半参数Bernstein-von Mises(BvM)定理来描述回归系数的边缘后验的渐近形状。在真得分函数为亚高斯分布的假设下,得到了回归系数的强模型选择相合性,从而证明了频率论可信集的有效性.
2020-08-30 math.ST stat.TH
Debiased Bayesian Inference for High-dimensional Regression Models
本文提出了一种去偏贝叶斯推断方法,用于修正高维回归模型中后验分布的偏倚,确保频范有效性,并通过模拟和实证应用验证了其性能。
2025-12-10 econ.EM math.ST stat.CO
Nonparametric Bayesian Aggregation for Massive Data
我们开发了一套可扩展的贝叶斯推理程序的一般类的非参数回归模型。具体地说,非参数贝叶斯推理分别对每个子集随机分裂的海量数据集,然后获得的局部结果聚合成全球同行。这个聚合步骤是显式的,不涉及任何额外的计算成本。通过仔细的分区,我们表明,我们的聚合推理结果获得的Oracle规则的意义上说,他们是等同于那些直接从整个数据(这是计算禁止)。例如,一个聚合的可信球达到了期望的可信度水平,也频率覆盖,同时拥有相同的半径的预言球。
2019-09-04 math.ST stat.TH
On Semi-parametric Bernstein-von Mises Theorems for BART
在贝叶斯非参数统计/机器学习中,很少有方法像贝叶斯加性回归树(BART)一样受到关注。虽然BART现在经常用于预测任务,但其理论特性直到最近才开始被理解。在这项工作中,我们继续Rockova和van der Pas(2017)发起的BART理论研究。特别是,我们研究了Bernstein-von Mises(BvM)现象(即渐近正态性)的光滑线性泛函的回归表面的框架内的非参数回归固定协变量。与其他适应性先验一样,当功能性和真实性不相容时,BvM现象可能会失败。为了克服诅咒的自适应分层先验下,我们诱导自相似性假设,以确保收敛到一个单一的高斯分布,而不是高斯混合。已知对功能参数的类似定性限制对于自适应推理是必要的。许多机器学习方法缺乏连贯的概率机制来衡量不确定性。BART很容易通过后验可信集提供这种量化。BvM定理意味着可信集也是具有相同渐近覆盖的置信区域。本文给出了BART先验的第一个渐近正态性结果,从频率论的角度证明了BART是一个有效的工具。
2019-05-09 math.ST stat.TH
Adaptive Bayesian nonparametric regression using kernel mixture of polynomials with application to partial linear model
本文提出了一种贝叶斯非参数回归的核混合多项式先验。回归函数由具有核混合权重的多项式的局部平均来建模。我们得到的最小最优收缩率的充分后验分布的对数因子,适应的平滑程度的真实功能,通过估计某些功能类的度量熵。我们还提供了一个频率筛最大似然估计与接近最佳的收敛速度。我们进一步研究了多项式的核混合对部分线性模型的应用,并获得了非参数分量的近最优收缩率和Bernstein-von Mises极限(即,渐近正态性)。所提出的方法与数值例子说明,并显示优越的性能相比,本地多项式回归,DiceKriging,和强大的高斯随机过程的计算效率,精度和不确定性量化。
2018-09-13 math.ST stat.TH
Bayesian Inference on Multivariate Medians and Quantiles
本文考虑了在Dirichlet过程先验下联合分布的多元中位数和多元分位数泛函的贝叶斯推断。由于,不像单变量分位数,多元中位数和多元分位数的确切后验分布是不能明确获得的,我们研究这些分布渐近。我们得到了多元$\ell_1$ -中位数关于一般$\ell_p$ -范数的Bernstein-vonMises定理,特别是证明了它的后验概率在$n^{-1/2}$ -速率下集中在它的真值附近,并且它的可信集具有渐近正确的频率论覆盖.特别是,渐近正态性的经验多元中位数一般$\ell_p$ -范数的结果也来自过程中的证明,从文献中的情况下$p=2$的结果扩展到一般的$p$。该技术涉及近似后狄利克雷过程的贝叶斯自助过程,并推导出一个条件Donsker定理。我们还获得了类似的结果的仿射等变版本的多变量$\ell_1$ -中位数的基础上的自适应变换和再变换技术。将所得结果推广到多元分位数的联合分布。通过仿真研究证实了渐近结果的准确性。我们还使用的结果,以获得贝叶斯可信区域的多元中位数费舍尔的虹膜数据,其中包括四个功能测量的三种植物物种。
2019-09-23 math.ST stat.TH
Probability matching priors for some parameters of the bivariate normal distribution
本文给出了二元正态分布中某些参数的客观先验。考虑的参数是回归系数,广义方差,和一个变量的条件方差给定的另一个变量的边际方差的比率。使用的标准是贝叶斯可信区间的覆盖概率与相应的频率覆盖概率的渐近匹配。本文使用了各种匹配标准,即分位数匹配,匹配的分布函数,最高后验密度匹配,并匹配通过反转的检验统计量。找到一个特定的先验,它满足所有的匹配标准,分别为所有感兴趣的参数。
2008-05-21 math.ST stat.TH
Frequentist and Bayesian population pharmacometrics: similarities, differences, and practical implications
Uppsala University(乌普萨拉大学);Central South University(中南大学);University of British Columbia(不列颠哥伦比亚大学)
本文对比了药物代谢动力学中频率派与贝叶斯推断方法的理论、算法差异,经模拟与真实数据验证,旨在降低该领域应用两类方法的门槛。
2026-10-14 stat.AP stat.ME
Adaptive posterior contraction rates for the horseshoe
本文研究了稀疏多元正态均值模型中基于马蹄先验的贝叶斯估计过程的频率论性质。以前的理论结果假设稀疏水平,即信号的数量,是已知的。我们放弃这一假设,并描述了马蹄铁先验的一个关键参数的最大边际似然估计(MMLE)的行为。我们证明了MMLE是一个有效的估计的稀疏水平,在这个意义上说,它导致(近)极小极大最优估计的基本均值向量生成的数据。除了这个经验贝叶斯过程中,我们考虑分层贝叶斯方法,把先验的未知稀疏水平以及。我们表明,这两种贝叶斯技术导致率自适应最优后验收缩,这意味着马蹄后验是一个很好的候选人生成率自适应可信集。
2017-02-13 math.ST stat.TH
Quasi-Bayesian Estimation and Inference with Control Functions
针对内生离散选择模型,本文提出结合频率学派非参数控制函数估计与贝叶斯结构参数估计的准贝叶斯方法,分析其渐近性质并通过自助法获得渐近有效置信区间。
2025-05-19 econ.EM stat.ME
Hyperparameter Selection via Early Stopping for Bayesian Semilinear PDEs
Institut de Mathématiques de Toulouse, Université de Toulouse, INSA(图卢兹数学研究所,图卢兹大学,法国国立应用科学学院);Institut für Mathematik, Technische Universität Ilmenau(数学研究所,埃尔朗根-纽伦堡工业大学)
本文提出一种通过早期停止选择高斯先验尺度的数据驱动方法,用于半线性偏微分方程的非线性贝叶斯逆问题,扩展了频率论保证并证明了后验收缩与可信集覆盖性质。
2026-09-09 math.ST stat.TH