On frequentist coverage errors of Bayesian credible sets in moderately high dimensions
本文研究了具有(中等)高维回归变量的近似线性回归模型的贝叶斯可信集的频率覆盖误差,其中回归变量的维数可以随样本量而增加,但小于样本量.具体地说,我们考虑了准似然下的斜率向量与高斯误差分布的准贝叶斯推断。在这种设置下,我们推导出贝叶斯可信矩形的频率覆盖误差的有限样本界。这些界限的推导建立在一个新的Berry-Esseen型准后验分布和最近的结果高维CLT超矩形上的界限。我们使用这个一般的结果来量化覆盖误差的卡斯蒂略-尼克和$L^{\infty}$ -可信带高斯白噪声模型,线性逆问题,(可能是非高斯)非参数回归模型。特别是,我们表明,这些非参数模型的贝叶斯可信带的覆盖误差多项式衰减快的样本量,这意味着优势的贝叶斯可信带的置信带的基础上极值理论。
math.STstat.TH
On Bayesian credible sets in restricted parameter space problems and lower bounds for frequentist coverage
为了在Marchand和Strawderman(2006)的框架下估计下界参数函数,我们通过统一的方法给出了一类置信度为$1-α$且频率覆盖概率为$\frac{1-α}{1+α}$的贝叶斯置信区间.在潜在的枢轴分布是对称的情况下,调查结果表示扩展相对于通过选择{ \it消费函数}实现的可信集的规格,并包括Marchand和Strawderman的HPD程序的结果。对于非对称的情况下,这样一类贝叶斯可信集的确定填补了文献中的空白,包括HPD过程的“等尾”修改。几个例子展示了广泛的适用性。
math.STstat.TH
Frequentist coverage of adaptive nonparametric Bayesian credible sets
本文研究了非参数环境下贝叶斯可信集的频率覆盖问题。我们考虑一个尺度的先验的变化规律性和选择的规则性的经验贝叶斯方法。接下来,我们考虑一个中心集的规定后验概率的后验分布所选择的规律。我们表明,这样一个自适应贝叶斯可信集给出了正确的不确定性量化的“抛光尾”参数,在这个意义上的高概率覆盖这些参数。在消极的一面,我们通过理论和例子表明,适应的前必然导致毛和偶然的不确定性量化的一些真正的参数,仍然在超矩形的规律性尺度。
math.STstat.TH
Asymptotic frequentist coverage properties of Bayesian credible sets for sieve priors
我们调查的频率覆盖属性的贝叶斯可信集一般的,自适应的,非参数的框架。众所周知,自适应和诚实的信心集的建设是不可能的一般。为了克服这个问题,我们引入一个额外的假设的功能参数,所谓的“一般抛光尾”的条件。然后,我们表明,在标准的假设下,分层和经验贝叶斯方法的结果在诚实的信心集筛类型的先验在一般情况下,我们表征其大小。我们应用派生的抽象结果的各种例子,包括非参数回归模型,密度估计使用指数族的先验,密度估计使用直方图先验和非参数分类模型,我们表明,它们的大小是近极大极小自适应相对于所考虑的特定半度量。
math.STstat.TH
Empirical priors and coverage of posterior credible sets in a sparse normal mean model
贝叶斯方法为不确定性量化提供了一种自然的手段,即可信集可以很容易地从后验分布中获得。但是,在后验可信集达到名义频率覆盖概率的意义上,这种不确定性量化是有效的吗?研究了稀疏正态均值模型中基于一类经验先验的后验不确定性量化的频率论有效性。特别是,我们证明了我们的边际后验可信区间实现标称频率覆盖概率的条件下略弱于所需的选择一致性和伯恩斯坦-冯米塞斯定理的完整后验,和数值研究表明,我们的经验贝叶斯方法具有优越的频率覆盖概率属性相比,其他完全贝叶斯方法。
math.STstat.TH
On the frequentist coverage of Bayesian credible intervals for lower bounded means
为了估计对称对数凹密度的下界位置或平均参数,我们研究了与先验相关的$100(1-α)%$贝叶斯HPD可信集的频率论性能,先验是平坦先验在受限参数空间上的截断.获得了各种新的性质。也就是说,我们精确地确定了获得最小覆盖的位置,并且我们表明该最小覆盖在$1-\frac{3α}{2}$和$1-\frac{3α}{2}+\frac{α^2}{1+α}$之间有界;其中下界$1-\frac{3α}{2}$在先前建立的([9]; [8])下界$\frac{1-α}{1+α}$上改进(对于$α\leq 1/3$)。给出了几个说明性的例子。
math.STstat.TH
The relation between frequentist confidence intervals and Bayesian credible intervals
我们调查频率和贝叶斯方法之间的关系。也就是说,我们找到了“频率论”的Bayes先验π_{f}(λ,x_{obs})= - \frac{\int_{-\infty}^{x_{obs}}\frac{\partial f(x,λ)}{\partial λ}dx}{f(x_{obs},λ)}(f(x,λ)是概率密度),在这个先验下,频率论和Bayes方法确定置信区间的结果是一致的。在许多情况下(但并不总是),再现频率论结果的“频率论”先验与杰弗里斯先验一致。
math.STphysics.data-anstat.ME
Frequentist Coverage of Bayes Posteriors in Nonlinear Inverse Problems with Gaussian Priors
Duke University(杜克大学);University of Pisa(比萨大学)
研究高斯先验下非线性反问题中贝叶斯后验可信区间频率覆盖和近似高斯性质,证明在参数光滑性和似然与先验兼容条件下,可信区间具有保守覆盖,无论BvM定理是否成立。
math.STstat.TH
Asymptotic uncertainty quantification for communities in sparse planted bi-section models
在稀疏种植的两段模型中,群落结构的后验分布达到精确(分别为)。几乎精确的)恢复,其中边缘概率随着$O(\log(n)/n)$(分别为$O(1/n)$)。假设后验恢复,人们可以解释可信集(分别为)。扩大的可信集)作为渐近一致的置信集;这些可信集的直径由后验集中率控制。如果选择的可信水平足够快地增长到一个,相应的可信集可以被解释为频率置信集没有条件的后验浓度。在具有$O(1/n)$边缘稀疏性的机制中,或者当社区内和社区间边缘概率非常接近时,可信集可以被扩大以实现频率论渐近覆盖,也没有后验集中的条件。
math.STstat.TH
Defining a credible interval is not always possible with "point-null'' priors: A lesser-known correlate of the Jeffreys-Lindley paradox
研究指出,在嵌套模型之一为“点零”时,基于模型平均后验的 Bayes 可信区间可能显著偏离频率派置信区间,甚至无法定义,揭示了 Jeffreys-Lindley 悖论的重要关联。
math.STstat.TH
On the frequentist validity of Bayesian limits
对于计算后验的频率论者来说,并不是所有的先验都是有用的:在本文中,施瓦茨1965年的Kullback-Leibler条件被推广到使频率论者能够解释后验分布与复杂模型的收敛性,并且在当今的统计应用中经常依赖于数据集。我们证明了四个简单的和完全一般的频率论定理,后验一致性;后验收敛速度;在假设检验或模型选择的贝叶斯因子的一致性;和一个定理,以获得置信集的可信集。后者在频率论不确定性量化中具有重要的方法学后果:使用合适的先验知识可以将计算、模拟或近似后验的可信集合转换为渐近一致的置信集合。这将Bernstein-von Mises定理的主要推论延伸到没有光滑条件的非参数模型。证明需要存在贝叶斯类型的测试序列和先验,从而产生局部先验预测分布,该分布满足关于数据分布的弱化形式的Le~Cam邻接性。结果适用于广泛的例子和反例。
math.STstat.TH
Adaptive empirical Bayesian smoothing splines
在本文中,我们开发和研究自适应经验贝叶斯光滑样条。这些都是平滑样条函数,平滑参数和惩罚顺序都是通过经验贝叶斯方法从模型的边际似然确定的。选择的阶数和平滑参数用于构造具有良好频率覆盖的底层回归函数的自适应可信集。我们使用这些可信的集合作为代理,以显示自适应经验贝叶斯平滑样条相比,频率平滑样条的优越性能。
math.STstat.TH
Supremum Norm Posterior Contraction and Credible Sets for Nonparametric Multivariate Regression
在误差方差未知的非参数多元回归中,研究了估计回归函数f及其混合偏导数的贝叶斯方法的渐近性质.我们使用一个随机系列的张量积的B-样条与正规基系数作为先验的f,和误差方差估计使用经验贝叶斯方法或被赋予一个合适的先验的分层贝叶斯方法。我们建立了f及其混合偏导数的点态、L2和上确界范数后验压缩率,并证明了它们与极大极小压缩率相一致。我们的结果甚至覆盖了各向异性的情况,其中真正的回归函数在不同方向上可能具有不同的光滑度。利用收敛界,我们证明了f及其混合偏导数的点态、L2和上确界范数可信集具有最优的频率覆盖。同时,在B样条的张量积方面也得到了一些新的结果。
math.STstat.TH
Bayesian nonparametric tests for multivariate locations
在本文中,我们提出了新的,完全贝叶斯非参数检验单样本和双样本的多元定位问题。我们使用Dirichlet过程建模的基础分布之前,并开发了一个测试程序的基础上的后验可信区域的空间中位数功能的分布。对于单样本问题,如果可信集包含零值,则无法拒绝原假设。对于双样本问题,我们对两个样本的空间中位数之差形成一个可信集,如果可信集包含零,我们不能拒绝相等的原假设。我们推导出当地的渐近功率下收缩的替代品的测试,并提出了一个模拟研究,我们的测试程序与现有的参数和非参数测试的有限样本性能进行比较。
math.STstat.TH
Frequentist coverage and sup-norm convergence rate in Gaussian process regression
高斯过程(GP)回归是一种强大的插值技术,因为它在捕获非线性方面具有灵活性。在本文中,我们提供了一个一般的框架,了解点式和同时贝叶斯可信集GP回归的频率覆盖。作为中间结果,我们在随机设计GP回归中得到了上确界范数下的Bernstein von-Mises型结果。将高斯过程的后验分布的均值协方差函数确定为正则化的$M$ -估计,证明了后验均值函数的抽样分布和中心后验分布可以分别用两个总体水平的GP来近似.通过建立两个GP之间的比较不等式,给出了回归函数的贝叶斯逐点可信区间和同时可信带的频率覆盖概率的精确刻画.我们的研究结果表明,基于GP回归的推断往往是保守的,当先验是欠平滑的,由此产生的可信区间和波段具有最小最大最优的大小,其频率覆盖收敛到一个非退化值之间的标称水平和一个。作为我们理论的一个副产品,我们证明了GP回归也产生了相对于上确界范数的最小最大最优后验收缩率,这为GP回归中的最优上确界范数收缩率的长期存在的问题提供了积极的证据。
math.STstat.COstat.ML
Gaussian Approximation of General Nonparametric Posterior Distributions
在一般的贝叶斯非参数模型中,我们证明了后验分布可以用高斯过程渐近逼近。我们的结果适用于包含高斯和非高斯回归的非参数指数族,也适用于有效(root-n)和无效(non-root-n)估计。我们的一般近似定理不依赖于后验共轭,并且可以在具有平滑样条解释的一类高斯过程先验中得到验证[59,44]。特别是,限制后验措施成为先验自由下的贝叶斯版本的“下平滑”条件。最后,我们应用我们的近似定理来研究贝叶斯过程的渐近频率论性质,如可信区域和可信区间。
math.STstat.TH
Bayesian nonparametric inference for discovery probabilities: credible intervals and large sample asymptotics
给定一个样本大小$n$属于不同物种的人口与未知比例的个人,一个流行的问题,实际利益在于作出的概率$D_{n}(l)$的推断,$(n+1)$第一次抽奖与一个物种的频率$l$在样本中,任何$l=0,1,\ldots,n$。本文研究了$D_{n}(l)$的贝叶斯非参数推断方法。具体而言,吉布斯型先验的一般框架下,我们展示了如何获得可信区间的贝叶斯非参数估计的$D_{n}(l)$,我们调查大$n$这样的估计渐近行为。特别感兴趣的是我们的结果的特殊情况下得到的两个参数Poisson-Dirichlet先验和归一化的广义Gamma先验,这是两个最常用的吉布斯型先验的规格。相对于这两个先前的规范,所提出的结果说明通过模拟研究和基准表达序列标签数据集。据我们所知,这个例子提供了第一个比较研究的两个参数泊松-Dirichlet先验和规范化的广义Gamma先验的上下文中的贝叶斯非参数推断$D_{n}(l)$。
math.STstat.MEstat.TH
Nonparametric Bayesian analysis of the compound Poisson prior for support boundary recovery
给出了具有强度$(x,y) \mapsto n \mathbf{1}(f(x)\leq y),$频率论性质的Poisson点过程的数据,导出了支持边界函数$f$的贝叶斯重构.本文主要研究了具有固定强度的复合泊松过程先验,证明了后验概率在单调和分段常数支持边界下具有接近最优的收缩率,并适用于光滑指数至多为1的Hölder光滑边界.然后我们得到了一个非标准的Bernstein-vonMises结果的复合泊松过程前和函数空间与增加的参数维。作为一个中间结果的限制形状的随机直方图型先验的后验。在这两种设置中,它表明,边缘后的功能$\vartheta =\int f$执行自动偏差校正和合同比MLE更快的速度。在这种情况下,$(1-α)$ -可信集也是渐近$(1-α)$ -置信区间。作为一个负面的结果,它表明,频率覆盖的可信集丢失的线性函数,表明可信集只具有频率覆盖的先验知识,专门构建匹配的属性的基础真函数。
math.STstat.TH
Confidence sets in a sparse stochastic block model with two communities of unknown sizes
在具有两个大小不等的社区的稀疏随机块模型中,我们得到了两个后验浓度不等式,这意味着(1)在稀疏边界下的社区结构的后验(几乎)精确恢复,这与种植二节模型中众所周知的尖锐边界相当;(2)从可信集构造社区分配的置信集,具有有限的图大小。后者使精确的频率不确定量化与贝叶斯可信集在非渐近图的大小,后验可以很好地模拟。可信度和置信水平之间不成比例:对于给定的边缘概率和期望的置信水平,存在一个临界图大小,其中所需的可信水平从接近1急剧下降到接近0。在这样的图的大小,频率论者决定不包括大多数的后验支持来构建他的置信集,而只包括一小部分包含最高量的后验概率的社区分配(如最大后验估计)。有人认为,对于建议的置信集的建设,一种形式的早期停止适用于MCMC采样的后验,这将使置信集的计算在更大的图形大小。
math.STstat.TH
Non-parametric finite-sample credible intervals with one-dimensional priors: a middle ground between Bayesian and frequentist intervals
本文提出一种非参数有限样本可信区间构造方法,结合贝叶斯与频率学方法,通过一维先验实现统计区间的中间方法,展示其在两个不同问题中的应用及优势。
physics.data-anstat.ME
A nonparametric regression alternative to empirical Bayes approaches to simultaneous estimation
本文针对同时估计问题提出一种完全频率学派的非参数回归替代方案,通过惩罚回归和形状约束避免贝叶斯推理,并证明其具有渐近最优遗憾且在模拟和基因表达数据分析中表现优异。
math.STstat.TH
Bayesian Multiscale Analysis of the Cox Model
针对贝叶斯Cox比例风险模型大样本性质不明的问题,研究构建了非共轭先验下的后验分布统一理论,推导了收缩率、渐近正态性及泛函极限结果,证明了生存函数可信带的最优频率覆盖性质,模拟验证了其有限样本表现。
math.STstat.TH
Uncertainty quantification for the horseshoe
研究了稀疏多元正态均值模型中马蹄先验的可信集和边际可信区间。我们这样做,在自适应设置,而不假设知识的稀疏水平(信号的数量)。我们考虑的分层贝叶斯方法,把一个先验的未知的稀疏水平和经验贝叶斯方法的最大边际似然估计的稀疏水平。我们表明,可信球和边际可信区间有良好的频率覆盖和最佳的大小,如果稀疏水平的先验知识是正确的。根据一般理论,诚实置信集的大小不能适应未知的稀疏水平。因此,基于马蹄先验的层次和经验贝叶斯可信集在整个参数空间上是不诚实的。我们表明,这是由于过度收缩某些参数和可靠的球和边际可信区间确实给正确的不确定性量化的参数集。特别是,我们证明了边缘贝叶斯过程的错误发现的分数是由一个正确的选择截止控制。
math.STstat.TH
Adaptive Bayesian credible sets in regression with a Gaussian process prior
本文研究了两种经验贝叶斯方法和一种分层贝叶斯方法,用于在非参数回归模型中调整高斯过程的尺度。我们表明,所有的方法导致后收缩率,适应真正的回归函数的平滑度。此外,我们还证明了当真实回归函数满足一定的外推条件时,相应的可信集覆盖了该函数。这个条件取决于具体的方法,但是由自相似性的条件所暗示。后一个条件被证明是满足概率1下的先验分布。
math.STstat.TH
Pointwise uncertainty quantification for sparse variational Gaussian process regression with a Brownian motion prior
本文针对采用特征向量诱导变量和重标度布朗运动先验的稀疏变分高斯过程,建立了逐点可信集频率学派覆盖率的理论保证,并精确刻画其渐近行为,揭示该方法何时保守或过度自信。
math.STstat.MLstat.TH
Valid Credible Ellipsoids for Linear Functionals by a Renormalized Bernstein-von Mises Theorem
本文针对无限维高斯回归模型,提出重整化 Bernstein-von Mises 定理,证明后验可信椭球为渐近置信集,并验证于 Darcy 与 Schrödinger 问题。
math.STstat.TH
Frequentist optimality of Bayesian wavelet shrinkage rules for Gaussian and non-Gaussian noise
本文研究了独立同分布非参数回归模型中各种贝叶斯小波收缩规则的理论性能。误差不一定是正态分布的。主要目的是比较各种贝叶斯模型在Sobolev和Besov空间中的频率论渐近最优性。我们建立了超参数之间的关系,验证了迄今为止研究的大多数贝叶斯模型都达到了理论最优,说明了哪些贝叶斯模型不能达到最优收敛速度,并解释了为什么会发生这种情况。
math.STstat.TH
Can we trust Bayesian uncertainty quantification from Gaussian process priors with squared exponential covariance kernel?
研究了具有平方指数协方差核的高斯过程先验的可信集的频率覆盖性质。首先,我们表明,通过选择缩放超参数使用最大边际似然估计(略有修改)平方指数协方差内核的相应的可信集将提供过度自信,误导性的不确定性声明的一个大的,有代表性的子类的功能参数的背景下的高斯白噪声模型。然后我们证明了,无论是用对数因子爆破可信集,还是用对数项修正极大边际似然估计,在一定的附加约束下,都可以得到可靠的不确定性陈述和可信集的自适应大小。最后,我们证明了一个数值研究,推导出的负面和正面的结果超出了高斯白噪声模型的非参数回归和分类模型的小样本量以及。
math.STstat.TH
Uncertainty Quantification for nonparametric regression using Empirical Bayesian neural networks
我们提出了一种新的,两步经验贝叶斯类型的神经网络的方法。我们表明,在上下文中的非参数回归模型的程序(对数因子)提供了最佳的恢复感兴趣的基本功能参数,并提供贝叶斯可信的频率覆盖保证集。该方法只需拟合神经网络一次,因此比Bootstrapping类型的方法快得多。我们证明了我们的方法在合成数据,观察良好的估计性能和可靠的不确定性量化的适用性。
math.STstat.TH
Bayesian Nonparametric Density Estimation under Length Bias
一个密度估计方法在贝叶斯非参数框架下,当记录的数据不是直接来自感兴趣的分布,但从一个长度偏置的版本。从贝叶斯的角度来看,由于无法规避归一化常数的问题,有条件地对长度偏差数据进行计算评估后验量的努力受到了阻碍。在本文中,我们提出了一种新的贝叶斯非参数方法的长度偏差抽样问题,它绕过了归一化常数的问题。给出了数值例子和一个实际数据例子,并将该估计量与Jones(1991)的间接数据核密度估计量进行了比较。
math.STstat.TH
Nonparametric Bayesian posterior contraction rates for scalar diffusions with high-frequency data
我们考虑了具有离散数据$(X_{jΔ_n})_{0\leq j \leq n}$、$n\to \infty,~Δ_n\to 0$和周期系数的标量扩散模型$dX_t=b(X_t)dt+σ(X_t)dW_t$中的推断。对于$σ$给定的,我们证明了一个一般定理详细的条件下,贝叶斯后验将合同在$L^2$ -距离周围的真实漂移函数$b_0$在频率最小最大率(对数因子)Besov光滑类。我们表现出自然的非参数先验满足我们的条件。我们的研究结果表明,贝叶斯方法适应未知的采样制度和未知的平滑度。
math.STstat.TH
Nonparametric Bayesian Aggregation for Massive Data
我们开发了一套可扩展的贝叶斯推理程序的一般类的非参数回归模型。具体地说,非参数贝叶斯推理分别对每个子集随机分裂的海量数据集,然后获得的局部结果聚合成全球同行。这个聚合步骤是显式的,不涉及任何额外的计算成本。通过仔细的分区,我们表明,我们的聚合推理结果获得的Oracle规则的意义上说,他们是等同于那些直接从整个数据(这是计算禁止)。例如,一个聚合的可信球达到了期望的可信度水平,也频率覆盖,同时拥有相同的半径的预言球。
math.STstat.TH
Bayesian Nonparametric Inference for M/G/1 Queueing Systems
在这项工作中,非参数统计推断提供了连续时间M/G/1排队模型从贝叶斯的观点。推断是基于对到达间隔时间和服务时间的观察。除了系统的其他特性之外,特别感兴趣的是在等待时间分布中,这在封闭形式中是不可访问的。因此,我们使用一种间接的统计方法,利用Pollaczek-Khinchine变换公式的等待时间分布的拉普拉斯变换。基于此,定义了一个估计量,并研究了它在后验相合性和后验正态性方面的频率论验证。结果表明,我们可以据此分别对可观测量进行推断,并随后通过适当的技术合成结果。
math.STstat.TH
Uncertainty quantification for sparse spectral variational approximations in Gaussian process regression
本文分析以谱特征为诱导变量的稀疏变分高斯过程回归,给出可信集频率学派覆盖保证、局限及达到极小极大后验收缩率所需诱导变量数的充要下界,并用数值实验验证更广泛方法中的类似现象。
math.STstat.TH
Bayesian recovery of the initial condition for the heat equation
我们研究了贝叶斯方法来恢复热方程的初始条件,在以后的时间从嘈杂的意见的解决方案。我们考虑一类先验分布指数的参数量化“平滑度”,并表明,相应的后验分布合同周围的真实参数的速度,取决于真实的初始条件的平滑度和规模的前。这些特征的正确组合会导致最优的极大极小化率。一种类型的先验导致速率自适应贝叶斯过程。可信集的频率覆盖率取决于先验和真参数的组合,以及与平滑先验导致零覆盖和粗糙先验(极其)保守的结果。在后一种情况下,可信集比频率置信集大得多,因为直径比发散到无穷大。数值模拟数据的例子说明了结果。
math.STstat.TH
Coverage of Credible Intervals in Bayesian Multivariate Isotonic Regression
我们考虑非参数多元保序回归问题,其中的回归函数被假定为非递减的关于每个预测。我们的目标是构造一个贝叶斯可信区间的函数值在一个给定的内点与确保有限的频率覆盖。我们对非限制阶跃函数赋予先验,但通过从非限制函数空间到多元单调函数空间的“浸入映射”,利用诱导后验测度进行推理.这允许保持后验采样的自然共轭性。使用的自然沉浸图是通过距离的投影,但在本上下文中,发现块等化图更有用。使用诱导的“浸入后验”度量代替原始后验来进行推理的方法提供了贝叶斯范式的有用扩展,特别是当模型空间受到某些复杂关系的限制时。我们建立了一个关键的弱收敛结果的后验分布的功能在一个点上的一些功能的多指标高斯过程,导致的表达式的限制覆盖的贝叶斯可信区间。类似于最近的一个结果,单变量单调函数,我们发现,限制覆盖率略高于可信度,在光滑问题中观察到的现象相反。有趣的是,可信度和限制覆盖率之间的关系不涉及任何未知参数。因此,通过重新校准过程,我们可以通过选择一个合适的可信度水平小于的目标覆盖率,从而得到一个预定的渐近覆盖率,从而也缩短了可信区间。
math.STstat.TH
Coverage of Credible Sets for Regression under Variable Selection
该研究提出变量选择下多元线性回归的新型贝叶斯可信集方法,通过稀疏诱导映射纳入变量选择,证明特定条件下修正可信区间有精确渐近覆盖率,给出参数选择准则并提供R包实现。
stat.ME
Unified Bayesian theory of sparse linear regression with nuisance parameters
研究了高维高斯稀疏回归中含有未知冗余参数时贝叶斯过程的频率论渐近性质。冗余参数可以是有限维、高维或无限维的。零点质量和连续分布的混合用于稀疏回归系数的先验分布,并将适当的先验分布用于冗余参数。稀疏回归系数的最佳后验收缩,阻碍了冗余参数的存在,也检查和讨论。结果表明,该过程产生强大的模型选择的一致性。稀疏回归系数的Bernstein-vonMises型定理也得到了不确定性量化通过可信集与保证频率覆盖。许多例子的渐近性质进行了研究,使用本研究中开发的理论。
math.STstat.TH
A comparison of Bayesian and frequentist interval estimators in regression that utilize uncertain prior information
考虑一个具有回归参数β和正态分布误差的线性回归模型。假设感兴趣的参数是theta = a^T beta,其中a是指定的向量。定义参数tau = c^T beta - t,其中c和t是指定的,并且a和c是线性无关的。还假设我们有不确定的先验信息tau = 0。Kabaila和Giri,2009年,JSPI,描述了一种新的频率论1-alpha置信区间的θ,利用这种不确定的先验信息。我们比较这个置信区间与贝叶斯1-alpha等尾和最短的可信区间θ,从先验密度τ是一个混合的矩形“板”和狄拉克δ函数“尖峰”,结合非信息先验密度的模型的其他参数。我们表明,这些频率和贝叶斯区间估计依赖于数据在非常不同的方式。我们还考虑了这种先验分布,导致贝叶斯和频率区间估计更大的相似性的一些密切的变化。尽管如此,正如我们所展示的,这些区间估计量之间仍然存在很大的差异。
math.STstat.MEstat.TH
Semiparametric Bernstein-von Mises Theorem: Second Order Studies
本文主要研究半参数贝叶斯模型中参数分量的边缘后验分布的二阶频率论性质,特别是二阶半参数Bernstein-von Mises(BvM)定理。我们的第一个贡献是发现一个有趣的干扰现象之间的贝叶斯估计和频率论的推断精度:更准确的贝叶斯估计的滋扰功能导致更高的频率论的推断精度的参数组件。作为第二个贡献,我们提出了一类新的依赖先验下,贝叶斯推理过程的参数组件不仅是有效的,而且是自适应的(w.r.t.非参数分量的光滑性)直到二阶频率论有效性。然而,通常使用的独立先验甚至可能无法产生一个理想的根-n收缩率的参数组件在这种自适应的情况下,除非施加一些严格的假设。三个重要的类的半参数模型进行检查,并提供了广泛的模拟。
math.STstat.TH
Calibrating general posterior credible regions
基于后验分布进行推断的方法的优点是容易获得可信区域。然而,除非在明确指定的情况下,否则不能保证这些区域将实现标称频率论覆盖概率,甚至近似。为了克服这个困难,我们提出了一个一般的策略,引入了一个额外的标量调整参数来控制后验传播,我们开发了一个算法,选择这个参数,使相应的可信区域达到标称覆盖概率。
stat.ME
Adaptive Bayesian nonparametric regression using kernel mixture of polynomials with application to partial linear model
本文提出了一种贝叶斯非参数回归的核混合多项式先验。回归函数由具有核混合权重的多项式的局部平均来建模。我们得到的最小最优收缩率的充分后验分布的对数因子,适应的平滑程度的真实功能,通过估计某些功能类的度量熵。我们还提供了一个频率筛最大似然估计与接近最佳的收敛速度。我们进一步研究了多项式的核混合对部分线性模型的应用,并获得了非参数分量的近最优收缩率和Bernstein-von Mises极限(即,渐近正态性)。所提出的方法与数值例子说明,并显示优越的性能相比,本地多项式回归,DiceKriging,和强大的高斯随机过程的计算效率,精度和不确定性量化。
math.STstat.TH
Nonparametric regression on random geometric graphs sampled from submanifolds
该研究针对协变量位于未知光滑紧子流形的非参数回归问题,基于图拉普拉斯特征基随机基展开的贝叶斯先验,证明了在Hölder光滑性假设下后验收缩率达极小极大最优。
math.STstat.MLstat.TH
A Theory of Bootstrap Coverage Calibration for Generalized Posterior Credible Sets
Faculty of Economics, Fukuoka University(福冈大学经济学部)
针对广义后验可信集缺乏频率覆盖渐近保证的问题,提出通过Bootstrap估计覆盖并选择标量学习率进行校准,利用Edgeworth展开分析覆盖误差来源,证明校准的一致性。
math.STstat.COstat.ME
Asymptotic Properties for Methods Combining Minimum Hellinger Distance Estimates and Bayesian Nonparametric Density Estimates
在频率论推断中,最小化核密度估计和参数族之间的Hellinger距离产生估计,当参数模型正确时,该估计对离群值具有鲁棒性并且具有统计效率。本文旨在扩展这些结果的使用非参数贝叶斯密度估计的差距的方法。我们提出了两个估计:一种方法是用来自随机直方图先验的期望后验密度来替换核密度估计器;另一种方法是通过随机直方图的后验来诱导参数上的后验。我们表明,它是可能的,以适应有效的影响函数从半参数模型的数学机器,以证明我们的估计是有效的意义上实现的Cramer-Rao下界。我们进一步证明了Bernstein-von-Mises的结果,我们的第二个估计表明,它的后验是渐近高斯。此外,经典的最小Hellinger距离估计的鲁棒性继续举行。
math.STstat.TH
Optimal post-selection inference for sparse signals: a nonparametric empirical-Bayes approach
许多最近发展的贝叶斯方法集中在稀疏信号检测。然而,解决自然的后续问题所做的工作要少得多:如何对选择后这些信号的大小进行有效的推断。普通贝叶斯可信区间由于推理对象的自适应选择而存在选择偏差。现有的贝叶斯方法用于校正这种偏差产生具有差的频率论属性的可信区间,而现有的频率论方法需要牺牲贝叶斯方法中典型的收缩的益处,从而导致不必要的宽的置信区间。我们解决这个差距,提出了一个非参数的随机贝叶斯方法构建最佳选择调整的置信集。我们的方法产生的置信集是尽可能短的平均值,同时调整选择和保持精确的频率覆盖均匀的参数空间。我们的主要理论结果建立了一个重要的一致性属性,我们的程序:在温和的条件下,它渐近收敛到一个预言贝叶斯分析的结果,其中的信号大小的先验分布是已知的。在一系列的例子中,该方法优于现有的频率论技术的后选择推理,产生的置信度集,显着更短,但具有相同的覆盖率保证。
stat.ME
Gaussian credible intervals in Bayesian nonparametric estimation of the unseen
University of Pavia(帕维亚大学);University of Torino(都灵大学);Collegio Carlo Alberto(卡洛阿尔贝托学院)
本文针对未见物种问题,提出基于Pitman-Yor先验的贝叶斯非参数方法,利用高斯中心极限定理推导大样本渐近可信区间,支持完全参数化且无需Monte Carlo采样,提升了计算效率与实证表现。
cs.LGstat.MEstat.ML
Bayesian inverse problems with Gaussian priors
非参数反问题中的后验分布收缩到真实参数的速率取决于参数的平滑度,以及先验的平滑度和尺度。这些特征的正确组合导致极小极大率。可信集的频率论覆盖取决于先验参数和真实参数的组合,更平滑的先验会导致零覆盖,而更粗糙的先验会导致保守覆盖。在后一种情况下,可信集合具有正确的数量级。数值结果说明的问题,恢复一个功能,从观察一个嘈杂的版本,其原始的。
math.STstat.TH
Nonparametric Bayesian testing for monotonicity
本文从非参数贝叶斯的角度研究了函数单调性的检验问题。构造了两个新的检验族。第一个使用约束平滑样条,连同一个层次的随机过程之前,明确控制的先验概率的单调性。第二个使用回归样条,连同两个建议的先验的回归系数。有限样本性能的测试,通过模拟,以改善现有的频率论和贝叶斯方法。本文还研究了高斯模型中比较单调与非单调回归函数的贝叶斯因子的渐近性质。我们的结果显着扩展了目前可用的,主要集中在确定参数线性模型的尺寸。
math.STstat.MEstat.TH
On the behavior of Bayesian credible intervals for some restricted parameter space problems
为了估计正态均值,Zhang和Woodroofe(2003)以及Roe和Woodroofe(2000)研究了100个与先验相关的HPD可信集,这些先验是将无信息先验截断到受限参数空间上获得的。也就是说,他们建立了有吸引力的下界$\frac{1-α}{1+α}$的频率覆盖概率的这些程序。在这项工作中,我们建立了$\frac{1-α}{1+α}$的下界是适用于一个基本上更一般的设置与潜在的分布对称性,并获得各种其他性质。推导是统一的,并通过选择一个正确的Haar不变先验驱动。对非对称模型进行了研究,得到了类似的结果。也就是说,(i)我们证明了下界$\frac{1-α}{1+α}$仍然适用于某些类型的不对称性(或偏度),(ii)我们扩展了Zhang和Woodroofe(2002)估计Fisher分布尺度参数的结果;这在估计单向平衡随机效应ANOVA中的方差分量比时出现。最后,各种例子说明了广泛的应用范围进行了扩展。示例包括估计位置模型和位置-尺度模型中的参数、估计尺度模型中的尺度参数、估计诸如差的位置参数的线性组合、估计尺度参数的比率以及具有非独立观测的问题。
math.STstat.TH
Posterior consistency of nonparametric conditional moment restricted models
研究了含有无穷维参数$g_0$的非参数条件矩约束模型的估计问题。我们估计它在准贝叶斯的方式,基于有限的信息似然,并调查三种类型的先验后验一致性的影响:(i)截断先验(先验支持的有界集),(ii)薄尾先验(一个先验,有非常薄的尾巴以外的增长有界集)和(iii)正常的前与非收缩方差。此外,允许$g_0$在频率论意义上仅被部分地识别,并且参数空间不需要是紧凑的。使用一个缓慢增长的筛尺寸的后验正则化,它表明,后验收敛到任何小的邻域的识别区域。然后,我们将我们的结果应用到非参数工具回归模型。最后,研究了随机筛维参数下的后验一致性问题。
math.STstat.TH
Bayesian-motivated tests of function fit and their asymptotic frequentist properties
我们提出并分析了非参数检验的原假设,一个函数属于一个指定的参数家庭。检验是基于BIC近似,π_{BIC},零模型的后验概率,并可以在贝叶斯或频率论的方式进行。我们得到了在原假设和局部替代下π_{BIC}的渐近分布的结果。π_{BIC}的一个版本,称为π_{BIC}^*,使用一类彼此正交的模型,并且随着样本量n趋于无穷大,模型的数量无限制地增长。我们证明了在原假设下,\sqrtn(1-π_{BIC}^*)按分布收敛于一个稳定律.我们还证明了π_{BIC}^* 能以\sqrt \log n/n的速度检测到局部选择收敛到零。一个特别有趣的发现是,基于π_{BIC}^* 的检验的功效渐近等于基于备选对数似然的最大值的检验的功效。仿真结果和一个例子,涉及变星数据说明所提出的测试的理想功能。
math.STstat.TH
A Bayesian Nonparametric Test for Assessing Multivariate Normality
本文提出了一种新的贝叶斯非参数检验方法来检验多元正态模型。虽然有广泛的频率论和图解法用于检验多元正态性,但找到贝叶斯对应方法是具有挑战性的。所提出的方法是基于使用的狄利克雷过程和马哈拉诺比斯距离。更准确地说,马哈拉诺比斯距离被用作将$m$ -变量问题转化为单变量问题的良好技术。然后Dirichlet过程被用作马哈拉诺比斯距离分布的先验。通过相对置信比,将后处理与具有$m$自由度的χ 2分布之间的距离的分布的集中度与前处理与具有$m$自由度的χ 2分布之间的距离的分布的集中度进行比较。基于Anderson-Darling距离建立了Dirichlet过程与χ 2分布之间的距离。该方法的关键理论结果的推导。通过几个例子说明了该过程,其中所提出的方法表现出优异的性能。
math.STstat.TH
Nonparametric Bayesian estimation in a multidimensional diffusion model with high frequency data
本文研究基于高频观测的多维反射扩散模型非参数贝叶斯推断,证明高斯先验后验在 $L^2$-损失下以极大极小最优速率收敛,并证明频率派惩罚最小二乘估计量亦具最优性。
math.PRmath.STstat.TH