Frequentist Oracle Properties of Bayesian Stacking Estimators
本文针对贝叶斯堆叠估计量缺乏频率学派神谕性质的问题,推导了堆叠贝叶斯线性与逻辑回归模型的该性质,并通过蒙特卡洛实验验证其可能优于最佳候选模型,为贝叶斯方法提供频率学依据并拓展了频率学派方法库。
2024-11-04 math.ST stat.TH
Rejoinder to discussions of "Frequentist coverage of adaptive nonparametric Bayesian credible sets"
对Szabó、van der Vaart和van Zanten的“自适应非参数贝叶斯可信集的频率主义覆盖”的反驳[arXiv:1310.4489v5]。
2015-09-07 math.ST stat.TH
Hypothesis testing and confidence sets: why Bayesian not frequentist, and how to set a prior with a regulatory authority
本文论证贝叶斯假设检验与置信集相较频率学派方法的容许性和信息优势,并提出与监管机构协商共同先验的“让数据决定”策略。
2024-05-21 math.ST stat.TH
The False Dilemma: Bayesian vs. Frequentist
统计推理有两个主要的对立学派,频率主义和贝叶斯方法。直到最近,频率论或经典方法一直主导着科学研究,但贝叶斯主义以一种开始改变这种情况的强烈冲动重新出现。最近的争论的首要地位的两种方法之一,似乎是未完成的哲学水平,但科学实践正在给予越来越重要的位置贝叶斯方法。本文避开哲学争论,从科学家日常实践的实用主义角度出发,探讨贝叶斯方法论在科学研究中的重要作用。几个事实和操作值被描述为理解变化的核心集合。
2008-04-03 math.ST stat.TH
On frequentist coverage of Bayesian credible sets for estimation of the mean under constraints
研究了信号加噪声模型中一类噪声分布下$(1-α)$ -最高后验密度可信集的频率覆盖问题。我们考虑一类特殊的钉板先验分布。不同的制度被确定,我们推导出封闭形式的表达式为$(1-α)$ -HPD对这些制度。与Marchand和Strawderman的早期工作类似,在适当的条件下,频率论覆盖可以下降到$1-3α/2.$
2020-03-09 math.ST stat.TH
Frequentist optimality of Bayesian wavelet shrinkage rules for Gaussian and non-Gaussian noise
本文研究了独立同分布非参数回归模型中各种贝叶斯小波收缩规则的理论性能。误差不一定是正态分布的。主要目的是比较各种贝叶斯模型在Sobolev和Besov空间中的频率论渐近最优性。我们建立了超参数之间的关系,验证了迄今为止研究的大多数贝叶斯模型都达到了理论最优,说明了哪些贝叶斯模型不能达到最优收敛速度,并解释了为什么会发生这种情况。
2006-07-01 math.ST stat.TH
On frequentist coverage errors of Bayesian credible sets in moderately high dimensions
本文研究了具有(中等)高维回归变量的近似线性回归模型的贝叶斯可信集的频率覆盖误差,其中回归变量的维数可以随样本量而增加,但小于样本量.具体地说,我们考虑了准似然下的斜率向量与高斯误差分布的准贝叶斯推断。在这种设置下,我们推导出贝叶斯可信矩形的频率覆盖误差的有限样本界。这些界限的推导建立在一个新的Berry-Esseen型准后验分布和最近的结果高维CLT超矩形上的界限。我们使用这个一般的结果来量化覆盖误差的卡斯蒂略-尼克和$L^{\infty}$ -可信带高斯白噪声模型,线性逆问题,(可能是非高斯)非参数回归模型。特别是,我们表明,这些非参数模型的贝叶斯可信带的覆盖误差多项式衰减快的样本量,这意味着优势的贝叶斯可信带的置信带的基础上极值理论。
2019-06-27 math.ST stat.TH
Measuring and Controlling Bias for Some Bayesian Inferences and the Relation to Frequentist Criteria
在科学背景下,贝叶斯方法的一个常见问题是推理可能会受到主观偏见的严重影响。正如这里所介绍的,对于某种数量的兴趣,有两种类型的偏见:反对偏见和赞成偏见。基于证据的原则,它显示了如何测量和控制这些偏差的假设评估和估计问题。最优性结果是建立在证据原则的基础上的方法来解决这些问题。一个密切的关系,建立在贝叶斯推断和频率论属性,持有任何适当的先验测量偏差。这导致了一个可能的解决方案之间的明显冲突,这些方法的统计推理。频率主义被认为是建立一个统计研究的品质因数,而贝叶斯主义在确定基于统计证据的推论中起着关键作用。
2019-03-05 math.ST stat.TH
On Bayesian credible sets in restricted parameter space problems and lower bounds for frequentist coverage
为了在Marchand和Strawderman(2006)的框架下估计下界参数函数,我们通过统一的方法给出了一类置信度为$1-α$且频率覆盖概率为$\frac{1-α}{1+α}$的贝叶斯置信区间.在潜在的枢轴分布是对称的情况下,调查结果表示扩展相对于通过选择{ \it消费函数}实现的可信集的规格,并包括Marchand和Strawderman的HPD程序的结果。对于非对称的情况下,这样一类贝叶斯可信集的确定填补了文献中的空白,包括HPD过程的“等尾”修改。几个例子展示了广泛的适用性。
2012-12-19 math.ST stat.TH
On the frequentist validity of Bayesian limits
对于计算后验的频率论者来说,并不是所有的先验都是有用的:在本文中,施瓦茨1965年的Kullback-Leibler条件被推广到使频率论者能够解释后验分布与复杂模型的收敛性,并且在当今的统计应用中经常依赖于数据集。我们证明了四个简单的和完全一般的频率论定理,后验一致性;后验收敛速度;在假设检验或模型选择的贝叶斯因子的一致性;和一个定理,以获得置信集的可信集。后者在频率论不确定性量化中具有重要的方法学后果:使用合适的先验知识可以将计算、模拟或近似后验的可信集合转换为渐近一致的置信集合。这将Bernstein-von Mises定理的主要推论延伸到没有光滑条件的非参数模型。证明需要存在贝叶斯类型的测试序列和先验,从而产生局部先验预测分布,该分布满足关于数据分布的弱化形式的Le~Cam邻接性。结果适用于广泛的例子和反例。
2017-11-27 math.ST stat.TH
The relation between frequentist confidence intervals and Bayesian credible intervals
我们调查频率和贝叶斯方法之间的关系。也就是说,我们找到了“频率论”的Bayes先验π_{f}(λ,x_{obs})= - \frac{\int_{-\infty}^{x_{obs}}\frac{\partial f(x,λ)}{\partial λ}dx}{f(x_{obs},λ)}(f(x,λ)是概率密度),在这个先验下,频率论和Bayes方法确定置信区间的结果是一致的。在许多情况下(但并不总是),再现频率论结果的“频率论”先验与杰弗里斯先验一致。
2012-11-14 math.ST physics.data-an stat.ME
Spike and slab variable selection: Frequentist and Bayesian strategies
线性回归模型中的变量选择从频率论和贝叶斯的观点来看都有许多明显的面孔。在本文中,我们介绍了一种变量选择方法,称为一个重新标度的尖峰和平板模型。我们研究的重要性,以前的层次规格,并绘制连接到频率广义岭回归估计。具体来说,我们研究了连续双峰先验模型超方差参数的有用性,以及缩放效应通过其与惩罚的关系对后验均值的影响。几种模型选择策略,一些频率和贝叶斯的性质,开发和理论研究。我们证明了选择性收缩的重要性,有效的变量选择的风险误分类,并显示这是实现后从一个重新缩放的尖峰和平板模型。我们还展示了如何验证一个程序的能力,以减少模型的不确定性,在有限的样本中使用一个专门的前向选择策略。使用这个工具,我们说明了重新缩放的尖峰和平板模型在减少模型的不确定性的有效性。
2005-05-30 math.ST stat.TH
Towards Reconciliation between Bayesian and Frequentist Reasoning
一个关于抽样分布参数的定量推理理论是通过遵循非常一般的规则演绎构建的,称为Cox-Polya-Jaynes Desiderata。根据分配给参数的概率分布进行推断。该Desiderata,主要集中在合理的推理的一致性,导致这些概率的抽样分布的情况下,是不变的李群的唯一分配。在标量情况下,例如在推断单个位置或尺度参数的情况下,对逻辑一致性的要求等同于对校准的要求:一致的概率分布也自动是具有精确校准的概率分布,反之亦然。这种等价性有利于贝叶斯和频率论推理学派之间的和解。
2005-10-28 math.ST stat.TH
Asymptotic frequentist coverage properties of Bayesian credible sets for sieve priors
我们调查的频率覆盖属性的贝叶斯可信集一般的,自适应的,非参数的框架。众所周知,自适应和诚实的信心集的建设是不可能的一般。为了克服这个问题,我们引入一个额外的假设的功能参数,所谓的“一般抛光尾”的条件。然后,我们表明,在标准的假设下,分层和经验贝叶斯方法的结果在诚实的信心集筛类型的先验在一般情况下,我们表征其大小。我们应用派生的抽象结果的各种例子,包括非参数回归模型,密度估计使用指数族的先验,密度估计使用直方图先验和非参数分类模型,我们表明,它们的大小是近极大极小自适应相对于所考虑的特定半度量。
2019-02-04 math.ST stat.TH
Frequentist and Bayesian inference for Gaussian-log-Gaussian wavelet trees, and statistical signal processing applications
我们引入新的估计方法的子类的高斯尺度混合模型的小波树Wainwright,Simoncelli和Willsky依赖于现代的结果,复合似然和近似贝叶斯推理。我们的方法说明在二维图像中的去噪和边缘检测问题。
2017-08-10 math.ST stat.ME stat.TH
Frequentist coverage of adaptive nonparametric Bayesian credible sets
本文研究了非参数环境下贝叶斯可信集的频率覆盖问题。我们考虑一个尺度的先验的变化规律性和选择的规则性的经验贝叶斯方法。接下来,我们考虑一个中心集的规定后验概率的后验分布所选择的规律。我们表明,这样一个自适应贝叶斯可信集给出了正确的不确定性量化的“抛光尾”参数,在这个意义上的高概率覆盖这些参数。在消极的一面,我们通过理论和例子表明,适应的前必然导致毛和偶然的不确定性量化的一些真正的参数,仍然在超矩形的规律性尺度。
2015-09-04 math.ST stat.TH
On the frequentist coverage of Bayesian credible intervals for lower bounded means
为了估计对称对数凹密度的下界位置或平均参数,我们研究了与先验相关的$100(1-α)%$贝叶斯HPD可信集的频率论性能,先验是平坦先验在受限参数空间上的截断.获得了各种新的性质。也就是说,我们精确地确定了获得最小覆盖的位置,并且我们表明该最小覆盖在$1-\frac{3α}{2}$和$1-\frac{3α}{2}+\frac{α^2}{1+α}$之间有界;其中下界$1-\frac{3α}{2}$在先前建立的([9]; [8])下界$\frac{1-α}{1+α}$上改进(对于$α\leq 1/3$)。给出了几个说明性的例子。
2008-11-13 math.ST stat.TH
Frequentist and Bayesian measures of confidence via multiscale bootstrap for testing three regions
针对期望参数未知的多元正态模型,讨论了基于Bootstrap概率的频率论$p$值和贝叶斯后验概率的计算方法.原假设表示为任意形状的区域。我们引入了新的参数模型的比例律的自助概率,使多尺度自助方法,这是专为单侧检验,也可以计算置信度的双侧检验,扩大适用范围更广泛的一类假设。参数估计的两步多尺度自举,也包括高阶项。模型选择不仅是我们方法的激励应用,而且是方法中的基本成分。频率论和贝叶斯之间的妥协是试图通过显示贝叶斯后验概率与noninformative先验解释为一个频率论$p$ -值的“零侧”测试。
2008-07-01 math.ST stat.ME stat.TH
Bridging Bayesian, frequentist and fiducial (BFF) inferences using confidence distribution
贝叶斯、频率论和基准(BFF)推理比科学界历史上所感知的要一致得多(参见,Reid and Cox 2015; Kass 2011; Efron 1998)。大多数从业者可能更熟悉两种占主导地位的统计推断范式,贝叶斯推断和频率论推断。第三种,不太为人所知的信念推断范式是由R.A.费雪试图定义一个反演过程的推理作为替代贝叶斯定理。虽然每一种范式都有其自身的优势和局限性,受制于其不同的哲学基础,本文旨在通过置信分布理论和蒙特卡罗模拟程序的镜头,这些不同的推理方法。本文试图了解这三种不同的范式,贝叶斯,频率论,和信念推断,可以统一和比较的基础水平,从而增加了可能的技术范围,可供统计理论家和从业人员在所有领域。
2022-06-15 math.ST stat.ME stat.TH
A comparison of Bayesian and frequentist interval estimators in regression that utilize uncertain prior information
考虑一个具有回归参数β和正态分布误差的线性回归模型。假设感兴趣的参数是theta = a^T beta,其中a是指定的向量。定义参数tau = c^T beta - t,其中c和t是指定的,并且a和c是线性无关的。还假设我们有不确定的先验信息tau = 0。Kabaila和Giri,2009年,JSPI,描述了一种新的频率论1-alpha置信区间的θ,利用这种不确定的先验信息。我们比较这个置信区间与贝叶斯1-alpha等尾和最短的可信区间θ,从先验密度τ是一个混合的矩形“板”和狄拉克δ函数“尖峰”,结合非信息先验密度的模型的其他参数。我们表明,这些频率和贝叶斯区间估计依赖于数据在非常不同的方式。我们还考虑了这种先验分布,导致贝叶斯和频率区间估计更大的相似性的一些密切的变化。尽管如此,正如我们所展示的,这些区间估计量之间仍然存在很大的差异。
2014-01-14 math.ST stat.ME stat.TH
Adaptive empirical Bayesian smoothing splines
在本文中,我们开发和研究自适应经验贝叶斯光滑样条。这些都是平滑样条函数,平滑参数和惩罚顺序都是通过经验贝叶斯方法从模型的边际似然确定的。选择的阶数和平滑参数用于构造具有良好频率覆盖的底层回归函数的自适应可信集。我们使用这些可信的集合作为代理,以显示自适应经验贝叶斯平滑样条相比,频率平滑样条的优越性能。
2015-11-17 math.ST stat.TH
Frequentistic approximations to Bayesian prevision of exchangeable random elements
给定一个序列,其中,n = 1,n = 2,.对于X值可交换随机元,设q(n ^(n))和p_m(n ^(n))分别代表后验分布和预测分布,给定n ^(n)=(n_1,.,_n)。本文给出了limsup b_n d_[[X]](q(n ^(n)),δ_ \empiricn)和limsup b_n d_[X^m]的上界(p_m(n ^(n)),\empiricn^m),其中\empiricn是经验测度,b_n是递增到+ \infty的适当正数序列,d_[[X]]和d_[X^m]分别表示[X]和[X^m]上的区别弱概率距离,条件是[S]表示S上所有概率测度的空间。我们的工作的一个特点是,上述界限的法律下建立的贝叶斯一致性,不像更常见的文献中,他们研究的积测度(p_0)^ \infty,作为p_0之间的随机概率测度的可接受的决定。
2016-02-03 math.ST stat.TH
Frequentist Guarantees of Distributed (Non)-Bayesian Inference
本文为通信网络上的分布式贝叶斯推断建立了后验相合性、渐近正态性和后验收缩速率等频率学派保证,并分析了通信图设计对统计效率与通信效率权衡的影响。
2025-07-05 math.ST stat.ML stat.TH
Frequentist properties of Bayesian inequality tests
本文研究单次抽取实验中非线性不等式贝叶斯检验的频率学派性质,按原假设与半空间的关系刻画其检验水平及拒绝概率,并以成本函数曲率和序数分布为例说明。
2024-07-02 econ.EM math.ST stat.ME
Blending Bayesian and frequentist methods according to the precision of prior information with an application to hypothesis testing
下面这个自然界与统计学家之间的零和博弈,将贝叶斯方法与频率论方法(如p值和置信区间)相结合。自然选择一个与一组可能的先验一致的后验分布。同时,统计学家选择一个参数分布进行推断,目标是最大化在置信分布或其他基准分布上获得的最小Kullback-Leibler信息。一个检验简单原假设的应用程序导致统计学家报告假设的后验概率,该假设由贝叶斯和频率论方法提供信息,每个方法根据先验知识的程度进行加权。由于无论是贝叶斯方法还是频率论方法在涉及部分知识的先验分布的情况下是完全令人满意的,所提出的程序减少到一个贝叶斯方法给出的先验知识,一个频率论方法给出的先验知识的完全无知,和两个方法之间的混合给出的先验知识的部分。混合方法类似于贝叶斯方法,而不是频率论方法的精确程度,先验是已知的。测试点原假设的问题说明了所提出的框架。原假设为真的混合概率等于p值或未知贝叶斯后验概率的下限,以较大者为准。因此,给定由下限0表示的完全无知,使用p值代替任何贝叶斯后验概率。在已知先验的相反极端,p值被忽略。在中间情况下,使用最接近p值的可能贝叶斯后验概率进行推断。因此,贝叶斯方法和频率论方法都会影响所做的推断。
2011-07-12 cs.IT math.IT math.ST
Semiparametric Bernstein-von Mises Theorem: Second Order Studies
本文主要研究半参数贝叶斯模型中参数分量的边缘后验分布的二阶频率论性质,特别是二阶半参数Bernstein-von Mises(BvM)定理。我们的第一个贡献是发现一个有趣的干扰现象之间的贝叶斯估计和频率论的推断精度:更准确的贝叶斯估计的滋扰功能导致更高的频率论的推断精度的参数组件。作为第二个贡献,我们提出了一类新的依赖先验下,贝叶斯推理过程的参数组件不仅是有效的,而且是自适应的(w.r.t.非参数分量的光滑性)直到二阶频率论有效性。然而,通常使用的独立先验甚至可能无法产生一个理想的根-n收缩率的参数组件在这种自适应的情况下,除非施加一些严格的假设。三个重要的类的半参数模型进行检查,并提供了广泛的模拟。
2015-03-16 math.ST stat.TH
Bayesian-motivated tests of function fit and their asymptotic frequentist properties
我们提出并分析了非参数检验的原假设,一个函数属于一个指定的参数家庭。检验是基于BIC近似,π_{BIC},零模型的后验概率,并可以在贝叶斯或频率论的方式进行。我们得到了在原假设和局部替代下π_{BIC}的渐近分布的结果。π_{BIC}的一个版本,称为π_{BIC}^*,使用一类彼此正交的模型,并且随着样本量n趋于无穷大,模型的数量无限制地增长。我们证明了在原假设下,\sqrtn(1-π_{BIC}^*)按分布收敛于一个稳定律.我们还证明了π_{BIC}^* 能以\sqrt \log n/n的速度检测到局部选择收敛到零。一个特别有趣的发现是,基于π_{BIC}^* 的检验的功效渐近等于基于备选对数似然的最大值的检验的功效。仿真结果和一个例子,涉及变星数据说明所提出的测试的理想功能。
2005-08-30 math.ST stat.TH
Bayesian Design Principles for Frequentist Sequential Learning
Columbia University(哥伦比亚大学)
本文提出基于贝叶斯原理的通用理论,通过“算法信息比”优化频率派遗憾,实现无需先验且适用于对抗性设置的算法,并在多臂老虎机等场景中达到最佳全场景性能。
2024-02-09 cs.LG math.OC math.ST
Doublethink: simultaneous Bayesian-frequentist model-averaged hypothesis testing
本文提出Doublethink方法,证明贝叶斯模型平均假设检验可强控制频率学派FWER,并同时给出后验优势比和渐近p值,通过孟德尔随机化与模拟验证其有效性。
2025-05-09 math.ST stat.ME stat.TH
Bernstein-von Mises for Adaptively Collected Data
本文首次将 Bernstein-von Mises 定理推广到自适应收集数据,证明贝叶斯 UQ 与 Wald 型频率学派 UQ 渐近等价,并揭示稳定性条件不满足时贝叶斯 UQ 并非渐近频率学派有效。
2025-11-10 math.ST stat.ML stat.TH
On the relation between frequentist and Bayesian approaches for the case of Poisson statistics
我们提出了修改后的频率论定义的情况下,泊松统计的置信区间的确定。即,我们要求1-β' \geq \sum_{n=o}^{n_{obs}+k} P(n| λ)\geq“。我们证明了这个定义等价于先验为π(λ)\sim λ^{k}的贝叶斯方法。对于非零背景的情况,我们还提出了修正的频率论定义。
2012-06-18 physics.data-an stat.ME
Objective Bayes, conditional inference and the signed root likelihood ratio statistic
分析了符号根似然比统计量的贝叶斯性质。一阶概率匹配的条件是通过检查贝叶斯后验和频率统计的手段。二阶匹配条件所示,从匹配的贝叶斯后验和频率方差的均值调整版本的签署根统计。推导并讨论了从属统计量模型中条件概率匹配的条件。
2015-03-19 math.ST stat.TH
Controlling the degree of caution in statistical inference with the Bayesian and frequentist approaches as opposite extremes
在统计实践中,是否使用贝叶斯或频率论方法进行推断不仅取决于先验信息的可用性,而且还取决于对部分先验信息的态度,频率论倾向于比贝叶斯更谨慎。拟议的框架以具体的谨慎程度界定了这种态度,从而能够在所需的谨慎程度上并根据任何先前的信息进行数据分析。谨慎参数表示对部分先验信息的态度,其方式与损失函数表示对风险的态度大致相同。当先验信息非常少且非零谨慎时,所得到的推断对应于与指定贝叶斯后验的可信区间和假设概率最相似的候选置信区间和p值。另一方面,在参数的已知物理分布的存在下,推断仅基于相应的物理后验。在先验信息可忽略或完全先验信息的极端情况下,推理不依赖于谨慎程度。在这两个极端之间的部分先验信息导致中间推理,在谨慎性高的情况下,中间推理更频繁,在谨慎性低的情况下,中间推理更贝叶斯。
2011-09-24 cs.IT math.IT math.ST
Valid and efficient imprecise-probabilistic inference with partial priors, I. First results
在贝叶斯推理和频率论推理之间,人们通常认为前者适用于有先验的情况,后者适用于没有先验的情况。但是先验/无先验分类并不是详尽的,大多数现实世界的应用程序都介于这两个极端之间。两大主流思想流派都不适合这些应用,这造成了混乱,减缓了进展。这里的一个关键观察是,“没有先验信息”实际上意味着没有先验分布可以被排除,所以经典频率论的背景最好被描述为每个先验。从这个角度来看,现在很清楚,有一个完整的上下文范围取决于什么,如果有的话,部分先验信息是可用的,贝叶斯(一个先验)和频率论(每个先验)处于相反的极端。本文将这两个框架联系在一起,正式处理这些情况下,只有部分先验信息是使用不精确概率理论。最终的结果是一个统一的框架(不精确概率)统计推断与一个新的有效性条件,这意味着两个频率主义风格的差错率控制派生程序和贝叶斯风格的一致性属性,相对于给定的部分先验信息。这个新理论包含贝叶斯和频率论框架作为特例,因为它们在相对于各自的部分先验的新意义上都是有效的。这些有效的推理模型被认为是不同的结构,并比较其效率的基础上。
2022-11-26 math.ST stat.TH
Discussion of "Impact of Frequentist and Bayesian Methods on Survey Sampling Practice: A Selective Appraisal" by J. N. K. Rao
关于J.N.“频率论和贝叶斯方法对调查抽样实践的影响:选择性评估”的讨论。K.拉奥[arXiv:1108.2356]
2011-08-19 stat.ME
Discussion of "Impact of Frequentist and Bayesian Methods on Survey Sampling Practice: A Selective Appraisal" by J. N. K. Rao
关于J.N.“频率论和贝叶斯方法对调查抽样实践的影响:选择性评估”的讨论。K.拉奥[arXiv:1108.2356]
2011-08-19 stat.ME
A possibility-theoretic solution to Basu's Bayesian--frequentist via media
本文提出一种可能性理论方案来解决 Basu 的贝叶斯–频率主义中间道路问题,论证仅靠似然无法支持可靠概率推断,并展示如何利用不精确概率的灵活性逼近似然原则。
2023-07-26 math.ST stat.ME stat.OT
Comparison Between Bayesian and Frequentist Tail Probability Estimates
该研究比较尾概率的贝叶斯与频率学派估计,借助 Jensen 不等式和 Taylor 近似给出前者偏高的充分条件,并将原因归结为分布函数的凸性。
2023-06-06 stat.ME
Being a Bit Frequentist Improves Bayesian Neural Networks
University of Tübingen(图宾根大学);MPI for Intelligent Systems, Tübingen(图宾根智能系统研究所)
尽管贝叶斯神经网络(BNN)具有令人信服的理论特性,但在基于分类的不确定性量化(UQ)任务(如分布外(OOD)检测)中,BNN往往比频率论方法表现更差。在本文中,基于先前工作中的实证研究结果,我们假设这个问题是因为即使是最近的贝叶斯方法也从未在其训练过程中考虑过OOD数据,即使这种“OOD训练”技术是最先进的频率论UQ方法的一个组成部分。为了验证这一点,我们将OOD数据作为BNN训练中的一等公民,通过探索四种不同的方式将OOD数据纳入贝叶斯推理。我们在大量的实验中表明,OOD训练的BNN与最近的频率主义基线相比具有竞争力。因此,这项工作为贝叶斯UQ的未来工作提供了强有力的基线。
2022-02-02 cs.LG stat.ML
Regularization in regression: comparing Bayesian and frequentist methods in a poorly informative situation
使用一组模拟的真实基准,我们比较贝叶斯和频率正则化方法在低信息约束下,当变量的数量几乎等于模拟和真实数据集上的观测数量时。这种比较包括基于Zellner g先验的贝叶斯变量选择的新的全局非信息方法,类似于Liang et al.(2008)。这些校准的建议的利益进行了讨论。我们提出的数值实验突出了贝叶斯正则化方法的吸引力,与非贝叶斯替代品相比。它们在频率论方法中占主导地位,因为它们提供更小的预测误差,同时以简约的方式选择最相关的变量。
2011-11-15 stat.CO stat.ME
A Unified View of False Discovery Rate Control: Reconciliation of Bayesian and Frequentist Approaches
本文探讨了贝叶斯错误发现率(FDR)控制过程和频率论控制过程之间的内在联系。我们试图提供一个统一的观点,FDR控制内和外的设置测试可交换的假设。在标准两组模型和Oracle条件下,我们证明了贝叶斯和频率论方法可以在任意水平上实现渐近等价的FDR控制。基于这一结果,我们进一步说明,严格的后拟合模型诊断是必要的和有效的,以确保强大的FDR控制参数贝叶斯方法。此外,我们表明,贝叶斯FDR控制方法是连贯的,自然扩展到设置超越测试交换假设。特别是,我们说明,$p$值不再是自然的统计工具,最佳频率FDR控制在测试不可交换的假设。最后,我们说明了由我们的理论结果激励的简单数值配方可以有效地检查贝叶斯和频率论程序中通常假设的一些关键模型假设(例如,零假设)。
2018-03-14 stat.ME
From Thomas Bayes to Big Data: On the feasibility of being a subjective Bayesian
该研究论证主观贝叶斯范式在超高维模型中不可行,指出相关贝叶斯程序实为频率主义方法,通过案例与数学证明质疑经典理论对该范式的支撑性。
2025-08-03 math.ST stat.TH
Wasserstein convergence in Bayesian and frequentist deconvolution models
本文建立联系Wasserstein距离与观测密度$L^1$距离的改进反演不等式,并据此给出贝叶斯自适应后验收敛与频率核估计极小极大结果。
2023-09-26 math.ST stat.TH
The Lindley paradox: The loss of resolution in Bayesian inference
统计学有三种主要范式:贝叶斯、频率论和基于信息的推理。虽然这些范式在某些情况下是一致的,林德利悖论描述了一类问题,未知维度的模型,其中相互矛盾的结论是由频率论和贝叶斯推理产生的。这种冲突会对科学结论产生实质性影响。因此,理解林德利悖论-它适用于何处,为什么会发生,以及如何避免-对于理解统计分析至关重要。在本文中,我们重温林德利悖论的背景下,一个简单的生物物理应用。我们描述了如何预测和postdictive模型性能的措施提供了一个自然的框架,理解林德利悖论。然后,我们确定的方法,导致最佳的实验分辨率的发现。
2017-08-16 math.ST stat.TH
Frequentist tests for Bayesian models
频率主义卡方和F检验的类比提出了贝叶斯模型的拟合优度和一致性测试。简单的例子展示了当第一个实验为第二个实验提供先验时,这些测试检测具有相同参数的连续实验之间的不一致性。在相关分析中,导出了一个定量测度,用于判断具有部分重叠参数向量的两个不同实验之间的张力程度。
2016-02-03 astro-ph.IM physics.data-an stat.ME
Unified Bayesian theory of sparse linear regression with nuisance parameters
研究了高维高斯稀疏回归中含有未知冗余参数时贝叶斯过程的频率论渐近性质。冗余参数可以是有限维、高维或无限维的。零点质量和连续分布的混合用于稀疏回归系数的先验分布,并将适当的先验分布用于冗余参数。稀疏回归系数的最佳后验收缩,阻碍了冗余参数的存在,也检查和讨论。结果表明,该过程产生强大的模型选择的一致性。稀疏回归系数的Bernstein-vonMises型定理也得到了不确定性量化通过可信集与保证频率覆盖。许多例子的渐近性质进行了研究,使用本研究中开发的理论。
2021-02-17 math.ST stat.TH
Why the Decision Theoretic Perspective Misrepresents Frequentist Inference: 'Nuts and Bolts' vs. Learning from Data
本文的主要目的是重新审视并论证R.A.的优点。费雪对频率论推理的决策理论框架的反对。有人认为,这种框架是一致的贝叶斯,但不一致的频率论推理。它提供了贝叶斯方法与理论的最佳推理,但它歪曲了理论的最佳频率论推理的框架推理仅在万能量词“的所有值θ在参数空间”。这种框架与基于模型的频率论推理的主要目标不一致,频率论推理的主要目标是从数据中学习theta(未知参数)的真实值,即产生特定数据的参数。频率论方法依赖于事实(估计,预测),以及假设(测试)推理,其主要目的是从数据中学习真实的θ。本文提出了质疑的适当性,受理和重新评估斯坦的悖论,因为它涉及到的能力,频率估计,以查明真正的θ。本文还比较了基于损失的错误与传统的频率论错误,如覆盖、I型和II型错误,前者与θ有关,而后者与推理过程本身有关。
2016-08-01 math.ST stat.ME stat.TH
Approximate confidence distribution computing
近似置信分布计算(ACDC)提供了一个新的采取迅速发展的领域的似然自由推断从频率论的框架。这种计算方法对统计推断的吸引力取决于置信分布的概念,这是一种特殊类型的估计量,是根据重复抽样原则定义的。ACDC方法为未知或难以处理的可能性问题中的计算推理提供了频率论验证。这项工作的主要理论贡献是识别的频率有效性从这种方法的推断所需的匹配条件。除了提供一个例子,如何现代的置信分布理论的理解可以用来连接贝叶斯和频率论推理范式,我们提出了一个案例,扩大目前的范围,所谓的近似贝叶斯推断,包括非贝叶斯推断的置信分布,而不是后验。这项工作的主要实际贡献是开发了一种数据驱动的方法,在贝叶斯或频率论的背景下驱动ACDC。ACDC算法通过选择依赖于数据的建议函数来进行数据驱动,该建议函数的结构非常通用并且适用于许多设置。我们探讨了两个数值例子,既验证了ACDC的发展中的理论论点,并建议ACDC优于近似贝叶斯计算方法的计算实例。
2022-10-12 math.ST stat.ME stat.TH
A Bayesian 'sandwich' for variance estimation
本文提出平衡损失函数下的贝叶斯“三明治”稳健方差估计,证明其在模型误设时仍能可靠量化参数估计变异,并通过模拟与 NHANES 数据验证。
2023-11-02 math.ST stat.ME stat.TH
Bayesian online learning in the one-pass regime: Frequentist validity and uncertainty quantification
Weierstrass Institute for Applied Analysis and Stochastics(魏尔斯特拉斯应用分析与随机性研究所);Pohang University of Science and Technology(浦项科技大学)
提出一种针对单次遍历的贝叶斯在线学习算法,通过预热阶段确保稳定更新,证明后验达到最优收敛率并建立在线Bernstein-von Mises定理,实现无需小批量样本量发散的不确定性量化。
2026-06-11 math.ST stat.ML stat.TH
Determining the Number of Non-Spurious Arcs in a Learned DAG Model: Investigation of a Bayesian and a Frequentist Approach
在许多应用领域,如计算生物学,图形模型结构学习的目标是揭示实体之间的离散关系。例如,在我们感兴趣的关于HIV疫苗设计的问题中,我们想要推断哪些HIV肽与哪些免疫系统分子(HLA分子)相互作用。对于这种性质的问题,我们感兴趣的是确定学习的图形模型中的非伪弧的数量。我们描述了一个贝叶斯和频率论的方法来解决这个问题。在贝叶斯方法中,我们使用模型结构上的后验分布来计算学习模型中真实弧的预期数量。在频率论方法中,我们提出了一种基于错误发现率概念的方法。在从与所学习的模型类似的模型生成的合成数据集上,我们发现贝叶斯和频率论方法都能准确估计非伪弧的数量。此外,我们推测,频率论方法,这是非参数,可能优于参数贝叶斯方法的情况下,学习的模型是不太代表的数据。最后,我们将频率论方法应用于艾滋病毒疫苗设计问题。
2012-06-20 cs.CE stat.AP
Frequentist-calibrated Bayesian group sequential design with dynamic borrowing
Sapienza University of Rome(罗马第一大学);McGill University(麦吉尔大学)
该研究针对临床试验设计的监管要求,提出带动态借用的贝叶斯组序贯设计,利用贝叶斯与频率学派检验的对应关系,通过数值研究及结核病预防试验验证了其性能。
2026-08-03 stat.ME
Decompounding discrete distributions: A non-parametric Bayesian approach
假设一个复合泊松过程在时间上是离散观测的,并假设其跳分布在自然数集合上是可支集的。在本文中,我们提出了一个非参数贝叶斯方法来估计潜在的泊松过程的强度和跳跃的分布。我们提供了一个MCMC计划,从后获得样本。我们将我们的方法应用于模拟和真实数据的例子,并将其性能与Buchmann和Grübel提出的频率论插件估计器进行比较。在理论方面,我们从频率论的角度研究后,并证明,作为样本量$n\rightarrow\infty$,它的合同周围的“真实的”,数据生成参数的速率$1/\sqrt{n}$,高达一个$\log n$的因素。
2020-05-20 math.ST stat.TH
Implementing Errors on Errors: Bayesian vs Frequentist
针对合并不一致实验结果时误差上的误差方法缺乏理论基础的问题,本文揭示D'Agostini的贝叶斯方法与Cowan的频率论方法存在逐参数对应及结构等价性,为引用方差不确定性建模提供统一概率框架。
2025-08-21 astro-ph.IM hep-ex hep-ph