Overview of Approximate Bayesian Computation
本章,“近似贝叶斯计算概述”,将作为即将出版的近似贝叶斯计算手册(2018)的第一章出现。它详细介绍了ABC方法背后的主要思想和概念,并附有许多示例和插图。
2018-02-27 stat.CO stat.ME stat.ML
Learned harmonic mean estimation of the Bayesian evidence with normalizing flows
本文提出基于归一化流的学习调和均值估计器,用于稳健、可扩展地计算贝叶斯证据,通过数值实验验证其与真实值及嵌套采样一致,并开源harmonic包。
2025-10-16 astro-ph.CO astro-ph.IM stat.ME
Nonlinear Bayesian Estimator for Parameter Learning: A Fixed-Point Characterization
Delft Center for Systems and Control(代尔夫特系统与控制中心);Delft University of Technology(代尔夫特理工大学)
提出一种用于Wiener型状态空间模型的非线性参数估计器,通过固定点架构耦合两个仿射最小均方误差估计器,分别估计未知参数和潜在变量,并开发两种双估计器框架,实验表明双状态-参数估计器在参数均方误差上优于其他方法。
2026-07-02 cs.LG cs.SY eess.SY
Bayesian Conditional Monte Carlo Algorithms for Sequential Single and Multi-Object filtering
贝叶斯滤波的目的是从一个观察到的过程中顺序跟踪一个隐藏的过程。特别是,序贯蒙特卡罗(SMC)技术传播的时间加权的轨迹,表示的后验概率密度函数(pdf)的隐藏过程给定的可用的意见。另一方面,条件蒙特卡罗(CMC)是一种方差缩减技术,它用给定另一个变量的条件期望来代替感兴趣时刻的估计量。在本文中,我们表明,一些适应,可以利用SMC算法的时间递归性质,以提出自然的时间CMC估计的一些点估计的隐藏过程,这优于相关的粗蒙特卡罗(MC)估计无论样本数。我们接下来表明,我们的贝叶斯CMC估计可以准确地计算,或有效地近似,在一些隐藏的马尔可夫链(HMC)模型,在一些跳跃马尔可夫状态空间系统(JMSS),以及在多目标滤波。最后通过仿真验证了算法的有效性。
2012-10-18 stat.CO
Unified PAC-Bayesian Study of Pessimism for Offline Policy Learning with Regularized Importance Sampling
CREST(CREST(法国统计研究中心));ENSAE(法国国立统计与经济管理学校);IP Paris(巴黎理工学院);Criteo AI Lab(Criteo人工智能实验室)
针对离线策略学习悲观主义缺乏统一分析框架的问题,提出全面的PAC-Bayesian框架,推导出适用于常见重要性权重正则化的泛化界,并在单一框架内比较,实证证明了标准IW正则化技术的有效性。
2024-06-05 cs.AI cs.LG stat.ML
Efficient Debiased Evidence Estimation by Multilevel Monte Carlo Sampling
ETH Zurich(苏黎世联邦理工学院);The University of Tokyo(东京大学)
在本文中,我们提出了一个新的随机最优化算法的贝叶斯推断的基础上多级蒙特卡罗(MLMC)方法。在贝叶斯统计中,模型证据的有偏估计经常被用作随机目标,因为现有的去偏技术的应用计算成本很高。为了克服这个问题,我们应用MLMC抽样技术来构造模型证据及其梯度的低方差无偏估计量。在理论分析中,我们表明,我们提出的MLMC估计估计模型的证据或其梯度与给定的精度所需的计算成本是一个数量级小于那些以前已知的估计。我们的数值实验证实了相当大的计算节省相比,传统的估计。结合我们的MLMC估计与基于梯度的随机最优化的结果在一个新的可扩展的,高效的,去偏贝叶斯统计模型的推理算法。
2021-02-24 cs.LG stat.CO stat.ML
On the use of approximate Bayesian computation Markov chain Monte Carlo with inflated tolerance and post-correction
近似贝叶斯计算允许使用模型模拟来推断具有棘手可能性的复杂概率模型。近似贝叶斯计算的马尔可夫链蒙特卡罗实现通常对容差参数敏感:低容差导致不良混合,大容差导致过度偏差。我们考虑一种方法,使用一个相对较大的公差的马尔可夫链蒙特卡罗采样器,以确保其充分的混合,和后处理的输出导致估计的范围内更精细的公差。我们引入了一个近似的置信区间相关的后校正估计,并提出了一个自适应的近似贝叶斯计算马尔可夫链蒙特卡罗,找到一个“平衡”的容忍度自动水平,接受率优化的基础上。我们的实验表明,基于后处理的估计器可以执行更好的比直接马尔可夫链瞄准一个很好的公差,我们的置信区间是可靠的,我们的自适应算法导致可靠的推理与用户规格很少。
2019-05-16 stat.CO
An efficient adaptive MCMC algorithm for Pseudo-Bayesian quantum tomography
针对伪贝叶斯量子层析中高维采样导致计算困难的问题,提出一种高效自适应MCMC采样方法,模拟显示其速度较先前实现至少提升两个数量级。
2023-09-14 stat.AP stat.CO
Multilevel rejection sampling for approximate Bayesian computation
无似然方法,如近似贝叶斯计算,是解决具有复杂似然函数的实际推理问题的有力工具。近似贝叶斯计算的马尔可夫链蒙特卡罗和序贯蒙特卡罗变体可以是在近似贝叶斯计算设置中对后验分布进行采样的有效技术。然而,如果不仔细考虑收敛标准和建议内核的选择,这种方法可能会导致非常有偏见的推理或计算效率低下的采样。相比之下,用于近似贝叶斯计算的拒绝抽样尽管计算密集,但会导致来自近似后验的独立的、相同分布的样本。提出了一种加速无似然贝叶斯推断的替代方法,该方法将多级蒙特卡罗方差缩减技术直接应用于拒绝抽样。所得到的方法保留了拒绝抽样的精度优势,同时显着提高了计算效率。
2018-02-28 stat.CO
Usefulness of the Reversible Jump Markov Chain Monte Carlo Model in Regional Flood Frequency Analysis
区域洪水频率分析是一种方便的方法,以减少估计的不确定性时,很少的数据在测量现场。在这项工作中,一个模型,允许一个非零概率区域固定的形状参数。该方法集成在贝叶斯框架内,并使用可逆跳跃技术。随机数据的性能,这个新的估计相比,其他两个模型:传统的贝叶斯分析和指数洪水的方法。结果表明,所提出的估计是绝对适合于区域估计时,只有少数数据在目标网站。此外,与指数洪水估计,目标网站指数洪水误差估计似乎有贝叶斯估计的影响较小。文中还提出了一些关于合并组配置的建议,以提高每个估计器的性能。
2008-02-04 stat.AP
Local empirical Bayes correction for Bayesian modeling
针对大规模混合分布数据不适用James-Stein估计量的问题,本研究介绍Efron(2011)提出的局部经验贝叶斯校正方法,用于校正大规模数据的选择偏倚,拓展了经验贝叶斯方法的应用场景。
2025-08-02 math.ST stat.ME stat.TH
A comparison of Bayesian and frequentist interval estimators in regression that utilize uncertain prior information
考虑一个具有回归参数β和正态分布误差的线性回归模型。假设感兴趣的参数是theta = a^T beta,其中a是指定的向量。定义参数tau = c^T beta - t,其中c和t是指定的,并且a和c是线性无关的。还假设我们有不确定的先验信息tau = 0。Kabaila和Giri,2009年,JSPI,描述了一种新的频率论1-alpha置信区间的θ,利用这种不确定的先验信息。我们比较这个置信区间与贝叶斯1-alpha等尾和最短的可信区间θ,从先验密度τ是一个混合的矩形“板”和狄拉克δ函数“尖峰”,结合非信息先验密度的模型的其他参数。我们表明,这些频率和贝叶斯区间估计依赖于数据在非常不同的方式。我们还考虑了这种先验分布,导致贝叶斯和频率区间估计更大的相似性的一些密切的变化。尽管如此,正如我们所展示的,这些区间估计量之间仍然存在很大的差异。
2014-01-14 math.ST stat.ME stat.TH
Bayesian Shrinkage Estimation of Negative Multinomial Parameter Vectors
负多项分布是负二项分布的多元推广。本文考虑了在标准化平方误差损失下,基于负多项式变量的观测值估计未知概率矩阵的问题。首先,给出了收缩估计优于UMVU估计的一般充分条件,并构造了满足该条件的经验Bayes估计。其次,介绍了一种分层收缩先验,在一定条件下,一个相关的贝叶斯估计量在UMVU估计量中占主导地位,并对后验计算给出了一些说明。最后,通过模拟比较了收缩估计和UMVU估计。
2020-10-29 math.ST stat.ME stat.TH
On Bayesian robust regression with diverging number of predictors
研究了预测变量数与观测变量数以相似速率增长时的稳健回归模型。最近,几位作者开发了这种状态下的M估计量理论[El Karoui等人,2013,Bean等人,2013,Donoho and Montanari,2013].由于M-估计无法成功地估计系数向量的欧氏范数,我们考虑了这个模型的贝叶斯框架。我们建议一个两个组件的混合物的正常的系数之前,并开发一个吉布斯采样程序从相关的后验分布采样,同时利用一个规模的混合正态表示的误差分布。不同于M-估计,建议的贝叶斯估计是一致的,在欧几里德范数意义。仿真结果表明,贝叶斯估计优于传统的估计方法。
2016-04-04 math.ST stat.ME stat.TH
Bayesian Shrinkage Approaches to Unbalanced Problems of Estimation and Prediction on the Basis of Negative Multinomial Samples
在本文中,我们处理负多项式变量的估计和预测问题,特别是考虑不平衡的设置。首先,在标准化平方误差损失下,讨论了多个负多项式参数向量的估计问题,在适当的条件下,得到了一个新的优于UMVU估计的经验Bayes估计。其次,我们考虑了Kullback-Leibler发散下多个多项式表的联合预测密度的估计,得到了关于分层收缩先验的贝叶斯预测密度优于关于Jeffreys先验的贝叶斯预测密度的一个充分条件.第三,我们提出的贝叶斯估计和预测密度在模拟中提供了风险改善。最后讨论了负多项式变量的联合预测密度的估计问题。
2021-11-19 math.ST stat.ME stat.TH
Bayesian estimators of the Gamma distribution
在本文中,我们介绍了两个贝叶斯估计学习的参数Γ分布。第一个算法使用一个众所周知的非归一化共轭先验的Gamma形状和第二个使用一个非线性近似的可能性和先验的形状是共轭的近似的可能性。在这两种情况下,使用拉普拉斯近似来计算所需的期望值。我们进行了理论上的比较,最大似然和贝叶斯算法,使我们能够提供非信息参数值的先验超参数。我们还提供了一个数值比较使用合成数据。这些新的贝叶斯估计的引入打开了包括Γ分布到更复杂的贝叶斯结构,例如变分贝叶斯混合模型的可能性。
2016-07-12 stat.ME
Bayesian Indirect Inference and the ABC of GMM
在本文中,我们提出并研究了局部线性和多项式为基础的估计实现近似贝叶斯计算(ABC)风格的间接推理和GMM估计。该方法利用非参数回归计算GMM和间接推断模型。我们提供了形式条件下,频率论推断是渐近有效的,并证明了有效性的估计后验分位数的置信区间建设。我们还表明,在这种情况下,局部线性核回归方法具有理论优势,局部常数核方法,也反映在有限样本模拟结果。我们的结果也适用于精确和过度识别的模型。这些估计器不需要依赖于数值优化或马尔可夫链蒙特卡罗(MCMC)模拟。它们提供了一个有效的补充,经典的M-估计和MCMC方法,并可以适用于基于似然模型和基于矩的模型的方法。
2020-03-12 math.ST stat.ME stat.TH
Bayesian and minimax estimators of loss
该研究针对损失估计的序贯与同步两种情形,推导了多种概率模型下的贝叶斯解与极小极大估计量,明确极小极大结果依赖于第二阶段估计量为常数的贝叶斯解性质。
2023-12-19 math.ST stat.ME stat.OT
Robust estimation in controlled branching processes: Bayesian estimators via disparities
本文关注的是贝叶斯推理方法的数据控制分支过程,占模型的鲁棒性,通过使用的差异。在正则条件下,我们证明了在假设模型下,基于概率的后验估计,如期望和最大后验估计,是相容的和有效的。此外,我们表明,估计是强大的模型误设定和存在异常离群值。为此,我们开发了几个基本的想法,最小差异估计贝叶斯估计建立在基于可靠性的后验,依赖树结构的数据。我们通过一个模拟的例子来说明我们的方法,并将我们的方法应用到一个真实的数据集从细胞动力学。
2018-02-16 stat.ME
Bayesian-based Propensity Score Subclassification Estimator
本文提出一种基于贝叶斯的倾向得分子分类估计量,利用不依赖似然函数的通用贝叶斯程序评估层数不确定性,避免选择单一最优层数,从而将设计阶段的不确定性适当纳入因果效应分析。
2024-10-19 stat.ME
Unbiased estimator for the variance of the leave-one-out cross-validation estimator for a Bayesian normal model with fixed variance
当使用留一交叉验证(LOO-CV)评估和比较模型时,估计值的不确定性通常使用抽样分布的方差进行评估。考虑不确定性很重要,因为在某些情况下估计值的变异性可能很高。Bengio和Grandvalet(2004)的一个重要结果指出,没有一般的无偏方差估计可以构建,这将适用于任何效用或损失度量和任何模型。我们表明,它是可能的,以构建一个无偏估计量考虑一个特定的预测性能的措施和模型。我们证明了一个无偏的抽样分布方差估计的贝叶斯正态模型与固定的模型方差使用预期对数逐点预测密度(elpd)效用得分。这个例子表明,它是可能的,以获得改进的,特定于问题的,无偏估计量评估LOO-CV估计的不确定性。
2022-02-15 stat.ME
Inequality Restricted Estimator for Gamma Regression: Bayesian approach as a solution to the Multicollinearity
本文研究了Gamma回归模型中参数受线性约束时的多重共线性问题。线性约束可以从先验信息中获得,以确保科学理论的有效性或基于物理现象的结构一致性。为了对模型进行相关的统计推断,应考虑关于模型参数的任何可用知识和先验信息。因此,本文提出了一种算法,以获得贝叶斯估计的伽玛回归模型的参数受到一些线性不等式的限制。通过蒙特卡罗模拟和实际数据集的应用,我们证明了所提出的估计量在相关性和准确性方面优于极大似然然估计量和岭估计量等普通估计量。
2023-03-09 stat.ME
Bayesian Inference from Composite Likelihoods, with an Application to Spatial Extremes
复合似然越来越多地用于完全似然在分析上未知或计算上禁止的应用中。虽然最大合成似然估计具有类似于通常的极大似然估计的频率论性质,但基于合成似然的贝叶斯推断还有待探索。在本文中,我们研究使用梅特罗波利斯-黑斯廷斯算法来计算基于复合似然的伪后验分布。提出了两种调整算法的方法,并使用模拟数据集和实际降雨空间极值数据研究了它们在逼近真实后验分布方面的性能。
2011-07-06 math.ST stat.ME stat.TH
Rediscovery of Good-Turing estimators via Bayesian nonparametrics
估计发现概率的问题起源于统计生态学的背景下,近年来,它已成为流行的,由于其频繁出现在遗传学,生物信息学,语言学,实验设计,机器学习等具有挑战性的应用程序。一个全方位的统计方法,参数和非参数以及频率论和贝叶斯,已经提出了估计发现概率。在本文中,我们研究了著名的古德图灵方法,这是一个频率主义的非参数方法在20世纪40年代,最近在文献中介绍的贝叶斯非参数方法之间的关系。具体而言,假设两个参数的泊松-狄利克雷先验,我们证明了贝叶斯非参数估计的发现概率是渐近等价的,对于一个大的样本量,适当地平滑好图灵估计。作为这个结果的副产品,我们介绍和调查的方法来获得准确和渐近的可信区间与发现概率的贝叶斯非参数估计。所提出的方法是说明通过一个全面的模拟研究和分析所产生的表达序列标签数据的基准互补DNA文库测序。
2015-06-16 stat.ME
A Data Driven Bayesian Graphical Ridge Estimator
贝叶斯方法在高斯图模型(GGM)估计中将精确关联优先于稀疏性,在科学文献中仍然相对较少。人们普遍认为,$\ell_2$惩罚在GGM估计中享有较小的计算足迹,而$\ell_1$惩罚鼓励被估量的稀疏性。贝叶斯自适应图形套索先验被用来作为一个出发点,在制定一个计算效率高的图形脊型先验的事件,准确的关联优先于稀疏表示。利用脊型惩罚构造了一种新的模拟精度矩阵的块吉布斯采样器。将贝叶斯图脊型先验扩展为贝叶斯自适应图脊型先验。合成实验表明,图形脊型估计享有计算效率,在中等尺寸,和数值性能,相对非稀疏精度矩阵,当比较他们的套索同行。自适应图形脊型估计应用于细胞信号数据,以推断人类T细胞信号中磷酸化蛋白质之间的关键关联。所有计算工作量都使用baygel R软件包进行。
2022-10-28 stat.ME
Bayesian estimation of a bivariate copula using the Jeffreys prior
具有连续边界的二元分布可以通过Copula及其边缘分布唯一分解。我们考虑估计Copula函数的问题,并采用贝叶斯方法。在Copula函数空间上,我们构造了一个由双随机阵参数化的有限维逼近子空间。这里的一个主要问题是选择一个先验分布的空间的双随机阵也被称为伯克霍夫多面体。本文的主要贡献是推导了一个简单的Jeffreys先验公式,并证明了它是正确的。在文献中已知,对于像这里处理的复杂问题,上述结果是难以获得的。然后通过马尔可夫链蒙特卡罗方法对Jeffreys先验的贝叶斯估计进行数值评估。进行了较为广泛的模拟实验。在许多情况下,结果有利于贝叶斯估计超过频率估计,如标准核估计和Deheuvels估计的均方误差。
2012-07-03 math.ST stat.CO stat.ME
Focused econometric estimation for noisy and small datasets: A Bayesian Minimum Expected Loss estimator approach
许多推理情形的中心是参数的有理函数的估计。统计学和计量经济学的主流估计这些数量的基础上插件的方法,而不考虑的主要目标的推理情况。我们提出了贝叶斯最小预期损失(MELO)的方法,明确关注的功能,并计算其频率变异。MELO估计量的渐近性质类似于插入式方法。然而,模拟实验表明,我们的建议是更好的情况下,其特征在于小样本量和噪声模型。此外,我们在应用程序中观察到,当数据集信息量不是很大时,我们的方法比常用的替代方法提供更低的标准误差。
2018-09-19 econ.EM stat.ME
Localized covariance estimation: A Bayesian perspective
数值天气预报中的一个主要问题是从少量样本中估计高维协方差阵。当总体维数远大于样本数时,极大似然估计不能提供可靠的估计。幸运的是,NWP从业者已经找到了巧妙的方法,通过利用相关性随空间距离衰减的假设来提高协方差估计的准确性。在这项工作中,贝叶斯统计是用来提供一个新的理由和分析的实际数值预报协方差估计。贝叶斯框架涉及操纵对称正定矩阵上的分布,它导致两个主要发现:(i)协方差阵的常用“混合估计量”具有自然的贝叶斯解释;(ii)非常常用的“舒尔乘积估计量”不是贝叶斯的,但它可以在贝叶斯框架内进行研究和理解。作为实际意义,贝叶斯框架显示了如何减少协方差估计所需的调整量,它表明有效的协方差估计应该植根于理解和惩罚条件相关性,而不是相关性。
2023-01-12 cs.NA math.NA physics.ao-ph
Bayesian Estimation of Negative Binomial Parameters with Applications to RNA-Seq Data
RNA-Seq数据通常表现出较大的方差,需要在模型中适当考虑。我们首先探讨这种变异性对负二项分布的过度分散参数的极大似然估计(MLE)的影响,并建议使用通过最大化共轭贝叶斯框架中的边际似然获得的估计。我们表明,通过模拟研究,边际极大似然估计可以更好地控制这种变化,并产生一个更稳定和可靠的估计。然后,我们制定了一个共轭贝叶斯分层模型,其中过度分散的估计是一个边缘化的估计,并使用此估计提出了贝叶斯检验,以检测差异表达的基因与RNA-Seq数据。我们使用数值研究表明,我们更简单的方法是有竞争力的与其他负二项式为基础的程序,我们使用一个真实的数据集来说明该程序的实施和灵活性。
2015-12-01 stat.ME
Bayesian Estimators for Small Area Models Shrinking Both Means and Variances
对于面积级数据的小面积估计,Fay-Herriot模型被广泛用作基于模型的方法。在Fay-Herriot模型中,通常假设抽样方差是已知的,而实际上使用的是抽样方差的估计量。因此,已知抽样方差的设置是不现实的,并提出了几种方法来克服这个问题。在本文中,我们假设的情况下,抽样方差的直接估计是可用的,以及样本均值。利用这些信息,我们提出了一个贝叶斯但客观的方法产生收缩估计的均值和方差的Fay-Herriot模型。我们考虑了样本方差的层次结构,并对模型参数设置了统一的先验,以保持模型的客观性。为了验证后验推断的有效性,我们在较弱的条件下证明了后验分布是适当的,并且具有有限的方差。我们通过模拟和实证研究来研究数值性能。
2016-04-06 stat.ME
Estimating Shapley Effects in Big-Data Emulation and Regression Settings using Bayesian Additive Regression Trees
本文提出一种基于贝叶斯加性回归树的Shapley效应估计器,适用于高维(数百维)非参数回归,并给出后验一致性理论保证及多维度测试验证。
2025-05-24 stat.ME
Unbiased estimation of log normalizing constants with applications to Bayesian cross-validation
后验分布通常具有难以处理的归一化常数,称为边缘似然或证据,这对于通过贝叶斯因子进行模型比较很有用。这激发了许多方法来估计统计学中归一化常数的比率。在计算物理学中,这些比率的对数对应于自由能差。结合无偏马尔可夫链蒙特卡罗估计与路径抽样,也称为热力学积分,我们提出了新的无偏估计量的比值归一化常数的对数。作为副产品,我们提出了贝叶斯交叉验证准则的无偏估计量。所提出的估计是一致的,渐近正态的,可以很容易地受益于并行处理设备。考虑各种示例用于说明。
2018-10-02 stat.CO stat.ME
Reconciling Bayesian and frequentist approaches to robustness against outliers
Université de Montréal(蒙特利尔大学);Université du Québec à Montréal(蒙特利尔魁北克大学)
本文通过广义贝叶斯框架弥合贝叶斯与频数派在抗异常值方法上的差异,使两者能够使用相同工具并获得一致结果。
2026-07-24 stat.ME
Optimal Instrument Selection using Bayesian Model Averaging for Model Implied Instrumental Variable Two Stage Least Squares Estimators
针对MIIV-2SLS估计器的工具变量误设检验缺乏特异性及弱工具问题,提出MIIV-2SBMA估计器,模拟显示其参数估计性能与原方法相当,且工具特异性过度识别检验检测功效更高,并通过实证示例验证了应用价值。
2024-04-16 stat.ME
Bayesian predictive densities as an interpretation of a class of Skew--Student $t$ distributions with application to medical data
本文给出了一类偏态分布--Student $t$分布的一种新的贝叶斯解释。本文考虑了协方差阵未知的分层正态模型,通过对参数空间施加不同的限制,证明了在Kullback-Leibler损失函数下相应的Bayes预测密度估计包含了一些著名的偏Student $t$分布.我们发现,所获得的估计执行更好的频率风险函数的定期贝叶斯预测密度估计。我们应用我们提出的方法来估计未来的医疗数据密度:腿长差异和运动对儿童开始走路的年龄的影响。
2018-05-24 stat.ME
Machine learning assisted Bayesian model comparison: learnt harmonic mean estimator
提出学习谐波均值估计器解决原始谐波均值估计器方差过大问题,通过引入学习目标分布最小化方差,实验证明其在宇宙学等应用中高效准确且可扩展。
2023-11-24 astro-ph.IM stat.CO stat.ME
Comparison Between Bayesian and Frequentist Tail Probability Estimates
该研究比较尾概率的贝叶斯与频率学派估计,借助 Jensen 不等式和 Taylor 近似给出前者偏高的充分条件,并将原因归结为分布函数的凸性。
2023-06-06 stat.ME
Bayesian causal inference with some invalid instrumental variables
在观察性研究中,工具变量估计被大量用于识别因果效应。工具变量估计量一致的关键条件之一是排除限制,这表明工具仅通过感兴趣的暴露变量影响感兴趣的结果。我们提出了一个似然无贝叶斯方法,使一致的因果关系的影响时,有一些无效的工具,他们违反了排除限制条件的方式进行推断。所提出的贝叶斯估计的渐近性质,包括一致性和正态性,建立。仿真研究表明,对于含有一些无效工具的高斯和非高斯数据,所提出的贝叶斯方法均能得到一致的点估计和有效的可信区间,且具有正确的覆盖率.我们还通过实际数据的应用证明了所提出的方法。
2020-06-13 stat.ME
Bayesian Analysis of the Beta Regression Model Subject to Linear Inequality Restrictions with Application
针对受线性不等式约束的广义线性模型研究不足的问题,提出Beta回归模型的贝叶斯约束估计量,经模拟和真实数据验证,其估计精度更优且无需正则化即可实现参数稀疏性。
2024-01-24 stat.CO stat.ME
Bayesian Regularization for Graphical Models with Unequal Shrinkage
Department of Statistics, University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校统计学系)
我们考虑一个贝叶斯框架估计高维稀疏精度矩阵,其中自适应收缩和稀疏性诱导的拉普拉斯先验的混合物。除了讨论我们的配方从贝叶斯的角度来看,我们调查的MAP(最大后验概率)估计从惩罚的可能性的角度来看,产生了一个新的非凸罚款近似的$\ell_0$罚款。最佳的误差率估计一致性的各种矩阵范数以及稀疏结构恢复的选择一致性的唯一MAP估计在温和的条件下。为了快速有效地计算,提出了一种期望最大化算法来计算精度矩阵的MAP估计和底层稀疏结构边缘上的(近似)后验概率。通过广泛的模拟研究和实际应用的呼叫中心数据,我们已经证明了我们的方法与现有的替代品相比,优良的性能。
2018-05-20 cs.LG math.ST stat.CO
General Bayesian inference for causal effects using covariate balancing procedure
针对观察性研究中倾向评分模型设定偏误会导致IPW估计有偏的问题,提出一种基于损失函数、无需全似然假设的概率化参数确定的通用贝叶斯因果推断方法,模拟与真实数据实验表现优异。
2025-03-20 stat.ME
Hierarchical Bayesian Estimation of Covariance Matrices
提出层次贝叶斯框架估计协方差矩阵,利用O(p)-等变性,推导出Oracle贝叶斯规则,并通过有限Pólya树先验和吉布斯采样逼近,显著优于经典估计量。
2026-06-24 stat.ME
Error Bounds Revisited, and How to Use Bayesian Statistics While Remaining a Frequentist
本文探讨了似然函数存在多峰时点估计器的可靠性问题,提出将先验重新解释为加权函数,使贝叶斯估计器在频率学派语境中具有意义,并以到达时间(TOA)问题为例,推导了不同于置信区域的基于区域的估计器理论。
2025-03-01 eess.SP stat.ME
Classical and Bayesian Analyses of a Mixture of Exponential and Lomax Distributions
在混合模型的寿命试验中,指数分布和Lomax分布被广泛应用。提出了一种指数分布与Lomax分布的混合模型。所提出的模型的参数估计使用经典和贝叶斯程序下的第一类右删失。贝叶斯估计的表达式推导出假设非信息(均匀和杰弗里斯)先验下对称和非对称损失函数。后验预测分布的未来观测的推导和预测估计。广泛的蒙特卡罗模拟进行调查性能的估计方面的样本量,删失时间和混合比例。混合模型的分析进行了使用的数据集的发射机和接收机的寿命。有趣的性质的估计进行了观察和讨论。
2020-02-25 stat.ME
Bayesian Estimators in Uncertain Nested Error Regression Models
嵌套误差回归模型是分析分组数据的有用工具,特别是在小区域估计的情况下。本文提出了一个使用不确定随机效应的嵌套误差回归模型,其中每个区域的随机效应表示为正态分布和$0$上的正质量的混合。对于模型参数的估计和随机效应的预测,通过对模型参数设置无信息的先验分布,提出了一种客观贝叶斯推断。在较弱的充分条件下,证明了后验分布的后验分布是适当的,后验方差是有限的,从而证实了后验推理的有效性。为了从后验分布生成样本,我们为所有完整的条件分布提供了具有熟悉形式的吉布斯抽样方法。本文还讨论了预测有限总体均值的问题,并提出了一种基于抽样的方法来解决这个问题。最后,通过仿真和实证研究,将该模型与传统的嵌套误差回归模型进行了比较。
2016-06-24 stat.ME
A Bayesian shrinkage estimator for transfer learning
针对正态均值和线性回归问题,提出两类先验分布的贝叶斯迁移学习方法,其中稀疏情况下的贝叶斯收缩估计量在合成数据和材料科学神经网络微调中均优于现有方法。
2024-06-05 stat.ME
Path-following methods for Maximum a Posteriori estimators in Bayesian hierarchical models: How estimates depend on hyperparameters
最大后验概率(MAP)估计,像所有的贝叶斯方法,取决于先验假设。通常选择这些假设来提升恢复估计中的特定特征。所选先验的形式决定了后验分布的形状,从而决定了估计量的行为和相关优化问题的复杂性。在这里,我们考虑一个家庭的高斯分层模型与广义伽玛超先验设计,以促进稀疏性的线性逆问题。通过改变超参数,我们在先验之间连续移动,先验充当具有灵活$p$、平滑和缩放的平滑$\ell_p$惩罚。然后,我们介绍了一个预测-校正方法,跟踪MAP解决方案的路径,超参数变化。路径跟踪允许用户探索可能的MAP解决方案的空间,并测试解决方案对先验假设变化的敏感性。通过跟踪从凸区域到非凸区域的路径,用户可以在与使用相关先验假设导出的凸松弛一致的强稀疏促进机制中找到局部最小值。我们的实验表明,这些解决方案。比非凸问题的直接优化更不容易出错。
2022-11-14 stat.ME
Model-Assisted Bayesian Estimators of Transparent Population Level Summary Measures for Ordinal Outcomes in Randomized Controlled Trials
University of Minnesota(明尼苏达大学);University of Minnesota Medical School(明尼苏达大学医学院)
本文提出了一种基于模型的贝叶斯估计方法,用于随机对照试验中有序结局的透明总体汇总测量估计,通过非比例优势模型和贝叶斯抽样实现协变量调整,以提高统计效率。
2025-12-30 stat.ME
Optimal Bayesian estimators for latent variable cluster models
在聚类分析中,兴趣在于概率性地捕获个体、项目或观察结果到组中的分区,使得属于同一组的那些共享相似的属性或关系简档。贝叶斯后验样本的潜在分配变量可以有效地获得在广泛的聚类模型,包括有限的混合,无限的混合,隐马尔可夫模型和块模型的网络。然而,由于聚类变量的分类性质和缺乏可扩展的算法,可以解释这些样本的汇总工具不可用。我们采用贝叶斯决策理论的方法来定义聚类的最优性标准,并提出了一个快速和上下文无关的贪婪算法来找到最佳的分配。我们的方法的一个重要方面是,自动选择的最佳数量的组,从而解决了聚类和模型选择的问题在同一时间。我们考虑几个损失函数比较分区,并表明我们的方法可以适应各种情况。最后,我们说明了我们的方法对各种实际数据的应用程序为三种不同的聚类模型:高斯有限混合,随机块模型和潜在的块模型的网络。
2017-03-22 stat.ME
Statistically Efficient Bayesian Sequential Experiment Design via Reinforcement Learning with Cross-Entropy Estimators
Nourish Ingredients;CSIRO’s Environment(CSIRO环境部);BIMLOGIQ;CSIRO’s Data61(CSIRO Data61)
本文提出基于交叉熵估计器的强化学习方法,用于贝叶斯序列实验设计,克服了传统期望信息增益估计的指数样本复杂度,能更准确地估计高EIG值,并支持连续/离散空间及不可微模型,从而学习更优的设计策略。
2024-02-05 cs.LG stat.ME
An alternative marginal likelihood estimator for phylogenetic models
贝叶斯系统发育方法在分子系统学领域引起了人们的极大兴趣。许多系统发育模型往往处于危险之中,不同的方法被用来比较它们在贝叶斯框架。贝叶斯因子定义为两个竞争模型的边际似然比,在贝叶斯模型选择中起着关键作用。我们专注于另一种估计的边际似然的计算仍然是一个具有挑战性的问题。已经提出了几种计算解决方案,其中没有一个可以被认为是优于其他同时在简单的实施,计算负担和精度的估计。实践者和研究人员,通常由可用的软件,特权到目前为止的简单的调和平均估计(HM)和算术平均估计(AM)。然而,它是已知的,有利于一个模型的贝叶斯证据的估计结果是有偏的,往往不准确的,直到有一个无限的方差,使相应的结论的可靠性是值得怀疑的。我们的新实现的广义调和平均(GHM)的想法从后验的MCMC模拟,共享原始HM估计的计算简单性,但与它不同的是,克服了无穷方差的问题。替代估计适用于模拟系统发育数据,并产生完全令人满意的结果优于那些简单的估计目前提供的大多数公开可用的软件。
2010-06-20 q-bio.QM stat.AP stat.CO
A Multi-fidelity Estimator of the Expected Information Gain for Bayesian Optimal Experimental Design
University of Michigan(密歇根大学)
本文提出了一种多保真度的预期信息增益估计器,用于提高贝叶斯最优实验设计中非线性模型的计算效率。
2025-09-09 stat.CO stat.ME
Bayesian bandwidth estimation for local linear fitting in nonparametric regression models
本文给出了非参数回归模型中回归函数的局部线性估计的带宽估计的贝叶斯抽样方法。在贝叶斯抽样方法中,误差密度近似为高斯密度的位置混合密度,其中平均值为个体误差,方差为常数参数。该混合密度具有误差的核密度估计器的形式,并且被称为核形式误差密度(参见,Zhang等人,2014年)。虽然Zhang等人。(2014)使用局部常数(也称为Nadaraya-Watson)估计量来估计回归函数,但我们将其扩展到局部线性估计量,从而产生更准确的估计。所提出的调查的动机是缺乏数据驱动的方法,同时选择带宽的局部线性估计的回归函数和核形式的误差密度。处理带宽作为参数,我们得到一个近似(伪)的可能性和后验。仿真研究表明,在综合平方误差准则下,该方法的带宽估计性能优于经验法则和交叉验证方法。通过一个包含公司股权集中度的非参数回归模型和一个包含国家价格密度估计的模型对所提出的带宽估计方法进行了验证。
2020-11-09 stat.CO stat.ME
A Semi-Bayesian Nonparametric Estimator of the Maximum Mean Discrepancy Measure: Applications in Goodness-of-Fit Testing and Generative Adversarial Networks
University of Hong Kong(香港大学);University of Maryland(马里兰大学)
针对难以处理似然的模型,提出半贝叶斯非参数MMD估计器用于拟合优度检验,并嵌入GAN框架,实现更低的错误率、增强样本多样性和推断准确性。
2023-11-10 cs.LG stat.AP stat.ME