Incorporating a contrast in the Bayesian formula: What consequences for the MAP estimator and the posterior distribution? Applications in spatial statistics
为了估计模型参数和规避可能遇到的困难与似然函数,我们建议取代似然公式中的后验分布的函数依赖于对比度。对比度为基础的(CB)的后验分布和MAP估计的性质进行了研究,以了解在贝叶斯公式中加入对比度的后果是什么。我们表明,所提出的方法可以用来进行频率论推断,并允许减少分析计算得到的极限方差矩阵的估计。对于特定的对比,CB-后验分布直接近似的极限分布的估计,然后避免了计算的极限方差矩阵。此外,对于这些对比,CB-后验分布也可以用于贝叶斯方式进行推断。该方法适用于三个空间数据集。
2008-04-30 math.ST stat.TH
Active pooling design in group testing based on Bayesian posterior prediction
Institute of Statistical Mathematics(统计数学研究所);The Graduate University for Advanced Science (SOKENDAI)(综合研究大学院大学(SOKENDAI))
在确定人群中的感染患者时,群体测试是减少测试次数和纠正测试错误的有效方法。在分组检测程序中,对从患者采集的样本池进行检测,样本池数量低于患者数量。群体测试的性能在很大程度上取决于池的设计和用于从测试结果推断感染患者的算法。本文在贝叶斯推断的框架下,提出了一种基于预测分布的自适应水池设计方法。所提出的方法执行使用的信念传播算法的结果在更准确地识别感染的患者,相比提前确定的随机池进行的组测试。
2020-08-19 cond-mat.stat-mech cs.LG stat.ML
Semi-Amortized Bayesian Inference with Reusable Local Posteriors
University of Amsterdam(阿姆斯特丹大学);TU Dortmund University(多特蒙德工业大学);Rensselaer Polytechnic Institute(伦斯勒理工学院)
本文提出半摊销贝叶斯推理方法,将参数分块并训练神经估计器近似各块条件后验,通过马尔可夫链交替抽样与常规更新,在高维复杂模型中实现高效贝叶斯估计。
2026-10-15 cs.LG stat.ML
Automatic Posterior Transformation for Likelihood-Free Inference
Technical University of Munich(慕尼黑工业大学)
如何在具有棘手似然性的随机模拟器上执行贝叶斯推理?最近的一种方法是使用基于神经网络的条件密度估计器从自适应提出的模拟中学习后验。然而,现有的方法限于一个狭窄的范围内的建议分布或需要重要性加权,可以限制在实践中的性能。在这里,我们提出了自动后验变换(APT),一个新的顺序神经后验估计方法,基于模拟的推理。APT可以使用任意的、动态更新的建议来修改后验估计,并且与强大的基于流的密度估计器兼容。它比以前的基于仿真的推理技术更灵活,可扩展性和效率。APT可以直接对高维时间序列和图像数据进行操作,为无似然推理开辟了新的应用。
2019-05-17 cs.LG stat.ML
The Horseshoe Estimator: Posterior Concentration around Nearly Black Vectors
在均值向量在近黑意义下稀疏的情形下,考虑了Carvalho,Polson和Scott(2010)关于多元正态均值模型的马蹄估计.我们假设频率论框架,其中数据根据固定的均值向量生成。我们表明,如果非零参数的均值向量的数量是已知的,马蹄估计达到极小极大$\ell_2$风险,可能高达一个乘法常数。我们提供的条件下,马蹄估计结合经验贝叶斯估计的非零手段的数量仍然产生极大极小风险。我们还证明了一个上界的收缩率的后验分布周围的马蹄估计,和一个下界的后验方差。这些界限表明,马蹄先验的后验分布可能比其他单分量先验(包括Lasso)的信息量更大。
2014-12-15 math.ST stat.TH
Leveraging Nested MLMC for Sequential Neural Posterior Estimation with Intractable Likelihoods
School of Mathematics, South China University of Technology(华南理工大学数学学院);Department of Statistics, Purdue University(普渡大学统计学系)
本文针对序贯神经后验估计中的APT方法,将其重构为嵌套估计问题,并提出多种多层蒙特卡洛估计器以高效估计损失及梯度,同时给出收敛性分析,数值实验验证了方法的有效性。
2025-10-15 cs.LG stat.CO stat.ML
Robust estimation in controlled branching processes: Bayesian estimators via disparities
本文关注的是贝叶斯推理方法的数据控制分支过程,占模型的鲁棒性,通过使用的差异。在正则条件下,我们证明了在假设模型下,基于概率的后验估计,如期望和最大后验估计,是相容的和有效的。此外,我们表明,估计是强大的模型误设定和存在异常离群值。为此,我们开发了几个基本的想法,最小差异估计贝叶斯估计建立在基于可靠性的后验,依赖树结构的数据。我们通过一个模拟的例子来说明我们的方法,并将我们的方法应用到一个真实的数据集从细胞动力学。
2018-02-16 stat.ME
Local estimators and Bayesian inverse problems with non-unique solutions
贝叶斯方法是解决反问题的有效方法。后验密度分布提供了未知量的有用信息。然而,对于非唯一解的问题,经典的估计如最大后验估计(MAP)和条件均值(CM)是不够的。我们引入了两个新的估计,局部极大值后验(LMAP)和局部条件均值(LCM)。他们的应用程序证明了三个反问题:反谱问题,反源问题,和反介质问题。
2021-08-27 math.ST stat.TH
Path-following methods for Maximum a Posteriori estimators in Bayesian hierarchical models: How estimates depend on hyperparameters
最大后验概率(MAP)估计,像所有的贝叶斯方法,取决于先验假设。通常选择这些假设来提升恢复估计中的特定特征。所选先验的形式决定了后验分布的形状,从而决定了估计量的行为和相关优化问题的复杂性。在这里,我们考虑一个家庭的高斯分层模型与广义伽玛超先验设计,以促进稀疏性的线性逆问题。通过改变超参数,我们在先验之间连续移动,先验充当具有灵活$p$、平滑和缩放的平滑$\ell_p$惩罚。然后,我们介绍了一个预测-校正方法,跟踪MAP解决方案的路径,超参数变化。路径跟踪允许用户探索可能的MAP解决方案的空间,并测试解决方案对先验假设变化的敏感性。通过跟踪从凸区域到非凸区域的路径,用户可以在与使用相关先验假设导出的凸松弛一致的强稀疏促进机制中找到局部最小值。我们的实验表明,这些解决方案。比非凸问题的直接优化更不容易出错。
2022-11-14 stat.ME
A theoretical framework for M-posteriors: frequentist guarantees and robustness properties
本研究提出M-后验的理论框架,证明其在温和条件下的渐近正态性与频率论一致性,通过新定义的后验影响函数和崩溃点刻画其鲁棒性,并在多类模型与数值实验中验证了理论的适用性与实证价值。
2025-10-01 math.ST stat.ML stat.TH
Hypotheses testing and posterior concentration rates for semi-Markov processes
本文采用非参数贝叶斯方法,研究了连续时间和一般状态空间半马尔可夫过程的后验分布的渐近性态。特别是,我们获得后验浓度率半马尔可夫内核。为了这项研究的目的,我们构建了强大的统计测试之间的Hellinger球周围的半马尔可夫核,并提出了一些规格的特殊情况下,包括离散时间半马尔可夫过程和有限的状态空间马尔可夫过程。本文的目的是提供充分条件先验和半马尔可夫核,使我们能够建立后验集中率。
2019-06-13 math.ST stat.TH
Structure Learning in Bayesian Networks of Moderate Size by Efficient Sampling
Iowa State University(爱荷华州立大学)
我们研究了贝叶斯模型平均方法来学习贝叶斯网络结构(DAG)的数据。我们开发了新的算法,包括第一个算法,能够有效地采样DAG根据确切的结构后验。然后,可以使用DAG样本来构建任何特征的后验估计。我们从理论上证明了我们的估计良好的性能和经验表明,我们的估计大大优于估计从以前的国家的最先进的方法。
2015-01-19 cs.AI cs.LG stat.ML
Maximum-A-Posteriori Estimates in Linear Inverse Problems with Log-concave Priors are Proper Bayes Estimators
University of Münster(明斯特大学)
本文挑战传统观点,证明在高维稀疏性促进的贝叶斯反问题中,最大后验估计是恰当的贝叶斯估计器,通过引入新的凸贝叶斯成本函数。
2014-06-02 cs.NA math.NA math.PR
On posterior distribution of Bayesian wavelet thresholding
我们调查后收敛速率小波收缩使用贝叶斯方法在一般Besov空间。而不是研究与特定损失函数相关的贝叶斯估计,我们专注于后验分布本身从非参数贝叶斯渐近的角度来看,并研究其收敛速率。我们得到相同的速度在\citet{abramovich04},其中作者研究了几个贝叶斯估计的收敛性。
2007-09-21 math.ST stat.TH
Straightforward Bayesian A/B testing with Dirichlet posteriors
针对高频 A/B 测试中联合后验构建耗时且依赖专家的问题,本研究提出使用 Dirichlet-Categorical 模型近似真实联合后验,该方法在模拟与实际场景中表现良好,已被作为标准分析方法。
2025-08-11 stat.ME
Intrinsic posterior regret gamma-minimax estimation for the exponential family of distributions
在实践中,期望具有在重新参数化下不变的估计。估计量的不变性有助于制定一个统一的解决方案的基本估计问题。在鲁棒贝叶斯分析中,一个常见的批评是最优估计在光滑重参数化下不是不变的。本文研究了内在损失函数下指数型分布族自然参数的后验遗憾gamma-minimax(PRGM)估计问题.我们证明了在Jeffrey共轭先验(JCP)分布下,PRGM估计对光滑的一对一重参数化是不变的。我们将我们的结果应用到几个分布和不同类别的JCP,以及通常的共轭先验分布。我们观察到,在许多情况下,不变的PRGM估计类的JCP分布可以得到一些修改的PRGM估计在通常的共轭先验类。此外,当先验类是凸的或依赖于一个属于连通集的超参数时,我们证明了在内在损失函数下的PRGM估计对于原先验类中的一个先验分布是Bayes的.理论结果补充了几个例子和插图。
2013-01-20 math.ST stat.ME stat.OT
Asymptotic Properties for Methods Combining Minimum Hellinger Distance Estimates and Bayesian Nonparametric Density Estimates
在频率论推断中,最小化核密度估计和参数族之间的Hellinger距离产生估计,当参数模型正确时,该估计对离群值具有鲁棒性并且具有统计效率。本文旨在扩展这些结果的使用非参数贝叶斯密度估计的差距的方法。我们提出了两个估计:一种方法是用来自随机直方图先验的期望后验密度来替换核密度估计器;另一种方法是通过随机直方图的后验来诱导参数上的后验。我们表明,它是可能的,以适应有效的影响函数从半参数模型的数学机器,以证明我们的估计是有效的意义上实现的Cramer-Rao下界。我们进一步证明了Bernstein-von-Mises的结果,我们的第二个估计表明,它的后验是渐近高斯。此外,经典的最小Hellinger距离估计的鲁棒性继续举行。
2018-12-11 math.ST stat.TH
Generalizations related to hypothesis testing with the Posterior distribution of the Likelihood Ratio
李克比的后验分布是Dempster在1974年提出的,用于简单假设与复合假设情况下的显著性检验。在这个假设检验案例中,经典频率论和贝叶斯假设检验是不可调和的,正如林德利悖论,伯杰和塞尔克在1987年和许多其他人所强调的那样。然而,Dempster表明PLR(内部阈值为1)等于简单高斯情况下的频率p值。1997年,Aitkin通过添加一个讨厌的参数扩展了这个结果,并在更一般的分布下证明了它的渐近有效性。在这里,我们扩展的PLR和频率p值之间的和解有限样本,通过一个框架类似于斯坦的定理框架中,一个可信的(贝叶斯)域等于一个置信度(频率)域。该一般协调结果仅涉及简单与复合假设检验。Aitkin在2010年和Evans在1997年提出的措施具有有趣的性质,并扩展了Dempster的PLR,但只是通过添加一个滋扰参数。在这里,我们提出了两个扩展的PLR概念的一般复合与复合假设检验。一旦后验是正确的,就可以为不正确的先验定义第一扩展。第二个扩展出现从一个新的贝叶斯型奈曼-皮尔逊引理,并强调,从贝叶斯的角度来看,LR作为一个差异变量的假设检验的作用。
2014-06-04 physics.data-an stat.ME
Goodness-of-fit testing for nonlinear inverse problems with random observations
University of Potsdam(波茨坦大学)
本文提出了一种非线性逆问题中随机观测的拟合性检验方法,通过后验收缩速率分析,建立了区分备择假设与原假设的能力,并应用于药代动力学中的常微分方程问题。
2026-02-09 math.ST stat.TH
Semiparametric posterior limits under local asymptotic exponentiality
考虑显示局部渐近指数性的半参数模型(Algimov和Has'minskii(1981)),这是与密度不连续性相关的似然性的渐近性质。我们的兴趣去估计这样的不连续性的位置,而其他方面的密度形成一个冗余参数。结果表明,在一定的模型和先验条件下,后验分布具有Bernstein-vonMises型渐近行为,极限序列为指数分布.与常规设置相反,在这种形式的不规则性下,最大似然估计是低效的。然而,基于极限后验分布的贝叶斯点估计获得了极大极小风险。因此,后验的限制行为被用来提倡贝叶斯点估计的效率,而不是将其与基于最大似然估计的频率估计程序进行比较。结果被施加到半参数LAE位置和缩放的例子。
2013-12-18 math.ST stat.TH
A Comparison of the Bayesian Posterior Probability and the Frequentist $p$-Value in Testing Equivalence Hypotheses
本文提出在TOST中使用原假设为真的贝叶斯后验概率进行等价检验,并与频率派$p$值在功效、保守性、相关性及多重检验表现上系统比较。
2025-07-25 stat.ME
Bayesian Estimators in Uncertain Nested Error Regression Models
嵌套误差回归模型是分析分组数据的有用工具,特别是在小区域估计的情况下。本文提出了一个使用不确定随机效应的嵌套误差回归模型,其中每个区域的随机效应表示为正态分布和$0$上的正质量的混合。对于模型参数的估计和随机效应的预测,通过对模型参数设置无信息的先验分布,提出了一种客观贝叶斯推断。在较弱的充分条件下,证明了后验分布的后验分布是适当的,后验方差是有限的,从而证实了后验推理的有效性。为了从后验分布生成样本,我们为所有完整的条件分布提供了具有熟悉形式的吉布斯抽样方法。本文还讨论了预测有限总体均值的问题,并提出了一种基于抽样的方法来解决这个问题。最后,通过仿真和实证研究,将该模型与传统的嵌套误差回归模型进行了比较。
2016-06-24 stat.ME
Maximum a posteriori testing in statistical inverse problems
针对统计逆问题的假设检验需求,提出最大后验检验方法,完成频率学派性质分析与功效下界推导,实验验证其在不同不适定场景下的优越性能。
2025-03-24 cs.NA math.NA math.ST
Testing for the Important Components of Posterior Predictive Variance
我们给出了后验预测方差的分解,使用总方差和条件的一个有限维离散随机变量的法律。该随机变量总结了用于形成对未来结果的预测的建模的各种特征。然后,我们测试这个分解中哪些项足够小可以忽略。这使我们能够识别哪些离散随机变量对预测区间最重要。分解中的术语允许基于条件均值和方差的解释,并且类似于方差分析中经常使用的平方误差的Cochran定理分解中的术语。因此,在完全随机化设计中,建模特征被视为因子。在有多个分解的情况下,我们建议选择一个最小方差的最佳预测覆盖率。
2022-09-01 math.ST stat.AP stat.ME
Strong maximum a posteriori estimation in Banach spaces with Gaussian priors
本文证明了在任意可分Banach空间中,一类相对于高斯先验绝对连续的后验测度具有强最大后验估计量,并放宽了贝叶斯逆问题中对数似然及空间条件,显著扩展了现有结果。
2023-11-01 math.PR math.ST stat.TH
Sparsity-promoting and edge-preserving maximum a posteriori estimators in non-parametric Bayesian inverse problems
我们考虑的逆问题恢复一个未知的功能参数$u$在可分的巴拿赫空间,从一个嘈杂的观察$y$的图像通过一个已知的可能是非线性不适定的映射${\mathcal G}$。数据$y$是有限维的,并且噪声是高斯的。我们采用贝叶斯方法来解决这个问题,并考虑Besov空间先验(见Lassas et al. 2009),这是众所周知的边缘保持和稀疏促进属性,最近引起了广泛的关注,特别是在医学成像界。我们的主要结果是表明,在这种非参数设置的最大后验(MAP)估计的特点是一个广义Onsager-Machlup功能的后验极小。对于所谓的弱和强MAP估计,这是独立完成的,正如我们在我们的上下文中所显示的那样。此外,我们证明了一种形式的弱相容性的MAP估计在无限信息的数据限制。我们的结果是显着的原因有两个:第一,先验分布是非高斯的,不满足光滑条件,在以前的研究所需的非参数MAP估计。第二,分析证明现有的使用的MAP估计在有限的,但高维离散的贝叶斯逆问题与所考虑的Besov先验。
2017-05-23 math.ST stat.TH
Posterior Contraction and Testing for Multivariate Isotonic Regression
本文考虑了具有多个预测变量和一个可加误差的非参数回归问题,其中假设回归函数是坐标非减的。提出了一种贝叶斯方法对多元单调回归函数进行推断,得到了后验收缩率,并构造了一个多元单调性的普遍一致贝叶斯检验方法.为了便于后验分析,我们暂时搁置形状的限制,并赋予一个前块常数回归函数的高度独立正态分布。误差项的未知方差由边缘最大似然估计估计或配备有逆伽马先验。然后,不受限制的块高度是后验也独立正态分布的误差方差,共轭。为了符合形状的限制,我们将样本从不受限制的后验投影到多元单调函数类上,从而产生“投影-后验分布“,用于进行推断。在一个$\mathbb{L}_1$ -度量下,我们证明了基于$n$独立样本的投影后验以最优速率$n^{-1/(2+d)}$收缩在真实单调回归函数附近.然后,我们构造了一个贝叶斯检验的多元单调性的基础上的后验概率的收缩邻域的类多元单调函数。我们表明,测试是普遍一致的,也就是说,贝叶斯检验的水平为零,在任何固定的替代品的权力去一。此外,我们表明,对于一个光滑的替代功能,电源去1,只要它的距离类的多元单调函数至少是一个光滑函数的估计误差的顺序。
2022-11-22 math.ST stat.TH
posteriordb: Testing, Benchmarking and Developing Bayesian Inference Algorithms
本文提出 posteriordb 数据库,通过120个代表性模型、数据集及参考 Monte Carlo 抽取结果,为贝叶斯推理算法提供测试、基准评测与开发支持。
2024-07-06 stat.CO
Convergence Rates for Bayesian Estimation and Testing in Monotone Regression
形状限制,如函数的单调性,通常在统计建模中自然出现。我们考虑一个贝叶斯方法的问题估计的单调回归函数和测试的单调性。我们使用分段常数函数构造一个先验分布。对于估计,这些步骤的高度的先验施加单调性是合理的,但由此产生的后验更难从理论上分析。我们考虑一个"投影后验"的方法,其中使用共轭正常的前,但单调性约束施加在后验样本的单调函数的空间上的投影映射。我们表明,由此产生的后合同在$L_1$度量下的最佳速率$n^{-1/3}$和在经验$L_p$度量下的接近最佳速率$0<p\le 2$。投影后验方法在计算上也更方便。我们还构造了一个贝叶斯检验的假设,单调性使用后验概率的收缩邻域的一组单调函数。我们表明,由此产生的测试具有普遍的一致性属性,并获得分离率,确保所产生的幂函数接近1。
2020-08-03 math.ST stat.TH
Sticking the Landing: Simple, Lower-Variance Gradient Estimators for Variational Inference
University of Toronto(多伦多大学)
我们提出了一个简单的和一般的变分证据下界的标准重参数梯度估计的变种。具体地说,我们删除了一部分的总导数相对于变分参数,对应于得分函数。去除这一项会产生一个无偏的梯度估计,其方差接近零,因为近似后验接近精确后验。我们从理论和经验上分析了这种梯度估计的行为,并将其推广到更复杂的变分分布,如混合物和重要性加权后验。
2017-05-28 cs.LG stat.ML
Instance-Optimal Compressed Sensing via Posterior Sampling
University of Texas at Austin(德克萨斯大学奥斯汀分校)
我们从一个已知的先验分布提取的信号的压缩感知的测量复杂性的特征,即使当支持的先验是整个空间(而不是,说,稀疏向量)。我们表明,高斯测量和\emph{any}先验分布的信号,后验抽样估计达到近最佳的恢复保证。此外,只要分布估计(例如,从可逆生成模型)接近Wasserstein距离的真实分布。我们使用Langevin动力学实现了深度生成先验的后验采样估计器,并根据经验发现它比MAP产生更多样的准确估计。
2021-06-21 cs.IT cs.LG math.IT