Convergence of Pseudo-Bayes Factors in Forward and Inverse Regression Problems
在关于模型比较的贝叶斯文献中，贝叶斯因子起着主导作用。在经典的统计文献中，模型选择标准通常是用交叉验证的思想设计的。Geisser和Eddy（1979）将贝叶斯因子和交叉验证的思想结合起来，创建了伪贝叶斯因子。交叉验证的使用灌输了几个理论上的优势，计算简单性和数值稳定性的贝叶斯因子的边缘密度的整个数据集被替换为产品的交叉验证密度的个别数据点。然而，伪贝叶斯因子的流行仍然是可以忽略不计的贝叶斯因子相比，在理论研究和实际应用。在这篇文章中，我们建立了几乎必然指数收敛的伪贝叶斯因子的大样本下的一般设置下的相依数据和模型误设定。我们特别关注一般参数和非参数回归设置在正向和反向的上下文中。我们用各种例子说明我们的理论结果，提供明确的计算。我们还补充了我们的渐近理论与模拟实验在小样本情况下的泊松对数回归和几何logit和probit回归，另外解决变量选择问题。我们考虑线性和非参数回归建模的高斯过程为我们的目的。我们的模拟结果提供了相当有趣的见解伪贝叶斯因子在正向和反向设置中的使用。
2020-06-10 math.ST stat.ME stat.TH
Uncertainty in Neural Networks: Approximately Bayesian Ensembling
University of Cambridge（剑桥大学）
理解神经网络（NN）预测的不确定性对于许多目的都是至关重要的。贝叶斯框架为此提供了一种原则性的方法，但是由于大量的参数和数据，将其应用于NN是具有挑战性的。集成神经网络提供了一种易于实现的，可扩展的不确定性量化方法，然而，它被批评为不是贝叶斯。这项工作提出了一个修改通常的过程中，我们认为确实会导致近似贝叶斯推断;正则化参数的值从一个分布，可以设置为等于先验。在一个简化的设置程序的理论分析表明，恢复后的中心是正确的，但往往有一个低估的边际方差，高估的相关性。然而，有两个条件可以导致准确的恢复。我们认为，这些条件是部分存在于NN。实验结果表明，它具有优于标准集成，并与变分方法的竞争力。
2020-02-26 cs.LG stat.ML
General Robust Bayes Pseudo-Posterior: Exponential Convergence results with Applications
虽然贝叶斯推理在包括统计学家在内的很大一部分科学家中是一种非常流行的范式，但大多数应用都考虑了客观的先验知识，需要进行严格的调查（Efron，2013，Science）。虽然它有几个最佳的属性，贝叶斯推理的一个主要缺点是缺乏对数据污染和模型错误指定的鲁棒性，这在使用客观先验时变得有害。本文给出了一种能产生稳健推断的Bayes伪后验分布的一般形式。在一般的参数设置下建立了与新的伪后验估计和相应的Bayes估计相关的指数收敛结果，并对独立平稳和非齐次模型进行了说明.几个额外的细节和属性的过程中描述，包括固定设计回归模型下的估计。
2020-09-10 math.ST stat.ME stat.TH
Pseudo-marginal Bayesian inference for supervised Gaussian process latent variable models
School of Engineering, University of Warwick, UK（华威大学工程学院，英国）；Warwick Center for Predictive Modelling, University of Warwick, UK（华威大学预测建模中心，英国）；Department of Statistics, University of Warwick, UK（华威大学统计系，英国）；Division of Translational Medicine, Warwick Medical School, UK（华威医学院转化医学部，英国）；Dept of Clinical Biochemistry, Division of Pathology, University Hospital Coventry and Warwickshire, Coventry, UK（考文垂和华威郡大学医院病理学部临床生物化学系，考文垂，英国）
我们引入了一个贝叶斯框架的推理与监督版本的高斯过程潜变量模型。该框架克服了隐变量和超参数之间的高度相关性，通过使用无偏伪估计的边缘似然近似集成的潜变量。这是用来构建一个马尔可夫链，探索超参数的后验。我们演示了模拟和真实的例子，显示其捕获的超参数和改进的不确定性量化预测相比，变分推断的不确定性和多模态的能力的过程。
2018-03-28 cs.LG stat.ML
Pseudo-Bayesian Optimization
Columbia University（哥伦比亚大学）
本文提出伪贝叶斯优化公理化框架，提炼黑箱优化收敛的最小要求，并利用局部回归与随机先验构造出在合成实验、超参数调优和机器人应用中均优于现有基准的算法。
2025-02-04 cs.LG stat.ML
Subsampled Pseudo-posteriors for Scalable Bayesian Moment-condition Inference
Hong Kong University of Science and Technology（香港科技大学）
针对矩条件下贝叶斯伪推断的两大障碍，本文提出子采样伪后验方法，通过小批量伪后验聚合结合矩函数控制变量，近似全数据伪后验并降低计算成本。
2026-09-07 math.ST stat.TH
Pseudo-Bayesian unit level modeling for small area estimation under informative sampling
本文提出一种伪贝叶斯单元级小区域估计方法，通过纳入抽样权重处理信息性抽样，并引入后处理重缩放步骤校准可信集，从而在真实与模拟数据上获得接近名义覆盖率的估计结果。
2023-09-21 stat.ME
Bayesian Inference for Gaussian Process Classifiers with Annealing and Pseudo-Marginal MCMC
核方法已经彻底改变了模式识别和机器学习领域。然而，他们的成功，关键取决于内核参数的选择。以高斯过程（GP）分类为例，研究了基于马尔可夫链蒙特卡罗（MCMC）方法的协方差（核）参数的贝叶斯推断。其动机是，与核参数的标准优化相比，它们已被系统地证明在量化预测中的不确定性方面具有优越性。最近，伪边缘MCMC方法已被提出作为GP模型的实用推理工具。特别是，它的金额在替代分析棘手的边际似然由近似方法和重要性抽样获得的无偏估计。在讨论了重要性抽样的潜在缺陷后，本文提出了退火重要性抽样的应用。实验结果表明，与重要性抽样相比，退火重要性抽样能以多项式的计算代价指数地减小边缘似然估计的方差.实际数据的结果表明，采用退火重要性抽样的伪边缘MCMC方法代表了一个步骤，在GP模型的全自动精确推理引擎的发展。
2014-05-26 stat.ME stat.ML
Pseudo-Bayesian Quantum Tomography with Rank-adaptation
量子态层析成像是量子信息处理中的一项重要任务，其目的是从预先准备好的测量数据中重建一个状态。贝叶斯方法被认为是估计量子态\cite{blume2010optimal}的一种可靠的方法。数值计算结果表明，在$1$ -量子比特状态恢复问题中，贝叶斯估计与其他方法相当，甚至优于其他方法。然而，在$n$量子比特的一般情况下选择先验分布的问题并不简单。更重要的是，贝叶斯类型估计的统计性能还没有从理论的角度进行研究。在本文中，我们提出了一种新的量子态（密度矩阵）的先验，我们定义的密度矩阵的伪贝叶斯估计。然后，使用PAC-Bayesian定理，我们推导出后验均值的收敛速度。这些估计的数值性能进行了测试模拟和真实的数据集。
2016-10-10 math-ph math.MP math.ST
Pseudo Bayesian Mixed Models under Informative Sampling
当随机效应与样本设计变量相关时，采用单个调查权重（构造为与单位调查包含概率成反比）来形成伪似然的常用方法不再产生渐近无偏推断。我们构造了一个加权指数公式的随机效应分布，实现无偏推理生成超参数的随机效应。我们将我们的方法与依赖于数值积分的频率论方法进行对比，发现只有贝叶斯方法才能实现抽样设计分布的无偏估计和人口生成分布的一致性。我们的模拟和真实数据的商业机构的调查的例子表明，我们的方法在不同的建模配方和抽样设计的效用。这项工作作为最近的发展努力，结合传统的调查估计方法与贝叶斯建模范式的顶点，并提供了一个跨越两个丰富的，但不同的子领域的桥梁。
2021-08-24 stat.ME
Pseudo-Bayesian Optimal Designs for Fitting Fractional Polynomial Response Surface Models
Unesp（圣保罗州立大学）；King’s College London（伦敦国王学院）
针对分数多项式响应曲面模型的参数高效估计设计难题，本文采用Gilmour和Trinca 2012年提出的方法，求取多种该类模型的贝叶斯最优精确设计，并与多种标准设计展开对比。
2025-10-28 stat.ME
Bayesian Pseudo Posterior Mechanism under Asymptotic Differential Privacy
我们提出了一个贝叶斯伪后验机制来生成记录级的合成数据库配备了$(ε,δ)-$概率差分隐私（pDP）的保证，其中$δ$表示的概率，任何观察到的数据库超过$ε$。伪后验机制采用数据记录索引的、基于风险的权重向量，其权重值为$\in [0, 1]$，该权重值对用于模型估计的高风险记录的可能性贡献进行了外科手术式的降权，并生成用于公开发布的记录级合成数据。伪后验合成器在对数伪似然效用函数下使用该记录的Lipschitz界为每个数据记录构造权重，该对数伪似然效用函数概括了用于构造正式私有数据生成机制的指数机制（EM）。通过选择权重来去除具有非有限对数似然值的似然贡献，我们保证了我们的伪后验机制在每个样本量的有限局部隐私保证。我们的研究结果可以应用到\emph{any}合成模型所设想的数据传播者在计算上易于处理的方式，只涉及估计的伪后验分布的参数，$θ$，不像最近的方法，使用自然界的效用函数，通过EM实现。我们指定温和的条件，保证渐近收缩的$δ$到$0$在数据库的空间。我们说明了我们的伪后验机制敏感的家庭收入变量从消费者支出调查数据库公布的美国劳工统计局。我们表明，由于我们使用了有针对性的降权，与EM相比，我们的伪后验机制在合成数据中更好地保留了效用，这两种机制都使用相同的非私有合成器进行估计。
2021-08-13 stat.ME
Bayesian sandwich posteriors for pseudo-true parameters
在模型误指定下，MLE通常收敛于伪真参数，该参数对应于模型内最接近数据从中采样的分布的分布。在许多问题中，伪真参数对应于感兴趣的总体参数，因此错误指定的模型可以为该参数提供一致的估计。此外，著名的三明治方差公式Huber（1967）提供了一个渐近准确的抽样分布的最大似然估计，即使在模型误设。然而，基于夹心方差估计的置信区间对于低样本量可能表现不佳，部分原因是使用了插入式方差估计。从贝叶斯的角度来看，干扰参数的插件估计通常低估了未知参数中的不确定性，并且对这些参数进行平均有望提供更好的性能。考虑到这一点，我们提出了一个贝叶斯三明治后验分布，其可能性是基于三明治抽样分布的极大似然估计。这种贝叶斯方法允许将先验信息的参数的利益，平均超过不确定性的滋扰参数，是渐近稳健的模型误设定。在一个小的模拟研究估计的回归参数下异方差，增加准确的先验信息和平均的滋扰参数都被认为是提高精度和校准的置信区间的参数。
2012-11-01 stat.ME
Scalable Bayesian Structure Learning for Gaussian Graphical Models Using Marginal Pseudo-likelihood
针对高斯图模型贝叶斯学习可扩展性差的问题，提出基于边际伪似然的连续时间与离散时间MCMC算法，实现千节点图的高效后验探索，兼具理论保证与计算优势。
2025-08-27 stat.CO stat.ME stat.ML
Efficient Bayesian inference for exponential random graph models by correcting the pseudo-posterior distribution
指数随机图模型是数据统计分析的重要工具。然而，这些模型的贝叶斯参数估计是极具挑战性的，因为后验分布的评估通常涉及到一个棘手的归一化常数的计算。这一障碍促使人们考虑对似然函数的易处理的近似，例如伪似然函数，它提供了一种构造这种近似的方法。我们称之为伪后验的简单实现是用伪后验分布代替后验分布中的似然函数，这可能会产生误导性的推论。我们提供了实际的指导方针，以纠正这样的伪后验分布的样本，使其近似分布的目标后验分布，并讨论了计算和统计效率，从这种方法产生的。我们通过对现实世界图表的分析来说明我们的方法。与Caimo和Friel（2011）的近似交换算法进行了比较，然后进行了总结。
2017-05-04 stat.CO
Using stacking to average Bayesian predictive distributions
广泛推荐的贝叶斯模型平均化过程在M开放设置中存在缺陷，在该设置中，真实的数据生成过程不是被拟合的候选模型之一。我们从点估计文献中提取堆叠的思想，并推广到预测分布的组合，将效用函数扩展到任何合适的评分规则，使用Pareto平滑重要性抽样来有效地计算所需的留一后验后验分布，并进行正则化以获得更大的稳定性。我们比较堆叠的预测分布的几个替代方案：堆叠的手段，贝叶斯模型平均（BMA），伪BMA使用AIC型加权，和一个变种的伪BMA是稳定的使用贝叶斯引导。基于模拟和实际数据应用，我们建议叠加预测分布，当计算成本成为问题时，BB-伪BMA作为近似替代方案。
2017-09-16 stat.CO stat.ME
Bayesian jackknife empirical likelihood with complex surveys
提出贝叶斯刀切经验似然方法分析不等概率抽样调查数据，证明其渐近正态性，用于构建置信区间，数值研究表明其优于传统方法。
2023-09-13 stat.ME
Bayesian Inference for Discrete Markov Random Fields Through Coordinate Rescaling
University of Amsterdam（阿姆斯特丹大学）
本文提出了一种基于坐标重新缩放的采样方法，用于提高离散马尔可夫随机场中贝叶斯推断的效率和准确性。
2026-10-02 stat.ME
Pseudo Label Selection is a Decision Problem
Ludwig-Maximilians-Universität (LMU)（路德维希-马克西米利安大学（慕尼黑大学））
本文将伪标签选择建模为决策问题，提出贝叶斯框架 BPLS，并用贝叶斯最优的伪后验预测准则及多目标效用函数缓解确认偏差、提升稳健性。
2023-09-26 cs.LG stat.ME stat.ML
Bayesian analysis of restricted mean survival time adjusted for covariates using pseudo-observations
本文提出一种结合伪观测与广义矩方法的新型贝叶斯方法，无需建模生存函数即可估计协变量调整的RMST，模拟与前列腺癌III期试验验证其有效性、精度及可解释性。
2025-03-27 stat.AP stat.ME
Bayesian Pseudo Posterior Mechanism for Differentially Private Machine Learning
RTI International（RTI国际研究所）；U.S. Bureau of Labor Statistics（美国劳工统计局）
提出SWAG-PPM，一种基于伪后验分布的差分隐私机制，通过按披露风险降权记录，在高度不平衡数据上优于DP-SGD，仅适度降低效用。
2025-03-27 cs.CR cs.LG stat.ML
Pseudo Bayesian Estimation of One-way ANOVA Model in Complex Surveys
针对复杂调查中的单向方差分析模型，提出两种调查加权伪后验估计方法，在满足关键条件下实现渐近无偏估计，并与频率学派方法对比。
2023-05-12 stat.ME
MMD-Bayes: Robust Bayesian Estimation via Maximum Mean Discrepancy
CREST（Crest研究中心）；ENSAE（法国国立统计与经济管理学院）；Institut Polytechnique de Paris（巴黎理工学院）；RIKEN Center for AI Project（理化学研究所人工智能项目中心）
在某些错误指定的设置中，贝叶斯统计中的后验分布可能导致不一致的估计。为了解决这个问题，已经建议用伪似然代替似然，伪似然是享受适当鲁棒性特性的损失函数的指数。在本文中，我们建立了一个伪似然最大均值离散的基础上，定义通过嵌入的概率分布到再生核希尔伯特空间。我们表明，这种MMD-Bayes后验是一致的和强大的模型误设定。由于以这种方式获得的后验可能是棘手的，我们还证明了合理的变分近似后享有相同的属性。我们提供的随机梯度算法来计算这些变分近似的细节。数值模拟确实表明，我们的估计是更强大的误指定比的基础上的可能性。
2019-12-11 cs.LG math.ST stat.ML
Bayesian Uncertainty Estimation Under Complex Sampling
社会和经济研究通常作为复杂的调查设计来实施。例如，联邦统计机构所利用的多阶段、不相等的概率抽样设计通常被构造为最大化目标域水平估计器的效率（例如，按地理区域编制索引）。此类设计可能会导致采样单元之间的依赖性;例如，采用选择按地理索引的单元集群的采样步骤。采样加权伪后验分布可用于估计观察样本的总体模型。在共同聚类单元之间引起的依赖性膨胀了所得到的伪后验协方差阵的规模，其已被证明在可信度集的覆盖下引起。通过将贝叶斯模型误指定和调查抽样的结果桥接，我们证明了在简单随机抽样下，伪极大似然估计、伪后验估计和极大似然估计之间的渐近分布的尺度和形状是不同的。通过调查抽样方差估计和计算方法的最新进展的见解，我们设计了一个校正应用作为一个简单而快速的后处理步骤MCMC绘制的伪后验分布。该调整投影伪后验协方差阵，使得近似实现标称覆盖。我们提出了一个应用程序的全国调查药物使用和健康作为一个激励的例子，我们证明了我们的规模和形状的投影程序的合成数据的调查设计的几个常见的原型的功效。
2019-07-29 stat.ME
Bayesian Pseudo Posterior Synthesis for Data Privacy Protection
统计机构利用模型合成响应级别的数据，作为实际数据记录的替代方案向公众发布。贝叶斯模型合成器通过采用分层先验构造来编码隐私保护，该分层先验构造引起真实数据分布的平滑。由于研究人员和数据分析师的许多可能用途，合成响应级数据记录通常比汇总数据表更受欢迎。各机构在综合数据的效用与披露风险之间进行权衡，并在发布综合数据集之前为披露风险设定具体的目标阈值。我们引入了一个伪后验似然，它通过（0，1）中的观察记录索引权重对每个贡献进行指数化，定义为与合成数据中该记录的披露风险成反比。我们使用的向量的权重允许更精确的降权的高风险记录的方式，更好地保留效用相比，使用标量权重。我们说明了我们的方法与模拟研究和应用程序的消费者支出调查的美国劳工统计局。我们演示了如何频率的一致性和不确定性量化的影响，由逆风险加权。
2020-05-15 math.ST stat.AP stat.ME
Bayesian model selection for exponential random graph models via adjusted pseudolikelihoods
具有难处理的似然函数的模型出现在包括网络分析和空间统计学的领域，特别是涉及吉布斯随机场的那些领域。后验参数估计在这些设置中被称为双重棘手的问题，因为似然函数和后验分布是棘手的。贝叶斯模型的比较通常基于统计证据，即模型参数上的非标准化后验分布的积分，这种积分很少以封闭形式提供。对于双重棘手的模型，估计证据增加了另一层难度。因此，在用于网络分析的指数随机图模型集合中选择最能描述观察到的网络的模型是一项艰巨的任务。伪似然提供了一个易于处理的近似的可能性，但应谨慎对待，因为他们可能会导致不合理的推断。本文指定了一种方法来调整pseudolikelihoods，以获得一个合理的，但听话的，近似的可能性。这允许实现广泛使用的计算方法的证据估计和追求贝叶斯模型选择指数随机图模型的分析社交网络。与现有方法的实证比较表明，我们的程序产生类似的证据估计，但在较低的计算成本。
2017-10-19 stat.CO
Mechanisms for Global Differential Privacy under Bayesian Data Synthesis
本文提出将贝叶斯合成模型转化为差分隐私机制的新方法，通过截断似然与向量加权伪后验机制结合，在最小化后验失真的同时实现严格的非渐近全局差分隐私保证。
2023-08-03 stat.ME
PABO: Pseudo Agent-Based Multi-Objective Bayesian Hyperparameter Optimization for Efficient Neural Accelerator Design
Purdue University（普渡大学）；Oak Ridge National Laboratory（橡树岭国家实验室）
深度神经网络（DNN）不断增加的计算成本以及对DNN加速的节能硬件的需求使得DNN的准确性和硬件成本协同优化变得非常重要，特别是对于边缘设备。由于大的参数空间和在搜索空间中评估每个参数的成本，DNN超参数的手动调整是不切实际的。自动联合DNN和硬件超参数优化是必不可少的这样的问题。基于贝叶斯优化的方法在DNN的超参数优化方面已经显示出了有希望的结果。然而，这些技术中的大多数都是在没有考虑底层硬件的情况下开发的，从而导致设计效率低下。此外，少数作品进行联合优化是不可推广的，主要集中在基于CMOS的架构。在这项工作中，我们提出了一种新的基于伪代理的多目标超参数优化（PABO），以最大限度地提高DNN的性能，同时获得低硬件成本。与现有的方法相比，我们的工作提出了一种理论上不同的方法，用于精度和硬件成本的联合优化，并专注于基于忆阻交叉杆的加速器。PABO使用一个管理代理建立网络精度和硬件成本要求的后验高斯分布模型之间的连接。该代理通过消除不必要的计算和更新的采集功能，从而实现显着的加速优化过程，降低了协同优化问题的数学复杂性。PABO输出了一个帕累托边界，强调了设计高精度和硬件效率之间的权衡。我们的研究结果表明，与最先进的方法相比，在准确性和计算速度方面（约100倍的速度）都具有优越的性能。
2019-06-11 cs.ET cs.LG cs.NE
Conjugate Bayesian Unit-level Modeling of Count Data Under Informative Sampling Designs
单位一级的调查数据模型与地区一级的模型相比有许多优点，例如有可能进行更精确的估计和具有自然的基准属性。然而，在这种情况下出现两个主要的挑战：会计信息调查设计和处理非高斯数据类型。伪似然方法是前者的一种解决方案，而共轭多元分布理论提供了后者的解决方案。通过结合这些方法，我们获得了一个单位级的计数数据模型，占信息抽样设计，并包括完全贝叶斯模型的不确定性传播。重要的是，共轭全条件分布在伪似然下成立，从而产生计算效率极高的方法。我们的方法说明了通过一个实证模拟研究，使用计数数据从美国社区调查公共使用的微观数据样本。
2019-10-15 stat.ME
A Bayesian Approach to Joint Estimation of Multiple Graphical Models
高维数据中多个图模型的联合估计问题已经在统计学和机器学习文献中进行了研究，因为它在包括分子生物学、神经科学和社会科学在内的各个领域都很重要。这项工作开发了一种贝叶斯方法，该方法将多个图形模型中的模型参数分解为模型和边缘子集之间的共享组件以及特殊组件。此外，它利用了一种新的多变量先验分布，再加上一个伪似然，使快速计算，通过一个强大的和有效的吉布斯抽样计划。我们建立了强后验一致性的模型选择，以及估计模型参数的高维尺度下的变量的数量与样本量呈指数增长。所提出的方法的有效性说明合成和真实数据。关键词：伪似然，吉布斯抽样，后验一致性，组学数据
2019-07-02 stat.ME
Robust and Efficient Bayesian Inference for Non-Probability Samples
随着非结构化数据的广泛使用，概率调查的响应率下降，导致越来越多的研究非概率样本。现有的鲁棒方法对于非高斯结果没有很好的发展，并且在存在有影响力的伪权重的情况下可能表现不佳。此外，他们的方差估计缺乏一个统一的框架，往往依赖于渐近理论。为了解决这些差距，我们提出了一种替代贝叶斯方法，使用部分线性高斯过程回归，利用一个预测模型与一个灵活的函数的伪包含概率来估算的结果变量的参考调查。通过效率，我们不仅意味着计算的可扩展性，而且还相对于方差的优越性。我们还表明，高斯过程回归的行为作为一个内核匹配技术的基础上估计的倾向得分，这产生了双重的鲁棒性和降低敏感性有影响力的伪权重。使用模拟的后验预测分布，可以直接量化的不确定性的建议估计，并得出相关的$95\%$可信区间。我们评估我们的方法在两个模拟研究的重复采样特性。本研究的应用处理建模计数数据下的非概率样本设置不同的曝光。
2022-03-27 stat.AP stat.ME
Approximate cross-validation formula for Bayesian linear regression
Tokyo Institute of Technology（东京工业大学）；Hiroshima University（广岛大学）
交叉验证（CV）是一种基于给定数据集评估统计模型/学习系统能力的技术。尽管其广泛的适用性，相当沉重的计算成本可以阻止其使用的系统规模的增长。为了解决贝叶斯线性回归的情况下，这个困难，我们开发了一个公式，用于估计留一法CV误差近似没有实际执行CV。开发的公式的有用性进行了测试的统计力学分析的合成模型。这一点也通过应用于真实世界的超新星数据集得到了证实。
2016-10-25 cs.LG stat.ML
Bayesian inference for spatio-temporal hidden Markov models using the exchange algorithm
针对时空隐马尔可夫模型因潜变量联合分布难以估计的问题，提出一种基于自逻辑模型扩展的时空隐马尔可夫模型，并在贝叶斯框架下采用近似交换算法进行推断，规避了不可计算的归一化常数，提高了参数估计的准确性。
2025-09-18 stat.CO stat.ME
Representative dietary behavior patterns and associations with cardiometabolic outcomes in Puerto Rico using a Bayesian latent class analysis for non-probability samples
本文提出WOLCAN方法，将BART生成的伪权重整合进贝叶斯潜在类别分析以处理非概率样本选择偏倚，并应用于波多黎各PROSPECT数据，识别出外出就餐模式与2型糖尿病、高血压和高胆固醇血症风险升高相关。
2025-03-10 stat.AP stat.ME
A Divide-and-Conquer Bayesian Approach to Large-Scale Kriging
我们提出了一个三步分而治之的战略贝叶斯范式，提供了巨大的可扩展性，任何空间过程模型。我们将数据划分为大量的子集，应用一个现成的贝叶斯空间过程模型的每个子集，在并行，并优化组合的后验分布估计在所有的子集到一个伪后验分布的条件下，对整个数据。组合的伪后验分布代替全数据后验分布，用于预测任意位置处的响应以及用于对模型参数和空间表面的推断。基于分布式贝叶斯推断，我们的方法被称为“分布式克里格法”（DISK），并提供了巨大的优势，在海量数据的应用程序中，完整的数据存储在多台机器上。我们从理论上证明了贝叶斯$L_2$ -风险的DISK后验分布实现了接近最优的收敛速度，估计真实的空间表面与各种类型的协方差函数，并提供上限的子集的数量作为一个完整的样本量的函数。DISK的无模型特性通过在具有平稳满秩和非平稳低秩高斯过程（GP）先验的空间过程模型中的尺度后验计算来证明。各种模拟和太平洋海表温度数据的地质统计学分析验证了我们的理论结果。
2019-06-12 stat.ME
Consistency of the Bayesian Information Criterion for Model Selection in Exploratory Factor Analysis
Institute of Mathematics for Industry, Kyushu University（九州大学产业数学研究所）；Department of Mathematical and Physical Sciences, La Trobe University（拉筹伯大学数理科学院）
本文研究了在固定维度的探索性因子分析中，贝叶斯信息准则（BIC）在固定有限协方差类中的模型选择一致性，证明了在参数不规范情况下，BIC在伪真实因子顺序下强一致。
2026-04-09 math.ST stat.TH
Wasserstein Gaussianization and Efficient Variational Bayes for Robust Bayesian Synthetic Likelihood
针对贝叶斯合成似然（BSL）的正态分布假设偏差及统计量兼容性需求，结合Wasserstein高斯化变换、鲁棒BSL与高效变分贝叶斯，提出一种高效可靠的无似然近似贝叶斯推断方法。
2024-08-15 stat.CO stat.ML
Bayesian computation for high-dimensional Gaussian Graphical Models with spike-and-slab priors
Università della Svizzera Italiana（瑞士意大利语大学）；Monash University（莫纳什大学）；Universitat Pompeu Fabra（庞培法布拉大学）；Barcelona School of Economics（巴塞罗那经济学院）
研究高维高斯图形模型的贝叶斯计算，提出完全贝叶斯算法，包括块内吉布斯 - 梅特罗波利斯 - 黑斯廷斯算法和全局提议，可扩展到高维，给出混合边界和成本边界，扩展了精确贝叶斯推断的适用性。
2026-07-21 stat.ME
Bayesian heterogeneous copula mixtures with nonparametric margins: consistency, identifiability and tail asymmetry in physical fitness data
Shanghai University of Sport（上海体育大学）
本研究提出两阶段贝叶斯伪后验方法估计copula混合模型，证明其一致性与可识别性，并在体能数据中发现尾部不对称模式，优于高斯copula。
2026-10-07 stat.AP stat.CO stat.ME
Bayesian Pairwise Estimation Under Dependent Informative Sampling
信息性抽样设计导致选择包含概率与感兴趣的响应变量相关的单位。对所得观察样本进行的模型推断将对群体生成模型产生偏倚。产生渐近无偏推断的一种方法采用边际包含概率来形成采样权重，该采样权重用于对伪似然的每个似然贡献取指数，该伪似然用于形成伪后验分布。后验一致性条件将适用的抽样设计限制为两两包含依赖性渐近限制为0的设计。有许多抽样设计不受此限制;例如，对家庭内的个人进行抽样的多阶段设计。把每个家庭看作一个人口，个人之间的依赖性并没有减弱。在本文中，我们提出了一个更有针对性的方法推理集中在对个人或抽样单位，例如，物质使用的一个配偶在一个共同的家庭，条件是物质使用的另一个配偶。我们制定的伪似然权重的基础上成对或二阶概率和证明的一致性，删除渐近独立的要求，并取代它与高阶选择概率的限制。我们的方法提供了一个几乎自动化的估计过程，适用于数据分析师指定的任何模型。我们展示了我们的方法在全国药物使用和健康调查。
2017-10-27 stat.ME
Anisotropic multidimensional smoothing using Bayesian tensor product P-splines
我们介绍了一个高效的全贝叶斯方法各向异性多维平滑。在这种情况下的主要挑战是平滑参数的马尔可夫链蒙特卡罗更新，因为它们的完整条件后验包含一个初看起来很难处理的伪行列式。因此，大多数现有的实现仅对于二维张量积平滑的估计在计算上是可行的，然而，这对于许多应用来说过于限制。在本文中，我们打破这一障碍，并推导出封闭形式的对数伪行列式及其一阶和二阶偏导数的表达式。这些表达式对于任意维数都是有效的，并且非常有效地进行评估，这使我们能够建立一个有效的MCMC采样器，并对平滑参数进行自适应Metropolis-Hastings更新。我们研究了不同的先验平滑参数，并讨论了低维效应，如一维主效应和二维相互作用的有效推导。我们表明，建议的方法优于以前的建议，在文献中的准确性，可扩展性和计算成本，并证明其适用性考虑说明温度数据的例子，从时空统计。
2022-11-29 stat.CO stat.ME
Learning Approximately Objective Priors
信息贝叶斯先验通常很难引出，当这种情况下，建模者通常转向非信息或客观先验。然而，客观的先验，如杰弗里斯和参考先验是不听话的，以获得许多模型的利益。我们解决这个问题，提出了学习参考先验近似的技术：我们选择一个参数的家庭和优化的黑盒下限的参考先验目标，找到家庭的成员，作为一个很好的近似。实验证明了该方法的有效性，通过恢复Jeffreys先验和学习变分自动编码器的参考先验。
2017-08-04 stat.CO stat.ML
The Dependence of Routine Bayesian Model Selection Methods on Irrelevant Alternatives
贝叶斯方法--基于贝叶斯因子或BIC --现在被广泛用于模型选择。任何模型选择方法可能合理要求的一个属性是，如果模型${M}_{1}$优于模型${M}_{0}$，则当这两个模型被表示为一个模型类$\mathbb{M}$的成员时，当它们被嵌入到不同的类$\mathbb{M}'$中时，该偏好被保留。然而，我们在本文中说明，这些常见的贝叶斯程序的通常实施，这个属性不成立，甚至近似。因此，我们主张，要使用这些方法，首先需要存在一个“自然”嵌入类。我们认为，在任何情况下，如在我们运行的例子贝叶斯模型选择的二元系统发育树，没有这样的嵌入。
2012-08-17 math.ST stat.ME stat.TH
Marginal Pseudo-Likelihood Learning of Markov Network structures
本文提出马尔可夫网络结构的边际伪似然学习方法，通过边际化冗余参数实现自动正则化，并证明估计量一致性，实验显示优于现有流行推理方法。
2014-11-11 stat.ML
Bayesian Estimation Under Informative Sampling
贝叶斯分析在社会科学和其他应用领域越来越受欢迎，其中数据是从信息样本中观察到的。信息性抽样设计导致与感兴趣的响应变量相关的包含概率。由于样本数据中的信息平衡与总体数据中的信息平衡不同，因此，对于信息抽样下的总体生成模型，对从总体中采集的观察样本进行的模型推断将存在偏倚。在贝叶斯估计下解释信息性抽样设计的典型方法通常难以实现，因为它们需要对假设的生成模型进行重新参数化，或者专注于设计，而不是基于模型的推理。我们建议构造一个伪后验分布，利用基于边缘包含概率的采样权重来指数化每个采样单元的似然贡献，从而将样本中的信息加权回总体。我们的方法提供了一个几乎自动化的估计过程，适用于任何模型指定的数据分析人员的人口，并保留人口模型参数化和后验抽样几何。我们构造的条件，已知的边际和成对包含概率，定义一类抽样设计的伪后验的$L_{1}$一致性得到保证。我们证明了我们的方法上的应用程序有关的劳工统计局职位空缺和劳动力流动率调查。
2016-06-03 math.ST stat.ME stat.TH
A Bayesian semiparametric model for semicontinuous data
当目标变量表现出非连续行为（即单一值中的点质量和其他地方的连续分布）时，参数“两部分回归模型”得到了广泛的使用和研究。本文提出了一个处理这类变量的半参数贝叶斯两部分回归模型。该模型允许使用Dirichlet过程的模型的两个部分的半参数表达式。一个激励的例子（在“小面积估计”框架）的基础上，在托斯卡纳葡萄酒生产的伪真实数据，用于评估模型的能力。结果表明，当参数假设（分布和/或关系）不合理时，所建议的方法对连续数据进行建模和预测具有令人满意的性能。
2014-08-13 stat.ME
Risk-Efficient Bayesian Data Synthesis for Privacy Protection
统计机构利用模型来综合答复者一级的数据，以便向公众发布，以保护隐私。在这项工作中，我们有效地诱导隐私保护到任何贝叶斯合成模型，通过采用伪似然指数每个可能性贡献的观察记录索引的权重在[0，1]，定义为成反比的识别风险的记录。我们从记录的识别风险的边际概率开始，它由记录的身份可能被披露的概率组成。我们对美国劳工统计局消费者支出调查（CE）的应用表明，轻微风险调整的合成器提供了整体改善的隐私保护;然而，由于加权后隔离度增加，在风险调整的伪后验估计合成后，一些中等风险的记录的识别风险实际上增加了;我们将这种现象称为“打地鼠”。我们继续从与其他记录的成对识别风险概率的集合中为每个记录构建权重，其中每个成对概率测度重新识别该对记录的联合概率，这减轻了打地鼠问题，并产生了一组更有效的合成数据，其对于CE数据具有更低的风险和更高的效用。
2021-02-08 stat.AP stat.ME
Bayesian Estimation of Variance under Fine Stratification via Mean-Variance Smoothing
Florida International University（佛罗里达国际大学）；Keio University（庆应义塾大学）
本文提出了一种基于惩罚样条的非参数方法，用于细分层调查中无偏估计方差，通过均值-方差平滑提升估计精度。
2026-03-03 stat.AP stat.CO stat.ME
Forecasts with Bayesian vector autoregressions under real time conditions
本文研究了预测性能指标的敏感性，采取实时与伪样本外的角度来看。我们使用美国（US）和欧元区（EA）的月度年份，并估计一组具有恒定和时变参数（TVP）和随机波动率（SV）的不同大小的向量自回归（VAR）模型。我们的研究结果表明，点和密度预测的模型性能的相对顺序的差异取决于是否实时数据或截断的最终年份在伪样本模拟用于评估预测。没有明显优于规格为美国或EA跨变量类型和预测范围可以确定，虽然较大的模型，具有TVP似乎是受影响最小的缺失值和数据修订。我们发现，无论是为美国还是EA制作预测，业绩指标都存在重大差异。
2020-04-10 econ.EM stat.AP
High-dimensional Ising model selection with Bayesian information criteria
我们考虑使用贝叶斯信息标准的选择的图形基础的伊辛模型。在伊辛模型中，每个变量的完整条件分布形成逻辑斯谛回归模型，回归的变量选择技术允许识别每个节点的邻域，从而识别整个图。我们证明了高维的一致性结果，这种伪似然图选择的方法时，使用贝叶斯信息准则的变量选择问题的逻辑斯谛回归。结果涉及到的稀疏性和相关的先前工作的信息标准，我们认为将一个明确的先验，鼓励稀疏的情况。
2015-03-05 math.ST stat.TH
Bayesian model choice and information criteria in sparse generalized linear models
我们考虑高维广义线性模型中的贝叶斯模型选择，协变量p的数量相对于样本量n较大，但稀疏的是，与p相比，活动协变量的数量较小。将协变量视为随机变量，并采用p随n增加的渐近情景，我们表明，贝叶斯模型选择使用一定的先验模型的集合是渐近等价的选择模型使用扩展的贝叶斯信息准则。此外，我们证明了最小的真模型是由这两种方法的概率趋于1。在解决了随机协变量后，我们还能够为高维稀疏图形建模的伪似然方法给出一致性结果。真实数据的实验表明，良好的性能的扩展贝叶斯信息准则的回归和图形模型。
2011-12-23 math.ST stat.TH
Semi-Supervised Learning guided by the Generalized Bayes Rule under Soft Revision
Ludwig-Maximilians-Universität (LMU)（路德维希-马克西米利安大学 (LMU)）
本文研究了半监督学习中带软修正的Gamma-Maximin伪标签选择方法，利用credal集合表示不确定性并形式化为优化问题，实验表明该方法在标记数据比例低时表现优异。
2024-06-04 cs.AI cs.LG math.ST
Empirical PAC-Bayes Bounds for Markov Chains
本文提出了一种基于马尔可夫链伪谱间隙的经验PAC-Bayes界，解决了传统界中依赖未知常数的问题，并通过实验验证了其有效性。
2026-03-11 cs.LG stat.ML
PAC-Bayes Bounds for Meta-learning with Data-Dependent Prior
元学习算法通过利用以往任务的经验，在遇到新任务时能够实现有效的快速适应能力。然而，尚不清楚泛化属性如何应用于新任务。概率近似正确贝叶斯界理论为元学习的泛化性能分析提供了一个理论框架。基于PAC-Bayes相对熵界，我们推导出了三个新的元学习泛化误差界。此外，使用经验风险最小化（ERM）方法，一个PAC贝叶斯界的元学习与数据相关的先验。实验结果表明，提出的3种元学习PAC-Bayes界具有较好的泛化性能，而基于数据相关先验的扩展PAC-Bayes界具有快速收敛能力.
2021-02-07 cs.LG stat.ML
