Consistency of Bayes factor for nonnested model selection when the model dimension grows
Zellner的$g$ -先验是正态回归模型中模型选择问题的一种常用先验选择。Wang和Sun [J. Statistist.计划Inference 147（2014）95-105]最近采用了这种先验，并为$g$设置了一个特殊的超先验，这导致了嵌套线性模型比较的贝叶斯因子的封闭形式表达式。他们已经证明，在非常一般的条件下，当两个竞争模型具有$O(n^τ)$阶时，贝叶斯因子是一致的，对于$τ<1$和对于$τ=1$，除了原假设周围的一个小的不一致区域外，几乎是一致的。本文研究了具有增长参数的非嵌套线性模型的Bayes因子相合性。其中一些结果推广了嵌套线性模型的Bayes因子的结果。具体来说，我们比较了文献中提出的贝叶斯因子和内在贝叶斯因子之间的渐近行为。
2016-06-06 math.ST stat.TH
Reconciling Binary Replicates: Beyond the Average
针对二元重复观测中平均值法的局限，提出中位数、最大惩罚似然估计和贝叶斯算法三种替代方法，理论分析与模拟及真实医学数据表明其能提升诊断准确性与患病率估计。
2025-01-23 stat.ME
Bayesian model averaging with the integrated nested Laplace approximation
贝叶斯推断的集成嵌套拉普拉斯近似（INLA）是估计贝叶斯分层模型参数和潜在效应的后验边缘分布的有效方法，该模型可以表示为潜在高斯马尔可夫随机场（GMRF）。作为GMRF的表示允许相关软件R-INLA在一小部分时间内估计后边缘作为典型的马尔可夫链蒙特卡罗算法。INLA可以通过贝叶斯模型平均（BMA）来扩展，以增加可以拟合条件潜在GMRF的模型数量。在本文中，我们回顾了使用BMA与INLA，并提出了一个新的例子空间计量经济学模型。
2019-11-02 stat.CO stat.ME
PolyStan: PolyChord nested sampling and Bayesian evidences for Stan models
PolyStan将PolyChord嵌套采样算法集成到Stan中，提供黑盒方法处理多模态分布采样和边际似然计算，并在退化与多模态问题上验证了其稳健性。
2025-05-23 physics.data-an stat.CO
Separate Exchangeability as Modeling Principle in Bayesian Nonparametrics
University of Torino（都灵大学）；Collegio Carlo Alberto（卡洛阿尔贝托学院）；Genentech（基因泰克）；University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文主张在贝叶斯非参数推断中将分离可交换性作为建模原则，讨论了其定义、两类实现模型（嵌套随机划分和回归模型）及其在实际数据中的应用。
2026-06-16 math.ST stat.ME stat.TH
Margins of discrete Bayesian networks
具有潜在变量的贝叶斯网络模型在统计学和机器学习中有着广泛的应用。在本文中，我们提供了一个完整的代数特征的贝叶斯网络模型的潜变量时，观察变量是离散的，没有假设的状态空间的潜变量。我们表明，它是代数等价的所谓的嵌套马尔可夫模型，这意味着这两个是相同的不等式约束的联合概率。特别是这两个模型具有相同的尺寸。因此，嵌套马尔可夫模型是潜在变量模型的最佳可能描述，避免了考虑一般极其复杂的不等式。其结果是Tian和Pearl（UAI 2002，pp 519 -527）的约束发现算法对于发现等式约束是完备的。潜变量模型存在参数不可识别和非正则渐近的困难;相反，嵌套马尔可夫模型是完全可识别的，表示已知维度的弯曲指数族，并且可以很容易地使用显式参数化进行拟合。
2017-01-30 math.ST stat.ML stat.TH
Solving Bayesian Risk Optimization via Nested Stochastic Gradient Estimation
在本文中，我们的目标是解决贝叶斯风险优化（BRO），这是最近提出的框架，制定输入不确定性下的模拟优化。为了有效地解决BRO问题，我们推导了嵌套随机梯度估计，并提出了相应的随机逼近算法。我们证明了我们的梯度估计是渐近无偏的和一致的，并且算法是渐近收敛的。我们证明了双边市场模型的算法的实证表现。我们的估计是独立的兴趣，随机梯度估计的情况下，嵌套的风险函数的文献。
2020-07-16 math.OC stat.CO
sanba: An R Package for Bayesian Clustering of Distributions via Shared Atoms Nested Models
本文提出R包sanba，基于共享原子嵌套混合模型解决分组数据的贝叶斯聚类与密度估计问题，提供MCMC和变分推断算法，核心用C++实现，兼顾大规模数据下的计算效率与易用性。
2025-08-13 stat.CO
Bayesian Modeling of Air Pollution Extremes Using Nested Multivariate Max-Stable Processes
捕捉空间区域内多种空气污染物峰值浓度之间潜在的强相关性对于评估相关的公共健康风险至关重要。为了研究大气污染极值的多元空间相关性，我们引入了一类新的多元极大稳定过程。我们提出的模型承认一个层次树为基础的配方，其中的数据是有条件的独立给定一些潜在的嵌套$α$稳定的随机因素。分层结构有利于贝叶斯推断，并提供了一个方便和可解释的表征。我们拟合这个嵌套的多变量最大稳定模型的最大值的空气污染浓度和温度记录在洛杉矶地区的一些网站，表明该模型成功地捕捉到他们复杂的尾部依赖结构。
2018-03-18 stat.AP
Spatial Bayesian Hierarchical Modelling with Integrated Nested Laplace Approximation
我们认为潜在的高斯场建模空间依赖的背景下，空间点模式和面积数据，提供两个不同的应用。利用随机偏微分方程，建立了描述希腊地震序列的非齐次对数高斯Cox过程模型。Besag-York-Mollie模型适用于意大利北部Covid-19感染的疾病映射。这两个模型都属于贝叶斯分层模型类的潜在高斯字段，其后验是不可用的封闭形式。因此，使用集成嵌套拉普拉斯近似执行推断，该集成嵌套拉普拉斯近似为感兴趣的后验量提供准确且相对快速的分析近似。
2020-09-08 stat.AP
Bayesian Estimators in Uncertain Nested Error Regression Models
嵌套误差回归模型是分析分组数据的有用工具，特别是在小区域估计的情况下。本文提出了一个使用不确定随机效应的嵌套误差回归模型，其中每个区域的随机效应表示为正态分布和$0$上的正质量的混合。对于模型参数的估计和随机效应的预测，通过对模型参数设置无信息的先验分布，提出了一种客观贝叶斯推断。在较弱的充分条件下，证明了后验分布的后验分布是适当的，后验方差是有限的，从而证实了后验推理的有效性。为了从后验分布生成样本，我们为所有完整的条件分布提供了具有熟悉形式的吉布斯抽样方法。本文还讨论了预测有限总体均值的问题，并提出了一种基于抽样的方法来解决这个问题。最后，通过仿真和实证研究，将该模型与传统的嵌套误差回归模型进行了比较。
2016-06-24 stat.ME
Priors for second-order unbiased Bayes estimators
The University of Tokyo（东京大学）；RIKEN Center for Advanced Intelligence Project（理化学研究所先进智能研究中心）；RIKEN Center for Brain Science（理化学研究所脑科学中心）
本文提出了一种用于非独立同分布模型的渐近无偏贝叶斯估计器构造方法，并通过模拟验证其在小样本中的有效性。
2025-08-11 math.ST stat.ME stat.TH
Locally Adaptive Bayes Nonparametric Regression via Nested Gaussian Processes
本文提出了一种嵌套高斯过程（nGP）作为贝叶斯非参数回归的局部自适应先验。通过一组随机微分方程（SDEs）指定，nGP对函数的$m$阶导数施加高斯过程先验。嵌套是通过包括局部瞬时均值函数来实现的，该局部瞬时均值函数是从另一个高斯过程中提取的，该过程诱导对局部变化平滑度的自适应性。我们讨论了再生核Hilbert空间的闭包对nGP先验的支持，并考虑了后验的理论性质。后验均值下的nGP事先被证明是相当于一个嵌套的惩罚平方和的最小值，涉及罚款的整体和局部粗糙度的功能。使用高效的马尔可夫链蒙特卡罗的后验推理，所提出的方法在模拟研究相比，几个替代方案，并可扩展到大量的数据，说明通过蛋白质组学应用。
2012-01-20 stat.ME
Bayesian Covariance Structure Modeling of Multi-Way Nested Data
提出一种用于多向嵌套数据的贝叶斯多元协方差结构模型，通过平移-逆伽马先验保证正定性，结合Gibbs抽样与数据增强提升计算效率，并应用于分析不同支架治疗患者的不良事件差异。
2022-01-25 stat.ME
The nested Chinese restaurant process and Bayesian nonparametric inference of topic hierarchies
我们提出了嵌套中国餐馆过程（nCRP），一个随机过程，分配概率分布的无限深，无限分支的树。我们展示了如何这个随机过程可以被用来作为一个先验分布的贝叶斯非参数模型的文档集合。具体来说，我们提出了一个应用程序的信息检索中，文件被建模为路径下的随机树，优先附件动态的nCRP导致聚类的文件，根据共享的主题在多个层次的抽象。给定文档的语料库，后验推理算法找到树、主题和词到树的级别的分配上的后验分布的近似。我们证明了这种算法的科学摘要从几种期刊的集合。该模型体现了统计机器学习的一个最新趋势--使用贝叶斯非参数方法来推断灵活数据结构上的分布。
2009-08-27 stat.ML
Parallelized integrated nested Laplace approximations for fast Bayesian inference
随着数据可用性的提高和模型参数空间的高维化，对大规模贝叶斯推断任务的需求日益增长。在这项工作中，我们提出了并行化策略的方法集成嵌套拉普拉斯近似（INLA），一个流行的框架进行近似贝叶斯推断的类潜在高斯模型。我们的方法利用嵌套的OpenMP并行，并行线搜索过程中使用强大的回归INLA的优化阶段和最先进的稀疏线性求解器PARDISO。我们利用算法中相互独立的函数评估以及高级稀疏线性代数技术。通过这种方式，我们可以灵活地利用当今多核架构的强大功能。我们展示了我们的新的并行化方案在一些不同的现实世界中的应用程序的性能。并行性的引入导致所有较大模型的加速比为10倍或更多。我们的工作已经集成到当前版本的开源R-INLA包中，使其改进的性能方便地提供给所有用户。
2022-04-10 cs.DC stat.CO
Proximal nested sampling for high-dimensional Bayesian model selection
本文提出近端嵌套采样方法，结合嵌套采样与近端MCMC技术，用于高维贝叶斯成像模型选择，可处理维度达10^6以上的非光滑对数凹模型，并在高斯模型和多种成像问题上验证了其有效性。
2022-09-09 astro-ph.IM stat.ME
Integrated Nested Laplace Approximation for Bayesian Nonparametric Phylodynamics
群体动态学是群体遗传学和群体遗传学的交叉领域，其目标是从遗传数据中重建群体大小动态。最近，一系列的非参数贝叶斯方法已经提出了这样的人口重建。这些方法依赖于基于高斯过程的先验规范，并通过马尔可夫链蒙特卡罗（MCMC）方法近似种群大小轨迹的后验分布来进行。在本文中，我们采用集成嵌套拉普拉斯近似（INLA），最近提出的近似贝叶斯推断的潜在高斯模型，人口规模的轨迹估计。我们表明，当一个家谱的采样个人可以可靠地估计从遗传数据，INLA享有高精度，可以完全取代MCMC。我们证明了显着的计算效率超过国家的最先进的MCMC方法。我们说明了INLA为基础的人口规模推断使用模拟和家谱的丙型肝炎和人类流感病毒。
2012-10-16 q-bio.PE stat.AP
Consistency of Bayesian procedures for variable selection
人们早就知道，对于成对嵌套模型的比较，基于贝叶斯因子的决策会产生一致的模型选择器（在频率论意义上）。在这里，我们超越了通常的嵌套成对模型的一致性，并表明，对于广泛的一类先验分布，包括内在先验，相应的贝叶斯程序的变量选择在正态回归是一致的，在整个类的正常线性模型。我们发现，贝叶斯因子的渐近性的内在先验是等价的Schwarz（BIC）准则。此外，回想一下Jeffreys-Lindley悖论是指一个众所周知的事实，即当共轭先验的方差趋于无穷大时，正态均值参数上的一个点原假设总是可以接受的。这意味着某些极限形式的真先验分布不一定适合于检验问题。内在先验是适当的先验分布的限制，有限的样本量，他们已被证明表现非常好的回归变量选择的结果是，内在先验林德利悖论不会出现。
2009-04-20 math.ST stat.TH
Fitting logistic multilevel models with crossed random effects via Bayesian Integrated Nested Laplace Approximations: a simulation study
拟合具有二进制响应的交叉分类多水平模型具有挑战性。在这种情况下，一个有前途的方法是贝叶斯推断通过集成嵌套拉普拉斯近似（INLA），它在几个潜变量模型中表现良好。因此，我们设计了一个系统的模拟研究，以评估INLA的性能与交叉分类的logistic数据下定义的随机效应方差的大小，观察的数量，集群的数量，和交叉分类的程度不同的情况下。在模拟中，INLA与流行的极大似然法通过拉普拉斯近似进行了系统的比较。通过对经典蝾螈交配数据的应用，我们比较了INLA与最佳性能的方法。考虑到计算速度和一般良好的性能，INLA原来是一个有价值的方法来拟合所考虑的交叉分类模型。
2016-07-20 stat.CO
A Generalized Framework for Multiscale State-Space Modeling with Nested Nonlinear Dynamics: An Application to Bayesian Learning under Switching Regimes
School of Complex Adaptive Systems（复杂适应系统学院）；Arizona State University（亚利桑那州立大学）
本研究提出含嵌套非线性动力学的多尺度状态空间建模通用框架，开发贝叶斯学习方法结合粒子滤波估计潜状态与切换指示变量，可有效跟踪多尺度系统状态转移并识别切换动力学。
2024-10-30 cs.CE cs.LG eess.SP
Bayesian models for missing and misclassified variables using integrated nested Laplace approximations
本文提出将INLA与重要性采样结合以拟合含误分类协变量的贝叶斯模型，并展示直接使用INLA处理误分类响应变量的方法，通过模拟和真实数据验证了有效性。
2024-11-25 stat.ME
Estimating the marginal likelihood with Integrated nested Laplace approximation (INLA)
边际似然是贝叶斯统计学中一个公认的模型选择准则。它还允许有效地计算边缘后验模型概率，该概率可用于对感兴趣的量进行贝叶斯模型平均。然而，对于许多复杂的模型，包括潜在建模方法，边缘似然性难以计算。最近一个有前途的方法近似的边缘可能性是集成嵌套拉普拉斯近似（INLA），设计的模型与潜在的高斯结构。在这项研究中，我们比较了近似与INLA获得一些不同复杂性的例子上的替代方法。特别是，我们讨论了简单的线性潜在模型、贝叶斯线性回归模型、具有probit和logit链接的逻辑贝叶斯回归模型以及Poisson纵向广义线性混合模型。
2016-11-04 stat.CO
Conditional distributions for the nested Dirichlet process via sequential imputation
针对嵌套狄利克雷过程后验分布计算复杂的问题，提出基于序贯插补的新方法，以高效确定条件分布。
2025-10-09 math.PR math.ST stat.TH
On Quantification of Borrowing of Information in Hierarchical Bayesian Models
本文通过非渐近框架和积分风险度量，系统研究了层次贝叶斯模型中共享超参数对信息借用的影响，并给出了更深层次模型优于嵌套模型的充分必要条件。
2025-09-22 math.ST stat.ME stat.ML
Scalable Bayesian computation for crossed and nested hierarchical models
本文针对交叉随机效应和嵌套多级贝叶斯分层模型，提出计算复杂度随数据量和参数量线性增长的采样算法，并通过理论分析和真实数据实验验证其相比哈密顿蒙特卡洛的显著性能优势。
2023-10-05 stat.CO stat.ME
On statistical uncertainty in nested sampling
嵌套抽样已经成为贝叶斯分析的一个有价值的工具，特别是用于确定贝叶斯证据。该方法是基于一个特定类型的随机抽样的似然函数和先验体积的参数空间。我研究的统计不确定性的证据计算嵌套抽样。我研究了Skilling（2004，2006）的不确定性估计，并在详细分析嵌套抽样统计特性的基础上引入了一个新的估计。这两种方法在测试用例中表现良好，并且可以在不增加计算成本的情况下获得证据中的统计不确定性。
2011-02-04 astro-ph.IM stat.CO
A Common Atom Model for the Bayesian Nonparametric Analysis of Nested Data
使用高维数据进行靶向治疗干预需要新的方法来表征特定人群亚组间观察到的异质性。特别是，部分可交换数据的模型需要嵌套数据集上的推理，其中假设观察被组织在不同的单位和一些共享的信息是需要学习的单位的独特功能。在本文中，我们提出了一个嵌套的公共原子模型（CAM），特别适合于嵌套数据集的分析，其中单元的分布预计只会在从每个单元采样的一小部分观测值上有所不同。建议的CAM允许在分布和观测水平的两层聚类，并通过使用计算效率高的嵌套切片采样器算法进行可扩展的后验推理。我们进一步讨论了如何扩展所提出的建模框架以处理离散测量，并对来自饮食交换研究的真实微生物组数据集进行后验推断，以研究肠道微生物群组成的改变如何与不同的饮食习惯相关联。我们进一步研究我们的模型在捕捉真实的分布结构的人口通过模拟研究的性能。
2020-08-17 stat.AP stat.ME
Nested Gaussian filters for recursive Bayesian inference and nonlinear tracking in state space models
我们引入了一种新的顺序方法来校准的固定参数和跟踪的状态空间系统的随机动态变量。所提出的方法是基于嵌套混合滤波（NHF）框架[1]，它结合了两层滤波器，一个在另一个里面，以计算静态参数和状态变量的联合后验概率分布。特别是，我们探讨了使用确定性采样技术的高斯近似在第一层的算法，而不是在原来的程序中采用的蒙特卡罗方法。由此产生的计划降低了计算成本，使算法可能更好地适用于高维状态和参数空间。我们描述了一个具体的例子，新的方法，然后研究其性能和效率的随机Lorenz 63模型与不确定参数的算法。
2021-03-23 stat.CO
Inference for Trans-dimensional Bayesian Models with Diffusive Nested Sampling
许多推断问题涉及从数据集$\mathcal{D}$推断某些区域中的组件的数量$N$以及它们的属性$\{\mathbf{x}_i\}_{i=1}^N$。一个常见的统计例子是有限混合模型。在贝叶斯框架中，这些问题通常使用以下两种方法之一来解决：i）通过执行蒙特卡罗算法对于$N$的每个可能值，计算一次（诸如嵌套采样），并且计算作为$N$的函数的边际似然或证据;或ii）通过进行允许模型尺寸$N$改变的单次运行（例如具有出生/死亡移动的马尔可夫链蒙特卡罗），并直接获得$N$的后验。在本文中，我们提出了一个通用的方法来解决这个问题，使用跨维MCMC嵌入在嵌套采样算法，使我们能够探索后验分布和计算的边际似然（合计超过$N$），即使问题包含一个相变或其他困难的功能，如多模态。我们提出了两个例子的问题，在嘈杂的数据中找到正弦信号，并在嘈杂的天文图像中找到和测量星系。这两个例子都展示了似然和累积先验质量之间关系的相变，强调了嵌套采样的必要性。
2015-01-14 astro-ph.IM physics.data-an stat.CO
Robust Hierarchical Bayes Small Area Estimation for Nested Error Regression Model
许多国家的国家统计机构现在被授权为按地理和（或）人口划分的小区域编制人口、收入、失业、健康结果等重要变量的可靠统计数据。由于这些地区的样本量较小，直接基于样本的估计往往不可靠。基于模型的小面积估计现在被广泛用于通过适当的模型从其他地区和相关变量“借用力量”来生成可靠的统计数据。离群值对基于标准模型的小面积估计值产生不利影响。为了处理离群值，Sinha和Rao（2009）提出了一种鲁棒的频率论方法。在这篇文章中，我们提出了一个强大的贝叶斯替代嵌套误差回归模型的单位级数据，以减少离群值。我们考虑了一个两个组件的混合比例的正态分布的单位水平的误差模型离群值，并提出了一种计算方法，以产生贝叶斯预测的小面积平均值下的非信息先验模型参数。一个真实的例子和广泛的模拟令人信服地表明我们的贝叶斯预测离群值的鲁棒性。模拟比较这两种方法与Datta和Ghosh（1991）的贝叶斯预测和Chambers等人（2014）的M分位数估计的结果表明，当存在离群值时，我们提出的方法在偏倚，变异性和预测区间的覆盖概率方面优于其他方法。优越的频率性能，我们的程序显示其双重（贝叶斯和频率）的优势，并使其吸引力的所有从业者，贝叶斯和频率，小面积估计。
2018-10-24 stat.AP stat.ME
Nested Sampling with Slice-within-Gibbs: Efficient Evidence Calculation for Hierarchical Bayesian Models
Kavli Institute for Cosmology Cambridge, University of Cambridge（剑桥大学卡弗里宇宙学研究所）；Institute of Astronomy, University of Cambridge（剑桥大学天文学研究所）
NS-SwiG是一种用于分层贝叶斯模型的高效证据计算算法，通过切片内吉布斯核和似然预算分解提升高维模型的采样效率和证据估计精度。
2026-02-19 astro-ph.IM stat.CO stat.ME
Non-reversible jump algorithms for Bayesian nested model selection
不可逆马尔可夫链蒙特卡罗方法在遍历平均的渐近方差和混合性质方面往往优于可逆方法。提升状态空间（Chen等人，1999; Diaconis等人，2000）是用于构造这种采样器的通用技术。我们的想法是把我们想要生成的随机变量看作是位置变量，并把它们与方向变量相关联，以便设计出不具有可逆方案经常表现出的扩散行为的马尔可夫链。在本文中，我们探讨了使用这样的想法的背景下，贝叶斯模型选择嵌套模型，一类模型的模型指标变量是一个有序的随机变量的好处。通过提升这个模型的指示变量，我们得到了不可逆跳跃算法，这是Green（1995）介绍的流行的可逆跳跃算法的不可逆版本。这种简单的算法修改提供了采样器，它可以在没有额外计算成本的情况下凭经验胜过它们的可逆对应物。复制所有实验的代码可在线获得。
2020-12-20 stat.CO stat.ME
DNest4: Diffusive Nested Sampling in C++ and Python
在概率（贝叶斯）推理中，我们通常希望计算后验分布的属性，描述特定数据集和假设先验信息背景下未知量的知识。边际似然，也被称为“证据”，是贝叶斯模型选择中的一个关键量。扩散嵌套采样算法是嵌套采样的一种变体，是生成后验样本和估计边缘似然的强大工具。它是有效的，在解决复杂的问题，包括许多后验分布是多峰或变量之间有很强的依赖关系。DNest4是一个开源（MIT许可），多线程的C++11算法实现，以及相关的实用程序，包括：i）RJObject，有限混合模型的类模板，（ii）允许基本使用而无需C++编码的Python包，以及iii）对Julia实现的模型的实验支持。在本文中，我们通过简单的贝叶斯数据分析，有限混合模型和近似贝叶斯计算等示例演示DNest 4的使用。
2016-11-02 astro-ph.IM physics.data-an stat.CO
Increasing the Scope as You Learn: Adaptive Bayesian Optimization in Nested Subspaces
Lund University（吕勒欧大学）；Stanford University（斯坦福大学）；DBtune；Amazon（亚马逊）
本文提出BAxUS方法，通过嵌套随机子空间自适应优化空间，提升高维贝叶斯优化性能，理论保证其鲁棒性并在多种应用中表现更优。
2023-04-22 cs.LG stat.ML
The Whetstone and the Alum Block: Balanced Objective Bayesian Comparison of Nested Models for Discrete Data
当使用贝叶斯因子比较两个嵌套模型时，从客观的角度来看，在选择两个模型下的参数先验时出现了两个看似矛盾的问题。一方面，对于中等样本量，有利于较小模型的证据可以通过较大模型下先验的扩散而膨胀。另一方面，渐进地，支持较小模型的证据通常以较慢的速度积累。参考离散数据模型，我们表明，这两个问题可以联合处理，通过结合内在先验和非局部先验在一个新的统一类先验。我们在一个运行的Bernoulli例子中说明我们的想法，然后我们应用它们来测试两个比例的相等性，最后我们处理更一般的逻辑斯谛回归模型。
2013-10-02 stat.ME
Proximal nested sampling with data-driven priors for physical scientists
本文回顾了近端嵌套采样框架以帮助物理科学家理解，并扩展其在经验贝叶斯设定下支持深度神经网络等数据驱动先验，从而应用于高维贝叶斯模型选择。
2023-07-28 astro-ph.IM stat.ME stat.ML
Approximate Bayesian Inference for Structural Equation Models using Integrated Nested Laplace Approximations
King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）；Universiti Brunei Darussalam（文莱达鲁萨兰国大学）
本文提出了一种基于集成嵌套拉普拉斯近似法框架的近似贝叶斯方法，用于结构方程模型的推断，通过简化拉普拉斯近似和变分贝叶斯修正，提高了推断效率和准确性。
2026-09-18 stat.ME
Horizontal resolution in a nested-domain WRF simulation: a Bayesian analysis approach
最先进的有限区域模型和更快的计算资源的快速发展使得以更高的水平分辨率创建模拟成为可能。这导致了来自不同学科的用户对更高分辨率的普遍需求。本研究重新审视了Bjerknes中心海洋生态系统项目中使用的模拟之一。我们对这些数据的评估提出了一个新的观点，更具体地涉及：a）增加水平分辨率所增加的价值; b）比较敏感性研究的新方法。该评估是使用贝叶斯框架的平均表面温度分布在挪威的哈当厄峡湾地区。基于使用蒙特卡罗程序生成的联合后验分布的样本计算群体估计值。贝叶斯统计模型应用于天气研究和预报（WRF）模型在三个水平分辨率（9，3和1公里）和ERA中期再分析的输出数据。本研究所涉期间为2007年至2009年，涵盖4月、5月和6月。
2014-05-29 stat.ME
Optimal designs for model averaging in non-nested models
本文构造了频率论模型平均估计的最优设计。在竞争模型为非嵌套模型且这些模型均未被正确指定的情况下，我们得到了具有固定权重的模型平均估计的渐近分布。贝叶斯最优设计最小化相对于合适的先验分布计算的模型平均估计的渐近均方误差的期望。我们证明了贝叶斯最优设计可以大大提高模型平均的准确性。此外，衍生的设计也提高了估计的准确性，在一个模型中选择的模型选择和模型平均估计与随机权重。
2019-08-26 stat.ME
Bayesian posterior repartitioning for nested sampling
贝叶斯分析中的先验通常对信息性领域知识进行编码，这些信息性领域知识可用于使推理过程更有效。然而，有时先验可能不代表给定数据集的参数值，这可能导致低效的参数空间探索，甚至是不正确的推断，特别是对于嵌套采样（NS）算法。在这种情况下，简单地扩大先验在某些应用中可能是不合适的或不可能的。因此，我们以前的解决方案，称为后验重新划分（PR），重新定义先验和似然，同时保持其产品固定，使后验推理和证据估计保持不变，但NS过程的效率显着提高。在其最实际的形式中，PR将先验提高到一定的幂β，该幂β被引入作为必须在个案基础上确定的辅助变量，通常通过根据某些预定义的“退火时间表”从1降低β，直到所得到的推论收敛到一致的解。在这里，我们提出了一个非常简单但功能强大的替代贝叶斯方法，其中beta被视为一个超参数，从数据中推断出问题的原始参数，然后边缘化以获得最终的推断。我们通过数值例子表明，这种贝叶斯PR（BPR）方法提供了一个非常强大的，自适应的和计算效率的“放手”解决方案的问题，不具代表性的先验贝叶斯推断使用NS。此外，与原来的PR方法，我们表明，即使是代表先验BPR有一个可以忽略不计的计算开销相对于标准的嵌套抽样，这表明它应该被用作默认在所有NS分析。
2022-07-04 astro-ph.IM cs.NE stat.CO
Bayes Factors via Savage-Dickey Supermodels
我们概述了一种新的方法来计算贝叶斯因子的模型选择，绕过贝叶斯证据。我们的方法使用一个或多个超参数将多个模型组合成一个嵌套的超级模型。由于模型现在是嵌套的，因此可以使用Savage-Dickey密度比（SDDR）有效地计算模型之间的贝叶斯因子。这样，模型选择就变成了参数估计的问题。我们考虑两种方法来构建的超级模型的细节：一个基于组合模型，第二个基于组合的可能性。我们报告这两种方法的高斯线性模型的贝叶斯证据可以计算分析和一个玩具非线性问题。与标准蒙特卡罗马尔可夫链（MCMC）的组合模型方法不同，组合似然方法在提供对数贝叶斯因子的可靠估计方面要好得多。该方案可能开辟了一条道路，以计算效率高的方法来计算贝叶斯因子在高维利用MCMC的良好的缩放特性，相比之下，如嵌套采样的方法，失败的高维。
2016-09-07 astro-ph.IM stat.ME
A joint Bayesian framework for missing data and measurement error using integrated nested Laplace approximations
在处理数据的学科中，协变量中的测量误差（ME）和缺失值通常是不可避免的，在过去的几十年中，这两个问题分别受到了相当大的关注。然而，虽然大多数研究人员都熟悉处理缺失数据的方法，但在回归模型的协变量中考虑ME并不常见。此外，ME和缺失数据通常被视为两个独立的问题，尽管实际和理论上的相似之处。在这里，我们利用这样一个事实，即在一个连续的协变量中的缺失数据是一个极端的情况下，经典ME，使我们能够使用现有的方法，通过贝叶斯框架，采用集成嵌套拉普拉斯近似（INLA）的ME帐户，从而同时考虑ME和缺失数据在同一协变量。作为一个有用的副产品，我们提出了一种方法来处理缺失数据在INLA，因为这对应于特殊情况下，当没有ME存在。此外，我们将展示如何在同一框架中解释Berkson ME。因此，在其最广泛的一般性中，所提出的联合贝叶斯框架可以解释Berkson ME、经典ME和缺失数据，或者解释INLA可行的回归模型家族的相同或不同连续协变量中这些数据的任何组合。该方法的例子使用模拟和真实的数据。我们提供了广泛的和完全可复制的补充材料与充分记录的例子使用{R-INLA}和{inlabru}。
2023-03-27 stat.ME
A finite-infinite shared atoms nested model for the Bayesian analysis of large grouped data
针对部分可交换分组数据的贝叶斯分析需求，提出基于有限共享原子的分层非参数先验嵌套模型，搭配高效变分推断算法，可扩展至大规模数据，精度媲美现有最优采样方法，可实现歌手与歌曲的同步聚类。
2024-06-19 stat.AP stat.ME
Bayesian inference for treatment effects under nested subsets of controls
在构建模型以估计治疗的因果效应时，有必要控制可能具有混杂效应的其他因素。然而，由于可验证性假设是不可检验的，因此通常不清楚哪一组最小控制是适当的-正如它们在模型中的适当函数形式一样-而且效应估计可能对这些选择敏感。在这种情况下，一种常见的方法是拟合几个模型，每个模型具有不同的对照质量标准（假设可用的对照足以但可能不是所有的对照都需要去发现处理效应），但很难在多个产生的后验分布下协调处理效应的推断。因此，我们提出了一个两阶段的方法来衡量敏感性的效果估计方面的控制规格。在第一阶段中，使用仔细选择的先验来调整混杂，将模型与所有可用的对照拟合。在第二阶段，使用全模型下的投影后验，计算嵌套对照组子模型下处理效应的后验分布，提供有效的贝叶斯推断。我们演示了如何使用我们的方法来检测数据集中有影响力的混杂因素，并将其应用于测量合法堕胎对犯罪率影响的观察性研究的敏感性分析中。
2022-09-02 stat.ME
The Effective Sample Size in Bayesian Information Criterion for Level-Specific Fixed and Random Effects Selection in a Two-Level Nested Model
流行的统计软件为多水平模型或线性混合模型提供贝叶斯信息准则（BIC）。然而，已经观察到，统计文献和软件文档的组合导致BIC公式的差异以及在选择多水平模型时正确使用BIC的不确定性，其中涉及特定水平的固定效应和随机效应。这些差异和不确定性是由多水平模型BIC惩罚项中样本量的不同规格造成的。在这项研究中，我们推导出BIC的惩罚项的水平特定的固定和随机效应选择在两个水平的嵌套设计。在BIC的这个新版本（称为BIC_E）中，如果随机效应方差-协方差阵具有满秩，则该惩罚项被分解为两个部分：（a）每个聚类平均样本量的对数项，其乘数涉及随机和固定效应设计矩阵列空间之间的重叠维数，以及（b）参数总数乘以聚类总数的对数。此外，我们研究了BIC_E在冗余随机效应存在下的行为。用一个教科书的例子数据集说明了BIC_E的使用，数值演示表明，导出的公式符合经验值。
2022-06-23 stat.ME
Importance Nested Sampling and the MultiNest Algorithm
贝叶斯推断涉及两个主要的计算挑战。首先，在估计数据的某些模型的参数时，后验分布很可能是高度多模态的：在这种情况下，传统的马尔可夫链蒙特卡罗（MCMC）技术收敛到平稳性变得非常缓慢。其次，在一组竞争模型之间进行选择时，根据定义，每个模型的贝叶斯证据的必要估计是整个参数空间上的（可能是高维的）积分;这可能是一项艰巨的计算任务，尽管新的蒙特卡罗（MC）积分算法提供了不断提高效率的解决方案。嵌套抽样（NS）是一个这样的当代MC策略，目标是计算贝叶斯证据，但它也使后验推理作为一个副产品，从而允许同时参数估计和模型选择。广泛使用的MultiNest算法提出了一个特别有效的实现多模态后验的NS技术。在本文中，我们讨论的重要性嵌套采样（INS），另一种总结的MultiNest绘制，它可以计算贝叶斯证据高达一个数量级的精度比“香草”NS没有变化的方式MultiNest探索参数空间。这是通过将MultiNest收集的所有点（包括先前在NS算法的约束似然采样下丢弃的点）视为（伪）重要性样本来实现的。我们将这种技术应用于几个具有挑战性的测试问题，并将使用INS获得的贝叶斯证据的准确性与使用vanilla NS获得的证据的准确性进行比较。
2019-11-26 astro-ph.IM physics.data-an stat.CO
Notes on the Practical Application of Nested Sampling: MultiNest, (Non)convergence, and Rectification
本文揭示了MultiNest在超参数选择不当时会产生系统性偏差和高误差，并提出利用其探索优势来启动MCMC或更严格的嵌套采样以加速稳健测量。
2024-09-19 astro-ph.IM stat.CO
A general approximation to nested Bayes factors with informed priors
针对信息先验下传统贝叶斯因子近似失效的问题，提出一种仅需最大似然估计及其标准误的简单计算近似方法，促进了带信息先验的贝叶斯检验与再分析。
2023-04-11 stat.ME
A Bayesian Integrative Mixed Modeling Framework for Analysis of the Adolescent Brain and Cognitive Development Study
扩展贝叶斯整合分析与预测（BIP）框架提出BIPmixed，通过结合2级嵌套随机效应实现特征选择与结果建模，有效整合多视图数据并应用于ABCD研究。
2025-01-29 stat.AP stat.ME
A Nested Weighted Tchebycheff Multi-Objective Bayesian Optimization Approach for Flexibility of Unknown Utopia Estimation in Expensive Black-box Design Problems
Oregon State University（俄勒冈州立大学）；Oak Ridge National Laboratory（橡树岭国家实验室）
我们提出了一个嵌套的加权切比雪夫多目标贝叶斯优化框架，我们建立了一个回归模型选择过程，从一个合奏的模型，朝着更好地估计加权切比雪夫昂贵的黑箱多目标函数的不确定参数。在现有的工作中，加权Tchebycheff MOBO方法已被证明，试图估计未知的乌托邦在制定收购功能，通过校准使用先验选择的回归模型。然而，现有的MOBO模型在给定引导采样数据的情况下选择适当的回归模型时缺乏灵活性，因此，随着MOBO的迭代进行，可能欠拟合或过拟合，从而降低了整体MOBO性能。由于它过于复杂，无法先验地保证一般的最佳模型，这促使我们考虑在WTB MOBO的指导下，采用当前训练数据拟合的不同系列预测模型的组合;最佳模型是按照用户定义的基于预测均方根误差的方法选择的。所提出的方法是在优化多模态基准问题和薄壁管的设计温度-压力恒定载荷下，与蠕变疲劳失效的风险和设计成本最小化。最后，嵌套加权Tchebycheff MOBO模型的性能进行了比较与不同的MOBO框架的参数估计精度，帕累托最优解和功能评估成本。这种方法是广义的，足以考虑不同的家庭的预测模型的投资组合中的最佳模型选择，其中的整体设计架构允许解决任何高维（多功能）复杂的黑盒问题，并可以扩展到任何其他全球标准的多目标优化方法，需要先验知识的乌托邦。
2021-10-16 cs.LG stat.ML
A Unified Gaussian Process for Branching and Nested Hyperparameter Optimization
Rutgers University（罗格斯大学）；Microsoft（微软公司）
针对超参数间存在条件依赖（分支与嵌套）的常见问题，提出统一贝叶斯优化框架，通过新核函数的高斯过程模型捕捉依赖结构，在理论和实验中均验证了更高的预测精度与优化效率。
2024-01-19 cs.AI cs.LG stat.ML
Mean shift cluster recognition method implementation in the nested sampling algorithm
本文在嵌套抽样的随机游走搜索中引入 mean shift 聚类识别并集成于 NestedFit，以应对多局部似然极大值问题，显著降低计算时间并减小贝叶斯证据不确定性。
2020-01-31 astro-ph.IM physics.comp-ph stat.CO
Bayesian Nested Latent Class Models for Cause-of-Death Assignment using Verbal Autopsies Across Multiple Domains
本文提出LCVA框架，利用嵌套潜在类别模型联合建模多领域口头尸检数据，解决分布偏移问题，实现死因分配与死亡比例估计，并优于现有方法。
2023-06-22 stat.AP stat.ME
