Dimension free convergence rates for Gibbs samplers for Bayesian linear mixed models
大数据的出现导致人们对所谓的收敛复杂性分析越来越感兴趣，收敛复杂性分析是研究蒙特卡罗马尔可夫链（对于难以处理的贝叶斯后验分布）的收敛速度如何随着底层数据集的大小增长而扩展。连续状态空间上的实际蒙特卡罗马尔可夫链的收敛复杂性分析是一个相当具有挑战性的问题，而且很少有成功的分析。秦和霍伯特（2021 b）最近提出了一个富有成效的分析，他们研究了简单贝叶斯随机效应模型的吉布斯采样器。这些作者表明，在规则性条件下，随着数据集大小的增加，该吉布斯采样器的几何收敛速度收敛到零。本文表明，吉布斯采样器表现出类似的行为，更一般的贝叶斯模型，具有随机效应和传统的连续协变量，所谓的混合模型。该分析采用了Qin和Hobert（2021 b）介绍的基于Wasserstein的技术。
2021-08-11 math.ST stat.CO stat.TH
Qualitative Robustness in Bayesian Inference
贝叶斯推理的实际实现需要数值逼近时，封闭形式的表达式不可用。什么类型的精确度（收敛性）的数值逼近保证鲁棒性，什么类型不能？特别是，当后续数据或后验近似时，贝叶斯规则的递归应用是否稳健？当先验是由偏微分方程的解诱导的映射对分布的推进时，该解应近似于哪个范数？出于这样的问题，我们调查的灵敏度分布的后验分布（即后验分布值的随机变量，随机通过数据）相对于扰动的先验和数据生成分布的限制时，数据点的数量增长到无穷大。
2016-04-20 math.ST stat.TH
Bayesian modeling of bacterial growth for multiple populations
细菌生长模型常用于预测易腐食品的微生物安全性和货架期。生长受到几个环境因素的影响，如温度、酸度和盐浓度。在这项研究中，我们开发了两个模型来描述在相同和不同的环境条件下多个种群的细菌生长。首先，提出了一种基于Gompertz方程的半参数模型。假设Gompertz方程的参数可能会发生变化，在此条件下进行的实验，我们使用前馈神经网络来模拟这些环境因素对生长参数的影响。其次，我们提出了一个更一般的模型，不假设任何潜在的参数形式的增长函数。因此，我们认为一个神经网络作为一个主要的增长模型，其中包括影响环境因素作为网络的输入。神经网络模型的主要缺点之一是它们通常很难调整，这使得拟合过程复杂化。在这里，我们表明，一个简单的贝叶斯方法来拟合这些模型可以通过软件包WinBugs实现。我们的方法说明了使用真正的实验单核细胞增生李斯特菌的生长数据。
2014-11-21 stat.AP
Bayesian design for mathematical models of fruit growth based on misspecified prior information
针对先验信息易错误设定的问题，提出在常微分方程中加入样条项的灵活贝叶斯设计方法，可应用于海外研究先验下的水果生长采样场景。
2024-07-09 stat.ME
Chains of distributions, hierarchical Bayesian models and Benford's Law
Kossovsky最近证实，随着链的长度增加，概率分布链的前导数字的分布收敛于本福德定律。我们证明了他的猜想在许多情况下，并提供了一个解释的产品的独立随机变量和中心极限定理。一个有趣的结果是，在分层贝叶斯模型先验往往满足本福德定律的层次结构的数量增加，这使我们能够开发一些简单的测试（基于本福德定律）来测试所提出的模型。我们给出了明确的公式的误差项作为梅林变换，收敛非常迅速的链中的条款的数量的增长。我们可以把我们的结果解释为某些马尔可夫链蒙特卡罗过程迅速地混合到本福德定律。
2008-06-15 math.PR math.ST stat.TH
An approach to large-scale Quasi-Bayesian inference with spike-and-slab priors
我们提出了一个通用的框架，使用尖峰和板先验分布，以帮助发展高维贝叶斯推理。我们的框架允许一般的准似然函数的推理。我们表明，高效和可扩展的马尔可夫链蒙特卡罗（MCMC）算法可以很容易地构建从所产生的准后验分布的样本。我们研究了所得到的拟后验分布随参数空间维数的增长的大尺度行为，并建立了几个收敛结果。在计算速度非常重要的大规模应用中，变分近似方法经常被用来近似后验分布。我们表明，压缩行为的准后验分布可以利用其变分近似提供理论保证。我们用高斯图形模型和稀疏主成分分析的模拟结果来说明这一理论。
2019-08-19 math.ST stat.TH
Bayesian detection of piecewise linear trends in replicated time-series with application to growth data modelling
我们考虑的情况下，一个时间的过程是由连续的片段与不同的斜率和复制噪声损坏的时间序列测量观察。数据生成过程的未知均值被建模为具有未知数量的变点的时间的分段线性函数。我们发展了一个贝叶斯方法来推断联合后验分布的数量和位置的变化点，以及未知的平均参数。先验，所提出的模型使用过拟合的平均参数的数量，但有条件的一组变点，只有一个子集，他们影响的可能性。指数下降的变化点的数量的先验分布引起的后验分布集中在稀疏表示的基础序列。构造了一种用于逼近后验分布的Metropolis-Hastings马尔可夫链蒙特卡罗（MCMC）抽样器。我们的方法使用模拟数据进行基准测试，并应用于从不同菌株收集的成像时程数据中发现真菌生长动态的差异。源代码可以在CRAN上找到。
2019-07-08 stat.AP
Posterior Model Consistency in Variable Selection as the Model Dimension Grows
回归分析中变量选择的贝叶斯方法的一致性分析大多涉及两两一致性，即贝叶斯因子的一致性。然而，回归中的变量选择是在给定的一类回归模型中进行的，其中自然变量选择器是模型的后验概率。在本文中，我们分析了后验模型概率的一致性时，随着样本量的增长，潜在的回归数量的增长。后验模型一致性的新颖之处在于，它不仅依赖于通过贝叶斯因子得到的模型参数的先验，而且还依赖于模型的先验，因此它是为模型和模型参数选择先验的有用工具。我们已经发现，通常用于变量选择的某些类别的先验会产生后验模型不一致性，而这些先验的混合物会改善这种不受欢迎的行为。对于中等样本量，我们评估贝叶斯成对变量选择程序，通过比较其频率论I型和II型错误概率。这提供了有价值的信息来区分变量选择常用的模型参数的先验。
2015-07-29 stat.ME
Regularizing Bayesian Predictive Regressions
我们表明，正则化贝叶斯预测回归提供了一个框架，事先敏感性分析。我们开发了一个程序，联合正则化的期望和方差-协方差阵使用一对收缩先验。我们的方法直接适用于向量自回归（VAR）和看似无关回归（SUR）。正则化路径提供先验灵敏度诊断。通过利用正则化惩罚和预测先验分布之间的二元性，我们重新解释了宏观金融研究的两个经典贝叶斯分析：股票溢价可预测性和预测宏观经济增长率。我们发现，存在合理的先验规范的可预测性超过标准普尔500指数收益率使用账面市值比，CAY（消费，财富，收入比），和国库券利率。我们使用市场时机策略评估预测，我们表明最佳正则化的解决方案优于买入并持有的方法。第二个实证应用涉及预测工业生产，通货膨胀和消费增长率，并证明了我们的方法的可行性。
2017-09-13 stat.ME
Instrumental Variable Bayesian Model Averaging via Conditional Bayes Factors
我们发展了一种方法来执行两阶段线性回归系统的模型平均值受到内消。我们的方法扩展了现有的吉布斯采样器的工具变量，将模型的不确定性的组成部分。在这种情况下，模型概率的直接评估是棘手的。我们表明，通过嵌套模型移动内的吉布斯采样器，模型比较可以通过条件贝叶斯因子，导致简单的计算。这个新的吉布斯采样器只是比原来的算法稍微多一点，并没有表现出混合困难的证据。最后，我们研究了两种不同的建模挑战：将不确定性纳入宏观经济增长的决定因素，并通过对零售价格的批发来估计需求函数。
2012-03-19 stat.AP stat.ME
Bayesian model selection of vine copulas: a loss-based perspective
Università Cattolica del Sacro Cuore（天主教撒科鲁尔圣心大学）；University of Turin（都灵大学）；University of Exeter（埃克塞特大学）；King’s College London（伦敦国王学院）；Duke Kunshan University（杜克昆山大学）
针对贝叶斯藤蔓Copula模型选择计算成本高的问题，提出结合基于损失的模型先验与散弹随机搜索策略的新框架，实现稀疏性、快速结构选择及联合推断。
2026-06-23 stat.ME stat.ML
Nonnegative Bayesian nonparametric factor models with completely random measures for community detection
我们提出了一个贝叶斯非参数泊松因子分解模型建模网络数据的未知和潜在的重叠社区的数量不断增加。该构造基于完全随机的措施，并允许社区的数量以指定的对数或多项式速率随节点的数量增加，或者有界。我们开发的节点数量和网络的度分布的渐近性，并推导出一个马尔可夫链蒙特卡罗算法，针对这个模型的确切后验分布。该方法的实用性说明了各种真实的网络。
2019-02-27 cs.SI stat.ME
Sketching in Bayesian High Dimensional Regression With Big Data Using Gaussian Scale Mixture Priors
使用马尔可夫链蒙特卡罗（MCMC）或其变体对具有流行的高斯尺度混合先验分布的高维线性回归模型进行贝叶斯计算可能非常慢或完全禁止，这是由于以p的立方阶增长的大量计算成本，其中p为特征的数量。尽管最近开发的一些算法使得在小到中等大的样本量（复杂度以n的立方阶增长）的情况下计算有效，但是当样本量n也很大时，计算变得难以处理。本文采用数据素描的方法，将n个原始样本通过随机线性变换压缩为m<<n个p维样本，并利用随机压缩的响应向量和特征矩阵计算高斯尺度混合先验分布的贝叶斯回归。我们提出的方法产生的计算复杂度增长的立方阶m。这种压缩过程的另一个重要动机是，它通过在分析过程中揭示关于原始数据的很少信息来匿名化数据。我们的详细的经验调查与马蹄事先从类高斯规模的混合先验显示出非常相似的推理和大量减少的每迭代计算时间的方法相比，与全样本的回归。本文的一个显著贡献是在数据压缩/草图化条件下，导出了高维预测系数的后验收缩率，并给出了一般的收缩先验。特别是，我们的特征的压缩响应向量m的大小作为一个函数的样本量，预测和稀疏的回归，以保证准确估计的预测系数渐近，即使在数据压缩后。
2021-05-11 stat.ME
A Cheat Sheet for Bayesian Prediction
本文系统梳理贝叶斯预测的核心概念、四类通用方法、预测器选择策略及大规模观测数据场景下的新技术，并指出若干待解决的开放问题。
2025-02-05 stat.ME
Asymptotics of Bayesian Uncertainty Estimation in Random Features Regression
Duke University（杜克大学）；Max Planck Institute for Mathematics in the Sciences（马克斯·普朗克数学科学研究所）；Universität Leipzig（莱比锡大学）；Center for Scalable Data Analysis and Artificial Intelligence（可扩展数据分析与人工智能中心）
本文研究过参数化随机特征回归中后验预测方差与MAP估计量风险的渐近关系，发现两者一致性由信噪比相变决定，并推测其具有高斯波动性质。
2023-10-26 cs.LG stat.ML
Approximate cross-validation formula for Bayesian linear regression
Tokyo Institute of Technology（东京工业大学）；Hiroshima University（广岛大学）
交叉验证（CV）是一种基于给定数据集评估统计模型/学习系统能力的技术。尽管其广泛的适用性，相当沉重的计算成本可以阻止其使用的系统规模的增长。为了解决贝叶斯线性回归的情况下，这个困难，我们开发了一个公式，用于估计留一法CV误差近似没有实际执行CV。开发的公式的有用性进行了测试的统计力学分析的合成模型。这一点也通过应用于真实世界的超新星数据集得到了证实。
2016-10-25 cs.LG stat.ML
Bayesian Models and Methods in Public Policy and Government Settings
从20世纪50年代的新贝叶斯复兴开始，许多统计学家认为在政府和公共政策环境中使用贝叶斯方法是不合适的，特别是主观贝叶斯方法，因为它们依赖于先验分布。但是贝叶斯框架通常提供了回答这些设置中提出的问题的主要方法，并且贝叶斯应用的数量和多样性近年来急剧增长。通过一系列的例子，历史和最近的，我们认为，贝叶斯方法与正式和非正式的评估先验和似然函数被广泛接受，应该成为公共场合的规范。我们的例子包括人口普查和小面积估计，美国大选之夜预测，向美国食品和药物管理局报告的研究，评估全球气候变化，以及测量老年人残疾的潜在下降。
2011-08-10 stat.ME
Bayesian vector autoregressive analysis of macroeconomic and transport influences on urban traffic accidents
城市交通安全的宏观影响因素分析对指导城市发展方向、降低交通事故发生频率具有重要意义。利用北京市小样本量交通年报数据，构建贝叶斯向量自回归模型，探讨人口、GDP、私家车保有量、公交车保有量、地铁里程和道路平均车速等6个宏观经济和交通因素对交通事故的影响。结果表明，BVAR模型适用于小样本情况下的交通事故时间序列分析。在宏观经济因素方面，国内生产总值的增长被认为在长期内减少了交通事故的数量，而人口的增长在短期内对交通事故有积极的影响。在宏观交通因素方面，道路平均速度和私家车拥有量在长期内会增加交通事故，而公交车拥有量和地铁里程则会产生长期的负面影响，其中道路平均速度的正面影响最大，地铁里程的负面影响最大。本研究建议政府部门可以通过增加对公共交通基础设施的投资、限制私人车辆和道路速度来减少交通事故的数量。
2022-04-07 stat.AP
Conformal Bayes under Continuous Label Shift: Sensitivity Analysis and the Limits of Exact Validity
CROID Research（CROID研究机构）；aSSIST University（aSSIST大学）
针对连续标签偏移下共形贝叶斯校准的脆弱性，提出联合倾斜-敏感性共形贝叶斯方法，通过敏感性分析构建有界包络，并揭示精确有效性的尾部依赖，实验验证其在弱识别偏移中的优势。
2026-11-03 cs.LG stat.ML
Two-way Guidance: Simultaneous Learning of Summary Statistics for Generative Bayes
University of Chicago（芝加哥大学）；North Carolina State University（北卡罗来纳州立大学）
该研究针对贝叶斯模拟推理在观测规模增大时难以恢复集中后验的问题，提出双向引导机制，同步学习摘要统计量与后验，建立理论保证并明确模拟预算条件，提升后验学习性能。
2026-10-12 cs.LG stat.CO stat.ME
Tractable Bayesian Density Regression via Logit Stick-Breaking Priors
人们越来越关注响应变量的分布如何随一组预测变量而变化。贝叶斯非参数依赖混合模型提供了一种灵活的方法来解决这个问题。然而，几个公式需要计算要求高的算法后验推理。基于这个问题，我们研究了一类预测依赖的无限混合模型，它依赖于一个简单的表示的棒断裂先验通过顺序逻辑斯谛回归。该公式保持了与流行的预测依赖棒断裂先验相同的理想特性，并利用最近的Pólya-gamma数据增强来促进后验推理的几种计算方法的实现。这些例程包括马尔可夫链蒙特卡罗通过吉布斯抽样，期望最大化算法，和平均场变分贝叶斯可扩展的推理，从而刺激了更广泛的实施贝叶斯密度回归的从业者。与这些方法相关的算法详细介绍，并在毒理学研究中进行测试。
2020-05-04 stat.CO
NOVA: Coordinated Test Selection and Bayes-Optimized Constrained Randomization for Accelerated Coverage Closure
NOVA通过协调覆盖率感知测试选择与贝叶斯优化约束随机化，提升RTL设计的覆盖率闭合效率。
2025-11-30 cs.AR stat.ME
On the Consistency of Graph-based Bayesian Learning and the Scalability of Sampling Algorithms
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；Brown University（布朗大学）；University of Chicago（芝加哥大学）
半监督学习的一种流行方法是通过赋予输入数据一个图结构来提取几何信息并将其纳入贝叶斯框架。我们引入了新的理论，给出了适当的缩放图参数，可证明导致一个定义良好的限制后的未标记的数据集的大小增长。此外，我们表明，这些一致性的结果有深刻的算法影响。当一致性保持时，精心设计的基于图的马尔可夫链蒙特卡罗算法被证明具有均匀的谱间隙，与未标记输入的数量无关。几个数值实验证实了统计的一致性和算法的可扩展性建立的理论。
2020-01-12 cs.LG math.PR stat.CO
Biased Online Parameter Inference for State-Space Models
我们考虑贝叶斯在线静态参数估计的状态空间模型。这是一个非常重要的问题，但在计算上非常具有挑战性，因为精确的最新方法通常具有随时间参数增长的计算成本;也许最成功的算法是SMC 2 [9]的算法。我们提出了一个版本的SMC 2算法的计算成本，不随时间参数的增长。此外，在假设下，该算法被证明提供相合估计的期望w.r.t.后面。然而，实现这种一致性的成本在参数空间的维度上可能是指数级的;如果避免这种指数级成本，则通常算法会有偏差。从理论的角度研究的偏见，在假设下，我们发现，偏差不积累的时间参数的增长。该算法在几个贝叶斯统计模型上实现。
2015-03-01 stat.CO
Bayesian cumulative shrinkage for infinite factorizations
有各种各样的模型，其中参数空间的维数是未知的。例如，在因子分析中，潜在因子的数量通常是未知的，必须从观察到的数据中推断出来。虽然经典的收缩先验在这些情况下是有用的，但增加收缩先验可以提供更有效的选择，其随着复杂性的增加而逐渐惩罚扩展。在这篇文章中，我们提出了一种新的增加收缩先验，命名为累积收缩过程，用于控制过完备公式中的尺寸的参数。我们的建设具有广泛的适用性，简单的解释，是基于一系列的穗和板的分布，分配越来越多的质量，以穗模型的复杂性增长。使用因子分析作为一个说明性的例子，我们表明，这种配方具有理论和实践优势，目前的竞争对手，包括改进的能力，以恢复模型的尺寸。提出了一种自适应马尔可夫链蒙特卡罗算法，并在模拟研究中对该方法进行了评估，并将其应用于人格特质数据。
2020-09-10 stat.ME
Sequential Bayesian inference for static parameters in dynamic state space models
提出了一种动态状态空间模型静态参数的序贯贝叶斯推断方法。该方法是基于观察到许多动态状态空间模型具有相对较少的静态参数（或超参数），因此原则上可以计算后验并存储在可以动态跟踪的实际大小的离散网格上。此外，该方法能够使用计算状态过程的滤波和预测分布的任何现有方法。卡尔曼滤波器及其扩展到非线性/非高斯的情况下，本文已经使用。这是说明使用几个应用程序：线性高斯模型，二项式模型，随机波动率模型和极端非线性单变量非平稳增长模型。性能进行了比较，现有的在线方法和离线方法。
2017-06-27 stat.CO
A Bayesian General Linear Modeling Approach to Cortical Surface fMRI Data Analysis
皮质表面功能磁共振成像（cs-fMRI）最近越来越受欢迎，与传统的体积功能磁共振成像，因为它允许更有意义的空间平滑，更符合贝叶斯空间模型的各向同性和平稳性的共同假设。然而，由于尚未针对cs-fMRI数据提出贝叶斯空间模型，因此大多数分析继续采用经典的逐体素通用线性模型（GLM）（Worsley and Friston 1995）。在这里，我们提出了一个贝叶斯GLM CS-fMRI，它采用了一类复杂的空间过程，灵活地模拟潜在的激活字段。我们使用集成嵌套拉普拉斯近似（INLA），这是一种高度准确和高效的贝叶斯计算技术（Rue et al. 2009）。为了识别激活区域，我们提出了一种基于潜在场联合后验分布的偏移集方法，该方法消除了多重比较校正的需要。最后，我们提出了一种新的贝叶斯方法进行多学科分析，以解决现有文献中的差距。通过仿真研究和人类连接组计划的运动任务fMRI研究，验证了该方法并与经典GLM进行了比较。所提出的贝叶斯方法导致更平滑的激活估计，更准确的假阳性控制，并提高了检测真正活跃区域的能力。
2017-06-03 stat.AP
Beyond the classical type I error: Bayesian metrics for Bayesian designs using informative priors
本文针对使用信息先验的贝叶斯临床试验设计，提出平均I型错误等贝叶斯度量以评估假阳性风险，并证明在借用对照数据时其渐近可控性，助力监管讨论。
2023-09-05 stat.ME
