Probability Based Independence Sampler for Bayesian Quantitative Learning in Graphical Log-Linear Marginal Models
贝叶斯方法的图形对数线性边际模型还没有发展到与传统的频率论方法相同的程度。在这项工作中，我们引入了一种新的贝叶斯方法，用于此类模型的定量学习。这些模型属于弯曲指数族，从贝叶斯的角度来看很难处理。此外，可能性不能解析地表示为边际对数线性相互作用的函数，而只能用细胞计数或概率表示。后验分布不能直接得到，需要MCMC方法。最后，一个定义良好的模型需要参数值，导致兼容的边际概率。因此，任何MCMC都应该考虑到这一重要限制。我们构建了一个全自动和高效的MCMC策略，用于处理这些问题的图形对数线性边际模型的定量学习。虽然先验表示的边际对数线性相互作用，我们建立了一个MCMC算法，采用概率参数空间的建议。通过参数变换，得到了关于边际对数线性相互作用的相应建议。通过这种策略，我们实现了在期望的目标空间内移动。在每一步中，我们直接使用定义良好的概率分布。此外，我们可以利用条件共轭设置来建立关于概率参数的有效建议。所提出的方法说明了模拟研究和真实的数据集。
2018-07-03 stat.ME
Reversible Jump MCMC With No Regrets: Bayesian Variable Selection Using Mixtures of Mutually Singular Distributions
University of Amsterdam（阿姆斯特丹大学）；Duke University（杜克大学）；University of Washington（华盛顿大学）
本文提出一种基于互奇异分布混合的贝叶斯变量选择方法，通过固定维度参数空间中的互奇异子空间实现模型竞争，展示其与RJMCMC在Metropolis-Hastings接受概率上的一致性，并在实验中验证其有效性。
2026-04-30 stat.ME
Bayesian design and analysis of two-arm cluster randomised trials using assurance: extension to binary outcomes and comparison of MCMC and INLA
本文针对连续和二分类结局的双臂整群随机试验，提出基于保证（assurance）的贝叶斯样本量计算方法，并通过 SPEEDY 试验案例比较 MCMC 与 INLA 两种推断方案在速度、准确性及适用场景上的差异，给出使用建议。
2025-11-10 stat.ME
MCMC convergence diagnosis using geometry of Bayesian LASSO
利用Bayesian LASSO的后验分布，构造了参数空间上的半范数。我们表明，分拆函数取决于l1和l2的标准和目前的三个制度的比率。我们推导了贝叶斯LASSO的浓度，并给出了MCMC收敛性诊断。
2015-12-04 math.ST stat.TH
Bayesian Lasso : Concentration and MCMC Diagnosis
利用Bayesian LASSO的后验分布，构造了参数空间上的半范数。我们证明了分拆函数依赖于l 1和l 2范数的比值，并提出了三种制度。推导了贝叶斯LASSO算法的收敛性，并给出了MCMC算法的收敛性诊断.关键词：LASSO，贝叶斯，MCMC，对数凹，几何，不完全Γ函数
2018-02-22 math.ST stat.TH
Variational Bayesian Sparse Negative Binomial Regression
University of Tehran（德黑兰大学）；Ferdowsi University of Mashhad（马什哈德费尔多西大学）
针对高维计数数据回归难题，开发变分贝叶斯框架，用马蹄形和连续收缩先验实现稀疏负二项回归，相比MCMC方法计算量大幅减少，在过度离散和泊松数据中都有良好表现，为高维稀疏计数回归提供实用工具。
2026-07-30 stat.ME
Nonlinear MCMC for Bayesian Machine Learning
我们探讨了在[1]中首次引入的非线性MCMC技术在贝叶斯机器学习问题中的应用。我们提供了一个收敛保证总变分，使用新的结果，长时间收敛和大粒子（“混沌传播”）收敛。我们应用这种非线性MCMC技术的采样问题，包括贝叶斯神经网络CIFAR10。
2022-11-24 cs.LG math.PR stat.ML
Cyclical Stochastic Gradient MCMC for Bayesian Deep Learning
Cornell University（康奈尔大学）；Microsoft Research（微软研究院）；Duke University（杜克大学）；University at Buffalo, SUNY（纽约州立大学布法罗分校）；New York University（纽约大学）
神经网络权值的后验是高维多模态的。每种模式通常表征数据的有意义的不同表示。我们开发了循环随机梯度MCMC（SG-MCMC）来自动探索这种分布。特别是，我们提出了一个周期性的步长时间表，其中较大的步骤发现新的模式，和较小的步骤表征每个模式。我们还证明了我们提出的算法的非渐近收敛性。此外，我们提供了广泛的实验结果，包括ImageNet，以证明循环SG-MCMC在学习复杂多模态分布方面的可扩展性和有效性，特别是对于现代深度神经网络的完全贝叶斯推理。
2020-05-11 cs.AI cs.CV cs.LG
MCMC computations for Bayesian mixture models using repulsive point processes
排斥混合模型最近在贝叶斯聚类检测中得到了普及。与更传统的混合模型相比，排斥混合模型产生更少数量的分离良好的集群。后验推理最常用的方法要么需要事先确定分量的数量，要么基于可逆跳MCMC计算。我们提出了一个一般框架的混合模型，当前的“集群中心”是一个有限的排斥点过程取决于一个超参数，指定的密度，这可能取决于一个棘手的归一化常数。通过研究这类混合模型的后验特征，我们得到了一个MCMC算法，它避免了众所周知的困难与可逆跳MCMC计算。特别是，我们使用的辅助变量的方法，它消除了棘手的规范化常数的黑斯廷斯比的问题。辅助变量法依赖于一个完美的模拟算法，我们证明这是快速的，因为组件的数量通常很小。在几个模拟研究和社会学数据的应用中，我们说明了我们的新方法比现有方法的优势，我们比较使用的行列式或排斥吉布斯点过程先验模型。
2021-04-19 stat.CO stat.ME
Bayesian Inference for Gaussian Process Classifiers with Annealing and Pseudo-Marginal MCMC
核方法已经彻底改变了模式识别和机器学习领域。然而，他们的成功，关键取决于内核参数的选择。以高斯过程（GP）分类为例，研究了基于马尔可夫链蒙特卡罗（MCMC）方法的协方差（核）参数的贝叶斯推断。其动机是，与核参数的标准优化相比，它们已被系统地证明在量化预测中的不确定性方面具有优越性。最近，伪边缘MCMC方法已被提出作为GP模型的实用推理工具。特别是，它的金额在替代分析棘手的边际似然由近似方法和重要性抽样获得的无偏估计。在讨论了重要性抽样的潜在缺陷后，本文提出了退火重要性抽样的应用。实验结果表明，与重要性抽样相比，退火重要性抽样能以多项式的计算代价指数地减小边缘似然估计的方差.实际数据的结果表明，采用退火重要性抽样的伪边缘MCMC方法代表了一个步骤，在GP模型的全自动精确推理引擎的发展。
2014-05-26 stat.ME stat.ML
Fast MCMC sampling for Markov jump processes and continuous time Bayesian networks
Gatsby Computational Neuroscience Unit（盖比计算神经科学单元）；University College London（伦敦大学学院）
马尔可夫跳过程和连续时间贝叶斯网络是一类重要的连续时间动态系统。在本文中，我们通过引入一个快速辅助变量吉布斯采样器来解决这些模型中未观测路径的推断问题。我们的方法是基于均匀化的思想，并建立了一个马尔可夫链的路径通过采样一组有限的虚拟跳跃时间，然后运行一个标准的隐马尔可夫模型的前向滤波-后向采样算法的状态在现有的和虚拟的跳跃时间。我们证明了显着的计算效益超过一个国家的最先进的吉布斯采样器上的一些连续时间贝叶斯网络。
2012-02-14 cs.LG stat.ME stat.ML
MCMC for Bayesian nonparametric mixture modeling under differential privacy
本文提出差分隐私下的贝叶斯非参数混合模型及边际、条件两类 MCMC 后验推断算法，支持局部与全局 DP，并通过模拟和真实案例评估性能。
2024-05-21 stat.CO stat.ME
Dimension-Robust MCMC in Bayesian Inverse Problems
本文中开发的方法是由统计学，机器学习和应用数学中出现的各种预测和不确定性量化问题，如非参数回归，多类分类和偏微分方程的反演。这种问题的一个流行的公式是贝叶斯逆问题，其中使用先验分布来正则化对高维潜在状态（通常是函数或字段）的推断。常见的是，这样的先验是非高斯的，例如分段常数或重尾的，和/或分层的，在涉及另一组低维参数的意义上，其例如控制潜在状态的尺度或平滑度。在这个公式中，预测和不确定性量化依赖于对潜在状态和参数的后验分布的有效探索。本文介绍了一个框架，有效的MCMC抽样贝叶斯逆问题，利用MCMC的两个基本思想，非中心参数化的分层模型和潜在的高斯过程的维数鲁棒采样。使用一系列不同的应用程序，我们展示了所提出的框架是维鲁棒的，也就是说，MCMC采样的效率不会恶化的潜在状态的维度变得更高。我们展示了我们在半监督多类分类中开发的机器的全部潜力，其中我们的采样算法在主动学习框架中使用，以指导选择手动标记的输入数据，以便以最少数量的标记数据实现高预测精度。
2019-03-24 stat.ME stat.ML
Generalized Bayesian Likelihood-Free Inference
提出基于评分规则的广义贝叶斯无似然推断后验，利用能量和核SRs实现一致性与鲁棒性，通过PM-MCMC或SG-MCMC进行推断，在标准基准与气象动力系统中表现优异。
2023-04-30 stat.CO stat.ME
Three Case Studies of Two-stage MCMC for Fast Bayesian Inference of Large Spatio-temporal Data
Department of Statistical Sciences, Wake Forest University（维克森林大学统计科学系）
本文通过三个案例展示两阶段MCMC算法，以较低计算成本高效拟合大规模贝叶斯时空模型，在保持后验样本一致的同时，实现约一个数量级的计算效率提升。
2026-09-15 stat.AP stat.ME
Considering parallel tempering and comparing post-treatment procedures in Bayesian Profile Regression Models for a survival outcome and correlated exposures
Autorité de Sûreté Nucléaire et de Radioprotection (ASNR)（核安全与辐射防护局）；PSE-SANTE/SESANE/LEPID；Université Paris Cité（巴黎西岱大学）；CNRS, Inserm, P-MIM, BioSTM（法国国家科学研究中心、INSERM、P-MIM、BioSTM）
本文提出改进MCMC算法以避免后验分布局部模式并减少计算时间，通过模拟研究比较不同后处理程序的性能，应用于辐射流行病学中的生存结果分析。
2025-12-29 stat.AP stat.ME
Knowledge Removal in Sampling-based Bayesian Inference
The University of Sydney（悉尼大学）；JD Explore Academy（京东探索研究院）
被遗忘的权利在许多国家都有立法，但在人工智能行业实施将造成无法承受的成本。当单个数据删除请求到来时，公司可能需要删除使用大量资源学习的整个模型。现有的工作提出了从显式参数化模型的数据中去除知识的方法，然而，这些方法不适用于基于采样的贝叶斯推理，即，马尔可夫链蒙特卡罗（MCMC），因为MCMC只能推断隐式分布。在本文中，我们提出了第一个机器遗忘算法MCMC。我们首先将MCMC学习问题转化为一个显式优化问题。在此基础上，设计了一个{ \it MCMC影响函数}来可证明地表征从数据中学习到的知识，从而实现MCMC去学习算法。理论分析表明，MCMC unlearning不会损害MCMC模型的泛化能力。在高斯混合模型和贝叶斯神经网络上的实验验证了该算法的有效性。代码可在\url{https://github.com/fshp971/mcmc-unlearning}上获得。
2022-03-24 cs.AI cs.LG stat.ML
MCMC with Adaptive Principal-Component Transformation: Rotation-Invariant Universal Samplers for Bayesian Structural System Identification
Harbin Institute of Technology（哈尔滨工业大学）；California Institute of Technology（加州理工学院）
本文提出APM-SGHMC算法，通过自适应旋转坐标轴对齐当前后验样本的主成分方向，实现旋转不变的采样性能，提升贝叶斯结构系统识别的通用性和效率。
2026-04-25 stat.AP stat.ME stat.ML
Graph-Enabled Efficient Federated Bayesian Modeling
University of California, Berkeley（加州大学伯克利分校）；National University of Singapore（新加坡国立大学）；Columbia University（哥伦比亚大学）
提出FLaG-MCMC框架，通过将历史后验样本编码到低维潜在空间并构建k近邻图，实现高效联邦贝叶斯学习，在阿片类药物使用障碍患病率估计和联邦主题建模中验证了其近似全局后验的能力。
2026-09-16 stat.AP stat.CO stat.ME
Bayesian Inference for Non-Synchronously Observed Diffusions
针对金融中非同步观测的双变量数据，本文提出基于扩散过程的贝叶斯推断方法，针对高、低频观测分别设计了基于Euler-Maruyama的粒子MCMC和连续时间后验桥接表示，并利用MLMC增强计算效率。
2025-03-01 stat.CO stat.ME
Bayesian Optimization for Adaptive MCMC
提出了一种新的基于贝叶斯优化的自适应MCMC随机化策略。这种方法适用于不可微的目标函数，并权衡探索和开发，以减少潜在的昂贵的目标函数评估的数量。我们证明了战略在复杂的设置采样约束，离散和密集连接的概率图形模型，对于每个变化的问题，需要自动调整的建议机制的参数，以确保有效的混合的马尔可夫链。
2011-10-29 stat.CO stat.ML
Partial Order MCMC for Structure Discovery in Bayesian Networks
Helsinki Institute for Information Technology HIIT（赫尔辛基信息技术研究所HIIT）；University of Helsinki（赫尔辛基大学）
提出了一种新的估计贝叶斯网络结构特征后验概率的马尔可夫链蒙特卡罗方法。该方法从节点上的偏序的后验分布中抽取样本;对于每个采样的偏序，精确计算感兴趣的条件概率。我们给出的分析和实证结果表明，新方法的优越性相比，以前的方法，样本无论是有向无环图或线性订单的节点。
2012-02-14 cs.LG stat.ML
Fast Bayesian whole-brain fMRI analysis with spatial 3D priors
任务相关功能磁共振成像（fMRI）的空间全脑贝叶斯建模是一个巨大的计算挑战。因此，目前提出的大多数方法分别在大脑的子区域中进行推断，或者在不与真实的后验分布进行比较的情况下进行近似推断。Penny等人（2005 b）介绍了一种流行的方法，现在是SPM软件中贝叶斯单受试者分析的标准方法。该方法处理的数据切片的切片，并使用近似变分贝叶斯（VB）估计算法，强制后验独立的活动系数在不同的体素之间。我们引入了一个快速和实用的马尔可夫链蒙特卡罗（MCMC）计划在同一模型中的精确推理，无论是切片和整个大脑使用的3D活动系数的先验。该算法利用稀疏性，并使用现代技术从高维高斯分布中进行有效采样，从而加快速度，否则MCMC将不是一个实用的选择。使用MCMC，我们是第一次能够评估近似VB后对确切的MCMC后，并表明，VB可以导致虚假激活。此外，我们开发了一种改进的VB方法，放弃了独立体素的假设后验。对于大型数据集，该算法比MCMC和原始VB快得多，与MCMC后验相比误差可以忽略不计。
2016-09-29 stat.AP stat.CO stat.ME
MCMC for Bayesian estimation of Differential Privacy from Membership Inference Attacks
Sabancı University（萨班哲大学）
提出MCMC-DP-Est框架，通过MCMC算法结合多种成员推理攻击证据，联合估计攻击强度与训练算法隐私参数的完整后验分布，实现更谨慎的差分隐私贝叶斯估计。
2025-04-23 cs.LG stat.ML
Bayesian Learning in Undirected Graphical Models: Approximate MCMC algorithms
无向图模型中的贝叶斯学习|计算参数和预测量的后验分布是非常困难的。我们猜想，对于一般的无向模型，有没有听话的MCMC（马尔可夫链蒙特卡罗）计划给出正确的平衡分布参数。虽然这种棘手性，由于分区函数，是熟悉的那些执行参数优化，贝叶斯学习的后验分布在无向模型参数尚未探索，并提出了新的挑战。我们提出了几个近似MCMC计划和测试充分观察的二元模型（玻尔兹曼机）的一个小的冠心病数据集和较大的人工系统。虽然近似必须在模型上表现良好，但它们与抽样方案的相互作用也很重要。基于变分平均场近似的采样器通常表现不佳，使用循环传播、简短采样和随机动力学的更先进的方法导致可接受的参数后验。最后，我们展示了这些技术上的马尔可夫随机场的隐变量。
2012-07-11 cs.LG stat.ML
Bayesian Ultrahigh-Dimensional Screening Via MCMC
我们探讨了稀疏超高维环境下完全贝叶斯模型选择方法的理论和数值性质，即，$p\gg n$，其中$p$是协变量数量，$n$是样本量。我们的方法包括（1）一个分层贝叶斯模型与一个新的先验放置在模型空间，其中包括一个超参数$t_n$控制模型的大小，和（2）一个有效的MCMC算法的自动和随机搜索的模型。我们的理论表明，当正确指定$t_n$时，所提出的方法产生选择一致性，即，真实模型的后验概率渐近接近1;当错误指定$t_n$时，所选模型仍渐近嵌套在真实模型中。该理论还揭示了选择结果对$t_n$的选择不敏感。在实现中，进一步假设$t_n$具有合理的先验，使得可以随机抽取其样本。我们的方法进行选择，估计，甚至在一个统一的框架推断。不需要额外的预筛分或降维步骤。两个新的$g$ -先验的建议，使我们的方法更灵活。仿真研究显示我们的方法的数值优势。
2013-03-12 math.ST stat.CO stat.ME
Efficient MCMC Sampling for Bayesian Matrix Factorization by Breaking Posterior Symmetries
University of Michigan（密歇根大学）
贝叶斯低秩矩阵分解技术已成为关系数据分析和矩阵补全的重要工具。标准的方法是在因子矩阵的列或行上分配零均值高斯先验以创建共轭系统。这种先验的选择导致简单的实现;然而，它也会导致后验分布的对称性，这会严重降低马尔可夫链蒙特卡罗（MCMC）采样方法的效率。在本文中，我们提出了一个简单的修改先验选择，可证明打破这些对称性，并保持/提高精度。具体来说，我们提供的条件，高斯先验均值和协方差必须满足，使后验不表现出不变性，产生采样困难。例如，我们表明，使用非零线性独立的先验均值显着降低了MCMC样本的自相关性，也可以导致较低的重建误差。
2020-11-10 cs.LG stat.ML
Bayesian nonparametric model based clustering with intractable distributions: an ABC approach
贝叶斯非参数混合模型为基于模型的聚类提供了一个丰富的框架。我们考虑的情况下，内核的混合物是可用的，只有一个棘手的归一化常数。在这种情况下，大多数常用的马尔可夫链蒙特卡罗（MCMC）方法都不适用。我们提出了一个近似贝叶斯计算（ABC）的战略，从而我们近似后，以避免棘手的内核。我们推导出一个ABC-MCMC算法，该算法结合了（i）使用的预测分布诱导的非参数先验的建议和（ii）使用的瓦瑟斯坦距离和它的连接到最佳匹配问题。为了克服算法对参数的敏感性，我们进一步提出了一种自适应策略。我们说明了所提出的算法的使用与几个模拟研究和实际数据上的应用程序，在那里我们集群的人口的网络，比较其性能与标准MCMC算法和验证的自适应策略。
2021-12-20 stat.CO stat.ME
Computational methods for fast Bayesian model assessment via calibrated posterior p-values
针对校准后验预测p值（cppps）计算成本高的问题，提出高效近似方法，通过短MCMC链优化计算权衡、设计方差估计量，在NIMBLE框架实现快速贝叶斯模型评估。
2024-01-30 stat.CO stat.ME
Scalable Rejection Sampling for Bayesian Hierarchical Models
贝叶斯分层建模是一种流行的方法来捕捉未观察到的异质性在各个单位。然而，标准的估计方法，如马尔可夫链蒙特卡罗（MCMC）的建模结果，从大量的单位可能是不切实际的。本文提出了一种新的贝叶斯模型的后验分布抽样方法，而不需要使用MCMC。样本是独立的，所以它们可以并行收集，我们不需要关心链收敛和自相关等问题。该算法在单个单元条件独立的弱假设下是可扩展的，使其适用于大型数据集。它也可以用来计算边际似然。
2014-11-02 stat.CO stat.ME
Bayesian structure learning and sampling of Bayesian networks with the R package BiDAG
R包BiDAG实现了马尔可夫链蒙特卡罗（MCMC）方法，用于贝叶斯网络的结构学习和采样。该软件包包括搜索最大后验（MAP）图和从给定数据的后验分布中采样图的工具。一种新的混合结构学习方法可以在大型图中进行推理。在第一步中，我们通过PC算法或基于先验知识定义一个缩减的搜索空间。在第二步中，迭代顺序MCMC方案进行优化的限制搜索空间内，估计MAP图。从后验分布采样是使用顺序或分区MCMC。模型和算法可以处理离散和连续数据。BiDAG包还提供了MCMC方案的实现，用于动态贝叶斯网络的结构学习和采样。
2021-05-02 stat.CO stat.ML
A Unified Particle-Optimization Framework for Scalable Bayesian Sampling
University at Buffalo（布法罗大学）；Duke University（杜克大学）
最近人们对开发可扩展的贝叶斯采样方法感兴趣，例如用于大数据分析的随机梯度MCMC（SG-MCMC）和Stein变分梯度下降（SVGD）。标准SG-MCMC算法模拟来自离散时间马尔可夫链的样本以近似目标分布，因此样本可能是高度相关的，这是SG-MCMC的不期望的属性。相反，SVGD直接优化一组粒子来近似目标分布，因此能够用相对少得多的样本获得良好的近似。在本文中，我们提出了一个原则粒子优化框架的基础上Wasserstein梯度流统一SG-MCMC和SVGD，并允许开发新的算法。我们的框架将SG-MCMC解释为概率测度空间上的粒子优化，揭示了SG-MCMC和SVGD之间的紧密联系。我们的框架的关键组成部分是几个粒子近似技术，有效地解决了原来的偏微分方程的空间上的概率测度。在合成数据和深度神经网络上的大量实验证明了我们的可扩展贝叶斯采样框架的有效性和效率。
2018-07-10 cs.LG stat.ML
JAGS, NIMBLE, Stan: a detailed comparison among Bayesian MCMC software
本文的目的是比较JAGS、NIMBLE和Stan三种流行的软件平台的性能。这些概率编程语言能够使用MCMC算法从贝叶斯模型的规范（即，可能性和先验）开始，从感兴趣的后验分布自动生成样本。最终目标是向统计学家或应用科学家详细分析它们的优缺点。通过这种方式，我们希望有助于使他们充分认识到这个软件的优点和缺点。我们进行了系统的比较，这三个平台上广泛的一类模型，先验分布，和数据生成机制。我们广泛的模拟研究评估了MCMC链的质量，软件的效率和输出的拟合优度。我们还考虑了三个平台的并行化的效率。
2021-07-20 stat.AP stat.CO
Approximate Bayesian inference from noisy likelihoods with Gaussian process emulated MCMC
提出用高斯过程模拟Metropolis-Hastings采样进程的近似贝叶斯推断框架，在有限噪声似然评估下实现高效且鲁棒的推断。
2023-08-31 stat.CO stat.ME stat.ML
On the identifiability of Bayesian factor analytic models
因子分析模型中一个众所周知的可识别性问题是关于正交变换的不变性。这个问题加重了贝叶斯设置下的推断，其中使用马尔可夫链蒙特卡罗（MCMC）方法从后验分布生成样本。我们引入了一个后处理方案，以处理旋转，符号和排列不变性的MCMC样本。贡献算法的精确版本需要在每次（保留）MCMC迭代中求解$2^q$分配问题，其中$q$表示拟合模型的因子数。对于大量的因素，两个近似方案的模拟退火的基础上进行了讨论。我们证明，所提出的方法导致可解释的后验分布使用合成和公开可用的数据，从典型的因子分析模型以及混合因子分析。一个R包可在CRAN网页上在线获得。
2022-01-24 stat.CO stat.ME
A Convergence Diagnostic for Bayesian Clustering
在贝叶斯聚类的许多应用中，通过马尔可夫链蒙特卡罗（MCMC）技术实现聚类分配的离散状态空间上的后验采样。由于设计转换核来有效地探索此状态空间通常具有挑战性，因此用于聚类应用的MCMC收敛诊断尤其重要。对于一般的MCMC问题，最先进的收敛诊断涉及跨多个链的比较。然而，单链替代方案可能对计算密集型和缓慢混合的MCMC有吸引力，这是贝叶斯聚类的典型情况。因此，我们在这里提出了一个单链收敛诊断专门针对离散空间MCMC。也就是说，我们考虑一个Hotelling型统计量的最高概率状态，并使用再生抽样论推导出其平衡分布。通过利用来自非标准化后验的信息，我们的诊断可以防止看似收敛的链，其中访问状态的相对频率是不正确的。该方法说明了贝叶斯聚类分析的开花植物拟南芥的遗传突变体。
2019-06-12 stat.CO
Complexity Analysis of Accelerated MCMC Methods for Bayesian Inversion
Mathematics Institute, Warwick University（华威大学数学研究所）
针对模型椭圆PDE的贝叶斯反演问题，分析了几种MCMC方法的计算复杂度，并提出了稀疏多项式混沌代理和多层MCMC两种加速策略以降低复杂度。
2013-04-30 cs.NA math.NA math.ST
Stochastic Nonlinear Model Updating in Structural Dynamics Using a Novel Likelihood Function within the Bayesian-MCMC Framework
本研究提出一种结合 Bayesian-MCMC 框架与近似似然函数的随机非线性模型更新方法，利用共振衰减法提取骨架曲线，实现了线性和非线性参数概率分布的同时识别，消除了分离更新的必要。
2024-10-14 math.DS math.PR stat.ME
Adaptive Metropolis Algorithm Using Variational Bayesian Adaptive Kalman Filter
马尔可夫链蒙特卡罗（MCMC）方法是分析复杂统计问题的有力计算工具。然而，它们的计算效率高度依赖于所选择的建议分布，这通常很难找到。解决这个问题的一种方法是使用自适应MCMC算法，该算法在MCMC运行期间自动调整提案分布的统计信息。提出了一种新的自适应MCMC算法--变分贝叶斯自适应Metropolis（VBAM）算法. VBAM算法使用变分贝叶斯自适应卡尔曼滤波器（VB-AKF）来更新提议的协方差阵。证明了VBAM算法的一个强大数律。文中还给出了三个模拟算例和两个实际数据算例的经验收敛结果。
2014-10-01 math.ST stat.TH
MCMC for a hyperbolic Bayesian inverse problem in traffic flow modelling
由于贝叶斯方法来拟合高速公路交通流模型在文献中仍然很少见，我们经验性地探索了这种方法提供的采样挑战，这些挑战与后验分布的强相关性和多模态有关。特别是，我们提供了一个统一的统计模型，估计使用高速公路数据的边界条件和基本图参数LWR，一个著名的高速公路交通流模型。这使我们能够提供一个交通流密度估计方法，被证明是优于交通流文献中发现的两种方法。为了从这个具有挑战性的后验分布中进行采样，我们使用了一个最先进的无梯度函数空间采样器，并使用了并行回火。
2021-08-10 stat.CO
How trustworthy is your tree? Bayesian phylogenetic effective sample size through the lens of Monte Carlo error
贝叶斯推断是一种流行的和广泛使用的方法来推断进化树（进化树）。然而，尽管几十年的广泛应用，它仍然很难判断如何以及一个给定的贝叶斯马尔可夫链蒙特卡罗（MCMC）运行探索的空间系统发育树。在本文中，我们调查的蒙特卡罗错误的遗传学，专注于高维总结的后验分布，包括变异估计的边缘/分支（已知在遗传学的“分裂”）概率和树的概率，和变异估计的汇总树。具体来说，我们问是否有任何措施的有效样本量（ESS）适用于系统发育树，能够捕捉这三个汇总措施的蒙特卡罗错误。我们发现，有一些ESS措施能够捕捉固有的错误，使用MCMC样本近似的后验分布的遗传。我们这些树ESS措施，并确定一组三个这是有用的，在实践中评估的蒙特卡罗错误。最后，我们提出了可视化工具，可以提高多个独立的MCMC运行之间的比较，占蒙特卡罗错误存在于每个链。我们的研究结果表明，常见的后MCMC工作流程是不足以捕捉固有的蒙特卡罗错误的树，并强调链内混合和链间收敛评估的需要。
2022-09-03 q-bio.PE stat.ME
Bayesian structure learning using dynamic programming and MCMC
MCMC方法从DAG的空间采样可以混合不良，由于当地的性质，通常使用的建议。已经表明，从节点阶数空间采样会产生更好的结果[FK 03，EW 06]。最近，Koivisto和Sood展示了如何使用动态规划（DP）[KS 04，Koi06]分析边际化订单。他们的方法计算精确的边际后边缘概率，从而避免了对MCMC的需要。不幸的是，DP技术有四个缺点：它只能使用模块化先验，它只能计算模块化特征的后验，难以计算预测密度，并且需要指数时间和空间。我们将展示如何克服前三个问题，通过使用DP算法作为建议分布MCMC在DAG空间。我们表明，这种混合技术比其他方法更快地收敛到后验，从而在测试数据上实现更准确的结构学习和更高的预测可能性。
2012-06-20 cs.LG stat.ML
Bayesian Clustering for Continuous-Time Hidden Markov Models
我们开发了基于连续时间隐马尔可夫模型（CTHMM）和广义线性观测模型的纵向轨迹的聚类程序。具体而言，在本文中，我们进行有限和无限的混合模型为基础的聚类CTHMM和实现推理使用马尔可夫链蒙特卡罗（MCMC）。对于有限混合模型，我们实现了可逆跳MCMC，以促进不同数量的集群之间的跨维移动。对于Dirichlet过程混合模型，我们利用限制吉布斯抽样分裂合并建议，以加快MCMC算法。我们采用所提出的算法的模拟数据，以及一个真实的数据的例子，结果表明所需的性能的新的采样器。
2021-03-26 stat.AP stat.CO stat.ME
Sampling for Bayesian Mixture Models: MCMC with Polynomial-Time Mixing
UC Berkeley（加州大学伯克利分校）；Voleon Group（沃利恩集团）
本文研究了贝叶斯高斯混合模型中的幂后验分布抽样问题。这种幂后验被认为是非对数凹和多模态的，这导致了一些标准MCMC算法的指数混合时间。我们介绍并研究了用于采样的反射大都会-黑斯廷斯随机游动（RMRW）算法。对于对称的两组分高斯混合模型，只要样本量$n$为$d (d + \Vert θ_{0} \Vert^2)$阶，我们证明了其混合时间有界为$d^{1.5}(d + \Vert θ_{0} \Vert^2)^{4.5}$.值得注意的是，该结果不需要对两个平均值的分离有任何条件。途中证明这个界限，我们建立了一些新的结果可能独立的利益，允许结合庞加莱不等式的条件和边际密度。
2019-12-11 cs.DS cs.LG math.PR
Parallel Markov Chain Monte Carlo for Bayesian Hierarchical Models with Big Data, in Two Stages
由于近年来大数据集的不断增长，新的贝叶斯马尔可夫链蒙特卡罗（MCMC）并行计算方法已经被开发出来。这些方法通过观察将大数据集划分为子集。然而，对于贝叶斯嵌套分层模型，通常只有少数参数对整个数据集是通用的，大多数参数是特定于组的。因此，并行贝叶斯MCMC方法考虑到模型的结构，并按组而不是按观察值划分完整的数据集，是一种更自然的分析方法。在这里，我们适应和扩展了最近推出的两阶段贝叶斯分层建模方法，我们划分完整的数据集组。在阶段1中，独立地并行估计组特异性参数。阶段1后验被用作阶段2中的建议分布，其中目标分布是完整模型。使用三层和四层模型，我们在模拟和真实数据的研究表明，我们的方法的结果与完整的数据分析，大大提高了MCMC的效率，大大减少了计算时间。我们的方法与现有的并行MCMC计算方法的优点也被描述。
2019-01-16 cs.DC stat.CO stat.ME
A computational framework for infinite-dimensional Bayesian inverse problems: Part II. Stochastic Newton MCMC with application to ice sheet flow inverse problems
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文提出一种解决无限维反问题的计算框架，采用随机牛顿MCMC方法，通过低秩近似Hessian来加速采样，应用于冰盖流动反问题，展示了方法在收敛速度和计算成本上的优势。
2014-04-11 cs.NA math.NA math.OC
MCMC-free adaptive Bayesian procedures using random series prior
我们考虑几个非参数贝叶斯模型，使用有限的随机序列与一个随机数的条款的先验。先验是通过基函数的数量和相关系数的分布来构造的。我们推导出一个一般性的结果，建设一个适当的筛子，并获得自适应后收缩率的所有平滑水平的功能，在真正的模型。我们将这个一般性结果应用于几个统计问题，如信号处理，密度估计，非参数加性回归，分类，谱密度估计，函数回归等。先验可以被看作是常用的高斯过程先验的替代方案，但是可以通过相对简单的技术进行分析，并且在许多情况下允许更简单的计算方法，而不使用马尔可夫链蒙特卡罗（MCMC）方法.仿真结果表明，随机序列先验的性能与高斯过程先验的性能相当。
2015-02-07 math.ST stat.TH
Integration of Active Learning and MCMC Sampling for Efficient Bayesian Calibration of Mechanical Properties
本文系统比较了代理建模与MCMC算法选择对贝叶斯校准精度和效率的影响，提出基于MCMC路径的主动学习策略，并指出正向模型而非MCMC算法是推断过程的主要瓶颈。
2024-11-21 physics.comp-ph stat.AP stat.ML
Macau: Scalable Bayesian Multi-relational Factorization with Side Information using MCMC
我们提出澳门，一个强大而灵活的贝叶斯分解方法的异构数据。我们的模型可以分解任何一组可以由关系模型表示的实体和关系，包括张量和每个实体的多个关系。Macau还可以结合辅助信息，特别是实体和关系特征，这对于预测稀疏观察的关系至关重要。Macau可扩展到数百万个实体实例、数亿个观测值和具有数百万个维度的稀疏实体特征。为了实现按比例放大，我们专门设计了实体和关系特征的采样过程，主要依赖于线性回归中的噪声注入。我们在一系列实验中展示了Macau的性能和先进功能，包括具有挑战性的药物蛋白活性预测任务。
2015-12-17 stat.ML
BayesMix: Bayesian Mixture Models in C++
我们描述了BayesMix，一个用于一般贝叶斯混合模型的MCMC后验模拟的C++库。BayesMix的目标是为计算机科学家、统计学家和从业者提供一个独立的生态系统来执行混合模型的推理。这个库的关键思想是可扩展性，因为我们希望用户能够轻松地将我们的软件适应他们特定的贝叶斯混合模型。除了库中包含的几种模型和MCMC后验推理算法外，对混合模型和相关MCMC算法不熟悉的新用户可以以最小的编码工作扩展我们的库。与竞争对手的软件相比，我们的库在计算上非常高效。示例表明，典型的代码运行时比竞争对手的数据维度从1到10快2到25倍。我们的库在Github上公开提供，网址是https://github.com/bayesmix-dev/bayesmix/。
2022-05-17 stat.CO stat.OT
Liesel: A Python Framework for Graph-Based Bayesian Modeling and Customizable MCMC with Support for Generalized Additive Models
Liesel是一个用于贝叶斯建模和后验计算的Python框架，特别支持广义加性回归模型，旨在减少方法学工作的摩擦。该框架包含三个组件：Liesel-Model用于模型构建和可视化，Liesel-Goose提供模块化的MCMC框架，Liesel-GAM提供广义加性回归模型的高级构建块，共同使Liesel成为快速开发、测试和应用贝叶斯模型和MCMC算法的有效工具。
2026-06-04 stat.CO
An MCMC Algorithm for Estimating the Q-matrix in a Bayesian Framework
本研究的目的是发展一个估计Q矩阵的MCMC算法。该算法以DINA模型为基础，从估计相关属性入手。使用饱和模型和二进制十进制转换，该算法将可能的属性模式转换为多项分布。与属性模式的可能性一起，使用Γ分布构造的Dirichlet分布被用作从后验中采样的先验。利用反变换抽样方法生成考生的相关属性。给出了采样猜想和滑移参数的封闭形式后验，导出了Q矩阵的采样分布。一个重新标记算法，占潜在的标签切换。给出了DINA模型中属性相关数据的模拟方法。三个仿真研究进行评估的算法的性能。使用ECPE数据进行实证研究。该算法使用定制的R代码实现。
2018-02-07 stat.AP
Bayesian Model Selection for Beta Autoregressive Processes
本文研究了Beta自回归过程的贝叶斯推断。我们限制我们的注意力的类的条件线性过程。这些过程特别适合于预测目的，但是由于对参数空间的约束而难以估计。我们提供了一个完整的贝叶斯方法的估计，包括在推理问题的参数限制的先验分布的一个合适的规格。此外，在贝叶斯框架中，参数估计和模型选择可以同时解决。特别是，我们提出了一个马尔可夫链蒙特卡罗（MCMC）程序的基础上，吉布斯算法内的大都会黑斯廷斯和解决模型选择问题的可逆跳MCMC方法。
2010-07-31 math.ST stat.CO stat.ME
A fully Bayesian strategy for high-dimensional hierarchical modeling using massively parallel computing
马尔可夫链蒙特卡罗（MCMC）是贝叶斯参数估计的主要工具。当模型由于层次数量、特定级别的组数量或每组中的观测数量的增加而扩展时，通过MCMC进行的完全贝叶斯分析很容易变得计算量大，甚至难以处理。我们说明了如何在MCMC分层模型的步骤主要是两种类型之一：条件独立的绘制或低维绘制的基础上汇总统计的参数在更高级别的层次结构。并行计算可以通过对条件独立绘制执行并行计算并使用并行归约计算汇总统计量来提高效率。在MCMC算法中，我们记录运行均值和参数平方均值，以进行收敛性诊断和后验推理，同时避免代价高昂的内存传输瓶颈。我们证明了该算法的有效性的模型激励下一代测序数据，我们发布我们的实现R包fbseq和fbseqCUDA。
2016-06-21 stat.CO
