Bayesian inference on random simple graphs with power law degree distributions
我们提出了一个随机简单图的模型,其度分布服从幂律(即,重尾)。为了实现这种行为,在图中的边缘概率构造从Bertoin-Fujita-Roynette-Yor(BFRY)随机变量,最近已被利用在贝叶斯统计的幂律模型在几个应用中的建设。我们的构造很容易扩展到捕获潜在因素的结构,类似于随机块模型,同时保持其幂律度分布。在变分贝叶斯推断例程中,BFRY随机变量很好地近似于伽马随机变量,我们将其应用于幂律度分布是自然假设的几个网络数据集。通过概率推理学习BFRY分布的参数,我们能够从数据中自动选择适当的幂律行为。为了进一步扩展我们的推理过程,我们采用随机梯度上升例程,其中梯度是在小批量上计算的(即,图中的边的子集)。
2017-06-18 stat.ML
Adaptive Bayesian Estimation of Conditional Densities
我们考虑一个条件密度的非参数贝叶斯模型。该模型是一个有限的混合正态分布与协变量依赖的多项logit混合概率。在正整数上指定混合组分数的先验。未对协变量的边缘分布建模。研究了该模型后验概率的渐近频率论行为。具体来说,我们表明,当真正的条件密度有一定的平滑度,然后后收缩率周围的真理是等于一个对数因子的频率最小最大估计率。协变量空间是无界的情况下,也建立了一个扩展。由于我们的结果在没有真密度的平滑水平的先验知识的情况下成立,因此所建立的后验收缩率是自适应的。此外,我们表明,在模型中包含不相关的协变量的速度不受影响。在蒙特卡罗模拟中,该模型的一个版本与交叉验证的核条件密度估计相比是有利的。
2016-01-19 math.ST stat.TH
Optimal Bayesian estimation in stochastic block models
随着社交网络、遗传电路和蛋白质相互作用网络形式的结构化数据的出现,网络的统计分析近年来变得流行。随机块模型是一种经典的网络簇随机图模型。有大量的文献致力于提出估计和推断模型参数的策略,从经典和贝叶斯的观点。与经典的对应,但是,有一个缺乏的理论结果的准确性估计在贝叶斯设置。本文对随机区组模型中参数的后验分布进行了理论研究。特别是,我们表明,获得最佳的后验收敛率与常规使用的多项式Dirichlet先验的聚类指标和均匀先验的随机边缘指标的概率。途中,我们开发的几何嵌入技术,利用低维结构的参数空间,这可能是独立的利益。
2015-05-26 math.ST stat.TH
Bayesian modelling of time-varying conditional heteroscedasticity
条件异方差(CH)模型通常用于分析金融数据集。经典的模型,如ARCH-GARCH与时不变系数往往不足以描述随着时间的推移,由于市场的变化频繁的变化。然而,我们可以通过考虑这些模型的时变类似物来获得更好的洞察力。在本文中,我们提出了一种贝叶斯方法来估计这样的模型,并开发计算效率MCMC算法的基础上汉密尔顿蒙特卡洛(HMC)采样。我们还建立了后验收缩率与增加样本量的平均Hellinger度量。我们的方法的性能进行了比较与频率估计和估计的时间常数的类似物。最后,我们获得了一些流行的外汇(货币兑换率)和股票市场数据集的时变参数估计。
2021-03-08 econ.EM math.ST stat.TH
Bayesian Multivariate Sparse Functional Principal Components Analysis
Johns Hopkins University(约翰斯·霍普金斯大学)
本文提出MSFAST方法,通过贝叶斯框架处理稀疏函数数据,改进主成分估计并提升计算效率,适用于小信噪比场景。
2026-05-07 stat.ME
Bayesian inference with Besov-Laplace priors for spatially inhomogeneous binary classification surfaces
本文针对空间非齐次二分类问题,提出使用贝索夫-拉普拉斯先验的非参数贝叶斯方法,并证明其后验收缩率在频率学派假设下达到极小极大最优。
2025-09-09 math.ST stat.TH
Bayesian Learning via Neural Schrödinger-Föllmer Flows
Cambridge University(剑桥大学);University of Potsdam(波茨坦大学);University Of Bath(巴斯大学)
在这项工作中,我们探索了一个新的框架,近似贝叶斯推断在大型数据集的基础上随机控制(即薛定谔桥)。我们提倡随机控制作为一个有限的时间和低方差替代流行的稳态方法,如随机梯度Langevin动力学(SGLD)。此外,我们讨论和适应这个框架的现有理论保证,并建立连接到现有的VI例程在基于PDE的模型。
2022-10-25 cs.LG stat.ML
Bayesian Multiscale Analysis of the Cox Model
针对贝叶斯Cox比例风险模型大样本性质不明的问题,研究构建了非共轭先验下的后验分布统一理论,推导了收缩率、渐近正态性及泛函极限结果,证明了生存函数可信带的最优频率覆盖性质,模拟验证了其有限样本表现。
2023-06-14 math.ST stat.TH
Bayesian Model Calibration with Integrated Discrepancy: Addressing Inexact Dislocation Dynamics Models
Clemson University(克莱姆森大学)
本文提出了一种基于集成偏差的贝叶斯模型校准方法,通过重新定义模型偏差高斯过程并整合到模拟器中,以提高对位错动力学模型不精确性的校准效果。
2026-03-12 cond-mat.mtrl-sci stat.ME
Bayesian conjugacy in probit, tobit, multinomial probit and extensions: A review and new results
通常出现在几个领域中的一大类模型可以表示为部分或完全离散化的高斯线性回归。除了包括基本的高斯响应设置,这个类还包括probit,多项式probit和tobit回归等,从而产生了应用中最广泛实现的模型家族之一。这种表示的相关性刺激了贝叶斯领域数十年的研究,主要是出于这样一个事实,即与高斯线性回归不同,由这种模型引起的后验分布似乎不属于一个已知的类别,在通常假设的高斯先验下的系数。这激发了依赖于基于采样的策略或确定性近似的后验推理的几种解决方案,然而,这些解决方案仍然存在计算和准确性问题,特别是在高维中。本文的范围是审查,统一和扩展贝叶斯推断和计算这一类模型的最新进展。为了解决这样一个目标,我们证明了这些配方诱导的似然共享一个共同的分析结构,这意味着共轭与广泛的一类分布,即统一的偏态法线(SUN),广义高斯偏态的情况下。这一结果统一和扩展了最近的共轭特性分析类内的特定模型,并打开了途径,改善后验推理,在更广泛的一类配方和先验,通过新的封闭形式的表达式,i.i.d.精确SUN后验的采样器,以及来自VB和EP的更精确和可扩展的近似。这些优势在模拟中得到了说明,并有望促进这些核心贝叶斯模型的常规使用,同时提供了一个新的框架来研究理论特性和开发未来的扩展。
2023-03-05 stat.CO stat.ME
Pseudo-Bayesian Optimal Designs for Fitting Fractional Polynomial Response Surface Models
针对分数多项式响应曲面模型的参数高效估计设计难题,本文采用Gilmour和Trinca 2012年提出的方法,求取多种该类模型的贝叶斯最优精确设计,并与多种标准设计展开对比。
2025-10-28 stat.ME
Marginally Constrained Nonparametric Bayesian Inference through Gaussian Processes
非参数贝叶斯模型通常用作复杂数据的灵活和强大的模型。很多时候,统计学家可能对感兴趣的数据分布有额外的信息信念,例如,它的均值或子集分量,不是非参数先验的一部分,甚至与非参数先验不相容。一个重要的挑战是将这种部分先验信念纳入非参数贝叶斯模型。在本文中,我们的动机设置从业者有额外的分布信息的一个子集的坐标的观测建模。我们的方法将这个问题与条件密度模型联系起来。我们的主要思想是一种新的约束贝叶斯模型,基于一个扰动的参数分布与变换高斯过程之前的扰动函数。我们还开发了相应的后验抽样方法的基础上的数据增强。我们说明了我们提出的约束非参数贝叶斯模型在各种现实世界的情况下,包括建模环境和地震数据的有效性。
2022-11-05 stat.CO stat.ME
Bayesian Estimation of Sparse Spiked Covariance Matrices in High Dimensions
我们提出了一个贝叶斯方法估计尖峰协方差阵的联合稀疏结构在高维。根据潜在因子模型对加标协方差阵进行重新参数化,其中加载矩阵配备了新型矩阵钉板LASSO先验,这是一种用于联合稀疏矩阵建模的连续收缩先验。我们建立了协方差阵关于算子范数的速率最优后验压缩以及主子空间关于投影算子范数损失的速率最优后验压缩。我们还研究了主子空间的后验收缩率相对于2到无穷范数损失,一种新的损失函数测量子空间之间的距离,能够捕获元素的特征向量扰动。我们表明,后验收缩率相对于2到无穷大的范数损失是严格的,比常规使用的投影算子范数损失在一定的低秩和有界相干条件下。此外,提出了一个主子空间的点估计与率最优风险界的投影算子范数损失。这些结果是基于矩阵尖峰和平板LASSO先验的浓度和大偏差不等式的集合。所提出的方法的数值性能进行评估,通过合成的例子和分析的一个真实世界的人脸数据的例子。
2019-01-30 math.ST stat.ME stat.TH
Bayesian Masking: Sparse Bayesian Estimation with Weaker Shrinkage Bias
Kyoto University(京都大学);National Institute of Informatics(国立信息学研究所)
稀疏线性回归的一个常见策略是引入正则化,通过使相应的权重为零来消除不相关的特征。然而,正则化经常缩小相关特征的估计量,这导致不正确的特征选择。出于上述问题,我们提出了贝叶斯掩蔽(BM),稀疏估计方法,不施加正则化的权重。BM的关键概念是引入随机屏蔽特征的二进制潜变量。估计掩蔽率自动确定特征的相关性。我们推导出一个变分贝叶斯推断算法,最大限度地提高了下界的因子分解信息准则(FIC),这是最近开发的渐近标准,用于评估边际对数似然。此外,我们提出了重新参数化,以加速收敛的派生算法。最后,我们表明,BM优于Lasso和自动相关性确定(ARD)的稀疏收缩权衡。
2015-10-06 cs.LG stat.ML
Convergence complexity analysis of Albert and Chib's algorithm for Bayesian probit regression
MCMC算法在高维贝叶斯问题中的应用已成为常规。这激发了所谓的收敛复杂性分析,其目标是确定蒙特卡罗马尔可夫链的收敛速度如何与样本量$n$和/或协变量数$p$成比例。本文对Albert和Chib(1993)的贝叶斯概率回归模型的数据增强算法进行了全面的收敛复杂性分析。在这种分析中使用的主要工具是漂移和优化条件。通常的陷阱与这种类型的分析是避免利用中心漂移函数,这是最小化在高后验概率区域,并通过使用一种新的技术来抑制高维的构造的最小化条件。主要结果是,基本马尔可夫链的几何收敛速度是有界的1以下的$n \rightarrow \infty$(与$p$固定),和$p \rightarrow \infty$(与$n$固定)。此外,全变差到平稳性的距离的第一可计算界限是渐近分析的副产品。
2018-04-23 math.ST stat.TH
Bayesian Projection Pursuit Regression
在投影寻踪回归(PPR)中,未知响应函数由M个“脊函数”的和来近似,所述脊函数是多变量输入空间的一维投影的灵活函数。传统上,优化例程用于经由顺序算法来估计投影方向和脊函数,并且M通常经由交叉验证来选择。我们介绍了第一个贝叶斯版本的PPR,它具有准确的不确定性量化的好处。为了学习投影方向和脊函数,我们应用了用于单脊函数情况(M=1)的新方法,称为单指数模型,贝叶斯实现确实存在;然后使用可逆跳MCMC来学习脊函数M的数量。我们评估了我们的模型在20个模拟场景和23个真实数据集中的预测能力,并与一系列最先进的回归方法进行了对比。它的有效性能表明贝叶斯投影寻踪回归是对现有回归工具箱的一个有价值的补充。
2022-10-17 stat.ME
ReinBo: Machine Learning pipeline search and configuration with Bayesian Optimization embedded Reinforcement Learning
LMU Munich(慕尼黑大学)
机器学习流水线潜在地由几个操作阶段组成,如数据预处理、特征工程和机器学习模型训练。每个操作都有一组超参数,当操作未被选择时,这些超参数可能与管道无关。这就产生了一个分层的条件超参数空间。为了优化这种混合的连续和离散条件分层超参数空间,我们提出了一种有效的管道搜索和配置算法,该算法结合了强化学习和贝叶斯优化的力量。实验结果表明,我们的方法表现良好的最先进的方法,如自动sklearn,TPOT,树Parzen窗口,随机搜索。
2019-04-10 cs.AI cs.LG stat.ML
BOSH: Bayesian Optimization by Sampling Hierarchically
Lancaster University(兰卡斯特大学)
贝叶斯优化(BO)用于具有随机评估的函数的部署,例如通过交叉验证和仿真优化的参数调整,通常优化目标函数的固定噪声实现集合的平均值。然而,以这种方式忽略真正的目标函数会找到错误函数的高精度最优值。为了解决这个问题,我们提出了贝叶斯优化分层采样(BOSH),一种新的BO例程配对的分层高斯过程与信息理论框架,以生成一个不断增长的实现池的优化进展。我们证明了BOSH在综合基准测试、仿真优化、强化学习和超参数调整任务中提供了比标准BO更高效、更高精度的优化。
2020-07-02 cs.LG stat.ML
Conjugate Bayes for probit regression via unified skew-normal distributions
二分数据的回归模型在统计学中是普遍存在的。除了对二进制响应的推断有用之外,这些方法还可以作为更复杂公式的构建模块,例如密度回归,非参数分类和图形模型。在贝叶斯框架内,推理通过更新系数的先验来进行,通常设置为高斯,具有由响应的概率单位或对数回归引起的似然性。在这种更新中,明显缺乏一个易于处理的后,激发了各种计算方法,包括马尔可夫链蒙特卡罗例程和算法,近似后。尽管常规实施,马尔可夫链蒙特卡罗策略面临的混合或时间效率低的问题,在大p和小n的研究,而近似例程无法捕捉通常观察到的偏度后。本文证明了在高斯先验下,概率单位系数的后验分布具有统一的偏态核。这样一个新的结果允许有效的贝叶斯推断的广泛的应用,特别是在大p和小到中等n的研究,国家的最先进的计算方法面临显着的问题。这些进展概述了遗传学研究,并进一步激发了更广泛的一类共轭先验概率模型的发展,以及从统一的偏态正态后验中获得独立和同分布样本的方法。
2019-11-17 stat.CO stat.ME
Conjugate priors for Bayesian Variable Selection in exponential family Generalized Linear Models
University of Trento(特伦托大学);Fondazione Bruno Kessler (FBK)(布鲁诺·孔塞雷基金会);BCAM — Basque Center for Applied Mathematics(巴斯克应用数学中心);Ikerbasque — Basque Foundation for Science(巴斯克科学基金会)
提出一种全贝叶斯共轭框架,通过二进制包含指标实现广义线性模型中的变量选择与参数估计,并证明后验一致性,开发了高效Gibbs采样算法及R包。
2026-11-05 math.ST stat.CO stat.ME
Posterior contraction in sparse Bayesian factor models for massive covariance matrices
稀疏贝叶斯因子模型通常用于高维应用中的简约依赖建模和降维。我们提供了理论上的理解,这样的贝叶斯过程中推断高维协方差阵的维数可以大于样本量的后验收敛速度。在真实协方差阵的相关稀疏性假设下,我们证明了常用的点质量混合先验的因子载荷导致一致的估计算子范数,即使当$p\gg n$。我们的主要贡献之一是开发了一类新的连续收缩先验,并提供了对稀疏向量周围浓度的见解。使用这样的先验的因子载荷,我们得到类似的收敛速率获得点质量混合先验。为了获得收敛速度,我们构造检验函数,使用随机矩阵理论的见解分离高维协方差阵空间中的点;开发的工具可能是独立的兴趣。我们还推导出极大极小率,并表明贝叶斯后验收敛率与极大极小率一致,直到$\sqrt{\log n}$项。
2014-06-02 math.ST stat.TH
Differences Among Noninformative Stopping Rules Are Often Relevant to Bayesian Decisions
萨维奇曾经希望表明,“表面上不相容的思想体系一方面与[主观贝叶斯主义]有关,另一方面与[古典统计学]有关.互相支持和澄清。然而,到了1972年,他已经基本上“对经典统计学的方法失去了信心”。他发现这些“装置”的一个方面令人反感的是,用于决定何时结束实验的“停止规则“之间的差异从贝叶斯的角度来看是“无信息”的,可能会影响使用经典方法做出的决定。使用不同的停止规则产生相同数据的两个实验,似乎只在实验者的意图上有所不同,即如果数据不同,他们是否会继续进行,这似乎与数据的证据输入无关,因此与数据证明什么行为的事实无关。我认为,古典和贝叶斯关于停止规则的想法实际上确实“互相借”了萨维奇最初希望找到的那种“相互支持和澄清”。他们这样做是在一种科学实践中常见的情况下,在这种情况下,设计实验的人与根据实验结果做出决定的人有不同的利益。我表明,在这种情况下,贝叶斯原理提供了合格的支持经典的统计实践的“惩罚”“有偏见的”停止规则。然而,与传统原则相比,这些原则要求在更窄的范围内实行这一做法,而且原因也不同。我认为,这种做法的经典论点是令人信服的,正是在这类情况下,贝叶斯原则也需要它,因此,我们应该把贝叶斯原则作为澄清经典统计思想的停止规则,而不是相反。
2017-07-01 math.ST stat.TH
Scalable Bayesian Inference for Detection and Deblending in Astronomical Images
我们提出了一种新的概率方法检测,去混合,和编目的天文来源称为贝叶斯光源分离器(BLISS)。BLISS基于深度生成模型,将神经网络嵌入贝叶斯模型。对于后验推理,BLISS使用一种新的变分推理形式,称为前向摊销变分推理。BLISS推理例程速度很快,一旦编码器网络被训练,就需要在GPU上对编码器网络进行单次正向传递。BLISS可以在几秒钟内对百万像素的图像进行完全的贝叶斯推断,并产生高度准确的目录。BLISS具有高度可扩展性,除了生成概率目录外,还具有直接回答下游科学问题的潜力。
2022-07-12 astro-ph.IM stat.AP stat.ML
On the Mathematics of the Jeffreys-Lindley Paradox
本文讨论了著名的Jeffreys-Lindley悖论。在贝叶斯设置中,当检验点原假设并为备择假设寻求客观先验时,就会出现所谓的悖论。特别地,当参数值的不确定性(即方差)趋于无穷大时,原假设的后验趋于1。我们认为,处理悖论的适当方法是使用简单的数学,任何哲学论证都被视为无关紧要。
2015-03-13 math.ST stat.TH
Probabilistic Feature Selection and Classification Vector Machine
University of Science and Technology of China(中国科学技术大学);University of Amsterdam(阿姆斯特丹大学)
稀疏贝叶斯学习是一种最先进的监督学习算法,它可以从输入数据中选择相关样本的子集,并进行可靠的概率预测。然而,在高维数据与不相关的功能,传统的稀疏贝叶斯分类器的性能下降和效率低,无法消除不相关的功能。为了解决这个问题,我们提出了一种新的稀疏贝叶斯嵌入式特征选择方法,采用截断高斯分布作为样本和特征先验。所提出的方法,称为概率特征选择和分类向量机(PFCVMLP),能够同时选择相关的特征和样本的分类任务。为了得到解析解,拉普拉斯近似被用来计算近似后验和边缘似然。最后,参数和超参数优化的第二类最大似然方法。在三个数据集上的实验从两个方面验证了PFCVMLP的性能:分类性能和特征选择的有效性。最后,我们分析了PFCVMLP的泛化性能,并给出了PFCVMLP的泛化误差界。通过收紧边界,证明了特征选择的重要性。
2018-06-13 cs.LG stat.ML
Untangling Sample and Population Level Estimands in Bayesian Causal Computation
Brown University(布朗大学)
本文探讨了样本级和总体级推断在识别、建模、计算和解释上的差异,通过四个例子说明相似的贝叶斯计算过程可能产生不同的估计量,导致错误推断。
2026-05-09 stat.ME
Bayesian factorizations of big sparse tensors
收集以多路数组(张量)结构化的数据已成为常规。关于低秩和稀疏矩阵分解有大量的文献,但对统计学中张量情况的扩展的考虑有限。最常见的低秩张量因式分解依赖于并行因子分析(PARAFAC),其将秩$k$张量表示为秩1张量的和。当观测值只对一个大张量的一小部分细胞可用时,低秩假设是不够的,PARAFAC的性能很差。我们诱导一个额外的层的降维,允许有效的排名不同的维度表。为了具体起见,我们重点介绍列联表应用程序。以贝叶斯方法,我们把先验的因式分解的条款,并开发一个有效的吉布斯采样后验计算。理论提供显示后浓度率在高维设置,和方法被证明具有良好的性能,在模拟和几个真实的数据应用。
2013-06-07 stat.ME
Sensitivity analysis for Bayesian hierarchical models
先验敏感性检验在贝叶斯分析中起着重要的作用。这对于贝叶斯分层模型尤其如此,其中层次结构中更深层内的参数的可解释性变得具有挑战性。此外,缺乏信息以及可识别性问题可能意味着这些模型的先验分布对后验推断具有不期望的影响。尽管它的相关性,非正式的方法,以前的敏感性分析目前使用。它们需要使用临时修改的基础先验参数值重复重新运行模型。其他形式的方法,以前的敏感性分析遭受缺乏普及,在实践中,主要是由于他们的高计算成本和缺乏软件实现。我们提出了一种新的形式化方法,先验敏感性分析,这是快速和准确的。它量化灵敏度,而无需重新运行模型。我们在R中开发了一个即用型priorSens软件包,用于R-INLA的常规先验灵敏度调查。在一系列的例子中,我们展示了我们的方法可以用来检测一些参数的高先验灵敏度以及可能过度参数化贝叶斯分层模型中的可识别性问题。
2013-12-17 stat.ME
Bayesian Environment Invariant Regression
Fudan University(复旦大学);University of Pennsylvania(宾夕法尼亚大学)
本文提出一种贝叶斯框架,通过分离共享响应机制与环境特定关联,识别环境不变的预测变量。方法利用异质性进行结构学习,并通过竞争性尖峰- slab先验强制预测变量在不变和非不变效应间竞争。
2026-04-28 stat.ME
Context-Specific Refinements of Bayesian Network Classifiers
IE University(IE大学);University of Valencia(瓦伦西亚大学)
本文提出基于分段树模型的上下文特定贝叶斯网络分类器,扩展TAN等模型,通过数据驱动学习提升分类准确性。
2024-05-28 cs.LG stat.ML
A Bayesian Hierarchical Model for Criminal Investigations
The Alan Turing Institute(艾伦·图灵研究所);Imperial College London(帝国理工学院);University of Warwick(华威大学)
潜在的暴力犯罪分子往往需要经过一系列的准备步骤,然后才能执行他们的计划。在这一升级过程中,警察有机会通过他们所了解的情况,观察和从关于这些人活动的情报报告中了解到的情况,评估这些人构成的威胁。在本文中,我们定制了一个三层贝叶斯层次模型来描述这个过程。这能够实时的传播常规和意外的证据。我们讨论了如何建立这样一个模型,使其校准领域专家的判断。模型插图包括基于潜在的基于车辆的恐怖袭击的假设示例。
2019-11-05 cs.AI cs.LG stat.AP
Inferring the sources of HIV infection in Africa from deep sequence data with semi-parametric Bayesian Poisson flow models
病原体深度测序是传染病监测中越来越常用的技术。我们提出了一个半参数贝叶斯泊松模型,利用这些新出现的数据推断传染病传播流和感染源的人口水平。由于希尔伯特空间高斯过程近似,该框架在高维流空间中是计算可扩展的,允许采样偏差调整,以及以比以前可能的更精细的分辨率估计特定于性别和年龄的传输流。我们将该方法应用于乌干达Rakai的密集采样的基于人群的HIV深度序列数据,并发现大量证据表明青少年和年轻女性主要通过年龄差异的关系感染。
2022-01-05 stat.AP
Bayesian Latent Class Regression with Interpretable Binary Profiles
Duke University(杜克大学);Columbia University(哥伦比亚大学)
针对高维分类数据,提出一种引入二元潜在属性层的贝叶斯潜在类别回归模型(BLIP),满足可识别性和后验一致性,并具有贝叶斯最优聚类性质以应对维数灾难。
2026-05-27 stat.ME
Overcoming Model Misspecification in Bayesian Inference of Molecular Signalling Networks
Newcastle University(纽卡斯尔大学);University of Turin(都灵大学);Collegio Carlo Alberto(卡洛阿尔贝托学院)
针对分子信号网络贝叶斯推断中模型误设导致过度自信的问题,提出基于预测导向后验的后贝叶斯方法,并扩展至潜变量模型,实证验证其在网络推断中的有效性。
2026-09-22 stat.AP stat.ME
Robust Bayesian Inference on Riemannian Submanifold
The Hong Kong University of Science and Technology(香港科技大学);Texas A&M University(德克萨斯农工大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出了一种在黎曼子流形上进行鲁棒贝叶斯推断的方法,能够有效处理流形值参数的不确定性量化问题。
2026-01-24 stat.ME
Maximizing acquisition functions for Bayesian optimization
Imperial College London(帝国理工学院);University of Freiburg(弗赖堡大学)
贝叶斯优化是一种样本效率高的全局优化方法,它依赖于理论上激励的值搜索(获取函数)来指导其搜索过程。完全最大化捕获函数产生贝叶斯决策规则,但这种理想难以实现,因为这些函数通常是非平凡的优化。当并行评估查询时,这种说法尤其正确,其中采集函数通常是非凸的,高维的,棘手的。我们首先表明,通过蒙特卡罗集成估计的采集功能始终服从基于梯度的优化。随后,我们确定了一个共同的家庭收购功能,包括EI和UCB,其属性不仅方便,但证明使用贪婪的方法,其最大化。
2018-12-02 cs.LG stat.ML
Neuronized Priors for Bayesian Sparse Linear Regression
虽然贝叶斯变量选择方法已被深入研究,但其在实践中的常规使用尚未赶上其非贝叶斯对应物,如Lasso,可能是由于计算困难和先前选择的灵活性。为了缓解这些挑战,我们提出了神经元先验统一和扩展一些流行的收缩先验,如拉普拉斯,柯西,马蹄铁,和钉和板先验。神经元化先验可以被写为高斯权重变量和经由激活函数从高斯变换的尺度变量的乘积。与经典的spike-and-slab先验相比,神经元化先验实现了相同的显式变量选择,而不使用任何潜在的指示变量,这导致更有效和灵活的后验采样和更有效的后验模态估计。从理论上讲,我们提供了具体的条件上的神经元化的制定,以实现最佳的后验收缩率,并表明,一个广泛适用的MCMC算法实现了指数快速收敛速度下的神经元化的制定。我们还研究了各种模拟和真实数据的例子,并证明了使用神经元化表示在所有已知的情况下比其标准对应物在计算上更有效。CRAN中提供了一个R包NPrior,用于在贝叶斯线性回归中使用神经元化先验。
2021-07-06 stat.ME
Approximate Bayesian inference for cumulative probit regression models
University of Padova(帕多瓦大学)
本文提出三种可扩展算法用于近似累积概率回归模型的后验分布,通过变分贝叶斯和期望传播方法,提升大规模数据下的计算效率和准确性。
2026-03-12 stat.CO stat.ME stat.ML
Bayesian Effect Fusion for Categorical Predictors
在本文中,我们提出了一个贝叶斯方法,以获得一个稀疏表示的分类预测的影响,在回归型模型。由于分类预测因子的效应由一组水平效应捕获,因此稀疏性不仅可以通过排除单个不相关水平效应来实现,还可以通过排除与预测因子关联的整组效应或通过融合对响应具有基本相同效应的水平来实现。为了实现这一目标,我们提出了一个先验,它允许几乎完美的,以及几乎为零的水平影响之间的依赖先验。我们展示了如何通过指定与一个分类预测因子相关的所有效应差异上的尖峰和平板先验分布来获得此先验,以及如何实现限制性融合。提出了一种有效的后验计算MCMC方法。所提出的方法的性能进行了研究模拟数据。最后,我们说明了它的应用程序的实际数据从欧盟SILC。
2017-11-16 stat.CO
De-Linearizing Agent Traces: Bayesian Inference of Latent Partial Orders for Efficient Execution
Department of Statistics, University of Oxford(牛津大学统计系);Zhejiang University(浙江大学)
提出BPOP贝叶斯框架,从噪声线性化轨迹中推断潜在依赖偏序,通过可处理的边界-softmax似然实现高效MCMC推理,在云基础设施任务和科学工作流上显著减少令牌使用和执行时间。
2026-05-24 stat.AP
Bayesian optimization under mixed constraints with a slack-variable augmented Lagrangian
增广拉格朗日(AL)可以将约束优化问题转换成一系列更简单的(例如,无约束)问题,然后通常用局部求解器来解决。最近,基于代理的贝叶斯优化(BO)子求解器已成功部署在AL框架中,在存在不等式约束的情况下进行更全局的搜索;然而,一个缺点是预期改进(EI)评估依赖于蒙特卡罗。在这里,我们引入了一个替代松弛变量AL,并表明,在这个配方的EI可以评估与库例程。松弛变量还促进等式以及不等式约束及其混合。我们展示了我们的新松弛“ALBO”相比,原来的。它的优越性,传统的替代品是加强几个混合约束的例子。
2016-05-31 stat.CO stat.ML
Fast Bayesian Functional Principal Components Analysis
Johns Hopkins University(约翰斯·霍普金斯大学)
本文提出FAST方法,通过贝叶斯框架实现函数主成分分析,采用正交样条基底投影、参数扩展方案高效采样及采样过程中特征值排序,提升稳定性与性能。
2025-10-09 stat.ME
Tractable Bayesian Density Regression via Logit Stick-Breaking Priors
人们越来越关注响应变量的分布如何随一组预测变量而变化。贝叶斯非参数依赖混合模型提供了一种灵活的方法来解决这个问题。然而,几个公式需要计算要求高的算法后验推理。基于这个问题,我们研究了一类预测依赖的无限混合模型,它依赖于一个简单的表示的棒断裂先验通过顺序逻辑斯谛回归。该公式保持了与流行的预测依赖棒断裂先验相同的理想特性,并利用最近的Pólya-gamma数据增强来促进后验推理的几种计算方法的实现。这些例程包括马尔可夫链蒙特卡罗通过吉布斯抽样,期望最大化算法,和平均场变分贝叶斯可扩展的推理,从而刺激了更广泛的实施贝叶斯密度回归的从业者。与这些方法相关的算法详细介绍,并在毒理学研究中进行测试。
2020-05-04 stat.CO
Bayesian inference on group differences in multivariate categorical data
多元分类数据在许多领域都很常见。我们的动机是选举民意调查研究,评估2016年美国总统初选或党团会议中选民意见变化与候选人偏好的证据。类似的目标经常出现在几个应用程序中,但目前的文献缺乏一个通用的方法,结合灵活性,效率和易处理性在不同的多变量分类数据在不同的-潜在的复杂-规模的组差异测试。我们通过利用贝叶斯表示来解决这个目标,贝叶斯表示将组变量和多变量分类数据的联合概率质量函数分解为组的边际概率的乘积,以及给定组成员资格的多变量分类数据的条件概率质量函数。为了提高灵活性,我们定义的条件概率质量函数的多元分类数据通过一组依赖的混合张量因子分解,从而促进降维和借用的信息,同时提供易于处理的程序计算,并准确的测试评估全球和本地组的差异。我们将我们的方法与流行的竞争对手进行比较,并讨论在模拟和美国选举民意调查研究中的改进性能。
2017-08-09 stat.ME
Stochastic determination of matrix determinants
矩阵行列式在数据分析中起着重要的作用,特别是当涉及高斯过程时。由于当前爆炸式的数据量,作用于数据的线性运算-矩阵-通常无法直接访问,而只能以计算机例程的形式间接表示。这样的例程实现了数据向量在矩阵乘法下经历的变换。虽然仅基于这种计算上负担得起的矩阵向量乘法来估计矩阵的对角线或迹的有效探测例程是众所周知的并且经常用于信号推断,但是对于其行列式没有随机估计。本文介绍了线性算子行列式的对数的一种探测方法。我们的方法依赖于重新制定的日志行列式的积分表示和转换所涉及的条款到随机表达式。这种随机行列式确定使得贝叶斯推断中的大规模应用成为可能,特别是证据计算、模型比较和后验确定。
2015-07-07 astro-ph.IM physics.data-an stat.CO
Tutorial for Bayesian Factor Models
Kenyon College(肯扬学院);Johns Hopkins University(约翰斯·霍普金斯大学)
该研究提供可重现、统一且快速的软件及一站式教程,用于多种贝叶斯因子模型,能直接比较方法,为其提供通用平台,不针对特定应用推荐方法,附带factorverse R包。
2026-07-14 stat.CO stat.ME
Heterogeneity Pursuit for Spatial Point Pattern with Application to Tree Locations: A Bayesian Semiparametric Recourse
空间点模式数据是经常遇到的。一个灵活的回归模型的基础强度是必不可少的空间点模式的特征和了解潜在的风险因素对这种模式的影响。我们提出了一个贝叶斯半参数回归模型,其中观察到的空间点遵循一个空间泊松过程的强度函数,调整非参数基线强度与乘法协变量的影响。基线强度是分段恒定的,接近一个有动力的中国餐馆的过程之前,防止不必要的大量件。参数回归部分允许在回归系数之前通过加标平板进行变量选择。提出了一种有效的马尔可夫链蒙特卡罗(MCMC)算法。的方法的性能进行了验证,在一个广泛的模拟研究。在应用的位置Beilschmiedia pendula树在巴罗科罗拉多岛森林动态研究地块在巴拿马中部,空间异质性归因于土壤测量的一个子集,除了地理测量与空间变化的基线强度。
2020-03-24 stat.ME
Bayesian Active Questionnaire Design for Cause-of-Death Assignment Using Verbal Autopsies
针对口头尸检问卷冗长阻碍推广的问题,提出兼容现有概率死因判定方法的贝叶斯主动问卷设计策略,含自适应选问题、提前停止准则与惩罚得分,用更少问题实现准确死因判定。
2023-04-27 stat.AP
Bayesian nonparametric models for zero-inflated count-compositional data using ensembles of regression trees
Maynooth University(梅努斯大学);University College Dublin(都柏林大学学院)
本文提出两种新的贝叶斯模型,利用回归树集成处理计数组成数据中的过分散、零膨胀、异质性和复杂协变量效应,通过非参数贝叶斯加法回归树先验灵活捕捉协变量效应,并引入潜在随机效应以捕捉过分散和类别间依赖。
2026-04-09 stat.ME
The Behavior and Convergence of Local Bayesian Optimization
University of Pennsylvania(宾夕法尼亚大学);Washington University in St. Louis(圣路易斯华盛顿大学)
该研究针对高维场景下贝叶斯局部优化行为与收敛性不明的问题,分析了局部方法的特性,首次严格证明Müller等人2021年提出的算法在含噪和无噪设置下的收敛速率。
2024-03-08 cs.LG stat.ML
A robust Bayesian analysis of variable selection under prior ignorance
我们提出了一个谨慎的贝叶斯变量选择程序,通过调查的敏感性分层模型,其中的回归系数指定的穗和板坯先验。我们利用潜变量来理解协变量的重要性。这些潜变量还允许我们获得模型空间的大小,这是高维问题的一个重要方面。在我们的方法中,而不是固定一个单一的先验,我们采用了一种特定类型的鲁棒贝叶斯分析,在那里我们考虑一组先验在同一个参数的家庭,以指定这些潜变量的选择概率。我们通过考虑一组预期的先验选择概率来实现这一点,这使我们能够进行敏感性分析,以了解先验启发对变量选择的影响。敏感性分析为我们提供了一套后验的回归系数以及选择指标,我们表明,后验概率的模型选择概率是单调的选择概率的先验期望。我们还分析了合成和现实生活中的数据集,以说明我们谨慎的变量选择方法,并将其与其他知名的方法进行比较。
2022-05-03 stat.ME
Sparse Bayesian Learning for Label Efficiency in Cardiac Real-Time MRI
German Aerospace Center (DLR)(德国航空航天中心);RWTH Aachen University(亚琛工业大学);King Abdullah University of Science and Technology (KAUST)(阿卜杜拉国王科技大学)
针对心脏实时MRI中外部切片分割标签稀缺的问题,提出稀疏贝叶斯学习,利用内部切片识别稀疏频率指导外部切片标注选择,实现少量标注下的准确心室容积预测,并提供不确定性估计。
2025-03-27 cs.CV math.PR math.ST
Bayesian inference for generalized linear models via quasi-posteriors
针对广义线性模型的模型误设问题,提出基于准后验分布的稳健贝叶斯推断方法,证明其自洽性与渐近性质,验证频率校准性并给出统一矩估计方案。
2023-11-09 stat.ME
Learning an Astronomical Catalog of the Visible Universe through Scalable Bayesian Inference
University of California, Berkeley(加州大学伯克利分校);Intel Corporation(英特尔公司);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室)
Celeste是一个用于推断天文目录的程序,可获得最先进的科学结果。到目前为止,Celeste已经被扩展到最多数百兆字节的天文图像:贝叶斯后验推理在计算上是出了名的苛刻。在本文中,我们报告了一个可扩展的,并行版本的Celeste,适合从现代大规模天文数据集的学习目录。我们的算法创新包括贝叶斯后验推理的快速数值优化例程和将天文优化问题分解为子问题的统计有效方案。我们的可扩展实现完全是用Julia编写的,Julia是一种新的高级动态规划语言,专为科学和数值计算而设计。我们使用朱莉娅的高层次结构的共享和分布式内存并行,并证明有效的负载均衡和高效的扩展高达8192至强核心的NERSC科里超级计算机。
2016-11-10 astro-ph.IM cs.DC cs.LG