Bayes Blocks: An Implementation of the Variational Bayesian Building Blocks Framework
Helsinki University of Technology(赫尔辛基理工大学)
提出了一个用于构造和学习概率模型的软件库。该库提供了一组构建块,从中可以构建各种静态和动态模型。这些模型包括其他变量方差的分层模型和许多非线性模型。基本的变分贝叶斯机制,提供快速和鲁棒的估计,但在数学上,而涉及,几乎完全隐藏的用户,从而使它非常容易使用的库。构建块包括高斯、修正高斯和混合高斯变量以及可以相当自由地组合的计算节点。
2012-07-04 cs.LG cs.MS stat.ML
Multiple Bayesian Filtering as Message Passing
在这篇手稿中,提出了一个通用的方法来推导过滤算法,涉及网络的相互连接的贝叶斯过滤器。这种方法是基于这样的想法,即在每个贝叶斯过滤器内部完成的处理以及它们之间的交互可以表示为在适当的图形模型上的消息传递算法。我们的方法的有用性是通过开发新的滤波技术,基于粒子滤波器和扩展卡尔曼滤波器的互连,条件线性高斯系统的例证。两个具体的动态系统的数值结果表明,所设计的算法可以实现更好的复杂性和准确性的权衡比边缘化粒子滤波和多粒子滤波。
2019-07-25 math.ST stat.TH
The FEDHC Bayesian network learning algorithm
University of Crete(克里特大学)
本文提出了一种新的混合贝叶斯网络学习算法,称为前向早期下降爬山(FEDHC),设计用于连续或分类变量。此外,该文件表明,MMHC在统计软件\textit{R}中的唯一实现,是昂贵的,并提供了一个新的实现。此外,特别是对于连续数据的情况下,一个强大的离群值版本的FEDHC,可以通过其他BN学习算法,提出。FEDHC通过蒙特卡罗模拟进行测试,清楚地表明它是计算效率高,并产生类似的贝叶斯网络,或更高的精度比MMHC和PCHC。最后,使用统计软件\textit{R}对FEDHC、PCHC和MMHC算法在经济学领域的实际数据中的应用进行了演示。
2022-08-12 cs.LG stat.ML
Efficient computation of the Knowledge Gradient for Bayesian Optimization
University of Warwick(华威大学);Zenith AI;Opentrons
贝叶斯优化是优化随机昂贵黑盒函数的强大方法集合。贝叶斯优化算法的一个关键组成部分是获取函数,它确定在每次迭代中应该评估哪个解决方案。一个流行且非常有效的选择是知识梯度获取函数,但是没有分析方法来计算它。几种不同的实现方式可以产生不同的近似值。在本文中,我们回顾和比较知识梯度实现的频谱,并提出一种新的方法,结合了几个以前提出的想法,是廉价的计算以及强大和高效的单次混合KG。我们证明了新的方法保留了以前的方法的理论特性和经验表明,大大减少了计算开销,具有相同或更好的性能。所有实验都在BOTorch中实现,代码可以在github上找到。
2022-09-30 cs.LG stat.ML
Very fast Bayesian Additive Regression Trees on GPU
unifi(乌尼维斯大学);Department of Statistics, Computer Science, Applications ``Giuseppe Parenti'' (DISIA)(统计与计算机科学应用系(DISIA))
针对BART运行慢的问题,提出GPU加速实现,速度提升高达200倍,与XGBoost竞争,并开源在bartz包中。
2026-11-10 cs.LG stat.ML
bartMachine: Machine Learning with Bayesian Additive Regression Trees
我们在R中提出了一个新的包,实现了贝叶斯加性回归树(BART)。该软件包引入了许多新的功能,数据分析使用BART,如变量选择,相互作用检测,模型诊断图,纳入缺失数据和能力,以保存树为未来的预测。它比当前的R实现快得多,并行化,并且能够处理大样本量和高维数据。
2014-11-24 cs.LG stat.ML
Oblique Bayesian additive regression trees
University of Wisconsin–Madison(威斯康星大学麦迪逊分校)
针对轴对齐BART的局限,提出基于线性组合的斜BART方法,利用数据自适应先验沿随机超平面递归划分特征空间,实验证明其预测性能具竞争力且有时更优。
2024-11-13 cs.LG stat.ML
Layer Adaptive Node Selection in Bayesian Neural Networks: Statistical Guarantees and Implementation Details
Michigan State University(密歇根州立大学)
本文提出一种基于 spike-and-slab 高斯先验和变分贝叶斯的贝叶斯神经网络节点选择方法,实现训练中自动剪枝,放宽理论假设并证明变分后验一致性,实验显示计算更快且预测性能相当或更优。
2022-07-08 cs.LG stat.ML
Bayesian task embedding for few-shot Bayesian optimization
GE Research(通用电气研究院)
我们描述了一种贝叶斯优化的方法,其中一个可以将数据从多个系统的定量相互关系是未知的先验。系统的所有一般(非实值)特征都与连续潜变量相关联,这些变量作为输入进入一个元模型,该元模型同时学习所有系统的响应曲面。贝叶斯推理用于确定关于潜在变量的适当信念。我们解释了如何得到的概率元模型可用于贝叶斯优化任务,并展示了它的实现在各种合成和现实世界的例子,比较其性能下零,一,和Few-Shot设置对传统的贝叶斯优化,这通常需要更多的数据从系统的利益。
2020-01-02 cs.LG stat.ML
Entropy and the Kullback-Leibler Divergence for Bayesian Networks: Computational Complexity and Efficient Implementation
Istituto Dalle Molle di Studi sull’Intelligenza Artificiale (IDSIA)(达莱莫勒人工智能研究所(IDSIA))
本文针对贝叶斯网络缺乏熵与KL散度计算方法的问题,利用其图结构提出高效算法,并将高斯贝叶斯网络的KL散度计算复杂度从三次方降至二次方。
2024-01-15 cs.AI cs.LG stat.CO
Fast Implementation of a Bayesian Unsupervised Segmentation Algorithm
在最近的一篇论文中,我们提出了一种完全基于贝叶斯方法的无监督音频信号分割算法。然而,在其第一次实施中,该方法显示出较差的计算性能。在本文中,我们解决这个问题,通过描述一个快速的并行实现使用Python的Cython库,我们使用开放的GSL方法的标准数学函数,和并行化的OpenMP框架。我们还提供了一个详细的分析,其不同的参数的算法的敏感性,并显示其应用到现实生活中的巴西南海岸的水下信号。我们的代码和数据可以在github上免费获得。
2018-03-13 stat.CO
Quasi Black-Box Variational Inference with Natural Gradients for Bayesian Learning
Aarhus University(奥胡斯大学)
我们开发了一种适合复杂模型中贝叶斯学习的优化算法。我们的方法依赖于一般黑盒框架内的自然梯度更新,以便在有限的模型特定推导的情况下进行有效的训练。它适用于类指数族变分后验分布,我们广泛讨论高斯的情况下,更新有一个相当简单的形式。我们的准黑盒变分推断(QBVI)框架是很容易适用于广泛的一类贝叶斯推断问题,是简单的实现,因为更新的变分后不涉及梯度的模型参数,也没有规定的费舍尔信息矩阵。我们开发QBVI后协方差阵在不同的假设下,讨论其强大的和可行的实施细节,并提供了一些现实世界的应用程序来证明其有效性。
2022-12-12 cs.LG econ.EM stat.ML
A Bayesian Mixture Model Approach to Examining Neighborhood Social Determinants of Health Disparities in Endometrial Cancer Care in Massachusetts
本研究采用贝叶斯多元伯努利混合模型构建马萨诸塞州邻里SDoH特征,分析其对子宫内膜癌患者护理的影响,发现不同特征患者接受最佳护理的几率存在差异,为公共卫生干预提供了依据。
2025-05-30 stat.AP
The Design and Implementation of a Bayesian Data Analysis Lesson for Pre-Service Mathematics and Science Teachers
本文介绍了一项面向35名职前数学与科学教师的贝叶斯数据分析活动及其Web应用,旨在间接将贝叶斯方法引入K-12教育,并探讨未来方向。
2023-04-03 stat.OT
Bayesian Nonparametric Inference in Elliptic PDEs: Convergence Rates and Implementation
本文针对椭圆PDE中的扩散系数推断问题,提出基于高斯级数先验的贝叶斯非参数方法,推导后验一致性与收敛速率,并通过数值模拟验证理论。
2025-04-23 math.ST stat.TH
Kriging and Gaussian processes: interconnected frameworks for spatial modelling and prediction
Faculty of Environment, Science and Economy, University of Exeter(埃克塞特大学环境、科学与经济学院)
本研究建立统一数学框架关联克里金法与高斯过程,弥合地理统计学与机器学习的方法学鸿沟,为两领域方法转换及进展互通提供基础。
2026-10-09 stat.ME
Auxiliary Variables for Bayesian Inference in Multi-Class Queueing Networks
排队网络描述了复杂的随机系统,具有理论和实际意义。它们提供了评估变更、诊断性能不佳和评估跨互连资源集的鲁棒性的方法。在本文中,我们专注于潜在的连续时间马尔可夫链诱导这些网络,我们提出了一个灵活的方法来绘制参数推断多类马尔可夫情况下切换和不同的服务纪律。该方法是针对推理问题与缺失数据,并介绍了切片采样技术与服务站之间的任务转换的可测量空间的映射。该方法处理时间和易处理性问题,可以处理现有的系统知识,并克服现有的推理框架的服务率的共同限制。最后,所提出的算法进行了验证合成数据和应用到一个真实的数据集,从两个大学医院实现的服务交付任务工具。
2017-11-01 stat.CO
Bayesian Nonlinear Models for Repeated Measurement Data: An Overview, Implementation, and Applications
非线性混合效应模型已成为一个标准的分析平台,当数据是在连续和重复测量的受试者从一个感兴趣的人口的形式,而受试者的时间曲线通常遵循非线性趋势。虽然非线性混合效应模型的频率论分析有着悠久的历史,但直到20世纪80年代末,模型的贝叶斯分析才受到相对较少的关注,主要是由于贝叶斯计算的耗时性。自20世纪90年代初以来,贝叶斯模型方法开始出现,以利用计算能力的快速发展,最近,由于(1)量化参数估计的不确定性的优越性,(2)将先验知识结合到模型中的实用性,(3)将先验知识引入到模型中,(4)将先验知识引入到模型中,(5)将先验知识引入到模型中。以及(3)灵活性,以准确地匹配来自不同工业和学术领域的日益复杂的科学研究。这篇综述文章概述了非线性混合效应模型的建模策略,以实现贝叶斯方法,从设计一个科学问题的现实生活中的问题,以实际计算。
2022-03-02 stat.CO stat.ME
Bayesian models for survival data of clinical trials: Comparison of implementations using R software
目的:为使用比例风险模型对具有生存终点的随机临床试验进行事后贝叶斯分析提供R中可用主要函数的使用指南。研究设计和设置:数据来源于ALLOZARGO试验,该试验对465例接受同种异体移植以预防肺部并发症的患者进行,并在阿奇霉素和安慰剂之间进行分配;随机化后2年的无气流下降生存率是主要终点。结果如下:尽管建模假设存在异质性,特别是基线风险(参数或非参数)和估计方法,但阿奇霉素效应的贝叶斯后验平均风险比(HR)估计值接近于通过极大似然方法获得的估计值。结论:贝叶斯模型可以使用各种R软件包实现,提供与最大似然估计密切一致的结果。这些模型提供了不可能以其他方式获得的概率陈述。
2019-09-09 stat.AP stat.CO
Bayesian Adaptive Polynomial Chaos Expansions
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);Sandia National Laboratory(桑迪亚国家实验室)
针对多项式混沌展开在统计学领域贝叶斯实现稀缺的问题,研究团队开发了带R包khaos的全贝叶斯自适应PCE方法,具备新型提议分布与定制g-先验,在多项UQ相关任务中性能优异。
2025-10-28 stat.ME stat.ML
New Heuristics for Parallel and Scalable Bayesian Optimization
Center for Theoretical Neuroscience(理论神经科学中心);Columbia University(哥伦比亚大学)
贝叶斯优化已成为一个强大的候选工具,为全球优化的功能与昂贵的评价成本。然而,由于贝叶斯方法研究的动态性质,以及计算技术的发展,在并行计算环境中使用贝叶斯优化对于非专家来说仍然是一个挑战。在这份报告中,我回顾了最先进的并行和可扩展的贝叶斯优化方法。此外,我还提出了一些实用的方法来避免贝叶斯优化的一些陷阱,如边缘参数的过采样和高性能参数的过度利用。最后,我提供了相对简单的启发式算法,以及它们的开源软件实现,这些算法可以立即轻松地部署在任何计算环境中。
2018-08-23 cs.LG stat.AP stat.ML
BCDAG: An R package for Bayesian structure and Causal learning of Gaussian DAGs
Università Cattolica del Sacro Cuore(天主教圣心大学);Università degli Studi di Milano-Bicocca(米兰比可卡大学)
有向无环图(DAG)提供了一个强大的框架来模拟多变量环境中变量之间的因果关系;此外,通过do-calculus理论,它们允许从纯观测数据中识别和估计变量之间的因果关系。在这种情况下,从数据中推断DAG结构的过程被称为因果结构学习或因果发现。我们介绍了BCDAG,一个用于贝叶斯因果发现和高斯观测数据因果效应估计的R包,实现了Castelletti和Mascaro(2021)提出的马尔可夫链蒙特卡罗(MCMC)方案。我们的实现可以有效地扩展观测的数量,并且只要DAG足够稀疏,就可以扩展数据集中的变量数量。该软件包还提供了收敛诊断和可视化和总结后验推理的功能。在本文中,我们提出了基本方法的主要特点,以及其在BCDAG中的实现。然后,我们说明了真实和模拟数据集上的主要功能和算法。
2022-01-28 cs.LG stat.ME stat.ML
Multi-Objective Bayesian Optimization for Networked Black-Box Systems: A Path to Greener Profits and Smarter Designs
MOBONS通过网络表示实现多目标贝叶斯优化,有效处理复杂系统中的多目标权衡,提升工程系统的设计效率与可持续性。
2026-02-10 cs.AI cs.LG stat.ML
On a class of constrained Bayesian filters and their numerical implementation in high-dimensional state-space Markov models
Eskisehir Technical University(埃斯基谢希尔理工大学);Radboud University(拉德堡德大学);Universidad Carlos III de Madrid(马德里卡洛斯三世大学)
本文研究了一类受限贝叶斯滤波器的设计与理论特性,并提出了一种在连续-离散设置中实现该滤波器的方法,通过数据驱动的障碍函数修改伊藤过程的漂移,以提高高维状态空间中滤波器的稳定性和精度。
2026-02-27 math.PR stat.CO stat.ME
Addressing prior dependence in hierarchical Bayesian modeling for PTA data analysis I: Methodology and implementation
Koexai Srl(Koexai公司);INAF – Istituto di Astrofisica Spaziale e Fisica cosmica di Milano (IASF-MI)(意大利国家天体物理研究所米兰空间天体物理学与宇宙物理学研究所);INAF – Osservatorio di Astrofisica e Scienza dello Spazio di Bologna(意大利国家天体物理研究所博洛尼亚天体物理学与空间科学观测站)
本文针对脉冲星计时阵列数据分析中分层贝叶斯建模的先验依赖问题,提出基于归一化流的重参数化策略,并结合i-nessai嵌套采样器加速后验探索,从而提升统计稳健性与计算效率。
2025-11-05 astro-ph.CO astro-ph.HE astro-ph.IM
STREGO: A Scalable Implementation of a Trust-Region Framework for Noisy Bayesian Optimization
GERAD & Department of Mathematics and Industrial Engineering, Polytechnique Montréal(蒙特利尔理工学院 GERAD 与数学及工业工程系);GERAD & Department of Management, Université du Québec à Trois-Rivières(特鲁瓦河魁北克大学 GERAD 与管理系)
本文提出STREGO,即面向带噪声贝叶斯优化的信赖域框架的可扩展实现,通过推广TREGO并优化全局与局部阶段,在4至124维的合成与真实世界问题上,其性能优于TREGO等基准方法。
2026-10-14 cs.LG math.OC
Variational Bayesian inference for linear and logistic regression
本文介绍线性与逻辑回归的变分贝叶斯推断,涵盖模型、推导及MATLAB/Octave实现,并作为教程与示例文档,提供免费在线函数。
2019-06-29 stat.ML
Implementation and Workflows for INLA-Based Approximate Bayesian Structural Equation Modelling
King Abdullah University of Science and Technology(阿卜杜拉国王科技大学);Universiti Brunei Darussalam(文莱达鲁萨兰国大学)
本文提出INLAvaan包,通过集成嵌套拉普拉斯近似框架实现快速近似贝叶斯结构方程建模,展示了其在复杂模型中的高效性能。
2026-11-02 stat.CO
Bayesian classification, anomaly detection, and survival analysis using network inputs with application to the microbiome
虽然对单一网络的研究已经很成熟,但技术进步现在允许相对容易地收集多个网络。越来越多的网络可以从大脑成像、基因共表达数据或微生物组测量中创建。反过来,这些网络被视为建模中潜在的强大功能。然而,由于网络本质上是非欧几里德的,如何最好地将它们纳入标准建模任务并不明显。在本文中,我们提出了一个贝叶斯建模框架,提供了一个统一的方法,二进制分类,异常检测和生存分析与网络输入。我们通过它们的成对差异将网络编码在高斯过程的核中,并讨论了几种可以插入我们模型的可证明正定核的选择。虽然我们的方法广泛适用,但我们的动机特别是微生物组研究(网络分析正在成为捕获微生物类群在时间和空间上相互联系的标准方法)及其减少早产和改善产前护理个性化的潜力。
2021-01-13 stat.AP
A Computational Framework and Implementation of Implicit Priors in Bayesian Inverse Problems
Technical University of Denmark(丹麦技术大学)
本文提出了贝叶斯反问题中隐式先验的计算框架,区分其与显式先验的差异,并在CUQIpy软件包中实现多种隐式先验,通过图像处理和偏微分方程参数估计等反问题验证了其有效性。
2025-09-15 cs.MS stat.CO
Validating Bayesian Inference Algorithms with Simulation-Based Calibration
贝叶斯计算的正确性是具有挑战性的。对于实践中常见的复杂模型尤其如此,因为这些模型需要复杂的模型实现和算法。在本文中,我们介绍了\emph{simulation-based calibration}(SBC),一个通用的过程,验证推理贝叶斯算法能够产生后验样本。此过程不仅可以识别模型实现中的不准确计算和不一致性,还可以提供图形摘要,以指示出现的问题的性质。我们认为,SBC是一个强大的贝叶斯工作流程的重要组成部分,以及为那些开发计算算法和统计软件的有用工具。
2020-10-21 stat.ME
flexBART: Flexible Bayesian regression trees with categorical predictors
针对传统BART独热编码分类预测变量导致划分受限的问题,提出可将多水平分配到节点两分支的flexBART,并新增空间数据决策规则先验,提升了预测性能与大数据扩展性。
2024-08-12 stat.ME stat.ML
Nonparametric Bayesian label prediction on a graph
一个非参数贝叶斯方法来解决图上的二进制分类问题的实现。被认为是一个随机缩放高斯先验的分层贝叶斯方法。先验使用图拉普拉斯算子来考虑图的底层几何形状。提出了一种基于理论上最优先验的方法和一种更灵活的利用部分共轭的方法。两个模拟数据的例子和两个例子,使用真实数据,以说明所提出的方法。
2017-06-15 stat.CO stat.ML
Nonparametric Bayesian label prediction on a large graph using truncated Laplacian regularization
本文描述了一个非参数贝叶斯方法来解决图上的二进制分类问题的实现。我们考虑一个分层贝叶斯方法与前,通过截断一系列扩展的软标签函数使用图形拉普拉斯特征函数作为基函数。我们比较我们的截断之前的未截断的拉普拉斯算子为基础的模拟和真实数据的例子,以说明改进的可扩展性方面的基础图形的大小。
2018-04-13 stat.CO stat.ML
Stochasticity from function -- why the Bayesian brain may need no noise
越来越多的证据表明,大脑中尖峰活动的试验间差异不仅仅是噪音,而是概率计算中基于采样的编码方案的反映。由于神经活动的精确统计特性在这种情况下很重要,因此许多模型假设在单神经元动力学的输入侧或输出侧上具有行为良好的显式噪声的ad-hoc源,最常见的是在任一情况下假设独立的泊松过程。然而,这些假设有些问题:相邻的神经元倾向于共享感受野,使它们的输入和输出相关;同时,神经元的行为在很大程度上是确定性的,是它们的膜电位和电导的函数。我们认为,尖峰神经网络实际上可能不需要噪声来执行基于采样的贝叶斯推断。我们研究分析的影响,自相关和交叉相关的功能贝叶斯尖峰网络,并展示了他们的效果如何转化为突触相互作用的强度,使他们可控通过突触可塑性。这使得即使是很小的相互连接的确定性尖峰网络的集合,也可以通过学习同时并相互依赖地塑造它们的输出活动,使它们能够执行复杂的贝叶斯计算,而不需要任何噪声,这一点我们在经典模拟和神经形态仿真中都通过计算机模拟证明了。这些结果缩小了抽象模型和功能贝叶斯尖峰网络的生物学之间的差距,有效地减少了执行概率计算所需的物理神经基板上施加的架构约束,无论是生物还是人工。
2019-08-24 cond-mat.dis-nn cs.NE physics.bio-ph
On-the-fly Closed-loop Autonomous Materials Discovery via Bayesian Active Learning
主动学习-致力于最佳实验设计的机器学习(ML)领域,早在18世纪就在科学中发挥了作用,当时拉普拉斯用它来指导他发现天体力学[1]。在这项工作中,我们专注于一个闭环,主动学习驱动的自主系统的另一个重大挑战,发现新材料对极其复杂的合成过程,结构,性能景观。我们展示了自主研究方法(即自主假设定义和评估),可以将复杂的新材料置于可及范围内,使科学家能够更聪明地失败,更快地学习,并在研究中花费更少的资源,同时提高对科学结果和机器学习工具的信任。此外,这种机器人科学使网络上的科学成为可能,减少了科学家与实验室物理分离的经济影响。我们在同步加速器光束线上使用了实时闭环、自主的材料探索和优化系统(CAMEO),以加速快速相位映射和性能优化的基本互连任务,每个周期需要数秒到数分钟,从而发现了一种新型的外延纳米复合相变存储材料。
2020-11-10 cond-mat.mtrl-sci stat.ML
A Bayesian Framework for Latent Compliance Modeling in Cluster Randomized Trials with One-Sided Noncompliance
Brown University(布朗大学)
本文提出了一种贝叶斯框架,用于分析具有单侧二元非合规性的集群随机对照试验,考虑集群层面的部分合规性和个体层面的合规性差异,以估计有限和超总体的意图治疗和CACE效应估计量。
2026-11-18 stat.AP stat.ME
MultiBUGS: A parallel implementation of the BUGS modelling framework for faster Bayesian inference
MultiBUGS(https:www.multibugs.org)是通用贝叶斯建模软件BUGS的新版本,它实现了一种通用算法,用于并行化马尔可夫链蒙特卡罗(MCMC)算法,以加快贝叶斯模型的后验推理。该算法并行化的产品形式的可能性时形成的参数有许多孩子的有向无环图(DAG)表示的评价;和并行化的条件独立的参数集的采样。一个启发式算法被用来决定使用哪种方法为每个参数,并分配跨计算核心的计算。这使得MultiBUGS能够自动并行化可以使用BUGS语言软件拟合的广泛的统计模型,使应用统计学家能够获得现代多核计算的显着加速,而无需任何并行编程经验。我们演示了MultiBUGS在模拟数据上的使用,该模拟数据旨在模拟美沙酮处方的分层电子健康链接数据研究,包括425,112个观察结果和20,426个随机效应。在现有的软件中,电子健康模型的后验推理需要几个小时,但MultiBUGS可以使用48个计算核心在28分钟内完成推理。
2018-11-29 stat.CO
A TV-Gaussian prior for infinite-dimensional Bayesian inverse problems and its numerical implementations
许多科学和工程问题都需要在函数空间中进行贝叶斯推断,而函数空间中的未知数是无穷维的。在这类问题中,选择一个合适的先验分布是一个重要的任务。特别是,我们考虑的问题,推断的功能是急剧跳跃,使常用的高斯措施不合适。另一方面,所谓的全变差(TV)先验只能在有限维环境中定义,并且不会导致函数空间中定义良好的后验测度。在这项工作中,我们提出了一个TV-Gaussian(TG)之前,以解决这些问题,其中的TV项是用来检测急剧跳跃的功能,和高斯分布作为一个参考措施,使其结果在一个定义良好的后验测量的功能空间。我们还提出了一个有效的马尔可夫链蒙特卡罗(MCMC)算法提取样本的后验分布的TG先验。通过数值例子,我们证明了TG先验的性能和所提出的MCMC算法的效率。
2016-01-17 stat.ME
BONSAI: Structure-exploiting robust Bayesian optimization for networked black-box systems under uncertainty
The Ohio State University(俄亥俄州立大学)
针对现有鲁棒贝叶斯优化忽略结构信息、难扩展至高维的问题,提出BONSAI框架,利用仿真模型的部分结构知识构建黑白盒组件有向图,搭配可扩展的汤普森采样采集函数,在多类案例中实现了更高效优质的鲁棒优化。
2025-10-04 cs.LG math.OC
Bayesian pathway analysis over brain network mediators for survival data
提出整合贝叶斯框架,利用矩阵变量生存模型与矩阵响应回归分析遗传暴露、脑网络中介和发病时间的效应通路,并通过模拟及ADNI研究验证其优势。
2023-09-24 stat.ME
Bayesian Constrained-Model Selection for Factor Analytic Modeling
我的论文围绕贝叶斯方法对约束统计推断的因素分析(FA)模型。考虑了两种相互关联的受限模型选择.这些类型与探索性FA(EFA)和验证性FA(CFA)模型中的选择问题有着天然的联系,被称为I型和II型模型选择。I类约束-模型选择是指确定模型的适当维数。这种类型的约束模型选择与EFA在选择潜在向量的最佳维度的意义上连接。第二类模型选择是指在参数空间上确定适当的不等式、阶数或形状限制。本文将第二类约束模型选择与验证性因素分析相结合,着重于确定线性不等式约束作为因素载荷的方向和(相对)强度的表达。本文所附的数字摘自我在多伦多APA 2015年度大会上的第5部门奖研讨会邀请演讲的幻灯片。这些载玻片可从\url{https://github.com/CFWP/ConventionTalk}中检索。
2016-04-12 stat.AP
Overlapping Indices for Dynamic Information Borrowing in Bayesian Hierarchical Modeling
Department of Biostatistics, The University of Texas MD Anderson Cancer Center(德克萨斯大学安德森癌症中心统计系)
针对贝叶斯层次模型中异质性识别与动态信息借用的联合挑战,提出重叠聚类指数和重叠借用指数,构建带重叠指数的贝叶斯层次模型BHMOI,通过加权K-Means聚类和动态借用实现高效稳健的信息合成。
2023-05-27 stat.ME
A Bayesian approach to modeling mortgage default and prepayment
在本文中,我们提出了一个贝叶斯竞争风险比例风险模型来描述抵押贷款违约和提前还款。我们使用马尔可夫链蒙特卡罗方法对模型进行贝叶斯推断。该模型的实施说明使用实际违约/提前还款数据和其他见解,可以从贝叶斯分析进行了讨论。
2017-06-23 stat.AP
Learning Bayesian Networks from Big Data with Greedy Search: Computational Complexity and Efficient Implementation
从数据中学习贝叶斯网络的结构是一个具有计算挑战性的NP难题。长期以来,文献一直在研究如何从包含大量变量的数据中进行结构学习,这是对系统生物学和遗传学中高维应用(“小n,大p”)的普遍兴趣。最近,具有大量观察结果的数据集(所谓的“大数据”)变得越来越普遍;而且这些数据集不一定是高维的,有时只有几十个变量,具体取决于应用。在这种情况下,我们重新审视贝叶斯网络结构学习的计算复杂性,表明用估计的局部分布的数量来测量它的常见选择会导致最常见的基于分数的算法贪婪搜索的不切实际的时间复杂度估计。然后,我们在常见的分布假设下得到更准确的表达式。这些表达式表明,贝叶斯网络的学习速度可以提高利用封闭形式的估计的可用性,为当地的分布与父母很少。此外,我们发现使用预测而不是样本内拟合优度分数可以提高速度;我们证实这也提高了网络重建的准确性,正如Chickering和Heckerman(2000)之前所观察到的那样。我们证明了这些结果的大型现实世界的环境和流行病学数据,并从公共存储库提供的参考数据集。
2018-11-30 stat.CO
Bayesian Linear Models: A compact general set of results
Centro de Investigación en Matemáticas (CIMAT), CONACYT(数学研究中心 (CIMAT),墨西哥国家科学技术委员会)
本文提供贝叶斯线性模型中正态-伽马先验分布的简洁计算方法,涵盖相关观测、预测、模型选择及时间序列分析等应用。
2026-03-02 stat.ME
Bayesian Optimization for auto-tuning GPU kernels
Netherlands eScience Center(荷兰电子科学中心);University of Amsterdam(阿姆斯特丹大学)
为可调GPU内核找到最佳参数配置对于大搜索空间来说是一项重要的工作,即使是自动化的。这在非凸搜索空间上提出了一个优化任务,使用昂贵的未知导数来评估函数。这些特征使贝叶斯优化成为一个很好的候选者,以前没有应用于这个问题。然而,贝叶斯优化的应用,这个问题是具有挑战性的。我们演示了如何处理粗糙的,离散的,有约束的搜索空间,包含无效的配置。我们引入了一个新的上下文方差探索因子,以及新的采集功能,提高了可扩展性,结合知情的采集功能选择机制。通过比较我们的贝叶斯优化实现在各种测试用例的性能,现有的搜索策略在内核调谐器,以及其他贝叶斯优化实现,我们证明了我们的搜索策略推广良好,并始终优于其他搜索策略的大幅幅度。
2021-11-26 cs.DC cs.LG cs.PF
Black Box Variational Bayesian Model Averaging
几十年来,贝叶斯模型平均(Bayesian Model Averaging,BMA)一直是一个流行的框架,用于系统地解释在多个竞争模型可用于描述相同或相似物理过程的情况下出现的模型不确定性。然而,这一框架的实施带来了许多实际挑战,包括通过马尔可夫链蒙特卡罗和数值积分的后验近似。我们提出了一个变分贝叶斯推断方法BMA作为一个可行的替代标准的解决方案,避免了许多上述的陷阱。所提出的方法是“黑盒”,在这个意义上,它可以很容易地应用到许多模型,很少或没有模型特定的推导。我们说明了我们的变分方法的一套例子的效用,并讨论了所有必要的实施细节。还提供了完整的Python代码和所有示例。
2022-03-28 stat.CO stat.ME
General Bayesian Policy Learning
本文提出通用贝叶斯框架用于策略学习,通过平方损失替代品实现福利最大化,并提供理论保证。
2026-08-14 cs.LG econ.EM math.ST
Autotuning PolyBench Benchmarks with LLVM Clang/Polly Loop Optimization Pragmas Using Bayesian Optimization
Argonne National Laboratory(阿贡国家实验室);University of Utah(犹他大学)
自动调整是一种方法,其通过选择和评估目标平台上的实现/配置的子集和/或使用模型来识别高性能实现/配置,来探索内核或应用的可能实现/配置的搜索空间。在本文中,我们开发了一个自动调整框架,利用贝叶斯优化来探索参数空间搜索。我们从PolyBench基准测试的应用领域中选择了六个最复杂的基准测试(syr 2k、3 mm、heat-3d、lu、covariance和Floyd-Warshall),并将新开发的LLVM Clang/Polly循环优化杂注应用于基准测试以优化它们。然后,我们使用自动调优框架来优化杂注参数,以提高其性能。实验结果表明,我们的自动调优方法优于其他编译方法,在200个代码评估中为基准测试提供了最短的执行时间,其中包括两个大型数据集,3 mm,heat-3d,lu和协方差,用于有效搜索多达170,368种不同配置的参数空间。我们比较了贝叶斯优化中四种不同的监督学习方法,并评估了它们的有效性。我们发现,Floor-Warshall基准测试并没有从自动调优中受益,因为Polly使用了自动调优来优化基准测试,使其运行得更慢。为了解决这个问题,我们提供了一些编译器选项的解决方案,以提高性能。
2020-10-15 cs.LG cs.PF cs.PL
Efficient Bayesian Inference for Spatial Point Patterns Using the Palm Likelihood
North Carolina State University(北卡罗来纳州立大学);Department of Statistics, North Carolina State University(北卡罗来纳州立大学统计系)
本文提出在贝叶斯框架下利用 Palm 似然进行空间点模式推断,并通过两种校准方法修正后验覆盖不足问题,在保证统计性能的同时显著提升计算效率。
2026-09-29 stat.CO stat.ME
Tractable Bayesian Density Regression via Logit Stick-Breaking Priors
人们越来越关注响应变量的分布如何随一组预测变量而变化。贝叶斯非参数依赖混合模型提供了一种灵活的方法来解决这个问题。然而,几个公式需要计算要求高的算法后验推理。基于这个问题,我们研究了一类预测依赖的无限混合模型,它依赖于一个简单的表示的棒断裂先验通过顺序逻辑斯谛回归。该公式保持了与流行的预测依赖棒断裂先验相同的理想特性,并利用最近的Pólya-gamma数据增强来促进后验推理的几种计算方法的实现。这些例程包括马尔可夫链蒙特卡罗通过吉布斯抽样,期望最大化算法,和平均场变分贝叶斯可扩展的推理,从而刺激了更广泛的实施贝叶斯密度回归的从业者。与这些方法相关的算法详细介绍,并在毒理学研究中进行测试。
2020-05-04 stat.CO
Uncovering Drivers of EU Carbon Futures with Bayesian Networks
本文使用离散与动态贝叶斯网络分析2013—2025年日度数据,揭示能源商品、欧洲能源板块及市场情绪对EU ETS碳期货价格的同期与滞后驱动机制。
2025-05-15 stat.AP
A Bayesian changepoint methodology for high dimensional multivariate time series and space-time data: A study of structural change using remotely sensed data
提出了一种贝叶斯方法来分析多变量时间序列和时空数据中的变点。该方法被用来评估在澳大利亚北部的海湾平原生物区的生态系统的影响,扩大洪水。所提出的方法可以实现具有条件高斯状态空间表示的动态混合模型。详细介绍了如何有效地实现算法的一般类的多变量时间序列和时空模型。这种高效的实现使得分析高维,但现实的大小,时空数据集是可行的,因为我们的方法可以明显更快,可能是数百万倍,在这种情况下,比一个标准的实现。
2013-06-20 stat.ME