Very fast Bayesian Additive Regression Trees on GPU
unifi（乌尼维斯大学）；Department of Statistics, Computer Science, Applications ``Giuseppe Parenti'' (DISIA)（统计与计算机科学应用系（DISIA））
针对BART运行慢的问题，提出GPU加速实现，速度提升高达200倍，与XGBoost竞争，并开源在bartz包中。
2025-07-09 cs.LG stat.ML
Additive Tree-Structured Conditional Parameter Spaces in Bayesian Optimization: A Novel Covariance Function and a Fast Implementation
KU Leuven（鲁汶大学）
贝叶斯优化（BO）是一种样本有效的全局优化算法的黑箱函数，这是昂贵的评估。现有的文献中基于模型的优化在条件参数空间通常是建立在树。本文将可加性假设推广到树结构函数，提出了可加性树结构协方差函数，提高了样本效率，具有更广泛的适用性和更大的灵活性。此外，通过结合参数空间的结构信息和BO循环中的可加性假设，我们开发了一种并行算法来优化采集函数，这种优化可以在低维空间中进行。我们展示了我们的方法上的优化基准函数，神经网络压缩问题，修剪预训练的VGG16和ResNet50模型，以及搜索激活函数的ResNet20。实验结果表明，我们的方法在条件参数优化方面明显优于现有技术，包括SMAC，TPE和Jenatton等人（2017）。
2020-10-06 cs.LG stat.ML
Improving Neural Additive Models with Bayesian Principles
ETH Zürich（苏黎世联邦理工学院）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；Helmholtz AI（亥姆霍兹人工智能研究所）；TU Munich（慕尼黑工业大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）
本文提出 Laplace 近似神经加性模型 LA-NAMs，利用贝叶斯边际似然、可信区间和特征对排序增强不确定性估计、特征选择与二阶交互识别。
2024-10-26 cs.LG stat.ML
On Thompson Sampling and Bilateral Uncertainty in Additive Bayesian Optimization
本文研究加性贝叶斯优化中忽略双边不确定性的汤普森采样近似，通过利用条件独立性实现高效采样，实证表明该近似性能略逊但实际影响微小，支持其实际应用。
2025-10-13 cs.LG stat.ML
Prediction with Missing Data via Bayesian Additive Regression Trees
The Wharton School of the University of Pennsylvania（宾夕法尼亚大学沃顿商学院）
我们提出了一种方法，将缺失数据在非参数统计学习，而不需要填补。我们专注于一个基于树的方法，贝叶斯加法回归树（BART），增强了“Missingness Incorporated in Attributes”，最近提出的一种方法将missingness纳入决策树（Twala，2008）。这个过程利用了基于树的模型中的分区机制。仿真生成的模型和实际数据表明，我们提出的方法可以很好地预测复杂的失踪在随机和非失踪在随机模型，以及失踪本身影响响应的模型。我们的程序具有更高的预测性能，在许多情况下比竞争对手更稳定。我们还说明了巴士的能力，将缺失到不确定性区间，并检测缺失的模型拟合的影响。
2014-02-12 cs.LG stat.ML
From Deep Additive Kernel Learning to Last-Layer Bayesian Neural Networks via Induced Prior Approximation
Texas A&M University（德克萨斯农工大学）
针对高维GP层导致DKL计算困难的问题，提出结合加性结构与诱导先验近似的DAK模型，自然导出最后一层BNN，并在回归和分类任务上优于现有DKL方法。
2025-02-14 cs.LG stat.ML
Oblique Bayesian additive regression trees
University of Wisconsin–Madison（威斯康星大学麦迪逊分校）
针对轴对齐BART的局限，提出基于线性组合的斜BART方法，利用数据自适应先验沿随机超平面递归划分特征空间，实验证明其预测性能具竞争力且有时更优。
2024-11-13 cs.LG stat.ML
Bayesian Additive Regression Networks
University of Arizona（亚利桑那大学）；Data Diversity Lab, University of Arizona（亚利桑那大学数据多样性实验室）
本文提出BARN，将BART的贝叶斯加性思想用于单隐藏层神经网络集成，通过MCMC与吉布斯残差采样提升回归精度。
2024-04-05 cs.LG stat.ML
MPBART - Multinomial Probit Bayesian Additive Regression Trees
本文提出了多项式概率贝叶斯加性回归树（MPBART）作为BART-贝叶斯加性回归树的多项式概率扩展（Chipman et al（2010））。MPBART是灵活的，允许包括预测，描述观察单位以及可用的选择方案。通过两个模拟研究和四个真实数据的例子，我们表明，MPBART具有很好的预测性能相比，其他离散选择和多类分类方法。为了实现MPBART，我们开发了一个R包mpbart，可以从CRAN仓库免费获得。
2016-02-06 stat.ML
Bayesian Additive Regression Trees for functional ANOVA model
Department of Statistics, Seoul National University（首尔大学统计系）；Department of Applied Mathematics, University of Twente（特温特大学应用数学系）
本文提出ANOVA-BART，通过函数方差分析分解提升可解释性，保持BART的理论保障并实现预测性能的平衡。
2026-03-31 cs.LG stat.ML
On the Gaussian process limit of Bayesian Additive Regression Trees
本文推导并计算了精确的BART先验协方差函数，将其无限树极限实现为高斯过程回归，发现通过自然调整超参数可使其与标准BART竞争力相当，从而简化模型构建并避开复杂的MCMC算法。
2025-07-11 cs.LG stat.ML
A Bayesian model for sparse graphs with flexible degree distribution and overlapping community structure
University of Oxford（牛津大学）；AITRICS；The Hong Kong University of Science and Technology（香港科技大学）；Pohang University of Science and Technology（浦项科技大学）
我们考虑一类非投影的非齐次随机图模型，具有可解释的参数和一些有趣的渐近性质。使用Bollobás等人的结果。[2007]，我们证明了i）这类模型是稀疏的，ii）取决于参数的选择，模型要么是无标度的，幂律指数大于2，要么是渐近度分布，幂律指数截止。我们提出了一个扩展的模型，可以容纳重叠的社区结构。由于链接概率的特定选择，可以执行可扩展的后验推理。我们在五个不同的真实世界网络上进行了实验，这些网络具有多达100，000个节点和边缘，表明该模型可以很好地拟合度分布，并很好地恢复潜在的社区结构。
2018-10-03 cs.LG cs.SI stat.ML
High-Dimensional Bayesian Optimization via Tree-Structured Additive Models
National University of Singapore（新加坡国立大学）；Indian Institute of Technology (BHU) Varanasi（印度理工学院（巴纳拉斯印度教大学）瓦拉纳西分校）
贝叶斯优化（BO）在解决昂贵的低维黑箱优化问题方面取得了显着成功。许多感兴趣的优化问题是高维的，将BO缩放到这样的设置仍然是一个重要的挑战。在本文中，我们考虑广义可加模型，其中低维函数与重叠的变量子集组成的模型的高维目标函数。我们的目标是降低所需的计算资源，并通过降低模型的复杂性，同时保持现有方法的样本效率，促进更快的模型学习。具体来说，我们约束的基础依赖图树结构，以促进结构学习和优化的采集功能。对于前者，我们提出了一种基于吉布斯抽样和变异的混合图学习算法。此外，我们提出了一种新的基于缩放的算法，允许广义可加模型被更有效地采用在连续域的情况下。我们通过对合成函数和真实数据集的一系列实验来展示和讨论我们的方法的有效性。
2020-12-24 cs.LG stat.ML
Generalized Bayesian Additive Regression Trees Models: Beyond Conditional Conjugacy
University of Texas at Austin（德克萨斯大学奥斯汀分校）
贝叶斯加法回归树近年来由于其将机器学习技术与原则性不确定性量化相结合的能力而受到越来越多的关注。然而，用于拟合BART模型的贝叶斯后拟合算法将其应用限制在一小类存在条件共轭的模型上。在这篇文章中，我们通过引入一个非常简单的、无调整参数的、可逆跳马尔可夫链蒙特卡罗算法，大大扩展了BART对任意\emph{generalized BART}模型的适用范围。我们的算法只需要用户能够计算的可能性和（可选）其梯度和费舍尔信息。潜在的应用是非常广泛的，我们考虑的例子在生存分析，结构异方差回归，伽玛形状回归。
2022-02-20 cs.LG stat.ME stat.ML
Bayesian Additive Regression Trees with Model Trees
Hamilton Institute（汉密尔顿研究所）；Insight Centre for Data Analytics（洞察数据分析中心）；Maynooth University（梅努斯大学）
贝叶斯加性回归树（Bayesian Additive Regression Trees，BART）是一种基于树的机器学习方法，已成功应用于回归和分类问题。BART假设一组树上的正则化先验，这些树作为弱学习者工作，并且在存在非线性和高阶相互作用的情况下非常灵活地进行预测。在本文中，我们介绍了一个扩展的BART，称为模型树BART（MOTR-BART），认为分段线性函数在节点水平，而不是分段常数。在MOTR-BART中，不是在节点级别具有用于预测的唯一值，而是考虑已用作相应树中的分裂变量的协变量来估计线性预测器。在我们的方法中，局部线性更有效地捕获，需要更少的树，以达到相同或更好的性能比BART。通过模拟研究和实际数据的应用，我们比较MOTR-BART的主要竞争对手。MOTR-BART实现的R代码可在https://github.com/ebprado/MOTR-BART上获得。
2021-03-10 cs.LG stat.ML
Bayesian quantile additive regression trees
在给定一组预测变量的条件均值估计中，回归树的嵌入已经成为流行的统计工具。然而，尽管线性分位数回归模型越来越受欢迎，但分位数回归树及其集成尚未获得太多关注。这项工作提出了一个贝叶斯分位数加性回归树模型，显示出非常好的预测性能，说明使用模拟研究和实际数据的应用。还考虑了进一步扩展以解决二进制分类问题。
2016-07-10 stat.ML
LSBN: A Large-Scale Bayesian Structure Learning Framework for Model Averaging
Shanghai Jiao Tong University（上海交通大学）；East China Normal University（华东师范大学）
本文的动机是在大规模网络中使用模型平均的贝叶斯结构学习。目前，贝叶斯模型平均算法适用于只有几十个变量的网络，受到其超指数复杂度的限制。我们提出了一个新的框架，称为LSBN（大规模贝叶斯网络），使它有可能处理网络与无限大小的原则，分而治之。LSBN的方法包括三个步骤。一般来说，LSBN首先使用二阶划分策略执行划分，从而获得更鲁棒的结果。LSBN在每个重叠社区内进行抽样和结构学习，然后通过马尔可夫毯将社区与其他变量隔离开来。最后，LSBN采用了一种有效的算法，将重叠的社区结构合并为一个整体。通过与ARACNE、PC、Greedy Search和MMHC等四种最先进的大规模网络结构学习算法的比较，LSBN在五个常用的基准数据集上的查准率、查全率和f-score等性能指标都表现出相当的结果。同时，LSBN使得以往难以解决的大规模贝叶斯结构学习问题通过模型平均成为可能。总之，LSBN为网络结构的重构提供了一个可扩展的并行框架。此外，重叠社区的完整信息作为副产品，可以用来挖掘生物网络中的有意义的集群，如蛋白质-蛋白质相互作用网络或基因调控网络，以及在社会网络。
2012-10-18 cs.LG stat.ML
Co-data Learning for Bayesian Additive Regression Trees
Amsterdam Public Health Research Institute（阿姆斯特丹公共卫生研究所）；Amsterdam University Medical Centers（阿姆斯特丹大学医学中心）；Cancer Center Amsterdam（阿姆斯特丹癌症中心）
针对医学预测中小样本高维协变量的难题，提出融入协数据的贝叶斯加性回归树经验贝叶斯框架，可同时处理多类协数据、估计超参数，仿真和淋巴瘤预后应用均验证了其变量选择和预测性能优势。
2024-11-03 cs.LG stat.ML
Particle Gibbs for Bayesian Additive Regression Trees
University College London（伦敦大学学院）；University of Toronto（多伦多大学）；University of Oxford（牛津大学）
加法回归树是一种灵活的非参数模型，也是现实世界中非线性回归的常用工具。在应用领域，如生物信息学，也有需求的概率预测与不确定性的措施，贝叶斯加性回归树（BART）模型，介绍了Chipman等人。（2010），越来越受欢迎。然而，随着数据集规模的增长，用于在BART中执行推理的标准梅特罗波利斯-黑斯廷斯算法被证明是不够的。特别地，这些马尔可夫链对树进行局部改变，并且当数据是高维的或者最佳拟合树超过几层深度时，遭受缓慢混合。我们提出了一种基于粒子吉布斯（PG）算法的BART新采样器（Andrieu等人，2010）和用于贝叶斯决策树的自上而下的粒子滤波算法（Lakshminarayanan等人，2013年）。PG采样器不是对单个树进行局部更改，而是提出一个完整的树来拟合残差。实验表明，PG采样器优于现有的采样器在许多设置。
2015-02-16 cs.LG stat.CO stat.ML
Information-Theoretic Scoring Rules to Learn Additive Bayesian Network Applied to Epidemiology
University of Zurich（苏黎世大学）
贝叶斯网络建模是一种非常适合研究杂乱和高度相关的数据集的方法，这些数据集在例如，系统流行病学从观测数据集学习贝叶斯网络的一种流行方法是在搜索和评分方法中识别最大后验网络。许多分数都是基于贝叶斯或频率论提出的。从应用的角度来看，一个合适的方法将允许数据的多个分布，并且足够强大，可以自主运行。计算分数的一个有前途的框架是广义线性模型。事实上，存在快速估计算法和许多针对常见流行病学问题的定制解决方案。本文的目的是提出一个R包ABN，它具有多个频率论分数的实现和一些现实的模拟，显示其可用性和性能。它包括有效处理数据分离和调整的功能，这在系统流行病学中非常常见。
2018-08-03 cs.LG stat.CO stat.ML
Sharded Bayesian Additive Regression Trees
Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）；The Ohio State University（俄亥俄州立大学）
本文提出随机化分片贝叶斯加性回归树（SBT），通过随机化辅助变量、分片树和交集树结构统一刻画数据划分与BART子模型，并给出最优权重与最坏情况复杂度分析。
2023-06-01 cs.LG math.ST stat.ME
GP-BART: a novel Bayesian additive regression trees approach using Gaussian processes
Maynooth University（梅努斯大学）；Hamilton Institute（汉密尔顿研究所）；Insight Centre for Data Analytics（洞察数据分析中心）
针对标准 BART 缺乏平滑性和显式协方差结构的局限，提出 GP-BART 模型，通过为所有树的终端节点预测假设 Gaussian process 先验进行扩展，在模拟与真实数据中超越传统方法。
2023-09-14 cs.LG stat.ME stat.ML
Variable Grouping Based Bayesian Additive Regression Tree
School of Mathematics；School of Statistics University of Minnesota, Minneapolis, MN 55455, USA
使用集合方法进行回归在获得高精度预测方面取得了巨大成功。例如Bagging、随机森林、Boosting、BART（贝叶斯加法回归树）及其变体。在本文中，我们提出了一个新的角度命名为变量分组，以提高预测性能。其主要思想是寻找潜在的变量分组，使得不同组的变量之间没有非线性相互作用项。给定一个学习者总和模型，每个学习者将只负责一组变量，这将在建模非线性交互时更有效。我们提出了一个两阶段的方法命名为基于变量分组的贝叶斯加性回归树（GBART）与一个开发良好的Python包gbart可用。第一阶段是寻找潜在的相互作用和适当的变量分组。第二阶段是根据发现的组构建最终模型。对合成数据和真实数据的实验表明，该方法的性能明显优于经典方法。
2019-11-05 cs.LG eess.SP stat.ME
Bayesian Additive Main Effects and Multiplicative Interaction Models using Tensor Regression for Multi-environmental Trials
Hamilton Institute, Department of Mathematics（哈里顿研究所，数学系）；Statistics, Maynooth University, Ireland（统计学，梅诺特大学，爱尔兰）；School of Mathematics（数学学院）；Statistics, Insight Centre for Data Analytics, University College Dublin, Ireland（统计学，洞察数据分析师中心，都柏林大学学院，爱尔兰）
提出一种贝叶斯张量回归模型解决多环境试验中的表型预测问题，通过引入spike-and-slab结构识别关键交互作用，并在模拟和爱尔兰小麦数据中验证了其优越性。
2025-11-02 cs.LG stat.ML
Overlapping Indices for Dynamic Information Borrowing in Bayesian Hierarchical Modeling
针对贝叶斯层次模型中异质性识别与动态信息借用的联合挑战，提出重叠聚类指数和重叠借用指数，构建带重叠指数的贝叶斯层次模型BHMOI，通过加权K-Means聚类和动态借用实现高效稳健的信息合成。
2023-05-27 stat.ME
RoBART: Bayesian Additive Regression Trees with Tree-Specific Rotations
Yonsei University（延世大学）
RoBART通过为每棵树分配旋转，使BART能高效逼近轴不对齐的边界，并在理论上证明其适应内在维度而轴对齐BART不能。
2026-10-08 cs.LG math.ST stat.ML
Type 2 Tobit Sample Selection Models with Bayesian Additive Regression Trees
本文提出TOBART-2模型，通过在选择与结果方程中引入树的求和及Dirichlet过程混合分布，有效解决样本选择偏差并处理非线性与模型不确定性，提升了个体处理效应估计的准确性。
2025-11-02 econ.EM stat.ML
Inference in Bayesian Additive Vector Autoregressive Tree Models
向量自回归（VAR）模型假设内生变量和滞后之间呈线性关系。这种假设可能过于严格，可能对预测准确性产生有害影响。作为一种解决方案，我们提出了结合VAR和贝叶斯加性回归树（BART）模型。由此产生的贝叶斯加性向量自回归树（BAVART）模型是能够捕捉任意的内生变量和协变量之间的非线性关系，而无需太多的输入从研究人员。由于控制异方差是产生精确密度预测的关键，我们的模型允许误差的随机波动。我们将模型应用于两个数据集。第一个应用程序表明，BAVART模型产生了非常有竞争力的预测美国的利率期限结构。在第二个应用中，我们使用中等规模的欧元区数据集来估计我们的模型，以研究不确定性对经济的动态影响。
2021-03-09 econ.EM stat.ML stat.OT
A Bayesian Additive Model for Understanding Public Transport Usage in Special Events
Technical University of Denmark（丹麦技术大学）；Singapore–MIT Alliance for Research and Technology（新加坡-麻省理工学院研究与技术联盟）；Nordita（北欧理论物理研究所）；KTH Royal Institute of Technology（瑞典皇家理工学院）；Stockholm University（斯德哥尔摩大学）；University of Coimbra（科英布拉大学）；Massachusetts Institute of Technology（麻省理工学院）
众所周知，体育比赛、音乐会和节日等公共特别活动会造成交通系统中断，经常让运营商措手不及。虽然这些活动通常都是提前计划好的，但其影响很难预测，即使组织者和交通运营商进行协调。当几个事件同时发生时，问题会大大增加。为了解决这些问题，在新加坡、伦敦或东京等大城市，成本高昂的流程严重依赖人工搜索和个人经验。本文提出了一种贝叶斯加性模型与高斯过程组件，结合智能卡记录从公共交通与上下文信息的事件，不断挖掘从Web。我们开发了一个有效的近似推理算法，使用期望传播，这使我们能够预测的公共交通出行的特殊事件领域的总数，从而有助于更适应的交通系统。此外，对于多个并发事件的情况下，所提出的算法是能够分解总行程计数到其最有可能的组件相关的特定事件和日常行为。使用来自新加坡的真实数据，我们表明，所提出的模型在R2中比最佳基线模型高出26%，并且对其各个组成部分也具有解释力。
2018-12-20 cs.LG stat.ML
PAC-Bayesian Estimation and Prediction in Sparse Additive Models
本文研究稀疏性假设下高维可加模型的估计和预测问题（$p\gg n$范式）。研究了一种PAC-Bayesian策略，给出了概率上的预言不等式.通过最近的成果在高维MCMC算法的实施，我们的方法的性能进行评估模拟数据。
2013-02-01 math.ST stat.ME stat.TH
Bayesian Reconciliation of Overlapping Multi Step Forecasts: A Post Processing Framework for Cross Origin Coherence
University of São Paulo（圣保罗大学）
针对多步预测中跨来源不一致性问题，提出模型无关的贝叶斯后处理协调框架，通过状态空间模型联合校准重叠预测，显著降低不一致性并提升区间覆盖率。
2026-11-03 stat.ME
Bayesian Deep Generative Models for Multiplex Networks with Multiscale Overlapping Clusters
Duke University（杜克大学）；Columbia University（哥伦比亚大学）
本文提出一种贝叶斯层次模型，用于推断多层网络中节点的群体结构，并进行多分辨率聚类。方法提供了理论支持和高效后验计算工具，通过模拟和脑连接组数据验证了其有效性。
2026-04-20 stat.ME
SoftBart: Soft Bayesian Additive Regression Trees
贝叶斯加性回归树（BART）模型作为一种通用的非参数建模技术，近年来受到越来越多的关注。BART将现代机器学习技术的灵活性与贝叶斯推断的原则性不确定性量化相结合，它已被证明是唯一适合解决许多科学领域（包括医学和社会科学）中常见的高噪声问题的方法。本文介绍了用于拟合Linero和Yang（2018）的Soft BART算法的SoftBart包。除了改进其他BART软件包的预测性能外，该软件包的主要目标是促进将BART纳入更大的模型中，使其成为贝叶斯统计研究人员的理想选择。我展示了如何使用这个包进行标准预测任务，以及如何将BART模型嵌入到更大的模型中;我通过使用SoftBart实现非参数概率单位回归模型、半参数变系数模型和部分线性模型来说明。
2022-10-28 stat.CO stat.ME stat.ML
Bayesian Clustering Prior with Overlapping Indices for Effective Use of Multisource External Data
针对多源外部数据异质性导致先验综合信息失真问题，提出基于重叠指数的贝叶斯聚类先验框架，通过K-Means算法平衡一致性与鲁棒性识别最优聚类，有效借用外部信息并提升临床试验设计与分析效果。
2024-12-08 stat.ME
Bayesian Additive Distribution Regression
Department of Statistics and Data Sciences（统计与数据科学系）
DistBART通过贝叶斯加法回归树先验建模分布回归，结合浅层决策树和随机特征近似，实现高效非参数回归与不确定性量化。
2026-03-06 stat.ME stat.ML
Bayesian Optimisation for Sequential Experimental Design with Applications in Additive Manufacturing
Trinity College Dublin（都柏林圣三一学院）；Maynooth University（梅努斯大学）；Dublin City University（都柏林城市大学）；I-Form Advanced Manufacturing Research Centre（I-Form先进制造研究中心）
该研究介绍贝叶斯优化在实验设计的应用价值，提供含方法论与软件指南的BO手册，综述其在增材制造的应用、对比开源库并挖掘新场景，为相关从业者提供参考。
2023-10-08 cs.CE cs.LG
ALAS: Additive Learnable Alpha-Stable Kernels for Flexible Bayesian Optimization
研究针对贝叶斯优化中核选择依赖目标未知结构的问题，提出ALAS核族，通过学习稳定性参数α适应数据，给出两种参数化，实验表明其在多样设置下性能强大且稳健。
2026-07-22 cs.LG math.OC
A note on Bayesian R-squared for generalized additive mixed models
本文提出一种贝叶斯框架，将广义加性混合模型的后验预测方差分解为已解释与未解释部分，从而严格定义贝叶斯R²，并引入部分贝叶斯R²量化各模型项的贡献。
2024-10-17 stat.ME
Comparison between Suitable Priors for Additive Bayesian Networks
加性贝叶斯网络是一种图形模型，它通过对基础变量的联合概率分布进行因子分解，将通常的贝叶斯广义线性模型扩展到多个因变量。在拟合ABN模型时，参数先验的选择至关重要。如果使用不充分的先验--如信息量太弱的先验--数据分离和数据稀疏会导致模型选择过程中的问题。在这项工作中，两个弱和一个强信息先验之间的模拟研究。作为弱信息先验，我们使用具有大方差的零均值高斯先验，目前在R包abn中实现。第二个先验属于学生t分布，专门为逻辑斯谛回归设计，最后，强信息先验再次是高斯分布，平均值等于真实参数值且方差较小。我们比较了这些先验知识对学习的加性贝叶斯网络在不同参数下的准确性的影响。我们创建了一个模拟研究来说明林德利的悖论的基础上的优先选择。然后，我们的结论是突出了良好的性能的信息学生的t先验和有限的影响林德利悖论。最后，对今后的发展提出了建议。
2018-09-18 stat.AP stat.ME stat.ML
On Soft Bayesian Additive Regression Trees and asynchronous longitudinal regression analysis
在许多纵向研究中，协变量和响应经常在不规则、不匹配和受试者特定的时间间歇性观察到。当协变量和响应被异步观测时，如何处理这样的数据是一个经常提出的问题。贝叶斯加性回归树（Bayesian Additive Regression Trees，BART）是一种贝叶斯非参数方法，已被证明与最好的现代预测方法（如随机森林和提升决策树）具有竞争力。树的和结构与贝叶斯推理框架相结合，提供了一个准确和鲁棒的统计方法。BART变体软贝叶斯加性回归树（SBART）构造使用随机决策树和实质性的理论和实践的好处。在本文中，我们提出了一个加权SBART模型的解决方案，异步纵向数据。与其他方法相比，现有方法在对协变量过程的假设较少的情况下是有效的。广泛的模拟研究提供了这种解决方案的数值支持。来自艾滋病研究的数据被用来说明我们的方法
2021-08-26 stat.AP stat.ME
Bayesian Additive Regression Trees With Parametric Models of Heteroskedasticity
我们将异方差贝叶斯加性回归树（BART）建模的误差方差参数的对数作为一个线性函数的预先指定的协变量。在该方案下，原始树和模型的吉布斯抽样过程很容易修改，方差模型的参数通过Metropolis-Hastings步骤更新。我们证明了我们的方法的承诺，提供更适当的后验预测区间比homoskedastic BART在异方差设置，并证明了该模型的抗过拟合。我们的实现将在即将发布的R包bartMachine中提供。
2014-02-21 stat.ME
SBAMDT: Bayesian Additive Decision Trees with Adaptive Soft Semi-multivariate Split Rules
Texas A&M University（德克萨斯农工大学）；University of Cincinnati（辛辛那提大学）；Shell International Exploration and Production Inc（壳牌国际勘探与生产公司）
针对标准决策树单变量确定性分裂规则难以捕捉复杂决策边界的问题，提出采用自适应软半多变量分裂规则的SBAMDT概率加性决策树模型，可适配不同平滑度，经多数据集对比验证了其实用性。
2025-01-17 cs.LG math.ST stat.ME
BFTS: Thompson Sampling with Bayesian Additive Regression Trees
Department of Statistics and Data Science, National University of Singapore（统计与数据科学系，国立新加坡大学）；Centre for Biomedical Data Science, Duke-NUS Medical School（生物医学数据科学中心，杜克-新加坡国立大学医学院）；Department of Biostatistics and Bioinformatics, Duke University（生物统计学与生物信息学系，杜克大学）；Department of Statistics and Data Science, Washington University in St. Louis（统计与数据科学系，圣路易斯华盛顿大学）
BFTS 是首个将贝叶斯加法回归树整合到探索循环中的上下文老虎机算法，通过理论证明和实验验证，实现了非参数老虎机的最优性能和实际应用效果。
2026-02-08 cs.LG stat.ME stat.ML
Bayesian Quantile Regression for Partially Linear Additive Models
本文研究了条件分位数回归中部分线性可加模型的半参数贝叶斯估计和模型选择方法。非对称Laplace分布为基于校验损失的分位数回归模型的贝叶斯推断提供了一种机制。这种新方法的优点是，非线性，线性和零函数分量可以自动分离，同时在模型拟合，而无需预先指定或参数调整。这是通过使用两组指标变量的尖峰和厚板先验来实现的。对于后验推理，我们设计了一个有效的部分折叠吉布斯采样器。仿真研究被用来说明我们的算法。所提出的方法进一步说明了两个真实的数据集的应用程序。
2013-07-10 stat.CO stat.ME
Hierarchical Embedded Bayesian Additive Regression Trees
Hamilton Institute, Maynooth University（汉密尔顿研究所，梅努斯大学）；Maynooth University（梅努斯大学）
本文提出 HE-BART，通过在回归树终端节点嵌入随机效应，构建无需预设随机效应结构的非参数混合效应建模方法，并在模拟与真实数据中展现更优预测及方差一致估计。
2023-04-24 cs.LG stat.ME
Bayesian Additive Adaptive Basis Tensor Product Models for Modeling High Dimensional Surfaces: An application to high-throughput toxicity testing
许多现代数据集都是从复杂的高维表面采样的。诸如张量积样条或高斯过程之类的方法有效/非常适合于表征二维或三维的表面，但在表示更高维的表面时可能会遇到困难。受高通量毒性测试的启发，其中观察到的剂量-响应曲线是由化学品的结构特性定义的表面的横截面，开发了一种模型来表征该表面以预测未经测试的化学品的剂量-响应。这篇手稿提出了一种新的方法，将多维表面建模为学习的基函数的总和，这些基函数形成为低维函数的张量积，这些函数本身可以通过从数据中学习的基扩展来表示。描述了该模型，提出了一种吉布斯抽样算法，并在模拟研究以及从美国环保局的ToxCast高通量毒性测试平台的数据进行了研究。
2017-06-15 stat.ML
Sequential Design for Computer Experiments with a Flexible Bayesian Additive Model
在计算机实验中，在计算机上实现的数学模型用于表示复杂的物理现象。这些模型被称为计算机模拟器，可以对复杂现象的虚拟表示进行实验研究。模拟器可以被认为是复杂的功能，需要许多输入并提供输出。通常这些模拟器本身计算起来很昂贵，并且可以通过“替代模型”（如统计回归模型）来近似。在本文中，我们考虑了一种新的代理模型，贝叶斯集成的树（Chipman等。2010），与学习足够的模拟器的特定功能的模拟器可以估计的具体目标。我们专注于识别模拟器的全局最小值。利用贝叶斯版本的预期改善标准（琼斯等人，1998年），我们表明，这种合奏是特别有效的，当模拟器表现不佳，表现出非平稳性或突然变化的响应。一些插图的方法，包括潮汐发电的应用。
2012-07-01 stat.ME stat.ML
Hybrid Bayesian Estimation in the additive hazards model
针对右删失数据下的半参数加性风险模型，提出一种结合Lin-Ying估计方程的混合贝叶斯估计方法，获得闭式后验估计量，并通过模拟和Nickels矿工数据集验证。
2025-05-27 math.ST stat.ME stat.TH
Semiparametric Bayesian Information Criterion for Model Selection in Ultra-high Dimensional Additive Models
对于参数个数不同的线性模型，最近的研究表明，改进的贝叶斯信息准则（BIC）可以一致地识别真实模型。然而，在许多情况下，几乎没有理由证明协变量的效应实际上是线性的。因此，一个半参数模型，如添加剂模型研究这里，是一个可行的替代。我们证明了BIC型标准的一致性的理论结果可以扩展到这个更具挑战性的情况下，与维度发散指数快速与样本量。此外，在我们的理论研究中，噪声假设是放松的。这些努力显着扩大了适用性的标准，更一般的一类模型。
2011-07-25 stat.ME
Generalized Bayesian Additive Regression Trees: Theory and Software
University of South Carolina（南卡罗来纳大学）
本文提出广义贝叶斯树框架，适用于指数族响应变量的非线性回归，理论证明其后验收敛性，并提供Python/R软件实现多种分布模型。
2026-03-23 math.ST stat.ML stat.TH
High-Dimensional Bayesian Inference in Nonparametric Additive Models
提出了一种完全贝叶斯方法用于超高维非参数可加模型，其中可加成分的数量可能大于样本量，尽管理想情况下真正的模型被认为只包括少量的成分。贝叶斯方法可以进行随机模型搜索，通过随机抽取实现灵活的参数估计。理论分析表明，所提出的模型选择方法具有令人满意的性质。例如，当与模型先验相关的超参数被正确指定时，随着样本量变为无穷大，真实模型的后验概率接近1;当该超参数被错误指定时，所选模型仍然是可接受的，因为渐进地证明它嵌套在真实模型中。为了提高模型的灵活性，提出了两个新的$g$先验，并检验了它们的理论性能。我们还提出了一个有效的MCMC算法来处理计算问题。几个仿真例子来证明我们的方法的计算优势。
2013-09-23 stat.ME
A Bayesian Record Linkage Approach to Applications in Tree Demography Using Overlapping LiDAR Scans
本文提出贝叶斯分层记录链接模型，结合个体树木生长模型，利用重叠LiDAR扫描数据识别针叶树个体并估计生长-尺寸曲线，在模拟数据和南落基山脉真实数据上验证了方法。
2025-06-05 stat.AP stat.ME
BARTSIMP: flexible spatial covariate modeling and prediction using Bayesian additive regression trees
针对空间统计预测中现有方法难以兼顾协变量非线性建模与可靠不确定性估计的问题，提出结合高斯过程与BART的BARTSIMP方法，通过MCMC与INLA结合降本，经模拟和肯尼亚人体测量数据验证有效。
2025-02-21 stat.ME stat.ML
Bayesian views of generalized additive modelling
本文从贝叶斯视角阐释广义加性模型（GAMs），强调其与频率论平滑的联系及在生态学中的应用，重点讨论项/模型选择与不确定性估计。
2025-01-07 stat.ME
