Regression approaches for Approximate Bayesian Computation
本书介绍了近似贝叶斯计算(ABC)的回归方法和回归调整。回归调整在拒绝抽样之后调整参数值,以考虑模拟与观测之间的不完全匹配。当有许多汇总统计数据时,模拟和观察之间的不完美匹配可能更加明显,这种现象被称为维数灾难。由于这种不完美的匹配,与真实的可信区间相比,用回归方法获得的可信区间可能会膨胀。本章介绍了回归调整的主要概念。本文给出了一个定理,比较了有无回归调整的后验分布的理论性质。最后,回归调整在群体遗传学中的实际应用表明,与拒绝方法相比,回归调整缩小了后验分布,这是一种避免置信区间膨胀的解决方案。
2017-07-05 stat.ME
The Tilted Beta Binomial Linear Regression Model: a Bayesian Approach
本文提出了新的线性回归模型来处理过分散的二项数据集。这些新的模型称为倾斜贝塔二项回归模型,是根据倾斜贝塔二项分布定义的,假设二项分布的参数遵循倾斜β分布。作为这种回归模型的一种特殊情况,我们提出了β矩形二项回归模型,从二项分布定义,假设他们的参数遵循β矩形分布。这些新的线性回归模型,定义假设这些新的分布的参数遵循回归结构,使用贝叶斯方法和OpenBUGS软件进行拟合。建议的回归模型拟合到一个过度分散的二项数据集的种子发芽取决于所选择的种子androot的类型的数量。
2019-11-25 stat.ME
Bayesian Spatial Monotonic Multiple Regression
我们考虑单调,多元回归的一组连续的区域(格子数据)。回归函数在区域之间允许变化,并表现出地理结构。我们开发了新的贝叶斯非参数方法,它允许连续和不连续的功能形状,并估计使用标记点过程和可逆跳马尔可夫链蒙特卡罗技术。地理上的依赖性是由一个灵活的先验分布,参数化允许依赖性随功能水平而变化。该方法使用贝叶斯全局优化和交叉验证进行调整。估计值可用于变量选择、阈值检测和预测以及回归函数的外推。我们的方法的性能和灵活性说明了模拟研究和挪威保险数据集的应用。
2016-05-19 stat.ME
Bayesian Group Selection in Logistic Regression with Application to MRI Data Analysis
本文研究协变量为组结构的贝叶斯逻辑斯谛回归模型。在高维环境中,通常假设只有一小部分组是重要的,因此一致的组选择是非常重要的。虽然一致频率论的组选择方法已经被提出,但逻辑斯谛回归模型的贝叶斯组选择方法的理论性质还没有被研究。本文研究了高维环境下逻辑斯谛回归模型的分层组spike和slab先验。在温和的条件下,我们建立了诱导后验的强组选择一致性,这是贝叶斯文献中的第一个理论结果。通过仿真研究,我们证明了所提出的方法的性能优于现有的国家的最先进的方法在各种设置。我们进一步将我们的方法应用于预测帕金森病的MRI数据集,并显示其优于其他竞争者的优势。
2019-12-04 stat.ME
Bayesian Elastic Net Regression with Structured Prior Dependence
The Ohio State University(俄亥俄州立大学)
本文提出了一种具有结构先验依赖的贝叶斯弹性网回归方法,通过正交正态分布和L1正则化g先验提升模型灵活性,并通过模拟和实验验证其有效性。
2025-12-31 stat.ME
Bayesian Markov Switching Tensor Regression for Time-varying Networks
提出了一种新的二值时间序列多维数组(张量)贝叶斯马尔可夫切换回归模型。我们假设一个零膨胀logit回归与时变参数,并将其应用到多层时间网络。原来的贡献是三重的。首先,为了避免过度拟合,我们提出了一个简约的参数化的基础上的低秩分解的张量的回归系数。其次,我们假设参数是由一个隐藏的马尔可夫链,从而允许在网络拓扑结构的变化。我们遵循贝叶斯推理方法,并提供了一个有效的吉布斯采样后验近似。我们将该方法应用于一个真实的金融网络数据集,研究了几个风险因素对边缘概率的影响。本文的补充材料可在网上查阅。
2019-07-03 stat.ME
A Unified Bayesian Nonparametric Framework for Ordinal, Survival, and Density Regression Using the Complementary Log-Log Link
本文提出统一贝叶斯非参数框架,利用互补对数-对数链接解决有序回归、生存分析和密度回归问题,结合贝叶斯加性回归树实现便捷计算并验证理论性质。
2025-02-02 stat.ME
Bayesian Tensor Regression
本文提出了一种贝叶斯回归方法,对向量和张量协变量进行标量响应。张量协变量通常在分析之前被向量化,未能利用张量的结构,导致估计和预测性能差。本文提出了一类新的多元收缩先验,用于张量回归模型的系数。性质进行了描述,包括后验一致性在温和的条件下,和一个有效的马尔可夫链蒙特卡罗算法的后验计算。模拟研究表明,在估计和参数推断方面,向量化或使用现有的张量回归方法有很大的收益。该方法在神经成像应用中进一步说明。保留字:降维;多路收缩优先;磁共振成像; parafac分解;后验一致性;张量回归
2015-09-22 stat.ME
Bayesian Projection Pursuit Regression
在投影寻踪回归(PPR)中,未知响应函数由M个“脊函数”的和来近似,所述脊函数是多变量输入空间的一维投影的灵活函数。传统上,优化例程用于经由顺序算法来估计投影方向和脊函数,并且M通常经由交叉验证来选择。我们介绍了第一个贝叶斯版本的PPR,它具有准确的不确定性量化的好处。为了学习投影方向和脊函数,我们应用了用于单脊函数情况(M=1)的新方法,称为单指数模型,贝叶斯实现确实存在;然后使用可逆跳MCMC来学习脊函数M的数量。我们评估了我们的模型在20个模拟场景和23个真实数据集中的预测能力,并与一系列最先进的回归方法进行了对比。它的有效性能表明贝叶斯投影寻踪回归是对现有回归工具箱的一个有价值的补充。
2022-10-17 stat.ME
Robust Bayesian Nonparametric Variable Selection for Linear Regression
钉板和马蹄回归可以说是最流行的贝叶斯变量选择方法的线性回归模型。然而,如果数据中存在离群值和异方差,则其性能可能会恶化,这是许多现实世界统计和机器学习应用中的常见特征。在这项工作中,我们提出了一个贝叶斯非参数方法线性回归,执行变量选择,同时考虑离群值和异方差。我们提出的模型是一个狄利克雷过程尺度混合模型的优点,我们可以得到完整的条件分布的所有参数在封闭的形式,从而产生一个有效的吉布斯采样后验推理的一个实例。此外,我们提出了如何扩展模型,以考虑重尾的响应变量。该模型的性能进行了测试,对竞争算法的合成和真实世界的数据集。
2022-10-19 stat.ME
On Bayesian quantile regression and outliers
在这项工作中,我们讨论了贝叶斯分位数回归模型的进展,因为他们的第一个建议,我们讨论了所有参数的重要性,在推理过程中。使用的非对称拉普拉斯分布作为一个正常的和一个指数分布的混合物的表示,我们讨论的相关性的尺度参数的存在,以控制模型中的方差。除此之外,我们还考虑了混合表示中潜在变量的后验分布,以显示贝叶斯分位数回归拟合的离群观测值,其中我们将每个潜在变量的后验分布与其他潜在变量进行比较。我们说明了这些结果与模拟研究,并与数据有关的基尼系数在巴西各州的人口普查信息。
2016-01-27 stat.ME
Bayesian Fused Lasso Modeling via Horseshoe Prior
贝叶斯融合套索方法是一种稀疏贝叶斯方法,它同时收缩回归系数和它们的连续差。在本文中,我们提出了一个贝叶斯融合套索模型通过马蹄先验。通过假设连续回归系数的差异具有马蹄形先验,所提出的方法使我们能够防止这些差异的过度收缩。我们还提出了一个贝叶斯六边形算子的回归收缩和平等的选择(HORSES)与马蹄事先,它对所有组合的差异回归系数的先验。仿真研究和实际数据的应用表明,所提出的方法比现有的方法有更好的性能。
2022-01-20 stat.ME
Bayesian Neural Tree Models for Nonparametric Regression
本研究针对非参数回归问题,提出融合贝叶斯与频率学派方法的贝叶斯神经树(BNT)模型,该模型参数量少、可同步特征选择与预测,在小样本下泛化性好,还推导了最优参数并通过真实数据集验证。
2020-07-27 stat.ME
Bayesian Geoadditive Expectile Regression
在过去的几年里,回归类建模超过响应的平均值已经引起了很多关注。期望回归是这类模型的一个特殊的、计算方便的例子。期望值提供了完全分布的分位数特征,并将均值作为特例。在频率论框架下,许多具有非常不同结构的协变量的影响已经成为可能。提出了基于非对称正态分布的贝叶斯期望回归方法。这使得在一个模型中结合例如线性、非线性、空间和随机效应成为可能。此外,可以对估计的参数进行详细的推断。提出了基于迭代加权最小二乘更新的马尔可夫链蒙特卡罗(MCMC)模拟算法的建议密度,并讨论了该方法对复杂半参数回归规范的灵活性扩展的潜力。
2013-12-18 stat.ME
Bayesian Analysis on Limiting the Student-$t$ Linear Regression Model
Osaka Metropolitan University(大阪公立大学)
针对线性回归中异常值处理时Student-$t$模型应用缺乏理论支撑的问题,本研究基于正则变化理论提出了保证该模型对y方向异常值稳健性的实用简洁条件。
2025-10-03 stat.ME
Log-Linear Bayesian Additive Regression Trees for Multinomial Logistic and Count Regression Models
本文介绍了对数线性模型的贝叶斯加性回归树(BART),包括多项逻辑斯谛回归和计数回归,其中包含零膨胀和过度离差。BART已被应用于非参数均值回归和二进制分类问题在一系列的设置。然而,现有的应用程序的BART已被限制为高斯“数据”,无论是观察到的或潜在的模型。这主要是因为有效的MCMC算法可用于高斯似然。但是,虽然许多有用的模型是自然铸造的潜在高斯变量,许多其他人不是-包括本文考虑的模型。我们开发了新的数据增强策略,并仔细指定这些新模型的先验分布。像原来的BART先验一样,新的先验分布经过精心构造和校准,在防止过拟合的同时具有灵活性。新的先验和数据增强方案使我们能够在高斯模型的背景之外实现一个有效的MCMC采样器。这些新方法的效用说明了与以前公布的数据集的例子和应用程序。
2019-08-26 stat.ME
Projection-pursuit Bayesian regression for symmetric matrix predictors
本文提出一种针对对称矩阵预测变量的贝叶斯多指标回归方法,利用投影寻踪结构并施加稀疏先验,通过贝叶斯回拟进行推断,在模拟和脑连接数据案例中验证了有效性。
2024-07-18 stat.ME
Scalable Bayesian nonparametric regression via a Plackett-Luce model for conditional ranks
我们提出了一种新的贝叶斯非参数回归模型的协变量X和连续的,真正的响应变量Y。该模型根据Y和X的边缘分布以及调整条件分布F(y)的随机排序的回归函数进行参数化|x)。通过采用近似的复合似然方法,我们表明,由此产生的后验推理可以解耦的模型的单独组件。该过程可以扩展到非常大的数据集,并允许使用来自贝叶斯非参数密度估计和Plackett-Luce排名估计的标准现有软件。作为一个例子,我们展示了我们的方法在美国人口普查数据集上的应用,该数据集有超过130万个数据点和100多个协变量。
2015-06-24 stat.ME
Density Regression with Bayesian Additive Regression Trees
对整个密度如何随协变量变化进行建模是均值和分位数回归的重要但具有挑战性的推广。现有的密度回归方法主要包括协变量依赖的离散混合模型,我们考虑了一个连续的潜变量模型,我们称之为DR-BART。通过贝叶斯加性回归树(BART)的一个新的应用构建的先验映射的潜变量的观察数据。我们证明了我们的模型引起的后验集中在足够光滑的真实生成函数周围。我们还分析了DR-BART在一组具有挑战性的模拟示例上的性能,在这些示例中,它优于贝叶斯密度回归的各种其他方法。最后,我们将DR-BART应用于来自教育测试和经济学的两个真实数据集,以研究学生的成长并预测教育回报。我们提出的采样器是有效的,并允许一个利用巴士的灵活性,在许多应用设置的整个分布的响应是主要的利益。此外,我们的计划在BART内的潜变量的分裂有利于其未来的应用程序,可以通过潜变量,如涉及层次或时间序列数据描述的其他类别的模型。
2021-12-22 stat.ME
Bayesian Model Selection for Misspecified Models in Linear Regression
虽然贝叶斯信息准则(BIC)和赤池信息准则(AIC)是线性回归中模型选择的强大工具,但它们建立在不同的先验假设上,因此适用于不同的数据生成场景。我们表明,在有限维的情况下,他们各自的假设可以统一在一个增广的模型加噪声空间,并在这个空间中构建一个先验继承了AIC和BIC的有益特性。这使我们能够调整BIC,使其对信噪比较低的错误指定模型具有鲁棒性。
2017-12-14 stat.ME
Bayesian correction for covariate measurement error: a frequentist evaluation and comparison with regression calibration
处理协变量测量误差的贝叶斯方法已经很成熟,但可以说研究人员仍然很少使用。对于一些人来说,这可能是由于不熟悉或不同意贝叶斯推理范式。对其他人来说,一个促成因素是标准统计软件包无法进行这种贝叶斯分析。在本文中,我们首先给出了一个概述的贝叶斯方法来处理协变量测量误差,并将其与回归校准(RC),可以说是最常用的方法。然后,我们认为,为什么贝叶斯方法有一些统计优势相比,RC,并证明,实施贝叶斯方法通常是相当可行的分析。接下来,我们描述了密切相关的极大似然和多重插补方法,并解释了为什么我们认为贝叶斯方法通常是更可取的。然后,我们经验比较RC和贝叶斯方法,通过模拟研究的频率属性。贝叶斯方法的灵活性,以处理测量误差和缺失数据,然后说明通过分析数据从第三次全国健康和营养检查调查。
2016-03-20 stat.ME
A Nonparametric Bayesian Technique for High-Dimensional Regression
本文提出了一个非参数贝叶斯框架称为VariScan的同时聚类,变量选择和预测在高通量回归设置。Poisson-Dirichlet过程用于检测协变量的低维潜在聚类。为响应构造了自适应非线性预测模型,实现了模型简约性和灵活性之间的平衡。与传统的信念相反,集群检测显示为后验一致的一般类的模型的协变量和主题的数量的增长。仿真研究和数据分析表明,VariScan往往优于几个著名的统计方法。
2016-04-12 stat.ME
Bayesian Additive Regression Trees With Parametric Models of Heteroskedasticity
我们将异方差贝叶斯加性回归树(BART)建模的误差方差参数的对数作为一个线性函数的预先指定的协变量。在该方案下,原始树和模型的吉布斯抽样过程很容易修改,方差模型的参数通过Metropolis-Hastings步骤更新。我们证明了我们的方法的承诺,提供更适当的后验预测区间比homoskedastic BART在异方差设置,并证明了该模型的抗过拟合。我们的实现将在即将发布的R包bartMachine中提供。
2014-02-21 stat.ME
From bilinear regression to inductive matrix completion: a quasi-Bayesian analysis
本文研究了双线性回归问题,并进一步讨论了当响应矩阵中含有缺失数据时的归纳矩阵完备化问题。我们提出了一个准贝叶斯方法首先对问题的双线性回归的准似然。然后,我们将这种方法应用于归纳矩阵完备化的背景。在低秩假设和利用PAC-Bayes界技术,我们提供了我们提出的估计和准后验的统计特性。我们提出了一个朗之万蒙特卡罗方法来近似计算所提出的估计。一些数值研究进行了证明我们的方法。
2022-10-27 stat.ME
On The Sparse Bayesian Learning Of Linear Models
本文对Tipping(2001)的线性回归模型的稀疏贝叶斯学习(SBL)在高维环境下进行了重新检验。我们提出了一个硬阈值版本的SBL估计,实现,正交设计矩阵,非渐近估计误差率的$σ\sqrt{s\log p}/\sqrt{n}$,其中$n$是样本量,$p$回归变量的数量,$σ$是回归模型的标准差,和$s$的非零回归系数的数量。我们还建立了高概率的估计识别非零回归系数。在我们的模拟中,我们发现当要恢复的信号很强时,稀疏贝叶斯学习回归的性能优于套索(Tibshirani(1996))。
2015-02-11 stat.ME
A New Family of Error Distributions for Bayesian Quantile Regression
我们为基于模型的分位数回归提出了一系列新的误差分布,该分布是通过正态分布的结构化混合构造的。该构造使得能够固定分布的特定顶点,同时允许变化的模式、偏度和尾部行为。因此,它克服了非对称拉普拉斯分布的严重限制-参数分位数回归最常用的误差模型-其中,当特定百分位数固定时,误差密度的偏度完全指定。我们提出了一个贝叶斯公式的建议分位数回归模型,包括条件套索正则化的分位数回归的基础上的分层拉普拉斯先验的回归系数,和Tobit分位数回归模型。后验推理通过马尔可夫链蒙特卡罗方法实现。通过模型的相关性质研究了新模型相对于非对称Laplace分布的灵活性,并通过模拟实验比较了正则化分位数回归中两种误差分布。此外,线性分位数回归,正则化分位数回归和Tobit分位数回归的模型性能与数据的例子,以前已经考虑在文献中说明。
2017-02-09 stat.ME
GS-BART: Bayesian Additive Regression Trees with Graph-split Decision Rules
GS-BART提出一种基于图分裂规则的贝叶斯加性决策树方法,通过编码图拓扑信息并设计可扩展MCMC算法,在空间和网络数据回归与分类中优于传统集成树和高斯过程模型。
2025-09-08 stat.ME
Bayesian Tensor-on-Tensor Regression with Efficient Computation
我们提出了一种贝叶斯张量对张量回归方法来预测一个多维数组(张量)的任意尺寸从另一张量的任意尺寸,建立在塔克分解的回归系数张量。利用Tucker分解的传统张量回归方法要么假设核心张量的维度是已知的,要么通过交叉验证或一些模型选择标准来估计它。然而,没有现有的方法可以同时估计模型维数(核张量的维数)和其他模型参数。为了填补这一空白,我们开发了一个有效的马尔可夫链蒙特卡罗(MCMC)算法来估计模型的维数和参数的后验推理。除了MCMC采样器,我们还开发了一种基于超快速优化的计算算法,其中计算参数的最大后验估计,并通过模拟退火算法优化模型维数。贝叶斯框架为不确定性量化提供了一种自然的方法。通过广泛的模拟研究,我们评估了所提出的贝叶斯张量张量回归模型,并显示其优越的性能相比,替代方法。我们还通过将其应用于两个真实世界的数据集,包括面部成像数据和3D运动数据,证明了它的实际有效性。
2022-10-20 stat.ME
Regression-Based Bayesian Estimation and Structure Learning for Nonparanormal Graphical Models
非超常图模型是高斯图模型的半参数推广,其中假设变量仅在某些未知的平滑单调变换后才遵循高斯图模型。我们认为贝叶斯方法推理的非超自然图形模型,我们把先验的未知变换通过一个随机序列的基础上B-样条。我们使用一个回归公式来构建的可能性,通过Cholesky分解的转换变量的基础精度矩阵,并把收缩先验的回归系数。我们应用一个插件变分贝叶斯算法学习稀疏精度矩阵和性能比较后吉布斯抽样计划在模拟研究。最后,我们将所提出的方法应用到一个真实的数据集。关键词:
2021-02-20 stat.ME
A Latent-Variable Bayesian Nonparametric Regression Model
本文介绍了贝叶斯非参数回归的一个随机划分模型。该模型是基于无限多的不相交区域的范围内的潜在协变量依赖的高斯过程。给定该过程的实现,共享公共区域的因变量响应的集群被假设为来自相同的分布。而且,潜在的高斯过程先验允许随机划分(即,观察的集群)以展示彼此之间的依赖性。该模型通过对教育产生的真实数据集的分析,以及通过对从复杂的数据生成模型生成的模拟数据的分析来说明。
2013-01-02 stat.ME
Bayesian Regression for a Dirichlet Distributed Response using Stan
对于由总和为1的正值集合或向量组成的观察到的响应,狄利克雷分布(Bol'shev,2018)是量化该过程背后的数据生成机制的有用数学构造。在应用中,这些响应集通常表示为比例或比例的组合,并且通过协变量,人们希望通过这些协变量的值的变化来表现潜在的信号,从而导致不同分布的响应组合。本文简要介绍了这类回归模型,并基于最近开发的公式(Maier,2014),说明了在贝叶斯推断框架Stan中的实现。
2018-08-20 stat.ME
Regularizing Bayesian Predictive Regressions
我们表明,正则化贝叶斯预测回归提供了一个框架,事先敏感性分析。我们开发了一个程序,联合正则化的期望和方差-协方差阵使用一对收缩先验。我们的方法直接适用于向量自回归(VAR)和看似无关回归(SUR)。正则化路径提供先验灵敏度诊断。通过利用正则化惩罚和预测先验分布之间的二元性,我们重新解释了宏观金融研究的两个经典贝叶斯分析:股票溢价可预测性和预测宏观经济增长率。我们发现,存在合理的先验规范的可预测性超过标准普尔500指数收益率使用账面市值比,CAY(消费,财富,收入比),和国库券利率。我们使用市场时机策略评估预测,我们表明最佳正则化的解决方案优于买入并持有的方法。第二个实证应用涉及预测工业生产,通货膨胀和消费增长率,并证明了我们的方法的可行性。
2017-09-13 stat.ME
Estimating Shapley Effects in Big-Data Emulation and Regression Settings using Bayesian Additive Regression Trees
本文提出一种基于贝叶斯加性回归树的Shapley效应估计器,适用于高维(数百维)非参数回归,并给出后验一致性理论保证及多维度测试验证。
2025-05-24 stat.ME
Influential Observations in Bayesian Regression Tree Models
本文研究了BCART和BART等贝叶斯回归树模型中影响观测的检测与预测调整问题,提出了三种检测诊断方法及一种重要性抽样算法来消除影响数据的作用,并在真实数据上验证了方法的有效性。
2023-05-17 stat.ME
Bayesian density regression for count data
尽管连续响应的分位数回归模型越来越受欢迎,但计数数据的模型迄今为止很少受到关注。用于计数数据的主要分位数回归技术涉及添加均匀随机噪声或“抖动”,从而克服条件分位数函数不是感兴趣的参数的连续函数的问题。虽然抖动允许估计条件分位数,但其缺点是,对于响应变量$Y,$的小值,添加的噪声可能对估计的分位数具有较大的影响。此外,分位数回归可导致“交叉”分位数。提出了一种基于贝叶斯Dirichlet过程(DP)的计数数据分位数回归方法.该方法基于COM-Poisson回归模型的自适应DP混合(DPM),并通过估计数据密度来确定分位数,从而消除了所有上述问题。利用交换算法,建议MCMC算法可以应用于分布上的可能性只能计算到一个归一化常数。
2014-06-07 stat.ME
A Bayesian regression framework for circular models with INLA
King Abdullah University of Science and Technology(阿卜杜拉国王科技大学);University of Pretoria(比勒陀利亚大学)
本文提出了一种基于INLA的贝叶斯回归框架,用于处理圆形变量的回归模型,能够处理多种响应类型和混合协变量,并通过实例验证其有效性。
2026-02-09 stat.ME
Inequality Restricted Estimator for Gamma Regression: Bayesian approach as a solution to the Multicollinearity
本文研究了Gamma回归模型中参数受线性约束时的多重共线性问题。线性约束可以从先验信息中获得,以确保科学理论的有效性或基于物理现象的结构一致性。为了对模型进行相关的统计推断,应考虑关于模型参数的任何可用知识和先验信息。因此,本文提出了一种算法,以获得贝叶斯估计的伽玛回归模型的参数受到一些线性不等式的限制。通过蒙特卡罗模拟和实际数据集的应用,我们证明了所提出的估计量在相关性和准确性方面优于极大似然然估计量和岭估计量等普通估计量。
2023-03-09 stat.ME
Bayesian density regression for discrete outcomes
我们开发贝叶斯模型的密度回归,重点是离散的结果。讨论了混合尺度变量的多元密度估计方法,并从多元密度估计中得到条件密度。我们描述的多元混合尺度结果密度估计方法将离散变量(响应或协变量)表示为连续潜变量的离散化版本。我们提出并比较了几种模型,以获得这些阈值在具有挑战性的背景下的计数数据分析的响应可能是过度和/或分散在一些地区的协变量空间。我们利用多变量高斯的非参数混合模型的直接观察和潜在的连续变量。本文给出了后验抽样的一种马尔可夫链蒙特卡罗算法,弱相合性的充分条件,并利用模拟数据和实际数据对密度、均值和分位数回归进行了举例说明。
2019-08-13 stat.ME
Fully Bayesian Penalized Regression with a Generalized Bridge Prior
我们考虑惩罚回归模型在一个统一的框架下,其中特定的方法是由惩罚项的形式。我们提出了一个完整的贝叶斯方法,结合稀疏和密集的设置,并展示了如何使用一种类型的模型平均方法来消除滋扰惩罚参数,并通过回归系数的边缘后验分布进行推理。我们建立尾部鲁棒性的估计以及条件和边际后验一致性。我们开发了一个有效的组件明智的马尔可夫链蒙特卡罗算法的采样。数值结果表明,该方法倾向于选择最优的惩罚,并在变量选择和预测方面表现良好,与其他方法相当,而且往往优于其他方法。模拟和真实数据的例子。
2019-07-23 stat.ME
Bayesian estimation of covariate assisted principal regression for brain functional connectivity
本文提出CAP回归的贝叶斯重新表述,通过将协方差矩阵映射至切空间利用欧几里得几何进行后验推断,在统一框架内实现参数联合估计与不确定性量化,并应用于脑功能连接性分析。
2024-08-29 stat.ME
Improving the Performance of Bayesian Logistic Regression Model with Overdose Control in Oncology Dose-Finding Studies
准确确定的最大耐受剂量(MTD)是肿瘤药物开发后续阶段成功的基石。贝叶斯逻辑斯谛回归模型(BLRM)是一种流行的和通用的基于模型的剂量探索设计。然而,据报道,采用原始过量控制策略的BLRM是安全的,但“过于保守”。在这篇手稿中,我们调查了保守性的原因,并指出一个主要原因可能是缺乏适当的剂量不足控制。我们提出了平衡过量和剂量不足控制的设计,以提高原始BLRM的性能。仿真结果表明,新的设计具有更好的准确性和治疗更多的患者在MTD。
2021-05-14 stat.ME
Dynamic Treatment Regimes using Bayesian Additive Regression Trees for Censored Outcomes
为了实现为每位患者提供最佳护理的目标,医生需要为具有相同诊断的患者定制治疗方法,特别是在治疗可能进一步发展并需要额外治疗的疾病时,例如癌症。随着疾病的进展,在多个阶段做出决定可以被正式定义为动态治疗方案(DTR)。大多数现有的估计动态治疗方案的优化方法,包括流行的Q-学习方法是在频率论的背景下开发的。最近,一个通用的贝叶斯机器学习框架,促进使用贝叶斯回归建模优化DTR已经提出。在这篇文章中,我们使用贝叶斯加性回归树(BART)为加速故障时间建模框架下的每个阶段,以及模拟研究和实际数据的例子,比较所提出的方法与Q学习的删失结果。我们还开发了一个R包装函数,利用标准的BART生存模型来优化DTR的删失结果。包装器函数可以很容易地扩展以适应任何类型的贝叶斯机器学习模型。
2022-10-24 stat.ME
Bayesian Nonparametric Modeling for Multivariate Ordinal Regression
通常假设单变量或多变量有序响应来自潜在连续参数分布,协变量效应线性进入。本文介绍了一种单变量和多变量有序回归的贝叶斯非参数建模方法,该方法基于潜响应和协变量的联合分布的混合建模。建模框架可以高度灵活地推断有序回归关系,避免协变量效应中的线性或加性假设。在标准参数有序回归模型中,计算挑战来自于可识别性约束和需要非标准推理技术的参数估计。非参数模型的一个关键特征是它实现了推理的灵活性,同时避免了这些困难。特别是,我们建立了充分支持的非参数混合模型下的固定截止点,通过离散化的潜在连续响应与顺序响应。通过应用到两个数据集的计量经济学,一个例子,涉及臭氧浓度的回归关系,和多评价协议问题的建模方法的实际效用说明。
2016-09-20 stat.ME
Penalized Likelihood and Bayesian Function Selection in Regression Models
各个领域的研究推动了高维预测变量回归模型变量选择方法的广泛进步。相比之下,选择非线性函数的模型与添加剂预测最近才被认为是。几个相互竞争的建议几乎是同时提出的,而且往往互不相关。本文提供了一个国家的最先进的审查功能选择,侧重于惩罚似然和贝叶斯的概念,在一个统一的框架中相互关联的各种方法。在实证比较中,也包括提升,我们通过应用程序来评估几种方法,模拟和真实数据,从而提供一些指导,在实践中的性能。
2013-03-04 stat.ME
A Theoretical Analysis of Logistic Regression and Bayesian Classifiers
本研究的目的是显示逻辑回归和贝叶斯分类器在指数和非指数分布族的情况下的根本区别,产生以下结果。首先,逻辑回归是贝叶斯分类器的一种不太通用的表示。其次,我们应该假设类的分布,以正确说明逻辑回归方程。第三,在特定情况下,正确指定的生成贝叶斯分类器和判别逻辑回归的预测概率之间没有差异。
2021-08-08 econ.EM stat.ME
A note on Bayesian logistic regression for spatial exponential family Gibbs point processes
近年来,指数族Gibbs空间点过程的逻辑斯谛回归推理方法被提出.我们将它与二次切向变分逼近技术相结合,导出了一种新的贝叶斯空间点模式分析方法。该技术进行了详细描述,并证明了数值例子。
2014-11-03 stat.ME stat.OT
Bayesian Modal Regression based on Mixture Distributions
本文提出基于单峰混合分布的贝叶斯众数回归统一框架,推导后验正常性条件,并通过模拟和实际数据证明其对离群点稳健、能发现均值或中位数回归遗漏的协变量效应并构建更紧的预测区间。
2024-06-28 stat.AP stat.ME
On Soft Bayesian Additive Regression Trees and asynchronous longitudinal regression analysis
在许多纵向研究中,协变量和响应经常在不规则、不匹配和受试者特定的时间间歇性观察到。当协变量和响应被异步观测时,如何处理这样的数据是一个经常提出的问题。贝叶斯加性回归树(Bayesian Additive Regression Trees,BART)是一种贝叶斯非参数方法,已被证明与最好的现代预测方法(如随机森林和提升决策树)具有竞争力。树的和结构与贝叶斯推理框架相结合,提供了一个准确和鲁棒的统计方法。BART变体软贝叶斯加性回归树(SBART)构造使用随机决策树和实质性的理论和实践的好处。在本文中,我们提出了一个加权SBART模型的解决方案,异步纵向数据。与其他方法相比,现有方法在对协变量过程的假设较少的情况下是有效的。广泛的模拟研究提供了这种解决方案的数值支持。来自艾滋病研究的数据被用来说明我们的方法
2021-08-26 stat.AP stat.ME
Permuted and Augmented Stick-Breaking Bayesian Multinomial Regression
要建模的分类响应变量的协变量,我们提出了一个排列和增强棒打破(paSB)建设,一对一的映射观察到的类别随机排列的潜在棒。这种新的构造将多项式回归转换为对特定于棒的二元随机变量的回归分析,给定其协变量依赖的棒成功概率,这些随机变量是相互独立的,这些概率由其相应类别的回归系数参数化。paSB构造允许将任意交叉熵损失二进制分类器转换为贝叶斯多项式分类器。具体地说,我们参数化的负面的粘失效概率与一个家庭的协变量依赖的softplus功能,构建非参数贝叶斯多项式softplus回归,并转换贝叶斯支持向量机(SVM)到贝叶斯多项式SVM。这些贝叶斯多项式回归模型不仅能够提供概率估计,量化不确定性,增加鲁棒性,并产生非线性分类决策边界,而且还适合于后验模拟。实例结果证明了它们有吸引力的性质和性能。
2018-06-19 stat.ME stat.ML
Bayesian surface regression versus spatial spectral nonparametric curve regression
分析了2020年2月至10月期间部分西班牙社区省份的COVID-19发病率。两个无限维回归方法进行了测试。第一个是在Ruiz-Medina,Miranda和Espejo(2019)中介绍的回归框架中实现的。具体地说,一个baidom框架中采用的时间自相关算子的纯点谱的估计,表征表面序列的二阶结构。第二种方法是在空间曲线回归的背景下制定的。基于空间周期图算子,计算谱密度算子的非参数估计量来逼近曲线之间的空间相关性。降维是通过投影到长期空间协方差算子的经验特征向量上来实现的。交叉验证程序来测试两个功能回归方法的性能。
2021-10-30 stat.AP stat.ME
Bayesian Mode Regression
与均值、分位数和方差一样,众数也是集中趋势和数据汇总的重要度量。许多实际问题往往集中在“在网络中的所有元素中,哪个元素(基因或文件或信号)出现得最频繁或最典型?".在这种情况下,模式回归提供了回归量如何影响条件模式的方便总结,并且完全不同于基于条件均值或条件分位数或条件方差的其他回归模型。一些推理方法已被用于模式回归,但没有一个是从贝叶斯的角度。本文介绍了贝叶斯模式回归,探索三种不同的方法。我们从一个参数贝叶斯模型,采用一个似然函数,是基于一个模式的均匀分布。结果表明,无论数据的原始分布如何,使用这种特殊的均匀分布是贝叶斯模式回归的一种非常自然和有效的方法。基于此参数似然的后验估计,即使在误设定下,也是一致的且渐近正态的。然后,我们开发了一个非参数贝叶斯模型,使用Dirichlet过程(DP)的混合模式均匀分布,最后,我们探索贝叶斯经验似然模式回归,将经验似然到贝叶斯框架。本文还证明了各种不适当的先验未知模型参数产生一个适当的联合后验。使用模拟数据集和真实数据集说明了所提出的方法。
2012-08-02 stat.AP stat.ME
Bayesian model selection for linear regression
在这篇笔记中,我们介绍了线性回归与基函数,以应用贝叶斯模型选择。我们的目标是结合贝叶斯分析提供的奥卡姆剃刀,以便自动选择能够最佳地解释数据而不过度拟合的模型。
2015-12-15 math.ST stat.ME stat.TH
Selection of tuning parameters in bridge regression models via Bayesian information criterion
我们考虑的桥梁线性回归建模,它可以产生一个稀疏或非稀疏模型。模型建立过程中的一个关键点是调整参数的选择,包括正则化参数和调整参数的桥梁回归模型。调整参数的选择可以看作是一个模型选择和评估问题。本文提出了一种基于贝叶斯方法的桥梁回归模型评价的模型选择准则。该选择标准使我们能够客观地选择调整参数。我们调查我们提出的建模策略的有效性,通过一些数值例子。
2012-04-14 stat.ME stat.ML
Tutorial on Bayesian Functional Regression Using Stan
Johns Hopkins University(约翰斯·霍普金斯大学);University of Minnesota(明尼苏达大学)
本文介绍了使用 Stan 实现贝叶斯函数回归的方法,并通过 NHANES 数据展示了其在灵活建模和替代频率学方法方面的优势。
2026-02-26 stat.CO stat.ME