A Bayesian Mixture of Lasso Regressions with t-Errors
出于金融交易中的一个具有挑战性的问题,我们提出了一个混合回归与变量选择问题。在这方面,人们面临的数据具有离群值,偏度,同时,由于金融交易的性质,人们希望能够构建具有相当稀疏的特定预测因子的聚类。我们开发了一个贝叶斯混合套索回归与$t-$错误,以反映这些特定的需求。产生的模型必然很复杂,为了使模型与真实数据相匹配,我们开发了一种基于序贯蒙特卡罗(SMC)方法的最先进的粒子马尔可夫链蒙特卡罗(PMCMC)算法。模型和算法进行了研究模拟和真实数据。
2012-05-22 stat.AP
Regression Adjustment for Noncrossing Bayesian Quantile Regression
针对分位数回归中多个分位数的拟合曲线可能交叉的问题,提出了一种两阶段的方法。在第一阶段应用标准贝叶斯分位数回归模型,然后进行高斯过程回归调整,该调整使分位数函数单调化,同时从附近的分位数借用强度。两阶段方法在计算上是高效的,并且比现有技术更通用。该方法被证明是具有竞争力的替代方法,通过其性能在模拟的例子。
2015-02-04 stat.ME
Variable Selection in Bayesian Semiparametric Regression Models
本文扩展了现有的用于高斯过程回归中变量选择的贝叶斯方法,以选择空间相关结构中的回归项和活动协变量。然后,我们使用估计的后验概率通过交叉验证在相对较少的模式之间进行选择,从而提高预测。
2014-12-31 stat.ME
Linear regression in the Bayesian framework
这些注释旨在阐明从给定数据集执行线性回归的不同策略。文献中提出了加权和普通最小二乘法、岭回归或LASSO等方法。本文是我对这些方法的理解,据我所知,这些方法更好地统一在贝叶斯框架中。导出了用这些方法进行线性回归的计算公式。模型选择的KIC也在本文档的最后导出。
2019-08-09 stat.ME
A Sandwich Likelihood Correction for Bayesian Quantile Regression based on the Misspecified Asymmetric Laplace Density
提出了一种三明治似然校正方法,以弥补贝叶斯分位数回归方法的推理局限性的基础上错误指定的非对称拉普拉斯密度,利用该方法的好处。支持的理论结果和模拟。
2015-06-10 stat.ME
Orthogonalized Design Matrices Speed-ups of Bayesian Semiparametric Regression
University of Technology Sydney(悉尼科技大学)
研究如何用正交设计矩阵加速贝叶斯半参数回归,通过预循环重新表述模型,在列维度上使计算量大幅减少,实现约5到60倍加速。
2026-07-13 stat.ME
Rejoinder to "Multivariate Bayesian Logistic Regression for Analysis of Clinical Trial Safety Issues"
对W.“临床试验安全性问题分析的多变量贝叶斯逻辑斯谛回归”的反驳。DuMouchel [arXiv:1210.0385].
2012-10-02 stat.ME
Discussion of "Multivariate Bayesian Logistic Regression for Analysis of Clinical Trial Safety Issues" by W. DuMouchel
W.“用于临床试验安全性问题分析的多变量贝叶斯逻辑斯谛回归”讨论。DuMouchel [arXiv:1210.0385].
2012-10-02 stat.ME
Bayesian size-and-shape regression modelling
ETH Zurich(苏黎世联邦理工学院);Università della Svizzera italiana(瑞士意大利语大学);Polytechnic of Turin(都灵理工大学);Sapienza University(罗马第一大学)
本研究基于已有成果,提出带高斯地标点的尺寸与形状响应变量回归模型的贝叶斯估计方法,该方法属于贝叶斯潜变量模型框架,具备高度灵活的建模能力。
2024-06-10 stat.ME
Spatial Regression and the Bayesian Filter
空间依赖结果的回归对推理和计算提出了许多挑战。非空间模型和传统的空间混合效应模型各有其优点和缺点,使得从业者难以确定如何进行空间回归分析。我们讨论了各种流行的空间回归模型隐含假设的数据生成机制,并讨论了这些假设的影响。我们提出贝叶斯空间滤波作为非空间模型和传统空间混合模型之间的近似中间方式。我们通过模拟表明,我们的贝叶斯空间过滤模型有几个理想的属性,因此可能是一个有用的除了空间统计学家的工具包。
2017-07-31 stat.ME
Robust Bayesian Regression with Synthetic Posterior
虽然线性回归模型是统计科学中的基本工具,但估计结果可能对离群值敏感。虽然在频率论框架中已经提出了几种稳健的方法,但统计推断并不一定是简单的。本文提出了一种基于$γ$ -散度的合成后验分布的线性回归模型的贝叶斯鲁棒推断方法,它使我们能够通过后验分布自然地评估估计的不确定性。我们也考虑使用收缩先验的回归系数进行稳健贝叶斯变量选择和估计的同时。我们在吉布斯抽样中采用贝叶斯自助法,发展了一种有效的后验计算算法。通过仿真研究和著名数据集的应用,说明了所提出的方法的性能。
2020-05-26 stat.ME
Discussion of "Multivariate Bayesian Logistic Regression for Analysis of Clinical Trial Safety Issues" by W. DuMouchel
W.“用于临床试验安全性问题分析的多变量贝叶斯逻辑斯谛回归”讨论。DuMouchel [arXiv:1210.0385].
2012-10-02 stat.ME
On Bayesian quantile regression curve fitting via auxiliary variables
分位数回归近年来在统计学界受到越来越多的关注。本文将均值回归模型贝叶斯变量选择中常用的辅助变量法应用于分位数回归曲线的拟合。我们专注于回归样条的拟合,未知的数量和位置的节点。我们提供了一个有效的算法与大都会黑斯廷斯更新,其调整是完全自动化的。模拟和真实的例子和它的扩展添加剂模型的方法进行了测试。最后,我们提出了一个简单的后处理过程来处理多个单独估计的分位数曲线的交叉问题。
2012-02-27 stat.ME
Regression approaches for Approximate Bayesian Computation
本书介绍了近似贝叶斯计算(ABC)的回归方法和回归调整。回归调整在拒绝抽样之后调整参数值,以考虑模拟与观测之间的不完全匹配。当有许多汇总统计数据时,模拟和观察之间的不完美匹配可能更加明显,这种现象被称为维数灾难。由于这种不完美的匹配,与真实的可信区间相比,用回归方法获得的可信区间可能会膨胀。本章介绍了回归调整的主要概念。本文给出了一个定理,比较了有无回归调整的后验分布的理论性质。最后,回归调整在群体遗传学中的实际应用表明,与拒绝方法相比,回归调整缩小了后验分布,这是一种避免置信区间膨胀的解决方案。
2017-07-05 stat.ME
The Tilted Beta Binomial Linear Regression Model: a Bayesian Approach
本文提出了新的线性回归模型来处理过分散的二项数据集。这些新的模型称为倾斜贝塔二项回归模型,是根据倾斜贝塔二项分布定义的,假设二项分布的参数遵循倾斜β分布。作为这种回归模型的一种特殊情况,我们提出了β矩形二项回归模型,从二项分布定义,假设他们的参数遵循β矩形分布。这些新的线性回归模型,定义假设这些新的分布的参数遵循回归结构,使用贝叶斯方法和OpenBUGS软件进行拟合。建议的回归模型拟合到一个过度分散的二项数据集的种子发芽取决于所选择的种子androot的类型的数量。
2019-11-25 stat.ME
Bayesian Spatial Monotonic Multiple Regression
我们考虑单调,多元回归的一组连续的区域(格子数据)。回归函数在区域之间允许变化,并表现出地理结构。我们开发了新的贝叶斯非参数方法,它允许连续和不连续的功能形状,并估计使用标记点过程和可逆跳马尔可夫链蒙特卡罗技术。地理上的依赖性是由一个灵活的先验分布,参数化允许依赖性随功能水平而变化。该方法使用贝叶斯全局优化和交叉验证进行调整。估计值可用于变量选择、阈值检测和预测以及回归函数的外推。我们的方法的性能和灵活性说明了模拟研究和挪威保险数据集的应用。
2016-05-19 stat.ME
Bayesian Robust Quantile Regression
传统的贝叶斯分位数回归主要依赖于非对称拉普拉斯分布(ALD),因为它具有令人满意的经验和理论性能。然而,ALD显示中等的尾部,它是不适合的数据,其特征在于从高斯假设的强烈偏差。在本文中,我们提出了一个扩展的ALD贝叶斯分位数回归框架,考虑到肥尾使用偏指数功率(SEP)分布。除了将$τ$水平分位数作为参数外,SEP分布还有一个控制尾部衰减的额外关键参数,这使得它对于在不同置信水平下对条件分位数进行鲁棒建模具有吸引力。线性和广义可加模型(GAM)与惩罚样条被认为是在贝叶斯分位数回归的背景下显示SEP的灵活性。在这两种情况下都考虑了Lasso先验,以解决参数空间变宽时的参数收缩问题。为了实现贝叶斯推断,我们提出了一个新的自适应梅特罗波利斯-黑斯廷斯算法在线性模型和自适应Metropolis吉布斯一GAM框架。通过几个基于模拟和真实数据集的例子,提供了所提出的SEP贝叶斯分位数回归方法的统计特性的经验证据。
2016-05-18 stat.ME
Bayesian Group Selection in Logistic Regression with Application to MRI Data Analysis
本文研究协变量为组结构的贝叶斯逻辑斯谛回归模型。在高维环境中,通常假设只有一小部分组是重要的,因此一致的组选择是非常重要的。虽然一致频率论的组选择方法已经被提出,但逻辑斯谛回归模型的贝叶斯组选择方法的理论性质还没有被研究。本文研究了高维环境下逻辑斯谛回归模型的分层组spike和slab先验。在温和的条件下,我们建立了诱导后验的强组选择一致性,这是贝叶斯文献中的第一个理论结果。通过仿真研究,我们证明了所提出的方法的性能优于现有的国家的最先进的方法在各种设置。我们进一步将我们的方法应用于预测帕金森病的MRI数据集,并显示其优于其他竞争者的优势。
2019-12-04 stat.ME
Bayesian Elastic Net Regression with Structured Prior Dependence
The Ohio State University(俄亥俄州立大学)
本文提出了一种具有结构先验依赖的贝叶斯弹性网回归方法,通过正交正态分布和L1正则化g先验提升模型灵活性,并通过模拟和实验验证其有效性。
2025-12-31 stat.ME
Bayesian Markov Switching Tensor Regression for Time-varying Networks
提出了一种新的二值时间序列多维数组(张量)贝叶斯马尔可夫切换回归模型。我们假设一个零膨胀logit回归与时变参数,并将其应用到多层时间网络。原来的贡献是三重的。首先,为了避免过度拟合,我们提出了一个简约的参数化的基础上的低秩分解的张量的回归系数。其次,我们假设参数是由一个隐藏的马尔可夫链,从而允许在网络拓扑结构的变化。我们遵循贝叶斯推理方法,并提供了一个有效的吉布斯采样后验近似。我们将该方法应用于一个真实的金融网络数据集,研究了几个风险因素对边缘概率的影响。本文的补充材料可在网上查阅。
2019-07-03 stat.ME
A Unified Bayesian Nonparametric Framework for Ordinal, Survival, and Density Regression Using the Complementary Log-Log Link
本文提出统一贝叶斯非参数框架,利用互补对数-对数链接解决有序回归、生存分析和密度回归问题,结合贝叶斯加性回归树实现便捷计算并验证理论性质。
2025-02-02 stat.ME
A new Monte Carlo sampling in Bayesian probit regression
本文从贝叶斯的角度研究了概率单位回归问题,并给出了当回归参数的先验分布为均匀分布时的后验分布的另一种形式。这种新的形式允许简单的蒙特卡罗模拟的后,而不是MCMC模拟研究的文献中,因此可能是更有效的计算。我们还提供了第一时刻和第二时刻的替代显式表达式。此外,我们提供类似的结果高斯先验。
2012-03-14 stat.ME
Bayesian Tensor Regression
本文提出了一种贝叶斯回归方法,对向量和张量协变量进行标量响应。张量协变量通常在分析之前被向量化,未能利用张量的结构,导致估计和预测性能差。本文提出了一类新的多元收缩先验,用于张量回归模型的系数。性质进行了描述,包括后验一致性在温和的条件下,和一个有效的马尔可夫链蒙特卡罗算法的后验计算。模拟研究表明,在估计和参数推断方面,向量化或使用现有的张量回归方法有很大的收益。该方法在神经成像应用中进一步说明。保留字:降维;多路收缩优先;磁共振成像; parafac分解;后验一致性;张量回归
2015-09-22 stat.ME
Bayesian Projection Pursuit Regression
在投影寻踪回归(PPR)中,未知响应函数由M个“脊函数”的和来近似,所述脊函数是多变量输入空间的一维投影的灵活函数。传统上,优化例程用于经由顺序算法来估计投影方向和脊函数,并且M通常经由交叉验证来选择。我们介绍了第一个贝叶斯版本的PPR,它具有准确的不确定性量化的好处。为了学习投影方向和脊函数,我们应用了用于单脊函数情况(M=1)的新方法,称为单指数模型,贝叶斯实现确实存在;然后使用可逆跳MCMC来学习脊函数M的数量。我们评估了我们的模型在20个模拟场景和23个真实数据集中的预测能力,并与一系列最先进的回归方法进行了对比。它的有效性能表明贝叶斯投影寻踪回归是对现有回归工具箱的一个有价值的补充。
2022-10-17 stat.ME
Robust Bayesian Nonparametric Variable Selection for Linear Regression
钉板和马蹄回归可以说是最流行的贝叶斯变量选择方法的线性回归模型。然而,如果数据中存在离群值和异方差,则其性能可能会恶化,这是许多现实世界统计和机器学习应用中的常见特征。在这项工作中,我们提出了一个贝叶斯非参数方法线性回归,执行变量选择,同时考虑离群值和异方差。我们提出的模型是一个狄利克雷过程尺度混合模型的优点,我们可以得到完整的条件分布的所有参数在封闭的形式,从而产生一个有效的吉布斯采样后验推理的一个实例。此外,我们提出了如何扩展模型,以考虑重尾的响应变量。该模型的性能进行了测试,对竞争算法的合成和真实世界的数据集。
2022-10-19 stat.ME
A Bayesian Nonparametric Causal Model for Regression Discontinuity Designs
对于非随机化研究,在相对温和的条件下,回归不连续设计(RDD)可用于识别和估计“局部随机化”受试者亚组的因果效应。然而,当前模型通过线性回归将因果推断集中在治疗(与非治疗)变量对因变量均值的影响上。对于RDD,我们提出了一个灵活的贝叶斯非参数回归模型,可以提供准确的估计因果关系的影响,在预测均值,方差,分位数,概率密度,分布函数,或任何其他选择的功能的结果变量。我们通过两个真实的教育数据集的分析来说明该模型,涉及(分别)一个清晰的RDD和一个模糊的RDD。
2015-02-11 stat.ME
On Bayesian quantile regression and outliers
在这项工作中,我们讨论了贝叶斯分位数回归模型的进展,因为他们的第一个建议,我们讨论了所有参数的重要性,在推理过程中。使用的非对称拉普拉斯分布作为一个正常的和一个指数分布的混合物的表示,我们讨论的相关性的尺度参数的存在,以控制模型中的方差。除此之外,我们还考虑了混合表示中潜在变量的后验分布,以显示贝叶斯分位数回归拟合的离群观测值,其中我们将每个潜在变量的后验分布与其他潜在变量进行比较。我们说明了这些结果与模拟研究,并与数据有关的基尼系数在巴西各州的人口普查信息。
2016-01-27 stat.ME
Bayesian Fused Lasso Modeling via Horseshoe Prior
贝叶斯融合套索方法是一种稀疏贝叶斯方法,它同时收缩回归系数和它们的连续差。在本文中,我们提出了一个贝叶斯融合套索模型通过马蹄先验。通过假设连续回归系数的差异具有马蹄形先验,所提出的方法使我们能够防止这些差异的过度收缩。我们还提出了一个贝叶斯六边形算子的回归收缩和平等的选择(HORSES)与马蹄事先,它对所有组合的差异回归系数的先验。仿真研究和实际数据的应用表明,所提出的方法比现有的方法有更好的性能。
2022-01-20 stat.ME
Bayesian Neural Tree Models for Nonparametric Regression
本研究针对非参数回归问题,提出融合贝叶斯与频率学派方法的贝叶斯神经树(BNT)模型,该模型参数量少、可同步特征选择与预测,在小样本下泛化性好,还推导了最优参数并通过真实数据集验证。
2020-07-27 stat.ME
Bayesian Geoadditive Expectile Regression
在过去的几年里,回归类建模超过响应的平均值已经引起了很多关注。期望回归是这类模型的一个特殊的、计算方便的例子。期望值提供了完全分布的分位数特征,并将均值作为特例。在频率论框架下,许多具有非常不同结构的协变量的影响已经成为可能。提出了基于非对称正态分布的贝叶斯期望回归方法。这使得在一个模型中结合例如线性、非线性、空间和随机效应成为可能。此外,可以对估计的参数进行详细的推断。提出了基于迭代加权最小二乘更新的马尔可夫链蒙特卡罗(MCMC)模拟算法的建议密度,并讨论了该方法对复杂半参数回归规范的灵活性扩展的潜力。
2013-12-18 stat.ME
Bayesian Analysis on Limiting the Student-$t$ Linear Regression Model
针对线性回归中异常值处理时Student-$t$模型应用缺乏理论支撑的问题,本研究基于正则变化理论提出了保证该模型对y方向异常值稳健性的实用简洁条件。
2025-10-03 stat.ME
Log-Linear Bayesian Additive Regression Trees for Multinomial Logistic and Count Regression Models
本文介绍了对数线性模型的贝叶斯加性回归树(BART),包括多项逻辑斯谛回归和计数回归,其中包含零膨胀和过度离差。BART已被应用于非参数均值回归和二进制分类问题在一系列的设置。然而,现有的应用程序的BART已被限制为高斯“数据”,无论是观察到的或潜在的模型。这主要是因为有效的MCMC算法可用于高斯似然。但是,虽然许多有用的模型是自然铸造的潜在高斯变量,许多其他人不是-包括本文考虑的模型。我们开发了新的数据增强策略,并仔细指定这些新模型的先验分布。像原来的BART先验一样,新的先验分布经过精心构造和校准,在防止过拟合的同时具有灵活性。新的先验和数据增强方案使我们能够在高斯模型的背景之外实现一个有效的MCMC采样器。这些新方法的效用说明了与以前公布的数据集的例子和应用程序。
2019-08-26 stat.ME
Projection-pursuit Bayesian regression for symmetric matrix predictors
本文提出一种针对对称矩阵预测变量的贝叶斯多指标回归方法,利用投影寻踪结构并施加稀疏先验,通过贝叶斯回拟进行推断,在模拟和脑连接数据案例中验证了有效性。
2024-07-18 stat.ME
A Bayesian Semi-Parametric Scalar-On-Function Quantile Regression with Measurement Error using the GAL
分位数回归提供了一种一致的方法来研究协变量与超出平均值的响应分布的各个方面之间的关联。当回归协变量测量有误差时,需要测量误差(ME)调整步骤以进行有效推断。这对于标量协变量和函数协变量都是正确的。在这里,我们建议扩展贝叶斯测量误差和贝叶斯分位数回归文献,以允许可用的协变量倾向于潜在的复杂测量误差。我们的方法使用广义非对称拉普拉斯(GAL)分布作为工作可能性。GAL分布族是贝叶斯分位数回归建模中一个比非对称拉普拉斯分布族更灵活的分布族。然后,我们通过一系列模拟场景,在ME调整步骤中比较和对比了两种方法。最后,我们将我们的方法应用于2013-2014年NHANES数据集的分析,以将体重指数(BMI)的分位数建模为50岁及以上成年人队列中分钟级基于设备的身体活动的函数。
2023-02-07 stat.ME
Scalable Bayesian nonparametric regression via a Plackett-Luce model for conditional ranks
我们提出了一种新的贝叶斯非参数回归模型的协变量X和连续的,真正的响应变量Y。该模型根据Y和X的边缘分布以及调整条件分布F(y)的随机排序的回归函数进行参数化|x)。通过采用近似的复合似然方法,我们表明,由此产生的后验推理可以解耦的模型的单独组件。该过程可以扩展到非常大的数据集,并允许使用来自贝叶斯非参数密度估计和Plackett-Luce排名估计的标准现有软件。作为一个例子,我们展示了我们的方法在美国人口普查数据集上的应用,该数据集有超过130万个数据点和100多个协变量。
2015-06-24 stat.ME
Density Regression with Bayesian Additive Regression Trees
对整个密度如何随协变量变化进行建模是均值和分位数回归的重要但具有挑战性的推广。现有的密度回归方法主要包括协变量依赖的离散混合模型,我们考虑了一个连续的潜变量模型,我们称之为DR-BART。通过贝叶斯加性回归树(BART)的一个新的应用构建的先验映射的潜变量的观察数据。我们证明了我们的模型引起的后验集中在足够光滑的真实生成函数周围。我们还分析了DR-BART在一组具有挑战性的模拟示例上的性能,在这些示例中,它优于贝叶斯密度回归的各种其他方法。最后,我们将DR-BART应用于来自教育测试和经济学的两个真实数据集,以研究学生的成长并预测教育回报。我们提出的采样器是有效的,并允许一个利用巴士的灵活性,在许多应用设置的整个分布的响应是主要的利益。此外,我们的计划在BART内的潜变量的分裂有利于其未来的应用程序,可以通过潜变量,如涉及层次或时间序列数据描述的其他类别的模型。
2021-12-22 stat.ME
Bayesian Model Selection for Misspecified Models in Linear Regression
虽然贝叶斯信息准则(BIC)和赤池信息准则(AIC)是线性回归中模型选择的强大工具,但它们建立在不同的先验假设上,因此适用于不同的数据生成场景。我们表明,在有限维的情况下,他们各自的假设可以统一在一个增广的模型加噪声空间,并在这个空间中构建一个先验继承了AIC和BIC的有益特性。这使我们能够调整BIC,使其对信噪比较低的错误指定模型具有鲁棒性。
2017-12-14 stat.ME
Bayesian correction for covariate measurement error: a frequentist evaluation and comparison with regression calibration
处理协变量测量误差的贝叶斯方法已经很成熟,但可以说研究人员仍然很少使用。对于一些人来说,这可能是由于不熟悉或不同意贝叶斯推理范式。对其他人来说,一个促成因素是标准统计软件包无法进行这种贝叶斯分析。在本文中,我们首先给出了一个概述的贝叶斯方法来处理协变量测量误差,并将其与回归校准(RC),可以说是最常用的方法。然后,我们认为,为什么贝叶斯方法有一些统计优势相比,RC,并证明,实施贝叶斯方法通常是相当可行的分析。接下来,我们描述了密切相关的极大似然和多重插补方法,并解释了为什么我们认为贝叶斯方法通常是更可取的。然后,我们经验比较RC和贝叶斯方法,通过模拟研究的频率属性。贝叶斯方法的灵活性,以处理测量误差和缺失数据,然后说明通过分析数据从第三次全国健康和营养检查调查。
2016-03-20 stat.ME
A Nonparametric Bayesian Technique for High-Dimensional Regression
本文提出了一个非参数贝叶斯框架称为VariScan的同时聚类,变量选择和预测在高通量回归设置。Poisson-Dirichlet过程用于检测协变量的低维潜在聚类。为响应构造了自适应非线性预测模型,实现了模型简约性和灵活性之间的平衡。与传统的信念相反,集群检测显示为后验一致的一般类的模型的协变量和主题的数量的增长。仿真研究和数据分析表明,VariScan往往优于几个著名的统计方法。
2016-04-12 stat.ME
Bayesian Additive Regression Trees With Parametric Models of Heteroskedasticity
我们将异方差贝叶斯加性回归树(BART)建模的误差方差参数的对数作为一个线性函数的预先指定的协变量。在该方案下,原始树和模型的吉布斯抽样过程很容易修改,方差模型的参数通过Metropolis-Hastings步骤更新。我们证明了我们的方法的承诺,提供更适当的后验预测区间比homoskedastic BART在异方差设置,并证明了该模型的抗过拟合。我们的实现将在即将发布的R包bartMachine中提供。
2014-02-21 stat.ME
From bilinear regression to inductive matrix completion: a quasi-Bayesian analysis
本文研究了双线性回归问题,并进一步讨论了当响应矩阵中含有缺失数据时的归纳矩阵完备化问题。我们提出了一个准贝叶斯方法首先对问题的双线性回归的准似然。然后,我们将这种方法应用于归纳矩阵完备化的背景。在低秩假设和利用PAC-Bayes界技术,我们提供了我们提出的估计和准后验的统计特性。我们提出了一个朗之万蒙特卡罗方法来近似计算所提出的估计。一些数值研究进行了证明我们的方法。
2022-10-27 stat.ME
On The Sparse Bayesian Learning Of Linear Models
本文对Tipping(2001)的线性回归模型的稀疏贝叶斯学习(SBL)在高维环境下进行了重新检验。我们提出了一个硬阈值版本的SBL估计,实现,正交设计矩阵,非渐近估计误差率的$σ\sqrt{s\log p}/\sqrt{n}$,其中$n$是样本量,$p$回归变量的数量,$σ$是回归模型的标准差,和$s$的非零回归系数的数量。我们还建立了高概率的估计识别非零回归系数。在我们的模拟中,我们发现当要恢复的信号很强时,稀疏贝叶斯学习回归的性能优于套索(Tibshirani(1996))。
2015-02-11 stat.ME
A New Family of Error Distributions for Bayesian Quantile Regression
我们为基于模型的分位数回归提出了一系列新的误差分布,该分布是通过正态分布的结构化混合构造的。该构造使得能够固定分布的特定顶点,同时允许变化的模式、偏度和尾部行为。因此,它克服了非对称拉普拉斯分布的严重限制-参数分位数回归最常用的误差模型-其中,当特定百分位数固定时,误差密度的偏度完全指定。我们提出了一个贝叶斯公式的建议分位数回归模型,包括条件套索正则化的分位数回归的基础上的分层拉普拉斯先验的回归系数,和Tobit分位数回归模型。后验推理通过马尔可夫链蒙特卡罗方法实现。通过模型的相关性质研究了新模型相对于非对称Laplace分布的灵活性,并通过模拟实验比较了正则化分位数回归中两种误差分布。此外,线性分位数回归,正则化分位数回归和Tobit分位数回归的模型性能与数据的例子,以前已经考虑在文献中说明。
2017-02-09 stat.ME
Bayesian Endogenous Tobit Quantile Regression
本研究提出$p$ -th Tobit分位数回归模型,并加入内生变数.在内生变量对外生变量的第一阶段回归中,引入了误差项的第$α$分位数为零的假设。然后,将该回归模型的残差包含在第$p$分位数回归模型中,以使新误差项的第$p$条件分位数为零。第一阶段回归的误差分布模型周围的零$α$ -th分位数的假设,通过使用参数和半参数的方法。由于$α$的值是先验未知的,因此将其视为附加参数,并根据数据进行估计。然后,通过使用模拟数据和实际数据的已婚妇女的劳动力供应的建议模型进行了演示。
2015-12-05 stat.ME
GS-BART: Bayesian Additive Regression Trees with Graph-split Decision Rules
GS-BART提出一种基于图分裂规则的贝叶斯加性决策树方法,通过编码图拓扑信息并设计可扩展MCMC算法,在空间和网络数据回归与分类中优于传统集成树和高斯过程模型。
2025-09-08 stat.ME
Bayesian Tensor-on-Tensor Regression with Efficient Computation
我们提出了一种贝叶斯张量对张量回归方法来预测一个多维数组(张量)的任意尺寸从另一张量的任意尺寸,建立在塔克分解的回归系数张量。利用Tucker分解的传统张量回归方法要么假设核心张量的维度是已知的,要么通过交叉验证或一些模型选择标准来估计它。然而,没有现有的方法可以同时估计模型维数(核张量的维数)和其他模型参数。为了填补这一空白,我们开发了一个有效的马尔可夫链蒙特卡罗(MCMC)算法来估计模型的维数和参数的后验推理。除了MCMC采样器,我们还开发了一种基于超快速优化的计算算法,其中计算参数的最大后验估计,并通过模拟退火算法优化模型维数。贝叶斯框架为不确定性量化提供了一种自然的方法。通过广泛的模拟研究,我们评估了所提出的贝叶斯张量张量回归模型,并显示其优越的性能相比,替代方法。我们还通过将其应用于两个真实世界的数据集,包括面部成像数据和3D运动数据,证明了它的实际有效性。
2022-10-20 stat.ME
Bayesian Quantile Regression for Ordinal Models
本文介绍了一元有序模型中分位数回归的贝叶斯估计方法。两个算法,利用潜在变量推理框架的阿尔伯特和Chib(1993年)和正常指数混合表示的非对称拉普拉斯分布。估计使用马尔可夫链蒙特卡罗模拟-吉布斯采样与梅特罗波利斯-黑斯廷斯算法或仅吉布斯抽样。该算法在两个模拟研究和实施的问题,在经济学(教育程度)和政治经济学(公众舆论延长“布什税”削减)的分析。模型比较的研究证明了分位数序模型的实用性。
2022-09-29 stat.ME
Regression-Based Bayesian Estimation and Structure Learning for Nonparanormal Graphical Models
非超常图模型是高斯图模型的半参数推广,其中假设变量仅在某些未知的平滑单调变换后才遵循高斯图模型。我们认为贝叶斯方法推理的非超自然图形模型,我们把先验的未知变换通过一个随机序列的基础上B-样条。我们使用一个回归公式来构建的可能性,通过Cholesky分解的转换变量的基础精度矩阵,并把收缩先验的回归系数。我们应用一个插件变分贝叶斯算法学习稀疏精度矩阵和性能比较后吉布斯抽样计划在模拟研究。最后,我们将所提出的方法应用到一个真实的数据集。关键词:
2021-02-20 stat.ME
A Latent-Variable Bayesian Nonparametric Regression Model
本文介绍了贝叶斯非参数回归的一个随机划分模型。该模型是基于无限多的不相交区域的范围内的潜在协变量依赖的高斯过程。给定该过程的实现,共享公共区域的因变量响应的集群被假设为来自相同的分布。而且,潜在的高斯过程先验允许随机划分(即,观察的集群)以展示彼此之间的依赖性。该模型通过对教育产生的真实数据集的分析,以及通过对从复杂的数据生成模型生成的模拟数据的分析来说明。
2013-01-02 stat.ME
Bayesian Regression for a Dirichlet Distributed Response using Stan
对于由总和为1的正值集合或向量组成的观察到的响应,狄利克雷分布(Bol'shev,2018)是量化该过程背后的数据生成机制的有用数学构造。在应用中,这些响应集通常表示为比例或比例的组合,并且通过协变量,人们希望通过这些协变量的值的变化来表现潜在的信号,从而导致不同分布的响应组合。本文简要介绍了这类回归模型,并基于最近开发的公式(Maier,2014),说明了在贝叶斯推断框架Stan中的实现。
2018-08-20 stat.ME
Regularizing Bayesian Predictive Regressions
我们表明,正则化贝叶斯预测回归提供了一个框架,事先敏感性分析。我们开发了一个程序,联合正则化的期望和方差-协方差阵使用一对收缩先验。我们的方法直接适用于向量自回归(VAR)和看似无关回归(SUR)。正则化路径提供先验灵敏度诊断。通过利用正则化惩罚和预测先验分布之间的二元性,我们重新解释了宏观金融研究的两个经典贝叶斯分析:股票溢价可预测性和预测宏观经济增长率。我们发现,存在合理的先验规范的可预测性超过标准普尔500指数收益率使用账面市值比,CAY(消费,财富,收入比),和国库券利率。我们使用市场时机策略评估预测,我们表明最佳正则化的解决方案优于买入并持有的方法。第二个实证应用涉及预测工业生产,通货膨胀和消费增长率,并证明了我们的方法的可行性。
2017-09-13 stat.ME
Estimating Shapley Effects in Big-Data Emulation and Regression Settings using Bayesian Additive Regression Trees
本文提出一种基于贝叶斯加性回归树的Shapley效应估计器,适用于高维(数百维)非参数回归,并给出后验一致性理论保证及多维度测试验证。
2025-05-24 stat.ME
Influential Observations in Bayesian Regression Tree Models
本文研究了BCART和BART等贝叶斯回归树模型中影响观测的检测与预测调整问题,提出了三种检测诊断方法及一种重要性抽样算法来消除影响数据的作用,并在真实数据上验证了方法的有效性。
2023-05-17 stat.ME
Bayesian density regression for count data
尽管连续响应的分位数回归模型越来越受欢迎,但计数数据的模型迄今为止很少受到关注。用于计数数据的主要分位数回归技术涉及添加均匀随机噪声或“抖动”,从而克服条件分位数函数不是感兴趣的参数的连续函数的问题。虽然抖动允许估计条件分位数,但其缺点是,对于响应变量$Y,$的小值,添加的噪声可能对估计的分位数具有较大的影响。此外,分位数回归可导致“交叉”分位数。提出了一种基于贝叶斯Dirichlet过程(DP)的计数数据分位数回归方法.该方法基于COM-Poisson回归模型的自适应DP混合(DPM),并通过估计数据密度来确定分位数,从而消除了所有上述问题。利用交换算法,建议MCMC算法可以应用于分布上的可能性只能计算到一个归一化常数。
2014-06-07 stat.ME