Bayesian Adaptive Lasso with Variational Bayes for Variable Selection in High-dimensional Generalized Linear Mixed Models
本文介绍了一个完整的贝叶斯处理同时固定效应选择和参数估计的高维广义线性混合模型。该方法包括使用贝叶斯自适应Lasso惩罚信号级自适应收缩和快速变分贝叶斯方案估计后验模式的系数。与现有的方法相比,该方法具有自适应收缩参数的自动加入,不需要拉普拉斯近似步骤来积分出随机效应等优点。几个模拟和真实数据的例子说明了我们的方法的性能。该算法在R软件包glmmvb中实现,并可在线使用。
2016-08-30 stat.ME
Semi-parametric Bayesian variable selection for gene-environment interactions
已知许多复杂疾病受到遗传变异和环境暴露之间的相互作用的影响,而不仅仅是主要的遗传和环境影响。基因-环境(G $\times$ E)相互作用的研究对于阐明疾病的病因是重要的。现有的贝叶斯方法G $\times$ E相互作用的研究受到挑战的高维性质的研究和复杂的环境影响。许多研究表明,惩罚方法在检测“大p,小n”设置中的G $\times$ E相互作用方面具有优势。然而,贝叶斯变量选择,可以提供新的见解G $\times$ E研究,尚未得到广泛的研究。我们提出了一个新的和强大的半参数贝叶斯变量选择模型,可以同时调查线性和非线性的G $\times$ E相互作用。此外,所提出的方法可以进行结构识别,区分非线性相互作用的情况下,只有主效应的贝叶斯框架。尖峰和平板先验被纳入个人和组水平,以确定稀疏的主要和相互作用的影响。所提出的方法进行贝叶斯变量选择比现有的方法更有效。仿真结果表明,所提出的模型优于竞争的替代品的识别和预测。提出的贝叶斯方法导致识别的主要和相互作用的影响具有重要意义的高通量分析研究与高维SNP数据。
2019-09-27 stat.ME
A Graphical View of Bayesian Variable Selection
近年来,基于网络信息的Ising先验对于“入”或“出”二元随机变量的贝叶斯变量选择问题受到了越来越多的关注。在本文中,我们发现,即使没有信息先验的贝叶斯变量选择问题本身可以被认为是一个完整的图和描述的伊辛模型与随机相互作用。将变量选择作为图模型处理有许多优点,如易于采用单点更新和聚类更新算法,适用于小样本量和大变量数的问题,在贝叶斯变量选择伊辛模型中,交互作用由线性模型决定,而非线性模型中的交互作用由线性模型决定因此,我们采用全局-局部收缩策略,系统地研究了模型系数的不同尺度正态混合先验的性能。我们的研究结果证明,在变量选择方面的模型系数的最佳先验应保持小收缩,而不是大收缩的重要性。我们还讨论了伊辛模型的回火算法和全局-局部收缩方法之间的联系,表明收缩参数起着回火作用。用模拟数据和实际数据说明了该方法。
2012-06-13 stat.ME
Bayesian MI-LASSO for Variable Selection on Multiply-Imputed Data
Department of Biostatistics, Columbia University(哥伦比亚大学生物统计系);Department of Statistics, Rutgers University(罗格斯大学统计系)
针对多重插补数据变量选择不一致问题,提出四种贝叶斯MI-LASSO模型及四步投影预测选择程序,模拟显示优于现有方法,并提供了R包BMIselect。
2026-11-06 stat.ME
Robust Bayesian variable selection for gene-environment interactions
基因-环境(G $\times$ E)相互作用对阐明主要遗传和环境效应之外的复杂疾病的病因具有重要意义。在G $\times$ E研究的疾病表型中经常遇到异常值和数据污染,这导致了广泛的鲁棒正则化方法的发展。然而,在贝叶斯框架内,这个问题还没有得到照顾,在现有的研究。我们开发了一个完全贝叶斯稳健的变量选择方法G $\times$ E相互作用的研究。所提出的贝叶斯方法可以有效地容纳重尾误差和离群值的响应变量,同时进行变量选择,占结构稀疏。特别是,对于强大的稀疏组选择,穗和板先验已被施加在个人和组的水平,以确定重要的主要和相互作用的影响。一个有效的吉布斯采样器已被开发,以促进快速计算。对来自护士健康研究的具有SNP测量的糖尿病数据和具有基因表达测量的TCGA黑色素瘤数据的广泛模拟研究和分析表明,所提出的方法优于多个竞争替代方案。
2020-06-09 stat.ME
Fully Bayesian Estimation and Variable Selection in Partially Linear Wavelet Models
在本文中,我们提出了一个基于小波的方法估计和变量选择的部分线性模型。推理是在小波域中进行的,它提供了一个稀疏和本地化的分解,适合具有不同程度的平滑度的非参数分量。一个分层贝叶斯模型制定的参数,这种表示,其中的估计和变量选择是由一个吉布斯抽样程序。对于模型的参数和非参数部分,我们使用具有双指数扩散分布的零污染点质量先验。部分线性小波模型领域只有少数论文存在,我们表明,所提出的方法往往优于现有的方法估计模型参数的任务。此外,该方法能够通过对模型的参数部分进行随机搜索来执行贝叶斯变量选择。
2016-09-23 stat.ME
Multivariate Bayesian variable selection with application to multi-trait genetic fine mapping
针对多个相关且异质响应的变量选择问题,提出一种结合分组结构、多层次选择和先验生物知识的多元贝叶斯方法,并用于多性状遗传精细定位。
2024-03-01 stat.ME
Bayesian Variable Selection for Linear Regression with the $κ$-$G$ Priors
在本文中,我们介绍了一种新的方法,贝叶斯变量选择的线性回归,是独立于传统的指标方法。对角矩阵$\mathbf{G}$被引入到系数向量$\boldsymbolβ$的先验中,其中在对角线上的限定在$0$和$1$之间的每个$g_j$用作对应的$β_j$的稳定器。在数学上,有希望的变量具有接近于$0$的$g_j$值,而对应于无希望的变量的$g_j$的值接近于$1$。本文在正交性下证明了这一性质以及其它渐近性质。在计算上,每个$g_j$的样本路径通过Metropolis-within- Gibbs抽样方法获得。此外,在本文中,我们给出了两个模拟来验证这种方法的能力,在变量选择。
2016-10-18 stat.ME
Variable Selection Using Bayesian Additive Regression Trees
变量选择是一个重要的统计问题。当候选预测变量是混合类型(例如连续和二进制)并且以非线性和/或非加性方式影响响应变量时,该问题变得更具挑战性。在本文中,我们回顾了现有的变量选择方法的贝叶斯加性回归树(BART)模型,非参数回归模型,这是足够灵活,以捕捉预测和非线性关系的响应之间的相互作用。本次审查的重点是识别相关预测因子的能力。我们还提出了两个变量的重要性措施,可用于在一个基于置换的变量选择方法,和一个向后的变量选择程序的BART。我们目前的模拟表明,我们的方法表现出改善的性能方面的能力,恢复所有相关的预测在各种数据设置,相比现有的基于BART的变量选择方法。
2021-12-28 stat.AP stat.ME
Stochastic Search Variable Selection for Bayesian Generalized Linear Mixed Effect Models
本文将 Yang 等(2020)面向线性混合模型的 SSVS 方法扩展至贝叶斯 GLMMs,以联合选择固定效应与随机效应,并通过模拟与真实数据验证其有效性及超参数影响。
2024-12-02 stat.AP stat.ME
A Bayesian Bi-Directional Splitting Framework for Variable Selection in Large Datasets
School of Mathematics and Statistics, University of Glasgow(格拉斯哥大学数学与统计学院)
提出一种贝叶斯双向分割框架,通过分而治之并行处理大规模数据,在保持变量选择性能的同时提升计算效率,并应用于H3N2流感数据。
2026-09-18 stat.CO stat.ME
Bayesian Variable Selection for Function-on-Scalar Regression Models: a comparative analysis
University of Western Ontario(韦仕敦大学);University of Campinas(坎皮纳斯州立大学);Federal University of Paraná(巴拉那联邦大学)
本文提出了一种新的贝叶斯变量选择方法,用于函数-标量回归模型,通过层次贝叶斯结构和潜在变量实现自适应协变量选择,通过模拟研究和实证分析验证了其在变量选择和模型拟合方面的优越性。
2026-03-29 stat.CO stat.ME
Fast Bayesian Variable Selection in Binomial and Negative Binomial Regression
贝叶斯变量选择是数据分析的一个强大工具,因为它提供了一种考虑先验信息和不确定性的变量选择原则性方法。然而,贝叶斯变量选择的广泛采用受到计算挑战的阻碍,特别是在具有大量协变量或非共轭似然的困难制度中。计数数据的广义线性模型在生物学、生态学、经济学等领域中很普遍,它是一个重要的特例。在这里,我们介绍了一种有效的MCMC方案,用于二项式和负二项式回归中的变量选择,该方案利用了Tempered吉布斯抽样(Zanella and Roberts,2019),并将逻辑斯谛回归作为特例。在实验中,我们证明了我们的方法的有效性,包括癌症数据与一万七千协变量。
2022-09-12 stat.CO stat.ME stat.ML
Scalable Bayesian bi-level variable selection in generalized linear models
受心脏病学中的实际应用的启发,我们开发了一种算法,用于在广义线性模型中执行贝叶斯双水平变量选择,用于可能在个体数量和预测因子数量方面都很大的数据集。我们的算法依赖于Dau和Chopin(2022)的无浪费SMC序贯蒙特卡罗方法,这是一种新的建议机制,用于处理特定于双层选择的约束(如果其组未被选中,则禁止选择单个预测因子),以及Rossell等人(2021)的ALA(近似拉普拉斯近似)方法。我们在数值研究中表明,该算法可以在几分钟内在大型数据集上提供可靠的性能,包括与上述心脏病学应用相关的模拟数据和真实数据。
2023-03-22 stat.CO stat.ME
Bayesian Variable Selection in Multivariate Nonlinear Regression with Graph Structures
高斯图模型(GGM)是使用精度矩阵进行依赖结构概率探索的成熟工具。我们开发了一种贝叶斯方法,将协变量信息在这个GGM设置在一个非线性看似无关的回归框架。我们提出了一个联合预测器和图选择模型,并开发了一个有效的折叠吉布斯采样算法来搜索联合模型空间。此外,我们研究了它的理论变量选择性质。我们证明了我们的方法对各种模拟数据,最后从TCPA项目的真实数据集。
2021-07-31 math.ST stat.ME stat.TH
Bayesian variable selection using an informed reversible jump in imaging genetics: an application to schizophrenia
针对影像遗传学精神分裂症风险评估,本文为可逆跳MCMC贝叶斯变量选择提出数据驱动的知情提议,并用贝叶斯probit模型与模型平均实现判别变量选择和风险预测。
2025-01-10 stat.AP stat.CO stat.ME
An exploration of sequential Bayesian variable selection -- A comment on García-Donato et al. (2025). "Model uncertainty and missing data: An objective Bayesian perspective"
Centrum Wiskunde & Informatica(数学与计算机科学中心)
本文针对含缺失数据的客观贝叶斯模型不确定性方法,提出在数据序贯累积场景下引入序贯模型置信集进行变量选择,以实现持续证据监测并稳定推断。
2025-09-30 math.ST stat.ME stat.TH
An Automatic Relevance Determination Prior Bayesian Neural Network for Controlled Variable Selection
University of Johannesburg(约翰内斯堡大学)
我们提出了一个自动相关性确定先验贝叶斯神经网络(BNN-ARD)的权重l2范数测量作为模型x敲除过滤器的特征重要性统计。我们在模拟数据和挪威风电场数据集上表明,相对于现实世界数据集上的变量选择能力和预测性能,所提出的特征重要性统计量在统计上都有显着改善。
2020-01-06 cs.LG stat.ML
Bayesian Variable Selection and Estimation for Group Lasso
本文重新访问贝叶斯群体套索,并使用穗和板坯先验组变量选择。在这个过程中,我们的模型与惩罚回归的连接被证明,并指出后中值阈值的作用。证明了在正交设计下,后验中位数估计对组变量的选择和估计具有预言性质,而当变量选择达到一致时,组Lasso估计具有次优的渐近估计率.接下来,我们考虑两个层次的选择问题,并提出了贝叶斯稀疏组选择再次与穗和板坯先验选择变量在组水平和组内。我们通过模拟证明,我们的尖峰和平板模型的后验中值估计具有优良的性能,无论是变量的选择和估计。
2015-12-03 math.ST stat.TH
Bayesian Variable Selection For Survival Data Using Inverse Moment Priors
在高维癌症基因组研究中,有效的变量选择对于发现与特定癌症类型相关的基因和预测对治疗的反应至关重要。删失生存数据在此类研究中很普遍。在这篇文章中,我们介绍了一个贝叶斯变量选择过程,使用的混合物前组成的点质量在零和逆矩前与部分似然定义的Cox比例风险模型。该过程在R包BVSNLP中实现,该包支持并行计算,并使用随机搜索方法来探索模型空间。贝叶斯模型平均用于预测。该算法提供了更好的性能比其他变量选择程序在模拟研究中,并出现提供更一致的变量选择时,应用到实际的基因组数据集。
2020-03-14 stat.AP stat.CO
Variable selection in multivariate regression model for spatially dependent data
本文研究空间网格数据下多变量线性回归模型的变量选择问题,提出基于双参数准则的估计量,证明其一致性,并通过模拟验证有限样本表现。
2023-05-22 math.ST stat.TH
A shrinkage-thresholding Metropolis adjusted Langevin algorithm for Bayesian variable selection
本文介绍了一种新的马尔可夫链蒙特卡罗方法,用于高维环境下贝叶斯变量的选择。该算法是一个黑斯廷斯-大都会采样器的建议机制,它结合了大都会调整的朗之万(MALA)的步骤,提出与收缩阈值的步骤,允许提出新的模型相关联的局部移动。证明了这种新的跨维马尔可夫链Monte Carlo采样器的几何遍历性。一个广泛的数值实验,模拟和真实的数据,提出了一些更经典的跨维算法相比,说明所提出的算法的性能。
2015-09-11 math.ST stat.TH
Bayesian variable selection with spherically symmetric priors
我们建议,贝叶斯变量选择的线性参数化与高斯iid似然的对角化参数空间的球对称性的基础上。我们的r先验结果在封闭形式的证据的四个例子,包括超g先验和Zellner-Siow先验,这是特殊情况。一个单一的可变的色散参数和固定的色散的情况下进行了研究,并渐近形式可比的传统的信息准则。模拟实验表明,基于我们的r-先验模型比较给出了良好的结果,可比或优于当前的模型比较方案。
2015-12-10 math.ST physics.data-an stat.TH
Subsampling MCMC for Bayesian Variable Selection and Model Averaging in BGNLM
本文提出将GMJMCMC与S-IRLS-SGD算法结合,通过子采样估计边际似然,使贝叶斯非线性模型能处理高维数据。
2023-12-28 stat.CO
A Bayesian Framework for Extrapolative Emulation of Spatially Gridded Simulation Data
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
该研究针对空间网格化模拟数据跨分辨率外推问题,提出贝叶斯模拟器,将像素视为遵循非线性曲线并通过高斯过程先验连接,在合成实验及辐射流体动力学示例中表现良好,可为高保真行为研究提供统计工具。
2026-07-24 stat.ME
Bayesian Inference of Spatially Varying Correlations via the Thresholded Correlation Gaussian Process
针对多模态神经影像学中两种成像模态关联的脑区识别问题,提出基于阈值化相关高斯过程(TCGP)的贝叶斯非参数模型,确保空间相关性的分段平滑、稀疏和跳跃性,在小样本或低信噪比下适用,通过理论分析和实验验证了方法有效性。
2024-11-27 stat.ME
Variable Selection in Bayesian Semiparametric Regression Models
本文扩展了现有的用于高斯过程回归中变量选择的贝叶斯方法,以选择空间相关结构中的回归项和活动协变量。然后,我们使用估计的后验概率通过交叉验证在相对较少的模式之间进行选择,从而提高预测。
2014-12-31 stat.ME
Decoupling shrinkage and selection in Bayesian linear models: a posterior summary perspective
为线性模型选择变量子集仍然是一个活跃的研究领域。本文回顾了许多最近的贡献贝叶斯模型选择和收缩先前的文献。提出了一种后验变量选择方法,该方法将回归系数的后验分布提取为稀疏线性预测变量序列。
2014-08-03 stat.ME
A discussion of "Bayesian model selection based on proper scoring rules" by A.P. Dawid and M. Musio
本文是对A.P. Dawid和M. Musio,出现在贝叶斯分析中。虽然赞赏背后的概念使用适当的评分规则,包括不适当的先验知识,我们在这里指出一些可能的实际困难与提倡的方法。
2015-02-26 stat.ME
A Variational Inference method for Bayesian variable selection
变量选择是统计学中的一个经典问题。在本文中,我们考虑了Ročková和George(2014)提出的基于混合正态分布的spike-and-slab先验的贝叶斯变量选择问题。受Ormerod和You(2017,2023)的启发,我们使用变分推断和折叠变分推断方法来解决贝叶斯问题,而不是MCMC。与Ormerod and You(2017,2023)一样,我们也解释了稀疏估计是如何被导出的,并且在某些温和的假设下,我们还证明了一致和渐近的结果。
2023-03-07 stat.ME
Bayesian Group Selection in Logistic Regression with Application to MRI Data Analysis
本文研究协变量为组结构的贝叶斯逻辑斯谛回归模型。在高维环境中,通常假设只有一小部分组是重要的,因此一致的组选择是非常重要的。虽然一致频率论的组选择方法已经被提出,但逻辑斯谛回归模型的贝叶斯组选择方法的理论性质还没有被研究。本文研究了高维环境下逻辑斯谛回归模型的分层组spike和slab先验。在温和的条件下,我们建立了诱导后验的强组选择一致性,这是贝叶斯文献中的第一个理论结果。通过仿真研究,我们证明了所提出的方法的性能优于现有的国家的最先进的方法在各种设置。我们进一步将我们的方法应用于预测帕金森病的MRI数据集,并显示其优于其他竞争者的优势。
2019-12-04 stat.ME
Bayesian nonparametric models for spatially indexed data of mixed type
我们开发贝叶斯非参数模型的混合类型的空间索引数据。我们的工作受到环境流行病学中出现的挑战的激励,通常存在几个表现出复杂相互作用和高度相关性的混杂变量,这使得难以估计和理解风险因素对健康结果的影响。我们采用的建模方法假设响应和混杂变量是连续潜变量的表现形式,并使用多变量高斯来联合建模。响应和混杂变量未被同等对待,因为响应分布的相关参数仅根据解释变量或风险因素建模。空间依赖性是通过允许的非参数过程先验的权重是位置特定的,高斯马尔可夫随机场的概率变换获得的。混杂变量和空间配置在模型中具有类似的作用,因为它们只影响,以及响应,分配到混合物成分的区域的概率,从而允许灵活调整观察到的混杂因素的影响,同时允许剩余空间结构的可能性,可能由于未测量或未发现的空间变化因素而发生。该模型的各个方面都说明了在模拟研究和应用程序的一个真正的数据集。
2014-10-15 stat.ME
Joint identification of spatially variable genes via a network-assisted Bayesian regularization approach
Yale School of Public Health(耶鲁大学公共卫生学院);Shanghai University of Finance and Economics(上海财经大学)
本研究针对现有空间可变基因识别方法未兼顾基因间网络结构、易受细胞组成混杂变异影响的问题,提出带阈值化图拉普拉斯正则化的贝叶斯方法,基于零膨胀负二项分布适配数据特性,经模拟和真实数据验证性能优异。
2025-10-03 stat.ME
Wavelet-Based Bayesian Hierarchical Modeling with Regularized Horseshoe Priors for Spatially Correlated Functional Data
Instituto de Matemática, Estatística e Computação Científica. Universidade Estadual de Campinas(UNICAMP)(坎皮纳斯州立大学数学、统计与科学计算研究所)
该研究针对空间相关功能数据,提出带正则化马蹄先验的小波贝叶斯分层模型,能稳定预测未监测位置的污染物曲线及不确定性,在墨西哥城PM₁₀数据上表现优于对比方法。
2026-08-28 stat.ME
Context-dependent Ranking and Selection under a Bayesian Framework
我们考虑一个上下文相关的排名和选择问题。最好的设计不是通用的,而是取决于环境。在贝叶斯框架下,我们开发了一个动态抽样方案的上下文相关优化(DSCO),有效地学习和选择最佳的设计在所有的情况下。所提出的抽样方案被证明是一致的。数值实验表明,所提出的抽样方案显着提高了上下文相关的排名和选择的效率。
2020-12-18 stat.ME
Penalized Likelihood and Bayesian Function Selection in Regression Models
各个领域的研究推动了高维预测变量回归模型变量选择方法的广泛进步。相比之下,选择非线性函数的模型与添加剂预测最近才被认为是。几个相互竞争的建议几乎是同时提出的,而且往往互不相关。本文提供了一个国家的最先进的审查功能选择,侧重于惩罚似然和贝叶斯的概念,在一个统一的框架中相互关联的各种方法。在实证比较中,也包括提升,我们通过应用程序来评估几种方法,模拟和真实数据,从而提供一些指导,在实践中的性能。
2013-03-04 stat.ME
Bayesian Variable Selection for Single Index Logistic Model
在大数据时代,变量选择是处理小样本量但协变量众多的高维问题的关键技术。针对线性模型、Logistic模型和广义线性模型等不同模型,提出了不同的变量选择方法。然而,由于传统Logistic模型的连接函数未知和MCMC算法混合速度慢,使得单指标模型的变量选择问题研究较少,特别是单指标Logistic模型。利用高斯过程和数据增广的优点,提出了单指标Logistic模型的贝叶斯变量选择方法。数值模拟和实际数据分析的结果表明,我们的方法比国家的艺术的优势。
2020-12-11 stat.ME
Joint Variable Selection of both Fixed and Random Effects for Gaussian Process-based Spatially Varying Coefficient Models
空间变系数(SVC)模型是一种空间数据的回归模型,其中协变量效应随空间而变化。如果有多个协变量,一个自然的问题是哪些协变量具有空间变化效应,哪些没有。针对基于高斯过程的SVC模型,提出了一种新的变量选择方法.它依赖于惩罚极大似然估计(PMLE),并允许变量选择相对于固定效应和高斯过程随机效应。我们验证了我们的方法在模拟研究以及现实世界的数据集。我们的新方法在模拟研究中表现出良好的选择性能。在实际数据应用中,我们提出的PMLE产生稀疏SVC模型,并实现了一个更小的信息标准比经典的MLE。在应用于实际数据的交叉验证中,我们表明,稀疏PML估计SVC模型与ML估计SVC模型在预测性能方面不相上下。
2021-02-11 stat.ME
Bayesian Variable Selection and Estimation Based on Global-Local Shrinkage Priors
本文研究了具有全局-局部收缩先验的线性回归模型的贝叶斯变量选择问题。我们提出了一个变量选择程序,选择一个变量,如果后验均值的比例,相应的系数的普通最小二乘估计大于$1/2$。在正交设计的假设下,证明了当局部参数具有多项式尾先验时,该方法具有预言性质,即可以同时获得变量选择的一致性和最优估计率.然而,如果相反,指数尾先验被用于局部参数,所提出的方法不具有预言属性。
2016-05-25 stat.ME
Bayesian Variable Selection via Hierarchical Gaussian Process Model in Computer Experiments
针对计算机实验中活跃因子识别难题,本文提出嵌入潜在指示变量的贝叶斯分层高斯过程模型,利用Metropolis-within-Gibbs采样器联合完成参数估计与变量选择,并通过模拟和实际应用验证其优于竞争方法。
2024-06-17 stat.ME
Bayesian Model Selection for Misspecified Models in Linear Regression
虽然贝叶斯信息准则(BIC)和赤池信息准则(AIC)是线性回归中模型选择的强大工具,但它们建立在不同的先验假设上,因此适用于不同的数据生成场景。我们表明,在有限维的情况下,他们各自的假设可以统一在一个增广的模型加噪声空间,并在这个空间中构建一个先验继承了AIC和BIC的有益特性。这使我们能够调整BIC,使其对信噪比较低的错误指定模型具有鲁棒性。
2017-12-14 stat.ME
Bayesian Generalized Additive Model Selection Including a Fast Variational Option
本文提出贝叶斯广义加性模型选择方法,利用组 LASSO 先验和辅助变量实现 MCMC 与快速平均场变分推断,并提供 R 包支持大规模数据应用。
2023-09-28 stat.ME
Robust Bayesian Nonparametric Variable Selection for Linear Regression
钉板和马蹄回归可以说是最流行的贝叶斯变量选择方法的线性回归模型。然而,如果数据中存在离群值和异方差,则其性能可能会恶化,这是许多现实世界统计和机器学习应用中的常见特征。在这项工作中,我们提出了一个贝叶斯非参数方法线性回归,执行变量选择,同时考虑离群值和异方差。我们提出的模型是一个狄利克雷过程尺度混合模型的优点,我们可以得到完整的条件分布的所有参数在封闭的形式,从而产生一个有效的吉布斯采样后验推理的一个实例。此外,我们提出了如何扩展模型,以考虑重尾的响应变量。该模型的性能进行了测试,对竞争算法的合成和真实世界的数据集。
2022-10-19 stat.ME
A robust Bayesian analysis of variable selection under prior ignorance
我们提出了一个谨慎的贝叶斯变量选择程序,通过调查的敏感性分层模型,其中的回归系数指定的穗和板坯先验。我们利用潜变量来理解协变量的重要性。这些潜变量还允许我们获得模型空间的大小,这是高维问题的一个重要方面。在我们的方法中,而不是固定一个单一的先验,我们采用了一种特定类型的鲁棒贝叶斯分析,在那里我们考虑一组先验在同一个参数的家庭,以指定这些潜变量的选择概率。我们通过考虑一组预期的先验选择概率来实现这一点,这使我们能够进行敏感性分析,以了解先验启发对变量选择的影响。敏感性分析为我们提供了一套后验的回归系数以及选择指标,我们表明,后验概率的模型选择概率是单调的选择概率的先验期望。我们还分析了合成和现实生活中的数据集,以说明我们谨慎的变量选择方法,并将其与其他知名的方法进行比较。
2022-05-03 stat.ME
Spatially Varying Gene Regulatory Networks via Bayesian Nonparametric Covariate-Dependent Directed Cyclic Graphical Models
Texas A&M University(德克萨斯农工大学);University of Texas at Austin(得克萨斯大学奥斯汀分校)
该研究提出了一种基于贝叶斯非参数协变量依赖定向循环图模型的方法,用于学习空间变化的基因调控网络,通过划分平均获得平滑变化的图结构,并在空间转录组学数据中揭示了具有反馈回路的调控网络。
2025-12-12 stat.ME
Model Selection for SLOPE Models: A Bayesian Perspective
Imperial College London(帝国理工学院)
提出贝叶斯方法BGSLOPE和BSGS,通过嵌入spike-and-slab框架控制FDR,并引入两步正交变换TSO,在合成和真实数据中优于交叉验证等方法。
2026-06-07 stat.ME
Bayesian Spatial Inversion and Conjugate Selection Gaussian Prior Models
本文在贝叶斯空间反演中引入了对给定似然函数的共轭先验模型的概念。先验模型的共轭类可以选择扩展,并且仍然保持共轭。我们证明了选择高斯先验模型的一般性,代表多模态,偏态和重尾。对于高斯线性似然函数,后验模型也是选择高斯的。后验概率密度函数的模型参数是似然模型和先验模型的模型参数的显函数,当然还有实际观测值。有效的算法模拟和预测的选择高斯后验概率密度函数的定义。基于空间变量的一个训练图像,通过极大似然准则和数值优化,可以可靠地推断选择高斯先验概率密度函数中的模型参数。最后,给出了一个地震反演实例,并发现了$ 20$ - $40\%$相对于传统高斯反演在预测均方误差方面的改进。
2018-12-05 stat.ME
Comparing Spike and Slab Priors for Bayesian Variable Selection
建立回归模型的一个重要任务是决定哪些回归变量应该包含在最终模型中。在贝叶斯方法中,变量选择可以使用混合先验进行,对于受选择影响的效应,混合先验具有尖峰和平板分量。由于尖峰集中在零处,因此变量选择基于将相应的回归效应分配给板组件的概率。这些后验包含概率可以通过MCMC采样来确定。在本文中,我们比较了几个尖峰和板先验的MCMC实现方面的后验包含概率和它们的抽样效率模拟数据。此外,我们调查后验包含概率分析不同的平板在两个简单的设置。应用程序的变量选择与穗和板先验的精神病患者的数据集,其目标是确定影响代谢的协变量。
2018-12-18 stat.ME
Inferences in Bayesian variable selection problems with large model spaces
贝叶斯模型选择的一个重要方面是如何处理巨大的模型空间,因为穷举所有被考虑的模型是不可行的,并且推断必须基于访问的模型的非常小的比例。这就是变量选择问题的情况,本文考虑了大量可能的解释变量。我们回顾了文献中提出的一些策略,并认为通过马尔可夫链蒙特卡罗采样的后验分布的经验频率的推理优于最近提出的搜索方法。我们给出了一个合理的,但非常简单的解释这种效果,表明基于频率的估计是无偏的。在两个说明性的例子中得到的结果提供了强有力的证据,有利于我们的论点。
2011-01-23 stat.ME
Decoding Neuronal Ensembles from Spatially-Referenced Calcium Traces: A Bayesian Semiparametric Approach
University of Milano-Bicocca(米兰比可卡大学);University of Padova(帕多瓦大学);University of California, Los Angeles(加州大学洛杉矶分校)
本文提出一种贝叶斯半参数方法,通过钙迹解码神经元群体活动,揭示空间结构化共激活模式及群体结构与动物位置的关系。
2026-09-09 stat.ME
Sequential Selection for Accelerated Life Testing via Approximate Bayesian Inference
加速寿命试验(ALT)通常用于评估材料在所需应力水平下的寿命可靠性。材料工程的最新进展使各种材料替代品变得容易获得。为了确定最可靠的材料设置与有效的试验设计,一个连续的测试计划策略是首选。为了保证一个易于处理的统计机制的信息收集和更新,我们开发了明确的模型参数更新公式,通过近似贝叶斯推断。理论表明,我们的显式更新公式给出了一致的参数估计。仿真研究和算例分析表明,与其他设计方法相比,所提出的序贯选择方法可以显著提高确定最佳可靠性性能材料方案的概率。
2020-01-16 stat.ME
Variable Selection with ABC Bayesian Forests
在统计学中,很少有问题像在存在大量冗余协变量的情况下进行变量选择那样令人困惑。变量选择问题在诸如线性模型或其附加变体的参数环境中是最常见的。在这项工作中,我们放弃了线性模型框架,这可能是非常有害的,当协变量以非线性的方式影响结果,并转向基于树的方法进行变量选择。这种变量筛选传统上是通过修剪大树或通过基于一些重要性度量的变量排名来完成的。尽管在实践中大量使用,但从理论角度来看,这些特设选择规则尚未得到很好的理解。在这项工作中,我们设计了一个贝叶斯树为基础的概率方法,并表明,它是一致的变量选择时,回归表面是一个光滑的混合$p>n$协变量。这些结果是贝叶斯森林先验的第一个模型选择一致性结果。变量重要性的概率评估是可行的尖峰和板坯包装周围的总和树先验。从树上的后验分布中采样本质上是非常困难的。作为MCMC的替代方案,我们提出了ABC贝叶斯森林,一种新的ABC抽样方法的基础上,数据分裂,实现更高的ABC接受率。我们表明,该方法是强大的,成功地找到高边际包含概率的变量。我们的ABC算法提供了一个新的途径,在非参数设置的边缘可能性是棘手的近似的中值概率模型。
2021-02-24 stat.ME
Robust Bayesian model selection for heavy-tailed linear regression using finite mixtures
在本文中,我们提出了一种新的方法来执行重尾分布的线性模型的贝叶斯模型选择。我们考虑一个有限的混合分布模型的潜在变量,其中每个组成部分的混合物对应于一个可能的模型内的对称类的正态独立分布。当然,高斯模型是其中一种可能性。这允许基于每个模型的后验概率进行同时分析。推理是通过马尔可夫链蒙特卡罗-吉布斯抽样与大都会黑斯廷斯步骤的一类参数。模拟的例子突出了这种方法的优势相比,隔离分析的基础上任意选择的模型选择标准。给出了真实数据的示例,并介绍和讨论了对截尾线性回归的扩展。
2017-08-18 stat.ME
A flexible Bayesian hierarchical modeling framework for spatially dependent peaks-over-threshold data
在这项工作中,我们开发了一个建设性的建模框架,极端的阈值重复观测的空间场的基础上,一般产品的混合物的随机场具有轻或重尾的利润率和各种空间依赖特性,这是适当的设计,以提供高灵活性的尾巴,并在亚渐近水平。我们提出的模型类似于最近提出的Gamma-Gamma模型,使用Gamma边缘分布的过程的比率,但它具有更高程度的灵活性,在其联合尾部结构,更容易捕捉强相关性。我们专注于以下三个产品的因素,其不同的角色,确保其统计可识别性的建设:一个重尾的空间相关的字段,一个轻尾的空间恒定的字段,和另一个轻尾的空间独立的字段。由于该模型的分层公式,推理可以方便地执行基于马尔可夫链蒙特卡罗方法。我们利用Metropolis调整的Langevin算法(MALA)与随机块建议的潜在变量,以及随机梯度Langevin动力学(SGLD)算法的超参数,为了适应我们提出的模型非常有效地在相对较高的时空维度,同时审查非阈值的一致性,并在多个站点进行空间预测。删失机制被应用于空间独立的组件,使得只有单变量累积分布函数必须进行评估。我们探讨了新模型的理论特性,并通过模拟和应用于西班牙东北部约100个站点在2011-2020年期间测量的每日降水数据来说明所提出的方法。
2021-12-17 stat.ME