Bayesian Adaptive Lasso with Variational Bayes for Variable Selection in High-dimensional Generalized Linear Mixed Models
本文介绍了一个完整的贝叶斯处理同时固定效应选择和参数估计的高维广义线性混合模型。该方法包括使用贝叶斯自适应Lasso惩罚信号级自适应收缩和快速变分贝叶斯方案估计后验模式的系数。与现有的方法相比,该方法具有自适应收缩参数的自动加入,不需要拉普拉斯近似步骤来积分出随机效应等优点。几个模拟和真实数据的例子说明了我们的方法的性能。该算法在R软件包glmmvb中实现,并可在线使用。
2016-08-30 stat.ME
Semi-parametric Bayesian variable selection for gene-environment interactions
已知许多复杂疾病受到遗传变异和环境暴露之间的相互作用的影响,而不仅仅是主要的遗传和环境影响。基因-环境(G $\times$ E)相互作用的研究对于阐明疾病的病因是重要的。现有的贝叶斯方法G $\times$ E相互作用的研究受到挑战的高维性质的研究和复杂的环境影响。许多研究表明,惩罚方法在检测“大p,小n”设置中的G $\times$ E相互作用方面具有优势。然而,贝叶斯变量选择,可以提供新的见解G $\times$ E研究,尚未得到广泛的研究。我们提出了一个新的和强大的半参数贝叶斯变量选择模型,可以同时调查线性和非线性的G $\times$ E相互作用。此外,所提出的方法可以进行结构识别,区分非线性相互作用的情况下,只有主效应的贝叶斯框架。尖峰和平板先验被纳入个人和组水平,以确定稀疏的主要和相互作用的影响。所提出的方法进行贝叶斯变量选择比现有的方法更有效。仿真结果表明,所提出的模型优于竞争的替代品的识别和预测。提出的贝叶斯方法导致识别的主要和相互作用的影响具有重要意义的高通量分析研究与高维SNP数据。
2019-09-27 stat.ME
A Graphical View of Bayesian Variable Selection
近年来,基于网络信息的Ising先验对于“入”或“出”二元随机变量的贝叶斯变量选择问题受到了越来越多的关注。在本文中,我们发现,即使没有信息先验的贝叶斯变量选择问题本身可以被认为是一个完整的图和描述的伊辛模型与随机相互作用。将变量选择作为图模型处理有许多优点,如易于采用单点更新和聚类更新算法,适用于小样本量和大变量数的问题,在贝叶斯变量选择伊辛模型中,交互作用由线性模型决定,而非线性模型中的交互作用由线性模型决定因此,我们采用全局-局部收缩策略,系统地研究了模型系数的不同尺度正态混合先验的性能。我们的研究结果证明,在变量选择方面的模型系数的最佳先验应保持小收缩,而不是大收缩的重要性。我们还讨论了伊辛模型的回火算法和全局-局部收缩方法之间的联系,表明收缩参数起着回火作用。用模拟数据和实际数据说明了该方法。
2012-06-13 stat.ME
Bayesian MI-LASSO for Variable Selection on Multiply-Imputed Data
Department of Biostatistics, Columbia University(哥伦比亚大学生物统计系);Department of Statistics, Rutgers University(罗格斯大学统计系)
针对多重插补数据变量选择不一致问题,提出四种贝叶斯MI-LASSO模型及四步投影预测选择程序,模拟显示优于现有方法,并提供了R包BMIselect。
2026-11-06 stat.ME
Fully Bayesian Estimation and Variable Selection in Partially Linear Wavelet Models
在本文中,我们提出了一个基于小波的方法估计和变量选择的部分线性模型。推理是在小波域中进行的,它提供了一个稀疏和本地化的分解,适合具有不同程度的平滑度的非参数分量。一个分层贝叶斯模型制定的参数,这种表示,其中的估计和变量选择是由一个吉布斯抽样程序。对于模型的参数和非参数部分,我们使用具有双指数扩散分布的零污染点质量先验。部分线性小波模型领域只有少数论文存在,我们表明,所提出的方法往往优于现有的方法估计模型参数的任务。此外,该方法能够通过对模型的参数部分进行随机搜索来执行贝叶斯变量选择。
2016-09-23 stat.ME
Multivariate Bayesian variable selection with application to multi-trait genetic fine mapping
针对多个相关且异质响应的变量选择问题,提出一种结合分组结构、多层次选择和先验生物知识的多元贝叶斯方法,并用于多性状遗传精细定位。
2024-03-01 stat.ME
Bayesian Variable Selection for Linear Regression with the $κ$-$G$ Priors
在本文中,我们介绍了一种新的方法,贝叶斯变量选择的线性回归,是独立于传统的指标方法。对角矩阵$\mathbf{G}$被引入到系数向量$\boldsymbolβ$的先验中,其中在对角线上的限定在$0$和$1$之间的每个$g_j$用作对应的$β_j$的稳定器。在数学上,有希望的变量具有接近于$0$的$g_j$值,而对应于无希望的变量的$g_j$的值接近于$1$。本文在正交性下证明了这一性质以及其它渐近性质。在计算上,每个$g_j$的样本路径通过Metropolis-within- Gibbs抽样方法获得。此外,在本文中,我们给出了两个模拟来验证这种方法的能力,在变量选择。
2016-10-18 stat.ME
Bayesian projection approaches to variable selection and exploring model uncertainty
最近在文献中提出了一种贝叶斯方法来选择变量,该方法基于完整模型与其投影到子模型之间的预期库尔贝克-莱布勒散度。在这里,我们扩展了这个想法,考虑投影到子空间定义通过某种形式的$L_1$约束的参数在完整的模型。这导致了与套索相关的贝叶斯模型选择方法。在投影的后验分布中,存在某些分量恰好为零的正概率,并且由投影引起的模型空间上的后验分布允许探索模型不确定性。我们还考虑使用的方法在结构化的变量选择问题,如方差分析模型,它是希望将主效应存在的相互作用。在这里,我们利用投影相关的非负的加洛特,能够尊重层次约束。证明了投影引起的模型的后验分布的一致性结果,并证明了对于一些与自适应套索和非负Garotte相关的投影,后验分布渐近地集中在真实模型上.
2009-01-29 stat.ME
Bayesian Variable Selection for Non-Gaussian Responses: A Marginally Calibrated Copula Approach
我们提出了一个新的高度灵活和易于处理的贝叶斯方法进行非高斯回归模型中的变量选择。它对因变量的观测值的联合分布使用copula分解。这使得因变量的边缘分布可以使用非参数估计器或其他估计器进行精确校准。家庭的copula雇用的是“隐式copula”,从现有的层次贝叶斯模型广泛用于变量选择,我们建立了他们的一些属性。虽然Copula是高维的,但利用马尔可夫链蒙特卡罗(MCMC)方法可以快速有效地估计Copula。模拟研究表明,当响应是非高斯的方法选择变量比当代基准更准确。Web附录中的一个真实数据示例说明,即使是轻微的正态性偏差也可以导致准确性的大幅提高。为了说明我们的方法的全部潜力,我们将其扩展到功能磁共振成像的空间变量选择。使用真实数据,我们表明我们的方法允许在超过6,000个体素处对磁共振信号进行体素特定的边缘校准,从而提高激活图的质量。
2020-09-03 stat.ME
Variable Selection Using Bayesian Additive Regression Trees
变量选择是一个重要的统计问题。当候选预测变量是混合类型(例如连续和二进制)并且以非线性和/或非加性方式影响响应变量时,该问题变得更具挑战性。在本文中,我们回顾了现有的变量选择方法的贝叶斯加性回归树(BART)模型,非参数回归模型,这是足够灵活,以捕捉预测和非线性关系的响应之间的相互作用。本次审查的重点是识别相关预测因子的能力。我们还提出了两个变量的重要性措施,可用于在一个基于置换的变量选择方法,和一个向后的变量选择程序的BART。我们目前的模拟表明,我们的方法表现出改善的性能方面的能力,恢复所有相关的预测在各种数据设置,相比现有的基于BART的变量选择方法。
2021-12-28 stat.AP stat.ME
Stochastic Search Variable Selection for Bayesian Generalized Linear Mixed Effect Models
本文将 Yang 等(2020)面向线性混合模型的 SSVS 方法扩展至贝叶斯 GLMMs,以联合选择固定效应与随机效应,并通过模拟与真实数据验证其有效性及超参数影响。
2024-12-02 stat.AP stat.ME
A Bayesian Bi-Directional Splitting Framework for Variable Selection in Large Datasets
School of Mathematics and Statistics, University of Glasgow(格拉斯哥大学数学与统计学院)
提出一种贝叶斯双向分割框架,通过分而治之并行处理大规模数据,在保持变量选择性能的同时提升计算效率,并应用于H3N2流感数据。
2026-09-18 stat.CO stat.ME
Bayesian Variable Selection for Function-on-Scalar Regression Models: a comparative analysis
University of Western Ontario(韦仕敦大学);University of Campinas(坎皮纳斯州立大学);Federal University of Paraná(巴拉那联邦大学)
本文提出了一种新的贝叶斯变量选择方法,用于函数-标量回归模型,通过层次贝叶斯结构和潜在变量实现自适应协变量选择,通过模拟研究和实证分析验证了其在变量选择和模型拟合方面的优越性。
2026-03-29 stat.CO stat.ME
Fast Bayesian Variable Selection in Binomial and Negative Binomial Regression
贝叶斯变量选择是数据分析的一个强大工具,因为它提供了一种考虑先验信息和不确定性的变量选择原则性方法。然而,贝叶斯变量选择的广泛采用受到计算挑战的阻碍,特别是在具有大量协变量或非共轭似然的困难制度中。计数数据的广义线性模型在生物学、生态学、经济学等领域中很普遍,它是一个重要的特例。在这里,我们介绍了一种有效的MCMC方案,用于二项式和负二项式回归中的变量选择,该方案利用了Tempered吉布斯抽样(Zanella and Roberts,2019),并将逻辑斯谛回归作为特例。在实验中,我们证明了我们的方法的有效性,包括癌症数据与一万七千协变量。
2022-09-12 stat.CO stat.ME stat.ML
Scalable Bayesian bi-level variable selection in generalized linear models
受心脏病学中的实际应用的启发,我们开发了一种算法,用于在广义线性模型中执行贝叶斯双水平变量选择,用于可能在个体数量和预测因子数量方面都很大的数据集。我们的算法依赖于Dau和Chopin(2022)的无浪费SMC序贯蒙特卡罗方法,这是一种新的建议机制,用于处理特定于双层选择的约束(如果其组未被选中,则禁止选择单个预测因子),以及Rossell等人(2021)的ALA(近似拉普拉斯近似)方法。我们在数值研究中表明,该算法可以在几分钟内在大型数据集上提供可靠的性能,包括与上述心脏病学应用相关的模拟数据和真实数据。
2023-03-22 stat.CO stat.ME
Bayesian Variable Selection in Multivariate Nonlinear Regression with Graph Structures
高斯图模型(GGM)是使用精度矩阵进行依赖结构概率探索的成熟工具。我们开发了一种贝叶斯方法,将协变量信息在这个GGM设置在一个非线性看似无关的回归框架。我们提出了一个联合预测器和图选择模型,并开发了一个有效的折叠吉布斯采样算法来搜索联合模型空间。此外,我们研究了它的理论变量选择性质。我们证明了我们的方法对各种模拟数据,最后从TCPA项目的真实数据集。
2021-07-31 math.ST stat.ME stat.TH
Bayesian variable selection using an informed reversible jump in imaging genetics: an application to schizophrenia
针对影像遗传学精神分裂症风险评估,本文为可逆跳MCMC贝叶斯变量选择提出数据驱动的知情提议,并用贝叶斯probit模型与模型平均实现判别变量选择和风险预测。
2025-01-10 stat.AP stat.CO stat.ME
Bayesian Adaptive Lasso
提出了一种用于线性回归中变量选择和系数估计的贝叶斯自适应Lasso算法(BaLasso). BaLasso通过对不同的系数采用不同的收缩率来适应信号电平。此外,我们提供了一个模型选择机械的BaLasso通过评估后验条件模式估计,动机的分层贝叶斯解释的套索。我们的配方还允许使用模型平均策略进行预测。我们讨论了这种新方法的其他变体,并提供了一个统一的框架,使用灵活的处罚变量选择。通过广泛的模拟研究和数据分析的方法的吸引力的实证证据证明。
2010-09-13 stat.CO stat.ME
An exploration of sequential Bayesian variable selection -- A comment on García-Donato et al. (2025). "Model uncertainty and missing data: An objective Bayesian perspective"
本文针对含缺失数据的客观贝叶斯模型不确定性方法,提出在数据序贯累积场景下引入序贯模型置信集进行变量选择,以实现持续证据监测并稳定推断。
2025-09-30 math.ST stat.ME stat.TH
Bayesian Variable Selection for Skewed Heteroscedastic Response
在这篇文章中,我们提出了新的贝叶斯方法来选择和估计偏异方差响应的稀疏系数向量。我们的新贝叶斯程序有效地估计中位数和其他分位数函数,适应非本地的回归效应之前,而不影响通过基于采样的工具,实现的容易性,并渐近选择的预测的真实集,即使协变量的数量增加在相同的顺序的样本量。我们还扩展了我们的方法来处理一些非常大的误差观测。通过模拟研究和重新分析的医疗成本的研究与大量的潜在的预测因素,我们说明了我们的方法相比,现有的方法进行此类研究的实施和其他实际的优势。
2017-07-03 math.ST stat.ME stat.TH
An Automatic Relevance Determination Prior Bayesian Neural Network for Controlled Variable Selection
University of Johannesburg(约翰内斯堡大学)
我们提出了一个自动相关性确定先验贝叶斯神经网络(BNN-ARD)的权重l2范数测量作为模型x敲除过滤器的特征重要性统计。我们在模拟数据和挪威风电场数据集上表明,相对于现实世界数据集上的变量选择能力和预测性能,所提出的特征重要性统计量在统计上都有显着改善。
2020-01-06 cs.LG stat.ML
Bayesian Variable Selection and Estimation for Group Lasso
本文重新访问贝叶斯群体套索,并使用穗和板坯先验组变量选择。在这个过程中,我们的模型与惩罚回归的连接被证明,并指出后中值阈值的作用。证明了在正交设计下,后验中位数估计对组变量的选择和估计具有预言性质,而当变量选择达到一致时,组Lasso估计具有次优的渐近估计率.接下来,我们考虑两个层次的选择问题,并提出了贝叶斯稀疏组选择再次与穗和板坯先验选择变量在组水平和组内。我们通过模拟证明,我们的尖峰和平板模型的后验中值估计具有优良的性能,无论是变量的选择和估计。
2015-12-03 math.ST stat.TH
Bayesian Variable Selection For Survival Data Using Inverse Moment Priors
在高维癌症基因组研究中,有效的变量选择对于发现与特定癌症类型相关的基因和预测对治疗的反应至关重要。删失生存数据在此类研究中很普遍。在这篇文章中,我们介绍了一个贝叶斯变量选择过程,使用的混合物前组成的点质量在零和逆矩前与部分似然定义的Cox比例风险模型。该过程在R包BVSNLP中实现,该包支持并行计算,并使用随机搜索方法来探索模型空间。贝叶斯模型平均用于预测。该算法提供了更好的性能比其他变量选择程序在模拟研究中,并出现提供更一致的变量选择时,应用到实际的基因组数据集。
2020-03-14 stat.AP stat.CO
Testing-driven Variable Selection in Bayesian Modal Regression
Department of Statistics, University of South Carolina(南卡罗来纳大学统计学系);Division of Epidemiology, Biostatistics, and Environmental Health Sciences, School of Public Health, University of Memphis(孟菲斯大学公共卫生学院流行病学与生物统计学系)
本研究针对厚尾响应变量,在贝叶斯众数回归框架下提出结合期望最大化算法与检验统计量的变量选择方法,可在非高斯误差下有效识别重要协变量,并已应用于两类遗传相关数据集分析。
2025-10-27 cs.LG stat.CO stat.ME
Bayesian Variable Selection in a Million Dimensions
Broad Institute(博德研究所);Basis Research Institute(基础研究院)
针对高维及非共轭似然下贝叶斯变量选择的计算瓶颈,提出每轮成本关于 P 次线性的 MCMC 方案,并扩展至二项与负二项回归,在癌症和玉米基因组数据中验证有效。
2022-08-31 cs.LG stat.CO stat.ME
A shrinkage-thresholding Metropolis adjusted Langevin algorithm for Bayesian variable selection
本文介绍了一种新的马尔可夫链蒙特卡罗方法,用于高维环境下贝叶斯变量的选择。该算法是一个黑斯廷斯-大都会采样器的建议机制,它结合了大都会调整的朗之万(MALA)的步骤,提出与收缩阈值的步骤,允许提出新的模型相关联的局部移动。证明了这种新的跨维马尔可夫链Monte Carlo采样器的几何遍历性。一个广泛的数值实验,模拟和真实的数据,提出了一些更经典的跨维算法相比,说明所提出的算法的性能。
2015-09-11 math.ST stat.TH
Bayesian variable selection with spherically symmetric priors
我们建议,贝叶斯变量选择的线性参数化与高斯iid似然的对角化参数空间的球对称性的基础上。我们的r先验结果在封闭形式的证据的四个例子,包括超g先验和Zellner-Siow先验,这是特殊情况。一个单一的可变的色散参数和固定的色散的情况下进行了研究,并渐近形式可比的传统的信息准则。模拟实验表明,基于我们的r-先验模型比较给出了良好的结果,可比或优于当前的模型比较方案。
2015-12-10 math.ST physics.data-an stat.TH
Subsampling MCMC for Bayesian Variable Selection and Model Averaging in BGNLM
本文提出将GMJMCMC与S-IRLS-SGD算法结合,通过子采样估计边际似然,使贝叶斯非线性模型能处理高维数据。
2023-12-28 stat.CO
Variable Selection in Bayesian Semiparametric Regression Models
本文扩展了现有的用于高斯过程回归中变量选择的贝叶斯方法,以选择空间相关结构中的回归项和活动协变量。然后,我们使用估计的后验概率通过交叉验证在相对较少的模式之间进行选择,从而提高预测。
2014-12-31 stat.ME
Decoupling shrinkage and selection in Bayesian linear models: a posterior summary perspective
为线性模型选择变量子集仍然是一个活跃的研究领域。本文回顾了许多最近的贡献贝叶斯模型选择和收缩先前的文献。提出了一种后验变量选择方法,该方法将回归系数的后验分布提取为稀疏线性预测变量序列。
2014-08-03 stat.ME
A discussion of "Bayesian model selection based on proper scoring rules" by A.P. Dawid and M. Musio
本文是对A.P. Dawid和M. Musio,出现在贝叶斯分析中。虽然赞赏背后的概念使用适当的评分规则,包括不适当的先验知识,我们在这里指出一些可能的实际困难与提倡的方法。
2015-02-26 stat.ME
A Variational Inference method for Bayesian variable selection
变量选择是统计学中的一个经典问题。在本文中,我们考虑了Ročková和George(2014)提出的基于混合正态分布的spike-and-slab先验的贝叶斯变量选择问题。受Ormerod和You(2017,2023)的启发,我们使用变分推断和折叠变分推断方法来解决贝叶斯问题,而不是MCMC。与Ormerod and You(2017,2023)一样,我们也解释了稀疏估计是如何被导出的,并且在某些温和的假设下,我们还证明了一致和渐近的结果。
2023-03-07 stat.ME
Bayesian Group Selection in Logistic Regression with Application to MRI Data Analysis
本文研究协变量为组结构的贝叶斯逻辑斯谛回归模型。在高维环境中,通常假设只有一小部分组是重要的,因此一致的组选择是非常重要的。虽然一致频率论的组选择方法已经被提出,但逻辑斯谛回归模型的贝叶斯组选择方法的理论性质还没有被研究。本文研究了高维环境下逻辑斯谛回归模型的分层组spike和slab先验。在温和的条件下,我们建立了诱导后验的强组选择一致性,这是贝叶斯文献中的第一个理论结果。通过仿真研究,我们证明了所提出的方法的性能优于现有的国家的最先进的方法在各种设置。我们进一步将我们的方法应用于预测帕金森病的MRI数据集,并显示其优于其他竞争者的优势。
2019-12-04 stat.ME
Context-dependent Ranking and Selection under a Bayesian Framework
我们考虑一个上下文相关的排名和选择问题。最好的设计不是通用的,而是取决于环境。在贝叶斯框架下,我们开发了一个动态抽样方案的上下文相关优化(DSCO),有效地学习和选择最佳的设计在所有的情况下。所提出的抽样方案被证明是一致的。数值实验表明,所提出的抽样方案显着提高了上下文相关的排名和选择的效率。
2020-12-18 stat.ME
Penalized Likelihood and Bayesian Function Selection in Regression Models
各个领域的研究推动了高维预测变量回归模型变量选择方法的广泛进步。相比之下,选择非线性函数的模型与添加剂预测最近才被认为是。几个相互竞争的建议几乎是同时提出的,而且往往互不相关。本文提供了一个国家的最先进的审查功能选择,侧重于惩罚似然和贝叶斯的概念,在一个统一的框架中相互关联的各种方法。在实证比较中,也包括提升,我们通过应用程序来评估几种方法,模拟和真实数据,从而提供一些指导,在实践中的性能。
2013-03-04 stat.ME
Bayesian Variable Selection for Single Index Logistic Model
在大数据时代,变量选择是处理小样本量但协变量众多的高维问题的关键技术。针对线性模型、Logistic模型和广义线性模型等不同模型,提出了不同的变量选择方法。然而,由于传统Logistic模型的连接函数未知和MCMC算法混合速度慢,使得单指标模型的变量选择问题研究较少,特别是单指标Logistic模型。利用高斯过程和数据增广的优点,提出了单指标Logistic模型的贝叶斯变量选择方法。数值模拟和实际数据分析的结果表明,我们的方法比国家的艺术的优势。
2020-12-11 stat.ME
Bayesian Variable Selection and Estimation Based on Global-Local Shrinkage Priors
本文研究了具有全局-局部收缩先验的线性回归模型的贝叶斯变量选择问题。我们提出了一个变量选择程序,选择一个变量,如果后验均值的比例,相应的系数的普通最小二乘估计大于$1/2$。在正交设计的假设下,证明了当局部参数具有多项式尾先验时,该方法具有预言性质,即可以同时获得变量选择的一致性和最优估计率.然而,如果相反,指数尾先验被用于局部参数,所提出的方法不具有预言属性。
2016-05-25 stat.ME
Bayesian Variable Selection via Hierarchical Gaussian Process Model in Computer Experiments
针对计算机实验中活跃因子识别难题,本文提出嵌入潜在指示变量的贝叶斯分层高斯过程模型,利用Metropolis-within-Gibbs采样器联合完成参数估计与变量选择,并通过模拟和实际应用验证其优于竞争方法。
2024-06-17 stat.ME
Bayesian Model Selection for Misspecified Models in Linear Regression
虽然贝叶斯信息准则(BIC)和赤池信息准则(AIC)是线性回归中模型选择的强大工具,但它们建立在不同的先验假设上,因此适用于不同的数据生成场景。我们表明,在有限维的情况下,他们各自的假设可以统一在一个增广的模型加噪声空间,并在这个空间中构建一个先验继承了AIC和BIC的有益特性。这使我们能够调整BIC,使其对信噪比较低的错误指定模型具有鲁棒性。
2017-12-14 stat.ME
Bayesian Generalized Additive Model Selection Including a Fast Variational Option
本文提出贝叶斯广义加性模型选择方法,利用组 LASSO 先验和辅助变量实现 MCMC 与快速平均场变分推断,并提供 R 包支持大规模数据应用。
2023-09-28 stat.ME
Robust Bayesian Nonparametric Variable Selection for Linear Regression
钉板和马蹄回归可以说是最流行的贝叶斯变量选择方法的线性回归模型。然而,如果数据中存在离群值和异方差,则其性能可能会恶化,这是许多现实世界统计和机器学习应用中的常见特征。在这项工作中,我们提出了一个贝叶斯非参数方法线性回归,执行变量选择,同时考虑离群值和异方差。我们提出的模型是一个狄利克雷过程尺度混合模型的优点,我们可以得到完整的条件分布的所有参数在封闭的形式,从而产生一个有效的吉布斯采样后验推理的一个实例。此外,我们提出了如何扩展模型,以考虑重尾的响应变量。该模型的性能进行了测试,对竞争算法的合成和真实世界的数据集。
2022-10-19 stat.ME
A robust Bayesian analysis of variable selection under prior ignorance
我们提出了一个谨慎的贝叶斯变量选择程序,通过调查的敏感性分层模型,其中的回归系数指定的穗和板坯先验。我们利用潜变量来理解协变量的重要性。这些潜变量还允许我们获得模型空间的大小,这是高维问题的一个重要方面。在我们的方法中,而不是固定一个单一的先验,我们采用了一种特定类型的鲁棒贝叶斯分析,在那里我们考虑一组先验在同一个参数的家庭,以指定这些潜变量的选择概率。我们通过考虑一组预期的先验选择概率来实现这一点,这使我们能够进行敏感性分析,以了解先验启发对变量选择的影响。敏感性分析为我们提供了一套后验的回归系数以及选择指标,我们表明,后验概率的模型选择概率是单调的选择概率的先验期望。我们还分析了合成和现实生活中的数据集,以说明我们谨慎的变量选择方法,并将其与其他知名的方法进行比较。
2022-05-03 stat.ME
Model Selection for SLOPE Models: A Bayesian Perspective
Imperial College London(帝国理工学院)
提出贝叶斯方法BGSLOPE和BSGS,通过嵌入spike-and-slab框架控制FDR,并引入两步正交变换TSO,在合成和真实数据中优于交叉验证等方法。
2026-06-07 stat.ME
Bayesian Spatial Inversion and Conjugate Selection Gaussian Prior Models
本文在贝叶斯空间反演中引入了对给定似然函数的共轭先验模型的概念。先验模型的共轭类可以选择扩展,并且仍然保持共轭。我们证明了选择高斯先验模型的一般性,代表多模态,偏态和重尾。对于高斯线性似然函数,后验模型也是选择高斯的。后验概率密度函数的模型参数是似然模型和先验模型的模型参数的显函数,当然还有实际观测值。有效的算法模拟和预测的选择高斯后验概率密度函数的定义。基于空间变量的一个训练图像,通过极大似然准则和数值优化,可以可靠地推断选择高斯先验概率密度函数中的模型参数。最后,给出了一个地震反演实例,并发现了$ 20$ - $40\%$相对于传统高斯反演在预测均方误差方面的改进。
2018-12-05 stat.ME
Comparing Spike and Slab Priors for Bayesian Variable Selection
建立回归模型的一个重要任务是决定哪些回归变量应该包含在最终模型中。在贝叶斯方法中,变量选择可以使用混合先验进行,对于受选择影响的效应,混合先验具有尖峰和平板分量。由于尖峰集中在零处,因此变量选择基于将相应的回归效应分配给板组件的概率。这些后验包含概率可以通过MCMC采样来确定。在本文中,我们比较了几个尖峰和板先验的MCMC实现方面的后验包含概率和它们的抽样效率模拟数据。此外,我们调查后验包含概率分析不同的平板在两个简单的设置。应用程序的变量选择与穗和板先验的精神病患者的数据集,其目标是确定影响代谢的协变量。
2018-12-18 stat.ME
Inferences in Bayesian variable selection problems with large model spaces
贝叶斯模型选择的一个重要方面是如何处理巨大的模型空间,因为穷举所有被考虑的模型是不可行的,并且推断必须基于访问的模型的非常小的比例。这就是变量选择问题的情况,本文考虑了大量可能的解释变量。我们回顾了文献中提出的一些策略,并认为通过马尔可夫链蒙特卡罗采样的后验分布的经验频率的推理优于最近提出的搜索方法。我们给出了一个合理的,但非常简单的解释这种效果,表明基于频率的估计是无偏的。在两个说明性的例子中得到的结果提供了强有力的证据,有利于我们的论点。
2011-01-23 stat.ME
Sequential Selection for Accelerated Life Testing via Approximate Bayesian Inference
加速寿命试验(ALT)通常用于评估材料在所需应力水平下的寿命可靠性。材料工程的最新进展使各种材料替代品变得容易获得。为了确定最可靠的材料设置与有效的试验设计,一个连续的测试计划策略是首选。为了保证一个易于处理的统计机制的信息收集和更新,我们开发了明确的模型参数更新公式,通过近似贝叶斯推断。理论表明,我们的显式更新公式给出了一致的参数估计。仿真研究和算例分析表明,与其他设计方法相比,所提出的序贯选择方法可以显著提高确定最佳可靠性性能材料方案的概率。
2020-01-16 stat.ME
Variable Selection with ABC Bayesian Forests
在统计学中,很少有问题像在存在大量冗余协变量的情况下进行变量选择那样令人困惑。变量选择问题在诸如线性模型或其附加变体的参数环境中是最常见的。在这项工作中,我们放弃了线性模型框架,这可能是非常有害的,当协变量以非线性的方式影响结果,并转向基于树的方法进行变量选择。这种变量筛选传统上是通过修剪大树或通过基于一些重要性度量的变量排名来完成的。尽管在实践中大量使用,但从理论角度来看,这些特设选择规则尚未得到很好的理解。在这项工作中,我们设计了一个贝叶斯树为基础的概率方法,并表明,它是一致的变量选择时,回归表面是一个光滑的混合$p>n$协变量。这些结果是贝叶斯森林先验的第一个模型选择一致性结果。变量重要性的概率评估是可行的尖峰和板坯包装周围的总和树先验。从树上的后验分布中采样本质上是非常困难的。作为MCMC的替代方案,我们提出了ABC贝叶斯森林,一种新的ABC抽样方法的基础上,数据分裂,实现更高的ABC接受率。我们表明,该方法是强大的,成功地找到高边际包含概率的变量。我们的ABC算法提供了一个新的途径,在非参数设置的边缘可能性是棘手的近似的中值概率模型。
2021-02-24 stat.ME
Robust Bayesian model selection for heavy-tailed linear regression using finite mixtures
在本文中,我们提出了一种新的方法来执行重尾分布的线性模型的贝叶斯模型选择。我们考虑一个有限的混合分布模型的潜在变量,其中每个组成部分的混合物对应于一个可能的模型内的对称类的正态独立分布。当然,高斯模型是其中一种可能性。这允许基于每个模型的后验概率进行同时分析。推理是通过马尔可夫链蒙特卡罗-吉布斯抽样与大都会黑斯廷斯步骤的一类参数。模拟的例子突出了这种方法的优势相比,隔离分析的基础上任意选择的模型选择标准。给出了真实数据的示例,并介绍和讨论了对截尾线性回归的扩展。
2017-08-18 stat.ME
Discussion of "Data-driven confounder selection via Markov and Bayesian networks" by Jenny Häggström
在这个讨论中,我们考虑了为什么即使没有识别出因果效应参数,也要很好地估计因果效应参数,提出了在碰撞器存在下因果推断的部分识别方法,指出了双重鲁棒性的未被充分认识的优点,讨论了独立性检验与回归的相对困难,最后赞扬了Häggström对高维混杂的因果推断的探索,同时呼吁在这方面进行进一步的研究。
2017-10-31 stat.ME
Bayesian Variable Selection on Small Sample Trial Data via Adaptive Posterior-Informed Shrinkage Prior
University of Michigan(密歇根大学);Vertex Pharmaceutics Inc.(福泰制药公司)
针对小样本临床试验(如CGT、超罕见病领域)的变量选择需求,提出自适应后验信息收缩先验(APSP)贝叶斯方法,通过自适应借用外部信息提升效率并保持稳健性,模拟及CIT研究应用验证其优于传统方法。
2025-11-17 stat.ME
Spatial Knockoff Bayesian Variable Selection in Genome-Wide Association Studies
针对全基因组关联研究中高维变量选择的假阳性控制问题,提出融合knockoff方法、群体结构校正与空间高斯过程的贝叶斯变量选择模型,模拟和拟南芥数据分析验证其控错率、提效能且结果富集于已知基因。
2024-08-19 stat.ME
Estimation and selection for high-order Markov chains with Bayesian mixture transition distribution models
我们开发了两个模型的贝叶斯估计和选择高阶,离散状态马尔可夫链。两者都是基于混合转移分布,它构造了一个转移概率张量与一阶转移矩阵的概率的加法混合。我们证明了所提出的模型的两个用途:通过混合低阶过渡模型来近似高阶动态,以及通过稀疏概率向量的先验过规范和收缩来选择顺序/滞后。先验进一步将所有模型缩小到可识别和可解释的参数化,这对数据分析很有用。我们讨论了模型的属性,并通过仿真研究证明了它们的实用性。我们进一步应用该方法的数据分析,从高阶马尔可夫链文献和时间序列的粉红色鲑鱼在美国阿拉斯加州的小溪丰富。
2019-06-25 stat.ME
Empirical Likelihood Based Bayesian Variable Selection
经验似然是一种流行的非参数统计工具,不需要任何分布假设。在本文中,我们探讨了通过贝叶斯经验似然进行变量选择的可能性。从理论上证明了当先验分布满足一定的温和条件时,相应的贝叶斯经验似然估计是后验相合的,并且是变量选择相合的。作为特例,我们证明了贝叶斯经验似然LASSO和SCAD的先验满足这样的条件,从而可以以概率趋于1的方式识别参数的非零元素。此外,它是很容易验证,这些条件满足其他广泛使用的先验,如脊,弹性网和自适应LASSO。经验似然取决于需要通过数值求解非线性方程获得的参数。因此,后验分布不存在共轭先验,导致MCMC抽样算法在某些情况下收敛缓慢。为了解决这个问题,我们提出了一种新的方法,它使用一个近似分布的建议。计算结果表明,本文所用的例子快速收敛。我们使用模拟和真实数据分析来说明所提出的方法的优点。
2022-06-10 stat.ME