Bayesian Region Selection and Prediction in Poisson Regression with Spatially Dependent Global-Local Shrinkage Prior
Yale School of Public Health(耶鲁大学公共卫生学院);University of Arizona(亚利桑那大学)
本文提出一种新的全局-局部收缩先验,用于泊松回归中空间变量的选择与预测,结合条件自回归先验和超重尾先验,以处理空间依赖性和稀疏结构,提升预测精度。
2026-05-06 stat.AP stat.ME
High-dimensional regression and variable selection using CAR scores
变量选择是一个困难的问题,特别是在高维基因组数据的分析具有挑战性。在这里,我们介绍了CAR得分,一种新的和高度有效的标准变量排名的线性回归的基础上马氏解相关的解释变量。CAR评分提供了一个规范排序,鼓励对相关预测因子进行分组并降低对抗性变量的权重。它分解了解释的方差的比例,是边际相关和标准化回归系数之间的中间值。作为总体数量,任何优选的推断方案都可以用于其估计。使用模拟,我们证明了通过CAR分数进行变量选择是非常有效的,并且产生的预测误差和真阳性率和假阳性率与现代回归技术(如弹性网和boosting)相比毫不逊色。我们通过分析与糖尿病进展以及衰老对人脑基因表达的影响有关的数据来说明我们的方法。实现CAR评分回归的R包“care”可从CRAN获得。
2011-07-19 stat.AP stat.ME
Multivariate functional group sparse regression: functional predictor selection
在本文中,我们提出了方法的功能预测选择和光滑的功能系数估计同时在标量函数回归问题下的高维多元函数数据设置。特别是,我们开发了两种方法的功能组稀疏回归下的一般希尔伯特空间的无限维。我们证明了算法的收敛性和一致性的估计和选择(预言性质)在无限维Hilbert空间。仿真研究表明,该方法在函数系数的选择和估计方面都是有效的。功能磁共振成像(fMRI)的应用揭示了人类大脑中与ADHD和智商相关的区域。
2021-07-08 math.ST q-bio.NC stat.AP
A review and recommendations on variable selection methods in regression models for binary data
由于逻辑斯谛回归在医学、金融、经济及相关领域的广泛应用,其基本变量的选择至关重要。在本文中,我们探讨了四个主要类型(基于测试,基于惩罚,基于筛选,基于树)的频率变量选择方法在逻辑斯谛回归设置。这项工作的主要目标是为从业人员提供现有文献的全面概述。基本的假设和理论,以及它们的实现细节,也被详细描述。接下来,我们进行了一个彻底的模拟研究,以探讨在各种设置下的变量选择,系数估计,预测精度以及时间复杂度方面的15种不同的方法的性能。我们采取低,中,高维设置,并考虑不同的相关结构的协变量。一个真实的应用,使用高维基因表达数据,也包括在这项研究中,以进一步了解的有效性和一致性的方法。最后,根据我们在模拟数据和真实数据中的发现,我们为从业者提供了在各种情况下选择变量选择方法的建议。
2022-05-16 stat.AP stat.ME
Model selection criteria of the standard censored regression model based on the bootstrap sample augmentation mechanism
统计回归技术是探索随机现象潜在可能产生机理的一种非常重要的数据拟合工具。因此,模型选择或变量选择变得非常重要,以便识别对感兴趣的响应具有最佳解释效果的最合适的模型。本文讨论并比较了在有限观测信息条件下,基于Bootstrap的标准截尾回归模型(Tobit回归模型)的模型选择准则。蒙特卡罗数值结果表明,在观测信息不充分的情况下,基于Bootstrap样本扩充策略的模型选择准则的性能将优于Akaike信息准则(AIC)和Bayesian信息准则(BIC)等。同时,数值模拟实验进一步表明,由于数据信息不足(如删失率高、观测量有限等)而带来的模型辨识风险,可以通过增加Bootstrap样本扩充策略的科学计算成本来充分补偿.我们还将推荐的基于引导程序的模型选择标准应用于Tobit回归模型以拟合真实保真度数据集。
2020-03-24 stat.AP stat.CO stat.ME
Variable selection in convex quantile regression: L1-norm or L0-norm regularization?
维数灾难是非参数估计中公认的挑战。本文提出了一种新的L0-范数正则化方法,用于凸分位数和期望回归的子集变量选择。我们展示了如何使用混合整数规划来解决实践中提出的L0范数正则化方法,并建立了一个链接到常用的L1范数正则化方法。利用蒙特卡罗方法比较了L0-惩罚凸分位数和期望回归方法与L1-范数正则化方法在有限样本下的性能。该方法进一步应用于衡量OECD国家的可持续发展绩效,并实证分析了变量降维的准确性。仿真和应用结果表明,在多维空间中,L0范数正则化方法比L1范数正则化方法能更有效地解决维数灾难问题.
2021-07-07 stat.AP stat.ME
Macroeconomic Forecasting and Variable Selection with a Very Large Number of Predictors: A Penalized Regression Approach
本文研究了具有大量预测变量的折迭凹惩罚回归模型的宏观经济预测和变量选择问题。惩罚回归方法导致回归系数的稀疏估计,并且即使模型的维数远大于样本量也是适用的。本文的前半部分讨论了当模型表现出时间序列依赖性时,折叠凹惩罚回归的理论问题。特别地,我们证明了超高维时间依赖回归的预言不等式和预言性质。论文的后半部分使用两个激励实证应用程序显示了惩罚回归的有效性。第一个模型使用MIDAS回归框架,使用FRED-MD数据预测美国GDP,其中有1000多个协变量,而样本量最多为200。第二个研究如何以及惩罚回归筛选隐藏的投资组合,约40只股票从1800多个潜在的股票使用纽约证券交易所的股票价格数据。这两个应用程序表明,惩罚回归提供了显着的结果,在预测性能和变量选择。
2017-03-05 math.ST stat.AP stat.ME
Selection of link function in binary regression: A case-study with world happiness report on immigration
二元回归关联函数的选择及其对相关推理的影响是数据分析中的一个重要问题。考虑到一些流行的分类评估指标,我们规定了一种新的数据驱动的方法来搜索相同的。2018年世界幸福报告的案例研究特别提到移民,以证明规定的常规的效用。
2019-10-17 stat.AP
Variable selection in Functional Additive Regression Models
本文考虑了函数变量可能与其他类型的变量(标量,多元,方向等)混合的情况下,回归模型中的变量选择问题。我们的建议从一个简单的空模型开始,并根据\cite{Szekely2007}提出的距离相关性,依次选择一个新的变量纳入模型。为了简单起见,本文仅使用可加模型。然而,所提出的算法可以评估贡献的类型(线性、非线性、.)每个变量。该算法已显示出相当有前途的结果时,应用于模拟和真实数据集。
2018-04-11 stat.AP stat.CO stat.ME
Inference with selection, varying population size and evolving population structure: Application of ABC to a forward-backward coalescent process with interactions
遗传数据通常用于推断人口统计历史和变化或检测选择中的基因。推理方法通常基于做出各种强有力假设的模型:人口统计学和种群结构假设为\textit{a priori}已知,种群遗传组成的进化不影响人口统计学和种群结构,并且遗传菌株之间和内部不存在选择或相互作用。本文提出了一个具有竞争作用和无性生殖的随机生灭模型。我们开发了一个生态,人口和遗传参数的推理程序。我们首先展示了遗传多样性〈动〉性<动>和系谱是如何与出生率和死亡率相关的,以及个体如何在品系内和品系之间竞争。{This引导我们提出一个原始的遗传模型,具有特征结构和相互作用,允许多个合并。其次,我们开发了一个近似贝叶斯计算框架来使用我们的模型分析遗传数据。我们应用我们的程序从玩具模型的模拟数据,并通过分析从中亚人群中采样的Y染色体上的微卫星的遗传多样性〈动〉<动>的真实数据,以测试是否不同的社会组织表现出显着不同的生育能力。
2020-07-25 math.PR q-bio.PE stat.AP
Scalable model selection for spatial additive mixed modeling: application to crime analysis
空间开放数据集的快速增长导致了对适应大数据中空间和非空间效应的回归方法的巨大需求。回归模型选择对于稳定估计灵活的回归模型尤为重要。然而,常规方法对于大样本可能是缓慢的。因此,我们开发了一种快速实用的空间回归模型的模型选择方法,重点是选择系数类型,包括常数,空间变化和非空间变化系数。通过降维用小内积代替数据矩阵的预处理方法大大加快了模型选择的计算速度。数值实验表明,我们的方法选择模型准确,计算效率高,突出了空间回归背景下的模型选择的重要性。然后,本方法适用于开放的数据,调查当地的因素影响犯罪在日本。结果表明,我们的方法是有用的,不仅选择影响犯罪风险的因素,但也预测犯罪事件。这种可扩展的模型选择将是在大数据时代适当指定灵活和大规模空间回归模型的关键。所开发的模型选择方法在R包spmoran中实现。
2020-10-01 stat.AP
Bayesian Variable Selection for Cox Regression Model with Spatially Varying Coefficients with Applications to Louisiana Respiratory Cancer Data
Cox回归模型是生存分析中常用的模型。在公共卫生研究中,临床数据通常从不同地点的医疗服务提供者收集。协变量对特定疾病生存率的影响存在很大的地理差异。本文研究了空间变系数Cox回归模型的变量选择问题。我们提出了一个贝叶斯分层模型,它采用了马蹄事先稀疏和点质量混合之前,以确定是否回归系数是空间变化的。一个有效的两阶段计算方法用于后验推理和变量选择。它本质上是应用现有的方法来最大化部分的Cox模型的独立的网站第一,然后应用MCMC算法的变量选择的基础上的第一阶段的结果。进行了广泛的模拟研究,以检查所提出的方法的经验性能。最后,我们应用所提出的方法来分析一个真实的数据集呼吸道癌症在路易斯安那州的SEER计划。
2021-07-28 stat.AP
Simultaneous Variable Selection, Clustering, and Smoothing in Function on Scalar Regression
我们解决的问题,多重共线性的功能上的标量回归模型,通过使用事先同时选择,集群,并平滑功能的影响。我们的方法对高度相关的预测因子的影响进行分组,在不从模型中删除相关预测因子的情况下进行降维。我们通过仿真研究验证了我们的方法,表现出优越的性能相对于现有的降维方法在功能上的标量文献。我们还展示了使用我们的模型的特定年龄的生育率从联合国性别信息数据库的数据集。
2019-06-25 stat.AP
Spline Regression with Automatic Knot Selection
针对样条回归的节点选择问题,提出基于自适应岭惩罚似然的A-spline方法,可生成高可解释性的稀疏样条回归模型,预测性能与传统惩罚样条方法相当,且配套有公开的R语言实现。
2018-08-06 stat.AP stat.CO
A Multi-objective Exploratory Procedure for Regression Model Selection
变量选择被认为是统计建模中最关键的步骤之一。工程和社会科学中遇到的问题通常具有解释变量过多、非线性和回归变量之间未知的相互依赖性等特点。另一个困难是,分析人员可能对变量的相对重要性知之甚少或一无所知。为了提供一种稳健的模型选择方法,本文介绍了变量选择的多目标遗传算法(MOGA-VS),它为用户提供了一组最优的回归模型,为给定的数据集。该算法将回归问题视为一个双目标任务,并通过优先选择具有较少回归系数和较好拟合优度的模型来探索Pareto最优(最佳子集)模型。可以基于样本内或泛化误差最小化来执行模型探索。建议分两步进行模型选择。首先,我们生成帕累托最优回归模型的边界,通过消除主导模型,没有任何用户干预。其次,执行决策过程,允许用户使用可视化和简单的度量来选择最喜欢的模型。该方法已被评估最近公布的真实数据集在美国境内的社区和犯罪。
2016-07-13 cs.NE stat.AP stat.CO