A Robust Consistent Information Criterion for Model Selection based on Empirical Likelihood
传统的基于似然信息的模型选择准则依赖于数据的分布假设。然而,对于在许多科学领域中越来越多地可用的复杂数据,其基本分布的规格证明是具有挑战性的,并且现有的标准可能是有限的,并且不足以处理各种模型选择问题。在这里,我们提出了一个强大的和一致的模型选择标准的基础上的经验似然函数,这是数据驱动的。特别地,该框架采用可以通过求解外部估计方程来实现的插件估计器,而不限于经验似然,这避免了潜在的计算收敛问题,并且允许通用应用,例如广义线性模型、广义估计方程、惩罚回归等。我们提出的准则的制定最初是来自于渐近展开的边际似然性,但更重要的是,一致的模型选择属性是在一般的背景下建立的。广泛的仿真研究证实了该建议的性能优于传统的模型选择标准。最后,通过社区动脉粥样硬化风险研究的应用,说明了该框架的实用价值。
2020-06-23 stat.ME
Robust Estimation and Variable Selection for the Accelerated Failure Time Model
本文考虑了癌症患者生存时间的鲁棒建模。准确的预测可以有助于制定治疗和护理策略。针对右删失生存数据下的加速失效时间模型,提出了一种统一的期望最大化方法,并结合L1-范数罚函数进行变量选择和参数估计.我们的方法可以使用一般的损失函数,并减少到著名的巴克利-詹姆斯方法时,平方误差损失没有正则化。为了减轻在实际应用中的离群值和重尾噪声的影响,我们提倡在我们提出的框架下使用鲁棒损失函数。仿真研究进行了评估所提出的方法与不同的损失函数的性能,并应用到卵巢癌的研究。同时,我们扩展了我们的方法,将协变量的组结构。
2019-12-20 stat.ME
Trimming Stability Selection increases variable selection robustness
污染会严重扭曲估计,除非估计程序是适当的强大。这是一个众所周知的问题,并已在稳健统计中得到解决,然而,污染和扭曲的变量选择的关系在文献中很少被考虑。至于变量选择,已经提出了许多稀疏模型选择的方法,包括稳定性选择,这是一种基于变量选择算法的元算法,以免疫特定的数据配置。我们引入了变量选择细分点,量化的情况下,分别。必须被污染的细胞,以便检测不到相关变量。我们发现,特定的离群配置可以完全误导模型选择,并认为为什么即使是细胞明智的强大的方法不能解决这个问题。我们将变量选择崩溃点与恢复相结合,得到稳定性选择崩溃点,该崩溃点量化了稳定性选择的鲁棒性。我们提出了一个修剪的稳定性选择,它只聚合模型的最低样本损失,以便,从理论上讲,模型计算严重污染的重采样应该被修剪掉。一个广泛的模拟研究与非鲁棒回归和分类算法,以及稀疏最小二乘法揭示了我们的方法,以提高模型选择的鲁棒性,以及使用非鲁棒算法的变量选择的脆弱性,即使是一个非常小的细胞明智的污染率的潜力。
2022-07-14 math.ST stat.ME stat.TH
Rank-based Lasso -- efficient methods for high-dimensional robust model selection
我们考虑在大数据库中识别重要预测因子的问题,其中响应变量依赖于解释变量的线性组合,通过未知的链接函数,被来自未知分布的噪声破坏。我们利用自然,稳健和有效的方法,它依赖于用它们的秩替换响应变量的值,然后通过使用众所周知的Lasso来识别重要的预测因子。我们提供了新的一致性结果,建议的程序(称为,RankLasso "),并提出其阈值和自适应版本,扩大其应用范围。我们的理论结果表明,这些修改可以识别的一组相关的预测下更广泛的数据生成的情况下,比常规的RankLasso。理论结果得到了仿真研究和实际数据分析的支持,表明即使误差项来自柯西分布且连接函数是非线性的,我们的方法也能正确识别相关的预测因子。它们还证明了在预测因子基本相关的情况下RankLasso修改版本的优越性。数值研究还表明,RankLasso在模型选择方面的表现明显优于LADLasso,LADLasso是一种成熟的稳健模型选择方法。
2019-11-16 stat.ME
Jointly Robust Prior for Gaussian Stochastic Process in Emulation, Calibration and Variable Selection
高斯随机过程(GaSP)被广泛应用于不确定度量化的两个基本问题,即数学模型的仿真和校正。一些客观的先验,如参考先验,研究的背景下,仿真(近似)计算昂贵的数学模型。在这项工作中,我们引入了一类新的先验知识,称为联合鲁棒先验知识,用于仿真和校准。该先验被设计为保持来自参考先验的各种优点。在仿真中,联合鲁棒先验具有与参考先验相适应的尾部衰减率,并且在参数估计中比参考先验计算简单。此外,联合鲁棒先验的边际后验模式估计可以分离数学模型中的影响输入和惰性输入,而参考先验不具有这一性质。我们建立了一个大类的先验在校准后的适当性,包括在一般情况下的参考先验和联合鲁棒先验,但联合鲁棒先验是首选,因为校准的数学模型通常预测的现实。联合鲁棒先验被用作两个新的R包中的默认先验,称为“RobustGaSP”和“RobustCalibration”,可在CRAN上分别用于仿真和校准。
2018-09-07 stat.ME
Doubly robust and computationally efficient high-dimensional variable selection
本文提出tPCM方法,利用联合预测变量分布估计和单次全变量拟合重建所有PCM检验,实现高维变量选择的计算加速,同时保持双重稳健性和检验功效。
2025-11-07 stat.ME
Doubly Robust Inference when Combining Probability and Non-probability Samples with High-dimensional Data
非概率样本在调查统计中越来越受欢迎,但可能存在选择偏差,限制了结果对目标人群的普遍性。我们考虑将一个非概率样本与一个概率样本相结合,该概率样本提供了目标人群的高维代表性协变量信息。我们提出了一个变量选择和有限总体推理的两步方法。在第一步中,我们使用惩罚估计方程与折叠凹罚选择的重要变量的抽样得分选择到非概率样本和结果模型。我们证明了惩罚估计方程方法对一般概率样本具有选择一致性。主要的技术障碍是由于样本在有限总体框架下可能具有依赖性。为了克服这一挑战,我们构造鞅,使我们能够应用伯恩斯坦集中不等式的鞅。在第二步中,我们专注于有限总体均值的双重稳健估计,并通过最小化双重稳健估计的渐近平方偏差来重新估计滋扰模型参数。这种估计策略减轻了可能的第一步选择错误,并使双鲁棒估计root-n一致,如果正确指定的抽样概率或结果模型。
2019-08-23 stat.ME
Penalized Maximum Tangent Likelihood Estimation and Robust Variable Selection
本文介绍了一类新的均值回归估计--惩罚最大正切似然估计--用于高维回归估计和变量选择。我们首先解释的关键成分,最大正切似然估计(MTE)的动机,并建立其渐近性质。我们进一步提出了一个惩罚的MTE变量选择,并证明了它是$\sqrt{n}$ -一致的,享有的oracle属性。所提出的估计类包括惩罚$\ell_2$距离、惩罚指数平方损失、惩罚最小二乘和惩罚最小二乘作为特例,可以看作是最小Kullback-Leibler距离估计和最小$\ell_2$距离估计的混合.此外,我们认为提出的估计类下的高维设置时,变量的数量$d$可以指数增长的样本量$n$,并表明,整个类的估计(包括上述特殊情况)可以达到最佳的收敛速度的顺序为$\sqrt{\ln(d)/n}$。最后,仿真研究和实际数据分析证明了惩罚MTE的优点。
2017-08-21 stat.ME
Robust Variable Selection under Cellwise Contamination
针对单元污染下传统稳健方法失效的问题,提出一种基于成对稳健估计与自适应Lasso的变量选择方法,在常规和高维场景下均具稳健性,并在高污染率、中等离群值幅度下表现优于现有方法。
2023-09-04 stat.CO stat.ME
Family-wise error rate control in Gaussian graphical model selection via Distributionally Robust Optimization
最近,基于分布鲁棒优化(DRO)框架的精度矩阵估计的特殊情况已被证明是等价于图形套索。从这个公式,用于选择正则化项,即,用于图形化模型选择。在这项工作中,我们建立了一个理论上的连接之间的置信水平的图形模型选择通过DRO制定和渐近的家庭明智的错误率估计假边缘。仿真实验和实际数据分析表明,即使在有限样本的渐近族明智的错误率控制行为的效用。
2022-01-28 stat.AP stat.ME
Robust Variable Selection for High-dimensional Regression with Missing Data and Measurement Errors
针对缺失数据和测量误差导致的数据分布混乱问题,提出带调节参数的指数损失函数,结合逆概率加权、加性误差模型与Atan惩罚实现稳健变量选择,经模拟与乳腺癌数据验证有效。
2025-06-29 stat.ME stat.ML
Robust Variable Selection and Estimation Via Adaptive Elastic Net S-Estimators for Linear Regression
针对高维回归中重尾误差和异常值问题,提出自适应PENSE稳健正则化估计量,实现同时变量选择与系数估计,具备Oracle性质,在污染和干净样本中均表现优异。
2021-07-20 stat.ME stat.ML
Robust Ultra-High-Dimensional Variable Selection With Correlated Structure Using Group Testing
University of Maryland Baltimore Marlene & Stewart Greenebaum Comprehensive Cancer Center(马里兰大学巴尔的摩分校马伦和斯蒂文·格林堡综合癌症中心);Case Western Reserve University(凯斯西储大学);University of Florida(佛罗里达大学)
本文提出了一种基于群体测试的鲁棒超高维变量选择方法,通过数据驱动的组内聚类和稳健统计方法,在数据污染和非正态条件下均表现出色,适用于基因组生物标志物发现。
2026-02-06 cs.LG stat.ME
Robust Lasso-Zero for sparse corruption and model selection with missing covariates
我们提出了鲁棒Lasso零,扩展的Lasso零方法,最初介绍了稀疏线性模型,稀疏腐败问题。我们给出了一个稍微简化的版本的估计,被称为judgeholded正义追求的参数的符号恢复理论保证。稳健Lasso-Zero用于协变量中缺失值的变量选择。除了不需要为协变量指定模型,也不需要估计它们的协方差阵或噪声方差之外,该方法具有处理非随机缺失值而不指定参数模型的巨大优势。数值实验和医学应用强调了鲁棒拉索零在这样的背景下,几乎没有可用的竞争对手的相关性。该方法易于使用,并在R库lass 0中实现。
2022-03-23 stat.AP stat.ME stat.ML
Robust Dual-Regularized Variable Selection under Outlier Contamination
Case Western Reserve University(凯斯西储大学);University of North Dakota(北达科他大学);CNRS UMR 6205, Univ Bretagne Sud(法国国家科学研究中心联合研究实验室第6205号,南布列塔尼大学)
针对外点污染下单指标模型的变量选择问题,提出两阶段稀疏中位数梯度外积(smOPG)方法,结合中位数回归与局部加权实现鲁棒性,模拟与实证均优于现有方法。
2026-09-21 stat.CO stat.ME stat.ML
Robust LassoNet: Enhancing Feature Selection in Neural Networks via Robust Loss Functions
针对神经网络特征选择对异常值敏感的问题,提出鲁棒LassoNet,通过引入Huber、Cauchy等鲁棒损失函数,在保持优化框架的同时提升污染数据下的预测与特征选择性能。
2026-10-12 cs.LG math.PR stat.ML
Robust Parametric Classification and Variable Selection by a Minimum Distance Criterion
我们研究了一种基于最小距离准则的鲁棒惩罚逻辑斯谛回归算法。有影响力的离群值通常与参数向量估计的爆炸相关联,但是在标准逻辑斯谛回归的上下文中,由于离群值引起的偏差总是导致参数向量内爆,即向零向量收缩。因此,在存在离群值的情况下,使用LASSO类罚分进行变量选择可能导致相关协变量的漏检。我们表明,通过选择一个最小的距离标准与弹性网惩罚,我们可以同时找到一个简约的模型,避免估计内爆,即使在重要的小$n$大$p$的情况下存在许多离群值。使用MM算法的实现和性能评估。
2012-09-29 stat.CO stat.ME stat.ML
Robust variable selection for model-based learning in presence of adulteration
在执行监督学习时识别最具鉴别力的特征的问题已经被广泛研究。特别是,已经提出了几种基于模型的分类中的变量选择方法。令人惊讶的是,离群值和错误标记的单位对确定相关预测因子的影响受到的关注要少得多,文献中几乎没有专门的方法。在本文中,我们介绍了两个强大的变量选择方法:一个是嵌入一个强大的分类器内的贪婪向前选择过程和其他基于理论的极大似然估计和无关性。前者将特征识别问题转化为一个模型选择问题,而后者则将相关子集视为待估计的模型参数。所提出的方法的好处,与非鲁棒性的解决方案相比,通过合成数据的实验进行评估。污染的光谱数据的高维分类问题的应用程序的结论。
2020-12-15 stat.AP
Robust variable selection for partially linear additive models
针对部分线性可加模型线性分量的稀疏变量选择及异常值干扰问题,提出结合可加分量稳健初估、MM-回归与SCAD惩罚的方法,证明其一致性与收敛速度,实验验证其优于经典方法。
2024-01-31 math.ST stat.ME stat.TH
Robust adaptive variable selection in ultra-high dimensional linear regression models
本文针对超高维线性回归中的数据污染问题,提出基于密度幂散度与自适应LASSO惩罚的鲁棒变量选择方法,证明其具有oracle性质、相合性和渐近正态性,并成功应用于考古玻璃光谱数据分析。
2023-09-20 math.ST stat.ME stat.TH
Robust Grouped Variable Selection Using Distributionally Robust Optimization
Boston University(波士顿大学)
我们提出了一个分布鲁棒优化(DRO)制定与Wasserstein为基础的不确定性集选择分组变量扰动下的数据线性回归和分类问题。由此产生的模型提供了鲁棒性的解释分组最小绝对收缩和选择算子(GLASSO)算法,并突出了鲁棒性和正则化之间的联系。我们证明了样本外损失和估计偏差的概率界,并建立了我们的估计的分组效应,表明在同一组中的系数收敛到相同的值,协变量之间的样本相关性接近1。基于此结果,我们提出使用谱聚类算法与高斯相似性函数进行分组的预测,这使得我们的方法适用于不知道的分组结构的先验。我们将我们的方法与一系列替代方案进行比较,并在合成数据和与手术相关的医疗记录的真实大型数据集上提供了广泛的数值结果,表明我们的公式产生了一个可解释的和简约的模型,该模型鼓励在组水平上稀疏,并且能够在存在离群值的情况下实现更好的预测和估计性能。
2020-06-10 cs.LG stat.ML
Data-driven Optimal Cost Selection for Distributionally Robust Optimization
最近,(Blanchet,Kang和Murhy 2016,Blanchet和Kang 2017)表明,几种机器学习算法,如平方根Lasso,支持向量机和正则化逻辑斯谛回归等,可以精确地表示为分布式鲁棒优化(DRO)问题。分布不确定性被定义为以经验分布为中心的邻域。我们提出了一种以自然数据驱动的方式学习这种邻域的方法。我们严格地表明,我们的框架包括自适应正则化作为一个特殊的情况。此外,我们的经验表明,我们提出的方法是能够提高广泛的流行的机器学习估计。
2019-03-29 stat.ML
Robust variable selection in the framework of classification with label noise and outliers: applications to spectroscopic data in agri-food
高维光谱数据的分类是分析化学中的一项常见任务。支持向量机(SVM)和偏最小二乘判别分析(PLS-DA)等成熟的程序是解决这种监督学习问题的最常用方法。尽管如此,这些模型的解释有时仍然很困难,并且通常采用基于特征选择的解决方案,因为它们导致自动识别信息量最大的波长。不幸的是,对于一些微妙的应用,如食品真实性,错误标记和掺假的光谱发生在校准和/或验证集,对模型的开发,其预测精度和鲁棒性的显着影响。受这些问题的启发,本文提出了一种鲁棒的基于模型的方法,同时进行变量选择,离群值和标签噪声检测。我们证明了我们的建议在处理三个农业食品光谱研究,其中几种形式的扰动被认为是有效的。我们的方法成功地降低了问题的复杂性,识别异常光谱,并考虑到选择的波长数量非常少,达到有竞争力的预测精度。
2021-01-28 stat.AP
Robust VIF regression with application to variable selection in large data sets
越来越多的机构和公司使用复杂和自动化的数据收集手段,导致数据集极其庞大。当大量协变量可能解释感兴趣的响应变量时,回归中的子集选择是必不可少的。最近的统计文献已经看到了新的选择方法的出现,这些方法在实现(计算速度)和统计最优性(例如,预测误差最小化)。全局方法如Mallow的$C_p$已被序贯方法如逐步回归所取代。最近,流向回归,比前者更快,已经出现。最近提出的基于方差膨胀因子(VIF)的流向回归方法是有前途的,但其基于最小二乘的实现使其容易受到离群值不可避免地在这样大的数据集。这种鲁棒性的缺乏可能导致差的和次优的特征选择。在我们的案例中,我们试图利用经济和人口变量来预测个人的教育程度。我们展示了经典的VIF如何执行这项任务,一个强大的程序是必要的政策制定者。本文提出了一种基于快速鲁棒估计的鲁棒VIF回归,它继承了经典VIF在不存在离群值的情况下的所有良好特性,但在存在离群值的情况下也继续表现良好。
2013-04-19 stat.AP
Robust Best Subset Selection via Fast Approximate MM-Estimation
The University of Sydney(悉尼大学);Macquarie University(麦考瑞大学)
提出FAMM方法,通过全数据MM估计的权重进行加权最小二乘拟合,在保持模型选择性能的同时大幅降低计算成本。
2026-07-27 stat.ME
On Selection Criteria for the Tuning Parameter in Robust Divergence
虽然诸如密度功率发散和$γ$发散之类的鲁棒发散有助于在存在离群值的情况下进行鲁棒统计推断,但是在经验法则中选择控制鲁棒程度的调谐参数,这可能导致低效的推断。在这里,我们提出了一个选择标准的基础上的Hyvarinen分数的渐近近似的非归一化模型定义的强大的分歧。建议的选择标准只需要一个假设的密度函数的一阶和二阶偏导数的观测,这可以很容易地计算,无论参数的数量。我们通过使用正态分布和正则化线性回归的数值研究证明了所提出的方法的实用性。
2021-06-22 stat.ME
Distributionally Robust Mean-Variance Portfolio Selection with Wasserstein Distances
我们重新Markowitz的均值-方差投资组合选择模型,考虑一个分布稳健的版本,其中分布不确定性的区域是周围的经验措施和概率测度之间的差异是由所谓的瓦瑟斯坦距离。我们把这个问题归结为一个带有额外正则化项的经验方差最小化问题。此外,我们扩展了最近的推理方法,以选择分布不确定性的大小以及相关的强大的目标回报率在数据驱动的方式。
2018-02-13 stat.ME
Variable Selection for Doubly Robust Causal Inference
混杂控制对于基于观察性研究的因果推断来说至关重要,但也具有挑战性。在典型的无混淆假设下,增广逆概率加权(AIPW)因其双重稳健性而被广泛用于估计平均因果效应(ACE),因为它依赖于正确指定的倾向得分模型或结果均值模型。为了确保关键假设成立,通常会努力收集足够丰富的预处理变量集,从而使变量选择势在必行。众所周知,为准确预测而针对倾向得分的变量选择可以通过包括工具变量来产生可变ACE估计量。因此,许多最近的工作建议选择所有的结果预测混杂控制和有效的估计。本文表明,AIPW估计与变量选择的目标是有效的估计可能会失去理想的双重鲁棒性。相反,我们建议控制任何协变量的倾向得分模型,该协变量是治疗或结局或两者的预测因子,这保留了AIPW估计量的双重稳健性。利用这一原则,我们提出了一个两阶段的过程与惩罚变量的选择和AIPW估计估计。我们所提出的程序的好处,从理想的双重鲁棒性。我们评估有限样本性能的AIPW估计与各种变量的选择标准,通过模拟和应用。
2023-01-26 stat.ME
A robust Bayesian analysis of variable selection under prior ignorance
我们提出了一个谨慎的贝叶斯变量选择程序,通过调查的敏感性分层模型,其中的回归系数指定的穗和板坯先验。我们利用潜变量来理解协变量的重要性。这些潜变量还允许我们获得模型空间的大小,这是高维问题的一个重要方面。在我们的方法中,而不是固定一个单一的先验,我们采用了一种特定类型的鲁棒贝叶斯分析,在那里我们考虑一组先验在同一个参数的家庭,以指定这些潜变量的选择概率。我们通过考虑一组预期的先验选择概率来实现这一点,这使我们能够进行敏感性分析,以了解先验启发对变量选择的影响。敏感性分析为我们提供了一套后验的回归系数以及选择指标,我们表明,后验概率的模型选择概率是单调的选择概率的先验期望。我们还分析了合成和现实生活中的数据集,以说明我们谨慎的变量选择方法,并将其与其他知名的方法进行比较。
2022-05-03 stat.ME
Ultra-high Dimensional Variable Selection for Doubly Robust Causal Inference
因果推断越来越依赖于具有丰富协变量信息的观察性研究。为了建立易于处理的因果过程,如双稳健估计,必须首先从高维甚至超高维数据中提取重要特征。在本文中,我们提出了因果球筛选混杂选择从现代超高维数据集。与常见的预测建模变量选择任务不同,我们的混杂因素选择程序旨在控制混杂因素,同时提高因果效应估计的效率。以往的经验和理论研究建议排除治疗的原因,不是混杂因素。受这些结果的启发,我们的目标是在倾向得分和结果回归模型中保留所有结果的预测因子。我们的建议的一个显着特点是,我们使用一个结果模型的自由程序的倾向得分模型选择,从而保持双重稳健性的因果效应估计。理论分析表明,该方法具有模型选择一致性和逐点正态性等性质。合成和真实数据分析表明,我们的建议表现良好,与现有的方法在一系列现实的设置。本文所用的数据来自阿尔茨海默病神经影像学倡议(ADNI)数据库。
2022-02-06 stat.ME
Doubly Robust Feature Selection with Mean and Variance Outlier Detection and Oracle Properties
我们提出了一个通用的方法来处理数据污染,可能会破坏性能的特征选择和估计过程的高维线性模型。具体来说,我们认为共同出现的均值漂移和方差膨胀离群值,这可以建模为额外的固定和随机组件,分别独立评估。我们的建议执行特征选择,同时检测和降低方差膨胀离群值的权重,检测和排除均值漂移离群值,并保留具有全权重的非离群情况。特征选择和均值漂移离群值检测是通过一类鲁棒的非凹惩罚方法进行的。方差膨胀离群值检测是基于惩罚的限制后验模式。由此产生的方法满足一个强大的Oracle属性的特征选择中存在的数据污染-这使得功能的数量以指数方式增加的样本量-和检测真正离群的情况下,每种类型的渐近概率1。这提供了高击穿点和效率之间的最佳折衷。计算效率的启发式程序。我们通过广泛的模拟研究和实际应用说明了我们的建议的有限样本性能。
2021-06-22 stat.ME
Robust model selection in generalized linear models
本文将Mueller和Welsh(2005; JASA)提出的线性回归模型的稳健模型选择方法推广到广义线性模型(包括Logistic和其他二元回归模型、Poisson回归和Gamma回归模型)。与Mueller和Welsh(2005)一样,我们将样本拟合的鲁棒惩罚度量与样本外预测能力的鲁棒度量相结合,该样本外预测能力使用后分层m-out-of-n bootstrap进行估计。一个关键的想法是,该方法可以用来比较不同的估计(鲁棒和非鲁棒)以及不同的模型。即使专门回到线性回归模型,本文提出的方法改进了Mueller和Welsh(2005)。特别是,我们使用了一个新的偏差调整自助估计,避免了需要中心的解释变量,并包括在每个模型中的截距。我们还使用了比Mueller和Welsh(2005)更复杂的参数来建立基本单调性条件。
2007-11-15 stat.ME
Robust model selection using likelihood as data
University of Connecticut(康涅狄格大学);Harvard T.H. Chan School of Public Health(哈佛陈曾熙公共卫生学院)
本文提出基于似然值建模的稳健模型选择方法,通过估计和量化似然值的期望来提供校准的推断,以应对设定错误情况下的模型选择问题。
2026-03-07 stat.ME
Robust Bayesian Nonparametric Variable Selection for Linear Regression
钉板和马蹄回归可以说是最流行的贝叶斯变量选择方法的线性回归模型。然而,如果数据中存在离群值和异方差,则其性能可能会恶化,这是许多现实世界统计和机器学习应用中的常见特征。在这项工作中,我们提出了一个贝叶斯非参数方法线性回归,执行变量选择,同时考虑离群值和异方差。我们提出的模型是一个狄利克雷过程尺度混合模型的优点,我们可以得到完整的条件分布的所有参数在封闭的形式,从而产生一个有效的吉布斯采样后验推理的一个实例。此外,我们提出了如何扩展模型,以考虑重尾的响应变量。该模型的性能进行了测试,对竞争算法的合成和真实世界的数据集。
2022-10-19 stat.ME
Robust Bayesian model selection for heavy-tailed linear regression using finite mixtures
在本文中,我们提出了一种新的方法来执行重尾分布的线性模型的贝叶斯模型选择。我们考虑一个有限的混合分布模型的潜在变量,其中每个组成部分的混合物对应于一个可能的模型内的对称类的正态独立分布。当然,高斯模型是其中一种可能性。这允许基于每个模型的后验概率进行同时分析。推理是通过马尔可夫链蒙特卡罗-吉布斯抽样与大都会黑斯廷斯步骤的一类参数。模拟的例子突出了这种方法的优势相比,隔离分析的基础上任意选择的模型选择标准。给出了真实数据的示例,并介绍和讨论了对截尾线性回归的扩展。
2017-08-18 stat.ME
Robust Multi-Model Subset Selection
Department of Statistics, University of British Columbia(不列颠哥伦比亚大学统计系);Department of Biomedical Informatics, Harvard Medical School(哈佛医学院生物医学信息学系)
本文提出鲁棒多模型子集选择(RMSS)方法,通过生成抵御异常值的稀疏多样化预测模型集成,利用 $ \ell_0 $ 优化算法学习,并确立有限样本崩溃点,在合成与真实数据上优于单模型方法。
2025-09-16 stat.ME
Robust Bayesian high-dimensional variable selection and inference with the horseshoe family of priors
针对重尾误差下高维稳健回归的推断难题,本文构建采用 horseshoe 先验族和高效 Gibbs 抽样的贝叶斯层次模型,证明其在选择、估计与可信区间推断上优于替代方法。
2025-07-22 stat.ME
Robust domain selection for functional data via interval-wise testing and effect size mapping
University of Texas at San Antonio(德克萨斯大学圣安东尼奥分校);Virginia Tech(弗吉尼亚理工大学)
本文提出一种鲁棒域选择方法,通过区间检验和效应量热图识别功能数据中具有不同位置参数行为的子区间,提升临床应用中的解释性。
2026-03-25 stat.ME
A Doubly Robust Framework for Addressing Outcome-Dependent Selection Bias in Multi-Cohort EHR Studies
University of Michigan(密歇根大学);Yale School of Public Health(耶鲁大学公共卫生学院)
本文提出了一种双重稳健方法,用于处理多队列EHR研究中的结果依赖性选择偏倚问题,通过整合多队列数据和外部概率样本,提高了估计的准确性。
2026-02-10 stat.ME
Robust Bayes Acts under Prior Perturbations: Contamination, Stability, and Selection Paths
Lancaster University Leipzig(莱斯特大学莱比锡分校)
本文提出一个量化框架,评估在模型不确定性下有限决策问题中贝叶斯最优决策的稳健性,引入了稳健半径和污染需求两个稳定性概念,并通过线性规划和二分法计算,提出成本调整的稳定性标准,分析了参数变化下的决策选择路径。
2026-05-11 econ.TH stat.ME
Robust Hypothesis Testing and Model Selection for Parametric Proportional Hazard Regression Models
半参数Cox比例风险回归模型在许多应用科学领域中得到了广泛的应用。然而,一个完全参数的比例风险模型,如果适当的假设,往往可以导致更有效的推理。为了解决传统的极大似然估计的极端非鲁棒性,在这种完全参数比例风险模型下的数据中存在离群值,最近提出了一种稳健估计方法,扩展了最小密度幂散度估计(MDPDE)的概念。本文研究了参数比例风险模型下的统计推断问题,并利用MDPDE方法建立了稳健的Wald型假设检验和模型选择方法。我们还得到了必要的渐近结果,用于构造一般复合假设的检验程序,并研究其渐近功效。通过适当的影响函数分析,从理论上研究了所声称的鲁棒性。我们已经研究了有限样本水平和权力的建议MDPDE基于Wald型测试通过广泛的模拟,比较也与现有的半参数方法。文中还讨论了鲁棒整定参数的选取问题。最后通过三个有趣的实际数据例子说明了所提出的鲁棒性测试和模型选择程序的实际用途。
2020-09-26 stat.AP stat.ME
New Additive OCBA Procedures for Robust Ranking and Selection
Fudan University(复旦大学);INSEAD(欧洲工商管理学院);University of Minnesota(明尼苏达大学)
本文针对鲁棒排序与选择问题,基于PICS加性上界推导出渐近最优预算分配方案,提出新的序贯OCBA程序,并通过数值实验验证其优于现有方法。
2025-01-18 stat.ME stat.ML
Robust model selection between population growth and multiple merger coalescents
我们研究了生物混杂因素对人口增长的金曼聚结和同时多个合并的Xi聚结之间的模型选择问题的影响。我们使用一个低维的,计算易处理的汇总统计量,被称为单尾统计量,进行近似似然比测试这些模型类之间。单尾统计已被证明是区分它们之间的高功率在简单的设置中性进化,panmictic人口没有重组。我们扩展这项工作表明,神秘的重组和选择不减少测试的力量,但人口结构的错误。此外,我们证明了单尾统计也可以解决更具挑战性的模型选择问题之间的多个合并,由于选择性扫描,多个合并,由于高繁殖力与中等功率高达30%。
2019-03-05 q-bio.PE stat.ME
GSSMD: New metric for robust and interpretable assay quality assessment and hit selection
在高通量筛选(HTS)活动中,Z '因子和严格标准化平均差(SSMD)通常用于评估测定的质量和选择命中。然而,这些措施是脆弱的离群值和他们的表现是高度敏感的背景分布。在这里,我们提出了一种替代措施,测定质量评估和命中选择。所提出的方法是一个非参数的广义变体SSMD(GSSMD)。在本文中,我们已经表明,所提出的方法提供了更强大的和直观的方法的测定质量评估和命中选择。
2020-01-20 cs.IT math.IT q-bio.QM
Optimal Model Selection for Conformalized Robust Optimization
Nankai University(南开大学);Shanghai Jiao Tong University(上海交通大学);Jiangsu Normal University(江苏师范大学)
本文提出CROMS框架,通过最优模型选择实现稳健优化与决策风险最小化,提升决策效率。
2025-12-24 cs.LG stat.ME stat.ML
Distributionally Robust Selection of the Best
在仿真建模中,合理的输入分布往往是一个具有挑战性的任务。在实践中,可能有多个合理的分布可以很好地拟合输入数据,特别是当数据量不大时。在本文中,我们考虑的问题,选择最好的从一个有限的一组模拟的替代品,在存在这样的输入不确定性。我们通过由有限数量的合理输入分布组成的模糊集对这种不确定性进行建模,并旨在选择在模糊集上具有最佳最坏情况平均性能的替代方案。我们把这个问题称为鲁棒最佳选择(RSB)。为了解决RSB问题,我们开发了一个两阶段的选择过程和顺序选择过程,然后我们证明了这两个程序可以实现至少一个用户指定的正确选择的概率在温和的条件下。大量的数值实验进行调查的计算效率的两个程序。最后,我们应用RSB方法研究了一个医疗系统的人员配置问题,使用合成数据和一个医疗调度问题,使用实际数据从中国的一家大型医院。我们发现,RSB方法可以产生的决定显着优于其他广泛使用的方法。
2019-03-14 math.OC stat.ME
DRCFS: Doubly Robust Causal Feature Selection
University of Oxford(牛津大学);Massachusetts Institute of Technology(麻省理工学院);KTH Royal Institute of Technology(瑞典皇家理工学院);TU Munich(慕尼黑工业大学);Helmholtz Munich(亥姆霍兹慕尼黑中心)
本文提出双重稳健因果特征选择方法DRCFS,通过理论保证与大量实验证明其能在非线性、高维环境中显著优于现有方法并识别稳健因果特征。
2023-07-05 cs.LG stat.ME
Robust and Adaptive Algorithms for Online Portfolio Selection
我们提出了一种在线投资组合选择的方法。其动机是在算法交易的背景下,随着新数据的到来,算法交易要求快速和递归地更新投资组合配置。特别是,我们看两个在线算法:鲁棒指数加权最小二乘法(R-EWRLS)和正则化在线最小方差算法(O-VAR)。我们的方法使用信号处理和统计学中的简单思想,这些思想在实证金融文献中有时会被忽视。使用4个真实数据集对基准分配技术对这两种方法进行了评估。我们的方法在这些数据集中的计算需求和财务表现方面优于基准分配技术。
2010-05-17 q-fin.CP q-fin.PM stat.ME
Robust selection of predictors and conditional outlier detection in a perturbed large-dimensional regression context
本文提出了一种快速的方法,称为ROBOUT,识别异常值的响应变量条件下的一组线性相关的预测,从一个大的粒度数据集检索。ROBOUT被证明是有效的,特别是通用的现有方法相比,在存在一些数据特质的功能。当数据集包含元素稀疏变量,并且预测变量集包含多变量离群值时,ROBOUT能够识别具有离群条件方差的观测值。在这些条件下,SPARSE-LTS和RLARS等现有综合方法在系统上是次优的。ROBOUT需要统计相关预测因子的稳健选择阶段(通过使用Huber或分位数损失),基于所选预测因子(通过LTS,GS或MM)的稳健回归模型的估计,以及基于残差离散度的稳健测量来识别条件离群值的标准。我们进行了全面的模拟研究,在该算法的不同变体进行了测试下,一个详尽的一组不同的扰动情况。该方法也适用于粒度监管银行数据集收集的欧洲中央银行。
2021-04-25 stat.CO stat.ME
Examining the robustness of a model selection procedure in the binary latent block model through a language placement test data set
本文针对法国大学外语分班考试数据,研究二元潜在块模型中初始化次数调整与模型选择程序,并通过模拟和真实数据检验其在学生人数变化下学生分组稳定性的稳健性。
2024-08-31 stat.CO stat.ME
Robust Bayesian variable selection with sub-harmonic priors
本文研究了一般球对称误差分布线性模型中的贝叶斯变量选择问题。我们提出了次谐波先验出现的Zellner的g-先验的贝叶斯因子是独立的基本误差分布的混合物的一类,只要它是在球对称类。由于这种不变性球对称误差分布,我们把我们的方法作为一个强大的贝叶斯变量选择方法。我们证明了我们的贝叶斯因子具有模型选择的一致性和连贯性。我们还开发了拉普拉斯近似贝叶斯因子的一些最近研究的混合物的g先验最近出现在文献中(包括我们自己的)的高斯误差。在每种情况下,这些近似值都由基于BIC的高斯贝叶斯因子乘以先验超参数的简单有理函数和相应模型的R^2给出。我们还扩展了模型选择的一致性为几个g先验贝叶斯因子方法高斯误差的整个类的球对称误差分布。此外,我们证明了我们的类的次谐波先验是唯一的在一个大类的混合物的g-先验在文献中研究的是强大的,在我们的意义上。模拟研究和两个真实数据集的分析表明,我们的鲁棒贝叶斯因子相对于BIC和其他混合的g先验方法的良好性能。
2013-03-11 math.ST stat.ME stat.TH
Model selection and robust inference of mutational signatures using Negative Binomial non-negative matrix factorization
癌症基因组集合中的突变谱可以通过几个突变特征的混合来描述。可以使用非负矩阵因子分解(NMF)来发现突变特征。为了提取突变签名,我们必须假设观察到的突变计数和许多突变签名的分布。在大多数应用中,假设突变计数为泊松分布,并且通过使用经典模型选择程序比较具有相同基础分布和不同秩值的几个模型的拟合来选择秩。然而,计数通常过度分散,因此负二项分布更合适。我们提出了一个负二项NMF与患者特定的分散参数,以捕捉患者之间的变化。我们还介绍了一种新的模型选择过程的启发交叉验证,以确定签名的数量。使用模拟,我们研究了我们的方法与其他经典的模型选择程序的分布假设的影响,我们表明,我们的模型选择程序是更强大的模型误指定下确定正确的签名数量。我们还表明,我们的模型选择过程是更准确的比国家的最先进的方法找到真正的签名数量。当存在过度分散时,其他方法高度高估了签名的数量。我们将我们提出的分析应用于广泛的模拟数据和来自乳腺癌和前列腺癌患者的两个真实数据集。用于我们的模型选择程序和负二项NMF的代码可在R软件包SigMoS中获得,并可在https://github.com/MartaPelizzola/SigMoS上找到。
2022-11-01 stat.AP stat.ME
Valid post-selection inference in Robust Q-learning
Eli Lilly and Company(礼来公司);University of Pennsylvania(宾夕法尼亚大学);Crescenz VA Medical Center(克莱森退伍军人医疗中心);University of Rochester(罗切斯特大学)
本文将通用选择后推断(UPoSI)程序适应于半参数Robust Q-learning方法,解决了在多阶段决策方法中使用UPoSI的独特挑战,并通过理论和模拟验证了所提出置信区域的有效性。
2025-10-11 math.ST stat.ME stat.TH
Covariate Selection for Doubly Robust Double/debiased Machine Learning Estimators for Causal Inference
Department of Human Development and Quantitative Methodology, University of Maryland(马里兰大学人类发展与定量方法系)
针对高维数据下因果推断中协变量选择问题,提出使用倾向得分与结果模型所选协变量的并集重新估计双稳健模型,模拟显示该方法能更有效减少混杂偏差,并揭示ML估计并非总是优于传统方法。
2026-09-16 stat.ME stat.ML