Comparison of Bayesian predictive methods for model selection
Aalto University（阿尔托大学）
本文的目的是比较几个广泛使用的贝叶斯模型选择方法在实际的模型选择问题，突出他们的差异，并给出建议的首选方法。我们专注于回归和分类的变量子集选择，并使用模拟和真实世界的数据进行了几个数值实验。结果表明，由于数据稀缺时效用估计的方差相对较高，因此交叉验证（CV）评分等效用估计的优化容易发现过拟合模型。这也可能导致在对所选模型的性能评估中产生大量选择诱导的偏见和乐观。从预测的角度来看，最好的结果是通过考虑模型的不确定性，形成完整的包容性模型，如贝叶斯模型平均解决方案的候选模型。如果包含模型过于复杂，则可以通过投影方法对其进行鲁棒简化，在该方法中，完整模型的信息被投影到子模型上。这种方法比基于CV分数的选择更不容易过拟合。总体而言，投影方法似乎也优于最大后验模型和最可能的变量的选择。研究还表明，模型选择可以大大受益于使用交叉验证搜索过程之外的指导模型大小的选择和评估的预测性能的最终选择的模型。
2016-03-23 cs.LG stat.ME
Robust Bayesian Predictive Model Selection using Bregman Divergence
Harvard University（哈佛大学）；University of Connecticut（康涅狄格大学）
针对基于对数得分的ELPD对异常值和尾部不匹配敏感的问题，提出基于Bregman散度的广义ELPD框架，通过β-散度族控制低密度观测影响，实现稳健模型选择。
2026-06-09 stat.ME
Advances in projection predictive inference
本文综述了投影预测推断的核心概念与最新进展，提出一种安全、高效、模块化的预测导向模型选择工作流程，并分析了其在因果设定中的局限性。
2024-08-06 stat.CO stat.ME
Exploring Learning Rate Selection in Generalised Bayesian Inference using Posterior Predictive Checks
本文探索利用后验预测检查为广义贝叶斯推断设置学习率，以EDiSC模型为案例，选取使对数似然检验在10%水平不被拒绝的最低值，结果有前景但需进一步研究。
2025-01-21 stat.AP stat.ME
Predictive Active Set Selection Methods for Gaussian Processes
我们提出了一个积极的集合选择框架高斯过程分类的情况下，数据集是足够大，使其推理禁止。我们的方案由活动集更新规则和基于边际似然最大化的超参数优化的两步交替过程组成。活动集更新规则依赖于高斯过程分类器的预测分布的能力，以估计数据点在被包括或从模型中移除时的相对贡献。这意味着我们可以使用它来包含对分类器决策过程具有潜在高影响的点，同时删除那些不太相关的点。我们介绍了两个基于不同标准的活动集规则，第一个更喜欢一个模型与可解释的活动集参数，而第二个把计算复杂性放在第一位，因此一个模型与活动集参数，直接控制其复杂性。我们还提供了理论和经验支持，我们的积极集选择策略是一个很好的近似一个完整的高斯过程分类。我们广泛的实验表明，我们的方法可以与国家的最先进的分类技术与合理的时间复杂度。源代码可在http://cogsys.imm.dtu.dk/passgp上公开获取。
2011-06-23 stat.ML
Bayesian Predictive Inference For Finite Population Quantities Under Informative Sampling
我们研究贝叶斯预测推理有限的人口数量时，有不平等的选择概率。关于样本设计的信息有限;即，只有对应于采样单元的一阶选择概率是已知的。与Chambers，Dorfman和Wang（1998）的方法不同，我们的方法可用于对有限总体数量进行推断，并提供精度和区间的度量。此外，我们的方法，使用马尔可夫链蒙特卡罗方法，避免了使用渐近封闭形式的近似，必要的其他方法，已提出。一组模拟的例子表明，信息模型提供了一个标准的可扩展模型的精度提高，并纠正选择偏差。
2018-04-09 stat.ME
Efficient screening of predictive biomarkers for individual treatment selection
开发分子诊断工具以实现个体化医学需要识别与可能从不同可用治疗中获得有益或有害影响的个体亚组相关的预测性生物标志物。然而，由于大规模遗传学和分子生物学研究中候选生物标志物数量众多，临床结局、生物标志物和治疗之间的关系复杂，常规的治疗和协变量之间相互作用的统计检验因其有限的统计功效而存在困难。在本文中，我们提出了一种有效的方法来检测预测生物标志物。我们采用Chen et al.（2017）的加权损失函数直接估计个体治疗评分，并提出生物标志物效应量的合成后验推断。我们发展了一种经验贝叶斯方法，即基于数据估计先验分布中的未知超参数。然后，我们提供了有效的筛选方法的候选生物标志物，通过最佳的发现程序与适当的控制错误发现率。所提出的方法被证明在模拟研究和乳腺癌的临床研究，其中所提出的方法被证明比现有的标准方法检测到更大数量的显着的生物标志物的应用。
2020-01-17 stat.ME
Bayesian subset selection and variable importance for interpretable prediction and classification
Rice University（莱斯大学）；Department of Statistics（统计系）
子集选择是可解释学习、科学发现和数据压缩的重要工具。然而，由于选择不稳定，缺乏正则化，以及选择后推理的困难，经典的子集选择通常被避免。我们从贝叶斯的角度来解决这些挑战。给定任何贝叶斯预测模型$\mathcal{M}$，我们提取一系列接近最优的变量子集进行线性预测或分类。这种策略不再强调单一“最佳”子集的作用，而是提出了更广泛的观点，即许多子集往往具有高度竞争力。可接受的子集族为模型解释提供了一种新的途径，并通过关键成员（如最小可接受子集）以及基于变量（共同）是否出现在所有、一些或没有可接受子集中的新（共同）变量重要性度量进行了简洁的总结。更广泛地说，我们应用贝叶斯决策分析来获得任何变量子集的最佳线性系数。这些系数通过$\mathcal{M}$继承正则化和预测不确定性量化。对于模拟和真实数据，所提出的方法表现出更好的预测，区间估计，变量选择比竞争贝叶斯和频率选择方法。这些工具应用于具有高度相关协变量的大型教育数据集。我们的分析为预测教育成果的环境，社会经济和人口因素的组合提供了独特的见解，并确定了200多个不同的变量子集，这些变量提供了接近最佳的样本外预测准确性。
2022-02-16 cs.LG stat.AP stat.CO
Model Selection in Bayesian Neural Networks via Horseshoe Priors
贝叶斯神经网络（BNN）最近受到越来越多的关注，因为它们能够提供良好校准的后验不确定性。然而，模型选择-甚至选择节点的数量-仍然是一个悬而未决的问题。在这项工作中，我们将马蹄铁先验应用于贝叶斯神经网络的节点预激活，这有效地关闭了无助于解释数据的节点。我们证明了我们的先验知识可以防止BNN拟合不足，即使所需的节点数量被严重高估。此外，这种对节点数量的模型选择并不以牺牲预测或计算性能为代价;事实上，我们学习的是更小的网络，其预测性能与当前方法相当。
2017-05-29 stat.ML
Predictive analysis of microarray data
Instituto de Matemática e Estatística da Universidade de São Paulo（圣保罗大学数学与统计学院）
本研究用贝叶斯非参数模型分析微阵列基因表达数据，聚焦未来可观测值预测，提出差异表达基因选择方法与分类器。
2014-06-10 stat.AP stat.ME
Deviance Information Criteria for Model Selection in Approximate Bayesian Computation
近似贝叶斯计算（ABC）是贝叶斯推断中使用统计汇总和计算机模拟的一类算法方法。ABC在进化遗传学和生物学的其他分支中变得流行。然而，在ABC算法下的模型选择在最近几年一直是激烈辩论的主题。在这里，我们提出了新的方法，模型选择的基础上后验预测分布和近似的偏差。我们认为，这个框架可以解决模型概率的计算和后验预测检查使用ABC后验分布之间的一些矛盾。人类DNA重测序数据集的模拟研究和分析表明，偏差标准导致明智的结果，在一些模型选择问题的兴趣，人口遗传学家。
2011-05-02 q-bio.PE stat.CO
On Supervised Selection of Bayesian Networks
University of Helsinki（赫尔辛基大学）
给定一组可能的模型（例如，贝叶斯网络结构）和数据样本，在无监督模型选择问题中，任务是选择关于域联合概率分布的最准确的模型。与此相反，在监督模型选择中，先验已知所选模型将在未来用于涉及更“集中”的预测分布的预测任务。虽然可以通过边缘化从联合概率分布中产生集中的预测分布，但实际上，无监督意义上的最佳模型不一定在监督域中表现良好。特别是，标准边际似然得分是无监督任务的标准，虽然经常用于监督模型选择，但在此类任务中表现不佳。在本文中，我们研究了边际似然得分的监督贝叶斯网络选择任务的经验性能，通过使用大量的公开可用的分类数据集，并比较结果与其他模型选择标准，包括经验交叉验证方法，监督边际似然测度的近似，结果表明，边缘似然得分在有监督的模型选择中表现不佳，而Dawids序贯概率方法则获得了最好的结果。
2013-01-23 cs.LG stat.ML
A Bayesian Variable Selection Approach to Major League Baseball Hitting Metrics
在美国职业棒球大联盟中，有许多统计数据被用来衡量进攻能力。虽然其中一些指标在某些情况下可能提供适度的预测能力，但目前还不清楚哪些简单的攻击性指标最可靠或最一致。我们解决这个问题的变量选择贝叶斯分层模型，以捕捉进攻指标是最具预测性的球员在不同的时间。我们先进的方法允许我们的参数的后验分布的充分估计，并自动调整多重检验，提供了一个明显的优势，替代方法。我们实现我们的模型上的一组50个不同的进攻指标，并讨论我们的结果的背景下，比较其他变量选择技术。我们发现，33/50的指标表明信号。然而，这些度量彼此高度相关并且与传统的性能概念（例如，板纪律，权力，和能力，使接触）。
2009-11-23 stat.AP
Predictive Modeling through Hyper-Bayesian Optimization
Deakin University（迪肯大学）；Applied Artificial Intelligence Institute（应用人工智能研究院）
本文提出一种将模型选择与贝叶斯优化集成的新方法，通过在模型空间与函数空间交替优化并引入评分函数，实现了更快的收敛、更高的样本效率及黑盒函数信息输出。
2023-08-01 cs.LG stat.ML
Predictive Bayesian selection of multistep Markov chains, applied to the detection of the hot hand and other statistical dependencies in free throws
考虑使用高阶马尔可夫链对离散状态随机游动中的记忆效应建模的问题。本文探讨了交叉验证和信息标准作为代理模型的预测精度。我们的目标是选择，从数据中，最近的历史上的轨迹是统计依赖的先前状态的数量。通过模拟，我评估这些标准的情况下，数据来自系统的固定顺序的历史，注意到的相对性能的标准的趋势。作为这些方法的一个现实世界的说明性的例子，这篇手稿评估的问题，检测统计的依赖关系，在罚球投篮命中率。在三个NBA赛季的分析，几个球员表现出统计依赖性的罚球命中概率的各种类型-热手，冷手，和错误纠正。在2013-2014赛季到2015-2016赛季的NBA赛季中，我发现23%的球员赛季存在统计依赖性。专注于一个球员，在这三个赛季中的两个赛季中，勒布朗·詹姆斯在直接失误后的投篮命中率比其他情况下更高。在那些赛季中，对先前结果的调节比将罚球视为独立的更能预测模型。当扩展到2016-2017 NBA赛季勒布朗·詹姆斯的数据时，依赖于前一次投篮的模型（单步马尔可夫模型）并没有明显击败具有独立结果的模型。两个参数的误差校正可变长度模型，其中詹姆斯在罚球失误后的投篮命中率高于其他情况，比任何一个模型都更具预测性。
2019-02-20 physics.pop-ph stat.ME
Model selection for ecological community data using tree shrinkage priors
研究人员和管理人员对生态群落进行建模，以推断生物和非生物变量，这些变量塑造了物种的范围，栖息地使用和共生，反过来，这些变量又用于支持管理决策和测试生态理论。最近，物种分布模型被开发并应用于生态群落的数据。生态群落数据的模型开发和选择是困难的，因为需要高水平的复杂性，并通过包括许多参数来实现，这可能会降低预测准确性，并具有解释和沟通的挑战性。与其他统计模型一样，多物种分布模型也可能被过度参数化。正则化是一种通过缩小或消除模型参数来优化预测精度的技术。对于贝叶斯模型，先验分布会自动正则化参数。我们提出了一个贝叶斯多物种分布模型的树收缩先验，执行正则化，并减少与预测变量相关的回归系数的数量。利用这一先验知识，通过对较少数量的工会而不是较多数量的物种的唯一回归系数的估计，减少了多物种分布模型中的回归系数的数量.我们证明了我们的树收缩之前使用的例子存在-不存在的数据为6种水生植被和相对丰度数据为15种鱼类。我们的研究结果表明，树木收缩先验可以提高多物种分布模型的预测精度，使研究人员能够推断的数量和物种组成的功能团的生态群落数据。
2020-05-28 stat.AP
Bayesian Selection of Edge Spectral Modes for Crash Counts on Urban Road Networks with Applications in Barcelona and Bogotá
Universidad Nacional de Colombia（哥伦比亚国立大学）
提出贝叶斯负二项模型，用RENeGe算子和尖峰-板先验选择道路网络谱模式，模拟和两城市应用中性能优于非空间模型，且无预测惩罚。
2026-09-30 stat.AP stat.ME
Adaptive Gaussian Predictive Process Approximation
我们解决高斯预测过程方法的节点选择问题。预测过程逼近为解决高斯过程模型的三阶计算复杂性提供了一种有效的方法。这种近似至关重要地取决于一组称为结的点，在这些点处保留原始过程，而其余部分则通过确定性外推来近似。节点的数量应该很少，以保持计算复杂度低，但提供了一个良好的覆盖范围的过程域，以限制近似误差。我们提出的理论计算表明，覆盖率必须判断的高斯过程的规范度量。这需要具有适当的节点选择算法，该节点选择算法自动适应受控制高斯过程协方差函数的参数值的变化影响的规范度量的变化。我们提出了一个算法，通过采用不完全Cholesky分解与旋转和动态停止。虽然这些概念已经存在于文献中，我们的贡献在于将它们统一到一个快速算法中，并使用可计算的误差界来巧妙地实现预测过程近似。由此产生的自适应预测过程提供了大量的高斯过程模型拟合的自动化，特别是对于贝叶斯应用，其中要探索数千个协方差参数的值。
2011-08-01 stat.CO stat.ME stat.ML
A Two-round Variant of EM for Gaussian Mixtures
AT&T Labs - Research（AT&T实验室-研究部）；Georgia Institute of Technology（佐治亚理工学院）
给定一组可能的模型（例如，贝叶斯网络结构）和数据样本，在无监督模型选择问题中，任务是选择关于域联合概率分布的最准确的模型。与此相反，在监督模型选择中，先验已知所选模型将在未来用于涉及更“集中”的预测分布的预测任务。虽然可以通过边缘化从联合概率分布中产生集中的预测分布，但实际上，无监督意义上的最佳模型不一定在监督域中表现良好。特别是，标准边际似然得分是无监督任务的标准，虽然经常用于监督模型选择，但在此类任务中表现不佳。在本文中，我们研究了边际似然得分的监督贝叶斯网络选择任务的经验性能，通过使用大量的公开可用的分类数据集，并比较结果与其他模型选择标准，包括经验交叉验证方法，监督边际似然测度的近似，结果表明，边缘似然得分在有监督的模型选择中表现不佳，而Dawids序贯概率方法则获得了最好的结果。
2013-01-16 cs.LG stat.ML
Local Interpretable Model-agnostic Explanations of Bayesian Predictive Models via Kullback-Leibler Projections
Helsinki Institute for Information Technology HIIT（赫尔辛基信息技术研究所（HIIT））；Aalto University（阿尔托大学）
我们介绍了一种方法，KL-LIME，用于解释贝叶斯预测模型的预测，通过将预测分布中的信息局部投影到一个更简单，可解释的解释模型。所提出的方法结合了最近的本地可解释模型不可知推理（LIME）方法与贝叶斯投影预测变量选择方法的想法。信息论的基础有助于导航之间的权衡解释的保真度和复杂性。我们展示了解释贝叶斯深度卷积神经网络的MNIST数字分类的方法。
2018-10-05 cs.LG stat.ML
Forward-Backward Selection with Early Dropping
University of Crete（克里特大学）；Gnosis Data Analysis IKE（Gnosis数据分析公司）
前向-后向选择是最基本和最常用的特征选择算法之一。它也是通用的，在概念上适用于许多不同类型的数据。在本文中，我们提出了一个启发式，显着提高其运行时间，同时保持预测精度。这个想法是暂时丢弃与给定的选定变量集的结果有条件独立的变量。根据这些变量如何被重新考虑和重新引入，这种启发式算法产生了一系列越来越强的理论保证。在可以由贝叶斯网络或最大祖先图忠实地表示的分布中，该算法家族的成员能够正确地识别样本限制中的马尔可夫毯。在实验中，我们表明，所提出的启发式算法提高了约两个数量级的高维问题的计算效率，同时选择更少的变量和保留预测性能。此外，我们表明，所提出的算法和特征选择与LASSO执行类似的限制时，选择相同数量的变量，使所提出的算法一个有吸引力的替代问题，没有（有效的）算法LASSO存在。
2017-05-30 cs.LG stat.ML
Efficient Bayesian model selection for coupled hidden Markov models with application to infectious diseases
耦合隐马尔可夫模型的隐状态过程维数很大，因此对耦合隐马尔可夫模型进行模型选择具有很大的挑战性。虽然原则上可以通过前向滤波将隐藏状态过程边缘化，但实际上这样做的计算成本随着耦合的马尔可夫链的数量呈指数级增加，使得这种方法在大多数应用中不可行。可以利用蒙特卡罗方法，但尽管在模型选择方法中有许多显着的发展，通用方法仍然不适合这样的高维问题。在这里，我们为具有弱链间依赖性的CHESTIC开发了专门的解决方案。具体来说，我们构建有效的建议分布的隐藏状态的过程中，保持计算可行的链的数量增加，并需要很少的用户输入或调整。这种方法特别适用于以CHESTHESIS为特征的个体级传染病模型，其中每条链代表一个个体，耦合代表个体之间的接触。由于仅有的重要接触是在易感和传染性个体之间，并且由于多个感染途径通常是可能的，因此所产生的CHE3自然具有低的链间依赖性。我们证明了我们的方法的实用性与应用程序的研究高致病性禽流感在鸡。
2021-05-25 stat.ME
Nonparametric Bayesian Knockoff Generators for Feature Selection Under Complex Data Structure
本文提出非参数贝叶斯GDPM模型生成高质量knockoff副本，用于复杂数据分布下的FDR控制特征选择，在模拟与TCGA卵巢癌数据中表现出准确FDR控制与更高功效。
2024-09-22 stat.ME
Selection of Exponential-Family Random Graph Models via Held-Out Predictive Evaluation (HOPE)
具有复杂依赖关系的网络的统计模型对模型选择和评估提出了特殊的挑战。特别是，许多成熟的统计工具之间的选择模型假设条件独立的观察和/或传统的渐近性，其理论基础并不总是适用于网络建模环境。虽然基于模拟的模型充分性评估方法现在被广泛使用，但仍然需要以适合于在竞争模型中进行选择的方式量化模型性能的程序。在这里，我们建议解决这个问题，通过开发一个预测评估策略的指数族随机图模型，这是类似于交叉验证。我们的方法建立在Wang等人（2016）引入的保留预测评估（HOPE）计划的基础上，以评估插补性能。我们系统地保留观察到的网络的一部分，以：评估模型能够预测保留的数据的程度;根据哪些数据被保留，识别模型表现不佳的地方，例如指出潜在的弱点;计算可用于模型选择的预测性能的一般摘要。因此，HOPE可以帮助研究人员改进模型，指出模型表现不佳的地方，并定量比较竞争模型的预测性能。将该方法应用于两个著名数据集的模型选择问题，并将结果与通过名义AIC和BIC分数获得的结果进行比较。
2019-08-19 stat.AP stat.ME
Trade-off between predictive performance and FDR control for high-dimensional Gaussian model selection
本文研究高维高斯线性回归中的变量选择，提出了一种超参数校准算法，以在控制预测风险的同时控制错误发现率，并验证了其有效性及对无序变量的扩展。
2024-06-28 math.ST stat.AP stat.ME
Stable and predictive functional domain selection with application to brain images
出于越来越多的相关脑图像的临床结果感兴趣的趋势，我们提出了一个功能域选择（FuDoS）的方法，有效地选择与结果相关的大脑的子区域。将每个人的大脑视为一个三维功能对象，统计的目的是区分回归系数$β(t)=0$与$β(t)\neq0$的区域，其中$t$表示空间位置。FuDoS由两个估计阶段组成。我们首先根据相关结构将大脑分割成几个小部分。然后，潜在的子集建立使用所获得的段和它们的预测性能进行评估，以选择最佳的子集，增强的稳定性选择标准。我们进行了广泛的模拟1D和3D的功能数据，并评估其有效性，在选择真正的子区域。我们还研究了选定的稳定区域的预测能力。为了找到与认知能力相关的大脑区域，将FuDoS应用于ADNI的PET数据。由于诱导的稀疏性，结果自然提供了更多关于区域和结果之间关系的可解释信息。此外，从我们的分析中选择的区域显示出与已知具有记忆相关功能的预期解剖大脑区域的高度关联。
2016-06-07 stat.AP
Predictive and Prescriptive Analytics for Location Selection of Add-on Retail Products
在本文中，我们研究了一种分析方法来选择扩展位置的零售商销售的附加产品的需求是来自另一个基础产品的需求。对附加产品的需求只是作为对基础产品需求的补充来实现的。在我们的背景下，这两种产品中的任何一种都可能受到空间自相关的影响，其中给定位置的需求受到其他位置需求的影响。使用来自销售附加产品的工业合作伙伴的数据，我们构建了预测模型，以了解附加产品的衍生需求，并建立了一个优化框架，用于自动化扩展决策，以最大限度地提高预期销售额。有趣的是，空间自相关性和预测模型的复杂性会影响规定性优化模型的复杂性和结构。我们的研究结果表明，制定的模型是非常有效的预测附加产品的销售，并使用建立在预测模型的优化框架，可以导致在基线政策的预期销售大幅增加。
2018-04-03 cs.CY math.OC stat.AP
Development of a Statistical Predictive Model for Daily Water Table Depth and Important Variables Selection for Inference
本研究开发了具备三大灵活性的统计模型BigVAR，利用两站点日水文气候数据预测日水位深度，关键预测因子含温湿风雨辐射等，模型在不同年份和时期表现优异，可辅助湿地水文管理与决策。
2024-11-30 stat.AP
Bayesian variable selection using an informed reversible jump in imaging genetics: an application to schizophrenia
针对影像遗传学精神分裂症风险评估，本文为可逆跳MCMC贝叶斯变量选择提出数据驱动的知情提议，并用贝叶斯probit模型与模型平均实现判别变量选择和风险预测。
2025-01-10 stat.AP stat.CO stat.ME
Bias correction in treatment effect estimates following data-driven biomarker cutoff selection
本研究针对数据驱动生物标志物截断值选择导致的治疗效果估计偏差，通过广泛模拟评估了 Bootstrap Bias Correction 和 ABC 方法的校正性能，并提出了临床应用建议。
2025-04-28 stat.AP
Estimating Robot Strengths with Application to Selection of Alliance Members in FIRST Robotics Competitions
自FIRST机器人竞赛（FRC）及其特殊的季后赛系统成立以来，机器人团队一直渴望适当量化其设计机器人的优势。FRC包括一个类似操场选秀的阶段（联盟选择），可以说是比赛中最能改变游戏规则的部分，其中前8名的机器人团队在基于FRC排名系统的锦标赛中评估潜在的联盟成员，以便在季后赛阶段合作。在这样一个三对三的竞争中，已经使用了几种措施和模型来表征实际或相对的机器人优势。然而，现有的模型被发现有差的预测性能，由于其不精确的估计机器人的力量所造成的一个小比率的观察机器人的数量。一个更一般的回归模型与潜在集群的机器人的优势，因此，提出了提高其预测能力。两个有效的估计程序进一步发展，同时估计集群的数量，集群的机器人，和机器人的优势。同时，一些措施被用来评估竞争模型的预测能力，所有，季后赛，FRC前8名机器人和FRC前8名机器人之间的协议和基于模型的机器人强度的FRC措施之间的协议。此外，估计的机器人强度和精度的稳定性进行了调查，以确定是否计划的比赛是过多或不足。在分析2018年FRC休斯顿和底特律锦标赛的资格数据时，我们的模型的预测能力也明显优于现有模型。采用新模型的球队现在可以对他们对季后赛联盟伙伴的偏好进行适当的排名，并具有比以前更强的预测能力。
2021-01-12 stat.AP
A comparison of variable selection methods and predictive models for postoperative bowel surgery complications
本研究针对外科场景数据受限、变量优先级难确定的问题，基于767例择期肠道手术数据，比较了三种预测模型及变量选择对术后并发症预测的效果，发现随机森林校准更优，预处理和集成方法对围手术期风险建模有重要价值。
2025-07-30 stat.AP
Bootstrap Cross-validation Improves Model Selection in Pharmacometrics
交叉验证评估模型的预测能力，允许对模型进行相应的排名。虽然非参数bootstrap几乎总是用于评估参数的变异性，但如果在给定的bootstrap迭代中跟踪未选择的项目，则可以将其用作交叉验证的基础。选择的项目构成训练数据，省略的项目构成测试数据。这种自助交叉验证（BS-CV）允许通过比较测试数据汇总统计量的集合中位值，根据预测能力进行模型选择。本文使用几种汇总统计量（包括称为预测质量简单度量（SMPQ）的新统计量），并使用Monolix分布中包含的华法林数据（具有13个药代动力学（PK）模型和12个药效学（PD）模型）证明了BS-CV。值得注意的是，AIC的两个最佳PK模型具有最差的预测能力，强调了使用随机变量（如AIC）的单一实现作为模型选择基础的危险。使用这些数据，BS-CV能够区分类似的间接反应模型（输入抑制与输出刺激）。这在作用机制未知的情况下可能很有用（与华法林不同）。
2019-09-27 q-bio.QM stat.AP stat.ME
Segmentation variability and radiomics stability for predicting Triple-Negative Breast Cancer subtype using Magnetic Resonance Imaging
Università di Genova（热那亚大学）；Universitat de Barcelona（巴塞罗那大学）；IRCCS Ospedale Policlinico San Martino（圣马蒂诺国家研究与护理综合医院）；Institució Catalana de Recerca i Estudis Avançats (ICREA)（加泰罗尼亚高等研究院）；Universidad Autónoma de Barcelona（巴塞罗那自治大学）；Computer Vision Center（计算机视觉中心）
本研究利用Duke数据集的244张MRI图像，探讨分割变异性对三阴性乳腺癌影像组学预测的影响，发现分割准确性不影响预测性能，且过度依赖ICC筛选特征可能排除有价值的预测特征。
2025-04-02 cs.AI stat.AP
Personalized Treatment Selection via Product Partition Models with Covariates
针对精准医学中的治疗选择问题，提出一种基于协变量的产品划分模型，通过灵活聚类患者并利用预测推断选择最优治疗，避免启发式聚类的不确定性低估，在异质性场景下表现优异，并能估计聚类反应概率以识别获益患者。
2023-09-01 stat.AP stat.ME
RENT -- Repeated Elastic Net Technique for Feature Selection
Norwegian University of Life Sciences（挪威生命科学大学）
特征选择是数据科学管道中的一个重要步骤，可以降低与大型数据集相关的复杂性。虽然这方面的研究主要集中在优化预测性能，但很少有研究在特征选择过程的背景下调查稳定性。在这项研究中，我们提出了重复弹性网络技术（重复）的特征选择。SVM使用具有弹性网络正则化的广义线性模型的集合，每个模型在训练数据的不同子集上训练。特征选择基于三个标准，评估所有基本模型中特征的权重分布。这一事实导致选择具有高稳定性的特征，从而提高最终模型的鲁棒性。此外，与已建立的特征选择器不同，SVM为模型解释提供了有价值的信息，这些信息涉及在训练期间难以预测的数据中的对象的识别。在我们的实验中，我们对六个已建立的特征选择器在八个多元数据集上进行二进制分类和回归的基准测试。在实验比较中，ESTA显示了预测性能和稳定性之间的平衡。最后，我们通过对医疗数据集的探索性事后分析，强调了ESTA的额外解释价值。
2021-11-22 cs.LG stat.AP stat.ML
