Cross validation approaches for penalized Cox regression
University of Iowa(爱荷华大学)
本文提出两种新的Cox回归交叉验证方法,通过模拟数据和肺癌生存研究数据验证其在性能和数值稳定性上的优势。
2019-05-24 stat.ME
Approximate leave-future-out cross-validation for Bayesian time series models
时间序列分析的一个共同目标是利用观测到的序列为未来的观测提供预测信息。在没有任何实际的新数据进行预测的情况下,交叉验证可以用于估计模型的未来预测准确性,例如,用于模型比较或选择的目的。贝叶斯模型的精确交叉验证通常在计算上是昂贵的,但是近似交叉验证方法已经被开发出来,最值得注意的是留一交叉验证(LOO-CV)方法。如果实际的预测任务是在给定过去的情况下预测未来,则LOO-CV提供了过于乐观的估计,因为来自未来观测的信息可以影响对过去的预测。为了正确地解释时间序列结构,我们可以使用留后交叉验证(leave-future-out cross-validation,LFO-CV)。与精确LOO-CV一样,精确LFO-CV需要多次根据不同的数据子集重新调整模型。使用帕累托平滑的重要性抽样,我们提出了一种方法近似精确的LFO-CV,大大降低了计算成本,同时也提供了有关的近似质量的信息诊断。
2020-05-08 stat.ME
Empirical study of indirect cross-validation
在本文中,我们提供了深入了解间接交叉验证(ICV),核密度估计的带宽选择的新方法的经验性质。首先,我们描述的方法和报告的理论结果,用于开发一个实用的模型,某些ICV参数。接下来,我们提供了一个数值研究的详细描述,表明ICV方法通常优于最小二乘交叉验证(LSCV)在有限的样本。ICV的主要优点之一是与LSCV相比其稳定性增加。两个真实数据的例子显示了使用ICV和ICV的本地版本的好处。
2008-11-29 stat.ME
Cross-Validation in Penalized Linear Mixed Models: Addressing Common Implementation Pitfalls
针对惩罚线性混合模型处理相关高维数据时直接沿用独立数据调参方法的问题,本文提出正确的交叉验证实现以规避常见陷阱,并以证明、模拟和真实数据验证其有效性。
2025-03-18 stat.ME
Efficient leave-one-out cross-validation for Bayesian non-factorized normal and Student-t models
交叉验证可用于测量模型的预测准确性,以进行模型比较、平均或选择。标准的留一交叉验证(LOO-CV)要求观测模型可以分解为简单的项,但时间和空间统计学中的许多重要模型不具备这一特性,或者在强制分解为简单项时效率低下或不稳定。我们推导出如何有效地计算和验证任何贝叶斯非因子分解模型的精确和近似LOO-CV,其结果值为多元正态分布或Student- t分布。我们演示的方法使用滞后同时自回归(SAR)模型作为案例研究。
2020-10-01 stat.ME
Selective inference after cross-validation
本文描述了一种方法,用于执行推理的模型选择交叉验证。当在交叉验证中被最小化的测试误差是残差平方和时,它可以被写为二次型。这使我们能够将Loftus等人(2015)中的推理框架应用于由二次约束确定的模型,以最大限度地减少CV检验误差。我们对模型训练过程的唯一要求是它的选择事件是满足线性或二次约束的区域。这包括Lasso和forward stepped,它们是我们贯穿全文的主要示例。我们不需要知道误差方差$σ^2$。这里描述的过程是自适应地选择模型并对所选模型执行推理的计算密集型方法。实现在R包中可用。
2015-11-28 stat.ME
Indirect Cross-validation for Density Estimation
提出了一种新的核密度估计带宽选择方法。这种方法被称为间接交叉验证(ICV),利用了所谓的选择核。最小二乘交叉验证(LSCV)用于选择选择核估计器的带宽,并且该带宽被适当地重新缩放以用于高斯核估计器。所提出的选择核是两个高斯核的线性组合,并且不需要是单峰的或正的。理论发展表明,ICV带宽的相对误差可以收敛到0的$n^{-1/4}$的速率,这是实质上优于$n^{-1/10}$率的LSCV。有趣的是,如果用于实际估计密度函数,则最适合带宽选择的选择核非常差。这个属性似乎是更大的和有据可查的悖论的一部分,大意是“估计问题越难,交叉验证执行得越好。“ICV方法在模拟研究、真实数据示例和局部选择带宽的模拟示例中一致优于LSCV。
2008-11-29 stat.ME
The restricted consistency property of leave-$n_v$-out cross-validation for high-dimensional variable selection
在高维变量选择问题中,交叉验证(CV)方法是选择调节参数的常用方法。我们发现CV的错误对齐是其过度选择行为的一个可能原因。为了解决这个问题,我们提出了一个版本的leave- $n_v$ -out交叉验证(CV($n_v$)),用于在高维广义线性模型的受限候选模型集中选择最优模型。通过在每个CV分割中使用相同的候选模型序列和适当的构造样本量$n_c$,CV($n_v$)避免了开发理论特性的潜在障碍。CV($n_v$)被证明在温和的条件下享受有限的模型选择一致性属性。大量的模拟和实际数据分析支持了理论结果,并证明了CV($n_v$)在模型选择和预测方面的性能。
2018-01-16 stat.ME
Moving beyond spatial and random cross-validation in environmental modelling: a call for prediction-domain adaptive evaluation
University of Münster(明斯特大学)
本文提出预测领域自适应评估方法,用于在无法获取独立概率样本时更准确评估空间预测地图的准确性。
2026-05-13 stat.ME
The adaptive lasso refers to a class of methods that use weighted versions of the $L_1$-norm penalty, with weights derived from an initial estimate of the parameter vector to be estimated. Irrespective of the method chosen to compute this initial estimate, the performance of the adaptive lasso critically depends on the value of a hyperparameter, which controls the magnitude of the weighted $L_1$-norm in the penalized criterion. As for other machine learning methods, cross-validation is very popular for the calibration of the adaptive lasso, that this for the selection of a data-driven optimal …
2021-07-15 stat.ME
Leave-One-Out Cross-Validation for Bayesian Model Comparison in Large Data
最近,新的模型评估方法,基于二次抽样和后验近似,已被提出用于缩放留一交叉验证(LOO)到大数据集。虽然这些方法在估计单个模型的预测性能方面效果很好,但在模型比较中功能较弱。我们提出了一种有效的方法,通过结合快速近似LOO代理人与精确LOO子采样使用的差异估计器和供应的缩放特性方面的证据来估计预测性能的差异。由此产生的方法可以比以前的方法更有效的数量级,以及更适合于模型比较。
2020-01-03 stat.ME
Unified optimal model averaging with a general loss function based on cross-validation
该研究提出基于交叉验证的统一模型平均方法MACV及二阶近似交叉验证SEAL,建立非独立同分布下的渐近理论,可适配多类复杂数据场景,经模拟与真实数据验证具备优势。
2024-12-13 stat.ME
Orthogonal Validation-Augmented Cox Regression with Internally Validated Failure Indicators Cross-Fitted Estimation, Risk-Set Linearization, and Validation Design
Michigan State University(密歇根州立大学)
针对内部验证样本仅能提供部分金标准事件分类的问题,提出正交验证增强Cox(OVAC)回归,该方法可降低经验方差,实现双稳健识别与校准推断,为Cox估计提供机器学习兼容方案及验证设计指导。
2026-09-01 stat.ME
Comparison of Cross-Validation Methods for Stochastic Block Models
我们引入了一种新的交叉验证方法,我们称之为latinCV,我们比较这种方法与其他模型选择方法使用从随机块模型生成的数据。比较latinCV其他交叉验证方法,我们表明,latinCV执行类似的方法中描述的\cite{hoff2008modeling}和latinCV有一个显着更大的真实模型恢复精度比NCV方法的\cite{chen2014network}。我们还表明,这种差异的原因是与较大的方差的NCV估计。比较latinCV替代模型选择方法,我们表明,latinCV表现优于信息标准AIC和BIC,以及社区检测方法infomap和一个例程,试图最大限度地提高模块化。本文中的模拟研究包括一系列的网络大小和生成参数的随机块模型,使我们能够检查模型选择的准确性和模型的大小和复杂性之间的关系。总体而言,latinCV执行更准确的模型选择,并避免过度拟合比任何其他模型选择方法考虑。
2016-05-10 stat.ME
Model Averaging by Cross-validation for Partially Linear Functional Additive Models
针对部分线性函数可加模型的模型不确定性问题,提出基于多重交叉验证最小化的模型平均方法,证明其渐近最优性,并通过模拟和近红外光谱数据集应用验证效果。
2023-06-09 stat.ME
Estimation of density functionals via cross-validation
本文提出将交叉验证准则的最小值作为负积分平方密度的估计量,该方法无需选择调节参数,被证明是一致且高效的,并可推广至其他密度泛函估计问题。
2024-07-28 stat.ME
Uncertainty Quantification for Data-Driven Change-Point Learning via Cross-Validation
针对数据驱动多变点检测中交叉验证选择易在有限样本下过拟合的问题,提出控制高估概率并提供不确定性量化的高维模型比较方法。
2023-12-18 stat.ME
Network Cross-Validation for Determining the Number of Communities in Network Data
随机块模型及其变体已经成为分析具有社区结构的大型网络数据的流行工具。在本文中,我们开发了一个有效的网络交叉验证(NCV)的方法来确定社区的数量,以及定期随机块模型和度校正块模型之间的选择。建议的NCV方法是基于一个块明智的节点对分裂技术,结合使用邻接矩阵的子块的社区恢复的综合步骤。我们证明,根据选择的概率为零的节点数量的增加,在温和的条件下,满足广泛的流行的社区恢复算法。我们的方法的坚实的性能也证明了在广泛的模拟和数据的例子。
2015-03-27 stat.ME
Cross validation residuals for generalised least squares and other correlated data models
交叉验证残差是众所周知的普通最小二乘模型。在这里,留M交叉验证扩展到广义最小二乘。交叉验证残差和Cook距离之间的关系通过拟合所有数据(训练和测试)的模型和拟合简化数据集(仅训练数据)的模型的广义残差平方和差异的近似值来证明。对于广义最小二乘法,与普通最小二乘法一样,不需要将模型重新拟合到减小大小的数据集,因为在将模型拟合到所有数据后,K折交叉验证的所有值都可用。
2018-09-05 stat.ME stat.ML
Cross-validatory Z-Residual for Diagnosing Shared Frailty Models
残差诊断方法在评估模型假设和检测统计建模中的异常值方面发挥着关键作用。在具有删失观察值的生存模型的背景下,Li等人(2021)引入了Z残差,其在真实模型下近似遵循正态分布。这个属性使得可以使用Z残差来诊断生存模型,其方式类似于Pearson残差在正态回归中的使用方式。然而,基于完整数据集计算残差可能会导致保守偏倚,从而降低检测模型错误指定的能力,因为相同的数据集用于模型拟合和验证。虽然交叉验证是解决这个问题的一种潜在方法,但由于计算上的挑战,它还没有被广泛用于残差诊断。在本文中,我们提出了一个交叉验证方法计算Z-残差的背景下,共享的脆弱性模型。具体来说,我们开发了一个通用函数,使用R中\texttt{survival}包中的\texttt{coxph}函数的输出计算交叉验证Z残差。我们的模拟研究表明,对于拟合优度检验和离群值检测,交叉验证Z残差比没有交叉验证的Z残差更强大,更具鉴别力。我们还比较了Z-残差的性能,以及在没有交叉验证的情况下,在对肾脏感染患者的复发时间进行建模的实际应用中识别离群值。我们的研究结果表明,交叉验证Z残差可以识别Z残差遗漏的离群值,而无需交叉验证。
2023-03-16 stat.ME
Tuning Parameter Selection in Regularized Estimations of Large Covariance Matrices
最近提出了许多大协方差阵的正则化估计,这些估计中的调整参数通常通过交叉验证来选择。然而,没有关于进行交叉验证的折叠次数的指导方针,也没有交叉验证与基于自助法的方法之间的比较。通过大量的模拟,我们建议10倍交叉验证(十分之九用于训练,十分之一用于验证)是合适的,当估计精度在Frobenius范数中测量时,而2倍交叉验证(一半用于训练,一半用于验证)或反向3倍交叉验证(三分之一用于训练,三分之二用于验证)在算子范数中是合适的。我们还建议“最优”交叉验证比基于自举的方法更适合这两种类型的范数。
2013-08-15 stat.CO stat.ME
Determining the Number of Common Functional Factors with Twice Cross-Validation
本文提出函数双重交叉验证(FTCV)方法,通过两步交叉验证保证函数因子正交性,以数据驱动方式确定半参数因子模型中的公共函数数量,并通过模拟和美国国债收益率、道琼斯30收益数据验证其有效性与可解释性。
2024-03-05 stat.ME
Cross-Validation with Confidence
交叉验证是统计学和机器学习中最流行的模型选择方法之一。传统的交叉验证方法虽然具有广泛的适用性,但由于忽略了测试样本中的不确定性,往往会选择过拟合模型。我们开发了一个新的,统计原则的推理工具的基础上交叉验证,考虑到测试样本中的不确定性。这种新方法输出一组高度竞争的候选模型,其中包含具有保证概率的最佳模型。因此,我们的方法可以在经典的线性回归设置中实现一致的变量选择,而现有的交叉验证方法需要非常规的分割比。当用于正则化调整参数选择时,该方法可以提供预测精度和模型可解释性之间的进一步权衡。我们证明了所提出的方法在几个模拟和真实数据的例子的性能。
2017-12-22 stat.ME stat.ML
A relation between log-likelihood and cross-validation log-scores
它示出了给定一些数据的假设或模型的对数似然性等同于可以从数据的所有子集计算的所有留一交叉验证对数得分的平均值。这种关系可以推广到任何$k$ -折交叉验证对数分数。
2019-08-23 cs.IT math.IT stat.ME
Cross-Validation for Nonlinear Mixed Effects Models
交叉验证经常用于各种应用中的模型选择。然而,由于交叉验证需要结果变量的“样本外”预测,当存在随机效应时,无法容易地计算,因此难以将交叉验证应用于混合效应模型(包括非线性混合效应模型或NLME模型)。我们描述了两种新的交叉验证的变体,可以应用于非线性混合效应模型。一种变体,即样本外预测基于随机效应的事后估计,可用于选择总体结构模型。另一种变体,其中交叉验证寻求最小化估计的随机效应而不是估计的残差,可以用于选择要包括在模型中的协变量。我们表明,这些方法在各种模拟数据集产生准确的结果,并将其应用于两个公开的人口药代动力学数据集。
2013-04-10 stat.AP stat.ME
Network Cross-Validation and Model Selection via Subsampling
University of Michigan(密歇根大学);North Carolina State University(北卡罗来纳州立大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出NETCROP方法,通过子采样实现网络交叉验证与模型选择,具有高效性和准确性优势。
2026-10-22 stat.CO stat.ME
Network cross-validation by edge sampling
虽然现在有许多统计模型和方法可用于网络分析,但恢复网络数据仍然是一个具有挑战性的问题。交叉验证是用于模型选择和参数调整的有用的通用工具,但不能直接应用于网络,因为将网络节点分成组需要删除边并破坏一些网络结构。在这里,我们提出了一个新的网络reservation战略的基础上分裂节点对,而不是适用于交叉验证的广泛的网络模型选择任务的节点。我们提供了一个理论上的理由,我们的方法在一般的设置和例子,我们的方法可以用于特定的网络模型选择和参数调整任务。模拟网络和统计学家的引文网络上的数值结果表明,这种交叉验证方法适用于模型选择。
2020-05-01 stat.ME stat.ML
Cross-Validation for Unsupervised Learning
交叉验证(CV)是一种流行的模型选择方法。不幸的是,如何将CV应用于无监督或探索性上下文并不明显。本文讨论了交叉验证在无监督学习中的一些扩展,特别关注选择保留多少主成分的问题。我们介绍了潜在的因素模型,定义了一个客观的标准,并展示了如何CV可以用来估计一个数据集的内在维数。通过模拟和理论,我们证明了交叉验证是无监督学习的一个有价值的工具。
2009-09-16 math.ST stat.ME stat.TH
On the marginal likelihood and cross-validation
在贝叶斯统计中,边际似然(也称为证据)用于评估模型拟合,因为它量化了先验数据的联合概率。相比之下,非贝叶斯模型通常使用交叉验证对保留数据进行比较,通过$k$ -倍分区或保留- $p$ -out子采样。我们表明,边际似然是正式等同于详尽的离开$p$交叉验证平均在所有值的$p$和所有举行了测试集时,使用的日志后验预测概率的评分规则。此外,对数后验预测是数据交换下唯一一致的评分规则。这为边际似然和交叉验证提供了新的见解,并突出了边际似然对先验选择的潜在敏感性。我们提出了一种替代方法,使用累积交叉验证后的准备培训阶段。我们的工作与先决分析和内在贝叶斯因素有关,但动机是通过不同的课程。
2019-09-20 stat.ME stat.ML
A Note on the Finite Sample Bias in Time Series Cross-Validation
本文指出,即使在使用向量自回归或误差具有鞅结构的时间序列模型时,交叉验证仍会引入有限样本偏置。
2025-12-05 econ.EM math.ST stat.ME
Cross-Validation for Correlated Data
具有平方误差损失的K折交叉验证(CV)被广泛用于评估预测模型,特别是当不能采用强分布假设时。然而,具有平方误差损失的CV并非不受分布假设的影响,特别是在涉及非独立同分布的情况下。数据本文分析了相关数据的CV。我们提出了一个标准CV的相关性存在的适用性的标准。当这个标准不成立时,我们引入了一个偏差校正的交叉验证估计量,我们称之为$CV_c,$,它在许多标准CV无效的设置中产生预测误差的无偏估计。我们还证明了我们的结果数值,并发现,引入我们的校正大大提高了,模型评估和模型选择在模拟和真实数据的研究。
2020-04-24 stat.ME stat.ML
Estimating the number of clusters using cross-validation
许多聚类方法,包括k-means,需要用户指定聚类的数量作为输入参数。已经设计了各种方法来自动选择聚类的数量,但它们通常依赖于强大的建模假设。本文提出了一种数据驱动的方法来估计基于一种新形式的交叉验证的聚类数。所提出的方法不同于普通的交叉验证,因为聚类从根本上说是一个无监督的学习问题。仿真和实际数据分析结果表明,该方法优于现有的方法,特别是在高维的异构或重尾噪声的设置。在酵母细胞周期数据集,所提出的方法发现一个简约的聚类与可解释的基因组。
2017-02-09 stat.CO stat.ME
A survey of cross-validation procedures for model selection
用于估计估计量的风险或执行模型选择,交叉验证是一种广泛使用的策略,因为它的简单性和明显的普遍性。关于交叉验证方法的模型选择性能,已有许多结果。本调查旨在将这些结果与模型选择理论的最新进展联系起来,特别强调将经验陈述与严格的理论结果区分开来。作为结论,提供了指导方针,选择最佳的交叉验证程序,根据手头的问题的特定功能。
2009-07-27 math.ST stat.AP stat.ME
Blocked Cross-Validation: A Precise and Efficient Method for Hyperparameter Tuning
MIT - World Peace University(麻省理工学院-世界和平大学)
本文提出blocked cross-validation(BCV)方法,通过针对CV划分和学习器随机行为进行分块,在显著减少运行次数下提供比RCV更精确的误差估计,实现更高效超参数调优。
2023-07-31 cs.LG stat.ME
Black-Box Model Confidence Sets Using Cross-Validation with High-Dimensional Gaussian Comparison
本文推导了V折交叉验证风险估计的高维高斯比较结果,为候选模型数大于样本量时的模型置信集构建提供了理论支持。
2023-11-13 math.ST stat.ME stat.TH
Double Cross Validation for the Number of Factors in Approximate Factor Models
确定因子的个数是因子分析的关键。在本文中,我们提出了{一个有效的交叉验证(CV)}方法来确定近似因子模型中的因子数。该方法应用CV两次,首先沿着观察方向,然后沿着变量方向,因此下文称为双重交叉验证(DCV)。不像大多数CV方法,这是容易过拟合,DCV是在确定的因素数量的统计一致,当变量的维度和样本量是足够大的。仿真研究表明,DCV在因子个数的选择上优于现有方法,特别是当特质误差具有异方差性、重尾性或方差较大时。
2019-07-02 math.ST stat.ME stat.TH
A New Formula for Faster Computation of the K-Fold Cross-Validation and Good Regularisation Parameter Values in Ridge Regression
本文提出新定理和更新公式,无需重拟合即可精确计算K折交叉验证残差,并给出快速近似策略及PRESS统计量估计方法,有效提升岭回归和Tikhonov回归的正则化参数选择效率。
2024-02-08 stat.AP stat.CO stat.ME
Estimating the Maximum Expected Value: An Analysis of (Nested) Cross Validation and the Maximum Sample Average
CWI(荷兰国家数学与计算机科学研究所)
我们研究了一般随机变量的最大期望值的两个最常见的估计的准确性:最大样本平均值的推广和交叉验证。没有无偏估计量存在,我们表明,它是不平凡的选择一个好的估计没有知识的随机变量的分布。我们调查和约束上述估计的偏差和方差,并证明了一致性。交叉验证的方差可以显着降低,但不能没有大的偏差风险。交叉验证的不同变体的偏差和方差被证明是非常依赖于问题的,错误的选择可能导致非常不准确的估计。
2013-03-01 cs.AI cs.LG stat.ME
Cross-validation Approaches for Multi-study Predictions
本研究提出两种交叉验证方法用于多研究堆叠预测,避免数据重复使用,具有预言性质,并在模拟和空气污染死亡率预测中验证了其提高预测准确性的效果。
2024-07-21 math.ST stat.ME stat.TH
Bootstrapping the Cross-Validation Estimate
针对交叉验证估计值不确定性量化现有方法存在严格假设等局限,本文提出一种快速自助法,通过随机效应模型估计方差分量解决计算难题,可快速估计标准误并生成有效置信区间,经模拟和真实数据分析验证了有效性。
2025-09-03 math.ST stat.ME stat.ML
On Neighbourhood Cross Validation
本文提出高效计算和优化二次惩罚损失模型交叉验证准则的方法,使超参数估计成本降至单次模型拟合量级,首次让留出邻域交叉验证可用于处理未建模短程自相关并量化不确定性。
2025-11-05 stat.CO stat.ME
Unbiased estimation of log normalizing constants with applications to Bayesian cross-validation
后验分布通常具有难以处理的归一化常数,称为边缘似然或证据,这对于通过贝叶斯因子进行模型比较很有用。这激发了许多方法来估计统计学中归一化常数的比率。在计算物理学中,这些比率的对数对应于自由能差。结合无偏马尔可夫链蒙特卡罗估计与路径抽样,也称为热力学积分,我们提出了新的无偏估计量的比值归一化常数的对数。作为副产品,我们提出了贝叶斯交叉验证准则的无偏估计量。所提出的估计是一致的,渐近正态的,可以很容易地受益于并行处理设备。考虑各种示例用于说明。
2018-10-02 stat.CO stat.ME
Efficient Cross-Validation for Sparse Linear Regression
Department of Analytics, Marketing and Operations, Imperial Business School, London, UK(分析、营销与运营系,帝国商务学院,伦敦,英国);Department of Industrial and Systems Engineering, Viterbi School of Engineering, University of Southern California, CA(工业与系统工程系,维特比工程学院,美国南加州大学,CA)
针对高维协变量矩阵和响应向量的稀疏线性回归,为选超参数常用k折交叉验证,但计算成本高。本文推导k折交叉验证损失的易处理松弛形式,减少计算量,结果表明其与成熟软件包有竞争力。
2026-07-07 cs.LG math.OC stat.ME
Limitations of "Limitations of Bayesian leave-one-out cross-validation for model selection"
本文是Gronau和Wagenmakers(2018)的文章的邀请讨论,可以在https://dx.doi.org/10.1007/s42113-018-0011-7上找到。
2018-10-12 math.ST stat.CO stat.ME
On Cross-validation for Sparse Reduced Rank Regression
在高维数据分析中,追求稀疏性和/或低秩的正则化方法近年来受到了广泛的关注。为了提供适当的收缩量,通常使用网格搜索和模型比较准则来找到最佳正则化参数。然而,我们发现,在所有褶皱上固定参数可能会导致不一致的问题,更合适的方法是交叉验证投影选择模式以获得最佳系数估计。我们在联合稀疏和秩亏模型的样本误差研究导致一类新的信息标准与四个无标度形式绕过噪声水平的估计。通过使用一个身份,我们提出了一种新的无标度校准,以帮助交叉验证非渐近地实现最小最大最优错误率。实验证明了所提方法的有效性。
2018-12-30 stat.ME stat.ML
Accurate Bayesian Data Classification without Hyperparameter Cross-validation
King’s College London(伦敦国王学院)
我们扩展了标准的贝叶斯多变量高斯生成数据分类器考虑的共轭,正常的Wishart先验分布的推广,并推导出的超参数分析通过证据最大化。在高维数据制度的最佳超参数的行为进行了探讨。所得到的广义模型的分类精度是有竞争力的国家的最先进的贝叶斯判别分析方法,但没有通常的交叉验证的计算负担。
2017-12-28 cs.LG math.ST stat.ME
Predictive Performance Test based on the Exhaustive Nested Cross-Validation for High-dimensional data
本文提出基于穷尽嵌套交叉验证的预测性能测试方法,用于高维数据中评估模型预测性能的可靠性与有效性。
2025-11-24 stat.ME stat.ML
Model selection by cross-validation in an expectile linear regression
ESME Lyon(ESME里昂)
本文提出了一种基于期望值的交叉验证方法,用于在可期望线性回归中选择最优模型,通过理论分析和实验证明其有效性。
2026-01-14 math.ST stat.CO stat.ME
Accelerating cross-validation with total variation and its application to super-resolution imaging
我们开发了一个近似公式的交叉验证误差(CVE)的稀疏线性回归惩罚的$\ell_1$ -范数和总变差项,这是基于一个扰动扩展,利用大的数据维数和模型。开发的公式使我们能够显着降低必要的计算成本的CVE评估。通过应用于超分辨率视界尺度模拟黑洞图像重建,验证了该公式的实用性。结果表明,我们的近似再现CVE值通过字面上进行交叉验证,具有相当好的精度。
2017-11-21 astro-ph.GA cond-mat.dis-nn stat.ME
Irredundant $k$-Fold Cross-Validation
本文提出无冗余 k 折交叉验证方法,使每个实例仅训练和测试各一次,在保持分层和模型无关性的同时,获得与 k 折交叉验证相当的估计性能、更少乐观的方差并显著降低计算成本。
2025-08-27 cs.AI cs.LG stat.ME
Cross-validation failure: small sample sizes lead to large error bars
预测模型为统计脑图像分析的许多最新发展奠定了基础:解码,MVPA,探照灯或生物标志物的提取。确定其有效性和有用性的原则性方法是交叉验证,即在看不见的数据上测试预测。在这里,我想提高人们对交叉验证的误差线的认识,这些误差线往往被低估。简单的实验表明,许多神经影像学研究的样本量固有地导致较大的误差条,例如100个样本的$\pm$ 10%。折叠的标准误差大大低估了它们。这些较大的误差条损害了预测模型得出的结论的可靠性,例如生物标志物或方法开发,与认知神经成像MVPA方法不同,无法通过在许多受试者中重复实验来获取更多样本。必须研究增加样本量的解决方案,解决数据异质性可能增加的问题。
2017-06-23 q-bio.QM stat.ME stat.ML
Segmentation of the mean of heteroscedastic data via cross-validation
本文研究了在不知道噪声变化的情况下,通过模型选择检测异方差信号均值突变的问题。提出了一个新的家庭的变点检测程序,交叉验证方法可以成功的异方差框架,而大多数现有的程序是不稳健的异方差。一个广泛的模拟研究,以及最近的理论结果支持所提出的程序的异方差的鲁棒性。比较基因组杂交(CGH)数据的应用程序提供,表明异方差的鲁棒性确实可以要求他们的分析。
2009-04-08 math.ST stat.ME stat.TH
Fast calculation of Gaussian Process multiple-fold cross-validation residuals and their covariances
本文推广高斯过程留一法公式,提出多重交叉验证残差及其协方差的快速计算方法,验证其准确性与加速效果,并说明其在模型诊断、参数估计和折设计中的价值。
2023-06-03 stat.CO stat.ME stat.ML
$hv$-Block Cross Validation is not a BIBD: a Note on the Paper by Jeff Racine (2000)
本文纠正了Racine(2000)在“consistent cross-validative model-selection for dependent data:$hv$ -block cross-validation”一文中的一个错误。在他的论文中,他暗示其中提出的$hv$ -块交叉验证在Shao(1993)的意义上是一致的。为了得到这种直觉,他依赖于推测,即$hv$ -区组是平衡不完全区组设计(BIBD)。本说明表明情况并非如此,因此$hv$ -块的理论一致性仍然是一个悬而未决的问题。此外,我还提供了一个Python程序,用于计算每个样本和每对样本的出现次数。
2019-10-20 cs.LG math.ST q-bio.QM