Minimax Limits of k-Fold Cross-Validation via Majority
University of Haifa（海法大学）；EPFL（苏黎世联邦理工学院）
本文通过分析二元分类中多数投票算法的交叉验证均方误差，揭示了k折交叉验证的极小极大极限，证明当折数k随样本数n增长时，任何经验风险最小化算法的均方误差下界为Ω(√k/n)。
2026-06-23 cs.LG math.ST stat.TH
$\left( β, \varpi \right)$-stability for cross-validation and the choice of the number of folds
University of Sydney（悉尼大学）
本文提出了交叉验证稳定性的新概念--$\left( β, \varpi \right)$ -稳定性，并以此作为交叉验证一般理论的新视角。$\left( β, \varpi \right)$ -稳定性通过拉德马赫复杂度在数学上将交叉验证模型的泛化能力和稳定性联系起来。我们的结果从数学上揭示了交叉验证的效果：一方面，交叉验证通过验证测试集上的所有替代方案来选择具有最佳经验推广能力的模型;另一方面，交叉验证可能会导致亚抽样误差，从而损害模型选择的稳定性。此外，q \textsuperscript{th}轮中的训练误差和测试误差之间的差异，有时被称为泛化误差，可能在q上自相关。在上述思想的指导下，$\left( β, \varpi \right)$ -稳定性帮助我们推导出一类新的Rademacher界，称为单轮/卷积Rademacher界，用于在i.i.d.\非i.i.d.例对于轻尾和重尾损失，新的界限量化的交叉验证模型的一轮/平均测试误差的稳定性，在其一轮/平均训练误差，样本量$n$，折叠$K$的数量，尾部属性的损失（编码为Orlicz- $Ψ_ν$规范）和拉德马赫复杂度的模型类$Λ$。新的一类边界不仅定量地揭示了交叉验证模型的泛化能力的稳定性，它还显示了经验的最佳选择的折叠次数$K$，在一轮/平均测试误差的上限是最低的，或者，换句话说，在那里的测试误差是最稳定的。
2017-07-06 cs.LG math.ST stat.ML
An a Priori Exponential Tail Bound for k-Folds Cross-Validation
University of Alberta（阿尔伯塔大学）
我们认为先验的泛化界交叉验证估计和学习者的稳定性。特别地，我们首先导出了n个独立随机变量的一般函数的指数Efron-Stein型尾不等式。接下来，在一些合理的稳定性概念下，我们使用这个指数尾界来分析由一般学习规则生成的假设的真实风险周围的k倍交叉验证（KFCV）估计的浓度。虽然积累的文献经常将这种集中归因于估计量的偏差和方差，但我们的界限将这种集中归因于学习规则的稳定性和折叠次数k。这一见解提出了有效的关注KFCV的实际使用，并建议研究方向，以获得可靠的经验估计的实际风险。
2017-06-19 cs.LG stat.ML
Estimating the Maximum Expected Value: An Analysis of (Nested) Cross Validation and the Maximum Sample Average
CWI（荷兰国家数学与计算机科学研究所）
我们研究了一般随机变量的最大期望值的两个最常见的估计的准确性：最大样本平均值的推广和交叉验证。没有无偏估计量存在，我们表明，它是不平凡的选择一个好的估计没有知识的随机变量的分布。我们调查和约束上述估计的偏差和方差，并证明了一致性。交叉验证的方差可以显着降低，但不能没有大的偏差风险。交叉验证的不同变体的偏差和方差被证明是非常依赖于问题的，错误的选择可能导致非常不准确的估计。
2013-03-01 cs.AI cs.LG stat.ME
Tuning Parameter Selection in Regularized Estimations of Large Covariance Matrices
最近提出了许多大协方差阵的正则化估计，这些估计中的调整参数通常通过交叉验证来选择。然而，没有关于进行交叉验证的折叠次数的指导方针，也没有交叉验证与基于自助法的方法之间的比较。通过大量的模拟，我们建议10倍交叉验证（十分之九用于训练，十分之一用于验证）是合适的，当估计精度在Frobenius范数中测量时，而2倍交叉验证（一半用于训练，一半用于验证）或反向3倍交叉验证（三分之一用于训练，三分之二用于验证）在算子范数中是合适的。我们还建议“最优”交叉验证比基于自举的方法更适合这两种类型的范数。
2013-08-15 stat.CO stat.ME
Network Cross-Validation and Model Selection via Subsampling
University of Michigan（密歇根大学）；North Carolina State University（北卡罗来纳州立大学）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出NETCROP方法，通过子采样实现网络交叉验证与模型选择，具有高效性和准确性优势。
2026-10-22 stat.CO stat.ME
Estimating Program Participation with Partial Validation
Davidson College（戴维森学院）；Andrew Young School of Policy Studies, Georgia State University（佐治亚州立大学安德鲁·杨政策研究学院）
本文提出了一种利用部分验证数据克服二元选择模型中误分类偏差的方法，并通过实证分析展示了其在健康保险覆盖率研究中的应用。
2025-12-16 econ.EM stat.ME
Leave-One-Out Cross-Validation for Bayesian Model Comparison in Large Data
最近，新的模型评估方法，基于二次抽样和后验近似，已被提出用于缩放留一交叉验证（LOO）到大数据集。虽然这些方法在估计单个模型的预测性能方面效果很好，但在模型比较中功能较弱。我们提出了一种有效的方法，通过结合快速近似LOO代理人与精确LOO子采样使用的差异估计器和供应的缩放特性方面的证据来估计预测性能的差异。由此产生的方法可以比以前的方法更有效的数量级，以及更适合于模型比较。
2020-01-03 stat.ME
Partitioned Cross-Validation for Divide-and-Conquer Density Estimation
我们提出了一种有效的方法来估计交叉验证带宽参数的核密度估计在非常大的数据集，普通的交叉验证是非常低效的，无论是统计和计算。我们的方法依赖于计算数据分区上的多个交叉验证带宽，然后进行适当的缩放和平均，以返回整个数据集的分区交叉验证带宽。分区交叉验证方法产生了显着的计算收益比普通的交叉验证。我们还表明，分区交叉验证可以是统计效率相比，普通的交叉验证。我们推导出解析表达式的渐近最优分割数，并研究其有限样本精度，通过详细的模拟研究。我们还提出了一个置换版本的分区交叉验证，达到更高的效率。研究了估计量的理论性质，并将该方法应用于具有1100万个观测值的Higgs玻色子数据集
2016-08-31 stat.ME
On Neighbourhood Cross Validation
University of Edinburgh（爱丁堡大学）
本文提出高效计算和优化二次惩罚损失模型交叉验证准则的方法，使超参数估计成本降至单次模型拟合量级，首次让留出邻域交叉验证可用于处理未建模短程自相关并量化不确定性。
2025-11-05 stat.CO stat.ME
Unbiased estimation of log normalizing constants with applications to Bayesian cross-validation
后验分布通常具有难以处理的归一化常数，称为边缘似然或证据，这对于通过贝叶斯因子进行模型比较很有用。这激发了许多方法来估计统计学中归一化常数的比率。在计算物理学中，这些比率的对数对应于自由能差。结合无偏马尔可夫链蒙特卡罗估计与路径抽样，也称为热力学积分，我们提出了新的无偏估计量的比值归一化常数的对数。作为副产品，我们提出了贝叶斯交叉验证准则的无偏估计量。所提出的估计是一致的，渐近正态的，可以很容易地受益于并行处理设备。考虑各种示例用于说明。
2018-10-02 stat.CO stat.ME
Multiplicative local linear hazard estimation and best one-sided cross-validation
本文发展了一类新的交叉验证技术的局部线性核风险及其乘性偏差校正的详细的数理统计理论。交叉验证的新类别结合了本地信息的原则和间接交叉验证的最新进展。交叉验证乘性核风险估计的一些应用在文献中确实存在。然而，详细的数理统计理论和小样本性能通过本文介绍，并进一步升级到我们的最佳单侧交叉验证的新类别。最佳单侧交叉验证在其实际例证、小样本性能和数理统计理论性能方面都有出色的表现。
2017-10-16 stat.ME
Modified Cross-Validation for Penalized High-Dimensional Linear Regression Models
本文针对高维环境下Lasso惩罚线性回归模型，提出了一种改进的交叉验证法来选择惩罚参数。该方法被扩展到其他惩罚，如弹性网。我们进行了广泛的模拟研究和实际数据分析，比较性能的修改后的交叉验证方法与其他方法。结果表明，流行的$K$折叠交叉验证方法包括许多噪声变量在选定的模型，而修改后的交叉验证工作在很宽的范围内的系数和相关设置。包含计算机代码的补充材料可在网上获得。
2013-09-09 stat.ME
A New Formula for Faster Computation of the K-Fold Cross-Validation and Good Regularisation Parameter Values in Ridge Regression
本文提出新定理和更新公式，无需重拟合即可精确计算K折交叉验证残差，并给出快速近似策略及PRESS统计量估计方法，有效提升岭回归和Tikhonov回归的正则化参数选择效率。
2024-02-08 stat.AP stat.CO stat.ME
Cross-Validation, Risk Estimation, and Model Selection
交叉验证是一种流行的非参数方法，用于评估预测规则的准确性。交叉验证的有用性取决于我们想要使用它的任务。在这篇文章中，我讨论了一个简单的非参数设置，并发现交叉验证是渐近无信息的预期测试误差的任何给定的预测规则，但允许渐近一致的模型选择。这种现象的原因是交叉验证的前阶误差项不依赖于被评估的模型，因此当我们比较两个模型时会抵消。
2019-09-25 stat.ME
A computationally fast alternative to cross-validation in penalized Gaussian graphical models
研究了惩罚高斯图模型中正则化参数的选取问题。当目标是获得具有良好预测能力的模型时，交叉验证是金标准。我们提出了一个新的估计Kullback-Leibler损失的高斯图模型，提供了一个计算快速的替代交叉验证。估计量是通过近似留一交叉验证得到的。我们的方法被证明对各种类型的图形的模拟数据集。建议的公式表现出优越的性能，特别是在典型的小样本量的情况下，相比其他可用的替代交叉验证，如赤池的信息准则和广义近似交叉验证。我们还表明，估计可以用来提高性能的BIC时，样本量是小的。
2014-03-05 stat.ME
Estimating the average treatment effect in cluster-randomized trials with misclassified outcomes and non-random validation subsets
针对整群随机试验中结果误分类和非随机验证子集导致的因果推断偏倚问题，提出一种ATE估计方法，通过处理金/银标准结果关系及整群稳健设计，在模拟中验证有效性并支持ASPIRE试验应用。
2025-08-26 stat.ME
Fast calculation of Gaussian Process multiple-fold cross-validation residuals and their covariances
本文推广高斯过程留一法公式，提出多重交叉验证残差及其协方差的快速计算方法，验证其准确性与加速效果，并说明其在模型诊断、参数估计和折设计中的价值。
2023-06-03 stat.CO stat.ME stat.ML
One-Sided Cross-Validation for Nonsmooth Density Functions
单侧交叉验证（OSCV）是一种带宽选择方法，最初由Hart和Yi（1998）在光滑回归函数的背景下引入。Mart 'ınez-Miranda等人（2009）开发了一种用于光滑密度函数的OSCV版本。本文将该方法推广到非光滑密度。它还介绍了完全鲁棒的OSCV修改，产生一致的OSCV带宽的平滑和非平滑的情况下。OSCV方法的光滑和非光滑密度的实际实现进行了讨论。所考虑的交叉验证内核之一具有改进OSCV方法在回归上下文中的实现的潜力。
2017-03-15 stat.ME
Cross validation approaches for penalized Cox regression
University of Iowa（爱荷华大学）
本文提出两种新的Cox回归交叉验证方法，通过模拟数据和肺癌生存研究数据验证其在性能和数值稳定性上的优势。
2019-05-24 stat.ME
Limitations of "Limitations of Bayesian leave-one-out cross-validation for model selection"
本文是Gronau和Wagenmakers（2018）的文章的邀请讨论，可以在https://dx.doi.org/10.1007/s42113-018-0011-7上找到。
2018-10-12 math.ST stat.CO stat.ME
Approximate leave-future-out cross-validation for Bayesian time series models
时间序列分析的一个共同目标是利用观测到的序列为未来的观测提供预测信息。在没有任何实际的新数据进行预测的情况下，交叉验证可以用于估计模型的未来预测准确性，例如，用于模型比较或选择的目的。贝叶斯模型的精确交叉验证通常在计算上是昂贵的，但是近似交叉验证方法已经被开发出来，最值得注意的是留一交叉验证（LOO-CV）方法。如果实际的预测任务是在给定过去的情况下预测未来，则LOO-CV提供了过于乐观的估计，因为来自未来观测的信息可以影响对过去的预测。为了正确地解释时间序列结构，我们可以使用留后交叉验证（leave-future-out cross-validation，LFO-CV）。与精确LOO-CV一样，精确LFO-CV需要多次根据不同的数据子集重新调整模型。使用帕累托平滑的重要性抽样，我们提出了一种方法近似精确的LFO-CV，大大降低了计算成本，同时也提供了有关的近似质量的信息诊断。
2020-05-08 stat.ME
Empirical study of indirect cross-validation
在本文中，我们提供了深入了解间接交叉验证（ICV），核密度估计的带宽选择的新方法的经验性质。首先，我们描述的方法和报告的理论结果，用于开发一个实用的模型，某些ICV参数。接下来，我们提供了一个数值研究的详细描述，表明ICV方法通常优于最小二乘交叉验证（LSCV）在有限的样本。ICV的主要优点之一是与LSCV相比其稳定性增加。两个真实数据的例子显示了使用ICV和ICV的本地版本的好处。
2008-11-29 stat.ME
Leave-group-out cross-validation for latent Gaussian models
本文针对潜在高斯模型提出一种留组交叉验证框架，通过从训练集中排除精心构造的集合来模拟长程预测，并利用调整联合后验避免重新拟合模型，已在R-INLA中实现。
2025-07-02 stat.AP stat.CO stat.ME
Cross validation residuals for generalised least squares and other correlated data models
交叉验证残差是众所周知的普通最小二乘模型。在这里，留M交叉验证扩展到广义最小二乘。交叉验证残差和Cook距离之间的关系通过拟合所有数据（训练和测试）的模型和拟合简化数据集（仅训练数据）的模型的广义残差平方和差异的近似值来证明。对于广义最小二乘法，与普通最小二乘法一样，不需要将模型重新拟合到减小大小的数据集，因为在将模型拟合到所有数据后，K折交叉验证的所有值都可用。
2018-09-05 stat.ME stat.ML
Model selection by cross-validation in an expectile linear regression
ESME Lyon（ESME里昂）
本文提出了一种基于期望值的交叉验证方法，用于在可期望线性回归中选择最优模型，通过理论分析和实验证明其有效性。
2026-01-14 math.ST stat.CO stat.ME
Cross-Validation in Penalized Linear Mixed Models: Addressing Common Implementation Pitfalls
针对惩罚线性混合模型处理相关高维数据时直接沿用独立数据调参方法的问题，本文提出正确的交叉验证实现以规避常见陷阱，并以证明、模拟和真实数据验证其有效性。
2025-03-18 stat.ME
A relation between log-likelihood and cross-validation log-scores
它示出了给定一些数据的假设或模型的对数似然性等同于可以从数据的所有子集计算的所有留一交叉验证对数得分的平均值。这种关系可以推广到任何$k$ -折交叉验证对数分数。
2019-08-23 cs.IT math.IT stat.ME
Cross-Validation with Confidence
交叉验证是统计学和机器学习中最流行的模型选择方法之一。传统的交叉验证方法虽然具有广泛的适用性，但由于忽略了测试样本中的不确定性，往往会选择过拟合模型。我们开发了一个新的，统计原则的推理工具的基础上交叉验证，考虑到测试样本中的不确定性。这种新方法输出一组高度竞争的候选模型，其中包含具有保证概率的最佳模型。因此，我们的方法可以在经典的线性回归设置中实现一致的变量选择，而现有的交叉验证方法需要非常规的分割比。当用于正则化调整参数选择时，该方法可以提供预测精度和模型可解释性之间的进一步权衡。我们证明了所提出的方法在几个模拟和真实数据的例子的性能。
2017-12-22 stat.ME stat.ML
Efficient leave-one-out cross-validation for Bayesian non-factorized normal and Student-t models
交叉验证可用于测量模型的预测准确性，以进行模型比较、平均或选择。标准的留一交叉验证（LOO-CV）要求观测模型可以分解为简单的项，但时间和空间统计学中的许多重要模型不具备这一特性，或者在强制分解为简单项时效率低下或不稳定。我们推导出如何有效地计算和验证任何贝叶斯非因子分解模型的精确和近似LOO-CV，其结果值为多元正态分布或Student- t分布。我们演示的方法使用滞后同时自回归（SAR）模型作为案例研究。
2020-10-01 stat.ME
Selective inference after cross-validation
本文描述了一种方法，用于执行推理的模型选择交叉验证。当在交叉验证中被最小化的测试误差是残差平方和时，它可以被写为二次型。这使我们能够将Loftus等人（2015）中的推理框架应用于由二次约束确定的模型，以最大限度地减少CV检验误差。我们对模型训练过程的唯一要求是它的选择事件是满足线性或二次约束的区域。这包括Lasso和forward stepped，它们是我们贯穿全文的主要示例。我们不需要知道误差方差$σ^2$。这里描述的过程是自适应地选择模型并对所选模型执行推理的计算密集型方法。实现在R包中可用。
2015-11-28 stat.ME
Cross-Validation for Nonlinear Mixed Effects Models
交叉验证经常用于各种应用中的模型选择。然而，由于交叉验证需要结果变量的“样本外”预测，当存在随机效应时，无法容易地计算，因此难以将交叉验证应用于混合效应模型（包括非线性混合效应模型或NLME模型）。我们描述了两种新的交叉验证的变体，可以应用于非线性混合效应模型。一种变体，即样本外预测基于随机效应的事后估计，可用于选择总体结构模型。另一种变体，其中交叉验证寻求最小化估计的随机效应而不是估计的残差，可以用于选择要包括在模型中的协变量。我们表明，这些方法在各种模拟数据集产生准确的结果，并将其应用于两个公开的人口药代动力学数据集。
2013-04-10 stat.AP stat.ME
A Note on the Finite Sample Bias in Time Series Cross-Validation
Federal Reserve Bank of Kansas City（堪萨斯城联邦储备银行）
本文指出，即使在使用向量自回归或误差具有鞅结构的时间序列模型时，交叉验证仍会引入有限样本偏置。
2025-12-05 econ.EM math.ST stat.ME
Bagging cross-validated bandwidth selection in nonparametric regression estimation with applications to large-sized samples
交叉验证是非参数回归估计中一种常用的带宽选择方法。然而，这种技术有两个显著的缺点：（i）所选带宽的大的可变性，以及（ii）对于非常大的样本量，不能在合理的时间内提供结果。为了克服这些问题，装袋交叉验证带宽进行了分析。该方法包括计算有限数量的子样本的交叉验证带宽，然后将平均平滑参数重新缩放到原始样本量。在随机设计回归模型下，得到了Nadaraya-Watson估计量的留一交叉验证带宽的偏差和方差的二阶渐近表达式.随后，渐近偏差和方差和极限分布推导出袋装交叉验证选择器。子样本数量和子样本大小的适当选择导致装袋交叉验证选择器依分布收敛的$n^{-1/2}$速率，优于留一交叉验证的速率$n^{-3/10}$。在与COVID-19大流行相关的真实数据集上进行的几次模拟和演示显示了我们的建议的行为以及与留一交叉验证相比在统计效率和计算时间方面更好的性能。
2021-05-10 math.ST stat.AP stat.CO
Indirect Cross-validation for Density Estimation
提出了一种新的核密度估计带宽选择方法。这种方法被称为间接交叉验证（ICV），利用了所谓的选择核。最小二乘交叉验证（LSCV）用于选择选择核估计器的带宽，并且该带宽被适当地重新缩放以用于高斯核估计器。所提出的选择核是两个高斯核的线性组合，并且不需要是单峰的或正的。理论发展表明，ICV带宽的相对误差可以收敛到0的$n^{-1/4}$的速率，这是实质上优于$n^{-1/10}$率的LSCV。有趣的是，如果用于实际估计密度函数，则最适合带宽选择的选择核非常差。这个属性似乎是更大的和有据可查的悖论的一部分，大意是“估计问题越难，交叉验证执行得越好。“ICV方法在模拟研究、真实数据示例和局部选择带宽的模拟示例中一致优于LSCV。
2008-11-29 stat.ME
Network cross-validation by edge sampling
虽然现在有许多统计模型和方法可用于网络分析，但恢复网络数据仍然是一个具有挑战性的问题。交叉验证是用于模型选择和参数调整的有用的通用工具，但不能直接应用于网络，因为将网络节点分成组需要删除边并破坏一些网络结构。在这里，我们提出了一个新的网络reservation战略的基础上分裂节点对，而不是适用于交叉验证的广泛的网络模型选择任务的节点。我们提供了一个理论上的理由，我们的方法在一般的设置和例子，我们的方法可以用于特定的网络模型选择和参数调整任务。模拟网络和统计学家的引文网络上的数值结果表明，这种交叉验证方法适用于模型选择。
2020-05-01 stat.ME stat.ML
The restricted consistency property of leave-$n_v$-out cross-validation for high-dimensional variable selection
在高维变量选择问题中，交叉验证（CV）方法是选择调节参数的常用方法。我们发现CV的错误对齐是其过度选择行为的一个可能原因。为了解决这个问题，我们提出了一个版本的leave- $n_v$ -out交叉验证（CV（$n_v$）），用于在高维广义线性模型的受限候选模型集中选择最优模型。通过在每个CV分割中使用相同的候选模型序列和适当的构造样本量$n_c$，CV（$n_v$）避免了开发理论特性的潜在障碍。CV（$n_v$）被证明在温和的条件下享受有限的模型选择一致性属性。大量的模拟和实际数据分析支持了理论结果，并证明了CV（$n_v$）在模型选择和预测方面的性能。
2018-01-16 stat.ME
Confidence intervals for the Cox model test error from cross-validation
针对交叉验证估计Cox模型测试误差时置信区间覆盖率不足的问题，将嵌套CV思路推广至Cox比例风险模型，探索该场景下测试误差的多种选择，以提升置信区间覆盖率。
2023-10-06 stat.ME stat.ML
Cross-validation: what does it estimate and how well does it do it?
该研究揭示交叉验证等方法实际估计的是同总体其他训练集模型的平均预测误差，指出常规交叉验证置信区间因折间相关覆盖率不足，提出嵌套交叉验证方案以更准确估计方差，提升区间覆盖率。
2022-07-18 math.ST stat.CO stat.ME
Moving beyond spatial and random cross-validation in environmental modelling: a call for prediction-domain adaptive evaluation
University of Münster（明斯特大学）
本文提出预测领域自适应评估方法，用于在无法获取独立概率样本时更准确评估空间预测地图的准确性。
2026-05-13 stat.ME
On the marginal likelihood and cross-validation
在贝叶斯统计中，边际似然（也称为证据）用于评估模型拟合，因为它量化了先验数据的联合概率。相比之下，非贝叶斯模型通常使用交叉验证对保留数据进行比较，通过$k$ -倍分区或保留- $p$ -out子采样。我们表明，边际似然是正式等同于详尽的离开$p$交叉验证平均在所有值的$p$和所有举行了测试集时，使用的日志后验预测概率的评分规则。此外，对数后验预测是数据交换下唯一一致的评分规则。这为边际似然和交叉验证提供了新的见解，并突出了边际似然对先验选择的潜在敏感性。我们提出了一种替代方法，使用累积交叉验证后的准备培训阶段。我们的工作与先决分析和内在贝叶斯因素有关，但动机是通过不同的课程。
2019-09-20 stat.ME stat.ML
On the use of cross-validation for the calibration of the adaptive lasso
自适应套索是指一类使用加权版本的$L_1$范数惩罚的方法，其中权重从待估计的参数向量的初始估计导出。无论选择的方法来计算这个初始估计，自适应套索的性能严格依赖于一个超参数的值，它控制的幅度的加权$L_1$ -范数的惩罚标准。至于其他机器学习方法，交叉验证对于自适应套索的校准非常流行，这是为了选择该超参数的数据驱动的最佳值。然而，最简单的交叉验证方案在这种情况下是无效的，必须采用更精细的方案来保证最佳校准。简单的交叉验证方案的差异已被很好地记录在其他上下文中，但较少，当涉及到自适应套索的校准，因此，许多统计分析师仍然忽略it. In这项工作中，我们回顾适当的交叉验证方案的自适应套索的校准，并说明了简单的方案的差异，使用合成和现实世界的例子。我们的结果清楚地表明，对于自适应套索的几个版本（包括流行的一步套索），在支持恢复和预测误差方面，简单方案是次优的。
2021-07-15 stat.ME
A survey of cross-validation procedures for model selection
用于估计估计量的风险或执行模型选择，交叉验证是一种广泛使用的策略，因为它的简单性和明显的普遍性。关于交叉验证方法的模型选择性能，已有许多结果。本调查旨在将这些结果与模型选择理论的最新进展联系起来，特别强调将经验陈述与严格的理论结果区分开来。作为结论，提供了指导方针，选择最佳的交叉验证程序，根据手头的问题的特定功能。
2009-07-27 math.ST stat.AP stat.ME
A note on closed-form solutions for estimating sample size when externally validating a binary prediction model based on $C$-statistic precision
Kansas State University（堪萨斯州立大学）；The Ohio State University CFAES（俄亥俄州立大学农业学院与食品科学）
针对外部验证中C统计量精度所需的样本量估计，通过代数重排Newcombe公式得到七种闭式解，比迭代法快数十万倍且结果一致。
2026-05-22 stat.ME
Cross-Validation for Correlated Data
具有平方误差损失的K折交叉验证（CV）被广泛用于评估预测模型，特别是当不能采用强分布假设时。然而，具有平方误差损失的CV并非不受分布假设的影响，特别是在涉及非独立同分布的情况下。数据本文分析了相关数据的CV。我们提出了一个标准CV的相关性存在的适用性的标准。当这个标准不成立时，我们引入了一个偏差校正的交叉验证估计量，我们称之为$CV_c,$，它在许多标准CV无效的设置中产生预测误差的无偏估计。我们还证明了我们的结果数值，并发现，引入我们的校正大大提高了，模型评估和模型选择在模拟和真实数据的研究。
2020-04-24 stat.ME stat.ML
Black-Box Model Confidence Sets Using Cross-Validation with High-Dimensional Gaussian Comparison
本文推导了V折交叉验证风险估计的高维高斯比较结果，为候选模型数大于样本量时的模型置信集构建提供了理论支持。
2023-11-13 math.ST stat.ME stat.TH
Semi-parametric generalized estimating equations for repeated measurements in cross-over designs
开发了在每个时期内重复测量的交叉设计模型。它是使用广义估计方程的扩展获得的，广义估计方程包括用于对处理效应进行建模的参数分量和用于对时间和残留效应进行建模的非参数分量;非参数分量的估计方法基于样条。进行了模拟研究，探索模型的属性。因此，当存在结转效应或功能性时间效应时，所提出的模型比标准模型呈现出更好的结果。其中的理论性质，解决方案被发现是类似于加权最小二乘。因此，可以进行模型诊断，以适应多元回归的结果。所提出的方法在交叉实验的数据集中实施，这些实验激发了这项工作的方法：兔子的收缩压和胰岛素。
2022-09-12 stat.ME
Unified optimal model averaging with a general loss function based on cross-validation
该研究提出基于交叉验证的统一模型平均方法MACV及二阶近似交叉验证SEAL，建立非独立同分布下的渐近理论，可适配多类复杂数据场景，经模拟与真实数据验证具备优势。
2024-12-13 stat.ME
Orthogonal Validation-Augmented Cox Regression with Internally Validated Failure Indicators Cross-Fitted Estimation, Risk-Set Linearization, and Validation Design
Michigan State University（密歇根州立大学）
针对内部验证样本仅能提供部分金标准事件分类的问题，提出正交验证增强Cox（OVAC）回归，该方法可降低经验方差，实现双稳健识别与校准推断，为Cox估计提供机器学习兼容方案及验证设计指导。
2026-09-01 stat.ME
Flexible parametric bootstrap for testing homogeneity against clustering and assessing the number of clusters
聚类分析中有两个众所周知的难题，即估计聚类数量和检查待聚类的总体是否实际上不同质。给定一个数据集，聚类方法和聚类验证指数，本文提出建立空模型，捕捉不能被解释为指示聚类的数据的结构特征。人工数据集从空模型中采样，参数从原始数据集估计。这可用于检验同质总体相对于聚类备选方案的原假设。它还可以用于校准验证指数，以估计聚类数，通过考虑任何给定数量的聚类的空模型下的指数的预期分布。该方法说明了三个例子，涉及各种不同的聚类技术（分割围绕medoids，分层方法，高斯混合模型），验证指标（平均轮廓宽度，预测强度和BIC），和问题，如混合类型的数据，时间和空间自相关。
2015-02-09 stat.ME
Comparison of Cross-Validation Methods for Stochastic Block Models
我们引入了一种新的交叉验证方法，我们称之为latinCV，我们比较这种方法与其他模型选择方法使用从随机块模型生成的数据。比较latinCV其他交叉验证方法，我们表明，latinCV执行类似的方法中描述的\cite{hoff2008modeling}和latinCV有一个显着更大的真实模型恢复精度比NCV方法的\cite{chen2014network}。我们还表明，这种差异的原因是与较大的方差的NCV估计。比较latinCV替代模型选择方法，我们表明，latinCV表现优于信息标准AIC和BIC，以及社区检测方法infomap和一个例程，试图最大限度地提高模块化。本文中的模拟研究包括一系列的网络大小和生成参数的随机块模型，使我们能够检查模型选择的准确性和模型的大小和复杂性之间的关系。总体而言，latinCV执行更准确的模型选择，并避免过度拟合比任何其他模型选择方法考虑。
2016-05-10 stat.ME
Bootstrapping the Cross-Validation Estimate
针对交叉验证估计值不确定性量化现有方法存在严格假设等局限，本文提出一种快速自助法，通过随机效应模型估计方差分量解决计算难题，可快速估计标准误并生成有效置信区间，经模拟和真实数据分析验证了有效性。
2025-09-03 math.ST stat.ME stat.ML
Cross-validation Approaches for Multi-study Predictions
本研究提出两种交叉验证方法用于多研究堆叠预测，避免数据重复使用，具有预言性质，并在模拟和空气污染死亡率预测中验证了其提高预测准确性的效果。
2024-07-21 math.ST stat.ME stat.TH
Blocked Cross-Validation: A Precise and Efficient Method for Hyperparameter Tuning
MIT - World Peace University（麻省理工学院-世界和平大学）
本文提出blocked cross-validation（BCV）方法，通过针对CV划分和学习器随机行为进行分块，在显著减少运行次数下提供比RCV更精确的误差估计，实现更高效超参数调优。
2023-07-31 cs.LG stat.ME
