False Variable Selection Rates in Regression
最近有兴趣将错误发现率(FDR)的思想扩展到回归设置中的变量选择。传统上,在这些设置中的FDR已经根据全回归模型的系数来定义。最近的论文一直在努力控制这个数量时,预测相关。本文表明,这个完整的模型定义的FDR遭受不直观的和潜在的不良行为的存在相关的预测。我们提出了一个新的错误选择错误的标准,错误的可变率(FVR),避免了这些问题,并表现在一个更直观的方式。我们讨论了这个标准的行为,以及它如何与传统的FDR相比,以及提出的指导方针,以确定在特定的环境中是适当的。最后,我们提出了一个简单的估计程序FVR逐步变量选择。我们分析了这种估计的性能,并在文献中最近的估计连接。
2013-02-10 stat.ME
Robust Parametric Classification and Variable Selection by a Minimum Distance Criterion
我们研究了一种基于最小距离准则的鲁棒惩罚逻辑斯谛回归算法。有影响力的离群值通常与参数向量估计的爆炸相关联,但是在标准逻辑斯谛回归的上下文中,由于离群值引起的偏差总是导致参数向量内爆,即向零向量收缩。因此,在存在离群值的情况下,使用LASSO类罚分进行变量选择可能导致相关协变量的漏检。我们表明,通过选择一个最小的距离标准与弹性网惩罚,我们可以同时找到一个简约的模型,避免估计内爆,即使在重要的小$n$大$p$的情况下存在许多离群值。使用MM算法的实现和性能评估。
2012-09-29 stat.CO stat.ME stat.ML
Stepwise regression revisited
本文指出在线性回归中仅增加自变量即会加剧近似多重共线性,并提出调整后的方差膨胀因子以补偿大量自变量的影响,为逐步回归和多元线性回归提供新的变量选择决策准则。
2025-03-06 stat.ME
Robust Variable Selection Criteria for the Penalized Regression
我们提出了一个强大的变量选择过程,使用基于发散的M-估计结合惩罚函数。它产生回归参数的稳健估计,同时选择重要的解释变量。基于估计方程的二次近似,构造了一种有效的算法。导出了回归系数的渐近分布和影响函数。基于Mallow的$C_p$统计量和Akaike信息准则(AIC)的模型选择方法在存在重尾误差或离群值的情况下往往表现出很差的性能。为了这个目的,我们引入了强大的版本,这些信息标准的基础上,我们提出的方法。仿真研究表明,鲁棒变量选择技术优于经典的基于似然的技术存在离群值。通过实际数据的分析,验证了该方法的有效性.
2019-12-29 stat.ME
A Minimum Message Length Criterion for Robust Linear Regression
本文将最小信息长度原理应用于具有Student-t误差的线性回归模型的推断。提出了一种新的Student-t回归变量选择和参数估计准则。通过利用回归模型的性质,我们得到了一个合适的无信息的适当的均匀先验分布的回归系数,导致一个简单和易于应用的标准。我们提出的准则不需要指定超参数,并且在设计矩阵的满秩变换和结果的线性变换下都是不变的。我们比较了建议的标准与几个标准的模型选择标准,如赤池信息标准和贝叶斯信息标准,模拟和实际数据与有希望的结果。
2018-02-20 stat.ME
Low rank Multivariate regression
本文研究了目标回归矩阵$A$接近低秩矩阵时的多元回归问题。我们的主要兴趣在于噪声方差未知的实际情况。我们的主要贡献是在此设置中提出了一个标准,选择一个家庭的低秩估计,并证明了非渐近预言不等式的估计。我们还调查了更容易的情况下,噪声的方差是已知的,并概述了出现在我们的标准的处罚是最小的(在某种意义上)。这些惩罚涉及到一些随机矩阵的Ky-Fan拟范数的期望值。这些数量可以很容易地在实践中评估和上限可以从随机矩阵理论的最新结果。
2011-06-22 math.ST stat.TH
A method for variable selection in a multivariate functional linear regression model
针对多标量响应、多功能型预测变量的函数型线性模型,本文通过基展开转化为多元线性回归,并提出基于准则惩罚的变量选择方法,模拟验证其有效性。
2023-11-01 math.ST stat.TH
The BerHu penalty and the grouped effect
Huber准则是稳健回归的一种有效方法。自适应最小绝对收缩和选择算子(lasso)是一种流行的同时进行估计和变量选择的技术。在小样本量和协变量数较大的情况下,这种罚函数不是很令人满意的变量选择方法。在本文中,我们引入了一个自适应的反向版本的Huber准则作为一个罚函数。我们称这种惩罚为适应性Berhu惩罚。对于弹性净惩罚,小系数将其$\ell_1$范数贡献给该惩罚,而较大系数导致其二次增长(如岭回归)。证明了与普通最小二乘准则或Huber准则结合自适应Berhu罚的估计量具有预言性质。此外,这一程序还促进了群体效应。该方法与自适应弹性网络正则化进行了比较。广泛的仿真研究表明,令人满意的有限样本的性能,这样的程序。为了说明的目的,一个真实的例子进行了分析。关键词:自适应Berhu罚;伴随尺度;弹性网罚; Huber准则;预言性质;稳健估计。
2012-07-30 math.ST stat.ME stat.TH
Information Criterion for a Large Scale Subset Regression Models
本文针对大规模子集回归模型,从对数似然偏差校正的角度指出了从大量候选变量中启发式构建模型易产生表观相关性的问题,并提出了一种考虑该问题的校正方法。
2023-09-15 stat.ME
Variable selection in multiple regression with random design
本文提出了一种随机变量多元回归中变量选择的方法。这种方法是基于一个标准,允许减少变量选择问题的问题,估计合适的排列和维数。然后,估计这些参数的建议和选择变量的方法是一致的。仿真研究,允许获得所提出的方法的性能的理解,并将其与现有的方法进行比较。
2015-06-26 math.ST stat.TH
Trust, but verify: benefits and pitfalls of least-squares refitting in high dimensions
最小二乘重构广泛用于高维回归以减少l1惩罚估计量的预测偏差(例如,Lasso和Square-Root Lasso)。我们提出的理论和数值结果,提供了新的见解的好处和陷阱的最小二乘改装。特别是,我们考虑预测和估计,我们密切关注相关性的影响,在线性回归模型的设计矩阵,因为这些相关性-虽然经常被忽视-是至关重要的线性回归的上下文中,特别是在高维环境。首先,我们证明了最小二乘改装的好处在很大程度上取决于所考虑的设置和任务:最小二乘改装可以是有益的,即使是高度相关的设计矩阵的设置,但不建议所有的设置,和最小二乘改装可以是有益的估计,但更好地进行预测。最后,我们介绍了一个标准,表明是否最小二乘改装是可取的一个特定的设置和正在考虑的任务,我们进行了一个彻底的模拟研究,包括套索,以显示这个标准的实用性。
2013-06-01 math.ST stat.ME stat.TH
Fast leave-one-cluster-out cross-validation using clustered Network Information Criterion (NICc)
针对聚簇数据预测模型,提出聚簇网络信息准则(NICc)作为留一簇交叉验证的快速近似,通过聚簇调整Fisher信息矩阵实现,在模拟和实证中比AIC/BIC更准确选择模型。
2024-10-09 cs.LG stat.CO stat.ME
Gradient-based bilevel optimization for multi-penalty Ridge regression through matrix differential calculus
IDSIA Dalle Molle Institute for Artificial Intelligence(IDSIA 达莱·莫勒人工智能研究所);USI-SUPSI(提契诺大学-瑞士南部应用科学与艺术大学)
本文针对每个输入变量关联不同正则化超参数的l2正则化线性回归问题,提出基于矩阵微分计算解析求解交叉验证准则梯度的双层优化方法,并引入防过拟合策略,数值实验证明其优于LASSO等方法且计算高效。
2023-11-23 cs.LG stat.ML
Selection of tuning parameters in bridge regression models via Bayesian information criterion
我们考虑的桥梁线性回归建模,它可以产生一个稀疏或非稀疏模型。模型建立过程中的一个关键点是调整参数的选择,包括正则化参数和调整参数的桥梁回归模型。调整参数的选择可以看作是一个模型选择和评估问题。本文提出了一种基于贝叶斯方法的桥梁回归模型评价的模型选择准则。该选择标准使我们能够客观地选择调整参数。我们调查我们提出的建模策略的有效性,通过一些数值例子。
2012-04-14 stat.ME stat.ML
Focused Information Criteria
KU Leuven(荷语鲁汶大学);University of Oslo(奥斯陆大学)
聚焦信息准则针对特定研究关注量选择最优统计模型,适用于多种模型类型,还可扩展至高维数据等场景,为统计模型与变量选择提供了特定聚焦导向的方案。
2026-08-04 stat.ME
Finite mixture regression: A sparse variable selection by model selection for clustering
考虑高维数据的有限混合高斯回归模型,其中协变量的数目可能远大于样本量。我们建议估计未知的条件混合密度的最大似然估计,1-惩罚最大似然估计选择的相关变量的限制。我们得到了一个具有Jensen-Kullback-Leibler型损失的估计量所满足的预言不等式。我们的预言不等式推导出一个一般的模型选择定理的最大似然估计的随机模型集合。我们可以推导出该准则的惩罚形状,这取决于随机模型集合的复杂性。
2014-09-04 math.ST stat.TH
Multichannel sparse recovery of complex-valued signals using Huber's criterion
本文将Huber准则推广到复值测量的多通道稀疏恢复问题,其目标是从给定的多个测量向量中找到联合稀疏未知信号向量的良好恢复,这些测量向量是相同已知基本向量的不同线性组合。这就需要仔细刻画强大的复值损失函数以及多元稀疏回归问题的Huber准则函数。提出了一种基于同步归一化迭代硬阈值(SNIHT)算法的贪心算法。与传统的SNIHT方法不同,我们的算法,称为HUB-SNIHT,在重尾非高斯噪声条件下是鲁棒的,但与高斯噪声下的SNIHT相比,性能损失可以忽略不计。在传感器阵列声源定位的应用中说明了该方法的有效性。
2015-04-16 cs.IT math.IT stat.CO
Variable selection in multivariate regression model for spatially dependent data
本文研究空间网格数据下多变量线性回归模型的变量选择问题,提出基于双参数准则的估计量,证明其一致性,并通过模拟验证有限样本表现。
2023-05-22 math.ST stat.TH
Finding Regression Outliers With FastRCS
残差同馀子集(RCS)是在线性回归环境中寻找异常值的一种新方法。像许多其他离群值检测过程一样,RCS搜索使标准最小化的子集。不同的是,新的标准被设计为对离群值不敏感。RCS支持FastRCS,快速回归和仿射等变算法,我们也详细介绍。广泛的仿真研究和两个实际数据应用表明,FastRCS性能优于其竞争对手。
2014-02-17 stat.ME
PopArt: Efficient Sparse Regression and Experimental Design for Optimal Sparse Linear Bandits
University of Arizona(亚利桑那大学)
本文提出高效稀疏线性估计方法PopArt及凸实验设计准则,推导出改进regret上界的稀疏线性bandit算法,并在数据匮乏场景下证明了匹配下界。
2023-11-17 cs.LG stat.ML
Lasso in infinite dimension: application to variable selection in functional multivariate linear regression
本文研究无限维函数型多元线性回归中的变量选择问题,提出基于Group-Lasso的两种估计方法,并给出稀疏性oracle不等式及坐标下降算法,通过模拟和真实数据验证了估计量的表现。
2023-05-31 math.ST stat.TH
On Degrees of Freedom of Projection Estimators with Applications to Multivariate Nonparametric Regression
本文考虑了具有多元预测变量的非参数回归问题。我们提供了未知的回归函数,这是线性约束的二次优化程序,即最小二乘准则与线性约束和/或二次处罚的输出的估计的自由度和发散的表征。作为我们结果的特殊情况,我们导出了许多非参数回归问题中自由度的显式表达式,例如,有界保序回归、多元(惩罚)凸回归和加性全变差正则化。我们的理论还产生,作为特殊情况下,已知的结果的自由度的许多研究的估计在统计文献中,如岭回归,套索和广义套索。我们的结果可以很容易地用来选择调谐参数(S)参与的估计过程中,通过最小化Stein的无偏风险估计。作为我们的分析的副产品,我们得到了一个有趣的连接之间的有界保序回归和保序回归一般偏序集,这是独立的兴趣。
2018-10-06 math.ST stat.TH
Minimum Area Confidence Set Optimality for Simultaneous Confidence Bands for Percentiles in Linear Regression
本文提出最小面积置信集(MACS)准则用于比较和构建线性回归中百分位的同时置信带,发现非对称SCBs在面积上显著优于对称SCBs,并提出高效计算临界常数的方法。
2023-09-13 stat.ME
A note on conditional Akaike information for Poisson regression with random effects
广义线性混合效应模型的一种流行的模型选择方法是赤池信息准则(AIC)。其中,\cite{vaida05}指出了边缘推理和条件推理之间的区别取决于研究的重点。推导出线性混合效应模型的条件AIC,该模型后来由\cite{liang08}推广。我们证明了类似的策略扩展到具有随机效应的泊松回归,其中条件AIC可以根据我们的观察获得。仿真研究证明了该准则的使用。
2008-10-11 stat.ME
Focused Information Criteria for Semiparametric Linear Hazard Regression
Imperial College London(帝国理工学院);University of Oslo(奥斯陆大学)
本文提出聚焦信息准则用于半参数线性危险回归模型的选择,以提高生存概率估计的准确性。
2026-03-03 stat.ME
Fridge: focused fine-tuning of ridge regression for personalize predictions
University of Oslo(奥斯陆大学)
本文提出聚焦岭回归(fridge)方法,为每个个体计算独特调优参数,通过插入估计和参数自助法实现个性化预测,在模拟和真实数据上优于交叉验证岭回归,并应用于个性化医学中的风险与治疗反应预测。
2026-10-07 stat.ME
A Percentile-Focused Regression Method for Applied Data with Irregular Error Structures
Kingdom of Bahrain(巴林王国)
本文提出一种基于CDF的贝塔回归方法,通过建模响应的完整条件分布,有效处理应用数据中的不规则误差结构,提升模型的分布准确性和预测区间校准。
2026-03-04 stat.ME
Bayesian Model Selection for Misspecified Models in Linear Regression
虽然贝叶斯信息准则(BIC)和赤池信息准则(AIC)是线性回归中模型选择的强大工具,但它们建立在不同的先验假设上,因此适用于不同的数据生成场景。我们表明,在有限维的情况下,他们各自的假设可以统一在一个增广的模型加噪声空间,并在这个空间中构建一个先验继承了AIC和BIC的有益特性。这使我们能够调整BIC,使其对信噪比较低的错误指定模型具有鲁棒性。
2017-12-14 stat.ME
Akaike information criterion for segmented regression models
针对分段回归中变点数量及连续性选择缺乏 AIC 型准则的问题,本文基于 AIC 原始定义推导新信息准则,证明不连续与连续变点参数惩罚分别为 6 和 2,并通过实验和真实数据验证其优于或区别于 BIC。
2025-06-10 stat.ME
A Generalized Focused Information Criterion for GMM
本文提出了一种同时选择GMM模型和矩的准则:广义聚焦信息准则(GFIC)。GFIC不是试图识别“真实”规范,而是从一组可能错误指定的力矩条件和参数限制中进行选择,以最小化用户指定的目标参数的均方误差(MSE)。GFIC的目的是将应用实践中常见的情况正式化。一个应用研究者从一组相当弱的“基线”假设开始,假设是正确的,并且必须决定是否施加一些更强的、更有争议的“可疑”假设中的任何一个,这些假设产生参数限制、附加力矩条件或两者兼而有之。假设基线假设识别模型,我们将展示如何构建渐近MSE的渐近无偏估计量来选择这些可疑假设:GFIC。我们继续提供选择后的推断和模型平均,可以应用到GFIC和各种替代选择标准的结果。为了说明我们的标准可以在实践中使用,我们专门的GFIC选择外生性假设和滞后长度的动态面板模型中的问题,并表明它在模拟中表现良好。最后,我们将GFIC应用于卷烟需求价格弹性的动态面板数据模型。
2020-11-13 econ.EM stat.ME
Model selection via Bayesian information capacity designs for generalised linear models
第一次调查是由筛选实验的响应变量近似的广义线性模型的设计。一个贝叶斯信息容量标准定义的设计是稳健的线性预测的形式的选择。对于二项数据和逻辑斯谛回归,通过模拟研究使用所有子集回归和模型选择(通过最大惩罚似然和广义信息标准)评估这些筛选设计的有效性。对于泊松数据和对数线性回归,使用极大似然和Akaike信息准则对分析构建的最小支持设计进行类似评估。结果表明,通过选择合适的设计支持点数目和实验规模,可以实现有效的筛选,即具有较高的功效和适中的第一类错误率和错误发现率。逻辑斯谛回归是一个更具挑战性的问题比对数线性回归。还指出了今后工作的一些领域。
2016-10-26 stat.ME
Rejoinder to the discussants of the two JASA articles `Frequentist Model Averaging' and `The Focused Information Criterion', by Nils Lid Hjort and Gerda Claeskens
Hjort和Claeskens回应了两篇JASA文章的讨论,针对频繁主义模型平均和聚焦信息准则的核心问题和贡献进行总结。
2026-03-01 stat.ME
Regression model selection via log-likelihood ratio and constrained minimum criterion
对数似然比似然比在模型选择中应用广泛,但在模型选择中应用较少。我们开发了一个基于对数似然比的方法,通过关注被似然比检验认为合理的模型集来选择回归模型。我们表明,当样本量较大且检验的显著性水平较小时,集合中的最小模型是真实模型的概率很高,因此,我们选择了这个最小模型。检验的显著性水平用作该方法的参数。我们考虑了三个水平的这个参数在模拟研究中,并比较这种方法与赤池信息准则和贝叶斯信息准则,以证明其良好的精度和适应性,以不同的样本量。我们还应用这种方法来选择南非心脏病数据集的逻辑斯谛回归模型。
2021-09-25 math.ST stat.ME stat.TH
Optimal subsampling for functional composite quantile regression in massive data
针对海量函数型数据计算受限问题,本文提出基于函数L-最优性准则的复合分位数回归最优子抽样方法,并证明其优于均匀子抽样。
2024-06-28 stat.ME
A prediction criterion for working correlation structure selection in GEE
广义估计方程(GEE)是对纵向数据进行边缘回归分析的最常用方法之一,尤其是离散结果的边缘回归分析。GEE方法通过工作相关矩阵对受试者的响应之间的关联进行建模,并且工作相关结构的正确规范确保回归参数的有效估计。本研究提出了一个预测残差平方和(PRESS)统计作为工作相关性选择标准在GEE。设计了一项广泛的模拟研究来评估拟议的GEE PRESS标准的性能,并将其性能与文献中已知的现有标准进行比较。结果表明,当真实相关结构为AR(1)或可交换时,GEE PRESS准则在所有情况下都比加权误差平方和SC准则具有更好的性能,并且与现有的其他准则具有可比性。最后,工作相关性的选择标准与年轻人的冠状动脉风险发展的研究。
2018-03-16 stat.ME
The Residual Information Criterion, Corrected
Shi和Tsai(JRSSB,2002)提出了一个有趣的残差信息准则(RIC)用于回归中的模型选择。他们的RIC的动机是最小化真实模型和候选模型的残差似然之间的Kullback-Leibler差异的原则。然而,我们表明,在这个原则下,RIC总是会选择完整的(饱和)模型。因此,在定义信息标准时,剩余似然不适合作为差异度量。我们解释了为什么会这样,并提供了纠正的剩余信息标准作为补救措施。
2007-11-13 stat.ME
Optimal Bandwidth Selection for the Fuzzy Regression Discontinuity Estimator
提出了一种新的模糊回归不连续性估计的带宽选择方法。该方法同时选择两个带宽,一个为每一侧的截止点,通过使用一个标准的基础上估计的渐近均方误差考虑到二阶偏置项。仿真研究证明了所提出的方法的实用性。
2015-09-02 stat.ME
Focused Weighted-Average Least Squares Estimator
Department of Economics, National Taipei University(国立台北大学经济学系)
本文提出FWALS估计量,通过半正交化减少计算负担,提供可操作的次优方法,并在冲击响应函数设计中表现稳定。
2026-03-03 econ.EM stat.ME
A corrected AIC for the selection of seemingly unrelated regressions models
对于看似不相关的回归模型,推导了赤池信息准则(AIC)的偏差修正。当样本量不比拟合参数的数量大得多时,校正特别有用。一个小样本的模拟研究表明,偏差校正AIC(AICc)提供了更好的模型选择比其他模型选择标准。
2009-06-05 stat.ME
Adaptive estimation of the rank of the coefficient matrix in high dimensional multivariate response regression models
我们考虑具有低秩未知的回归系数矩阵的多元响应回归问题。在这种情况下,我们分析了一个新的标准,选择最佳的降秩。该准则与Bunea,She和Wegkamp [7]中提出的准则明显不同,因为它不需要估计噪声的未知方差,也不依赖于调谐参数的精细选择。我们开发了一个迭代的,完全数据驱动的程序,适应最佳的信噪比。这个过程以压倒性的概率在几个步骤中找到真正的排名。在每一步中,我们的估计值都增加,但同时它不会超过真实的排名。我们的有限样本结果适用于任何样本量和任何维度,即使响应和协变量的数量增长得比观测值的数量快得多。我们进行了广泛的模拟研究,证实了我们的理论研究结果。新方法在低维和高维情况下都比文献[7]中的方法性能更好,更稳定。
2018-10-29 stat.ME
Model selection criteria for regression models with splines and the automatic localization of knots
在本文中,我们提出了一个模型选择方法来拟合回归模型,使用样条与一个可变数目的节点。我们引入了一个惩罚准则来估计锚定样条基的节点的数量和位置。该方法在模拟数据上进行了评估,并应用于COVID-19每日报告的病例进行短期预测。
2021-07-26 stat.ME
Constraint-based difference graph discovery in a linear setting
Univ. Grenoble Alpes, CNRS, Grenoble INP, LIG(格勒诺布尔阿尔卑斯大学、法国国家科学研究中心、格勒诺布尔理工学院、信息学实验室)
针对两个环境间的因果差异图推断问题,提出基于回归系数相等性检验的线性结构因果模型发现方法,引入diff-separation准则和LDiffPC算法。
2026-06-15 stat.ME
A multiple covariance approach to PLS regression with several predictor groups: Structural Equation Exploratory Regression
假设变量组Y依赖于R个主题变量组X1,>...,X R .我们假设Y中的分量线性依赖于Xr中的分量。在这项工作中,我们提出了一个多协方差标准,扩展了PLS回归到这个多个预测组的情况。在此基础上,我们建立了一个PLS型的探索性方法-结构方程探索性回归(SEER)-允许同时进行组中的降维和调查的线性模型的组件。SEER使用每个组的多维结构。最后给出了应用实例。
2008-02-11 math.ST stat.ME stat.TH
Does Regression Approximate the Influence of the Covariates or Just Measurement Errors? A Model Validity Test
Faculty of Mechanics and Mathematics, Taras Shevchenko National University of Kyiv(基辅塔拉斯舍甫琴科国立大学力学与数学系);Redviser Inc.(Redviser公司)
本文提出了一种检验模型是否正确指定的准则,通过区分测量误差与模型结构问题,探讨回归分析中协变量影响的识别方法。
2019-11-18 stat.ME
A Variant of AIC based on the Bayesian Marginal Likelihood
我们提出的信息标准,衡量预测密度的预测风险的贝叶斯边际似然从频率论的角度来看。假设回归系数具有先验分布,我们推导出了线性回归模型中变量的选择准则。然后,我们讨论了所提出的标准和相关标准之间的关系。我们的方法有三个优点。首先,这是频率论和贝叶斯观点之间的妥协,因为它评估了贝叶斯模型的频率论风险。因此,它受先前错误指定的影响较小。其次,在选择真实模型时,标准具有一致性。第三,当为回归系数假设均匀先验时,得到的准则等价于Shi和Tsai(2002)的残差信息准则(RIC)。
2017-10-19 stat.ME
Robust artificial neural networks and outlier detection. Technical report
Deakin University(迪肯大学);University of Ballarat(巴拉瑞特大学)
大的离群值会破坏线性和非线性回归模型。稳健的回归方法允许人们在构建模型时过滤掉离群值。通过用最小二乘准则代替传统的最小二乘准则,其中一半的数据被视为潜在的离群值,可以将精确的回归模型拟合到强污染数据。高崩溃方法在线性回归中已经非常成熟,但直到最近才开始应用于非线性回归。在这项工作中,我们研究了使用最小修剪平方标准将人工神经网络拟合到受污染数据的问题。我们引入了一个惩罚的最小修剪平方标准,防止不必要的删除有效数据。人工神经网络的训练导致具有挑战性的非光滑全局最优化问题。我们比较了几种无导数最优化方法在解决它的效率,并表明我们的方法正确识别异常值时,人工神经网络用于非线性回归。
2011-10-02 cs.CV cs.NA cs.NE
Regression Model Selection Under General Conditions
Federal Reserve Bank of Kansas City(堪萨斯城联邦储备银行)
本文在一般条件下为广泛类别的模型选择准则提供了渐近最优性的统一证明,从而统一并扩展了先前分散的结果。
2025-10-16 econ.EM math.ST stat.ME
Developing an information criterion for spatial data analysis through Bayesian generalized fused lasso
针对空间变化系数模型中贝叶斯广义融合lasso先验分布复杂度确定难题,推导估计量渐近性质并提出先验增广信息准则PIIC,数值实验证明其在降低预测风险上优于WAIC。
2025-10-13 stat.ME
Posterior covariance information criterion for general loss functions
本文提出利用后验协方差以低成本估计广义贝叶斯推断的一般预测度量,给出 Gibbs 与插件泛化误差估计量、理论保证及多类应用。
2025-01-11 stat.ME
Model selection criteria of the standard censored regression model based on the bootstrap sample augmentation mechanism
统计回归技术是探索随机现象潜在可能产生机理的一种非常重要的数据拟合工具。因此,模型选择或变量选择变得非常重要,以便识别对感兴趣的响应具有最佳解释效果的最合适的模型。本文讨论并比较了在有限观测信息条件下,基于Bootstrap的标准截尾回归模型(Tobit回归模型)的模型选择准则。蒙特卡罗数值结果表明,在观测信息不充分的情况下,基于Bootstrap样本扩充策略的模型选择准则的性能将优于Akaike信息准则(AIC)和Bayesian信息准则(BIC)等。同时,数值模拟实验进一步表明,由于数据信息不足(如删失率高、观测量有限等)而带来的模型辨识风险,可以通过增加Bootstrap样本扩充策略的科学计算成本来充分补偿.我们还将推荐的基于引导程序的模型选择标准应用于Tobit回归模型以拟合真实保真度数据集。
2020-03-24 stat.AP stat.CO stat.ME
Potential weights and implicit causal designs in linear regression
Department of Economics, Stanford University(斯坦福大学经济系)
研究线性回归中准实验解释的最小标准,形式化其对真实处理分布的线性限制即隐式设计,统一现有结果并发现新结果,通过普查和计算评估回归的准实验解释情况。
2026-07-08 econ.EM stat.ME
Minimum Sample Size for Developing a Multivariable Prediction Model using Multinomial Logistic Regression
多项逻辑斯谛回归模型允许预测具有2个以上类别的分类结局的风险。在开发这样的模型时,研究人员应该确保参与者的数量(n)相对于每个类别k的事件数量(E. k)和预测参数数量(p. k)是适当的。我们提出了三个标准,以确定所需的最小n在现有的标准开发的二元结果。第一个准则旨在最小化模型过拟合。第二个目标是尽量减少观察到的和调整后的R2 Nagelkerke之间的差异。第三个标准旨在确保准确估计总体风险。对于标准(i),我们表明样本量必须基于与多项式逻辑斯谛回归的子模型对应的不同一对一逻辑斯谛回归模型的预期Cox-snell R2,而不是基于多项式逻辑斯谛回归的总体Cox-snell R2。我们通过模拟研究测试了所提出的标准(i)的性能,发现它导致了期望的过拟合水平。标准(ii)和(iii)是以前提出的二元结果标准的自然扩展。我们说明了如何实施样本量标准,通过一个工作的例子考虑发展的多项风险预测模型的肿瘤类型时,提出了卵巢肿块。并给出了仿真代码和算例。我们将把我们提出的标准嵌入到pmsampsize R库和Stata模块中。
2022-07-26 stat.AP stat.ME
Bootstrap-based model selection criteria for beta regressions
赤池信息准则(AIC)是一种在实际应用中广泛使用的模型选择准则。AIC是对数似然期望值的估计量,并测量真实模型和估计模型之间的差异。在小样本中,AIC是有偏见的,倾向于选择过度参数化的模型。为了避免这个问题,我们提出了两个新的选择标准,即:自举似然准CV(BQCV)和它的632QCV变体。我们使用蒙特卡罗模拟的有限样本性能的两个建议的标准,AIC和它的变化,使用自举对数似然类的变化的分散β回归。数值结果表明,所提出的模型选择准则在小样本情况下表现良好。我们还提出并讨论了实证应用.
2014-05-18 stat.CO stat.ME
A new Universal Resample Stable Bootstrap-based Stopping Criterion in PLS Components Construction
我们开发了一个新的强大的停止标准,在偏最小二乘回归(PLSR)组件建设的特点是高水平的稳定性。这个新的准则被定义为一个通用的,因为它是既适用于PLSR和它的推广到广义线性回归(PLSGLR)。这个标准是基于一个非参数的自助过程,必须计算算法。它允许在预设的显著性水平α上测试每个连续的分量。为了评估其性能和鲁棒性相对于不同的噪声水平,我们进行密集的数据集模拟,与预设和已知数量的组件提取,无论是在情况n>p(n是受试者的数量和p的原始预测的数量),并与n<p的数据集。然后,我们使用t-检验比较我们的方法的性能与其他一些经典的标准。鲁棒性的属性,特别是通过一个真正的等位基因分型数据集上的restaurant过程进行测试。我们的结论是,我们的标准也提出了更好的全球预测性能,无论是在PLSR和PLSGLR(逻辑和泊松)框架。
2015-07-06 stat.ME stat.OT