Conditional density estimation with covariate measurement error
我们考虑估计一个易出错的协变量上的响应条件的密度。基于现有的两种不含协变量测量误差的核密度估计,提出了一种修正现有的测量误差估计的方法.在不同类型的测量误差分布下,导出了合成估计量的渐近性质。此外,我们调整现有的带宽选择方法开发的无误差的数据,以获得新的估计带宽。进行了大量的仿真研究,以比较所提出的估计与朴素的估计,忽略测量误差,这也提供了经验证据的有效性,所提出的带宽选择方法。一个真实的数据例子被用来说明这些方法在实际场景下的实现。我们开发了一个R包lpme来实现所有考虑的方法,我们在附录H中通过一个R代码示例演示了这些方法。
2020-01-08 stat.ME
Uniform-in-bandwidth consistency for nonparametric estimation of divergence measures
我们提出了连续分布之间的发散测度的非参数估计。我们的方法是基于一个插件的核型估计的密度函数。我们给出了建议估计的带宽一致性的一致性。因此,还提供了其渐近100%置信区间。
2014-06-23 stat.ME
Skewing Methods for Variance-Stabilizing Local Linear Regression Estimation
众所周知,核回归估计量在一个域上不产生恒定的估计方差。为了纠正这个问题,Nishida和Kanazawa(2015)提出了局部线性(LL)回归估计的方差稳定(VS)局部变量带宽。相反,Choi和Hall(1998)提出了单变量LL估计的偏斜(SK)方法,并构造了一个LL估计和两个对称放置在LL估计两侧的SK估计的凸组合(凸组合(CC)估计),以消除其渐近偏差中的高阶项。为了在不使用VS局部可变带宽的情况下获得具有恒定估计方差的CC估计器,必须局部地确定凸组合中的权重以产生恒定估计方差。在这项研究中,我们比较了两种VS方法的性能CC估计,并找到加权方法可以优于VS带宽方法的方差稳定的程度方面的情况下。
2017-04-14 stat.ME
Liu-type Negative Binomial Regression: A Comparison of Recent Estimators and Applications
本文给出了负二项回归模型的一个新的有偏估计,它是文献[12]中对线性模型提出的Liu型估计的推广。针对极大似然估计(MLE)在解释变量间存在多重共线性时方差膨胀的问题,提出了一种新的有偏估计,减小了MLE的方差,从而得到稳定的推断.此外,我们还通过矩阵均方误差均方误差(MMSE)准则对新估计与其他估计进行了理论上的比较。此外,一个蒙特卡罗模拟研究的目的是评估性能的估计的意义上的均方误差。最后,一个真实的数据应用程序来说明新的估计的好处。
2016-04-08 stat.ME
The nonparametric location-scale mixture cure model
我们提出了完全非参数的方法来研究两组分混合治愈模型的位置-尺度建模,其中感兴趣的响应仅是间接观察到的,由于存在删失和存在所谓的长期幸存者,总是删失。我们使用协变量局部化的非参数估计,这取决于一个带宽序列,提出了一个估计的误差分布函数,以前没有被认为是在文献中。当该带宽属于欠平滑带宽的一定范围时,所提出的误差分布函数的估计量的渐近分布不依赖于该带宽,并且该估计量是根-n相容的.这表明,计算成本高的带宽选择过程是不必要的,以获得一个有效的估计的误差分布,并且可以使用一个更简单的经验法则的方法来代替。模拟研究调查我们的方法的有限样本属性,并说明使用所获得的数据来研究淋巴结阴性乳腺癌患者的远处转移的行为的方法。
2018-03-09 stat.ME
The correlation-assisted missing data estimator
我们介绍了一种新的方法来估计问题的设置与缺失数据。我们的建议-相关辅助缺失数据(CAM)估计-的工作原理,利用与缺失功能的观测和那些没有丢失的功能,以获得更高的预测精度之间的关系。特别是,我们的理论结果阐明了一般条件下,建议CAM估计有较低的均方误差比广泛使用的完整情况下的方法在一系列的估计问题。我们详细展示了如何CAM估计可以应用到$U$ -统计,以获得一个无偏的,渐近高斯估计,具有较低的方差比完整的情况下$U$ -统计。此外,在非参数密度估计和回归问题中,我们使用核函数构造了我们的CAM估计,并表明它比相应的完全情况下的核估计具有更低的渐近均方误差。我们还包括实际演示整个文件使用模拟数据和Terneuzen出生队列和Brandsma数据集从CRAN。
2020-02-28 stat.ME
Small Area Predictors with Dual Shrinkage of Means and Variances
本文研究了具有随机离差的Fay-Herriot型区域水平模型中的小区域估计问题,该模型模拟了抽样误差随区域变化的情况。由此产生的贝叶斯估计缩小了均值和方差,但需要数值计算来提供估计。本文提出了一种封闭形式的近似经验贝叶斯(AEB)估计。模型参数采用矩量法估计,AEB的均方误差采用单参数自助法估计。文中还给出了均方误差的基准估计量和二阶无偏估计量。
2015-07-29 stat.ME
Indirect Cross-validation for Density Estimation
提出了一种新的核密度估计带宽选择方法。这种方法被称为间接交叉验证(ICV),利用了所谓的选择核。最小二乘交叉验证(LSCV)用于选择选择核估计器的带宽,并且该带宽被适当地重新缩放以用于高斯核估计器。所提出的选择核是两个高斯核的线性组合,并且不需要是单峰的或正的。理论发展表明,ICV带宽的相对误差可以收敛到0的$n^{-1/4}$的速率,这是实质上优于$n^{-1/10}$率的LSCV。有趣的是,如果用于实际估计密度函数,则最适合带宽选择的选择核非常差。这个属性似乎是更大的和有据可查的悖论的一部分,大意是“估计问题越难,交叉验证执行得越好。“ICV方法在模拟研究、真实数据示例和局部选择带宽的模拟示例中一致优于LSCV。
2008-11-29 stat.ME
Central limit theorem for the variable bandwidth kernel density estimators
在本文中,我们研究了McKay(1993)和Jones,McKay and Hu(1994)提出的理想变带宽核密度估计器,以及Giné和Sang(2013)提出的具有两个带宽序列的可变带宽核估计器的插件实用版本。在对理想变带宽核密度估计和真实变带宽核密度估计的偏差和方差分析的基础上,研究了它们各自的中心极限定理。
2017-12-02 math.ST stat.TH
On Asymptotic Normality of the Local Polynomial Regression Estimator with Stochastic Bandwidths
非参数密度和回归估计通常依赖于带宽。这些估计的渐近性质已被广泛研究时,带宽是非随机的。然而,在实践中,为了提高有限样本的性能,这些估计,带宽选择的数据驱动的方法,如交叉验证或插件程序。因此,非参数估计量通常使用随机带宽构造。本文建立了随机和非随机带宽下局部多项式回归估计的概率渐近等价性。我们的结果扩展了Boente和Fraiman(1995)和Ziegler(2004)的工作。
2014-08-29 math.ST stat.TH
Kernel Estimator and Bandwidth Selection for Density and its Derivatives: The kedd Package
kedd软件包为R统计系统提供了额外的平滑技术。尽管Comprehensive R Archive Network(CRAN)上的各种软件包提供了对非参数统计有用的函数,但kedd旨在作为更具体的非参数函数和数据集的中心位置。该软件包的当前功能集可以分为四个主要类别:计算核函数的卷积和导数,计算概率密度及其导数的核估计量,使用不同方法计算带宽选择器,显示核估计量和带宽选择函数。此外,这个包遵循了R语言处理模型对象的一般原则。这意味着不是仅仅返回,比如说,密度的r阶导数的核估计,许多函数将返回一个包含对象的函数是S3类(S3方法)。然后可以使用各种提取、汇总或绘图功能按个人意愿操纵对象。只要有可能,我们就把图形用户界面的各个功能开发成一个连贯的整体,方便使用这个软件包。
2020-12-11 stat.CO stat.ME
Indirect Maximum Entropy Bandwidth
本文利用概率积分变换的熵最大化与经典参数模型中的极大似然之间的联系,提出了密度和分布函数核估计中带宽选择的一种新方法。所提出的估计量的目的是间接最大化的留一核估计的分布函数,这是类似的参数概率积分变换的熵。最小化的Cramer-von Mises的差异,近的解决方案的时刻为基础的估计方程,和反演的奈曼光滑检验统计量的基础上的估计进行了讨论,并在模拟研究中比较其性能。带宽最小化的安德森-达林统计被发现可靠地执行各种分布形状,并可以在实践中推荐。结果也将感兴趣的任何人分析的交叉验证带宽的基础上留一法估计或非参数密度预测的评估。
2016-07-13 stat.ME
Uniform-in-bandwidth consistency for kernel-type estimators of Shannon's entropy
我们建立了均匀的带宽一致性核型估计的微分熵。我们考虑两个核型估计的香农熵。因此,提供了熵的渐近100%置信区间。
2011-06-21 math.ST stat.TH
On a Nadaraya-Watson Estimator with Two Bandwidths
在回归模型中,我们将回归函数的Nadaraya-Watson估计量写成两个核估计量的商,并提出了分子和分母的带宽选择方法.我们证明了数据驱动的估计和由此产生的比率的风险界限。仿真研究证实,这两种估计器具有良好的性能,相比,通过交叉验证选择的带宽。然而,出乎意料的是,单带宽交叉验证估计被发现是远远优于前两个好的估计的比率,在小噪声的情况下。然而,这两种方法在具有大噪声的模型中具有相似的性能。
2021-04-25 math.ST stat.TH
Uniform in bandwidth consistency for the transformation kernel estimator of copulas
本文建立了[Omelka et al.(2009)]。为此,我们首先证明了一个统一的带宽法律的重对数的最大偏差,这个估计从它的期望。然后,我们表明,当n趋于无穷大时,估计的偏差在带宽h内一致收敛到零,在一个合适的区间内变化。最后给出了一种实用的最佳带宽选择方法。最后,我们做了结论性的模拟实验,显示在有限样本的估计性能。
2016-12-28 math.ST stat.TH
Estimation of density functionals via cross-validation
本文提出将交叉验证准则的最小值作为负积分平方密度的估计量,该方法无需选择调节参数,被证明是一致且高效的,并可推广至其他密度泛函估计问题。
2024-07-28 stat.ME
A product-limit estimator of the conditional survival function when cure status is partially known
针对治愈状态部分已知的右删失数据,提出混合治愈模型中条件生存函数的非参数估计量,证明其渐近性质与方差减小优势,并通过模拟与肉瘤患者真实数据验证了其优越性。
2024-02-10 stat.ME
Robust Inference for Convex Pairwise Difference Estimators
Princeton University(普林斯顿大学);UC Berkeley(加州大学伯克利分校);University of Warwick(华威大学)
针对凸成对差分估计量,本文发展了分布理论和基于自助法的推断方法,通过小带宽渐近理论、广义刀切去偏和调整带宽方差扭曲的自助法,实现了在更弱带宽条件下的有效推断。
2026-05-28 econ.EM math.ST stat.ME
A new kernel estimator of hazard ratio and its asymptotic mean squared error
本文提出一种基于Ćwik和Mielniczuk方法改进的风险比核估计量,通过渐近均方误差比较,新估计量方差更小,且采用偏差减少方法保证非负性,并展示数值改进。
2016-12-10 math.ST stat.TH
Infill asymptotics and bandwidth selection for kernel estimators of spatial intensity functions
研究了空间点过程强度函数核估计的渐近均方误差。我们发现,当$\mathbb R^d$中的点过程的$n$独立副本叠加时,最佳带宽$h_n$是$n^{-1/(d+4)}$的顺序,在适当的光滑条件下的内核和真正的强度函数。我们应用Abramson原理定义自适应核估计器,并证明在适当的光滑条件下,渐近的最佳自适应带宽是$n^{-1/(d+8)}$的顺序。
2019-04-10 math.PR math.ST stat.TH
Optimal bandwidth selection for semi-recursive kernel regression estimators
本文提出了一种由随机逼近算法定义的回归函数半递归核估计带宽的自动选择方法。我们表明,使用选定的带宽和一些特殊的步长,建议的半递归估计将是非常有竞争力的非递归的估计误差,但更好的计算成本。我们通过模拟研究和真实数据集证实了这些理论结果。
2016-07-04 math.ST stat.TH
Kernel Density Estimation with Berkson Error
给定来自$f_X$的样本$\{X_i\}_{i=1}^n$,我们构造$f_Y$的核密度估计,即$f_X$与已知误差密度$f_ε$的卷积。这个问题被称为具有Berkson误差的密度估计,并在流行病学和天文学中有应用。对于Berkson密度估计的带宽选择了解甚少。我们比较三种方法来选择带宽渐近,使用大样本近似的MISE,并在有限的样本,使用模拟。我们的研究结果突出的结构之间的关系的错误$f_ε$和最佳带宽。特别是,结果表明,当误差项$f_ε$集中在0附近时,平滑的重要性。我们提出了一个数据驱动的带宽估计器,并测试其性能的NO $_2$曝光数据。
2014-07-29 stat.ME
Variable bandwidth kernel regression estimation
在本文中,我们提出了一个可变带宽核回归估计$i.i.d.$观测$\mathbb{R}^2$,以改善经典的Nadaraya-Watson估计。在密度函数的五阶导数和回归函数的六阶导数有界且连续的条件下,将偏差提高到$O(h_n^4)$阶.我们还建立了理想和真实变量核回归估计的中心极限定理。仿真研究证实了我们的结果,并证明了变带宽核方法比经典核方法的优势。
2021-01-12 math.ST stat.ME stat.TH
Length-of-stay times in hospital for COVID-19 patients using the smoothed Beran's estimator with bootstrap bandwidth selection
本文针对COVID-19患者病房和ICU住院时长,提出基于双重平滑Beran估计量和自助带宽选择的条件生存函数估计方法,并通过模拟验证其良好性能。
2023-11-30 stat.AP stat.CO stat.ME
New estimates for network sampling
网络抽样在世界各地用于调查脆弱、难以接触的人群,包括有艾滋病毒、阿片类药物滥用和新出现的流行病风险的人群。抽样方法包括跟踪社会联系,以增加新的人的样本。目前这些调查的估计是不准确的,偏差和均方误差很大,置信区间也不可靠。新的估计在这里引入消除几乎所有的偏差,有更低的均方误差,并使置信区间具有良好的性能。通过避免对总体网络和设计的不切实际的假设,而是使用样本网络数据的拓扑结构以及实际使用的抽样设计来实现改进。在模拟使用真实网络的风险人口,新的估计消除了几乎所有的偏差,并有均方误差是2至92倍低于目前的估计。新的估计是有效的,与各种各样的网络设计,包括那些具有强烈限制的分支,如响应者驱动的抽样和自由分支设计,如雪球抽样。
2020-02-02 stat.ME
Bandwidth selection in deconvolution kernel distribution estimators defined by stochastic approximation method with Laplace errors
本文研究了观测值受测量误差污染时,由随机逼近算法定义的分布函数的核估计。这是众所周知的,这种估计严重依赖于一个平滑参数的选择称为带宽。我们提出了一个具体的第二代插件方法的反卷积核广义函数估计定义的随机逼近算法。我们表明,使用建议的带宽选择和步长,最小化MISE(平均积分平方误差),建议的估计将优于经典的小样本设置时,误差方差由信噪比控制。我们通过模拟和真实数据集证实了这些理论结果。
2016-06-25 math.ST stat.TH
A Fast, Closed-Form Bandwidth Selector for the Beta Kernel Density Estimator
Department of Computing, Jönköping School of Engineering(延雪平工程学院计算系)
本文提出一种快速闭合形式的Beta核密度估计器带宽选择器,通过方法-of-moments近似将带宽选择复杂度从迭代优化降低到O(1),并在蒙特卡洛模拟和现实数据验证中表现出色。
2026-05-09 stat.CO stat.ME
A note on kernel density estimators with optimal bandwidths
University of Oslo(奥斯陆大学);University of Bath(巴斯大学)
本文研究了最优带宽核密度估计器的累积分布函数,证明其在样本量增加时几乎必然位于经验分布函数的置信区间外。
2026-03-31 math.ST stat.TH
FFT-Based Fast Computation of Multivariate Kernel Estimators with Unconstrained Bandwidth Matrices
多元核密度估计(KDE)的快速计算问题仍然是一个开放的研究课题。我们认为,现有的解决办法不能令人满意地解决这一问题。最优雅和有效的方法之一是利用快速傅立叶变换。不幸的是,现有的基于FFT的解决方案受到严重的限制,因为它只能在受限的(即,对角)多变量带宽矩阵。在本文中,我们描述了这个问题,并给出了一个满意的解决方案。所提出的解决方案也可以成功地用于其他研究问题,例如快速计算KDE的最佳带宽。
2016-09-07 stat.CO
Confidence intervals for intentionally biased estimators
本文提出三种以故意偏倚估计量为中心的置信区间,通过利用无偏估计量的标准误或凸组合策略,在保证高覆盖概率的同时有效缩短区间长度,且计算简单、适用广泛。
2025-02-01 econ.EM math.ST stat.ME
Smoothing quantile regressions
我们建议在线性分位数回归中平滑整个目标函数,而不仅仅是检查函数。不仅得到的平滑分位数回归估计量产生较低的均方误差和更准确的Bahadur-Kiefer表示比标准估计量,但它也是渐近可微的。我们利用后者提出了一个分位数密度估计,不受维数灾难。这意味着估计条件密度函数而不用担心协变量向量的维数。它还允许两阶段有效的分位数回归估计。我们的渐近理论保持一致的带宽和分位数水平。最后,我们提出了一个经验法则来选择平滑带宽,应该近似最佳带宽。仿真结果表明,我们的平滑分位数回归估计确实表现得很好,在有限的样本。
2019-08-15 econ.EM stat.ME
Breaking the Bandwidth Barrier: Geometrical Adaptive Entropy Estimation
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
信息理论度量(如熵和互信息)的估计是现代数据科学中许多下游应用的基本工具。现有技术的方法是基于几何(基于最近邻(NN))或基于内核(具有全局选择的带宽)的。在本文中,我们结合这两种方法来设计新的估计熵和互信息,优于国家的最先进的方法。我们的估计使用本地带宽选择的$k$ -NN距离有限的$k$,独立的样本大小。这种局部和数据相关的选择在实践中提高了性能,但是带宽以快速的速率消失,导致非零偏置。我们证明了所提出的估计量的渐近偏差是普遍的,它是独立的基本分布。因此,它可以被预先计算并从估计中减去。作为一个副产品,我们获得了一个统一的方式获得核和NN估计。相应的理论贡献有关的渐近几何最近的邻居顺序统计量是独立的数学兴趣。
2016-09-07 cs.IT cs.LG math.IT
Asymptotic properties of Bernstein estimators on the simplex
Bernstein估计以避免传统核估计的边界偏差问题而闻名。这些估计的理论性质在紧区间和超立方体上得到了广泛的研究,但从未在单纯形上得到过,除了Tenbusch(1994)中的密度估计的均方误差,当$d = 2$。单纯形是一个重要的情况,因为它是组成数据的自然域。本文证明了$d$维单形上累积分布函数和密度函数的Bernstein估计的几个渐近结果(偏差、方差、均方误差(MSE)、均积分方误差(MISE)、渐近正态性、一致强相合性).我们的结果推广了Leblanc(2012)和Babu et al.(2002)的结果,他们处理了$d = 1$的病例,并显著扩展了Tenbusch(1994)的结果。特别是,我们的收敛速度的MSE和MISE是最佳的。
2021-06-23 math.PR math.ST stat.TH
Automatic Order, Bandwidth Selection and Flaws of Eigen Adjustment in HAC Estimation
本文提出基于预白化核估计和频域交叉验证的HAC协方差矩阵估计量,自动选择VAR阶数与带宽,并揭示特征调整在非零均值回归变量下的缺陷,通过模拟和实证验证其可靠性。
2025-10-08 econ.EM stat.ME
Smoothing the Conditional Value-at-Risk based Pickands Estimators
本文将条件风险价值(CVaR)引入广义Pickands估计量,提出beta测度平滑方法并开发算法确定最优beta测度以最小化渐近均方误差,在模拟中展现出良好且稳定的有限样本性能。
2024-09-24 math.ST stat.ME stat.TH
An effective estimation of multivariate density functions using extended-beta kernels with Bayesian adaptive bandwidths
针对多元密度函数估计问题,提出带贝叶斯自适应带宽的多重扩展β核(MEBK)估计器,建立其渐近性质并提供带宽选择方法,经模拟与真实数据验证,在灵活性和通用性上优于高斯、伽马核估计器。
2025-02-07 math.ST stat.TH
Uniform in bandwidth consistency of conditional U-statistics
1991年,Stute提出了一类称为条件U-统计量的估计量。它们可以被看作是Nadaraya-Watson估计的推广,Stute在同一篇论文中得到了它们对一般回归函数的强逐点相合性。最近,Gine和Mason引入了局部U-过程的概念,推广了局部经验过程的概念,并得到了这类U-过程的中心极限定理和重对数律.我们应用Einmahl和Mason(2005)以及Gine和Mason(2007 a,b)开发的方法,对Stute提出的估计量的一般回归函数建立带宽一致性。
2007-02-23 math.PR math.ST stat.TH
Bandwidth selection for nonparametric modal regression
在核密度估计的基础上估计局部模式的条件密度的背景下,我们表明,现有的核密度估计开发的带宽选择方法是不适合模式估计。我们提出了两种方法来选择适合于回归设置中的模式估计的带宽。使用合成数据和现实生活中的数据集进行了数值研究,以证明所提出的方法的性能相比,几个良好的接收带宽选择方法的密度估计。
2017-11-01 stat.CO stat.ME
Uniform in bandwidth exact rates for a class of kernel estimators
给定一个独立同分布样本$(Y_i,Z_i)$,取$\RRR^{d'}\times \RRR^d$中的值,考虑条件期望$\EEE(<c_g(z),g(Y)>+d_g(z)\mid Z=z)$的Nadarya-Watson核估计的集合,其中$z$属于紧集$H\subset \RRR^d$,$g$是$\RRR^{d'}$上的Borel函数,$c_g(\cdot),d_g(\cdot)$是$\RRR^d$上的连续函数.给定两个带宽序列$h_n<\wth_n$满足温和的条件,我们得到了一个精确的和明确的几乎必然的极限界,这些估计的偏差周围的期望,一致在$g\in\GG,\;z\in H$和$h_n\le h\le \wth_n$在温和的条件下的密度$f_Z$,类$\GG$,核$K$和功能$c_g(\cdot),d_g(\cdot)$。我们应用这一结果证明,平滑的经验似然可以用来建立置信区间的条件概率$\PPP(Y\in C\mid Z=z)$,在$z\in H,\; C\in \CC,\; h\in [h_n,\wth_n]$一致。这里$\CC$是一个Vapnik-Chervonenkis集合类。
2012-01-26 math.ST stat.TH
Local bandwidth selection for kernel density estimation in bifurcating Markov chain model
本文提出了一个关于$\mathbb R^d$上分叉马尔可夫链平稳分布的自适应估计。分支马尔可夫链(BMC)是一类以正则二叉树为索引的随机过程。提出了一种核估计器,其带宽由Goldenshluger和Lepski [18]的工作启发的方法选择。从跳维模型选择方法中得到启发,我们还提供了一个算法来选择惩罚中的最佳常数。
2017-06-21 math.PR math.ST stat.TH
Nonparametric Inference via Bootstrapping the Debiased Estimator
在本文中,我们提出了通过自举的去偏核密度估计(密度估计)和去偏局部多项式回归估计(回归分析)构造置信带。Calonico等人(2018 b)最近采用了使用去偏估计量的想法,通过显式估计随机变化来构建给定点处密度函数(和回归函数)的置信区间。我们扩展了他们的想法,使用去偏估计,并进一步提出了一个自举方法,同时构建置信带。这种改进方法的优点是,我们可以很容易地从传统的带宽选择器选择平滑带宽和置信带将是渐近有效的。我们证明了自举置信带的有效性,并将其推广到密度水平集和逆回归问题。仿真研究证实了建议的置信带/集的有效性。我们将我们的方法应用于天文数据集,以显示其适用性
2019-06-04 math.ST stat.ME stat.TH
Kernel Density Estimation by Stagewise Algorithm with a Simple Dictionary
Hyogo University of Health Sciences(兵库医疗大学);Chiba University(千叶大学)
本文提出了基于$U$ -散度和一个简单字典的多变量核密度估计的阶段最小化算法。该字典由一个合适的标量带宽矩阵和一部分原始数据组成。由此产生的估计给我们带来了数据自适应的加权参数和带宽矩阵,并实现了核密度估计的稀疏表示。我们开发的非渐近误差界估计通过建议的阶段最小化算法。模拟研究证实,该估计量的性能与其他已知的密度估计量相比具有竞争力或更好。
2021-08-10 cs.LG stat.CO stat.ME
Generalized ridge estimator and model selection criterion in multivariate linear regression
在多元线性回归中,基于广义岭估计在平方风险和Kullback-Leibler风险下优于极大似然估计,提出了新的模型选择准则.我们的模型选择标准有以下最喜欢的属性:一致性,无偏性,一致最小方差。在渐近结构$\frac{p}{n}\to c$下证明了一致性,其中$n$是样本量,$p$是响应变量的参数维数。特别是,我们提出的估计类占主导地位的平方风险下的最大似然估计,即使模型不包括真正的模型。实验结果表明,我们的模型选择标准的风险是小于的最大似然估计的基础上,我们提出的标准指定的真实模型在一定条件下。
2016-04-07 math.ST stat.TH
Recursive kernel density estimators under missing data
在本文中,我们提出了一个自动选择带宽的递归核密度估计的缺失数据的背景下,全球和局部密度估计。我们表明,使用选定的带宽和一个特殊的步长,建议的递归估计优于非递归的情况下,在全局估计的估计误差。然而,递归估计器在计算成本方面要好得多。我们证实了这些理论结果,通过模拟研究和模拟数据的阿基坦队列的HIV-1感染的患者和Coriell细胞系使用染色体数11。
2016-06-22 math.ST stat.TH
Element-wise estimation error of a total variation regularized estimator for change point detection
本文研究了变点检测问题中的全变差正则化$\ell_2$估计(融合套索)。与现有的集中在平方估计误差和的工作相比,我们给出了按元素估计误差的界。我们的界限是接近最优的意义上,平方误差的总和匹配现有的最佳结果,对数因子。这种逐元素估计误差的分析允许可以近似检测所有变化点的筛选方法。我们还将此方法推广到多变量设置,即,来解决群体融合套索的问题。
2019-01-03 math.ST stat.TH
Confidence bands for Horvitz-Thompson estimators using sampled noisy functional data
当函数数据的集合太大而无法穷尽地观察时,调查抽样技术提供了一种有效的方法来估计全局量,如总体平均函数。假设功能数据收集从一个有限总体根据概率抽样方案,与测量是离散的时间和噪声,我们建议首先平滑的采样轨迹与本地多项式,然后估计的平均函数与Horvitz-Thompson估计。在对总体规模、观测次数、轨迹的正则性、采样方案和平滑带宽等条件较弱的情况下,证明了连续函数空间中的一个中心极限定理.我们还建立了一个协方差函数估计的一致相合性,并应用前面的结果来建立均值函数的置信带。频带达到标称覆盖,并通过高斯过程模拟条件下的估计协方差函数。为了选择带宽,我们提出了一种交叉验证方法,占抽样权重。仿真研究评估我们的方法的性能,并强调采样方案和带宽选择的影响。
2013-12-11 math.ST stat.ME stat.TH
Tuning-free ridge estimators for high-dimensional generalized linear models
岭估计正则化参数的平方欧几里德长度。这样的估计在数学上和计算上是有吸引力的,但是涉及可能难以校准的调谐参数。在本文中,我们表明,岭估计可以修改,使调谐参数可以完全避免。我们还表明,这些修改后的版本可以提高标准岭估计与交叉验证相结合的经验预测精度,我们提供了第一个理论保证。
2020-02-27 stat.AP stat.CO stat.ME
Minimax Efficient Finite-Difference Stochastic Gradient Estimators Using Black-Box Function Evaluations
随机梯度估计的标准方法,仅具有噪声黑盒函数评估,使用有限差分法或其变体。虽然很自然,但我们知道他们的统计准确性是否是最好的。本文认为,通过显示中心有限差分是一个接近极小极大最优零阶梯度估计的一个合适的类的目标函数和均方风险,在这两个类的线性估计和更大的类的所有(非线性)估计。
2020-11-12 math.ST stat.ME stat.TH
Robust Inference Under Heteroskedasticity via the Hadamard Estimator
本文提出利用 Hadamard 估计量解决高维异方差线性回归的稳健推断问题,通过新的自由度调整提供更准确的置信区间,并利用二阶 Poincare 不等式证明其近似正态性。
2024-01-09 math.ST stat.ME stat.TH
On the boundary properties of Bernstein estimators on the simplex
本文研究了$d$维单形的累积分布函数和密度函数的Bernstein估计的渐近性质(偏差、方差、均方误差).我们的结果推广了Leblanc(2012)的结果,他处理了$d=1$的情况,并补充了Ouimet(2021)在单形内部的结果。由于$d$维单纯形的“边”具有从$0$(顶点)直到$d - 1$(面),我们的核函数是多项式,偏差的渐近表达式,方差和均方误差并不像乘积那样是一维渐近性的直接扩展-型估计研究的几乎所有过去的作者在Bernstein估计或非对称核估计的背景下。这一点使得数学分析更加有趣。
2022-12-10 math.PR math.ST stat.TH
Averaging of density kernel estimators
平均为密度核估计提供了带宽选择的替代方案。我们提出了一个程序,线性结合几个内核估计的密度从不同的,可能是数据驱动的,带宽。该方法依赖于最小化组合的积分平方误差的容易处理的近似。它提供了一个小的计算成本,在大多数情况下,提高了初始估计的最终解决方案。平均估计被证明是渐近有效的最佳可能的组合(神谕),与一个错误项,减少速度比minimax率与分离的学习和验证样本。的性能进行了数值测试,与其他现有的程序相比,在平均积分平方误差的结果。
2019-11-04 math.ST stat.TH
A Bias-reduced Estimator for the Mean of a Heavy-tailed Distribution with an Infinite Second Moment
我们使用偏置减少估计的高分位数,重尾分布,介绍了一个新的估计的情况下,无限的二阶矩。在模拟研究中,通过四种最流行的适合不同样本量的拟合优度检验,建立并检查了所提出的估计量的渐近正态性。此外,我们比较,在偏差和均方误差,我们的估计与彭的估计(彭,2001年),我们评估的准确性,一些得到的置信区间。
2012-01-10 math.ST stat.CO stat.ME
Asymptotic properties of Dirichlet kernel density estimators
本文首次从理论上研究了由Aitchison和Lauder(1985)提出的用于估计$d$维单纯形上多元密度的Dirichlet核估计。单纯形是一个重要的情况下,因为它是组成数据的自然域,并已被忽略在文献中的非对称内核。Dirichlet核估计是Chen(1999)的一维Beta核估计的推广,它没有边界偏差,并且在单纯形上处处非负。证明了该算法对均方误差和平均积分均方误差具有最优收敛速度$O(n^{-4/(d+4)})$,证明了算法的渐近正态性和一致强相合性,并得到了平均积分绝对误差的渐近表达式.为了说明Dirichlet核方法及其良好的边界性质,我们提出了一个矿物加工的案例研究。
2021-09-22 math.PR math.ST stat.TH
Simultaneous Selection of Optimal Bandwidths for the Sharp Regression Discontinuity Estimator
针对截断点处平均程序影响的锐回归间断估计,提出了一种新的带宽选择规则,即截断点左右的局部线性回归估计采用不同的带宽.使用建议的带宽选择规则的估计的渐近均方误差被证明是小于文献中提出的其他带宽选择规则。一个广泛的模拟研究表明,所提出的方法的性能为样本量500,2000,和5000密切匹配的理论预测。
2015-08-07 stat.ME