Partial Consistency with Sparse Incidental Parameters
惩罚估计原理是高维问题的基本原理。在文献中,它已被广泛和成功地应用于各种模型,只有结构参数。作为对比,在本文中,我们应用这种惩罚原则的线性回归模型与有限维向量的结构参数和高维向量的稀疏附带参数。对于结构参数的估计,我们得到了它们的相合性和渐近正态性,揭示了一个预言性质。然而,偶然参数的惩罚估计只具有部分选择相合性而不具有相合性。这是一个有趣的部分一致性现象:结构参数是一致的估计,而偶然的不能。对于结构参数,还考虑了另一种两步惩罚估计,它具有较少的可能渐近分布,因此更适合于统计推断。我们进一步扩展的方法和结果的情况下,结构参数向量的维数发散,但慢于样本量。提供了一种用于选择惩罚正则化参数的数据驱动方法。通过仿真和一个真实数据集的分析,对结构参数的惩罚估计的有限样本性能进行了评估。
2017-08-02 math.ST stat.ME stat.TH
Unified Principal Component Analysis for Sparse and Dense Functional Data under Spatial Dependency
We consider spatially dependent functional data collected under a geostatistics setting, where locations are sampled from a spatial point process. The functional response is the sum of a spatially dependent functional effect and a spatially independent functional nugget effect. Observations on each function are made on discrete time points and contaminated with measurement errors . Under the assumption of spatial stationarity and isotropy, we propose a tensor product spline estimator for the spatio-temporal covariance function . When a coregionalization covariance structure is further assumed,…
2021-06-17 econ.EM math.ST stat.CO
Strong uniform consistency and asymptotic normality of a kernel based error density estimator in functional autoregressive models
估计新息概率密度是任何回归分析中的一个重要问题。本文主要研究函数自回归模型。提出了一种基于残差的新息密度核估计方法。该估计量的渐近性质依赖于泛函自回归函数的平均预测误差。研究了核密度估计的强一致相合性和渐近正态性的充分条件。
2010-05-06 stat.ME
A note on the consistency of the Narain-Horvitz-Thompson estimator
为了使Narain-Horvitz-Thompson估计量具有通常的渐近性质(例如一致性),需要对抽样设计和感兴趣的变量设定一些条件。Cardot等人(2010)给出了均方相合性的一些充分条件,但其中一个条件通常很难证明或对某些不等概率抽样设计不成立。我们提出了Narain-Horvitz-Thompson估计量均方一致性的替代条件。在鞅抽样算法的情况下,也证明了一个特殊的结果,这意味着在立方体方法的快速算法下的一致性。
2014-12-09 stat.ME
Near Universal Consistency of the Maximum Pseudolikelihood Estimator for Discrete Models
当似然函数比其边缘分量和条件分量更难处理时,最大伪似然(MPL)估计是最大似然(ML)估计的有用替代。此外,MPL估计子包括大量的估计技术,包括ML估计,最大复合边际似然估计,最大成对似然估计。当只考虑离散模型的估计(可能可数无限支持),我们表明,一个简单的有限性假设的熵为基础的措施是足够的评估MPL估计的一致性。因此,我们证明了在有界支撑上的任何离散模型的MPL估计将是一致的。我们的结果是有效的参数,半参数和非参数设置。
2017-08-29 stat.ME
Sign Consistency of the Generalized Elastic Net Estimator
在本文中,我们提出了一种新的变量选择方法的框架下的高维线性模型的设计矩阵的列是高度相关的。它包括重写初始高维线性模型,以消除设计矩阵的列之间的相关性,并应用广义弹性网络准则,因为它可以被视为广义Lasso的扩展。我们的方法称为gEN(广义弹性网)的性质进行了研究,从理论和数值的角度来看。更准确地说,我们提供了一个新的条件称为GIC(广义不可表示条件),它推广了Jia和Yu(2010)的EIC(弹性网络不可表示条件),在此条件下,我们证明了当样本量趋于无穷大时,我们的估计量可以恢复系数的零和非零项的位置。我们还使用合成数据评估我们的方法的性能,并将其与其他方法进行比较。我们的数值实验表明,我们的方法在许多情况下提高了变量选择性能。
2021-06-10 math.ST stat.ME stat.TH
Multivariate density estimation from privatised data: universal consistency and minimax rates
我们重新审视经典的非参数密度估计问题,但施加局部差分隐私约束。在这样的约束下,原始的多变量数据$X_1,\ldots,X_n \in \mathbb{R}^d$不能被直接观察到,并且所有的估计量都是合适的隐私机制的随机输出的函数。统计学家是自由选择的形式的隐私机制,在这项工作中,我们建议添加拉普拉斯分布噪声的离散化的矢量$X_i$的位置。基于这些随机化数据,我们设计了一种新的估计的密度函数,这可以被看作是一个私有化的版本,研究直方图密度估计。我们的理论结果包括泛逐点相容性和强泛$L_1$ -相容性。此外,还得到了Lipschitz函数类上的一个收敛速度,并给出了一个匹配的minimax下界.我们通过一个小的模拟研究说明了数据效用和隐私之间的权衡。
2022-11-12 math.ST stat.ME stat.TH
Estimators of Fractal Dimension: Assessing the Roughness of Time Series and Spatial Data
分形或豪斯多夫维数是时间序列和空间数据的粗糙度(或平滑度)的度量。在$\mathbb{R}^d$中索引的光滑可微曲面的图形具有拓扑维数和分形维数$d$。如果曲面是不可微且粗糙的,则分形维数取拓扑维数$d$和$d+1$之间的值。我们审查和评估估计的分形维数下填充渐近的大样本行为,在广泛的有限样本模拟研究,并在北极海冰剖面的数据例子。对于时间序列或线样带数据,盒计数,霍尔-伍德,半周期图,离散余弦变换和小波估计的研究,以及与功率指数2(变差函数)和1(madogram)的变化估计,所有实现在R包fractaldim。考虑到效率和鲁棒性,我们建议使用madogram估计,这可以被解释为一个统计上更有效的版本的霍尔-伍德估计。对于二维格点数据,我们提出了稳健的横断面估计,使用沿行和列的变异估计的中位数。一般来说,随机过程的指数$p>0$的幂变化与其样本路径的Hausdorff维数之间的联系在$p=1$时显得特别稳健和包容。
2012-07-25 stat.ME
An algebraic estimator for large spectral density matrices
我们提出了一个新的估计的高维谱密度矩阵,称为UNshrinked代数谱估计(UNALSE),在一个潜在的低秩加稀疏结构的假设下,通常假设在动态因子模型。UNALSE是通过在核范数加$l_1$范数约束下最小化二次损失来计算的,以控制潜在秩和剩余稀疏模式。损失函数需要作为输入的经典平滑周期图估计和两个门限参数,其中的选择进行了深入讨论。我们证明了当维数$p$和样本量$T$发散到无穷大时UNALSE的一致性,以及代数一致性,即,潜在秩和剩余稀疏模式的恢复概率为1。UNALSE的有限样本性质的研究通过扩展的模拟练习,以及美国宏观经济数据的实证分析。
2021-04-05 math.ST stat.ME stat.TH
On the Consistency of Maximum Likelihood Estimators for Causal Network Identification
Coordinated Science Laboratory, University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校协调科学实验室);ECE Department, University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校电子与计算机工程系)
本文研究一类特殊的马尔可夫链的参数识别问题,称为伯努利自回归过程。任何BAR模型的结构都是由一个有向图编码的。图中节点的传入边指示该节点在特定时刻的状态受到前一时刻对应父节点状态的影响。相关联的边权重确定来自每个父节点的相应影响水平。在最简单的设置中,特定节点的状态变量的伯努利参数是前一时刻的父节点状态和附加伯努利噪声随机变量的凸组合。本文研究了用极大似然(ML)估计辨识边权的问题,并证明了ML估计对两种变分的BAR模型是强相合的。我们还推导出上述两个变量的封闭形式估计,并证明了它们的强一致性。
2020-10-17 cs.LG math.ST stat.ME
Consistency of the Maximal Information Coefficient Estimator
Yale University(耶鲁大学);U.S. Naval Research Laboratory(美国海军研究实验室)
Reshef等人(Science,2011)的最大信息系数(MIC)是用于测量大型数据集中变量对之间依赖性的统计量。本文证明了MIC是相应总体统计量MIC $_*$的相合估计量。这纠正了Reshef等人(JMLR,2016)的论点中的错误,我们描述了这一点。
2021-07-08 cs.IT cs.LG math.IT
Consistency of common spatial estimators under spatial confounding
本文针对空间混杂问题,证明OLS与受限空间回归估计量存在渐近偏差,而采用GP工作协方差的GLS估计量在密化渐近下满足一致性,且该结论可推广至内生性与随机函数混杂场景,为空间回归的有效性提供了理论支撑。
2024-09-17 stat.ME
Strong uniform consistency of nonparametric estimation for quantile-based entropy function under length-biased sampling
Cochin University of Science and Technology(科钦科技大学)
本文研究长度偏差抽样下基于分位数的 Shannon 熵的非参数估计,证明两种估计量的强一致相合性,并通过模拟和真实数据验证其有效性。
2025-09-19 stat.ME
Distributional Results for Thresholding Estimators in High-Dimensional Gaussian Regression Models
本文研究了线性回归模型中硬阈值、软阈值和自适应软阈值估计量的分布,其中参数k的个数可以依赖于样本量n,并且可能随n而发散。除了已知误差方差的情况下,我们定义和研究版本的估计误差方差是未知的。我们推导出每个估计量的有限样本分布,并研究其在大样本极限下的行为,还研究了当自由度n-k不趋于无穷大或非常缓慢地趋于无穷大时必须估计方差的影响。我们的分析包括两种情况下,估计量进行调整,以执行一致的模型选择和估计量进行调整,以执行保守的模型选择。进一步讨论了相容性、一致相容性,并得到了在任意调节下的一致收敛性.
2011-12-16 math.ST stat.ME stat.ML
Uniform-in-bandwidth consistency for nonparametric estimation of divergence measures
我们提出了连续分布之间的发散测度的非参数估计。我们的方法是基于一个插件的核型估计的密度函数。我们给出了建议估计的带宽一致性的一致性。因此,还提供了其渐近100%置信区间。
2014-06-23 stat.ME
Existence and consistency of weighted maximum likelihood estimator for extreme quantile regression
针对极端条件分位数估计中的非线性与尾部外推难题,本文结合块最大值理论与广义随机森林,提出加权最大似然估计法,并证明其存在性与一致性,在模拟和股票投资组合损失数据上验证了有效性。
2026-10-07 stat.ME
Consistency of the maximum likelihood estimator in seasonal hidden Markov models
在本文中,我们介绍了隐马尔可夫模型的一个变种,其中的状态之间的转移概率,以及排放分布,不是恒定的时间,但在一个周期性的方式变化。这类模型,我们称之为季节性隐马尔可夫模型(SHMM),在实践中特别有用,因为许多应用都涉及季节性行为。然而,到目前为止,还没有关于这种模型的理论结果。我们表明,在温和的假设下,SHMM是可识别的:我们可以识别的过渡矩阵和发射分布的联合分布的观察期间,状态标签。我们还给出了极大似然估计强相合的充分条件。将这些结果应用于模拟数据,使用期望最大化算法来计算MLE。最后,我们展示了如何SHMM可以用于在现实世界中的应用,通过将我们的模型应用到降水数据,与混合物的指数分布的排放分布。
2018-02-20 stat.AP stat.ME
A Note on Doubly Robust Estimator in Regression Discontinuity Designs
Department of Basic Science, The University of Tokyo(东京大学基础科学系)
本文提出了用于断点回归设计的双稳健估计量(DR-RD),通过结合两个条件期望结果估计量,在至少一个估计量一致时即可保证处理效应估计的一致性,从而增强了估计的稳健性。
2025-01-27 cs.LG econ.EM math.ST
Inference for two-stage sampling designs with application to a panel for urban policy
住户和健康调查通常采用两阶段抽样设计。为了产生具有各种置信区间的可靠估计量,需要Horvitz-Thompson估计量的一些基本统计性质,如一致性和渐近正态性,以及各种方差估计量的一致性。这些性质主要是研究单阶段抽样设计。在这项工作中,我们证明了一致性的Horvitz-Thompson估计和相关的方差估计的一般类的两阶段抽样设计,在温和的假设。我们还研究了第一阶段采用大熵抽样设计的两阶段抽样,并通过耦合论证证明了Horvitz-Thompson估计量是渐近正态分布的。当第一级抽样比可忽略时,本文提出了简化的方差估计,它不需要估计一级单元内的方差,并证明了它们是相容的。一个应用程序的城市政策,这是这项工作的最初动机小组,也提出。
2019-01-04 stat.ME
On the consistency of a spatial-type interval-valued median for random intervals
样本$d_θ$ -中位数是区间值随机变量的集中趋势或位置的稳健估计量。虽然区间值样本均值可能受到离群值的高度影响,但这种空间类型的区间值中值仍然可靠得多。本文证明了在一般条件下,样本$d_θ$ -中位数是区间值随机变量的$d_θ$ -中位数的强相合估计量.
2014-11-27 stat.ME
Strong Consistency and Asymptotic Normality of the Maximum Likelihood Estimator in $r$-Largest Generalized Extreme-Value Models
Chonnam National University(全南国立大学)
该研究证明了rGEV模型中最大似然估计量的强一致性与渐近正态性,提出序贯修正似然准则等新要素,模拟显示用5-7个序统计量可降低100年重现水平的相对偏差。
2026-10-16 stat.ME
Estimation of Partially Linear Regression Model under Partial Consistency Property
本文利用高维统计建模的最新理论成果,提出了一种无模型但计算简单的方法来估计部分线性模型$Y=Xβ+g(Z)+\varepsilon$。受部分一致性现象的启发,我们建议通过附带参数来建模$g(Z)$。通过对$Z$的支持度进行划分,采用简单的局部平均值来估计响应面。所提出的方法旨在取得平衡的计算负担和效率的估计,同时最大限度地减少模型偏差。在计算上,这种方法只涉及最小二乘法。我们证明,给定$g(Z)$的不一致估计量,可以以很小的效率代价获得部分线性模型的参数分量$β$的根$n$相合估计量。此外,在$β$估计的条件下,$g(Z)$的最优估计,然后可以得到使用经典的非参数方法。考虑了$β$的统计推断问题和$g(Z)$的两种群非参数检验问题。我们的结果表明,检验统计量的行为是令人满意的。为了评估我们的方法与其他方法相比的性能,进行了三个模拟研究和一个真实的数据集出生体重的危险因素进行了分析。
2014-01-09 stat.CO stat.ME
Strongly Consistent of Kullback-Leibler Divergence Estimator and Tests for Model Selection Based on a Bias Reduced Kernel Density Estimator
本文研究了有偏约化核密度估计的强相合性,得到了强相合的库尔贝克-莱布勒散度(KLD)估计.作为应用,我们给出了模型选择的拟合优度检验和渐近标准正态检验。蒙特卡罗模拟表明了所提出的估计方法和统计检验的有效性。
2018-05-18 stat.ME
Estimating the distribution of marks of a homogeneous marked Poisson process
Lund University(隆德大学);University of Vienna(维也纳大学)
本文提出了一种估计均匀泊松过程中不同事件类型分布的估计器,推导了最大似然估计的强一致性和渐近正态性,并讨论了其在欧洲散裂中子源新型探测器中子检测的应用。
2026-05-09 stat.AP stat.ME