Adaptive post-Dantzig estimation and prediction for non-sparse "large $p$ and small $n$" models
为了估计和模型预测的一致性(甚至是预言性质),几乎所有现有的变量/特征选择方法都严重依赖于模型的稀疏性。然而,对于“大$p$和小$n$“模型,稀疏性假设很难检验,特别是当这个假设被违反时,所有现有估计的一致性通常是不可能的,因为由现有方法如LASSO和Dantzig选择器选择的工作模型通常是有偏差的。为了解决这个问题,本文提出了自适应后Dantzig估计和模型预测。这里的适应性是指基于新方法的一致性对模型的非稀疏性、收缩调节参数的选择和预测向量的维数具有自适应性。其思想是在Dantzig选择器确定一个子模型作为工作模型后,通过选择合适的工具变量和非参数调整,构造一个全局无偏的子模型。子模型中参数的新估计可以具有渐近正态性。相合估计量与所选子模型和调整后的模型一起改进模型预测。仿真研究表明,新方法与高斯-丹齐格选择器等经典方法相比,在估计和预测精度上都有明显的提高。
2010-08-07 stat.ME
The Dantzig selector: Statistical estimation when $p$ is much larger than $n$
在许多重要的统计应用中,变量或参数$p$的数量远大于观测值$n$的数量。假设我们有观测值$y=Xβ+z$,其中$β\in\mathbf{R}^p$是一个感兴趣的参数向量,$X$是一个行可能远少于列的数据矩阵,$n\ll p$,$z_i$是独立同分布的。$N(0,σ^2)$。是否有可能根据噪声数据$y$可靠地估计$β$?为了估计$β$,我们引入了一个新的估计器-我们称之为Dantzig选择器-这是$\ell_1$正则化问题\[\min_{\tilde{\b eta}\in\mathbf{R}^p}\|\tildeβ\|_{\ell_1}\quad subject to\quad \|X^*r\|_{\ell_{\infty}}\leq(1+t^{-1})\sqrt{2\log p}\cdotσ,\]的解决方案,其中$r$是残差向量$y-X\tildeβ$,$t$是正标量。我们表明,如果$X$服从统一的不确定性原则(与单位规范列),如果真正的参数向量$β$是足够稀疏(这在这里大致保证该模型是可识别的),然后以非常大的概率,\[\|\hatβ-β\|_{\ell_2}^2\le C^2\cdot2\log p\cdot \Biggl(σ^2+\sum_i\min(β_i^2,σ^2)\Biggr).\]我们的结果是非渐近的,我们给值为常数$C$。即使$n$可能比$p$小得多,我们的估计实…
2008-03-21 math.ST stat.TH
Interpretable Scalar-on-Image Linear Regression Models via the Generalized Dantzig Selector
University of Arizona(亚利桑那大学)
提出广义Dantzig选择器,联合施加稀疏性和平滑性约束,提高标量对图像回归中系数函数的可解释性,并通过理论和实验验证其优势。
2026-06-16 stat.ME
Two step estimations via the Dantzig selector for models of stochastic processes with high-dimensional parameters
Faculty of Economics and Law, Shinshu University(信州大学经济与法律学院);Faculty of Mathematics, Kyushu University(九州大学数学学院)
本文通过Dantzig选择器和两步估计方法,研究了高维参数随机过程模型的稀疏估计及渐近正态性。
2024-09-18 math.ST stat.TH
Discussion: A tale of three cousins: Lasso, L2Boosting and Dantzig
Emmanuel Candes和Terence Tao讨论“Dantzig选择器:当$p$远大于$n$时的统计估计”[math/0506081]
2008-03-21 math.ST stat.TH
A Variational View on Statistical Multiscale Estimation
我们提出了一个统一的观点,各种统计估计技术,包括惩罚,变分和阈值方法。这些估计量将在统计线性逆问题的背景下进行分析,包括非参数和变点回归,以及高维线性模型作为示例。我们的方法揭示了许多看似无关的估计方案作为特殊的情况下,一般类的变分多尺度估计,名为MIND(MultIscale Nemirovskii-Dantzig)。这些估计量是在凸约束下最小化某些正则化泛函的结果,这些凸约束可以被看作是对局部假设的多个统计检验。为了计算的目的,我们重铸MIND在更简单的无约束优化问题,通过拉格朗日罚函数以及Fenchel对偶。几个MIND的性能证明数值例子。
2021-06-10 math.ST stat.CO stat.ME
Accuracy Assessment for High-dimensional Linear Regression
本文考虑随机设计下高维线性回归中估计量$\ell_q$损失的点估计和区间估计。我们建立了估计$\ell_{q}$损失的Minimax率和回归向量的率最优估计的$\ell_{q}$损失的Minimax期望置信区间长度,包括常用的估计,如Lasso,scaled Lasso,square-root Lasso和Dantzig Lasso。还研究了$\ell_{q}$损失的置信区间的自适应性。研究了同一性设计协方差阵和已知噪声水平的设置以及未知设计协方差阵和未知噪声水平的设置。结果显示,使用$1\le q <2$估计$\ell_2$损失和$\ell_q$损失之间以及两种设置之间存在有趣且显著的差异。新的技术工具的开发,以建立率急剧下降的最小最大估计误差和预期长度的最小和自适应置信区间的$\ell_q$损失。损失估计与传统的参数估计的一个显著区别在于,损失估计的约束条件是回归向量估计量的性能,而下界则是估计其$\ell_q$损失的难度。本文中开发的技术工具也可以是独立的兴趣。
2016-09-24 math.ST stat.TH
Adaptive nonparametric estimation in heteroscedastic regression models. Part 1: Sharp non-asymptotic Oracle inequalities
对于噪声方差依赖于未知回归的异方差回归估计问题,构造了一种自适应非参数估计方法。构造了二次风险的一个非渐近上界(一个预言不等式).
2008-04-10 math.ST stat.TH
Quasi-likelihood analysis for adaptive estimation of a degenerate diffusion process
本文针对退化扩散过程提出自适应拟似然分析方法,并证明拟最大似然估计与拟贝叶斯估计在自适应方案下具有渐近正态性和矩收敛性。
2024-06-07 math.ST stat.TH
Adaptive optimal kernel density estimation for directional data
本文主要研究方向数据的非参数密度估计问题。提出了一种新的核密度估计带宽选择规则。我们的过程是自动的,完全数据驱动的,并适应密度的平滑程度。我们得到了一个预言不等式和L2误差下的最优收敛速度。我们的理论结果与模拟说明。
2018-08-07 math.ST stat.TH
Adaptive estimation of planar convex sets
在本文中,我们考虑自适应估计的一个未知的平面紧凑,凸集从噪声测量其支撑函数在一个统一的网格。研究了点处支撑函数的估计问题和凸集的估计问题。数据驱动的自适应估计,并建立其最优性。对于逐点估计,它示出的估计最佳适应于每一个紧凑的,凸集,而不是一个大的参数空间的集合,在传统的极大极小理论的非参数估计。对于集合估计,估计器自适应地达到最佳的收敛速率。在这两个问题中,我们的分析对未知集没有平滑性假设。
2015-08-15 math.ST stat.TH
Adaptive nonparametric estimation in heteroscedastic regression models. Part 2: Asymptotic efficiency
本文讨论了作者在2007年的论文中提出的用于估计未知非参数回归的自适应方法的渐近性质。我们证明了这个过程是渐近有效的二次风险。这意味着该过程的渐近二次风险与一个尖锐的下界一致。
2008-04-10 math.ST stat.TH
Adaptive estimation over anisotropic functional classes via oracle approach
研究了高斯白噪声模型中各向异性Nikolskii类在$L_p$ --损失下的自适应极小极大估计问题,即$1\leq p\leq\infty,$.我们提出了一个新的数据驱动的选择方案的基础上的估计过程,从家庭的核估计具有不同的带宽。对于建议的估计,我们建立了所谓的Lp-范数预言不等式,并使用它来推导极大极小自适应结果。我们证明了率自适应估计的存在性和充分刻画行为的极大极小风险的正则性参数和规范指标之间的不同关系的定义的功能类和风险。特别地,我们发现了极大极小风险的一些新的渐近性质,包括存在一致相合估计的充要条件。我们还提供了详细的概述现有的方法和结果,并制定开放的问题,自适应极大极小估计。
2014-05-18 math.ST stat.TH
Adaptive estimation for nonparametric circular regression with errors in variables
针对变量含误差的圆回归问题,本文构建自适应估计器并分析其理论收敛速率,通过仿真与真实数据验证方法有效性,为圆型或线型协变量场景提供非参数估计方案。
2025-08-26 math.ST stat.TH
Adaptive non-asymptotic confidence balls in density estimation
我们建立了一个真实值样本$X_1,...,X_n$的共同密度$s$的置信球。我们使用的方法来估计投影的$s$到有限维线性空间和模型选择过程中选择一个最优逼近空间。覆盖属性确保所有$n\geq2$和球是自适应的线性空间的集合。
2010-07-26 math.ST stat.TH
Optimal adaptive estimation of linear functionals under sparsity
考虑高斯序列模型中线性泛函的估计问题,其中R^d中的未知向量θ属于一类s-稀疏向量,且s未知.我们建议一个自适应估计实现非渐近收敛速率,不同于最大极小率的对数因子。我们还表明,这种最佳的自适应率不能提高时,s是未知的。此外,我们还讨论了同时适应s和噪声方差σ ^2的问题。我们提出了一个估计器,当s和σ ^2都未知时,它可以达到最优的自适应速率。
2017-10-06 math.ST stat.TH
Adaptive density estimation for clustering with Gaussian mixtures
高斯混合模型被广泛用于研究聚类问题。这些基于模型的聚类方法需要通过高斯混合来准确估计未知数据密度。在Maugis和Michel(2009)中,提出了一种惩罚极大似然估计,用于自动选择混合成分的数量。本文考虑了对数局部β-Hölder的单变量密度集在矩和尾条件下的情形.我们证明了这种惩罚估计是极小极大自适应的β规律性的密度在Hellinger意义。
2011-10-14 math.ST stat.TH
Adaptive nonparametric estimation for Lévy processes observed at low frequency
本文讨论低频Lévy过程的自适应非参数估计。对于Lévy测度的一般线性泛函,我们构造了核估计,给出了风险上界,并在正则性假设下得到了收敛速度。我们的重点在于带宽的自适应选择,使用模型选择技术。我们在这里面临一个非标准问题的模型选择未知的方差。针对这个问题提出了一种新的方法,它也允许一个简单的推广到一个经典的密度反卷积框架。
2013-08-29 math.ST stat.TH
On adaptive minimax density estimation on $R^d$
我们解决的问题,自适应极小极大密度估计的$\bR^d$与$\bL_p$ -各向异性的Nikol'skii类的损失。在函数类和风险的定义中,我们充分刻画了极大极小风险在正则性参数和范数指标之间的不同关系下的行为。特别是,我们表明,有四个不同的制度方面的行为的极大极小风险。我们开发了一个单一的估计,这是(近)最佳的orderover的各向异性Nikol'skii类的完整规模。我们的估计过程是基于数据驱动的选择一个估计从一个固定的家庭的核估计。
2013-06-18 math.ST stat.TH
Nonparametric adaptive time-dependent multivariate function estimation
本文研究了在小强度加性圆柱高斯白噪声存在下观测到的不定常多元函数的非参数估计问题。我们推导出极小极大下界的$L^2$ -风险在建议的时空模型的强度为零,当潜在的未知响应函数被假定为属于一个球的适当构造的非齐次不定常的多变量函数,由实际应用的动机。此外,我们提出了非自适应的线性和自适应的非线性小波估计是渐近最优的(在极大极小的意义上)在广泛的非齐次不定常多元函数的球。建议的自适应非线性小波估计的有用性说明与模拟和真实数据的例子的帮助。
2012-10-31 math.ST stat.TH
Volatility Estimation of Hidden Markov Processes and Adaptive Filtration
考虑了观测值中含有低噪声的部分可观测线性随机微分方程系统。核型估计用于估计观测过程极限导数的二次变差。然后将该估计量用于不可观测成分波动率平方积分的非参数估计。该估计器也用于构造替代估计器的情况下,在可观测分量的漂移和波动的状态分量依赖于一些未知的参数。然后,这种替代估计器和费舍尔评分设备允许我们介绍一步MLE过程和自适应卡尔曼-布西滤波器。
2022-11-22 math.ST stat.TH
Adaptive Density Estimation on Bounded Domains
本文研究了定义在[0,1]^d上的密度函数的Lp模估计.我们构建了一个新的家庭的核密度估计,不遭受所谓的边界偏差问题,我们提出了一个数据驱动的程序的基础上的Goldenshluger和Lepski方法,共同选择一个内核和带宽。我们得到两个估计,满足预言型不等式。它们也被证明是自适应的各向异性或各向同性的Sobolev-Slobodetskii类(这是Besov或Sobolev经典类的特殊情况)的规模。各向同性过程的主要兴趣是获得自适应的结果,没有任何限制的平滑参数。
2018-10-25 math.ST stat.TH
Adaptive nonparametric estimation of a component density in a two-class mixture model
考虑一类两类混合模型,其中一个组分的密度已知。我们解决的问题的非参数自适应估计的未知概率密度的第二个组成部分。我们提出了一个随机加权核估计与完全数据驱动的带宽选择方法,在精神的Goldenshluger和Lepski方法。给出了点态二次风险的一个预言型不等式以及Holder光滑类上的收敛速度.通过数值模拟说明了理论结果。
2021-02-05 math.ST stat.TH
Adaptive pointwise estimation for pure jump Lévy processes
研究了有界变差纯跳Lévy过程Lévy密度N(x)的自适应核估计.在“高频”背景下,在n个离散时刻观察到样本路径(Δ= Δ(n)趋于零,而nΔ趋于无穷大)。我们构造了函数g(x)=xN(x)的核估计器集合,并提出了一种局部自适应选择带宽的方法。对于二次逐点风险,我们给出了一个预言不等式和一个收敛速率。这个速率被证明是最优的minimax速率。我们给出的例子和模拟结果适合在我们的框架的过程。我们还考虑了不规则采样的情况。
2013-02-13 math.ST stat.TH
Adaptive Density Estimation on the Circle by Nearly-Tight Frames
本文研究了循环数据下非参数密度估计的渐近性质。这里应用的估计过程是基于小波阈值方法:所使用的小波是所谓的墨西哥针,它描述了一个近乎紧的框架上的圆。我们研究了这些估计的$L^{2}$风险函数的渐近行为,特别是它的自适应性,证明了它的收敛速率是接近最优的。
2016-03-15 math.ST stat.TH
Quantile estimation with adaptive importance sampling
我们引入新的分位数估计与自适应重要性抽样。自适应估计是基于加权样本,既不是独立的,也不是同分布。利用鞅的一个新的重对数律,证明了具有非唯一分位数的一般分布的自适应分位数估计的收敛性,从而推广了Feldman和Tucker [Ann. Math. Statist. 37(1996)451- 457]。我们说明了一个例子,从信贷组合风险分析的算法。
2010-02-26 math.ST stat.TH
Adaptive Optimal Nonparametric Regression and Density Estimation Based on Fourier-Legendre Expansion
受金融和技术应用的启发,本文的目标是考虑基于Fourier-Legendre展开的回归和密度分布的自适应估计,以及置信区间的构造-也是自适应的。估计是渐近最优的和自适应的意义上说,他们可以适应未知的光滑。
2007-06-06 math.SP math.ST stat.TH
Adaptive Estimation and Statistical Inference for High-Dimensional Graph-Based Linear Models
我们考虑了高维图基线性模型的自适应估计和统计推断。在我们的模型中,回归系数的坐标对应于底层的无向图。此外,给定的图控制回归向量的分段多项式结构。在自适应估计部分,我们应用基于图的正则化技术,并提出了一个家庭的局部自适应估计称为Graph-Piecewise-Polynomial-Lasso。我们进一步研究了图分段多项式套索的一步更新问题的统计推断。我们发展了相应的理论,包括固定设计和亚高斯随机设计。最后,我们通过大量的模拟研究说明了我们的方法的优越性能,并以拟南芥微阵列数据集的应用作为结论。
2020-01-29 math.ST stat.ME stat.TH
Regularized estimation of linear functionals of precision matrices for high-dimensional time series
本文研究了高维线性过程的线性泛函的Dantzig选择器型正则化估计。显式的收敛速度的估计得到,他们涵盖了广泛的制度,从独立同分布。样本到长距离相关的时间序列,以及从亚高斯创新到具有温和多项式矩的创新。它表明,收敛速度依赖于时间依赖的程度和潜在的线性过程的矩条件。将Dantzig-selector估计应用于稀疏Markowitz投资组合分配和时间序列的最优线性预测,并与Oracle估计进行了比较,证明了Dantzig-selector估计的比率一致性.在仿真研究中进一步说明了依赖和新息矩条件的影响。最后,正则化估计被应用于分类的认知状态在一个真实的fMRI数据集和投资组合优化的金融数据集。
2016-08-19 math.ST stat.TH
Adaptive estimation under single-index constraint in a regression model
研究了随机设计和弱噪声假设下单指标回归模型中多元函数的自适应估计问题。提出了一种新的估计过程,同时适应未知的指标向量和光滑的链接函数,通过选择从一个家庭的特定的核估计。我们建立了一个逐点预言不等式,它反过来又被用来判断估计整个函数的质量(“全局”预言不等式)。这两个结果适用于问题的逐点和全球自适应估计的集合的Hölder和Nikol'skii功能类,分别。
2014-01-28 math.PR math.ST stat.TH
Adaptive density estimation for directional data using needlets
本文研究球面上方向数据的密度估计。我们介绍了一种新类型的球面小波称为{ \it针}阈值的基础上的程序。我们建立了一个极大极小结果,并证明了它的最优性。我们的动机是天体物理学应用,特别是与超高能宇宙射线的分析有关。
2008-07-31 astro-ph math.ST stat.TH
Adaptive quantile estimation in deconvolution with unknown error distribution
对反褶积问题中的分位数估计进行了全面的研究。特别是,更现实的设置未知的误差分布覆盖。我们的插件方法是基于反卷积密度估计,是最小和自然条件下的最小最大最优。这填补了文献中的一个重要空白。通过数据驱动的带宽选择获得最佳自适应估计。作为一个侧面的结果,我们获得了最佳率的插入估计的分布函数与未知的误差分布。该方法被应用到一个真实的数据的例子。
2016-01-15 math.PR math.ST stat.TH
Adaptive estimation of a function from its Exponential Radon Transform in presence of noise
在这篇文章中,我们提出了一个局部自适应的策略,从指数Radon变换(ERT)的数据估计的功能,没有先验知识的平滑功能,估计。我们建立了一个非参数核类型估计,并表明,对于一类功能,包括一个广泛的Sobolev正则规模,我们提出的策略如下的最小最大最优速率的$\log{n}$因素。我们还表明,不存在一个最佳的自适应估计的Sobolev规模时,逐点的风险,实际上所达到的建议估计的速度是自适应收敛速率。
2020-11-13 math.ST stat.ME stat.ML
Adaptive Density Estimation in the Pile-up Model Involving Measurement Errors
受荧光寿命测量的启发,本文考虑了堆积模型中的非参数密度估计问题。自适应非参数估计提出的堆积模型在其简单的形式,以及在额外的测量误差的情况下。此外,预言型风险界的平均集成平方误差(MISE)。最后,评估的估计方法进行了模拟研究和应用到真正的荧光寿命数据。
2010-11-02 stat.AP
Two-step estimation in linear regressions with adaptive learning
弱的一致性和渐近正态性的普通最小二乘法估计的线性回归与自适应学习时,导出的关键,所谓的,“增益”参数估计在第一步由非线性最小二乘法从辅助模型。两步估计量的奇异极限分布是正态分布,并且通常受第一步抽样不确定性的影响。然而,这种“生成回归量”的问题在某些参数组合中消失了。
2022-11-02 econ.EM stat.AP
Adaptive Kernel Density Estimation with Pre-training
Department of Statistics and Data Science, Tsinghua University(统计与数据科学系,清华大学)
本文提出利用预训练技术提升高维下自适应核密度估计效率,通过神经网络推荐合适核函数,实验证明在目标分布接近预训练分布时效果显著。
2026-08-04 cs.LG stat.ME stat.ML
Quantum Adaptive Fourier Features for Neural Density Estimation
MindLab(思维实验室);Universidad Nacional de Colombia(哥伦比亚国立大学)
密度估计是统计学和机器学习应用中的基本任务。核密度估计是低维非参数密度估计的有力工具,但在高维情况下性能较差。此外,其预测复杂度与更多的训练数据点成线性比例。本文提出了一种神经密度估计方法,该方法可以看作是核密度估计的一种,但没有高的预测计算复杂性。该方法是基于密度矩阵,在量子力学中使用的形式主义,和自适应傅立叶特征。该方法可以在没有优化的情况下进行训练,但它也可以与深度学习架构集成,并使用梯度下降进行训练。因此,它可以被看作是一种神经密度估计方法。该方法在不同的合成和真实数据集上进行了评估,并将其性能与最先进的神经密度估计方法进行了比较,获得了有竞争力的结果。
2022-08-04 cs.LG quant-ph stat.ML
Rate Optimal Estimation and Confidence Intervals for High-dimensional Regression with Missing Covariates
Carnegie Mellon University(卡内基梅隆大学);University of Chicago(芝加哥大学)
虽然大多数高维统计学的理论文献都集中在涉及完全观测数据的设置上,但在实践中,缺失值和腐败的设置是常见的。考虑了稀疏高维线性回归模型中设计矩阵的协变量完全随机缺失完全随机缺失时的估计和构造置信区间的问题。我们分析了Dantzig选择器[9]的一个变体来估计回归模型,并使用去偏参数来构建分量置信区间。我们的第一个主要结果是建立上界的估计误差作为模型参数的函数(稀疏水平s,预期的分数观测协变量$ρ_*$,和测量的信号强度$\|β^*\|_2$)。我们发现,即使在一个理想化的设置,协变量被假定为完全随机缺失,有点令人惊讶的是,在完全观察到的设置相反,有一个二分法的依赖模型参数和更快的速度,如果随机设计的协方差阵是已知的。为了进一步研究这个问题,我们的第二个主要贡献是提供下限的估计误差表明,这种差异率是不可避免的极大极小意义上。然后,我们考虑的问题,高维推理存在缺失数据。我们构造和分析置信区间使用去偏估计。在存在缺失数据的情况下,由于去偏矩阵与导频估计器相关的事实,推断变得复杂,并且这需要设计新的估计器和新的分析。我们还补充了我们的数学研究与广泛的模拟合成和半合成的数据,显示我们的渐近预测有限的样本量的准确性。
2017-11-03 cs.LG stat.ME stat.ML
High-Dimensional Gaussian Copula Regression: Adaptive Estimation and Statistical Inference
我们开发的自适应估计和推理方法,高维高斯copula回归,实现相同的性能,而无需知识的边际变换的高维线性回归。利用Kendall的基于τ的协方差阵估计,提出了一个$\ell_1$正则化估计和相应的去偏估计的置信区间的建设和假设检验。理论性质的程序进行了研究,所提出的估计和推理方法是适应未知的单调边际变换。还考虑了对给定协变量值的响应的预测。该程序易于实现,并在数值上表现良好。该方法也被应用于分析社区和犯罪的非规范化数据从UCI机器学习知识库。
2015-12-08 stat.ME
Minimax and Adaptive Inference in Nonparametric Function Estimation
自1956年Stein的开创性论文以来,收缩在参数和非参数推断中发挥了重要作用。本文讨论了非参数函数估计中的极大极小性和自适应极大极小性。三个相互关联的问题,函数估计下的整体集成平方误差,估计下逐点平方误差,和非参数置信区间,被认为是。收缩是极小极大理论和适应理论发展的关键。虽然这三个问题是紧密相连的,极小极大理论有一些相似之处,适应理论是惊人的不同。例如,与自适应点估计形成鲜明对比的是,在许多常见的设置中,不存在适应底层函数的未知平滑度的非参数置信区间。这些理论的简要说明。讨论了这些问题之间的联系和区别,并通过实例加以说明。
2012-03-22 stat.ME
How well can we estimate a sparse vector?
线性模型中稀疏向量的估计是信号处理、统计学和压缩感知中的一个基本问题。本文建立了一个下界的均方误差,它持有无论使用的传感/设计矩阵,无论估计过程。该下限非常接近于通过对稀疏向量进行随机投影,然后进行$\ell_1$估计过程(例如Dantzig选择器)而获得的已知上限。从这个意义上说,压缩感测技术本质上不能被改进。
2013-03-01 cs.IT math.IT math.ST
LASSO, Iterative Feature Selection and the Correlation Selector: Oracle Inequalities and Numerical Performances
本文提出了一类二次损失回归估计的一般算法。我们的算法能够选择相关的功能到一个大的字典。我们证明了很多已经研究过的算法(LASSO和组LASSO,Dantzig选择器,迭代特征选择等)属于我们的家族,并展示了这个家族的另一个特殊成员,我们称之为相关性。使用我们的家庭的算法的一般属性,我们证明了预言不等式IFS,LASSO和相关性,并比较这些估计的数值性能的玩具的例子。
2008-11-25 math.ST stat.TH
High-Dimensional Semiparametric Selection Models: Estimation Theory with an Application to the Retail Gasoline Market
本文提出了一个基于多阶段投影的Lasso过程的半参数样本选择模型在高维设置下的选择校正的弱非参数限制。特别是,主方程中的回归变量数p和选择方程中的回归变量数d可以随样本量n增长并超过n。分析考虑了精确稀疏情况和近似稀疏情况。主要的理论结果是有限样本的界,从样本量的充分标度条件的估计的一致性和变量选择的一致性。通过极小极大风险的下界研究了所提出的估计的统计效率,结果表明,对于主方程系数向量上具有精确稀疏结构的模型族,在最坏情况下,所提出的估计在一类过程中达到最小的估计误差,直到(n,d,p)-标度.主方程的系数,一个基于一个关键的Dantzig选择器构造非渐近置信集和一个基于后选择策略的推断过程进行了讨论。其他的理论贡献包括建立非渐近对应的熟悉的渐近预言结果从以前的文献:估计的系数在主方程的行为,如果未知的非参数分量是已知的,提供的非参数分量是足够光滑的。小样本性能的高维多阶段估计程序进行评估,通过蒙特卡洛模拟和说明与经验应用到零售汽油市场在大圣路易斯地区。
2014-11-04 math.ST stat.TH
Technical appendix to "Adaptive estimation of stationary Gaussian fields"
这是“平稳高斯场的自适应估计”的技术附录。我们提出了几个证据,已跳过的主要文件。
2009-08-30 math.ST stat.TH
Adaptive smoothness of function estimation in the three classical problems of the non-parametrical statistic in the three classical problems of the non-parametrical statistic
本文在回归、密度估计和谱密度估计三个非参数统计经典问题中,提出了希尔伯特空间范数意义下的自适应函数光滑性估计方法。
2024-08-31 math.ST stat.TH
Adaptive Estimation of Nonparametric Functionals
我们提供了一般的自适应上界估计非参数泛函的基础上产生的有限维近似的无限维模型的二阶U-统计。然后,我们提供的泛函的理论产生率最佳匹配的自适应上限和下界的例子。我们的结果是自动自适应的参数和非参数制度的估计和自动自适应和半参数有效的参数收敛速度的制度。
2021-06-04 math.ST stat.TH
Robust adaptive efficient estimation for semi-Markov nonparametric regression models
研究了半马氏噪声下连续时间回归模型的非参数稳健估计问题。提出了一种自适应模型选择方法。在噪声分布的一般矩条件下,得到了鲁棒风险的一个尖锐的非渐近预言不等式,并证明了鲁棒有效性。结果表明,对于半马尔可夫模型,鲁棒极小极大算法的收敛速度可能比经典算法快,也可能慢。
2017-03-25 math.ST stat.TH
Adaptive robust estimation in sparse vector model
对于稀疏向量模型,我们考虑估计的目标向量,其L2范数和噪声方差。我们构造自适应估计器,并建立自适应估计的最佳速率时,考虑相对于三元组“噪声水平-噪声分布-稀疏性”的自适应。我们认为类的噪声分布多项式和指数下降的尾巴,以及高斯噪声的情况下。当三元组已知时,所得到的速率与极大极小非自适应速率不同。一个关键问题是忽略了噪声方差。此外,知道或不知道噪声分布也会影响速率。例如,在没有分布的精确知识的情况下,噪声方差的估计速率可以根据噪声是高斯还是亚高斯而不同。在我们的设置中,噪声方差的估计可以被视为污染模型中尺度的鲁棒估计的自适应变体,其中,我们假设它属于某类分布,而不是预先固定“标称”分布。
2020-03-02 math.ST stat.TH
Adaptive Sensing for Estimation of Structured Sparse Signals
在许多实际设置中,可以基于从先前收集的数据中提取的信息来顺序地和自适应地引导未来数据的收集。这些顺序的数据收集过程以不同的名称而闻名,例如顺序试验设计、主动学习或自适应感测/采样。自适应感测范例中的数据分析和采集之间的复杂关系可以是极其强大的,并且通常允许在非自适应感测将显著失败的情况下进行可靠的信号估值和检测。在这项工作中,我们调查的问题,估计支持的结构化稀疏信号从坐标明智的意见下的自适应感知范式。我们提出了一个一般程序的支撑集估计,在各种情况下是最佳的,并表明,通过使用自适应传感可以:(i)减轻观察噪声的影响相比,非自适应传感,(ii)利用结构信息在更大的程度上比可能与非自适应传感。除了一个一般的程序来执行自适应传感在结构化的设置,我们提出了两个性能上界,和相应的下界的两个感测范例。
2013-11-27 math.ST stat.TH
Adaptive asymptotically efficient estimation in heteroscedastic nonparametric regression via model selection
本文讨论了作者在2007年的论文中提出的估计未知非参数回归的自适应过程的渐近性质。我们证明了该方法对于二次风险是渐进有效的,即该方法的渐进二次风险与Pinsker常数一致,该常数给出了所有可能估计量的二次风险的精确下界。
2008-10-07 math.ST stat.TH
Adaptive sequential estimation for ergodic diffusion processes in quadratic metric. Part 2: Asymptotic efficiency
证明了第一部分中构造的方法的渐近有效性,即Pinsker常数在极小极大二次风险的渐近下界内。结果表明,所构造的过程的渐近极小极大二次风险与这个常数相吻合。
2008-04-10 math.ST stat.TH
Pointwise Adaptive Estimation of the MarginalDensity of a Weakly Dependent Process
本文研究了弱相依过程的公共边际密度函数的估计问题。估计的准确性使用逐点风险计量。我们提出了一个数据驱动的过程中使用内核规则。使用Goldenshluger和Lepski的方法来选择带宽,我们证明了所得到的估计满足一个预言型不等式。该程序也被证明是自适应的(在一个极大极小的框架)在尺度上的Hölder球的几种类型的依赖:强混合过程,$λ$依赖过程或i.i.d.可以使用单个估计过程来考虑序列。一些模拟说明所提出的方法的性能。
2016-03-31 math.ST stat.TH
On adaptive estimation of linear functionals
考虑了参数空间集合上线性泛函的自适应估计。一个类间模的连续性,一个几何量,被证明是有助于在两个参数空间的适应性程度的特征,以同样的方式,通常的模的连续性捕获的极小极大困难估计在一个单一的参数空间。给出了基于有序连续模的最优自适应估计的一般构造。结果补充了几个说明性的例子。
2006-02-14 math.ST stat.TH
Adaptive estimation of the transition density of a Markov chain
本文考虑齐次马尔可夫链的转移密度$π$的一个新的估计。我们引入了一个原始的对比来自回归框架,我们使用模型选择方法来估计$π$在温和的条件下。由此产生的估计是自适应的最佳收敛速率在大范围的各向异性Besov空间$B_{2,\infty}^{(α_1,α_2)}$。还提出了一些模拟。
2006-11-22 math.ST stat.TH