Naive Penalized Spline Estimators of Derivatives Achieve Optimal Rates of Convergence
University of Massachusetts, Amherst(马萨诸塞大学阿默斯特分校)
本文研究导数的惩罚样条估计的渐近性态。特别是,我们表明,简单地区分惩罚样条估计的平均回归函数本身估计相应的衍生物实现了最佳的L2收敛速率。
2022-08-23 cs.LG math.ST stat.TH
Depth weighted scatter estimators
一般深度加权散布估计的介绍和研究。对于一般的深度函数,我们证明了这些仿射同变散布估计在广泛的多元分布下是Fisher相合的和无偏的,并且证明了样本散布估计是强的、\sqrtn -相合的和渐近正态的,估计的影响函数一般存在且有界.然后,我们集中在一个特定的情况下,一般的深度加权散布估计,投影深度加权散布估计,其中包括作为一个特殊的情况下,著名的Stahel-Donoho散布估计,其极限分布一直是开放的,直到本文。大样本的行为,包括一致性和渐近正态性,有效性和有限样本的行为,包括崩溃点和相对效率的样本投影深度加权散布估计,进行了深入的研究。推导并检验了投影深度加权散射估计量的影响函数和最大偏差。与典型的高崩溃竞争者不同,投影深度加权散布估计器可以集成高崩溃点和高效率,同时享有有界的影响函数和适度的最大偏差曲线。与领先的估计渐近相对效率和疏失误差灵敏度的比较表明,投影深度加权散布估计的表现非常好的整体,因此,仿射等变多元散布估计的非常有利的选择。
2005-04-25 math.ST stat.TH
Preliminary testing derivatives of a linear unified estimator in the logistic regression model
近年来,著名的Liu估计(Liu,1993)在病态线性模型的回归参数估计中引起了研究者的注意。对参数施加子空间假设约束,可以通过缩小非样本信息来改善估计。Chang(2015)在二元逻辑斯谛回归中提出了几乎无偏Liu估计(AULE)。本文在Chang(2015)工作的基础上,提出了二元逻辑斯谛回归模型中回归参数的几种改进的无偏Liu型估计,即限制AULE、初步检验AULE、Stein型收缩AULE及其正部估计。新定义的估计的性能进行了分析,通过一些数值结果。一个真实的数据例子也提供了支持的研究结果。
2017-08-29 math.ST stat.TH
Some asymptotic results on density estimators by wavelet projections
令$(X_i)_{i\geq 1}$为i.i.d.在具有密度$f$的$\RRR^d$上的样品。给定$\RRR^d$上的有限变差实函数$ϕ$和整数序列$(j_n)$,设$\fn$表示基于$ϕ$的多分辨水平等于$j_n$的$f$的小波投影估计.当$n2^{-dj_n}/\log n \rar \infty$和$H$是$\RRR^d$的给定超立方体时,我们给出了量$\sup_{x\in H}\mid \fn(x)-\EEE(\fn)(x)\mid$几乎处处收敛到0的精确速率.然后,我们表明,如果$n2^{-dj_n}/\log n \rar c$为一个常数$c>0$,那么数量$\sup_{x\in H}\mid \fn(x)-f\mid$几乎肯定不会收敛到0。
2012-01-26 math.ST stat.TH
Thresholding Projection Estimators in Functional Linear Models
考虑了泛函线性回归模型中回归函数的估计问题,提出了一种新的结合降维和阈值的投影估计。阈值规则的引入允许在广泛的假设下得到一致性,以及在额外的正则性假设下得到极大极小收敛率。我们还考虑了三角基所产生的Sobolev空间的特殊情况,它允许很容易地得到预测的均方误差以及回归函数的导数的估计。我们证明了这些估计是极大极小的,并给出了某些特殊情况下的收敛速度。
2008-12-17 math.ST stat.ME stat.TH
Statistical generalized derivative applied to the profile likelihood estimation in a mixture of semiparametric models
在纵向和生存数据的联合模型中,很难找到轮廓似然估计量的方差估计。我们通过引入“统计广义导数”来解决这个困难。导数用于显示估计量的渐近正态性,而不假设模型中密度函数的二阶导数存在。
2018-07-20 math.ST stat.TH
Projection-type estimation for varying coefficient regression models
本文介绍了变系数回归模型中系数函数的新估计。通过将系数函数的全维核加权局部多项式估计向量投影到具有适当范数的希尔伯特空间上,得到了该估计.我们提供了一个后拟合算法来计算估计。我们证明了该算法在弱条件下以几何速度收敛。我们得到了估计量的渐近分布,并证明了估计量具有预言性质。这是为了局部多项式拟合的一般阶数和系数函数的导数的估计,以及系数函数本身。的估计结果有几个理论和数值上的优势,杨,公园,薛和Härdle [J. Amer.统计学研究的边际积分估计。101(2006)1212- 1227]。
2012-03-02 math.ST stat.TH
Adaptive estimation of spectral densities via wavelet thresholding and information projection
本文研究平稳高斯过程谱密度的自适应估计问题。为此,我们考虑一种基于小波的方法,它结合了小波逼近和信息投影估计的思想,以保证解是一个非负函数。通过将周期图的小波阈值展开投影到一族指数函数上来估计过程的谱密度。这确保了谱密度估计器是严格正函数。然后,根据Bochner定理,相应的协方差函数的估计是半正定的。估计的理论行为是建立在收敛速率的Kullback-Leibler差异Besov类。我们还显示了良好的实际性能的估计在一些数值实验。
2011-06-06 math.ST stat.TH
Local Estimation of a Multivariate Density and its Derivatives
我们分析了四种不同的方法来估计多元概率密度(或对数密度)及其一阶和二阶导数。两种方法,局部对数似然和局部Hyvärinen得分估计,是在加权评分规则与局部二次模型。另外两种方法是局部矩匹配和核密度估计。所有的估计依赖于一个通用的内核,我们使用高斯内核提供明确的例子。估计量的渐近性质推导和比较。在收敛速度方面,改进的局部矩匹配估计是最好的。
2020-08-10 math.ST stat.TH
Shape-constrained density estimation with Wasserstein projection
University of Tokyo(东京大学);RIKEN Center for Brain Science(理化学研究所脑科学中心);University of Toronto(多伦多大学)
本文研究了基于Wasserstein距离的单变量非参数形状约束密度估计,重点探讨了二次情况下的Wasserstein投影估计,并与最大似然估计进行比较。
2026-04-10 math.ST stat.TH
Asymptotic expansion of the minimum covariance determinant estimators
在Cator和Lopuhaa的arXiv:0907.0079中,在非常一般的框架中建立了MCD估计量的渐近展开。这种展开要求一阶泰勒展开中导数的存在性和非奇异性。在本文中,我们证明了这种衍生物的存在性的多元分布的密度,并提供了一个明确的表达。此外,在适当的对称性条件下的密度,我们表明,该衍生物是非奇异的。这些对称条件包括椭圆轮廓的多元位置散射模型,在这种情况下,我们表明,最小协方差行列式(MCD)估计的多元位置和协方差渐近等价于一个独立的同分布向量和矩阵值随机元,分别。这提供了渐近正态性的证明和MCD估计量的极限协方差结构的精确描述。
2009-08-26 math.ST stat.TH
Minimax lower bound for kink location estimators in a nonparametric regression model with long-range dependence
本文给出了分数阶白噪声模型中回归函数一阶导数变点估计在Minimax意义下的一个下界。类似的极小极大结果在该领域以前提出的重点在白噪声模型中的回归函数的导数的变化点,或考虑在相关误差的存在下的回归函数的估计。
2011-07-29 math.ST stat.TH
On Degrees of Freedom of Projection Estimators with Applications to Multivariate Nonparametric Regression
本文考虑了具有多元预测变量的非参数回归问题。我们提供了未知的回归函数,这是线性约束的二次优化程序,即最小二乘准则与线性约束和/或二次处罚的输出的估计的自由度和发散的表征。作为我们结果的特殊情况,我们导出了许多非参数回归问题中自由度的显式表达式,例如,有界保序回归、多元(惩罚)凸回归和加性全变差正则化。我们的理论还产生,作为特殊情况下,已知的结果的自由度的许多研究的估计在统计文献中,如岭回归,套索和广义套索。我们的结果可以很容易地用来选择调谐参数(S)参与的估计过程中,通过最小化Stein的无偏风险估计。作为我们的分析的副产品,我们得到了一个有趣的连接之间的有界保序回归和保序回归一般偏序集,这是独立的兴趣。
2018-10-06 math.ST stat.TH
Uniform central limit theorems for the Grenander estimator
我们考虑Grenander估计,这是最大似然估计的非增密度。证明了有界变差函数的某些子类和光滑性s>1/2的Hölder球的一致中心极限定理。我们不假设密度是可微的或连续的。这个证明可以看作是参数极大似然估计方法在非参数情况下的一个改进。由于非参数极大似然估计位于边界上,因此不可能像参数情况那样期望似然的导数等于零。然而,我们的证明依赖于这样一个事实,即可能性的导数可以被证明是小的最大似然估计。
2015-06-26 math.ST stat.TH
On the Estimation of Derivatives Using Plug-in Kernel Ridge Regression Estimators
Rice University(莱斯大学)
针对回归函数导数估计中参数调优难、高阶导数分析复杂的问题,提出适用于多维支撑域与任意混合偏导的插入式KRR估计量,统一推导误差界,验证其极小极大最优速率与免随导数阶数调参的插入式特性,且有限样本性能优异。
2023-08-26 cs.LG math.ST stat.ML
Estimation of projection operators with Gaussian noise
Univ Lyon, Université Claude Bernard Lyon 1, CNRS UMR 5208, Institut Camille Jordan(里昂大学,克莱贝尔·贝尔纳·里昂第一大学,法国国家科学研究中心联合研究单位5208,卡米耶·让研究所)
本文研究了在子空间估计情况下随机投影算子的误差上界,基于噪声和子空间固有属性推导非渐近上界,并通过正则化估计器规避结构假设,以偏最小二乘框架为例说明。
2026-03-27 math.ST stat.TH
Combining kernel estimators in the uniform deconvolution problem
本文构造了一致反卷积模型中分布函数的密度估计和估计。该估计是基于观测值及其导数的密度的反演公式和核估计。导出了估计的渐近正态性和渐近偏差。
2011-01-05 math.ST stat.TH
On a Calculable Skorokhod's Integral Based Projection Estimator of the Drift Function in Fractional SDE
本文针对分数阶随机微分方程,提出基于Skorokhod积分的漂移函数投影估计量,并给出其可计算近似的L2误差界。
2024-01-15 math.PR math.ST stat.TH
Inference for Projection Parameters in Linear Regression: beyond $d = o(n^{1/2})$
本文研究高维线性回归投影参数的推断,提出最小二乘估计量的偏差校正方法并证明其渐近正态性,在 $d=o(n^{2/3})$ 条件下给出有限样本 Berry-Esseen 界,并利用无需方差估计的推断方法实现更优的覆盖误差控制。
2024-01-11 math.ST stat.TH
Block thresholding for wavelet-based estimation of function derivatives from a heteroscedastic multichannel convolution model
我们观察到$n$异方差随机过程$\{Y_v(t)\}_{v}$,其中对于任何$v\in\{1,\ldots,n\}$和$t \in [0,1]$,$Y_v(t)$是未知函数$f$和已知模糊函数$g_v$的卷积积高斯噪声破坏。在$g_1,\ldots,g_n$的一般光滑性假设下,我们的目标是从观测值估计$f$的$d$阶导数(弱意义下).我们提出了一种基于小波块阈值的自适应估计器,即“BlockJS估计器”。以平均积分平方误差(MISE)为例,我们的主要理论结果研究了Besov光滑空间上的Minimax速率,并表明我们的块估计可以达到最佳的Minimax速率,或者至少是在最不利的情况下接近Minimax。我们还报告了一套全面的数值模拟,以支持我们的理论研究结果。我们的块估计的实际性能相比,非常有利的现有方法的文献上的一个大的测试功能。
2013-03-13 math.ST stat.TH
Integral representations of one dimensional projections for multivariate stable densities
我们考虑由Abdul-Hamid和Nolan(1998)引入的一般多元稳定密度的一维投影的数值计算。在他们的方法中,使用一维密度的高阶导数,这在实践中似乎很麻烦。此外,对于偶数维度存在一些困难。为了克服这些困难,我们得到了一维投影的显式有限区间整表示。为此,我们利用复积分的虚部,其实部对应于一维反演公式的导数。本文还总结了稳定多元密度的各种参数化与其一维投影之间的关系。
2006-08-23 math.ST stat.TH
Estimating a Function and Its Derivatives Under a Smoothness Condition
Adelphi University(阿德菲大学)
该研究针对带噪声数据下未知光滑函数及其偏导数的估计问题,提出两类带光滑性约束的估计量,证明其可通过二次规划求解且具备一致性与收敛速率,并通过股票期权估值数值实验验证了有效性。
2024-05-16 cs.LG math.ST stat.ML
Derivatives and residual distribution of regularized M-estimators with application to adaptive tuning
本文针对高斯设计下带凸惩罚的正则化M-估计量,推导其关于数据和设计矩阵的导数公式,刻画高维区域残差分布,并据此提出无需噪声分布和协方差知识的自适应调参准则,以近似最小化样本外误差。
2025-01-02 math.ST stat.ML stat.TH
Robust functional principal components: A projection-pursuit approach
在许多情况下,数据是在一段时间内记录的,并且可以被视为随机过程的实现。在本文中,稳健估计的主成分被认为是适应投影寻踪方法的功能数据设置。我们的方法结合了强大的投影追踪与不同的平滑方法。估计的一致性在温和的假设下。在不同的污染计划下的模拟研究中的经典和强大的程序的性能进行了比较。
2012-03-09 math.ST stat.TH
Projection to Fairness in Statistical Learning
Massachusetts Institute of Technology(麻省理工学院);University Toulouse 3(图卢兹第三大学)
在回归的背景下,我们考虑的基本问题是使估计公平,同时尽可能保持其预测精度。为此,我们将其对公平性的投影定义为反映预测准确性的最接近公平估计量。我们的方法利用最优运输工具来有效地构建任何给定估计量的公平性投影,作为一个简单的后处理步骤。此外,我们的方法精确地量化了公平性的成本,以预测准确性衡量。
2020-06-25 cs.LG math.ST stat.ML
Nonparametric estimation of copulas and copula densities by orthogonal projections
本文研究了Copula函数和Copula密度函数的非参数估计。我们首先集中我们的研究基于联合密度的多项式正交投影的密度copula估计。一个新的copula估计,然后推出。它的渐近性质进行了研究:我们提供了一个大的功能类,这种建设是最佳的极大极小和极大意义上,我们提出了一种方法选择的平滑参数。一个密集的模拟研究表明,Copula和Copula密度估计,我们比较了一个大的面板的竞争对手非常好的性能。精算学中的一个真实数据集说明了这种方法。
2021-12-19 math.ST stat.AP stat.ME
Rates of Estimation of Optimal Transport Maps using Plug-in Estimators via Barycentric Projections
在$\mathbb{R}^d$上的两个概率分布$μ$和$ν$之间的最优输运映射在机器学习和统计学中都有广泛的应用。在实践中,需要根据$μ$和$ν$从采样数据中估计这些图。在计算最优输运领域中,插件估计器在估计运输地图中可能是最流行的。在本文中,我们提供了一个全面的分析,通过重心投影定义的一般插件估计的收敛速度。我们的主要贡献是一个新的稳定性估计的重心投影收益下最小的平滑假设,并可用于分析一般插件估计。我们说明了这种稳定性估计的有用性,首先提供自然的离散离散和半离散估计的收敛速度的最优输运地图。然后,我们使用相同的稳定性估计表明,在Besov型或Sobolev型的额外的平滑假设下,基于小波或核平滑插件估计分别加快收敛速度,并显着减轻自然离散离散/半离散估计所遭受的维数灾难。作为我们分析的副产品,我们还获得了$W_2(μ,ν)$($μ$和$ν$之间的Wasserstein距离)的插件估计器在上述平滑假设下的更快收敛速度,从而补充了Chizat等人(2020)的最新结果。最后,我们说明了我们的研究结果在获得收敛速度的Wasserstein重心之间的两个概率分布和获得渐近检测阈值最近的一些最佳运输为基础的独立性测试的适用性。
2021-07-04 math.PR math.ST stat.ML
Bayes Extended Estimators for Curved Exponential Families
贝叶斯预测密度具有复杂的表示形式,除了在有限的情况下,不属于任何有限维统计模型。在本文中,我们介绍了它的简单的近似表示利用其投影到一个有限维指数族。当模型属于曲线指数族时,它的理论性质与贝叶斯预测密度的理论性质相似。它还表明,投影渐近一致的插件密度与后验均值的期望参数的指数族,我们称之为贝叶斯扩展估计。信息几何对应表明贝叶斯预测密度可以表示为无穷维指数族的后验均值。通过数值模拟证明了该近似的Kullback-Leibler风险性能,并表明随着指数族维数的增加,期望参数的后验均值逼近贝叶斯预测密度。它还表明,近似投影到一个指数家庭的合理规模是实际上有利的风险性能和计算成本。
2020-10-29 math.ST stat.TH
On the differentiability of $ϕ$-projections in the discrete finite case
针对有限空间有限测度情形,本文给出$ϕ$-投影连续可微的条件,在凸集等场景下简化验证,并将结果应用于$ϕ$-投影估计量,推导其稳健统计计算及多场景渐近性质。
2025-04-17 math.ST stat.TH
Optimally weighted average derivative effects
本文提出与WADE同构的新Riesz表示元及最小效率界意义下的最优权重,仅需条件期望估计,并通过实验和华法林剂量效应分析验证。
2024-04-08 math.ST stat.ME stat.TH
Low-Rank Matrix Estimation From Rank-One Projections by Unlifted Convex Optimization
Georgia Institute of Technology(佐治亚理工学院);The Ohio State University(俄亥俄州立大学)
研究了从秩一投影中恢复低秩矩阵的凸估计。使用初始估计的目标$d_1\times d_2$矩阵的秩- $r$的因素,估计承认一个实用的次梯度法操作的空间尺寸$r(d_1+d_2)$。这个属性使得估计显着更具可扩展性比基于提升和半定规划的凸估计。此外,我们提出了一个精简的分析下,真正的高斯测量模型,以及部分去随机化的测量模型,通过使用球形$t$设计的精确恢复。我们表明,在这两个模型的估计成功,具有很高的概率,如果测量的数量超过$r^2 (d_1+d_2)$一些对数因子。这个样本的复杂性改善了现有的非凸迭代算法的结果。
2021-01-10 cs.LG math.ST stat.ML
Spatially Adaptive Density Estimation by Localised Haar Projections
给定一个随机样本,从一些未知的密度$f_0: \mathbb R \to [0, \infty)$,我们设计Haar小波估计$f_0$与可变分辨率水平构建从本地化的测试程序(如在Lepski,Mammen,和Spokoiny(1997年,Ann. Statistist。))。我们表明,这些估计适应空间异质光滑的$f_0$,同时为每个点$x$在一个固定的间隔,在超范数损失。在测试程序中涉及的阈值常数可以选择在实践中理想化的假设下,真密度是局部恒定的估计点$x$的邻域,并给出了这种做法的信息理论的理由。
2012-02-22 math.ST stat.TH
Higher-order Refinements of Small Bandwidth Asymptotics for Density-Weighted Average Derivative Estimators
本文利用Edgeworth展开证明了小带宽渐近近似导出的密度加权平均导数推断程序具有更优的高阶分布性质,优于基于渐近线性近似的程序,为模拟中的有限样本性能提供了理论依据。
2024-02-15 econ.EM math.ST stat.ME
Nonparametric needlet estimation for partial derivatives of a probability density function on the $d$-torus
本文提出基于环面needlet的局部阈值估计方法,用于估计$d$维环面上方向数据密度函数的偏导数,并证明了其在Besov空间上的极小极大最优性。
2023-05-10 math.ST stat.TH
Nonparametric estimation when data on derivatives are available
我们考虑的设置中的数据是一个非参数函数和各种偏导数。这种情况在实践中出现,例如在经济学中成本和投入函数的联合估计中。我们表明,当衍生数据可用时,局部平均值可以在某些维度上被非局部平均值取代,从而降低了问题的非参数维度。我们得到最佳的收敛速度和条件下,实现降维。核估计及其性质进行了分析,虽然其他估计,如局部多项式,样条和非参数最小二乘,也可以使用。模拟和应用的配电成本的估计。
2007-08-03 math.ST stat.TH
Estimation in high-dimensional linear models with deterministic design matrices
由于技术的进步,现代统计研究经常遇到解释变量数量远远大于样本量的线性模型。由于高维回归参数向量的可识别性,在这些具有确定性设计点的高维问题中的估计和变量选择与随机协变量的情况非常不同。我们表明,一个合理的方法是专注于投影的回归参数向量到线性空间产生的设计矩阵。在这项工作中,我们考虑岭回归估计的投影向量,并建议阈值岭回归估计的投影向量是稀疏的意义上说,它的许多组件是小的。该估计量具有显式形式,便于应用。在投影向量的稀疏性条件下,建立了变量选择和估计的一致性以及预测均方误差的收敛速度等渐近性质。仿真研究也进行了检查所提出的估计器的性能。
2012-06-05 math.ST stat.TH
Concentration Inequalities and Confidence Bands for Needlet Density Estimators on Compact Homogeneous Manifolds
令$X_1,...,X_n$是定义在维数为$d \ge 1$的紧致齐次流形$\mathbf M$上的某个未知概率密度$f$的随机样本。考虑一个“针状框架”$\{ϕ_{j η}\}$,它描述了拉普拉斯算子在$\mathbf M$上的本征函数空间上的局部投影,相应的本征值小于$2^{2j}$,如在\cite{GP10}中构造的。我们证明了非渐近集中不等式的一致偏差的线性针状密度估计$f_n(j)$从经验估计的针状投影$\sum_ηϕ_{j η} \int f ϕ_{j η}$的$f$。我们应用这些结果来构建风险自适应估计和非渐近置信带的未知密度$f$。置信带是自适应类的可微和H“{老}-连续函数的$\mathbf M$,达到其Hölder指数。
2011-02-11 math.ST stat.TH
Optimal estimators of cross-partial derivatives and surrogates of functions
该研究提出一种基于随机点与约束的函数交叉偏导代理模型,实现最优收敛速率且无维数灾难,可用于灵敏度指数计算与模拟器构建,数值验证显示其稳定性良好。
2024-07-05 math.OC math.PR math.ST
Adaptive Density Estimation Using Projection Kernels and Penalized Comparison to Overfitting
Faculty of Mathematics and Computer Science, Vietnam National University - Ho Chi Minh City(越南国家大学胡志明市分校数学与计算机科学学院)
本文利用投影核构造小波密度估计器,通过过拟合惩罚比较方法实现分辨率水平的数据驱动选择,并证明其达到最优收敛速率。
2026-10-01 math.ST stat.TH
Asymptotic Behavior of Principal Component Projections for Multivariate Extremes
本文研究多元极值中基于主成分分析(PCA)的投影估计量的渐近行为,证明其超额风险在温和条件下下降速度远快于经验风险界,并提出数据驱动的投影维度选择方法,模拟验证了有限样本性能。
2025-03-28 math.ST stat.ME stat.TH
Jackknife Variance Estimation for Hájek-Dominated Generalized U-Statistics
University of Wisconsin -- Madison(威斯康星大学麦迪逊分校)
针对一类广义U统计量,证明Jackknife方差估计量的比率相合性,并应用于两尺度分布最近邻回归估计器,在更弱条件下得到一致方差估计。
2026-06-15 math.ST stat.ML stat.TH
Smooth Backfitting for Additive Hazard Rates
本文将光滑反向拟合拓展至加性结构风险的生存模型,支持删失与截断场景,其估计量为多元风险函数空间的投影,还给出了渐近理论与效果良好的实现方法。
2025-08-01 math.ST stat.TH
Matrix quadratic risk of orthogonally invariant estimators for a normal mean matrix
本文推导了正态均值矩阵在矩阵二次损失下正交不变估计量的矩阵二次风险一般公式,并基于矩阵导数公式计算了 Stein 提出的奇异值收缩估计量的风险。
2023-08-04 math.ST stat.TH
Minimax Optimal Estimators for Additive Scalar Functionals of Discrete Distributions
本文考虑$ϕ$的一个可加泛函的估计,定义为$θ(P;ϕ)=\sum_{i=1}^kϕ(p_i)$,由$n$ i.i.d.从离散分布$P=(p_1,...,p_k)$中抽取的随机样本,字母大小为$k$。对于可加泛函的估计问题,我们提出了一个极大极小最优估计。我们发现,极小极大最优率的特点是四阶导数的$ϕ$的发散速度,如果发散速度高。结果表明,如果$ϕ$的四阶导数的发散速度大于$p^{-4}$,则不存在相容估计。此外,如果$ϕ$的四阶导数的发散速度是$p^{4-α}$ for $α\in (0,1)$,则在通用乘法常数$\frac{k^2}{(n\ln n)^{2α}} + \frac{k^{2-2α}}{n}$内获得极小极大最优速率。
2017-12-07 cs.IT math.IT math.ST
Nonparametric estimation of the derivative of the regression function: application to sea shores water quality
本文研究了非参数回归模型中回归函数导数的非参数估计。我们实现了一个非常有效和易于处理的统计过程的基础上的衍生物的递归Nadaraya-Watson估计。我们建立了估计的几乎必然收敛性和渐近正态性。我们还说明了我们的非参数估计程序与海岸水质和瓣膜的模拟和现实生活中的数据。
2016-06-20 math.ST stat.TH
A Plasmode Benchmark Can Refute but Cannot Certify: Projection and Regularity in Causal-Inference Simulation
School of Population and Public Health, University of British Columbia(不列颠哥伦比亚大学公共卫生与人口健康学院);Centre for Advancing Health Outcomes, St. Paul’s Hospital(圣保罗医院健康成果促进中心)
本文论证plasmode模拟基准只能反驳不能证明因果推断估计量的普遍主张,通过区分正则性与投影两个设计选择,揭示其局限性并给出实用建议。
2026-09-23 math.ST stat.ME stat.TH
Unbiased Derivative Estimation for Stationary Mean of Parameterized Markov chains
提出一种针对参数化马尔可夫链平稳均值梯度的无偏估计方法,在慢混合率下高效,无需密度函数先验知识,适用于神经网络参数化。
2026-06-11 math.PR math.ST stat.ML
Equivalence of Convergence Rates of Posterior Distributions and Bayes Estimators for Functions and Nonparametric Functionals
研究了非参数回归中具有高斯过程先验的贝叶斯方法的后验收缩率及其对微分算子的插入性。对于一般类的内核,我们建立收敛速度的后验测量的回归函数及其衍生物,这都是最小最大优化的对数因子的功能在某些类。计算结果表明,回归函数及其导数的率优估计具有相同的超参数选择,表明贝叶斯方法对导数阶数有很强的适应性,并具有将实值泛函推广到函数值泛函的广义插入性质.这导致了一个实际上简单的方法来估计的回归函数及其衍生物,其有限样本的性能进行评估,使用模拟。证明了在一定条件下,Bayes估计的任何收敛速度都对应于后验分布的相同收敛速度(即,后收缩率),反之亦然。这种等价性适用于一般的高斯过程,并涵盖了$L_2$和$L_{\infty}$规范下的回归函数及其导数泛函。除了连接这两个基本的大样本性质在贝叶斯和非贝叶斯制度,这样的等价性,使一个新的例程,建立后验收缩率计算收敛速度的非参数点估计。在我们的论点的核心是一个运营商的理论框架内核岭回归和等价的内核技术。我们推导出一系列尖锐的非渐近界,在建立非参数点估计的收敛速度和等价理论,这可能是独立的兴趣是关键。
2020-11-27 math.ST stat.ME stat.ML
Correcting an estimator of a multivariate monotone function with isotonic regression
在许多问题中,一个可能的多元单调函数的合理估计量本身可能不是单调的。我们研究了这样一个估计的修正,通过在有限网格上的域上的单调函数的空间上的投影获得。我们证明,这个校正估计有没有更坏的最大估计误差比初始估计,和类似的校正置信带包含真正的功能时,初始带没有损失的平均或最大带宽。此外,我们证明了校正估计是一致渐近等价于初始估计,提供的初始估计满足随机等度连续条件,真函数是Lipschitz和严格单调的。我们提供了简单的充分条件,我们的随机等度连续性条件的重要特殊情况下,初始估计是一致渐近线性的,并说明使用这些结果估计的G-计算分布函数。我们的随机等度连续性条件是弱于标准的均匀随机等度连续性,这已被要求替代的校正程序。至关重要的是,这使我们能够将我们的结果应用到二元校正的局部线性估计的条件分布函数已知是单调的条件参数。我们的实验表明,投影步骤可以产生显着的实际改进性能的估计和置信带。
2019-09-05 math.ST stat.ME stat.TH
Large-Sample Properties of Blind Estimation of the Linear Discriminant Using Projection Pursuit
本文从渐近角度研究不使用类别标签的投影寻踪线性判别盲估计,针对偏度、峰度及其凸组合三种投影指标推导中心极限定理,证明其极限协方差矩阵与LDA成比例,并揭示在组间充分分离且规模平衡时投影寻踪可达到与LDA相同的效率。
2021-03-08 math.ST stat.ME stat.TH
Doubly Robust Inference on Causal Derivative Effects for Continuous Treatments
针对连续处理,研究存在和不存在positivity条件下剂量反应曲线导数的非参数推断,提出双重稳健估计量,解决传统方法不足,通过模拟和案例验证其适用性与效率。
2025-04-18 econ.EM math.ST stat.ME
Model-free filtering in high dimensions via projection and score-based diffusions
本文提出一种无模型高维滤波方法,通过分数匹配扩散模型估计贝叶斯后验,并证明其在高维极限下集中于度量投影,用于从含噪观测中恢复低维流形上的信号。
2025-10-27 math.ST stat.ML stat.TH
Network tomography based on 1-D projections
网络断层扫描被认为是大规模和分散的互联网的性能评估和诊断的最有前途的方法之一。基于观测数据一维线性投影序列的边缘分布,提出了一种新的估计方法,用于求解网络层析成像中的一类反问题。我们给出了一个一般的识别结果所提出的方法和研究的设计问题,这些一维投影的统计效率。我们表明,对于一个简单的高斯层析成像模型,有一个最佳的一维投影,从这些投影得到的估计是渐近有效的极大似然估计的基础上的观测数据的联合分布。对于实际应用,我们针对两个网络层析成像实例对所提出的方法进行了仿真研究。第一种是使用高斯源-目的地流量模型,其均值和方差之间具有幂关系的流量需求断层扫描,第二种是用于网络延迟断层扫描,其中链路延迟是从端到端路径延迟估计的。我们比较从我们的方法和从使用联合分布和其他低维投影得到的估计,并表明,在这两种情况下,所提出的方法产生令人满意的结果。
2007-08-08 math.ST stat.AP stat.ME
Variable bandwidth kernel regression estimation
在本文中,我们提出了一个可变带宽核回归估计$i.i.d.$观测$\mathbb{R}^2$,以改善经典的Nadaraya-Watson估计。在密度函数的五阶导数和回归函数的六阶导数有界且连续的条件下,将偏差提高到$O(h_n^4)$阶.我们还建立了理想和真实变量核回归估计的中心极限定理。仿真研究证实了我们的结果,并证明了变带宽核方法比经典核方法的优势。
2021-01-12 math.ST stat.ME stat.TH