Asymptotically efficient estimators for nonparametric heteroscedastic regression models
本文研究了带高斯噪声和未知分布噪声的非参数异方差模型中在给定点处的回归函数的估计。在这两种情况下，一个渐近有效的核估计构造的极小极大绝对误差风险。
2007-11-29 math.ST stat.TH
On convex regression estimators
提出了任意维凸回归函数的一种新的非参数估计，并研究了它的收敛性。我们开始使用任何估计的回归函数和我们\emph{convexify}它通过采取凸包络的一个样本的近似获得。我们证明了一致的收敛速率的估计是保持后凸化。通过模拟研究新估计量的有限样本性质，并在实例中演示了新方法的应用。
2010-06-14 math.ST stat.TH
Confidence intervals in regression centred on the SCAD estimator
考虑一个线性回归模型。Fan和Li（2001）描述了回归参数向量的平滑裁剪绝对偏差（SCAD）点估计。为了深入了解这个估计器的属性，他们考虑了一个正交设计矩阵，并专注于这个向量的指定分量的估计。他们表明，SCAD点估计有三个有吸引力的性质。我们回答这个问题：在多大程度上可以区间估计，集中在SCAD估计，有类似的吸引力的属性？
2012-05-30 math.ST stat.TH
An extended class of minimax generalized Bayes estimators of regression coefficients
在不变二次损失下，得到了尺度未知时具有球对称误差的一般线性模型中回归系数的Minimax广义Bayes估计。这类估计量推广了Maruyama和Strawderman（2005）中考虑的估计量，以包括非单调收缩函数。
2008-03-09 math.ST stat.TH
Asymptotic properties of one-step $M$-estimators based on nonidentically distributed observations with applications to nonlinear regression problems
我们研究的渐近行为的一步$M$ -估计的基础上，从不一定同分布的随机变量阵列的样本，并表示显式逼近相应的一致$M$ -估计。这些估计推广Fisher的一步近似一致的最大似然估计。因此，我们考虑一些非线性回归问题，其中所提到的程序允许我们构造显式渐近最优估计。我们还考虑了一步估计程序所需的初始估计量的构造问题。
2016-04-11 math.ST stat.TH
Robust and sparse estimators for linear regression models
惩罚回归估计是分析稀疏和高维数据集的常用工具。然而，使用无界损失函数定义的惩罚回归估计量可能对离群观测值的存在非常敏感，特别是高杠杆离群值。此外，在高维数据集中检测离群值可能特别具有挑战性。因此，稀疏和高维线性回归模型的鲁棒估计是必要的。在本文中，我们研究了MM桥和自适应MM桥估计：$\ell_q$ -惩罚的MM-估计的回归和MM-估计与自适应$\ell_t$惩罚的鲁棒性和渐近性质。对于协变量个数固定的情况，我们得到了所有$q>0$的MM-Bridge估计量的渐近分布。证明了对于$q<1$，MM-Bridge估计量具有Fan和Li（2001）中定义的预言性质.我们证明了对于所有的$t\leq 1$自适应MM-Bridge估计器都可以具有预言性质。我们提出的估计的优点是通过广泛的模拟研究和一个真正的高维数据集的分析证明。
2015-10-16 math.ST stat.TH
More on the restricted almost unbiased Liu-estimator in Logistic regression
为了解决逻辑斯谛回归模型中的多重共线性问题，当先验信息以随机线性约束的形式存在时，本文提出了一种新的估计量--随机约束几乎无偏逻辑斯刘估计量（SRAULLE）.蒙特卡罗模拟研究进行了比较的性能，建议的估计与一些现有的估计在标量均方误差（SMSE）的意义。最后，通过一个实际数据的例子来评价估计器的性能。
2017-11-28 math.ST stat.TH
On the restricted almost unbiased Liu estimator in the Logistic regression model
当逻辑斯谛回归模型中存在多重共线性时，极大似然估计的方差是不稳定的。作为补救措施，在有偏收缩岭估计的背景下，Chang（2015）在逻辑斯谛回归模型中引入了几乎无偏的Liu估计。利用他的方法，当一些先验知识的线性限制的形式也是可用的，我们引入了一个限制几乎无偏刘估计的逻辑斯谛回归模型。给出了新定义的估计量的统计性质，并以定理的形式给出了一些比较结果。一个真实的数据例子的Monte Carlo模拟研究，以调查这种估计的性能。
2017-07-22 math.ST stat.TH
Asymptotic properties of one-step weighted $M$-estimators and applications to some regression problems
我们研究的渐近行为的一步加权$M$ -估计的基础上，从不一定同分布的随机变量阵列的样本，并表示显式逼近相应的一致加权$M$ -估计。给出了一步加权$M$ -估计量渐近正态性的充分条件。因此，我们考虑了一些著名的非线性回归模型，其中所提到的程序允许我们构造显式渐近最优估计。
2015-07-04 math.ST stat.TH
Large and moderate deviations principles for kernel estimators of the multivariate regression
本文证明了多维情况下回归的Nadaraya-Watson估计量和半递归核估计量的大偏差原理。在适当的条件下，我们证明了该速率函数是一个好的速率函数。因此，我们推广的结果已经在一维情况下的Nadaraya-Watson估计。此外，我们还给出了这两个估计量的中偏差原理。结果表明，半递归估计的中偏差原理得到的率函数大于Nadaraya-Watson估计的率函数。
2007-03-12 math.ST stat.TH
Preliminary testing derivatives of a linear unified estimator in the logistic regression model
近年来，著名的Liu估计（Liu，1993）在病态线性模型的回归参数估计中引起了研究者的注意。对参数施加子空间假设约束，可以通过缩小非样本信息来改善估计。Chang（2015）在二元逻辑斯谛回归中提出了几乎无偏Liu估计（AULE）。本文在Chang（2015）工作的基础上，提出了二元逻辑斯谛回归模型中回归参数的几种改进的无偏Liu型估计，即限制AULE、初步检验AULE、Stein型收缩AULE及其正部估计。新定义的估计的性能进行了分析，通过一些数值结果。一个真实的数据例子也提供了支持的研究结果。
2017-08-29 math.ST stat.TH
On Asymptotic Normality of the Local Polynomial Regression Estimator with Stochastic Bandwidths
非参数密度和回归估计通常依赖于带宽。这些估计的渐近性质已被广泛研究时，带宽是非随机的。然而，在实践中，为了提高有限样本的性能，这些估计，带宽选择的数据驱动的方法，如交叉验证或插件程序。因此，非参数估计量通常使用随机带宽构造。本文建立了随机和非随机带宽下局部多项式回归估计的概率渐近等价性。我们的结果扩展了Boente和Fraiman（1995）和Ziegler（2004）的工作。
2014-08-29 math.ST stat.TH
Minimax lower bound for kink location estimators in a nonparametric regression model with long-range dependence
本文给出了分数阶白噪声模型中回归函数一阶导数变点估计在Minimax意义下的一个下界。类似的极小极大结果在该领域以前提出的重点在白噪声模型中的回归函数的导数的变化点，或考虑在相关误差的存在下的回归函数的估计。
2011-07-29 math.ST stat.TH
Asymptotics for penalized spline estimators in quantile regression
分位数回归预测$τ$ -给定$τ\in(0,1)$解释变量的响应变量条件分布的分位数。本文的目的是建立罚样条方法所得到的分位数估计量的渐近分布。模拟和实际数据的探索进行验证我们的结果。
2012-09-06 math.ST stat.TH
On the joint asymptotic distribution of the restricted estimators in multivariate regression model
Jain等人的主要定理[Jain，K.，辛格，S.，和Sharma，S.（2011），Restricted estimation in multivariate measurement error regression model; JMVA，102，2，264-280]的方法建立在其完全的一般性上。也就是说，我们得到了回归系数矩阵的无约束估计和约束估计的联合渐近正态性。推导出的结果保持在假设的限制以及替代的限制序列。此外，我们建立了估计量的渐近分布风险，并比较了它们的相对性能。它是建立在附近的限制，限制估计（RE）比UE表现更好。但是当远离约束时，RE的性能比无约束估计差。
2017-06-20 math.ST stat.TH
Uniform strong consistency of a frontier estimator using kernel regression on high order moments
本文考虑Girard，S.，Guillou，A.，Stupfler，G.（2012年）。{ \it高阶矩核回归前沿估计}。本文证明了当条件累积分布函数属于Hall类分布函数时，该估计在紧集上是强一致相合的，并给出了其收敛速率.
2013-07-16 math.ST stat.TH
Regression estimators for the tail index
对上尾为正则变化的分布函数，提出了一类尾指标的加权最小二乘估计。我们的方法是基于由\cite{Holan2010}开发的方法的Parzen尾指数。证明了估计量的渐近正态性。通过模拟研究，这些和以前的估计进行了比较，在Pareto和霍尔模型使用的均方误差为标准。结果表明，加权最小二乘估计优于其他估计。
2020-02-28 math.ST stat.TH
Rates of strong uniform consistency for the $k$-nearest neighbors kernel estimators of density and regression function
本文探讨了多元情形下密度与回归函数的 $k$-最近邻核估计量的一致性问题，并在特定假设下推导出这些估计量在整个空间 $\mathbb{R}^p$ 上的强一致一致性的收敛速率。
2024-08-22 math.ST stat.TH
The consistency of estimator under fixed design regression model with NQD errors
本文基于NQD样本，研究了固定设计非参数回归模型，其中误差为两两NQD随机误差，设计点固定，函数未知。引入非参数加权估计并研究其相合性。作为特例，得到了模型加权核估计的相合性结果。这将以前关于独立随机误差和相关随机误差的工作推广到NQD情形。
2013-12-03 math.ST stat.TH
Correcting the estimator for the mean vectors in a multivariate errors-in-variables regression model
当多元回归中的因变量和自变量都存在测量误差时，多元变量误差回归模型适用。在这种情况下，长期以来一直认为，传统的最小二乘法估计模型参数是有偏差的和不一致的。广义最小二乘、普通最小二乘和最大似然估计（在高斯误差假设下）在Gleser（1981）的开创性论文中导出。然而，均值向量的普通最小二乘和最大似然估计量推导错误。在这篇简短的论文中，我们修改了这个错误，提出了正确的估计的均值向量。
2015-10-13 math.ST stat.TH
Robust Estimators in Partly Linear Regression Models on Riemannian Manifolds
在部分线性模型下，当预测变量取值于黎曼流形上时，研究了回归参数和回归函数的一类稳健估计。我们得到了估计量的相合性和渐近正态性。此外，我们考虑了一个强大的交叉验证过程来选择平滑参数。仿真和实际数据的应用表明，我们的建议下的小样本和污染的性能。
2011-05-25 math.ST stat.TH
The naïve estimator of a Poisson regression model with measurement errors
我们推广了Kukush等人[1]中讨论的具有测量误差的Poisson回归模型的朴素估计。解释变量并不总是像他们假设的那样正态分布。在本研究中，我们假设解释变量和测量误差不限于正态分布。我们澄清了朴素估计存在的条件，并推导出其渐近偏差和渐近均方误差（MSE）。此外，我们提出了一个一致的估计的真实参数，通过纠正的偏差的朴素估计。作为说明性的例子，我们提出了模拟研究，比较性能的天真估计和新的估计伽玛解释变量与正态误差或伽玛误差。
2022-05-11 math.ST stat.TH
Generalized Method of Moments Estimator Based On Semiparametric Quantile Regression Imputation
在这篇文章中，我们考虑一种插补方法来处理基于半参数分位数回归估计的缺失响应值。在所提出的方法中，缺失的响应值生成使用估计的条件分位数回归函数在给定的协变量值。我们采用广义矩量法估计的参数定义通过一个一般的估计方程。我们证明了所提出的估计，它结合了半参数分位数回归插补和广义矩方法，具有竞争优势，对一些最广泛使用的参数和非参数插补估计。证明了估计量的相合性和渐近正态性，并给出了方差估计。有限的模拟研究和实证研究的结果，显示所提出的方法的充分性。
2014-04-11 math.ST stat.TH
Uniform limit laws of the logarithm for estimators of the additive regression function in the presence of right censored data
最近的研究表明，在右删失情形下，通过将边际积分方法与多元回归函数的初始核型逆删失概率加权估计\citeDebbarhViallon耦合，可以得到加性回归函数的非参数估计3。本文给出了这类估计的强一致相合的精确速度。我们的统一限制法律，特别是导致建设的渐近同步100%的置信带的真正回归函数。
2008-06-26 math.ST stat.TH
Asymptotic distribution of estimators in reduced rank regression settings when the regressors are integrated
本文在系数矩阵的子矩阵具有秩限制且回归变量可以包含平稳过程或I（1）过程的一般回归情形下，导出了估计量的渐近分布。例如，在因子模型中发生这样的设置。收敛速度的推导和渐近分布给出最小二乘估计以及完全修改的估计。的收益施加的秩限制进行了调查。一些特殊的情况下进行了讨论，包括协整VAR（p）过程的情况下的Johansen结果。
2012-11-07 math.ST stat.TH
Revisiting Révész's stochastic approximation method for the estimation of a regression function
Révész（1973）在一项开创性的工作中引入了随机逼近方法来建立回归函数$x\mapsto E(Y|X=x)$的递归核估计。然而，根据Révész（1977），他的估计量有两个主要缺点：一方面，它的收敛速度小于非递归Nadaraya-Watson核回归估计量，另一方面，对随机变量$X$密度的假设比回归估计框架中通常需要的假设更强。我们首先回到对Révész估计量的收敛速度的研究。证明中的一种方法与Révész（1977）中使用的方法完全不同，这使我们能够证明Révész的递归估计量可以达到与Nadaraya-Watson估计量相同的最优收敛速度，但是对$X$的密度所需的假设仍然比通常的假设更强，这是Révész估计量的定义所固有的。为了克服这个缺点，我们引入随机逼近算法的平均原理，构造了平均Révész回归估计，并给出了它的渐近性质.我们对$X$密度的假设通常在回归估计的框架中。我们证明了平均Révész回归估计可以达到与Nadaraya-Watson估计相同的最优收敛速度。此外，我们表明，根据置信区间的估计的观点，它是更好地使用平均Révész的估计，而不是Nadaraya-Watson的估计。
2008-12-20 math.ST stat.TH
Sharp oracle inequalities for Least Squares estimators in shape restricted regression
研究了保序、单峰和凸回归中最小二乘（LS）估计的性能。我们的结果有尖锐的预言不等式的形式，占模型的误指定错误。在保序和单峰回归中，LS估计量实现非参数率$n^{-2/3}$以及阶数为$k/n$的参数率，直到对数因子，其中$k$是真实参数的常数段的数量。在单变量凸回归中，LS估计量满足阶数为$q/n$直到对数因子的自适应风险界，其中$q$是真实回归函数的仿射片段的数量。这种自适应风险界限适用于任何设计点。虽然Guntuboyina和Sen（2013）确定了凸回归的非参数速率对于等间距设计点为$n^{-4/5}$阶，但我们证明了凸回归的非参数速率对于某些最差情况设计点可能与$n^{-2/3}$一样慢。这种现象可以解释如下：虽然凸性比单峰性带来更多的结构，但对于某些最差情况的设计点，这种额外的结构是没有信息的，单峰回归和凸回归的非参数率都是$n^{-2/3}$。
2016-08-08 math.ST stat.TH
On a Projection Estimator of the Regression Function Derivative
本文研究单变量回归模型中回归函数导数的估计，提出两种估计构造方式，推导不同假设下的风险界与最优收敛速率，并给出模型选择程序及对应风险界。
2023-06-10 math.ST stat.TH
Infill asymptotics for logistic regression estimators for spatio-temporal point processes
本文讨论强度函数为对数线性型的时空点过程的逻辑斯谛回归估计的填充渐近性。我们建立了Poisson点过程模型参数的强相合性和渐近正态性，并证明了这些结果如何推广到一般的点过程模型.此外，在适当的条件下，我们还将我们的中心极限定理推广到其他基于Campbell-Mecke定理的无偏估计方程。
2022-08-25 math.ST stat.TH
Optimal bandwidth selection for semi-recursive kernel regression estimators
本文提出了一种由随机逼近算法定义的回归函数半递归核估计带宽的自动选择方法。我们表明，使用选定的带宽和一些特殊的步长，建议的半递归估计将是非常有竞争力的非递归的估计误差，但更好的计算成本。我们通过模拟研究和真实数据集证实了这些理论结果。
2016-07-04 math.ST stat.TH
A Stable Jacobi polynomials based least squares regression estimator associated with an ANOVA decomposition model
在这项工作中，我们构造了一个稳定的和相当快的估计解决非参数多维回归问题。所提出的估计是基于使用多变量雅可比多项式，生成一个基础的$d-$变量有限维多项式空间的大小减少。ANOVA分解技巧已用于构建后面的多项式空间。利用正定随机矩阵理论中的一些结果，证明了在独立同分布满足条件下，所提出的估计量是稳定的。对于不同协变量的随机抽样点的回归问题，遵循$d-$维β分布。此外，我们还为读者提供了估计量的$L^2-$风险误差估计。在回归函数属于某个加权索伯列夫空间的条件下，给出了逼近质量的更精确估计.最后，通过数值模拟验证了本文的理论分析结果。
2022-08-04 math.ST stat.TH
Toward optimal model averaging in regression models with time series errors
考虑一个具有无穷多个参数和时间序列误差的回归模型。我们感兴趣的是选择加权平均广义最小二乘（GLS）估计从一组近似模型。然而，GLS估计，依赖于未知的逆协方差阵的误差，通常是不可行的。因此，我们构造可行的广义最小二乘（FGLS）估计使用的未知逆矩阵的一致估计。基于此逆协方差阵估计和FGLS估计，我们发展了一个可行的自协方差校正的Malows模型平均准则来选择权重，从而提供了真实回归函数的FGLS模型平均估计。证明了当权向量属于一个连续集时，我们的平均估计的广义平方误差损失渐近等价于GLS模型平均估计的最小广义平方误差损失，该连续集包括Hansen（2007）中使用的离散权向量集作为其真子集.
2015-03-22 math.ST stat.TH
Nonparametric Least Squares Estimation of a Multivariate Convex Regression Function
本文讨论了预测变量为多维时凸回归函数的最小二乘估计的相合性。我们的特点和讨论这样的估计通过某些二次和线性规划的解决方案的计算。温和的充分条件的一致性，这个估计和它的次微分在固定和随机设计回归设置。我们还考虑了一个回归函数，这是已知的凸和分量非增，并讨论其最小二乘估计的特征，计算和一致性。
2012-02-28 math.ST stat.TH
Generalized ridge estimator and model selection criterion in multivariate linear regression
在多元线性回归中，基于广义岭估计在平方风险和Kullback-Leibler风险下优于极大似然估计，提出了新的模型选择准则.我们的模型选择标准有以下最喜欢的属性：一致性，无偏性，一致最小方差。在渐近结构$\frac{p}{n}\to c$下证明了一致性，其中$n$是样本量，$p$是响应变量的参数维数。特别是，我们提出的估计类占主导地位的平方风险下的最大似然估计，即使模型不包括真正的模型。实验结果表明，我们的模型选择标准的风险是小于的最大似然估计的基础上，我们提出的标准指定的真实模型在一定条件下。
2016-04-07 math.ST stat.TH
Random matrices based schemes for stable and robust nonparametric and functional regression estimators
在第一部分的工作中，我们开发了一个新的计划解决非参数回归问题。这是根据在某些随机点处给出的函数的近似值的知识，对可能较低的正则函数和噪声函数的近似。该方案基于随机投影矩阵的伪逆，结合了雅可比多项式系统的一些特殊性质以及正定随机矩阵的一些性质.该方案具有稳定、鲁棒、准确和执行速度快的优点。特别是，我们提供了一个$L_2$以及我们提出的非参数回归估计的$L_2-$风险误差。此外，与大多数现有的非参数回归估计，不需要额外的正则化步骤，我们提出的估计。虽然，这个估计器最初被设计用于单变量i.i.d.的随机抽样集。随机变量服从β分布，我们证明了它仍然适用于广泛的抽样分布规律。此外，我们简要描述了我们的估计可以适应，以处理随机抽样集的多变量情况。在第二部分中，我们扩展了随机伪逆格式技术，建立了一个稳定和准确的估计解决线性泛函回归（LFR）问题。一个二进分割的方法是用来构造这个最后的稳定估计的LFR问题。此外，我们给出了我们提出的LFR估计的$L_2-$风险误差。最后，通过各种数值模拟说明了这两种估计器的性能。特别是，一个真实的数据集被用来说明我们的非参数回归估计的性能。
2021-10-26 math.ST stat.TH
A quantile regression estimator for censored data
本文提出了一种基于无偏估计方程的删失分位数回归估计。在通常的条件独立假设下，生存时间和截尾时间给定的协变量，我们证明了所提出的估计是一致的和渐近正态的。我们开发了一个有效的计算算法，使用现有的分位数回归代码。结果，可以有效地实现引导型推理。我们说明了所提出的方法的有限样本性能的模拟研究和生存数据集的分析。
2013-02-01 math.ST stat.TH
Asymptotic behaviour of penalized robust estimators in logistic regression when dimension increases
本文研究了维数随样本量趋向无穷大时逻辑回归中带惩罚 $M-$估计量的渐近行为，证明了其相合性、收敛速度、变量选择相合性及渐近分布。
2023-08-04 math.ST stat.TH
Semiparametric Penalized Spline Regression
本文利用参数方法和非参数惩罚样条方法的混合技巧，提出了一种新的半参数回归估计。真实回归函数的整体形状由参数部分捕获，而其残差由非参数部分一致地估计。建立了半参数估计的渐近理论，证明了半参数估计的渐近性依赖于非参数惩罚样条估计的渐近性以及真实回归函数与参数部分之间的差异.作为渐近性的自然关联应用，讨论了参数模型选择的一些准则。数值实验表明，所提出的估计比现有的基于核的半参数估计和完全非参数估计性能更好，所提出的准则对于选择合理的参数模型也是有效的.
2012-02-16 math.ST stat.TH
On Degrees of Freedom of Projection Estimators with Applications to Multivariate Nonparametric Regression
本文考虑了具有多元预测变量的非参数回归问题。我们提供了未知的回归函数，这是线性约束的二次优化程序，即最小二乘准则与线性约束和/或二次处罚的输出的估计的自由度和发散的表征。作为我们结果的特殊情况，我们导出了许多非参数回归问题中自由度的显式表达式，例如，有界保序回归、多元（惩罚）凸回归和加性全变差正则化。我们的理论还产生，作为特殊情况下，已知的结果的自由度的许多研究的估计在统计文献中，如岭回归，套索和广义套索。我们的结果可以很容易地用来选择调谐参数（S）参与的估计过程中，通过最小化Stein的无偏风险估计。作为我们的分析的副产品，我们得到了一个有趣的连接之间的有界保序回归和保序回归一般偏序集，这是独立的兴趣。
2018-10-06 math.ST stat.TH
Some Unified Results on Isotonic Regression Estimators of Order Restricted Parameters of a General Bivariate Location/Scale Model
考虑了一般二元分布在平方误差损失函数下的位置/尺度参数$θ_1$和$θ_2$（$θ_1\leq θ_2$）的分量估计.为了找到对$θ_1$和$θ_2$的最佳位置/尺度等变估计（BLEE/BSEE）的改进，我们研究了具有一般权重的$θ_1$和$θ_2$的合适位置/尺度等变估计（LEE/SEE）的保序回归.令$\mathcal{D}_{1,ν}$和$\mathcal{D}_{2,β}$分别表示$θ_1$和$θ_2$的保序回归估计量的适当类。在平方误差损失函数下，我们刻画了类$\mathcal{D}_{1,ν}$和$\mathcal{D}_{2,β}$内的可容许估计，并确定了主导$θ_1$和$θ_2$的BLEE/BSEE的估计。我们的研究统一和扩展了文献中报道的几项研究，具体的概率分布具有独立的边缘。此外，还得到了一些新的有趣的结果。模拟研究也被认为是比较各种估计的风险表现。
2022-07-02 math.ST stat.TH
Robust estimators in a generalized partly linear regression model under monotony constraints
本文考虑观测服从保序广义部分线性模型的情形。在该模型下，响应的平均值通过链接函数建模，线性地在一些协变量上，非参数地在单变量回归量上，以这样的方式，非参数分量被假定为单调函数。定义了单调非参数分量和回归参数的一类与线性分量相关的稳健估计。鲁棒估计是基于样条的方法结合得分函数的界限大值的偏差。作为应用，我们考虑保序部分线性log-Gamma回归模型.通过Monte Carlo研究，我们研究了所提出的估计的性能下的部分线性log-Gamma回归模型的非参数分量增加。
2018-11-29 math.ST stat.TH
Penalized regression adjusted causal effect estimates in high dimensional randomized experiments
在随机试验中，当存在多个预试验协变量时，回归调整常被研究者用来提高因果效应的估计效率。在本文中，我们提供了条件，保证惩罚回归，包括岭，弹性网络和自适应Lasso调整的因果效应估计是渐近正态的，我们证明了它们的渐近方差不大于的简单差分均值估计，只要惩罚估计是风险一致的。我们还提供了保守估计的渐近方差，可用于构建渐近保守的置信区间的平均因果效应（ACE）。我们的结果是在随机试验的Neyman-Rubin潜在结果模型下得到的。仿真研究表明，惩罚回归调整ACE估计优于均值差估计。
2018-09-24 math.ST stat.TH
On the Asymptotic Optimality of Cross-Validation based Hyper-parameter Estimators for Regularized Least Squares Regression Problems
渐近最优性（a.o.）文献中研究了正则化最小二乘回归问题中各种超参数估计的最优性准则。估计器包括例如，最大（边际）似然方法、$C_p$统计和广义交叉验证方法，以及最优性准则基于例如，无效率、期望无效率和风险。本文考虑了参数个数固定的正则化最小二乘回归问题，基于风险选择了最优性准则，并研究了最优性准则的a. o。对几种基于交叉验证（CV）的超参数估计方法，包括留$k$ -out CV方法、广义CV方法、$r$ -fold CV方法和hold out CV方法进行了研究。我们发现前三种方法都是可行的。在温和的假设下，但不是最后一个，我们使用蒙特卡罗模拟来说明我们的研究结果的有效性。
2021-04-27 math.ST stat.TH
Nonparametric Regression in Nonstandard Spaces
非参数回归设置被认为具有实值协变量和来自度量空间的响应。可以通过Fréchet回归来接近该设置，其中通过从估计的目标函数计算的Fréchet平均值来估计每个点处的回归函数的值。第二种方法是测地线回归，它建立在通过最小二乘法将测地线拟合到观测值的基础上。这些方法被应用于将统计学中最重要的两个非参数回归估计转换到度量设置--局部线性回归估计和正交级数投影估计。由此产生的程序包括已知的估计以及新的方法。我们调查他们的收敛速度在一般设置和比较他们的表现在模拟研究领域。
2022-05-14 math.ST stat.TH
Asymptotic Normality of an M-estimator of regression function for truncated-censored data under alpha-mixing condition
本文针对左截断右删失模型，在α混合相依观测下建立了回归函数M估计量的弱相合性与渐近正态性，并推广至核回归估计，同时给出乘积限估计量的均匀收敛速度，模拟验证了有限样本表现。
2023-05-07 math.ST stat.TH
An Asymptotic Result of Conditional Logistic Regression Estimator
在集群特定的研究，普通逻辑斯谛回归和条件逻辑斯谛回归的二元结果提供最大似然估计（MLE）和条件最大似然估计（CMLE），分别。在本文中，我们表明，CMLE渐近接近MLE时，每个单独的数据点被复制无限次。我们的理论推导是基于这样的观察，即出现在条件平均对数似然函数中的项是多项式的系数，因此可以通过柯西微分公式转化为复积分。复积分的渐近分析，然后可以使用经典的最速下降法最速下降法。我们的结果意味着，CMLE可以是有偏见的，如果个人的权重乘以一个常数，我们应该谨慎分配权重集群特定的研究。
2020-05-13 math.ST stat.TH
Rates of convergence for nearest neighbor estimators with the smoother regression function
Osaka University（大阪大学）
本文研究了在(p,C)-光滑回归函数情况下，最近邻估计量的收敛速率，证明当p在(1,1.5]范围内时，最优收敛速率可被最近邻估计量实现。
2011-02-28 math.ST stat.TH
Isotonic Regression Estimators For Simultaneous Estimation of Order Restricted Location/Scale Parameters of a Bivariate Distribution: A Unified Study
研究了一般双变量位置/尺度模型的位置/尺度参数$θ_1$和$θ_2$的同时估计问题，当参数之间的序是先验已知的（即$θ_1\leq θ_2$）时.我们考虑保序回归估计的基础上的最佳位置/规模同变估计（BLEE/BSEE）的$θ_1$和$θ_2$一般权函数。令$\mathcal{D}$表示$(θ_1,θ_2)$的保序回归估计的相应类。在加权平方误差损失函数的和下，我们刻画了类$\mathcal{D}$中的可容许估计，并确定了（$θ_1$，$θ_2$）的BLEE/BSEE的主要估计.我们的研究统一了文献中报道的几项研究，具体的概率分布具有独立的边缘。我们还报道了Katz（1963）关于损失函数为分量问题的一般损失函数的加权和时某些估计量的不可容许性的结果的推广。仿真研究也进行了验证本文的研究结果。
2023-01-02 math.ST stat.TH
Strong Consistency of the SIMEX Estimator in Linear Regression with a Conditionally Poisson Covariate
针对带条件泊松型测量误差协变量的线性回归估计问题，本文提出拓展至条件泊松场景的POI-SIMEX算法，无需内部验证数据即可稳健校正误差，并证明了该估计量的强相合性。
2025-09-04 math.ST stat.TH
On the asymptotic behavior of the Nadaraya-Watson estimator associated with the recursive SIR method
研究了半参数回归模型中回归函数的Nadaraya-Watson估计的渐近性质。一方面，我们利用递归形式的切片逆回归方法来估计模型的未知参数。另一方面，我们实现了一个递归的Nadaraya-Watson过程的估计的回归函数，考虑到以前的估计的半参数回归模型的参数。我们建立了Nadaraya-Watson估计量的几乎必然收敛和渐近正态性。我们还说明了我们的半参数估计程序模拟数据。
2012-02-24 math.ST stat.TH
Improved Quantile Regression Estimators when the Errors are Independently and Non-identically Distributed
在经典的回归模型中，通常假设解释变量相互独立，误差项服从正态分布。但是当这些假设不满足时，例如误差项不是独立的或它们不是同分布的或两者兼而有之，LSE将不是鲁棒的。因此，分位数回归被用来弥补经典回归分析的这一不足，并改善最小二乘估计（LSE）。在本研究中，我们考虑了具有独立非同分布（i.ni.d.）的分位数回归模型的初步检验和收缩估计策略错误.蒙特卡罗模拟研究进行评估的相对性能的估计。此外，我们在数值上比较了它们与Ridge，Lasso，Elastic Net惩罚估计策略的性能。一个实际数据的例子来说明所建议的方法的实用性。最后，我们得到了所建议的估计量的渐近结果
2017-09-06 math.ST stat.TH
Strong consistency of kernel estimator in a semiparametric regression model
与Li \cite{sir}引入的半参数回归模型相关的有效降维（EDR）空间的估计是基于给定响应的预测因子向量的条件期望的协方差阵$Λ$的估计。Zhu和Fang提出了基于核方法的$Λ$的估计量\cite{Asymptotics}，并在一定条件下得到了$\sqrt{n}\left(\widehatΛ_n-Λ\right)$的渐近分布为$n\rightarrow +\infty$ .本文在一定条件下得到了$\widehatΛ_n$到$Λ$的几乎必然收敛，即$n\rightarrow +\infty$ .
2018-11-06 math.ST stat.TH
The Influence Function of Penalized Regression Estimators
本文针对高维回归中非稳健的 lasso 和 ridge 估计，计算了惩罚 M-估计量和稀疏 LTS 估计量的影响函数、渐近方差及均方误差，证明仅有有界导数损失函数的 M-估计量对异常值稳健。
2015-01-06 math.ST stat.TH
Uniform in bandwidth consistency of local polynomial regression function estimators
我们推广了一种方法来证明由最后两位作者开发的核型估计的带宽一致性结果的一致性。这样的结果被证明是有用的建立局部多项式估计的回归函数的一致性。
2006-01-23 math.PR math.ST stat.TH
