Nonparametric regression estimation for quasi-associated Hilbertian processes
当解释变量取值于可分希尔伯特空间时，建立了由拟相伴数据构造的回归函数的核型估计的渐近正态性.
2018-05-07 math.ST stat.TH
Nonparametric estimation of the derivative of the regression function: application to sea shores water quality
本文研究了非参数回归模型中回归函数导数的非参数估计。我们实现了一个非常有效和易于处理的统计过程的基础上的衍生物的递归Nadaraya-Watson估计。我们建立了估计的几乎必然收敛性和渐近正态性。我们还说明了我们的非参数估计程序与海岸水质和瓣膜的模拟和现实生活中的数据。
2016-06-20 math.ST stat.TH
Nonparametric regression for locally stationary functional time series
在这项研究中，我们发展了局部平稳函数时间序列的非参数回归的渐近理论。首先，我们引入了局部平稳函数时间序列（LSFTS）的概念，它在半度量空间中取值。然后，我们提出了一个非参数模型的LSFTS与回归函数，随着时间的推移平滑变化。建立了一类核估计的一致收敛性速度，回归函数的Nadaraya-Watson（NW）估计，以及NW估计的中心极限定理.
2022-07-01 math.ST stat.TH
Strong consistency of the nonparametric local linear regression estimation under censorship model
引入并研究了删失模型的局部线性非参数回归估计。本文的主要目的是建立紧集上新估计的一致几乎必然相合结果。为了支持我们的理论结果，模拟研究已经做了与经典的回归估计进行比较。
2020-04-06 math.ST stat.TH
Adaptive nonparametric estimation in heteroscedastic regression models. Part 2: Asymptotic efficiency
本文讨论了作者在2007年的论文中提出的用于估计未知非参数回归的自适应方法的渐近性质。我们证明了这个过程是渐近有效的二次风险。这意味着该过程的渐近二次风险与一个尖锐的下界一致。
2008-04-10 math.ST stat.TH
Nonparametric regression with nonparametrically generated covariates
我们使用协变量分析非参数回归估计的统计特性，这些协变量是不可直接观察的，但在初步步骤中已经从数据中估计出来。这些所谓的生成协变量出现在许多应用中，包括两阶段非参数回归，估计联立方程模型或截尾回归模型。然而，到目前为止，似乎没有一般的理论，他们对最终估计的统计性质的影响。我们的论文提供了这样的结果。我们推导出一个随机扩展，其特征在于生成步骤对最终估计量的影响，并使用它来获得一致性和渐近分布占所生成的协变量的存在率。
2012-07-24 math.ST stat.TH
Expansion for moments of regression quantiles with application to nonparametric testing
我们讨论回归分位数参数规格的非参数检验。该检验基于这些分位数的参数和非参数拟合的比较。非参数拟合是Nadaraya-Watson分位数平滑估计量。检验统计量的渐近处理需要发展新的数学论证。仅使用非参数估计的Bahadur展开式的方法是不令人满意的。它对维数和带宽的选择要求太高。我们的替代数学方法需要计算Nadaraya-Watson分位数回归估计的矩。该计算通过应用高阶Edgeworth展开来完成。
2017-07-14 math.ST stat.TH
Nonparametric kernel estimation of the probability density function of regression errors using estimated residuals
本文讨论了回归误差项与协变量无关的非参数密度估计。研究了利用估计残差的可行估计量与利用真残差的不可行估计量之间的差异。给出了用于估计残差的带宽的最佳选择。我们还研究了可行核估计的渐近正态性及其速率最优性。
2010-10-03 math.ST stat.TH
Uniform confidence bands for nonparametric errors-in-variables regression
本文提出了一种构造预测变量受测量误差影响的非参数回归函数的均匀置信带的方法。我们允许测量误差的分布是未知的，但假设验证数据或重复测量的潜在预测变量的可用性。建议的置信带建立在反卷积核估计和一个新的应用程序的乘数自助法。我们建立了建议的置信带的渐近有效性。据我们所知，这是第一个文件，以获得渐近有效的一致置信带的非参数误差变量回归。
2019-06-13 math.ST stat.TH
Adaptive estimation for nonparametric circular regression with errors in variables
针对变量含误差的圆回归问题，本文构建自适应估计器并分析其理论收敛速率，通过仿真与真实数据验证方法有效性，为圆型或线型协变量场景提供非参数估计方案。
2025-08-26 math.ST stat.TH
Partial heteroscedastic deconvolution estimation in nonparametric regression
本文提出了一种非参数回归中处理部分异方差测量误差的核估计方法，证明其在合适条件下具有最优收敛速率，并通过模拟验证了其有效性。
2026-01-28 math.ST stat.TH
Recursive estimation of nonparametric regression with functional covariate
主要目的是利用递归非参数核方法估计实随机变量与函数解释变量的回归函数。得到了回归函数的一类递推核估计的均方误差和几乎必然收敛。这些结果是建立与率和精确评估的常数项。同时，建立了这类估计量的中心极限定理。该方法进行了评估模拟和真实数据集的研究。
2013-08-06 math.ST stat.TH
Time-varying nonlinear regression models: Nonparametric estimation and model selection
本文考虑一类非参数时间序列回归模型，其中回归函数可以是时间依赖的。建立了时变回归函数估计的渐近理论。对于这类一般的模型，在实践中的一个重要问题是解决建模的回归函数作为非线性和时变的必要性。为了解决这个问题，我们提出了一个信息准则，并证明其选择一致性。结果应用于美国财政部利率数据。
2015-03-18 math.ST stat.TH
Nonparametric estimation of a regression function using the gamma kernel method in ergodic processes
本文利用Chen（2000）提出的Gamma核方法研究了非负支撑下密度和回归函数的非参数估计。在一般遍历假设下，证明了相应估计量的强一致相合性和渐近正态性。我们的结果推广了Shi和Song（2016）在经典i.i.d.框架，以及Bouezmarni和Rombouts（2008年，2010年b）和Gospodinov和Hirukawa（2007年）的混合时间序列的作品。
2016-10-16 math.ST stat.TH
Testing for a constant coefficient of variation in nonparametric regression
本文对一般非参数回归模型中变异系数为常数的假设提出了一种新的检验方法。该检验基于回归函数的平方与方差函数之间的$L^2$距离估计值。我们证明了在原假设和固定替代下该距离的标准化估计的渐近正态性，并通过模拟研究研究了相应的Bootstrap检验的有限样本性质。所得结果适用于一般混合条件下的平稳过程，并用于构造金融时间序列中平稳性假设的检验。
2008-09-29 math.ST stat.TH
Nonparametric smoothing for extremal quantile regression with heavy tailed distributions
在几个不同的领域，人们对分析底层分布的上尾或下尾分位数而不是平均值或中心分位数感兴趣。然而，尾部分位数的调查是困难的，因为数据稀疏。在本文中，我们试图发展极值分位数水平的非参数分位数回归。在极值分位数回归中，分位数水平的收敛阶有两种技术条件：中间阶和极值阶。对于中间阶分位数，使用普通的非参数估计。另一方面，对于极阶分位数，我们通过外推中阶分位数估计，给出了一个新的估计。渐近理论和极值理论保证了估计量的性能。结果证明了非参数分位数回归估计的渐近正态性和收敛速率。一个模拟，以确认所提出的估计的行为。数据应用也得到了评估。
2019-03-20 math.ST stat.TH
On rate optimal local estimation in nonparametric instrumental regression
考虑非参数工具回归中线性泛函的值估计问题，其中在存在工具W的情况下，响应Y依赖于内生解释变量Z建模。该估计器是基于降维和额外的阈值。假定结构函数和线性泛函的表示者属于某些椭球，这些椭球在某种意义上与Z的条件期望算子相联系，给出了估计量的极小极大最优收敛速率。我们说明这些结果考虑经典的平滑假设。
2009-02-12 math.ST stat.TH
Rodeo: Sparse Nonparametric Regression in High Dimensions
本文提出了一种在非参数回归中同时进行局部带宽选择和变量选择的贪婪方法。该方法从具有大带宽的局部线性估计器开始，并且递增地减小估计器相对于带宽的梯度大的变量的带宽。该方法被称为rodeo（衍生物期望算子的正则化），它对阈值衍生物进行了一系列假设检验，并且易于实现。在一定的假设下的回归函数和采样密度，它表明，适用于局部线性平滑的牛仔竞技避免了灾难的维数，实现近最佳的极小极大收敛率的相关变量的数量，如果这些变量被隔离在事先。
2006-08-22 math.ST stat.TH
Variance estimation in nonparametric regression via the difference sequence method
考虑一个均值函数和方差函数均未知的高斯非参数回归问题。本文给出了方差函数的一类基于差分的核估计。最佳的收敛速度是均匀的广泛的功能类和带宽的充分特点，渐近正态性也成立。我们还表明，适当的渐近公式，我们的估计达到极大极小率。
2007-12-06 math.ST stat.TH
Asymptotic equivalence and adaptive estimation for robust nonparametric regression
目前文献中发展的渐近等价理论只适用于有界损失函数。由于统计推断中许多常用的损失函数都是无界的，这就限制了该理论的潜在应用。本文给出了具有无界损失函数的稳健非参数回归的渐近等价性结果。结果表明，所有的高斯非参数回归程序可以在一个统一的方式robustified。在我们的等价性论证中，一个关键步骤是对数据进行分组，然后取每个分组的中位数。渐近等价的结果具有重要的实际意义。为了说明等价论证的一般原理，我们考虑两个重要的非参数推断问题：稳健估计的回归函数和估计的二次功能。在这两种情况下，容易实现的程序构造，并同时享有高度的鲁棒性和适应性。其他问题，如置信集和非参数假设检验的建设可以用类似的方式处理。
2009-09-02 math.ST stat.TH
Powerful nonparametric checks for quantile regression
我们解决了参数分位数回归的失拟检验问题。我们提出了一个简单的测试，涉及一维核平滑，使其检测本地替代品的速度是独立的协变量的数量。该检验具有渐近的高斯临界值，在小样本情况下，可以应用Wild Bootstrap方法得到更准确的检验结果。我们的程序似乎是有竞争力的，与现有的模拟。我们说明了我们的测试出生体重数据的有用性。
2014-06-12 math.ST stat.TH
Nonparametric estimation in a semimartingale regression model. Part 2. Robust asymptotic efficiency
本文证明了作者在第一部分中提出的模型选择方法的渐近有效性。为此，我们引入了鲁棒风险的上确界的二次风险在广泛的一类观测分布。得到了鲁棒风险的渐近上界和下界。证明了该方法的渐近有效性。找到了Pinsker常数。
2009-09-17 math.ST stat.TH
Advances on nonparametric regression for functional variables
本文考虑从函数解释变量预测实随机变量的问题。这个问题是攻击的非参数核的方法，最近已经适应这个功能的背景下。我们得到的理论结果给出了一个深入的渐近研究的行为的估计，包括均方收敛（率和精确评估的常数项）以及渐近分布。这些结果的实际应用依赖于估计这些常数的能力。在这个方向上的一些观点进行了讨论，包括介绍一个功能版本的自举的想法。
2006-03-03 math.ST stat.TH
Nonparametric estimation of sliced inverse regression by the $ k$-nearest neighbors kernel method
本文提出基于k近邻核方法的切片逆回归非参数估计，引入协方差矩阵估计量以估计有效降维空间，证明渐近正态性，并通过模拟验证其有限样本性能优于核估计。
2025-05-25 math.ST stat.TH
Adaptive warped kernel estimation for nonparametric regression with circular responses
针对单位圆上观测的圆形数据非参数回归问题，提出结合扭曲策略与Goldenshluger-Lepski型估计器的数据驱动带宽核估计方法，并在各向异性Hölder类上证明了其极小化极大近乎最优性。
2023-06-30 math.ST stat.TH
Minimax-optimal nonparametric regression in high dimensions
在两个稀疏性假设下推导了高维非参数回归的极小极大$L_2$风险：（1）真实回归曲面是一个稀疏函数，它只依赖于$p$预测变量列表中的$d=O(\log n)$重要预测变量，其中包含$\log p=o(n)$ ;（二）真正的回归曲面取决于$O(n)$预测器，但它是一个加法函数，其中每个加法分量是稀疏的，但可能包含两个或更多个相互作用的分量预测器，并且可以具有不同于其他分量的平滑度。对于任何一个建模假设，一个切实可行的扩展广泛使用的贝叶斯高斯过程回归方法，自适应地达到最佳极小极大率（$\log n$条款）渐近的$n,p\to\infty$与$\log p=o(n)$。
2015-04-01 math.ST stat.TH
Rate-optimal nonparametric estimation for random coefficient regression models
随机系数回归模型是分析不可观测异质性的常用工具，近年来在计量经济学文献中又引起了人们的兴趣。在本文中，我们获得了最佳的逐点收敛速度估计的线性随机系数模型的密度在Hölder光滑类，特别是显示如何尾部行为的设计密度影响这个速度。与以前的建议相比，我们提出的估计，并达到最佳的收敛速度不需要除以非参数密度估计。估计器中调整参数的最佳选择取决于设计密度的尾部参数和Hölder类的光滑程度，并且我们还研究了关于这两个参数的自适应估计。
2020-02-17 math.ST stat.TH
Adaptive Optimal Nonparametric Regression and Density Estimation Based on Fourier-Legendre Expansion
受金融和技术应用的启发，本文的目标是考虑基于Fourier-Legendre展开的回归和密度分布的自适应估计，以及置信区间的构造-也是自适应的。估计是渐近最优的和自适应的意义上说，他们可以适应未知的光滑。
2007-06-06 math.SP math.ST stat.TH
Nonparametric regression estimation for random fields in a fixed-design
研究了固定设计下，误差由相依随机变量组成的非参数回归估计。得到了核估计一致收敛的充分条件。这些估计量能达到最优的一致收敛性速度，且结果适用于一大类随机场，其中包括鞅差随机场和混合随机场.
2005-02-04 math.PR math.ST stat.TH
Benign overfitting and adaptive nonparametric regression
CREST-ENSAE（Crest-法国国立统计与经济管理学院）
在非参数回归中，我们构造了一个估计器，它是一个连续函数，以高概率插值数据点，同时在Hölder类尺度上自适应地获得均方风险下的Minimax最优收益率。
2022-06-27 cs.LG math.ST stat.ML
Nonparametric Shape-restricted Regression
考虑形状约束下的非参数回归问题。主要的例子包括保序回归（相对于任何偏序），单峰/凸回归，加性形状限制回归和约束单指数模型。我们回顾了最小二乘估计（LSE）在这些问题中的一些理论性质，强调LSE的自适应性质。特别是，我们研究的行为的风险的LSE，其逐点极限分布理论，特别强调保序回归。我们调查了各种方法来构建逐点置信区间周围这些形状限制的功能。我们还简要讨论了计算的LSE，并指出一些开放的研究问题和未来的方向。
2018-06-30 math.ST stat.ML stat.TH
Some Theoretical Results Concerning Time-varying Nonparametric Regression with Local Stationary Regressors and Error
关于李和游在Journal of Applied Statistics and Management中提出的一个三步估计方法，对于具有时变回归函数、局部平稳回归变量和时变AR（p）（tvAR（p））误差过程的非参数回归模型，我们建立了每个估计的所有必要的渐近性质.给出了非参数回归函数初估计的收敛速度和渐近正态性，建立了误差项中时变系数函数的渐近分布，并给出了非参数回归函数加细估计的渐近性质.此外，对于变量选择的ULASSO方法和误差项结构的常系数检测，我们证明了ULASSO估计能够一致地识别真实的误差项结构.我们进行了两个模拟研究，以说明有限样本性能的估计和验证我们的理论讨论的性质的估计。
2020-10-24 math.ST stat.ME stat.TH
Encompassing Tests for Nonparametric Regressions
本文通过L2距离构建非参数回归包容性检验框架，提出完全非参数检验程序，并利用wild bootstrap和数据驱动带宽解决核回归中的带宽选择与小偏差问题，在小样本和中等样本下表现良好。
2023-10-25 econ.EM math.ST stat.TH
Nonparametric Multiple-Output Center-Outward Quantile Regression
基于Chernozhukov等人（2017）和Hallin等人（2021）最近引入的多元中心向外分位数的新概念，我们正在考虑非参数多输出分位数回归问题。我们的方法定义了嵌套的条件中心向外分位数回归轮廓和区域与给定的条件概率的内容，无论潜在的分布，他们的图形构成嵌套的中心向外分位数回归管。这些概念的经验对应物被构建，产生可解释的经验区域和轮廓，这些区域和轮廓被证明能够一致地重建它们在庞培-豪斯多夫拓扑中的人口版本。我们的方法是完全非参数的，在包括异方差和非线性趋势的模拟中表现良好;它作为数据分析工具的能力在一些真实数据集上得到了说明。
2022-04-26 math.ST stat.ME stat.TH
Simultaneous confidence bands for nonparametric regression with functional data
我们考虑非参数回归的背景下，功能的数据，也就是说，当一个随机样本的功能是观察到一个细网格。我们得到一个功能渐近正态性的结果，允许建立同时置信带（SCB）的各种估计和推理任务。两个应用SCB程序的回归函数和拟合优度测试曲线回归模型提出。第一种方法在其他可用方法上提高了精度，而第二种方法可以检测参数化形状的局部偏离，而不是通常的拟合优度测试，仅跟踪全局偏离。SCB程序的数值研究和说明与语音数据集提供。
2010-07-20 math.ST stat.ME stat.TH
Nonparametric covariate-adjusted regression
我们考虑回归曲线的非参数估计时，观察到的数据与乘法失真，这取决于观察到的混杂变量。我们提出了几个估计，从一个相对简单的依赖于限制性假设通常在文献中，一个复杂的分段方法，涉及重建一个平滑曲线，从一个常数倍的绝对值的估计，并可以应用在更一般的情况下。我们表明，虽然我们的非参数估计是从未观察到的未失真数据的预测，他们有相同的一阶渐近性质的标准估计，可以计算，如果未失真的数据。我们说明了我们的方法在模拟和真实数据集上的良好数值性能。
2016-01-12 math.ST stat.ME stat.TH
Nonparametric Multivariate L1-median Regression Estimation with Functional Covariates
当协变量取值于无穷维空间时，本文提出了多元条件分布的L1-中位数的非参数估计。多变量情况更适合于同时预测随机变量向量的分量，而不是分别预测它们中的每一个。在利用著名的Nadarya-Waston估计量估计条件L1-median函数时，我们证明了该估计量的强相合性和渐近正态性。我们还提出了一些模拟，并提供如何建立条件con？多元L1-中位数回归的置信椭圆。对化学计量实际数据进行了数值研究，比较了协变量X为曲线，X为随机向量时多元L1-中位数回归与边际中位数回归向量的异同。
2013-04-16 math.ST stat.ME stat.TH
Nonparametric Regression, Confidence Regions and Regularization
本文对单位区间上的非参数回归问题给出了一个统一的处理方法。它是基于一个普遍的，诚实的和非渐近的置信区域，这是由一组线性不等式，涉及在设计点的功能值定义。兴趣通常集中在该区域中的某些最简单的函数上，其中简单性可以根据形状（局部极值的数量，凸性/曲率的间隔）或光滑性（导数的界限）或两者的组合来定义。一旦确定了某种形式的正则化，就可以使用置信区域来提供诚实的非渐近置信界限，其信息量较少，但在概念上简单得多。
2007-11-05 math.ST stat.ME stat.TH
Adaptive Inference in Multivariate Nonparametric Regression Models Under Monotonicity
Brown University（布朗大学）
该研究针对多元非参数回归的单调性约束问题，推导了自适应置信区间的极小极大收敛速率，提出了适配该速率的新推断方法，适用于高斯误差下的有限样本及回归函数的一般线性泛函。
2026-10-30 econ.EM math.ST stat.AP
Nonparametric Regression with Measurement Error in Banach Spaces
University of Mississippi Medical Center（密西西比大学医学中心）；Millsaps College（米尔斯普斯学院）
本文提出一个不依赖内积结构的统一框架，用于Banach空间值预测变量的非参数回归，处理测量误差，建立大样本理论，并扩展至误差变量和部分污染模型。
2026-09-15 math.ST stat.ME stat.TH
Nonparametric quantile regression for spatio-temporal processes
本文提出一种适用于时空超高维数据的非参数分位数回归方法，克服计算挑战，并建立统计推断理论，通过模拟和电力需求数据验证其性能。
2024-05-24 math.ST stat.ME stat.TH
Universal local linear kernel estimators in nonparametric regression
对一类广泛的非参数回归模型提出了新的局部线性估计。无论是否满足设计元素依赖性的传统条件，估计量都是一致相合的.估计量是特殊加权最小二乘法的解。设计可以是固定的或随机的，并且不需要满足经典的正则性或独立性条件。作为应用，构造了稠密函数型数据均值的几种估计。仿真结果说明了该研究的理论结果。包括一个例子，从流行病学横断面研究ESSE-RF处理真实的医疗数据。我们比较新的估计量与最知名的估计，这样的研究。
2022-07-02 math.PR math.ST stat.TH
Adaptive and non-adaptive minimax rates for weighted Laplacian-eigenmap based nonparametric regression
本文针对基于加权拉普拉斯特征映射的非参数回归，在索伯列夫空间设定下建立了自适应与非自适应极小极大收敛速率，将已有结果推广到包括非归一化和随机游走拉普拉斯在内的广泛加权拉普拉斯矩阵。
2023-10-31 math.ST stat.ML stat.TH
Confidence intervals for nonparametric regression
我们证明和讨论的概率非渐近界的成本与一般损失函数的回归计划从Rademacher理论的角度来看，和最优相对于平均$L^{2}$ -距离的基本条件期望的最小二乘回归结果从Vapnik-Chervonenkis理论的角度。结果如下分析涉及独立的，但可能是非平稳的训练样本，并可以扩展，在某种程度上，我们解释和说明，相关的情况下，训练样本表现出依赖性。
2022-03-20 math.PR math.ST stat.ML
Data-driven confidence bands for distributed nonparametric regression
WIAS Berlin（柏林应用分析与随机学研究所）
高斯过程回归和核岭回归是常用的非参数回归方法。不幸的是，他们遭受高计算复杂性，使他们不适用于现代的海量数据集。为此，已经提出了一些近似，其中一些允许分布式实现。其中之一是分而治之的方法，将数据分成若干分区，获得局部估计值，最后对它们进行平均。在本文中，我们提出了一种新的计算效率完全数据驱动的算法，量化这种方法的不确定性，产生频率主义$L_2$的置信带。我们严格证明了算法的有效性。本文的另一个贡献是平均估计量的最小最大最优高概率界，补充和推广了已知的风险界。
2020-06-08 cs.LG math.ST stat.ML
Nonparametric Quantile Regression: Non-Crossing Constraints and Conformal Prediction
The Hong Kong Polytechnic University（香港理工大学）；The Chinese University of Hong Kong（香港中文大学）
我们提出了一种非参数分位数回归方法，使用深度神经网络与整流线性单位罚函数，以避免分位数交叉。该罚函数在多维非参数分位数回归中对非交叉约束的处理是可行的。我们建立了所提出的非参数分位数回归函数估计的超额风险的非渐近上界。我们的误差界达到最佳的极小极大收敛速度的持有人类，和前因子的误差界多项式依赖于预测的维度，而不是指数。基于提出的非交叉惩罚深度分位数回归，我们构造了完全适应异质性的共形预测区间。在合理的条件下，建议的预测区间具有良好的性能，在有效性和准确性。我们还推导出了所提出的非交叉共形预测区间和理论预言区间之间的长度差的非渐近上界。数值实验，包括模拟研究和实际数据的例子来证明所提出的方法的有效性。
2022-10-18 cs.LG math.ST stat.ML
Nonparametric estimation in a regression model with additive and multiplicative noise
本文考虑了一般非参数回归模型中未知函数的估计问题，在此背景下提出了两种新的小波估计.我们证明了它们在Besov空间上的平均积分平方误差下具有快速的收敛速度。所得到的速率具有建立在模型弱条件下的特殊性。一个数值研究的背景下可比随机前沿估计（与不同的边界不一定是一个生产函数）支持的理论。
2020-06-20 econ.EM math.ST stat.ME
Debiased Nonparametric Regression for Statistical Inference and Distributionally Robustness
The University of Tokyo（东京大学）
本文提出一种无模型的非参数回归去偏方法，通过加入估计条件期望残差的校正项，使估计量在温和条件下具备风险收敛与渐近正态性，从而支持统计推断并提升协变量偏移下的鲁棒性。
2025-03-17 cs.LG econ.EM math.ST
Nonparametric regression with modified ReLU networks
Institute of Environmental and Agricultural Biology (X-BIO), University of Tyumen（秋明大学生态与农业生物学研究所（X-BIO））；University of Mississippi（密西西比大学）
我们考虑使用修改的ReLU神经网络进行回归估计，其中网络权重矩阵首先由函数$α$修改，然后乘以输入向量。我们给出了一个连续的分段线性函数$α$的例子，对于该函数，具有$l_1$和平方$l_2$惩罚的修改后的ReLU网络类上的经验风险最小化器达到了未知$β$ -平滑函数的最小最大预测率，直到对数因子。
2022-07-17 cs.LG math.ST stat.ML
A new similarity measure for covariate shift with applications to nonparametric regression
University of Chicago（芝加哥大学）；UC Berkeley（加州大学伯克利分校）
我们在非参数回归的背景下研究协变量偏移。我们引入了一个新的措施之间的源和目标分布的分布不匹配的基础上，在一个给定的半径的球的概率的积分比。我们使用这个措施的缩放相对于半径的特点的极小极大估计率在一个家庭的Hölder连续函数下协变量移位。与最近提出的转移指数的概念相比，该措施导致更快的收敛速率，并且更细粒度。我们伴随着我们的理论与具体的协变量转移的例子，说明了这种尖锐的差异。
2022-02-06 cs.LG math.ST stat.ML
Nonparametric Depth and Quantile Regression for Functional Data
当响应和协变量都是函数时，我们研究了基于空间深度和分位数的非参数回归方法。与有限维数据的经典分位数回归一样，本文开发的回归技术提供了对功能协变量对功能响应的条件分布的不同部分（如中心和尾部）的影响的深入了解。基于深度和分位数的非参数回归对于检测函数回归中的异方差性是有用的。我们推导出非参数深度和分位数回归估计的渐近行为，它依赖于协变量空间中的小球概率。我们的非参数回归程序被用来分析一个数据集的人均国内生产总值对储蓄率的影响，为125个国家，和另一个数据集的影响，人均净可支配收入对卷烟销售在美国的一些州。
2018-02-07 stat.ME
Honest Confidence Sets in Nonparametric IV Regression and Other Ill-Posed Models
本文发展了计量经济学中一类非常普遍的不适定模型的推导方法，包括非参数工具变量回归，各种函数回归和密度反卷积。我们专注于使用Tikhonov正则化估计的感兴趣参数的均匀置信集，如Darolles，Fan，Florens和Renault（2011）。由于它是不可能的推理方法的基础上的中心极限定理，我们开发了两种替代方法依赖于浓度不等式和自助近似。我们表明，预期的直径和覆盖性能的结果集有统一的有效性，在一个大类的模型，即，构造的置信集是诚实的。蒙特卡罗实验表明，引入的置信集具有合理的宽度和覆盖性能。使用美国的数据，我们为各种商品的恩格尔曲线提供了统一的置信集。
2020-12-19 econ.EM math.ST stat.AP
Spatially filtered unconditional quantile regression: Application to a hedonic analysis
无条件分位数回归（UQR）是研究解释变量对被解释变量边缘分布分位数的影响的一种方法。本研究试图在随机效应特征向量空间滤波的框架内将空间依赖性引入UQR，从而得到我们称之为空间滤波UQR（SF-UQR）的模型。然后，我们开发了一个计算效率高的SF-UQR估计方法。最后，SF-UQR的性能进行了测试与东京都市圈的特征地价模型。SF-UQR是在一个R软件包“spmoran. "
2018-12-18 stat.ME
Linear programming approach to nonparametric inference under shape restrictions: with an application to regression kink designs
我们开发了一种在形状约束下构建非参数回归函数置信带的新方法。该方法可以通过线性规划实现，因此在计算上具有吸引力。我们说明了我们所提出的方法与应用程序的回归折点设计（RKD）的用法。基于RKD的计量经济学分析由于非参数导数估计的收敛速度慢，经常会遇到置信区间较宽的问题。我们证明，经济模型和结构激励形状的限制，这反过来又有助于缩小置信区间的失业保险金对失业持续时间的因果关系的分析。
2021-02-12 econ.EM stat.ME
