Nonparametric and Varying Coefficient Modal Regression
在这篇文章中,我们提出了一个新的非参数数据分析工具,我们称之为非参数模态回归,调查感兴趣的变量之间的关系的基础上估计的模式的条件密度的响应变量Y给定的预测X。非参数模态回归与传统的非参数回归的区别在于,它使用“最可能的”条件值来测量中心,而不是条件平均值或中位数。与传统的非参数均值回归和非参数中值回归相比,非参数模态回归具有更好的预测性能和鲁棒性。本文提出用局部多项式回归估计非参数模态回归。所得估计的渐近性质进行了研究。为了扩大非参数模态回归对高维数据或功能/纵向数据的适用性,我们进一步发展了非参数变系数模态回归。通过蒙特卡罗模拟研究和对医疗支出数据的分析,证明了所提出的非参数模态回归模型在预测性能方面优于传统的非参数均值回归和非参数中位数回归。
2016-02-22 stat.ME
An automatic procedure to determine groups of nonparametric regression curves
在许多情况下,确定非参数回归曲线是否可以分组可能是有趣的,特别是当面对大量曲线时。拟议的测试程序允许确定组与自动选择其数量。一个模拟研究,以调查所提出的方法相比,现有的替代程序的有限样本特性。最后,证明了该程序的适用性,通过分析一组横截面来研究隧道的几何形状。结果表明,隧道几何形状存在一定的不均匀性。
2021-01-31 stat.ME stat.ML
EM Approaches to Nonparametric Estimation for Mixture of Linear Regressions
针对线性回归混合模型,提出两种EM算法估计回归系数的先验分布,分别处理连续和离散情形,并验证了收敛性与有效性。
2025-10-16 stat.ME stat.ML
Nonparametric Depth and Quantile Regression for Functional Data
当响应和协变量都是函数时,我们研究了基于空间深度和分位数的非参数回归方法。与有限维数据的经典分位数回归一样,本文开发的回归技术提供了对功能协变量对功能响应的条件分布的不同部分(如中心和尾部)的影响的深入了解。基于深度和分位数的非参数回归对于检测函数回归中的异方差性是有用的。我们推导出非参数深度和分位数回归估计的渐近行为,它依赖于协变量空间中的小球概率。我们的非参数回归程序被用来分析一个数据集的人均国内生产总值对储蓄率的影响,为125个国家,和另一个数据集的影响,人均净可支配收入对卷烟销售在美国的一些州。
2018-02-07 stat.ME
Efficient estimation of the error distribution function in heteroskedastic nonparametric regression with missing data
本文提出了一种基于残差的经验分布函数来估计响应随机缺失的异方差非参数回归的误差分布函数,并证明了这种估计是渐近最精确的.
2016-10-27 stat.ME
A note on wavelet shrinkage in nonparametric regression models with ARFIMA errors
本文针对带ARFIMA误差的非参数回归模型,提出一种收缩小波估计方法,并通过蒙特卡洛实验证明其优于通用阈值规则。
2025-05-10 stat.ME
Robust nonparametric regression: review and practical considerations
本文综述了非参数回归模型的离群点稳健估计方法,探讨了稳健带宽选择策略,并介绍了适用于多变量场景的高扩展性稳健回归方法。
2023-04-05 stat.ME
Locally Adaptive Nonparametric Binary Regression
本文提出了一种非参数局部自适应贝叶斯估计器来估计二元回归。通过将二元回归建模为概率单位回归的混合物来获得灵活性,其中每个概率单位回归的参数具有薄板样条,其具有自己的平滑参数,并且混合物权重取决于协变量。估计相比,一个单一的样条估计和最近提出的局部自适应估计。通过将其应用到模拟和真实的例子说明了该方法。
2007-09-21 stat.ME
Parametric versus Semi and Nonparametric Regression Models
三种类型的回归模型研究人员需要熟悉和了解每一个的要求:参数,半参数和非参数回归模型。所使用的建模类型基于关于响应变量和解释变量之间的关系的形式以及随机误差分布的可用信息量。本文介绍了模型之间的差异、常用的估计方法、抗差估计稳健估计及其应用。本文中所有图表和分析的R代码可在附录中找到。
2019-06-24 stat.ME
Nonparametric multivariate regression estimation for circular responses
本文研究了具有圆响应的回归函数的非参数估计和R_d值预测量。局部多项式型估计的建议和研究。导出了它们的渐近偏差和方差的表达式,并给出了选择渐近局部最优带宽矩阵的准则。有限样本的行为,建议的估计评估通过模拟和他们的表现也说明了一个真实的数据集。
2020-04-13 stat.ME
Nonparametric multimodal regression for circular data
本文针对包含循环响应变量和/或协变量的回归模型,提出基于条件密度最大化的非参数多模态回归估计方法,利用均值偏移和循环均值偏移算法的条件版本进行估计,并研究了其渐近性质与带宽选择问题。
2020-12-17 stat.ME
Nonparametric Conditional Inference for Regression Coefficients with Application to Configural Polysampling
我们认为推断程序,条件上观察到的从属统计量,为回归系数下的线性回归设置未知的误差分布指定非参数。在正则条件下,建立了回归系数估计的条件渐近正态性,并证明了条件推断过程中核型密度估计的插入方法.仿真结果表明,该方法在构造置信区间时,可以得到精确的条件覆盖概率。插件的方法可以应用于与神经多元采样,以获得强大的条件估计自适应对抗的对比方案。我们证明了这一点,通过调查的条件均方误差的位置估计在各种对抗的模拟研究,成功地扩展到一个非参数的背景下,几何多抽样。
2007-10-30 stat.ME
Nonparametric Regression and Error Covariance Function Estimation -- Beyond Short-Range Dependence
针对非参数回归中误差相关性衰减缓慢的问题,提出特殊核函数与带宽选择步骤及误差协方差函数非参数估计,在理论和模拟中均获显著改进并验证了实际应用价值。
2025-04-27 stat.ME
Bayesian Nonparametric Modeling for Multivariate Ordinal Regression
通常假设单变量或多变量有序响应来自潜在连续参数分布,协变量效应线性进入。本文介绍了一种单变量和多变量有序回归的贝叶斯非参数建模方法,该方法基于潜响应和协变量的联合分布的混合建模。建模框架可以高度灵活地推断有序回归关系,避免协变量效应中的线性或加性假设。在标准参数有序回归模型中,计算挑战来自于可识别性约束和需要非标准推理技术的参数估计。非参数模型的一个关键特征是它实现了推理的灵活性,同时避免了这些困难。特别是,我们建立了充分支持的非参数混合模型下的固定截止点,通过离散化的潜在连续响应与顺序响应。通过应用到两个数据集的计量经济学,一个例子,涉及臭氧浓度的回归关系,和多评价协议问题的建模方法的实际效用说明。
2016-09-20 stat.ME
Wavelet Shrinkage in Nonparametric Regression Models with Positive Noise
小波收缩估计器通过降低经验系数的大小来对小波域的数据进行去噪,在许多科学领域中得到了广泛的应用。在非参数回归问题中,大多数的收缩规则都是由带有加性高斯噪声的未知函数组成的模型推导出来的。虽然高斯噪声假设在一些实际数据分析中是合理的,主要是在大样本量的情况下,但它并不普遍。在实际应用中,正噪声污染数据是经常出现的,正噪声污染的非参数回归模型给小波收缩带来了挑战。本文在指数和对数正态分布下,利用加性和严格正噪声的非参数回归框架,提出了一种估计小波系数的贝叶斯收缩规则。计算方面进行了讨论和模拟研究,以分析所提出的收缩规则的性能,并与标准技术进行比较。最后给出了在波士顿马拉松比赛数据集上的应用.
2021-09-13 stat.ME
Structure Discovery in Nonparametric Regression through Compositional Kernel Search
U. Cambridge(剑桥大学);MIT(麻省理工学院)
尽管它的重要性,在非参数回归的内核的结构形式的选择仍然是一个黑色的艺术。我们定义了一个空间的内核结构,这是由添加和乘以少量的基本内核组成。我们提出了一种方法来搜索这个空间的结构,反映了科学发现的过程。学习的结构通常可以将函数分解为可解释的组件,并在时间序列数据集上进行长距离外推。我们的结构搜索方法在各种预测任务上优于许多广泛使用的内核和内核组合方法。
2013-05-13 cs.LG stat.ME stat.ML
Improved inference for nonparametric regression and regression-discontinuity designs
University of Bologna(博洛尼亚大学);Exeter Business School(埃克塞特商学院);McGill University(麦吉尔大学);CIREQ(魁北克经济学研究中心);Aarhus Center for Econometrics(奥胡斯计量经济学中心);Aarhus University(奥胡斯大学)
本文提出了一种基于自助预翻转的改进非参数推断方法,显著缩短置信区间长度而不影响覆盖率。
2026-03-06 econ.EM stat.ME
Simultaneous confidence bands for nonparametric regression with partially missing covariates
本文考虑了协变量随机缺失的非参数回归的基于逆选择概率的加权局部线性估计。导出了估计量与真实回归函数之间的最大偏差的渐近分布,并构造了渐近精确的同时置信带。回归函数的估计被证明是oracally有效的意义上说,它是一致的不可区分的,当选择概率是已知的。有限样本性能通过模拟研究,支持我们的渐近理论。通过对加拿大2010/2011年青年学生调查数据集的分析,证明了所提出的方法。
2020-02-28 stat.ME
Spatially-adaptive sensing in nonparametric regression
虽然自适应感测在稀疏回归和分类中提供了改进的收敛速率,但非参数回归中的结果到目前为止仅限于非常特定的函数类。在本文中,我们描述了一个自适应传感算法,适用于一般的非参数回归问题。该算法是空间自适应的,并实现了空间非齐次函数的收敛速度提高。在标准函数类上,它同样保留了均匀设计的空间自适应特性。
2013-03-13 math.ST stat.ME stat.TH
A Bayesian Nonparametric Causal Model for Regression Discontinuity Designs
对于非随机化研究,在相对温和的条件下,回归不连续设计(RDD)可用于识别和估计“局部随机化”受试者亚组的因果效应。然而,当前模型通过线性回归将因果推断集中在治疗(与非治疗)变量对因变量均值的影响上。对于RDD,我们提出了一个灵活的贝叶斯非参数回归模型,可以提供准确的估计因果关系的影响,在预测均值,方差,分位数,概率密度,分布函数,或任何其他选择的功能的结果变量。我们通过两个真实的教育数据集的分析来说明该模型,涉及(分别)一个清晰的RDD和一个模糊的RDD。
2015-02-11 stat.ME
Distributed nonparametric regression imputation for missing response problems with large-scale data
针对大规模数据缺失响应问题,本文提出基于核平滑和筛方法的两种分布式非参数回归插补方法,并证明所得响应均值估计量渐近正态且达到半参数效率界。
2023-01-08 stat.ME
Appropriate use of parametric and nonparametric methods in estimating regression models with various shapes of errors
本文提出了一种实用的回归模型估计方法,它采用半参数有效得分函数,适用于具有各种形状误差的数据。首先,我推导出半参数有效的分数向量的同方差回归模型没有任何假设的错误。接下来,可以根据误差分布的形状假设误差的特定参数分布或者通过非参数地估计误差分布来修改半参数有效得分函数。误差的非参数方法可用于估计感兴趣的参数或找到适当的参数误差分布。在这方面,所提出的估计方法适当地利用参数和非参数方法的误差。通过数值研究,所提出的估计方法的性能进行了论证。
2023-01-20 stat.ME
Scalable Bayesian nonparametric regression via a Plackett-Luce model for conditional ranks
我们提出了一种新的贝叶斯非参数回归模型的协变量X和连续的,真正的响应变量Y。该模型根据Y和X的边缘分布以及调整条件分布F(y)的随机排序的回归函数进行参数化|x)。通过采用近似的复合似然方法,我们表明,由此产生的后验推理可以解耦的模型的单独组件。该过程可以扩展到非常大的数据集,并允许使用来自贝叶斯非参数密度估计和Plackett-Luce排名估计的标准现有软件。作为一个例子,我们展示了我们的方法在美国人口普查数据集上的应用,该数据集有超过130万个数据点和100多个协变量。
2015-06-24 stat.ME
Optimal-$k$ difference sequence in nonparametric regression
基于差分的方法在非参数回归中得到了越来越多的关注,特别是在估计残差方差时,需要在{ \em最优差分序列}和{ \em普通差分序列}之间选择合适的差分序列。差分序列的选择是非参数回归中的一个基本问题,三十多年来一直是一个有争议的问题。在本文中,我们建议从一个非常独特的角度来解决这个具有挑战性的问题,即通过引入一个新的差分序列称为{ \em的最佳- $k$差分序列}。新的差分序列不仅提供了一个更好的平衡之间的偏差方差的权衡,但也显着扩大了现有的家庭的差分序列,其中包括最佳和普通差分序列作为两个重要的特殊情况。我们进一步证明,通过理论和数值研究,最佳的$k$差分序列已经推动了我们的知识的边界,在基于差分的方法在非参数回归,它总是在实际情况下表现最好。
2022-11-28 stat.ME
Nonparametric quantile regression for twice censored data
研究了两次删失数据的非参数分位数回归问题。利用单调重排的概念对条件分布函数的估计进行构造,给出了两个新的估计。所提出的方法避免了交叉分位数曲线的问题。建立了这两种估计的弱一致相合性和弱收敛性,并通过模拟研究了它们的有限样本性质。作为一个副产品,我们得到了一个新的结果,关于弱收敛的右删失数据的Beran估计的最大可能区域上,这是自己的兴趣。
2012-06-12 stat.ME
A Nonparametric Bayesian Technique for High-Dimensional Regression
本文提出了一个非参数贝叶斯框架称为VariScan的同时聚类,变量选择和预测在高通量回归设置。Poisson-Dirichlet过程用于检测协变量的低维潜在聚类。为响应构造了自适应非线性预测模型,实现了模型简约性和灵活性之间的平衡。与传统的信念相反,集群检测显示为后验一致的一般类的模型的协变量和主题的数量的增长。仿真研究和数据分析表明,VariScan往往优于几个著名的统计方法。
2016-04-12 stat.ME
A model specification test for the variance function in nonparametric regression
在完全非参数回归模型中考虑了条件方差参数形式的检验问题。提出了一种基于原假设和备择假设下残差经验特征函数之间加权$L_2$ -距离的检验统计量,并进行了理论研究。得到了检验统计量的零渐近分布,并用来逼近临界值。在几个蒙特卡罗实验中数值研究了所提出的测试的有限样本特性。开发的结果假设独立的数据。它们的扩展相关的意见进行了讨论。
2018-07-23 stat.ME
A Unified Bayesian Nonparametric Framework for Ordinal, Survival, and Density Regression Using the Complementary Log-Log Link
本文提出统一贝叶斯非参数框架,利用互补对数-对数链接解决有序回归、生存分析和密度回归问题,结合贝叶斯加性回归树实现便捷计算并验证理论性质。
2025-02-02 stat.ME
Nonparametric modal regression
模态回归估计给定$X=x$的$Y$分布的局部模态,而不是通常的回归意义上的平均值,因此可以揭示通常回归方法遗漏的重要结构。本文研究了一种简单的非参数模态回归方法,基于$Y$和$X$联合分布的核密度估计(KDE)。我们推导出这种方法的渐近误差界,并提出了构造置信集和预测集的技术。后者用于选择基础KDE的平滑带宽。模态回归背后的思想与许多其他方法有关,例如混合回归和密度岭估计,我们也讨论了这些联系。
2016-03-30 math.ST stat.ME stat.ML
Nonparametric M-estimation for right censored regression model with stationary ergodic data
研究了平稳遍历右删失回归模型的非参数M-估计。定义为隐函数,当协变量取值于R^d(d >= 1)且数据来自平稳遍历过程时,考虑了稳健回归族的核型估计.在较弱的假设下,证明了估计量的强相合性(含率)和渐近分布。此外,提供了一个可用的置信区间,它不依赖于任何未知量。我们的结果在没有任何混合条件下成立,并且不需要存在边缘密度。还提供了基于模拟数据的比较研究。
2016-04-29 stat.ME
On Nonparametric Inference in the Regression Discontinuity Design
本文研究了非参数检验在回归不连续设计中的有效性问题。感兴趣的原假设是,在所谓的锐设计中,阈值处的平均处理效应等于预定值。我们首先表明,在大多数文献中使用的假设下,对于\emph{any}测试的权力对任何替代品是有界的大小。这一结果意味着,在这些假设下,任何具有非平凡功效的检验都会表现出尺寸失真。接下来,我们提供了一个充分加强的标准假设下,我们表明,在文献中的一个新的测试可以控制限制大小。
2016-11-15 stat.ME
Estimating the Ratio of Two Functions in a Nonparametric Regression Model
由于测量噪声的存在,如何估计两个函数的比值是各个领域中普遍存在的问题。本文研究了非参数回归模型中两个函数之比的估计问题。假设噪声是正态分布的,这相当于估计两个正态分布随机变量的均值比。我们确定了一个相合估计量,当以高概率事件为条件时,它给出了$O(1/n)$阶的均方损失($n$是样本量)。我们还提出了我们的结果适用于实际数据从EAPS和模拟数据,证实了我们的理论结果。
2013-11-26 stat.ME
Extrapolation Estimation for Nonparametric Regression with Measurement Error
针对协变量含有正态测量误差的非参数回归模型,提出了一种估计非参数回归函数的外推算法。通过将条件期望直接应用于局部线性近似与观测响应之间的偏差的核加权最小二乘,该算法成功地绕过了经典模拟外推法所需的模拟步骤,从而显著减少了计算时间.注意,所提出的方法还提供了外推函数的精确形式,但是如果带宽小于测量误差的标准差,则通常不能通过简单地将拟合的外推函数中的外推变量设置为负一来获得外推估计。大样本特性的估计过程进行了讨论,以及模拟研究和一个真实的数据例子进行说明其应用。
2021-07-27 stat.ME
A Latent-Variable Bayesian Nonparametric Regression Model
本文介绍了贝叶斯非参数回归的一个随机划分模型。该模型是基于无限多的不相交区域的范围内的潜在协变量依赖的高斯过程。给定该过程的实现,共享公共区域的因变量响应的集群被假设为来自相同的分布。而且,潜在的高斯过程先验允许随机划分(即,观察的集群)以展示彼此之间的依赖性。该模型通过对教育产生的真实数据集的分析,以及通过对从复杂的数据生成模型生成的模拟数据的分析来说明。
2013-01-02 stat.ME
Robust Bayesian Nonparametric Variable Selection for Linear Regression
钉板和马蹄回归可以说是最流行的贝叶斯变量选择方法的线性回归模型。然而,如果数据中存在离群值和异方差,则其性能可能会恶化,这是许多现实世界统计和机器学习应用中的常见特征。在这项工作中,我们提出了一个贝叶斯非参数方法线性回归,执行变量选择,同时考虑离群值和异方差。我们提出的模型是一个狄利克雷过程尺度混合模型的优点,我们可以得到完整的条件分布的所有参数在封闭的形式,从而产生一个有效的吉布斯采样后验推理的一个实例。此外,我们提出了如何扩展模型,以考虑重尾的响应变量。该模型的性能进行了测试,对竞争算法的合成和真实世界的数据集。
2022-10-19 stat.ME
Linear programming approach to nonparametric inference under shape restrictions: with an application to regression kink designs
我们开发了一种在形状约束下构建非参数回归函数置信带的新方法。该方法可以通过线性规划实现,因此在计算上具有吸引力。我们说明了我们所提出的方法与应用程序的回归折点设计(RKD)的用法。基于RKD的计量经济学分析由于非参数导数估计的收敛速度慢,经常会遇到置信区间较宽的问题。我们证明,经济模型和结构激励形状的限制,这反过来又有助于缩小置信区间的失业保险金对失业持续时间的因果关系的分析。
2021-02-12 econ.EM stat.ME
Bayesian surface regression versus spatial spectral nonparametric curve regression
分析了2020年2月至10月期间部分西班牙社区省份的COVID-19发病率。两个无限维回归方法进行了测试。第一个是在Ruiz-Medina,Miranda和Espejo(2019)中介绍的回归框架中实现的。具体地说,一个baidom框架中采用的时间自相关算子的纯点谱的估计,表征表面序列的二阶结构。第二种方法是在空间曲线回归的背景下制定的。基于空间周期图算子,计算谱密度算子的非参数估计量来逼近曲线之间的空间相关性。降维是通过投影到长期空间协方差算子的经验特征向量上来实现的。交叉验证程序来测试两个功能回归方法的性能。
2021-10-30 stat.AP stat.ME
Nonparametric C- and D-vine based quantile regression
分位数回归是统计建模中重要性稳步增长的领域。它是线性回归的一种补充方法,因为计算一系列条件分位数函数可以更准确地建模变量之间的随机关系,特别是在尾部。我们介绍了一个非限制性的和高度灵活的非参数分位数回归方法的基础上C和D藤连接。藤连接允许对数据中的边缘分布和依赖结构进行单独建模,并且可以通过由树序列给出的图论模型来表示。通过这种方式,我们得到了一个分位数回归模型,它克服了分位数回归的典型问题,如分位数交叉或共线性,需要转换和变量的相互作用。我们的方法采用了两步提前排序的变量,通过最大化的树序列的条件对数似然,同时考虑到未来两个树的水平。此外,我们证明了非参数条件分位数估计是相容的。所提出的方法的性能进行评估,在低维和高维设置使用模拟和真实世界的数据。结果支持所提出的模型的优越的预测能力。
2021-11-16 stat.ME
Broadcasted Nonparametric Tensor Regression
本文提出广播式非参数张量回归方法,通过将单变量函数分配到张量协变量各条目来建模非线性,并给出惩罚估计算法、收敛性理论及极小极大下界,实验表明其优于现有线性模型。
2024-03-23 stat.ME
Nonparametric regression for a circular response with error-in-covariate
本文针对协变量含测量误差的圆形响应回归问题,基于无误差假设下的现有估计量,利用反卷积算符提出三种非参数估计量,并开发了更高效的带宽选择方法,通过渐近分析和有限样本实证验证了其有效性。
2025-08-21 stat.ME
Bayesian Nonparametric Instrumental Variable Regression Approach to Quantile Inference
本研究扩展了贝叶斯非参数工具变量回归模型,以确定协变量对响应变量条件分位数的结构效应。误差分布是使用二元正态分布的Dirichlet混合物非参数建模的。均值函数包括以加法方式使用样条函数表示的协变量的平滑效应。第二阶段误差的条件方差也使用样条函数建模,使得它随协变量平滑地变化。因此,所提出的模型允许相当大的灵活性,在形状的分位数函数,同时校正的内消效应。该模型的后验推理是基于马尔可夫链蒙特卡罗方法,不需要大都会黑斯廷斯更新。使用模拟和真实的数据在日本的死亡率在两次世界大战期间的方法进行了演示。
2016-08-29 stat.ME
Debiased Nonparametric Regression for Statistical Inference and Distributionally Robustness
The University of Tokyo(东京大学)
本文提出一种无模型的非参数回归去偏方法,通过加入估计条件期望残差的校正项,使估计量在温和条件下具备风险收敛与渐近正态性,从而支持统计推断并提升协变量偏移下的鲁棒性。
2025-03-17 cs.LG econ.EM math.ST
Dimension reduction-based significance testing in nonparametric regression
针对非参数回归模型,提出了一种基于降维的自适应模型检验方法。与现有的局部平滑显著性检验不同,新的检验表现得像一个局部平滑检验,就好像协变量的数量只是原假设下的协变量的数量,并且它可以以仅与原假设下的协变量的数量相关的速率检测不同于原假设的局部替代品。因此,当不可避免地需要非参数估计时,维数灾难在很大程度上得到缓解。在有许多不显著的协变量的情况下,新的测试的改进是非常显着的显着性水平的维持和功率增强现有的局部平滑测试。仿真研究和实际数据分析进行了有限样本的性能测试。
2015-10-13 stat.ME
Nonparametric Regression and Classification with Functional, Categorical, and Mixed Covariates
我们考虑多个协变量的非参数预测,特别是分类或功能预测,或两者的混合。所提出的方法基于Nadaraya-Watson估计器的扩展,其中核函数应用于距离测量的线性组合,每个距离测量是在单个协变量上计算的,权重是从训练数据中估计的。因变量可以是分类的(二元或多类)或连续的,因此我们考虑分类和回归问题。人工和真实世界的数据说明和评估所提出的方法。特别地,可以观察到,可以增加预测精度,并且可以通过以完全数据驱动的方式“降级”对应的距离测量来识别/去除不相关的噪声变量。
2022-08-04 stat.ME
Conformal Prediction for Nonparametric Instrumental Regression
本文提出一种非参数工具变量回归中无分布预测区间构造方法,提供有限样本覆盖保证。基于符合推断的条件保证框架,将条件覆盖转化为IV位移类$\mathcal{F}$上的边际覆盖。方法可与任意NPIV估计器结合,如sieve 2SLS及其他机器学习方法。理论分析建立无分布、有限样本覆盖。
2026-03-26 cs.LG econ.EM stat.AP
Some Theoretical Results Concerning Time-varying Nonparametric Regression with Local Stationary Regressors and Error
关于李和游在Journal of Applied Statistics and Management中提出的一个三步估计方法,对于具有时变回归函数、局部平稳回归变量和时变AR(p)(tvAR(p))误差过程的非参数回归模型,我们建立了每个估计的所有必要的渐近性质.给出了非参数回归函数初估计的收敛速度和渐近正态性,建立了误差项中时变系数函数的渐近分布,并给出了非参数回归函数加细估计的渐近性质.此外,对于变量选择的ULASSO方法和误差项结构的常系数检测,我们证明了ULASSO估计能够一致地识别真实的误差项结构.我们进行了两个模拟研究,以说明有限样本性能的估计和验证我们的理论讨论的性质的估计。
2020-10-24 math.ST stat.ME stat.TH
Iterative Estimation of Nonparametric Regressions with Continuous Endogenous Variables and Discrete Instruments
针对仅有离散工具变量且含连续内生变量的非参数回归模型,提出一种求解非线性积分方程的简单迭代估计方法,并通过模拟实验和教育回报实证验证了其渐近性质与有效性。
2024-10-17 econ.EM stat.ME
Bayesian nonparametric scalar-on-image regression via Potts-Gibbs random partition models
标量图像回归旨在研究基于高维成像数据的感兴趣标量响应的变化。我们提出了一种新的贝叶斯非参数标量图像回归模型,利用体素的空间坐标组体素具有相似的影响的响应有一个共同的系数。我们采用Potts-Gibbs随机分区模型作为随机分区的先验,其中分区过程是空间依赖的,从而鼓励代表空间连续区域的组。此外,贝叶斯收缩先验用于识别与预测最相关的协变量和区域。使用模拟数据集说明了所提出的模型。
2022-06-22 stat.AP stat.ME
Fuzzy sets in nonparametric Bayes regression
一个简单的贝叶斯方法非参数回归描述使用模糊集和隶属函数。隶属函数被解释为未知回归函数的似然函数,因此借助于参考先验,它们可以被转换为先验密度函数。未知的回归函数被分解成小波和分层贝叶斯方法是用于对所得到的小波系数进行推断。
2008-05-21 math.LO math.ST stat.ME
Bayesian bandwidth estimation for a nonparametric functional regression model with mixed types of regressors and unknown error density
在误差密度未知的框架下,研究了具有函数值、连续实值和离散值回归变量的非参数函数回归模型的带宽估计问题.从Shang(2013,Computational Statistics & Data Analysis)的最近工作扩展,我们通过残差的核密度估计来近似未知误差密度,其中回归函数由允许混合类型回归变量的函数Nadaraya-Watson估计器估计。在核形式误差密度下,推导了带宽参数的核似然和后验密度,提出了一种同时估计带宽的贝叶斯带宽估计方法。仿真研究表明,所提出的贝叶斯方法的回归函数和误差密度的估计精度。以食品质量控制中的光谱数据集为例,我们应用贝叶斯方法来选择具有混合类型回归变量的非参数函数回归模型中的最佳带宽。
2014-03-08 stat.CO stat.ME
Bandwidth selection for nonparametric modal regression
在核密度估计的基础上估计局部模式的条件密度的背景下,我们表明,现有的核密度估计开发的带宽选择方法是不适合模式估计。我们提出了两种方法来选择适合于回归设置中的模式估计的带宽。使用合成数据和现实生活中的数据集进行了数值研究,以证明所提出的方法的性能相比,几个良好的接收带宽选择方法的密度估计。
2017-11-01 stat.CO stat.ME
Density-valued time series: Nonparametric density-on-density regression
本文提出一种基于非参数函数对函数回归的概率密度函数预测方法,解决了密度数据非线性受约束导致传统预测困难的问题,并从理论和实验上验证了其准确性与有效性。
2025-10-12 stat.AP stat.ME
Nonparametric principal subspace regression
在科学应用中,多变量观测通常与时间或空间协变量相结合,其潜在信号平滑地变化。标准的方法如主成分分析和因子分析忽略了数据的光滑性,而多元线性或非参数回归不能利用多变量响应变量之间的相关信息。我们提出了一种新的方法命名为非参数主子空间回归,以克服这些问题。通过解耦模型差异,引入了一个简单而通用的两步框架,这给模型拟合的选择留下了很大的灵活性。建立了具有理论属性的一般框架,并提供了既满足要求又享有理论保障的实施程序。我们证明了良好的有限样本的性能,所提出的方法,通过模拟和实际数据的应用,从脑电图研究。
2019-10-12 math.ST stat.ME stat.TH
Sequential Nonparametric Regression
Carnegie Mellon University(卡内基梅隆大学);University of Chicago(芝加哥大学)
我们提出的算法非参数回归的设置中的数据是连续获得的。虽然传统的估计器选择的带宽取决于样本量,对于连续数据的有效样本量是动态变化的。我们提出了一个线性时间算法,调整每个新的数据点的带宽,并显示估计达到最佳的极小极大收敛速度。我们还提出了使用在线专家混合算法来适应未知的光滑的回归函数。我们提供的模拟证实了理论结果,并证明了方法的有效性。
2012-06-27 astro-ph.IM cs.LG stat.ME