Efficient estimation of the error distribution function in heteroskedastic nonparametric regression with missing data
本文提出了一种基于残差的经验分布函数来估计响应随机缺失的异方差非参数回归的误差分布函数,并证明了这种估计是渐近最精确的.
2016-10-27 stat.ME
A note on wavelet shrinkage in nonparametric regression models with ARFIMA errors
本文针对带ARFIMA误差的非参数回归模型,提出一种收缩小波估计方法,并通过蒙特卡洛实验证明其优于通用阈值规则。
2025-05-10 stat.ME
Robust nonparametric regression: review and practical considerations
本文综述了非参数回归模型的离群点稳健估计方法,探讨了稳健带宽选择策略,并介绍了适用于多变量场景的高扩展性稳健回归方法。
2023-04-05 stat.ME
Locally Adaptive Nonparametric Binary Regression
本文提出了一种非参数局部自适应贝叶斯估计器来估计二元回归。通过将二元回归建模为概率单位回归的混合物来获得灵活性,其中每个概率单位回归的参数具有薄板样条,其具有自己的平滑参数,并且混合物权重取决于协变量。估计相比,一个单一的样条估计和最近提出的局部自适应估计。通过将其应用到模拟和真实的例子说明了该方法。
2007-09-21 stat.ME
Parametric versus Semi and Nonparametric Regression Models
三种类型的回归模型研究人员需要熟悉和了解每一个的要求:参数,半参数和非参数回归模型。所使用的建模类型基于关于响应变量和解释变量之间的关系的形式以及随机误差分布的可用信息量。本文介绍了模型之间的差异、常用的估计方法、抗差估计稳健估计及其应用。本文中所有图表和分析的R代码可在附录中找到。
2019-06-24 stat.ME
Nonparametric multivariate regression estimation for circular responses
本文研究了具有圆响应的回归函数的非参数估计和R_d值预测量。局部多项式型估计的建议和研究。导出了它们的渐近偏差和方差的表达式,并给出了选择渐近局部最优带宽矩阵的准则。有限样本的行为,建议的估计评估通过模拟和他们的表现也说明了一个真实的数据集。
2020-04-13 stat.ME
Nonparametric multimodal regression for circular data
本文针对包含循环响应变量和/或协变量的回归模型,提出基于条件密度最大化的非参数多模态回归估计方法,利用均值偏移和循环均值偏移算法的条件版本进行估计,并研究了其渐近性质与带宽选择问题。
2020-12-17 stat.ME
Nonparametric Conditional Inference for Regression Coefficients with Application to Configural Polysampling
我们认为推断程序,条件上观察到的从属统计量,为回归系数下的线性回归设置未知的误差分布指定非参数。在正则条件下,建立了回归系数估计的条件渐近正态性,并证明了条件推断过程中核型密度估计的插入方法.仿真结果表明,该方法在构造置信区间时,可以得到精确的条件覆盖概率。插件的方法可以应用于与神经多元采样,以获得强大的条件估计自适应对抗的对比方案。我们证明了这一点,通过调查的条件均方误差的位置估计在各种对抗的模拟研究,成功地扩展到一个非参数的背景下,几何多抽样。
2007-10-30 stat.ME
Nonparametric Regression and Error Covariance Function Estimation -- Beyond Short-Range Dependence
针对非参数回归中误差相关性衰减缓慢的问题,提出特殊核函数与带宽选择步骤及误差协方差函数非参数估计,在理论和模拟中均获显著改进并验证了实际应用价值。
2025-04-27 stat.ME
Bayesian Nonparametric Modeling for Multivariate Ordinal Regression
通常假设单变量或多变量有序响应来自潜在连续参数分布,协变量效应线性进入。本文介绍了一种单变量和多变量有序回归的贝叶斯非参数建模方法,该方法基于潜响应和协变量的联合分布的混合建模。建模框架可以高度灵活地推断有序回归关系,避免协变量效应中的线性或加性假设。在标准参数有序回归模型中,计算挑战来自于可识别性约束和需要非标准推理技术的参数估计。非参数模型的一个关键特征是它实现了推理的灵活性,同时避免了这些困难。特别是,我们建立了充分支持的非参数混合模型下的固定截止点,通过离散化的潜在连续响应与顺序响应。通过应用到两个数据集的计量经济学,一个例子,涉及臭氧浓度的回归关系,和多评价协议问题的建模方法的实际效用说明。
2016-09-20 stat.ME
Wavelet Shrinkage in Nonparametric Regression Models with Positive Noise
小波收缩估计器通过降低经验系数的大小来对小波域的数据进行去噪,在许多科学领域中得到了广泛的应用。在非参数回归问题中,大多数的收缩规则都是由带有加性高斯噪声的未知函数组成的模型推导出来的。虽然高斯噪声假设在一些实际数据分析中是合理的,主要是在大样本量的情况下,但它并不普遍。在实际应用中,正噪声污染数据是经常出现的,正噪声污染的非参数回归模型给小波收缩带来了挑战。本文在指数和对数正态分布下,利用加性和严格正噪声的非参数回归框架,提出了一种估计小波系数的贝叶斯收缩规则。计算方面进行了讨论和模拟研究,以分析所提出的收缩规则的性能,并与标准技术进行比较。最后给出了在波士顿马拉松比赛数据集上的应用.
2021-09-13 stat.ME
Simultaneous confidence bands for nonparametric regression with partially missing covariates
本文考虑了协变量随机缺失的非参数回归的基于逆选择概率的加权局部线性估计。导出了估计量与真实回归函数之间的最大偏差的渐近分布,并构造了渐近精确的同时置信带。回归函数的估计被证明是oracally有效的意义上说,它是一致的不可区分的,当选择概率是已知的。有限样本性能通过模拟研究,支持我们的渐近理论。通过对加拿大2010/2011年青年学生调查数据集的分析,证明了所提出的方法。
2020-02-28 stat.ME
An Online Projection Estimator for Nonparametric Regression in Reproducing Kernel Hilbert Spaces
非参数回归的目标是在假设回归函数属于预先指定的无穷维函数空间的情况下,从噪声观测值中恢复潜在的回归函数。在在线设置中,当观测值以流的形式出现时,重复地重新拟合整个模型在计算上通常是不可行的。到目前为止,还没有既计算效率又统计速率最优的方法。本文提出了在线非参数回归的一种估计。值得注意的是,我们的估计是一个经验风险最小化(ERM)在一个确定性的线性空间,这是很大的不同,从现有的方法使用随机功能和功能随机梯度。理论分析表明,当已知回归函数存在于再生核Hilbert空间中时,该估计器具有速率最优的推广误差。我们还表明,理论和经验,我们的估计的计算费用远低于其他速率最优估计提出了这种在线设置。
2021-04-01 stat.ME
A Bayesian Nonparametric Causal Model for Regression Discontinuity Designs
对于非随机化研究,在相对温和的条件下,回归不连续设计(RDD)可用于识别和估计“局部随机化”受试者亚组的因果效应。然而,当前模型通过线性回归将因果推断集中在治疗(与非治疗)变量对因变量均值的影响上。对于RDD,我们提出了一个灵活的贝叶斯非参数回归模型,可以提供准确的估计因果关系的影响,在预测均值,方差,分位数,概率密度,分布函数,或任何其他选择的功能的结果变量。我们通过两个真实的教育数据集的分析来说明该模型,涉及(分别)一个清晰的RDD和一个模糊的RDD。
2015-02-11 stat.ME
Distributed nonparametric regression imputation for missing response problems with large-scale data
针对大规模数据缺失响应问题,本文提出基于核平滑和筛方法的两种分布式非参数回归插补方法,并证明所得响应均值估计量渐近正态且达到半参数效率界。
2023-01-08 stat.ME
Appropriate use of parametric and nonparametric methods in estimating regression models with various shapes of errors
本文提出了一种实用的回归模型估计方法,它采用半参数有效得分函数,适用于具有各种形状误差的数据。首先,我推导出半参数有效的分数向量的同方差回归模型没有任何假设的错误。接下来,可以根据误差分布的形状假设误差的特定参数分布或者通过非参数地估计误差分布来修改半参数有效得分函数。误差的非参数方法可用于估计感兴趣的参数或找到适当的参数误差分布。在这方面,所提出的估计方法适当地利用参数和非参数方法的误差。通过数值研究,所提出的估计方法的性能进行了论证。
2023-01-20 stat.ME
Scalable Bayesian nonparametric regression via a Plackett-Luce model for conditional ranks
我们提出了一种新的贝叶斯非参数回归模型的协变量X和连续的,真正的响应变量Y。该模型根据Y和X的边缘分布以及调整条件分布F(y)的随机排序的回归函数进行参数化|x)。通过采用近似的复合似然方法,我们表明,由此产生的后验推理可以解耦的模型的单独组件。该过程可以扩展到非常大的数据集,并允许使用来自贝叶斯非参数密度估计和Plackett-Luce排名估计的标准现有软件。作为一个例子,我们展示了我们的方法在美国人口普查数据集上的应用,该数据集有超过130万个数据点和100多个协变量。
2015-06-24 stat.ME
Optimal-$k$ difference sequence in nonparametric regression
基于差分的方法在非参数回归中得到了越来越多的关注,特别是在估计残差方差时,需要在{ \em最优差分序列}和{ \em普通差分序列}之间选择合适的差分序列。差分序列的选择是非参数回归中的一个基本问题,三十多年来一直是一个有争议的问题。在本文中,我们建议从一个非常独特的角度来解决这个具有挑战性的问题,即通过引入一个新的差分序列称为{ \em的最佳- $k$差分序列}。新的差分序列不仅提供了一个更好的平衡之间的偏差方差的权衡,但也显着扩大了现有的家庭的差分序列,其中包括最佳和普通差分序列作为两个重要的特殊情况。我们进一步证明,通过理论和数值研究,最佳的$k$差分序列已经推动了我们的知识的边界,在基于差分的方法在非参数回归,它总是在实际情况下表现最好。
2022-11-28 stat.ME
Nonparametric quantile regression for twice censored data
研究了两次删失数据的非参数分位数回归问题。利用单调重排的概念对条件分布函数的估计进行构造,给出了两个新的估计。所提出的方法避免了交叉分位数曲线的问题。建立了这两种估计的弱一致相合性和弱收敛性,并通过模拟研究了它们的有限样本性质。作为一个副产品,我们得到了一个新的结果,关于弱收敛的右删失数据的Beran估计的最大可能区域上,这是自己的兴趣。
2012-06-12 stat.ME
A Nonparametric Bayesian Technique for High-Dimensional Regression
本文提出了一个非参数贝叶斯框架称为VariScan的同时聚类,变量选择和预测在高通量回归设置。Poisson-Dirichlet过程用于检测协变量的低维潜在聚类。为响应构造了自适应非线性预测模型,实现了模型简约性和灵活性之间的平衡。与传统的信念相反,集群检测显示为后验一致的一般类的模型的协变量和主题的数量的增长。仿真研究和数据分析表明,VariScan往往优于几个著名的统计方法。
2016-04-12 stat.ME
A model specification test for the variance function in nonparametric regression
在完全非参数回归模型中考虑了条件方差参数形式的检验问题。提出了一种基于原假设和备择假设下残差经验特征函数之间加权$L_2$ -距离的检验统计量,并进行了理论研究。得到了检验统计量的零渐近分布,并用来逼近临界值。在几个蒙特卡罗实验中数值研究了所提出的测试的有限样本特性。开发的结果假设独立的数据。它们的扩展相关的意见进行了讨论。
2018-07-23 stat.ME
A Unified Bayesian Nonparametric Framework for Ordinal, Survival, and Density Regression Using the Complementary Log-Log Link
本文提出统一贝叶斯非参数框架,利用互补对数-对数链接解决有序回归、生存分析和密度回归问题,结合贝叶斯加性回归树实现便捷计算并验证理论性质。
2025-02-02 stat.ME
Nonparametric M-estimation for right censored regression model with stationary ergodic data
研究了平稳遍历右删失回归模型的非参数M-估计。定义为隐函数,当协变量取值于R^d(d >= 1)且数据来自平稳遍历过程时,考虑了稳健回归族的核型估计.在较弱的假设下,证明了估计量的强相合性(含率)和渐近分布。此外,提供了一个可用的置信区间,它不依赖于任何未知量。我们的结果在没有任何混合条件下成立,并且不需要存在边缘密度。还提供了基于模拟数据的比较研究。
2016-04-29 stat.ME
On Nonparametric Inference in the Regression Discontinuity Design
本文研究了非参数检验在回归不连续设计中的有效性问题。感兴趣的原假设是,在所谓的锐设计中,阈值处的平均处理效应等于预定值。我们首先表明,在大多数文献中使用的假设下,对于\emph{any}测试的权力对任何替代品是有界的大小。这一结果意味着,在这些假设下,任何具有非平凡功效的检验都会表现出尺寸失真。接下来,我们提供了一个充分加强的标准假设下,我们表明,在文献中的一个新的测试可以控制限制大小。
2016-11-15 stat.ME
Estimating the Ratio of Two Functions in a Nonparametric Regression Model
由于测量噪声的存在,如何估计两个函数的比值是各个领域中普遍存在的问题。本文研究了非参数回归模型中两个函数之比的估计问题。假设噪声是正态分布的,这相当于估计两个正态分布随机变量的均值比。我们确定了一个相合估计量,当以高概率事件为条件时,它给出了$O(1/n)$阶的均方损失($n$是样本量)。我们还提出了我们的结果适用于实际数据从EAPS和模拟数据,证实了我们的理论结果。
2013-11-26 stat.ME
Extrapolation Estimation for Nonparametric Regression with Measurement Error
针对协变量含有正态测量误差的非参数回归模型,提出了一种估计非参数回归函数的外推算法。通过将条件期望直接应用于局部线性近似与观测响应之间的偏差的核加权最小二乘,该算法成功地绕过了经典模拟外推法所需的模拟步骤,从而显著减少了计算时间.注意,所提出的方法还提供了外推函数的精确形式,但是如果带宽小于测量误差的标准差,则通常不能通过简单地将拟合的外推函数中的外推变量设置为负一来获得外推估计。大样本特性的估计过程进行了讨论,以及模拟研究和一个真实的数据例子进行说明其应用。
2021-07-27 stat.ME
A Latent-Variable Bayesian Nonparametric Regression Model
本文介绍了贝叶斯非参数回归的一个随机划分模型。该模型是基于无限多的不相交区域的范围内的潜在协变量依赖的高斯过程。给定该过程的实现,共享公共区域的因变量响应的集群被假设为来自相同的分布。而且,潜在的高斯过程先验允许随机划分(即,观察的集群)以展示彼此之间的依赖性。该模型通过对教育产生的真实数据集的分析,以及通过对从复杂的数据生成模型生成的模拟数据的分析来说明。
2013-01-02 stat.ME
Robust Bayesian Nonparametric Variable Selection for Linear Regression
钉板和马蹄回归可以说是最流行的贝叶斯变量选择方法的线性回归模型。然而,如果数据中存在离群值和异方差,则其性能可能会恶化,这是许多现实世界统计和机器学习应用中的常见特征。在这项工作中,我们提出了一个贝叶斯非参数方法线性回归,执行变量选择,同时考虑离群值和异方差。我们提出的模型是一个狄利克雷过程尺度混合模型的优点,我们可以得到完整的条件分布的所有参数在封闭的形式,从而产生一个有效的吉布斯采样后验推理的一个实例。此外,我们提出了如何扩展模型,以考虑重尾的响应变量。该模型的性能进行了测试,对竞争算法的合成和真实世界的数据集。
2022-10-19 stat.ME
Nonparametric C- and D-vine based quantile regression
分位数回归是统计建模中重要性稳步增长的领域。它是线性回归的一种补充方法,因为计算一系列条件分位数函数可以更准确地建模变量之间的随机关系,特别是在尾部。我们介绍了一个非限制性的和高度灵活的非参数分位数回归方法的基础上C和D藤连接。藤连接允许对数据中的边缘分布和依赖结构进行单独建模,并且可以通过由树序列给出的图论模型来表示。通过这种方式,我们得到了一个分位数回归模型,它克服了分位数回归的典型问题,如分位数交叉或共线性,需要转换和变量的相互作用。我们的方法采用了两步提前排序的变量,通过最大化的树序列的条件对数似然,同时考虑到未来两个树的水平。此外,我们证明了非参数条件分位数估计是相容的。所提出的方法的性能进行评估,在低维和高维设置使用模拟和真实世界的数据。结果支持所提出的模型的优越的预测能力。
2021-11-16 stat.ME
Broadcasted Nonparametric Tensor Regression
本文提出广播式非参数张量回归方法,通过将单变量函数分配到张量协变量各条目来建模非线性,并给出惩罚估计算法、收敛性理论及极小极大下界,实验表明其优于现有线性模型。
2024-03-23 stat.ME
Nonparametric regression for a circular response with error-in-covariate
本文针对协变量含测量误差的圆形响应回归问题,基于无误差假设下的现有估计量,利用反卷积算符提出三种非参数估计量,并开发了更高效的带宽选择方法,通过渐近分析和有限样本实证验证了其有效性。
2025-08-21 stat.ME
Bayesian Nonparametric Instrumental Variable Regression Approach to Quantile Inference
本研究扩展了贝叶斯非参数工具变量回归模型,以确定协变量对响应变量条件分位数的结构效应。误差分布是使用二元正态分布的Dirichlet混合物非参数建模的。均值函数包括以加法方式使用样条函数表示的协变量的平滑效应。第二阶段误差的条件方差也使用样条函数建模,使得它随协变量平滑地变化。因此,所提出的模型允许相当大的灵活性,在形状的分位数函数,同时校正的内消效应。该模型的后验推理是基于马尔可夫链蒙特卡罗方法,不需要大都会黑斯廷斯更新。使用模拟和真实的数据在日本的死亡率在两次世界大战期间的方法进行了演示。
2016-08-29 stat.ME
Nonparametric modal regression with missing response observations
针对响应变量存在缺失观测值的问题,本文调整了非参数众数回归工具,通过广泛模拟研究考察多种插补方法,并用实际数据示例验证了其有效性。
2025-04-07 stat.ME
Dimension reduction-based significance testing in nonparametric regression
针对非参数回归模型,提出了一种基于降维的自适应模型检验方法。与现有的局部平滑显著性检验不同,新的检验表现得像一个局部平滑检验,就好像协变量的数量只是原假设下的协变量的数量,并且它可以以仅与原假设下的协变量的数量相关的速率检测不同于原假设的局部替代品。因此,当不可避免地需要非参数估计时,维数灾难在很大程度上得到缓解。在有许多不显著的协变量的情况下,新的测试的改进是非常显着的显着性水平的维持和功率增强现有的局部平滑测试。仿真研究和实际数据分析进行了有限样本的性能测试。
2015-10-13 stat.ME
Improved inference for nonparametric regression and regression-discontinuity designs
University of Bologna(博洛尼亚大学);Exeter Business School(埃克塞特商学院);McGill University(麦吉尔大学);CIREQ(魁北克经济学研究中心);Aarhus Center for Econometrics(奥胡斯计量经济学中心);Aarhus University(奥胡斯大学)
本文提出了一种基于自助预翻转的改进非参数推断方法,显著缩短置信区间长度而不影响覆盖率。
2026-03-06 econ.EM stat.ME
Spatially-adaptive sensing in nonparametric regression
虽然自适应感测在稀疏回归和分类中提供了改进的收敛速率,但非参数回归中的结果到目前为止仅限于非常特定的函数类。在本文中,我们描述了一个自适应传感算法,适用于一般的非参数回归问题。该算法是空间自适应的,并实现了空间非齐次函数的收敛速度提高。在标准函数类上,它同样保留了均匀设计的空间自适应特性。
2013-03-13 math.ST stat.ME stat.TH
A Robust Seemingly Unrelated Regressions For Row-Wise And Cell-Wise Contamination
似不相关回归(SUR)模型是计量经济学、保险和金融中广泛使用的估计方法,其中回归模型通常包含一个以上的方程。未知参数,回归系数和协方差之间的误差项,估计使用算法的基础上广义最小二乘或极大似然,该方法,作为一个整体,是非常敏感的离群值。为了克服这个问题,M-估计和S-估计在文献中提出了快速算法。然而,这些程序只能处理误差项中的行式离群值,而当存在单元式离群值时以及随着方程数量的增加,它们的性能变得非常差。提出了一种新的鲁棒方法,该方法在两种污染类型下都能很好地执行,并且计算速度快。基于蒙特卡罗模拟和一个真实的数据例子的说明。
2021-07-02 stat.AP stat.ME
Linear programming approach to nonparametric inference under shape restrictions: with an application to regression kink designs
我们开发了一种在形状约束下构建非参数回归函数置信带的新方法。该方法可以通过线性规划实现,因此在计算上具有吸引力。我们说明了我们所提出的方法与应用程序的回归折点设计(RKD)的用法。基于RKD的计量经济学分析由于非参数导数估计的收敛速度慢,经常会遇到置信区间较宽的问题。我们证明,经济模型和结构激励形状的限制,这反过来又有助于缩小置信区间的失业保险金对失业持续时间的因果关系的分析。
2021-02-12 econ.EM stat.ME
Bayesian surface regression versus spatial spectral nonparametric curve regression
分析了2020年2月至10月期间部分西班牙社区省份的COVID-19发病率。两个无限维回归方法进行了测试。第一个是在Ruiz-Medina,Miranda和Espejo(2019)中介绍的回归框架中实现的。具体地说,一个baidom框架中采用的时间自相关算子的纯点谱的估计,表征表面序列的二阶结构。第二种方法是在空间曲线回归的背景下制定的。基于空间周期图算子,计算谱密度算子的非参数估计量来逼近曲线之间的空间相关性。降维是通过投影到长期空间协方差算子的经验特征向量上来实现的。交叉验证程序来测试两个功能回归方法的性能。
2021-10-30 stat.AP stat.ME
Iterative Estimation of Nonparametric Regressions with Continuous Endogenous Variables and Discrete Instruments
针对仅有离散工具变量且含连续内生变量的非参数回归模型,提出一种求解非线性积分方程的简单迭代估计方法,并通过模拟实验和教育回报实证验证了其渐近性质与有效性。
2024-10-17 econ.EM stat.ME
Bayesian nonparametric scalar-on-image regression via Potts-Gibbs random partition models
标量图像回归旨在研究基于高维成像数据的感兴趣标量响应的变化。我们提出了一种新的贝叶斯非参数标量图像回归模型,利用体素的空间坐标组体素具有相似的影响的响应有一个共同的系数。我们采用Potts-Gibbs随机分区模型作为随机分区的先验,其中分区过程是空间依赖的,从而鼓励代表空间连续区域的组。此外,贝叶斯收缩先验用于识别与预测最相关的协变量和区域。使用模拟数据集说明了所提出的模型。
2022-06-22 stat.AP stat.ME
An automatic procedure to determine groups of nonparametric regression curves
在许多情况下,确定非参数回归曲线是否可以分组可能是有趣的,特别是当面对大量曲线时。拟议的测试程序允许确定组与自动选择其数量。一个模拟研究,以调查所提出的方法相比,现有的替代程序的有限样本特性。最后,证明了该程序的适用性,通过分析一组横截面来研究隧道的几何形状。结果表明,隧道几何形状存在一定的不均匀性。
2021-01-31 stat.ME stat.ML
Bayesian bandwidth estimation for a nonparametric functional regression model with mixed types of regressors and unknown error density
在误差密度未知的框架下,研究了具有函数值、连续实值和离散值回归变量的非参数函数回归模型的带宽估计问题.从Shang(2013,Computational Statistics & Data Analysis)的最近工作扩展,我们通过残差的核密度估计来近似未知误差密度,其中回归函数由允许混合类型回归变量的函数Nadaraya-Watson估计器估计。在核形式误差密度下,推导了带宽参数的核似然和后验密度,提出了一种同时估计带宽的贝叶斯带宽估计方法。仿真研究表明,所提出的贝叶斯方法的回归函数和误差密度的估计精度。以食品质量控制中的光谱数据集为例,我们应用贝叶斯方法来选择具有混合类型回归变量的非参数函数回归模型中的最佳带宽。
2014-03-08 stat.CO stat.ME
Bandwidth selection for nonparametric modal regression
在核密度估计的基础上估计局部模式的条件密度的背景下,我们表明,现有的核密度估计开发的带宽选择方法是不适合模式估计。我们提出了两种方法来选择适合于回归设置中的模式估计的带宽。使用合成数据和现实生活中的数据集进行了数值研究,以证明所提出的方法的性能相比,几个良好的接收带宽选择方法的密度估计。
2017-11-01 stat.CO stat.ME
Density-valued time series: Nonparametric density-on-density regression
本文提出一种基于非参数函数对函数回归的概率密度函数预测方法,解决了密度数据非线性受约束导致传统预测困难的问题,并从理论和实验上验证了其准确性与有效性。
2025-10-12 stat.AP stat.ME
Some Theoretical Results Concerning Time-varying Nonparametric Regression with Local Stationary Regressors and Error
关于李和游在Journal of Applied Statistics and Management中提出的一个三步估计方法,对于具有时变回归函数、局部平稳回归变量和时变AR(p)(tvAR(p))误差过程的非参数回归模型,我们建立了每个估计的所有必要的渐近性质.给出了非参数回归函数初估计的收敛速度和渐近正态性,建立了误差项中时变系数函数的渐近分布,并给出了非参数回归函数加细估计的渐近性质.此外,对于变量选择的ULASSO方法和误差项结构的常系数检测,我们证明了ULASSO估计能够一致地识别真实的误差项结构.我们进行了两个模拟研究,以说明有限样本性能的估计和验证我们的理论讨论的性质的估计。
2020-10-24 math.ST stat.ME stat.TH
Moving Taylor Bayesian Regression for nonparametric multidimensional function estimation with possibly correlated errors
我们提出了一个非参数的方法来估计的值和几个衍生物的未知的,足够光滑的实值函数的实值参数从一个有限的样本点,其中函数参数和相应的值是已知的,只有测量误差具有一些假设的分布和相关结构。该方法,移动泰勒贝叶斯回归(MOTABAR),使用贝叶斯更新,以找到泰勒多项式的函数在一个移动的位置的系数的后验均值。当忽略测量误差时,MOTABAR成为一种多元插值方法。它包含几个著名的回归和插值方法作为特殊或极限情况。我们证明了MOTABAR的性能使用的Lorenz吸引子从噪声观测的重建作为一个例子。
2012-04-12 physics.data-an stat.ME
Seemingly Unrelated Regression with Measurement Error: Estimation via Markov chain Monte Carlo and Mean Field Variational Bayes Approximation
在协变量中具有测量误差的线性回归是一个被大量研究的主题,然而,统计学/计量经济学文献几乎是沉默的估计一个多方程模型与测量误差。本文研究了协变量中含有测量误差的相依回归模型,介绍了两种新的估计方法:基于马尔可夫链蒙特卡罗技术的纯贝叶斯算法及其均值场变分贝叶斯(MFVB)近似. MFVB方法具有计算速度快的额外优势,可以处理大数据。与测量误差模型相关的问题是参数识别,并且这通过采用关于测量误差方差的先验分布来解决。该方法在多个模拟研究中表现良好,我们分析了由于数据生成过程中使用的真实未观测量的可靠性比或方差的不同值对后验估计的影响。本文进一步实现了所提出的算法在健康文献中的应用程序,并表明,建模数据中的测量误差可以提高模型拟合。
2020-06-12 econ.EM stat.ME
Nonparametric Regression under Cluster Sampling
本文在聚类依赖且聚类规模异质可增长的条件下,为非参数核回归建立了渐近理论,揭示了异质聚类规模引入的新方差项,并提出聚类稳健的带宽选择与推断方法,通过模拟和实证数据验证其有效性。
2024-12-28 econ.EM stat.ME
EM Approaches to Nonparametric Estimation for Mixture of Linear Regressions
针对线性回归混合模型,提出两种EM算法估计回归系数的先验分布,分别处理连续和离散情形,并验证了收敛性与有效性。
2025-10-16 stat.ME stat.ML
Large Deviation Results for the Nonparametric Regression Function Estimator on Functional Data
本文研究函数型数据下回归函数估计的大偏差行为。一个大偏差原则是为一个过程Zn,下面定义,允许导出一个逐点大偏差原则的Nadaraya-Watson型l-指数回归函数估计作为副产品。此外,一个统一的VC类切尔诺?类型大偏差的结果是针对L-指数回归估计量的偏差。
2011-11-25 math.ST stat.ME stat.TH
Fuzzy sets in nonparametric Bayes regression
一个简单的贝叶斯方法非参数回归描述使用模糊集和隶属函数。隶属函数被解释为未知回归函数的似然函数,因此借助于参考先验,它们可以被转换为先验密度函数。未知的回归函数被分解成小波和分层贝叶斯方法是用于对所得到的小波系数进行推断。
2008-05-21 math.LO math.ST stat.ME
Nonparametric principal subspace regression
在科学应用中,多变量观测通常与时间或空间协变量相结合,其潜在信号平滑地变化。标准的方法如主成分分析和因子分析忽略了数据的光滑性,而多元线性或非参数回归不能利用多变量响应变量之间的相关信息。我们提出了一种新的方法命名为非参数主子空间回归,以克服这些问题。通过解耦模型差异,引入了一个简单而通用的两步框架,这给模型拟合的选择留下了很大的灵活性。建立了具有理论属性的一般框架,并提供了既满足要求又享有理论保障的实施程序。我们证明了良好的有限样本的性能,所提出的方法,通过模拟和实际数据的应用,从脑电图研究。
2019-10-12 math.ST stat.ME stat.TH
Sequential Nonparametric Regression
Carnegie Mellon University(卡内基梅隆大学);University of Chicago(芝加哥大学)
我们提出的算法非参数回归的设置中的数据是连续获得的。虽然传统的估计器选择的带宽取决于样本量,对于连续数据的有效样本量是动态变化的。我们提出了一个线性时间算法,调整每个新的数据点的带宽,并显示估计达到最佳的极小极大收敛速度。我们还提出了使用在线专家混合算法来适应未知的光滑的回归函数。我们提供的模拟证实了理论结果,并证明了方法的有效性。
2012-06-27 astro-ph.IM cs.LG stat.ME