Debiased Nonparametric Regression for Statistical Inference and Distributionally Robustness
The University of Tokyo(东京大学)
本文提出一种无模型的非参数回归去偏方法,通过加入估计条件期望残差的校正项,使估计量在温和条件下具备风险收敛与渐近正态性,从而支持统计推断并提升协变量偏移下的鲁棒性。
2025-03-17 cs.LG econ.EM math.ST
Nonparametric regression on hidden phi-mixing variables: identifiability and consistency of a pseudo-likelihood based estimation procedure
本文概述了一个新的非参数估计过程的不可观测φ-混合过程。假设关于平稳隐藏状态(Xk)的唯一信息由过程(Yk)给出,其中Yk是f(Xk)的噪声观测。本文介绍了一种利用长度为b的观测值块来估计函数f和隐态分布的极大伪似然方法。在特殊情况下,b=1和b=2的模型的可辨识性进行了研究。建立了f的估计量和隐状态的分布的一致性,因为观测的数量增长到无穷大。
2015-08-26 math.ST stat.TH
Robust nonparametric inference for the median
我们考虑的问题,构建强大的非参数置信区间和中位数的假设检验时,数据分布是未知的,数据可能包含一小部分的污染。我们提出了一个修改的符号检验(及其相关的置信区间),达到名义上的显着性水平(概率覆盖)的任何分布在污染附近的连续分布。我们还定义了一些措施的鲁棒性和污染下的置信区间和测试的效率。这些措施是为拟议的程序计算的。
2005-03-29 math.ST stat.TH
Efficient robust nonparametric estimation in a semimartingale regression model
研究了由分布未知的一般平方可积〔的〕半鞅给出的具有相依扰动的连续时间回归模型中周期函数的稳健估计问题。这种噪声的一个例子是带有Lévy过程从属子的非高斯Ornstein-Uhlenbeck过程,它被用来模拟具有跳跃的金融Black-Scholes型市场。提出了一种基于加权最小二乘估计的自适应模型选择方法。在噪声分布的一般矩条件下,得到了鲁棒风险的尖锐的非渐近预言不等式,证明了模型选择过程的鲁棒有效性.
2010-10-16 math.ST stat.TH
Combining Multiple Testing with Multivariate Singular Spectrum Analysis
适当的预处理是分析噪声数据集的基本前提。本文的目的是应用一种非参数预处理方法,称为奇异谱分析(SSA),随后通过多个统计假设检验分析的各种数据集。SSA是一种非参数预处理方法,最近已被用于许多生命科学问题的背景下。在目前的工作中,SSA进行了比较与其他三个国家的最先进的预处理方法在良好的去噪和后续的多重检验的统计功效。这些其他方法是参数或非参数的。我们的研究结果表明,(多变量)SSA可以考虑作为一个有前途的方法,以减少噪音,从嘈杂的数据中提取的主要信号,并检测统计上显着的信号成分。
2022-03-11 stat.ME
Nonparametric imputation method for nonresponse in surveys
许多插补方法基于统计模型,该模型假设感兴趣的变量是辅助变量或协变量的函数的噪声观测。这种模型的错误设定可能导致严重的估计错误和误导性的结论。提出了一种新的基于感兴趣变量与辅助变量之间函数依赖关系的非参数估计的项目无应答插补方法。我们考虑使用平滑样条估计的加性模型框架内灵活地建立插补模型的情况下,多个辅助变量。我们的方法的性能进行评估,通过数值实验,涉及模拟和真实数据。
2017-02-06 stat.ME
Improved nonparametric estimation of the drift in diffusion processes
本文研究扩散过程漂移系数的稳健自适应非参数估计问题。提出了一种基于改进加权最小二乘估计的自适应模型选择方法。得到了鲁棒风险的精确预言不等式。
2017-10-10 math.ST stat.TH
Normal approximations in nonparametric empirical Bayes
Stanford University(斯坦福大学);Chicago Booth School of Business(芝加哥大学布斯商学院);University of Chicago(芝加哥大学)
本文通过理论分析证明,在非参数经验贝叶斯中,非参数最大似然估计和相关筛法的去噪遗憾由精确正态性下的速率加上中心极限定理近似质量项控制,且该近似仅需边际平均成立,无需高维正态近似。
2026-05-29 math.ST stat.TH
Evaluation of the Fourth Millennium Development Goal Realisation Using Robust and Nonparametric Tools Offered by Data Depth Concept
我们简要地交流了\emph{the Fourth Millennium Development Goal of United Nations}效果的非参数和稳健性评价结果。该目标的主要目的是在1990年至2015年期间将5个月以下儿童死亡率降低三分之二。我们的新型分析是通过\emph{Data Depth Concept}提供的非常强大且用户友好的工具进行的,\emph{Data Depth Concept}是一组基于分位数、范围和顺序统计量的多元概括的多元技术。我们的分析结果比使用经典统计工具获得的结果更有说服力。
2015-01-14 stat.AP
Global Bias-Corrected Divide-and-Conquer by Quantile-Matched Composite for General Nonparametric Regressions
偏差校正和鲁棒性问题是分而治之(DC)策略中的关键问题,特别是对于具有海量数据的非对称非参数模型。基于分位数的方法具有较强的稳健性,但当误差分布不对称时,非参数回归的分位数估计存在不可消除的偏差。本文研究了一般误差分布下非参数回归模型的分位数匹配合成全局偏差校正DC。所提出的策略可以同时实现偏差校正和鲁棒性。与通常的DC分位数估计不同,新方法在不同的分位数水平上对不同的数据批次得到局部估计量,然后将全局估计量精心构造为局部估计量的加权和.在加权和中,权重和分位数水平很好地匹配,使得全局估计器的偏差得到显著校正,特别是对于误差分布不对称的情况。基于全局估计量的渐近性质,得到了最优权值,并给出了相应的算法。通过模拟实验和真实数据分析的各种数值例子进一步说明了新方法的行为。与同类方法相比,新方法具有估计精度高、鲁棒性好、适用性强和计算效率高等优点。
2022-01-29 math.ST stat.ME stat.TH
Robust Nonparametric Regression with Deep Neural Networks
本文研究了具有重尾误差分布的回归模型的深度神经网络稳健非参数估计的性质。在适当的回归函数光滑性条件和误差项温和条件下,利用带有ReLU激活的深度神经网络建立了一类稳健非参数回归估计的非渐近误差界.特别地,我们仅假设误差分布具有有限的p阶矩,其中p大于1。我们还表明,深度稳健回归估计是能够规避灾难的维数时,预测的分布支持一个近似的低维集。我们的误差界的一个重要特征是,对于网络宽度和网络大小(参数数量)不超过预测器维度d的平方的数量级的ReLU神经网络,我们的超额风险界次线性地依赖于d。我们的假设放宽了精确流形支持假设,这在实践中可能是限制性的和不切实际的。我们还放宽了一些关键的假设数据分布,目标回归函数和神经网络在最近的文献中所要求的。我们的模拟研究表明,鲁棒方法可以显着优于最小二乘方法时,误差具有重尾分布,并说明损失函数的选择是很重要的背景下,深度非参数回归。
2021-07-21 math.ST stat.TH
Robust estimators in a generalized partly linear regression model under monotony constraints
本文考虑观测服从保序广义部分线性模型的情形。在该模型下,响应的平均值通过链接函数建模,线性地在一些协变量上,非参数地在单变量回归量上,以这样的方式,非参数分量被假定为单调函数。定义了单调非参数分量和回归参数的一类与线性分量相关的稳健估计。鲁棒估计是基于样条的方法结合得分函数的界限大值的偏差。作为应用,我们考虑保序部分线性log-Gamma回归模型.通过Monte Carlo研究,我们研究了所提出的估计的性能下的部分线性log-Gamma回归模型的非参数分量增加。
2018-11-29 math.ST stat.TH
Integral curves of noisy vector fields and statistical problems in diffusion tensor imaging: nonparametric kernel estimation and hypotheses testing
设$v$是有界开集$G\subset {\mathbb {R}}^d$中的向量场.假设$v$在$G.$中独立且均匀分布的随机点$X_i, i=1,...,n,$处被观察到具有随机噪声。问题是估计从给定点$x(0)=x_0\in G$开始的微分方程\[\frac{dx(t)}{dt}=v(x(t)),\qquad t\geq 0,x(0)=x_0\in G,\]的积分曲线,并对积分曲线达到指定集合$Γ\subset G.$的假设进行统计检验。Watson型核回归估计,证明了估计的积分曲线的渐近正态性,并导出了极限高斯过程的均值和协方差函数的微分和积分方程。这提供了一种不仅跟踪积分曲线,而且跟踪其估计的协方差矩阵的方法。我们还研究了从积分曲线到足够光滑曲面$Γ\subset G$的平方最小距离的渐近分布。在此基础上,我们开发的假设,积分曲线达到$Γ$的测试程序。这种性质的问题是感兴趣的扩散张量成像,脑成像技术的基础上测量的扩散张量在离散位置在大脑白质,其中水分子的扩散是典型的各向异性。扩散张量数据用于估计扩散的主导方向,并从这些方向之后的初始位置跟踪白质纤维。我们的方法带来了更严格的统计工具来分析这个问题,特别是假设检验程序,可能是有用的轴突连接的白质的研究。
2007-10-18 math.ST stat.TH
New Empirical Process Tools and Their Applications to Robust Deep ReLU Networks and Phase Transitions for Nonparametric Regression
Department of Statistics, The Pennsylvania State University(宾夕法尼亚州立大学统计系)
本文提出新的经验过程工具,用于在重尾噪声和复杂函数类下分析广泛的统计学习模型。主要贡献是推导出两种Dudley型最大不等式,这些不等式消除了如轻尾和函数类均匀有界等限制性假设。这些不等式扩展了经验过程理论在统计学习和非参数估计中的应用范围。利用新的界限,我们建立了深度ReLU网络估计器在Huber和分位数回归中的鲁棒性保证。特别是,我们证明了一个统一的非渐近子高斯集中界,即使在无限方差噪声下仍然有效,并对深度Huber估计器在所有噪声情况下的非渐近鲁棒性进行了全面分析。对于深度分位数回归,我们提供了第一个无渐近子高斯界,无需假设矩条件。此外,我们的框架还为非参数最小二乘估计器提供了误差界,同时容纳无限方差噪声、非Donsker函数类和近似误差。此外,与以往基于专门乘数过程的方法不同,我们的框架扩展到更广泛的经验风险最小化问题,包括非参数广义线性模型和``集合结构``模型。
2026-10-27 math.ST stat.TH
Robust and efficient estimation of nonparametric generalized linear models
针对广义线性模型依赖正确参数设定且易受离群点影响的问题,提出基于惩罚幂散度的非参数满秩与低秩样条估计,兼具稳健性、可调高效率和快速收敛性。
2023-01-20 stat.ME
Multiple testing, uncertainty and realistic pictures
我们研究了噪声图像中灰度目标的统计检测。感兴趣的对象具有未知的形状并且具有未知的强度,其可以在对象上变化并且可以是负的。没有边界形状的约束施加在对象上,只有一个弱体条件的对象的内部是必需的。我们提出了一种算法,可用于检测未知形状的灰度对象中存在的非参数噪声的未知水平。我们的算法是基于非参数多重检验过程。我们通过一个明确的,封闭的形式,非渐近和非参数的一致性界建立我们的方法的适用性限制。这个界限对广泛的一类非参数噪声分布是有效的。我们通过证明有限格上渗流的不确定性原理来实现这一点。
2011-02-23 math.PR math.ST stat.ME
Robust nonparametric hypothesis tests for differences in the covariance structure of functional data
我们开发了一组强大的,非参数假设检验,检测几个人口的功能数据的协方差算子之间的差异。这些测试称为FKWC测试,基于功能数据深度等级。这些测试工作良好,即使当数据是重尾,这是在模拟和理论上都显示。这些测试提供了几个其他的好处,他们有一个简单的分布下的原假设,他们是计算成本低,他们拥有变换不变性的属性。我们发现,在一般的备择假设下,这些测试是一致的温和的,非参数假设。作为这项工作的结果,我们引入了一个新的功能深度函数,称为L2-root深度,它可以很好地检测协方差核之间的幅度差异。我们提出了一个分析的FKWC测试使用L2根深度下的本地替代品。在模拟中,当真正的协方差核具有严格的正特征值时,我们表明这些测试具有比竞争对手更高的功率,同时仍然保持其标称大小。我们还提供了计算样本量和执行多重比较的方法。
2021-06-18 stat.ME
Locally Robust Semiparametric Estimation
Many economic and causal parameters depend on nonparametric or high dimensional first steps. We give a general construction of locally robust/orthogonal moment functions for GMM, where moment conditions have zero derivative with respect to first steps. We show that orthogonal moment functions can be constructed by adding to identifying moments the nonparametric influence function for the effect of the first step on identifying moments. Orthogonal moments reduce model selection and regularization bias, as is very important in many applications, especially for machine learning first steps. We gi…
2020-08-03 econ.EM math.ST stat.TH
Robust nonparametric estimation via wavelet median regression
在本文中,我们开发了一个非参数回归方法,同时适应范围广泛的功能类的回归函数和强大的误差分布,包括那些重尾,甚至可能没有方差或手段。我们的方法是首先使用局部中位数的非参数回归与未知的噪声分布的问题转化为一个标准的高斯回归问题,然后应用小波块阈值的过程来构建一个估计的回归函数。它示出的估计同时达到最佳的收敛速率在很宽的范围内的Besov类,没有先验知识的平滑的基本功能或先验知识的误差分布。该估计器还自动适应底层函数的局部光滑性,并获得局部自适应极小极大率估计函数在一个点。在我们的发展中的一个关键技术成果是分位数耦合定理,它给出了一个紧界的分位数之间的耦合样本中位数和正常变量。这个中位数耦合不等式可能是独立的利益。
2008-10-27 math.ST stat.TH
Robust analysis of second-leg home advantage in UEFA football through better nonparametric confidence intervals for binary regression functions
在国际足球比赛中,两回合淘汰赛是很常见的,每支球队都在主场进行一回合比赛,最后的结果取决于总比分。许多球员、教练和追随者似乎相信“第二回合主场作战”,即第二回合主场作战是有益的。这是一个比通常和公认的主场优势更复杂的影响,更难确定,以前的统计研究也没有证明其真实性。然而,鉴于当今国际足球比赛所涉及的资金数额,这种影响是否存在的问题是非常重要的。与以往的研究不同,本文从纯粹的非参数角度来解决这个问题,并给出了一个非常客观的答案,而不是基于任何特定的模型规范,这些模型规范可以将分析导向一个或另一个方向。在此过程中,本文回顾了比例的Wald置信区间的众所周知的缺点,提出了条件概率函数的新的非参数置信区间,重新审视了在非参数回归中建立置信区间时的偏差问题,并提供了一种新的基于Bootstrap的解决方案。新的时间间隔被用于对2009/10赛季至2014/15赛季欧洲冠军联赛和欧罗巴联赛的比赛结果数据进行仔细分析。一个轻微的“第二回合主场优势”得到证明。
2017-01-26 stat.AP stat.ME
Robust Nonparametric Regression under Poisoning Attack
Zhejiang Lab(之江实验室)
针对投毒攻击下的非参数回归问题,提出基于Huber损失的M估计量并通过Lipschitz投影修正,实现接近极小极大最优的鲁棒回归性能。
2023-12-11 cs.CR cs.LG math.ST
Consistency Theory of General Nonparametric Classification Methods in Cognitive Diagnosis
针对现有非参数认知诊断分类方法聚类一致性依赖过强条件的问题,本文在更弱、更实际的条件下重建了一般非参数分类方法的聚类一致性理论。
2025-01-14 math.ST stat.ME stat.TH
Robust Nonparametric Two-Sample Tests via Mutual Information using Extended Bregman Divergence
Novartis AG(诺华公司)
本文提出基于扩展Bregman散度的互信息非参数两样本检验,具有稳健性和高渐近效率,通过模拟验证其在污染下的优越性能。
2026-02-03 stat.ME
Adaptive nonparametric estimation for compound Poisson processes robust to the discrete-observation scheme
本文研究了一个跳跃测度和跳跃强度未知的复合泊松过程在多个等间距时刻的运动.我们构造了一个纯粹的数据驱动估计的Lévy密度$ν$通过谱方法使用一般的Calderon-Zygmund积分算子,其中包括卷积和投影内核。假设最小的尾部假设,它被证明是估计$ν$在最小最大估计率下的损失$L^p(\mathbb{R})$,$p\in[1,\infty]$,并鲁棒的观察制度(高和低频率)Besov球。为了在极大极小意义上实现自适应,我们使用Lepskiovich的方法,因为它特别适合我们的一般性。从而证明了新的指数浓度不等式,其中包括经验特征函数的一致涨落的指数浓度不等式。这些都是独立的利益,因为是证明策略,用于处理一般的Calderon-Zygmund运营商,离开无处不在的二次结构,并表现出鲁棒性,没有多项式尾条件。这种普遍性的动机的一部分是一个新的见解,我们在这里也包括,此外,使我们能够统一的主要两种方法来构建相关文献中使用的估计。
2019-02-08 math.ST stat.TH
Empirical Bayes mean estimation with nonparametric errors via order statistic regression on replicated data
本文研究了$K$噪声观测值对$N$单元效应量的经验Bayes估计。我们表明,它是可能实现近贝叶斯最优的均方误差,没有任何假设或知识的影响大小分布或噪声。噪声分布可以是异方差的,并且从单元到单元任意变化。我们的建议,我们称之为极光,利用复制固有的$K$观察每单位和重铸的效果大小估计问题作为一个一般的回归问题。具有线性回归的Aurora可证明地匹配广泛的估计器的性能,包括样本均值、修剪均值、样本中位数以及其James-Stein收缩版本。Aurora自动化了互联网规模数据集的效应大小估计,正如我们在一家大型科技公司的数据上所展示的那样。
2021-08-10 stat.ME
Robust nonparametric regression based on deep ReLU neural networks
本文提出基于$\ell$-估计的深度ReLU神经网络稳健非参数回归方法,通过估计条件分布抵御污染和异常值,并在Hölder光滑性及复合结构假设下取得极小极大最优速率且规避维度灾难。
2023-10-31 stat.ME
Robust Nonparametric Hypothesis Testing to Understand Variability in Training Neural Networks
Pacific Northwest National Laboratory(太平洋西北国家实验室)
针对深度神经网络训练因随机性产生的模型变异性,提出基于阈值前输出、依托鲁棒非参数假设检验框架的模型相近度衡量指标,可适配多种模型导出量。
2023-10-01 cs.LG stat.ML
Nonparametric Statistical Inference for Multivariate Niche Overlap
Paris Lodron University of Salzburg(萨尔茨堡大学);University of Kentucky(肯塔基大学)
本文提出非参数方法用于量化和分析多变量生态位重叠,克服了传统参数方法在复杂多变量设置中的局限性,通过重采样技术实现小样本统计检验和置信区间,展示了方法在鱼类稳定同位素测量中的应用价值。
2026-04-07 stat.ME
Nonparametric estimation for linear SPDEs from local measurements
利用线性随机偏微分方程(SPDE)的观测值估计了导微分算子的系数函数。该估计是基于连续时间的观测,这些观测在空间上是局部化的。对于渐近制度与固定的时间范围和空间分辨率的观测趋于零,我们提供了速率最优估计和建立缩放限制的确定性PDE和SPDE的增长域。该估计对底层微分算子的低阶扰动是鲁棒的,并且即使在具有空间变化系数的非参数设置中也能实现参数速率。数值例子说明了主要结果。
2020-05-02 math.PR math.ST stat.TH
Sequential Model Selection Method for Nonparametric Autoregression
本文首次考虑了二次风险的非参数自回归估计问题。为此,我们基于Arkoun和Pergamenshchikov(2016)提出的有效序贯核估计量开发了一种新的自适应序贯模型选择方法。此外,我们还发展了一般回归模型的一个新的分析工具,得到了一般二次风险和鲁棒二次风险的非渐近尖锐不等式。然后,我们证明了所构造的序列模型选择过程在预言不等式意义下是最优的。
2018-09-06 math.ST stat.TH
On Vector Field Reconstruction from Noisy ODE in High Ambient Dimension
本文针对高维空间中初值来自低维结构的含噪ODE,提出结合流重构与导数估计的向量场非参数估计方法,建立并证明其收敛速率在对数因子内极小化极大最优,从而缓解维数灾难。
2025-11-06 math.ST stat.TH
Unsupervised nonparametric detection of unknown objects in noisy images based on percolation theory
我们开发了一种无监督、非参数且可扩展的统计学习方法,用于检测有噪图像中的未知对象。该方法使用的结果从渗流理论和随机图论。我们提出了一种算法,允许检测未知的形状和大小的对象中存在的非参数噪声的未知水平。假设噪声密度是未知的,并且可能非常不规则。该算法具有线性复杂度和指数精度,适用于实时系统。我们证明了我们的方法在这种设置中具有很强的一致性和可扩展性,最小的假设。
2018-07-12 math.PR math.ST stat.ME
Nonparametric Regression under Cluster Sampling
本文在聚类依赖且聚类规模异质可增长的条件下,为非参数核回归建立了渐近理论,揭示了异质聚类规模引入的新方差项,并提出聚类稳健的带宽选择与推断方法,通过模拟和实证数据验证其有效性。
2024-12-28 econ.EM stat.ME
Undersampling is a Minimax Optimal Robustness Intervention in Nonparametric Classification
Stanford University(斯坦福大学)
该研究证明欠采样在非参数分类中是最坏情况下的极小极大最优方法,除非分布重叠大或利用额外结构,并实验验证了少数类样本数量限制鲁棒分类器准确率。
2023-06-19 cs.AI cs.LG math.ST
"Sound and Fury": Nonlinear Functionals of Volatility Matrix in the Presence of Jump and Noise
本文通过结合预平均、跳跃截断与非线性偏差校正,为含噪高频数据下波动率矩阵的非线性泛函建立了具有最优速率和中心极限定理的非参数统一推断框架,并扩展了多种统计方法的应用范围。
2024-03-31 stat.ME
Efficient Estimation of Stochastic Volatility Using Noisy Observations: A Multi-Scale Approach
随着高频金融数据的出现,资产收益率波动率的非参数估计成为可能。一个主要的问题是如何一致和有效地估计波动,当观察到的资产收益包含误差或噪声,例如,在微观结构噪声的形式。前者(一致性)已在最近的文献中得到了大量的解决,然而,由此产生的估计是不太有效的。在Zhang,Mykland and Ait-Sahalia(2003)中,最佳估计量仅以n^{-1/6}的速度收敛于真实波动率。在本文中,我们提出了一个估计,{ \it多尺度已实现波动率(MSRV)},它收敛到真正的波动率在n^{-1/4},这是最好的可达到的。我们已经证明了一个中心极限定理的MSRV估计,它允许设置区间的基础上的MSRV的真实综合波动。
2006-02-17 math.ST stat.TH
Nonparametric Estimation in the Model of Moving Average
时间序列中的抗差估计问题在文献中得到了广泛的讨论。方法之一是使用GM估计。这种方法包括一个广泛的类的非参数估计,在适当的条件下,包括估计的数据中的离群值的鲁棒性。对于线性模型,Martin和Yohai [5]研究了GM-估计量对异常值的敏感性,并导出了GM-估计量的影响泛函。在本文中,我们遵循这一方向,并检查类M-估计,这是窄于GM-估计类的渐近性质,但提供了更多的洞察渐近性质的估计。本文给出了残差加权经验过程的一个渐近展开,证明了在非光滑目标函数的情况下,这些估计量的渐近正态性。为了简单起见,我们考虑了MA(1)模型,但即使在这种情况下,用来导出这些渐近性质的数学方法也显得相当复杂,然而,本文所用的方法可以应用于GM-估计量和更实际的模型。
2003-12-02 math.ST stat.TH
Regularization Matters: A Nonparametric Perspective on Overparametrized Neural Network
Purdue University(普渡大学);Hong Kong University of Science and Technology(香港科技大学);East China Normal University(华东师范大学)
过参数化的神经网络训练梯度下降(GD)可以证明过拟合任何训练数据。然而,泛化保证可能不适用于噪声数据。从非参数的角度,本文研究如何以及过参数化神经网络可以恢复真实的目标函数在随机噪声的存在。我们建立了一个下界的$L_2$估计误差相对于GD迭代,这是远离零,没有一个微妙的计划提前停止。反过来,通过对$\ell_2$正则化GD轨迹的全面分析,我们证明了对于具有$\ell_2$正则化的过参数化的一个隐藏层ReLU神经网络:(1)输出接近于具有相应神经正切核的核岭回归的输出;(2)可以实现$L_2$估计误差的minimax {最优}率。数值实验证实了我们的理论,并进一步表明,$\ell_2$正则化方法提高了训练的鲁棒性,适用于更广泛的神经网络。
2021-09-25 cs.LG stat.ML
Wasserstein Distributionally Robust Nonparametric Regression
Institute for Math and AI(数学与人工智能研究所);Wuhan University(武汉大学);School of Artificial Intelligence(人工智能学院);Department of Statistics and Data Science(统计与数据科学系);The Chinese University of Hong Kong(香港中文大学);The Hong Kong Polytechnic University(香港理工大学)
针对WDRO在非参数框架理论性质未充分探索的问题,本文研究非参数回归的WDRO,通过分析结构区分、误差界等,提出极小极大最优的估计器,确保对模糊集内分布的鲁棒性,且框架适用于回归和分类问题。
2025-11-11 cs.LG stat.ML
Personalized Federated Learning via Variance-Aware Nonparametric Empirical Bayes
The Ohio State University(俄亥俄州立大学)
该研究提出VANEB框架,通过结合局部M估计器的参数相关渐近方差与广义Tweedie公式,实现异构客户端的个性化联邦学习,在MNIST、CIFAR-10数据集上的DNN场景中表现优异。
2026-08-11 cs.LG stat.ME stat.ML
Noisy recovery from random linear observations: Sharp minimax rates under elliptical constraints
约束参数空间的估计问题出现在各种设置。在许多这些问题中,统计学家可用的观察结果可以被建模为随机线性算子的图像的噪声实现;一个重要的特殊情况是随机设计回归。我们推导出任意紧椭圆参数集的估计率,并演示了它们如何依赖于随机线性算子的分布。我们的主要结果是一个功能,其特点的最小最大估计率的噪声水平,法律的随机算子,和椭圆规范,定义的误差度量和参数空间。这个非渐近结果是尖锐的,直到一个显式的普适常数,它成为渐近精确的半径的参数空间允许增长。我们通过将其应用于参数和非参数回归问题,包括涉及分布偏移或相关协变量的问题,证明了结果的一般性。
2023-03-22 cs.IT math.IT math.ST
Nonparametric Conditional Inference for Regression Coefficients with Application to Configural Polysampling
我们认为推断程序,条件上观察到的从属统计量,为回归系数下的线性回归设置未知的误差分布指定非参数。在正则条件下,建立了回归系数估计的条件渐近正态性,并证明了条件推断过程中核型密度估计的插入方法.仿真结果表明,该方法在构造置信区间时,可以得到精确的条件覆盖概率。插件的方法可以应用于与神经多元采样,以获得强大的条件估计自适应对抗的对比方案。我们证明了这一点,通过调查的条件均方误差的位置估计在各种对抗的模拟研究,成功地扩展到一个非参数的背景下,几何多抽样。
2007-10-30 stat.ME
Nonparametric M-estimation for right censored regression model with stationary ergodic data
研究了平稳遍历右删失回归模型的非参数M-估计。定义为隐函数,当协变量取值于R^d(d >= 1)且数据来自平稳遍历过程时,考虑了稳健回归族的核型估计.在较弱的假设下,证明了估计量的强相合性(含率)和渐近分布。此外,提供了一个可用的置信区间,它不依赖于任何未知量。我们的结果在没有任何混合条件下成立,并且不需要存在边缘密度。还提供了基于模拟数据的比较研究。
2016-04-29 stat.ME
Nonparametric Diffusivity Estimation for the Stochastic Heat Equation from Noisy Observations
Humboldt-Universität zu Berlin(柏林洪堡大学)
研究从含噪声观测中估计随机热方程空间变化扩散率,采用两步定位程序,将局部状态估计与局部线性回归结合,分析依赖热半群定量逼近结果,数值模拟验证结果。
2026-07-07 math.ST stat.TH
Iterative Estimation of Solutions to Noisy Nonlinear Operator Equations in Nonparametric Instrumental Regression
University of Göttingen(哥廷根大学);UCL(天主教鲁汶大学);University Mannheim(曼海姆大学);Universite de Toulouse(图卢兹大学)
本文提出一种正则化牛顿型迭代方法,用于解决噪声积分核下的非线性积分方程,特别强调在工具回归模型中使用更强的独立性假设,以正确估计非参数回归函数。
2013-07-25 cs.NA math.NA math.ST
Surprisal Driven $k$-NN for Robust and Interpretable Nonparametric Learning
UNC-Chapel Hill(北卡罗来纳大学教堂山分校);Howso Incorporated(Howso公司)
本文从信息论角度重新诠释 $k$-NN,提出基于惊异的非参数学习框架,实现分类、回归、密度估计和异常检测,无需显式训练,可计算特征贡献与反事实,并在分类和异常检测上取得最优结果。
2024-02-02 cs.AI cs.LG stat.ML
Nonparametric goodness-of fit testing in quantum homodyne tomography with noisy data
在量子光学的框架下,研究了一类严重不适定反问题的拟合优度检验问题。一种新的测试程序,并在各种光滑假设下,其收敛速度进行了研究。该过程是从投影型估计,其中的投影是在$\mathbb{L}_2$距离上的一些适当选择的模式功能。所提出的方法与模拟数据集说明。
2008-12-22 math.ST stat.TH
A Nonparametric Conjugate Prior Distribution for the Maximizing Argument of a Noisy Function
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Max Planck Institute for Biolog. Cybernetics(马克斯·普朗克生物控制论研究所)
我们提出了一种新的贝叶斯方法来解决随机最优化问题,涉及到寻找噪声,非线性函数的极值。以前的工作集中在明确表示可能的函数,这导致了一个两步的过程,第一,在函数空间上进行推理,第二,找到这些函数的极值。在这里,我们跳过表示步骤,直接对极值上的分布进行建模。为此,我们设计了一个非参数共轭先验核回归的基础上。由此产生的后验分布直接捕获未知函数的最大值的不确定性。我们说明了我们的模型的有效性,通过优化噪声,高维,非凸目标函数。
2012-11-10 cs.AI math.ST stat.ML
Bayesian nonparametric estimation for Quantum Homodyne Tomography
我们估计的量子态的光束从量子零差层析噪声测量的结果进行了同样准备的量子系统。我们提出了两种贝叶斯非参数方法。第一种方法是基于混合模型,并通过仿真例子说明。第二种方法是基于随机基展开。我们研究了第二种方法的理论性能,通过量化的收缩率的后验分布周围的真正的量子态在$L^2$度量。
2016-10-06 math.ST stat.TH
Nonparametric Evaluation of Noisy ICA Solutions
University of Texas at Austin(德克萨斯大学奥斯汀分校);University of California, Berkeley(加州大学伯克利分校);University of Wisconsin, Madison(威斯康星大学麦迪逊分校)
本文提出了一种非参数评分方法,用于适应性选择ICA算法,适用于任意高斯噪声,并分析了算法的收敛性质。
2026-02-06 cs.LG eess.SP math.ST
Robust adaptive efficient estimation for semi-Markov nonparametric regression models
研究了半马氏噪声下连续时间回归模型的非参数稳健估计问题。提出了一种自适应模型选择方法。在噪声分布的一般矩条件下,得到了鲁棒风险的一个尖锐的非渐近预言不等式,并证明了鲁棒有效性。结果表明,对于半马尔可夫模型,鲁棒极小极大算法的收敛速度可能比经典算法快,也可能慢。
2017-03-25 math.ST stat.TH
Sequential robust efficient estimation for nonparametric autoregressive models
对于光滑系数非参数自回归模型的点态估计问题,我们构造了有效的稳健截尾序贯估计。对于高斯模型,我们提出了一个自适应程序的基础上构建的序贯估计。建立了极大极小非自适应和自适应收敛速度。事实证明,在这种情况下,这些速率与回归模型相同。
2013-04-17 math.ST stat.TH
Improved robust model selection methods for the Levy nonparametric regression in continuous time
本文对Levy噪声下连续时间观测的非参数周期函数给出了James-Stein改进的估计方法。构造了一种基于改进加权最小二乘估计的自适应模型选择方法。得到了非参数模型的改进效果。结果表明,在非渐近研究中,非参数问题的精度提高比参数问题的精度提高更显著。此外,在自适应环境下,证明了鲁棒风险的尖锐预言不等式,并建立了改进的模型选择过程的有效性。
2018-11-04 math.ST stat.TH
A definition of qualitative robustness for general point estimators, and examples
给出了一般统计模型中点估计量的定性稳健性定义。建立了稳健性的一些准则,并应用于参数、半参数和非参数模型的估计量。在特定的非参数模型中,所提出的定义归结为Hampel鲁棒性。它还解释了如何插件估计在某些非参数模型可以合理地分类w.r.t.他们的稳健程度。
2015-06-17 math.ST stat.TH