Asymptotic equivalence for nonparametric regression with dependent errors: Gauss-Markov processes
对于Gauss-Markov过程类，本文研究了误差由过程增量给出的非参数回归模型与连续时间模型的渐近等价性问题，其中确定性信号与Gauss-马尔可夫过程之和的整条路径是可观测的.特别是，我们提供了充分条件，使两个模型的渐近等价的功能，从一个给定的类，我们验证这些特殊情况下的Sobolev椭球和Hölder类光滑指数$> 1/2$下温和的假设高斯-马尔可夫过程在手。为了得到这些结果，我们开发了一个明确的表征与高斯-马尔可夫过程的再生核希尔伯特空间，这取决于这样的过程的一个特性，相应的协方差核引入Doob。为了证明高斯-马尔可夫过程的假设在某种意义上是尖锐的，我们还证明了布朗桥的特殊情况下，渐近等价性不成立。我们的研究结果表明，众所周知的渐近等价性的高斯白噪声模型和非参数回归模型与i.i.d.标准正态误差可以推广到以统一的方式处理一般高斯-马尔可夫噪声的结果。
2021-10-24 math.ST stat.TH
Nonparametric Value-at-Risk via Sieve Estimation
人工神经网络（ANN）已经被用于使用金融数据的一系列建模和预测任务。然而，关于其预测性能的证据，特别是对时间序列数据的预测性能，一直是好坏参半。虽然一些应用程序发现，人工神经网络提供更好的预测比更传统的估计技术，其他人发现，他们几乎没有超过基本的基准。本文的目的是提供指导，当使用人工神经网络可能会导致更好的结果，在一般设置。我们提出了一个灵活的非参数模型，并扩展了收敛速度的现有理论结果，以包括流行的整流线性单元（ReLU）激活函数，并将该速度与其他非参数估计进行比较。有限样本的性质，然后研究与蒙特卡洛模拟的帮助下，提供进一步的指导。应用估计不同规模的投资组合的风险价值也被认为是显示的实际意义。
2022-05-14 math.ST q-fin.RM stat.TH
Asymptotic frequentist coverage properties of Bayesian credible sets for sieve priors
我们调查的频率覆盖属性的贝叶斯可信集一般的，自适应的，非参数的框架。众所周知，自适应和诚实的信心集的建设是不可能的一般。为了克服这个问题，我们引入一个额外的假设的功能参数，所谓的“一般抛光尾”的条件。然后，我们表明，在标准的假设下，分层和经验贝叶斯方法的结果在诚实的信心集筛类型的先验在一般情况下，我们表征其大小。我们应用派生的抽象结果的各种例子，包括非参数回归模型，密度估计使用指数族的先验，密度估计使用直方图先验和非参数分类模型，我们表明，它们的大小是近极大极小自适应相对于所考虑的特定半度量。
2019-02-04 math.ST stat.TH
Sieve empirical likelihood ratio tests for nonparametric functions
广义似然比统计量已在范，张和张[安。29（2001）153-193]作为检验关于非参数函数的非参数假设的普遍适用的方法。基于随机误差分布在某个参数族中的假设，构造了似然比统计量。我们扩展他们的工作的情况下，误差分布是完全不确定的，通过新提出的筛经验似然比（SELR）测试。该方法也适用于测试的条件估计方程的随机误差分布。结果表明，所提出的SELR统计量服从渐近重标χ^2分布，且标度常数和自由度与冗余参数无关.这说明范、张、张[Ann. Statistist. 29（2001）153-193]继续在更宽松的模型和更大类别的技术下成立。该检验的渐近功效也被推导出来，它实现了非参数假设检验的最优速率。与广义似然比方法相比，该方法具有两个优点：它只需要指定一些条件估计方程，而不需要指定随机误差的整个分布，并且该方法可以自动适应包括异方差在内的未知误差分布。进行模拟研究，以评估我们提出的程序经验。
2005-03-29 math.ST stat.TH
Kernel Meets Sieve: Post-Regularization Confidence Bands for Sparse Additive Model
我们开发了一种新的程序，用于构建稀疏添加剂模型的组件的置信带。我们的程序是基于一个新的核-筛混合估计，结合了两个最流行的非参数估计方法在文献中，核回归和样条方法，是在自己的权利感兴趣。现有的稀疏可加模型拟合方法主要基于筛法估计，而非参数模型置信带的研究主要基于核估计或局部多项式估计。我们的核-筛混合估计结合了两个世界中最好的，使我们能够提供一个简单的过程，在高维稀疏加性模型中构建置信带。通过研究高斯过程的逼近，证明了置信带是渐近诚实的。在合成数据和真实世界的神经科学数据上提供了彻底的数值结果来证明该理论的有效性。
2018-02-12 math.ST stat.ML stat.TH
Sharp adaptive nonparametric testing for Sobolev ellipsoids
我们考虑在强度为1/sqrt（n）的高斯白噪声中测试信号的存在，当替代方案由具有（平方）半径ρ的L2球的平滑椭球给出时。已知对于光滑度为β且大小为M的固定Sobolev型椭球，n次方的ρ（4 β/（4 β +1））是临界分离率，在这个意义上，α检验的第二类极大极小误差严格渐近地保持在0和1之间（Ingster，1982）。此外，Ermakov（1990）发现了第二类极大极小误差在分离率下的尖锐渐近性。在这种情况下，对于β和M的自适应，已知对于ρ的分离率的对数惩罚对于非零渐近功率是必要的。在这里，下面的一个例子，在非参数估计相关的平斯克常数，我们调查的适应问题，椭球大小M只，固定的光滑度β。它是建立在自适应设置的尖锐的风险渐近可以复制，如果ρ趋于零慢于分离率。在这里，适应的代价是一个任意缓慢地趋于无穷大的序列。
2012-10-30 math.ST stat.TH
Simultaneous Sieve Inference for Time-Inhomogeneous Nonlinear Time Series Regression
本文研究了一般局部平稳时间序列的非时齐非线性时间序列回归问题。一方面，我们提出了时变回归函数的筛分非参数估计，它可以达到最小-最大最优速率。另一方面，我们发展了一个统一的同时推理理论，可以用来进行结构和精确形式的功能测试。我们提出的统计是强大的，即使在当地弱的替代品。我们还提出了一个乘法器自举程序的实际实施。我们的方法和理论不需要对回归函数进行任何结构假设，并且我们还允许函数在无界域中得到支持。我们还建立了无界区域上二维函数的筛逼近论和高维局部平稳时间序列的仿射型和二次型的高斯逼近结果，这些结果是独立的.数值模拟和一个真实的财务数据分析提供了支持我们的结果。
2021-12-16 math.ST stat.ME stat.TH
Quantized Nonparametric Estimation over Sobolev Ellipsoids
我们制定的存储或通信约束下的极大极小估计的概念，并证明了一个扩展的非参数估计Sobolev椭球的平斯克定理。放置用于编码任何估计的比特数的限制，我们给出了严格的下限和上界的过度风险，由于量化的比特数，信号大小，和噪声水平。这建立了索伯列夫空间的量化约束下的存储和风险之间的帕累托最优权衡。我们的结果和证明技术结合元素的率失真理论和极大极小分析。建议的量化估计方案，这表明可扩展性的下界，是自适应的，在通常的统计意义上，实现最佳的量化极大极小速率的索伯列夫空间的平滑参数的知识。它在计算意义上也是自适应的，因为它仅在观察数据之后构造代码，以动态地将更多码字分配给估计信号大小较大的块。包括模拟，说明量化的统计风险的影响。
2017-04-11 math.ST stat.ML stat.TH
Posterior consistency of nonparametric conditional moment restricted models
研究了含有无穷维参数$g_0$的非参数条件矩约束模型的估计问题。我们估计它在准贝叶斯的方式，基于有限的信息似然，并调查三种类型的先验后验一致性的影响：（i）截断先验（先验支持的有界集），（ii）薄尾先验（一个先验，有非常薄的尾巴以外的增长有界集）和（iii）正常的前与非收缩方差。此外，允许$g_0$在频率论意义上仅被部分地识别，并且参数空间不需要是紧凑的。使用一个缓慢增长的筛尺寸的后验正则化，它表明，后验收敛到任何小的邻域的识别区域。然后，我们将我们的结果应用到非参数工具回归模型。最后，研究了随机筛维参数下的后验一致性问题。
2012-03-12 math.ST stat.TH
Universal sieve-based strategies for efficient estimation using machine learning tools
假设我们希望在非参数模型下估计底层数据生成机制的一个或多个函数值特征的有限维摘要。估计的一种方法是插入这些特征的灵活估计。不幸的是，在一般情况下，这样的估计可能不是渐近有效的，这往往使这些估计难以作为推理的基础。虽然有几个现有的方法来构建渐近有效的插件估计，每一个这样的方法要么只能使用效率理论的知识，或仅在严格的平滑假设下是有效的。在现有的方法中，筛估计脱颖而出，特别方便，因为效率理论是不需要在他们的建设，他们的调整参数可以选择自适应的数据，他们是普遍的意义上说，同样的适合导致有效的插件估计丰富的一类被估量。受这些理想属性的启发，我们提出了两种新的通用方法来估计函数值的功能，可以使用筛估计理论进行分析。与传统的筛选估计相比，这些方法通过利用可以例如使用机器学习获得的灵活估计，在函数值特征平滑度的更一般条件下有效。
2020-08-26 math.ST stat.ME stat.TH
Asymptotic Properties of Neural Network Sieve Estimators
神经网络是当今机器学习和人工智能中最常用的方法之一。由于通用逼近定理（Hornik et al.（1989）），具有一个隐藏层的神经网络可以逼近紧支撑上的任何连续函数，只要隐藏单元的数量足够大。从统计学上讲，神经网络可以分为非线性回归框架。然而，如果我们考虑它的参数，由于参数的不可识别性，这是很难得到它的渐近性质。相反，我们认为估计问题的非参数回归的框架，并使用筛估计的结果建立的一致性，收敛速度和渐近正态性的神经网络估计。我们还通过模拟说明了理论的有效性。
2019-09-17 math.ST stat.TH
Posterior Convergence of Nonparametric Binary and Poisson Regression Under Possible Misspecifications
在这篇文章中，我们研究了非参数二元和Poisson回归在可能的模型误设定下的后验收敛性，假设一般的随机过程具有适当的性质。我们的二元回归模型设置和目标类似于Ghosal和Roy（2006），其中作者使用了熵界和指数相合检验的方法，并使用了筛法来实现与高斯过程先验的一致性。相比之下，对于二元和泊松回归，使用一般的随机过程先验，我们的方法包括验证渐近均分性质以及筛分方法，这是Shalizi（2009）的一般结果的一种机动，甚至对错误指定的模型也有用。此外，我们不仅要建立后验一致性，还要建立后验概率收敛的速率，即Kullback-Leibler发散速率。我们还研究了传统的后验收敛速度。有趣的是，从主观贝叶斯的角度来看，我们将表明，后验预测分布可以准确地近似最好的可能的预测分布在这个意义上的Hellinger距离，以及两个分布之间的全变差距离可以趋于零，尽管误指定。
2020-05-01 math.ST stat.TH
Nonparametric Estimation For Censored Circular Data
针对删失圆数据，提出结合投影估计与矩方法的商估计量，给出误差上界与收敛速度，并通过模拟验证性能。
2025-08-08 math.ST stat.TH
Bayesian optimal adaptive estimation using a sieve prior
我们推导了由筛先验得到的非参数模型的后验分布的收缩率。本文的目的是提供当参数空间具有一般结构时获得后验率的一般条件，以及当参数空间为，索博列夫级所采用的条件，虽然在文献中是标准的，但以不同的方式组合。结果被应用到密度，回归，非线性自回归和高斯白噪声模型。在后者中，我们还考虑了不同于通常的l2范数的损失函数，即逐点损失。在这种情况下，可以证明，自适应贝叶斯方法的l2损失是强烈的次优，我们提供了一个下界的速率。
2013-02-18 math.ST stat.TH
Simultaneous Sieve Estimation and Inference for Time-Varying Nonlinear Time Series Regression
本文研究局部平稳时间序列的时变非线性回归，提出具有一致收敛性的筛非参数估计量，发展了统一的同时推断理论及乘子自助法，并开发了R包SIMle辅助实现。
2025-06-29 math.ST stat.ME stat.TH
Bayesian Nonparametrics for Directional Statistics
本文介绍了一种适合于混合模型的三角多项式密度基。统计和几何性质的推导，表明它作为一个圆形的类似伯恩斯坦多项式密度。非参数先验构造使用这个基础和模拟研究表明，使用所得到的贝叶斯估计可能会提供收益比以前在文献中提出的可比循环密度估计。从理论的角度，我们提出了一个一般的先验规范框架的密度估计紧度量空间上使用筛先验。这是针对诸如本文所考虑的密度基础而定制的，并且也可以用于利用其特定的形状保持特性。此外，强后验一致性，持有显着弱的正则性假设和自适应收敛速度方面的正线性算子生成我们的模型的逼近性质。
2019-02-25 math.ST stat.ME stat.TH
Nonparametric inference about mean functionals of nonignorable nonresponse data without identifying the joint distribution
我们考虑识别和推断的平均泛函的观测协变量和结果变量的不可分割的缺失。通过利用一个影子变量，我们建立了一个充要条件，即使没有确定的全部数据分布的平均功能识别。进一步刻画了均值泛函的$\sqrt{n}$ -可估性的一个必要条件.这个条件自然地加强了识别条件，并且它需要存在一个函数作为将阴影变量连接到平均泛函的表示器方程的解。代表方程的解可能不是唯一的，这对非参数估计提出了实质性的挑战，并且非参数筛分估计的标准理论在这里不适用。我们构造了一个一致的估计的解决方案，然后适应极值估计理论，找到一个一致的估计，从估计集适当选择的解决方案。该估计是渐近正态的，局部有效的，并在一定的正则性条件下达到半参数有效界。我们说明了所提出的方法，通过模拟和真实的数据应用程序对家庭定价。
2022-04-06 math.ST stat.ME stat.TH
Nonparametric Multivariate L1-median Regression Estimation with Functional Covariates
当协变量取值于无穷维空间时，本文提出了多元条件分布的L1-中位数的非参数估计。多变量情况更适合于同时预测随机变量向量的分量，而不是分别预测它们中的每一个。在利用著名的Nadarya-Waston估计量估计条件L1-median函数时，我们证明了该估计量的强相合性和渐近正态性。我们还提出了一些模拟，并提供如何建立条件con？多元L1-中位数回归的置信椭圆。对化学计量实际数据进行了数值研究，比较了协变量X为曲线，X为随机向量时多元L1-中位数回归与边际中位数回归向量的异同。
2013-04-16 math.ST stat.ME stat.TH
Adaptive Bayesian nonparametric regression using kernel mixture of polynomials with application to partial linear model
本文提出了一种贝叶斯非参数回归的核混合多项式先验。回归函数由具有核混合权重的多项式的局部平均来建模。我们得到的最小最优收缩率的充分后验分布的对数因子，适应的平滑程度的真实功能，通过估计某些功能类的度量熵。我们还提供了一个频率筛最大似然估计与接近最佳的收敛速度。我们进一步研究了多项式的核混合对部分线性模型的应用，并获得了非参数分量的近最优收缩率和Bernstein-von Mises极限（即，渐近正态性）。所提出的方法与数值例子说明，并显示优越的性能相比，本地多项式回归，DiceKriging，和强大的高斯随机过程的计算效率，精度和不确定性量化。
2018-09-13 math.ST stat.TH
Nonparametric quasi-maximum likelihood estimation for Gaussian locally stationary processes
本文讨论高斯局部平稳过程的非参数极大似然估计。我们的非参数极大似然估计是通过最小化一类函数的频域似然来构造的。研究了所得估计量的渐近性质。结果取决于丰富的功能类。筛估计和整体估计。我们的研究结果适用于，特别是形状约束下的估计。作为一个例子，自回归模型拟合单调方差函数进行了详细讨论，包括算法的考虑。一个关键的技术工具是由函数索引的时变经验谱过程。对于这一过程，得到了一个Bernstein型指数不等式和一个中心极限定理.经验谱过程的这些结果是独立的利益。
2007-08-01 math.ST stat.TH
On rate optimal local estimation in nonparametric instrumental regression
考虑非参数工具回归中线性泛函的值估计问题，其中在存在工具W的情况下，响应Y依赖于内生解释变量Z建模。该估计器是基于降维和额外的阈值。假定结构函数和线性泛函的表示者属于某些椭球，这些椭球在某种意义上与Z的条件期望算子相联系，给出了估计量的极小极大最优收敛速率。我们说明这些结果考虑经典的平滑假设。
2009-02-12 math.ST stat.TH
Sieve-based confidence intervals and bands for Lévy densities
在离散抽样方案下，考虑了控制Lévy过程跳跃动力学的无穷维参数Lévy密度的估计。在这种情况下，跳跃是潜变量，当观测的频率和时间范围以适当的速率增加到无穷大时，可以评估其统计特性。Figueroa-López [IMS Lecture Notes 57（2009）117--146]提出了基于Grenander筛法的Lévy密度的非参数估计。在本文中，中心极限定理这些筛估计，无论是逐点和一致的间隔远离原点，得到的逐点置信区间和带的Lévy密度。在逐点情形下，我们的估计以任意接近光滑Lévy密度上的极小极大估计风险的速率收敛到Lévy密度。在均匀频带和离散规则采样的情况下，我们的结果是一致的密度估计的情况下，实现任意接近$\log^{-1/2}(n)\cdot n^{-1/3}$，其中$n$是观察的数量的顺序的速率。收敛速度是有效的，只要$s$是足够光滑的，并且时间范围$T_n$和筛的尺寸根据$n$适当地选择。
2011-04-22 math.ST stat.TH
Nonparametric optimal density estimation for censored circular data
Univ Gustave Eiffel, Univ Paris Est Creteil, CNRS（巴黎东-马恩拉瓦莱大学、贡扎格·埃菲尔大学、法国国家科学研究中心）
本文提出了一种非参数最优密度估计方法，用于处理截断的圆数据，通过回归方法构建投影估计器，并在Sobolev类密度下达到最小最大收敛率。
2025-12-08 math.ST stat.TH
Nonparametric Estimation of the Diffusion-Interaction Function in Particle Systems
Universitat Pompeu Fabra（庞培法布拉大学）；Barcelona School of Economics（巴塞罗那经济学院）；University of Luxembourg（卢森堡大学）
本文针对粒子系统中通过扩散系数进入的相互作用函数，提出基于经验风险最小化的非参数估计方法，并推导了非渐近误差界及两种情形下的多项式收敛速率。
2026-09-22 math.PR math.ST stat.TH
Nonparametric estimation of a covariate-adjusted counterfactual treatment regimen response curve
本文针对个体化医疗中的条件价值函数，提出基于筛的非参数协变量调整治疗方案响应曲线估计量，并建立其有效推断、置信区间及最优规则估计性质。
2023-09-28 math.ST stat.ME stat.ML
Minimax Goodness-of-Fit Testing in Multivariate Nonparametric Regression
我们考虑一个未知的响应函数$f$定义的$Δ=[0,1]^d$，$1\le d\le\infty$，采取在$n$随机均匀设计点和观察已知方差的高斯噪声。给定一个正序列$r_n\to 0$作为$n\to\infty$和一个已知的函数$f_0 \in L_2(Δ)$，我们提出了一个统一的框架，在一般条件下，拟合优度测试问题的零假设$H_0: f=f_0$对替代$H_1: f\in\CF, \|f-f_0\|\ge r_n$，其中$\CF$是一个椭球在希尔伯特空间$ L_2(Δ)$相对于张量积傅立叶基和$\|\cdot\|$是规范$ L_2(Δ)$。我们获得率和尖锐的渐近误差概率在极大极小设置。衍生测试本质上是非自适应的。几个例证。特别是，我们认为属于椭球所产生的功能，从著名的多维Sobolev和张量积Sobolev规范，以及从鲜为人知的斯隆-沃$\rm\acute{z}$ niakowski规范和规范构造的多变量解析函数的复杂的带。文中还简要讨论了对建议的极大极小拟合优度检验方法的一些扩展，包括已知产品概率密度函数、未知方差、其它基函数和建议检验的自适应性的一般设计方案的情况。
2009-10-06 math.ST stat.TH
Efficient Estimation in NPIV Models: A Comparison of Various Neural Networks-Based Estimators
Harvard Business School（哈佛商学院）；Harvard University（哈佛大学）；Cowles Foundation for Research in Economics（考尔斯经济学研究基金会）；Yale University（耶鲁大学）
人工神经网络（ANN）可以被看作是非线性筛子，它可以比线性筛子更有效地逼近高维变量的复杂函数。我们研究了各种人工神经网络在非参数工具变量（NPIV）模型中的性能，这些模型是与经验经济学相关的。我们提出了两个有效的估计和推断加权平均导数（WAD）的程序：一个正交化的插件与最优加权筛选最小距离（OP-OSMD）程序和筛选有效的分数（ES）程序。这两个估计WAD使用人工神经网络筛近似未知的NPIV功能，是根N渐近正常和一阶等效。我们提供了一个详细的从业者的食谱，实现这两个有效的程序。我们比较了它们在各种模拟设计中的有限样本性能，这些模拟设计涉及多达13个连续协变量的平滑NPIV函数，不同的非线性和协变量相关性。一些蒙特卡罗的发现包括：1）调整和优化是更微妙的人工神经网络估计; 2）适当的调整，两个人工神经网络估计与各种架构可以执行良好; 3）更容易调整人工神经网络OP-OSMD估计比人工神经网络ES估计; 4）稳定的推论是更难以实现与人工神经网络（比样条）估计; 5）目前的实现和近似理论之间存在差距。最后，我们应用人工神经网络NPIV估计平均偏导数在两个经验需求的例子与多元协变量。
2022-10-05 cs.LG econ.EM math.ST
Adaptive nonparametric estimation in the functional linear model with functional output
本文考虑一个函数线性回归模型，其中协变量和响应变量都是函数随机变量。本文讨论了该模型中条件期望算子的最优非参数估计问题。本文首先介绍有限维子空间上的投影估计。我们提供了一个非渐近偏差方差分解的情况下，这些子空间产生的（经验）PCA函数的基础上的均方预测误差。由于模型选择装置选择最佳投影维度，实现了自动权衡：惩罚对比度估计器满足预言型不等式，因此在自适应观点中是最佳的。这些上界允许我们推导出椭圆光滑空间上的收敛速度。利率被证明是最佳的最小最大意义上：他们匹配的最小最大风险的下界，这也被证明。最后，我们进行了数值研究，模拟数据和两个真实的数据集。
2022-03-01 math.ST stat.TH
Nonparametric estimation of the volatility function in a high-frequency model corrupted by noise
本文考虑模型Y_{i,n} = \int_0^{i/n} σ（s）dW_s+τ（i/n）ε_{i，n}和\tilde Y_{i,n} =σ（i/n）W_{i/n} +τ（i/n）ε_{i，n}，i=1，. n，其中W_t表示一个标准布朗运动，ε_{i，n}是中心独立同分布的. E（ε_{i，n}^2）=1且四阶矩有限的随机变量。此外，σ和τ是未知的确定性函数，W_t和（ε_{1，n}，.ε_{n，n}）为独立过程。基于协方差结构的谱分解，我们导出了σ^2和τ^2的系列估计，并研究了它们的MISE的收敛速度与其光滑性的关系。为此，具体的基函数和相应的Sobolev椭球的介绍，我们表明，我们的估计是最佳的极大极小意义上。我们的工作是由微结构噪声模型的动机。我们的主要发现是，微结构噪声ε i，n引入了1/2的不适定性度，与ε i，n的尾部行为无关。该方法是说明了一个小的数值研究。
2010-04-06 math.ST stat.ME stat.TH
Adaptive Bayesian procedures using random series priors
我们考虑一个先验的非参数贝叶斯估计，它使用有限的随机序列与一个随机数的条款。先验是通过基函数的数量和相关系数的分布来构造的。通过构造适当的“筛子”并应用后验收敛速度的一般理论，我们得到了真实模型中函数的所有光滑水平的自适应后验收敛速度的一般结果。我们将这个一般结果应用于几个统计问题，如信号处理，密度估计，各种非参数回归，分类，谱密度估计，函数回归等。先验可以被视为常用高斯过程先验的替代方案，但是后验分布的性质可以用相对简单的技术来分析，并且在许多情况下允许更简单的计算方法而不使用马尔可夫链蒙特卡罗（MCMC）方法。通过仿真研究表明，基于随机序列先验和高斯过程先验的贝叶斯估计的精度相当。我们将该方法应用于两个有趣的函数回归数据集。
2015-02-07 math.ST stat.ME stat.TH
Automatic Debiased Machine Learning for Smooth Functionals of Nonparametric M-Estimands
University of Washington（华盛顿大学）；Netflix Research（Netflix 研究）；Cornell Tech, Cornell University（康奈尔理工学院，康奈尔大学）
本文提出自动去偏机器学习框架，用于估计广义统计参数。通过自动构造去偏估计器，结合损失函数的梯度、Hessian和线性近似，实现对非参数M-估计量的光滑函数的高效估计。
2026-03-20 math.ST stat.ME stat.ML
On Well-posedness and Minimax Optimal Rates of Nonparametric Q-function Estimation in Off-policy Evaluation
Cowles Foundation for Research in Economics, Yale University（耶鲁大学考尔斯经济学研究基金会）；George Washington University（乔治华盛顿大学）
研究了具有连续状态和连续动作的无限时域马尔可夫决策过程中的政策外评估问题。我们将$Q$ -函数估计转化为一种特殊形式的非参数工具变量（NPIV）估计问题。我们首先表明，在一个温和的条件下的NPIV制定的$Q$ -函数估计是适定性的$L^2$ -措施的不适定性相对于数据生成分布的意义上，绕过一个强有力的假设折扣因子$γ$施加在最近的文献中获得的$L^2$收敛速度的各种$Q$ -函数估计。由于这一新的适定性，我们得到了$Q$ -函数及其导数的非参数估计在上范数和$L^2$ -范数下的收敛速度的第一个Minimax下界，它与经典的非参数回归（Stone，1982）的收敛速度相同.然后，我们提出了一个筛选两阶段最小二乘估计，并建立了它的率最优性在两个范数在一些温和的条件下。我们的适定性和极大极小下界的一般结果是独立的兴趣，研究不仅是其他非参数估计的$Q$ -功能，而且有效的估计的任何目标政策的价值在政策设置。
2022-06-27 cs.LG econ.EM math.ST
Adapting to general quadratic loss via singular value shrinkage
本研究提出多变量高斯序列模型下的自适应估计方法，通过奇异值收缩估计量适应未知光滑性与任意二次损失，实现多变量Sobolev椭球上的极小极大自适应估计。
2023-12-21 math.ST stat.TH
MCMC-free adaptive Bayesian procedures using random series prior
我们考虑几个非参数贝叶斯模型，使用有限的随机序列与一个随机数的条款的先验。先验是通过基函数的数量和相关系数的分布来构造的。我们推导出一个一般性的结果，建设一个适当的筛子，并获得自适应后收缩率的所有平滑水平的功能，在真正的模型。我们将这个一般性结果应用于几个统计问题，如信号处理，密度估计，非参数加性回归，分类，谱密度估计，函数回归等。先验可以被看作是常用的高斯过程先验的替代方案，但是可以通过相对简单的技术进行分析，并且在许多情况下允许更简单的计算方法，而不使用马尔可夫链蒙特卡罗（MCMC）方法.仿真结果表明，随机序列先验的性能与高斯过程先验的性能相当。
2015-02-07 math.ST stat.TH
Nonparametric inference for density-dependent McKean--Vlasov diffusions
Duisburg-Essen University（杜伊斯堡-埃森大学）
本研究针对多元McKean--Vlasov扩散过程，提出基于稀疏ReQU神经网络的筛最大似然估计量，证明其在平稳密度与漂移系数估计上的收敛速率，且该速率达到极小极大最优性。
2026-09-02 math.PR math.ST stat.ML
Partially adaptive nonparametric instrumental regression
我们考虑非参数工具回归中结构函数的估计问题，其中在存在工具W的情况下，响应Y依赖于内生解释变量Z建模。该估计器是基于降维和额外的阈值。假定结构函数属于某些椭球，这些椭球在一定意义下与Z的条件期望算子相联系，给出了估计量的极小极大最优收敛速率。我们说明这些结果考虑经典的平滑假设。然而，所提出的估计需要一个最佳的尺寸参数的选择取决于某些特性的未知的结构函数和条件期望运营商的Z给定W，这是不知道在实践中。在我们的工作中解决的主要问题是这个尺寸参数的自适应选择使用的模型选择方法的限制下，Z给定W的条件期望运营商是平滑在一定意义上。在这种情况下，我们开发了一个惩罚的最小对比度估计与随机惩罚和收集的模型。我们表明，这种数据驱动的估计可以达到较低的风险绑定到一个常数在广泛的平滑类的结构功能。
2012-04-10 math.ST stat.TH
On rate optimality for ill-posed inverse problems in econometrics
Yale University（耶鲁大学）；University of Heidelberg（海德堡大学）
本文阐明非参数间接回归与非参数工具变量模型正则条件的关系，建立极小化极大风险下界，并证明投影估计子和筛子最小距离估计子达到该下界，实现速率最优性。
2007-09-13 cs.NA math.NA math.ST
Event history analysis with time-dependent covariates via landmarking supermodels and boosted trees
PFA Pension（PFA养老金）
本文提出了一种基于地标超模型和提升树的非参数方法，用于处理高维时间依赖性协变量的事件历史分析，避免了传统方法的时间不一致性问题，并通过模拟和实际数据验证了其有效性。
2026-01-24 math.ST stat.ME stat.TH
On minimax density estimation via measure transport
我们研究的收敛性，在海林格和相关的距离，非参数密度估计的基础上测量运输。这些估计量将感兴趣的度量表示为运输图下所选参考分布的前推，其中该图是通过最大似然目标（等效地，最小化经验Kullback-Leibler损失）或其惩罚版本来选择的。通过将M-估计与基于运输的密度表示的分析性质相结合，建立了一类惩罚测度运输估计的浓度不等式.然后，我们证明了我们的理论的影响的情况下，三角形Knothe-Rosenblatt（KR）运输的$d$维单位立方体，并表明，惩罚和未惩罚的版本，这样的估计实现极小极大最优的收敛速度的Hölder类的密度。具体来说，我们建立了最优率的无惩罚的非参数极大似然估计有界Hölder型球，然后为某些Sobolev惩罚估计和筛选小波估计。
2022-09-19 math.PR math.ST stat.ML
Nonparametric Poisson regression from independent and weakly dependent observations by model selection
本文考虑非参数Poisson回归问题，其中整数值响应$Y$是带参数$λ(X)$的Poisson随机变量的实现.目的是在随机设计框架中根据独立或弱相关观察值$(X_1,Y_1),\ldots,(X_n,Y_n)$估计功能参数$λ$。首先，我们确定有限维子空间上的投影估计的风险上界在温和的条件。在Sobolev椭球的情况下，得到的收敛速度是最佳的。本文的主要部分致力于通过模型选择构造$λ$的自适应投影估计。我们分两步进行：首先，我们假设$\Vert λ\Vert_\infty$的上界是已知的。在此假设下，我们构造了一个自适应估计器，其维数参数被定义为惩罚对比度准则的最小值。其次，我们用$\Vert λ\Vert_\infty$的适当插件估计器替换$\Vert λ\Vert_\infty$的已知上界。由此产生的自适应估计，以达到最小最大的最佳速率的一个额外的对数因子在独立的和弱相关的设置。适当的泊松点过程的浓度不等式证明的一个重要组成部分。我们通过一个简短的模拟研究来说明我们的理论研究结果，并指出未来研究的方向。
2018-05-11 math.ST stat.TH
Minimax testing of a composite null hypothesis defined via a quadratic functional in the model of regression
本文研究了非参数多元回归模型下复合原假设的检验问题。对于给定的二次函数$Q$，原假设声明回归函数$f$满足约束$Q[f]=0$，而替代假设对应于$Q[f]$远离零的函数。一方面，我们提供了极大极小化率的测试和确切的分离常数，以及尖锐的最佳测试程序，对角和非负二次泛函。我们考虑光滑类的椭球形和检查，我们的条件得到满足，在特定情况下，对应于各向异性的Sobolev类椭球。在这种情况下，我们提出了一个封闭的形式的极大极小速率和分离常数。另一方面，二次泛函的极小极大率既不是正的也不是负的，使得出现两种不同的状态：“正则”和“非正则”。在“规则”情况下，极大极小化速率等于$n^{-1/4}$，而在“不规则”情况下，速率取决于平滑类，并且比“规则”情况下慢。我们将其应用到测试在嘈杂的环境中观察到的两个功能的规范的平等的问题。
2013-01-04 math.ST stat.TH
Characterizing the minimax rate of nonparametric regression under bounded star-shaped constraints
本文在星形函数类上刻画非参数回归的极小极大速率，提出同时推广 sup-范数有界与 L-亚高斯条件的假设，并给出首个在凸约束下对真实点自适应的估计量。
2025-06-27 math.ST stat.TH
Variational Analysis of Constrained M-Estimators
我们提出了一个统一的框架，建立非参数M-估计的存在性，计算相应的估计，并证明其强一致性时，类的功能是非常丰富的。特别是，该框架解决的情况下，一类功能是复杂的，涉及信息和假设的形状，逐点边界，模式的位置，高度模式，水平集的位置，矩的值，子梯度的大小，连续性，距离“先验”函数，多元总的积极性，以及上述的任何组合。这个类可以被设计为在特定的设置中即使在数据很少的情况下也能很好地执行。该框架将函数类视为Attouch-Wets距离下的上连续函数的特定度量空间的子集。除了允许大量的M-估计系统的治疗，框架产生的一致性插件估计的模式的密度，最大化的回归函数，水平集的分类器，和相关的数量，也使计算通过近似参数类。我们建立一致性，通过一个片面的大数定律，在这里扩展到筛，放松假设的统一法律，同时确保全球近似，即使在模型的误设定。
2019-09-09 math.ST stat.TH
Flexible generalized varying coefficient regression models
本文研究了一个非常灵活的模型，可以广泛用于分析一个响应和多个协变量之间的关系。该模型是非参数的，但容易解释协变量的影响。该模型可容纳连续和离散随机变量作为响应和协变量。将广义变系数模型和广义可加模型作为特殊情况加以讨论是相当灵活的。在一个较弱的条件下，给出了多元均值函数的估计问题等价于其一元分量函数的估计问题的一般定理。我们讨论了筛和惩罚的最小二乘估计定理的影响，然后调查的结果在核型估计的全部细节。核估计器作为一组非线性积分方程的解给出。给出了求解该方程组的迭代算法，并讨论了估计量和算法的理论性质。最后给出了仿真结果。
2012-10-17 math.ST stat.TH
Resolvable Fourier Degree and Minimax Estimation on theBoolean Hypercube
Sorbonne Université（索邦大学）；Institut universitaire de France（法国高等学术研究院）
本文研究布尔超立方体上傅里叶-索博列夫预算下的高维非参数回归，提出可解傅里叶度刻画极小极大风险，并扩展至单调回归及未知支撑情形。
2026-09-15 math.ST stat.TH
