Adaptive estimation for nonparametric circular regression with errors in variables
针对变量含误差的圆回归问题，本文构建自适应估计器并分析其理论收敛速率，通过仿真与真实数据验证方法有效性，为圆型或线型协变量场景提供非参数估计方案。
2025-08-26 math.ST stat.TH
Nonparametric optimal density estimation for censored circular data
本文提出了一种非参数最优密度估计方法，用于处理截断的圆数据，通过回归方法构建投影估计器，并在Sobolev类密度下达到最小最大收敛率。
2025-12-08 math.ST stat.TH
Nonparametric Estimation For Censored Circular Data
针对删失圆数据，提出结合投影估计与矩方法的商估计量，给出误差上界与收敛速度，并通过模拟验证性能。
2025-08-08 math.ST stat.TH
Variational Multiscale Nonparametric Regression: Smooth Functions
对于光滑函数的非参数回归问题，我们重新考虑并分析了一种约束变分方法，我们称之为多尺度Nemirovski-Dantzig（MIND）估计。这可以被看作是基于Nemirovski（\emph{J. Comput. System Sci.}，23：1- 11，1986）的早期思想的Dantzig选择器（\emph{Ann. Statist.}，35（6）：2313- 51，2009）的多尺度扩展。MIND最小化齐次Sobolev范数的约束下，残差的多分辨率范数是有界的通用阈值。本文的主要贡献是导出了MIND关于$L^q$ -损失的收敛速度，即$1 \le q \le \infty$，几乎必然收敛和期望收敛。为此，我们引入近似源条件的方法。对于一维信号，这些可以转化为$B$样条的近似性质。一个显着的结果是，MIND达到几乎极大极小最优率同时为大范围的Sobolev和Besov类，这提供了一定的适应。补充的渐近分析，我们检查有限样本性能的MIND的数值模拟。
2015-12-03 math.ST stat.TH
Nonparametric estimation of scalar diffusions based on low frequency data
研究了离散数据X_{nΔ}（n= 0，1，.）的扩散系数（X_t，tPDMATHABMM 0）的估计问题，N.采样频率Δ^{-1}是常数，并且当观测值的数量N趋于无穷大时取渐近性。我们证明了估计扩散系数（波动率）和漂移在非参数设置的问题是不适定的：Sobolev约束和平方误差损失的最小最大收敛速度与一个，分别为一阶和二阶线性反问题。为了确保遍历性和限制技术上的困难，我们限制自己的标量扩散生活在一个紧凑的区间反射边界条件。我们的方法是基于相关的马尔可夫半群的谱分析。通过对离散时间马尔可夫链（X_{nΔ}，n= 0，1，.，n）的转移算子的特征值-特征函数对的非参数估计，得到了系数的速率最优估计，N）在一个合适的Sobolev范数，连同其不变密度的估计。
2005-03-29 math.ST stat.TH
Confidence ellipsoids for regression coefficients by observations from a mixture
线性回归系数的置信椭圆是由不同浓度的混合物的观测值构造的。两种方法进行了讨论。第一种是基于加权最小二乘技术的非参数方法。第二种是近似的极大似然估计，应用EM算法进行估计计算。
2018-06-11 stat.ME
Minimax Optimal Regression over Sobolev Spaces via Laplacian Regularization on Neighborhood Graphs
在本文中，我们研究的统计性质的拉普拉斯平滑，一个基于图形的方法来非参数回归。在标准的正则性条件下，我们建立了拉普拉斯平滑估计$\widehat{f}$的误差上界，以及基于$\widehat{f}$的拟合优度检验。这些上界匹配的极小极大最优估计和测试速度的收敛在一阶Sobolev类$H^1(\mathcal{X})$，为$\mathcal{X}\subseteq \mathbb{R}^d$和$1 \leq d < 4$ ;在估计问题，为$d = 4$，他们是最佳模一个$\log n$因素。此外，我们证明了拉普拉斯平滑是流形自适应的：如果$\mathcal{X} \subseteq \mathbb{R}^d$是一个$m$维流形与$m < d$，那么拉普拉斯平滑的错误率（无论是估计或测试）只取决于$m$，以同样的方式，如果$\mathcal{X}$是一个全维集在$\mathbb{R}^d$。
2021-06-03 math.ST stat.ML stat.TH
Nonparametric Multivariate L1-median Regression Estimation with Functional Covariates
当协变量取值于无穷维空间时，本文提出了多元条件分布的L1-中位数的非参数估计。多变量情况更适合于同时预测随机变量向量的分量，而不是分别预测它们中的每一个。在利用著名的Nadarya-Waston估计量估计条件L1-median函数时，我们证明了该估计量的强相合性和渐近正态性。我们还提出了一些模拟，并提供如何建立条件con？多元L1-中位数回归的置信椭圆。对化学计量实际数据进行了数值研究，比较了协变量X为曲线，X为随机向量时多元L1-中位数回归与边际中位数回归向量的异同。
2013-04-16 math.ST stat.ME stat.TH
Adaptive nonparametric estimation in the functional linear model with functional output
本文考虑一个函数线性回归模型，其中协变量和响应变量都是函数随机变量。本文讨论了该模型中条件期望算子的最优非参数估计问题。本文首先介绍有限维子空间上的投影估计。我们提供了一个非渐近偏差方差分解的情况下，这些子空间产生的（经验）PCA函数的基础上的均方预测误差。由于模型选择装置选择最佳投影维度，实现了自动权衡：惩罚对比度估计器满足预言型不等式，因此在自适应观点中是最佳的。这些上界允许我们推导出椭圆光滑空间上的收敛速度。利率被证明是最佳的最小最大意义上：他们匹配的最小最大风险的下界，这也被证明。最后，我们进行了数值研究，模拟数据和两个真实的数据集。
2022-03-01 math.ST stat.TH
A class of nonparametric homogeneity tests on the circle
Universidad Carlos III de Madrid（马德里卡洛斯三世大学）
本文提出圆上c样本齐性检验的统一框架，包含Anderson-Darling型及基于softmax和Poisson核的新检验，理论推导渐近性质，模拟验证功效，并应用于北极熊哺乳模式分析。
2026-09-14 math.ST stat.ME stat.TH
Nonparametric estimation in functional linear models with second order stationary regressors
考虑函数线性回归中斜率参数的估计问题，其中标量响应Y1，.，Yn依赖于二阶平稳随机函数X1，.，Xn.一个正交系列估计的功能斜率参数与额外的阈值在傅立叶域中的建议和其性能的测量相对于广泛的加权风险覆盖作为示例的均方预测误差和平均积分平方误差的衍生估计。本文在斜率参数的不同正则性空间和协方差算子的不同连接条件下，导出了估计量在一大类正则性空间上的极小极大最优收敛速率。这些一般结果通过著名的周期函数的索伯列夫空间作为斜率参数的正则性空间以及有限或无限平滑协方差算子的情况的具体例子来说明。
2009-01-27 math.ST stat.TH
Partially adaptive nonparametric instrumental regression
我们考虑非参数工具回归中结构函数的估计问题，其中在存在工具W的情况下，响应Y依赖于内生解释变量Z建模。该估计器是基于降维和额外的阈值。假定结构函数属于某些椭球，这些椭球在一定意义下与Z的条件期望算子相联系，给出了估计量的极小极大最优收敛速率。我们说明这些结果考虑经典的平滑假设。然而，所提出的估计需要一个最佳的尺寸参数的选择取决于某些特性的未知的结构函数和条件期望运营商的Z给定W，这是不知道在实践中。在我们的工作中解决的主要问题是这个尺寸参数的自适应选择使用的模型选择方法的限制下，Z给定W的条件期望运营商是平滑在一定意义上。在这种情况下，我们开发了一个惩罚的最小对比度估计与随机惩罚和收集的模型。我们表明，这种数据驱动的估计可以达到较低的风险绑定到一个常数在广泛的平滑类的结构功能。
2012-04-10 math.ST stat.TH
Optimal Rates for Nonparametric Density Estimation under Communication Constraints
我们考虑当每个样本被量化到只有有限数量的比特时，Besov空间的密度估计。我们提供了一个非交互式的自适应估计，利用小波基的稀疏性，随着一个模拟和推断技术的参数估计通信约束下。我们表明，我们的估计是近速率最优的推导极小极大下界，即使在交互式协议是允许的。有趣的是，虽然我们的基于小波的估计器对于索伯列夫空间也几乎是速率最优的，但尚不清楚标准傅立叶基是否可以用于实现相同的性能。
2021-07-21 cs.DS cs.IT math.IT
Minimax Optimal Regression over Sobolev Spaces via Laplacian Eigenmaps on Neighborhood Graphs
本文研究了Laplacian特征映射主成分回归（PCR-LE）的统计性质，PCR-LE是一种基于Laplacian特征映射（LE）的非参数回归方法。PCR-LE通过将观察到的响应的向量${\bf Y} = (Y_1,\ldots,Y_n)$投影到由邻域图拉普拉斯算子的某些特征向量所跨越的子空间上来工作。我们证明了PCR-LE在索伯列夫空间上实现了随机设计回归的极大极小收敛率。在设计密度$p$上的充分平滑条件下，PCR-LE实现了估计（其中平方$L^2$范数中的最优速率已知为$n^{-2s/(2s + d)}$）和拟合优度检验（$n^{-4s/(4s + d)}$）的最优速率。我们还表明，PCR-LE是\emph{manifold adaptive}：也就是说，我们考虑的情况下，设计是支持在一个小的内在维度$m$流形，并给出上界建立PCR-LE实现更快的极小极大估计（$n^{-2s/(2s + m)}$）和测试（$n^{-4s/(4s + m)}$）的收敛速度。有趣的是，这些速率几乎总是比已知的图拉普拉斯特征向量收敛到其总体水平极限的速率快得多;换句话说，对于这个问题，从统计学上讲，估计特征的回归似乎比估计特征本身容易得多。我们支持这些理论结果与经验证据。
2021-11-14 math.ST stat.ML stat.TH
A Sieve Stochastic Gradient Descent Estimator for Online Nonparametric Regression in Sobolev ellipsoids
回归的目标是恢复一个未知的潜在函数，该函数将一组预测因子与噪声观测的结果最好地联系起来。在非参数回归中，假设回归函数属于预先指定的无限维函数空间（假设空间）。在在线设置中，当观测值以流的形式出现时，计算上优选迭代地更新估计值，而不是重复地重新调整整个模型。受非参数筛法估计和随机逼近方法的启发，当假设空间为Sobolev椭球时，提出了一种筛法随机梯度下降估计（Sieve-SGD）.我们证明了Sieve-SGD在一组简单而直接的条件下具有速率最优均方误差（MSE）。所提出的估计可以构建一个低的计算（时间和空间）费用：我们还正式表明，Sieve-SGD需要几乎最小的内存使用所有统计率最优估计。
2022-01-06 math.ST stat.ME stat.TH
Bernstein von Mises Theorems for Gaussian Regression with increasing number of regressors
本文对贝叶斯非参数和半参数估计理论作出了贡献。研究了当回归变量个数随样本量增加时，高斯线性回归模型的后验分布的渐近正态性。在此框架下得到了两类Bernstein-von Mises定理：参数本身的非参数定理和参数泛函的半参数定理。我们将它们应用于高斯序列模型和Sobolev类和$C^α$类中的函数回归，得到了极小极大收敛速度。在我们的应用中，泛函的贝叶斯估计达到了自适应性。
2012-03-01 math.ST stat.TH
Nonparametric estimation of the volatility function in a high-frequency model corrupted by noise
本文考虑模型Y_{i,n} = \int_0^{i/n} σ（s）dW_s+τ（i/n）ε_{i，n}和\tilde Y_{i,n} =σ（i/n）W_{i/n} +τ（i/n）ε_{i，n}，i=1，. n，其中W_t表示一个标准布朗运动，ε_{i，n}是中心独立同分布的. E（ε_{i，n}^2）=1且四阶矩有限的随机变量。此外，σ和τ是未知的确定性函数，W_t和（ε_{1，n}，.ε_{n，n}）为独立过程。基于协方差结构的谱分解，我们导出了σ^2和τ^2的系列估计，并研究了它们的MISE的收敛速度与其光滑性的关系。为此，具体的基函数和相应的Sobolev椭球的介绍，我们表明，我们的估计是最佳的极大极小意义上。我们的工作是由微结构噪声模型的动机。我们的主要发现是，微结构噪声ε i，n引入了1/2的不适定性度，与ε i，n的尾部行为无关。该方法是说明了一个小的数值研究。
2010-04-06 math.ST stat.ME stat.TH
Nonparametric Poisson regression from independent and weakly dependent observations by model selection
本文考虑非参数Poisson回归问题，其中整数值响应$Y$是带参数$λ(X)$的Poisson随机变量的实现.目的是在随机设计框架中根据独立或弱相关观察值$(X_1,Y_1),\ldots,(X_n,Y_n)$估计功能参数$λ$。首先，我们确定有限维子空间上的投影估计的风险上界在温和的条件。在Sobolev椭球的情况下，得到的收敛速度是最佳的。本文的主要部分致力于通过模型选择构造$λ$的自适应投影估计。我们分两步进行：首先，我们假设$\Vert λ\Vert_\infty$的上界是已知的。在此假设下，我们构造了一个自适应估计器，其维数参数被定义为惩罚对比度准则的最小值。其次，我们用$\Vert λ\Vert_\infty$的适当插件估计器替换$\Vert λ\Vert_\infty$的已知上界。由此产生的自适应估计，以达到最小最大的最佳速率的一个额外的对数因子在独立的和弱相关的设置。适当的泊松点过程的浓度不等式证明的一个重要组成部分。我们通过一个简短的模拟研究来说明我们的理论研究结果，并指出未来研究的方向。
2018-05-11 math.ST stat.TH
Nonparametric spectral density estimation using interactive mechanisms under local differential privacy
CREST, ENSAE, Institut Polytechnique de Paris（CREST、ENSAE、巴黎理工学院）；Universität Kassel（卡塞尔大学）；ISOR, Universität Wien（维也纳大学ISOR）
本文提出基于局部差分隐私的交互机制，用于估计平稳高斯时间序列的谱密度，通过两阶段过程提升估计效率，针对Hölder和Sobolev光滑类谱密度，在小隐私参数下改进非交互机制的估计率。
2026-09-22 math.ST stat.ML stat.TH
How Well Generative Adversarial Networks Learn Distributions
University of Chicago, Booth School of Business（芝加哥大学布斯商学院）
本文使用对抗框架和生成对抗网络（GANs）隐式研究学习分布的收敛速度，其中将Wasserstein、Sobolev、MMD GAN和广义/模拟矩量法（GMM/SMM）作为特例。我们研究了广泛的参数和非参数目标分布下的主机的客观评价指标。我们研究如何通过正则化的镜头获得GANs的有效统计保证。在非参数端，我们得到了最优的极小极大率分布估计下的对抗框架。在参数端，我们建立了一个一般神经网络类（包括深度泄漏ReLU网络）的理论，该理论描述了生成器和搜索对选择的相互作用。我们发现并隔离了一个新的正则化概念，称为生成器-正则对正则化，它揭示了GANs与经典的参数和非参数方法相比显式分布估计的优势。我们开发了新的预言不等式作为分析GANs的主要技术工具，这是独立的兴趣。
2021-09-07 cs.LG math.ST stat.ML
Online nonparametric regression with Sobolev kernels
University of Potsdam（波茨坦大学）；Centre de Recherche INRIA de Paris（法国国家信息与自动化研究所巴黎研究中心）；IRT Saint Exupéry（圣埃克苏佩里技术研究院）；Institut de Mathématiques de Toulouse（图卢兹数学研究所）
在这项工作中，我们调查的变化，在线核岭回归算法的设置$d-$维对抗非参数回归。本文给出了索伯列夫空间类$W_{p}^β(\mathcal{X})$，$p\geq 2, β>\frac{d}{p}$的遗憾上界.最小最大遗憾分析支持的上界，这表明，在情况下$β> \frac{d}{2}$或$p=\infty$，这些利率是（基本上）最优的。最后，我们比较了核岭回归预测器的性能，已知的非参数预测器的遗憾率和计算复杂性，以及在统计（i.i.d.）非参数回归。
2021-07-13 cs.LG math.ST stat.ML
Goodness-of-fit testing and quadratic functional estimation from indirect observations
我们考虑卷积模型，其中i.i.d.具有未知密度$f$的随机变量$X_i$用加性i.i.d.独立于$X$的噪声。我们假设密度$f$属于Sobolev类或超光滑函数类。噪声分布是已知的，并且其特征函数以多项式或指数方式渐近衰减。本文研究卷积模型的拟合优度检验问题。我们证明了间接观测的基础上，从核估计的二次函数$\int f^2$的检验统计量的风险的上界。当未知密度比噪声密度足够平滑时，我们证明了该估计量是$n^{-1/2}$相容的、渐近正态的和有效的（对于我们计算的方差）。否则，我们给非参数上界的风险相同的估计。我们给出了一个统一的方法证明这两个问题的非参数极大极小下界。我们建立他们的索伯列夫密度和超光滑密度比指数噪声更不平滑。在这两个设置中，我们获得了与渐近极大极小速率相关的精确检验常数。
2007-11-21 math.ST stat.TH
Nonparametric Estimation in SDE Models Involving an Explanatory Process
本文针对含外生过程的SDE模型，证明了解的存在唯一性及联合密度性质，并为非参数估计量建立了索伯列夫空间中的风险界与收敛速率，同时提出了模型选择程序。
2025-07-08 math.ST stat.TH
On minimax density estimation via measure transport
我们研究的收敛性，在海林格和相关的距离，非参数密度估计的基础上测量运输。这些估计量将感兴趣的度量表示为运输图下所选参考分布的前推，其中该图是通过最大似然目标（等效地，最小化经验Kullback-Leibler损失）或其惩罚版本来选择的。通过将M-估计与基于运输的密度表示的分析性质相结合，建立了一类惩罚测度运输估计的浓度不等式.然后，我们证明了我们的理论的影响的情况下，三角形Knothe-Rosenblatt（KR）运输的$d$维单位立方体，并表明，惩罚和未惩罚的版本，这样的估计实现极小极大最优的收敛速度的Hölder类的密度。具体来说，我们建立了最优率的无惩罚的非参数极大似然估计有界Hölder型球，然后为某些Sobolev惩罚估计和筛选小波估计。
2022-09-19 math.PR math.ST stat.ML
Minimax testing of a composite null hypothesis defined via a quadratic functional in the model of regression
本文研究了非参数多元回归模型下复合原假设的检验问题。对于给定的二次函数$Q$，原假设声明回归函数$f$满足约束$Q[f]=0$，而替代假设对应于$Q[f]$远离零的函数。一方面，我们提供了极大极小化率的测试和确切的分离常数，以及尖锐的最佳测试程序，对角和非负二次泛函。我们考虑光滑类的椭球形和检查，我们的条件得到满足，在特定情况下，对应于各向异性的Sobolev类椭球。在这种情况下，我们提出了一个封闭的形式的极大极小速率和分离常数。另一方面，二次泛函的极小极大率既不是正的也不是负的，使得出现两种不同的状态：“正则”和“非正则”。在“规则”情况下，极大极小化速率等于$n^{-1/4}$，而在“不规则”情况下，速率取决于平滑类，并且比“规则”情况下慢。我们将其应用到测试在嘈杂的环境中观察到的两个功能的规范的平等的问题。
2013-01-04 math.ST stat.TH
Harmonic Map Regression: Rate-Optimal Nonparametric Estimation on Manifolds with Topological Recovery
University at Buffalo（布法罗大学）
本文提出调和映射回归方法，通过狄利克雷能量惩罚实现流形上非参数估计，揭示拓扑恢复现象，推导出Sobolev阶s的最小最大速率，并在多个流形上验证理论有效性。
2026-04-10 math.ST stat.ME stat.TH
Effect-Wise Inference for Smoothing Spline ANOVA on Tensor-Product Sobolev Space
University of Nevada, Las Vegas（内华达大学拉斯维加斯分校）；Virginia Tech（弗吉尼亚理工大学）
针对多元非参数函数ANOVA中效应推断的挑战，提出基于张量积Sobolev子空间的光滑样条ANOVA统一框架，实现各效应函数的收敛率、逐点置信区间和Wald检验，主效应达最优单变量率，交互效应达最优率（对数因子内）。
2026-06-07 math.ST stat.ME stat.TH
Characterizing the minimax rate of nonparametric regression under bounded star-shaped constraints
本文在星形函数类上刻画非参数回归的极小极大速率，提出同时推广 sup-范数有界与 L-亚高斯条件的假设，并给出首个在凸约束下对真实点自适应的估计量。
2025-06-27 math.ST stat.TH
Nonparametric Deconvolution and Denoising using Simulation Based Inference
University of Texas at Austin（德克萨斯大学奥斯汀分校）；The NSF-Simons AI Institute for Cosmic Origins（NSF-西蒙斯宇宙起源人工智能研究所）
提出利用卷积最大均值差异损失的无似然框架，实现加性测量误差下的非参数密度反卷积与经验贝叶斯去噪，理论证明了有限样本界与收敛速度。
2026-06-23 stat.ME stat.ML
Minimax signal detection in ill-posed inverse problems
不适定反问题出现在各个科学领域。我们认为信号检测问题的温和，严重和极端不适定的反问题的$l^q$ -椭球（机构），$q\in(0,2]$，Sobolev，分析和广义解析类的功能下的高斯白噪声模型。我们研究率和尖锐的渐近误差概率在极大极小设置。通过构造，衍生测试通常是非适应性的。还构造了结构相当简单的Minimax率最优自适应检验。
2012-09-25 math.ST stat.TH
Nonparametric tests of structure for high angular resolution diffusion imaging in Q-space
高角分辨率扩散成像数据是观察到的水分子在组织中的局部扩散的特征函数。这些数据用于推断大脑成像中的结构信息。非参数标量措施，提出了总结这样的数据，并局部表征扩散概率密度函数（PDF）的空间特征，依赖于几何的特征函数。摘要统计量的定义，使他们的分布是，一阶，既独立的滋扰参数，也分析处理。确定在空间位置（体素）处的扩散的主导方向，并且在傅立叶空间中引入一组新的轴。在这些轴中量化的变化确定扩散密度的局部空间特性。非参数假设检验，以确定是否扩散是单峰，各向同性或多峰的建议。白质微结构的更微妙的特征，例如PDF的各向异性程度和与各种非对称PDF替代品相比的对称性，可以直接在傅立叶域中确定，而无需对扩散PDF的形式进行参数假设。我们模拟了一组扩散过程，并利用新引入的摘要来描述它们的局部性质。我们展示了多个体素之间复杂的白质结构如何在模拟中表现出清晰的椭圆形和不对称结构，并评估了临床采集的磁共振成像数据中统计的性能。
2011-08-16 physics.med-ph stat.AP
PDE-constrained inverse problems at the $\sqrt{n}$ rate via debiased physics-informed neural networks
Boston University（波士顿大学）
针对PDE约束逆问题中PINN估计偏差问题，提出两步去偏估计程序，实现$\sqrt{n}$相合且渐近正态的估计，并扩展至贝叶斯推断，通过数值实验验证了方法的有效性。
2026-09-14 math.ST stat.ME stat.ML
Asymptotically Minimax Prediction in Infinite Sequence Models
研究了无穷序列模型中的渐近极大极小预测分布。首先，我们讨论了无穷序列模型中的预测与函数模型中的预测之间的联系。其次，当参数空间为已知椭球时，我们构造了一个渐近Minimax预测分布。我们证明了基于高斯先验分布的贝叶斯预测分布在椭球上是渐近极小极大的。第三，我们构造了一个渐近极小极大预测分布的任何Sobolev椭球。我们表明，贝叶斯预测分布的基础上的产品斯坦的先验是渐近极小极大的任何Sobolev椭球。最后，我们提出了一个有效的抽样方法，从建议的贝叶斯预测分布。
2017-07-19 math.ST stat.TH
Minimax rates for learning kernels in operators
针对算子中核估计的不适定反问题，提出自适应谱Sobolev空间框架，并建立多项式与指数谱衰减下的极小极大均方误差速率，开发驯化最小二乘估计器实现最优上界。
2025-06-22 math.PR math.ST stat.TH
Minimax density estimation in the adversarial framework under local differential privacy
本文研究对抗框架下局部差分隐私约束的非参数密度估计问题，提出Coordinate block privacy机制与投影估计器结合实现极小化极大最优速率，并开发了对数项内最优的自适应程序。
2025-07-17 math.ST stat.TH
Resolvable Fourier Degree and Minimax Estimation on theBoolean Hypercube
Sorbonne Université（索邦大学）；Institut universitaire de France（法国高等学术研究院）
本文研究布尔超立方体上傅里叶-索博列夫预算下的高维非参数回归，提出可解傅里叶度刻画极小极大风险，并扩展至单调回归及未知支撑情形。
2026-09-15 math.ST stat.TH
Metric Entropy and Minimax Risk of Ellipsoids with an Application to Pinsker's Theorem
本文通过类型τ积分刻画椭球度量熵与最小最大风险，改进Sobolev椭球熵刻画，并将Pinsker定理推广至任意有限维有界开域且给出二阶渐近项。
2025-10-25 math.FA math.ST stat.TH
Statistical Inference after Kernel Ridge Regression Imputation under item nonresponse
插补是处理缺失数据的常用技术。我们考虑一个非参数方法填补使用核岭回归技术，并提出一致的方差估计。建议的方差估计是基于一个线性化的方法，采用熵的方法来估计密度比。当在核岭回归插补中利用Sobolev空间时，建立了插补估计的根-n相合性，从而使我们能够发展所提出的方差估计。合成数据实验证实了我们的理论。
2021-01-29 stat.ME stat.ML
Optimal minimax rate of learning nonlocal interaction kernels
本文证明非局部相互作用核学习的最优极小极大速率与经典非参数回归一致，并提出驯化最小二乘估计器（tLSE）在有限粒子系统中实现该速率，利用随机矩阵理论与Sobolev嵌入，通过Fano-Tsybakov方法确定下界。
2025-04-23 math.PR math.ST stat.ML
Functional linear instrumental regression under second order stationarity
考虑函数线性工具回归中斜率参数的估计问题，其中在存在工具W的情况下，外生随机函数，标量响应Y依赖于内生随机函数X建模。在X和W均为二阶平稳的假设下，基于（Y，X，W）的n个样本，给出了函数斜率参数及其导数的非参数估计.本文在假定斜率参数属于著名的周期函数的索伯列夫空间的条件下，导出了估计量的极小极大最优收敛速率。本文讨论了与随机函数X和W相关的互协方差算子是光滑的、无穷的或以某种一般形式光滑的情形。
2016-03-04 math.ST stat.TH
On deconvolution of distribution functions
本文研究了具有测量误差的观测值的连续分布函数的非参数估计问题。研究了当未知分布的密度属于Sobolev类，且误差密度是一般光滑时，该问题的极大极小复杂性。我们开发率最优估计的基础上直接反演的经验特征函数。我们还得到了显式凸优化问题给出的分布函数的极小极大仿射估计。这些估计的自适应版本，提出了一些数值结果表明良好的实际行为的开发程序。
2012-02-24 math.ST stat.TH
MMD Aggregated Two-Sample Test
University College London（伦敦大学学院）；Inria（法国国家信息与自动化研究所）；Yonsei University（延世大学）；Université de Toulouse（图卢兹大学）；CNRS（法国国家科学研究中心）；INSA（法国国立应用科学学院）
本研究提出两种基于MMD的非参数两样本核检验，固定核检验可非渐近控制一类错误且具极小极大最优性，聚合检验MMDAgg可自适应光滑度参数，在合成与真实数据上均表现优异。
2023-08-21 cs.LG math.ST stat.ME
Fast adaptive estimation of log-additive exponential models in Kullback-Leibler divergence
研究了区域$\triangle=\{( x_1, \ldots, x_d)\in \mathbb{R}^d, 0\leq x_1\leq \dots \leq x_d \leq 1\}$上乘积型密度函数的非参数估计问题。这种密度在随机截断模型中作为观测值的联合密度函数出现。它们也可以作为具有给定边缘的顺序统计量的最大熵分布得到。我们提出了一种估计方法的基础上的密度的对数的近似由一个精心选择的家庭的基函数。我们表明，该方法实现了快速的收敛速度的概率相对于Kullback-Leibler发散密度的对数属于一个Sobolev函数类与已知的规律性。在正则性未知的情况下，我们提出了一个估计过程，使用凸聚集的对数密度获得适应性。该方法的性能在仿真研究中示出。
2016-04-21 math.ST stat.TH
On the Estimation of Derivatives Using Plug-in Kernel Ridge Regression Estimators
Rice University（莱斯大学）
针对回归函数导数估计中参数调优难、高阶导数分析复杂的问题，提出适用于多维支撑域与任意混合偏导的插入式KRR估计量，统一推导误差界，验证其极小极大最优速率与免随导数阶数调参的插入式特性，且有限样本性能优异。
2023-08-26 cs.LG math.ST stat.ML
Maximum likelihood estimation and uncertainty quantification for Gaussian process approximation of deterministic functions
尽管高斯过程回归模型无处不在，但很少有理论结果可以解释协方差核的参数通常需要从数据集估计的事实。本文提供了在高斯过程回归的背景下与无噪声数据集的第一个理论分析之一。具体来说，我们考虑的情况下，Sobolev内核（如Matérn内核）的尺度参数估计的最大似然。我们表明，极大似然估计的尺度参数单独提供了显着的适应对误指定的高斯过程模型在这个意义上，该模型可以成为“慢慢”过度自信在最坏的情况下，无论之间的差异的平滑度的数据生成函数和预期的模型。该分析是基于从非参数回归和分散的数据插值技术的组合。实证结果提供了支持的理论研究结果。
2020-05-11 cs.NA math.NA math.ST
Shallow ReLU$^s$ Networks in $L^p$-Type and Sobolev Spaces: Approximation and Path-Norm Controlled Generalization
School of Mathematical Sciences Fudan University（复旦大学数学学院）；School of Mathematical Sciences Institute of Natural Sciences and MOE-LSC Shanghai Jiao Tong University（上海交通大学数学学院、自然科学研究院和教育部低维量子体系科学重点实验室）；School of Mathematical Sciences Shanghai Key Laboratory for Contemporary Applied Mathematics Fudan University（复旦大学上海当代应用数学重点实验室数学学院）
本文研究浅层ReLU$^s$网络在$L^p$型空间和Sobolev空间中的逼近能力，并通过$\ell_1$路径范数控制实现非参数回归的极小化最优泛化误差。
2026-05-25 cs.LG stat.ML
Early Stopping for Nonparametric Testing
迭代算法的早期停止是一种算法正则化方法，以避免估计和分类中的过拟合。在本文中，我们表明，早期停止也可以适用于获得最小最大最优检验在一般的非参数设置。具体地说，在再生核希尔伯特空间中，基于函数梯度下降算法产生的迭代估计，得到Wald型检验统计量.一个值得注意的贡献是建立了一个“尖锐”的停止规则：当迭代次数达到最佳顺序时，测试最优性是可以实现的;否则，测试最优性变得不可能。作为一个副产品，在[11]和[19]中研究的早停止下的极小极大最优估计也得到了类似的清晰度结果。所有得到的结果适用于各种内核类，包括Sobolev平滑类和高斯内核类。
2018-09-17 math.ST stat.ML stat.TH
Minimax testing and quadratic functional estimation for circular convolution
在循环卷积模型中，我们的目标是推断的圆形随机变量的密度，使用的观测污染的附加测量误差。我们强调的两个问题的相互作用：最优测试和二次函数估计。在一般的正则性假设下，我们确定了二次泛函的极大极小风险估计的一个上界。上界由两个术语组成，一个模仿经典的偏差-方差权衡，另一个导致二次函数估计中的典型肘效应。利用二次泛函的极小极大最优估计量作为检验统计量，得到了非参数方案非渐近极小极大检验半径的一个上界。有趣的是，在估计情况下引起肘效应的项在测试半径内消失。我们提供了一个匹配的下界的测试问题。通过证明检验问题的任何下界也产生二次函数估计问题的下界，我们得到了估计风险的下界。最后，我们证明了一个匹配的下界的估计问题中的肘效应的原因。考虑索伯列夫空间和普通或超光滑误差密度的结果示出。
2020-04-27 math.ST stat.TH
Minimax Goodness-of-Fit Testing in Multivariate Nonparametric Regression
我们考虑一个未知的响应函数$f$定义的$Δ=[0,1]^d$，$1\le d\le\infty$，采取在$n$随机均匀设计点和观察已知方差的高斯噪声。给定一个正序列$r_n\to 0$作为$n\to\infty$和一个已知的函数$f_0 \in L_2(Δ)$，我们提出了一个统一的框架，在一般条件下，拟合优度测试问题的零假设$H_0: f=f_0$对替代$H_1: f\in\CF, \|f-f_0\|\ge r_n$，其中$\CF$是一个椭球在希尔伯特空间$ L_2(Δ)$相对于张量积傅立叶基和$\|\cdot\|$是规范$ L_2(Δ)$。我们获得率和尖锐的渐近误差概率在极大极小设置。衍生测试本质上是非自适应的。几个例证。特别是，我们认为属于椭球所产生的功能，从著名的多维Sobolev和张量积Sobolev规范，以及从鲜为人知的斯隆-沃$\rm\acute{z}$ niakowski规范和规范构造的多变量解析函数的复杂的带。文中还简要讨论了对建议的极大极小拟合优度检验方法的一些扩展，包括已知产品概率密度函数、未知方差、其它基函数和建议检验的自适应性的一般设计方案的情况。
2009-10-06 math.ST stat.TH
Estimation in nonparametric regression model with additive and multiplicative noise via Laguerre series
研究了加性和乘性噪声下的非参数回归估计，构造了基于Laguerre级数的自适应阈值估计。当未知函数属于Laguerre-索伯列夫空间时，该方法具有渐近近最优的收敛速度.我们考虑两种噪声结构下的问题：（1）{ i.i.d.}高斯误差和（2）长记忆高斯误差。在{ i.i.d.}的情况下，我们的收敛速度是类似的文献中发现的。在长记忆情况下，只有当任一噪声源的长记忆足够强时，收敛速度才取决于长记忆参数，否则，收敛速度与{ i.i.d.}噪声
2020-12-22 math.ST stat.TH
The minimax optimal convergence rate of posterior density in the weighted orthogonal polynomials
School of Mathematical Sciences, Beihang University（北京航空航天大学数学科学学院）；Key Laboratory of Mathematics, Informatics and Behavioral Semantics (LMIB)（数学、信息学与行为语义重点实验室）
本文研究了加权Sobolev空间中通过正交多项式展开进行贝叶斯非参数密度估计的最小最大后验收敛率，提出了一种新的位移方法以处理无下界密度，并构造了达到最优率的高斯筛先验。
2026-03-19 math.ST stat.TH
Minimax Optimality of Score-based Diffusion Models: Beyond the Density Lower Bound Assumptions
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文从非参数统计角度研究了基于分数的扩散模型采样渐近误差，提出基于核的分数估计器，在仅满足次高斯假设下达到极小极大最优，消除了先前对密度的下界假设。
2024-07-23 cs.IT cs.LG math.IT
Convergence rates for Bayesian density estimation of infinite-dimensional exponential families
我们研究了密度估计问题的后验分布收敛速率，其特征在于在周期Sobolev类的光滑参数p.后验预期密度提供了一个非参数估计过程，达到最佳的极小极大收敛速率下Hellinger损失，如果后验分布达到最佳的速度在某些均匀性类。感兴趣的密度类上的先验由对数密度的三角级数展开的系数上的先验引起。我们表明，当p是已知的，后验分布的高斯先验达到最佳的速度提供了前方差足够迅速地死去。对于混合正态分布，假设指数族维数上的混合权重由指数递减序列下界。为了避免使用无限基地，我们开发的先验，切断了一系列的样本大小相关的截断点。当平滑度是未知的，一个有限的混合正常的先验索引的平滑参数，这也被分配一个先验，产生最佳的速率。一种速率自适应估计器。
2007-08-01 math.ST stat.TH
Pinsker bound under measurement budget constrain: optimal allocation
在经典的许多正常的手段，不同的方差，我们考虑的情况下，观察员被允许分配可用的测量预算的坐标的参数的兴趣。基准是一个集合上的极小极大线性风险。我们解决了两种类型的集合，椭球和超矩形的测量预算约束下的最优分配问题的观察。通过详细说明两个例子的索伯列夫椭球和hyperectangles，我们演示了如何重新分配测量（次）最优的方式提高了标准的均匀分配。特别地，我们改进了著名的Pinsker（1980）界。
2015-09-30 math.ST stat.TH
