Adaptive warped kernel estimation for nonparametric regression with circular responses
针对单位圆上观测的圆形数据非参数回归问题,提出结合扭曲策略与Goldenshluger-Lepski型估计器的数据驱动带宽核估计方法,并在各向异性Hölder类上证明了其极小化极大近乎最优性。
2023-06-30 math.ST stat.TH
ConquerNet: Convolution-Smoothed Quantile ReLU Neural Networks with Minimax Guarantees
Department of Statistics and Data Science(统计与数据科学系)
ConquerNet通过卷积平滑技术解决分位数回归中非光滑损失函数的优化难题,提供非渐近风险界,并在多个分位数水平上提升估计精度和训练效率。
2026-05-07 cs.LG stat.ML
Adaptive estimation in circular functional linear models
考虑圆泛函线性回归中斜率参数的估计问题,其中标量响应Y1,.,Yn依赖于1周期的二阶平稳随机函数X1,.,Xn.我们考虑一个正交系列估计的斜率函数,通过取代第一个m理论系数的发展,在三角函数的基础上,适当的估计。weproposed一个模型选择程序m在一组允许的值,通过定义一个对比度函数最小化我们的估计和理论罚函数,这第一步假设不适定性的程度是已知的。然后,我们推广的过程中,一个随机集容许的m的和一个随机的罚函数。由此产生的估计是完全数据驱动的,并自动达到什么是已知的最佳极小极大收敛速率,在一般加权L2风险。这意味着我们提供了自适应估计的斜率函数及其衍生物。
2009-08-24 math.ST stat.TH
Semiparametric inference for mixtures of circular data
我们考虑X1,. ..,Xn是圆S1上的数据样本,其分布是两组分混合物。表示R和Q在S1上的两个旋转,假设X i的密度为g(x)= pf(R -1 x)+(1 - p)f(Q -1 x),其中p $\in$(0,1),f是圆上的未知密度.在本文中,我们估计参数部分$θ$ =(p,R,Q)和非参数部分f。研究了圆上可识别性的具体问题。引入了$θ$的一个相合估计,并证明了它的渐近正态性.我们提出了一个基于傅立叶估计的f与惩罚标准选择的分辨率水平。我们表明,我们的自适应估计是最佳的预言和极大极小的观点时,密度属于一个Sobolev球。我们的方法是通过数值模拟说明。
2022-05-31 math.ST stat.TH
Adaptive minimax multivariate \(L^1\)-deconvolution: harmonic-mean rates under noise filtering, and a \(1\)-Wasserstein equivalence
该研究针对含各向异性噪声的多元卷积模型,扩展了L¹距离估计器,建立了匹配的极小极大速率,提出了自适应带宽选择方法,还揭示了L¹距离与1-瓦瑟斯坦距离的速率关联。
2026-10-09 math.ST stat.TH
Nonparametric intensity estimation from noisy observations of a Poisson process under unknown error distribution
本文研究了圆形模型中Poisson点过程强度函数的间接观测非参数估计$N_1,\ldots,N_n$。这些观察出现从隐藏的点过程实现与目标强度通过污染与添加剂的错误。在误差分布只能从一个额外的样本$Y_1,\ldots,Y_m$估计的情况下,我们推导出极小极大收敛率相对于样本量$n$和$m$在抽象光滑条件下,并提出了一个正交系列估计,达到最佳的收敛速率。估计器的性能取决于维度参数的正确规范,其最佳选择取决于强度和误差密度的平滑特性。我们提出了一个基于模型选择的数据驱动的维度参数的选择,并表明自适应估计达到最小最大最优速率。
2019-02-17 math.ST stat.TH
On the rates of convergence for learning with convolutional neural networks
School of Mathematics (Zhuhai) and Guangdong Province Key Laboratory of Computational Science(数学系(珠海)和广东省计算科学重点实验室);Sun Yat-sen University(中山大学);Department of Mathematics, City University of Hong Kong(香港城市大学数学系);University of Sydney(悉尼大学)
本文分析单侧零填充多通道CNN的逼近界与覆盖数,并据此推导非参数回归和二分类中CNN估计量的极小极大最优收敛速率。
2025-07-26 cs.LG math.ST stat.ML
Goodness-of-fit testing and quadratic functional estimation from indirect observations
我们考虑卷积模型,其中i.i.d.具有未知密度$f$的随机变量$X_i$用加性i.i.d.独立于$X$的噪声。我们假设密度$f$属于Sobolev类或超光滑函数类。噪声分布是已知的,并且其特征函数以多项式或指数方式渐近衰减。本文研究卷积模型的拟合优度检验问题。我们证明了间接观测的基础上,从核估计的二次函数$\int f^2$的检验统计量的风险的上界。当未知密度比噪声密度足够平滑时,我们证明了该估计量是$n^{-1/2}$相容的、渐近正态的和有效的(对于我们计算的方差)。否则,我们给非参数上界的风险相同的估计。我们给出了一个统一的方法证明这两个问题的非参数极大极小下界。我们建立他们的索伯列夫密度和超光滑密度比指数噪声更不平滑。在这两个设置中,我们获得了与渐近极大极小速率相关的精确检验常数。
2007-11-21 math.ST stat.TH
Approximation and Non-parametric Estimation of ResNet-type Convolutional Neural Networks
The University of Tokyo(东京大学);Preferred Networks, Inc.(Preferred Networks公司);RIKEN(理化学研究所)
本文提出一种ResNet型CNN,在宽度、通道数和滤波器大小恒定的稠密结构下即可达到Hölder类等函数类的极小极大最优误差率,并通过块稀疏FNN到CNN的逼近率自动转化理论,给出了Barron类和Hölder类的误差率。
2023-08-13 cs.LG math.ST stat.ML
Intensity estimation of non-homogeneous Poisson processes from shifted trajectories
本文考虑了n个独立的泊松过程的观测值的非齐次强度函数的自适应估计问题,该过程具有一个共同的强度,该强度对于每个观测到的轨迹是随机移动的。我们表明,估计这个强度是一个反卷积的问题,其中的随机位移的密度起着卷积算子的作用。在一个渐近设置的数目n的观察轨迹趋于无穷大,我们推导出上界和下界的极大极小二次风险Besov球。在Meyer小波基的非线性阈值是用来获得一个自适应估计的强度。所提出的估计实现了近极小极大收敛速率。该速率取决于强度函数的平滑度和随机位移的密度,这使得非参数统计中的经典反卷积问题与从独立泊松过程的观测值估计平均强度之间存在联系。
2011-05-18 math.ST stat.TH
Deconvolution in white noise with a random blurring function
我们考虑的问题去噪后观察到的函数卷积与随机滤波器独立的噪声,并满足一些平均光滑条件依赖于不适定性系数。我们建立了极大极小利率的Lp风险球的周期Besov空间的噪声水平,我们提供了一个自适应估计实现这些利率的对数因子。进行了模拟,突出的不适定性和分布的过滤器上的估计器的效率的影响。
2005-05-09 math.ST stat.TH
Local Poisson Deconvolution for Discrete Signals
本研究针对离散信号泊松反卷积问题,提出局部极小极大风险分析方法,揭示信号恢复速率与局部结构的关联,并通过实验验证了方法在超分辨率显微等场景的有效性。
2025-08-01 math.ST stat.ME stat.ML
Adaptive nonparametric estimation for compound Poisson processes robust to the discrete-observation scheme
本文研究了一个跳跃测度和跳跃强度未知的复合泊松过程在多个等间距时刻的运动.我们构造了一个纯粹的数据驱动估计的Lévy密度$ν$通过谱方法使用一般的Calderon-Zygmund积分算子,其中包括卷积和投影内核。假设最小的尾部假设,它被证明是估计$ν$在最小最大估计率下的损失$L^p(\mathbb{R})$,$p\in[1,\infty]$,并鲁棒的观察制度(高和低频率)Besov球。为了在极大极小意义上实现自适应,我们使用Lepskiovich的方法,因为它特别适合我们的一般性。从而证明了新的指数浓度不等式,其中包括经验特征函数的一致涨落的指数浓度不等式。这些都是独立的利益,因为是证明策略,用于处理一般的Calderon-Zygmund运营商,离开无处不在的二次结构,并表现出鲁棒性,没有多项式尾条件。这种普遍性的动机的一部分是一个新的见解,我们在这里也包括,此外,使我们能够统一的主要两种方法来构建相关文献中使用的估计。
2019-02-08 math.ST stat.TH
Estimation in the convolution structure density model. Part II: adaptation over the scale of anisotropic classes
本文继续了\cite{LW16}中开始的研究。在$\bR^d$上的卷积结构密度模型的框架下,我们讨论了基于$\bL_p$的自适应极小极大估计问题--各向异性Nikol'skii类尺度上的损失.我们充分刻画了极大极小风险的行为,在函数类和风险的定义中,正则性参数和范数指标之间存在不同的关系。特别是,我们证明了估计的函数的有界性导致极大极小风险的渐近性的本质改进。我们证明了在第一部分中提出的选择规则导致建设的最佳或接近最佳(对数因子)的自适应估计。
2017-04-14 math.ST stat.TH
Periodic boxcar deconvolution and diophantine approximation
我们考虑在加性高斯白噪声中观察到的周期函数与区间的指示函数“boxcar”卷积后的非参数估计。这是一个理想化的模型,用于恢复噪声信号和观察到的具有“运动模糊”的图像的问题。如果矩形波串的长度是有理数,那么在周期模型中,某些频率不可避免地丢失了。我们考虑的收敛速率的估计时,长度的boxcar是不合理的,使用经典的结果近似无理数的连分数。一个基本的问题是极小极大收敛速度收敛速率是否比1/f卷积滤波器的非周期性问题慢。答案是依赖于函数的类型和平滑度,而这种平滑度是用“模糊”滤波器所看不到的。
2005-03-29 math.ST stat.TH
Dispersal density estimation across scales
针对空间结构化种群模型,提出同时估计扩散密度函数与物理尺度参数的极小极大方法,揭示最优速率非单调及最不利中间推断尺度的新现象。
2023-05-12 math.ST stat.ME stat.TH
Minimax adaptive wavelet estimator for the anisotropic functional deconvolution model with unknown kernel
在本文中,我们考虑的估计周期二维函数$f(\cdot,\cdot)$的基础上,从其噪声卷积的观察,和卷积核$g(\cdot,\cdot)$未知。假设$f$属于某个Besov空间,且核函数$g$满足某些光滑性质,我们得到了均方误差的极小极大下界.我们构造了一个自适应硬阈值小波估计器,在很宽的Besov球的对数因子内是渐近近最优的。该估计算法除了采用传统的硬阈值外,还采用截断的方法来估计小波系数。有限的模拟研究证实了理论主张的文件。
2019-05-18 math.ST stat.ME stat.TH
High dimensional asymptotics of likelihood ratio tests in the Gaussian sequence model under convex constraints
在高斯序列模型$Y=μ+ξ$中,研究了$H_0: μ=μ_0$与$H_1: μ\in K$的似然比检验(LRT),其中$μ_0 \in K$,$K$是$\mathbb{R}^n$中的闭凸集.特别是,我们表明,在零假设下,正常的近似持有的对数似然比统计一般对$(μ_0,K)$,在高维制度,其中相关的最小二乘估计的估计误差发散在适当的意义。正常的近似进一步导致一个精确的表征在高维政权的LRT的功率行为。这些特征表明,LRT的功率行为是在一般的非均匀的欧氏度量,并说明现有的最小最大最优性和次优性结果的LRT的保守性。各种各样的例子,包括测试中的正交/圆锥,保序回归,套索,和测试参数假设与形状约束的替代品,制定出证明所开发的理论的多功能性。
2021-06-20 math.ST stat.TH
Adaptive Importance Sampling for Efficient Stochastic Root Finding and Quantile Estimation
在解决基于模拟的随机寻根或涉及罕见事件的优化问题时,例如在极端分位数估计中,运行粗糙的蒙特卡罗可能效率极低。为了解决这个问题,可以采用重要性抽样来将采样误差降低到期望的水平。然而,选择一个好的重要性采样器需要了解手头问题的解决方案,这是一个开始的目标,因此形成了一个循环的挑战。我们研究使用自适应重要性抽样解开这个循环。我们的程序顺序更新的重要性采样器,同时达到最佳采样器和最佳解决方案,并可以嵌入到样本平均近似和随机逼近型算法。我们的理论分析建立了强一致性和渐近正态性的估计。我们还证明,通过极大极小的角度来看,使用自适应控制渐近误差的关键作用。最后,我们通过数值实验说明了我们的方法的有效性。
2021-02-21 math.OC math.PR stat.ME
Information bounds for inverse problems with application to deconvolution and Lévy models
如果反问题中的泛函可以用参数速率估计,则极大极小速率不提供关于问题的不适定性的信息。为了得到更精确的下界,我们研究了正则间接模型中函数估计的Hájek-Le Cam意义下的半参数有效性.这些模型的特点是可以局部近似的线性白噪声模型,描述了广义得分算子。证明了正则间接模型的一个卷积定理。这适用于一个大类的统计逆问题,这是典型的白噪声和反卷积模型。它对非线性模型特别有用。本文详细讨论了在低频下观测到Lévy过程的反卷积型非线性模型,得到了估计跳跃测度的线性泛函的信息界.
2014-05-06 math.PR math.ST stat.TH
Rates of estimation for high-dimensional multi-reference alignment
针对高维连续多参考对齐的周期函数估计问题,建立了高低噪声 regime 下显式依赖维度$K$的极小极大估计速率,给出对应实现方法与互补下界,并扩展至慢幂律衰减信号场景。
2023-08-28 math.ST stat.AP stat.TH
On the convolution theorem for directionally pathwise differentiable functionals
Division of Biostatistics(生物统计分部);School of Public Health, University of California, Berkeley(加州大学伯克利分校公共卫生学院)
本文扩展半参数卷积定理至方向性路径可微泛函,刻画正则性条件、效率界及影响函数,并应用于处理值、工具变量界和校准,建立有限分层模型中的可行可达性。
2026-09-22 math.ST stat.TH
Optimal change-point estimation from indirect observations
本文研究间接噪声观测值的非参数变点估计.针对白噪声卷积模型,我们考虑了两类在变点以外光滑的函数。我们建立了估计变点的极小极大风险的下界,并开发了速率最优估计程序。结果表明,最佳可达收敛速度由函数远离变点的光滑性和卷积算子的不适定性程度决定。最优性是通过引入一种新的技术,涉及到,作为一个关键因素,检测零交叉的估计适当平滑的二阶导数的基础功能。
2006-05-18 math.ST stat.TH
Adaptive estimation of linear functionals in the convolution model and applications
我们考虑模型$Z_i=X_i+\varepsilon_i$,对于i.i.d. $X_i$和$\varepsilon_i$以及独立序列$(X_i)_{i\in{\mathbb{N}}}$和$(\varepsilon_i)_{i\in{\mathbb{N}}}$。假设$\varepsilon_1$的密度$f_{\varepsilon}$是已知的,而$X_1$的密度(用$g$表示)是未知的。我们的目的是估计线性泛函的$g$,$<ψ,g>$为一个已知的功能$ψ$。我们提出了一个一般的估计$<ψ,g>$和研究其二次风险的收敛速度作为$g$,$f_{\varepsilon}$和$ψ$的光滑度的函数。还考虑了具有相关数据的不同背景,例如随机波动率和自回归相关异方差模型。然后,根据Laurent等人(Preprint(2006))在高斯白噪声模型中研究的方法,提出了一种自适应于未知$g$平滑性的估计器。给出了该估计的二次风险的上界和渐近下界。结果被施加到自适应逐点反卷积,其中上下文损失的自适应率被证明是最佳的最小最大意义。它们也适用于随机波动率模型的背景下。
2009-02-09 math.ST stat.TH
Anisotropic Denoising in Functional Deconvolution Model with Dimension-free Convergence Rates
在本文中,我们考虑的问题,估计一个周期性的$(r+1)$维函数$f$的基础上,从其噪声卷积的意见。我们构造了一个小波估计的$f$,推导出极小极大下界的$L^2$风险时,$f$属于一个Besov球的混合光滑性,并证明了小波估计是自适应和渐近近最优的对数因子内,在很宽的范围内的Besov球。我们证明,特别是选择这种类型的混合平滑导致的收敛速度是免费的“灾难的维数”,因此,高于通常的收敛速度时,$r$是大的。本文研究的问题是由地震反演,可以减少到解决有噪声的二维卷积方程,允许沿选定的配置文件的地下层结构的推断。地震学中的通常做法是分别恢复每个剖面的层结构,然后将导出的估计值组合成二维函数。通过研究模型的二维版本,我们证明了这种策略通常会导致估计的准确性低于二维函数反卷积。事实上,我们表明,除非功能$f$是非常顺利的方向上的配置文件,非常空间不均匀沿其他方向和配置文件的数量是非常有限的,功能反卷积解决方案相比,有一个更好的精度的组合$M$解决方案的单独的卷积方程。在$r=1$的情况下,有限的模拟研究证实了该论文的理论主张。
2013-05-23 math.ST stat.TH