Generalized van Trees inequality: Local minimax bounds for non-smooth functionals and irregular statistical models
本文提出广义 van Trees 不等式,在无需泛函可微和模型正则的极小假设下建立非渐近极小极大下界,并导出精确渐近常数,从而将效率理论推广到非光滑泛函与非正则统计模型。
2024-10-19 math.ST stat.TH
Minimax estimation of Functional Principal Components from noisy discretized functional data: the case of smooth processes
Ecole Normale Supérieure de Lyon, CNRS, Université Claude Bernard Lyon 1(里昂高等师范学院,法国国家科学研究中心,里昂第一大学);Université Paris-Saclay, CNRS, Inria, LMO(巴黎萨克雷大学,法国国家科学研究中心,法国研究与计算机科学研究所,数学实验室);Université Paris Cité, CNRS, MAP5(巴黎西岱大学,法国国家科学研究中心,MAP5数学与概率实验室);CEREMADE, CNRS, Université Paris-Dauphine, Université PSL(CEREMADE数学研究中心,法国国家科学研究中心,巴黎第九大学,巴黎文理研究大学)
研究在噪声离散函数数据下函数主成分的最小最大估计,考虑任意Hölder光滑性协方差核和无参数衰减特征值,提出控制协方差核Hölder光滑性和局部相对逆特征值间隔的过程类,推导非渐近最小最大下界,构造可计算的小波投影估计器。
2026-05-07 math.ST stat.TH
Adaptive estimation over anisotropic functional classes via oracle approach
研究了高斯白噪声模型中各向异性Nikolskii类在$L_p$ --损失下的自适应极小极大估计问题,即$1\leq p\leq\infty,$.我们提出了一个新的数据驱动的选择方案的基础上的估计过程,从家庭的核估计具有不同的带宽。对于建议的估计,我们建立了所谓的Lp-范数预言不等式,并使用它来推导极大极小自适应结果。我们证明了率自适应估计的存在性和充分刻画行为的极大极小风险的正则性参数和规范指标之间的不同关系的定义的功能类和风险。特别地,我们发现了极大极小风险的一些新的渐近性质,包括存在一致相合估计的充要条件。我们还提供了详细的概述现有的方法和结果,并制定开放的问题,自适应极大极小估计。
2014-05-18 math.ST stat.TH
Sketching for Convex and Nonconvex Regularized Least Squares with Sharp Guarantees
Arizona State University(亚利桑那州立大学)
本文提出统一处理凸与非凸 Fréchet 次可微正则项的 SRO 草图算法,建立近似误差与极小极大速率保证,并用迭代版本指数降低误差。
2023-11-03 cs.LG math.OC math.ST
On Minimax Estimation Problems for Periodically Correlated Stochastic Processes
本文研究了周期相关随机过程的最小最大估计问题,提出计算最优线性估计的公式,并分析了最不利频谱密度和鲁棒频谱特征。
2025-11-21 math.ST stat.TH
Minimax estimation of functionals in sparse vector model with correlated observations
Institute for Interdisciplinary Information Sciences, Tsinghua University(清华大学交叉信息研究院);Shanghai Qi Zhi Institute(上海人工智能实验室);Department of Statistics and Data Science, Tsinghua University(清华大学统计与数据科学系)
本文研究了在部分关于协方差矩阵信息的情况下,稀疏向量的l2范数估计和零假设检验的极小极大最优方法,发现Frobenius范数决定了估计和检验的极小极大速率。
2026-08-21 math.ST stat.TH
Minimax estimation of linear and quadratic functionals on sparsity classes
对于高斯序列模型,我们获得了非渐近极小极大估计率的线性,二次和L2-范数泛函类的稀疏向量和构造最佳估计,达到这些速度。感兴趣的主要对象是类s-稀疏向量,我们还提供完全自适应估计(独立的s和噪声方差),只有grammically慢速率比极大极小的。此外,我们还得到了Lq-球上的Minimax速率,其中0 < q < 2。这种分析表明,在一般情况下,有三个区域的收敛速度,我们称之为稀疏区,密集区和退化区,而第四个区域出现的二次函数的估计。我们证明,与向量的估计相反,稀疏区的最佳速率中的正确对数项为log(d/s^2)而不是log(d/s)。对于稀疏类,线性泛函和L2-范数的估计率在s = sqrt(d)(稀疏区和密集区之间的边界)处具有简单的弯头,并且表现出类似的性能,而二次泛函的估计揭示了更复杂的效果,并且仅基于由向量上的稀疏性条件描述的稀疏性是不可能的。最后,我们将我们的结果估计的L2-范数的问题测试稀疏的替代品。特别是,我们得到了一个非渐近模拟的Ingster-Donoho-Jin理论揭示了一些影响,没有捕捉到以前的渐近分析。
2015-02-02 math.ST stat.TH
Lepski's Method and Adaptive Estimation of Nonlinear Integral Functionals of Density
研究了密度的非线性积分泛函的自适应极小极大估计,并将线性和二次泛函的结果推广到一般泛函。“光滑”非线性泛函的典型率优非自适应Minimax估计是高阶U-统计量。由于Lepski的方法需要严格控制这样的估计的尾部,我们绕过这样的计算修改的Lepski的方法,这是适用于这种情况。作为必要的组成部分,我们还提供了一种方法来控制高阶矩的三次积分泛函的极小极大估计。遵循标准的约束风险不等式方法,我们还展示了我们的适应率的最优性。
2016-01-11 math.ST stat.TH
Minimax and adaptive estimation of general linear functionals under sparsity
National University of Singapore(新加坡国立大学)
研究高维稀疏均值向量下线性函数L(θ)=η^Tθ的非渐近最小最大估计,提出结合插值估计和阈值处理的估计器,通过加载依赖稀疏先验得到匹配下界,扩展至非对称噪声和未知噪声方差情况,展示异质性对最小最大和自适应速率的影响。
2026-09-01 math.ST stat.TH
Kernel-based estimation for partially functional linear model: Minimax rates and randomized sketches
本文研究了部分函数线性模型(PFLM),其中所有的预测特征由一个函数协变量和一个高维标量向量组成。在无限维再生核希尔伯特空间上,PFLM的估计是一个函数范数和$\ell_1$范数混合正则化的最小二乘估计.本文的主要任务是建立高维情形下PFLM的Minimax估计率,并利用经验过程理论中分析核类的各种技巧建立最优Minimax估计率。此外,我们提出了一个有效的数值算法的基础上随机草图的核矩阵。几个数值实验来支持我们的方法和优化策略。
2021-10-18 math.ST stat.ML stat.TH
Minimax adaptive tests for the Functional Linear model
我们引入了两个新的程序来测试零的斜率函数的功能线性模型与实际输出。检验统计量通过函数主成分分析结合了多种检验思想和输入数据的随机投影。有趣的是,这些过程完全是数据驱动的,不需要任何关于斜率平滑度的先验知识,也不需要任何关于协变量函数平滑度的先验知识。对当地的替代品的水平和权力进行评估,在一个非渐近设置。这使我们能够证明,这些程序是极小极大自适应(最多一个不可避免的\log \log n乘法项)的未知规律的斜率。作为一个侧面的结果,最小最大的分离距离的斜率推导出了大范围的规律类。数值研究说明了这些理论结果。
2013-02-11 math.ST stat.ME stat.TH
Minimax adaptive wavelet estimator for the anisotropic functional deconvolution model with unknown kernel
在本文中,我们考虑的估计周期二维函数$f(\cdot,\cdot)$的基础上,从其噪声卷积的观察,和卷积核$g(\cdot,\cdot)$未知。假设$f$属于某个Besov空间,且核函数$g$满足某些光滑性质,我们得到了均方误差的极小极大下界.我们构造了一个自适应硬阈值小波估计器,在很宽的Besov球的对数因子内是渐近近最优的。该估计算法除了采用传统的硬阈值外,还采用截断的方法来估计小波系数。有限的模拟研究证实了理论主张的文件。
2019-05-18 math.ST stat.ME stat.TH
Minimax Rates for Estimating Powered Sliced Wasserstein Functionals
Université Gustave Eiffel(格勒诺布尔艾菲尔大学)
该研究在投影r阶矩假设下,针对幂切片沃尔什斯坦因泛函的两样本估计问题,建立了非临界区域的极小极大速率,分析了端点与临界阶的特殊情况,明确了插入估计量的最优性及待解决的临界情形精确速率问题。
2026-10-12 cs.LG math.ST stat.ML
Minimax Optimal Additive Functional Estimation with Discrete Distribution
本文讨论了在给定$n$独立同分布的情况下,估计一个可加泛函的问题.从具有字母大小$k$的离散分布$P=(p_1,...,p_k)$中抽取的样本。对于函数$ϕ$,加性泛函被定义为$θ(P;ϕ)=\sum_{i=1}^kϕ(p_i)$,它覆盖了大多数类熵准则。对于某些特定的$ϕ$,如$ϕ(p)=p^α$和$ϕ(p)=-p\ln p$,该问题的极小极大最优风险已经是已知的。然而,没有通用的方法来获得最小最大最优风险的可加性函数估计问题。本文揭示了$ϕ$的性质,它表征了可加函数估计问题的极小极大最优风险,这种分析适用于一般的$ϕ$ .更准确地说,我们揭示了这个问题的最小最大最优风险的特点是由发散速度的功能$ϕ$。
2018-11-28 cs.IT math.IT math.ST
Minimax Optimal Additive Functional Estimation with Discrete Distribution: Slow Divergence Speed Case
本文讨论了$ϕ$的一个可加泛函$θ(P;ϕ)=\sum_{i=1}^kϕ(p_i)$的估计问题,其中给定$n$ i.i.d.从离散分布$P=(p_1,...,p_k)$中抽取的随机样本,字母大小为$k$。我们在前面的文章中已经揭示了这个问题的minimax最优率是由$ϕ$的四阶导数在快发散速度范围内的发散速度来表征的。在本文中,我们证明了这一事实的一个更广泛的范围内的发散速度。结果表明,在发散速度参数$α$的每一个取值范围内,可加函数估计的极小极大最优率都是存在的。对于$α\in (1,3/2)$,我们证明了极大极小化率是$\frac{1}{n}+\frac{k^2}{(n\ln n)^{2α}}$。此外,我们还证明了对于$α\in [3/2,2]$,极小极大速率是$\frac{1}{n}$。
2018-01-12 cs.IT math.IT math.ST
Minimax Optimal Estimators for Additive Scalar Functionals of Discrete Distributions
本文考虑$ϕ$的一个可加泛函的估计,定义为$θ(P;ϕ)=\sum_{i=1}^kϕ(p_i)$,由$n$ i.i.d.从离散分布$P=(p_1,...,p_k)$中抽取的随机样本,字母大小为$k$。对于可加泛函的估计问题,我们提出了一个极大极小最优估计。我们发现,极小极大最优率的特点是四阶导数的$ϕ$的发散速度,如果发散速度高。结果表明,如果$ϕ$的四阶导数的发散速度大于$p^{-4}$,则不存在相容估计。此外,如果$ϕ$的四阶导数的发散速度是$p^{4-α}$ for $α\in (0,1)$,则在通用乘法常数$\frac{k^2}{(n\ln n)^{2α}} + \frac{k^{2-2α}}{n}$内获得极小极大最优速率。
2017-12-07 cs.IT math.IT math.ST
Exactly or Approximately Wasserstein Distributionally Robust Estimation According to Wasserstein Radii Being Small or Large
该研究针对加性噪声线性测量模型下的Wasserstein分布鲁棒估计问题,证明了无穷维非凸极小极大问题与有限维问题鞍点存在性等价,给出充要条件与小半径下的充分条件,鞍点不存在时通过线性估计器求解得到上界与鲁棒线性估计器,并通过实验验证理论结果。
2025-10-03 eess.SP math.OC math.ST
Minimax estimation for Varying Coefficient Model via Laguerre Series
Ohio University(俄亥俄大学);Cadi Ayyad University(卡迪·阿亚德大学)
本文通过拉格朗日多项式方法,提出了一种在最小最大意义下最优收敛速率的变系数模型参数估计方法,并建立了参数的渐近正态性,构造了置信区间和假设检验。
2026-04-30 math.ST stat.ME stat.TH
Minimax-robust estimation problems for sequences with periodically stationary increments observed with noise
考虑了由周期平稳增量随机序列的未观测值构造的线性泛函的最优估计问题。对于已知谱密度的序列,我们得到了计算均方误差值和泛函最优估计的谱特征的公式。在序列的谱密度不完全已知而给定若干组容许谱密度的情况下,给出了确定泛函的最优线性估计的最不利谱密度和极小极大稳健谱特征的公式.
2021-10-15 math.PR math.ST stat.TH
Variable Selection and Minimax Prediction in High-dimensional Functional Linear Model
本文研究高维函数线性回归模型的变量选择与预测问题,通过对系数函数的RKHS范数施加组弹性网惩罚提出函数弹性网估计量,证明了其变量选择一致性,并实现了选择后精炼估计量的预言机极小化极大最优预测率。
2025-11-05 math.ST stat.ME stat.TH
Minimax-robust forecasting of sequences with periodically stationary long memory multiple seasonal increments
引入了具有周期平稳、多季节、积分和分数积分模式的广义多重增量的分数阶随机序列$ζ(k)$。本文解决了随机序列$ζ(k)$的未观测值根据其在点$ k<0$的观测值所构造的线性泛函的最优估计问题。对于已知谱密度的序列,我们得到了计算均方误差值和泛函最优估计的谱特征的公式。给出了在序列的谱密度不完全已知的情况下,确定泛函的最优线性估计的最不利谱密度和极小极大(鲁棒)谱特征的公式.
2020-07-22 math.PR math.ST stat.TH
Minimax Estimation of Quadratic Fourier Functionals
本文研究了两个非参数概率分布之间的(半)内积的估计,给出了每个分布的IID样本。这些产品包括相对较好的研究经典的$\mathcal{L}^2$和Sobolev内积,以及那些诱导的不变性再生核,我们相信我们的结果是第一个。我们首先提出这些数量的估计,并诱导(半)规范和(伪)度量。然后,我们证明非渐近上界的均方误差,在重量方面的内积和两个分布,在傅立叶基。最后,我们证明了极大极小下界,暗示率最优的建议估计傅立叶椭球。
2018-09-01 cs.IT math.IT math.ST
Modelling High-Dimensional Categorical Data Using Nonconvex Fusion Penalties
本文提出了一种高维线性模型的估计方法。我们的估计器称为SCOPE,通过使它们对应的系数完全相等来将水平融合在一起。这是通过对分类变量的系数的顺序统计量之间的差异使用极小极大凹罚来实现的,从而对系数进行聚类。我们提供了一个算法,精确和有效的计算结果的非凸目标的全局最小值的情况下,一个单一的变量与潜在的许多水平,并使用此块坐标下降过程中的多变量的情况下。我们表明,利用未知水平融合的Oracle最小二乘解是具有高概率的坐标下降的极限点,只要真实水平具有一定的最小分离;这些条件在单变量情况下已知是最小的。我们证明了良好的性能范围内的真实和模拟数据集。CRAN上有一个R包CatReg,它实现了线性模型的SCOPE,还有一个逻辑斯谛回归的版本。
2021-12-17 math.ST stat.CO stat.ME