Minimax optimal estimator in the stochastic inverse problem for exponential Radon transform
在这篇文章中,我们考虑的问题,反指数Radon变换的函数在噪声的存在。我们提出了一个核估计的真实功能,类似于Korostelëv和Tsybakov在他们的文章“最佳收敛率的估计在一个概率设置的层析成像问题”,问题的信息传输,27:73- 81,1991年提出的。对于本文中提出的估计,我们然后表明,它收敛到真正的功能在一个最小最大的最佳速度。
2020-09-15 math.DG math.ST stat.TH
Minimax Efficient Finite-Difference Stochastic Gradient Estimators Using Black-Box Function Evaluations
随机梯度估计的标准方法,仅具有噪声黑盒函数评估,使用有限差分法或其变体。虽然很自然,但我们知道他们的统计准确性是否是最好的。本文认为,通过显示中心有限差分是一个接近极小极大最优零阶梯度估计的一个合适的类的目标函数和均方风险,在这两个类的线性估计和更大的类的所有(非线性)估计。
2020-11-12 math.ST stat.ME stat.TH
On adaptive minimax density estimation on $R^d$
我们解决的问题,自适应极小极大密度估计的$\bR^d$与$\bL_p$ -各向异性的Nikol'skii类的损失。在函数类和风险的定义中,我们充分刻画了极大极小风险在正则性参数和范数指标之间的不同关系下的行为。特别是,我们表明,有四个不同的制度方面的行为的极大极小风险。我们开发了一个单一的估计,这是(近)最佳的orderover的各向异性Nikol'skii类的完整规模。我们的估计过程是基于数据驱动的选择一个估计从一个固定的家庭的核估计。
2013-06-18 math.ST stat.TH
On minimax density estimation via measure transport
我们研究的收敛性,在海林格和相关的距离,非参数密度估计的基础上测量运输。这些估计量将感兴趣的度量表示为运输图下所选参考分布的前推,其中该图是通过最大似然目标(等效地,最小化经验Kullback-Leibler损失)或其惩罚版本来选择的。通过将M-估计与基于运输的密度表示的分析性质相结合,建立了一类惩罚测度运输估计的浓度不等式.然后,我们证明了我们的理论的影响的情况下,三角形Knothe-Rosenblatt(KR)运输的$d$维单位立方体,并表明,惩罚和未惩罚的版本,这样的估计实现极小极大最优的收敛速度的Hölder类的密度。具体来说,我们建立了最优率的无惩罚的非参数极大似然估计有界Hölder型球,然后为某些Sobolev惩罚估计和筛选小波估计。
2022-09-19 math.PR math.ST stat.ML
Minimax Private Estimation of Smooth Optimal-Transport Maps
Universidad de Valladolid, IMUVA(巴利亚多利德大学);INRIA Bordeaux(波尔多国家信息与自动化研究所)
针对差分隐私约束下光滑最优传输映射的估计问题,提出基于小波的密度估计器和稳定性界,在中心与局部DP模型下达到近极小极大最优率,并建立匹配的极小极大下界。
2026-06-03 math.ST stat.TH
Wasserstein-based Minimax Estimation of Dependence in Multivariate Regularly Varying Extremes
本文首次为多元线性因子模型中谱测度估计建立极小极大风险界,以Wasserstein距离导出非渐近收敛速率并证明最优性,提出两步估计量达到下界,弥合极值理论中偏差-方差权衡的空白。
2024-11-09 math.ST stat.ME stat.TH
Nearly optimal minimax estimator for high-dimensional sparse linear regression
我们提出了一个很好的研究统计估计问题的估计:估计的线性回归模型与软稀疏约束($\ell_q$约束与$0<q\leq1$)在高维设置。我们首先提出了一个家庭的估计,称为投影最近邻估计,并显示,通过使用凸几何的结果,这种估计是在一个对数因子的最佳任何设计矩阵。然后利用[SIAM J. COMPUT. 36(2007)1764-1776],我们获得了用于计算任何这样的估计任务的极大极小风险的近似算法,并且还获得了用于$\ell_1$稀疏约束的重要情况的多项式时间近似最优估计器。尽管对这个问题进行了数十年的研究,但以前只知道特殊情况下的结果。当参数半径未知时,我们也将该方法推广到自适应的情况。
2013-11-08 math.ST stat.TH
Minimax Optimal Estimators for Additive Scalar Functionals of Discrete Distributions
本文考虑$ϕ$的一个可加泛函的估计,定义为$θ(P;ϕ)=\sum_{i=1}^kϕ(p_i)$,由$n$ i.i.d.从离散分布$P=(p_1,...,p_k)$中抽取的随机样本,字母大小为$k$。对于可加泛函的估计问题,我们提出了一个极大极小最优估计。我们发现,极小极大最优率的特点是四阶导数的$ϕ$的发散速度,如果发散速度高。结果表明,如果$ϕ$的四阶导数的发散速度大于$p^{-4}$,则不存在相容估计。此外,如果$ϕ$的四阶导数的发散速度是$p^{4-α}$ for $α\in (0,1)$,则在通用乘法常数$\frac{k^2}{(n\ln n)^{2α}} + \frac{k^{2-2α}}{n}$内获得极小极大最优速率。
2017-12-07 cs.IT math.IT math.ST
Minimax properties of gamma kernel density estimators under $L^p$ loss and $β$-Hölder smoothness of the target
Université du Québec à Trois-Rivières(魁北克特鲁瓦河大学)
本文研究了在β-Hölder空间中,非修改的gamma核密度估计在L^p损失下的渐近行为,特别是在目标可能有有限有效或真实上端点但估计器本身未截断并将其支持视为[0,∞)的情况下。通过将有限端点作为函数类和风险定义中的分析工具,而非作为估计器的信息,选择的功能类使得目标密度在上端点处平滑地趋于零,从而隔离了原点处的行为并避免了额外的上端点泄漏偏差。证明了当(p,β)∈[1,3)×(0,2]或当3≤p<4且(p-3)/(p-2)<β≤2时,该估计器可以实现极小大率,而当p∈[4,∞)或β∈(2,∞)时则无法实现极小大。剩余区域{(p,β):3<p<4,0<β≤(p-3)/(p-2)}仍是一个开放问题。
2026-09-15 math.PR math.ST stat.TH
Asymptotic properties of Dirichlet kernel density estimators
本文首次从理论上研究了由Aitchison和Lauder(1985)提出的用于估计$d$维单纯形上多元密度的Dirichlet核估计。单纯形是一个重要的情况下,因为它是组成数据的自然域,并已被忽略在文献中的非对称内核。Dirichlet核估计是Chen(1999)的一维Beta核估计的推广,它没有边界偏差,并且在单纯形上处处非负。证明了该算法对均方误差和平均积分均方误差具有最优收敛速度$O(n^{-4/(d+4)})$,证明了算法的渐近正态性和一致强相合性,并得到了平均积分绝对误差的渐近表达式.为了说明Dirichlet核方法及其良好的边界性质,我们提出了一个矿物加工的案例研究。
2021-09-22 math.PR math.ST stat.TH
Minimax rates for the covariance estimation of multi-dimensional Lévy processes with high-frequency data
研究了高维Lévy过程协整波动率的非参数估计方法。我们构造了协整波动率的谱估计,并证明了适当的有界非参数半鞅类的极大极小化率。给定长度为$1/n$的区间上的增量的$ n $观测,如果$ r \leq 1 $,则收敛速率为$1 / \sqrt{n} $,如果$ r>1 $,则收敛速率为$ (n\log n)^{(r-2)/2} $,这在极大极小意义下是最优的。我们从下面用调和平均约束共跳指数活性。最后,我们通过与现有文献中的估计量进行比较来评估我们的估计量的效率。
2019-09-22 math.ST stat.TH
Minimax rates for statistical inverse problems under general source conditions
当光滑性由一般源集给出时,我们描述了希尔伯特空间中线性不适定方程组的极小极大重构率。基本结果,椭球上的极大极小率,类似于D。L.多诺霍河~ C. Liu和B. MacGiant,{ \it Minimax risk over hyperrectanges,and implications},Ann.~中央集权主义者1990年18日这些作者强调了截断序列估计量的特殊作用,对于这种估计量,可以明确地给出风险。我们提供了几个例子,表明结果统计估计不适定的问题在希尔伯特空间。
2017-11-15 math.ST stat.TH
An Efficient Minimax Optimal Estimator For Multivariate Convex Regression
Electrical Engineering and Computer Science, Massachusetts Institute of Technology(麻省理工学院电气工程与计算机科学系);Department of Mathematics, Tel Aviv University(特拉维夫大学数学系)
本文提出了一种高效且最小最大最优的多变量凸回归估计器,适用于高维数据和多面体支持条件,解决了传统方法的最小二乘估计器次优问题。
2025-12-28 cs.LG math.MG math.ST
Adaptive estimation over anisotropic functional classes via oracle approach
研究了高斯白噪声模型中各向异性Nikolskii类在$L_p$ --损失下的自适应极小极大估计问题,即$1\leq p\leq\infty,$.我们提出了一个新的数据驱动的选择方案的基础上的估计过程,从家庭的核估计具有不同的带宽。对于建议的估计,我们建立了所谓的Lp-范数预言不等式,并使用它来推导极大极小自适应结果。我们证明了率自适应估计的存在性和充分刻画行为的极大极小风险的正则性参数和规范指标之间的不同关系的定义的功能类和风险。特别地,我们发现了极大极小风险的一些新的渐近性质,包括存在一致相合估计的充要条件。我们还提供了详细的概述现有的方法和结果,并制定开放的问题,自适应极大极小估计。
2014-05-18 math.ST stat.TH
Minimax Optimal Conditional Density Estimation under Total Variation Smoothness
本文研究了多变量下加权绝对值损失下非参数条件密度估计的Minimax率。我们首先证明,有条件的密度估计是不可能的,如果只需要$p_{X|Z}$是光滑的$x$的所有值的$z$。这促使我们考虑绝对连续分布的子类,限制条件密度$p_{X|Z}(x|z)$不仅在$x$中是Hölder光滑的,而且在$z$中是全变差光滑的。我们提出了一个相应的基于核的估计,并证明了它实现了极大极小率。我们给出了一些简单的例子,密度满足我们的假设,这意味着我们的结果不是空洞的。最后,我们提出了一个估计器,实现最小最大最优率自适应,即,而不需要预先知道平滑度参数值。至关重要的是,我们的估计(自适应和非自适应的)强加没有假设的边际密度$p_Z$,并没有获得两个内核平滑估计,这可能听起来像一个去的方法在这个问题之间的比率。
2021-03-12 math.ST stat.TH
Minimax optimal density estimation using a shallow generative model with a one-dimensional latent variable
本文从非参数密度估计角度研究VAE类隐式密度估计器的统计性质,证明在真实密度属于局部Hölder类时,一维潜变量浅层生成模型能达到Hellinger度量下的近最小最大最优收敛速率。
2024-02-08 math.ST stat.TH
Minimax Analysis for Inverse Risk in Nonparametric Planer Invertible Regression
本文研究二维平面上可逆双Lipschitz函数逆估计的最小极大风险,提出水平集表示法并构造渐近可逆估计器,证明其速率与非可逆情形一致,表明可逆约束不增加估计复杂度。
2023-12-25 math.ST stat.ML stat.TH
Minimax Linear Estimation at a Boundary Point
本文在高斯白噪声模型中,在未知函数的一阶导数为Lipschitz连续(二阶Hölder类)的条件下,刻画了未知函数在其定义域边界点处的值的Minimax线性估计.然后将所得结果应用于构造断点回归设计模型的极小极大最优估计,其中感兴趣的参数涉及边界点处的函数值。
2017-10-18 econ.EM math.ST stat.TH
Moment-Type Estimators for the Dirichlet and the Multivariate Gamma Distributions
National Kapodistrian University of Athens(国立卡波季斯特里安雅典大学);Department of Mathematics, National and Kapodistrian University of Athens(国立卡波季斯特里安雅典大学数学系)
本文提出了一种基于Dirichlet分布的矩型估计器,用于解决Dirichlet和多元伽玛分布的最大似然估计问题,并开发了相应的R包。
2023-11-25 math.ST stat.TH
Equivariant minimax dominators of the MLE in the array normal model
多路数据阵列中的相关性可以使用阵列正态模型进行推断,阵列正态模型对应于具有可分离协方差阵的多元正态分布类。最大似然法和贝叶斯方法在阵列正态模型中的推断已经出现在文献中,但还没有任何结果,这些估计的最优性。在这篇文章中,我们得到的结果是类似于一些经典的结果,关于多元正态模型的协方差估计的阵列正态模型。我们证明了在下三角乘积群下,通过广义贝叶斯过程可以得到一致最小风险同变估计(UMREE)。虽然这个UMREE是极大极小的,并主导了极大似然估计,但它可以通过正交等变修改来改进。这些估计的风险的数值比较表明,同变估计可以有显着低于最大似然估计的风险。
2014-08-02 math.ST stat.TH
Asymptotic minimax risk of predictive density estimation for non-parametric regression
本文研究了非参数回归模型中未来观测值的预测密度估计问题。密度估计Kullback-Leibler发散下进行评估,我们的重点是在高斯误差的情况下建立极小极大风险的精确渐近性。我们推导出了高斯先验下贝叶斯预测密度之间的极小极大风险的收敛速度和常数,并证明了这种极小极大风险与所有密度估计之间的极小极大风险是渐近等价的。
2010-10-11 math.ST stat.TH
The critical threshold level on Kendall's tau statistic concerning minimax estimation of sparse correlation matrices
在稀疏的高维椭圆模型中,我们考虑了基于Kendall τ的相关阵的硬阈值估计,其阈值水平为$α(\frac{\log p}{n})^{1/2}$。参数$α$被识别为使得阈值估计器在平方Frobenius范数和平方谱范数下实现极大极小速率。这允许在没有关于底层分布尾部的任何定量信息的情况下对估计量进行合理的校准。对于高斯观测,我们甚至在平方Frobenius范数下建立了一个临界阈值常数$α^\ast$,即所提出的估计器对于$α>α^\ast$达到了极大极小率,但对于$α<α^\ast$一般不是。据作者所知,这是第一个工作有关临界阈值常数。提供临界阈值水平的主要成分是从具有一定数量的反转的排列的数量的渐近展开演化而来的Kendall τ样本相关性的急剧大偏差展开。本文的研究还包括进一步的统计问题,如估计的潜在相关阵的transelliptical和nonparanormal家庭。
2015-08-26 math.ST stat.TH
Minimax Optimal Estimation of Transport-Growth Pairs in Unbalanced Optimal Transport
Chiang Mai University(清迈大学);RIKEN Center for Advanced Intelligence Project(理化学研究所先进智能研究中心);Graduate School of Arts and Science, The University of Tokyo(东京大学人文社会系研究科);Graduate School of Science, Kyoto University(京都大学理学研究科)
本文研究了不平衡最优传输中运输-增长对的估计问题,提出两种估计器并证明其达到最小最大最优率,通过价值基于的稳定性减少技术将UOT目标扰动转化为运输和增长风险。
2026-11-11 math.PR math.ST stat.ME
The Nearest Neighbor Information Estimator is Adaptively Near Minimax Rate-Optimal
我们分析了Kozachenko-Leonenko(KL)最近邻估计的微分熵。我们获得了其性能的第一个统一的上限在一个环面上的Hölder球,而不假设任何条件的密度可以从零接近。伴随着一个新的极大极小下界的Hölder球,我们表明,KL估计实现极大极小率对数因子没有认识到的平滑参数$s$的Hölder球$s\in (0,2]$和任意尺寸$d$,使它的第一个估计,证明满足这一属性。
2018-09-12 cs.IT math.IT stat.ML
Minimax Optimal Convergence Rates for Estimating Ground Truth from Crowdsourced Labels
众包已经成为许多现实世界机器学习应用中标签收集的主要手段。从众包工作者提供的噪声标签中推断真实标签的经典方法是Dawid-Skene估计。本文证明了Dawid-Skene估计的投影期望最大化算法的收敛速度。显示指数的收敛速度被证明是最佳的,通过一个下界参数。我们的工作解决了长期存在的问题,是否Dawid-Skene估计有良好的理论保证,除了在实践中观察到的良好性能。此外,与多数表决的比较研究说明了Dawid-Skene估计的优点和缺陷。
2016-05-30 math.ST stat.ML stat.TH
Minimax asymptotics
本文研究参数极小极大估计问题最优值与解的渐近性,通过样本极小极大问题估计量及灵敏度分析理论,揭示其极限分布通常非高斯、特定情况正态的特性,为该类问题统计推断方法发展奠基。
2025-04-15 math.ST stat.TH
Learning Minimax Estimators via Online Learning
Carnegie Mellon University(卡内基梅隆大学);Microsoft Research(微软研究院)
我们考虑设计极小极大估计量来估计概率分布的参数的问题。与经典的方法,如极大似然估计和最小距离估计,我们认为构造这样的估计算法的方法。我们认为设计极小极大估计量的问题是找到一个零和博弈的混合策略纳什均衡。利用最近的结果在非凸损失的在线学习,我们提供了一个通用的算法,找到一个混合策略纳什均衡一般非凸非凹零和游戏。我们的算法需要访问两个子程序:(a)一个输出对应于给定的先验概率分布的贝叶斯估计,和(b)一个计算任何给定的估计的最坏情况下的风险。鉴于访问这两个子程序,我们表明,我们的算法输出的极大极小估计和最不利的前。为了证明这种方法的力量,我们用它来构造可证明的极小极大估计的经典问题,如估计在有限高斯序列模型,和线性回归。
2020-06-19 cs.LG stat.ME stat.ML
Nearly minimax robust estimator of the mean vector by iterative spectral dimension reduction
CEREMADE(CEREMADE(巴黎多芬大学-PSL大学));Université Paris Dauphine - PSL(巴黎多芬大学-PSL大学);CREST;ENSAE(法国国家统计与经济管理学院);IP Paris(巴黎综合理工学院联盟)
研究了次高斯分布下均值向量的稳健估计问题。我们介绍了一种基于谱降维(SDR)的估计器,并建立了一个有限样本上界,其误差是最小最大最优的对数因子。此外,我们证明了SDR估计的击穿点等于$1/2$,击穿点的最高可能值。此外,SDR估计器通过相似变换是等变的,并且具有低的计算复杂性。更准确地说,在$n$维向量为$p$的情况下--最多$\varepsilon n$被逆向破坏--SDR估计器具有$\big(\frac{r_Σ}{n} + \varepsilon^2\log(1/\varepsilon)\big){\log p}$阶的平方误差和$p^3 + n p^2$阶的运行时间。这里,$r_Σ\le p$是参考分布的协方差阵的有效秩。SDR估计器的另一个优点是它不需要污染率的知识,也不涉及样本分割。我们还研究了所提出的算法和所获得的结果的情况下(部分)未知的协方差阵的扩展。
2022-04-05 cs.LG math.ST stat.TH
Minimax properties of Fréchet means of discretely sampled curves
我们研究的问题估计的平均模式从一组相似的曲线在设置中的数据的变化是由于随机的几何变形和加性噪声。我们提出了一个估计的基础上的概念,Frechet平均是一个推广的标准概念,平均到非欧几里得空间。我们推导出这个估计问题的最小最大速率,我们表明,我们的估计达到这个最佳速率下的渐近曲线的数量和采样点的数量都趋于无穷大。
2013-06-11 math.ST stat.TH
Estimation of Conditional Mean Operator under the Bandable Covariance Structure
本文考虑高维多元线性回归模型,其中协变量和响应变量的联合分布是一个多元正态分布,其协方差阵是可带的。本文的主要目标是估计回归系数矩阵,它是一个函数的带宽协方差阵。虽然递减估计的协方差具有极小极大最优收敛速度的类的可带协方差,我们表明,它有一个次优收敛速度的回归系数,也就是说,极小极大估计类的可带协方差可能不是一个极小极大估计其泛函。本文提出了回归系数的分块渐缩估计,在协方差可带的假设下,该估计具有回归系数的minimax最优收敛速度。我们还提出了一个贝叶斯过程称为块逐渐减少后处理后的后验的回归系数,并表明,所提出的贝叶斯过程具有极小极大最优收敛速度的回归系数下的带宽协方差假设。我们表明,所提出的方法优于现有的方法,通过数值研究。
2021-03-11 math.ST stat.TH
Adaptive minimax estimation for discretely observed Lévy processes
本文针对离散观测的Lévy过程增量密度非参数估计问题,提出谱估计量,证明其在高低频场景下均达极小极大最优,还提出易实现的数据驱动估计量并通过数值实验验证。
2024-10-31 math.PR math.ST stat.TH
Minimax semi-supervised confidence sets for multi-class classification
在这项工作中,我们研究了半监督框架的置信集分类与控制的期望大小在极小极大设置。在边际假设和回归函数的H{<$}lder条件下,我们得到了半监督极小极大收敛速度.此外,我们表明,如果没有进一步的假设,没有监督的方法,优于半监督估计提出了这项工作。我们建立了任何监督方法的最佳可达率是n^{-1/2},即使边际假设是非常有利的。相反,半监督估计器可以实现更快的收敛速度,只要有足够多的未标记样本。我们还进行数值评估所提出的算法经验证实我们的理论研究结果。
2019-04-29 math.ST stat.TH
Isotonic Regression in Multi-Dimensional Spaces and Graphs
本文研究了一般保序回归中的极大极小和适应率问题。对于具有$d\ge 2$和$N(0,1)$噪声的$[0,1]^d$中的均匀确定性和随机设计,当未知均值函数$f$为非减函数且其范围由一个常数限定时,已知$\ell_2$风险的最小最大比率由$n^{-1/d}$限定,而已知最小二乘估计量(LSE)几乎达到最小最大比率,直至因子$(\log n)^γ$,其中$n$是样本量,$γ= 4$在格子设计中和$γ= \max\{9/2, (d^2+d+1)/2 \}$在随机设计中。此外,已知当$f$在$[0,1]^d$的分区中的$K$超矩形上分段恒定时,LSE实现自适应速率$(K/n)^{-2/d}\{1\vee \log(n/K)\}^{2γ}$。由于极大极小定理,LSE在每个设计点上都与包含设计点的所有上下集上的最大-最小和最小-最大估计量相同。这促使我们考虑估计之间的最大-最小和最小-最大估计可能更小的类的上下集,包括一个子类的块估计。在噪声的$q$阶矩条件下,我们给出了图上保序回归的一般估计的$\ell_q$风险界。对于具有$d\ge 3$的$[0,1]^d$中的均匀确定性和随机设计,当$f$的范围有界时,我们的$\ell_2$风险界匹配极小极大率$n^{-1/d}$,并且当$f$是$K$ -分段常数时,达到接近参数自适应率$(K/n)\{1\vee\log(n/K)\}^{d}$。此外,块…
2020-01-10 math.ST stat.TH
Minimax Optimum Estimators for Phase Synchronization in IEEE 1588
IEEE 1588协议作为在分组交换移动回程网络上传递亚微秒级时钟相位同步的手段最近已经受到关注。由于分组网络中端到端时延的随机性,在IEEE 1588中,从分组时间戳中恢复时钟相位必须被视为一个统计估计问题。在文献中已经提出了一些这个问题的估计,但很少有人知道的最佳可实现的性能。在本文中,我们描述了新的极小极大估计这个问题,这是最佳的最大均方误差在所有可能的值的未知参数。极小极大估计,利用过去的时间戳,以提高准确性。仿真结果表明,显着的性能增益超过传统的估计,可以通过这样的最佳处理技术。这些极小极大估计器还提供了对相位偏移估计方案的性能的基本限制。
2015-02-28 cs.IT math.IT stat.AP
On the Bayesness, minimaxity, and admissibility of point estimators of allelic frequencies
本文利用决策理论推导出贝叶斯和极大极小决策规则,估计等位基因频率,并探讨其容许性。具有一致最小风险的决策规则通常不存在,解决这一问题的一种方法是利用贝叶斯原理和极大极小原理,根据决策规则的风险函数来寻找满足某种一般最优性准则的决策规则。考虑了两种情况,双等位基因位点的较简单情况和多等位基因位点的较复杂情况。对于每个位点,采样模型是多项分布,先验分布是Beta(双等位基因情况)或Dirichlet(多等位基因情况)分布。考虑了三种损失函数:平方误差损失(SEL),Kulback-Leibler损失(KLL)和二次误差损失(QEL)。贝叶斯估计量来自这三个损失函数,并随后被用来找到极大极小估计使用决策理论的结果。从SEL和KLL获得的贝叶斯估计结果是相同的。在一定条件下,由QEL导出的Bayes估计量是一个可容许的极大极小估计量(也等于极大似然估计量)。SEL还允许找到可接受的极大极小估计。有些估计量的方差比极大似然估计量的方差一致小,在适当的条件下,其余的估计量也满足这一性质。除了他们的统计特性,这里得到的估计允许等位基因频率的变化,这是更接近现实的有限人口暴露于进化的力量。
2015-08-19 q-bio.PE q-bio.QM stat.ME
Minimax rates of $\ell_p$-losses for high-dimensional linear regression models with additive measurement errors over $\ell_q$-balls
本文研究了在$\ell_p\ (1\leq p<\infty)$ -损失下具有可加误差的高维线性回归的极小极大速率,其中回归参数具有弱稀疏性。我们的下限和上界同意常数因子,这意味着所提出的估计是最小最大最优的。
2019-11-19 math.ST stat.TH
Minimax Rate-Optimal Estimation of Divergences between Discrete Distributions
研究了整数$α\ge 1$离散分布间$α$ -发散的极小极大估计,其中包括Kullback-Leibler发散和$χ^2$ -发散作为特例.放弃通常的理论技巧,以获得独立性,我们构建了第一个极大极小率最优估计,不需要任何泊松化,样本分裂,或明确的近似多项式的建设。估计器使用一种混合的方法,解决了一个问题独立的线性规划的基础上矩匹配在非光滑政权,并适用于一个问题相关的偏差校正插件估计在光滑政权,与软决策边界这些政权之间。
2021-03-03 cs.IT math.IT math.ST
Minimax Estimation of the $L_1$ Distance
我们考虑的问题估计的$L_1$距离之间的两个离散的概率测度$P$和$Q$从经验数据在一个非渐近和大字母设置。当$Q$是已知的,并获得$n$样本从$P$,我们表明,对于每一个$Q$,极小极大率最优估计与$n$样本达到性能相当的最大似然估计(MLE)与$n\ln n$样本。当两个$P$和$Q$是未知的,我们构造极小极大率最优估计,其最坏情况下的性能基本上是已知的$Q$的情况下,$Q$是均匀的,这意味着$Q$是均匀的基本上是最困难的情况。在Jiao \emph{et al.}(2015)中确定的\emph{effective sample size enlargement}现象在已知$Q$病例中对每个$Q$和$Q$未知病例均成立。然而,$\|P-Q\|_1$的最佳估计量的构建需要新的技术和见解,超越Jiao \emph{et al.}(2015)中基于近似的函数估计方法。
2018-06-23 cs.IT math.IT math.ST
Prediction of weakly locally stationary processes by auto-regression
在这篇文章中,我们引入弱局部平稳时间序列通过一个平稳的非平稳协方差结构的本地近似。这使我们能够定义自回归系数在一个非平稳的上下文中,其中,在一个局部平稳时变自回归(TVAR)过程的特定情况下,符合生成系数。我们提供并研究了一般情况下时变自回归系数的估计量。在有限光滑条件下,该估计具有最优的极小极大收敛速度.在第二步中,使用偏差减少技术,我们推导出一个最小最大速率估计任意平滑的时间演化系数,它优于前一个大数据集。反过来,对于TVAR过程,从估计量得到的预测量表现出最佳的极小极大预测率。
2018-01-15 math.ST stat.TH
Bandwidth selection in kernel density estimation: Oracle inequalities and adaptive minimax optimality
通过核估计量的选择,解决了具有$\mathbb{L}_s$ -损失的密度估计问题.我们开发了一个选择过程,并推导出相应的$\mathbb{L}_s$ -风险预言不等式。结果表明,建议的选择规则导致的估计是极小极大自适应的各向异性的Nikol'skii类的规模。在我们的推导中使用的主要技术工具是最近由Goldenshluger和Lepski开发的经验过程的$\mathbb{L}_s$ -范数的统一界限[Ann. Probab.(2011年)。
2012-11-22 math.ST stat.TH
Total Variation Classes Beyond 1d: Minimax Rates, and the Limitations of Linear Smoothers
我们考虑在$d$维网格(所有边长等于$n^{1/d}$)上的$n$位置上定义的函数的估计问题。当函数被约束为具有由$C_n$约束的离散全变差时,我们推导出由$n$和$C_n$参数化的极小极大最优(平方)$\ell_2$估计误差率。全变差去噪,也称为融合套索,被认为是速率最优的。存在几个更简单的估计,如拉普拉斯平滑和拉普拉斯特征映射。一个自然的问题是:这些更简单的估计器能表现得一样好吗?我们证明了这些估计,更广泛地说,所有的输入数据的线性变换估计,是次优的有界变差的函数类。这将Donoho和Johnstone [1998]关于1维全变差空间的基本发现扩展到了更高维。这意味着计算上更简单的方法不能用于这样复杂的去噪任务,而不牺牲统计精度。我们还推导出$d$维网格上离散Sobolev空间的极大极小率,在某种意义上,它小于全变差函数空间。事实上,这些空间足够小,线性估计可以是最佳的-一些著名的,如拉普拉斯平滑和拉普拉斯特征映射,正如我们所展示的。最后,我们研究了全变差去噪器对这些较小的Sobolev函数空间的自适应性问题。
2016-05-26 math.ST stat.ML stat.TH
High confidence estimates of the mean of heavy-tailed real random variables
基于PAC-Bayesian迭代截尾方法,给出了实值随机变量均值的新估计。我们分析了方差有界或峰度有界分布的估计量偏差的非渐近极小极大性质。事实证明,这些极小极大偏差与高斯分布的经验平均估计量的偏差具有相同的阶数。然而,对于给定方差或峰度(结果是重尾的)的最差分布,经验平均值本身在高置信水平下表现不佳。为了获得(近)极大极小偏差在这些广泛的分布类,有必要使用一些更强大的估计,我们描述了一个迭代截断计划的偏差接近极大极小。为了校准截断并获得明确的置信区间,有必要处理方差或峰度的先验界。当峰度的先验界是可用的,我们得到作为一个副产品的一个新的方差估计具有良好的大偏差性质。当没有先验界时,仍然可以使用Lepski方法来适应未知方差,尽管不再可能获得可观察的置信区间。
2009-09-29 math.ST stat.TH
Wasserstein GANs are Minimax Optimal Distribution Estimators
本文证明 WGAN 估计器在估计光滑前推测度时能达到极小极大最优收敛速率,并推导出 Hölder IPM 间的尖锐插值不等式。
2025-03-12 math.ST stat.TH
Minimax Rate-optimal Estimation of High-dimensional Covariance Matrices with Incomplete Data
缺失数据在广泛的应用中经常出现。本文考虑了在一般完全随机缺失模型下,缺失观测值存在时高维协方差阵的估计问题,在这个意义下,缺失度不依赖于数据的值.基于不完全数据,提出了可带稀疏协方差阵的估计,并研究了它们的理论和数值性质。在谱范数损失下证明了极小极大收敛速度,并在较弱的正则条件下证明了所提出的估计量是率优的。仿真研究表明,估计执行良好的数值。该方法还说明了通过应用程序的数据,从四个卵巢癌研究。本文中开发的关键技术工具是独立的兴趣和潜在的有用的一系列相关问题的高维统计推断与缺失数据。
2016-05-14 math.ST stat.ME stat.TH
Minimax Estimation of Functionals of Discrete Distributions
我们提出了一个一般的方法来建设和分析的极大极小估计的一类泛函的有限维参数,并详细说明离散分布的情况下,字母表大小$S$是未知的,可以与观测$n$的数量。我们对待各自的地区,功能是“非光滑”和“光滑”分开。在“非光滑”制度,我们采用无偏估计的最佳多项式逼近的功能,而在“光滑”制度,我们采用偏差校正的最大似然估计(MLE)。我们说明了这种方法的优点,通过彻底分析两个重要的情况下:熵$H(P) = \sum_{i = 1}^S -p_i \ln p_i$和$F_α(P) = \sum_{i = 1}^S p_i^α,α>0$。我们得到的极小极大$L_2$率估计这些泛函。特别是,我们证明了我们的估计达到最佳的样本复杂度$n \asymp S/\ln S$熵估计。我们还表明,估计$F_α(P),0<α<1$的样本复杂性是$n\asymp S^{1/α}/ \ln S$,这可以实现我们的估计,但不是最大似然估计。对于$1<α<3/2$,我们显示了用于估计$F_α(P)$的极小极大$L_2$速率是$(n\ln n)^{-2(α-1)}$,而无论字母大小如何,MLE的$L_2$速率是$n^{-2(α-1)}$。对于上述所有情况,具有$n$样本的极小极大率最优估计量的行为本质上是具有$n\ln n$样本的极大似然估计量的行为。我们强调我们的方案的熵和互信息估计的实际优势。我们证明,我们的方法减少了运…
2015-03-10 cs.IT math.IT math.ST
Adaptive Estimation of Convex Sets and Convex Polytopes from Noisy Data
我们估计凸多胞体和一般凸集$\mathbb R^d,d\geq 2$的回归框架。我们使用一个$L^1$型损失函数来衡量我们的估计的风险,并证明这些风险的上界。我们表明,在多面体的情况下,这些估计达到极大极小率。对于多面体,这个极大极小率是$\frac{\ln n}{n}$,这不同于非正规家庭的参数率的对数因子,我们表明,这个额外的因素是必不可少的。使用多面体近似,我们将我们的结果扩展到一般的凸集,我们实现了极大极小率的对数因子。此外,我们提供了一个估计,是自适应的未知多面体的顶点数,我们证明了这个估计是最佳的在所有类的多面体与给定的顶点数。
2012-11-14 math.ST stat.TH
Multivariate density estimation from privatised data: universal consistency and minimax rates
我们重新审视经典的非参数密度估计问题,但施加局部差分隐私约束。在这样的约束下,原始的多变量数据$X_1,\ldots,X_n \in \mathbb{R}^d$不能被直接观察到,并且所有的估计量都是合适的隐私机制的随机输出的函数。统计学家是自由选择的形式的隐私机制,在这项工作中,我们建议添加拉普拉斯分布噪声的离散化的矢量$X_i$的位置。基于这些随机化数据,我们设计了一种新的估计的密度函数,这可以被看作是一个私有化的版本,研究直方图密度估计。我们的理论结果包括泛逐点相容性和强泛$L_1$ -相容性。此外,还得到了Lipschitz函数类上的一个收敛速度,并给出了一个匹配的minimax下界.我们通过一个小的模拟研究说明了数据效用和隐私之间的权衡。
2022-11-12 math.ST stat.ME stat.TH
Minimax rates of entropy estimation on large alphabets via best polynomial approximation
考虑从$n$独立样本估计$k$元素上分布的香农熵的问题。我们表明,极小极大均方误差是在通用乘法常数因子的$$\Big(\frac{k }{n \log k}\Big)^2 + \frac{\log^2 k}{n}$$,如果$n$超过一个常数因子的$\frac{k}{\log k}$,否则不存在一致的估计。这完善了Valiant-Valiant \cite{VV11}的最新结果,即一致熵估计的最小样本量根据$Θ(\frac{k}{\log k})$进行缩放。最佳多项式逼近的装置在最佳估计量的构造中起着关键作用,并且通过对偶性参数,极大极小下界。
2016-02-18 cs.IT math.IT math.ST
Thresholding Projection Estimators in Functional Linear Models
考虑了泛函线性回归模型中回归函数的估计问题,提出了一种新的结合降维和阈值的投影估计。阈值规则的引入允许在广泛的假设下得到一致性,以及在额外的正则性假设下得到极大极小收敛率。我们还考虑了三角基所产生的Sobolev空间的特殊情况,它允许很容易地得到预测的均方误差以及回归函数的导数的估计。我们证明了这些估计是极大极小的,并给出了某些特殊情况下的收敛速度。
2008-12-17 math.ST stat.ME stat.TH
Minimax Optimal Estimator and Improved Error Rate for the MLE in Logistic Regression with Gaussian Design
Columbia University(哥伦比亚大学);Halıcıoğlu Data Science Institute, UC San Diego(加州大学圣地亚哥分校哈奇奥卢数据科学研究所)
本文针对高斯设计下逻辑回归的参数估计问题,构造了首个极小极大最优估计器,改进了MLE的有限样本误差率,通过数值实验验证了所提估计器性能优于MLE。
2026-08-19 cs.IT math.IT math.ST
Statistical minimax approach of the Hausdorff moment problem
本文的目的是研究从噪声观测值的矩估计紧支概率密度的问题。事实上,我们提供了一个著名的豪斯多夫经典矩问题的统计方法。我们证明了上界和下界的均方误差的收敛速率表明,所考虑的估计达到极大极小率在相应的光滑类。
2009-04-23 math.ST stat.TH
Minimax and adaptive estimation of the Wigner function in quantum homodyne tomography with noisy data
我们估计的量子态的光束量子零差测量的结果进行了同样准备的量子系统。状态通过维格纳函数表示,这是$\mathbb{R}^2$上的广义概率密度,可以取负值,必须遵守量子物理学施加的固有正性约束。由于检测效率低下而导致的损失的影响(这在实际实验中总是存在的)是独立高斯噪声的层析成像数据的附加。我们构造了Wigner函数的核估计,证明了它对于一类无穷可微函数上的点态风险是Minimax有效的,并将其实现为数值结果.我们构造自适应估计,也就是说,它不依赖于平滑参数,并证明在某些设置中,他们达到相应的平滑类的极大极小率。
2007-08-14 math.PR math.ST quant-ph
Minimax estimation of the pseudo-spectral gap of continuous Markov chains, with applications to empirical concentration bounds
ESSEC Business School(法国高等经济商业学院)
该研究针对连续状态空间马尔可夫链提出极小极大最优的伪谱间隙估计器,结合相关不等式推导经验集中界,为带马尔可夫奖励的老虎机提供了无需知晓伪谱间隙的UCB算法。
2026-10-15 cs.LG math.ST stat.ML
Minimax Rate for Optimal Transport Regression Between Distributions
分布上分布回归考虑的是在协变量和响应都是概率分布的情况下,制定和估计回归关系的问题。最优输运分布回归模型假定响应分布的条件Fréchet均值通过最优输运图与协变量分布相关联。我们建立这样一个回归函数的极大极小估计率,推导出一个下限,匹配的收敛速度达到的Fréchet最小二乘估计。
2022-06-03 math.ST stat.TH