Rate optimal estimation of quadratic functionals in inverse problems with partially unknown operator and application to testing problems
我们考虑高斯序列模型中的二次泛函的估计,假设特征值是未知的,只能通过噪声观测。施加平滑假设的信号和序列的特征值,我们开发了一个极大极小理论这个问题。我们提出了一个截断序列估计,并表明,它达到最佳的收敛速率,如果截断参数选择适当。测试问题的反问题的后果同样讨论:特别是,极大极小率测试信号检测和拟合优度测试。
2019-07-14 math.ST stat.TH
Estimation under matrix quadratic loss and matrix superharmonicity
研究了矩阵二次损失下正态均值矩阵的估计问题。矩阵二次损失下的改进估计意味着列的任何线性组合的改进估计。首先,推导出风险的无偏估计,并证明了Efron-Morris估计是极小极大的。接下来,矩阵变量函数的\textit{matrix superharmonicity}的概念被引入,并示出具有类似的性质与通常的上调和函数,这可能是独立的兴趣。然后,我们证明了广义贝叶斯估计关于矩阵超调和先验是minimax。我们还提供了一类矩阵超调和先验,其中包括以前提出的概括斯坦的先验。数值结果表明,矩阵超调和先验对低秩矩阵有很好的效果。
2021-04-02 math.ST stat.TH
Optimal Estimation of A Quadratic Functional and Detection of Simultaneous Signals
受基因组学应用的启发,本文研究了两个正态均值向量的二次泛函$Q(μ, θ) = \frac{1}{n}\sum_{i=1}^nμ_i^2θ_i^2$的最优估计问题,特别关注两个均值向量都稀疏的情况.我们提出了最优估计的$Q(μ, θ)$为不同的制度,并建立了极小极大收敛速度在一个家庭的参数空间。在这个家庭的最佳速率表现出有趣的相变。在极大极小框架下,考虑了同时信号检测问题。结果表明,所提出的估计$Q(μ, θ)$自然导致最佳的测试程序。
2015-05-07 math.ST stat.TH
Adapting to general quadratic loss via singular value shrinkage
本研究提出多变量高斯序列模型下的自适应估计方法,通过奇异值收缩估计量适应未知光滑性与任意二次损失,实现多变量Sobolev椭球上的极小极大自适应估计。
2023-12-21 math.ST stat.TH
Non-minimaxity of debiased shrinkage estimators
针对二次损失下的 p 元正态均值估计,本文分析在小范数时收缩、大范数时等于 X 的去偏收缩估计量,并证明其在温和条件下不具有极小极大性。
2023-06-07 math.ST stat.TH
Simple Adaptive Estimation of Quadratic Functionals in Nonparametric IV Models
本文研究了非参数辅助变量(NPIV)模型中二次泛函的自适应Minimax估计,这是带有未知算子的不适定逆回归的非线性泛函的最优估计中的一个重要问题.我们首先证明了二次泛函的留一筛选NPIV估计量可以达到与Chen和Christensen [2018]中先前推导的下界一致的收敛速度。最小最大速率是通过筛选尺寸(关键调整参数)的最佳选择来实现的,这取决于NPIV函数的平滑度和不适定性的程度,两者在实践中都是未知的。接下来,我们提出了一个Lepski型的数据驱动的选择的关键筛尺寸适应未知的NPIV模型功能。二次函数的自适应估计,以达到极大极小最优率在严重不适定的情况下,并在定期轻度不适定的情况下,但乘法$\sqrt{\log n}$因子在不规则轻度不适定的情况下。
2022-02-09 econ.EM math.ST stat.ME
Constructing Bayes Minimax Estimators through Integral Transformations
本文研究二次损失下多元正态均值的贝叶斯极小极大估计,提出利用 I-变换与 Laplace 变换并配合球形先验来构造估计量,并通过示例验证其有效性。
2025-05-12 math.ST stat.TH
On Minimax Optimality of Sparse Bayes Predictive Density Estimates
研究了$\ell_0$ -稀疏高斯序列模型中Kullback-Leibler损失下的预测密度估计问题。在稀疏模型中,我们提出了适当的贝叶斯预测密度估计,并建立了渐近极小极大性。令人惊讶的是,在未来与过去的方差比$r$中存在相变。对于$r < r_0 = (\surd 5 - 1)/4$,自然离散先验不再是渐近最优的。相反,对于亚临界$r$,一个“双网格”前减少网格间距的中心区域恢复渐近极小极大。这种现象似乎没有类似的,否则平行理论的点估计的多元正态平均在二次损失。对于尖峰和平板先验有任何前景的极大极小,我们表明,稀疏参数空间也需要大小约束。在相当大的幅度范围内,尖峰和平板先验可以达到渐近极小极大。
2017-07-28 math.ST stat.TH
Nonparametric estimation of the purity of a quantum state in quantum homodyne tomography with noisy data
这项工作的目的是估计一个未知的维格纳函数的二次泛函噪声层析数据。维格纳函数可以被看作是光束的量子态的表示。二次泛函的估计是根据对相同制备的量子系统进行量子零差测量的结果进行的。我们首先构造一个估计的二次泛函的维格纳函数。我们证明了在一类无穷可微函数上,所提出的估计在极大极小意义下是最优或近似最优的。对某些光滑参数值也达到了参数化率,并给出了渐近正态性。然后,我们构造了一个不依赖于光滑参数的自适应估计器,并证明了它在某些情况下是极大极小的。
2006-11-16 math.ST stat.TH
Minimax rates of estimation for high-dimensional linear regression over $\ell_q$-balls
考虑标准线性回归模型$\y = \Xmat \betastar + w$,其中$\y \in \real^\numobs$是观测向量,$\Xmat \in \real^{\numobs \times \pdim}$是设计矩阵,$\betastar \in \real^\pdim$是未知回归向量,而$w \sim \mathcal{N}(0, σ^2 I)$是加性高斯噪声。本文研究了在$\ell_\rpar$ -损失和$\ell_2$ -预测损失情况下估计$\betastar$的极小极大收敛速度,假设$\betastar$是一个$\ell_{\qpar}$ -球$\Ballq(\myrad)$,对于某些$\qpar \in [0,1]$ .我们表明,在适当的规则性条件下的设计矩阵$\Xmat$,在$\ell_2$ -损失和$\ell_2$ -预测损失规模为$\Rq \big(\frac{\log \pdim}{n}\big)^{1-\frac{\qpar}{2}}$的极小极大误差。此外,我们提供了最小最大风险的$\ell_{\rpar}$ -规范的下限,所有$\rpar \in [1, +\infty], \rpar \neq \qpar$。我们的证明的下界是信息理论的性质,基于Fano的不等式和结果的度量熵的球$\Ballq(\myrad)$,而我们的证明的上界是直接的和建设性的,…
2009-10-11 cs.IT math.IT math.ST
Minimax Optimal Estimation of Convex Functions in the Supreme Norm
凸函数的估计在工程和科学中有着广泛的应用,而凸形状约束在渐近性能分析中引起了许多挑战。本文在形状约束非参数估计的框架下,研究了Hölder类一元凸函数的Minimax最优估计.特别地,本文建立了Hölder阶在1和2之间的凸函数的极大极小超模风险的两步最优收敛速率.第一步,应用信息论关于概率测度距离的结果,通过构造一类新的Hölder类分段二次凸函数,得到了极大极小下界.在第二步中,我们提出了一个惩罚凸样条估计,并建立了极大极小上界。由于凸形状约束,惩罚凸样条的最优性条件由非光滑互补条件刻画。利用互补方法,建立了最优样条系数在无穷范数下的一致Lipschitz性质。这个属性,以及渐近估计技术,导致在整个区间上的偏差和随机误差的统一界限。通过选择合适的节点数和惩罚值,进一步产生最佳的收敛收敛速率。给出了最大范数下凸估计的最优极小极大风险的第一个严格证明。
2013-06-08 math.ST stat.TH
Minimax Optimal Estimation of Transport-Growth Pairs in Unbalanced Optimal Transport
Chiang Mai University(清迈大学);RIKEN Center for Advanced Intelligence Project(理化学研究所先进智能研究中心);Graduate School of Arts and Science, The University of Tokyo(东京大学人文社会系研究科);Graduate School of Science, Kyoto University(京都大学理学研究科)
本文研究了不平衡最优传输中运输-增长对的估计问题,提出两种估计器并证明其达到最小最大最优率,通过价值基于的稳定性减少技术将UOT目标扰动转化为运输和增长风险。
2026-11-11 math.PR math.ST stat.ME
Minimax estimation in sparse canonical correlation analysis
典型相关分析是一种广泛使用的多元统计技术,用于探索两组变量之间的关系。本文研究了高维情形下主典型相关方向的估计问题。近年来,在典型相关方向稀疏的假设下,针对高维海量数据的处理提出了多种方法。然而,在文献中几乎没有理论依据。在本文中,我们建立了率最优的非渐近Minimax估计关于一个适当的损失函数的广泛的模型空间。观察到两个有趣的现象。首先,极小极大率不受冗余参数的影响,即两组随机变量的协方差阵,尽管它们需要在典型相关分析问题中估计。其次,我们允许存在的残余典型相关方向。然而,他们不影响极小极大率在一个温和的条件下的特征间隙。利用秩约束下高斯二次型的广义sin-theta定理和经验过程界,建立了极大极小上界.
2015-10-15 math.ST stat.TH
Lepski's Method and Adaptive Estimation of Nonlinear Integral Functionals of Density
研究了密度的非线性积分泛函的自适应极小极大估计,并将线性和二次泛函的结果推广到一般泛函。“光滑”非线性泛函的典型率优非自适应Minimax估计是高阶U-统计量。由于Lepski的方法需要严格控制这样的估计的尾部,我们绕过这样的计算修改的Lepski的方法,这是适用于这种情况。作为必要的组成部分,我们还提供了一种方法来控制高阶矩的三次积分泛函的极小极大估计。遵循标准的约束风险不等式方法,我们还展示了我们的适应率的最优性。
2016-01-11 math.ST stat.TH
Random action of compact Lie groups and minimax estimation of a mean pattern
本文考虑在Grenander模式理论的背景下估计平均模式的问题。曲线或图像的数据集中的形状可变性通过无限维空间上的紧致李群中的元素的随机作用来建模。在被加性高斯白噪声污染的观测的情况下,它表明,估计参考模板的设置Grenander的模式理论属于反卷积问题的类别超过李群。为了得到这个结果,我们建立了一个估计的平均模式,通过使用傅立叶反卷积和谐波分析紧李群。在一个渐近设置的观察到的曲线或图像的数量趋于无穷大,我们推导出上界和下界的极小极大二次风险的Sobolev球。该速率取决于表示数据中形状变化的随机李群元素的密度的平滑度,这使得估计平均模式和非参数统计中的标准反卷积问题之间存在联系。
2011-10-17 math.ST stat.TH
Interactive versus non-interactive locally differentially private estimation: Two elbows for the quadratic functional
局部差异隐私最近越来越受到统计界的关注,它是一种有价值的工具,可以在不需要可信第三方的情况下保护个人数据所有者的隐私。类似于随机响应的经典概念,其思想是数据所有者在本地随机化其真实信息,并且仅发布扰动数据。可以设计用于这种局部扰动过程的许多不同的协议。在大多数估计问题研究的文献中,到目前为止,然而,没有显着的差异,在极小极大风险之间的纯粹的非交互式协议和协议,允许一定数量的个人数据提供者之间的互动可以观察到。在本文中,我们表明,估计的集成平方的密度,顺序交互式程序大大提高了最好的非交互式程序的极大极小估计率。特别地,在非交互式场景中,我们在$s=\frac34$处识别极小极大速率中的肘,而在顺序交互式场景中,肘在$s=\frac12$处。这与直接观测的情况明显不同,在直接观测的情况下,众所周知弯头在$s=\frac14$处,以及与拉普拉斯噪声被添加到原始数据的情况下,在$s= \frac94$处获得弯头。我们还提供了自适应估计,实现最佳速率的对数因子,我们绘制连接到非参数拟合优度检验和估计更一般的积分泛函,并进行了一系列的数值实验。事实上,一个特定的本地差分隐私,但互动,机制改善了简单的非交互式的本地差分隐私的实际实现也是非常重要的。
2022-07-01 math.ST stat.TH
Goodness-of-fit testing and quadratic functional estimation from indirect observations
我们考虑卷积模型,其中i.i.d.具有未知密度$f$的随机变量$X_i$用加性i.i.d.独立于$X$的噪声。我们假设密度$f$属于Sobolev类或超光滑函数类。噪声分布是已知的,并且其特征函数以多项式或指数方式渐近衰减。本文研究卷积模型的拟合优度检验问题。我们证明了间接观测的基础上,从核估计的二次函数$\int f^2$的检验统计量的风险的上界。当未知密度比噪声密度足够平滑时,我们证明了该估计量是$n^{-1/2}$相容的、渐近正态的和有效的(对于我们计算的方差)。否则,我们给非参数上界的风险相同的估计。我们给出了一个统一的方法证明这两个问题的非参数极大极小下界。我们建立他们的索伯列夫密度和超光滑密度比指数噪声更不平滑。在这两个设置中,我们获得了与渐近极大极小速率相关的精确检验常数。
2007-11-21 math.ST stat.TH
Resolvable Fourier Degree and Minimax Estimation on theBoolean Hypercube
Sorbonne Université(索邦大学);Institut universitaire de France(法国高等学术研究院)
本文研究布尔超立方体上傅里叶-索博列夫预算下的高维非参数回归,提出可解傅里叶度刻画极小极大风险,并扩展至单调回归及未知支撑情形。
2026-09-15 math.ST stat.TH
Optimal minimax random designs for weighted least squares estimators
针对带噪声的函数估计与模型误设场景,提出加权最小二乘估计器的渐近极小极大随机设计,证明其优于确定性设计,且噪声方差无穷大时二者重合。
2023-05-02 math.ST stat.TH
The sparse Laplacian shrinkage estimator for high-dimensional regression
我们提出了一个新的惩罚方法变量的选择和估计,明确纳入预测之间的相关模式。该方法基于极大极小凹罚函数和与图相关的拉普拉斯二次函数的组合作为罚函数。我们称之为稀疏拉普拉斯收缩(SLS)方法。SLS使用极大极小凹惩罚来鼓励稀疏性,使用拉普拉斯二次惩罚来促进与相关预测因子相关联的系数之间的平滑性。SLS具有一个广义的分组性质的图表示的拉普拉斯二次型。我们表明,SLS具有预言性质的意义上,它是选择一致的,等于具有高概率的预言拉普拉斯收缩估计。这个结果在稀疏的高维设置中成立,在合理的条件下p >> n。我们推导出一个坐标下降算法计算SLS估计。仿真研究进行了评估的SLS方法的性能和一个真实的数据的例子来说明其应用。
2011-12-15 math.ST stat.TH
Nonparametric adaptive estimation for grouped data
本文的目的是估计一个随机变量X的密度f,当人们可以访问X的K $\ge$ 2个独立拷贝之和的独立观测值时。我们基于经验特征函数的对数的适当定义给出了一个构造性估计,并提出了一种新的数据驱动的截断参数选择策略。自适应估计被证明是最小最大最优的一些对数损失。数值研究说明了该方法的性能。此外,我们讨论的事实,估计量的定义适用于更广泛的背景下比这里考虑的。
2016-06-03 math.ST stat.TH
Multichannel Deconvolution with Long-Range Dependence: A Minimax Study
研究了具有长程相关高斯误差的多通道反卷积模型中未知响应函数的估计问题。我们不限制我们的考虑到一个特定类型的长程相关性,而是我们假设的错误应该满足一般假设的最小和较大的特征值的协方差阵。当响应函数被假设为属于Besov球且模糊函数被假设为具有一些光滑性质(包括正则光滑和超光滑卷积)时,我们推导出了所提出的多通道反卷积模型中二次风险的极小极大下界.此外,我们提出了一个自适应小波估计的响应函数是渐近最优的(在极大极小意义上),或接近最优的对数因子内,在很宽的范围内的Besov球。结果表明,最优收敛速度取决于响应函数的平滑参数、模糊函数的核参数、误差的长记忆参数之间的平衡,以及观测总数在通道总数中的分布。数学物理中的一些反问题的例子,其中一个需要恢复初始或边界条件的观测值的基础上,从一个嘈杂的解决方案的偏微分方程被用来说明我们开发的理论的应用。我们考虑的最优收敛速度和自适应估计量将Pensky和Sapatinas(2009,2010)针对独立同分布高斯误差的研究扩展到了长距离相关高斯误差的情况。
2013-05-01 math.ST stat.TH
Optimal estimation of variance in nonparametric regression with random design
考虑随机设计\begin{align*} Y_i = f(X_i) + V^{1/2}(X_i)\varepsilon_i, \quad i=1,2,\ldots,n, \end{align*}的异方差非参数回归模型,分别采用$f(\cdot)$和$V(\cdot)$ $α$ -和$β$ -Hölder平滑。我们证明了在局部和全局平方风险下估计$V(\cdot)$的极小极大概率的阶为\begin{align*} n^{-\frac{8αβ}{4αβ+ 2α+ β}} \vee n^{-\frac{2β}{2β+1}}, \end{align*},其中$a\vee b := \max\{a,b\}$对任意两个实数$a,b$ .该结果以非平凡的方式扩展了Wang等人[2008]中导出的固定设计速率$n^{-4α} \vee n^{-2β/(2β+1)}$,如第一项中$α$和$β$的出现所示。在方差为常数的特殊情况下,证明了方差估计的极大极小率为$n^{-8α/(4α+1)}\vee n^{-1}$,从而进一步证明了二次函数估计的极大极小率也为$n^{-8α/(4α+1)}\vee n^{-1}$,从而将非参数回归模型下的极大极小率与密度模型和白噪声模型下的极大极小率统一起来.为了实现最小最大速率,我们开发了一个U-统计为基础的本地多项式估计和一个下界,是在一个指定的分布家庭的随机性设计…
2020-02-05 math.ST stat.TH
Quadratic functional estimation in inverse problems
本文考虑一个高斯序列观测模型$Y_i$,$i\geq 1$具有均值(或信号)$θ_i$和方差$σ_i$,它像$i^γ$,$γ>0$一样多项式增长.这个模型描述了一个大面板的反问题。我们估计的二次函数的未知信号$\sum_{i\geq 1}θ_i^2$时,信号属于椭圆的有限光滑函数(多项式权重$i^α$,$α>0$)和无限光滑(指数权重$e^{βi^r}$,$β>0$,$0<r \leq 2$)。我们提出了一个Pinsker型投影估计在每种情况下,并研究其二次风险。当信号比反问题的难度($α>γ+1/4$或指数权重的情况)足够光滑时,我们得到了参数化率和与之相关的效率常数,并且给出了风险中二阶项的上界,并猜想它们是渐近尖锐的minimax.当信号用$α\leq γ+1/4$表示时,我们计算了非参数的风险上界,并假定该常数是渐近尖锐的。
2009-02-13 math.ST stat.TH
Bias-Corrected Subspace Intersection: Minimax-Optimal Shared Subspace Estimation in Multi-View Data
University of Chicago(芝加哥大学);the Wharton School, University of Pennsylvania(宾夕法尼亚大学沃顿商学院)
针对多视图数据共享子空间估计,提出偏差校正子空间交集(BCSI)方法,消除AJIVE的二阶偏差,实现极小极大最优,并给出有限样本风险界与数值验证。
2026-09-09 cs.IT math.IT math.ST
Intensity estimation of non-homogeneous Poisson processes from shifted trajectories
本文考虑了n个独立的泊松过程的观测值的非齐次强度函数的自适应估计问题,该过程具有一个共同的强度,该强度对于每个观测到的轨迹是随机移动的。我们表明,估计这个强度是一个反卷积的问题,其中的随机位移的密度起着卷积算子的作用。在一个渐近设置的数目n的观察轨迹趋于无穷大,我们推导出上界和下界的极大极小二次风险Besov球。在Meyer小波基的非线性阈值是用来获得一个自适应估计的强度。所提出的估计实现了近极小极大收敛速率。该速率取决于强度函数的平滑度和随机位移的密度,这使得非参数统计中的经典反卷积问题与从独立泊松过程的观测值估计平均强度之间存在联系。
2011-05-18 math.ST stat.TH
Computational-Statistical Trade-off in Kernel Two-Sample Testing with Random Fourier Features
Department of Statistics and Data Sciences, The University of Texas at Austin(德克萨斯大学奥斯汀分校统计与数据科学系);Department of Mathematical Sciences, KAIST(韩国科学技术院数学科学系)
本文研究了使用随机傅里叶特征近似MMD检验在计算复杂度与统计功效之间的权衡,证明通过合理选择随机特征数量可以在亚二次时间内达到与MMD检验相同的最小最大分离率。
2026-05-20 cs.LG math.ST stat.ML
Optimal heteroskedasticity testing in nonparametric regression
本文从极小极大视角研究非参数回归异方差检验问题,确立了不同光滑性假设与噪声条件下的精确极小极大分离率,并提出基于一阶平方差分的核统计量实现最优检验,揭示了噪声信息对一致检验的必要性。
2024-12-09 math.ST stat.ME stat.TH