Kernel-based estimation for partially functional linear model: Minimax rates and randomized sketches
本文研究了部分函数线性模型(PFLM),其中所有的预测特征由一个函数协变量和一个高维标量向量组成。在无限维再生核希尔伯特空间上,PFLM的估计是一个函数范数和$\ell_1$范数混合正则化的最小二乘估计.本文的主要任务是建立高维情形下PFLM的Minimax估计率,并利用经验过程理论中分析核类的各种技巧建立最优Minimax估计率。此外,我们提出了一个有效的数值算法的基础上随机草图的核矩阵。几个数值实验来支持我们的方法和优化策略。
2021-10-18 math.ST stat.ML stat.TH
Minimax testing and quadratic functional estimation for circular convolution
在循环卷积模型中,我们的目标是推断的圆形随机变量的密度,使用的观测污染的附加测量误差。我们强调的两个问题的相互作用:最优测试和二次函数估计。在一般的正则性假设下,我们确定了二次泛函的极大极小风险估计的一个上界。上界由两个术语组成,一个模仿经典的偏差-方差权衡,另一个导致二次函数估计中的典型肘效应。利用二次泛函的极小极大最优估计量作为检验统计量,得到了非参数方案非渐近极小极大检验半径的一个上界。有趣的是,在估计情况下引起肘效应的项在测试半径内消失。我们提供了一个匹配的下界的测试问题。通过证明检验问题的任何下界也产生二次函数估计问题的下界,我们得到了估计风险的下界。最后,我们证明了一个匹配的下界的估计问题中的肘效应的原因。考虑索伯列夫空间和普通或超光滑误差密度的结果示出。
2020-04-27 math.ST stat.TH
Minimax testing of a composite null hypothesis defined via a quadratic functional in the model of regression
本文研究了非参数多元回归模型下复合原假设的检验问题。对于给定的二次函数$Q$,原假设声明回归函数$f$满足约束$Q[f]=0$,而替代假设对应于$Q[f]$远离零的函数。一方面,我们提供了极大极小化率的测试和确切的分离常数,以及尖锐的最佳测试程序,对角和非负二次泛函。我们考虑光滑类的椭球形和检查,我们的条件得到满足,在特定情况下,对应于各向异性的Sobolev类椭球。在这种情况下,我们提出了一个封闭的形式的极大极小速率和分离常数。另一方面,二次泛函的极小极大率既不是正的也不是负的,使得出现两种不同的状态:“正则”和“非正则”。在“规则”情况下,极大极小化速率等于$n^{-1/4}$,而在“不规则”情况下,速率取决于平滑类,并且比“规则”情况下慢。我们将其应用到测试在嘈杂的环境中观察到的两个功能的规范的平等的问题。
2013-01-04 math.ST stat.TH
Minimax rates of entropy estimation on large alphabets via best polynomial approximation
考虑从$n$独立样本估计$k$元素上分布的香农熵的问题。我们表明,极小极大均方误差是在通用乘法常数因子的$$\Big(\frac{k }{n \log k}\Big)^2 + \frac{\log^2 k}{n}$$,如果$n$超过一个常数因子的$\frac{k}{\log k}$,否则不存在一致的估计。这完善了Valiant-Valiant \cite{VV11}的最新结果,即一致熵估计的最小样本量根据$Θ(\frac{k}{\log k})$进行缩放。最佳多项式逼近的装置在最佳估计量的构造中起着关键作用,并且通过对偶性参数,极大极小下界。
2016-02-18 cs.IT math.IT math.ST
Minimax Rates for Estimating Powered Sliced Wasserstein Functionals
Université Gustave Eiffel(格勒诺布尔艾菲尔大学)
该研究在投影r阶矩假设下,针对幂切片沃尔什斯坦因泛函的两样本估计问题,建立了非临界区域的极小极大速率,分析了端点与临界阶的特殊情况,明确了插入估计量的最优性及待解决的临界情形精确速率问题。
2026-10-12 cs.LG math.ST stat.ML
Adaptive estimation over anisotropic functional classes via oracle approach
研究了高斯白噪声模型中各向异性Nikolskii类在$L_p$ --损失下的自适应极小极大估计问题,即$1\leq p\leq\infty,$.我们提出了一个新的数据驱动的选择方案的基础上的估计过程,从家庭的核估计具有不同的带宽。对于建议的估计,我们建立了所谓的Lp-范数预言不等式,并使用它来推导极大极小自适应结果。我们证明了率自适应估计的存在性和充分刻画行为的极大极小风险的正则性参数和规范指标之间的不同关系的定义的功能类和风险。特别地,我们发现了极大极小风险的一些新的渐近性质,包括存在一致相合估计的充要条件。我们还提供了详细的概述现有的方法和结果,并制定开放的问题,自适应极大极小估计。
2014-05-18 math.ST stat.TH
Minimax estimation of functionals in sparse vector model with correlated observations
Institute for Interdisciplinary Information Sciences, Tsinghua University(清华大学交叉信息研究院);Shanghai Qi Zhi Institute(上海人工智能实验室);Department of Statistics and Data Science, Tsinghua University(清华大学统计与数据科学系)
本文研究了在部分关于协方差矩阵信息的情况下,稀疏向量的l2范数估计和零假设检验的极小极大最优方法,发现Frobenius范数决定了估计和检验的极小极大速率。
2026-08-21 math.ST stat.TH
Minimax estimation of linear and quadratic functionals on sparsity classes
对于高斯序列模型,我们获得了非渐近极小极大估计率的线性,二次和L2-范数泛函类的稀疏向量和构造最佳估计,达到这些速度。感兴趣的主要对象是类s-稀疏向量,我们还提供完全自适应估计(独立的s和噪声方差),只有grammically慢速率比极大极小的。此外,我们还得到了Lq-球上的Minimax速率,其中0 < q < 2。这种分析表明,在一般情况下,有三个区域的收敛速度,我们称之为稀疏区,密集区和退化区,而第四个区域出现的二次函数的估计。我们证明,与向量的估计相反,稀疏区的最佳速率中的正确对数项为log(d/s^2)而不是log(d/s)。对于稀疏类,线性泛函和L2-范数的估计率在s = sqrt(d)(稀疏区和密集区之间的边界)处具有简单的弯头,并且表现出类似的性能,而二次泛函的估计揭示了更复杂的效果,并且仅基于由向量上的稀疏性条件描述的稀疏性是不可能的。最后,我们将我们的结果估计的L2-范数的问题测试稀疏的替代品。特别是,我们得到了一个非渐近模拟的Ingster-Donoho-Jin理论揭示了一些影响,没有捕捉到以前的渐近分析。
2015-02-02 math.ST stat.TH
Minimax and adaptive estimation of general linear functionals under sparsity
National University of Singapore(新加坡国立大学)
研究高维稀疏均值向量下线性函数L(θ)=η^Tθ的非渐近最小最大估计,提出结合插值估计和阈值处理的估计器,通过加载依赖稀疏先验得到匹配下界,扩展至非对称噪声和未知噪声方差情况,展示异质性对最小最大和自适应速率的影响。
2026-09-01 math.ST stat.TH
Minimax estimation for Varying Coefficient Model via Laguerre Series
Ohio University(俄亥俄大学);Cadi Ayyad University(卡迪·阿亚德大学)
本文通过拉格朗日多项式方法,提出了一种在最小最大意义下最优收敛速率的变系数模型参数估计方法,并建立了参数的渐近正态性,构造了置信区间和假设检验。
2026-04-30 math.ST stat.ME stat.TH
Minimax wavelet estimation for multisample heteroscedastic non-parametric regression
研究了从多采样噪声曲线中估计基线信号的问题。本文考虑了功能性混合效应模型,假设功能性固定效应属于Besov类。这个框架允许我们对可能表现出强烈不规则性的曲线进行建模,例如峰值或跳跃。提供了$L_2$极小极大风险的下限,以及极小极大比率的上限,该上限是通过构建函数固定效应的小波估计量推导出来的。我们的工作构成了多样本非参数回归的第一个理论结果。我们的方法说明了现实的模拟数据集以及实验数据。
2015-11-14 stat.ME
Minimax theory of estimation of linear functionals of the deconvolution density with or without sparsity
本文考虑了在独立同分布的基础上估计未知反卷积密度$f$的线性泛函$Φ=\int_{-\infty}^\infty φ(x) f(x)dx$的问题。其中$Y_i = θ_i + ξ_i$具有已知的pdf $g$,并且$f$是$θ_i$的pdf。虽然这个问题的各个方面和特殊情况已经处理了一些作者,仍然有许多差距。特别是,对于任意函数$φ$,$Φ$的估计量没有极大极小下界。一般的风险上限只涵盖PDMATHAMT的傅立叶变换存在的情况。此外,没有理论存在估计$Φ$时,观测向量是稀疏的。此外,到目前为止,估计的泛函$Φ_n = n^{-1} \sum_{i=1}^n φ(θ_i)$在间接观测的相关问题已被视为一个单独的问题,没有连接到$Φ$的估计。本文的目的是填补这一空白,并发展一般极小极大估计理论的$Φ$和$Φ_n$。我们提供了一个一般的方法来估计$Φ$(和$Φ_n$),并提供了上和最小最大的风险下限的情况下,功能$φ$是平方可积的。此外,我们将该理论扩展到$φ$的傅里叶变换不存在且$Φ$可以表示为$f$及其衍生物的傅里叶变换的线性泛函的情况。最后,我们推广我们的结果来处理的情况下,矢量$θ$是稀疏的。作为所提出的理论的直接应用,我们获得了多个新的结果,并自动恢复现有的各种问题,如估计的$(2M+1)$ -th绝对矩或广义矩的反卷积密度,估计的混合CDF或估计的混合PDF与经典和Berks…
2015-05-15 math.ST stat.TH
No need for an oracle: the nonparametric maximum likelihood decision in the compound decision problem is minimax
本文研究正态混合模型下的 NPMLE 决策,利用其与 SURE 的联系证明经验 Bayes 与非随机参数复合决策中的 minimax 最优性,并以简短直接的论证替代无效且繁琐的 oracle 方法。
2024-06-14 math.ST stat.TH
The Cost of Discretization in Functional Linear Regression: Minimax Rates and Adaptation
The Wharton School, University of Pennsylvania(宾夕法尼亚大学沃顿商学院);School of Statistics, East China Normal University(华东师范大学统计学院)
研究标量对函数线性回归在有限噪声点评估下的极小极大估计与预测风险,推导两种采样方案下的速率,构建自适应估计器,揭示不同设计下的相变及丰富相图,数值模拟和实际数据示例验证结果。
2026-07-13 math.ST stat.TH
On adaptive minimax density estimation on $R^d$
我们解决的问题,自适应极小极大密度估计的$\bR^d$与$\bL_p$ -各向异性的Nikol'skii类的损失。在函数类和风险的定义中,我们充分刻画了极大极小风险在正则性参数和范数指标之间的不同关系下的行为。特别是,我们表明,有四个不同的制度方面的行为的极大极小风险。我们开发了一个单一的估计,这是(近)最佳的orderover的各向异性Nikol'skii类的完整规模。我们的估计过程是基于数据驱动的选择一个估计从一个固定的家庭的核估计。
2013-06-18 math.ST stat.TH
Quantizing Heavy-tailed Data in Statistical Estimation: (Near) Minimax Rates, Covariate Quantization, and Uniform Recovery
本文提出截断与抖动预处理结合均匀量化的方案,证明在协方差估计、压缩感知和矩阵补全中可实现近极小极大误差速率,并针对协变量量化下的非凸恢复及重尾噪声建立近最优一致恢复保证。
2023-07-26 cs.IT math.IT math.ST
On estimation of nonsmooth functionals of sparse normal means
研究了N_gamma(θ)= sum(i=1)^d的估计问题|θ_i|基于观测y_i = θ_i + ε_i,i = 1,.,d,其中θ=(θ_1,...,θ_d)为未知参数,ε>0为已知参数,ε_i为独立同分布。标准正态随机变量。证明了s-稀疏向量类B_0(s)的非渐近极小极大风险,并给出了极小极大风险率的估计。
2019-10-05 math.ST stat.TH
Minimax Optimal Estimation in Partially Linear Additive Models under High Dimension
在高维稀疏向量和光滑函数分量的部分线性可加模型中,我们得到了参数和非参数分量的极大极小估计率。欧氏分量的极小极大下界是典型的稀疏估计率,它与非参数平滑指标无关。然而,极小极大下界为每个组件功能表现出的维数和稀疏性的参数组件和相关的非参数组件的平滑度之间的相互作用。事实上,当非参数分量的平滑度或参数分量的维数足够大时,平滑非参数估计的极大极小风险可以减慢到稀疏估计率。在上面的设置中,我们证明了惩罚最小二乘估计几乎可以达到极大极小下界。
2018-01-14 math.ST stat.TH
Minimax Optimal Estimation of Mean and Covariance Functions with Spectral Regularization
Department of Statistics, Pennsylvania State University(宾夕法尼亚州立大学统计学系)
本文研究了在再生核希尔伯特空间中利用频谱正则化估计均值和协方差函数的方法,推导了估计器的收敛率并建立了最优性界。
2026-10-01 math.ST stat.TH
Maximum Likelihood Estimation of Functionals of Discrete Distributions
我们考虑离散分布泛函的估计问题,并着重于广泛使用的估计量的最坏情况下的平方误差风险的紧非渐近分析。我们应用浓度不等式来分析这些估计量围绕其期望值的随机波动,并使用正线性算子的近似理论来分析其期望值与真实泛函(即其\emph{bias})的偏差。我们的最坏情况下的平方误差的最大似然估计(MLE)估计香农熵$H(P) = \sum_{i = 1}^S -p_i \ln p_i$,和$F_α(P) = \sum_{i = 1}^S p_i^α,α>0$,乘法常数,任何字母大小$S\leq \infty$和样本大小$n$的风险可能消失的风险。作为一个推论,香农熵估计,我们表明,它是必要的和足够的$n \gg S$观测MLE是一致的。此外,我们建立了考虑$n \gg S^{1/α}$样本的MLE一致地估计$F_α(P), 0<α<1$是必要和充分的。这两个问题的极小极大率最优估计需要$S/\ln S$和$S^{1/α}/\ln S$样本,这意味着极大似然估计具有严格的次优样本复杂度。当$1<α<3/2$,我们表明,最坏情况下的平方误差率的MLE的收敛是$n^{-2(α-1)}$无限的字母大小,而极小极大平方误差率是$(n\ln n)^{-2(α-1)}$。当$α\geq 3/2$时,MLE实现最小最大最优速率$n^{-1}$,而不管字母表大小。作为一般理论的应用,我们分析了Dirichlet…
2017-08-10 cs.IT math.IT math.ST
Minimax Optimal Convergence Rates for Estimating Ground Truth from Crowdsourced Labels
众包已经成为许多现实世界机器学习应用中标签收集的主要手段。从众包工作者提供的噪声标签中推断真实标签的经典方法是Dawid-Skene估计。本文证明了Dawid-Skene估计的投影期望最大化算法的收敛速度。显示指数的收敛速度被证明是最佳的,通过一个下界参数。我们的工作解决了长期存在的问题,是否Dawid-Skene估计有良好的理论保证,除了在实践中观察到的良好性能。此外,与多数表决的比较研究说明了Dawid-Skene估计的优点和缺陷。
2016-05-30 math.ST stat.ML stat.TH
Minimax Estimation of the $L_1$ Distance
我们考虑的问题估计的$L_1$距离之间的两个离散的概率测度$P$和$Q$从经验数据在一个非渐近和大字母设置。当$Q$是已知的,并获得$n$样本从$P$,我们表明,对于每一个$Q$,极小极大率最优估计与$n$样本达到性能相当的最大似然估计(MLE)与$n\ln n$样本。当两个$P$和$Q$是未知的,我们构造极小极大率最优估计,其最坏情况下的性能基本上是已知的$Q$的情况下,$Q$是均匀的,这意味着$Q$是均匀的基本上是最困难的情况。在Jiao \emph{et al.}(2015)中确定的\emph{effective sample size enlargement}现象在已知$Q$病例中对每个$Q$和$Q$未知病例均成立。然而,$\|P-Q\|_1$的最佳估计量的构建需要新的技术和见解,超越Jiao \emph{et al.}(2015)中基于近似的函数估计方法。
2018-06-23 cs.IT math.IT math.ST
Rate optimal estimation of quadratic functionals in inverse problems with partially unknown operator and application to testing problems
我们考虑高斯序列模型中的二次泛函的估计,假设特征值是未知的,只能通过噪声观测。施加平滑假设的信号和序列的特征值,我们开发了一个极大极小理论这个问题。我们提出了一个截断序列估计,并表明,它达到最佳的收敛速率,如果截断参数选择适当。测试问题的反问题的后果同样讨论:特别是,极大极小率测试信号检测和拟合优度测试。
2019-07-14 math.ST stat.TH
On the Optimality of Functional Sliced Inverse Regression
本文证明函数型切片逆回归在估计函数型充分降维中心空间时达极小极大最优速率,通过集中不等式、截断方案及模拟验证。
2025-04-15 math.ST stat.TH
Simple Adaptive Estimation of Quadratic Functionals in Nonparametric IV Models
本文研究了非参数辅助变量(NPIV)模型中二次泛函的自适应Minimax估计,这是带有未知算子的不适定逆回归的非线性泛函的最优估计中的一个重要问题.我们首先证明了二次泛函的留一筛选NPIV估计量可以达到与Chen和Christensen [2018]中先前推导的下界一致的收敛速度。最小最大速率是通过筛选尺寸(关键调整参数)的最佳选择来实现的,这取决于NPIV函数的平滑度和不适定性的程度,两者在实践中都是未知的。接下来,我们提出了一个Lepski型的数据驱动的选择的关键筛尺寸适应未知的NPIV模型功能。二次函数的自适应估计,以达到极大极小最优率在严重不适定的情况下,并在定期轻度不适定的情况下,但乘法$\sqrt{\log n}$因子在不规则轻度不适定的情况下。
2022-02-09 econ.EM math.ST stat.ME
The Cost of Privacy in Generalized Linear Models: Algorithms and Minimax Lower Bounds
University of Pennsylvania(宾夕法尼亚大学);Rutgers University(罗格斯大学)
我们提出了不同的私人算法的参数估计在低维和高维稀疏广义线性模型(GLM)通过构建私人版本的投影梯度下降。我们表明,所提出的算法是近速率最优的特征,其统计性能和建立隐私约束的极大极小下界GLM。通过一种新的技术,这是基于Stein引理和推广的跟踪攻击技术的隐私约束的下界得到。这个下限参数可以是独立的兴趣,因为它适用于一般的参数模型。仿真和真实数据实验证明了我们的算法的数值性能。
2020-12-06 cs.CR cs.LG math.ST
Thresholding Projection Estimators in Functional Linear Models
考虑了泛函线性回归模型中回归函数的估计问题,提出了一种新的结合降维和阈值的投影估计。阈值规则的引入允许在广泛的假设下得到一致性,以及在额外的正则性假设下得到极大极小收敛率。我们还考虑了三角基所产生的Sobolev空间的特殊情况,它允许很容易地得到预测的均方误差以及回归函数的导数的估计。我们证明了这些估计是极大极小的,并给出了某些特殊情况下的收敛速度。
2008-12-17 math.ST stat.ME stat.TH
Noisy recovery from random linear observations: Sharp minimax rates under elliptical constraints
约束参数空间的估计问题出现在各种设置。在许多这些问题中,统计学家可用的观察结果可以被建模为随机线性算子的图像的噪声实现;一个重要的特殊情况是随机设计回归。我们推导出任意紧椭圆参数集的估计率,并演示了它们如何依赖于随机线性算子的分布。我们的主要结果是一个功能,其特点的最小最大估计率的噪声水平,法律的随机算子,和椭圆规范,定义的误差度量和参数空间。这个非渐近结果是尖锐的,直到一个显式的普适常数,它成为渐近精确的半径的参数空间允许增长。我们通过将其应用于参数和非参数回归问题,包括涉及分布偏移或相关协变量的问题,证明了结果的一般性。
2023-03-22 cs.IT math.IT math.ST
Optimal prediction for kernel-based semi-functional linear regression
在本文中,我们建立了一个半功能的线性模型,其中包括一个功能组件和一个不太光滑的非参数组件的最优收敛速度的预测。我们的研究结果表明,更平滑的功能组件可以学习与极大极小率,如果非参数组件是已知的。更具体地说,一个双惩罚最小二乘法采用再生核希尔伯特空间的框架内的功能和非参数分量的估计。利用表示者定理,提出了一种求解相应最优化问题的高效算法,该算法不需要迭代,正则化参数由广义交叉验证准则选择.数值研究证明了该方法的有效性,并验证了理论分析。
2021-10-29 math.ST stat.ML stat.TH
Functional estimation and hypothesis testing in nonparametric boundary models
考虑具有未知支撑边界曲线$g$的Poisson点过程,其形成非规则统计模型的原型。我们解决了估计形式为$\int Φ(g(x))\,dx$的非线性泛函的问题。根据非参数最大似然方法,我们构造了一个估计,这是UMVU在Hölder球,并实现了(局部)极小极大收敛速率。这些结果在$Φ$上的弱假设下成立,这些假设对于$Φ(u)=|u|^p$,$p\ge 1$都是满足的。作为应用,我们考虑了$L^p$ -范数的估计问题,并得到了相应的非参数假设检验问题中的极小极大分离率。结构差异,定期非参数模型的结果进行了讨论。
2019-02-12 math.ST stat.TH
Minimax Rates of Estimation for Optimal Transport Map between Infinite-Dimensional Spaces
Chiang Mai University(清迈大学);The University of Tokyo(东京大学);RIKEN AIP(理化学研究所人工智能研究中心)
本文研究了在无限维空间之间最优运输映射的估计,通过γ-光滑性概念证明了多项式率的最小最大最优率,并提出了一种估计方法用于函数数据分析。
2025-12-16 math.ST stat.ML stat.TH
Functional linear regression from sparse to dense designs: a pooling-ridge method and minimax optimality
Tsinghua University(清华大学);Peking University(北京大学)
针对离散观测数据的函数线性回归最优估计难题,提出池化-岭方法,实现从稀疏到密集设计下两类回归模型的极小极大最优性,经模拟与实际数据验证。
2026-08-27 cs.LG math.ST stat.ME
Optimal Estimation of A Quadratic Functional and Detection of Simultaneous Signals
受基因组学应用的启发,本文研究了两个正态均值向量的二次泛函$Q(μ, θ) = \frac{1}{n}\sum_{i=1}^nμ_i^2θ_i^2$的最优估计问题,特别关注两个均值向量都稀疏的情况.我们提出了最优估计的$Q(μ, θ)$为不同的制度,并建立了极小极大收敛速度在一个家庭的参数空间。在这个家庭的最佳速率表现出有趣的相变。在极大极小框架下,考虑了同时信号检测问题。结果表明,所提出的估计$Q(μ, θ)$自然导致最佳的测试程序。
2015-05-07 math.ST stat.TH
Adaptive nonparametric estimation in the functional linear model with functional output
本文考虑一个函数线性回归模型,其中协变量和响应变量都是函数随机变量。本文讨论了该模型中条件期望算子的最优非参数估计问题。本文首先介绍有限维子空间上的投影估计。我们提供了一个非渐近偏差方差分解的情况下,这些子空间产生的(经验)PCA函数的基础上的均方预测误差。由于模型选择装置选择最佳投影维度,实现了自动权衡:惩罚对比度估计器满足预言型不等式,因此在自适应观点中是最佳的。这些上界允许我们推导出椭圆光滑空间上的收敛速度。利率被证明是最佳的最小最大意义上:他们匹配的最小最大风险的下界,这也被证明。最后,我们进行了数值研究,模拟数据和两个真实的数据集。
2022-03-01 math.ST stat.TH
Minimax bounds for watermarked and masked recursive discrete distribution estimation
School of Computer and Communication Sciences, EPFL(EPFL计算机与通信科学学院)
本研究探究带水印的递归离散分布估计的极小极大损失,提出掩码缩小损失差距,推测更严格下界可消除剩余差距。
2026-09-01 cs.IT cs.LG math.IT
Estimation of functionals of sparse covariance matrices
高维统计检验通常忽略相关性以获得简单性和稳定性,从而导致依赖于相关阵的泛函(例如其Frobenius范数和其他$\ell_r$范数)的零分布。受这类检验临界值计算的启发,我们研究了稀疏相关阵泛函估计的困难。具体而言,我们表明,简单的插件程序的基础上阈值估计的相关阵是稀疏自适应和极大极小最优的一类相关阵。类似于以前的结果功能估计,极大极小利率表现出肘现象。我们的研究结果进一步说明了模拟数据以及金融计量经济学中产生的数据的实证研究。
2015-11-17 math.ST stat.ME stat.TH
Minimax Quantum State Tomography with Periodic Clifford Measurements
School of Statistics, University of Minnesota(明尼苏达大学统计学院)
该论文研究量子态层析的极小极大风险,提出周期 Clifford 测量下的自适应估计器,在多项式谱衰减类上达到最优速率,并给出高效算法与形式化验证。
2026-10-02 math.ST quant-ph stat.TH
Efficient Minimax Signal Detection on Graphs
网络入侵、社区检测和疾病爆发等问题可以通过图的节点或边的观测来描述。在这些应用中,存在的入侵,社区或疾病爆发的特点是一些未知的连通子图的新的观察。这些问题可以制定在连接的子图,这是一个问题,通常是计算困难的适当的目标的优化。我们通过将连通子图嵌入到线性矩阵不等式(LMI)中来克服连通性的组合数学问题。计算效率的测试,然后实现优化凸目标函数,这些LMI约束。我们证明,通过一个新的欧几里得嵌入参数,我们的测试是最小最大的指数族分布1-D和2-D格。我们表明,内部电导的连通子图家庭中起着根本性的作用,在表征可检测性。
2014-11-23 stat.ML
Adaptive estimation of linear functionals in functional linear models
本文考虑函数线性回归中斜率参数的线性泛函的估计,其中标量响应依赖于随机函数建模。在Johannes和Schenk [2010]中,已经表明基于降维和附加阈值的插入式估计器可以达到最小最大最优收敛速率,直到常数。然而,该估计过程需要关于斜率函数和与函数回归量相关联的协方差算子的某些特性的调谐参数的最优选择。由于这些在实践中是未知的,我们基于模型选择和Lepski方法的组合研究了完全数据驱动的调谐参数选择,该方法受到Goldenshluger和Lepski [2011]最近工作的启发。调谐参数被选为一个随机惩罚的对比度函数模仿Lepski的方法之间的随机集合的容许值的最小值。我们表明,这种自适应程序达到下界的极大极小风险的对数因子在广泛的类的斜率函数和协方差算子。特别是,我们的理论涵盖了逐点估计以及估计的局部平均值的斜率参数。
2011-12-13 math.ST stat.TH
Minimax and adaptive inference for branching ratios under long memory
Faculty of Engineering, Universidad del Desarrollo(发展大学工程学院)
针对长记忆霍克斯过程的分支比率推断,提出极小极大下界与块分散估计器,并给出自适应规则及诚实置信区间。
2026-10-01 math.ST stat.AP stat.TH
Minimax Rates for Conditional Density Estimation via Empirical Entropy
针对一致熵无法刻画条件密度估计极小极大速率的问题,研究以经验Hellinger熵为基础,在模型设定正确的情况下得到了极小极大KL风险的匹配上下界,仅需条件密度有上界即可。
2023-06-14 math.ST stat.TH
Nonparametric estimation of the purity of a quantum state in quantum homodyne tomography with noisy data
这项工作的目的是估计一个未知的维格纳函数的二次泛函噪声层析数据。维格纳函数可以被看作是光束的量子态的表示。二次泛函的估计是根据对相同制备的量子系统进行量子零差测量的结果进行的。我们首先构造一个估计的二次泛函的维格纳函数。我们证明了在一类无穷可微函数上,所提出的估计在极大极小意义下是最优或近似最优的。对某些光滑参数值也达到了参数化率,并给出了渐近正态性。然后,我们构造了一个不依赖于光滑参数的自适应估计器,并证明了它在某些情况下是极大极小的。
2006-11-16 math.ST stat.TH
Estimation of Conditional Mean Operator under the Bandable Covariance Structure
本文考虑高维多元线性回归模型,其中协变量和响应变量的联合分布是一个多元正态分布,其协方差阵是可带的。本文的主要目标是估计回归系数矩阵,它是一个函数的带宽协方差阵。虽然递减估计的协方差具有极小极大最优收敛速度的类的可带协方差,我们表明,它有一个次优收敛速度的回归系数,也就是说,极小极大估计类的可带协方差可能不是一个极小极大估计其泛函。本文提出了回归系数的分块渐缩估计,在协方差可带的假设下,该估计具有回归系数的minimax最优收敛速度。我们还提出了一个贝叶斯过程称为块逐渐减少后处理后的后验的回归系数,并表明,所提出的贝叶斯过程具有极小极大最优收敛速度的回归系数下的带宽协方差假设。我们表明,所提出的方法优于现有的方法,通过数值研究。
2021-03-11 math.ST stat.TH
Distributed Gaussian Mean Estimation under Communication Constraints: Optimal Rates and Communication-Efficient Algorithms
University of Pennsylvania(宾夕法尼亚大学)
在决策理论框架下研究了通信约束下高斯均值的分布式估计问题。极小极大收敛率,其特征之间的权衡通信成本和统计精度,建立在单变量和多变量设置。制定了通信效率高和统计上最佳的程序。在单变量的情况下,最佳速率只取决于总的通信预算,只要每个本地机器至少有一个比特。然而,在多变量的情况下,最小最大速率取决于本地机器之间的通信预算的具体分配。虽然高斯均值的最优估计在传统的环境中相对简单,但在通信约束下,它涉及到最优过程设计和下界参数。在本文中开发的技术可以是独立的利益。一个重要的步骤是分解成两个阶段,本地化和细化的极大极小估计问题。这种临界分解为下界分析和最优程序设计提供了一个框架。
2020-01-24 cs.DC cs.IT cs.LG
Optimal Full Ranking from Pairwise Comparisons
我们考虑的问题排名$n$球员从部分成对比较数据下的Bradley-Terry-Luce模型。在文献中的第一次,这个排名问题的极大极小率导出相对于肯德尔的tau距离,通过计数反转的数量来测量两个秩向量之间的差异。极小极大率的排名表现出指数率和多项式率之间的过渡,这取决于该问题的信噪比的大小。据我们所知,这种现象是完全排序所特有的,在任何其他统计估计问题中都没有出现过。为了实现最小最大速率,我们提出了一个分治的排名算法,首先将$n$球员分成类似的技能组,然后计算每个组内的本地最大似然估计。所提出的算法的最优性建立了一个仔细的近似独立的参数之间的两个步骤。
2021-01-21 math.ST stat.ML stat.TH
The Fundamental Limits of Structure-Agnostic Functional Estimation
本文形式化黑箱冗余函数估计下的泛函估计问题并推导极小极大下界,证明在结构无关、仅施加高层速率条件时一阶去偏方法最优,而利用函数空间结构的高阶估计量才能进一步改进。
2025-06-07 math.ST stat.ME stat.ML
Minimax Regret of Switching-Constrained Online Convex Optimization: No Phase Transition
Yale University(耶鲁大学);Simons Institute for the Theory of Computing(西蒙斯理论计算研究所);Massachusetts Institute of Technology(麻省理工学院);University of Southern California(南加利福尼亚大学)
我们研究的问题切换约束在线凸优化(OCO),玩家有有限的机会改变她的行动。虽然这个在线学习任务的离散模拟已被广泛研究,以前的工作在连续设置既没有建立极大极小率,也没有算法实现it.In本文中,我们表明,$ T $轮开关约束OCO少于$ K $开关有极大极小遗憾$ Θ(\frac{T}{\sqrt{K}}) $。特别地,对于一维,其至少为$ \frac{T}{\sqrt{2K}} $,对于更高维度,其至少为$ \frac{T}{\sqrt{K}} $。在高维的下界是通过一个正交子空间的论点。在一维中,一种新的对抗策略产生了$O(\frac{T}{\sqrt{K}})$的下界,但更涉及到包含常数的精确极大极小分析。为了建立更严格的一维结果,我们引入了\emph{fugal game}松弛,其极小极大遗憾的下限开关约束OCO。我们证明了逃逸对策的最小最大遗憾至少是$ \frac{T}{\sqrt{2K}} $,从而建立了一维最优最小最大遗憾下界。为了建立与维数无关的上界,我们接下来证明了一个minimax算法提供了一个$ O(\frac{T}{\sqrt{K}}) $上界,因此得出结论,对于任何$K$,切换约束OCO的极小极大遗憾是$ Θ(\frac{T}{\sqrt{K}}) $。这是在鲜明的对比,它的离散对应,开关约束预测专家的问题,表现出一个相变之间的低开关和高开关制度的最小最大遗…
2020-10-22 cs.LG math.OC stat.ML
Minimax Semiparametric Learning With Approximate Sparsity
该研究针对高维下精确稀疏假设适用范围有限的问题,形式化近似稀疏性概念,推导其下回归斜率与平均导数的极小极大速率,提出达最优速率的估计器,还发现有序与无序非参数回归的最优性边界存在差异。
2025-07-31 econ.EM math.ST stat.ML
Adaptive Inference in Multivariate Nonparametric Regression Models Under Monotonicity
Brown University(布朗大学)
该研究针对多元非参数回归的单调性约束问题,推导了自适应置信区间的极小极大收敛速率,提出了适配该速率的新推断方法,适用于高斯误差下的有限样本及回归函数的一般线性泛函。
2026-10-30 econ.EM math.ST stat.AP
Convergence Analysis of Kernel Conjugate Gradient for Functional Linear Regression
该研究在再生核希尔伯特空间框架下,结合早停正则化分析了用于函数线性回归的核共轭梯度算法的收敛性,得到了与文献极小极大速率匹配的收敛速率。
2023-10-04 math.ST stat.TH
Adaptive Nonparametric Estimation via Kernel Transport on Group Orbits: Oracle Inequalities and Minimax Rates
Institut National des Sciences de Gestion(国立管理科学学院)
本文提出基于群轨道核传输的非参数估计框架,通过双空间方法建立oracle不等式并实现最小最大最优速率,同时在目标函数具有轨道结构时提升估计效率。
2025-12-10 math.ST stat.TH
Adaptive Kernel Ridge Regression with Linear Structure: Sharp Oracle Inequalities and Minimax Optimality
University of Toronto(多伦多大学)
本文提出一种改进的岭回归方法,通过引入显式线性成分提升模型性能,理论证明其在一般核函数下达到最小最大最优预测风险。
2026-05-12 math.ST stat.TH
Goodness-of-fit testing and quadratic functional estimation from indirect observations
我们考虑卷积模型,其中i.i.d.具有未知密度$f$的随机变量$X_i$用加性i.i.d.独立于$X$的噪声。我们假设密度$f$属于Sobolev类或超光滑函数类。噪声分布是已知的,并且其特征函数以多项式或指数方式渐近衰减。本文研究卷积模型的拟合优度检验问题。我们证明了间接观测的基础上,从核估计的二次函数$\int f^2$的检验统计量的风险的上界。当未知密度比噪声密度足够平滑时,我们证明了该估计量是$n^{-1/2}$相容的、渐近正态的和有效的(对于我们计算的方差)。否则,我们给非参数上界的风险相同的估计。我们给出了一个统一的方法证明这两个问题的非参数极大极小下界。我们建立他们的索伯列夫密度和超光滑密度比指数噪声更不平滑。在这两个设置中,我们获得了与渐近极大极小速率相关的精确检验常数。
2007-11-21 math.ST stat.TH
Optimal Global Test for Functional Regression
本文研究了函数线性模型中斜率函数零点的光滑样条最优检验。我们提出了一个广义的似然比检验的基础上,一个易于实现的数据驱动的估计。测试的质量是通过空值和仍然允许可能测试的替代集合之间的最小距离来衡量的。导出了该距离的极大极小衰减率的下界,并且用衰减速度快于该下界的距离进行测试是不可能的。我们证明了极大极小最优速率是由光滑样条核和协方差核共同决定的。结果表明,我们的测试达到这个最佳的速率。仿真进行了确认我们的测试的有限样本性能,以及说明的理论结果。最后,我们应用我们的测试来研究氮氧化物($\text{NO}_{\text{x}}$)的轨迹对臭氧水平($\text{O}_3$)的影响。
2017-10-06 stat.ME