Minimax-optimal rates for sparse additive models over kernel classes via convex programming
稀疏加性模型是具有加性分解$f^* = \sum_{j \in S} f^*_j$的$d$ -变量函数族，其中$S$是基数$s \ll d$的未知子集。考虑了一元分量函数$f^*_j$位于再生核Hilbert空间（RKHS）中的情形，分析了一种基于核与$\ell_1$型凸正则化相结合的未知函数$f^*$的估计方法.工作在一个高维的框架内，允许两个维度$d$和稀疏$s$与$n$增加，我们得到收敛速度（上界）在$L^2(\mathbb{P})$和$L^2(\mathbb{P}_n)$规范类$\MyBigClass$的稀疏加性模型与每个单变量函数$f^*_j$在单位球的单变量RKHS有界核函数。我们补充我们的上限推导极小极大下限的$L^2(\mathbb{P})$错误，从而显示我们的方法的最优性。因此，我们获得了许多有趣的类的稀疏加性模型，包括多项式，样条，和Sobolev类的最优极大极小率。我们还表明，如果，在我们的单变量条件下，多变量函数类被假定为全局有界的，那么更快的估计速度是可能的任何稀疏$s = Ω(\sqrt{n})$，显示全局有界性是一个显着的限制，在高维设置。
2011-12-18 cs.IT math.IT math.ST
Minimax Additive Regression under Unknown Dependent Designs
Université de Toulouse（图卢兹大学）；EDF R&D（法国电力公司研发部）；ANITI（图卢兹人工智能与自然智能研究所）
研究未知相依设计下加性回归的极小极大速率，提出耦合光滑类与阈值化最小二乘估计，证明未知密度可达已知密度速率或由密度正则性决定。
2026-10-06 cs.LG stat.ML
Minimax optimal transfer learning for high-dimensional additive regression
本文在迁移学习框架下研究高维可加回归，提出基于平滑后拟合估计器的目标估计程序和两阶段估计方法，在次Weibull噪声下建立误差界，并在分布足够接近时实现极小化最优速率。
2025-09-16 cs.LG math.ST stat.ML
Minimax Theory of Likelihood-Based Deep Learning for Speckle Regression
University of Notre Dame（圣母大学）
研究乘性散斑噪声和加性高斯噪声模型下平滑非参数回归函数的极小极大估计，用基于似然的深度神经网络估计器，建立估计误差上界与极小极大下界，证明估计难度不变，数值实验验证方法有效性。
2026-07-16 math.ST stat.ML stat.TH
Detection of sparse additive functions
研究了高斯白噪声模型中高维信号函数的检测问题。以及平滑的信号函数的假设，我们假设一个附加的稀疏条件，后者。检测问题表示为一个非参数假设检验问题，并根据渐近极小极大方法解决。对于高稀疏性的情况，极大极小检验程序在稀疏性参数中是自适应的。我们扩展到功能的情况下，已知的结果在检测稀疏的高维向量。特别是，我们的渐近检测边界来自相同的渐近关系，在向量的情况下。
2012-07-20 math.ST stat.TH
Exact Minimax Optimality of Spectral Methods in Phase Synchronization and Orthogonal Group Synchronization
本文研究了带加性高斯噪声和不完整数据的相位同步问题中谱方法的性能，证明了其在平方 $\ell_2$ 损失下达到极小极大下界，性能媲美极大似然估计等复杂方法，并将该最优性结论扩展至正交群同步。
2024-01-06 cs.IT math.IT math.SP
Minimax-optimal nonparametric regression in high dimensions
在两个稀疏性假设下推导了高维非参数回归的极小极大$L_2$风险：（1）真实回归曲面是一个稀疏函数，它只依赖于$p$预测变量列表中的$d=O(\log n)$重要预测变量，其中包含$\log p=o(n)$ ;（二）真正的回归曲面取决于$O(n)$预测器，但它是一个加法函数，其中每个加法分量是稀疏的，但可能包含两个或更多个相互作用的分量预测器，并且可以具有不同于其他分量的平滑度。对于任何一个建模假设，一个切实可行的扩展广泛使用的贝叶斯高斯过程回归方法，自适应地达到最佳极小极大率（$\log n$条款）渐近的$n,p\to\infty$与$\log p=o(n)$。
2015-04-01 math.ST stat.TH
Optimal Grouping for Group Minimax Hypothesis Testing
贝叶斯假设检验和极大极小假设检验代表了检测的极端情况，其中假设的先验概率要么完全精确已知，要么完全未知。组极大极小，也被称为伽玛极大极小，是贝叶斯和极大极小假设检验之间的一个强大的中介，它允许通过使用先验集合的信息来粗略或部分预先了解假设先验。现有的工作组极大极小，但是，不考虑如何定义的集合或组的先验的问题;它是假设，组给定的。在这项工作中，我们提出了一种新的中间检测方案，制定通过量化的先验概率，最佳地确定组和组内的代表先验的空间。我们表明，从量化的角度来看，组极大极小值相当于确定质心与极大极小贝叶斯风险误差发散失真标准：适当的布雷格曼分歧这项任务。此外，先验概率空间的最优划分是Bregman沃罗诺伊图。总之，最佳的分组和代表点是一个ε-网相对于贝叶斯风险误差发散，并允许率失真型渐近分析的检测性能与组的数量。检测被加性高斯白噪声破坏的信号和区分指数分布信号的例子。
2013-07-24 cs.IT math.IT math.ST
Wavelet regression and additive models for irregularly spaced data
University of Washington（华盛顿大学）
提出了一种基于小波基函数的非参数回归新方法。我们的提案$\texttt{waveMesh}$可应用于非等间距数据，其样本量不一定是2的幂。我们开发了一个有效的近似梯度下降算法计算的估计，并建立自适应极小极大收敛速度。我们的方法的主要吸引力是，它自然地扩展到潜在的大量协变量的加性和稀疏加性模型。证明了稀疏可加模型在弱相容条件下的极小极大最优收敛速度。当我们有少量协变量时，相容性条件成立。此外，我们建立收敛速度时，条件不满足。我们补充我们的理论结果与实证研究比较$\texttt{waveMesh}$现有的方法。
2019-03-11 cs.LG stat.ML
Multivariate density estimation from privatised data: universal consistency and minimax rates
我们重新审视经典的非参数密度估计问题，但施加局部差分隐私约束。在这样的约束下，原始的多变量数据$X_1,\ldots,X_n \in \mathbb{R}^d$不能被直接观察到，并且所有的估计量都是合适的隐私机制的随机输出的函数。统计学家是自由选择的形式的隐私机制，在这项工作中，我们建议添加拉普拉斯分布噪声的离散化的矢量$X_i$的位置。基于这些随机化数据，我们设计了一种新的估计的密度函数，这可以被看作是一个私有化的版本，研究直方图密度估计。我们的理论结果包括泛逐点相容性和强泛$L_1$ -相容性。此外，还得到了Lipschitz函数类上的一个收敛速度，并给出了一个匹配的minimax下界.我们通过一个小的模拟研究说明了数据效用和隐私之间的权衡。
2022-11-12 math.ST stat.ME stat.TH
Minimax properties of Fréchet means of discretely sampled curves
我们研究的问题估计的平均模式从一组相似的曲线在设置中的数据的变化是由于随机的几何变形和加性噪声。我们提出了一个估计的基础上的概念，Frechet平均是一个推广的标准概念，平均到非欧几里得空间。我们推导出这个估计问题的最小最大速率，我们表明，我们的估计达到这个最佳速率下的渐近曲线的数量和采样点的数量都趋于无穷大。
2013-06-11 math.ST stat.TH
Universal Consistency of Wide and Deep ReLU Neural Networks and Minimax Optimal Convergence Rates for Kolmogorov-Donoho Optimal Function Classes
本文证明了宽深ReLU神经网络分类器的普适一致性，给出其达到极小极大最优收敛速率的概率测度充分条件，框架涵盖更一般场景，且logistic损失下的分类器呈现良性过拟合行为。
2024-01-30 cs.LG stat.ML
Universal consistency and minimax rates for online Mondrian Forests
我们建立了Mondrian森林算法的一致性，Mondrian森林算法是一种可以在线实现的随机分类算法。首先，我们修改了原来的蒙德里安森林算法，认为一个固定的生命周期参数。事实上，这个参数是固定的这一事实阻碍了原始程序的统计一致性。我们的修改后的蒙德里安森林算法增长的树木增加生命周期参数$λ_n$，并使用替代更新规则，允许工作也在网上时尚。其次，我们提供了一个理论分析，建立简单的条件一致性。我们的理论分析还表现出一个令人惊讶的事实：我们的算法实现了极大极小率（最优率）的Lipschitz回归函数的估计，这是一个强大的扩展以前的结果到任意维度。
2017-11-08 stat.ML
Minimax Optimal Rates of Estimation in Functional ANOVA Models with Derivatives
当数据来自一阶偏导数时，我们建立了函数方差分析模型中非参数估计的极小极大最优收敛速度。我们的研究结果表明，偏导数可以提高收敛速度的函数估计与确定性或随机设计。特别是，对于完全$d$ -相互作用模型，$p$协变量具有一阶偏导数的最佳速率与不具有偏导数的$(d-p)$ -相互作用模型的最佳速率相同。对于加性模型，使用所有一阶偏导数的速率是根- $n$，以实现“参数速率”。我们还研究了当导数数据可用时，一阶偏导数估计的极小极大最优速率。这些速率与估计一元函数的一阶导数的最佳速率一致。
2017-09-08 math.ST stat.TH
Minimax rates of entropy estimation on large alphabets via best polynomial approximation
考虑从$n$独立样本估计$k$元素上分布的香农熵的问题。我们表明，极小极大均方误差是在通用乘法常数因子的$$\Big(\frac{k }{n \log k}\Big)^2 + \frac{\log^2 k}{n}$$，如果$n$超过一个常数因子的$\frac{k}{\log k}$，否则不存在一致的估计。这完善了Valiant-Valiant \cite{VV11}的最新结果，即一致熵估计的最小样本量根据$Θ(\frac{k}{\log k})$进行缩放。最佳多项式逼近的装置在最佳估计量的构造中起着关键作用，并且通过对偶性参数，极大极小下界。
2016-02-18 cs.IT math.IT math.ST
Minimax rates of convergence for Wasserstein deconvolution with supersmooth errors in any dimension
本文的主题是估计的概率测度${\mathbb R}^d$从观测数据与一个加性噪声下，Wasserstein度量的顺序$p$（与$p\geq 1$）。我们假设误差的分布是已知的，并且属于一类超光滑分布，并且我们给出了$p$阶Wasserstein度量的最优收敛速度。特别是，我们展示了如何使用现有的下限的累积分布函数的估计在维度1找到下界的Wasserstein反卷积在任何维度。
2013-07-18 math.ST stat.TH
Is speckle noise more challenging to mitigate than additive noise?
本文首次从理论上研究同时存在散斑和加性噪声时的去散斑问题，给出估计β-Hölder连续函数的极小极大风险速率为(max(1,σ_n⁴)/n)^{2β/(2β+1)}，并与纯加性噪声情形进行比较分析。
2025-05-08 cs.IT eess.SP math.IT
Computational barriers in minimax submatrix detection
本文研究了受加性高斯噪声污染的大矩阵中提高均值的小子阵的Minimax检测问题。为了从复杂性理论的角度研究统计性能和计算成本之间的权衡，我们考虑了一系列离散模型，这些模型渐近等价于高斯模型。假设当集团大小的阶数小于图大小的平方根时，种植集团检测问题不能在随机多项式时间内解决，则建立以下相变现象：当大矩阵$p\to\infty$的大小，如果子矩阵大小$k=Θ(p^α)$对于任何$α\in(0,{2}/{3})$，计算复杂性约束可能会导致统计性能的严重损失，因为任何随机多项式时间测试都是$p$中多项式因子的极小极大次优;如果对任何$α\in({2}/{3},1)$都有$k=Θ(p^α)$，则在线性时间内，在常数因子内可获得极小极大最优检测。以Schatten范数损失为例，证明了获得极小极大估计率的难度主要取决于损失函数。支持恢复的硬度的影响也得到。
2015-06-03 cs.IT math.IT math.ST
Sparse additive regression on a regular lattice
我们考虑稀疏加性回归模型中的估计，设计点在正则格上。我们建立了Sobolev类上的Minimax收敛速度，并提出了一个基于Fourier的速率最优估计器，该估计器自适应于响应函数的未知稀疏性和光滑性。该估计是贝叶斯形式主义内得出的，但可以自然地被视为惩罚的最大似然估计的复杂性惩罚的非零单变量的响应的添加剂组件的数量和非零系数的数量，他们的傅里叶展开。我们比较它与现有的几个同行，并进行了简短的模拟研究，以证明其性能。
2014-04-01 math.ST stat.TH
Minimax rates of estimation for high-dimensional linear regression over $\ell_q$-balls
考虑标准线性回归模型$\y = \Xmat \betastar + w$，其中$\y \in \real^\numobs$是观测向量，$\Xmat \in \real^{\numobs \times \pdim}$是设计矩阵，$\betastar \in \real^\pdim$是未知回归向量，而$w \sim \mathcal{N}(0, σ^2 I)$是加性高斯噪声。本文研究了在$\ell_\rpar$ -损失和$\ell_2$ -预测损失情况下估计$\betastar$的极小极大收敛速度，假设$\betastar$是一个$\ell_{\qpar}$ -球$\Ballq(\myrad)$，对于某些$\qpar \in [0,1]$ .我们表明，在适当的规则性条件下的设计矩阵$\Xmat$，在$\ell_2$ -损失和$\ell_2$ -预测损失规模为$\Rq \big(\frac{\log \pdim}{n}\big)^{1-\frac{\qpar}{2}}$的极小极大误差。此外，我们提供了最小最大风险的$\ell_{\rpar}$ -规范的下限，所有$\rpar \in [1, +\infty], \rpar \neq \qpar$。我们的证明的下界是信息理论的性质，基于Fano的不等式和结果的度量熵的球$\Ballq(\myrad)$，而我们的证明的上界是直接的和建设性的，…
2009-10-11 cs.IT math.IT math.ST
Adaptive minimax testing for circular convolution
在非渐近框架下，考虑了受可加性测量误差污染的圆形随机变量的观测值的极大极小最优拟合优度检验问题。我们提出了直接和间接的测试程序，使用投影方法。最优检验的结构取决于模型的正则性和不适定性参数，这些参数在实际中是未知的。因此，自适应测试策略，同时进行了广泛的规律性和不适定性类的最佳。考虑到多个测试程序，我们得到自适应，即无干扰的程序，并分析其性能。与非自适应检验相比，它们的检验半径面临对数因子的恶化。我们表明，测试的均匀性，这种损失是不可避免的，通过提供一个下界。考虑索伯列夫空间和普通或超光滑误差密度的结果示出。
2020-07-13 math.ST stat.TH
Generalized Sparse Additive Models
我们提出了一个统一的框架来估计和分析高维广义可加模型。该框架定义了一大类惩罚回归估计，包括许多现有的方法。这一类的一个有效的计算算法，很容易扩展到数千个观察和功能。在弱相容条件下证明了这类问题的极大极小最优收敛界。此外，我们的收敛速度时，这种兼容性条件不满足的特点。最后，我们还表明，在我们的框架中，结构和稀疏性惩罚的最佳惩罚参数是相互关联的，允许交叉验证仅在单个调整参数上进行。我们补充我们的理论结果与实证研究比较，在这个框架内的一些现有的方法。
2019-03-11 math.ST stat.ME stat.ML
Oracle inequalities and minimax rates for non-local means and related adaptive kernel-based methods
University of California, San Diego（加州大学圣地亚哥分校）；Duke University（杜克大学）；Institute for Mathematics and its Applications（数学及其应用研究所）
本文描述了一种新的理论表征的非局部均值（NLM）的噪声去除性能。NLM已经在各种实证研究中证明是有效的，但是关于它相对于基于小波的经典方法如何执行或者各种参数（例如，补丁大小）。对于卡通图像和图像可能包含薄的功能和规则的纹理，NLM的错误衰减率推导和比较的线性滤波，预言估计，可变带宽核方法，雅罗斯拉夫斯基的过滤器和小波阈值估计。全局和局部搜索匹配补丁之间的权衡检查，并与本地多项式回归版本的NLM的偏差减少进行了分析。通过对加性高斯白噪声污染的二维图像的仿真，验证了理论结果。
2012-04-26 cs.CV cs.IT math.IT
Linear Models are Most Favorable among Generalized Linear Models
建立了一类广义线性模型的$L_2$极大极小风险的一个非渐近下界.它进一步表明，极小极大风险的典型线性模型匹配这个下界的一个普遍的常数。因此，典型线性模型可以被认为是最有利的一类考虑的广义线性模型（在极大极小风险方面）。该证明利用了Aras等人（2019）建立的对数凹先验的信息论贝叶斯Cramér-Rao界。
2020-06-09 cs.IT math.IT math.ST
Nonparametric Regression with Adaptive Truncation via a Convex Hierarchical Penalty
我们考虑的问题，非参数回归的潜在大量的协变量。我们提出了一个凸的，惩罚的估计框架，特别适合于高维稀疏加性模型。该方法结合了有限基表示和非参数估计的平滑惩罚的吸引人的功能。特别地，在加性模型的情况下，有限基表示为拟合函数提供了一种简约的表示，但当分量函数具有不同的复杂性水平时，有限基表示是不适应的。另一方面，对分量函数的平滑样条类型惩罚是自适应的，但不提供估计函数的简约表示。该方法同时实现了简约性和自适应性在一个计算效率高的框架。我们通过对真实和模拟数据集的实证研究证明了这些属性。我们表明，我们的估计收敛在一个层次类内的函数的极大极小率。我们进一步建立了一个大类的稀疏加性模型的极大极小率。所提出的方法是使用一个有效的算法，规模类似于套索的协变量和样本大小的数量来实现。
2019-06-18 math.ST stat.ME stat.ML
Minimax testing and quadratic functional estimation for circular convolution
在循环卷积模型中，我们的目标是推断的圆形随机变量的密度，使用的观测污染的附加测量误差。我们强调的两个问题的相互作用：最优测试和二次函数估计。在一般的正则性假设下，我们确定了二次泛函的极大极小风险估计的一个上界。上界由两个术语组成，一个模仿经典的偏差-方差权衡，另一个导致二次函数估计中的典型肘效应。利用二次泛函的极小极大最优估计量作为检验统计量，得到了非参数方案非渐近极小极大检验半径的一个上界。有趣的是，在估计情况下引起肘效应的项在测试半径内消失。我们提供了一个匹配的下界的测试问题。通过证明检验问题的任何下界也产生二次函数估计问题的下界，我们得到了估计风险的下界。最后，我们证明了一个匹配的下界的估计问题中的肘效应的原因。考虑索伯列夫空间和普通或超光滑误差密度的结果示出。
2020-04-27 math.ST stat.TH
Noisy recovery from random linear observations: Sharp minimax rates under elliptical constraints
约束参数空间的估计问题出现在各种设置。在许多这些问题中，统计学家可用的观察结果可以被建模为随机线性算子的图像的噪声实现;一个重要的特殊情况是随机设计回归。我们推导出任意紧椭圆参数集的估计率，并演示了它们如何依赖于随机线性算子的分布。我们的主要结果是一个功能，其特点的最小最大估计率的噪声水平，法律的随机算子，和椭圆规范，定义的误差度量和参数空间。这个非渐近结果是尖锐的，直到一个显式的普适常数，它成为渐近精确的半径的参数空间允许增长。我们通过将其应用于参数和非参数回归问题，包括涉及分布偏移或相关协变量的问题，证明了结果的一般性。
2023-03-22 cs.IT math.IT math.ST
Estimation of Monge Matrices
Massachusetts Institute of Technology（麻省理工学院）；Yale University（耶鲁大学）
蒙奇矩阵和它们的置换形式称为前蒙奇矩阵，自然地出现在科学和工程的许多领域。虽然这些矩阵的丰富结构特性长期以来一直被用于算法目的，但对它们对统计估计的影响知之甚少。在这项工作中，我们建议将这种结构视为一个形状约束和研究的问题，估计蒙氏矩阵加性随机噪声。更具体地说，我们建立了极大极小估计率的Monge和pre-Monge矩阵。在前蒙格矩阵的情况下，最小最大最优最小二乘估计是不能有效地计算，我们提出了两个有效的估计，并建立其收敛速度。我们的理论研究结果得到了数值实验的支持。
2019-04-05 cs.IT cs.LG math.IT
Estimating a concave distribution function from data corrupted with additive noise
我们考虑两个非参数估计的凹分布函数的基础上损坏的数据与加性噪声产生的有界递减密度$(0,\infty)$的程序。对于最大似然（ML）估计和最小二乘（LS）估计，我们状态的定性性质，证明了一致性，并提出了一个计算算法。对于LS估计及其导数，我们也得到了点态渐近分布。此外，率$n^{-2/5}$实现的LS估计被证明是极小极大估计的分布函数在一个不动点。
2009-04-01 math.ST stat.TH
Minimax Analysis for Inverse Risk in Nonparametric Planer Invertible Regression
本文研究二维平面上可逆双Lipschitz函数逆估计的最小极大风险，提出水平集表示法并构造渐近可逆估计器，证明其速率与非可逆情形一致，表明可逆约束不增加估计复杂度。
2023-12-25 math.ST stat.ML stat.TH
The geometry of hypothesis testing over convex cones: Generalized likelihood tests and minimax radii
本文考虑高斯序列模型中的一个复合测试问题，其中零和替代由一对闭的凸锥指定。这种锥检验问题出现在各种应用中，包括治疗效果的检测，计量经济学中的趋势检测，雷达处理中的信号检测，以及非参数统计中的形状约束推断。我们提供了一个尖锐的表征GLRT测试半径到一个普遍的乘法常数的几何结构的基础凸锥。当应用到具体的例子，这个结果揭示了一些有趣的现象，不会出现在类似的问题，估计凸约束。特别地，与估计误差相比，测试误差不再纯粹取决于通过基于体积的测量（诸如度量熵或高斯复杂度）的问题复杂度，圆锥的其他几何性质也起重要作用。为了解决问题的最优性，我们证明了信息论的下界的极小极大测试半径再次几何量。我们的一般定理说明的例子，包括单调和正交锥的情况下，并涉及一些结果的独立利益。
2018-03-26 cs.IT math.IT math.ST
Bias-Corrected Subspace Intersection: Minimax-Optimal Shared Subspace Estimation in Multi-View Data
University of Chicago（芝加哥大学）；the Wharton School, University of Pennsylvania（宾夕法尼亚大学沃顿商学院）
针对多视图数据共享子空间估计，提出偏差校正子空间交集（BCSI）方法，消除AJIVE的二阶偏差，实现极小极大最优，并给出有限样本风险界与数值验证。
2026-09-09 cs.IT math.IT math.ST
Optimal Prediction in an Additive Functional Model
The functional generalized additive model (FGAM) provides a more flexible nonlinear functional regression model than the well-studied functional linear regression model. This paper restricts attention to the FGAM with identity link and additive errors, which we will call the additive functional model, a generalization of the functional linear model . This paper studies the minimax rate of convergence of predictions from the additive functional model in the framework of reproducing kernel Hilbert space . It is shown that the optimal rate is determined by the decay rate of the eigenvalues of a s…
2013-01-21 math.ST stat.ME stat.TH
Optimal estimation of the rough Hurst parameter in additive noise
我们估计Hurst参数$H \in (0,1)$的分数布朗运动从离散的噪声数据，观察沿高频采样计划。当噪声的强度$τ_n$小于$n^{-H}$时，我们建立了具有最佳速率$n^{-1/2}$的LAN特性。否则，我们建立极小收敛速率是$(n/τ_n^2)^{-1/(4H+2)}$，即使当$τ_n$是1阶。我们的最佳程序的建设依赖于一个惠特尔型建设可能预先平均，连同技术开发的Chuanasawa等人。arXiv：1905.04852，2019]。在所有情况下，我们建立了一个中心极限定理显式方差，扩展了经典的结果Gloter和霍夫曼[估计的赫斯特参数从离散噪声数据。统计年鉴，35（5）：1947-1974，2007]。
2022-05-25 math.ST stat.TH
Strong Privacy and Utility Guarantee: Over-the-Air Statistical Estimation
我们认为，从分布式数据，用户通信到中央处理器的高斯多址信道（MAC）的统计估计的隐私问题。为了避免在数字传输方案中不可避免地牺牲数据效用来保护隐私，我们设计了一种利用MAC信道的可加性的空中估计策略。以信道输出与用户数据之间的互信息为度量，得到了该方案的隐私界，并验证了该方案在不产生较大估计误差的情况下能够保证较强的隐私性。此外，为了增加我们的方法的鲁棒性，我们调整我们的主要计划，通过添加高斯噪声本地和条件下的互信息约束下，得到相应的最小最大均方误差。比较我们的方法的数字的性能，我们表明，极大极小误差减少了$O(\frac{1}{n})$一般，这表明在空中估计的优势，为保护数据的隐私和效用。
2020-11-02 cs.IT math.IT math.ST
Statistical Inference for Persistence Diagrams via Landmark Embeddings: Minimax Theory and Finite Approximation
针对持久图总体推断，提出基于加性界标嵌入（PLACE/PALACE）的框架，通过下失真证书和有限样本理论实现均值分离下界与置信推断，并经模拟和脑影像数据验证。
2026-09-09 cs.CG math.ST stat.TH
Data-driven aggregation in circular deconvolution
在循环反卷积模型中，我们考虑循环随机变量的完全数据驱动的密度估计，其中加性独立测量误差的密度未知。我们手头有两个独立的iid样本，一个是受污染的感兴趣变量，另一个是加性噪声。我们展示了最优性，在一个预言和极大极小的意义上，一个完全数据驱动的加权和的正交系列密度估计。被认为是两种形状的随机权重，一个由贝叶斯方法和其他由一个众所周知的模型选择方法的动机。我们推导出完全数据驱动估计的Sobolev类椭球上的二次风险和最大二次风险的非渐近上界。我们计算利率，可以在不同的配置中获得的平滑度的密度的兴趣和错误密度。率（严格）匹配的最佳预言或极大极小率为各种各样的情况下，否则功能最多恶化的对数因子。我们通过仿真研究说明了完全数据驱动的正交级数估计的加权和的性能。
2021-02-01 math.ST stat.TH
Minimax-optimal estimation for sparse multi-reference alignment with collision-free signals
National University of Singapore（新加坡国立大学）；Indian Statistical Institute（印度统计研究所）
针对无碰撞稀疏松度信号的多参考对齐问题，证明极小极大最优估计速率为σ^2/√n，确立受限最大似然估计的统计最优性，并给出其偏差的集中不等式。
2023-12-13 cs.LG math.PR math.ST
Adaptive minimax multivariate \(L^1\)-deconvolution: harmonic-mean rates under noise filtering, and a \(1\)-Wasserstein equivalence
该研究针对含各向异性噪声的多元卷积模型，扩展了L¹距离估计器，建立了匹配的极小极大速率，提出了自适应带宽选择方法，还揭示了L¹距离与1-瓦瑟斯坦距离的速率关联。
2026-10-09 math.ST stat.TH
Nonparametric adaptive time-dependent multivariate function estimation
本文研究了在小强度加性圆柱高斯白噪声存在下观测到的不定常多元函数的非参数估计问题。我们推导出极小极大下界的$L^2$ -风险在建议的时空模型的强度为零，当潜在的未知响应函数被假定为属于一个球的适当构造的非齐次不定常的多变量函数，由实际应用的动机。此外，我们提出了非自适应的线性和自适应的非线性小波估计是渐近最优的（在极大极小的意义上）在广泛的非齐次不定常多元函数的球。建议的自适应非线性小波估计的有用性说明与模拟和真实数据的例子的帮助。
2012-10-31 math.ST stat.TH
Minimax Synthesis of Network Mechanisms
Yale University（耶鲁大学）；University of Pennsylvania（宾夕法尼亚大学）
针对单一观测网络反映多种机制的问题，提出从图中同时估计各机制贡献及其组合方式的方法，通过偏差校正实现有效推断，并给出组合规则可识别性的稠密阈值。
2026-06-16 math.ST stat.ME stat.TH
Minimax Signal Detection in Sparse Additive Models
本文研究稀疏可加模型中的信号检测问题，建立一般再生核希尔伯特空间下的极小极大分离速率与自适应检验速率，揭示稀疏性与函数空间选择的交互作用，并纠正索博列夫空间情形下的已有结论。
2024-10-02 math.ST stat.ME stat.ML
Additive Models with Trend Filtering
我们研究用趋势滤波建立的加性模型，即，加性模型，其分量各自通过其$k$阶（离散）导数的（离散）总变差正则化，对于所选整数$k \geq 0$。这导致$k$阶分段多项式分量（例如，$k=0$给出分段常数分量，$k=1$给出分段线性，$k=2$给出分段二次，等等）。类似于其在单变量情况下的优势，加性趋势滤波具有良好的理论和计算特性，这在很大程度上要归功于它使用的（离散）总变差正则化的局部性质。在理论方面，我们得到快速的错误率加性趋势滤波估计，并显示这些利率是最小最大最优的基础功能是加性的，并有组件功能的衍生物的有界变化。我们还表明，这些利率是无法实现的添加剂平滑样条（和添加剂模型从线性平滑，一般）。在计算方面，根据加性模型中的标准，后拟合是一种有吸引力的优化方法，但它对加性趋势过滤特别有吸引力，因为我们可以利用一些高效的单变量趋势过滤求解器。更进一步，我们描述了一个新的后拟合算法，其迭代可以并行运行，这（据我们所知）是同类算法中的第一个。最后，我们提出了实验来检验加性趋势滤波的经验性能。
2018-11-22 stat.ML
Online Quantile Regression for Nonparametric Additive Models
Department of Statistics and Data Science, Southwestern University of Finance and Economics（西南财经大学统计与数据科学系）
本文提出了一种投影函数梯度下降算法（P-FGD）用于在线设置下的非参数加性分位数回归模型训练，通过扩展函数随机梯度下降框架到pinball损失，实现了更高效的计算复杂度和预测能力，证明了其在minimax最优一致性率上的优越性。
2026-04-10 cs.LG math.ST stat.ML
Adaptive wavelet estimation of the diffusion coefficient under additive error measurements
研究了当观测值被噪声模糊时，离散数据中扩散系数的非参数估计问题。在过去的10年里，这些问题已经在几个应用领域，特别是在高频金融数据建模中得到了发展，但主要是从参数和半参数的角度来看。本文讨论了在一个相对一般的设置（可能是随机的）扩散系数的路径的非参数估计。通过开发预平均技术结合小波阈值，我们构建自适应估计，实现了一个接近最佳的速度在一个大规模的Besov型的平滑约束。由于扩散系数通常是真正随机的，我们提出了一个新的标准来评估估计的质量，我们检索通常的极大极小理论时，这种方法是限制在一个确定性的扩散系数。特别地，我们利用Reiss [33]关于具有加性噪声的高斯扩散与高斯白噪声模型之间的渐近等价性的最新结果，以证明尖锐的下界。
2011-12-29 math.ST stat.TH
Exact oracle inequality for a sharp adaptive kernel density estimator
在i.i.d.上的一维密度估计中。观察，我们建议一个自适应的交叉验证技术的内核估计的选择。该估计在光滑指数大于1/2的索伯列夫空间的整个尺度上都是渐近MISE有效的.中心浓度不等式的证明避免了“链接”，并依赖于所涉及的经验过程的加法分解。
2005-04-19 math.ST stat.TH
Quantile Additive Trend Filtering
本文研究加性模型中分位数趋势滤波的风险界，给出固定与增长维度下的收敛速率，并提出基于逐维度反向拟合的实用算法，实验验证其在重尾噪声下的优势。
2025-05-16 math.ST stat.TH
Nonparametric intensity estimation from noisy observations of a Poisson process under unknown error distribution
本文研究了圆形模型中Poisson点过程强度函数的间接观测非参数估计$N_1,\ldots,N_n$。这些观察出现从隐藏的点过程实现与目标强度通过污染与添加剂的错误。在误差分布只能从一个额外的样本$Y_1,\ldots,Y_m$估计的情况下，我们推导出极小极大收敛率相对于样本量$n$和$m$在抽象光滑条件下，并提出了一个正交系列估计，达到最佳的收敛速率。估计器的性能取决于维度参数的正确规范，其最佳选择取决于强度和误差密度的平滑特性。我们提出了一个基于模型选择的数据驱动的维度参数的选择，并表明自适应估计达到最小最大最优速率。
2019-02-17 math.ST stat.TH
Gradient-free stochastic optimization for additive models
University of Oxford（牛津大学）；CREST, ENSAE, IP Paris（CREST、ENSAE、IP巴黎）
针对满足Polyak-Łojasiewicz条件或强凸性的加性结构Hölder光滑目标函数，提出随机梯度估计器结合梯度下降实现极小极大最优误差，发现无梯度优化中加性模型无法带来显著精度提升。
2025-09-01 cs.LG stat.ML
Fixed-Gaussian Spectral Algorithms: Minimax Optimal Rates for Misspecified Learning and Transfer
Department of Statistics, The Pennsylvania State University（统计学系，宾夕法尼亚州立大学）
研究在非参数回归中为固定带宽高斯核谱算法建立极小极大最优收敛速率，以及用于概念转移下的迁移学习。通过证明高斯核的无限光滑性使算法达最优速率，推导了学习框架的自适应收敛速率，揭示了相关因素对泛化误差的影响。
2026-07-09 cs.LG stat.ML
Adaptive Minimax Estimation over Sparse $\ell_q$-Hulls
给定未知真回归函数的$M_n$初始估计的字典，我们的目标是构造线性聚合估计，其目标是在线性系数的稀疏$q$范数（$0 \leq q \leq 1$）约束下的所有线性组合中的最佳性能。除了确定这些$\ell_q$聚合问题的最佳聚合速率，我们的多方向（或通用）聚合策略，通过模型混合或模型选择，同时实现了最佳速率在整个范围内的$0\leq q \leq 1$一般$M_n$和上限$t_n$的$q$ -范数。随机和固定的设计，已知或未知的误差方差，进行处理，和$\ell_q$ -聚合在这项工作中研究涵盖了以前在文献中研究的聚合问题的主要类型。还提供了在$\ell_q$约束真系数（$0 \leq q \leq 1$）下的最小最大速率自适应回归的结果。我们的研究结果表明，$\ell_q$ -聚集（$0 \leq q \leq 1$）的极大极小率基本上是由一个有效的模型大小，这是一个稀疏指数，依赖于$q$，$t_n$，$M_n$，和样本大小$n$在一个易于解释的方式基于一个经典的模型选择理论，处理大量的模型。此外，在固定设计的情况下，模型选择方法被认为是产生最佳的收敛速度，不仅在期望值，但也与指数衰减的偏差概率。相比之下，模型混合方法可以在预言不等式中的目标风险前面有一个领先常数，而不能提供偏差概率的最优性。
2012-01-13 math.ST stat.TH
Nonparametric regression with the scale depending on auxiliary variable
研究了在均数积分平方误差（MISE）准则下异方差非参数多元回归中单变量分量的估计问题。目的是了解尺度函数应如何用于单变量分量的估计。它是已知的，尺度函数不影响MISE收敛的速度，并作为一个结果尖锐的常数进行了探索。本文首先发展了一个关键模型$Y=f(X)+σ(X,\mathbf{Z})\varepsilon$的sharp-minimax理论，其中$\varepsilon$是标准正态的，并且独立于预测变量X和辅助向量协变量$\mathbf{Z}$。证明了如果尺度$σ(x,\mathbf{z})$依赖于辅助变量，则利用尺度（或其估计）的一个特殊估计量是渐近尖锐的minimax，并且对f（x）的未知光滑性是自适应的.这是一个有趣的结论，因为如果尺度不依赖于辅助协变量$\mathbf{Z}$，则忽略异方差可以产生尖锐的极小极大估计。枢轴模型作为一般加法模型$Y=f(X)+g(\mathbf{Z})+σ(X,\mathbf{Z})\varepsilon$的自然基准，其中$\varepsilon$可以依赖于$(X,\mathbf{Z})$并且只有有限的四阶矩。它表明，对于这个模型的数据驱动的估计可以执行以及基准。此外，估计，建议连续响应，也可以用于离散响应的情况下。伯努利和泊松回归，这是固有的异方差，是特别考虑的例子，其中尖锐的极大极小下界，以及获得。数值研究表明，渐近理论揭示了小样本。
2013-08-13 math.ST stat.TH
Linear Bandits on Ellipsoids: Minimax Optimal Algorithms
Laboratoire des signaux et systèmes（信号与系统实验室）；Univ. Paris-Saclay（巴黎-萨克雷大学）；CNRS（法国国家科学研究中心）；CentraleSupélec（中央高等电力学院）
针对动作集为椭球的线性赌博机，提出首个极小极大最优算法，通过估计参数范数并采用探索-提交策略，达到信息论下界，且计算高效，并具备局部渐近最优性。
2025-02-24 cs.LG stat.ML
Instance-Optimality for Private KL Distribution Estimation
National University of Singapore（新加坡国立大学）；Apple（苹果公司）
研究离散分布的私有 KL 散度估计问题，提出基于 Good-Turing 估计器变体的实例最优算法，并证明其上下界，克服了极小极大最优方法在非最坏实例上性能不佳的缺陷。
2025-05-29 cs.LG stat.ML
