Minimax rates of $\ell_p$-losses for high-dimensional linear regression models with additive measurement errors over $\ell_q$-balls
本文研究了在$\ell_p\ (1\leq p<\infty)$ -损失下具有可加误差的高维线性回归的极小极大速率，其中回归参数具有弱稀疏性。我们的下限和上界同意常数因子，这意味着所提出的估计是最小最大最优的。
2019-11-19 math.ST stat.TH
Minimax testing of a composite null hypothesis defined via a quadratic functional in the model of regression
本文研究了非参数多元回归模型下复合原假设的检验问题。对于给定的二次函数$Q$，原假设声明回归函数$f$满足约束$Q[f]=0$，而替代假设对应于$Q[f]$远离零的函数。一方面，我们提供了极大极小化率的测试和确切的分离常数，以及尖锐的最佳测试程序，对角和非负二次泛函。我们考虑光滑类的椭球形和检查，我们的条件得到满足，在特定情况下，对应于各向异性的Sobolev类椭球。在这种情况下，我们提出了一个封闭的形式的极大极小速率和分离常数。另一方面，二次泛函的极小极大率既不是正的也不是负的，使得出现两种不同的状态：“正则”和“非正则”。在“规则”情况下，极大极小化速率等于$n^{-1/4}$，而在“不规则”情况下，速率取决于平滑类，并且比“规则”情况下慢。我们将其应用到测试在嘈杂的环境中观察到的两个功能的规范的平等的问题。
2013-01-04 math.ST stat.TH
Minimax Semiparametric Learning With Approximate Sparsity
该研究针对高维下精确稀疏假设适用范围有限的问题，形式化近似稀疏性概念，推导其下回归斜率与平均导数的极小极大速率，提出达最优速率的估计器，还发现有序与无序非参数回归的最优性边界存在差异。
2025-07-31 econ.EM math.ST stat.ML
Adaptive estimation of the sparsity in the Gaussian vector model
考虑均值为θ的高斯向量模型。我们研究了估计数量的孪生问题|θ|_0的非零分量，并检验|θ|_0小于某个值。为了检验，我们建立了该模型的极大极小分离距离，并引入了极大极小自适应检验。未知方差的情况下的扩展进行了讨论。重写对|θ|_0作为所有假设的多重检验问题{|θ|_0 <= q}，我们都得到了一个新的方法来评估稀疏估计的最优性，我们展示了这样一个最优的过程。这种通用方法为估计各种统计模型中信号的复杂性提供了路线图。
2017-03-01 math.ST stat.TH
Estimation of matrices with row sparsity
越来越多的应用涉及从噪声观测中恢复稀疏矩阵。在本文中，我们考虑的设置，其中每一行的未知矩阵是稀疏的。我们建立极小极大最优收敛速度估计矩阵行稀疏。本文的一个主要重点是推导的下界。
2015-09-01 math.ST stat.TH
Minimax theory of estimation of linear functionals of the deconvolution density with or without sparsity
本文考虑了在独立同分布的基础上估计未知反卷积密度$f$的线性泛函$Φ=\int_{-\infty}^\infty φ(x) f(x)dx$的问题。其中$Y_i = θ_i + ξ_i$具有已知的pdf $g$，并且$f$是$θ_i$的pdf。虽然这个问题的各个方面和特殊情况已经处理了一些作者，仍然有许多差距。特别是，对于任意函数$φ$，$Φ$的估计量没有极大极小下界。一般的风险上限只涵盖PDMATHAMT的傅立叶变换存在的情况。此外，没有理论存在估计$Φ$时，观测向量是稀疏的。此外，到目前为止，估计的泛函$Φ_n = n^{-1} \sum_{i=1}^n φ(θ_i)$在间接观测的相关问题已被视为一个单独的问题，没有连接到$Φ$的估计。本文的目的是填补这一空白，并发展一般极小极大估计理论的$Φ$和$Φ_n$。我们提供了一个一般的方法来估计$Φ$（和$Φ_n$），并提供了上和最小最大的风险下限的情况下，功能$φ$是平方可积的。此外，我们将该理论扩展到$φ$的傅里叶变换不存在且$Φ$可以表示为$f$及其衍生物的傅里叶变换的线性泛函的情况。最后，我们推广我们的结果来处理的情况下，矢量$θ$是稀疏的。作为所提出的理论的直接应用，我们获得了多个新的结果，并自动恢复现有的各种问题，如估计的$(2M+1)$ -th绝对矩或广义矩的反卷积密度，估计的混合CDF或估计的混合PDF与经典和Berks…
2015-05-15 math.ST stat.TH
Minimax rates in variance and covariance changepoint testing
本文研究高维次高斯数据协方差矩阵变点检验的极小极大速率，证明单变量情形的精确速率为loglog(8n)，在算子范数下给出稀疏变化的下界并构造匹配的最优检验，同时提出计算可行且对噪声水平和稀疏性自适应的多元检验方法。
2025-02-10 math.ST stat.TH
Minimax rates in sparse, high-dimensional changepoint detection
我们研究了一个稀疏变化的检测在一个高维均值向量作为一个极大极小测试问题。我们的第一个主要贡献是得到确切的极小极大检验率在所有参数制度的$n$独立，$p$变量高斯观测。当稀疏度为$\sqrt{p \log \log (8n)}$阶时，该速率呈现相变，并且对样本量具有非常微妙的依赖性：在一定的稀疏度范围内，它涉及到~ $n$中的三重迭代对数因子。此外，在一个密集的渐近制度，我们确定了尖锐的领先常数，而在相应的稀疏渐近制度，这个常数被确定为在一个因素的$\sqrt{2}$。扩展，覆盖空间和时间的依赖性，主要是在密集的情况下，也提供。
2020-11-17 math.ST stat.ME stat.TH
Scaled minimax optimality in high-dimensional linear regression: A non-convex algorithmic regularization approach
经典的高维线性回归问题的快速收敛问题已得到广泛的研究。可以说，在实践中最快的程序之一是迭代硬控制（IHT）。然而，IHT强烈依赖于真实稀疏参数$s$的知识。本文提出了一种新的高维线性回归估计的快速算法。利用估计，支持恢复和优化之间的相互作用，我们实现了最佳的统计精度和快速收敛。我们的程序的主要优点是，它是完全自适应的，使其比最先进的IHT方法更实用。我们的程序达到最佳的统计精度比，例如，经典算法的套索。此外，我们建立了尖锐的最优结果的估计和支持恢复。因此，我们提出了一种新的迭代硬阈值算法的高维线性回归，是规模的最小最大最优（实现的预言，知道稀疏模式的估计误差，如果可能的话），快速和自适应。
2020-08-27 math.ST stat.TH
Optimal Sparsity Testing in Linear regression Model
研究了高维线性回归模型的稀疏性检验问题。问题是测试回归参数$θ^*$的非零分量（也称为稀疏度）的数量是否小于或等于$k_0$。我们查明了这个问题的最小最大分离距离，这相当于量化$k_1$稀疏向量$θ^*$有多远必须从一组$k_0$稀疏向量，以便测试能够拒绝原假设具有高概率。考虑了两种情况。在独立情景中，协变量为i.i.d.。正态分布，噪声水平已知。在一般情况下，协变量的协方差阵和噪声水平都是未知的。虽然在这两种情况下的极大极小分离距离不同，但它们实际上都取决于$k_0$和$k_1$，说明对于这种复合测试问题，空值和备择假设的大小都起着关键作用。
2020-04-23 math.ST stat.TH
Minimax sparse principal subspace estimation in high dimensions
研究了高维稀疏主成分分析，其中变量数$p$可以远大于观测数$n$，并分析了总体协方差阵的主特征向量所张成的子空间的估计问题.我们引入了$\ell_q$子空间稀疏性的两个互补概念：行稀疏性和列稀疏性。证明了$0\leq q\leq1$的极大极小子空间估计误差的非渐近上下上界。该界对于行稀疏子空间是最优的，对于列稀疏子空间是接近最优的，它们适用于一般类的协方差阵，并且它们表明$\ell_q$约束估计可以在没有限制性尖峰协方差条件的情况下获得最优的Minimax率。有趣的是，当有效噪声方差被适当定义时，速率的形式与稀疏回归的已知结果相匹配。我们的证明采用了一种新的变分$\sinΘ$定理，可能是有用的，在其他正则化谱估计问题。
2014-01-03 math.ST stat.ML stat.TH
A minimax optimal approach to high-dimensional double sparse linear regression
针对高维双稀疏线性回归问题，提出动态更新阈值的IHT-style迭代硬阈值流程，证明其极小极大最优性，设计自适应方案应对未知稀疏度与噪声，实现更优估计与支撑集恢复效果。
2024-12-09 math.ST stat.TH
Sparse Minimax Optimality of Bayes Predictive Density Estimates from Clustered Discrete Priors
研究了高维高斯模型中位置参数具有精确稀疏约束的Kullback-Leibler损失下的预测密度估计问题。研究了基于乘积离散先验的Bayes预测密度估计的一阶渐近极小极大风险，其中非零坐标的比例随着维数的增加而收敛到零。离散先验的产品，聚集的单变量先验提供了一个易于处理的配置，分散未来的风险，并用于构建有效的预测密度估计。我们建立了贝叶斯预测密度估计从一个适当设计的聚类离散先验是渐近极小极大最优的。我们提出的先验的边缘有无限个大小相同的簇。簇内支持点是等概率的，并且簇随着它们远离原点而以几何衰减概率周期性地间隔开。簇的周期性取决于簇概率的衰减速率。在不同的稀疏性制度下，通过数值实验，我们比较了来自聚类先验的贝叶斯预测密度估计与各种竞争估计的最大风险，包括基于Johnstone（1994）和Mukherjee & Johnstone（2017）的几何衰减非聚类先验的估计，并获得了令人鼓舞的结果。
2019-05-23 math.ST stat.TH
Optimal Designs for Minimax-Criteria in Random Coefficient Regression Models
本文考虑随机系数回归模型中单个参数的极小极大最优设计。我们专注于最小最大准则，它最小化的“最坏情况”的基本标准相对于随机效应的协方差阵。我们讨论特定的模型：线性和二次回归，详细。
2018-11-08 math.ST stat.TH
Minimax Optimal Estimation in Partially Linear Additive Models under High Dimension
在高维稀疏向量和光滑函数分量的部分线性可加模型中，我们得到了参数和非参数分量的极大极小估计率。欧氏分量的极小极大下界是典型的稀疏估计率，它与非参数平滑指标无关。然而，极小极大下界为每个组件功能表现出的维数和稀疏性的参数组件和相关的非参数组件的平滑度之间的相互作用。事实上，当非参数分量的平滑度或参数分量的维数足够大时，平滑非参数估计的极大极小风险可以减慢到稀疏估计率。在上面的设置中，我们证明了惩罚最小二乘估计几乎可以达到极大极小下界。
2018-01-14 math.ST stat.TH
Nearly optimal minimax estimator for high-dimensional sparse linear regression
我们提出了一个很好的研究统计估计问题的估计：估计的线性回归模型与软稀疏约束（$\ell_q$约束与$0<q\leq1$）在高维设置。我们首先提出了一个家庭的估计，称为投影最近邻估计，并显示，通过使用凸几何的结果，这种估计是在一个对数因子的最佳任何设计矩阵。然后利用[SIAM J. COMPUT. 36（2007）1764-1776]，我们获得了用于计算任何这样的估计任务的极大极小风险的近似算法，并且还获得了用于$\ell_1$稀疏约束的重要情况的多项式时间近似最优估计器。尽管对这个问题进行了数十年的研究，但以前只知道特殊情况下的结果。当参数半径未知时，我们也将该方法推广到自适应的情况。
2013-11-08 math.ST stat.TH
Detection of sparse additive functions
研究了高斯白噪声模型中高维信号函数的检测问题。以及平滑的信号函数的假设，我们假设一个附加的稀疏条件，后者。检测问题表示为一个非参数假设检验问题，并根据渐近极小极大方法解决。对于高稀疏性的情况，极大极小检验程序在稀疏性参数中是自适应的。我们扩展到功能的情况下，已知的结果在检测稀疏的高维向量。特别是，我们的渐近检测边界来自相同的渐近关系，在向量的情况下。
2012-07-20 math.ST stat.TH
Discrete Diffusion Models are Minimax Optimal Under Sparsity
INRIA - École Normale Supérieure - PSL Research University - CNRS（法国国家信息与自动化研究所 - 巴黎高等师范学院 - 巴黎文理研究大学 - 法国国家科学研究中心）；École Polytechnique - CMAP - IP Paris（巴黎综合理工学院 - 数学与应用中心 - 巴黎理工学院）
本研究针对离散扩散模型，在稀疏性假设下分析其统计速率，建立了稀疏 regime 下的极小极大最优速率，证明其可内在适配稀疏性，为离散扩散模型提供了理论支撑。
2026-10-15 cs.LG stat.ML
Minimax Rates for High-dimensional Double Sparse Structure over $\ell_u(\ell_q)$-balls
针对兼具组间与组内稀疏性的高维双重稀疏结构，论文提出度量熵下界技术并建立匹配上下界，揭示相变现象，且给出最优 DSIHT 回归算法。
2023-07-18 math.ST stat.TH
Rate optimal estimation of quadratic functionals in inverse problems with partially unknown operator and application to testing problems
我们考虑高斯序列模型中的二次泛函的估计，假设特征值是未知的，只能通过噪声观测。施加平滑假设的信号和序列的特征值，我们开发了一个极大极小理论这个问题。我们提出了一个截断序列估计，并表明，它达到最佳的收敛速率，如果截断参数选择适当。测试问题的反问题的后果同样讨论：特别是，极大极小率测试信号检测和拟合优度测试。
2019-07-14 math.ST stat.TH
MOSAIC: Minimax-Optimal Sparsity-Adaptive Inference for Change Points in Dynamic Networks
University of Southern California（美国南加州大学）；Marshall School of Business（马歇尔商学院）；Xiamen University（厦门大学）；Wang Yanan Institute for Studies in Economics（王炎安经济研究所）
MOSAIC框架针对动态网络中的变点检测，利用低秩和稀疏变化结构，提出基于特征分解的检验方法，达到极小极大最优速率，并通过残差技术实现实际应用，模拟和真实数据验证了其有效性。
2025-09-08 cs.LG stat.ME stat.ML
Asymptotic Minimax Estimation under Global-Local Priors
University of Florida（佛罗里达大学）
本文针对全局-局部先验，在放宽样本方差已知的假设、同时对误差方差赋予先验的情况下，推导收缩因子新尾界，给出目标参数后验均值的渐近极小极大速率。
2026-08-03 math.ST stat.TH
Exact minimax estimation of the predictive density in sparse Gaussian models
考虑了$\ell_0$稀疏高斯序列模型中Kullback-Leibler损失下的预测密度估计问题。一阶极大极小风险及其精确常数，渐近最不利的先验和最优预测密度估计的显式表达式。与正态均值点估计的稀疏恢复结果相比，发现了新的判决理论现象。插件密度估计类的次优性能反映了问题的预测性质，并且最优策略需要分散未来风险。我们发现，极小极大最优策略位于高斯家族之外，但可以构建阈值预测密度估计。新的极小极大技术，涉及同时校准的稀疏性调整和风险分散化机制被用来设计最佳的预测密度估计。
2015-06-03 math.ST stat.TH
Optimal Estimation of A Quadratic Functional and Detection of Simultaneous Signals
受基因组学应用的启发，本文研究了两个正态均值向量的二次泛函$Q(μ, θ) = \frac{1}{n}\sum_{i=1}^nμ_i^2θ_i^2$的最优估计问题，特别关注两个均值向量都稀疏的情况.我们提出了最优估计的$Q(μ, θ)$为不同的制度，并建立了极小极大收敛速度在一个家庭的参数空间。在这个家庭的最佳速率表现出有趣的相变。在极大极小框架下，考虑了同时信号检测问题。结果表明，所提出的估计$Q(μ, θ)$自然导致最佳的测试程序。
2015-05-07 math.ST stat.TH
Minimax-optimal nonparametric regression in high dimensions
在两个稀疏性假设下推导了高维非参数回归的极小极大$L_2$风险：（1）真实回归曲面是一个稀疏函数，它只依赖于$p$预测变量列表中的$d=O(\log n)$重要预测变量，其中包含$\log p=o(n)$ ;（二）真正的回归曲面取决于$O(n)$预测器，但它是一个加法函数，其中每个加法分量是稀疏的，但可能包含两个或更多个相互作用的分量预测器，并且可以具有不同于其他分量的平滑度。对于任何一个建模假设，一个切实可行的扩展广泛使用的贝叶斯高斯过程回归方法，自适应地达到最佳极小极大率（$\log n$条款）渐近的$n,p\to\infty$与$\log p=o(n)$。
2015-04-01 math.ST stat.TH
Model selection and minimax estimation in generalized linear models
我们认为，在广义线性模型（GLM）的高维数据的模型选择，并提出了一个广泛的一类模型选择标准的基础上惩罚的最大似然模型大小的复杂性惩罚。我们推导出一个一般的非渐近上界的预期Kullback-Leibler分歧之间的真实分布的数据和所产生的选定的模型，并建立相应的极小极大下界稀疏GLM。对于适当选择的（非线性）罚款，由此产生的惩罚极大似然估计是渐近极小极大和自适应未知的稀疏性。我们还讨论了可能的扩展所提出的方法，在GLM模型选择下，额外的结构约束和聚合。
2016-03-30 math.ST stat.ME stat.TH
Minimax Optimal Rates for Poisson Inverse Problems with Physical Constraints
本文考虑了在泊松噪声和物理约束条件下求解稀疏反问题的基本极限。这样的问题出现在各种应用中，包括基于压缩感测的光子限制成像系统。压缩感知和相关逆问题中的大多数先前理论结果适用于噪声为i.i.d.的理想化设置，并且不考虑依赖于信号的噪声和物理感测约束。泊松压缩感知与信号相关的噪声和物理约束的先前结果提供了上界的均方误差性能的一个特定类别的估计。然而，不知道这些界限是否紧密，或者其他估计量是否可以实现更好的性能。本文给出了在物理约束条件下稀疏Poisson反问题均方误差的极小极大下界。我们的下界由极大极小上界补充。我们的上界和下界揭示了由于泊松噪声模型、稀疏性约束和物理约束之间的相互作用：（i）均方误差不依赖于样本量$n$，而只是确保感知矩阵满足RIP类条件，并且输入信号的强度$T$起着关键作用;以及（ii）均方误差具有两个不同的状态，低强度状态和高强度状态，并且从低强度状态到高强度状态的转变点取决于输入信号$f^*$。在低强度区域中，均方误差与$T$无关，而在高强度区域中，均方误差缩放为$\frac{s \log p}{T}$，其中$s$是稀疏水平，$p$是像素或参数的数量，而$T$是信号强度。
2014-03-25 math.ST stat.TH
Sparse Signal Detection in Heteroscedastic Gaussian Sequence Models: Sharp Minimax Rates
本文研究异方差高斯序列模型中针对已知稀疏度的信号检测问题，刻画了极小化极大分离半径的匹配上下界，推导出最优检验，并揭示了分离半径随稀疏度、$L^t$ 度量与异方差轮廓变化的新相变现象。
2023-08-02 math.ST stat.ML stat.TH
Adapting to general quadratic loss via singular value shrinkage
本研究提出多变量高斯序列模型下的自适应估计方法，通过奇异值收缩估计量适应未知光滑性与任意二次损失，实现多变量Sobolev椭球上的极小极大自适应估计。
2023-12-21 math.ST stat.TH
Optimal adaptive estimation of linear functionals under sparsity
考虑高斯序列模型中线性泛函的估计问题，其中R^d中的未知向量θ属于一类s-稀疏向量，且s未知.我们建议一个自适应估计实现非渐近收敛速率，不同于最大极小率的对数因子。我们还表明，这种最佳的自适应率不能提高时，s是未知的。此外，我们还讨论了同时适应s和噪声方差σ ^2的问题。我们提出了一个估计器，当s和σ ^2都未知时，它可以达到最优的自适应速率。
2017-10-06 math.ST stat.TH
Minimax rates for sparse signal detection under correlation
我们充分刻画了非渐近极小极大分离率稀疏信号检测在高斯序列模型与$p$ equicorrelated意见，推广的结果Collier，Comminges，和Tsybakov。作为速率表征的结果，我们发现强相关性是一种祝福，适度相关性是一种诅咒，弱相关性是无关紧要的。此外，产生祝福的阈值相关水平在$\sqrt{p}$和$p-\sqrt{p}$稀疏水平处表现出相变。我们还建立了一个微妙的依赖于相关水平的极小极大分离率的新的相变的出现。此外，我们研究组结构相关性，并推导出一个模型，包括多个随机效应的极大极小分离率。群结构从根本上改变了等相关情形的检测问题，分离率出现了不同的现象。
2021-10-25 math.ST stat.ME stat.TH
Sparsity meets correlation in Gaussian sequence model
本文研究等相关高斯序列模型中稀疏信号的极小极大估计，发现速率随p-2s变化并出现相变，提出利用高斯特性的核众数估计器以实现最优速率。
2025-01-22 math.ST stat.ME stat.TH
On Minimax Optimality of Sparse Bayes Predictive Density Estimates
研究了$\ell_0$ -稀疏高斯序列模型中Kullback-Leibler损失下的预测密度估计问题。在稀疏模型中，我们提出了适当的贝叶斯预测密度估计，并建立了渐近极小极大性。令人惊讶的是，在未来与过去的方差比$r$中存在相变。对于$r < r_0 = (\surd 5 - 1)/4$，自然离散先验不再是渐近最优的。相反，对于亚临界$r$，一个“双网格”前减少网格间距的中心区域恢复渐近极小极大。这种现象似乎没有类似的，否则平行理论的点估计的多元正态平均在二次损失。对于尖峰和平板先验有任何前景的极大极小，我们表明，稀疏参数空间也需要大小约束。在相当大的幅度范围内，尖峰和平板先验可以达到渐近极小极大。
2017-07-28 math.ST stat.TH
High-dimensional covariance matrix estimation with missing observations
本文研究了有缺失观测值的高维近似低秩协方差阵估计问题。我们提出了一个简单的程序计算易处理的高维，不需要填补缺失的数据。我们建立了非渐近稀疏预言不等式的协方差阵的估计与Frobenius和谱范数，有效的样本量和尺寸的任何设置的观察。我们进一步建立极大极小下界表明，我们的利率是极大极小最优的对数因子。
2012-05-11 math.ST stat.TH
On the minimax rate of the Gaussian sequence model under bounded convex constraints
我们确定了精确的极小极大率的高斯序列模型下有界凸约束，纯粹在给定的约束集$K$的局部几何。我们的主要结果表明，在平方$\ell_2$损失下的极小极大风险（直到常数因子）由具有\begin{align*} ε^* = \sup \bigg\{ε: \frac{ε^2}{σ^2} \leq \log M^{\operatorname{loc}}(ε)\bigg\}, \end{align*}的$ε^{*2} \wedge \operatorname{diam}(K)^2$给出，其中$\log M^{\operatorname{loc}}(ε)$表示集合$K$的局部熵，$σ^2$是噪声的方差。我们利用我们的抽象结果重新推导出已知的极小极大率的一些特殊的集$K$，如超矩形，椭圆，更一般的二次凸正交对称集。最后，我们将我们的结果扩展到无界的情况下，与已知的$σ^2$表明，在这种情况下，极大极小率是$ε^{*2}$。
2022-11-07 math.ST stat.TH
Nonparametric estimation of the purity of a quantum state in quantum homodyne tomography with noisy data
这项工作的目的是估计一个未知的维格纳函数的二次泛函噪声层析数据。维格纳函数可以被看作是光束的量子态的表示。二次泛函的估计是根据对相同制备的量子系统进行量子零差测量的结果进行的。我们首先构造一个估计的二次泛函的维格纳函数。我们证明了在一类无穷可微函数上，所提出的估计在极大极小意义下是最优或近似最优的。对某些光滑参数值也达到了参数化率，并给出了渐近正态性。然后，我们构造了一个不依赖于光滑参数的自适应估计器，并证明了它在某些情况下是极大极小的。
2006-11-16 math.ST stat.TH
l_p-norm based James-Stein estimation with minimaxity and sparsity
研究了多元正态均值的一类新的Minimax Stein型收缩估计，其中收缩因子是基于l_p范数的.建议的估计允许一些，但不是所有的坐标估计为0，从而允许稀疏性以及极大极小。
2015-05-28 math.ST stat.TH
Interplay of minimax estimation and minimax support recovery under sparsity
本文研究了高维线性回归模型稀疏估计的尺度极小极大性。我们提出了比经典极大极小理论更乐观的下界，从而改进了已有的结果。作为我们研究的结果，我们恢复了全局极大极小的尖锐结果。固定信噪比的尺度，我们证明了估计误差可以小于全局极小极大误差。我们构造了一个新的最优估计的尺度极小极大稀疏估计。最佳的自适应过程也被描述。
2018-10-12 math.ST stat.TH
Covariance scanning for adaptively optimal change point detection in high-dimensional linear models
本文研究高维线性模型中单个变点的检测与估计，通过协方差扫描方法实现稀疏和密集机制下的自适应最优检测。
2026-06-01 math.ST stat.ME stat.TH
Adaptive Bayesian Predictive Inference in High-dimensional Regerssion
本文从预测推断视角研究高维回归中的稀疏先验，证明LASSO先验无法实现速率最优，而Spike-and-Slab及分层先验能实现自适应极小化极大速率，首次给出稀疏设置下预测密度估计的速率自适应结果。
2024-05-30 math.ST stat.TH
Testability of high-dimensional linear models with non-sparse structures
近年来，在可能非稀疏的高维模型下理解统计推断得到了广泛的关注。对于一个给定的回归系数的组成部分，我们表明，问题的难度取决于相应行的协变量的精度矩阵的稀疏性，而不是回归系数的稀疏性。我们开发了统一的和基本上统一的不可测试性的新概念，允许在广泛的替代品的测试的局限性的研究。一致不可测性确定了一个备选方案的集合，使得任何检验对该组中任何备选方案的功效渐近至多等于标称大小。新的建设的影响，包括新的极大极小可测性的结果，在目前的结果形成鲜明对比，不依赖于稀疏的回归参数。我们确定了新的可测试性和功能相关性之间的权衡。特别是，我们表明，在弱特征相关性的模型中，极大极小下界可以通过测试，其功率具有$\sqrt{n}$率，而不管模型稀疏性的大小。
2019-11-25 math.ST stat.ME stat.ML
Confidence regions and minimax rates in outlier-robust estimation on the probability simplex
我们考虑的问题估计的平均值的分布支持的$k$维概率单纯形的设置中的一个$\varepsilon$分数的观察受到对抗腐败。一个简单的具体例子是估计离散随机变量的分布的问题。假设离散变量取$k$值，则未知参数$\boldsymbol θ$是属于概率单形的$k$维向量。我们首先描述了各种设置的污染，并讨论这些设置之间的关系。然后，我们建立极小极大率时，估计的质量是由总变差距离，海林格距离，或$\mathbb L^2$ -距离之间的两个概率测度。我们还提供了置信区域的未知的意思，缩小在最小最大率。我们的分析表明，与这三个距离相关的极大极小率都是不同的，但它们都是通过样本平均值获得的。此外，我们表明，后者是自适应的未知向量的可能的稀疏性。一些数值实验说明我们的理论研究结果的报告。
2020-02-01 cs.LG math.ST stat.TH
Simple Adaptive Estimation of Quadratic Functionals in Nonparametric IV Models
本文研究了非参数辅助变量（NPIV）模型中二次泛函的自适应Minimax估计，这是带有未知算子的不适定逆回归的非线性泛函的最优估计中的一个重要问题.我们首先证明了二次泛函的留一筛选NPIV估计量可以达到与Chen和Christensen [2018]中先前推导的下界一致的收敛速度。最小最大速率是通过筛选尺寸（关键调整参数）的最佳选择来实现的，这取决于NPIV函数的平滑度和不适定性的程度，两者在实践中都是未知的。接下来，我们提出了一个Lepski型的数据驱动的选择的关键筛尺寸适应未知的NPIV模型功能。二次函数的自适应估计，以达到极大极小最优率在严重不适定的情况下，并在定期轻度不适定的情况下，但乘法$\sqrt{\log n}$因子在不规则轻度不适定的情况下。
2022-02-09 econ.EM math.ST stat.ME
On the minimax optimality and superiority of deep neural network learning over sparse parameter spaces
The University of Tokyo（东京大学）；RIKEN（理化学研究所）
本文通过非参数回归问题证明深度学习在不连续、稀疏函数类上可达极小极大最优速率，而线性估计器因凸包风险不变而次优，并指出参数共享可显著降低模型复杂度。
2019-09-20 cs.LG math.ST stat.ML
Minimax-optimal rates for sparse additive models over kernel classes via convex programming
稀疏加性模型是具有加性分解$f^* = \sum_{j \in S} f^*_j$的$d$ -变量函数族，其中$S$是基数$s \ll d$的未知子集。考虑了一元分量函数$f^*_j$位于再生核Hilbert空间（RKHS）中的情形，分析了一种基于核与$\ell_1$型凸正则化相结合的未知函数$f^*$的估计方法.工作在一个高维的框架内，允许两个维度$d$和稀疏$s$与$n$增加，我们得到收敛速度（上界）在$L^2(\mathbb{P})$和$L^2(\mathbb{P}_n)$规范类$\MyBigClass$的稀疏加性模型与每个单变量函数$f^*_j$在单位球的单变量RKHS有界核函数。我们补充我们的上限推导极小极大下限的$L^2(\mathbb{P})$错误，从而显示我们的方法的最优性。因此，我们获得了许多有趣的类的稀疏加性模型，包括多项式，样条，和Sobolev类的最优极大极小率。我们还表明，如果，在我们的单变量条件下，多变量函数类被假定为全局有界的，那么更快的估计速度是可能的任何稀疏$s = Ω(\sqrt{n})$，显示全局有界性是一个显着的限制，在高维设置。
2011-12-18 cs.IT math.IT math.ST
Minimax Optimal Estimation of Convex Functions in the Supreme Norm
凸函数的估计在工程和科学中有着广泛的应用，而凸形状约束在渐近性能分析中引起了许多挑战。本文在形状约束非参数估计的框架下，研究了Hölder类一元凸函数的Minimax最优估计.特别地，本文建立了Hölder阶在1和2之间的凸函数的极大极小超模风险的两步最优收敛速率.第一步，应用信息论关于概率测度距离的结果，通过构造一类新的Hölder类分段二次凸函数，得到了极大极小下界.在第二步中，我们提出了一个惩罚凸样条估计，并建立了极大极小上界。由于凸形状约束，惩罚凸样条的最优性条件由非光滑互补条件刻画。利用互补方法，建立了最优样条系数在无穷范数下的一致Lipschitz性质。这个属性，以及渐近估计技术，导致在整个区间上的偏差和随机误差的统一界限。通过选择合适的节点数和惩罚值，进一步产生最佳的收敛收敛速率。给出了最大范数下凸估计的最优极小极大风险的第一个严格证明。
2013-06-08 math.ST stat.TH
Nonquadratic estimators of a quadratic functional
考虑了非二次凸参数空间上二次泛函的估计问题。它示出，在二次凸参数空间的理论相比，最佳的二次规则往往率次优。在这种情况下，最小最大速率最优程序构造基于局部阈值。这些非二次程序有时是完全有效的，即使最佳的二次规则有缓慢的收敛速度。此外，它表明，当估计一个二次函数的非二次程序可能会表现出不同的肘现象比二次程序。
2006-03-06 math.ST stat.TH
Minimax estimation in sparse canonical correlation analysis
典型相关分析是一种广泛使用的多元统计技术，用于探索两组变量之间的关系。本文研究了高维情形下主典型相关方向的估计问题。近年来，在典型相关方向稀疏的假设下，针对高维海量数据的处理提出了多种方法。然而，在文献中几乎没有理论依据。在本文中，我们建立了率最优的非渐近Minimax估计关于一个适当的损失函数的广泛的模型空间。观察到两个有趣的现象。首先，极小极大率不受冗余参数的影响，即两组随机变量的协方差阵，尽管它们需要在典型相关分析问题中估计。其次，我们允许存在的残余典型相关方向。然而，他们不影响极小极大率在一个温和的条件下的特征间隙。利用秩约束下高斯二次型的广义sin-theta定理和经验过程界，建立了极大极小上界.
2015-10-15 math.ST stat.TH
Adaptive Minimax Estimation over Sparse $\ell_q$-Hulls
给定未知真回归函数的$M_n$初始估计的字典，我们的目标是构造线性聚合估计，其目标是在线性系数的稀疏$q$范数（$0 \leq q \leq 1$）约束下的所有线性组合中的最佳性能。除了确定这些$\ell_q$聚合问题的最佳聚合速率，我们的多方向（或通用）聚合策略，通过模型混合或模型选择，同时实现了最佳速率在整个范围内的$0\leq q \leq 1$一般$M_n$和上限$t_n$的$q$ -范数。随机和固定的设计，已知或未知的误差方差，进行处理，和$\ell_q$ -聚合在这项工作中研究涵盖了以前在文献中研究的聚合问题的主要类型。还提供了在$\ell_q$约束真系数（$0 \leq q \leq 1$）下的最小最大速率自适应回归的结果。我们的研究结果表明，$\ell_q$ -聚集（$0 \leq q \leq 1$）的极大极小率基本上是由一个有效的模型大小，这是一个稀疏指数，依赖于$q$，$t_n$，$M_n$，和样本大小$n$在一个易于解释的方式基于一个经典的模型选择理论，处理大量的模型。此外，在固定设计的情况下，模型选择方法被认为是产生最佳的收敛速度，不仅在期望值，但也与指数衰减的偏差概率。相比之下，模型混合方法可以在预言不等式中的目标风险前面有一个领先常数，而不能提供偏差概率的最优性。
2012-01-13 math.ST stat.TH
Goodness-of-fit testing and quadratic functional estimation from indirect observations
我们考虑卷积模型，其中i.i.d.具有未知密度$f$的随机变量$X_i$用加性i.i.d.独立于$X$的噪声。我们假设密度$f$属于Sobolev类或超光滑函数类。噪声分布是已知的，并且其特征函数以多项式或指数方式渐近衰减。本文研究卷积模型的拟合优度检验问题。我们证明了间接观测的基础上，从核估计的二次函数$\int f^2$的检验统计量的风险的上界。当未知密度比噪声密度足够平滑时，我们证明了该估计量是$n^{-1/2}$相容的、渐近正态的和有效的（对于我们计算的方差）。否则，我们给非参数上界的风险相同的估计。我们给出了一个统一的方法证明这两个问题的非参数极大极小下界。我们建立他们的索伯列夫密度和超光滑密度比指数噪声更不平滑。在这两个设置中，我们获得了与渐近极大极小速率相关的精确检验常数。
2007-11-21 math.ST stat.TH
Resolvable Fourier Degree and Minimax Estimation on theBoolean Hypercube
Sorbonne Université（索邦大学）；Institut universitaire de France（法国高等学术研究院）
本文研究布尔超立方体上傅里叶-索博列夫预算下的高维非参数回归，提出可解傅里叶度刻画极小极大风险，并扩展至单调回归及未知支撑情形。
2026-09-15 math.ST stat.TH
Estimation of high-dimensional change-points under a group sparsity structure
变点是以高维数据流的形式观察到的“大数据”的常规特征。在许多这样的数据流中，组件系列具有组结构，并且很自然地假设变化仅发生在所有组中的少数中。我们提出了一个新的变点过程，称为“groupInspect”，它利用组稀疏结构来估计投影方向，以便聚合整个组件系列的信息，以成功地估计该系列的平均结构中的变点。我们证明了估计的投影方向是最小最大最优的，对数因子，当所有组的大小是可比的顺序。此外，我们的理论提供了强有力的保证变点位置估计的收敛速度。数值研究表明，groupInspect在广泛的设置和一个真实的数据的例子证实了我们的程序的实用性的竞争力的表现。
2021-07-19 math.ST stat.ME stat.TH
Sparse Confidence Sets for Normal Mean Models
在正态均值模型$X\sim N(θ,σ^2I)$下，本文提出了一种新的构造$d$维未知稀疏参数$θ$置信集的框架。所提出的置信集的一个关键特征是它能够考虑$θ$的稀疏性，因此被命名为{ \em sparse}置信集。这与经典方法形成鲜明对比，例如Bonferroni置信区间和其他基于恢复的过程，其中$θ$的稀疏性经常被忽略。具体地，我们要求期望的稀疏置信度集满足以下两个条件：（i）在参数空间上均匀地，$θ$的覆盖概率高于预先指定的水平;（ii）存在$\{1,...,d\}$的随机子集$S$，使得$S$保证用于检测非零$θ_j$的预先指定的真阴性率（TNR）。为了利用$θ$的稀疏性，我们定义了$θ_j$的置信区间退化到任何$j\notin S$的单点0。在这个新的框架下，我们首先考虑是否存在满足上述两个条件的稀疏置信集。为了解决这个问题，我们建立了一个非渐近极大极小下界的非覆盖概率在一个合适的类稀疏置信集。该下限揭示了稀疏性和最小信噪比（SNR）在稀疏置信集构造中的作用。此外，在适当的信噪比条件下，提出了一个两阶段的过程来构建一个稀疏的信心集。为了评估的最优性，建议的稀疏置信集，以达到一个minimax下界的一些适当定义的风险函数的一个常数因子。最后，我们开发了一个自适应的过程，未知的稀疏性和信噪比。数值研究进行了验证的理论结果。
2020-08-17 math.ST stat.ME stat.TH
High dimensional regression and matrix estimation without tuning parameters
提出了一种在任意范数下自动适应未知稀疏性的高斯均值估计的一般理论。该理论被应用于产生自适应极小极大率最优估计在高维回归和矩阵估计，不涉及调整参数。
2015-11-28 math.PR math.ST stat.TH
