Adaptive Kernel Ridge Regression with Linear Structure: Sharp Oracle Inequalities and Minimax Optimality
University of Toronto(多伦多大学)
本文提出一种改进的岭回归方法,通过引入显式线性成分提升模型性能,理论证明其在一般核函数下达到最小最大最优预测风险。
2026-05-12 math.ST stat.TH
Minimax optimality for sequential gradient-free minimization of smooth functions and their derivatives
ENSAE, CREST(法国国立经济统计行政学院,中央研究经济学研究所);Univ Rennes, Ensai, CNRS, CREST—UMR 9194(雷恩大学,ENSAI,法国国家科学研究中心,中央研究经济学研究所)
针对β-Hölder函数及其导数的带噪无梯度最小化,提出非渐近极小极大速率,证明局部多项式估计量速率最优,并给出多项式时间算法匹配下界。
2026-09-17 math.ST stat.TH
On the Optimality of Functional Sliced Inverse Regression
本文证明函数型切片逆回归在估计函数型充分降维中心空间时达极小极大最优速率,通过集中不等式、截断方案及模拟验证。
2025-04-15 math.ST stat.TH
SDP Achieves Exact Minimax Optimality in Phase Synchronization
研究了带噪声测量$Y=z^*z^{*H}+σW\in\mathbb{C}^{n\times n}$的相位同步问题,其中$z^*$是$n$维复单位模向量,$W$是复值高斯随机矩阵.假设以概率$p$观察到每个条目$Y_{jk}$。我们证明了一个SDP松弛的MLE实现下的归一化平方$\ell_2$损失的误差界$(1+o(1))\frac{σ^2}{2np}$。这个结果符合问题的极大极小下界,甚至前导常数也是尖锐的。SDP的分析基于等价的非凸规划,其解可以表征为提升到更高维度空间的广义幂迭代的不动点。这一观点统一了三种不同方法:极大似然法、SDP和广义幂方法的统计最优性证明。该技术也适用于分析的SDP $\mathbb{Z}_2$同步,我们实现了极小极大最佳误差$\exp\left(-(1-o(1))\frac{np}{2σ^2}\right)$与一个尖锐的常数的指数。
2022-03-18 math.OC math.ST stat.ML
Optimality of variational inference for stochastic block model with missing links
变分方法在网络数据分析中非常流行。这些方法获得的统计保证通常为随机块模型下的全局模型参数估计问题提供渐近正态性。在目前的工作中,我们考虑的情况下,网络与丢失的链接,这是重要的应用程序,并表明变分近似的最大似然估计收敛于极小极大率。这为含缺失环节的随机区组模型的参数估计问题提供了第一个极小极大最优易处理的估计器。我们补充我们的结果与模拟和真实网络的数值研究,这证实了这种估计比目前的方法的优势。
2021-11-05 math.ST stat.TH
Exact Minimax Optimality of Spectral Methods in Phase Synchronization and Orthogonal Group Synchronization
本文研究了带加性高斯噪声和不完整数据的相位同步问题中谱方法的性能,证明了其在平方 $\ell_2$ 损失下达到极小极大下界,性能媲美极大似然估计等复杂方法,并将该最优性结论扩展至正交群同步。
2024-01-06 cs.IT math.IT math.SP
Minimax Optimal Deep Neural Network Classifiers Under Smooth Decision Boundary
深度学习在大规模分类问题上取得了巨大的经验性成功。相比之下,人们对深度学习方法缺乏统计学上的理解,特别是在极大极小最优性方面。例如,在经典的平滑决策边界设置中,现有的深度神经网络(DNN)方法是速率次优的,并且如何构建最小最大最优DNN分类器仍然是难以捉摸的。此外,探索DNN分类器是否可以在处理高维数据时规避维数灾难是很有趣的。本文的贡献是双重的。首先,基于本地化的边缘框架,我们发现了现有DNN方法的次优性来源。受此启发,我们提出了一种新的深度学习分类器,使用分治技术:DNN分类器在每个局部区域上构建,然后聚合为全局分类器。我们进一步提出了一个本地化版本的经典Tsybakov的噪声条件下,我们的新分类器的统计最优性。其次,我们表明DNN分类器可以适应低维数据结构,并在极大极小率仅取决于有效维度的意义上规避维度灾难,潜在地比实际数据维度小小于得多。数值实验进行了模拟数据,以证实我们的理论结果。
2022-07-04 math.ST stat.TH
Minimax Optimal Goodness-of-Fit Testing with Kernel Stein Discrepancy
本文提出基于谱正则化的核 Stein 散度检验,在一般域上实现极小极大最优拟合优度检验,并引入自适应检验,数值实验验证其优于未正则化方法。
2025-01-22 math.ST stat.ML stat.TH
Nonparametric In-Context Learning under Growing Geometric Complexity: Minimax Optimality and Local Geometry-Adaptivity of Transformers
Seoul National University(首尔国立大学)
本文针对几何异质数据,提出结构感知的两阶段softmax Transformer,实现非参数上下文学习的极小极大最优性与局部几何自适应性。
2026-11-03 cs.LG math.ST stat.ML
Why minimax is not that pessimistic
在非参数统计中,极小极大收敛速率提供了估计过程的最优性准则。然而,这种经典的观点是有争议的,因为它需要寻找最坏的行为达到了一个估计程序在一个给定的空间。本文的目的是表明,这是不合理的极小极大风险往往符合一个通用的。在这里,我们感兴趣的收敛速率达到一些经典的估计几乎每一个,在流行的意义上,功能在Besov空间。
2009-02-19 math.ST stat.TH
On the minimax optimality of Flow Matching through the connection to kernel density estimation
Ruhr University Bochum and Karlsruhe Institute of Technology(博鲁姆鲁尔大学和卡尔斯鲁厄理工学院)
本文通过将流匹配与核密度估计联系起来,证明了流匹配在Wasserstein距离下的最优收敛速率,并展示了其在高维设置中的理论基础。
2026-10-30 cs.LG math.ST stat.ML
Asymptotic Near-Minimaxity of the Randomized Shiryaev-Roberts-Pollak Change-Point Detection Procedure in Continuous Time
对于经典的连续时间最快变点检测问题,证明了随机化Shiryaev-Roberts-Pollak过程在具有极小虚警风险的随机化过程类中是渐近极小极大最优的(在Pollak 1985的意义下).证明是明确的,因为所有相关的性能特征都是通过分析和封闭形式找到的。的收敛速率的(未知的)最佳阐明。所获得的最优性结果是Burnaev等人(2009)之前针对同一问题获得的最优性结果的一阶改进。
2017-04-10 math.ST stat.TH
Nonparametric Bandits with Single-Index Rewards: Optimality and Adaptivity
University of Pennsylvania(宾夕法尼亚大学)
本文提出了一种单指数带隙算法,通过非参数方法克服维度诅咒,实现最小最大最优后悔并自动适应未知光滑性。
2026-11-06 math.ST
Estimation and inference for minimizer and minimum of convex functions: optimality, adaptivity and uncertainty principles
该研究在非渐近局部极小极大框架下探究凸回归函数极小点与极小值的估计推断,提出自适应高效算法并给出下界,还建立了二者同时估计的不确定性原理。
2024-03-10 math.ST stat.ME stat.TH
Online jump and kink detection in segmented linear regression: Statistical optimality meets computational efficiency
Institute for Mathematical Stochastics, University of Göttingen(哥廷根大学数学随机学研究所);Cluster of Excellence “Multiscale Bioimaging: from Molecular Machines to Networks of Excitable Cells” (MBExC), University of Göttingen(哥廷根大学“多尺度生物成像:从分子机器到兴奋细胞网络”卓越集群)
本文研究了在线估计分段线性回归模型中单个变化点的问题,展示了CUSUM型统计量在定位变化点时的最优率,并提出了一种在线算法以区分跳跃和拐点,具有常数计算复杂度和内存需求。
2025-08-22 math.ST stat.TH
On the minimax optimality and superiority of deep neural network learning over sparse parameter spaces
The University of Tokyo(东京大学);RIKEN(理化学研究所)
本文通过非参数回归问题证明深度学习在不连续、稀疏函数类上可达极小极大最优速率,而线性估计器因凸包风险不变而次优,并指出参数共享可显著降低模型复杂度。
2019-09-20 cs.LG math.ST stat.ML
Minimax Optimality of the Probability Flow ODE for Diffusion Models
University of Michigan(密歇根大学);The Chinese University of Hong Kong(香港中文大学)
本文为基于概率流ODE的扩散模型采样器建立了首个端到端理论框架,针对次高斯且密度β-Hölder光滑的目标分布提出光滑正则化分数估计器,证明其在总变差距离上达到近最小最大最优速率。
2025-03-12 cs.IT cs.LG math.IT
Minimax Optimal Sequential Hypothesis Tests for Markov Processes
在较弱的Markov假设下,得到了分布不确定性下多假设序贯检验的严格Minimax最优性的充分条件。首先,简单假设的最优序贯检验的设计被重新审视,它表明,相应的成本函数的偏导数是密切相关的基本序贯检验的性能指标。第二,一个隐含的表征最不利的分布为一个给定的测试政策。结合最优序贯检验和最不利分布的结果,得到了一般分布不确定性下序贯检验为minimax最优的充分条件。最小最大最优检验的成本函数被进一步确定为广义$f$-相异度,最不利的分布是那些最相似的相对于这种相异度。不同不确定度下的极小极大最优序贯检验的数值例子说明了理论结果。
2020-10-22 math.ST stat.TH
Functional linear regression from sparse to dense designs: a pooling-ridge method and minimax optimality
Tsinghua University(清华大学);Peking University(北京大学)
针对离散观测数据的函数线性回归最优估计难题,提出池化-岭方法,实现从稀疏到密集设计下两类回归模型的极小极大最优性,经模拟与实际数据验证。
2026-08-27 cs.LG math.ST stat.ME
Minimax Estimation of Distances on a Surface and Minimax Manifold Learning in the Isometric-to-Convex Setting
University of California, San Diego(加州大学圣地亚哥分校)
本研究针对光滑子流形内蕴距离估计问题,证明通过曲面重构可实现极小极大最优性并采用切向Delaunay复形构建网格,同时提出在重构曲面计算距离的Isomap变体,对等距流形学习问题具有极小极大最优性。
2023-10-03 cs.LG math.ST stat.ML
Minimax Optimality (Probably) Doesn't Imply Distribution Learning for GANs
UC Berkeley(加州大学伯克利分校);Microsoft Research(微软研究院);CMU(卡内基梅隆大学);UCLA(加州大学洛杉矶分校)
可以说,生成对抗网络(GANs)理论中最基本的问题是理解GANs实际上可以在多大程度上学习底层分布。理论和经验证据表明,经验培训目标的局部最优性是不够的。然而,它并不排除实现真正的群体极大极小最优解可能意味着分布学习的可能性。在本文中,我们表明,标准的密码学假设意味着这个更强的条件仍然是不够的。也就是说,我们证明了如果局部伪随机生成器(PRG)存在,那么对于一个大的自然连续目标分布族,存在具有恒定深度和多项式大小的ReLU网络生成器,它们采用高斯随机种子,使得(i)输出远离目标分布的Wasserstein距离,但(ii)没有多项式大的Lipschitz ReLU网络可以检测到这一点。这意味着,即使实现群体最小最大最优解的Wasserstein GAN目标是可能不足以在通常的统计意义上的分布学习。我们的技术揭示了GANs和PRG之间的深层联系,我们相信这将导致对GANs计算领域的进一步了解。
2022-01-18 cs.CC cs.CR cs.LG
Minimax Binary Counting under Shuffle Privacy: Poisson Limits and Randomized-Response Optimality
本文研究了洗牌隐私的非高斯极限,通过泊松、斯凯拉姆和复合泊松模型,揭示了局部随机器集中度对隐私保护的影响。
2026-10-15 cs.IT math.IT math.PR
On the Optimality of the Median-of-Means Estimator under Adversarial Contamination
Basque Center of Applied Mathematics (BCAM)(巴斯克应用数学中心);IKERBASQUE-Basque Foundation for Science(巴斯克科学基金会)
本文研究了对抗性污染下中位数均值估计器的最优性,证明了其在有限方差及无限方差但有限绝对矩分布类中达到极小极大最优,并指出在轻尾分布下为次优。
2025-10-09 cs.LG math.ST stat.ML
Minimax Optimality of Score-based Diffusion Models: Beyond the Density Lower Bound Assumptions
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文从非参数统计角度研究了基于分数的扩散模型采样渐近误差,提出基于核的分数估计器,在仅满足次高斯假设下达到极小极大最优,消除了先前对密度的下界假设。
2024-07-23 cs.IT cs.LG math.IT
Meta Optimality for Demographic Parity Constrained Regression via Post-Processing
University of Tsukuba(筑波大学);RIKEN AIP(日本理化学研究所人工智能项目)
针对人口统计奇偶约束下的回归问题,提出可验证公平极小极大最优回归算法的元定理,并证明该最优回归可通过后处理实现,便于传统回归技术适配公平场景。
2025-06-16 cs.LG stat.ML
Some Theorems on Optimality of a Single Observation Confidence Interval for the Mean of a Normal Distribution
我们考虑的问题,找到一个合适的置信区间的平均值的基础上,从一个正态分布的均值和方差未知的单一观察。Portnoy(2017)描述了尺度符号不变规则,并表明Hunt-Stein构造提供了一种随机不变规则,该规则在任何给定的随机规则上都有所改进,因为它在具有固定预期长度的所有过程中具有更大的最小覆盖率。这里的数学结果提供了两个非随机不变规则的特定混合,实现了极大极小最优性。基于一个单一的观察向量的多元置信集也被开发。
2018-05-14 math.ST stat.TH
Online Individualized Treatment Selection under Partial Feedback: False Discovery Control and Minimax Optimality
Center for Data Science, Zhejiang University(浙江大学数据科学中心);Department of Statistics, University of Michigan(密歇根大学统计系)
本研究针对部分反馈下的在线个体化治疗选择问题,提出PAITS方法,实现错误发现率控制与极小极大最优性,经模拟和Jester数据集验证其有限样本性能。
2026-10-14 cs.LG stat.ME stat.ML
Equivariant minimax dominators of the MLE in the array normal model
多路数据阵列中的相关性可以使用阵列正态模型进行推断,阵列正态模型对应于具有可分离协方差阵的多元正态分布类。最大似然法和贝叶斯方法在阵列正态模型中的推断已经出现在文献中,但还没有任何结果,这些估计的最优性。在这篇文章中,我们得到的结果是类似于一些经典的结果,关于多元正态模型的协方差估计的阵列正态模型。我们证明了在下三角乘积群下,通过广义贝叶斯过程可以得到一致最小风险同变估计(UMREE)。虽然这个UMREE是极大极小的,并主导了极大似然估计,但它可以通过正交等变修改来改进。这些估计的风险的数值比较表明,同变估计可以有显着低于最大似然估计的风险。
2014-08-02 math.ST stat.TH
Minimax Semiparametric Learning With Approximate Sparsity
该研究针对高维下精确稀疏假设适用范围有限的问题,形式化近似稀疏性概念,推导其下回归斜率与平均导数的极小极大速率,提出达最优速率的估计器,还发现有序与无序非参数回归的最优性边界存在差异。
2025-07-31 econ.EM math.ST stat.ML
Transfer Learning for High-dimensional Linear Regression: Prediction, Estimation, and Minimax Optimality
本文考虑在迁移学习的环境下,使用来自目标模型的样本以及来自不同但可能相关的回归模型的辅助样本,对高维线性回归进行估计和预测。当已知一组“信息”辅助样本时,提出了一个估计器和一个预测器,并建立了它们的最优性。预测和估计的最优收敛速度比不使用辅助样本的相应速度快。这意味着可以转移来自信息丰富的辅助样本的知识,以提高目标问题的学习性能。在信息辅助样本集未知的情况下,我们提出了一种数据驱动的迁移学习过程,称为Trans-Lasso,并揭示了其对非信息辅助样本的鲁棒性和知识迁移的效率。所提出的程序被证明在数值研究中,并适用于一个数据集的基因表达之间的关联。结果表明,trans-Lasso通过将来自多个不同组织的数据作为辅助样本,提高了靶组织中基因表达预测的性能。
2020-06-18 stat.ME stat.ML
Personalizing black-box models for nonparametric regression with minimax optimality
Tsinghua University(清华大学);Rutgers University(罗格斯大学)
本文提出了一种在非参数回归中实现黑盒模型个性化的方法,通过理论分析和实验验证,证明了其在样本稀缺情况下的最优性能和鲁棒性。
2026-01-04 stat.ME stat.ML
Minimax Optimal Estimation of Convex Functions in the Supreme Norm
凸函数的估计在工程和科学中有着广泛的应用,而凸形状约束在渐近性能分析中引起了许多挑战。本文在形状约束非参数估计的框架下,研究了Hölder类一元凸函数的Minimax最优估计.特别地,本文建立了Hölder阶在1和2之间的凸函数的极大极小超模风险的两步最优收敛速率.第一步,应用信息论关于概率测度距离的结果,通过构造一类新的Hölder类分段二次凸函数,得到了极大极小下界.在第二步中,我们提出了一个惩罚凸样条估计,并建立了极大极小上界。由于凸形状约束,惩罚凸样条的最优性条件由非光滑互补条件刻画。利用互补方法,建立了最优样条系数在无穷范数下的一致Lipschitz性质。这个属性,以及渐近估计技术,导致在整个区间上的偏差和随机误差的统一界限。通过选择合适的节点数和惩罚值,进一步产生最佳的收敛收敛速率。给出了最大范数下凸估计的最优极小极大风险的第一个严格证明。
2013-06-08 math.ST stat.TH
Minimax Structured Normal Means Inference
我们提供了一个统一的治疗一类广泛的嘈杂的结构恢复问题,被称为结构正常的手段问题。在这种情况下,目标是从具有不同均值的高斯分布的有限集合中识别产生一些观测数据的分布。最近的工作已经研究了几个特殊的情况下,包括稀疏向量,biclusters,和基于图形的结构。我们建立几乎匹配的上限和下限的极小极大概率的错误的任何结构化的正常手段的问题,我们推导出一个最优性证书的极大似然估计,它可以应用于许多实例。我们还考虑了一个试验设计设置,在那里我们推广我们的极大极小的界限,并推导出一个算法计算的设计策略具有一定的最优性。我们表明,我们的研究结果给出了严格的极小极大界的许多结构恢复问题,并考虑一些后果的交互式采样。
2016-01-26 cs.IT math.IT stat.ML
Deep learning from strongly mixing observations: Sparse-penalized regularization and minimax optimality
Institut Camille Jordan, Université Jean Monnet(让·蒙特大学坎贝尔·乔丹研究所);THEMA, CY Cergy Paris Université(巴黎中央理工大学THEMA)
本文针对强混合观测数据,提出稀疏惩罚正则化的深度神经网络估计方法,建立期望超额风险与L2误差的神谕不等式,并证明在Hölder复合函数类上达到极小极大最优速率。
2025-07-08 cs.LG stat.ML
LAN property for the parameter of the jump rate in mean field interacting systems of neurons
Universidade de São Paulo(圣保罗大学);Université Paris-Saclay, Université d’Evry Val d’Essonne, CNRS, LaMME, UMR 8071(巴黎萨克雷大学,埃夫里-瓦卢瓦大学,法国国家科学研究中心,LaMME实验室)
该研究针对含神经元重置的平均场相互作用神经元系统,推导了跳跃率多维参数估计量的一致性、渐近正态性及局部渐近极小极大最优性,证明了其LAN性质与渐近有效性。
2026-08-03 math.ST stat.TH
Exact Detection Thresholds and Minimax Optimality of Chatterjee's Correlation Coefficient
本文研究Chatterjee相关系数的独立性检验与非平凡依赖检验,给出精确检测阈值、极限功效及极小极大最优性。
2023-10-02 math.PR math.ST stat.ME
Adversarial learning for nonparametric regression: Minimax rate and adaptive estimation
Yau Mathematical Sciences Center, Tsinghua University(清华大学应用数学科学中心)
本文在非参数回归框架下研究未来X攻击的对抗学习统计最优性,建立了对抗L_q风险下的极小极大收敛速率,提出达到该速率的分段局部多项式估计量,并构造了在广泛非参数与对抗类上近乎最优的数据驱动自适应估计量。
2025-06-02 cs.LG math.ST stat.ME
Sharp minimax tests for large Toeplitz covariance matrices with repeated observations
我们观察了一个$n$独立的$p$维高斯向量的样本,具有Toeplitz协方差矩阵$ Σ= [σ_{|i-j|}]_{1 \leq i,j \leq p}$和$σ_0=1$。我们考虑了当$n \to \infty$和$p \to \infty$满足时,$Σ$是单位矩阵的假设的渐近检验问题.我们假设协方差$σ_k$以多项式($ α>1/4$和$L>0$的$\sum_{k \geq 1} k^{2α} σ^2_{k} \leq L$)或指数($ A,L>0$的$\sum_{k \geq 1} e^{2Ak} σ^2_{k} \leq L$)方式减小。我们考虑一个检验过程的基础上加权U-统计量的顺序为2,与最佳的权重选择的极值问题的解决方案。我们给出了零假设下固定$n$和$p \to + \infty$的检验统计量的渐近正态性和我们的检验程序的I型错误概率的渐近行为。我们还表明,最大的第二类错误概率,要么倾向于$0$,或有界从上面。在后一种情况下,在接近分离边界的替代方案下,使用我们的测试统计量的渐进正态性给出上限。我们的假设暗示了温和的条件:$n=o(p^{2α- 1/2})$(在多项式的情况下),$n=o(e^p)$(在指数的情况下)。我们证明率最优性和尖锐的最优性,我们的结果,$α>1$在多项式的情况下,任何$A>0$在指数的情况下。仿真研究说明了我们的程序,特别是小$n$,大$p$…
2015-06-04 math.ST stat.TH
Regularization and Variance-Weighted Regression Achieves Minimax Optimality in Linear MDPs: Theory and Practice
The University of Tokyo(东京大学);OMRON SINIC X(欧姆龙 SINIC X 研究院);DeepMind(深度思维);Google Research(谷歌研究院);Peking University(北京大学);Otto von Guericke University Magdeburg(马格德堡奥托·冯·格里克大学);University of Alberta(阿尔伯塔大学)
针对线性MDP中MDVI算法缺乏理论保证的问题,提出方差加权最小二乘MDVI(VWLS-MDVI)达到极小极大最优样本复杂度,并给出实用算法DVW提升深度RL性能。
2026-10-06 cs.LG stat.ML
Minimax Optimality of Score-Entropy Discrete Diffusion
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Cornell University(康奈尔大学)
本文研究得分-熵离散扩散(SEDD)的统计极限,针对均匀和掩码离散扩散模型建立极小极大下界,提出匹配下界的MLE阈值估计器,证明SEDD经合适设置可达到接近最优的极小极大样本复杂度。
2026-08-24 cs.LG stat.ML
Optimality of Maximum Likelihood for Log-Concave Density Estimation and Bounded Convex Regression
Massachusetts Institute of Technology(麻省理工学院)
本文研究了两个问题:(1)$d$维对数凹分布的估计和(2)随机设计下的有界多元凸回归问题,其中随机设计下的密度为对数凹或密度为连续的紧支撑分布。首先,我们表明,对于所有的$d \ge 4$的最大似然估计的两个问题实现了最佳的风险$Θ_d(n^{-2/(d+1)})$(对数因子)的平方Hellinger距离和$L_2$平方距离,分别。以前,这两个估计量的最优性仅为$d\le 3$所知。我们还证明了上述两个家庭的$ε$ -熵数是相等的对数因子。我们补充这些结果证明了一个尖锐的界限$Θ_d(n^{-2/(d+4)})$的极大极小率(对数因子)相对于总的变化距离。最后,我们证明,估计对数凹密度-甚至均匀分布的凸集-到一个固定的精度需要样本数\emph{at least}指数的尺寸。我们通过将极小极大率的最佳已知下限中的维数常数从$2^{-d}\cdot n^{-2/(d+1)}$改进为$c\cdot n^{-2/(d+1)}$(当$d\geq 2$时)来实现。
2020-02-20 cs.LG math.ST stat.TH
Minimax Robust Quickest Change Detection
最快变化检测过程的最优性的流行准则是Lorden准则、Shiryaev-Roberts-Pollak准则和贝叶斯准则。本文考虑了这些最快变化检测问题的鲁棒版本,当变化前和变化后的分布不完全已知但属于已知的不确定性分布类别时。对于满足特定条件的不确定性类,它表明,人们可以识别最不利的分布(LFD)的不确定性类,这样的LFD设计的检测规则是最佳的鲁棒性问题在极大极小意义上。的条件是类似的,所需的鲁棒性假设检验问题的LFD识别最初由Huber研究。在Lorden最优性准则下的渐近设定中,也得到了鲁棒检验所引起的时滞的上界。这个界限量化了为保证鲁棒性而产生的延迟惩罚。当LFD可以被识别时,所提出的测试比基于广义似然比(GLR)统计量的Cumsum测试更容易实现,这是一种流行的方法,用于这种鲁棒的变化检测问题。所提出的测试也显示出更好的性能比GLR测试在模拟的一些参数值。
2010-06-01 cs.IT math.IT math.ST
Minimax Optimal Simple Regret in Two-Armed Best-Arm Identification
Department of Basic Science, The University of Tokyo(东京大学基础科学系)
本研究证明在双臂固定预算最优臂识别中,Neyman分配在简单遗憾上达到极小极大最优,且无需局部分布假设,并在伯努利分布下退化为均匀分配。
2025-01-21 cs.LG econ.EM math.ST
Optimal Estimation and Computational Limit of Low-rank Gaussian Mixtures
结构矩阵变量观测经常出现在不同的领域,如多层网络分析和大脑图像聚类。虽然这种类型的数据已经被广泛研究,并取得了丰硕的成果,但其统计最优性和计算极限等基本问题在很大程度上尚未得到充分探讨。在本文中,我们提出了一个低秩高斯混合模型(LrMM)假设每个矩阵值的观察有一个种植低秩结构。极小极大下界估计底层的低秩矩阵建立允许整个范围的样本量和信号强度。在信号强度的最小条件下,被称为信息理论极限或统计极限,我们证明了极大似然估计的最小极大最优性,在一般情况下,是计算上不可行的。如果信号是强于一定的阈值,称为计算极限,我们设计了一个计算快速估计的基础上频谱聚合,并证明其极大极小最优性。此外,当信号强度小于计算极限,我们提供的证据的基础上的低次似然比框架声称,没有多项式时间算法可以一致地恢复底层的低秩矩阵。我们的研究结果揭示了多重相变的极大极小差错率和计算的差距。数值实验证实了我们的理论发现。我们进一步展示了我们的光谱聚合方法在全球食品贸易数据集上的优点。
2022-01-22 cs.IT math.IT math.ST
Instance-Optimality for Private KL Distribution Estimation
National University of Singapore(新加坡国立大学);Apple(苹果公司)
研究离散分布的私有 KL 散度估计问题,提出基于 Good-Turing 估计器变体的实例最优算法,并证明其上下界,克服了极小极大最优方法在非最坏实例上性能不佳的缺陷。
2025-05-29 cs.LG stat.ML
Minimax Optimality in Contextual Dynamic Pricing with General Valuation Models
School of Management, Xiamen University(厦门大学管理学院);Department of Industrial Engineering and Decision Analytics, The Hong Kong University of Science and Technology(香港科技大学工业工程与决策分析系)
研究上下文动态定价问题,提出一种基于噪声分布离散化与分层数据划分的极小极大最优算法,利用离线回归预言机扩展至一般函数类,其遗憾上界匹配极小极大下界且数值实验验证了有效性。
2025-08-14 cs.LG stat.ML
The Beta-Mixture Shrinkage Prior for Sparse Covariances with Posterior Minimax Rates
稀疏协方差阵的统计推断对于揭示大型多元数据集的相关结构至关重要,但缺乏可扩展的和理论支持的贝叶斯方法。在本文中,我们提出了β-混合收缩先验,计算效率比尖峰和板坯先验,稀疏协方差阵,并建立其在高维设置的极大极小最优性。建议的先验由β混合收缩和伽马先验的非对角和对角条目,分别。为了保证所得到的协方差阵的正定性,我们进一步将先验的支持度限制在正定矩阵的子空间中。在Frobenius范数下,我们得到了诱导后验估计的后验收敛速度,并建立了稀疏协方差阵的极大极小下界。本文所考虑的极小极大下界的稀疏协方差阵类由非零非对角元素的个数控制,比文献中出现的稀疏协方差矩阵类具有更直观的吸引力.除非真的协方差阵是非常稀疏的,否则所得到的后验收敛速度与极大极小下界一致。在模拟研究中,我们表明,所提出的方法是计算效率比竞争对手,同时实现可比的性能。基于两个真实数据集的收缩先验的优点证明。
2021-01-12 math.ST stat.ME stat.TH
Minimax-optimal Halpern iterations for Lipschitz maps
Universidad de Santiago de Chile(圣地亚哥智利大学);Pontificia Universidad Católica de Chile(智利天主教 Pontificia 大学);Seoul National University(首尔大学)
本文提出了Lipschitz映射的最优Halpern迭代方案,通过最小化紧界确定最优算法,并扩展至无界域和仿射映射。
2026-01-22 math.OC math.ST stat.TH
On the Minimax Optimality of the EM Algorithm for Learning Two-Component Mixed Linear Regression
University of Texas, Austin(德克萨斯大学奥斯汀分校)
研究了期望最大化算法在各种信噪比条件下学习二元混合线性回归的收敛速度。我们解决了一个长期存在的问题,许多最近的结果试图解决:我们完全表征EM的收敛行为,并表明,期望最大化算法实现最小最大最优样本复杂度下的所有SNR制度。特别地,当SNR足够大时,EM更新在$\mathcal{O}(\log(n/d))$迭代之后以标准参数收敛速率$\mathcal{O}((d/n)^{1/2})$收敛到真实参数$θ^{*}$。在SNR高于$\mathcal{O}((d/n)^{1/4})$且低于某个常数的情况下,当迭代次数为$\mathcal{O}({\rm SNR}^{-2} \log(n/d))$阶时,EM迭代收敛到真参数的$\mathcal{O}({\rm SNR}^{-1} (d/n)^{1/2})$邻域。在低信噪比制度的SNR低于$\mathcal{O}((d/n)^{1/4})$,我们表明,EM收敛到一个$\mathcal{O}((d/n)^{1/4})$附近的真实参数,经过$\mathcal{O}((n/d)^{1/2})$迭代。值得注意的是,这些结果是在随机初始化或有效可计算的局部初始化的温和条件下实现的。通过在中低SNR范围内提供期望最大化算法的紧密收敛保证,我们填补了文献中剩余的空白,并且显著地揭示了在低SNR下,EM改变速率,匹配MLE的$n^{-1/4}$速率,这是以前的工作…
2021-02-05 cs.LG stat.ML
MOTS: Minimax Optimal Thompson Sampling
National University of Singapore(新加坡国立大学);University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
汤普森抽样是许多在线决策问题中最广泛使用的算法之一,由于其实现简单和优于其他国家的最先进的方法的经验性能。尽管它的流行和经验的成功,它仍然是一个悬而未决的问题,汤普森采样是否可以匹配的极小极大下限$Ω(\sqrt{KT})$的$K$武装土匪问题,其中$T$是总的时间范围。在本文中,我们解决了这个长期开放的问题,提出了一个变种的汤普森采样称为MOTS,自适应剪辑的采样实例所选择的手臂在每个时间步。我们证明了这种简单的汤普森采样的变体实现了有限时间范围$T$的极小极大最优后悔界$O(\sqrt{KT})$,以及高斯奖励时的渐近最优后悔界$T$接近无穷大。据我们所知,MOTS是第一个汤普森采样类型的算法,实现了极大极小最优多臂强盗问题。
2020-10-01 cs.LG math.ST stat.ML
Nearly Minimax Optimal Offline Reinforcement Learning with Linear Function Approximation: Single-Agent MDP and Markov Game
The Hong Kong University of Science Technology(香港科技大学);Peking University(北京大学);University of Virginia(弗吉尼亚大学)
离线强化学习(RL)的目标是使用预先收集的数据集学习最佳策略,而无需与环境进行进一步的交互。虽然在以前的文献中已经提出了各种离线RL算法,但极大极小最优性只(几乎)建立了表马尔可夫决策过程(MDP)。本文主要研究了具有线性函数逼近的离线强化学习,提出了一种新的基于悲观的离线线性多目标规划算法。在我们的算法的核心是不确定性分解通过一个参考函数,这是新的离线RL下的线性函数近似的文献。理论分析表明,我们的算法可以匹配的性能下限对数因子。我们还将我们的技术扩展到两人零和马尔可夫博弈(MG),并建立了一个新的性能下界,收紧了现有的结果,并验证了所提出的算法的近似极小极大最优性.据我们所知,这些是第一个计算效率和近极大极小最优算法离线单代理MDP和MG与线性函数近似。
2023-03-01 cs.GT cs.LG stat.ML
Optimality guarantees for distributed statistical estimation
University of California, Berkeley(加州大学伯克利分校)
大型数据集通常需要执行分布式统计估计,完整的数据集跨多台机器划分,机器之间的通信有限。为了研究这样的情况下,我们定义和研究的经典极大极小风险,适用于分布式设置的一些改进,比较与访问整个数据的估计的性能。这些量的下限提供了实现集中式极大极小风险所需的最小通信量的精确表征。我们研究了两类分布式协议:一类是机器独立地通过信道发送消息而没有反馈,另一类是允许交互式通信,其中中央服务器将消息从给定的机器广播到所有其他机器。我们建立了各种问题的下界,包括几个家庭的位置估计和不同类型的回归模型的参数估计。我们的研究结果包括一类新的定量数据处理不等式,用于表征有限的通信的影响。
2014-06-21 cs.IT cs.LG math.IT
Adaptive minimax optimality in statistical inverse problems via SOLIT -- Sharp Optimal Lepskii-Inspired Tuning
针对统计线性逆问题中正则化参数需自适应选择的问题,提出仅依赖数据、噪声水平、算子与滤波的 SOLIT 后验规则,证明其 oracle 不等式与极小极大最优速率,并通过模拟验证性能。
2023-12-11 cs.NA math.NA math.ST
Nearly Minimax Optimal Regret for Multinomial Logistic Bandit
Seoul National University(首尔国立大学)
本文针对上下文多项式逻辑斯谛老虎机问题,在均匀和非均匀奖励下分别证明了极小极大最优遗憾界,并提出常数时间算法OFU-MNL+实现匹配上界,首次达到该问题的最优性。
2025-10-16 cs.LG stat.ML