Minimax Rates for Robust Community Detection
在这项工作中,我们研究的社区发现的随机块模型与敌对节点损坏的问题。我们的主要结果是一个有效的算法,可以容忍$ε$ -分数的腐败,并实现错误$O(ε) + e^{-\frac{C}{2} (1 \pm o(1))}$其中$C = (\sqrt{a} - \sqrt{b})^2$是信噪比和$a/n$和$b/n$是社区间和社区内的连接概率分别。这些界限基本上匹配的极小极大率的SBM没有腐败。我们还给出了稳健的$\mathbb{Z}_2$同步算法。在我们的算法的核心是一个新的半定的程序,使用全局信息鲁棒地提高粗糙聚类的准确性。此外,我们表明,我们的算法是双重鲁棒性的意义上说,他们的工作在一个更具挑战性的噪声模型,混合对抗腐败与无界单调变化,从半随机模型。
2022-07-25 cs.DS cs.LG cs.SI
Maximum Likelihood Estimation of Sparse Networks with Missing Observations
连接概率矩阵的估计是研究稀疏网络的关键问题之一。在这项工作中,我们考虑稀疏图子模型和非齐次随机图模型下产生的网络与丢失的观察。使用随机块模型作为参数代理,我们限制了网络连接概率的极大似然估计的风险,并证明了它是极小极大最优的。当风险以Frobenius范数度量时,在多项式时间内运行的估计器都不能达到这个问题的最小最大最优收敛速率。因此,极大似然估计是特别感兴趣的,因为在文献中已经提出了对它的计算有效的近似,并且经常在实践中使用。
2021-04-27 math.ST stat.TH
Statistical inference for generative adversarial networks and other minimax problems
本文从统计推断角度研究GAN,证明样本极小极大问题的解集是总体解集的一致估计,并提出构造具有期望覆盖概率的置信集的方法,结果适用于非凸非凹多解的一般极小极大问题。
2023-12-05 math.ST stat.ML stat.TH
The Minimax Rate of HSIC Estimation for Translation-Invariant Kernels
Institute for Program Structures and Data Organization(程序结构与数据组织研究所);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院);Department of Statistics(统计系);London School of Economics(伦敦政治经济学院)
本文研究了HSIC估计的极小化极大速率,证明了在$\mathbb R^d$上包含高斯分布的Borel测度和连续有界平移不变特征核下,该速率为$\mathcal O(n^{-1/2})$,并证实了常用估计器的最优性。
2024-10-14 cs.IT cs.LG math.IT
Minimax Optimal Reinforcement Learning with Quasi-Optimism
Seoul National University(首尔国立大学)
本文提出 EQO 强化学习算法,用与状态-动作访问次数倒数成比例的简单奖励项实现准乐观探索,在最弱假设下取得表格 RL 已知最优遗憾界,并实证验证其性能与计算效率。
2025-07-27 cs.LG stat.ML
Minimax Synthesis of Network Mechanisms
Yale University(耶鲁大学);University of Pennsylvania(宾夕法尼亚大学)
针对单一观测网络反映多种机制的问题,提出从图中同时估计各机制贡献及其组合方式的方法,通过偏差校正实现有效推断,并给出组合规则可识别性的稠密阈值。
2026-06-16 math.ST stat.ME stat.TH
Minimax spectral estimation of weighted Laplace operators
Center for research in economics and Statistics(经济与统计研究中心)
本文研究了加权拉普拉斯算子谱的最小最大估计问题,提出通过插值方法在不同正则性条件下估计特征函数和特征值的最优速率,并展示了渐近有效估计器的存在性。
2025-11-27 math.SP math.ST stat.TH
On asymptotically efficient statistical inference on a signal parameter
研究了高斯白噪声中信号参数的置信估计和假设检验问题。对于这些问题,我们指出了下界的渐近效率在区域的中等偏差概率。这些下界是局部渐近极小极大Hajek-Le Cam估计下界和假设检验Pitman有效性下界的版本。得到了中偏差概率对数渐近和锐渐近的下界。
2015-01-24 math.ST stat.TH
High-Confidence Minimax Testing with Prescribed Errors
KAIST(韩国科学技术院)
针对检验中水平和目标第二类错误可能很小且不同阶的情况,提出基于二元约化的下界技术,保留两种错误的不同角色,导出两个方向KL信息需求,结合为二元Jeffreys散度,得到对水平和目标第二类错误的对数依赖,并在多个检验问题中建立最优极小极大速率。
2026-07-14 math.ST stat.TH
Validation of credit default probabilities via multiple testing procedures
我们应用多重检验程序来验证信用评级系统中估计的违约概率。我们的目标是确定评级类别的违约概率估计不准确,同时仍然保持一个预定义的水平,犯第一类错误的家庭的错误率(FWER)和错误发现率(FDR)的测量。对于FWER,我们还考虑采取可能的离散数据的程序。考虑检验统计量。这些方法的性能示出在模拟设置和经验的默认数据。
2010-06-25 q-fin.ST stat.AP
Adaptive and minimax optimal estimation of the tail coefficient
研究了满足$(α, β)$二阶Pareto型条件的分布的尾指数$α$的估计问题,其中β为二阶系数.当$β$可用时,先前证明了可以用预言率$n^{-β/(2β+1)}$估计$α$。相反,当$β$不可用时,用预言率估计$α$是具有挑战性的;因此通常会做出暗示$β$可估计性的额外假设。在本文中,我们提出了一个自适应估计的$α$,并表明,该估计达到率$(n/\log\log n)^{-β/(2β+1)}$没有先验知识的$β$和任何额外的假设。此外,我们证明了这个$(\log\log n)^{β/(2β+1)}$因素是不可避免的,通过获得同伴下界。
2014-07-04 math.ST stat.TH
Conformalized Quantile Regression and Minimax Limits of Fixed-Score Calibration under Known Covariate Shift
HSE University(高等经济大学);Lomonosov Moscow State University(罗蒙诺索夫莫斯科国立大学);Laboratoire de Recherche d’EPITA(EPITA研究实验室);University of Duisburg-Essen(杜伊斯堡-埃森大学);Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)(穆罕默德·本·扎耶德人工智能大学(MBZUAI))
本文为分裂保形分位数回归建立非渐近$L^p$误差界,并在已知协变量偏移下推导匹配的极小极大上下界,适用于稀疏ReLU网络。\n
2026-09-22 cs.LG math.ST stat.ML
Minimax Rates for Learning Smooth Populations of Parameters
Carnegie Mellon University(卡内基梅隆大学)
本文研究二项混合密度的逐点估计,刻画同质与异质试验下的极小极大速率,揭示识别障碍与有效样本量的影响,并给出正则化正交级数估计量。
2026-10-12 math.ST stat.ME stat.TH
Minimax Optimal Simple Regret in Two-Armed Best-Arm Identification
Department of Basic Science, The University of Tokyo(东京大学基础科学系)
本研究证明在双臂固定预算最优臂识别中,Neyman分配在简单遗憾上达到极小极大最优,且无需局部分布假设,并在伯努利分布下退化为均匀分配。
2025-01-21 cs.LG econ.EM math.ST
Model non-collapse: Minimax bounds for recursive discrete distribution estimation
School of Computer and Communication Sciences, EPFL(计算机与通信科学学院,洛桑联邦理工学院)
本文研究了自消费循环中离散分布估计的极小最大损失,证明了在有源信息和无源信息之间损失比率的增长,并提供了数据积累和替换设定下的下界和上界。
2026-01-05 cs.IT math.IT math.ST
Minimax Optimal Regression over Sobolev Spaces via Laplacian Eigenmaps on Neighborhood Graphs
本文研究了Laplacian特征映射主成分回归(PCR-LE)的统计性质,PCR-LE是一种基于Laplacian特征映射(LE)的非参数回归方法。PCR-LE通过将观察到的响应的向量${\bf Y} = (Y_1,\ldots,Y_n)$投影到由邻域图拉普拉斯算子的某些特征向量所跨越的子空间上来工作。我们证明了PCR-LE在索伯列夫空间上实现了随机设计回归的极大极小收敛率。在设计密度$p$上的充分平滑条件下,PCR-LE实现了估计(其中平方$L^2$范数中的最优速率已知为$n^{-2s/(2s + d)}$)和拟合优度检验($n^{-4s/(4s + d)}$)的最优速率。我们还表明,PCR-LE是\emph{manifold adaptive}:也就是说,我们考虑的情况下,设计是支持在一个小的内在维度$m$流形,并给出上界建立PCR-LE实现更快的极小极大估计($n^{-2s/(2s + m)}$)和测试($n^{-4s/(4s + m)}$)的收敛速度。有趣的是,这些速率几乎总是比已知的图拉普拉斯特征向量收敛到其总体水平极限的速率快得多;换句话说,对于这个问题,从统计学上讲,估计特征的回归似乎比估计特征本身容易得多。我们支持这些理论结果与经验证据。
2021-11-14 math.ST stat.ML stat.TH
Minimax estimation in sparse canonical correlation analysis
典型相关分析是一种广泛使用的多元统计技术,用于探索两组变量之间的关系。本文研究了高维情形下主典型相关方向的估计问题。近年来,在典型相关方向稀疏的假设下,针对高维海量数据的处理提出了多种方法。然而,在文献中几乎没有理论依据。在本文中,我们建立了率最优的非渐近Minimax估计关于一个适当的损失函数的广泛的模型空间。观察到两个有趣的现象。首先,极小极大率不受冗余参数的影响,即两组随机变量的协方差阵,尽管它们需要在典型相关分析问题中估计。其次,我们允许存在的残余典型相关方向。然而,他们不影响极小极大率在一个温和的条件下的特征间隙。利用秩约束下高斯二次型的广义sin-theta定理和经验过程界,建立了极大极小上界.
2015-10-15 math.ST stat.TH
Minimax rates for latent position estimation in the generalized random dot product graph
本文在二至无穷范数下建立了RDPG和GRDPG模型中潜位置估计的极小极大下界,证明特定谱嵌入方法可达到该下界,并利用Hadamard矩阵构造证明了低秩加噪声网络模型子空间估计的对应下界。
2023-07-04 math.ST stat.TH
Missing Mass Estimation from Sticky Channels
分布估计下的易错或非理想采样建模为“粘性”的渠道最近已被研究的应用,如DNA计算的动机。缺失质量,缺失字母的概率之和,是一个重要的数量,在分布估计中起着至关重要的作用,特别是在大字母制度。在这项工作中,我们考虑的问题,估计缺失的质量,这已经得到了很好的研究独立同分布(i.i.d)抽样的情况下,抽样是“粘性”。准确地说,我们考虑的情况下,每个样本从一个未知的分布得到重复的几何分布的次数。我们证明了在这种粘性采样通道中估计缺失质量的均方误差(MSE)的极小极大率。通过对修正的Good-Turing估计量的风险进行界化,得到了极大极小化率的上界.通过推广Le Cam方法,得到了极大极小化率的匹配下界.
2022-02-06 math.ST stat.TH
Minimax-Optimal Spectral Clustering with Covariance Projection for High-Dimensional Anisotropic Mixtures
Department of Statistics, Columbia University(哥伦比亚大学统计学系)
本文提出了一种基于协方差投影的谱聚类方法,以应对高维各向异性混合物中的复杂噪声结构,通过改进的重新分配步骤和理论分析,实现了最小最大最优的聚类性能。
2026-01-26 math.ST stat.ME stat.ML
Distributed Contextual Linear Bandits with Minimax Optimal Communication Cost
University of California, Los Angeles(加州大学洛杉矶分校);Google(谷歌);DeepMind(深度思维)
我们研究了分布式上下文线性土匪随机上下文,其中$N$代理合作解决线性土匪优化问题与$d$维功能的过程中的$T$轮。对于这个问题,我们推导出有史以来第一个信息理论的下限$Ω(dN)$的通信成本的任何算法,最佳执行的遗憾最小化设置。然后,我们提出了一个分布式批量消除版本的LinUCB算法,DisBE-LUCB,其中代理之间通过一个中央服务器共享信息。我们证明了通信成本的DisBE-LUCB匹配我们的下限对数因子。特别地,对于具有已知上下文分布的场景,DisBE-LUCB的通信成本仅为$\tilde{\mathcal{O}}(dN)$,并且其遗憾为${\tilde{\mathcal{O}}}(\sqrt{dNT})$,这与用于$NT$轮的最优单代理算法所引起的数量级相同。我们还提供了类似的界限,实际设置的上下文分布只能估计。因此,我们所提出的算法是几乎极小极大最优的\emph{both regret and communication cost}。最后,我们提出了DecBE-LUCB,一个完全分散的版本的DisBE-LUCB,它的运作没有一个中央服务器,在那里代理共享信息与他们的\emph{immediate neighbors}通过一个精心设计的共识程序。
2022-12-08 cs.LG stat.ML
Minimax rates of convergence for the nonparametric estimation of the diffusion coefficient from time-homogeneous SDE paths
本文针对时间齐次SDE扩散过程,在高频离散观测下研究扩散系数平方的非参数估计,建立了不同观测方案下Hölder空间中的极小极大收敛速率。
2025-06-19 math.ST stat.TH
Nearly Minimax Optimal Reinforcement Learning for Linear Markov Decision Processes
University of California, Los Angeles(加州大学洛杉矶分校)
本研究针对线性马尔可夫决策过程的强化学习问题,提出基于带特殊权重的加权线性回归、结合新型方差估计器的计算高效算法,首次达到接近极小极大最优的悔界,为该领域最优RL问题提供完整解答。
2023-11-04 cs.LG math.OC stat.ML
Optimization of Smooth Functions with Noisy Observations: Local Minimax Rates
Machine Learning Department, Carnegie Mellon University(卡内基梅隆大学机器学习系);Department of Statistics and Data Science, Carnegie Mellon University(卡内基梅隆大学统计与数据科学系)
研究了具有零阶反馈的未知非凸光滑函数的全局优化问题。在这种设置中,允许算法自适应地查询不同位置处的底层函数,并接收查询点处的函数值的噪声评估(即,算法可以访问零阶信息)。优化性能的评估在估计的最优和真正的最优的函数值的期望差。与经典优化设置相反,优化算法不能直接访问一阶信息(如梯度)。我们表明,经典的极大极小分析框架,这大致表征了在这种情况下的优化算法的最坏情况下的查询复杂性,导致过于悲观的结果。我们提出了一个局部极小极大框架来研究自适应函数评估优化光滑函数的基本困难,它提供了零阶优化的内在困难的精细图像。我们发现,对于全局最小值附近水平集快速增长的函数,精心设计的优化算法可以用更少的查询来确定一个接近全局最小值的函数。对于强凸和光滑函数的特殊情况,我们隐含的收敛速度匹配的零阶凸优化问题。在频谱的另一端,对于最坏情况下的光滑函数,没有算法可以比在$\ell_\infty$ -范数中估计整个未知函数的极大极小速率更快地收敛。我们提供了一个直观和有效的算法,达到推导出的误差上界。
2018-03-22 cs.LG math.ST stat.ML
Model Assisted Variable Clustering: Minimax-optimal Recovery and Algorithms
基于模型的聚类定义了相对于嵌入相似性概念的模型的总体级别聚类。为这种模型量身定制的算法产生具有明确统计解释的估计聚类。我们在这里采取这种观点,并引入G块协方差模型作为变量聚类的背景模型。在这样的模型中,如果一个集群中的两个变量与所有其他变量具有相似的关联,则它们被认为是相似的。例如,当变量组是相同潜在因子的噪声破坏版本时,可能会出现这种情况。我们量化的困难,从一个G块协方差模型中产生的聚类数据的聚类接近度,测量两个相关的,但不同的,集群分离指标。我们推导出极大极小聚类分离阈值,这是度量值,低于该值没有算法可以准确地恢复模型定义的聚类,并表明它们是不同的两个度量。因此,我们开发了两种算法,COD和PECOK,量身定制的G块协方差模型,并研究他们的最小最优相对于每个指标。独立感兴趣的是,分析的PECOK算法,这是一个校正的凸松弛的流行的K-均值算法的基础上,提供了第一个统计分析的变量聚类算法。此外,我们对比我们的方法与另一种流行的聚类方法,谱聚类,专门变量聚类,并表明,通过这种方法确保准确的集群恢复需要集群有一个更高的分离,相对于极大极小阈值。广泛的模拟研究,以及我们的数据分析,证实了我们的方法的适用性。
2018-12-13 math.ST stat.ME stat.ML
Nearly Minimax Optimal Regret for Learning Linear Mixture Stochastic Shortest Path
University of California, Los Angeles(加州大学洛杉矶分校)
针对线性混合随机最短路径问题,提出基于扩展值迭代与高阶矩递归估计方差感知置信集的新算法,消除成本下界等限制性假设,实现了近似极小极大最优的遗憾界。
2024-02-14 cs.LG stat.ML
Nearly Minimax Discrete Distribution Estimation in Kullback-Leibler Divergence with High Probability
Leiden University(莱顿大学);TU Delft(代尔夫特理工大学);University of Amsterdam(阿姆斯特丹大学)
本文研究了在Kullback-Leibler散度中以高概率估计离散分布的最小最大速率,发现其速率受双对数因子影响,且比总变差和Hellinger距离更难估计。
2026-02-20 cs.LG stat.ML
Regularization and Variance-Weighted Regression Achieves Minimax Optimality in Linear MDPs: Theory and Practice
The University of Tokyo(东京大学);OMRON SINIC X(欧姆龙 SINIC X 研究院);DeepMind(深度思维);Google Research(谷歌研究院);Peking University(北京大学);Otto von Guericke University Magdeburg(马格德堡奥托·冯·格里克大学);University of Alberta(阿尔伯塔大学)
针对线性MDP中MDVI算法缺乏理论保证的问题,提出方差加权最小二乘MDVI(VWLS-MDVI)达到极小极大最优样本复杂度,并给出实用算法DVW提升深度RL性能。
2026-10-06 cs.LG stat.ML
Two-Sided Nearest Neighbors: An adaptive and minimax optimal procedure for matrix completion
Cornell University(康奈尔大学);University of Pennsylvania(宾夕法尼亚大学);Cornell Tech(康奈尔科技)
本文针对矩阵补全问题,提出自适应且极小极大最优的双边最近邻算法,其均方误差可自适应非线性光滑度,在正则条件下达到神谕误差率,经模拟和HeartSteps数据验证有效。
2026-08-26 cs.LG math.ST stat.ME
Quantized Nonparametric Estimation over Sobolev Ellipsoids
我们制定的存储或通信约束下的极大极小估计的概念,并证明了一个扩展的非参数估计Sobolev椭球的平斯克定理。放置用于编码任何估计的比特数的限制,我们给出了严格的下限和上界的过度风险,由于量化的比特数,信号大小,和噪声水平。这建立了索伯列夫空间的量化约束下的存储和风险之间的帕累托最优权衡。我们的结果和证明技术结合元素的率失真理论和极大极小分析。建议的量化估计方案,这表明可扩展性的下界,是自适应的,在通常的统计意义上,实现最佳的量化极大极小速率的索伯列夫空间的平滑参数的知识。它在计算意义上也是自适应的,因为它仅在观察数据之后构造代码,以动态地将更多码字分配给估计信号大小较大的块。包括模拟,说明量化的统计风险的影响。
2017-04-11 math.ST stat.ML stat.TH
Global and Individualized Community Detection in Inhomogeneous Multilayer Networks
University of Pennsylvania(宾夕法尼亚大学);Stanford University(斯坦福大学)
在网络应用中,以在同一组受试者上观察到的多个网络的形式获得数据集已经变得越来越普遍,其中每个网络是在相关但不同的实验条件或应用场景中获得的。这样的数据集可以通过多层网络来建模,其中每一层本身是一个单独的网络,而不同的层是相关联的并共享一些公信息。本文研究了一个风格化但信息量丰富的非均匀多层网络模型中的社区发现问题。在我们的模型中,层由不同的随机块模型产生,其社区结构是一个共同的全局结构的(随机)扰动,而不同层中的连接概率是不相关的。针对对称的两个块的情况下,我们建立了minimax率的共同结构的整体估计和分层社区结构的个性化估计。两个极大极小化率都有尖锐的指数。此外,我们提供了一个有效的算法,同时是渐近极小极大最优的估计任务在温和的条件下。最佳速率取决于信息量最大的层的数量的奇偶性,这种现象是由层间的不均匀性引起的。该方法扩展到处理多个和潜在的不对称社区的情况下。我们证明了它的有效性模拟的例子和一个真正的多模态单细胞数据集。
2022-05-19 cs.IT cs.LG math.IT
Doubly-robust inference and optimality in structure-agnostic models with smoothness
本文针对观测数据下的平均处理效应估计问题,提出带光滑性约束的结构不可知混合分布族,推导极小极大下界,设计出双重稳健且在该分布族下达到最优收敛速率的ATE估计量,并通过模拟验证理论结果。
2024-12-12 stat.ME
Minimax Hypothesis Testing for the Bradley-Terry-Luce Model
Department of Computer Science and the Elmore Family School of Electrical and Computer Engineering, Purdue University(计算机科学系和埃尔莫尔家族电气与计算机工程学院,普渡大学)
本文提出了一种基于最小最大理论的假设检验方法,用于判断给定的成对比较数据是否源自布雷德利-蒂尔-刘模型,并通过实验验证了该方法的性能。
2025-12-02 cs.IT cs.LG math.IT
Minimax Rates for Estimating the Dimension of a Manifold
机器学习和计算几何中的许多算法都需要支持数据概率分布的流形的固有维数作为输入。这个参数很少知道,因此必须估计。我们的特点是这个问题的统计困难,推导出上界和下界的极大极小率估计的尺寸。首先,我们考虑的问题,测试的假设,支持的数据生成概率分布是一个行为良好的流形的内在尺寸$d_1$与替代,它是尺寸$d_2$,与$d_{1}<d_{2}$。带着身份证。样本的大小$n$,我们提供了一个上限的概率选择错误的尺寸$O\left( n^{-\left(d_{2}/d_{1}-1-ε\right)n} \right)$,其中$ε$是一个任意小的正数。证明是基于边界的旅行推销员路径的长度通过数据点。我们还证明了一个下界的$Ω\left( n^{-(2d_{2}-2d_{1}+ε)n} \right)$,通过应用Le Cam的引理与一组特定的$d_{1}$维概率分布。然后,我们扩展这些结果得到极小极大率估计的维数良好的表现流形。得到了嵌入维数为$O \left( n^{-(\frac{1}{m-1}-ε)n} \right)$阶的上界和嵌入维数为$Ω\left( n^{-(2+ε)n} \right)$阶的下界.
2019-12-31 cs.CG math.ST stat.TH
Global optimization of Lipschitz functions
本文的目标是设计顺序策略,导致有效的优化下,唯一的假设,它有一个有限的Lipschitz常数的未知函数。我们首先确定通用顺序算法的一致性的充分条件,并制定其性能的预期极大极小率。我们介绍和分析的第一个算法称为LIPO假设Lipschitz常数是已知的。一致性,极大极小利率LIPO的证明,以及在一个额外的Hölder一样的条件下的快速利率。一个自适应版本的LIPO也介绍了更现实的设置,其中Lipschitz常数是未知的,并估计随着优化。类似的理论保证,以保持自适应LIPO算法和数值评估提供了在文件的最后,以说明这种战略的潜力,相对于国家的最先进的方法在典型的基准问题的全局优化。
2017-06-15 stat.ML
Estimation and inference for minimizer and minimum of convex functions: optimality, adaptivity and uncertainty principles
该研究在非渐近局部极小极大框架下探究凸回归函数极小点与极小值的估计推断,提出自适应高效算法并给出下界,还建立了二者同时估计的不确定性原理。
2024-03-10 math.ST stat.ME stat.TH
Towards Minimax Optimality of Model-based Robust Reinforcement Learning
CMAP, CNRS, Ecole Polytechnique, Institut Polytechnique de Paris(CMAP、法国国家科学研究中心、巴黎综合理工学院、巴黎理工学院);INRIA Paris, HeKA(法国国家信息与自动化研究所巴黎分部、HeKA);Centre de Recherche des Cordeliers, INSERM, Universite de Paris, Sorbonne Universite(科尔德里耶研究所、法国国家健康与医学研究院、巴黎大学、索邦大学);Cohere(科here公司)
本文研究鲁棒折扣MDP在生成模型下的样本复杂度,针对Lp球不确定性集合,将sa-和s-矩形情形的样本复杂度统一改进至H^4|S||A|/ε^2,并在不确定性足够小时恢复非鲁棒下界。
2024-06-06 cs.LG stat.ML
Representation of small ball probabilities in Hilbert space and lower bound in regression for functional data
设$S=\sum_{i=1}^{+\infty}λ_{i}Z_{i}$,其中$Z_{i}$为同分布。与$\mathbb{E}\| Z\| ^{3}<+\infty$和$(λ_{i})_{i\in\mathbb{N}}$一起为正,为正非递增序列,使得$\sumλ_{i}<+\infty$。研究了$ε\downarrow0$时小球概率$\mathbb{P}(S<ε) $。我们从Lifshits(1997)的结果开始,他通过$S$的拉普拉斯变换计算了这个概率。我们证明了$\mathbb{P}(S<\cdot) $属于一类函数介绍德哈恩,著名的极值理论,一类伽玛变化的功能,其中指数积分表示。这种方法允许导出在固定点$x_{0}$:$\mathbb{E}(y|X=x_{0}%) $的函数数据的非参数回归率的界限,其中$(y_{i},X_{i})_{1\leq i\leq n}$是$(\mathbb{R},\mathcal{F}) $中的样本,$\mathcal{F}$是一些函数空间。事实证明,在一个一般的框架中,极小极大下界的风险是为了$(\log n)^{-τ}$的一些$τ>0$取决于数据的规律性和多项式率不能实现。
2011-03-02 math.PR math.ST stat.TH
Density Estimation with Contaminated Data: Minimax Rates and Theory of Adaptation
本文研究污染模型下逐点损失下的密度估计。目标是在i.i.d.下估计某个$x_0\in\mathbb{R}$的$f(x_0)$。观测值,$$ X_1,\dots,X_n\sim (1-ε)f+εg, $$,其中$g$代表污染分布。在多重测试的背景下,这可以被解释为估计在一个点的零密度。我们通过以下模型指标仔细研究了污染对估计的影响:污染比例$ε$、目标密度平滑度$β_0$、污染密度平滑度$β_1$和待估计点的污染水平$m$,即$g(x_0)\leq m$。它示出的极小极大率相对于平方误差损失的顺序为$$ [n^{-\frac{2β_0}{2β_0+1}}]\vee[ε^2(1\wedge m)^2]\vee[n^{-\frac{2β_1}{2β_1+1}}ε^{\frac{2}{2β_1+1}}], $$,其特征污染的确切影响的问题的难度。然后,我们建立了适应污染比例,平滑度和这两个数字的最小成本。它表明,在任何三种情况下,一些小的代价需要支付的适应。Lepski方法的变化被认为是实现最佳适应。当污染分布不具有光滑性假设时,也研究了该问题。这种允许任意污染分布的设置被认为是Huber的$ε$ -污染模型。极小极大率被证明是$$ [n^{-\frac{2β_0}{2β_0+1}}]\vee [ε^{\frac{2β_0}{β_0+1}}]. $$的适应理论也不同于光滑污染的情况。虽然适…
2018-07-27 math.ST stat.ME stat.TH
Minimax estimation of qubit states with Bures risk
量子统计学的中心问题是设计测量方案来估计一个未知的状态,给定一个$n$独立相同的准备系统的系综。对于局部二次损失函数,标准程序的风险具有通常的$1/n$标度。然而,已经注意到,对于诸如Bures距离的基于保真度的度量,常规(非自适应)量子位断层摄影方案的风险对于接近Bloch球的边界的状态缩放为$1/\sqrt{n}$。几个建议的估计似乎改善这种缩放,我们的目标是从所有状态的最大风险的角度来分析这个问题。我们提出了基于单独和自适应测量的量子比特估计策略,该策略实现了最大Bures风险的$1/n$缩放。涉及本地测量的估计器使用可用资源的固定部分$n$来估计Bloch向量方向;然后通过在估计器特征基中测量从剩余副本估计Bloch向量的长度。基于集体测量的估计使用局部渐近正态技术,使我们能够推导出其最大Bures风险的上界和下界。我们还讨论了如何构造一个最小最大最优估计在这种设置。最后,我们考虑量子相对熵,并表明基于集体测量的估计的风险达到率$O(n^{-1}\log n)$在此损失函数。此外,我们表明,没有估计可以实现更快的速度,特别是“标准”率$1/n$。
2017-09-25 math-ph math.MP quant-ph
Interpolating Discriminant Functions in High-Dimensional Gaussian Latent Mixtures
University of Toronto(多伦多大学);Cornell University(康奈尔大学)
本文考虑了在低维隐高斯混合结构和非零噪声的假设模型下高维特征的二进制分类。利用广义最小二乘估计器估计最优分离超平面的方向。所估计的超平面被示出为在训练数据上插值。虽然方向向量可以一致地估计,正如可以从线性回归的最新结果中预期的那样,但是朴素的插件估计无法一致地估计截距。一个简单的校正,需要一个独立的保持样本,使程序极小极大最优在许多情况下。后一个过程的插值属性可以保留,但令人惊讶的是,这取决于标签的编码方式。
2023-03-29 cs.LG math.ST stat.ME
Bayesian nonparametric estimation of coverage probabilities and distinct counts from sketched data
覆盖概率的估计,特别是缺失质量的估计,是一个经典的统计问题,在许多科学领域都有应用。在本文中,我们研究这个问题的随机数据压缩,或素描。这是一个新颖但实际相关的观点,它指的是必须基于真实数据的压缩和不完美的摘要或草图来估计覆盖概率的情况,因为完整的数据和不同符号的经验频率都不能直接观察到。我们的贡献是一个贝叶斯非参数方法来估计覆盖概率的数据勾勒通过随机散列,这也解决了具有挑战性的问题,恢复不同的计数在真实的数据和不同的计数与指定的经验频率的兴趣。所提出的贝叶斯估计是很容易适用于大规模的分析结合狄利克雷过程之前,虽然他们涉及一些开放的计算挑战下,更一般的Pitman-Yor过程之前。我们的方法的经验有效性通过数值实验和应用于Covid DNA序列,经典英语文献和IP地址的真实数据集得到证明。
2022-09-05 stat.ME stat.ML
Central Limit Theorems for Transition Probabilities of Controlled Markov Chains
Northwestern University(西北大学)
本文研究了受控马尔可夫链转移矩阵非参数估计的中心极限定理,揭示了日志策略下渐近正态性条件及CLT不存在的场景,推导了价值函数、Q函数和优势函数的CLT,并提出 goodness-of-fit检验用于检验日志数据的随机性。
2026-03-25 math.PR math.ST stat.ML
Nonparametric intensity estimation from noisy observations of a Poisson process under unknown error distribution
本文研究了圆形模型中Poisson点过程强度函数的间接观测非参数估计$N_1,\ldots,N_n$。这些观察出现从隐藏的点过程实现与目标强度通过污染与添加剂的错误。在误差分布只能从一个额外的样本$Y_1,\ldots,Y_m$估计的情况下,我们推导出极小极大收敛率相对于样本量$n$和$m$在抽象光滑条件下,并提出了一个正交系列估计,达到最佳的收敛速率。估计器的性能取决于维度参数的正确规范,其最佳选择取决于强度和误差密度的平滑特性。我们提出了一个基于模型选择的数据驱动的维度参数的选择,并表明自适应估计达到最小最大最优速率。
2019-02-17 math.ST stat.TH
Estimating failure probabilities
在风险管理中,通常必须估计一个随机向量落入极端失效集中的概率。在二元极值理论的框架下,我们构造了这种失效概率的一个估计,并在自然条件下分析了它的渐近性质。结果表明,如果对相关结构的极值近似至少与对边缘分布的广义Pareto近似一样精确,则估计误差主要取决于对边缘分布的统计分析的精度。此外,我们建立了置信区间,并简要讨论了推广到更高的维度和实际应用中出现的问题。
2015-06-03 math.ST stat.ME stat.TH
Adaptive estimation of and oracle inequalities for probability densities and characteristic functions
近年来,高斯移位有限区间试验的自适应估计理论和预言不等式理论取得了重大进展。特别是,尖锐的极大极小自适应估计和精确的指数型预言不等式已被建议为一个庞大的功能,包括分析和Sobolev与任何积极的指标,以及Efromovich-Pinsker和斯坦blockwise收缩估计。对于密度估计的一个更有趣的应用问题和/或特征函数估计的对偶问题,是否可能得到类似的结果?答案是“是的。特别是,所得到的结果包括精确的指数型预言不等式,允许考虑,在文献中第一次,同时尖锐的极小估计Sobolev密度与任何积极的指数(不一定大于1/2),无限可微密度(包括分析,整个和稳定),以及不是绝对可积的特征函数。同样的自适应估计也是速率minimax在一个熟悉的类分布与有界谱的密度和特征函数可以估计的参数率。
2008-06-18 math.ST stat.TH
Jump estimation in inverse regression
我们考虑从噪声观测的反卷积$ϕ*f$,其中$ϕ$是一些有界的$L_1$ -函数的阶阶梯函数$f$的估计。我们使用惩罚最小二乘估计器从观测值重建信号$f$,惩罚等于重建的跳跃数。渐近地,有可能以概率1正确估计跳跃数。鉴于跳跃的数量是正确的估计,我们表明,相应的参数估计的跳跃位置和跳跃高度是$n^{-1/2}$一致的,并收敛到一个联合的正态分布的协方差结构取决于$ϕ$,这个速度是minimax有界连续核$ϕ$。作为特例,我们得到了多相回归中最小二乘估计的渐近分布及其推广。在有界的$ϕ$得到的结果相比,我们表明,对于内核的奇异性的顺序$O(| x|^{-α}),1/2<α<1$,跳跃位置可以估计的速率为$n^{-1/(3-2α)}$,这又是极大极小速率。我们发现,这些速率不依赖于频谱信息的运营商,而是在时域中的本地化属性。最后,它证明,自适应采样不提高收敛的收敛速率,在严格的对比情况下,直接回归。
2008-03-14 math.ST stat.TH
Conditional density estimation in a regression setting
回归问题传统上是通过单变量特征如回归函数、尺度函数和回归误差的边际密度来分析的。这些特征是有用的,信息量大的时候,预测和响应之间的关联是相对简单的。关于关联的更详细的信息可以由给定预测器的响应的条件密度提供。在文献中,本文首次发展了条件密度的Minimax估计的理论,具有固定和随机设计的预测变量,有界和无界的响应和一个庞大的各向异性类的条件密度的回归设置。固定设计回归的研究是特别感兴趣的和新颖的,因为已知的文献致力于随机预测的情况下。对于上述模型,本文提出了一种通用的自适应估计器,它(i)与已知基础模型和估计的条件密度的预言机的性能相匹配;(ii)在大量各向异性条件密度上是尖锐的极小极大;(iii)当响应与预测因子无关时,至少是速率极小极大,因此二元条件密度变成了一元密度;(iv)适应于预测器的基本设计(固定或随机)。
2008-03-20 math.ST stat.TH
Minimax Rates of Estimating Approximate Differential Privacy
差分隐私已经成为一个被广泛接受的隐私概念,导致了许多私有化机制的引入和部署。然而,确保隐私保证是一个容易出错的过程,无论是在设计机制和实现这些机制。如果我们有一个数据驱动的方法来验证隐私保证,从黑盒访问到机制,这两种类型的错误都会大大减少。我们把它作为一个属性估计问题,并研究基本的权衡估计隐私保证的准确性和所需的样本数量。我们介绍了一种新的估计,使用多项式逼近的精心选择的程度,以最佳的权衡偏差和方差。与$n$样本,我们表明,这种估计实现了一个简单的插件估计与$n \ln n$样本,被称为有效的样本大小放大的现象的性能。通过与一个匹配的基本下界比较,证明了该估计量的极大极小最优性。
2019-05-24 cs.IT math.IT
Measuring support for a hypothesis about a random parameter without estimating its unknown prior
对于频率论的设置,参数随机性代表可变性而不是不确定性,一个假设相对于另一个假设的支持度的理想度量是后验和先验对数几率的差异。对于不能准确估计先验分布的情况,该理想支持可以由另一支持度量代替,该另一支持度量可以是在每个观察的基础上渐进无偏的理想支持的任何预测器。确定了两项合格的支助措施。第一个是关于总体的最小最大最优,相当于一个特定的贝叶斯因子。第二个是最坏样本极大极小最优的,相当于归一化的最大似然。它已被扩展的似然权重与更一般的模型兼容。一个这样的模型是两个独立的正常样本,基因表达微阵列数据分析的标准设置。将该模型应用于蛋白质组学数据表明,从单个蛋白质的数据计算的支持度可以接近20种蛋白质的数据所提供的后验和先验概率的估计差异。这表明随机参数模型适用于参数分布不能可靠估计的其他情况。
2011-04-02 cs.IT math.IT math.ST