Missing Mass Estimation from Sticky Channels
分布估计下的易错或非理想采样建模为“粘性”的渠道最近已被研究的应用,如DNA计算的动机。缺失质量,缺失字母的概率之和,是一个重要的数量,在分布估计中起着至关重要的作用,特别是在大字母制度。在这项工作中,我们考虑的问题,估计缺失的质量,这已经得到了很好的研究独立同分布(i.i.d)抽样的情况下,抽样是“粘性”。准确地说,我们考虑的情况下,每个样本从一个未知的分布得到重复的几何分布的次数。我们证明了在这种粘性采样通道中估计缺失质量的均方误差(MSE)的极小极大率。通过对修正的Good-Turing估计量的风险进行界化,得到了极大极小化率的上界.通过推广Le Cam方法,得到了极大极小化率的匹配下界.
2022-02-06 math.ST stat.TH
High-dimensional covariance matrix estimation with missing observations
本文研究了有缺失观测值的高维近似低秩协方差阵估计问题。我们提出了一个简单的程序计算易处理的高维,不需要填补缺失的数据。我们建立了非渐近稀疏预言不等式的协方差阵的估计与Frobenius和谱范数,有效的样本量和尺寸的任何设置的观察。我们进一步建立极大极小下界表明,我们的利率是极大极小最优的对数因子。
2012-05-11 math.ST stat.TH
Multivariate density estimation from privatised data: universal consistency and minimax rates
我们重新审视经典的非参数密度估计问题,但施加局部差分隐私约束。在这样的约束下,原始的多变量数据$X_1,\ldots,X_n \in \mathbb{R}^d$不能被直接观察到,并且所有的估计量都是合适的隐私机制的随机输出的函数。统计学家是自由选择的形式的隐私机制,在这项工作中,我们建议添加拉普拉斯分布噪声的离散化的矢量$X_i$的位置。基于这些随机化数据,我们设计了一种新的估计的密度函数,这可以被看作是一个私有化的版本,研究直方图密度估计。我们的理论结果包括泛逐点相容性和强泛$L_1$ -相容性。此外,还得到了Lipschitz函数类上的一个收敛速度,并给出了一个匹配的minimax下界.我们通过一个小的模拟研究说明了数据效用和隐私之间的权衡。
2022-11-12 math.ST stat.ME stat.TH
Two-Sided Nearest Neighbors: An adaptive and minimax optimal procedure for matrix completion
Cornell University(康奈尔大学);University of Pennsylvania(宾夕法尼亚大学);Cornell Tech(康奈尔科技)
本文针对矩阵补全问题,提出自适应且极小极大最优的双边最近邻算法,其均方误差可自适应非线性光滑度,在正则条件下达到神谕误差率,经模拟和HeartSteps数据验证有效。
2026-08-26 cs.LG math.ST stat.ME
Optimality of variational inference for stochastic block model with missing links
变分方法在网络数据分析中非常流行。这些方法获得的统计保证通常为随机块模型下的全局模型参数估计问题提供渐近正态性。在目前的工作中,我们考虑的情况下,网络与丢失的链接,这是重要的应用程序,并表明变分近似的最大似然估计收敛于极小极大率。这为含缺失环节的随机区组模型的参数估计问题提供了第一个极小极大最优易处理的估计器。我们补充我们的结果与模拟和真实网络的数值研究,这证实了这种估计比目前的方法的优势。
2021-11-05 math.ST stat.TH
Semi-supervised linear regression with missing covariates
Department of Statistics, University of Warwick(华威大学统计系)
本文提出半监督线性回归方法,处理缺失协变量问题,通过填补和加权步骤提供估计器,并在稀疏和非稀疏情况下证明了最优性。
2026-02-14 math.ST stat.ME stat.TH
Nonparametric classification with missing data
本文针对缺失数据下的非参数分类问题,提出基于 anova 型正交分解的框架并推导出不依赖环境维数的 minimax 速率,同时设计 HAM 分类器,在至多多对数因子内达到该速率并通过数值实验验证其有效性。
2024-05-02 math.ST stat.ME stat.TH
Maximum Likelihood Estimation of Sparse Networks with Missing Observations
连接概率矩阵的估计是研究稀疏网络的关键问题之一。在这项工作中,我们考虑稀疏图子模型和非齐次随机图模型下产生的网络与丢失的观察。使用随机块模型作为参数代理,我们限制了网络连接概率的极大似然估计的风险,并证明了它是极小极大最优的。当风险以Frobenius范数度量时,在多项式时间内运行的估计器都不能达到这个问题的最小最大最优收敛速率。因此,极大似然估计是特别感兴趣的,因为在文献中已经提出了对它的计算有效的近似,并且经常在实践中使用。
2021-04-27 math.ST stat.TH
Adaptive confidence intervals with missing data
Statistical Laboratory, University of Cambridge(剑桥大学统计实验室);Department of Data Sciences and Operations, University of Southern California(南加州大学数据科学与操作系);Department of Statistics, University of Chicago(芝加哥大学统计学系)
针对缺失数据下的总体均值置信区间构建,采用可实现污染模型,刻画适应未知污染比例等参数的最小最大长度,并给出达到最优速率的显式有限样本有效自适应区间,且对因果推断有启示。
2026-09-24 math.ST stat.ME stat.TH
On consistent estimation of the missing mass
给定$n$样本来自一个属于不同类型且比例未知的个体群体,我们如何估计在第$(n+1)$次抽取时发现新类型的概率?这是统计学中的一个经典问题,通常被称为缺失质量估计问题。Ohannesian和Dahleh \citet{Oha12}以及Mossel和Ohannesian \citet{Mos15}的最新结果表明:i)在不对类型比例施加进一步的结构假设的情况下,估计(学习)缺失的质量是不可能的; ii)在类型比例的尾部作为具有参数$α\in(0,1)$的规则变化函数衰减到零的假设下,缺失质量的古德-图灵估计量的一致性。在本文中,我们依靠贝叶斯nonparametrics工具提供了一种替代的,更简单的,证明了不可能的分布免费估计的失踪质量。据我们所知,使用贝叶斯思想来研究缺失质量的大样本渐近性是新的,它可能是独立的兴趣。仍然依赖于贝叶斯非参数工具,然后,我们表明,根据经常变化的类型比例的良好的图灵估计的收敛速度是最好的速度,任何估计可以实现,直到一个缓慢变化的功能,和极大极小率必须至少是$n^{-α/2}$。最后,我们讨论了我们的结果,并通过证明,良好的图灵估计是一个率最优的极大极小估计下定期变化的类型比例。
2018-06-25 math.ST stat.ML stat.TH
Minimax Rates of Community Detection in Stochastic Block Models
近年来,网络分析在统计学、计算机科学、概率论和应用数学等领域得到了越来越多的关注。随机块模型(SBM)的社团检测是网络分析中研究最多的课题。已经提出了许多方法。在各种条件下得到了一些漂亮而有意义的相变结果。在本文中,我们提供了一个一般的极大极小理论的社区检测。它给出了一个广泛的设置,包括均匀和非均匀的SBM,密集和稀疏的网络,有限的和不断增长的社区数量的失配率的极大极小率。极大极小率是指数的,不同于我们在统计文献中经常看到的多项式率。结果的直接后果是建立强一致性(精确恢复)以及弱一致性(部分恢复)的阈值现象。我们得到的上界的惩罚似然型方法的范围。该下界是通过一个新的减少从一个全局的不匹配率的一个节点的局部聚类问题,通过一个交换的属性。
2015-11-16 cs.SI math.ST stat.TH
Estimation of a k-monotone density, part 1: characterizations consistency, and minimax lower bounds
形状约束密度在许多非参数估计问题中会遇到。单调或凸(和单调)密度类可以看作是k-单调密度类的特殊情况。称密度g是k-单调的,如果它的连续导数直到k-2阶交替为负或正,且k-2阶导数分别根据k是偶数(或奇数)而凸(或凹)。如果k=1,则g是不增加的。这些类的形状约束密度之间的差距桥梁类的单调(1-单调)和凸递减(2-单调)密度的渐近结果是已知的,一类完全单调密度与k无限。在这一系列的四篇论文中,我们考虑(非参数)最大似然估计和最小二乘估计的k-单调密度。在第一部分(第一部分)中,我们证明了估计的存在性,并给出了一些刻画。我们还建立了一致性的性质,并证明了估计是简单的节点阶k(度k-1)的样条。进一步给出了k-单调密度g_0(x_0)及其导数g_0^{(j)}(x_0)的渐近极小极大风险下界,其中j=1,.,k-1,在不动点x_0处,假设g_0在x_0处的k阶导数为非零。
2005-09-04 math.ST stat.TH
Deep learning with missing data
Statistical Laboratory, University of Cambridge(剑桥大学统计实验室);Department of Statistics, London School of Economics(伦敦政治经济学院统计系)
提出模式嵌入神经网络(PENNs),结合任意插补技术处理缺失协变量,通过双重神经网络学习观测模式,理论证明其达到极小化最优收敛速率,实验验证性能显著提升。
2026-07-02 cs.LG math.ST stat.ME
Collaboratively Learning Linear Models with Structured Missing Data
Stanford University(斯坦福大学)
针对智能体特征子集不同的结构化缺失场景,提出含三步骤的分布式半监督Collab算法,无需传输标注数据即可实现接近渐近局部极小极大最优的协同线性模型学习效果。
2023-07-22 cs.DC cs.LG stat.ML
Minimax density estimation for growing dimension
本文提出了最小最大速率的密度估计时,数据维度$d$允许增长的观察数$n$,而不是保持固定的,在以前的分析。我们证明了一个非渐近的下界,它给出了最坏情况下的速度超过标准类的光滑密度,我们表明,核密度估计达到这个速度。我们也给Oracle的带宽选择,并得出最快的速度$d$可以与$n$增长,以保持估计的一致性。
2017-02-28 math.ST stat.TH
Missing $g$-mass: Investigating the Missing Parts of Distributions
本文提出缺失 g-质量概念以刻画分布中未观测部分的结构,针对阶-α 缺失质量和缺失 Shannon 熵给出极小极大收敛速率及改进的集中性尾部界。
2023-05-27 cs.IT math.IT math.ST
Minimax Analysis for Inverse Risk in Nonparametric Planer Invertible Regression
本文研究二维平面上可逆双Lipschitz函数逆估计的最小极大风险,提出水平集表示法并构造渐近可逆估计器,证明其速率与非可逆情形一致,表明可逆约束不增加估计复杂度。
2023-12-25 math.ST stat.ML stat.TH
Minimax rates without the fixed sample size assumption
我们推广了极小极大收敛速度的概念。与标准定义相反,我们不假设样本量是预先固定的。允许不同的样本量的结果在时间稳健的极大极小率和估计。这些可以是强对抗性的,基于所有样本量的最坏情况,也可以是弱对抗性的,基于所有停时的最坏情况。我们表明,标准和时间稳健率通常相差最多的对数因子,并为一些(我们猜想所有)指数家庭,他们不同的正是一个迭代对数因子。在许多情况下,时间鲁棒率可以说是更自然的考虑。例如,它们允许我们同时获得强的模型选择一致性和最优估计率,从而避免了“AIC-BIC困境”。
2021-05-29 math.ST stat.TH
Optimal estimation of high-order missing masses, and the rare-type match problem
该研究针对高阶缺失质量估计问题,提出非参数估计量与非渐近置信区间,证明极小极大估计需更强尾部假设,所得估计为最优极小极大估计,并为法医统计学中的似然比估计提供理论支撑。
2024-07-11 math.ST stat.TH
Global optimization of Lipschitz functions
本文的目标是设计顺序策略,导致有效的优化下,唯一的假设,它有一个有限的Lipschitz常数的未知函数。我们首先确定通用顺序算法的一致性的充分条件,并制定其性能的预期极大极小率。我们介绍和分析的第一个算法称为LIPO假设Lipschitz常数是已知的。一致性,极大极小利率LIPO的证明,以及在一个额外的Hölder一样的条件下的快速利率。一个自适应版本的LIPO也介绍了更现实的设置,其中Lipschitz常数是未知的,并估计随着优化。类似的理论保证,以保持自适应LIPO算法和数值评估提供了在文件的最后,以说明这种战略的潜力,相对于国家的最先进的方法在典型的基准问题的全局优化。
2017-06-15 stat.ML
Minimax optimal rates for Mondrian trees and forests
随机森林是Breiman提出的一种广泛使用的分类和回归算法。虽然最初被设计为批处理算法,但已经提出了几种变体来处理在线学习。这种森林的一个特定实例是\emph{Mondrian Forest},其树是使用所谓的蒙德里安过程构建的,因此允许以流式方式轻松更新其构造。在本文中,我们提供了一个深入的理论研究的蒙德里安森林在一个批处理学习设置,基于新的结果蒙德里安分区。我们的结果包括Mondrian树和森林的一致性和收敛速度,这证明是极小极大最优的$s$ -Hölder函数与$s \in (0,1]$(树和森林)和$s \in (1,2]$(仅森林),假设在这两种情况下,他们的复杂性参数的适当调整。此外,我们证明了一个自适应的过程(未知的$s \in (0, 2]$)可以构建蒙德里安森林与标准的模型聚合算法相结合。这些结果是第一次证明,一些特定的随机森林实现极大极小率\textit{in arbitrary dimension}。由于其非常简单的分布特性,导致极大极小率,蒙德里安树是一个有前途的基础,更复杂的,但理论上健全的随机森林的变种。
2019-04-09 math.ST stat.ML stat.TH
Consistency of invariance-based randomization tests
基于不变性的随机化检验--例如置换检验、旋转检验或符号变化--是一类重要且广泛使用的统计方法。它们允许在对数据分布的弱假设下进行推论。大多数工作集中在它们的I类差错控制属性上,而它们的一致性属性却少得多。我们开发了一个通用的框架和一组结果的一致性的不变性为基础的随机化测试在信号加噪声模型。我们的框架是扎根于深数学领域的表示论。我们允许变换是一般的紧拓扑群,如旋转群,作用于一般线性群表示。研究了具有广义次可加性的检验统计量。我们将我们的框架应用于统计学中的一些基本和非常重要的问题,包括稀疏向量检测,噪声中低秩矩阵的测试,线性回归中的稀疏检测和双样本测试。与极大极小下界相比,我们发现,在某些情况下,随机化测试检测信号在极大极小最优率。
2021-12-20 math.ST stat.ME stat.TH
Noisy Nonnegative Tucker Decomposition with Sparse Factors and Missing Data
Department of Mathematics, Hong Kong Baptist University(香港浸会大学数学系)
针对含噪且不完整的多维非负数据,提出利用 ℓ0 稀疏因子的非负 Tucker 分解与补全方法,并建立匹配极小极大下界的误差界。
2024-12-02 cs.LG stat.ML
Minimax Theory of Likelihood-Based Deep Learning for Speckle Regression
University of Notre Dame(圣母大学)
研究乘性散斑噪声和加性高斯噪声模型下平滑非参数回归函数的极小极大估计,用基于似然的深度神经网络估计器,建立估计误差上界与极小极大下界,证明估计难度不变,数值实验验证方法有效性。
2026-07-16 math.ST stat.ML stat.TH
Minimax properties of Dirichlet kernel density estimators
本文研究了由Aitchison和Lauder(1985)提出的用于成分数据分析的Dirichlet核密度估计在$β$空间中的渐近性态,以及在$L^p$损失下的渐近性态.在最近的工作中,Ouimet和Tolosana-Delgado(2022)建立了该估计量的一致强相合性和渐近正态性。作为补充,它在这里示出的Aitchison-Lauder估计可以实现极小极大速率渐近为一个合适的选择的带宽时,$(p,β) \in [1, 3) \times (0, 2]$或$(p, β) \in \mathcal{A}_d$,其中$\mathcal{A}_d$是一个特定的子集的$[3, 4) \times (0, 2]$,取决于维度$d$的Dirichlet内核。同时也证明了当$p \in [4, \infty)$或$β\in (2, \infty)$都满足时,该估计量不可能是极小极大的.这些结果扩展到多变量的情况下,也纠正了Bertin和Klutchnikoff(2011)关于Beta核估计的极大极小性质的早期发现。
2023-01-30 math.PR math.ST stat.TH
Almost the Best of Three Worlds: Risk, Consistency and Optional Stopping for the Switch Criterion in Nested Model Selection
我们研究了Van Erven等人(2012)引入的开关分布,应用于模型选择和后续估计。虽然切换是强一致的,但在这里,我们证明了当比较两个嵌套指数族时,它达到了最小最大最优参数风险率,直到$\log\log n$因子,部分证实了Lauritzen(2012)和Cavanaugh(2012)的猜想,即切换的行为与Hannan-Quinn准则一样渐近。此外,与贝叶斯因子模型选择类似,但与标准显著性检验不同,当其中一个模型表示简单假设时,切换标准定义了稳健的原假设检验,这意味着其I型错误概率可以有界,而与停止规则无关。因此,转换是一致的,不敏感的可选停止和几乎最小最大风险最优,表明,尽管杨(2005年)的不可能性的结果,它是可能的“几乎”结合AIC和贝叶斯因子模型选择的优势。
2016-12-15 math.ST stat.TH
Kullback-Leibler Consistency of $p$-dimensional Pólya Tree Posteriors and Differential Entropy Estimation
Institute of Mathematics and Statistics, University of São Paulo(圣保罗大学数学与统计学院)
本文研究了$p$-维Pólya树后验的Kullback-Leibler一致性,并提出了一种在大维度下具有一致性的微分熵估计方法。
2026-01-05 math.ST stat.TH
DBSCAN: Optimal Rates For Density Based Clustering
我们研究了密度聚类树的最优估计问题,在各种假设的基础上的密度。在Chaudhuri et al.[2014]的开创性工作的基础上,我们提出了一个更适合光滑密度的聚类一致性的新概念,并推导了任意度α的Holder光滑密度的聚类树估计的最小最大一致性率。我们提出了一个计算效率,速率最优的聚类树估计的基础上,一个简单的扩展流行的基于密度的聚类算法DBSCAN的酯等。[1996]。该过程依赖于一个核密度估计与适当的选择的内核和带宽,以产生一个序列的嵌套随机几何图形,其连接的组件形成一个层次的集群。聚类树估计得到的最优速率取决于底层密度的平滑程度,有趣的是,匹配极大极小速率的上确界范数下的密度估计。我们的结果补充和扩展了Sriperumbudur和Steinwart [2012]中对DBSCAN算法的分析。最后,我们考虑了跳跃不连续密度的水平集估计和聚类一致性,其中跳跃的大小和聚类之间的距离允许随着样本量的增加而消失。我们证明,我们的DBSCAN为基础的算法仍然是最小最大速率最优在这种设置。
2019-12-04 math.ST stat.TH
Change-Point Detection in Dynamic Networks with Missing Links
本文针对具有缺失连边的动态网络,提出基于矩阵CUSUM统计量的变点检测方法,证明其极小极大最优性和对缺失连边的稳健性,并通过模拟与真实数据验证其有效性。
2025-03-13 math.ST stat.TH
How good is Good-Turing for Markov samples?
本文研究 Good-Turing 估计器在马尔可夫样本缺失质量估计中的收敛性,证明其取决于转移矩阵删列后的 Perron 特征值与平稳分布的关系,并首次给出秩为 2 马尔可夫链的极小极大速率上下界。
2023-05-27 cs.IT math.IT math.ST
Minimax rates in permutation estimation for feature matching
Université Paris EST(巴黎东大学);Laboratoire de Statistique(统计实验室)
匹配两组特征的问题出现在计算机视觉的各种任务中,并且通常可以形式化为排列估计问题。我们解决这个问题,从统计的角度来看,并提供了一个理论分析的准确性,几个自然的估计。为此,极大极小分离率的调查和它的表达式作为样本量,噪声水平和维数的函数。我们考虑同方差和异方差噪声的情况下,并建立,在每种情况下,紧上界的几个估计的分离距离。这些上界被证明是不可改进的,无论是在homoscedastic和heteroscedastic设置。有趣的是,这些界限表明,相变发生时,尺寸$d$的功能是数量的对数的数量级的功能$n$。对于$d=O(\log n)$,速率是无量纲的,等于$σ(\log n)^{1/2}$,其中$σ$是噪声电平。相反,当$d$大于$c\log n$时,对于某些恒定的$c>0$,极小极大率随$d$而增加,并且具有$σ(d\log n)^{1/4}$的顺序。我们还讨论了计算方面的估计,并提供经验证据,其一致性的合成数据。最后,我们表明,我们的结果扩展到更一般的匹配标准。
2015-02-02 cs.LG math.ST stat.TH
High-Dimensional Tensor Discriminant Analysis with Incomplete Tensors
University of Notre Dame(圣母大学);New York University(纽约大学)
针对不完整高维张量分类难题,提出基于TGMM的Tensor LDA-MD算法,利用判别张量低秩结构处理缺失数据,建立相关理论界,在模拟与真实数据中表现优异。
2024-10-30 cs.LG stat.ME stat.ML
Minimax Optimal Design with Spillover and Carryover Effects
针对存在干扰和结转效应的因果推断,提出极小极大最优实验设计,同时考虑溢出与结转效应,提高估计精度并减少样本量,通过理论证明和数值研究验证其优越性。
2025-01-24 stat.ME
Rate Optimal Estimation and Confidence Intervals for High-dimensional Regression with Missing Covariates
Carnegie Mellon University(卡内基梅隆大学);University of Chicago(芝加哥大学)
虽然大多数高维统计学的理论文献都集中在涉及完全观测数据的设置上,但在实践中,缺失值和腐败的设置是常见的。考虑了稀疏高维线性回归模型中设计矩阵的协变量完全随机缺失完全随机缺失时的估计和构造置信区间的问题。我们分析了Dantzig选择器[9]的一个变体来估计回归模型,并使用去偏参数来构建分量置信区间。我们的第一个主要结果是建立上界的估计误差作为模型参数的函数(稀疏水平s,预期的分数观测协变量$ρ_*$,和测量的信号强度$\|β^*\|_2$)。我们发现,即使在一个理想化的设置,协变量被假定为完全随机缺失,有点令人惊讶的是,在完全观察到的设置相反,有一个二分法的依赖模型参数和更快的速度,如果随机设计的协方差阵是已知的。为了进一步研究这个问题,我们的第二个主要贡献是提供下限的估计误差表明,这种差异率是不可避免的极大极小意义上。然后,我们考虑的问题,高维推理存在缺失数据。我们构造和分析置信区间使用去偏估计。在存在缺失数据的情况下,由于去偏矩阵与导频估计器相关的事实,推断变得复杂,并且这需要设计新的估计器和新的分析。我们还补充了我们的数学研究与广泛的模拟合成和半合成的数据,显示我们的渐近预测有限的样本量的准确性。
2017-11-03 cs.LG stat.ME stat.ML
Minimax Optimal Goodness-of-Fit Testing with Kernel Stein Discrepancy
本文提出基于谱正则化的核 Stein 散度检验,在一般域上实现极小极大最优拟合优度检验,并引入自适应检验,数值实验验证其优于未正则化方法。
2025-01-22 math.ST stat.ML stat.TH
On the consistency of inversion-free parameter estimation for Gaussian random fields
University of Michigan(密歇根大学)
高斯随机场是模拟环境过程的有力工具。对于高维样本,用于估计协方差参数的经典方法需要高度挑战性和大量的计算,例如评估Cholesky分解或求解线性系。最近,Anitescu,Chen和Stein \cite{M.Anitescu}提出了一种快速和可扩展的算法,它不需要这样繁重的计算。本文的主要重点是研究Anitescu等人(ACS)的算法的渐近行为的规则和不规则的网格在增加域设置。在协方差函数的弱可微性条件下,证明了算法的相合性、极小极大最优性和渐近正态性。尽管事实上,ACS的方法需要一个非凹的最大化,我们的结果持有的任何静止点的目标函数。一个数值研究,以评估该算法的效率为大数据集。
2016-06-21 cs.LG math.ST stat.ML
Consistency and Asymptotic Normality of Stochastic Block Models Estimators from Sampled Data
网络的统计分析是一个非常活跃的研究领域,大量的文献涉及网络模型和网络的统计分析。然而,在网络分析中,很少有论文涉及缺失数据,我们认为,在实践中,网络经常观察到缺失值。在本文中,我们专注于随机块模型与价值的边缘,并考虑MCAR设置,假设每一个二元(对节点)是相同的,独立于其他的概率$ρ> 0$采样。证明了在缺失数据存在的情况下,只要抽样概率$ρ$满足$ρ\gg\log(n)/n$,极大似然估计及其变分逼近是相合的且渐近正态的.
2020-10-20 math.ST stat.TH
On Semi-supervised Estimation of Discrete Distributions under f-divergences
该研究针对双变量联合概率质量函数的半监督估计问题,验证了单变量极小极大估计器组合在1≤p≤2的l^p_p损失及KL、χ²等多种f散度下的极小极大最优性,填补了相关研究空白。
2024-05-15 cs.IT math.IT math.ST
Asymptotics of Nonparametric Estimation under General Non-monotone MAR Missingness: A Nonparametric Maximum Likelihood Approach
University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
本文针对非单调MAR缺失情形,采用筛极大似然方法建立非参数估计的收敛速率,将其应用于密度估计时,所得估计量经EM算法近似后,在模拟中表现与使用完整数据的核密度估计器相当。
2026-11-05 stat.ME
Estimation of discrete distributions in relative entropy, and the deviations of the missing mass
Department of Statistics, CREST/ENSAE Paris, Palaiseau, France(统计系,CREST/ENSAE巴黎分校,Palaiseau,法国)
本文研究了在相对熵下离散分布的估计问题,提出了一种基于信心依赖平滑的最优方法,并推导了缺失质量的高概率上界。
2026-01-23 cs.IT cs.LG math.IT
Estimation of the autocovariance function with missing observations
我们提出了一种新的估计的自相关函数存在缺失的意见。我们建立的一致性,渐近正态性,我们推导出各类弱相依平稳时间序列,包括因果或非因果模型的偏差界。此外,我们引入了一个修改版本的周期图定义从这些自相关估计,并推导出渐近分布的线性泛函这个估计。
2010-04-21 stat.ME
Thresholding Projection Estimators in Functional Linear Models
考虑了泛函线性回归模型中回归函数的估计问题,提出了一种新的结合降维和阈值的投影估计。阈值规则的引入允许在广泛的假设下得到一致性,以及在额外的正则性假设下得到极大极小收敛率。我们还考虑了三角基所产生的Sobolev空间的特殊情况,它允许很容易地得到预测的均方误差以及回归函数的导数的估计。我们证明了这些估计是极大极小的,并给出了某些特殊情况下的收敛速度。
2008-12-17 math.ST stat.ME stat.TH
Rates of Convergence of Spectral Methods for Graphon Estimation
Krannert School of Management, Purdue University(普渡大学克兰纳特管理学院)
本文研究了网络的生成机制--grahpon模型的估计问题。图子估计在许多应用中出现,例如预测网络中的缺失链接和在推荐系统中学习用户偏好。图子模型处理$n$顶点的随机图,使得每对两个顶点$i$和$j$以概率$ρ\times f(x_i,x_j)$独立地连接,其中$x_i$是顶点$i$的未知$d$维标签,$f$是未知对称函数,并且$ρ$是表征图稀疏性的缩放参数。最近的研究已经确定了极小极大错误率估计的graphon从一个单一的实现的随机图。然而,存在着一个很大的差距之间的已知的错误率的计算有效的估计程序和极小极大最优错误率。在这里,我们分析了谱方法,即通用奇异值阈值(USVT)算法,在相对稀疏的制度与平均顶点度$nρ=Ω(\log n)$。当$f$属于Hölder或Sobolev空间且光滑度为$α$时,我们证明了USVT的错误率至多为$(nρ)^{ -2 α/ (2α+d)}$,随着$α$的增加,USVT的错误率接近于$d=1$的极小极大最优错误率$\log (nρ)/(nρ)$.当$f$是解析的时,我们证明了USVT的错误率至多为$\log^d (nρ)/(nρ)$。在$k$块的随机块模型的特殊情况下,USVT的错误率至多为$k/(nρ)$,它比极小极大最优错误率至多大一个乘法因子$k/\log k$。这与观察到的社区检测的计算差距相吻合。我们分析的一个关键步骤是使用图子函数$f$的…
2017-09-10 cs.LG cs.SI math.ST
Multiple Imputation via Generative Adversarial Network for High-dimensional Blockwise Missing Value Problems
University of Pennsylvania(宾夕法尼亚大学)
缺失数据存在于大多数现实问题中,需要仔细处理以保持下游分析中的预测准确性和统计一致性。多重填补方法作为处理缺失数据的金标准,被提出来考虑填补的不确定性,并提供适当的统计推断。在这项工作中,我们提出了通过生成对抗网络(MI-GAN)的多重插补,这是一种基于深度学习(具体来说,基于GAN)的多重插补方法,可以在具有理论支持的随机缺失(MAR)机制下工作。MI-GAN利用了条件生成对抗神经工程的最新进展,并在插补误差方面显示出与高维数据集上现有最先进插补方法相匹配的强大性能。特别是,MI-GAN在统计推断和计算速度方面明显优于其他插补方法。
2021-12-21 cs.LG stat.AP
Minimax-Optimal Robust Identification of Continuous-Time Systems: Handling Narrow-Band Disturbances in the Frequency Domain
Department of Electrical Engineering, Link\" o ping University, SE-581\,83 Link\" o ping, Sweden
针对连续时间系统辨识中窄带扰动导致的Whittle估计敏感问题,提出基于Gumbel位置变换和对称截断得分的鲁棒估计方法,实现局部渐近最小最大性,在b=1.5时方差仅增16%,偏差大幅降低。
2026-09-22 cs.SY eess.SY math.ST
Tests of Missing Completely At Random based on sample covariance matrices
本研究将高维数据的完全随机缺失检验放宽为协方差矩阵集合的相容性检验,定义了基于半定规划的不相容性度量,提出经自助法校准的假设检验方法,证明其在部分场景下的极小极大最优性,并验证了重尾数据下的有效性。
2024-12-12 math.ST stat.ME stat.TH
Hypothesis testing for matched pairs with missing data by maximum mean discrepancy: An application to continuous glucose monitoring
统计科学中经常遇到的问题是如何正确处理配对观测中的缺失数据。有大量的文献处理单变量的情况下。然而,在测量生物系统方面正在进行的技术进步提出了处理更复杂数据的需要,例如,图形、字符串和概率分布等。为了填补这一空白,本文提出了新的估计的最大平均差异(MMD)处理复杂的匹配对缺失数据。这些估计器可以检测不同缺失机制下数据分布的差异。这种方法的有效性得到证明,并在广泛的仿真研究中进一步研究,并提供统计一致性的结果。在一个纵向人群为基础的糖尿病研究的连续血糖监测数据被用来说明这种方法的应用。通过采用新的分布表示与聚类分析,可以探索五年内葡萄糖变化在分布水平上如何变化的新临床标准。
2022-06-03 stat.ME stat.ML
On the Optimality of Functional Sliced Inverse Regression
本文证明函数型切片逆回归在估计函数型充分降维中心空间时达极小极大最优速率,通过集中不等式、截断方案及模拟验证。
2025-04-15 math.ST stat.TH
Parameters estimation for asymmetric bifurcating autoregressive processes with missing data
本文研究了一类非对称分叉自回归过程(BAR)在部分数据缺失时的参数估计问题。在这个目标中,我们通过一个两种类型的Galton-Watson过程与二叉树结构的数据相一致的观察到的数据建模。在导致缺失数据的过程和BAR过程之间的独立性以及对驱动噪声的适当假设下,通过鞅方法,我们建立了Galton-Watson非灭绝集上估计量的强相合性。我们还证明了一个二次强律和渐近正态性。
2011-09-27 math.PR math.ST stat.TH
Imputation for High-Dimensional Linear Regression
我们研究了协变量中含有缺失项的高维回归。实践中的一个常见策略是用适当的替代品对缺失的条目进行\emph{impute},然后执行标准统计程序,就好像协变量被完全观察到一样。最近关于这个问题的文献提出,而不是设计一个特定的,往往是复杂的或非凸的,算法的情况下,失踪的协变量。我们研究了一种更简单的方法,在这种方法中,我们用给定观测协变量的条件均值填充缺失项。我们表明,这种插补方案加上标准的现成程序,如LASSO和平方根LASSO保留了随机设计设置中的最小最大估计率,其中协变量是i.i.d.。亚高斯我们进一步表明,平方根LASSO保持\emph{pivotal}在此设置。通常情况下,条件期望不能精确计算,必须从数据中近似计算。我们研究了两种情况下,协变量要么遵循自回归(AR)过程,或联合高斯稀疏精度矩阵。我们提出了易于处理的估计的条件期望,然后通过LASSO进行线性回归,并显示在两种情况下相似的估计率。我们补充我们的理论结果与模拟合成和半合成的例子,不仅说明了我们的界限的清晰度,而且这种策略超出了我们的理论假设的更广泛的实用性。
2020-01-24 math.ST stat.ME stat.ML
Just Wing It: Near-Optimal Estimation of Missing Mass in a Markovian Sequence
Georgia Institute of Technology(佐治亚理工学院);IIT Madras(印度马德拉斯理工学院)
针对马尔可夫序列平稳缺失质量估计问题,提出线性时间的WingIt估计器,风险速率与状态空间无关且近似极小极大最优,还扩展了低频元素质量估计并通过实验验证了有效性。
2024-10-05 cs.IT cs.LG math.IT
The Effect of Sample Size and Missingness on Inference with Missing Data
什么时候从部分数据中得到的推论(无论是直接似然、贝叶斯还是频率论)是有效的?本文回答了这个问题,提供了一个新的渐近理论推断缺失数据,比现有的理论更普遍。证明了随着样本量的增加和缺失程度的减小,由部分数据生成的忽略缺失机制的平均对数似然函数将概率收敛到由完全数据生成的平均对数似然函数;并且当数据为随机缺失时,这种收敛性仅取决于样本量。因此,来自部分数据的推断,例如后验模式、置信区间、似然比、检验统计量,以及实际上来自部分数据对数似然函数的所有量或特征,将被一致地估计。此外,如果数据为随机缺失,则缺失数据机制对参数估计和假设检验无渐近影响。这增加了以前的研究,只证明了一致性和渐近正态性的后验模式。实际影响进行了讨论,并通过模拟使用以前的研究国际人权法的理论说明。
2022-08-07 math.ST stat.TH
Statistical Inference for Persistence Diagrams via Landmark Embeddings: Minimax Theory and Finite Approximation
针对持久图总体推断,提出基于加性界标嵌入(PLACE/PALACE)的框架,通过下失真证书和有限样本理论实现均值分离下界与置信推断,并经模拟和脑影像数据验证。
2026-09-09 cs.CG math.ST stat.TH
LAN property for the parameter of the jump rate in mean field interacting systems of neurons
Universidade de São Paulo(圣保罗大学);Université Paris-Saclay, Université d’Evry Val d’Essonne, CNRS, LaMME, UMR 8071(巴黎萨克雷大学,埃夫里-瓦卢瓦大学,法国国家科学研究中心,LaMME实验室)
该研究针对含神经元重置的平均场相互作用神经元系统,推导了跳跃率多维参数估计量的一致性、渐近正态性及局部渐近极小极大最优性,证明了其LAN性质与渐近有效性。
2026-08-03 math.ST stat.TH