Sharp Lower Bound on the Minimax Risk for Multinomial Uniformity Testing via a Conditional Central Limit Theorem
School of Computer Science, Reichman University(雷希曼大学计算机学院)
研究多项均匀性检验的极小极大拟合优度检验,针对\(\ell_p\)偏差,在\(N = o(n^2)\)且信噪比\(u_n\to u^*\in(0,\infty)\)的中间区域,利用条件中心极限定理证明极小极大风险的匹配下界。
2026-07-07 cs.IT math.IT math.ST
Testing multivariate uniformity based on random geometric graphs
我们提出了新的家庭的拟合优度测试的均匀性全维集$W\subset\R^d$的基础上的随机几何图的边长度的统计。在原假设和固定替代下证明了这些统计量的渐近正态性。衍生的测试是一致的,他们的行为,一些连续的替代品可以控制。一项模拟研究表明,该程序可以竞争或优于既定的拟合优度测试。我们用一个真实的数据例子表明,新的测试可以检测到小样本数据集的非均匀性,其中大多数竞争对手失败。
2020-07-17 math.PR math.ST stat.ME
A characterization of uniform distribution using varextropy with application in testing uniformity
本文研究方差外熵性质,提出基于方差外熵的均匀分布新刻画,并据此构建均匀性检验,推导临界值与功效,通过真实数据验证其有效性。
2025-01-12 math.ST stat.AP stat.CO
Testing uniformity on high-dimensional spheres against monotone rotationally symmetric alternatives
本文研究了高维单位球面上的均匀性检验问题。我们主要关注非空问题。我们发现,旋转对称的替代品导致两个局部渐近正态性(LAN)结构。第一个是固定的模态位置$θ$,并允许在指定的$θ$下导出局部渐近最大功效检验。第二个,解决费舍尔冯Mises-Langevin(FvML)的情况下,涉及到未指定的- $θ$问题,并表明,高维瑞利测试是局部渐近最强大的不变。在温和的假设下,我们推导出这个测试的渐近非零分布,它允许扩展远离FvML的情况下,从乐卡姆的第三个引理获得的渐近功率。在整个过程中,我们允许维度$p$作为样本量$n$的函数以任意方式趋于无穷大。我们的一些结果也加强了低维Rayleigh检验的局部最优性。我们进行了Monte Carlo研究来说明我们的渐近结果。最后,我们处理的应用程序有关的测试在高维球度。
2016-04-27 math.ST stat.TH
Uniformity Testing over Hypergrids with Subcube Conditioning
Columbia University(哥伦比亚大学);Harvard University(哈佛大学)
提出一种基于子立方体条件采样的超网格分布均匀性测试算法,在 $m$ 为常数时接近最优,并通过傅里叶分析证明 Pisier 不等式的鲁棒版本来支撑其算法分析。
2023-07-26 cs.DS cs.IT cs.LG
Collision-based Testers are Optimal for Uniformity and Closeness
USC(南加州大学);MIT(麻省理工学院);UT Austin(德克萨斯大学奥斯汀分校)
本文研究了离散分布的均匀性检验和具有有界$\ell_2$ -范数的两个离散分布之间的紧密性检验的基本问题。这些问题在分布检验中得到了广泛的研究,样本最优估计量也因此被称为\cite{Paninski:08, CDVV14, VV14, DKN:15}。在这项工作中,我们表明,原来的碰撞为基础的测试提出了这些问题-\cite{GRdist:00, BFR+:00}是样本最佳的,常数因子。以前的分析表明,这些测试程序的样本复杂性上限是最佳的域大小$n$的函数,但次优的多项式因子的错误参数$ε$。我们的主要贡献是一个新的紧密的分析,建立这些碰撞为基础的测试是信息理论上最优的,恒定的因素,无论是在依赖于$n$和依赖于$ε$。
2016-11-11 cs.DS cs.IT cs.LG
As Easy as ABC: Adaptive Binning Coincidence Test for Uniformity Testing
School of Electrical & Computer Engineering, Cornell University(康奈尔大学电气与计算机工程学院)
研究了具有有界支撑的Lipschitz连续分布的一致性检验问题。备择假设是Lipschitz连续分布的复合集,这些分布与均匀分布的距离至少为$\varepsilon$(在$\ell_1$距离上)。我们提出了一个序贯检验,适应未知分布下的备择假设。被称为自适应分箱重合(ABC)测试,所提出的策略以两种方式适应。首先,它将替代分布集划分为基于它们到均匀分布的距离的层。然后,它依次消除交替分布层逐层减少距离均匀,并随后利用有利的情况下,一个遥远的替代提前退出。其次,它适应,跨层的替代分布,计算重合统计的离散化的分辨率水平。该层离均匀层越远,则消除/退出该层所需的离散化就越粗糙。因此,它在检测过程的早期退出,并通过使用较低的分辨率来利用有利的替代分布来快速退出。ABC检验建立在一种新的离散分布的序贯符合检验的基础上,这是一种独立的检验方法。我们建立了样本复杂性的建议测试以及一个下界。
2021-10-12 cs.DS cs.IT cs.LG
Sharp Constants in Uniformity Testing via the Huber Statistic
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
均匀性测试是性能测试中研究最多的问题之一,具有许多已知的检验统计量,包括基于计数碰撞、单例和经验TV距离的测试统计量。已知区分$m$元素上的均匀分布与具有$1-δ$概率的任何$ε$ -远分布的最佳样本复杂度是$n = Θ\left(\frac{\sqrt{m \log (1/δ)}}{ε^2} + \frac{\log (1/δ)}{ε^2}\right)$,这是通过经验TV测试器实现的。然而,在模拟,这些理论分析是误导:在许多情况下,他们不正确的排名顺序现有的测试仪的性能,即使在渐近制度的所有参数倾向于$0$或$\infty$。我们通过研究算法所需的\emph{constant factors}来解释这种差异。我们表明,碰撞测试仪实现了一个尖锐的最大常数的数量均匀和非均匀的输入之间的分离的标准差。然后,我们介绍了一个新的测试的基础上的Huber损失,并表明,它不仅匹配这个分离,但也有相应的高斯与此分离的尾巴。这导致了$(1 + o(1))\frac{\sqrt{m \log (1/δ)}}{ε^2}$在该术语占主导地位的情况下的样本复杂性,这与所有其他现有的测试仪不同。
2022-06-21 cs.DS cs.IT cs.LG
A Radar-Shaped Statistic for Testing and Visualizing Uniformity Properties in Computer Experiments
Ecole Nationale Supérieure des Mines(国立高等矿业学校)
在计算机代码的研究中,尽可能均匀地填充空间对于描述所研究现象的复杂性是很重要的。然而,这种性质并不通过减少维度来保持。一些数值试验设计在这个意义上被认为是拉丁超立方体或正交表,但它们只考虑到轴或坐标平面上的投影。在这篇文章中,我们介绍了一个统计,它允许研究良好的分布点,根据所有的1维投影。通过有角度地扫描域,我们得到一个雷达型表示,允许的均匀性缺陷的设计,以确定其在直线上的投影。这种新工具的优点,通常的例子空间填充设计(SFD)和独立的旋转角度的全局统计进行了研究。
2008-02-15 cs.LG math.ST stat.TH
Communication and Memory Efficient Testing of Discrete Distributions
University of Southern California(南加州大学);Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);University of California, San Diego(加州大学圣地亚哥分校)
我们在以下计算模型中研究了具有通信和内存约束的分布测试:(1){ \em one-pass streaming model},其目标是最小化受内存约束的协议的样本复杂度,以及(2){ \em distributed model},其中数据样本驻留在多台机器上,目标是最小化协议的通信成本。在这两个模型中,我们提供了有效的算法,用于均匀性/同一性测试(拟合优度)和接近性测试(两个样本测试)。此外,我们显示几乎紧下界(1)的样本复杂性的任何单通流测试仪的均匀性,受内存约束,和(2)的通信成本的任何均匀性测试协议,在一个受限制的“一通”模型的通信。
2019-06-11 cs.DS cs.LG math.ST
$\ell_p$ Testing and Learning of Discrete Distributions
Harvard(哈佛大学)
经典的问题,测试的均匀性和学习离散分布,获得独立的样本,一般$\ell_p$指标下进行检查。直觉和结果往往与经典的$\ell_1$的情况下。对于$p > 1$,我们可以学习和测试一些独立于分布支持大小的样本:对于$\ell_p$公差$ε$,$O(\max\{ \sqrt{1/ε^q}, 1/ε^2 \})$样本足以测试均匀性,$O(\max\{ 1/ε^q, 1/ε^2\})$样本足以学习,其中$q=p/(p-1)$是$p$的共轭。由于这与$O(\sqrt{n})$和$O(n)$样本足以满足$\ell_1$情况的直觉相似,因此似乎$1/ε^q$充当“表观”支持大小的上限。对于某些$\ell_p$指标,均匀性测试在更大的支持下变得更容易:6面骰子比2面硬币需要更少的试验来测试公平性,并且洗牌机比骰子需要更少的试验。事实上,当且仅当$p > \frac{4}{3}$成立时,这种对支撑尺寸的反向依赖性成立。均匀性测试算法简单地对“冲突”或“重合”的数量进行阈值化,并且对于所有$1 \leq p \leq 2$具有最佳的样本复杂度直到常数因子。另一种算法给出了$\ell_{\infty}$均匀性测试的阶数最优样本复杂度。同时,最自然的学习算法被证明具有顺序最优的样本复杂度的所有$\ell_p$指标。作者感谢Clément Canonne对本书的讨论和贡献。
2015-03-21 cs.DS cs.LG math.ST
The Minimax Risk in Testing Uniformity over Large Alphabets under Missing-Ball Alternatives
School of Computer Science at Reichman University(雷希曼大学计算机学院)
研究了对多项计数数据拟合泊松分布的良率检验问题,针对排除ℓ_p球(p≤2)的替代方案,推导了当样本数和类别数趋于无穷时的最小最大风险,并展示了该测试在小样本极限下依赖碰撞,但在其他情况下表现类似卡方检验,实验证明其在有限样本中表现优异。
2026-07-06 cs.IT math.IT math.ST
A stereographic test of spherical uniformity
本文提出一种基于球极投影的球面均匀性检验方法,利用盖根鲍尔多项式推导统计量闭式表达与零假设渐近分布,并证明其在对跖依赖场景下优于现有检验。
2024-08-06 math.ST stat.TH
Asymptotic analysis of high-dimensional uniformity tests under heavy-tailed alternatives
针对高维均匀性检验问题,本文分析了Rayleigh和Bingham检验在重尾备择假设下的失效及packing检验的尺寸失真,利用三者渐近独立性提出基于Fisher组合技术的新检验,兼顾了各检验的最优性质与第一类错误控制。
2025-05-31 math.ST stat.TH
Sequential Analysis in High Dimensional Multiple Testing and Sparse Recovery
本文从序贯分析的角度研究了高维多重检验和稀疏恢复问题。在这种情况下,错误的概率是问题维度的函数。提出了一种简单的序贯测试方法。我们推导出在非序贯设置的可靠恢复的必要条件,并将它们与可靠恢复的充分条件使用建议的序贯测试程序。几个常见的模型的主要结果的应用程序表明,序贯测试可以指数更敏感的零和替代分布之间的差异(在尺寸的依赖),这意味着微妙的情况下,可以更可靠地确定使用序贯方法。
2011-06-03 cs.IT math.IT math.ST
Wasserstein Identity Testing
均匀性检验和更一般的同一性检验是分布性质检验中研究得很好的问题。大多数以前的工作集中在$L_1$距离下的测试。然而,当支撑非常大或甚至连续时,在$L_1$距离下的测试可能需要大量(甚至无限)样本。出于这些问题的动机,我们考虑Wasserstein距离(a.k.a.运输距离和推土机距离)在度量空间(离散的或连续的)上。在本文中,我们提出了Wasserstein身份测试问题(Wasserstein距离中的身份测试)。我们获得了几乎最优的最坏情况下的样本复杂性的问题。此外,对于一个大类的概率分布满足所谓的“加倍条件”,我们提供了近实例最优的样本复杂度。
2017-10-28 cs.DS cs.IT cs.LG
On the power of axial tests of uniformity on spheres
在$p$维单位球面上检验均匀性可以说是方向统计中最基本的问题。在本文中,我们考虑这个问题的框架内的轴向数据,也就是说,假设手头的$n$观测是随机抽取的分布,电荷对映区域相等。更确切地说,我们专注于轴向,旋转对称,替代品,并首先解决的问题,根据该问题的方向$θ$的相应的对称轴被指定。在此设置中,我们获得了基于样本协方差阵的Le Cam均匀性最优检验(与基于样本平均值的非轴向类似物不同)。对于更重要的未指定的$θ$问题,一些经典的测试在文献中,但几乎没有什么是已知的非空行为。因此,我们研究了著名的宾厄姆测试和其他测试,利用所考虑的替代品的单穗性质的非零行为。我们进行蒙特卡罗练习,调查我们的测试的有限样本行为,并显示他们与我们的渐近结果的协议。
2019-10-21 math.ST stat.TH
Estimation of the $l_2$-norm and testing in sparse linear regression with unknown variance
本文研究了方差未知的稀疏线性回归的$l_2$ -范数和平方$l_2$ -范数的估计问题,以及在$l_2$分离的稀疏替代下回归参数为零的假设检验问题.我们建立了这三个问题的最优估计率(分别为检验率)。
2020-10-26 math.ST stat.TH
Monotonicity Testing of High-Dimensional Distributions with Subcube Conditioning
Dartmouth College(达特茅斯学院);Columbia University(哥伦比亚大学);University of Pennsylvania(宾夕法尼亚大学);University of California, Santa Cruz(加利福尼亚大学圣克鲁兹分校)
研究子立方体条件下高维分布的单调性测试,证明查询复杂度为Θ̃(n/ε²),并推广了KMS不等式;同时证明单调分布的均匀性测试查询复杂度为Θ̃(√n/ε²),表明单调性仅在对数因子内无助于均匀性测试。
2025-02-22 cs.CC cs.DM cs.DS
On Distribution Testing in the Conditional Sampling Model
近年来,在条件抽样模型下的分布检验研究取得了很大的进展。在此模型中,查询指定域的子集$S$,接收的输出是从分布中提取的样本,条件是在$S$中。在本文中,我们改进了查询复杂性的界限,在这个模型中的几个经典的分布测试问题。首先,我们证明了条件抽样模型中的公差均匀性测试可以使用$\tilde{O}(\varepsilon^{-2})$查询来解决,这是最优的,并且改进了Canonne等人的$\tilde{O}(\varepsilon^{-20})$查询算法。[CRS 15]。这个界限甚至在被称为配对条件抽样模型的条件抽样模型的限制版本下也成立。接下来,我们证明了条件抽样模型中的容忍身份测试可以在$\tilde{O}(\varepsilon^{-4})$查询中解决,这是第一个已知的独立于该问题的分布的支持大小的界限。其次,我们利用我们的算法进行容忍一致性检验,得到了条件抽样模型下单调性检验的$\tilde{O}(\varepsilon^{-4})$ -查询算法,改进了Canonne [Can 15]的$\tilde{O}(\varepsilon^{-22})$ -查询算法.最后,我们研究了配对条件抽样模型下的(非容忍)身份测试,并给出了查询复杂度的$\tildeΘ(\sqrt{\log N} \cdot \varepsilon^{-2})$的一个紧界,其中分布的域具有大小$N$。这改进了[C…
2020-11-04 cs.DS math.PR math.ST
Minimax rate of testing in sparse linear regression
研究了线性回归模型的参数为0的假设检验问题,该问题针对在l2-距离上与0分离的s-稀疏选择。本文证明了在p < n的Gauss线性回归模型中,非渐近Minimax检验率的形式为sqrt((s/n)log(1 + sqrt(p)/s)),其中p是参数的维数,n是样本量.我们还表明,这是极小极大率估计的l2-范数的回归参数。
2018-10-09 math.ST stat.TH
Limits on Testing Structural Changes in Ising Models
我们提出了新的信息理论的限制检测稀疏变化伊辛模型,在许多应用中出现的问题,网络的变化可能会发生由于一些外部刺激。我们发现,样本的复杂性检测稀疏的变化,在极大极小的意义上,是没有比学习整个模型,即使在设置与本地稀疏。这是一个令人惊讶的事实,鉴于先前的工作植根于稀疏恢复方法,这表明在这种情况下,样本的复杂性只与网络变化的数量。为了阐明变化检测何时比结构化学习更容易,我们考虑在森林结构图中测试边缘删除,并将高温铁磁体作为案例研究。我们表明,这些测试的小变化是同样困难的,但测试的\emph{large}的变化是很好的分离结构学习。这些结果意味着,图形模型的测试可能不服从的概念,如限制性强凸性利用稀疏模式恢复,而不是算法的开发应针对检测大的变化。
2020-11-07 cs.IT math.IT math.ST
On Minimax Exponents of Sparse Testing
我们考虑了高维线性回归中极小极大风险对稀疏替代方案的全局检验的精确渐近性。我们的研究结果的特点,这种极大极小风险在几个制度的领导秩序的行为,揭示了新的相变在其行为。这补充了大量的文献特征渐近一致性在这个问题上,并提供了一个有用的基准,针对特定的测试的性能进行比较。最后,我们提供了一些初步的证据,流行的稀疏自适应程序可能是次优的最小最大风险。
2020-03-01 math.ST stat.TH
Global Testing Against Sparse Alternatives under Ising Models
在本文中,我们研究的影响,检测稀疏信号的相关性。特别是,我们专注于全球测试对稀疏的替代品的二进制结果的手段以下伊辛模型,并建立信号的强度和稀疏性之间的相互作用如何确定其可检测性下的各种概念的依赖。依赖的深刻影响是最好的说明下的居里-外斯模型,我们观察到的“热力学”相变的效果。特别是,临界状态表现出一种微妙的“祝福的依赖”的现象,在这一点上,人们可以检测到弱得多的信号在临界状态比其他情况下。此外,我们开发了一个测试程序,是广泛适用于占的依赖性,并表明它是渐近极小极大最优相当一般的正则性条件下。
2017-10-05 math.ST stat.TH
Adaptive minimax testing for circular convolution
在非渐近框架下,考虑了受可加性测量误差污染的圆形随机变量的观测值的极大极小最优拟合优度检验问题。我们提出了直接和间接的测试程序,使用投影方法。最优检验的结构取决于模型的正则性和不适定性参数,这些参数在实际中是未知的。因此,自适应测试策略,同时进行了广泛的规律性和不适定性类的最佳。考虑到多个测试程序,我们得到自适应,即无干扰的程序,并分析其性能。与非自适应检验相比,它们的检验半径面临对数因子的恶化。我们表明,测试的均匀性,这种损失是不可避免的,通过提供一个下界。考虑索伯列夫空间和普通或超光滑误差密度的结果示出。
2020-07-13 math.ST stat.TH
Empirical interpretation of the Pitman efficiency
Faculty of Pure and Applied Mathematics, Wrocław University of Science and Technology(弗罗茨瓦夫科技大学纯数学与应用科学学院)
本文研究了beta分布两参数族中均匀性检验的极值效率实证解释,证明在污染模型中极值效率近似相对效率效果良好。
2026-04-13 math.ST stat.TH
Robust Testing in High-Dimensional Sparse Models
École Polytechnique Fédérale de Lausanne (EPFL)(洛桑联邦理工学院);University of Sydney(悉尼大学)
我们考虑了在两种不同的观测模型下对高维稀疏信号向量的范数进行鲁棒检验的问题。在第一个模型中,我们给出$n$ i.i.d.。来自分布$\mathcal{N}\left(θ,I_d\right)$(具有未知的$θ$)的样本,其中一小部分已被任意损坏。在$\|θ\|_0\le s$的承诺下,我们希望对于某些输入参数$γ>0$,正确区分是$\|θ\|_2=0$还是$\|θ\|_2>γ$。我们表明,这项任务的任何算法都需要$n=Ω\left(s\log\frac{ed}{s}\right)$样本,这是紧对数因子。我们还将我们的结果扩展到其他常见的稀疏性概念,即任何$0 < q < 2$的$\|θ\|_q\le s$。在我们考虑的第二个观察模型中,数据是根据稀疏线性回归模型生成的,其中协变量是i.i.d.。高斯,并且已知回归系数(信号)是$s$ -稀疏的。在这里,我们也假设$ε$ -数据的一部分被任意损坏。我们表明,任何算法,可靠地测试回归系数的范数至少需要$n=Ω\left(\min(s\log d,{1}/{γ^4})\right)$样本。我们的研究结果表明,在这两种设置下的测试的复杂性显着增加鲁棒性约束。这与最近在稳健均值检验和稳健协方差检验中观察到的结果一致。
2022-11-04 cs.IT cs.LG math.IT
Sharp multiple testing boundary for sparse sequences
本研究在稀疏序列模型中确定了多重检验的尖锐极小极大风险边界,并提供了达到该边界的自适应程序(如调整水平的Benjamini--Hochberg和经验贝叶斯局部FDR),发现FNR在边界处占主导,并扩展至分类损失和大信号情形。
2023-08-30 math.ST stat.TH
Testing homogeneity of proportions from sparse binomial data with a large number of groups
本文考虑独立二项分布中比例的齐性检验,特别是当数据稀疏时。我们提供了广泛的方面,我们提出的测试,如理论研究,模拟和实际数据的应用。我们提出的渐近零分布和渐近权力,我们提出的测试,并比较其性能与现有的测试。我们的模拟研究表明,没有一个测试占主导地位的人,但我们提出的测试和一些测试,预计控制给定的大小,并获得显着的权力。我们还在Nissen和Wolsky(2007)中提供了一个关于Avandiar(罗格列酮)相关安全性问题的真实示例。
2017-12-13 math.ST stat.TH
Empirical Bayes cumulative $\ell$-value multiple testing procedure for sparse sequences
在稀疏序列模型中,我们考虑一个流行的贝叶斯多重检验程序,并首次从频率论的角度研究其行为。给定在高维稀疏未知参数上的尖峰和厚片先验,可以容易地计算来自尖峰的后验概率,其对应于众所周知的局部fdr值,也称为$\ell$值。钉和板的重量参数校准的经验贝叶斯的方式,使用边际最大似然。所研究的多重检验程序(此处称为累积$\ell$值程序)根据经验$\ell$值和阈值对坐标进行排序,以使累积排序和不超过用户指定的水平$t$。我们验证了使用这种方法从多个测试的角度来看:适当的大信号强度的替代品,假发现率(FDR)的程序收敛到目标水平$t$,而其假阴性率(FNR)去$0$。我们补充这项研究,提供收敛速度的方法。此外,我们证明了$q$值多重检验程序在该模型中具有相似的收敛速度。
2022-03-28 math.ST stat.TH
Multivariate EDF tests for uniformity, normality,spherical and elliptical symetry, and independence based on a Brownian sheet deconstruction
Universitat Autònoma de Barcelona(巴塞罗那自治大学);PEDECIBA, Uruguay(乌拉圭PEDECIBA)
本文扩展了一种最近提出的基于EDF的适配性检验方法,用于超立方体[0,1]^p,即m检验和s检验,这些方法基于对p参数Brownian sheet的独特分解。通过将原假设所隐含的联合分布经过适当映射后分解为独立的连续分量,可以将问题转化为超立方体上的均匀性检验。本文引入并分析了基于这些原理的新检验方法,用于检验超球面S^p上的均匀性、多变量正态性、球面和椭球对称性以及R^p中的独立性。该方法基于将有限的有符号测度分解为零边际分量,以隔离坐标间相互作用。实证检验显示,这些扩展方法在统计文献中与现有方法具有竞争力,特别是在检测基于坐标的依赖性和联合依赖结构方面表现出高度敏感性。
2026-06-24 math.ST stat.ME stat.TH
Global testing against sparse alternatives in time-frequency analysis
本文提出了一种过采样周期图高临界(OPHC)检验方法,用于复值时间序列中稀疏周期效应的全局检测。一个显式的极小极大检测边界之间的稀有性和弱点的复杂的正弦波隐藏在系列。OPHC测试被证明是渐近强大的可检测区域。数值模拟说明并验证了所提出的测试的有效性。此外,周期图过采样的$O(\log N)$被证明是普遍最佳的周期性的全球测试下,一个温和的最小分离条件。
2016-09-27 math.ST stat.TH
Information-Theoretic Bounds for Adaptive Sparse Recovery
Boston University(波士顿大学)
我们推导出一个信息理论的样本复杂性在稀疏恢复问题,输入可以选择顺序和自适应的下界。这个下界是一个简单的互信息表达式,并统一了许多不同的线性和非线性观测模型。使用这个公式,我们得出自适应压缩感知(CS),组测试和1位CS问题的界限。我们发现,自适应不能降低样本复杂性组测试,1位CS和CS与线性稀疏。相比之下,我们表明,CS在次线性制度可能有温和的性能增益。我们的统一分析还允许表征的增益,由于从更广泛的角度对稀疏问题的自适应性。
2014-04-29 cs.IT cs.LG math.IT
Testing for sparse idiosyncratic components in factor-augmented regression models
本研究提出一种bootstrap检验方法,用于检验因子回归模型中是否存在稀疏异质成分,推导了其渐近性质,提出数据驱动调参规则,模拟和实证实验验证了方法的有效性,并通过R包FAS实现。
2024-07-10 econ.EM math.ST stat.TH
A Chasm Between Identity and Equivalence Testing with Conditional Queries
Cornell University(康奈尔大学);Stanford University(斯坦福大学);Columbia University(哥伦比亚大学);Simons Institute for the Theory of Computing(西蒙斯计算理论研究所)
最近的概率分布的属性测试模型(Chakraborty等人,ITCS 2013,Canonne等人,SICOMP 2015)通过允许测试算法对域的子集进行采样,从而极大地节省了测试算法的样本复杂性。特别是,Canonne,Ron和Servedio(SICOMP 2015)表明,在这种情况下,测试未知分布$D$的身份(是否$D=D^\ast$为明确已知的$D^\ast$)可以通过恒定数量的查询来完成,与支持大小$n$无关-与标准抽样模型中所需的$Ω(\sqrt{n})$相反。目前还不清楚是否存在同样的鲜明对比的情况下,测试等效性,其中两个分布是未知的。虽然Canonne等人为等价性检验建立了一个$\mathrm{poly}(\log n)$ -查询上限,最近Falahatgar等人将其降低到$\tilde O(\log\log n)$(COLT 2015),但是否需要依赖域大小$n$仍然是开放的,并且Fischer在Bertinoro次线性算法研讨会(2014)上明确提出。我们证明了任何等价性检验算法都必须在条件抽样模型中进行$Ω(\sqrt{\log\log n})$查询。这表明同一性和等效性检验之间存在差距,而标准抽样模型中不存在这种差距(其中两个问题都具有抽样复杂性$n^{Θ(1)}$)。我们还获得了查询复杂性的一致性测试和支持大小估计与条件样本的结果。我们回答了Chakrabo…
2018-12-07 cs.CC cs.DS cs.LG
On the Power of Conditional Samples in Distribution Testing
在本文中,我们定义和检查的权力的{ \em条件采样}甲骨文的分布属性测试的背景下。用于离散分布$μ$的条件采样预言机将域的子集$S \subset [n]$作为输入,并输出根据$S$(并独立于所有先前样本)条件的$μ$绘制的随机样本$i \in S$。条件采样预言机是普通采样预言机的自然推广,其中$S$始终等于$[n]$。我们表明,与条件抽样预言,测试均匀性,测试身份的一个已知的分布,并测试任何标签不变的属性的分布是比普通的抽样预言更容易。另一方面,我们还表明,对于某些分布特性的样本复杂性仍然接近最大,即使有条件采样。
2014-04-08 cs.CC cs.DS math.PR
Goodness of fit test under progressive Type-I interval censoring
在本文中,我们提出了几个统计量的逐步I型区间删失下的均匀性检验。我们获得这些统计的临界点,并通过模拟研究了一组有代表性的替代品的拟议测试的权力。最后,我们推广我们的方法连续和完全指定的分布。
2017-04-21 math.ST stat.TH
Sharp Asymptotic Minimaxity of the Gavrilov-Benjamini-Sarkar Step-Down Testing Procedure in Sparse Gaussian Sequence Models
Department of Statistics, Texas A&M University(德克萨斯农工大学统计学系)
研究稀疏高斯序列模型中GBS逐步多重检验程序的尖锐渐近极小极大性,通过移位顺序统计不等式等方法,证明其在特定损失下是渐近极小极大的,还建立了相关风险上界,扩展了渐近极小极大性理论。
2026-10-27 math.ST stat.TH
Fast Non-Asymptotic Testing And Support Recovery For Large Sparse Toeplitz Covariance Matrices
我们考虑$n$独立的$p$维高斯向量,其协方差阵具有Toeplitz结构。我们测试了这些向量对具有稀疏Toeplitz协方差阵的平稳分布具有独立分量,并且还选择了非零项的支持。我们假设非零值可以出现在最近的过去(时滞小于$p/2$)。我们建立的测试程序,结合了总和和扫描型程序,但计算速度快,并显示其非渐近行为在单侧(仅正相关)和双侧的替代品,分别。我们还展示了一个选择器的显着滞后和绑定的汉明损失风险的估计支持。这些结果可以推广到近似Toeplitz协方差结构和亚高斯向量的情况。数值结果说明了测试程序和支持选择器的优异性能-维数越大$p$,速率越快。
2021-02-12 math.ST stat.TH
Robust mean change point testing in high-dimensional data with heavy tails
研究重尾高维数据的均值变点检验问题,针对不同尾部条件与稠密/稀疏情形提出达到最优或接近最优速率的检验方法,并揭示极小极大检验速率在特定重尾条件下的新现象。
2025-10-12 math.ST stat.ME stat.TH
Hypothesis testing for high-dimensional sparse binary regression
本文研究了高维稀疏二元回归模型中极大极小假设检验的检测边界。出于对罕见变异效应的基因测序关联研究的动机,我们研究了当设计矩阵稀疏时假设检验问题的复杂性。我们观察到一个新的现象,在检测边界的行为,不发生在高斯线性回归的情况下。我们推导出的检测边界作为两个组件的函数:一个设计矩阵稀疏指数和信号强度,其中每一个是一个函数的稀疏性的替代品。对于任何替代方案,如果设计矩阵稀疏性指数过高,则无论信号强度的大小如何,任何测试都是渐近无效的。对于稀疏性指数不太高的二进制设计矩阵,我们的结果与高斯情况下的结果是平行的。在这种情况下,我们推导出密集和稀疏制度的检测边界。对于密集制度,我们证明了广义似然比是率最优的,稀疏制度,我们提出了一个扩展的更高的批评测试,并表明它是率最优和尖锐的。我们用模拟研究说明了理论结果的有限样本性质。
2015-03-05 math.ST stat.CO stat.ME
Optimality of the max test for detecting sparse signals with Gaussian or heavier tail
高维检验中的一个基本问题是全局零检验:检验零是否在所有$n$假设中同时成立。最大检验使用最小的$n$边缘p值作为其检验统计量,因其简单性和稳健性而广受欢迎。然而,其相对于其他测试的理论性能受到质疑。在高斯序列版本的全局测试问题中,Donoho和Jin(2004)发现了一个所谓的“弱,稀疏”渐近机制,其中当所有非零信号强度都相同时,更高的批评和Berk-Jones测试比最大测试实现了更好的检测边界。我们研究了一个更一般的模型,其中的非零的手段是从一个通用的分布,并表明,检测边界的最大测试是最佳的“弱,稀疏”制度,只要分布的尾巴是不轻于高斯。此外,我们从理论上和模拟表明,修改后的更高的批评Donoho和Jin(2004)可以有非常低的权力时,非零的平均值的分布有一个多项式的尾巴。
2020-06-19 math.ST stat.TH
Omnibus Goodness-of-Fit Testing for Distributions on Stiefel Manifolds
Division of Biostatistics, German Cancer Research Center(德国癌症研究中心生物统计部);Department of Statistics, Penn State University(宾夕法尼亚州立大学统计学系)
研究斯蒂费尔流形上分布的拟合优度检验,基于经验与理论特征函数平方差积分构建框架,导出费希尔 - 宾汉姆分布族检验统计量,给出特殊情况简化式,建立检验程序,模拟验证其准确性与功效,应用于彗星轨道数据。
2026-07-30 math.ST stat.TH
Minimax risks for sparse regressions: Ultra-high-dimensional phenomenons
考虑标准高斯线性回归模型$Y=Xθ+ε$,其中$Y\in R^n$是响应向量,$ X\in R^{n*p}$是设计矩阵。当$p$比$n$大得多时,大量的工作致力于建立有效的$θ$估计。在这种情况下,经典的方法相当于假设$θ_0$是近似稀疏的。本文研究了$k$ -稀疏向量类$θ$的极小极大风险估计和检验问题.这些界限揭示了由于高维的限制。结果包括预测问题($Xθ$的估计)、逆问题($θ_0$的估计)和线性检验($Xθ=0$的检验)。有趣的是,当变量$k\log(p/k)$的数量与$n$相比变大时,会发生肘效应。事实上,极大极小风险和假设间隔距离在这个超高维度的环境中爆炸了。我们还证明,即使是降维技术不能提供令人满意的结果在超高的维度设置。此外,当噪声方差未知时,我们计算了极大极小风险。该方差的知识被证明在估计和测试的最佳速率中起着重要的作用。所有这些极大极小的界限提供了一个统计问题,是如此困难,以至于没有程序可以提供令人满意的结果的表征。
2012-01-24 math.ST stat.TH
Optimal estimation and goodness-of-fit testing of the mean for sparse longitudinal functional data
Univ. Rennes, Ensai, CREST-UMR 9194(雷恩大学,ENSAI,CREST);Ensai
本文针对稀疏纵向函数型数据,提出均值函数的最优估计方法及拟合优度检验,并证明其收敛速率在系数衰减类上达到极小极大最优。
2026-10-14 math.ST stat.TH
Power and sample size calculation of two-sample projection-based testing for sparsely observed functional data
本研究针对稀疏观测函数数据的两样本投影检验,推导功效函数并推出R包fPASS以实现功效与样本量计算,验证其缺失免疫的稳健性并展示临床试验应用价值。
2023-10-10 math.ST stat.AP stat.ME
Linear Functional Testing with General Loadings in Sparse Regression: Separation Rates and Computational Barriers
Department of Statistics and Data Science, National University of Singapore(新加坡国立大学统计与数据科学系)
本文研究了在高维稀疏线性回归中,针对高斯随机设计和未知设计协方差的H0:ξ^Tβ=t0检验问题。构造了一个计算高效的混合检验方法,给出了适应性分离距离的上界,并建立了信息论下界。在超稀疏情况下,这些界限在任意ξ下描述了适应性分离率,而在中等稀疏情况下,这些界限在某些加载向量类别中匹配,但可能在一般情况下不同。此外,本文证明了一个低次下界,与上界在对数因子内匹配,表明改进混合检验的速率可能在统计上难以实现。对于平坦稀疏加载,本文通过稀疏CCA的多项式时间归约提供了进一步证据。最后,本文探讨了设计协方差信息如何影响适应性分离率,在稀疏符号尖峰协方差模型下,信息论下界可通过非高效的算法达到,而低次下界和稀疏CCA归约仍适用,提供了统计-计算差距的证据。当设计协方差已知且对角时,适应性分离率形式与超稀疏情况相同。
2026-05-20 cs.CC math.ST stat.TH
Anaconda: A Non-Adaptive Conditional Sampling Algorithm for Distribution Testing
Simons Institute for the Theory of Computing(西蒙斯计算理论研究所);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
我们研究了非自适应条件样本的分布检验。在条件抽样模型中,算法被赋予对分布的以下访问:它向oracle提交查询集$S$,oracle返回来自分布的样本,条件是来自$S$。在非自适应设置中,必须在查看结果之前指定所有查询集。我们的主要成果是第一个多元查询算法的等价性测试,决定是否两个未知的分布是相等或远离对方。这是一个指数的改善,在以前的最佳上限,并表明该模型中的问题的复杂性是中间的标准采样模型和自适应条件采样模型中的问题的复杂性。我们还显着提高了样品的复杂性,更容易的问题的一致性和同一性测试。对于前者,我们的算法只需要$\tilde O(\log n)$查询,匹配的信息理论下限的$O(\log \log n)$ -因素。我们的算法的工作原理是将问题从$\ell_1$ -测试减少到$\ell_\infty$ -测试,这使得样本复杂性要便宜得多。由于非自适应模型的功率有限,我们的算法非常简单。然而,由于两个任意分布如何不同的复杂结构,分析中存在重大挑战。
2018-11-05 cs.DS cs.IT cs.LG
Global testing under the sparse alternatives for single index models
对于具有高斯设计的单指标模型$y=f(β^τx,ε)$,%满足秩$var(\mathbb{E}[x\mid y])=1$,其中$f$未知,$β$是稀疏$p$维单位向量,最多具有$s$非零项,我们感兴趣的是检验零假设,即当将$β$视为整个向量时,它为零,而不是$β$的某些项为非零.假设$var(\mathbb{E}[x \mid y])$是非零的,我们定义的广义信噪比(gSNR)$λ$模型的唯一非零特征值的$var(\mathbb{E}[x \mid y])$。我们表明,如果$s^{2}\log^2(p)\wedge p$是一个较小的顺序$n$,表示为$s^{2}\log^2(p)\wedge p\prec n$,其中$n$是样本大小,可以检测到信号的存在,当且仅当gSNR $\succ\frac{p^{1/2}}{n}\wedge \frac{s\log(p)}{n}$。此外,如果噪声是加性的(即,$y=f(β^τx)+ε$),当且仅当gSNR为$\succ\frac{p^{1/2}}{n}\wedge \frac{s\log(p)}{n} \wedge \frac{1}{\sqrt{n}}$时,才能检测到信号的存在。令人惊讶的是,具有加性噪声的单指数模型的检测边界与线性回归模型的检测边界相匹配。这些结果为高维单/多指标模型的深入理论分析铺平了道路。
2018-05-04 math.ST stat.TH
Significance testing in non-sparse high-dimensional linear models
在高维线性模型中,通常会进行稀疏性假设,即大多数参数等于零。在稀疏性假设下,估计和最近的推断已经得到了很好的研究。然而,在实践中,稀疏性假设是不可检查的,更重要的是经常被违反;大量的协变量可能被期望与响应相关联,这表明可能所有的,而不仅仅是几个,参数是非零的。一个自然的例子是全基因组基因表达谱,其中所有基因都被认为会影响一个共同的疾病标志物。我们发现,现有的推理方法是敏感的稀疏性假设,并可能反过来,导致严重缺乏控制的第一类错误。在这篇文章中,我们提出了一个新的推理方法,命名为CorrT,这是强大的模型误指定,如异方差和缺乏稀疏性。CorrT被证明有第一类错误接近标称水平的\textit{any}模型和第二类错误接近零的稀疏和许多密集的模型。事实上,CorrT在各种框架中也被证明是最佳的:稀疏,非稀疏和混合模型,其中稀疏和密集信号混合。数值实验表明,一个良好的性能的CorrT测试相比,国家的最先进的方法。
2018-05-28 math.SP math.ST stat.ME
On Testing Marginal versus Conditional Independence
我们考虑在三变量高斯设置中测试边缘独立性与条件独立性。这两个模型是非嵌套的,它们的交集是两个边缘独立性的并集。我们考虑两个序列的这样的模型,一个从每种类型的独立性,这是最接近彼此在Kullback-Leibler意义上,因为他们接近的交集。如果由两个相关参数的乘积测量的信号强度比标准参数速率下降得更快,则它们变得无法区分。在这样的速度下,我们证明了似然比的渐近分布取决于在哪里以及如何当地的替代办法的交叉点。为了处理这种非均匀性,我们研究了一类“包络”分布的渐近累积分布函数的逐点上确界。我们发现,这些包络分布是良好的行为,并导致无速率一致误差保证和接近最佳功率的模型选择程序。为了控制误差,即使当两个模型是不可区分的,而不是坚持一个二分法的选择,所提出的程序将选择一个或两个模型。
2020-01-10 math.ST stat.ME stat.TH
Detecting non-uniform patterns on high-dimensional hyperspheres
School of Data Science, Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳)数据科学学院);Department of Statistics and Data Science, University of Texas, Austin(德克萨斯大学奥斯汀分校统计与数据科学系)
本文提出了一种基于成对内积分布的概率刻画,用于检测高维超球面上的均匀分布,同时提出了一种新的测试方法,具有良好的检测率和一致性。
2026-04-10 math.ST stat.TH
Minimax rates in sparse, high-dimensional changepoint detection
我们研究了一个稀疏变化的检测在一个高维均值向量作为一个极大极小测试问题。我们的第一个主要贡献是得到确切的极小极大检验率在所有参数制度的$n$独立,$p$变量高斯观测。当稀疏度为$\sqrt{p \log \log (8n)}$阶时,该速率呈现相变,并且对样本量具有非常微妙的依赖性:在一定的稀疏度范围内,它涉及到~ $n$中的三重迭代对数因子。此外,在一个密集的渐近制度,我们确定了尖锐的领先常数,而在相应的稀疏渐近制度,这个常数被确定为在一个因素的$\sqrt{2}$。扩展,覆盖空间和时间的依赖性,主要是在密集的情况下,也提供。
2020-11-17 math.ST stat.ME stat.TH
De-biased sparse PCA: Inference and testing for eigenstructure of large covariance matrices
稀疏主成分分析(sparse principal component analysis,sPCA)已成为高维数据降维中应用最广泛的技术之一。sPCA的主要挑战是估计总体协方差矩阵的第一个负载向量,前提是只有一定数量的负载是非零的。在本文中,我们提出了置信区间的个人负荷和人口的协方差矩阵的最大特征值。给定一个独立的样本$X^i \in\mathbb R^p, i = 1,...,n,$从一个未知的分布与一个未知的协方差矩阵$Σ_0$,我们的目的是估计的第一个向量的负载和最大的特征值的$Σ_0$在设置$p\gg n$。除了高维性之外,另一个挑战在于问题固有的非凸性。我们基于我们的方法上的拉索惩罚M-估计,尽管非凸性,可以解决一个多项式时间的算法,如坐标或梯度下降。我们证明了我们的估计量在$\ell_1$和$\ell_2$ -范数下达到了极大极小最优速率。我们确定在拉索为基础的估计偏差,并提出了一个去偏稀疏PCA估计的负载向量和协方差矩阵$Σ_0$的最大特征值。我们的主要结果为去偏估计量的渐近正态性提供了理论保证。我们施加的主要条件是稀疏的第一个特征向量的小阶$\sqrt{n}/\log p$和稀疏的同阶的逆Hessian矩阵的列的人口风险。
2018-01-31 math.ST stat.ME stat.TH