Collision-based Testers are Optimal for Uniformity and Closeness
USC(南加州大学);MIT(麻省理工学院);UT Austin(德克萨斯大学奥斯汀分校)
本文研究了离散分布的均匀性检验和具有有界$\ell_2$ -范数的两个离散分布之间的紧密性检验的基本问题。这些问题在分布检验中得到了广泛的研究,样本最优估计量也因此被称为\cite{Paninski:08, CDVV14, VV14, DKN:15}。在这项工作中,我们表明,原来的碰撞为基础的测试提出了这些问题-\cite{GRdist:00, BFR+:00}是样本最佳的,常数因子。以前的分析表明,这些测试程序的样本复杂性上限是最佳的域大小$n$的函数,但次优的多项式因子的错误参数$ε$。我们的主要贡献是一个新的紧密的分析,建立这些碰撞为基础的测试是信息理论上最优的,恒定的因素,无论是在依赖于$n$和依赖于$ε$。
2016-11-11 cs.DS cs.IT cs.LG
Optimal Algorithms for Testing Closeness of Discrete Distributions
MSR New England(微软新英格兰研究院);University of Edinburgh(爱丁堡大学);Stanford University(斯坦福大学);Brown University(布朗大学)
研究了两个离散分布的贴近度检验问题。更确切地说,给定来自$n$ -元素集上的两个分布$p$和$q$的样本,我们希望区分$p=q$与$p$是否至少在$\ell_1$或$\ell_2$距离上远离$q$。Batu等人给出了这些问题的第一个次线性时间算法,该算法将Valiant的下限与$n$中的对数因子和$\eps.$的多项式因子相匹配。在这项工作中,我们为$\ell_1$和$\ell_2$设置提供了简单的(和新的)测试器,样本复杂度在信息理论上是最佳的,对于常数因子,无论是在对$n$的依赖性中,对于$\eps$测试问题,我们建立了样本复杂度为$Θ(\max\{n^{2/3}/\eps^{4/3}, n^{1/2}/\eps^2 \}).$
2013-08-19 cs.DS cs.IT cs.LG
Entropy Equivalence Testing
University of Sydney(悉尼大学);National University of Singapore(新加坡国立大学)
提出熵等价性检验问题,通过样本高效算法区分两个分布是否相等或熵差至少ε,并应用于低度贝叶斯网络的接近性检验。
2026-07-15 cs.DM cs.DS cs.IT
Testing Probabilistic Circuits
概率回路(PC)是一个强大的建模框架,用于表示组合空间上的易处理的概率分布。在机器学习和概率编程中,人们通常对理解使用PC学习的分布是否接近期望分布感兴趣。因此,给定两个概率电路,感兴趣的一个基本问题是确定它们的分布是否彼此接近。本文的主要贡献是对PC相对于总变差距离度量的接近性测试。我们的算法利用两个常见的PC查询,计数和采样。特别是,我们提供了一个多时间概率算法来检查两个PC的接近时,PC支持易处理的近似计数和采样。我们证明了我们的算法框架的实际效率,通过对一组475 PC基准的原型实现的详细实验评估。我们发现,我们的测试正确地决定在3600秒内所有475台PC的接近程度。
2021-12-09 cs.DM cs.DS
Testing Closeness of Multivariate Distributions via Ramsey Theory
UW Madison(威斯康星大学麦迪逊分校);UC San Diego(加利福尼亚大学圣迭戈分校)
研究多维分布的接近性测试问题,基于Ramsey理论提出了首个在固定维度下具有次学习样本复杂度的高效测试器及匹配下界,并揭示了维度从一维增至二维时样本复杂度的显著跳跃现象。
2023-11-22 cs.DS cs.IT cs.LG
Private Distribution Testing with Heterogeneous Constraints: Your Epsilon Might Not Be Mine
本文研究异构隐私约束下的私有接近性测试问题,针对具有不同隐私要求的两个数据集,在三种差分隐私设置下提出算法,证明考虑不同epsilon要求可提升样本效率。
2023-09-13 cs.DS
Two Party Distribution Testing: Communication and Security
研究了两方情形下离散分布的检验问题。例如,在标准的接近度测试问题中,Alice和Bob各自具有分别来自分布$a$和分布$b$ over $[n]$的$t$样本,并且他们需要测试$a=b$或$a,b$是否是$ε$ -far(对于某个固定的$ε>0$)。这与研究充分的一方情况相反,在这种情况下,测试人员可以不受限制地访问两种分布的样本,对于这些样本,最佳边界对于许多变化是已知的。尽管这是应用中的一个自然限制,但两党设置迄今为止一直没有引起注意。我们解决两个基本方面:1)什么是通信复杂性,以及2)它可以安全地完成,没有爱丽丝和鲍勃学习额外的信息,对方的输入。除了接近性测试,我们还研究了独立性测试问题,其中Alice和Bob分别具有来自分布$a$和$b$的$t$样本,它们可能是相关的;问题是$a,b$是否独立于$ε$ -远非独立。我们的贡献是三方面的:1)通信:我们展示了如何获得更多的样本,超越$t$上的信息理论约束的通信效率。增益是多项式优于通过适应标准算法获得的。2)下限:我们证明了我们的协议的紧密性测试,并为独立性测试时,样本的数量是无限的。这些下限是独立的利益,因为这些是第一个2方通信的测试问题的下限。3)安全性:我们定义了安全分发测试,并认为它必须至少泄漏一些最小的信息。然后,我们提供安全版本的上述协议的开销,只有多项式的安全参数。
2018-11-09 cs.DS
Simpler Distribution Testing with Little Memory
本文针对严格内存约束的流式分布测试(均匀性与接近性)提出更简单算法,去除参数范围限制并匹配已有下界。
2023-11-02 cs.DM cs.DS
On closeness to k-wise uniformity
{-1,1}^n上的概率分布是(eps,k)-均匀的,如果粗略地说,当限制到任何k坐标时,它是eps-接近均匀分布。我们考虑的问题有多远(eps,k)-明智的均匀分布可以从任何全球k-明智的均匀分布。我们证明了每个(eps,k)均匀分布在总变差距离上都是O(n^(k/2)eps)-接近于k均匀分布。此外,我们还证明了该界对于所有偶数k都是最优的:我们发现了一个(eps,k)方向的均匀分布,即Omega(n^(k/2)eps)-在总变差距离中远离任何k方向的均匀分布。对于k = 1,我们得到了O(eps)的更好的上界,这也是最优的。我们的贴近度结果的一个应用是测试分布是否是k-wise均匀或远离k-wise均匀的样本复杂度。我们在所需的样本上给出了O(n^k/delta^2)(或当k = 1时O(log n/delta^2))的上界。对于完全一致检验和远离k-一致检验的特殊情况,我们给出了O~(n^(k/2)/delta^2)的改进的上界.最后,当k = 2时,我们用匹配的Ω(n/delta^2)下界来补充这一点。我们的结果改进了[AAK+07]中的最佳界,并且具有更简单的证明。
2018-06-10 cs.DS
A New Approach for Testing Properties of Discrete Distributions
在这项工作中,我们给出了一个新的一般方法分布测试。我们描述了两种技术:我们的第一种技术提供了样本最佳的测试,而我们的第二种技术提供了匹配的样本下限。因此,我们解决了各种各样的测试问题的样本复杂性。我们的上界是通过一个模块化的减少为基础的方法。我们的方法通过使用标准的$\ell_2$身份测试仪作为黑盒,为许多问题产生最佳的测试仪。使用这个配方,我们获得了一系列问题的简单估计,包括以前在TCS文献中研究的大多数问题,即:(1)对固定分布的同一性检验,(2)两个未知分布之间的接近性检验(样本量相等/不等),(3)独立性检验(在任何数量的维度上),(4)分布集合的接近度测试,以及(5)测试直方图。对于所有这些问题,我们的测试人员都是样本最佳的,直到恒定的因素。除了(1),我们是{ \em第一个样本最优测试者为相应的问题。}此外,与以前的结果相比,我们的估计量更容易陈述和分析。作为我们的约简技术的应用,我们获得了第一个{ \em近实例最优}算法来测试两个{ \em未知}分布之间的等价性。此外,我们的技术自然地推广到$\ell_1$距离之外的其他度量。我们的下界是通过一个直接的信息理论的方法:给定一个候选的硬实例,我们的证明进行适当的随机变量之间的互信息的边界。虽然这是信息论中的经典方法,但在我们的工作之前,它还没有用于分布性质测试。
2016-05-09 cs.DS cs.IT math.IT
Optimal Testing of Discrete Distributions with High Probability
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);MPI(马克斯·普朗克研究所);University of California, San Diego(加利福尼亚大学圣迭戈分校);Yale University(耶鲁大学);UT Austin(德克萨斯大学奥斯汀分校)
我们研究的问题测试离散分布的高概率制度的重点。具体地,给定来自一个或多个离散分布的样本、属性$\mathcal{P}$和参数$0< ε, δ<1$,我们想要区分{概率至少为$1-δ$的\em}这些分布是否满足$\mathcal{P}$或者是$ε$ -在总变化距离上远离$\mathcal{P}$。分布测试中的大多数先前工作研究了恒定置信度情况(对应于$δ= Ω(1)$),并为一系列属性提供了样本最佳测试器。虽然人们总是可以通过黑盒放大来提高任何这样的测试者的置信概率,但是这种通用的提高方法通常会导致次优的样本界限。在这里,我们研究了以下广泛的问题:对于一个给定的属性$\mathcal{P}$,我们可以{ \em表征}的样本复杂性测试$\mathcal{P}$作为所有相关的问题参数的函数,包括错误概率$δ$?在这项工作之前,均匀性测试是唯一的统计任务,其样本的复杂性已在此设置的特点。作为我们的主要成果,我们提供了第一个算法的封闭性和独立性测试是样本最优的,在恒定的因素,作为所有相关参数的函数。我们还显示了匹配的信息理论的样本复杂性,这些问题的下限。我们的技术自然会扩展到为相关问题提供最佳测试人员。为了说明我们的方法的一般性,我们给出了最佳算法,用于测试分布的集合和测试不等大小的样本的接近度。
2020-09-14 cs.DS cs.LG math.ST
Communication and Memory Efficient Testing of Discrete Distributions
University of Southern California(南加州大学);Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);University of California, San Diego(加州大学圣地亚哥分校)
我们在以下计算模型中研究了具有通信和内存约束的分布测试:(1){ \em one-pass streaming model},其目标是最小化受内存约束的协议的样本复杂度,以及(2){ \em distributed model},其中数据样本驻留在多台机器上,目标是最小化协议的通信成本。在这两个模型中,我们提供了有效的算法,用于均匀性/同一性测试(拟合优度)和接近性测试(两个样本测试)。此外,我们显示几乎紧下界(1)的样本复杂性的任何单通流测试仪的均匀性,受内存约束,和(2)的通信成本的任何均匀性测试协议,在一个受限制的“一通”模型的通信。
2019-06-11 cs.DS cs.LG math.ST
Testing Properties of Multiple Distributions with Few Samples
Massachusetts Institute of Technology(麻省理工学院)
我们提出了一个新的设置,用于测试分布的属性,同时接收来自多个分布的样本,但每个分布的样本很少。给定来自$s$分布的样本,$p_1, p_2, \ldots, p_s$,我们设计测试器用于以下问题:(1)一致性测试:测试所有的$p_i$是否一致或$ε$-在$\ell_1$-距离中是否远不一致(2)同一性测试:测试是否所有的$p_i$都等于明确给定的分布$q$或$ε$-在$\ell_1$-距离中远离$q$,以及(3)接近性测试:测试所有$p_i$是否等于我们具有样本访问的分布$q$,或者$ε$-在$\ell_1$-距离中远离$q$。通过假设源分布的一个额外的自然条件,我们提供了所有这些问题的样本最优测试。
2019-11-17 cs.DM cs.DS cs.LG
Faster Algorithms for Testing under Conditional Sampling
University of California, San Diego(加州大学圣地亚哥分校)
最近有相当大的兴趣,分布测试的运行时间和样本的要求是次线性的域大小$k$。我们研究了两个最重要的测试下的条件抽样模型,每个查询指定一个子集$S$的域,和响应是一个样本从$S$根据底层的分布。对于身份测试,它询问是否底层分布等于一个特定的给定分布或$ε$ -不同于它,我们减少了已知的时间和样本的复杂性从$\tilde{\mathcal{O}}(ε^{-4})$到$\tilde{\mathcal{O}}(ε^{-2})$,从而匹配的信息理论下限。对于接近性测试,它询问两个分布的基础上观察到的数据集是相等还是不同的,我们减少现有的复杂性从$\tilde{\mathcal{O}}(ε^{-4} \log^5 k)$到一个偶数次对数$\tilde{\mathcal{O}}(ε^{-5} \log \log k)$,从而提供了一个更好的约束到一个开放的问题在Bertinoro研讨会上的次线性算法[Fisher,2004]。
2015-04-16 cs.CC cs.DS cs.LG
Better Private Distribution Testing by Leveraging Unverified Auxiliary Data
Rice University(莱斯大学);Purdue University(普渡大学);University of Sydney(悉尼大学);Computer Science and Artificial Intelligence Laboratory, MIT(麻省理工学院计算机科学与人工智能实验室)
本研究将增强分布测试框架拓展至差分隐私场景,针对三类核心分布测试任务设计样本复杂度随辅助信息质量平滑变化的私有算法,并通过信息论下界证明其最优性。
2025-03-18 cs.CR cs.DS cs.LG
Testing Product Distributions: A Closer Look
National University of Singapore(新加坡国立大学);Cornell University(康奈尔大学);University of Nebraska-Lincoln(内布拉斯加大学林肯分校)
研究了$n$维乘积分布的恒等式和封闭性检验问题。Canonne,Diakonikolas,Kane和Stewart(COLT 2017)以及Daskalakis和Pan(COLT 2017)之前的工作已经为二进制字母表上的非容差测试建立了严格的样本复杂度界限:给定二进制字母表上的两个产品分布$P$和$Q$,区分$P = Q$和$d_{\mathrm{TV}}(P, Q) > ε$。我们建立在此之前的工作,给出一个更全面的地图的复杂性测试的产品分布调查宽容测试方面的几个自然距离的措施,并在任意字母表。我们的研究给出了一个细粒度的理解如何宽容测试的样本复杂性的变化与产品分布的距离措施。此外,我们还扩展了我们的上界的产品分布有界度贝叶斯网。
2021-05-26 cs.DS cs.IT cs.LG
Distribution Testing in the Presence of Arbitrarily Dominant Noise with Verification Queries
本文提出验证查询模型,在仅有极小比例相关数据的混合分布中,通过样本与验证查询的平滑权衡,为均匀性、同一性和接近性测试给出匹配的上下界,并证明提供混合分布PDF可绕过下界。
2025-09-21 cs.DM cs.DS
Gaussian Mean Testing Made Simple
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);University of California, San Diego(加州大学圣地亚哥分校)
我们研究了以下基本的假设检验问题,我们称之为高斯均值检验。注射了。样本来自$p$上的分布$\mathbb{R}^d$,任务是以高概率区分以下情况:(i)$p$是标准高斯分布$\mathcal{N}(0,I_d)$,以及(ii)$p$是高斯$\mathcal{N}(μ,Σ)$,对于某些未知协方差$Σ$和均值$μ\in \mathbb{R}^d$满足$\|μ\|_2 \geq ε$。最近的工作给出了一个算法,这个测试问题的最佳样本复杂度为$Θ(\sqrt{d}/ε^2)$。以前的算法及其分析都相当复杂。在这里,我们给出了一个非常简单的算法高斯均值测试与一页分析。我们的算法是样本最优的,并且在样本线性时间内运行。
2022-10-25 cs.DS cs.LG math.ST
Testing Mixtures of Discrete Distributions
关于大区域上分布性质检验的样本复杂性问题,已有大量的研究。对于许多属性,已知样本复杂度可以显著小于域大小。例如,在大小为$n$的域上,区分均匀分布与在$\ell_1$ -距离中远离均匀的分布仅使用$O(\sqrt{n})$样本。然而,在存在任意噪声的情况下,即使噪声量很小,图像也是非常不同的。在这种情况下,必须区分样本是否来自接近均匀的$ε$分布和远离均匀的$(1-ε)$分布。后一项任务要求$n$样品几乎呈线性[Valiant 2008,Valian和Valiant 2011]。在这项工作中,我们提出了一个噪声模型,一方面是更易于处理的测试问题,另一方面代表了丰富的一类噪声家庭。在我们的模型中,噪声分布是原始分布和噪声的混合物,其中后者是测试人员明确或通过样本访问已知的;噪声的形式也是先验已知的。集中在同一性和接近性测试问题导致下面的混合测试问题:给定分布$p, q_1,q_2$的样本,我们可以测试$p$是否是$q_1$和$q_2$的混合吗?我们认为这个一般性的问题,在不同的情况下,测试人员如何可以访问的分布,并表明,这个问题确实是更容易处理。我们的结果表明,我们的测试人员的样本复杂性是完全相同的经典的非混合的情况下。
2019-07-06 cs.DS math.ST stat.ML
Optimal Algorithms for Augmented Testing of Discrete Distributions
Rice University(莱斯大学);Boston University(波士顿大学);Northeastern University(东北大学);MIT(麻省理工学院);UW-Madison(威斯康星大学麦迪逊分校)
针对离散分布的均匀性、同一性和接近性测试,本文提出可利用预测分布并按其总变差距离自适应调整样本量的最优稳健算法。
2024-12-01 cs.DS cs.LG stat.ML
Sequential testing problem: A follow-up review
Sabanci University(萨贝里大学)
本文回顾了过去20年序列检验问题的研究进展,总结了主要成果并探讨了未来研究方向。
2025-11-18 cs.DM cs.DS
Is your function low-dimensional?
我们研究的问题,如果一个函数依赖于其输入数据的线性方向的一个小数目的测试。如果一个函数$f$完全由输入空间的某个$k$维子空间确定,则称它为线性$k$ -junta.在本文中,我们研究的问题,测试是否一个给定的$n$变量函数$f : \mathbb{R}^n \to \{0,1\}$,是一个线性$k$ -junta或$ε$ -远离所有的线性$k$ -junta,其中的接近度是相对于$\mathbb{R}^n$上的高斯测度。线性$k$ -juntas是从布尔函数分析的两个基本类的共同推广(这两个类都已经在属性测试中进行了研究)$\textbf{1.}$ $k$ - juntas是布尔立方体上的函数,它依赖于至多k个变量和$k$半空间的$\textbf{2.}$交集,一个基本的几何概念类。我们发现,类的线性$k$ -juntas是不可测的,但增加了一个表面积的限制,使其可测:我们给了一个$\mathsf{poly}(k \cdot s/ε)$查询非自适应测试仪的线性$k$ -juntas表面积最多$s$。我们表明,$s$多项式依赖是必要的。此外,我们表明,如果该函数是一个线性$k$ -junta的表面积最多$s$,我们给出了一个$(s \cdot k)^{O(k)}$ -查询非自适应算法来学习函数的旋转的基础。特别是,这意味着我们可以测试类的交叉点的$k$半空间在$\mathbb{R}…
2018-11-02 cs.CC cs.DS
Testing with Non-identically Distributed Samples
Microsoft Research(微软研究院);Stanford University(斯坦福大学)
研究独立非同分布样本下的属性测试,发现当每个分布仅1个样本时需线性样本量,而$c≥2$时可恢复独立同分布的次线性样本复杂度保证。
2025-11-04 cs.DS cs.IT cs.LG
Near-Optimal Pool Testing under Urgency Constraints
在大量人群中检测罕见性状或疾病具有挑战性。混合测试可以以较低的成本覆盖更大范围的人口,同时简化后勤工作。然而,检测精度降低,因为不清楚池中的哪个成员使全局检测呈阳性。在本文中,我们讨论的测试策略,可证明的方法最好的可能的战略-最佳的意义上说,没有其他的策略可以得到确切的结果与较少的测试。我们的算法保证他们提供了一个完整和准确的结果,为每个人,而不超过$1/0.99$倍的测试数量的最佳策略将需要。这个阈值是任意的:可以描述更接近最优边界的算法,但它们的复杂性会增加,使它们不太实用。此外,算法处理输入样本的方式导致更快地知道一些个体的状态,从而允许在将个体分配给测试时考虑紧急性。
2021-06-21 cs.DS cs.IT math.IT