A Chasm Between Identity and Equivalence Testing with Conditional Queries
Cornell University(康奈尔大学);Stanford University(斯坦福大学);Columbia University(哥伦比亚大学);Simons Institute for the Theory of Computing(西蒙斯计算理论研究所)
最近的概率分布的属性测试模型(Chakraborty等人,ITCS 2013,Canonne等人,SICOMP 2015)通过允许测试算法对域的子集进行采样,从而极大地节省了测试算法的样本复杂性。特别是,Canonne,Ron和Servedio(SICOMP 2015)表明,在这种情况下,测试未知分布$D$的身份(是否$D=D^\ast$为明确已知的$D^\ast$)可以通过恒定数量的查询来完成,与支持大小$n$无关-与标准抽样模型中所需的$Ω(\sqrt{n})$相反。目前还不清楚是否存在同样的鲜明对比的情况下,测试等效性,其中两个分布是未知的。虽然Canonne等人为等价性检验建立了一个$\mathrm{poly}(\log n)$ -查询上限,最近Falahatgar等人将其降低到$\tilde O(\log\log n)$(COLT 2015),但是否需要依赖域大小$n$仍然是开放的,并且Fischer在Bertinoro次线性算法研讨会(2014)上明确提出。我们证明了任何等价性检验算法都必须在条件抽样模型中进行$Ω(\sqrt{\log\log n})$查询。这表明同一性和等效性检验之间存在差距,而标准抽样模型中不存在这种差距(其中两个问题都具有抽样复杂性$n^{Θ(1)}$)。我们还获得了查询复杂性的一致性测试和支持大小估计与条件样本的结果。我们回答了Chakrabo…
2018-12-07 cs.CC cs.DS cs.LG
Sampling and Identity-Testing Without Approximate Tensorization of Entropy
Carnegie Mellon University(卡内基梅隆大学)
本文研究了不满足近似熵张量化(ATE)的混合分布的采样与同一性测试问题,证明了其Glauber dynamics的快速混合性,并在坐标条件访问模型下提出了高效的同一性测试器。
2025-06-30 cs.DS cs.LG math.ST
Private High-Dimensional Hypothesis Testing
Massachusetts Institute of Technology(麻省理工学院)
我们提供了改进的差分隐私算法的高维分布的身份测试。具体地,对于具有已知协方差$Σ$的$d$维高斯分布,如果允许算法在计算上低效,则可以仅使用\[\tilde{O}\left(\frac{d^{1/2}}{α^2} + \frac{d^{1/3}}{α^{4/3} \cdot \varepsilon^{2/3}} + \frac{1}{α\cdot \varepsilon}\right)\]样本来测试该分布是来自某个固定$μ^*$的$\mathcal{N}(μ^*, Σ)$还是来自某个$\mathcal{N}(μ, Σ)$,其中总变化距离至少为$α$,来自具有$(\varepsilon, 0)$ -差分隐私的$\mathcal{N}(μ^*, Σ)$。并且对于计算上有效的算法仅采样\[\tilde{O}\left(\frac{d^{1/2}}{α^2} + \frac{d^{1/4}}{α\cdot \varepsilon}\right)\]。我们还提供了一个匹配的下限表明,我们的计算效率低下的算法具有最佳的样本复杂度。我们还将我们的算法扩展到各种相关的问题,包括均值检验的高斯有界,但未知的协方差,均匀性测试的产品分布在$\{-1, 1\}^d$,和宽容的测试。我们的结果比Canonne等人以前的最佳工作有所改进。\cite{CanonneKMUZ20}的计算效率和效率低下的算法,甚…
2022-07-24 cs.CR cs.DS cs.IT
Sharp Bounds for Generalized Uniformity Testing
University of Southern California(南加州大学);University of California, San Diego(加利福尼亚大学圣迭戈分校)
我们研究离散概率分布的广义均匀性检验问题\cite{BC17}:给定来自{ \em未知}离散域$\mathbfΩ$上的概率分布$p$的样本,我们希望以至少$2/3$的概率区分$p$在$\mathbfΩ$的某个{ \em子集}上是均匀的情况与$ε$ -远,在总变化距离中,任何这样的均匀分布。我们建立了广义均匀性检验样本复杂性的严格界。更详细地说,我们提出了一个计算效率高的测试,其样本的复杂性是最佳的,常数的因素,和匹配的信息理论的下限。具体来说,我们证明了广义均匀性检验的样本复杂性是$Θ\left(1/(ε^{4/3}\|p\|_3) + 1/(ε^{2} \|p\|_2) \right)$。
2017-09-07 cs.DS cs.IT cs.LG
Testing Bayesian Networks
IBM Research(IBM研究院);Stanford University(斯坦福大学);Columbia University(哥伦比亚大学);University of WisconsinMadison(威斯康星大学麦迪逊分校);University of Southern California(南加州大学);Web3 Foundation(Web3基金会);University of California, San Diego(加利福尼亚大学圣迭戈分校)
这项工作启动了一个系统的调查,测试高维结构化分布的重点是测试贝叶斯网络-有向图形模型的原型家庭。贝叶斯网络由有向无环图定义,其中我们将随机变量与每个节点相关联。一旦其父节点固定,任何特定节点上的值都有条件地独立于所有其他非后代节点。具体地,我们研究了贝叶斯网络的身份测试和贴近度测试的性质。我们的主要贡献是这些问题的第一个非平凡有效的测试算法和相应的信息论下界。对于广泛的参数设置,我们的测试算法的样本复杂度在维度上是次线性的,并且是样本最优的,直到常数因子。
2020-01-25 cs.DS cs.IT cs.LG
Square Hellinger Subadditivity for Bayesian Networks and its Applications to Identity Testing
MIT(麻省理工学院)
我们证明了同一个有向图$G$上的两个贝叶斯网络之间的平方Hellinger距离相对于$G$的邻域是次加性的。也就是说,如果$P$和$Q$是由同一DAG上的两个贝叶斯网络定义的概率分布,则我们的不等式表明$P$和$Q$之间的平方海灵格距离$H^2(P,Q)$的上界为DAG中每个节点$v$及其父节点$Π_v$上的$P$和$Q$的边缘之间的平方海灵格距离之和$\sum_v H^2(P_{\{v\} \cup Π_v}, Q_{\{v\} \cup Π_v})$。重要的是,我们的界限不涉及$P$和$Q$的条件,但边缘。对于更一般的马尔可夫随机场,我们得到了一个类似的不等式。作为我们的不等式的应用,我们表明,区分是否两个贝叶斯网络$P$和$Q$上相同的(但可能是未知的)DAG满足$P=Q$与$d_{\rm TV}(P,Q)>ε$可以执行从$\tilde{O}(|Σ|^{3/4(d+1)} \cdot n/ε^2)$样本,其中$d$是最大程度的DAG和$Σ$贝叶斯网络的每个变量的域。如果$P$和$Q$被定义在潜在不同和潜在未知的树上,则样本复杂度变为$\tilde{O}(|Σ|^{4.5} n/ε^2)$,其对$n, ε$的依赖性在对数因子上是最优的。最后,如果$P$和$Q$是$\{0,1\}^n$上的乘积分布,并且$Q$是已知的,则样本复杂度变为$O(\sqrt{n}/ε^2)$,这对于常数…
2016-12-09 cs.IT cs.LG math.IT
Optimal Testing of Discrete Distributions with High Probability
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);MPI(马克斯·普朗克研究所);University of California, San Diego(加利福尼亚大学圣迭戈分校);Yale University(耶鲁大学);UT Austin(德克萨斯大学奥斯汀分校)
我们研究的问题测试离散分布的高概率制度的重点。具体地,给定来自一个或多个离散分布的样本、属性$\mathcal{P}$和参数$0< ε, δ<1$,我们想要区分{概率至少为$1-δ$的\em}这些分布是否满足$\mathcal{P}$或者是$ε$ -在总变化距离上远离$\mathcal{P}$。分布测试中的大多数先前工作研究了恒定置信度情况(对应于$δ= Ω(1)$),并为一系列属性提供了样本最佳测试器。虽然人们总是可以通过黑盒放大来提高任何这样的测试者的置信概率,但是这种通用的提高方法通常会导致次优的样本界限。在这里,我们研究了以下广泛的问题:对于一个给定的属性$\mathcal{P}$,我们可以{ \em表征}的样本复杂性测试$\mathcal{P}$作为所有相关的问题参数的函数,包括错误概率$δ$?在这项工作之前,均匀性测试是唯一的统计任务,其样本的复杂性已在此设置的特点。作为我们的主要成果,我们提供了第一个算法的封闭性和独立性测试是样本最优的,在恒定的因素,作为所有相关参数的函数。我们还显示了匹配的信息理论的样本复杂性,这些问题的下限。我们的技术自然会扩展到为相关问题提供最佳测试人员。为了说明我们的方法的一般性,我们给出了最佳算法,用于测试分布的集合和测试不等大小的样本的接近度。
2020-09-14 cs.DS cs.LG math.ST
Testing Poisson Binomial Distributions
MIT(麻省理工学院)
$n$变量的泊松二项分布是$n$独立Bernoullis之和的分布。我们提供了一个样本接近最优的算法来测试是否分布$P$支持$\{0,...,n\}$,我们有样本访问是泊松二项分布,或远离所有泊松二项分布。我们的算法的样本复杂度是$O(n^{1/4})$,我们提供了一个匹配的下限。我们注意到,我们的样本复杂度在天真的“学习后进行容差测试”方法的基础上以二次方的方式提高,而实例最优身份测试[VV 14]不适用,因为我们希望同时测试整个分布族。
2014-10-14 cs.DS cs.IT cs.LG
The Sample Complexity of Robust Covariance Testing
UW Madison(威斯康星大学麦迪逊分校);University of California, San Diego(加州大学圣迭戈分校)
本文研究了在Huber污染模型中输入分布被破坏的情况下,高维高斯分布协方差矩阵在鲁棒环境中的检验问题。具体来说,我们被赋予了身份证。来自$Z = (1-ε) X + εB$形式的分布的样本,其中$X$是零均值和未知协方差高斯$\mathcal{N}(0, Σ)$,$B$是固定但未知的噪声分布,并且$ε>0$是表示污染比例的任意小常数。我们想区分$Σ$是单位矩阵与$γ$的情况--远不是Frobenius范数中的单位矩阵。在没有污染的情况下,先前的工作为使用$O(d)$样品的假设检验任务提供了一个简单的测试仪。此外,该样本上限被证明是最好的可能性,在恒定的因素。我们的主要结果是,样本的复杂性的协方差检验显着增加污染的设置。特别是,我们证明了一个样本的复杂性下限的$Ω(d^2)$ $ε$一个任意小的常数和$γ= 1/2$。该下限是最可能的,因为$O(d^2)$样本足以稳健地{ \em学习}协方差。我们的研究结果的概念含义是,对于我们考虑的自然环境,稳健的假设检验至少和稳健的估计一样难。
2020-12-31 cs.LG math.ST stat.ML
Testing Product Distributions: A Closer Look
National University of Singapore(新加坡国立大学);Cornell University(康奈尔大学);University of Nebraska-Lincoln(内布拉斯加大学林肯分校)
研究了$n$维乘积分布的恒等式和封闭性检验问题。Canonne,Diakonikolas,Kane和Stewart(COLT 2017)以及Daskalakis和Pan(COLT 2017)之前的工作已经为二进制字母表上的非容差测试建立了严格的样本复杂度界限:给定二进制字母表上的两个产品分布$P$和$Q$,区分$P = Q$和$d_{\mathrm{TV}}(P, Q) > ε$。我们建立在此之前的工作,给出一个更全面的地图的复杂性测试的产品分布调查宽容测试方面的几个自然距离的措施,并在任意字母表。我们的研究给出了一个细粒度的理解如何宽容测试的样本复杂性的变化与产品分布的距离措施。此外,我们还扩展了我们的上界的产品分布有界度贝叶斯网。
2021-05-26 cs.DS cs.IT cs.LG
Communication and Memory Efficient Testing of Discrete Distributions
University of Southern California(南加州大学);Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);University of California, San Diego(加州大学圣地亚哥分校)
我们在以下计算模型中研究了具有通信和内存约束的分布测试:(1){ \em one-pass streaming model},其目标是最小化受内存约束的协议的样本复杂度,以及(2){ \em distributed model},其中数据样本驻留在多台机器上,目标是最小化协议的通信成本。在这两个模型中,我们提供了有效的算法,用于均匀性/同一性测试(拟合优度)和接近性测试(两个样本测试)。此外,我们显示几乎紧下界(1)的样本复杂性的任何单通流测试仪的均匀性,受内存约束,和(2)的通信成本的任何均匀性测试协议,在一个受限制的“一通”模型的通信。
2019-06-11 cs.DS cs.LG math.ST
Near-optimal algorithms for private estimation and sequential testing of collision probability
Google Research(谷歌研究)
针对碰撞概率这一离散分布扩散的基本度量,提出满足(α,β)局部差分隐私的估计算法(样本复杂度提升1/α²倍)和序贯检验算法(ε未知时样本复杂度Õ(1/ε²)),实现近最优样本复杂度且实验样本需求显著减少。
2025-04-18 cs.AI cs.LG stat.ML
Better Private Distribution Testing by Leveraging Unverified Auxiliary Data
Rice University(莱斯大学);Purdue University(普渡大学);University of Sydney(悉尼大学);Computer Science and Artificial Intelligence Laboratory, MIT(麻省理工学院计算机科学与人工智能实验室)
本研究将增强分布测试框架拓展至差分隐私场景,针对三类核心分布测试任务设计样本复杂度随辅助信息质量平滑变化的私有算法,并通过信息论下界证明其最优性。
2025-03-18 cs.CR cs.DS cs.LG
Testing Identity of Structured Distributions
我们研究了结构化分布的恒等式检验问题。更确切地说,给定来自$[n]$上的{ \em结构化}分布$q$和$[n]$上的显式分布$p$的样本,我们希望区分$q=p$与$q$是否至少是$ε$ -在$L_1$距离上远离$p$。在这项工作中,我们提出了一个统一的方法,产生新的,简单的测试,与样本的复杂性,是信息理论上最优的,广泛的结构化分布,包括$t$ -平坦分布,$t$ -模态分布,对数凹分布,单调风险率(MHR)分布,及其混合物。
2014-10-08 cs.DS cs.IT math.IT
Identity testing under label mismatch
检验观察到的数据是否符合假定的模型(概率分布)是一项基本的统计任务,也是一项现在已经很好理解的任务。然而,标准的制定,身份测试,未能捕捉到许多设置的兴趣,在这项工作中,我们专注于这样一个自然的设置,身份测试下的承诺置换。在这种情况下,假设未知分布等于声称的分布,直到模型的重新标记(置换):然而,由于数据报告中的系统误差,这种重新标记可能不是同一性。然后,目标是在此假设下测试同一性:等效地,这种系统性标签错误是否导致数据分布在统计上远离参考模型。
2021-05-05 cs.DM cs.DS math.ST
Differentially Private Identity and Closeness Testing of Discrete Distributions
MIT(麻省理工学院);USC(南加州大学);TAU(特拉维夫大学)
本文研究了离散总体上随机样本的同一性和紧密性检验问题。我们的目标是开发高效的测试人员,同时保证人口中的个体的差分隐私。我们描述了一种方法,产生样本有效的差异私人测试这些问题。我们的理论研究结果表明,存在私人身份和亲密度测试,几乎是他们的非私人同行的样本效率。我们进行实验评估我们的算法上的合成数据。我们的实验表明,我们的私人测试人员实现小的I型和II型错误的样本量次线性域大小的基础分布。
2017-07-18 cs.DS cs.IT cs.LG
Differentially Private Testing of Identity and Closeness of Discrete Distributions
Cornell University(康奈尔大学)
研究了差分隐私下$k$元素上分布的一致性检验(拟合优度)和接近性检验(两样本检验)的基本问题。虽然这些问题在统计学上有很长的历史,但这些问题的有限样本范围最近才建立起来。在这项工作中,我们推导出样本上的上限和下限的复杂性的问题下$(\varepsilon, δ)$ -差分隐私。我们提供了最佳的样本复杂度算法的身份测试问题的所有参数范围内,和第一个结果的紧密性测试。我们的紧密度测试的界限是最佳的稀疏制度的样本数量是最多$k$。我们的上界是通过私有化这些问题的非私有估计得到的。非私有估计量被选择为具有小的灵敏度。我们提出了一个一般性的框架,建立下限的样本复杂性的统计任务下差分隐私。我们展示了一个绑定的差异私人算法在两个假设类之间的耦合,我们的目标是测试。通过构建精心选择的先验的假设类,并使用Le Cam的两点定理,我们提供了一个一般的机制证明下界。我们相信,该框架可以用来获得强有力的下限下的隐私下的其他统计任务。
2017-10-31 cs.DS cs.IT cs.LG
Hardness of Identity Testing for Restricted Boltzmann Machines and Potts models
Pennsylvania State University(宾夕法尼亚州立大学);Georgia Institute of Technology(佐治亚理工学院);University of Rochester(罗切斯特大学)
我们研究身份测试的限制玻尔兹曼机(RBM),更普遍的无向图形模型。给定样本访问对应于未知或隐藏模型$M^*$的吉布斯分布,并给定显式模型$M$,我们能否区分$M = M^*$或它们是否(统计上)相距很远?Daskalakis等人(2018)提出了一种多项式时间算法,用于铁磁(吸引力)伊辛模型的身份测试。相比之下,对于反铁磁(排斥)伊辛模型,Bezáková等人(2019)证明,除非$RP=NP$,否则当$βd=ω(\log{n})$时没有身份测试算法,其中$d$是可见图的最大度,$β$是绝对值最大的边权重。我们证明了RBM的类似硬度结果(即,二分图上的混合伊辛模型),即使没有潜在变量或外部场。具体来说,我们表明,如果$RP \neq NP$,那么当$βd=ω(\log{n})$时,RBM的身份测试没有多项式时间算法;当$βd =O(\log{n})$时,有一种有效的身份测试算法,该算法利用了Klivans和Meka的结构学习算法(2017)。此外,我们证明了类似的下限为纯铁磁RBM与不一致的外部领域,和铁磁Potts模型。Bezáková等人(2019)先前的同一性测试的硬度结果利用了找到最大切割的硬度,这对应于反铁磁伊辛模型的基态。由于成果管理制是在二分图上,这种方法是不可行的。相反,我们引入了一个通用的方法来减少从相应的近似计数问题,并利用RBM和平均场波茨模型所表现出的相变。
2020-04-22 cs.DS cs.LG math.PR
Testing Distribution Identity Efficiently
我们考虑分布恒等式的检验问题。给定来自大小为n的域上的未知分布的独立样本序列,目标是检查未知分布是否近似等于相同域上的已知分布。Batu,Fortnow,Fischer,Kumar,Rubinfeld,and White(FOCS 2001)证明了该问题的样本复杂度为O~(sqrt(n)* poly(1/n)),而他们的测试程序的运行时间要高得多:O(n)+ O~(sqrt(n)* poly(1/n))。我们修改了他们的测试器,使其运行时间为O~(sqrt(n)* poly(1/n))。
2009-10-16 cs.DS
Sequential algorithms for testing identity and closeness of distributions
在测试未知分布的性质时,与批处理算法相比,\emph{sequential}过程有什么优势?针对检验$\{1,\dots, n\}$上的两个分布$\mathcal{D}_1$和$\mathcal{D}_2$是否相等或是否为$ε$ -远的问题,给出了几种答案.我们表明,对于一个小的字母大小$n$,有一个顺序算法,优于任何批处理算法的一个因素,至少$4$在样本复杂性。对于一个一般的字母大小$n$,我们给出了一个顺序算法,使用不超过其批处理对应的样本,并可能更少,如果$\mathcal{D}_1$和$\mathcal{D}_2$之间的实际距离$TV(\mathcal{D}_1, \mathcal{D}_2)$大于$ε$。作为一个推论,让$ε$去$0$,我们得到一个顺序的算法,用于测试接近度时,没有先验界的$TV(\mathcal{D}_1, \mathcal{D}_2)$是给定的样本复杂度$\tilde{\mathcal{O}}(\frac{n^{2/3}}{TV(\mathcal{D}_1, \mathcal{D}_2)^{4/3}})$:这改善了\cite{daskalakis2017optimal}的$\tilde{\mathcal{O}}(\frac{n/\log n}{TV(\mathcal{D}_1, \mathcal{D}_2)^{2} })$测试,是最佳的乘法常数。我们还…
2022-05-12 cs.DS math.ST stat.TH
Lower bounds for testing graphical models: colorings and antiferromagnetic Ising models
Rochester Institute of Technology(罗切斯特理工学院);Pennsylvania State University(宾夕法尼亚州立大学);Georgia Institute of Technology(佐治亚理工学院);University of Rochester(罗切斯特大学)
我们研究的身份测试问题的背景下,自旋系统或无向图形模型,它采取以下形式:给定的参数规格的模型$M$和一个采样Oracle的分布$μ_{\hat{M}}$的一个未知的模型$\hat{M}$,我们可以有效地确定,如果两个模型$M$和$\hat{M}$是相同的?我们考虑软约束和硬约束系统的身份测试。特别是,我们证明了硬度结果在两个典型的情况下,伊辛模型和适当的着色,并探讨身份测试是否比结构学习更容易。对于铁磁(吸引力)伊辛模型,Daskalakis等人(2018)提出了一种用于身份测试的多项式时间算法。我们证明了硬度结果在反铁磁(排斥)设置在相同的制度的参数,结构学习是已知的,需要一个超多项式数量的样本。特别地,对于$n$ -顶点图的最大度$d$,我们证明了,如果$|β| d = ω(\log{n})$(其中$β$是逆温度参数),则不存在多项式运行时间恒等式检验算法,除非$RP=NP$ .我们还建立了一个更广泛的参数(随机)指数时间假设下的计算下限。我们的证明利用了Sly(2010)最近关于近似计数的硬度的作品中使用随机图设计小工具的见解。在硬约束设置中,我们提出了硬度的结果,适当的着色身份测试。我们的结果是基于假定的硬度#BIS,问题(近似)计数独立集的二分图。特别是,我们证明了身份测试是很难在相同的参数范围内的结构学习是已知的困难。
2019-06-20 cs.DS cs.LG math.PR
The Power of Depth 2 Circuits over Algebras
研究了矩阵代数上深度为2的算术电路的多项式恒等式测试问题。我们证明了域F上深度为3的(Sigma-Pi-Sigma)算术电路的恒等式测试是多项式时间等价于域U_2(F)上深度为2的(Pi-Sigma)算术电路的恒等式测试。这样的联系是有点令人惊讶的,因为我们还表明,作为计算模型,在U_2(F)上的Pi-Sigma电路严格“弱”于在F上的Sigma-Pi-Sigma电路。该等价性进一步表明,深度为3的算术电路的PIT可退化为宽度为2的平面交换代数分支程序的PIT。因此,即使在宽度为2的情况下,交换ABP的身份测试也是有趣的。进一步,我们给出了F上任意常维交换代数上Pi-Sigma电路的确定性多项式时间恒等式检验算法。而在多项式维数的交换代数上,恒等式检验至少和F上的Sigma-Pi-Sigma电路一样困难。
2009-04-14 cs.CC cs.DS
Operator Scaling via Geodesically Convex Optimization, Invariant Theory and Polynomial Identity Testing
本文提出了一种新的求解正定矩阵上自然双曲度量测地线凸优化问题的二阶方法。我们将其应用于解决时间多项式的输入大小和对数的误差算子缩放问题。这是一个指数级的改进,以前的算法,分析在通常的欧几里德,“交换”度量(其中上述问题是不凸的)。我们的方法是通用的,适用于其他设置。作为结果,我们解决了等价问题的左,右群作用的运营商缩放问题。这产生了一个确定性的多项式时间算法的一类新的多项式恒等式测试(PIT)问题,这是最初的动机,研究运营商缩放。
2018-04-03 cs.CC cs.DS math.AG
Testing Data Binnings
出于数据量化和“装箱”的问题,我们重新审视离散概率分布的身份测试的问题。鉴别试验(又名单样本检验)是分布检验中的一个基本的并且到目前为止已经被很好理解的问题,它询问给定参考分布(模型)$\mathbf{q}$和来自未知分布$\mathbf{p}$的样本,两者都在$[n]=\{1,2,\dots,n\}$上,$\mathbf{p}$是否等于$\mathbf{q}$,或者与之显著不同。本文介绍了相关的"直到装箱的同一性“问题,其中参考分布$\mathbf{q}$在$k \ll n$元素上:问题是是否存在域$[n]$到$k$间隔的合适的装仓,使得一旦“装仓”,$\mathbf{p}$等于$\mathbf{q}$。我们提供了这个新问题的样本复杂性的几乎严格的上限和下限,显示了与香草身份测试的定量和定性差异,并回答了Canonne(2019)的一个开放问题。最后,我们讨论了几个扩展和相关的研究方向。
2020-04-27 cs.DM cs.DS
Testing identity of collections of quantum states: sample complexity analysis
研究在已知概率样本访问下测试未知量子态集合同一性的问题,证明基数为N的d维量子态集合样本复杂度为O(√N d/ε²)且有匹配下界,通过推广Hilbert-Schmidt距离估计器实现测试。
2023-09-07 cs.DS quant-ph
Polynomial Interpolation and Identity Testing from High Powers over Finite Fields
我们考虑的问题,恢复(即,插值)和身份测试的“隐藏”monic多项式$f$,给定的Oracle访问$f(x)^e$的$x\in{\mathbb F_q}$(扩展字段访问是不允许的)。朴素插值算法需要$O(e\, \mathrm{deg}\, f)$查询,因此需要$e\, \mathrm{deg}\, f<q$。我们设计的算法,在某些情况下是渐近更好的,只需要$e^{o(1)}$查询的甲骨文。在随机(和量子)设置,我们给出了一个更好的插值算法,只需要$O(\mathrm{deg}\, f \log q)$查询。这样的结果以前只在线性$f$的特殊情况下是已知的,称为隐移幂问题。我们使用的技术从代数,如有效版本的希尔伯特的零点,和解析数论,如结果分布的有理函数在子群和字符总和估计。
2015-02-23 cs.DS math.NT
Efficient Black-Box Identity Testing over Free Group Algebra
Hrubeiden和Wigderson [HW 14]在自由偏斜域上开始了对非交换算术电路的研究,并提出了有理恒等式测试的问题。现在我们知道,这个问题可以在白盒模型中的确定性多项式时间中解决,对于具有逆的非交换公式,在黑盒模型中可以在随机多项式时间中解决[GGOW 16,IQS 18,DM 18],其中运行时间是公式大小的多项式。非交换有理函数的恒等式测试的复杂性通常是开放的(当公式大小不是多项式有界时)。我们解决了一个自然的特殊情况下的问题。我们考虑自由群代数$\mathbb{F}\langle X, X^{-1}\rangle$中的多项式表达式,其中$X=\{x_1, x_2, \ldots, x_n\}$是反演高度1的有理表达式的子类。我们的主要结果如下。1.给定度$d$表达式$f$在$\mathbb{F}\langle X, X^{-1}\rangle$中为黑盒,我们得到一个随机$\text{poly}(n,d)$算法来检验$f$是否为同零表达式.我们通过将Amitsur-Levitzki定理[AL 50]推广到$\mathbb{F}\langle X, X^{-1}\rangle$来获得这一点。这也产生了一个确定性的身份测试算法(甚至是表达式重构算法),它在输入表达式的稀疏性方面是多项式时间。2.给定度至多为$D$的$\mathbb{F}\langle X, X^{-1}…
2019-04-28 cs.CC cs.DS
A New Approach for Testing Properties of Discrete Distributions
在这项工作中,我们给出了一个新的一般方法分布测试。我们描述了两种技术:我们的第一种技术提供了样本最佳的测试,而我们的第二种技术提供了匹配的样本下限。因此,我们解决了各种各样的测试问题的样本复杂性。我们的上界是通过一个模块化的减少为基础的方法。我们的方法通过使用标准的$\ell_2$身份测试仪作为黑盒,为许多问题产生最佳的测试仪。使用这个配方,我们获得了一系列问题的简单估计,包括以前在TCS文献中研究的大多数问题,即:(1)对固定分布的同一性检验,(2)两个未知分布之间的接近性检验(样本量相等/不等),(3)独立性检验(在任何数量的维度上),(4)分布集合的接近度测试,以及(5)测试直方图。对于所有这些问题,我们的测试人员都是样本最佳的,直到恒定的因素。除了(1),我们是{ \em第一个样本最优测试者为相应的问题。}此外,与以前的结果相比,我们的估计量更容易陈述和分析。作为我们的约简技术的应用,我们获得了第一个{ \em近实例最优}算法来测试两个{ \em未知}分布之间的等价性。此外,我们的技术自然地推广到$\ell_1$距离之外的其他度量。我们的下界是通过一个直接的信息理论的方法:给定一个候选的硬实例,我们的证明进行适当的随机变量之间的互信息的边界。虽然这是信息论中的经典方法,但在我们的工作之前,它还没有用于分布性质测试。
2016-05-09 cs.DS cs.IT math.IT
Identity Testing for Circuits with Exponentiation Gates
本文研究带指数门的算术电路恒等性测试问题,提出有限域黑盒查询模型及随机化测试算法,证明其完美完备性与非平凡可靠性,并已被 Mirage 编译器实现验证。
2025-06-05 cs.CC cs.DS
Which Distribution Distances are Sublinearly Testable?
EECS & CSAIL, MIT(麻省理工学院电气工程与计算机科学系及计算机科学与人工智能实验室);Microsoft Research New England(微软新英格兰研究院);Physics, MIT(麻省理工学院物理系)
给定来自未知分布$p$的样本和分布$q$的描述,$p$和$q$是接近还是远离?在测试$p$和$q$在总变异距离上是否相等或远的情况下,“同一性测试”的问题已经受到了显著的关注。然而,在最近的工作中,以下问题对于解决分布测试前沿的问题至关重要:-替代距离:我们可以测试$p$和$q$是否在其他距离上很远,Hellinger说?- 容差:当$p$和$q$接近而不是相等时,我们可以测试吗?如果是的话,距离有多远?基于这些问题,我们描述了各种距离下分布检验的复杂性,包括全变差、$\ell_2$、Hellinger、Kullback-Leibler和$χ^2$。对于每对距离$d_1$和$d_2$,我们研究了如果$p$和$q$在$d_1$中接近而在$d_2$中远离,则测试的复杂性,重点在于识别哪些问题允许强次线性测试器(即,对于某些$γ> 0$具有复杂度$O(n^{1 - γ})$的那些,其中$n$是分布$p$和$q$的支持的大小)。我们为每种情况提供匹配的上限和下限。我们还在只有$q$样本(等效性试验)的情况下研究了这些问题,在何时可以达到耐受性方面与同一性试验存在定性差异。我们的算法属于$χ^2$ -统计的经典范例,但需要关键的变化来处理我们考虑的每个距离所带来的挑战。最后,我们调查其他最近的结果,试图作为一个参考的各种分布测试问题的复杂性。
2017-10-31 cs.DS cs.IT cs.LG
Black-Box Identity Testing of Noncommutative Rational Formulas in Deterministic Quasipolynomial Time
本文针对非交换有理公式的有理恒等测试(RIT)问题,首次为所有多项式大小的有理公式构建了准多项式大小的命中集,显著改进了黑盒复杂度,并首次为白盒环境下的RIT提供了确定性准NC上界。
2025-07-11 cs.CC cs.DS
Algorithms based on *-algebras, and their applications to isomorphism of polynomials with one secret, group isomorphism, and polynomial identity testing
我们考虑两个基本的算法问题(斜)对称矩阵的元组。第一个问题要求决定,给定两个元组的(斜)对称矩阵$(B_1, \dots, B_m)$和$(C_1, \dots, C_m)$,是否存在可逆矩阵$A$,使得对于每个$i\in\{1, \dots, m\}$,$A^tB_iA=C_i$。我们表明,这个问题可以解决在随机多项式时间在有限域的奇数大小,真正的领域,和复杂的领域。第二个问题要求判定,给定方阵$(B_1, \dots, B_m)$的元组,是否存在可逆矩阵$A$和$D$,使得对于每个$i\in\{1, \dots, m\}$,$AB_iD$是(斜)对称的。我们表明,这个问题可以解决在确定性的多项式时间字段的特征不$2$。对于这两个问题,我们利用底层$*$ -代数的结构,并利用结果和方法从模块同构问题。我们的结果的应用范围从多元密码学,组同构,多项式身份测试。具体而言,这些结果意味着有效的算法,为以下问题。(1)奇数大小有限域上单秘密二次型的同构检验。这个问题属于一个家庭的问题,作为安全基础的某些认证计划提出的Patarin(Eurocrypto 1996)。(2)测试同构的$p$ -群类2和指数$p$($p$奇)与阶$p^k$的时间多项式在组的顺序,当换位子组是阶$p^{O(\sqrt{k})}$。(3)确定性地揭示由斜对称结构引起的两个奇异性见证族,这代表多项式恒等式测试问题的…
2019-02-06 cs.CC cs.CR cs.DS
Homomorphism Indistinguishability, Multiplicity Automata Equivalence, and Polynomial Identity Testing
University of Antwerp(安特卫普大学);IT-Universitetet i København(哥本哈根信息技术大学)
本文研究了同态不可区分性与多重自动机等价性问题,证明了其复杂度为C_L完全,并展示了算法在特定图类上的最优性。
2026-09-07 cs.CC cs.DM cs.DS
On Distribution Testing in the Conditional Sampling Model
近年来,在条件抽样模型下的分布检验研究取得了很大的进展。在此模型中,查询指定域的子集$S$,接收的输出是从分布中提取的样本,条件是在$S$中。在本文中,我们改进了查询复杂性的界限,在这个模型中的几个经典的分布测试问题。首先,我们证明了条件抽样模型中的公差均匀性测试可以使用$\tilde{O}(\varepsilon^{-2})$查询来解决,这是最优的,并且改进了Canonne等人的$\tilde{O}(\varepsilon^{-20})$查询算法。[CRS 15]。这个界限甚至在被称为配对条件抽样模型的条件抽样模型的限制版本下也成立。接下来,我们证明了条件抽样模型中的容忍身份测试可以在$\tilde{O}(\varepsilon^{-4})$查询中解决,这是第一个已知的独立于该问题的分布的支持大小的界限。其次,我们利用我们的算法进行容忍一致性检验,得到了条件抽样模型下单调性检验的$\tilde{O}(\varepsilon^{-4})$ -查询算法,改进了Canonne [Can 15]的$\tilde{O}(\varepsilon^{-22})$ -查询算法.最后,我们研究了配对条件抽样模型下的(非容忍)身份测试,并给出了查询复杂度的$\tildeΘ(\sqrt{\log N} \cdot \varepsilon^{-2})$的一个紧界,其中分布的域具有大小$N$。这改进了[C…
2020-11-04 cs.DS math.PR math.ST
Uniformity Testing under User-Level Local Privacy
The University of Sydney(悉尼大学);OpenDP, Harvard University(开放差分隐私计划,哈佛大学)
针对用户级本地差分隐私下均匀性与恒等性检验的空白,提出近乎样本最优的私有硬币、对称 LDP 算法。
2025-10-21 cs.CR cs.DM cs.DS
Testing probability distributions underlying aggregated data
本文分析和研究了概率分布测试和学习的混合模型。这里,除了样本之外,测试算法还被提供有两种不同类型的神谕之一,用于$[n]$上的未知分布$D$。更准确地说,我们定义了双重和累积双重访问模型,其中算法$A$既可以从$D$中采样,又可以分别对任何$i\in[n]$查询概率质量$D(i)$(query access);或-得到$\{1,\dots,i\}$的总质量,即$\sum_{j=1}^i D(j)$(累积访问)这两个模型,通过推广以前研究的抽样和查询预言模型,允许我们绕过这些设置中为许多问题建立的强下限,同时捕获这些问题的几个有趣方面-并提供对模型局限性的新见解。最后,我们表明,虽然测试算法可以在大多数情况下严格更有效,一些任务仍然很难,即使有这个额外的权力。
2014-02-16 cs.DM cs.DS math.PR
Testing probability distributions using conditional samples
我们研究了一个新的框架,概率分布的属性测试,通过考虑分布测试算法,有条件的抽样预言。这是一个oracle,它将未知概率分布$D$的域$[N]$的子集$S \subseteq [N]$作为输入,并从限制为$S$的条件概率分布$D$返回一个平局。这种新的模型允许相当大的灵活性分布测试算法的设计,特别是,在这个模型中的测试算法可以是自适应的。我们研究了广泛的自然分布测试问题,在这个新的框架和它的一些变种,查询复杂性的上限和下限。这些问题包括检验$D$是否是均匀分布$\mathcal{U}$ ;检验对于显式提供的$D^\ast$是否是$D = D^\ast$;检验两个未知分布$D_1$和$D_2$是否等价;以及估计$D$与均匀分布之间的变异距离。在高层次上,我们的主要发现是,我们认为新的“条件抽样”框架是一个强大的框架:而上述所有问题在标准模型中都具有$Ω(\sqrt{N})$样本复杂度(并且在某些情况下,在$N$中复杂度必须几乎是线性的),我们给出了$\mathrm{poly}(\log N, 1/\varepsilon)$ -查询算法(在某些情况下,$\mathrm{poly}(1/\varepsilon)$ -独立于$N$的查询算法)。[2]独立于我们的工作,Chakraborty等人也考虑了这个框架。我们在小节[1.4]中讨论他们的工作。
2015-01-16 cs.CC cs.DS math.PR
Tight Bounds for Equivalence Testing with Non-Adaptive Conditional Samples
New York University(纽约大学)
针对非自适应条件样本下的分布等价性测试问题,给出了该问题所需查询次数的紧界,证明其复杂度为tildeθ(log n),明确了该场景下等价性测试的查询复杂度。
2026-10-09 cs.DS cs.IT math.IT
Testing Identity of Distributions under Kolmogorov Distance in Polylogarithmic Space
本文研究流式环境下基于 Kolmogorov 距离的连续分布同一性检验,提出仅用 $O(\log^4 \varepsilon^{-1})$ 空间且样本数渐近最优的算法,并对比离散全变差距离的不可能性、给出9个开放问题。
2024-10-29 cs.DS cs.IR
Testing $k$-Modal Distributions: Optimal Algorithms via Reductions
我们给出了高效的算法,几乎匹配的下界,一系列的基本统计问题,涉及测试和估计的L_1之间的距离两个k-模态分布$p$和$q$在离散域$\{1,\dots,n\}$。更确切地说,我们考虑以下四个问题:给定样本访问未知的k-模态分布$p$,测试身份的一个已知或未知的分布:1。确定$p = q$(对于明确给定的k-模态分布$q$)与$p$是否是$\eps$ -远离$q$ ; 2.确定$p=q$(其中$q$通过样本访问可用)与$p$是否是$\eps$ -远离$q$ ;针对已知或未知分布估计$L_1$距离(“容忍测试”):3.将$d_{TV}(p,q)$近似到加性$\eps$内,其中$q$是显式给定的k模态分布$q$ ; 4.将$d_{TV}(p,q)$近似为添加剂$\eps$,其中$q$可通过样品访问获得。对于这四个问题中的每一个,我们给出了次对数样本算法,我们表明,是紧到加性$\poly(k)$和乘法$\polylog\log n+\polylog k$因素。因此,我们的边界显着改善了以前的结果\cite{BKR:04},这是用于测试的特殊情况下,k=0(单调分布)和k=1(单峰分布)的分布(项目(1)和(2))的身份,并要求$O((\log n)^3)$样本。作为我们的主要概念贡献,我们引入了一个新的基于约简的方法来解决分布测试问题,使我们能够以统一的方式获得上述所有结果。粗略地说,这种…
2011-12-23 cs.DS math.PR math.ST
On the Power of Conditional Samples in Distribution Testing
在本文中,我们定义和检查的权力的{ \em条件采样}甲骨文的分布属性测试的背景下。用于离散分布$μ$的条件采样预言机将域的子集$S \subset [n]$作为输入,并输出根据$S$(并独立于所有先前样本)条件的$μ$绘制的随机样本$i \in S$。条件采样预言机是普通采样预言机的自然推广,其中$S$始终等于$[n]$。我们表明,与条件抽样预言,测试均匀性,测试身份的一个已知的分布,并测试任何标签不变的属性的分布是比普通的抽样预言更容易。另一方面,我们还表明,对于某些分布特性的样本复杂性仍然接近最大,即使有条件采样。
2014-04-08 cs.CC cs.DS math.PR
Optimal Closeness Testing of Discrete Distributions Made (Complex) Simple
在本文中,我们回顾了Diakonikolas,Gouleakis,Kane,Peebles和Price(2021)最近的工作,并为他们的主要结果提供了另一种证明。我们的论证不依赖于泊松随机变量的任何特定性质(如稳定性和可分性),也没有任何“巧妙的技巧”,而是在一个身份有关的期望的绝对值的任何随机变量的积分,其特征功能:\[ \mathbb{E}[|X|] = \frac{2}π\int_0^\infty \frac{1-\Re(\mathbb{E}[e^{i tX}])}{t^2}\, dt \]我们的论点,而不是缺乏技术方面,可以说是概念上更简单,更一般;我们希望这种技术可以在分布测试中找到更多的应用。
2022-04-27 cs.DM cs.DS math.PR
Testing Properties of Multiple Distributions with Few Samples
Massachusetts Institute of Technology(麻省理工学院)
我们提出了一个新的设置,用于测试分布的属性,同时接收来自多个分布的样本,但每个分布的样本很少。给定来自$s$分布的样本,$p_1, p_2, \ldots, p_s$,我们设计测试器用于以下问题:(1)一致性测试:测试所有的$p_i$是否一致或$ε$-在$\ell_1$-距离中是否远不一致(2)同一性测试:测试是否所有的$p_i$都等于明确给定的分布$q$或$ε$-在$\ell_1$-距离中远离$q$,以及(3)接近性测试:测试所有$p_i$是否等于我们具有样本访问的分布$q$,或者$ε$-在$\ell_1$-距离中远离$q$。通过假设源分布的一个额外的自然条件,我们提供了所有这些问题的样本最优测试。
2019-11-17 cs.DM cs.DS cs.LG
Quantum Channel Testing in Average-Case Distance
该研究针对最坏情况钻石范数下量子信道恒等性测试复杂度高的问题,提出平均情况模仿钻石(ACID)范数,推导了不同模型下的查询复杂度界及信道层析成像的紧界。
2024-10-06 cs.CC cs.DS quant-ph
Testing Distributions Against Bounded Distinguishers
Boston University(波士顿大学);Columbia University(哥伦比亚大学)
研究高维或连续域分布测试,针对有界区分器类。核心方法是基于欺骗距离测试,揭示了可测试学习、学习算法验证和结构化分布测试间联系,产生了如可测试学习者、验证下界及恒等测试器等新结果。
2026-07-20 cs.CC cs.DS cs.LG
Quantum conditional query complexity
我们定义并研究了一种新型的量子预言机,量子条件预言机,它提供了与底层分布相关的条件概率的预言机访问。在其他属性中,我们(a)获得了最知名的量子算法的速度提升,用于概率分布的身份测试,等价性测试和均匀性测试;(b)研究了这些预言机用于测试布尔函数属性的能力,并获得了一个算法,用于检查$n$ -输入$m$ -输出布尔函数是否平衡或$ε$ -远离平衡;以及(c)给出一个次线性算法,需要$\tilde{O}(n^{3/4}/ε)$查询,用于测试$n$维量子态是否是最大混合的.
2016-09-06 cs.DS quant-ph