High dimensional consistent independence testing with maxima of rank correlations
测试高维观测的相互独立性是一个基本的统计挑战。基于线性和简单等级相关性的流行测试已知不能检测非线性、非单调关系,需要能够解释这种依赖性的方法。为了解决这一挑战,我们提出了一个家庭的测试,使用最大值的成对秩相关性,允许一致的成对独立性评估。建立在一个新发展的Cramér型中偏差定理退化U统计量,我们的结果涵盖了各种秩相关,包括Hoeffding的$D$,Blum-Kiefer-Rosenblatt的$R$,Bergsma-Dassios-Yanagimoto的$τ^*$。所提出的测试是分布免费的类的多元分布连续利润,无需置换的情况下实现,并被证明是速率最优的高斯copula模型下的稀疏替代品。作为研究的副产品,我们揭示了上述三个秩相关统计量之间的同一性,从而向证明Bergsma和Dassios的猜想迈出了一步。
2020-02-05 math.ST stat.TH
Optimal Differentially Private Ranking from Pairwise Comparisons
针对含噪成对比较排序中的隐私问题,提出边缘与个体差分隐私排序算法,包括扰动极大似然估计器与含噪计数法,达到极小化极大最优收敛速率,并在模拟与真实数据上验证了有效性。
2025-07-12 math.ST stat.ME stat.ML
Optimal Full Ranking from Pairwise Comparisons
我们考虑的问题排名$n$球员从部分成对比较数据下的Bradley-Terry-Luce模型。在文献中的第一次,这个排名问题的极大极小率导出相对于肯德尔的tau距离,通过计数反转的数量来测量两个秩向量之间的差异。极小极大率的排名表现出指数率和多项式率之间的过渡,这取决于该问题的信噪比的大小。据我们所知,这种现象是完全排序所特有的,在任何其他统计估计问题中都没有出现过。为了实现最小最大速率,我们提出了一个分治的排名算法,首先将$n$球员分成类似的技能组,然后计算每个组内的本地最大似然估计。所提出的算法的最优性建立了一个仔细的近似独立的参数之间的两个步骤。
2021-01-21 math.ST stat.ML stat.TH
Optimal Testing for Planted Satisfiability Problems
研究了随机可满足性公式中种植解的检测问题。采用统计分析中假设检验的形式,描述了极小极大最优检测率。我们的分析依赖于满意的分配,我们证明了新的结果的数量的研究。我们还解决了算法问题,并给出了一个计算效率的测试与最佳的统计性能。这一结果相比,平均情况下的假设的硬度反驳随机公式的可满足性。
2015-02-08 cs.CC math.PR math.ST
Optimal group testing designs for estimating prevalence with uncertain testing errors
我们构建了最优设计的群体测试实验,其目标是通过使用不确定的灵敏度和特异性的测试来估计一个性状的流行率。使用最优设计理论的近似设计,我们表明,最有效的设计,同时估计的患病率,灵敏度和特异性,需要三个不同的组大小与相同的频率。然而,如果尽可能准确地估计患病率是唯一的焦点,那么最优策略是有三个不同频率的组规模。根据美国的衣原体研究,我们比较了竞争设计的性能,并提供了对未知的敏感性和特异性的测试如何影响患病率估计的性能的见解。我们证明了局部D-和Ds-最优设计建议有很高的效率,即使预先指定的参数值是适度错误指定。
2017-01-04 math.ST stat.TH
Multiple testing with optimal individual tests in Gaussian graphical model selection
考虑高斯图模型选择问题。浓度图的识别是基于个体检验的多决策过程。构造了最优无偏个体检验。最优检验等价于样本偏相关检验。并将联合多重决策过程与标准过程进行了比较。
2016-04-23 math.ST stat.TH
Rate optimal estimation of quadratic functionals in inverse problems with partially unknown operator and application to testing problems
我们考虑高斯序列模型中的二次泛函的估计,假设特征值是未知的,只能通过噪声观测。施加平滑假设的信号和序列的特征值,我们开发了一个极大极小理论这个问题。我们提出了一个截断序列估计,并表明,它达到最佳的收敛速率,如果截断参数选择适当。测试问题的反问题的后果同样讨论:特别是,极大极小率测试信号检测和拟合优度测试。
2019-07-14 math.ST stat.TH
Statistical inference and Bayesian optimal life-testing plans under Type-II unified hybrid censoring scheme
本文描述了定数II统一混合截尾下的贝叶斯最优寿命试验问题和推导过程。首先,给出了寿命模型中未知参数的期望失效次数、期望测试持续时间和Fisher信息矩阵的显式表达式。然后,使用这些量,贝叶斯最优寿命试验计划计算在随后的部分。建立了费用约束D-最优最优化问题,并给出了相应的求解算法,得到了最优方案。通过数值例子说明了计算过程。
2020-04-11 math.ST stat.CO stat.TH
Clustering Based on Pairwise Distances When the Data is of Mixed Dimensions
在聚类的上下文中,我们考虑了一个生成模型在欧氏环境空间与集群的不同形状,尺寸,大小和密度。在一个渐进的设置点的数量变得很大,我们获得理论的几个象征性的方法的基础上成对的距离:一个简单的算法的基础上提取的连接组件的邻域图;谱聚类方法的Ng,约旦和Weiss;和层次聚类与单链接。所示的方法享有一些接近最佳的属性在集群之间的分离和鲁棒性离群值。Zelnik-Manor和Perona的局部缩放方法导致前两种方法中的尺度接近最优选择。我们还提供了一个下界的频谱间隙一致选择正确的集群数量的频谱方法。
2009-09-12 math.ST stat.ML stat.TH
Optimal structure learning and conditional independence testing
University of Chicago(芝加哥大学);Amazon(亚马逊)
本文建立结构学习与条件独立性检验之间的最优性联系,证明结构学习的最小最大最优率由条件独立性检验决定,并基于此提出改进的PC算法。
2026-06-16 math.ST stat.ML stat.TH
On the Optimal Configuration of a Square Array Group Testing Algorithm
本文为方阵群检验算法的最优配置建立了精确解析公式,并通过与经典群检验方案比较及贝叶斯和极小化极大策略分析,给出了组大小的优选建议。
2021-06-29 math.ST stat.TH
Asymptotic optimality of the Westfall--Young permutation procedure for multiple testing under dependence
检验统计量在大规模的多重检验应用中往往具有很强的相关性。大多数多重性校正对于相关检验统计量过于保守,导致检测真阳性的把握度降低。我们表明,Westfall-Young置换方法具有渐近最优的功率为广泛的一类测试问题的块依赖性和稀疏结构之间的测试,当测试的数量趋于无穷大。
2012-03-19 math.ST stat.TH
Optimal Design for Estimating the Mean Ability over Time in Repeated Item Response Testing
我们提出了一般结果D最优设计估计的平均响应的重复测量生长曲线模型与度量的结果。对于这种情况,我们推导出一个新的等价定理检查设计的最优性。本研究的动机来自于设计一项心理项目反应测验的研究,通过多次重测来衡量能力的提高。除了介绍线性增长曲线,可以得到分析结果,我们考虑两个非线性增长曲线模型,将增加的平均能力和饱和效应。对于这些模型,D最优设计确定的计算方法,并通过等价定理进行验证。
2022-03-27 math.ST stat.TH
Hypothesis Testing for Generalized Thurstone Models
Department of Computer Science, Purdue University, West Lafayette, IN, USA(计算机科学系,普渡大学,西拉法叶,印第安纳州,美国);Elmore Family School of Electrical and Computer Engineering, Purdue University, West Lafayette, IN, USA(埃尔莫尔家族电气与计算机工程学院,普渡大学,西拉法叶,印第安纳州,美国)
本文提出了一种针对广义图斯通模型的假设检验方法,通过分离距离分析和反向鞅技术,推导了临界阈值并验证了最小最大下界。
2025-12-02 cs.LG math.ST stat.ML
Asymptotically optimal test for dependent multiple testing set up
本文研究了多重假设检验的相关检验统计量的性质。为了简单起见,我们考虑了一个具有等相关的混合正态模型。通过简单的线性变换,将检验统计量分解为独立分量,当适当调节时,独立分量生成自变量。这些被用来构建条件检验,这被证明是渐近最优的功率一样大,使用N.P.Lemma。我们进行了广泛的模拟来支持这一说法。
2020-01-07 math.ST stat.ME stat.TH
Learning Mixtures of Permutations: Groups of Pairwise Comparisons and Combinatorial Method of Moments
Georgia Institute of Technology(佐治亚理工学院);Yale University(耶鲁大学)
在秩聚合等应用中,当总体表现出异质性时,经常使用排列的混合模型。在这项工作中,我们研究了广泛使用的Malows混合模型。在高维设置中,我们提出了一个多项式时间算法,学习Mallow混合的$n$元素的最佳样本的复杂性,是成比例的$\log n$,改进以前的结果,规模与$n$的排列。在高噪声的制度,我们表征的样本复杂性的噪声参数的最佳依赖。这两个目标都是通过首先研究分层置换下的无噪声查询模型使用组的成对比较,这可以被看作是时刻的混合分布,然后将这些结果扩展到嘈杂的Mallow模型通过模拟无噪声的神谕。
2022-03-04 cs.DS cs.LG math.ST
Optimal Statistical Hypothesis Testing for Social Choice
Rensselaer Polytechnic Institute(伦斯勒理工学院)
我们在本文中解决以下问题:“什么是最强大的统计方法的社会选择?"通过利用Neyman-Pearson框架中的一致最不利分布理论,对有限模型和随机化检验,我们刻画了一致最大功效(UMP)检验,这是一种被广泛接受的统计最优性。鲁棒性,用于测试给定的替代品是否是马洛斯的模型和孔多塞的模型下的赢家,分别。
2020-06-19 cs.AI cs.GT math.ST
Early Stopping for Nonparametric Testing
迭代算法的早期停止是一种算法正则化方法,以避免估计和分类中的过拟合。在本文中,我们表明,早期停止也可以适用于获得最小最大最优检验在一般的非参数设置。具体地说,在再生核希尔伯特空间中,基于函数梯度下降算法产生的迭代估计,得到Wald型检验统计量.一个值得注意的贡献是建立了一个“尖锐”的停止规则:当迭代次数达到最佳顺序时,测试最优性是可以实现的;否则,测试最优性变得不可能。作为一个副产品,在[11]和[19]中研究的早停止下的极小极大最优估计也得到了类似的清晰度结果。所有得到的结果适用于各种内核类,包括Sobolev平滑类和高斯内核类。
2018-09-17 math.ST stat.ML stat.TH
Optimal testing in a class of nonregular models
University of Wisconsin, Madison(威斯康星大学麦迪逊分校);London School of Economics(伦敦政治经济学院)
本文针对带参数依赖支撑的非正则计量经济学模型,基于极限实验构造无需额外限制的渐近一致最优势检验,可反转构造置信集,模拟验证其有限样本性质良好。
2026-08-05 econ.EM math.ST stat.ME
Optimal high-dimensional and nonparametric distributed testing under communication constraints
我们得到极大极小测试错误在分布式框架中的数据被分割在多台机器和他们的通信到中央机器被限制为$b$位。我们研究了高斯白噪声下的$d$ -和无限维信号检测问题。我们还推导出分布式测试算法达到理论上的下界。我们的研究结果表明,分布式测试是从根本上不同的现象,没有观察到分布式估计。在我们的研究结果中,我们表明,可以访问共享随机性的测试协议在某些制度中的表现比那些没有更好。我们还观察到,一致的非参数分布测试总是可能的,即使只有$1$位的通信和相应的测试优于最好的本地测试,只使用在一个本地机器的信息。此外,我们还导出了自适应非参数分布测试策略和相应的理论下界。
2022-12-12 math.ST stat.ML stat.TH
Optimal Rate-Exponent Region for a Class of Hypothesis Testing Against Conditional Independence Problems
研究了一类分布式条件独立性假设检验问题。在规定最小化的第二类错误率受到(恒定)上界$ε$的第一类出错率的标准下,我们表征了离散无记忆和无记忆矢量高斯设置的编码率和指数的集合。
2019-04-04 cs.IT math.IT math.ST
Minimax Hypothesis Testing for the Bradley-Terry-Luce Model
Department of Computer Science and the Elmore Family School of Electrical and Computer Engineering, Purdue University(计算机科学系和埃尔莫尔家族电气与计算机工程学院,普渡大学)
本文提出了一种基于最小最大理论的假设检验方法,用于判断给定的成对比较数据是否源自布雷德利-蒂尔-刘模型,并通过实验验证了该方法的性能。
2025-12-02 cs.IT cs.LG math.IT
Optimal distributed composite testing in high-dimensional Gaussian models with 1-bit communication
在本文中,我们研究的问题,在高斯噪声中的分布式设置,在星形拓扑结构的本地机器可以传达一个单一的信息位的信号检测。我们推导出一个下界的欧几里德规范的信号需要有,以便被检测到。此外,我们表现出最佳的分布式测试策略,达到下限。
2022-02-24 cs.IT math.IT math.ST
Optimal treatment regimes for the net benefit of a treatment
针对随机对照试验中优先结局下的个体化治疗决策,提出基于广义成对比较的两种最优 ITR 估计方法,并通过理论分析、Monte Carlo 模拟和临床试验数据验证其有效性。
2025-06-16 math.ST stat.AP stat.ME
Near-Optimal Bounds for Testing Histogram Distributions
University of Sydney(悉尼大学);University of Wisconsin-Madison(威斯康星大学麦迪逊分校);University of California, San Diego(加利福尼亚大学圣迭戈分校)
我们调查的问题,测试是否在一个有序域的离散概率分布是一个直方图上指定数量的箱。最常用的数据简洁近似工具之一,$k$-$[n]$上的直方图,是在一组$k$区间上分段恒定的概率分布。直方图测试问题如下:给定来自未知分布$\mathbf{p}$ on $[n]$的样本,我们希望在总变异距离中区分$\mathbf{p}$是$k$ -直方图与$\varepsilon$ -远离任何$k$ -直方图的情况。我们的主要结果是一个样本接近最佳和计算效率高的算法,这个测试问题,和一个接近匹配(对数因子内)的样本复杂性下限。具体来说,我们表明,直方图测试问题的样本复杂性$\widetilde Θ(\sqrt{nk} / \varepsilon + k / \varepsilon^2 + \sqrt{n} / \varepsilon^2)$。
2022-07-14 cs.DS cs.LG math.ST
Minimax Rates in Network Analysis: Graphon Estimation, Community Detection and Hypothesis Testing
本文综述了网络分析的基本极限和优化算法的一些最新进展。我们专注于最小最大最优率在网络分析的三个基本问题:图子估计,社区检测,和假设检验。对于每一个问题,我们回顾国家的最先进的结果,在文献中遵循的一般原则,导致最小最大估计和测试的最佳程序。这使我们能够从一般的角度将网络分析中的问题与其他统计推断问题联系起来。
2019-02-14 cs.SI math.ST stat.ML
Optimal Testing of Discrete Distributions with High Probability
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);MPI(马克斯·普朗克研究所);University of California, San Diego(加利福尼亚大学圣迭戈分校);Yale University(耶鲁大学);UT Austin(德克萨斯大学奥斯汀分校)
我们研究的问题测试离散分布的高概率制度的重点。具体地,给定来自一个或多个离散分布的样本、属性$\mathcal{P}$和参数$0< ε, δ<1$,我们想要区分{概率至少为$1-δ$的\em}这些分布是否满足$\mathcal{P}$或者是$ε$ -在总变化距离上远离$\mathcal{P}$。分布测试中的大多数先前工作研究了恒定置信度情况(对应于$δ= Ω(1)$),并为一系列属性提供了样本最佳测试器。虽然人们总是可以通过黑盒放大来提高任何这样的测试者的置信概率,但是这种通用的提高方法通常会导致次优的样本界限。在这里,我们研究了以下广泛的问题:对于一个给定的属性$\mathcal{P}$,我们可以{ \em表征}的样本复杂性测试$\mathcal{P}$作为所有相关的问题参数的函数,包括错误概率$δ$?在这项工作之前,均匀性测试是唯一的统计任务,其样本的复杂性已在此设置的特点。作为我们的主要成果,我们提供了第一个算法的封闭性和独立性测试是样本最优的,在恒定的因素,作为所有相关参数的函数。我们还显示了匹配的信息理论的样本复杂性,这些问题的下限。我们的技术自然会扩展到为相关问题提供最佳测试人员。为了说明我们的方法的一般性,我们给出了最佳算法,用于测试分布的集合和测试不等大小的样本的接近度。
2020-09-14 cs.DS cs.LG math.ST
Optimal Algorithms and Lower Bounds for Testing Closeness of Structured Distributions
本文给出了一个通用的统一方法,可用于对广泛的一元结构分布族进行$L_1$ { \em贴近度检验}。更具体地说,我们设计了一个样本最佳和计算效率高的算法,用于测试两个未知的(可能是任意的)单变量分布下的$\mathcal{A}_k$距离度量的等价性:给定样本访问密度函数$p, q: I \to \mathbb{R}$的分布,我们要区分的情况下,$p=q$和$\|p-q\|_{\mathcal{A}_k} \ge ε$的概率至少$2/3$。我们表明,对于任何$k \ge 2, ε>0$,{ \em最佳}样本复杂度的$\mathcal{A}_k$ -接近测试问题是$Θ(\max\{ k^{4/5}/ε^{6/5}, k^{1/2}/ε^2 \})$。这是这个问题的第一个$o(k)$样本算法,并产生新的,简单的$L_1$接近测试,在大多数情况下,最佳的样本复杂性,广泛的结构化分布类。
2015-08-22 cs.DS cs.IT math.IT
Testing Group Fairness via Optimal Transport Projections
Stanford University(斯坦福大学);Singapore University of Technology and Design(新加坡科技设计大学);VinAI Research(VinAI研究院)
我们提出了一个统计测试框架来检测给定的机器学习分类器是否无法满足广泛的组公平性概念。所提出的测试是一种灵活的,可解释的,统计上严格的工具,用于审计是否表现出的偏见是固有的算法或由于数据的随机性。统计的挑战,这可能会出现从多个影响标准,定义组公平性和模型参数是不连续的,方便地解决了投影的经验措施组公平的概率模型,使用最佳运输。这个统计量是有效地计算使用线性规划和它的渐近分布明确获得。该框架还可以用于测试复合公平性假设和多敏感属性的公平性。最佳的运输测试配方,提高了可解释性的特点,最小的协变量扰动,消除了在审计中观察到的偏见。
2021-06-02 cs.CY cs.LG math.ST
Test without Trust: Optimal Locally Private Distribution Testing
Cornell University(康奈尔大学);Stanford University(斯坦福大学);Indian Institute of Science(印度科学学院)
我们研究的问题,分布测试时,样本只能使用本地差分私有机制访问,并专注于两个代表性的测试问题的身份(拟合优度)和独立性测试离散分布。我们关注两个设置:第一,当我们坚持使用一个已经部署的,通用的本地差异私有机制,如流行的RAPPOR或最近引入的Hadamard响应收集数据,并且必须基于通过此机制收集的数据构建我们的测试时;第二,当没有这样的限制时,我们可以设计一个专门用于测试的定制机制。对于后一个目的,我们引入了随机聚合私有测试最优响应(RAPTOR)机制,该机制非常简单,每个样本只需要一位通信。我们提出了基于这些机制的测试,并分析其样本的复杂性。每个测试都可以有效地执行。在每一种情况下(除一个),我们补充我们的性能界限的算法与信息理论的下限,并建立样本最优性,我们提出的算法。出现的一个特殊特征是,我们基于RAPTOR的样本优化算法使用公共硬币,而任何基于RAPPOR或Hadamard Response的测试,这两种都是私人硬币机制,需要更多的样本。
2018-08-07 cs.CR cs.DM cs.DS