Sequential Permutation Testing of Random Forest Variable Importance Measures
Institute of General Practice and Health Services Research（全科医学与卫生服务研究所）；Institute of AI and Informatics in Medicine（医学人工智能与信息学研究所）；Technical University of Munich（慕尼黑工业大学）；Institute for Medical Information Processing, Biometry and Epidemiology（医学信息处理、生物统计学与流行病学研究所）；University of Munich（慕尼黑大学）
针对随机森林变量重要性度量假设检验计算成本高的问题，提出采用序贯置换检验和序贯p值估计的方法，在控制第一类错误、维持高功效的同时大幅降低计算量，配套R包rfvimptest可通用至各类预测模型。
2022-06-02 cs.LG stat.AP stat.CO
Speeding up Permutation Testing in Neuroimaging
William S. Middleton Memorial VA Hospital（威廉·S·米德尔顿纪念退伍军人事务医院）；University of Wisconsin–Madison（威斯康星大学麦迪逊分校）
多重假设检验是几乎所有神经影像学研究中的一个重要问题。为了纠正这种现象，我们需要一个可靠的估计家庭明智的错误率（FWER）。众所周知的Bonferroni校正方法虽然易于实现，但相当保守，并且由于其忽略了检验统计量之间的依赖性，因此可能大大降低研究的功效。另一方面，置换测试是一种针对给定的$α$阈值估计FWER的精确的非参数方法，但是对于可接受的低阈值，计算负担可能是过高的。在本文中，我们表明，置换测试实际上相当于填充一个非常大的矩阵${\bf P}$的列。通过分析该矩阵的谱，在一定条件下，我们发现${\bf P}$具有低秩和低方差的残差分解，这使得它适合于高度子采样的矩阵完备化方法，其阶数为$0.5\%$。基于这一观察，我们提出了一种新的排列测试方法，它提供了一个大的加速比，而不牺牲保真度的估计FWER。我们对四个不同的神经影像数据集的评估表明，计算加速因子大致$50\times$可以实现，同时恢复FWER分布达到非常高的精度。此外，我们表明，估计的$α$阈值也恢复忠实，是稳定的。
2015-02-12 cs.AI stat.CO stat.ML
Fast and Memory-Efficient Significant Pattern Mining via Permutation Testing
我们提出了一种新的算法，Westfall-Young光，检测模式，如项集和子图，这是统计上显着丰富的两个类之一。我们的方法严格纠正多个假设检验和模式之间的相关性，通过Westfall-Young排列过程，经验估计的空分布的模式频率在每个类通过排列。在我们的实验中，Westfall-Young light在流行的真实世界基准数据集上的模式挖掘的运行时间和内存效率方面大大优于当前最先进的方法。这种效率的关键是，与所有现有的方法不同，我们的算法既不需要解决潜在的频繁项集挖掘问题重新为每个排列，也不需要存储所有频繁模式的出现列表。Westfall-Young Light为大型数据集上的重要模式挖掘打开了大门，而这些数据集以前会导致令人望而却步的运行时间或内存成本。
2015-02-15 stat.ML
Restricted Block Permutation for Two-Sample Testing
Jungwoo Ho
本文提出受限块置换方法，通过单次交叉交换提升两样本检验功效，同时保持精确有效性。
2025-11-29 cs.LG stat.ML
Accelerating Permutation Testing in Voxel-wise Analysis through Subspace Tracking: A new plugin for SnPM
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；The University of Warwick（华威大学）
排列检验是一种非参数方法，用于获得最大零分布，用于计算校正后的$p$值，可提供对假阳性的强有力控制。然而，在神经成像中，运行这样的算法的计算负担可能是显著的。我们发现，通过查看一个非常大的置换测试矩阵，$T$的建设的置换测试过程中，可以利用来自数据和检验统计量的结构属性，以减少在某些条件下的运行时间。特别地，我们看到$T$是低秩加上低方差残差。这使得$T$成为低秩矩阵补全的良好候选，其中仅必须计算非常少量的$T$的条目（在我们的实验中的所有条目中的$\sim0.35\%$）以获得良好的估计。基于这一观察，我们提出了RapidPT，一种算法，有效地恢复最大空分布通常通过定期排列测试在体素分析。我们对一个合成数据集和四个不同大小的数据集进行了广泛的验证，这四个数据集针对两个基线：统计非参数映射（SnPM 13）和标准排列测试实现（称为NaivePT）。我们发现RapidPT在中等规模的数据集（$50 \leq n \leq 200$）上实现了最佳的运行时性能，加速比为1.5 - 38倍（与SnPM 13相比）和20 - 1000倍（与NaivePT相比）。对于更大的数据集（$n \geq 200$），RapidPT在所有数据集上的性能都优于NaivePT（6倍-200倍），并且在需要超过10000个排列（2倍-15倍）时，RapidPT提供了比SnPM 13更大的加速。该实现是一个独立…
2017-07-24 cs.CV stat.AP stat.ML
Optimal rates for independence testing via $U$-statistic permutation tests
我们研究了独立同分布对在$σ$ -有限可分测度空间中取值的独立性检验问题。定义一个自然的措施的依赖$D(f)$的平方$L^2$ -距离之间的联合密度$f$和产品的边缘，我们首先表明，没有有效的测试是一致的独立性，对替代品的形式$\{f: D(f) \geq ρ^2 \}$。因此，我们限制注意的替代品，施加额外的Sobolev型平滑约束，并定义一个置换检验的基础上的扩展和$U$ -统计估计的$D(f)$，我们证明是极大极小最优的分离率在许多情况下。最后，对于$[0,1]^2$上的傅立叶基的情况，我们提供了一个近似的幂函数，提供了一些额外的见解。我们的方法在R包USP中实现。
2020-11-06 math.ST stat.ME stat.ML
Vector Summaries of Persistence Diagrams for Permutation-based Hypothesis Testing
针对大尺寸、大数量持久图的置换检验计算成本高的问题，提出基于积分的Betti函数向量化方法与组标签重排技术，在合成与真实数据上取得了与Wasserstein距离基线方法相当的检验效果。
2023-06-09 stat.ML
One Permutation Is All You Need: Fast, Deterministic Feature Importance and Model Stress-Testing
本文提出一种基于单个确定性排列的快速可靠变量重要性方法，通过减少计算开销和随机不稳定性，提升模型压力测试的准确性和透明度。
2026-10-09 cs.AI cs.LG stat.ML
Conditional independence testing based on a nearest-neighbor estimator of conditional mutual information
条件独立性检验是因果发现的基础问题，在非线性和高维依赖的情况下是一项特别具有挑战性的任务。本文提出了一种基于条件互信息和局部置换方案的连续数据全非参数检验方法。通过最近邻方法，测试也有效地适应非光滑分布，由于强非线性依赖。数值实验表明，即使对于小样本量和高维条件集，该测试也能可靠地模拟零分布。该测试比基于核的测试更好地校准，利用零分布的分析近似，特别是对于非光滑密度，并达到相同或更高的功率水平。将局部置换方案与核测试相结合导致更好的校准，但在功率方面受到影响。对于较小的样本量和较低的维度，如果排列方案是（并行地）并行化的，则测试比基于随机傅立叶特征的核测试更快，但是运行时间随着样本量和维度而更急剧地增加。因此，需要更多的理论研究来解析地近似零分布，并加快对更大样本量的估计。
2017-09-05 cs.IT math.IT stat.ME
A Scalable Nystrom-Based Kernel Two-Sample Test with Permutations
CNRS, Univ. Grenoble-Alpes, GIPSA-lab, France e1；MaLGa Center - DIBRIS, Università di Genova, Genoa, Italy e2,e4；CNRS, Laboratoire d'Informatique Gaspard Monge, Champs-sur-Marne, France e3；CBMM - Massachusets Institute of Technology, Cambridge, MA, USA
本文提出一种基于Nystrom近似的高效两样本检验方法，通过保留统计保证，解决大规模数据下的计算成本问题，并在分离率上达到最小化最优标准。
2026-04-20 cs.LG math.ST stat.ME
MMD-FUSE: Learning and Combining Kernels for Two-Sample Testing Without Data Splitting
University College London（伦敦大学学院）；Inria（法国国家信息与自动化研究所）；Gatsby Computational Neuroscience Unit（盖茨比计算神经科学单元）
本文提出MMD-FUSE检验，通过自适应组合多个核的MMD值并在不分割数据的情况下以排列不变方式选择核，提升双样本检验功效，适用于深度核和高维数据。
2023-10-28 cs.LG math.ST stat.ME
Scalable and Efficient Hypothesis Testing with Random Forests
在过去的十年中，随机森林已经成为最准确和最流行的监督学习方法之一。虽然它们的黑箱性质使它们的数学分析变得困难，但最近的工作已经通过考虑子采样代替自举建立了重要的统计特性，如一致性和渐近正态性。虽然这样的结果打开了传统的推理程序的大门，所有正式的方法，迄今为止提出的地方严格限制的测试框架和他们的计算开销排除其实际的科学用途。在这里，我们提出了一个置换式的测试方法，正式评估功能的重要性。我们建立了渐近有效性的测试，通过交换参数，并表明该测试保持高功率的数量级较少的计算。同样重要的是，该过程很容易扩展到大数据设置，其中可以使用大型训练和测试集，而无需构建额外的模型。随机森林最近表现出希望的生态数据的模拟和应用。
2019-12-06 stat.ME stat.ML
Unified Conformalized Multiple Testing with Full Data Efficiency
School of Statistics and Data Science, Nankai University（南开大学统计与数据科学学院）；School of Mathematical Sciences, Shanghai Jiao Tong University（上海交通大学数学系）
本文提出一种统一的符合性多重检验框架，通过充分利用所有可用数据（null、alternative和未标记数据）来构建分数和校准p值，从而提高统计功效并严格控制虚无发现率。
2026-05-21 stat.ME stat.ML
Differentially Private Permutation Tests
Korea Advanced Institute of Science and Technology（韩国科学技术院）；University of Cambridge（剑桥大学）
本文提出差分隐私置换检验框架，将经典置换检验扩展至隐私场景，引入dpMMD、dpHSIC等差分隐私核检验，兼具有限样本有效性与差分隐私，在多场景下功效具竞争力且代码公开。
2026-07-30 cs.CR cs.LG math.ST
One Permutation Hashing for Efficient Search and Learning
Cornell University（康奈尔大学）；Stanford University（斯坦福大学）；Rutgers University（罗格斯大学）
最近，b比特最小哈希方法已被应用于大规模线性学习和次线性时间近邻搜索。minwise哈希的主要缺点是昂贵的预处理成本，因为该方法需要应用（例如，）k=200到500个数据排列。如果新的数据点（例如，新文档或图像）尚未被处理，这在面向用户的应用中可能是一个重要问题。我们开发了一个非常简单的解决方案，基于一个排列散列。从概念上讲，给定一个大规模的二进制数据矩阵，我们只对列进行一次置换，并将置换后的列均匀地划分为k个bin;对于每个数据向量，我们只需存储每个bin中的最小非零位置。有趣的概率分析（通过实验验证）表明，我们的一个置换方案应该执行非常类似于原始（k-置换）minwise散列。事实上，由于“无替换样本”效应，一个置换方案甚至可以稍微更准确。我们在webspam数据集上训练线性SVM和逻辑回归的实验表明，与原始的k-排列方案相比，这种排列散列方案可以达到相同（甚至略好）的精度。为了测试我们的方法的鲁棒性，我们还用小的news 20数据集进行了实验，该数据集非常稀疏，每个数据向量中平均只有500个非零值。有趣的是，当k在news 20数据集上不太小时，我们的一个置换方案明显优于k-置换方案。总之，我们的方法可以达到至少相同的精度作为原始的k-置换方案，在只有1/k的原始预处理成本。
2012-08-06 cs.IR cs.IT cs.LG
Towards Optimal Estimation of Bivariate Isotonic Matrices with Unknown Permutations
Yale University（耶鲁大学）；UC Berkeley（加州大学伯克利分校）
许多应用，包括秩聚合、群标记和图子估计，可以根据具有作用于其行和/或列的未知排列的二元保序矩阵来建模。我们考虑的问题，估计一个未知的矩阵在这类中，基于噪声观测（可能是一个子集）的条目。我们设计和分析多项式时间算法，提高了两个不同的指标，特别是最小最大优化，计算效率的估计是在某些设置中实现的。一路上，我们证明了匹配的上限和下限的极小极大半径的某些锥测试问题，这可能是独立的利益。
2019-10-27 cs.IT cs.LG math.IT
