Fault Diagnosis using Clustering. What Statistical Test to use for Hypothesis Testing?
近年来,预测性维护和基于状态的监控系统在最大限度地减少机器停机对生产及其成本的影响方面取得了显著的成就。预测性维护涉及使用数据挖掘、统计和机器学习的概念来构建能够执行早期故障检测、诊断故障和预测故障时间的模型。故障诊断一直是确定机器实际故障模式的核心领域之一。在制造业等波动环境中,聚类技术已被证明比监督学习方法更可靠。聚类的基本挑战之一是建立一个检验假设,并为假设检验选择一个合适的统计检验。大多数统计分析使用一些基本的数据假设,而大多数真实世界的数据无法满足这些假设。本文致力于克服以下挑战,通过开发一个测试假设的故障诊断应用程序使用聚类技术和执行PERMANOVA测试的假设检验。
2019-04-30 stat.OT
Optimal Clustering of Multi-layer Networks under Mixture Block Models
Hong Kong University of Science and Technology(香港科技大学);The Hong Kong Polytechnic University(香港理工大学)
本文研究了多层网络及离散混合分布的最优聚类问题,提出了基于张量初始化和似然Lloyd算法的两阶段聚类方法,实现了由Renyi散度刻画的极小化最优聚类错误率。
2026-10-23 cs.LG cs.SI math.ST
Statistical Properties of the Single Linkage Hierarchical Clustering Estimator
基于距离的层次聚类(HC)方法在无监督数据分析中得到了广泛的应用,但很少有人考虑到距离数据的不确定性。我们将通过腐败或噪声的成对距离的不确定性的统计模型和调查的问题,估计HC作为未知参数的测量。具体来说,我们专注于单连锁层次聚类(SLHC),并研究其几何形状。我们证明了在相当合理的条件下的概率分布管理的测量,SLHC是等价于最大部分配置文件似然估计(MPPLE)的数据中包含的一些信息被忽略。同时,我们表明,直接评估的SLHC对极大似然估计(MLE)的成对距离产生一个相合估计量。因此,预期完整的MLE在获得地面真实度量的正确HC结果方面比SLHC表现更好。
2016-09-01 stat.ML
Statistical Inference for Clustering-based Anomaly Detection
University of Information Technology, Ho Chi Minh City, Vietnam(越南胡志明市信息技术大学);Vietnam National University, Ho Chi Minh City, Vietnam(越南国家大学);RIKEN, Japan(日本理化学研究所)
本文提出SI-CLAD框架,通过选择性推断严格控制基于聚类的异常检测中的误检率,并引入策略提升真实检测率,实验验证了其卓越性能。
2025-04-25 cs.LG stat.ML
Statistical and Computational Guarantees of Lloyd's Algorithm and its Variants
Yale University(耶鲁大学)
聚类是统计学和机器学习中的一个基本问题。Lloyd算法于1957年提出,由于其简单性和经验性能,仍然可能是实践中使用最广泛的聚类算法。然而,很少有理论研究劳埃德算法的统计和计算保证。本文试图弥合实践与理论之间的这一差距。我们研究了Lloyd算法在聚类亚高斯混合数据上的性能。在一个适当的初始化标签或中心,我们表明,劳埃德算法收敛到一个指数小的聚类误差后,为了$\log n$迭代,其中$n$是样本量。差错率是极小极大最优的。对于两个混合物的情况,我们只需要初始化器比随机猜测稍微好一点。此外,我们扩展劳埃德的算法和分析社区检测和众包,最近在统计和机器学习中受到了很多关注的两个问题。分别针对社区发现和众包提出了Lloyd算法的两种变体。在理论方面,我们提供了统计和计算保证的两种算法,和结果改善后,一些以前的信噪比的条件,在文献中的两个问题。模拟和真实数据集上的实验结果表明,我们的算法的竞争力的最先进的方法的性能。
2016-12-07 cs.LG math.ST stat.ML
Toric ideals with linear components: an algebraic interpretation of clustering the cells of a contingency table
在本文中,我们表明,聚集的行或列的列联表与层次聚类算法产生的统计模型定义通过复曲面理想。特别是,从经典的独立模型,凝聚过程中添加了一个线性部分的复曲面理想所产生的$2 \times 2$未成年人。
2013-09-29 math.AC math.ST stat.ME
A statistical test to identify differences in clustering structures
对功能磁共振成像(fMRI)数据进行统计推断是脑成像领域的一项重要任务。一个主要的假设是,精神障碍的存在与否可以用大脑中神经元的差异聚类来解释。鉴于这一事实,它显然是感兴趣的,以解决的问题,集群的属性是否发生了变化的患者和对照组之间。在脑成像中接近组差异的正常方法是使用适当的检验(例如t检验)对平均组响应之间的差异进行逐体素单变量分析,并将所得的“显著不同的体素”组装成聚类,再次在聚类水平上进行检验。当然,在这种方法中,主要的体素级测试对任何聚类结构都是盲目的。在聚类水平上直接评估组间差异(或组内重现性)在脑成像中很少见。出于这个原因,我们引入了一种新的统计测试,称为ANOVA-聚类结构变异性分析,它在统计上测试两个或多个种群是否使用特定特征进行了聚类。该方法允许我们同时比较多个组的聚类结构,并确定有助于差分聚类的特征。我们说明了通过模拟和应用程序组成的ADHD儿童和对照组的fMRI数据集的ANOVA的性能。结果表明,他们之间的大脑的聚类结构有一些差异,证实了文献中的假设。此外,我们还确定了一些以前未描述的大脑区域,产生了新的假设来进行经验检验。
2013-11-26 stat.ME
Significance-Based Categorical Data Clustering
Dalian University of Technology(大连理工大学);Key Laboratory for Ubiquitous Network and Service Software of Liaoning Province(辽宁省泛在网络与服务软件重点实验室)
虽然已经提出了许多算法来解决分类数据聚类问题,如何访问一组分类聚类的统计意义仍然没有解决。为了满足这一空白,我们采用似然比检验来推导检验统计量,该检验统计量可以作为分类数据聚类中基于显著性的目标函数。因此,提出了一种新的聚类算法,其中的重要性为基础的目标函数通过蒙特卡洛搜索过程进行优化。作为副产品,我们可以进一步计算经验$p$值来评估一组聚类的统计显著性,并开发用于估计聚类数的改进的间隙统计。大量的实验研究表明,我们的方法是能够实现可比的性能,最先进的分类数据聚类算法。此外,这种基于显著性的制定统计聚类验证和聚类数估计的有效性证明通过全面的实证结果。
2022-11-08 cs.LG stat.AP
Statistical Properties of $k$-means Clustering for Data Missing Completely at Random
研究完全随机缺失数据下 $k$-means 聚类的统计性质,建立了 $\sqrt{n}$-超额风险界和估计中心的一致性,推导了 $\sqrt{n}$-收敛速度和渐近正态性,并给出了估计中心收敛到真实中心的条件。
2026-07-03 cs.LG stat.ML
Developments in statistical inference when assessing spatiotemporal disease clustering with the tau statistic
tau统计量$τ$使用地理位置和通常的症状发作时间来评估来自流行病学数据的全球时空聚类。通过与开放获取麻疹数据集的基线分析进行比较,我们测试了不同的因素,这些因素可能会影响基于统计数据的聚类或偏倚聚类范围估计的图形假设检验。通过重新分析这些数据,我们发现用于构建tau估计值的置信区间和置信区间(CI)类型的空间自助抽样方法可以使聚类范围估计值产生偏差。我们认为,偏差校正和加速(BCa)CI是必不可少的非对称样本自助分布的tau估计。我们还发现了反对没有时空聚类的证据,$p$ -值$\in$ [0,0.014](全局包络检验)。我们开发了Loh & Stein空间自举抽样方法的tau特异性修改,该方法提供了更精确的自举tau估计值和比先前发表的估计聚类终点高20%(36.0 m; 95%BCa CI(14.9,46.6)vs 30 m),以及疾病几率升高的聚类面积增加了44%。范围估计中出现的适度径向偏差在区域尺度上增加了一倍以上,公共卫生资源与之成比例。这种差异可能对控制产生重要影响。在图形摘要中说明了无聚类的假设检验和tau统计量的聚类范围估计的正确做法。我们提倡正确实施这一有用的统计数据,最终减少疾病聚类分析过程中控制政策决策的不准确性。
2020-03-09 stat.AP stat.ME
Multi-level conformal clustering: A distribution-free technique for clustering and anomaly detection
Royal Holloway University of London(伦敦大学皇家霍洛威学院);Centrica plc(森特理克公司);Politecnico di Milano(米兰理工大学)
在这项工作中,我们提出了一个聚类技术称为\textit{multi-level conformal clustering (MLCC)}。该技术本质上是分层的,因为它可以在多个显著性水平上执行,这比仅在一个水平上执行更深入地了解数据。我们描述了MLCC的理论基础,比较和对比它与层次聚类算法,然后将其应用到现实世界的数据集,以评估其性能。与更经典的聚类技术相比,使用MLCC有几个优点:一旦设置了显著性水平,MLCC就能够自动选择聚类的数量。此外,由于共形预测框架,所得到的聚类模型具有明确的统计意义,而无需对数据的分布进行任何假设。这种统计鲁棒性还允许我们同时执行聚类和异常检测。此外,由于共形预测框架的灵活性,我们的算法可以在许多其他机器学习算法之上使用。
2019-10-21 cs.LG stat.ME stat.ML
Post-clustering difference testing: valid inference and practical considerations
聚类是无监督分析方法的一部分,包括将样本分组为同质和独立的观测子组,也称为聚类。为了解释聚类,通常使用统计假设检验来推断将估计的聚类彼此显著分离的变量。然而,数据驱动的假设被认为是推理过程,因为假设是来自聚类结果。这种数据的双重使用导致传统的假设检验无法控制第一类错误率,特别是因为聚类过程中的不确定性及其可能产生的潜在人为差异。我们提出了三种新颖的统计假设检验来解释聚类过程。我们的测试有效地控制第一类错误率,通过识别只包含一个真正的信号分离组的观察变量。
2022-10-24 stat.ME
Spatial clustering of extreme annual precipitation in Uruguay
这项工作的主要目标是研究乌拉圭境内最大年降雨量(通过每日观测)的空间格局,并说明最近提出的两种新统计工具的应用情况。在第一阶段,将研究各气象站年最大降水量的分布。在第二阶段,将采用空间聚类方法。为了得到每个站的最大值的分布,我们使用了截断的Cramér-von Mises假设检验(第一个统计工具),并表明它改进了经典的似然比检验的性能。结果发现,在18个研究地点的分布,最适合的数据是Gumbel型,并为其他两个,它是Fréchet型。关于聚类方法,使用了两种方法,其中一种是使用估计参数进行聚类,另一种是使用F-madogram作为距离的PAM方法,突出了乌拉圭全境的同质性。这项工作的另一个新颖之处(第二个统计工具)包括,作为聚类的补充,最近提出的独立性测试的基础上复发率。
2021-12-09 stat.AP
Nested partitions from hierarchical clustering statistical validation
我们开发了一个贪婪的算法,是快速和可扩展的检测嵌套分区提取的树状图从层次聚类的多变量系列。我们的算法提供了一个$p$ -值的层次树中观察到的每个进化枝。通过计算相异度矩阵的自举副本的数量并通过对与给定进化枝相关联的相异度和其父节点的进化枝的相异度之间的每个差异进行统计测试来获得$p$值。我们证明了我们的算法的有效性与一组基准使用层次因素模型产生的。我们比较了我们的算法与Pvlove.com的结果。Pvestival是一种广泛使用的算法,最初是由系统发育研究激发的全局方法开发的。在我们的数值实验中,我们专注于多假设检验校正的作用和算法的鲁棒性,数据集的不准确性和错误。我们还将我们的算法应用于参考经验数据集。我们验证了我们的算法是比Pvestival算法快得多,并具有更好的可扩展性,无论是在调查的多元集的元素的数量和记录的数量。我们的算法提供了一个层次嵌套分区在更短的时间比目前广泛使用的算法,允许在非常大的系统中进行统计验证的聚类分析检测。
2019-06-17 q-bio.GN stat.AP
Statistical Estimation and Clustering of Group-invariant Orientation Parameters
我们处理的问题,估计的取向参数的值是不变的变换从一个球对称群。以前的工作已经表明,任何这样的组不变分布必须满足一个限制有限的混合表示,这使得方向参数估计使用期望最大化(EM)极大似然(ML)估计算法。在本文中,我们介绍了两个参数模型,这个球对称群估计问题:1)双曲型Von Mises Fisher(VMF)混合分布和2)沃森混合分布。我们还介绍了一个新的EM-ML算法聚类样本,来自不同参数的组不变分布的混合物。我们将模型应用于与晶形相关的球对称群下的平均晶体取向估计问题,例如,立方体或八面体或六面体。模拟和实验建立了扩展的EM-VMF和EM-Watson估计的优势,通过电子背散射衍射(EBSD)显微镜获得的多晶镍合金样品的数据。
2015-05-22 physics.data-an stat.ML
Clustering and Classification of Genetic Data Through U-Statistics
遗传数据通常是分类的,具有复杂的依赖结构,并不总是很好地理解。因此,基于遗传数据的聚类和分类虽然高度相关,但却是具有挑战性的统计问题。在这里,我们考虑一个高度通用的U-统计的方法建立在非参数聚类的数据点对之间的差异。在这项工作中,我们提出了统计测试,以评估考虑到多重检验问题组的同质性,和一个聚类算法的基础上,组内和组间的差异,大大加快了同质性测试。我们还提出了一个测试,以验证两组中的一个样本的分类意义。一个蒙特卡罗模拟研究,以评估权力的分类测试,考虑到不同的群体大小和程度的分离。还通过模拟分析了同质性检验的大小和功效,并将其与竞争方法进行了比较。最后,该方法被应用到三个不同的遗传数据集:全球人类遗传多样性,乳腺肿瘤基因表达和登革热病毒血清型。这些应用程序展示了这个统计框架的能力,以回答不同的生物学问题,同时适应不同的数据库的特异性。
2016-06-10 q-bio.GN stat.AP stat.ME
Statistical Inference for Fuzzy Clustering
Department of Biostatistics & Bioinformatics, Duke University(杜克大学生物统计与生物信息学系);Department of Statistics & Data Science, University of Pennsylvania(宾夕法尼亚大学统计与数据科学系);Department of Biostatistics & Bioinformatics and Department of Computer Science, Duke University(杜克大学生物统计与生物信息学系和计算机科学系)
本文提出加权模糊c均值方法,通过统计推断框架解决聚类大小不平衡问题,提升不确定性量化与生物意义的软成员资格分析。
2026-01-06 cs.LG stat.ME
Selective inference for k-means clustering
我们考虑的问题,通过k-均值聚类确定的观察集群之间的差异的均值测试。在这种情况下,经典的假设检验会导致第一类错误率的膨胀。为了克服这个问题,我们采取了选择性推理的方法。我们提出了一个有限样本的p值,控制选择性第一类错误的一对集群之间的差异,使用k-均值聚类的测试,并表明,它可以有效地计算。我们将我们的建议应用于模拟,手写数字数据和单细胞RNA测序数据。
2022-03-29 stat.ME stat.ML
Statistical Properties of Convex Clustering
本文研究了凸聚类的统计性质。我们建立了凸聚类是密切相关的单链接层次聚类和$k$ -均值聚类。此外,我们推导出的凸聚类,产生一个非平凡的解决方案的调整参数的范围。我们还提供了一个无偏估计的自由度,并提供了一个有限的样本约束的凸聚类的预测误差。我们比较了凸聚类和一些传统的聚类方法在模拟研究。
2015-09-13 math.ST stat.ME stat.TH
Statistical analysis of a hierarchical clustering algorithm with outliers
众所周知,经典的单连接算法通常无法识别存在离群值的聚类。在本文中,我们提出了一个新的版本,这种算法,我们研究了它的数学性能。特别是,我们建立了一个预言型不等式,确保我们的程序允许恢复集群的离群值的分布在最小的假设下,具有很大的概率。我们推导出这个不等式的一致性和我们的算法在各种情况下的收敛速度。我们的方法的性能也通过模拟研究和模拟数据与经典的聚类算法的比较进行了评估。
2022-03-18 math.ST stat.TH
Statistical Guarantees for Local Spectral Clustering on Random Neighborhood Graphs
我们研究了个性化PageRank(PPR)算法,一个本地的谱方法聚类,提取集群使用局部偏置随机游动在一个给定的种子节点。与以前的工作相比,我们采用了经典的统计学习设置,从未知的非参数分布中获取样本,并旨在识别足够突出的聚类。我们引入了三个群体水平的泛函-归一化切割,电导和局部扩散,类似于基于图形的泛函的相同的名称-并证明PPR,运行在一个邻域图,恢复集群与小人口归一化切割和大电导和局部扩散。我们应用我们的一般理论,建立PPR识别连接区域的高密度(密度集群),满足一组自然的几何条件。我们还展示了相反的结果,即PPR可能无法恢复几何条件较差的密度集群,即使是渐进的。最后,我们为我们的理论提供了实证支持。
2021-12-23 math.ST stat.TH
Computational lower bounds in latent models: clustering, sparse-clustering, biclustering
本研究基于低次多项式方法,提出推导潜在空间模型计算下界的新方案,得到聚类、稀疏聚类和双聚类问题更优的统计-计算间隙结果与简化证明。
2025-06-16 math.ST stat.ML stat.TH
Analytical and statistical properties of local depth functions motivated by clustering applications
局部广义深度($LGD$)函数用于描述多元分布中的局部几何特征和模式。在本文中,我们对$LGD$进行了严格的系统研究,并建立了几个分析和统计特性。首先,我们表明,当潜在的概率分布是绝对连续的密度$f(\cdot)$,缩放版本的$LGD$(称为$τ$近似)收敛,一致和$L^d(\mathbb{R}^p)$的$f(\cdot)$时,$τ$收敛到零。其次,我们建立,作为样本大小发散到无穷大的中心和缩放的样本$LGD$收敛于分布的中心高斯过程均匀的有界函数的空间中的$\mathcal{H}_G$,一类功能产生$LGD$。第三,利用$τ$ -近似($S τA$)和梯度系统分析,我们开发了一种新的聚类算法。该算法的有效性需要与$S τA$有关的梯度系统的一致有限差分近似的几个结果。为此,我们建立了\emph{Bernstein}型不等式的中心和缩放样本$LGD$之间的偏差,这也是独立的利益。最后,调用上述结果,我们建立了一致性的聚类算法。最后给出了该方法在模式估计和上水平集估计中的应用。有限样本性能的方法进行了评估,使用数值实验和数据分析。
2022-11-03 math.ST stat.TH
Exact Clustering in Tensor Block Model: Statistical Optimality and Computational Limit
高阶聚类的目的是识别神经成像,基因组学,社会网络研究等多路数据集中常见的异构子结构,这个问题的非凸性和不连续性在统计和计算方面都提出了重大挑战。在本文中,我们提出了一个张量块模型和计算效率的方法,\emph{high-order Lloyd algorithm}(HLloyd),高阶谱聚类(HSC),高阶聚类。收敛性保证和统计最优性建立了一个温和的亚高斯噪声假设下,所提出的程序。在高斯张量块模型下,我们完全描述了基于三种不同信噪比制度实现高阶精确聚类的计算-计算权衡。该分析依赖于高阶谱扰动分析和张量估计中的“奇异值无间隙”误差界的新技术,这与文献中的矩阵谱分析有很大不同。最后,我们通过在合成和真实数据集上的大量实验,展示了所提出的方法的优点。
2022-10-10 math.ST stat.ME stat.ML
When Should You Adjust Standard Errors for Clustering?
在实证工作中,通常估计模型参数并报告相关的标准误差,这些误差说明了单位的“聚类”,其中聚类是由地理等因素定义的。聚类调整的动机通常是关注聚类内单位的结果的未观察到的组成部分是相关的。然而,这种动机并没有提供指导问题,如:(一)为什么我们应该调整标准误差聚类在某些情况下,而不是其他?我们如何证明观察性研究中的聚类而不是随机实验,或者按州聚类而不是按性别聚类的常见做法是合理的?(ii)为什么传统的聚类是一种潜在的保守的“全有或全无”的调整,是否有其他方法可以响应数据并且不那么保守?(iii)在哪些情况下,是否以及如何选择集群会产生影响?我们解决这些问题,使用抽样和设计推理的框架。我们认为,集群可以需要解决采样问题,如果采样遵循一个两阶段的过程,在第一阶段,集群的子集是从集群的人口抽样,在第二阶段,单位抽样从抽样集群。然后,聚类的标准误差说明了总体中存在我们在样本中看不到的聚类。如果治疗分配与聚类中的成员资格相关,则可能需要聚类来解释设计问题。我们提出了新的方差估计,以处理传统的集群标准误差是不必要的保守和强大的标准误差太小的中间设置。
2022-09-20 econ.EM math.ST stat.TH
Tensor Clustering with Planted Structures: Statistical Optimality and Computational Limits
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Duke University(杜克大学)
本文研究 CHC 与 ROHC 两类植入结构张量聚类,给出检测与恢复的统计边界和多项式时间计算阈值,并证明低信噪比下基于 HPC/HPDS 猜想的困难性。
2023-10-02 cs.CC cs.LG math.ST
Statistical Learning Guarantees for Compressive Clustering and Compressive Mixture Modeling
Université Paris-Saclay(巴黎-萨克雷大学);CNRS(法国国家科学研究中心);Laboratoire de mathématiques d’Orsay(奥赛数学实验室);GIPSA-lab(GIPSA实验室);Univ. Bordeaux(波尔多大学);Bordeaux INP(波尔多国立理工学院);IMB(波尔多数学研究所);Univ Lyon(里昂大学);Inria(法国国家信息与自动化研究所);ENS de Lyon(里昂高等师范学校);UCB Lyon 1(里昂第一大学);LIP(里昂信息处理实验室);Univ Rennes(雷恩大学);IRISA(雷恩计算机科学研究所)
我们在压缩统计学习的背景下为两个无监督学习任务提供了统计学习保证,压缩统计学习是我们在一篇配套论文中介绍的资源高效的大规模学习的一般框架。压缩统计学习的原理是压缩一个训练集合,在一次通过中,转换成一个低维草图(一个随机经验广义矩的向量),它捕捉了与所考虑的学习任务相关的信息。我们明确地描述和分析随机特征函数,经验平均值保留了压缩聚类和压缩高斯混合建模所需的信息,具有固定的已知方差,并建立足够的草图大小给定的问题尺寸。
2021-08-17 cs.IT cs.LG math.IT
Lattice-Based Methods Surpass Sum-of-Squares in Clustering
Massachusetts Institute of Technology(麻省理工学院);Courant Institute of Mathematical Sciences, New York University(纽约大学库朗数学科学研究所);Simons Institute for the Theory of Computing, UC Berkeley(加州大学伯克利分校西蒙斯计算理论研究所);Center for Data Science, New York University(纽约大学数据科学中心);Flatiron Institute(熨斗研究所)
聚类是无监督学习中的一个基本要素,它产生了大量具有计算挑战性的推理任务。在这项工作中,我们专注于典型的任务聚类d维高斯混合未知(可能退化)的协方差。最近的工作(Ghosh等人,'20; Mao,Wein '21; Davis,Diaz,Wang '21)已经建立了针对低次多项式方法和平方和(SoS)层次的下界,用于恢复高斯聚类实例中植入的某些隐藏结构。许多类似的推理任务的先前工作预示着,这样的下限强烈建议存在一个固有的算法到计算的差距聚类,也就是说,一个参数制度的聚类任务是统计上可能的,但没有多项式时间算法成功。我们考虑的聚类任务的一个特殊情况相当于在一个随机子空间中找到一个种植超立方体向量的问题。我们发现,也许令人惊讶的是,这种特定的聚类模型并没有表现出计算的差距,即使在这种情况下,上述低程度和SoS的下限继续适用。为了实现这一点,我们给出了一个多项式时间算法的基础上的Lenstra-Lenstra-Lovasz格基减少方法,实现了最佳的样本复杂度d+1个样本。这一结果扩展了一类问题,其被限制的计算到计算的差距可以通过“脆性”多项式时间算法“关闭”,突出了噪声在计算到计算的差距的发病中的关键但微妙的作用。
2022-01-07 cs.CC cs.DS cs.LG
Universal Lower Bounds and Optimal Rates: Achieving Minimax Clustering Error in Sub-Exponential Mixture Models
École Polytechnique Fédérale de Lausanne (EPFL)(洛桑联邦理工学院);Bilkent University(比尔肯特大学)
本文针对次指数混合模型,提出基于Chernoff散度的通用聚类误差下界,证明迭代算法可达最优速率,并验证Bregman硬聚类在指数族混合模型中的速率最优性。
2024-07-17 cs.LG math.ST stat.ML
Selective inference after convex clustering with $\ell_1$ penalization
Université de Toulouse(图卢兹大学);CNRS(法国国家科学研究中心);Institut universitaire de France (IUF)(法兰西学院);INSA(国立应用科学学院)
本文针对带 $\ell_1$ 惩罚的凸聚类提出基于多面体条件高斯向量的选择性推断方法,给出一维及多维情形下具有统计保证的检验程序,并实现于 R 包 poclin。
2025-11-09 math.ST stat.ME stat.TH
A provable initialization and robust clustering method for general mixture models
本文针对一般混合模型提出基于多元截尾均值质心估计的鲁棒初始化与聚类方法,在有限簇数和维度下可证明达到接近最优的误标号率,并能抵抗重尾误差和对抗离群点,同时证明Lloyd算法在多簇或重尾情形下次优。
2024-10-23 math.ST stat.ML stat.TH
Perfect Clustering in Nonuniform Hypergraphs
本文提出交互超图模型以分析非均匀超图,定义交互潜在嵌入并证明其谱估计在交互充足时可实现完美聚类。
2025-04-11 math.ST stat.ME stat.ML
Statistical guarantees for local graph clustering
University of California at Berkeley(加州大学伯克利分校);University of Waterloo(滑铁卢大学);ICSI(国际计算机科学研究所)
局部图聚类方法的目标是在非常大的图中找到小的簇。这些方法将一个图和一个种子节点作为输入,并在运行时返回一个良好的集群作为输出,这取决于输出集群的大小,但与输入图的大小无关。在本文中,我们采用了统计的角度对局部图聚类,我们分析了l1正则化PageRank方法的性能~(Fountoulakis et.(见上文)对于单个目标集群的恢复,给定集群内的种子节点。假设目标聚类是由随机模型生成的,我们给出了两个结果。首先,我们证明了l1正则化PageRank的最佳支持恢复了完整的目标集群,具有有界的误报。在第二,我们表明,如果种子节点是唯一连接到目标集群,然后l1正则化PageRank的最佳支持恢复正是目标集群。我们还表明经验,l1正则化PageRank有一个国家的最先进的性能在许多真实的图,证明了该方法的优越性。从计算的角度来看,我们证明了l1正则化PageRank的解决方案路径是单调的。这允许应用前向逐阶段算法,该算法在不依赖于整个图的大小的运行时间中近似解路径。最后,我们表明,l1正则化PageRank和近似个性化PageRank(APPR),另一个非常流行的方法,局部图聚类,是等价的,在这个意义上,我们可以下限和上限的输出与其他的输出之一。基于这种关系,我们建立APPR类似的结果,我们建立l1正则化PageRank。
2020-01-11 cs.LG math.OC math.ST
Subspace clustering in high-dimensions: Phase transitions & Statistical-to-Computational gap
Ecole Polytechnique Fédérale de Lausanne (EPFL)(洛桑联邦理工学院);École Normale Supérieure - PSL(巴黎高等师范学院-PSL大学);CNRS(法国国家科学研究中心)
本文研究高维稀疏k-高斯混合模型下的子空间聚类,给出统计最优重构误差的渐近刻画与信息论阈值,发现AMP算法存在统计-计算鸿沟,并讨论了亚广延稀疏性下不同算法的性能。
2022-12-01 cond-mat.dis-nn cs.LG math.PR