Dimension Reduction via Sum-of-Squares and Improved Clustering Algorithms for Non-Spherical Mixtures
MIT University of Washington EPFL(麻省理工学院 华盛顿大学 EPFL)
提出基于平方和方法的降维子程序,实现非球形高斯混合物的高效聚类,显著降低样本和时间的维度依赖。
2026-06-01 cs.DS cs.LG stat.ML
Testing the Regular Variation Model for Multivariate Extremes with Flexible Circular and Spherical Distributions
本文提出基于非负三角和的圆形与球形分布作为谱测度的灵活概率模型,用于多元极值正则变化模型,并应用统计检验推断极值依赖结构,在金融数据上验证。
2023-09-12 stat.ME
Outlier-Robust Clustering of Non-Spherical Mixtures
我们给出了第一个离群鲁棒的有效算法聚类的混合物的$k$统计分离的d维高斯(k-GARCH)。具体地说,我们的算法从$k$-GMM和whp在$d^{\text{poly}(k/η)}$时间输入$ε$ -损坏的样本,输出一个近似的聚类,错误分类最多$k^{O(k)}(ε+η)$分数的点时,每对混合成分是由$1-\exp(-\text{poly}(k/η)^k)$在全变差(TV)距离分开。这种结果以前甚至对于$k=2$也是未知的。TV分离是统计学上最弱的分离概念,并捕获了重要的特殊情况,如混合线性回归和子空间聚类。我们的主要概念性贡献是提取简单的分析性质-(可证明的)超压缩性和有界方差的2次多项式和反浓度的线性投影-这是必要的和充分的混合模型是(有效)聚类。因此,我们的结果扩展到聚类混合物的任意仿射变换的均匀分布的$d$维单位球。即使是满足这两个分析假设的分离分布的信息理论聚类性在我们的工作之前也是未知的,并且可能是独立的兴趣。我们的算法建立在最近的一系列作品的基础上,这些作品依赖于Karmarkar,Klivans,Kothari和Raghavendra以及Yau在2019年的作品中首次引入的可证明的反浓度。我们的技术扩展了平方和工具包,以显示数据中TV分离的高斯聚类的鲁棒性。这涉及到通过仅依赖于超收缩性和反集中性来给出将参数(即均值和协方差)距离与总变异距离相关联的陈述的低度平方和证…
2020-12-14 cs.DS stat.ML
Generating Similar Graphs From Spherical Features
我们提出了一种新的模型,用于生成类似于给定示例图的图。不同于标准的方法,计算在欧几里得空间中的图形的功能,我们的方法获得的超球面上的表面上的功能。然后,我们利用冯米塞斯-费舍尔分布,一个指数族分布的表面上的超球体,定义一个模型可能的特征值。虽然我们的方法与流行的指数随机图模型(ERGM)相似,但与ERGM不同的是,它不会发生退化,这种情况下,将显着的概率质量放在不切实际的图形上。我们提出了一个参数估计方法,我们的模型,并从分布中抽取样本的程序。我们评估我们的方法在所有8节点图的小域以及更大的现实世界的社交网络上的性能。
2011-05-19 cs.SI physics.soc-ph stat.AP
Model--based clustering for spherical and hyper--spherical data using elliptically symmetric distributions
University of Piraeus(比雷埃夫斯大学);King Saud bin Abdulaziz University for Health Sciences(国王萨勒曼·本·阿卜杜勒阿齐兹健康科学大学);King Abdullah International Medical Research Center(阿卜杜拉国王国际医学研究中心);University of Crete(克里特大学)
提出使用椭圆对称分布(椭圆对称角度高斯分布和球面椭圆对称投影柯西分布)进行基于模型的定向数据聚类,通过期望最大化算法实现,并比较了两种分布在聚类数选择和计算成本上的表现,应用于球面和超球面数据集。
2026-10-06 stat.ME
On the spherical Laplace distribution
针对 vMF 分布对离群值敏感的问题,提出球面拉普拉斯分布,给出采样、最大似然估计理论及高效数值参数估计方法,并在有限混合模型下用于聚类,经模拟和真实数据验证。
2022-09-07 stat.ME
Dynamic Clustering Algorithms via Small-Variance Analysis of Markov Chain Mixture Models
贝叶斯非参数是一类概率模型,其中模型大小是从数据中推断出来的。最近开发的一种方法在这一领域是小方差渐近分析,数学技术推导学习算法,捕捉贝叶斯非参数推理算法的灵活性,但更简单的实现和计算成本较低。过去关于贝叶斯非参数推理算法的小方差分析的工作只考虑了在单个静态数据集上训练的批处理模型,这些模型无法捕获数据潜在结构中的时间演变。这项工作提出了一个小方差分析的最大后验滤波问题的随时间变化的混合模型与马尔可夫依赖结构,捕捉时间演变的集群内的数据集。两个聚类算法的分析结果:D-Means,线性可分离的,球形集群的迭代聚类算法;和SD-均值,一个谱聚类算法,来自一个内核化,放松版本的聚类问题。实验结果表明,使用D-Means和SD-Means在计算成本和聚类精度方面优于当代聚类算法。
2017-07-26 stat.ML
$k$-means clustering of extremes
$k$ -均值聚类算法及其变体-球形$k$ -均值聚类算法是无监督学习和模式检测中最重要和最流行的方法之一。在本文中,我们探讨如何球形$k$ -均值算法可以应用于分析只有极值观测数据集。通过利用多元极值分析,我们展示了如何可以通过它来找到“原型”的极值依赖,我们得出了一致性结果,我们建议的估计。在最大线性模型的特殊情况下,我们进一步表明,我们的程序提供了另一种方式的统计推断这类模型。最后,我们提供的数据的例子表明,我们的方法是能够找到相关的模式在极端的观察,并允许我们分类极端事件。
2019-05-25 stat.ME
Spherical Double K-Means: a co-clustering approach for text data analysis
针对文本分析中需同时聚类文档与词项的需求,提出利用余弦相似度的Spherical Double K-Means方法,可提升主题识别与可解释性,经美国总统就职演说语料库验证能有效发掘文本潜在模式。
2025-02-22 stat.AP stat.ME
On the Spherical Dirichlet Distribution: Corrections and Results
Texas A&M University-Corpus Christi(德克萨斯农工大学科珀斯克里斯蒂分校)
本文修正了 Guardiola (2020) 关于球面狄利克雷分布的技术错误,系统推导其归一化常数、矩及与其他分布的关系,并提出矩估计和最大似然估计方法,通过模拟数据与文本挖掘实例验证其适用性。
2026-10-30 math.ST stat.ME stat.TH
An Exact Solution Path Algorithm for SLOPE and Quasi-Spherical OSCAR
The Institute of Statistical Mathematics(统计数学研究所)
Sorted $L_1$ penalization estimator(SLOPE)是高维回归中排序绝对系数的正则化技术。通过在单调性约束下任意设置其正则化权重$λ$,SLOPE可以具有各种特征选择和聚类属性。在权重调整方面,所选择的特征及其聚类对调整参数非常敏感。此外,使用网格搜索方法很难详尽地跟踪它们的变化。本研究提出一个解路径演算法,提供完整且精确的解路径以微调正则化权重。一个简单的SLOPE的最优性条件,并用于指定下一个分裂点的解决方案的路径。本研究还提出了一种新的设计的正则化序列$λ$的特征聚类,这被称为准球形和八角形收缩和聚类算法回归(QS-OSCAR)。QS-OSCAR的正则化项的轮廓表面设计成最类似于一个球体。在几种正则化序列的设计,稀疏性和聚类性能进行了比较,通过模拟研究。数值实验结果表明,QS-OSCAR算法比其他算法更有效地进行特征聚类。
2020-10-29 cs.LG stat.CO stat.ME
An agglomerative hierarchical clustering method by optimizing the average silhouette width
University College London(伦敦大学学院)
提出了一种基于平均轮廓宽度(ASW)指标优化的关联度量的凝聚层次聚类(AHC)框架和算法HOSil。为了实现以下三个目标,对各种数据结构的聚类方法和估计指标进行了认真的研究:a)聚类质量,b)聚类恢复,c)聚类数估计。与k-means,PAM,单一,完整,平均,Ward,McQuitty,谱,基于模型和几种估计方法相比,HOSil在一系列人工和真实世界的数据结构中表现出更好的聚类质量。它可以识别各种形状的簇,包括球形的,细长的,相对小尺寸的簇,来自不同分布的簇,包括均匀的,t,伽马等。HOSil已显示出良好的回收率,用于正确确定簇的数目。对于某些数据结构,只有HOSil能够识别正确的簇数。
2019-09-26 cs.LG stat.ME
K-expectiles clustering
$K$ -均值聚类算法是聚类分析中应用最广泛的划分算法之一,具有简单、计算效率高等优点。然而,$K$ -均值在应用于具有非球形形状的聚类的数据时不提供适当的聚类结果。提出了一种新的基于期望值的划分聚类算法。聚类中心被定义为多变量期望值,并且通过最小化聚类内“$τ$ -方差”的贪婪算法来搜索聚类。我们提出了两种方案:固定的$τ$聚类和自适应的$τ$聚类。仿真结果表明,该方法在具有非对称形状的聚类或具有复杂结构的聚类(包括非对称正态、β、偏态$t$和$F$分布的聚类)上优于$K$ -均值聚类和谱聚类.提供了自适应$τ$集群在加密货币(CC)市场数据上的应用。研究发现,CC市场的预期集群表现出机构投资者主导市场的现象。第二个应用是图像分割。与其他基于中心的聚类方法相比,像素数据的自适应$τ$聚类中心可以更好地捕获和描述图像的特征。固定的$τ$聚类带来了更大的灵活性,分割精度相当高。
2021-03-16 stat.ME stat.ML
Kernel Smoothing, Mean Shift, and Their Learning Theory with Directional Data
University of Washington(华盛顿大学)
方向数据由分布在(超)球体上的观测数据组成,并出现在许多应用领域,如天文学,生态学和环境科学。本文研究了方向数据核平滑的统计和计算问题。我们推广了经典的均值漂移算法的方向数据,这使我们能够识别局部模式的方向核密度估计(KDE)。导出了方向KDE及其导数的统计收敛速度,并研究了模式估计问题。我们还证明了方向均值漂移算法的上升性质,并研究了单位超球面上的一般梯度上升问题。为了证明该算法的适用性,我们评估它作为一个模式聚类方法在模拟和真实世界的数据集。
2021-06-07 cs.LG stat.ME stat.ML
Efficient Clustering for Stretched Mixtures: Landscape and Optimality
Columbia University(哥伦比亚大学);Princeton University(普林斯顿大学);Cornell University(康奈尔大学)
本文考虑了一个典型的聚类问题,其中一个接收未标记的样本从一个平衡的混合物的两个椭圆分布和目标的分类器来估计标签。许多流行的方法,包括PCA和k-means,都要求混合物的各个成分是球形的,当它们被拉伸时,性能很差。为了克服这个问题,我们提出了一个非凸的程序,寻求仿射变换,把数据变成一个一维的点云集中在$-1$和$1$,之后聚类变得容易。我们的理论贡献是双重的:(1)我们表明,非凸损失函数具有理想的几何性质时,样本量超过一些常数倍的尺寸,(2)我们利用这一点来证明,一个有效的一阶算法实现接近最佳的统计精度没有良好的初始化。我们还提出了一个通用的聚类方法与灵活的选择功能转换和损失的目标。
2021-11-27 cs.LG math.OC math.ST