Biclustering random matrix partitions with an application to classification of forensic body fluids
针对法医体液分类中监督学习缺乏可解释性的问题,提出BDP-CaRMa双聚类方法,通过三层聚类层次和模型化分类适应数据块结构,实现可解释且校准良好的分类。
2023-10-14 stat.AP stat.ME
Bayesian biclustering for microbial metagenomic sequencing data via multinomial matrix factorization
高通量测序技术为定量探索人类肠道微生物组及其与疾病的关系提供了前所未有的机会。微生物组数据具有组成性、稀疏性、噪声性和异质性等特点,这对统计建模提出了严峻的挑战。我们提出了一个可识别的贝叶斯多项式矩阵分解模型来推断微生物和宿主上的重叠簇。所提出的方法表示观察到的过度分散的零膨胀计数矩阵的狄利克雷多项式的混合物上的潜在集群结构的层次。在贝叶斯框架下,聚类的数量是自动确定的,并且自然地结合了来自微生物分类等级树的可用信息,这大大提高了我们发现的可解释性。我们证明了所提出的方法的实用性,通过比较模拟中的替代方法。应用于涉及患有炎性肠病的患者的人类肠道微生物组数据集揭示了有趣的簇,其包含根据生物学文献已知与炎性肠病及其亚型相关的细菌家族拟杆菌科、双歧杆菌科、肠杆菌科、梭杆菌科、毛螺菌科、瘤胃球菌科、巴斯德菌科和卟啉单胞菌科。我们的研究结果可以帮助产生潜在的假设,用于未来对人类肠道微生物组异质性的研究。
2020-10-08 stat.ME
funLOCI: a local clustering algorithm for functional data
本文提出 funLOCI 算法,基于分裂层次聚类与加性模型识别函数型局部聚类,解决函数型数据在连续域子集上的相似行为分组问题,并通过树状图引导搜索及额外步骤精简结果。
2023-05-22 stat.ME stat.ML
SOFAR: large-scale association network learning
许多现代大数据应用程序在响应和预测变量的数量方面都具有很大的规模。更好的统计效率和科学见解可以通过理解大规模响应预测关联网络结构来实现,该网络结构是通过按重要性排序的稀疏潜在因素层来实现的。然而,稀疏性和正交性是两个很大程度上不相容的目标。为了适应这两个特点,本文提出了稀疏正交因子回归(SOFAR)方法,通过稀疏奇异值分解与正交约束优化来学习底层关联网络,广泛应用于无监督和监督学习任务,如稀疏奇异值分解双聚类,稀疏主成分分析,稀疏因子分析,和备用向量自回归分析。利用凸性辅助非凸优化的框架,我们推导出非渐近误差界的建议过程表征的理论优势。统计保证是由一个有效的SOFAR算法的收敛性能。我们的程序的计算和理论的优势证明了几个模拟和真实数据的例子。
2017-04-26 stat.ME stat.ML
A Sparse PCA Approach to Clustering
讨论了一种基于稀疏主成分分析(SPCA)的高斯混合模型聚类方法,并与IF-PCA方法进行了比较。我们还讨论了相关的情况下,协方差阵$Σ$不一定是对角线。
2016-02-16 stat.ME stat.ML
Biarchetype analysis: simultaneous learning of observations and features based on extremes
本文提出双原型分析,通过极值双原型同时表示观测与特征,并给出求解算法,在可解释性上优于双聚类,且提供 R/Python 实现。
2024-05-22 stat.AP stat.ME stat.ML
Model-based bi-clustering using multivariate Poisson-lognormal with general block-diagonal covariance matrix and its applications
本文提出基于多元泊松-对数正态模型和块对角协方差矩阵的双聚类方法,支持列簇数跨组固定或变化,通过变分高斯近似估计参数,并在模拟数据和乳腺癌RNA测序数据上验证了准确性与计算效率。
2025-03-11 stat.AP stat.ME
Flexible Clustering with a Sparse Mixture of Generalized Hyperbolic Distributions
针对高维数据稳健聚类问题,提出广义双曲分布混合的成分尺度矩阵参数化方法,引入gamma-lasso惩罚约束浓度矩阵并开发期望最大化算法,经模拟和真实数据验证有效。
2024-06-06 stat.ME stat.ML
Bayesian sparse convex clustering via global-local shrinkage priors
NTT Advanced Technology Corporation(NTT先进技术公司);The University of Electro-Communications(电气通信大学)
稀疏凸聚类是在凸聚类框架下对观测值进行聚类的同时进行变量选择。虽然加权$L_1$范数通常用于稀疏凸聚类中的正则化项,但如果样本量不足,则其使用增加了对数据的依赖性并降低了估计精度。针对这些问题,本文提出了一种基于贝叶斯套索和全局-局部收缩先验的贝叶斯稀疏凸聚类方法。我们引入吉布斯抽样算法,我们的方法使用的比例混合正态分布。仿真研究和实际数据分析表明了所提出方法的有效性。
2020-05-26 cs.LG stat.ME stat.ML
Sparse Convex Clustering
New York University School of Medicine(纽约大学医学院);Merck Research Laboratories(默克研究实验室);University of Miami School of Business Administration(迈阿密大学工商管理学院);New Jersey Institute of Technology(新泽西理工学院)
凸聚类是k-均值聚类和层次聚类的一种凸松弛算法,它很好地解决了传统非凸聚类方法的不稳定性问题。虽然它的计算和统计特性最近已被研究,凸聚类的性能尚未在高维聚类的情况下,其中的数据包含大量的功能和他们中的许多人进行没有信息的聚类结构进行了研究。在本文中,我们证明了凸聚类的性能可能会扭曲时,无信息的功能,包括在聚类。为了克服它,我们引入了一种新的聚类方法,称为稀疏凸聚类,同时聚类观察和进行特征选择。其核心思想是用正则化的形式来表示凸聚类,并在聚类中心处引入自适应的组套索惩罚项。为了最佳地平衡聚类拟合和稀疏性之间的权衡,开发了基于聚类稳定性的调整标准。在理论上,我们提供了一个无偏估计量的自由度的建议稀疏凸聚类方法。最后,稀疏凸聚类的有效性进行了检查,通过各种数值实验和实际数据的应用。
2017-02-10 cs.LG stat.ME stat.ML
Sparse Clustering of Functional Data
我们考虑的问题,聚类功能数据,同时共同选择最相关的功能进行分类。这个问题以前从未在函数数据上下文中解决过,它需要对函数数据的稀疏性概念进行适当的定义。函数稀疏聚类在这里被解析定义为一个变分问题与硬阈值约束,确保解决方案的稀疏性。首先,证明了有限维硬阈值稀疏聚类的唯一解。然后,给出了无限维推广,并证明了其解的唯一性。多变量和功能版本的稀疏聚类与硬阈值表现出其他标准和稀疏聚类策略的模拟数据的改进。还显示了一个真正的函数数据应用程序。
2015-01-20 stat.ME
A novel framework for joint sparse clustering and alignment of functional data
我们提出了一个新的框架稀疏功能聚类,也嵌入了对齐步骤。稀疏函数聚类是指在寻找分组结构的同时,联合检测曲线域中分组结构显示最多的部分。未对齐是函数式数据分析中的一个众所周知的问题,如果处理不当,会严重影响函数式聚类结果。因此,我们开发了一个稀疏的功能聚类过程,占可能的曲线不对齐:在聚类步骤中使用的函数测量的一致性的类,其中选择的扭曲功能的保证,并证明了适定性的稀疏聚类问题。还提出了一种可能的实现算法,联合执行所有这些任务:聚类,对齐和域选择。该方法进行了测试,在各种现实情况下的模拟数据,并讨论了其应用伯克利增长研究数据和AneuRisk65数据集。
2019-12-02 stat.ME
CS Sparse K-means: An Algorithm for Cluster-Specific Feature Selection in High-Dimensional Clustering
Carnegie Mellon University(卡内基梅隆大学)
特征选择是高维聚类中一项重要而又具有挑战性的任务。例如,在基因组学中,可能只有少量基因差异表达,这对整个聚类结构是有信息的。现有的特征选择方法,如稀疏K-means,很少解决只能分离聚类子集的会计特征的问题。在基因组学中,一个基因很可能只能定义一个亚型,而不能区分所有其他亚型,或者只能区分一对亚型。在本文中,我们提出了一种基于K-均值的聚类算法,发现信息的功能,以及集群对可分离的每个选定的功能。该方法本质上是一种期望最大化算法,在M步中对每个簇对引入套索约束,通过最大化原始簇间距离而不是最小化簇内距离来实现E步.结果在模拟数据和白血病基因表达数据集上得到证实。
2019-10-03 cs.LG stat.ME stat.ML
Simultaneous Grouping and Denoising via Sparse Convex Wavelet Clustering
University of Florida Informatics Institute(佛罗里达大学信息学研究所);Rice University(莱斯大学)
聚类是数据科学和信号处理中普遍存在的问题。在我们观察噪声信号的许多应用中,通常的做法是首先对数据进行降噪,可能使用小波降噪,然后应用聚类算法。在本文中,我们开发了一种稀疏凸小波聚类方法,同时去噪和发现群体。我们的方法利用凸融合的罚款,以实现凝聚和组稀疏的罚款去噪,通过稀疏在小波域。与通常的去噪然后聚类的做法相反,我们的方法是一个统一的,凸的方法,同时执行。我们的方法产生去噪(小波稀疏)聚类质心,既提高了可解释性和数据压缩。我们证明了我们的方法在合成的例子和NMR光谱的应用。
2021-03-04 cs.LG eess.SP stat.ME
Robust Two-Layer Partition Clustering of Sparse Multivariate Functional Data
针对稀疏多元函数数据,提出了一种新的弹性时间距离,并将其应用于一种鲁棒的基于距离的两层划分聚类方法。利用该距离,新方法不仅可以检测出稀疏多变量函数数据在离群点设置下的正确聚类,而且可以检测出不属于任何聚类的离群点。经典的基于距离的聚类方法,如基于密度的空间聚类的应用程序与噪声(DBSCAN),凝聚层次聚类,和$K$ -medoids扩展到稀疏的多元函数的情况下,新提出的距离的基础上。仿真数据的数值实验表明,该算法的性能优于现有的基于模型和扩展的基于距离的方法的性能。以西北太平洋气旋路径资料为例,验证了该方法的有效性。
2023-03-19 stat.CO stat.ME
$K$-means clustering for sparsely observed longitudinal data
本文提出一种推广经典$k$-means的快速聚类方法,利用基函数展开建模聚类中心,解决稀疏观测纵向数据中的聚类结构识别问题,并在统计一致性、计算效率与聚类性能上表现优异。
2024-11-13 stat.ME
Regularized Sparse Optimal Discriminant Clustering
提出基于凸聚类惩罚项的稀疏最优判别聚类(SODC)新方法,利用优界函数和ADMM算法解决评分矩阵中正交约束与聚类结构并存的挑战,提升聚类识别准确性。
2025-10-14 stat.ME
Iterative Exploration-Driven Sparse SDP Clustering via Thompson Sampling
研究高维稀疏聚类问题,提出基于SDP松弛和汤普森采样的迭代探索驱动框架,通过鲁棒MMD置换检验评估特征效用,能自适应记忆并促进逃离局部最优,实验证明优于现有稀疏聚类方法。
2026-09-17 stat.ME
Sparse $K$-spatial-median clustering for high-dimensional data
Tiangong University(天津工业大学);Fujian Normal University(福建师范大学);Nankai University(南开大学)
本文提出一种鲁棒的高维数据聚类框架,通过替换K-均值的均值更新为空间中位数以提高鲁棒性,并引入硬特征排除机制处理p>>n情况。
2026-05-01 stat.ME
From here to infinity - sparse finite versus Dirichlet process mixtures in model-based clustering
在基于模型的聚类中,混合模型用于将数据点分组到聚类中。Malsiner Walli等人(2016)为高斯混合引入的一个有用概念是稀疏有限混合,其中具有$K$分量的混合物的权重分布的先验分布以这样的方式选择,即数据中的聚类数量先验是随机的,并且允许以高概率小于$K$。然后从数据中推断出聚类的数量。本文在稀疏有限混合模型的背景下作出了以下贡献。首先,它说明了稀疏有限混合的概念是非常通用的,很容易扩展到聚类各种类型的非高斯数据,特别是离散数据和连续的多元数据所产生的非高斯集群。其次,稀疏有限的混合物相比,狄利克雷过程的混合物就其能力,以确定集群的数量。对于这两种模型类别,考虑了用于确定权重分布的参数的随机超先验。通过适当的匹配这些先验,它表明,这种超先验的选择是远比稀疏有限混合物或Dirichlet过程的混合物被考虑的集群解决方案的影响。
2018-08-22 stat.ME
Sparse and geometry-aware generalisation of the mutual information for joint discriminative clustering and feature selection
Université Côte d’Azur(蔚蓝海岸大学);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);Maasai Team(马赛团队);CHU de Québec Research Centre(魁北克大学中心医院研究中心);Laval University(拉瓦尔大学)
本文提出稀疏GEMINI,一种基于几何感知互信息推广的判别聚类模型,通过l1惩罚实现联合聚类与特征选择,在合成及大规模数据上表现优异,无需先验假设。
2024-07-18 cs.AI cs.LG stat.CO
Sparse and Smooth Functional Data Clustering
本研究提出稀疏光滑函数型聚类方法SaS-Funclust,结合函数型高斯混合模型与双重惩罚项,通过期望-条件最大化算法估计,在模拟和真实数据上均表现出更优的聚类性能与可解释性,已实现为R包开源可用。
2022-07-11 stat.ME
Robust and sparse k-means clustering for high-dimensional data
在现实世界的应用场景中,由于可能出现的离群值和现有的噪声变量,组的识别构成了一个重大的挑战。因此,需要一种聚类方法,该方法能够在没有任何先验知识的情况下揭示包含离群值和噪声变量的数据中的组结构。在本文中,我们提出了一个$k$ -均值为基础的算法,结合加权函数,导致自动权重分配每个观察。为了处理噪声变量,套索型惩罚被用于由观测权重调整的目标函数。最后,我们介绍了一个框架,用于选择集群的数量和变量的基础上修改的间隙统计。模拟和真实世界的数据进行的实验表明,该方法的优势,以确定组,离群值,并提供信息的变量同时。
2017-09-28 stat.ME
A Doubled Adjacency Spectral Embedding Approach to Graph Clustering
University of Bath(巴斯大学)
本文提出双重邻接谱嵌入方法,以改进核心-外围网络结构的聚类性能,通过平方邻接矩阵提升稀疏网络的聚类效果,理论分析证明其在确定稀疏社区结构时具有良好的一致性。
2026-03-28 stat.ME
Distance-based clustering of sparsely observed stochastic processes, with applications to online auctions
我们提出了一个随机过程的两个实现之间的距离,其中每个实现只有稀疏和不规则间隔的测量与额外的测量误差。这种数据通常出现在纵向研究和在线交易数据中。然后,距离测量使得有可能对不规则采样的纵向数据应用基于距离的分析,例如分类、聚类和多维缩放。一旦一个合适的距离测量稀疏采样的纵向轨迹已被发现,我们应用基于距离的聚类方法易趣在线拍卖数据。我们确定了六个不同的集群投标模式。发现这些出价模式中的每一个都与以合理价格获得拍卖物品的特定机会相关联。
2008-11-17 stat.AP stat.ME
Identification of relevant subtypes via preweighted sparse clustering
Harvard University(哈佛大学);University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
聚类分析方法用于识别数据集中的同质子组。在生物医学应用中,人们经常使用聚类分析来识别生物学上感兴趣的亚组。特别地,人们可能希望识别与特定的感兴趣的结果相关联的子组。传统的聚类方法通常不能识别这样的子组,特别是当数据集中有大量的高方差特征时。当希望获得生物学上更有趣或与特定感兴趣结果更强相关的次级聚类时,常规方法可以识别与这些高方差特征相关联的聚类。稀疏聚类的修改可以用于识别这样的次级聚类或与感兴趣的结果相关联的聚类。这种方法正确地识别在几个模拟场景中感兴趣的集群。该方法也适用于颞下颌关节紊乱病和白血病微阵列数据集的大型前瞻性队列研究。
2016-09-21 cs.LG q-bio.QM stat.AP
Discriminative variable selection for clustering with the sparse Fisher-EM algorithm
最近,由于对高维数据聚类的需求越来越大,对聚类变量选择的兴趣也越来越大。变量的选择特别允许简化聚类和结果的解释。现有的方法已经证明了聚类变量选择的效率,但结果要么是非常耗时或不够稀疏,在高维空间。这项工作提出了通过在Fisher-期望最大化算法的加载矩阵中引入稀疏性来执行鉴别变量的选择。这种聚类方法最近已被提出的同时可视化和聚类的高维数据。它是基于一个潜在的混合模型,适合的数据到一个低维的判别子空间。在这项工作中,提出了三种不同的方法,通过$\ell_{1}$型惩罚引入稀疏的判别子空间的方向矩阵。模拟和真实世界的数据集与现有方法的实验比较表明,所提出的方法的兴趣。应用程序的分割的高光谱图像的行星火星。
2012-04-10 math.ST stat.ME stat.TH
Model-based Clustering with Sparse Covariance Matrices
有限高斯混合模型被广泛用于连续数据的基于模型的聚类。然而,由于模型参数的数量与变量的数量成二次方关系,这些模型很容易被过度参数化。为此,通过协方差阵分解或假设局部独立性,开发了简约模型。然而,这些补救措施不允许稀疏协方差阵的直接估计,也没有考虑到变量之间的关联结构可以从一个集群到另一个集群而变化。为此,我们引入混合高斯协方差图模型的基于模型的聚类稀疏协方差阵。一个惩罚似然估计的方法和一般的惩罚项的图形配置可以用来诱导不同程度的稀疏性,并结合先验知识。模型估计进行使用结构-期望最大化算法的参数和图形结构估计,其中两种替代策略的基础上的遗传算法和一个有效的逐步搜索提出的推理。该方法直接得到稀疏分量的协方差阵。该框架通过变量组内联合分布的灵活模型,对数据进行简约的基于模型的聚类。大量的模拟数据实验和示例数据集的应用表明,该方法获得了良好的分类性能和模型质量。
2018-09-23 stat.CO stat.ME
Spectral Clustering for Multiple Sparse Networks: I
虽然网络统计工作的重点一直是静态网络,但多个网络目前在网络数据集中变得越来越普遍。通常,多个网络数据集彼此之间共享某种形式的连接,称为多层或多层网络。我们考虑的问题,确定多个网络的共同社区结构。我们考虑扩展的谱聚类方法的多个稀疏网络,并给出理论保证,谱聚类方法产生一致的社区检测的情况下,多个随机块模型和多个度校正块模型。所示的方法工作在足够温和的条件下的多个网络的数量来检测关联的社区结构,即使所有的个人网络是稀疏的,大多数的个人网络低于社区检测阈值。我们也通过模拟加强了理论结果的有效性。
2018-05-27 cs.SI math.ST stat.ME
Sparse Bayesian Hierarchical Modeling of High-dimensional Clustering Problems
聚类是微阵列数据分析中最广泛使用的程序之一,例如其目的是基于观察到的不同组织之间遗传标记的异质性来发现癌症亚型。众所周知,在这样的高维环境中,许多噪声变量的存在可以压倒嵌入在高维空间中的少数信号。我们提出了一种新的贝叶斯方法的基础上的Dirichlet过程与稀疏事先,同时进行变量选择和聚类,也发现变量,只区分一个子集的集群组件。与以往的贝叶斯公式,我们使用狄利克雷过程(DP)的样本聚类以及正则化的高维均值/方差结构。为了解决这种双重使用DP带来的计算挑战,我们建议使用嵌入在马尔可夫链蒙特卡罗(MCMC)更新的顺序采样方案,以改善现有算法的DP混合模型的天真实现。我们的方法被证明在一个模拟研究和说明与白血病基因表达数据集。
2009-04-19 stat.CO stat.ME
Correlated variables in regression: clustering and sparse estimation
考虑变量强相关的高维线性模型中的估计问题。我们建议首先对变量进行聚类,然后进行后续的稀疏估计,例如聚类代表的Lasso或基于聚类结构的Lasso组。关于第一步,我们提出了一种新的和自下而上的凝聚聚类算法的基础上典型的相关性,我们发现,它找到了一个最佳的解决方案,是统计上一致的。我们还提出了一些理论论据,典型相关的聚类导致一个更好的设计矩阵,确保可识别性和一个预言不等式组拉索的相容常数。此外,我们讨论的情况下,集群的代表和使用Lasso作为后续估计导致改进的结果预测和检测的变量。我们补充了各种实证结果的理论分析。
2012-09-26 math.ST stat.ME stat.TH
A Sparse Factor Model for Clustering High-Dimensional Longitudinal Data
本文提出一种基于稀疏因子模型的贝叶斯非参数混合方法,通过在潜在因子层面进行聚类并利用Dirichlet过程先验估计簇数,有效解决了高维混合类型纵向数据的聚类难题。
2023-11-24 stat.AP stat.ME