Inference on covariance operators via concentration inequalities: k-sample tests, classification, and clustering via Rademacher complexities
提出了一种利用集中不等式分析协方差算子的新方法。首先,非渐近置信集构造这样的运营商。然后,随后的应用程序,包括一个k样本测试的协方差相等,一个功能数据分类器,和一个期望最大化风格的聚类算法推导和测试模拟和音素数据。
2016-04-21 math.ST stat.ME stat.TH
Model-based clustering for covariance matrices via penalized Wishart mixture models
本文提出稀疏Wishart混合模型,通过对分量尺度矩阵施加协方差图lasso惩罚实现高维协方差矩阵聚类,并在神经影像数据上验证了其有效性。
2024-08-30 stat.ME
Model-based Clustering with Sparse Covariance Matrices
有限高斯混合模型被广泛用于连续数据的基于模型的聚类。然而,由于模型参数的数量与变量的数量成二次方关系,这些模型很容易被过度参数化。为此,通过协方差阵分解或假设局部独立性,开发了简约模型。然而,这些补救措施不允许稀疏协方差阵的直接估计,也没有考虑到变量之间的关联结构可以从一个集群到另一个集群而变化。为此,我们引入混合高斯协方差图模型的基于模型的聚类稀疏协方差阵。一个惩罚似然估计的方法和一般的惩罚项的图形配置可以用来诱导不同程度的稀疏性,并结合先验知识。模型估计进行使用结构-期望最大化算法的参数和图形结构估计,其中两种替代策略的基础上的遗传算法和一个有效的逐步搜索提出的推理。该方法直接得到稀疏分量的协方差阵。该框架通过变量组内联合分布的灵活模型,对数据进行简约的基于模型的聚类。大量的模拟数据实验和示例数据集的应用表明,该方法获得了良好的分类性能和模型质量。
2018-09-23 stat.CO stat.ME
Cluster Analysis on Locally Asymptotically Self-similar Processes with Known Number of Clusters
Claremont Graduate University(克莱蒙特研究生大学)
本文对一类局部渐近自相似随机过程进行聚类分析,其中多重分数布朗运动就是其中的代表。在已知真实聚类数的情况下,引入了一种新的基于协方差的相异性测度,并由此得到了近似渐近相容的聚类算法。在模拟研究中,聚类数据采样从多分数布朗运动与不同的功能赫斯特参数说明了所提出的算法的近似渐近一致性。聚集全球金融市场的股票指数回报和主权CDS利差提供了一个成功的现实世界的应用。
2020-01-14 cs.LG stat.ML
Minimax-Optimal Spectral Clustering with Covariance Projection for High-Dimensional Anisotropic Mixtures
Department of Statistics, Columbia University(哥伦比亚大学统计学系)
本文提出了一种基于协方差投影的谱聚类方法,以应对高维各向异性混合物中的复杂噪声结构,通过改进的重新分配步骤和理论分析,实现了最小最大最优的聚类性能。
2026-01-26 math.ST stat.ME stat.ML
Model-based bi-clustering using multivariate Poisson-lognormal with general block-diagonal covariance matrix and its applications
本文提出基于多元泊松-对数正态模型和块对角协方差矩阵的双聚类方法,支持列簇数跨组固定或变化,通过变分高斯近似估计参数,并在模拟数据和乳腺癌RNA测序数据上验证了准确性与计算效率。
2025-03-11 stat.AP stat.ME
Spectral clustering of network time series via the sample covariance matrix
University of California, Los Angeles(加州大学洛杉矶分校);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Imperial College London(帝国理工学院)
本文针对依赖结构由未观测随机块模型决定的多变量时间序列,提出基于样本协方差矩阵的谱聚类方法,实现了潜在社区的精确恢复,其理论扩展了矩阵扰动理论至依赖数据场景。
2026-08-05 math.ST stat.ME stat.TH
Improving Model Choice in Classification: An Approach Based on Clustering of Covariance Matrices
本文通过按谱相似准则聚类协方差矩阵并改进 CEM 算法,在十四种经典简约高斯混合模型之间引入中间模型,以减少参数并增强可解释性。
2024-02-15 stat.CO stat.ME
Selective Inference for Clustering Under Unknown Covariance
Johns Hopkins University(约翰斯·霍普金斯大学);University of Waterloo(滑铁卢大学)
针对未知协方差下聚类后均值检验的一类错误率膨胀问题,提出无需估计协方差矩阵的选择性检验,可高效计算并在模拟及真实数据集上验证了其有效性。
2026-10-14 cs.LG stat.AP stat.ME
On the Persistence of Clustering Solutions and True Number of Clusters in a Dataset
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Michigan, Ann Arbor(密歇根大学安娜堡分校)
通常,聚类算法提供具有预先指定的聚类数目的聚类解决方案。由于缺乏对数据集中底层聚类的真实数量的先验知识,因此重要的是要有一个度量来比较具有不同数量聚类的聚类解决方案。本文量化了集群解决方案的持久性概念,可以比较具有不同数量集群的解决方案。持久性涉及的范围内的数据分辨率尺度的聚类解决方案持续存在,它是量化的最大值超过两个范数的所有相关的集群协方差矩阵。因此,我们将一组聚类解决方案中的每个元素的持久性值与不同数量的聚类相关联。我们表明,自然集群是先验已知的数据集,识别自然集群的聚类解决方案是最持久的-以这种方式,这个概念可以用来识别解决方案的真正数量的集群。在多种标准数据集和人工数据集上的实验表明,该指标在准确识别具有真实聚类数的聚类解方面优于现有的方法,如间隙统计方法、$X$-均值、$G$ -均值、$PG$ -均值、dip-means算法和信息论方法.有趣的是,我们的方法可以解释在确定性退火算法中的相变现象,其中不同的集群中心的数量相对于退火参数的变化(分叉)。
2018-11-16 cs.AI cs.LG stat.ML
Gaussian Parsimonious Clustering Models with Covariates and a Noise Component
我们考虑基于模型的聚类方法的连续,相关的数据,占外部信息的混合型固定协变量的存在下,提出了MoEClust套件的模型。这些模型允许协变量的不同子集通过将混合物的参数建模为协变量的函数来影响组分重量和/或组分密度。一个熟悉的范围内的约束特征分解参数的组件协方差阵也容纳。因此,本文讨论了等价的目标,包括协变量的高斯简约聚类模型,并将简约协方差结构的高斯混合专家框架的所有特殊情况下。MoEClust模型在单变量和多变量数据集的应用中从这两个角度都表现出显着的改进。新的扩展,包括一个统一的噪声组件捕获离群值,并解决期望最大化算法的初始化,模型选择,和可视化的结果也提出了。
2021-07-13 stat.ME
On clustering financial time series: a need for distances between dependent random variables
以下工作文件总结了我们在金融时间序列分组方面的工作。它是为一个关于信息几何及其在图像和信号处理中的应用的研讨会而写的。这次研讨会汇集了几位纯数学和应用数学专家以及来自医学成像、雷达信号处理和金融的应用研究人员。提交人属于后一类。本文档是一个很长的介绍,介绍了几何工具在金融应用中的进一步发展,如风险或投资组合分析。事实上,风险和投资组合分析基本上依赖于协方差矩阵。除了已知高斯假设是不准确的之外,协方差矩阵很难从经验数据中估计。为了从经验估计中滤除噪声,Mantegna提出使用分层聚类。在这项工作中,我们首先表明,这一过程是统计上一致的。然后,我们建议使用聚类与更广泛的应用比过滤的经验协方差矩阵的估计相关系数。为了做到这一点,我们需要获得金融时间序列之间的距离,这些时间序列包含了这些交叉依赖随机过程中的所有可用信息。
2016-03-25 q-fin.ST stat.ME
Spatial Covariance Constraints for Gaussian Mixture Models
University of British Columbia Okanagan Campus(不列颠哥伦比亚大学奥肯那根校区)
本文提出了一种高斯混合模型的空间协方差约束方法,通过减少自由参数数量提升模型效率,并通过模拟和实验验证其有效性。
2026-01-12 stat.ME stat.ML
Dynamic Large Spatial Covariance Matrix Estimation in Application to Semiparametric Model Construction via Variable Clustering: the SCE approach
为了更好地理解大型经济和金融时间序列面板的空间结构,并为构建半参数模型提供指导,本文首先考虑估计广义$m$依赖和$β$混合时间序列的大空间协方差阵(使用$J$变量和$T$观测)通过硬阈值正则化,只要${\log J \, \cx^*(\ct)}/{T} = \Co(1)$(前一个方案具有一些时间依赖性测度$\cx^*(\ct)$)或$\log J /{T} = \Co(1)$(后一个方案具有一些上界混合系数)。我们量化的估计的一致性率和时间依赖水平之间的相互作用,讨论了一个直观的resternation方案的阈值选择,并证明了一般的交叉验证结果证明这一点。给定一个一致估计的协方差(相关性)矩阵,利用其与图形模型和半参数的自然联系,在“筛选”解释变量后,我们实现了一种新的前向(和后向)标签置换过程来聚类“相关”变量并构建相应的半参数模型,并通过带符号约束的分组降维方法进一步估计半参数模型.我们称之为SCE(screen-cluster- estimate)方法来建模具有复杂空间结构的高维数据.最后,我们应用这种方法来研究大面板的经济和金融时间序列的空间结构,并找到适当的半参数结构估计消费者价格指数(CPI),以说明其优越性的线性模型。
2011-06-23 q-fin.RM q-fin.ST stat.ME
On structure testing for component covariance matrices of a high-dimensional mixture
通过研究$p$维尺度混合族,本文首次给出了一个非平凡的例子,其中相应的样本协方差阵的特征值分布{ \em不收敛}于著名的Marčenko-Pastur定律.一个不同的和新的限制被发现和特点。在这种情况下的Marčenko-Pastur极限失败的原因被发现是一个很强的依赖性之间的$p$ -坐标的混合物。接下来,我们解决的问题,测试混合是否有一个球形的协方差阵。为了分析传统的John型检验,我们建立了样本协方差阵特征值线性统计量的一种新的、通用的CLT。结果表明,约翰的测试和最近的高维扩展都失败的高维混合物,正是由于不同的频谱限制。作为补救,一个新的测试程序后,构造的球形假设。然后应用此检验来识别基于模型的聚类中的协方差结构。结果表明,在检测高维混合数据的非球形分量协方差阵时,该检验比目前广泛使用的ICL和BIC准则具有更高的功效。
2017-05-13 stat.ME
A tree-based kernel for densities and its applications in clustering DNase-seq profiles
Department of Statistics & Data Science Institute, University of Chicago(芝加哥大学统计与数据科学研究所);Department of Human Genetics, University of Chicago(芝加哥大学人类遗传学系)
本文提出一种非参数密度核,用于在分层框架中建模多重采样密度,以捕捉TF足迹的复杂空间依赖性,提升聚类准确性。
2026-05-15 stat.AP stat.ME
Reactive Global Minimum Variance Portfolios with $k-$BAHC covariance cleaning
我们引入了一个$k$倍提升版本的提升平均层次聚类相关和协方差矩阵的清理过程。然后,我们将此方法应用于全球最小方差投资组合的各种值的$k$和比较他们的表现与其他国家的最先进的方法。一般来说,我们发现,我们的方法产生更好的夏普比率后,交易成本比竞争过滤方法,尽管需要更大的营业额。
2023-03-09 math.OC q-fin.PM stat.ME
Model Assisted Variable Clustering: Minimax-optimal Recovery and Algorithms
基于模型的聚类定义了相对于嵌入相似性概念的模型的总体级别聚类。为这种模型量身定制的算法产生具有明确统计解释的估计聚类。我们在这里采取这种观点,并引入G块协方差模型作为变量聚类的背景模型。在这样的模型中,如果一个集群中的两个变量与所有其他变量具有相似的关联,则它们被认为是相似的。例如,当变量组是相同潜在因子的噪声破坏版本时,可能会出现这种情况。我们量化的困难,从一个G块协方差模型中产生的聚类数据的聚类接近度,测量两个相关的,但不同的,集群分离指标。我们推导出极大极小聚类分离阈值,这是度量值,低于该值没有算法可以准确地恢复模型定义的聚类,并表明它们是不同的两个度量。因此,我们开发了两种算法,COD和PECOK,量身定制的G块协方差模型,并研究他们的最小最优相对于每个指标。独立感兴趣的是,分析的PECOK算法,这是一个校正的凸松弛的流行的K-均值算法的基础上,提供了第一个统计分析的变量聚类算法。此外,我们对比我们的方法与另一种流行的聚类方法,谱聚类,专门变量聚类,并表明,通过这种方法确保准确的集群恢复需要集群有一个更高的分离,相对于极大极小阈值。广泛的模拟研究,以及我们的数据分析,证实了我们的方法的适用性。
2018-12-13 math.ST stat.ME stat.ML
Adaptive Functional Clustering with Structured Dependence via Variational Inference
Yonsei University(延世大学)
该研究针对现有函数聚类方法的局限性,提出一种结合狄利克雷过程先验、自适应平滑度控制与灵活协方差建模的自适应贝叶斯函数聚类方法,采用变分推断提升计算效率,用于处理带结构化曲线内依赖的函数数据聚类。
2026-09-01 stat.ME
Spatially Regularized Gaussian Mixtures for Clustering Spatial Transcriptomic Data
Department of Statistical Sciences, University of Padova(帕多瓦大学统计科学系)
本研究针对空间转录组基因聚类需求,提出基于高斯过程的空间正则化高斯混合建模框架,利用空间结构构建精度矩阵广义Cholesky分解,可识别不同细胞类型组织区域中具独特空间相关模式的基因簇。
2025-10-21 stat.AP stat.ME
A Family of Mixture Models for Biclustering
当\textit{a priori}没有已知的组结构时,双聚类用于同时聚类观测和变量。它正越来越多地用于生物信息学,文本分析等。以前,双聚类已经引入了基于模型的聚类框架,利用类似于混合因子分析器的结构。在这样的模型中,使用假定来自$N(\mathbf{0}, \mathbf{I})$的潜在变量$\mathbf{U}$对观测变量$\mathbf{X}$进行建模。通过对因子加载矩阵的条目施加约束为0和1,从而产生块对角协方差阵,从而引入变量的聚类。然而,这种方法过于严格,因为协方差阵的块中的非对角元素只能是1,这可能导致对复杂数据的不满意的模型拟合。这里,假设潜在变量$\mathbf{U}$来自$N(\mathbf{0}, \mathbf{T})$,其中$\mathbf{T}$是对角矩阵。这确保了协方差阵内的块矩阵中的非对角项是非零的并且不限于1。这导致了对复杂数据的卓越模型拟合。通过对协方差阵的分量施加约束来开发一系列模型。对于参数估计,使用交替期望条件最大化(AECM)算法。最后,使用模拟和真实数据集说明所提出的方法。
2020-09-10 stat.CO stat.ME
Post-clustering Inference under Dependence
本文扩展了Gao等人的聚类后推断理论框架,允许观测和特征间存在任意依赖结构,并针对层次凝聚聚类和k-means算法建立了协方差矩阵相容估计的充分条件。
2025-08-14 math.ST stat.AP stat.ME
Clustering of longitudinal curves via a penalized method and EM algorithm
本研究提出FWP纵向曲线聚类方法,结合EM与ADMM算法同时估计组结构等,支持纳入先验邻域信息,实验验证其性能优于现有方法且加入空间权重可进一步提升效果。
2023-06-13 stat.ME
Iterative Exploration-Driven Sparse SDP Clustering via Thompson Sampling
研究高维稀疏聚类问题,提出基于SDP松弛和汤普森采样的迭代探索驱动框架,通过鲁棒MMD置换检验评估特征效用,能自适应记忆并促进逃离局部最优,实验证明优于现有稀疏聚类方法。
2026-09-17 stat.ME
Stable Estimation of a Covariance Matrix Guided by Nuclear Norm Penalties
Rice University(莱斯大学);University of California, Los Angeles(加州大学洛杉矶分校)
本文提出一种稳定估计协方差矩阵的方法,通过核范数惩罚引导经典样本协方差估计器,证明其一致性和渐近有效性,适用于判别分析和EM聚类等场景。
2013-11-22 cs.NA math.NA stat.ME
Dimension reduction for model-based clustering
我们介绍了一个降维方法可视化的聚类结构从有限的混合高斯密度。关于降维子空间的信息从组均值的变化获得,并且取决于估计的混合模型,从组协方差的变化获得。所提出的方法旨在通过识别一组线性组合来降低维度,所述线性组合按相关特征值量化的重要性排序,所述特征捕获数据中包含的大部分聚类结构。然后可以将观测投影到这样的简化子空间上,从而提供有助于可视化聚类结构的摘要图。这些图在高维数据和噪声结构的情况下特别有吸引力。新构造的变量捕获了数据中可用的大部分聚类信息,并且可以进一步减少它们以提高聚类性能。我们说明了模拟和真实数据集的方法。
2015-08-07 stat.ME stat.ML
Jointly Modeling and Clustering Tensors in High Dimensions
本文提出一种高维张量混合模型及HECM算法,利用低秩均值和可分离协方差进行降维,并证明其几何收敛性,在实验中取得优于基准方法的聚类精度。
2024-11-20 math.ST stat.ME stat.ML
Optimal Variable Clustering for High-Dimensional Matrix Valued Data
Cornell University(康奈尔大学);TikTok
针对高维矩阵值数据,本文提出基于潜变量模型和加权协方差差分的层次变量聚类方法,证明其一致性并给出极小极大最优权重。
2023-12-06 cs.LG math.ST stat.ME