Non-parametric online market regime detection and regime clustering for multidimensional and path-dependent data structures
提出基于最大均值差异和粗糙路径特征的非参数在线市场状态检测与聚类方法，适用于多维及路径依赖数据，能快速准确识别市场动荡时期。
2023-06-27 q-fin.MF stat.ML
Dimensionality Reduction for $k$-means Clustering
我们提出了一个研究如何有效地降低维度的$k$ -均值聚类问题，从而获得可证明准确的近似。四个算法，两个\textit{feature selection}和两个基于\textit{feature extraction}的算法，所有这些都是随机的。
2020-07-26 cs.LG stat.ML
Unsupervised Learning: Comparative Analysis of Clustering Techniques on High-Dimensional Data
本研究针对高维数据聚类问题，提出结合多种降维技术与量化指标的评估框架，对比三类主流聚类算法，发现UMAP预处理可提升聚类质量，且不同算法各有适配场景，为高维数据聚类技术选型提供系统方法。
2025-07-30 cs.LG stat.ML
Branching embedding: A heuristic dimensionality reduction algorithm based on hierarchical clustering
University of Toyama（富山大学）；Institute of Natural Medicine, University of Toyama, Japan（富山大学自然医学研究所）
本文提出了一种新的降维算法-分支嵌入（BE）。它将树状图转换为二维散点图，并可视化原始高维数据的固有结构。由于转换部分在计算上要求不高，因此BE算法对于已经执行了分层聚类的情况将是有益的。数值实验表明，该算法的输出适度地保持了原有的层次结构。
2018-05-06 cs.LG stat.ML
Links: A High-Dimensional Online Clustering Method
Google Inc.（谷歌公司）；Carnegie Mellon University（卡内基梅隆大学）
我们提出了一种新的算法，称为链接，旨在进行在线聚类的单位向量在高维欧氏空间。该算法是适当的，当它是必要的，以有效地聚类数据流，并与传统的批量聚类算法，可以访问所有的数据在一次。例如，Links已成功应用于嵌入从人脸图像或语音记录生成的向量，以识别人，从而在视频或音频捕获期间提供实时识别。
2018-01-30 cs.LG stat.ML
Deep Clustering Evaluation: How to Validate Internal Clustering Validation Measures
University of Kentucky（肯塔基大学）
本文针对深度聚类评估中传统内部聚类验证指标的问题，提出一套系统评估框架，通过理论分析、识别可靠嵌入空间及加权评分，减少不当使用指标的误导，提升与外部指标的一致性。
2026-08-25 cs.LG stat.ML
On Deterministic Conditions for Subspace Clustering under Missing Data
Purdue University（普渡大学）；Tufts University（塔夫茨大学）
在本文中，我们提出了确定性条件下的稀疏子空间聚类（SSC）的成功缺失的数据，当数据被假定为来自一个联盟的子空间（UoS）模型。我们考虑两种算法，这是SSC的变体与条目式零填充，不同的优化问题，用于找到亲和矩阵谱聚类。对于这两种算法，我们提供了确定性的条件，任何模式的缺失数据，这样可以实现完美的聚类。我们提供了大量的模拟结果，聚类以及在缺失条目的数据完成，根据UoS模型。我们的实验结果表明，在对比完整的数据情况下，准确的聚类并不意味着准确的子空间识别和完成，表明这些问题的相对硬度的自然顺序。
2016-07-11 cs.IT cs.LG math.IT
Hierarchical mixtures of Gaussians for combined dimensionality reduction and clustering
University of Tübingen（图宾根大学）
本研究提出分层高斯混合模型HMoGs，将降维与聚类统一为单个概率模型，通过新型指数族参数化降低计算复杂度，在合成数据和MNIST上验证了联合优化的性能提升，兼具统计严谨性与可解释性。
2025-07-29 cs.LG stat.ML
Scalable Bottom-up Subspace Clustering using FP-Trees for High Dimensional Data
The University of Melbourne（墨尔本大学）；Deakin University（迪肯大学）；Data61, CSIRO（联邦科学与工业研究组织Data61）
子空间聚类的目的是从高维数据集中找到存在于低维子空间中的相似对象组（聚类）。它具有广泛的应用，例如分析高维传感器数据或DNA序列。然而，现有的算法在发现非不相交子空间中的聚类和扩展到大数据方面存在局限性，这影响了它们在生物信息学和物联网等领域的适用性。我们的目标是解决这样的限制，提出了一个子空间聚类算法使用自自底向上的【形】的策略。我们的算法首先在低维子空间中搜索基簇。然后，它使用这些基础集群，我们制定为一个频繁模式挖掘问题，在高维子空间中形成集群。这个公式可以有效地搜索高维子空间中的聚类，这是使用FP树完成的。所提出的算法进行评估，对传统的自自底向上的【形】的聚类算法和国家的最先进的子空间聚类算法。实验结果表明，该算法产生的聚类具有较高的准确性，并能很好地扩展到大数据量。我们还展示了算法的性能，使用现实生活中的数据，包括十个基因组数据集和一个停车场占用数据集。
2018-11-07 cs.LG stat.ML
Denoising individual bias for a fairer binary submatrix detection
Purdue University（普渡大学）；Amazon（亚马逊）；Indiana University（印第安纳大学）
二进制矩阵的低秩表示在稀疏个体属性关联的分解方面具有很强的能力，得到了广泛的应用。现有的二进制矩阵分解（BMF）或共聚类（CC）方法通常假设独立同分布的背景噪声。然而，这一假设在实际数据中很容易被违反，其中二进制条目的异构行或列概率导致不同的元素背景分布，并使现有方法的合理性瘫痪。我们提出了一个二进制数据去噪框架，即BIND，通过估计模式和不同背景的行或列混合分布，并消除更可能来自背景的二进制属性，优化了真实模式的检测。BIND由行和列混合分布的完全导出的数学性质支持。我们对合成数据和真实数据的实验表明，BIND有效地去除了背景噪声，并大大提高了最先进的BMF和CC方法的公平性和准确性。
2020-08-09 cs.LG stat.ML
SDCOR: Scalable Density-based Clustering for Local Outlier Detection in Massive-Scale Datasets
Amirkabir University of Technology（阿米拉比尔理工大学）；University of Twente（特温特大学）；ICAR-CNR（意大利国家研究委员会计算与高性能网络研究所）
本文提出了一种基于密度的批量聚类方法，用于大规模数据集的局部离群点检测。与传统算法不同的是，传统算法假设所有的数据都是内存驻留的，我们提出的方法是可扩展的，并在有限的内存缓冲区内逐块处理输入数据。首先建立临时聚类模型，然后通过分析点的连续内存负载来逐步更新聚类模型。随后，在可扩展聚类结束时，获得原始聚类的近似结构。最后，通过对整个数据集的另一次扫描并使用合适的标准，为每个对象分配一个离群分数，称为SDCOR（可扩展的基于密度的聚类离群率）。在真实数据集和人工数据集上的测试表明，该方法具有较低的线性时间复杂度，与传统的基于密度的方法相比，具有更高的效率和有效性，传统的基于密度的方法需要将所有数据加载到内存中，而基于距离的方法可以对驻留在磁盘上的数据执行。
2021-07-05 cs.LG stat.ML
Efficient mixture model for clustering of sparse high dimensional binary data
Jagiellonian University（雅盖隆大学）
在本文中，我们提出了一个混合模型，SparseMix，稀疏高维二进制数据的聚类，它连接基于模型的聚类和基于质心。每个组由一个代表和一个概率分布模型离这个代表的距离来描述。与基于EM算法的经典混合模型相比，SparseMix：-是专门为处理稀疏数据而设计的，-可以通过在线Hartigan优化算法有效地实现，-能够自动减少不必要的聚类。我们对各种类型的数据进行了广泛的实验研究，这证实了SparseMix构建的分区与相关方法相比具有更高的参考分组兼容性。此外，构造的代表往往更好地揭示数据的内部结构。
2017-07-11 cs.LG stat.ML
Latent Simplex Position Model: High Dimensional Multi-view Clustering with Uncertainty Quantification
University of Florida（佛罗里达大学）
高维数据通常包含多个方面，并且多个聚类模式可以在不同的变量子空间（也称为视图）下共存。虽然多视图聚类算法的提出，不确定性量化仍然是困难的-一个特殊的挑战是在估计每个视图下的聚类分配概率的高复杂性，并在视图之间共享信息。在这篇文章中，我们提出了一种近似贝叶斯方法-将在视图上生成的相似性矩阵作为共同分配概率的粗略第一阶段估计;在其Kullback-Leibler邻域中，我们获得了一个改进的低秩矩阵，由单纯形坐标的成对乘积形成。有趣的是，每个单纯形坐标直接编码聚类分配的不确定性。对于多视图聚类，我们让每个视图从几个候选者中提取一个参数化，从而实现降维。由于模型灵活性高，估计可以有效地作为一个连续的优化问题进行，因此享有基于梯度的计算。该理论将该模型与多视图下的随机分区分布建立了联系。与单视图聚类方法相比，当使用高维基因表达数据对来自人类创伤性脑损伤研究的大脑进行聚类时，获得了更多可解释的结果。关键词：协正则化聚类，一致性，PAC-Bayes，随机聚类图，变量选择
2019-10-07 cs.LG stat.ML
Skeleton Clustering: Dimension-Free Density-based Clustering
University of Washington（华盛顿大学）
我们介绍了一种基于密度的聚类方法，称为骨架聚类，可以检测多变量，甚至高维数据的不规则形状的集群。为了绕过维数灾难，我们提出了替代密度的措施，是不太依赖于尺寸，但有直观的几何解释。作为中间步骤，聚类框架构建了给定数据的简洁表示，可以认为是原型方法，基于密度的聚类和层次聚类的组合。我们通过理论分析和实证研究表明，骨架聚类导致可靠的集群在多元和高维的场景。
2023-01-18 cs.LG stat.ME stat.ML
ALPCAHUS: Subspace Clustering for Heteroscedastic Data
University of Michigan（密歇根大学）
ALPCAHUS是一种用于异方差数据的子空间聚类方法，通过估计样本级噪声方差来改进子空间基的估计，提升聚类效果。
2026-09-22 cs.LG eess.SP stat.ML
Grapevine: A Wine Prediction Algorithm Using Multi-dimensional Clustering Methods
Stanford University（斯坦福大学）
我们提出了一种方法，采用多维聚类和无监督学习方法的葡萄酒推荐系统。我们的算法首先对一个大型的葡萄酒评论语料库进行聚类。然后，它使用产生的葡萄酒集群作为最常见口味的近似值，通过优化用户偏好的集群内的价格质量比来向用户推荐葡萄酒。
2018-06-29 cs.IR cs.LG stat.ML
Subspace clustering of high-dimensional data: a predictive approach
在几个应用领域中，收集高维观测，然后进行分析，以寻找自然发生的数据集群，这可能会提供有关问题性质的进一步见解。在本文中，我们描述了一种新的方法来划分这样的高维数据。我们的假设是，在每个聚类中，数据可以很好地近似通过主成分分析（PCA）估计的线性子空间。所提出的算法，预测子空间聚类（PSC）分区的数据到集群，同时估计聚类PCA参数。该算法最小化的目标函数，这取决于一个新的措施的影响PCA模型。一个惩罚版本的算法进行我们的同时子空间聚类和变量选择。PSC的收敛性进行了详细讨论，并提出了广泛的模拟结果和竞争的方法进行比较。PSC的比较性能已经在PSC通常提供最新结果的六个真实基因表达数据集上进行了评估。
2012-03-05 stat.ML
Fuzzy clustering of distribution-valued data using adaptive L2 Wasserstein distances
分布（或分布值）数据是一种新类型的数据，来自多个来源，被认为是分布变量的实现。提出了一种新的模糊c-均值算法。该算法使用分布之间的$L2$瓦瑟斯坦距离作为相异性度量。除了扩展的模糊c-均值算法的分布数据，并考虑到分解的平方$L2$瓦瑟斯坦距离，我们提出了一套算法，使用不同的自动方式来计算与变量以及与它们的组件，全球或集群明智的权重。在聚类过程中引入产品对一的约束，计算相关权重。相关性权重引入自适应距离，表达聚类过程中每个变量或每个分量的重要性，也可以作为聚类中的变量选择方法。我们已经测试了人工和真实世界的数据所提出的算法。结果证实，所提出的方法是能够更好地考虑到相对于标准的模糊c-均值，与非自适应距离的数据的聚类结构。
2016-05-02 stat.ML
CCP: Correlated Clustering and Projection for Dimensionality Reduction
Michigan State University（密歇根州立大学）
大多数降维方法采用从矩阵对角化获得的频域表示，并且对于具有相对高的内在维度的大型数据集可能不是有效的。为了应对这一挑战，相关聚类和投影（CCP）提供了一种新的数据域策略，不需要求解任何矩阵。CCP将高维特征划分为相关的簇，然后基于样本相关性将每个簇中的相关特征投影到一维表示中。残差相似性（R-S）分数和指数，黎曼流形中的数据形状，以及基于代数拓扑的持久拉普拉斯算子被引入可视化和分析。所提出的方法与基准数据集与各种机器学习算法进行了验证。
2022-06-08 cs.CG cs.LG stat.ML
Dimensionality-reduced subspace clustering
ETH Zurich（苏黎世联邦理工学院）；IBM Research（IBM研究院）
子空间聚类是指将未标记的高维数据点聚类到低维线性子空间的并集中，这些线性子空间的数量、方向和维度都是未知的。在实践中，人们可以仅访问数据的降维观测，从而产生例如，避免由于采集设备或机制的复杂性和速度限制而导致的欠采样。更恰当地说，即使高维数据集可用，通常也希望首先将数据点投影到低维空间中并在那里执行聚类;这降低了存储要求和计算成本。本文的目的是量化的影响，通过随机投影的子空间聚类算法的性能，所有这些都是基于稀疏信号恢复的原则，通过降维。具体来说，我们分析了基于阈值的子空间聚类（TSC）算法，稀疏子空间聚类（SSC）算法，和正交匹配追踪的变体（SSC-OMP）。我们发现，对于所有三种算法，降维到子空间维度的顺序是可能的，而不会导致显着的性能下降。此外，这些结果是有序的最优的意义上说，降低维数进一步导致从根本上不适定的聚类问题。我们的研究结果进行到嘈杂的情况下，通过分析结果所示的TSC和模拟SSC和SSC-OMP。合成和真实数据的广泛实验补充了我们的理论研究结果。
2015-12-13 cs.IT cs.LG math.IT
A Probabilistic $\ell_1$ Method for Clustering High Dimensional Data
Princeton University（普林斯顿大学）；Rutgers University（罗格斯大学）
一般来说，聚类问题是NP难的，并且对于非平凡的实例不能建立全局最优性。对于高维数据，基于距离的聚类或分类方法面临着额外的困难，即在非常高维的空间中距离的不可靠性。我们提出了一个基于距离的迭代法聚类数据在非常高维的空间，使用$\ell_1$度量，是不太敏感的高维比欧几里德距离。对于$\mathbb{R}^n$中的$K$簇，问题分解为通过概率耦合的$K$问题，并且迭代简化为寻找线上的点的$Kn$加权中值。该算法的复杂度与数据空间的维数成线性关系，并且随着维数的增加，其性能有明显的提高。
2016-04-22 cs.LG math.OC math.ST
AdaTrans: Feature-wise and Sample-wise Adaptive Transfer Learning for High-dimensional Regression
Pennsylvania State University（宾夕法尼亚州立大学）；Xiamen University（厦门大学）
本文提出AdaTrans自适应迁移学习方法，通过融合惩罚和自适应权重在高维回归中检测特征级或样本级可迁移结构，实现选择性信息融合并达到接近oracle的收敛速率。
2024-11-25 cs.LG math.ST stat.ME
Feature Selection For High-Dimensional Clustering
我们提出了一个非参数的方法来选择高维聚类问题中的信息功能。我们从使用多模态测试的筛选步骤开始。然后，我们应用核密度估计和模式聚类的选择功能。该方法的输出包括相关特征的列表和聚类分配。我们提供明确的界限上的差错率的聚类结果。此外，我们提供了第一个误差界的模式为基础的聚类。
2014-06-09 math.ST stat.ML stat.TH
Application of Fuzzy Clustering for Text Data Dimensionality Reduction
College of Information and Communications University of South Carolina（南卡罗来纳大学信息与通信学院）；Arnold School of Public Health at the University of South Carolina（南卡罗来纳大学阿诺德公共卫生学院）
大型文本语料库通常由文档-术语频率矩阵表示，该矩阵的元素是术语的频率，然而，该矩阵存在两个问题：稀疏性和高维性。四个降维策略被用来解决这些问题。在这四种策略中，无监督特征变换（UFT）是一种流行且有效的策略，可以将术语映射到文档-术语频率矩阵中的新基础。虽然已经开发了几种基于UFT的方法，但模糊聚类尚未被考虑用于降维。本研究探讨模糊聚类作为一种新的UFT为基础的方法来创建一个低维表示的文件。模糊聚类与不使用全局加权方法的性能超过主成分分析和奇异值分解。本研究亦探讨应用不同模糊因子值对模糊聚类降维的影响。
2019-09-21 cs.CL cs.LG stat.AP
Subspace clustering of dimensionality-reduced data
子空间聚类是指将未标记的高维数据点聚类到低维线性子空间的并集中的问题，假设未知。在实践中，人们可以仅访问数据的降维观测，从而产生例如，避免由于采集设备的复杂性和速度限制而导致的“欠采样”。更恰当地说，即使可以访问高维数据集，也通常希望首先将数据点投影到低维空间中并在那里执行聚类任务;这降低了存储需求和计算成本。本文的目的是量化的影响降维通过随机投影的稀疏子空间聚类（SSC）和基于阈值的子空间聚类（TSC）算法的性能。我们发现，这两种算法的降维到子空间维度的顺序是可能的，而不会导致显着的性能下降。我们的定理背后的数学引擎是一个结果，量化子空间之间的亲和力如何在随机降维投影下变化。
2014-04-27 cs.IT math.IT stat.ML
Model Based Clustering of High-Dimensional Binary Data
我们提出了一种混合的潜在性状模型与共同的斜率参数（MCLT）的基于模型的聚类的高维二进制数据，一个数据类型，很少建立的方法存在。最近的工作聚类的二进制数据，基于一个$d$维高斯潜变量，通过将公因子分析扩展。因此，我们的方法有利于集群的低维视觉表示。我们通过引入随机区组效应进一步扩展了模型。通过被认为是随机变量的块特定参数来考虑每个块中的依赖性。一个变分近似的可能性，利用推导出一个快速算法，用于确定模型参数。我们的方法证明了真实和模拟数据。
2014-04-27 stat.CO stat.ME stat.ML
Minimax-Optimal Spectral Clustering with Covariance Projection for High-Dimensional Anisotropic Mixtures
Department of Statistics, Columbia University（哥伦比亚大学统计学系）
本文提出了一种基于协方差投影的谱聚类方法，以应对高维各向异性混合物中的复杂噪声结构，通过改进的重新分配步骤和理论分析，实现了最小最大最优的聚类性能。
2026-01-26 math.ST stat.ME stat.ML
