A Hybrid Algorithm Based Robust Big Data Clustering for Solving Unhealthy Initialization, Dynamic Centroid Selection and Empty clustering Problems with Analysis
World University of Bangladesh (WUB)（孟加拉世界大学）
大数据是大量的结构化和非结构化数据，这些数据太大，而且很难使用传统技术进行处理。聚类算法已经发展成为一种强大的学习工具，可以准确地分析现代应用程序产生的数据量。数据采掘中的聚类是根据对象的特征对特定对象集进行分组。聚类的主要目的是根据相似性和特征将数据分类到簇中，使得对象在对应时被分组到相同的簇中。到目前为止，K-MEANS是在大范围的区域中连接的最佳利用的计算，以识别聚类分离比聚集分离之间的分离大的聚集。我们开发的算法与K-MEANS一起工作，在大数据聚类过程中进行高质量的聚类。我们提出的算法EG K-MEANS：扩展生成K-MEANS主要解决了K-MEANS的三个问题：不健康的初始化、动态重心选择和空聚类。它保证了防止不健康的初始化，动态质心选择和空聚类问题的最佳方法，以获得高质量的聚类。
2020-02-21 cs.AI cs.LG
Simple, Scalable, and Stable Variational Deep Clustering
King Digital Entertainment, Activision Blizzard Group（动视暴雪集团King数字娱乐公司）；Uppsala University（乌普萨拉大学）
深度聚类（DC）已经成为无监督聚类的最新技术。原则上，DC代表了各种无监督方法，这些方法直接从非结构化数据集中联合学习底层聚类和潜在表示。然而，DC方法通常由于操作成本高、可扩展性低和结果不稳定而应用不佳。在本文中，我们首先使用八个经验标准在工业适用性的背景下评估几个流行的DC变体。然后，我们选择专注于变分深度聚类（VDC）方法，因为它们大多符合这些标准，除了简单性，可扩展性和稳定性。为了解决这三个未满足的标准，我们介绍了四个通用算法的改进：初始$γ$ -训练，定期$β$ -退火，小批量GMM（高斯混合模型）初始化，和逆最小最大变换。我们还提出了一种新的聚类算法S3 VDC（简单，可扩展，稳定的VDC），结合所有这些改进。我们的实验表明，S3 VDC在基准任务和大型非结构化工业数据集上都优于最先进的技术，而没有任何地面真实标签。此外，我们分析评估的可用性和可解释性的S3 VDC。
2020-05-21 cs.LG stat.ML
Provably noise-robust, regularised $k$-means clustering
University of Waterloo（滑铁卢大学）
我们考虑在噪声存在下的聚类问题。也就是说，当在簇结构的顶部时，数据还包含\emph{unstructured}点的子集。我们的目标是检测的集群，尽管存在许多非结构化的点。任何实现这一目标的算法都是噪声鲁棒的。我们考虑一种正则化方法，它将任何基于中心的聚类目标转换为噪声鲁棒性。我们专注于$k$ -手段的目标，我们证明了正规化版本的$k$ -手段是NP难的，即使是$k=1$。我们考虑两个算法的基础上的凸（SDP和LP）放松的正则化目标，并证明鲁棒性保证。标准（非正则化）$k$均值目标的SDP和lp松弛先前已由[ABC+15]研究。在数据的随机球模型下，他们表明，只要球被$δ> 2\sqrt{2} + ε$分开，基于sdp的算法就可以恢复底层结构。我们从两个方面改进这个结果。首先，我们甚至对$δ> 2 + ε$显示恢复。其次，我们的正则化算法恢复球，即使在噪声的存在，只要噪声点的数量不是太大。我们补充我们的理论分析与模拟和分析各种参数的效果，如正则化常数，噪声水平等对我们的算法的性能。在噪声存在的情况下，我们的算法比$k$ -means++在MNIST上表现得更好。
2018-08-27 cs.LG
Combining Structural and Unstructured Data: A Topic-based Finite Mixture Model for Insurance Claim Prediction
School of Data Science, Fudan University（复旦大学数据科学学院）；Center for Applied Statistics and School of Statistics, Renmin University of China（中国人民大学应用统计中心与统计学院）
针对传统保险理赔预测模型忽略理赔描述信息的问题，本文提出整合文本与金额数据的基于主题的有限混合模型，搭配两种校准算法，实现了更准确且可解释的理赔聚类与预测。
2024-10-07 cs.LG stat.AP
Single-cell Multi-view Clustering via Community Detection with Unknown Number of Clusters
National University of Defense Technology（国防科技大学）；Intelligent Game and Decision Lab（智能博弈与决策实验室）
本文提出scUNC方法，通过跨视图融合网络和社区检测实现单细胞多视图聚类，无需预定义簇数，并在三个数据集上验证其优于基线方法。
2023-11-28 cs.AI cs.LG q-bio.GN
DeepDPM: Deep Clustering With an Unknown Number of Clusters
Ben-Gurion University of the Negev（内盖夫本-古里安大学）
深度学习（DL）在无监督聚类任务中表现出了巨大的潜力。也就是说，虽然在古典（即，非深度）聚类非参数方法的好处是众所周知的，大多数深度聚类方法是参数的：即，它们需要预定义的固定数目的聚类，用K表示。然而，当K未知时，使用模型选择标准来选择其最佳值可能会在计算上变得昂贵，特别是在DL中，因为训练过程必须重复多次。在这项工作中，我们通过引入一种有效的深度聚类方法来弥合这一差距，该方法不需要知道K的值，因为它在学习过程中推断它。使用分裂/合并框架，一个动态的架构，适应不断变化的K，和一个新的损失，我们提出的方法优于现有的非参数方法（经典和深度）。虽然现有的极少数深度非参数方法缺乏可扩展性，但我们通过第一个在ImageNet上报告这种方法的性能来证明我们的方法。我们还展示了推断K的重要性，通过展示当假设的K值与地面真实值相差更远时，特别是在不平衡数据集上，修复K的方法如何在性能上恶化。我们的代码可在https://github.com/BGU-CS-VIL/DeepDPM上获得。
2022-03-27 cs.LG stat.ML
Selective Inference for Clustering Under Unknown Covariance
Johns Hopkins University（约翰斯·霍普金斯大学）；University of Waterloo（滑铁卢大学）
针对未知协方差下聚类后均值检验的一类错误率膨胀问题，提出无需估计协方差矩阵的选择性检验，可高效计算并在模拟及真实数据集上验证了其有效性。
2026-10-14 cs.LG stat.AP stat.ME
Self-Supervised Coarsening of Unstructured Grid with Automatic Differentiation
Applied AI Center, Skolkovo Institute of Science and Technology, Moscow, Russia（斯克尔科沃科学与技术研究院应用人工智能中心）；AIRI Institute, Moscow, Russia（莫斯科AIRI研究所）
提出一种基于可微物理、k-means聚类、自动微分和随机优化的非结构化网格自监督粗化算法，在两类PDE上实现最多10倍网格点缩减并保持关键动态。
2025-07-24 cs.LG
Asynchronous Federated Clustering with Unknown Number of Clusters
Guangdong University of Technology（广东工业大学）；Xiamen University（厦门大学）；Shenzhen University（深圳大学）；Hong Kong Baptist University（香港浸会大学）
本文针对联邦聚类中客户端通信异步与未知簇数 k* 的耦合难题，提出异步联邦聚类学习方法 AFCL，通过种子点分发协调与平衡更新机制自适应揭示合适簇数，实验验证其有效性。
2024-12-29 cs.DC cs.LG
Text-Based Product Matching -- Semi-Supervised Clustering Approach
NASK National Research Institute（NASK国家研究院）；AGH University of Kraków（克拉科夫AGH大学）；University of Technology Sydney（悉尼科技大学）
本文提出一种基于半监督聚类的产品匹配新方法，通过在真实数据集上结合IDEC算法与模糊字符串匹配进行实验，证明了少量标注样本增强的无监督匹配可作为主流监督策略的有效替代方案。
2024-02-01 cs.AI cs.DB cs.LG
Online Clustering by Penalized Weighted GMM
Intel（英特尔公司）
随着大数据时代的到来，数据集正在迅速增长。数据流来自任何地方-从相机，手机，汽车和其他电子设备。聚类流数据是一个非常具有挑战性的问题。与数据集可以多次存储和扫描的传统聚类算法不同，对流数据进行聚类必须满足诸如有限内存大小、实时响应、未知数据统计和未知簇数量等约束。在本文中，我们提出了一种新的在线聚类算法，可用于聚类流数据，而不知道的簇的数量先验。在合成数据集和真实数据集上的结果表明，该算法产生的分区接近于一次聚类整个数据所能得到的分区。
2019-02-07 cs.CV cs.LG stat.ML
Revisiting Gaussian Neurons for Online Clustering with Unknown Number of Clusters
Norwegian University of Science and Technology（挪威科技大学）
尽管人工神经网络最近取得了成功，但可能需要更多生物学上合理的学习方法来解决反向传播训练模型的弱点，如灾难性遗忘和对抗攻击。虽然这些弱点没有具体解决，一种新的本地学习规则，进行在线聚类的上限，而不是一个固定的集群计数的集群数量。代替使用正交权重或输出激活约束，激活稀疏性通过横向高斯神经元的相互排斥来实现，从而确保多个神经元中心不能占据输入域中的相同位置。在数据样本可以用均值和方差表示的情况下，还提出了一种更新方法来调整高斯神经元的宽度。这些算法应用于MNIST和CIFAR-10数据集，以创建捕获各种大小的像素块的输入模式的过滤器。实验结果表明，在大量的训练样本的学习参数的稳定性。
2022-08-06 cs.CV cs.LG cs.NE
Clustering a Mixture of Gaussians with Unknown Covariance
Cornell University（康奈尔大学）；California Institute of Technology（加州理工学院）；Columbia University（哥伦比亚大学）
我们研究了一个聚类问题，数据来自一个共同的高斯混合，但未知的，潜在的病态，协方差阵。我们首先考虑高斯混合两个相等大小的组件，并推导出一个最大割整数规划的基础上极大似然估计。我们证明了它的解决方案达到最佳的误分类率时，样本的数量线性增长的维度，对数因子。然而，解决最大割问题似乎是计算上棘手的。为了克服这一点，我们开发了一个有效的频谱算法，达到最佳的速率，但需要二次样本量。虽然这个样本的复杂性比最大割问题，我们猜想，没有多项式时间的方法可以执行更好。此外，我们收集的数值和理论证据，支持存在的计算差距。最后，我们推广的最大切割程序的$k$ -手段程序，处理多组分混合物可能不平等的权重。对于满足运输成本不等式的混合分布，它享有类似的最优性保证，包括高斯分布和强对数凹分布。
2021-11-29 cs.IT cs.LG math.IT
Causal K-Means Clustering
Department of Statistics, Korea University（高丽大学统计系）；Department of Statistics, Seoul National University（首尔大学统计系）；Department of Statistics and Data Science, Carnegie Mellon University（卡内基梅隆大学统计与数据科学系）
本文提出因果k均值聚类方法，用于识别未知的子群体结构，通过非参数效率理论和双机器学习开发偏倚校正估计器，实现快速根n收敛和渐近正态性，适用于多治疗水平的现代结果研究。
2026-04-02 cs.LG stat.ME stat.ML
Nonlinear mixture model motivated subspace clustering
从非线性混合模型出发，通过泰勒展开推导出子空间聚类的线性子空间并集模型，揭示了平滑阶数、子空间维度和稀疏性之间的关系，并在六个基准数据集上验证了子空间维度估计的有效性。
2026-06-28 cs.CV cs.LG
Active Distance-Based Clustering using K-medoids
Sharif University of Technology（谢里夫理工大学）
k-medoids算法是一种分区的、基于质心的聚类算法，它使用数据点的成对距离，并试图将具有$n$点的数据集直接分解成一组$k$不相交的聚类。然而，k-medoids本身需要数据点之间的所有距离，这在许多应用中并不容易获得。在本文中，我们介绍了一种新的方法，它只需要一小部分的整个距离集，并努力估计未知的距离使用查询的上限。该算法利用三角不等式计算未知距离的上界估计。我们的方法是建立在一个递归的方法来聚类对象，并选择一些点主动从每一束数据，并获得这些突出点之间的距离从Oracle。实验结果表明，该方法只使用一个小的子集的距离可以找到适当的聚类在许多真实世界和合成数据集。
2015-12-12 cs.LG
Review: Metaheuristic Search-Based Fuzzy Clustering Algorithms
Imam Abdulrahman Bin Faisal University（伊玛目阿卜杜勒拉赫曼·本·费萨尔大学）
模糊聚类是一种著名的无监督学习方法，用于根据相似性度量在类内收集相似的数据元素。但是，聚类算法也存在一些缺点。其中的主要弱点包括，选择初始的聚类中心和适当的聚类数通常是未知的。这些弱点被认为是聚类算法中最具挑战性的任务。本文介绍了一个全面的审查元启发式搜索解决模糊聚类算法的问题。
2018-01-21 cs.LG cs.NE
GBC: An Efficient and Adaptive Clustering Algorithm Based on Granular-Ball
Chongqing University of Telecommunications and Posts（重庆邮电大学）；Chongqing Key Laboratory of Computational Intelligence（重庆计算智能重点实验室）
现有的聚类方法是基于单一粒度的信息，如每个数据的距离和密度。这种基于最细粒度的方法通常效率低下，并且容易受到噪声的影响。受颗粒球划分和分化的自适应过程的启发，我们提出了一种新的聚类方法，该方法保留了K均值聚类的速度和效率，同时优于当今工业中广泛使用的经过时间考验的密度聚类方法。我们的简单，强大的，自适应的颗粒球聚类方法可以有效地识别未知和复杂形状的集群，而无需使用额外的参数。此外，该方法提供了一种高效、自适应的方式来描述世界，将促进自适应、高效的人工智能技术，特别是密度计算模型的研究和发展，并提高许多现有聚类方法的效率。
2023-03-02 cs.AI cs.CR cs.LG
Towards a Robust Aerial Cinematography Platform: Localizing and Tracking Moving Targets in Unstructured Environments
Carnegie Mellon University（卡内基梅隆大学）；University of Washington（华盛顿大学）
无人机在空中摄影中的使用已经彻底改变了一些需要实时和动态摄像机视角的应用和行业，如娱乐，体育和安全。然而，在拍摄移动目标时安全地控制无人机通常需要多个专业的人类操作员;因此需要一个自主的摄影师。目前的方法具有严重的现实限制，例如需要完全脚本化的场景，高精度的运动捕捉系统或GPS标签来定位目标，以及环境的先验地图来避免障碍物和计划遮挡。在这项工作中，我们克服了这些限制，并提出了一个完整的系统，航空电影摄影，结合：（1）基于视觉的目标定位算法;（2）实时增量的3D符号距离地图算法的遮挡和安全计算;和（3）实时相机运动规划，优化平滑度，碰撞，遮挡和艺术准则。我们评估的鲁棒性和实时性能在一系列的现场实验和模拟跟踪动态目标移动通过未知的，非结构化的环境。最后，我们验证，尽管消除了以前的限制，我们的系统达到了最先进的性能。该系统的运行视频可以在https://youtu.be/ZE9MnCVmumc上看到
2019-07-29 cs.CV cs.LG cs.RO
Occams Razor for Big Data? On Detecting Quality in Large Unstructured Datasets
Centre National de la Recherche Scientifique（法国国家科学研究中心）；CNRS-Strasbourg University（法国国家科学研究中心-斯特拉斯堡大学）；NTNU Trondheim（特隆赫姆挪威科技大学）；Institute of Applied Informatics（应用信息学研究所）；University of South Bohemia Czech Republic（捷克南波希米亚大学）；Kogakkan University（皇学馆大学）；University of Applied Sciences Upper Austria（上奥地利应用科学大学）；Namics—A Merkle Company（Namics——Merkle旗下公司）
检测大型非结构化数据集的质量需要远远超出人类感知和通信能力限制的能力，因此，数据科学中出现了一种日益复杂的分析解决方案来应对这一问题的趋势。这种分析复杂性的新趋势对科学中的简约原则或奥卡姆剃刀提出了严峻的挑战。这篇综述文章结合了物理学、计算科学、数据工程和认知科学等各个领域的见解，回顾了大数据的具体属性。检测数据质量的问题，而不会失去简约的原则，然后突出的具体例子的基础上。用于数据聚类的计算构建块方法可以帮助在最小化的计算时间内处理大型非结构化数据集，并且可以通过相对简单的无监督机器学习算法从大型非结构化图像或视频数据集中快速地提取含义。为什么我们仍然大量缺乏专业知识，明智地利用大数据提取相关信息的特定任务，识别模式，生成新的信息，或存储和进一步处理大量的传感器数据，然后审查;例子说明为什么我们需要主观的观点和务实的方法来分析大数据的内容提出。该评论总结了东西方之间的文化差异可能如何影响大数据分析的过程，以及旨在应对不久的将来大数据泛滥的日益自主的人工智能的发展。
2020-11-12 cs.DB cs.LG
LogELECTRA: Self-supervised Anomaly Detection for Unstructured Logs
NTT Social Informatics Laboratories（NTT社会信息学实验室）
针对现有日志异常检测方法在未知模板和点异常检测延迟上的局限，提出基于自监督的LogELECTRA模型，利用ELECTRA分析单行日志语义以实现点异常检测，在BGL、Sprit和Thunderbird数据集上优于现有方法。
2024-02-16 cs.LG cs.SE
DeepMCAT: Large-Scale Deep Clustering for Medical Image Categorization
Imperial College London（帝国理工学院）；Technical University of Munich（慕尼黑工业大学）
近年来，医学成像中机器学习的研究领域发生了巨大变化，从监督到半监督，弱监督或无监督方法。这主要是由于地面实况标签手动获取耗时且昂贵。从患者元数据生成标签可能是可行的，但它会受到用户引起的错误的影响，这些错误会引入偏见。在这项工作中，我们提出了一种无监督的方法来自动聚类和分类大规模的医学图像数据集，重点是心脏MR图像，而不使用任何标签。我们研究了使用类平衡和不平衡大规模数据集的端到端训练。我们的方法能够创建具有高纯度的聚类，并在这些数据集上实现了超过0.99的聚类纯度。结果表明，所提出的方法分类非结构化的大型医疗数据库，如组织临床PACS系统在医院的潜力。
2021-09-30 cs.CV cs.LG eess.IV
The elbow statistic: Multiscale clustering statistical significance
ElbowSig是一种用于多尺度聚类分析的统计方法，通过归一化离散曲率统计量评估聚类异质性序列，提供多尺度结构的显著性检测。
2026-03-03 cs.LG stat.ME stat.ML
K-medoids Clustering of Data Sequences with Composite Distributions
Syracuse University（雪城大学）；Lockheed Martin - Advanced Technology Labs（洛克希德·马丁高级技术实验室）；The Ohio State University（俄亥俄州立大学）
本文研究了数据序列的聚类问题，采用了k中心点算法。假设所有数据序列都是从\emph{unknown}连续分布生成的，这些连续分布形成聚类，每个聚类包含一组位置接近的分布（基于分布之间的特定距离度量）。假设最大集群内距离小于最小集群间距离，并且假设两个值都是已知的。目标是将数据序列分组在一起，如果它们的底层生成分布（未知）属于一个聚类。针对分布簇个数已知和未知的情况，提出了基于分布距离度量的k中心点算法。上界的错误概率和收敛结果在大样本制度也提供。它示出的错误概率指数衰减快，在每个数据序列中的样本数趋于无穷大。当满足某些条件时，误差指数具有简单的形式，而与应用的距离度量无关。特别是，误差指数的特征在于当使用Kolmogrov-Smirnov距离或最大平均差异作为距离度量时。仿真结果验证了分析的正确性。
2018-07-31 cs.LG stat.ML
Disentangling Homophily and Heterophily in Multimodal Graph Clustering
University of Electronic Science and Technology of China（电子科技大学）；Southwestern University of Finance and Economics（西南财经大学）
本文提出 DMGC 框架，将多模态图分解为同质性增强图和异质性感知图，并通过多模态双频融合机制与自监督对齐实现无监督聚类，在多个数据集上取得最优性能。
2025-07-21 cs.AI cs.LG cs.SI
A Survey of Some Density Based Clustering Techniques
Icfai University Nagaland（那兰市伊克法伊大学）；Sikkim Manipal Institute of Technology（锡金马尼帕尔理工学院）
本文对DBSCAN、OPTICS等多种基于密度的聚类方法进行综述，分析其特点、优缺点及在不同数据集上的适用性，为数据挖掘中的模式提取提供方法参考。
2023-07-23 cs.DB cs.LG
Clustering and Classification with Non-Existence Attributes: A Sentenced Discrepancy Measure Based Technique
World University of Bangladesh (WUB)（孟加拉世界大学）
对于一些或所有的数据实例，一些独立世界聚类问题遭受不完整的数据表征，由于丢失或缺失属性。典型的聚类方法不能直接应用于这样的数据，除非预处理的技术，如插补或边缘化。我们已经克服了这个缺点，利用一个句子离散措施，我们称之为属性加权惩罚的离散（AWPD）。利用AWPD度量，对聚类算法K-MEANS++和Scalable K-MEANS++以及分类算法k近邻（kNN）进行了改进，使其直接适用于不存在属性的数据集。理论分析表明，基于AWPD的K-MEANS++算法、Scalable K-MEANS++算法和kNN算法在迭代次数有限的情况下合并成一个局部素数。我们已经报告了针对各种形式的不存在的许多基准数据集的深入实验，表明与通常用于处理此类不充分数据的一些著名的插补方法相比，投影聚类和分类技术通常显示出更好的结果。该技术的目的是跟踪宝贵的数据：直接应用我们的方法对数据集的非存在属性，并建立一个方法来检测非结构化的非存在属性具有最佳的准确率和最小的成本。
2020-02-24 cs.LG stat.ML
Exploring Unsupervised Learning Methods for Automated Protocol Analysis
National University of Singapore（新加坡国立大学）；Nanyang Technological University（南洋理工大学）；DSO National Laboratories（DSO国家实验室）
分析和区分网络协议流量的能力对于电信公司提供差异化服务的网络资源管理至关重要。自动协议分析（APA）对于显著提高效率和减少对人类专家的依赖至关重要。APA中有许多自动化的最先进的无监督方法用于聚类未知协议。然而，许多这样的方法还没有使用不同的测试数据集进行充分的探索。因此，未能证明他们的鲁棒性，以概括。本研究提出了一个全面的框架，以评估各种组合的特征提取和聚类方法在APA。提出了一种新的方法来自动选择依赖于数据集的模型参数进行特征提取，从而提高了性能。一种新的基于字段的标记化方法的有希望的结果也导致我们提出了一种新的自动混合方法，用于APA中未知协议的特征提取和聚类。我们提出的混合方法在9个不同的测试数据集中的7个中表现最好，从而显示了在不同的未知协议中推广的鲁棒性。它在所有测试数据集中的表现也优于最先进的开源APA工具NETZOB中的无监督聚类技术。
2021-11-17 cs.LG cs.NI
Towards Federated Clustering: A Client-wise Private Graph Aggregation Framework
针对联邦聚类中隐私与性能难以兼顾的问题，本文提出SPP-FGC及扩展版本SPP-FGC+私有图聚合框架，通过安全聚合客户端局部结构图完成聚类，在保障隐私的同时实现了优于基线的聚类精度。
2025-11-14 cs.LG
Local Clustering in Contextual Multi-Armed Bandits
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
我们研究识别用户集群的上下文多武装匪徒（MAB）。上下文MAB是内容推荐、在线广告等实际应用的有效工具。在实践中，用户依赖性在用户的行为中起着至关重要的作用，因此奖励。聚类相似用户可以提高奖励估计的质量，这反过来又会导致更有效的内容推荐和有针对性的广告。不同于传统的聚类设置，我们聚类用户的基础上未知的强盗参数，这将是增量估计。特别是，我们定义了上下文MAB中的聚类检测问题，并提出了一个强盗算法，LOCB，嵌入本地聚类过程。并从聚类的正确性、有效性和遗憾界等方面对LOCB进行了理论分析。最后，我们从各个方面评估了所提出的算法，它优于最先进的基线。
2023-03-24 cs.LG
Online Clustering of Contextual Cascading Bandits
The Chinese University of Hong Kong（香港中文大学）
我们认为一个新的设置的上下文级联土匪，在线学习问题，其中底层的集群结构的用户是未知的，需要从一个随机的前缀反馈学习的在线聚类。更确切地说，学习代理向用户推荐有序的项目列表，用户检查列表并在第一个满意的项目处停止（如果有的话）。我们提出了一个俱乐部级联算法，并证明了一个$T$ -步遗憾界的顺序$\tilde{O}(\sqrt{T})$。以前的工作对应于退化的情况下，只有一个集群，我们的一般遗憾界在这种特殊情况下也显着提高他们。我们在人工数据和真实数据上进行了实验，并证明了我们的算法的有效性和结合在线聚类方法的优势。
2019-02-01 cs.LG
CCSL: A Causal Structure Learning Method from Multiple Unknown Environments
Guangdong University of Technology（广东工业大学）；Peng Cheng Laboratory（鹏城实验室）；Renmin University of China（中国人民大学）；Shantou University（汕头大学）
大多数现有的因果结构学习方法假设从一个环境中收集的数据和独立同分布（i.i.d.）。在某些情况下，数据是从多个环境中的不同受试者收集的，这提供了更多的信息，但可能使数据不相同或非独立分布。一些先前的努力试图在两个独立的阶段从这种类型的数据中学习因果结构，即，首次发现i.i.d.来自非独立身份证持有者的群体样本，然后从不同的群体中学习因果结构。这种简单的解决方案忽略了两个阶段之间的内在联系，即聚类阶段和学习阶段都应该由相同的因果机制指导。为此，我们提出了一个统一的因果聚类结构学习（命名为CCSL）的方法，从非独立同分布的因果发现。数据该方法同时集成了以下两个任务：1）将具有相同因果机制的受试者的样本聚类到不同的组中; 2）从组内的样本中学习因果结构。具体来说，对于前者，我们提供了一个因果关系相关的中国餐馆过程聚类样本的基础上的因果结构的相似性;对于后者，我们引入了一个基于变分推理的方法来学习的因果结构。理论结果提供了线性非高斯假设下的因果模型和聚类模型的识别。仿真和真实数据的实验结果进一步验证了该方法的正确性和有效性。
2023-02-06 cs.LG
A Federated Generalized Expectation-Maximization Algorithm for Mixture Models with an Unknown Number of Components
H. Milton Stewart School of Industrial and Systems Engineering（H. Milton Stewart工业与系统工程学院）；Georgia Institute of Technology（佐治亚理工学院）
本文提出FedGEM算法，用于在未知组件数情况下训练混合模型，通过本地EM步骤和不确定性集推断全局聚类数，实验证明其性能优于现有联邦聚类方法。
2026-01-29 cs.LG
Cautious Active Clustering
University of California San Diego（加州大学圣地亚哥分校）；Claremont Graduate University（克莱蒙特研究生大学）
我们考虑欧氏空间上从未知概率测度采样的点的分类问题。我们研究的问题，查询类标签在一个非常小的数量明智地选择的点，以便能够附加适当的类标签的每一个点在集合中。我们的方法是考虑未知的概率测度作为每个类的条件概率的凸组合。我们的技术涉及到使用一个高度本地化的内核从厄米多项式构造，以创建一个层次的估计支持的组成概率措施。我们不需要对任何概率测度的性质做任何假设，也不需要事先知道所涉及的类的数量。我们给出了理论上的保证衡量的$F$分数为我们的分类方案。实例包括超光谱图像中的分类和MNIST分类。
2020-12-08 cs.LG math.ST stat.ML
Federated Clustering with Unknown Local and Global Cluster Cardinalities
BITS Pilani K. K. Birla Goa Campus（比拉理工学院K. K. Birla果阿校区）
针对联邦聚类中客户端与服务器均未知簇数量的场景，提出两阶段框架：客户端用自适应分裂-合并（ASM）估计局部簇数，再由 FedGEM 聚合，实验表明其优于现有无标签方法。
2026-09-30 cs.DC cs.LG stat.ML
Deep Neural Network Modeling of Unknown Partial Differential Equations in Nodal Space
The Ohio State University（俄亥俄州立大学）；Southern University of Science and Technology（南方科技大学）
我们提出了一个数值框架，深度神经网络（DNN）建模未知的时间依赖偏微分方程（PDE）使用其轨迹数据。不像最近的工作[吴和秀，J。Phys.2020]，其中学习发生在模态/傅立叶空间中，当前方法在物理空间中进行学习和建模，并使用测量数据作为节点值。我们提出了一个DNN结构，它与底层PDE的演化算子直接对应，从而建立了DNN模型的存在性。DNN模型也不需要数据节点的任何几何信息。因此，经过训练的DNN定义了无结构网格上潜在未知PDE的预测模型。一组例子，包括线性和非线性标量偏微分方程，系统的偏微分方程，在一维和二维，在结构化和非结构化网格，提出的DNN建模的有效性。扩展到其他方程，如微分-积分方程也进行了讨论。
2021-06-07 cs.LG cs.NA math.NA
Subspace Clustering via Thresholding and Spectral Clustering
ETH Zurich（苏黎世联邦理工学院）
我们考虑的问题，聚类一组高维数据点到低维线性子空间的集合。子空间的数量、维度和方向都是未知的。我们提出了一个简单的和低复杂度的聚类算法的基础上阈值的数据点之间的相关性，其次是谱聚类。概率性能分析表明，该算法成功，即使当子空间相交时，当子空间的维度在环境维度中线性缩放（最多为对数因子）时。此外，我们证明了该算法也成功的数据点，受到擦除的擦除缩放（最多的对数因子）的数量在环境维度的线性。最后，我们提出了一个简单的方案，可证明检测离群值。
2013-03-15 cs.IT cs.LG math.IT
Optimal Clustering in Anisotropic Gaussian Mixture Models
University of Washington（华盛顿大学）；University of Pennsylvania（宾夕法尼亚大学）
本文研究了各向异性高斯混合模型下的聚类问题，其中来自不同聚类的协方差阵是未知的，并且不一定是相同的矩阵。我们刻画了信噪比对聚类中心和协方差阵的依赖性，并得到了聚类问题的极大极小下界。此外，我们提出了一个计算上可行的程序，并证明它达到了最佳的速度在几个迭代。所提出的方法是一种硬EM型算法，它也可以被看作是劳埃德算法的一个变体，该算法被调整到各向异性的协方差阵。
2021-01-18 cs.LG math.ST stat.ML
Clustering performance analysis using a new correlation-based cluster validity index
King Mongkut’s University of Technology Thonburi（先王科技大学）
提出一种基于数据点间实际距离与聚类中心距离相关性的新聚类有效性指数，能产生多个局部峰值以克服传统方法仅提供单一最佳聚类数的局限，并在UCI等数据集上验证了其有效性。
2022-07-25 cs.CV cs.LG stat.ML
Unsupervised learning of regression mixture models with unknown number of components
Aix Marseille Université（艾克斯-马赛大学）；CNRS（法国国家科学研究中心）；ENSAM（法国国立高等工程技术学校）；Université de Toulon（土伦大学）
回归混合模型在统计学、机器学习和数据分析中得到了广泛的研究。拟合回归混合是具有挑战性的，并且通常通过使用期望最大化（EM）算法通过极大似然来执行。然而，众所周知，初始化对于EM是至关重要的。如果不适当地执行初始化，则期望最大化算法可能导致不令人满意的结果。期望最大化算法还需要先验地给出聚类的数量;选择混合物组分的数量的问题需要使用模型选择标准来从一组预先估计的候选模型中选择一个。我们提出了一个新的完全无监督算法来学习未知数量的组件的回归混合模型。开发的无监督学习方法包括在惩罚极大似然估计进行了一个强大的期望最大化（EM）算法拟合多项式，样条和B-样条回归的混合物。所提出的学习方法是完全无监督的：1）随着学习的进行，它同时从数据中推断模型参数和回归混合成分的最佳数量，而不是像标准的基于模型的聚类中那样使用事后模型选择标准的双重方案，以及2）它不需要精确的初始化，不像回归混合的标准EM。所开发的方法适用于曲线聚类问题。模拟数据的数值实验表明，所提出的鲁棒期望最大化算法在初始化和根据实际聚类数检索最优划分方面具有良好的鲁棒性，并提供了准确的结果。在函数数据聚类的框架下对实际数据的应用，证实了所提出的方法在实际应用中的好处。
2014-09-24 cs.LG stat.ME stat.ML
SimNet: Enabling Robust Unknown Object Manipulation from Pure Synthetic Data via Stereo
Toyota Research Institute（丰田研究院）；University of California, Berkeley（加州大学伯克利分校）
由于未知物体的形状、材料、排列方式和光照条件的多样性，机器人在非结构化环境中对未知物体的操纵是一个具有挑战性的问题。即使有大规模的真实世界数据汇集，在各种照明条件下对透明和反射物体的鲁棒感知和操纵仍然具有挑战性。为了解决这些挑战，我们提出了一种方法来执行仿真到现实迁移的机器人感知。底层模型SimNet被训练为单个多头神经网络，使用模拟的立体数据作为输入，模拟的对象分割掩模、3D定向边界框（OBB）、对象关键点和视差作为输出。SimNet的一个关键组成部分是结合了一个学习的立体声子网络来预测视差。SimNet在2D汽车检测、未知目标检测和可变形物体关键点检测方面进行了评估，其性能明显优于使用结构光RGB-D传感器的基线。通过使用OBB和关键点预测来推断抓取位置，SimNet可用于在简单和困难的场景中使用我们的丰田HSR机器人在四个家庭环境中对未知物体进行端到端操作。在未知物体抓取实验中，来自基线RGB-D网络和SimNet的预测能够成功抓取大多数容易的物体。然而，RGB-D基线仅抓住35%的硬（例如，透明）对象，而SimNet掌握了95%，这表明SimNet可以在未知环境中对未知对象（包括透明对象）进行鲁棒操作。
2021-06-30 cs.CV cs.LG cs.RO
Independence clustering (without a matrix)
独立聚类问题被认为是在以下公式：给定一组随机变量$S$，它需要找到最好的分区$\{U_1,\dots,U_k\}$的$S$到集群，使集群$U_1,\dots,U_k$是相互独立的。由于相互独立是目标，成对的相似性度量是没有用的，因此传统的聚类算法是不适用的。$S$中随机变量的分布通常是未知的，但有样本可用。因此，问题是在时间序列方面铸造。考虑两种形式的采样：i.i.d.和平稳时间序列，主要强调后者，更一般的情况下。提出了一个一致的，计算上易于处理的算法，为每个设置，并列出了一些开放的进一步研究的方向。
2017-03-20 cs.IT cs.LG math.IT
A consistent clustering-based approach to estimating the number of change-points in highly dependent time-series
INRIA（法国国家信息与自动化研究所）
在一般框架下研究了由未知平稳遍历过程分布产生的变点估计问题。在这种情况下，一致的估计变点的数量是不可能的。然而，它示出，一致的聚类方法可以被用来估计的变化点的数量，在额外的约束下，提供的正确数量的过程分布，生成的数据。这个额外的参数在许多现实世界的应用中有一个自然的解释。提出了一种算法，估计变点的数量和定位的变化。所提出的算法被证明是渐近一致的，其经验评估。
2013-02-14 cs.IT cs.LG math.IT
