Scalable Model-Based Clustering with Sequential Monte Carlo
Lancaster University（兰卡斯特大学）；Microsoft Research（微软研究院）
本文提出一种基于序列蒙特卡洛的聚类算法，通过分解问题提升效率，适用于大规模和复杂分布数据的聚类任务。
2026-04-16 cs.LG stat.CO stat.ML
Novelty Detection in Sequential Data by Informed Clustering and Modeling
Ruhr-University Bochum（波鸿鲁尔大学）；Fudan University（复旦大学）；University Hospital Essen（埃森大学医院）；Monash University（莫纳什大学）
本文提出通过领域专家知情聚类将离散序列分解为多个子问题并用LSTM分别建模，从而提升新颖性检测性能，在三个真实场景中优于自动聚类和全局模型方法。
2023-07-10 cs.LG
Sequential no-Substitution k-Median-Clustering
Ben-Gurion University of the Negev（内盖夫本-古里安大学）
我们研究了基于样本的k-中位数聚类目标下的顺序设置没有替换。在这种情况下，i.i.d.观察实施例的顺序。一个例子只有在被观察之后才能立即被选为中心，之后就不能被取代。我们的目标是选择一组具有良好的k-中位数成本的分布，生成序列的中心。我们提供了一个有效的算法，这种设置，并表明，其乘法近似因子的两倍，一个有效的离线算法的近似因子。此外，我们表明，如果效率要求被删除，有一个算法，可以获得相同的近似因子作为最佳离线算法。我们在实验中证明了有效的算法在真实数据集上的性能。我们的代码可在https://github.com/tomhess/No_Substitution_K_Median上获得。
2020-04-22 cs.LG stat.ML
Clustering with Transitive Distance and K-Means Duality
The Chinese University of Hong Kong（香港中文大学）；Microsoft Research Asia（微软亚洲研究院）
近年来的谱聚类方法是数据聚类中一种非常有效的方法。这些方法需要求解特征值问题，其计算复杂性为$O(n^3)$，其中$n$是数据样本的个数。本文提出了一种基于非特征值问题的聚类方法来处理聚类问题。它的性能与谱聚类算法相当，但它是更有效的计算复杂性$O(n^2)$。我们表明，与传递距离和观察到的属性，称为K-均值对偶，我们的算法可以用来处理复杂的集群形状，多尺度集群和噪声的数据集。此外，在我们的算法中，没有参数，除了集群的数量需要设置。
2007-11-22 cs.LG
Exploring Bayesian Models for Multi-level Clustering of Hierarchically Grouped Sequential Data
Indian Institute of Science（印度科学学院）
已经提出了各种各样的贝叶斯模型的数据，分为分层成组。这些模型的目的是通过为每个数据点分配混合成分，并为每个组分配混合分布，在不同的分组级别上对数据进行聚类。通过组共享这些组件和分布，促进了多级聚类。在本文中，我们引入了共享度（DoS）的概念的混合成分和分布，旨在分析和分类各种现有的模型。接下来，我们介绍了一个广义的层次贝叶斯模型，现有的模型可以被证明是特殊情况。与大多数这些模型不同，我们的模型在分配混合成分和分布时考虑了数据的顺序性质以及不同级别的各种其他时间结构。我们展示了该模型的一个专门化，旨在新闻文本的分层分割，并提出了一个基于Gibbs抽样的推理算法。我们还通过实验表明，该模型优于现有的模型，对于相同的任务。
2015-04-19 cs.AI cs.LG
Similarity-based Distance for Categorical Clustering using Space Structure
Delhi Technological University（德里理工大学）
聚类是在一组对象中发现模式，并将相似的对象分组在一起。对象的属性并不总是数字的，有时属性有它们可能属于的域或类别。这种数据称为分类数据。对分类数据进行分组，常用的聚类算法有很多，其中k-模式算法是迄今为止最有意义的。尽管如此，仍有许多地方可以改进。像k-means，fuzzy-c-means或hierarchical这样的算法对数值数据的精度要高得多。在本文中，我们提出了一种新的距离度量，基于相似性的距离（SBD），以确定对象之间的分类数据的距离。实验表明，我们提出的距离（SBD），当与SBC（基于空间结构的聚类）类型的算法显着优于现有的算法，如k模式或其他SBC类型的算法时，用于分类数据集。
2020-11-19 cs.LG
Active Distance-Based Clustering using K-medoids
Sharif University of Technology（谢里夫理工大学）
k-medoids算法是一种分区的、基于质心的聚类算法，它使用数据点的成对距离，并试图将具有$n$点的数据集直接分解成一组$k$不相交的聚类。然而，k-medoids本身需要数据点之间的所有距离，这在许多应用中并不容易获得。在本文中，我们介绍了一种新的方法，它只需要一小部分的整个距离集，并努力估计未知的距离使用查询的上限。该算法利用三角不等式计算未知距离的上界估计。我们的方法是建立在一个递归的方法来聚类对象，并选择一些点主动从每一束数据，并获得这些突出点之间的距离从Oracle。实验结果表明，该方法只使用一个小的子集的距离可以找到适当的聚类在许多真实世界和合成数据集。
2015-12-12 cs.LG
Exploring dual information in distance metric learning for clustering
Polytechnique Montréal（蒙特利尔工程学院）；GERAD（决策分析与数学研究组）
距离度量学习算法旨在适当地测量数据点之间的相似性和距离。在聚类的上下文中，度量学习通常在专家提供的辅助信息的帮助下应用，最常见的是以不能链接和必须链接约束的形式表示。在此设置中，距离度量学习算法移动必须链接约束中涉及的数据点对，而不能链接约束中涉及的点对彼此远离。为了使这些算法有效，重要的是使用与专家知识、信念和期望相匹配的距离度量，并且为了坚持边信息而进行的变换应该保留数据集的几何属性。此外，过滤专家提供的约束以仅保留最有用的约束并拒绝那些可能损害聚类过程的约束也很有趣。为了解决这些问题，我们建议利用与半监督聚类问题的成对约束相关的对偶信息。实验清楚地表明，距离度量学习算法受益于集成这种双重信息。
2021-05-26 cs.LG
Revisiting Realistic Test-Time Training: Sequential Inference and Adaptation by Anchored Clustering
South China University of Technology（华南理工大学）；Institute for Infocomm Research（资讯通信研究院）；Peng Cheng Laboratory（鹏城实验室）
在目标域数据上部署模型需要适应分布偏移。测试时训练（TTT）出现作为一个现实的情况下，访问完整的源域数据是不可用的，需要对目标域的即时推理这种适应的解决方案。尽管在TTT方面做了很多努力，但实验设置仍存在混乱，从而导致不公平的比较。在这项工作中，我们首先重新审视TTT的假设和分类TTT协议的两个关键因素。在多个协议中，我们采用了一个现实的顺序测试时训练（sTTT）协议，根据该协议，我们进一步开发了一个测试时锚定聚类（TTAC）方法，使更强的测试时特征学习。TTAC发现源域和目标域中的聚类，并将目标聚类与源聚类进行匹配，以提高泛化能力。提出了伪标签过滤和迭代更新的方法来提高锚定聚类的有效性和效率。我们证明，在所有TTT协议TTAC始终优于国家的最先进的方法在六个TTT数据集。我们希望这项工作将提供一个公平的基准TTT方法和未来的研究应在各自的协议进行比较。演示代码可在https://github.com/Gorilla-Lab-SCUT/TTAC上获得。
2022-10-14 cs.CV cs.LG
A Novel Design Specification Distance(DSD) Based K-Mean Clustering Performace Evluation on Engineering Materials Database
Mangalore University（芒格洛尔大学）
将数据组织成语义上更有意义的数据是理解和学习的基本模式之一。聚类分析是对理解方法和学习算法的形式化研究。K-均值聚类算法是最基本、最简单的聚类算法之一。当没有关于数据集分布的先验知识时，K-mean是初始聚类数聚类的首选。本文将一种新的距离度量--设计规范（DS）距离度量函数与K-均值聚类算法相结合，以提高聚类精度。在P = 1.525时，采用提出的距离度量的K-means算法最大化聚类准确率为99.98%，这是通过迭代过程确定的。比较了K-均值算法下的设计规范（DS）距离度量函数与其他标准距离函数（欧几里德、平方欧几里德、城市街区和Chebshew相似性度量）的性能，并在工程材料数据库上对所提方法进行了评价。聚类分析和孤立点分析实验表明，这是一个很好的改善所提出的方法的性能。
2013-01-02 cs.LG
Mining frequency-based sequential trajectory co-clusters
Universidade Federal de Santa Cataina（圣卡塔琳娜联邦大学）
联合聚类是一种特定类型的聚类，它解决了在不考虑所有属性的情况下查找对象组的问题。该技术已被证明在高维稀疏数据中比传统聚类具有更一致的结果。在轨迹共聚类中，文献中发现的方法有两个主要的局限性：第一，空间和时间维度必须由用户定义的阈值约束;第二，元素（轨迹点）被聚类，忽略轨迹序列，假设点之间是独立的。针对上述局限性，提出了一种新的轨迹共聚类方法来挖掘语义轨迹共聚类。它同时将轨迹及其元素聚类，同时考虑它们出现的顺序。这种新方法使用元素频率来识别候选共簇。此外，它使用了一个目标成本函数，自动驱动共聚类过程，避免了约束维度的需要。我们使用真实世界的公开数据集评估所提出的方法。实验结果表明，我们的建议发现频繁和有意义的连续序列揭示流动性模式，从而最相关的元素。
2021-10-27 cs.AI cs.LG
DECWA : Density-Based Clustering using Wasserstein Distance
IRIT（图卢兹计算机科学研究所）
提出基于空间密度和概率方法的DECWA聚类算法，利用Wasserstein度量测量子簇概率密度函数间距离并聚集相似子簇，有效解决了低密度和相似密度簇的识别问题。
2023-10-25 cs.LG
K-Means Clustering With Incomplete Data with the Use of Mahalanobis Distances
University of Minnesota Duluth（明尼苏达大学德卢斯分校）
本文提出一种统一的K-means算法，用马氏距离替代欧氏距离处理缺失数据，在IRIS及椭圆簇合成数据集上以ARI和NMI指标验证其优于独立插补后聚类及K-Means with Incomplete Data方法。
2025-04-10 cs.LG
Unsupervised Continual Clustering via Forward-Backward Knowledge Distillation
Department of Electrical and Computer Engineering, McGill University（麦吉尔大学电气与计算机工程系）；Mila – Quebec AI Institute（魁北克AI研究所）
提出无监督持续聚类（UCC）问题，并设计前向-后向知识蒸馏方法（FBCC），通过持续教师网络和轻量任务学生网络的双阶段蒸馏，在不存储旧数据的情况下保留聚类结构，显著减少灾难性遗忘。
2026-06-05 cs.LG
Fast and explainable clustering in the Manhattan and Tanimoto distance
Department of Mathematics, University of Manchester, United Kingdom（曼彻斯特大学数学系）
CLASSIX算法在曼哈顿和陶林顿距离下实现快速且可解释的聚类，显著提升速度并产生高质量聚类。
2026-01-13 cs.LG
Agglomerative Hierarchical Clustering with Dynamic Time Warping for Household Load Curve Clustering
Western University（西安大略大学）
能源公司经常实施各种需求响应（DR）计划，通过在关键时期为消费者提供减少需求的激励措施来更好地匹配电力需求和供应。根据客户的消费模式对客户进行分类，可以针对特定的消费者群体进行DR。传统的聚类算法使用标准的距离测量来找到两点之间的距离。聚类算法（如K-means、K-medoids和高斯混合模型）产生的结果取决于聚类参数或初始聚类。相比之下，我们的方法使用基于形状的方法，结合凝聚层次聚类（AHC）与动态时间弯曲（DTW）的住宅家庭的日常负荷曲线分类的基础上，他们的消费模式。虽然DTW寻求两个负载曲线之间的最佳对齐，但AHC提供了一个现实的初始聚类中心。在本文中，我们与其他聚类算法，如K-means，K-medoids，和GMM使用不同的距离措施的结果进行比较，我们表明，AHC使用DTW优于其他聚类算法，需要更少的集群。
2022-10-18 cs.LG
The Exploitation of Distance Distributions for Clustering
Philipps-University of Marburg（马尔堡菲利普大学）
虽然距离测量被用于许多机器学习算法中，但在使用先验知识的意义上，关于距离测量的上下文无关选择和评估的文献是有限的。在聚类分析中，目前的研究评估的距离测量的选择后，应用基于错误概率的无监督的方法，隐含地设置的目标，再现预定义的分区数据。这些研究使用的数据集群通常基于数据的上下文以及特定研究的自定义目标。根据数据上下文，距离分布的不同属性被判断为与适当的距离选择相关。然而，如果聚类分析是基于寻找数据的相似分区的任务，那么分区内距离应该小于分区间距离。通过系统地调查这一规格使用分布分析，通过镜像密度图，它表明，多峰距离分布是最好的聚类分析。因此，在无监督方法的评估阶段之前，用高斯混合物对距离分布进行建模是有利的。在几个人工数据集和自然数据集上进行了聚类实验。
2021-08-22 cs.LG
FairAD: Computationally Efficient Fair Graph Clustering via Algebraic Distance
Texas State University（德克萨斯州立大学）；Lamar University（拉马尔大学）
本文提出一种基于代数距离的计算高效公平图聚类方法 FairAD，通过构建亲和矩阵、图粗化与约束最小化实现公平聚类，速度较现有算法快40倍。
2025-10-31 cs.LG
Revisiting Realistic Test-Time Training: Sequential Inference and Adaptation by Anchored Clustering Regularized Self-Training
I2R, A-STAR（A*STAR信息通信研究所）；South China University of Technology（华南理工大学）；Southwest Jiaotong University（西南交通大学）
在目标域数据上部署模型需要适应分布偏移。测试时训练（TTT）出现作为一个现实的情况下，访问完整的源域数据是不可用的，和即时推理的目标域上的这种适应的解决方案。尽管在TTT方面做了很多努力，但实验设置仍存在混乱，从而导致不公平的比较。在这项工作中，我们首先重新审视TTT的假设和分类TTT协议的两个关键因素。在多个协议中，我们采用了一个现实的顺序测试时训练（sTTT）协议，根据该协议，我们开发了一个测试时锚定聚类（TTAC）方法，使更强的测试时特征学习。TTAC发现源域和目标域中的簇，并将目标簇与源簇进行匹配，以提高自适应性。当源域信息是严格缺席（即无源），我们进一步开发了一种有效的方法来推断锚定聚类的源域分布。最后，自我训练~（ST）在从未标记数据中学习方面取得了巨大的成功，并且我们经验性地指出，单独将ST应用于TTT容易产生确认偏差。因此，一个更有效的TTT的方法，引入了正则化的自训练与锚定聚类，改进的模型被称为TTAC++。我们证明，在所有TTT协议下，TTAC++在五个TTT数据集上的性能始终优于最先进的方法，包括损坏的目标域，选定的硬样本，合成到真实的自适应和对抗攻击的目标域。我们希望这项工作将提供一个公平的TTT方法的基准，未来的研究应在各自的协议进行比较。
2023-03-20 cs.CV cs.LG
ClusterSeq: Enhancing Sequential Recommender Systems with Clustering based Meta-Learning
Imperial College London（帝国理工学院）；Sharif University of Technology（谢里夫理工大学）
针对序列推荐中的用户冷启动及次要用户偏好建模难题，提出基于元学习聚类的ClusterSeq模型，利用用户序列动态信息提升预测准确性，在MRR指标上较现有方法提升16-39%。
2023-07-25 cs.AI cs.IR cs.LG
Learning a Distance for the Clustering of Patients with Amyotrophic Lateral Sclerosis
Laboratoire LIFAT, Université de Tours（图雷大学LIFAT实验室）；Laboratoire LIFO, Université d'Orléans（奥尔良大学LIFO实验室）；Service de Biochimie et Biologie Moléculaire CHRU de Tours（图雷中心医院生物化学与分子生物学服务）；UMR U1253 iBrain, Université de Tours（图雷大学UMR U1253 iBrain）；Inserm（法国国家医学研究院）
提出一种基于疾病进展声明性分数的ALS患者聚类方法，整合医学专业知识并采用弱监督学习距离度量，在生存分析中优于现有方法且提升结果可解释性。
2025-11-03 cs.LG
Bayesian Distance Clustering
University of Florida（佛罗里达大学）；Duke University（杜克大学）
基于模型的聚类被广泛应用于各种应用领域。然而，对稳健性的基本担忧仍然存在。特别是，结果可以是敏感的内核代表内集群数据密度的选择。利用数据点之间的成对差异的属性，我们提出了一类贝叶斯距离聚类方法，它依赖于建模的成对距离的可能性，而不是原始数据。虽然数据中的一些信息被丢弃，但我们对建模假设具有很大的鲁棒性。所提出的方法代表了一个有吸引力的中间地带之间的距离和基于模型的聚类，从这些典型的方法中的每一个借鉴的优势。我们说明了戏剧性的收益，推断集群的能力，通常的内核选择没有很好地表示。包括一个模拟研究，以评估相对于竞争对手的性能，我们应用的方法来聚类的大脑基因组表达数据。保留字：基于距离的聚类;混合模型;基于模型的聚类;模型规格错误;成对距离矩阵;部分可能性;鲁棒性
2019-06-25 cs.LG stat.ML
Review and Perspective for Distance Based Trajectory Clustering
Datasio
在本文中，我们解决的问题，聚类轨迹的地理定位观测。使用聚类技术的基础上选择的观察之间的距离，我们首先提供了一个全面的审查文献中使用的不同的距离来比较轨迹。然后，基于这些方法的局限性，我们引入了一个新的距离：对称段路径距离（SSPD）。最后，我们比较了这个新的距离，根据其相应的聚类结果，使用层次聚类和亲和传播方法。
2015-08-20 cs.LG stat.AP stat.ML
Consistent Amortized Clustering via Generative Flow Networks
Ben-Gurion University of the Negev（内盖夫本-古里安大学）
本文提出GFNCP，一种基于生成流网络的摊销聚类框架，通过共享能量参数化实现顺序不变性，并在合成与真实数据上超越现有方法。
2025-02-26 cs.CV cs.LG
Scalable Hybrid HMM with Gaussian Process Emission for Sequential Time-series Data Clustering
KAIST（韩国科学技术院）
隐马尔可夫模型（HMM）结合高斯过程（GP）发射，可以有效地估计隐藏状态的一系列复杂的输入输出关系的观察。特别是当光谱混合（SM）核用于GP发射时，我们称此模型为混合HMM-GPSM。该模型可以有效地对时间序列数据进行建模。然而，由于SM内核的大量参数，该模型不能有效地用大量数据进行训练，这些数据具有（1）用于状态转换的长序列和2）每个序列中的大量时间序列数据集。本文提出了一种可扩展的HMM-GPSM学习方法。为了有效地训练模型与长序列，所提出的方法采用随机变分推理（SVI）的方法。同时，为了有效地处理每个时间序列数据的大量数据点，我们使用重新参数化的随机傅立叶特征（R-RFF）来近似SM核。这两种技术的结合大大减少了训练时间。我们验证了所提出的学习方法的隐藏状态估计精度和计算时间，使用大规模的合成和真实数据集缺失值。
2020-01-07 cs.LG stat.ML
Kernel Clustering with Sigmoid-based Regularization for Efficient Segmentation of Sequential Data
Hanoi University of Science and Technology（河内理工大学）；The Graduate University for Advanced Studies, SOKENDAI（综合研究大学院大学（SOKENDAI））；National Institute of Informatics（国立信息学研究所）
核分割的目的是将一个数据序列分割成几个不重叠的部分，这些部分可能具有非线性和复杂的结构。在一般情况下，它被制定为一个离散的组合约束优化问题。一个流行的算法，最佳地解决这个问题是动态规划（DP），它有二次计算和内存的要求。考虑到实际中的序列太长，该算法不是一种实用的方法。虽然已经提出了许多启发式算法来近似最优分割，但它们不能保证其解的质量。在本文中，我们采取了一种差异化的方法来缓解上述问题。首先，我们引入了一种新的sigmoid为基础的正则化平滑近似的组合约束。结合它与目标的平衡核聚类，我们制定了一个可微的模型，称为核聚类与sigmoid-based正则化（KCSR），其中基于梯度的算法可以被利用来获得最佳分割。其次，我们开发了一个随机变量的模型。第二种模型采用时间复杂度和空间复杂度都较低的随机梯度下降算法进行优化，可以对超长数据序列进行分割。最后，为了同时分割多个数据序列，我们稍微修改了基于sigmoid的正则化，以进一步引入所提出的模型的扩展变体。通过对不同类型数据序列的大量实验，我们的模型的性能进行了评估，并与现有的方法进行了比较。实验结果验证了所提模型的优越性。我们的Matlab源代码可以在github上找到。
2022-06-22 cs.CV cs.LG
A Comparative Study on Transfer Learning and Distance Metrics in Semantic Clustering over the COVID-19 Tweets
Islamic Azad University（伊斯兰阿扎德大学）；Iran University of Science and Technology（伊朗科技大学）
本文是在COVID-19数据的主题检测背景下的比较研究。话题检测的方法有很多种，本文选择了聚类方法。聚类需要距离，计算距离需要嵌入。本研究的目的是同时研究嵌入方法、距离度量和聚类方法三个因素及其相互作用。这项研究使用了一个数据集，其中包括一个月内收集的带有COVID-19相关标签的推文。在嵌入方法中，从早期的方法到新的方法，选择了五种方法：Word2Vec，fastText，GloVe，BERT和T5。本文研究了五种聚类方法：k-means，DBSCAN，OPTICS，光谱和Jarvis-Patrick。欧几里德距离和余弦距离作为最重要的距离度量在这一领域也进行了检查。首先，进行7,500多次测试来调整参数。然后，所有不同的嵌入方法与距离度量和聚类方法的组合进行了研究的轮廓度量。这些组合的数量为50例。首先，检查这50个测试的结果。然后，在该方法的所有测试中考虑每个方法的等级。最后，对本研究的主要变量（嵌入方法、距离度量和聚类方法）分别进行了研究。对控制变量进行平均以中和它们的影响。实验结果表明，T5在轮廓度量方面明显优于其他嵌入方法。在距离度量方面，余弦距离略好。DBSCAN在聚类方法方面也优于其他方法。
2021-11-16 cs.CL cs.LG
Clustering for high-dimension, low-sample size data using distance vectors
Osaka University（大阪大学）；Graduate School of Engineering Science, Osaka University（大阪大学工学研究科）
在高维低样本量（HDLSS）数据中，两个对象的接近程度并不总是反映隐藏的聚类结构。我们指出了一个重要的事实，它不是接近度，但距离的“值”包含的信息，在高维空间的集群结构。基于这一事实，我们提出了一个有效的和简单的聚类方法，称为距离向量聚类，HDLSS数据。在Hall et al.（2005）的工作中给出的假设下，我们证明了当维数趋于无穷大且样本量固定时，所提出的方法在较温和的条件下提供了真正的聚类标签。通过数值实验和实际数据分析，说明了距离向量聚类方法的有效性。
2013-12-25 cs.LG stat.ML
Expectation Distance-based Distributional Clustering for Noise-Robustness
Iowa State University（爱荷华州立大学）
本文提出了一种聚类技术，通过学习和聚类的数据分布，然后将数据分配到其分布的集群，以减少对数据噪声的敏感性。在此过程中，降低了噪声对聚类结果的影响。该方法涉及在分布之间引入新的距离，即期望距离（表示为ED），其超出了最佳质量传输的最新分布距离（表示为$2$ -Wasserstein的$W_2$）：后者本质上仅取决于边缘分布，而前者还使用关于联合分布的信息。利用ED，本文将经典的$K$ -means和$K$ -medoids聚类扩展到数据分布（而不是原始数据）上，并使用$W_2$引入$K$ -medoids。本文还给出了$W_2$和ED距离测度的封闭表达式。建议的ED和$W_2$距离措施聚类真实世界的天气数据，以及股票数据的实施结果，其中涉及有效地提取和使用的基础数据分布-高斯的天气数据与对数正态的股票数据。结果表明，显着的性能改善，与经典的原始数据的聚类，实现更高的准确性ED。此外，不仅基于分布的聚类提供更高的准确性，但它也降低了计算时间，由于降低了时间复杂度。
2023-03-14 cs.LG stat.ML
Clustering acoustic emission data streams with sequentially appearing clusters using mixture models
Institut FEMTO-ST（FEMTO-ST研究所）；Université Bourgogne Franche-Comté（勃艮第-弗朗什-孔泰大学）；Université de technologie de Compiègne（贡比涅技术大学）；CNRS（法国国家科学研究中心）；Heudiasyc（Heudiasyc实验室）；Institut universitaire de France（法兰西大学研究院）
无标记声发射（AE）数据的解释传统上依赖于通用的聚类方法。虽然在过去已经使用了几个外部标准来选择这些算法的超参数，很少有研究注意到专门的目标函数的聚类方法，能够应付AE数据的特异性的发展。我们研究了如何显式地表示混合模型中的聚类起始，特别是高斯混合模型（GMM）。通过修改这些模型的内部标准，我们提出了第一个聚类方法，能够提供，通过参数估计的期望最大化的过程中，集群发生时（发病），他们如何增长（动力学）和他们的激活水平，通过时间的信息。这个新的目标函数适应AE信号的连续时间戳，因此，它们的发生顺序。实验验证了该方法能够有效地表征螺栓结构在振动作用下的松动现象。从五个实验活动的原始流数据与三个标准的聚类方法的比较表明，GMMSEQ不仅提供了有用的定性信息的时间轴的集群，但也表现出更好的性能在集群表征。为了开发开放的声发射计划，并根据FAIR原则，提供数据集和代码来重现本文的研究。
2022-06-15 cs.LG cs.SD stat.AP
A clustering approach to time series forecasting using neural networks: A comparative study on distance-based vs. feature-based clustering methods
Jet Propulsion Laboratory（喷气推进实验室）
时间序列预测最近得到了很多关注，这是因为许多现实世界的现象可以建模为时间序列。大量的数据和计算机处理能力的最新进展使研究人员能够开发更复杂的机器学习算法，如神经网络来预测时间序列数据。在本文中，我们提出了各种神经网络架构来预测的时间序列数据使用的动态测量，此外，我们介绍了各种架构如何结合静态和动态测量预测。我们还调查了执行技术，如异常检测和聚类预测精度的重要性。我们的研究结果表明，聚类可以提高整体的预测时间，以及提高神经网络的预测性能。此外，我们表明，基于特征的聚类可以优于基于距离的聚类的速度和效率。最后，我们的研究结果表明，增加更多的预测因子来预测目标变量并不一定会提高预测精度。
2021-03-31 cs.LG stat.ML
Fuzzy clustering algorithms with distance metric learning and entropy regularization
Universidade Federal de Pernambuco（伯南布哥联邦大学）；Centro de Informática（信息中心）
聚类方法已被用于各种领域，如图像处理、数据采掘、模式识别和统计分析。通常，聚类算法认为所有变量对于聚类任务同等相关或不相关。然而，在实际情况中，一些变量可能是相关的，或者可能或多或少相关，甚至与此任务无关。本文提出了基于欧氏距离、城市块距离和马氏距离以及熵正则化的划分模糊聚类算法。这些方法是一个迭代的三步算法，它提供了一个模糊分区，代表每个模糊聚类，并通过最小化一个合适的目标函数的变量或它们的相关性的相关性权重。合成和真实数据集上的几个实验，包括其应用于噪声图像纹理分割，证明了这些自适应聚类方法的有用性。
2021-02-18 cs.AI cs.LG
CADM: Cluster-customized Adaptive Distance Metric for Categorical Data Clustering
School of Computing, Binghamton University（宾夕法尼亚大学计算学院）；Department of Computer Science, Hong Kong Baptist University（香港 Baptist 大学计算机科学系）
CADM提出了一种针对类别数据聚类的集群定制距离度量，能够根据不同簇中属性分布动态更新距离，并扩展至混合数据，实验表明其在多个数据集上表现优异。
2026-03-05 cs.LG stat.ML
Information Mandala: Statistical Distance Matrix with Clustering
Iwate University（岩手大学）
在机器学习中，观测特征在度量空间中被测量以获得它们的距离函数用于优化。给定作为总体在统计上足够的相似特征，可以计算两个概率分布之间的统计距离以用于更精确的学习。假设观察到的特征是多值的，统计距离函数仍然是有效的。然而，由于其标量输出，它不能应用于表示特征元素之间的详细距离。为了解决这个问题，本文将传统的统计距离扩展为矩阵形式，称之为统计距离矩阵。在实验中，所提出的方法在对象识别任务中表现良好，并且清晰直观地表示了CIFAR数据集中猫和狗图像之间的差异，即使直接使用图像像素计算也是如此。通过使用统计距离矩阵的层次聚类，图像像素可以被分成几个簇，这些簇围绕一个中心几何排列，就像曼陀罗图案。具有聚类的统计距离矩阵，称为信息曼陀罗，超出了普通的显着图，可以帮助理解卷积神经网络的基本原理。
2020-06-22 cs.LG stat.ML
A close-up comparison of the misclassification error distance and the adjusted Rand index for external clustering evaluation
Universidad de Extremadura（埃斯特雷马杜拉大学）
误分类误差距离和调整后的Rand指数是评价聚类算法性能的两个最常用的指标。本文对这两个标准进行了深入的比较，旨在更好地了解它们所测量的内容，它们的属性及其差异。从他们的人口来源开始，调查包括许多数据分析实例和非常详细的特定案例研究。一个详尽的模拟研究允许检查的标准分布，并揭示了一些以前的误解。
2019-07-26 cs.LG stat.ML
Efficient Clustering with Limited Distance Information
Boston University（波士顿大学）；Georgia Institute of Technology（佐治亚理工学院）；Maastricht University（马斯特里赫特大学）；University of Southern California（南加州大学）
给定一个点集S和一个未知的度量D上S，我们研究的问题，有效地划分成k个集群，同时查询点之间的距离很少。在我们的模型中，我们假设我们可以访问一个与所有查询，给定一个点s 2 S返回s和所有其他点之间的距离。我们表明，给定一个自然的假设的结构的实例，我们可以有效地找到一个准确的聚类只使用O（k）距离查询。我们使用我们的算法通过序列相似性对蛋白质进行聚类。这个设置非常适合我们的模型，因为我们可以使用一个快速的序列数据库搜索程序来查询整个数据集的序列。我们进行的实证研究表明，即使我们查询点之间的距离的一小部分，我们产生的聚类是接近所需的聚类由手动分类。
2014-08-09 cs.AI cs.LG
Probabilistic Multilevel Clustering via Composite Transportation Distance
University of California at Berkeley（加州大学伯克利分校）；Monash University（莫纳什大学）
我们提出了一种新的基于复合运输距离的多级聚类问题的概率方法，复合运输距离是运输距离的一种变体，其基本度量是Kullback-Leibler散度。我们的方法涉及到解决一个联合优化问题的概率措施，同时发现组内和组之间的分组结构的空间。通过利用我们的方法找到复合运输重心的问题的连接，我们开发快速，高效的优化算法，即使是潜在的大规模的多级数据集。最后，我们提出的实验结果与合成和真实的数据来证明所提出的方法的效率和可扩展性。
2018-10-29 cs.LG stat.ML
Biharmonic Distance of Graphs and its Higher-Order Variants: Theoretical Properties with Applications to Centrality and Clustering
School of Electrical Engineering and Computer Science, Oregon State University（俄勒冈州立大学电气与计算机工程学院）
本文研究图的双调和距离，证明其刻画边对全局拓扑的重要性，并提出聚类算法及 $k$-调和距离推广，实验验证其在边中心性与图聚类中的效用。
2025-02-18 cs.LG cs.SI
LDTC: Lifelong deep temporal clustering for multivariate time series
School of Computer Science and Technology, Xidian University（电子科技大学计算机科学与技术学院）
LDTC通过整合降维和时序聚类，提出了一种端到端深度无监督学习框架，有效解决动态多变量时间序列的聚类问题。
2026-01-09 cs.AI cs.LG
On Clustering Time Series Using Euclidean Distance and Pearson Correlation
University of Konstanz（康斯坦茨大学）；Univ. of Applied Sciences Wolfsburg（沃尔夫斯堡应用科学大学）
对于时间序列比较，经常观察到z分数归一化的欧几里得距离远远优于未归一化的变量。在本文中，我们证明了z分数归一化的平方欧几里德距离实际上等于基于皮尔逊相关的距离。这对许多基于距离的分类或聚类方法产生了深远的影响。除了这个理论上合理的结果，我们还表明，经常使用的k-Means算法形式上需要修改，以保持解释为皮尔逊相关严格有效。实验结果表明，在许多情况下，标准的k-Means算法通常会产生相同的结果。
2016-01-10 cs.AI cs.LG stat.ML
Clustering Items through Bandit Feedback: Finding the Right Feature out of Many
针对基于老虎机反馈的二分组聚类问题，提出利用Sequential Halving寻找相关特征的自适应算法，给出高概率恢复的预算上界及在部分情形下紧致的实例相关下界。
2025-03-18 cs.LG stat.ML
Where is my forearm? Clustering of body parts from simultaneous tactile and linguistic input using sequential mapping
Czech Technical University in Prague（布拉格捷克理工大学）；CTU in Prague（布拉格捷克理工大学）；Istituto Italiano di Tecnologia（意大利技术研究院）；Plymouth University（普利茅斯大学）
人类和动物不断地暴露于来自不同模态的连续感官信息流。与此同时，它们形成更压缩的表示，如概念或符号。在使用语言的物种中，这一过程通过这种相互作用进一步结构化，其中需要建立感觉运动概念和语言元素之间的映射。有证据表明，儿童学习语言的方式可能是简单地消除基于不同语境中多次接触话语的潜在含义（跨情境学习）。在现有的模型中，模态之间的映射通常是通过直接使用所指和意义共现的频率在单步的中找到的。在本文中，我们提出了一个扩展的一步映射，并介绍了一个新提出的顺序映射算法，连同一个公开可用的Matlab实现。为了演示，我们选择了一个不太典型的场景：我们专注于身体表征，而不是学习将对象与它们的名称相关联。人形机器人在其身体上接收触觉刺激，同时收听身体部位名称的发音（例如，手、前臂和躯干）。在到达正确的“身体类别”的目标，我们演示了如何顺序映射算法优于一步映射。此外，还研究了语言输入中数据集大小和噪声对识别效果的影响。
2017-06-08 cs.AI cs.CL cs.LG
Deep Clustering With Intra-class Distance Constraint for Hyperspectral Images
Liaoning Technical University（辽宁工程技术大学）；Haixi Institute, Chinese Academy of Sciences（中国科学院海西研究院）；Technical University of Munich（慕尼黑工业大学）；Hong Kong Polytechnic University（香港理工大学）
高光谱图像的高维性往往导致聚类性能的下降。基于深度学习的聚类算法由于其强大的深度特征提取能力和非线性特征表示能力，成为高光谱遥感领域的研究热点。然而，大多数高光谱图像的深度聚类算法利用深度神经网络作为特征提取器，而不考虑适合聚类的先验知识约束。为了解决这个问题，我们提出了一个类内距离约束的高维高光谱图像深度聚类算法。该算法通过类内距离约束自动编码器网络的特征映射过程，使原始图像从原始高维空间转换到更有利于聚类的低维特征空间。此外，相关的学习过程被视为深度特征提取和聚类的联合优化问题。实验结果表明，该算法与现有的高光谱图像聚类方法相比具有很强的竞争力。
2019-04-01 cs.LG eess.IV stat.ML
Probabilistic Clustering of Time-Evolving Distance Data
Memorial Sloan-Kettering Cancer Center（纪念斯隆-凯特琳癌症中心）；Humboldt University of Berlin（柏林洪堡大学）；University of Basel（巴塞尔大学）；University of Zurich（苏黎世大学）；ETH Zurich（苏黎世联邦理工学院）
我们提出了一种新的概率聚类模型的对象表示通过成对的距离和观察在不同的时间点。该方法利用相邻时间点给出的信息来寻找潜在的聚类结构，并获得平滑的聚类演化。这种方法允许对象和聚类的数量在每个时间点都不同，并且不需要识别对象的身份。此外，该模型不需要预先指定聚类的数量-而是使用Dirichlet过程先验自动确定。我们验证我们的模型合成数据显示，该方法是更准确的比国家的最先进的聚类方法。最后，我们使用我们的动态聚类模型来分析和说明脑癌患者随时间的演变。
2015-04-14 cs.LG stat.ML
ThetA -- fast and robust clustering via a distance parameter
Indiana University Bloomington（印第安纳大学伯明顿分校）
聚类是机器学习中的一个基本问题，其中基于距离的方法已经在该领域占据了几十年的主导地位。这组问题通常通过将数据划分为K个聚类来解决，其中聚类的数量是先验选择的。虽然多年来在这些方面取得了重大进展，但众所周知，随着聚类或维度数量的增加，目前的方法停留在局部最小值，导致次优解决方案。在这项工作中，我们提出了一套新的距离阈值的方法，称为基于Theta的算法（ThetA）。通过实验比较和复杂度分析，我们表明，我们提出的方法优于现有的方法：a）聚类精度和b）时间复杂度。此外，我们表明，对于一大类问题，与学习K相比，学习最佳阈值是简单的。此外，我们展示了ThetA如何推断高维数据集的稀疏性。
2021-03-01 cs.AI cs.LG
Learnable Weighting of Intra-Attribute Distances for Categorical Data Clustering with Nominal and Ordinal Attributes
IEEE
研究用于分类数据聚类的距离度量，提出统一测量标称和有序属性内距离的新方法及新聚类算法，将属性内距离权重学习和数据划分整合为单一范式，实验验证了算法有效性。
2026-07-08 cs.AI cs.LG
A novel framework of the fuzzy c-means distances problem based weighted distance
Pemalang District Government（北加浪安区政府）；Universitas Muhammadiyah Semarang（三宝垄穆罕默迪亚大学）
聚类是数据采掘的重要内容之一，在模式识别和图像分割中有着广泛的应用。模糊C均值（FCM）是最常用的聚类算法，它被证明是高效、快速和易于实现的，然而FCM使用的是欧氏距离，这往往会导致聚类错误，特别是在处理多维和噪声数据时。近年来，研究者们提出了许多距离度量来提高FCM算法的性能，其中大多数研究者提出了加权距离。提出了一种改进FCM算法性能的Canberra加权距离。使用UCI数据集的实验结果表明，该方法优于原方法和其他聚类方法。
2019-07-31 cs.LG stat.ML
(k, l)-Medians Clustering of Trajectories Using Continuous Dynamic Time Warping
University of Sydney（悉尼大学）；TU Eindhoven（埃因霍温理工大学）；Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）
由于可用地理空间数据的数量大量增加，并且需要以可理解的方式呈现它，因此对这些数据进行聚类比以往任何时候都更加重要。由于集群可能包含大量的对象，因此为每个集群提供一个代表可以极大地促进对集群的理解。依赖于这些代表的聚类方法被称为基于中心的。在这项工作中，我们考虑基于中心的轨迹聚类的问题。在这种情况下，集群的代表再次是轨迹。为了获得聚类的紧凑表示并避免过拟合，我们通过参数l来限制代表性轨迹的复杂性。然而，这种限制使得离散距离测量（如动态时间规整（DTW））不太适合。最近的工作是基于中心的聚类的轨迹与连续的距离测量，即弗雷谢距离。虽然Fréchet距离允许限制中心复杂度，但它也可能对离群值敏感，而平均型距离度量，如DTW，则不那么敏感。为了获得一个轨迹聚类算法，允许限制中心的复杂性，是更强大的离群值，我们建议使用连续版本的DTW作为距离度量，我们称之为连续动态时间规整（CDTW）。我们的贡献是双重的：1。针对CDTW缺乏实用算法的问题，提出了一种计算CDTW的近似算法。我们开发的第一个聚类算法下的距离测量，并显示一个实用的方法来计算一组轨迹的中心，随后迭代地改进it. To获得深入了解下的实际数据的CDTW聚类结果，我们进行了广泛的实验。
2020-12-01 cs.CG cs.LG
Wasserstein-based Kernel Principal Component Analysis for Clustering Applications
Risk Engineering Lab, Institute of Energy；Process Engineering, Department of Mechanical；Process Engineering, ETH Z\"urich , country= Switzerland
本文提出一个集成Wasserstein度量与核方法的无监督聚类框架，通过参考分布近似距离、平移正定核及可扩展有效性指标，有效处理向量型和分布型数据，并在电力图和时序数据上验证了性能。
2025-10-14 cs.LG stat.AP
FISHDBC: Flexible, Incremental, Scalable, Hierarchical Density-Based Clustering for Arbitrary Data and Distance
Symantec Research Labs（赛门铁克研究实验室）
FISHDBC是一种灵活的、增量的、可扩展的、基于层次密度的聚类算法。它很灵活，因为它使用户能够处理任意数据，跳过通常将原始数据转换为数值数组的特征提取步骤，让用户定义任意距离函数。它是增量的和可扩展的：它避免了其他方法在非度量空间中的$\mathcal O(n^2)$性能，并且当添加很少的项时，只需要轻量级计算来更新聚类。它是分层的：它产生“扁平”聚类，该聚类可以扩展为树结构，从而当数据探索需要时，用户可以将聚类分组和/或划分为子聚类或超聚类。它是基于密度的，近似于HDBSCAN*，是DBSCAN的一种演变。
2019-10-16 cs.DS cs.LG stat.ML
Parallel D2-Clustering: Large-Scale Clustering of Discrete Distributions
The Pennsylvania State University（宾夕法尼亚州立大学）
离散分布聚类算法，即D2-聚类，已经证明了它在图像分类和注释中的有用性，其中每个对象由一袋加权向量表示。然而，该算法的高计算复杂性限制了其在大规模问题中的应用。我们提出了一个并行的D2聚类算法，大大提高了可扩展性。设计了一种分层结构的并行计算，以实现单个节点的计算和算法的集成过程之间的平衡。此外，它表明，即使是一个单一的CPU，层次结构的结果显着的速度。在真实世界的大规模图像数据、Youtube视频数据和蛋白质序列数据上的实验证明了并行D2聚类算法的有效性和广泛的适用性。与原始的顺序算法相比，聚类精度的损失较小。
2013-02-06 cs.CV cs.LG
Power Weighted Shortest Paths for Clustering Euclidean Data
University of California, Los Angeles（加州大学洛杉矶分校）；University of Michigan（密歇根大学）
我们研究使用功率加权最短路径距离函数聚类高维欧氏数据，假设数据是从一个不相交的低维流形的集合。我们认为，理论和实验，这导致更高的聚类精度。我们还提出了一个快速算法来计算这些距离。
2019-09-04 cs.LG stat.ML
Clustering in Hilbert simplex geometry
Sony Computer Science Laboratories Inc.（索尼计算机科学研究所）；Data61；The Australian National University（澳大利亚国立大学）
在有限维概率单纯形中聚类分类分布是处理归一化直方图的许多应用中遇到的基本任务。传统上，概率单形的微分几何结构要么通过（i）将黎曼度量张量设置为分类分布的Fisher信息矩阵，要么（ii）定义由光滑相异度度量（Kullback-Leibler散度）引起的二元信息几何结构。在这项工作中，我们介绍了聚类任务的一种新的计算友好的框架，几何建模的概率单纯形：{ \em希尔伯特单纯形几何}。在Hilbert单纯形几何中，距离是不可分的Hilbert度量距离，它满足信息单调性，距离水平集函数由多面体边界描述。我们表明，无论是艾奇逊和希尔伯特单纯形距离是规范的距离归一化对数表示的$\ell_2$和变异规范，分别。我们讨论了这些不同的统计建模的优点和缺点，并基准实验这些不同种类的几何中心为基础的$k$ -手段和$k$ -中心聚类。此外，由于一个典型的希尔伯特距离可以定义在任何有界凸子集的欧几里德空间，我们还考虑希尔伯特的几何椭圆形的相关矩阵和研究其聚类性能相比，弗罗贝纽斯和log-det分歧。
2021-11-19 cs.CV cs.LG
Understanding Recurrent Neural Architectures by Analyzing and Synthesizing Long Distance Dependencies in Benchmark Sequential Datasets
ADAPT Research Centre（ADAPT研究中心）；Technological University Dublin（都柏林理工大学）
为了构建高效的深度递归神经架构，必须分析建模数据集的长距离依赖（LDD）的复杂性。在本文中，我们提出了各种数据集所表现出的依赖衰减曲线的详细分析。从类似过程（例如，自然语言，顺序MNIST，逐段语言等）中采样的数据集显示依赖性衰减曲线的属性变化。我们的分析揭示了导致这些变化的因素;例如（i）数据集中唯一符号的数量，（ii）数据集的大小，（iii）给定LDD内相互作用符号的数量，以及（iv）相互作用符号之间的距离。我们测试这些因素通过生成合成的数据集的cultlyk-Piecewise语言。这些合成数据集的另一个优点是，它们能够对深度递归神经架构进行有针对性的测试，以模拟具有不同特征的LDD。我们还证明，分析依赖性衰减曲线可以为SOTA深度递归神经架构的最佳超参数选择提供信息。这种分析可以直接有助于更准确和有效的序列模型的发展。
2020-12-08 cs.LG stat.ML
