MCoCo: Multi-level Consistency Collaborative Multi-view Clustering
Xi’an Jiaotong University(西安交通大学);Fuzhou University(福州大学)
针对多视图聚类在语义空间一致性探索不足的问题,提出多层级一致性协同学习框架MCoCo,通过对比学习对齐语义标签并以其作为自监督信号协同特征空间的聚类分配,无需融合即可充分挖掘视图一致性,实验证明其有效且优越。
2023-05-17 cs.LG
Collaborative Filtering Bandits
University of Insubria(因苏布里亚大学);Telefónica Research(西班牙电信研究中心)
经典的协同过滤和基于内容的过滤方法试图在给定训练数据的情况下学习静态推荐模型。这些方法在高度动态的推荐领域(如新闻推荐和计算广告)中远非理想,这些领域的项目和用户集非常不稳定。在这项工作中,我们研究了一种自适应聚类技术的内容推荐的基础上探索开发策略的上下文多臂强盗设置。我们的算法考虑到由于用户与项目的交互而产生的协作效应,通过基于正在考虑的项目动态地对用户进行分组,并且同时基于在用户上引起的聚类的相似性对项目进行分组。由此产生的算法,从而利用数据中的偏好模式的方式类似于协同过滤方法。我们对中等规模的真实世界数据集进行了实证分析,显示了可扩展性和提高的预测性能(以点击率为衡量标准),超过了最先进的集群方法。我们还提供了一个标准的线性随机噪声设置内的遗憾分析。
2016-05-31 cs.AI cs.LG stat.ML
Selective information exchange in collaborative clustering using regularized Optimal Transport
Université Sorbonne Paris Nord(巴黎北索邦大学);CNRS(法国国家科学研究中心);LaMSN, La Maison des Sciences Numériques, USPN(数字科学之家实验室(巴黎北索邦大学))
协作学习最近取得了非常显著的成果。然而,它仍然受到几个问题的影响,包括需要交换的信息类型,停止的标准以及如何选择正确的合作者。在本文中,我们的目标是提高质量的合作,并解决这些问题,通过一种新的方法启发的最优运输理论。更具体地说,信息交换的目标函数是基于Wasserstein距离,在协作者之间进行双向信息传输。这个公式允许学习停止标准,并提供选择最佳合作者的标准。在多个数据集上进行了大量的实验,以评估所提出的方法。
2021-03-25 cs.DC cs.LG
Deep Semi-Supervised Embedded Clustering (DSEC) for Stratification of Heart Failure Patients
Sensyne Health plc(森赛恩健康公司)
确定疾病的表型对于住院患者护理和药物开发具有相当大的益处。诸如电子健康记录的高维数据集的结构通常通过数据的嵌入来表示,其中聚类方法用于对类似结构的数据进行分组。如果已知数据中存在子组,则可以使用监督方法来影响所发现的聚类。我们建议将深度嵌入式聚类扩展为半监督深度嵌入式聚类算法,通过数据中的已知标签对子组进行分层。在这项工作中,我们应用深度半监督嵌入式聚类,从4,487名心力衰竭和对照患者的电子健康记录中确定数据驱动的心力衰竭患者亚组。我们发现临床相关的集群从嵌入式空间来自异构数据。所提出的算法可以潜在地发现具有不同结果的新的未诊断的患者亚组,从而改进治疗。
2021-01-17 cs.LG
Joint Multi-View Collaborative Clustering
R&D department ALTECA(阿尔泰卡公司研发部门);LIPN - CNRS UMR 7030 Sorbonne Paris Nord University(巴黎第十三大学(索邦巴黎北)法国国家科学研究中心UMR 7030实验室);ETIS - CNRS UMR 8051 CY Cergy Paris University(CY塞尔吉-巴黎大学法国国家科学研究中心UMR 8051实验室)
针对多视图聚类忽略水平协作知识的问题,提出 JMVCC 方案,利用 NMF 生成基本划分并结合集成聚类与加权方法融合局部划分,有效降低负面协作风险,提升了聚类性能与对噪声视图的鲁棒性。
2023-10-25 cs.CV cs.LG
Fed-BRDECS: Privacy-Preserving and Heterogeneity-Aware Federated Deep Embedded Clustering
Northwestern University(西北大学);Intel Corporation(英特尔公司)
针对联邦深度聚类中的隐私泄露与数据异构问题,提出Fed-BRDECS框架,通过局部样本稳定性损失和预测平衡采样及质心重启,在图像、文本及时间序列任务上优于现有基线。
2026-10-07 cs.LG
Hybrid-Collaborative Augmentation and Contrastive Sample Adaptive-Differential Awareness for Robust Attributed Graph Clustering
College of Information Science and Technology, Beijing University of Chemical Technology(北京化工大学信息科学与技术学院);Beijing University of Technology(北京工业大学);The University of Sydney Business School, The University of Sydney(悉尼大学商学院)
针对现有对比属性图聚类忽略边级增强及样本对差异的问题,提出融合混合协同增强与对比样本自适应差分感知的鲁棒聚类方法,在六个基准数据集上性能优于现有最优方法。
2025-10-03 cs.LG
On Context-Dependent Clustering of Bandits
University of Insubria(因苏布里亚大学);University of Cambridge(剑桥大学);IIT Kanpur(坎普尔印度理工学院);Telefonica Research(西班牙电信研究院);Amazon Berlin(亚马逊柏林)
我们研究了一种新的集群的强盗算法CAB的协同推荐任务,实现了底层的反馈共享机制,通过估计在上下文相关的方式用户的邻域。CAB通过将协作效应纳入推理以及以无缝交错探索-利用权衡和协作步骤的方式进行学习过程,从而与最先进的方法截然不同。我们证明了遗憾的界限下的各种假设的数据,表现出明确的依赖于预期数量的集群超过用户,一个自然的衡量统计难度的学习任务。在生产和真实世界数据集上的实验表明,CAB相对于具有代表性的最先进的方法池提供了显着提高的预测性能。
2017-02-27 cs.AI cs.IR cs.LG
ECORS: An Ensembled Clustering Approach to Eradicate The Local And Global Outlier In Collaborative Filtering Recommender System
University of Minnesota Twin Cities(明尼苏达大学双子城分校)
本文提出ECORS方法,通过集成多种聚类算法并构建用户-用户矩阵,同时检测局部与全局异常值,从而显著提升协同过滤推荐系统中异常值检测的准确性。
2024-10-01 cs.HC cs.IR cs.LG
Deep Embedded Multi-View Clustering via Jointly Learning Latent Representations and Graphs
Institute of Electronic and Information Engineering of UESTC(电子科技大学电子信息工程研究院);University of Electronic Science and Technology of China(电子科技大学)
借助深度学习模型的表示学习能力,深度嵌入式多视图聚类(MVC)在许多场景中实现了令人印象深刻的性能,并且近年来变得越来越流行。虽然在这一领域已经取得了很大的进展,大多数现有的方法只专注于学习的潜在表示,而忽略了学习的节点的潜在图也提供了可用的信息,聚类任务。为了解决这个问题,在本文中,我们提出了通过联合学习潜在表示和图形的深度嵌入式多视图聚类(DMVCJ),它利用潜在图从两个方面提高深度嵌入式MVC模型的性能。首先,通过联合学习潜在图和特征表示,图卷积网络(GCN)技术可用于我们的模型。由于GCN具有利用图和特征信息的能力,我们的模型的聚类性能得到了显着提升。其次,基于隐图中节点的邻接关系,设计了一种样本加权策略来缓解噪声问题,进一步提高了模型的有效性和鲁棒性。在不同类型的真实世界多视图数据集上的实验结果证明了DMVCJ的有效性。
2022-05-08 cs.LG
Improved Spectral Clustering via Embedded Label Propagation
谱聚类是机器学习和数据采掘领域的一个重要研究课题。现有的谱聚类算法大多建立在高斯-拉普拉斯矩阵上,而高斯-拉普拉斯矩阵对参数敏感。我们提出了一种新的参数自由,距离一致的局部线性嵌入。提出的距离一致LLE保证了距离较近的数据点之间的边具有更大的权值,并提出了一种基于嵌入标签传播的改进谱聚类算法。我们的算法建立在现有技术的两个进步基础上:1)标签传播,它根据邻近节点的距离将节点标签传播到相邻节点; 2)流形学习,它已被广泛用于利用数据点的流形结构。首先,我们对原始数据进行标准谱聚类,并将每个聚类分配给k个最近的数据点。接下来,我们通过密集的未标记的数据区域传播标签。大量的实验与各种数据集验证了该算法的优越性相比,目前最先进的光谱算法。
2015-10-06 cs.LG
Clustering-Based Collaborative Filtering Using an Incentivized/Penalized User Model
Dankook University(檀国大学);Yonsei University(延世大学);University of Suwon(水原大学);Hanyang University(汉阳大学)
基于用户体验的质量给出或推荐合适的内容是推荐系统中最重要和最具挑战性的问题。由于协同过滤(CF)是推荐系统中最突出和最流行的技术之一,我们提出了一种新的基于聚类的CF(CBCF)方法,使用一个激励/惩罚用户(IPU)模型,只有用户给出的评级,这是很容易实现的。我们的目标是设计这样一个简单的基于聚类的方法,没有进一步的先验信息,同时提高推荐的准确性。准确地说,使用IPU模型的CBCF的目的是通过仔细利用用户之间的不同偏好来提高推荐性能,例如精确度,召回率和$F_1$分数。具体来说,我们制定了一个约束优化问题,我们的目标是最大限度地提高召回率(或相当于$F_1$分数)为一个给定的精度。为此,根据实际评分数据和Pearson相关系数将用户划分为几个聚类。之后,我们给每个项目的奖励/惩罚,根据用户的偏好倾向在同一个集群。我们的实验结果表明,一个显着的性能改善基线CF计划没有聚类的召回或$F_1$分数为给定的精度。
2019-05-01 cs.IR cs.LG cs.MA
Deep Embedded K-Means Clustering
Tongji University(同济大学)
最近,由于深度神经网络(DNN)(如自动编码器)的高表示能力,深度聚类方法已经获得了发展势头。关键思想是表示学习和聚类可以相互加强:好的表示导致好的聚类,而好的聚类为表示学习提供了好的监督信号。关键问题包括:1)如何优化表示学习和聚类?2)编码器的重构损失是否应该一直考虑?在本文中,我们提出了DEKM(Deep Embedded K-Means)来回答这两个问题。由于自动编码器生成的嵌入空间可能没有明显的聚类结构,我们建议进一步将嵌入空间转换为一个新的空间,揭示聚类结构信息。这是通过一个正交变换矩阵来实现的,该矩阵包含K均值的类内散布矩阵的特征向量。特征值反映了特征向量对新空间中簇结构信息贡献的重要性。我们的目标是增加集群结构的信息。为此,我们放弃了解码器,并提出了一个贪婪的方法来优化表示。DEKM交替优化表示学习和聚类。在真实数据集上的实验结果表明,DEKM达到了最先进的性能。
2021-09-30 cs.LG
TDEC: Deep Embedded Image Clustering with Transformer and Distribution Information
Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳));Peng Cheng Laboratory(鹏城实验室)
本文提出TDEC,通过结合Transformer和分布信息,改进图像聚类中的特征表示和维度偏好,提升聚类性能。
2026-03-23 cs.CV cs.LG
Multiple Independent Subspace Clusterings
Southwest University(西南大学);George Mason University(乔治梅森大学);China University of Geosciences(中国地质大学);Beijing University Of Civil Engineering and Architecture(北京建筑大学)
多重聚类旨在发现将数据组织成聚类的各种方法。尽管取得了进展,但对于用户来说,分析和理解每个输出聚类的独特结构仍然是一个挑战。为了简化这个过程,我们考虑不同的聚类嵌入在不同的子空间,并分析嵌入子空间,以揭示每个聚类的结构。为此,我们提供了一个两阶段的方法,称为MISC(多个独立子空间插值)。在第一阶段,MISC使用独立子空间分析来寻找多个统计独立(即非冗余)的子空间,并通过最小描述长度原则来确定子空间的数量。在第二阶段,为了解释嵌入每个子空间中的样本的内在几何结构,MISC执行图正则化半非负矩阵分解来探索聚类。它还将内核技巧集成到矩阵分解中,以处理非线性可分离的聚类。在人工数据集上的实验结果表明,MISC算法可以从所寻找的独立子空间中发现不同的有趣聚类,并且在真实数据集上的性能优于其他相关和竞争性方法。
2019-05-10 cs.LG stat.ML
DiEC: Diffusion Embedded Clustering
Shandong Women’s University(山东女子学院);University of Jinan(济南大学);South China University of Technology(华南理工大学)
DiEC通过利用预训练扩散模型的最优中间表示进行无监督聚类,通过优化层*时间步空间中的聚类最优层和时间步,提升聚类性能并减少计算开销。
2026-01-21 cs.AI cs.LG
Collaborative Filtering with Information-Rich and Information-Sparse Entities
Arizona State University(亚利桑那州立大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
在本文中,我们考虑一个流行的模型,协同过滤推荐系统中,一些用户的网站率的一些项目,如电影,和目标是恢复的评级的一些或所有的未评级的项目的每个用户。特别是,我们认为这两个聚类模型,只有用户(或项目)的聚类,和共同聚类模型,其中用户和项目的聚类,进一步,我们假设,一些用户率许多项目(信息丰富的用户)和一些用户率只有少数项目(信息稀疏的用户)。当用户(或项目)被聚类时,我们的算法可以恢复具有$ω(MK \log M)$噪声条目的评分矩阵,而$MK$条目是必要的,其中$K$是聚类的数量,$M$是项目的数量。在联合聚类的情况下,我们证明了$K^2$条目是必要的恢复评级矩阵,我们的算法达到这个下限内的对数因子时,$K$是足够大的。我们将我们的算法与一种称为交替最小化(AM)的著名算法以及一种基于相似性分数的算法进行比较,该算法被称为朋友间流行度(PAF)算法,将这三种算法应用于MovieLens和Netflix数据集。我们的联合聚类算法和AM在恢复评级矩阵时具有相似的总体错误率,两者都低于PAF下的错误率。但更重要的是,在推荐系统感兴趣的场景中,我们的联合聚类算法的错误率显着低于AM和PAF:当向每个用户推荐几个项目时,或者当向只评价几个项目的用户推荐项目时(这些用户是总用户人口的大多数)。当噪声被添加到数据集时,性能差异甚至会增加更多。
2014-03-06 cs.IT cs.LG math.IT
Deep Embedded Clustering with Distribution Consistency Preservation for Attributed Networks
Beijing Jiaotong University(北京交通大学);Baidu Online Network Technology (Beijing) Co., Ltd(百度在线网络技术(北京)有限公司)
现实世界中的许多复杂系统都可以用属性网络来表征。为了挖掘这些网络中潜在的信息,深度嵌入聚类,同时获得节点表示和聚类,近年来备受关注。在不同视图数据一致性的假设下,属性网络的网络拓扑簇结构和节点属性簇结构应该是一致的。然而,许多现有的方法忽略了这个属性,即使他们分别编码节点表示从网络拓扑结构和节点属性,同时聚类节点的表示向量从一个视图。因此,在这项研究中,我们提出了一个端到端的深度嵌入式聚类模型的属性网络。它利用图自动编码器和节点属性自动编码器分别学习节点表示和聚类分配。此外,引入分布一致性约束,以保持两个视图的聚类分布的潜在一致性。在多个数据集上的大量实验表明,与现有的方法相比,该模型具有更好的性能。源代码可以在https://github.com/Zhengymm/DCP上找到。
2022-05-28 cs.AI cs.LG
Multi-local Collaborative AutoEncoder
Southwest Jiaotong University(西南交通大学);Sichuan University(四川大学);University of Macau(澳门大学)
自编码器的表示学习的优异性能在各种应用中引起了相当大的兴趣。然而,未标记数据的结构和多局部协作关系在其编码过程中被忽略,限制了特征提取的能力。本文提出了一种多本地协作自动编码器(MC-AE),它由新型多本地协作表示RBM(mcrRBM)和多本地协作表示GRBM(mcrGRBM)模型组成。由于输入数据中相似的多局部实例和特征被划分到同一块中,因此采用局部敏感哈希(LSH)方法将输入数据划分为多个局部交叉块,其中包含了未标记数据和特征的多局部协作关系。在mcrRBM和mcrGRBM模型中,未标记数据的结构和多局部协作关系被集成到它们的编码过程中。然后,局部隐藏特征收敛于每个局部协作块的中心。在各局部块的协同联合影响下,MC-AE具有强大的表示学习能力,可用于无监督聚类。然而,我们的MC-AE模型可能会在大规模和高维数据集上进行长时间的训练过程,因为它集成了更多的局部协作块。实验结果表明,所提出的MC-AE具有更好的协同表示和泛化能力比对比的深度模型。
2021-10-09 cs.LG stat.ML
Deep embedded clustering of coral reef bioacoustics
Scripps Institution of Oceanography, UCSD(斯克里普斯海洋研究所,加州大学圣迭戈分校);Naval Undersea Warfare Center Newport(纽波特海军水下作战中心)
深度聚类应用于未标记的,自动检测的信号在珊瑚礁音景,以区分鱼的脉冲呼叫鲸鱼的歌曲片段。深度嵌入式聚类(DEC)学习潜在特征,并使用信号的固定长度功率谱图形成分类聚类。手工挑选的光谱和时间特征也被提取和高斯混合模型(GMM)和传统的聚类聚类。DEC,GMM,和传统的聚类进行了测试模拟数据集的鱼脉冲调用(鱼)和鲸鱼的歌曲单位(鲸鱼)与随机带宽,持续时间和信噪比。GMM和DEC都达到了很高的准确性,并确定了鱼类,鲸鱼和重叠的鱼类和鲸鱼信号的集群。传统的聚类方法在聚类大小不等或信号重叠的情况下准确率较低。2020年2月至3月在夏威夷附近记录的鱼类和鲸鱼信号采用DEC、GMM和传统聚类进行聚类。DEC特征在一个小的手动标记数据集上表现出77.5%的最高准确度,用于将信号分类到鱼类和鲸鱼集群中。
2021-03-21 cs.LG cs.SD eess.AS
Search Result Clustering in Collaborative Sound Collections
Universitat Pompeu Fabra(庞培法布拉大学)
当今在线多媒体数据库的庞大规模使得检索其内容成为一项困难且耗时的任务。在线声音收藏的用户通常提交表达广泛意图的搜索查询,通常使系统返回大型且难以管理的结果集。搜索结果聚类是一种将搜索结果内容组织成连贯组的技术,它允许用户在其结果中识别有用的子集。获得一致的和独特的集群,可以探索一个合适的接口是至关重要的,使这项技术的一个有用的补充,传统的搜索引擎。在我们的工作中,我们提出了一个基于图的方法,使用音频功能的聚类不同的声音集合时,查询大型在线数据库。我们提出了一种方法来评估不同的功能在规模上的性能,通过利用与每个声音相关联的元数据。这种分析与使用手动注释数据集的地面实况标签的评估相补充。我们表明,使用置信度的措施,丢弃不一致的集群提高了分区的质量。在确定了最合适的聚类功能后,我们进行了一个实验,用户执行一个健全的设计任务,以评估我们的方法和它的用户界面。定性分析包括可用性问卷调查和半结构化访谈。这为我们提供了有价值的新的见解,促进有效的互动与集群的功能。
2020-04-08 cs.HC cs.IR cs.LG
DETECT: Deep Trajectory Clustering for Mobility-Behavior Analysis
University of Southern California(南加利福尼亚大学)
在丰富的轨迹数据中识别移动行为对于包括城市规划、营销和智能在内的各种应用具有巨大的经济和社会利益。现有的工作轨迹聚类往往依赖于利用原始的空间和/或时间信息的轨迹的相似性测量。这些措施是无法识别类似的运动行为,表现出不同的时空尺度的运动。此外,标记大量轨迹数据的费用是监督学习模型的障碍。为了解决这些挑战,我们提出了一种用于移动行为聚类的无监督神经方法,称为深度嵌入式TrajEctory聚类网络(DETECT)。DETECT分三个部分操作:首先,它通过总结轨迹的关键部分并利用从其地理位置导出的上下文(例如,使用地名录中的兴趣点)。在第二部分中,它学习行为的潜在空间中的轨迹的强大表示,从而能够应用聚类函数(例如$k$ -means)。最后,一个面向聚类的损失是直接建立在嵌入的功能,共同执行功能细化和集群分配,从而提高移动行为之间的分离性。在两个真实世界数据集上进行的详尽的定量和定性实验证明了我们的移动行为分析方法的有效性。
2020-03-03 cs.LG stat.ML
SDEC: Semantic Deep Embedded Clustering
University of Arizona(亚利桑那大学);Trustweb(Trustweb公司);New Mexico State University(新墨西哥州立大学)
本文提出SDEC无监督文本聚类框架,结合改进自编码器与Transformer嵌入,在多个基准数据集上取得领先聚类准确率。
2025-08-18 cs.CL cs.LG
RDEC: Integrating Regularization into Deep Embedded Clustering for Imbalanced Datasets
Toshiba Corporation(东芝公司)
聚类是一项基本的机器学习任务,可以用于许多应用中。随着深度神经网络(DNNs)的发展,将其与聚类技术相结合成为一个新的研究方向,并取得了一定的成功。然而,很少有研究集中在不平衡的数据问题,经常发生在现实世界中的应用。在本文中,我们提出了一种聚类方法,正则化深度嵌入聚类(RDEC),它集成了虚拟对抗训练(VAT),一种网络正则化技术,以及一种称为深度嵌入聚类(DEC)的聚类方法。DEC通过在潜在空间中的质心周围更密集地推送数据来优化聚类分配,但它有时对质心的初始位置很敏感,特别是在不平衡数据的情况下,其中次要类很少有机会被分配一个好的质心。RDEC使用VAT引入正则化,以确保模型对数据局部扰动的鲁棒性。VAT将原始空间中相似的数据推到潜在空间中,将次要类别的数据聚集在一起,从而便于RDEC进行聚类识别。结合DEC和VAT的优势,RDEC在平衡和不平衡基准/真实世界数据集上都达到了最先进的性能。例如,在MNIST数据集上的准确率高达98.41%,在来自MNIST的高度不平衡数据集上的准确率为85.45%,比当前最佳结果高出近8%。
2018-12-06 cs.LG
Convolutional Embedded Networks for Population Scale Clustering and Bio-ancestry Inferencing
Fraunhofer Institute for Applied Information Technology FIT(弗劳恩霍夫应用信息技术研究所FIT);RWTH Aachen University(亚琛工业大学);Vrije Universiteit Amsterdam(阿姆斯特丹自由大学);Insight Centre for Data Analytics, NUI Galway(爱尔兰国立大学戈尔韦分校Insight数据分析中心);German National Library of Medicine, University of Cologne(科隆大学德国国家医学图书馆)
对遗传变异的研究可以帮助找到相关的人群,以确定易患常见疾病的人群,并解释疾病易感性的差异以及患者对药物的反应。机器学习算法越来越多地被应用于识别相互作用的GV,以了解其复杂的表型性状。由于学习算法的性能不仅取决于数据的大小和性质,还取决于底层表示的质量,因此深度神经网络可以学习非线性映射,从而允许将GV数据转换为比手动特征选择更有利于聚类和分类的表示。在本文中,我们提出了卷积嵌入式网络,其中我们结合了两种DNN架构,称为卷积嵌入式聚类和卷积自动编码器分类器,分别用于基于GV对个体进行聚类和预测地理种族。我们对来自1000个基因组和Simons基因组多样性项目的9500万个GV采用了基于CAE的表示学习。重点关注准确性和可扩展性的定量和定性分析表明,我们的方法优于最先进的方法,如VariantSpark和ADMIXTURE。特别是,CEC可以在22小时内对目标人群进行聚类,调整后的rand指数为0.915,归一化互信息为0.92,聚类准确率为89%。此外,CAE分类器可以预测未知样本的地理种族,F1和马修斯相关系数(MCC)得分分别为0.9004和0.8245。为了提供对预测的解释,我们使用梯度提升树(GBT)和SHAP来识别重要的生物标志物。总的来说,我们的方法是透明的,比基线方法更快,并且可扩展到5%到100%的全人类基因组。
2020-04-19 cs.LG q-bio.QM stat.ML
A multi-stage semi-supervised improved deep embedded clustering method for bearing fault diagnosis under the situation of insufficient labeled samples
Harbin Institute of Technology(哈尔滨工业大学)
虽然数据驱动的故障诊断方法已得到广泛应用,但模型训练需要大量的标记数据。然而,在实际工业中实现这一点的困难阻碍了这些方法的应用。为此,提出了一种结合半监督学习和改进的深度嵌入聚类(IDEC)的多阶段半监督改进的深度嵌入聚类(MS-SSIDEC)方法,用于联合挖掘稀缺标记数据和海量未标记数据。在第一阶段,提出了一种基于跳过连接的卷积自动编码器(SCCAE),它可以自动将未标记的数据映射到低维特征空间,并预先训练成为故障特征提取器。在第二阶段,提出了一种半监督改进的深度嵌入式聚类(SSIDEC)网络进行聚类。它首先使用可用的标记数据进行初始化,然后用于同时优化聚类标记分配并使特征空间更加聚类友好。为了解决过拟合现象,在此阶段引入虚拟对抗训练(VAT)作为正则化项。在第三阶段,伪标签是由SSIDEC的高质量的结果获得。标记的数据集可以通过这些伪标记的数据来增强,然后利用这些伪标记的数据来训练轴承故障诊断模型。两个公共数据集的滚动轴承振动数据被用来评估所提出的方法的性能。实验结果表明,该方法在半监督和无监督故障诊断任务中都取得了良好的效果。该方法通过有效地挖掘无监督数据,为有限标记样本情况下的故障诊断提供了一种新的方法。
2021-11-23 cs.AI cs.LG eess.SP
Dynamically Weighted Federated k-Means
Fraunhofer Institute for Industrial Mathematics ITWM(弗劳恩霍夫工业数学研究所ITWM)
本文提出动态加权联邦k-means算法,基于Lloyd方法解决异构分布式数据的联邦聚类问题,通过自适应聚合各数据源聚类信息,匹配集中式k-means性能并优于k-FED。
2023-11-17 cs.LG
An embedded segmental K-means model for unsupervised segmentation and clustering of speech
Stellenbosch University(斯泰伦博斯大学);Toyota Technological Institute at Chicago(芝加哥丰田技术研究所);University of Edinburgh(爱丁堡大学)
无标记语音的无监督分割和聚类是零资源语音处理的核心问题。大多数方法都处于方法论的极端:一些使用具有收敛保证的概率贝叶斯模型,而另一些则选择更有效的启发式技术。尽管在以前的工作中具有竞争力的性能,完整的贝叶斯方法是难以扩展到大型语音语料库。我们介绍了一个近似最近的贝叶斯模型,仍然有一个明确的目标函数,但提高了效率,使用硬聚类和分割,而不是完整的贝叶斯推理。与贝叶斯模型类似,嵌入式分段K均值模型(ES-KMeans)将任意长度的词段表示为固定维的声学词嵌入。我们首先在普通英语和Xitsonga数据集(5小时和2.5小时的语音)上将ES-KMeans与以前的方法进行比较:ES-KMeans在分词方面优于领先的探试法,给出了与贝叶斯模型相似的分数,同时以更少的超参数快5倍。然而,它的集群是不纯的比其他模型。然后,我们通过将ES-KMeans应用于2017年零资源语音挑战赛的5种语言(长达45小时),将其扩展到更大的语料库,与挑战基线相比,它具有竞争力。
2017-09-05 cs.CL cs.LG
FNHSM_HRS: Hybrid recommender system using fuzzy clustering and heuristic similarity measure
Faculty of Computer Engineering, K. N. Toosi University of Technology(霍贾·纳西尔丁·图西工业大学计算机工程学院);University of Bojnord(博季努尔德大学)
如今,推荐系统已经成为一个综合系统,帮助和指导用户在大量的数据在互联网上。协同过滤根据一组用户的评级向活跃用户提供服务。最简单、最容易理解和最成功的模型之一是在推荐系统中找到有品味的用户。在这种模式下,随着用户和项目数量的增加,系统面临着可扩展性问题。另一方面,当评级信息很少时,提高系统性能非常重要。本文提出了一种基于新的启发式相似性度量(NHSM)和模糊聚类的混合推荐系统FNHSM_HRS。在建议的系统中使用模糊聚类方法改善了可扩展性问题,并提高了系统推荐的准确性。该系统是基于协同过滤模型,并与启发式相似性度量,以提高系统的性能和准确性。基于MovieLens数据集的所提出的系统的结果的评估使用MAE、召回率、精确度和准确度测量来执行结果,这表明系统性能的改进和使用其他测量来查找相似性的协同过滤方法的推荐的准确性的提高。
2019-09-26 cs.IR cs.LG
Deep Multi-View Subspace Clustering with Anchor Graph
University of Electronic Science and Technology of China(电子科技大学);Lehigh University(利哈伊大学)
提出基于锚图的深度多视图子空间聚类方法,通过锚图降低复杂度,利用伪标签优化嵌入,并结合对比学习增强聚类性能。
2023-05-11 cs.LG
Multi-Domain Clustering via Measure Quantization
Instituto Federal de Educação, Ciência e Tecnologia do Ceará(塞阿拉联邦教育与科学技术学院);Federal University of Ceara(塞阿拉联邦大学);Sigma Nova Science(Sigma Nova Science公司)
提出基于测度量化的多域聚类框架,通过最小化概率度量学习共享原型,结合最优传输分配,在小批量优化下高效且优于基线。
2026-09-21 cs.LG stat.ML
Drug Repurposing Using Deep Embedded Clustering and Graph Neural Networks
University of Colorado Colorado Springs(科罗拉多州立大学)
针对药物重定位成本高且数据集简化的问题,提出结合无监督深度嵌入聚类与有监督图神经网络链接预测的机器学习流水线,从多组学数据中识别新药物-疾病链接,取得了高准确率并生成了高置信度预测列表。
2025-09-15 cs.LG q-bio.QM
A Deep Embedded Refined Clustering Approach for Breast Cancer Distinction based on DNA Methylation
Instituto de Investigación e Innovación en Bioingeniería, I3B, Universitat Politècnica de València(瓦伦西亚理工大学生物工程研究与创新学院(I3B));Hospital Clínico Universitario de Valencia, Universidad de Valencia(瓦伦西亚大学附属临床医院)
表观遗传学改变在几种类型的癌症的发展中具有重要作用。表观遗传学研究产生了大量的数据,这使得开发能够处理大规模数据的新模型变得至关重要。在这项工作中,我们提出了一种基于DNA甲基化的乳腺癌分化的深度嵌入式精细聚类方法。具体地说,这里提出的深度学习系统使用0到1之间的CpG岛甲基化水平。所提出的方法由两个主要阶段组成。第一阶段包括基于自动编码器的甲基化数据的降维。第二阶段是基于自动编码器提供的潜在空间的软分配的聚类算法。整个方法通过由重构项和分类项组成的加权损失函数进行优化。据作者所知,以前的研究都没有集中在与DNA甲基化分析的端到端分类训练相关的降维算法上。对137个乳腺组织样本的无监督聚类准确率为0.9927,错误率出错率为0.73。在使用不同的甲基化数据库对基于深度学习的方法进行第二次测试之后,在45个乳腺组织样本上获得了0.9343的准确度和6.57的出错率(%)。基于这些结果,所提出的算法优于其他国家的最先进的方法在相同的条件下评估的乳腺癌分类的基础上DNA甲基化数据。
2021-02-18 cs.AI cs.CV cs.LG
Privacy-Preserving Machine Learning for Collaborative Data Sharing via Auto-encoder Latent Space Embeddings
Los Andes University(洛斯安第斯大学);Rappi(Rappi公司);Amazon(亚马逊)
数据共享过程中的隐私保护机器学习是一项至关重要的任务,它可以在不需要共享原始数据源的情况下实现机器学习(ML)模型的协作训练。当组织必须确保敏感数据在整个ML管道中保持私有时,这一点尤其重要,即,训练和推理阶段。本文提出了一个创新的框架,使用表示学习通过自动编码器生成隐私保护的嵌入式数据。因此,组织可以共享数据表示,以提高机器学习模型在具有用于共享的预测下游任务的多个数据源的场景中的性能。
2022-11-11 cs.CR cs.LG
Deep Clustering With Consensus Representations
University of Vienna(维也纳大学);Ludwig Maximilian University of Munich(慕尼黑大学)
深度聚类领域将深度学习和聚类相结合,以学习表示,从而改进学习的表示和所考虑的聚类方法的性能。大多数现有的深度聚类方法被设计用于单个聚类方法,例如,k-means、谱聚类或高斯混合模型,但众所周知,没有一种聚类算法在所有情况下都是最好的。共识聚类试图通过在聚类集合的成员之间建立共识来减轻聚类算法的个体弱点。目前,还没有一种深度聚类方法可以在集成中包括多个异构聚类算法来一起更新表示和聚类。为了缩小这一差距,我们引入了一个共识表示的想法,最大限度地提高合奏成员之间的协议。此外,我们提出了DECCS(Deep Embedded Clustering with Consensus representationS),这是一种深度共识聚类方法,通过将嵌入空间增强到所有集成成员都同意共同聚类结果的程度来学习共识表示。我们的贡献如下:(1)我们介绍了学习一致性表示的异构聚类,一个新的概念,以接近一致性聚类的想法。(2)我们提出了DECCS,第一个深度聚类方法,共同提高了多个异构聚类算法的表示和聚类结果。(3)我们在实验中表明,使用DECCS学习共识表示的性能优于深度聚类和共识聚类的几个相关基线。我们的代码可以在https://gitlab.cs.univie.ac.at/lukas/deccs上找到
2022-10-13 cs.AI cs.LG
Unsupervised Video Class-Incremental Learning via Deep Embedded Clustering Management
Department of Computer Science, University of York, York YO10 5GH, UK(计算机科学系,约克大学,约克 YO10 5GH,英国)
本文提出了一种无监督视频类增量学习方法,通过深度嵌入聚类管理实现高效学习,优于现有基线方法。
2026-01-20 cs.AI cs.CV cs.LG
Multiple Graph Learning for Scalable Multi-view Clustering
Xidian University(西安电子科技大学);School of Electronic Engineering, Xidian University(西安电子科技大学电子工程学院);Chongqing University of Posts and Telecommunications(重庆邮电大学)
基于图的多视图聚类由于能够有效地刻画多媒体数据之间的复杂结构和关系,已经成为一个活跃的研究课题。然而,现有的方法存在以下不足:(1)由于图的构造和特征分解,它们在大规模图学习中效率低下甚至失败。(2)它们不能很好地利用嵌入在不同视图的图中的互补信息和空间结构。为了更好地利用互补信息并解决基于图的多视图聚类的可扩展性问题,提出了一种基于少量锚点和张量Schatten p范数最小化的高效多图学习模型.具体地说,我们通过锚图为每个视图构造一个隐藏的、易处理的大图,并通过张量Schatten p-范数正则化器很好地利用了不同视图锚图中嵌入的互补信息.最后,我们开发了一个有效的算法,该算法与数据大小呈线性关系,以解决我们提出的模型。在多个数据集上的实验结果表明,我们提出的方法优于一些国家的最先进的多视图聚类算法。
2021-08-15 cs.CV cs.LG
Harnessing Data from Clustered LQR Systems: Personalized and Collaborative Policy Optimization
Department of Electrical and Computer Engineering(电气与计算机工程系);North Carolina State University(北卡罗来纳州立大学);The Elmore Family School of Electrical and Computer Engineering(埃尔莫尔家族电气与计算机工程学院);Purdue University(普渡大学)
本文提出一种基于聚类的LQR系统策略优化方法,通过同时进行聚类和学习,为每个聚类生成个性化策略,提高样本效率并避免次优问题。
2025-11-21 cs.LG cs.SY eess.SY
CCFC: Bridging Federated Clustering and Contrastive Learning
Central University of Finance and Economics(中央财经大学)
本文提出了一种基于聚类对比模型的联邦聚类方法CCFC,通过学习对聚类友好的表示,显著提升了高维复杂数据的聚类性能,并在部分情况下使聚类效果翻倍,同时具备处理设备故障的优越能力。
2025-06-02 cs.AI cs.LG
Unsupervised Deep Embedding for Clustering Analysis
University of Washington(华盛顿大学);Facebook AI Research (FAIR)(脸书人工智能研究院)
聚类是许多数据驱动应用领域的核心,并且在距离函数和分组算法方面得到了广泛的研究。相对较少的工作集中在学习表示聚类。在本文中,我们提出了深度嵌入式聚类(DEC),这是一种使用深度神经网络同时学习特征表示和聚类分配的方法。DEC学习从数据空间到低维特征空间的映射,并在其中迭代优化聚类目标。我们对图像和文本语料库的实验评估表明,国家的最先进的方法显着改善。
2016-05-24 cs.CV cs.LG
Guess What's on my Screen? Clustering Smartphone Screenshots with Active Learning
The Pennsylvania State University(宾夕法尼亚州立大学);Stanford University(斯坦福大学)
个人日常活动的很大一部分是通过数字设备体验的。特别是智能手机已经成为内容消费和社交互动的首选界面之一。因此,识别嵌入在频繁捕获的智能手机屏幕截图中的内容是研究媒体行为和健康干预计划的关键先决条件,这些计划分析了活动的相互作用和随着时间的推移的内容切换。屏幕截图图像可以描述异构的内容和应用程序,使得适当分类的先验定义成为一项繁琐的任务,即使对于人类来说也是如此。对屏幕上捕获的敏感数据的隐私保护意味着与手动注释相关的成本很大,因为这项工作无法众包。因此,有必要研究数字屏幕截图分类的无监督和半监督方法的实用性。这项工作介绍了在只有有限数量的标签可用时,在大型屏幕截图集上应用聚类的含义。在本文中,我们开发了一个框架,用于将K-Means聚类与主动学习相结合,以有效利用标记和未标记的样本,其目标是发现潜在类并描述大量的屏幕截图数据。我们测试了类概率传播的SVM嵌入式或XGBoost嵌入式解决方案是否提供了更良好的集群配置。视觉和文本矢量表示的屏幕截图图像的推导和组合,以评估多模态功能的整体性能的相对贡献。
2019-01-10 cs.CV cs.LG cs.MM
CCFC++: Enhancing Federated Clustering through Feature Decorrelation
本文针对联邦聚类中数据异构性导致CCFC维度坍缩和性能下降的问题,提出引入去相关正则化器的CCFC++,有效缓解异构数据影响并显著提升聚类性能。
2024-02-20 cs.LG
Deep Clustering with Measure Propagation
Interactions LLC(Interactions 有限责任公司)
深度模型改进了监督学习和无监督学习的最新技术。例如,深度嵌入式聚类(DEC)通过使用堆叠式自动编码器进行表示学习,极大地提高了无监督聚类的性能。然而,深度建模的一个弱点是原始空间中的局部邻域结构不一定保留在潜在空间中。为了保持局部几何形状,在监督和半监督学习文献中已经提出了各种方法(例如,谱聚类和标签传播)。在本文中,我们将深度表示学习的强度与测量传播(MP)相结合,MP是一种最初用于半监督场景的基于KL发散的图正则化方法。MP的主要假设是,如果两个数据点在原始空间中接近,则它们可能属于同一类,通过类成员分布的KL-散度来衡量。通过在无监督学习场景中采取相同的假设,我们提出了我们的深度嵌入式聚类辅助测量传播(DECAMP)模型。我们在短文本聚类任务上评估了DECAMP。在三个公共数据集上,DECAMP的表现与其他最先进的基线具有竞争力,包括使用额外数据生成聚类过程中使用的词嵌入的基线。例如,在Stackoverflow数据集上,DECAMP实现了79%的聚类准确率,比所有现有基线高出约5%。这些实验结果表明,DECAMP是一种非常有效的无监督学习方法。
2021-04-26 cs.CL cs.LG
Deep Continuous Clustering
University of Maryland, College Park(马里兰大学帕克分校);Intel Labs(英特尔研究院)
聚类高维数据集是困难的,因为点间距离在高维空间中变得不那么有用。我们提出了一个聚类算法,执行非线性降维和聚类联合。数据通过深度自动编码器嵌入到低维空间中。自动编码器作为聚类过程的一部分进行了优化。由此产生的网络产生聚类数据。所提出的方法不依赖于地面实况集群的数量的先验知识。联合非线性降维和聚类被制定为一个全局连续目标的优化。因此,我们避免了离散的重新配置的目标,以前的聚类算法的特点。在来自多个领域的数据集上的实验表明,该算法的性能优于最先进的聚类方案,包括使用深度网络的最新方法。
2018-03-05 cs.CV cs.LG
NECA: Network-Embedded Deep Representation Learning for Categorical Data
University of Science and Technology Beijing(北京科技大学);University of Tennessee Knoxville(田纳西大学诺克斯维尔分校)
我们提出了NECA,一种用于分类数据的深度表示学习方法。NECA建立在网络嵌入和深度无监督表示学习的基础上,深入嵌入属性值之间的内在关系,并使用数值向量表示显式地表达数据对象。NECA专门为分类数据设计,可以支持重要的下游数据采掘任务,如聚类。大量的实验分析证明了NECA的有效性。
2022-05-25 cs.AI cs.LG
Local Clustering in Contextual Multi-Armed Bandits
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
我们研究识别用户集群的上下文多武装匪徒(MAB)。上下文MAB是内容推荐、在线广告等实际应用的有效工具。在实践中,用户依赖性在用户的行为中起着至关重要的作用,因此奖励。聚类相似用户可以提高奖励估计的质量,这反过来又会导致更有效的内容推荐和有针对性的广告。不同于传统的聚类设置,我们聚类用户的基础上未知的强盗参数,这将是增量估计。特别是,我们定义了上下文MAB中的聚类检测问题,并提出了一个强盗算法,LOCB,嵌入本地聚类过程。并从聚类的正确性、有效性和遗憾界等方面对LOCB进行了理论分析。最后,我们从各个方面评估了所提出的算法,它优于最先进的基线。
2023-03-24 cs.LG
Perfect Clustering in Very Sparse Diverse Multiplex Networks
University of Central Florida(中佛罗里达大学)
针对 DIMPLE-SGRDPG 多层网络的层组恢复问题,提出汇集各层信息的张量聚类方法,在更稀疏条件下实现完美聚类并达到接近计算下界。
2025-07-25 cs.LG math.ST stat.ME
VertCoHiRF: Decentralized Vertical Clustering Beyond k-means
CEREMADE, University of Paris Dauphine - PSL, Paris, France(巴黎中央经济与应用数学学院,巴黎第四大学-PSL,巴黎,法国)
VertCoHiRF提出一种基于结构共识的去中心化垂直联邦聚类方法,通过标识符级共识实现跨代理的共享层次聚类,支持异构特征空间和隐私保护。
2026-02-07 cs.LG
FMCL: Class-Aware Client Clustering with Foundation Model Representations for Heterogeneous Federated Learning
University of Central Florida(中央佛罗里达大学)
FMCL通过基础模型生成语义客户端签名,实现一次聚类,提升异构联邦学习性能并保持稳定性。
2026-04-30 cs.CV cs.LG
Track Seeding and Labelling with Embedded-space Graph Neural Networks
Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室);Fermi National Accelerator Laboratory(费米国家加速器实验室);California Institute of Technology(加州理工学院);University of Cincinnati(辛辛那提大学);Oak Ridge National Laboratory(橡树岭国家实验室);SLAC National Accelerator Laboratory(SLAC国家加速器实验室)
为了解决HL-LHC数据的空前规模,Exa.TrkX项目正在研究各种机器学习方法来重建粒子轨道。这些解决方案中最有前途的是图神经网络(GNN),它将事件处理为一个图,该图将跟踪测量(对应于节点的检测器命中)与命中之间的候选线段(对应于边缘)连接起来。检测器信息可以与节点和边缘相关联,使GNN能够在图形周围传播嵌入的参数,并预测节点,边缘和图形级别的可观测值。以前,消息传递GNN在预测双重可能性方面取得了成功,我们在这里报告了这项任务的最新架构的更新。此外,Exa.TrkX项目还研究了图构造和嵌入式表示方面的创新,以实现完全学习的端到端跟踪查找。因此,我们提出了一套扩展到原来的模型,与令人鼓舞的结果命中图分类。此外,我们通过从包含非线性度量结构的学习表示构建图形来探索提高性能,从而实现数据点的高效聚类和邻域查询。我们演示了这个框架如何与传统的聚类管道和GNN方法相适应。嵌入式图馈送到高精度的双联体和三联体分类器中,或者可以通过在嵌入式空间中进行聚类而用作端到端跟踪分类器。一组后处理方法利用探测器物理知识提高性能。最后,我们给出了TrackML粒子跟踪挑战数据集上的数值结果,其中我们的框架在播种和追踪方面都显示出了良好的结果。
2020-06-30 cs.LG hep-ex physics.comp-ph
A Critique of Self-Expressive Deep Subspace Clustering
Mathematical Institute for Data Science(数据科学数学研究所);Johns Hopkins University(约翰斯·霍普金斯大学);University of California, Berkeley(加州大学伯克利分校)
子空间聚类是一种无监督聚类技术,旨在对线性子空间的并集上支持的数据进行聚类,每个子空间定义一个维度低于周围空间的聚类。这个问题的许多现有公式是基于利用线性子空间的自表达属性,其中子空间内的任何点都可以表示为子空间内其他点的线性组合。为了将这种方法扩展到非线性流形的并集上支持的数据,许多研究已经提出使用神经网络来学习原始数据的嵌入,该神经网络通过嵌入空间中的数据上的自表达损失函数来正则化,以鼓励嵌入空间中的数据上的线性子空间的并集。在这里,我们表明,有一些潜在的缺陷,这种方法还没有得到充分解决,在以前的工作。特别是,我们表明模型的制定往往是不适定的,因为它可以导致退化的嵌入的数据,这不需要对应于一个联盟的子空间在所有和不适合聚类。我们通过实验验证了我们的理论结果,并重复了文献中报道的先前实验,我们得出结论,先前声称的性能优势的很大一部分可以归因于ad-hoc后处理步骤,而不是深子空间聚类模型。
2021-03-19 cs.AI cs.CV cs.LG
Unsupervised Video Continual Learning via Non-Parametric Deep Embedded Clustering
Department of Computer Science, University of York(约克大学计算机科学系)
针对无任务边界与标签的无监督视频持续学习,提出基于深度嵌入特征 KDE、新颖性检测和任务间迁移学习的非参数聚类方法。
2025-08-29 cs.AI cs.CV cs.LG
Self-Supervised Discriminative Feature Learning for Deep Multi-View Clustering
School of Computer Science and Engineering, University of Electronic Science and Technology of China(计算机科学与工程学院,电子科技大学);School of Information and Communication Engineering, University of Electronic Science and Technology of China(信息与通信工程学院,电子科技大学);Department of Computer Science, University of Illinois at Chicago(计算机科学系,伊利诺伊大学芝加哥分校);Department of Computer Science and Engineering, Lehigh University(计算机科学与工程系,莱斯大学)
SDMVC通过自监督判别特征学习提升多视图聚类性能,利用深度自编码器和统一目标分布实现特征学习与聚类一致性。
2025-11-20 cs.CV cs.LG
Communication-Efficient Federated Learning through Adaptive Weight Clustering and Server-Side Distillation
Eindhoven University of Technology(埃因霍温理工大学)
本文提出 FedCompress 方法,结合动态权重聚类与服务器端知识蒸馏,在降低联邦学习通信成本的同时学习高泛化模型,并在多个公开数据集上验证了其在通信成本和推理速度上的优势。
2024-02-25 cs.DC cs.LG