Unsupervised Domain Adaptation with Dynamic Clustering and Contrastive Refinement for Gait Recognition
School of Computer Engineering and Science, Shanghai University(上海大学计算机工程与科学学院);School of Electronics and Computer Science, University of Southampton(南安普顿大学电子与计算机科学学院)
提出GaitDCCR模型,通过动态聚类参数与权重质心优化聚类,并结合基于置信度的伪标签精炼与对比教师模块减少噪声伪标签影响,显著提升无监督步态识别性能。
2025-04-06 cs.CV
Partial Multi-View Clustering via Meta-Learning and Contrastive Feature Alignment
针对部分视图缺失导致聚类性能欠佳的问题,提出基于对比学习的双优化框架,结合微调Vision Transformer、KNN填补缺失视图并利用自监督与元学习动态调整权重,在BDGP和HW数据集上优于现有方法。
2024-11-14 cs.CV cs.LG
Contrastive Clustering
Sichuan University(四川大学);TAL Education Group(好未来教育集团);Institute for Infocomm Research, A*STAR(新加坡科技研究局资讯通信研究院)
在本文中,我们提出了一个一阶段的在线聚类方法称为对比聚类(CC),明确执行的实例和集群级对比学习。具体来说,对于给定的数据集,通过数据增强构造正实例和负实例对,然后将其投影到特征空间中。其中,实例级和聚类级对比学习分别在行和列空间中通过最大化正对的相似性而最小化负对的相似性来进行。我们的关键观察是,特征矩阵的行可以被视为实例的软标签,相应地,列可以进一步被视为聚类表示。通过同时优化实例级和集群级对比度损失,该模型以端到端的方式联合学习表示和集群分配。大量的实验结果表明,CC显着优于17个具有挑战性的图像基准的竞争聚类方法。特别是,CC在CIFAR-10(CIFAR-100)数据集上实现了0.705(0.431)的NMI,与最佳基线相比,性能提高了19%(39%)。
2020-09-21 cs.CV cs.LG stat.ML
Unsupervised Deep Metric Learning with Transformed Attention Consistency and Contrastive Clustering Loss
University of Missouri(密苏里大学);Beijing Jiaotong University(北京交通大学)
现有的无监督度量学习方法集中在探索输入图像本身的自我监督信息。我们观察到,在分析图像时,人眼通常会将图像相互比较,而不是单独检查图像。此外,他们经常关注某些关键点,图像区域或对象,这些关键点,图像区域或对象在图像类别之间具有区别性,但在类别内高度一致。即使图像正在变换,注意力模式也将是一致的。基于这一观察结果,我们开发了一种新的无监督深度度量学习方法,其中网络是基于跨图像而不是单个图像的自我监督信息来学习的。为了描述图像比较过程中人类注意力的一致性模式,我们引入了转换注意力一致性的思想。它假设视觉上相似的图像,即使经历不同的图像变换,也应该共享相同的一致的视觉注意力图。这种一致性导致了成对的自我监督损失,使我们能够学习一个暹罗深度神经网络来编码和比较图像与它们的变换或匹配对。为了进一步增强该网络生成的特征的类间区分能力,我们将监督度量学习中的三重损失概念应用于我们的无监督情况,并引入对比聚类损失。我们在基准数据集上的大量实验结果表明,我们提出的方法在很大程度上优于当前最先进的无监督度量学习方法。
2020-08-10 cs.CV
Rethinking Image Forgery Detection via Soft Contrastive Learning and Unsupervised Clustering
School of Computer Science and Engineering, University of Electronic Science and Technology of China(电子科技大学计算机科学与工程学院);Guangdong Key Laboratory of Intelligent Information Processing, College of Electronics and Information Engineering, Shenzhen University(广东智能信息处理重点实验室、电子与信息工程学院)
针对现有图像伪造检测方法忽视像素真伪定义的图像内相对性、跨图像混合同类区域的问题,提出基于软对比学习与无监督聚类的FOCAL方法,在六个公开数据集上IoU指标大幅优于现有最优方法,为该任务提供新范式与基准。
2025-05-17 cs.CV
Contrastive Continual Multi-view Clustering with Filtered Structural Fusion
School of Computer, National University of Defense Technology(国防科技大学计算机学院);School of Computer Science and Technology, Harbin University of Science and Technology(哈尔滨理工大学计算机科学与技术学院)
针对多视图数据按序到达导致的灾难性遗忘问题,提出CCMVC-FSF,利用固定缓冲区保存过滤结构信息并通过对比学习指导新视图划分,理论关联半监督学习与知识蒸馏,实验验证其优越性能。
2024-03-04 cs.AI cs.CV cs.LG
GLC++: Source-Free Universal Domain Adaptation through Global-Local Clustering and Contrastive Affinity Learning
School of Computer Science and Technology, Tongji University(同济大学计算机科学与技术学院);School of Automotive Engineering, Tongji University(同济大学汽车工程学院);Faculty of Computer Science, Chemnitz University of Technology(化学工业大学计算机科学学院);Department of Computer Science, Shanghai Jiao Tong University(上海交通大学计算机科学系);College of Computing and Data Science, Nanyang Technological University(南洋理工大学计算与数据科学学院);School of Computer Science and Technology, Key Laboratory of Embedded System and Service Computing, Ministry of Education, Tongji University(同济大学计算机科学与技术学院、教育部嵌入式系统与服务计算重点实验室)
针对 SF-UniDA 中已知类分类与未知类分离问题,提出 GLC 及融合对比亲和学习的 GLC++,在 VisDA、Office-Home 等场景显著提升性能。
2025-07-26 cs.AI cs.CV cs.LG
Deep Clustering by Semantic Contrastive Learning
Queen Mary University of London(伦敦玛丽女王大学)
虽然对比学习最近通过学习样本特定的判别性视觉特征为未标记图像的深度聚类带来了显着的好处,但其显式推断类决策边界的潜力还不太清楚。这是因为其实例判别策略不是类敏感的,因此,在所得样本特定特征空间上导出的聚类未被优化以对应于有意义的类决策边界。在这项工作中,我们解决了这个问题,通过引入语义对比学习(SCL)。SCL通过制定语义(聚类感知)对比学习目标,在未标记的训练数据上明确地施加基于距离的聚类结构。此外,我们引入了一个聚类的一致性条件,以满足共同的实例视觉相似性和集群决策边界,并同时优化两者的原因有关的假设,语义地面真相类(未知/未标记)的飞行由他们的共识。这种发现未知类决策边界的语义对比学习方法对于对象识别任务的无监督学习具有相当大的优势。大量的实验表明,SCL在六个对象识别基准测试上优于最先进的对比学习和深度聚类方法,特别是在更具挑战性的细粒度和较大的数据集上。
2022-11-20 cs.CV
Dynamic Clustering and Cluster Contrastive Learning for Unsupervised Person Re-identification
Beijing University of Posts and Telecommunications(北京邮电大学)
无监督Re-ID方法旨在从未标记数据中学习鲁棒性和区分性特征。然而,现有的方法往往忽略了Re-ID框架的模块参数与特征分布之间的关系,这可能会导致特征错位,影响模型的性能。为了解决这个问题,我们提出了一个动态聚类和聚类对比学习(DCCC)方法。具体来说,我们首先设计了一个动态的聚类参数调度器(DCPS),调整聚类的超参数,以适应类内和类间距离的变化。然后,设计了一种动态聚类对比学习(DyCL)方法,将聚类表示向量的权值与局部特征关联度相匹配。最后,构建了一种标签平滑软对比损失算法($L_{ss}$),以保持聚类对比学习和自监督学习之间的平衡,同时降低计算量,提高计算效率。在几个广泛使用的公共数据集上的实验验证了我们提出的DCCC的有效性,它通过实现最佳性能而优于以前的最先进的方法。
2023-03-13 cs.CV
Oracle-guided Contrastive Clustering
深度聚类旨在通过深度架构学习聚类表示。现有的聚类方法大多以聚类性能最大化为唯一目标进行聚类,忽略了聚类任务的个性化需求。并导致无指导的聚类解决方案。然而,在实际场景中,预言机可能倾向于通过利用不同的标准(诸如不同的语义(背景、颜色、对象等))来对未标记的数据进行聚类,然后提出个性化的聚类任务。为了实现任务感知的聚类结果,在这项研究中,甲骨文引导的对比聚类(OCC),然后提出了集群交互式成对的“同类”查询的甲骨文具有独特的需求。具体地说,受主动学习的启发,查询一些信息实例对,并根据它们所期望的方向由预言机评估这些实例对是否在同一簇中。然后,这些查询的同类对扩展的对比学习的积极的实例对的集合,引导OCC提取的方向感知的特征表示。因此,由具有不同需求的预言机引导的查询结果可以在期望的方向上驱动OCC的聚类结果。理论上,给出了主动学习方式下的聚类风险的上界,保证了对oracle的主动查询确实降低了聚类风险。大量的实验结果表明,OCC可以准确地沿着特定的方向聚类,它大大优于SOTA聚类方法。据我们所知,它是第一个执行个性化聚类的深度框架。
2022-11-01 cs.CV
Deep Robust Clustering by Contrastive Learning
DAMO Academy, Alibaba Group(阿里巴巴达摩院);Peking University(北京大学)
最近,已经提出了许多无监督的深度学习方法来学习未标记数据的聚类。通过引入数据增强,大多数最新的方法从原始图像及其变换应该共享相似的语义聚类分配的角度来研究深度聚类。然而,由于softmax函数只对最大值敏感,因此即使将它们分配到同一个集群,表示特征也可能完全不同。这可能导致表示特征空间中的高类内差异,这将导致不稳定的局部最优,从而损害聚类性能。为了解决这个问题,我们提出了深度鲁棒聚类(DRC)。与现有方法不同,DRC从语义聚类分配和表示特征两个角度来研究深度聚类问题,可以同时增加类间差异和减少类内差异。通过研究互信息与对比学习之间的内在联系,总结出一个将互信息最大化转化为对比损失最小化的一般框架。并成功地将其应用于DRC中学习不变特征和鲁棒聚类。在六个广泛采用的深度聚类基准上进行的大量实验证明了DRC在稳定性和准确性方面的优越性。例如,在一个实施例中,在CIFAR-10上达到71.6%的平均准确度,比最先进的结果高7.1%。
2020-08-27 cs.CV
Unsupervised Feature Clustering Improves Contrastive Representation Learning for Medical Image Segmentation
University of Notre Dame(圣母大学)
自我监督的实例判别是一种有效的对比借口任务,以学习特征表示和解决有限的医学图像注释。这个想法是使相同图像的变换版本的特征相似,同时迫使所有其他增强图像的表示形成对比。然而,这种基于实例的对比学习无法最大化具有相似内容的图像之间的特征亲和力,同时适得其反地将它们的表示分开,从而使性能下降。最近对这一范例的改进(例如,利用多模态数据、纵向研究中的不同图像、空间对应关系)要么依赖于额外的视图,要么对数据属性作出严格的假设,这可能会牺牲普遍性和适用性。为了解决这一挑战,我们提出了一种新的自监督对比学习方法,该方法使用无监督特征聚类来更好地选择正面和负像样本。更具体地说,我们产生的伪类分层聚类的自动编码器在无监督的方式获得的功能,并防止破坏性的干扰,在对比学习,避免选择否定从相同的伪类。二维皮肤皮肤镜图像分割和三维多类全心脏CT分割的实验表明,我们的方法优于国家的最先进的自监督对比技术在这些任务。
2022-11-15 cs.CV
Multi-level Graph Subspace Contrastive Learning for Hyperspectral Image Clustering
School of Computer Science, China University of Geosciences(中国地质大学计算机学院);School of Computer, National University of Defense Technology(国防科技大学计算机学院)
提出MLGSC框架,通过双视图图卷积子空间、注意力池化及图级与节点级多层对比学习增强HSI全局—局部表示,在四个数据集上显著提升聚类精度。
2024-04-08 cs.CV
Contrastive Fine-grained Class Clustering via Generative Adversarial Networks
NAVER AI Lab(NAVER人工智能实验室);NAVER CLOVA
无监督细粒度类聚类是一个实际而又具有挑战性的任务,由于难以学习的微妙的对象细节的特征表示。我们介绍了C3-GAN,一种利用InfoGAN的分类推理能力和对比学习的方法。我们的目标是学习特征表示,鼓励数据集在嵌入空间中形成不同的聚类边界,同时最大限度地提高潜在代码及其图像观察之间的互信息。我们的方法是训练一个也用于推断聚类的搜索器,以优化对比度损失,其中最大化互信息的图像潜在对被认为是正对,其余的被认为是负对。具体来说,我们将从分类分布中采样的生成器的输入映射到嵌入空间,并让它们充当聚类质心。通过这种方式,C3-GAN成功地学习了一个聚类友好的嵌入空间,其中每个聚类都是可区分的。实验结果表明,C3-GAN在4个细粒度图像数据集上实现了最先进的聚类性能,同时也缓解了模式坍塌现象。代码可在https://github.com/naver-ai/c3-gan上获得。
2022-03-13 cs.CV
Decoupled Contrastive Multi-View Clustering with High-Order Random Walks
Sichuan University(四川大学)
针对多视图聚类中的假负例与假正例问题,提出DIVIDE,通过高阶随机游走全局识别数据对,并在不同嵌入空间进行视图间和视图内对比学习。
2024-01-18 cs.CV
Improve Contrastive Clustering Performance by Multiple Fusing-Augmenting ViT Blocks
School of Mathematics and Statistics(数学与统计学学院);Xidian University(西安电子科技大学);General Education College of Xi’an Eurasia University(西安欧亚大学通识教育学院)
针对现有对比学习网络未充分利用正样本对互补性的问题,提出基于ViT的多融合增强ViT块(MFAVBs),通过多次融合增强正样本特征,结合CLIP预训练特征输入,在七个数据集上聚类性能优于现有技术。
2025-11-12 cs.CV
Hybrid Contrastive Learning with Cluster Ensemble for Unsupervised Person Re-identification
Beijing University of Posts and Telecommunications(北京邮电大学)
无监督人再识别(ReID)的目的是将行人的查询图像与图库集中没有监督标签的图像进行匹配。解决无监督人ReID的最流行方法通常是首先执行聚类算法以产生伪标签,然后利用伪标签来训练深度神经网络。然而,在聚类算法中,伪标签是噪声和敏感的超参数(S)。在本文中,我们提出了一种混合对比学习(HCL)的方法,无监督的人ReID,这是基于实例级和集群级对比损失函数之间的混合。提出了一种基于多粒度聚类集成的混合对比学习(MGCE-HCL)方法,该方法采用多粒度聚类集成策略挖掘伪正样本对之间的优先级信息,并定义了优先级加权的混合对比损失,以更好地容忍伪正样本中的噪声。我们在两个基准数据集Market-1501和DukeMTMC-reID上进行了广泛的实验。实验结果验证了我们的建议的有效性。
2022-04-14 cs.CV
Contrastive Prompt Clustering for Weakly Supervised Semantic Segmentation
Xi'an Jiaotong-Liverpool University(西安交通大学利物浦大学);University of Liverpool(利物浦大学);Microsoft(微软);Zhejiang University(浙江大学)
针对现有弱监督语义分割方法忽略相关类别共享语义、细粒度区分不足的问题,提出对比提示聚类框架,结合大语言模型生成的类别聚类与类别感知补丁级对比损失,提升了分割性能。
2025-09-01 cs.CV
Deep Image Clustering with Contrastive Learning and Multi-scale Graph Convolutional Networks
South China Agricultural University(华南农业大学);Sun Yat-sen University(中山大学)
提出IcicleGCN,结合CNN与多尺度GCN及对比学习,实现统一表示与结构学习,在图像聚类中优于现有方法。
2023-10-17 cs.CV
Incomplete Multi-view Clustering via Diffusion Contrastive Generation
针对不完整多视图聚类中数据恢复过度依赖成对数据且生成数据缺乏多样性的问题,提出扩散对比生成方法(DCG),利用扩散过程学习分布特征并结合对比学习与多级交互,实现了鲁棒的端到端聚类并优于现有方法。
2025-06-29 cs.CV
Generative Diffusion Contrastive Network for Multi-View Clustering
Zhejiang Lab(浙江实验室);Hong Kong University of Science and Technology(香港科技大学);University of Science and Technology of China(中国科学技术大学);Huazhong University of Science and Technology(华中科技大学)
本文提出生成扩散对比网络GDCN,通过多重生成机制解决多视图聚类中的低质量数据问题,实现深度多视图聚类任务的最优性能。
2026-01-18 cs.CV
Trusted Mamba Contrastive Network for Multi-View Clustering
University of Science and Technology of China(中国科学技术大学);China University of Geosciences(中国地质大学);Zhejiang Lab(浙江大学实验室)
针对深度多视图聚类中的不可信融合问题,本文提出 TMCN,通过 TMFN 选择性可信融合与 AsCL 同聚类对比对齐,取得最先进性能。
2025-01-07 cs.CV
Vision Transformer for Contrastive Clustering
South China Agricultural University(华南农业大学);Sun Yat-sen University(中山大学)
视觉Transformer(ViT)已显示出其优于卷积神经网络(CNN)的优势,其能够捕获全局长程依赖性以进行视觉表示学习。除了ViT之外,对比学习也是近年来研究的热点。虽然以前的对比学习工作大多基于CNN,但最近的一些研究试图将ViT和对比学习结合起来,以增强自监督学习。尽管取得了相当大的进展,但这些ViT和对比学习的组合大多集中在实例级对比度上,这往往忽视了全局对比度,并且也缺乏直接学习聚类结果的能力(例如,图像)。鉴于此,本文提出了一种新的深度聚类方法,称为对比聚类的视觉Transformer(VTCC),据我们所知,它首次将Transformer和对比学习结合起来用于图像聚类任务。具体来说,在每个图像上执行两个随机增强,我们利用具有两个权重共享视图的ViT编码器作为骨干。为了弥补ViT的潜在不稳定性,我们引入了一个卷积干,将每个增强的样本分割成一个补丁序列,它使用多个堆叠的小卷积,而不是补丁投影层中的大卷积。通过经由主干学习补丁序列的特征表示,进一步利用实例投影器和聚类投影器来分别执行实例级对比学习和全局聚类结构学习。在八个图像数据集上的实验证明了我们的VTCC方法的稳定性(从头开始训练期间)和优越性(聚类性能)。
2022-07-10 cs.CV cs.LG
Subspace Clustering on Incomplete Data with Self-Supervised Contrastive Learning
Department of Electrical Engineering, Biostatistics(电气工程与生物统计学系);Wisconsin Institute of Discovery(威斯康星发现研究所);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本文提出对比子空间聚类(CSC)方法,通过自监督对比学习处理不完整数据,实现鲁棒的子空间聚类。
2026-01-30 cs.AI cs.CV
Joint Debiased Representation and Image Clustering Learning with Self-Supervision
LMU Munich(慕尼黑大学);Google Research(谷歌研究院)
对比学习是视觉表示学习最成功的方法之一,其性能可以通过对学习到的表示联合执行聚类来进一步提高。然而,现有的联合聚类和对比学习的方法在长尾数据分布上表现不佳,因为多数类压倒并扭曲少数类的损失,从而防止学习有意义的表示。出于这一动机,我们开发了一种新的联合聚类和对比学习框架,通过调整去偏对比损失,以避免不平衡数据集的少数类别的聚类不足。我们表明,我们提出的改进的去偏对比损失和发散聚类损失提高了多个数据集和学习任务的性能。源代码可在https://anonymous.4open.science/r/SSL-debiased-clustering上获得
2022-09-14 cs.CV cs.LG
Strongly Augmented Contrastive Clustering
South China Agricultural University(华南农业大学);Sun Yat-sen University(中山大学)
深度聚类由于其通过深度神经网络联合表示学习和聚类的能力,近年来引起了越来越多的关注。在其最新的发展中,对比学习已经成为一种有效的技术,以大大提高深度聚类性能。然而,现有的基于对比学习的深度聚类算法大多集中在一些精心设计的增强(通常通过有限的变换来保持结构),称为弱增强,但不能超越弱增强来探索更强增强中的更多机会(具有更积极的变换甚至严重的失真)。在本文中,我们提出了一种称为强增强对比聚类(SACC)的端到端深度聚类方法,该方法将传统的两个增强视图范式扩展到多个视图,并联合利用强增强和弱增强来加强深度聚类。特别是,我们利用一个骨干网络与triangle共享的权重,其中一个强增强的视图和两个弱增强的意见。基于由主干产生的表示,弱-弱视图对和强-弱视图对被同时用于实例级对比学习(经由实例投影仪)和集群级对比学习(经由集群投影仪),其与主干一起可以以纯无监督的方式联合优化。在五个具有挑战性的图像数据集上的实验结果表明,我们的SACC方法优于最先进的方法。代码可以在https://github.com/dengxiaozhi/SACC上找到。
2022-07-14 cs.CV cs.LG
MN-Pair Contrastive Damage Representation and Clustering for Prognostic Explanation
Yachiyo Engineering, Co.,Ltd. Research Institute for Infrastructure Paradigm Shift(八千代工程株式会社基础设施范式转换研究所)
对于基础设施检查,损坏表示并不总是与损坏等级的预定义类别相匹配,从而导致两个等级之间的重叠空间中的不可见损坏的详细聚类或更复杂的聚类。损伤表示具有基本复杂的特征;因此,并非所有损伤类别都可以完美地预定义。所提出的MN对对比学习方法有助于通过包括更详细的聚类来探索超出预定义类的嵌入损伤表示。它使用两个加权损失函数来最大化接近锚点的M-1个正图像的相似性和N-1个负像的相异性。它比使用一个正图像的N对算法学习得更快。我们提出了一个管道来获得损伤表示,并使用基于密度的聚类在2-D约简空间自动化更精细的聚类判别。我们还使用Grad-CAM对MN对损伤度量学习可视化了损伤特征的解释。我们在三项实验研究中证明了我们的方法:钢铁产品缺陷、混凝土裂缝以及我们方法的有效性,并讨论了未来的工作。
2023-03-26 cs.CV
Federated Momentum Contrastive Clustering
University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
我们提出了联邦动量对比聚类(FedMCC),一个学习框架,不仅可以在分布式本地数据中提取判别表示,而且还可以进行数据聚类。在FedMCC中,转换后的数据对同时通过在线和目标网络,从而产生四种表示,通过这些表示来确定损失。FedMCC生成的高质量表示可以优于几种现有的线性评估和半监督学习任务的自监督学习方法。FedMCC可以很容易地适应普通的集中式集群,通过我们所谓的动量对比集群(MCC)。我们证明了MCC在STL-10和ImageNet-10等特定数据集中实现了最先进的聚类精度结果。我们还提出了一种方法来减少我们的聚类方案的内存占用。
2022-06-10 cs.CV cs.LG stat.ML
Clustering based Contrastive Learning for Improving Face Representations
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院);Massachusetts Institute of Technology(麻省理工学院);Inria Paris(法国国家信息与自动化研究所巴黎中心);Daimler TSS(戴姆勒TSS公司)
一个好的聚类算法可以发现数据中的自然分组。这些分组,如果使用得当,为学习表征提供了一种弱监督形式。在这项工作中,我们提出了基于聚类的对比学习(CCL),一种新的基于聚类的表示学习方法,使用从聚类中获得的标签以及视频约束来学习区分人脸特征。我们展示了我们的方法对视频人脸聚类的学习表示的挑战性任务。通过几项消融研究,我们分析了从不同来源创建成对的阳性和阴性标签的影响。在BBT-0101、BF-0502和ACCIO三个具有挑战性的视频人脸聚类数据集上的实验表明,CCL在所有数据集上都达到了新的水平。
2020-04-05 cs.CV cs.LG
MiCE: Mixture of Contrastive Experts for Unsupervised Image Clustering
Tsinghua University(清华大学);Institute for AI(人工智能研究院);BNRist Center(北京信息科学与技术国家研究中心);Tsinghua-Bosch Joint ML Center(清华-博世机器学习联合研究中心);THBI Lab(清华脑与智能实验室)
我们提出的混合对比专家(MiCE),一个统一的概率聚类框架,同时利用对比学习和潜在的混合模型捕获的语义结构学习的歧视性表示。受混合专家模型的启发,MiCE采用门控函数根据潜在语义将未标记的数据集划分为子集,并且多个专家以对比学习的方式区分分配给它们的实例的不同子集。为了解决由潜在变量引起的非平凡推理和学习问题,我们进一步开发了MiCE的期望最大化(EM)算法的可扩展变体,并提供收敛性证明。经验上,我们评估的聚类性能的MiCE四个广泛采用的自然图像数据集。MiCE实现了比各种以前的方法和强大的对比学习基线显著更好的结果。
2021-05-05 cs.CV cs.LG
Learning Representation for Clustering via Prototype Scattering and Positive Sampling
Fudan University(复旦大学);Shanghai Center for Brain Science and Brain-inspired Technology(上海脑科学与类脑研究中心)
现有的深度聚类方法依赖于用于下游聚类任务的对比或非对比表示学习。基于对比的方法由于负对学习聚类的统一表示,其中负对,然而,可能不可避免地导致类冲突问题,从而损害聚类性能。另一方面,基于非对比度的方法避免了类冲突问题,但由此产生的非均匀表示可能导致聚类崩溃。为了享受这两个世界的优势,本文提出了一种新的端到端的深度聚类方法与原型散射和正采样,称为ProPos。具体来说,我们首先最大化原型表示之间的距离,命名为原型散射损失,这提高了表示的均匀性。其次,我们将实例的一个增强视图与另一个视图的采样邻居对齐-假设在嵌入空间中是真正的正对-以提高集群内的紧凑性,称为正采样对齐。ProPos的优点是可避免的类冲突问题,统一表示,良好分离的集群和集群内的紧凑性。通过在端到端的期望最大化框架中优化ProPos,大量的实验结果表明,ProPos在中等规模的聚类基准数据集上实现了竞争性能,并在大规模数据集上建立了新的最先进的性能。源代码可从\url{https://github.com/Hzzone/ProPos}获得。
2022-10-19 cs.CV
Pixel-Superpixel Contrastive Learning and Pseudo-Label Correction for Hyperspectral Image Clustering
National University of Defense Technology(国防科技大学);China University of Geosciences(中国地质大学)
针对高光谱图像聚类中像素级对比学习耗时高、超像素级结果粗糙的问题,提出融合两者的PSCPC方法,结合伪标签校正模块对齐两类伪标签并实现监督,兼具有效性与高效性。
2023-12-15 cs.AI cs.CV
THCRL: Trusted Hierarchical Contrastive Representation Learning for Multi-View Clustering
THCRL通过可信层次对比学习解决多视图聚类中的不可信融合问题,引入深度对称层次融合和平均K近邻对比学习模块,提升聚类性能。
2025-12-10 cs.CV
Automatically Identify and Rectify: Robust Deep Contrastive Multi-view Clustering in Noisy Scenarios
National University of Singapore(新加坡国立大学);Intelligent Game and Decision Lab(智能博弈与决策实验室)
针对多视图聚类中噪声导致性能下降的问题,提出框架AIRMVC,通过GMM识别噪声并设计混合纠正策略与噪声鲁棒对比机制生成可靠表示,显著提升了噪声场景下的聚类鲁棒性。
2025-05-27 cs.CV
Improved Face Representation via Joint Label Classification and Supervised Contrastive Clustering
Tencent(腾讯)
针对人脸识别中聚类知识利用不足的问题,本文提出标签分类与监督对比聚类联合优化框架,通过聚类引导角度间隔和聚类中心对齐提升人脸表征性能。
2023-12-07 cs.AI cs.CV
Find Beauty in the Rare: Contrastive Composition Feature Clustering for Nontrivial Cropping Box Regression
Huazhong University of Science and Technology(华中科技大学);Huawei(华为)
自动图像裁剪算法的目标是通过生成具有改进的合成质量的裁剪框来像人类摄影师一样重新合成图像。裁剪框回归方法从注释的裁剪框中学习构图之美。然而,注释的偏差导致了准平凡的重组结果,这有一个明显的倾向于平均位置的训练样本。这种困境的关键在于,该任务被天真地视为一个盒子回归问题,其中稀有样本可能被正常样本所支配,并且稀有样本的组成模式没有得到很好的利用。观察到相似的构图模式往往被标注得接近的裁剪边界所共享,我们认为通过聚类具有相似裁剪边界标注的样本,即相似构图模式,可以从稀有样本中发现构图之美。我们提出了一种新的对比组合聚类(C2C),通过对比动态建立的相似和不相似的组合特征。通过这种方式,可以更好地总结多个图像的常见组成模式,这特别有利于罕见的样本,并赋予我们的模型更好的泛化能力,以呈现非平凡的结果。大量的实验结果表明,我们的模型与现有技术相比的优越性。我们还用一个有趣的分析可视化来说明我们的设计理念。
2023-02-17 cs.CV
NCAGC: A Neighborhood Contrast Framework for Attributed Graph Clustering
Southeast University(东南大学);National Astronomical Observatory, Chinese Academy of Sciences(中国科学院国家天文台);Nanjing Tech University(南京工业大学)
针对属性图聚类中表征学习与聚类分离、过度依赖数据增强及忽略聚类对比信息的问题,本文提出NCAGC框架。该框架通过邻域对比模块和对比自表达模块在统一框架内联合优化,使节点表征面向聚类,在多个数据集上取得优异性能。
2022-07-30 cs.CV
Preventing Dimensional Collapse of Incomplete Multi-View Clustering via Direct Contrastive Learning
不完全多视图聚类(IMVC)是一种无监督的聚类方法,其中基于对比学习的IMVC因其优异的性能而受到关注。以往的方法存在以下问题:1)在解决维度塌陷问题时过度依赖附加的投影头,其中潜在特征在聚类过程中仅在低维子空间中有效。然而,投影头中的许多参数是不必要的。2)由于一致性学习和重构学习对同一特征的学习,恢复的视图中包含不一致的私有信息,无用的私有信息会误导公共语义的学习。为了解决上述问题,我们提出了一种新的不完全多视图对比聚类框架。该框架直接优化潜在特征子空间,利用学习到的特征向量及其子向量进行重构学习和一致性学习,有效避免了维数崩溃,不依赖投影头。由于对不同的特征进行了重构损失和对比损失,因此减少了无用私有信息的不利影响。对于不完整的数据,通过跨视图预测机制恢复丢失的信息,并通过最小条件熵丢弃来自不同视图的不一致信息,进一步避免隐私信息的影响。在5个公开数据集上的实验结果表明,该方法取得了较好的聚类效果。
2023-03-22 cs.AI cs.CV
A Clustering-guided Contrastive Fusion for Multi-view Representation Learning
Beijing Jiaotong University(北京交通大学);Harbin Institute of Technology(哈尔滨工业大学);Nanjing University of Science And Technology(南京理工大学);Wuyi University(五邑大学)
针对多视图表示学习中的噪声鲁棒性与视图一致性互补性平衡挑战,提出聚类引导的对比融合方法CLOVEN,通过深度融合网络、聚类指导与非对称对比策略,在多个数据集上显著提升了聚类与分类性能。
2023-08-04 cs.CV
Consistency Enhancement-Based Deep Multiview Clustering via Contrastive Learning
提出基于对比学习的一致性增强深度多视图聚类方法CCEC,通过引入语义连接块和谱聚类提升多视图特征与聚类表示的一致性,在五个数据集上优于SOTA方法。
2024-03-21 cs.CV cs.LG
Multi-level Feature Learning for Contrastive Multi-view Clustering
University of Electronic Science and Technology of China(电子科技大学);Lehigh University(利哈伊大学)
多视图聚类能够从多个视图中挖掘出共同的语义,受到了越来越多的关注。然而,现有的作品惩罚多个目标在同一个特征空间,他们忽略了学习一致的公共语义和重建不一致的视图私有信息之间的冲突。在本文中,我们提出了一个新的框架,多层次特征学习的对比多视图聚类,以解决上述问题。我们的方法从原始特征中学习不同层次的特征,包括低级特征,高级特征和语义标签/特征,以无融合的方式,因此它可以有效地实现不同特征空间中的重建目标和一致性目标。具体而言,重建目标是在低级别特征上进行的。基于对比学习的两个一致性目标分别在高层特征和语义标签上进行。它们使高层特征有效地挖掘了公共语义,语义标签实现了多视图聚类。因此,所提出的框架可以减少视图隐私信息的不利影响。在公共数据集上的大量实验表明,我们的方法达到了最先进的聚类效果。
2022-03-25 cs.CV cs.LG
Large-Scale Hyperspectral Image Clustering Using Contrastive Learning
China University of Geosciences(中国地质大学);Helmholtz-Zentrum Dresden-Rossendorf(德累斯顿罗森多夫亥姆霍兹中心);Helmholtz Institute Freiberg for Resource Technology(弗赖贝格资源技术亥姆霍兹研究所);Institute of Advanced Research in Artificial Intelligence(人工智能高级研究院);National University of Defense Technology(国防科技大学)
高光谱图像的聚类是一项基本但具有挑战性的任务。近年来,高光谱图像聚类的发展已经从浅层模型向深层模型发展,并在许多基准数据集上取得了令人满意的结果。然而,由于离线聚类的原因,其可扩展性、鲁棒性和泛化能力较差,极大地限制了其在大规模高光谱数据中的应用。为了解决这些问题,我们提出了一个可扩展的深度在线聚类模型,命名为频谱空间对比聚类(SSCC),基于自监督学习。具体来说,我们利用一个对称的孪生神经网络组成的投影头的簇数的维数进行双对比学习从频谱空间增强池。我们定义的目标函数,隐含地鼓励内集群的相似性和减少集群之间的冗余。由此产生的方法通过批量优化以端到端的方式进行训练,使其在大规模数据中具有鲁棒性,并对未知数据具有良好的泛化能力。在三个高光谱图像基准上的大量实验证明了我们方法的有效性,并表明我们大大提高了最先进的方法。
2021-11-15 cs.CV cs.LG
3C: Confidence-Guided Clustering and Contrastive Learning for Unsupervised Person Re-Identification
Dalian Maritime University(大连海事大学);Aberystwyth University(阿伯里斯特威斯大学);Northumbria University(诺森比亚大学)
针对无监督行人重识别中伪标签方法易受特征偏差、噪声伪标签等误导的问题,提出含三类置信度的3C框架,在三个基准数据集上取得了当前最优性能。
2024-08-18 cs.CV
Is it all a cluster game? -- Exploring Out-of-Distribution Detection based on Clustering in the Embedding Space
Ludwig Maximilian University of Munich(路德维希·马克西米利安慕尼黑大学);Technical University of Munich(慕尼黑工业大学)
对于深度神经网络的安全关键型应用,确定新输入何时与训练分布显著不同至关重要。在本文中,我们探讨了这种出分布(OOD)检测问题的图像分类使用集群的语义相似的嵌入的训练数据和利用这些集群之间的距离关系的差异分布数据。我们研究了嵌入空间中聚类的结构和分离,发现有监督的对比学习可以得到分离良好的聚类,而自监督学习则不能。在我们对不同的训练方法、聚类策略、距离度量和阈值方法的广泛分析中,我们观察到没有明确的赢家。最佳方法取决于模型架构和所选的分布内和分布外数据集。虽然我们可以在CIFAR-10上再现作为分布数据的对比训练的出色结果,但我们发现,当在CIFAR-100上训练时,标准交叉熵与余弦相似性配对优于所有对比训练方法。与昂贵的对比训练方法相比,交叉熵提供了有竞争力的结果。
2022-03-16 cs.CV
Towards Efficient and Effective Deep Clustering with Dynamic Grouping and Prototype Aggregation
针对现有对比深度聚类忽略组内成员关系且难以批处理更新组分配的问题,提出端到端深度聚类框架DigPro,通过动态分组和原型聚合结合期望最大化框架,在六个图像基准上实现了优于现有技术的性能。
2024-09-20 cs.CV
Cluster-guided Asymmetric Contrastive Learning for Unsupervised Person Re-Identification
Beijing University of Posts and Telecommunications(北京邮电大学)
无监督的人再识别(Re-ID)的目的是匹配行人图像从不同的相机视图在无监督的设置。现有的无监督人Re-ID方法通常建立在聚类的伪标签上。然而,聚类的质量在很大程度上取决于学习的特征的质量,这些特征绝大多数由图像中的颜色主导,特别是在无监督设置中。在本文中,我们提出了一个引导的非对称对比学习(CACL)方法的无监督的人的Re-ID,其中集群结构的杠杆作用,以指导在一个适当设计的非对称对比学习框架的特征学习。具体来说,我们提出了一种新的集群级对比损失,以帮助暹罗网络有效地挖掘特征学习的不变性相对于不同的数据增强视图内和之间的集群结构,分别。在三个基准数据集上进行的大量实验表明,我们的建议具有优越的性能。
2022-05-09 cs.CV
DWCL: Dual-Weighted Contrastive Learning for Multi-View Clustering
Beijing Institute of Technology(北京理工大学);Beijing Academy of Artificial Intelligence(北京人工智能研究院);La Trobe University(拉筹伯大学)
提出DWCL模型,通过B-O对比机制和双加权策略减少不可靠跨视图并缓解表示退化,在八个多视图数据集上优于现有方法。
2025-01-23 cs.CV cs.LG
Contrastive Multi-view Subspace Clustering of Hyperspectral Images based on Graph Convolutional Networks
China University of Geosciences(中国地质大学);National University of Defense Technology(国防科技大学)
针对高光谱图像单视图子空间聚类未能充分利用空间与纹理信息的问题,提出基于图卷积网络的对比多视图方法,通过双视图亲和学习、对比一致性和注意力融合提升聚类精度。
2023-12-11 cs.AI cs.CV
Cluster Analysis with Deep Embeddings and Contrastive Learning
Iowa State University(爱荷华州立大学);John Deere(约翰迪尔公司)
无监督解纠缠表示学习是计算机视觉中一个长期存在的问题。这项工作提出了一种新的框架,通过结合实例级对比学习与基于深度嵌入的聚类中心预测器,从深度嵌入执行图像聚类。我们的方法以端到端的方式联合学习表示并预测聚类中心。这是通过一个三管齐下的方法来实现的,该方法结合了聚类损失、实例对比损失和锚点损失。我们的基本直觉是,使用集成损失,结合实例级的功能和聚类过程集中在语义相似性加强学习更好的表示在潜在的空间。我们观察到,我们的方法在使用标准聚类度量(如归一化互信息(NMI))进行评估时,在流行的视觉数据集上表现得非常好,此外还产生了由欧几里得距离定义的几何分离的聚类嵌入。我们的框架与广泛接受的聚类方法不相上下,并且在CIFAR-10数据集上的表现优于最先进的对比学习方法,NMI得分为0.772,在强基线上提高了7-8%。
2021-10-02 cs.CV cs.LG
Clustering-Guided Multi-Layer Contrastive Representation Learning for Citrus Disease Classification
College of Informatics, Huazhong Agricultural University(华中农业大学信息学院);Huazhong Agricultural University(华中农业大学);Engineering Research Center of Intelligent Technology for Agriculture, Ministry of Education(农业智能技术工程研究中心);National Key Laboratory for Germplasm Innovation & Utilization of Horticultural Crops(园艺作物种质创新与利用国家重点实验室)
针对柑橘病害分类依赖大量标注数据的问题,提出聚类引导的自监督多层对比表示学习算法(CMCRL),通过聚类质心对比和多层对比训练提取层次特征,在CDD数据集上准确率提升4.5%-30.1%,有效应对类别不平衡挑战。
2025-07-15 cs.CV
Multilayer Graph Contrastive Clustering Network
University of Electronic Science and Technology of China(电子科技大学)
多层图由于其在相互依赖系统建模中的高实用性,在许多领域获得了大量的研究关注。然而,旨在将图中的节点划分为类别或社区的多层图聚类仍处于起步阶段。现有的方法往往局限于利用多视图属性或多个网络,而忽略了更复杂和更丰富的网络框架。为此,我们提出了一个通用的和有效的自动编码器框架多层图聚类命名为多层图对比聚类网络(MGCCN)。MGCCN由三个模块组成:(1)注意力机制用于更好地捕捉节点和邻居之间的相关性,以获得更好的节点嵌入。(2)To为了更好地挖掘不同网络中的一致性信息,提出了一种对比融合策略。(3)MGCCN采用自监督组件,迭代地加强节点嵌入和聚类。对不同类型的真实世界图形数据的大量实验表明,我们提出的方法优于最先进的技术。
2021-12-28 cs.AI cs.CV cs.LG
Mask-informed Deep Contrastive Incomplete Multi-view Clustering
Faculty of Data Science, City University of Macau(澳门城市大学数据科学学院);Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);School of Computer Science, China University of Geosciences(中国地质大学计算机学院)
针对多视图聚类中缺失样本影响知识整合的问题,提出掩码感知融合网络与先验知识辅助对比学习的Mask-IMvC方法,实验证明其在完整和不完整场景下均优于现有方法。
2025-03-30 cs.CV cs.LG
Incomplete Contrastive Multi-View Clustering with High-Confidence Guiding
Harbin Institute of Technology(哈尔滨工业大学)
针对现有不完整多视图聚类存在的信息利用不充分、表示与聚类分离等问题,提出ICMVC方法,通过多视图一致性迁移、注意力融合与端到端联合优化提升聚类性能。
2023-12-14 cs.CV cs.LG
Weakly Contrastive Learning via Batch Instance Discrimination and Feature Clustering for Small Sample SAR ATR
Wuyi University(五邑大学);Beihang University(北京航空航天大学)
针对小样本SAR自动目标识别中标注数据不足的问题,本文提出BIDFC框架,通过批实例判别、可调节嵌入距离的弱对比学习及动态加权方差损失进行特征聚类,在MSTAR等数据集上仅用少量训练数据即取得高识别准确率。
2024-08-07 cs.CV