Unsupervised Hashing with Contrastive Information Bottleneck
Sun Yat-sen University（中山大学）；SUNY at Buffalo（纽约州立大学布法罗分校）
许多无监督散列方法都隐含地建立在重构输入数据的思想上，这基本上鼓励散列代码尽可能多地保留原始数据的信息。然而，这一要求可能会迫使模型花费大量的精力来重建无用的背景信息，而忽略了保留对哈希任务更重要的区分性语义信息。为了解决这个问题，最近的成功的对比学习在学习连续表示的启发，我们建议适应这个框架来学习二进制哈希码。具体来说，我们首先建议修改目标函数以满足哈希的特定要求，然后在模型中引入概率二进制表示层，以便于整个模型的端到端训练。我们进一步证明了所提出的基于对比学习的散列方法和互信息之间的强连接，并表明所提出的模型可以考虑在更广泛的框架下的信息瓶颈（IB）。在这个角度下，自然得到了一个更一般的哈希模型。在三个基准图像数据集上的大量实验结果表明，所提出的哈希方法显着优于现有的基线。
2021-05-19 cs.CV
Unsupervised Outlier Detection using Memory and Contrastive Learning
Xidian University（西安电子科技大学）；Inria Grenoble-Rhone-Alpes（法国国家信息与自动化研究所格勒诺布尔-罗讷阿尔卑斯研究中心）
离群值检测是机器学习中创建良好、可靠数据的最重要过程之一。大多数离群点检测方法通过假设离群点比正常样本（内点）更难恢复来利用辅助重建任务。然而，这并不总是正确的，特别是对于基于自动编码器（AE）的模型。它们可以恢复某些离群值，即使离群值不在训练数据中，因为它们不约束特征学习。相反，我们认为离群点检测可以在特征空间中通过测量离群点和内点之间的特征距离来完成。然后，我们提出了一个框架，MCOD，使用记忆模块和对比学习模块。存储器模块约束表示正常数据的特征的一致性。对比学习模块学习更多有区别的特征，这增强了异常值和内值之间的区别。在四个基准数据集上的大量实验表明，我们提出的MCOD实现了相当大的性能，并优于9个国家的最先进的方法。
2021-07-27 cs.CV
Unsupervised Deep Metric Learning with Transformed Attention Consistency and Contrastive Clustering Loss
University of Missouri（密苏里大学）；Beijing Jiaotong University（北京交通大学）
现有的无监督度量学习方法集中在探索输入图像本身的自我监督信息。我们观察到，在分析图像时，人眼通常会将图像相互比较，而不是单独检查图像。此外，他们经常关注某些关键点，图像区域或对象，这些关键点，图像区域或对象在图像类别之间具有区别性，但在类别内高度一致。即使图像正在变换，注意力模式也将是一致的。基于这一观察结果，我们开发了一种新的无监督深度度量学习方法，其中网络是基于跨图像而不是单个图像的自我监督信息来学习的。为了描述图像比较过程中人类注意力的一致性模式，我们引入了转换注意力一致性的思想。它假设视觉上相似的图像，即使经历不同的图像变换，也应该共享相同的一致的视觉注意力图。这种一致性导致了成对的自我监督损失，使我们能够学习一个暹罗深度神经网络来编码和比较图像与它们的变换或匹配对。为了进一步增强该网络生成的特征的类间区分能力，我们将监督度量学习中的三重损失概念应用于我们的无监督情况，并引入对比聚类损失。我们在基准数据集上的大量实验结果表明，我们提出的方法在很大程度上优于当前最先进的无监督度量学习方法。
2020-08-10 cs.CV
Scale-Aware Contrastive Reverse Distillation for Unsupervised Medical Anomaly Detection
MedAI Technology (Wuxi) Co. Ltd.（MedAI科技（无锡）有限公司）；Technical University of Munich（慕尼黑工业大学）
针对无监督医学异常检测中反向蒸馏判别性不足且难适应异常尺度变化的问题，提出尺度感知对比反向蒸馏模型，通过对比师生学习与多尺度软加权损失实现最先进性能。
2025-03-18 cs.CV
Unsupervised Cross-Modality Domain Adaptation for Vestibular Schwannoma Segmentation and Koos Grade Prediction based on Semi-Supervised Contrastive Learning
Radboud University Medical Center（拉德堡德大学医学中心）；The Netherlands Cancer Institute（荷兰癌症研究所）；Nanjing University of Information Science and Technology（南京信息工程大学）
领域自适应已被广泛采用，以在多个供应商和多个中心之间传输样式，以及补充缺失的模态。在这项挑战中，我们提出了一个无监督的领域自适应框架，用于跨模态前庭神经鞘瘤（VS）和耳蜗分割和Koos等级预测。我们从ceT 1和hrT 2图像中学习共享表示，并从潜在表示中恢复另一种模态，并且我们还利用VS分割和大脑分割的代理任务来限制领域自适应中图像结构的一致性。在生成缺失模态后，nnU-Net模型用于VS和耳蜗分割，而半监督对比学习预训练方法用于提高Koos等级预测的模型性能。在CrossMoDA验证阶段排行榜上，我们的方法在task 1中获得了4级，平均Dice得分为0.8394，在task 2中获得了2级，宏观平均均方误差为0.3941。我们的代码可在https://github.com/fiy2W/cmda2022.superpolymerization上获得。
2022-10-09 cs.CV
Unsupervised Domain Adaptation for Training Event-Based Networks Using Contrastive Learning and Uncorrelated Conditioning
University of Southern California（南加州大学）
基于事件的摄像机为在高动态范围环境和快速运动机动期间执行计算机视觉任务提供可靠的测量。然而，在基于事件的视觉中采用深度学习面临着由于事件相机的新近性而导致的注释数据稀缺的挑战。转移可以从传统相机注释数据中获得的知识为这一挑战提供了一个实用的解决方案。我们开发了一种无监督的领域自适应算法，用于使用对比学习和数据的不相关条件来训练用于基于事件的数据图像分类的深度网络。为此，我们的解决方案优于现有的算法。
2023-03-22 cs.CV cs.LG
Unsupervised Domain Adaptation for Sim-to-Real Object Pose Estimation with Contrastive Alignment and Pseudo-Label Refinement
SnT, University of Luxembourg（卢森堡大学SnT中心）
提出CAPLR方法，通过局部区域对比对齐和基于一致性的伪标签精炼，实现无监督域自适应物体姿态估计，在多个基准上达到最优性能。
2026-06-23 cs.CV
Connect, Not Collapse: Explaining Contrastive Learning for Unsupervised Domain Adaptation
Stanford University（斯坦福大学）
我们考虑无监督领域自适应（UDA），其中来自源域的标记数据（例如，照片）和来自目标域的未标记数据（例如，草图）用于学习目标域的分类器。常规UDA方法（例如，域对抗训练）学习域不变特征以改进对目标域的泛化。在本文中，我们证明了对比预训练，即在未标记的源数据和目标数据上学习特征，然后在标记的源数据上进行微调，与强UDA方法相比具有竞争力。然而，我们发现对比预训练不会学习域不变特征，这与传统的UDA直觉不同。我们从理论上证明，对比预训练可以通过分解域和类信息来学习跨域细微变化的特征，但仍然可以推广到目标域。我们的研究结果表明，域不变性是不必要的UDA。我们在基准视觉数据集上实证验证了我们的理论。
2022-12-02 cs.CV cs.LG
ConFUDA: Contrastive Fewshot Unsupervised Domain Adaptation for Medical Image Segmentation
Friedrich-Alexander-Universität Erlangen-Nürnberg (FAU)（埃尔朗根-纽伦堡弗里德里希-亚历山大大学（FAU））；Stanford University（斯坦福大学）
无监督领域自适应（UDA）旨在将从标记的源领域学习到的知识转移到未标记的目标领域。UDA背景下的对比学习（CL）可以帮助更好地分离特征空间中的类。然而，在图像分割中，由于逐像素对比度损失的计算而导致的大的存储器占用使得其无法使用。此外，标记的目标数据在医学成像中不容易获得，并且获得新的样本不经济。因此，在这项工作中，我们解决了一个更具挑战性的UDA任务时，只有几个（fewshot）或一个单一的（oneshot）图像可从目标域。我们应用了风格转换模块来缓解目标样本的稀缺性。然后，为了使源特征和目标特征对齐，并解决传统对比度丢失的记忆问题，提出了基于质心的对比学习（CCL）和质心范数正则化器（CNR），以优化方向和幅度上的对比度对。此外，我们还提出了多分区形心对比学习（MPCCL）来进一步减少目标特征的方差。MS-CMRSeg数据集上的Fewshot评估表明，与基线相比，ConFUDA在目标域上的分割性能提高了0.34的Dice分数，并且在更严格的oneshot设置中提高了0.31的Dice分数。
2022-06-08 cs.CV cs.LG
Unsupervised Domain Adaptation for Brain Vessel Segmentation through Transwarp Contrastive Learning
University of Leeds（利兹大学）；University of Manchester（曼彻斯特大学）
本文提出一种基于 Transwarp 对比学习的无监督域自适应框架，用于缩小带标签 3DRA 与无标签 MRA 模态间的域差距，并在脑血管数据集上验证其能有效提升无标签 MRA 数据的血管分割性能。
2024-02-23 cs.CV cs.LG
Joint Contrastive Learning for Unsupervised Domain Adaptation
Seoul National University（首尔国立大学）；Hyundai Motor Group（现代汽车集团）
通过匹配边缘分布来增强特征可转移性已经导致了领域自适应的改进，尽管这是以特征鉴别为代价的。特别是，理想的联合假设误差的目标误差上限，这是以前被认为是分钟，已被发现是显着的，削弱其理论保证。在本文中，我们提出了一个替代上限的目标误差，明确考虑联合误差，使其更易于管理。在理论分析的基础上，提出了一种结合源域和目标域的联合优化框架。此外，我们引入了联合对比学习（JCL）来寻找类级判别特征，这对于最小化联合误差至关重要。在坚实的理论框架下，JCL使用对比损失来最大化特征与其标签之间的互信息，这相当于最大化条件分布之间的Jensen-Shannon散度。在两个真实数据集上的实验表明，JCL优于最先进的方法。
2020-06-18 cs.CV cs.LG
Few-Max: Few-Shot Domain Adaptation for Unsupervised Contrastive Representation Learning
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
对比自监督学习方法学习将诸如图像的数据点映射到非参数表示空间而不需要标签。虽然非常成功，但目前的方法在训练阶段需要大量的数据。在目标训练集大小有限的情况下，泛化能力较差。在Few-Shot模式下，在大的源数据集上进行预训练并对目标样本进行微调，很容易出现过拟合，因为只有少量的目标样本可用。出于这一动机，我们提出了一种自监督对比学习的域自适应方法，称为Few-Max，以解决适应少样本学习下的目标分布的问题。为了量化表示质量，我们在一系列源和目标数据集上评估了Few-Max，包括ImageNet，VisDA和fastMRI，Few-Max始终优于其他方法。
2022-06-22 cs.AI cs.CV cs.LG
Unsupervised Continual Anomaly Detection with Contrastively-learned Prompt
Southern University of Science and Technology（南方科技大学）；Tencent Youtu Lab（腾讯优图实验室）；Shanghai Jiao Tong University（上海交通大学）
针对工业制造中无监督异常检测的灾难性遗忘问题，提出UCAD框架，通过对比学习提示词和结合SAM的基于结构对比学习，赋予模型持续学习能力，显著优于现有异常检测方法。
2024-01-02 cs.CV cs.LG
Contrastive Learning and Self-Training for Unsupervised Domain Adaptation in Semantic Segmentation
Institute of Signal Processing and System Theory, University of Stuttgart（斯图加特大学信号处理与系统理论研究所）
深度卷积神经网络大大改善了语义分割的最新结果。然而，即使是现代架构也缺乏很好地泛化到来自不同领域的测试数据集的能力。为了避免对未知领域的训练数据进行昂贵的注释，无监督领域自适应（UDA）试图提供从标记的源领域到未标记的目标领域的有效知识转移。以前的工作主要集中在通过使用对抗训练或自我训练来最大限度地减少这两个领域之间的差异。虽然对抗训练可能无法对齐正确的语义类别，因为它最大限度地减少了全局分布之间的差异，但自我训练提出了如何提供可靠的伪标签的问题。为了调整正确的语义类别跨域，我们提出了一个对比学习的方法，适应跨域的类别明智的质心。此外，我们扩展了我们的方法与自我训练，在那里我们使用一个内存效率的时间合奏，以产生一致和可靠的伪标签。虽然对比学习和自我训练（CLST）通过时间集成使两个领域之间的知识转移，这是他们的组合，导致一个共生结构。我们验证了我们的方法上的两个领域自适应基准：GTA 5 $\rightarrow$城市景观和SYNTHIA $\rightarrow$城市景观。我们的方法比最先进的方法取得了更好或相当的结果。我们将公开代码。
2021-05-05 cs.AI cs.CV
Unsupervised Domain Adaptation with Contrastive Learning for OCT Segmentation
F Hoffmann-La Roche AG（罗氏公司）；Genentech Inc（基因泰克公司）；ETH Zurich（苏黎世联邦理工学院）；Uppsala University（乌普萨拉大学）
三维光学相干断层扫描图像中视网膜液体的准确分割是眼科疾病诊断和个性化治疗的关键。虽然深度学习在这项任务上取得了成功，但训练的监督模型通常会在不类似标记示例的图像上失败，例如使用不同设备获取的图像。在此，我们提出了一种新的半监督学习框架分割的体积图像从新的未标记的域。我们联合使用监督和对比学习，还引入了一个对比配对方案，利用3D中附近切片之间的相似性。此外，我们提出了通道式聚合作为替代传统的空间池聚合对比特征映射投影。我们评估我们的领域自适应从（标记）源域到（未标记）目标域的方法，每个域包含用不同的采集设备采集的图像。在目标域中，我们的方法实现了比Simplified（最先进的对比框架）高13.8%的Dice系数，并导致与该域中监督训练的上限相当的结果。在源域中，我们的模型还通过成功利用来自许多未标记图像的信息，将结果提高了5.4%。
2022-08-03 cs.CV cs.LG eess.IV
Cross-domain Contrastive Learning for Unsupervised Domain Adaptation
Fudan University（复旦大学）；Futurewei Technologies（未来wei技术公司）
无监督领域自适应（UDA）旨在将从完全标记的源领域学习到的知识转移到不同的未标记的目标领域。大多数现有的UDA方法通过最小化跨域的特征距离来学习域不变特征表示。在这项工作中，我们建立在对比自监督学习对齐功能，以减少训练集和测试集之间的域差异。探索由这两个域共享的同一组类别，我们介绍了一个简单而有效的框架CDCL，域对齐。特别是，给定一个锚图像从一个域，我们最小化其距离跨域样本从同一类相对于那些从不同的类别。由于目标标签不可用，我们使用基于聚类的方法，仔细初始化中心，以产生伪标签。此外，我们证明了CDCL是一个通用的框架，可以适应无数据设置，其中源数据在训练过程中不可用，修改最少。我们对两个广泛使用的领域自适应基准进行实验，即，Office-31和VisDA-2017，用于图像分类任务，并证明CDCL在两个数据集上都达到了最先进的性能。
2022-05-09 cs.AI cs.CV cs.LG
Unsupervised Feature Learning by Autoencoder and Prototypical Contrastive Learning for Hyperspectral Classification
Zhejiang University（浙江大学）；HangZhou Dianzi University（杭州电子科技大学）
用于特征提取的无监督学习方法正变得越来越流行。我们结合流行的对比学习方法（原型对比学习）和经典的表示学习方法（自动编码器），设计了一个无监督的高光谱分类特征学习网络。实验证明，我们提出的两种自编码器网络本身具有良好的特征学习能力，而我们设计的对比学习网络能够更好地结合两者的特征，学习更有代表性的特征。实验结果表明，该方法在高光谱分类实验中优于其他比较方法，包括一些监督方法。此外，我们的方法保持了快速的特征提取速度比基线方法。此外，我们的方法降低了对巨大计算资源的要求，将特征提取和对比学习分离，允许更多的研究人员对无监督对比学习进行研究和实验。
2020-09-02 cs.CV
Cluster-guided Asymmetric Contrastive Learning for Unsupervised Person Re-Identification
Beijing University of Posts and Telecommunications（北京邮电大学）
无监督的人再识别（Re-ID）的目的是匹配行人图像从不同的相机视图在无监督的设置。现有的无监督人Re-ID方法通常建立在聚类的伪标签上。然而，聚类的质量在很大程度上取决于学习的特征的质量，这些特征绝大多数由图像中的颜色主导，特别是在无监督设置中。在本文中，我们提出了一个引导的非对称对比学习（CACL）方法的无监督的人的Re-ID，其中集群结构的杠杆作用，以指导在一个适当设计的非对称对比学习框架的特征学习。具体来说，我们提出了一种新的集群级对比损失，以帮助暹罗网络有效地挖掘特征学习的不变性相对于不同的数据增强视图内和之间的集群结构，分别。在三个基准数据集上进行的大量实验表明，我们的建议具有优越的性能。
2022-05-09 cs.CV
Joint Generative and Contrastive Learning for Unsupervised Person Re-identification
Inria（法国国家信息与自动化研究所）；Université Côte d’Azur（蔚蓝海岸大学）；European Systems Integration（欧洲系统集成公司）
最近的自监督对比学习通过从输入的不同视图（变换版本）学习不变性，为无监督的人重新识别（ReID）提供了一种有效的方法。在本文中，我们将生成对抗网络（GAN）和对比学习模块合并到一个联合训练框架中。虽然GAN为对比学习提供在线数据增强，但对比模块学习用于生成的视图不变特征。在这种情况下，我们提出了一个基于网格的视图生成器。具体地，网格投影用作生成人的新颖视图的参考。此外，我们提出了一个视图不变的损失，以促进原始和生成的意见之间的对比学习。与以前基于GAN的涉及领域自适应的无监督ReID方法不同，我们不依赖于标记的源数据集，这使得我们的方法更加灵活。大量的实验结果表明，我们的方法显着优于国家的最先进的方法下，完全无监督和无监督域自适应设置几个大规模的ReID数据集。
2021-03-30 cs.CV
Fully Unsupervised Person Re-identification viaSelective Contrastive Learning
School of Computer Science and Technology, Harbin Institute of Technology（哈尔滨工业大学计算机科学与技术学院）；Peng Cheng Laboratory（鹏城实验室）
人物再识别（ReID）的目的是在不同相机拍摄的图像中搜索同一身份的人。无监督人ReID由于不需要大量的人工标注，具有适应新环境的巨大潜力，近年来引起了人们的广泛关注。表示学习在无监督人ReID中起着至关重要的作用。在这项工作中，我们提出了一种新的选择性对比学习框架的无监督特征学习。具体来说，不同于传统的对比学习策略，我们提出使用多个阳性和自适应采样的阴性来定义对比损失，从而能够学习具有更强的身份鉴别表示的特征嵌入模型。此外，我们建议联合利用全局和局部特征来构建三个动态字典，其中全局和局部存储体用于成对相似度计算，混合存储体用于对比损失定义。实验结果表明，我们的方法在无人监督的人ReID的优越性相比，国家的艺术。
2021-03-04 cs.CV
ICE: Inter-instance Contrastive Encoding for Unsupervised Person Re-identification
Inria（法国国家信息与自动化研究所）；Université Côte d’Azur（蔚蓝海岸大学）；European Systems Integration（欧洲系统集成公司）
无监督的人再识别（ReID）旨在学习没有注释的区别性身份特征。近年来，自监督对比学习因其在无监督表示学习中的有效性而受到越来越多的关注。实例对比学习的主要思想是在不同的增强视图中匹配同一实例。然而，不同实例之间的关系还没有被充分探讨在以前的对比方法，特别是实例级对比损失。为了解决这个问题，我们提出了实例间对比编码（ICE），它利用实例间成对相似性得分来提高以前的类级对比ReID方法。我们首先使用成对相似性排名作为硬实例对比的one-hot硬伪标签，其目的是减少类内方差。然后，我们使用相似性分数作为软伪标签来增强增强视图和原始视图之间的一致性，这使得我们的模型对增强扰动更具鲁棒性。在几个大规模的人ReID数据集上的实验验证了我们提出的无监督方法ICE的有效性，该方法与有监督方法相比具有竞争力。代码可在https://github.com/chenhao2345/ICE上获得。
2021-08-18 cs.CV
Contrastive Learning for Sports Video: Unsupervised Player Classification
York University（约克大学）
我们解决的问题，在一个团队运动中的球员根据他们的团队隶属关系，当球衣的颜色和设计是不知道的先验的无监督分类。我们采用了一种对比学习方法，在这种方法中，嵌入网络学习以纯粹无监督的方式，在没有任何标记数据的情况下，最大化不同球队的球员相对于同一球队的球员的表示之间的距离。我们使用一个新的曲棍球数据集的方法进行评估，发现它优于以前的无监督方法的大幅保证金，特别是对于实时应用程序时，只有少量的帧可用于无监督学习之前，必须进行团队分配。值得注意的是，我们的对比方法在单帧无监督训练后达到了94%的准确率，在500帧（17秒的游戏时间）内准确率上升到97%。我们进一步展示了如何准确的团队分类允许准确的团队条件热图的球员定位计算。
2021-05-03 cs.CV
Cluster-aware Contrastive Learning for Unsupervised Out-of-distribution Detection
Shenzhen Institute of Advanced Study, UESTC（电子科技大学深圳高等研究院）
无监督分布外检测（OOD）的目的是在没有标签信息的情况下分离出落在训练数据分布之外的样本。在众多分支中，对比学习在面向对象检测中显示了其学习区分性表征的优异能力。然而，由于其视野有限，仅关注增强样本之间的实例级关系，缺乏对具有相同语义的样本之间的关系的关注。基于经典的对比学习方法，提出了一种面向对象的无监督对比学习（CCL）框架，该框架同时考虑了实例级和语义级信息。具体而言，本文研究了聚类和对比学习的协同策略，以有效地提取潜在语义，并设计了聚类感知的对比损失函数，以提高面向对象设计的判别能力。损失函数通过将聚类中心和属于同一聚类的样本都视为正样本，可以同时关注全局和局部关系。我们进行了充分的实验，以验证我们的框架的有效性和模型取得了显着的改善各种图像基准。
2023-02-06 cs.CV
Hybrid Contrastive Learning with Cluster Ensemble for Unsupervised Person Re-identification
Beijing University of Posts and Telecommunications（北京邮电大学）
无监督人再识别（ReID）的目的是将行人的查询图像与图库集中没有监督标签的图像进行匹配。解决无监督人ReID的最流行方法通常是首先执行聚类算法以产生伪标签，然后利用伪标签来训练深度神经网络。然而，在聚类算法中，伪标签是噪声和敏感的超参数（S）。在本文中，我们提出了一种混合对比学习（HCL）的方法，无监督的人ReID，这是基于实例级和集群级对比损失函数之间的混合。提出了一种基于多粒度聚类集成的混合对比学习（MGCE-HCL）方法，该方法采用多粒度聚类集成策略挖掘伪正样本对之间的优先级信息，并定义了优先级加权的混合对比损失，以更好地容忍伪正样本中的噪声。我们在两个基准数据集Market-1501和DukeMTMC-reID上进行了广泛的实验。实验结果验证了我们的建议的有效性。
2022-04-14 cs.CV
SiCL: Silhouette-Driven Contrastive Learning for Unsupervised Person Re-Identification with Clothes Change
Beijing University of Posts and Telecommunications（北京邮电大学）；Tsinghua University（清华大学）
针对无监督长期换装行人重识别难题，提出融合RGB与轮廓信息的SiCL对比学习框架，在六个基准上显著优于现有无监督方法。
2024-04-07 cs.CV
Contrastive Registration for Unsupervised Medical Image Segmentation
University of Cambridge（剑桥大学）
医学图像分割是一个相关的任务，因为它是许多诊断过程的第一步，因此在临床应用中是不可缺少的。虽然使用监督技术已经取得了重大成功，但它们假设了一个大型且具有代表性的标记集。这是医学领域的一个强有力的假设，在医学领域，注释是昂贵的，耗时的，并且是人类偏见所固有的。为了解决这个问题，文献中已经提出了无监督技术，但由于学习任何转换模式的困难，它仍然是一个开放的问题。在这项工作中，我们提出了一种新的优化模型框架到一个新的基于CNN的对比注册架构的无监督医学图像分割。我们的方法的核心是利用图像级配准和特征级的对比学习机制，执行基于配准的分割。首先，我们提出了一个架构，捕捉图像到图像的转换模式，通过注册的无监督医学图像分割。其次，我们在注册结构中嵌入了一个对比学习机制，以提高网络在特征层的识别能力。我们表明，我们提出的技术减轻了现有的无监督技术的主要缺点。我们通过数值和视觉实验证明，我们的技术在两个主要的医学图像数据集上的性能大大优于当前最先进的无监督分割方法。
2022-07-20 cs.CV
Cycle Contrastive Adversarial Learning for Unsupervised image Deraining
School of Artificial Intelligence, Nanjing Normal University（南京师范大学人工智能学院）
针对无监督单幅图像去雨中语义表示不足导致内容与雨层分离不佳的问题，提出结合循环对比学习和位置对比学习的CCLGAN，通过特征拉近推远及互信息约束提升去雨性能。
2024-07-16 cs.CV
Transformer-based Clipped Contrastive Quantization Learning for Unsupervised Image Retrieval
Indian Institute of Information Technology Allahabad（印度阿拉哈巴德信息技术学院）；National Cheng Kung University（国立成功大学）
针对现有无监督图像检索方法全局特征利用不足、假负例致偏差的问题，提出融合Transformer全局编码、乘积量化与裁剪对比学习的TransClippedCLR模型，在多个基准数据集上性能优于现有深度模型。
2024-01-27 cs.CV
Dynamic Clustering and Cluster Contrastive Learning for Unsupervised Person Re-identification
Beijing University of Posts and Telecommunications（北京邮电大学）
无监督Re-ID方法旨在从未标记数据中学习鲁棒性和区分性特征。然而，现有的方法往往忽略了Re-ID框架的模块参数与特征分布之间的关系，这可能会导致特征错位，影响模型的性能。为了解决这个问题，我们提出了一个动态聚类和聚类对比学习（DCCC）方法。具体来说，我们首先设计了一个动态的聚类参数调度器（DCPS），调整聚类的超参数，以适应类内和类间距离的变化。然后，设计了一种动态聚类对比学习（DyCL）方法，将聚类表示向量的权值与局部特征关联度相匹配。最后，构建了一种标签平滑软对比损失算法（$L_{ss}$），以保持聚类对比学习和自监督学习之间的平衡，同时降低计算量，提高计算效率。在几个广泛使用的公共数据集上的实验验证了我们提出的DCCC的有效性，它通过实现最佳性能而优于以前的最先进的方法。
2023-03-13 cs.CV
Triplet Contrastive Representation Learning for Unsupervised Vehicle Re-identification
Nanjing University of Science and Technology（南京理工大学）；Nanjing University of Aeronautics and Astronautics（南京航空航天大学）
零件特征学习是车辆再识别中细粒度语义理解的关键。然而，现有的方法直接模型的部分功能和全球功能，这很容易导致严重的梯度消失问题，由于其不平等的特征信息和不可靠的伪标签的无监督车辆重新识别。为了解决这个问题，在本文中，我们提出了一个简单的三元组对比表示学习（TCRL）框架，利用聚类特征来桥接部分特征和全局特征，用于无监督的车辆重新识别。具体而言，TCRL设计了三个存储体来存储实例/聚类特征，并提出了一种代理对比损失（PCL）机制，在相邻的存储体之间进行对比学习，从而将局部特征与全局特征之间的关联表示为局部-聚类和聚类-全局关联的过渡。由于集群存储体处理所有的车辆特征，它可以总结成一个有区别的特征表示。为了深入利用实例/集群信息，TCRL提出了两个额外的损失函数。对于实例级特征，混合对比损失（HCL）通过接近正实例特征并将所有负实例特征推开来重新定义样本相关性。对于聚类级特征，加权正则化聚类对比损失（WRCCL）通过根据实例相似性惩罚错误标记的图像来细化伪标签。大量的实验表明，TCRL优于许多国家的最先进的无监督车辆重新识别方法。
2023-03-16 cs.CV
Unsupervised Feature Clustering Improves Contrastive Representation Learning for Medical Image Segmentation
University of Notre Dame（圣母大学）
自我监督的实例判别是一种有效的对比借口任务，以学习特征表示和解决有限的医学图像注释。这个想法是使相同图像的变换版本的特征相似，同时迫使所有其他增强图像的表示形成对比。然而，这种基于实例的对比学习无法最大化具有相似内容的图像之间的特征亲和力，同时适得其反地将它们的表示分开，从而使性能下降。最近对这一范例的改进（例如，利用多模态数据、纵向研究中的不同图像、空间对应关系）要么依赖于额外的视图，要么对数据属性作出严格的假设，这可能会牺牲普遍性和适用性。为了解决这一挑战，我们提出了一种新的自监督对比学习方法，该方法使用无监督特征聚类来更好地选择正面和负像样本。更具体地说，我们产生的伪类分层聚类的自动编码器在无监督的方式获得的功能，并防止破坏性的干扰，在对比学习，避免选择否定从相同的伪类。二维皮肤皮肤镜图像分割和三维多类全心脏CT分割的实验表明，我们的方法优于国家的最先进的自监督对比技术在这些任务。
2022-11-15 cs.CV
Unsupervised Lifelong Person Re-identification via Contrastive Rehearsal
Inria（法国国家信息与自动化研究所）；Université Côte d’Azur（蔚蓝海岸大学）；European Systems Integration（欧洲系统集成公司）
现有的无监督人员重新识别（ReID）方法专注于将在源域上训练的模型适应于固定的目标域。然而，一个适应的ReID模型通常只适用于某个目标领域，但很难记住源领域的知识，并推广到即将到来的未知数据。在本文中，我们提出了无监督的终身人ReID，其重点是在新领域上持续进行无监督的领域自适应，而不会忘记从旧领域学到的知识。为了解决无监督的终身ReID问题，我们对少量存储的旧样本进行对比排练，同时顺序适应新的领域。我们还在新旧模型之间设置了图像到图像的相似性约束，以适合旧知识的方式正则化模型更新。我们以无监督的方式在几个大规模数据集上顺序训练我们的模型，并在所有可见的域以及几个看不见的域上对其进行测试，以验证我们方法的通用性。我们提出的无监督终身方法具有很强的泛化能力，在可见和不可见的领域都显着优于以前的终身方法。代码将在https://github.com/chenhao2345/UCR上提供。
2022-03-12 cs.CV
Implicit Data Synthesis for Contrastive Unsupervised Data Augmentation
School of Informatics, The University of Edinburgh（信息学院）；Massachusetts Institute of Technology Lincoln Laboratory（麻省理工学院林肯实验室）
针对科学观测数据难以标注的问题，提出通过扰动网络权重而非数据生成对比样本，在雷达流星观测上使用SimCLR管道验证性能提升。
2026-06-05 cs.CV
Take More Positives: An Empirical Study of Contrastive Learing in Unsupervised Person Re-Identification
Shandong University（山东大学）；Hong Kong Baptist University（香港浸会大学）；Meituan（美团）
无监督人员重新识别（re-ID）旨在缩小与监督方法的性能差距。这些方法在学习表示的同时在数据点之间建立可靠的关系。然而，我们的经验表明，他们成功的原因不仅是他们的标签生成机制，而且他们未经探索的设计。通过交叉研究两种无监督的人员再识别方法，指出它们分别通过数据增强和PK采样器的设计隐式地处理了一个困难的负问题。在本文中，我们找到了另一个简单的解决方案，即，在训练过程中采取更多的积极措施，通过这种方式，我们以迭代的方式生成伪标签并更新模型。基于我们的研究结果，我们提出了一种无记忆的对比学习方法，用于无监督的人重新识别。我们的方法在基准数据集上运行良好，性能优于最先进的方法。代码将提供。
2021-03-19 cs.CV
Camera-aware Style Separation and Contrastive Learning for Unsupervised Person Re-identification
Beijing JiaoTong University（北京交通大学）
无监督的人再识别（ReID）是一项具有挑战性的任务，没有数据注释来指导区分学习。现有方法试图通过对提取的嵌入进行聚类以生成伪标签来解决这个问题。然而，大多数方法都忽略了摄像机风格变化引起的类内差异，有的方法虽然试图解决摄像机风格对特征分布的负面影响，但相对复杂和间接。针对这一问题，本文提出了一种摄像机感知的风格分离和对比学习方法（CA-UReID），该方法通过设计摄像机感知的注意力模块，直接在特征空间中分离摄像机风格。它可以显式地将可学习的特征划分为相机特定和相机不可知的部分，减少不同相机的影响。此外，为了进一步缩小摄像机之间的差距，我们设计了一个摄像机感知的对比中心损失，以学习每个身份的更多区别性嵌入。大量的实验表明，我们的方法优于国家的最先进的方法在无监督的人ReID任务。
2021-12-19 cs.CV
Unsupervised Contrastive Photo-to-Caricature Translation based on Auto-distortion
Anhui University（安徽大学）；University of Chinese Academy of Sciences（中国科学院大学）
照片转漫画翻译的目的是通过素描、铅笔笔画或其他艺术绘画将漫画合成为渲染图像，夸大特征。风格渲染和几何变形是照片转漫画翻译中最重要的两个方面。考虑到这两点，我们提出了一个无监督的对比照片到漫画翻译架构。考虑到现有方法中的直观伪像，我们提出了一种对比风格损失的风格渲染，以加强渲染的照片和漫画之间的风格的相似性，同时增强其差异的照片。为了以非成对/无监督的方式获得夸张的变形，我们提出了一个失真预测模块（Distortion Prediction Module，简称DTS），用于在固定一些控制点的同时预测每个输入图像的一组位移向量，然后通过薄板样条插值进行翘曲。该模型在未配对的照片和漫画上进行训练，同时可以通过输入照片或漫画来提供双向合成。大量的实验表明，与现有的竞争对手相比，所提出的模型是有效的，以生成手绘漫画。
2020-11-10 cs.CV
Contrastive Losses Are Natural Criteria for Unsupervised Video Summarization
Osaka University（大阪大学）；CyberAgent, Inc.（赛博艾坚特公司）
视频摘要旨在选择视频中信息量最大的帧子集，以促进高效的视频浏览。无监督方法通常依赖于启发式训练目标，如多样性和代表性。然而，这种方法需要引导在线生成的摘要来计算重要性分数回归的目标。我们认为这样的管道效率低下，并寻求直接量化的帧级的重要性的对比损失的帮助下，在表示学习文献。利用对比损失，我们提出了三个指标，具有理想的关键帧：局部相异性，全局一致性和唯一性。通过在图像分类任务中预先训练的特征，这些指标已经可以产生高质量的重要性分数，表现出比过去经过大量训练的方法更有竞争力或更好的性能。我们表明，通过使用轻量级的对比学习投影模块来细化预训练的特征，可以进一步提高帧级重要性分数，并且该模型还可以利用大量的随机视频并推广到测试性能良好的视频。代码可在https://github.com/pangzss/pytorch-CTVSUM获得。
2022-11-18 cs.CV
Unsupervised Multiview Contrastive Language-Image Joint Learning with Pseudo-Labeled Prompts Via Vision-Language Model for 3D/4D Facial Expression Recognition
提出 MultiviewVLM，通过伪标签文本提示、联合嵌入、稳定正负采样和梯度友好损失实现3D/4D面部表情的无监督多视图对比学习，性能超过现有方法。
2025-05-14 cs.CV
Unsupervised Gaze-aware Contrastive Learning with Subject-specific Condition
Delft University of Technology（代尔夫特理工大学）
提出基于对比学习的无监督框架ConGaze，通过注视特定数据增强和特定主体条件投影模块学习跨主体通用注视感知表示，在多个公开数据集上显著优于现有无监督及监督学习方法。
2023-09-08 cs.CV
Contrastive Learning for Unsupervised Image-to-Image Translation
Seoul National University（首尔大学）
图像到图像翻译旨在学习不同视觉可区分图像组之间的映射。虽然最近的方法已经显示出令人印象深刻的改变图像复杂外观的能力，但它们仍然依赖于域标签来训练模型以区分不同的视觉特征。这种对标签的依赖往往大大限制了应用范围，因为一致和高质量的标签是昂贵的。相反，我们希望从图像本身捕获视觉特征，并将其应用于实现逼真的翻译，而无需人工生成标签。为此，我们提出了一种基于对比学习的无监督图像到图像的翻译方法。关键的想法是学习一个区分不同风格的生成器，并让生成器监督生成器在图像之间传输这些风格。在训练过程中，我们随机抽取一对图像，并训练生成器将一个图像的外观改变为另一个图像，同时保持原始结构。实验结果表明，我们的方法优于领先的无监督基线的视觉质量和翻译精度。
2021-05-07 cs.CV
Large-Scale Unsupervised Person Re-Identification with Contrastive Learning
Tongji University（同济大学）
现有的公众人物重新识别~（ReID）数据集在现代意义上是小的，因为标签的困难。尽管未标记的监控视频非常丰富，而且相对容易获得，但目前还不清楚如何利用这些视频来学习有意义的ReID表示。特别是，大多数现有的无监督和领域自适应ReID方法在其实验中仅利用公共数据集，并去除标签。此外，由于数据量小，这些方法通常依赖于在测试域中通过未标记的训练数据进行微调以实现良好的性能。受大规模自监督图像分类的最新进展的启发，使用对比学习，我们提出了学习ReID表示从大规模未标记的监控视频单独。在现成的行人检测工具的帮助下，我们在图像和轨迹级别上应用对比度损失。再加上使用相机标签免费提供的主成分分析步骤，我们使用大规模未标记数据集的评估显示，在测试域中不使用任何训练数据的无监督方法中，性能要优越得多。此外，准确性随着数据大小而提高，因此我们的方法在更大和更多样化的数据集上具有很大的潜力。
2021-05-17 cs.CV
Generating and Reweighting Dense Contrastive Patterns for Unsupervised Anomaly Detection
Shanghai University（上海大学）；Fudan University（复旦大学）
本文提出无先验异常生成范式及基于扩散模型PatchDiff和自监督重加权的GRAD框架，在MVTec数据集上实现高效且准确的异常检测。
2023-12-26 cs.CV
Tracking without Label: Unsupervised Multiple Object Tracking via Contrastive Similarity Learning
Northwestern Polytechnical University（西北工业大学）
本文提出无监督对比相似性学习（UCSL）方法，通过自对比、交叉对比和模糊对比三个模块，在无标签条件下实现多目标跟踪，并在基准上超越现有无监督方法，甚至优于许多全监督方法。
2023-09-02 cs.CV
Unsupervised CD in satellite image time series by contrastive learning and feature tracking
University of Trento（特伦托大学）
本文提出结合对比学习、特征跟踪与 ConvLSTM 自训练的两阶段无监督方法，用于卫星图像时间序列变化检测，并在两个数据集上验证其准确率提升。
2023-04-22 cs.CV
CRADL: Contrastive Representations for Unsupervised Anomaly Detection and Localization
German Cancer Research Center (DKFZ)（德国癌症研究中心（DKFZ））
医学成像中的无监督异常检测旨在检测和定位任意异常，而无需在训练期间注释异常数据。通常，这是通过学习正常样本的数据分布并检测图像中偏离该分布的异常区域来实现的。大多数当前最先进的方法使用直接在图像上操作的潜变量生成模型。然而，生成模型已被证明主要捕获低级特征，例如，像素强度，而不是丰富的语义特征，这也适用于它们的表示。我们规避这个问题，提出CRADL，其核心思想是直接在低维表示空间的编码器训练与对比的预文本任务的正常样本的分布建模。通过利用对比学习的表征，我们的目标是修复低层特征上的过固定，并学习更多语义丰富的表征。我们使用三个不同的评估数据集对异常检测和定位任务进行的实验表明：1）对比表示优于生成潜变量模型的表示，2）CRADL框架显示出与最新技术相比具有竞争力或优越的性能。
2023-01-05 cs.CV
Recognizing Handwriting Styles in a Historical Scanned Document Using Unsupervised Fuzzy Clustering
City College of San Francisco（旧金山城市学院）；Santa Clara University（圣克拉拉大学）
本研究针对历史扫描文档中多位抄写员手写风格归属的高维挑战，提出结合线性主成分分析与模糊软聚类的无监督方法，成功检测手写转换，为历史文档书写者归属和法医分析提供了新途径。
2023-06-28 cs.CV
Revisiting Multi-Granularity Representation via Group Contrastive Learning for Unsupervised Vehicle Re-identification
Shanghai Jiao Tong University（上海交通大学）
针对有监督车辆重识别模型在真实场景因域差异性能骤降的问题，提出融合多粒度CNN表征与组对比学习的无监督框架MGR-GCL，通过生成伪标签实现域适应，性能优于现有最优方法。
2024-10-29 cs.CV
HEAP: Unsupervised Object Discovery and Localization with Contrastive Grouping
National University of Singapore（新加坡国立大学）；Huawei International Pte Ltd（华为国际私人有限公司）
提出基于对比分组的分层合并框架HEAP，通过轻量级交叉注意力头和区域级、图像级对比损失实现高效的分层图像分解，在无监督目标发现与定位任务上取得最先进性能。
2024-01-04 cs.CV
Masked Scene Contrast: A Scalable Framework for Unsupervised 3D Representation Learning
The University of Hong Kong（香港大学）
作为一项开创性的工作，PointContrast通过在原始RGB-D帧上利用对比学习进行无监督3D表示学习，并证明了其在各种下游任务上的有效性。然而，由于两个绊脚石，3D中的大规模无监督学习的趋势尚未出现：将RGB-D帧作为对比视图进行匹配的效率低下，以及之前的作品中提到的恼人的模式坍塌现象。把这两个绊脚石变成经验的垫脚石，我们首先提出了一个高效和有效的对比学习框架，该框架通过精心策划的数据增强管道和实用的视图混合策略直接在场景级点云上生成对比视图。其次，我们在对比学习框架上引入了重构学习，并设计了一个精致的对比十字蒙版，目标是点颜色和曲面法线的重构。我们的Masked Scene Contrast（MSC）框架能够更高效地提取全面的3D表示。与以前的工作相比，它将预训练过程加速了至少3倍，并且仍然实现了不折不扣的性能。此外，MSC还支持跨多个数据集的大规模3D预训练，这进一步提高了性能，并在多个下游任务上实现了最先进的微调结果，例如，ScanNet语义分割验证集上的mIoU为75.5%。
2023-03-24 cs.CV
Contrast, Stylize and Adapt: Unsupervised Contrastive Learning Framework for Domain Adaptive Semantic Segmentation
Shanghai Jiao Tong University（上海交通大学）；LTCI, Télécom-Paris, Institut Polytechnique de Paris（巴黎理工学院巴黎电信学院LTCI）
针对现有无监督域自适应语义分割方法未结合像素与特征层面对齐的问题，提出CONFETI框架，通过类别原型关联像素级风格迁移对齐与特征级像素-原型对比对齐，在DeepLabV2设置下性能超越现有SOTA方法。
2023-06-15 cs.CV
Unsupervised Facial Expression Representation Learning with Contrastive Local Warping
University of Technology Sydney（悉尼科技大学）；Baidu Inc.（百度公司）；Zhejiang University（浙江大学）
本文研究了用于面部表情分析的无监督表示学习。我们认为无监督面部表情表示（UFER）值得探索，并有可能解决面部表情分析中的一些关键挑战，例如缩放，注释偏差，离散标签和连续情感之间的差异以及模型预训练。出于这种动机，我们提出了一种具有对比局部变形（ContraWarping）的UFER方法，该方法利用了情感表达对当前全局变换（仿射变换，颜色抖动等）具有鲁棒性的见解。但是可以通过随机局部翘曲容易地改变。因此，对于给定的人脸图像，ContraWarping通过全局变换和局部变形来产生正负样本，建立了一个新的对比学习框架。我们的深入研究表明：1）来自全局变换的正对可以用一般的自监督学习（例如，BYOL）并且已经带来了一些信息特征，以及2）来自局部翘曲的负对明确地引入了表达相关的变化并且进一步带来实质性的改进。基于ContraWarping，我们证明了UFER的好处下两个面部表情分析场景：面部表情识别和图像检索。例如，直接使用ContraWarping特征进行线性探测在RAF-DB上实现了79.14%的准确率，大大减少了与完全监督对应物的差距（88.92% / 84.81%，有/没有预训练）。
2023-03-16 cs.CV
Embedding contrastive unsupervised features to cluster in- and out-of-distribution noise in corrupted image datasets
Insight SFI Centre for Data Analytics（Insight SFI数据分析中心）；Dublin City University（都柏林城市大学）
在创建图像数据集时，使用搜索引擎进行Web图像检索是手动策展的一种诱人的替代方案，但其主要缺点仍然是检索到的不正确（噪声）样本的比例。这些嘈杂的样本已被证明是在分布（ID）样本的混合物，分配到不正确的类别，但呈现类似的视觉语义的数据集中的其他类，和分布（OOD）的图像，没有共享任何语义相关性的数据集的任何类别。在实践中，后者是检索到的噪声图像的主要类型。为了解决这种噪声二元性，我们提出了一个两阶段算法，从检测步骤开始，我们使用无监督的对比特征学习来表示特征空间中的图像。我们发现，对比学习的对齐和一致性原则，允许OOD样本线性分离的ID样本上的单位超球面。然后，我们使用固定的邻域大小对无监督表示进行频谱嵌入，并在类级别上应用离群值敏感聚类来检测干净和OOD聚类以及ID噪声离群值。最后，我们训练一个噪声鲁棒的神经网络，该网络将ID噪声校正到正确的类别，并在引导对比目标中利用OOD样本，对它们进行聚类以改善低级特征。我们的算法改进了合成噪声图像数据集以及现实世界的网络爬行数据的最先进的结果。我们的工作是完全可复制的github.com/PaulAlbert31/SNCF。
2022-07-18 cs.CV
Unsupervised contrastive analysis for anomaly detection in brain MRIs via conditional diffusion models
University of Turin（都灵大学）
提出一种基于条件扩散模型的无监督对比分析框架，通过自监督对比编码器提取解剖特征来条件化扩散模型，显著提升了脑部MRI图像的重建质量和异常定位性能。
2025-07-01 cs.CV
Unsupervised Visual Representation Learning by Synchronous Momentum Grouping
Shanghai Jiao Tong University（上海交通大学）；HuaWei Technologies Co., Ltd.（华为技术有限公司）
在本文中，我们提出了一种真正的组级对比视觉表示学习方法，其在ImageNet上的线性评估性能超过了普通的监督学习。两种主流的无监督学习方案是实例级对比框架和基于聚类的方案。前者采用极细粒度的实例级判别，其监督信号由于漏报而效率不高。虽然后者解决了这个问题，但它们通常会带来一些影响性能的限制。为了综合它们的优点，我们设计了SMoG方法。SMoG遵循对比学习的框架，但从实例到组替换对比单元，模仿基于聚类的方法。为了实现这一点，我们提出了动量分组方案，同步进行特征分组与表示学习。这样，SMoG解决了基于聚类的方法通常面临的监督信号滞后的问题，并减少了实例对比方法的误报。我们进行了详尽的实验，以表明SMoG在CNN和Transformer骨干上都能很好地工作。实验结果表明，该方法优于现有的SOTA无监督表示学习方法.此外，它的线性评价结果优于香草监督学习的性能，并表示可以很好地转移到下游任务。
2022-07-13 cs.CV
