About contrastive unsupervised representation learning for classification and its convergence
Université de Paris（巴黎大学）；Université Paris-Dauphine（巴黎多芬纳大学）；Ecole normale supérieure（巴黎高等师范学院）；CNRS（法国国家科学研究中心）
对比表示学习最近被证明是非常有效的自我监督训练。这些方法已成功地用于训练编码器，该编码器对下游分类任务执行监督训练。一些工作已经开始围绕对比学习建立一个理论框架，其中可以证明其性能的保证。我们将这些结果扩展到多个阴性样本的训练和多路分类。此外，我们提供了收敛保证，以最小化过参数化深度神经编码器的梯度下降的对比训练误差，并提供了一些数值实验，以补充我们的理论发现
2020-12-02 cs.AI cs.LG stat.ML
Neural Audio Fingerprint for High-specific Audio Retrieval based on Contrastive Learning
Seoul National University（首尔国立大学）；SK Telecom（SK电讯）
大多数现有的音频指纹识别系统在用于大规模的高特异性音频检索方面具有局限性。在这项工作中，我们从音频的短单元段生成一个低维表示，并将此指纹与快速最大内积搜索相结合。为此，我们提出了一个对比学习框架，来自段级搜索目标。训练中的每次更新都使用一批由一组伪标签、随机选择的原始样本及其增强副本组成的批。这些复制品可以通过应用小的时间偏移和各种类型的失真（例如背景噪声和房间/麦克风脉冲响应）来模拟对原始音频信号的降级效果。在段级搜索任务中，传统的音频指纹识别系统过去常常失败，我们的系统使用10倍的小存储空间，显示出有希望的结果。我们的代码和数据集可在\url{https://mimbres.github.io/neural-audio-fp/}上获得。
2021-02-10 cs.IR cs.LG cs.SD
Contrastive Learning for Unsupervised Domain Adaptation of Time Series
ETH Zürich（苏黎世联邦理工学院）；LMU Munich（慕尼黑大学）
无监督领域自适应（UDA）旨在使用在相似但不同的未标记目标域上表现良好的标记源域来学习机器学习模型。UDA在许多应用中很重要，例如医学，它用于调整不同患者队列的风险评分。在本文中，我们开发了一个新的框架UDA的时间序列数据，称为CLUDA。具体来说，我们提出了一个对比学习框架来学习多变量时间序列中的上下文表示，以便这些保留标签信息的预测任务。在我们的框架中，我们进一步捕获的变化，通过自定义最近邻对比学习的上下文表示之间的源和目标域。据我们所知，我们是第一个学习时间序列数据的UDA的域不变，上下文表示的框架。我们使用广泛的时间序列数据集来评估我们的框架，以证明其有效性，并表明它实现了时间序列UDA的最先进性能。
2023-02-07 cs.AI cs.LG
Probing Negative Sampling Strategies to Learn GraphRepresentations via Unsupervised Contrastive Learning
Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳））
图的表示学习一直是一个重要的，但具有挑战性的任务，为各种现实世界的应用。然而，它们的下游任务主要是在监督或半监督学习的设置中执行的。受无监督对比学习最新进展的启发，本文旨在研究如何进行节点级对比学习。特别地，我们分别解决了类冲突问题和负数据分布不平衡问题。在三个真实数据集上进行了大量的实验，所提出的方法达到了SOTA模型的性能。
2021-04-13 cs.LG
Difficult Examples Hurt Unsupervised Contrastive Learning: A Theoretical Perspective
State Key Lab of General AI, School of Intelligence Science and Technology, Peking University（北京大学智能科学与技术学院人工智能国家重点实验室）；School of Engineering, Hong Kong University of Science and Technology（香港科技大学工程学院）；Institute for Artificial Intelligence, Peking University（北京大学人工智能研究院）
本文从理论角度探讨了困难示例对无监督对比学习的影响，发现移除困难示例可提升下游分类性能，并通过理论分析和实验证明了其有效性。
2026-03-04 cs.AI cs.LG
OmicsCL: Unsupervised Contrastive Learning for Cancer Subtype Discovery and Survival Stratification
Department of Computer Science University of Basel（计算机科学系 巴塞尔大学）
提出OmicsCL框架，通过生存感知对比损失将异构多组学数据嵌入统一潜在空间，无需标签即可发现癌症亚型并实现生存分层，在TCGA BRCA数据集上表现出强无监督一致性和鲁棒性。
2025-05-01 cs.AI cs.LG q-bio.GN
Unsupervised Graph Poisoning Attack via Contrastive Loss Back-propagation
University of Technology Sydney（悉尼科技大学）；Southeast University（东南大学）
图对比学习是最先进的无监督图表示学习框架，并已显示出与监督方法相当的性能。然而，评估图对比学习是否对对抗攻击具有鲁棒性仍然是一个悬而未决的问题，因为大多数现有的图对抗攻击都是有监督的模型，这意味着它们严重依赖于标签，并且只能用于评估特定场景下的图对比学习。对于图对比学习等无监督图表示方法，在真实场景中获取标签比较困难，使得传统的有监督图攻击方法难以应用于测试其鲁棒性。在本文中，我们提出了一种新的无监督的基于梯度的对抗攻击，不依赖于标签的图对比学习。我们计算两个视图的邻接矩阵的梯度，并使用梯度上升翻转边缘以最大化对比损失。通过这种方式，我们可以充分利用由图对比学习模型生成的多个视图，并在不知道其标签的情况下选择信息量最大的边，因此可以有希望地支持我们的模型适应更多种类的下游任务。大量的实验表明，我们的攻击优于无监督的基线攻击，并具有相当的性能与监督攻击在多个下游任务，包括节点分类和链接预测。我们进一步表明，我们的攻击也可以转移到其他图表示模型。
2022-01-27 cs.IR cs.LG
Unsupervised Generative Feature Transformation via Graph Contrastive Pre-training and Multi-objective Fine-tuning
Arizona State University（亚利桑那州立大学）；University of Kansas（堪萨斯大学）；Computer Network Information Center, Chinese Academy of Sciences（中国科学院计算机网络信息中心）；IBM T. J. Watson Research Center（IBM T. J. 沃森研究中心）
针对无监督特征变换问题，提出度量-预训练-微调范式，结合图对比学习和生成模型，以捕获复杂特征交互并避免大搜索空间。
2024-05-27 cs.AI cs.LG
DeepfakeUCL: Deepfake Detection via Unsupervised Contrastive Learning
Deakin University（迪肯大学）；University of Fukui（福井大学）
最近，面部深度伪造检测取得了令人印象深刻的结果。几乎所有现有的用于人脸deepfake检测的深度学习技术都是完全监督的，并且在训练期间需要标签。在本文中，我们通过无监督对比学习设计了一种新的deepfake检测方法。我们首先生成图像的两个不同的变换版本，并将它们馈送到两个顺序的子网络中，即，编码器和投影头。通过最大化投影头输出的对应度来实现无监督训练。为了评估我们的无监督方法的检测性能，我们进一步使用的无监督功能训练一个有效的线性分类网络。大量的实验表明，我们的无监督学习方法能够在数据集内和数据集间设置中实现与最先进的监督技术相当的检测性能。我们还对我们的方法进行了消融研究。
2021-04-23 cs.CV cs.LG
Prototypical Contrastive Learning of Unsupervised Representations
Salesforce Research（赛富时研究院）
本文提出了原型对比学习（PCL），一种无监督的表示学习方法，解决了实例式对比学习的基本局限性。PCL不仅学习用于实例区分任务的低级特征，更重要的是，它将数据的语义结构隐式编码到学习的嵌入空间中。具体来说，我们引入原型作为潜在变量，以帮助在期望最大化框架中找到网络参数的最大似然估计。我们迭代地执行E-step，通过聚类找到原型的分布，M-step通过对比学习优化网络。我们提出了ProtoNCE损失，一个广义版本的InfoNCE损失的对比学习，鼓励表示更接近他们分配的原型。PCL在多个基准测试中的表现优于最先进的实例式对比学习方法，并在低资源迁移学习方面有实质性改进。代码和预训练模型可在https://github.com/salesforce/PCL上获得。
2021-03-30 cs.CV cs.LG
Extending Contrastive Learning to Unsupervised Coreset Selection
KAIST（韩国科学技术院）；Kyungpook National University（庆北国立大学）
自监督对比学习提供了一种从未标记数据池中学习信息特征的方法。在本文中，我们深入研究了另一种有用的方法-提供了一种选择完全未标记的核心集的方法。在这方面，对比学习，大量的自我监督的方法之一，最近提出，并一直提供最高的性能。这促使我们选择了两种主要的对比学习方法：视觉表征对比学习的简单框架（Simplified）和动量对比学习框架（MoCo）。我们计算了对比学习过程的整个持续时间内每个时期的余弦相似度，随后累积余弦相似度值以获得coreset分数。我们的假设是，具有低相似性的样本可能表现为coreset。与现有的核心选择方法与标签相比，我们的方法减少了与人类注释相关的成本。在本研究中实现的用于核心集选择的无监督方法在随机选择的子集上获得了改进的结果，并且与各种分类数据集上的现有监督核心集选择（例如，CIFAR、SVHN和QMNIST）。
2021-04-07 cs.LG
Capsule Network based Contrastive Learning of Unsupervised Visual Representations
Queen Mary, University of London（伦敦大学玛丽女王学院）
胶囊网络在过去的十年中取得了巨大的进步，由于其等变特性，在各种任务中表现优于传统的CNN。通过使用向量I/O提供对象或其部分的大小和方向的信息，在无监督学习环境中使用胶囊网络进行视觉表示任务（如多类图像分类）具有巨大的可能性。在本文中，我们提出了对比胶囊（CoCa）模型，这是一个暹罗风格的胶囊网络使用对比损失与我们的新架构，训练和测试算法。我们在无监督图像分类CIFAR-10数据集上对该模型进行了评估，并达到了70.50%的前1测试准确率和98.10%的前5测试准确率。由于我们的高效架构，我们的模型在监督和无监督学习中的参数和FLOP都比当前的SOTA少31倍。
2022-09-22 cs.AI cs.CV
Eliciting Structural and Semantic Global Knowledge in Unsupervised Graph Contrastive Learning
Arizona State University（亚利桑那州立大学）
图对比学习（GCL）是近年来研究的热点，它以自监督的方式学习可泛化的节点表示。一般来说，GCL中的对比学习过程是在由图神经网络（GNN）主干学习的表示之上执行的，GNN主干基于节点的局部邻域来转换和传播节点上下文信息。然而，共享相似特征的节点可能并不总是在地理上接近，这对无监督GCL工作构成了巨大的挑战，因为它们在捕获这种全局图知识方面存在固有的局限性。在这项工作中，我们通过提出一个简单而有效的框架来解决它们固有的局限性--具有结构和语义对比学习的简单神经网络（S^3-CL）。值得注意的是，凭借所提出的结构和语义对比学习算法，即使是简单的神经网络也可以学习保留有价值的全局结构和语义模式的表达性节点表示。我们的实验表明，与最先进的无监督GCL方法相比，S^3-CL学习的节点表示在不同的下游任务上具有更好的性能。实施和更多实验细节可在\url{https://github.com/kaize0409/S-3-CL.}上公开获取
2022-12-04 cs.LG
A Low Rank Promoting Prior for Unsupervised Contrastive Learning
JD AI Research（京东人工智能研究院）；SUN YAT-SEN UNIVERSITY（中山大学）；University of Science and Technology of China（中国科学技术大学）
无监督学习正处于一个临界点，它可能会真正起飞。在这些方法中，对比学习已经取得了巨大的进展，并导致了国家的最先进的性能。在本文中，我们构建了一个新的概率图模型，有效地将低秩提升先验的对比学习的框架，简称为LORAC。与现有的传统的自监督方法只考虑独立学习相比，我们的假设明确要求属于同一实例类的所有样本都位于同一个小维度的子空间上。这种启发式提出了特定的联合学习约束，以减少在搜索最佳网络参数化的问题的自由度。最重要的是，我们认为，这里采用的低秩先验是不唯一的，和许多不同的先验可以调用类似的概率方式，对应于不同的假设背后的对比功能的基本真理。实验结果表明，该算法在图像分类、目标检测、实例分割和关键点检测等多个方面都明显优于现有的方法。
2021-08-05 cs.AI cs.CV cs.LG
Unsupervised Domain Adaptation for Training Event-Based Networks Using Contrastive Learning and Uncorrelated Conditioning
University of Southern California（南加州大学）
基于事件的摄像机为在高动态范围环境和快速运动机动期间执行计算机视觉任务提供可靠的测量。然而，在基于事件的视觉中采用深度学习面临着由于事件相机的新近性而导致的注释数据稀缺的挑战。转移可以从传统相机注释数据中获得的知识为这一挑战提供了一个实用的解决方案。我们开发了一种无监督的领域自适应算法，用于使用对比学习和数据的不相关条件来训练用于基于事件的数据图像分类的深度网络。为此，我们的解决方案优于现有的算法。
2023-03-22 cs.CV cs.LG
Contrastive Quantization with Code Memory for Unsupervised Image Retrieval
Tsinghua Shenzhen International Graduate School, Tsinghua University（清华大学清华-深圳国际研究生院）；Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））；Shenzhen University（深圳大学）；Peng Cheng Laboratory（鹏城实验室）
散列（包括二进制散列和量化）在计算和存储方面的高效率使得它成为大规模检索系统中的常用策略。为了减轻对昂贵注释的依赖，无监督深度哈希成为一个重要的研究问题。本文提出了一种新的无监督深度量化解决方案，即具有代码记忆的对比量化（MeCoQ）。与现有的基于重构的策略不同，我们通过对比学习来学习无监督的二进制描述符，这可以更好地捕获有区别的视觉语义。此外，我们发现码字多样性正则化是关键，以防止对比学习为基础的量化模型退化。此外，我们引入了一种新的量化代码存储器模块，该模块比传统的特征存储器具有更低的特征漂移，从而提高了对比学习。在基准数据集上的大量实验表明，MeCoQ优于最先进的方法。代码和配置可在https://github.com/gimpong/AAAI22-MeCoQ上公开获取。
2022-03-08 cs.AI cs.CV cs.IR
Few-Max: Few-Shot Domain Adaptation for Unsupervised Contrastive Representation Learning
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
对比自监督学习方法学习将诸如图像的数据点映射到非参数表示空间而不需要标签。虽然非常成功，但目前的方法在训练阶段需要大量的数据。在目标训练集大小有限的情况下，泛化能力较差。在Few-Shot模式下，在大的源数据集上进行预训练并对目标样本进行微调，很容易出现过拟合，因为只有少量的目标样本可用。出于这一动机，我们提出了一种自监督对比学习的域自适应方法，称为Few-Max，以解决适应少样本学习下的目标分布的问题。为了量化表示质量，我们在一系列源和目标数据集上评估了Few-Max，包括ImageNet，VisDA和fastMRI，Few-Max始终优于其他方法。
2022-06-22 cs.AI cs.CV cs.LG
Domain Confused Contrastive Learning for Unsupervised Domain Adaptation
Nanyang Technological University（南洋理工大学）
在这项工作中，我们研究了无监督领域自适应（UDA）在一个具有挑战性的自我监督的方法。其中一个难点是如何在没有目标标签的情况下学习任务区分。与以往文献中直接对齐跨域分布或利用反向梯度不同，我们提出了域混淆对比学习（DCCL），通过域拼图来桥接源域和目标域，并在适应后保留区分性表示。从技术上讲，DCCL搜索最具领域挑战性的方向，并将领域混淆的增强作为正对进行精细加工，然后对比鼓励模型将表示拉向另一个领域，从而学习更稳定和有效的领域不变性。我们还研究了在进行其他数据增强时，对比学习是否一定有助于UDA。大量的实验表明，DCCL显着优于基线。
2022-07-10 cs.CL cs.LG
Fingerprinting Deep Neural Networks Globally via Universal Adversarial Perturbations
Shanghai Jiao Tong University（上海交通大学）；The Ohio State University（俄亥俄州立大学）；CSIRO’s Data61（澳大利亚联邦科学与工业研究组织Data61）；The University of Adelaide（阿德莱德大学）
在本文中，我们提出了一种新的和实用的机制，使服务提供商，以验证是否嫌疑人模型是从受害者模型通过模型窃取攻击被盗。我们的关键见解是，DNN模型的决策边界的轮廓可以通过其通用对抗扰动（UAP）来唯一表征。非盗版模型属于低维子空间，盗版模型的子空间与受害者模型的子空间比非盗版模型的子空间更加一致。在此基础上，提出了一种面向DNN模型的UAP指纹识别方法，并通过对比学习对编码器进行训练，以指纹作为输入，输出一个相似度得分。广泛的研究表明，我们的框架可以检测模型IP违规，置信度> 99.99，只有20个指纹的可疑模型。它在不同的模型架构之间具有良好的通用性，并且对被盗模型的后期修改具有鲁棒性。
2022-05-08 cs.AI cs.CR
Unsupervised Feature Extraction by Time-Contrastive Learning and Nonlinear ICA
University of Helsinki（赫尔辛基大学）
非线性独立成分分析（ICA）为无监督特征学习提供了一个有吸引力的框架，但迄今为止提出的模型是不可识别的。在这里，我们首先提出了一个新的直观原则，即从时间序列中进行无监督深度学习，它使用了数据的非平稳结构。我们的学习原则，时间对比学习（TCL），找到一个表示，允许最佳的歧视的时间段（窗口）。令人惊讶的是，我们展示了TCL如何与非线性ICA模型相关，当ICA被重新定义为包括时间非平稳性时。特别是，我们表明，TCL结合线性ICA估计的非线性ICA模型的逐点变换的来源，这种解决方案是唯一的-从而提供了第一个可识别的结果，非线性ICA这是严格的，建设性的，以及非常普遍的。
2016-05-20 cs.LG stat.ML
Batch Curation for Unsupervised Contrastive Representation Learning
KTH Royal Institute of Technology（瑞典皇家理工学院）
最近出现的最先进的无监督对比视觉表示学习方法（Simplified，MoCo，SwAV）都利用数据增强来构建由相似和不相似的图像对组成的即时区分的借口任务。相似对是通过从同一图像中随机提取补丁并应用几种其他变换（如颜色抖动或模糊）来构建的，而来自给定批次中不同图像实例的变换补丁被视为不相似对。我们认为，这种方法可以导致相似的对是\textit{semantically}不同。在这项工作中，我们通过引入一个\textit{batch curation}计划来解决这个问题，该计划在训练过程中选择更符合底层对比目标的批次。我们提供的见解是什么构成了有益的相似和不相似的对，以及验证\textit{batch curation} CIFAR10通过将其集成在Simplified模型。
2021-08-19 cs.LG
Unsupervised Natural Language Inference via Decoupled Multimodal Contrastive Learning
Shanghai University of Finance and Economics（上海财经大学）；Shanghai Key Laboratory of Data Science, Fudan University（复旦大学数据科学上海重点实验室）
我们建议通过任务无关的多模态预训练来解决自然语言推理问题，而无需来自推理标签的任何监督。虽然最近的多模态自监督学习的研究也代表了语言和视觉的背景下，他们的编码器为不同的方式耦合。因此，当单独编码纯文本时，它们不能包含视觉信息。在本文中，我们提出了多模态对齐对比解耦学习（MACD）网络。MACD迫使解耦的文本编码器通过对比学习来表示视觉信息。因此，它嵌入了视觉知识，即使是纯文本推理。我们在纯文本推理数据集（即SNLI和STS-B）上进行了全面的实验。在STS-B上，无监督MACD甚至优于完全监督的BiLSTM和BiLSTM+ELMO。
2020-10-16 cs.AI cs.CL
DU-Net based Unsupervised Contrastive Learning for Cancer Segmentation in Histology Images
Queen Mary University of London（伦敦玛丽女王大学）；Communication University of Zhejiang（浙江传媒学院）；University of Leicester（莱斯特大学）；Hangzhou Dianzi University（杭州电子科技大学）
在本文中，我们介绍了一个无监督的癌症分割框架的组织学图像。该框架涉及一个有效的对比学习方案，用于提取不同的视觉表示分割。编码器是一个深度U-Net（DU-Net）结构，与普通U-Net相比，它包含一个额外的全卷积层。一个对比学习计划的开发，以解决缺乏训练集与高质量的肿瘤边界上的注释的问题。采用一组特定的数据增强技术来提高从对比学习中学习到的颜色特征的可辨别性。平滑和噪声消除使用卷积条件随机场进行。实验表明，在分割方面的竞争力甚至优于一些流行的监督网络。
2022-06-17 cs.AI cs.CV
An Information Minimization Based Contrastive Learning Model for Unsupervised Sentence Embeddings Learning
East China Normal University（华东师范大学）
无监督的句子嵌入学习最近被对比学习方法（例如，SimCSE），其保持正对相似并将负对分开。对比操作的目的是通过最大化正实例之间的互信息来保持尽可能多的信息，这导致句子嵌入中的冗余信息。针对这一问题，本文提出了一种基于信息最小化的对比学习模型（InformMin-CL），通过最大化正实例间的互信息和最小化正实例间的信息熵，保留有用信息，丢弃冗余信息，同时进行无监督的句子表示学习。具体来说，我们发现，信息最小化可以实现简单的对比度和重建目标。重构操作通过另一个正实例重构正实例，以最小化正实例之间的信息熵。我们在14个下游任务上评估了我们的模型，包括监督和无监督（语义文本相似性）任务。大量的实验结果表明，我们的InforMin-CL获得了最先进的性能。
2022-09-22 cs.AI cs.CL
Connect, Not Collapse: Explaining Contrastive Learning for Unsupervised Domain Adaptation
Stanford University（斯坦福大学）
我们考虑无监督领域自适应（UDA），其中来自源域的标记数据（例如，照片）和来自目标域的未标记数据（例如，草图）用于学习目标域的分类器。常规UDA方法（例如，域对抗训练）学习域不变特征以改进对目标域的泛化。在本文中，我们证明了对比预训练，即在未标记的源数据和目标数据上学习特征，然后在标记的源数据上进行微调，与强UDA方法相比具有竞争力。然而，我们发现对比预训练不会学习域不变特征，这与传统的UDA直觉不同。我们从理论上证明，对比预训练可以通过分解域和类信息来学习跨域细微变化的特征，但仍然可以推广到目标域。我们的研究结果表明，域不变性是不必要的UDA。我们在基准视觉数据集上实证验证了我们的理论。
2022-12-02 cs.CV cs.LG
JTCSE: Joint Tensor-Modulus Constraints and Cross-Attention for Unsupervised Contrastive Learning of Sentence Embeddings
School of Computer Science and Technology, University of Chinese Academy of Sciences, Cloud Computing and Intelligent Information Processing Laboratory(CCIP)（计算机科学与技术学院，中国科学院大学，云计算与智能信息处理实验室）；Institute of Information Engineering, Chinese Academy of Sciences（信息工程研究所，中国科学院）
本文提出JTCSE框架，通过张量模长约束增强正样本对齐，并引入双塔模型间交叉注意力优化CLS池化，在多个语义相似度和零样本任务上取得SOTA效果。
2025-05-07 cs.AI cs.CL cs.LG
Contrastive Unsupervised Learning for Speech Emotion Recognition
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Amazon Alexa（亚马逊Alexa）
语音情感识别是实现更自然的人机交流的关键技术。然而，SER长期以来一直缺乏公共的大规模标记数据集。为了避免这个问题，我们研究了如何无监督表示学习对未标记的数据集可以受益SER。我们表明，对比预测编码（CPC）方法可以学习显着表示从未标记的数据集，这提高了情感识别性能。在我们的实验中，这种方法实现了最先进的一致性相关系数（CCC）的性能，所有的情绪原语（激活，效价，和优势）IEMOCAP。此外，在MSP-Podcast数据集上，与基线相比，我们的方法获得了相当大的性能改进。
2021-02-12 cs.LG cs.SD eess.AS
HiURE: Hierarchical Exemplar Contrastive Learning for Unsupervised Relation Extraction
Tsinghua University（清华大学）；Amazon（亚马逊）；University of Illinois at Chicago（伊利诺伊大学香槟分校）
提出层次范例对比学习框架HiURE，利用跨层次注意力获取层次信号并优化句子关系表示，解决无监督关系抽取中的漂移和相似句对误分问题，在公开数据集上优于现有模型。
2025-06-18 cs.AI cs.CL
LatentCLR: A Contrastive Learning Approach for Unsupervised Discovery of Interpretable Directions
EPFL（洛桑联邦理工学院）；Technical University of Munich（慕尼黑工业大学）；Boğaziçi University（博阿齐奇大学）
最近的研究表明，在预训练的生成对抗网络（GANs）的潜在空间中找到可解释的方向是可能的。这些方向实现了可控的图像生成，并支持广泛的语义编辑操作，如缩放或旋转。这种方向的发现通常以监督或半监督的方式进行，并且需要手动注释，这限制了它们在实践中的使用。相比之下，无监督发现允许发现难以先验检测的微妙方向。在这项工作中，我们提出了一种基于对比学习的方法，以自我监督的方式在预训练的GANs的潜在空间中发现语义方向。我们的方法发现语义上有意义的尺寸与国家的最先进的方法。
2021-10-06 cs.CV cs.LG
UBoCo : Unsupervised Boundary Contrastive Learning for Generic Event Boundary Detection
Yonsei University（延世大学）
通用事件边界检测（GEBD）是一个新提出的视频理解任务，旨在发现事件的一个更深层次的语义边界。它弥补了人类自然感知和视频理解之间的差距，具有各种潜在的应用，包括可解释和语义有效的视频解析。仍然处于早期开发阶段，现有的GEBD求解器是相关视频理解任务的简单扩展，而忽略了GEBD的独特特征。在本文中，我们提出了一种新的框架，无监督/监督GEBD，通过使用时间自相似矩阵（TSM）作为视频表示。新的递归TSM解析（RTP）算法利用TSM中的局部对角模式来检测边界，并结合边界对比（BoCo）损失来训练我们的编码器，以生成信息量更大的TSM。我们的框架可以应用于无监督和有监督的环境，在GEBD基准测试中，两者都实现了最先进的性能。特别是，我们的无监督方法优于以前的最先进的“监督”模型，这意味着其特殊的功效。
2021-11-30 cs.AI cs.CV
Unsupervised Contrastive Learning of Sound Event Representations
Music Technology Group, Universitat Pompeu Fabra（庞培法布拉大学音乐技术组）；Insight Centre for Data Analytics, Dublin City University (DCU)（都柏林城市大学洞察数据分析中心）
自监督表示学习可以缓解人工标记数据少而未标记数据多的识别任务的局限性--这是声音事件研究中的一种常见情况。在这项工作中，我们探索无监督的对比学习作为一种学习声音事件表示的方法。为此，我们建议使用的借口任务，对比不同的增强意见的声音事件。视图主要通过将训练样本与不相关的背景混合来计算，然后进行其他数据增强。我们通过烧蚀实验分析了我们的方法的主要组成部分。我们评估学习表示使用线性评估，并在两个域中的下游声音事件分类任务，即，使用有限的手动标记的数据，并使用嘈杂的标记数据。我们的研究结果表明，无监督的对比预训练可以减轻数据稀缺的影响，并提高对噪声标签的鲁棒性，优于有监督的基线。
2020-11-15 cs.LG cs.SD eess.AS
Cross-domain Contrastive Learning for Unsupervised Domain Adaptation
Fudan University（复旦大学）；Futurewei Technologies（未来wei技术公司）
无监督领域自适应（UDA）旨在将从完全标记的源领域学习到的知识转移到不同的未标记的目标领域。大多数现有的UDA方法通过最小化跨域的特征距离来学习域不变特征表示。在这项工作中，我们建立在对比自监督学习对齐功能，以减少训练集和测试集之间的域差异。探索由这两个域共享的同一组类别，我们介绍了一个简单而有效的框架CDCL，域对齐。特别是，给定一个锚图像从一个域，我们最小化其距离跨域样本从同一类相对于那些从不同的类别。由于目标标签不可用，我们使用基于聚类的方法，仔细初始化中心，以产生伪标签。此外，我们证明了CDCL是一个通用的框架，可以适应无数据设置，其中源数据在训练过程中不可用，修改最少。我们对两个广泛使用的领域自适应基准进行实验，即，Office-31和VisDA-2017，用于图像分类任务，并证明CDCL在两个数据集上都达到了最先进的性能。
2022-05-09 cs.AI cs.CV cs.LG
Contrastive Unsupervised Learning of World Model with Invariant Causal Features
Cambridge Research Laboratory（剑桥研究实验室）；Toshiba Europe Limited（东芝欧洲有限公司）；University of Cambridge（剑桥大学）
在本文中，我们提出了一个世界模型，学习因果关系的特点，使用不变性原则。特别是，我们使用对比无监督学习来学习不变的因果特征，这使得不相关部分或观察风格的增强具有不变性。基于世界模型的强化学习方法独立地优化表示学习和策略。因此，由于缺乏对表示学习模块的监督信号，天真的对比损失实现崩溃。我们提出了一个干预不变的辅助任务，以减轻这个问题。具体来说，我们利用深度预测来明确地执行不变性，并使用数据增强作为对RGB观察空间的样式干预。我们的设计利用无监督表示学习来学习具有不变因果特征的世界模型。我们提出的方法在iGibson数据集上的分布点导航任务上显着优于当前最先进的基于模型和无模型强化学习方法。此外，我们提出的模型擅长于我们的感知学习模块的仿真到现实迁移。最后，我们在DeepMind控制套件上评估了我们的方法，并且由于深度不可用，因此只能隐式地执行不变性。尽管如此，我们提出的模型与最先进的对应模型表现相当。
2022-09-29 cs.AI cs.CV cs.LG
CueGCL: Cluster-aware Personalized Self-Training for Unsupervised Graph Contrastive Learning
School of Computer Science and Engineering, Sun Yat-sen University（计算机科学与工程学院，中山大学）；School of Systems Science and Engineering, Sun Yat-sen University（系统科学与工程学院，中山大学）；School of Software Engineering, Sun Yat-Sen University（软件工程学院，中山大学）
针对无监督图对比学习在聚类任务中缺乏簇级信息及类碰撞问题，提出簇感知框架CueGCL，结合个性化自训练与对齐图聚类，在五个基准数据集上达到最先进性能。
2025-09-23 cs.AI cs.LG cs.SI
Pretrained Conformers for Audio Fingerprinting and Retrieval
Infobip；Faculty of Science, University of Sarajevo（萨拉热窝大学科学学院）
本研究利用自监督对比学习框架训练基于Conformer的编码器，仅需3秒音频即可生成独特嵌入，在音频检索任务中达到最先进水平，且对时间错位及噪声等失真具有强鲁棒性。
2025-09-11 cs.AI cs.IR cs.SD
Feature-Aware Noise Contrastive Learning for Unsupervised Red Panda Re-Identification
College of Computer Science, Sichuan University（四川大学计算机学院）
针对无监督动物再识别中标注数据稀缺的问题，提出特征感知噪声对比学习（FANCL），通过噪声添加与双对比模块提取深层表征，在室内外小熊猫数据集上性能优于现有无监督方法并接近监督方法。
2024-07-18 cs.AI cs.CV
Unified Framework for Feature Extraction based on Contrastive Learning
China Agricultural University（中国农业大学）；Beijing Engineering and Technology Research Center for Internet of Things in Agriculture（北京农业物联网工程技术研究中心）；University of Chinese Academy of Sciences（中国科学院大学）；Institute of Software Chinese Academy of Sciences（中国科学院软件研究所）；National Innovation Center for Digital Fishery（国家数字渔业创新中心）
特征提取是解决高维数据维数问题的有效方法。作为一种流行的自监督学习方法，对比学习近年来受到了广泛的关注。在这项研究中，我们提出了一个统一的框架的基础上，一个新的角度对比学习（CL），适用于无监督和监督特征提取。该框架首先构造了两个CL图，用于唯一地定义正负对。然后通过最小化对比损失函数确定投影矩阵。此外，该框架考虑了相似和不相似的样本，统一了无监督和有监督的特征提取。提出了三种具体的方法：无监督对比学习方法、有监督对比学习方法1和有监督对比学习方法2。最后，在五个真实数据集上的数值实验表明，与现有的方法相比，该框架的优越性能。
2021-09-13 cs.LG
ContraReg: Contrastive Learning of Multi-modality Unsupervised Deformable Image Registration
New York University（纽约大学）；Hyperfine Research（Hyperfine研究公司）；Yale University（耶鲁大学）
在不同的成像模式之间建立体素语义对应是一项基础而艰巨的计算机视觉任务。当前的多模态配准技术最大化手工制作的域间相似性函数，在建模非线性强度关系和变形方面受到限制，并且可能需要显著的重新设计或在新任务、数据集和域对上表现不佳。这项工作提出了ContraReg，一种无监督的对比表示学习方法，多模态变形配准。通过将学习到的多尺度局部补丁特征投影到联合学习的域间嵌入空间上，ContraReg获得了对非刚性多模态对齐有用的表示。在实验上，ContraReg实现了准确和稳健的结果，在新生儿T1-T2脑MRI配准任务的一系列基线和消融上具有平滑和可逆的变形，所有方法都在广泛的变形正则化强度范围内得到验证。
2022-06-27 cs.CV cs.LG
CL-MVSNet: Unsupervised Multi-view Stereo with Dual-level Contrastive Learning
School of Electronic and Computer Engineering, Peking University（北京大学电子与计算机工程学院）；Peng Cheng Laboratory（鹏城实验室）；Migu Culture Technology Co., Ltd（咪咕文化科技有限公司）；School of Computer Science, University of Birmingham（伯明翰大学计算机学院）；School of Arts, Peking University（北京大学艺术学院）
本文提出CL-MVSNet，通过图像级和场景级双层对比学习为无监督MVS构建额外监督信号，并引入L0.5光度一致性损失，在DTU和Tanks&Temples上取得了超越有监督方法的性能。
2025-03-11 cs.AI cs.CV
DebCSE: Rethinking Unsupervised Contrastive Sentence Embedding Learning in the Debiasing Perspective
Sina Weibo（新浪微博）；China Literature Limited（阅文集团）
本文提出DebCSE框架，通过逆倾向加权采样方法消除对比句嵌入学习中的多种偏差，在STS基准上以80.33%的Spearman相关系数显著优于现有最先进模型。
2023-09-14 cs.AI cs.CL
Unsupervised Social Event Detection via Hybrid Graph Contrastive Learning and Reinforced Incremental Clustering
Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所）；University of Chinese Academy of Sciences（中国科学院大学）；National Defense University（国防大学）
针对现有无监督社交事件检测方法存在的GCL信息学习不充分、依赖先验知识的问题，提出融合混合图对比学习与强化增量聚类的HCRC方法，在多个数据集和设置下实现显著性能提升。
2023-12-15 cs.AI cs.SI
Self-Supervised Contrastive Learning for Unsupervised Phoneme Segmentation
Bar-Ilan University（巴伊兰大学）；Facebook AI Research（脸书人工智能研究院）
我们提出了一个自监督表示学习模型的任务，无监督音素边界检测。该模型是一个卷积神经网络，直接对原始波形进行操作。它被优化为使用噪声对比估计原理来识别信号中的频谱变化。在测试时，峰值检测算法应用于模型输出以产生最终边界。因此，所提出的模型以完全无监督的方式进行训练，没有目标边界形式的手动注释，也没有语音音译。我们比较所提出的方法，几个无监督的基线使用TIMIT和七叶树语料库。结果表明，我们的方法超越了基线模型，并在两个数据集上达到了最先进的性能。此外，我们还尝试使用Librispeech语料库中的其他示例来扩展训练集。我们评估了在训练阶段没有看到的分布和语言（英语，希伯来语和德语）的结果模型，并表明利用额外的未转录数据有利于模型性能。
2020-08-06 cs.LG cs.SD eess.AS
LLM2IR: simple unsupervised contrastive learning makes long-context LLM great retriever
Computer Science（计算机科学）
LLM2IR通过简单无监督对比学习将长上下文LLM转化为高效检索器，验证了上下文长度与检索能力的关系。
2025-10-31 cs.AI cs.CL cs.IR
Unsupervised Domain Adaptation for Brain Vessel Segmentation through Transwarp Contrastive Learning
University of Leeds（利兹大学）；University of Manchester（曼彻斯特大学）
本文提出一种基于 Transwarp 对比学习的无监督域自适应框架，用于缩小带标签 3DRA 与无标签 MRA 模态间的域差距，并在脑血管数据集上验证其能有效提升无标签 MRA 数据的血管分割性能。
2024-02-23 cs.CV cs.LG
Unsupervised Dense Information Retrieval with Contrastive Learning
Meta AI Research（Meta人工智能研究院）；Ecole normale supérieure, PSL University（巴黎文理研究大学高等师范学院）；Inria（法国国家信息与自动化研究所）；Université Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；University College London（伦敦大学学院）
最近，信息检索已经看到了使用神经网络的密集检索器的出现，作为基于词频的经典稀疏方法的替代。这些模型在有大型训练集的数据集和任务上获得了最先进的结果。然而，它们不能很好地转移到没有训练数据的新应用中，并且被诸如BM 25的无监督词频方法优于。在这项工作中，我们探讨了对比学习的局限性，作为一种训练无监督的密集检索器，并表明它导致在各种检索设置的强大性能。在BEIR基准测试中，我们的无监督模型在Recall@100的15个数据集中的11个数据集上优于BM 25。当在微调之前用作预训练时，无论是在几千个域内示例上还是在大型MS~MARCO数据集上，我们的对比模型都会导致BEIR基准的改进。最后，我们评估了我们的方法多语言检索，其中训练数据甚至比英语更稀缺，并表明我们的方法导致强大的无监督性能。我们的模型也表现出强大的跨语言迁移时，微调监督英语数据和低资源的语言，如斯瓦希里语进行评估。我们表明，我们的无监督模型可以在不同的脚本之间进行跨语言检索，例如从阿拉伯语查询中检索英语文档，这是术语匹配方法无法实现的。
2022-08-29 cs.AI cs.CL cs.IR
UCTopic: Unsupervised Contrastive Learning for Phrase Representations and Topic Mining
University of California, San Diego（加州大学圣地亚哥分校）
高质量的短语表示对于在文档中查找主题和相关术语至关重要（也称为主题挖掘）。现有的短语表示学习方法要么简单地以上下文无关的方式组合单字表示，要么依赖于广泛的注释来学习上下文感知知识。在本文中，我们提出了UCTopic，一个新的无监督对比学习框架上下文感知短语表示和主题挖掘。UCTopic被大规模地预训练以区分两个短语提及的上下文是否具有相同的语义。预训练的关键是从我们面向短语的假设中构建正对。然而，我们发现传统的批量否定在对具有小主题数的数据集进行微调时会导致性能下降。因此，我们提出了集群辅助的对比学习（CCL），大大减少了噪音的负面影响，从集群中选择负面的，并进一步提高相应的主题短语表示。UCTopic在四个实体聚类任务上的平均NMI比最先进的短语表示模型高38.2%。综合评价表明，UCTopic能够提取出连贯性和多样性的主题短语。
2022-02-27 cs.AI cs.CL
Self-Adaptive Reconstruction with Contrastive Learning for Unsupervised Sentence Embeddings
South China University of Technology（华南理工大学）；School of Computer Science and Engineering（计算机科学与工程学院）
针对预训练语言模型词元偏置导致无监督句嵌入细粒度语义丢失的问题，提出SARCSE框架，通过自编码器重构全部词元并引入自适应重构损失，在7个STS任务上显著优于SimCSE。
2024-02-23 cs.CL cs.LG
PAC-Bayesian Contrastive Unsupervised Representation Learning
The University of Tokyo（东京大学）；RIKEN（日本理化学研究所）；Université Laval（拉瓦尔大学）；Inria（法国国家信息与自动化研究所）；University College London（伦敦大学学院）
对比无监督表示学习（CURL）是从未标记数据中学习表示（作为一组特征）的最先进技术。虽然CURL最近取得了一些经验上的成功，但仍然缺乏对其性能的理论理解。在最近的一项工作中，Arora et al.（2019）提供了CURL的第一个泛化边界，依赖于Rademacher复杂性。我们将他们的框架扩展到灵活的PAC贝叶斯设置，使我们能够处理非iid设置。我们提出了PAC贝叶斯泛化界限的CURL，然后用它来推导出一个新的表示学习算法。在真实数据集上的数值实验表明，我们的算法达到了有竞争力的精度，并产生非空的广义界。
2020-07-17 cs.LG math.ST stat.ML
Camera-Tracklet-Aware Contrastive Learning for Unsupervised Vehicle Re-Identification
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）
近年来，基于深度学习的车辆再识别方法取得了显著的成就。然而，这一成就需要大规模和注释良好的数据集。在构建数据集时，为从大量相机捕获的车辆分配全局可用身份（Id）是劳动密集型的，因为它需要考虑它们细微的外观差异或视点变化。在本文中，我们提出了摄像机跟踪感知对比学习（CTACL）使用的多摄像机跟踪信息，没有车辆身份标签。所提出的CTACL划分未标记的域，即，整个车辆图像，进入多个相机级子域，并在子域内和子域外进行对比学习。用于对比学习的正样本和负样本使用每个相机的轨迹片段Id来定义。此外，跨摄像机网络的领域自适应被引入，以提高学习表示的泛化性能，并减轻由子域之间的域间隙导致的性能下降。我们证明了我们的方法对基于视频和基于图像的车辆Re-ID数据集的有效性。实验结果表明，该方法优于最近的国家的最先进的无监督车辆Re-ID方法。本文的源代码可在`https：//github.com/andreYoo/CTAM-CTACL-VVReID.git '上公开获取。
2021-09-14 cs.AI cs.CV
Learning Informative Health Indicators Through Unsupervised Contrastive Learning
ETH Zürich（苏黎世联邦理工学院）；Stadler Service AG（施塔德勒服务股份公司）；Swiss Federal Railways（瑞士联邦铁路）；EPFL（洛桑联邦理工学院）
本文提出一种基于对比学习的无监督方法，以运行时间为退化代理学习健康指标，在铣床磨损评估（相关性0.97）和铁路车轮故障检测（平衡准确率88.7%）上验证了其通用性。
2024-05-28 cs.LG
Unsupervised Representation Learning from Pathology Images with Multi-directional Contrastive Predictive Coding
University of Dundee（邓迪大学）；Ninewells Hospital and Medical School（奈恩韦尔斯医院与医学院）
数字病理学任务从现代深度学习算法中受益匪浅。然而，他们需要大量的注释数据已被确定为一个关键的挑战。这种对数据的需求可以通过在数据丰富但对注释的访问有限的情况下使用无监督学习来解决。使用对比预测编码（CPC）从未注释的数据学习的特征表示已经被示出为使得分类器能够从相对少量的注释的计算机视觉数据获得最先进的性能。我们提出了一个修改的CPC框架与数字病理补丁使用。这是通过引入用于构建潜在上下文的替代掩码并使用多方向PixelCNN自回归器来实现的。为了证明我们提出的方法，我们从Patch Camelyon组织学数据集学习特征表示。我们表明，我们提出的修改可以产生改进的组织学补丁的深层分类。
2021-05-11 cs.CV cs.LG
Behavior Contrastive Learning for Unsupervised Skill Discovery
Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）；Harbin Institute of Technology（哈尔滨工业大学）；Northwestern University（西北大学）；Northwestern Polytechnical University（西北工业大学）
提出基于行为对比学习的无监督技能发现方法，通过最大化同技能行为间互信息上界，隐式增加状态熵，在迷宫和连续控制任务中生成多样且远达技能，下游性能媲美最先进方法。
2023-05-08 cs.LG
DeCLUTR: Deep Contrastive Learning for Unsupervised Textual Representations
University of Toronto（多伦多大学）；Vector Institute for Artificial Intelligence（向量人工智能研究所）；University Health Network（大学健康网络）
句子嵌入是许多自然语言处理（NLP）系统的重要组成部分。与词嵌入一样，句子嵌入通常在大型文本语料库中学习，然后转移到各种下游任务中，例如聚类和检索。与词嵌入不同，学习句子嵌入的最高性能解决方案需要标记数据，这限制了它们对标记数据丰富的语言和领域的有用性。在本文中，我们提出了DeCLUTR：用于无监督文本表示的深度对比学习。受深度度量学习（DML）最新进展的启发，我们仔细设计了一个自监督目标，用于学习通用句子嵌入，不需要标记的训练数据。当用于扩展基于transformer的语言模型的预训练时，我们的方法缩小了通用句子编码器的无监督和监督预训练之间的性能差距。重要的是，我们的实验表明，学习嵌入的质量与可训练参数的数量和未标记的训练数据的数量成比例。我们的代码和预训练模型是公开的，可以轻松适应新领域或用于嵌入看不见的文本。
2021-05-27 cs.CL cs.LG
Overfitting In Contrastive Learning?
Ohio State University（俄亥俄州立大学）；Air Force Research Laboratory（空军研究实验室）
本文研究了无监督对比学习中的过拟合现象，揭示了过拟合确实会发生及其背后的机制，填补了无监督学习领域对该现象研究的不足。
2024-08-22 cs.LG
