Momentum Contrastive Learning with Enhanced Negative Sampling and Hard Negative Filtering
FPT University（FPT大学）；Queensland University of Technology（昆士兰科技大学）
本文提出增强的对比学习框架，通过引入双视图损失函数平衡优化查询与键嵌入，并采用基于余弦相似度的选择性负采样策略过滤噪声并聚焦困难负样本，显著提升了无监督表示学习的质量与下游任务性能。
2025-01-20 cs.AI cs.LG
UCTopic: Unsupervised Contrastive Learning for Phrase Representations and Topic Mining
University of California, San Diego（加州大学圣地亚哥分校）
高质量的短语表示对于在文档中查找主题和相关术语至关重要（也称为主题挖掘）。现有的短语表示学习方法要么简单地以上下文无关的方式组合单字表示，要么依赖于广泛的注释来学习上下文感知知识。在本文中，我们提出了UCTopic，一个新的无监督对比学习框架上下文感知短语表示和主题挖掘。UCTopic被大规模地预训练以区分两个短语提及的上下文是否具有相同的语义。预训练的关键是从我们面向短语的假设中构建正对。然而，我们发现传统的批量否定在对具有小主题数的数据集进行微调时会导致性能下降。因此，我们提出了集群辅助的对比学习（CCL），大大减少了噪音的负面影响，从集群中选择负面的，并进一步提高相应的主题短语表示。UCTopic在四个实体聚类任务上的平均NMI比最先进的短语表示模型高38.2%。综合评价表明，UCTopic能够提取出连贯性和多样性的主题短语。
2022-02-27 cs.AI cs.CL
Improving Contrastive Learning of Sentence Embeddings with Case-Augmented Positives and Retrieved Negatives
Alibaba Group（阿里巴巴集团）
继SimCSE之后，基于对比学习的方法在学习句子嵌入方面取得了最先进的（SOTA）性能。然而，无监督的对比学习方法仍然远远落后于有监督的同类方法。我们将此归因于阳性和阴性样本的质量，并旨在改善两者。具体来说，对于阳性样本，我们提出了开关情况下的增强翻转的情况下，随机选择的单词在一个句子中的第一个字母。这是为了抵消预先训练的标记嵌入对频率、词格和子词的固有偏见。对于阴性样本，我们基于预训练的语言模型从整个数据集中抽取硬阴性样本。将上述两种方法与SimCSE相结合，我们提出的对比学习与增强和检索数据的句子嵌入（Sentence embedding）方法显着优于当前的SOTA在STS基准在无监督设置。
2022-06-06 cs.CL cs.IR
Time-Series Contrastive Learning against False Negatives and Class Imbalance
Beijing Jiaotong University（北京交通大学）
本文分析了时间序列对比学习中被忽视的假负样本和类别不平衡问题，基于SimCLR框架提出构建实例图模拟监督对比学习以减轻假负样本影响，并结合图结构和少量标签进行半监督分类以增强少数类表征，在四个真实数据集上显著提升了整体性能。
2024-08-24 cs.AI cs.LG
Beyond Spectral Decomposition: Bayesian Contrastive Learning and its Non-negative Formulation via Factor Analysis
Xidian University（西安电子科技大学）；MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文提出对比因子分析框架，结合因子分析和对比学习的优势，通过非负因子分析提升可解释性，验证了其在表达能力、鲁棒性、可解释性和不确定性估计上的有效性。
2026-06-27 cs.AI cs.CV cs.LG
SynCo: Synthetic Hard Negatives for Contrastive Visual Representation Learning
Imperial College London（伦敦帝国学院）
针对对比学习难负例获取成本高的问题，提出SynCo方法，直接在表征空间用缓存队列嵌入合成难负例，在MoCo框架下验证其能以极低计算成本提升表征效果和下游任务迁移性能，且长预训练周期下无性能下降。
2026-09-01 cs.AI cs.CV
An Empirical Study on Disentanglement of Negative-free Contrastive Learning
Tsinghua University（清华大学）；Shanghai Qi-Zhi Institute（上海期智研究院）；Carnegie Mellon University（卡内基梅隆大学）；Shanghai Jiao Tong University（上海交通大学）
无负对比学习方法因其简单性和大规模预训练的优异性能而受到广泛关注。然而，它的解缠结性质仍然未被探索。在本文中，我们检查负自由的对比学习方法来研究的解纠缠性能的经验。我们发现现有的解纠缠度量不能对高维表示模型进行有意义的测量，因此我们提出了一种新的基于潜在表示和数据因子之间的互信息的解纠缠度量.有了这个建议的度量，我们在流行的合成数据集和真实世界的数据集CelebA上对无负对比学习的解纠缠特性进行了基准测试。我们的研究表明，所研究的方法可以学习一个良好的解纠缠子集的表示。据我们所知，我们是第一个将非纠缠表示学习的研究扩展到高维表示空间，并将无负对比学习方法引入这一领域的人。本文的源代码可在\url{https://github.com/noahcao/disentanglement_lib_med}上获得。
2022-10-15 cs.AI cs.CV cs.LG
ProGCL: Rethinking Hard Negative Mining in Graph Contrastive Learning
Westlake University（西湖大学）；Westlake Institute for Advanced Study（西湖高等研究院）；Zhejiang University（浙江大学）
对比学习（CL）已经成为无监督表示学习的主导技术，其嵌入彼此靠近的锚点的增强版本（正样本）并将其他样本的嵌入（负样本）推开。正如最近的研究所揭示的，CL可以从硬阴性（与锚钉最相似的阴性）中受益。然而，我们观察到有限的好处，当我们采用现有的硬负面挖掘技术的其他领域的图对比学习（GCL）。我们对这一现象进行了实验和理论分析，发现它可以归因于图神经网络（GNNs）的消息传递。与其他领域中的CL不同，如果仅根据锚点与自身之间的相似性来选择大多数硬阴性，则它们可能是假阴性（与锚点共享同一类的阴性），这将不期望地推开同一类的样本。为了弥补这一不足，我们提出了一种有效的方法，称为\textbf{ProGCL}，估计一个否定是真的概率，这构成了一个更合适的措施，否定的硬度与相似性。此外，我们设计了两个方案（即，\textbf{ProGCL-weight}和\textbf{ProGCL-mix}），以提高GCL的性能。大量的实验表明，ProGCL带来了显着的和一致的改进基础GCL方法，并产生多个国家的最先进的结果在几个无监督的基准，甚至超过监督的性能。此外，ProGCL很容易插入到各种基于否定的GCL方法中，以提高性能。我们在\textcolor{magenta}{\url{https://github.com/junxia97/ProGCL}}发布代码。
2022-06-14 cs.AI
How Does SimSiam Avoid Collapse Without Negative Samples? A Unified Understanding with Self-supervised Contrastive Learning
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）
为了避免自监督学习（SSL）中的崩溃，对比损失被广泛使用，但通常需要大量的负样本。在没有负样本的情况下，还没有达到有竞争力的性能，最近的一项工作引起了人们的极大关注，因为它提供了一种极简的简单暹罗（SimSiam）方法来避免崩溃。然而，在没有负样本的情况下它如何避免崩溃的原因仍然不完全清楚，我们的调查从重新审视原始SimSiam中的解释性声明开始。在反驳了他们的观点后，我们引入了基于$l_2$归一化表示向量的梯度分析的向量分解来分析崩溃。这对阴性样本和SimSiam如何缓解崩溃产生了统一的观点。这样一个统一的视角对于理解SSL的最新进展来说是及时的。
2022-03-30 cs.AI cs.LG
Feature Extraction Framework based on Contrastive Learning with Adaptive Positive and Negative Samples
China Agricultural University（中国农业大学）
在这项研究中，我们提出了一个特征提取框架的基础上对比学习与自适应积极和消极的样本（CL-FEFA），适用于无监督，监督和半监督的单视图特征提取。CL-FEFA从特征提取的结果中自适应地构造正样本和负样本，使其更加合适和准确。然后，根据InfoNCE损失的大小，在前两次正样本和负样本的基础上重新提取鉴别特征，使类内样本更加紧凑，类间样本更加分散。同时，利用子空间样本的潜在结构信息动态地构造正样本和负样本，可以使我们的框架对噪声数据具有更强的鲁棒性。此外，CL-FEFA还考虑了正样本之间的互信息，即潜在结构中的相似样本，这为其在特征提取中的优势提供了理论支持。最后的数值实验证明，该框架与传统的特征提取方法和对比学习方法相比具有很强的优势。
2022-01-11 cs.AI cs.CV cs.LG
Negative Selection by Clustering for Contrastive Learning in Human Activity Recognition
University of South China（南华大学）；Ulster University（阿尔斯特大学）；University of Science and Technology Beijing（北京科技大学）
对比学习由于其能够在大量未标记数据和少量标记数据的情况下实现与监督学习相当的性能，已经被应用于基于传感器数据的人类活动识别（HAR）。对比学习的预训练任务一般是实例判别，它指定每个实例属于单个类，但这会将同一类样本视为反例。这样的预训练任务不利于人类活动识别任务，人类活动识别任务主要是分类任务。为了解决这个问题，我们跟随Simplified提出了一个新的对比学习框架，在HAR中通过聚类进行否定选择，称为ChronterCLHAR。与Simplified相比，该算法通过无监督聚类方法重新定义对比损失函数中的负样本对，生成软标签屏蔽同一类中的其他样本，避免将其视为负样本。我们在三个基准数据集USC-HAD，MotionSense和UCI-HAR上使用平均F1分数作为评估指标来评估ClaterCLHAR。实验结果表明，该方法在自监督学习和半监督学习中的性能优于现有的HAR方法。
2022-03-23 cs.AI cs.CV cs.HC
Generating Counterfactual Hard Negative Samples for Graph Contrastive Learning
University of Technology Sydney（悉尼科技大学）；The Chinese University of Hong Kong（香港中文大学）；Curtin University（科廷大学）；City University of Hong Kong（香港城市大学）
本文提出CGC方法，利用反事实机制为图对比学习生成与正样本相似但标签不同的人工困难负样本，有效避免假负样本问题，并在多个数据集上取得优异结果。
2023-05-18 cs.AI cs.LG
Debiased Contrastive Learning of Unsupervised Sentence Representations
Renmin University of China（中国人民大学）
最近，对比学习已被证明是有效的，在改善预训练的语言模型（PLM），以获得高质量的句子表示。它的目的是拉近积极的例子，以提高对齐，同时推开不相关的负面的整个表示空间的一致性。然而，以往的工作大多采用批内否定或从训练数据中随机抽取样本。这种方式可能会导致采样偏差，使用不适当的否定（例如假否定和各向异性表示）来学习句子表示，这将损害表示空间的均匀性。为了解决这个问题，我们提出了一个新的框架\textbf{DCLR}（\underline{D} ebiased \underline{C} ontrasive \underline{L} earning of unsupervised sentence \underline{R} eprepresentation）来减轻这些不适当的负面影响.在DSPs中，我们设计了一种实例加权方法来惩罚假阴性，并生成基于噪声的阴性，以保证表示空间的均匀性。在七个语义文本相似性任务上的实验表明，我们的方法比竞争基线更有效。我们的代码和数据可通过以下链接公开获取：\textcolor{blue}{\url{https://github.com/RUCAIBox/DCLR}}。
2022-05-02 cs.CL
DropMix: Better Graph Contrastive Learning with Harder Negative Samples
East China Normal University（华东师范大学）
针对图对比学习中的硬负样本合成，提出DropMix方法，通过局部与全局难度评估选择硬负样本，并在部分维度混合以减少信息丢失，在六个基准数据集上验证了有效性。
2023-10-15 cs.AI cs.LG
CaCo: Both Positive and Negative Samples are Directly Learnable via Cooperative-adversarial Contrastive Learning
Purdue University（普渡大学）；Shanghai University（上海大学）；Futurewei Seattle Cloud Lab（Futurewei西雅图云实验室）
对比学习作为一种有代表性的自监督学习方法，在表征的无监督训练方面取得了巨大的成功。它通过区分给定查询锚的正样本和负样本来训练编码器。这些正样本和负样本在定义学习判别式编码器的目标方面起着关键作用，避免了学习琐碎的特征。虽然现有的方法选择这些样本，但我们提出了一种原则性的方法，其中正负样本都可以直接与编码器端到端学习。我们表明，积极和消极的样本可以通过最小化和最大化的对比损失，分别合作和对抗学习。这就产生了关于编码器的合作积极和对抗消极，它们被更新以连续跟踪小批量查询锚点的学习表示。该方法在ImageNet 1 K上预训练ResNet-50主干的200和800个epoch中分别达到了71.3%和75.3%的前1准确率，而没有多作物或更强的增强等技巧。通过多作物，它可以进一步提高到75.7%。源代码和预训练模型在https://github.com/maple-research-lab/caco中发布。
2022-03-27 cs.AI cs.CV
Smoothed Graph Contrastive Learning via Seamless Proximity Integration
École polytechnique, IP Paris（巴黎综合理工学院、巴黎理工学院）
针对传统图对比学习对负样本同等处理的问题，提出SGCL模型，利用增强图几何结构注入邻近度信息调整损失惩罚，并结合子图划分策略提升可扩展性，在大规模基准上表现优于现有基线。
2024-11-26 cs.AI cs.LG
Exploring Negatives in Contrastive Learning for Unpaired Image-to-Image Translation
Guangdong University of Technology（广东工业大学）；The University of Sydney（悉尼大学）
不成对图像到图像翻译的目的是找到源域和目标域之间的映射。为了缓解源图像缺乏监督标签的问题，已经提出了基于循环一致性的方法，通过假设不成对图像之间的可逆关系来进行图像结构保存。然而，该假设仅使用图像对之间的有限对应。最近，对比学习（CL）已被用于通过使用基于块的正/负学习来进一步研究不成对图像翻译中的图像对应性。基于块的对比例程通过自相似性计算获得阳性，并将其余块识别为阴性。这种灵活的学习范式以低成本获得辅助情境化信息。由于否定词拥有大量的样本，出于好奇，我们基于一个问题进行了调查：所有的否定词都是特征对比学习所必需的吗？与以往的CL方法，尽可能多地使用否定，在本文中，我们从信息论的角度研究的否定，并介绍了一种新的负修剪技术的不成对的图像到图像的翻译（PUT）的稀疏化和排名的补丁。该算法具有高效、灵活的特点，能够稳定地学习对应面片间的基本信息。通过把质量放在数量之上，只需要几个负面的补丁就可以达到更好的效果。最后通过对比实验验证了该模型的优越性、稳定性和通用性。
2022-07-13 cs.AI cs.CV cs.LG
From Overfitting to Robustness: Quantity, Quality, and Variety Oriented Negative Sample Selection in Graph Contrastive Learning
University of Science and Technology of China（中国科学技术大学）；Manchester Metropolitan University（曼彻斯特城市大学）
为解决图对比学习中的过拟合问题，提出综合考虑负样本质量、多样性和数量的CSS算法及NegAmplify框架，通过构建不同难度的负样本池并结合决策智能体动态调整采样比例，在多个数据集上提升了节点分类准确率。
2024-06-21 cs.AI cs.LG
Rethinking Samples Selection for Contrastive Learning: Mining of Potential Samples
Nanjing University of Posts and Telecommunications（南京邮电大学）
本文提出一种更全面的对比学习样本挖掘方法，同时优化正负样本选择，通过加权组合增强与挖掘视图并筛选难度适中的潜在负样本，在多个数据集上取得显著提升。
2023-11-01 cs.AI cs.CV
Discovering Global False Negatives On the Fly for Self-supervised Contrastive Learning
针对自监督对比学习中相似语义假负样本被错误推开的问题，提出GloFND方法，在训练中在线学习阈值以全局识别假负样本，且计算成本与数据集大小无关，在图像和图文数据上验证了有效性。
2026-10-09 cs.AI cs.CV cs.LG
SimKGC: Simple Contrastive Knowledge Graph Completion with Pre-trained Language Models
Microsoft Research Asia（微软亚洲研究院）；Yuanfudao AI Lab（猿辅导AI实验室）
知识图谱补全（KGC）的目的是对已知事实进行推理，并推断出缺失的链接。基于文本的方法，诸如KGBERT（Yao等人，2019）从自然语言描述中学习实体表示，并具有归纳KGC的潜力。然而，基于文本的方法的性能仍然在很大程度上落后于基于图嵌入的方法，如TransE（Bordes等人，2013）和RotatE（Sun等人，2019年b）。在本文中，我们确定的关键问题是有效的对比学习。为了提高学习效率，我们引入了三种类型的否定：批内否定，批前否定和自我否定，它们是硬否定的简单形式。结合InfoNCE损失，我们提出的模型SimKGC可以在几个基准数据集上大大优于基于嵌入的方法。在平均倒数排名（MRR）方面，我们在WN18RR上将最先进的技术提高了+19%，在Wikidata5M的转换设置上提高了+6.8%，在Wikidata5M的归纳设置上提高了+22%。进行彻底的分析，以深入了解每个组成部分。我们的代码可在https://github.com/intfloat/SimKGC上获得。
2022-03-04 cs.CL
Enhancing Contrastive Learning for Geolocalization by Discovering Hard Negatives on Semivariograms
Professorship Big Geospatial Data Management, Technical University of Munich Germany（技术大学慕尼黑大数据地理空间管理教授职位）；University of Maine United States（缅因大学）；University of the Bundeswehr Munich Germany（联邦国防军大学慕尼黑）
针对地理定位中对比学习忽视空间依赖导致难负样本与假负样本问题，提出基于半变异函数的空间正则化对比学习策略，集成于GeoCLIP并在OSV5M上提升细粒度定位性能。
2025-09-25 cs.AI cs.CV
Negative Prototypes Guided Contrastive Learning for WSOD
School of Artificial Intelligence, Beijing University of Posts and Telecommunications（北京邮电大学人工智能学院）
针对弱监督目标检测忽略实例间图像关系的问题，提出负原型引导对比学习架构，通过构建全局特征库存储正负原型并结合伪标签采样模块优化特征表示，在VOC数据集上达到最先进性能。
2024-06-04 cs.AI cs.CV
EMC$^2$: Efficient MCMC Negative Sampling for Contrastive Learning with Global Convergence
The Chinese University of Hong Kong（香港中文大学）；Amazon Web Services（亚马逊网络服务）；University of Minnesota（明尼苏达大学）
针对对比学习中softmax负采样计算配分函数成本高的问题，提出高效MCMC负采样方法EMC$^2$，采用自适应Metropolis-Hastings在线生成难负样本，证明其全局收敛性，小批量训练下性能优异。
2024-04-16 cs.AI cs.CV cs.LG
Negative as Positive: Enhancing Out-of-distribution Generalization for Graph Contrastive Learning
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）
针对图对比学习分布外泛化不足的问题，提出将语义最相似的跨域负样本视为正样本的策略，显著提升OOD泛化性能。
2024-05-25 cs.AI cs.LG
Graph Ranking Contrastive Learning: A Extremely Simple yet Efficient Method
Renmin University of China（中国人民大学）；Kuaishou Technology（快手科技）；University of Chinese Academy of Sciences（中国科学院大学）
针对图对比学习中InfoNCE因缺乏标签导致的假负样本问题，提出简单高效的GraphRank方法，通过重新定义负样本概念避免假负样本，并在节点、边和图级别任务上验证了其有效性。
2024-03-21 cs.AI cs.LG
Max-Margin Contrastive Learning
Johns Hopkins University（约翰霍普金斯大学）；Massachusetts Institute of Technology（麻省理工学院）；Mitsubishi Electric Research Labs（三菱电机研究实验室）
标准的对比学习方法通常需要大量的否定来进行有效的无监督学习，并且通常表现出缓慢的收敛。我们怀疑这种行为是由于用于提供阳性对比度的阴性的次优选择。我们从支持向量机（SVMs）中获得灵感，提出了最大间隔对比学习（MMCL），从而克服了这一困难。我们的方法选择消极的稀疏支持向量，通过二次优化问题获得的，和对比性是通过最大化的决策余量。由于SVM优化在计算上要求很高，特别是在端到端的设置中，我们提出了减轻计算负担的简化方法。我们在标准视觉基准数据集上验证了我们的方法，在无监督表示学习中表现出比最先进的更好的性能，同时具有更好的经验收敛特性。
2021-12-21 cs.AI cs.CV cs.LG
Bayesian Gated Non-Negative Contrastive Learning
Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)（穆罕默德·本·扎耶德人工智能大学）
针对对比学习中表示纠缠问题，提出贝叶斯门控非负对比学习，通过概率门控机制动态过滤无关特征，在Imagenet-100上语义一致性提升142.1%。
2026-05-27 cs.AI cs.CV
When hard negative sampling meets supervised contrastive learning
University of Glasgow（格拉斯哥大学）
针对监督对比损失忽略难负样本挖掘的问题，提出融入难负样本采样的微调阶段监督对比学习目标SCHaNe，无需额外资源即可提升多项基准准确率，刷新ImageNet-1k基础模型SOTA。
2023-08-28 cs.AI cs.CV cs.LG
Multi-Sample based Contrastive Loss for Top-k Recommendation
Xi’an Jiaotong University（西安交通大学）
top-k推荐是推荐系统中的一项基本任务，通常通过比较正负对来学习。对比损失是对比学习中的一个关键问题，近年来受到了越来越多的关注，我们发现它非常适合于top-k推荐。然而，CL将阳性样本和阴性样本的重要性视为相同是一个问题。一方面，合作学习面临着一个正样本和多个负样本的不平衡问题。另一方面，在稀疏数据集中，正项很少，因此应该强调它们的重要性。此外，另一个重要的问题是，稀疏的积极项目仍然没有充分利用的建议。因此，我们提出了一种新的数据增强方法，使用多个正项目（或样本）同时与CL损失函数。因此，我们提出了一种基于多样本的对比损失（MSCL）函数，通过平衡正负样本的重要性和数据增强来解决这两个问题。基于图卷积网络（GCN）方法，实验结果验证了MSCL的先进性能。所提出的MSCL方法简单，适用范围广。我们将在接受后在GitHub上发布代码。
2021-09-01 cs.AI cs.IR
Bootstrapping Semi-supervised Medical Image Segmentation with Anatomical-aware Contrastive Distillation
New York University（纽约大学）；Yale University（耶鲁大学）
对比学习在医学图像分割的背景下已经显示出对注释稀缺问题的巨大希望。现有的方法通常假设一个平衡的类分布标记和未标记的医学图像。然而，现实中的医学图像数据通常是不平衡的（即，多类别标签不平衡），这自然会产生模糊的轮廓，并且通常会错误地标记稀有对象。此外，目前还不清楚是否所有阴性样本都是阴性的。在这项工作中，我们提出了行动，解剖意识的ConTrastive dIstillatiON框架，半监督医学图像分割。具体来说，我们首先开发了一个迭代对比蒸馏算法，通过软标签的负面，而不是二元监督之间的积极和消极的对。我们还从随机选择的阴性集合中捕获与阳性集合相比语义上更相似的特征，以加强采样数据的多样性。其次，我们提出了一个更重要的问题：我们真的可以处理不平衡的样本，以产生更好的性能？因此，ACTION的关键创新是以最小的额外内存占用来学习整个数据集的全局语义关系和相邻像素之间的局部解剖特征。在训练过程中，我们通过主动采样一组稀疏的硬负像素来引入解剖对比度，这可以生成更平滑的分割边界和更准确的预测。在两个基准数据集和不同的未标记设置上的广泛实验表明，ACTION显著优于当前最先进的半监督方法。
2023-03-10 cs.AI cs.CV cs.LG
Improving Composed Image Retrieval via Contrastive Learning with Scaling Positives and Negatives
Beihang University（北京航空航天大学）
针对组合图像检索中正负样本不足的问题，本文提出利用多模态大语言模型生成三元组数据，并设计两阶段微调框架引入大量负样本静态表示，实现即插即用的样本缩放，在 FashionIQ 和 CIRR 上取得最先进结果。
2024-08-07 cs.AI cs.CV
Dual Temperature Helps Contrastive Learning Without Many Negative Samples: Towards Understanding and Simplifying MoCo
KAIST（韩国科学技术院）；Northwestern Polytechnical University（西北工业大学）；University of North Texas（北德克萨斯大学）
众所周知，对比学习（CL）需要许多负样本，例如MoCo中的65536，对于这些负样本，无词典框架的性能通常较差，因为负样本大小（NSS）受到其小批量大小（MBS）的限制。为了将NSS与MBS解耦，大量CL框架中采用了动态字典，其中最流行的是MoCo家族。从本质上讲，MoCo采用了基于动量的队列字典，我们对其大小和一致性进行了细粒度的分析。我们指出，在MoCo中使用的InfoNCE损失隐含地吸引锚到其相应的正样本与各种强度的处罚，并确定这种锚间的硬度意识属性作为一个主要原因的必要性，一个大的字典。我们的研究结果促使我们简化MoCo V2通过删除其字典以及动量。基于InfoNCE与建议的双温度，我们的简化框架，SimMoCo和SimCo，优于MoCo v2的一个可见的利润。此外，我们的工作弥合了CL和非CL框架之间的差距，有助于更统一地理解SSL中的这两个主流框架。代码可在：https://bit.ly/3LkQbaT.
2022-03-30 cs.AI cs.LG
Prototypical Graph Contrastive Learning
Sun Yat-sen University（中山大学）；Sea AI Lab（Sea人工智能实验室）；Tencent（腾讯）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
图级表示在各种现实世界的应用中至关重要，例如预测分子的性质。但在实践中，精确的图形注释通常非常昂贵和耗时。为了解决这个问题，图对比学习构造了实例判别任务，该任务将正对（同一图的增强对）拉到一起，并将负对（不同图的增强对）推开，用于无监督的表示学习。然而，由于对于一个查询，它的否定是从所有图中均匀采样的，因此现有方法受到临界采样偏差问题的影响，即，否定词可能与查询具有相同的语义结构，从而导致性能下降。为了缓解这种采样偏差问题，在本文中，我们提出了一个原型图对比学习（PGCL）的方法。具体而言，PGCL模型的图形数据的底层语义结构，通过聚类语义相似的图到同一组，同时鼓励聚类一致性为同一个图的不同增强。然后对查询进行负采样，通过绘制与查询聚类不同的聚类图，保证查询与其负采样之间的语义差异。此外，对于查询，PGCL进一步基于其原型（聚类质心）与查询原型之间的距离对其否定样本重新加权，使得具有中等原型距离的那些否定享有相对较大的权重。这种重新加权策略被证明是更有效的比均匀采样。在各种图基准上的实验结果证明了我们的PGCL的优势，国家的最先进的方法。代码可在https://github.com/ha-lins/PGCL上公开获取。
2022-07-24 cs.AI cs.LG
Similarity Contrastive Estimation for Self-Supervised Soft Contrastive Learning
Université Paris-Saclay（巴黎萨克雷大学）；CEA LIST（法国原子能和替代能源委员会实验室）；Normandie Univ（诺曼底大学）；INSA Rouen（鲁昂国立应用科学学院）；LITIS（信息与工业科学实验室）
本文提出相似性对比估计（SCE），一种基于实例间语义相似性的软对比学习目标，通过估计连续分布并锐化消除噪声关系，在ImageNet上达到领先性能。
2022-09-29 cs.AI cs.CV cs.LG
Understanding and Achieving Efficient Robustness with Adversarial Supervised Contrastive Learning
Monash University（莫纳什大学）；Defence Science and Technology Group, Australia（澳大利亚国防科技集团）；CSIRO Data61, Australia（澳大利亚联邦科学与工业研究组织Data61）
对比学习（CL）是近年来兴起的一种有效的表征学习方法。这种方法的核心是选择正（相似）和负（不相似）集，为模型提供在潜在空间中的数据和类表示之间进行“对比”的机会。在本文中，我们研究CL提高模型的鲁棒性使用对抗样本。我们首先设计并进行了一项全面的研究，以了解对抗性脆弱性在潜在空间中的表现。基于这些经验证据，我们提出了一种有效和高效的监督对比学习，以实现对对抗攻击的模型鲁棒性。此外，我们提出了一种新的样本选择策略，通过去除冗余和提高与锚的相关性来优化正/负集。大量的实验表明，我们的对抗监督对比学习（ASCL）方法实现了与最先进的防御相当的性能，同时通过仅使用$42.8\%$阳性和$6.3\%$阴性，显着优于其他基于CL的防御方法。
2021-10-22 cs.AI cs.CV cs.LG
Topology Reorganized Graph Contrastive Learning with Mitigating Semantic Drift
College of Computer Science & Technology, Nanjing University of Aeronautics & Astronautics（南京航空航天大学计算机科学与技术学院）；MIIT Key Laboratory of Pattern Analysis and Machine Intelligence, Nanjing University of Aeronautics & Astronautics（南京航空航天大学工信部模式分析与机器智能重点实验室）
针对图对比学习中数据增强盲目性和负样本配对导致语义漂移的问题，提出两种全局拓扑增强方法挖掘节点语义相关性与表征拓扑，并设计基于原型的负样本对选择过滤假负样本，有效提升表示学习质量。
2024-07-23 cs.AI cs.LG
Personalized Federated Learning for Spatio-Temporal Forecasting: A Dual Semantic Alignment-Based Contrastive Approach
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））
针对时空预测中的时空异质性与联邦个性化难题，提出FUELS双重语义对齐对比学习方法，通过时间难负样本过滤和空间定制原型提升性能并降低约94%通信成本。
2024-04-04 cs.AI cs.LG
Similarity Contrastive Estimation for Image and Video Soft Contrastive Self-Supervised Learning
CEA LIST（法国原子能与替代能源委员会信息技术与系统实验室）；Université Paris-Saclay（巴黎萨克雷大学）；INSA Rouen（鲁昂国立应用科学学院）；Normandie Univ（诺曼底大学）
提出 Similarity Contrastive Estimation（SCE）软对比目标，依据负样本语义相似性连续推远或拉近，在图像与视频自监督表征学习中取得强泛化和先进性能。
2022-12-21 cs.AI cs.CV cs.LG
Non-negative Contrastive Learning
Peking University（北京大学）；MIT（麻省理工学院）；National Key Lab of General Artificial Intelligence（通用人工智能全国重点实验室）；School of Intelligence Science and Technology, Peking University（北京大学智能科学与技术学院）；School of Mathematical Sciences, Peking University（北京大学数学科学学院）；Institute for Artificial Intelligence, Peking University（北京大学人工智能研究院）
提出非负对比学习（NCL），通过施加非负性约束复兴非负矩阵分解（NMF），以提取更稀疏、解耦且可解释的特征，在特征解耦、选择及下游分类任务上显著优于标准对比学习。
2024-04-22 cs.AI cs.CV cs.LG
SelfReg: Self-supervised Contrastive Regularization for Domain Generalization
Kookmin University（国民大学）；NAVER Corp.（NAVER公司）；Korea University（高丽大学）
一般来说，深度学习的实验环境假设训练和测试数据集是从相同的分布中采样的。然而，在现实世界的情况下，两个数据集之间的分布差异，域转移，可能会发生，这成为阻碍模型泛化性能的主要因素。解决这一问题的研究领域称为领域泛化，它通过显式或隐式地提取领域不变特征来解决领域迁移问题。在最近的研究中，基于对比学习的领域泛化方法已经被提出并取得了很高的性能.这些方法需要对负数据对进行采样。然而，对比学习的性能从根本上取决于否定数据对的质量和数量。为了解决这个问题，我们提出了一种新的正则化方法领域泛化的基础上对比学习，自监督对比正则化（SelfReg）。该方法只使用正数据对，从而解决了负数据对抽样带来的各种问题。此外，我们提出了一个类特定的域扰动层（CDPL），这使得它可以有效地应用混合增强，即使只有正数据对使用。实验结果表明，SelfReg所采用的技术以兼容的方式对性能做出了贡献。在最近的基准测试中，DomainBed，所提出的方法显示出与传统的最先进的替代品相当的性能。代码可在https://github.com/dnap512/SelfReg上获得。
2021-04-20 cs.AI cs.CV
Novelty Detection via Contrastive Learning with Negative Data Augmentation
East China Normal University（华东师范大学）；Tencent Youtu Lab（腾讯优图实验室）；Shanghai Jiao Tong University（上海交通大学）；Zhejiang Lab（之江实验室）
新颖性检测是确定查询示例是否与学习的训练分布不同的过程。以前的方法试图通过生成对抗网络（GANs）学习正常样本的表示。然而，他们将遭受不稳定的训练，模式下降，和低的辨别能力。最近，各种借口的任务（如旋转预测和聚类）已经提出了新的检测自监督学习。然而，学习的潜在特征仍然是低区分度的。我们克服了这些问题，通过引入一种新的解码器编码器框架。首先，生成网络（a.k.a.解码器）通过将初始化的潜在向量映射到图像来学习表示。特别地，通过考虑训练数据的整个分布来初始化该向量，以避免模式丢弃的问题。第二，对比网络（A.K.A.）编码器）旨在通过互信息估计来“学习比较”，这直接帮助生成网络通过使用负数据增强策略来获得更具鉴别力的表示。大量的实验表明，我们的模型具有显着的优越性，尖端的新奇检测器，并实现了新的国家的最先进的结果，一些新奇检测基准，如CIFAR10和DCASE。此外，与其他基于对抗性的新颖性检测方法相比，我们的模型在非对抗性方式的训练中更稳定。
2021-06-18 cs.AI cs.CV
Siamese Prototypical Contrastive Learning
Carnegie Mellon University（卡内基梅隆大学）；Tohoku University（东北大学）；RIKEN（理化学研究所）
对比自监督学习（CSL）是一种实用的解决方案，它以无监督的方式从海量数据中学习有意义的视觉表示。通常的CSL是将从神经网络中提取的特征嵌入到特定的拓扑结构中。在训练过程中，对比损失将同一输入的不同视图拉在一起，同时将来自不同输入的嵌入分开。CSL的缺点之一是损失项需要大量的负样本来提供理想的更好的互信息界。然而，通过更大的运行批量来增加阴性样本的数量也会增强假阴性的影响：语义相似的样本被推离锚点，从而降低下游性能。在本文中，我们通过引入一个简单但有效的对比学习框架来解决这个问题。关键的见解是采用连体式的度量损失匹配原型内的功能，同时增加原型间的功能之间的距离。我们在各种基准上进行了广泛的实验，结果证明了我们的方法对提高视觉表示质量的有效性。具体来说，我们的无监督预训练ResNet-50和线性探针在ImageNet-1 K数据集上的性能优于完全监督训练版本。
2022-08-18 cs.AI cs.CV cs.LG
Contrastive Self-Supervised Network Intrusion Detection using Augmented Negative Pairs
University of Strathclyde（斯特拉思克莱德大学）；Ain Shams University（爱因夏姆大学）
针对网络入侵检测，提出对比学习范式CLAN，将增强样本视为负视图、良性样本为正视图，在Lycos2017上超越现有自监督与异常检测方法，并提升多类分类性能。
2025-09-08 cs.AI cs.CR cs.LG
CrossCLR: Cross-modal Contrastive Learning For Multi-modal Video Representations
Amazon（亚马逊）；University of Freiburg（弗莱堡大学）
对比学习允许我们通过对比负样本集合中的正对来灵活地定义强大的损失。最近，该原理也被用于学习视频和文本的跨模态嵌入，但没有充分利用其潜力。特别是，之前的丢失没有考虑模态内的相似性，这会导致嵌入效率低下，因为相同的内容被映射到嵌入空间中的多个点。通过Crosslink，我们提出了一个解决这个问题的对比损失。此外，我们根据输入嵌入定义了高度相关的样本集，并将其从阴性样本中排除，以避免假阴性问题。我们表明，这些原则始终提高学习嵌入的质量。使用Crosslink学习的联合嵌入扩展了Youcook 2和LSMDC数据集上的视频-文本检索以及Youcook 2数据集上的视频描述的最新技术水平。我们还通过学习其他模态对的改进联合嵌入来证明概念的一般性。
2021-09-30 cs.AI cs.CV cs.LG
Frequency-Masked Embedding Inference: A Non-Contrastive Approach for Time Series Representation Learning
School of Intelligence Science and Technology, University of Science and Technology Beijing（北京科技大学智能科学与技术学院）；Institute of Artificial Intelligence, University of Science and Technology Beijing（北京科技大学人工智能研究院）
针对对比学习依赖正负样本且难以建模时间序列连续语义的问题，本文提出非对比方法 FEI，通过双向频率掩码提示与嵌入推理学习表示，并在8个数据集上验证其泛化优势。
2025-01-06 cs.AI cs.LG
A Theory-Driven Self-Labeling Refinement Method for Contrastive Representation Learning
Salesforce Research（赛富时研究院）
对于图像查询，无监督对比学习将同一图像的裁剪标记为阳性，而将其他图像裁剪标记为阴性。虽然直观，这样的原生标签分配策略不能揭示查询与其肯定词和否定词之间的潜在语义相似性，并且损害性能，因为一些否定词在语义上与查询相似，或者甚至与查询共享相同的语义类。在这项工作中，我们首先证明了对比学习，不准确的标签分配严重损害其泛化语义实例歧视，而准确的标签有利于其泛化。受此启发，我们提出了一种新的自标记细化方法的对比学习。它通过两个互补的模块来提高标签质量：（i）自标记精炼（SLR）以生成准确的标签;（ii）动量混合（MM）以增强查询与其正面之间的相似性。SLR使用查询的肯定来估计查询与其肯定和否定之间的语义相似度，并将估计的相似度与对比学习中的香草标签分配相结合，以迭代地生成更准确和信息量更大的软标签。我们从理论上证明了我们的SLR可以准确地恢复标签损坏数据的真实语义标签，并监督网络在分类任务上实现零预测错误。MM随机组合查询和肯定，以增加生成的虚拟查询和它们的肯定之间的语义相似度，从而提高标签准确性。在CIFAR10、ImageNet、VOC和COCO上的实验结果表明了该方法的有效性。PyTorch代码和模型将在线发布。
2021-06-28 cs.AI cs.CV cs.LG
Improving Multi-Label Contrastive Learning by Leveraging Label Distribution
College of Computer Science and Software Engineering, Hohai University（河海大学计算机与软件学院）；State Key Laboratory for Novel Software Technology, Nanjing University（南京大学计算机软件新技术国家重点实验室）
本文提出一种利用标签分布改进多标签对比学习的方法，通过标签交集选择正负样本，并引入基于RBF和对比损失的两种方法恢复标签分布，在九个数据集的六项指标上优于现有方法。
2025-01-31 cs.AI cs.CV cs.LG
Adversarial Contrastive Self-Supervised Learning
Kuaishou Technology（快手科技）
近年来，从大量未标记数据中学习，特别是自监督学习，逐渐兴起并受到广泛关注。自监督学习，然后对一些标记的示例进行监督微调，可以显着提高标记效率，并优于使用完全注释数据的标准监督训练。在这项工作中，我们提出了一种新的自我监督的深度学习范式的基础上在线硬负对挖掘。具体来说，我们设计了一个学生-教师网络来生成自监督学习数据的多视图，并将硬负对挖掘集成到训练中。然后，我们推导出一个新的三重样损失考虑积极的样本对和挖掘的硬负样本对。在ILSVRC-2012上的大量实验证明了该方法及其组件的有效性。
2022-02-26 cs.AI cs.CV cs.LG
Implicit Contrastive Representation Learning with Guided Stop-gradient
Gauss Labs（高斯实验室）；KAIST（韩国科学技术院）
本文提出引导式停止梯度方法，在SimSiam和BYOL等非对称正样本自监督框架中隐式实现对比学习，以稳定训练、提升性能并避免小批量或无预测器时的坍缩。
2025-03-12 cs.AI cs.CV cs.LG
Social NCE: Contrastive Learning of Socially-aware Motion Representations
École Polytechnique Fédérale de Lausanne (EPFL)（洛桑联邦理工学院）
学习社会意识的运动表示是多智能体问题，如人类运动预测和机器人在人群中导航的最新进展的核心。尽管取得了有希望的进展，但用神经网络学习的现有表示仍然难以在闭环预测中推广（例如，输出碰撞轨迹）。这个问题主要是由非i.i.d.引起的。结合分布不良的训练数据的顺序预测的性质。直观地，如果训练数据仅来自安全空间中的人类行为，即，对于学习算法来说，从“正”例子中捕获“负”例子（如碰撞）的概念是困难的。在这项工作中，我们的目标是通过自我监督明确建模负面的例子来解决这个问题：（i）我们引入了社会对比损失，通过从合成的负面事件中识别地面真实的积极事件来规范提取的运动表示;（ii）我们根据我们对罕见但危险的情况的先验知识构建信息丰富的负面样本。我们的方法大大降低了最近的轨迹预测，行为克隆和强化学习算法的碰撞率，在几个基准测试中优于最先进的方法。我们的代码可在https://github.com/vita-epfl/social-nce上获得。
2021-08-20 cs.AI cs.CV cs.LG
Multi-Scale Self-Contrastive Learning with Hard Negative Mining for Weakly-Supervised Query-based Video Grounding
Carnegie Mellon University（卡内基梅隆大学）；Peking University（北京大学）
基于查询的视频基础是视频理解中一项重要而又具有挑战性的任务，其目的是根据句子查询定位未经裁剪的视频中的目标片段。大多数以前的工作取得了显着的进展，通过解决这个任务在一个完全监督的方式与段级标签，这需要高的标签成本。尽管最近的一些努力开发了只需要视频级知识的弱监督方法，但它们通常将多个预定义的片段建议与查询匹配并选择最佳片段，这缺乏细粒度的帧级细节以区分整个视频中具有高重复性和相似性的帧。为了缓解上述限制，我们提出了一个自我对比学习框架，以解决弱监督设置下的基于查询的视频接地任务。首先，而不是利用冗余段的建议，我们提出了一个新的接地方案，学习帧匹配分数参考查询语义预测可能的前景帧，只使用视频级注释。其次，由于一些预测帧（即，边界帧）是相对粗糙的，并且表现出与它们的相邻帧相似的外观，我们提出了一种从粗到细的对比学习范例，以学习更多的区分性逐帧表示，用于区分假阳性帧。特别是，我们迭代地探索多尺度硬负样本，这些样本接近表示空间中的正样本，以区分细粒度的帧细节，从而实施更准确的分段接地。在两个具有挑战性的基准上进行的大量实验表明，与最先进的方法相比，我们所提出的方法具有优越性。
2022-03-08 cs.AI cs.CV cs.LG
Not All Negatives are Equal: Label-Aware Contrastive Loss for Fine-grained Text Classification
National University of Singapore（新加坡国立大学）
细粒度分类涉及处理具有大量类别的数据集，这些类别之间存在细微差异。引导模型专注于区分这些通常容易混淆的类之间的维度，是提高细粒度任务性能的关键。在这项工作中，我们分析了两个细粒度的文本分类任务，情感分类和情感分析的预训练语言模型的对比微调。我们自适应地嵌入类关系到一个对比的目标函数，以帮助不同的权重的积极和消极的，特别是，加权密切混淆的负面比不太相似的负面的例子。我们发现，标签感知的对比损失优于以前的对比方法，在更大的数量和/或更容易混淆的类的存在下，并帮助模型产生更有区别的输出分布。
2021-09-12 cs.AI cs.CL
HaSa: Hardness and Structure-Aware Contrastive Knowledge Graph Embedding
University of Hawaii at Manoa（夏威夷大学马诺阿分校）
针对知识图谱嵌入中负三元组生成带来的假负三元组偏差，提出硬度和结构感知的HaSa对比方法，在生成困难负三元组时缓解假负影响，提升InfoNCE-based KGE性能，在WN18RR上达到最先进结果。
2023-10-15 cs.AI cs.CL
