InfoMax-GAN: Improved Adversarial Image Generation via Information Maximization and Contrastive Learning
University of Cambridge（剑桥大学）；Snap Inc.（Snap公司）；Singapore University of Technology and Design（新加坡科技设计大学）
虽然生成对抗网络（GANs）是许多生成建模应用的基础，但它们存在许多问题。在这项工作中，我们提出了一个原则性的框架，以同时减轻GANs中的两个基本问题：灾难性遗忘的发生器和模式坍塌。我们通过为GANs采用对比学习和互信息最大化方法来实现这一点，并进行广泛的分析以了解改进的来源。我们的方法显着稳定了GAN训练，并提高了GAN在相同的训练和评估条件下对最先进的作品进行图像合成的性能。特别是，与最先进的SSGAN相比，我们的方法不会在人脸等图像域上表现较差，反而显著提高了性能。我们的方法实现简单且实用：它只涉及一个辅助目标，计算成本低，并且在广泛的训练设置和数据集上表现稳健，无需任何超参数调整。为了重现性，我们的代码可以在Mimicry中找到：https://github.com/kwotsin/mimicry。
2020-11-22 cs.CV cs.LG stat.ML
Few-Shot Intent Detection via Contrastive Pre-Training and Fine-Tuning
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Adobe Research（Adobe 研究院）
在这项工作中，我们专注于一个更具挑战性的Few-Shot意图检测的情况下，许多意图是细粒度和语义相似。我们提出了一个简单而有效的Few-Shot意图检测模式，通过对比预训练和微调。具体来说，我们首先对收集到的意图数据集进行自我监督的对比预训练，隐式学习在不使用任何标签的情况下区分语义相似的话语。然后，我们将Few-Shot意图检测与监督式对比学习一起执行，这明确地将来自相同意图的话语拉得更近，并将不同意图的话语推得更远。实验结果表明，我们提出的方法实现了国家的最先进的性能在三个具有挑战性的意图检测数据集下的5杆和10杆的设置。
2021-09-13 cs.CL cs.LG
Understanding the properties and limitations of contrastive learning for Out-of-Distribution detection
University of Bristol（布里斯托大学）
最近流行的一种用于分布外（OOD）检测的方法是基于被称为对比学习的自监督学习技术。对比学习有两个主要的变体，即实例和类区分，前者可以区分不同实例的目标特征，后者可以区分不同的类。在本文中，我们的目的是了解现有的对比学习方法的有效性和局限性，面向对象的检测。我们从三个方面着手。首先，我们系统地研究了在不同的OOD检测设置下，实例判别和监督对比学习变体之间的性能差异。第二，我们研究的分布（ID）类OOD数据往往被分类。最后，我们研究了不同的对比学习方法的光谱衰减特性，并研究了它与OOD检测性能的关系。在ID和OOD数据集彼此足够不同的情况下，我们看到在没有微调的情况下，实例歧视与OOD检测中的监督方法具有竞争力。我们看到，OOD样本倾向于被分类到具有与整个数据集的分布类似的分布的类中。此外，我们表明，对比学习学习的特征空间，包含奇异向量，包含几个方向具有高方差，这可能是有害的或有益的OOD检测取决于所使用的推理方法。
2022-11-06 cs.CV cs.LG
Provably Improved Context-Based Offline Meta-RL with Attention and Contrastive Learning
Tencent AI Lab（腾讯AI实验室）；Megvii Research Shanghai（上海旷视研究院）；Tsinghua University（清华大学）；Peking University（北京大学）；University of Texas at Arlington（德克萨斯大学阿灵顿分校）
离线强化学习（OMRL）的元学习是一个未充分研究的问题，通过在许多现实世界的应用中启用RL算法，具有巨大的潜在影响。一个流行的解决方案，这个问题是推断任务身份的增强状态使用基于上下文的编码器，有效的学习强大的任务表示仍然是一个开放的挑战。在这项工作中，我们可证明的SOTA OMRL算法之一，FOCAL，通过将任务内的注意力机制和任务间的对比学习目标，鲁棒任务表示学习对稀疏奖励和分布偏移。理论分析和实验证明了我们的端到端和无模型框架的优越性能和鲁棒性相比，以前的算法在多个元RL基准。
2021-10-15 cs.AI cs.LG
Mean-Shifted Contrastive Loss for Anomaly Detection
The Hebrew University of Jerusalem（希伯来大学）
深度异常检测方法学习区分正常和异常图像的表示。虽然自我监督表示学习是常用的，小的数据集大小限制了其有效性。之前已经证明，利用外部通用数据集（例如ImageNet分类）可以显着提高异常检测性能。一种方法是离群值暴露，当外部数据集不类似异常时，这种方法就会失败。我们采用传输在外部数据集上预先训练的表示的方法进行异常检测。异常检测性能可以通过对正常训练图像上的预训练表示进行微调来显著提高。在本文中，我们首先证明和分析，对比学习，最流行的自监督学习范式不能天真地应用于预训练的功能。原因是预训练的特征初始化导致标准对比目标的条件差，导致优化动态性差。基于我们的分析，我们提供了一个修改后的对比目标，均值移动对比损失。我们的方法是非常有效的，并实现了一个新的国家的最先进的异常检测性能，包括$98.6\%$ ROC AUC的CIFAR-10数据集。
2022-11-28 cs.CV cs.LG
ConCAD: Contrastive Learning-based Cross Attention for Sleep Apnea Detection
Pennsylvania State University（宾夕法尼亚州立大学）
随着深度学习方法的最新进展，从原始数据中自动学习深度特征正在成为一种有效且广泛的方法。然而，手工制作的专家知识为基础的功能仍然是有见地的。这些专家策划的特征可以提高模型的泛化能力，并提醒模型一些数据特征，例如两个模式之间的时间间隔。这在具有临床相关数据的任务中特别有利，其中数据通常是有限且复杂的。为了将隐含的深层特征和专家策划的显式特征保持在一起，有效的融合策略变得不可或缺。在这项工作中，我们专注于一个特定的临床应用，即，睡眠呼吸暂停检测。在此背景下，我们提出了一个基于对比学习的交叉注意力框架用于睡眠呼吸暂停检测（命名为ConCAD）。交叉注意力机制通过自动分配基于重要性的注意力权重来融合深度特征和专家特征。对比学习可以通过保持每个类的实例更接近并同时将嵌入空间中不同类的实例推开来学习更好的表示。此外，一个新的混合损失的设计，同时进行对比学习和分类，通过集成监督对比损失与交叉熵损失。我们提出的框架可以很容易地集成到标准的深度学习模型中，以利用专家知识和对比学习来提高性能。正如在两个带有睡眠呼吸暂停注释的公共ECG数据集上所证明的那样，ConCAD显著提高了检测性能，并优于最先进的基准方法。
2021-05-07 cs.LG
Masked Contrastive Learning for Anomaly Detection
Seoul National University（首尔国立大学）
异常检测是安全关键软件系统的一个基本方面，然而，它仍然是一个长期存在的问题。许多分支的工程已被提出，以减轻复杂性，并已证明其效率。特别地，基于自监督学习的方法由于其在没有附加标签的情况下学习不同表示的能力而引起了人们的兴趣。在自监督学习策略中，对比学习是一个特定的框架，验证了它们在包括异常检测在内的各个领域的优越性。然而，对比学习的主要目标是学习没有任何标签的任务不可知的特征，这并不完全适合识别异常。在本文中，我们提出了一个特定于任务的对比学习的变种命名为屏蔽对比学习，这是更适合异常检测。此外，我们提出了一种新的推理方法，称为自集成推理，通过利用辅助自我监督任务学习的能力，进一步提高性能。通过结合我们的模型，我们可以在各种基准数据集上显著优于以前的最先进方法。
2023-01-30 cs.CV cs.LG
Positive Difference Distribution for Image Outlier Detection using Normalizing Flows and Contrastive Data
Bosch Center for Artificial Intelligence（博世人工智能中心）；University of Heidelberg（海德堡大学）
针对生成模型似然难以检测图像异常值的问题，本文利用无标签对比数据训练自监督特征与归一化流，提出等价于学习两类特征密度归一化正差的概率异常值得分，并在基准上验证其优于多种方法。
2023-04-26 cs.LG
GraphGuard: Contrastive Self-Supervised Learning for Credit-Card Fraud Detection in Multi-Relational Dynamic Graphs
University of St. Gallen (HSG)（圣加仑大学（HSG））
针对信用卡欺诈检测中特征工程和标注依赖的局限，提出基于图的对比自监督框架GraphGuard，在真实与合成数据集上验证了其有效性。
2024-07-17 cs.LG
Rethinking Contrastive Learning in Graph Anomaly Detection: A Clean-View Perspective
College of Intelligence and Computing, Tianjin University（天津大学智能计算学院）；Guangdong Laboratory of Artificial Intelligence and Digital Economy (SZ)（广东人工智能与数字经济实验室（深圳））；Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences（深圳先进技术研究院，中国科学院）
针对图异常检测中对比学习受干扰边影响的问题，提出干净视图增强框架CVGAD，含多尺度异常感知和渐进式净化模块，在五个基准数据集上验证了有效性。
2025-05-23 cs.LG
Contrastive Representation Modeling for Anomaly Detection
Technology Innovation Institute, Abu Dhabi, UAE（阿布扎比技术创新研究所）；Computer Science Department, Khalifa University of Science and Technology, Abu Dhabi, UAE（科技学院计算机科学系）
本文提出了一种基于对比学习的表征建模方法，通过重新定义正负关系以提升异常检测性能，适用于工业场景中的局部异常检测。
2025-08-07 cs.LG
ImpliHateVid: A Benchmark Dataset and Two-stage Contrastive Learning Framework for Implicit Hate Speech Detection in Videos
Indian Institute of Technology Indore（印度理工学院印地尔分校）；Chaitanya Bharathi Institute of Technology（恰伊坦亚·巴哈蒂技术学院）
本文提出视频隐式仇恨检测数据集 ImpliHateVid 及两阶段多模态对比学习框架，通过融合音频、文本、图像及情感特征，在隐式和一般仇恨检测任务中验证了有效性。
2025-08-15 cs.CV cs.LG
Contrastive View Design Strategies to Enhance Robustness to Domain Shifts in Downstream Object Detection
University of Pittsburgh（匹兹堡大学）
对比学习已经成为目标检测的一种有竞争力的预训练方法。尽管取得了这一进展，但在面对域偏移时，对对比预训练检测器的鲁棒性的研究很少。为了解决这个差距，我们进行了对比学习和域外目标检测的实证研究，研究对比视图设计如何影响鲁棒性。特别是，我们进行了以检测为重点的借口任务实例定位（InsLoc）的案例研究，并提出了策略，以增加视图，并提高鲁棒性的外观转移和上下文转移的情况下。在这些策略中，我们提出了对裁剪的更改，例如更改使用的百分比，添加IoU约束，以及集成基于显着性的对象先验。我们还探讨了增加捷径减少增强，如泊松混合，纹理平坦化和弹性变形。我们对这些策略进行了抽象，天气和上下文域转换的基准测试，并在单对象和多对象图像数据集的预训练中说明了将它们结合起来的强大方法。总的来说，我们的结果和见解显示了如何通过选择对比学习中的视图来确保鲁棒性。
2022-12-09 cs.AI cs.CV cs.LG
Towards noise robust trigger-word detection with contrastive learning pre-task for fast on-boarding of new trigger-words
Samsung Research America（三星美国研究院）
触发词检测作为用户与语音助手通信的切入点起着重要作用。但是，支持一个特定的词作为一个标记词涉及到大量的数据汇集，增强和标记该词。这使得支持新的标记词成为一个繁琐且耗时的过程。为了解决这个问题，我们探索使用对比学习作为预训练任务，帮助检测模型推广到不同的单词和噪声条件。我们探索了监督对比技术，并提出了一种新的自我监督训练技术，使用长句音频中的组块词。我们表明，监督和新的自我监督对比预训练技术具有可比的结果，传统的分类预训练新的触发词，数据可用性较低。
2022-07-27 cs.LG cs.SD eess.AS
Hyperbolic Self-supervised Contrastive Learning Based Network Anomaly Detection
Tianjin University（天津大学）
属性网络的异常检测是近年来控制论异常检测、金融欺诈检测等领域的研究热点。随着深度学习在图表示上的广泛应用，现有方法选择应用欧几里德图编码器作为其骨干，这可能会丢失重要的层次信息，特别是在复杂网络中。为了解决这个问题，我们提出了一个有效的异常检测框架，使用双曲自监督对比学习。具体来说，我们首先通过执行子图采样来进行数据增强。然后利用双曲空间中的层次信息，通过指数映射和对数映射，通过判别过程，将正对的得分与负对的得分相减，得到异常得分。最后，在四个真实世界的数据集上进行的大量实验表明，我们的方法优于代表性的基线方法。
2022-09-12 cs.LG cs.SI
Contrastive Learning-Based Dependency Modeling for Anomaly Detection in Cloud Services
University of Pennsylvania（宾夕法尼亚大学）；Georgia Institute of Technology（佐治亚理工学院）；Northeastern University（东北大学）；Trine University（特里恩大学）
本文提出融合对比学习与依赖图建模的云服务异常检测方法，通过图卷积聚合与时间一致性约束增强表示，实验证明在关键指标上优于现有方法且鲁棒性强。
2025-10-15 cs.LG
DACR: Distribution-Augmented Contrastive Reconstruction for Time-Series Anomaly Detection
Northwestern University（西北大学）
针对复杂动态场景下正常数据多分布、异常差异程度不一的问题，提出DACR框架，通过分布外数据生成、对比学习和注意力依赖建模提升重建鲁棒性，并在九个基准上取得最先进性能。
2024-01-20 cs.LG
DeepfakeUCL: Deepfake Detection via Unsupervised Contrastive Learning
Deakin University（迪肯大学）；University of Fukui（福井大学）
最近，面部深度伪造检测取得了令人印象深刻的结果。几乎所有现有的用于人脸deepfake检测的深度学习技术都是完全监督的，并且在训练期间需要标签。在本文中，我们通过无监督对比学习设计了一种新的deepfake检测方法。我们首先生成图像的两个不同的变换版本，并将它们馈送到两个顺序的子网络中，即，编码器和投影头。通过最大化投影头输出的对应度来实现无监督训练。为了评估我们的无监督方法的检测性能，我们进一步使用的无监督功能训练一个有效的线性分类网络。大量的实验表明，我们的无监督学习方法能够在数据集内和数据集间设置中实现与最先进的监督技术相当的检测性能。我们还对我们的方法进行了消融研究。
2021-04-23 cs.CV cs.LG
Contrastive-mixup learning for improved speaker verification
Texas A&M University（德克萨斯农工大学）；Amazon Alexa AI（亚马逊Alexa AI）
本文提出了一种新的说话人确认模型--混叠模型。Mixup是一种简单而有效的数据增强技术，它可以构建随机数据点和标签对的加权组合，用于深度神经网络训练。Mixup由于能够提高深度神经网络的鲁棒性和泛化能力而受到越来越多的关注。虽然mixup在不同的领域取得了成功，但大多数应用程序都集中在闭集分类任务上。在这项工作中，我们提出了对比混合，一种新的增强策略，学习区分表示的基础上的距离度量。在训练期间，混合操作生成输入和虚拟标签的凸插值。此外，我们已经重新制定了原型损失函数，以便在度量学习目标上启用混淆。为了证明它的泛化有限的训练数据，我们进行实验，通过改变VoxCeleb数据库中每个扬声器的可用话语的数量。实验结果表明，应用对比混合优于现有的基线，减少错误率相对16%，特别是当每个说话人的训练话语的数量是有限的。
2022-02-22 cs.LG cs.SD eess.AS
Can representation learning for multimodal image registration be improved by supervision of intermediate layers?
Uppsala University（乌普萨拉大学）
多模态成像和相关分析通常需要图像对准。对比学习可以生成多模态图像的表示，将多模态图像配准的挑战性任务减少到单模态。以前，在对比学习中对中间层的额外监督已经改进了生物医学图像分类。我们评估了类似的方法是否可以改进注册学习的表示，以提高注册性能。我们探索了三种方法来增加对比监督的潜在功能的瓶颈层的U-Nets编码的多模态图像和评估三个不同的批评功能。我们的研究结果表明，在没有对潜在特征进行额外监督的情况下学习的表示在两个公共生物医学数据集的注册下游任务中表现最好。我们研究的性能下降，利用最近的见解在分类和自监督学习的对比学习。我们通过多维尺度可视化学习表示的空间关系，并表明对瓶颈层的额外监督可能导致中间嵌入空间的部分维度崩溃。
2023-03-01 cs.CV cs.LG
Contrastive Language Adaptation for Cross-Lingual Stance Detection
MIT Computer Science and Artificial Intelligence Laboratory（麻省理工学院计算机科学与人工智能实验室）；Qatar Computing Research Institute, HBKU（哈马德·本·哈利法大学卡塔尔计算研究所）
我们研究跨语言的立场检测，其目的是利用一种语言的标记数据，以确定相对的角度（或立场）的一个给定的文件相对于一个不同的目标语言的索赔。特别是，我们介绍了一种新的对比语言适应方法应用于记忆网络，它确保了准确对齐的立场在源和目标语言，并能有效地处理有限的标记数据在目标语言的挑战。公共基准数据集上的评估结果以及与当前最先进方法的比较表明了该方法的有效性。
2019-10-04 cs.CL cs.LG
Contrastive Reasons Detection and Clustering from Online Polarized Debate
University of Alberta（阿尔伯塔大学）
这项工作解决的问题，无监督建模和提取的主要对比性的原因传达的两极分化的问题的不同观点。它提出了一个管道的方法围绕检测和聚类的短语，同化的论点方面使用一种新的短语作者互动主题视点模型。评价是基于信息量，相关性和聚类准确性提取的原因。管道方法显示了显着的改进，在国家的最先进的方法在网上辩论数据集的对比摘要。
2019-08-01 cs.AI cs.CL cs.IR
Generative and Contrastive Self-Supervised Learning for Graph Anomaly Detection
La Trobe University（乐卓博大学）；Monash University（蒙纳士大学）
基于图数据的异常检测在网络安全、金融、社交网络等关键应用中具有重要的实际意义，因此受到广泛关注。现有的数据采掘和机器学习方法要么是肤浅的方法，不能有效地捕捉复杂的相互依赖的图数据或图自动编码器的方法，不能充分利用上下文信息作为监督信号，有效的异常检测。为了克服这些挑战，在本文中，我们提出了一种新的方法，自监督学习图异常检测（SL-GAD）。我们的方法构建不同的上下文子图（视图）的基础上的目标节点，并采用两个模块，生成属性回归和多视图对比学习的异常检测。而生成属性回归模块允许我们捕获属性空间中的异常，多视图对比学习模块可以从多个子图中利用更丰富的结构信息，从而能够捕获结构空间中的异常，混合结构和属性信息。我们在六个基准数据集上进行了广泛的实验，结果表明，我们的方法比最先进的方法有很大的优势。
2022-01-23 cs.LG
RxnCLF: Contrastive Transformation-Aware Reaction Foundation Model for Improved Reactivity Prediction
Discovery Chemistry, Merck & Co., Inc.（默克公司发现化学部门）
本研究提出RxnCLF，一种基于凝聚反应图的自监督对比反应基础模型，经170万Pistachio反应预训练后，在多类产率预测基准上均优于基线模型，展现出良好泛化潜力。
2026-08-07 cs.LG
Improved Forward-Forward Contrastive Learning
本文提出改进的前向-前向对比学习方法，通过消除FFCL的后两个阶段并完全移除反向传播，仅依赖局部更新，提供更具生物合理性的替代方案。
2024-05-26 cs.LG cs.NE
Cross-Platform and Cross-Domain Abusive Language Detection with Supervised Contrastive Learning
The University of British Columbia（不列颠哥伦比亚大学）
在不同的在线平台上滥用语言的流行一直是一个主要的问题，提出了自动跨平台滥用语言检测的需要。然而，以前的工作集中在连接来自多个平台的数据，固有地采用经验风险最小化（ERM）方法。在这项工作中，我们从领域泛化目标的角度来解决这一挑战。我们设计了SCL-Fish，这是一种有监督的对比学习集成Meta学习算法，可以在看不见的平台上检测滥用语言。我们的实验分析表明，SCL-Fish实现了更好的性能比ERM和现有的国家的最先进的模型。我们还表明，SCL-Fish是数据高效的，并且在对滥用语言检测任务进行微调时，与大规模预训练模型的性能相当。
2022-11-11 cs.CL cs.LG
Prototypical Contrastive Learning For Improved Few-Shot Audio Classification
Multimedia Analysis Group of the Computational Intelligence Laboratory (MagCIL) Institute of Informatics
本研究将监督对比损失（特别是角度损失）整合进原型少样本训练，结合SpecAugment和自注意力机制，在MetaAudio基准的5-way 5-shot音频分类任务上取得最先进性能。
2025-09-12 cs.LG cs.SD
Anomalous Sound Detection using Audio Representation with Machine ID based Contrastive Learning Pretraining
Harbin Engineering University（哈尔滨工程大学）；Harbin Institute of Technology（哈尔滨工业大学）；University of Technology Sydney（悉尼科技大学）；University of Surrey（萨里大学）
本文提出一种两阶段对比学习方法，通过结合机器ID预训练音频表示模型并利用自监督ID分类器微调，增强同一ID的音频特征关系，在DCASE 2020数据集上显著提升了异常声音检测的性能与稳定性。
2023-04-10 cs.LG cs.SD eess.AS
Graph Anomaly Detection via Multi-Scale Contrastive Learning Networks with Augmented View
图异常检测是基于图的机器学习中的一项重要任务，在实际应用中得到了广泛的应用。GAD的主要目标是从图数据集中捕获明显偏离大多数节点的异常节点。最近的方法已经注意到GAD的对比策略的各种尺度，即，节点-子图和节点-节点对比。然而，他们忽视了子图与子图的比较信息，即正常和异常子图对在GAD中的嵌入和结构方面表现不同，导致任务性能次优。在本文中，我们实现了上述想法在所提出的多视图多尺度对比学习框架与子图-子图对比的第一次实践。具体地说，我们把原始输入图作为第一视图，并通过边修改的图增强来生成第二视图。在子图对相似性最大化的指导下，所提出的子图-子图对比度有助于更鲁棒的子图嵌入，尽管结构变化。此外，引入的子图-子图对比度与广泛采用的节点-子图和节点-节点对比度可以很好地配合，共同提高GAD性能。此外，我们还进行了充分的实验，研究不同的图增强方法对检测性能的影响。综合实验结果很好地证明了我们的方法相比，国家的最先进的方法和多视图子图对对比策略的GAD任务的有效性的优越性。
2022-12-02 cs.LG
Noise-contrastive Online Change Point Detection
HSE University（俄罗斯联邦高等经济学院）；ETH Zürich（苏黎世联邦理工学院）；ETH AI Center（苏黎世联邦理工学院人工智能中心）；SB Robotics（SB机器人）
本文提出了一种新的在线突变点检测方法，通过最大化预突变与后突变分布之间的差异度，设计出适用于参数和非参数场景的灵活算法，并通过数值实验验证了其效率。
2026-03-21 cs.LG math.ST stat.ME
Causality-Aware Contrastive Learning for Robust Multivariate Time-Series Anomaly Detection
Seoul National University（首尔大学）；Hyundai Motor Company（现代汽车公司）
本文提出因果感知对比学习方法CAROTS，通过因果保持与扰动样本构建正负对训练编码器，并引入相似性过滤的单类对比损失，在多个数据集上验证了因果关系融入可提升多元时间序列异常检测的鲁棒性。
2025-06-04 cs.AI cs.LG
Masked Contrastive Pre-Training Improves Music Audio Key Detection
Department of Computer Science；Engineering, Texas A\&M University
本文通过掩码对比预训练提升音乐音频键检测性能，发现其能有效增强音高敏感性，并在监督学习中实现SOTA表现。
2026-04-11 cs.LG cs.SD
Type-IV Code Clone Detection via Layer-Wise Non-Contrastive Representation Learning
Université de Montréal（蒙特利尔大学）
针对Type-IV代码克隆检测，提出基于VICReg框架的非对比分层表示学习方法LWVIC4Code，通过跨层一致性正则化与深度加权生成鲁棒表示，在多个数据集上取得优于或媲美对比学习及大模型的性能。
2026-09-16 cs.LG cs.SE
Anomaly Detection on Attributed Networks via Contrastive Self-Supervised Learning
Monash University（莫纳什大学）；Alibaba Group（阿里巴巴集团）；Nanjing University of Science and Technology（南京理工大学）；The Hong Kong Polytechnic University（香港理工大学）；Chinese Academy of Sciences（中国科学院）；University of Minnesota（明尼苏达大学）
由于属性网络在复杂系统建模中的广泛应用，属性网络上的异常检测引起了广泛的研究兴趣。最近，基于深度学习的异常检测方法已经显示出比浅层方法更有希望的结果，特别是在具有高维属性和复杂结构的网络上。然而，现有的方法，采用图形自动编码器作为其骨干，不充分利用丰富的信息的网络，导致次优性能。此外，这些方法在其学习目标中不直接针对异常检测，并且由于完整的图训练机制而无法扩展到大型网络。为了克服这些局限性，在本文中，我们提出了一种新的对比自监督学习框架的异常检测属性网络。我们的框架充分利用网络数据的本地信息，通过采样一种新型的对比实例对，它可以捕获每个节点和它的相邻子结构之间的关系，在无监督的方式。同时，提出了一种基于图神经网络的对比学习模型，用于从高维属性和局部结构中学习信息嵌入，并通过输出得分来衡量每个实例对的一致性。通过对比学习模型的多轮预测得分进一步用于评估每个节点的异常与统计估计。以这种方式，通过特定的异常检测感知目标来训练学习模型。此外，由于图神经网络模块的输入是批量的实例对而不是整个网络，我们的框架可以灵活地适应大型网络。实验结果表明，我们提出的框架优于所有七个基准数据集上的最先进的基线方法。
2021-05-06 cs.LG
Harnessing Contrastive Learning and Neural Transformation for Time Series Anomaly Detection
University of Waterloo（滑铁卢大学）
提出CNT框架，结合窗口对比学习与可学习变换，解决时间序列异常检测中的表示坍缩问题，并在真实工业数据集上超越多种基线。
2025-01-25 cs.AI cs.LG
Graph Contrastive Learning for Anomaly Detection
Tsinghua University（清华大学）；Renmin University of China（中国人民大学）；Mininglamp Technology（明略科技）；Bosch Center for Artificial Intelligence（博世人工智能中心）；University of Oslo（奥斯陆大学）
基于图的异常检测已被广泛用于检测真实世界应用中的恶意活动。解决这个问题的现有尝试迄今为止集中在结构特征工程或学习的二进制分类制度。在这项工作中，我们建议利用图对比编码，并提出监督GraphCAD模型，用于根据异常节点与正常节点到全局上下文的距离（例如，所有节点的平均值）。为了处理具有稀缺标签的场景，我们通过设计用于生成合成节点标签的图破坏策略，进一步使GraphCAD成为一个自监督框架。为了达到对比的目的，我们设计了一个图神经网络编码器，可以推断和进一步删除可疑的链接在消息传递过程中，以及学习输入图的全局上下文。我们在四个公共数据集上进行了广泛的实验，证明1）GraphCAD显著且持续优于各种高级基线，2）其无需微调的自监督版本可以实现与其完全监督版本相当的性能。
2022-08-29 cs.LG
Reconstruction Enhanced Multi-View Contrastive Learning for Anomaly Detection on Attributed Networks
Nanjing University of Aeronautics and Astronautics（南京航空航天大学）；Central South University（中南大学）
针对属性网络异常检测，本文提出联合优化多视图对比学习与掩码自编码器属性重构的自监督框架，并在五个基准上验证其优于现有方法。
2022-05-10 cs.LG
Few-shot Message-Enhanced Contrastive Learning for Graph Anomaly Detection
University of Science and Technology of China（中国科学技术大学）；Beijing Jiaotong University（北京交通大学）；Tsinghua University（清华大学）
提出FMGAD模型，结合自监督对比学习与Deep-GNN消息增强重建，利用少量标注异常有效检测图异常，在六个数据集上优于现有方法。
2023-11-17 cs.LG
Joint Multimodal Contrastive Learning for Robust Spoken Term Detection and Keyword Spotting
Electrical Engineering（电子工程）；Artificial Intelligence（人工智能）
本文提出一种联合多模态对比学习框架，通过统一音频和跨模态监督提升语音术语检测和关键词 spotting 的鲁棒性。
2025-12-16 cs.LG cs.SD
Revisiting Graph Contrastive Learning for Anomaly Detection
Hainan University（海南大学）；Key Laboratory of Information Retrieval of Hainan Province（海南省信息检索重点实验室）
该研究重新审视图对比异常检测机制，纠正了多尺度模块贡献的认知误区，提出统一现有方法的MAG框架，其两种变体在低计算成本下实现了更优的异常检测性能。
2023-05-04 cs.AI cs.LG
Temporal Contrastive Transformer for Financial Crime Detection: Self-Supervised Sequence Embeddings via Predictive Contrastive Coding
NICE Actimize
本文提出了一种名为时间对比变压器（TCT）的表示学习框架，旨在捕捉金融交易序列中的时间动态。通过自监督对比目标训练模型，生成编码时间行为模式的嵌入，以支持下游的欺诈检测任务。实验结果显示，嵌入本身能实现有意义的预测性能（AUC 0.8644），但结合领域工程特征时，性能提升不显著（AUC 0.9205 vs. 0.9245），表明学习到的表示与现有特征抽象有较大重叠。这些发现表明TCT是一种有前景的表示学习方法，能够捕捉相关的行为信号，同时凸显了在强领域特征上实现加性价值的挑战。
2026-03-31 cs.CR cs.LG
Decoupled conditional contrastive learning with variable metadata for prostate lesion detection
LTCI, Télécom Paris, Institut Polytechnique de Paris（巴黎理工学院巴黎电信学院LTCI）；Incepto Medical（Incepto医疗公司）；Sorbonne Université（索邦大学）；CNRS（法国国家科学研究中心）；LIP6（LIP6实验室）
针对PI-RADS报告间差异问题，提出融合多标注者弱元数据、元数据置信度与未标注数据的条件对比损失，在PI-CAI数据集上将前列腺病变检测AUC提升3%。
2023-08-18 cs.CV cs.LG
DCdetector: Dual Attention Contrastive Representation Learning for Time Series Anomaly Detection
University of Oxford（牛津大学）；DAMO Academy, Alibaba Group（阿里巴巴集团达摩院）
提出DCdetector，一种多尺度双注意力对比表示学习模型，通过非对称设计和纯对比损失学习置换不变表示，在多个时间序列异常检测基准上取得最先进结果。
2023-10-11 cs.AI cs.LG
Contrastive Knowledge Distillation for Anomaly Detection in Multi-Illumination/Focus Display Images
KAIST（韩国科学技术院）；Hanyang University（汉阳大学）；Samsung Display（三星显示）
针对多光照/多聚焦显示图像异常检测，提出基于对比蒸馏（MCD）和混合模块的方法，在MMdAD数据集上显著超越现有方法。
2026-09-09 cs.CV cs.LG
Context-Enhanced Contrastive Search for Improved LLM Text Generation
Praxis Business School（普拉克西斯商学院）
针对LLM长文本生成中连贯性与多样性难以兼顾的问题，本文提出带上下文校准的Context-Enhanced Contrastive Search (CECS)，通过动态上下文加权、多级对比搜索和自适应温度控制优化生成质量，实验证明其在连贯性和相关性上显著优于现有方法。
2025-04-22 cs.AI cs.CL cs.LG
Abnormal Event Detection via Hypergraph Contrastive Learning
Beijing University of Posts and Telecommunications（北京邮电大学）
针对属性异构信息网络中的无监督异常事件检测问题，提出超图对比学习方法AEHCL，通过事件内和事件间对比模块捕获异常交互，显著提升了检测性能。
2023-04-02 cs.AI cs.LG
Self-supervised Graph Transformer with Contrastive Learning for Brain Connectivity Analysis towards Improving Autism Detection
University of Arizona（亚利桑那大学）；Children's National Hospital（儿童国家医院）；Imperial College London（伦敦帝国学院）
本文提出一种结合对比学习与随机图改变的自监督图Transformer框架，通过脑网络Transformer编码器分析fMRI数据，在ABIDE数据集上实现82.6 AUROC和74%准确率，显著提升了自闭症检测性能。
2025-01-18 cs.AI cs.LG
EAGLE: Contrastive Learning for Efficient Graph Anomaly Detection
Institute of Innovation, Science and Sustainability, Federation University Australia（创新、科学与可持续性研究所，联邦大学澳大利亚）；School of Software, Dalian University of Technology（软件学院，大连理工大学）；Computing Center, Anshan Normal University（计算机中心，鞍山师范学院）
针对嵌入式设备上图异常检测方法效率不足的问题，本文提出基于对比学习的EAGLE模型，通过元路径实例采样、图自编码器和判别器实现高效异常评分，并在三个异质网络数据集上超过现有最优方法。
2025-05-12 cs.AI cs.LG
SOrT-ing VQA Models : Contrastive Gradient Learning for Improved Consistency
Georgia Tech（佐治亚理工学院）；Facebook AI Research（Facebook人工智能研究院）；University of California, San Diego（加州大学圣迭戈分校）；Salesforce Research（Salesforce研究院）
视觉问答（VQA）的最新研究表明，最先进的模型在对世界的理解上是不一致的--它们回答了看似困难的问题，需要正确的推理，但却把更简单的相关子问题弄错了。这些子问题涉及图像中的较低级别的视觉概念，模型理想地应该理解这些概念以能够正确地回答较高级别的问题。为了解决这个问题，我们首先提出了一种基于梯度的可解释性方法来确定与图像上的推理问题最密切相关的问题，并使用它来评估VQA模型识别回答推理问题所需的相关子问题的能力。接下来，我们提出了一种基于对比梯度学习的方法，称为面向子问题的调整（SOrT），它鼓励模型将相关子问题的排名高于<image，reasoning-question>对的不相关问题。我们表明，SOrT提高了模型的一致性高达6.5%的点比现有的基线，同时也提高了视觉基础。
2020-12-01 cs.AI cs.CL cs.CV
Noise-robust Contrastive Learning for Critical Transition Detection in Dynamical Systems
Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（深圳先进技术研究院，中国科学院）
本文提出一种基于奇异值分解和半正交约束的轻量对比学习方法，用于提高动态系统中临界转变检测的鲁棒性与准确性。
2025-12-14 cs.AI cs.LG physics.comp-ph
SupEuclid: Extremely Simple, High Quality OoD Detection with Supervised Contrastive Learning and Euclidean Distance
Simon Fraser University（西蒙弗雷泽大学）；Digitalist Group Canada（加拿大数字主义集团）
该研究提出SupEuclid方法，用监督对比学习训练ResNet18，仅靠欧氏距离做OoD检测，在近远OoD基准上取得SOTA效果，提供了简单强基线。
2023-08-21 cs.CV cs.LG
Contrastive Self-Supervised Learning Based Approach for Patient Similarity: A Case Study on Atrial Fibrillation Detection from PPG Signal
Bangladesh University of Engineering and Technology（孟加拉国工程技术大学）；United International University（联合国际大学）；University of Maryland（马里兰大学）；United Arab Emirates University（阿联酋大学）
本文提出一种基于对比学习的深度学习框架，利用生理信号进行患者相似性搜索，并引入多种邻居选择算法，在170多名个体的PPG信号心房颤动检测数据集上验证了其优于基线方法的有效性。
2023-07-22 cs.LG eess.SP
CARLA: Self-supervised Contrastive Representation Learning for Time Series Anomaly Detection
Monash University（莫纳什大学）；Griffith University（格里菲斯大学）；IBM T. J. Watson Research Center（IBM T. J. 沃森研究中心）
CARLA 提出一种自监督对比表示学习方法，通过注入异常作为负样本并利用邻居信息，在七个真实时间序列异常检测数据集上优于现有方法。
2024-08-08 cs.LG cs.NE
FedACK: Federated Adversarial Contrastive Knowledge Distillation for Cross-Lingual and Cross-Model Social Bot Detection
USTC（中国科学技术大学）；University of Leeds（利兹大学）；Beihang University（北京航空航天大学）；NERC-RPP, CAEIT（中国电子科技集团公司信息科学研究院国家电磁辐射控制工程技术研究中心）；Tsinghua University（清华大学）
社交机器人检测对于在线社交平台的弹性和安全性至关重要。最先进的检测模型是孤立的，并且在很大程度上忽略了来自多个跨语言平台的各种数据特征。同时，数据分布和模型架构的异构性使得设计一个高效的跨平台、跨模型的检测框架变得非常复杂。在本文中，我们提出了FedACK，一个新的联邦对抗性对比知识蒸馏框架的社会机器人检测。我们设计了一种基于GAN的联邦知识蒸馏机制，用于在客户端之间有效地传输数据分布知识。特别地，使用全局生成器来提取全局数据分布的知识，并将其提取到每个客户端的局部模型中。我们利用本地数据库实现定制模型设计，并使用本地生成器对难以确定的样本进行数据增强。局部训练作为多阶段对抗和对比学习进行，以使客户端之间的特征空间一致，并约束局部模型的优化方向，减少局部和全局模型之间的分歧。实验表明，FedACK优于国家的最先进的方法在准确性，通信效率和特征空间的一致性。
2023-03-10 cs.AI cs.LG
