ConLID: Supervised Contrastive Learning for Low-Resource Language Identification
ConLID通过监督对比学习方法,提升低资源语言在领域外数据上的识别性能,同时保持高资源语言的识别效果。
2026-03-09 cs.AI cs.CL cs.LG
Self-supervised contrastive learning performs non-linear system identification
Institute of Computational Biology, Computational Health Center, Helmholtz Munich and Munich Center for Machine Learning (MCML)(计算生物学研究所、计算健康中心、海德堡慕尼黑和慕尼黑机器学习中心)
本文深化了自监督学习与可辨识表示学习的联系,提出dynamics contrastive learning框架,在非线性观测模型下执行潜在空间的系统辨识,揭示线性和非线性动力学,并提供理论保证与实验验证。
2025-06-01 cs.LG stat.ML
AVP-Fusion: Adaptive Multi-Modal Fusion and Contrastive Learning for Two-Stage Antiviral Peptide Identification
AVP-Fusion通过自适应多模态融合与对比学习,实现了抗病毒肽的两阶段高效识别,显著提升准确率和决策边界。
2025-12-25 cs.LG
Refinement Contrastive Learning of Cell-Gene Associations for Unsupervised Cell Type Identification
本文提出scRCL框架,通过整合细胞-基因关联,提升无监督细胞类型识别的准确性与生物学相关性。
2025-12-11 cs.AI cs.LG
Automatic Music Sample Identification with Multi-Track Contrastive Learning
Sony AI(索尼人工智能);Sony Group Corporation(索尼集团)
本文提出一种基于多轨对比学习的自监督方法,用于自动识别音乐采样并检索其来源,显著优于现有基线,且对流派和数据库规模具有鲁棒性。
2025-10-27 cs.AI cs.LG cs.SD
Identification of morphological fingerprint in perinatal brains using quasi-conformal mapping and contrastive learning
Lanzhou University(兰州大学);Zhejiang University(浙江大学);Hangzhou Normal University(杭州师范大学);Lanzhou Jiaotong University(兰州交通大学);Binjiang Institute of Zhejiang University(浙江大学滨江研究院)
提出一种结合拟共形映射和对比学习的深度学习框架,将围产期大脑三维形态特征投影至二维平面进行个体识别,发现折叠形态在第三孕期初即可作为形态学指纹。
2023-11-25 cs.LG
Acoustic identification of individual animals with hierarchical contrastive learning
Centre for Digital Music, Queen Mary University of London(伦敦大学玛丽皇后学院数字音乐中心);IMT Atlantique(IMT大西洋高等电信学院);CNRS(法国国家科学研究中心);Lab-STICC(信息、信号与智能系统实验室);Tilburg University(蒂尔堡大学)
本研究将动物个体声学识别建模为层次多标签分类任务,提出感知层次的损失函数学习保留分类层级关系的鲁棒表征,提升了个体及更高分类层级的识别准确率,且在新个体开集分类场景中具备应用潜力。
2024-09-13 cs.LG cs.SD eess.AS
AVP-Pro: An Adaptive Multi-Modal Fusion and Contrastive Learning Approach for Comprehensive Two-Stage Antiviral Peptide Identification
Jingdezhen Ceramic University(景德镇陶瓷大学);Jingxi Art & Ceramics Technology Institute(江西艺术陶瓷职业技术学院)
AVP-Pro通过自适应多模态融合和对比学习方法,实现了抗病毒肽的高效两阶段鉴定,提升了模型判别能力和小样本下的分类精度。
2026-01-16 cs.LG
PRNU-Bench: A Novel Benchmark and Model for PRNU-Based Camera Identification
University of Bucharest(布加勒斯特大学)
提出PRNU-Bench基准(含13K张照片、120+台相机,支持野外评估)及混合架构模型(去噪自动编码器估计PRNU信号+卷积网络实现1:N验证),不依赖对比学习,性能优于现有模型。
2025-09-22 cs.CR cs.CV cs.LG
Progressive Domain Adaptation with Contrastive Learning for Object Detection in the Satellite Imagery
Texas State University(德克萨斯州立大学)
本文针对卫星影像中小而密集目标检测难题,提出结合空间金字塔池化、跨阶段部分网络、热图区域提议和图像难度自适应焦点损失的小目标检测流程,并引入对比学习与渐进域自适应生成域不变特征,在高度不平衡卫星数据集上构建首个域自适应基准,使mAP提升7.4%。
2023-10-31 cs.CV cs.LG cs.MM
Contrastive Unsupervised Learning for Audio Fingerprinting
Bytedance AI Lab(字节跳动人工智能实验室)
视频分享平台的兴起吸引了越来越多的人拍摄视频并上传到互联网。这些视频大多包含精心编辑的背景音轨,其中可能涉及严重的语音变化、音高偏移和各种类型的音频效果,并且现有的音频识别系统可能无法识别音频。为了解决这个问题,本文将对比学习的思想引入到音频指纹识别(AFP)中。对比学习是一种无监督的学习方法,可以有效地对相似样本进行分组,并区分不同的样本。在我们的工作中,我们认为一个音轨和它的不同失真的版本是相似的,而认为不同的音轨是不相似的。基于动量对比(MoCo)框架,提出了一种基于对比学习的AFP指纹识别方法,该方法能够生成具有鉴别力和鲁棒性的指纹。一组实验表明,我们的AFP方法是有效的音频识别,与严重的音频失真的鲁棒性,包括具有挑战性的速度变化和音高变化。
2020-10-26 cs.LG cs.MM cs.SD
Deep Learning for Forensic Identification of Source
South Dakota State University(南达科他州立大学)
本研究利用对比神经网络在“共同但未知来源”范式下学习弹壳相似度,在NBIDE和E3数据集上优于CMC算法,并验证了架构鲁棒性,为法医证据解释提供新方法。
2025-03-26 cs.LG stat.AP stat.ML
Extracting Governing Equations from Latent Dynamics via Multi-View Contrastive Learning
EPFL(瑞士联邦理工学院洛桑)
提出DYSCO算法,利用多视图时间对比学习从噪声高维观测中联合恢复潜在轨迹和动力学方程,并通过结构化基函数实现符号恢复,理论保证强可识别性。
2026-06-12 cs.LG q-bio.NC
Multi-Dataset Benchmarks for Masked Identification using Contrastive Representation Learning
University Of Melbourne(墨尔本大学);University of Moratuwa(莫拉图瓦大学);National University of Singapore(新加坡国立大学)
COVID-19大流行彻底改变了全球公认的规范。在过去的一年里,口罩被用作限制病毒传播的公共卫生对策。这种突然的变化使得许多基于人脸识别的访问控制,身份验证和监控系统变得无效。护照、驾驶执照和国民身份证等官方文件都有完全未覆盖的面部图像。然而,在当前的全球情况下,人脸匹配系统应该能够将这些参考图像与蒙面人脸图像进行匹配。例如,在机场或安全检查站,将身份证件的未掩蔽图像与蒙面人进行匹配,而不是要求他们摘下面罩,这样更安全。我们发现,目前的面部识别技术是不鲁棒的这种形式的遮挡。为了解决由于当前情况而提出的这一独特要求,我们提出了一组重新使用的数据集和一个基准供研究人员使用。我们还提出了一个基于对比视觉表示学习的预训练工作流程,专门用于蒙面与非蒙面人脸匹配。我们确保我们的方法学习强大的功能,以区分不同数据汇集场景中的人。我们通过在许多不同的数据集上进行训练,并通过在各种保持数据集上进行测试来验证我们的结果。通过我们的方法训练的专用权重优于标准的人脸识别特征,用于掩蔽到未掩蔽的人脸匹配。我们相信所提供的合成面具生成代码,我们的新训练方法和来自面具人脸模型的训练权重将有助于采用现有的人脸识别系统在当前的全球环境中运行。我们将所有贡献开源,供研究界更广泛地使用。
2021-06-10 cs.CV eess.IV
A Mathematical Perspective On Contrastive Learning
Stores Foundational AI, Amazon, Palo Alto CA 94301 and Pasadena CA 91125(亚马逊公司、帕洛阿尔托加州94301和帕萨迪纳加州91125);Computing and Mathematical Sciences, California Institute of Technology, Pasadena CA 91125(计算与数学科学系,加州理工学院,帕萨迪纳加州91125)
本文从数学视角将多模态对比学习解释为优化定义条件概率分布的编码器,提出引入新概率损失函数和替代对齐度量的推广方法,并在多元高斯、MNIST及海洋数据同化实验中验证了其有效性。
2025-05-30 cs.CV cs.LG stat.ML
Decorrelation-based Self-Supervised Visual Representation Learning for Writer Identification
Ramakrishna Mission Vivekananda Educational and Research Institute(罗摩克里希纳使命维韦卡南达教育与研究院);Indian Institute of Information Technology, Guwahati(古瓦哈蒂印度信息技术学院);Indian Statistical Institute, Kolkata(加尔各答印度统计研究所);Indian Institute of Technology, Kharagpur(克勒格布尔印度理工学院)
本文改进面向签名验证的 SWIS 去相关自监督框架,通过逐维特征标准化学习解耦笔画特征,在书写者识别基准上超过现有自监督及多种监督方法。
2024-10-02 cs.CV
Universal hidden monotonic trend estimation with contrastive learning
EthiFinance;Safran
本文提出对比学习方法CTE,用于从时间序列数据中提取潜在单调趋势因子,适用于多种数据类型,通过实验验证其有效性。
2026-04-16 cs.LG
Raman Spectrum Matching with Contrastive Representation Learning
Unknown University(未知大学);Technical University of Denmark(丹麦技术大学)
拉曼光谱是一种有效、低成本、非侵入性的技术,常用于化学鉴定。典型的方法是基于将观察结果与参考数据库相匹配,这需要仔细的预处理,或者监督机器学习,这需要来自每个类的相当大量的训练观察结果。我们提出了一种新的机器学习技术的拉曼光谱匹配,对比表示学习的基础上,不需要预处理和工程作为一个单一的参考光谱从每个类。在三个数据集上,我们证明了我们的方法在预测精度上显着提高或与最先进的方法相当,并且我们展示了如何计算具有指定频率覆盖率的共形预测集。基于我们的研究结果,我们相信对比表示学习是一个有前途的替代现有的方法拉曼光谱匹配。
2022-02-25 cs.LG
Online Object Representations with Contrastive Learning
Google Brain(谷歌大脑)
我们提出了一种自监督的方法来学习表示的对象从单目视频,并证明它是特别有用的,如机器人的设置。本文的主要贡献是:1)一个经过对比学习训练的自监督目标,它可以在不使用任何标签的情况下从视频中发现和分离对象属性; 2)我们利用对象的自监督进行在线适应:我们的在线模型在视频中看对象的时间越长,对象识别错误就越低,而离线基线仍然有很大的固定错误; 3)为了探索完全摆脱人类监督的系统的可能性,我们让机器人收集自己的数据,用我们的自我监督方案对这些数据进行训练,然后展示机器人可以指向与它面前的物体相似的物体,展示物体属性的泛化。这种方法的一个有趣且可能令人惊讶的发现是,给定有限的对象集,当使用对比学习时,对象对应性将自然出现,而不需要明确的正对。有关在线对象自适应和机器人指向的视频,请访问:https://online-objects.github.io/。
2019-06-10 cs.CV cs.LG cs.RO
Multi-Domain Features Guided Supervised Contrastive Learning for Radar Target Detection
Shanghai Jiao Tong University(上海交通大学)
针对海杂波中小目标检测泛化不足的问题,提出MDFG_SCL融合多域统计特征与监督对比深度特征,在真实数据上实现跨海况稳健检测并优于主流对比学习方法。
2025-01-09 cs.CV
Clustering-friendly Representation Learning for Enhancing Salient Features
Corporate R&D Center, Toshiba(东芝公司研发中心)
本文面向无监督图像聚类,扩展聚类友好对比学习并在损失中引入基于参考数据集的对比分析,以增强聚类关键特征,在三个数据集上均优于现有方法。
2024-08-09 cs.CV cs.LG
A Self-Supervised Gait Encoding Approach with Locality-Awareness for 3D Skeleton Based Person Re-Identification
Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);National University of Defense Technology(国防科技大学);Lanzhou University(兰州大学);South China University of Technology(华南理工大学);Second Clinical Medical College, Jinan University(暨南大学第二临床医学院);Beijing Institute of Technology(北京理工大学)
基于步态特征的三维骨骼序列身份识别是一个新兴的研究课题。现有的解决方案依赖于手工制作的描述符或监督步态表示学习。本文提出了一种自监督步态编码方法,可以利用未标记的骨架数据来学习步态表示的人Re-ID。具体来说,我们首先通过学习重建未标记的骨架序列来创建自监督,这涉及到更丰富的高层语义,以获得更好的步态表示。其他借口任务也被探索,以进一步提高自监督学习。其次,受运动的连续性赋予一个骨架序列中相邻骨架和时间上连续的骨架序列更高的相关性(在3D骨架数据中称为局部性)这一事实的启发,我们提出了一个局部感知的注意力机制和一个局部感知的对比学习方案,旨在保持局部感知的自监督学习分别在序列内和序列间水平。最后,利用我们的位置感知注意力机制和对比学习方案学习到的上下文向量,设计了一种新的特征--基于收缩注意的步态编码(CAGEs)来有效地表示步态。经验评估表明,我们的方法显着优于基于卷积的同行15-40%的Rank-1的准确性,它甚至实现了优越的性能,许多多模式的方法与额外的RGB或深度信息。我们的代码可在https://github.com/Kali-Hac/Locality-Awareness-SGE上获得。
2021-07-05 cs.CV cs.LG
Machine Unlearning in Contrastive Learning
本文针对对比学习中机器遗忘研究不足的问题,提出一种基于梯度约束的轻量方法,仅需少量训练轮次并识别待遗忘数据,即可有效消除数据影响,且适用于对比与监督学习模型。
2024-05-12 cs.AI cs.LG
Contrastive Learning of Shared Spatiotemporal EEG Representations Across Individuals for Naturalistic Neuroscience
Tsinghua University(清华大学);Southern University of Science and Technology(南方科技大学)
本研究提出跨个体共享时空EEG表征对比学习框架CL-SSTER,通过时空卷积结合对比学习提取跨个体共享神经模式,在三类EEG数据集上取得最优被试间相关性,为自然神经科学研究提供可解释、可扩展的分析工具。
2024-07-14 cs.LG eess.SP q-bio.NC
Noise-robust Contrastive Learning for Critical Transition Detection in Dynamical Systems
Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences(深圳先进技术研究院,中国科学院)
本文提出一种基于奇异值分解和半正交约束的轻量对比学习方法,用于提高动态系统中临界转变检测的鲁棒性与准确性。
2025-12-14 cs.AI cs.LG physics.comp-ph
Identifying partial mouse brain microscopy images from Allen reference atlas using a contrastively learned semantic space
University of Copenhagen(哥本哈根大学)
当小鼠大脑中的解剖结构被配准到参考图谱时,小鼠大脑显微镜图像的精确识别是至关重要的第一步。从业者通常依赖于图像的手动比较或假设存在完整图像的工具。这项工作探讨了暹罗网络的方法,找到相应的二维参考图谱板给定的部分二维小鼠大脑图像。连体网络是一类卷积神经网络(CNN),其使用权重共享路径来获得输入图像对的低维嵌入。基于使用对比学习从Siamese网络获得的脑切片和图谱板的低维嵌入之间的距离来确定部分小鼠脑图像和参考图谱板之间的对应关系。实验表明,当训练和测试图像来自同一来源时,Siamese CNN可以使用Allen小鼠大脑图谱精确识别大脑切片。他们分别取得了TOP-1和TOP-5的25%和100%的准确率,仅用了7.2秒就识别出了29张图片。
2022-07-21 cs.CV cs.LG stat.ML
Contrastive Conditional Neural Processes
The University of New South Wales(新南威尔士大学)
Conditional Neural Processes~(CNPs) bridge neural networks with probabilistic inference to approximate functions of Stochastic Processes under meta-learning settings. Given a batch of non-{ \it i.i.d} function instantiations, CNPs are jointly optimized for in-instantiation observation prediction and cross-instantiation meta-representation adaptation within a generative reconstruction pipeline. There can be a challenge in tying together such two targets when the distribution of function observations scales to high-dimensional and noisy spaces. Instead, noise contrastive estimation might be able…
2022-03-25 cs.LG stat.ML
Click-through Rate Prediction with Auto-Quantized Contrastive Learning
Shanghai Jiao Tong University(上海交通大学);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院);Hong Kong Baptist University(香港浸会大学)
点击率(CTR)预测成为无处不在的Web推荐应用中不可或缺的。然而,当前的方法在用户交互极其稀疏的冷启动场景下挣扎。我们认为这个问题是一个自动识别的用户行为是否足够丰富,以捕捉预测的兴趣,并提出了一个自动量化的对比学习(AQCL)损失正则化模型。与以往的方法不同,AQCL同时利用实例-实例和实例-聚类的相似性来增强潜在表示的鲁棒性,并自动减少由于量化而导致的主动用户的信息损失。所提出的框架对不同的模型架构是不可知的,并且可以以端到端的方式进行训练。广泛的结果表明,它一贯改善目前的国家的最先进的CTR模型。
2021-09-27 cs.AI cs.IR cs.LG
Causal Contrastive Learning for Counterfactual Regression Over Time
Paris-Saclay University(巴黎萨克雷大学);CentraleSupélec(中央高等电力学院);Saint-Gobain(圣戈班集团)
针对时间维度反事实回归的长期预测问题,提出结合RNN、对比预测编码与信息最大化准则的因果对比学习方法,在合成与真实数据上取得最优反事实估计效果,首次将对比预测编码引入因果推断。
2024-10-29 cs.LG stat.ME
Self-paced Contrastive Learning with Hybrid Memory for Domain Adaptive Object Re-ID
Multimedia Laboratory(多媒体实验室);The Chinese University of Hong Kong(香港中文大学)
领域自适应对象再识别算法旨在将已学习的知识从已标记的源领域转移到未标记的目标领域,以解决开放类的再识别问题。基于伪标记的方法虽然取得了很大的成功,但由于领域间隙和聚类性能不理想,它们没有充分利用所有有价值的信息。为了解决这些问题,我们提出了一种新的自定进度的混合记忆对比学习框架。混合存储器动态地生成用于学习特征表示的源域类级、目标域集群级和非集群实例级监督信号。与传统的对比学习策略不同,该框架联合区分源域类、目标域类和非类实例。最重要的是,所提出的自定进度的方法逐渐创建更可靠的集群,以细化混合记忆和学习目标,并被证明是我们出色表现的关键。我们的方法优于国家的最先进的多个领域自适应任务的对象重新识别,甚至提高了性能的源域没有任何额外的注释。我们在无监督对象re-ID上的广义版本在Market-1501和MSMT 17基准测试中分别超过了最先进的算法16.7%和7.9%。
2020-10-13 cs.CV
Contrastive Learning with Positive-Negative Frame Mask for Music Representation
Zhejiang University(浙江大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
自监督学习,特别是对比学习,为深度学习的许多研究领域的发展做出了突出贡献。最近,声学信号处理领域的研究人员注意到了它的成功,并利用对比学习来更好地表示音乐。通常,现有方法最大化从相同音乐采样的两个失真音频段之间的相似性。换句话说,它们确保了音乐层面的语义一致性。然而,这些粗粒度的方法忽略了一些不必要的或嘈杂的元素在帧级,这可能是不利的模型学习的有效表示的音乐。为此,本文提出了一种新的正负框架面具的音乐表示的基础上的对比学习框架,简称PEMR。具体地,PEMR结合了正-负掩码生成模块,其利用Transformer块来在Log-Mel频谱图上生成帧掩码。我们可以通过分别屏蔽重要成分或不重要成分来生成自增强的负样本和正样本。我们设计了一个新的对比学习目标,以适应两个自我增强的积极/消极采样从相同的音乐。我们在四个公共数据集上进行了实验。两个音乐相关的下游任务,音乐分类,翻唱歌曲识别的实验结果,证明了泛化能力和转移的音乐表征学习PEMR。
2022-04-03 cs.LG cs.SD eess.AS
JojoSCL: Shrinkage Contrastive Learning for single-cell RNA sequence Clustering
Department of Computer Science(计算机科学系);Courant Institute of Mathematical Sciences(数学科学学院)
针对scRNA-seq数据高维稀疏导致聚类困难的问题,提出自监督对比学习框架JojoSCL,通过引入基于分层贝叶斯估计和SURE优化的收缩估计器减少类内离散度,在十个数据集上显著优于现有方法。
2025-05-31 cs.LG q-bio.GN stat.ML
Contrastive Similarity Learning for Market Forecasting: The ContraSim Framework
University of Guelph(圭尔夫大学);University of Toronto(多伦多大学);Vector Institute for Artificial Intelligence(矢量人工智能研究院);Dalhousie University(达尔豪斯大学)
ContraSim 框架通过加权头条增强与自监督对比学习构建语义嵌入空间,提升金融预测准确率7%,并聚类同向市场日,辅助分析师参考历史相似事件预测趋势。
2025-02-22 cs.LG q-fin.ST
Contrastive Network Representation Learning
Rutgers University(罗格斯大学);University of California at Berkeley(加州大学伯克利分校)
针对高维稀疏网络表示学习问题,提出基于对比学习和自适应随机掩码机制的ACERL方法,实现极小极大最优收敛速度,并在网络分类等下游任务中表现优越。
2025-09-14 cs.LG stat.ME stat.ML
Khan-GCL: Kolmogorov-Arnold Network Based Graph Contrastive Learning with Hard Negatives
提出Khan-GCL框架,将KAN集成到图对比学习编码器,并利用KAN系数生成语义硬负样本,提升图表示判别力,在多个数据集上达到最先进性能。
2025-08-08 cs.LG
Cross-Modal Contrastive Learning for the Retrieval of Immunotherapy-Associated Molecular Signatures from Histopathology
Universitat Politècnica de Catalunya - BarcelonaTech (UPC)(加泰罗尼亚理工大学);IRB Lleida(莱里达生物医学研究所)
提出CCMIL框架,通过跨模态对比学习从H&E切片直接检索免疫治疗相关分子特征,无需基因组测序,实现可解释的检索与分类预筛选。
2026-10-06 cs.AI cs.IR cs.LG
Unsupervised Contrastive Learning for Robust RF Device Fingerprinting Under Time-Domain Shift
Oregon State University(俄勒冈州立大学)
针对射频设备指纹识别受时域域偏移影响准确率下降的问题,提出基于对比学习的无监督方法,通过构造同/异传输信号正负样本对学习域不变特征,在多日采集的数据集上较基线准确率提升10.8%-27.8%。
2024-03-06 cs.AI cs.LG eess.SP
ICE: Inter-instance Contrastive Encoding for Unsupervised Person Re-identification
Inria(法国国家信息与自动化研究所);Université Côte d’Azur(蔚蓝海岸大学);European Systems Integration(欧洲系统集成公司)
无监督的人再识别(ReID)旨在学习没有注释的区别性身份特征。近年来,自监督对比学习因其在无监督表示学习中的有效性而受到越来越多的关注。实例对比学习的主要思想是在不同的增强视图中匹配同一实例。然而,不同实例之间的关系还没有被充分探讨在以前的对比方法,特别是实例级对比损失。为了解决这个问题,我们提出了实例间对比编码(ICE),它利用实例间成对相似性得分来提高以前的类级对比ReID方法。我们首先使用成对相似性排名作为硬实例对比的one-hot硬伪标签,其目的是减少类内方差。然后,我们使用相似性分数作为软伪标签来增强增强视图和原始视图之间的一致性,这使得我们的模型对增强扰动更具鲁棒性。在几个大规模的人ReID数据集上的实验验证了我们提出的无监督方法ICE的有效性,该方法与有监督方法相比具有竞争力。代码可在https://github.com/chenhao2345/ICE上获得。
2021-08-18 cs.CV
Triplet Contrastive Representation Learning for Unsupervised Vehicle Re-identification
Nanjing University of Science and Technology(南京理工大学);Nanjing University of Aeronautics and Astronautics(南京航空航天大学)
零件特征学习是车辆再识别中细粒度语义理解的关键。然而,现有的方法直接模型的部分功能和全球功能,这很容易导致严重的梯度消失问题,由于其不平等的特征信息和不可靠的伪标签的无监督车辆重新识别。为了解决这个问题,在本文中,我们提出了一个简单的三元组对比表示学习(TCRL)框架,利用聚类特征来桥接部分特征和全局特征,用于无监督的车辆重新识别。具体而言,TCRL设计了三个存储体来存储实例/聚类特征,并提出了一种代理对比损失(PCL)机制,在相邻的存储体之间进行对比学习,从而将局部特征与全局特征之间的关联表示为局部-聚类和聚类-全局关联的过渡。由于集群存储体处理所有的车辆特征,它可以总结成一个有区别的特征表示。为了深入利用实例/集群信息,TCRL提出了两个额外的损失函数。对于实例级特征,混合对比损失(HCL)通过接近正实例特征并将所有负实例特征推开来重新定义样本相关性。对于聚类级特征,加权正则化聚类对比损失(WRCCL)通过根据实例相似性惩罚错误标记的图像来细化伪标签。大量的实验表明,TCRL优于许多国家的最先进的无监督车辆重新识别方法。
2023-03-16 cs.CV
Joint Generative and Contrastive Learning for Unsupervised Person Re-identification
Inria(法国国家信息与自动化研究所);Université Côte d’Azur(蔚蓝海岸大学);European Systems Integration(欧洲系统集成公司)
最近的自监督对比学习通过从输入的不同视图(变换版本)学习不变性,为无监督的人重新识别(ReID)提供了一种有效的方法。在本文中,我们将生成对抗网络(GAN)和对比学习模块合并到一个联合训练框架中。虽然GAN为对比学习提供在线数据增强,但对比模块学习用于生成的视图不变特征。在这种情况下,我们提出了一个基于网格的视图生成器。具体地,网格投影用作生成人的新颖视图的参考。此外,我们提出了一个视图不变的损失,以促进原始和生成的意见之间的对比学习。与以前基于GAN的涉及领域自适应的无监督ReID方法不同,我们不依赖于标记的源数据集,这使得我们的方法更加灵活。大量的实验结果表明,我们的方法显着优于国家的最先进的方法下,完全无监督和无监督域自适应设置几个大规模的ReID数据集。
2021-03-30 cs.CV
Cluster-guided Asymmetric Contrastive Learning for Unsupervised Person Re-Identification
Beijing University of Posts and Telecommunications(北京邮电大学)
无监督的人再识别(Re-ID)的目的是匹配行人图像从不同的相机视图在无监督的设置。现有的无监督人Re-ID方法通常建立在聚类的伪标签上。然而,聚类的质量在很大程度上取决于学习的特征的质量,这些特征绝大多数由图像中的颜色主导,特别是在无监督设置中。在本文中,我们提出了一个引导的非对称对比学习(CACL)方法的无监督的人的Re-ID,其中集群结构的杠杆作用,以指导在一个适当设计的非对称对比学习框架的特征学习。具体来说,我们提出了一种新的集群级对比损失,以帮助暹罗网络有效地挖掘特征学习的不变性相对于不同的数据增强视图内和之间的集群结构,分别。在三个基准数据集上进行的大量实验表明,我们的建议具有优越的性能。
2022-05-09 cs.CV
Fully Unsupervised Person Re-identification viaSelective Contrastive Learning
School of Computer Science and Technology, Harbin Institute of Technology(哈尔滨工业大学计算机科学与技术学院);Peng Cheng Laboratory(鹏城实验室)
人物再识别(ReID)的目的是在不同相机拍摄的图像中搜索同一身份的人。无监督人ReID由于不需要大量的人工标注,具有适应新环境的巨大潜力,近年来引起了人们的广泛关注。表示学习在无监督人ReID中起着至关重要的作用。在这项工作中,我们提出了一种新的选择性对比学习框架的无监督特征学习。具体来说,不同于传统的对比学习策略,我们提出使用多个阳性和自适应采样的阴性来定义对比损失,从而能够学习具有更强的身份鉴别表示的特征嵌入模型。此外,我们建议联合利用全局和局部特征来构建三个动态字典,其中全局和局部存储体用于成对相似度计算,混合存储体用于对比损失定义。实验结果表明,我们的方法在无人监督的人ReID的优越性相比,国家的艺术。
2021-03-04 cs.CV
Hybrid Contrastive Learning with Cluster Ensemble for Unsupervised Person Re-identification
Beijing University of Posts and Telecommunications(北京邮电大学)
无监督人再识别(ReID)的目的是将行人的查询图像与图库集中没有监督标签的图像进行匹配。解决无监督人ReID的最流行方法通常是首先执行聚类算法以产生伪标签,然后利用伪标签来训练深度神经网络。然而,在聚类算法中,伪标签是噪声和敏感的超参数(S)。在本文中,我们提出了一种混合对比学习(HCL)的方法,无监督的人ReID,这是基于实例级和集群级对比损失函数之间的混合。提出了一种基于多粒度聚类集成的混合对比学习(MGCE-HCL)方法,该方法采用多粒度聚类集成策略挖掘伪正样本对之间的优先级信息,并定义了优先级加权的混合对比损失,以更好地容忍伪正样本中的噪声。我们在两个基准数据集Market-1501和DukeMTMC-reID上进行了广泛的实验。实验结果验证了我们的建议的有效性。
2022-04-14 cs.CV
S$^2$Drug: Bridging Protein Sequence and 3D Structure in Contrastive Representation Learning for Virtual Screening
S$^2$Drug提出两阶段对比学习框架,融合蛋白质序列与三维结构信息,并通过结合位点预测辅助任务提升虚拟筛选性能。
2025-11-10 cs.AI cs.LG
Contrastive Graph Convolutional Networks for Hardware Trojan Detection in Third Party IP Cores
Virginia Tech(弗吉尼亚理工大学);Space Dynamics Laboratory(空间动力学实验室)
广泛的第三方知识产权(3 PIP)内核的可用性使集成电路(IC)设计人员能够专注于设计ASIC/SoC中的高级功能。集成电路的大规模扩散带来了越来越多的不良行为者,他们出于各种邪恶的原因寻求利用这些电路。这并不奇怪,因为集成电路影响着社会的方方面面。因此,恶意逻辑(硬件特洛伊木马,HT)被不受信任的供应商秘密注入到IC设计中使用的3 PIP核心是一个永远存在的威胁。在本文中,我们探讨的方法,识别基于嵌入式HT的设计包含可合成的IP核没有黄金模型。具体来说,我们开发的方法来检测硬件木马检测触发器嵌入在IC纯粹的基础上从供应商获得的网表。我们提出了GATE-Net,这是一种基于图卷积网络(GCN)的深度学习模型,使用监督对比学习进行训练,用于标记仅使用相应网表的包含随机插入触发器的设计。我们提出的架构实现了显着的改进,最先进的学习模型产生的组合触发器的检测性能平均提高46.99%,在各种电路类型的顺序触发器提高21.91%。通过严格的实验,定性和定量的性能评估,我们证明了有效的GATE-Net和监督的对比训练的GATE-Net HT检测。
2022-03-04 cs.AR cs.CR cs.LG
Global-Supervised Contrastive Loss and View-Aware-Based Post-Processing for Vehicle Re-Identification
Qiannan Normal University for Nationalities(黔南民族师范学院);Guizhou University(贵州大学);Peng Cheng Laboratory(鹏城实验室);Guangxi Normal University(广西师范大学)
在本文中,我们提出了一个全局监督对比损失和基于视图感知的后处理(VABPP)方法的车辆重新识别领域。传统的有监督对比损失算法计算的是批内特征间的距离,具有局部性。虽然提出的全局监督对比损失具有新的性质,具有良好的全局属性,但训练过程中每个锚点的正负特征来自整个训练集。本文提出的VABPP方法是第一次将基于视觉感知的方法作为后处理方法应用于车辆再识别领域。VABPP的优点是,首先,它只在测试过程中使用,不影响训练过程。其次,作为一种后处理方法,它可以很容易地集成到其他训练的re-id模型中。将训练好的模型计算出的视对距离缩放系数矩阵直接应用于另一个训练好的re-id模型,VABPP方法大大提高了其性能,验证了VABPP方法的可行性。
2022-04-17 cs.CV
Dynamic Clustering and Cluster Contrastive Learning for Unsupervised Person Re-identification
Beijing University of Posts and Telecommunications(北京邮电大学)
无监督Re-ID方法旨在从未标记数据中学习鲁棒性和区分性特征。然而,现有的方法往往忽略了Re-ID框架的模块参数与特征分布之间的关系,这可能会导致特征错位,影响模型的性能。为了解决这个问题,我们提出了一个动态聚类和聚类对比学习(DCCC)方法。具体来说,我们首先设计了一个动态的聚类参数调度器(DCPS),调整聚类的超参数,以适应类内和类间距离的变化。然后,设计了一种动态聚类对比学习(DyCL)方法,将聚类表示向量的权值与局部特征关联度相匹配。最后,构建了一种标签平滑软对比损失算法($L_{ss}$),以保持聚类对比学习和自监督学习之间的平衡,同时降低计算量,提高计算效率。在几个广泛使用的公共数据集上的实验验证了我们提出的DCCC的有效性,它通过实现最佳性能而优于以前的最先进的方法。
2023-03-13 cs.CV
Mind Your Clever Neighbours: Unsupervised Person Re-identification via Adaptive Clustering Relationship Modeling
无监督人再识别(Re-ID)由于其解决有监督Re-ID模型可扩展性问题的潜力而受到越来越多的关注。大多数现有的无监督方法采用迭代聚类机制,其中网络基于无监督聚类生成的伪标签进行训练。然而,聚类错误是不可避免的。为了生成高质量的伪标签并减轻聚类错误的影响,我们提出了一种新的无监督人Re-ID聚类关系建模框架。具体来说,在聚类之前,基于图相关学习(GCL)模块探索未标记图像之间的关系,然后将改进的特征用于聚类以生成高质量的伪标签。因此,GCL自适应地挖掘小批量样本之间的关系,以减少训练时异常聚类的影响。为了更有效地训练网络,我们进一步提出了一种选择性对比学习(SCL)方法与选择性存储体更新政策。大量的实验表明,我们的方法在Market 1501,DukeMTMC-reID和MSMT 17数据集上显示出比大多数最先进的无监督方法更好的结果。我们将发布模型复制的代码。
2021-12-08 cs.AI cs.CV cs.IR
DConAD: A Differencing-based Contrastive Representation Learning Framework for Time Series Anomaly Detection
University of Chinese Academy of Science(中国科学院大学);Tsinghua University(清华大学);Shanghai University of International Business and Economics(上海国际商务经济学院);Northeast Normal University(东北师范大学);Fuzhou University(福州市大学);Hubei University(湖北大学);Hainan University(海南大学);Northeastern University(东北大学)
针对时间序列异常检测中异常模式多样与数据复杂等问题,提出基于差分的对比表示学习框架DConAD,利用差分数据与transformer捕获时空依赖,并结合基于KL散度的正样本对比学习与停止梯度策略,在五个数据集上优于九个基线。
2025-05-02 cs.AI cs.LG
Structure-Aware Contrastive Learning with Fine-Grained Binding Representations for Drug Discovery
Department of Health Technology and Informatics, The Hong Kong Polytechnic University(健康科技与信息学系,香港理工大学);Department of Nuclear Medicine and PET, Hong Kong Sanatorium and Hospital(核医学与PET部,香港疗养院及医院);Nuclear Medicine Unit, Department of Diagnostic and Interventional Radiology, Queen Elizabeth Hospital(核医学科,诊断与介入放射科,伊丽莎白女王医院)
本文提出了一种结合结构先验的基于序列的药物-靶点相互作用预测框架,通过细粒度绑定表示提升预测鲁棒性,并在多个基准测试中取得优异性能。
2026-01-26 cs.AI cs.LG q-bio.BM
NJUST-KMG at TRAC-2024 Tasks 1 and 2: Offline Harm Potential Identification
NJUST(南京理工大学)
本文提出一种结合预训练模型微调、对比学习与集成方法的方案,用于识别多语种社交媒体评论中的离线伤害可能性与目标,在 TRAC-2024 两项子任务中均获第二名。
2024-04-01 cs.CL cs.LG
From Real to Cloned Singer Identification
Deezer Research(Deezer 研究院)
针对克隆歌手声音带来的人格权威胁,本文提出三种采用歌手级对比学习训练的嵌入模型用于识别合成声音中的原唱,发现模型真实歌手识别能力强但对克隆声音识别性能下降,凸显研究歌手识别系统偏差的必要性。
2024-07-11 cs.IR cs.LG cs.SD
Attend to the Difference: Cross-Modality Person Re-identification via Contrastive Correlation
Northwestern Polytechnical University(西北工业大学)
跨通道人称再识别问题因其重要的现实意义而受到越来越多的关注。基于人类在比较两个相似对象时通常会注意到它们之间的差异这一事实,本文提出了一种双路径跨模态特征学习框架,该框架既保留了固有的空间约束,又兼顾了输入跨模态图像对之间的差异。我们的框架是由两个主要组成部分:一个双路径空间结构保持公共空间网络(DSCSN)和对比相关网络(CCN)。前者将跨模态图像嵌入到一个共同的三维张量空间中,而不会丢失空间结构,而后者通过动态比较输入图像对来提取对比特征。请注意,为输入RGB和红外图像生成的表示相互依赖。我们在两个公开的RGB-IR ReID数据集SYSU-MM 01和RegDB上进行了广泛的实验,我们提出的方法在完整和简化的评估模式下都大大优于最先进的算法。
2021-12-01 cs.CV
SiCL: Silhouette-Driven Contrastive Learning for Unsupervised Person Re-Identification with Clothes Change
Beijing University of Posts and Telecommunications(北京邮电大学);Tsinghua University(清华大学)
针对无监督长期换装行人重识别难题,提出融合RGB与轮廓信息的SiCL对比学习框架,在六个基准上显著优于现有无监督方法。
2024-04-07 cs.CV