Can Contrastive Learning Refine Embeddings
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Amazon（亚马逊公司）
针对现有对比学习忽略预训练编码器输出潜力的问题，本文提出新型框架SIMSKIP，以编码器输出嵌入为输入进行优化，理论证明其不会增大下游任务误差上界，实验验证其可提升下游任务性能。
2024-04-11 cs.LG
Understanding Dimensional Collapse in Contrastive Self-supervised Learning
Facebook AI Research（脸书人工智能研究院）
自监督视觉表示学习的目标是在不依赖于人类注释的情况下学习有用的表示。联合嵌入方法的基础是最大限度地提高来自同一图像的不同视图的嵌入向量之间的一致性。已经提出了各种方法来解决所有嵌入向量坍缩到平凡常数解的坍缩问题。在这些方法中，对比学习通过负样本对防止崩溃。已经表明，非对比方法遭受不同性质的较小崩溃问题：维度崩溃，其中嵌入向量最终跨越较低维度的子空间而不是整个可用的嵌入空间。在这里，我们表明，维度崩溃也发生在对比学习。在本文中，我们揭示了对比学习中导致维度崩溃的动态。受我们理论的启发，我们提出了一种新的对比学习方法，称为DirectRank，它直接优化表示空间，而不依赖于显式的可训练投影。实验表明，DirectMap在ImageNet上使用可训练线性投影仪的性能优于Simplane。
2022-04-23 cs.AI cs.CV cs.LG
English Contrastive Learning Can Learn Universal Cross-lingual Sentence Embeddings
Carnegie Mellon University（卡内基梅隆大学）
通用跨语言句子嵌入将语义相似的跨语言句子映射到共享的嵌入空间中。对齐跨语言句子嵌入通常需要监督的跨语言平行句子。在这项工作中，我们提出了mSimCSE，它扩展SimCSE到多语言设置，并揭示了英语数据的对比学习可以令人惊讶地学习高质量的通用跨语言句子嵌入，而无需任何并行数据。在无监督和弱监督的设置，mSimCSE显着改善了以前的跨语言检索和多语言STS任务的句子嵌入方法。在检索低资源语言和多语言STS方面，无监督mSimCSE的性能与完全监督方法相当。当跨语言NLI数据可用时，性能可以进一步增强。我们的代码可在https://github.com/yaushian/mSimCSE上公开获取。
2022-11-11 cs.AI cs.CL
Frequency-Masked Embedding Inference: A Non-Contrastive Approach for Time Series Representation Learning
School of Intelligence Science and Technology, University of Science and Technology Beijing（北京科技大学智能科学与技术学院）；Institute of Artificial Intelligence, University of Science and Technology Beijing（北京科技大学人工智能研究院）
针对对比学习依赖正负样本且难以建模时间序列连续语义的问题，本文提出非对比方法 FEI，通过双向频率掩码提示与嵌入推理学习表示，并在8个数据集上验证其泛化优势。
2025-01-06 cs.AI cs.LG
CrossCLR: Cross-modal Contrastive Learning For Multi-modal Video Representations
Amazon（亚马逊）；University of Freiburg（弗莱堡大学）
对比学习允许我们通过对比负样本集合中的正对来灵活地定义强大的损失。最近，该原理也被用于学习视频和文本的跨模态嵌入，但没有充分利用其潜力。特别是，之前的丢失没有考虑模态内的相似性，这会导致嵌入效率低下，因为相同的内容被映射到嵌入空间中的多个点。通过Crosslink，我们提出了一个解决这个问题的对比损失。此外，我们根据输入嵌入定义了高度相关的样本集，并将其从阴性样本中排除，以避免假阴性问题。我们表明，这些原则始终提高学习嵌入的质量。使用Crosslink学习的联合嵌入扩展了Youcook 2和LSMDC数据集上的视频-文本检索以及Youcook 2数据集上的视频描述的最新技术水平。我们还通过学习其他模态对的改进联合嵌入来证明概念的一般性。
2021-09-30 cs.AI cs.CV cs.LG
Improving Contrastive Learning of Sentence Embeddings with Focal-InfoNCE
University of Alberta（阿尔伯塔大学）
针对 SimCSE 未充分利用难负样本的问题，提出结合难负样本挖掘的无监督对比学习框架，通过在对比目标中引入自定步长调制项的 focal-InfoNCE 函数，使模型聚焦于难负样本，在 STS 基准上有效提升了句子嵌入质量。
2023-10-20 cs.CL cs.LG
Region Embedding with Intra and Inter-View Contrastive Learning
Nanyang Technological University（南洋理工大学）
无监督区域表示学习旨在从未标记的城市数据中提取密集有效的特征。虽然已经基于多个视图做出了一些努力来解决这个问题，但是现有方法在提取视图中的表示和/或合并来自不同视图的表示方面仍然不足。基于对比学习在表示学习中的成功，我们提出将其用于多视图区域表示学习，并设计了一个称为ReMVC（Region Embedding with Multi-View对比学习）的模型，该模型遵循两个指导原则：i）在每个视图中将区域与其他区域进行比较，以实现有效的表征提取; ii）在不同视图中将区域与自身进行比较，以实现跨视图信息共享。我们设计了视图内对比学习模块和视图间对比学习模块，前者用于学习不同的区域嵌入，后者作为软共正则化器来约束嵌入参数并在多视图间传递知识。我们在两个下游任务中利用学习到的区域嵌入，即土地使用聚类和区域流行度预测。大量的实验表明，我们的模型实现了令人印象深刻的改进相比，七个国家的最先进的基线方法，在土地利用聚类任务的利润率超过30%。
2022-11-15 cs.CV cs.LG
Improving Contrastive Learning of Sentence Embeddings from AI Feedback
Fudan University（复旦大学）
本文提出CLAIF方法，利用大型预训练语言模型的AI反馈构建带细粒度相似度分数的样本对，并结合人类反馈提供监督信号，显著提升了句子嵌入对比学习在语义文本相似性等任务上的性能。
2023-05-20 cs.AI cs.CL
Integrating Contrastive Learning with Dynamic Models for Reinforcement Learning from Images
TU Darmstadt（达姆施塔特工业大学）；Huazhong University of Science and Technology（华中科技大学）
最近的图像强化学习方法使用辅助任务来学习智能体的策略或Q函数所使用的图像特征。特别地，基于对比学习的方法，其将潜在动态的线性或不变性引入到数据增强，已经被证明大大提高了强化学习算法的样本效率和学习嵌入的泛化能力。我们进一步认为，显式地提高学习嵌入的Markovianity是可取的，并提出了一种自监督的表示学习方法，该方法将对比学习与动态模型相结合，以协同地结合这三个目标：（1）最大化状态和动作之间的互信息的InfoNCE界，嵌入和下一状态的嵌入以引起线性预测嵌入而无需显式地学习线性转换模型，（2）我们通过使用回归显式学习非线性转换模型来进一步改进学习嵌入的马尔可夫性，以及（3）我们最大化基于当前动作和两个独立增强的下一个嵌入的两个非线性预测之间的互信息的当前状态，这自然导致变换不变性不仅为状态嵌入，而且为非线性过渡模型。在Deepmind控制套件上的实验评估表明，与基于对比学习或重构的最新方法相比，我们提出的方法实现了更高的样本效率和更好的泛化能力。
2022-03-02 cs.AI cs.LG
Temporal Contrastive Transformer for Financial Crime Detection: Self-Supervised Sequence Embeddings via Predictive Contrastive Coding
NICE Actimize
本文提出了一种名为时间对比变压器（TCT）的表示学习框架，旨在捕捉金融交易序列中的时间动态。通过自监督对比目标训练模型，生成编码时间行为模式的嵌入，以支持下游的欺诈检测任务。实验结果显示，嵌入本身能实现有意义的预测性能（AUC 0.8644），但结合领域工程特征时，性能提升不显著（AUC 0.9205 vs. 0.9245），表明学习到的表示与现有特征抽象有较大重叠。这些发现表明TCT是一种有前景的表示学习方法，能够捕捉相关的行为信号，同时凸显了在强领域特征上实现加性价值的挑战。
2026-03-31 cs.CR cs.LG
DebCSE: Rethinking Unsupervised Contrastive Sentence Embedding Learning in the Debiasing Perspective
Sina Weibo（新浪微博）；China Literature Limited（阅文集团）
本文提出DebCSE框架，通过逆倾向加权采样方法消除对比句嵌入学习中的多种偏差，在STS基准上以80.33%的Spearman相关系数显著优于现有最先进模型。
2023-09-14 cs.AI cs.CL
From Representation to Clusters: A Contrastive Learning Approach for Attributed Hypergraph Clustering
本文提出了一种端到端的对比学习方法CAHC，用于属性超图聚类，通过联合嵌入和聚类优化实现节点嵌入学习与聚类结果的同步生成。
2026-03-10 cs.LG
Metapath-based Hyperbolic Contrastive Learning for Heterogeneous Graph Embedding
提出MHCL框架，利用多个双曲空间捕获异构图中多样幂律结构，通过对比学习增强元路径嵌入可区分性，实验证明其优于现有基线。
2025-06-20 cs.AI cs.LG cs.SI
SimO Loss: Anchor-Free Contrastive Loss for Fine-Grained Supervised Contrastive Learning
Henery M.Rowan College of Engineering（亨利·M·罗恩工程学院）；Rowan University（罗恩大学）；MLNomads
本研究提出一种基于SimO损失的无锚点对比学习方法，通过半度量损失同时优化相似/不相似样本的嵌入距离与正交性，在CIFAR-10上验证其能形成结构良好的类别邻域，为表征几何特性的应用提供新思路。
2024-10-07 cs.AI cs.CV cs.LG
Instance Smoothed Contrastive Learning for Unsupervised Sentence Embedding
Zhejiang University（浙江大学）；School of Engineering, Westlake University（西湖大学工程学院）；Institute of Advanced Technology, Westlake Institute for Advanced Study（西湖高等研究院先进技术研究所）
提出IS-CSE方法，通过动态记忆缓冲区检索正例嵌入组并利用自注意力聚合生成平滑实例嵌入，在标准STS任务上显著超越unsup-SimCSE基线。
2023-05-18 cs.CL cs.LG
Cluster Analysis with Deep Embeddings and Contrastive Learning
Iowa State University（爱荷华州立大学）；John Deere（约翰迪尔公司）
无监督解纠缠表示学习是计算机视觉中一个长期存在的问题。这项工作提出了一种新的框架，通过结合实例级对比学习与基于深度嵌入的聚类中心预测器，从深度嵌入执行图像聚类。我们的方法以端到端的方式联合学习表示并预测聚类中心。这是通过一个三管齐下的方法来实现的，该方法结合了聚类损失、实例对比损失和锚点损失。我们的基本直觉是，使用集成损失，结合实例级的功能和聚类过程集中在语义相似性加强学习更好的表示在潜在的空间。我们观察到，我们的方法在使用标准聚类度量（如归一化互信息（NMI））进行评估时，在流行的视觉数据集上表现得非常好，此外还产生了由欧几里得距离定义的几何分离的聚类嵌入。我们的框架与广泛接受的聚类方法不相上下，并且在CIFAR-10数据集上的表现优于最先进的对比学习方法，NMI得分为0.772，在强基线上提高了7-8%。
2021-10-02 cs.CV cs.LG
DistilCSE: Effective Knowledge Distillation For Contrastive Sentence Embeddings
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）；Kuaishou Technology（快手科技）；Zhongnan University of Economics and Law（中南财经政法大学）
大规模的对比学习模型可以学习非常丰富的句子嵌入，但由于模型规模巨大，很难在线提供。因此，他们往往扮演着“老师”的角色，通过知识蒸馏，将能力传递给小“学生”模型。然而，知识蒸馏不可避免地带来了嵌入效果的下降。为了解决这个问题，我们提出了一个有效的知识蒸馏框架对比句子嵌入，称为蒸馏CSE。它首先在大量未标记数据上应用知识蒸馏，然后在有限的标记数据上通过对比学习微调学生模型。为了达到更好的蒸馏效果，我们进一步提出了对比知识蒸馏（CKD）。CKD使用InfoNCE作为知识蒸馏的损失函数，增强了教师模型训练、知识蒸馏和学生模型微调之间的目标一致性。大量的实验表明，使用所提出的DistilCSE和CKD训练的学生模型几乎没有甚至没有性能下降，并且始终优于相同参数大小的相应模型。令人印象深刻的是，我们的1.1亿学生模型优于最新的最先进的模型，即，句子-T5（11B），只有1%的参数和0.25%的未标记数据。
2023-01-30 cs.AI
Analysis of Using Sigmoid Loss for Contrastive Learning
Yonsei University（延世大学）
本文从嵌入几何结构角度理论分析对比学习中使用sigmoid损失，提出双常数嵌入模型CCEM，证明其包含sigmoid损失最优嵌入，并揭示最优嵌入随温度参数从单纯形等角紧框架变化到对极结构，合成实验验证了理论结果。
2024-02-20 cs.LG
Contrastive Learning of Visual-Semantic Embeddings
Cadence Design Systems (India) Private Limited（楷登电子科技（印度）私人有限公司）；Indian Institute of Technology, Jodhpur（焦特布尔印度理工学院）
对比学习是一种强大的技术，可以学习语义独特且几何不变的表示。虽然大多数早期的方法已经证明了其对单模态学习任务（如图像分类）的有效性，但最近有一些尝试将此想法扩展到多模态数据。在本文中，我们提出了两个损失函数的归一化交叉熵的基础上执行的任务，学习联合视觉语义嵌入使用批量对比训练。在一个批次中，对于来自一个模态的给定锚点，我们只考虑来自另一个模态的否定，并基于所有否定引起的预期违规来定义我们的第一个对比损失。接下来，我们更新这个损失，并定义第二个对比损失的基础上，违反所招致的只有最难的负面。我们将我们的结果与现有的视觉语义嵌入方法进行比较，使用MS-COCO和Flickr 30 K数据集进行跨模态图像到文本和文本到图像检索任务，我们在MS-COCO数据集上的表现优于最先进的技术，并在Flickr 30 K数据集上取得了可比的结果。
2021-10-17 cs.CV cs.IR cs.LG
Swift and Sure: Hardness-aware Contrastive Learning for Low-dimensional Knowledge Graph Embeddings
Dalian University of Technology（大连理工大学）；Macquarie University（麦考瑞大学）
知识图谱嵌入在知识图谱自动补全和知识驱动任务中显示出巨大的潜力。然而，最近的KGE模型遭受高训练成本和大存储空间，从而限制了它们在现实世界中的应用的实用性。为了应对这一挑战，基于对比学习领域的最新研究成果，我们提出了一种新的KGE训练框架，称为Hardness-aware Low-dimensional Embedding（HaLE）。在查询抽样的基础上，设计了一种新的损失函数，取代了传统的负抽样方法，该函数能够平衡两个重要的训练目标：对齐度和一致性。此外，我们分析了最近的低维双曲模型的硬度感知能力，并提出了一个轻量级的硬度感知激活机制。实验结果表明，在有限的训练时间内，HaLE能有效提高KGE模型在5种常用数据集上的性能和训练速度.经过几分钟的训练后，HaLE训练的模型在低维和高维条件下与最先进的模型相比都具有竞争力。
2022-05-24 cs.AI cs.LG
SimCSE: Simple Contrastive Learning of Sentence Embeddings
Princeton University（普林斯顿大学）；Tsinghua University（清华大学）
本文介绍了SimCSE，一个简单的对比学习框架，大大提高了最先进的句子嵌入。我们首先描述了一个无监督的方法，它需要一个输入句子，并预测自己在一个对比的目标，只有标准的辍学作为噪音。这个简单的方法工作得出奇的好，与以前的监督对应物表现相当。我们发现，dropout作为最小的数据增强，并删除它会导致一个表示坍塌。然后，我们提出了一种监督的方法，它将注释对从自然语言推理数据集到我们的对比学习框架，使用“蕴涵”对作为积极和“矛盾”对硬否定。我们在标准语义文本相似性（STS）任务上评估SimCSE，我们使用BERT基础的无监督和有监督模型分别达到平均76.3%和81.6%的斯皮尔曼相关性，与以前的最佳结果相比，分别提高了4.2%和2.2%。我们还从理论上和经验上证明，对比学习的目标是使预训练的嵌入的各向异性空间更加均匀，并且在监督信号可用时更好地对齐正对。
2022-05-18 cs.CL cs.LG
Composition-contrastive Learning for Sentence Embeddings
Texas A&M University（德州农工大学）
针对无标注句子表示学习，本文提出文本与其短语成分组合对齐的成分对比学习目标，在语义文本相似度任务上达到可比最先进水平，且无需辅助目标或额外参数。
2023-07-14 cs.CL cs.LG
Micro-Expression Recognition Based on Attribute Information Embedding and Cross-modal Contrastive Learning
Ping An Technology (Shenzhen) Co., Ltd.（平安科技（深圳）有限公司）
人脸微表情识别是近年来研究的热点。微表情具有持续时间短、强度低的特点，现有的微表情数量有限，很难训练出高性能的分类器。因此，识别微表情是一项具有挑战性的任务。提出了一种基于属性信息嵌入和跨模态对比学习的微表情识别方法。在人脸动作编码系统中，采用三维CNN提取微表情序列的RGB特征和FLOW特征并进行融合，采用BERT网络提取文本信息。通过跨模态对比损失，将属性信息嵌入到视觉网络中，从而提高了在样本有限情况下微表情识别的表征能力。在CASME II和MMEW数据库上进行了大量的实验，准确率分别为77.82%和71.04%。对比实验表明，该方法在微表情识别中具有较好的识别效果。
2022-05-29 cs.AI cs.CV cs.LG
CMLM-CSE: Based on Conditional MLM Contrastive Learning for Sentence Embeddings
Hangzhou Yizhi Intelligent Technology Co., Ltd.（杭州意智智能科技有限公司）；School of Computer Science, Zhejiang University（浙江大学计算机科学与技术学院）
针对传统对比学习句子嵌入忽略句中词汇语义影响的问题，提出基于条件MLM的无监督对比学习框架CMLM-CSE，通过新增辅助网络融合句子嵌入执行MLM任务，在文本相似度任务上性能优于SimCSE。
2023-06-16 cs.AI cs.CL
Semi-Supervised Sound Event Detection with Conditional Mixup and Embedding-Level Contrastive Loss
提出条件混合策略与嵌入级对比损失，解决半监督声音事件检测中混合增强在伪标签学习和对比学习中的角色冲突，在DESED验证集上达到SOTA。
2026-06-29 cs.AI eess.AS
Boundary Embedding Shaping with Adaptive Contrastive Learning for Graph Structural Disentanglement
Yunnan Normal University（云南师范大学）；Adelaide University（阿德莱德大学）；The University of New South Wales（新南威尔士大学）
针对图结构纠缠导致的分类性能下降，提出边界嵌入塑造模块，通过自适应对比学习选择性抑制决策边界处的虚假结构噪声，提升节点分类和链接预测精度。
2026-07-23 cs.AI cs.LG
SetCSE: Set Operations using Contrastive Learning of Sentence Embeddings
受集合论启发提出SetCSE信息检索框架，通过集合间对比学习目标增强句子嵌入模型对复杂语义的理解，并提供交集、差分等集合操作，显著提升模型判别能力，支持现有方法无法实现的复杂提示检索任务。
2024-04-25 cs.CL cs.IR cs.LG
Contrastive and Non-Contrastive Self-Supervised Learning Recover Global and Local Spectral Embedding Methods
Meta AI Research（Meta人工智能研究院）；NYU（纽约大学）
自监督学习（SSL）推测输入和成对的正关系足以学习有意义的表示。虽然SSL最近达到了一个里程碑：在许多模态\dots中优于监督方法，但理论基础有限，方法特定，并且未能为从业者提供原则性的设计指南。在本文中，我们提出了一个统一的框架下的频谱流形学习，以解决这些限制。通过这项研究的过程中，我们将严格证明VICReg，Simplified，BarlowTwins等。对应于epsilon谱方法，如Laplacian Eigenmaps，Multidimensional Scaling等。这种统一将使我们能够获得（i）每种方法的闭合形式最佳表示，（ii）每种方法的线性区域中的闭合形式最佳网络参数，（iii）训练过程中使用的成对关系对每个量和下游任务性能的影响，最重要的是，（iv）对比和非对比方法之间的第一个理论桥梁，分别通向全局和局部谱嵌入方法，暗示每个方法的优点和局限性。例如，（i）如果成对关系与下游任务对齐，则可以成功地采用任何SSL方法并将恢复监督方法，但在低数据状态下，VICReg的不变性超参数应该较高;（ii）如果成对关系与下游任务不对齐，则具有小不变性超参数的VICReg应该优于Simplified或BarlowTwins。
2022-06-10 cs.AI cs.CV cs.LG
Contrastive-Based Deep Embeddings for Label Noise-Resilient Histopathology Image Classification
Primaa；Institut Curie（居里研究所）；PSL University（巴黎文理研究大学）
针对组织病理学图像分类中标签噪声导致模型性能下降的问题，研究发现自监督对比学习训练的病理学基础模型提取的嵌入具备标签噪声鲁棒性，效果优于非对比嵌入及常用抗噪方法，代码已开源。
2024-04-11 cs.AI cs.CV
Contrastive Learning of Asset Embeddings from Financial Time Series
School of Computer Science, University College Dublin（都柏林大学学院计算机科学学院）
本文提出一种基于假设检验统计采样的对比学习框架，利用资产在子窗口的收益相似性生成正负样本，从金融时间序列中学习资产嵌入，在行业分类与投资组合优化任务上显著优于基线。
2024-07-26 cs.LG q-fin.ST
SemCSE: Semantic Contrastive Sentence Embeddings Using LLM-Generated Summaries For Scientific Abstracts
Bielefeld University, Germany（比勒菲尔德大学）
SemCSE 利用大语言模型生成的摘要进行无监督对比学习，以增强科学文本语义嵌入，并在 SciRepEval 基准上取得同等规模模型中的最优性能。
2025-07-17 cs.CL cs.IR cs.LG
Efficient fine-tuning methodology of text embedding models for information retrieval: contrastive learning penalty (clp)
Kangwon National University（江原大学）
本研究提出一种涵盖数据选择、损失函数和模型架构的高效微调方法，并引入新颖的对比学习惩罚（CLP）函数克服现有对比学习局限，显著提升了文本嵌入模型在信息检索与文档检索任务中的性能。
2024-12-23 cs.AI cs.IR
Template-assisted Contrastive Learning of Task-oriented Dialogue Sentence Embeddings
Stanford University（斯坦福大学）；Zhejiang University（浙江大学）；Alibaba Qwen Pilot（阿里巴巴Qwen Pilot）
本文提出TaDSE方法，利用模板信息通过自监督对比学习学习对话句嵌入，通过合成数据集增强效果，并在五个对话基准数据集上验证了其有效性。
2026-04-12 cs.AI cs.CL
An Information Minimization Based Contrastive Learning Model for Unsupervised Sentence Embeddings Learning
East China Normal University（华东师范大学）
无监督的句子嵌入学习最近被对比学习方法（例如，SimCSE），其保持正对相似并将负对分开。对比操作的目的是通过最大化正实例之间的互信息来保持尽可能多的信息，这导致句子嵌入中的冗余信息。针对这一问题，本文提出了一种基于信息最小化的对比学习模型（InformMin-CL），通过最大化正实例间的互信息和最小化正实例间的信息熵，保留有用信息，丢弃冗余信息，同时进行无监督的句子表示学习。具体来说，我们发现，信息最小化可以实现简单的对比度和重建目标。重构操作通过另一个正实例重构正实例，以最小化正实例之间的信息熵。我们在14个下游任务上评估了我们的模型，包括监督和无监督（语义文本相似性）任务。大量的实验结果表明，我们的InforMin-CL获得了最先进的性能。
2022-09-22 cs.AI cs.CL
KGE-CL: Contrastive Learning of Tensor Decomposition Based Knowledge Graph Embeddings
Sun Yat-sen University（中山大学）；Microsoft Research Asia（微软亚洲研究院）
学习知识图谱（KG）的嵌入在人工智能中至关重要，并且可以使各种下游应用受益，例如推荐和问答。近年来，人们对知识图谱嵌入进行了大量的研究。然而，大多数以前的KGE方法忽略了语义相似性的相关实体和实体之间的关系对不同的三元组，因为他们分别优化每个三元组的评分函数。针对这一问题，本文提出了一种简单有效的基于张量分解（TDB）的KGE对比学习框架，该框架可以缩短不同三元组中相关实体和实体-关系对的语义距离，从而提高KGE的性能.我们在三个标准KGE数据集上评估了我们提出的方法：WN 18 RR，FB 15 k-237和YAGO 3 -10。我们的方法可以产生一些新的最先进的结果，在WN 18 RR数据集上实现51.2%MRR，46.8%Hits@1，在FB 15 k-237数据集上实现37.8%MRR，28.6%Hits@1，在YAGO 3 -10数据集上实现59.1%MRR，51.8%Hits@1。
2022-10-24 cs.AI cs.CL cs.LG
Hotel Recognition via Latent Image Embedding
HSE University（高等经济大学）
我们用深度度量学习来解决酒店识别问题。我们概述了现有的方法，并提出了一个修改的对比损失称为对比三重损失。我们构建了一个强大的管道来对度量学习模型进行基准测试，并在Hotels-50 K和CUB 200数据集上进行了实验。对比三重损失被证明可以在Hotels-50 k上实现更好的检索。我们开源我们的代码。
2021-06-15 cs.CV cs.IR cs.LG
AspectCSE: Sentence Embeddings for Aspect-based Semantic Textual Similarity Using Contrastive Learning and Structured Knowledge
Technical University of Munich（慕尼黑工业大学）；DFKI GmbH（德国人工智能研究中心）
本文提出AspectCSE方法，利用对比学习和Wikidata知识图谱属性训练基于方面的句子嵌入，在信息检索任务上平均提升3.97%，并证明多方面嵌入优于单方面嵌入。
2023-09-24 cs.AI cs.CL
Imposing Relation Structure in Language-Model Embeddings Using Contrastive Learning
KU Leuven（鲁汶大学）；Idiap Research Institute（Idiap研究所）；EPFL（洛桑联邦理工学院）
针对语言模型嵌入捕捉实体关系等高层语义能力不足的问题，提出基于对比学习的框架，在CharacterBERT词元表征上施加关系结构，所得关系感知嵌入用简单KNN即达关系抽取SOTA，还可融合实体识别表征空间用于实体关系任务。
2021-09-04 cs.AI cs.CL
Dialog2Flow: Pre-training Soft-Contrastive Action-Driven Sentence Embeddings for Automatic Dialog Flow Extraction
Idiap Research Institute（伊迪亚普研究所）；University of Zurich（苏黎世大学）；Brno University of Technology（布尔诺理工大学）
本文提出Dialog2Flow嵌入，通过软对比预训练将对话话语按动作功能映射到潜在空间并聚类量化，从而自动提取对话工作流，在多个领域上优于现有句子嵌入方法。
2024-11-05 cs.AI cs.CL cs.LG
Graph Embedding Dynamic Feature-based Supervised Contrastive Learning of Transient Stability for Changing Power Grid Topologies
School of Electrical Engineering（电气工程学院）
针对电网拓扑变化下的在线暂态稳定预测，提出GEDF将拓扑结构编码为低维图嵌入流特征，并构建GEDF-SCL监督对比学习模型；IEEE 39节点系统的N-1与N-m-1事故仿真验证其高精度与拓扑适应性。
2023-08-01 cs.AI cs.LG cs.SY
Latent Planning via Embedding Arithmetic: A Contrastive Approach to Strategic Reasoning
Department of Computer Science（计算机科学系）；Baylor University（贝勒大学）
针对高维决策空间规划问题，提出基于监督对比学习的SOLIS方法，在评估对齐嵌入空间中通过向量运算简化规划，在国际象棋中以浅层搜索达到竞争力，为传统方法提供轻量级替代。
2025-11-12 cs.LG
Revealing Emotional Clusters in Speaker Embeddings: A Contrastive Learning Strategy for Speech Emotion Recognition
The University of Texas at Dallas（德克萨斯大学达拉斯分校）
本研究揭示了说话人嵌入中存在情感聚类现象，并提出一种基于聚类的对比预训练策略，利用情感未标记数据显著提升了语音情感识别性能。
2024-01-19 cs.LG cs.SD eess.AS
Morality is Non-Binary: Building a Pluralist Moral Sentence Embedding Space using Contrastive Learning
Delft University of Technology（代尔夫特理工大学）
本文利用对比学习构建多元道德句子嵌入空间，以捕捉道德判断的细微差别，并发现仅靠自监督难以推断道德多元主义，需结合人类标签的监督方法。
2024-01-30 cs.AI cs.CL
Isolating authorship from content with semantic embeddings and contrastive learning
Universidad Politécnica de Madrid（马德里理工大学）
针对作者身份识别中内容与风格纠缠导致内容泄露的问题，提出结合语义相似性模型生成难负样本的对比学习（InfoNCE）解耦技术，提升多产作者识别准确率并保留零样本能力。
2024-11-27 cs.CL cs.LG
Self-Adaptive Reconstruction with Contrastive Learning for Unsupervised Sentence Embeddings
South China University of Technology（华南理工大学）；School of Computer Science and Engineering（计算机科学与工程学院）
针对预训练语言模型词元偏置导致无监督句嵌入细粒度语义丢失的问题，提出SARCSE框架，通过自编码器重构全部词元并引入自适应重构损失，在7个STS任务上显著优于SimCSE。
2024-02-23 cs.CL cs.LG
Three Towers: Flexible Contrastive Learning with Pretrained Image Models
University of Oxford（牛津大学）；Google Research（谷歌研究院）；Google DeepMind（谷歌DeepMind）
本文提出三塔（3T）方法，通过引入包含冻结预训练嵌入的第三塔，使图像塔同时受益于预训练嵌入和对比训练，在检索和分类任务上取得一致改进。
2023-10-30 cs.AI cs.CV cs.LG
CDAE: Enhancing Perturbation Robustness in Pretrained Language Models with Contrastive Denoising
Institude for Advanced Studies in Basic Sciences (IASBS)（基础科学高级研究所）
本研究针对预训练语言模型词嵌入对保留语义的文本扰动敏感的问题，提出CDAE模型，经多强度扰动策略对比实验，证实其能提升扰动下的嵌入相似度与表示稳定性。
2026-10-19 cs.AI cs.CL
Hyperbolic Contrastive Learning for Hierarchical 3D Point Cloud Embedding
East China Normal University（华东师范大学）
本文在双曲多模态对比预训练中引入三维点云模态，并设计蕴含、模态间隙与对齐正则化器学习模态内及跨模态层次嵌入，提升下游任务性能。
2025-01-07 cs.AI cs.CV
Multi-Modal Contrastive Learning for Implicit Earth Embeddings via Location Tying
Computational Methods Lab, HafenCity University Hamburg（汉堡港城大学计算方法实验室）；Dept. of Operations & Technology, Technical University of Munich（慕尼黑工业大学运营与技术系；海尔布隆数据科学中心；慕尼黑数据科学研究所）；Heilbronn Data Science Center（波恩大学大地测量与地理信息研究所）；Munich Data Science Institute；Institute of Geodesy and Geoinformation, University of Bonn
提出两种多模态对比学习架构MELT和SALT，通过位置绑定整合未配对地理数据，在四个下游任务中匹配最强双模态基线SATCLIP，但增加模态数未持续提升性能，表明位置编码器是主要瓶颈。
2026-06-19 cs.LG
Uncertainty in Contrastive Learning: On the Predictability of Downstream Performance
Netflix（网飞公司）；Massachusetts Institute of Technology（麻省理工学院）
当今一些最先进的深度学习模型的卓越性能在一定程度上归功于大规模数据集上的广泛（自）监督对比预训练。在对比学习中，网络被呈现成对的正（相似）和负（不相似）数据点，并被训练为找到每个数据点的嵌入向量，即，一种表示法，可以针对各种下游任务进行进一步微调。为了在关键决策系统中安全地部署这些模型，为它们配备一个衡量其不确定性或可靠性的标准至关重要。然而，由于训练对比模型的成对性质，以及在输出（抽象嵌入向量）上缺乏绝对标签，使常规不确定性估计技术适应于这样的模型是不平凡的。在这项工作中，我们研究这种表示的不确定性是否可以量化为一个单一的数据点在一个有意义的方式。换句话说，我们探索给定数据点的下游性能是否可以直接从其预训练的嵌入中预测。我们表明，这一目标可以通过直接估计的训练数据在嵌入空间中的分布，并占局部一致性的表示。我们的实验表明，这种嵌入向量的不确定性的概念往往与其下游的准确性密切相关。
2022-07-19 cs.AI cs.CV cs.LG
Non-Contrastive Self-Supervised Learning of Utterance-Level Speech Representations
Johns Hopkins University（约翰斯·霍普金斯大学）
考虑到大量的未标记语音数据和高昂的标记成本，无监督学习方法对于更好的系统开发至关重要。最成功的方法之一是对比自监督方法，它需要负采样：对替代样本进行采样，以与当前样本（锚）进行对比。然而，很难确保所有的负样本是否属于与没有标签的锚类不同的类。本文采用非对比自监督学习方法在无标注语音语料库上学习话语级嵌入。我们使用了在计算机视觉中提出的带NO标签的Distillation（DINO），并将其应用于语音领域。与对比方法不同，DINO不需要负采样。这些嵌入进行了评估，说话人确认和情感识别。在说话人验证中，无监督DINO嵌入余弦评分在VoxCeleb 1测试试验中提供了4.38%的EER。这比最好的对比自我监督方法在EER方面的相对性能高出40%。一个迭代的伪标签训练管道，不需要说话人标签，进一步提高了EER到1.89%。在情感识别方面，DINO嵌入在IEMOCAP，Crema-D和MSP-Podcast上的micro-f1得分分别为60.87，79.21和56.98%。结果表明，DINO嵌入的通用性，不同的语音应用。
2022-08-10 cs.LG eess.AS
DeCLUTR: Deep Contrastive Learning for Unsupervised Textual Representations
University of Toronto（多伦多大学）；Vector Institute for Artificial Intelligence（向量人工智能研究所）；University Health Network（大学健康网络）
句子嵌入是许多自然语言处理（NLP）系统的重要组成部分。与词嵌入一样，句子嵌入通常在大型文本语料库中学习，然后转移到各种下游任务中，例如聚类和检索。与词嵌入不同，学习句子嵌入的最高性能解决方案需要标记数据，这限制了它们对标记数据丰富的语言和领域的有用性。在本文中，我们提出了DeCLUTR：用于无监督文本表示的深度对比学习。受深度度量学习（DML）最新进展的启发，我们仔细设计了一个自监督目标，用于学习通用句子嵌入，不需要标记的训练数据。当用于扩展基于transformer的语言模型的预训练时，我们的方法缩小了通用句子编码器的无监督和监督预训练之间的性能差距。重要的是，我们的实验表明，学习嵌入的质量与可训练参数的数量和未标记的训练数据的数量成比例。我们的代码和预训练模型是公开的，可以轻松适应新领域或用于嵌入看不见的文本。
2021-05-27 cs.CL cs.LG
On the Effect of Data-Augmentation on Local Embedding Properties in the Contrastive Learning of Music Audio Representations
SiriusXM-Pandora
本文研究对比学习音乐音频嵌入中数据增强对局部性质的影响，发现适当增强可降低音高、速度等属性的局部化，同时提升体裁、情绪等显著特征的局部性，并在最近邻检索上取得最优性能。
2024-01-17 cs.IR cs.LG cs.MM
TNCSE: Tensor's Norm Constraints for Unsupervised Contrastive Learning of Sentence Embeddings
School of Computer Science and Technology, University of Chinese Academy of Sciences（中国科学院大学计算机科学与技术学院）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）
针对无监督句嵌入只约束表示方向、忽略范数的问题，提出张量范数约束训练目标并结合集成学习构建 TNCSE，在语义文本相似度和零样本任务上取得最优表现。
2025-03-17 cs.AI cs.CL
