XFACTORS: Disentangled Information Bottleneck via Contrastive Supervision
ENS Paris（巴黎高等师范学院）
研究旨在实现解缠表示学习。核心方法是引入弱监督VAE框架XFactors，基于解缠信息瓶颈视角，通过对比监督和KL正则化进行分解。主要贡献是在多数据集取得领先解缠分数，实现因子对齐与可控交换，且方法随潜在容量正确扩展。
2026-07-10 cs.AI cs.LG
Preventing Collapse in Contrastive Learning with Orthonormal Prototypes (CLOP)
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；Wisconsin Institute of Discovery（威斯康星发现研究院）
针对对比学习中的神经坍缩问题，该研究分析大学习率对余弦对比损失的影响并推导缓解界，提出聚焦子空间分离的半监督损失CLOP，实验证明其可提升性能与稳定性。
2024-10-07 cs.AI cs.LG
SCNet: Enhancing Few-Shot Semantic Segmentation by Self-Contrastive Background Prototypes
Tsinghua University（清华大学）；Tencent Youtu Lab（腾讯优图实验室）；University College London（伦敦大学学院）
Few-Shot语义分割的目标是在查询图像中分割新类别的对象，而支持图像中只有少量带注释的示例。大多数高级解决方案都利用了一个度量学习框架，该框架通过将每个像素与学习到的前景原型相匹配来执行分割。然而，这个框架遭受偏见的分类，由于不完整的建设的样本对前景原型。为了解决这个问题，在本文中，我们引入了一个互补的自我对比任务到Few-Shot语义分割。我们的新模型能够将区域中的像素与该区域的原型相关联，无论它们是在前景还是背景中。为此，我们直接从查询图像中生成自对比背景原型，从而构建完整的样本对，从而完成补充和辅助分割任务，以实现更好的分割模型的训练。在PASCAL-5 $^i$和COCO-20 $^i$上的大量实验清楚地证明了我们的建议的优越性。在不牺牲推理效率的情况下，我们的模型实现了Few-Shot语义分割的1次和5次设置的结果。
2021-04-28 cs.AI cs.CV
Understanding Dimensional Collapse in Contrastive Self-supervised Learning
Facebook AI Research（脸书人工智能研究院）
自监督视觉表示学习的目标是在不依赖于人类注释的情况下学习有用的表示。联合嵌入方法的基础是最大限度地提高来自同一图像的不同视图的嵌入向量之间的一致性。已经提出了各种方法来解决所有嵌入向量坍缩到平凡常数解的坍缩问题。在这些方法中，对比学习通过负样本对防止崩溃。已经表明，非对比方法遭受不同性质的较小崩溃问题：维度崩溃，其中嵌入向量最终跨越较低维度的子空间而不是整个可用的嵌入空间。在这里，我们表明，维度崩溃也发生在对比学习。在本文中，我们揭示了对比学习中导致维度崩溃的动态。受我们理论的启发，我们提出了一种新的对比学习方法，称为DirectRank，它直接优化表示空间，而不依赖于显式的可训练投影。实验表明，DirectMap在ImageNet上使用可训练线性投影仪的性能优于Simplane。
2022-04-23 cs.AI cs.CV cs.LG
Multi-view Contrastive Graph Clustering
University of Electronic Science and Technology of China（电子科技大学）
随着信息技术的爆炸式增长，多视图图形数据变得越来越普遍和有价值。大多数现有的多视图聚类技术要么集中在多个图形或多视图属性的情况下。在本文中，我们提出了一个通用的框架来聚类多视图属性图数据。具体地说，受对比学习成功的启发，我们提出了多视图对比图聚类（MCGC）方法来学习一致性图，因为原始图可能是嘈杂的或不完整的，并不直接适用。我们的方法由两个关键步骤组成：首先通过图过滤过滤掉不需要的高频噪声，同时保留图的几何特征，并获得节点的平滑表示;然后通过图对比度损失学习正则化的共识图。几个基准数据集上的结果显示了我们的方法相对于最先进的方法的优越性。特别是，我们的简单方法优于现有的基于深度学习的方法。
2021-10-22 cs.AI cs.CV cs.LG
Feature Extraction Framework based on Contrastive Learning with Adaptive Positive and Negative Samples
China Agricultural University（中国农业大学）
在这项研究中，我们提出了一个特征提取框架的基础上对比学习与自适应积极和消极的样本（CL-FEFA），适用于无监督，监督和半监督的单视图特征提取。CL-FEFA从特征提取的结果中自适应地构造正样本和负样本，使其更加合适和准确。然后，根据InfoNCE损失的大小，在前两次正样本和负样本的基础上重新提取鉴别特征，使类内样本更加紧凑，类间样本更加分散。同时，利用子空间样本的潜在结构信息动态地构造正样本和负样本，可以使我们的框架对噪声数据具有更强的鲁棒性。此外，CL-FEFA还考虑了正样本之间的互信息，即潜在结构中的相似样本，这为其在特征提取中的优势提供了理论支持。最后的数值实验证明，该框架与传统的特征提取方法和对比学习方法相比具有很强的优势。
2022-01-11 cs.AI cs.CV cs.LG
A mini-batch training strategy for deep subspace clustering networks
The Hong Kong University of Science and Technology（香港科学与技术大学）；South China University of Technology（华南理工大学）
针对深度子空间聚类依赖全批量自表达模块的问题，本文提出记忆库支持的小批量训练策略，并结合无解码器对比学习框架，实现高分辨率图像可扩展训练且性能优异。
2025-07-26 cs.AI cs.CV
Incomplete Multi-view Clustering via Diffusion Completion
针对不完整多视图聚类中缺失视图的影响问题，提出扩散补全方法，利用扩散模型恢复缺失视图并结合对比学习提升聚类性能，实验证明其优于现有方法。
2023-05-19 cs.AI cs.LG
A Low Rank Promoting Prior for Unsupervised Contrastive Learning
JD AI Research（京东人工智能研究院）；SUN YAT-SEN UNIVERSITY（中山大学）；University of Science and Technology of China（中国科学技术大学）
无监督学习正处于一个临界点，它可能会真正起飞。在这些方法中，对比学习已经取得了巨大的进展，并导致了国家的最先进的性能。在本文中，我们构建了一个新的概率图模型，有效地将低秩提升先验的对比学习的框架，简称为LORAC。与现有的传统的自监督方法只考虑独立学习相比，我们的假设明确要求属于同一实例类的所有样本都位于同一个小维度的子空间上。这种启发式提出了特定的联合学习约束，以减少在搜索最佳网络参数化的问题的自由度。最重要的是，我们认为，这里采用的低秩先验是不唯一的，和许多不同的先验可以调用类似的概率方式，对应于不同的假设背后的对比功能的基本真理。实验结果表明，该算法在图像分类、目标检测、实例分割和关键点检测等多个方面都明显优于现有的方法。
2021-08-05 cs.AI cs.CV cs.LG
DIRCR: Dual-Inference Rule-Contrastive Reasoning for Solving RAVENs
School of Computer Science, University of Nottingham Ningbo China, China（诺丁汉大学宁波校区计算机科学学院）；Nottingham Ningbo China Beacons of Excellence Research and Innovation Institute, China（诺丁汉宁波中国卓越研究与创新研究所）；School of Artificial Intelligence, Shenzhen University, China（深圳大学人工智能学院）
本文提出DIRCR模型，通过双推理推理模块和规则对比学习模块，解决RAVENs中全局与局部关系整合不足的问题，提升推理鲁棒性和泛化能力。
2026-04-19 cs.AI
Point Cloud Understanding via Attention-Driven Contrastive Learning
The Chinese University of Hong Kong（香港中文大学）；Zhejiang Lab（之江实验室）
本文提出注意力驱动的对比学习框架PointACL，通过动态掩码关注欠注意区域并结合对比学习损失，在多个点云理解任务和数据集上取得最先进性能并增强鲁棒性。
2024-11-22 cs.AI cs.CV cs.LG
Spectral Augmentations for Graph Contrastive Learning
Huawei（华为）；Tianjin University（天津大学）；McGill（麦吉尔大学）
对比学习已经成为一种在有监督或无监督的情况下学习表征的首要方法。最近的研究表明，它的效用图表示学习的预训练。尽管取得了成功，但对如何设计有效的图增强的理解仍然是不完整的，这些图增强可以捕获许多不同类型的下游图所共有的结构属性。我们提出了一组动机良好的图变换操作，通过图谱分析，以提供一个银行的候选人时，构建增强图对比目标，使对比学习，以捕捉有用的结构表示从预训练图数据集。首先，我们提出了一个频谱图裁剪增强，涉及过滤节点应用阈值的领导拉普拉斯特征向量的特征值。我们的第二个新的增强重新排序的图形频率分量的结构拉普拉斯导出的位置图嵌入。此外，我们介绍了一种方法，导致改进的本地子图的意见，通过执行对齐通过全球随机游走嵌入。我们的实验结果表明，与最先进的图对比学习方法相比，域外图数据传输得到了一致的改进，从而揭示了如何设计一个能够学习不同图类型共同结构属性的图学习器。
2023-02-06 cs.AI cs.LG
Learning Multi-Agent Communication with Contrastive Learning
Dyson Robot Learning Lab（戴森机器人学习实验室）；JPMorgan Chase（摩根大通）；University of Oxford（牛津大学）；Mila（米拉研究所）；Université de Montréal（蒙特利尔大学）
本文提出将多智能体间通信消息视为环境状态的不同不完整视图，利用对比学习最大化轨迹内消息互信息，在通信关键环境中提升性能与收敛速度，并诱导更对称的通信。
2024-02-01 cs.AI cs.LG
The Loss Is Not Enough: Sampling Conditions and Inductive Bias in Contrastive Representation Learning
ETH Zürich（苏黎世联邦理工学院）
本文通过测度论框架形式化对比学习中的多样性条件，提出支持校正的InfoNCE变体，并实验验证了采样多样性与编码器归纳偏置的相互作用。
2026-06-02 cs.AI cs.IR cs.LG
Analyzing Multimodal Objectives Through the Lens of Generative Diffusion Guidance
Seoul National University（首尔国立大学）
近年来，多模态表示学习领域取得了惊人的进展，其中对比学习是重大突破的基石。最新的作品通过将不同的目标（如掩码建模和字幕）纳入框架中，提供了进一步的改进，但我们对这些目标如何促进学习的理解仍然非常不完整。在本文中，我们利用分类器引导的扩散模型生成反映分类器提供的语义信号的图像来研究多模态学习目标的特征。具体来说，我们比较对比，匹配和字幕损失方面的语义信号，并引入一个简单的基线，不仅支持我们的分析，但也提高了生成指导的质量在一个简单的方式。
2023-02-10 cs.AI cs.CV cs.LG
Decipher the Modality Gap in Multimodal Contrastive Learning: From Convergent Representations to Pairwise Alignment
Stony Brook University（史坦尼·布鲁克大学）；University Paris 1 Pantheon-Sorbonne（巴黎第一大学）
本文首次提出理论框架，证明维度坍缩是模态差距的根本原因，并揭示通过超平面旋转和共享空间投影可在子空间约束下实现完美对齐。
2025-10-07 cs.AI cs.LG
On Understanding and Mitigating the Dimensional Collapse of Graph Contrastive Learning: a Non-Maximum Removal Approach
Shanghai Jiao Tong University（上海交通大学）
图对比学习（GCL）在没有人工标注的监督下，在图表示学习（GRL）中表现出很好的性能。GCL可以通过最大化同一图的不同增强视图（正对）之间的互信息（MI）来生成图级嵌入。然而，GCL受到维度塌陷的限制，即，嵌入向量仅占用低维子空间。在本文中，我们证明了图池的平滑效应和图卷积的隐式正则化是导致GCL维数崩溃的两个原因。为了缓解上述问题，我们提出了一种非最大移除图对比学习方法（nmrGCL），该方法移除“顺从”维度（即，在相似度测量中贡献最大）。在各种基准数据集上进行了全面的实验，以证明nmrGCL的有效性，结果表明，我们的模型优于最先进的方法。源代码将公开提供。
2022-05-24 cs.AI cs.LG
Disentangle-then-Refine: LLM-Guided Decoupling and Structure-Aware Refinement for Graph Contrastive Learning
Institute of Physical Science and Information Technology（物理科学与信息技术研究院）；School of Mathematical Sciences（数学科学学院）；Qinghai Institute of Science and Technology Information（青海科学技术信息研究院）
本文提出SDM-SCR框架，通过LLM解耦任务相关信号与噪声，并利用结构感知细化消除幻觉，提升图对比学习的准确性和效率。
2026-04-16 cs.AI
AmGCL: Feature Imputation of Attribute Missing Graph via Self-supervised Contrastive Learning
Qifu Technology, Inc.（奇富科技有限公司）
提出AmGCL框架，利用Dirichlet能量最小化特征预编码和自监督图增强对比学习，解决属性缺失图的特征插补与节点分类问题，并在多个数据集上超越现有方法。
2023-05-05 cs.AI cs.LG
Repetitive Contrastive Learning Enhances Mamba's Selectivity in Time Series Prediction
School of Intelligence Science and Technology, Peking University, Beijing（智能科学与技术学院，北京大学，北京）；Computational Intelligence Laboratory（计算智能实验室）；Institute for Artificial Intelligence（人工智能研究院）；State Key Laboratory of General Artificial Intelligence, Peking University, Beijing（通用人工智能国家重点实验室，北京大学，北京）
重复对比学习通过增强Mamba的选择能力，提升时间序列预测性能，达到最新成果。
2025-11-12 cs.AI cs.LG
Hodge-Aware Contrastive Learning
TU Delft（代尔夫特理工大学）；ETH Zürich（苏黎世联邦理工学院）；Helmholtz AI（亥姆霍兹人工智能研究所）
提出Hodge感知对比学习，通过Hodge分解和单纯神经网络编码不变性并重加权负样本，生成反映频谱特性的嵌入，在边流分类任务中优于监督学习。
2023-09-14 cs.AI cs.LG eess.SP
Distillation Enhanced Time Series Forecasting Network with Momentum Contrastive Learning
Heilongjiang University（黑龙江大学）；Shandong Artificial Intelligence Institute（山东人工智能研究院）；Qilu University of Technology（齐鲁工业大学）
提出DE-TSMCL框架，结合可学习数据增强、动量对比学习与监督任务，联合优化多任务损失，有效提升长序列时间序列预测性能，最大改进达27.3%。
2024-06-25 cs.AI cs.LG
Synergistic Anchored Contrastive Pre-training for Few-Shot Relation Extraction
University of Electronic Science and Technology of China（电子科技大学）
针对小样本关系抽取中现有监督对比学习未充分利用实例-标签对丰富语义的问题，提出包含句子与标签双锚定对称对比损失的协同锚定预训练框架，有效提升下游任务性能及领域偏移、零样本场景的适配性。
2024-03-11 cs.AI cs.CL
Spatial-Temporal Graph Learning with Adversarial Contrastive Adaptation
Nanyang Technological University（南洋理工大学）
针对现有时空图模型对图质量敏感的问题，提出对抗对比学习模型GraphST，通过自适应困难样本挖掘和跨视图对比学习，增强表示鲁棒性，在真实数据预测任务中表现优越。
2023-06-19 cs.AI cs.LG
Global-Graph Guided and Local-Graph Weighted Contrastive Learning for Unified Clustering on Incomplete and Noise Multi-View Data
Guangxi Normal University（广西师范学院）；University of Electronic Science and Technology of China（电子科技大学）；Singapore University of Technology and Design（新加坡科技设计大学）；Hainan University（海南大学）
本文提出一种全局图引导和局部图加权对比学习框架，用于提升不完整和噪声多视图数据的聚类效果。
2025-12-25 cs.CV cs.LG
Incomplete Multi-view Multi-label Classification via a Dual-level Contrastive Learning Framework
School of Big Data and Information Engineering（大数据与信息工程学院）；Guizhou University（贵州大学）
本文针对视图和标签双重缺失的多视图多标签分类问题，提出一种双层对比学习框架，通过双通道解耦模块分离一致性与视图特定信息，并在特征和标签层面施加对比学习约束，在多个基准数据集上取得更稳定优越的分类性能。
2025-11-09 cs.CV
DICNet: Deep Instance-Level Contrastive Network for Double Incomplete Multi-View Multi-Label Classification
Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））；Sun Yat-sen University（中山大学）；Pengcheng Laboratory（鹏城实验室）
近年来，多视图多标记学习引起了广泛的研究热情。然而，由于数据汇集和人工标注的不确定性因素，现实世界中的多视图多标签数据往往是不完整的，不仅多视图特征经常缺失，标签的完整性也难以满足。针对双不完全多视图多标签分类问题，提出了一种深度实例级对比网络DICNet。与传统方法不同，我们的DICNet专注于利用深层神经网络来利用样本的高级语义表示，而不是浅层特征。首先，我们利用堆叠的自动编码器来构建端到端的多视图特征提取框架，以学习样本的视图特定表示。此外，为了提高一致性表示能力，本文引入了不完全实例级对比学习方案，引导编码器更好地提取多视图的一致性信息，并使用多视图加权融合模块增强语义特征的区分度。总的来说，我们的DICNet擅长捕获多视图多标签数据的一致判别表示，并避免丢失视图和丢失标签的负面影响。在五个数据集上进行的大量实验验证了我们的方法优于其他最先进的方法。
2023-03-23 cs.CV
Multi-level Graph Subspace Contrastive Learning for Hyperspectral Image Clustering
School of Computer Science, China University of Geosciences（中国地质大学计算机学院）；School of Computer, National University of Defense Technology（国防科技大学计算机学院）
提出MLGSC框架，通过双视图图卷积子空间、注意力池化及图级与节点级多层对比学习增强HSI全局—局部表示，在四个数据集上显著提升聚类精度。
2024-04-08 cs.CV
Mask-informed Deep Contrastive Incomplete Multi-view Clustering
Faculty of Data Science, City University of Macau（澳门城市大学数据科学学院）；Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）；School of Computer Science, China University of Geosciences（中国地质大学计算机学院）
针对多视图聚类中缺失样本影响知识整合的问题，提出掩码感知融合网络与先验知识辅助对比学习的Mask-IMvC方法，实验证明其在完整和不完整场景下均优于现有方法。
2025-03-30 cs.CV cs.LG
Incomplete Contrastive Multi-View Clustering with High-Confidence Guiding
Harbin Institute of Technology（哈尔滨工业大学）
针对现有不完整多视图聚类存在的信息利用不充分、表示与聚类分离等问题，提出ICMVC方法，通过多视图一致性迁移、注意力融合与端到端联合优化提升聚类性能。
2023-12-14 cs.CV cs.LG
Shape Interaction Matrix Revisited and Robustified: Efficient Subspace Clustering with Corrupted and Incomplete Data
Australian National University（澳大利亚国立大学）；CVLab, EPFL（洛桑联邦理工学院计算机视觉实验室）；NICTA（澳大利亚国家信息与通信技术研究院）；ARC Centre of Excellence for Robotic Vision (ACRV)（澳大利亚研究理事会机器人视觉卓越中心）
形状交互矩阵（SIM）是执行子空间聚类的最早方法之一（即，分离从子空间的并集中提取的点）。在本文中，我们重新审视SIM，并揭示其连接到最近的几个子空间聚类方法。我们的分析使我们能够推导出一种简单而有效的算法来增强SIM的鲁棒性，并使其适用于数据被噪声破坏的现实场景。我们证明我们的方法通过直观的例子和矩阵摄动理论。然后，我们将展示如何将这种方法扩展到处理丢失的数据，从而产生一个有效的和一般的子空间聚类算法。我们证明了我们的方法的好处，在几个具有挑战性的运动分割和人脸聚类问题，其中的数据包括损坏和丢失的测量国家的最先进的子空间聚类方法。
2016-10-07 cs.CV
Self-supervised Image Clustering from Multiple Incomplete Views via Constrastive Complementary Generation
College of Data Science and Application, Inner Mongolia University of Technology（内蒙古工业大学数据科学与应用学院）；Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；InnoPeak Technology, Inc（InnoPeak科技公司）
不完全多视图聚类旨在通过使用来自多个模态的数据来增强聚类性能。尽管已经提出了几种研究这个问题的方法，但仍然存在以下缺点：1）在不使用标签信息的情况下，很难学习考虑互补性和一致性的潜在表示; 2）因此，当完整数据稀缺时，无法充分利用不完整数据中的隐藏信息，从而导致次优聚类性能。在本文中，我们提出了对比不完整的多视图图像聚类生成对抗网络（CIMIC-GAN），它使用GAN填充不完整的数据，并使用双重对比学习学习完整和不完整的数据的一致性。更具体地说，考虑到多样性和互补的信息之间的多种形式，我们将自动编码表示的完整和不完整的数据到双对比学习，以实现学习的一致性。将GANs集成到自动编码过程中不仅可以充分利用不完整数据的新特征，而且可以在存在高数据缺失率的情况下更好地推广模型。在\textcolor{black}{four}广泛使用的数据集上进行的实验表明，CIMIC-GAN优于最先进的不完全多视图聚类方法。
2022-09-24 cs.CV
Semi-Supervised Gaze Estimation via Disentangled Subspace Contrastive Learning
National Key Laboratory of Fundamental Science on Synthetic Vision, Sichuan University, Chengdu, China（合成视觉基础科学国家重点实验室，四川大学，成都，中国）；College of Computer Science, Sichuan University, Chengdu, China（计算机学院，四川大学，成都，中国）
提出一种半监督学习框架DSCL，通过雅可比正则化解耦特征为俯仰角和偏航角子空间，并利用子空间内序数对比学习，仅用5%-20%标注数据即可达到竞争性能。
2026-05-26 cs.CV
K-Shot Contrastive Learning of Visual Features with Multiple Instance Augmentations
Shanghai Jiaotong University（上海交通大学）；Seattle Cloud Lab, Futurewei Technologies（未来wei技术西雅图云实验室）
在本文中，我们提出了$K$ -镜头对比学习（KSCL）的视觉特征，通过应用多个增强调查的样本变化在个别情况下。它旨在通过学习区分特征来区分不同的实例，以及通过将查询与实例上增强样本的变体相匹配来区分实例内的变化，从而结合实例间区分的优势。特别地，对于每个实例，它构造一个实例子空间来模拟$K$ -镜头增强中的变化的重要因素如何被组合以形成增强的变体的配置。给定一个查询，通过将查询投影到实例的子空间上来预测正实例类，从而检索实例的最相关变体。这推广了现有的对比学习，可以被视为一个特殊的一次性情况。通过特征值分解来构造实例子空间，并通过可微子空间构造来训练嵌入网络。实验结果表明，所提出的$K$ -shot对比学习取得了优于国家的最先进的无监督方法的性能。
2021-02-01 cs.CV
Incomplete Multi-view Clustering via Diffusion Contrastive Generation
针对不完整多视图聚类中数据恢复过度依赖成对数据且生成数据缺乏多样性的问题，提出扩散对比生成方法（DCG），利用扩散过程学习分布特征并结合对比学习与多级交互，实现了鲁棒的端到端聚类并优于现有方法。
2025-06-29 cs.CV
Contrastive Video Representation Learning via Adversarial Perturbations
Data61/CSIRO（Data61/联邦科学与工业研究组织）；ANU（澳大利亚国立大学）；MERL（三菱电机研究实验室）
对抗性扰动是一种类似噪音的模式，可以微妙地改变数据，同时使其他准确的分类器失败。在本文中，我们建议使用这种扰动在一个新的对比学习设置，以建立负样本，然后用于产生改进的视频表示。为此，给定一个用于每帧视频识别的经过良好训练的深度模型，我们首先生成适应该模型的对抗性噪声。分别使用来自完整视频序列的原始数据特征和它们的扰动对应物来产生正袋和负袋。与经典的对比学习方法不同，我们开发了一个二元分类问题，学习一组判别超平面-作为子空间-将两个袋子彼此分开。这个子空间然后被用作视频的描述符，称为\emph{discriminative subspace pooling}。由于扰动的特征属于可能与原始特征混淆的数据类，因此判别子空间将表征特征空间中更能代表原始数据的部分，从而可以提供鲁棒的视频表示。为了学习这样的描述符，我们制定了一个子空间学习目标的Stiefel流形和诉诸黎曼优化方法来有效地解决它。我们提供了几个视频数据集上的实验，并展示了最先进的结果。
2020-04-16 cs.CV
Partial Multi-View Clustering via Meta-Learning and Contrastive Feature Alignment
针对部分视图缺失导致聚类性能欠佳的问题，提出基于对比学习的双优化框架，结合微调Vision Transformer、KNN填补缺失视图并利用自监督与元学习动态调整权重，在BDGP和HW数据集上优于现有方法。
2024-11-14 cs.CV cs.LG
Representation Learning via Adversarially-Contrastive Optimal Transport
Mitsubishi Electric Research Labs（三菱电机研究实验室）；Tufts University（塔夫茨大学）
在本文中，我们研究的问题，学习紧凑（低维）表示的顺序数据，捕捉其隐含的时空线索。为了最大限度地从数据中提取这样的信息线索，我们设置的对比表示学习的上下文中的问题，并为此提出了一个新的目标，通过最佳运输。具体来说，我们的公式寻求数据的低维子空间表示，其联合（i）最大化数据（嵌入在该子空间中）与最佳传输下的对抗数据分布的距离，也称为Wasserstein距离，（ii）捕获时间顺序，以及（iii）最小化数据失真。为了生成对抗性分布，我们提出了一个将Wasserstein GANs与分类器连接起来的新框架，允许为对比学习生成良好的负分布的原则性机制，这是目前一个具有挑战性的问题。我们的完整目标被视为格拉斯曼流形上的子空间学习问题，并通过Riemannian优化来求解。为了实证研究我们的配方，我们提供了在视频序列中的人类动作识别任务的实验。我们的结果证明了与具有挑战性的基线相比具有竞争力的性能。
2020-07-11 cs.CV cs.LG stat.ML
Deep Contrastive Patch-Based Subspace Learning for Camera Image Signal Processing
University of Texas at Austin（德克萨斯大学奥斯汀分校）
针对相机ISP中异质伪影难以用统一滤波器处理的问题，提出基于块的PSL-AE，通过对比学习、软簇子空间分配和簇专属无监督解码提升去噪等滤波效果。
2023-10-03 cs.CV cs.LG eess.IV
Reliable Representation Learning for Incomplete Multi-View Missing Multi-Label Classification
Shenzhen Key Laboratory of Visual Object Detection and Recognition, Harbin Institute of Technology（深圳视觉目标检测与识别重点实验室，哈尔滨工业大学）；PAMI Research Group, Department of Computer and Information Science, University of Macau（PAMI研究组，澳门大学计算机与信息科学系）
本文提出RANK网络，通过标签驱动的多视图对比学习和质量感知子网络，解决不完整多视图缺失多标签分类问题，实验表明其性能优于现有方法。
2025-07-02 cs.CV
PROMISE: Prompt-Attentive Hierarchical Contrastive Learning for Robust Cross-Modal Representation with Missing Modalities
针对多模态模型在模态缺失时性能下降、现有方法难以维持跨模态一致性的问题，提出PROMISE提示注意力分层对比学习框架，通过多模态提示学习与提示注意力机制弥合表征差距，实验证明其性能优于现有最优方法。
2025-11-14 cs.CV cs.LG
Deep Incomplete Multi-view Clustering with Cross-view Partial Sample and Prototype Alignment
National University of Defense Technology（国防科技大学）
现有的多视图聚类的成功依赖于跨多个视图的样本完整性的假设。然而，在现实场景中，由于数据损坏或传感器故障，多视图的样本是部分可用的，这导致不完整的多视图聚类研究（IMVC）。虽然已经提出了几种解决IMVC的尝试，但它们具有以下缺点：i）现有方法主要采用跨视图对比学习，迫使每个样本在视图之间的表示完全相同，这可能忽略视图差异和表示的灵活性; ii）由于多个视图中不存在未观察到的样本，因此获得的集群原型可能会不对齐和有偏差，导致不正确的融合。为了解决上述问题，我们提出了一个跨视图部分样本和原型对齐网络（CPSPAN）的深度不完全多视图聚类。首先，与现有的基于对比的方法不同，我们采用成对观察数据对齐作为“代理监督信号”来指导视图之间的实例到实例的对应关系构建。然后，针对IMVC中的移位原型，我们进一步提出了一个原型对齐模块，以实现跨视图的不完全分布校准。大量的实验结果显示了我们提出的模块的有效性，与现有的IMVC竞争对手相比，在基准数据集上获得了显着的性能改进。
2023-03-30 cs.CV cs.LG
WDiscOOD: Out-of-Distribution Detection via Whitened Linear Discriminant Analysis
Georgia Institute of Technology（佐治亚理工学院）
本文提出WDiscOOD方法，利用白化线性判别分析将特征投影到判别和残差子空间，结合偏差计算OOD分数，在ImageNet-1k及六个OOD数据集上验证了其优越性能。
2023-08-30 cs.AI cs.CV cs.LG
Rethinking Positive Pairs in Contrastive Learning
Surrey Institute for People-Centred AI（苏格兰人本人工智能研究所）；Centre For Vision, Speech and Signal Processing (CVSSP)（视觉、语音和信号处理中心）；Jiangnan University（江南大学）；Carnegie Mellon University（卡内基梅隆大学）
本文提出SimLAP框架，从语义不同的样本对中学习视觉表示，通过优化任意样本对相似性并学习使能子空间，为对比学习提供了新方法。
2025-05-29 cs.CV cs.LG
A Clustering-guided Contrastive Fusion for Multi-view Representation Learning
Beijing Jiaotong University（北京交通大学）；Harbin Institute of Technology（哈尔滨工业大学）；Nanjing University of Science And Technology（南京理工大学）；Wuyi University（五邑大学）
针对多视图表示学习中的噪声鲁棒性与视图一致性互补性平衡挑战，提出聚类引导的对比融合方法CLOVEN，通过深度融合网络、聚类指导与非对称对比策略，在多个数据集上显著提升了聚类与分类性能。
2023-08-04 cs.CV
Subspace Segmentation by Successive Approximations: A Method for Low-Rank and High-Rank Data with Missing Entries
Institute for Systems and Robotics (ISR/IST), Instituto Superior Técnico, Universidade de Lisboa（里斯本大学高等技术学院系统与机器人研究所）
提出了一种对低维子空间并中的不完整高维数据进行重构和聚类的方法。探索稀疏表示模型，我们联合估计丢失的数据，同时施加内在的子空间结构。由于我们有一个非凸的问题，我们提出了一个迭代法来重建数据，并提供一个稀疏的相似性亲和矩阵。该方法对初始化具有鲁棒性，并实现了比现有方法更高的重建精度，从而显着提高了聚类性能。合成和真实数据的广泛实验表明，我们的方法导致重建和分割的显着改善，优于目前的最先进的低和高秩数据。
2017-09-05 cs.CV
Fair Contrastive Learning for Facial Attribute Classification
Yonsei University（延世大学）；LG Uplus（LG U+）；SK Inc.（SK株式会社）
学习高质量的视觉表示对于图像分类是必不可少的。近年来，一系列的对比表示学习方法取得了显著的成功。特别是，SupCon优于基于交叉熵损失的主导方法在表示学习。然而，我们注意到监督对比学习可能存在潜在的伦理风险。本文首次分析了监督对比学习中的不公平性，并提出了一种新的公平监督对比损失（FSCL）算法，用于公平的视觉表示学习。它继承了监督式对比学习的思想，鼓励同类的表示比不同类的表示更接近彼此，同时通过惩罚表示中包含敏感属性信息来确保公平性。此外，我们引入了一个组明智的规范化，以减少人口统计群体之间的组内紧凑性和类间可分性的差异，引起不公平的分类。通过对CelebA和UTK Face的大量实验，我们验证了所提出的方法在前1精度和公平性之间的权衡方面显着优于SupCon和现有的最先进的方法。此外，我们的方法对数据偏差的强度具有鲁棒性，并且在不完整的监督环境中有效地工作。我们的代码可在https://github.com/sungho-CoolG/FSCL上获得。
2022-03-30 cs.CV
Incomplete Multimodal Learning for Remote Sensing Data Fusion
University of Trento（特伦托大学）
针对遥感融合中推理模态缺失问题，提出支持监督与自监督预训练的不完整多模态学习模型，利用融合 token、Bi-LSTM 注意力、掩码自注意力及重建与对比损失，在两类数据集上达到最先进性能。
2023-04-22 cs.CV
URRL-IMVC: Unified and Robust Representation Learning for Incomplete Multi-View Clustering
Zhejiang University（浙江大学）；Alibaba Cloud（阿里云）
针对现有不完整多视图聚类方法忽略视图互补信息、缺失视图恢复不可靠的问题，提出URRL-IMVC框架，通过注意力自编码器融合、KNN填补与增强等实现鲁棒统一嵌入，性能达到当前最优。
2024-07-12 cs.CL cs.CV cs.LG
Deep Double Self-Expressive Subspace Clustering
Southwest University（西南大学）；College of Computer and Information Science（计算机与信息科学学院）
提出双重自表达子空间聚类算法，利用自表达系数作为特征表示获取第二系数矩阵，结合对比学习自监督模块，在基准数据集上取得优于现有方法的聚类性能。
2023-06-20 cs.CV
Decoupled Contrastive Multi-View Clustering with High-Order Random Walks
Sichuan University（四川大学）
针对多视图聚类中的假负例与假正例问题，提出DIVIDE，通过高阶随机游走全局识别数据对，并在不同嵌入空间进行视图间和视图内对比学习。
2024-01-18 cs.CV
Semi-Supervised Contrastive VAE for Disentanglement of Digital Pathology Images
Stony Brook University（石溪大学）；Harvard Medical School（哈佛医学院）
本文提出首个面向病理图像的解耦方法，通过级联解耦、新架构和重建分支提升肿瘤浸润淋巴细胞检测模型的可解释性与泛化能力。
2024-10-02 cs.CV eess.IV
Weakly Supervised Contrastive Adversarial Training for Learning Robust Features from Semi-supervised Data
School of Computer Science, Sichuan University（四川大学计算机学院）
针对现有对抗训练扰动不完整、鲁棒特征学习效果不佳，且完全扰动受特征区分难、标记数据少限制的问题，提出基于信息论的弱监督对比对抗训练方法，通过半监督数据上的完全对抗样本扰动提升鲁棒特征学习效果，经理论与实验验证有效。
2025-03-20 cs.CV
Learning Visual-Semantic Subspace Representations
Instituto Superior Técnico（高等技术学院）；Institute for Systems and Robotics（系统与机器人研究所）；Carnegie Mellon University（卡内基梅隆大学）
针对现有方法在视觉-语义表示中存在的理论保证不足或偏序关系表示困难问题，本文提出基于核范数且遵循信息论原理的损失函数，通过理论刻画证明其能促进类正交性并编码谱几何，实现逻辑命题与子空间的关联以遵循符号结构。
2025-04-12 cs.CV cs.LG
