Moment Matching Deep Contrastive Latent Variable Models
University of Washington(华盛顿大学)
在对比分析(CA)设置中,机器学习从业者特别感兴趣的是发现与从与手头任务无关的变化源生成的背景数据集相比在目标数据集中富集的模式。例如,生物医学数据分析师可能会试图了解仅存在于患有给定疾病的患者中的基因组数据的变化,而不是健康对照受试者中也存在的基因组数据。这样的场景已经激发了对比潜变量模型的开发,以将这些目标数据集特有的变化与目标和背景数据集之间共享的变化隔离,其中当前的现有技术模型基于变分自编码器(VAE)框架。然而,以前提出的模型没有明确地强制执行潜在的CA变量的约束,潜在地导致两组潜在变量之间的不希望的信息泄漏。在这里,我们提出了矩匹配对比VAE(MM-cVAE),使用最大平均差异明确执行两个关键的潜在变量约束CA的CA的VAE的重新制定。在三个具有挑战性的CA任务中,我们发现我们的方法在定性和定量指标上都优于以前的最先进的方法。
2022-02-21 cs.LG
DivCo: Diverse Conditional Image Synthesis via Contrastive Generative Adversarial Network
Chinese University of Hong Kong(香港中文大学)
条件生成对抗网络(cGAN)的目标是在给定输入条件和潜在代码的情况下合成不同的图像,但不幸的是,它们通常遭受模式坍塌的问题。为了解决这个问题,以前的工作主要集中在鼓励潜在代码和它们生成的图像之间的相关性,而忽略了从各种潜在代码生成的图像之间的关系。最近的MSGAN试图鼓励生成的图像的多样性,但只考虑图像对之间的“负”关系。在本文中,我们提出了一种新的DivCo框架,以适当地约束潜在空间中指定的生成图像之间的“正”和“负”关系。据我们所知,这是第一次尝试使用对比学习的不同条件的图像合成。引入了一种新的潜在增强对比度损失,它鼓励从相邻的潜在代码生成的图像是相似的,而从不同的潜在代码生成的图像是不相似的。所提出的潜在增强对比度损失与各种cGAN架构兼容良好。大量的实验表明,所提出的DivCo可以产生更多样化的图像比国家的最先进的方法,而不会牺牲视觉质量在多个未配对和配对的图像生成任务。
2021-04-26 cs.CV
Information-theoretic stochastic contrastive conditional GAN: InfoSCC-GAN
University of Geneva(日内瓦大学)
条件生成是生成问题的一个子类,其中生成的输出是由属性信息条件。在本文中,我们提出了一个随机对比条件生成对抗网络(InfoSCC-GAN)与可探索的潜在空间。InfoSCC-GAN架构基于InfoNCE范式构建的无监督对比编码器,属性分类器和EigenGAN生成器。我们提出了一种新的训练方法,基于发电机正则化使用外部或内部属性的每$n$次迭代,使用一个预先训练的对比编码器和一个预先训练的分类器。所提出的InfoSCC-GAN是基于输入数据和潜在空间表示以及潜在空间和生成数据之间的互信息最大化的信息理论公式推导出来的。因此,我们证明了训练目标函数和上述信息理论公式之间的联系。实验结果表明,InfoSCC-GAN在AFHQ和CelebA数据集上的图像生成性能优于“香草”EigenGAN。此外,我们还通过消融研究调查了消融结构和损失函数的影响。最后,我们证明了由于EigenGAN生成器,所提出的框架与香草确定性GANs相比具有随机生成,但与现有框架相比,编码器,分类器和生成器的独立训练。代码、实验结果和演示可在https://github.com/vkinakh/InfoSCC-GAN上获得。
2021-12-17 cs.CV cs.LG
CAT: Contrastive Adversarial Training for Evaluating the Robustness of Protective Perturbations in Latent Diffusion Models
Department of Computer Science, City University of Hong Kong, Kowloon, Hong Kong SAR(香港城市大学计算机科学系)
该研究揭示潜在扩散模型中保护性对抗样本的起效机制,提出基于轻量适配器的对比对抗训练CAT方法攻击防护手段,证明其鲁棒性不足,推动相关防护的改进。
2025-06-16 cs.CV
Contrastive Variational Autoencoder Enhances Salient Features
Department of Electrical Engineering, Stanford University(斯坦福大学电气工程系);Department of Biomedical Data Science, Stanford University(斯坦福大学生物医学数据科学系);Stanford University(斯坦福大学)
变分自编码器是用于识别单个数据集中的主导潜在结构的强大算法。然而,在许多应用中,我们感兴趣的是对与某些背景相比在目标数据集中富集的潜在结构和变化进行建模-例如,与一般人群相比在患者中富集。对比学习是捕获目标和背景之间的这种丰富变化的原则框架,但是最先进的对比方法限于线性模型。在本文中,我们介绍了对比变分自编码器(cVAE),它结合了对比学习的优势和深度生成模型的强大功能。cVAE旨在识别和增强显著的潜在特征。cVAE在两个相关但未配对的数据集上进行训练,其中一个数据集对显着潜在特征的贡献最小。cVAE明确地对数据集之间共享的潜在特征以及相对于另一个数据集在一个数据集中富集的那些特征进行建模,这允许算法隔离和增强显著的潜在特征。该算法易于实现,运行时间与标准VAE相似,并且对噪声和数据集纯度具有鲁棒性。我们在不同类型的数据中进行实验,包括基因表达和面部图像,表明cVAE有效地揭示了在特定分析中显着的潜在结构。
2019-02-12 cs.LG stat.ML
Contrastive Denoising Score for Text-guided Latent Diffusion Image Editing
KAIST(韩国科学技术院)
本文提出对比去噪分数(CDS),通过在DDS框架中引入CUT损失并利用潜在扩散模型自注意力层特征,实现零样本图像转换与NeRF编辑中的结构对应和内容可控。
2024-04-01 cs.AI cs.CV cs.LG
Towards General Modality Translation with Contrastive and Predictive Latent Diffusion Bridge
Bosch AI Center(博世人工智能中心);Ben-Gurion University of the Negev(巴伊兰大学);Technical University of Munich(慕尼黑技术大学)
本文提出LDDBM框架,基于潜扩散桥实现任意模态间翻译,通过对比与预测损失增强语义一致性,在多项任务上表现优异。
2025-10-26 cs.AI cs.CV cs.LG
VR-JEPA: Learning Contrastive-State Latent Guidance for Generation-based Video Reasoning
Shenzhen Campus of Sun Yat-sen University(中山大学深圳校区);Shenzhen Loop Area Institute(深圳河套学院);Tsinghua Shenzhen International Graduate School(清华大学深圳国际研究生院);Tencent(腾讯);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);UiT The Arctic University of Norway(挪威北极大学)
VR-JEPA通过局部对比状态学习对齐V-JEPA预测器与任务推理逻辑,利用预测的潜在轨迹引导视频生成,在VBVR-Pro-Bench上相对提升11.33%,减少物理伪影并增强逻辑一致性。
2026-10-01 cs.CV
Contrastive Learning for Diverse Disentangled Foreground Generation
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Adobe Research(奥多比研究院)
我们介绍了一种新的方法,明确控制各种因素的不同的前景生成。现有的基于图像修补的前景生成方法通常难以生成不同的结果,并且很少允许用户明确地控制特定的变化因素(例如,改变面部身份或面部修复结果的表情)。我们利用对比学习与潜在代码生成不同的前景结果相同的屏蔽输入。具体来说,我们定义了两组潜在代码,其中一组控制预定义的因素(“已知”),另一组控制其余的因素(“未知”)。来自两个集合的采样的潜码联合地对卷积核进行双调制,以引导生成器合成不同的结果。实验证明,我们的方法在结果多样性和生成可控性方面优于最新技术。
2022-11-04 cs.CV
Disentangled and Controllable Face Image Generation via 3D Imitative-Contrastive Learning
Tsinghua University(清华大学);Microsoft Research Asia(微软亚洲研究院)
我们提出了DiscoFaceGAN,一种用于虚拟人的面部图像生成的方法,该方法具有用于不存在的人的身份,表情,姿势和照明的分离,精确可控的潜在表示。我们将3D先验知识嵌入到对抗学习中,并训练网络来模拟分析3D人脸变形和渲染过程的图像形成。为了处理真实和渲染的脸之间的域间隙引起的生成自由度,我们进一步引入对比学习,通过比较生成的图像对来促进解纠缠。实验表明,通过我们的模仿-对比学习,很好地解开因素的变化,并可以精确地控制生成的人脸的属性。我们还分析了学习的潜在空间,并提出了几个有意义的属性支持因子解纠缠。我们的方法也可以用来嵌入真实图像到解开潜在的空间。我们希望我们的方法可以为物理性质和深度图像合成之间的关系提供新的理解。
2020-09-04 cs.CV
CoCoIns: Consistent Subject Generation via Contrastive Instantiated Concepts
University of California, Merced(加州大学默塞德分校);Google DeepMind(谷歌DeepMind)
CoCoIns通过对比学习实现一致主体生成,提升多生成内容的一致性与灵活性。
2025-12-04 cs.CV
Fully Variational Noise-Contrastive Estimation
Chalmers University of Technology(查尔姆斯理工大学)
基于适当评分规则理论,本文提出了一族适用于隐变量模型的全变分噪声对比估计(NCE)方法,将NCE损失中的数据项与噪声项均作下界化处理,并揭示了变分自编码器是其特例。
2023-04-04 cs.CV cs.LG
Decoding Realistic Images from Brain Activity with Contrastive Self-supervision and Latent Diffusion
KU Leuven(鲁汶大学)
本文提出两阶段框架 CnD,通过自监督对比学习编码 fMRI,并以概念感知条件化驱动潜在扩散模型重建逼真图像,同时定量解释 LDM 与大脑视觉系统的联系。
2023-09-30 cs.CV
Diverse Text-to-Image Generation via Contrastive Noise Optimization
本文提出对比噪声优化方法,通过调整初始噪声提升文本到图像生成的多样性,同时保持图像质量,实验表明其在质量与多样性之间取得平衡。
2026-03-16 cs.AI cs.CV cs.GR
Contrastive Conditional Latent Diffusion for Audio-visual Segmentation
School of Electronics and Information, Northwestern Polytechnical University(电子与信息学院,西北工业大学);Shanghai AI Laboratory(上海人工智能实验室);Shaanxi Key Laboratory of Information Acquisition and Processing(信息获取与处理陕西省重点实验室)
本文提出对比条件潜在扩散模型用于视听分割,通过密度比优化和对比学习约束最大化音频对分割的贡献,并在基准数据集上验证了有效性。
2025-07-01 cs.CV cs.MM cs.SD
Adversarial Masking Contrastive Learning for vein recognition
Chongqing Technology and Business University(重庆工商大学);Telecom SudParis(巴黎电信学院);University Paris-Saclay(巴黎-萨克雷大学);China University of Mining and Technology(中国矿业大学)
本文提出对抗性掩码对比学习(AMCL),通过GAN生成困难掩码样本增强对比学习,以缓解静脉识别训练样本稀缺问题,并在三个数据库上取得最先进识别性能。
2024-01-16 cs.CV
CORAL: Disentangling Latent Representations in Long-Tailed Diffusion
Arizona State University(亚利桑那州立大学)
CORAL通过对比学习对齐潜在表示,解决长尾分布下扩散模型生成尾类样本多样性与质量低的问题。
2025-12-01 cs.LG
CR-VAE: Contrastive Regularization on Variational Autoencoders for Preventing Posterior Collapse
University of Leoben(莱奥本大学)
针对VAE因目标函数局限导致的后验坍塌问题,提出CR-VAE方法,通过引入对比目标最大化相似输入间互信息,有效防止后验坍塌并在视觉数据集上优于现有方法。
2023-09-09 cs.LG
Generative Guiding Block: Synthesizing Realistic Looking Variants Capable of Even Large Change Demands
KAIST(韩国科学技术院)
真实感图像合成是生成与实际图像在感知上难以区分的图像。生成具有大变化的逼真的图像(例如,大的空间变形和大的姿态变化)是非常具有挑战性的。处理大的变化,以及保持外观需要考虑在现实的图像生成。在本文中,我们提出了一种新的逼真的图像合成方法,特别是在大变化的需求。为了做到这一点,我们设计了生成引导块。所提出的生成引导块包括真实感外观保持块和自然主义变化变换块。通过将所提出的生成式引导块引入生成式模型,增强了生成式模型层的潜在特征,以合成真实感和目标变化图像。通过实验中的定性和定量评价,我们证明了所提出的生成引导块的有效性,与最先进的。
2019-07-02 cs.CV
NoiseCLR: A Contrastive Learning Approach for Unsupervised Discovery of Interpretable Directions in Diffusion Models
Virginia Tech(弗吉尼亚理工大学)
针对文本提示难以覆盖专业领域语义的问题,本文提出 NoiseCLR,利用少量未标记图像和对比学习无监督发现文本到图像扩散模型中的可解释方向,并支持多方向、跨域同时编辑。
2023-12-08 cs.CV
Improving the Latent Space of Image Style Transfer
Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);Peng Cheng Laboratory(鹏城实验室);Tencent AI Lab(腾讯人工智能实验室)
现有的神经风格迁移研究已经研究了内容和风格图像的深层特征之间的统计信息匹配,这些特征由预训练的VGG提取,并且在合成艺术图像方面取得了显着的改善。然而,在某些情况下,来自预训练编码器的特征统计可能与我们感知的视觉风格不一致。例如,不同样式的图像之间的样式距离小于相同样式的图像之间的样式距离。在这样一个不合适的潜空间中,现有方法的目标函数会朝着错误的方向优化,从而导致风格化效果不佳。此外,由预训练的编码器提取的特征中缺乏内容细节也导致内容泄漏问题。为了解决风格转换所使用的潜在空间中的这些问题,我们提出了两种对比训练方案,以获得更适合此任务的精细编码器。风格对比度损失将风格化结果拉得更接近相同的视觉风格图像,并将其推离内容图像。内容对比度损失使得编码器能够保留更多可用的细节。我们可以直接将我们的训练方案添加到一些现有的风格迁移方法中,并显着改善其结果。大量的实验结果证明了我们的方法的有效性和优越性。
2022-05-24 cs.CV
Contrastive Fine-grained Class Clustering via Generative Adversarial Networks
NAVER AI Lab(NAVER人工智能实验室);NAVER CLOVA
无监督细粒度类聚类是一个实际而又具有挑战性的任务,由于难以学习的微妙的对象细节的特征表示。我们介绍了C3-GAN,一种利用InfoGAN的分类推理能力和对比学习的方法。我们的目标是学习特征表示,鼓励数据集在嵌入空间中形成不同的聚类边界,同时最大限度地提高潜在代码及其图像观察之间的互信息。我们的方法是训练一个也用于推断聚类的搜索器,以优化对比度损失,其中最大化互信息的图像潜在对被认为是正对,其余的被认为是负对。具体来说,我们将从分类分布中采样的生成器的输入映射到嵌入空间,并让它们充当聚类质心。通过这种方式,C3-GAN成功地学习了一个聚类友好的嵌入空间,其中每个聚类都是可区分的。实验结果表明,C3-GAN在4个细粒度图像数据集上实现了最先进的聚类性能,同时也缓解了模式坍塌现象。代码可在https://github.com/naver-ai/c3-gan上获得。
2022-03-13 cs.CV
Contrastive Learning Guided Latent Diffusion Model for Image-to-Image Translation
School of Computer Science and Information Engineering, Hefei University of Technology(合肥工业大学计算机与信息工程学院);Yunnan Key Laboratory of Software Engineering(云南省软件工程重点实验室);School of Computer Science and Engineering, Donghua University(东华大学计算机科学与技术学院);ByteDance(字节跳动);School of Computer and Artificial Intelligence, Zhengzhou University(郑州大学计算机与人工智能学院)
提出pix2pix-zeroCon零样本扩散方法,利用补丁级对比损失自动确定编辑方向并保留内容结构,无需额外训练,在图像到图像翻译中实现更高保真度和可控性。
2025-03-26 cs.AI cs.CV
Noise Contrastive Variational Autoencoders
我们采取措施,了解“后崩溃(PC)”的困难,在变分自编码器(VAE),即退化的最佳,其中的潜在代码变得独立于其相应的输入。我们依靠变分法,并从理论上探讨了一些流行的VAE模型,PC总是发生在非参数编码器和解码器。受流行的噪声对比估计算法的启发,我们提出了NC-VAE,其中编码器区分真实数据和一些人工生成的噪声的潜在代码,除了鼓励良好的数据重建能力。理论上,我们证明了我们的模型不能达到PC,并提供了新的下界。我们的方法很容易实现,并且具有与vanilla VAE相同的运行时。从经验上讲,我们展示了它对流行的图像和文本数据集的好处。
2019-07-31 cs.LG stat.ML
Incomplete Contrastive Multi-View Clustering with High-Confidence Guiding
Harbin Institute of Technology(哈尔滨工业大学)
针对现有不完整多视图聚类存在的信息利用不充分、表示与聚类分离等问题,提出ICMVC方法,通过多视图一致性迁移、注意力融合与端到端联合优化提升聚类性能。
2023-12-14 cs.CV cs.LG
Delving StyleGAN Inversion for Image Editing: A Foundation Latent Space Viewpoint
Hong Kong University of Science and Technology(香港科技大学);Fudan University(复旦大学)
GAN反转和通过StyleGAN的编辑将输入图像映射到嵌入空间($\mathcal{W}$、$\mathcal{W^+}$和$\mathcal{F}$)中,以同时保持图像保真度和有意义的操作。在StyleGAN中,从潜在空间$\mathcal{W}$到扩展潜在空间$\mathcal{W^+}$再到特征空间$\mathcal{F}$,GAN反演的可编辑性降低,而重建质量提高。最近的GAN反演方法通常探索$\mathcal{W^+}$和$\mathcal{F}$,而不是$\mathcal{W}$,以提高重建保真度,同时保持可编辑性。由于$\mathcal{W^+}$和$\mathcal{F}$是从$\mathcal{W}$导出的,而$\mathcal{W}$本质上是StyleGAN的基础潜在空间,因此这些专注于$\mathcal{W^+}$和$\mathcal{F}$空间的GAN反演方法可以通过退回到$\mathcal{W}$来改进。在这项工作中,我们建议首先获得精确的潜在代码在基础潜在空间$\mathcal{W}$。我们引入对比学习来对齐$\mathcal{W}$和图像空间,以进行精确的潜在代码发现。%获取过程是通过使用对比学习来对齐$\mathcal{W}$和图像空间。然后,我们利用交叉注意编码器将$\mathcal{W}$中获得的潜在代码相应地转换为$\mathcal{W^+}$…
2023-03-26 cs.CV
PRISM: Latent Composition Consistency for Single-Image Reflection Removal
Department of Artificial Intelligence, Hanyang University(汉阳大学人工智能系);Department of Computer Science, Hanyang University(汉阳大学计算机科学系)
提出PRISM模型,利用预训练VAE潜在空间的线性可分离性,结合流匹配和潜在成分一致性策略,实现单幅图像反射去除,在多个基准上显著超越现有方法。
2026-07-13 cs.CV
Momentum Contrastive Autoencoder: Using Contrastive Learning for Latent Space Distribution Matching in WAE
Salesforce AI Research(赛富时人工智能研究院)
Wasserstein自动编码器(WAE)表明,匹配两个分布相当于最小化一个简单的自动编码器(AE)的潜在空间匹配预先指定的先验分布的约束下的损失。这种潜在的空间分布匹配是WAE的核心组成部分,也是一项具有挑战性的任务。在本文中,我们建议使用对比学习框架,已被证明是有效的自我监督表示学习,作为一种手段来解决这个问题。我们这样做是利用这样一个事实,即对比学习目标优化潜在的空间分布是均匀的单位超球体,可以很容易地从采样。我们表明,使用对比学习框架来优化WAE损失实现更快的收敛速度和更稳定的优化相比,现有的流行算法WAE。这也反映在CelebA和CIFAR-10数据集上的FID评分以及CelebA-HQ数据集上的真实生成图像质量中。
2023-02-15 cs.CV cs.LG
What Has Been Overlooked in Contrastive Source-Free Domain Adaptation: Leveraging Source-Informed Latent Augmentation within Neighborhood Context
The University of British Columbia(不列颠哥伦比亚大学);Department of Mechanical Engineering(机械工程系);Department of Computer Science(计算机科学系)
针对无源域自适应中难以估计域差距的问题,本文提出一种基于源预训练模型引导的邻域潜在特征增强方法,通过提升正键信息量优化对比学习,在多个基准数据集上超越现有方法。
2024-12-18 cs.CV cs.LG
MiCE: Mixture of Contrastive Experts for Unsupervised Image Clustering
Tsinghua University(清华大学);Institute for AI(人工智能研究院);BNRist Center(北京信息科学与技术国家研究中心);Tsinghua-Bosch Joint ML Center(清华-博世机器学习联合研究中心);THBI Lab(清华脑与智能实验室)
我们提出的混合对比专家(MiCE),一个统一的概率聚类框架,同时利用对比学习和潜在的混合模型捕获的语义结构学习的歧视性表示。受混合专家模型的启发,MiCE采用门控函数根据潜在语义将未标记的数据集划分为子集,并且多个专家以对比学习的方式区分分配给它们的实例的不同子集。为了解决由潜在变量引起的非平凡推理和学习问题,我们进一步开发了MiCE的期望最大化(EM)算法的可扩展变体,并提供收敛性证明。经验上,我们评估的聚类性能的MiCE四个广泛采用的自然图像数据集。MiCE实现了比各种以前的方法和强大的对比学习基线显著更好的结果。
2021-05-05 cs.CV cs.LG
Hotel Recognition via Latent Image Embedding
HSE University(高等经济大学)
我们用深度度量学习来解决酒店识别问题。我们概述了现有的方法,并提出了一个修改的对比损失称为对比三重损失。我们构建了一个强大的管道来对度量学习模型进行基准测试,并在Hotels-50 K和CUB 200数据集上进行了实验。对比三重损失被证明可以在Hotels-50 k上实现更好的检索。我们开源我们的代码。
2021-06-15 cs.CV cs.IR cs.LG
Segment to Focus: Guiding Latent Action Models in the Presence of Distractors
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院);University of Oxford(牛津大学)
针对动作相关视觉干扰导致潜在动作模型失效的问题,提出MaskLAM方法,利用分割基础模型(如SAM)零样本获取智能体掩码,限制重建目标于智能体像素,迫使潜在动作编码内源动态,显著提升下游策略性能。
2026-05-27 cs.CV cs.LG
Long-Tailed Recognition by Mutual Information Maximization between Latent Features and Ground-Truth Labels
Seoul National University(首尔国立大学)
本文将长尾识别重新定义为潜在特征与真实标签之间的互信息最大化,无缝整合对比学习与logit调整,提出新损失函数,在长尾识别基准上达到最先进性能,并验证了其在图像分割中的通用性。
2023-08-08 cs.CV cs.LG
Zero-Episode Few-Shot Contrastive Predictive Coding: Solving intelligence tests without prior training
The Edmond and Lily Safra Center for Brain Sciences(埃德蒙和莉莉·萨夫拉脑科学中心)
视频预测模型通常组合三个组件:从像素空间到小潜在空间的编码器、潜在空间预测模型和回到像素空间的生成模型。然而,大且不可预测的像素空间使得训练这样的模型变得困难,需要许多训练样本。我们认为,找到一个预测潜变量并使用它来评估未来图像的一致性,可以实现数据高效的预测,因为它排除了生成模型训练的必要性。为了证明这一点,我们创建了序列完成智能测试,其中的任务是识别图像序列中可预测的变化特征,并使用此预测来选择后续图像。我们发现,一维马尔可夫对比预测编码(M-CPC_1D)模型有效地解决了这些测试,只有五个例子。最后,我们证明了M-CPC_1D在解决两个任务中的有用性,而无需事先训练:异常检测和随机运动视频预测。
2022-05-04 cs.CV cs.LG
Interpretable Alzheimer's Disease Classification Via a Contrastive Diffusion Autoencoder
University College London(伦敦大学学院)
本研究提出基于对比扩散自编码器的方法,通过图像与潜在空间训练样本的相似性对阿尔茨海默病进行分类,在2D MRI数据上达到黑盒模型相当准确率并提供可解释性。
2023-10-25 cs.CV cs.LG
Contrastive Diffusion Alignment: Learning Structured Latents for Controllable Generation
Department of Psychiatry, Weill Cornell Medicine, New York, NY, USA(威立·科林斯医学中心精神科);Department of Psychiatry, Stanford University, Stanford, CA, USA(斯坦福大学精神科);Department of Neuroscience, University of Connecticut School of Medicine, Farmington, CT, USA(康涅狄格大学医学院神经科学系)
ConDA通过对比学习在扩散模型中学习结构化潜在空间,实现可控生成和动态解释。
2026-08-06 cs.LG
Latent Planning via Embedding Arithmetic: A Contrastive Approach to Strategic Reasoning
Department of Computer Science(计算机科学系);Baylor University(贝勒大学)
针对高维决策空间规划问题,提出基于监督对比学习的SOLIS方法,在评估对齐嵌入空间中通过向量运算简化规划,在国际象棋中以浅层搜索达到竞争力,为传统方法提供轻量级替代。
2025-11-12 cs.LG
COLLIE: Guiding Skill Discovery in Semantically Coherent Latent Space
University of Science and Technology of China(中国科学技术大学)
提出COLLIE框架,利用密集无监督数据构建语义连贯的潜在空间,通过无需额外训练的引导信号实现稀疏人类反馈下的有效技能发现,避免危险行为并提升下游性能。
2026-05-31 cs.LG
Contrastive Multiple Correspondence Analysis (cMCA): Using Contrastive Learning to Identify Latent Subgroups in Political Parties
Linköping University(林雪平大学);University of Taipei(台北大学)
本文提出对比多重对应分析(cMCA),将对比学习与MCA结合以分析含二元、有序和名义变量的社会科学数据,并通过美英选民调查证明其能揭示传统方法忽视或弱化的潜在子群体分歧。
2023-06-01 cs.LG cs.SI stat.ML
Identify then Realize: Contrastive Learning of Latent Port-Hamiltonian Dynamics from Partial Observations
Department of Computer Science(计算机科学系)
本文提出一种两阶段框架,通过对比学习从部分观测中学习隐状态动态,并投影到端-哈密顿子流形,以实现物理一致性。
2026-10-05 cs.LG
4D Multimodal Co-attention Fusion Network with Latent Contrastive Alignment for Alzheimer's Diagnosis
提出M2M-AlignNet,利用几何感知多模态协同注意力与潜在对比对齐融合sMRI和fMRI,实现早期阿尔茨海默病诊断,并验证跨模态生物标志物对应性。
2025-04-23 cs.CV cs.LG cs.MM
CSLP-AE: A Contrastive Split-Latent Permutation Autoencoder Framework for Zero-Shot Electroencephalography Signal Conversion
Department of Applied Mathematics and Computer Science(应用数学与计算机科学系);Technical University of Denmark(丹麦技术大学)
提出CSLP-AE框架,利用对比学习引导分裂潜变量表征,实现脑电信号在任务和受试者间的零样本转换,优于传统方法。
2023-11-13 cs.CV cs.LG eess.SP
Extracting Governing Equations from Latent Dynamics via Multi-View Contrastive Learning
EPFL(瑞士联邦理工学院洛桑)
提出DYSCO算法,利用多视图时间对比学习从噪声高维观测中联合恢复潜在轨迹和动力学方程,并通过结构化基函数实现符号恢复,理论保证强可识别性。
2026-06-12 cs.LG q-bio.NC
CLAP: Contrastive Latent-space Prompt Optimization for End-to-end Autonomous Driving
University of Michigan(密歇根大学);University of Arizona(亚利桑那大学)
本文提出CLAP方法,通过对比潜在空间提示优化解决自动驾驶中罕见但安全关键的长尾场景问题,利用V2X通信获取数据并优化提示,从而提升规划性能。
2026-05-17 cs.AI cs.CV cs.LG
Dual-Channel Latent Factor Analysis Enhanced Graph Contrastive Learning for Recommendation
Chongqing University of Posts and Telecommunications(重庆邮电大学);Southwest University(西南大学)
针对图对比推荐中随机增强引入噪声且难利用全局协同信号的问题,提出LFA-GCL,通过潜在因子分析进行无约束结构精化并构建全局协同图,在四个公开数据集上优于现有方法。
2024-08-09 cs.IR cs.LG
MoMo: Conditioned Contrastive Representation Learning for Preference-Modulated Planning
Massachusetts Institute of Technology(麻省理工学院)
MoMo通过特征线性调制和低秩神经调制,实现基于偏好调节的对比表征学习,使规划保守性在推理时可连续调节,提升时间与偏好一致性。
2026-05-14 cs.LG
Multi-modal contrastive learning adapts to intrinsic dimensions of shared latent variables
Department of Statistics, University of Chicago(芝加哥大学统计系);Department of Statistics and Data Science, Yale University(耶鲁大学统计学与数据科学系)
该研究突破线性表示与特定分布的局限,从理论上证明温度优化下的多模态对比学习可适配数据远低于指定维度的固有维度,且经合成与真实数据集实验验证,为其低维信息表示学习能力提供了理论支撑。
2025-05-18 cs.LG math.ST stat.ML
Human in the Latent Loop (HILL): Interactively Guiding Model Training Through Human Intuition
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心(DFKI));University of Kaiserslautern-Landau (RPTU)(凯泽斯劳滕-兰道大学(RPTU))
本文提出 HILL 交互式框架,通过知识蒸馏式机制将用户对潜在空间的修改融入训练循环;用户研究表明其可提升性能并保持泛化,同时揭示用户偏见风险。
2025-05-09 cs.AI cs.LG
Structured Contrastive Learning for Interpretable Latent Representations
Department of Electrical and Electronic Engineering, Imperial College London(帝国理工学院伦敦电子与电气工程系);Institute of Biomedical Engineering, Department of Engineering Science, University of Oxford(牛津大学生物医学工程研究所)
针对神经网络对语义无关变换的脆弱性问题,提出结构化对比学习(SCL)框架,将 latent 空间划分为不变、变体和自由特征组,实现鲁棒性与可解释性,在ECG和IMU任务上性能优于传统数据增强。
2025-11-18 cs.LG
Sample and Predict Your Latent: Modality-free Sequential Disentanglement via Contrastive Estimation
Ben-Gurion University of the Negev(内盖夫本-古里安大学)
本文提出一种基于对比估计的无模态自监督顺序解耦框架,通过从变分模型的潜在空间生成、采样并比较经验分布来替代外部增强和辅助任务,在视频、音频和时间序列基准上取得最先进结果。
2023-05-25 cs.LG
Stochastic Contrastive Learning
Apple(苹果公司)
虽然最先进的对比自监督学习(SSL)模型产生的结果与他们的监督同行竞争,他们缺乏推断潜变量的能力。相比之下,规定的潜在变量(LV)模型能够归因于不确定性,诱导任务特定的压缩,并在一般情况下允许更多的可解释的表示。在这项工作中,我们引入LV近似大规模对比SSL模型。我们证明了这一增加提高了下游性能(使用ResNet50分别在CIFAR10和ImageNet上测试了96.42%和77.49%的前1名微调性能),并产生了高度压缩的表示(588倍减少),这对可解释性,分类和回归下游任务非常有用。
2021-11-30 cs.LG
The Loss Is Not Enough: Sampling Conditions and Inductive Bias in Contrastive Representation Learning
ETH Zürich(苏黎世联邦理工学院)
本文通过测度论框架形式化对比学习中的多样性条件,提出支持校正的InfoNCE变体,并实验验证了采样多样性与编码器归纳偏置的相互作用。
2026-06-02 cs.AI cs.IR cs.LG
Latent-Space Contrastive Reinforcement Learning for Stable and Efficient LLM Reasoning
University of Chinese Academy of Sciences(中国科学院大学);EvolutionLeap(进化跃迁);Tsinghua University(清华大学)
本研究提出深度潜在推理(DLR),通过潜在空间对比强化学习提升LLM在复杂推理任务中的稳定性与效率。
2026-01-24 cs.AI cs.LG
Forget-me-not! Contrastive Critics for Mitigating Posterior Collapse
Columbia University(哥伦比亚大学)
变分自编码器(VAE)遭受后验崩溃,其中用于建模和推理的强大神经网络优化目标,而没有有意义地使用潜在表示。我们引入推理批评,检测和激励后崩溃,要求潜变量和观察之间的对应关系。通过将批评者的目标与自监督对比表示学习中的文献相连接,我们从理论和经验上证明了优化推理批评者增加了观察和潜在之间的互信息,减轻了后崩溃。这种方法很容易实现,并且需要比现有方法少得多的训练时间,但在三个已建立的数据集上获得了有竞争力的结果。总的来说,该方法为使用变分自编码器桥接先前断开的对比学习和概率建模框架奠定了基础,强调了两个社区在其交叉点可能会发现的好处。
2022-07-19 cs.LG stat.ML