Multi-View Contrastive Learning for Robust Domain Adaptation in Medical Time Series Analysis
UCLA（加州大学洛杉矶分校）
本文提出一种基于多视图对比学习的医学时间序列域自适应框架，融合时间模式、导数动态和频域特征，在EEG、ECG和EMG等数据集上显著优于现有迁移学习方法。
2025-09-19 cs.AI cs.LG
Few-Max: Few-Shot Domain Adaptation for Unsupervised Contrastive Representation Learning
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
对比自监督学习方法学习将诸如图像的数据点映射到非参数表示空间而不需要标签。虽然非常成功，但目前的方法在训练阶段需要大量的数据。在目标训练集大小有限的情况下，泛化能力较差。在Few-Shot模式下，在大的源数据集上进行预训练并对目标样本进行微调，很容易出现过拟合，因为只有少量的目标样本可用。出于这一动机，我们提出了一种自监督对比学习的域自适应方法，称为Few-Max，以解决适应少样本学习下的目标分布的问题。为了量化表示质量，我们在一系列源和目标数据集上评估了Few-Max，包括ImageNet，VisDA和fastMRI，Few-Max始终优于其他方法。
2022-06-22 cs.AI cs.CV cs.LG
Augmented Contrastive Clustering with Uncertainty-Aware Prototyping for Time Series Test Time Adaptation
Nanjing University of Aeronautics and Astronautics（南京航空航天大学）；Technology Innovation Institute（技术创新研究院）；Institute for Infocomm Research, Agency for Science Technology and Research (A*STAR)（新加坡科技研究局信息通信研究所）；Centre for Frontier AI Research, Agency for Science Technology and Research (A*STAR)（新加坡科技研究局前沿人工智能研究中心）；South China University of Technology（华南理工大学）
本文提出ACCUP方法，通过增强集成、不确定性感知原型、熵比较方案和增强对比聚类，解决时间序列测试时自适应的时序动态建模与伪标签噪声问题，在多个数据集上验证了其有效性和泛化能力。
2025-01-01 cs.AI cs.LG
CIC: Contrastive Intrinsic Control for Unsupervised Skill Discovery
UC Berkeley（加州大学伯克利分校）；NYU（纽约大学）；MetaAI（元人工智能）；Covariant（协变公司）
我们介绍了对比内在控制（CIC），无监督的技能发现算法，最大限度地提高状态转换和潜在技能向量之间的互信息。CIC利用状态转换和技能之间的对比学习来学习行为嵌入，并将这些嵌入的熵最大化作为鼓励行为多样性的内在奖励。我们在无监督强化学习基准测试中评估了我们的算法，该测试包括一个长时间的无奖励预训练阶段，然后是一个短时间的适应阶段，以适应具有外部奖励的下游任务。CIC在适应效率方面大大提高了现有方法，比现有的无监督技能发现方法高出1.79倍，比下一个领先的整体探索算法高出1.18倍。
2022-03-30 cs.AI cs.LG
MOSAIC: Masked Objective with Selective Adaptation for In-domain Contrastive Learning
MOSAIC通过联合优化掩码语言建模和对比目标，提升领域适应文本嵌入模型的性能，实现NDCG@10的显著提升。
2026-01-29 cs.AI cs.CL
Spatial-Temporal Graph Learning with Adversarial Contrastive Adaptation
Nanyang Technological University（南洋理工大学）
针对现有时空图模型对图质量敏感的问题，提出对抗对比学习模型GraphST，通过自适应困难样本挖掘和跨视图对比学习，增强表示鲁棒性，在真实数据预测任务中表现优越。
2023-06-19 cs.AI cs.LG
Learn from the Learnt: Source-Free Active Domain Adaptation via Contrastive Sampling and Visual Persistence
Tsinghua University（清华大学）；BNRist（北京国家信息科学与技术研究院）
本文研究无源主动领域自适应（SFADA）问题，提出LFTL范式，通过对比主动采样选择信息量大的目标样本，并利用视觉持久性引导自适应进行特征对齐，在三个基准上实现了最先进性能与高计算效率。
2024-07-26 cs.AI cs.CV cs.LG
Cross-domain Contrastive Learning for Unsupervised Domain Adaptation
Fudan University（复旦大学）；Futurewei Technologies（未来wei技术公司）
无监督领域自适应（UDA）旨在将从完全标记的源领域学习到的知识转移到不同的未标记的目标领域。大多数现有的UDA方法通过最小化跨域的特征距离来学习域不变特征表示。在这项工作中，我们建立在对比自监督学习对齐功能，以减少训练集和测试集之间的域差异。探索由这两个域共享的同一组类别，我们介绍了一个简单而有效的框架CDCL，域对齐。特别是，给定一个锚图像从一个域，我们最小化其距离跨域样本从同一类相对于那些从不同的类别。由于目标标签不可用，我们使用基于聚类的方法，仔细初始化中心，以产生伪标签。此外，我们证明了CDCL是一个通用的框架，可以适应无数据设置，其中源数据在训练过程中不可用，修改最少。我们对两个广泛使用的领域自适应基准进行实验，即，Office-31和VisDA-2017，用于图像分类任务，并证明CDCL在两个数据集上都达到了最先进的性能。
2022-05-09 cs.AI cs.CV cs.LG
Enhancing Whole Slide Image Classification through Supervised Contrastive Domain Adaptation
HUMAN-tech；Universidad Politécnica de Valencia (UPV)（瓦伦西亚理工大学）；Valencian Graduate School and Research Network for Artificial Intelligence (valgrAI)（瓦伦西亚人工智能研究生学院及研究网络）
针对组织病理学成像的域偏移问题，提出一种基于有监督对比学习的域适应方法，通过添加训练约束提升类间可分离性，在两中心六种皮肤癌亚型全切片图像实验中，性能优于无域适应或仅染色归一化的方案。
2024-12-05 cs.AI cs.CV
ConDA: Contrastive Domain Adaptation for AI-generated Text Detection
Arizona State University（亚利桑那州立大学）
本文提出ConDA框架，将AI生成新闻文本检测建模为无监督域自适应任务，结合对比学习学习域不变表示，在仅用源域标签数据的情况下取得比最佳基线平均提升31.7%、接近全监督检测器的效果。
2023-09-20 cs.AI cs.CL cs.LG
Transferrable Contrastive Learning for Visual Domain Adaptation
University of Science and Technology of China（中国科学技术大学）；JD AI Research（京东人工智能研究院）
自监督学习（Self-supervised learning，SSL）是近年来特征学习方法中最受欢迎的一种。因此，它是呼吁领域自适应的方法，考虑纳入SSL。直觉是强制执行实例级特征一致性，使得预测器在域之间变得不变性。然而，大多数现有的SSL方法在领域自适应的制度通常被视为独立的辅助组件，留下的领域自适应的签名无人看管。实际上，域间隙消失的最佳区域和SSL所阅读的实例级约束可能根本不一致。从这一点出发，我们提出了一种为领域自适应定制的自监督学习的特定范例，即，可迁移的对比学习（TCL），它将SSL和所需的跨域可迁移性一致地联系起来。我们发现对比学习本质上是领域自适应的一个合适的候选者，因为它的实例不变性假设可以方便地提升到跨领域类级不变性青睐的领域自适应任务。基于特定的存储体结构和伪标签策略，TCL然后通过干净和新颖的对比损失来惩罚源和目标之间的跨域类内域差异。免费的午餐是，由于结合了对比学习，TCL依赖于移动平均密钥编码器，该编码器自然地实现了目标数据的伪标签的时间集合版本，这避免了伪标签错误传播，而无需额外成本。因此，TCL有效地减少了跨域差距。通过对单源和多源领域自适应任务的基准测试（ESP-Home、VisDA-2017、Digits-five、PACS和DomainNet）进行广泛的实验，TCL展示了最先进的性能。
2021-12-14 cs.AI cs.CV cs.MM
What Has Been Overlooked in Contrastive Source-Free Domain Adaptation: Leveraging Source-Informed Latent Augmentation within Neighborhood Context
The University of British Columbia（不列颠哥伦比亚大学）；Department of Mechanical Engineering（机械工程系）；Department of Computer Science（计算机科学系）
针对无源域自适应中难以估计域差距的问题，本文提出一种基于源预训练模型引导的邻域潜在特征增强方法，通过提升正键信息量优化对比学习，在多个基准数据集上超越现有方法。
2024-12-18 cs.CV cs.LG
Contrastive Domain Adaptation for Time-Series via Temporal Mixup
Nanyang Technological University（南洋理工大学）；Agency for Science, Technology and Research（新加坡科技研究局）；Centre for Frontier AI Research（前沿人工智能研究中心）；Institute for Infocomm Research（资讯通信研究院）
针对时间序列的无监督域适应问题，提出轻量级对比域适应框架CoTMix，通过时间混合策略生成中间增强视图并利用对比学习最大化域与视图相似度，有效缓解分布偏移，在五个真实数据集上显著优于现有方法。
2023-07-27 cs.LG
Domain Adaptation for Sustainable Soil Management using Causal and Contrastive Constraint Minimization
University of Minnesota Twin Cities（明尼苏达大学双城分校）；Microsoft Research（微软研究院）
本文提出一个多模态可扩展框架，结合因果约束与对比学习，利用遥感数据和稀疏传感器数据估计土壤有机质，以改进跨域泛化能力并识别关键土壤属性。
2024-01-13 cs.LG
CALDA: Improving Multi-Source Time Series Domain Adaptation with Contrastive Adversarial Learning
Washington State University（华盛顿州立大学）
该研究提出CALDA框架，结合对比与对抗学习实现多源时间序列无监督域适应，无需数据增强和伪标记，利用跨源标签信息提升性能，弱监督可进一步增强效果，在多个数据集上验证了有效性。
2023-07-21 cs.LG
ConFUDA: Contrastive Fewshot Unsupervised Domain Adaptation for Medical Image Segmentation
Friedrich-Alexander-Universität Erlangen-Nürnberg (FAU)（埃尔朗根-纽伦堡弗里德里希-亚历山大大学（FAU））；Stanford University（斯坦福大学）
无监督领域自适应（UDA）旨在将从标记的源领域学习到的知识转移到未标记的目标领域。UDA背景下的对比学习（CL）可以帮助更好地分离特征空间中的类。然而，在图像分割中，由于逐像素对比度损失的计算而导致的大的存储器占用使得其无法使用。此外，标记的目标数据在医学成像中不容易获得，并且获得新的样本不经济。因此，在这项工作中，我们解决了一个更具挑战性的UDA任务时，只有几个（fewshot）或一个单一的（oneshot）图像可从目标域。我们应用了风格转换模块来缓解目标样本的稀缺性。然后，为了使源特征和目标特征对齐，并解决传统对比度丢失的记忆问题，提出了基于质心的对比学习（CCL）和质心范数正则化器（CNR），以优化方向和幅度上的对比度对。此外，我们还提出了多分区形心对比学习（MPCCL）来进一步减少目标特征的方差。MS-CMRSeg数据集上的Fewshot评估表明，与基线相比，ConFUDA在目标域上的分割性能提高了0.34的Dice分数，并且在更严格的oneshot设置中提高了0.31的Dice分数。
2022-06-08 cs.CV cs.LG
Contrastively Smoothed Class Alignment for Unsupervised Domain Adaptation
Duke University（杜克大学）；Microsoft Dynamics 365 AI Research（微软Dynamics 365人工智能研究院）；Microsoft Research（微软研究院）
最近的领域自适应的无监督方法主要集中在通过改进特征生成器来最小化源域和目标域之间的间隙，以便学习两个域之间的更好对齐。这种最小化可以通过域分类器来实现，以检测与源域特征不同的目标域特征。然而，通过这种域分类差异进行优化，往往会错过在低维数据流形上不平滑分布的模糊目标样本。为了解决这个问题，我们提出了一种新的对比平滑类对齐（CoSCA）模型，显式地结合了类内和类间域的差异，以更好地对齐模糊的目标样本与源域。CoSCA估计目标样本的潜在标签假设，同时通过优化建议的对比损失来适应它们的特征表示。此外，最大平均离散度（MMD）被用来直接匹配源和目标样本之间的特征，以更好的全局对齐。在几个基准数据集上的实验表明，CoSCA可以通过产生更多的判别特征来优于最先进的无监督领域自适应方法。
2020-10-06 cs.LG stat.ML
A Contrastive Learning Framework Empowered by Attention-based Feature Adaptation for Street-View Image Classification
SpaceTimeLab（时空实验室）；University College London（伦敦大学学院）
CLIP-MHAdapter通过引入基于注意力的特征适应机制，提升街景图像属性分类的准确性和效率
2026-02-18 cs.AI cs.CV cs.LG
Multi-Source EEG Emotion Recognition via Dynamic Contrastive Domain Adaptation
Northwest University（西北大学）；Zhejiang University（浙江大学）；Rochester Institute of Technology（罗切斯特理工学院）
提出多源动态对比域适应方法（MS-DCDA），通过多分支对比网络与子域差异学习解决EEG情绪识别的个体差异问题，在SEED和SEED-IV数据集上取得高准确率并优于多种域适应方法。
2024-12-23 cs.HC cs.LG eess.SP
Learning from Contrastive Prompts: Automated Optimization and Adaptation
Clemson University（克莱姆森大学）；Amazon Services LLC（亚马逊服务有限责任公司）
针对现有提示优化方法仅依赖错误样本且跨模型及语言适应性不足的问题，提出 LCP 框架，利用对比学习从好坏提示示例中生成有效提示，在 Big-Bench Hard 数据集上实现超 76% 胜率并具备跨版本和语言的强适应性。
2024-09-23 cs.AI cs.CL
Target contrastive pessimistic risk for robust domain adaptation
Delft University of Technology（代尔夫特理工大学）；University of Copenhagen（哥本哈根大学）
在域自适应中，具有来自源域的信息的分类器适应以推广到目标域。然而，由于无效的假设、对估计误差或模型误指定的增加的灵敏度，自适应分类器可能比非自适应分类器执行得更差。我们的目标是开发一个域自适应分类器，它是强大的意义上说，它不依赖于限制性的假设如何源和目标域相互关联，它不执行比非自适应分类器差。我们制定了一个保守的参数估计，只有偏离源分类器时，一个较低的风险是保证所有可能的标记给定的目标样本。我们推导出经典的最小二乘和判别分析的情况下，这些表现与国家的最先进的域自适应分类器在样本选择偏置设置，而优于他们在更一般的域自适应设置。
2017-06-25 cs.LG stat.ML
Rethinking Graph Domain Adaptation: A Spectral Contrastive Perspective
City University of Hong Kong（香港城市大学）；Huazhong Agricultural University（华中农业大学）；The Hong Kong Polytechnic University（香港理工大学）
针对图域自适应中结构分布偏移问题，提出基于谱分解的FracNet，通过分离高低频分量并融合对比学习，实现频率感知的域自适应，理论证明与实验均验证其优越性。
2025-10-15 cs.LG
Contrastive Learning and Self-Training for Unsupervised Domain Adaptation in Semantic Segmentation
Institute of Signal Processing and System Theory, University of Stuttgart（斯图加特大学信号处理与系统理论研究所）
深度卷积神经网络大大改善了语义分割的最新结果。然而，即使是现代架构也缺乏很好地泛化到来自不同领域的测试数据集的能力。为了避免对未知领域的训练数据进行昂贵的注释，无监督领域自适应（UDA）试图提供从标记的源领域到未标记的目标领域的有效知识转移。以前的工作主要集中在通过使用对抗训练或自我训练来最大限度地减少这两个领域之间的差异。虽然对抗训练可能无法对齐正确的语义类别，因为它最大限度地减少了全局分布之间的差异，但自我训练提出了如何提供可靠的伪标签的问题。为了调整正确的语义类别跨域，我们提出了一个对比学习的方法，适应跨域的类别明智的质心。此外，我们扩展了我们的方法与自我训练，在那里我们使用一个内存效率的时间合奏，以产生一致和可靠的伪标签。虽然对比学习和自我训练（CLST）通过时间集成使两个领域之间的知识转移，这是他们的组合，导致一个共生结构。我们验证了我们的方法上的两个领域自适应基准：GTA 5 $\rightarrow$城市景观和SYNTHIA $\rightarrow$城市景观。我们的方法比最先进的方法取得了更好或相当的结果。我们将公开代码。
2021-05-05 cs.AI cs.CV
Unsupervised Domain Adaptation for COVID-19 Information Service with Contrastive Adversarial Domain Mixup
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of Notre Dame（圣母大学）
在COVID-19错误信息检测的实际应用中，一个根本的挑战是缺乏标记的COVID数据来实现模型的监督端到端训练，特别是在大流行的早期阶段。为了应对这一挑战，我们提出了一个无监督的领域自适应框架，该框架使用对比学习和对抗性领域混合来将知识从现有的源数据领域转移到目标COVID-19数据领域。特别是，为了弥合源域和目标域之间的差距，我们的方法减少了基于径向基函数（RBF）这两个域之间的差异。此外，我们利用领域对抗性示例的力量来建立一个中间领域混合，其中来自两个领域的输入文本的潜在表示可以在训练过程中混合。在多个真实世界数据集上进行的大量实验表明，我们的方法可以有效地使错误信息检测系统适应看不见的COVID-19目标域，与最先进的基线相比有显着改进。
2022-10-06 cs.AI cs.CL
Con$^{2}$DA: Simplifying Semi-supervised Domain Adaptation by Learning Consistent and Contrastive Feature Representations
University of Concepcion（康塞普西翁大学）；Harvard University（哈佛大学）
本文提出Con$^{2}$DA框架，通过随机数据变换生成关联样本对，并学习一致性与对比性特征表示，结合强增强策略，在三个半监督域自适应基准数据集上取得最先进性能。
2023-08-11 cs.CV cs.LG
Evidential Graph Contrastive Alignment for Source-Free Blending-Target Domain Adaptation
Sun Yat-Sen University（中山大学）；Tsinghua University（清华大学）
本文针对无源混合目标域适应（SF-BTDA）问题，提出证据对比对齐方法（ECA），通过校准证据学习模块提升伪标签质量，并利用图对比学习缓解标签偏移，显著优于现有方法。
2024-08-25 cs.AI cs.CV
Contrastive Knowledge-Augmented Meta-Learning for Few-Shot Classification
Arizona State University（亚利桑那州立大学）；Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）
模型无关的元学习算法旨在从几个观察到的任务中推断先验知识，然后可以使用这些先验知识来适应具有少量示例的新任务。鉴于现有基准中出现的任务的固有多样性，最近的方法使用单独的，可学习的结构，如层次结构或图形，使任务特定的适应之前。虽然这些方法产生了显着更好的Meta学习器，我们的目标是提高他们的性能时，异构任务分布包含具有挑战性的分布偏移和语义差异。为此，我们引入CAML（对比知识增强元学习），知识增强的少样本学习，发展的知识图谱，有效地编码历史经验，并采用对比蒸馏策略，利用编码的知识，任务意识调制的基础学习者的新方法。使用标准的基准测试，我们评估的性能CAML在不同的少样本学习方案。除了标准的Few-Shot任务自适应，我们还考虑了更具挑战性的多域任务自适应和Few-Shot数据集泛化设置在我们的实证研究。我们的研究结果表明，CAML始终优于最知名的方法，并实现了改进的泛化。
2022-07-25 cs.LG
Model-Contrastive Federated Domain Adaptation
提出基于对比学习和ViT的联邦域适应方法FDAC，通过操纵ViT潜在架构学习可迁移表示，并利用域增强和语义匹配增加目标数据多样性，在多数条件下优于对比方法且提升通信效率。
2023-05-07 cs.LG
VaCDA: Variational Contrastive Alignment-based Scalable Human Activity Recognition
Department of Computer Science and Engineering, Bangladesh University of Engineering and Technology（计算机科学与工程系，孟加拉国工程与技术大学）；Department of Computer Science, Bowie State University（计算机科学系，布里沃州立大学）
本文提出VaCDA框架，结合变分自编码器和对比学习，解决多源领域适应中的数据异质性问题，提升跨人物、跨位置和跨设备场景下的活动识别性能。
2025-05-08 cs.LG
When Normality Shifts: Risk-Aware Test-Time Adaptation for Unsupervised Tabular Anomaly Detection
IEEE Publication Technology Group（IEEE出版技术组）；Piscataway, NJ（新泽西州皮斯基塔威）
本文提出RTTAD方法，通过协同双任务学习和测试时对比学习，解决表格异常检测中正常性转变问题，提升模型判别能力。
2026-05-11 cs.AI cs.LG
Source-Free Domain Adaptation via Multi-view Contrastive Learning
School of Computer engineering, Iran university of Science and Technology（伊朗科学技术大学计算机工程学院）；Department of Computer Engineering, SR.C, Islamic Azad university（伊斯兰 Azad 大学计算机工程系）
本文针对无源无监督域适应中原型质量低和伪标签错误问题，提出结合可靠样本记忆、多视图对比学习和噪声标签过滤的三阶段方法，在多个基准数据集上取得显著准确率提升。
2025-07-04 cs.AI cs.CV
Divide and Contrast: Source-free Domain Adaptation via Adaptive Contrastive Learning
Nanjing University（南京大学）；Tencent America（腾讯美国）；Sun Yat-sen University（中山大学）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Shenzhen Research Institute of Big Data（深圳大数据研究院）；Westlake University（西湖大学）
我们研究了一个实际的领域自适应任务，称为无源领域自适应（SFUDA），其中源预训练模型适应目标域，而无需访问源数据。现有技术主要利用自监督伪标记来实现类全局对齐[1]或依赖于局部结构提取，以鼓励邻域之间的特征一致性[2]。虽然已经取得了令人印象深刻的进展，这两种方法都有自己的缺点-“全球”的方法是敏感的噪音标签，而“本地”对应遭受源偏见。在本文中，我们提出了划分和对比（DaC），这是SFUDA的一种新范式，它致力于连接两个世界的美好结局，同时绕过它们的局限性。基于源模型的预测置信度，DaC将目标数据划分为类源样本和特定于目标的样本，其中任一组样本在自适应对比学习框架下用定制的目标进行处理。具体地说，类源样本由于其相对干净的标签而用于学习全局类聚类。在实例级利用更嘈杂的特定于目标的数据来学习固有的局部结构。我们进一步使用基于存储体的最大平均离散度（MMD）损失将源样域与目标特定的样本对齐，以减少分布失配。在VisDA、Domain-Home和更具挑战性的DomainNet上进行的大量实验已经验证了DaC优于当前最先进方法的性能。该代码可在https://github.com/ZyeZhang/DaC.git上获得。
2022-11-12 cs.AI cs.CV
GLC++: Source-Free Universal Domain Adaptation through Global-Local Clustering and Contrastive Affinity Learning
School of Computer Science and Technology, Tongji University（同济大学计算机科学与技术学院）；School of Automotive Engineering, Tongji University（同济大学汽车工程学院）；Faculty of Computer Science, Chemnitz University of Technology（化学工业大学计算机科学学院）；Department of Computer Science, Shanghai Jiao Tong University（上海交通大学计算机科学系）；College of Computing and Data Science, Nanyang Technological University（南洋理工大学计算与数据科学学院）；School of Computer Science and Technology, Key Laboratory of Embedded System and Service Computing, Ministry of Education, Tongji University（同济大学计算机科学与技术学院、教育部嵌入式系统与服务计算重点实验室）
针对 SF-UniDA 中已知类分类与未知类分离问题，提出 GLC 及融合对比亲和学习的 GLC++，在 VisDA、Office-Home 等场景显著提升性能。
2025-07-26 cs.AI cs.CV cs.LG
Weighted Contrastive Learning for Anomaly-Aware Time-Series Forecasting
Center for Applied Intelligent Systems Research, Halmstad University（哈尔姆斯塔德大学应用智能系统研究中心）；Mikael Linden Consulting AB（Mikael Linden咨询公司）
本文提出WECA方法，通过带权对比学习对齐正常和异常增强的表示，提升异常条件下时间序列预测的可靠性，实验显示在异常数据上SMAPE提升6.1个百分点。
2026-06-29 cs.AI cs.LG
ReCLIP: Refine Contrastive Language Image Pre-Training with Source Free Domain Adaptation
University of Southern California（南加利福尼亚大学）；Amazon（亚马逊）
针对CLIP等视觉-语言模型应用于下游目标域时的域差距与跨模态失配问题，提出无源域适配方法ReCLIP，通过投影空间学习与跨模态自训练迭代优化，在22个基准上显著降低平均错误率。
2023-12-14 cs.CV cs.LG
ADA-Net: Attention-Guided Domain Adaptation Network with Contrastive Learning for Standing Dead Tree Segmentation Using Aerial Imagery
University of Eastern Finland（东芬兰大学）；School of Forest Sciences（森林科学学院）
本文提出注意力引导域自适应网络 ADA-Net，结合增强对比学习，将无标注的美国航空影像转换到芬兰域，实现枯立木分割并取得最优性能。
2025-04-05 cs.CV cs.LG eess.IV
CoRe-MoE: Contrastive Reweighted Mixture of Experts for Multi-Terrain Humanoid Locomotion with Gait Adaptation
Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；South China Agricultural University（华南农业大学）；Guangdong University of Technology（广东工业大学）
提出CoRe-MoE两阶段强化学习框架，通过解耦步态生成与地形适应，利用对比学习促进专家专业化，实现人形机器人在多地形下的稳定行走和跑步。
2026-06-15 cs.AI cs.RO
CodaMal: Contrastive Domain Adaptation for Malaria Detection in Low-Cost Microscopes
University of Central Florida（中佛罗里达大学）
提出端到端框架CodaMal，通过域自适应对比损失和精心设计的数据增强，解决低成本显微镜疟疾检测的跨域泛化问题，在M5-dataset上mAP提升16%，推理速度提升21倍且参数量减半。
2024-10-12 cs.CV cs.LG
Biologically-inspired neuronal adaptation improves learning in neural networks
Canadian Centre for Behavioural Neuroscience, University of Lethbridge（莱斯布里奇大学加拿大行为神经科学中心）
由于人类在许多任务上的表现仍然优于人工神经网络，因此从大脑中汲取灵感可能有助于改进当前的机器学习算法。对比赫布学习（CHL）和平衡传播（EP）是生物学上合理的算法，仅使用局部信息（不显式计算梯度）更新权重，并且仍然实现与传统反向传播相当的性能。在这项研究中，我们增强了CHL和EP与调整适应，灵感来自神经元中观察到的适应效应，其中神经元对给定刺激的反应在短时间后调整。我们将这种自适应功能添加到在MNIST和CIFAR-10上训练的多层感知器和卷积神经网络中。令人惊讶的是，适应改善了这些网络的性能。我们讨论了这一想法的生物学灵感，并调查为什么神经元适应可能是一个重要的大脑机制，以提高学习的稳定性和准确性。
2022-04-08 cs.AI cs.LG cs.NE
Semi-supervised Domain Adaptive Medical Image Segmentation through Consistency Regularized Disentangled Contrastive Learning
Stony Brook University（石溪大学）
本文提出一种两阶段半监督域自适应医学图像分割方法，通过域-内容解耦对比学习与像素级一致性约束预训练编码器，再结合少量目标域标签微调，在SSDA和UDA设置下均优于现有最优方法。
2023-07-06 cs.AI cs.CV
Self-Supervised Video Representation Learning with Meta-Contrastive Network
University of Washington（华盛顿大学）；Microsoft Research Asia（微软亚洲研究院）
自监督学习已成功应用于预训练视频表示，其目的是从预训练域到下游任务的有效适应。现有的方法仅仅利用对比损失来学习实例级区分。然而，缺乏类别信息将导致硬正问题，限制了这类方法的推广能力。我们发现元学习的多任务过程可以为这个问题提供解决方案。在本文中，我们提出了一个元对比网络（MCN），它结合了对比学习和元学习，以提高现有的自监督方法的学习能力。我们的方法包含两个基于模型不可知元学习（MAML）的训练阶段，每个阶段由一个对比分支和一个元分支组成。广泛的评估表明我们的方法的有效性。对于两个下游任务，即，在视频动作识别和视频检索方面，MCN在UCF 101和HMDB 51数据集上的性能优于最先进的方法。更具体地说，使用R（2 + 1）D主干，MCN在视频动作识别方面达到了84.8%和54.5%的Top-1准确率，在视频检索方面达到了52.5%和23.7%。
2021-08-23 cs.AI cs.CV cs.LG
TRUST: Leveraging Text Robustness for Unsupervised Domain Adaptation
提出TRUST方法，利用语言模态鲁棒性指导视觉模型的无监督域适应，通过基于描述生成伪标签并估计其不确定性来重新加权分类损失，同时引入多模态软对比学习损失对齐特征空间，在DomainNet和GeoNet上达到SOTA。
2025-08-08 cs.CV cs.LG
Uncertainty-guided Open-Set Source-Free Unsupervised Domain Adaptation with Target-private Class Segregation
University of Catania（卡塔尼亚大学）；Fondazione Bruno Kessler（布鲁诺·凯塞勒基金会）；University of Nottingham（诺丁汉大学）；Istituto Italiano di Tecnologia（意大利技术研究院）
针对无源开集域适应场景，提出一种结合不确定性引导伪标签优化与NL-InfoNCELoss对比损失的方法，实现目标私有类别细粒度分离，性能超越现有方法并支持新类别发现。
2024-04-16 cs.AI cs.CV cs.LG
ProCA: Progressive Contrastive Alignment for Robust EEG Visual Decoding
Tsinghua University（清华大学）；School of Life Sciences, Tsinghua University（清华大学生命科学学院）
针对EEG视觉解码中固定锚点语义易失配的问题，提出ProCA框架，通过渐进式对比对齐与结构一致插值，在多EEG设置中实现显著性能提升。
2026-09-07 cs.AI
Low-confidence Samples Matter for Domain Adaptation
University of Science and Technology of China（中国科学技术大学）
领域自适应旨在将知识从标签丰富的源领域转移到相关但标签稀缺的目标领域。传统的DA策略是对齐两个域的特征分布。近年来，越来越多的研究集中在自我训练或其他半监督算法来探索目标域的数据结构。然而，它们中的大多数在很大程度上依赖于置信样本，以建立可靠的伪标签，原型或聚类中心。以这种方式表示目标数据结构将忽略巨大的低置信度样本，导致偏向于与源域类似的样本的次优可传递性。为了克服这个问题，我们提出了一种新的对比学习方法，通过处理低置信度的样本，鼓励模型利用目标数据结构通过实例判别过程。具体而言，我们只使用低置信度样本创建正负对，然后用分类器权重重新表示原始特征，而不是直接利用它们，这样可以更好地编码特定于任务的语义信息。此外，我们结合跨域混淆，以增加拟议的对比损失。因此，领域差距可以很好地弥合通过对比学习跨领域的中间表示。我们在无监督和半监督DA设置中评估了所提出的方法，在基准上的大量实验结果表明，我们的方法是有效的，并达到了最先进的性能。代码可以在https://github.com/zhyx12/MixLRCo中找到。
2022-03-05 cs.CV cs.LG
Contrastive Explanations for Explaining Model Adaptations
CITEC - Cognitive Interaction Technology Bielefeld University（比勒费尔德大学认知交互技术中心）
在现实世界中部署的许多决策系统都不是静态的-一种称为模型自适应的现象会随着时间的推移而发生。基于人工智能的决策模型对透明度和可解释性的需求被广泛接受，因此已经得到了广泛的研究。通常，解释方法假设一个静态的系统，必须加以解释。解释非静态系统仍然是一个开放的研究问题，这对如何解释模型适应提出了挑战。在这方面的贡献，我们提出了一个框架，并（经验）评估解释模型适应性的对比解释。我们还提出了一种方法，用于自动查找受给定模型适应影响的数据空间中的区域，因此应该进行解释。
2021-04-07 cs.AI cs.LG
Bridging Language Gaps: Enhancing Few-Shot Language Adaptation
IESEG School of Management（IESEG管理学院）；Research Centre for Information Systems Engineering（信息系统工程研究中心）；Department of Computer Science（计算机科学系）
本文提出CoLAP方法，通过对比学习与跨语言表示相结合，在少样本条件下实现高资源到低资源语言的高效知识迁移，并在自然语言推理和关系抽取任务上超越现有基线，显著缩小跨语言性能差距。
2025-08-26 cs.AI cs.CL
Is Domain Adaptation Always Helpful? A Frozen-Backbone Study of Cross-Domain Sentiment Transfer
Oregon State University（俄勒冈州立大学）
研究探讨使用冻结预训练语言模型主干时显式域适应的效果，通过训练轻量级MLP适配器并评估向不同领域转移，发现域适应效果因主干对目标域覆盖情况而异，对抗对齐对域专用主干有负面影响，监督对比损失有积极作用。
2026-07-08 cs.CL cs.LG
Contrast and Clustering: Learning Neighborhood Pair Representation for Source-free Domain Adaptation
Jiaxing University（嘉兴学院）；Zhejiang Normal University（浙江师范大学）；Zhejiang Sci-Tech University（浙江理工大学）
针对无源域数据的无监督域适应场景，本文从对比学习视角出发，通过最近邻聚类、扩展邻域构造难负样本对、结合噪声对比估计的方法学习域不变特征，在三个基准数据集上取得了优于现有最优方法的效果。
2023-12-13 cs.CV cs.LG
Randomized-MLP Regularization Improves Domain Adaptation and Interpretability in DINOv2
Helmholtz Pioneer Campus, Helmholtz Munich（亥姆霍兹先锋园区，亥姆霍兹慕尼黑中心）；Biozentrum, University of Basel（巴塞尔大学生物中心）；LMU University Hospital, LMU Munich（慕尼黑大学医院，慕尼黑大学）
本文提出 Randomized-MLP 正则化方法，通过在微调 DINOv2 时引入对比学习约束，在医学与自然图像任务中提升或保持性能，并增强注意力图可解释性。
2025-10-24 cs.AI cs.CV
MSCDA: Multi-level Semantic-guided Contrast Improves Unsupervised Domain Adaptation for Breast MRI Segmentation in Small Datasets
Maastricht University（马斯特里赫特大学）；Maastricht University Medical Centre+（马斯特里赫特大学医学中心+）；Zuyderland Medical Center（祖德兰德医学中心）
针对乳腺MRI分割中的域偏移问题，提出MSCDA无监督域适应框架，结合自训练与多层对比学习及类别采样策略，在小数据集下实现了优于现有方法的跨域分割性能。
2023-06-08 cs.LG q-bio.QM
Contrastive Test-Time Composition of Multiple LoRA Models for Image Generation
Virginia Tech（弗吉尼亚理工学院）；ETH Zürich（苏黎世联邦理工学院）；TUM（慕尼黑工业大学）；Google（谷歌）
针对多LoRA模型组合生成多概念图像时存在的概念遗漏、错配问题，提出无需训练的CLoRA方法，通过测试时更新注意力图、生成语义掩码融合隐表征，显著提升多概念图像生成效果。
2025-07-29 cs.CV cs.LG
CLUB: A Contrastive Log-ratio Upper Bound of Mutual Information
Duke University（杜克大学）；Microsoft（微软）
互信息（MI）最小化在各种机器学习任务中获得了相当大的兴趣。然而，在高维空间中估计和最小化MI仍然是一个具有挑战性的问题，特别是当只有样本，而不是分布形式，是可访问的。以前的工作主要集中在MI下界近似，这是不适用于MI最小化问题。本文提出了一种新的互信息对比对数比上界（CLUB）。我们提供了一个理论分析的性质CLUB及其变分逼近。基于这个上界，我们引入了一个MI最小化训练方案，并进一步加速它与负采样策略。对高斯分布的仿真研究表明了CLUB的可靠估计能力。通过领域自适应和信息瓶颈两个方面的实验，验证了该方法的有效性。代码在https://github.com/Linear95/CLUB。
2020-07-23 cs.LG stat.ML
Enhancing Learned Knowledge in LoRA Adapters Through Efficient Contrastive Decoding on Ascend NPUs
Huawei Technologies Canada（华为技术加拿大公司）；Huawei Technologies（华为技术）
针对LoRA微调大语言模型解码时受基础模型干扰的问题，提出对比LoRA解码框架CoLD，通过对比专家模型与基础模型的概率分布选token，并开发昇腾NPU优化内核，实现准确率提升与延迟降低。
2025-05-20 cs.CL cs.LG
