Multi-Source Domain Adaptation and Semi-Supervised Domain Adaptation with Focus on Visual Domain Adaptation Challenge 2019
JD AI Reseach（京东人工智能研究院）
本文概述并比较分析了我们为视觉领域自适应挑战赛（VisDA-2019）中的以下两个任务设计的系统：多源领域自适应和半监督领域自适应。多源领域自适应：我们研究了多源领域自适应任务的像素级和特征级自适应，即，通过CycleGAN直接对标记的目标样本产生幻觉，并通过自学习学习域不变特征表示。此外，进一步研究了融合不同骨干特征的机制，以促进领域不变分类器的学习。源代码和预训练模型可在\url{https://github.com/Panda-Peter/visda2019-multisource}上获得。半监督领域自适应：采用标准的自学习框架，根据已标记的源数据和目标数据构建分类器，并为未标记的目标数据生成伪标签。然后利用这些具有伪标签的目标数据在接下来的迭代中重新训练分类器。此外，基于原型的分类模块，另外利用，以加强预测。源代码和预训练模型可在\url{https://github.com/Panda-Peter/visda2019-semisupervised}上获得。
2019-10-14 cs.CV
Semi-Supervised Domain Adaptation with Auto-Encoder via Simultaneous Learning
University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）
我们提出了一种新的半监督领域自适应框架，该框架结合了一种新的基于自动编码器的领域自适应模型与同时学习方案，该方案提供了对最先进的领域自适应模型的稳定改进。我们的框架具有很强的分布匹配属性，通过使用一种新的同时学习方案在单个图上训练源和目标自动编码器，并使用最佳修改的MMD损失目标函数。此外，我们设计了一种半监督分类方法，通过将对齐的域不变特征空间从源域转移到目标域。我们评估三个数据集，并证明我们的框架可以有效地解决脆弱的收敛（对抗）和源和目标特征空间（差异）之间的弱分布匹配问题，具有很高的适应速度，需要非常低的迭代次数。
2022-10-18 cs.CV
Selective Pseudo-Labeling with Reinforcement Learning for Semi-Supervised Domain Adaptation
Didi Chuxing（滴滴出行）；Carleton University（卡尔顿大学）；Beijing University of Posts and Telecommunications（北京邮电大学）
最近的领域自适应方法在无监督领域自适应问题上取得了令人瞩目的进步。然而，在半监督领域自适应（SSDA）设置中，其中目标域具有几个可用的标记实例，这些方法可能无法提高性能。受领域自适应中伪标签有效性的启发，提出了一种基于强化学习的半监督领域自适应选择性伪标签方法.传统的伪标记方法很难平衡伪标记数据的正确性和代表性。为了解决这一限制，我们开发了一个深度Q学习模型来选择准确和有代表性的伪标记实例。此外，由于大间隔损失在学习小数据的判别特征时的能力，我们进一步提出了一种新的目标间隔损失用于我们的基础模型训练，以提高其判别能力。我们提出的方法进行了评估的几个基准数据集SSDA，并表现出优越的性能，所有的比较方法。
2020-12-07 cs.CV
Pred&Guide: Labeled Target Class Prediction for Guiding Semi-Supervised Domain Adaptation
Indian Institute of Science（印度科学学院）
半监督领域自适应的目的是通过利用相关的标签丰富的源域和目标域的非常少的标记示例来分类属于目标域的数据。在这里，我们提出了一个新的框架，Pred&Guide，它利用了预测和实际的几个标记的目标示例的类标签之间的不一致性，有效地指导领域自适应在半监督设置。Pred&Guide算法分为三个阶段，具体如下：（1）首先，对所有目标样本进行无监督的领域自适应和自训练;（2）其次是标签预测阶段，其中当前模型用于预测少数标记的目标示例的标签，以及（3）最后，标签预测的正确性被用于有效地按类加权源示例，以更好地指导领域自适应过程。大量的实验表明，提出的Pred&Guide框架实现了两个大规模的基准数据集，即家庭和DomainNet的最先进的结果。
2022-11-22 cs.CV
Coupled Support Vector Machines for Supervised Domain Adaptation
Bosch Research and Technology Center（博世研究与技术中心）；University of Michigan（密歇根大学）
流行的领域自适应（DA）技术通过从源采样相关数据点并将其与目标数据相结合来学习目标域的分类器。我们提出了一种基于支持向量机（SVM）的监督DA技术，其中源域和目标域之间的相似性被建模为它们的SVM决策边界之间的相似性。我们耦合的源和目标支持向量机，并减少模型到一个标准的单一支持向量机。我们在多个数据集上测试了耦合SVM，并将我们的结果与其他流行的基于SVM的DA方法进行了比较。
2017-06-22 cs.CV
Semi-supervised Domain Adaptation for Semantic Segmentation
用于语义分割的深度学习方法主要依赖于监督学习方法，并且需要在产生像素级注释方面做出大量努力。此外，当应用于看不见的图像域时，这样的方法可能表现不佳。为了应对这些限制，已经提出了具有完全源监督但没有目标监督的无监督领域自适应（UDA）和具有部分监督的半监督学习（SSL）。虽然这些方法在对齐不同的特征分布方面是有效的，但仍然需要有效地利用未标记的数据来解决与完全监督方法相关的性能差距。在本文中，我们解决了半监督领域自适应（SSDA）的语义分割，其中大量的标记源数据以及少量的标记目标数据是可用的。我们提出了一种新的和有效的两步半监督双领域自适应（SSDDA）的方法来解决跨域和域内的差距语义分割。建议的框架是由两个混合模块。首先，我们通过图像级混合策略进行跨领域自适应，该策略学习对齐源数据和目标数据之间的特征的分布偏移。第二，使用单独的学生-教师网络实现领域自适应，该网络被构建为通过以尊重预测对象边界的方式混合未标记的目标数据来生成类别级数据增强。我们证明了所提出的方法优于国家的最先进的方法，两个共同的合成到真正的语义分割基准。一个广泛的消融研究提供了进一步验证我们的方法的有效性。
2021-10-20 cs.CV
CLDA: Contrastive Learning for Semi-Supervised Domain Adaptation
Indian Institute of Technology, Madras（马德拉斯印度理工学院）
无监督领域自适应（UDA）的目的是将标记的源分布与未标记的目标分布对齐，以获得领域不变的预测模型。然而，众所周知的UDA方法的应用在半监督领域自适应（SSDA）场景中不能很好地推广，其中来自目标域的标记样本很少。在本文中，我们提出了一个简单的对比学习框架，半监督领域自适应（CLDA），试图弥合标记和未标记的目标分布之间的域内差距和源和未标记的目标分布之间的域间差距在SSDA。我们建议采用类的对比学习，以减少域间的差距和实例级对比对准之间的原始（输入图像）和强烈增强的未标记的目标图像，以尽量减少域内的差异。我们的经验表明，这两个模块相互补充，以实现卓越的性能。三个著名的领域自适应基准数据集，即DomainNet的，家庭，和B2B 31上的实验证明了我们的方法的有效性。CLDA在所有上述数据集上都取得了最先进的结果。
2021-11-10 cs.CV
Dynamic Feature Alignment for Semi-supervised Domain Adaptation
University of Kentucky（肯塔基大学）；Eastern Kentucky University（东肯塔基大学）
大多数关于领域自适应的研究都集中在纯无监督的设置上，其中目标域中没有标记的示例可用。然而，在许多现实世界的场景中，少量的标记目标数据是可用的，可以用来提高适应性。我们解决这个半监督设置，并建议使用动态特征对齐来解决域间和域内的差异。与以前的方法，试图在一个小批量对齐源和目标功能，我们建议对齐目标功能的一组动态更新的类原型，我们使用这两个最小化分歧和伪标签。通过基于类原型进行更新，我们避免了由于类不平衡而在以前的方法中出现的问题。我们的方法不需要大量的调整或对抗性训练，显著提高了半监督领域自适应的最新水平。我们提供了两个标准的数据集，DomainNet和EST-Home，和性能分析的定量评估。
2021-10-18 cs.CV
Ranking-Guided Semi-Supervised Domain Adaptation for Severity Classification
Kyushu University（九州大学）；Kyoto Second Red Cross Hospital（京都第二红十字医院）
本文提出利用排名得分对源域和目标域进行对齐，以解决严重程度分类中类间边界不明确的问题，通过跨域排名和连续分布对齐方法提升领域适应效果。
2026-04-02 cs.CV
Self-Supervised Domain Adaptation for Diabetic Retinopathy Grading using Vessel Image Reconstruction
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）；Dongguk University（东国大学）；Stanford University（斯坦福大学）；Oldenburg University（奥尔登堡大学）
本文研究了糖尿病视网膜病变（DR）分级的领域自适应问题。我们学习不变的目标域特征定义了一种新的自我监督任务的基础上视网膜血管图像重建，医学领域知识的启发。然后，提供了当前最先进的无监督领域自适应方法在DR问题上的基准。可以看出，我们的方法优于现有的域自适应策略。此外，当利用目标域中的整个训练数据时，我们能够通过应用标准网络架构和使用图像级标签在最终分类精度上与几种最先进的方法竞争。
2021-07-20 cs.CV
Unified Deep Supervised Domain Adaptation and Generalization
West Virginia University（西弗吉尼亚大学）
这项工作提供了一个统一的框架，用于解决视觉监督的领域自适应和推广与深度模型的问题。其主要思想是利用Siamese架构来学习具有鉴别力的嵌入子空间，并且映射的视觉域在语义上对齐，但最大限度地分离。监督设置变得有吸引力，特别是当只有很少的目标数据样本需要标记。在这种情况下，由于缺乏数据，语义概率分布的对齐和分离是困难的。我们发现，通过恢复到分布距离和相似性的逐点代理，提供了一个有效的解决方案。此外，该方法具有很高的适应速度，这需要极低数量的标记目标训练样本，甚至每个类别一个都可以是有效的。该方法被推广到领域泛化。对于这两种应用程序的实验显示出非常有前途的结果。
2017-09-28 cs.CV
MSDA: Monocular Self-supervised Domain Adaptation for 6D Object Pose Estimation
Tampere University（坦佩雷大学）；University of Oulu（奥卢大学）
从真实图像中获取标记的6D姿态是一项昂贵且耗时的任务。虽然很容易获得大量的合成RGB图像，但由于合成域与真实域之间的差距，在其上训练的模型会遭受明显的性能下降。为了减轻这种退化，我们提出了一种实用的自我监督领域自适应方法，利用真正的RGB（-D）数据，而不需要真正的姿势标签。我们首先使用合成RGB图像对模型进行预训练，然后使用真实RGB（-D）图像对预训练模型进行微调。微调过程是自我监督的基于RGB的姿态感知一致性和深度引导的对象距离伪标签，这不需要耗时的在线可微分渲染。我们建立了我们的领域自适应方法的基础上，最近的姿态估计器SC 6D和评估它的YCB视频数据集。我们的实验表明，我们的方法实现了与其完全监督的对应物相当的性能，同时优于现有的最先进的方法。
2023-02-14 cs.CV
DAVOS: Semi-Supervised Video Object Segmentation via Adversarial Domain Adaptation
Tongji University（同济大学）
域偏移一直是视频对象分割（VOS）中的主要问题之一，当在不熟悉的数据集上测试时，模型会退化。近年来，出现了许多在线方法，通过对通常不足的测试数据的注释进行微调，来缩小训练数据（源域）和测试数据（目标域）之间的性能差距。在本文中，我们提出了一种新的方法来解决域转移，首先引入对抗性领域自适应的VOS任务，与监督训练的源域和目标域上的无监督训练。通过将外观和运动特征与卷积层融合，并通过在运动分支上添加监督，我们的模型在DAVIS 2016上实现了最先进的性能，在监督训练后平均IoU得分为82.6%。同时，我们的对抗性领域自适应策略在FBMS 59和Youtube-Object上应用时显着提高了训练模型的性能，而无需利用额外的注释。
2021-05-24 cs.CV
Semi-supervised Domain Adaptation via Minimax Entropy
Boston University（波士顿大学）；University of California, Berkeley（加州大学伯克利分校）
当代领域自适应方法在不需要任何目标监督的情况下对齐源和目标域的特征分布是非常有效的。然而，我们表明，这些技术表现不佳时，即使是几个标记的例子是在目标。为了解决这个半监督领域自适应（SSDA）设置，我们提出了一种新的极大极小熵（MME）的方法，逆向优化自适应Few-Shot模型。我们的基础模型由一个特征编码网络组成，然后是一个分类层，用于计算特征与估计原型（每个类的代表）的相似性。自适应是通过交替地最大化未标记的目标数据的条件熵相对于分类器和最小化它相对于特征编码器。我们凭经验证明了我们的方法优于许多基线，包括传统的特征对齐和Few-Shot方法，为SSDA设置了一个新的最先进的状态。
2019-09-14 cs.CV
Cross-domain Self-supervised Learning for Domain Adaptation with Few Source Labels
Boston University（波士顿大学）；POSTECH（浦项科技大学）
现有的无监督领域自适应方法旨在将知识从标签丰富的源领域转移到未标记的目标领域。然而，获得标签的一些源域可能是非常昂贵的，使完整的标签中使用的现有工作不切实际。在这项工作中，我们研究了一个新的领域自适应的情况下，稀疏标记的源数据，在源域中只有几个例子已被标记，而目标域是未标记的。我们表明，当标记的源示例是有限的，现有的方法往往无法学习适用于源和目标域的判别功能。我们提出了一种新的跨域自监督（CDS）学习方法的领域自适应，学习功能，不仅是域不变的，但也类歧视。我们的自监督学习方法捕捉明显的视觉相似性与域自适应方式的域内自我监督和跨域的自我监督进行跨域的特征匹配。在三个标准基准数据集的广泛实验中，我们的方法显着提高了目标精度的性能，在新的目标域与几个源标签，甚至是经典的领域自适应的情况下是有帮助的。
2020-03-18 cs.CV
Semi-Supervised Domain Adaptation with Representation Learning for Semantic Segmentation across Time
UMI2958 GeorgiaTech-CNRS（佐治亚理工学院-法国国家科学研究中心 UMI2958）；Centrale Supélec（中央理工-高等电力学院）；Université Paris Saclay（巴黎萨克雷大学）；Google Research（谷歌研究院）；GeorgiaTech Lorraine（佐治亚理工学院洛林校区）
深度学习生成最先进的语义分割，前提是大量图像以及像素级注释可用。为了减轻昂贵的数据汇集过程中，我们提出了一种半监督领域自适应方法的特定情况下，图像具有相似的语义内容，但不同的像素分布。在过去的数据集上进行监督训练的网络在新的数据集上进行微调，以保留其特征图。领域自适应成为特征图之间的简单回归，并且不需要对新数据集进行注释。该方法在具有合成变换的PASCAL VOC数据集上达到了类似于经典迁移学习的性能。
2019-10-06 cs.CV
Self-Supervised Fast Adaptation for Denoising via Meta-Learning
Hanyang University（汉阳大学）；Chungnam National University（忠南国立大学）；SK T-Brain
在噪声的某些统计假设下，已经引入了最近的用于去噪的自监督方法来学习网络参数而没有真正的干净图像，并且这些方法可以通过利用从给定输入（即，内部统计）。然而，自监督方法还没有与传统的监督去噪方法相结合，传统的监督去噪方法用大量的外部训练样本训练去噪网络。因此，我们提出了一种新的去噪方法，该方法可以通过自我监督将其网络参数调整到给定的输入，而无需改变网络架构，从而大大优于最先进的监督去噪方法。此外，我们提出了一个Meta学习算法，使快速适应的参数在测试时的特定输入。我们证明了所提出的方法可以很容易地与最先进的去噪网络一起使用，而无需额外的参数，并在许多基准数据集上实现最先进的性能。
2020-01-09 cs.CV
Closed-Loop Adaptation for Weakly-Supervised Semantic Segmentation
Huazhong University of Science and Technology（华中科技大学）；University of Florida（佛罗里达大学）
弱监督语义分割的目标是在弱监督下为每个像素分配一个语义类别，例如图像级标签。现有的大多数弱监督语义分割方法不使用来自分割输出的任何反馈，并且可以被认为是开环系统。由于种子的静态性和结构信息的敏感性，它们容易产生累积错误。本文针对现有的弱监督语义分割方法，通过引入两条反馈链，提出了一种通用的自适应机制，从而构成一个闭环系统。具体地，第一链通过合并跨图像结构信息来迭代地产生动态种子，而第二链通过定制的随机游走过程来进一步扩展种子区域，以协调由超像素表征的内部图像结构信息。在PASCAL VOC 2012上的实验表明，我们的网络比最先进的方法性能更好，计算和内存负担更少。
2019-05-29 cs.CV
Source Domain Subset Sampling for Semi-Supervised Domain Adaptation in Semantic Segmentation
Hanbat National University（韩巴大学）；Pusan National University（釜山大学）
在本文中，我们介绍了源域子集采样（SDSS）作为半监督领域自适应的一个新的视角。我们提出了领域自适应的采样和利用只有一个有意义的子集从源数据的训练。我们的关键假设是，整个源域数据可能包含对适应无益的样本。因此，领域自适应可以受益于仅由有用和相关样本组成的源数据的子集。所提出的方法有效地子采样完整的源数据，以产生一个小规模的有意义的子集。因此，使用我们的二次采样源数据可以减少训练时间，提高性能。为了进一步验证我们方法的可扩展性，我们构建了一个名为Ocean Ship的新数据集，其中包括500个真实和200K个带有地面真实标签的合成样本图像。SDSS在应用于GTA5到Cityscapes和SYNTHIA到Cityscapes公共基准数据集时实现了最先进的性能，并且在我们的Ocean Ship数据集上比基线模型提高了9.13 mIoU。
2022-05-03 cs.CV
SS-SFDA : Self-Supervised Source-Free Domain Adaptation for Road Segmentation in Hazardous Environments
University of Maryland（马里兰大学）
针对恶劣天气下的无监督道路分割问题，提出基于自监督学习的无源域自适应算法SS-SFDA，结合伪标签在线生成、自注意力等多种技术，在6个数据集上性能超现有方法至少10.26%，训练时间大幅缩短。
2021-03-25 cs.CV
Self-Supervised Domain Adaptation with Consistency Training
我们考虑的问题无监督领域自适应的图像分类。为了从未标记的数据中学习目标域感知特征，我们通过使用某种类型的变换（特别是图像旋转）来增强未标记的数据，并要求学习者预测变换的属性，从而创建一个自我监督的借口任务。然而，所获得的特征表示可能包含大量与主任务无关的信息。为了提供进一步的指导，我们强制增强数据的特征表示与原始数据的特征表示一致。直觉上，一致性为表示学习引入了额外的约束，因此，学习的表示更有可能专注于关于主要任务的正确信息。我们的实验结果验证了所提出的方法，并展示了最先进的性能在经典的领域自适应基准。代码可在https://github.com/Jiaolong/ss-da-consistency上获得。
2020-10-15 cs.CV
Bridging the Sim2Real gap with CARE: Supervised Detection Adaptation with Conditional Alignment and Reweighting
Georgia Tech（佐治亚理工学院）；NVIDIA（英伟达）
Sim2Real领域自适应（DA）研究的重点是从标记的合成源域到未标记或稀疏标记的真实目标域的自适应约束设置。然而，对于高风险应用（例如，自动驾驶），除了大量的自动标记的源数据（例如，来自驾驶模拟器）之外，通常还具有适量的人类标记的真实数据。我们研究了这种设置的监督sim2real DA应用到二维目标检测。我们提出了域翻译通过条件对齐和重新加权（CARE）一种新的算法，系统地利用目标标签显式地关闭sim2real外观和内容的差距。我们提出了一个分析的理由，我们的算法，并证明了强大的收益在标准基准的竞争方法。
2023-02-09 cs.CV
Self-Supervised Noisy Label Learning for Source-Free Unsupervised Domain Adaptation
Zhejiang University（浙江大学）；Hikvision Research Institute（海康威视研究院）；Fuzhou University（福州大学）
在许多现有的无监督领域自适应方法中，自由地访问源数据是一个很强的先决条件。然而，由于昂贵的数据传输和数据隐私保护的限制，在许多实际场景中，源数据是不可知的。通常情况下，期望给定的源域预训练模型仅使用未标记的目标数据进行优化，这被称为无源无监督领域自适应。在本文中，我们从噪声标签学习的角度来解决这个问题，因为给定的预训练模型可以通过直接的网络推理为未标记的目标数据预生成噪声标签。在此问题建模的基础上，结合自监督学习，提出了一种新的自监督噪声标签学习方法，该方法可以有效地利用预生成的标签和动态自生成的标签对预训练模型进行微调。为验证其有效性，进行了大量实验。我们的方法可以很容易地实现国家的最先进的结果，并超过其他方法的一个非常大的保证金。代码将被释放。
2021-02-23 cs.CV
MLSL: Multi-Level Self-Supervised Learning for Domain Adaptation with Spatially Independent and Semantically Consistent Labeling
Information Technology University of Punjab（旁遮普信息技术大学）
大多数最近的深度语义分割算法遭受大的泛化误差，即使在基于卷积神经网络的强大的分层表示模型已经被采用。这可能是由于有限的训练数据和训练和测试域数据集中的大分布差距。本文提出了一种用于语义分割的领域自适应的多层次自监督学习模型。利用的想法，一个对象（和大多数的东西给定的上下文）应该被标记一致，无论其位置，我们生成空间独立和语义一致（SISC）的伪标签分割多个子图像使用基本模型和设计的聚合策略。图像级伪弱标记PWL，计算引导领域自适应通过捕获全局上下文相似性在潜在空间级的源和域。因此，即使与图像的其余部分相比，属于域类别的像素非常少（例如小对象），也可以帮助潜在空间学习表示。我们的多级自监督学习（MLSL）优于现有的最先进的（自我或对抗学习）算法。具体而言，保持所有设置相似并采用MLSL，与现有最先进的方法相比，我们在GTA-V到Cityscapes适配上获得了5：1%的mIoU增益，在SYNTHIA到Cityscapes适配上获得了4：3%的mIoU增益。
2019-09-30 cs.CV
Semi-Supervised Domain Adaptation with Source Label Adaptation
National Taiwan University（国立台湾大学）
半监督领域自适应（SSDA）涉及学习对具有少量标记的和大量未标记的目标数据以及来自相关领域的许多标记的源数据的看不见的目标数据进行分类。目前的SSDA方法通常旨在通过特征空间映射和伪标签分配将目标数据与标记的源数据对齐。然而，这种面向源的模型有时会将目标数据与错误类别的源数据对齐，从而降低分类性能。本文提出了一种新的源自适应范例，适应源数据，以匹配目标数据。我们的核心思想是将源数据视为理想目标数据的噪声标记版本。然后，我们提出了一个SSDA模型，清理标签噪声动态的帮助下，一个强大的清洁组件设计的目标的角度来看。由于该模式与现有SSDA方法背后的核心思想非常不同，因此我们所提出的模型可以很容易地与它们相结合，以提高其性能。两个国家的最先进的SSDA方法的实证结果表明，该模型有效地清除了源标签内的噪声，并表现出优越的性能在基准数据集上的方法。我们的代码可在www.example.com上获得。
2023-03-24 cs.CV
Learning Domain-invariant Graph for Adaptive Semi-supervised Domain Adaptation with Few Labeled Source Samples
领域自适应的目的是从源领域推广模型，以解决相关但不同的目标领域中的任务。传统的领域自适应算法假设源域中有足够的标记数据，这些标记数据被视为先验知识。然而，当源域中只有少量标记数据时，这些算法将是不可行的，因此性能显着下降。为了解决这个问题，我们提出了一个域不变图学习（DGL）的方法，领域自适应只有少数标记的源样本。首先，DGL引入Nystrom方法来构造一个与目标域具有相似几何性质的塑性图。然后，DGL灵活地使用Nystrom近似误差来度量塑性图和源图之间的分歧，从几何角度形式化分布失配。通过最小化近似误差，DGL学习一个域不变的几何图来桥接源域和目标域。最后，我们将学习到的领域不变图与半监督学习相结合，进一步提出了一种自适应的半监督模型来处理跨领域问题。在流行数据集上的大量实验结果验证了DGL的优越性，特别是当只有少量标记源样本时。
2020-08-21 cs.CV
AVATAR: Adversarial self-superVised domain Adaptation network for TARget domain
The State University of New York at Binghamton（纽约州立大学宾汉姆顿分校）；Yonsei University（延世大学）
本文提出AVATAR算法，通过域对抗学习、自监督学习和样本选择策略，在深度聚类引导下同时减少域差异并增强判别能力，显著提升复杂无监督域适应任务的性能。
2023-05-08 cs.CV
Attract, Perturb, and Explore: Learning a Feature Alignment Network for Semi-supervised Domain Adaptation
Korea Advanced Institute of Science and Technology（韩国科学技术院）
虽然无监督领域自适应方法已被广泛采用在几个计算机视觉任务，它是更可取的，如果我们可以利用一些标记的数据，从新的领域在实际应用中遇到的。半监督领域自适应（SSDA）问题的新设置与领域自适应问题和半监督学习问题共享挑战。然而，最近的一项研究表明，传统的领域自适应和半监督学习方法往往导致不太有效或负迁移的SSDA问题。为了解释观测结果并解决SSDA问题，本文提出了目标域内的域内差异问题，这是迄今为止从未讨论过的。然后，我们证明，解决域内差异导致SSDA问题的最终目标。我们提出了一个SSDA框架，旨在通过缓解域内差异来对齐功能。我们的框架主要包括三个方案，即，吸引力扰动和探索首先，吸引方案全局最小化目标域内的域内差异。其次，我们证明了传统的对抗扰动方法与SSDA的不兼容性。然后，我们提出了一种域自适应对抗扰动方案，该方案以减少域内差异的方式扰动给定的目标样本。最后，探索方案通过选择性地对准与扰动方案互补的未标记目标特征，以与吸引方案互补的类方式局部对准特征。我们进行了广泛的实验领域自适应基准数据集，如DomainNet，家庭，办公室。我们的方法在所有数据集上都达到了最先进的性能。
2020-07-18 cs.CV
Self-supervised Domain Adaptation for Computer Vision Tasks
自监督视觉表示学习的最新进展在许多具有挑战性的计算机视觉基准测试上取得了显著的成功。然而，这些技术是否可以用于领域自适应还没有被探索。在这项工作中，我们提出了一种通用的方法，自我监督领域自适应，使用对象识别和语义分割的城市场景作为用例。针对简单的托词/辅助任务（如图像旋转预测），我们评估了不同的学习策略，以提高领域自适应的有效性，通过自我监督。此外，我们提出了两个互补的策略，以进一步提高领域自适应的准确性语义分割在我们的方法，包括预测层对齐和批量归一化校准。实验结果表明，适应水平相媲美的大多数研究领域自适应方法，从而，使自我监督作为一种新的替代达到领域自适应。该代码可在https://github.com/Jiaolong/self-supervised-da上获得。
2019-12-10 cs.CV cs.LG
Self-supervised Domain Adaptation in Crowd Counting
University of Arkansas（阿肯色大学）
自我训练的人群计数是计算机视觉的重要挑战之一，但尚未得到认真的研究。在实践中，完全监督的方法通常需要大量的人工注释资源。为了应对这一挑战，这项工作介绍了一种新的方法，利用现有的数据集与地面真相，以产生更强大的预测未标记的数据集，命名为领域自适应，在人群计数。当网络使用标记数据进行训练时，来自目标域的没有标记的样本也被添加到训练过程中。在这个过程中，除了并行设计的对抗训练过程之外，还计算并最小化熵图。在Shanghaitech，UCF_CC_50和UCF-QNRF数据集上的实验证明了我们的方法在跨域设置中比其他国家的艺术更普遍的改进。
2022-06-27 cs.CV
Automatic microscopic cell counting by use of unsupervised adversarial domain adaptation and supervised density regression
Washington University in St. Louis（圣路易斯华盛顿大学）
显微图像中准确的细胞计数对于医学诊断和生物学研究非常重要。然而，手动细胞计数非常耗时、繁琐，并且容易出现主观错误。我们提出了一种新的基于密度回归的自动细胞计数方法，减少了手动注释实验图像的需要。一个基于监督学习的密度回归模型（DRM）是用带注释的合成图像（源域）及其相应的地面真实密度图来训练的。建立领域自适应模型（DAM），将实验图像（目标域）映射到源域的特征空间。通过使用基于无监督学习的DAM和基于监督学习的DRM，可以估计给定目标图像的细胞密度图，从中可以计数细胞的数量。从实验免疫荧光显微图像的人胚胎干细胞的结果表明，所提出的计数方法的性能有前途。
2019-03-22 cs.CV
Unsupervised Cross-Modality Domain Adaptation for Vestibular Schwannoma Segmentation and Koos Grade Prediction based on Semi-Supervised Contrastive Learning
Radboud University Medical Center（拉德堡德大学医学中心）；The Netherlands Cancer Institute（荷兰癌症研究所）；Nanjing University of Information Science and Technology（南京信息工程大学）
领域自适应已被广泛采用，以在多个供应商和多个中心之间传输样式，以及补充缺失的模态。在这项挑战中，我们提出了一个无监督的领域自适应框架，用于跨模态前庭神经鞘瘤（VS）和耳蜗分割和Koos等级预测。我们从ceT 1和hrT 2图像中学习共享表示，并从潜在表示中恢复另一种模态，并且我们还利用VS分割和大脑分割的代理任务来限制领域自适应中图像结构的一致性。在生成缺失模态后，nnU-Net模型用于VS和耳蜗分割，而半监督对比学习预训练方法用于提高Koos等级预测的模型性能。在CrossMoDA验证阶段排行榜上，我们的方法在task 1中获得了4级，平均Dice得分为0.8394，在task 2中获得了2级，宏观平均均方误差为0.3941。我们的代码可在https://github.com/fiy2W/cmda2022.superpolymerization上获得。
2022-10-09 cs.CV
Uncertainty-Aware Adaptation for Self-Supervised 3D Human Pose Estimation
Indian Institute of Science（印度科学学院）；Google Research（谷歌研究院）
单目3D人体姿态估计的进步主要是由监督技术，需要大规模的2D/3D姿态注释。在没有任何丢弃不熟悉的分布外数据的规定的情况下，这些方法通常表现不稳定。为此，我们将3D人体姿势学习作为一个无监督的领域自适应问题。我们引入了MRP-Net，它构成了一个通用的深度网络骨干，其中两个输出头订阅了两种不同的配置; a）无模型联合定位和b）基于模型的参数回归。这样的设计使我们能够得到合适的措施，量化预测的不确定性，在姿态和关节级别的粒度。虽然仅对标记的合成样本进行监督，但自适应过程旨在最小化未标记目标图像的不确定性，同时最大化极端分布外数据集（背景）的不确定性。除了合成到真实的3D姿势自适应之外，联合不确定性还允许扩展自适应以适用于野外图像，即使在存在遮挡和截断场景的情况下也是如此。我们提出了一个全面的评估所提出的方法，并展示了最先进的性能基准数据集。
2022-03-29 cs.CV
Prototypical Cross-domain Self-supervised Learning for Few-shot Unsupervised Domain Adaptation
UC Berkeley（加州大学伯克利分校）；Nanjing University（南京大学）；Tsinghua University（清华大学）
无监督领域自适应（UDA）将预测模型从完全标记的源域转移到未标记的目标域。然而，在某些应用中，即使在源域中收集标签也是昂贵的，使得大多数以前的工作不切实际。为了解决这个问题，最近的工作进行了实例跨域自监督学习，然后是一个额外的微调阶段。然而，逐实例的自监督学习仅学习和对齐低级区分特征。在本文中，我们提出了一个端到端的原型跨域自监督学习（PCS）框架的Few-Shot无监督领域自适应（FUDA）。PCS不仅执行跨域低级特征对齐，而且还对跨域共享嵌入空间中的语义结构进行编码和对齐。我们的框架捕捉范畴明智的语义结构的数据域中的原型对比学习，并通过跨域原型自我监督进行功能对齐。与最先进的方法相比，PCS在Office、Vis-Home、VisDA-2017和DomainNet上分别将FUDA上不同领域对的平均分类准确率提高了10.5%、3.5%、9.0%和13.2%。我们的项目页面位于http://xyue.io/pcs-fuda/index.html
2021-03-31 cs.CV
A simple baseline for domain adaptation using rotation prediction
University of Maryland Baltimore County（马里兰大学巴尔的摩县分校）
近年来，领域自适应成为一个研究热点，并有着广泛的应用前景。我们的目标是使在一个领域中训练的模型适应另一个具有稀缺注释数据的领域。我们提出了一种基于自监督学习的简单而有效的方法，该方法优于或等同于大多数最先进的算法，例如对抗性领域自适应。我们的方法包括两个阶段：预测目标域上的随机旋转（自监督）以及源域的正确标签（监督），然后在目标域上使用自蒸馏。我们的简单方法在DomainNet数据集上实现了半监督领域自适应的最新结果。此外，我们观察到，流行的领域自适应基准的未标记的目标数据集不包含任何类别，除了测试类别。我们认为这引入了在许多实际应用中不存在的偏差。我们表明，从未标记的数据中去除这种偏差会导致最先进方法的性能大幅下降，而我们的简单方法相对稳健。
2019-12-26 cs.CV
Progressive Representation Adaptation for Weakly Supervised Object Localization
Tsinghua University（清华大学）；Virginia Tech（弗吉尼亚理工大学）；University of California, Merced（加州大学默塞德分校）
我们解决了弱监督对象定位的问题，只有图像级的注释可用于训练对象检测器。已经提出了许多方法来解决这个问题，通过挖掘对象的建议。然而，在对象建议中的大量噪声导致学习有区别的对象模型的模糊性。这种方法对模型初始化敏感，并且经常收敛到不期望的局部最小解。在本文中，我们提出通过渐进式表示自适应来克服这些缺点，其中包括两个主要步骤：1）分类自适应和2）检测自适应。在分类自适应中，我们将预训练的网络转移到多标签分类任务中，以识别图像中某个对象的存在。通过分类自适应步骤，网络学习特定于感兴趣的对象类别的区别性表示。在检测自适应，我们挖掘类特定的对象的建议，利用两个评分策略的基础上适应分类网络。特定于类的建议挖掘有助于从背景杂波中去除大量噪声，并从类似对象中消除潜在的混淆。我们进一步完善这些建议使用多个实例学习和分割线索。使用这些细化的对象边界框，我们微调了分类网络的所有层，并获得了一个完全自适应的检测网络。我们提出了详细的实验验证PASCAL VOC和ILSVRC数据集。实验结果表明，我们的渐进式表示自适应算法表现良好，对国家的最先进的方法。
2017-10-12 cs.CV
ESL: Entropy-guided Self-supervised Learning for Domain Adaptation in Semantic Segmentation
Sorbonne University（索邦大学）
虽然全监督深度学习为城市场景语义分割提供了良好的模型，但这些模型很难推广到具有不同照明或天气条件的新环境。此外，生成任务所需的大量像素级注释的成本很高。无监督领域自适应（UDA）是一种尝试解决这些问题的方法，以使这样的系统更具可扩展性。特别是，自监督学习（SSL）最近已成为一个有效的策略，UDA在语义分割。这种方法的核心是“伪标签”，即为目标数据分配高置信度类别预测作为伪标签，随后用作真标签的做法。为了收集伪标签，以前的作品通常依赖于最高的softmax分数，我们在这里认为这是一个不利的置信度测量。在这项工作中，我们提出了熵引导的自监督学习（ESL），利用熵作为置信度指标，以产生更准确的伪标签。在不同的UDA基准测试中，ESL始终优于强大的SSL基线，并实现了最先进的结果。
2020-06-15 cs.CV
D2DF2WOD: Learning Object Proposals for Weakly-Supervised Object Detection via Progressive Domain Adaptation
Rutgers University（罗格斯大学）；Samsung AI Center（三星人工智能中心）
弱监督目标检测（WSOD）模型试图利用图像级注释来代替准确但获得目标定位标签的成本。这常常导致推理时的不合标准的目标检测和定位。为了解决这个问题，我们提出了D2DF2WOD，这是一个双域全到弱监督目标检测框架，它利用合成数据，用精确的目标定位进行注释，以补充自然图像目标域，其中只有图像级标签可用。在其预热领域自适应阶段，该模型学习一个完全监督的对象检测器（FSOD），以提高目标域中的对象建议的精度，并在同一时间学习目标域特定的和检测感知的建议功能。在WSOD的主阶段，WSOD模型被专门调整到目标域。WSOD模型的特征提取器和对象建议生成器建立在微调的FSOD模型上。我们在五个双域图像基准上测试D2DF2WOD。结果表明，我们的方法的结果一致改善目标检测和定位相比，国家的最先进的方法。
2022-12-02 cs.CV
GeoAdapt: Self-Supervised Test-Time Adaptation in LiDAR Place Recognition Using Geometric Priors
CSIRO（联邦科学与工业研究组织）；Queensland University of Technology（昆士兰科技大学）
GeoAdapt通过几何一致性先验生成伪标签，以自监督测试时自适应方式缓解LiDAR地点识别中的域偏移问题，性能媲美全监督方法。
2023-11-29 cs.CV
CoMaL: Conditional Maximum Likelihood Approach to Self-supervised Domain Adaptation in Long-tail Semantic Segmentation
University of Arkansas（阿肯色大学）；Concordia University（康考迪亚大学）；West Virginia University（西弗吉尼亚大学）
本文提出CoMaL方法，通过条件最大似然和结构依赖建模解决长尾语义分割中的自监督域自适应问题，并在SYNTHIA/GTA到Cityscapes基准上显著超越现有方法。
2023-04-14 cs.CV
Universal Semi-Supervised Domain Adaptation by Mitigating Common-Class Bias
National University of Singapore (NUS)（新加坡国立大学）；Centre for Frontier AI Research (CFAR), Agency for Science, Technology and Research (A*STAR)（新加坡科技研究局前沿人工智能研究中心）；Institute for Infocomm Research (IR), Agency for Science, Technology and Research (A*STAR)（新加坡科技研究局信息通信研究所）
针对通用半监督域适应中公共类偏差导致模型过拟合的问题，提出先验引导的伪标签细化策略，在多个基准数据集上取得最佳性能并建立新基线。
2024-03-17 cs.CV
A Learnable Self-supervised Task for Unsupervised Domain Adaptation on Point Clouds
Fudan University（复旦大学）
深度神经网络在监督点云应用中已经取得了很好的性能，但是在监督学习方案中，手动注释是极其昂贵和耗时的。无监督领域自适应（UDA）通过仅使用源域中的标记数据训练模型，但使模型在目标域中具有良好的泛化能力来解决这个问题。现有的研究表明，使用源和目标域数据的自监督学习可以帮助提高训练模型的适应性，但它们都依赖于手工设计的自监督任务。在本文中，我们提出了一个可学习的自我监督的任务，并将其集成到一个基于自我监督的点云UDA架构。具体来说，我们提出了一个可学习的非线性变换，变换的一部分点云，以产生丰富和复杂的点云，同时保留原始的语义信息，和建议的自我监督的任务是重建原始点云从变换的。在UDA架构中，编码器在网络之间共享，用于自监督任务和点云分类或分割的主要任务，因此可以训练编码器以提取适合源和目标域数据的特征。在PointDA-10和PointSegDA数据集上的实验表明，该方法在点云UDA的分类和分割任务上都取得了新的性能。代码将公开提供。
2021-04-12 cs.CV
Cross-Domain Adaptive Clustering for Semi-Supervised Domain Adaptation
The University of Hong Kong（香港大学）；Sun Yat-sen University（中山大学）；Deepwise AI Lab（深睿医疗人工智能实验室）
在半监督领域自适应中，目标域中每个类的一些标记样本引导剩余目标样本的特征聚集在它们周围。然而，由于训练数据由来自源域的标记样本支配，因此训练模型不能产生目标域的高度区分的特征表示。这可能导致标记的和未标记的目标样本之间的断开以及未标记的目标样本和源域之间的未对准。在本文中，我们提出了一种新的方法，称为跨域自适应聚类来解决这个问题。为了同时实现域间和领域自适应，我们首先引入了一个对抗性的自适应聚类损失组的未标记的目标数据的特征到集群，并执行跨源和目标域的集群明智的特征对齐。我们进一步将伪标签应用于目标域中的未标记样本，并以高置信度保留伪标签。伪标记扩展了目标域中每个类中的“标记”样本的数量，从而为每个类产生更健壮和更强大的聚类核心，以促进对抗学习。在DomainNet、P2P-Home和Office等基准数据集上的实验表明，该方法在半监督领域自适应方面达到了最先进的性能.
2021-04-19 cs.CV
Cross-Domain Weakly-Supervised Object Detection through Progressive Domain Adaptation
The University of Tokyo（东京大学）
我们能在没有实例级注释的情况下检测各种图像域中的常见对象吗？在本文中，我们提出了一个新的任务，跨域弱监督目标检测，它解决了这个问题的框架。对于本文，我们可以访问源域中具有实例级注释的图像（例如，自然图像）和具有目标域中的图像级注释的图像（例如，水彩）。此外，在目标域中要检测的类是源域中的类的全部或子集。从一个完全监督的对象检测器，这是预先训练的源域，我们提出了一个两步渐进的领域自适应技术，通过微调检测器上的两种类型的人工和自动生成的样本。我们在新收集的包含三个图像域的数据集上测试了我们的方法，与性能最佳的基线相比，平均精度（mAP）提高了约5到20个百分点。
2018-03-30 cs.CV
Learning Cascaded Detection Tasks with Weakly-Supervised Domain Adaptation
Mercedes-Benz AG（梅赛德斯-奔驰股份公司）；University of Tübingen（图宾根大学）；Robert Bosch GmbH（罗伯特·博世有限公司）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）
为了应对自动驾驶的挑战，深度学习在处理日益复杂的任务（如3D检测或实例分割）方面至关重要。用于基于图像的检测任务的最新方法通过以级联方式操作来解决这种复杂性：它们首先提取2D限界框，基于该边界框推断附加属性，例如实例掩码。虽然这些方法表现良好，但一个关键的挑战仍然是缺乏准确和廉价的注释来应对日益增长的各种任务。合成数据提出了一个有前途的解决方案，但尽管在领域自适应研究的努力，合成和真实数据之间的差距仍然是一个悬而未决的问题。在这项工作中，我们提出了一个弱监督领域自适应设置利用级联检测任务的结构。特别是，我们学习仅从源域推断属性，同时利用2D边界框作为两个域中的弱标签来解释域偏移。我们进一步鼓励域不变的功能，通过类明智的功能对齐使用地面实况类信息，这是不可用的无监督设置。正如我们的实验所证明的那样，该方法与完全监督设置相比具有竞争力，同时大大优于无监督自适应方法。
2021-07-09 cs.CV
Proxyless Neural Architecture Adaptation for Supervised Learning and Self-Supervised Learning
Inha University（仁荷大学）；Kakao Enterprise（Kakao企业）
最近，神经结构搜索（NAS）方法已经被引入，并在许多基准测试中表现出令人印象深刻的性能。在这些NAS研究中，神经架构Transformer（NAT）旨在适应给定的神经架构，以提高性能，同时保持计算成本。然而，NAT缺乏可重复性，并且在网络权重训练之前需要额外的架构自适应过程。在本文中，我们提出了无代理的神经架构适应，是可再生的和有效的。我们的方法可以应用于监督学习和自监督学习。所提出的方法在各种架构上表现出稳定的性能。在两个数据集上进行了广泛的再现性实验，即，CIFAR-10和Tiny Imagenet的实验结果表明，该方法的性能明显优于NAT，并且适用于其他模型和数据集。
2022-05-15 cs.CV cs.LG
Multi-Source domain adaptation via supervised contrastive learning and confident consistency regularization
CentraleSupélec（中央理工-高等电力学院）；VitaDX International（VitaDX国际公司）
多源无监督领域自适应（多源UDA）旨在从多个标记的源域中学习模型，同时在训练时只有未标记数据可用的不同目标域上表现良好。为了对齐源和目标特征分布，最近的一些作品使用源和目标显式统计匹配，如特征矩或类质心。然而，这些方法不能保证跨域的类条件分布对齐。在这项工作中，我们提出了一个新的框架，称为对比多源领域自适应（CMSDA）的多源UDA，解决这个限制。通过交叉熵最小化从内插的源示例中学习鉴别特征，通过一致性正则化和硬伪标记从目标示例中学习鉴别特征。同时，利用内插源示例通过监督对比损失的内插版本来对齐源类条件分布。这种对齐导致更一般和可转移的特征，这进一步提高了目标域上的泛化。在三个标准的多源UDA数据集上进行了广泛的实验，我们的方法报告了最先进的结果。
2021-09-27 cs.CV
SuperCM: Improving Semi-Supervised Learning and Domain Adaptation through differentiable clustering
Department of Physics and Technology（物理与技术系）；Norwegian Computing Center（挪威计算中心）；Pioneer Centre for AI（人工智能先锋中心）
本文提出SuperCM，通过显式引入可微聚类模块并利用有监督数据计算质心，以端到端方式改进半监督学习和无监督域自适应，在低监督场景下表现突出，既可独立使用也可作为正则化器。
2025-07-18 cs.CV
Unsupervised Domain Adaptation for Vestibular Schwannoma and Cochlea Segmentation via Semi-supervised Learning and Label Fusion
Vanderbilt University（范德堡大学）
从磁共振成像（MRI）中自动分割前庭神经鞘瘤（VS）肿瘤和耳蜗的方法对VS治疗计划至关重要。虽然监督方法在VS分割中取得了令人满意的性能，但它们需要专家的全面注释，这是费力和耗时的。在这项工作中，我们的目标是在无监督的领域自适应设置中解决VS和耳蜗分割问题。我们提出的方法利用图像级域对齐来最小化域发散，并利用半监督训练来进一步提高性能。此外，我们建议通过噪声标签校正来融合从多个模型预测的标签。在MICCAI 2021 crossMoDA挑战赛中，我们在最终评估排行榜上的结果表明，我们提出的方法取得了令人满意的分割性能，VS肿瘤和耳蜗的平均骰子得分分别为79.9%和82.5%，ASSD分别为1.29 mm和0.18 mm。通过我们的方法实现的耳蜗ASSD优于所有其他竞争方法以及监督nnU-Net。
2022-01-25 cs.CV
Adversarial Semi-Supervised Domain Adaptation for Semantic Segmentation: A New Role for Labeled Target Samples
INSA Rouen Normandie（鲁昂诺曼底国立应用科学学院）
针对语义分割半监督域自适应中对抗学习基线对标记目标样本利用不足的问题，提出新训练损失、数据混合补充方法及熵驱动无监督样本选择策略，在多个基准上取得有竞争力的性能。
2023-12-12 cs.CV
Semi-Supervised Diversity-Aware Domain Adaptation for 3D Object detection
Warsaw University of Technology（华沙技术大学）；IDEAS NCBR
本文提出了一种基于神经激活模式的半监督领域适应方法，通过少量多样化样本标注提升3D目标检测在跨领域应用中的性能。
2025-12-31 cs.CV
Self-Supervised Deep Visual Odometry with Online Adaptation
Peking University（北京大学）；PKU-SenseTime Machine Vision Joint Lab（北京大学-商汤科技机器视觉联合实验室）
自监督VO方法在从视频中联合估计相机姿态和深度方面取得了巨大成功。然而，与大多数数据驱动方法一样，现有的VO网络在面对与训练数据不同的场景时性能会显着下降，这使得它们不适合实际应用。在本文中，我们提出了一种在线Meta学习算法，使VO网络不断适应新的环境中的自我监督的方式。该方法利用卷积长短期记忆（convLSTM）来聚合过去丰富的时空信息。该网络能够记忆和学习其过去的经验，以更好地估计和快速适应当前帧。在开放环境下运行虚拟现实时，为了适应不断变化的环境，我们提出了一种在线特征对齐方法，通过对齐不同时刻的特征分布来实现。我们的VO网络能够无缝适应不同的环境。在看不见的室外场景，虚拟到现实世界和室外到室内环境中进行的大量实验表明，我们的方法始终优于最先进的自监督VO基线。
2020-05-13 cs.CV
Is user feedback always informative? Retrieval Latent Defending for Semi-Supervised Domain Adaptation without Source Data
KAIST（韩国科学技术院）；Lunit Inc.（Lunit公司）
针对半监督域适应中用户反馈存在负偏置的问题，提出检索潜在防御方法，利用潜在防御样本平衡监督信号，提升多种SemiSDA方法在图像分类、分割和医学影像等任务上的性能。
2024-07-22 cs.CV
Semi-Supervised Domain Adaptation for Wildfire Detection
Alchera（阿尔切拉公司）；Seoul National University（首尔国立大学）
本文提出半监督域自适应野火检测框架 LADA，结合位置感知教师-学生结构与大规模新数据集，仅用 1% 目标域标注数据即在 HPWREN 上提升 3.8% mAP。
2024-04-02 cs.CV
