Maximum Classifier Discrepancy for Unsupervised Domain Adaptation
The University of Tokyo（东京大学）；RIKEN（理化学研究所）
在这项工作中，我们提出了一种无监督的领域自适应的方法。许多对抗性学习方法训练域分类器网络以区分作为源或目标的特征，并训练特征生成器网络以模仿特征。这些方法存在两个问题。首先，域分类器仅尝试将特征区分为源或目标，因此不考虑类之间的任务特定的决策边界。因此，经过训练的生成器可以在类边界附近生成模糊的特征。其次，这些方法的目标是完全匹配不同领域之间的特征分布，这是困难的，因为每个领域的特点。为了解决这些问题，我们引入了一种新的方法，试图通过利用特定于任务的决策边界来调整源和目标的分布。我们建议最大化两个分类器输出之间的差异，以检测远离源支持的目标样本。特征生成器学习在支持附近生成目标特征，以最小化差异。我们的方法优于其他方法在几个数据集的图像分类和语义分割。代码可在\url{https://github.com/mil-tokyo/MCD_DA}上获得
2018-04-03 cs.CV
Attract, Perturb, and Explore: Learning a Feature Alignment Network for Semi-supervised Domain Adaptation
Korea Advanced Institute of Science and Technology（韩国科学技术院）
虽然无监督领域自适应方法已被广泛采用在几个计算机视觉任务，它是更可取的，如果我们可以利用一些标记的数据，从新的领域在实际应用中遇到的。半监督领域自适应（SSDA）问题的新设置与领域自适应问题和半监督学习问题共享挑战。然而，最近的一项研究表明，传统的领域自适应和半监督学习方法往往导致不太有效或负迁移的SSDA问题。为了解释观测结果并解决SSDA问题，本文提出了目标域内的域内差异问题，这是迄今为止从未讨论过的。然后，我们证明，解决域内差异导致SSDA问题的最终目标。我们提出了一个SSDA框架，旨在通过缓解域内差异来对齐功能。我们的框架主要包括三个方案，即，吸引力扰动和探索首先，吸引方案全局最小化目标域内的域内差异。其次，我们证明了传统的对抗扰动方法与SSDA的不兼容性。然后，我们提出了一种域自适应对抗扰动方案，该方案以减少域内差异的方式扰动给定的目标样本。最后，探索方案通过选择性地对准与扰动方案互补的未标记目标特征，以与吸引方案互补的类方式局部对准特征。我们进行了广泛的实验领域自适应基准数据集，如DomainNet，家庭，办公室。我们的方法在所有数据集上都达到了最先进的性能。
2020-07-18 cs.CV
Discriminative Joint Probability Maximum Mean Discrepancy (DJP-MMD) for Domain Adaptation
Huazhong University of Science and Technology（华中科技大学）
在领域自适应中，最大平均差异（MMD）被广泛采用来衡量源域和目标域分布之间的差异。许多现有的领域自适应方法基于联合MMD，其被计算为边缘分布差异和条件分布差异的（加权）和;然而，更自然的度量可以是它们的联合概率分布差异。此外，大多数度量仅旨在提高域之间的可转移性，而忽略了不同类别之间的可区分性，这可能导致分类性能不足。为了解决这些问题，本文提出了判别式联合概率MMD（DJP-MMD），以取代领域自适应中常用的联合MMD。它具有两个理想的性质：1）它为计算分布差异提供了一个新的理论基础，它更简单，更精确; 2）它同时增加了可传递性和可区分性。我们通过将其嵌入到联合概率领域自适应框架中来验证其性能。在6个图像分类数据集上的实验表明，该方法的分类性能优于传统的MMD方法。
2020-04-10 cs.CV cs.LG stat.ML
Domain Adaptation and Image Classification via Deep Conditional Adaptation Network
Guangdong Polytechnic Normal University（广东技术师范大学）；Sun Yat-Sen University（中山大学）；City University of Hong Kong（香港城市大学）
无监督领域自适应的目的是将在源域上训练的有监督模型推广到未标记的目标域。特征空间的边缘分布对齐被广泛用于减少源域和目标域之间的域差异。但是，它假设源域和目标域共享相同的标签分布，这限制了它们的应用范围。在本文中，我们考虑了一个更一般的应用场景，源和目标域的标签分布是不一样的。在这种情况下，基于边际分配的方法将容易受到负迁移的影响。为了解决这个问题，我们提出了一种新的无监督领域自适应方法，深度条件自适应网络（DCAN），基于特征空间的条件分布对齐。具体而言，通过最小化源域和目标域深度特征条件分布之间的条件最大均值离散度来减小域差异，通过最大化样本与预测标签之间的互信息来提取目标域的判别信息。此外，DCAN可用于解决一种特殊的场景，即部分无监督领域自适应，其中目标领域类别是源领域类别的子集。无监督领域自适应和部分无监督领域自适应的实验表明，DCAN取得了优于国家的最先进的方法的分类性能。
2022-05-03 cs.CV
Sliced Wasserstein Discrepancy for Unsupervised Domain Adaptation
Apple Inc（苹果公司）
在这项工作中，我们连接两个不同的概念，无监督领域自适应：域之间的特征分布对齐，利用特定于任务的决策边界和Wasserstein度量。我们提出的切片Wasserstein差异（SWD）的目的是捕捉任务特定的分类器的输出之间的相异性的自然概念。它提供了一个几何上有意义的指导，以检测远离源的支持的目标样本，并实现了端到端的可训练方式的有效分布对齐。通过实验验证了该方法在数字和符号识别、图像分类、语义分割、目标检测等方面的有效性和通用性。
2019-03-10 cs.CV cs.LG stat.ML
Trust-Aware Joint Feature-Prediction Discrepancy for Robust Domain Adaptation
School of Engineering and Built Environment, Griffith University, Australia（工程与环境学院，格里菲斯大学，澳大利亚）
提出信任感知域适应框架，通过联合特征-预测差异（JFPD）结合不确定性信任和语义对齐信任，实现可靠性感知的域差异估计，提升域适应性能。
2026-05-24 cs.AI cs.CV cs.LG
Cross-Domain Gradient Discrepancy Minimization for Unsupervised Domain Adaptation
University of Electronic Science and Technology of China（电子科技大学）
无监督领域自适应（UDA）旨在将从标记良好的源领域学习到的知识推广到未标记的目标领域。最近，具有两个不同分类器（双分类器）的对抗性领域自适应已被引入到UDA中，其有效地对齐不同领域之间的分布。以前的双分类器对抗学习方法只关注两个不同分类器输出之间的相似性。然而，输出的相似性不能保证目标样本的准确性，即，即使两个分类器之间的差异很小，目标样本也可能匹配到错误的类别。为了挑战这个问题，在本文中，我们提出了一个跨域梯度差异最小化（CGDM）方法，显式地最小化由源样本和目标样本产生的梯度的差异。具体地说，梯度给出了目标样本的语义信息的线索，因此它可以作为一个很好的监督，以提高目标样本的准确性。为了计算目标样本的梯度信号，我们进一步通过基于聚类的自监督学习获得目标伪标签。在三个广泛使用的UDA数据集上进行的大量实验表明，我们的方法超越了许多以前的最先进的方法。代码可在https://github.com/lijin118/CGDM上获得。
2021-06-08 cs.AI cs.CV cs.LG
Synthetic to Real Adaptation with Generative Correlation Alignment Networks
Boston University（波士顿大学）
从3D CAD模型渲染的合成图像对于增强对象识别算法的训练数据是有用的。然而，生成的图像是非真实感的，并且不匹配真实图像统计。这会导致较大的域差异，导致在合成数据上训练的模型在真实域上表现不佳。最近的工作已经显示了深度卷积神经网络生成逼真图像的巨大潜力，但尚未利用生成模型来解决合成到真实领域自适应。在这项工作中，我们提出了一个深度生成相关对齐网络（DGCAN）合成图像使用一种新的域自适应算法。DGCAN利用形状保持损失和低水平的统计匹配损失来最小化深特征空间中合成图像和真实图像之间的域差异。实验表明，在新生成的数据上训练现成的分类器可以显着提高在真实图像域（PASCAL VOC 2007基准和Office数据集）上测试时的性能，改进了几种现有的方法。
2017-03-18 cs.CV
Towards Self-similarity Consistency and Feature Discrimination for Unsupervised Domain Adaptation
Zhejiang University（浙江大学）；Alibaba Group（阿里巴巴集团）
无监督领域自适应的最新进展主要集中在通过全局分布对齐来学习共享表示，而没有考虑跨领域的类别信息。然而，类信息的忽略可能导致部分对齐（甚至不对齐）和较差的泛化性能。对于全面的对齐，我们认为，在源域中的不同功能之间的相似性应该是一致的，在目标域。基于这一假设，我们提出了一个新的域差异度量，即，自相似性一致性（SSC），强制特征结构在域之间保持一致。著名的相关对齐（CORAL）被证明是一个特殊的情况下，和次优措施，我们提出的SSC。此外，我们还建议通过结合深度表示的判别信息来减轻部分对齐和未对齐的副作用。具体而言，一个非常简单和有效的特征范数约束被用来扩大类间样本的差异。它减轻了执行自适应时严格对齐的要求，因此显著提高了自适应性能。在视觉领域自适应任务上的大量实验证明了我们提出的SSC度量和特征判别方法的有效性。
2019-04-13 cs.CV
Cross-Modal Domain Adaptation in Brain Disease Diagnosis: Maximum Mean Discrepancy-based Convolutional Neural Networks
本文针对脑疾病诊断中标注数据稀缺及跨模态泛化困难的问题，提出将最大均值差异（MMD）域自适应方法与卷积神经网络（CNN）结合，在Kaggle数据集上实现CT与MRI间的跨模态知识迁移，有效提升了诊断准确性和效率。
2024-05-06 cs.CV cs.LG
Deep Cross-modality Adaptation via Semantics Preserving Adversarial Learning for Sketch-based 3D Shape Retrieval
由于2D草图和3D形状之间存在很大的跨模态差异，因此通过草图检索3D形状是一项非常具有挑战性的任务。为了解决这个问题，本文提出了一个新的框架来学习有区别的深度跨模态适应模型。具体来说，我们首先分别采用两个度量网络，然后是两个深度卷积神经网络（CNN），基于重要性感知度量学习方法学习特定于模态的判别特征。随后，我们显式地引入了一个跨模态转换网络来补偿两种模态之间的分歧，它可以将2D草图的特征转换到3D形状的特征空间。我们开发了一种基于对抗学习的方法来训练转换模型，通过同时增强两种模态的数据分布之间的整体相关性，并通过最小化跨模态平均差异项来减轻局部语义分歧。在SHREC 2013和SHREC 2014数据集上的实验结果清楚地表明，与最先进的方法相比，我们提出的模型具有更好的检索性能。
2018-07-04 cs.CV
Crucial Semantic Classifier-based Adversarial Learning for Unsupervised Domain Adaptation
Baidu Inc.（百度公司）；Shenyang Institute of Automation, Chinese Academy of Sciences（中国科学院沈阳自动化研究所）；University of Science and Technology of China（中国科学技术大学）；Hunan University（湖南大学）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）
无监督领域自适应（UDA）是一种旨在探索从一个已标记的源域到一个相关的未标记的目标域的可转移特征的方法，已经得到了广泛的发展。然而，作为主流方法之一，现有的基于对抗的方法忽略了过滤无关的语义知识，阻碍了自适应性能的提高。此外，它们还需要一个额外的域映射器，以使提取器产生混乱的表示，但离散设计可能会导致模型崩溃。为了解决上述问题，我们提出了基于关键语义分类器的对抗学习（CSCAL），它更加关注关键语义知识的传递，并利用分类器隐含地扮演领域鉴别器的角色，而无需额外的网络设计。具体来说，在类内对齐中，设计了一个配对级别离散（PLD）来传递关键的语义知识。此外，基于分类器的预测，一个核Norm-based离散（NND）的形成，考虑类间的明智的信息，提高适应性能。此外，CSCAL可以毫不费力地合并到不同的UDA方法作为正则化，并显着提高其性能。
2023-02-03 cs.CV
A Novel Unsupervised Camera-aware Domain Adaptation Framework for Person Re-identification
Nanjing University（南京大学）；The University of Sydney（悉尼大学）；University of Wollongong（伍伦贡大学）
无监督跨域人员再识别（Re-ID）面临两个关键问题。一是源域和目标域之间的数据分布不一致，二是目标域中标签信息的缺乏。本文从表示学习的角度对这些问题进行了探讨。对于第一个问题，我们强调存在的摄像机级子域作为一个独特的特征的人重新ID，并开发摄像机感知的领域自适应，以减少差异，不仅在源和目标域之间，而且在这些子域。对于第二个问题，我们利用目标域的每个摄像机的时间连续性来创建区分信息。这是通过在每个批次中动态生成在线三元组来实现的，以便最大限度地利用训练过程中稳步改进的特征表示。结合上述两种方法，提出了一种新的无监督深度领域自适应框架，并在基准数据集上进行了实验和消融研究，证明了其优越性和有趣的性质。
2019-08-11 cs.CV
HoMM: Higher-order Moment Matching for Unsupervised Domain Adaptation
Zhejiang University（浙江大学）；Alibaba DAMO Academy, Alibaba Group（阿里巴巴集团达摩院）
最小化不同领域间特征分布的差异是无监督领域自适应最有前途的方向之一。从分布匹配的角度来看，现有的基于差异的方法大多是针对二阶或更低阶统计量的匹配，而对于非高斯分布的统计特征表达有限。在这项工作中，我们探讨了使用高阶统计量（主要是指三阶和四阶统计量）进行域匹配的好处。提出了一种高阶矩匹配（HoMM）方法，并将其推广到再生核希尔伯特空间（RKHS）.特别地，我们提出的HoMM可以执行任意阶矩张量匹配，我们证明了一阶HoMM等价于最大均值离散（MMD），二阶HoMM等价于相关对齐（CORAL）。此外，三阶和四阶矩张量匹配预计将执行全面的域对齐，因为高阶统计量可以近似更复杂的非高斯分布。此外，我们还利用伪标记的目标样本来学习目标域中的区分表示，这进一步提高了传输性能。进行了大量的实验，表明我们提出的HoMM一贯优于现有的矩匹配方法的大幅度提高。代码可从\url{https://github.com/chenchao666/HoMM-Master}获得
2019-12-27 cs.CV
AVATAR: Adversarial self-superVised domain Adaptation network for TARget domain
The State University of New York at Binghamton（纽约州立大学宾汉姆顿分校）；Yonsei University（延世大学）
本文提出AVATAR算法，通过域对抗学习、自监督学习和样本选择策略，在深度聚类引导下同时减少域差异并增强判别能力，显著提升复杂无监督域适应任务的性能。
2023-05-08 cs.CV
Joint Attention-Driven Domain Fusion and Noise-Tolerant Learning for Multi-Source Domain Adaptation
Harbin Engineering University（哈尔滨工程大学）；The Hong Kong university of Science and Technology（香港科技大学）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
多源无监督领域自适应作为一种有效利用数据的研究，将知识从多个具有标记数据的源领域转移到一个未标记的目标领域。然而，不同域之间的分布差异和目标域中的噪声伪标签都导致了多源无监督领域自适应方法的性能瓶颈。有鉴于此，我们提出了一种方法，将注意力驱动的域融合和噪声容忍学习（ADNT），以解决上述两个问题。首先，我们建立了一个相反的注意力结构，以执行特征之间的消息传递，并诱导域移动。通过这种方法，也可以显着提高的特征的区分度，同时减少域的差异。其次，根据无监督领域自适应训练的特点，设计了一种自适应反向交叉熵损失，直接对伪标签的生成施加约束。最后，结合这两种方法，在几个基准上的实验结果进一步验证了我们提出的ADNT的有效性，并表现出优于国家的最先进的方法的性能。
2022-10-06 cs.CV
Semi-supervised Domain Adaptation via Sample-to-Sample Self-Distillation
Pohang University of Science Technology (POSTECH)（浦项科技大学）
半监督领域自适应（Semi-supervised domain adaptation，SSDA）是指在给定一个大的标注数据集的情况下，利用少量的标注样本使学习器适应新的领域。在本文中，我们提出了一种基于对的SSDA方法，该方法使用样本对自蒸馏将模型适应于目标域。每个样本对由来自标记数据集的教师样本组成（即，源或标记的目标）及其来自未标记数据集的学生样本（即，未标记的目标）。我们的方法通过在教师和学生之间传递中间风格来生成辅助特征，然后通过最小化学生和辅助特征之间的输出差异来训练模型。在培训过程中，助理逐渐弥合这两个领域之间的差异，从而使学生能够轻松地向老师学习。标准基准测试的实验结果表明，我们的方法有效地最大限度地减少了域间和域内的差异，从而实现了显着的改进，最近的方法。
2021-11-29 cs.CV
COD: Learning Conditional Invariant Representation for Domain Adaptation Regression
School of Mathematics, Sun Yat-Sen University（中山大学数学学院）；School of Mathematics, Jiaying University（嘉应学院数学学院）
针对分类场景的条件分布对齐方法不适用于连续输出的域适应回归问题，本文提出条件算子差异COD刻画连续条件的分布差异，构建基于COD的条件不变表示学习模型，理论与实验均验证了其有效性与优越性。
2024-08-13 cs.CV cs.LG
ProSFDA: Prompt Learning based Source-free Domain Adaptation for Medical Image Segmentation
Northwestern Polytechnical University（西北工业大学）
在不同情况下采集的医学图像之间存在的域差异使得部署用于临床使用的预训练的医学图像分割模型成为主要障碍。由于数据量大和隐私问题，使用预先训练好的模型分发训练数据的可能性很小，因此基于伪标签或先验知识的无源无监督领域自适应（SFDA）方法得到了越来越多的研究。然而，当域差异较大时，基于伪标签的SFDA所使用的图像特征和概率图以及先验指导的SFDA所使用的一致先验假设和先验预测网络可能变得不那么可靠。在本文中，我们提出了一种基于\textbf{Pro} mpt学习的\textbf{SFDA}（\textbf{ProSFDA}）方法用于医学图像分割，其目的是通过显式地最小化域差异来提高域自适应的质量。具体来说，在提示学习阶段，我们通过向目标域图像添加域感知提示来估计源域图像，然后通过最小化统计对齐损失来优化提示，从而提示源模型对（改变的）目标域图像生成可靠的预测。在特征对齐阶段，我们还将目标域图像的特征与它们的样式增强对应物对齐，以优化源模型，从而推动模型提取紧凑的特征。我们在两个多领域医学图像分割基准上评估了我们的ProSFDA。我们的研究结果表明，拟议的ProSFDA大大优于其他SFDA的方法，甚至是可比的UDA方法。代码将在\url{https://github.com/ShishuaiHu/ProSFDA}上提供。
2022-11-21 cs.CV
Network Architecture Search for Domain Adaptation
Stanford University（斯坦福大学）；Boston University（波士顿大学）
深度网络已经被用于学习用于领域自适应的可转移表示。现有的深度领域自适应方法系统地采用专门为图像分类任务设计的流行手工网络，导致次优的领域自适应性能。在本文中，我们提出了神经架构搜索领域自适应（NASDA），一个原则框架，利用可微神经架构搜索，以获得最佳的网络架构领域自适应任务。NASDA设计了两种新的训练策略：神经结构搜索与多内核最大均值离散，以获得最佳的架构，和对抗性训练之间的特征生成器和一批分类器，以巩固的特征生成器。我们的实验表明，NASDA导致国家的最先进的性能在几个领域自适应基准。
2020-08-13 cs.CV
An Unsupervised Domain Adaptation Model based on Dual-module Adversarial Training
University of Kansas（堪萨斯大学）；Ryerson University（瑞尔森大学）
在本文中，我们提出了一个双模块的网络架构，采用域判别功能模块，鼓励域不变特征模块学习更多的域不变特征。所提出的架构可以应用于任何利用域不变特征进行无监督领域自适应的模型，以提高其提取域不变特征的能力。我们进行实验的领域对抗训练的神经网络（DANN）模型作为一个代表性的算法。在训练过程中，我们向两个模块提供相同的输入，然后分别提取它们的特征分布和预测结果。我们提出了一个差异损失，发现预测结果和两个模块之间的特征分布的差异。通过最大化特征分布损失和最小化预测结果差异的对抗性训练，鼓励这两个模块分别学习更多的域区分性和域不变特征。进行了广泛的比较评估，所提出的方法优于国家的最先进的无监督领域自适应任务。
2021-12-31 cs.CV cs.LG
Learning Target Domain Specific Classifier for Partial Domain Adaptation
Sun Yat-Sen University（中山大学）；Yitu Technology（依图科技）
无监督领域自适应（UDA）的目的是减少知识从有标记的源域向无标记的目标域转移时的分布差异。以前的UDA方法假设源域和目标域共享相同的标签空间，这在实践中是不现实的，因为目标域的标签信息是不可知的。本文重点讨论了一种更现实的UDA场景，即部分领域自适应（PDA），其中目标标签空间被归入源标签空间。在PDA场景中，目标域中不存在的源离群值可能会错误地匹配到目标域（技术上称为负转移），导致UDA方法的性能下降。提出了一种新的基于目标领域特定分类器学习的领域自适应（TSCDA）方法。TSCDA提出了一种软加权最大平均差异准则，以部分对齐特征分布和减轻负迁移。此外，它还使用伪标签和多个辅助分类器为目标域学习目标特定的分类器，以进一步解决分类器移位问题。一个名为Peers Assisted Learning的模块用于最小化多个目标特定分类器之间的预测差异，这使得分类器对目标域更具鉴别力。在三个PDA基准数据集上进行的大量实验表明，TSCDA的性能优于其他最先进的方法，例如，$4\%$和$5.6\%$平均分别在Office-31和家庭办公室。
2020-08-25 cs.CV
Learning Smooth Representation for Unsupervised Domain Adaptation
Tongji University（同济大学）；New Jersey Institute of Technology（新泽西理工学院）；King Abdulaziz University（阿卜杜勒阿齐兹国王大学）；Fudan University（复旦大学）
典型的基于对抗训练的无监督领域自适应方法在源数据集和目标数据集高度复杂或数据分布之间存在较大差异时容易受到攻击。最近，已经探索了几种基于Lipschitz约束的方法。满足Lipschitz连续性保证了目标域上的显着性能。然而，他们缺乏一个数学分析，为什么Lipschitz约束是有益的无监督领域自适应，通常表现不佳的大规模数据集。在本文中，我们采取的原则，利用Lipschitz约束进一步讨论它如何影响的误差界的无监督领域自适应。它们之间的连接建立和Lipschitzness如何减少误差界的说明。定义\textbf{local smooth discrepancy}以逐点方式测量目标分布的Lipschitz性。在构建深度端到端模型时，为了确保无监督领域自适应的有效性和稳定性，我们提出的优化策略考虑了三个关键因素，即，目标域的样本量、样本的维度和批量。实验结果表明，我们的模型在几个标准的基准测试中表现良好。我们的消融研究表明，目标域的样本量，样本的维数和批量大小确实极大地影响基于Lipschitz约束的方法处理大规模数据集的能力。代码可在https://github.com/CuthbertCai/SRDA上获得。
2021-08-16 cs.CV
Multi-Adversarial Domain Adaptation
Tsinghua University（清华大学）
深度领域自适应的最新进展表明，对抗学习可以嵌入到深度网络中，以学习可转移的特征，从而减少源域和目标域之间的分布差异。现有的基于单域自适应的领域对抗性自适应方法只对源数据和目标数据的分布进行了调整，而没有利用复杂的多模态结构。在本文中，我们提出了一个多对抗领域自适应（MADA）的方法，它捕获多模结构，使细粒度的对齐不同的数据分布的基础上，多个域鉴别器。自适应可以通过随机梯度下降来实现，其中梯度通过线性时间中的反向传播来计算。经验证据表明，该模型优于国家的最先进的方法在标准的领域自适应数据集。
2018-09-04 cs.CV
Domain-Augmented Domain Adaptation
Western University（韦仕敦大学）；Nanyang Technological University（南洋理工大学）
无监督领域自适应（UDA）通过减少跨领域差异，实现了从标记源领域到未标记目标领域的知识转移。然而，大多数的研究是基于从源域到目标域的直接适应，并遭受了大的域差异。为了克服这一挑战，在本文中，我们提出了领域增强的领域自适应（DADA），以产生伪域，具有较小的差异与目标领域，以提高知识转移过程中，通过最大限度地减少目标领域和伪域之间的差异。此外，我们设计了一个伪标记方法DADA从目标域的表示投影到多个伪域，并采取平均预测的分类从伪域作为伪标签。我们使用最先进的领域自适应方法在四个基准数据集上进行了广泛的实验：Office Home，Office-31，VisDA 2017和Digital数据集。结果证明了该模型的优越性。
2022-02-21 cs.AI cs.CV
Unlocking Optical Prior: Spectrum-Guided Knowledge Transfer for SAR Generalized Category Discovery
College of Electronic Science and Technology, National University of Defense Technology（电子科学与技术学院，国防科技大学）；State Key Laboratory of Complex System Simulation and Modeling Technology（复杂系统仿真与建模技术国家重点实验室）
本文提出基于频谱引导的知识迁移框架，通过频谱差异建模提升SAR图像中光学先验的适应性，实现广义类别发现任务的高效性能。
2026-04-24 cs.CV
Towards Corruption-Agnostic Robust Domain Adaptation
NLPR, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所模式识别国家重点实验室）；School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院）；Youtu Lab, Tencent Inc.（腾讯优图实验室）；CASIA-LLvision Joint Lab（中国科学院自动化研究所与联影智能联合实验室）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Shenzhen Research Institute of Big Data（深圳市大数据研究院）
几十年来，领域自适应研究取得了很大进展。现有的工作都是基于一个理想的假设，即测试目标域是独立同分布的。训练目标域。然而，由于不可预测的腐败（例如，噪声和模糊），越来越多地要求领域自适应方法在目标域上是破坏鲁棒的。在本文中，我们研究了一个新的任务，腐败不可知的鲁棒领域自适应（CRDA）：是准确的原始数据和鲁棒的目标域上的不可用的训练腐败。由于大的域差异和无监督的目标域，这个任务是不平凡的。我们观察到，流行的领域自适应和腐败鲁棒性的方法的简单组合具有次优的CRDA结果。我们提出了一种新的方法，基于对CRDA的两个技术见解：1）一个易于插入的模块，称为域离散生成器（DDG），生成的样本，扩大域的差异，以模仿不可预测的腐败; 2）一个简单但有效的教师-学生计划与对比损失，以增强对目标域的约束。实验证明，DDG保持甚至提高了对原始数据的性能，并实现了更好的腐败鲁棒性基线。
2021-04-21 cs.CV cs.LG
Manifold Criterion Guided Transfer Learning via Intermediate Domain Generation
Chongqing University（重庆大学）；Nanyang Technological University（南洋理工大学）；Harbin Institute of Technology（哈尔滨工业大学）；Nanjing University of Science and Technology（南京理工大学）；Chinese University of Hong Kong (Shenzhen)（香港中文大学（深圳））
在许多实际的迁移学习场景中，特征分布在源域和目标域之间是不同的（即非独立同分布）。最大平均差异（MMD）作为一种域差异度量，在无监督领域自适应（DA）中取得了良好的性能。我们认为，基于MMD的DA方法忽略了数据局部性结构，这在一定程度上会导致负迁移效应。局部性在最小化边缘分布下的非线性局部差异方面起着重要作用。为了更好地利用领域局部性，本文提出了一种新的基于局部生成差异度量的中间领域生成学习--流形准则引导的迁移学习（MCTL）.该方法的优点在于：1）首次提出了流形准则（MC）的概念，作为域间分布匹配的有效性度量，并在满足MC的情况下实现领域自适应：2）该MC通过最小化局部域差异，能够很好地指导与目标域分布相似的中间域的生成; 3）提出了一种全局生成差异度量（GGDM），使得全局和局部差异都能有效地减少; 4）在完美域生成假设下，提出了一种简化的MCTL（MCTL-S），用于更一般的学习场景。在多个基准视觉迁移任务上的实验结果表明，该方法与现有的生成式迁移方法相比具有明显的优越性。源代码可以在https://github.com/wangshanshanCQU/MCTL上找到。
2019-03-25 cs.CV
Generalized Domain Conditioned Adaptation Network
School of Computer Science and Technology, Beijing Institute of Technology（北京理工大学计算机科学与技术学院）；Department of Automation, Tsinghua University（清华大学自动化系）
领域自适应（DA）试图将在标记的源领域中学习到的知识转移到未标记但相关的目标领域，而不需要大量的目标监督。DA的最新进展主要通过对齐源和靶分布来进行。尽管取得了显著的成功，但当源域和目标域遇到较大的分布差异时，自适应性能仍然会相应下降。我们认为这种限制可能归因于对领域专用特征的探索不足，因为大多数研究仅仅集中在特定任务层的领域通用特征学习，并集成完全共享的卷积网络（convnets）来生成两个领域的共同特征。在本文中，我们放松了以前的DA方法所采用的完全共享的convnets假设，并提出域条件自适应网络（DCAN），它引入了域条件信道注意模块与多路径结构，分别激发每个域的信道激活。这样一个部分共享的convnets模块允许适当地探索低级别的领域专用功能。此外，鉴于知识的可转移性随着卷积层的变化而变化，我们开发了广义域条件适应网络（GDCAN）来自动确定是否应该在每个注意力模块中单独建模域通道激活。然后，根据领域统计差距自适应地提取关键领域专业知识。据我们所知，这是第一个单独探索深度DA网络的域卷积信道激活的工作。此外，为了有效地匹配跨域的高级特征分布，我们考虑在特定于任务的层之后部署特征适配块，这可以显式地减轻域差异。
2021-03-23 cs.CV
Semi-Supervised Domain Adaptation with Auto-Encoder via Simultaneous Learning
University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）
我们提出了一种新的半监督领域自适应框架，该框架结合了一种新的基于自动编码器的领域自适应模型与同时学习方案，该方案提供了对最先进的领域自适应模型的稳定改进。我们的框架具有很强的分布匹配属性，通过使用一种新的同时学习方案在单个图上训练源和目标自动编码器，并使用最佳修改的MMD损失目标函数。此外，我们设计了一种半监督分类方法，通过将对齐的域不变特征空间从源域转移到目标域。我们评估三个数据集，并证明我们的框架可以有效地解决脆弱的收敛（对抗）和源和目标特征空间（差异）之间的弱分布匹配问题，具有很高的适应速度，需要非常低的迭代次数。
2022-10-18 cs.CV
Domain Adaptation by Maximizing Population Correlation with Neural Architecture Search
Southern University of Science and Technology（南方科技大学）
在领域自适应（DA）中，源域和目标域的特征分布不同，已经提出了各种基于距离的方法来最小化源域和目标域之间的差异以处理域移位。本文提出了一种新的相似度函数--种群相关性（PC），用于度量DA的领域差异，并在此基础上提出了一种新的基于最大种群相关性的领域自适应（DAMPC）方法，用于学习DA的领域不变特征表示。这可能限制相应模型的容量和灵活性。因此，我们进一步提出了一种称为DAMPC与神经结构搜索（DAMPC-NAS）的方法来搜索DAMPC的最佳网络结构。在Office-31、Vis-Home和VisDA-2017等基准数据集上的实验表明，DAMPC-NAS方法比现有的DA方法具有更好的性能。
2021-09-12 cs.AI cs.CV
Temporal Attentive Alignment for Video Domain Adaptation
Georgia Institute of Technology（佐治亚理工学院）
虽然近年来已经提出了各种基于图像的领域自适应（DA）技术，但视频中的域偏移仍然没有得到很好的探索。大多数以前的作品只评估小规模数据集的饱和性能。因此，我们首先提出了一个具有更大域差异的更大规模数据集：UCF-HMDB_full。其次，我们研究了不同的DA集成方法的视频，并表明，同时对齐和学习时间动态实现有效的对齐，即使没有复杂的DA方法。最后，我们提出了时间注意对抗适应网络（TA 3 N），它明确地注意到使用域差异的时间动态，以实现更有效的域对齐，在三个视频DA数据集上实现了最先进的性能。代码和数据在http://github.com/cmhungsteve/TA3N上发布。
2019-06-07 cs.CV cs.LG cs.MM
DAFD: Domain Adaptation via Feature Disentanglement for Image Classification
针对图像分类中的领域偏移问题，提出基于特征解耦的领域自适应方法DAFD，通过CRFS模块分离类别相关特征并结合DLMMD模块实现细粒度对齐，有效提升了目标域分类准确率。
2024-01-09 cs.CV
Uncertainty-Guided Mixup for Semi-Supervised Domain Adaptation without Source Data
现有的领域自适应方法通常通过同时访问源数据和目标数据来执行显式表示对齐。然而，由于隐私保护考虑或带宽限制，源数据并不总是可用的。无源领域自适应旨在通过在不访问源数据的情况下执行领域自适应来解决上述问题。自适应范式近年来受到越来越多的关注，针对无监督无源领域自适应已经提出了多种工作。然而，在自适应阶段不利用任何监督信号和源数据，目标模型的优化是不稳定和脆弱的。为了缓解这个问题，我们专注于在无源设置下的半监督领域自适应。更具体地说，我们提出了不确定性引导的Mixup，以减少表示的域内差异，并执行域间对齐，而无需直接访问源数据。最后，我们在各种数据集上进行了广泛的半监督领域自适应实验。我们的方法优于最近的半监督基线，无监督变体也达到了有竞争力的性能。实验代码将在未来发布。
2021-07-14 cs.CV
Domain Generalisation via Domain Adaptation: An Adversarial Fourier Amplitude Approach
Samsung AI Center Cambridge（三星剑桥人工智能中心）；University of Edinburgh（爱丁堡大学）
我们解决域泛化（DG）的问题，把它作为一个领域自适应（DA）的任务，我们adversarially合成最坏情况下的目标域和适应模型，最坏情况下的域，从而提高模型的鲁棒性。为了合成具有挑战性但保留语义的数据，我们生成傅立叶振幅图像并将其与源域相位图像相结合，利用信号处理中广泛认为的推测，即振幅谱主要决定图像风格，而相位数据主要捕获图像语义。为了合成最坏情况域以进行自适应，我们训练分类器和幅度发生器。具体来说，我们利用DA的最大分类器差异（MCD）原则，将目标域的性能与模型假设空间中分类器的差异联系起来。通过贝叶斯假设建模，我们将模型假设空间有效地表示为给定源域的分类器上的后验分布，使对抗性MCD最小化变得可行。在包括大规模DomainNet数据集的DomainBed基准测试中，所提出的方法比最先进的方法显著提高了域泛化性能。
2023-02-23 cs.CV cs.LG
AutoAdapt: Automated Segmentation Network Search for Unsupervised Domain Adaptation
UC Merced（加州大学默塞德分校）；Amazon Web Services（亚马逊云科技）
基于神经网络的语义分割在有大量标注数据时，即在有监督的情况下，取得了显著的效果。然而，收集这样的数据是昂贵的，因此已经开发了方法来适应在相关的、通常是合成数据上训练的模型，对于这些数据，标签是容易获得的。目前的适应方法不考虑这些模型的泛化/可转移性对网络架构的依赖。在本文中，我们执行神经架构搜索（NAS）提供架构级的观点和分析领域自适应。我们确定的优化差距时，存在的搜索架构无监督领域自适应，这使得这个NAS问题独特的困难。我们建议弥合这一差距，使用最大平均差异和区域加权熵估计的准确性度量。几个广泛采用的基准测试的实验结果表明，我们提出的AutoAdapt框架确实发现了一些现有的自适应技术，提高性能的架构。
2021-06-24 cs.CV
Learning Cross-domain Semantic-Visual Relationships for Transductive Zero-Shot Learning
Southwest Jiaotong University（西南交通大学）；University of Electronic Science and Technology of China（电子科技大学）；Chongqing University（重庆大学）；Guangzhou University（广州大学）
针对零样本学习中源域与目标域标签空间不相交导致领域自适应难以直接应用的问题，提出TSVR方法，将图像识别转化为预测语义-视觉对的相似性标签以统一标签空间，并利用特定领域批量归一化对齐领域差异。
2023-04-08 cs.CV
Dynamic Feature Alignment for Semi-supervised Domain Adaptation
University of Kentucky（肯塔基大学）；Eastern Kentucky University（东肯塔基大学）
大多数关于领域自适应的研究都集中在纯无监督的设置上，其中目标域中没有标记的示例可用。然而，在许多现实世界的场景中，少量的标记目标数据是可用的，可以用来提高适应性。我们解决这个半监督设置，并建议使用动态特征对齐来解决域间和域内的差异。与以前的方法，试图在一个小批量对齐源和目标功能，我们建议对齐目标功能的一组动态更新的类原型，我们使用这两个最小化分歧和伪标签。通过基于类原型进行更新，我们避免了由于类不平衡而在以前的方法中出现的问题。我们的方法不需要大量的调整或对抗性训练，显著提高了半监督领域自适应的最新水平。我们提供了两个标准的数据集，DomainNet和EST-Home，和性能分析的定量评估。
2021-10-18 cs.CV
CLDA: Contrastive Learning for Semi-Supervised Domain Adaptation
Indian Institute of Technology, Madras（马德拉斯印度理工学院）
无监督领域自适应（UDA）的目的是将标记的源分布与未标记的目标分布对齐，以获得领域不变的预测模型。然而，众所周知的UDA方法的应用在半监督领域自适应（SSDA）场景中不能很好地推广，其中来自目标域的标记样本很少。在本文中，我们提出了一个简单的对比学习框架，半监督领域自适应（CLDA），试图弥合标记和未标记的目标分布之间的域内差距和源和未标记的目标分布之间的域间差距在SSDA。我们建议采用类的对比学习，以减少域间的差距和实例级对比对准之间的原始（输入图像）和强烈增强的未标记的目标图像，以尽量减少域内的差异。我们的经验表明，这两个模块相互补充，以实现卓越的性能。三个著名的领域自适应基准数据集，即DomainNet的，家庭，和B2B 31上的实验证明了我们的方法的有效性。CLDA在所有上述数据集上都取得了最先进的结果。
2021-11-10 cs.CV
FDA: Fourier Domain Adaptation for Semantic Segmentation
UCLA（加州大学洛杉矶分校）
我们描述了一个简单的方法，无监督的领域自适应，从而减少源和目标分布之间的差异，通过交换低频频谱的一个与其他。我们说明的方法在语义分割，密集注释的图像是丰富的一个域（合成数据），但很难获得在另一个（真实图像）。目前最先进的方法是复杂的，一些需要对抗性优化，使神经网络的骨干不变的离散域选择变量。我们的方法不需要任何训练来执行域对齐，只需简单的傅里叶变换及其逆变换。尽管它的简单性，它实现了国家的最先进的性能在当前的基准测试，当集成到一个相对标准的语义分割模型。我们的研究结果表明，即使是简单的程序可以折扣讨厌的变化，在数据中，更复杂的方法很难学习。
2020-04-11 cs.CV
GAMA: Geometry-Aware Manifold Alignment via Structured Adversarial Perturbations for Robust Domain Adaptation
针对域适应中源目标域流形差异大、现有方法忽略精确流形对齐与结构化扰动探索的问题，提出几何感知流形对齐框架GAMA，通过切空间探索和流形约束优化实现显式对齐，理论与实验均验证其在多数据集上的性能优势。
2025-05-21 cs.CV
Correlation-aware Adversarial Domain Adaptation and Generalization
Queensland University of Technology（昆士兰科技大学）；University of Queensland（昆士兰大学）
领域自适应（DA）和领域泛化（DG）已经出现作为对源数据和目标数据的分布不同的领域移位问题的解决方案。DG的任务比DA更具挑战性，因为在DG场景的训练阶段，目标数据是完全不可见的。目前最先进的采用对抗技术，然而，这些很少被认为是DG问题。此外，这些方法不考虑相关对齐，这已被证明是非常有益的最小化域差异。在本文中，我们提出了一个相关性感知的对抗DA和DG框架，其中使用相关性对齐以及对抗学习来最小化源和目标数据的特征。将相关性对齐模块与对抗性学习一起使用有助于实现更加领域不可知的模型，因为改进了更有效地减少与未标记目标数据的领域差异的能力。在基准数据集上的实验证明，我们提出的方法可以提高最先进的性能。
2019-11-29 cs.CV cs.LG
Bi-Directional Generation for Unsupervised Domain Adaptation
Harbin Institute of Technology（哈尔滨工业大学）；Indiana University-Purdue University Indianapolis（印第安纳大学-普渡大学印第安纳波利斯分校）
无监督领域自适应有助于依赖于良好建立的源域信息的未标记的目标域。传统的方法在潜空间中强行降低域差异会导致固有数据结构的破坏。为了平衡域间隙的缓解和固有结构的保留，我们提出了一个双向生成领域自适应模型与一致性分类器插入两个中间域桥接源和目标域。具体来说，两个跨域生成器被用来合成一个域的条件下，其他。我们所提出的方法的性能可以进一步提高一致的分类器和跨域对齐约束。我们还设计了两个分类器，这两个分类器是联合优化的，以最大限度地提高目标样本预测的一致性。大量的实验证明，我们提出的模型优于国家的最先进的标准跨域视觉基准。
2020-02-12 cs.CV
Multi-Source Collaborative Gradient Discrepancy Minimization for Federated Domain Generalization
Tianjin University（天津大学）
针对联邦场景下源域数据隔离导致的域偏移问题，提出MCGDM方法，通过域内与域间协作梯度匹配学习域不变模型，并可扩展至联邦域适应，性能显著优于现有方法。
2024-01-05 cs.AI cs.CV
Associative Domain Adaptation
TU Munich（慕尼黑工业大学）；Google, Inc.（谷歌公司）
我们提出了关联领域自适应，一种新的技术，端到端的领域自适应与神经网络，推断类标签为未标记的目标域的统计特性的基础上标记的源域的任务。我们的训练方案遵循的范式是，为了有效地获得目标域的类标签，网络应该产生统计域不变的嵌入，同时最大限度地减少标记源域的分类错误。我们通过直接在嵌入空间中加强源数据和目标数据之间的关联来实现这一点。我们的方法可以很容易地添加到任何现有的分类网络，没有结构，几乎没有计算开销。我们证明了我们的方法在各种基准测试中的有效性，并通过一个通用的卷积神经网络架构实现了最先进的结果，该架构没有专门针对相应的任务进行调整。最后，我们表明，建议的关联损失产生的嵌入是更有效的领域自适应相比，采用最大平均差异作为嵌入空间中的相似性度量的方法。
2017-08-02 cs.CV
How does the Combined Risk Affect the Performance of Unsupervised Domain Adaptation Approaches?
AAII（澳大利亚人工智能研究院）；UTS（悉尼科技大学）
无监督领域自适应（UDA）的目的是训练一个目标分类器与标记的样本从源域和未标记的样本从目标域。经典的UDA学习边界表明，目标风险的上界由三项组成：源风险，分布差异和组合风险。基于组合风险是一个小的固定值的假设，基于此界限的方法通过仅最小化源风险和分布差异的估计来训练目标分类器。然而，当最小化两个估计量时，组合风险可能增加，这使得目标风险不可控。因此，目标分类器不能达到理想的性能，如果我们不能控制的组合风险。为了控制组合风险，关键挑战根源于目标域中标记样本的不可用性。为了解决这一关键挑战，我们提出了一种名为E-MixNet的方法。E-MixNet在标记的源样本和伪标记的目标样本上采用增强的混合，一种通用的邻近分布，以计算组合风险的代理。实验表明，该代理在最小化源风险和分布差异的同时，能有效抑制组合风险的增加。此外，我们表明，如果代理的组合风险被添加到损失函数的四个代表UDA方法，他们的性能也得到改善。
2020-12-30 cs.AI cs.CV cs.LG
Unsupervised Domain Adaptation with Variational Approximation for Cardiac Segmentation
Fudan University（复旦大学）
无监督区域自适应算法在医学图像分割中具有重要的应用价值。特别地，当目标图像的地面实况不可用时，域自适应可以通过利用来自其他模态的现有标记图像来训练目标特定的模型。大多数已报道的作品都将源域和目标域的图像映射到一个共同的潜在特征空间中，然后通过对抗性训练隐式地或直接最小化差异度量来显式地减少它们的差异。在这项工作中，我们提出了一个新的框架，这两个域的潜在特征被驱动到一个共同的和参数化的变分形式，其条件分布给定的图像是高斯。这是通过基于变分自动编码器（VAE）的两个网络和这种变分近似的正则化来实现的。两个VAE，每个域，包含一个分割模块，其中源分割是以监督的方式训练，而目标分割是无监督地训练。我们使用两个心脏分割任务验证了所提出的域自适应方法，即，跨模态（CT和MR）全心脏分割和跨序列心脏MR分割。结果表明，该方法实现了更好的精度相比，两个国家的最先进的方法，并表现出良好的潜力，心脏分割。此外，所提出的显式正则化被证明是有效的，有效地缩小域之间的分布差距，这是有用的无监督域自适应。我们的代码和数据已通过https://zmiclab.github.io/projects.html发布。
2021-06-16 cs.CV eess.IV
Heuristic Domain Adaptation
University of Chinese Academy of Sciences（中国科学院大学）；Alibaba Group（阿里巴巴集团）；Peng Cheng Laboratory（鹏城实验室）
在视觉领域自适应（DA）中，从领域不变表示中分离出领域特定特征是一个不适定问题。现有的方法采用不同的先验或直接最小化域差异来解决这个问题，这在处理现实世界的情况下缺乏灵活性。另一种研究管道将特定领域的信息表示为渐进的传输过程，这在准确地去除特定领域的属性方面往往是次优的。本文从启发式搜索的角度研究了领域不变信息和领域特定信息的建模问题。我们确定的特点，在现有的表示，导致更大的域差异的启发式表示。在启发式表示法的指导下，我们提出了一个启发式领域自适应（HDA）的基本框架，并给出了充分的理论保证。为了执行HDA，在学习过程中，将域不变表示和域特定表示之间的余弦相似性得分和独立性度量投射到初始和最终状态的约束中。类似于启发式搜索的最终条件，我们进一步推导出一个约束，强制执行启发式网络输出的最终范围是小的。因此，我们提出了启发式领域自适应网络（HDAN），它明确地学习领域不变和领域特定的表示与上述约束。大量的实验表明，HDAN在无监督DA、多源DA和半监督DA方面已经超过了最先进的水平。https://github.com/cuishuhao/HDA
2020-11-30 cs.CV cs.LG
On $f$-Divergence Principled Domain Adaptation: An Improved Framework
Tongji University（同济大学）；University of Ottawa（渥太华大学）
本文针对无监督领域自适应提出 $f$-领域差异 $f$-DD，改进 $f$-散度理论界并推导快速率泛化 bound，实验验证其优于既有方法。
2024-10-27 cs.CV cs.LG stat.ML
Temporal Attentive Alignment for Large-Scale Video Domain Adaptation
Georgia Institute of Technology（佐治亚理工学院）；Sony Interactive Entertainment LLC（索尼互动娱乐有限责任公司）；Binghamton University（宾厄姆顿大学）
虽然近年来已经提出了各种基于图像的领域自适应（DA）技术，但视频中的域偏移仍然没有得到很好的探索。大多数以前的作品只评估小规模数据集的饱和性能。因此，我们首先提出了两个大规模的视频DA数据集具有更大的域差异：UCF-HMDB_full和Kinetics-Gameplay。其次，我们研究了不同的DA集成方法的视频，并表明，同时对齐和学习时间动态实现有效的对齐，即使没有复杂的DA方法。最后，我们提出了时间注意对抗适应网络（TA 3 N），它明确地注意到时间动态使用域差异更有效的域对齐，在四个视频DA数据集上实现了最先进的性能（例如，在“HMDB --> UCF”上，与“仅源”相比，从73.9%到81.8%的准确度增益为7.9%，在“Kinetics --> Gameplay”上，则为10.3%）。代码和数据在http://github.com/cmhungsteve/TA3N上发布。
2019-09-15 cs.CV cs.LG cs.MM
A General Upper Bound for Unsupervised Domain Adaptation
The University of Tokyo（东京大学）；RIKEN（理化学研究所）
在这项工作中，我们提出了一个新的目标误差的上限，以解决无监督领域自适应的问题。最近的研究表明，深度神经网络可以学习可转移的特征，这些特征可以很好地推广到新的任务。此外，Ben-David等人（2010）提出的理论提供了在传递知识时的目标误差的上限，可以概括为同时最小化源误差和边缘分布之间的距离。然而，基于该理论的常用方法通常忽略联合误差，使得在匹配边缘分布时，来自不同类别的样本可能混合在一起。在这种情况下，无论我们如何最小化的边缘差异，目标误差是没有界的，由于一个不断增加的联合误差。为了解决这个问题，我们提出了一个一般的上限考虑联合误差，这样不理想的情况下，可以适当地惩罚。此外，我们还利用约束假设空间进一步形式化了一个更严格的边界，以及一个新的跨边界差异来衡量假设之间的差异，这在对抗性学习过程中消除了不稳定性。大量的经验证据表明，我们的建议优于相关的方法在标准的领域自适应基准的图像分类出错率。
2019-10-04 cs.CV cs.LG stat.ML
Contrastive Learning and Self-Training for Unsupervised Domain Adaptation in Semantic Segmentation
Institute of Signal Processing and System Theory, University of Stuttgart（斯图加特大学信号处理与系统理论研究所）
深度卷积神经网络大大改善了语义分割的最新结果。然而，即使是现代架构也缺乏很好地泛化到来自不同领域的测试数据集的能力。为了避免对未知领域的训练数据进行昂贵的注释，无监督领域自适应（UDA）试图提供从标记的源领域到未标记的目标领域的有效知识转移。以前的工作主要集中在通过使用对抗训练或自我训练来最大限度地减少这两个领域之间的差异。虽然对抗训练可能无法对齐正确的语义类别，因为它最大限度地减少了全局分布之间的差异，但自我训练提出了如何提供可靠的伪标签的问题。为了调整正确的语义类别跨域，我们提出了一个对比学习的方法，适应跨域的类别明智的质心。此外，我们扩展了我们的方法与自我训练，在那里我们使用一个内存效率的时间合奏，以产生一致和可靠的伪标签。虽然对比学习和自我训练（CLST）通过时间集成使两个领域之间的知识转移，这是他们的组合，导致一个共生结构。我们验证了我们的方法上的两个领域自适应基准：GTA 5 $\rightarrow$城市景观和SYNTHIA $\rightarrow$城市景观。我们的方法比最先进的方法取得了更好或相当的结果。我们将公开代码。
2021-05-05 cs.AI cs.CV
Action Segmentation with Joint Self-Supervised Temporal Domain Adaptation
Georgia Institute of Technology（佐治亚理工学院）；Baidu USA（百度美国）
尽管全监督动作分割技术最近取得了进展，但性能仍然不完全令人满意。一个主要的挑战是时空变化的问题（例如，不同的人可能以不同的方式进行相同的活动）。因此，我们利用未标记的视频来解决这个问题，通过重新制定的动作分割任务作为一个跨域的问题与域的差异所造成的时空变化。为了减少这种差异，我们提出了自监督时间领域自适应（SSTDA），它包含两个自监督辅助任务（二进制和顺序域预测），以联合对齐嵌入局部和全局时间动态的跨域特征空间，实现了比其他领域自适应（DA）方法更好的性能。三个具有挑战性的基准数据集（GTEA、50份沙拉和早餐），SSTDA的表现远远优于当前最先进的方法（例如，对于F1@25评分，早餐从59.6%到69.1%，50沙拉从73.4%到81.5%，GTEA从83.6%到89.1%），并且仅需要65%的标记的训练数据来获得可比性能，这证明了在变化中适应未标记的目标视频的有用性。源代码可在https://github.com/cmhungsteve/SSTDA上获得。
2020-03-18 cs.CV cs.LG eess.IV
Close Yet Distinctive Domain Adaptation
École Centrale de Lyon（里昂中央理工学院）；Shanghai Jiao Tong University（上海交通大学）
领域自适应是一种迁移学习，其目的是在具有不同分布的训练和测试数据之间推广学习模型。大多数以前的研究解决这个问题，寻求一个共享的功能表示之间的源和目标域，同时减少其数据分布的不匹配。在本文中，我们提出了一个封闭的，但歧视性的领域自适应方法，即CDDA，它产生了一个潜在的特征表示与两个有趣的属性。首先，源域和目标域之间的差异，通过最大平均离散度的边际和条件概率分布方面进行测量最小化，以吸引两个域彼此接近。更重要的是，我们还设计了一个排斥力项，它最大化每个标签依赖子域之间的距离，以使不同的类依赖子域远离彼此，从而增加适应域的区分能力。此外，考虑到底层数据流形可能具有复杂的几何结构，我们进一步提出了标签传播的标签光滑性和几何结构一致性约束。在4个公共数据集上对36个跨域图像分类任务进行了大量的实验。综合结果表明，该方法始终优于国家的最先进的方法具有显着的利润率。
2017-04-13 cs.CV cs.LG stat.ML
