Domain Adaptation for Structured Output via Discriminative Patch Representations
NEC Laboratories America（美国电气股份有限公司实验室）；University of California, San Diego（加利福尼亚大学圣地亚哥分校）
预测结构化输出（如语义分割）依赖于昂贵的逐像素注释来学习监督模型，如卷积神经网络。然而，在一个数据域上训练的模型在没有用于模型微调的注释的情况下可能无法很好地推广到其他域。为了避免劳动密集型的注释过程中，我们开发了一个领域自适应方法，以适应源数据的未标记的目标域。我们建议通过构建一个聚类空间来发现多个模式的补丁输出分布，从而学习源域中补丁的判别特征表示。以这种表示为指导，我们使用对抗学习方案来推动聚类空间中目标补丁的特征表示更接近源补丁的分布。此外，我们表明，我们的框架是补充现有的领域自适应技术，并实现一致的改进语义分割。在具有各种设置的众多基准数据集上展示了广泛的消融和结果，例如合成到真实和跨城市场景。
2019-09-26 cs.CV
Improved Techniques for Adversarial Discriminative Domain Adaptation
University College London（伦敦大学学院）
对抗性判别领域自适应（ADDA）是图像分类中无监督领域自适应的一种有效框架。我们研究我们是否可以提高性能的ADDA一个新的框架和新的损失配方。在半监督GANs的框架下，我们首先在源类上扩展了GANs输出，以便对域和任务上的联合分布进行建模。因此，我们利用源编码器后验分布（在对抗训练期间是固定的），并提出最大均值差异（MMD）和基于重建的损失函数，用于将目标编码器分布与源域对齐。我们比较并全面分析了我们的框架和损失公式如何扩展到ADDA的简单多类扩展和半监督GANs的其他区别性变体。此外，我们还引入了各种形式的正则化来稳定训练，包括将编码器视为去噪自动编码器，并使用源示例正则化目标编码器以减少收缩映射下的过拟合（即，当目标每类分布在与源对准期间收缩时）。最后，我们在标准领域自适应数据集（如SVHN和MNIST）上验证了我们的框架。我们还研究了我们的框架如何有利于识别问题的方式，缺乏训练数据的基础上，通过引入和评估的神经形态视觉传感（NVS）手语识别数据集，其中的源和目标域分别构成仿真和真实的神经形态尖峰事件。我们在所有数据集上的结果表明，我们的建议在无监督的领域自适应中竞争或优于最先进的技术。
2019-11-10 cs.CV
Discriminative and Geometry Aware Unsupervised Domain Adaptation
Shanghai Jiao Tong University（上海交通大学）；Ecole Centrale de Lyon（里昂中央理工学院）
领域自适应（DA）的目标是在训练数据和测试数据之间推广学习模型，而不管它们的数据分布是否匹配。根据误差上界的理论估计，本文认为一个有效的DA方法应该：1）搜索一个共享的特征子空间，在这个子空间中，源数据和目标数据不仅像大多数现有DA方法那样在分布上是一致的，而且在不同类别的实例之间是有区别的; 2）在推断目标域上的数据标签时考虑底层数据流形的几何结构。与只关心源和目标之间的数据分布对齐的基准DA方法相比，我们导出了三种不同的DA模型，即CDDA，GA-DA和DGA-DA，以突出基于1）的接近但有区别的DA（CDDA），基于2）的几何感知DA（GA-DA），以及最后联合实现1）和2）的区别和几何感知DA（DGA-DA）的贡献。使用合成和真实数据，我们表明所提出的方法的有效性，始终优于最先进的DA方法超过36图像分类DA任务，通过6个流行的基准。我们进一步进行深入分析的建议DA方法在量化我们的DA模型的每个术语的贡献，并提供见解的建议DA方法在可视化真实和合成数据。
2017-12-28 cs.CV
Semi-Supervised Adversarial Discriminative Domain Adaptation
University of Science, Ho Chi Minh City（胡志明市科学大学）；Vietnam National University, Ho Chi Minh City（胡志明市越南国家大学）；University of Liverpool（利物浦大学）；University of Information Technology（信息技术大学）
领域自适应是训练强大的深度神经网络的一种潜在方法，它可以处理没有标记数据的情况。更准确地说，领域自适应解决了当训练数据集和测试数据集非常不同时被称为数据集偏差或域偏移的限制。对抗性自适应方法在其他领域自适应方法中越来越流行。对抗性领域自适应基于GAN的思想，试图根据对抗对象的不同，使训练数据集和测试数据集之间的分布最小化。然而，一些传统的对抗性领域自适应方法不能处理两个数据集之间的大的域移位，或者这些方法的泛化能力是低效的。本文提出了一种改进的对抗性领域自适应方法--半监督对抗性判别领域自适应（SADDA），它可以克服其他领域自适应方法的局限性。我们还表明，SADDA具有更好的性能比其他对抗性的适应方法，并说明我们的方法在数字分类和情感识别问题的承诺。
2022-10-19 cs.CV cs.LG
Task-Discriminative Domain Alignment for Unsupervised Domain Adaptation
Rutgers University（罗格斯大学）；Samsung AI Center（三星人工智能中心）
领域自适应（DA）是一种将在一个领域（源）上学习到的任务模型有效地适应于其他相关但不同的领域（目标）的过程，没有或只有最少的再训练，通常使用源到目标流形对齐的过程来完成。然而，这一过程往往导致不令人满意的适应性能，部分原因是它忽略了特定于任务的数据结构。在本文中，我们提高了DA的性能，通过引入一个歧视性的差异措施，利用辅助信息在源和目标域，以更好地对齐源和目标分布。具体来说，我们利用与不同任务相关联的单个数据流形内的内聚聚类结构来改进对齐。这种结构在源中是显式的，其中任务标签是可用的，但在目标中是隐式的，使问题具有挑战性。我们通过设计一个深度DA框架来解决这一挑战，该框架将一个新的任务驱动的域对齐算法与域正则化器相结合，该正则化器鼓励共享特征作为任务特定的和域不变的，并促使任务模型保持数据结构，引导其决策边界通过低密度数据区域。我们在标准基准上验证了我们的框架，包括Digits（MNIST，USPS，SVHN，MNIST-M），PACS和VisDA。我们的研究结果表明，我们提出的模型始终优于国家的最先进的无监督领域自适应。
2019-09-26 cs.CV
Discriminative Label Consistent Domain Adaptation
Shanghai Jiao Tong University（上海交通大学）；École Centrale de Lyon（里昂中央理工学院）
领域自适应（DA）是一种迁移学习，其目标是在源数据和目标数据分布不匹配的情况下，从源数据中学习出一个有效的预测器。本文提出了一种新的跨域视觉识别的无监督DA方法，它同时优化了理论上建立的误差界的三项。具体而言，所提出的DA方法迭代地搜索潜在的共享特征子空间，其中不仅源域和目标域之间的数据分布的分歧减少了大多数最先进的DA方法，而且类间距离增加，以促进判别式学习。此外，所提出的DA方法稀疏地从共享子空间中获得的特征回归类标签，同时最小化对源数据的预测误差，并确保源和目标之间的标签一致性。还考虑了数据异常值，以进一步避免负面知识转移。综合的实验和深入的分析验证了所提出的DA方法的有效性，它始终优于最先进的DA方法的标准DA基准，即，12个跨域图像分类任务。
2018-02-21 cs.CV
Discriminative Feature Alignment: Improving Transferability of Unsupervised Domain Adaptation by Gaussian-guided Latent Alignment
University of British Columbia（不列颠哥伦比亚大学）
在这项研究中，我们专注于无监督的领域自适应问题，近似推理模型是从标记的数据域学习，并期望推广到未标记的数据域。无监督领域自适应的成功很大程度上依赖于跨领域特征对齐。以前的工作试图直接对齐潜在的功能分类器引起的差异。然而，一个共同的特征空间并不总是通过这种直接的特征对齐学习，特别是当一个大的域间隙存在。为了解决这个问题，我们引入了高斯引导的潜在对齐方法，在先验分布的指导下对齐两个域的潜在特征分布。以这种间接的方式，来自两个域的样本上的分布将在公共特征空间上构建，即，先验空间，这促进了更好的特征对齐。为了有效地将目标潜在分布与此先验分布对齐，我们还提出了一种新的不成对L1距离，利用编码器-解码器的公式。对九个基准数据集的广泛评估通过优于最先进的方法和所提出的方法的通用性，通过显着改善现有的工作，验证了优越的知识可转移性。
2020-08-09 cs.CV
Joint Domain Alignment and Discriminative Feature Learning for Unsupervised Deep Domain Adaptation
Zhejiang University（浙江大学）
最近，计算机视觉和机器学习社区的深度领域自适应已经投入了相当大的努力。然而，大多数现有的工作只集中在学习共享的特征表示，通过最小化不同领域的分布差异。由于所有的磁畴对齐方法都只能减少而不能消除磁畴偏移。目标域样本分布在聚类边缘附近或远离其对应的类中心，很容易被从源域学习的超平面误分类。为了缓解这个问题，我们提出了联合域对齐和判别特征学习，这可能有利于域对齐和最终分类。提出了基于实例的鉴别特征学习方法和基于中心的鉴别特征学习方法，这两种方法都保证了域不变特征具有更好的类内紧致性和类间可分性。大量的实验表明，在共享特征空间中学习区分性特征可以显著提高深度领域自适应方法的性能。
2018-11-03 cs.CV cs.LG stat.ML
Discriminative Radial Domain Adaptation
Qiushi Academy for Advanced Studies, Zhejiang University（浙江大学求是高等研究院）；College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院）；Harvard Medical School（哈佛医学院）；Cooperative Medianet Innovation Center, Shanghai Jiao Tong University（上海交通大学媒体网络协同创新中心）；Shanghai Jiao Tong University（上海交通大学）；Shanghai AI Laboratory（上海人工智能实验室）；Collaborative Innovation Center for Artificial Intelligence by MOE and Zhejiang Provincial Government (ZJU)（教育部与浙江省政府人工智能协同创新中心（浙江大学））；Zhejiang Lab（之江实验室）
领域自适应方法通常通过学习领域不变特征来减少领域移位。大多数现有的方法都建立在分布匹配的基础上，例如，对抗性领域自适应，其倾向于破坏特征的可辨别性。在本文中，我们提出了判别式径向领域自适应（DRDA）的桥梁源和目标域通过一个共享的径向结构。它的动机是观察到，随着模型被训练成具有渐进的区分力，不同类别的特征会向不同的方向向外扩展，形成放射状结构。我们表明，转移这样一个固有的歧视性的结构，将能够同时提高功能的可转移性和可辨别性。具体地说，我们表示每个域与一个全球性的锚和每个类别的本地锚，形成一个放射状的结构，并通过结构匹配减少域移位。它包括两个部分，即等距变换，以调整结构的全球和局部细化，以匹配每个类别。为了增强结构的可辨别性，我们进一步鼓励样本基于最优传输分配聚类到相应的局部锚点附近。在多个基准测试上进行了广泛的实验，结果表明，我们的方法在各种任务上的性能始终优于最先进的方法，包括典型的无监督领域自适应、多源领域自适应、领域不可知学习和领域泛化。
2023-02-13 cs.CV cs.LG
Generative Model Based Noise Robust Training for Unsupervised Domain Adaptation
University of Surrey（萨里大学）；iFlyTek-Surrey Joint Research Center on Artificial Intelligence（讯飞-萨里人工智能联合研究中心）；Samsung AI Center（三星人工智能中心）；Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）
目标域伪标记在无监督领域自适应（UDA）中显示出有效性。然而，由于源域和目标域之间的分布偏移，未标记的目标域数据的伪标记不可避免地带有噪声。本文提出了一种基于生成模型的噪声鲁棒训练方法（GeNRT），该方法在消除标签噪声的同时消除了域偏移。GeNRT结合了基于分布的类特征增强（D-CFA）和生成判别分类器一致性（GDC），两者都基于生成模型建模的类目标分布。D-CFA通过使用分布采样的目标特征来增强源数据来最小化域间隙，并通过使用来自生成模型的目标域知识来训练噪声鲁棒判别分类器。GDC将所有类生成模型都看作是生成分类器，并在生成分类器和判别分类器之间实施一致性正则化。它利用所有生成模型的目标知识的集成来训练噪声鲁棒判别分类器，并最终在理论上与Ben-David领域自适应定理联系起来，以减少域间隙。大量的实验，家庭，PACS，和数字五表明，我们的GeNRT实现了相当的性能，以国家的最先进的方法在单源和多源UDA设置。
2023-03-10 cs.CV
Discriminative Adversarial Domain Adaptation
South China University of Technology（华南理工大学）
无监督领域自适应的目标是在给定源域上的已标记实例和目标域上的未标记实例的情况下，学习一个能够很好地分类目标实例的任务分类器。最近的进展依赖于深度网络的领域对抗训练来学习领域不变特征。然而，由于任务和领域分类器的单独设计引起的模式坍塌的问题，这些方法在对齐跨领域的特征和类别的联合分布方面受到限制。为了克服这个问题，我们提出了一种新的对抗性学习方法，称为歧视性对抗领域自适应（DADA）。基于集成的类别和域分类器，DADA具有一个新的对抗性目标，该目标鼓励任何输入实例的类别和域预测之间的相互抑制关系。我们表明，在实际条件下，它定义了一个极大极小博弈，可以促进联合分布对齐。除了传统的闭集领域自适应，我们还扩展了DADA的部分和开集领域自适应的极具挑战性的问题设置。实验表明，我们提出的方法的有效性，我们实现了新的国家的最先进的基准数据集上的所有三个设置。
2019-12-17 cs.CV cs.LG
NeuroADDA: Active Discriminative Domain Adaptation in Connectomic
Massachusetts Institute of Technology（麻省理工学院）；Red Hat（红帽公司）
NeuroADDA 通过结合最优源域选择与无源主动学习，将预训练分割模型高效适配到新的连接组学数据集，在极少标注样本下显著优于从头训练，并发现域距离与物种系统发育距离相关。
2025-03-08 cs.CV
Effective Label Propagation for Discriminative Semi-Supervised Domain Adaptation
North China Electric Power University（华北电力大学）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Tencent（腾讯）；Bytedance Inc（字节跳动）；Kuaishou Technology（快手科技）
半监督领域自适应（SSDA）方法在大规模图像分类任务中表现出了巨大的潜力，当源域中有大量标记数据，而目标域中只有很少的标记样本时。现有的解决方案通常集中在两个域之间的特征对齐，而很少关注目标域中学习表征的区分能力。在本文中，我们提出了一种新的和有效的方法，即有效的标签传播（ELP），来解决这个问题，通过使用有效的域间和域内的语义信息传播。对于域间传播，我们提出了一个新的周期差异损失，以鼓励两个域之间的语义信息的一致性。对于域内传播，我们提出了一种有效的自训练策略，以减轻伪标记的目标域数据中的噪声，提高目标域的特征区分度。作为一种通用的方法，我们的ELP可以很容易地应用到各种领域自适应方法，并可以促进他们的目标领域的特征判别。通过对ELP和DomainNet的测试表明，ELP算法较主流SSDA算法的分类精度提高了2%~ 3%。此外，ELP还提高了UDA方法的性能（81.5%对86.1%），基于VisDA-2017基准的UDA实验。我们的源代码和预训练模型将很快发布。
2020-12-04 cs.CV
Enlarging Discriminative Power by Adding an Extra Class in Unsupervised Domain Adaptation
School of Electrical Engineering Korea Advanced Institute of Science and Technology（韩国科学技术院电气工程学院）
在本文中，我们研究的问题，无监督领域自适应，旨在获得一个预测模型的目标域使用标记的数据从源域和未标记的数据从目标域。存在一系列基于提取不仅对两个域不变而且对目标域提供高辨别力的特征的思想的最近研究。在本文中，我们提出了一种增强区分度的想法：添加一个新的人工类，并在数据上训练模型，以及GAN生成的新类样本。基于新类样本的训练模型能够通过在目标域中重新定位当前类的数据来提取更具区分性的特征，从而更有效地绘制决策边界。我们的想法是高度通用的，因此它与许多现有的方法，如DANN，VADA和DIRT-T兼容。我们进行各种实验的标准数据通常用于评估无监督领域自适应，并证明我们的算法实现了SOTA性能的许多情况下。
2020-02-19 cs.CV cs.LG stat.ML
Cluster Alignment with a Teacher for Unsupervised Domain Adaptation
Tsinghua University（清华大学）
深度学习方法在无监督领域自适应中显示出了希望，其目的是利用标记的源域来学习具有不同分布的未标记目标域的分类器。然而，这样的方法通常学习域不变表示空间以匹配源域和目标域的边缘分布，而忽略它们的精细级结构。在本文中，我们提出了一个教师（CAT）的无监督领域自适应，它可以有效地将区分聚类结构在两个领域更好的适应。从技术上讲，CAT利用隐式集成教师模型来可靠地发现未标记目标域的特征空间中的类条件结构。然后，CAT强制源和目标域的特征形成区分性的类条件聚类，并跨域对齐相应的聚类。实验结果表明，CAT在几个无监督的领域自适应场景中达到了最先进的结果。
2019-10-09 cs.CV
Discriminative Joint Probability Maximum Mean Discrepancy (DJP-MMD) for Domain Adaptation
Huazhong University of Science and Technology（华中科技大学）
在领域自适应中，最大平均差异（MMD）被广泛采用来衡量源域和目标域分布之间的差异。许多现有的领域自适应方法基于联合MMD，其被计算为边缘分布差异和条件分布差异的（加权）和;然而，更自然的度量可以是它们的联合概率分布差异。此外，大多数度量仅旨在提高域之间的可转移性，而忽略了不同类别之间的可区分性，这可能导致分类性能不足。为了解决这些问题，本文提出了判别式联合概率MMD（DJP-MMD），以取代领域自适应中常用的联合MMD。它具有两个理想的性质：1）它为计算分布差异提供了一个新的理论基础，它更简单，更精确; 2）它同时增加了可传递性和可区分性。我们通过将其嵌入到联合概率领域自适应框架中来验证其性能。在6个图像分类数据集上的实验表明，该方法的分类性能优于传统的MMD方法。
2020-04-10 cs.CV cs.LG stat.ML
An In-Depth Analysis of Adversarial Discriminative Domain Adaptation for Digit Classification
Princeton University（普林斯顿大学）
本文复现并扩展 ADDA 数字分类实验，分析其在多种域偏移下的适应效果，证明其可显著提升部分跨域准确率且几乎不损害域内性能。
2025-01-07 cs.AI cs.CV cs.LG
Structured Discriminative Tensor Dictionary Learning for Unsupervised Domain Adaptation
Nanjing University of Posts and Telecommunications（南京邮电大学）；Texas State University（得克萨斯州立大学）；University of Trento（特伦托大学）；Nanjing University of Science and Technology（南京理工大学）；University of Technology Sydney（悉尼科技大学）；Wuhan University（武汉大学）
无监督领域自适应（UDA）解决了在计算机视觉应用中常见的由于训练集和测试集之间的领域移位而导致的性能下降的问题。现有的UDA方法大多是基于矢量形式的数据，虽然在可视化应用中的数据或特征的典型格式是多维张量。此外，目前的方法，包括深度网络方法，假设提供了大量的标记源样本用于训练。然而，在实际应用中，标注源样本的数量总是有限的，由于昂贵的注释成本，使得次优性能被观察到。在本文中，我们提出了通过学习张量空间中的结构化字典来寻求多维数据的判别表示。该字典将领域信息和类信息分离，保证了表示对领域的鲁棒性。此外，为了避免外部分类器的设计，提出了一种伪标签估计方案，在算法迭代中结合判别分析。我们在有限的源样本的不同数据集上进行了广泛的结果。实验结果表明，该方法优于国家的最先进的方法。
2019-05-11 cs.CV cs.LG
Model Adaptation: Historical Contrastive Learning for Unsupervised Domain Adaptation without Source Data
Nanyang Technological University（南洋理工大学）
无监督领域自适应的目的是对齐一个标记的源域和一个未标记的目标域，但它需要访问源数据，这往往会引起数据隐私，数据可移植性和数据传输效率的关注。我们研究了无监督模型自适应（UMA），或称为无源数据的无监督领域自适应，这是一种替代设置，旨在使源训练模型适应目标分布，而无需访问源数据。为此，我们设计了一个创新的历史对比学习（HCL）技术，利用历史源假设，以弥补缺乏源数据在UMA。HCL从两个角度应对UMA挑战。首先，它引入了历史对比实例判别（HCID），通过对比当前适应模型和历史模型生成的嵌入，从目标样本中学习。通过历史模型，HCID鼓励UMA学习实例判别目标表示，同时保留源假设。其次，它引入了历史对比类别歧视（HCCD），伪标签的目标样本学习类别歧视的目标表示。具体来说，HCCD根据伪标签在当前和历史模型中的预测一致性对其重新加权。大量的实验表明，HCL在各种视觉任务和设置中始终优于最先进的方法。
2022-06-04 cs.CV
Pseudo-Labeling Curriculum for Unsupervised Domain Adaptation
为了学习目标区分表示，使用伪标签是一种简单而有效的无监督领域自适应方法。然而，虚假伪标签的存在，这可能会对学习目标表示产生不利影响，仍然是一个重大挑战。为了克服这个问题，我们提出了一个伪标签课程的基础上，基于密度的聚类算法。由于具有高密度值的样本更有可能具有正确的伪标签，因此我们在早期阶段利用这些子集来训练我们的目标网络，并在后期阶段利用具有低密度值的数据子集。我们可以逐步提高网络生成伪标签的能力，因此这些带有伪标签的目标样本对于训练我们的模型是有效的。此外，我们提出了一个聚类约束，以提高学习的目标特征的区分能力。我们的方法在三个基准测试中实现了最先进的性能：Office-31，imageCLEF-DA和MPEG-Home。
2019-08-01 cs.CV
Cross-domain Self-supervised Learning for Domain Adaptation with Few Source Labels
Boston University（波士顿大学）；POSTECH（浦项科技大学）
现有的无监督领域自适应方法旨在将知识从标签丰富的源领域转移到未标记的目标领域。然而，获得标签的一些源域可能是非常昂贵的，使完整的标签中使用的现有工作不切实际。在这项工作中，我们研究了一个新的领域自适应的情况下，稀疏标记的源数据，在源域中只有几个例子已被标记，而目标域是未标记的。我们表明，当标记的源示例是有限的，现有的方法往往无法学习适用于源和目标域的判别功能。我们提出了一种新的跨域自监督（CDS）学习方法的领域自适应，学习功能，不仅是域不变的，但也类歧视。我们的自监督学习方法捕捉明显的视觉相似性与域自适应方式的域内自我监督和跨域的自我监督进行跨域的特征匹配。在三个标准基准数据集的广泛实验中，我们的方法显着提高了目标精度的性能，在新的目标域与几个源标签，甚至是经典的领域自适应的情况下是有帮助的。
2020-03-18 cs.CV
Attending to Discriminative Certainty for Domain Adaptation
Indian Institute of Technology Kanpur（印度理工学院坎普尔分校）
在本文中，我们的目标是解决无监督的领域自适应的分类器，我们可以访问标签信息的源域，而这些是不可用的目标域。虽然已经提出了各种方法来解决这些问题，包括基于对抗性自适应的方法，但大多数方法都集中在基于整个图像的领域自适应。在图像中，将存在可以更好地适应的区域，例如，前景对象可以在性质上是相似的。为了获得这样的区域，我们提出了考虑不同区域的概率确定性估计的方法，并在分类适应过程中指定重点。我们观察到，仅仅通过在训练分类器的同时结合样本的概率确定性，我们就能够在各种数据集上获得最先进的结果，与所有最近的方法相比。我们提供了一个彻底的实证分析的方法，通过提供消融分析，统计显著性检验，注意力地图和t-SNE嵌入的可视化。这些评估令人信服地证明了所提出的方法的有效性。
2019-09-16 cs.CV cs.LG stat.ML
Racial Faces in-the-Wild: Reducing Racial Bias by Information Maximization Adaptation Network
Beijing University of Posts and Telecommunications（北京邮电大学）；Canon Information Technology (Beijing) Co., Ltd（佳能信息技术（北京）有限公司）
种族偏见是生物识别中的一个重要问题，但在深度人脸识别中尚未得到深入研究。在本文中，我们首先贡献了一个名为Racial Faces in the Wild（RFW）数据库的专用数据集，在此数据库上，我们坚定地验证了四种商业API和四种最先进（SOTA）算法的种族偏见。然后，我们进一步提出了使用深度无监督领域自适应的解决方案，并提出了一个深度信息最大化自适应网络（IMAN），以减轻这种偏见，使用高加索人作为源域和其他种族作为目标域。这种无监督的方法同时调整全局分布，以减少种族差距在域级别，并学习的歧视性目标表示在集群级别。提出了一种新的互信息损失，以进一步提高网络输出的区分能力，没有标签信息。在RFW、GBU和IJB-A数据库上进行的大量实验表明，IMAN成功地学习了在不同种族和不同数据库中推广的特征。
2019-07-27 cs.CV
Deep Cross-modality Adaptation via Semantics Preserving Adversarial Learning for Sketch-based 3D Shape Retrieval
由于2D草图和3D形状之间存在很大的跨模态差异，因此通过草图检索3D形状是一项非常具有挑战性的任务。为了解决这个问题，本文提出了一个新的框架来学习有区别的深度跨模态适应模型。具体来说，我们首先分别采用两个度量网络，然后是两个深度卷积神经网络（CNN），基于重要性感知度量学习方法学习特定于模态的判别特征。随后，我们显式地引入了一个跨模态转换网络来补偿两种模态之间的分歧，它可以将2D草图的特征转换到3D形状的特征空间。我们开发了一种基于对抗学习的方法来训练转换模型，通过同时增强两种模态的数据分布之间的整体相关性，并通过最小化跨模态平均差异项来减轻局部语义分歧。在SHREC 2013和SHREC 2014数据集上的实验结果清楚地表明，与最先进的方法相比，我们提出的模型具有更好的检索性能。
2018-07-04 cs.CV
Unsupervised Domain Adaptation via Discriminative Manifold Propagation
Sun Yat-Sen University（中山大学）；City University of Hong Kong（香港城市大学）
无监督领域自适应在将丰富的信息从标记的源域利用到未标记的目标域方面是有效的。虽然深度学习和对抗策略在特征适应性方面取得了重大突破，但仍有两个问题需要进一步研究。首先，在目标域上硬分配的伪标签是任意的并且容易出错，并且直接应用它们可能破坏固有的数据结构。其次，深度学习的批量训练限制了全局结构的表征。本文提出了一个黎曼流形学习框架，同时实现可迁移性和可区分性。对于第一个问题，该框架通过软标签在目标域上建立概率判别准则。基于预先建立的原型，这个标准扩展到第二个问题的全球近似计划。采用流形度量对齐，以兼容嵌入空间。推导了不同对准度量的理论误差界，用于构造性制导。所提出的方法可以用来解决一系列变种的领域自适应问题，包括香草和部分设置。大量的实验已经进行了调查的方法和比较研究显示的歧视性流形学习框架的优越性。
2020-08-23 cs.CV cs.LG stat.ML
SynDoc: A Hybrid Discriminative-Generative Framework for Enhancing Synthetic Domain-Adaptive Document Key Information Extraction
The University of Western Australia（西澳大学）；The University of Melbourne（墨尔本大学）；The University of Sydney（悉尼大学）；Weill Cornell Medicine, Cornell University（韦尔·科恩医学中心，康奈尔大学）
针对专业领域VRDU中LLMs/MLLMs幻觉、适配不足和数据依赖问题，本文提出SynDoc混合框架，通过合成数据、自适应指令微调和双模型递归推理提升文档关键信息抽取性能。
2025-09-27 cs.CV
Oracle Character Recognition using Unsupervised Discriminative Consistency Network
Beijing University of Posts and Telecommunications（北京邮电大学）
针对扫描甲骨文难标注、磨损及类间相似问题，提出融合伪标签、增强一致性和无监督迁移损失的域适应方法，在 Oracle-241 上达到最优性能。
2023-12-11 cs.CV
Adversarially Masked Video Consistency for Unsupervised Domain Adaptation
Carnegie Mellon University（卡内基梅隆大学）；HKUST（香港科技大学）；FAIR, Meta（Meta FAIR实验室）
针对第一人称视频无监督域适应问题，提出基于transformer的模型，通过对抗掩码对齐网络和掩码一致性学习模块学习域不变与类判别特征，并构建U-Ego4D基准，取得最先进性能。
2024-03-24 cs.CV
Simplifying Open-Set Video Domain Adaptation with Contrastive Learning
University of Trento（特伦托大学）；Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）
为了减少动作识别中的注释成本，已经提出了无监督视频领域自适应方法，其目的是从标记的数据集（即，源域）到未标记的数据集（即，目标域）。在这项工作中，我们解决了一个更现实的情况下，称为开放集视频领域自适应（OUVDA），目标数据集包含“未知”的语义类别，不与源共享。挑战在于对齐两个域的共享类，同时将共享类与未知类分开。在这项工作中，我们建议解决OUVDA与一个统一的对比学习框架，学习歧视和良好的聚类功能。我们还提出了一个面向视频的时间对比损失，使我们的方法，以更好地利用视频数据中的免费时间信息的特征空间聚类。我们发现，判别特征空间有利于更好地分离未知类，从而使我们能够使用一个简单的基于相似性的分数来识别它们。我们对多个OUVDA基准进行了彻底的实验评估，并显示了我们所提出的方法对现有技术的有效性。
2023-01-09 cs.CV
Self-Distillation for Unsupervised 3D Domain Adaptation
University of Bologna（博洛尼亚大学）
点云分类是三维视觉中的一项重要任务。然而，以前的作品，通常假设点云在测试时获得相同的程序或传感器在训练时。相反，无监督领域自适应（UDA）打破了这一假设，并试图解决一个未标记的目标域上的任务，只利用一个有监督的源域。对于点云分类，最近的UDA方法试图通过辅助任务（如点云重建）跨域对齐特征，但这并没有优化特征空间中目标域的区分能力。相比之下，在这项工作中，我们专注于获得一个判别特征空间的目标域之间的点云和它的增强版本执行一致性。然后，我们提出了一种新的迭代自训练方法，该方法利用UDA上下文中的图神经网络来改进伪标签。我们进行了大量的实验，并设置了新的国家的最先进的标准UDA基准点云分类。最后，我们展示了我们的方法可以扩展到更复杂的任务，如部分分割。
2022-10-15 cs.CV
Transporting Causal Mechanisms for Unsupervised Domain Adaptation
Nanyang Technological University（南洋理工大学）；Damo Academy, Alibaba Group（阿里巴巴集团达摩院）；Singapore Management University（新加坡管理大学）
现有的无监督领域自适应（UDA）文献采用了协变量偏移和条件偏移假设，这实质上鼓励模型学习跨领域的共同特征。然而，由于缺乏监督的目标领域，他们遭受的语义损失：将不可避免地失去了非歧视性的语义，在源领域的特征，但在目标领域的歧视性。我们使用因果观点--可转移性理论--来确定这种损失实际上是一种混杂效应，只能通过因果干预来消除。然而，可移植性提供的理论解决方案对于UDA来说是远远不实用的，因为它需要分层和表示未观察到的混淆因素，这是域间隙的原因。为此，我们提出了一个实用的解决方案：运输因果机制（TCM），通过使用域不变的解纠缠因果机制，这是在无监督的方式发现，以确定混淆层和表示。我们的中医学既有理论基础，又有经验基础。大量的实验表明，TCM在三个具有挑战性的UDA基准测试中达到了最先进的性能：ImageCLEF-DA，VisDA-2017和Vis-Home。代码见附录。
2021-07-28 cs.CV
TVT: Transferable Vision Transformer for Unsupervised Domain Adaptation
University Of Texas at Arlington（德克萨斯大学阿灵顿分校）；Kuaishou Techlology（快手科技）
无监督领域自适应（UDA）的目的是将从标记的源领域学习到的知识转移到未标记的目标领域。以前的工作主要是建立在卷积神经网络（CNN）学习域不变表示。随着最近的指数增长，应用视觉Transformer（ViT）的视觉任务，ViT的能力，在适应跨领域的知识，但是，仍然是未开发的文献。为了填补这一空白，本文首先全面调查的ViT的各种领域自适应任务的可转移性。令人惊讶的是，ViT表现出比基于CNN的同行更优越的可转移性，具有很大的优势，而性能可以通过引入对抗性适应来进一步提高。尽管如此，直接使用基于CNN的适应策略未能利用ViT的内在优点（例如，注意力机制和序列图像表征）在知识传递中起着重要作用。为了弥补这一点，我们提出了一个统一的框架，即可转移的视觉Transformer（TVT），充分利用的可转移性ViT的领域自适应。具体来说，我们精心设计了一个新颖而有效的单元，我们称之为可转移性适应模块（TAM）。通过将学习到的可转移性注入到注意力块中，TAM迫使ViT专注于可转移性和区分性特征。此外，我们利用判别式聚类来增强在对抗域对齐过程中被破坏的特征多样性和分离。为了验证其通用性，我们进行了广泛的研究TVT的四个基准和实验结果表明，TVT达到显着的改善相比，现有的国家的最先进的UDA方法。
2021-11-26 cs.CV
Unsupervised Domain Adaptation via Discriminative Manifold Embedding and Alignment
Sun Yat-Sen University（中山大学）；JiaYing University（嘉应学院）；Guangzhou University（广州大学）
无监督领域自适应能够有效地利用源域到无监督目标域的丰富信息。虽然深度学习和对抗策略在特征适应性方面取得了重要突破，但还有两个问题需要进一步探讨。首先，在目标域上硬分配的伪标签对固有的数据结构是有风险的。其次，深度学习中的分批训练方式限制了对全局结构的描述。本文提出了一个黎曼流形学习框架，以实现一致的可转移性和可区分性。对于第一个问题，该方法通过软标签在目标域上建立概率判别准则。此外，该标准扩展到第二个问题的全球近似计划，这种近似也是节省内存。利用流形度量对齐与嵌入空间兼容。理论上的误差界推导出，以方便对齐。通过大量的实验对提出的一致流形学习框架进行了研究，实验结果表明了一致流形学习框架的优越性。
2020-02-28 cs.CV cs.LG stat.ML
Contrastive Adaptation Network for Unsupervised Domain Adaptation
University of Technology Sydney（悉尼科技大学）；Google AI（谷歌人工智能）；Baidu Research（百度研究院）；Carnegie Mellon University（卡内基梅隆大学）
无监督领域自适应（UDA）对目标领域数据进行预测，而手动注释仅在源领域中可用。以前的方法忽略了类信息，这可能会导致不对齐和泛化性能差的域差异最小化。为了解决这个问题，本文提出了对比自适应网络（CAN）优化一个新的度量，显式地模拟类内域差异和类间域差异。我们设计了一种交替更新策略，以端到端的方式训练CAN。在两个真实世界基准Office-31和VisDA-2017上的实验表明，CAN与最先进的方法相比表现良好，并产生更具区分力的特征。
2019-04-10 cs.CV
Aligning Non-Causal Factors for Transformer-Based Source-Free Domain Adaptation
本文提出C-SFTrans框架，通过先对齐非因果因素再对齐任务判别性因果因素的两阶段方法，首次在无源域自适应中利用视觉Transformer实现因果解耦，并在多个基准上取得最优结果。
2023-11-27 cs.CV
CAFA: Class-Aware Feature Alignment for Test-Time Adaptation
University of Washington（华盛顿大学）；KAIST AI（韩国科学技术院人工智能学院）；Enssel Inc.（Enssel公司）
针对测试时适应中无法以类判别方式学习目标表示的问题，提出类感知特征对齐损失CAFA，无需超参数，在6个数据集上持续优于现有基线。
2023-09-04 cs.CV
Unsupervised Contrastive Domain Adaptation for Semantic Segmentation
University of Oxford（牛津大学）；Intel Labs（英特尔实验室）
语义分割模型在领域转换的情况下难以推广。在本文中，我们介绍了对比学习的跨领域自适应的特征对齐。我们组装域内对比对和跨域对比对来学习跨域对齐的区分特征。基于得到的对齐良好的特征表示，我们引入了一种标签扩展方法，该方法能够在自适应过程中从硬类中发现样本，以进一步提高性能。所提出的方法始终优于国家的最先进的领域自适应的方法。当在合成的GTA 5数据集和未标记的Cityscapes图像上训练时，它在Cityscapes数据集上实现了60.2%mIoU。
2022-04-18 cs.CV
Importance Weighted Adversarial Nets for Partial Domain Adaptation
Advanced Multimedia Research Lab, University of Wollongong, Australia（伍伦贡大学高级多媒体研究实验室，澳大利亚伍伦贡大学高级多媒体研究实验室（注：此处“Advanced Multimedia Research Lab”是实验室，属于University of Wollongong的机构，整体按要求提取到大学级别，即University of Wollongong，澳大利亚伍伦贡大学））
提出了一种基于重要性加权对抗网的无监督领域自适应方法，该方法适用于目标领域类别数少于源领域类别数的部分领域自适应。以往的领域自适应方法一般假设标签空间相同，从而减少分布分歧导致可行的知识转移。然而，这样的假设在更现实的场景中不再有效，该场景需要从更大和更多样化的源域适应到具有更少类别的更小目标域。本文扩展了基于对抗性网络的领域自适应，提出了一种新型的基于对抗性网络的部分领域自适应方法，用于识别可能来自离群类的源样本，同时减少域之间共享类的移动。
2018-03-28 cs.CV
Partial Adversarial Domain Adaptation
Tsinghua University（清华大学）；National Engineering Laboratory for Big Data Software（大数据系统软件国家工程实验室）；Beijing National Research Center for Information Science and Technology（北京信息科学与技术国家研究中心）
领域对抗学习在两个玩家的极大极小游戏中对齐源域和目标域的特征分布。现有的领域对抗网络通常假设不同领域的标签空间相同。在大数据存在的情况下，有强烈的动机将深度模型从现有的大领域转移到未知的小领域。本文引入部分领域自适应作为一种新的领域自适应方案，它将完全共享标签空间的假设放宽为源标签空间包含目标标签空间。以前的方法通常将整个源域与目标域进行匹配，由于标签空间之间存在较大的不匹配，因此很容易出现部分领域自适应问题的负迁移。我们提出了部分对抗领域自适应（PADA），它同时通过降低离群源类的数据权重来训练源分类器和域对手来消除负迁移，并通过匹配共享标签空间中的特征分布来促进正迁移。实验表明，PADA超过了国家的最先进的部分领域自适应任务的结果在几个数据集。
2018-08-10 cs.CV
Reusing the Task-specific Classifier as a Discriminator: Discriminator-free Adversarial Domain Adaptation
University of Science and Technology of China（中国科学技术大学）
对抗学习在无监督领域自适应（UDA）中取得了显著的性能。现有的对抗性UDA方法通常采用额外的策略来与特征提取器进行最小-最大游戏。然而，这些方法中的大多数未能有效地利用预测的判别信息，从而导致发生器的模式坍塌。在这项工作中，我们从不同的角度来解决这个问题，并设计了一个简单而有效的对抗范式，其形式为无判别式对抗学习网络（DALN），其中类别分类器被重用为一个分类器，通过一个统一的目标实现明确的域对齐和类别对齐，使DALN能够利用预测的判别信息进行充分的特征对齐。基本上，我们引入了一个核范数Wasserstein差异（NWD），它对进行判别具有一定的指导意义。这样的NWD可以与分类器耦合，以作为满足K-Lipschitz约束的分类器，而不需要额外的权重裁剪或梯度惩罚策略。没有花里胡哨的东西，DALN在各种公共数据集上与现有的最先进的（SOTA）方法相比毫不逊色。此外，作为一种即插即用的技术，NWD可以直接用作通用正则化器，以使现有的UDA算法受益。代码可在https://github.com/xiaoachen98/DALN上获得。
2022-04-08 cs.CV
Tackling Partial Domain Adaptation with Self-Supervision
Politecnico di Torino（都灵理工大学）；Istituto Italiano di Tecnologia（意大利理工学院）；Sapienza Università di Roma（罗马第一大学）
领域自适应方法在减少视觉域之间的边缘分布差异方面显示出有希望的结果。它们允许训练在不同性质的数据集（照片，绘画等）上工作的可靠模型，但当域不共享相同的标签空间时，它们仍然很难。在部分领域自适应设置中，其中目标仅覆盖源类别的子集，在不引起负转移的情况下减小域间隙是具有挑战性的。许多解决方案只是通过增加启发式样本加权策略来保持标准的领域自适应技术。在这项工作中，我们展示了如何从空间协同定位的补丁获得的自我监督信号可以用来定义一个边任务，支持适应，而不管跨域的确切标签共享条件。我们建立在最近的工作，介绍了一个拼图任务领域泛化：我们描述了如何重新制定这种方法的部分领域自适应，我们展示了它如何提高现有的自适应解决方案时，与他们相结合。在三个数据集上的实验结果支持了该方法的有效性。
2019-06-12 cs.CV
mDALU: Multi-Source Domain Adaptation and Label Unification with Partial Datasets
ETH Zurich（苏黎世联邦理工学院）；MPI for Informatics（马克斯·普朗克信息学研究所）；UESTC（电子科技大学）；KU Leuven（鲁汶大学）
对象识别的一个挑战是推广到新的领域，更多的类和/或新的模态。这需要组合和重用可能属于不同域、具有部分注释和/或具有不同数据模态的现有数据集的方法。本文将其归结为一个多源领域自适应和标签统一问题，并提出了一种新的方法，该方法包括部分监督自适应和全监督自适应两个阶段。在前者中，部分知识从多个源域转移到目标域并在其中融合。通过三个新的模块：域注意，不确定性最大化和注意力引导的对抗性对齐来减轻不匹配标签空间之间的负转移。在后者中，知识转移后，在统一的标签空间的标签完成过程与伪标签。在三个不同的任务-图像分类，2D语义图像分割，和联合2D-3D语义分割-广泛的实验表明，我们的方法优于所有的竞争方法显着。
2021-09-27 cs.CV
A Fully Convolutional Tri-branch Network (FCTN) for Domain Adaptation
University of Southern California（南加州大学）
提出了一种基于领域自适应的城市场景分割方法。我们开发了一个完全卷积的三分支网络，其中两个分支为未标记目标域中的图像分配伪标签，而第三个分支则基于伪标记目标域中的图像进行监督训练。重新贴标签和重新培训过程交替进行。通过这种设计，三分支网络逐步学习特定于目标的区别性表示，因此，分段器的跨域能力得到提高。我们评估所提出的网络上的大规模领域自适应实验使用合成（GTA）和真实（城市景观）图像。结果表明，我们的解决方案实现了最先进的性能，它优于以前的方法的显着保证金。
2018-02-27 cs.CV
Partial Domain Adaptation Using Graph Convolutional Networks
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）
部分领域自适应（PDA）是标准领域自适应的一种通用形式，它假设目标标签空间包含在源标签空间中。由于目标标签空间是未知的，PDA的主要挑战是减少不属于目标标签空间的不相关源样本（称为离群值）的学习影响。现有的部分领域自适应方法虽然有效地降低了离群点的重要性，但它们没有考虑每个领域的数据结构，也没有直接对齐源域和目标域中同一类的特征分布，这可能导致类别级分布的不对齐。为了克服这些问题，我们提出了一个图部分领域自适应（GPDA）网络，它利用图卷积网络共同考虑数据结构和每个类的特征分布。具体来说，我们提出了一个标签关系图对齐的分布相同的类别在两个领域，并引入移动平均质心分离的学习网络从标签关系图。我们证明，考虑数据结构和每个类别的分布是有效的PDA和我们的GPDA网络上的Digit和Office-31数据集达到最先进的性能。
2020-05-16 cs.CV
Modeling Hierarchical Structural Distance for Unsupervised Domain Adaptation
South China University of Technology（华南理工大学）；Hong Kong University of Science and Technology（香港科技大学）；University of Oxford（牛津大学）
提出DeepHOT，通过统一域级和图像级最优传输建模层级结构距离，实现无监督域适应，同时学习域不变和类别判别表示。
2024-04-19 cs.CV
Adversarial Consistent Learning on Partial Domain Adaptation of PlantCLEF 2020 Challenge
Lehigh University（利哈伊大学）
领域自适应是解决领域迁移问题的关键技术之一。部分领域自适应解决了目标类别仅是源类别的子集的情况。在本文中，为了实现跨域植物图像的有效表示，我们首先从预训练模型中提取深度特征，然后在统一的深度架构中开发对抗一致性学习（$ACL$），用于部分领域自适应。它包括源域分类损失、对抗学习损失和特征一致性损失。对抗性学习损失可以保持源域和目标域之间的域不变特征。此外，特征一致性损失可以保持两个域之间的细粒度特征过渡。通过对源域中不相关的类别进行降权，找到两个域的共享类别。实验结果表明，从NASNetLarge模型与建议的$ACL$架构的训练功能产生有前途的结果PlantCLEF 2020挑战。
2020-09-19 cs.CV
Selective Pseudo-Labeling with Reinforcement Learning for Semi-Supervised Domain Adaptation
Didi Chuxing（滴滴出行）；Carleton University（卡尔顿大学）；Beijing University of Posts and Telecommunications（北京邮电大学）
最近的领域自适应方法在无监督领域自适应问题上取得了令人瞩目的进步。然而，在半监督领域自适应（SSDA）设置中，其中目标域具有几个可用的标记实例，这些方法可能无法提高性能。受领域自适应中伪标签有效性的启发，提出了一种基于强化学习的半监督领域自适应选择性伪标签方法.传统的伪标记方法很难平衡伪标记数据的正确性和代表性。为了解决这一限制，我们开发了一个深度Q学习模型来选择准确和有代表性的伪标记实例。此外，由于大间隔损失在学习小数据的判别特征时的能力，我们进一步提出了一种新的目标间隔损失用于我们的基础模型训练，以提高其判别能力。我们提出的方法进行了评估的几个基准数据集SSDA，并表现出优越的性能，所有的比较方法。
2020-12-07 cs.CV
DiDA: Disentangled Synthesis for Domain Adaptation
Shandong University（山东大学）；Tel Aviv University（特拉维夫大学）；The Hebrew University of Jerusalem（耶路撒冷希伯来大学）
无监督领域自适应旨在通过利用从源域到无监督目标域的监督来学习两个相关但不相同的域的共享模型。许多有效的领域自适应方法依赖于提取两个领域共有的有区别的但领域不变的潜在因素的能力。提取潜在的共性对于解纠缠分析也是有用的，使得两个域的共同特征和域特定特征之间能够分离。在本文中，我们提出了一种方法来提高领域自适应性能，利用解纠缠分析。其核心思想是通过学习分别提取共同特征和领域特定特征，可以在有监督的情况下合成更多的目标领域数据，从而提高领域自适应性能。更好的公共特征提取反过来又有助于进一步改进解纠缠分析和解纠缠合成。我们发现，迭代之间的领域自适应和解纠缠分析可以不断提高对方的几个无监督的领域自适应任务，为各种领域自适应骨干模型。
2018-05-21 cs.CV
Enhanced Separable Disentanglement for Unsupervised Domain Adaptation
Lehigh University（理海大学）
领域自适应的目的是在将知识从已有的已标记领域转移到新领域时，减小领域间隙。然而，现有的基于去纠缠的方法没有充分考虑领域不变特征和领域特定特征之间的分离，这意味着领域不变特征是不具有区分性的。重建的特征在训练期间也没有得到充分利用。本文提出了一种新的增强型可分离解纠缠（ESD）模型。我们首先采用一个disentangler提取域不变和域特定的功能。然后，我们应用特征分离增强过程，以最大限度地减少域不变和域特定的功能之间的污染。最后，我们的模型重建完整的特征向量，用于在训练阶段进一步解开。来自三个基准数据集的大量实验优于最先进的方法，特别是在具有挑战性的跨领域任务上。
2021-06-22 cs.CV
CyCADA: Cycle-Consistent Adversarial Domain Adaptation
BAIR, UC Berkeley（加州大学伯克利分校伯克利人工智能研究院）；OpenAI；CS, Boston University（波士顿大学计算机科学系）
领域自适应对于在新的、未知的环境中取得成功至关重要。在特征空间中应用的对抗适应模型发现了域不变表示，但难以可视化，有时无法捕获像素级和低级域偏移。最近的工作表明，结合循环一致性约束的生成对抗网络在域之间映射图像时非常有效，即使不使用对齐的图像对。提出了一种新的区分训练的循环一致性对抗领域自适应模型。CyCADA在像素级和特征级都适应表示，在利用任务丢失的同时加强周期一致性，并且不需要对齐对。我们的模型可以应用于各种视觉识别和预测设置。我们在多个适应任务中展示了新的最先进的结果，包括数字分类和道路场景的语义分割，展示了从合成到现实世界领域的转移。
2017-12-29 cs.CV
Adaptively-Accumulated Knowledge Transfer for Partial Domain Adaptation
Indiana University-Purdue University Indianapolis（印第安纳大学-普渡大学印第安纳波利斯分校）
部分领域自适应（PDA）是一种用源域标签空间代替目标域的具有现实性和挑战性的自适应算法。大多数传统的领域自适应（DA）的努力集中在学习域不变的功能，以减轻跨域的分布差异。然而，这是至关重要的，以减轻所造成的负面影响，不相关的源域类别明确的PDA。在这项工作中，我们提出了一个自适应积累的知识转移框架（A $^2$ KT），以调整两个领域的有效领域自适应的相关类别。具体而言，自适应积累的机制，探索逐步过滤出最有信心的目标样本及其相应的源类别，促进积极的转移与更多的知识在两个领域。此外，一个双不同的分类器架构，包括一个原型分类器和一个多层感知器分类器的构建，以捕捉内在的数据分布知识，跨领域从不同的角度。通过最大化类间中心差异和最小化类内样本紧致度，该模型能够获得更多的共享类别数据的领域不变和特定于任务的区分表示。在多个部分领域自适应基准测试上的综合实验表明，与现有的PDA方法相比，该模型是有效的。
2020-08-27 cs.CV
Unsupervised Domain Adaptation via Structurally Regularized Deep Clustering
South China University of Technology（华南理工大学）；Wushan Road, Tianhe District, Guangzhou, Guangdong, China（中国广东省广州市天河区五山路381号（注：此地址为机构具体位置，按要求仅提取到大学级别，此处原机构名称应为华南理工大学，该地址为华南理工大学地址，故仅保留华南理工大学））
无监督领域自适应（UDA）是指当源域上的标记数据与目标域上的标记数据发生分布偏移时，对目标域上的未标记数据进行预测。主流UDA方法学习两个域之间的对齐特征，使得在源特征上训练的分类器可以容易地应用于目标特征。然而，这样的转移策略具有破坏目标数据的内在区分的潜在风险。为了减轻这种风险，我们的动机是由结构域相似性的假设，并建议直接揭示内在的目标歧视通过歧视性聚类的目标数据。我们使用结构源正则化来约束聚类解决方案，该正则化取决于我们假设的结构域相似性。在技术上，我们使用基于深度网络的判别聚类的灵活框架，该框架最小化网络的预测标签分布与引入的辅助标签分布之间的KL分歧;将辅助分布替换为由源数据的地面真实标签形成的辅助分布，通过联合网络训练的简单策略实现结构源正则化。我们将我们提出的方法称为结构正则化深度聚类（SRDC），其中我们还通过中间网络特征的聚类来增强目标区分，并通过对分歧较小的源示例的软选择来增强结构正则化。仔细的消融研究显示了我们提出的SRDC的有效性。值得注意的是，没有显式的域对齐，SRDC在三个UDA基准测试中优于所有现有的方法。
2020-03-19 cs.CV
Learning to Transfer Examples for Partial Domain Adaptation
Tsinghua University（清华大学）；Hong Kong University of Science and Technology（香港科技大学）
领域自适应对于在新的和未知的环境中学习至关重要。通过领域对抗训练，深度网络可以学习解纠缠和可转移的特征，这些特征可以有效地减少数据集在源和目标领域之间的转移，以实现知识转移。在大数据时代，大规模标记数据集的出现激发了部分领域自适应（PDA）的研究兴趣，PDA将识别器从标记的大领域转换到未标记的小领域。它将标准的领域自适应扩展到目标标签仅是源标签的子集的场景。在目标标签未知的情况下，如何迁移共享类中的相关样例以促进正迁移，忽略特定类中的无关样例以减轻负迁移是PDA的关键挑战。在这项工作中，我们提出了一个统一的方法PDA，示例传输网络（ETN），它联合学习跨源和目标域的域不变表示，以及一个渐进的加权方案，量化源示例的可转移性，同时控制它们对目标域中学习任务的重要性。在多个基准数据集上的测试结果表明，该方法在部分领域自适应任务中取得了较好的效果。
2019-04-07 cs.CV
Deep Residual Correction Network for Partial Domain Adaptation
Beijing Institute of Technology（北京理工大学）；Tsinghua University（清华大学）；Indiana University-Purdue University Indianapolis（印第安纳大学-普渡大学印第安纳波利斯分校）
深度领域自适应方法通过学习从良好标记的源域到不同但相关的未标记的目标域的可转移表示来实现吸引人的性能。现有的大多数工作假设源数据和目标数据共享相同的标签空间，这在许多实际应用中往往难以满足。随着大数据的出现，出现了一种更实际的场景，称为部分领域自适应，即我们总是可以访问更大规模的源域，同时处理相对较小规模的目标域。在这种情况下，传统的领域自适应假设应该放松，并且目标标签空间倾向于是源标签空间的子集。直觉上，增强最相关源子类的积极影响，减少不相关源子类的负面影响，对于解决部分领域自适应挑战至关重要。本文提出了一种高效实现的深度残差校正网络（DRCN），通过将一个残差块与特定任务的特征层一起插入源网络，有效地增强了从源到目标的适应性，并显式地削弱了不相关源类的影响。具体地说，由多个全连通层组成的插入残差块可以加深基本网络，相应地提高其特征表示能力。此外，我们设计了一个加权类域对齐损失耦合两个域之间的共享类源和目标的特征分布匹配。在部分、传统和细粒度跨域视觉识别上的综合实验表明，DRCN优于竞争激烈的深领域自适应方法。
2020-04-10 cs.CV
