Improving the Generalization of Adversarial Training with Domain Adaptation
Huazhong University of Science and Technology（华中科技大学）；Peking University（北京大学）；Cornell University（康奈尔大学）
通过将对抗性示例注入训练数据，对抗性训练有望提高深度学习模型的鲁棒性。然而，大多数现有的对抗训练方法是基于特定类型的对抗攻击。它可能无法从对抗域提供足够有代表性的样本，导致对其他攻击的对抗样本的泛化能力较弱。此外，在对抗性训练过程中，输入的对抗性扰动通常由快速单步对手制作，以便扩展到大型数据集。这项工作主要集中在对抗训练，但有效的FGSM对手。在这种情况下，由于缺乏具有代表性的对抗样本，即样本无法准确反映对抗域，因此很难训练具有很大泛化能力的模型。为了缓解这个问题，我们提出了一种新的对抗训练与领域自适应（ATDA）方法。我们的直觉是将FGSM对手的对抗训练视为具有有限数量目标域样本的域适应任务。其主要思想是学习一种在干净域和对抗域上具有语义意义和域不变的表示。对Fashion-MNIST、SVHN、CIFAR-10和CIFAR-100的实证评估表明，ATDA可以大大提高对抗训练的泛化能力和学习模型的平滑度，并在标准基准数据集上优于最先进的方法。为了展示我们方法的迁移能力，我们还将ATDA扩展到迭代攻击的对抗训练，如PGD-Adversial Training（PAT），防御性能得到了显着提高。
2019-03-15 cs.CV cs.LG stat.ML
Transfer Learning with Dynamic Adversarial Adaptation Network
Chinese Academy of Sciences（中国科学院）；University of Chinese Academy of Sciences（中国科学院大学）；Microsoft Research Asia（微软亚洲研究院）；China Academy of Space Technology（中国空间技术研究院）
深度迁移学习的最新进展表明，对抗学习可以嵌入到深度网络中，学习更多的可迁移特征，以减少两个域之间的分布差异。现有的对抗性领域自适应方法要么学习一个单一的领域分类器来对齐全局源和目标分布，要么关注基于多个鉴别器的子领域对齐。然而，在实际应用中，域之间的边缘（全局）和条件（局部）分布往往对自适应的贡献不同。目前还没有方法来动态和定量地评估这两种分布对对抗学习的相对重要性。在本文中，我们提出了一种新的动态对抗适应网络（DAAN），动态学习域不变表示，同时定量评估全局和局部域分布的相对重要性。据我们所知，DAAN是第一次尝试为深度对抗学习执行动态对抗分布自适应。DAAN在实际应用中非常容易实现和训练。我们从理论上分析了DAAN的有效性，它也可以用注意策略来解释。大量的实验表明，与最先进的深度和对抗方法相比，DAAN实现了更好的分类准确性。研究结果也暗示了对抗性迁移学习中动态分布适应的必要性和有效性。
2019-09-18 cs.LG stat.ML
Multi-step domain adaptation by adversarial attack to $\mathcal{H} Δ\mathcal{H}$-divergence
ITMO University（圣彼得堡国立信息技术机械与光学大学）；Artificial Intelligence Research Institute（人工智能研究所）；Tubingen Universitat（图宾根大学）
对抗性例子可以在不同的模型之间转换。在我们的论文中，我们建议使用此属性的多步领域自适应。在无监督的领域自适应设置中，我们证明了用对抗性示例替换源域到$\mathcal{H} Δ\mathcal{H}$ -发散可以提高目标域上的源分类器精度。我们的方法可以连接到大多数领域自适应技术。我们进行了一系列实验，并在Digits和Digi-Home数据集上实现了准确性的提高。
2022-07-18 cs.CR cs.CV cs.LG
Domain Adaptation with Adversarial Training on Penultimate Activations
Stony Brook University（石溪大学）；XPeng Motors（小鹏汽车）
增强模型对目标数据的预测置信度是无监督领域自适应（UDA）的一个重要目标。在本文中，我们探讨了倒数第二次激活的对抗性训练，即，最终线性分类层的输入特征。我们表明，这种策略比以前的作品中使用的对输入图像或中间特征的对抗性训练更有效，并且与提高预测置信度的目标更相关。此外，激活归一化通常用于领域自适应，以减少域间隙，我们推导出两个变体，并系统地分析了归一化对我们的对抗训练的影响。这一点在理论上和实际的适应任务的实证分析都得到了说明。在标准设置和源数据自由设置下，对流行的UDA基准进行了广泛的实验。结果验证了我们的方法达到了最好的分数对以前的艺术。代码可在https://github.com/tsun/APA上获得。
2023-02-26 cs.CV cs.LG
Adversarial Robustness for Unsupervised Domain Adaptation
Dept. of Computer Science, Kyung-Hee University（庆熙大学计算机科学系）；Dept. of Computer Science, The University of Hong Kong（香港大学计算机科学系）
广泛的无监督领域自适应（UDA）研究已经在实践中取得了巨大的成功，通过使用深度模型学习标记源域和未标记目标域的可转移表示。然而，以前的工作集中在提高UDA模型对干净样本的泛化能力，而没有考虑对抗鲁棒性，这在现实世界的应用中是至关重要的。传统的对抗训练方法不适用于UDA的未标记目标域上的对抗鲁棒性，因为它们使用由监督损失函数生成的对抗示例来训练模型。在这项工作中，我们利用多个强大的ImageNet模型学习的中间表示来提高UDA模型的鲁棒性。我们的方法通过将UDA模型的特征与ImageNet预训练模型以及领域自适应训练所学习的鲁棒特征进行对齐来工作。它利用标记和未标记的域，并在领域自适应训练期间注入鲁棒性，而无需任何对抗性干预或标签要求。实验结果表明，与基线相比，我们的方法显着提高了对抗鲁棒性，同时在各种UDA基准上保持了干净的准确性。
2021-09-02 cs.CV cs.LG
Discriminative Adversarial Domain Adaptation
South China University of Technology（华南理工大学）
无监督领域自适应的目标是在给定源域上的已标记实例和目标域上的未标记实例的情况下，学习一个能够很好地分类目标实例的任务分类器。最近的进展依赖于深度网络的领域对抗训练来学习领域不变特征。然而，由于任务和领域分类器的单独设计引起的模式坍塌的问题，这些方法在对齐跨领域的特征和类别的联合分布方面受到限制。为了克服这个问题，我们提出了一种新的对抗性学习方法，称为歧视性对抗领域自适应（DADA）。基于集成的类别和域分类器，DADA具有一个新的对抗性目标，该目标鼓励任何输入实例的类别和域预测之间的相互抑制关系。我们表明，在实际条件下，它定义了一个极大极小博弈，可以促进联合分布对齐。除了传统的闭集领域自适应，我们还扩展了DADA的部分和开集领域自适应的极具挑战性的问题设置。实验表明，我们提出的方法的有效性，我们实现了新的国家的最先进的基准数据集上的所有三个设置。
2019-12-17 cs.CV cs.LG
Class-Aware Domain Adaptation for Improving Adversarial Robustness
Shenzhen University（深圳大学）；IBM（国际商业机器公司）；University of Nottingham（诺丁汉大学）
最近的工作已经证明了卷积神经网络容易受到对抗性示例的影响，即，攻击者故意设计的机器学习模型的输入，以使模型出错。为了提高神经网络的对抗鲁棒性，对抗训练已经被提出来通过将对抗样本注入到训练数据中来训练网络。然而，对抗性训练可能过度适应特定类型的对抗攻击，并且还导致干净图像的标准准确度下降。为此，我们提出了一种新的类感知领域自适应（CADA）方法，用于对抗性防御，而不直接应用对抗性训练。具体来说，我们建议通过域搜索来学习对抗性示例和干净图像的域不变特征。此外，我们还将一个类感知组件引入到网络中，以提高网络对对抗性示例的区分能力。我们使用多个基准数据集来评估我们新提出的方法。结果表明，我们的方法可以显着提高最先进的对抗性鲁棒性的各种攻击，并保持高性能的干净的图像。
2020-05-10 cs.CV cs.LG
Factorized Adversarial Networks for Unsupervised Domain Adaptation
Rutgers University（罗格斯大学）；Toutiao AI Lab（今日头条AI实验室）；Snap Research（Snap研究）
在本文中，我们提出了因子化对抗网络（FAN）解决无监督领域自适应问题的图像分类任务。我们的网络将数据分布映射到一个潜在的特征空间，该空间被分解为一个包含特定领域特征的特定领域子空间和一个保留类别信息的特定任务子空间，分别用于源域和目标域。无监督领域自适应通过对抗训练来实现，以最小化来自源域和目标域的两个任务特定子空间的分布之间的差异。我们证明，所提出的方法优于国家的最先进的方法在文献中使用的多个基准数据集的无监督领域自适应。此外，我们收集了两个比现有基准数据集大得多的真实世界的标记数据集，并在基线上得到了显着的改进，证明了我们的方法的实用价值。
2018-06-04 cs.CV cs.LG
Vision Transformer-based Adversarial Domain Adaptation
School of Artificial Intelligence, Jilin University（吉林大学人工智能学院）
本文首次将Vision Transformer（ViT）作为即插即用特征提取器引入对抗域适应，证明其直接替换现有无监督域适应方法中的CNN即可有效提升性能。
2024-04-24 cs.CV cs.LG
Long-term Cross Adversarial Training: A Robust Meta-learning Method for Few-shot Classification Tasks
The Hong Kong Polytechnic University（香港理工大学）
元学习模型可以利用Few-Shot标记数据快速适应新任务。然而，尽管在Few-Shot分类任务上实现了良好的泛化，但在少样本学习中提高元学习模型的对抗鲁棒性仍然具有挑战性。虽然对抗性查询（AQ）等对抗性训练（AT）方法可以提高元学习模型的对抗性鲁棒性能，但AT仍然是计算昂贵的训练。另一方面，用AT训练的元学习模型将显著降低原始干净图像的准确性。提出了一种对抗鲁棒神经网络的元学习方法--长期交叉对抗训练（LCAT）。LCAT将沿着自然和对抗样本分布方向交叉更新元学习模型参数，以提高对抗和干净的Few-Shot分类精度。由于交叉对抗训练，LCAT只需要比AQ一半的对抗训练时间，从而降低了对抗训练计算。实验结果表明，LCAT在元学习模型的干净和对抗性Few-Shot分类准确率方面都优于SOTA对抗性训练方法。
2021-07-01 cs.CR cs.CV cs.LG
Self-adaptive Re-weighted Adversarial Domain Adaptation
Chongqing University（重庆大学）
现有的对抗性领域自适应方法主要考虑边缘分布，这些方法可能导致欠迁移或负迁移。为了解决这个问题，我们提出了一种自适应重加权对抗领域自适应方法，试图从条件分布的角度来增强域对齐。为了促进正迁移和对抗负迁移，我们降低了对齐特征的对抗性损失的权重，同时增加了那些通过条件熵测量的对齐不良特征的对抗性力量。此外，利用源样本和伪标记的目标样本的三重丢失在混淆域上被采用。这种度量损失确保类内样本对的距离比类间样本对更接近，以实现类级对齐。通过这种方式，可以在协同训练过程中同时捕获高精度的伪标记目标样本和语义对齐。我们的方法实现了理想源和目标假设的低联合误差。然后，预期的目标误差可以是遵循本-大卫定理的上限。实验结果表明，该模型在标准领域自适应数据集上的性能优于现有技术。
2020-06-02 cs.CV cs.LG
Self-training Guided Adversarial Domain Adaptation For Thermal Imagery
Aselsan Inc（阿瑟尔桑公司）；Middle East Technical University（中东技术大学）；NOROM Neuroscience and Neurotechnology Excellency Center（NOROM神经科学与神经技术卓越中心）
在大规模RGB图像数据集上训练的深度模型已经取得了巨大的成功。重要的是将这种深层模型应用于现实世界的问题。然而，这些模型在光照变化下受到性能瓶颈的影响。热红外相机对这种变化更鲁棒，因此对现实世界的问题非常有用。为了研究结合特征丰富的可见光谱和热图像模态的有效性，我们提出了一种无监督的领域自适应方法，该方法不需要RGB到热图像对。我们采用大规模的RGB数据集MS-COCO作为源域和热数据集FLIR ADAS作为目标域来展示我们的方法的结果。虽然对抗性领域自适应方法旨在对齐源域和目标域的分布，但是简单地对齐分布不能保证对目标域的完美泛化。为此，我们提出了一种自训练引导的对抗性领域自适应方法，以提高对抗性领域自适应方法的泛化能力。为了执行自训练，将伪标签分配给目标热域上的样本，以学习目标域的更一般化的表示。大量的实验分析表明，我们提出的方法取得了更好的结果比国家的最先进的对抗性领域自适应方法。代码和模型是公开的。
2021-06-14 cs.CV cs.LG
On Enforcing Better Conditioned Meta-Learning for Rapid Few-Shot Adaptation
The University of Melbourne（墨尔本大学）；Monash University（莫纳什大学）
受预处理概念的启发，我们提出了一种新的方法来提高基于梯度的元学习方法的适应速度，而不会产生额外的参数。我们证明，重铸的优化问题的非线性最小二乘制定提供了一个原则性的方法，积极执行$\textit{well-conditioned}$参数空间的元学习模型的基础上的概念的条件数和局部曲率。我们的综合评估表明，该方法显着优于其无约束的对应，特别是在初始适应步骤，同时实现可比或更好的整体效果上几个Few-Shot分类任务-创建的可能性，动态选择的适应步骤的数量在推理时间。
2022-10-15 cs.CV cs.LG
A Simple Approach to Adversarial Robustness in Few-shot Image Classification
University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）；University of California, Davis（加利福尼亚大学戴维斯分校）
Few-Shot图像分类的目标是推广到具有有限标记数据的任务，多年来已经取得了很大的进展。然而，分类器容易受到对抗性样本的影响，这就对其泛化能力提出了问题。最近的工作试图将元学习方法与对抗训练相结合，以提高Few-Shot分类器的鲁棒性。我们表明，一个简单的迁移学习为基础的方法可以用来训练对抗强大的Few-Shot分类。我们还提出了一种基于将Few-Shot类别的重心向基类校准的新型分类任务的方法。我们表明，在基本类别上进行的标准对抗训练以及在新类别中校准的基于质心的分类器，在少样本学习的标准基准上优于或与最先进的先进方法相当。我们的方法是简单的，易于扩展，并与很少的努力，可以导致强大的Few-Shot分类器。代码可在这里：\url{https://github.com/UCDvision/Simple_few_shot.git}
2022-04-11 cs.AI cs.CV cs.LG
Adversarial Weighting for Domain Adaptation in Regression
Michelin（米其林）；EDF R&D（法国电力集团研发部）
我们提出了一种新的基于实例的方法来处理回归任务的背景下，监督领域自适应假设下的协变量偏移。在本文中开发的方法是基于这样的假设，即目标域上的任务可以有效地学习，在训练阶段通过适当的重新加权的源实例。我们引入了一种新的配方的优化目标领域自适应依赖于差异的距离表征域之间的差异，根据一个特定的任务和一类假设。为了解决这个问题，我们开发了一种对抗网络算法，它在一个前馈梯度下降中学习源加权方案和任务。我们提供了数字证据的相关性的方法对公共数据集的回归领域自适应通过可重复的实验。
2021-09-15 cs.LG stat.ML
Transferable Positive/Negative Speech Emotion Recognition via Class-wise Adversarial Domain Adaptation
The University of Manchester（曼彻斯特大学）
语音情感识别在构建更智能、更人性化的智能体方面发挥着重要作用。由于语音情感数据采集的困难性，一种越来越流行的解决方案是利用相关且丰富的源语料库来帮助处理目标语料库。然而，语料库之间的域转移提出了一个严峻的挑战，使域转移适应难以发挥作用，即使是对积极/消极情绪的识别。在这项工作中，我们提出了类明智的对抗性领域自适应，以解决这一挑战，减少不同语料库之间的所有类的转变。在著名的EMODB和Aibo语料库上的实验表明，即使只提供非常有限数量的目标标记示例，我们的方法也是有效的。
2019-02-14 cs.LG stat.ML
Exploring Adversarially Robust Training for Unsupervised Domain Adaptation
Johns Hopkins University（约翰斯·霍普金斯大学）
无监督领域自适应（UDA）方法旨在将知识从标记的源域转移到未标记的目标域。UDA在计算机视觉文献中得到了广泛的研究。深度网络已被证明容易受到对抗攻击的攻击。然而，很少有人关注提高深度UDA模型的对抗鲁棒性，这引起了人们对模型可靠性的严重担忧。对抗性训练（AT）被认为是最成功的对抗性防御方法。然而，传统的AT需要地面实况标签来生成对抗性示例和训练模型，这限制了其在未标记目标域中的有效性。本文的目的是探索AT来增强UDA模型的鲁棒性：如何通过AT增强未标记数据的鲁棒性，同时学习UDA的域不变特征？为了回答这个问题，我们提供了一个系统的研究，可以应用于UDA的多种AT变体。此外，我们提出了一种新的UDA的对抗鲁棒训练方法，简称为ARTUDA。在多个对抗攻击和UDA基准测试上的大量实验表明，ARTUDA一致地提高了UDA模型的对抗鲁棒性。代码可在https://github.com/shaoyuanlo/ARTUDA上获得
2022-10-04 cs.CV cs.LG
Adversarial-Learned Loss for Domain Adaptation
Zhejiang University（浙江大学）；Fabu Inc.（法布公司）；Alibaba-Zhejiang University Joint Institute of Frontier Technologies（阿里巴巴-浙江大学前沿技术联合研究院）
近年来，跨领域的可迁移表征学习取得了显著的进展。领域自适应的研究主要基于两种技术：领域对抗学习和自训练。然而，领域对抗学习只对齐领域之间的特征分布，而不考虑目标特征是否具有区分性。另一方面，自训练利用模型预测来增强目标特征的区分度，但它无法显式地对齐域分布。为了结合这两种方法的优点，我们提出了一种新的方法称为领域自适应的不利学习损失（ALDA）。我们首先分析了伪标签方法，一种典型的自训练方法。然而，伪标签和地面事实之间存在差距，这可能导致不正确的训练。因此，我们引入了混淆矩阵，它是通过ALDA中的对抗方式学习的，以减少差距并对齐特征分布。最后，一个新的损失函数是自动构造的混淆矩阵，作为未标记的目标样本的损失。我们的ALDA在四个标准的领域自适应数据集上优于最先进的方法。我们的代码可在https://github.com/ZJULearning/ALDA上获得。
2020-01-04 cs.CV cs.LG
Multi-Adversarial Domain Adaptation
Tsinghua University（清华大学）
深度领域自适应的最新进展表明，对抗学习可以嵌入到深度网络中，以学习可转移的特征，从而减少源域和目标域之间的分布差异。现有的基于单域自适应的领域对抗性自适应方法只对源数据和目标数据的分布进行了调整，而没有利用复杂的多模态结构。在本文中，我们提出了一个多对抗领域自适应（MADA）的方法，它捕获多模结构，使细粒度的对齐不同的数据分布的基础上，多个域鉴别器。自适应可以通过随机梯度下降来实现，其中梯度通过线性时间中的反向传播来计算。经验证据表明，该模型优于国家的最先进的方法在标准的领域自适应数据集。
2018-09-04 cs.CV
AED-PADA:Improving Generalizability of Adversarial Example Detection via Principal Adversarial Domain Adaptation
Beihang University（北京航空航天大学）；Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）
本文提出 AED-PADA，通过识别覆盖主要对抗特征空间的 PADs 并引入多源无监督域适应，提升对抗样本检测在未知攻击和最小扰动场景下的泛化能力。
2024-12-04 cs.CR cs.CV cs.LG
Adversarial and Random Transformations for Robust Domain Adaptation and Generalization
National Innovation Institute of Defense Technology（国防科技创新研究院）
数据增强已被广泛用于在训练深度神经网络时提高泛化能力。最近的工作表明，使用最坏情况下的转换或对抗增强策略可以显着提高准确性和鲁棒性。然而，由于图像变换的不可微性质，必须应用诸如强化学习或演化策略的搜索算法，这对于大规模问题在计算上是不实用的。在这项工作中，我们表明，通过简单地应用随机数据增强的一致性训练，可以获得领域自适应（DA）和泛化（DG）的最先进的结果。为了进一步提高对抗样本的准确性和鲁棒性，提出了一种基于空间Transformer网络的可微对抗数据增强方法。基于组合对抗和随机变换的方法在多个DA和DG基准数据集上的性能优于最先进的方法。此外，所提出的方法显示出良好的鲁棒性腐败，这也是常用的数据集上验证。
2022-11-13 cs.CV cs.LG
Active Adversarial Domain Adaptation
UMass Amherst（马萨诸塞大学阿默斯特分校）；NEC Laboratories America（美国电气股份有限公司实验室）；UC San Diego（加利福尼亚大学圣地亚哥分校）
我们提出了一个主动学习的方法，跨域转移表示。我们的方法，主动对抗领域自适应（AADA），探讨了两个相关的问题之间的二元性：对抗域对齐和重要性采样跨域适应模型。前者使用域判别模型来对齐域，而后者利用它来加权样本以解释分布偏移。具体来说，我们的重要性权重促进样本具有较大的不确定性的分类和标记的例子的多样性，从而作为一个样本选择方案的主动学习。我们表明，这两种观点可以统一在一个框架的领域自适应和迁移学习时，源域有许多标记的例子，而目标域没有。当两个域密切相关时，AADA提供了基于微调的方法和其他采样方法的显着改进。具有挑战性的领域自适应任务的结果，例如，目标检测，证明了即使在数百个示例被主动注释之后，也保留了相对于基线方法的优势。
2020-03-09 cs.CV cs.LG
Conditional Adversarial Domain Adaptation
School of Software, Tsinghua University, China（清华大学软件学院，中国）；Tsinghua University, China（清华大学，中国）；University of California, Berkeley, Berkeley, USA（美国加州大学伯克利分校，伯克利）
对抗学习已经被嵌入到深度网络中，以学习用于领域自适应的解纠缠和可转移的表示。现有的对抗性领域自适应方法可能无法有效地对齐分类问题中固有的多模态分布的不同域。在本文中，我们提出了有条件的对抗性领域自适应，一个原则性的框架，条件的对抗性适应模型的判别信息中传达的分类器预测。条件域对抗网络（CDAN）设计了两种新的条件策略：多线性条件，捕获特征表示和分类器预测之间的互协方差，以提高区分度，熵条件，控制分类器预测的不确定性，以保证可转移性。通过理论保证和几行代码，该方法在五个数据集上超过了最先进的结果。
2018-12-29 cs.LG
Dual Adversarial Domain Adaptation
Nanjing University（南京大学）
无监督领域自适应的目的是将知识从标记的源领域转移到未标记的目标领域。以往的对抗性领域自适应方法大多采用二值或$K$维输出的自适应算法来独立地进行边缘或条件比对。最近的实验表明，当在两个领域中的领域信息和标签信息在源域中的，它是能够保持复杂的多模态信息和高语义信息在两个领域中的域信息。遵循这一思想，我们采用了一个具有$2K$维输出的队列管理器，在一个队列管理器中同时执行域级和类级对齐。然而，单一的决策器无法捕捉所有跨领域的有用信息，而且样本与决策边界之间的关系也很少被探索。受多视图学习和领域自适应最新进展的启发，除了识别器和特征提取器之间的对抗过程外，我们还设计了一种新的机制，使两个鉴别器相互对抗，从而可以为彼此提供多样化的信息，避免在源域的支持之外生成目标特征。据我们所知，这是第一次探索的双重对抗策略的领域自适应。此外，我们还使用了半监督学习正则化，使表示更有区别。在两个真实数据集上的综合实验验证了该方法优于几种最先进的领域自适应方法。
2020-01-01 cs.LG stat.ML
Domain Generalisation via Domain Adaptation: An Adversarial Fourier Amplitude Approach
Samsung AI Center Cambridge（三星剑桥人工智能中心）；University of Edinburgh（爱丁堡大学）
我们解决域泛化（DG）的问题，把它作为一个领域自适应（DA）的任务，我们adversarially合成最坏情况下的目标域和适应模型，最坏情况下的域，从而提高模型的鲁棒性。为了合成具有挑战性但保留语义的数据，我们生成傅立叶振幅图像并将其与源域相位图像相结合，利用信号处理中广泛认为的推测，即振幅谱主要决定图像风格，而相位数据主要捕获图像语义。为了合成最坏情况域以进行自适应，我们训练分类器和幅度发生器。具体来说，我们利用DA的最大分类器差异（MCD）原则，将目标域的性能与模型假设空间中分类器的差异联系起来。通过贝叶斯假设建模，我们将模型假设空间有效地表示为给定源域的分类器上的后验分布，使对抗性MCD最小化变得可行。在包括大规模DomainNet数据集的DomainBed基准测试中，所提出的方法比最先进的方法显著提高了域泛化性能。
2023-02-23 cs.CV cs.LG
Adversarial Alignment of Class Prediction Uncertainties for Domain Adaptation
Radboud University（拉德堡德大学）；TNO（荷兰应用科学研究组织）；Open University（开放大学）
我们考虑无监督域自适应：给定源域的标记示例和相关目标域的未标记示例，目标是推断目标示例的标签。在来自预训练的深度神经网络的特征可跨相关域转移的假设下，域自适应简化为在类别预测不确定性水平上对齐源域和目标域。我们通过引入一种基于对抗学习的方法来解决这个问题，该方法迫使目标域上的标签不确定性预测与源域上的标签不确定性预测无法区分。使用预先训练的深度神经网络来生成具有跨相关域的高可转移性的深度特征。我们在大量公开的预训练深度神经网络上对所提出的方法进行了广泛的实验分析。我们在图像分类领域自适应任务上的实验结果表明，类预测不确定性与从预训练的深度神经网络中提取的特征对齐，为领域自适应提供了一种高效、鲁棒和有效的方法。
2019-01-04 cs.LG stat.ML
Importance Weighted Adversarial Nets for Partial Domain Adaptation
Advanced Multimedia Research Lab, University of Wollongong, Australia（伍伦贡大学高级多媒体研究实验室，澳大利亚伍伦贡大学高级多媒体研究实验室（注：此处“Advanced Multimedia Research Lab”是实验室，属于University of Wollongong的机构，整体按要求提取到大学级别，即University of Wollongong，澳大利亚伍伦贡大学））
提出了一种基于重要性加权对抗网的无监督领域自适应方法，该方法适用于目标领域类别数少于源领域类别数的部分领域自适应。以往的领域自适应方法一般假设标签空间相同，从而减少分布分歧导致可行的知识转移。然而，这样的假设在更现实的场景中不再有效，该场景需要从更大和更多样化的源域适应到具有更少类别的更小目标域。本文扩展了基于对抗性网络的领域自适应，提出了一种新型的基于对抗性网络的部分领域自适应方法，用于识别可能来自离群类的源样本，同时减少域之间共享类的移动。
2018-03-28 cs.CV
Adversarial Style Mining for One-Shot Unsupervised Domain Adaptation
Huazhong University of Science & Technology（华中科技大学）；University of Technology Sydney（悉尼科技大学）；Farsee2 Tech. Co.（Farsee2科技公司）；Baidu Research（百度研究院）
本文针对One-Shot无监督领域自适应问题进行研究。与传统的无监督领域自适应不同，它假设在学习自适应时只有一个未标记的目标样本可用。这种设置是现实的，但更具挑战性，在传统的适应方法很容易失败，由于缺乏未标记的目标数据。为此，我们提出了一种新的对抗性风格挖掘方法，它结合了风格转换模块和任务特定模块到一个对抗的方式。具体而言，风格转移模块根据当前学习状态迭代地在一次性目标样本周围搜索更难风格化的图像，引导任务模型探索几乎不可见的目标领域中难以解决的潜在风格，从而提高数据稀缺场景中的适应性能。对抗性学习框架使风格迁移模块和任务特定模块在竞争中相互受益。跨域分类和分割基准上的大量实验验证了ASM在具有挑战性的单次设置下实现了最先进的自适应性能。
2020-04-13 cs.CV cs.LG eess.IV
AdCorDA: Classifier Refinement via Adversarial Correction and Domain Adaptation
McGill University（麦吉尔大学）
本文提出AdCorDA分类器精炼方法，通过对抗校正修正训练集错分类样本、再经域适应还原，在CIFAR-100上准确率提升超5%，还可提升量化网络性能与模型对抗鲁棒性。
2024-01-24 cs.AI cs.CV cs.LG
Adversarial Domain Adaptation for Stance Detection
Computer Science and Artificial Intelligence Laboratory（计算机科学与人工智能实验室）；Massachusetts Institute of Technology（麻省理工学院）
本文研究的立场检测问题，其目的是预测的角度（或立场）的一个给定的文件相对于一个给定的索赔。姿态检测是自动事实检查的主要组成部分。由于注释不同领域中的立场是一项繁琐且昂贵的任务，因此基于机器学习的自动方法是可行的替代方案。在本文中，我们专注于对抗领域自适应的立场检测，我们假设有足够的标记数据在源域和有限的标记数据在目标域。在公开数据集上的大量实验表明，我们的域自适应模型在跨域传递知识以进行准确的姿态检测方面是有效的。
2019-02-06 cs.LG stat.ML
Correlation-aware Adversarial Domain Adaptation and Generalization
Queensland University of Technology（昆士兰科技大学）；University of Queensland（昆士兰大学）
领域自适应（DA）和领域泛化（DG）已经出现作为对源数据和目标数据的分布不同的领域移位问题的解决方案。DG的任务比DA更具挑战性，因为在DG场景的训练阶段，目标数据是完全不可见的。目前最先进的采用对抗技术，然而，这些很少被认为是DG问题。此外，这些方法不考虑相关对齐，这已被证明是非常有益的最小化域差异。在本文中，我们提出了一个相关性感知的对抗DA和DG框架，其中使用相关性对齐以及对抗学习来最小化源和目标数据的特征。将相关性对齐模块与对抗性学习一起使用有助于实现更加领域不可知的模型，因为改进了更有效地减少与未标记目标数据的领域差异的能力。在基准数据集上的实验证明，我们提出的方法可以提高最先进的性能。
2019-11-29 cs.CV cs.LG
Predictive Optimization with Zero-Shot Domain Adaptation
NEC Corporation（NEC公司）；RIKEN（理化学研究所）
zero-shot领域自适应（领域自适应）是在没有任何训练样本的情况下在一个新的域中进行预测的一项重要任务。虽然在一个新的领域的预测得到了很多关注，在本文中，我们调查的另一个潜在的CRAMDA。具体来说，我们不是在一个新的领域中预测响应，而是在给定预测的情况下找到一个新领域的描述。该任务被认为是预测优化，但现有的预测优化方法还没有扩展到处理多个域。我们提出了一个简单的框架，预测优化与CARDA和分析的条件下，优化问题成为凸优化。我们还讨论了在预测优化中如何处理域的特征之间的相互作用。通过数值实验，我们证明了我们提出的框架的潜在有用性。
2021-01-15 cs.LG stat.ML
Blending-target Domain Adaptation by Adversarial Meta-Adaptation Networks
Sun Yat-sen University（中山大学）；DarkMatter AI Research（暗物质人工智能研究院）
（无监督）领域自适应（DA）寻求在仅提供源标记和目标未标记的样本用于训练时对目标实例进行分类。学习域不变特征有助于实现这一目标，而它支持从单个或多个显式目标域（多目标DA）提取的未标记样本。在本文中，我们考虑了一个更现实的迁移场景：我们的目标域是由多个子目标隐式地相互混合，使学习者无法识别每个未标记的样本属于哪个子目标。这种混合目标领域自适应（BTDA）场景在实践中经常出现，并威胁到大多数现有DA算法的有效性，这是由于这些隐藏子目标之间存在域间隙和类别失配。为了在这种新的场景中获得传输性能的提升，我们提出了对抗性元适应网络（AMEAN）。AMEAN需要两个对抗性的迁移学习过程。第一种是传统的对抗性转移，以连接我们的源域和混合目标域。为了避免目标类别内的不一致，第二个过程表现为“学习适应”：它部署了一个无监督的元学习器，接收目标数据及其正在进行的特征学习反馈，以发现目标集群作为我们的“元-子目标”域。这些元-子目标自动设计了我们的元-子目标DA损失，这根据经验消除了我们的混合目标中的隐式类别不匹配。我们评估AMEAN和各种DA算法在BTDA设置下的三个基准测试。实验结果表明，BTDA是一个相当具有挑战性的转移设置为大多数现有的DA算法，但AMEAN显着优于这些国家的最先进的基线，并有效地抑制了BTDA的负转移效应。
2019-07-08 cs.LG stat.ML
StyleDomain: Efficient and Lightweight Parameterizations of StyleGAN for One-shot and Few-shot Domain Adaptation
HSE University（高等经济大学）；AIRI（人工智能研究所）；Lomonosov Moscow State University（罗蒙诺索夫莫斯科国立大学）
本文系统分析了StyleGAN的域适应问题，提出了高效轻量的参数化方法，包括用于相似域的StyleDomain方向和用于不相似域的Affine+及AffineLight+，在减少训练参数的同时优于现有基线，并发现了StyleDomain方向在域混合和跨域图像变形中的新特性。
2023-09-12 cs.CV cs.LG
Few-Shot Anomaly Detection with Adversarial Loss for Robust Feature Representations
针对工业场景少样本异常检测中数据有限且特征泛化不足的问题，本文引入域适应对抗损失对齐相似特征分布，提升了表示鲁棒性与检测性能。
2023-12-04 cs.CV cs.LG
Robust Few-shot Learning Without Using any Adversarial Samples
Indian Institute of Science（印度科学学院）
获取和注释样本的高成本使得“Few-Shot”学习问题成为首要问题。现有的工作主要集中在提高清洁数据的性能，忽略了对抗性噪声扰动的数据的鲁棒性问题。最近，已经做出了一些努力，使用复杂的元学习技术将Few-Shot问题与鲁棒性目标相结合。这些方法依赖于在每一集训练中生成对抗样本，这进一步增加了计算负担。为了避免这种耗时和复杂的过程，我们提出了一种简单但有效的替代方案，不需要任何对抗性样本。受人类认知决策过程的启发，我们通过自蒸馏在预训练阶段强制执行基类数据与其相应的低频样本之间的高级特征匹配。然后，该模型在新类别的样本上进行微调，我们还通过余弦相似性提高了低频查询集特征的可辨别性。在CIFAR-FS数据集的1次射击设置上，我们的方法分别在PGD和最先进的自动攻击上的对抗准确性方面大大提高了$60.55\%$和$62.05\%$，与基线相比，干净的准确性略有下降。此外，我们的方法只需要标准训练时间的$1.69\times$，而$\approx$ $5\times$比最先进的对抗元学习方法更快。该代码可在https://github.com/vcl-iisc/robust-few-shot-learning上获得。
2022-11-03 cs.CV cs.LG
Adversarial Domain Adaptation with Domain Mixup
Shanghai Jiao Tong University（上海交通大学）；Huawei Hisilicon（华为海思）；Youtu Lab, Tencent（腾讯优图实验室）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；Anhui University（安徽大学）
领域自适应的最新研究表明，对抗性学习可以有效地填补源域和目标域之间的差异。然而，目前基于对抗学习的方法存在两个常见的局限性。首先，仅来自两个域的样本不足以确保潜在空间的大部分的域不变性。其次，这些方法中涉及的领域分数只能在硬标签的指导下判断真假，而使用软分数来评估生成的图像或特征更合理，即，以充分利用域间信息。本文提出了一种基于领域混淆的对抗性领域自适应算法（DM-ADA），该算法在一个更连续的潜在空间中保证领域不变性，并指导领域自适应器判断样本相对于源域和目标域的差异。为了提高模型的鲁棒性，在像素级和特征级上联合进行域混淆。大量的实验证明，该方法可以实现优越的性能与不同程度的领域转移和数据复杂性的任务。
2019-12-04 cs.CV cs.LG
A3: Active Adversarial Alignment for Source-Free Domain Adaptation
Oklahoma State University（俄克拉荷马州立大学）
针对无源无监督域适应中伪标签噪声大、分布偏移难处理的问题，提出结合自监督、对抗训练与主动学习的A3框架，通过主动采样、对抗损失与一致性正则化实现无源数据的分布对齐，提升域适应效果。
2024-10-07 cs.AI cs.CV cs.LG
CDA: Contrastive-adversarial Domain Adaptation
Northeastern University（东北大学）；Hitachi Industrial AI Lab（日立工业人工智能实验室）
领域自适应的最新进展表明，深度神经网络上的对抗学习可以学习领域不变特征，以减少源域和目标域之间的移位。虽然这种对抗性方法实现了域级别的对齐，但它们忽略了类（标签）的变化。当类条件数据分布在源域和目标域之间存在显著差异时，它可能会在类边界附近生成模糊的特征，这些特征更有可能被错误分类。在这项工作中，我们提出了一个两阶段模型的领域自适应称为\textbf{C}对抗\textbf{D} omain \textbf{A}适应\textbf{(CDA)}。虽然对抗性组件有助于域级别的对齐，但两阶段对比学习利用类信息来实现跨域的更高的类内紧凑性，从而产生分离良好的决策边界。此外，所提出的对比框架被设计为一个即插即用的模块，可以很容易地嵌入现有的对抗方法的领域自适应。我们在两个广泛使用的领域自适应基准数据集上进行实验，即\textit{Office-31}和\textit{Digits-5}，并证明CDA在这两个数据集上都达到了最先进的结果。
2023-01-10 cs.CV
PØDA: Prompt-driven Zero-shot Domain Adaptation
Inria（法国国家信息与自动化研究所）
本文提出 PØDA，仅凭目标域文本提示，借助 CLIP 和 PIN 调整源特征以实现零样本域适应，并在分割、检测和分类任务上取得显著提升。
2023-08-19 cs.CV cs.LG
Cluster-to-adapt: Few Shot Domain Adaptation for Semantic Segmentation across Disjoint Labels
University of California San Diego（加州大学圣地亚哥分校）
跨由相同类别组成的数据集的语义分割的领域自适应最近已经取得了一些成功。然而，更一般的情况是源数据集和目标数据集对应于不重叠的标签空间。例如，分割数据集中的类别根据环境或应用程序的类型而变化很大，但共享许多有价值的语义关系。现有的方法的基础上的特征对齐或差异最小化不考虑这种类别的转变。在这项工作中，我们提出了一种基于聚类的计算高效的方法，用于在具有完全不同但可能相关的类别的分割数据集上进行领域自适应。我们表明，这样的聚类目标在变换后的特征空间中强制执行，用于自动选择跨源和目标域的类别，这些类别可以对齐以提高目标性能，同时防止不相关类别的负转移。我们证明了我们的方法的有效性，通过实验上的挑战性问题的室外到室内的适应语义分割在Few-Shot以及zero-shot设置，与现有的方法和基线在所有情况下的性能的一致改进。
2022-08-04 cs.CV cs.LG
Federated Adversarial Domain Adaptation
Boston University（波士顿大学）；Columbia University（哥伦比亚大学）；Rutgers University（罗格斯大学）
本文提出联邦对抗域适应方法，通过对抗适应、动态注意力机制和特征解耦，在保护隐私的联邦学习框架下对齐不同节点与目标节点的表示分布，并在图像和文本分类任务中验证其有效性。
2025-08-24 cs.CV cs.LG
CyCADA: Cycle-Consistent Adversarial Domain Adaptation
BAIR, UC Berkeley（加州大学伯克利分校伯克利人工智能研究院）；OpenAI；CS, Boston University（波士顿大学计算机科学系）
领域自适应对于在新的、未知的环境中取得成功至关重要。在特征空间中应用的对抗适应模型发现了域不变表示，但难以可视化，有时无法捕获像素级和低级域偏移。最近的工作表明，结合循环一致性约束的生成对抗网络在域之间映射图像时非常有效，即使不使用对齐的图像对。提出了一种新的区分训练的循环一致性对抗领域自适应模型。CyCADA在像素级和特征级都适应表示，在利用任务丢失的同时加强周期一致性，并且不需要对齐对。我们的模型可以应用于各种视觉识别和预测设置。我们在多个适应任务中展示了新的最先进的结果，包括数字分类和道路场景的语义分割，展示了从合成到现实世界领域的转移。
2017-12-29 cs.CV
Rethinking Test-Time Training: Tilting The Latent Distribution For Few-Shot Source-Free Adaptation
Institute of Business Administration（商业管理学院）
本文提出一种无需训练的测试时间适应方法，通过倾斜潜在分布实现少样本源无关适应，无需修改模型参数，且在严格约束下表现优异。
2026-02-02 cs.LG stat.ML
Modular Adaptation for Cross-Domain Few-Shot Learning
SRI International（SRI国际）
适应预先训练的表示已成为学习新的下游任务的首选方法，但示例有限。虽然文献已经证明了巨大的成功，通过表示学习，在这项工作中，我们表明，大量的性能改善下游任务的适应过程的适当设计也可以实现。具体来说，我们提出了一个模块化的适应方法，有选择地执行多个国家的最先进的（SOTA）适应方法的顺序。由于不同的下游任务可能需要不同类型的适配，我们的模块化适配可以根据下游任务动态配置最合适的模块。此外，作为对现有的跨域5路k-shot基准的扩展（例如，miniImageNet -> CUB），我们使用来自10个不同数据集的数据创建了一个新的高速（~100）k-shot基准。这个基准测试提供了一组不同的域，并允许使用从ImageNet学习到的更强的表示。实验结果表明，通过对下游任务定制自适应过程，我们的模块化自适应管道（MAP）在5杆分类精度上比微调和原型网络的基线提高了3.1%。
2021-04-01 cs.CV
Pose-aware Adversarial Domain Adaptation for Personalized Facial Expression Recognition
University of Science and Technology of China（中国科学技术大学）
目前的面部表情识别方法无法同时处理姿势和主题变化。在本文中，我们提出了一种新的无监督对抗领域自适应方法，可以同时减轻这两种变化。特别地，我们的方法由三种学习策略组成：对抗性领域自适应学习、跨对抗性特征学习和重建学习。第一个目标是学习源域中与姿势和表情相关的特征表示，并通过实施对抗性学习使两个特征分布适应目标域的特征分布。通过使用个性化的对抗性领域自适应，该学习策略可以减轻主题变化，并利用来自源领域的信息来帮助目标领域的学习。第二个用于通过推动姿势相关特征表示expression-undistinguished和姿势相关特征表示expression-undistinguished来执行姿势相关特征表示和表情相关特征表示之间的特征解纠缠。最后一个可以通过应用人脸图像重建来进一步增强特征学习，使得学习的表情相关特征表示更具姿态和身份鲁棒性。在四个基准数据集上的实验结果证明了该方法的有效性。
2020-07-12 cs.CV
Virtual Adversarial Training in Feature Space to Improve Unsupervised Video Domain Adaptation
School of Computing Sciences, University of East Anglia（东英吉利大学计算科学学院）
虚拟对抗训练最近在半监督学习和无监督领域自适应方面取得了很大的成功。然而，到目前为止，它已被用于像素空间中的输入样本，而我们建议将其直接应用于特征向量。我们还讨论了熵最小化和决策边界迭代精化训练与教师在领域自适应的不稳定行为，并建议实现类似的行为的替代品。通过将上述技术添加到现有技术的模型TA $^3$ N，我们在多个无监督视频领域自适应任务中保持有竞争力的结果或优于现有技术
2020-08-19 cs.CV
Towards Category and Domain Alignment: Category-Invariant Feature Enhancement for Adversarial Domain Adaptation
Carleton University（卡尔顿大学）；University of Ottawa（渥太华大学）
对抗性领域自适应通过对齐两个领域的特征分布，在将知识从源领域转移到目标领域方面取得了令人印象深刻的进展。这些方法的重点是最大限度地减少域分歧，并将适应性（衡量为这两个域上理想联合假设的预期误差）视为一个小常数。然而，这些方法仍然面临两个问题：（1）对抗性域对齐扭曲了原始特征分布，降低了适应性;（2）将特征表示转换为域不变需要牺牲特定域的变化，导致较弱的可区分性。为了缓解这些问题，我们提出了类别不变特征增强（CIFE），一种通用的机制，通过优化适应性来增强对抗性领域自适应。具体而言，CIFE方法引入类别不变特征，以提高域不变特征的可区分性，同时保持可转移性。实验表明，CIFE可以改善代表性的对抗性领域自适应方法，产生国家的最先进的结果在五个基准。
2021-08-14 cs.CV
Adversarial Network with Multiple Classifiers for Open Set Domain Adaptation
Federation University（联邦大学）；Murdoch University（莫道克大学）
领域自适应的目的是将知识从具有足够标记样本的领域转移到具有稀缺标记样本的领域。先前的研究已经在文献中引入了各种开集领域自适应设置，以扩展领域自适应方法在现实世界场景中的应用。本文重点研究了开集领域自适应的类型，其中目标域既有私有（“未知类”）标签空间，又有共享（“已知类”）标签空间。然而，源域只有“已知类”标签空间。流行的分布匹配领域自适应方法是不够的，在这样的设置，需要适应从一个较小的源域到一个更大的和不同的目标域与更多的类。为了解决这种特定的开集领域自适应设置，现有研究引入了一种领域对抗模型，该模型使用固定阈值来区分已知和未知的目标样本，并且缺乏处理负转移。我们扩展了他们的对抗模型，提出了一种新的对抗领域自适应模型与多个辅助分类器。所提出的多分类器结构引入了一个加权模块，该模块评估不同的域特征，用于为目标样本分配权重，这些权重更能代表它们是否可能属于已知和未知类，以鼓励对抗训练期间的积极转移，同时减少源域和目标域的共享类之间的域间隙。一个彻底的实验研究表明，我们提出的方法优于现有的领域自适应方法在一些领域自适应数据集。
2020-08-07 cs.CV
RDA: Robust Domain Adaptation via Fourier Adversarial Attacking
Singtel Cognitive and Artificial Intelligence Lab for Enterprises（Singtel企业认知与人工智能实验室）；School of Computer Science and Engineering, Nanyang Technological University（南洋理工大学计算机科学与工程学院）
无监督领域自适应（Unsupervised domain adaptation，UDA）是一种在有标记的源域中进行监督损失，在无标记的目标域中进行无监督损失的自适应算法，由于监督源域损失具有明显的域间隙，而无监督目标域损失由于缺乏标注而往往带有噪声，因此UDA算法通常面临比经典监督学习更严重的过拟合问题。本文提出了一种鲁棒的领域自适应技术RDA，该技术引入对抗性攻击来减轻UDA中的过拟合。我们实现了强大的领域自适应通过一种新的傅立叶对抗攻击（FAA）的方法，允许大幅度的扰动噪声，但具有最小的修改图像的语义，前者是至关重要的，其生成的对抗样本的有效性，由于“域间隙”的存在。具体来说，FAA将图像分解为多个频率分量（FC），并通过扰动某些捕获很少语义信息的FC来生成对抗样本。使用FAA生成的样本，训练可以继续“随机游走”并漂移到具有平坦损耗景观的区域，从而导致更鲁棒的领域自适应。在多个领域自适应任务上的大量实验表明，RDA可以以优异的性能与不同的计算机视觉任务一起工作。
2021-08-15 cs.CV
Multi-Domain Adaptation in Brain MRI through Paired Consistency and Adversarial Learning
King’s College London（伦敦国王学院）；Biomediq A/S（Biomediq公司）；University College London（伦敦大学学院）；Chelsea and Westminster Hospital NHS Foundation Trust（切尔西和威斯敏斯特医院NHS基金会信托）；Cereriu A/S（Cereriu公司）
在医学图像上训练的监督学习算法通常无法概括采集参数的变化。最近在域自适应方面的工作解决了这一挑战，并成功地利用源域中的标记数据在未标记的目标域上表现良好。受半监督学习的启发，我们引入了一种新的方法来适应从一个源域到$n$目标域（只要有成对的数据覆盖所有域）。我们的多域自适应方法利用了一致性损失与对抗性学习相结合。我们提供了使用MICCAI 2017挑战数据作为源域和两个目标域的脑MRI白质病变高信号分割结果。所提出的方法显着优于其他领域的适应基线。
2019-09-17 cs.AI cs.CV cs.LG
VoloGAN: Adversarial Domain Adaptation for Synthetic Depth Data
UNED - Universidad Nacional de Educación a Distancia（西班牙国立远程教育大学）；Volograms Ltd.（Volograms有限公司）
我们提出了VoloGAN，这是一种对抗性的领域自适应网络，它将一个人的高质量3D模型的合成RGB-D图像转换为可以用消费者深度传感器生成的RGB-D图像。该系统特别适用于为复制真实世界捕获条件的单视图3D重建算法生成大量训练数据，能够模仿不同传感器类型的风格，用于相同的高端3D模型数据库。该网络使用CycleGAN框架，其中生成器采用U-Net架构，并采用SIV-GAN启发的CycleGAN。我们使用不同的优化器和学习率调度来训练生成器和学习器。我们进一步构建了一个损失函数，认为图像通道单独和，除其他指标，评估结构相似性。我们证明了CycleGANs可用于应用合成3D数据的对抗领域自适应来训练只有很少训练样本的体积视频生成器模型。
2022-07-19 cs.CV cs.LG eess.IV
Unsupervised Domain Adaptation for Image Classification via Structure-Conditioned Adversarial Learning
Zhejiang University（浙江大学）；Huawei Technologies（华为技术有限公司）
无监督领域自适应（UDA）通常通过对抗学习将知识从标签丰富的源领域转移到未标记的目标领域。原则上，现有的UDA方法主要关注域之间的全局分布对齐，而忽略了固有的局部分布特性。基于这一观察结果，我们提出了一种端到端的结构条件对抗学习方案（SCAL），该方案能够在域分布对齐过程中保持类内紧凑性。通过使用局部结构作为结构感知条件，该方案在结构条件对抗学习管道中实现。上述学习过程通过在局部结构建立和结构条件对抗学习之间交替来迭代执行。实验结果证明了该方案在UDA场景中的有效性。
2021-03-04 cs.CV
Adversarial Discriminative Domain Adaptation
University of California, Berkeley（加州大学伯克利分校）；Stanford University（斯坦福大学）；Boston University（波士顿大学）
对抗性学习方法是训练强大深度网络的一种很有前途的方法，并且可以在不同领域生成复杂的样本。尽管存在域偏移或数据集偏差，它们也可以提高识别率：最近引入了几种对抗无监督领域自适应的方法，它们减少了训练和测试域分布之间的差异，从而提高了泛化性能。先前的生成方法显示出令人信服的可视化，但在区分性任务上不是最佳的，并且可以限于较小的变化。先前的判别方法可以处理更大的域偏移，但对模型施加了绑定权重，并且没有利用基于GAN的损失。我们首先概述了一个新的广义框架对抗适应，其中包括最近的国家的最先进的方法作为特殊情况下，我们使用这种广义的观点，以更好地与以前的方法。我们提出了一个以前未探索的实例，我们的一般框架，结合了歧视性建模，untied权重共享，和GAN的损失，我们称之为对抗歧视性领域自适应（ADDA）。我们证明了ADDA比竞争领域对抗方法更有效，但也更简单，并通过在标准跨领域数字分类任务和新的更困难的跨模态对象分类任务上超过最先进的无监督自适应结果来证明我们的方法的前景。
2017-02-17 cs.CV
