Teacher-Student Competition for Unsupervised Domain Adaptation
Tianjin University（天津大学）；Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））
现有的无监督领域自适应（UDA）方法主要从共享特征提取器中学习领域不变表示，源域的监督仅在类级进行，存在源偏差问题。提出了一种基于教师-学生竞争的无监督领域自适应方法。特别地，引入学生网络来学习特定于目标的特征空间，并且我们设计了一种新的竞争机制来选择更可信的伪标签用于学生网络的训练。我们引入了一个教师网络与现有的传统UDA方法的结构，教师和学生网络竞争提供目标伪标签，以约束每个目标样本的训练在学生网络。大量的实验表明，我们提出的TSC框架显着优于国家的最先进的领域自适应方法在Office-31和ImageCLEF-DA基准。
2020-10-20 cs.CV cs.LG
Application of Unsupervised Domain Adaptation for Structural MRI Analysis
University of Florida（佛罗里达大学）
这项工作的主要目标是研究无监督域自适应方法在OASIS数据集阿尔茨海默病（AD）检测背景下的各种应用（如二进制分类和异常检测）的有效性。我们还探讨了图像重建和图像合成，用于分析和生成3D结构MRI数据，以建立异常检测的性能基准。我们成功地证明了域自适应提高了AD检测的性能时，在监督和无监督的设置。此外，所提出的方法在OASIS-1数据集上实现了最先进的二进制分类性能。
2022-12-26 cs.CV cs.LG eess.IV
Complementary Domain Adaptation and Generalization for Unsupervised Continual Domain Shift Learning
Graduate School of Data Science（数据科学研究生院）；Seoul National University（首尔国立大学）
针对无监督持续域偏移学习，提出互补域适应与泛化框架CoDAG，兼顾适应当前域、泛化未见域与防遗忘，模型无关且在多个基准上超越现有方法。
2023-10-13 cs.AI cs.CV cs.LG
Unsupervised Domain Adaptation for Training Event-Based Networks Using Contrastive Learning and Uncorrelated Conditioning
University of Southern California（南加州大学）
基于事件的摄像机为在高动态范围环境和快速运动机动期间执行计算机视觉任务提供可靠的测量。然而，在基于事件的视觉中采用深度学习面临着由于事件相机的新近性而导致的注释数据稀缺的挑战。转移可以从传统相机注释数据中获得的知识为这一挑战提供了一个实用的解决方案。我们开发了一种无监督的领域自适应算法，用于使用对比学习和数据的不相关条件来训练用于基于事件的数据图像分类的深度网络。为此，我们的解决方案优于现有的算法。
2023-03-22 cs.CV cs.LG
Unsupervised Domain Adaptation with Progressive Domain Augmentation
Carleton University（卡尔顿大学）
领域自适应的目的是利用一个标签丰富的源域学习分类器在不同的标签稀缺的目标域。当这两个领域之间存在重大分歧时，这尤其具有挑战性。本文提出了一种基于渐进域增强的无监督领域自适应方法。该方法通过域插值生成虚拟中间域，逐步增大源域，并通过在格拉斯曼流形上进行多个子空间对齐来弥合源域和目标域的分歧。我们在多个领域自适应任务上进行了实验，结果表明所提出的方法达到了最先进的性能。
2020-04-24 cs.CV cs.LG stat.ML
Certainty Volume Prediction for Unsupervised Domain Adaptation
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
无监督领域自适应（UDA）处理未标记目标域数据的分类问题，而标记数据仅适用于不同的源域。遗憾的是，由于源数据和目标数据之间的域差距，常用的分类方法无法充分完成此任务。在本文中，我们提出了一种新的不确定性意识的领域自适应设置模型的不确定性作为一个多元高斯分布在特征空间。我们表明，我们提出的不确定性措施与其他常见的不确定性量化，并涉及到平滑分类器的决策边界，从而提高泛化能力。我们在具有挑战性的UDA数据集上评估了我们提出的管道，并取得了最先进的结果。我们方法的代码可在https://gitlab.com/tringwald/cvp上获得。
2021-11-03 cs.CV cs.LG
Maximizing Conditional Independence for Unsupervised Domain Adaptation
Sun Yat-Sen University（中山大学）
无监督领域自适应研究如何将学习器从一个有标记的源域迁移到一个具有不同分布的未标记目标域。现有的方法主要集中在匹配源域和目标域的边缘分布，这可能会导致来自同一类但不同域的样本不对齐。在本文中，我们处理这种错位，从一个新的角度实现类条件转移。我们的目标是在再生核Hilbert空间中最大化给定类的特征和域的条件独立性。条件独立性度量的优化可以看作是最小化特征和域之间的某种互信息的替代。一个可解释的经验估计的条件依赖推导和连接的无条件的情况下。此外，我们还考虑了类条件分布，给出了目标误差的上界，这为大多数类条件转移方法提供了一个新的理论视角。除了无监督的领域自适应，我们将我们的方法扩展到多源的情况下，在一个自然和优雅的方式。在四个基准上的大量实验验证了所提出的模型在无监督领域自适应和多源领域自适应中的有效性。
2022-03-07 cs.CV cs.LG
Joint cross-domain classification and subspace learning for unsupervised adaptation
KU Leuven（鲁汶大学）；iMinds
领域自适应的目的是将源领域中获得的知识适应到新的不同但相关的目标领域。已经提出了几种方法，在无监督的情况下，没有标记的目标数据的分类任务。大部分的注意力都集中在搜索一个新的域不变表示，将预测函数的定义留给第二阶段。在这里，我们建议两者共同学习。具体来说，我们学习最匹配目标子空间的源子空间，同时最小化正则化误分类损失。我们提供了一种基于随机次梯度下降的交替优化技术来解决学习问题，并在几个领域自适应任务上展示了其性能。
2015-04-29 cs.CV cs.LG
Tackling unsupervised multi-source domain adaptation with optimism and consistency
INESC TEC（葡萄牙工程与技术研究所）；University of Porto（波尔图大学）
一段时间以来，已知多源领域自适应的问题可以被视为单源领域自适应任务，其中源领域对应于原始源领域的混合。尽管如此，如何调整混合分布权重仍然是一个悬而未决的问题。此外，大多数现有的工作在这个主题只集中在最大限度地减少错误的源域和实现域不变的表示，这是不够的，以确保低错误的目标域。在这项工作中，我们提出了一个新的框架，解决了这两个问题，并通过使用温和乐观的目标函数和目标样本的一致性正则化击败了目前的最新技术水平。
2020-09-29 cs.AI cs.CV cs.LG
Unsupervised Domain Adaptation with SAM-RefiSeR for Enhanced Brain Tumor Segmentation
Dept. of Computer Science and Engineering（计算机科学与工程系）；Research Convergence Institute（研究融合研究所）；Dept. of Electrical and Computer Engineering（电气与计算机工程系）
本文提出SAM-RefiSeR方法，通过无监督领域适应提升脑肿瘤分割的准确性与泛化能力。
2026-01-11 cs.CV
Unsupervised Domain Adaptation via Regularized Conditional Alignment
University of California, Los Angeles（加州大学洛杉矶分校）
我们提出了一种无监督的领域自适应方法，该方法训练共享嵌入来对齐输入（域）和输出（类）的联合分布，使任何分类器对域不可知。联合对齐确保不仅域的边缘分布对齐，而且标签也对齐。我们提出了一个新的目标函数，鼓励类条件分布在特征空间中有不相交的支持。我们进一步利用对抗正则化来提高分类器在没有注释数据的域上的性能。
2019-05-26 cs.CV cs.LG stat.ML
When Unsupervised Domain Adaptation meets One-class Anomaly Detection: Addressing the Two-fold Unsupervised Curse by Leveraging Anomaly Scarcity
Interdisciplinary Centre for Security, Reliability and Trust (SnT), University of Luxembourg（安全、可靠性与信任跨学科研究中心（SnT），卢森堡大学）；Cristal Laboratory, National School of Computer Sciences, University of Manouba（晶体实验室，国家计算机科学学校，曼努巴大学）
本文提出了一种基于异常稀有性的无监督领域自适应框架，用于解决无监督异常检测中的双重无监督诅咒问题。
2025-12-26 cs.CV cs.LG
Unsupervised Domain Adaptation Using Approximate Label Matching
Princeton University（普林斯顿大学）；Microsoft Research（微软研究院）
领域自适应解决了当训练数据由所谓的源分布生成而测试数据由显著不同的目标分布生成时所产生的问题。在这项工作中，我们提出了近似标签匹配（ALM），一种新的无监督领域自适应技术，创建并利用测试样本上的粗略标签，然后使用这些嘈杂的标签来学习对齐源和目标样本的变换。我们表明，由ALM估计的变换具有良好的性能相比，其他方法，不使用任何类型的目标标记估计的变换。我们的模型是正则化的，要求训练的分类器从变换的目标样本区分源不能区分两者。我们用ALM对模拟数据和真实数据进行了实验，结果表明它优于该领域常用的技术。
2017-03-01 cs.AI cs.LG
Geometry-Aware Unsupervised Domain Adaptation for Stereo Matching
SenseTime Japan Ltd.（商汤科技日本有限公司）
最近提出的基于DNN的立体匹配方法，直接从数据中学习先验知识，已知在新环境中准确度会急剧下降。虽然使用地面实况视差图的监督方法通常工作得很好，但在每个部署环境中收集它们是繁琐和昂贵的。为此，已经提出了许多基于图像到图像平移的无监督领域自适应方法，但是这些方法不保留立体图像对的几何结构，因为图像到图像平移被单独地应用于每个视图。为了解决这个问题，在本文中，我们提出了一个注意力机制，聚合功能的左，右视图，立体交叉注意力（SCA）。将SCA转化为图像-图像转换网络，可以在图像-图像转换过程中保持立体图像对的几何结构。我们实证证明了所提出的无监督领域自适应的图像到图像的翻译SCA的基础上的有效性。
2021-03-26 cs.CV cs.LG
Generative appearance replay for continual unsupervised domain adaptation
IBM Research Europe（IBM欧洲研究院）；ETH Zurich（苏黎世联邦理工学院）；Uppsala University（乌普萨拉大学）
深度学习模型在对大量标记数据进行训练时可以实现高精度。然而，现实世界的场景通常涉及几个挑战：训练数据可能会分期提供，可能来自多个不同的域，并且可能不包含用于训练的标签。某些设置，例如医疗应用，通常涉及由于隐私法规而禁止保留先前看到的数据的进一步限制。在这项工作中，为了解决这些挑战，我们研究了无监督分割在持续学习的情况下，涉及域转移。为此，我们引入了GarDA（连续领域自适应的生成外观重放），这是一种基于生成重放的方法，可以将分割模型顺序地适应于具有未标记数据的新领域。与单步无监督领域自适应（UDA）相比，对一系列领域的持续适应使得能够利用和整合来自多个领域的信息。与以前的增量UDA方法不同，我们的方法不需要访问以前看到的数据，使其适用于许多实际场景。我们在两个具有不同器官和模式的数据集上评估了GarDA，它大大优于现有技术。
2023-02-13 cs.AI cs.CV
Hierarchical Optimal Transport for Unsupervised Domain Adaptation
在本文中，我们提出了一种新的方法，无监督领域自适应，涉及最佳运输，学习概率措施和无监督学习的概念。所提出的方法，HOT-DA，是基于一个层次的制定最佳的运输，利用超越的几何信息所捕获的地面度量，更丰富的结构信息在源和目标域。标记源域中的附加信息是通过根据样本的类标签将样本分组到结构中而本能地形成的。而在未标记的目标域中探索隐藏结构的问题归结为通过Wasserstein重心学习概率测度的问题，我们证明了它与谱聚类是等价的。在一个复杂度可控的玩具数据集和两个具有挑战性的视觉自适应数据集上的实验表明了该方法的优越性。
2021-12-03 cs.CV cs.LG stat.ML
PixMatch: Unsupervised Domain Adaptation via Pixelwise Consistency Training
Harvard University（哈佛大学）；Oxford University（牛津大学）
无监督领域自适应是一种很有前途的技术，用于语义分割和其他计算机视觉任务，对于这些任务来说，大规模数据注释是昂贵且耗时的。在语义分割中，在来自模拟（源）域的注释图像上训练模型并将其部署在真实（目标）域上是有吸引力的。在这项工作中，我们提出了一个新的框架，无监督的领域自适应的基础上的目标域一致性训练的概念。直观地说，我们的工作是基于这样的想法，即为了在目标域上表现良好，模型的输出应该与目标域中输入的小扰动一致。具体来说，我们引入了一个新的损失项，以加强模型对目标图像和同一图像的扰动版本的预测之间的像素一致性。与流行的对抗性适应方法相比，我们的方法更简单，更容易实现，并且在训练过程中更节省内存。实验和广泛的消融研究表明，我们的简单方法在两个具有挑战性的合成到真实基准，GTA5到城市景观和SYNTHIA到城市景观上取得了非常强大的结果。代码可在：https://github.com/lukemelas/pixmatch
2021-05-17 cs.AI cs.CV
UDA-Bench: Revisiting Common Assumptions in Unsupervised Domain Adaptation Using a Standardized Framework
UC San Diego（加州大学圣迭戈分校）
本文提出标准化框架 UDA-Bench，通过大规模受控实证研究重新审视无监督领域自适应方法，发现自适应收益随先进骨干架构减少、当前方法未充分利用无标签数据以及预训练数据显著影响下游自适应等关键特性。
2024-09-23 cs.CV cs.LG
Unsupervised domain adaptation for speech recognition with unsupervised error correction
University College Dublin（都柏林大学学院）
自动语音识别（ASR）系统在转录来自未知域的音频时，转录质量显著降低。我们提出了一种无监督的错误校正方法，用于无监督的ASR域自适应，旨在恢复域不匹配引起的转录错误。与现有的依赖于转录音频进行训练的校正方法不同，我们的方法只需要目标域的未标记数据，其中应用伪标记技术来生成校正训练样本。为了减少对伪数据的过度拟合，我们还提出了一个编码器-解码器校正模型，该模型可以考虑对话上下文和声学特征等附加信息。实验结果表明，我们的方法获得了显着的字出错率（WER）降低非适应ASR系统。该校正模型还可以应用于其他适应方法之上，相对额外提高10%。
2022-09-24 cs.AI cs.LG cs.SD
Virtual Adversarial Training in Feature Space to Improve Unsupervised Video Domain Adaptation
School of Computing Sciences, University of East Anglia（东英吉利大学计算科学学院）
虚拟对抗训练最近在半监督学习和无监督领域自适应方面取得了很大的成功。然而，到目前为止，它已被用于像素空间中的输入样本，而我们建议将其直接应用于特征向量。我们还讨论了熵最小化和决策边界迭代精化训练与教师在领域自适应的不稳定行为，并建议实现类似的行为的替代品。通过将上述技术添加到现有技术的模型TA $^3$ N，我们在多个无监督视频领域自适应任务中保持有竞争力的结果或优于现有技术
2020-08-19 cs.CV
Nonlinear Embedding Transform for Unsupervised Domain Adaptation
Center for Cognitive Ubiquitous Computing（认知普适计算中心）；Arizona State University（亚利桑那州立大学）
领域自适应（DA）问题涉及使在一个数据分布上训练的分类器模型适应于不同的数据分布。在本文中，我们介绍了非线性嵌入变换（NET）的无监督DA结合域对齐与基于相似性的嵌入。我们还介绍了一个验证过程，估计模型参数的NET算法使用的源数据。多个视觉数据集的综合评价表明，NET算法优于现有的竞争程序的无监督DA。
2017-06-22 cs.CV
Key Design Choices for Double-Transfer in Source-Free Unsupervised Domain Adaptation
Istituto Italiano di Tecnologia (IIT)（意大利技术研究院）；Università degli Studi di Genova（热那亚大学）；Politecnico di Torino（都灵理工大学）
微调和领域自适应成为将深度学习模型有效转移到新目标任务的有效策略。然而，目标域标签在许多现实场景中是不可访问的。这导致了无监督领域自适应（UDA）方法的发展，该方法仅采用未标记的目标样本。此外，效率和隐私要求也可能阻止在适配阶段期间使用源域数据。这种具有挑战性的设置，被称为无源无监督领域自适应（SF-UDA），由于其在现实世界中的应用潜力，越来越受到研究人员和实践者的兴趣。在本文中，我们通过对500个模型和74个领域对的大规模实证研究，首次深入分析了SF-UDA中的主要设计选择。我们将标准化方法、预训练策略和骨干架构确定为最关键的因素。基于我们的定量研究结果，我们提出了最好地解决SF-UDA场景的方法。此外，我们表明，SF-UDA的竞争力也超出了标准的基准和骨干架构，表现与UDA的数据和计算成本的一小部分。在利益的再现性，我们包括完整的实验结果和代码作为补充材料。
2023-02-10 cs.CV cs.LG
Contrastive Adaptation Network for Unsupervised Domain Adaptation
University of Technology Sydney（悉尼科技大学）；Google AI（谷歌人工智能）；Baidu Research（百度研究院）；Carnegie Mellon University（卡内基梅隆大学）
无监督领域自适应（UDA）对目标领域数据进行预测，而手动注释仅在源领域中可用。以前的方法忽略了类信息，这可能会导致不对齐和泛化性能差的域差异最小化。为了解决这个问题，本文提出了对比自适应网络（CAN）优化一个新的度量，显式地模拟类内域差异和类间域差异。我们设计了一种交替更新策略，以端到端的方式训练CAN。在两个真实世界基准Office-31和VisDA-2017上的实验表明，CAN与最先进的方法相比表现良好，并产生更具区分力的特征。
2019-04-10 cs.CV
MEnsA: Mix-up Ensemble Average for Unsupervised Multi Target Domain Adaptation on 3D Point Clouds
Simon Fraser University（西蒙菲莎大学）；Yonsei University（延世大学）
针对3D点云无监督多目标域自适应问题，提出混合集成平均方法MEnsA，通过混合所有域特征并利用域分类器提升共享潜在空间中的特征区分能力，在PointDA-10数据集上显著超越现有STDA和MTDA方法。
2023-04-06 cs.AI cs.CV
Unsupervised Domain Adaptation: A Multi-task Learning-based Method
University of Wollongong（卧龙岗大学）
提出了一种新的基于多任务学习的无监督领域自适应方法。具体地说，基于多任务学习的概念，通过考虑目标域的几何形状和源域与目标域之间的分歧，联合学习源域和目标域分类器。在此基础上提出了两种新的算法，分别采用正则化最小二乘法和支持向量机。在合成和真实世界的跨域识别任务的实验表明，所提出的方法优于几个国家的最先进的领域自适应方法。
2018-03-25 cs.CV
Sliced Wasserstein Discrepancy for Unsupervised Domain Adaptation
Apple Inc（苹果公司）
在这项工作中，我们连接两个不同的概念，无监督领域自适应：域之间的特征分布对齐，利用特定于任务的决策边界和Wasserstein度量。我们提出的切片Wasserstein差异（SWD）的目的是捕捉任务特定的分类器的输出之间的相异性的自然概念。它提供了一个几何上有意义的指导，以检测远离源的支持的目标样本，并实现了端到端的可训练方式的有效分布对齐。通过实验验证了该方法在数字和符号识别、图像分类、语义分割、目标检测等方面的有效性和通用性。
2019-03-10 cs.CV cs.LG stat.ML
Adversarial Style Mining for One-Shot Unsupervised Domain Adaptation
Huazhong University of Science & Technology（华中科技大学）；University of Technology Sydney（悉尼科技大学）；Farsee2 Tech. Co.（Farsee2科技公司）；Baidu Research（百度研究院）
本文针对One-Shot无监督领域自适应问题进行研究。与传统的无监督领域自适应不同，它假设在学习自适应时只有一个未标记的目标样本可用。这种设置是现实的，但更具挑战性，在传统的适应方法很容易失败，由于缺乏未标记的目标数据。为此，我们提出了一种新的对抗性风格挖掘方法，它结合了风格转换模块和任务特定模块到一个对抗的方式。具体而言，风格转移模块根据当前学习状态迭代地在一次性目标样本周围搜索更难风格化的图像，引导任务模型探索几乎不可见的目标领域中难以解决的潜在风格，从而提高数据稀缺场景中的适应性能。对抗性学习框架使风格迁移模块和任务特定模块在竞争中相互受益。跨域分类和分割基准上的大量实验验证了ASM在具有挑战性的单次设置下实现了最先进的自适应性能。
2020-04-13 cs.CV cs.LG eess.IV
Cluster Alignment with a Teacher for Unsupervised Domain Adaptation
Tsinghua University（清华大学）
深度学习方法在无监督领域自适应中显示出了希望，其目的是利用标记的源域来学习具有不同分布的未标记目标域的分类器。然而，这样的方法通常学习域不变表示空间以匹配源域和目标域的边缘分布，而忽略它们的精细级结构。在本文中，我们提出了一个教师（CAT）的无监督领域自适应，它可以有效地将区分聚类结构在两个领域更好的适应。从技术上讲，CAT利用隐式集成教师模型来可靠地发现未标记目标域的特征空间中的类条件结构。然后，CAT强制源和目标域的特征形成区分性的类条件聚类，并跨域对齐相应的聚类。实验结果表明，CAT在几个无监督的领域自适应场景中达到了最先进的结果。
2019-10-09 cs.CV
Federated Unsupervised Domain Adaptation for Face Recognition
S-Lab, NTU（新加坡南洋理工大学S实验室）；NTU（新加坡南洋理工大学）；SenseTime Research（商汤科技研究院）
在给定源域中的标记数据的情况下，无监督的领域自适应已被广泛地用于对目标域中的未标记数据（其数据分布是不同的）进行模型泛化。然而，现有的工作是不适用于人脸识别的隐私约束下，因为它们需要域之间的敏感的人脸图像共享。为了解决这个问题，我们提出了联邦无监督领域自适应的人脸识别，FedFR。FedFR联合优化了基于聚类的领域自适应和联邦学习，以提高目标领域的性能。具体来说，对于目标域中的未标记数据，我们增强了距离约束的聚类算法，以提高预测伪标签的质量。此外，我们提出了一种新的域约束损失（DCL）规范源域训练联邦学习。在一个新构建的基准上进行的大量实验表明，在不同的评估指标上，FedFR在目标域上的性能优于基线和经典方法3%到14%。
2022-04-09 cs.AI cs.CV cs.DC
A Prototype-Oriented Framework for Unsupervised Domain Adaptation
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Cornell University（康奈尔大学）；Xidian University（西安电子科技大学）
用于无监督领域自适应的现有方法通常依赖于最小化潜在空间中的源样本和目标样本之间的某些统计距离。为了避免经常困扰这些方法的采样可变性，类不平衡和数据隐私问题，我们提供了一个内存和计算效率高的概率框架来提取类原型并将目标特征与它们对齐。我们证明了我们的方法在广泛的场景，包括单源，多源，类不平衡，和源私有领域自适应的普遍适用性。不需要额外的模型参数，并有一个温和的增加计算源模型单独，所提出的方法实现了具有竞争力的性能与国家的最先进的方法。
2021-10-22 cs.CV cs.LG stat.ML
Minimal-Entropy Correlation Alignment for Unsupervised Deep Domain Adaptation
在这项工作中，我们面临的问题，无监督的领域自适应与一种新的深度学习的方法，利用我们的发现，熵最小化诱导的二阶统计源和目标域之间的最佳对齐。我们正式证明了这一假设，并在实际情况下，旨在实现最佳的对齐，我们采用了一个更有原则的策略，不同于目前的欧几里德方法，部署沿测地线对齐。我们的管道可以通过添加到标准分类损失（在标记的源域上）来实现，这是一个以无监督和数据驱动方式加权的源到目标正则化器。我们提供了广泛的实验来评估我们的框架在标准域和模态适应基准上的优越性。
2017-11-28 cs.CV
UADA3D: Unsupervised Adversarial Domain Adaptation for 3D Object Detection with Sparse LiDAR and Large Domain Gaps
KTH Royal Institute of Technology（瑞典皇家理工学院）；Hamburg University of Technology（汉堡工业大学）
本文提出UADA3D，一种不依赖预训练源模型或师生架构的无监督对抗域适应方法，用于在稀疏LiDAR点云和大域差距条件下提升3D目标检测性能，并在自动驾驶汽车与移动机器人场景中验证了有效性。
2024-10-21 cs.AI cs.CV cs.RO
Simplified Neural Unsupervised Domain Adaptation
Boston Children’s Hospital（波士顿儿童医院）；Harvard Medical School（哈佛医学院）
针对无监督领域自适应任务，本文提出将表示学习器与任务学习器联合训练以改进现有最先进方法，并考察了现有枢纽特征选择方法的重要性。
2019-05-22 cs.AI cs.CL cs.LG
Unsupervised Domain Adaptation by Uncertain Feature Alignment
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
无监督领域自适应（UDA）处理模型从具有标记数据的给定源域到未标记目标域的自适应。在本文中，我们利用模型固有的预测不确定性来完成领域自适应任务。的不确定性是衡量的蒙特卡洛辍学，并用于我们提出的不确定性为基础的过滤和功能对齐（UFAL），结合了不确定性的功能损失（UFL）功能和不确定性为基础的过滤（UBF）的方法在欧几里得空间的功能对齐。我们的方法超越了最近提出的架构，并在多个具有挑战性的数据集上取得了最先进的结果。代码可在项目网站上获得。
2020-09-14 cs.CV
Unsupervised Deep Domain Adaptation for Pedestrian Detection
Shanghai Jiao Tong University（上海交通大学）；University of Twente（特文特大学）
针对拥挤场景中行人检测的无监督领域自适应问题进行了研究。首先，我们利用迭代算法迭代地选择和自动注释具有高置信度的正面行人样本作为目标域的训练样本。同时，我们还重用了源域中的负样本，以弥补正样本和负样本数量的不平衡。其次，基于深度网络，我们还设计了一个无监督正则化器来减轻数据噪声的影响。更具体地说，我们将最后一个全连接层转换为两个子层-逐元素乘法层和求和层，并添加无监督正则化器以进一步提高领域自适应精度。在行人检测实验中，该方法提高了近30%的召回值，而精度几乎保持不变。此外，我们执行我们的方法对标准的领域自适应基准监督和无监督的设置，也达到了最先进的结果。
2018-02-09 cs.CV
Copy-Move Forgery Classification via Unsupervised Domain Adaptation
IIT Mandi（曼迪印度理工学院）
在当今时代，由于图像处理和计算机视觉技术中的现代工具，图像操纵变得越来越容易，产生看起来更自然的图像。分离伪造图像的任务变得非常具有挑战性。要解决这些问题，公开的数据集是不够的。在本文中，我们提出了一种使用深层语义图像修补算法来创建合成伪造数据集。此外，我们使用一个无监督的领域自适应网络来检测图像中的复制-移动伪造。我们的方法可以帮助在这些情况下，数据的分类是不可用的。
2019-11-14 cs.CV
Unsupervised Domain Adaptation through Self-Supervision
University of California, Berkeley（加利福尼亚大学伯克利分校）
本文讨论了无监督的领域自适应，设置标记的训练数据在源域上是可用的，但目标是在目标域上只有未标记的数据具有良好的性能。像以前的许多工作一样，我们寻求对齐源和目标域的学习表示，同时保持可辨别性。我们完成对齐的方式是通过学习同时在两个域上执行辅助自我监督任务。每个自我监督任务都沿着与该任务相关的方向将两个域更紧密地联系在一起。与源域上的主任务分类器一起训练，可以成功地推广到未标记的目标域。所提出的目标是直接实现和易于优化。我们在七个标准基准中的四个上取得了最先进的结果，并在分割适应上取得了有竞争力的结果。我们还证明了我们的方法与另一种流行的像素级自适应方法组合良好。
2019-09-29 cs.CV cs.LG stat.ML
Domain-Specific Batch Normalization for Unsupervised Domain Adaptation
Seoul National University（首尔国立大学）；POSTECH（浦项科技大学）
提出了一种基于深度神经网络中特定领域批量归一化的无监督领域自适应框架。我们的目标是通过专门化卷积神经网络中的批量归一化层来适应这两个领域，同时允许它们共享所有其他模型参数，这是通过两阶段算法实现的。在第一阶段，我们估计伪标签的例子在目标领域使用外部无监督的领域自适应算法-例如，MPERANT或CPUA-集成建议的特定领域的批量归一化。第二阶段使用源域和目标域的多任务分类损失来学习最终模型。请注意，这两个域在两个阶段中都有单独的批量归一化层。我们的框架可以很容易地结合到基于深度神经网络的领域自适应技术与批量归一化层。我们还提出，我们的方法可以扩展到多个源域的问题。该算法在多个基准数据集上进行了评估，并在标准设置和多源域适应场景中达到了最先进的精度。
2019-05-27 cs.AI cs.LG stat.ML
Unsupervised Domain Adaptation with Progressive Adaptation of Subspaces
Nanjing University of Aeronautics & Astronautics（南京航空航天大学）
无监督领域自适应（UDA）是一种基于领域移位的知识转移算法，通过对已有标记的源领域进行知识转移，实现对未标记目标领域的分类。现有的大多数UDA方法试图通过减少域差异来减轻迁移带来的不利影响。然而，由于目标域中缺少标签，这样的方法容易遭受臭名昭著的模式坍塌问题。自然，缓解这个问题的有效方法之一是可靠地估计目标域的伪标签，这本身就很难。为了克服这一点，我们提出了一种新的UDA方法命名为渐进适应子空间的方法（PAS），我们利用这样的直觉，似乎更合理，逐步获得可靠的伪标签。具体而言，我们通过自适应地锚定/选择和利用具有可靠伪标签的目标样本，逐步稳步地改进共享子空间作为知识传递的桥梁。随后，细化的子空间又可以提供目标域的更可靠的伪标签，使得模式坍塌得到高度缓解。我们的全面评估表明，PAS不仅是有效的共同的UDA，但也优于国家的艺术更具有挑战性的部分领域自适应（PDA）的情况下，源标签集包含的目标之一。
2020-09-01 cs.CV cs.LG stat.ML
Unsupervised Domain Adaptation with Feature Embeddings
School of Interactive Computing（交互计算学院）；Georgia Institute of Technology（佐治亚理工学院）
表示学习是无监督领域自适应的主要技术，但现有的方法往往需要规范的“枢轴功能”，概括跨域，这是由特定于任务的算法选择。我们表明，一种新颖但简单的特征嵌入方法提供了更好的性能，通过利用NLP问题中常见的特征模板结构。
2015-04-16 cs.CL cs.LG
Model Adaptation: Historical Contrastive Learning for Unsupervised Domain Adaptation without Source Data
Nanyang Technological University（南洋理工大学）
无监督领域自适应的目的是对齐一个标记的源域和一个未标记的目标域，但它需要访问源数据，这往往会引起数据隐私，数据可移植性和数据传输效率的关注。我们研究了无监督模型自适应（UMA），或称为无源数据的无监督领域自适应，这是一种替代设置，旨在使源训练模型适应目标分布，而无需访问源数据。为此，我们设计了一个创新的历史对比学习（HCL）技术，利用历史源假设，以弥补缺乏源数据在UMA。HCL从两个角度应对UMA挑战。首先，它引入了历史对比实例判别（HCID），通过对比当前适应模型和历史模型生成的嵌入，从目标样本中学习。通过历史模型，HCID鼓励UMA学习实例判别目标表示，同时保留源假设。其次，它引入了历史对比类别歧视（HCCD），伪标签的目标样本学习类别歧视的目标表示。具体来说，HCCD根据伪标签在当前和历史模型中的预测一致性对其重新加权。大量的实验表明，HCL在各种视觉任务和设置中始终优于最先进的方法。
2022-06-04 cs.CV
Unsupervised Domain Adaptation via Calibrating Uncertainties
Rutgers University（罗格斯大学）；Carnegie Mellon University（卡内基梅隆大学）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）
无监督领域自适应（UDA）的目的是在给定相关标记源数据集的情况下，为未标记的目标领域推断类别标记。直觉上，在源域上训练的模型通常会对看不见的数据产生更高的不确定性。在这项工作中，我们建立在这一假设的基础上，并提出通过校准其预测不确定性来适应从源域到目标域。不确定性被量化为Renyi熵，我们提出了一个通用的Renyi熵正则化（RER）框架。我们进一步采用变分贝叶斯学习可靠的不确定性估计。此外，校准网络参数的样本方差作为一个插件正则化训练。我们讨论了所提出的方法的理论特性，并证明了其有效性的三个域适应任务。
2019-07-25 cs.CV cs.LG stat.ML
Unsupervised Domain Adaptation Through Transferring both the Source-Knowledge and Target-Relatedness Simultaneously
School of Computer and Software, Nanjing University of Information Science and Technology（南京信息工程大学计算机与软件学院）；Engineering Research Center of Digital Forensics, Ministry of Education, Nanjing University of Information Science and Technology（南京信息工程大学教育部数字取证工程研究中心）；College of Computer Science and Technology, Nanjing University of Aeronautics and Astronautic（南京航空航天大学计算机科学与技术学院）
无监督领域自适应（UDA）是机器学习和模式识别领域的一个新兴研究课题，旨在通过从源领域转移知识来帮助未标记目标领域的学习。
2021-12-24 cs.LG stat.ML
Fine-Grained Unsupervised Cross-Modality Domain Adaptation for Vestibular Schwannoma Segmentation
Radboud University Medical Center（拉德堡德大学医学中心）；The Netherlands Cancer Institute（荷兰癌症研究所）；Macao Polytechnic University（澳门理工大学）
本文提出一种细粒度无监督跨模态域适应框架，通过向量控制生成器合成伪图像并搜索特征字典进行数据增强，显著提升了前庭神经鞘瘤和耳蜗的分割性能与鲁棒性。
2023-11-25 cs.CV cs.LG eess.IV
Unsupervised Pixel-Level Domain Adaptation with Generative Adversarial Networks
Google Brain（谷歌大脑）；Google Research（谷歌研究院）
收集注释良好的图像数据集来训练现代机器学习算法对于许多任务来说都是非常昂贵的。一个吸引人的替代方案是渲染合成数据，其中自动生成地面实况注释。不幸的是，纯粹在渲染图像上训练的模型往往无法推广到真实图像。为了解决这个缺点，先前的工作引入了无监督的领域自适应算法，该算法试图在两个域之间映射表示或学习提取域不变的特征。在这项工作中，我们提出了一种新的方法，学习，在无监督的方式，在像素空间中的变换从一个域到其他。我们基于生成对抗网络（GAN）的方法使源域图像看起来像是从目标域绘制的。我们的方法不仅产生合理的样本，而且在许多无监督领域自适应场景上的表现优于最先进的方法。最后，我们证明了自适应过程可以推广到训练过程中看不到的对象类。
2017-08-23 cs.CV
DRANet: Disentangling Representation and Adaptation Networks for Unsupervised Cross-Domain Adaptation
DGIST（大邱庆北科学技术院）；POSTECH（浦项科技大学）
在本文中，我们提出了DRANet，一个网络架构，解开图像表示和转移的视觉属性在一个潜在的空间，无监督的跨领域自适应。与现有的领域自适应方法，学习共享域的相关功能，DRANet保留了每个域的特性的独特性。我们的模型编码的内容（场景结构）和风格（艺术外观）从源和目标图像的个人表示。然后，它通过将传输的风格因子与为每个域指定的可学习权重一起合并到内容因子中来适应域。该学习框架允许利用单个编码器-解码器网络进行双向/多向领域自适应，并对齐它们的域移位。此外，我们提出了一个内容自适应域转移模块，有助于保留场景结构，同时转移风格。大量的实验表明，我们的模型成功地分离内容风格的因素，并合成视觉上令人愉快的域转移图像。所提出的方法在标准数字分类任务以及语义分割任务上展示了最先进的性能。
2021-03-28 cs.CV
Deep Least Squares Alignment for Unsupervised Domain Adaptation
Lehigh University（里海大学）
无监督领域自适应利用来自标记的源域的丰富信息来对未标记的目标域进行建模。现有的方法试图对齐跨域分布。然而，这两个域的对齐的统计表示没有得到很好的解决。在本文中，我们提出了深度最小二乘对齐（DLSA）估计的两个域的分布在一个潜在的空间参数化的线性模型。我们进一步开发了边缘和条件适应损失，以减少域的差异，通过最小化拟合线和截距之间的角度差异，并进一步学习域不变的功能。大量的实验表明，所提出的DLSA模型是有效的对齐域分布，并优于国家的最先进的方法。
2021-11-03 cs.LG
Unsupervised Domain Adaptation by Optical Flow Augmentation in Semantic Segmentation
Carnegie Mellon University Africa（卡内基梅隆大学非洲分校）
生成真实图像标签的成本很高，并且真实图像和模拟图像之间存在域差距，因此在后者上训练的模型无法适应前者。解决这个问题可以完全消除标记真实数据集的需要。类平衡的自我训练是试图减少域差距的现有技术之一。此外，用流图增强RGB在简单的语义分割中具有改进的性能，并且跨域保留几何形状。因此，通过用密集光流图增强图像，可以改进语义分割中的领域自适应。
2019-11-20 cs.CV cs.LG eess.IV
Unsupervised learning of multimodal image registration using domain adaptation with projected Earth Move's discrepancies
Institute of Medical Informatics, Universität zu Lübeck（吕贝克大学医学信息学研究所）
多模态图像配准对于深度学习方法来说是一个非常具有挑战性的问题。目前的大多数工作集中在监督学习，需要标记的训练扫描，并可能产生的模型，偏向于注释结构或无监督的方法，是基于手工制作的相似性度量，因此可能不会优于他们的经典非训练的同行。我们认为，无监督的领域自适应可以克服目前的限制，多模式注册，很难定义好的指标是有益的。领域自适应到目前为止主要限于分类问题。我们提出了第一次使用无监督领域自适应离散多模态注册。基于量化位移标签可用作监督的源域，我们使用分类器差异将网络的输出分布转换为更好地类似于目标域（其他模态）。为了改进2D直方图的切片Wasserstein度量，我们提出了一种新的近似，将预测投影到1D中并计算其累积和的L1距离。我们的概念验证证明了从犬MRI扫描的单模态到多模态（多对比度）2D配准的域转移的适用性，并将配准精度从33%（使用切片Wasserstein）提高到44%。
2020-05-28 cs.CV cs.LG eess.IV
Robust Unsupervised Domain Adaptation by Retaining Confident Entropy via Edge Concatenation
Kyungpook National University（庆北大学）
提出一种结合边缘信息与熵对抗网络的无监督域适应方法，通过边缘拼接增强边界清晰度，在SYNTHIA到Cityscapes和Mapillary基准上取得优于现有方法的性能。
2023-10-11 cs.CV
Sliced Wasserstein Discrepancy in Disentangling Representation and Adaptation Networks for Unsupervised Domain Adaptation
Faculty of Engineering and Computer Science, University of Victoria（工程与计算机科学学院，维多利亚大学）
本文提出DRANet-SWD，通过引入切片瓦瑟斯坦不相容性作为风格损失，提升无监督领域适应的性能。
2025-04-09 cs.CV
Unsupervised Domain Adaptation using Deep Networks with Cross-Grafted Stacks
University of Otago（奥塔哥大学）；Institute of Information Engineering Chinese Academy of Sciences（中国科学院信息工程研究所）
当前在计算机视觉中使用的深度领域自适应方法主要集中于学习跨不同领域的区分性和领域不变特征。在本文中，我们提出了一种新的方法，通过将源域和目标域投影到一个共同的关联空间中，通过无监督的“交叉嫁接表示堆栈”（CGRS）机制来弥合域差距。具体来说，我们构建了两个域的变分自编码器（VAE），并通过交叉嫁接VAE的解码器堆栈来形成双向关联。此外，生成对抗网络（GAN）用于标签对齐（LA），将目标域数据映射到源域的已知标签空间。因此，整个适应过程由三个阶段组成：VAE的特征表示学习，关联生成和GANs的关联标签对齐。实验结果表明，我们的CGRS-LA方法优于国家的最先进的一些无监督领域自适应基准。
2019-03-25 cs.CV
Unsupervised BatchNorm Adaptation (UBNA): A Domain Adaptation Method for Semantic Segmentation Without Using Source Domain Representations
Technische Universität Braunschweig（布伦瑞克工业大学）
在本文中，我们提出了一个解决方案的任务“无监督领域自适应（UDA）的一个给定的预先训练的语义分割模型，而不依赖于任何源域表示”。以前用于语义分割的UDA方法要么在源域和目标域中同时训练模型，要么依赖于额外的网络，在适应期间将源域知识重放到模型。相比之下，我们提出了一种新的无监督BatchNorm自适应（UBNA）方法，该方法将给定的预训练模型适应于一个看不见的目标域，而不使用-超出预训练的现有模型参数-任何源域表示（既不是数据，也不是网络），并且也可以应用于在线设置或以Few-Shot方式使用来自目标域的几个未标记图像。具体来说，我们使用指数衰减的动量因子将归一化层统计信息部分地适应目标域，从而混合来自两个域的统计信息。通过对语义分割的标准UDA基准的评估，我们表明，这优于没有适应的模型和仅使用目标域统计数据的基线方法。与标准的UDA方法相比，我们报告的性能和使用的源域表示之间的权衡。
2021-11-11 cs.CV
A Review of Single-Source Deep Unsupervised Visual Domain Adaptation
University of California, Berkeley（加利福尼亚大学伯克利分校）；Carnegie Mellon University（卡内基梅隆大学）
大规模的标记训练数据集使深度神经网络能够在广泛的基准视觉任务中表现出色。然而，在许多应用中，获取大量的标记数据是非常昂贵和耗时的。为了应对有限的标记训练数据，许多人试图将在大规模标记源域上训练的模型直接应用于另一个稀疏标记或未标记的目标域。不幸的是，跨域的直接传输通常由于域偏移或数据集偏差的存在而表现不佳。领域自适应是一种机器学习范例，其目的是从源域学习模型，该模型可以在不同（但相关）的目标域上表现良好。在本文中，我们回顾了最新的单源深度无监督领域自适应方法专注于视觉任务，并讨论了未来研究的新视角。我们首先定义了不同的领域自适应策略，并描述了现有的基准数据集。然后，我们总结和比较了不同类别的单源无监督领域自适应方法，包括基于差异的方法，对抗性判别方法，对抗性生成方法和基于自我监督的方法。最后，我们讨论了未来的研究方向与挑战和可能的解决方案。
2020-09-19 cs.CV cs.LG eess.IV
