Unsupervised Multi-Source Domain Adaptation for Person Re-Identification
Baidu Inc（百度公司）；Renmin University of China（中国人民大学）
无监督领域自适应（UDA）方法用于人的再识别（re-ID），目的是将再识别知识从标记的源数据转移到未标记的目标数据。虽然取得了很大的成功，但大多数都只使用来自单一源域的有限数据进行模型预训练，使得丰富的标记数据没有得到充分利用。为了充分利用有价值的标记数据，我们将多源概念引入UDA人员re-ID字段，其中在训练期间使用多个源数据集。然而，由于领域差距，简单地组合不同的数据集只能带来有限的改进。本文从\ie{}领域特定视图和领域融合视图两个角度来解决这一问题。提出了两个构造性模块，它们是相互兼容的。首先，一个纠正特定领域的批量归一化（RDSBN）模块，同时减少特定领域的特点，并增加了人的特征的独特性。其次，提出了一种基于图卷积网络（GCN）的多域信息融合（MDIF）模块，通过融合不同域的特征来最小化域距离。所提出的方法优于国家的最先进的UDA人员重新ID方法的大幅度，甚至实现了相当的性能监督的方法，没有任何后处理技术。
2021-04-27 cs.CV
Hardness-guided domain adaptation to recognise biomedical named entities under low-resource scenarios
Monash University（莫纳什大学）；VinUniversity（文莱大学）；University at Buffalo（布法罗大学）
领域自适应是低资源场景下数据稀缺的有效解决方案。然而，当应用于标记级任务，如bioNER，领域自适应方法往往遭受具有挑战性的语言特征，临床叙述，这导致不满意的性能。在本文中，我们提出了一个简单而有效的硬度引导的领域自适应（HGDA）框架bioNER任务，可以有效地利用域硬度信息，以提高适应性的学习模型在低资源的情况下。在生物医学数据集上的实验结果表明，与最近发表的最新（SOTA）MetaNER模型相比，我们的模型可以实现显着的性能改善
2022-11-11 cs.CL cs.LG
Towards Understanding GD with Hard and Conjugate Pseudo-labels for Test-Time Adaptation
Yale University（耶鲁大学）
我们考虑一个设置，模型需要适应一个新的域下分布偏移，给定的只有未标记的测试样本从新的域是在测试时可访问的。在大多数相关工作中，一个共同的想法是为未标记的测试样本构造伪标签，并将梯度下降（GD）应用于具有伪标签的损失函数。最近，\cite{GSRK22}提出了共轭标签，这是一种新的伪标签，用于在测试时进行自训练。他们的经验表明，共轭标签优于许多领域自适应基准上的伪标记的其他方式。然而，可证明地显示具有共轭标签的GD学习用于测试时自适应的良好分类器仍然是开放的。在这项工作中，我们的目标是在理论上理解GD与硬共轭标签的二进制分类问题。我们发现，对于平方损失，共轭标签GD收敛到一个$ε$ -最佳的预测高斯模型下的任何任意小的$ε$，而GD硬伪标签失败，在这项任务。我们还分析了他们在不同的损失函数的更新。我们的研究结果有助于理解GD与硬标签或共轭标签在测试时自适应中工作的时间和原因。
2023-02-26 cs.LG
Spectral Rectification for Parameter-Efficient Adaptation of Foundation Models in Colonoscopy Depth Estimation
Department of Biomedical Engineering, National University of Singapore, Singapore（新加坡国立大学生物医学工程系）；Department of Radiotherapy, The First Affiliated Hospital of Xi'an Jiaotong University, Xi'an, China（西安交通大学第一附属医院放疗科）
本文提出SpecDepth框架，通过光谱校正模块提升结肠镜图像处理性能，实现参数高效适应，取得最佳性能。
2026-03-16 cs.CV
Hard Samples Rectification for Unsupervised Cross-domain Person Re-identification
National Taiwan University（台湾大学）；Intel Corporation（英特尔公司）；Delta Electronics（台达电子）；Compal Electronics（仁宝电子）
监督学习方法在人的再识别中取得了巨大的成功。然而，无监督的跨域re-ID任务仍然具有挑战性。本文提出了一种硬样本校正（HSR）学习方案，解决了原有的基于聚类的方法容易受到目标未标记数据集中的硬阳性和阴性样本的弱点。我们的HSR包含两个部分，一个是相机间挖掘方法，可以帮助识别不同视图下的人（硬阳性），另一个是基于部分的同质性技术，可以使模型区分不同的人，但具有相似的外观（硬阴性）。通过纠正这两种困难的情况，re-ID模型可以有效地学习，并在两个大规模的基准测试中取得令人满意的结果。
2021-06-14 cs.CV
Robust Parameter-Efficient LLM Adaptation on Analog Hardware
Cornell University（康奈尔大学）
针对模拟硬件上大语言模型微调受硬件非理想性影响的问题，提出基于LoRA的参数高效适配方法，通过输入重塑和更新累积改善噪声MVM和有限状态编程下的适配性能。
2026-10-06 cs.LG
Continual Active Learning for Efficient Adaptation of Machine Learning Models to Changing Image Acquisition
Medical University of Vienna（维也纳医科大学）
临床常规中的成像受制于改变的扫描仪协议、硬件或在典型的异构采集硬件集合中的策略。深度学习模型的准确性和可靠性受到这些变化的影响，因为数据和目标变得与其初始静态训练集不一致。持续学习可以适应变化的成像环境的连续数据流。在这里，我们提出了一种方法，连续主动学习的数据流的医学图像。它识别新成像源（域）的变化或添加，相应地调整训练，并选择最佳示例进行标记。模型训练必须应对有限的标签预算，类似于典型的现实世界场景。我们证明了我们的方法T1加权磁共振图像从三个不同的扫描仪的任务，脑年龄估计。结果表明，所提出的方法优于天真的主动学习，同时需要较少的人工标记。
2021-06-07 cs.CV cs.LG
Remining Hard Negatives for Generative Pseudo Labeled Domain Adaptation
University of Amsterdam（阿姆斯特丹大学）
本文提出R-GPL方法，在生成式伪标签域适应中通过重新挖掘硬负样本，提升密集检索器在目标域的排序性能，在BEIR和LoTTe数据集上取得显著改进。
2025-01-24 cs.IR cs.LG
Divide to Adapt: Mitigating Confirmation Bias for Domain Adaptation of Black-Box Predictors
Nanyang Technological University（南洋理工大学）；National University of Singapore（新加坡国立大学）；ByteDance（字节跳动）；Tsinghua University（清华大学）
黑箱预测器的领域自适应（DABP）是在源域上训练的黑箱预测器的监督下，在未标记的目标域上学习模型。它不需要访问源域数据和预测器参数，从而解决了标准领域自适应的数据隐私和可移植性问题。现有的DABP方法主要依赖于从黑箱预测器\emph{i.e.}中提取模型，用其有噪声的目标域预测来训练模型，然而这不可避免地引入了从预测噪声累积的确认偏差。为了减轻这种偏见，我们提出了一种新的方法，命名为BETA，将知识蒸馏和噪声标签学习到一个连贯的框架。这是通过一个新的分而治之的战略实现的。BETA将目标域划分为噪声较少的易适应子域和难以适应子域。然后，它部署了相互教学的孪生网络来过滤彼此的预测误差，并从容易到困难的子域逐步改进它们。因此，BETA有效地净化了噪声标签并减少了错误累积。我们从理论上表明，通过降低子域的噪声比，BETA的目标误差最小化。大量的实验表明，BETA优于所有DABP基准的现有方法，甚至与使用源域数据的标准领域自适应方法相媲美。
2022-05-28 cs.CV cs.LG
Class Rectification Hard Mining for Imbalanced Deep Learning
Queen Mary University of London（伦敦玛丽女王大学）；Vision Semantics Ltd.（视觉语义有限公司）
识别人物图像中的面部或服装细节属性对于计算机视觉来说是一项具有挑战性的任务，特别是当训练数据规模非常大且不同属性类别之间极不平衡时。为了解决这个问题，我们制定了一个新的计划，批量增量硬样本挖掘少数属性类不平衡的大规模训练数据。我们开发了一个端到端的深度学习框架，能够通过发现少数类的稀疏采样边界来避免多数类的主导效应。这是通过引入类纠正损失（CRL）正则化算法。我们在两个大规模不平衡基准数据集（CelebA面部属性数据集和X-Domain服装属性数据集）上展示了CRL相对于现有最先进的属性识别和不平衡数据学习模型的优势和可扩展性。
2017-12-08 cs.CV
Low-resource domain adaptation while minimizing energy and hardware resource consumption
FAMAF, Universidad Nacional de Córdoba（科罗纳大学福马夫学院）；CONICET, Argentina（阿根廷国家科学与技术委员会）
针对大语言模型领域适配计算成本高、低资源场景难落地的问题，研究评估不同数值精度与数据并行策略对训练速度和准确率的影响，助力低资源环境下的高效领域适配。
2025-06-11 cs.CL cs.DC cs.LG
Janus-LoRA: A Balanced Low-Rank Adaptation for Continual Learning
School of Computer Science and Technology, Tongji University, Shanghai, China（同济大学计算机科学与技术学院，上海，中国）；School of Computer Science and Engineering, University of Electronic Science and Technology of China, Chengdu, China（电子科技大学计算机科学与工程学院，成都，中国）；Shanghai Innovation Institute, Shanghai, China（上海创新研究院，上海，中国）；Independent Researcher（独立研究者）
提出Janus-LoRA框架，通过梯度修正实现参数级正交性以克服灾难性遗忘，并利用解耦边际损失增强特征级分离，从而在持续学习中平衡稳定性与可塑性。
2026-05-27 cs.CV
Real-World Font Recognition Using Deep Network and Domain Adaptation
Beckman Institute for Advanced Science and Technology（贝克曼高等科学技术研究所）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Adobe Research（Adobe研究院）
我们解决了一个具有挑战性的细粒度分类问题：从文本图像中识别字体样式。在这个任务中，生成大量的渲染字体示例非常容易，但很难获得真实世界的标记图像。在以前的方法中，这种真实到合成域的差距导致对新真实数据的泛化能力较差（Chen等人（2014））。在本文中，我们参考卷积神经网络，并使用基于堆叠卷积自动编码器的自适应技术，该编码器利用未标记的真实世界图像与合成数据相结合。该方法在真实数据集上实现了高于80%（前5名）的准确度。
2015-03-31 cs.CV cs.LG
Adaptive Hardness-driven Augmentation and Alignment Strategies for Multi-Source Domain Adaptations
School of Computer Science, Sichuan University（四川大学计算机学院）
本文提出多源域自适应方法A3MDA，通过三种自适应硬度度量同时改进数据增强、域间簇级对齐和域内伪对比对齐，在多个基准上取得更优性能。
2025-04-11 cs.CV
Unsupervised Intra-domain Adaptation for Semantic Segmentation through Self-Supervision
KAIST（韩国科学技术院）
基于卷积神经网络的方法在语义分割方面取得了显著的进展。然而，这些方法严重依赖于劳动密集型的注释数据。为了克服这一局限性，使用从图形引擎生成的自动注释数据来训练分割模型。然而，从合成数据训练的模型很难转移到真实图像。为了解决这个问题，以前的作品已经考虑直接适应模型从源数据的未标记的目标数据（以减少域间的差距）。然而，这些技术没有考虑目标数据本身之间的大分布间隙（域内间隙）。在这项工作中，我们提出了一个两步的自我监督领域自适应方法，以尽量减少域间和域内的差距在一起。首先，我们进行跨领域自适应的模型，从这个适应，我们分离的目标域到一个容易和困难的分裂使用基于熵的排名功能。最后，为了减少域内差距，我们建议采用一种自监督自适应技术，从容易到困难的分裂。在众多基准数据集上的实验结果突出了我们的方法对现有最先进方法的有效性。源代码可在https://github.com/feipan664/IntraDA.git上获得。
2020-07-15 cs.CV cs.LG cs.RO
Tempora: Characterising the Time-Contingent Utility of Online Test-Time Adaptation
University of Bristol（布里斯托大学）
提出Tempora框架，通过时间场景、评估协议和时间条件效用指标，系统评估测试时适应方法在延迟约束下的准确性-延迟权衡，揭示传统排名在时间压力下失效。
2026-05-31 cs.CV cs.LG
How Hard Is Snow? A Paired Domain Adaptation Dataset for Clear and Snowy Weather: CADC+
University of Waterloo（滑铁卢大学）
本文提出CADC+，首个配对天气域适应数据集，通过配对同一道路和时期的晴天与雪天序列，最小化域偏移，用于评估降雪对3D目标检测的影响，发现雪同时引入偶然和认知不确定性。
2025-06-19 cs.CV
Two-phase Pseudo Label Densification for Self-training based Domain Adaptation
KAIST（韩国科学技术院）
最近，深度自训练方法成为无监督领域自适应的强大解决方案。自训练方案涉及目标数据的迭代处理;它生成目标伪标签并重新训练网络。然而，由于只有置信预测被视为伪标签，现有的自训练方法在实践中不可避免地产生稀疏的伪标签。我们认为这是至关重要的，因为由此产生的训练信号不足会导致一个次优的、容易出错的模型。为了解决这个问题，我们提出了一种新的两阶段伪标签加密框架，简称为TPLD。在第一阶段中，我们使用滑动窗口投票来传播置信预测，利用图像中的内在空间相关性。在第二阶段，我们执行基于置信度的易-难分类。对于简单的示例，我们现在使用它们的完整伪标签。对于困难的问题，我们采用对抗学习来执行从难到易的特征对齐。为了简化训练过程并避免噪声预测，我们将自举机制引入原始自训练损失。我们表明，建议的TPLD可以很容易地集成到现有的自我训练为基础的方法，并显着提高性能。结合最近提出的CRST自我训练框架，我们在两个标准的UDA基准测试中取得了新的最先进的结果。
2020-12-09 cs.CV
MAPLE: Microprocessor A Priori for Latency Estimation
Waterloo AI Institute（滑铁卢人工智能研究所）；University of Waterloo（滑铁卢大学）；DarwinAI（达尔文人工智能）
现代深度神经网络必须表现出最先进的准确性，同时表现出低延迟和低能耗。因此，神经架构搜索（NAS）算法在生成新架构时考虑这两个约束。然而，诸如延迟的效率度量通常依赖于硬件，需要NAS算法来测量或预测架构延迟。测量每个被评估架构的延迟会给NAS流程增加大量时间。在这里，我们提出了用于延迟估计的微处理器先验MAPLE，其不依赖于迁移学习或领域自适应，而是通过在训练期间结合先前的硬件特性来推广到新的硬件。MAPLE利用一种新的定量策略，通过测量相关的硬件性能指标来表征底层微处理器，从而产生细粒度和富有表现力的硬件描述符。此外，所提出的MAPLE受益于CPU和GPU之间的紧密耦合的I/O及其依赖性，以预测GPU上的DNN延迟，同时测量来自CPU馈送GPU硬件的微处理器性能硬件计数器。通过这种作为硬件描述符的定量策略，MAPLE可以通过Few Shot自适应策略推广到新硬件，其中只需3个样本，它就比需要多达10个样本的最新方法提高了6%。实验结果表明，将Few Shot适应样本增加到10个，比现有技术方法的准确率显著提高了12%。此外，它表明，MAPLE表现出8-10%的准确性，平均而言，在任何数量的适应样本的相关基线相比。
2022-05-25 cs.AI cs.LG
DeepFedNAS: Efficient Hardware-Aware Architecture Adaptation for Heterogeneous IoT Federations via Pareto-Guided Supernet Training
本文提出DeepFedNAS，通过帕累托引导的超网络训练，实现异构物联网联邦的高效硬件感知架构适应，显著提升搜索效率和模型精度。
2026-09-28 cs.CV cs.DC cs.LG
Unsupervised Contrastive Domain Adaptation for Semantic Segmentation
University of Oxford（牛津大学）；Intel Labs（英特尔实验室）
语义分割模型在领域转换的情况下难以推广。在本文中，我们介绍了对比学习的跨领域自适应的特征对齐。我们组装域内对比对和跨域对比对来学习跨域对齐的区分特征。基于得到的对齐良好的特征表示，我们引入了一种标签扩展方法，该方法能够在自适应过程中从硬类中发现样本，以进一步提高性能。所提出的方法始终优于国家的最先进的领域自适应的方法。当在合成的GTA 5数据集和未标记的Cityscapes图像上训练时，它在Cityscapes数据集上实现了60.2%mIoU。
2022-04-18 cs.CV
Efficient transformer adaptation for analog in-memory computing via low-rank adapters
Department of Engineering, King's College London, United Kingdom（伦敦大学工程学院，英国）
本文提出AHWA-LoRA方法，通过引入轻量级LoRA模块，解决类比存内计算中模型适应和任务调整的挑战，验证了其在SQuAD和GLUE基准上的有效性，并展示了在实际部署中的高效性。
2026-03-21 cs.AR cs.LG
Practical Stereo Matching via Cascaded Recurrent Network with Adaptive Correlation
Megvii Research（旷视研究院）；Tencent（腾讯）；University of Electronic Science and Technology of China（电子科技大学）
随着卷积神经网络的出现，立体匹配算法近年来取得了巨大的进展。然而，由于实际复杂因素，如薄结构，非理想矫正，相机模块不一致和各种硬场景，从消费级设备（如智能手机）拍摄的真实世界图像对中准确提取视差仍然是一个巨大的挑战。本文针对实际立体匹配问题，提出了一系列创新设计：1）为了更好地恢复精细深度细节，设计了一种具有递归细化的分层网络，以粗到细的方式更新视差，并设计了一种堆叠级联的推理结构; 2）提出了一种自适应组相关层，以减轻错误校正的影响; 3）我们引入了一个新的合成数据集，特别关注困难的情况，以便更好地推广到现实世界的场景。我们的结果不仅在Middlebury和ETH 3D基准测试中排名第一，明显优于现有的最先进的方法，而且还展示了真实照片的高质量细节，这清楚地证明了我们贡献的有效性。
2022-03-22 cs.CV
Unsupervised Domain Adaptation with Progressive Adaptation of Subspaces
Nanjing University of Aeronautics & Astronautics（南京航空航天大学）
无监督领域自适应（UDA）是一种基于领域移位的知识转移算法，通过对已有标记的源领域进行知识转移，实现对未标记目标领域的分类。现有的大多数UDA方法试图通过减少域差异来减轻迁移带来的不利影响。然而，由于目标域中缺少标签，这样的方法容易遭受臭名昭著的模式坍塌问题。自然，缓解这个问题的有效方法之一是可靠地估计目标域的伪标签，这本身就很难。为了克服这一点，我们提出了一种新的UDA方法命名为渐进适应子空间的方法（PAS），我们利用这样的直觉，似乎更合理，逐步获得可靠的伪标签。具体而言，我们通过自适应地锚定/选择和利用具有可靠伪标签的目标样本，逐步稳步地改进共享子空间作为知识传递的桥梁。随后，细化的子空间又可以提供目标域的更可靠的伪标签，使得模式坍塌得到高度缓解。我们的全面评估表明，PAS不仅是有效的共同的UDA，但也优于国家的艺术更具有挑战性的部分领域自适应（PDA）的情况下，源标签集包含的目标之一。
2020-09-01 cs.CV cs.LG stat.ML
FerKD: Surgical Label Adaptation for Efficient Distillation
Mohamed bin Zayed University of AI（穆罕默德·本·扎耶德人工智能大学）
提出FerKD高效知识蒸馏框架，结合部分软硬标签适应与区域校准机制，并引入稳定SelfMix增强，显著提升ImageNet-1K等任务性能。
2023-12-29 cs.AI cs.CV cs.LG
Domain Adaptation for Resume Classification Using Convolutional Neural Networks
Aalto University（阿尔托大学）
我们提出了一种新的方法，求职者的简历数据分为27个不同的工作类别，使用卷积神经网络。由于简历数据的敏感性，其成本高且难以获得，因此我们使用领域自适应。特别是，我们训练分类器上的大量免费的职位描述片段，然后用它来分类简历数据。我们经验验证了我们的方法的合理分类性能，尽管只有少量的标记简历数据可用。
2017-07-18 cs.CV
Confusing Pair Correction Based on Category Prototype for Domain Adaptation under Noisy Environments
Beijing Jiaotong University（北京交通大学）；Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）
针对噪声环境下无监督域适应中相似特征类别易混淆的问题，提出基于类别原型检测并修正混淆对的方法，通过小损失准则划分难易类并利用top-2预测修正噪声标签，实验证明其性能优于现有方法。
2024-03-19 cs.CV
Adversarial Style Mining for One-Shot Unsupervised Domain Adaptation
Huazhong University of Science & Technology（华中科技大学）；University of Technology Sydney（悉尼科技大学）；Farsee2 Tech. Co.（Farsee2科技公司）；Baidu Research（百度研究院）
本文针对One-Shot无监督领域自适应问题进行研究。与传统的无监督领域自适应不同，它假设在学习自适应时只有一个未标记的目标样本可用。这种设置是现实的，但更具挑战性，在传统的适应方法很容易失败，由于缺乏未标记的目标数据。为此，我们提出了一种新的对抗性风格挖掘方法，它结合了风格转换模块和任务特定模块到一个对抗的方式。具体而言，风格转移模块根据当前学习状态迭代地在一次性目标样本周围搜索更难风格化的图像，引导任务模型探索几乎不可见的目标领域中难以解决的潜在风格，从而提高数据稀缺场景中的适应性能。对抗性学习框架使风格迁移模块和任务特定模块在竞争中相互受益。跨域分类和分割基准上的大量实验验证了ASM在具有挑战性的单次设置下实现了最先进的自适应性能。
2020-04-13 cs.CV cs.LG eess.IV
ElimPCL: Eliminating Noise Accumulation with Progressive Curriculum Labeling for Source-Free Domain Adaptation
School of Computer Science and Engineering, Central South University（中南大学计算机科学与工程学院）
针对无源域适应中源模型对困难样本产生噪声伪标签并累积传播的问题，提出基于原型一致性迭代筛选的渐进式课程标注方法ElimPCL，结合双重MixUP增强特征可分离性，在挑战性任务上较最先进方法提升达3.4%。
2025-03-31 cs.CV
Aligning What You Separate: Denoised Patch Mixing for Source-Free Domain Adaptation in Medical Image Segmentation
1 Carnegie Mellon University, PA, USA 2 PASSIO Lab, North Carolina A\&T State University, NC, USA 3 Ho Chi Minh University of Science, Vietnam 4 Ho Chi Minh University of Technology, Vietnam 5 Northwestern University, IL, USA
针对医学图像分割无源域自适应中样本难度被忽略、监督噪声大的问题，提出结合难样本选择、蒙特卡洛去噪伪标签优化与斑块混合的渐进对齐框架，在基准数据集上取得了当前最优的分割精度。
2025-10-29 cs.CV
BP-Triplet Net for Unsupervised Domain Adaptation: A Bayesian Perspective
Anhui University（安徽大学）；Chongqing University（重庆大学）；Alibaba Group（阿里巴巴集团）
三重丢失是深度度量学习（DML）方法之一，用于学习来自同一类的样本比来自不同类的样本更接近的嵌入。受DML的启发，我们从贝叶斯学习的角度提出了一种有效的用于无监督域自适应（UDA）的BP-Triplet Loss模型，并将其命名为BP-Triplet Net。在以往的基于度量学习的UDA方法中，对不同领域的样本对进行了平等的处理，由于领域偏差，这是不合适的。在我们的工作中，考虑到两个特征学习和领域对齐的成对样本的不同重要性，我们推导出我们的BP三重损失有效的UDA从贝叶斯学习的角度。我们的BP三重损失调整域内和域间成对样本的权重。特别地，它可以自关注硬对（包括硬正对和硬负对）。与域对齐常用的对抗性损失一起，目标伪标签的质量逐步提高。我们的方法实现了理想源和目标假设的低联合误差。然后，期望目标误差可以遵循本-大卫定理上界。在手写体数字、ImageCLEF-DA、ImageCLEF-Home和VisDA-2017五个基准数据集上的综合评估证明了所提出的UDA方法的有效性。
2022-02-19 cs.CV
Data Augmentation-Based Unsupervised Domain Adaptation In Medical Imaging
Pioneer Centre for AI（先锋人工智能中心）；University of Copenhagen（哥本哈根大学）
本文提出一种基于MRI特定数据增强的无监督域适应方法，用于提升脑MRI分割在不同数据域下的鲁棒性，并通过多数据集、多模态和多任务实验证明其在多数情况下优于现有最先进方法。
2023-08-08 cs.CV cs.LG eess.IV
Similarity-based data mining for online domain adaptation of a sonar ATR system
Seebyte Ltd（Seebyte有限公司）；University of Edinburgh（爱丁堡大学）
由于现场数据采集的昂贵性，训练数据的缺乏往往限制了自动目标识别（ATR）系统的性能。通常采用领域自适应技术来解决这一问题，但现有的方法不能满足水下系统资源和时间的限制。我们建议通过使用一种新的数据选择方法在线微调ATR算法来解决这个问题。我们提出的数据挖掘方法依赖于视觉相似性，优于传统的硬挖掘方法。我们提出了一个比较性能分析，在广泛的模拟环境中，并强调使用我们的方法快速适应以前看不见的环境的好处。
2020-09-16 cs.CV cs.LG cs.SD
On the Hardness of Unsupervised Domain Adaptation: Optimal Learners and Information-Theoretic Perspective
University of Ottawa（渥太华大学）
本文提出信息论量PTLU及其经验估计EPTLU，用于量化协变量偏移下无监督域适应的学习难度，并证明其可作为任何学习器风险的下界，优于现有度量。
2025-07-09 cs.IT cs.LG math.IT
Stagewise Unsupervised Domain Adaptation with Adversarial Self-Training for Road Segmentation of Remote Sensing Images
Wuhan University（武汉大学）；University of Sydney（悉尼大学）；JD Explore Academy（京东探索研究院）
遥感图像道路分割是一个具有广泛应用前景的挑战性课题。深度神经网络通过利用大规模标记数据的力量推进了这一领域，然而，获取这些数据非常昂贵和耗时。一种解决方案是使用廉价的可用数据来训练模型，并将其部署为直接处理来自特定应用程序域的数据。然而，众所周知的域偏移（DS）问题阻止了训练模型在目标域上很好地泛化。在本文中，我们提出了一种新的阶段式领域自适应模型称为道路DA，以解决在这一领域的DS问题。在第一阶段，RoadDA通过基于生成对抗网络（GAN）的领域自适应调整目标域特征以与源域特征对齐。具体而言，设计了一个特征金字塔融合模块，以避免长而细的道路信息丢失，并学习区分和鲁棒的功能。此外，为了解决目标域中的域内差异，在第二阶段，我们提出了一种对抗性的自训练方法。我们使用训练好的生成器生成目标域的伪标签，并根据道路置信度将其分为标记的易分割和未标记的硬分割。硬分割的特征使用对抗性学习来与容易分割的特征对准，并且重复领域自适应过程以逐步提高分割性能。两个基准测试的实验结果表明，RoadDA可以有效地减少域间隙，并优于最先进的方法。
2021-08-28 cs.CV
CoDA: Instructive Chain-of-Domain Adaptation with Severity-Aware Visual Prompt Tuning
Sun Yat-sen University（中山大学）；Wuhan University of Science and Technology（武汉科技大学）；National University of Singapore（新加坡国立大学）；EPFL（洛桑联邦理工学院）
针对现有无监督域适应方法在恶劣场景适配时忽略场景内差异的问题，提出含域链策略与严重度感知视觉提示调优的CoDA方法，在多个雾天场景基准上取得最优性能。
2024-07-15 cs.CV
Geometric Unsupervised Domain Adaptation for Semantic Segmentation
Toyota Research Institute (TRI)（丰田研究所）
模拟器可以有效地生成大量带标签的合成数据，并对难以标记的任务（如语义分割）进行完美的监督。然而，它们引入了一个域间隙，严重损害了现实世界的性能。我们建议使用自监督单目深度估计作为代理任务来弥合这一差距，并提高模拟到真实的无监督领域自适应（UDA）。我们的几何无监督领域自适应方法（GUDA）通过多任务目标学习域不变表示，该目标将合成语义监督与视频上的真实几何约束相结合。GUDA在UDA中建立了一个新的最先进的语义分割的三个基准，优于使用领域对抗学习，自我训练或其他自我监督代理任务的方法。此外，我们表明，我们的方法规模以及质量和数量的合成数据，同时也提高了深度预测。
2021-08-18 cs.CV
Global High Categorical Resolution Land Cover Mapping via Weak Supervision
Technical University of Munich（慕尼黑工业大学）；Tsinghua University（清华大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）
针对细粒度训练数据获取困难的问题，提出基于原型的伪标签校正与扩展（PRE）弱监督领域自适应方法，在10个城市实现跨传感器、跨类别和跨大陆制图，总体精度超80%，显著提升标签效率。
2024-06-02 cs.CV
Confidence-based Visual Dispersal for Few-shot Unsupervised Domain Adaptation
Tsinghua University（清华大学）；Beijing National Research Center for Information Science and Technology (BNRist)（北京国家信息科学与技术研究中心（BNRist））；Hangzhou Zhuoxi Institute of Brain and Intelligence（杭州卓希脑与智能研究院）
针对少样本无监督域适应中源标签稀疏与目标样本难度差异问题，提出C-VisDiT，通过高置信度跨域迁移和易样本指导难样本的域内扩散提升性能。
2023-09-29 cs.CV
Multi-source Domain Adaptation for Visual Sentiment Classification
National University of Singapore（新加坡国立大学）；University of California, Berkeley（加州大学伯克利分校）
现有的视觉情感分类的领域自适应方法通常是在单源场景下研究的，其中从足够标记数据的源域学习的知识被转移到松散标记或未标记数据的目标域。然而，在实际应用中，来自单个源域的数据通常具有有限的量，并且难以覆盖目标域的特征。在本文中，我们提出了一种新的多源领域自适应（MDA）的方法，称为多源情感生成对抗网络（MSGAN），视觉情感分类。为了处理来自多个源域的数据，它学习找到一个统一的情感潜在空间，其中来自源域和目标域的数据共享类似的分布。这是通过端到端方式的周期一致性对抗学习来实现的。在四个基准数据集上进行的大量实验表明，MSGAN在视觉情感分类方面明显优于最先进的MDA方法。
2020-01-12 cs.CV
Unsupervised Domain Adaptation with Adversarial Residual Transform Networks
Tongji University（同济大学）；New Jersey Institute of Technology（新泽西理工学院）；Macau University of Science and Technology（澳门科技大学）
领域自适应被广泛应用于缺乏标签的学习问题。最近的研究表明，深度对抗性领域自适应模型可以显著提高性能，包括对称和非对称架构。但前者泛化能力差，后者训练难度大。本文提出了一种新的对抗性领域自适应方法--对抗性残差变换网络（ARTNs），它直接将源特征变换到目标特征空间，提高了泛化能力。该模型利用剩余连接实现特征共享，重构了对抗损失，使模型具有更好的通用性和训练性。此外，一个特殊的正则化项被添加到损失函数，以减轻消失的梯度问题，这使得它的训练过程稳定。基于Amazon评论数据集、digits数据集和Office-31图像数据集的实验表明，本文提出的ARTN方法可以与现有方法相媲美。
2019-09-18 cs.CV
Meta Reinforcement Learning for Sim-to-real Domain Adaptation
Aalto University（阿尔托大学）；KTH Royal Institute of Technology（瑞典皇家理工学院）
现代强化学习方法存在样本效率低和探索不安全的问题，使得完全在真实硬件上训练机器人策略是不可行的。在这项工作中，我们建议解决的问题，通过使用Meta学习训练的政策，可以适应各种动态条件，并使用特定于任务的轨迹生成模型，以提供一个行动空间，便于快速探索的模拟到真实的域转移。我们评估的方法，通过执行领域自适应在模拟和分析适应过程中的潜在空间的结构。然后，我们将此策略部署在KUKA LBR 4+机器人上，并评估其在将冰球击中目标的任务上的性能。我们的方法显示出更一致和稳定的领域自适应比基线，从而更好的整体性能。
2019-09-16 cs.CV cs.RO
Deep Feature Registration for Unsupervised Domain Adaptation
Yeshiva University（叶史瓦大学）；Lehigh University（理海大学）
本文提出深度特征配准（DFR）模型，通过直方图匹配生成配准特征以最小化域差异，并结合概率软选择与基于中心的硬选择精炼伪标签，在多个无监督域适应基准上达到最先进性能。
2023-10-24 cs.CV
Consistent Assistant Domains Transformer for Source-free Domain Adaptation
Faculty of Military Health Services, Naval Medical University (Second Military Medical University)（海军医学大学（第二军医大学）军事卫生服务学院）；Department of Computer Science and Technology, Tsinghua University（清华大学计算机科学与技术系）；Software Engineering Institute, East China Normal University（华东师范大学软件工程研究院）；School of Computer Science and Technology, East China Normal University（华东师范大学计算机科学与技术学院）
针对无源域适应中源域数据缺失导致的不变特征获取难、现有方法易受难样本和域偏差影响的问题，提出CADTrans方法，通过辅助域模块、一致性策略和CMK-MMD策略实现域对齐，在多个基准上取得显著性能提升。
2025-10-02 cs.CV
Multi-Source domain adaptation via supervised contrastive learning and confident consistency regularization
CentraleSupélec（中央理工-高等电力学院）；VitaDX International（VitaDX国际公司）
多源无监督领域自适应（多源UDA）旨在从多个标记的源域中学习模型，同时在训练时只有未标记数据可用的不同目标域上表现良好。为了对齐源和目标特征分布，最近的一些作品使用源和目标显式统计匹配，如特征矩或类质心。然而，这些方法不能保证跨域的类条件分布对齐。在这项工作中，我们提出了一个新的框架，称为对比多源领域自适应（CMSDA）的多源UDA，解决这个限制。通过交叉熵最小化从内插的源示例中学习鉴别特征，通过一致性正则化和硬伪标记从目标示例中学习鉴别特征。同时，利用内插源示例通过监督对比损失的内插版本来对齐源类条件分布。这种对齐导致更一般和可转移的特征，这进一步提高了目标域上的泛化。在三个标准的多源UDA数据集上进行了广泛的实验，我们的方法报告了最先进的结果。
2021-09-27 cs.CV
Importance Filtered Cross-Domain Adaptation
Dalian University of Technology（大连理工大学）；Indiana University-Purdue University Indianapolis（印第安纳大学-普渡大学印第安纳波利斯分校）；Dalian Minzu University（大连民族大学）
在领域自适应（DA）中，类别相关损失通常占据主导地位，而现有模型中的类别相关损失通常是用硬标签或软标签构建的。我们观察到硬标签由于硬样本的存在而过于自信，而软标签由于涉及太多小噪声概率而模糊，两者都容易引起负迁移。此外，闭集DA（CSDA）范式中的类别无关损失在开集DA（OSDA）中不起作用，并且它们也必须是类别相关的形式，因为目标数据样本被分成共享类和私有类。为此，我们提出了一个新的统一的DA框架（即，重要性过滤跨领域自适应）。首先，设计了一种重要性过滤机制来生成过滤软标签，以期望地减轻负迁移。具体来说，软标签分为自信和模糊的。然后，仅保留每个置信标签中的最大概率，并且设置阈值以截断每个模糊标签，使得仅保留突出概率。此外，设计了一种通用的基于图的标签传播，以获得CSDA和OSDA中的软标签，其中一个额外的组件被嵌入到标签向量，以便它可以检测目标新类。最后，在这两种情况下的类别相关的损失使用过滤软标签重新制定，而CSDA中的类别无关的MMD损失重新制定为一种形式，如类明智的MMD使用新设计的重要性过滤软标签。值得注意的是，CSDA范例是所有额外组件设置为0时的特殊情况，因此所提出的方法适用于CSDA和OSDA。在基准跨域对象识别数据集上的综合实验验证了所提出的方法在这两种情况下的性能优于几种最先进的方法。
2020-05-08 cs.LG stat.ML
Single Slice Thigh CT Muscle Group Segmentation with Domain Adaptation and Self-Training
Vanderbilt University（范德堡大学）；Delaware State University（特拉华州立大学）；National Institute on Aging（美国国家老龄化研究所）
目的：大腿肌群分割对于肌肉解剖、代谢性疾病和衰老的评估具有重要意义。已经投入了许多努力来利用磁共振（MR）成像（包括个体肌肉的手动注释）量化肌肉组织。然而，利用MR图像中公开可用的注释来实现单层计算机断层扫描（CT）大腿图像上的肌肉群分割是具有挑战性的。方法：我们提出了一个具有自训练的无监督域自适应管道，将标签从3D MR转移到单个CT切片。首先，我们使用CycleGAN将图像外观从MR转换为CT，并同时将合成的CT图像馈送到分割器。基于分割器推断的伪标签的熵，将单个CT切片划分为难和易队列。在基于解剖学假设精炼容易的群组伪标签之后，应用具有容易和硬分裂的自训练来微调分割器。结果如下：在152个保留的单个CT大腿图像上，申报的管道在所有肌群（包括缝匠肌、腘绳肌、股四头肌和股薄肌）中实现了0.888（0.041）的平均Dice。结论：据我们所知，这是实现从MR到CT的大腿成像域自适应的第一条管道。所提出的管道在2D单层CT大腿图像上提取肌肉群时是有效和鲁棒的。https://github.com/MASILab/DA_CT_muscle_seg
2022-11-30 cs.CV eess.IV
Robust Character Labeling in Movie Videos: Data Resources and Self-supervised Feature Adaptation
University of Southern California（南加州大学）
鲁棒的人脸聚类是实现媒体中视觉角色刻画的计算理解的重要一步。长格式内容的人脸聚类是具有挑战性的，因为外观的变化和缺乏支持的大规模标记数据。我们在本文中的工作集中在这个问题的两个关键方面：缺乏特定领域的训练或基准数据集，以及将在Web图像上学习的人脸嵌入适应于长格式内容，特别是电影。首先，我们展示了一个包含240部好莱坞电影中超过169，000个面部轨迹的数据集，其中包含关于一对面部轨迹是否属于相同或不同角色的弱标签。我们提出了一个离线算法的基础上最近邻搜索嵌入空间挖掘这些轨道的硬例子。然后，我们研究三重损失和基于多视图相关性的方法，以适应人脸嵌入硬的例子。我们的实验结果突出了弱标记数据对特定领域特征自适应的有用性。总的来说，我们发现，基于多视图相关性的自适应产生更多的歧视性和鲁棒性的人脸嵌入。它在下游人脸验证和聚类任务上的性能与该领域的最新成果相当。我们还提出了帆船电影字符基准语料库开发，以增强现有的基准。它由不同种族的演员组成，并为后续的错误分析提供了面部质量标签。我们希望在这项工作中开发的大规模数据集可以进一步推进视频中的自动字符标记。所有资源都可以在https://sail.usc.edu/~ccmi/multiface上免费获得。
2022-02-25 cs.CV eess.IV
Source-Free Unsupervised Domain Adaptation with Norm and Shape Constraints for Medical Image Segmentation
Muroran Institute of Technology（室兰工业大学）
无监督域自适应（UDA）是解决监督学习所需的地面真值标签难以获取的关键技术之一。一般来说，UDA假设在训练过程中来自源域和目标域的所有样本都是可用的。然而，在涉及数据隐私问题的应用程序中，这不是一个现实的假设。为了克服这一限制，最近提出了无源数据的UDA，称为无源无监督域自适应（SFUDA）。在这里，我们提出了一种SFUDA方法的医学图像分割。除了熵最小化方法，这是常用的UDA，我们引入了一个损失函数，以避免在目标域的特征范数小，并保留目标器官的形状约束之前。我们使用包括多种类型的源-目标域组合的数据集进行实验，以显示我们的方法的通用性和鲁棒性。我们证实，我们的方法在所有数据集上都优于最先进的方法。
2022-09-03 cs.CV eess.IV
EfficientXpert: Efficient Domain Adaptation for Large Language Models via Propagation-Aware Pruning
Univeristy of California, Berkeley（加州大学伯克利分校）；San Francisco State University（旧金山州立大学）
EfficientXpert通过传播感知剪枝方法，实现大语言模型在领域适应中的高效压缩，达到接近密集性能的稀疏效果，同时保持训练时间和内存效率。
2026-10-06 cs.CL cs.LG
Adaptive Bi-Recommendation and Self-Improving Network for Heterogeneous Domain Adaptation-Assisted IoT Intrusion Detection
Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）；University of Chinese Academy of Sciences（中国科学院大学）；University of Macau（澳门大学）；University of New Brunswick（新不伦瑞克大学）
随着物联网设备的普及，使用入侵检测来保护物联网免受恶意入侵至关重要。然而，物联网的数据稀缺性阻碍了传统入侵检测方法的有效性。针对这一问题，本文提出了一种基于无监督异构领域自适应（HDA）的自适应双向推荐自改进网络（ABRSI）。ABRSI从数据丰富的网络入侵源域传输丰富的入侵知识，以促进数据稀缺的物联网目标域的有效入侵检测。ABRSI通过自适应双推荐匹配实现细粒度的入侵知识传递。两个推荐系统的双向推荐兴趣匹配和入侵类别在共享特征空间中的对齐形成了一个互利的循环。此外，ABRSI还采用了自改进机制，从四个方面自主改进入侵知识传递。硬伪标签投票机制联合考虑推荐系统决策和标签关系信息，以促进更准确的硬伪标签分配。为提高入侵知识传递过程中的多样性和目标数据参与度，对不能被分配硬伪标签的目标实例分配概率软伪标签，形成混合伪标签策略.与此同时，ABRSI也使得软伪标签在全球范围内多样化，并具有个体确定性。最后，利用错误知识学习机制来对抗性地利用导致检测模糊的因素，并通过当前和先前的错误知识进行学习，防止错误知识遗忘。从整体上讲，这些机制形成了ABRSI模型，通过HDA辅助的入侵知识转移来提高物联网入侵检测的准确性。
2023-03-25 cs.CR cs.CY cs.LG
Geometric Gradient Rectification for Safe Open-Set Semi-Supervised Learning
College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院）；Liangzhu Laboratory and WeDoctor Cloud（良渚实验室和微医云）；Shanghai Innovation Institute（上海创新研究院）；The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；State Key Laboratory of Transvascular Implantation Devices and TIDRI（经血管植入器械全国重点实验室和TIDRI）；Zhejiang Key Laboratory of Medical Imaging Artificial Intelligence（浙江省医学影像人工智能重点实验室）
提出几何梯度修正（GGR）框架，通过将辅助梯度投影到监督梯度的允许区域，解决开放集半监督学习中样本筛选与利用的权衡问题，提升闭集泛化与开放集鲁棒性。
2026-06-26 cs.CV cs.LG
Imbalanced Deep Learning by Minority Class Incremental Rectification
Queen Mary University of London（伦敦玛丽女王大学）；Vision Semantics Ltd.（视觉语义有限公司）
从类别不平衡的训练数据中学习模型是机器学习的一个长期而重大的挑战。特别是，现有的深度学习方法在模型训练中主要考虑类平衡数据或中度不平衡数据，而忽略了从显著不平衡的训练数据中学习的挑战。为了解决这个问题，我们制定了一个类不平衡的深度学习模型，该模型基于批量增量少数（稀疏采样）类校正，通过在模型训练期间在大多数（频繁采样）类中进行硬样本挖掘。该模型旨在通过在迭代分批学习过程中发现少数类的稀疏采样边界来最大限度地减少多数类的主导效应。为此，我们引入了一个可以在深度网络架构中轻松部署的类纠正丢失（CRL）功能。在三个不平衡的人属性基准数据集（CelebA，X-Domain，DeepFashion）和一个平衡的对象类别基准数据集（CIFAR-100）上进行了广泛的实验评估。这些实验结果表明，所提出的批量增量少数类校正模型的性能优势和模型的可扩展性，在现有的国家的最先进的模型，用于解决不平衡的数据学习的问题。
2018-04-28 cs.CV
Libri-Adapt: A New Speech Dataset for Unsupervised Domain Adaptation
University College London（伦敦大学学院）；Nokia Bell Labs（诺基亚贝尔实验室）；University of Oxford（牛津大学）
本文介绍了一个新的数据集，Libri-Adapt，支持语音识别模型的无监督域自适应研究。Libri-Adapt建立在LibriSpeech语料库之上，包含在移动和嵌入式麦克风上录制的英语语音，并跨越72个不同的领域，这些领域代表了ASR模型遇到的具有挑战性的实际场景。更具体地说，Libri-Adapt有助于研究ASR模型中由a）不同声学环境，b）扬声器口音的变化，c）麦克风硬件和平台软件的异质性，以及d）上述三种变化的组合引起的域偏移。我们还提供了一些基线结果，量化了这些域转移对Mozilla DeepSpeech 2 ASR模型的影响。
2020-09-06 cs.LG cs.SD eess.AS
