What Drives Test-Time Adaptation for CLIP? A Controlled Empirical Study from an Update Perspective
Tsinghua University（清华大学）；Shenzhen Technology University（深圳技术大学）
本文通过受控实证研究，从更新视角分析了CLIP测试时适应方法的驱动因素，揭示了适应增益主要来自测试时证据和可靠代理，而非繁重优化，并指出无单一范式普遍最优。
2026-10-14 cs.CV cs.LG
Unified Deep Supervised Domain Adaptation and Generalization
West Virginia University（西弗吉尼亚大学）
这项工作提供了一个统一的框架，用于解决视觉监督的领域自适应和推广与深度模型的问题。其主要思想是利用Siamese架构来学习具有鉴别力的嵌入子空间，并且映射的视觉域在语义上对齐，但最大限度地分离。监督设置变得有吸引力，特别是当只有很少的目标数据样本需要标记。在这种情况下，由于缺乏数据，语义概率分布的对齐和分离是困难的。我们发现，通过恢复到分布距离和相似性的逐点代理，提供了一个有效的解决方案。此外，该方法具有很高的适应速度，这需要极低数量的标记目标训练样本，甚至每个类别一个都可以是有效的。该方法被推广到领域泛化。对于这两种应用程序的实验显示出非常有前途的结果。
2017-09-28 cs.CV
Domain Adaptation for Object Detection via Style Consistency
Imperial College London（帝国理工学院）
提出了一种基于领域自适应的目标检测方法。我们介绍了一个两步的方法：第一步使检测器鲁棒性低级别的差异和第二步适应分类器的变化，在高级别的功能。对于第一步，我们使用的风格转移方法的像素自适应源图像的目标域。我们发现，在风格转换图像和源图像之间的对象检测器的高级特征中实施低距离可以提高目标域中的性能。对于第二步，我们提出了一个强大的伪标签的方法来减少噪声的积极和消极的采样。使用检测器SSD300对用arxiv：1803.11365中提出的数据集扩展的PASCAL VOC进行实验评估，其中目标域图像具有不同的风格。我们的方法显着提高了国家的最先进的性能在这个基准。
2019-11-22 cs.CV
Enhancing AI microscopy for foodborne bacterial classification via adversarial domain adaptation across optical and biological variability
Michigan State University（密歇根州立大学）；University of California, Davis（加利福尼亚大学戴维斯分校）
本研究针对传统食源性细菌检测方法的不足，提出用对抗性域适应增强AI显微分类的泛化性，比较单目标与多域适应性能，在不同光学和生物条件下提升分类准确率，为分散环境应用提供可扩展框架。
2024-11-29 cs.CV cs.LG eess.IV
Efficient Parameter Adaptation for Multi-Modal Medical Image Segmentation and Prognosis
Department of Computer Vision, Mohamed bin Zayed University of Artificial Intelligence（计算机视觉系，Mohamed bin Zayed人工智能大学）；Department of Machine Learning, Mohamed bin Zayed University of Artificial Intelligence（机器学习系，Mohamed bin Zayed人工智能大学）；Michigan State University（密歇根州立大学）；M42 Health（M42健康）
针对CT-PET数据同时依赖的瓶颈，提出参数高效多模态自适应（PEMMA）框架，通过LoRA和DoRA实现轻量级升级，在单模态训练时PET扫描Dice分数提升28%，预后一致性指数提升10%-23%。
2025-04-18 cs.CV cs.LG
Unsupervised Domain Adaptation via Discriminative Manifold Propagation
Sun Yat-Sen University（中山大学）；City University of Hong Kong（香港城市大学）
无监督领域自适应在将丰富的信息从标记的源域利用到未标记的目标域方面是有效的。虽然深度学习和对抗策略在特征适应性方面取得了重大突破，但仍有两个问题需要进一步研究。首先，在目标域上硬分配的伪标签是任意的并且容易出错，并且直接应用它们可能破坏固有的数据结构。其次，深度学习的批量训练限制了全局结构的表征。本文提出了一个黎曼流形学习框架，同时实现可迁移性和可区分性。对于第一个问题，该框架通过软标签在目标域上建立概率判别准则。基于预先建立的原型，这个标准扩展到第二个问题的全球近似计划。采用流形度量对齐，以兼容嵌入空间。推导了不同对准度量的理论误差界，用于构造性制导。所提出的方法可以用来解决一系列变种的领域自适应问题，包括香草和部分设置。大量的实验已经进行了调查的方法和比较研究显示的歧视性流形学习框架的优越性。
2020-08-23 cs.CV cs.LG stat.ML
Predictive Optimization with Zero-Shot Domain Adaptation
NEC Corporation（NEC公司）；RIKEN（理化学研究所）
zero-shot领域自适应（领域自适应）是在没有任何训练样本的情况下在一个新的域中进行预测的一项重要任务。虽然在一个新的领域的预测得到了很多关注，在本文中，我们调查的另一个潜在的CRAMDA。具体来说，我们不是在一个新的领域中预测响应，而是在给定预测的情况下找到一个新领域的描述。该任务被认为是预测优化，但现有的预测优化方法还没有扩展到处理多个域。我们提出了一个简单的框架，预测优化与CARDA和分析的条件下，优化问题成为凸优化。我们还讨论了在预测优化中如何处理域的特征之间的相互作用。通过数值实验，我们证明了我们提出的框架的潜在有用性。
2021-01-15 cs.LG stat.ML
Unsupervised Domain Adaptation via Discriminative Manifold Embedding and Alignment
Sun Yat-Sen University（中山大学）；JiaYing University（嘉应学院）；Guangzhou University（广州大学）
无监督领域自适应能够有效地利用源域到无监督目标域的丰富信息。虽然深度学习和对抗策略在特征适应性方面取得了重要突破，但还有两个问题需要进一步探讨。首先，在目标域上硬分配的伪标签对固有的数据结构是有风险的。其次，深度学习中的分批训练方式限制了对全局结构的描述。本文提出了一个黎曼流形学习框架，以实现一致的可转移性和可区分性。对于第一个问题，该方法通过软标签在目标域上建立概率判别准则。此外，该标准扩展到第二个问题的全球近似计划，这种近似也是节省内存。利用流形度量对齐与嵌入空间兼容。理论上的误差界推导出，以方便对齐。通过大量的实验对提出的一致流形学习框架进行了研究，实验结果表明了一致流形学习框架的优越性。
2020-02-28 cs.CV cs.LG stat.ML
WUDA: Unsupervised Domain Adaptation Based on Weak Source Domain Labels
Beijing University of Posts and Telecommunications（北京邮电大学）
用于语义分割的无监督领域自适应（UDA）解决了具有精细源域标签的跨域问题。然而，语义标签的获取一直是一个困难的步骤，许多场景只有弱标签（例如边界框）。针对弱监督和跨域问题并存的场景，定义了一个新的任务：基于弱源域标签的无监督领域自适应（WUDA）。为了探索这一任务的解决方案，本文提出了两个直观的框架：1）在源域中执行弱监督语义分割，然后实现无监督领域自适应; 2）使用源域数据训练目标检测模型，然后检测目标域中的对象，并实现弱监督语义分割。我们观察到，当数据集发生变化时，这两个框架的行为不同。因此，我们构建了具有大范围域移位的数据集对，并进行了扩展实验，以分析不同域移位对两个框架的影响。此外，为了度量域移位，我们首次将度量表示移位应用于城市景观图像分割。源代码和构建的数据集可在\url{https://github.com/bupt-ai-cz/WUDA}上获得。
2022-10-05 cs.CV
DASGIL: Domain Adaptation for Semantic and Geometric-aware Image-based Localization
Shanghai Jiao Tong University（上海交通大学）；Beijing Institute of Technology（北京理工大学）；University of Cambridge（剑桥大学）
由于季节、光照等因素的影响，在变化环境下的长时间视觉定位是自动驾驶和移动机器人领域的一个具有挑战性的问题，图像检索定位是解决这一问题的有效途径。在本文中，我们提出了一种新的多任务架构融合的几何和语义信息到视觉位置识别的多尺度潜在嵌入表示。为了在不需要人工干预的情况下使用高质量的地面真值，提出了有效的多尺度特征映射用于对抗训练，以实现从合成虚拟KITTI数据集到真实世界KITTI数据集的领域自适应。通过一系列关键的比较实验，在Extended CMU-Seasons数据集和Oxford RobotCar数据集上验证了所提出的方法，在具有挑战性的环境下，我们的性能优于基于检索的定位和大规模地点识别的最新基线。
2020-11-25 cs.CV
BDA-SketRet: Bi-Level Domain Adaptation for Zero-Shot SBIR
Indian Institute of Technology Bombay（印度理工学院孟买分校）；School of Informatics, The University of Edinburgh（爱丁堡大学信息学院）；University of Exeter（埃克塞特大学）；University of Tübingen（蒂宾根大学）
zero-shot sketch-based image retrieval（基于草图的图像检索）模型的有效性受到两个挑战的制约。草图和图像之间的巨大分布差距需要适当的域对齐。此外，任务的细粒度性质和许多类别的高类内方差需要草图，图像和语义空间之间的类间判别映射。在此前提下，我们提出了BDA-SketRet，一个新的BDA-SBIR框架执行一个双层次的领域自适应对齐的空间和语义特征的视觉数据对逐步。为了突出共享的功能和减少任何草图或图像特定的工件的影响，我们提出了一种新的对称损失函数的概念的基础上的信息瓶颈对齐的语义特征，而基于交叉熵的对抗性损失被引入到对齐的空间特征地图。最后，我们基于CNN的模型通过一个新的拓扑保持语义投影网络来确认共享潜在空间的区分性。在扩展的Sketchy、TU-Berlin和QuickDraw数据集上的实验结果显示出比文献有了明显的改进。
2022-01-17 cs.CV cs.IR cs.LG
Visual Prompt Tuning for Test-time Domain Adaptation
Rutgers University（罗格斯大学）；Amazon Web Services（亚马逊云科技）
模型应该能够在测试期间适应看不见的数据，以避免在实际部署场景中不可避免的分布偏移导致的性能下降。在这项工作中，我们解决了实际而具有挑战性的测试时自适应（TTA）问题，其中模型适应目标域，而无需访问源数据。我们提出了一个简单的配方称为\textit{Data-efficient Prompt Tuning}（DePT）与两个关键成分。首先，DePT将视觉提示插入到视觉Transformer中，并且仅在自适应期间调谐这些源初始化的提示。我们发现这种参数有效的微调可以有效地适应模型表示的目标域，而不会过度拟合的噪声在学习目标。其次，DePT通过基于存储体的在线伪标记将源表示引导到目标域。专门为提示设计的分层自监督正则化被联合优化，以减轻自训练期间的错误积累。由于可调参数少得多，DePT不仅在主要自适应基准VisDA-C、ImageNet-C和DomainNet-126上表现出最先进的性能，而且还具有卓越的数据效率，即，与100%数据相比，仅具有1%或10%数据的自适应没有太多性能降级。此外，DePT也是通用的，可以扩展到在线或多源TTA设置。
2022-11-30 cs.CV
Using Simulation and Domain Adaptation to Improve Efficiency of Deep Robotic Grasping
Google Brain（谷歌大脑）
检测和收集带注释的视觉抓取数据集以训练现代机器学习算法可能非常耗时且昂贵。另一种有吸引力的方法是使用现成的模拟器来渲染合成数据，自动生成地面实况注释。不幸的是，纯粹基于模拟数据训练的模型往往无法推广到现实世界。我们研究如何随机模拟环境和领域自适应方法可以扩展到训练抓系统，抓住新的对象从原始单目RGB图像。我们广泛地评估了我们的方法，总共超过25，000次物理测试掌握，研究了一系列模拟条件和领域自适应方法，包括像素级领域自适应的新扩展，我们称之为GraspGAN。我们表明，通过使用合成数据和领域自适应，我们能够减少所需的真实世界的样本数量，以达到给定的性能水平的50倍，只使用随机生成的模拟对象。我们还表明，通过仅使用未标记的真实世界数据和我们的GraspGAN方法，我们在没有任何真实世界标签的情况下获得了与939，777个标记的真实世界样本相似的真实世界抓取性能。
2017-09-25 cs.AI cs.CV cs.LG
Source-free unsupervised domain adaptation for cross-modality abdominal multi-organ segmentation
The Chinese University of Hong Kong（香港中文大学）；University of Leicester（莱斯特大学）
在腹部多器官分割中，领域自适应是将知识从源标记CT数据集转移到目标未标记MR数据集的关键。同时，避免与目标数据集相关的高注释成本并保护源数据集隐私是非常可取的。因此，我们提出了一种有效的无源无监督领域自适应方法，用于跨模态腹部多器官分割，而无需源数据集访问。拟议的框架包括两个阶段。在第一阶段中，结合熵最小化的特征地图几何学引导的模型自适应被开发以帮助顶部分割网络可靠地分割目标图像。从顶部分割网络输出的伪标签用于引导风格补偿网络生成源图像。从中间分割网络输出的伪标签用于监督所需模型（底部分割网络）的学习进度。在第二阶段，循环学习和像素自适应掩模细化用于进一步提高所需的模型性能。使用这种方法，我们取得了令人满意的腹部多器官分割性能，优于现有的国家的最先进的领域自适应方法。所提出的方法可以很容易地扩展到目标注释数据存在的情况。只有一个标记的MR卷，性能可以与监督学习的性能持平。此外，该方法被证明是有效的无源无监督领域自适应在反向。
2022-05-28 cs.CV
Multi-Target Domain Adaptation with Collaborative Consistency Learning
Tsinghua University（清华大学）；Noah’s Ark Lab, Huawei Technologies（华为技术有限公司诺亚方舟实验室）；Dalian University of Technology（大连理工大学）；Peking University（北京大学）
近年来，无监督的领域自适应的语义分割任务已经变得越来越流行，由于高成本的像素级注释的现实世界的图像。然而，大多数领域自适应方法仅限于单源单目标对，不能直接扩展到多个目标域。在这项工作中，我们提出了一个协作学习框架，以实现无监督的多目标领域自适应。首先为每个源-目标对训练无监督的领域自适应专家模型，并进一步鼓励通过在不同目标领域之间建立的桥梁相互协作。这些专家模型通过添加正则化来进一步改进，该正则化对具有相同结构化上下文的每个样本进行一致的像素级预测。为了获得跨多个目标领域工作的单个模型，我们建议同时学习一个学生模型，该模型不仅被训练为模仿每个专家在相应目标领域的输出，而且还通过对权重进行正则化来使不同的专家彼此接近。大量的实验表明，该方法可以有效地利用丰富的结构化信息包含在标记的源域和多个未标记的目标域。它不仅在多个目标域上表现良好，而且与在单个源-目标对上专门训练的最先进的无监督领域自适应方法相比也表现良好
2021-06-07 cs.CV
Can We Teach Computers to Understand Art? Domain Adaptation for Enhancing Deep Networks Capacity to De-Abstract Art
人类一眼就能理解自然景物;画家和其他视觉艺术家通过他们的抽象表现，将这种能力强调到了极限。在许多视觉识别问题上，计算机视觉解决方案的性能与人类不相上下。在本文中，我们解决了使用卷积神经网络（CNN）识别数字化绘画中的流派（主题）的问题，作为更一般的处理场景的抽象和/或艺术表现的一部分。最初，我们通过从头开始训练CNN来建立最先进的性能。在下一级评估中，我们确定了阻碍CNN识别的方面，例如艺术抽象。此外，我们测试了各种领域自适应方法，可以提高CNN的主题识别能力。评估是在一个有80 000幅带注释的数字化绘画的数据库上进行的，该数据库暂时还增加了艺术照片，无论是原创的还是风格化的，以模仿艺术表现。令人惊讶的是，最有效的领域自适应不是神经风格转移。最后，本文提供了一个基于实验的评估CNN能够达到的抽象水平。
2017-12-11 cs.CV
Cross-Domain Structure Preserving Projection for Heterogeneous Domain Adaptation
Department of Computer Science, Durham University（达勒姆大学计算机科学系）
异构领域自适应（HDA）解决了迁移学习问题，其中来自源和目标领域的数据具有不同的模态（例如，文本和图像）或特征尺寸（例如，用不同方法提取的特征）。这对于多模态数据分析是有用的。传统的领域自适应算法假设源样本和目标样本的表示位于同一特征空间，因此很可能无法解决异构领域自适应问题。当代国家的最先进的HDA方法通常是由复杂的优化目标的有利的性能，因此是计算昂贵的和较难推广。为了解决这些问题，我们提出了一种新的跨域结构保持投影（CDSPP）算法的HDA。作为经典LPP到异构域的扩展，CDSPP旨在学习特定于域的投影，将源域和目标域的样本特征映射到公共子空间，从而保持类一致性并充分对齐数据分布。CDSPP是简单的，并通过求解广义特征值问题具有确定性的解决方案。它自然适用于监督HDA，但也已扩展为半监督HDA，其中未标记的目标域样本可用。在HDA的常用基准数据集（即NIC-Caltech，Multilingual Reuters Collection，NUS-WIDE-ImageNet）上进行了广泛的实验，以及我们首次为HDA引入的NIC-Home数据集，因为它的类数量明显多于现有的数据集（65 vs 10，6和8）。监督和半监督HDA的实验结果表明，我们提出的方法对当代国家的最先进的方法的优越性能。
2021-10-09 cs.CV cs.LG stat.ML
SuperCM: Improving Semi-Supervised Learning and Domain Adaptation through differentiable clustering
Department of Physics and Technology（物理与技术系）；Norwegian Computing Center（挪威计算中心）；Pioneer Centre for AI（人工智能先锋中心）
本文提出SuperCM，通过显式引入可微聚类模块并利用有监督数据计算质心，以端到端方式改进半监督学习和无监督域自适应，在低监督场景下表现突出，既可独立使用也可作为正则化器。
2025-07-18 cs.CV
Universal Domain Adaptation Benchmark for Time Series Data Representation
Univ Rouen Normandie, INSA Rouen Normandie, Normandie Univ, LITIS UR 4108（鲁昂大学、INSA鲁昂、诺曼底大学、LITIS UR 4108）
本文提出通用时间序列数据表示领域适应基准，评估不同模型在不同领域中的鲁棒性和泛化能力，强调backbone选择对性能的影响。
2025-05-23 cs.LG
Learning-based Regularization for Cardiac Strain Analysis with Ability for Domain Adaptation
Yale University（耶鲁大学）；Northeastern University（东北大学）；University of Washington（华盛顿大学）
使用3D+时间超声心动图（4DE）进行可靠的运动估计和应变分析，用于心肌损伤的定位和表征，对于早期检测和靶向干预具有价值。然而，运动估计是困难的，由于低信噪比，源于固有的图像属性的4DE，和智能正则化是至关重要的，以产生可靠的运动估计。在这项工作中，我们将领域自适应的概念纳入监督神经网络正则化框架。我们首先提出了一个无监督的自动编码器网络与生物力学的约束，学习一个潜在的表示，被证明有更多的生理上合理的位移。我们扩展了这个框架，包括一个监督损失项的合成数据和生物力学约束的影响，网络的领域自适应的能力。我们验证了自动编码器和半监督正则化方法在体内数据与植入声测微计。最后，我们展示了我们的半监督学习正则化方法使用估计的区域应变图识别梗死区域的能力，与从死后切除的心脏手动追踪的梗死区域具有良好的一致性。
2018-07-12 cs.CV
Theoretic Analysis and Extremely Easy Algorithms for Domain Adaptive Feature Learning
Tencent AI Lab（腾讯人工智能实验室）；Xidian University（西安电子科技大学）；Northwestern Polytechnical University（西北工业大学）；Hong Kong Polytechnic University（香港理工大学）；University of Texas at Arlington（德克萨斯大学阿灵顿分校）
领域自适应问题出现在各种应用中，其中来自\textit{source}域的训练数据集和来自\textit{target}域的测试数据集通常遵循不同的分布。设计有效的学习模型来解决这些问题的主要困难在于如何弥合源分布和目标分布之间的差距。在本文中，我们提供了全面的分析功能学习算法结合线性分类器的领域自适应。我们的分析表明，为了实现良好的自适应性能，源域分布和目标域分布的二阶矩应该是相似的。基于我们的新分析，提出了一种新的非常容易的领域自适应特征学习算法。此外，我们的算法通过利用多个层进行扩展，从而形成深度线性模型。我们评估所提出的算法的有效性方面的领域自适应任务的亚马逊审查数据集和垃圾邮件数据集的ECML/PKDD 2006年发现的挑战。
2017-08-10 cs.LG
Self-Distillation for Unsupervised 3D Domain Adaptation
University of Bologna（博洛尼亚大学）
点云分类是三维视觉中的一项重要任务。然而，以前的作品，通常假设点云在测试时获得相同的程序或传感器在训练时。相反，无监督领域自适应（UDA）打破了这一假设，并试图解决一个未标记的目标域上的任务，只利用一个有监督的源域。对于点云分类，最近的UDA方法试图通过辅助任务（如点云重建）跨域对齐特征，但这并没有优化特征空间中目标域的区分能力。相比之下，在这项工作中，我们专注于获得一个判别特征空间的目标域之间的点云和它的增强版本执行一致性。然后，我们提出了一种新的迭代自训练方法，该方法利用UDA上下文中的图神经网络来改进伪标签。我们进行了大量的实验，并设置了新的国家的最先进的标准UDA基准点云分类。最后，我们展示了我们的方法可以扩展到更复杂的任务，如部分分割。
2022-10-15 cs.CV
Cross-Domain Label Propagation for Domain Adaptation with Discriminative Graph Self-Learning
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Nanjing University of Science and Technology（南京理工大学）
领域自适应设法将良好标记的源数据的知识转移到未标记的目标数据。许多最近的努力集中在提高目标伪标记的预测准确性以减少条件分布偏移。本文提出了一种新的领域自适应方法，该方法通过跨领域标签传播来推断目标伪标签，从而可以探索两个领域数据的底层流形结构。与现有的跨域标签传播方法不同，将域不变特征学习，亲和矩阵构建和目标标签推断分为三个独立的阶段，我们建议将它们集成到一个统一的优化框架中。通过这种方式，这三个部分可以从迭代优化的角度相互促进，从而实现更有效的知识转移。此外，为了构造高质量的亲和矩阵，提出了一种判别图自学习策略，该策略不仅能够自适应地捕获两个领域数据的内在相似性，而且能够有效地利用良好标记的源数据和伪标记的目标数据中所包含的判别信息.设计了一个有效的迭代优化算法来求解我们提出的目标函数。值得注意的是，所提出的方法可以以简单但有效的方式扩展到半监督领域自适应，并且可以用相同的算法来解决相应的优化问题。在六个标准数据集上的实验验证了该方法在无监督和半监督领域自适应环境下的显著优越性。
2023-02-17 cs.LG
Domain Adaptation of Synthetic Driving Datasets for Real-World Autonomous Driving
Robert Bosch Corporate Research（博世企业研究院）；KLA（科磊）；Birla Institute of Technology and Science, Pilani（皮拉尼比特拉技术与科学学院）
在开发基于感知的深度学习模型时，合成数据的好处是巨大的。然而，由于它们之间的域差距，在对真实世界数据进行测试时，针对某些计算机视觉任务使用合成数据训练的网络的性能显着下降。在弥合合成数据和实际世界数据之间的差距方面，一个流行的解决方案是将其框定为领域自适应任务。在本文中，我们提出并评估新的方法来改善这种方法。特别是，我们建立在团结的方法。在域转换任务的正常GAN训练中，随机完成来自两个域（即真实域和合成域）的图像配对。我们提出了一种新的方法来有效地将语义监督纳入到这种对选择中，这有助于提高模型的性能，同时提高这种转换图像的视觉质量。我们说明了我们的实证研究结果城市景观\cite{cityscapes}和具有挑战性的合成数据集Synscapes。虽然这些调查结果是在全球联盟的基础网络上报告的，但它们可以很容易地扩展到任何其他类似的网络。
2023-02-08 cs.CV
Unsupervised Transductive Domain Adaptation
Stanford University（斯坦福大学）；Cornell University（康奈尔大学）；Brain of Things
大规模标记数据集和深层模型的监督学习在学习和识别的不同领域实现了范式转变。然而，这种方法在训练和测试数据分布之间存在域转移的情况下仍然存在泛化问题。在这方面，已经提出了无监督域自适应算法来直接解决域移位问题。在本文中，我们从转换的角度来探讨这个问题。我们将域转移和转导目标推理到我们的框架，通过联合解决一个不对称的相似性度量和最佳的转导目标标签分配。我们还表明，我们的模型可以很容易地扩展到深度特征学习，以学习在目标域中具有区分性的特征。我们的实验表明，该方法显着优于国家的最先进的算法在对象识别和数字分类实验的大幅度提高。
2016-03-25 cs.LG stat.ML
Beyond Domain Adaptation: Unseen Domain Encapsulation via Universal Non-volume Preserving Models
University of Science, Vietnam（越南科学大学）；Concordia University（康考迪亚大学）；University of Arkansas（阿肯色大学）；University of Illinois（伊利诺伊大学）
跨域识别最近已成为研究界的一个活跃话题。然而，在新的未知领域的识别问题中，它在很大程度上被忽视了。在这种情况下，交付的深度网络模型无法更新，调整或微调。因此，不能应用最近的深度学习技术，例如：领域自适应、特征转移和微调。针对深度学习背景下的领域泛化问题，提出了一种新的通用非体积保持方法。所提出的方法可以很容易地与端到端深度网络设计中的任何其他ConvNet框架相结合，以提高性能。在数字识别方面，我们对四个流行的数字识别数据库，即MNIST，USPS，SVHN和MNIST-M进行了基准测试。该方法还进行了实验上的人脸识别扩展Yale-B，CMU-PIE和CMU-MPIE数据库和其他国家的最先进的方法进行比较。在行人检测问题中，我们根据经验观察到，所提出的方法学习模型，提高了先验未知数据分布的性能。
2018-12-09 cs.CV
Learning to Match Distributions for Domain Adaptation
ICT, CAS（中国科学院计算技术研究所）；Microsoft Research（微软研究院）；Zhejiang University（浙江大学）
当训练数据和测试数据来自不同的分布时，需要进行领域自适应以减小数据集偏差，提高模型的泛化能力。由于难以直接匹配跨域联合分布，现有方法倾向于使用预定义的距离（诸如MMD和基于对抗性的差异）来减小边缘或条件分布发散。然而，确定哪种方法适用于给定的应用程序仍然具有挑战性，因为它们是以某些先验或偏差构建的。因此，他们可能无法揭示可转移特征和联合分布之间的潜在关系。本文提出了学习匹配（L2 M）自动学习跨域分布匹配，而不依赖于手工制作的匹配损失的先验知识。相反，L2 M通过使用元网络以数据驱动的方式学习分布匹配损失来减少电感偏差。L2 M是一个通用的框架，它统一了任务无关和人类设计的匹配功能。我们设计了一种新的优化算法，这个具有挑战性的目标与自我监督标签传播。在公开数据集上的实验证实了L2 M方法优于SOTA方法。此外，我们将L2 M应用于从肺炎到COVID-19胸部X射线图像的转换，性能卓越。L2 M还可以扩展到其他分布匹配应用程序中，我们在试验实验中表明，L2 M可以生成更逼真，更清晰的MNIST样本。
2020-07-27 cs.CV cs.LG stat.ML
Domain-Specific Batch Normalization for Unsupervised Domain Adaptation
Seoul National University（首尔国立大学）；POSTECH（浦项科技大学）
提出了一种基于深度神经网络中特定领域批量归一化的无监督领域自适应框架。我们的目标是通过专门化卷积神经网络中的批量归一化层来适应这两个领域，同时允许它们共享所有其他模型参数，这是通过两阶段算法实现的。在第一阶段，我们估计伪标签的例子在目标领域使用外部无监督的领域自适应算法-例如，MPERANT或CPUA-集成建议的特定领域的批量归一化。第二阶段使用源域和目标域的多任务分类损失来学习最终模型。请注意，这两个域在两个阶段中都有单独的批量归一化层。我们的框架可以很容易地结合到基于深度神经网络的领域自适应技术与批量归一化层。我们还提出，我们的方法可以扩展到多个源域的问题。该算法在多个基准数据集上进行了评估，并在标准设置和多源域适应场景中达到了最先进的精度。
2019-05-27 cs.AI cs.LG stat.ML
Learning Transferable Parameters for Unsupervised Domain Adaptation
Shandong University（山东大学）
无监督领域自适应（UDA）使学习机能够在分布偏移的情况下从标记的源域适应到未标记的域。由于深度神经网络的强大表示能力，UDA最近取得的显着成就依赖于学习域不变特征。直观地说，希望一个好的特征表示，加上从源域学习的假设，可以很好地推广到目标域。然而，领域不变特征和源假设的学习过程不可避免地涉及特定领域的信息，这将降低UDA模型在目标领域的泛化能力。在本文中，出于彩票假设，只有部分参数是必不可少的推广，我们发现，只有部分参数是必不可少的学习域不变的信息和推广以及在UDA。这些参数称为可传递参数。相比之下，其他参数往往适合特定领域的细节，往往无法概括，我们称之为不可转移的参数。基于这一认识，本文提出了可转移参数学习（TransPar）方法，以减少领域特定信息在学习过程中带来的副作用，从而增强对领域不变信息的记忆。具体地说，我们根据分布差异程度，在每次训练迭代中将所有参数分为可传递和不可传递。然后，我们为这两种类型的参数执行单独的更新规则。对图像分类和回归任务（关键点检测）的大量实验表明，TransPar的性能优于现有技术的非平凡的利润。此外，实验表明，transPar可以集成到最流行的深度UDA网络，并很容易扩展到处理任何数据分布偏移的情况。
2021-08-13 cs.AI cs.CV cs.LG
Continual Test-Time Adaptation in Computer Vision: Methods, Benchmarks, and Future Directions
The University of Texas at Dallas（德克萨斯大学达拉斯分校）；LIVIA ETS Montreal, ILLS International Laboratory on Learning Systems (ILLS)（蒙特利尔LIVIA ETS，学习系统国际实验室（ILLS））；Tulane University（路易斯安那州立大学）；Nanyang Technological University（南洋理工大学）；Hanyang University（翰阳大学）
本文针对计算机视觉中训练与测试数据分布不同的问题，定义CTTA问题，分析持续域转移模式，提出分层分类法将现有方法分为三类，回顾代表性方法并展示实验结果，讨论局限性与新兴方向，为持续测试时间适应研究提供路线图。
2026-08-24 cs.CV
ViLAaD: Enhancing "Attracting and Dispersing'' Source-Free Domain Adaptation with Vision-and-Language Model
NTT Communications Corporation（NTT通信公司）；Tokyo Metropolitan University（东京都立大学）
本文提出ViLAaD方法，通过将视觉-语言模型作为强大初始化整合进“吸引与分散”无源域自适应框架，显著提升了目标自适应性能，并在多种SFDA场景下达到最先进水平。
2025-03-30 cs.CV
AH-OCDA: Amplitude-based Curriculum Learning and Hopfield Segmentation Model for Open Compound Domain Adaptation
School of Electrical Engineering, KAIST（韩国科学技术院电气工程学院）
针对开放复合域适应中标签缺失问题，提出 AH-OCDA，利用 FFT 振幅课程学习和 Hopfield 分割模型实现跨域特征对齐，并在多个基准上达到最优性能。
2024-12-03 cs.AI cs.CV
Tracking Different Ant Species: An Unsupervised Domain Adaptation Framework and a Dataset for Multi-object Tracking
Monash University（莫纳什大学）；Macquarie University（麦考瑞大学）
针对蚂蚁集体行为追踪难题，提出基于联合检测与跟踪的域自适应多目标跟踪框架，并构建含57个视频序列的新数据集，实验证明多层级域自适应显著提升跟踪性能。
2023-05-16 cs.CV
One-Class Domain Adaptation via Meta-Learning
Vienna University of Technology（维也纳工业大学）；Ludwig Maximilian University of Munich（慕尼黑大学）；Siemens AG（西门子公司）
针对一类域适应问题，提出基于元学习的OC-DA MAML算法，通过任务采样策略实现跨域快速适应，在基准和真实数据集上显著优于标准MAML。
2025-01-22 cs.LG
DA4Event: towards bridging the Sim-to-Real Gap for Event Cameras using Domain Adaptation
Politecnico di Torino（都灵理工大学）；Istituto Italiano di Tecnologia（意大利技术研究院）；Politecnico di Milano（米兰理工大学）
事件相机是一种新型的生物传感器，它以“事件”的形式异步捕获像素级的强度变化。与标准设备相比，它们获取数据的创新方式具有多项优势，尤其是在光线不足和高速运动的条件下。然而，这些传感器的新颖性导致缺乏能够充分释放其潜力的大量训练数据。研究人员解决这个问题的最常见方法是利用模拟事件数据。然而，这种方法带来了一个开放的研究问题：模拟数据如何推广到真实数据？为了回答这个问题，我们建议利用，在基于事件的背景下，最近的领域自适应（DA）在传统的计算机视觉的进展，表明DA技术应用于事件数据有助于减少模拟到真实的差距。为此，我们提出了一种新的架构，我们称之为多视图DA 4 E（MV-DA 4 E），更好地利用基于帧的事件表示的特点，同时也促进域不变特征。通过大量的实验，我们证明了DA方法和MV-DA 4 E在N-Caltech 101上的有效性。此外，我们通过对流行的RGB-D对象数据集（ROD）进行跨域分析，验证了它们在现实世界中的可靠性，并将其扩展到事件模态（RGB-E）。
2021-10-29 cs.CV
CoSA: Compressed Sensing-Based Adaptation of Large Language Models
Department of Computer Science, University of Texas at Dallas, Richardson, United States（计算机科学系，德克萨斯大学达拉斯分校，理查德森，美国）
CoSA基于压缩感知理论提出了一种新的参数高效微调方法，通过固定随机投影矩阵和紧凑可学习核心实现高效且表达性强的多尺度模型适应。
2026-02-11 cs.AI cs.LG
PAGE: Domain-Incremental Adaptation with Past-Agnostic Generative Replay for Smart Healthcare
Princeton University（普林斯顿大学）
PAGE是一种面向智能医疗的域增量适应策略，通过过去无关的生成重放实现知识保留，并集成扩展归纳共形预测提供统计保证，在三个疾病数据集上达到先进性能，并减少75%临床工作量。
2024-03-13 cs.AI cs.LG
FLoCoRA: Federated learning compression with low-rank adaptation
IMT Atlantique（IMT大西洋大学）；Hubert Curien Laboratory（于贝尔·居里安实验室）；Mines Saint-Etienne（圣埃蒂安矿业学院）
本文提出FLoCoRA，将LoRA应用于联邦学习从零训练小模型，显著降低通信成本（最高18.6倍）且准确率损失小于1%，并减少训练内存需求。
2024-06-20 cs.LG eess.SP
GALA: A GlobAl-LocAl Approach for Multi-Source Active Domain Adaptation
School of Artificial Intelligence, Sun Yat-Sen University（中山大学人工智能学院）；National Supercomputing Center in Shenzhen（深圳国家超算中心）；Tsinghua Shenzhen International Graduate School（清华大学深圳国际研究生院）；Ministry of Education Key Laboratory for Earth System Modeling（教育部地球系统模拟关键实验室）；Department of Earth System Science（地球系统科学系）
提出GALA策略，结合全局k均值聚类与局部选取标准，解决多源主动域自适应中的类间多样性和域变化问题，仅用1%目标标注即可达到全监督性能。
2025-10-25 cs.AI cs.CV
SLAM: Structured and Localized Analytic Manifold Adaptation for Forgetting-Immune and Domain-Robust Lifelong VPR
Department of Mechanical Engineering, Faculty of Engineering, University of Fukui（日本福井大学工学部机械工学科）
研究终身视觉位置识别中连续适应新环境且无灾难性遗忘的问题，提出SLAM框架，统一多种方法为闭式解析递归，消融研究表明其组合达高精度，还能通过正则参数调节精度与抗干扰平衡。
2026-07-28 cs.CV cs.RO
MTS-CycleGAN: An Adversarial-based Deep Mapping Learning Network for Multivariate Time Series Domain Adaptation Applied to the Ironmaking Industry
Paul Wurth S.A.（保尔沃斯公司）
在当前时代，越来越多的机器学习模型被生成用于工业过程的自动化。为此，使用每个单个资产的历史数据来训练机器学习模型，从而导致基于资产的模型的开发。为了将机器学习模型提升到更高的学习能力水平，领域自适应为从组合在一起的多个资产中提取相关模式打开了大门。在这项研究中，我们专注于将特定的基于资产的历史数据（源域）转换为对应于一个参考资产（目标域）的数据，从而创建训练域不变通用机器学习模型所需的多资产全局数据集。本研究旨在将领域自适应应用于炼铁工业，特别是通过收集来自不同高炉的数据来创建领域不变数据集。高炉数据具有多变量时间序列的特征。多元时间序列数据的领域自适应在文献中尚未得到广泛的研究。我们提出了MTS-CycleGAN，基于CycleGAN的多变量时间序列数据的算法。据我们所知，这是CycleGAN首次应用于多变量时间序列数据。我们的贡献是在CycleGAN架构中集成了一个基于长短期记忆（LSTM）的自动编码器（AE），用于生成器和一个堆叠的基于LSTM的编码器，以及专用的扩展特征提取机制。MTS-CycleGAN使用两个人工数据集进行验证，嵌入反映高炉过程的变量之间的复杂时间关系。MTS-CycleGAN成功地学习了两个人工多变量时间序列数据集之间的映射，允许从源数据集到目标人工高炉数据集的有效转换。
2020-07-15 cs.LG stat.ML
On the Learnability of Test-Time Adaptation: A Recovery Complexity Perspective
Zhi Zhou（周智）；Ming Yang（杨明）；Shi-Yu Tian（田世宇）；Kun-Yang Yu（于坤阳）；Lan-Zhe Guo（郭兰哲）；Yu-Feng Li（李宇峰）
本文提出首个理论框架，通过引入(ε,δ)-恢复复杂性和(ε,ρ)-TTA可学习性，研究非平稳流下测试时自适应的可学习性，并揭示自适应-信息权衡。
2026-06-09 cs.AI cs.LG
Predicting Onflow Parameters Using Transfer Learning for Domain and Task Adaptation
German Aerospace Center (DLR) - Institute of Aerodynamics and Flow Technology, Center for Computer Applications in AeroSpace Science and Engineering（德国航空航天中心（DLR）- 流体力学与流动技术研究所，航空科学与工程计算机应用中心）；German Aerospace Center (DLR) - Institute of Aerodynamics（德国航空航天中心（DLR）- 流体力学与流动技术研究所）；Flow Technology, Center for Computer Applications in AeroSpace Science（流动技术，航空科学计算机应用中心）
针对来流参数预测中数据分布变化和任务变化问题，提出基于ConvNet的迁移学习方法，通过冻结部分层并重训选定层实现域适应和任务适应，实验验证了其有效性。
2025-05-26 cs.LG physics.flu-dyn
SKADA-Bench: Benchmarking Unsupervised Domain Adaptation Methods with Realistic Validation On Diverse Modalities
École Polytechnique, IP Paris, CMAP, UMR 7641（巴黎理工学院）；Université Paris-Saclay, Inria, CEA（巴黎萨克雷大学）；Inria（法国国家信息与自动化技术研究院）；CEA（法国原子能机构）；Centre Borelli, ENS Paris-Saclay（巴黎-萨克雷大学博雷利中心）；Università degli Studi di Genova（热那亚大学）；Inria, Univ. Rennes 2, CNRS, IRISA（法国国家信息与自动化技术研究院、里昂二大学、法国国家科学研究中心、IRISA）
SKADA-bench提出了一个多模态无监督域适应方法的公平评估框架，通过嵌套交叉验证实现真实超参数选择，并提供了模型选择方法的实用指导。
2025-10-07 cs.AI cs.LG stat.ME
PoliTO-IIT-CINI Submission to the EPIC-KITCHENS-100 Unsupervised Domain Adaptation Challenge for Action Recognition
Politecnico di Torino（都灵理工大学）；Istituto Italiano di Tecnologia（意大利理工学院）；Consortium Cini（CINI联盟）
在本报告中，我们描述了我们提交EPIC-Kitchen-100无监督领域自适应（UDA）行动识别挑战赛的技术细节。为了解决在UDA设置下存在的域转移，我们首先利用了最近的领域泛化（DG）技术，称为相对范数对齐（RNA）。其次，我们将这种方法扩展到处理未标记的目标数据，从而使模型能够以无监督的方式更简单地适应目标分布。为此，我们在我们的框架中包含了UDA算法，例如多级对抗对齐和注意熵。通过分析挑战设置，我们注意到在数据中存在二次并发偏移，这通常被称为环境偏差。它是由不同环境的存在造成的，即，厨房为了处理这两个转变（环境和时间），我们扩展了我们的系统，以执行多源多目标领域自适应。最后，我们在最终提案中采用了不同的模型，以利用流行视频架构的潜力，并为集成自适应引入了两个额外的损失。我们提交的作品（“plnet”条目）在排行榜上可见，“动词”排名第二，“名词”和“动作”排名第三。
2022-09-09 cs.CV
Domain Adaptation for Semantic Segmentation via Patch-Wise Contrastive Learning
EPFL（洛桑联邦理工学院）；Magic Leap；Amazon（亚马逊）
我们介绍了一种新的方法，无监督和半监督领域自适应语义分割。与许多早期依赖对抗学习进行特征对齐的方法不同，我们利用对比学习通过跨领域对齐结构相似的标签补丁的特征来弥合领域差距。因此，网络更易于训练并提供更好的性能。我们的方法在两个具有挑战性的域自适应分割任务上始终优于最先进的无监督和半监督方法，特别是在少量目标域注释的情况下。它也可以自然地扩展到弱监督的领域自适应，其中只有微小的准确性下降可以节省高达75%的注释成本。
2021-04-22 cs.CV
Hierarchically Learned View-Invariant Representations for Cross-View Action Recognition
由于不同视图中的巨大外观变化，从不同视图中识别人类动作具有挑战性。这个问题的关键是学习判别式视图不变表示，以及跨视图推广。在本文中，我们解决了这个问题，通过学习视图不变的表示分层使用一种新的方法，称为联合稀疏表示和分布自适应（JSRDA）。为了获得鲁棒和信息丰富的特征表示，我们首先将样本亲和矩阵纳入边缘化堆栈去噪自动编码器（mSDA）以获得共享特征，然后将其与私有特征相结合。为了使视频的特征表示跨视图可转移，我们然后从在不同视图拍摄的视频对中同时学习可转移的字典对，以鼓励每个动作视频跨视图具有相同的稀疏表示。然而，跨视图的分布差异仍然存在，因为当视图差异较大时，可能不存在其中跨视图的一个动作的稀疏表示相同的统一子空间。因此，我们提出了一种新的无监督分布自适应方法，该方法学习一组投影，将源视图和目标视图数据投影到相应的低维子空间中，同时减少边缘和条件分布差异。因此，最终学习的特征表示是视图不变的，并且即使视图差异很大，也对视图之间的实质性分布差异具有鲁棒性。在四个多视图数据集上的实验结果表明，我们的方法优于最先进的方法。
2019-09-18 cs.CV
Online Continual Domain Adaptation for Semantic Image Segmentation Using Internal Representations
University of Southern California（南加州大学）
提出一种在线无监督域自适应算法，通过高斯混合模型近似源特征分布并在共享空间最小化分布距离，解决了源数据受限时图像语义分割的跨域泛化问题。
2024-01-02 cs.CV
PoliTO-IIT Submission to the EPIC-KITCHENS-100 Unsupervised Domain Adaptation Challenge for Action Recognition
Politecnico di Torino（都灵理工大学）；Istituto Italiano di Tecnologia（意大利技术研究院）
在本报告中，我们描述了我们提交EPIC-Kitchen-100无监督领域自适应（UDA）行动识别挑战赛的技术细节。为了解决在UDA设置下存在的域转移，我们首先利用了最近的领域泛化（DG）技术，称为相对范数对齐（RNA）。它包括设计一个能够很好地推广到任何看不见的领域的模型，而不管在训练时访问目标数据的可能性。然后，在第二阶段，我们将该方法扩展到处理未标记的目标数据，使模型能够以无监督的方式适应目标分布。为此，我们在我们的框架中包括现有的UDA算法，如时间注意对抗适应网络（TA 3 N），以及新的多流一致性损失，即时间硬范数对齐（T-HNA）和最小熵一致性（MEC）。我们提交的作品（“plnet”条目）在排行榜上可见，它获得了“动词”的第一名，以及“名词”和“动作”的第三名。
2021-07-01 cs.CV
Multimodal Foundation Models Adaptation based on Domain-Aware Relaxed Orthogonal Subspace for Remote Sensing
Wuhan University（武汉大学）
针对遥感域偏移下预训练模型低秩适配的子空间失配问题，提出域感知松弛正交子空间适配（DROS），通过数据条件子空间学习与松弛正交变换实现高效适配，并扩展至多模态，在多个遥感基准上达到最优性能。
2026-09-15 cs.CV
Ev-TTA: Test-Time Adaptation for Event-Based Object Recognition
Seoul National University（首尔国立大学）
我们介绍了Ev-TTA，一个简单，有效的测试时自适应算法，基于事件的对象识别。虽然事件摄像机被提出来提供具有快速运动或剧烈照明变化的场景的测量，但许多现有的基于事件的识别算法在极端条件下由于显著的域偏移而遭受性能恶化。Ev-TTA通过在测试阶段使用受事件的时空特性启发的损失函数微调预训练的分类器来减轻严重的域间隙。由于事件数据是测量的时间流，因此我们的损失函数对相邻事件实施类似的预测，以快速适应在线变化的环境。此外，我们利用事件的两个极性之间的空间相关性来处理极端照明下的噪声，其中不同极性的事件表现出独特的噪声分布。Ev-TTA在广泛的基于事件的对象识别任务上表现出大量的性能增益，而无需大量的额外训练。我们的公式可以成功地应用，无论输入表示，并进一步扩展到回归任务。我们期望Ev-TTA提供关键技术，以部署基于事件的视觉算法在具有挑战性的现实世界中的应用，显着的域转移是不可避免的。
2022-03-28 cs.CV
Unsupervised Domain Adaptation Network with Category-Centric Prototype Aligner for Biomedical Image Segmentation
School of Medical Imaging, Xuzhou Medical University（徐州医科大学医学影像学院）；The Hong Kong Polytechnic University（香港理工大学）
随着深度学习在生物医学图像分割中的广泛成功，域偏移成为一个关键且具有挑战性的问题，因为当部署到具有异构特征的不可见数据时，两个域之间的差距会严重影响模型性能。为了缓解这个问题，我们提出了一种新的无监督领域自适应网络，用于将从标记的源域学习到未标记的目标域的模型推广到跨模态生物医学图像分割。具体来说，我们的方法包括两个关键模块，一个条件域对齐器~（CDD）和一个以类别为中心的原型对齐器~（CCPA）。CDD是在分类器任务中从条件域对抗网络扩展而来的，在处理复杂的跨模态生物医学图像时是有效和鲁棒的。CCPA是在跨领域目标检测中基于图的原型对齐机制的基础上改进而来的，它通过一种精细的原型表示来挖掘精确的实例级特征。此外，它还可以通过基于熵的损失来解决类不平衡的负面影响。在心脏子结构分割任务的公共基准上进行的大量实验表明，我们的方法显着提高了目标域的性能。
2021-03-03 cs.CV
Multi-modal Speech Emotion Recognition via Feature Distribution Adaptation Network
School of Computer and Control Engineering, Yantai University（烟台大学计算机与控制工程学院）；Business School, Xuzhou University of Technology（徐州工程学院商学院）；College of Computer Science, Nankai University（南开大学计算机学院）；Southeast University（东南大学）
针对多模态语音情感识别问题，提出一种基于特征分布适配网络的深度归纳迁移学习框架，通过ResNet-34提取多模态特征、交叉注意力建模特征关系及局部最大均值差异损失优化分布适配，在两个基准数据集上取得了优于现有模型的性能。
2024-11-02 cs.CV cs.MM
Joint Distribution Alignment via Adversarial Learning for Domain Adaptive Object Detection
Fudan University（复旦大学）
无监督域自适应目标检测的目标是将训练好的检测器从具有丰富标记数据的原始源域调整到具有未标记数据的新目标域。最近，主流方法通过对抗学习来执行这项任务，但仍然受到两个限制。首先，它们主要通过无监督的跨域特征匹配来对齐边缘分布，而忽略了每个特征的分类和位置信息，这些信息可以用于条件对齐;其次，它们将所有类视为跨域知识传递的同等重要性，而忽略了不同类通常具有不同的可传递性。在本文中，我们提出了一个联合自适应检测框架（JADF），以解决上述挑战。首先，提出了一种用于目标检测的端到端联合对抗自适应框架，该框架在不引入任何额外超参数的情况下对齐域之间的边缘分布和条件分布。其次，考虑到每个对象类的可转移性，提出了一个度量类的可转移性评估，这是纳入领域自适应的JADF目标。此外，从无监督域自适应（UDA）到无监督Few-Shot领域自适应（UFDA）的扩展研究进行，其中只有少数未标记的训练图像在未标记的目标域。大量的实验验证了JADF在UDA和UFDA设置中都是有效的，与现有的最先进的跨域检测方法相比，实现了显着的性能增益。
2022-03-15 cs.CV
