Geometric Moment Alignment for Domain Adaptation via Siegel Embeddings
Department of Computer Science University of Helsinki（计算机科学系 哈尔滨大学）
本文提出一种基于Siegel嵌入的几何矩对齐方法，利用黎曼距离在SPD流形上同时对齐源域和目标域的一阶与二阶矩，以改进无监督域自适应，并在图像去噪和分类任务上验证了有效性。
2025-10-16 cs.LG
Resilient Practical Test-Time Adaptation: Soft Batch Normalization Alignment and Entropy-driven Memory Bank
HKUST（香港科技大学）；NVIDIA（英伟达）；NUDT（国防科技大学）
针对测试时自适应中目标域分布变化、非独立同分布样本导致的模型退化问题，提出ResiTTA方法，结合弹性批量归一化软对齐与熵驱动记忆库，经多基准验证实现当前最优性能。
2024-01-26 cs.LG
GLA-DA: Global-Local Alignment Domain Adaptation for Multivariate Time Series
Sun Yat-Sen University（中山大学）；National University of Singapore（新加坡国立大学）
针对时间序列标注成本高、现有域适应方法易导致类别分布混淆的问题，提出结合全局特征对抗对齐与局部类别伪标签对齐的GLA-DA方法，在无监督和半监督域适应场景下均取得优于现有方法的性能。
2024-10-09 cs.LG
CASUAL: Conditional Support Alignment for Domain Adaptation with Label Shift
VinAI Research（VinAI研究院）
本文提出CASUAL方法，通过最小化源域与目标域条件特征分布的支持散度，并基于新的目标风险界优化训练，有效解决了标签偏移下的无监督域自适应问题。
2024-12-29 cs.LG
One Size does not Fit All: Heterogeneous Latent Space Alignment for Unsupervised Domain Adaptation
Duke University（杜克大学）；National Technical University of Athens（雅典国家技术大学）
提出ADualVUOT框架，结合双编码器VAE与连续归一化流增强潜在表达，利用非平衡最优传输（GGW距离）对齐域，并引入对抗增强提升鲁棒性，在医学图像分割中优于现有方法。
2026-06-23 cs.LG
Dynamic Weighted Learning for Unsupervised Domain Adaptation
Chongqing University（重庆大学）；School of Microelectronics and Communication Engineering（微电子与通信工程学院）
无监督领域自适应（UDA）的目的是利用来自完全标记的源域的信息来提高未标记目标域的分类性能。最近的方法探索域不变和类判别表示来解决这个任务。然而，这些方法忽略了领域对齐学习和类别区分学习之间的相互作用。因此，域对齐和类歧视之间的缺失或不充分的权衡容易产生负迁移问题。本文提出了动态加权学习（DWL）方法，以避免过度对齐学习导致的区分度消失问题和过度判别学习导致的领域错位问题。在技术上，DWL通过引入对齐度和区分度，动态地对对齐和区分度的学习损失进行加权。此外，在我们的工作中，首先考虑到跨域的样本不平衡的问题，我们解决了这个问题，通过加权的样本，以保证跨域的信息平衡。大量的实验表明，DWL具有良好的性能在几个基准数据集。
2021-03-22 cs.LG
Time-Series Domain Adaptation via Sparse Associative Structure Alignment: Learning Invariance and Variance
Guangdong University of Technology（广东工业大学）；Peng Cheng Laboratory（鹏城实验室）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
时间序列数据的领域自适应在工业界经常遇到，但在学术界受到的关注有限。现有的时间序列数据的领域自适应方法大多借鉴了非时间序列数据的方法来提取域不变表示。然而，时间序列数据的两个特殊困难尚未解决。1)对不同时间戳之间的域不变和复杂依赖进行建模不是一个简单的任务。2)域变量信息很重要，但如何利用它们几乎没有得到充分利用。幸运的是，不同领域之间因果结构的稳定性激发了我们探索时间序列数据背后的结构。基于这一启发，我们研究了域不变的非加权稀疏联想结构和结构的域变强度。为了实现这一目标，我们提出了稀疏关联结构对齐通过学习不变性和方差（SASA-IV），一个模型，同时对齐不变的未加权的备用关联结构，并考虑时间序列无监督领域自适应的变化信息。技术上，我们提取域不变的未加权稀疏关联结构与单向对齐的限制，并通过一个精心设计的自回归模块嵌入域变量的强度。实验结果不仅证明了我们的模型在三个真实世界的数据集上产生了最先进的性能，而且还提供了一些关于知识转移的有见地的发现。
2022-05-07 cs.LG
Time Series Domain Adaptation via Sparse Associative Structure Alignment
Guangdong University of Technology（广东工业大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；Pazhou Lab（琶洲实验室）
时间序列数据的领域自适应是一项重要而又具有挑战性的任务。这一领域的大多数现有工作都是基于在MMD等限制的帮助下学习数据的域不变表示。然而，由于时间戳之间的复杂依赖性，这种域不变表示的提取对于时间序列数据来说是一项重要的任务。具体地说，在完全相关的时间序列中，时滞或偏移量的微小变化可能导致域不变量提取的困难。幸运的是，因果关系的稳定性启发我们探索数据的域不变结构。为了降低因果结构发现的难度，将因果结构放宽到稀疏关联结构，提出了一种新的用于领域自适应的稀疏关联结构对齐模型。首先，我们生成的段集，以排除障碍的偏移。其次，设计了变量内和变量间稀疏注意力机制，提取考虑时滞的关联结构时间序列数据。最后，使用关联结构对齐来引导知识从源域到目标域的转移。实验研究不仅验证了我们的方法在三个真实世界的数据集上的良好性能，而且还提供了一些有见地的发现转移的知识。
2021-06-17 cs.LG
Generation, augmentation, and alignment: A pseudo-source domain based method for source-free domain adaptation
Nanjing University（南京大学）
传统的无监督领域自适应（UDA）方法需要同时访问标记的源样本和未标记的目标样本来训练模型。而在某些情况下，由于数据隐私和安全性，源样本不可用于目标域。为了克服这一挑战，近年来，无源领域自适应（SFDA）引起了研究人员的注意，其中既有训练的源模型和未标记的目标样本。现有的SFDA方法要么采用基于伪标签的策略，要么产生更多的样本。然而，这些方法没有显式地减少跨域的分布偏移，这是良好自适应的关键。虽然没有源样本可用，但幸运的是，我们发现一些目标样本与源域非常相似，可以用来近似源域。该近似域被表示为伪源域。在本文中，受此观察的启发，我们提出了一种新的方法的基础上的伪源域。该方法首先生成并扩展伪源域，然后采用基于伪标签策略的四种新损失的分布对齐。其中，在伪源域和剩余目标域之间引入域对抗损失，以减小分布偏移。在三个真实数据集上的实验结果验证了该方法的有效性。
2021-09-09 cs.LG
Structural Alignment Improves Graph Test-Time Adaptation
Georgia Tech（佐治亚理工学院）；UIUC（伊利诺伊大学香槟分校）
本文提出结构对齐方法，通过在推理时调整图结构来提升图测试时间适应性能，无需重新训练，有效应对分布偏移问题。
2026-05-10 cs.LG
Covariance-aware Feature Alignment with Pre-computed Source Statistics for Test-time Adaptation to Multiple Image Corruptions
本文提出CAFe方法，通过协方差感知特征对齐解决多类型图像损坏的测试时适应问题，提升模型在多种损坏下的适应能力。
2023-06-29 cs.LG
Domain Adaptation with Asymmetrically-Relaxed Distribution Alignment
Carnegie Mellon University（卡内基梅隆大学）
当生成我们的测试数据的目标分布偏离源（训练）分布时，领域自适应解决了常见的问题。当缺少假设时，领域自适应是不可能的，严格的条件，例如协变量或标签偏移，使有原则的算法成为可能。最近提出的领域对抗方法包括对齐源和目标编码，通常激励这种方法在目标误差的理论范围内最小化两个（三个）项。不幸的是，这种最小化可能会导致第三项的任意增加，例如，它们可能会在不断变化的标签分布下崩溃。我们提出了非对称放松分布对齐，一种新的方法，克服了标准域对抗算法的一些限制。此外，我们描述了精确的假设，根据这些假设，我们的算法在理论上是有原则的，并在合成数据集和真实数据集上证明了经验优势。
2019-03-11 cs.LG stat.ML
Co-regularized Alignment for Unsupervised Domain Adaptation
MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）；IBM Research（IBM研究院）；MIT（麻省理工学院）
使用大量标记数据训练的深度神经网络在使用来自分布与训练数据分布不同的\emph{target domain}（称为\emph{source domain}）的示例进行测试时可能无法很好地泛化。在所有可能的域中获得所需数量的标记数据可能是昂贵的，甚至是不可行的。无监督领域自适应开始解决这个问题，旨在使用来自源域的标记示例而仅使用来自目标域的未标记示例来学习目标域的良好预测模型。域对齐通过匹配源和目标特征分布来解决这个问题，并且已经被用作许多最先进的领域自适应方法中的关键组成部分。然而，匹配边缘特征分布并不能保证相应的类条件分布将在两个域中对齐。我们提出了无监督领域自适应的共正则化域对齐，它构建了多个不同的特征空间，并分别对齐每个特征空间中的源和目标分布，同时鼓励对齐在未标记目标示例的类预测方面彼此一致。所提出的方法是通用的，可以用来改善任何领域自适应方法，使用域对齐。我们实例化它的背景下，最近的国家的最先进的方法，并观察到它提供了显着的性能改进的几个领域自适应基准。
2018-11-13 cs.LG stat.ML
Uncertainty-Guided Alignment for Unsupervised Domain Adaptation in Regression
EPFL（洛桑联邦理工学院）；Intelligent Maintenance and Operations Systems（智能维护与运营系统（机构））
本文提出不确定性引导对齐（UGA），将证据深度学习预测的不确定性融入特征对齐过程，以解决回归任务无监督域自适应中传统特征对齐失效和特征坍缩问题，并在多个基准上取得优于现有方法的性能。
2024-11-21 cs.CV cs.LG
Adversarial Alignment of Class Prediction Uncertainties for Domain Adaptation
Radboud University（拉德堡德大学）；TNO（荷兰应用科学研究组织）；Open University（开放大学）
我们考虑无监督域自适应：给定源域的标记示例和相关目标域的未标记示例，目标是推断目标示例的标签。在来自预训练的深度神经网络的特征可跨相关域转移的假设下，域自适应简化为在类别预测不确定性水平上对齐源域和目标域。我们通过引入一种基于对抗学习的方法来解决这个问题，该方法迫使目标域上的标签不确定性预测与源域上的标签不确定性预测无法区分。使用预先训练的深度神经网络来生成具有跨相关域的高可转移性的深度特征。我们在大量公开的预训练深度神经网络上对所提出的方法进行了广泛的实验分析。我们在图像分类领域自适应任务上的实验结果表明，类预测不确定性与从预训练的深度神经网络中提取的特征对齐，为领域自适应提供了一种高效、鲁棒和有效的方法。
2019-01-04 cs.LG stat.ML
Unsupervised Domain Adaptation via Regularized Conditional Alignment
University of California, Los Angeles（加州大学洛杉矶分校）
我们提出了一种无监督的领域自适应方法，该方法训练共享嵌入来对齐输入（域）和输出（类）的联合分布，使任何分类器对域不可知。联合对齐确保不仅域的边缘分布对齐，而且标签也对齐。我们提出了一个新的目标函数，鼓励类条件分布在特征空间中有不相交的支持。我们进一步利用对抗正则化来提高分类器在没有注释数据的域上的性能。
2019-05-26 cs.CV cs.LG stat.ML
Quantum subspace alignment for domain adaptation
Institute of Fundamental and Frontier Sciences, University of Electronic Science and Technology of China（电子科技大学基础与前沿研究院）
域自适应（DA）用于自适应地获得具有给定相关但不同标记的数据集的未处理数据集的标签。子空间对齐（SA）是一种典型的DA算法，它试图找到一个线性变换来对齐两个不同数据集的子空间。在对齐的标记数据集上训练的分类器可以被转移到未标记的数据集以预测目标标签。在本文中，两个量子版本的SA被提出来实现量子设备上的DA过程。一种方法，量子子空间对齐算法（QSA），在给定的样本的数量和维度上实现了二次加速。另一种方法，变分量子子空间排列算法（VQSA），可以通过变分混合量子经典过程在近期量子器件上实现。在不同类型数据集上的数值实验结果表明，与相应的经典算法相比，VQSA具有较好的性能。
2020-06-29 cs.LG quant-ph
Visual Domain Adaptation with Manifold Embedded Distribution Alignment
Institute of Computing Technology, CAS（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Tsinghua University（清华大学）
视觉领域自适应旨在通过利用来自源领域的知识来学习目标领域的鲁棒分类器。现有的方法要么试图对齐跨域分布，或执行流形子空间学习。然而，存在两个显著的挑战：（1）退化特征变换，这意味着通常在原始特征空间中执行分布对齐，其中特征失真难以克服。另一方面，子空间学习不足以减少分布发散。(2)未评估的分布对齐，这意味着现有的分布对齐方法仅对齐具有相等重要性的边缘分布和条件分布，而它们在实际应用中未能评估这两种分布的不同重要性。在本文中，我们提出了一个流形嵌入分布对齐（MEDA）的方法来解决这些挑战。MEDA在Grassmann流形上学习一个具有结构风险最小化的域不变分类器，同时执行动态分布对齐以定量地说明边缘分布和条件分布的相对重要性。据我们所知，MEDA是第一次尝试执行动态分布对齐流形领域自适应。大量实验表明，与最先进的传统和深度方法相比，MEDA在分类准确性方面表现出显着提高。
2018-07-28 cs.CV cs.LG
Contrastively Smoothed Class Alignment for Unsupervised Domain Adaptation
Duke University（杜克大学）；Microsoft Dynamics 365 AI Research（微软Dynamics 365人工智能研究院）；Microsoft Research（微软研究院）
最近的领域自适应的无监督方法主要集中在通过改进特征生成器来最小化源域和目标域之间的间隙，以便学习两个域之间的更好对齐。这种最小化可以通过域分类器来实现，以检测与源域特征不同的目标域特征。然而，通过这种域分类差异进行优化，往往会错过在低维数据流形上不平滑分布的模糊目标样本。为了解决这个问题，我们提出了一种新的对比平滑类对齐（CoSCA）模型，显式地结合了类内和类间域的差异，以更好地对齐模糊的目标样本与源域。CoSCA估计目标样本的潜在标签假设，同时通过优化建议的对比损失来适应它们的特征表示。此外，最大平均离散度（MMD）被用来直接匹配源和目标样本之间的特征，以更好的全局对齐。在几个基准数据集上的实验表明，CoSCA可以通过产生更多的判别特征来优于最先进的无监督领域自适应方法。
2020-10-06 cs.LG stat.ML
Domain Alignment Meets Fully Test-Time Adaptation
Arizona State University（亚利桑那州立大学）；Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）
已部署ML模型的一个基本要求是泛化到从与训练不同的测试分布中提取的数据。这个问题的一个流行的解决方案是只使用未标记的数据将预训练的模型适应新的领域。在本文中，我们专注于这个问题的一个具有挑战性的变种，在访问原始源数据是有限的。虽然完全测试时自适应（FTTA）和无监督领域自适应（UDA）密切相关，但UDA的进步并不容易适用于TTA，因为大多数UDA方法需要访问源数据。因此，我们提出了一种新的方法，CATTan，桥梁UDA和FTTA，通过放松需要访问整个源数据，通过一种新的深子空间对齐策略。CATTan以最小的开销存储源数据的子空间基集，在自适应过程中实现了源数据和目标数据之间的无监督对齐。通过对多个2D和3D视觉基准测试（ImageNet-C，Office-31，CumberHome，DomainNet，PointDA-10）和模型架构进行广泛的实验评估，我们证明了FTTA性能的显着提高。此外，我们对对齐目标的实用性做出了一些重要的发现，即使在目标域中具有固有的鲁棒模型，预训练的ViT表示和低样本可用性的情况下。
2022-07-09 cs.CV cs.LG
Temporal Attentive Alignment for Video Domain Adaptation
Georgia Institute of Technology（佐治亚理工学院）
虽然近年来已经提出了各种基于图像的领域自适应（DA）技术，但视频中的域偏移仍然没有得到很好的探索。大多数以前的作品只评估小规模数据集的饱和性能。因此，我们首先提出了一个具有更大域差异的更大规模数据集：UCF-HMDB_full。其次，我们研究了不同的DA集成方法的视频，并表明，同时对齐和学习时间动态实现有效的对齐，即使没有复杂的DA方法。最后，我们提出了时间注意对抗适应网络（TA 3 N），它明确地注意到使用域差异的时间动态，以实现更有效的域对齐，在三个视频DA数据集上实现了最先进的性能。代码和数据在http://github.com/cmhungsteve/TA3N上发布。
2019-06-07 cs.CV cs.LG cs.MM
Geometry-aware Domain Adaptation for Unsupervised Alignment of Word Embeddings
Microsoft（微软）
我们提出了一种新的基于流形的几何方法，用于学习源语言和目标语言之间的词嵌入的无监督对齐。我们的方法制定的对齐学习问题作为一个领域自适应问题的双随机矩阵的流形。这一观点的出发点是为了使两个语言空间的二阶信息一致。双随机流形的丰富的几何允许采用有效的黎曼共轭梯度算法的建议制定。经验上，所提出的方法优于国家的最先进的最佳运输为基础的方法上的双语词典归纳任务在几个语言对。对于距离较远的语言对，性能的改善更为显著。
2020-04-20 cs.CL cs.LG stat.ML
Quantum correlation alignment for unsupervised domain adaptation
University of Electronic Science and Technology of China（电子科技大学）
相关对齐（Correlation alignment，CORAL）是一种典型的域自适应（domain adaptation，DA）算法，将标记的源域数据集与未标记的目标域数据集解相关并对齐，以最小化域偏移，使得分类器可以被应用于预测目标域标签。在本文中，我们通过两种不同的方法在量子器件上实现了CORAL。一种方法是利用量子基本线性代数子程序（QBLAS）来实现CORAL，在给定数据样本的数量和维度上具有指数加速。另一种方法是通过变分混合量子经典过程。此外，CORAL与三种不同类型的数据集，即合成数据，合成虹膜数据，手写数字数据的数值实验，我们的工作的性能进行了评估。仿真结果表明，变分量子相关对准算法（VQCORAL）与经典的CORAL相比，具有很好的性能。
2021-06-03 cs.LG quant-ph
Source-free Domain Adaptation via Distributional Alignment by Matching Batch Normalization Statistics
The University of Tokyo（东京大学）；RIKEN（理化学研究所）
在本文中，我们提出了一种新的领域自适应方法的无源设置。在这种情况下，我们无法在自适应过程中访问源数据，而给出了未标记的目标数据和用源数据预训练的模型。由于缺乏源数据，我们不能像典型的领域自适应算法那样直接匹配域之间的数据分布。为了解决这个问题，我们建议利用存储在预训练模型中的批量归一化统计数据来近似未观察到的源数据的分布。具体来说，我们在自适应过程中固定模型的分类器部分，只微调剩余的特征编码器部分，以便编码器提取的特征的批量归一化统计数据与存储在固定分类器中的特征相匹配。此外，我们还最大化特征和分类器输出之间的互信息，以进一步提高分类性能。实验结果表明，我们的方法实现了竞争力的性能与国家的最先进的领域自适应方法，即使它不需要访问源数据。
2021-01-19 cs.CV cs.LG
Progressive Feature Alignment for Unsupervised Domain Adaptation
Xiamen University（厦门大学）；Tencent AI Lab（腾讯人工智能实验室）
无监督领域自适应（UDA）将知识从标签丰富的源域转移到完全无标签的目标域。为了解决这个问题，最近的方法诉诸歧视性域转移凭借伪标签，以执行跨源和目标域的类级分布对齐。然而，这些方法容易受到错误累积的影响，因此无法保持跨域类别的一致性，因为伪标记的准确性没有明确的保证。在本文中，我们提出了渐进式特征对齐网络（PFAN），通过利用目标域中的类内变化，逐步有效地跨域对齐区分特征。具体来说，我们首先开发了一个简单到困难的转移策略（EHTS）和一个自适应原型对齐（APA）步骤来迭代和交替地训练我们的模型。此外，在观察到一个良好的领域自适应通常需要一个非饱和的源分类器，我们认为一个简单而有效的方法来延迟源分类损失的收敛速度，进一步涉及到软最大值函数的温度变量。大量的实验结果表明，所提出的PFAN超过了三个UDA数据集上的最先进的性能。
2019-05-19 cs.CV cs.LG
Joint Semantic Domain Alignment and Target Classifier Learning for Unsupervised Domain Adaptation
JD AI Research（京东人工智能研究院）；University of Science and Technology of China（中国科学技术大学）；Nanjing University（南京大学）
无监督领域自适应的目的是以无监督的方式将从源域学习到的分类器转移到目标域。在目标伪标签的帮助下，对齐类级分布和学习目标域中的分类器是两个广泛使用的目标。现有的方法往往分别优化这两个单独的目标，这使得他们遭受的忽视其他。然而，将这两个方面一起优化并不是微不足道的。为了缓解上述问题，我们提出了一种新的方法，以整体的方式联合优化语义域对齐和目标分类器学习。联合优化机制既可以消除它们的弱点，又可以实现它们的优势互补。理论分析也验证了联合优化机制的优越性。在基准数据集上的大量实验表明，与现有的无监督领域自适应方法相比，该方法具有最好的性能。
2019-06-10 cs.LG stat.ML
Attention-based Class-Conditioned Alignment for Multi-Source Domain Adaptation of Object Detectors
ETS Montreal（蒙特利尔理工学院）；Ericsson Canada（爱立信加拿大）；GAIA Montreal（蒙特利尔GAIA机构）；LIVIA（LIVIA实验室）；ILLS（ILLS机构）
针对目标检测多源域自适应中类别无关对齐效果差、原型类对齐受伪标签噪声和类别不平衡影响的问题，提出结合注意力模块与对抗域分类器的类别条件对齐方法，性能优于前沿方法且对类别不平衡鲁棒。
2024-12-11 cs.CV cs.LG
Revisiting Deep Subspace Alignment for Unsupervised Domain Adaptation
Arizona State University（亚利桑那州立大学）；Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）
无监督领域自适应（UDA）旨在将知识从标记的源领域转移和适应到未标记的目标领域。传统上，基于子空间的方法形成了这一问题的重要一类解决方案。尽管这些方法在数学上很优雅，也很容易处理，但在复杂的真实世界数据集上，这些方法在产生域不变特征时往往是无效的。受深度网络表示学习的最新进展的启发，本文重新审视了UDA的子空间对齐的使用，并提出了一种新的自适应算法，该算法始终能够提高泛化能力。与现有的基于对抗训练的DA方法相比，我们的方法隔离了特征学习和分布对齐步骤，并利用主-辅助优化策略来有效地平衡域不变性和模型保真度的目标。虽然提供了一个显着减少目标数据和计算的要求，我们的子空间为基础的DA执行竞争力，有时甚至优于国家的最先进的方法在几个标准的UDA基准。此外，子空间对齐导致本质上良好的正则化模型，即使在具有挑战性的部分DA设置中也表现出很强的泛化能力。最后，我们的UDA框架的设计本质上支持在测试时逐步适应新的目标域，而不需要从头开始重新训练模型。总之，由强大的特征学习器和有效的优化策略提供动力，我们建立了基于子空间的DA作为一种高效的视觉识别方法。
2022-01-05 cs.CV cs.LG
Bridging Modalities via Progressive Re-alignment for Multimodal Test-Time Adaptation
本文提出BriMPR框架，通过分治策略解决多模态测试时适应中的模态间分布偏移和语义对齐问题，通过提示调优和跨模态对比学习提升多模态特征对齐效果。
2025-12-18 cs.CV cs.LG
SALT: Subspace Alignment as an Auxiliary Learning Task for Domain Adaptation
Arizona State University（亚利桑那州立大学）；Lawrence Livermore National Labs（劳伦斯利弗莫尔国家实验室）
无监督领域自适应的目的是将从标记的源领域学习到的知识转移和适应到未标记的目标领域。无监督域自适应的关键组件包括：（a）最大化目标性能，以及（b）对齐源域和目标域。传统上，这些任务要么被认为是独立的，要么被认为是隐式地与高容量的特征提取器一起解决的。当单独考虑时，对齐通常被视为对齐数据分布的问题，通过几何方法（如子空间对齐）或通过分布对齐（如最佳传输）。本文提出了一种混合的方法，我们假设简化的数据几何形状的子空间的形式，并考虑对齐作为辅助任务的主要任务，最大限度地提高性能的源。通过利用子空间形式的易处理的数据几何，对齐变得相当简单。我们协同地允许从封闭形式的辅助解决方案中导出的某些参数受到来自主要任务的梯度的影响。所提出的方法是一个独特的融合几何和基于模型的对齐与梯度从数据驱动的主要任务。我们的方法称为SALT，是一个简单的框架，在多个标准基准测试中达到了可比的或有时优于最先进的水平。
2019-12-19 cs.CV cs.LG stat.ML
Joint Domain Alignment and Discriminative Feature Learning for Unsupervised Deep Domain Adaptation
Zhejiang University（浙江大学）
最近，计算机视觉和机器学习社区的深度领域自适应已经投入了相当大的努力。然而，大多数现有的工作只集中在学习共享的特征表示，通过最小化不同领域的分布差异。由于所有的磁畴对齐方法都只能减少而不能消除磁畴偏移。目标域样本分布在聚类边缘附近或远离其对应的类中心，很容易被从源域学习的超平面误分类。为了缓解这个问题，我们提出了联合域对齐和判别特征学习，这可能有利于域对齐和最终分类。提出了基于实例的鉴别特征学习方法和基于中心的鉴别特征学习方法，这两种方法都保证了域不变特征具有更好的类内紧致性和类间可分性。大量的实验表明，在共享特征空间中学习区分性特征可以显著提高深度领域自适应方法的性能。
2018-11-03 cs.CV cs.LG stat.ML
SEA++: Multi-Graph-based High-Order Sensor Alignment for Multivariate Time-Series Unsupervised Domain Adaptation
School of Electrical and Electronic Engineering, Nanyang Technological University, Singapore（新加坡南洋理工大学电气与电子工程学院）；School of Computer Science and Engineering, Nanyang Technological University, Singapore（新加坡南洋理工大学计算机科学与工程学院）
针对多变量时间序列无监督域自适应（MTS-UDA）中传感器分布差异被忽略的问题，提出SEA和SEA++方法，通过内特征对齐和外特征对齐在局部和全局传感器级别减少域差异，并在公共数据集上达到最先进性能。
2023-11-17 cs.AI cs.LG
Feature Alignment by Uncertainty and Self-Training for Source-Free Unsupervised Domain Adaptation
Samsung SDS Technology Research（三星SDS技术研究院）；Seoul National University of Science and Technology（首尔国立科技大学）
大多数无监督领域自适应（UDA）方法假设在模型自适应过程中标记的源图像是可用的。然而，由于保密问题或移动设备的内存限制，这种假设往往是不可行的。一些最近开发的方法不需要在适应过程中的源图像，但他们表现出有限的性能扰动图像。为了解决这些问题，我们提出了一种新的无源UDA方法，该方法仅使用预训练的源模型和未标记的目标图像。我们的方法通过结合数据增强来捕获任意的不确定性，并使用两个一致性目标来训练特征生成器。鼓励特征生成器学习远离头部分类器的决策边界的一致视觉特征。因此，适应模型变得对图像扰动更鲁棒。受自监督学习的启发，我们的方法促进了预测空间和特征空间之间的空间对齐，同时在特征空间内结合了空间内的一致性，以减少源域和目标域之间的域间隙。我们还考虑了认知不确定性，以提高模型的适应性能。在流行的UDA基准数据集上的大量实验表明，所提出的无源方法与普通UDA方法相当，甚至优于普通UDA方法。此外，当输入图像受到扰动时，自适应模型显示出更鲁棒的结果。
2023-03-16 cs.CV cs.LG
Simulation-to-Reality domain adaptation for offline 3D object annotation on pointclouds with correlation alignment
Navya（Navya公司）
在自动驾驶感知系统中，用LiDAR点云中的3D边界框注释对象是一个昂贵的人工驱动过程。在本文中，我们提出了一种方法来半自动注释部署车辆使用模拟数据收集的真实世界的点云。我们训练一个三维物体检测器模型标记的模拟数据从CARLA与现实世界的点云从我们的目标车辆。监督目标检测损失与CORAL损失项增加，以减少标记的模拟和未标记的真实点云特征表示之间的距离。这里的目标是学习对模拟（标记）和真实世界（未标记）目标域不变的表示。我们还提供了一个更新的调查领域自适应方法的点云。
2022-02-26 cs.CV cs.LG
Joint Distribution Alignment for Universal Domain Adaptation
School of Software Engineering, South China University of Technology（华南理工大学软件工程学院）；School of Future Technology, South China University of Technology（华南理工大学未来技术学院）；College of Computer Science, Chongqing University（重庆大学计算机学院）
本文针对通用域适应（UniDA）场景，推导其泛化误差上界，提出JAUA算法并结合渐进式伪标签方法，在6个公开图像数据集上验证了该算法的优越性。
2026-08-26 cs.CV cs.LG
Deep CORAL: Correlation Alignment for Deep Domain Adaptation
University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校）；Boston University（波士顿大学）
深度神经网络能够从大量标记的输入数据中学习强大的表示，但是它们不能总是很好地概括输入分布的变化。已经提出了领域自适应算法来补偿由于域移位而导致的性能下降。在本文中，我们解决的情况下，目标域是未标记的，需要无监督的适应。CORAL是一种“简单得令人沮丧”的无监督领域自适应方法，它将源和目标分布的二阶统计与线性变换对齐。在这里，我们扩展CORAL来学习一个非线性变换，该变换可以调整深度神经网络（Deep CORAL）中层激活的相关性。在标准基准数据集上的实验显示了最先进的性能。
2016-07-06 cs.AI cs.CV cs.LG
Partial Domain Adaptation without Domain Alignment
Nanjing University of Aeronautics and Astronautics（南京航空航天大学）
无监督领域自适应（UDA）的目的是将知识从一个良好标记的源域转移到一个不同但相关的未标记的目标域，具有相同的标签空间。目前，解决UDA的主要工具是域对齐，这已经被证明是成功的。然而，通常很难找到具有相同标签空间的适当源域。更实际的情况是所谓的部分领域自适应（PDA），其中源标签集或空间包含目标标签集或空间。不幸的是，在PDA中，由于源域中不相关类别的存在，很难获得完美的对齐，从而导致模式坍塌和负转移。虽然已经通过降低不相关源类别的权重做出了一些努力，但是所使用的策略往往是繁重和危险的，因为确切地不相关类别是未知的。这些挑战促使我们寻找一种相对简单的替代方案来解决PDA。为了实现这一点，我们首先提供了一个彻底的理论分析，这说明了目标风险是有界的模型平滑度和域间差异。考虑到PDA求解中的完全对齐困难，我们转而关注模型的平滑性，而放弃风险较大的域对齐，以增强模型的适应性。具体来说，我们实例化的模型平滑作为一个相当简单的域内结构保持（IDSP）。据我们所知，这是第一次天真的尝试，以解决PDA没有域对齐。最后，我们在多个基准数据集上的实证结果表明，IDSP不仅在某些基准上明显优于PDA SOTA（例如，Cl->Rw上+10%，Ar->Rw上+8%），而且与标准UDA中的结构域对齐互补
2022-12-12 cs.CV cs.LG
A3: Active Adversarial Alignment for Source-Free Domain Adaptation
Oklahoma State University（俄克拉荷马州立大学）
针对无源无监督域适应中伪标签噪声大、分布偏移难处理的问题，提出结合自监督、对抗训练与主动学习的A3框架，通过主动采样、对抗损失与一致性正则化实现无源数据的分布对齐，提升域适应效果。
2024-10-07 cs.AI cs.CV cs.LG
Implicit Class-Conditioned Domain Alignment for Unsupervised Domain Adaptation
Imagia（Imagia公司）；Dalhousie University（达尔豪斯大学）；Mila, Université de Montréal（蒙特利尔大学米拉研究所）；Polish Academy of Sciences（波兰科学院）
我们提出了一种无监督的领域自适应方法-从类条件域对齐的角度出发，重点关注域内类不平衡和域间类分布偏移的实际考虑。当前的类条件域对齐方法的目标是显式地最小化基于目标域的伪标签估计的损失函数。然而，这些方法遭受错误累积形式的伪标记偏差。我们提出了一种方法，消除了显式优化的模型参数直接从伪标签的需要。相反，我们提出了一种基于采样的隐式对齐方法，其中样本选择过程是隐式地由伪标签引导的。理论分析揭示了在错位类中存在领域对抗捷径，提出的隐式对齐方法可以解决这个问题，以促进领域对抗学习。实验结果和消融研究证实了该方法的有效性，特别是在存在域内类不平衡和域间类分布偏移的情况下。
2020-06-09 cs.CV cs.LG stat.ML
Lyapunov-Guided Self-Alignment: Test-Time Adaptation for Offline Safe Reinforcement Learning
Seoul National University（首尔国立大学）
本文提出SAS框架，通过自对齐机制在不重新训练的情况下实现离线安全强化学习的测试时适应，利用Lyapunov条件筛选可行轨迹并生成上下文提示，提升安全性与性能。
2026-04-29 cs.AI cs.LG
Surprisingly Simple Semi-Supervised Domain Adaptation with Pretraining and Consistency
Boston University（波士顿大学）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）
大多数现代无监督领域自适应（UDA）方法都植根于领域对齐，即，学习对齐源和目标特征以使用源标签来学习目标域分类器。在半监督领域自适应（SSDA）中，当学习器可以访问很少的目标领域标签时，现有方法遵循UDA理论使用领域对齐进行学习。我们表明，SSDA的情况是不同的，一个好的目标分类器可以学习，而不需要对齐。我们使用自监督预训练（通过旋转预测）和一致性正则化来实现良好分离的目标聚类，帮助学习低错误目标分类器。通过我们的预训练和一致性（PAC）方法，我们在这个半监督领域自适应任务上实现了最先进的目标准确性，超越了多个数据集上的多个对抗性领域对齐方法。PAC虽然使用简单的技术，但在大型且具有挑战性的SSDA基准测试（如DomainNet和Visda-17）上表现非常出色，经常以相当大的幅度超过最新的技术水平。我们的实验代码可以在https://github.com/venkatesh-saligrama/PAC上找到
2021-11-26 cs.CV cs.LG
Domain Adaptation for Robust Workload Level Alignment Between Sessions and Subjects using fNIRS
Tufts University（塔夫茨大学）
针对fNIRS数据跨会话和受试者的域偏移问题，提出使用G-W和FG-W两种域适应方法进行工作负荷水平对齐，实验证明其性能显著优于SVM、CNN和RNN等监督方法。
2020-11-30 cs.CV cs.LG q-bio.NC
STAG: Structural Test-time Alignment of Gradients for Online Adaptation
Seoul National University, Seoul, Republic of Korea；Division of Artificial Intelligence \& Software, Ewha Womans University, Seoul, Republic of Korea；Microsoft, Redmond, WA, USA；Georgia Institute of Technology, Atlanta, GA, USA
STAG通过结构化梯度对齐提升在线适应性能，适用于多种架构和归一化方案，在挑战性场景下表现优异。
2026-02-06 cs.CV cs.LG
Latent Embedding Adaptation for Human Preference Alignment in Diffusion Planners
Nanyang Technological University（南洋理工大学）；Continental Automotive Singapore（大陆汽车新加坡公司）
本研究提出一种基于偏好潜嵌入的扩散规划器人类偏好对齐方法，通过偏好反转优化可学习嵌入实现快速个性化适配，在真实人类偏好基准上性能优于RLHF和LoRA等现有方案。
2025-03-24 cs.AI cs.LG cs.RO
Simultaneous Semantic Alignment Network for Heterogeneous Domain Adaptation
Beijing Institute of Technology（北京理工大学）；The University of Melbourne（墨尔本大学）；Indiana University-Purdue University Indianapolis（印第安纳大学与普渡大学印第安纳波利斯联合分校）
异构领域自适应（HDA）跨呈现异构性的源域和目标域传输知识，不同的域分布和特征类型或维度的差异。大多数以前的HDA方法解决这个问题，通过学习一个域不变的特征子空间，以减少域之间的差异。然而，在这种对齐策略中，数据中包含的内在语义属性未被充分挖掘，这也是实现有前途的适应性所不可或缺的。在本文中，我们提出了一个同时语义对齐网络（SSAN），同时利用类别之间的相关性，并跨域对齐每个类别的质心。特别是，我们提出了一个隐式的语义相关损失转移的相关知识的源分类预测分布到目标域。同时，通过利用目标伪标签，一个强大的三元组质心对齐机制显式地应用于对齐每个类别的特征表示。值得注意的是，一个伪标签细化过程中涉及的几何相似性，以提高目标伪标签分配的准确性。在文本到图像，图像到图像和文本到文本的各种HDA任务的综合实验成功地验证了我们的SSAN对国家的最先进的HDA方法的优越性。该代码可在https://github.com/BIT-DA/SSAN上公开获取。
2020-08-05 cs.CV cs.LG
Test-time Adaptation for Regression by Subspace Alignment
NTT Corporation（NTT公司）；Kyoto University（京都大学）；Yokohama National University（横滨国立大学）
本文提出显著子空间对齐（SSA）方法，通过检测显著子空间并加权维度，解决回归任务中测试时自适应因特征分布稀疏而无效的问题，实验证明优于基线。
2025-01-23 cs.AI cs.LG
Domain Adaptation via Rebalanced Sub-domain Alignment
Duke University School of Medicine（杜克大学医学院）；Duke University（杜克大学）
无监督领域自适应（UDA）是一种将知识从标记的源域转移到不同但相关的未标记目标域的技术。虽然许多UDA方法在过去已经取得了成功，但它们通常假设源域和目标域必须具有相同的类标签分布，这可能会限制它们在现实场景中的有效性。为了解决这个问题，我们提出了一个新的泛化界，通过对齐源和目标子域来重新加权源分类错误。我们证明，我们提出的泛化界至少是强大的现有的界限在现实的假设下，我们的经验表明，它是更强大的现实世界的数据。然后，我们提出了一个算法，以尽量减少这种新的泛化界。我们通过数值实验证明，这种方法提高了性能，在移动类分布的情况下相比，国家的最先进的方法。
2023-02-03 cs.LG stat.ML
From Entanglement to Alignment: Representation Space Decomposition for Unsupervised Time Series Domain Adaptation
提出DARSD框架，通过表示空间分解解缠可迁移知识，结合对抗不变基、原型伪标签和混合对比优化，在四个基准上超越12种UDA算法。
2025-08-06 cs.AI cs.LG
Safe Pruning LoRA: Robust Distance-Guided Pruning for Safety Alignment in Adaptation of LLMs
School of Electronics and Computer Science, University of Southampton, UK（索姆塞特大学电子与计算机科学学院）；Department of Computer Science, University of Liverpool, UK（利弗pool大学计算机科学系）
本文提出SPLoRA框架，通过引入E-DIEM度量检测安全错位并剪枝削弱安全对齐的LoRA层，在保持或提升模型性能与可靠性的同时显著降低安全风险并减少推理开销。
2025-06-21 cs.AI cs.LG
Temporal Attentive Alignment for Large-Scale Video Domain Adaptation
Georgia Institute of Technology（佐治亚理工学院）；Sony Interactive Entertainment LLC（索尼互动娱乐有限责任公司）；Binghamton University（宾厄姆顿大学）
虽然近年来已经提出了各种基于图像的领域自适应（DA）技术，但视频中的域偏移仍然没有得到很好的探索。大多数以前的作品只评估小规模数据集的饱和性能。因此，我们首先提出了两个大规模的视频DA数据集具有更大的域差异：UCF-HMDB_full和Kinetics-Gameplay。其次，我们研究了不同的DA集成方法的视频，并表明，同时对齐和学习时间动态实现有效的对齐，即使没有复杂的DA方法。最后，我们提出了时间注意对抗适应网络（TA 3 N），它明确地注意到时间动态使用域差异更有效的域对齐，在四个视频DA数据集上实现了最先进的性能（例如，在“HMDB --> UCF”上，与“仅源”相比，从73.9%到81.8%的准确度增益为7.9%，在“Kinetics --> Gameplay”上，则为10.3%）。代码和数据在http://github.com/cmhungsteve/TA3N上发布。
2019-09-15 cs.CV cs.LG cs.MM
SPA++: Generalized Graph Spectral Alignment for Versatile Domain Adaptation
College of Computer Science（计算机科学学院）；Technology, Zhejiang University（技术学院，浙江大学）；School of Software Technology（软件技术学校）；Electronic Engineering, Hunan University（电子工程，湖南大学）
SPA++提出广义图谱对齐框架，通过粗粒度谱正则化与细粒度邻域传播，结合数据增强和一致性正则化，解决域自适应中可迁移性与判别性的权衡，在基准上超越现有方法。
2025-08-08 cs.CV cs.LG
GALA: Graph Diffusion-based Alignment with Jigsaw for Source-free Domain Adaptation
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
本文提出GALA方法，通过基于分数的图扩散模型将目标图重建为源风格图，并结合课程学习伪标签与图拼图一致性学习，解决无源图域适应中的域偏移和标签稀缺问题。
2024-10-22 cs.AI cs.LG
Missing-Class-Robust Domain Adaptation by Unilateral Alignment for Fault Diagnosis
ETH Zurich（苏黎世联邦理工学院）
领域自适应的目的是通过利用源领域中学习到的知识并将其转移到目标领域来提高模型性能。最近，域对抗方法在减轻源域和目标域之间的分布偏移方面特别成功。然而，这些方法假设两个域之间的标签空间相同。这种假设对实际应用施加了很大的限制，因为目标训练集可能不包含完整的类集。在本文中，我们证明了领域对抗方法的性能在训练过程中容易受到不完整的目标标签空间的影响。为了克服这个问题，我们提出了一个两阶段的单边对齐方法。所提出的方法利用源域的类间关系，并单方面将目标与源域对齐。所提出的方法的好处首先评估MNIST $\rightarrow$ MNIST-M适应任务。所提出的方法也进行了评估的故障诊断任务，在目标训练数据集的故障类型丢失的问题是在实践中常见的。两个实验都证明了所提出的方法的有效性。
2020-01-07 cs.LG eess.IV eess.SP
Different Set Domain Adaptation for Brain-Computer Interfaces: A Label Alignment Approach
Huazhong University of Science and Technology（华中科技大学）
脑机接口（BCI）系统通常需要针对每个新的主体/任务进行长时间的校准会话以调整其参数，这阻碍了其从实验室到现实世界应用的过渡。领域自适应利用来自辅助主题/任务（源领域）的标记数据，已经证明了其在减少这种校准工作方面的有效性。目前，大多数领域自适应方法都要求源域与目标域具有相同的特征空间和标签空间，这限制了它们的应用，因为辅助数据可能具有不同的特征空间和/或不同的标签空间。本文考虑用于BCI的不同集合领域自适应，即，源域和目标域具有不同的标签空间。我们介绍了一个实际的设置不同的标签集的BCI，并提出了一种新的标签对齐（LA）的方法来对齐源标签空间与目标标签空间。它有三个理想的属性：1）LA只需要少到一个标记的样本，从每个类的目标对象; 2）LA可以被用来作为一个预处理步骤之前，不同的特征提取和分类算法;和，3）LA可以集成与其他领域自适应方法，以实现更好的性能。两个运动想象数据集上的实验证明了LA的有效性。
2020-03-10 cs.AI cs.HC cs.LG
