SAILOR: Scaling Anchors via Insights into Latent Object Representation
Graz University of Technology（格拉茨工业大学）；Christian Doppler Laboratory for Embedded Machine Learning（克里斯蒂安·多普勒嵌入式机器学习实验室）
LiDAR 3D目标检测模型不可避免地偏向于其训练数据集。当用于目标数据集时，检测器清楚地表现出这种偏差，特别是针对对象大小。然而，由于例如不同的标签策略或地理位置，对象大小在域之间变化很大。最先进的无监督领域自适应方法外包的方法来克服对象的大小偏差。主流的大小自适应方法利用目标域统计，与原始的无监督假设相矛盾。我们新的无监督锚校准方法解决了这一限制。给定在源数据上训练的模型，我们以完全无监督的方式估计最佳目标锚点。其主要思想源于一个直观的观察：通过改变目标域的锚点大小，我们不可避免地引入了噪声，甚至删除了有价值的对象线索。受锚点大小影响的潜在对象表示只有在最佳目标锚点下才最接近所学习的源特征。我们利用这一观察结果进行锚定尺寸优化。我们的实验结果表明，在没有任何再训练的情况下，即使与最先进的弱监督大小自适应方法相比，我们也取得了有竞争力的结果。此外，我们的锚点校准可以与现有的方法相结合，使其完全不受监督。
2022-10-17 cs.CV
Task-Discriminative Domain Alignment for Unsupervised Domain Adaptation
Rutgers University（罗格斯大学）；Samsung AI Center（三星人工智能中心）
领域自适应（DA）是一种将在一个领域（源）上学习到的任务模型有效地适应于其他相关但不同的领域（目标）的过程，没有或只有最少的再训练，通常使用源到目标流形对齐的过程来完成。然而，这一过程往往导致不令人满意的适应性能，部分原因是它忽略了特定于任务的数据结构。在本文中，我们提高了DA的性能，通过引入一个歧视性的差异措施，利用辅助信息在源和目标域，以更好地对齐源和目标分布。具体来说，我们利用与不同任务相关联的单个数据流形内的内聚聚类结构来改进对齐。这种结构在源中是显式的，其中任务标签是可用的，但在目标中是隐式的，使问题具有挑战性。我们通过设计一个深度DA框架来解决这一挑战，该框架将一个新的任务驱动的域对齐算法与域正则化器相结合，该正则化器鼓励共享特征作为任务特定的和域不变的，并促使任务模型保持数据结构，引导其决策边界通过低密度数据区域。我们在标准基准上验证了我们的框架，包括Digits（MNIST，USPS，SVHN，MNIST-M），PACS和VisDA。我们的研究结果表明，我们提出的模型始终优于国家的最先进的无监督领域自适应。
2019-09-26 cs.CV
Rethinking Ensemble-Distillation for Semantic Segmentation Based Unsupervised Domain Adaptation
National Tsing Hua University（国立清华大学）
最近的无监督领域自适应（UDA）的研究表明，端到端集成学习框架作为一个令人信服的选择UDA任务。然而，这些端到端集成学习方法通常缺乏灵活性，因为对集成的任何修改都需要重新训练其框架。为了解决这个问题，我们提出了一个灵活的合奏蒸馏框架进行语义分割的UDA，允许任何任意组合的成员在合奏，同时仍然保持其优越的性能。为了实现这种灵活性，我们的框架被设计为对输出不一致和合奏内的成员的性能变化是强大的。为了检查我们的方法的有效性和鲁棒性，我们对GTA5到Cityscapes和SYNTHIA到Cityscapes基准进行了大量的实验，以定量检查我们的方法所实现的改进。我们进一步提供详细的分析，以验证我们的设计选择是实用和有益的。实验结果表明，该方法在基于语义分割的UDA任务中，相对于现有的基准方法，具有更好的性能、鲁棒性和灵活性。
2021-04-29 cs.CV cs.LG
DynAlign: Unsupervised Dynamic Taxonomy Alignment for Cross-Domain Segmentation
EPFL（洛桑联邦理工学院）；Amazon（亚马逊公司）
提出 DynAlign 框架，结合无监督域适应与基础模型，利用先验语义知识和动态知识融合实现源域与目标域标签空间的对齐，有效解决跨域语义分割中标签级差距问题，在街景基准上取得显著提升。
2025-01-27 cs.CV
Multi-Target Unsupervised Domain Adaptation for Semantic Segmentation without External Data
Institute of Advanced Research in Artificial Intelligence (IARAI)（人工智能高级研究院（IARAI））；Linköping University（林雪平大学）；Helmholtz Institute Freiberg for Resource Technology（亥姆霍兹弗赖贝格资源技术研究院）
针对多目标语义分割UDA依赖外部数据、难扩展的问题，提出先外部训练再无外部数据适应的策略，结合自蒸馏与单向对抗学习，在四个驾驶数据集上显著优于现有方法。
2024-05-10 cs.CV
Unsupervised Model Personalization while Preserving Privacy and Scalability: An Open Problem
KU Leuven（鲁汶大学）；Huawei（华为）；Mila（米拉研究所）
这项工作研究了无监督模型个性化的任务，适应不断发展，未标记的本地用户图像。我们考虑的实际情况下，一个高容量的服务器与无数的资源有限的边缘设备进行交互，对可扩展性和本地数据隐私提出了很高的要求。我们的目标是在持续学习范式中解决这一挑战，并提供一个新的双重用户适应框架（DUA）来探索这个问题。该框架灵活地将用户自适应分解为服务器上的模型个性化和用户设备上的本地数据正则化，具有关于可扩展性和隐私约束的理想属性。首先，在服务器上，我们引入了特定于任务的专家模型的增量学习，随后使用隐藏的无监督用户先验进行聚合。聚合避免了再训练，而用户先验隐藏敏感的原始用户数据，并允许无监督的自适应。其次，本地用户自适应结合领域自适应的观点，适应正则化批量归一化参数的用户数据。我们探索各种经验的用户配置与不同的先验类别和麻省理工学院室内场景识别的10倍的变换，并分类在一个组合的MNIST和SVHN设置的数字。广泛的实验产生有前途的结果，数据驱动的本地适应和引发用户先验服务器适应依赖于模型，而不是用户数据。因此，尽管用户自适应仍然是一个具有挑战性的开放问题，但DUA框架正式确定了在服务器和用户设备上进行个性化的原则基础，同时保持隐私和可扩展性。
2020-03-30 cs.CR cs.CV
ADAptation: Reconstruction-based Unsupervised Active Learning for Breast Ultrasound Diagnosis
Faculty of Applied Sciences, Macao Polytechnic University, Macau, China（澳门理工大学应用科学学院）；Medical Ultrasound Image Computing (MUSIC) Lab, School of Biomedical Engineering, Medical School, Shenzhen University, Shenzhen, China（深圳大学生物医学工程学院）；Netherlands Cancer Institute, Amsterdam, Netherlands（荷兰癌症研究所）；Department of Ultrasound, Peking University Third Hospital, Beijing, China（北京第三人民医院超声科）
本文提出无监督主动学习框架ADAptation，利用扩散模型弥合跨域差异，并通过超球面对比学习与双重评分机制，在有限标注预算下高效选择多域乳腺超声样本，提升临床域自适应性能。
2025-07-01 cs.CV
Revisiting Deep Subspace Alignment for Unsupervised Domain Adaptation
Arizona State University（亚利桑那州立大学）；Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）
无监督领域自适应（UDA）旨在将知识从标记的源领域转移和适应到未标记的目标领域。传统上，基于子空间的方法形成了这一问题的重要一类解决方案。尽管这些方法在数学上很优雅，也很容易处理，但在复杂的真实世界数据集上，这些方法在产生域不变特征时往往是无效的。受深度网络表示学习的最新进展的启发，本文重新审视了UDA的子空间对齐的使用，并提出了一种新的自适应算法，该算法始终能够提高泛化能力。与现有的基于对抗训练的DA方法相比，我们的方法隔离了特征学习和分布对齐步骤，并利用主-辅助优化策略来有效地平衡域不变性和模型保真度的目标。虽然提供了一个显着减少目标数据和计算的要求，我们的子空间为基础的DA执行竞争力，有时甚至优于国家的最先进的方法在几个标准的UDA基准。此外，子空间对齐导致本质上良好的正则化模型，即使在具有挑战性的部分DA设置中也表现出很强的泛化能力。最后，我们的UDA框架的设计本质上支持在测试时逐步适应新的目标域，而不需要从头开始重新训练模型。总之，由强大的特征学习器和有效的优化策略提供动力，我们建立了基于子空间的DA作为一种高效的视觉识别方法。
2022-01-05 cs.CV cs.LG
Energy-constrained Self-training for Unsupervised Domain Adaptation
Beth Israel Deaconess Medical Center（贝斯以色列女执事医疗中心）；Harvard Medical School（哈佛医学院）；Changchun Institute of Optics, Fine Mechanics and Physics, Chinese Academy of Sciences（中国科学院长春光学精密机械与物理研究所）；Illinois Institute of Technology（伊利诺伊理工学院）；China University of Mining and Technology（中国矿业大学）；Hong Kong Polytechnic University（香港理工大学）；Fanhan Tech. Inc.（泛瀚科技有限公司）
无监督领域自适应（UDA）的目的是将标记源域分布的知识转移到未标记的目标域上。最近，深度自训练涉及在目标域上进行预测的迭代过程，然后将置信预测作为硬伪标签进行再训练。然而，伪标签通常是不可靠的，并且容易导致偏差的解决方案与传播的错误。在本文中，我们求助于基于能量的模型，并约束训练的未标记的目标样本的能量函数最小化的目标。它可以作为一个简单的附加正则化。在这个框架中，可以获得基于能量的模型的好处，同时保持强的区分性能，遵循即插即用的方式。我们提供了广泛的实验上最流行的和大规模的UDA基准的图像分类以及语义分割，以证明其通用性和有效性。
2021-01-01 cs.AI cs.CV cs.LG
Test Time Adaptation Using Adaptive Quantile Recalibration
Concordia University（康科迪亚大学）；Mila – Quebec AI Institute（魁北克人工智能研究所）；Université de Montréal（蒙特利尔大学）
提出自适应分位数重校准（AQR）测试时适应技术，通过通道级分位数对齐修改预激活分布，支持多种归一化架构，无需重训练即可实现无监督适应，在多个数据集上优于现有基线。
2025-11-05 cs.CV cs.LG
Rethinking Image Forgery Detection via Soft Contrastive Learning and Unsupervised Clustering
School of Computer Science and Engineering, University of Electronic Science and Technology of China（电子科技大学计算机科学与工程学院）；Guangdong Key Laboratory of Intelligent Information Processing, College of Electronics and Information Engineering, Shenzhen University（广东智能信息处理重点实验室、电子与信息工程学院）
针对现有图像伪造检测方法忽视像素真伪定义的图像内相对性、跨图像混合同类区域的问题，提出基于软对比学习与无监督聚类的FOCAL方法，在六个公开数据集上IoU指标大幅优于现有最优方法，为该任务提供新范式与基准。
2025-05-17 cs.CV
Unsupervised Federated Domain Adaptation for Segmentation of MRI Images
University of Southern California（南加州大学）；Henry Ford Health System（亨利·福特医疗系统）
本文提出一种无监督联邦域自适应方法，通过潜在空间分布对齐和集成策略，将多个带标注源域的MRI分割知识迁移到未标注目标域，并在MICCAI 2016数据集上验证其有效性。
2024-01-14 cs.AI cs.CV
Unsupervised Variational Translator for Bridging Image Restoration and High-Level Vision Tasks
School of Intelligent Systems Engineering, Shenzhen Campus of Sun Yat-sen University（中山大学深圳校区智能系统工程学院）；Guangdong Provincial Key Laboratory of Fire Science and Technology（广东省火灾科学与技术重点实验室）
针对图像复原衔接高层视觉任务需重训练模型、难获配对数据的问题，提出无监督变分翻译器VaT，以轻量桥接网络和变分自训练实现优化，在多任务中性能优异。
2024-12-11 cs.CV
Constraining Pseudo-label in Self-training Unsupervised Domain Adaptation with Energy-based Model
CIOMP, Chinese Academy of Sciences（中国科学院长春光学精密机械与物理研究所）；Harvard University（哈佛大学）；National University of Singapore（新加坡国立大学）；China University of Mining and Technology（中国矿业大学）；Beth Israel Deaconess Medical Center（贝斯以色列女执事医疗中心）；Harvard Medical School（哈佛医学院）；The Hong Kong Polytechnic University（香港理工大学）
深度学习通常是数据匮乏的，无监督的领域自适应（UDA）被开发出来，将标记源领域中的知识引入到未标记的目标领域。最近，深度自我训练为UDA提供了一种强大的手段，涉及预测目标域的迭代过程，然后将置信预测作为重新训练的硬伪标签。然而，伪标签通常是不可靠的，从而容易导致偏差的解决方案与传播的错误。在本文中，我们诉诸于基于能量的模型，并约束训练的未标记的目标样本的能量函数最小化的目标。它可以通过简单的额外正则化或基于能量的损失来实现。这个框架使我们能够获得基于能量的模型的好处，同时保持强有力的歧视性的性能后，即插即用的时尚。研究了算法的收敛性及其与分类期望最小化的关系。我们提供了广泛的实验上最流行的和大规模的UDA基准图像分类以及语义分割，以证明其通用性和有效性。
2022-08-26 cs.AI cs.CV cs.LG
Instance Embedding Transfer to Unsupervised Video Object Segmentation
University of Southern California（南加州大学）；Google Inc.（谷歌公司）
我们提出了一种通过传输基于图像的实例嵌入网络中封装的知识来进行无监督视频对象分割的方法。实例嵌入网络为每个像素生成嵌入向量，该嵌入向量能够识别属于同一对象的所有像素。虽然是在静态图像上训练的，但实例嵌入在连续的视频帧上是稳定的，这允许我们随着时间的推移将对象链接在一起。因此，我们将在静态图像上训练的实例网络适应于视频对象分割，并将具有对象和光流特征的嵌入结合起来，而无需模型重新训练或在线微调。该方法在DAVIS数据集和FBMS数据集中的性能优于最先进的无监督分割方法。
2018-02-27 cs.CV
Towards Robust 3D Object Recognition with Dense-to-Sparse Deep Domain Adaptation
BMW Group（宝马集团）；Technical University of Munich（慕尼黑工业大学）；University of Glasgow（格拉斯哥大学）；Radboud University（拉德堡德大学）
三维（3D）物体识别对于智能自主智能体（如自主车辆和机器人）在非结构化环境中有效运行至关重要。大多数最先进的方法依赖于相对密集的点云，并且对于稀疏点云，性能显著下降。无监督域自适应允许使用最少的未标记稀疏点云来最小化密集点云和稀疏点云之间的差异，从而节省额外的稀疏数据汇集、注释和再训练成本。在这项工作中，我们提出了一种基于点云的对象识别的新方法，该方法在密集和稀疏点云上具有与最先进的方法竞争的性能，同时仅使用密集点云进行训练。
2022-05-07 cs.CV cs.RO
Asymmetric Co-Teaching for Unsupervised Cross Domain Person Re-Identification
Xiamen University（厦门大学）；Tencent Youtu Lab（腾讯优图实验室）
由于身份样本和成像条件的高差异性，人员重新识别（re-ID）是一项具有挑战性的任务。尽管深度学习的最新进展在固定场景中实现了显著的准确性，即，源域，很少有作品能很好地推广上看不见的目标域。一种流行的解决方案是通过聚类为未标记的目标图像分配伪标签，然后重新训练模型。然而，聚类方法往往会引入噪声标签并丢弃低置信度样本作为离群值，这可能会阻碍再训练过程，从而限制泛化能力。在这项研究中，我们认为，通过显式地添加一个样本过滤过程后的聚类，挖掘的例子可以更有效地使用。为此，我们设计了一个非对称的协同教学框架，它通过合作两个模型来选择彼此可能具有干净标签的数据来抵抗噪声标签。同时，其中一个模型接收尽可能纯净的样本，而另一个模型接收尽可能多样化的样本。这个过程鼓励选择的训练样本可以是干净的和混杂的，并且两个模型可以迭代地相互促进。大量的实验表明，该框架可以始终受益于大多数基于聚类的方法，并提高最先进的适应精度。我们的代码可在https://github.com/FlyingRoastDuck/ACT_AAAI20上获得。
2019-12-03 cs.CV
Fake it, Mix it, Segment it: Bridging the Domain Gap Between Lidar Sensors
University of Wuppertal（伍珀塔尔大学）；Aptiv（安波福）
激光雷达数据的分割是一项提供有关机器人或自动驾驶车辆环境的丰富逐点信息的任务。目前用于激光雷达分割的性能最佳的神经网络针对特定数据集进行了微调。切换激光雷达传感器而不重新训练来自新传感器的大量注释数据会造成域转移，从而导致网络性能急剧下降。在这项工作中，我们提出了一种新的方法，激光雷达域自适应，其中我们使用注释的全景激光雷达数据集，并在不同的激光雷达传感器的结构中重新创建记录的场景。我们缩小域间隙的目标数据，通过重新创建全景数据从一个域中的另一个和混合生成的数据与部分（伪）标记的目标域数据。我们的方法将nuScenes到SemanticKITTI无监督领域自适应性能提高了15.2 mIoU，在我们的半监督方法中提高了48.3 mIoU。我们证明了类似的改善SemanticKITTI nuScene领域自适应分别由21.8 mIoU和51.5 mIoU。我们将我们的方法与两种最先进的语义激光雷达分割领域自适应方法进行比较，无监督和半监督领域自适应有显着改进。此外，我们成功地将我们提出的方法应用于两个完全未标记的数据集的两个国家的最先进的激光雷达传感器Velodyne Alpha Prime和InnovizTwo，和训练表现良好的语义分割网络。
2022-12-19 cs.CV cs.LG
Vision Transformer Adapters for Generalizable Multitask Learning
EPFL（洛桑联邦理工学院）
该研究提出首个多任务视觉Transformer适配器，通过任务适配注意力机制学习可泛化任务亲和性，在参数高效的同时实现新任务新领域的零样本迁移等泛化能力，性能优于现有卷积和视觉Transformer多任务方法。
2023-08-23 cs.CL cs.CV
See, Act, Adapt: Active Perception for Unsupervised Cross-Domain Visual Adaptation via Personalized VLM-Guided Agent
Zhejiang University, Hangzhou, China（浙江大学）
Sea$^2$通过智能姿态控制代理实现无监督跨域视觉适应，利用现成感知模型提升视觉任务性能。
2026-02-27 cs.AI cs.CV
A Framework for Generalizing Critical Heat Flux Detection Models Using Unsupervised Image-to-Image Translation
Arizona State University（亚利桑那州立大学）；Drexel University（德雷塞尔大学）；University of Arkansas（阿肯色大学）；Yonsei University（延世大学）；University of Cincinnati（辛辛那提大学）
提出一种无监督图像到图像翻译框架，使临界热通量检测模型无需重新训练或标注即可泛化至新领域数据，在三个沸腾数据集上验证了高精度适应性。
2023-03-18 cs.CV eess.IV
Generative Adversarial Networks And Domain Adaptation For Training Data Independent Image Registration
Inception Institute of Artificial Intelligence（人工智能 inception 研究所）
医学图像配准是涉及多个患者访问的多模态图像和时间数据的自动分析中的重要任务。传统的方法虽然对不同的图像类型有用，但是是耗时的。最近，已经提出了基于深度学习（DL）的图像配准方法，其在准确性和时间方面优于传统方法。然而，基于DL的方法严重依赖于训练数据，并且在呈现不同扫描仪或解剖结构的图像时不能很好地推广。我们提出了一种基于DL的方法，可以执行一种图像类型的医学图像配准，尽管被训练与不同类型的图像。这是通过在注册过程中的无监督域自适应，并允许更容易地应用到不同的数据集，而无需大量的retraining.To实现我们的目标，我们训练一个网络，将给定的输入图像对使用自动编码器的潜在特征空间矢量。生成的编码特征空间用于在生成对抗网络（GANs）的帮助下生成注册图像。这种特征变换确保了对输入图像类型的更大的不变性。在胸部X光、视网膜和脑部MR图像上的实验表明，在一个数据集上训练的方法对其他数据集具有更好的配准性能，优于不包含域自适应的传统方法
2020-03-26 cs.CV eess.IV
Dynamic Retraining-Updating Mean Teacher for Source-Free Object Detection
Sungkyunkwan University（成均馆大学）
针对无源目标检测中自训练因错误伪标签导致性能退化的问题，提出动态重训练-更新机制与历史学生损失，实现师生协同进化训练，在多个基准上达到最先进性能。
2024-07-23 cs.CV
Incremental Multi-Target Domain Adaptation for Object Detection with Efficient Domain Transfer
École de technologie supérieure（高等技术学院）；Genetec Inc.（捷泰科公司）
无监督领域自适应的最新进展通过减轻（标记的）源和（未标记的）目标数据分布之间的域移位，显着提高了CNN的识别精度。虽然用于目标检测的单目标领域自适应（STDA）的问题最近受到了很多关注，但是多目标领域自适应（MTDA）仍然在很大程度上未被探索，尽管其在诸如多摄像机视频监控的若干现实世界应用中具有实际意义。与可能涉及复杂源分布和目标分布之间的大域移位的STDA问题相比，MTDA面临额外的挑战，最显著的是计算要求和先前学习的目标的灾难性遗忘，这可能取决于目标适应的顺序。用于检测的STDA可以通过调整每个目标的一个模型或具有来自目标域的数据的混合的一个公共模型来应用于MTDA。然而，这些方法要么成本高，要么不准确。唯一一种专门用于检测的最先进的MTDA方法增量地学习目标，一次一个目标，并通过使用用于知识蒸馏的重复检测模型来减轻知识的丢失，这在计算上是昂贵的，并且不能很好地扩展到许多领域。在本文中，我们介绍了一种有效的增量学习方法，以及推广到多个目标域。我们的MTDA方法更适合于现实世界的应用程序，因为它允许增量更新检测模型，而无需存储来自先前学习的目标域的数据，也无需在新的目标域可用时进行重新训练。我们提出的方法，MTDA-DTM，实现了最高水平的检测精度相比，国家的最先进的方法在几个MTDA检测基准和Wildtrack，多摄像头行人检测的基准。
2022-05-11 cs.CV
UTAL-GNN: Unsupervised Temporal Action Localization using Graph Neural Networks
Indian Institute of Technology Gandhinagar, Gujarat, India（印度加尔各答理工学院，古吉拉特邦，印度）
本文提出UTAL-GNN，通过预训练ASTGCN学习无监督骨架运动表征，并利用动作动力学度量检测运动边界，在DSV Diving上以82.66% mAP和29.09 ms延迟实现与有监督方法相当的实时动作定位性能。
2025-08-27 cs.CV
Unsupervised deep learning for grading of age-related macular degeneration using retinal fundus images
University of California, Berkeley（加利福尼亚大学伯克利分校）；International Computer Science Institute（国际计算机科学研究所）；University of California, Davis（加利福尼亚大学戴维斯分校）
许多疾病是根据人类定义的标题进行分类的，这些标题容易产生偏见。受监督的神经网络可以使视网膜眼底图像的分级自动化，但是需要劳动密集型注释并且限于特定的训练任务。在这里，我们采用了一个无监督的网络与非参数实例判别（NPID）分级年龄相关性黄斑变性（AMD）的严重程度使用眼底照片从视网膜相关性眼病研究（AREDS）。我们的无监督算法在不同的AMD分类方案中表现出多功能性，无需再训练，并且在分类晚期或可诊断的AMD或4步AMD严重程度量表方面，实现了与监督网络和人类眼科医生相当的不平衡准确性。探索网络行为揭示了疾病相关的眼底特征，这些特征推动了预测，并揭示了更细粒度的人类定义的AMD严重程度方案对眼科医生和神经网络错误分类的敏感性。重要的是，无监督学习能够无偏见地、数据驱动地发现AMD特征，例如地图状萎缩，以及脉络膜、玻璃体和晶状体的其他眼部表型，例如视觉损害性白内障，这些特征不是由人类标签预先定义的。
2020-10-22 cs.CV eess.IV q-bio.QM
Domain Adaptation for Robot Predictive Maintenance Systems
Institute for Human and Machine Cognition (IHMC)（人机认知研究所（IHMC））；ABB Future Labs（ABB未来实验室）
工业机器人在越来越多的领域发挥着越来越重要的作用。例如，机器人技术用于提高生产率，同时降低制造业各个方面的成本。由于机器人通常安装在生产线上，因此单个机器人的故障会对整个过程产生负面影响，在最坏的情况下，整条生产线将停止运行，直到问题得到解决，从而导致不可预见的停机时间造成重大经济损失。因此，基于机器人内部信号的预测性维护系统作为机器人服务产品的重要组成部分而受到关注。现有的预测性维护算法的主要缺点是，当机器人的操作发生变化时，提取的特征通常与学习的模型显著不同，从而导致错误警报。为了缓解这个问题，预测性维护算法需要使用新操作的正常数据重新训练模型。在本文中，我们提出了一种基于迁移学习的新解决方案，将训练模型的知识从一个操作传递到另一个操作，以防止重新训练的需要并消除这种假警报。所提出的无监督迁移学习算法在真实世界数据集上的部署表明，该算法不仅可以区分操作和机械条件变化，而且在机械条件变化的情况下，它进一步产生与训练模型的更尖锐的偏差，从而以更高的置信度检测机械问题。
2020-02-24 cs.AI cs.CV cs.LG
Initialization and Regularization of Factorized Neural Layers
Carnegie Mellon University（卡内基梅隆大学）；Microsoft Research（微软研究院）
分解层（由两个或多个矩阵的乘积参数化的操作）出现在各种深度学习环境中，包括压缩模型训练，某些类型的知识蒸馏和多头自注意架构。我们研究了如何初始化和正则化包含这些层的深层网络，研究了两个简单的，未充分研究的方案，频谱初始化和Frobenius衰减，以提高其性能。指导性的见解是为这些网络设计尽可能接近其良好调整的非分解对应物的优化例程;我们通过分析初始化和正则化方案如何影响梯度下降训练来支持这种直觉，借鉴现代尝试理解权重衰减和批量归一化的相互作用。从经验上讲，我们强调了光谱初始化和Frobenius衰减在各种设置中的好处。在模型压缩中，我们证明了它们使低秩方法在训练低内存残差网络的任务上显著优于非结构化稀疏性和张量方法;这些方案的类似物也提高了张量分解技术的性能。对于知识蒸馏，Frobenius衰变实现了一个简单的、过完备的基线，可以从过参数化训练中产生一个紧凑的模型，而不需要使用教师网络进行再训练或修剪。最后，我们展示了这两种方案如何应用于多头注意力，从而提高翻译和无监督预训练的性能。
2022-10-04 cs.AI cs.CL cs.CV
Restoring Without Forgetting: Continual Learning Across Image Degradations
Rochester Institute of Technology（罗切斯特理工学院）
针对持续多退化图像复原问题，提出RwF框架，通过轻量级适配器和无监督路由机制消除遗忘，在5域序列任务中较朴素微调大幅提升PSNR，还在真实退化基准上取得良好表现。
2026-08-26 cs.AI cs.CV cs.LG
DAD++: Improved Data-free Test Time Adversarial Defense
University of Central Florida（中佛罗里达大学）；Indian Institute of Science（印度科学学院）；Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所）
针对预训练模型在数据受限时难以防御对抗攻击的问题，提出测试时无数据对抗防御框架DAD及改进的软检测方案DAD++，在多种任务中有效提升鲁棒性且保持高准确率。
2023-09-10 cs.CV cs.LG stat.ML
Generate To Adapt: Aligning Domains using Generative Adversarial Networks
University of Maryland（马里兰大学）；UMIACS（马里兰大学高级计算机研究所）
领域自适应是计算机视觉中的一个研究热点。在这项工作中，我们提出了一种方法，利用无监督的数据，使源和目标分布更接近学习的联合特征空间。我们通过在学习的嵌入和生成对抗网络之间引入共生关系来实现这一点。这与使用对抗框架来生成真实数据并使用这些数据重新训练深度模型的方法形成对比。我们通过对三个不同难度的任务进行实验来证明我们方法的强度和通用性：（1）数字分类（MNIST，SVHN和USPS数据集）（2）使用OFFICE数据集的对象识别和（3）从合成数据到真实数据的领域自适应。我们的方法在大多数实验环境中都达到了最先进的性能，并且是迄今为止唯一一种基于GAN的方法，该方法已被证明在不同的数据集（如OFFICE和DIGITS）上都能很好地工作。
2018-04-12 cs.CV
Domain-knowledge Inspired Pseudo Supervision (DIPS) for Unsupervised Image-to-Image Translation Models to Support Cross-Domain Classification
Arizona State University（亚利桑那州立大学）；University of Arkansas（阿肯色大学）；University of Cincinnati（辛辛那提大学）
针对无监督图像翻译模型缺乏标注无法用传统监督指标评估的问题，提出DIPS方法利用领域信息驱动的高斯混合模型生成伪标注以支持跨域分类，其表现优于FID等指标并与真实监督指标高度相关。
2023-09-30 cs.CV cs.LG eess.IV
From Limited Labels to Open Domains:An Efficient Learning Method for Drone-view Geo-Localization
State Key Laboratory for Strength and Vibration of Mechanical Structures（强度与振动机械结构国家重点实验室）；Shaanxi Key Laboratory of Environment and Control for Flight Vehicle（飞行器环境与控制陕西省重点实验室）；School of Aerospace Engineering（航空工程学院）；Xi’an Jiaotong University（西安交通大学）；Institute of Automation（自动化研究所）；Chinese Academy of Sciences（中国科学院）；School of Artificial Intelligence（人工智能学院）；University of Chinese Academy of Sciences（中国科学院大学）；Peng Cheng Laboratory（鹏城实验室）
本文提出CDIKTNet，通过有限监督实现无人机视角地理定位的跨域不变知识迁移，解决传统方法依赖配对数据和跨视图相关性学习难题，提升少样本和跨域初始化性能。
2026-04-17 cs.CV cs.IR
TC-ADA: One-Shot Active Domain Adaptation for Semantic Segmentation
Shanghai Jiao Tong University（上海交通大学）
TC-ADA提出一次性主动域适应方法，结合视觉基础模型与无监督适应选择目标图像，并联合校准源与目标监督，在少量标注下显著提升语义分割性能。
2026-09-29 cs.CV cs.RO
