Nearest Neighborhood-Based Deep Clustering for Source Data-absent Unsupervised Domain Adaptation
University of Shanghai for Science and Technology(上海理工大学);University of Electronic Science and Technology of China(电子科技大学);Universität Hamburg(汉堡大学)
在无监督领域自适应(UDA)的经典设置中,标记的源数据在训练阶段可用。然而,在许多现实场景中,由于隐私保护和信息安全等原因,源数据是不可访问的,并且只有在源域上训练的模型可用。本文提出了一种新的深度聚类方法来完成这一具有挑战性的任务。针对特征级的动态聚类,我们引入了隐藏在数据几何结构中的额外约束来辅助聚类过程。具体来说,我们提出了一个基于几何的约束,命名为语义一致性最近的邻居(SCNNH),并使用它来鼓励强大的聚类。为了达到这一目标,我们为每一个目标数据构建最近的邻居,并将其作为基本的聚类单元,通过建立我们的目标的几何形状。此外,我们开发了一个更SCNNH兼容的结构与一个额外的语义可信度约束,命名为语义超最近邻(SHNNH)。之后,我们将我们的方法扩展到这个新的几何。在三个具有挑战性的UDA数据集上的广泛实验表明,我们的方法达到了最先进的结果。所提出的方法在所有数据集上都有显着的改进(因为我们采用SHNNH,在大规模数据集上的平均准确率提高了3.0%以上)。代码可在https://github.com/tntek/N2DCX上获得。
2021-08-03 cs.AI cs.CV
ProCal: Probability Calibration for Neighborhood-Guided Source-Free Domain Adaptation
The JC STEM Lab of Machine Learning and Computer Vision(机器学习与计算机视觉的JC STEM实验室);Department of Electrical and Electronic Engineering(电气与电子工程系);The Hong Kong Polytechnic University(香港理工大学);Department of Computer Science and Engineering(计算机科学与工程系);The Chinese University of Hong Kong(香港中文大学)
ProCal通过双模型协作预测机制动态校准邻域预测,缓解局部噪声干扰并保留源模型判别信息,提升领域适应性能。
2026-03-19 cs.CV
Trust your Good Friends: Source-free Domain Adaptation by Reciprocal Neighborhood Clustering
Computer Vision Center, Universitat Autònoma de Barcelona(巴塞罗那自治大学计算机视觉中心);Nankai University(南开大学);Huawei Kirin Solution(华为麒麟解决方案部门)
针对无源域适应问题,提出利用目标数据局部聚类结构,通过互惠邻域聚类和扩展邻域聚合信息,实现高效域适应并在多个2D和3D数据集上达到最优性能。
2023-09-01 cs.CV
Source-Free Domain Adaptation by Optimizing Batch-Wise Cosine Similarity
Machine Learning and Vision Lab(机器学习与视觉实验室);Indian Institute of Technology Hyderabad(印度理工学院海得拉巴学院);Department of Computer Science and Engineering(计算机科学与工程系)
本文提出通过优化批次余弦相似性实现无源域适应,通过学习信息丰富的聚类和邻域签名来提升模型适应性能。
2026-01-24 cs.CV
MLNet: Mutual Learning Network with Neighborhood Invariance for Universal Domain Adaptation
Sun Yat-sen University(中山大学);Pazhou Lab (HuangPu)(琶洲实验室(黄埔))
针对通用域适应中目标域内变化及已知与未知类难区分的问题,提出结合邻域不变性、跨域 mixup 与双分类器互学习的 MLNet,并在四个设置下取得先进性能。
2024-02-28 cs.CV
Unsupervised Domain Adaptation via Distilled Discriminative Clustering
South China University of Technology(华南理工大学);Peng Cheng Laboratory(鹏城实验室)
无监督领域自适应解决了在未标记的目标域中对数据进行分类的问题,给定共享公共标签空间但遵循不同分布的标记源域数据。最近的大多数方法采取显式对齐两个域之间的特征分布的方法。相应地,出于对域适应性的基本假设的动机,我们将领域自适应问题重新转换为目标数据的判别聚类,给出了密切相关的标记源数据提供的强特权信息。从技术上讲,我们使用的聚类目标的基础上的一个强大的变化的熵最小化,自适应过滤目标数据,一个软的费舍尔标准,以及通过质心分类的聚类排序。为了提取用于目标聚类的有区别的源信息,我们建议使用并行的监督学习目标在标记的源数据上联合训练网络。我们将我们的用于领域自适应的蒸馏判别聚类方法称为离散DA。我们还给出了几何直观,说明了如何组成目标的DisperterDA帮助学习类明智的纯,紧凑的特征分布。我们对五个流行的基准数据集进行了仔细的消融研究和广泛的实验,其中包括多源领域自适应。基于常用的骨干网络,DispersterDA优于现有的方法在这些基准。同样有趣的是,在我们的DisponterDA框架中,添加一个额外的损失项,显式地学习跨域对齐类级别的特征分布,这会损害自适应性能,尽管在不同的算法框架中需要进行更仔细的研究。
2023-02-23 cs.CV
Polycentric Clustering and Structural Regularization for Source-free Unsupervised Domain Adaptation
University of Leicester(莱斯特大学)
无源领域自适应(SFDA)通过将从预先训练的源模型中学习到的知识转移到未知的目标领域来解决领域自适应问题。大多数现有的方法分配伪标签的目标数据生成的功能原型。然而,由于源域和目标域之间的数据分布的差异和目标域中的类别不平衡,在生成的特征原型和噪声伪标签中存在严重的类偏差。此外,目标域的数据结构往往被忽略,这是聚类的关键。本文提出了一种新的框架PCSR,通过一种新的类内多中心聚类和结构正则化策略来解决SFDA问题。首先,提出了一种类间均衡采样策略,为每一类生成具有代表性的特征原型。此外,k-means聚类被引入到生成多个聚类中心的目标域中的每个类,以获得强大的伪标签。最后,为了提高模型的泛化能力,对目标域进行了结构正则化。在三个UDA基准数据集上的大量实验表明,我们的方法比其他最先进的方法表现得更好或相似,证明了我们的方法在视觉领域自适应问题上的优越性。
2022-10-14 cs.CV
Discriminative Clustering for Robust Unsupervised Domain Adaptation
Duke University(杜克大学)
无监督的领域自适应试图通过利用标记源数据集的信息来学习未标记目标域的不变和判别表示。我们建议通过同时学习紧密聚类的目标表示来提高目标域表示的区分能力,同时鼓励每个聚类被分配到一个独特的和不同的类。这种策略将负迁移的影响与源和目标表征之间的对抗性域匹配相结合。我们的方法是强大的源和目标标签分布的差异,因此适用于平衡和不平衡的领域自适应任务,并与一个简单的扩展,它也可以用于部分领域自适应。在多个领域自适应基准数据集上的实验表明,该方法在平衡、不平衡和部分领域自适应三种情况下均能获得最佳性能.
2019-05-30 cs.LG stat.ML
Cross-Domain Adaptive Clustering for Semi-Supervised Domain Adaptation
The University of Hong Kong(香港大学);Sun Yat-sen University(中山大学);Deepwise AI Lab(深睿医疗人工智能实验室)
在半监督领域自适应中,目标域中每个类的一些标记样本引导剩余目标样本的特征聚集在它们周围。然而,由于训练数据由来自源域的标记样本支配,因此训练模型不能产生目标域的高度区分的特征表示。这可能导致标记的和未标记的目标样本之间的断开以及未标记的目标样本和源域之间的未对准。在本文中,我们提出了一种新的方法,称为跨域自适应聚类来解决这个问题。为了同时实现域间和领域自适应,我们首先引入了一个对抗性的自适应聚类损失组的未标记的目标数据的特征到集群,并执行跨源和目标域的集群明智的特征对齐。我们进一步将伪标签应用于目标域中的未标记样本,并以高置信度保留伪标签。伪标记扩展了目标域中每个类中的“标记”样本的数量,从而为每个类产生更健壮和更强大的聚类核心,以促进对抗学习。在DomainNet、P2P-Home和Office等基准数据集上的实验表明,该方法在半监督领域自适应方面达到了最先进的性能.
2021-04-19 cs.CV
SuperCM: Improving Semi-Supervised Learning and Domain Adaptation through differentiable clustering
Department of Physics and Technology(物理与技术系);Norwegian Computing Center(挪威计算中心);Pioneer Centre for AI(人工智能先锋中心)
本文提出SuperCM,通过显式引入可微聚类模块并利用有监督数据计算质心,以端到端方式改进半监督学习和无监督域自适应,在低监督场景下表现突出,既可独立使用也可作为正则化器。
2025-07-18 cs.CV
Adversarial Unsupervised Domain Adaptation Guided with Deep Clustering for Face Presentation Attack Detection
Ain Shams University(艾因夏姆斯大学);The American University in Cairo(开罗美国大学)
人脸呈现攻击检测(PAD)是人脸识别系统安全的重要手段。已经提出了传统的面部反欺骗方法,假设测试来自用于训练的相同域,因此不能很好地概括看不见的攻击场景。经过训练的模型往往过拟合到训练数据中可用的捕获传感器和攻击类型。鉴于此,我们提出了一个基于领域自适应(DA)的端到端学习框架,以提高PAD的泛化能力。标记的源域样本用于通过交叉熵损失训练特征提取器和分类器,而来自目标域的无监督数据用于对抗DA方法,使模型学习域不变特征。在面对PAD中单独使用DA不能很好地适应目标域,目标域是在与源域不同的设备和攻击类型的不同条件下获得的。因此,为了保持目标域的固有属性,执行目标样本的深度聚类。训练和深度聚类是端到端进行的,在几个公共基准数据集上进行的实验验证了我们提出的深度聚类引导的无监督领域自适应(DCDA)与目标领域的最新分类错误相比,可以学习更多的广义信息。
2021-02-13 cs.CV
Domain Adaptation with Auxiliary Target Domain-Oriented Classifier
National University of Singapore(新加坡国立大学);Sea AI Lab(Sea AI 实验室)
领域自适应(DA)旨在将知识从标签丰富但异质的领域转移到标签稀缺的领域,它简化了标签工作,引起了广泛的关注。不同于以往的方法侧重于学习域不变的特征表示,最近的一些方法提出了通用的半监督学习(SSL)技术,并直接将其应用到DA任务,甚至实现竞争力的性能。最流行的SSL技术之一是伪标签,它通过由标记数据训练的分类器为每个未标记数据分配伪标签。然而,它忽略了DA问题中的分布偏移,不可避免地偏向于源数据。为了解决这个问题,我们提出了一个新的伪标记框架,称为辅助目标领域导向分类器(ATDOC)。ATDOC通过引入仅针对目标数据的辅助分类器来消除分类器的偏差,从而提高伪标签的质量。具体来说,我们采用记忆机制,并开发两种类型的非参数分类器,即最近的质心分类器和邻域聚合,而不引入任何额外的网络参数。尽管其简单的伪分类目标,ATDOC与邻域聚合显着优于域对齐技术和以前的SSL技术在各种各样的DA基准,甚至害怕标记的SSL任务。
2021-12-16 cs.CV cs.LG
Unsupervised Domain Adaptation via Structurally Regularized Deep Clustering
South China University of Technology(华南理工大学);Wushan Road, Tianhe District, Guangzhou, Guangdong, China(中国广东省广州市天河区五山路381号(注:此地址为机构具体位置,按要求仅提取到大学级别,此处原机构名称应为华南理工大学,该地址为华南理工大学地址,故仅保留华南理工大学))
无监督领域自适应(UDA)是指当源域上的标记数据与目标域上的标记数据发生分布偏移时,对目标域上的未标记数据进行预测。主流UDA方法学习两个域之间的对齐特征,使得在源特征上训练的分类器可以容易地应用于目标特征。然而,这样的转移策略具有破坏目标数据的内在区分的潜在风险。为了减轻这种风险,我们的动机是由结构域相似性的假设,并建议直接揭示内在的目标歧视通过歧视性聚类的目标数据。我们使用结构源正则化来约束聚类解决方案,该正则化取决于我们假设的结构域相似性。在技术上,我们使用基于深度网络的判别聚类的灵活框架,该框架最小化网络的预测标签分布与引入的辅助标签分布之间的KL分歧;将辅助分布替换为由源数据的地面真实标签形成的辅助分布,通过联合网络训练的简单策略实现结构源正则化。我们将我们提出的方法称为结构正则化深度聚类(SRDC),其中我们还通过中间网络特征的聚类来增强目标区分,并通过对分歧较小的源示例的软选择来增强结构正则化。仔细的消融研究显示了我们提出的SRDC的有效性。值得注意的是,没有显式的域对齐,SRDC在三个UDA基准测试中优于所有现有的方法。
2020-03-19 cs.CV
Progressive Sub-Graph Clustering Algorithm for Semi-Supervised Domain Adaptation Speaker Verification
Institute of Acoustics, Chinese Academy of Sciences(中国科学院声学研究所);University of Chinese Academy of Sciences(中国科学院大学)
提出一种基于多模型投票和双高斯评估的渐进式子图聚类算法(PGMVG),通过构建多模型k近邻图和投票机制生成高置信度边,迭代增加k并评估合并子类,有效解决半监督领域自适应说话人验证问题。
2023-05-22 cs.LG cs.SD eess.AS
Towards Uncovering the Intrinsic Data Structures for Unsupervised Domain Adaptation using Structurally Regularized Deep Clustering
South China University of Technology(华南理工大学);University of Surrey(萨里大学)
无监督领域自适应(Unsupervised domain adaptation,UDA)是指在源域中有标记数据的分布偏离目标域的情况下,学习对目标域中无标记数据进行预测的分类模型。主流的UDA方法努力学习与域对齐的特征,使得在源特征上训练的分类器可以很容易地应用于目标特征。虽然已经取得了令人印象深刻的结果,这些方法有一个潜在的风险,破坏了内在的数据结构的目标歧视,提出了一个问题,特别是在归纳设置的UDA任务的泛化。为了解决这个问题,我们的动机是跨域结构相似性的UDA假设,并建议通过约束聚类直接揭示内在的目标歧视,其中我们使用结构源正则化来约束聚类解决方案,该正则化依赖于相同的假设。从技术上讲,我们提出了一种结构正则化深度聚类的混合模型,它将目标数据的正则化判别聚类与生成聚类相结合,因此我们将我们的方法称为H-SRDC。我们的混合模型基于一个深度聚类框架,该框架最大限度地减少了网络预测分布与辅助分布之间的Kullback-Leibler分歧,在该框架中,我们通过学习域共享分类器和聚类中心来实施结构正则化。通过丰富的结构相似性假设,我们能够扩展H-SRDC的像素级UDA任务的语义分割。我们进行了广泛的实验,七UDA基准的图像分类和语义分割。在没有明确的特征对齐的情况下,我们提出的H-SRDC在归纳和转换设置下都优于所有现有的方法。我们在https://github.com/huitan…
2021-04-08 cs.CV cs.LG stat.ML
Universal Domain Adaptation through Self Supervision
Boston University(波士顿大学);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室)
无监督领域自适应方法传统上假设所有源类别都存在于目标域中。在实践中,很少有人知道这两个领域之间的类别重叠。虽然一些方法使用部分或开放集合类别来解决目标设置,但它们假设特定设置是先验已知的。我们提出了一个更普遍适用的领域自适应框架,可以处理任意的类别转移,称为域自适应邻域聚类通过熵优化(DANCE)。DANCE结合了两个新颖的想法:首先,由于我们不能完全依赖于源类别来学习目标的区别特征,我们提出了一种新的邻域聚类技术,以自监督的方式学习目标域的结构。其次,我们使用基于熵的特征对齐和拒绝来将目标特征与源特征对齐,或者基于它们的熵将它们拒绝为未知类别。我们通过大量的实验表明,DANCE在开集,开部分和部分领域自适应设置上优于基线。可在https://github.com/VisionLearningGroup/DANCE上获得实现。
2020-10-06 cs.CV
High-order Neighborhoods Know More: HyperGraph Learning Meets Source-free Unsupervised Domain Adaptation
Ocean University of China(中国海洋大学);University of Southampton(南安普顿大学);University of Portsmouth(朴茨茅斯大学)
针对无源无监督域适应中成对关系挖掘结构信息不足、聚类忽略域偏移的问题,提出基于超图学习的方法,构建含自环策略的超边融合语义与域偏移信息,经多数据集验证性能优于现有最优方法。
2024-05-11 cs.CV
Unsupervised Domain Adaptation with Dynamic Clustering and Contrastive Refinement for Gait Recognition
School of Computer Engineering and Science, Shanghai University(上海大学计算机工程与科学学院);School of Electronics and Computer Science, University of Southampton(南安普顿大学电子与计算机科学学院)
提出GaitDCCR模型,通过动态聚类参数与权重质心优化聚类,并结合基于置信度的伪标签精炼与对比教师模块减少噪声伪标签影响,显著提升无监督步态识别性能。
2025-04-06 cs.CV
Cluster-to-adapt: Few Shot Domain Adaptation for Semantic Segmentation across Disjoint Labels
University of California San Diego(加州大学圣地亚哥分校)
跨由相同类别组成的数据集的语义分割的领域自适应最近已经取得了一些成功。然而,更一般的情况是源数据集和目标数据集对应于不重叠的标签空间。例如,分割数据集中的类别根据环境或应用程序的类型而变化很大,但共享许多有价值的语义关系。现有的方法的基础上的特征对齐或差异最小化不考虑这种类别的转变。在这项工作中,我们提出了一种基于聚类的计算高效的方法,用于在具有完全不同但可能相关的类别的分割数据集上进行领域自适应。我们表明,这样的聚类目标在变换后的特征空间中强制执行,用于自动选择跨源和目标域的类别,这些类别可以对齐以提高目标性能,同时防止不相关类别的负转移。我们证明了我们的方法的有效性,通过实验上的挑战性问题的室外到室内的适应语义分割在Few-Shot以及zero-shot设置,与现有的方法和基线在所有情况下的性能的一致改进。
2022-08-04 cs.CV cs.LG
Attracting and Dispersing: A Simple Approach for Source-free Domain Adaptation
Computer Vision Center, Universitat Autonoma de Barcelona(巴塞罗那自治大学计算机视觉中心);Nankai University(南开大学);Huawei Kirin Solution(华为麒麟解决方案部门)
提出了一种简单有效的无源领域自适应方法。将SFDA视为无监督聚类问题,并遵循特征空间中的局部邻居应该比其他特征具有更多相似预测的直觉,我们建议优化预测一致性的目标。该目标鼓励特征空间中的局部邻域特征具有相似的预测,而特征空间中更远的特征具有不同的预测,从而同时实现有效的特征聚类和聚类分配。为了有效的训练,我们寻求优化目标的上限,得到两个简单的项。从区分度和多样性的角度,对领域自适应、无源领域自适应和对比学习等领域的现有方法进行了比较。实验结果证明了该方法的优越性,为SFDA今后的研究提供了一个简单而有力的基础。我们的方法也可以适用于无源开集和部分集DA,这进一步显示了我们的方法的推广能力。代码可在https://github.com/Albert0147/AaD_SFDA上找到。
2022-10-03 cs.CV cs.LG
Unsupervised Domain Adaptation in Person re-ID via k-Reciprocal Clustering and Large-Scale Heterogeneous Environment Synthesis
University of Waterloo(滑铁卢大学);Sportlogiq(Sportlogiq公司)
计算机视觉中的一个持续的主要挑战是人员重新识别的任务,其目标是在不同的、非重叠的相机视图中匹配个体。虽然最近已经通过使用深度神经网络的监督学习取得了成功,但由于需要大规模的定制数据注释,这种方法限制了广泛采用。因此,最近一直关注无监督学习方法以减轻数据注释问题;然而,与监督学习方法相比,文献中的当前方法具有有限的性能,并且在新环境中采用的适用性有限。在本文中,我们解决了上述的挑战,在现实世界中,实际的情况下,通过引入一种新的,无监督的领域自适应方法的人重新识别的人重新识别。这是通过引入:i)用于无监督领域自适应(ktCUDA)的k-倒数轨迹片段聚类(用于在目标领域上生成伪标签),以及ii)由大规模异构独立源环境组成的合成异构RE-id领域(SHRED)(用于提高对广泛多样性的目标环境的鲁棒性和适应性)来实现的。在四个不同的图像和视频基准数据集上的实验结果表明,与现有的最先进的方法相比,所提出的ktCUDA和SHRED方法在重新识别性能方面平均提高了+5.7 mAP,并且对不同类型的环境具有更好的适应性。
2020-01-14 cs.CV
Clustering-Based Validation Splits for Model Selection under Domain Shift
Institute of Sound and Vibration Research(声学与振动研究所);University of Southampton(南安普顿大学)
本文提出基于核k均值聚类和线性规划的验证集划分方法,通过最大化训练集与验证集间的MMD来提升域偏移下的模型选择性能。
2025-08-17 cs.CV cs.LG
Adaptive Betweenness Clustering for Semi-Supervised Domain Adaptation
The University of Hong Kong(香港大学);Sun Yat-sen University(中山大学);Research Institute of Sun Yat-sen University in Shenzhen(中山大学深圳研究院)
本文提出G-ABC半监督域适应方法,通过异构图精化与自适应介数聚类传播跨域标签语义,并在三个基准上优于现有方法。
2024-01-21 cs.CV
Clustering-Enhanced Domain Adaptation for Cross-Domain Intrusion Detection in Industrial Control Systems
University of Malaya(马来亚大学)
本文提出一种增强聚类的领域适应方法,用于工业控制系统跨领域入侵检测,通过特征迁移学习和聚类增强策略提升检测准确性与稳定性。
2026-04-14 cs.AI cs.CR cs.LG
Domain Camera Adaptation and Collaborative Multiple Feature Clustering for Unsupervised Person Re-ID
Tongji University(同济大学)
针对无监督行人重识别中跨域泛化、多粒度信息不足及确认偏差问题,提出结合域相机自适应、协同伪重标注与CMFC多特征聚类的方法,并在两个基准上取得有竞争力的结果。
2024-06-17 cs.CV
Collaborate to Adapt: Source-Free Graph Domain Adaptation via Bi-directional Adaptation
National University of Singapore(新加坡国立大学);Zhejiang University(浙江大学);Alibaba Group(阿里巴巴集团);Zhejiang Lab(之江实验室);Hangzhou Yugu Technology Co., Ltd.(杭州玉谷科技有限公司)
针对无法访问有标签源图的无监督图域适应问题,提出 GraphCTA 范式,通过模型适应与图适应的双向协作循环提升目标图性能,并在多个数据集上显著优于无源基线。
2024-03-03 cs.AI cs.LG
Target Semantics Clustering via Text Representations for Robust Universal Domain Adaptation
University of Science and Technology of China(中国科学技术大学);Institute of Artificial Intelligence, Hefei Comprehensive National Science Center(合肥综合性国家科学中心人工智能研究院)
本文提出 TASC 方法,通过在离散文本表示空间中搜索目标语义中心,并结合 UniMS 评分函数,实现鲁棒且通用的域适应,在多个基准上取得最优性能。
2025-06-04 cs.CV
Augmented Contrastive Clustering with Uncertainty-Aware Prototyping for Time Series Test Time Adaptation
Nanjing University of Aeronautics and Astronautics(南京航空航天大学);Technology Innovation Institute(技术创新研究院);Institute for Infocomm Research, Agency for Science Technology and Research (A*STAR)(新加坡科技研究局信息通信研究所);Centre for Frontier AI Research, Agency for Science Technology and Research (A*STAR)(新加坡科技研究局前沿人工智能研究中心);South China University of Technology(华南理工大学)
本文提出ACCUP方法,通过增强集成、不确定性感知原型、熵比较方案和增强对比聚类,解决时间序列测试时自适应的时序动态建模与伪标签噪声问题,在多个数据集上验证了其有效性和泛化能力。
2025-01-01 cs.AI cs.LG
Exploiting Inter-Sample Affinity for Knowability-Aware Universal Domain Adaptation
Shandong University(山东大学);University of Electronic Science and Technology of China(电子科技大学);Cardiff University(卡迪夫大学)
针对通用域适应中现有方法忽略已知与未知样本间亲和性的问题,提出利用样本间亲和性的新型框架,通过可感知性标注方案和辅助损失优化,在四个公开数据集上性能超越现有最优方法。
2023-08-22 cs.CV
GLC++: Source-Free Universal Domain Adaptation through Global-Local Clustering and Contrastive Affinity Learning
School of Computer Science and Technology, Tongji University(同济大学计算机科学与技术学院);School of Automotive Engineering, Tongji University(同济大学汽车工程学院);Faculty of Computer Science, Chemnitz University of Technology(化学工业大学计算机科学学院);Department of Computer Science, Shanghai Jiao Tong University(上海交通大学计算机科学系);College of Computing and Data Science, Nanyang Technological University(南洋理工大学计算与数据科学学院);School of Computer Science and Technology, Key Laboratory of Embedded System and Service Computing, Ministry of Education, Tongji University(同济大学计算机科学与技术学院、教育部嵌入式系统与服务计算重点实验室)
针对 SF-UniDA 中已知类分类与未知类分离问题,提出 GLC 及融合对比亲和学习的 GLC++,在 VisDA、Office-Home 等场景显著提升性能。
2025-07-26 cs.AI cs.CV cs.LG
Structural Alignment Improves Graph Test-Time Adaptation
Georgia Tech(佐治亚理工学院);UIUC(伊利诺伊大学香槟分校)
本文提出结构对齐方法,通过在推理时调整图结构来提升图测试时间适应性能,无需重新训练,有效应对分布偏移问题。
2026-05-10 cs.LG
Autonomous Cross Domain Adaptation under Extreme Label Scarcity
Nanyang Technological University(南洋理工大学);University of South Australia(南澳大学);Monash University(莫纳什大学);Singapore Institute of Manufacturing Technology, A*Star(新加坡科技研究局新加坡制造技术研究院)
跨域多流分类是一个具有挑战性的问题,要求快速的领域自适应,以处理不同的,但相关的流在永无止境的和快速变化的环境。尽管现有的多流分类器假设在目标流中没有标记的样本,但是它们仍然产生昂贵的标记成本,因为它们需要源流的完全标记的样本。针对跨域多流分类问题中的标签短缺问题,提出了一种新的分类方法,即在处理运行前只提供很少的源数据流标签样本。我们的解决方案,即学习流处理部分地面真理(LEOPARD),是建立在一个灵活的深度聚类网络,其隐藏节点,层和集群的添加和删除动态变化的数据分布。深度聚类策略的基础是同时进行特征学习和聚类技术,从而产生聚类友好的潜在空间。领域自适应策略依赖于对抗性领域自适应技术,其中特征提取器被训练为欺骗对源流和目标流进行分类的领域分类器。我们的数值研究表明LEOPARD的有效性,它提供了改进的性能相比,突出的算法在15的24例。LEOPARD的源代码在\url{https://github.com/wengweng001/LEOPARD.git}中共享,以便进一步研究。
2022-09-04 cs.AI cs.LG
Contradictory Structure Learning for Semi-supervised Domain Adaptation
Northeastern University(东北大学);Boston University(波士顿大学)
当前的对抗性自适应方法试图对齐跨域特征,然而两个挑战仍未解决:1)条件分布失配和2)决策边界向源域的偏差。为了解决这些挑战,我们提出了一个新的框架,半监督领域自适应通过统一的学习相反的结构(UODA)。UODA由一个生成器和两个分类器组成(即,源散射分类器和目标聚类分类器),它们被训练用于矛盾的目的。目标聚类分类器试图对目标特征进行聚类,以提高类内密度,扩大类间分歧。同时,设计了源散射分类器,对源特征进行散射,以增强决策边界的平滑性。通过源特征扩展和目标特征聚类过程的交替,目标特征被很好地包围在相应源特征的扩张边界内。该策略可以使跨域特征同时精确对准源极偏置。此外,为了克服训练过程中的模型崩溃,我们通过对抗性训练范式逐步更新特征距离的度量及其表示。在DomainNet和家庭数据集的基准上进行的大量实验表明,我们的方法优于最先进的方法。
2021-02-14 cs.CV
Exploring Category-Agnostic Clusters for Open-Set Domain Adaptation
JD AI Research(京东人工智能研究院);City University of Hong Kong(香港城市大学)
无监督领域自适应近年来受到了广泛的关注。大多数现有的作品处理闭集场景,假设源和目标域共享完全相同的类别。然而,在实践中,目标域通常包含在源域中看不见的类的样本(即,未知类)。领域自适应从闭集到这种开集情形的扩展并不是微不足道的,因为不期望未知类中的目标样本与源对齐。在本文中,我们解决这个问题,通过增加国家的最先进的领域自适应技术,自集成,与类别不可知的集群在目标域。具体来说,我们提出了自集成与类别不可知的集群(SE-CC)-一种新的架构,引导领域自适应与特定于目标域的类别不可知的集群的额外指导。这些聚类信息提供了特定领域的视觉线索,促进了闭集和开集场景的自集成的推广。从技术上讲,首先对所有未标记的目标样本进行聚类,以获得类别不可知的聚类,这些聚类揭示了目标领域特有的底层数据空间结构。利用聚类分支来确保学习的表示通过将聚类上的估计分配分布与每个目标样本的固有聚类分布相匹配来保留这种底层结构。此外,SE-CC增强了互信息最大化的学习表示。在Office和VisDA数据集上进行了开集和闭集领域自适应的广泛实验,并报告了与最先进方法相比的优越结果。
2020-06-11 cs.CV
Time and Frequency Synergy for Source-Free Time-Series Domain Adaptations
University of South Australia(南澳大学);Institut Teknologi Sepuluh Nopember(十十一月技术学院)
针对无源时间序列领域自适应问题,提出TFDA方法,通过时频双分支网络、邻域伪标签、对比学习、自蒸馏和课程学习提升跨域适应性能,实验验证其明显优于现有方法。
2024-10-23 cs.AI cs.LG
Learning to cluster in order to transfer across domains and tasks
Georgia Institute of Technology(佐治亚理工学院);Georgia Tech Research Institute(佐治亚理工学院研究院)
本文介绍了一种新的方法来执行跨领域和任务的迁移学习,制定它作为一个学习集群的问题。关键的见解是,除了特征之外,我们还可以传递相似性信息,这足以学习相似性函数和聚类网络,以执行领域自适应和跨任务迁移学习。我们首先将分类信息简化为成对约束,只考虑两个实例是否属于同一个类。这种相似性是类别不可知的,并且可以使用相似性网络从源域中的数据中学习。然后,我们提出了两种新的方法来执行迁移学习使用此相似性函数。首先,对于无监督的领域自适应,我们设计了一个新的损失函数,以规范化分类与约束的聚类损失,从而学习聚类网络与传输的相似性度量生成的训练输入。第二,对于跨任务学习(即,无监督聚类与看不见的类别),我们提出了一个框架来重建和估计语义集群的数量,再次使用聚类网络。由于相似性网络是嘈杂的,关键是使用一个强大的聚类算法,我们表明,我们的配方是更强大的替代约束和无约束的聚类方法。使用这种方法,我们首先展示了在Omniglot和ImageNet上应用的具有挑战性的跨任务问题的最新结果。我们的研究结果表明,我们可以重建语义集群具有较高的准确性。然后,我们使用Office-31和SVHN-MNIST任务中的图像评估跨域传输的性能,并在两个数据集上呈现最高精度。我们的方法不显式地处理域差异。如果我们结合领域自适应损失,则显示出进一步的改进。
2018-03-17 cs.AI cs.CV cs.LG
Inter-Domain Mixup for Semi-Supervised Domain Adaptation
Sun Yat-sen University(中山大学);The University of Hong Kong(香港大学)
针对半监督域适应中跨域特征对齐不充分导致的标签不匹配问题,提出 IDMNE,通过域间 Mixup 融合标签信息并结合邻域扩展利用高置信伪标签,在多个基准上显著提升准确率。
2024-01-21 cs.CV
Pseudo-Labeling Curriculum for Unsupervised Domain Adaptation
为了学习目标区分表示,使用伪标签是一种简单而有效的无监督领域自适应方法。然而,虚假伪标签的存在,这可能会对学习目标表示产生不利影响,仍然是一个重大挑战。为了克服这个问题,我们提出了一个伪标签课程的基础上,基于密度的聚类算法。由于具有高密度值的样本更有可能具有正确的伪标签,因此我们在早期阶段利用这些子集来训练我们的目标网络,并在后期阶段利用具有低密度值的数据子集。我们可以逐步提高网络生成伪标签的能力,因此这些带有伪标签的目标样本对于训练我们的模型是有效的。此外,我们提出了一个聚类约束,以提高学习的目标特征的区分能力。我们的方法在三个基准测试中实现了最先进的性能:Office-31,imageCLEF-DA和MPEG-Home。
2019-08-01 cs.CV
Cross-Resolution Semantic Learning for Graph Domain Adaptation
针对图域适应中语义分辨率偏移导致的负迁移问题,提出CReSL方法,通过多分辨率表示库、跨分辨率原型迁移与目标嫁接实现知识迁移,在多数图域适应设置下优于基线。
2026-08-03 cs.LG
Variational Wasserstein Clustering
Arizona State University(亚利桑那州立大学);Stony Brook University(石溪大学)
我们提出了一种新的聚类方法的基础上最优运输。我们解决了最佳运输与变分原理,并调查使用功率图作为运输计划聚合成一个固定数量的集群任意域。我们迭代驱动质心通过目标域,同时保持最小的聚类能量,通过调整功率图。因此,我们同时追求聚类和质心和目标域之间的Wasserstein距离,从而得到一个保持度量的映射。我们展示了使用我们的方法在领域自适应,重新网格化,和表示学习的合成和真实数据。
2018-07-26 cs.CV
Federated Unsupervised Domain Adaptation for Face Recognition
S-Lab, NTU(新加坡南洋理工大学S实验室);NTU(新加坡南洋理工大学);SenseTime Research(商汤科技研究院)
在给定源域中的标记数据的情况下,无监督的领域自适应已被广泛地用于对目标域中的未标记数据(其数据分布是不同的)进行模型泛化。然而,现有的工作是不适用于人脸识别的隐私约束下,因为它们需要域之间的敏感的人脸图像共享。为了解决这个问题,我们提出了联邦无监督领域自适应的人脸识别,FedFR。FedFR联合优化了基于聚类的领域自适应和联邦学习,以提高目标领域的性能。具体来说,对于目标域中的未标记数据,我们增强了距离约束的聚类算法,以提高预测伪标签的质量。此外,我们提出了一种新的域约束损失(DCL)规范源域训练联邦学习。在一个新构建的基准上进行的大量实验表明,在不同的评估指标上,FedFR在目标域上的性能优于基线和经典方法3%到14%。
2022-04-09 cs.AI cs.CV cs.DC
Normalized Wasserstein Distance for Mixture Distributions with Applications in Adversarial Learning and Domain Adaptation
University of Maryland(马里兰大学)
了解适当的分布之间的距离措施是在几个学习任务,如生成模型,领域自适应,聚类等的核心在这项工作中,我们专注于混合分布,自然出现在几个应用领域的数据包含不同的子群。对于混合分布,已建立的距离度量(如Wasserstein距离)不考虑不平衡的混合比例。因此,即使两个混合分布具有相同的混合成分但不同的混合比例,它们之间的Wasserstein距离也会很大。这通常会导致混合分布的基于距离的学习方法中出现不期望的结果。本文通过引入归一化Wasserstein测度来解决这个问题。关键思想是引入混合比例作为优化变量,有效地规范化Wasserstein公式中的混合比例。使用建议的归一化Wasserstein测量导致显着的性能增益与不平衡的混合比例的混合物分布相比,香草Wasserstein距离。我们证明了所提出的措施的有效性,在GANs,领域自适应和对抗聚类在几个基准数据集。
2019-10-29 cs.LG stat.ML
An Adaptive Resonance Theory-based Topological Clustering Algorithm with a Self-Adjusting Vigilance Parameter
Graduate School of Informatics, Department of Core Informatics, Osaka Metropolitan University(信息学研究生学校,核心信息学系,大阪 metropolitan 大学);Faculty of Environmental, Life, Natural Science and Technology, Okayama University(环境、生命、自然科学和技术学院,广岛大学);Guangdong Provincial Key Laboratory of Brain-inspired Intelligent Computation, Department of Computer Science and Engineering, Southern University of Science and Technology(脑启发智能计算广东省重点实验室,计算机科学与工程系,南方科技大学)
本文提出一种基于自适应共振理论的拓扑聚类算法,通过自调整警觉参数提升动态环境下的聚类稳定性与持续学习能力。
2025-12-08 cs.LG stat.ML
Robust Character Labeling in Movie Videos: Data Resources and Self-supervised Feature Adaptation
University of Southern California(南加州大学)
鲁棒的人脸聚类是实现媒体中视觉角色刻画的计算理解的重要一步。长格式内容的人脸聚类是具有挑战性的,因为外观的变化和缺乏支持的大规模标记数据。我们在本文中的工作集中在这个问题的两个关键方面:缺乏特定领域的训练或基准数据集,以及将在Web图像上学习的人脸嵌入适应于长格式内容,特别是电影。首先,我们展示了一个包含240部好莱坞电影中超过169,000个面部轨迹的数据集,其中包含关于一对面部轨迹是否属于相同或不同角色的弱标签。我们提出了一个离线算法的基础上最近邻搜索嵌入空间挖掘这些轨道的硬例子。然后,我们研究三重损失和基于多视图相关性的方法,以适应人脸嵌入硬的例子。我们的实验结果突出了弱标记数据对特定领域特征自适应的有用性。总的来说,我们发现,基于多视图相关性的自适应产生更多的歧视性和鲁棒性的人脸嵌入。它在下游人脸验证和聚类任务上的性能与该领域的最新成果相当。我们还提出了帆船电影字符基准语料库开发,以增强现有的基准。它由不同种族的演员组成,并为后续的错误分析提供了面部质量标签。我们希望在这项工作中开发的大规模数据集可以进一步推进视频中的自动字符标记。所有资源都可以在https://sail.usc.edu/~ccmi/multiface上免费获得。
2022-02-25 cs.CV eess.IV
Semi-Supervised and Active Few-Shot Learning with Prototypical Networks
The Curious AI Company(好奇人工智能公司)
我们考虑半监督的Few-Shot分类问题,其中分类器需要使用几个标记的示例和(可能是许多)未标记的示例来适应新的任务。我们提出了一个聚类的方法来解决这个问题。使用原型网络提取的特征使用$K$ -均值进行聚类,并使用少数标记示例指导聚类过程。我们注意到,在许多实际应用中,通过用户反馈请求少量标签,可以显著提高自适应性能。我们展示了良好的性能,使用图像数据的主动适应策略。
2018-04-25 cs.LG stat.ML
NCAGC: A Neighborhood Contrast Framework for Attributed Graph Clustering
Southeast University(东南大学);National Astronomical Observatory, Chinese Academy of Sciences(中国科学院国家天文台);Nanjing Tech University(南京工业大学)
针对属性图聚类中表征学习与聚类分离、过度依赖数据增强及忽略聚类对比信息的问题,本文提出NCAGC框架。该框架通过邻域对比模块和对比自表达模块在统一框架内联合优化,使节点表征面向聚类,在多个数据集上取得优异性能。
2022-07-30 cs.CV
Contextually Affinitive Neighborhood Refinery for Deep Clustering
ShanghaiTech University(上海科技大学);Shanghai Engineering Research Center of Intelligent Vision and Imaging(上海智能视觉与成像工程技术研究中心)
本文针对深度聚类中局部邻域监督有限且边界邻居含噪的问题,提出 ConAff 在线重排序与渐进放宽边界过滤,以增强跨视图邻域一致性并取得最优性能。
2024-03-04 cs.CV
A Robust Fuzzy Clustering Technique with Spatial Neighborhood Information for Effective Medical Image Segmentation
National College of Engineering(国立工程学院);Sathakathullah Appa College(萨塔卡图拉·阿帕学院);Manonmaniam Sundaranar University(马诺尼亚姆·孙达拉纳大学)
医学图像分割需要一种高效、鲁棒的抗噪声分割算法。传统的模糊c均值算法是一种有效的聚类算法,用于医学图像分割。但是FCM非常容易受到噪声的影响,因为它只使用强度值来聚类图像。提出了一种新的有效的模糊空间c均值聚类算法,该算法对噪声具有鲁棒性。该算法利用模糊空间信息计算隶属度。使用所提出的ISFCM算法对输入图像进行聚类。传统的FCM和建议的ISFCM之间进行了比较研究。所提出的方法被发现是优于传统的FCM。
2010-04-10 cs.CV
On Clustering and Embedding Mixture Manifolds using a Low Rank Neighborhood Approach
University of Massachusetts, Amherst(马萨诸塞大学阿默斯特分校)
来自紧密(非线性)混合物的样品通常被建模为从光滑流形中提取。数据包含具有一些共同组成材料的多种紧密混合物的情况可以被认为是共享边界的流形。处理这些数据的两个重要步骤是(i)识别(聚类)数据中存在的不同混合流形,以及(ii)通过将每个混合流形映射到某个低维欧氏空间(嵌入)来消除数据中存在的非线性。流形聚类和嵌入技术似乎是一个理想的工具,这项任务,但目前国家的最先进的算法表现不佳的高光谱数据,特别是在嵌入任务。我们提出了一种新的基于重构的算法,用于改进混合流形的聚类和嵌入。该算法试图将每个目标点重建为其最近邻居的仿射组合,并对邻居进行额外的秩惩罚,以确保在重建中仅使用与目标点相同的流形上的邻居。使用这种技术生成的重建矩阵是块对角的,可以用于聚类(使用谱聚类)和嵌入。在各种模拟和真实的混合数据集上显示了算法相对于其竞争对手的改进性能。
2017-08-12 cs.CV
Revisiting Realistic Test-Time Training: Sequential Inference and Adaptation by Anchored Clustering
South China University of Technology(华南理工大学);Institute for Infocomm Research(资讯通信研究院);Peng Cheng Laboratory(鹏城实验室)
在目标域数据上部署模型需要适应分布偏移。测试时训练(TTT)出现作为一个现实的情况下,访问完整的源域数据是不可用的,需要对目标域的即时推理这种适应的解决方案。尽管在TTT方面做了很多努力,但实验设置仍存在混乱,从而导致不公平的比较。在这项工作中,我们首先重新审视TTT的假设和分类TTT协议的两个关键因素。在多个协议中,我们采用了一个现实的顺序测试时训练(sTTT)协议,根据该协议,我们进一步开发了一个测试时锚定聚类(TTAC)方法,使更强的测试时特征学习。TTAC发现源域和目标域中的聚类,并将目标聚类与源聚类进行匹配,以提高泛化能力。提出了伪标签过滤和迭代更新的方法来提高锚定聚类的有效性和效率。我们证明,在所有TTT协议TTAC始终优于国家的最先进的方法在六个TTT数据集。我们希望这项工作将提供一个公平的基准TTT方法和未来的研究应在各自的协议进行比较。演示代码可在https://github.com/Gorilla-Lab-SCUT/TTAC上获得。
2022-10-14 cs.CV cs.LG
Revisiting Realistic Test-Time Training: Sequential Inference and Adaptation by Anchored Clustering Regularized Self-Training
I2R, A-STAR(A*STAR信息通信研究所);South China University of Technology(华南理工大学);Southwest Jiaotong University(西南交通大学)
在目标域数据上部署模型需要适应分布偏移。测试时训练(TTT)出现作为一个现实的情况下,访问完整的源域数据是不可用的,和即时推理的目标域上的这种适应的解决方案。尽管在TTT方面做了很多努力,但实验设置仍存在混乱,从而导致不公平的比较。在这项工作中,我们首先重新审视TTT的假设和分类TTT协议的两个关键因素。在多个协议中,我们采用了一个现实的顺序测试时训练(sTTT)协议,根据该协议,我们开发了一个测试时锚定聚类(TTAC)方法,使更强的测试时特征学习。TTAC发现源域和目标域中的簇,并将目标簇与源簇进行匹配,以提高自适应性。当源域信息是严格缺席(即无源),我们进一步开发了一种有效的方法来推断锚定聚类的源域分布。最后,自我训练~(ST)在从未标记数据中学习方面取得了巨大的成功,并且我们经验性地指出,单独将ST应用于TTT容易产生确认偏差。因此,一个更有效的TTT的方法,引入了正则化的自训练与锚定聚类,改进的模型被称为TTAC++。我们证明,在所有TTT协议下,TTAC++在五个TTT数据集上的性能始终优于最先进的方法,包括损坏的目标域,选定的硬样本,合成到真实的自适应和对抗攻击的目标域。我们希望这项工作将提供一个公平的TTT方法的基准,未来的研究应在各自的协议进行比较。
2023-03-20 cs.CV cs.LG
Decoupled Contrastive Multi-View Clustering with High-Order Random Walks
Sichuan University(四川大学)
针对多视图聚类中的假负例与假正例问题,提出DIVIDE,通过高阶随机游走全局识别数据对,并在不同嵌入空间进行视图间和视图内对比学习。
2024-01-18 cs.CV
Neighborhood Contrastive Learning for Novel Class Discovery
University of Trento(特伦托大学);Xiamen University(厦门大学);Fondazione Bruno Kessler(布鲁诺·凯塞勒基金会)
在本文中,我们解决了新的类发现(NCD),在一组未标记的样本中发现新的类的任务,给定一个带有已知类的标记数据集。我们利用NCD的特点,建立一个新的框架,命名为邻域对比学习(NCL),学习判别表示,是重要的聚类性能。我们的贡献是双重的。首先,我们发现在标记集上训练的特征提取器生成表示,其中通用查询样本及其邻居可能共享同一个类。我们利用这一观察结果来检索和聚合伪正对与对比学习,从而鼓励模型学习更多的歧视性表示。其次,我们注意到大多数实例很容易被网络区分,对对比损失的贡献较小。为了克服这个问题,我们建议通过在特征空间中混合标记和未标记的样本来生成硬底片。我们的实验证明,这两个成分显着有助于聚类性能,并导致我们的模型以较大幅度优于最先进的方法(例如,CIFAR-100上的聚类准确率为+13%,ImageNet上为+8%)。
2021-06-20 cs.AI cs.CV cs.LG
Deep face recognition with clustering based domain adaptation
Beijing University of Posts and Telecommunications(北京邮电大学)
尽管深度卷积神经网络(CNN)在人脸识别任务中取得了很大进展,但这些模型在现实世界的任务中经常面临挑战,其中从互联网收集的训练图像与测试图像不同,因为不同的光照条件,姿势和图像质量。这些因素增加了训练(源域)和测试(目标域)数据库之间的域差异,使学习模型在应用中退化。同时,由于缺乏标记的目标数据,直接微调预学习模型变得棘手和不切实际。针对人脸识别中源域和目标域不共享任何类的情况,提出了一种基于聚类的领域自适应方法。我们的方法有效地学习区分目标特征对齐的特征域的全球,并在同一时间,区分目标集群的本地。具体而言,首先通过最小化全局域差异来减少域间隙,学习更可靠的聚类表示,然后应用简化的谱聚类方法在域不变特征空间中生成伪标签,最后学习区分性目标表示。在广泛使用的GBU、IJB-A/B/C和RFW数据库上进行的实验表明了该方法的有效性。GBU数据集的最新性能仅通过来自目标训练数据的无监督自适应来实现。
2022-05-27 cs.CV