Category Contrast for Unsupervised Domain Adaptation in Visual Tasks
Nanyang Technological University(南洋理工大学);Inception Institute of Artificial Intelligence(起源人工智能研究院)
近年来,无监督表示学习的实例对比取得了很大的成功。在这项工作中,我们探讨了无监督领域自适应(UDA)的实例对比学习的想法,并提出了一种新的类别对比技术(CaCo),引入语义先验的实例歧视视觉UDA任务。通过将实例对比学习视为字典查找操作,我们构建了一个语义感知的字典,其中每个目标样本被分配一个(伪)类别标签的基础上的类别先验的源样本和目标域的样本。这允许类别对比学习(在目标查询和类别级字典之间)用于类别区分但域不变的特征表示:相同类别的样本(来自源或目标域)被拉近,而不同类别的样本同时被推开。在多个视觉任务中进行了广泛的UDA实验(例如,分割、分类和检测)表明,与现有技术的方法相比,CaCo实现了优越的性能。实验还表明,CaCo是对现有UDA方法的补充,并可推广到其他学习设置,如无监督模型自适应,开集/部分集自适应等。
2022-03-17 cs.CV
Unsupervised Band Selection of Hyperspectral Images via Multi-dictionary Sparse Representation
Dalian University of Technology(大连理工大学);Shenyang Aerospace University(沈阳航空航天大学);University of Adelaide(阿德莱德大学)
高光谱图像具有比普通多光谱图像多得多的光谱波段。丰富的波段信息为海量应用提供了更为有利的条件。然而,光谱带维数的显著增加可能导致维数灾难,特别是对于分类应用。此外,由于水分蒸发、传感器噪声等因素的影响,原始图像立方体之间存在大量的冗余信息。波段选择是一种直接有效的去除冗余信息、降低谱维数的方法,可以降低计算复杂性,避免维数灾难。在本文中,我们提出了一种新的学习框架的基础上的思想稀疏表示的波段选择。更具体地,首先,每个带由其他带的线性组合近似地表示,然后原始带图像可以由多字典学习机制表示。因此,一组权重可以通过稀疏优化获得的所有波段。最后,如果特定波段在原始图像的表示中获得比其他波段更高的权重,则将选择特定波段。在三个广泛使用的高光谱数据集上的实验结果表明,该算法在高光谱图像分类中取得了较好的性能,与其他最先进的波段选择方法相比。
2018-02-20 cs.CV
Discriminative Clustering for Robust Unsupervised Domain Adaptation
Duke University(杜克大学)
无监督的领域自适应试图通过利用标记源数据集的信息来学习未标记目标域的不变和判别表示。我们建议通过同时学习紧密聚类的目标表示来提高目标域表示的区分能力,同时鼓励每个聚类被分配到一个独特的和不同的类。这种策略将负迁移的影响与源和目标表征之间的对抗性域匹配相结合。我们的方法是强大的源和目标标签分布的差异,因此适用于平衡和不平衡的领域自适应任务,并与一个简单的扩展,它也可以用于部分领域自适应。在多个领域自适应基准数据集上的实验表明,该方法在平衡、不平衡和部分领域自适应三种情况下均能获得最佳性能.
2019-05-30 cs.LG stat.ML
Unsupervised Domain Adaptation via Discriminative Manifold Embedding and Alignment
Sun Yat-Sen University(中山大学);JiaYing University(嘉应学院);Guangzhou University(广州大学)
无监督领域自适应能够有效地利用源域到无监督目标域的丰富信息。虽然深度学习和对抗策略在特征适应性方面取得了重要突破,但还有两个问题需要进一步探讨。首先,在目标域上硬分配的伪标签对固有的数据结构是有风险的。其次,深度学习中的分批训练方式限制了对全局结构的描述。本文提出了一个黎曼流形学习框架,以实现一致的可转移性和可区分性。对于第一个问题,该方法通过软标签在目标域上建立概率判别准则。此外,该标准扩展到第二个问题的全球近似计划,这种近似也是节省内存。利用流形度量对齐与嵌入空间兼容。理论上的误差界推导出,以方便对齐。通过大量的实验对提出的一致流形学习框架进行了研究,实验结果表明了一致流形学习框架的优越性。
2020-02-28 cs.CV cs.LG stat.ML
Unsupervised Domain Adaptation via Discriminative Manifold Propagation
Sun Yat-Sen University(中山大学);City University of Hong Kong(香港城市大学)
无监督领域自适应在将丰富的信息从标记的源域利用到未标记的目标域方面是有效的。虽然深度学习和对抗策略在特征适应性方面取得了重大突破,但仍有两个问题需要进一步研究。首先,在目标域上硬分配的伪标签是任意的并且容易出错,并且直接应用它们可能破坏固有的数据结构。其次,深度学习的批量训练限制了全局结构的表征。本文提出了一个黎曼流形学习框架,同时实现可迁移性和可区分性。对于第一个问题,该框架通过软标签在目标域上建立概率判别准则。基于预先建立的原型,这个标准扩展到第二个问题的全球近似计划。采用流形度量对齐,以兼容嵌入空间。推导了不同对准度量的理论误差界,用于构造性制导。所提出的方法可以用来解决一系列变种的领域自适应问题,包括香草和部分设置。大量的实验已经进行了调查的方法和比较研究显示的歧视性流形学习框架的优越性。
2020-08-23 cs.CV cs.LG stat.ML
Oracle Character Recognition using Unsupervised Discriminative Consistency Network
Beijing University of Posts and Telecommunications(北京邮电大学)
针对扫描甲骨文难标注、磨损及类间相似问题,提出融合伪标签、增强一致性和无监督迁移损失的域适应方法,在 Oracle-241 上达到最优性能。
2023-12-11 cs.CV
Learning transferable and discriminative features for unsupervised domain adaptation
Nanjing University(南京大学);Jiangnan University(江南大学)
虽然取得了显著的进展,但在没有任何标记数据的情况下,很难诱导出有监督的分类器。无监督的领域自适应能够通过将知识从标记的源域转移到未标记的目标域来克服这一挑战。可转移性和可区分性是表征特征表示的优越性的两个关键标准,以实现成功的领域自适应。在本文中,一种新的方法称为\textit{learning TransFerable and Discriminative Features for unsupervised domain adaptation}(TFDF)提出了这两个目标同时优化。一方面,进行分布对齐以减少域差异并学习更多的可传递表示。在再生核希尔伯特空间(RKHS)中,我们采用了一种新的统计量\textit{Maximum Mean and Covariance Discrepancy}(MMCD),它不仅能捕获一阶统计信息,还能捕获二阶统计信息,而不是采用仅捕获一阶统计信息的\textit{Maximum Mean Discrepancy}(MMD)来度量分布差异.另一方面,我们建议通过流形正则化探索局部判别信息,并通过最小化所提出的\textit{class confusion}目标来学习更多的判别特征,分别探索全局判别信息。我们将这两个目标集成到\textit{Structural Risk Minimization}(RSM)框架中,并学习域不变分类器。在5个真实数据集…
2021-06-26 cs.LG stat.ML
Hybrid CNN and Dictionary-Based Models for Scene Recognition and Domain Adaptation
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);CAS Center for Excellence in Brain Science and Intelligence Technology(中国科学院脑科学与智能技术卓越创新中心);National University of Singapore(新加坡国立大学)
卷积神经网络(CNN)在许多不同的视觉任务中取得了最先进的性能。从大规模训练数据集中学习,CNN特征比手工制作的特征更具区分力和准确性。此外,CNN特征也可以在不同的域之间转移。另一方面,传统的基于字典的特征(如BoW和SPM)包含更多的局部判别和结构信息,这些信息被隐式地嵌入到图像中。为了进一步提高性能,在本文中,我们提出了结合CNN与基于字典的模型的场景识别和视觉领域自适应。具体地,基于良好调整的CNN模型(例如,AlexNet和VGG Net),进一步构建了两种基于字典的表示,即中层局部表示(MLR)和卷积Fisher向量表示(CFV)。在MLR中,一种有效的两阶段聚类方法,即,对单个图像的部分进行加权空间和特征空间谱聚类,然后对所有图像的所有代表部分进行聚类,用于生成类混合或类特定部分字典。之后,部分字典用于与多尺度图像输入一起操作以生成中级表示。在CFV中,利用多尺度和尺度比例GMM训练策略来基于CNN的最后一个卷积层生成Fisher向量。通过融合MLR、CFV和全连通层的CNN特征的互补信息,在场景识别和领域自适应问题上可以达到最先进的性能。一个有趣的发现是,我们提出的混合表示(来自ImageNet上训练的VGG网络)也与GoogLeNet和/或VGG-11(在Place 205上训练)有很大的互补性。
2016-01-29 cs.CV
Unsupervised Domain Adaptation via Distilled Discriminative Clustering
South China University of Technology(华南理工大学);Peng Cheng Laboratory(鹏城实验室)
无监督领域自适应解决了在未标记的目标域中对数据进行分类的问题,给定共享公共标签空间但遵循不同分布的标记源域数据。最近的大多数方法采取显式对齐两个域之间的特征分布的方法。相应地,出于对域适应性的基本假设的动机,我们将领域自适应问题重新转换为目标数据的判别聚类,给出了密切相关的标记源数据提供的强特权信息。从技术上讲,我们使用的聚类目标的基础上的一个强大的变化的熵最小化,自适应过滤目标数据,一个软的费舍尔标准,以及通过质心分类的聚类排序。为了提取用于目标聚类的有区别的源信息,我们建议使用并行的监督学习目标在标记的源数据上联合训练网络。我们将我们的用于领域自适应的蒸馏判别聚类方法称为离散DA。我们还给出了几何直观,说明了如何组成目标的DisperterDA帮助学习类明智的纯,紧凑的特征分布。我们对五个流行的基准数据集进行了仔细的消融研究和广泛的实验,其中包括多源领域自适应。基于常用的骨干网络,DispersterDA优于现有的方法在这些基准。同样有趣的是,在我们的DisponterDA框架中,添加一个额外的损失项,显式地学习跨域对齐类级别的特征分布,这会损害自适应性能,尽管在不同的算法框架中需要进行更仔细的研究。
2023-02-23 cs.CV
Information-Theoretical Learning of Discriminative Clusters for Unsupervised Domain Adaptation
U. of Southern California(南加州大学)
我们研究了无监督的领域自适应问题,其目的是使在标记源域上训练的分类器适应未标记的目标域。许多现有的方法首先学习域不变特征,然后用它们构造分类器。我们提出了一种新的方法,共同学习两者。具体地,虽然该方法识别源域和目标域中的数据类似地分布的特征空间,但它也有区别地学习特征空间,优化信息理论度量作为目标域上的预期误分类误差的代理。我们展示了如何使用简单的基于梯度的方法有效地进行这种优化,以及如何在不需要来自目标域的任何标记数据的情况下交叉验证超参数。对目标识别和情感分析的基准任务的实证研究验证了我们的建模假设,并证明了我们的方法在分类精度上比竞争对手有显着的改进。
2012-06-27 cs.LG stat.ML
Transfer Learning from an Auxiliary Discriminative Task for Unsupervised Anomaly Detection
Center for Urban Science and Progress(城市科学与进步中心);New York University(纽约大学);Institute Of Design And Urbanism(设计与城市主义研究所);ITMO University(圣彼得堡国立信息技术机械与光学大学)
从移动网络等高维数据中进行无监督异常检测是一项具有挑战性的任务。如何从这些高维数据中提取特征是该领域的研究热点。本研究的目的是探讨网络分类学习到的特征在无监督异常检测中的可移植性。我们建议使用一个辅助分类任务提取特征,从无标记的数据通过监督学习,可用于无监督的异常检测。我们通过设计实验来检测来自纽约和台北的移动网络数据中的异常来验证这种方法,并将结果与PCA和自动编码器的传统无监督特征学习方法进行比较。我们发现,我们的特征学习方法对两个数据集都产生了最佳的异常检测性能,优于其他研究方法。这建立了这种方法的实用功能工程,它可以应用于其他类似性质的问题。
2019-12-05 cs.LG physics.soc-ph stat.ML
Discriminative Bayesian Dictionary Learning for Classification
The University of Western Australia(西澳大学)
我们提出了一种贝叶斯方法来学习数据稀疏表示的判别字典。所提出的方法推断概率分布的判别字典的原子使用贝塔过程。它还计算将类标签与学习的字典原子相关联的伯努利分布集。这种关联表示在类特定数据的扩展中字典原子的选择概率。此外,所提出的方法的非参数字符允许它推断字典的正确大小。我们利用上述伯努利分布分别学习线性分类器。分类器使用相同的分层贝叶斯模型的字典,我们沿着吉布斯抽样的分析推理解决方案。对于分类,首先在学习的字典上对测试实例进行稀疏编码,然后将代码馈送到分类器。我们使用五个公共数据集进行了人脸和动作识别以及对象和场景类别分类的实验,并将结果与最先进的判别稀疏表示方法进行了比较。实验表明,所提出的贝叶斯方法始终优于现有的方法。
2015-03-27 cs.CV cs.LG
Deep Discriminative Learning for Unsupervised Domain Adaptation
领域自适应方法的主要目的是将知识从源领域转移到具有相似但不同数据分布的目标领域。因此,为了正确地对未标记的目标域样本进行分类,标准方法是学习源域和目标域两者的共同表示,从而间接地解决在目标域中学习分类器的问题。然而,这样的方法不直接解决目标域中的分类任务。相比之下,我们提出了一种方法,直接解决了在未标记的目标域中学习分类器的问题。特别地,我们训练分类器以正确地分类训练样本,同时以无监督的方式对目标域中的样本进行分类。相应的模型被称为用于领域自适应的鉴别编码(DEDA)。我们表明,这种简单的方法执行无监督领域自适应确实是相当强大的。我们的方法在各种图像分类基准上实现了无监督自适应任务的最新结果。我们还在Amazon评论情感分类数据集中获得了领域自适应的最新性能。我们进行额外的实验时,源数据具有较少的标记的例子,也对zero-shot领域自适应任务,其中没有目标域样本用于训练。
2019-08-09 cs.LG stat.ML
Deep Micro-Dictionary Learning and Coding Network
University of Trento(特伦托大学);Hong Kong Polytechnic University(香港理工大学);Lingxi Artificial Intelligence Co., Ltd(灵汐人工智能有限公司);École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院);University of Oxford(牛津大学);Texas State University(得克萨斯州立大学)
在本文中,我们提出了一种新的深度微字典学习和编码网络(DDLCN)。DDLCN具有大多数标准的深度学习层(池化、完全、连接、输入/输出等)。但主要区别在于基本卷积层被新的复合字典学习和编码层所取代。字典学习层学习用于输入训练数据的过完备字典。在深层编码层,增加了局部性约束,以保证激活的字典基彼此接近。接下来,激活的字典原子被组装在一起,并传递到下一个复合字典学习和编码层。以这种方式,第一层中的激活原子可以由第二字典中更深的原子表示。直观地,第二个字典被设计为学习输入字典原子之间共享的细粒度组件。以这种方式,可以获得字典原子的更具信息性和区分性的低级表示。我们实证比较了建议的DDLCN与几种字典学习方法和深度学习架构。在四个流行的基准数据集上的实验结果表明,所提出的DDLCN实现了竞争力的结果相比,国家的最先进的方法。
2018-12-25 cs.CV
Discriminative and Geometry Aware Unsupervised Domain Adaptation
Shanghai Jiao Tong University(上海交通大学);Ecole Centrale de Lyon(里昂中央理工学院)
领域自适应(DA)的目标是在训练数据和测试数据之间推广学习模型,而不管它们的数据分布是否匹配。根据误差上界的理论估计,本文认为一个有效的DA方法应该:1)搜索一个共享的特征子空间,在这个子空间中,源数据和目标数据不仅像大多数现有DA方法那样在分布上是一致的,而且在不同类别的实例之间是有区别的; 2)在推断目标域上的数据标签时考虑底层数据流形的几何结构。与只关心源和目标之间的数据分布对齐的基准DA方法相比,我们导出了三种不同的DA模型,即CDDA,GA-DA和DGA-DA,以突出基于1)的接近但有区别的DA(CDDA),基于2)的几何感知DA(GA-DA),以及最后联合实现1)和2)的区别和几何感知DA(DGA-DA)的贡献。使用合成和真实数据,我们表明所提出的方法的有效性,始终优于最先进的DA方法超过36图像分类DA任务,通过6个流行的基准。我们进一步进行深入分析的建议DA方法在量化我们的DA模型的每个术语的贡献,并提供见解的建议DA方法在可视化真实和合成数据。
2017-12-28 cs.CV
Discriminative Feature Alignment: Improving Transferability of Unsupervised Domain Adaptation by Gaussian-guided Latent Alignment
University of British Columbia(不列颠哥伦比亚大学)
在这项研究中,我们专注于无监督的领域自适应问题,近似推理模型是从标记的数据域学习,并期望推广到未标记的数据域。无监督领域自适应的成功很大程度上依赖于跨领域特征对齐。以前的工作试图直接对齐潜在的功能分类器引起的差异。然而,一个共同的特征空间并不总是通过这种直接的特征对齐学习,特别是当一个大的域间隙存在。为了解决这个问题,我们引入了高斯引导的潜在对齐方法,在先验分布的指导下对齐两个域的潜在特征分布。以这种间接的方式,来自两个域的样本上的分布将在公共特征空间上构建,即,先验空间,这促进了更好的特征对齐。为了有效地将目标潜在分布与此先验分布对齐,我们还提出了一种新的不成对L1距离,利用编码器-解码器的公式。对九个基准数据集的广泛评估通过优于最先进的方法和所提出的方法的通用性,通过显着改善现有的工作,验证了优越的知识可转移性。
2020-08-09 cs.CV
A Probabilistic Framework for Discriminative Dictionary Learning
在本文中,我们解决了判别式字典学习(discriminative dictionary learning,缩写为RDL)的问题,其中稀疏线性表示和分类在概率框架中相结合。因此,单个判别字典和线性二进制分类器被联合学习。通过在MAP设置中编码稀疏表示和判别分类模型,我们提出了一个通用的优化框架,该框架允许在忠实表示和准确分类之间进行数据驱动的权衡。与以前的工作相反,我们的学习方法能够包含各种各样的分类成本函数(包括流行的提升方法中使用的那些),同时避免了对相关优化技术的需求。我们表明,可以解决的更新序列,利用著名的和研究的稀疏编码和字典学习算法从文献中的。为了验证我们的EQUIPMENT框架,我们将其应用于数字分类和人脸识别,并在标准基准上进行测试。
2011-09-12 cs.CV cs.LG
Task-Discriminative Domain Alignment for Unsupervised Domain Adaptation
Rutgers University(罗格斯大学);Samsung AI Center(三星人工智能中心)
领域自适应(DA)是一种将在一个领域(源)上学习到的任务模型有效地适应于其他相关但不同的领域(目标)的过程,没有或只有最少的再训练,通常使用源到目标流形对齐的过程来完成。然而,这一过程往往导致不令人满意的适应性能,部分原因是它忽略了特定于任务的数据结构。在本文中,我们提高了DA的性能,通过引入一个歧视性的差异措施,利用辅助信息在源和目标域,以更好地对齐源和目标分布。具体来说,我们利用与不同任务相关联的单个数据流形内的内聚聚类结构来改进对齐。这种结构在源中是显式的,其中任务标签是可用的,但在目标中是隐式的,使问题具有挑战性。我们通过设计一个深度DA框架来解决这一挑战,该框架将一个新的任务驱动的域对齐算法与域正则化器相结合,该正则化器鼓励共享特征作为任务特定的和域不变的,并促使任务模型保持数据结构,引导其决策边界通过低密度数据区域。我们在标准基准上验证了我们的框架,包括Digits(MNIST,USPS,SVHN,MNIST-M),PACS和VisDA。我们的研究结果表明,我们提出的模型始终优于国家的最先进的无监督领域自适应。
2019-09-26 cs.CV
Generative Model Based Noise Robust Training for Unsupervised Domain Adaptation
University of Surrey(萨里大学);iFlyTek-Surrey Joint Research Center on Artificial Intelligence(讯飞-萨里人工智能联合研究中心);Samsung AI Center(三星人工智能中心);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室)
目标域伪标记在无监督领域自适应(UDA)中显示出有效性。然而,由于源域和目标域之间的分布偏移,未标记的目标域数据的伪标记不可避免地带有噪声。本文提出了一种基于生成模型的噪声鲁棒训练方法(GeNRT),该方法在消除标签噪声的同时消除了域偏移。GeNRT结合了基于分布的类特征增强(D-CFA)和生成判别分类器一致性(GDC),两者都基于生成模型建模的类目标分布。D-CFA通过使用分布采样的目标特征来增强源数据来最小化域间隙,并通过使用来自生成模型的目标域知识来训练噪声鲁棒判别分类器。GDC将所有类生成模型都看作是生成分类器,并在生成分类器和判别分类器之间实施一致性正则化。它利用所有生成模型的目标知识的集成来训练噪声鲁棒判别分类器,并最终在理论上与Ben-David领域自适应定理联系起来,以减少域间隙。大量的实验,家庭,PACS,和数字五表明,我们的GeNRT实现了相当的性能,以国家的最先进的方法在单源和多源UDA设置。
2023-03-10 cs.CV
Cross-lingual Text-independent Speaker Verification using Unsupervised Adversarial Discriminative Domain Adaptation
UT-Dallas(德克萨斯大学达拉斯分校);JD AI Research(京东人工智能研究院)
当训练数据和测试数据之间存在语言不匹配时,说话人确认系统通常会显着降低。利用未标注数据改进跨语言说话人确认系统,可以大大提高系统的鲁棒性,降低人工标注成本。在这项研究中,我们引入了一种无监督的对抗性判别域自适应(ADDA)方法来有效地学习一个非对称映射,该映射将目标域编码器适应到源域,其中目标域和源域是来自不同语言的语音数据。ADDA与流行的领域对抗训练(DAT)方法一起在跨语言说话人确认任务上进行评估:训练数据来自NIST SRE 04 -08,Mixer 6和Switchboard的英语,测试数据来自AISHELL-I的中文。结果表明,在ADDA自适应下,x向量系统的等误率(EER)从9.331%下降到7.645%,相对于DAT降低了18.07%,降低了6.32%.对ADDA自适应说话人嵌入的进一步数据分析表明,学习的说话人嵌入可以很好地对目标域数据进行说话人分类,并且对语言转换的依赖性较小。
2019-08-05 cs.LG cs.SD eess.AS
Cluster Alignment with a Teacher for Unsupervised Domain Adaptation
Tsinghua University(清华大学)
深度学习方法在无监督领域自适应中显示出了希望,其目的是利用标记的源域来学习具有不同分布的未标记目标域的分类器。然而,这样的方法通常学习域不变表示空间以匹配源域和目标域的边缘分布,而忽略它们的精细级结构。在本文中,我们提出了一个教师(CAT)的无监督领域自适应,它可以有效地将区分聚类结构在两个领域更好的适应。从技术上讲,CAT利用隐式集成教师模型来可靠地发现未标记目标域的特征空间中的类条件结构。然后,CAT强制源和目标域的特征形成区分性的类条件聚类,并跨域对齐相应的聚类。实验结果表明,CAT在几个无监督的领域自适应场景中达到了最先进的结果。
2019-10-09 cs.CV
On the Invariance of Dictionary Learning and Sparse Representation to Projecting Data to a Discriminative Space
本文证明了字典学习和稀疏表示对线性变换是不变的。它包含了将数据转换/投影到判别空间的特殊情况。这是很重要的,因为最近,监督字典学习算法已被提出,建议包括类别信息到字典的学习,以提高其区分能力。其中,有一些方法提出在判别投影空间中学习词典。为此,已经提出了两种方法:第一,分配的判别基础的字典和第二,在投影空间中进行字典学习。基于字典学习对任何变换的不变性,特别是对判别空间的不变性,我们提倡第一种方法。
2015-06-11 cs.CV
Non-negative representation based discriminative dictionary learning for face recognition
Jiangnan University(江南大学);University of Surrey(萨里大学)
本文提出了一种基于非负表示的判别字典学习算法(NRDL)用于多类别人脸分类。与传统的字典学习方法相比,NRDL研究了非负表示(NR)的使用,这有助于学习有区别的字典原子。为了使学习的字典更适合分类,NRDL无缝地将非负表示约束,判别字典学习和线性分类器训练集成到一个统一的模型中。具体地说,NRDL在表示矩阵上引入了一个正约束,以从异构训练样本中找到不同的原子,从而产生稀疏和有区别的表示。此外,提出了一种区分性字典鼓励函数,以提高类特定的子字典的唯一性。同时,通过构造类间不一致性约束和基于紧图的正则化项,分别提高了学习后分类器的区分度。在多个基准人脸数据集上的实验结果验证了我们的NRDL算法优于现有的字典学习方法。
2019-09-28 cs.CV
Adversarial Discriminative Domain Adaptation
University of California, Berkeley(加州大学伯克利分校);Stanford University(斯坦福大学);Boston University(波士顿大学)
对抗性学习方法是训练强大深度网络的一种很有前途的方法,并且可以在不同领域生成复杂的样本。尽管存在域偏移或数据集偏差,它们也可以提高识别率:最近引入了几种对抗无监督领域自适应的方法,它们减少了训练和测试域分布之间的差异,从而提高了泛化性能。先前的生成方法显示出令人信服的可视化,但在区分性任务上不是最佳的,并且可以限于较小的变化。先前的判别方法可以处理更大的域偏移,但对模型施加了绑定权重,并且没有利用基于GAN的损失。我们首先概述了一个新的广义框架对抗适应,其中包括最近的国家的最先进的方法作为特殊情况下,我们使用这种广义的观点,以更好地与以前的方法。我们提出了一个以前未探索的实例,我们的一般框架,结合了歧视性建模,untied权重共享,和GAN的损失,我们称之为对抗歧视性领域自适应(ADDA)。我们证明了ADDA比竞争领域对抗方法更有效,但也更简单,并通过在标准跨领域数字分类任务和新的更困难的跨模态对象分类任务上超过最先进的无监督自适应结果来证明我们的方法的前景。
2017-02-17 cs.CV
Pseudo-Labeling Curriculum for Unsupervised Domain Adaptation
为了学习目标区分表示,使用伪标签是一种简单而有效的无监督领域自适应方法。然而,虚假伪标签的存在,这可能会对学习目标表示产生不利影响,仍然是一个重大挑战。为了克服这个问题,我们提出了一个伪标签课程的基础上,基于密度的聚类算法。由于具有高密度值的样本更有可能具有正确的伪标签,因此我们在早期阶段利用这些子集来训练我们的目标网络,并在后期阶段利用具有低密度值的数据子集。我们可以逐步提高网络生成伪标签的能力,因此这些带有伪标签的目标样本对于训练我们的模型是有效的。此外,我们提出了一个聚类约束,以提高学习的目标特征的区分能力。我们的方法在三个基准测试中实现了最先进的性能:Office-31,imageCLEF-DA和MPEG-Home。
2019-08-01 cs.CV
Cross-label Suppression: A Discriminative and Fast Dictionary Learning with Group Regularization
Tsinghua University(清华大学)
本文通过有效地学习一个紧凑的和有区别的字典来解决图像分类问题。给定一个结构化字典,每个原子(字典矩阵中的列)与一些标签相关,我们提出了交叉标签抑制约束,以扩大不同类别的表示之间的差异。同时,我们引入群正则化来强制表示以保持原始样本的标签属性,这意味着鼓励同一类的表示是相似的。在交叉标记抑制时,我们不求助于常用的$\ell_0$ -范数或$\ell_1$ -范数进行编码,并且在不损失分类的区分能力的情况下获得计算效率。此外,两个简单的分类方案也开发,以充分利用学习字典。在人脸识别、物体分类、场景分类、纹理识别和运动动作分类等6个数据集上进行了大量的实验,结果表明,该方法在识别精度和计算效率上均优于目前提出的许多字典算法。
2017-05-08 cs.CV cs.LG stat.ML
Joint Subspace Recovery and Enhanced Locality Driven Robust Flexible Discriminative Dictionary Learning
Hefei University of Technology(合肥工业大学);Soochow University(苏州大学);Harbin Institute of Technology(哈尔滨工业大学);University of Queensland(昆士兰大学)
我们提出了一种基于子空间恢复和增强局部性的鲁棒柔性标签一致性字典学习方法,称为鲁棒柔性判别字典学习(RFOLD)。该算法主要通过增强对稀疏错误的鲁棒性,对局部性、重构错误和标签一致性进行更精确的编码,来提高数据的表示和分类能力。首先,为了对数据和原子中的噪声和稀疏错误具有鲁棒性,RFRST旨在联合恢复底层的干净数据和干净原子子空间,然后在恢复的子空间中执行DL并编码局部性。其次,为了使从非线性流形采样的数据能够潜在地处理,并通过避免过拟合来获得准确的重建,RFFLOW以灵活的方式最小化重建误差。第三,为了对标签一致性进行准确编码,RFRST涉及有区别的灵活稀疏码错误以鼓励系数变软。第四,为了更好地编码局部性,RFFNN定义了恢复原子上的拉普拉斯矩阵,包括原子在类内紧凑性和类间分离方面的标签信息,并与组稀疏码和分类器相关联,以获得准确的区分性局部约束系数和分类器。在公共数据库上的大量结果表明了我们的RFESTs的有效性。
2019-06-11 cs.CV cs.LG
KCRC-LCD: Discriminative Kernel Collaborative Representation with Locality Constrained Dictionary for Visual Categorization
Peking University(北京大学);Carnegie Mellon University(卡内基梅隆大学);South China University of Technology(华南理工大学)
我们考虑的图像分类问题,通过核协同表示分类局部约束字典(KCRC-LCD)。具体地说,我们提出了一种核协同表示分类(KCRC)的方法,在该方法中,核方法被用来提高协同表示分类(CRC)的区分能力。然后,我们测量的查询和原子之间的相似性,以构建一个局部约束字典(LCD)的KCRC。此外,我们还讨论了LCD中的几种相似性度量方法,并进一步提出了一种简单有效的统一相似性度量方法,其优越性在实验中得到了验证。LCD有几个吸引人的方面。第一,LCD可以很好地纳入九铁的架构内。在KCRC下,可以将LCD相似性度量核化,从而在核方法下从理论上将CRC和LCD联系起来。其次,KCRC-LCD变得更可扩展到训练集大小和特征维度。算例表明,KCRC能够很好地对具有一定分布的数据进行分类,而传统的CRC则完全失效。在许多公共数据集上的综合实验也表明,KCRC-LCD是一种鲁棒的判别分类器,具有优异的性能和良好的可扩展性,与许多其他最先进的方法相当或优于其他方法。
2014-10-17 cs.CV cs.LG
Online Discriminative Dictionary Learning for Image Classification Based on Block-Coordinate Descent Method
Zhejiang University(浙江大学)
先前的研究已经证明,具有稀疏编码的字典学习框架(其中信号被分解为已学习字典的几个原子的线性组合)非常适合重建问题。该框架还被用于诸如图像分类的辨别任务。为了实现更好的分类性能,专家们开发了几种方法来以监督的方式学习判别字典。然而,另一个问题是,当数据规模变得非常大时,这些方法将不再有效,因为它们都是面向批处理的方法。为此,我们提出了一种新的在线判别式词典学习算法,在本文中被称为\textbf{ODDL}。首先,我们将线性分类器引入到传统的字典学习公式中,并导出一个判别式字典学习问题。然后,我们利用一个在线算法来解决衍生问题。与大多数现有的方法,更新字典和分类器交替通过迭代求解子问题,我们的方法直接探索他们联合。同时,它可以大大缩短训练的运行时间,也特别适合于大规模的分类问题。为了评估所提出的ODDL方法在图像识别中的性能,我们在三个著名的基准上进行了一些实验,实验结果表明ODDL对于图像分类任务是相当有前途的。
2012-03-05 cs.CV
Joint Learning of Discriminative Low-dimensional Image Representations Based on Dictionary Learning and Two-layer Orthogonal Projections
本文在语言描述上存在一些不足之处,需要进一步完善。本文是根据一份会议文件的修订版编写的。现在有必要进一步解释这两篇论文的贡献之间的差异。
2019-03-27 cs.CV
A Brief Summary of Dictionary Learning Based Approach for Classification (revised)
College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院)
本文介绍了一些基于字典学习(DL)的分类方法。我们不回顾涉及DL分类的复杂方法或框架,例如在线DL和空间金字塔匹配(SPM),而是专注于直接基于DL的分类方法。这里,所谓的“直接基于DL的方法”是通过添加一些有意义的惩罚项来直接处理DL框架的方法。通过列举一些有代表性的方法,我们可以将其大致分为两类,即(1)直接使字典具有区分性和(2)强制稀疏系数具有区分性以提高字典的区分能力。从这个分类法,我们可以期待一些扩展,作为未来的研究。
2012-05-30 cs.CV cs.LG
Discriminative Robust Deep Dictionary Learning for Hyperspectral Image Classification
Indraprastha Institute of Information Technology, Delhi(因德拉普拉斯信息技术学院(德里))
这项工作提出了一个新的深度学习框架,特别适合高光谱图像分类。我们以一种健壮的方式学习多级字典。最后一层是判别式的,它学习线性分类器。训练过程是渐进式的,每次只学习一级字典,而系数用于训练下一级。最后一级的系数用于分类。鲁棒性通过最小化绝对偏差而不是更流行的欧几里德范数来实现。内置的鲁棒性有助于对抗高光谱图像中存在的混合噪声(高斯和稀疏)。结果表明,我们提出的技术优于所有其他深度学习方法深度信念网络(DBN),堆叠自动编码器(SAE)和卷积神经网络(CNN)。在基准高光谱成像数据集上进行了实验。
2019-12-11 cs.CV cs.LG eess.IV
Jointly Learning Non-negative Projection and Dictionary with Discriminative Graph Constraints for Classification
Shenzhen University(深圳大学);Peking University(北京大学);Carnegie Mellon University(卡内基梅隆大学);Emory University(埃默里大学)
具有字典学习(DL)的稀疏编码已经显示出优异的分类性能。尽管有相当数量的现有作品,如何获得功能的字典可以更好地学习仍然是一个开放的和有趣的问题。许多当前流行的DL方法直接采用性能良好的精心制作的功能。虽然这种策略可能在经验上工作得很好,但它忽略了字典和特征之间的某些内在关系。我们提出了一个框架,其中的功能和字典共同学习和优化。该框架,名为联合非负投影和字典学习(JNPDL),使输入功能和字典之间的互动。非负投影导致基于部件的对象特征具有区分性,而DL寻求更合适的表示。判别图的约束,同时最大化类内的紧凑性和类间的可分性。在图像和图像集分类上的实验表明,JNPDL的性能优于几种最先进的方法。
2016-08-05 cs.CV
Discriminative Dictionary Learning based on Statistical Methods
School of Computer and Information Sciences, University of Hyderabad(海得拉巴大学计算机与信息科学学院)
本文探讨了利用统计方法改进字典学习以提升分类性能,提出混合方法结合稀疏系数与多层感知机,实现判别字典学习。
2021-11-17 cs.CV
Optimal Projections for Discriminative Dictionary Learning using the JL-lemma
本文提出基于JL引理的构造方法,通过改进的监督PCA分析生成投影矩阵,提升特征-标签一致性并保持数据几何结构,实验表明在OCR和人脸识别数据集上具有更好的分类性能。
2024-10-03 cs.CV cs.ET cs.LG
DFDL: Discriminative Feature-oriented Dictionary Learning for Histopathological Image Classification
Pennsylvania State University(宾夕法尼亚州立大学);UT MD Anderson Cancer Center(UT MD安德森癌症中心)
在组织病理学图像分析中,由于组织学特征的多样性以及丰富的几何结构的存在,用于分类的特征提取是一项具有挑战性的任务。在本文中,我们提出了一个自动特征发现框架,用于提取区分类特定的功能,并提出了一种低复杂度的方法,用于组织病理学的分类和疾病分级。从本质上讲,我们的判别式面向词典学习(DFDL)方法学习类特定的特征,这些特征适合于表示来自同一类的样本,而不能表示来自其他类的样本。在三个具有挑战性的真实世界图像数据库上的实验:1)导管内乳腺病变的组织病理学图像,2)由宾夕法尼亚州立大学动物诊断实验室(ADL)提供的哺乳动物肺图像,和3)来自癌症基因组图谱(TCGA)数据库的脑肿瘤图像,显示了DFDL模型在各种问题中优于最先进方法的意义
2015-02-03 cs.CV
Deep Decision Trees for Discriminative Dictionary Learning with Adversarial Multi-Agent Trajectories
Queensland University of Technology (QUT)(昆士兰科技大学)
随着现代体育运动中时空跟踪数据可用性的爆炸式增长,在对抗性群体环境中更好地分析、学习和预测重要事件有着巨大的机会。在本文中,我们提出了一个深度决策树架构,用于从对抗性多智能体轨迹中进行判别字典学习。我们首先建立了一个层次结构的树结构,通过添加每一层,并执行特征权重为基础的聚类在向前通过。然后,我们使用反向传播来微调玩家角色权重。层次结构保证了群表示的可解释性和完整性。由此产生的架构是一个决策树,与叶节点捕获的多代理组交互的字典。由于有大量的数据可用,我们专注于足球跟踪数据,尽管我们的方法可以用于任何对抗性多智能体领域。我们提出的方法模拟足球比赛以及评估和量化团队策略的应用。
2018-05-14 cs.CV
Jointly Learning Structured Analysis Discriminative Dictionary and Analysis Multiclass Classifier
Soochow University(苏州大学);ETH Zürich(苏黎世联邦理工学院);National University of Singapore(新加坡国立大学)
本文提出了一种基于分析机制的结构化分析判别式词典学习(ADDL)框架。ADDL将分析判别式词典学习、分析表示和分析分类器训练无缝集成到一个统一的模型中。所应用的分析机制可以确保不同类的学习字典、表示和线性分类器尽可能独立和有区别。该字典是通过最小化重建误差和分析不一致促进项,鼓励与不同类的子字典是独立的。为了获得表示系数,ADDL对编码系数施加稀疏l2,1-范数约束而不是使用l0或l1-范数,因为在大多数现有DL准则中应用的l0或l1-范数约束使得训练阶段耗时。通过最小化稀疏码近似项,计算从给定样本中提取特殊特征的码提取投影,将数据与稀疏码连接起来。然后,我们计算一个线性分类器的基础上的近似稀疏码的分析机制,同时考虑的分类和表示的权力。因此,我们的模型的分类方法是非常有效的,因为它可以避免额外的时间消耗稀疏重建过程与训练的字典为每个新的测试数据作为大多数现有的DL算法。在真实图像数据库上的仿真结果表明,我们的ADDL模型可以获得优于其他国家的最先进的性能。
2019-05-27 cs.CV
Learning zeroth class dictionary for human action recognition
Xiamen University of Technology(厦门理工学院);Huazhong Agricultural University(华中农业大学);Sun Yat-sen University(中山大学)
在本文中,歧视性的两阶段字典学习框架,提出了用于分类人类动作的稀疏形状表示,其中第一阶段的字典是学习所选择的歧视性框架和第二阶段的字典是建立识别使用重建错误的第一阶段字典作为输入特征。我们提出了一个“零级”的技巧,用于检测测试视频的无差别帧,并在对动作类别进行投票之前消除它们。基准测试的实验结果证明了该方法的有效性。
2016-09-28 cs.CV
Discriminative Dictionary Design for Action Classification in Still Images and Videos
Nanyang Technological University(南洋理工大学);Indian Institute of Technology, Bombay(印度理工学院孟买分校);Edinburgh Napier University(爱丁堡龙比亚大学);Singapore University of Technology and Design(新加坡科技设计大学)
在本文中,我们解决的问题,从静止图像和视频的动作识别。传统的局部特征,如SIFT、STIP等,总是会带来两个潜在的问题:1)它们在给定类别的不同实体中的分布不均匀; 2)许多这样的特征并不排斥实体所表示的视觉概念。为了生成一个字典考虑到上述问题,我们提出了一种新的判别方法,用于识别鲁棒性和类别特定的局部特征,最大限度地提高类可分性在更大程度上。具体来说,我们提出的过滤为基础的特征选择问题,排名的基础上,一个新的独特性措施的每类本地功能的有效本地描述符的选择。随后基于学习的字典表示底层视觉实体,并且该阶段之后是使用随机森林模型的动作分类,之后是标签传播细化。该框架在基于静态图像(Stanford-40)和视频(UCF-50)的动作识别数据集上进行了验证,并表现出比文献中的代表性方法更优越的性能。
2020-06-06 cs.CV
Histopathological Image Classification using Discriminative Feature-oriented Dictionary Learning
Pennsylvania State University(宾夕法尼亚州立大学);University of Texas MD Anderson Cancer Center(德克萨斯大学MD安德森癌症中心)
在组织病理学图像分析中,由于组织学特征的多样性以及丰富的几何结构的存在,用于分类的特征提取是一项具有挑战性的任务。在本文中,我们提出了一个自动特征发现框架,通过学习类特定的字典,并提出了一个低复杂度的方法,在组织病理学的分类和疾病分级。从本质上讲,我们的判别式面向词典学习(DFDL)方法学习类特定的词典,使得在稀疏性约束下,学习的词典允许通过与样本的类标识对应的词典来吝啬地表示新的图像样本。同时,字典被设计成不能很好地表示来自其他类的样本。在三个具有挑战性的真实世界图像数据库上进行的实验:1)导管内乳腺病变的组织病理学图像,2)由宾夕法尼亚州立大学动物诊断实验室(ADL)提供的哺乳动物肾脏,肺和脾脏图像,以及3)来自癌症基因组图谱(TCGA)数据库的脑肿瘤图像,揭示了我们的建议优于最先进的替代方案的优点。{此外,我们证明了DFDL在分类准确性方面对训练图像的数量表现出更优雅的衰减,这在实践中是非常可取的,其中慷慨的训练通常不可用。
2016-03-29 cs.CV
Discriminative Local Sparse Representation by Robust Adaptive Dictionary Pair Learning
School of Computer Science and Technology, Soochow University(苏州大学计算机科学与技术学院);YITU Technology(依图科技)
本文提出了一种结构化的Robust Adaptive Dictionary Pair Learning(RA-DPL)框架,用于离散稀疏表示学习。为了实现可用样本的强大表示能力,RA-DPL的设置无缝集成了鲁棒的投影字典对学习,局部自适应稀疏表示和判别编码系数学习到一个统一的学习框架。具体来说,RA-DPL在四个方面改进了现有的投射词典对学习。首先,采用稀疏l2,1-范数度量对重构误差进行编码,得到鲁棒的投影字典对,并且l2,1-范数具有最小化误差的潜力.其次,该算法在分析字典中明确地引入了鲁棒的l2,1范数,以保证编码系数的稀疏性,而不是使用代价高昂的l0/l1范数。因此,数据表示的鲁棒性和学习过程的效率被共同考虑,以保证我们的RA-DPL的效率。第三,RA-DPL构思了一个结构化的重构权重学习范例,以自适应的方式清晰地保持每个类内编码系数的局部结构,这鼓励产生局部保持表示。第四,它还考虑通过引入鉴别函数来提高编码系数和字典的鉴别能力,这可以确保代码空间中的高类内紧凑性和类间分离。大量的实验表明,我们的RA-DPL可以获得优于其他国家的最先进的性能。
2019-11-20 cs.CV
Scalable Block-Diagonal Locality-Constrained Projective Dictionary Learning
Hefei University of Technology(合肥工业大学);Soochow University(苏州大学);University of Queensland(昆士兰大学);University of Georgia(佐治亚大学);Nanjing University of Information Science and Technology(南京信息工程大学);ETH Zurich(苏黎世联邦理工学院)
我们提出了一种新的结构化判别块对角字典学习方法,称为可扩展的局部约束投影字典学习(LC-PDL),有效的表示和分类。为了通过节省训练和测试时间来提高可扩展性,我们的LC-PDL旨在学习结构化的判别字典和块对角表示,而不使用昂贵的l0/l1范数。此外,它避免了额外的时间消耗稀疏重建过程与训练好的字典新的样本,许多现有的模型。更重要的是,LC-PDL避免了使用互补数据矩阵来学习每个类的子字典。为了提高性能,我们将局部约束的原子到DL过程中,以保持本地信息,并获得代码的样本在每个类分别。通过提取数据的特殊块对角特征,推导出块对角判别逼近项,学习判别投影,将数据与其编码连接起来,保证逼近系数与其标签信息清晰地关联。然后,一个强大的多类分类器进行训练提取的块对角码准确的标签预测。实验结果验证了该算法的有效性。
2019-05-25 cs.CV
Unsupervised Dictionary Learning for Anomaly Detection
University of Bucharest(布加勒斯特大学);The Research Institute of the University of Bucharest (ICUB)(布加勒斯特大学研究院(ICUB))
我们研究了采用字典学习来解决大多数异常检测应用程序的要求的可能性,例如缺乏监督,在线配方,低误报率。我们提出了新的结果,我们最近的半监督在线算法,TODDLeR,反洗钱的应用。我们还介绍了一种新的无监督的方法,使用性能的学习算法的样本的性质的指示。
2020-09-07 cs.CR cs.CV cs.LG
Unbalanced Optimal Transport Dictionary Learning for Unsupervised Hyperspectral Image Clustering
本文提出利用不平衡最优传输字典学习方法,通过低维表示和光谱聚类实现超光谱图像的无监督聚类。
2026-03-10 cs.CV cs.LG math.ST
Structure-Aware Classification using Supervised Dictionary Learning
Technion - Israel Institute of Technology(以色列理工学院)
在本文中,我们提出了一个监督字典学习算法,旨在保持局部几何在两个维度的数据。基于图的正则化明确考虑了数据点的局部流形结构。第二个图正则化对特征域进行了类似的处理,并有助于学习更强大的字典。这两个图都可以从训练数据构建,或者沿着字典学习过程学习和调整。这两个术语的组合促进了学习的稀疏表示的区分能力,并导致改进的分类精度。该方法在几个不同的数据集上进行了评估,代表单标签和多标签分类问题,与其他基于字典的方法相比,表现出更好的性能。
2016-09-29 cs.CV cs.LG
A Brief Summary of Dictionary Learning Based Approach for Classification
本文介绍了一些基于字典学习(DL)的分类方法。我们不回顾涉及DL分类的复杂方法或框架,例如在线DL和空间金字塔匹配(SPM),而是专注于直接基于DL的分类方法。这里,所谓的“直接基于DL的方法”是通过添加一些有意义的惩罚项来直接处理DL框架的方法。通过列举一些有代表性的方法,我们可以将其大致分为两类,即(1)直接使字典具有区分性和(2)强制稀疏系数具有区分性以提高字典的区分能力。从这个分类法,我们可以期待一些扩展,作为未来的研究。
2012-05-30 cs.CV
Information-theoretic Dictionary Learning for Image Classification
University of Maryland(马里兰大学)
我们提出了一个两阶段的方法学习字典的对象分类任务的基础上的原则,信息最大化。所提出的方法寻求一个字典,是紧凑的,歧视性的,和生成。在第一阶段,字典原子选择从一个初始的字典通过最大化的互信息措施字典紧凑性,歧视和重建。在第二阶段中,使用关于互信息的简单梯度上升算法更新所选择的字典原子以用于改进的重构和区分能力。使用真实数据集的实验表明,我们的方法的有效性图像分类任务。
2012-08-17 cs.CV cs.IT math.IT
Unsupervised Discovery of Mid-Level Discriminative Patches
Carnegie Mellon University(卡内基梅隆大学)
本文的目标是发现一组有区别的补丁,可以作为一个完全无监督的中级视觉表示。所需的补丁需要满足两个要求:1)具有代表性,它们需要在视觉世界中出现足够频繁; 2)具有区分性,它们需要与视觉世界的其他部分足够不同。补丁可以对应于部件、对象、“视觉短语”等,但不限于它们中的任何一个。我们把这作为一个无监督的判别聚类问题的图像补丁的一个巨大的数据集。我们使用一个迭代过程,在聚类和训练判别分类器之间交替进行,同时在每一步都应用仔细的交叉验证来防止过拟合。本文通过实验证明了判别补丁作为无监督的中级视觉表示的有效性,这表明它可以用于代替视觉词的许多任务。此外,判别补丁也可以用于监督机制,如场景分类,其中它们在MIT Indoor-67数据集上展示了最先进的性能。
2012-08-18 cs.AI cs.CV cs.LG
Unsupervised Vehicle Re-Identification via Self-supervised Metric Learning using Feature Dictionary
Institute for IT Convergence, Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院信息技术融合研究所)
无监督车辆再识别(Re-ID)的关键挑战是从未标记的车辆图像中学习区分特征。许多使用领域自适应的方法已经取得了出色的性能,但这些方法仍然需要标记的数据集作为源域。提出了一种基于特征字典的自监督度量学习(SSML)的无监督车辆Re-ID方法,该方法不需要任何类型的标记数据集。我们的方法首先从车辆图像中提取特征,并将其存储在字典中。然后,基于该字典,该方法进行基于字典的正标签挖掘(DPLM),以搜索正标签。成对相似性、相对秩一致性和相邻特征分布相似性被联合考虑,以找到可能属于给定探测图像的相同车辆的图像。DPLM的结果被应用到基于字典的三重丢失(DTL),以提高学习特征的区分度,并逐步细化DPLM结果的质量。DPLM和DTL的迭代过程提高了无监督车辆Re-ID的性能。实验结果表明,该方法的有效性,通过产生有前途的车辆Re-ID性能,而无需预先标记的数据集。本文的源代码可在`https://github.com/andreYoo/VeRI_SSML_FD.git '上公开获取。
2021-03-03 cs.AI cs.CV
A multi-class structured dictionary learning method using discriminant atom selection
FICH(FICH学院);UNL(国立拉普拉塔大学);CONICET(阿根廷国家科学与技术研究理事会);FIQ(FIQ学院)
在过去的十年中,传统的字典学习方法已经成功地应用于各种模式分类任务。虽然这些方法产生对失真和丢失数据鲁棒的信号的稀疏表示,但是如果最终目标是信号分类,则这种表示经常被证明是不合适的。为了克服或至少减弱这样的弱点,近年来出现了几种新的方法,这些方法将判别信息引入稀疏诱导模型。特别是,判别式字典学习的方法已被证明比传统的方法更准确(在信号分类方面),传统的方法只专注于最小化总表示误差。在这项工作中,我们提出了一种新的多类判别措施和创新的字典学习方法。对于一个给定的字典,这种新的措施,它不仅考虑到当一个特定的原子被用于表示来自某个类的信号和其相应的表示系数的大小,而且这种原子在总的表示误差的影响,是能够有效地量化的程度的可辨别性的每一个原子。另一方面,新的字典构造方法产生的字典是非常适合多类分类任务。我们的方法进行了测试,广泛使用的数据库的手写数字识别,并与三个国家的最先进的分类方法进行比较。结果表明,我们的方法显着优于其他三个实现良好的识别率,此外,降低了分类器的计算成本。
2018-12-04 cs.CV cs.LG stat.ML
Learning Discriminative Alpha-Beta-divergence for Positive Definite Matrices (Extended Version)
Australian Centre for Robotic Vision(澳大利亚机器人视觉中心);Data61/CSIRO(澳大利亚联邦科学与工业研究组织 Data61);The Australian National University(澳大利亚国立大学);University of Minnesota(明尼苏达大学)
对称正定(SPD)矩阵对于捕获视觉数据的二阶统计量非常有用。为了比较两个SPD矩阵,可以使用几种度量,如仿射不变黎曼度量、Jeffreys散度、Jensen-Bregman logdet散度等;然而,它们的行为可能依赖于应用程序,从而需要手动选择以实现最佳可能性能。此外,由于它们对于大规模问题的压倒性的复杂性,通过巧妙地嵌入SPD矩阵来计算成对相似性通常优于直接使用上述措施。在本文中,我们提出了一个判别度量学习框架,信息发散和字典学习(IDDL),它不仅可以自动学习SPD矩阵上的应用特定度量,还可以使用学习的字典将它们嵌入为向量。为了学习相似性度量(对于每个字典原子可能是不同的),我们使用最近引入的alpha-beta-logdet散度,它被称为统一上面列出的度量。我们提出了一个新的IDDL目标,学习的分歧和字典原子的参数共同在一个歧视性的设置,并有效地解决了使用黎曼优化。我们展示了对八个计算机视觉数据集的广泛实验,展示了最先进的性能。
2017-08-05 cs.CV
New Interpretable Patterns and Discriminative Features from Brain Functional Network Connectivity Using Dictionary Learning
University of Maryland Baltimore County(马里兰大学巴尔的摩县分校);Tri-institutional Center for Translational Research in Neuroimaging and Data Science (TReNDS)(三校神经影像与数据科学转化研究中心(TReNDS));Georgia State University(佐治亚州立大学);Georgia Institute of Technology(佐治亚理工学院);Emory University(埃默里大学)
多主题功能磁共振成像(fMRI)数据的独立成分分析(ICA)已被证明是有用的,在提供一个完全的多变量摘要,可用于多种目的。ICA可以识别模式,可以区分健康对照(HC)和各种精神障碍,如精神分裂症(Sz)的患者。时间功能网络连通性(tFNC)可以有效地解释大脑网络之间的相互作用。另一方面,字典学习(DL)通过使用稀疏性,使用可学习的基础信号来发现数据中隐藏的信息。在本文中,我们提出了一种新的方法,利用ICA和DL识别直接可解释的模式来区分HC和Sz组。我们使用多个主题的静息态fMRI数据从$358$主题和形式的主题特定的tFNC特征向量ICA的结果。然后,我们学习tFNC的稀疏表示,并从学习的原子中引入一组新的稀疏特征以及新的可解释模式。我们的实验结果表明,新的表示不仅导致HC和Sz组之间使用稀疏特征的有效分类,但也可以从学习的原子,可以帮助理解精神疾病,如精神分裂症的复杂性识别新的可解释的模式。
2022-11-10 cs.CV cs.LG q-bio.NC
Unsupervised domain adaption dictionary learning for visual recognition
China University of Petroleum(中国石油大学)
在过去的几年中,字典学习方法已被广泛应用于处理各种计算机视觉识别应用,并产生了最先进的结果。然而,当目标域的数据实例具有与源域的数据实例不同的分布时,字典学习方法可能无法很好地执行。本文针对跨域视觉识别问题,提出了一种简单有效的无监督域自适应方法,其中标记数据仅来自源域。为了使源域和目标域中的原始数据分布一致,该方法在对源域和目标域中最近耦合的数据进行联合字典学习的同时,强制源域和目标域中最近耦合的数据具有相同的稀疏表示,学习后的字典可以分别重构源域和目标域中的原始数据。因此原始数据的稀疏表示可以用于执行视觉识别任务。我们证明了我们的方法在标准数据集上的有效性。我们的方法与竞争对手的最先进的方法相比,表现相当或更好。
2015-06-03 cs.CV