RoPAD: Robust Presentation Attack Detection through Unsupervised Adversarial Invariance
USC Information Sciences Institute(南加州大学信息科学研究所)
对于企业、个人和社会应用,现在对使用计算机视觉从图像自动认证身份的需求越来越大。然而,目前的认证技术仍然容易受到呈现攻击。我们提出了RoPAD,这是一种用于呈现攻击检测的端到端深度学习模型,它采用无监督对抗不变性来忽略图像中的视觉干扰物,以提高鲁棒性并减少过拟合。实验结果表明,该框架在多个基准数据集上表现出最先进的表现攻击检测性能。
2019-03-20 cs.CV cs.LG
Learning to navigate image manifolds induced by generative adversarial networks for unsupervised video generation
Institut national de la recherche scientifique (INRS-EMT)(国家科学研究院(INRS-EMT))
在这项工作中,我们介绍了一个两步的框架生成建模的时态数据。具体而言,生成对抗网络(GANs)设置用于生成移动对象的合成场景。为此,我们提出了一个两步训练方案,其中:首先训练静态帧的生成器。然后,训练一个递归模型,目标是为先前训练的帧生成器提供一系列输入,从而产生看起来自然的场景。在这两个训练步骤中都采用了对抗性设置。然而,为了避免GANs中已知的训练不稳定性,使用多重训练方法来训练这两个模型。在研究的视频数据集的结果表明,通过采用这种方法,经常性的部分是能够学习如何连贯地导航由帧生成器引起的图像流形,从而产生更自然的场景。
2019-01-23 cs.CV cs.LG stat.ML
Unsupervised Projection Networks for Generative Adversarial Networks
UC Berkeley(加州大学伯克利分校)
我们建议使用无监督学习来训练投影网络,投影到已经训练好的生成器的潜在空间上。我们将我们的方法应用于经过训练的StyleGAN,并使用我们的投影网络来执行图像超分辨率和图像聚类到语义可识别的组中。
2019-10-06 cs.CV cs.LG eess.IV
Unsupervised Prostate Cancer Detection on H&E using Convolutional Adversarial Autoencoders
Radboud University Medical Center(拉德堡德大学医学中心)
我们提出了一种无监督的方法,使用自聚类卷积对抗自编码器来将前列腺组织分类为肿瘤或非肿瘤,而无需任何标记的训练数据。聚类方法被集成到自动编码器的训练中,只需要很少的后处理。我们的网络在苏木精和伊红(H&E)输入补丁上进行训练,并测试了两种不同的重建目标,H&E和免疫组织化学(IHC)。我们表明,使用IHC的抗体驱动的特征学习有助于网络学习聚类任务的相关特征。我们的网络仅使用一小部分验证标签来将类分配给集群,从而获得了0.62的F1分数。
2018-04-19 cs.CV cs.LG
ASC-Net : Adversarial-based Selective Network for Unsupervised Anomaly Segmentation
University of Georgia(佐治亚大学);Shanghai Jiao Tong University(上海交通大学)
我们引入了一个神经网络框架,利用对抗学习将图像划分为两个切口,其中一个切口落入用户提供的参考分布。这个概念解决了无监督异常分割的任务,近年来由于其在无标记数据任务中的广泛应用而引起了越来越多的关注。这种基于对抗性的选择性切割网络(ASC-Net)桥接了基于集群的深度学习方法和基于对抗性的异常/新颖性检测算法这两个领域。我们在BraTS脑肿瘤分割、LiTS肝脏病变分割和MS-SEG 2015分割任务上评估了该无监督学习模型。与AnoGAN家族等现有方法相比,我们的模型在无监督异常分割任务中表现出巨大的性能提升。虽然与监督学习算法相比,仍有进一步提高性能的空间,但有希望的实验结果为使用用户定义的知识构建无监督学习算法提供了启示。
2021-07-09 cs.CV cs.LG eess.IV
Revisiting Adversarial Autoencoder for Unsupervised Word Translation with Cycle Consistency and Improved Training
Nanyang Technological University(南洋理工大学);Salesforce Research Asia(赛富时亚洲研究院)
对抗训练在学习双语词典方面取得了令人印象深刻的成功,没有任何并行数据,通过将单语嵌入映射到共享空间。然而,最近的研究表明,非对抗性方法在更具挑战性的语言对中表现出更好的性能。在这项工作中,我们重新审视了用于无监督单词翻译的对抗自动编码器,并提出了两个新的扩展,以产生更稳定的训练和改进的结果。我们的方法包括正则化条款,以加强循环一致性和输入重建,并把目标编码器作为对手对相应的编码器。对欧洲、非欧洲和低资源语言的广泛实验表明,我们的方法比最近提出的对抗性和非对抗性方法更鲁棒,性能更好。
2019-04-04 cs.CL cs.LG stat.ML
A Unified Contrastive Energy-based Model for Understanding the Generative Ability of Adversarial Training
Peking University(北京大学);Peng Cheng Laboratory(鹏城实验室)
对抗训练(AT)被认为是增强深度神经网络鲁棒性的有效方法。近年来,研究者们注意到具有AT的鲁棒模型具有良好的生成能力,并且能够合成真实感图像,但其背后的原因尚未得到充分的研究。在本文中,我们通过开发一个统一的概率框架,称为基于对比能量的模型(CEM)来揭开这一现象的神秘面纱。一方面,我们通过对鲁棒性和生成能力的统一理解,提供了AT的第一个概率表征。另一方面,我们的统一框架可以扩展到无监督的情况下,解释无监督对比学习作为一个重要的抽样CEM。在此基础上,我们提出了一种原则性的方法来开发对抗性学习和采样方法。实验结果表明,从我们的框架派生的采样方法提高了样本质量的监督和无监督学习。值得注意的是,我们的无监督对抗采样方法在CIFAR-10上的初始得分为9.61,优于以前的基于能量的模型,并与最先进的生成模型相当。
2022-03-25 cs.CV cs.LG stat.ML
Exploring Adversarially Robust Training for Unsupervised Domain Adaptation
Johns Hopkins University(约翰斯·霍普金斯大学)
无监督领域自适应(UDA)方法旨在将知识从标记的源域转移到未标记的目标域。UDA在计算机视觉文献中得到了广泛的研究。深度网络已被证明容易受到对抗攻击的攻击。然而,很少有人关注提高深度UDA模型的对抗鲁棒性,这引起了人们对模型可靠性的严重担忧。对抗性训练(AT)被认为是最成功的对抗性防御方法。然而,传统的AT需要地面实况标签来生成对抗性示例和训练模型,这限制了其在未标记目标域中的有效性。本文的目的是探索AT来增强UDA模型的鲁棒性:如何通过AT增强未标记数据的鲁棒性,同时学习UDA的域不变特征?为了回答这个问题,我们提供了一个系统的研究,可以应用于UDA的多种AT变体。此外,我们提出了一种新的UDA的对抗鲁棒训练方法,简称为ARTUDA。在多个对抗攻击和UDA基准测试上的大量实验表明,ARTUDA一致地提高了UDA模型的对抗鲁棒性。代码可在https://github.com/shaoyuanlo/ARTUDA上获得
2022-10-04 cs.CV cs.LG
Unsupervised Detection of Adversarial Examples with Model Explanations
Carnegie Mellon University(卡内基梅隆大学);KAIST(韩国科学技术院)
深度神经网络(DNN)在各种机器学习应用中表现出卓越的性能。然而,众所周知,DNN容易受到简单的对抗性扰动的影响,这会导致模型对输入进行错误的分类。在本文中,我们提出了一种简单而有效的方法来检测对抗性的例子,使用开发的方法来解释模型的行为。我们的主要观察是,增加微小的、人类无法察觉的扰动可能会导致模型解释的剧烈变化,从而导致不寻常或不规则的解释形式。从这一观点出发,我们提出了一种使用重建器网络的对抗性示例的无监督检测,该网络仅在良性示例的模型解释上进行训练。我们对MNIST手写数据集的评估表明,我们的方法能够以高置信度检测由最先进算法生成的对抗性示例。据我们所知,这项工作是第一次提出使用模型解释的无监督防御方法。
2021-07-22 cs.CR cs.CV cs.LG
Unsupervised Adversarial Invariance
USC Information Sciences Institute(南加州大学信息科学研究所)
包含关于目标变量的所有信息但不受干扰因素影响的数据表示有利于监督学习算法,因为它可以防止监督学习算法学习这些因素与目标之间的关联,从而减少过拟合。我们提出了一种新的无监督的不变性归纳框架神经网络,通过预测任务和重建任务之间的竞争性训练,再加上解纠缠,学习分裂表示的数据,而不需要任何标记的有害因素或领域知识的信息。我们描述了这个框架的对抗实例,并提供其工作分析。我们的无监督模型优于最先进的方法,这是监督,在诱导不变性的固有滋扰因素,有效地使用合成数据增强学习不变性,和领域自适应。我们的方法可以应用于任何预测任务,例如,二进制/多类分类或回归,不失一般性。
2018-09-26 cs.LG stat.ML
Adversarial Robustness for Unsupervised Domain Adaptation
Dept. of Computer Science, Kyung-Hee University(庆熙大学计算机科学系);Dept. of Computer Science, The University of Hong Kong(香港大学计算机科学系)
广泛的无监督领域自适应(UDA)研究已经在实践中取得了巨大的成功,通过使用深度模型学习标记源域和未标记目标域的可转移表示。然而,以前的工作集中在提高UDA模型对干净样本的泛化能力,而没有考虑对抗鲁棒性,这在现实世界的应用中是至关重要的。传统的对抗训练方法不适用于UDA的未标记目标域上的对抗鲁棒性,因为它们使用由监督损失函数生成的对抗示例来训练模型。在这项工作中,我们利用多个强大的ImageNet模型学习的中间表示来提高UDA模型的鲁棒性。我们的方法通过将UDA模型的特征与ImageNet预训练模型以及领域自适应训练所学习的鲁棒特征进行对齐来工作。它利用标记和未标记的域,并在领域自适应训练期间注入鲁棒性,而无需任何对抗性干预或标签要求。实验结果表明,与基线相比,我们的方法显着提高了对抗鲁棒性,同时在各种UDA基准上保持了干净的准确性。
2021-09-02 cs.CV cs.LG
Preserving Semantic Consistency in Unsupervised Domain Adaptation Using Generative Adversarial Networks
Queensland University of Technology(昆士兰科技大学)
无监督领域自适应是在给定源域的标记样本和目标域的未标记样本的情况下,寻求缓解源域和目标域之间的分布差异。生成对抗网络(GANs)通过生成特定于训练领域的图像,在领域自适应方面表现出了显着的改进。然而,大多数现有的基于GAN的无监督领域自适应技术在领域匹配过程中不考虑语义信息,因此当源和目标领域数据在语义上不同时,这些方法降低了性能。在本文中,我们提出了一个端到端的新的语义一致的生成对抗网络(SCGAN)。该网络可以通过在特征级捕获语义信息并从源域和目标域生成用于无监督领域自适应的图像来实现源域到目标域的匹配。我们证明了我们提出的方法的鲁棒性,它超过了国家的最先进的性能,在无监督的领域自适应设置进行数字和对象分类任务的实验。
2021-04-28 cs.AI cs.CV cs.LG
Unsupervised and Semi-supervised Learning with Categorical Generative Adversarial Networks
University of Freiburg(弗赖堡大学)
在本文中,我们提出了一种方法来学习一个判别分类器从未标记或部分标记的数据。我们的方法基于一个目标函数,该目标函数权衡了观察到的示例及其预测的分类类分布之间的互信息,以及分类器对对抗生成模型的鲁棒性。由此产生的算法可以被解释为生成对抗网络(GAN)框架的自然推广,或者作为正则化信息最大化(RIM)框架的扩展,以针对最佳对手进行鲁棒分类。我们根据经验评估了我们的方法-我们称之为分类生成对抗网络(或CatGAN)-在合成数据以及具有挑战性的图像分类任务上,证明了学习分类器的鲁棒性。我们进一步定性地评估了与判别分类器一起学习的对抗生成器生成的样本的保真度,并确定了CatGAN目标和判别聚类算法(如RIM)之间的联系。
2016-04-30 cs.LG stat.ML
Unsupervised Learning of Solutions to Differential Equations with Generative Adversarial Networks
IACS(应用计算科学研究所);Harvard University(哈佛大学)
微分方程的解具有重要的科学和工程意义。近年来,人们对用神经网络求解微分方程的兴趣越来越大。本文提出了一种利用无监督神经网络求解微分方程的新方法,该方法将生成对抗网络(GANs)应用于\emph{learn the loss function},以优化神经网络。我们目前的实证结果表明,我们的方法,我们称之为微分方程GAN(DEQ GAN),可以获得多个数量级的均方误差比替代的无监督神经网络方法的基础上(平方)$L_2$,$L_1$,和Huber损失函数。此外,我们表明,DEQGAN实现的解决方案的精度是有竞争力的传统数值方法。最后,我们分析了我们的方法的稳定性,发现它对超参数的选择很敏感,我们在附录中提供了这些参数。代码可在https://github.com/dylanrandle/denn获得。请将任何电子邮件发送至dylanrandle@alumni.harvard.edu。
2020-07-21 cs.LG stat.ML
Two Way Adversarial Unsupervised Word Translation
单词翻译是机器翻译中的一个问题,机器翻译试图构建恢复语言之间的单词级别对应的模型。最近对这个问题的研究表明,单词翻译模型可以通过非常小的种子词典来学习,甚至没有任何启动监督。在本文中,我们提出了一种方法来共同寻找一对语言之间的翻译。我们的方法不仅在两个方向上学习翻译,而且与过去的方法相比,它提高了这些翻译的准确性。
2019-12-12 cs.CL cs.LG stat.ML
DART: Domain-Adversarial Residual-Transfer Networks for Unsupervised Cross-Domain Image Classification
Univ. of Electronic Sci & Tech.of China(电子科技大学);The Chinese University of Hong Kong(香港中文大学);University of Electronic Science and Technology of China(电子科技大学);Google Inc.(谷歌公司);Singapore Management University(新加坡管理大学)
深度学习的准确性(例如,卷积神经网络)用于图像分类任务关键地依赖于标记的训练数据的量。为了解决一个新领域的图像分类任务,缺乏标记的数据,但获得廉价可用的未标记的数据,无监督领域自适应是一种有前途的技术,以提高性能,而不会产生额外的标记成本,通过假设来自不同领域的图像共享一些不变的特征。在本文中,我们提出了一种新的无监督领域自适应方法,称为深度神经网络的域对抗残差转移(DART)学习,以解决跨域图像分类任务。与现有的无监督域自适应方法相比,所提出的DART不仅通过对抗训练来学习域不变特征,而且还通过残差转移策略来实现鲁棒的域自适应分类,所有这些都在端到端的训练框架中进行。我们评估了所提出的方法的性能跨域图像分类任务的几个著名的基准数据集,其中我们的方法明显优于国家的最先进的方法。
2018-12-30 cs.CV cs.LG
Exploiting video sequences for unsupervised disentangling in generative adversarial networks
UNR-CONICET(国立罗萨里奥大学-阿根廷国家科学与技术研究理事会)
在这项工作中,我们提出了一种对抗性训练算法,该算法利用视频中的相关性来学习-没有监督-具有解开的潜在空间的图像生成器模型。所提出的方法只需要对生成对抗网络(GAN)的标准算法进行一些修改,并且涉及使用从短视频中获取的帧集进行训练。我们在两个以面部为中心的视频数据集上训练我们的模型,这些视频呈现不同的人说话或移动头部:VidTIMIT和YouTube Faces数据集。我们发现,我们的建议允许我们将生成器潜在空间分成两个子空间。其中一个控制内容属性,这些属性不会随着短视频序列而改变。对于所考虑的数据集,这是所生成的面部的身份。另一个子空间控制运动属性,这些属性被观察到沿着短视频变化。我们观察到,这些运动属性是面部表情,头部方向,嘴唇和眼睛的运动。所提出的实验提供了定量和定性的证据支持,所提出的方法诱导解开这两种属性的潜在空间。
2019-10-16 cs.CV cs.LG stat.ML
Unsupervised Medical Image Segmentation with Adversarial Networks: From Edge Diagrams to Segmentation Maps
Vector Institute(向量研究所);McMaster University(麦克马斯特大学)
我们开发和接近无监督语义医学图像分割,扩展了以前的工作与生成对抗网络。我们使用现有的边缘检测方法来构建简单的边缘图,训练生成模型将其转换为合成医学图像,并使用提取的边缘图上的变化构建具有已知分割的合成图像的数据集。然后使用该合成数据集来训练监督图像分割模型。我们在肾脏超声图像的临床数据集和基准ISIC 2018皮肤病变数据集上测试了我们的方法。我们证明了我们的无监督方法比以前的无监督方法更准确,并且与监督图像分割模型相比表现合理。所有代码和训练模型都可以在https://github.com/kiretd/Unsupervised-MIseg上找到。
2019-11-12 cs.AI cs.CV cs.LG
Unsupervised Anomaly Detection and Localization with Generative Adversarial Networks
Nokia Bell Labs(诺基亚贝尔实验室);Nokia(诺基亚)
本文提出一种基于生成对抗网络和SOP频谱图的无监督异常检测方法,在海底和陆地光纤链路数据集上实现超过97%的准确率,无需标记数据。
2024-09-05 cs.LG eess.SP
Double cycle-consistent generative adversarial network for unsupervised conditional generation
Clemson University(克莱姆森大学)
条件生成模型在过去几年中取得了相当大的成功,但通常需要大量的标记数据。最近,聚类器GAN将GAN与编码器相结合,通过无监督条件生成来实现显著的聚类性能。然而,它忽略了数据的真实条件分布,这导致为每个类生成较少多样性的样本,并使编码器只能实现次优聚类性能。在这里,我们提出了一个新的无监督条件生成框架,双循环一致的条件GAN(DC 3-GAN),它可以生成不同的类条件样本。除了生成器-编码器对之外,我们还强制GAN的编码器和生成器形成编码器-生成器对,这使我们能够避免低多样性生成和潜在特征的琐碎性。我们使用真实数据训练编码器-生成器对,它可以间接估计真实的条件分布。同时,该框架强制编码器的输出与GAN的输入和先验噪声分布相匹配,从而将潜在空间分解为两部分:独热离散和连续潜在变量。前者可以直接表示为簇,后者表示剩余的未指定因子。这项工作表明,增强无监督条件生成样本的多样性可以提高聚类性能。在不同基准数据集上的实验结果表明,该方法优于现有的基于生成模型的聚类方法,同时也达到了最优的解纠缠性能.
2021-04-05 cs.CV cs.LG stat.ML
Unsupervised Image-to-Image Translation with Generative Adversarial Networks
Imperial College London(帝国理工学院);Indian Institute of Technology(印度理工学院)
自动将图像从其原始形式转换为某种合成形式(样式,部分内容等)非常有用,同时保持原始结构或语义。我们将这一要求定义为“图像到图像的转换”问题,并提出了一种基于深度卷积和条件生成对抗网络(GANs)的通用方法来实现它,自2014年以来,该网络在从噪声输入中学习映射图像方面取得了惊人的成功。在这项工作中,我们开发了一种两步(无监督)学习方法,通过使用未标记的图像在不同的域之间转换图像,而不指定它们之间的任何对应关系,从而避免了获取标记数据的成本。与以往的工作相比,我们证明了我们的模型的通用性,通过这种能力,翻译的方差可以由一个单一类型的模型进行。这种能力在双向翻译等应用中是理想的
2017-01-10 cs.CV cs.LG
Unsupervised Adversarial Image Inpainting
Sorbonne Universités(索邦大学);Criteo AI Lab(Criteo人工智能实验室)
我们考虑在无监督设置中进行修复,其中既不能访问配对的也不能访问未配对的训练数据。唯一可用的信息是由不完整的观察和修复过程统计信息提供的。在这种情况下,观察应该产生几个合理的重建,这相当于学习在重建图像的空间上的分布。我们建模的重建过程中使用的条件GAN的随机组件,引入一个明确的依赖关系,这个组件和生成的输出之间的约束。这允许我们从潜在成分中进行采样,以生成与观察相关联的图像分布。我们在几个图像数据集上展示了我们的模型的能力:面部(CelebA),食物图像(Recipe-1 M)和卧室(LSUN Bedrooms),具有不同类型的插补掩码。该方法产生了与使用额外监督训练的模型变体相当的性能。
2019-12-18 cs.CV cs.LG eess.IV
An Unsupervised Domain Adaptation Model based on Dual-module Adversarial Training
University of Kansas(堪萨斯大学);Ryerson University(瑞尔森大学)
在本文中,我们提出了一个双模块的网络架构,采用域判别功能模块,鼓励域不变特征模块学习更多的域不变特征。所提出的架构可以应用于任何利用域不变特征进行无监督领域自适应的模型,以提高其提取域不变特征的能力。我们进行实验的领域对抗训练的神经网络(DANN)模型作为一个代表性的算法。在训练过程中,我们向两个模块提供相同的输入,然后分别提取它们的特征分布和预测结果。我们提出了一个差异损失,发现预测结果和两个模块之间的特征分布的差异。通过最大化特征分布损失和最小化预测结果差异的对抗性训练,鼓励这两个模块分别学习更多的域区分性和域不变特征。进行了广泛的比较评估,所提出的方法优于国家的最先进的无监督领域自适应任务。
2021-12-31 cs.CV cs.LG
Unsupervised MRI Reconstruction with Generative Adversarial Networks
Stanford University(斯坦福大学)
基于深度学习的图像重建方法在多种MRI应用中取得了令人鼓舞的结果。然而,大多数方法需要大规模的完全采样的地面真实数据进行监督训练。获取完全采样的数据通常是困难的或不可能的,特别是对于动态对比增强(DCE)、3D心脏电影和4D血流。我们提出了一个深度学习框架,用于MRI重建,而无需使用生成对抗网络的任何完全采样数据。我们在两种情况下测试所提出的方法:回顾性欠采样快速自旋回波膝关节检查和前瞻性欠采样腹部DCE。与传统方法相比,该方法恢复更多的解剖结构。
2020-08-29 cs.LG eess.IV stat.ML
Cycle-Consistent Adversarial Autoencoders for Unsupervised Text Style Transfer
Lenovo Research AI Lab(联想研究院人工智能实验室);Kwai Inc.(快手公司);Tianjin University(天津大学);Cornell University(康奈尔大学)
由于缺乏并行数据和内容保存困难,无监督文本风格转换充满了挑战。在本文中,我们提出了一种新的神经方法来进行无监督的文本风格传输,我们称之为从非并行数据中训练的周期一致性对抗自动编码器(CAE)。CAE由三个基本组成部分组成:(1)LSTM自动编码器,将一种风格的文本编码为其潜在表示,并将编码表示解码为其原始文本或将转换表示解码为风格转换文本,(2)对抗性风格转换网络,使用对抗性训练的生成器将一种风格的潜在表示转换为另一种风格的表示,以及(3)增强对抗风格传输网络在内容保存中的能力的循环一致性约束。包含这三个组件的整个CAE可以进行端到端的培训。在两个广泛使用的公共数据集上进行的广泛实验和深入分析一致地验证了所提出的CAE在风格转换和内容保存方面的有效性,并与四个自动评估指标和人类评估方面的几个强基线进行了比较。
2020-10-02 cs.CL cs.CV cs.LG
Unsupervised MRI Reconstruction via Zero-Shot Learned Adversarial Transformers
Bilkent University(比尔肯特大学);National Magnetic Resonance Research Center, Bilkent University(比尔肯特大学国家磁共振研究中心)
监督重建模型在特征上是在匹配的欠采样和全采样数据对上训练的,以捕获MRI先验,以及关于成像操作员的监督,以加强数据一致性。为了减少监督要求,最近的深度图像先验框架在推理期间将未经训练的MRI先验与成像算子结合起来。然而,规范卷积架构在捕获远程关系方面是次优的,并且基于随机初始化网络的先验可能会产生次优性能。为了解决这些局限性,在这里,我们介绍了一种新的无监督MRI重建方法的基础上zero-Shot学习对抗Transformers(SLATER)。SLATER体现了一个深度对抗网络,具有交叉注意力Transformers,可将噪声和潜在变量映射到线圈组合的MR图像上。在预训练期间,该无条件网络在无监督生成建模任务中学习高质量的MRI先验。在推断期间,然后通过结合成像算子并优化先验以最大化欠采样数据的一致性来执行zero-shot重建。在大脑MRI数据集上进行的综合实验清楚地证明了SLATER相对于最先进的无监督方法的优越性能。
2022-01-16 cs.CV cs.LG eess.IV
Unsupervised Pixel-level Road Defect Detection via Adversarial Image-to-Frequency Transform
Curtin University(科廷大学);Gwangju Institute of Science and Technology (GIST)(光州科学技术院);RMIT University(皇家墨尔本理工大学)
在过去的几年中,由于计算机视觉和深度学习的各种研究的进步,道路缺陷检测的性能得到了显着提高。尽管大规模且标注良好的数据集在一定程度上提高了检测道路路面缺陷的性能,但在实践中推导出可以针对各种道路条件可靠地执行的模型仍然是具有挑战性的,因为构建考虑不同道路条件和缺陷模式的数据集是困难的。为此,我们提出了一种无监督的方法来检测道路缺陷,使用对抗图像到频率变换(AIFT)。AIFT采用无监督的方式和对抗式学习来推导缺陷检测模型,因此AIFT不需要对路面缺陷进行注释。我们使用GAPs 384数据集,Cracktree 200数据集,CRACK 500数据集和CFD数据集来评估AIFT的效率。实验结果表明,该方法检测各种道路检测,它优于现有的国家的最先进的方法。
2020-02-03 cs.CV cs.LG eess.IV
Adversarial Style Mining for One-Shot Unsupervised Domain Adaptation
Huazhong University of Science & Technology(华中科技大学);University of Technology Sydney(悉尼科技大学);Farsee2 Tech. Co.(Farsee2科技公司);Baidu Research(百度研究院)
本文针对One-Shot无监督领域自适应问题进行研究。与传统的无监督领域自适应不同,它假设在学习自适应时只有一个未标记的目标样本可用。这种设置是现实的,但更具挑战性,在传统的适应方法很容易失败,由于缺乏未标记的目标数据。为此,我们提出了一种新的对抗性风格挖掘方法,它结合了风格转换模块和任务特定模块到一个对抗的方式。具体而言,风格转移模块根据当前学习状态迭代地在一次性目标样本周围搜索更难风格化的图像,引导任务模型探索几乎不可见的目标领域中难以解决的潜在风格,从而提高数据稀缺场景中的适应性能。对抗性学习框架使风格迁移模块和任务特定模块在竞争中相互受益。跨域分类和分割基准上的大量实验验证了ASM在具有挑战性的单次设置下实现了最先进的自适应性能。
2020-04-13 cs.CV cs.LG eess.IV
Unsupervised Detection of Lung Nodules in Chest Radiography Using Generative Adversarial Networks
University of Waterloo(滑铁卢大学)
肺结节在胸片中常被漏诊。我们提出并评估P-AnoGAN,一种用于X光片中肺结节的无监督异常检测方法。P-Ano GAN通过利用渐进式GAN和卷积编码器-解码器-编码器流水线来修改快速异常检测生成对抗网络(f-Ano GAN)。模型训练仅使用从印第安纳大学胸部X射线收集中提取的未标记的健康肺部补丁。使用分别从ChestX-ray 14和日本放射技术学会数据集提取的健康和不健康补丁进行外部验证和测试。我们的模型在外部验证和测试数据中鲁棒地识别了包含肺结节的斑块,ROC-AUC分别为91.17%和87.89%。这些结果表明,无监督的方法可能是有用的,在具有挑战性的任务,如肺结节检测X光片。
2021-08-04 cs.CV cs.LG eess.IV
Unsupervised Anomaly Detection with Generative Adversarial Networks to Guide Marker Discovery
Medical University Vienna(维也纳医科大学)
获得捕获与疾病进展和治疗监测相关的成像标志物的模型具有挑战性。模型通常基于大量的数据,并带有旨在自动检测的已知标记的注释示例。高注释工作量和对已知标记的词汇表的限制限制了这种方法的能力。在这里,我们执行无监督学习,以识别异常的图像数据作为候选标记。我们提出了AnoGAN,这是一种深度卷积生成对抗网络,用于学习正常解剖变异性的流形,并基于从图像空间到潜在空间的映射,提出了一种新的异常评分方案。应用于新数据,该模型标记异常,并对图像块进行评分,以表明它们是否适合学习的分布。对视网膜的光学相干断层扫描图像的结果表明,该方法正确地识别异常图像,例如包含视网膜液体或过度反射焦点的图像。
2017-03-17 cs.CV cs.LG
Adversarial Robustness in Unsupervised Machine Learning: A Systematic Review
NTNU(挪威科技大学)
本文系统综述86篇无监督学习对抗鲁棒性文献,发现研究多集中于已有防御的隐私攻击,而大量攻击缺少通用防御,并提出攻击属性模型以支持后续研究。
2023-06-01 cs.CR cs.LG
Strong Black-box Adversarial Attacks on Unsupervised Machine Learning Models
从视觉到自然语言建模,机器学习(ML)和深度学习(DL)模型在多个学习任务上实现了最先进的性能。随着ML和DL越来越多地被计算机科学的许多领域所采用,最近的研究也开始关注这些模型的安全属性。已经进行了大量的工作来了解(深度)神经网络架构是否能够抵御黑盒对抗攻击,黑盒攻击可以在不知道所使用的架构的情况下制作受干扰的输入样本来欺骗分类器。最近的工作也集中在对抗攻击的可转移性上,并发现对抗攻击通常很容易在模型、数据集和技术之间转移。然而,这种攻击及其分析尚未从无监督机器学习算法的角度涵盖。在本文中,我们试图通过多种贡献来弥合这一差距。我们首先提供了一个强大的(迭代)黑盒对抗攻击,可以制作对抗样本,将不正确的聚类算法的选择无关。我们选择了4个突出的聚类算法,以及一个真实世界的数据集来展示所提出的对抗算法的工作。使用这些聚类算法,我们还进行了一个简单的研究,跨技术的对抗攻击的可转移性。
2019-06-10 cs.CR cs.LG stat.ML
Nowhere to Hide: A Lightweight Unsupervised Detector against Adversarial Examples
Wuhan University(武汉大学);Chinese University of Hong Kong(香港中文大学);Pennsylvania State University(宾夕法尼亚州立大学)
尽管深度神经网络(DNN)在许多感知任务上表现出令人印象深刻的性能,但它们很容易受到对抗性示例的影响,这些示例是通过向良性图像添加轻微但恶意的扰动而生成的。对抗性检测是在将对抗性样本输入目标DNN之前识别它们的重要技术。以前检测对抗性示例的研究要么针对特定的攻击,要么需要昂贵的计算。如何设计一个轻量级的无监督检测器仍然是一个具有挑战性的问题。在本文中,我们提出了一种基于自动编码器的对抗性示例(AEAE)检测器,它可以通过以无监督的方式检测低计算量的对抗性示例来保护DNN模型。AEAE只包括一个浅层自动编码器,但扮演两个角色。首先,一个训练有素的自动编码器已经学会了良性例子的多样性。这种自动编码器可以为具有大扰动的对抗图像产生大的重建误差,因此我们可以基于重建误差检测显著扰动的对抗示例。其次,自动编码器可以过滤掉小噪声,并改变DNN对具有小扰动的对抗性示例的预测。它有助于根据预测距离检测轻微扰动的对抗性样本。为了覆盖这两种情况下,我们利用重建误差和预测距离良性图像构建一个二元组的特征集和训练使用隔离森林算法的对抗检测器。我们的经验表明,AEAE是无监督和廉价的最先进的攻击。通过这两种情况下的检测,没有地方隐藏敌对的例子。
2022-10-16 cs.CR cs.LG
Adversarially Trained Object Detector for Unsupervised Domain Adaptation
Chiba University(千叶大学)
本文提出将源域对抗训练用于目标检测的无监督域适应,并结合特征对齐,在大幅真实到艺术域偏移的四个基准上显著提升mAP。
2021-11-25 cs.AI cs.CV cs.LG
Adversarial Unsupervised Representation Learning for Activity Time-Series
University of Minnesota(明尼苏达大学);Nanyang Technological University(南洋理工大学);Qatar Computing Research Institute(卡塔尔计算研究所)
充足的体力活动和宁静的睡眠在预防和治疗许多慢性疾病方面发挥着重要作用。能够主动筛查和监测这些慢性疾病将是整体健康的一大步。可穿戴设备的快速普及提供了一个重要的新来源,使实时跟踪用户的生活方式成为可能。在本文中,我们提出了一种新的无监督表示学习技术称为activity2vec,学习和“总结”离散值的活动时间序列。它学习具有三个组成部分的表示:(i)时间段中活动水平的共同出现和幅度,(ii)时间段的相邻上下文,以及(iii)通过对抗训练促进主体不变性。我们评估我们的方法使用线性分类器的四个障碍预测任务。实证评估表明,我们提出的方法的规模和性能优于许多强大的基线。对抗机制通过提升主体不变特征来帮助提高我们表示的泛化能力。我们还表明,在一天的水平上使用表示效果最好,因为人类活动是按照日常惯例进行的
2018-11-14 cs.LG stat.ML
Towards Unsupervised Single-Channel Blind Source Separation using Adversarial Pair Unmix-and-Remix
Hebrew University of Jerusalem(耶路撒冷希伯来大学);Facebook AI Research(脸书人工智能研究院)
盲单通道信号分离是信号处理领域的一个长期挑战。许多方法被提出来解决这个问题,利用多个信号先验,如低秩,稀疏性,时间连续性等,最近的进展生成对抗模型的信号回归任务提供了新的机会。然而,对抗训练的力量还没有实现盲源分离任务。在这项工作中,我们提出了一种新的方法,盲源分离(BSS)使用对抗的方法。我们依赖于源的独立性来对近似分离的源对创建对抗性约束,这确保了良好的分离。在图像源上进行的实验验证了我们的方法的良好性能,并提出了我们的方法作为一个有前途的方法来解决一般信号的盲分离。
2019-05-16 cs.LG cs.SD eess.AS
Robust CLIP: Unsupervised Adversarial Fine-Tuning of Vision Embeddings for Robust Large Vision-Language Models
Tübingen AI Center(蒂宾根人工智能中心);University of Tübingen(蒂宾根大学);EPFL(洛桑联邦理工学院)
针对大型视觉-语言模型易受视觉对抗攻击的问题,提出无监督对抗微调方案以获得鲁棒的CLIP视觉编码器,无需重训下游模型即可全面防御图像篡改隐蔽攻击。
2024-06-05 cs.AI cs.CV cs.LG
Unsupervised Anomaly Detection with Adversarial Mirrored AutoEncoders
University of Maryland College Park(马里兰大学帕克分校);IBM Research(IBM研究院)
在所有机器学习应用中,检测出分布外(OOD)样本至关重要。深度生成建模已经成为一种主要的范式,可以对没有标签的复杂数据分布进行建模。然而,先前的工作已经表明,与训练它们的数据分布相比,生成模型倾向于为OOD样本分配更高的可能性。首先,我们提出了对抗性镜像自动编码器(AMA),这是对抗性自动编码器的一个变体,它在镜像中使用镜像Wasserstein损失来执行更好的语义级重建。我们还提出了一个潜在的空间正则化学习一个紧凑的流形分布样本。AMA的使用产生更好的特征表示,提高异常检测性能。其次,我们提出了一种替代措施的异常得分,以取代重建为基础的度量,这是传统上使用的生成模型为基础的异常检测方法。我们的方法优于当前国家的最先进的方法异常检测几个OOD检测基准。
2021-01-03 cs.LG stat.ML
Adversarial Unsupervised Domain Adaptation with Conditional and Label Shift: Infer, Align and Iterate
Massachusetts General Hospital(麻省总医院);Harvard Medical School(哈佛医学院);Alibaba Group(阿里巴巴集团);Carnegie Mellon University(卡内基梅隆大学);The Hong Kong Polytechnic University(香港理工大学);University of Southern California(南加州大学)
在这项工作中,我们提出了一个对抗性的无监督领域自适应(UDA)方法与固有的条件和标签偏移,我们的目标是对齐的分布w.r.t. $p(x|y)$和$p(y)$。由于标签在目标域中不可访问,因此常规对抗性UDA假设$p(y)$跨域不变,并且依赖于比对$p(x)$作为$p(x|y)$比对的替代。为了解决这个问题,我们提供了一个彻底的理论和经验分析的传统对抗UDA方法下的条件和标签偏移,并提出了一个新的和实用的替代优化方案对抗UDA。具体来说,我们推断边缘$p(y)$和对齐$p(x|y)$迭代训练,并精确对齐后$p(y|x)$在测试中。我们的实验结果表明,它的有效性分类和分割UDA,部分UDA。
2021-08-02 cs.AI cs.CV cs.LG
Adversarial Fisher Vectors for Unsupervised Representation Learning
Apple Inc.(苹果公司)
我们通过基于能量的深度模型(EBM)的镜头来研究生成对抗网络(GANs),目的是利用这种公式所遵循的密度模型。与传统的观点相反,在传统的观点中,当达到收敛时,神经网络学习一个常数函数,在这里,我们表明它可以为下游任务提供有用的信息,例如,用于分类的特征提取。具体地说,在EBM公式中,学习器学习未归一化的密度函数(即,负能量项),其表征数据流形。我们建议通过从循证医学中获得相应的Fisher分数和Fisher信息来评估生成器和生成器。我们表明,通过假设生成的示例形成学习密度的估计,Fisher信息和归一化Fisher向量都很容易计算。我们还表明,我们能够得到一个例子之间的距离度量和例子集之间。我们进行的实验表明,GAN诱导的Fisher向量作为分类和感知相似性任务的无监督特征提取器表现出竞争力。代码可在\url{https://github.com/apple/ml-afv}上获得。
2019-10-29 cs.LG stat.ML
Unsupervised Adversarial Domain Adaptation Based On The Wasserstein Distance For Acoustic Scene Classification
Tampere University(坦佩雷大学)
基于深度学习的机器监听领域中的一个具有挑战性的问题是当使用来自不可见条件的数据时性能的下降。在本文中,我们专注于声学场景分类(ASC)任务,并提出了一种对抗性的深度学习方法,允许适应声学场景分类系统,以处理由不同记录设备捕获的数据产生的新声道。我们建立在HΔ H距离的理论模型和先前的ASC无监督领域自适应的对抗性判别深度学习方法的基础上,并提出了一种使用Wasserstein距离的基于对抗性训练的方法。我们使用TUT Acoustic Scenes数据集,将来自未知条件的数据的最先进平均准确度从32%提高到45%。
2019-11-06 cs.LG cs.SD eess.AS
Non-Adversarial Unsupervised Word Translation
Facebook AI Research(Facebook人工智能研究院);Tel Aviv University(特拉维夫大学)
非平行语际语料库中的无监督单词翻译引起了人们的广泛研究兴趣。最近,用对抗性损失函数训练的神经网络方法在这项任务上实现了高精度。尽管最近的技术取得了令人印象深刻的成功,但它们存在生成对抗模型的典型缺点:对超参数敏感,训练时间长,缺乏可解释性。在本文中,我们观察到,两个足够相似的分布可以正确地对齐迭代匹配方法。我们提出了一种新的方法,首先对齐两种语言的单词分布的二阶矩,然后迭代地细化对齐。对欧洲和非欧洲语言的单词翻译进行的大量实验表明,我们的方法比最近最先进的深度对抗方法具有更好的性能,并且与监督基线相比具有竞争力。它也是高效的,易于在CPU上并行化和可解释的。
2018-08-13 cs.CL cs.LG
Unsupervised Learning of Depth and Depth-of-Field Effect from Natural Images with Aperture Rendering Generative Adversarial Networks
NTT Communication Science Laboratories(NTT通信科学实验室);NTT Corporation(NTT集团)
从2D投影的自然图像理解3D世界是计算机视觉和图形学中的一个基本挑战。近年来,无监督学习方法由于其在数据汇集方面的优势而引起了广泛的关注。然而,为了减轻训练限制,典型的方法需要对视点分布施加假设(例如,包含各种视点图像的数据集)或对象形状(例如,对称对象)。这些假设通常限制应用;例如,应用于从相似视点捕获的非刚性对象或图像(例如,花或鸟图像)仍然是一个挑战。为了补充这些方法,我们提出了孔径渲染生成对抗网络(AR-GANs),它在GANs之上装备孔径渲染,并采用焦点线索来学习未标记自然图像的景深和景深(DoF)效果。为了解决由无监督设置触发的模糊性(即,平滑纹理和散焦模糊之间以及前景和背景模糊之间的模糊性),我们开发了DoF混合学习,这使得生成器能够在生成不同DoF图像的同时学习真实图像分布。此外,我们设计了一个中心焦点之前,指导学习方向。在实验中,我们证明了AR-GANs在各种数据集(如花卉,鸟类和人脸图像)中的有效性,通过将其整合到其他3D表示学习GANs中来证明其可移植性,并验证了其在浅自由度渲染中的适用性。
2021-06-24 cs.CV cs.LG eess.IV
Unsupervised Training Data Generation of Handwritten Formulas using Generative Adversarial Networks with Self-Attention
TIB – Leibniz Information Centre for Science and Technology(莱布尼茨科学技术信息中心);L3S Research Center(L3S研究中心);Leibniz University Hannover(汉诺威莱布尼茨大学)
图像和视频中手写数学表达式的识别是一个尚未解决的难题。深度对流神经网络基本上是一种很有前途的方法,但通常需要大量标记的训练数据。然而,对于手写公式识别的任务来说,这样大的训练数据集并不存在。在本文中,我们介绍了一个系统,它创建了一个大型的合成训练的数学表达式,这是来自LaTeX文档的例子。为此,我们提出了一种新的基于注意力的生成对抗网络,将渲染的方程转换为手写公式。这种方法生成的数据集包含数十万个公式,非常适合预训练或设计更复杂的模型。我们在CROHME 2014基准数据集上评估了我们的合成数据集和识别方法。实验结果证明了该方法的可行性。
2021-06-17 cs.CV cs.LG
Joint Contrastive-Adversarial Representation Learning for Unsupervised Domain Adaptation
该研究提出JCAR框架用于无监督域适应,结合对比学习与对抗域对齐学习公共表示,建立非渐近超额风险界,在多个数据集上验证了迁移增益。
2026-10-14 cs.LG stat.ML
Stein Latent Optimization for Generative Adversarial Networks
Seoul National University(首尔大学)
具有聚类潜在空间的生成对抗网络(GANs)可以以完全无监督的方式执行条件生成。在现实世界中,未标记数据的显著属性可能是不平衡的。然而,大多数现有的无监督条件GANs不能正确地聚类这些数据在其潜在空间中的属性,因为它们假设属性的均匀分布。为了解决这个问题,我们从理论上推导出Stein潜在优化,该优化提供了潜在分布参数的可重新参数化的梯度估计,假设在连续潜在空间中存在高斯混合。在结构上,我们引入了一个编码器网络和新的无监督条件对比损失,以确保从一个单一的混合成分生成的数据代表一个单一的属性。我们确认,所提出的方法,命名为斯坦潜在优化GANs(SLOGAN),成功地学习平衡或不平衡的属性,并实现了最先进的无监督条件生成性能,即使在没有属性信息的情况下(例如,不平衡度)。此外,我们证明了要学习的属性可以使用少量的探测数据进行操作。
2022-03-15 cs.LG stat.ML
FUNN: Flexible Unsupervised Neural Network
IRT Saint Exupery(圣埃克苏佩里技术研究学院)
深度神经网络在图像分类任务中表现出了很高的准确性。然而,它们在对抗性示例中表现得很弱:图像中的一个小扰动会显著改变分类输出。近年来,已经提出了几种防御措施来解决监督分类任务中的这个问题。我们提出了一种方法,以获得强大的功能,在无监督学习任务对对抗攻击。我们的方法与现有的解决方案不同,直接学习鲁棒特征,而不需要在原始示例分布空间中投影对抗示例。第一自动编码器A1负责扰动输入图像以欺骗负责重新生成原始图像的另一自动编码器A2。A1试图在A2的输出中的误差应至少等于阈值的约束下找到较少扰动的图像。由于这种训练,A2的编码器将对对抗攻击具有鲁棒性,并可用于分类等不同任务。使用最先进的网络架构,我们证明了由于这种方法在分类任务中获得的功能的鲁棒性。
2018-11-05 cs.CV cs.LG
Sim-CLIP: Unsupervised Siamese Adversarial Fine-Tuning for Robust and Semantically-Rich Vision-Language Models
Florida Atlantic University(佛罗里达大西洋大学)
Sim-CLIP通过无监督对抗微调提升CLIP视觉编码器的鲁棒性,同时保持语义表示。采用孪生架构和余弦相似度目标,避免大批次对比学习和额外动量编码器,实现低计算开销的鲁棒训练。
2026-04-07 cs.AI cs.CL cs.CV
ADMP: An Adversarial Double Masks Based Pruning Framework For Unsupervised Cross-Domain Compression
Tsinghua University(清华大学)
尽管近年来网络修剪技术取得了一定的进展,但将其直接应用于物联网(IoT)应用仍然面临两大挑战,即端和云数据之间的分布差异和端设备上数据标签的缺失。一个简单的解决方案是结合无监督领域自适应(UDA)技术和修剪。例如,模型首先在云上修剪,然后通过UDA从云传输到端。然而,这种简单的组合面临着高性能降级。因此,这项工作提出了一个基于双掩码的修剪(AMDO)这样的跨域压缩。在Aesthetics中,我们构建了一个知识蒸馏框架,不仅产生伪标签,而且还提供了一个测量领域分歧的输出之间的差异,全尺寸的教师和修剪的学生。与现有的基于掩码的修剪工作不同,ANOM采用了两种对抗性掩码,即软掩码和硬掩码。因此,April可以有效地修剪模型,同时仍然允许模型提取强大的域不变特征和鲁棒的分类边界。在训练过程中,交替方向乘法器方法被用来克服{0,1}-掩码的二进制约束。在ImageCLEF-DA数据集上,该算法可以分别以0.2%和0.3%的平均精度损失修剪60%的通道。与现有技术相比,我们可以实现约1.63倍的参数减少和4.1%和5.1%的精度提高。
2020-06-07 cs.CV cs.LG
Unsupervised Adversarial Detection without Extra Model: Training Loss Should Change
National Taiwan University(国立台湾大学);Columbia University(哥伦比亚大学);Mobile Drive Technology(鸿海科技集团(摩达科技))
针对现有无监督对抗检测因交叉熵损失依赖无用特征导致准确率低的问题,提出新型训练损失及配套检测方法,无需攻击先验知识即可实现高检测率和低误报率。
2023-08-07 cs.LG
Adversarial Branch Architecture Search for Unsupervised Domain Adaptation
Politecnico di Torino(都灵理工大学);Sapienza University of Rome(罗马大学);CINI Consortium(意大利国家跨大学计算联盟);Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
无监督领域自适应(UDA)是视觉识别中的一个关键问题,因为它允许桥接不同的视觉域,从而在现实世界中实现鲁棒的性能。到目前为止,所有提出的方法都依赖于人类的专业知识来手动调整给定的UDA方法(例如DANN)以适应特定的骨干架构(例如ResNet)。这种对手工设计的依赖限制了给定方法的适用性,因为旧方法需要不断适应新的主干。现有的神经架构搜索(NAS)方法不能直接应用于缓解这个问题,因为它们依赖于UDA设置中不可用的标签。此外,大多数NAS方法搜索完整的架构,这排除了使用预先训练的模型,这在广泛的UDA设置中对于达到SOTA结果至关重要。据我们所知,没有以前的工作已经解决了这些方面的背景下,NAS的UDA。在这里,我们用对抗分支架构搜索UDA(ABAS)来解决这两个方面:我们通过用于模型选择的新的数据驱动的集成方法来解决目标标签的缺乏;以及ii.我们搜索一个附属于预先训练的主干的辅助对抗分支,它驱动域对齐。我们在三个标准视觉识别数据集(MAN 31,MAN-Home和PACS)上广泛验证ABAS以改进两种现代UDA技术,DANN和ALDA。在所有情况下,ABAS都能稳健地找到产生最佳性能的对抗分支架构和参数。
2021-10-22 cs.CV cs.LG
Learning from Simulated and Unsupervised Images through Adversarial Training
Apple Inc(苹果公司)
随着图形学的最新进展,在合成图像上训练模型变得更加容易,从而可能避免对昂贵注释的需求。然而,由于合成图像和真实图像分布之间的差距,从合成图像学习可能无法实现期望的性能。为了缩小这一差距,我们提出了模拟+无监督(S+U)学习,其中的任务是学习一个模型,使用未标记的真实数据来提高模拟器输出的真实性,同时保留来自模拟器的注释信息。我们开发了一种S+U学习方法,该方法使用类似于生成对抗网络(GANs)的对抗网络,但使用合成图像作为输入,而不是随机向量。我们对标准GAN算法进行了几项关键修改,以保留注释,避免伪影并稳定训练:(i)“自正则化”项,(ii)局部对抗性损失,以及(iii)使用细化图像的历史更新训练。我们表明,这使得生成高度逼真的图像,我们证明了定性和用户研究。我们定量评估生成的图像通过训练模型的凝视估计和手部姿势估计。我们显示了使用合成图像的显着改进,并在没有任何标记的真实数据的情况下在MPIIGaze数据集上实现了最先进的结果。
2017-07-19 cs.CV cs.LG cs.NE
ALICE: Towards Understanding Adversarial Learning for Joint Distribution Matching
Duke University(杜克大学);Nanjing University(南京大学);University at Buffalo(布法罗大学)
我们研究了与联合分布匹配的双向对抗训练相关的不可识别性问题。在条件熵的框架内,我们提出了对抗和非对抗的方法来学习无监督和监督任务的理想匹配联合分布。我们统一了一个广泛的家庭对抗模型的联合分布匹配问题。我们的方法稳定了无监督双向对抗学习方法的学习。此外,我们引入了半监督学习任务的扩展。理论结果在合成数据和实际应用中得到了验证。
2017-11-05 cs.AI cs.CV cs.LG
Towards Histopathological Stain Invariance by Unsupervised Domain Augmentation using Generative Adversarial Networks
University of Strasbourg(斯特拉斯堡大学);University of Belgrade(贝尔格莱德大学);University of Kragujevac(克拉古耶瓦茨大学);Hannover Medical School(汉诺威医学院);University Clinic, Freiburg(弗赖堡大学诊所)
监督式深度学习方法在数字病理学中的应用受到限制,因为它们对域转移敏感。数字病理学是一个容易因许多来源而产生高度变异性的领域,包括评价使用不同染色方案染色的几个连续组织切片的常见做法。获得每个染色剂的标签是非常昂贵和耗时的,因为它需要高水平的领域知识。在这篇文章中,我们提出了一种基于对抗性图像到图像翻译的无监督增强方法,这有助于训练染色不变的监督卷积神经网络。通过在一种常用的染色模式上训练网络,并将其应用于包括相应但不同染色的组织结构的图像,所提出的方法证明了对其他方法的显着改进。这些益处在七种不同染色模式(PAS、Jones H&E、CD 68、天狼星红、CD 34、H&E和CD 3)中的肾小球分割问题中得到说明,并且对所学习的表示的分析证明了它们的染色不变性。
2020-12-22 cs.CV cs.LG eess.IV