Unsupervised learning with sparse space-and-time autoencoders
Facebook AI Research(脸书人工智能研究院)
我们使用空间稀疏的二维、三维和四维卷积自动编码器网络来建模2D空间、3D空间和3+1=4维时空中的稀疏结构。我们通过测试其对下游任务的有用性来评估由此产生的潜在空间。其应用包括2D手写识别、3D对象中的部分分割、3D场景中的对象分割以及从运动捕捉数据生成的4D线框模型的身体部分分割。
2018-11-26 cs.AI cs.CV
PAUL: Procrustean Autoencoder for Unsupervised Lifting
Carnegie Mellon University(卡内基梅隆大学);University of Adelaide(阿德莱德大学)
最近在将非刚性运动恢复结构(NRSfM)作为无监督深度学习问题方面的成功提出了关于深度学习可以提供NRSfM先验的新颖性的基本问题。在本文中,我们主张将3D深度自动编码器框架明确用作NRSfM先验。该框架的独特之处在于:(i)它仅从2D投影测量中学习3D自动编码器权重,以及(ii)它是Procrustean,因为它联合解析每个形状实例的未知刚性姿势。我们将这种架构称为Procustean Autoencoder for Unsupervised Lifting(PAUL),并与最近的创新(如Deep NRSfM和C3PDO)相比,在许多基准测试中展示了最先进的性能。
2021-03-31 cs.CV
Unsupervised Prostate Cancer Detection on H&E using Convolutional Adversarial Autoencoders
Radboud University Medical Center(拉德堡德大学医学中心)
我们提出了一种无监督的方法,使用自聚类卷积对抗自编码器来将前列腺组织分类为肿瘤或非肿瘤,而无需任何标记的训练数据。聚类方法被集成到自动编码器的训练中,只需要很少的后处理。我们的网络在苏木精和伊红(H&E)输入补丁上进行训练,并测试了两种不同的重建目标,H&E和免疫组织化学(IHC)。我们表明,使用IHC的抗体驱动的特征学习有助于网络学习聚类任务的相关特征。我们的网络仅使用一小部分验证标签来将类分配给集群,从而获得了0.62的F1分数。
2018-04-19 cs.CV cs.LG
Improving unsupervised anomaly localization by applying multi-scale memories to autoencoders
Shandong University(山东大学);Zhejiang University(浙江大学)
自动编码器及其变体在异常检测中得到了广泛的应用,先前的内存增强深度自动编码器提出了记忆常态来检测异常,但它忽略了不同分辨率尺度之间的特征差异,因此我们引入多尺度内存来记录特定尺度的特征,并在自动编码器的编码和解码模块之间引入多尺度注意力融合器来检测异常,即MMAE,MMAE在无监督学习期间以相应的分辨率尺度更新时隙作为原型特征。对于异常检测,我们完成异常去除,在每个尺度上的原始编码图像特征替换为最相关的原型特征,并融合这些特征之前,馈送到解码模块重建图像。在不同数据集上的实验结果证明,我们的MMAE成功地消除了不同尺度上的异常,并在几个数据集上表现良好,与类似的基于重建的方法相比。
2020-12-21 cs.CV
Deforming Autoencoders: Unsupervised Disentangling of Shape and Appearance
Stony Brook University(石溪大学);CentraleSupélec(高等电力学院);INRIA(法国国家信息与自动化研究所);Therapanacea;University College London(伦敦大学学院);Facebook AI Research(Facebook人工智能研究院)
在这项工作中,我们介绍了变形自动编码器,一个生成模型的图像,从外观中解开形状在一个无监督的方式。如在可变形模板范例中那样,形状被表示为规范坐标系(“模板”)和观察到的图像之间的变形,而外观在“规范”模板坐标中被建模,从而丢弃由于变形而引起的可变性。我们介绍了新的技术,允许这种方法被部署在自动编码器的设置,并表明这种方法可以用于无监督的组明智的图像对齐。我们展示了人类,手部和手指,面部操作,如形状和外观插值,以及无监督地标定位的表达变形实验。在模板坐标中,一种更强大的无监督解缠形式成为可能,使我们能够成功地将人脸图像分解为阴影和阴影,并进一步操作人脸图像。
2018-06-18 cs.CV
Masked Autoencoder for Unsupervised Video Summarization
NAVER Cloud(NAVER 云);KAIST(韩国科学技术院)
本文提出一种用于无监督视频摘要的自监督掩码自编码器,直接利用解码器重建分数评估帧重要性,无需额外下游架构或微调,并在多个基准上验证有效性。
2023-06-02 cs.CV
Unsupervised detection of mouse behavioural anomalies using two-stream convolutional autoencoders
University of Lincoln(林肯大学);MRC Harwell Institute(英国医学研究理事会哈威尔研究所)
本文探讨了无监督学习在小鼠视频数据异常检测中的应用。本文中提出的两个模型是双流,3D卷积自动编码器(具有剩余连接)和双流,2D卷积自动编码器。这里使用的公开数据集包含12个单个家庭笼中小鼠的视频以及帧级注释。在自动编码器只看到正常事件的借口下,视频数据被手工制作,将每个行为视为伪异常,从而在训练过程中将它们从其他行为中消除。结果显示了一个明显的行为(挂)和一个不明显的行为(新郎)。这些模型的性能相比,一个单一的流自动编码器和监督学习模型,这两个都是基于自定义CAE。这两个模型也测试了中大大道数据集上发现,以及一些国家的最先进的架构。
2021-05-28 cs.CV
Augmentation-Interpolative AutoEncoders for Unsupervised Few-Shot Image Generation
Cornell University(康奈尔大学)
我们的目标是建立图像生成模型,从几个例子推广到新领域。为此,我们首先研究了经典图像生成器的泛化特性,并发现自动编码器可以很好地泛化到新的领域,即使在高度约束的数据上训练也是如此。我们利用这一见解,产生一个强大的,无监督的Few-Shot图像生成算法,并介绍了一种新的训练过程的基础上恢复图像的数据增强。我们的增强插值自动编码器仅从少数参考图像合成新颖物体的逼真图像,并且优于先前的插值模型和监督的Few-Shot图像生成器。我们的程序是简单和轻量级的,广泛的推广,并在培训过程中不需要类别标签或其他监督。
2020-11-25 cs.CV cs.LG
Unsupervised Clustering of Quantitative Imaging Phenotypes using Autoencoder and Gaussian Mixture Model
University of Toronto(多伦多大学);Sunnybrook Research Institute(桑尼布鲁克研究所)
定量医学图像计算(放射组学)已被广泛应用于从医学图像建立预测模型。然而,过拟合是常规放射组学中的重要问题,其中大量放射组学特征直接用于训练和测试预测基因型或临床结果的模型。为了解决这个问题,我们提出了一个无监督的学习管道组成的自动编码器表示学习的放射性特征和高斯混合模型的最小消息长度标准的聚类。通过纳入概率建模,疾病异质性已被考虑在内。在一个由108例结直肠癌肝转移患者组成的机构MRI队列中评价了拟定管道的性能。我们的方法能够自动选择最佳数量的集群,并将患者分配到具有显着不同的生存率的集群(成像亚型)。我们的方法优于其他用于放射组学分析的无监督聚类方法,并且具有与最先进的成像生物标志物相当的性能。
2019-09-06 cs.CV eess.IV q-bio.QM
Toward Unsupervised 3D Point Cloud Anomaly Detection using Variational Autoencoder
Keio University(庆应义塾大学);Denso IT Laboratory(电装信息技术实验室)
本文提出首个针对3D点云的端到端无监督异常检测框架,基于深度变分自编码器构建检测网络并设计专用异常分数,在ShapeNet数据集上验证优于基线方法。
2023-04-07 cs.CV
Unsupervised seismic facies classification using deep convolutional autoencoder
School of Earth and Planetary Sciences(地球与行星科学学院);Curtin University(科廷大学);Oil and Gas Innovation Centre(油气创新中心)
随着地震勘测的规模和复杂性的增加,地震相的手动标记已成为一个重大挑战。应用自动化方法进行地震相解释可以显著减少传统方法中的人工劳动和特定解释者的主观性。最近出现的一组方法基于深度神经网络。这些方法是数据驱动的,需要大型标记数据集进行网络训练。我们将深度卷积自动编码器应用于无监督地震相分类,这不需要手动标记的示例。通过对从输入数据获得的深度特征向量进行聚类来生成相图。我们的方法在实际数据上产生准确的结果,并即时提供。所提出的方法开辟了在没有人为干预的情况下实时分析地质模式的可能性。
2020-08-05 cs.CV cs.LG eess.IV
Unsupervised Audiovisual Synthesis via Exemplar Autoencoders
Carnegie Mellon University(卡内基梅隆大学)
我们提出了一种无监督的方法,将任何个人的输入语音转换为潜在的无限多个输出扬声器的视听流。我们的方法建立在简单的自动编码器上,将样本外数据投影到训练集的分布上。我们使用Exemplar自动编码器来学习特定目标范例语音的语音,文体韵律和视觉外观。与现有方法相比,所提出的方法可以容易地扩展到任意大数量的扬声器和风格,仅使用3分钟的目标音频-视频数据,而不需要输入扬声器的{ \em任何}训练数据。要做到这一点,我们学习视听瓶颈表示,捕捉语音的结构化语言内容。我们在音频和视频合成方面优于以前的方法,并在我们的项目页面上提供了广泛的定性分析-https://www.cs.cmu.edu/~exemplar-ae/。
2021-07-03 cs.CV cs.LG cs.MM
Metric Embedding Autoencoders for Unsupervised Cross-Dataset Transfer Learning
SingularityNET Foundation(SingularityNET基金会);ITMO University(ITMO大学);Novamente LLC(Novamente有限责任公司);Cisco(思科)
跨数据集迁移学习是人再识别中的一个重要问题。不幸的是,对于实际Re-ID系统的现实设置,没有太多的深度转移Re-ID模型存在。我们提出了一个纯深度传输Re-ID模型,由深度卷积神经网络和自动编码器组成。潜码分为度量嵌入和滋扰变量。然后,我们使用一种无监督训练方法,该方法不依赖于与非深度模型的协同训练。我们的实验显示了对基线和竞争对手的迁移学习模型的改进。
2018-07-18 cs.CV cs.LG
Unsupervised Motion Representation Learning with Capsule Autoencoders
School of Computing(计算机学院);NUS Graduate School(新加坡国立大学研究生院);National University of Singapore(新加坡国立大学)
我们提出了运动胶囊自动编码器(MCAE),它解决了运动表示的无监督学习中的一个关键挑战:变换不变性。MCAE在两级层次结构中对运动进行建模。在较低的水平,时空运动信号被划分为短,本地和语义不可知的片段。在更高的级别中,片段被聚合以形成完整长度的语义感知片段。对于这两个级别,我们表示运动与一组学习的变换不变的模板和相应的几何变换,通过使用胶囊自动编码器的一种新颖的设计。这导致视点变化的鲁棒且高效的编码。MCAE是在一个新的Trajectory20运动数据集和各种真实世界的基于机器人的人类动作数据集上进行评估的。值得注意的是,它在Trajectory20上实现了比基线更好的结果,在无监督的基于动作识别任务上具有更少的参数和最先进的性能。
2021-10-01 cs.CV cs.LG
Unsupervised Anomaly Localization with Structural Feature-Autoencoders
Technical University of Munich(慕尼黑工业大学);Klinikum Rechts der Isar(伊萨尔河右岸医院);Imperial College London(伦敦帝国学院)
提出一种结构化特征自动编码器,通过多通道特征映射与结构相似性损失提升脑部 MRI 无监督异常定位精度。
2022-08-23 cs.CV eess.IV
ODDObjects: A Framework for Multiclass Unsupervised Anomaly Detection on Masked Objects
University of British Columbia(不列颠哥伦比亚大学)
本文提出了一种新的框架,称为ODDObjects,它代表分布外检测对对象的屏蔽对象的无监督异常检测。ODDObjects旨在使用在COCO风格数据集上训练的无监督自动编码器来检测各种类别的异常。该方法利用基于自动编码器的图像重建,其中高重建误差指示异常的可能性。该框架扩展了先前使用自动编码器进行异常检测的工作,比较了在对象识别数据集上训练的最先进模型。比较了各种模型架构,实验结果表明,内存增强的深度卷积自动编码器在检测分布外对象方面表现最好。
2021-04-26 cs.AI cs.CV cs.LG
Unsupervised Segmentation of Hyperspectral Images Using 3D Convolutional Autoencoders
高光谱图像分析已成为遥感界广泛研究的重要课题。这种图像的分类和分割有助于了解扫描场景中的底层材料,因为高光谱图像传达了在多个光谱带中捕获的详细信息。虽然深度学习已经在该领域建立了最先进的技术,但由于缺乏地面真实数据,训练良好的泛化模型仍然具有挑战性。在这封信中,我们解决了这个问题,并提出了一种端到端的方法,以完全无监督的方式分割高光谱图像。我们引入了一种新的深度架构,它将3D卷积自动编码器与聚类相结合。我们多方面的实验研究-在基准和现实生活中的数据上进行-表明我们的方法提供了高质量的分割,而无需任何先前的类标签。
2019-07-20 cs.CV
Masked Autoencoders for Unsupervised Anomaly Detection in Medical Images
University of Bucharest(布加勒斯特大学)
提出一种仅用健康样本训练的医学图像异常检测框架,利用 Masked Autoencoder 重建正常结构,并基于伪异常模块生成正样本训练差异分类器,在 BRATS2020 和 LUNA16 上对比四种前沿方法。
2023-07-14 cs.CV eess.IV
Unsupervised Abnormality Detection through Mixed Structure Regularization (MSR) in Deep Sparse Autoencoders
Philips Medical Systems Technologies Ltd.(飞利浦医疗系统科技有限公司)
除了显式稀疏正则化项和具有高斯噪声的输入数据的随机损坏之外,具有混合结构正则化(MSR)的深度稀疏自动编码器具有改进无监督异常检测的潜力。基于使用深度稀疏自动编码器识别离群值的无监督异常检测对于医学计算机辅助检测系统来说是非常有吸引力的方法,因为它只需要健康的数据进行训练,而不是专家注释的异常。在冠状动脉计算机断层扫描血管造影(CCTA)检测冠状动脉疾病的任务中,我们的研究结果表明,与深度稀疏和去噪自动编码器相比,MSR有可能将整体性能提高20-30%。
2019-02-28 cs.CV cs.LG
Sparse Autoencoder for Unsupervised Nucleus Detection and Representation in Histopathology Images
Stony Brook University(石溪大学);Oak Ridge National Laboratory(橡树岭国家实验室);Stony Brook University Hospital(石溪大学医院)
组织学图像对于研究癌症等复杂疾病至关重要。细胞核的组织学特征在疾病的诊断、预后和分析中起着关键作用。在这项工作中,我们提出了一个稀疏卷积自动编码器(CAE)完全无监督,同时核检测和特征提取在组织病理学组织图像。我们的CAE检测和编码细胞核在组织图像中的图像补丁到稀疏的特征图,编码细胞核的位置和外观。我们的CAE是第一个用于计算机视觉应用的无监督检测网络。我们CAE中的预训练核检测和特征提取模块可以以端到端的方式进行微调以进行监督学习。我们在四个数据集上评估了我们的方法,并将最先进方法的误差降低了42%。我们能够以仅5%的完全监督注释成本实现相当的性能。
2017-04-10 cs.CV
Unsupervised Change Detection in Hyperspectral Images using Feature Fusion Deep Convolutional Autoencoders
双时共配准高光谱图像中的二值变化检测是一项具有挑战性的任务,由于大量的光谱波段中存在的数据。因此,研究人员试图通过减少维度来处理它。所提出的工作旨在建立一个新的特征提取系统,使用特征融合深度卷积自动编码器来检测一对这样的双时间共配准高光谱图像之间的变化。特征融合考虑了连续层次和多个感受野的特征,因此比现有的特征提取方法增加了竞争优势。所描述的变化检测技术是完全无监督的,并且比其他需要一些标签信息的监督或半监督方法更优雅。不同的方法已被应用到提取的特征,以找到在两个图像中的变化,它被发现,所提出的方法显然优于最先进的方法在所有的数据集的无监督变化检测。
2021-09-10 cs.CV cs.LG
Improving Unsupervised Defect Segmentation by Applying Structural Similarity to Autoencoders
MVTec Software GmbH(MVTec软件有限公司);University of Amsterdam(阿姆斯特丹大学)
卷积自动编码器已经成为图像数据上无监督缺陷分割的流行方法。最常见的是,通过基于$\ell^p$距离对逐像素重建误差进行阈值化来执行该任务。然而,这个过程会导致大的残差,每当重建包含轻微的定位边缘周围的不准确。当强度值保持大致一致时,它也无法揭示视觉上已经改变的缺陷区域。我们发现,这些问题阻止这些方法被应用到复杂的现实世界的情况下,它不能很容易地避免采用更精细的架构,如变分或功能匹配的自动编码器。我们建议使用一个感知损失函数的基础上,结构相似性,检查局部图像区域之间的相互依赖关系,考虑到亮度,对比度和结构信息,而不是简单地比较单个像素值。它在具有挑战性的纳米纤维材料的真实世界数据集和两种编织织物的新型数据集上实现了显着的性能增益,超过了使用逐像素重建误差度量的无监督缺陷分割的最新方法。
2019-02-01 cs.CV cs.LG
Unsupervised Multiple-Object Tracking with a Dynamical Variational Autoencoder
Inria Grenoble Rhône-Alpes(法国国家信息与自动化研究所罗纳-阿尔卑斯大区格勒诺布尔中心);Univ. Grenoble-Alpes(格勒诺布尔阿尔卑斯大学);Grenoble-INP(格勒诺布尔国立理工学院)
提出了一种基于动态变分自编码器(DVAE)的多目标跟踪(MOT)无监督概率模型及其估计算法(DVAE-UMOT)。DVAE是一种潜在变量深度生成模型,可以被视为用于时间序列建模的变分自编码器的扩展。它包含在DVAE-UMOT中,在对单对象轨迹的未标记合成数据集进行预训练后,对对象的动态进行建模。然后利用变分推理的原理:定义隐变量的近似后验分布,最大化数据似然函数的相应证据下界,在每个待跟踪的多目标序列上估计DVAE-UMOT的分布和参数。DVAE-UMOT的实验结果表明,竞争以及甚至超过两个国家的最先进的概率MOT模型的性能。代码和数据是公开的。
2022-02-21 cs.CV cs.LG
MTS-DMAE: Dual-Masked Autoencoder for Unsupervised Multivariate Time Series Representation Learning
Northeastern University, Boston, USA(东北大学)
本文提出双掩码自编码器DMAE,通过重建掩码值与教师引导的潜在表示估计及特征对齐约束,实现无监督多元时间序列表示学习,并在分类、回归和预测任务上取得优于基线方法的性能。
2025-09-19 cs.CV cs.LG
A Masked Autoencoder Approach to Unsupervised Steel Surface Defect Recognition
针对钢表面缺陷识别中标记数据稀缺问题,采用基于Transformer的掩码自动编码器,通过随机掩码部分图像块让轻量级解码器重建,联合辅助缺陷定位目标训练编码器,聚类预训练编码器特征,取得较高匹配准确率。
2026-07-16 cs.CV
Symmetric Graph Convolutional Autoencoder for Unsupervised Graph Representation Learning
Seoul National University(首尔国立大学);Hanyang University(汉阳大学);University of Birmingham(伯明翰大学)
我们提出了一个对称图卷积自动编码器,它产生一个低维的潜在表示从一个图。与现有的具有非对称解码器部分的图自编码器相比,所提出的自编码器具有新设计的解码器,该解码器构建了完全对称的自编码器形式。对于节点特征的重建,解码器是基于拉普拉斯锐化作为拉普拉斯平滑的编码器的对应物而设计的,这允许在所提出的自动编码器架构的整个过程中利用图结构。为了防止引入Laplacian锐化所引起的网络数值不稳定性,我们进一步提出了一种新的数值稳定形式的Laplacian锐化,通过引入符号图。此外,一个新的成本函数,发现一个潜在的代表性和潜在的亲和力矩阵同时设计,以提高图像聚类任务的性能。在聚类、链接预测和可视化任务上的实验结果表明,该模型具有较好的稳定性,且性能优于现有的各种算法。
2019-08-07 cs.CV cs.LG stat.ML
Unsupervised Pre-Training Using Masked Autoencoders for ECG Analysis
University College Dublin(都柏林大学);National University of Singapore(新加坡国立大学)
本文提出基于掩码自编码器的无监督预训练及任务特定微调框架用于心电图分析,在MITDB数据集上心律失常分类准确率达94.39%,优于全监督方法。
2023-10-17 cs.CV eess.SP
Unsupervised Time-Series Signal Analysis with Autoencoders and Vision Transformers: A Review of Architectures and Applications
The University of Akron(阿克伦大学)
本文综述了自编码器与视觉Transformer在无监督时间序列信号分析中的架构、应用及趋势,指出混合架构与自监督学习的优势,并总结可解释性、可扩展性和领域泛化等挑战,为信号智能模型发展提供路线图。
2025-06-02 cs.AI cs.CV cs.LG
Memory-Augmented LSTM Autoencoder for Unsupervised Activity Recognition with IMU Sensor Fusion
Faculty of Biomedical Engineering, Amirkabir University of Technology (Tehran Polytechnic)(生物医学工程学院,阿米尔卡比尔技术大学(德黑兰理工大学))
提出一种完全无监督的时空特征融合框架,使用记忆增强自编码器,通过短时间窗口的多传感器IMU数据增强活动表示,在DaLiAc和PAMAP2上分别达到96.6%和98.4%的准确率,超越监督和无监督方法。
2026-06-19 cs.AI cs.CV
Unsupervised Multiple Person Tracking using AutoEncoder-Based Lifted Multicuts
Fraunhofer Center Machine Learning(弗劳恩霍夫机器学习中心);Fraunhofer ITWM(弗劳恩霍夫工业数学研究所);Institute for Machine Learning and Analytics (IMLA) Offenburg University(奥芬堡大学机器学习与分析研究所(IMLA));University of Mannheim(曼海姆大学)
多目标跟踪(MOT)是计算机视觉中一个长期存在的课题。基于检测跟踪范例的当前方法需要某种领域知识或监督来将数据正确地关联到轨道中。在这项工作中,我们提出了一个无监督的多目标跟踪方法的基础上的视觉特征和最小成本提升多割。我们的方法是基于直接的时空线索,可以从相邻的帧中提取的图像序列没有supervison。基于这些线索的聚类使我们能够学习手头的跟踪任务所需的外观不变性,并训练自动编码器以生成合适的潜在表示。因此,所得到的潜在表示可以作为鲁棒的外观线索,用于跟踪,即使在大的时间距离,其中没有可靠的时空特征可以被提取。我们表明,尽管在没有使用所提供的注释的情况下进行了训练,但我们的模型在具有挑战性的MOT Benchmark行人跟踪上提供了有竞争力的结果。
2020-02-04 cs.CV
Unsupervised brain lesion segmentation from MRI using a convolutional autoencoder
University of Iceland(冰岛大学);Landspitali - University Hospital(兰斯皮塔利大学医院);The Icelandic Heart Association(冰岛心脏协会);The Johns Hopkins University(约翰斯·霍普金斯大学)
在人脑的液体衰减反转恢复(FLAIR)和T2加权磁共振成像(MRI)中出现高信号的病变在老年人群的大脑中很常见,可能是由缺血或脱髓鞘引起的。病变是各种神经退行性疾病的生物标志物,使其准确定量对于疾病诊断和进展都很重要。使用监督学习的自动病变检测需要手动注释的图像,这通常是不切实际的。另一方面,无监督病变检测不需要任何手动描绘;然而,由于病变负载、病变位置和体素强度的可变性,这些方法的构建可能具有挑战性。在这里,我们提出了一种新的方法来解决这个问题,使用卷积自动编码器,学习分割脑病变以及白质,灰质和脑脊液重建FLAIR图像作为圆锥组合的softmax层输出从相应的T1,T2和FLAIR图像生成。该模型的一些优点是,无论病变负荷如何,它都能准确地学习分割病变,并且可以用于快速而稳健地分割不在训练集中的新图像。与地面真实手动标签上评估的最先进的分割方法的比较表明,所提出的方法可以很好地生成准确的病变分割,而无需手动注释。
2018-11-23 cs.CV eess.IV
Fully Unsupervised Diversity Denoising with Convolutional Variational Autoencoders
Center for Systems Biology Dresden(德累斯顿系统生物学中心);Max-Planck Institute (CBG)(马克斯·普朗克分子细胞生物学与遗传学研究所);School of Computer Science(计算机科学学院);University of Birmingham(伯明翰大学);Fondazione Human Technopole(人类技术基金会)
基于深度学习的方法已成为几乎所有图像复原任务无可争议的领导者。特别是在显微图像领域,各种内容感知的图像复原(CARE)方法现在被用来提高所采集数据的可解释性。当然,在损坏的图像中可以恢复的内容是有限的,并且像所有逆问题一样,存在许多潜在的解决方案,并且必须选择其中之一。在这里,我们提出DivNoising,一种基于全卷积变分自编码器(VAE)的去噪方法,克服了通过预测去噪图像的整个分布来选择单一解决方案的问题。首先,我们介绍了一个原则性的方式制定的VAE框架内的无监督去噪问题,明确将成像噪声模型到解码器。我们的方法是完全无监督的,只需要噪声图像和成像噪声分布的适当描述。我们证明了这样的噪声模型可以测量,从噪声数据中自举,或者在训练过程中共同学习。如果需要,可以从一组DivNoising预测中推断出一致性预测,从而与其他无监督方法产生竞争结果,有时甚至与监督的最先进方法产生竞争结果。我们(i)展示了13个数据集的去噪结果,(ii)讨论了光学字符识别(OCR)应用如何从不同的预测中受益,(iii)展示了使用不同的DivNoising预测时,实例单元格分割如何改进。
2021-03-01 cs.CV cs.LG eess.IV
Cycle-Consistent Adversarial Autoencoders for Unsupervised Text Style Transfer
Lenovo Research AI Lab(联想研究院人工智能实验室);Kwai Inc.(快手公司);Tianjin University(天津大学);Cornell University(康奈尔大学)
由于缺乏并行数据和内容保存困难,无监督文本风格转换充满了挑战。在本文中,我们提出了一种新的神经方法来进行无监督的文本风格传输,我们称之为从非并行数据中训练的周期一致性对抗自动编码器(CAE)。CAE由三个基本组成部分组成:(1)LSTM自动编码器,将一种风格的文本编码为其潜在表示,并将编码表示解码为其原始文本或将转换表示解码为风格转换文本,(2)对抗性风格转换网络,使用对抗性训练的生成器将一种风格的潜在表示转换为另一种风格的表示,以及(3)增强对抗风格传输网络在内容保存中的能力的循环一致性约束。包含这三个组件的整个CAE可以进行端到端的培训。在两个广泛使用的公共数据集上进行的广泛实验和深入分析一致地验证了所提出的CAE在风格转换和内容保存方面的有效性,并与四个自动评估指标和人类评估方面的几个强基线进行了比较。
2020-10-02 cs.CL cs.CV cs.LG
Scale-Space Autoencoders for Unsupervised Anomaly Segmentation in Brain MRI
TU Munich(慕尼黑工业大学);Klinikum rechts der Isar(伊萨尔河右岸医院);ETH Zurich(苏黎世联邦理工学院);Johns Hopkins University(约翰斯·霍普金斯大学)
脑病理在大小和形状上可以变化很大,范围从几个像素(即MS病变)到大的占位性肿瘤。最近提出的自动编码器为基础的方法,在脑MRI无监督异常分割表现出良好的性能,但面临的困难,在建模的分布与高保真度,这是至关重要的准确描绘特别小的病变。在这里,类似于这些以前的作品,我们对健康大脑MRI的分布进行建模,以定位错误重建的病理。然而,为了在更高分辨率下实现改进的重建保真度,我们学习使用拉普拉斯金字塔压缩和重建健康脑MRI的不同频段。在一系列的实验中,我们的方法与不同的国家的最先进的方法在三个不同的脑MR数据集与MS病变和肿瘤进行比较,我们显示出改进的异常分割性能和一般能力,以获得更清晰的重建输入数据在本地分辨率。拉普拉斯金字塔的建模进一步使得能够在多个尺度上描绘和聚集病变,这允许使用单个模型有效地应对不同的病理和病变尺寸。
2020-06-23 cs.CV cs.LG eess.IV
Unsupervised Clustering of Roman Potsherds via Variational Autoencoders
University of Cambridge(剑桥大学)
在本文中,我们提出了一个人工智能成像解决方案,以支持考古学家在罗马陶器碎片的分类任务。通常,每个陶片都以其截面轮廓作为二维的黑白图像来表示,并印刷在与特定考古发掘相关的考古书籍中。片段的随机和手工方差使得它们的匹配成为一个具有挑战性的问题:我们建议通过在深度卷积变分自编码器(VAE)网络的潜在空间中学习的非线性特征的无监督分层聚类来配对相似的配置文件。我们的贡献还包括创建一个罗马陶瓷(ROCOPOT)数据库,从25个罗马陶器语料库中提取了4000多个陶片配置文件,以及一个MATLAB GUI软件,用于轻松检查形状相似性。从数学和考古学的角度对结果进行了评论,以便在两个社区中解锁新的研究方向。
2022-03-14 cs.AI cs.CV cs.DB
Disentangled Representation Learning with Information Maximizing Autoencoder
University of Southern Queensland(南昆士兰大学)
从任何未标记的数据中学习解纠缠表示是一个重要的问题。在本文中,我们提出了信息最大化自动编码器(InfoAE),编码器学习强大的解开表示通过最大化之间的互信息的表示和给定的信息在一个无监督的方式。我们已经在MNIST数据集上评估了我们的模型,并在使用完全无监督训练时达到了98.9($\pm .1$)$\%$测试准确率。
2019-04-18 cs.CV cs.LG stat.ML
Memorizing Normality to Detect Anomaly: Memory-augmented Deep Autoencoder for Unsupervised Anomaly Detection
The University of Adelaide(阿德莱德大学);Deakin University(迪肯大学);University of Western Australia(西澳大学)
深度自动编码器已广泛用于异常检测。在正常数据上训练,期望自动编码器对异常输入产生比正常输入更高的重构误差,这被用作识别异常的标准。然而,这一假设在实践中并不总是成立的。已经观察到,有时自动编码器“泛化”得如此之好,以至于它也可以很好地重建异常,从而导致异常的未检测。为了减轻这个缺点的自动编码器基于异常检测器,我们建议增加自动编码器与内存模块,并开发一个改进的自动编码器称为内存增强的自动编码器,即MemAE。给定一个输入,MemAE首先从编码器获得编码,然后将其用作查询,以检索最相关的内存项进行重建。在训练阶段,记忆内容被更新,并被鼓励代表正常数据的原型元素。在测试阶段,学习记忆将被固定,并且从正常数据的一些选择的记忆记录中获得重建。因此,重建将倾向于接近正常样本。因此,异常的重建误差将被加强用于异常检测。MemAE不需要对数据类型进行假设,因此通常适用于不同的任务。在不同数据集上的实验证明了所提出的MemAE具有良好的泛化能力和高效性。
2019-08-06 cs.CV
Unsupervised Network Anomaly Detection with Autoencoders and Traffic Images
Faculty of Inform. Tech. and Com. Sciences(信息技术与计算机科学学院);Tampere University(塔尔皮奥大学)
本文提出基于图像的网络流量表示方法,结合自编码器实现无监督的网络异常检测,有效减少复杂处理架构需求。
2025-05-22 cs.CR cs.CV eess.IV
Lifting AutoEncoders: Unsupervised Learning of a Fully-Disentangled 3D Morphable Model using Deep Non-Rigid Structure from Motion
CentraleSupélec(中央理工-高等电力学院);Stony Brook University(石溪大学);The Alan Turing Institute(艾伦·图灵研究所);UCL(伦敦大学学院);Ariel AI;Imperial College(帝国理工学院)
在这项工作中,我们介绍了提升自动编码器,一个生成的3D表面为基础的模型的对象类别。我们汇集了来自运动的非刚性运动恢复结构,图像形成和变形模型的想法,以完全无监督的方式从非结构化图像集学习3D类别的可控几何模型。我们利用我们的模型的3D几何性质,并使用正常的信息来解开照明,阴影和阴影的外观。我们进一步使用弱监督来解开人类面部的非刚性形状可变性到身份和表达。我们将3D表示与可微分渲染器相结合,以生成RGB图像,并附加一个经过逆向训练的细化网络,以获得清晰的、逼真的图像重建结果。学习的生成模型可以在可解释的几何形状和外观因素方面进行控制,使我们能够对身份,表情,3D姿势和照明属性进行逼真的图像操作。
2019-04-26 cs.CV
Unsupervised Analysis of Alzheimer's Disease Signatures using 3D Deformable Autoencoders
Technical University of Munich(慕尼黑工业大学);Helmholtz AI(亥姆霍兹人工智能研究所);School of Biomedical Engineering and Imaging Sciences, King’s College London(伦敦国王学院生物医学工程与影像科学学院);Klinikum Rechts der Isar(慕尼黑右岸医院);Imperial College London(伦敦帝国学院)
本文提出MORPHADE,一种基于3D可变形自编码器的无监督学习方法,通过分析脑图像变形来检测、定位和评估阿尔茨海默病相关脑萎缩,检测AUROC达0.80并优于多个基线。
2024-07-04 cs.AI cs.CV eess.IV
Code-Aligned Autoencoders for Unsupervised Change Detection in Multimodal Remote Sensing Images
UiT The Arctic University of Norway(北极挪威特罗姆瑟大学);NORCE Norwegian Research Center(NORCE挪威研究中心);University of Genoa(热那亚大学)
图像翻译与卷积自动编码器最近被用来作为一种方法,在双时相卫星图像的多模态变化检测。一个主要的挑战是通过减少改变像素对翻译函数的学习的贡献来对齐代码空间。许多现有的方法训练网络利用监督信息的变化领域,这是,然而,并不总是可用的。我们建议在输入端提取由特定于域的亲和矩阵捕获的关系像素信息,并使用此信息来执行代码空间的对齐,并减少变化像素对学习目标的影响。一个变化的先验是在一个无监督的方式从像素对的亲和力,跨域可比。为了实现代码空间对齐,我们强制输入域中具有相似亲和关系的像素在代码空间中也应该相关。我们证明了这个过程的实用性结合周期的一致性。将所提出的方法与最先进的深度学习算法进行比较。在四个真实数据集上进行的实验表明了该方法的有效性。
2020-04-15 cs.CV
Unsupervised Band Selection Using Fused HSI and LiDAR Attention Integrating With Autoencoder
本文提出一种无监督波段选择框架,利用注意力评分融合 HSI 与 LiDAR 数据,并通过卷积自编码器重建选择波段,在多个数据集上显著提升分类精度。
2024-04-08 cs.CV
MoFA: Model-based Deep Convolutional Face Autoencoder for Unsupervised Monocular Reconstruction
Max-Planck-Institute for Informatics(马克斯·普朗克信息学研究所);LCSB, University of Luxembourg(卢森堡大学生物医学系统生物学中心);Technicolor(特艺集团)
在这项工作中,我们提出了一种新的基于模型的深度卷积自动编码器,它解决了从单个原始彩色图像重建3D人脸的高度挑战性问题。为此,我们将卷积编码器网络与作为解码器的专家设计的生成模型相结合。核心创新是我们新的可微分参数解码器,它基于生成模型解析地封装了图像形成。我们的解码器作为输入的代码向量与精确定义的语义含义,编码详细的人脸姿态,形状,表情,皮肤反射和场景照明。由于这种将基于CNN的人脸重建与基于模型的人脸重建相结合的新方法,基于CNN的编码器可以学习从单个单目输入图像中提取语义上有意义的参数。这是第一次,CNN编码器和专家设计的生成模型可以以无监督的方式进行端到端的训练,这使得在非常大的(未标记的)真实世界数据上进行训练变得可行。所获得的重建相比,目前国家的最先进的方法在质量和丰富的代表性。
2017-12-07 cs.CV
Synthetic Pseudo Anomalies for Unsupervised Video Anomaly Detection: A Simple yet Efficient Framework based on Masked Autoencoder
Xiamen University(厦门大学);PKU-Wuhan Institute for Artificial Intelligence(北大武汉人工智能研究院)
由于可用于训练的异常样本有限,视频异常检测通常被视为一类分类问题。许多流行的方法研究了自动编码器(AutoEncoders,AE)产生的重建差异,假设AE可以很好地重建正常数据,但重建异常数据的效果很差。然而,即使仅使用正常的数据训练,AE也常常很好地重构异常,这耗尽了其异常检测性能。为了解决这个问题,我们提出了一个简单而有效的视频异常检测框架。引入伪异常样本,通过嵌入随机掩模标记,仅从正常数据合成伪异常样本,无需额外的数据处理。我们还提出了一种正态一致性训练策略,鼓励AE更好地从正态和相应的伪异常数据中学习规则知识。通过这种方式,AE了解到正常和异常数据之间的更明显的重建边界,从而产生更好的异常区分能力。通过仿真和实测数据处理验证了所提方法的有效性。
2023-03-09 cs.CV
Graph Autoencoder-Based Unsupervised Feature Selection with Broad and Local Data Structure Preservation
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
特征选择是一种降维技术,通过消除不相关和冗余的特征,从高维数据中选择代表性特征的子集。近年来,结合稀疏学习的特征选择方法因其相对于传统的忽略特征间相关性的特征选择方法的优异性能而受到广泛关注。这些工作首先将数据映射到一个低维子空间,然后通过对变换矩阵施加稀疏约束来选择特征。然而,它们被设计限制为线性数据变换,这是一个潜在的缺点,因为数据的底层相关结构通常是非线性的。为了利用更复杂的嵌入,我们提出了一种基于自动编码器的无监督特征选择方法,该方法利用单层自动编码器来实现特征选择和流形学习的联合框架。更具体地说,我们在连接输入层和隐藏层的权重矩阵上强制执行列稀疏性,就像以前的工作一样。此外,我们将投影数据的谱图分析纳入学习过程,以实现从原始数据空间到低维特征空间的局部数据几何保持。对图像、音频、文本和生物数据进行了广泛的实验。实验结果验证了该方法的优越性。
2018-04-21 cs.CV cs.LG stat.ML
Diffusion Autoencoder for Unsupervised Artifact Restoration in Handheld Fundus Images
Nuvo AI;Indian Institute of Technology Madras(印度理工学院马德拉斯)
本文提出一种无监督扩散自编码器,通过结合上下文编码器与去噪过程,学习语义表示以恢复手持视网膜图像中的伪影。模型仅使用高质量台式视网膜图像训练,能有效提升诊断准确率至81.17%。
2026-04-17 cs.AI cs.CV
Unsupervised Multiple Domain Translation through Controlled Disentanglement in Variational Autoencoder
Le Mans University(勒芒大学);Johns Hopkins University(约翰斯·霍普金斯大学)
本文提出一种基于改进变分自编码器的无监督多域翻译方法,通过受控解耦两个潜变量使一个仅编码域信息、另一个编码其余变异因素,在多个视觉数据集上验证了其优于GAN类方法的性能,并证明了解耦的有效性。
2024-01-18 cs.CV cs.LG
Siamese Transition Masked Autoencoders as Uniform Unsupervised Visual Anomaly Detector
Tsinghua University(清华大学);Huazhong University of Science and Technology(华中科技大学)
无监督视觉异常检测在许多场景中具有实际意义,并且由于异常的无限定义而成为一项具有挑战性的任务。此外,大多数先前的方法是特定于应用的,并且建立跨应用场景的异常的统一模型仍然没有解决。本文提出了一种新的混合框架,称为连体过渡掩码自编码器(ST-MAE)处理各种视觉异常检测任务,通过深度特征过渡统一。具体地说,该方法首先从预训练的深度卷积神经网络中提取层次语义特征,然后开发一种特征解耦策略,将深度特征分成两个不相交的特征补丁子集。利用解耦的特征,ST-MAE是使用Siamese编码器开发的,该编码器对特征补丁的每个子集进行操作并执行两个子集的潜在表示转换,以及一个轻量级解码器,该解码器从转换后的潜在表示重建原始特征。最后,利用语义深度特征残差检测异常属性。我们的深度特征转换方案产生了一个非平凡的语义自我监督任务,以提取原型正常模式,这允许学习统一的模型,以及推广不同的视觉异常检测任务。实验结果表明,ST-MAE方法在多个应用场景下具有较好的推理性能,有望成为无监督视觉异常检测的统一模型.
2022-11-01 cs.CV
Unsupervised anomaly detection for a Smart Autonomous Robotic Assistant Surgeon (SARAS)using a deep residual autoencoder
Oxford Brookes University(牛津布鲁克斯大学)
微创手术(MIS)中的异常检测传统上需要人类专家从控制台监视过程。另一方面,数据稀缺阻碍了向自主机器人辅助手术系统的理想迁移。该领域中的自动异常检测系统通常依赖于经典的监督学习。然而,手术环境中的异常事件是罕见的,使得难以捕获数据以以监督的方式训练检测模型。因此,在这项工作中,我们提出了一种基于深度残差自动编码器的机器人辅助手术异常检测的无监督方法。这个想法是让自动编码器学习数据的“正态”分布,并通过测量重建误差来检测偏离该分布的异常事件。该模型在公开可用的Cholec80数据集上进行训练和验证,提供额外的注释,并在作为智能自主机器人助理外科医生(SARAS)项目的一部分制作的人工解剖(“幻影”)上拍摄的一组视频上进行训练和验证。该系统在Cholec80上的召回率和准确率分别为78.4%和91.5%,在SARAS体模数据集上的召回率和准确率分别为95.6%和88.1%。该端到端系统是作为SARAS演示平台的一部分开发和部署的,用于实时异常检测,处理时间约为每帧25毫秒。
2021-04-22 cs.CV cs.RO
Unsupervised Tomato Split Anomaly Detection using Hyperspectral Imaging and Variational Autoencoders
University of Lincoln(林肯大学)
针对温室番茄裂果异常检测中外观多变和数据稀缺的挑战,提出一种基于高光谱成像和定制变分自编码器的无监督检测方法,在530-550nm波段下实现97%准确率并定位异常区域。
2025-04-28 cs.AI cs.CV
Unsupervised Learning of Sequence Representations by Autoencoders
Delft University of Technology(代尔夫特理工大学)
序列数据对于机器学习方法来说是具有挑战性的,因为序列的长度可能在样本之间变化。在本文中,我们提出了一个无监督学习模型的序列数据,称为集成序列自动编码器(ISA),学习一个固定长度的矢量表示,通过最小化重建误差。具体来说,我们建议整合两个经典的机制,考虑到全球的轮廓信息和局部时间依赖性的序列重建。此外,我们提出了一个停止功能,作为一个时间戳来指导重建过程,这导致了更高质量的表示。学习的表示不仅能够有效地总结表观特征,还能够有效地总结底层和高层风格信息。以语音序列样本为例:我们的ISA模型不仅可以识别口语文本(表观特征),还可以区分发出音频的说话者(更高级的风格)。ISA模型的一个有前途的应用是,它可以很容易地用于半监督学习的情况下,其中大量的未标记的数据被利用来提取高质量的序列表示,从而提高性能的后续监督学习任务上有限的标记数据。
2018-04-26 cs.AI cs.CV
Autoencoders for Unsupervised Anomaly Segmentation in Brain MR Images: A Comparative Study
TU Munich(慕尼黑工业大学);ETH Zurich(苏黎世联邦理工学院);Klinikum Rechts der Isar(Rechts der Isar 医院);Johns Hopkins University(约翰斯·霍普金斯大学)
深度无监督表示学习最近在脑MRI中的无监督异常检测(UAD)领域带来了新的方法。这些工作背后的主要原则是通过学习压缩和恢复健康数据来学习正常解剖模型。这允许从压缩的、可能异常的样本的错误恢复中发现异常结构。这一概念引起了医学图像分析界的极大兴趣,因为它i)减轻了对大量手动分割训练数据的需求-这是当前监督式深度学习的必要性和陷阱-ii)理论上允许检测任意的,甚至是监督方法可能无法找到的罕见病理。到目前为止,大多数作品的实验设计阻碍了有效的比较,因为i)它们是针对不同的数据集和不同的病理进行评估的,ii)使用不同的图像分辨率,iii)具有不同复杂性的不同模型架构。这项工作的目的是通过利用单一架构,单一分辨率和相同的数据集来建立最近方法之间的可比性。除了提供方法的排名外,我们还试图回答这样的问题:i)需要多少健康的训练对象来建模正态性,ii)所审查的方法是否也对域转移敏感。此外,我们确定了开放的挑战,并为未来的社区努力和研究方向提供建议。
2020-04-08 cs.CV cs.LG eess.IV
Comparative Analysis of Unsupervised and Supervised Autoencoders for Nuclei Classification in Clear Cell Renal Cell Carcinoma Images
RWTH Aachen University(亚琛工业大学);Kermanshah University(克尔曼沙阿大学)
本研究对比多种无监督与监督自架构在ccRCC细胞核分级中的表现,提出带分类器分支的CDAE模型,经Optuna调优后在所有指标上超越现有最优模型CHR-Network,可提升病理分级自动化与诊断准确率。
2025-04-04 cs.CV cs.LG eess.IV
MLE-UVAD: Minimal Latent Entropy Autoencoder for Fully Unsupervised Video Anomaly Detection
University of Florida(佛罗里达大学);Auburn University(阿伯伯大学)
本文提出MLE-UVAD方法,通过结合重建损失和最小潜在熵损失,有效区分正常与异常视频帧,实验表明其在两个基准和自采集驾驶数据集上表现优异。
2026-04-20 cs.CV