Unsupervised Anomaly Localization using Variational Auto-Encoders
German Cancer Research Center (DKFZ)（德国癌症研究中心（DKFZ））
对医学图像进行无干扰的自动检查，以发现潜在的监督异常，对于放射科医生来说是一个有价值的帮助。深度学习，特别是变分自动编码器（VAE）在数据分布的无监督学习中显示出巨大的潜力。原则上，这允许这样的检查，甚至定位图像中最可疑的部分。然而，目前，基于重建的设计定位需要调整模型架构，以适应评估过程中的特定问题。这与建立无约束模型的原则相矛盾。我们建议补充本地化的一部分，来自Kullback-Leibler（KL）发散项。为了验证，我们对FashionMNIST以及包括>1000名健康和>250名脑肿瘤患者的医疗任务进行了一系列实验。结果表明，所提出的形式主义优于最先进的基于VAE的异常定位在许多超参数设置，也显示出竞争力的最大性能。
2019-07-11 cs.LG eess.IV stat.ML
Quorum: Zero-Training Unsupervised Anomaly Detection using Quantum Autoencoders
Rice University（莱斯大学）；Stanford University（斯坦福大学）
针对量子机器学习模型训练困难及异常检测需无监督方法的问题，提出首个无需训练的无监督量子异常检测框架Quorum，利用量子计算解决多行业关键异常检测挑战。
2025-04-17 cs.ET cs.LG
ODDObjects: A Framework for Multiclass Unsupervised Anomaly Detection on Masked Objects
University of British Columbia（不列颠哥伦比亚大学）
本文提出了一种新的框架，称为ODDObjects，它代表分布外检测对对象的屏蔽对象的无监督异常检测。ODDObjects旨在使用在COCO风格数据集上训练的无监督自动编码器来检测各种类别的异常。该方法利用基于自动编码器的图像重建，其中高重建误差指示异常的可能性。该框架扩展了先前使用自动编码器进行异常检测的工作，比较了在对象识别数据集上训练的最先进模型。比较了各种模型架构，实验结果表明，内存增强的深度卷积自动编码器在检测分布外对象方面表现最好。
2021-04-26 cs.AI cs.CV cs.LG
Deep Autoencoders for Unsupervised Anomaly Detection in Wildfire Prediction
School of Aerospace, Transport and Manufacturing, Cranfield University（克兰菲尔德大学航空航天、运输与制造学院）；Spire Global, Inc.（Spire全球公司）
本研究提出基于深度自编码器的两种无监督异常检测方法用于野火预测，利用澳大利亚2005-2021年气象数据，发现全连接自编码器在无标签情况下表现最佳，准确率达0.71。
2024-11-14 cs.AI cs.LG
Assesing the Viability of Unsupervised Learning with Autoencoders for Predictive Maintenance in Helicopter Engines
University of Alcalá（阿尔卡拉大学）
本文比较了监督分类与自编码器在直升机发动机预测性维护中的性能，发现无监督方法在故障数据稀缺时更具优势。
2026-01-16 cs.LG
Deep Autoencoders with Value-at-Risk Thresholding for Unsupervised Anomaly Detection
IBM Research -- Ireland（IBM研究院——爱尔兰）
许多现实世界的监控和监视应用程序需要在流模型中运行非平凡的异常检测。我们考虑了一种增量学习方法，其中训练了一个正常的深度自动编码（DAE）模型，并同时用于检测异常。在异常检测中，我们利用一种新的阈值机制，基于风险价值（VaR）。我们将得到的卷积神经网络（CNN）与一些子空间方法进行比较，并在Changedetection网络上给出结果。
2019-12-09 cs.CV cs.LG eess.IV
Deep Dense and Convolutional Autoencoders for Unsupervised Anomaly Detection in Machine Condition Sounds
CCG ZGDV Institute（CCG ZGDV研究所）；Bosch Car Multimedia, Portugal（博世汽车多媒体（葡萄牙）公司）
本技术报告描述了为DCASE 2020挑战任务2开发的两种方法。挑战涉及到无监督学习来检测异常声音，因此在训练过程中只有正常的机器工作条件样本可用。这两种方法涉及深度自动编码器，基于使用melspectogram处理的声音特征的密集和卷积架构。使用挑战的六种机器类型数据集进行实验。总体而言，所提出的密集和卷积AE实现了具有竞争力的结果，优于基线挑战方法。
2020-06-19 cs.LG cs.SD eess.AS
ID-Conditioned Auto-Encoder for Unsupervised Anomaly Detection
Samsung R\&D Institute Poland Artificial Intelligence Warsaw, Poland
在本文中，我们介绍了ID条件自动编码器的无监督异常检测。我们的方法是一个适应类条件自动编码器（C2AE）设计的开集识别。假设非异常样本由不同的ID组成，我们应用条件自动编码器，这些ID提供标签。相对于C2AE，我们的方法省略了分类子任务，并将学习过程减少到单次运行。我们通过固定一个常数向量作为不匹配标签的目标来进一步简化学习过程。我们将我们的方法应用于机器状态监测的声音的背景下。我们在DCASE 2020挑战任务2的ToyADMOS和MIMII数据集上评估了我们的方法。我们进行了一项消融研究，以表明我们的方法的哪些步骤对结果影响最大。
2020-09-08 cs.LG eess.AS
Normality-Calibrated Autoencoder for Unsupervised Anomaly Detection on Data Contamination
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）；Harvard University（哈佛大学）
在本文中，我们提出了正常校准自动编码器（NCAE），它可以提高异常检测性能的污染数据集没有任何先验信息或显式异常样本在训练阶段。NCAE从具有低熵的潜在空间逆向生成高置信度的正常样本，并利用它们来预测训练数据集中的异常样本。NCAE经过培训，以最大限度地减少未污染样品中的重建误差，并最大限度地增加污染样品中的重建误差。实验结果表明，我们的方法优于浅层，混合和深层的方法进行无监督异常检测，并实现与半监督方法相比，在训练阶段使用标记的异常样本的性能。源代码可在`https：//github.com/andreYoo/NCAE_UAD.git '上公开获取。
2021-10-28 cs.AI cs.LG
Attention and Autoencoder Hybrid Model for Unsupervised Online Anomaly Detection
Shiraz University（设拉子大学）
本文提出一种结合注意力机制与自编码器的混合模型，用于时间序列无监督在线异常检测，通过潜在空间预测及误差一阶统计矩分析提升检测准确率。
2024-01-06 cs.AI cs.LG eess.SP
Unsupervised Network Intrusion Detection System for AVTP in Automotive Ethernet Networks
Télécom Paris, IP Paris（巴黎电信学院，巴黎理工学院）
网络入侵检测系统（NIDS）被广泛认为是保护车载网络免受各种网络攻击的有效工具。然而，由于网络攻击总是在不断发展，基于特征的入侵检测系统不再被采用。另一种解决方案可以是部署基于深度学习的入侵检测系统，该系统在检测网络流量中的未知攻击模式方面发挥重要作用。因此，在本文中，我们比较了不同的无监督深度和基于机器学习的异常检测算法的性能，用于实时检测音频视频传输协议（AVTP）上的异常，AVTP是最近基于汽车以太网的车载网络中实现的应用层协议。在最近发布的“汽车以太网入侵数据集”上进行的数值结果表明，在不同的实验设置下，深度学习模型在机器学习中的表现明显优于其他最先进的传统异常检测模型。
2022-04-25 cs.CR cs.LG cs.NI
AutoGraphAD: Unsupervised network anomaly detection using Variational Graph Autoencoders
Department of Computer Architecture（计算机架构系）；Universitat Politècnica de Catalunya（加泰罗尼亚理工大学）
本文提出AutoGraphAD，一种基于异构变分图自编码器的无监督网络异常检测方法，通过无监督和对比学习训练模型，无需标注数据，实现高效检测。
2026-07-13 cs.AI cs.CR cs.LG
Autoencoders for unsupervised anomaly detection in high energy physics
Institute for Theoretical Particle Physics and Cosmology (TTK), RWTH Aachen University（亚琛工业大学理论粒子物理与宇宙学研究所（TTK））
自动编码器广泛用于机器学习应用，特别是异常检测。因此，它们已被引入高能物理作为一个有前途的工具，模型无关的新物理搜索。我们仔细研究了自动编码器在基于重建损失的无监督异常检测中的使用，以显示其功能，但也显示了其局限性。作为粒子物理的基准方案，我们研究了在QCD喷流图像背景下顶喷流图像的标记。虽然我们重现了文献中的积极结果，但我们表明，标准的自动编码器设置不能被认为是一个独立于模型的异常标记器，通过反转任务：由于稀疏性和喷射图像的特定结构，自动编码器无法标记QCD喷射，如果它在顶部喷射上训练，即使在半监督设置中。由于相同的autoencoder架构可以是一个很好的标签的一个特定的例子的异常和一个坏的标签为不同的例子，我们建议改进的性能措施的任务模型无关的异常检测。我们还提高了自动编码器的能力，以学习非平凡的喷流图像的功能，使它能够实现顶部喷流标记和反向任务的QCD喷流标记与相同的设置。然而，我们想强调的是，一个真正的模型独立和强大的基于自动编码器的无监督射流标记器仍然需要开发。
2021-04-19 cs.LG hep-ph physics.data-an
Unsupervised Automata Learning via Discrete Optimization
TU Dortmund University（杜伊斯堡-埃森大学）；Fraunhofer ISST（弗劳恩霍夫研究所）；University of Duisburg-Essen（杜伊斯堡-埃森大学）；Center for Trustworthy Data Science and Security（可信数据科学与安全中心）
本文提出一种从无标签单词多重集合中学习确定性有限自动机的无监督框架，证明问题计算困难性，开发三种基于约束优化的算法并引入正则化方案提升可解释性，在无监督异常检测中验证了可行性。
2025-08-22 cs.AI cs.FL cs.LG
Unsupervised segmentation of irradiation$\unicode{x2010}$induced order$\unicode{x2010}$disorder phase transitions in electron microscopy
Pacific Northwest National Laboratory（太平洋西北国家实验室）；University of New Mexico（新墨西哥大学）；University of Tennessee - Knoxville（田纳西大学诺克斯维尔分校）
提出一种基于域预训练CNN嵌入和Louvain社区检测的无监督电子显微镜图像分割方法，用于追踪辐照诱导的非晶前沿，支持自动化显微镜的即时分割。
2023-11-14 cond-mat.mtrl-sci cs.CV cs.LG
Saddlepoints in Unsupervised Least Squares
本文揭示了深度自动编码神经网络背景下无监督最小二乘的风险状况。我们正式建立了无监督最小二乘和主流形之间的等价关系。此链接提供了对均方误差下自动编码的风险前景的洞察，特别是所有非平凡的临界点都是鞍点。寻找鞍点本身是困难的，过完全自动编码带来了额外的挑战，鞍点是退化的。在此背景下，我们讨论了自动编码器的正则化，特别是瓶颈，去噪和收缩自动编码，并提出了一种新的优化策略，可以被定义为特定形式的收缩正则化。
2021-04-11 cs.LG stat.ML
Unsupervised Star Galaxy Classification with Cascade Variational Auto-Encoder
Peking University（北京大学）；Peng Cheng Laboratory（鹏城实验室）；The University of Illinois at Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）
天文学中数据量的不断增加给机器学习研究带来了巨大的挑战。以前，监督学习方法取得了令人满意的识别精度的恒星星系分类任务的基础上，手动标记的数据集。在这项工作中，我们提出了一种新的无监督的方法的恒星星系识别任务，即级联变分自动编码器（CasVAE）。我们的实证结果表明，我们的方法优于基线模型的准确性和稳定性。
2019-10-30 cs.LG stat.ML
Unsupervised Boosting-based Autoencoder Ensembles for Outlier Detection
George Mason University（乔治梅森大学）；Sapienza University of Rome（罗马第一大学）；University of L’Aquila（拉奎拉大学）
自编码器作为一种降维技术，近年来已被应用于离群点检测。然而，已知神经网络易受过拟合的影响，因此在无监督离群值检测设置中具有有限的潜力。目前基于集成的自动编码器的方法不能产生足够的多样性来避免过拟合问题。为了克服上述限制，我们开发了一种基于Boosting的自动编码器Encoder方法（简称BAE）。BAE是一种无监督的集成方法，与boosting方法类似，它构建了自适应级联的自动编码器，以实现改进和鲁棒的结果。BAE通过对数据进行加权采样来依次训练自动编码器组件，旨在减少训练期间使用的离群值数量，并在集合中注入多样性。我们进行了广泛的实验，并表明所提出的方法优于国家的最先进的方法在各种条件下。
2019-10-22 cs.LG stat.ML
AutoEncoder Inspired Unsupervised Feature Selection
Peking University（北京大学）
在计算机视觉和机器学习任务等许多领域，高维数据给计算和分析带来了困难。特征选择是从观测到的特征中选择一个子集，是一种广泛使用的提高高维数据机器学习模型性能和有效性的方法。在本文中，我们提出了一种新的自动编码器特征选择（AEFS）的无监督特征选择结合自动编码器回归和组套索任务。与传统的特征选择方法相比，AEFS能够挖掘特征间的线性和非线性信息，从而选择出最重要的特征，比传统的自表示方法在无监督特征选择中只采用线性假设的情况下更加灵活。在基准数据集上的实验结果表明，该方法优于现有方法。
2018-04-09 cs.LG stat.ML
Deep Unsupervised Clustering Using Mixture of Autoencoders
University of Michigan（密歇根大学）；Technicolor（特艺集团）；Adobe（Adobe公司）
无监督聚类是机器学习中最基本的挑战之一。一个流行的假设是，数据是从一个低维非线性流形的联合产生的，因此聚类的方法是识别和分离这些流形。在本文中，我们提出了一种新的方法来解决这个问题，通过使用混合的自动编码器。我们的模型由两部分组成：1）一个自动编码器的集合，其中每个自动编码器学习一组相似对象的底层流形，以及2）混合分配神经网络，它将来自自动编码器的级联潜在向量作为输入并推断集群上的分布。通过联合优化这两个部分，我们同时将数据分配给集群并学习每个集群的底层流形。
2017-12-26 cs.LG stat.ML
Unsupervised Hyperbolic Representation Learning via Message Passing Auto-Encoders
Seoul National University（首尔大学）；University of Birmingham（伯明翰大学）
大多数关于双曲嵌入的现有文献集中在监督学习上，而非监督双曲嵌入的使用则较少被探索。在本文中，我们分析了无监督任务如何从双曲空间中的学习表示中受益。为了探索如何以及未标记数据的层次结构可以表示在双曲空间中，我们设计了一种新的双曲消息传递自动编码器，其整体自动编码是在双曲空间中进行。该模型通过充分利用双曲几何的信息传递方式对网络进行自动编码。通过大量的定量和定性分析，我们验证了无监督双曲表示的性质和好处。代码可在https://github.com/junhocho/HGCAE上获得。
2021-03-30 cs.LG
Automatic Unsupervised Tensor Mining with Quality Assessment
Carnegie Mellon University（卡内基梅隆大学）
本文提出AutoTen算法，通过改进启发式方法实现自动无监督张量挖掘，通过合成数据和真实数据验证其性能，为自动化张量挖掘提供新方法。
2015-03-11 cs.LG cs.NA math.NA
Unsupervised Feature Selection via Robust Autoencoder and Adaptive Graph Learning
Department of Sociology University of California, Davis, California, USA（加州大学戴维斯分校社会学系）
本文提出RAEUFS模型，通过深度自编码器学习非线性特征表示并提高对异常值的鲁棒性，实验表明其在清洁和异常值污染数据中均优于现有方法。
2026-03-19 cs.LG stat.ML
Unsupervised Abnormality Detection through Mixed Structure Regularization (MSR) in Deep Sparse Autoencoders
Philips Medical Systems Technologies Ltd.（飞利浦医疗系统科技有限公司）
除了显式稀疏正则化项和具有高斯噪声的输入数据的随机损坏之外，具有混合结构正则化（MSR）的深度稀疏自动编码器具有改进无监督异常检测的潜力。基于使用深度稀疏自动编码器识别离群值的无监督异常检测对于医学计算机辅助检测系统来说是非常有吸引力的方法，因为它只需要健康的数据进行训练，而不是专家注释的异常。在冠状动脉计算机断层扫描血管造影（CCTA）检测冠状动脉疾病的任务中，我们的研究结果表明，与深度稀疏和去噪自动编码器相比，MSR有可能将整体性能提高20-30%。
2019-02-28 cs.CV cs.LG
Bayesian Variational Autoencoders for Unsupervised Out-of-Distribution Detection
University of Cambridge（剑桥大学）；Alan Turing Institute（艾伦·图灵研究所）；Microsoft Research（微软研究院）
尽管它们取得了成功，但当面对来自与训练数据不同的分布的测试数据时，深度神经网络可能会做出不可靠的预测，这构成了AI安全的主要问题。虽然这最近激发了检测这种分布外（OoD）输入的方法的开发，但仍然缺乏鲁棒的解决方案。我们提出了一个新的概率，无监督的方法来解决这个问题的基础上贝叶斯变分自编码器模型，估计一个完整的后验分布的解码器参数使用随机梯度马尔可夫链蒙特卡罗，而不是拟合点估计。我们描述了如何基于此后验的信息理论的措施，然后可以用来检测OoD输入在输入空间和模型的潜在空间。我们实证证明了我们提出的方法的有效性。
2020-07-15 cs.LG stat.ML
Hub-VAE: Unsupervised Hub-based Regularization of Variational Autoencoders
George Mason University（乔治梅森大学）
基于示例的方法依赖于信息数据点或原型来指导学习算法的优化。这些数据有助于可解释的模型设计和预测。特别感兴趣的是样本在学习无监督深度表示中的效用。在本文中，我们利用枢纽，出现在高维空间中的频繁邻居，作为范例来正则化变分自编码器，并学习无监督的下游任务的判别嵌入。我们提出了一个无监督的，数据驱动的正则化的潜在空间与基于枢纽的先验和基于枢纽的对比损失的混合。实验评估表明，我们的算法实现了卓越的聚类分离性的嵌入空间，准确的数据重建和生成，相比基线和国家的最先进的技术。
2022-11-18 cs.AI cs.LG
Deep Clustering based Boundary-Decoder Net for Inter and Intra Layer Stress Prediction of Heterogeneous Integrated IC Chip
Institute of Microelectronics (IME)（微电子研究所）
本文提出基于边界解码器网络和深度聚类的深度聚类方法，用于预测异构集成电路芯片的层间和层内应力。
2026-02-25 cs.CE cs.LG
Autoencoded UMAP-Enhanced Clustering for Unsupervised Learning
Baylor College of Medicine（贝勒医学院）；University of Houston（休斯顿大学）
本研究提出三阶段无监督学习框架AUEC，结合自编码器与UMAP构建可聚类性嵌入，用复合损失训练，在MNIST数据集上聚类准确率超越现有前沿方法。
2025-03-21 cs.LG
Unsupervised Prostate Cancer Detection on H&E using Convolutional Adversarial Autoencoders
Radboud University Medical Center（拉德堡德大学医学中心）
我们提出了一种无监督的方法，使用自聚类卷积对抗自编码器来将前列腺组织分类为肿瘤或非肿瘤，而无需任何标记的训练数据。聚类方法被集成到自动编码器的训练中，只需要很少的后处理。我们的网络在苏木精和伊红（H&E）输入补丁上进行训练，并测试了两种不同的重建目标，H&E和免疫组织化学（IHC）。我们表明，使用IHC的抗体驱动的特征学习有助于网络学习聚类任务的相关特征。我们的网络仅使用一小部分验证标签来将类分配给集群，从而获得了0.62的F1分数。
2018-04-19 cs.CV cs.LG
Recursive Autoconvolution for Unsupervised Learning of Convolutional Neural Networks
Bauman Moscow State Technical University（鲍曼莫斯科国立技术大学）；University of Lübeck（吕贝克大学）
在视觉识别任务中，如图像分类，无监督学习利用廉价的未标记数据，可以帮助更有效地解决这些任务。我们表明，从物理学中采用的递归自卷积算子通过学习更多的判别滤波器来增强现有的无监督方法。我们采用成熟的卷积神经网络并逐层训练它们的滤波器。此外，基于以前的工作，我们设计了一个网络，每个样本提取超过60万个特征，但通过在更高层引入共享过滤器，可训练参数的总数大大减少。我们在MNIST、CIFAR-10、CIFAR-100和STL-10图像分类基准上评估了我们的网络，并在其他无监督方法中报告了几种最先进的结果。
2017-03-26 cs.CV cs.LG cs.NE
FedChip: Federated LLM for Artificial Intelligence Accelerator Chip Design
New Jersey Institute of Technology（新泽西理工学院）；University of South Carolina（南卡罗来纳大学）
FedChip提出联邦微调方法，使多方在保护数据隐私的前提下协作训练用于AI芯片设计生成的共享大语言模型，并配套APTPU-Gen数据集和Chip@k评估指标，实验显示设计质量提升超77%。
2025-07-23 cs.AR cs.LG
An Unsupervised Approach for Automatic Activity Recognition based on Hidden Markov Model Regression
University Paris-Est Créteil (UPEC)（巴黎东克雷泰伊大学）；University Sud Toulon-Var（南土伦瓦尔大学）；University Paris-Est（巴黎东大学）；IFSTTAR（法国交通发展与网络科学研究院）
使用有监督的机器学习方法来从身体上可穿戴加速度计识别人类活动通常需要大量的标记数据。当地面真相信息不可用，太昂贵，耗时或难以收集时，人们必须依赖于无监督的方法。本文提出了一种新的无监督的方法，从使用惯性可穿戴传感器测量的原始加速度数据的人体活动识别。所提出的方法是基于联合分割的多维时间序列使用隐马尔可夫模型（HMM）在多元回归的背景下。该模型是在无监督框架中使用期望最大化（EM）算法学习的，其中不需要活动标签。所提出的方法考虑到数据的顺序出现。因此，它适用于时间加速度数据，以准确地检测活动。它允许对人类活动进行分割和分类。实验结果表明，相对于标准的监督和无监督分类方法，所提出的方法的效率
2013-12-25 cs.CV cs.LG stat.ML
Augmentation-Interpolative AutoEncoders for Unsupervised Few-Shot Image Generation
Cornell University（康奈尔大学）
我们的目标是建立图像生成模型，从几个例子推广到新领域。为此，我们首先研究了经典图像生成器的泛化特性，并发现自动编码器可以很好地泛化到新的领域，即使在高度约束的数据上训练也是如此。我们利用这一见解，产生一个强大的，无监督的Few-Shot图像生成算法，并介绍了一种新的训练过程的基础上恢复图像的数据增强。我们的增强插值自动编码器仅从少数参考图像合成新颖物体的逼真图像，并且优于先前的插值模型和监督的Few-Shot图像生成器。我们的程序是简单和轻量级的，广泛的推广，并在培训过程中不需要类别标签或其他监督。
2020-11-25 cs.CV cs.LG
TsetlinWiSARD: On-Chip Training of Weightless Neural Networks using Tsetlin Automata on FPGAs
Institute for Clarity in Documentation（清晰文档研究所）；Inria Paris-Rocquencourt（巴黎-罗克琴库特研究所）；Rajiv Gandhi University（拉吉夫·甘地大学）；Tsinghua University（清华大学）；Palmer Research Laboratories（帕勒实验室）
本文提出TsetlinWiSARD，利用Tsetlin自动机实现重量神经网络的概率反馈学习，提升芯片级训练效率，实现1000倍加速和资源消耗降低。
2026-03-25 cs.AR cs.LG
Squeezed Convolutional Variational AutoEncoder for Unsupervised Anomaly Detection in Edge Device Industrial Internet of Things
Seoul National University（首尔大学）；Samsung Electronics Co. Ltd.（三星电子株式会社）
在本文中，我们提出了压缩卷积变分自编码器（SCVAE），用于工业物联网（IIoT）边缘计算的时间序列数据中的异常检测。将该模型应用于UCI数据集的标记时间序列数据进行精确的性能评估，并应用于真实世界数据进行间接的模型性能比较。此外，通过比较应用来自SqueezeNet的Fire Modules之前和之后的模型，我们发现模型大小和推理时间都有所减少，同时保持了相似的性能水平。
2017-12-18 cs.LG
An Unsupervised Feature Learning Approach to Improve Automatic Incident Detection
CityU-USTC Joint Research Center（香港城市大学-中国科学技术大学联合研究中心）
先进的自动事件检测（AID）技术在现代交通系统中起着关键作用。虽然很多文献致力于研究事件分类算法，但很少有人研究如何增强事件的特征表示以提高AID的性能。在本文中，我们提出使用一个无监督的特征学习算法来生成更高级别的特征来表示事件。我们使用真实的事件数据在实验中，发现有效的特征映射函数可以学习从数据交叉测试网站。增强的特征，检测率（DR），虚警率（FAR）和平均检测时间（MTTD）显着改善在所有的三个代表性的情况下。这种方法还提供了一种替代方法来减少标记数据的数量，因为特征学习是无监督的，所以在训练更好的事件分类器时需要获得昂贵的标记数据。
2013-10-29 cs.LG
Automatically Redundant Features Removal for Unsupervised Feature Selection via Sparse Feature Graph
Stony Brook University（石溪大学）；General Electric Global Research（通用电气全球研究中心）
高维数据中存在的冗余特征往往会影响学习和挖掘算法的性能。如何检测和去除它们是机器学习和数据采掘研究中的一个重要研究课题。在本文中，我们提出了一个基于图的方法来自动发现和删除这些冗余的功能，高维数据。在基于稀疏学习的无监督特征选择框架的基础上，引入稀疏特征图（SFG）来描述特征间的冗余，揭示特征组间的组冗余。利用SFG，我们可以将整个特征分成不同的组，并通过去除检测到的冗余特征来改善数据的内在结构。通过精确的数据结构，可以获得质量指标向量，从而提高现有无监督特征选择算法如多聚类特征选择（MCFS）的学习性能。我们在基准数据集上的实验结果表明，所提出的SFG和特征冗余去除算法可以提高无监督特征选择算法的性能一致。
2017-06-30 cs.LG
Unsupervised Change Detection in Hyperspectral Images using Feature Fusion Deep Convolutional Autoencoders
双时共配准高光谱图像中的二值变化检测是一项具有挑战性的任务，由于大量的光谱波段中存在的数据。因此，研究人员试图通过减少维度来处理它。所提出的工作旨在建立一个新的特征提取系统，使用特征融合深度卷积自动编码器来检测一对这样的双时间共配准高光谱图像之间的变化。特征融合考虑了连续层次和多个感受野的特征，因此比现有的特征提取方法增加了竞争优势。所描述的变化检测技术是完全无监督的，并且比其他需要一些标签信息的监督或半监督方法更优雅。不同的方法已被应用到提取的特征，以找到在两个图像中的变化，它被发现，所提出的方法显然优于最先进的方法在所有的数据集的无监督变化检测。
2021-09-10 cs.CV cs.LG
Unsupervised seismic facies classification using deep convolutional autoencoder
School of Earth and Planetary Sciences（地球与行星科学学院）；Curtin University（科廷大学）；Oil and Gas Innovation Centre（油气创新中心）
随着地震勘测的规模和复杂性的增加，地震相的手动标记已成为一个重大挑战。应用自动化方法进行地震相解释可以显著减少传统方法中的人工劳动和特定解释者的主观性。最近出现的一组方法基于深度神经网络。这些方法是数据驱动的，需要大型标记数据集进行网络训练。我们将深度卷积自动编码器应用于无监督地震相分类，这不需要手动标记的示例。通过对从输入数据获得的深度特征向量进行聚类来生成相图。我们的方法在实际数据上产生准确的结果，并即时提供。所提出的方法开辟了在没有人为干预的情况下实时分析地质模式的可能性。
2020-08-05 cs.CV cs.LG eess.IV
Improving Unsupervised Defect Segmentation by Applying Structural Similarity to Autoencoders
MVTec Software GmbH（MVTec软件有限公司）；University of Amsterdam（阿姆斯特丹大学）
卷积自动编码器已经成为图像数据上无监督缺陷分割的流行方法。最常见的是，通过基于$\ell^p$距离对逐像素重建误差进行阈值化来执行该任务。然而，这个过程会导致大的残差，每当重建包含轻微的定位边缘周围的不准确。当强度值保持大致一致时，它也无法揭示视觉上已经改变的缺陷区域。我们发现，这些问题阻止这些方法被应用到复杂的现实世界的情况下，它不能很容易地避免采用更精细的架构，如变分或功能匹配的自动编码器。我们建议使用一个感知损失函数的基础上，结构相似性，检查局部图像区域之间的相互依赖关系，考虑到亮度，对比度和结构信息，而不是简单地比较单个像素值。它在具有挑战性的纳米纤维材料的真实世界数据集和两种编织织物的新型数据集上实现了显着的性能增益，超过了使用逐像素重建误差度量的无监督缺陷分割的最新方法。
2019-02-01 cs.CV cs.LG
Robust and Explainable Autoencoders for Unsupervised Time Series Outlier Detection---Extended Version
Aalborg University（奥尔堡大学）；Huawei Cloud Database Innovation Lab（华为云数据库创新实验室）；University of Electronic Science and Technology of China（电子科技大学）
时间序列数据广泛存在，异常点检测是数据采掘的一个基本问题，有着广泛的应用。现有的基于自动编码器的方法在具有挑战性的现实世界数据上提供了最先进的性能，但容易受到离群值的影响，并且表现出较低的可解释性。为了解决这两个限制，我们提出了鲁棒的和可解释的无监督自动编码器框架，使用自动编码器将输入时间序列分解为干净的时间序列和离群值时间序列。由于干净的时间序列可以用易于理解的模式（如趋势和周期性）更好地解释，因此可解释性得到了改善。我们通过事后可解释性分析和实证研究对此进行了深入研究。此外，由于离群值是迭代地从干净的时间序列中分离出来的，我们的方法对离群值提供了更好的鲁棒性，这反过来又提高了准确性。我们在五个真实世界的数据集上评估了我们的方法，并报告了在鲁棒性和可解释性方面对最先进方法的改进。这是“Robust and Explainable Autoencoders for Unsupervised Time Series Outlier Detection”的扩展版本，将出现在IEEE ICDE 2022中。
2022-04-07 cs.DB cs.LG
Leveraging Automated Unit Tests for Unsupervised Code Translation
Facebook AI Research（脸书人工智能研究院）；Paris-Dauphine University（巴黎第九大学）；University College London（伦敦大学学院）；Facebook（脸书）
由于程序设计语言几乎没有并行数据，无监督方法非常适合源代码翻译。然而，大多数无监督机器翻译方法依赖于回译，这是在自然语言翻译的背景下开发的一种方法，并且本质上涉及对噪声输入的训练。不幸的是，源代码对微小的变化非常敏感;单个标记可能导致编译失败或错误的程序，这与自然语言不同，在自然语言中，微小的不准确可能不会改变句子的含义。为了解决这个问题，我们建议利用一个自动化的单元测试系统来过滤掉无效的翻译，从而创建一个完全测试的并行语料库。我们发现，使用此过滤数据集对无监督模型进行微调，可以显著降低如此生成的翻译中的噪声，对于所研究的所有语言对，其表现都优于最先进的技术。特别是，对于Java $\to$ Python和Python $\to$ C++，我们的性能分别比以前最好的方法高出16%和24%以上，出错率降低了35%以上。
2022-02-16 cs.CL cs.LG cs.SE
Unsupervised Speech Enhancement using Dynamical Variational Auto-Encoders
Inria Grenoble Rhône-Alpes（法国国家信息与自动化研究所罗纳-阿尔卑斯大区格勒诺布尔中心）；Univ. Grenoble-Alpes（格勒诺布尔阿尔卑斯大学）；Grenoble-INP（格勒诺布尔国立理工学院）；CNRS（法国国家科学研究中心）；CentraleSupélec（巴黎中央理工-高等电力学院）
动态变分自编码器（DVAE）是一类具有潜在变量的深度生成模型，专用于对高维数据的时间序列进行建模。DVAE可以被认为是变分自编码器（VAE）的扩展，其包括连续的观测向量和/或潜在向量之间的时间依赖性。以前的工作表明，使用DVAE的语音频谱图建模的VAE的兴趣。独立地，VAE已经成功地应用于噪声中的语音增强，在无监督的噪声不可知的设置中，在训练时间既不需要噪声样本也不需要有噪声的语音样本，而只需要干净的语音信号。在本文中，我们将这些工作扩展到基于DVAE的单通道无监督语音增强，从而利用语音信号无监督表示学习和动态建模。我们提出了一种无监督的语音增强算法，结合了DVAE语音事先预先训练干净的语音信号与噪声模型的基础上非负矩阵分解，我们推导出一个变分期望最大化（VEM）算法进行语音增强。该算法提出了最一般的DVAE制定，然后应用三个具体的DVAE模型来说明框架的多功能性。实验结果表明，所提出的基于DVAE的方法优于其基于VAE的方法，以及几个监督和无监督的噪声相关基线，特别是当噪声类型在训练过程中是不可见的。
2022-09-30 cs.AI cs.LG cs.SD
Unsupervised Time-Series Signal Analysis with Autoencoders and Vision Transformers: A Review of Architectures and Applications
The University of Akron（阿克伦大学）
本文综述了自编码器与视觉Transformer在无监督时间序列信号分析中的架构、应用及趋势，指出混合架构与自监督学习的优势，并总结可解释性、可扩展性和领域泛化等挑战，为信号智能模型发展提供路线图。
2025-06-02 cs.AI cs.CV cs.LG
Robust Unsupervised Audio-visual Speech Enhancement Using a Mixture of Variational Autoencoders
Inria Grenoble Rh\ o ne-Alpes, France
近年来，提出了一种基于变分自编码器（VAE）的视听语音生成模型，该模型结合噪声方差的非负矩阵分解（NMF）模型实现无监督语音增强。当视觉数据是干净的，语音增强与视听VAE表现出更好的性能比与仅音频VAE，这是在仅音频数据上训练。然而，视听VAE对于噪声视觉数据（例如，当对于某些视频帧，说话人面部不是正面或嘴唇区域被遮挡时。本文提出了一种基于逐帧VAE混合模型的鲁棒无监督音视频语音增强方法。该混合模型由训练的仅音频VAE和训练的视听VAE组成。其动机是通过切换到仅音频VAE模型来跳过嘈杂的视觉帧。我们提出了一种变分期望最大化方法来估计模型的参数。实验结果表明，该方法具有良好的性能。
2019-11-10 cs.LG cs.SD eess.AS
Unsupervised Audiovisual Synthesis via Exemplar Autoencoders
Carnegie Mellon University（卡内基梅隆大学）
我们提出了一种无监督的方法，将任何个人的输入语音转换为潜在的无限多个输出扬声器的视听流。我们的方法建立在简单的自动编码器上，将样本外数据投影到训练集的分布上。我们使用Exemplar自动编码器来学习特定目标范例语音的语音，文体韵律和视觉外观。与现有方法相比，所提出的方法可以容易地扩展到任意大数量的扬声器和风格，仅使用3分钟的目标音频-视频数据，而不需要输入扬声器的{ \em任何}训练数据。要做到这一点，我们学习视听瓶颈表示，捕捉语音的结构化语言内容。我们在音频和视频合成方面优于以前的方法，并在我们的项目页面上提供了广泛的定性分析-https://www.cs.cmu.edu/~exemplar-ae/。
2021-07-03 cs.CV cs.LG cs.MM
lpSpikeCon: Enabling Low-Precision Spiking Neural Network Processing for Efficient Unsupervised Continual Learning on Autonomous Agents
Technische Universität Wien (TU Wien)（维也纳工业大学）；New York University Abu Dhabi (NYUAD)（纽约大学阿布扎比分校）
最近的进展表明，基于SNN的系统可以有效地执行无监督的持续学习，这是由于它们的生物合理的学习规则，例如，尖峰时间依赖可塑性（STDP）。这样的学习能力对于像自主智能体（例如，机器人和无人机），需要不断适应动态变化的场景/环境，其中直接从环境中收集的新数据可能具有应在线学习的新颖特征。当前的现有技术工作采用高精度权重（即，32位），这造成了高存储器和能量成本，从而阻碍了电池驱动的移动自主系统的这种系统的有效嵌入式实现。另一方面，由于信息丢失，精度降低可能危及无监督持续学习的质量。为此，我们提出了lpSpikeCon，一种新的方法，使低精度SNN处理资源受限的自主智能体/系统的有效的无监督持续学习。我们的lpSpikeCon方法采用以下关键步骤：（1）分析在无监督持续学习设置下训练SNN模型对推理准确性的影响，其中权重精度降低;（2）利用这项研究来识别对推理准确性有显著影响的SNN参数;以及（3）开发用于搜索各个SNN参数值的算法，该算法提高无监督持续学习的质量。实验结果表明，我们的lpSpikeCon可以将SNN模型的权重记忆减少8倍（即，通过明智地采用4位权重）来执行具有无监督持续学习的在线训练，并且与在不同网络大小上具有32位权重的基线模型相比，在推理阶段中没有实现准确性损失。
2022-05-24 cs.AI cs.AR cs.LG
