NEAT-POCKET: Pocket-Conditioned Autoregressive 3D Molecular Generation with a Neighborhood-Guided Set Transformer
University of Vienna（维也纳大学）；Christian Doppler Laboratory for Molecular Informatics in the Biosciences（克里斯蒂安·多普勒生物科学分子信息学实验室）
NEAT-POCKET是基于口袋条件的三维分子生成框架，在CrossDocked和SPINDR数据集上性能有竞争力且采样更快，可用于全分子生成及口袋条件下的片段补全，适用于基于结构的药物设计。
2026-09-07 cs.AI cs.LG
Deep Autoencoders for Unsupervised Anomaly Detection in Wildfire Prediction
School of Aerospace, Transport and Manufacturing, Cranfield University（克兰菲尔德大学航空航天、运输与制造学院）；Spire Global, Inc.（Spire全球公司）
本研究提出基于深度自编码器的两种无监督异常检测方法用于野火预测，利用澳大利亚2005-2021年气象数据，发现全连接自编码器在无标签情况下表现最佳，准确率达0.71。
2024-11-14 cs.AI cs.LG
ODDObjects: A Framework for Multiclass Unsupervised Anomaly Detection on Masked Objects
University of British Columbia（不列颠哥伦比亚大学）
本文提出了一种新的框架，称为ODDObjects，它代表分布外检测对对象的屏蔽对象的无监督异常检测。ODDObjects旨在使用在COCO风格数据集上训练的无监督自动编码器来检测各种类别的异常。该方法利用基于自动编码器的图像重建，其中高重建误差指示异常的可能性。该框架扩展了先前使用自动编码器进行异常检测的工作，比较了在对象识别数据集上训练的最先进模型。比较了各种模型架构，实验结果表明，内存增强的深度卷积自动编码器在检测分布外对象方面表现最好。
2021-04-26 cs.AI cs.CV cs.LG
Deep Autoencoders with Value-at-Risk Thresholding for Unsupervised Anomaly Detection
IBM Research -- Ireland（IBM研究院——爱尔兰）
许多现实世界的监控和监视应用程序需要在流模型中运行非平凡的异常检测。我们考虑了一种增量学习方法，其中训练了一个正常的深度自动编码（DAE）模型，并同时用于检测异常。在异常检测中，我们利用一种新的阈值机制，基于风险价值（VaR）。我们将得到的卷积神经网络（CNN）与一些子空间方法进行比较，并在Changedetection网络上给出结果。
2019-12-09 cs.CV cs.LG eess.IV
Normality-Calibrated Autoencoder for Unsupervised Anomaly Detection on Data Contamination
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）；Harvard University（哈佛大学）
在本文中，我们提出了正常校准自动编码器（NCAE），它可以提高异常检测性能的污染数据集没有任何先验信息或显式异常样本在训练阶段。NCAE从具有低熵的潜在空间逆向生成高置信度的正常样本，并利用它们来预测训练数据集中的异常样本。NCAE经过培训，以最大限度地减少未污染样品中的重建误差，并最大限度地增加污染样品中的重建误差。实验结果表明，我们的方法优于浅层，混合和深层的方法进行无监督异常检测，并实现与半监督方法相比，在训练阶段使用标记的异常样本的性能。源代码可在`https：//github.com/andreYoo/NCAE_UAD.git '上公开获取。
2021-10-28 cs.AI cs.LG
Attention and Autoencoder Hybrid Model for Unsupervised Online Anomaly Detection
Shiraz University（设拉子大学）
本文提出一种结合注意力机制与自编码器的混合模型，用于时间序列无监督在线异常检测，通过潜在空间预测及误差一阶统计矩分析提升检测准确率。
2024-01-06 cs.AI cs.LG eess.SP
Unsupervised Network Intrusion Detection System for AVTP in Automotive Ethernet Networks
Télécom Paris, IP Paris（巴黎电信学院，巴黎理工学院）
网络入侵检测系统（NIDS）被广泛认为是保护车载网络免受各种网络攻击的有效工具。然而，由于网络攻击总是在不断发展，基于特征的入侵检测系统不再被采用。另一种解决方案可以是部署基于深度学习的入侵检测系统，该系统在检测网络流量中的未知攻击模式方面发挥重要作用。因此，在本文中，我们比较了不同的无监督深度和基于机器学习的异常检测算法的性能，用于实时检测音频视频传输协议（AVTP）上的异常，AVTP是最近基于汽车以太网的车载网络中实现的应用层协议。在最近发布的“汽车以太网入侵数据集”上进行的数值结果表明，在不同的实验设置下，深度学习模型在机器学习中的表现明显优于其他最先进的传统异常检测模型。
2022-04-25 cs.CR cs.LG cs.NI
AutoGraphAD: Unsupervised network anomaly detection using Variational Graph Autoencoders
Department of Computer Architecture（计算机架构系）；Universitat Politècnica de Catalunya（加泰罗尼亚理工大学）
本文提出AutoGraphAD，一种基于异构变分图自编码器的无监督网络异常检测方法，通过无监督和对比学习训练模型，无需标注数据，实现高效检测。
2026-07-13 cs.AI cs.CR cs.LG
Unsupervised Singing Voice Conversion
Facebook AI Research（脸书人工智能研究院）；Tel Aviv University（特拉维夫大学）
提出了一种基于深度学习的歌声转换方法。所提出的网络不以文本或音符为条件，它直接将一个歌手的音频转换为另一个歌手的声音。训练是在没有任何形式的监督的情况下进行的：没有歌词或任何类型的语音特征，没有音符，也没有歌手之间的匹配样本。所提出的网络采用一个单一的CNN编码器的所有歌手，一个单一的WaveNet解码器，和一个分类器，强制执行潜在的表示是歌手不可知的。每个歌手是由一个嵌入向量，解码器的conditionedon.In为了处理相对较小的datasets，我们提出了一个新的数据增强计划，以及新的训练损失和协议，是基于反向翻译。我们的评估提出的证据表明，转换产生的自然签署的声音是高度可识别的目标歌手。
2019-09-25 cs.LG cs.SD eess.AS
Mixer-TTS: non-autoregressive, fast and compact text-to-speech model conditioned on language model embeddings
本文介绍了Mixer-TTS，一个非自回归模型的梅尔频谱生成。该模型基于适用于语音合成的MLP混合器架构。基本的Mixer-TTS包含音高和持续时间预测器，后者使用无监督的TTS对齐框架进行训练。除了基本模型之外，我们还提出了扩展版本，该版本还使用了来自预训练语言模型的令牌嵌入。基本Mixer-TTS及其扩展版本分别实现了4.05和4.11的平均意见得分（MOS），而原始LJSpeech样本的MOS为4.27。这两个版本都有少量的参数，并且与具有类似质量的模型相比，能够实现更快的语音合成。
2021-10-22 eess.AS
Anomalous Sound Detection using unsupervised and semi-supervised autoencoders and gammatone audio representation
Visualfy（维苏阿尔公司）
异常音检测是当前机器听力领域的热门课题之一。无监督检测由于其在许多领域的直接适用性而引起了人们的极大兴趣。例如，在工业过程中，机器故障或损坏的早期检测可能意味着工业过程效率的巨大节省和提高。这个问题可以通过无监督的ASD解决方案来解决，因为工业机器不会仅仅因为在训练阶段具有此音频数据而损坏。本文提出了一种基于卷积自编码器（无监督和半监督）和基于Gammatone的音频表示的新框架。通过这些架构获得的结果大大超过了作为基线呈现的结果。
2020-06-27 cs.LG cs.SD eess.AS
Unsupervised Speech Enhancement using Dynamical Variational Auto-Encoders
Inria Grenoble Rhône-Alpes（法国国家信息与自动化研究所罗纳-阿尔卑斯大区格勒诺布尔中心）；Univ. Grenoble-Alpes（格勒诺布尔阿尔卑斯大学）；Grenoble-INP（格勒诺布尔国立理工学院）；CNRS（法国国家科学研究中心）；CentraleSupélec（巴黎中央理工-高等电力学院）
动态变分自编码器（DVAE）是一类具有潜在变量的深度生成模型，专用于对高维数据的时间序列进行建模。DVAE可以被认为是变分自编码器（VAE）的扩展，其包括连续的观测向量和/或潜在向量之间的时间依赖性。以前的工作表明，使用DVAE的语音频谱图建模的VAE的兴趣。独立地，VAE已经成功地应用于噪声中的语音增强，在无监督的噪声不可知的设置中，在训练时间既不需要噪声样本也不需要有噪声的语音样本，而只需要干净的语音信号。在本文中，我们将这些工作扩展到基于DVAE的单通道无监督语音增强，从而利用语音信号无监督表示学习和动态建模。我们提出了一种无监督的语音增强算法，结合了DVAE语音事先预先训练干净的语音信号与噪声模型的基础上非负矩阵分解，我们推导出一个变分期望最大化（VEM）算法进行语音增强。该算法提出了最一般的DVAE制定，然后应用三个具体的DVAE模型来说明框架的多功能性。实验结果表明，所提出的基于DVAE的方法优于其基于VAE的方法，以及几个监督和无监督的噪声相关基线，特别是当噪声类型在训练过程中是不可见的。
2022-09-30 cs.AI cs.LG cs.SD
Non-Autoregressive ASR with Self-Conditioned Folded Encoders
LINE Corporation, Japan（LINE公司（日本））
本文提出了基于CTC的非自回归ASR与自适应折叠编码器。所提出的方法实现了非自回归ASR与较少的参数折叠成只有两个块的传统堆栈的编码器;基本编码器和折叠编码器。基本编码器将输入的音频特征转换成适合于识别的神经表示。这之后是折叠编码器重复应用，以进一步完善。将CTC损失应用于所有编码器的输出强制执行输入-输出关系的一致性。因此，折叠编码器学习执行与具有更深的不同层的编码器相同的操作。在实验中，我们研究了如何设置基本编码器和折叠编码器的层数和迭代次数。结果表明，所提出的方法实现了性能相媲美的传统方法，使用只有38%的参数。此外，它优于传统的方法时，增加迭代次数。
2022-02-17 cs.SD eess.AS
Unsupervised Uncertainty Measures of Automatic Speech Recognition for Non-intrusive Speech Intelligibility Prediction
University of Sheffield（谢菲尔德大学）
非侵入式可懂度预测对于其在难以获得干净参考信号的现实场景中的应用是重要的。许多非侵入式预测器的构建需要地面真实可理解性标签或用于监督学习的干净参考信号。在这项工作中，我们利用一个无监督的不确定性估计方法来预测语音清晰度，它不需要清晰度标签或参考信号来训练预测器。我们的实验表明，国家的最先进的端到端的自动语音识别（ASR）模型的不确定性是高度相关的语音清晰度。该方法在两个数据库上进行了评估，结果表明，ASR模型的无监督不确定性措施与听力结果的语音可懂度比广泛使用的侵入性方法的预测更相关。
2022-07-06 cs.SD eess.AS
Contrastive Predictive Coding Supported Factorized Variational Autoencoder for Unsupervised Learning of Disentangled Speech Representations
Paderborn Center for Parallel Computing（帕德博恩并行计算中心）
在这项工作中，我们解决的风格和内容的语音信号的解开。我们提出了一个完全卷积变分自动编码器采用两个编码器：内容编码器和风格编码器。为了促进解纠缠，我们提出了对抗性对比预测编码。这种新的解纠缠方法既不需要并行数据，也不需要任何监督。我们表明，所提出的技术是能够分离的扬声器和内容的特点到两个不同的表示，并显示竞争力的扬声器内容解纠缠性能相比，其他无监督的方法。我们进一步证明了增加的鲁棒性的内容表示对训练测试不匹配相比，频谱特征，当用于电话识别。
2021-03-11 cs.SD eess.AS
Non-autoregressive Error Correction for CTC-based ASR with Phone-conditioned Masked LM
Graduate School of Informatics, Kyoto University（京都大学信息学研究生院）
基于连接主义时态分类（CTC）的模型由于其非自回归特性而在自动语音识别（ASR）中受到广泛关注。为了充分利用纯文本数据，语言模型（LM）集成方法，如重评分和浅层融合已被广泛用于CTC。然而，由于需要束搜索，它们失去了CTC的非自回归性质，这降低了推理速度。在这项研究中，我们提出了一个错误纠正方法与音素条件掩蔽LM（PC-MLM）。在所提出的方法中，不太自信的词令牌在一个贪婪的解码输出CTC被掩盖。PC-MLM然后预测这些屏蔽词令牌给出未屏蔽的单词和电话从CTC预测。我们进一步将其扩展到可删除的PC-MLM，以解决插入错误。由于CTC和PC-MLM都是非自回归模型，因此该方法能够实现快速LM积分。在领域自适应环境下对自然日语语料库（CSJ）和TED-LIUM 2进行的实验结果表明，该方法在推理速度和识别准确率方面均优于再评分和浅层融合。
2022-09-08 cs.CL cs.SD eess.AS
