Spectral Clustering via Ensemble Deep Autoencoder Learning (SC-EDAE)
University of Paris Descartes（巴黎笛卡尔大学）
最近，许多作品研究了结合经典聚类算法和深度学习方法的聚类策略。这些方法遵循顺序方式，其中在使用k-means获得聚类之前使用深度自动编码器学习深度表示，或者同时方式，其中通过优化单个目标函数来联合学习深度表示和聚类。这两种策略都提高了聚类性能，但是这些方法的鲁棒性受到几个深层自动编码器设置问题的阻碍，其中包括权重初始化，层的宽度和数量或epoch的数量。为了减轻这种超参数设置对聚类性能的影响，我们提出了一种新的模型，该模型在集成学习框架中结合了谱聚类和深度自动编码器的优势。在各种基准数据集上的广泛实验证明了我们的方法与最先进的深度聚类方法相比的潜力和鲁棒性。
2019-06-12 cs.LG stat.ML
Learning Surrogate Losses
University of Hildesheim（希尔德斯海姆大学）
损失函数的最小化是机器学习的核心和灵魂。在本文中，我们提出了一种现成的优化方法，可以最小化几乎任何不可微和不可分解的损失函数（例如，错误分类率，AUC，F1，Jaccard指数，Mathew相关系数等）。天衣无缝我们的策略通过代理神经网络来近似真实损失，从而学习真实损失的平滑松弛版本。所提出的损失网络是一种集式模型，它对小批量实例的阶数是不变的。最终，通过双层优化与预测模型联合学习替代损失。与最先进的基线相比，具有不同现实生活中的损失函数的多个数据集的实证结果证明了学习代理损失的效率。
2019-05-24 cs.LG stat.ML
Joint Optimization of an Autoencoder for Clustering and Embedding
UiT The Arctic University of Norway（挪威北极圈大学）；Institute of Information Systems（信息系统研究所）
深度嵌入式聚类已经成为使用深度神经网络对对象进行无监督分类的主要方法。最流行的方法的优化在深度自动编码器的训练和自动编码器嵌入的k均值聚类之间交替。然而，历时性的背景使前者无法从后者获得的有价值的信息中获益。在本文中，我们提出了一种替代方案，其中自动编码器和聚类同时学习。这是通过提供新的理论见解来实现的，在那里我们表明，某一类高斯混合模型（GMM）的目标函数可以自然地被改写为一个隐藏层自动编码器的损失函数，从而继承了GMM的内置聚类能力。这个简单的神经网络，被称为聚类模块，可以被集成到深度自动编码器中，从而产生能够联合学习聚类和嵌入的深度聚类模型。实验证明了聚类模型与高斯混合模型的等价性。进一步的评估肯定了我们的深度架构的经验相关性，因为它在几个数据集上的表现优于相关基线。
2021-05-01 cs.LG stat.ML
Disentangling to Cluster: Gaussian Mixture Variational Ladder Autoencoders
University of Oxford（牛津大学）；Alan Turing Institute（艾伦·图灵研究所）
在聚类中，我们通常为每个数据点输出一个聚类变量。然而，情况并不一定是只有一种方法可以将给定的数据集划分为集群组件。例如，人们可以根据颜色或类型对对象进行聚类。不同的属性形成了一个层次结构，我们可以希望在其中任何一个中进行集群。通过将一些数据集的学习潜在表示分解为不同属性的不同层，我们可以在这些潜在空间中进行聚类。我们称之为“解纠缠聚类”。扩展变分梯形自动编码器（Zhao等人，2017），我们提出了一种聚类算法，VLAC，在SVHN的测试集上，它在数字身份的聚类精度上优于高斯混合DGM。我们还展示了学习集群联合在许多层的层次结构的潜在变量的数据，并显示组件明智的生成从这个层次模型。
2019-12-04 cs.LG stat.ML
Target-Embedding Autoencoders for Supervised Representation Learning
University of Cambridge（剑桥大学）；University of California, Los Angeles（加州大学洛杉矶分校）
基于自动编码器的学习已经成为在无监督和半监督环境中规范表示的主要方法。本文分析了一个框架，以提高泛化在纯监督设置，目标空间是高维的。我们激励和形式化的一般框架的目标嵌入自动编码器（TEA）的监督预测，学习中间的潜在表示联合优化，既可预测的功能，以及预测的目标-编码的目标的变化是由一组紧凑的基本因素驱动的先验。作为我们的理论贡献，我们通过证明一致稳定性，将辅助重建任务的好处解释为正则化的一种形式，为线性TEA的推广提供了保证。作为我们的经验贡献，我们扩展验证这种方法超出现有的静态分类应用程序的多变量序列预测，验证其优势的线性和非线性经常性架构-从而强调了进一步的一般性，这个框架超越前馈实例。
2020-01-23 cs.LG stat.ML
Interpretable and Compositional Relation Learning by Joint Training with an Autoencoder
Tohoku University（东北大学）；RIKENJapan（理化学研究所）
实体和关系的嵌入模型对于恢复知识库中丢失的事实非常有用。直观地说，关系可以通过映射实体向量的矩阵来建模。然而，关系驻留在任意矩阵的参数空间中的低维子流形上-出于一个原因，两个关系$\boldsymbol{M}_1,\boldsymbol{M}_2$的组合可以匹配第三个$\boldsymbol{M}_3$（例如，关系currency_of_country和country_of_film的组合通常匹配currency_of_film_budget），这强加了参数（即$\boldsymbol{M}_1\cdot \boldsymbol{M}_2\approx \boldsymbol{M}_3$）要满足的组合约束。在本文中，我们研究了降维技术，通过训练关系与自动编码器，预计将更好地捕捉组合约束。我们实现了最先进的知识库完成任务，大大提高了平均秩，并表明，与自动编码器的联合训练导致可解释的稀疏编码的关系，有助于发现组合约束和组合训练的好处。我们的源代码发布在github.com/tianran/glimvec上。
2018-05-24 cs.LG stat.ML
InfoVAE: Information Maximizing Variational Autoencoders
Computer Science Department, Stanford University（斯坦福大学计算机科学系）
学习生成模型的一个关键进步是使用与模型联合训练的摊销推理分布。我们发现，现有的训练目标变分自编码器可能会导致不准确的摊销推理分布，在某些情况下，提高目标可证明降低推理质量。另外，已经观察到，当与过于灵活的解码分布组合时，变分自编码器倾向于忽略潜在变量。我们再次确定现有的培训标准的原因，并提出了一个新的类的目标（InfoVAE），以减轻这些问题。我们表明，我们的模型可以显着提高质量的变分后验，并可以有效地利用潜在的功能，无论解码分布的灵活性。通过广泛的定性和定量分析，我们证明了我们的模型在多个性能指标上优于竞争方法。
2018-05-30 cs.AI cs.LG stat.ML
Pretraining Image Encoders without Reconstruction via Feature Prediction Loss
Luleå University of Technology（吕勒奥理工大学）；EISLAB（电子信息科学实验室）
这项工作研究了三种计算基于自动编码器的图像编码器预训练损失的方法：常用的重建损失，最近引入的深度感知相似性损失和本文提出的特征预测损失;后者被证明是最有效的选择。深度学习任务的标准自动编码器预训练通过比较输入图像和重建图像来完成。最近的工作表明，基于图像自动编码器生成的嵌入的预测可以通过感知损失的训练来改进，即，通过在解码步骤之后添加损耗网络。到目前为止，使用损失网络训练的自动编码器使用损失网络实现了原始图像和重建图像的显式比较。然而，给定这样一个损失网络，我们证明了不需要解码整个图像的耗时任务。相反，我们建议解码损失网络的特征，因此命名为“特征预测损失”。为了评估这种方法，我们在三个标准的公开数据集（LunarLander-v2，STL-10和SVHN）上进行了实验，并比较了六种不同的训练图像编码器的过程（像素，感知相似性和特征预测损失;结合图像和特征编码/解码的两种变化）。基于嵌入的预测结果表明，使用特征预测损失训练的编码器与使用其他两种损失训练的编码器一样好或更好。此外，与其他损失相比，编码器使用特征预测损失进行训练明显更快。本工作中使用的方法实现可在线获得：https://github.com/guspih/Perceptual-Autoencoders
2020-07-15 cs.CV cs.LG
LegendreTron: Uprising Proper Multiclass Loss Learning
UNSW Sydney（悉尼新南威尔士大学）；Google Research（谷歌研究院）；The Australian National University（澳大利亚国立大学）
本文提出LegendreTron方法，通过凸函数梯度的单调性将二分类损失学习扩展到多类场景，联合学习适当规范损失与概率，并在多达1000类的基准上一致优于多类基线。
2023-11-28 cs.LG stat.ML
Diffusion Autoencoders are Scalable Image Tokenizers
Meta；GenAI, Meta（元公司生成式人工智能部门）
提出扩散分词器DiTo，利用单一扩散L2损失训练可扩展图像分词器，简化训练流程，在图像重建与生成任务中达到与有监督最先进方法相当或更优的质量。
2025-01-30 cs.AI cs.CV cs.LG
Semi-supervised classification using a supervised autoencoder for biomedical applications
Cote d'Azur University（蔚蓝海岸大学）；Orange Labs（Orange实验室）
在本文中，我们提出了一种新的方法来解决半监督分类任务的生物医学应用，涉及监督自动编码器网络。我们创建了一个网络架构，将标签编码到自动编码器的潜在空间中，并定义了一个结合分类和重建损失的全局标准。我们使用双下降算法在标记数据上训练半监督自动编码器（SSAE）。然后，我们使用学习的网络对未标记的样本进行分类，这要归功于应用于潜在空间的softmax分类器，该分类器为每个类别提供分类置信度得分。我们使用PyTorch框架实现了SSAE方法，用于模型、优化器、优化器和损失函数。我们比较我们的半监督自动编码器方法（SSAE）与经典的半监督方法，如标签传播和标签扩散，并与全连接神经网络（FCNN）。实验表明，SSAE优于标签传播和传播和全连接神经网络在合成数据集和两个真实世界的生物数据集。
2022-08-22 cs.AI cs.LG q-bio.GN
Test-time Detection and Repair of Adversarial Samples via Masked Autoencoder
Columbia University（哥伦比亚大学）；GE Research（通用电气研究中心）
本文提出DRAM方法，通过掩码自编码器（MAE）在测试时检测和修复对抗样本，无需调整模型权重，在ImageNet上实现了平均82%的最佳检测率，并显著提升了标准与鲁棒ResNet50的鲁棒准确率。
2023-04-02 cs.CV cs.LG
Dropout Training of Matrix Factorization and Autoencoder for Link Prediction in Sparse Graphs
Binghamton University（宾汉姆顿大学）
矩阵分解（MF）和自动编码器（AE）是无监督学习中最成功的方法之一。虽然基于MF的模型已经在图建模和链接预测文献中被广泛利用，但AE族尚未获得太多关注。在本文中，我们调查MF和AE的应用程序的链接预测问题的稀疏图。我们从多视图学习的角度展示了AE和MF之间的联系，并进一步提出了MF+AE：一个具有共享参数的MF和AE联合训练模型。我们应用dropout来训练MF和AE部分，并表明它可以通过充当自适应正则化来显着防止过拟合。我们在六个真实世界的稀疏图数据集上进行了实验，结果表明MF+AE始终优于竞争方法，特别是在表现出强大的非内聚结构的数据集上。
2015-12-14 cs.LG
Indirectly Parameterized Concrete Autoencoders
KTH Royal Institute of Technology（皇家理工学院）；Science for Life Laboratory（生命科学实验室）；Swedish e-Science Research Centre (SeRC)（瑞典电子科学研究中心）；Klarna（克拉纳公司）
针对Concrete自编码器特征选择时因重复特征选择导致联合优化不稳定、训练慢且泛化差的问题，提出间接参数化的IP-CAE，通过学习嵌入到Gumbel-Softmax参数的映射，显著提升泛化能力与训练效率，还可推广至相关分布场景。
2024-08-16 cs.LG stat.ML
A CNN-based End-to-End Learning for RIS-assisted Communication System
Center for Wireless Communications, University of Oulu（奥卢大学无线通信中心）
针对RIS辅助通信系统，本文提出基于CNN的自动编码器端到端框架，联合优化收发机与RIS的编码解码、信道估计、相位及调制解调，数值表明其BER优于理论性能。
2025-03-18 cs.LG
Memory-augmented Adversarial Autoencoders for Multivariate Time-series Anomaly Detection with Deep Reconstruction and Prediction
Beijing Jiaotong University（北京交通大学）
由于当今IT监控系统的维度和复杂性的增加，在没有人工监督的情况下检测多变量时间序列的异常仍然是一个具有挑战性的问题。无监督时间序列异常检测的最新进展主要使用深度自编码器来解决这个问题，即在正常样本上进行训练，并在异常输入上产生显著的重建误差。然而，在实践中，由于神经网络的强大功能，自编码器可以很好地重建异常。此外，这些方法对于识别非点异常（例如，上下文异常和集体异常）可能是无效的，因为它们仅利用逐点重建目标。为了解决上述问题，我们提出了MemAAE（\textit{Memory-augmented Adversarial Autoencoders with Deep Reconstruction and Prediction}），一种新的无监督的时间序列异常检测方法。通过联合训练两个互补的代理任务，重建和预测，与共享的网络架构，我们表明，通过多个任务检测异常获得优越的性能，而不是单任务训练。此外，引入压缩记忆模块来保存正常模式，避免对异常输入的意外泛化。通过广泛的实验，MemAAE在四个公共数据集上的总体F1得分为0.90，显著优于最佳基线0.02。
2021-10-15 cs.LG
Self-Supervised Bernoulli Autoencoders for Semi-Supervised Hashing
University of Bologna（博洛尼亚大学）
本文研究标签稀缺场景下基于变分自编码器的半监督哈希方法，提出利用模型标签分布预测实现成对目标的自监督方案，在标记数据稀少时显著提升哈希码质量。
2020-07-17 cs.LG stat.ML
New Frontiers in Graph Autoencoders: Joint Community Detection and Link Prediction
Deezer Research（Deezer研究院）；École Polytechnique, IP Paris（巴黎综合理工学院，巴黎理工学院）；Harvard University（哈佛大学）
图自动编码器（GAE）和变分图自动编码器（VGAE）成为链接预测（LP）的强大方法。它们在社区发现（CD）上的表现不那么令人印象深刻，在CD上，它们经常被更简单的替代方法（如Louvain方法）所超越。目前还不清楚GAE和VGAE能在多大程度上改善CD，特别是在缺乏淋巴结特征的情况下。此外，还不确定是否可以这样做，同时在多任务设置中保持LP的良好性能。在这篇研讨会论文中，总结了我们的期刊出版物（Salha-Galvan et al. 2022）的结果，我们表明，以高精度联合解决这两项任务是可能的。为此，我们引入了一个社区保持消息传递计划，掺杂我们的GAE和VGAE编码器，同时考虑初始图和基于Louvain的先验社区时，计算嵌入空间。受基于模块的聚类的启发，我们进一步提出了专门为联合LP和CD设计的新的训练和优化策略。我们证明了我们的方法，称为模块化感知GAE和VGAE，在各种现实世界的图形的经验有效性。
2022-11-16 cs.LG cs.SI stat.ML
Multi-Omic Data Integration and Feature Selection for Survival-based Patient Stratification via Supervised Concrete Autoencoders
King’s College London（伦敦国王学院）；Institute for Infocomm Research, A*STAR（新加坡科技研究局资讯通信研究院）
癌症是一种复杂的疾病，具有重大的社会和经济影响。高通量分子测定的进步和执行高质量多组学测量的成本降低，推动了通过机器学习的见解。以前的研究已经显示出使用多个组学层来预测生存和分层癌症患者的希望。在本文中，我们开发了一个监督自动编码器（SAE）模型的生存为基础的多组学集成，改进了以前的工作，并报告了具体的监督自动编码器模型（CSAE），它使用特征选择，以共同重建输入功能，以及预测生存。我们的实验表明，我们的模型优于或等同于一些最常用的基线，同时提供更好的生存分离（SAE）或更可解释（CSAE）。我们还对我们的模型进行了特征选择稳定性分析，并注意到通常与生存相关的特征之间存在幂律关系。该项目的代码可在以下网址获得：https://github.com/phcavelar/coxae
2022-06-27 cs.LG
Face Reconstruction with Variational Autoencoder and Face Masks
Federal University of Santa Catarina (UFSC)（圣卡塔琳娜联邦大学）
变分自编码器（VAE）采用深度学习模型来学习服从于高维观测数据集的连续潜在z空间。有了它，许多任务成为可能，包括人脸重建和人脸合成。在这项工作中，我们研究了如何通过将学习限制在面罩选择的像素上，来帮助训练用于面部重建的VAE。使用celebA数据集的建议的评估表明，重建的图像与面罩增强，特别是当SSIM损失与l1或l2损失函数使用。我们注意到，在架构中包含用于面部掩模预测的解码器会影响l1或l2损失函数的性能，而SSIM损失的情况并非如此。此外，SSIM感知损失在所有测试的假设之间产生了最清晰的样本，尽管它改变了图像的原始颜色，使得l1或l2损失与SSIM一起使用有助于解决这个问题。
2021-12-03 cs.CV cs.LG
Deep Learning for Molecular Graphs with Tiered Graph Autoencoders and Graph Prediction
IBM（国际商业机器公司）
分层图自动编码器提供了用于学习分层潜在表示和潜在空间的架构和机制，用于明确表示和利用组的分子图（例如，官能团）。这使得能够单独地（节点（原子）层、组层或图（分子）层）或联合地利用和探索分层的分子潜在空间，以及跨层的导航。在本文中，我们讨论了使用分层图形自动编码器与图形预测的分子图。我们显示的分子图的功能，并确定一些样品分子的分子图中的群体。我们简要回顾了图预测和QM9数据集的背景信息，并讨论了分层图嵌入在图预测中的使用，特别是加权组池。我们发现，官能团和环基团有效地捕捉和代表分子图形（结构）的化学本质。此外，分层图自动编码器和图预测一起为分子图提供有效、高效和可解释的深度学习，前者提供无监督的可转移学习，后者提供有监督的任务优化学习。
2021-07-01 cs.LG q-bio.BM
Frequency-Aware Masked Autoencoders for Human Activity Recognition using Accelerometers
Technical University of Denmark（丹麦技术大学）
本文提出频率感知掩码自编码器，利用频谱图损失函数在大型未标记加速度计数据上预训练变换器模型，提升人体活动识别性能，LMM损失显著优于MSE损失。
2025-05-27 cs.LG eess.SP
Conditional Deep Hierarchical Variational Autoencoder for Voice Conversion
DeNA Co., Ltd.（DeNA有限公司）；University of Tokyo（东京大学）；The University of Electro-Communications（电气通信大学）
基于变分自编码器的语音转换（VAE-VC）具有仅需要成对的语音和说话者标签用于训练的优点。与大多数VAE-VC的研究，重点是利用辅助损失或离散化的潜变量，本文研究了如何增加模型的表现力有好处和影响的VAE-VC。具体来说，我们首先分析VAE-VC从率失真的角度来看，并指出，模型的表现力是重要的VAE-VC，因为率和失真反映的相似性和自然的转换语音。基于分析，我们提出了一种新的VC方法，使用一个深层次的VAE，它具有高的模型表现力，以及由于其非自回归解码器具有快速的转换速度。此外，我们的分析还揭示了另一个问题，即当VAE的潜变量具有冗余信息时，相似性会降低。我们解决这个问题，通过使用$β$ -VAE目标控制包含在潜变量中的信息。在使用VCTK语料库的实验中，所提出的方法在跨性别设置中的自然度和相似度上的平均意见得分均高于3.5，高于现有的基于自动编码器的VC方法的得分。
2021-12-06 cs.LG cs.SD eess.AS
Supervising the Decoder of Variational Autoencoders to Improve Scientific Utility
Beijing University of Posts and Telecommunications（北京邮电大学）；Duke University（杜克大学）；Stanford University（斯坦福大学）；Weill Cornell Medical College（威尔康奈尔医学院）
概率生成模型对于科学建模是有吸引力的，因为它们的推断参数可以用于生成假设和设计实验。这要求学习模型提供输入数据的准确表示，并产生一个潜在空间，有效地预测与科学问题相关的结果。监督变分自动编码器（SVAE）以前曾用于此目的，其中精心设计的解码器可以用作可解释的生成模型，而监督目标确保预测的潜在表示。不幸的是，监督目标迫使编码器学习生成后验分布的有偏近似，这使得生成参数在用于科学模型时不可靠。这个问题一直未被检测到，因为通常用于评估模型性能的重建损失不会检测编码器中的偏差。我们解决这个以前未报告的问题，通过开发一个二阶监督框架（SOS-VAE），影响解码器，以诱导预测的潜在表示。这确保了相关联的编码器保持可靠的生成解释。我们扩展了这种技术，允许用户权衡生成参数中的一些偏差，以提高预测性能，作为SVAE和我们新的SOS-VAE之间的中间选项。我们还使用这种方法来解决缺失数据的问题，经常出现在结合多个科学实验的记录。我们使用合成数据和电生理记录来证明这些发展的有效性，重点是我们的学习表示如何用于设计科学实验。
2022-07-08 cs.LG stat.AP stat.ML
Man-recon: manifold learning for reconstruction with deep autoencoder for smart seismic interpretation
Georgia Institute of Technology（佐治亚理工学院）
如果提供足够量的标记训练数据，深度学习可以提取丰富的数据表示。然而，对于许多任务，注释数据在时间和金钱方面具有显著成本，这是由于所需的高标准的主题专业知识，例如在医学和地球物理图像判读任务中。主动学习可以为口译员识别出信息量最大的训练样本进行训练，从而提高效率。我们提出了一个主动学习方法的基础上联合学习表示监督和无监督的任务。学习的流形结构稍后被用于从无监督任务上的错误配置文件中识别与学习的流形最不相似的信息训练样本。我们验证了所提出的方法在荷兰F3区块调查的地震相分割数据集上的效率，显着优于当代方法，以实现最高的平均相交超过工会值0.773。
2022-12-15 cs.LG eess.IV
Convolutional autoencoder-based multimodal one-class classification
Tampere University（坦佩雷大学）；Finnish Environment Institute（芬兰环境研究所）；University of Jyväskylä（于韦斯屈莱大学）；Aarhus University（奥胡斯大学）
本文提出一种基于双卷积自编码器联合训练的多模态单类分类方法，以潜在表示到原点的距离作为异常分数，并在多模态图像数据集上验证其优于单模态方法，同时证明特征多样性正则化器可进一步提升性能。
2023-09-25 cs.CV cs.LG
Knowledge-Guided Masked Autoencoder with Linear Spectral Mixing and Spectral-Angle-Aware Reconstruction
本文提出一种结合物理约束的知识引导掩码自编码器，通过线性光谱混合和光谱-角度感知重建提升模型的可解释性和泛化能力。
2026-02-10 cs.LG
Feature Losses for Adversarial Robustness
Purdue University（普渡大学）
深度学习在计算机视觉任务（如图像分类）方面取得了巨大进步。然而，最近的研究表明，深度学习模型很容易受到专门设计的对抗性输入的影响，这些输入对人类来说几乎是不可感知的。在这项工作中，我们提出了一种新的方法来防御对抗攻击。我们采用基于去噪自动编码器的输入处理技术作为防御。已经表明，当通过卷积神经网络（CNN）传播时，输入扰动增长并积累为特征图中的噪声。我们利用嘈杂的特征图，通过使用一个额外的子网络来提取图像特征图和训练这些特征图的感知损失的自动编码器。这项技术在防御MNIST和CIFAR10数据集方面取得了接近最先进的结果，但更重要的是，它展示了一种新的防御方法，这种方法不能被攻击者端到端地训练。实验结果表明，该方法的有效性MNIST和CIFAR10数据集上的简单以及迭代LP攻击。我们的方法可以作为预处理技术应用于任何现成的CNN。
2019-12-10 cs.CR cs.CV cs.LG
Deep Clustering with Self-Supervision using Pairwise Similarities
McGill University（麦吉尔大学）；Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）
本文提出自监督深度聚类框架DCSS，先通过簇特定损失训练自编码器形成超球状潜在空间，再利用成对相似性构建K维空间以处理复杂簇分布，在七个基准数据集上验证了有效性。
2024-05-06 cs.LG
Capacity-Approaching Autoencoders for Communications
University of Klagenfurt（克拉根福大学）
自动编码器的概念促进了现代通信系统的重新解释和设计。它由一个编码器，一个通道和一个解码器块组成，它们以端到端的学习方式修改它们的内部神经结构。然而，训练自动编码器的当前方法依赖于交叉熵损失函数的使用。这种方法可能容易出现过拟合问题，并且通常无法学习最佳系统和信号表示（代码）。此外，关于自动编码器设计接近信道容量的码的能力，即，在特定功率约束下最大化输入-输出信息的码。对于容量未知的未知信道，任务甚至更加艰巨，因此必须学习。在本文中，我们解决的挑战，设计能力接近代码的存在下，将通信信道到一个新的损失函数的自动编码器的培训。特别是，我们利用发送和接收信号之间的互信息作为交叉熵损失函数中的正则化项，目的是控制存储的信息量。通过联合最大化互信息和最小化交叉熵，我们提出了一种方法，a）计算信道容量的估计值，b）构造一个接近它的最优编码信号。
2020-09-11 cs.IT cs.LG eess.SP
Boosting the Generalization Capability in Cross-Domain Few-shot Learning via Noise-enhanced Supervised Autoencoder
Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；University of British Columbia（不列颠哥伦比亚大学）
现有技术（SOTA）少样本学习（FSL）方法在源数据集和目标数据集之间存在域差异的情况下遭受显著的性能下降。对源数据集的强区分能力不一定转化为对目标数据集的高分类精度。在这项工作中，我们解决这个跨域少样本学习（CDFSL）问题，通过提高模型的泛化能力。具体来说，我们教模型捕捉更广泛的变化的特征分布与一种新的噪声增强监督自动编码器（NSAE）。NSAE通过联合重建输入和预测输入的标签以及它们的重建对来训练模型。基于类内相关性的理论分析表明，从NSAE学习的特征嵌入在目标域具有更强的区分能力和泛化能力。我们还利用NSAE结构，并提出了一个两步微调过程，实现更好的适应性，提高目标域的分类性能。大量的实验和烧蚀研究进行了证明所提出的方法的有效性。实验结果表明，我们提出的方法始终优于SOTA方法在各种条件下。
2021-09-23 cs.CV cs.LG
Neuromechanical Autoencoders: Learning to Couple Elastic and Neural Network Nonlinearity
Princeton University（普林斯顿大学）
智能生物系统的特征在于它们在复杂环境中的体现以及它们的神经系统与它们的身体的非线性力学特性之间的密切相互作用。这种协调，其中运动系统的动力学共同进化以减少大脑的计算负担，被称为“机械智能”或“形态计算”。在这项工作中，我们试图开发这个过程的机器学习类似物，我们共同学习复杂的非线性弹性固体的形态以及深度神经网络来控制它。通过使用与传统深度学习架构耦合的弹性力学的专用可微模拟器-我们称之为神经机械自动编码器-我们能够学习通过梯度下降来执行形态学计算。我们的方法的关键是使用机械超材料-细胞固体，特别是-作为形态学基板。正如深度神经网络为感知和控制任务提供了灵活的和非参数化的函数逼近器一样，细胞固体超材料作为一个丰富的和可学习的空间，有希望近似各种驱动任务。在这项工作中，我们利用这些互补的计算概念，共同设计材料和神经网络控制，以实现非直观的机械行为。我们在模拟中演示了如何实现平移，旋转和形状匹配，以及“数字MNIST”任务。我们还制造和评估了其中一个设计，以验证其在现实世界中的行为。
2023-01-31 cs.LG
Lifelong Mixture of Variational Autoencoders
University of York（约克大学）
在本文中，我们提出了一个端到端的终身学习混合专家模型。每个专家由变分自编码器（VAE）实现。混合系统中的专家通过最大化给定训练样本的对数似然的单个分量证据下限（MELBO）的混合来联合训练。混合中的混合系数控制目标表示中每个专家的贡献。这些样本来自狄利克雷分布，其参数通过终身学习期间的非参数估计来确定。当新任务与以前学习的任务相似时，模型可以快速学习新任务。所提出的VAE终身混合物（L-MVAE）在学习全新任务时使用新组件扩展其架构。在训练之后，我们的模型可以自动确定在输入新的数据样本时要使用的相关专家。这种机制有利于内存效率和所需的计算成本，因为在推理过程中只使用一个专家。L-MVAE推理模型能够在与不同任务相关联的数据域之间的联合潜在空间中执行插值，并且被证明对于解纠缠学习表示是有效的。
2021-07-09 cs.AI cs.CV cs.LG
Turbo Autoencoder: Deep learning based channel codes for point-to-point communication channels
University of Washington（华盛顿大学）；Samsung AI Center（三星人工智能中心）；Tata Institute of Fundamental Research（塔塔基础研究院）；University of Illinois at Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）
在信息论以及无线通信中，设计对抗通信介质中的噪声的代码一直是重要的研究领域。经过60多年的研究，数学家们已经开发出了渐近最优信道码，用于规范模型下的通信。另一方面，在许多非规范信道设置中，不存在最佳代码，并且针对规范模型设计的代码经由算法来适应这些信道，因此不能保证是最佳的。在这项工作中，我们通过设计一个完全端到端联合训练的神经编码器和解码器，即Turbo Autoencoder（TurboAE），在这个问题上取得了重大进展，贡献如下：（$a$）在中等块长度下，TurboAE在规范信道下接近最先进的性能;（$b$）此外，TurboAE在可靠性方面优于非规范设置下的最新代码。TurboAE表明，信道编码设计的开发可以通过深度学习实现自动化，并具有接近最佳的性能。
2019-11-08 cs.IT cs.LG eess.SP
Improving Novelty Detection using the Reconstructions of Nearest Neighbours
University of Amsterdam（阿姆斯特丹大学）；eScience Center（电子科学中心）；ASTRON, the Netherlands Institute for Radio Astronomy（荷兰射电天文研究所（ASTRON））
我们表明，在自编码器（AE）的潜在空间中使用最近邻显着提高了单类和多类上下文中半监督新奇检测的性能。自动编码方法通过学习区分非新颖的训练类和所有其他看不见的类来检测新颖性。我们的方法利用了给定输入的潜在表示的最近邻居和潜在邻居距离的重建的组合。我们证明了我们的最近潜在邻居（NLN）算法是内存和时间效率，不需要显着的数据增强，也不依赖于预先训练的网络。此外，我们表明，NLN算法很容易适用于多个数据集，无需修改。此外，该算法是不可知的自动编码器的结构和重建误差的方法。我们使用重建、残余或特征一致性损失，在多种不同自动编码架构（例如香草、对抗和变分自编码器）的多个标准数据集上验证了我们的方法。结果表明，NLN算法授予高达17%的增加面积下的接收器工作特性（AUROC）曲线性能的多类情况下和8%的单类新颖性检测。
2022-01-28 cs.LG
Syndrome-Enabled Unsupervised Learning for Neural Network-Based Polar Decoder and Jointly Optimized Blind Equalizer
MediaTek, Inc.（联发科股份有限公司）
最近，伴随式丢失已经被提出来实现基于神经网络的BCH/LDPC解码器的“无监督学习”。然而，该设计方法不能直接应用于极化码，并且尚未在变化的信道下进行评估。在这项工作中，我们提出了两个修改的综合征损失，以促进无监督学习的接收器。然后，我们首先将其应用于基于神经网络的置信传播（BP）极性解码器。在CRC启用的综合征丢失的帮助下，BP解码器甚至可以在误块率方面优于传统的监督学习方法。其次，我们提出了一种联合优化的综合征使能盲均衡器，它可以避免传输的训练序列，并达到全球最佳的1.3 dB增益比非盲最小均方误差（MMSE）均衡器。
2020-06-16 cs.LG eess.SP
Physically Interpretable Representation Learning with Gaussian Mixture Variational AutoEncoder (GM-VAE)
Institute for Computational and Mathematical Engineering, Stanford University（计算与数学工程研究所，斯坦福大学）；Department of Mechanical Engineering, Stanford University（机械工程系，斯坦福大学）；National Renewable Energy Laboratory（国家可再生能源实验室）；Ann and H.J. Smead Department of Aerospace Engineering Sciences, University of Colorado, Boulder（安与H.J.斯迈德航空航天工程科学系，科罗拉多大学，博尔德）
GM-VAE通过结合EM启发式训练和谱可解释性度量，实现对高维科学数据的物理可解释性表示学习，有效提升湍流和反应流动系统的解释能力。
2025-11-26 cs.LG
AutoJoin: Efficient Adversarial Training against Gradient-Free Perturbations for Robust Maneuvering via Denoising Autoencoder and Joint Learning
University of Tennessee（田纳西大学）；University of Memphis（孟菲斯大学）；University of Maryland（马里兰大学）
AutoJoin通过附加解码器形成去噪自编码器，联合学习操控与去噪任务，实现高效无梯度对抗训练，在500万图像测试中性能提升高达40%，训练时间节省86%。
2024-11-04 cs.CV cs.LG cs.RO
Deep Recurrent Semi-Supervised EEG Representation Learning for Emotion Recognition
Queen’s University（女王大学）
基于EEG的情感识别通常需要足够的标记训练样本来构建有效的计算模型。另一方面，标记EEG数据通常昂贵且耗时。为了解决这个问题，并减少在基于EEG的情感识别的背景下对输出标签的需求，我们提出了一个半监督管道，以联合利用未标记和标记的数据来学习EEG表示。我们的半监督框架由无监督和监督组件组成。无监督部分使用自动编码器最大化原始和重构输入数据之间的一致性，而同时监督部分最小化输入和输出标签之间的交叉熵。我们评估我们的框架使用堆叠的自动编码器和基于注意力的经常性自动编码器。我们在大规模SEED EEG数据集上测试了我们的框架，并将我们的结果与其他几种流行的半监督方法进行了比较。我们的半监督框架具有基于深度注意力的递归自动编码器，即使在训练期间输出标签的小子集（3%，5%和10%）可用时，也始终优于基准方法，从而实现了新的最先进的半监督性能。
2021-07-28 cs.LG eess.SP
Semi-Supervised Masked Autoencoders: Unlocking Vision Transformer Potential with Limited Data
Department of Electrical and Computer Engineering, Rowan University, Glassboro, NJ, USA（电子与计算机工程系，罗文大学，Glassboro, NJ, USA）；Department of Computer Science, Stevens Institute of Technology, Hoboken, NJ, USA（计算机科学系，史蒂文斯理工学院，Hoboken, NJ, USA）
SSMAE通过动态伪标签和验证驱动门控机制，在有限数据下提升视觉变换器性能，实验显示其在低标签条件下表现显著优于传统方法。
2026-01-27 cs.AI cs.CV cs.LG
AE-Flow: AutoEncoder Normalizing Flow
Amazon Alexa AI（亚马逊 Alexa AI）
本文提出AE-Flow，一种在归一化流训练中引入重构损失监督的范式，无需平行数据，通过结合NLL与重构损失，在语音转换中提升说话人相似度、自然度和可懂度，优于最先进基线。
2023-12-27 cs.LG cs.SD eess.AS
Semi-supervised Neural Chord Estimation Based on a Variational Autoencoder with Latent Chord Labels and Features
Kyoto University（京都大学）；IRCAM（法国声学/音乐协调研究所）
本文介绍了一种自动和弦估计（ACE），可以有效地利用音乐信号的和弦注释的可用性，无论原则上的半监督方法。ACE的典型方法是通过仅使用注释的音乐信号以监督的方式训练深度分类模型（神经和弦估计器）。在这种判别方法中，关于和弦标签序列（模型输出）的先验知识几乎没有被考虑在内。相比之下，我们提出了一个统一的生成和歧视性的方法在摊销变分推理的框架。更具体地说，我们制定了一个深度生成模型，该模型表示来自离散标签和连续特征（潜在变量）的色度向量（观察变量）的生成过程，这些特征被假设分别遵循有利于自转换的马尔可夫模型和标准高斯分布。以色度向量作为观测数据，分别利用深度分类模型和识别模型近似计算潜在标签和特征的后验分布。这三个模型形成变分自编码器，并且可以以半监督的方式联合训练。实验结果表明，基于和弦标签马尔可夫先验的正则化分类模型和色度向量生成模型，即使在有监督的情况下，也能提高ACE的性能。使用额外的未标注数据的半监督学习可以进一步提高性能。
2020-09-08 cs.LG cs.SD eess.AS
Federated Topic Model and Model Pruning Based on Variational Autoencoder
Beijing Key Laboratory of Intelligent Communication Software and Multimedia（智能通信软件与多媒体北京重点实验室）；Beijing University of Posts and Telecommunications（北京邮电大学）；School of Economics and Management（经济管理学院）
针对多方跨分析时数据隐私及联邦场景下的通信和性能问题，提出基于变分自编码器建立联邦主题模型并结合模型剪枝的方法，通过两种确定剪枝率的方式，在保持性能的同时大幅加速训练。
2026-07-14 cs.IR cs.LG
Robust Vector Quantized-Variational Autoencoder
图像生成模型可以学习训练数据的分布，从而通过从这些分布中采样来生成示例。然而，当训练数据集被离群值破坏时，生成模型可能会产生与离群值相似的示例。事实上，一小部分异常值可能会导致现有技术的生成模型，例如矢量量化-变分自编码器（VQ-VAE），从异常值中学习有效模式。为了缓解这个问题，我们提出了一个强大的生成模型的基础上VQ-VAE，我们称之为鲁棒VQ-VAE（RVQ-VAE）。为了实现鲁棒性，RVQ-VAE使用两个单独的码本用于内点和离群点。为了确保码本嵌入正确的组件，我们在每个训练时期迭代更新内点和离群点的集合。为了确保编码后的数据点与正确的码本相匹配，我们使用加权欧几里得距离进行匹配，其权重由码本的方向方差确定。两个码本，连同编码器和解码器，根据重建损失和量化损失联合训练。我们的实验表明，RVQ-VAE是能够从内点生成的例子，即使大部分的训练数据点损坏。
2022-09-20 cs.AI cs.LG
Towards a Unified Foundation Model: Jointly Pre-Training Transformers on Unpaired Images and Text
Google Research（谷歌研究院）；University of California, Los Angeles（加州大学洛杉矶分校）
在本文中，我们探讨了建立一个统一的基础模型，可以适应这两个视觉只和文本的任务的可能性。从BERT和ViT出发，我们设计了一个统一的Transformer，它由特定于模态的标记器、共享的Transformer编码器和特定于任务的输出头组成。为了有效地在未配对的图像和文本上联合预训练所提出的模型，我们提出了两种新技术：（i）我们采用单独训练的BERT和ViT模型作为教师，并应用知识蒸馏为联合训练提供额外的，准确的监督信号;（ii）我们提出了一种新的梯度掩蔽策略来平衡图像和文本预训练损失的参数更新。我们通过分别对图像分类任务和自然语言理解任务进行微调来评估联合预训练的Transformer。实验结果表明，所得到的统一基础Transformer在纯视觉和纯文本任务上都表现得非常好，所提出的知识蒸馏和梯度掩蔽策略可以有效地将性能提升到接近单独训练模型的水平。
2021-12-14 cs.CV cs.LG
Deep learning-based variational autoencoder for classification of quantum and classical states of light
Indian Institute of Technology Bombay（印度理工学院孟买分校）；Max Planck Institute for the Structure and Dynamics of Matter（马克斯·普朗克物质结构与动力学研究所）；Center for Free Electron Laser Science（自由电子激光科学中心）；Centre of Excellence in Quantum Information, Computation, Science and Technology, Indian Institute of Technology Bombay（印度理工学院孟买分校量子信息、计算、科学与技术卓越中心）；Quantum Technology Laboratory ⟨ Q | T | L ⟩（量子技术实验室）；Syracuse University（雪城大学）
本文提出基于半监督 VAE 的光态分类方法，通过低维映射光子统计特征，在低光子数和实验损耗下快速、鲁棒地区分量子与经典光态。
2024-05-08 cs.LG physics.comp-ph quant-ph
