Inferring response times of perceptual decisions with Poisson variational autoencoders
VIB–Neuroelectronics Research Flanders(VIB神经电子研究佛兰德斯);KU Leuven(库尔勒大学);Herbert Wertheim School of Optometry & Vision Science, UC Berkeley(赫伯特·韦尔泰姆视觉科学学院,伯克利大学);Redwood Center for Theoretical Neuroscience, UC Berkeley(红木理论神经科学中心,伯克利大学)
本文提出基于泊松变分自动编码器的模型,用于推断感知决策的响应时间,通过高效感官编码和贝叶斯解码模拟决策过程,并在MNIST分类中验证其有效性。
2025-11-24 cs.AI cs.LG q-bio.NC
Deep convolutional autoencoder for cryptocurrency market analysis
Curtin University(科廷大学)
这项研究试图使用一种特殊类型的深度神经网络,即卷积自动编码器来分析加密货币市场的模式。该方法提取了市场行为的主要特征,并将40种研究的加密货币分为几类,从2013年5月15日开始为期12个月。随着时间的推移,从一个类到另一个类的过渡与加密货币的成熟有关。在投机性加密货币市场中,这些发现对投资和交易策略具有潜在影响。
2019-10-27 cs.LG q-fin.ST stat.ML
Unsupervised Prostate Cancer Detection on H&E using Convolutional Adversarial Autoencoders
Radboud University Medical Center(拉德堡德大学医学中心)
我们提出了一种无监督的方法,使用自聚类卷积对抗自编码器来将前列腺组织分类为肿瘤或非肿瘤,而无需任何标记的训练数据。聚类方法被集成到自动编码器的训练中,只需要很少的后处理。我们的网络在苏木精和伊红(H&E)输入补丁上进行训练,并测试了两种不同的重建目标,H&E和免疫组织化学(IHC)。我们表明,使用IHC的抗体驱动的特征学习有助于网络学习聚类任务的相关特征。我们的网络仅使用一小部分验证标签来将类分配给集群,从而获得了0.62的F1分数。
2018-04-19 cs.CV cs.LG
Structured Sparse Convolutional Autoencoder
University of Louisville(路易斯维尔大学)
本文旨在通过捕获对象的结构来改进卷积网络(Convnet)中的特征学习。在提取的特征图上施加一个新的稀疏函数来捕捉学习对象的结构和形状,提取可解释的特征以提高预测性能。所提出的算法是基于组织内和跨featuremap的激活通过约束节点的活动,通过$\ell_{2}$和$\ell_{1}$规范化的结构化形式。
2017-01-02 cs.LG cs.NE
Mesh Convolutional Autoencoder for Semi-Regular Meshes of Different Sizes
Fraunhofer Center for Machine Learning and SCAI(弗劳恩霍夫机器学习中心与SCAI);University of Bonn(波恩大学)
变形3D表面网格的分析通过自动编码器加速,因为低维嵌入可以用于可视化底层动力学。但是,最先进的网格卷积自动编码器需要自动编码器处理的所有输入网格的固定连接。这是由于频谱卷积层或网格相关池化操作的使用。因此,人们可以研究的数据集类型是有限的,并且所学习的知识不能转移到表现出类似行为的其他数据集。为了解决这一问题,我们将离散化的表面,以半规则的网格,有一个局部规则的连接,其网格是分层的。这允许我们将相同的空间卷积滤波器应用于局部邻域,并定义可应用于每个半规则网格的池化算子。我们将相同的网格自动编码器应用于不同的数据集,我们的重建误差比最先进的模型的误差低50%以上,这些模型必须为每个网格分别进行训练。此外,我们可视化的基本动态看不见的网格序列与自动编码器训练不同类别的网格。
2021-10-20 cs.CV cs.LG
Convolutional Neural Network and Adversarial Autoencoder in EEG images classification
Innopolis University(因诺波利斯大学)
本文结合计算机视觉与神经网络方法,用于手部运动期间大脑活动的分类。通过预处理EEG信号生成2DEEG图谱,并采用监督和半监督神经网络进行分类。
2026-04-05 cs.LG
Deep Convolutional Autoencoders as Generic Feature Extractors in Seismological Applications
Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
使用深层自动编码器对地震波形特征进行编码,然后将其用于不同的地震学应用的想法很有吸引力。在本文中,我们设计了测试来评估使用自动编码器作为不同地震学应用的特征提取器的想法,例如事件判别(即,地震对噪声波形、地震对爆炸波形以及相位拾取)。这些测试涉及在大量地震波形上训练自动编码器,无论是欠完整还是过完整,然后使用训练过的编码器作为后续应用层(全连接层或卷积层加全连接层)的特征提取器来做出决定。通过将这些新设计的模型的性能与从头开始训练的基线模型进行比较,我们得出结论,自动编码器特征提取器方法可能仅在某些条件下表现良好,例如当目标问题需要与自动编码器编码特征相似的特征时,当相对少量的训练数据可用时,以及当使用某些模型结构和训练策略时。在所有这些测试中效果最好的模型结构是一个过完备的自动编码器,它具有卷积层和全连接层来进行估计。
2021-12-14 cs.LG physics.geo-ph
AGD-Autoencoder: Attention Gated Deep Convolutional Autoencoder for Brain Tumor Segmentation
脑肿瘤分割是医学图像分析中的一个具有挑战性的问题。其终点是生成在fMRI筛查中准确识别脑肿瘤区域的显著掩模。在本文中,我们提出了一种新的注意力门(AG模型)脑肿瘤分割,利用边缘检测单元和注意力门控网络突出和分割的功能磁共振成像图像的显着区域。该功能使我们能够消除必须明确指向受损区域(外部组织定位)并按照经典计算机视觉技术进行分类的必要性。AG可以很容易地集成到深度卷积神经网络(CNN)中。最小的计算开销是必需的,而AGs显着提高灵敏度分数。我们表明,边缘检测器与注意力门控机制一起提供了足够的方法,用于脑分割,达到0.78的IOU
2021-07-07 cs.CV cs.LG eess.IV
GrCAN: Gradient Boost Convolutional Autoencoder with Neural Decision Forest
University of New South Wales(新南威尔士大学)
随机森林和深度神经网络是机器学习中两大有效的分类方法流派。虽然随机森林是鲁棒的,与数据域无关,但深度神经网络在处理高维数据方面具有优势。考虑到可以在神经网络中添加可微神经决策森林以充分利用两种模型的优点,在我们的工作中,我们进一步将卷积自动编码器与神经决策森林结合起来,其中自动编码器在寻找输入数据的隐藏表示方面具有优势。我们开发了一个梯度提升模块,并将其嵌入到建议的卷积自动编码器与神经决策森林,以提高性能。梯度增强的思想是学习并在预测中使用残差。此外,我们设计了一种结构来学习神经决策森林和梯度增强模块的参数。在多个公共数据集上的实验表明,与一系列基准方法相比,该模型具有良好的效率和预测性能。
2018-06-24 cs.LG stat.ML
Semi-Adversarial Networks: Convolutional Autoencoders for Imparting Privacy to Face Images
Michigan State University(密歇根州立大学);International Institute of Information Technology, Hyderabad(海得拉巴国际信息技术研究所)
在本文中,我们设计并评估了一个卷积自动编码器,它可以扰动输入的人脸图像,从而将隐私传递给受试者。具体而言,建议的自动编码器变换输入的人脸图像,使得变换后的图像可以成功地用于人脸识别,但不用于性别分类。为了训练这种自动编码器,我们提出了一种新的训练方案,在这项工作中被称为半对抗训练。通过将由伪性别分类器和伪面部匹配器组成的半对抗模块附加到自动编码器来促进训练。用于训练该网络的目标函数有三个项:一个是确保扰动图像是真实的人脸图像;另一个是确保人脸的性别属性被混淆;第三个是确保由于扰动图像导致的生物识别性能不受影响。大量的实验证实了所提出的架构在扩展性别隐私的人脸图像的功效。
2018-05-03 cs.CV cs.LG
DeepPainter: Painter Classification Using Deep Convolutional Autoencoders
Bar-Ilan University(巴伊兰大学);University of Maryland(马里兰大学)
在本文中,我们描述了画家分类的问题,并提出了一种新的方法,基于深度卷积自动编码器神经网络。虽然以前的方法依赖于图像处理和手动特征提取的绘画,我们的方法操作的原始像素水平,没有任何预处理或手动特征提取。我们首先在绘画数据集上训练深度卷积自动编码器,然后使用它来初始化分类阶段的监督卷积神经网络。所提出的方法大大优于以前的方法,将3-画家分类问题的以前的最新技术水平从90.44%的准确度(以前的最新技术水平)提高到96.52%的准确度,即,出错率降低了63%。
2017-11-23 cs.CV cs.LG cs.NE
Assessment of convolutional recurrent autoencoder network for learning wave propagation
University of Glasgow(格拉斯哥大学);The University of British Columbia(不列颠哥伦比亚大学)
由于自然界中波浪传播的物理性质复杂,环境参数和动力学尺度变化大,因此建立广义的物理模型具有挑战性。在这篇文章中,我们提出了卷积自编码器递归网络(CRAN)作为学习波传播现象的数据驱动模型。CRAN由一个用于学习低维系统表示的卷积自编码器和一个用于低维系统进化的长短期记忆递归神经网络组成。我们表明,卷积自动编码器通过基于投影的方法显着优于复杂波传播现象的降维,因为它可以直接学习类似波特征的子空间。另一方面,基于投影的模式被限制到傅立叶子空间。卷积自动编码器的几何先验能够选择性地对复杂的波动动力学进行尺度分离,进一步增强了其降维能力。我们还证明了卷积自动编码器的平移等方差和平移不变性等几何先验知识可以实现低维映射的广义学习。因此,将卷积自编码器与专门为自回归建模设计的长短期记忆网络连接的复合CRAN模型可以在期望的时间范围内执行广义波传播预测。数值实验显示,90%的平均结构相似性指数测量CRAN预测相比,真正的解决方案的训练情况下,和小于10%的逐点$L_1$错误的大多数情况下,验证了这样的泛化索赔。最后,CRAN的预测提供了类似的波特征模式的目标解决方案,不仅表明他们的泛化,但他们的运动学的一致性。
2022-10-11 cs.LG cs.SD eess.AS
Deep Dense and Convolutional Autoencoders for Unsupervised Anomaly Detection in Machine Condition Sounds
CCG ZGDV Institute(CCG ZGDV研究所);Bosch Car Multimedia, Portugal(博世汽车多媒体(葡萄牙)公司)
本技术报告描述了为DCASE 2020挑战任务2开发的两种方法。挑战涉及到无监督学习来检测异常声音,因此在训练过程中只有正常的机器工作条件样本可用。这两种方法涉及深度自动编码器,基于使用melspectogram处理的声音特征的密集和卷积架构。使用挑战的六种机器类型数据集进行实验。总体而言,所提出的密集和卷积AE实现了具有竞争力的结果,优于基线挑战方法。
2020-06-19 cs.LG cs.SD eess.AS
Convolutional Autoencoders for Reduced-Order Modeling
North Carolina State University(北卡罗来纳州立大学)
在构造动力系统的降阶模型时,通常采用线性投影方法,例如适当的正交分解。然而,对于许多动力系统,状态空间的低维表示可以最精确地由\textit{nonlinear}流形描述。以前的研究表明,深度学习可以提供一种有效的方法来执行非线性降维,尽管它们依赖于训练数据的可用性,并且通常是特定于问题的\citep [参见][]{carlberg_ca}。在这里,我们利用随机化的训练数据来创建和训练卷积自编码器,该卷积自编码器对波和Kuramoto-Shivasinsky方程进行非线性降维。此外,我们提出了独立于全阶模型样本的训练方法,并使用流形最小二乘Petrov-Galerkin投影方法来定义使用相同自动编码器的热,波和Kuramoto-Shivasinsky方程的降阶模型。
2021-08-27 cs.LG math.DS
Churn analysis using deep convolutional neural networks and autoencoders
True Corporation Public Company Limited(True Corporation 大众有限公司);King Mongkut's University of Technology Thonburi(吞武里蒙固国王理工大学);International Business Machines Corporation(国际商业机器公司)
客户时间行为数据表示为图像,以便通过利用图像分类中突出的深度学习架构来执行流失预测。使用深度卷积神经网络对超过600万客户的标记数据进行了监督学习,在测试数据集上使用每个客户不超过12个时间特征实现了0.743的AUC。使用自动编码器进行无监督学习,以更好地了解客户流失的原因。最大限度地激活自动编码器的隐藏单元的图像与流失的客户一起训练,揭示了采取行动的充分机会,以防止强数据,无语音用户之间的流失。
2016-04-18 cs.LG cs.NE stat.ML
Lookahead optimizer improves the performance of Convolutional Autoencoders for reconstruction of natural images
自编码器是近年来受到广泛关注的一类人工神经网络。使用自动编码器的编码器块,输入图像可以被压缩成有意义的表示。然后,解码器被用来将压缩表示重构回看起来像输入图像的版本。它在数据压缩和去噪等领域有着广泛的应用。存在另一种版本的自动编码器(AE),称为变分AE(VAE),其充当类似于GAN的生成模型。最近,引入了一种称为前瞻优化器的优化器,该优化器显著增强了Adam和SGD的性能。在本文中,我们实现了卷积自动编码器(CAE)和卷积变分自编码器(CVAE)与前瞻优化器(亚当),并将它们与亚当(只有)优化器同行。为此,我们使用了一个电影数据集,包括自然图像的前一种情况和CIFAR100的后一种情况。我们表明,前瞻优化器(与Adam一起)提高了CAE重建自然图像的性能。
2020-12-03 cs.AI cs.CV cs.GR
Investigation of Nonlinear Model Order Reduction of the Quasigeostrophic Equations through a Physics-Informed Convolutional Autoencoder
Virginia Tech(弗吉尼亚理工大学)
降阶建模(ROM)是一个技术领域,它通过廉价的替代物来近似真实世界过程的复杂的基于物理的模型,这些替代物以较少的自由度捕获重要的动态特性。传统的ROM技术,如适当的正交分解(POD)专注于线性投影的动态到一组频谱功能。在本文中,我们探讨了使用自动编码器(AE)的ROM的建设,执行系统动态的非线性投影到一个低维流形从数据中学习。该方法使用卷积神经网络(CNN)来学习空间特征,而不是光谱特征,并利用物理信息(PI)成本函数来捕获时间特征。我们的调查使用准地转方程表明,虽然PI成本函数有助于空间重建,空间特征是不太强大的光谱特征,并通过机器学习为基础的方法,需要大量的调查新的非标准方法的ROM的建设。
2021-08-27 cs.LG
PCB Defect Detection Using Denoising Convolutional Autoencoders
University of Isfahan(伊斯法罕大学);Pardisan Rayaneh System Company(帕尔迪桑·拉亚内系统公司)
印刷电路板(PCB)是制造电子产品的最重要阶段之一。PCB中的一个小缺陷可能会导致最终产品出现重大缺陷。因此,检测PCB中的所有缺陷并定位它们至关重要。在本文中,我们提出了一种基于去噪卷积自编码器的方法来检测有缺陷的PCB并定位缺陷。去噪自动编码器获取损坏的图像并尝试恢复完整的图像。我们用有缺陷的PCB训练我们的模型,并强迫它修复有缺陷的部件。我们的模型不仅可以检测各种缺陷并定位它们,而且还可以修复它们。通过从输入中减去修复的输出,定位有缺陷的部件。实验结果表明,我们的模型检测有缺陷的PCB具有较高的准确性(97.5%)相比,国家的最先进的作品。
2020-08-28 cs.LG eess.IV
Winner-Take-All Autoencoders
University of Toronto(多伦多大学)
在本文中,我们提出了一个赢家通吃的方法学习层次稀疏表示在无监督的方式。我们首先介绍了完全连接的赢家通吃的自动编码器,它使用小批量统计数据来直接强制执行隐藏单元激活的生命周期稀疏性。然后,我们提出了卷积赢家通吃自动编码器,它结合了卷积架构和自动编码器的优点,用于学习移位不变的稀疏表示。我们描述了一种逐层训练卷积自编码器的方法,其中除了寿命稀疏性之外,每个特征图内的空间稀疏性是使用赢家通吃激活函数实现的。我们将展示赢家通吃自动编码器可以用来从MNIST、CIFAR-10、ImageNet、街景门牌号和多伦多人脸数据集学习深度稀疏表示,并实现有竞争力的分类性能。
2015-06-07 cs.LG cs.NE
Symmetric Graph Convolutional Autoencoder for Unsupervised Graph Representation Learning
Seoul National University(首尔国立大学);Hanyang University(汉阳大学);University of Birmingham(伯明翰大学)
我们提出了一个对称图卷积自动编码器,它产生一个低维的潜在表示从一个图。与现有的具有非对称解码器部分的图自编码器相比,所提出的自编码器具有新设计的解码器,该解码器构建了完全对称的自编码器形式。对于节点特征的重建,解码器是基于拉普拉斯锐化作为拉普拉斯平滑的编码器的对应物而设计的,这允许在所提出的自动编码器架构的整个过程中利用图结构。为了防止引入Laplacian锐化所引起的网络数值不稳定性,我们进一步提出了一种新的数值稳定形式的Laplacian锐化,通过引入符号图。此外,一个新的成本函数,发现一个潜在的代表性和潜在的亲和力矩阵同时设计,以提高图像聚类任务的性能。在聚类、链接预测和可视化任务上的实验结果表明,该模型具有较好的稳定性,且性能优于现有的各种算法。
2019-08-07 cs.CV cs.LG stat.ML
Deep Learning for High-Impedance Fault Detection: Convolutional Autoencoders
The University of Western Ontario(西安大略大学)
高阻抗故障(HIF)由于其电流幅度低且特征高度多样化而难以检测。近年来,机器学习(ML)在HIF检测中越来越受欢迎,因为ML技术从数据中学习模式并成功检测HIF。然而,由于这些方法基于监督学习,因此它们不能可靠地检测不存在于训练数据中的任何场景、故障或非故障。因此,本文利用无监督学习,并提出了一个卷积自动编码器的HIF检测框架(CAE-HIFD)。与从正常行为学习的传统自动编码器相反,CAE-HIFD中的卷积自动编码器(CAE)仅从HIF信号学习,从而消除了CAE训练中存在各种非HIF场景的需要。CAE通过采用互相关将HIF与非HIF操作条件区分开。为了区分HIF与电容器或负载切换等瞬态干扰,CAE-HIFD使用峰度,这是一种概率分布形状的统计测量。使用IEEE 13节点测试馈线进行的性能评估研究表明,CAE-HIFD可靠地检测HIF,优于最先进的HIF检测技术,并且对噪声具有鲁棒性。
2021-06-24 cs.LG eess.SP
Continuity-Preserving Convolutional Autoencoders for Learning Continuous Latent Dynamical Models from Images
National University of Singapore(新加坡国立大学)
本文提出保连续性卷积自编码器(CpAEs),通过促进卷积滤波器连续性来保持潜在状态连续,从而从离散图像帧中学习更准确的连续潜在动力学模型。
2025-02-02 cs.CV cs.LG
A Real-time Anomaly Detection Using Convolutional Autoencoder with Dynamic Threshold
针对智能计量能耗数据中的异常影响序列估计的问题,提出结合统计学与带动态阈值卷积自编码器的实时表计级检测方法,实现异常早期预警。
2024-04-05 cs.AI cs.LG
Attention-based Convolutional Autoencoders for 3D-Variational Data Assimilation
Data Science Institute, Imperial College London(伦敦帝国理工学院数据科学研究所);Universidad de Granada(格拉纳达大学)
我们提出了一种新的“双缩减空间”方法来解决三维变分数据同化使用卷积自编码器。我们证明,我们的方法具有相同的解决方案,以前的方法,但有显着降低计算复杂性,换句话说,我们减少了计算成本,而不影响数据同化精度。我们用来自真实世界应用的数据测试了新方法:伦敦大象和城堡的一个污染模型,发现我们可以将背景协方差矩阵表示的大小减少O(10^3),同时,相对于现有的缩减空间方法,提高了我们的数据同化精度。
2021-01-06 cs.CE cs.LG
Quantum Circuits for Quantum Convolutions: A Quantum Convolutional Autoencoder
School of Engineering and Computer Science(工程与计算机科学学院);Department of Computer Science(计算机科学系);Baylor University(贝勒大学)
本研究提出采用作为量子卷积的随机量子电路处理输入数据以生成新表征的量子卷积方案,实验显示其性能与经典卷积神经网络相当,部分场景下可加快收敛。
2025-08-30 cs.LG quant-ph
Automated visual inspection of CMS HGCAL silicon sensor surface using an ensemble of a deep convolutional autoencoder and classifier
CERN(欧洲核子研究中心)
超过一千个8”硅传感器将在CERN CMS实验的高粒度量热计组装之前的质量控制期间进行目视检查,以寻找其表面上的异常。开发了一种基于深度学习的算法,可以实时预选传感器表面的潜在异常图像,以自动进行视觉检测。异常检测是由独立的深度卷积神经网络集成完成的:自动编码器和分类器。在生产中获取的图像上评估性能。预先选择将需要人工检查的图像数量减少了85%,召回率为97%。生产中收集的数据可用于持续学习,以逐步提高准确性。
2023-03-09 cs.CV cs.LG physics.ins-det
Removing Noise from Extracellular Neural Recordings Using Fully Convolutional Denoising Autoencoders
Information Technologies Institute, Centre for Research and Technology – Hellas (CERTH)(希腊研究与技术中心信息技术研究所);Aristotle University of Thessaloniki(塞萨洛尼基亚里士多德大学)
细胞外记录受到大量噪声源的严重污染,使得去噪过程成为一项极具挑战性的任务,应该解决有效的尖峰分选。为此,我们提出了一种端到端的深度学习方法来解决这个问题,利用全卷积去噪自动编码器,它可以学习从嘈杂的多通道输入中产生干净的神经元活动信号。仿真数据的实验结果表明,我们提出的方法可以显着改善噪声污染的神经信号的质量,优于广泛使用的小波去噪技术。
2021-09-18 cs.LG eess.SP q-bio.NC
Deep Convolutional Autoencoder for Assessment of Drive-Cycle Anomalies in Connected Vehicle Sensor Data
Michigan Technological University(密歇根理工大学);New York University School of Medicine(纽约大学医学院);Ford Motor Company(福特汽车公司)
提出一种全卷积自编码器,通过重建混合动力车动力总成多元传感器时序数据来无监督检测驾驶循环异常,实验证明其优于传统异常检测器和其他深度学习方法。
2024-09-09 cs.LG cs.NE
Convolutional autoencoders for the reconstruction of three-dimensional interfacial multiphase flows
Department of Mechanical Engineering, Stanford University(斯坦福大学机械工程系);Department of Engineering Mechanics, KTH Royal Institute of Technology(皇家理工学院工程力学系)
本文研究了卷积自编码器在三维界面多相流重建中的应用,发现适度扩散的界面表示在精度与结构保留间取得最佳平衡。
2025-12-26 cs.CE cs.LG physics.flu-dyn
Autoencoder Watchdog Outlier Detection for Classifiers
Baylor University(贝勒大学)
神经网络通常被描述为黑盒子。一个被训练来区分小猫和小狗的通用神经网络会把一张橘子的照片分类为小猫或小狗。自动编码器看门狗在处理之前筛选经训练的分类器/回归机器输入候选,例如,以首先测试神经网络输入是小狗还是小猫。使用卷积神经网络和卷积自动编码器看门狗使用MNIST图像的初步结果。
2021-02-10 cs.LG
Multi-level Feature Learning on Embedding Layer of Convolutional Autoencoders and Deep Inverse Feature Learning for Image Clustering
Northern Arizona University(北亚利桑那大学)
本文介绍了多层特征学习以及卷积自动编码器的嵌入层(CAE-MLE),作为深度聚类的一种新方法。我们使用凝聚聚类作为多级特征学习,在潜在特征空间上提供层次结构。研究表明,应用多级特征学习可以大大改善基本的深度卷积嵌入聚类(DCEC)。CAE-MLE在考虑凝聚聚类的聚类损失的同时,也考虑了CAE的学习特性。在下面的反向特征学习中,我们证明了错误学习作为一种通用策略的表示可以应用于不同的深度聚类方法,并产生了有希望的结果。我们在CAE-MLE上开发了深度逆特征学习(deep IFL),作为一种新方法,它在同类方法中获得了最先进的结果。在MNIST和USPS两个著名数据集上的实验结果表明,CAE-MLE比基本方法DCEC的结果提高了7% -14%。此外,它表明,建议的深IFL改进的初步结果约9%-17%。因此,所提出的CAE-MLE方法和基于CAE-MLE的深度IFL方法与大多数现有技术相比可以导致显著的性能改善。所提出的方法虽然基于基本的卷积自编码器,但即使与变分自编码器或生成对抗网络相比,也会产生出色的结果。
2020-10-05 cs.CV cs.LG
Discriminative Pattern Mining for Breast Cancer Histopathology Image Classification via Fully Convolutional Autoencoder
University of Toronto(多伦多大学);National Cancer Research Centre(国家癌症研究中心);Institute for Oncology and Radiology(肿瘤与放射学研究所)
由于癌细胞生长以及各种良性乳腺组织增生性病变的异质性,在组织病理学图像中准确诊断乳腺癌是具有挑战性的。在本文中,我们提出了一种实用且可自我解释的侵入性癌症诊断解决方案。该方法利用最少的标注信息,以无监督的方式挖掘正常图像和恶性图像之间的对比模式,并生成异常概率图以验证其推理。特别地,使用全卷积自动编码器来学习正常图像块之间的主导结构模式。对于不具有该正态总体特征的斑块,采用单类支持向量机和单层神经网络进行检测和分析。我们将所提出的方法应用于公共乳腺癌图像集。我们的研究结果,在与资深病理学家协商,表明所提出的方法优于现有的方法。所获得的概率图可以通过提供可视化的验证数据来有益于病理学实践,并可能导致更好地理解数据驱动的诊断解决方案。
2020-05-05 cs.CV cs.LG eess.IV
Convolutional autoencoders for spatially-informed ensemble post-processing
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院);Heidelberg Institute for Theoretical Studies(海德堡理论研究所)
包围圈天气预报通常会显示系统误差,必须通过后处理进行校正。即使是基于神经网络的最先进的后处理方法通常也仅依赖于特定于位置的预测器,其需要将物理天气模型的空间预测场内插到目标位置。然而,潜在的有用的可预测性信息包含在输入字段内的大规模空间结构中可能会丢失在这个插值步骤。因此,我们建议使用卷积自动编码器来学习空间输入字段的紧凑表示,然后可以将其用于增强特定位置的信息作为后处理模型的额外输入。包括这种空间信息的好处证明了在德国地面站的2米温度预报的案例研究。
2022-04-08 cs.LG physics.ao-ph
Walking the Tightrope: An Investigation of the Convolutional Autoencoder Bottleneck
Ludwig Maximilian University(慕尼黑大学);Siemens AG(西门子股份公司)
在本文中,我们提出了一个深入的调查卷积自动编码器(CAE)的瓶颈。自动编码器(AE),特别是它们的卷积变体,在当前的深度学习工具箱中发挥着至关重要的作用。研究人员和实践者使用CAE进行各种任务,从离群值检测和压缩到迁移和表示学习。尽管它们被广泛采用,但我们对瓶颈形状如何影响CAE的紧急属性的了解有限。我们证明了瓶颈的高度和宽度的增加大大提高了泛化能力,这反过来又导致了下游迁移学习任务中潜在代码的更好性能。另一方面,瓶颈中的通道数量在重要性上是次要的。此外,我们的经验表明,与流行的看法相反,CAE不学习复制他们的输入,即使当瓶颈有相同数量的神经元作为输入中的像素。尽管在一个很小的($\approx$ 600个图像)数据集上训练了CAE 1,000个epoch,但没有发生异常。我们相信,本文的研究结果是直接适用的,并将导致依赖于CAE模型的改进。
2020-05-12 cs.CV cs.LG
Unsupervised Change Detection in Hyperspectral Images using Feature Fusion Deep Convolutional Autoencoders
双时共配准高光谱图像中的二值变化检测是一项具有挑战性的任务,由于大量的光谱波段中存在的数据。因此,研究人员试图通过减少维度来处理它。所提出的工作旨在建立一个新的特征提取系统,使用特征融合深度卷积自动编码器来检测一对这样的双时间共配准高光谱图像之间的变化。特征融合考虑了连续层次和多个感受野的特征,因此比现有的特征提取方法增加了竞争优势。所描述的变化检测技术是完全无监督的,并且比其他需要一些标签信息的监督或半监督方法更优雅。不同的方法已被应用到提取的特征,以找到在两个图像中的变化,它被发现,所提出的方法显然优于最先进的方法在所有的数据集的无监督变化检测。
2021-09-10 cs.CV cs.LG
Multiresolution Convolutional Autoencoders
University of Washington(华盛顿大学);Lawrence Livermore National Lab(劳伦斯利弗莫尔国家实验室)
我们提出了一种多分辨率卷积自动编码器(MrCAE)架构,该架构集成并利用了三种非常成功的数学架构:(i)多重网格方法,(ii)卷积自动编码器和(iii)迁移学习。该方法提供了一个自适应的,分层的架构,利用渐进的训练方法多尺度时空数据。该框架允许跨多个尺度的输入:从紧凑的(少量权重)网络架构和低分辨率数据开始,我们的网络以原则性的方式逐步加深和扩大,以基于其当前重建性能在更高分辨率数据中编码新信息。应用基本的迁移学习技术来确保从先前的训练步骤中学习到的信息可以快速地转移到更大的网络中。因此,网络可以动态地捕获网络的不同深度处的不同缩放特征。这种自适应多尺度架构的性能增益说明通过一系列的数值实验合成的例子和现实世界的时空数据。
2020-04-10 cs.LG cs.NA eess.IV
Keep It Simple: Graph Autoencoders Without Graph Convolutional Networks
Deezer Research and Development(Deezer研发部);LIX, École Polytechnique(巴黎综合理工学院LIX实验室);AUEB(雅典经济与商业大学)
图自编码器(AE)和变分自编码器(VAE)最近成为强大的节点嵌入方法,在链接预测和节点聚类等具有挑战性的任务上具有很好的性能。图AE、VAE及其大多数扩展依赖于图卷积网络(GCN)来学习节点的向量空间表示。在本文中,我们提出了一个简单的线性模型w.r.t.图的邻接矩阵。对于上述两个任务,我们的经验表明,这种方法始终达到竞争力的表现w.r.t.基于GCN的模型,用于许多真实世界的图,包括广泛使用的Cora,Citeseer和Pubmed引文网络,这些网络成为评估图AE和VAE的事实上的基准数据集。这一结果质疑了重复使用这三个数据集来比较复杂图形AE和VAE模型的相关性。它还强调了简单的节点编码方案对许多实际应用的有效性。
2019-10-02 cs.LG cs.SI stat.ML
Deep Clustering via Joint Convolutional Autoencoder Embedding and Relative Entropy Minimization
University of Pittsburgh(匹兹堡大学);University of Texas at Arlington(德克萨斯大学阿灵顿分校);Xidian University(西安电子科技大学);University of Sydney(悉尼大学)
图像聚类是计算机视觉最重要的应用之一,在文献中得到了广泛的研究。然而,现有的聚类方法在处理大规模、高维数据时,大多缺乏效率和可扩展性。在本文中,我们提出了一个新的聚类模型,称为DEeP嵌入正则化的聚类(DEPICT),它有效地将数据映射到一个有区别的嵌入子空间,并精确地预测聚类分配。DEPICT通常由堆叠在多层卷积自动编码器顶部的多项式逻辑回归函数组成。我们定义了一个聚类的目标函数,使用相对熵(KL发散)最小化,正则化的集群分配的频率之前。一个交替的策略,然后推导出优化的目标,通过更新参数和估计集群分配。此外,我们在自动编码器中使用重建损失函数作为数据相关的正则化项,以防止深度嵌入函数过拟合。为了从端到端优化中获益并消除逐层预训练的必要性,我们引入了一个联合学习框架来最小化统一的聚类和重建损失函数,并同时训练所有网络层。实验结果表明,DEPICT的优越性和更快的运行时间在现实世界的聚类任务,其中没有标记的数据可用于超参数调整。
2017-08-09 cs.LG
Efficient Data Compression for 3D Sparse TPC via Bicephalous Convolutional Autoencoder
Brookhaven National Laboratory(布鲁克海文国家实验室)
在大型实验装置中进行实时数据汇集和分析是一个跨多个领域的巨大挑战,包括高能物理、核物理和宇宙学。为了解决这个问题,基于机器学习(ML)的实时数据压缩方法已经引起了极大的关注。然而,与自然图像数据不同,例如CIFAR和ImageNet相对较小且连续,科学数据通常以高速率的三维数据量出现,具有高稀疏性(许多零)和非高斯值分布。这使得直接应用流行的ML压缩方法以及常规的数据压缩方法是次优的。为了解决这些障碍,这项工作引入了一个双头自动编码器,以解决稀疏和回归同时,称为\textit{Bicephalous Convolutional AutoEncoder}(BCAE)。与传统的数据压缩方法如MGARD、SZ和ZFP相比,该方法在压缩保真度和压缩比上都有明显的优势。为了达到类似的保真度,传统方法中性能最好的方法只能达到BCAE压缩比的一半。此外,一个彻底的消融研究的BCAE方法表明,一个专用的分割解码器提高了重建。
2021-11-09 cs.CV cs.LG
DeepFall -- Non-invasive Fall Detection with Deep Spatio-Temporal Convolutional Autoencoders
University of Toronto(多伦多大学);Toronto Rehabilitation Institute(多伦多康复研究所);University Health Network(大学健康网络)
人类跌倒很少发生;然而,从健康和安全的角度来看,检测跌倒非常重要。由于跌倒的罕见性,很难采用监督分类技术来检测它们。此外,在这些高度偏斜的情况下,也难以提取领域特定特征来识别跌倒。在本文中,我们提出了一种新的框架,\textit{DeepFall},它制定了作为一个异常检测问题的跌倒检测问题。\textit{DeepFall}框架提出了深度时空卷积自动编码器的新用途,以使用非侵入式感测模态从正常活动中学习空间和时间特征。我们还提出了一种新的异常评分方法,结合重建分数的帧在一个时间窗口来检测看不见的下降。我们在三个公开的数据集上测试了\textit{DeepFall}框架,这些数据集是通过非侵入式传感模式、热成像相机和深度相机收集的,与传统的自动编码器方法相比,该框架显示出更好的结果来识别看不见的跌倒。
2020-04-27 cs.CV cs.LG stat.ML
Supervised Dimensionality Reduction and Image Classification Utilizing Convolutional Autoencoders
University of Thessaly(塞萨利大学)
重建和分类误差的联合优化是一个非凸的硬问题,特别是当使用非线性映射时。为了克服这一障碍,提出了一种新的优化策略,其中用于降维的卷积自动编码器和由全连接网络组成的分类器相结合,以同时产生监督降维和预测。事实证明,这种方法在加强深度学习架构的可解释性方面也非常有益。此外,所得到的潜在空间,优化的分类任务,可以用来改善传统的,可解释的分类算法。实验结果表明,所提出的方法与最先进的深度学习方法相比取得了有竞争力的结果,同时在参数计数方面更加有效。最后,它是经验证明,所提出的方法引入了先进的可解释性,不仅通过所产生的潜在空间的数据结构,而且关于分类行为。
2022-11-03 cs.LG cs.NE
Unsupervised seismic facies classification using deep convolutional autoencoder
School of Earth and Planetary Sciences(地球与行星科学学院);Curtin University(科廷大学);Oil and Gas Innovation Centre(油气创新中心)
随着地震勘测的规模和复杂性的增加,地震相的手动标记已成为一个重大挑战。应用自动化方法进行地震相解释可以显著减少传统方法中的人工劳动和特定解释者的主观性。最近出现的一组方法基于深度神经网络。这些方法是数据驱动的,需要大型标记数据集进行网络训练。我们将深度卷积自动编码器应用于无监督地震相分类,这不需要手动标记的示例。通过对从输入数据获得的深度特征向量进行聚类来生成相图。我们的方法在实际数据上产生准确的结果,并即时提供。所提出的方法开辟了在没有人为干预的情况下实时分析地质模式的可能性。
2020-08-05 cs.CV cs.LG eess.IV
Convolutional autoencoder-based multimodal one-class classification
Tampere University(坦佩雷大学);Finnish Environment Institute(芬兰环境研究所);University of Jyväskylä(于韦斯屈莱大学);Aarhus University(奥胡斯大学)
本文提出一种基于双卷积自编码器联合训练的多模态单类分类方法,以潜在表示到原点的距离作为异常分数,并在多模态图像数据集上验证其优于单模态方法,同时证明特征多样性正则化器可进一步提升性能。
2023-09-25 cs.CV cs.LG
An end-to-end convolutional selective autoencoder approach to Soybean Cyst Nematode eggs detection
本文在深度卷积网络的框架内提出了一种新的选择性自动编码器方法。这个想法的关键是训练深度卷积自动编码器,以抑制图像帧中不需要的部分,同时允许所需的部分,从而实现有效的目标检测。该框架的有效性证明了一个关键的植物科学问题。在美国,由于大豆植物上的线虫感染,每年损失约10亿美元。目前,植物病理学家依靠人工显微镜对土壤样品中的大豆胞囊线虫(SCN)卵进行劳动密集型和耗时的鉴定。所提出的框架试图通过使用一系列手动标记的显微图像进行训练,然后进行自动化高通量鸡蛋检测来显着加快这一过程。由于图像帧中存在大量非鸡蛋颗粒(干扰),这些颗粒在形状、姿态和照明方面与SCN鸡蛋非常相似,因此这个问题特别困难。因此,选择性自动编码器被训练以学习与SCN蛋的不变形状和大小相关的独特特征,而无需手工制作。之后,在后处理阶段应用复合非最大值抑制和差分。
2016-03-25 cs.CV cs.LG stat.ML
Convolutional Autoencoders, Clustering and POD for Low-dimensional Parametrization of Navier-Stokes Equations
Max Planck Institute for Dynamics of Complex Technical Systems(马克斯·普朗克复杂技术系统动力学研究所);Otto von Guericke University Magdeburg(奥托·冯·格里克马格德堡大学)
针对大规模动力系统仿真计算成本高、线性POD难以满足极低维参数化需求的问题,提出带仿射线性解码器的卷积自编码器并结合k-means聚类,在两个圆柱尾流Navier-Stokes场景中与标准POD对比验证。
2023-02-03 cs.LG math.DS
On the effectiveness of convolutional autoencoders on image-based personalized recommender systems
Universidade da Coruña(科鲁尼亚大学);Universidad de Oviedo(奥维耶多大学);CESGA(CESGA(无常见中文名,按原文));NVIDIA Corporation(英伟达公司(NVIDIA Corporation))
推荐系统(RS)越来越多地出现在我们的日常生活中,特别是大数据的出现,它允许存储有关用户偏好的各种信息。个性化RS已成功应用于Netflix、Amazon或YouTube等平台。然而,它们在TripAdvisor等美食平台上却不见了,在那里我们可以找到数百万张标有用户口味的图片。本文探讨了使用这些图像作为建模用户口味的信息源的潜力,并提出了一个基于图像的分类系统,以获得个性化的建议,使用卷积自动编码器作为特征提取器。所提出的架构将应用于TripAdvisor数据,使用用户的评论,可以定义为由用户,餐厅和用户拍摄的图像组成的三元组。由于数据集是高度不平衡的,在实验中还考虑了对少数类使用数据增强。来自三个不同规模城市(圣地亚哥德孔波斯特拉,巴塞罗那和纽约)的数据结果证明了使用卷积自动编码器作为特征提取器的有效性,而不是使用卷积神经网络计算的标准深度特征。
2020-03-13 cs.CV cs.IR cs.LG
A Convolutional Autoencoder for Multi-Subject fMRI Data Aggregation
Princeton University(普林斯顿大学);Intel Labs(英特尔实验室);Princeton Neuroscience Institute(普林斯顿神经科学研究所)
寻找最有效的方法来聚合多学科的功能磁共振成像数据是一个长期存在的和具有挑战性的问题。由于每个受试者的数据稀缺以及大脑解剖结构和功能反应在受试者之间的差异性,它在当代人类认知的fMRI研究中越来越受到关注。最近的潜在因素模型的工作表明,在这项任务中有希望的结果,但这种方法并不保留在大脑中的空间局部性。我们研究了两种方法相结合的因素模型和探照灯为基础的分析,以聚合多学科的功能磁共振成像数据,同时保持空间局部性的想法。首先,我们直接将最近的因子方法(称为共享响应模型)与探照灯分析相结合。然后,我们设计了一个多视图卷积自动编码器相同的任务。这两种方法都保留了空间局部性,与标准探照灯分析和应用于整个大脑的共享响应模型相比,具有竞争力或更好的性能。我们还报告了一个系统设计,以处理训练卷积自动编码器的计算挑战。
2016-08-17 cs.AI cs.CV cs.LG
Masked Autoencoders are Scalable Learners of Cellular Morphology
Recursion(递归制药公司)
本文研究自监督掩码自编码器在细胞形态学图像上的可扩展性,证明CNN和ViT架构在大规模显微镜数据上训练后显著优于弱监督基线,其中ViT-L/8在推断已知生物学关系时相对提升高达28%。
2023-11-27 cs.AI cs.CV cs.LG
Unsupervised Deep Clustering of MNIST with Triplet-Enhanced Convolutional Autoencoders
本研究提出基于两阶段三元组增强卷积自编码器的MNIST无监督深度聚类方法,结合重构误差与KMeans聚类损失,辅以批量归一化等技术,在多项聚类指标上取得优异性能,兼顾精度与可扩展性。
2025-06-11 cs.LG
Predicting Transonic Flowfields in Non-Homogeneous Unstructured Grids Using Autoencoder Graph Convolutional Networks
University of Southampton(南安普顿大学);Zurich University of Applied Sciences ZHAW(苏黎世应用科技大学);Federal Institute of Technology Zurich ETHZ(苏黎世联邦理工学院)
本文提出 Autoencoder GCN 架构,利用几何深度学习处理 CFD 非均匀非结构化网格,并通过机翼与机翼—机身案例验证其跨音速流场降阶预测能力。
2024-05-07 cs.CE cs.LG
Early Detection of Combustion Instabilities using Deep Convolutional Selective Autoencoders on Hi-speed Flame Video
Iowa State University(爱荷华州立大学);United Technologies Research Center(联合技术研究中心)
本文提出了一种端到端的卷积选择性自动编码器的方法,燃烧不稳定性的早期检测使用快速到达的火焰图像帧。在燃烧过程中出现的不稳定性在各种人类工程系统(诸如基于陆地和空气的燃气涡轮发动机)中引起显著的劣化和安全问题。这些特性被描述为自持的,大振幅的压力振荡,并显示出不同的空间尺度周期性相干涡结构脱落。然而,这种不稳定性是非常难以检测之前,燃烧过程变得完全不稳定,由于其突然(分叉型)的性质。在这种情况下,训练自动编码器以选择性地掩蔽稳定火焰并允许不稳定火焰图像帧。在这个过程中,模型学习识别和提取丰富的描述性和解释性火焰形状特征。有了这样的训练方案,选择性的自动编码器被证明能够检测到微妙的不稳定的燃烧过程中,使过渡从稳定到不稳定的区域的功能。因此,深度学习工具链可以作为燃烧不稳定性的早期检测框架,这将对现代发动机的安全性和性能产生变革性影响。
2016-03-25 cs.CV cs.LG cs.NE
Convolutional Deep Denoising Autoencoders for Radio Astronomical Images
Istituto di Radio Astronomia, INAF(意大利国家天体物理研究所射电天文研究所);Hamburger Sternwarte(汉堡天文台);Universitá di Bologna(博洛尼亚大学)
我们应用了一种称为卷积去噪自动编码器的机器学习技术来对最先进的射电望远镜的合成图像进行去噪,目的是检测预测将覆盖无线电宇宙网的微弱、扩散的射电源。在我们的应用中,去噪旨在解决随机仪器噪声的减少和额外的虚假伪像的旁瓣,从孔径合成技术产生的最小化。针对不同类型的输入图像,分析了该方法的有效性和准确性,以及计算性能。特别注意创建现实的模拟观测的培训,利用宇宙学数值模拟的结果,以产生相应的LOFAR HBA 8小时观测在150 MHz的图像。我们的自动编码器可以有效地消除复杂图像的噪声,在仪器灵敏度的限制下识别和提取微弱的物体。该方法可以在大型数据集上有效地扩展,利用高性能计算解决方案,以完全自动化的方式(即在训练后不需要人工监督)。它可以准确地执行图像分割,识别扩散源的低亮度边缘,证明是一个可行的解决方案,用于检测隐藏在嘈杂的无线电观测中的具有挑战性的扩展对象。
2021-10-16 astro-ph.IM cs.LG
SpACNN-LDVAE: Spatial Attention Convolutional Latent Dirichlet Variational Autoencoder for Hyperspectral Pixel Unmixing
Birla Inst. of Tech. & Sci. Pilani(比拉理工学院皮拉尼分校);Ontario Tech University(安大略理工大学)
本文提出SpACNN-LDVAE模型,通过空间注意力卷积网络扩展LDVAE,在高光谱像素解混中利用局部空间上下文,提升端元提取与丰度估计精度。
2024-05-24 cs.CV cs.LG eess.IV
LCA-Net: Light Convolutional Autoencoder for Image Dehazing
PESU(PES大学)
图像去雾是一项重要的图像预处理任务,其目的是去除由雾带来的非相干噪声,以提高图像的视觉吸引力。现有的模型使用复杂的网络和自定义的损失函数,这是计算效率低,需要大量的硬件来运行。时间是图像预处理的关键,因为可以立即获得实时的输出。为了克服这些问题,我们提出的通用模型使用了一个非常轻的卷积编码器-解码器网络,它不依赖于任何大气模型。该神经网络很好地处理了网络复杂度-图像质量的权衡,并且该网络的性能不受低规格系统的限制。该网络在几个标准数据集上以更快的速度实现了最佳的去雾性能,在图像质量方面与最先进的方法相当。
2020-08-24 cs.CV cs.LG