首页/论文/2012.11510

arXiv 2012.115102020-12-21cs.LG

基于CNN的特征提取器的设计规则检查

Design Rule Checking with a CNN Based Feature Extractor

North Carolina State University（北卡罗来纳州立大学）

Luis Francisco, Tanmay Lagare, Arpit Jain, Somal Chaudhary, Madhura Kulkarni, Divya Sardana, W. Rhett Davis, Paul Franzon

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

摘要英文摘要相关论文

摘要：

在先进的节点技术中，设计规则检查（DRC）变得越来越复杂。非常希望有一个可以在布局期间使用的快速交互式DRC引擎。在这项工作中，我们建立了这种发动机的可行性证明。该模型由一个卷积神经网络（CNN）训练，以检测DRC违规。该模型是用从一组$50$ SRAM设计中获得的人工数据训练的。这次演示的重点是metal 1规则。使用这种解决方案，我们可以检测多个DRC违规比布尔检查器快32倍，准确度高达92。所提出的解决方案可以很容易地扩展到一个完整的规则集。

英文摘要：

Design rule checking (DRC) is getting increasingly complex in advanced nodes technologies. It would be highly desirable to have a fast interactive DRC engine that could be used during layout. In this work, we establish the proof of feasibility for such an engine. The proposed model consists of a convolutional neural network (CNN) trained to detect DRC violations. The model was trained with artificial data that was derived from a set of $50$ SRAM designs. The focus in this demonstration was metal 1 rules. Using this solution, we can detect multiple DRC violations 32x faster than Boolean checkers with an accuracy of up to 92. The proposed solution can be easily expanded to a complete rule set.

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

阅读原文

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

本文内容

摘要英文摘要相关论文

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

继续探索

相关论文

使用掩模R-CNN的息肉检测和分割：更深的特征提取器CNN是否总是性能更好？

Polyp Detection and Segmentation using Mask R-CNN: Does a Deeper Feature Extractor CNN Always Perform Better?

Oslo University Hospital（奥斯陆大学医院）；University of Oslo（奥斯陆大学）；Norwegian University of Science and Technology（挪威科技大学）；OmniVision Technologies Norway AS（OmniVision技术挪威公司）；LG CNS

由于医师在结肠镜检查期间约25%的息肉遗漏率，自动息肉检测和分割对于结肠筛查是非常期望的。然而，这种计算机化仍然是一个未解决的问题，由于各种息肉样结构的结肠和高类间息肉的变化方面的大小，颜色，形状和纹理。在本文中，我们调整掩模R-CNN，并评估其性能与不同的现代卷积神经网络（CNN）作为其特征提取息肉检测和分割。我们通过向训练数据集添加额外的息肉图像来研究每个特征提取器的性能改进，以回答我们是否需要更深，更复杂的CNN或更好的数据集来进行自动息肉检测和分割的训练。最后，我们提出了一个集成的方法，进一步提高性能。我们评估了2015年MICCAI息肉检测数据集的性能。最好的结果是72.59%的召回率，80%的准确率，70.42%的骰子和61.24%的Jaccard。该模型实现了最先进的分割性能。

2019-07-22cs.CVcs.LGeess.IV

结合预训练的CNN特征提取器增强复杂自然图像的聚类

Combining pretrained CNN feature extractors to enhance clustering of complex natural images

Universidade Federal do Rio Grande do Norte（北里奥格兰德联邦大学）；École nationale des Arts et Métiers ParisTech（巴黎国立高等工程技术学院）；University of Washington（华盛顿大学）

最近，解决复杂的无监督图像分类任务的一个共同出发点是使用通用特征，这些特征是通过在大型通用数据集（ImageNet）上预训练的深度卷积神经网络（CNN）提取的。然而，在大多数研究中，用于特征提取的CNN架构是任意选择的，没有理由。本文旨在提供有关使用预训练的CNN特征进行图像聚类（IC）的见解。首先，进行了大量的实验，并表明，对于给定的数据集，特征提取的CNN架构的选择对最终的聚类有巨大的影响。这些实验还表明，对于给定的IC任务，适当的提取器选择是困难的。为了解决这个问题，我们建议将IC问题重新表述为多视图聚类（MVC）问题，该问题将从不同架构中提取的特征视为相同数据的不同“视图”。这种方法基于这样的假设：即使在相同的数据上进行预训练，不同的CNN中包含的信息也可能是互补的。然后，我们提出了一个多输入神经网络架构，训练端到端，有效地解决MVC问题。这种方法在九个自然图像数据集上进行了测试，并为IC产生了最先进的结果。

2021-01-07cs.CVcs.LG

Shrinking unit：一种基于图卷积的类CNN三维点云特征提取器

Shrinking unit: a Graph Convolution-Based Unit for CNN-like 3D Point Cloud Feature Extractors

University of Southampton（南安普顿大学）；Mainz University of Applied Sciences（美因茨应用技术大学）

3D点云由于其高质量的对象表示和高效的获取方法，在建筑、工程和建筑领域引起了越来越多的关注。因此，在文献中已经提出了许多点云特征检测方法来自动化一些工作流程，例如它们的分类或部分分割。然而，点云自动化系统的性能明显落后于其图像同行。虽然这种失败的部分原因是点云的不规则性，非结构性和无序性，这使得点云特征检测的任务比图像更具有挑战性，但我们认为缺乏来自图像领域的灵感可能是造成这种差距的主要原因。事实上，鉴于卷积神经网络（CNN）在图像特征检测方面取得了压倒性的成功，设计它们的点云对应物似乎是合理的，但所提出的方法都与它们非常相似。具体来说，尽管许多方法在点云中推广了卷积操作，但它们未能模拟CNN的多特征检测和池化操作。出于这个原因，我们提出了一个基于图卷积的单元，称为收缩单元，可以垂直和水平堆叠，用于设计类似CNN的3D点云特征提取器。考虑到点云中点之间的自相关性、局部相关性和全局相关性传达了关键的空间几何信息，我们还在特征提取过程中利用它们。我们通过为ModelNet-10基准数据集设计特征提取器模型来评估我们的建议，并实现了90.64%的分类准确率，证明了我们的创新思想是有效的。我们的代码可在github.com/albertotamajo/Shrinking-unit上获得。

2022-09-26cs.CVcs.LG

基于深度CNN的文本提示说话人识别特征提取器

Deep CNN based feature extractor for text-prompted speaker recognition

ITMO University（ITMO大学）；STC-innovations Ltd.（STC创新有限公司）；STC Ltd.（STC有限公司）

深度学习在说话人确认领域仍然不是一个非常常用的工具。我们研究了深度卷积神经网络在文本提示的说话人验证任务中的性能。提示的密码短语被分割成单词状态-即数字-以单独测试每个数字发音。我们训练一个单一的高级特征提取器的所有状态，并使用余弦相似性度量评分。我们网络的关键特征是Max-Feature-Map激活函数，它充当嵌入式特征选择器。通过使用多任务学习方案来训练高级特征提取器，我们能够在质量方面超越经典基线系统，并在这种新手方法中取得了令人印象深刻的结果，在RSR 2015评估集上获得了2.85%的EER。建议和基线系统的融合改善了这一结果。

2018-03-13cs.CLcs.LGcs.SD

POP-CNN：用卷积神经网络预测气味的宜人性

POP-CNN: Predicting Odor's Pleasantness with Convolutional Neural Network

Guangdong University of Technology（广东工业大学）；The Open University of Hong Kong（香港公开大学）

气味宜人性的预测简化了气味的评价，在香料和环境监测行业具有潜在的应用价值。传统的气味宜人度预测算法一般采用人工特征提取和独立分类器。依靠专家的知识和经验手工设计一个好的特征提取器是算法准确性的关键。为了克服这一困难，我们提出了一种基于卷积神经网络的气味宜人度预测模型。在我们的模型中，卷积神经层取代了手动特征提取器，表现出更好的性能。实验结果表明，该模型与人的愉悦度评价的相关性在90%以上。我们的模型在区分绝对令人愉快或不愉快的气味方面具有99.9%的准确性。

2019-03-19cs.LGstat.ML

TCNL：通过嵌入人引导的概念实现透明可控的网络学习

TCNL: Transparent and Controllable Network Learning Via Embedding Human-Guided Concepts

Beijing University of Posts and Telecommunications（北京邮电大学）

解释深度学习模型对于理解人工智能系统、提高安全性和评估公平性至关重要。为了更好地理解和控制CNN模型，已经提出了许多用于可解释性的方法。然而，这些作品中的大多数对于人类的理解来说不太直观，并且对CNN模型的人类控制不足。我们提出了一种新的方法，透明和可控的网络学习（TCNL），以克服这些挑战。为了提高分类的可解释性，TCNL通过对人类直觉的科学研究，为特定的分类任务定义了一些概念，并将概念信息融入到CNN模型中。在TCNL中，浅层特征提取器首先获得初步特征。然后在浅层特征提取器之后建立多个概念特征提取器来学习高维概念表示。鼓励概念特征提取器对与预定义概念相关的信息进行编码。我们还构建了概念映射器，以直观的方式可视化概念提取器提取的特征。TCNL提供了一种可推广的方法来实现可解释性。研究人员可以定义与某些分类任务相对应的概念，并鼓励模型编码特定的概念信息，这在一定程度上提高了CNN模型的可解释性和可控性。我们实验的数据集（包含概念集）也将发布（https：//github.com/bupt-ai-cz/TCNL）。

2022-11-22cs.AIcs.LG

更多相关论文收起更多论文

深度强化学习中冻结的随机CNN特征提取器的涌现稀疏性

Emergent Sparsity in Frozen Random CNN Feature Extractors for Deep Reinforcement Learning

该研究发现，深度强化学习中冻结的随机CNN特征提取器训练的智能体会自发形成稀疏全连接表示，稀疏度随任务复杂度变化，活跃神经元对性能至关重要，还揭示了无显式稀疏机制下的问题有效秩。

2026-07-30cs.AIcs.LGcs.NE

基于Vision Transformer的对抗域适应

Vision Transformer-based Adversarial Domain Adaptation

School of Artificial Intelligence, Jilin University（吉林大学人工智能学院）

本文首次将Vision Transformer（ViT）作为即插即用特征提取器引入对抗域适应，证明其直接替换现有无监督域适应方法中的CNN即可有效提升性能。

2024-04-24cs.CVcs.LG

FixyNN：通过迁移学习实现移动计算机视觉的高效硬件

FixyNN: Efficient Hardware for Mobile Computer Vision via Transfer Learning

Arm ML Research（安谋机器学习研究院）；Arizona State University（亚利桑那州立大学）

基于最先进的卷积神经网络（CNN）图像分类的计算机视觉任务的计算需求远远超过移动设备的能量预算。本文提出了FixyNN，它包括一个固定权重的特征提取器，生成无处不在的CNN功能，和一个传统的可编程CNN加速器，处理特定于网络的CNN。FixyNN的图像分类模型通过迁移学习进行端到端训练，其中公共特征提取器表示迁移部分，并且可编程部分在目标数据集上学习。实验结果表明，FixyNN硬件可以实现非常高的能量效率高达26.6 TOPS/W（$4.81 \times$优于等面积可编程加速器）。在一套六个数据集上，我们通过迁移学习训练模型，$<1\%$的准确性损失高达11.2 TOPS/W -几乎$2 \times$比相同区域的传统可编程CNN加速器更有效。

2019-02-27cs.ARcs.CVcs.LG

基于卷积特征提取器和循环神经网络的大规模视频情感识别

Emotion Recognition on large video dataset based on Convolutional Feature Extractor and Recurrent Neural Network

Innopolis University（Innopolis大学）

多年来，情感识别一直是人机交互领域中最有趣和最重要的问题之一。在这项研究中，我们认为情绪识别任务是一个分类以及回归任务，通过使用深度学习模型处理不同数据集中的编码情绪。我们的模型结合了卷积神经网络（CNN）和递归神经网络（RNN）来预测视频数据上的维度情感。在第一步，CNN从视频帧中提取特征向量。在第二步中，我们将这些特征向量输入训练RNN，以利用视频的时间动态。此外，我们还分析了每个神经网络对系统整体性能的贡献。实验是在公开可用的数据集上进行的，包括最大的现代Aff-Wild 2数据库。它包含超过60小时的视频数据。我们发现了模型在不平衡数据集上的过拟合问题，并使用混淆矩阵进行了说明性示例。该问题通过下采样技术来平衡数据集来解决。通过显著减少训练数据，我们平衡了数据集，从而提高了模型的整体性能。因此，该研究定性地描述了深度学习模型探索足够数量的数据来预测面部情绪的能力。我们提出的方法使用Tensorflow Keras实现。

2020-06-19cs.CVcs.LG

深度特征提取器的数字实现本质上是信息性的

Digital implementations of deep feature extractors are intrinsically informative

Chair for Geometry and Analysis（几何与分析研究所）；RWTH Aachen University（亚琛工业大学）

本文提出了一种统一框架，用于确定深度特征提取器中能量传播速度的上限，并通过不同模型展示了全局指数能量衰减。

2026-01-02cs.CVcs.LGmath.FA

CHAPTER：利用卷积神经网络适配器实现自监督语音模型

CHAPTER: Exploiting Convolutional Neural Network Adapters for Self-supervised Speech Models

National Taiwan University（台湾大学）

自监督学习（SSL）是一种从未标记数据中学习表示的强大技术。基于Transformer的模型，如HuBERT，由特征提取器和Transformer层组成，在语音领域处于领先地位。SSL模型在广泛的下游任务上进行了微调，这涉及到为每个任务重新训练大部分模型。以前的研究已经引入了应用适配器，这是自然语言处理（NLP）中常用的小型轻量级模块，用于使预训练模型适应新任务。然而，这种高效的调谐技术仅在Transformer层提供自适应，而未能在特征提取器处执行自适应。在本文中，我们提出了CHAPTER，一个有效的调整方法，专门为SSL语音模型设计，通过在特征提取器应用CNN适配器。使用这种方法，与完全微调相比，我们只能微调每个任务不到5%的参数，并实现更好，更稳定的性能。我们经验性地发现，将CNN适配器添加到特征提取器可以帮助情感和说话人任务的适应。例如，SID的准确度从87.71提高到91.56，ER的准确度提高了5%。

2023-01-20cs.CLcs.LGcs.SD

基于深度CNN的开集识别多任务学习

Deep CNN-based Multi-task Learning for Open-Set Recognition

Johns Hopkins University（约翰斯·霍普金斯大学）

我们提出了一种新的基于深度卷积神经网络（CNN）的多任务学习方法，用于开集视觉识别。我们将分类器网络和解码器网络与多任务学习框架内的共享特征提取器网络相结合。我们表明，这种方法的结果在更好的开集识别精度。在我们的方法中，从解码器网络的重构误差被用于开集拒绝。此外，我们使用统计极值理论从已知类中建模重建误差分布的尾部，以提高整体性能。在多个图像分类数据集上进行的实验表明，该方法的识别性能明显优于文献中已有的许多有竞争力的开集识别算法。该守则将在github.com/otkupjnoz/mlosr上提供。

2019-03-07cs.CVcs.LG

从用户绘制的图像标记学习CNN过滤器用于椰子树图像分类

Learning CNN filters from user-drawn image markers for coconut-tree image classification

识别航空图像中的树种对于土地利用分类、种植监测和自然灾害影响评估至关重要。航空影像中树木的人工识别方法繁琐、成本高且容易出错，因此自动分类方法是必要的。卷积神经网络（CNN）模型在不同领域的图像分类应用中取得了很好的成功。然而，CNN模型通常需要密集的手动注释来创建大型训练集。可以在概念上将CNN划分为用于特征提取的卷积层和用于特征空间缩减和分类的全连接层。我们提出了一种方法，需要一个最小的用户选择的图像集训练CNN的特征提取器，减少所需的图像的数量，训练完全连接的层。该方法从用户在图像区域中绘制的区分类别的标记中学习每个卷积层的过滤器，从而允许用户更好地控制和理解训练过程。它不依赖于基于反向传播的优化，我们证明了它的优势对最流行的CNN模型之一的椰子树航空图像的二进制分类。

2020-08-27cs.CVcs.LG

Kolmogorov-Arnold网络（KANs）作为基于IMU的人体活动识别特征提取器的初步研究

Initial Investigation of Kolmogorov-Arnold Networks (KANs) as Feature Extractors for IMU Based Human Activity Recognition

German Research Center for Artificial Intelligence（德国人工智能研究中心）；ETH Zurich（苏黎世联邦理工学院）

本研究探索将Kolmogorov-Arnold网络（KANs）作为基于IMU的人体活动识别特征提取器，实现四种架构变体并在四个公开数据集上验证，证实其性能优于CNN提取器且参数效率更高。

2024-06-16cs.ETcs.LGeess.SP

散射网络的分离容量

Separation Capacity of Scattering Networks

ETH Zurich（苏黎世联邦理工学院）

本文通过Cover的函数计数理论，扩展了分离容量的概念，分析了散射网络作为特征提取器的分离容量，并提供了网络设计见解。

2026-07-01cs.ITcs.LGmath.CV

MACE：用于解释图像分类网络的模型无关概念提取器

MACE: Model Agnostic Concept Extractor for Explaining Image Classification Networks

IIT Ropar（印度理工学院罗帕尔分校）

深度卷积网络在各种图像分类任务中非常成功。目前解释预训练模型预测的方法依赖于梯度信息，通常会导致突出图集中在整个前景对象上。然而，人类通常通过解剖图像并指出较小概念的存在来进行推理。最终的输出通常是这些较小概念的存在或不存在的集合。在这项工作中，我们提出了MACE：一个模型不可知的概念提取器，它可以通过更小的概念来解释卷积网络的工作。MACE框架剖析了由卷积网络为图像生成的特征图，以提取基于概念的原型解释。此外，它估计提取的概念与预训练模型预测的相关性，这是解释单个类预测所需的关键方面，在现有方法中缺失。我们使用VGG16和ResNet50 CNN架构以及Animals With Attributes 2（AWA2）和Places365等数据集验证了我们的框架。我们的实验表明，由MACE框架提取的概念增加了人类对解释的可解释性，并且忠实于底层的预训练黑盒模型。

2020-11-03cs.AIcs.CVcs.LG

CNN特性在无监督分类方面也很出色

CNN features are also great at unsupervised classification

Laboratoire des Sciences de l’Information et des Systèmes (CNRS UMR 7296)（信息与系统科学实验室（法国国家科学研究中心 UMR 7296））；Arts et Métiers ParisTech（巴黎高等工艺学院）

本文旨在深入了解深度CNN特征对无监督问题的可转移性。我们研究了不同预训练的CNN特征提取器对图像集聚类问题的影响，以进行对象分类和细粒度分类。我们提出了一个相当简单的管道，使用在ImageNet上预训练的CNN和经典的聚类算法对图像集进行分类，结合深度特征提取。这种方法相比，国家的最先进的图像聚类算法，并提供更好的结果。这些结果加强了这样一种信念，即在大型数据集上对深度CNN进行监督训练，具有很大的类别变化性，即使对于无监督任务，也比大多数精心设计的工程方法提取更好的特征。我们还验证了我们的机器人应用程序的方法，包括在分类和存储对象智能的基础上聚类。

2018-09-11cs.AIcs.CVcs.LG

MIAFEx：一种用于医学图像分类的基于注意力的特征提取方法

MIAFEx: An Attention-based Feature Extraction Method for Medical Image Classification

School of Computer Science and Technology, Zhejiang Gongshang University（计算机科学与技术学院，浙江工商大学）

针对医学图像样本少、类内差异大导致模型过拟合的问题，提出基于注意力和可学习精炼机制的 MIAFEx，以增强 Transformer 分类 token，并在多个复杂数据集上提升准确率与鲁棒性。

2025-09-30cs.CVcs.LG

Efficient Scopeformer：迈向用于颅内出血检测的可扩展且丰富的特征提取

Efficient Scopeformer: Towards Scalable and Rich Feature Extraction for Intracranial Hemorrhage Detection

Rowan University（罗文大学）；Moffitt Cancer Center（莫菲特癌症中心）

提出Efficient Scopeformer多CNN-ViT架构用于颅内出血检测，通过模块化设计、特征投影及多样化预训练策略提升特征丰富度，在大幅减少参数的同时实现96.94%准确率。

2023-02-01cs.CVcs.LGq-bio.QM

EAPCR：一种针对无显式特征关系模式科学数据的通用特征提取器

EAPCR: A Universal Feature Extractor for Scientific Data without Explicit Feature Relation Patterns

Dali University（大理大学）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）；Stony Brook University（石溪大学）；Rutgers University（罗格斯大学）；Chinese Academy of Sciences（中国科学院）

针对无显式特征关系模式的科学数据，提出通用特征提取器EAPCR，其性能优于传统方法和现有深度学习模型，有效弥补了深度学习在此类任务中的不足。

2024-11-12cs.CVcs.LG

使用深度CNN和迁移学习进行年龄和性别预测

Age and Gender Prediction using Deep CNNs and Transfer Learning

Birla Institute of Technology & Science, Pilani - Hyderabad campus（比尔拉技术与科学学院皮拉尼海得拉巴校区）；Birla Institute of Technology & Science, Pilani - Goa campus（比尔拉技术与科学学院皮拉尼果阿校区）；Silver Touch Technologies Limited（银触科技有限公司）

过去的一二十年见证了图像的繁荣。随着相机的日益普及和自拍的出现，世界上可用的面部图像数量激增。因此，人们对使用面部图像自动预测人的年龄和性别越来越感兴趣。我们在本文中专注于这个具有挑战性的问题。具体而言，本文侧重于年龄估计，年龄分类和性别分类从个人的静态面部图像。我们为每个问题训练不同的模型，我们还比较了构建自定义CNN（卷积神经网络）架构和使用各种CNN架构作为特征提取器之间的差异，即在VGGFace上预训练的VGG 16，在VGGFace 2数据集上预训练的Res-Net 50和SE-ResNet 50以及对这些提取的特征进行训练。我们还提供了各种机器学习算法在特征提取上的基线性能，这给了我们最好的结果。据观察，即使是在这种提取的特征上训练的简单线性回归，在年龄估计方面也优于从头开始训练的CNN、ResNet 50和ResNeXt 50。

2021-10-25cs.CVcs.LG

多视觉数据集上自定义CNN、预训练模型和迁移学习的比较研究

A Comparative Study of Custom CNNs, Pre-trained Models, and Transfer Learning Across Multiple Visual Datasets

University of Dhaka（达卡大学）

本文比较了自定义CNN、预训练模型和迁移学习在多个视觉数据集上的性能，发现迁移学习表现最佳，而自定义CNN在资源受限时具有较好的效率-精度平衡。

2026-01-05cs.AIcs.CVcs.LG

基于卷积神经网络的阻塞性睡眠呼吸暂停自动诊断

Automate Obstructive Sleep Apnea Diagnosis Using Convolutional Neural Networks

Wilfird Laurier University（威尔弗里德·劳雷尔大学）

从夜间多导睡眠图（PSG）记录中识别睡眠问题的严重程度在诊断和治疗阻塞性睡眠呼吸暂停（OSA）等睡眠障碍中起着重要作用。这种分析传统上是由专家通过目视检查手动完成的，这可能是繁琐的，耗时的，并且容易出现主观错误。解决方案之一是使用卷积神经网络（CNN），其中卷积和池化层充当特征提取器，并且一些全连接（FCN）层用于对OSA严重性进行最终预测。在本文中，CNN架构与一维卷积和FCN层分类。该项目的PSG数据来自克利夫兰儿童睡眠和健康研究数据库，分类结果证实了所提出的CNN方法的有效性。所提出的一维CNN模型实现了优异的分类结果，而无需手动预处理PSG信号，如特征提取和特征约简。

2020-06-13cs.LGeess.SPstat.ML

基于神经网络空域感知的未分辨空间图像卫星检测

Satellite Detection in Unresolved Space Imagery for Space Domain Awareness Using Neural Networks

Embry-Riddle Aeronautical University（安柏瑞德航空大学）

这项工作利用MobileNetV2卷积神经网络（CNN）快速，移动检测卫星，并拒绝明星，在混乱的未解决的空间图像。首先，使用来自合成卫星图像程序的图像创建自定义数据库，并使用卫星上的边界框标记“卫星阳性”图像。然后在该数据库上训练CNN，并通过在由真实望远镜图像构建的外部数据集上检查模型的准确性来验证推断。在这样做时，训练的CNN提供了一种快速的卫星识别方法，用于随后的地基轨道估计。

2022-07-23cs.CVcs.LG

变工况轴承故障诊断的对抗自适应一维卷积神经网络

Adversarial adaptive 1-D convolutional neural networks for bearing fault diagnosis under varying working condition

China University of Mining and Technology（中国矿业大学）；Xuzhou Medical University（徐州医科大学）

传统的滚动轴承智能故障诊断方法都是基于一个共同的假设，即带标签的训练数据（源域）和未带标签的测试数据（目标域）来自同一个分布。然而，在许多实际应用中，这一假设并不成立，特别是当工作条件变化时。在本文中，一个新的对抗自适应一维CNN称为A2 CNN提出来解决这个问题。A2CNN由源特征提取器、目标特征提取器、标签分类器和域分类器四部分组成。在训练阶段，源和目标特征提取器之间的层被部分解开，以兼顾训练效率和域适应性。实验表明，A2CNN具有较强的故障判别能力和领域不变性，因此在不同的工作条件下都能达到较高的准确率。我们还可视化了学习的特征和网络，以探索我们提出的模型高性能背后的原因。

2018-05-09cs.LGcs.SDeess.AS

利用Patchout Audio Transformers的大规模训练学习通用音频表示

Learning General Audio Representations with Large-Scale Training of Patchout Audio Transformers

Johannes Kepler University（约翰内斯·开普勒大学）

监督式深度学习方法的成功很大程度上归功于它们从原始数据中学习相关特征的能力。在大规模数据集上训练的深度神经网络（DNN）能够捕获各种特征集，并学习一种表示，这种表示可以概括到来自同一领域的看不见的任务和数据集。因此，这些模型可以用作强大的特征提取器，结合较浅的模型作为分类器，用于较小的任务和数据集，其中训练数据的量不足以从头开始学习端到端模型。在过去的几年中，卷积神经网络（CNN）在很大程度上是音频处理的首选方法。然而，最近基于注意力的Transformer模型在监督环境中表现出巨大的潜力，优于CNN。在这项工作中，我们研究了使用在大规模数据集上训练的音频Transformers来学习通用表示。我们研究了这些音频Transformers中的不同设置如何影响其嵌入的质量。在HEAR 2021 NeurIPS挑战评估设置之后，我们对模型的时间分辨率、提取的嵌入水平和感受野进行了实验，以了解它们如何影响各种任务和数据集的性能。我们的研究结果表明，音频Transformers提取的表示优于CNN表示。此外，我们将证明，在Audioset上训练的Transformers可以成为非常有效的表示提取器，用于各种下游任务。

2023-03-02cs.LGcs.SDeess.AS

语音情感识别中利用谐波与冲击分量的增强梅尔频谱图研究

Leveraged Mel spectrograms using Harmonic and Percussive Components in Speech Emotion Recognition

The University of Technology Sydney（悉尼科技大学）；Data Science Institute（数据科学研究所）

本研究首次探究梅尔频谱图的谐波与冲击分量在语音情感识别中的作用，提出含新型特征图生成算法、CNN特征提取器和MLP分类器的架构，结合数据增强构建混合特征图，在Berlin EMO-DB上取得92.79%的准确率，优于此前同类CNN-VGG16方法。

2023-12-18cs.CVcs.HCcs.LG

基于混合深度学习策略的H&E染色肝脏组织病理图像肝细胞癌分级分类

Hybrid deep learning-based strategy for the hepatocellular carcinoma cancer grade classification of H&E stained liver histopathology images

Visvesvaraya National Institute of Technology（维斯瓦拉亚国家理工学院）；AIIMS Nagpur（那格浦尔全印度医学科学研究所）；Indian Institute of Technology Mandi（曼迪印度理工学院）；Universitat de Barcelona（巴塞罗那大学）

针对HCC早期诊断挑战，提出混合深度学习架构，利用迁移学习提取CNN特征并分类，在TCGA和KMC数据库上分别达到100%和96.71%的准确率，较预训练模型提升2%-4%。

2025-02-28cs.CVcs.LGeess.IV

基于图像运动传感器的卷积神经网络用户识别

Convolutional Neural Networks for User Identificationbased on Motion Sensors Represented as Image

University of Bucharest（布加勒斯特大学）

在本文中，我们提出了一种深度学习方法，智能手机用户识别的基础上分析运动信号记录的加速度计和陀螺仪，在一个单一的点击手势由用户在屏幕上执行。我们将来自运动传感器的离散3轴信号转换为灰度图像表示，该灰度图像表示作为输入提供给卷积神经网络（CNN），该卷积神经网络为多类用户分类进行了预训练。在预训练阶段，我们受益于不同的用户和每个用户的多个样本。在预训练之后，我们使用我们的CNN作为特征提取器，生成与屏幕上的每个单击相关联的嵌入。所得到的嵌入用于在Few-Shot用户识别设置中训练支持向量机（SVM）模型，即，在注册阶段期间仅需要在屏幕上敲击20次。我们比较我们的识别系统的基础上CNN功能与两个基线系统，一个采用手工制作的功能，另一个采用递归神经网络（RNN）功能。所有系统都基于相同的分类器，即SVM。为了预训练用于多类用户分类的CNN和RNN模型，我们使用了与用于Few-Shot用户识别的用户集不同的用户集，以确保真实的场景。实验结果表明，我们的CNN模型在多类用户分类中的最高准确率为89.75%，在Few-Shot用户识别中的最高准确率为96.72%。总之，我们相信我们的系统已经准备好用于实际应用，具有比两个基线更好的泛化能力。

2020-03-23cs.LGstat.ML

用于肺结节分类的深度学习

Deep Learning for the Classification of Lung Nodules

The Ohio State University（俄亥俄州立大学）；University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校）；Rensselaer Polytechnic Institute（伦斯勒理工学院）

深度学习作为机器学习的一个新领域，在医学影像领域引起了越来越多的关注。与传统的机器学习方法相比，深度学习不需要手动调整特征提取器，并且在许多视觉对象识别应用中表现出优越的性能。在这项研究中，我们开发了一个深度卷积神经网络（CNN），并将其应用于胸部CT图像的肺结节分类。我们提出了CNN的架构和肺结节的原始图像的分类精度。为了了解肺结节的特征，我们进一步构建了新的数据集，基于人工几何结节和原始图像的一些变换的组合，以及随机结节形状模型。结果发现，单纯的几何结节不能捕捉肺结节的重要特征。

2016-11-26cs.CVcs.LGq-bio.QM

一种有效的说话人日志化度量学习流水线设计

Designing an Effective Metric Learning Pipeline for Speaker Diarization

Arizona State University（亚利桑那州立大学）；Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）

最先进的说话者日志化系统利用来自外部数据的知识，以预先训练的距离度量的形式，来有效地确定相对于看不见的数据的说话者身份。然而，最近的大部分焦点都集中在选择适当的特征提取器上，从预先训练的$i-$向量到通过不同的序列建模架构（例如1D-CNN，LSTM，注意力模型）学习的表示，同时采用现成的度量学习解决方案。在本文中，我们认为，无论特征提取器，它是至关重要的是要仔细设计一个度量学习管道，即损失函数，采样策略和离散的本地边缘参数，建立强大的日志化系统。此外，我们建议采用细粒度的验证过程，以获得度量学习管道的泛化能力的综合评估。为此，我们测量了不同语言使用者的日记化性能，以及录音中使用者数量的变化。使用实证研究，我们提供了有趣的见解不同的设计选择的有效性，并提出建议。

2018-11-01cs.LGcs.SDeess.AS

利用随机森林方法学习与解释卷积神经网络的引力波特征

Learning and Interpreting Gravitational-Wave Features from CNNs with a Random Forest Approach

School of Physics and Astronomy, China West Normal University（物理与天文学院，中国西南师范大学）；International Centre for Theoretical Physics Asia-Pacific (ICTP-AP), University of Chinese Academy of Sciences (UCAS)（亚洲太平洋理论物理中心（ICTP-AP），中国科学院大学）；Taiji Laboratory for Gravitational Wave Universe (Beijing/Hangzhou), University of Chinese Academy of Sciences (UCAS)（引力波宇宙 Taiji 实验室（北京/杭州），中国科学院大学）；Hangzhou Institute for Advanced Study, UCAS（杭州先进研究所，中国科学院大学）；School of Electronic Science and Engineering, Chongqing University of Posts and Telecommunications（电子科学与工程学院，重庆邮电大学）；Institute for Frontiers in Astronomy and Astrophysics, Beijing Normal University（天文与天体物理学前沿研究所，北京师范大学）；School of Physics and Astronomy, Beijing Normal University（物理与天文学院，北京师范大学）

本研究提出CNN与随机森林混合架构，引入方差、信噪比等物理指标提升引力波检测性能与可解释性，灵敏度相对提高21%，并改善低信噪比信号检测。

2025-09-03astro-ph.HEcs.LGgr-qc