Inability of spatial transformations of CNN feature maps to support invariant recognition
KTH Royal Institute of Technology（瑞典皇家理工学院）
本文证明CNN特征图的空间变换无法实现一般仿射变换下的不变性识别，除非特征本身不变，仅对旋转反射在特定网络下有效。
2020-04-30 cs.CV cs.LG
Initialization Matters: On the Benign Overfitting of Two-Layer ReLU CNN with Fully Trainable Layers
Zhejiang University（浙江大学）；University of Michigan（密歇根大学）；University of Hong Kong（香港大学）
本文研究两层完全可训练 ReLU CNN 的良性过拟合，揭示输出层初始化缩放对训练动态的决定作用，并给出近乎匹配的测试误差上下界及 SNR 条件。
2024-10-24 cs.LG stat.ML
Transformer-based Spatial-Temporal Feature Learning for EEG Decoding
South China University of Technology（华南理工大学）
目前，人们通常采用基于卷积神经网络的方法对脑电信号进行解码。然而，CNN在感知全局依赖性方面存在局限性，这对于具有强整体关系的常见EEG范例来说是不够的。针对这个问题，我们提出了一种新的主要依赖于注意力机制的脑电信号解码方法。首先对脑电数据进行预处理和空间滤波。然后对特征通道维度进行注意力变换，使模型能够增强更多的相关空间特征。最关键的一步是在时间维度上对数据进行切片，进行注意力转换，最终获得具有高度可区分性的表示。在这个时候，全局平均池化和一个简单的全连接层被用来分类不同类别的EEG数据。在两个公开数据集上的实验表明，该策略有效地利用了空间和时间特征。在脑电信号的多分类方面，我们已经达到了用较少的参数进行多分类的先进水平。据我们所知，这是第一次提出了一个详细的和完整的方法的基础上的Transformer的想法在这一领域。这对脑机接口的实用化具有很好的促进作用。源代码可以在以下位置找到：\textit{https://github.com/anranknight/EEG-Transformer}。
2021-06-11 cs.AI cs.LG eess.SP
Transforming Credit Risk Analysis: A Time-Series-Driven ResE-BiLSTM Framework for Post-Loan Default Detection
本研究针对贷后违约预测问题，提出结合滑动窗口的时间序列驱动ResE-BiLSTM框架，在Freddie Mac抵押贷款数据集上验证其性能优于多种基线模型，并通过消融实验和SHAP分析验证组件作用与模型可解释性。
2025-08-01 cs.LG
Causal inference using deep neural networks
Carnegie Mellon University（卡内基梅隆大学）
从观测数据中进行因果推断是许多科学领域的核心问题。在这里，我们提出了一个通用的监督深度学习框架，通过将输入向量转换为每对输入的图像表示来推断因果交互。给定一个训练数据集，我们首先构建一个标准化经验概率密度分布（NEPDF）矩阵。然后，我们训练一个卷积神经网络（CNN）的因果关系预测的NEPDF。我们在几个不同的模拟和真实世界的数据上测试了该方法，并将其与先前的因果推理方法进行了比较。正如我们所展示的，该方法是通用的，可以有效地处理非常大的数据集，并改进了以前的方法。
2020-11-25 cs.LG stat.ML
Individual predictions matter: Assessing the effect of data ordering in training fine-tuned CNNs for medical imaging
Columbia University Irving Medical Center（哥伦比亚大学欧文医学中心）；Brown University（布朗大学）
我们使用固定的超参数和50个不同的随机种子重现了CheXNet的结果，以识别胸部X线照片（X线）中的14个发现。由于CheXNet对预训练的DenseNet进行微调，因此随机种子会影响训练数据批次的排序，但不会影响初始化的模型权重。我们发现，在模型运行中，相同X光片的预测存在显著差异（平均ln[（最大概率）/（最小概率）] 2.45，变异系数0.543）。在大型试验集上，这种个体X线片水平的变异性未完全反映在AUC的变异性中。平均10个模型的预测值将变异性降低了近70%（平均变异系数从0.543到0.169，t检验15.96，p值< 0.0001）。我们鼓励研究人员了解CNN的潜在可变性和来自多个模型的集合预测，以最大限度地减少这些模型在临床上部署时这种可变性可能对个体患者护理的影响。
2019-12-08 cs.CV cs.LG eess.IV
Transform-Invariant Convolutional Neural Networks for Image Classification and Search
University of Science and Technology of China（中国科学技术大学）；University of Technology, Sydney（悉尼科技大学）
卷积神经网络（CNN）在许多视觉识别任务上取得了最先进的结果。然而，当前的CNN模型仍然表现出对图像的空间变换不变性的能力差。直觉上，有足够的层和参数，卷积（矩阵乘法和非线性激活）和池化操作的分层组合应该能够学习从变换的输入图像到变换不变表示的鲁棒映射。在本文中，我们提出了在训练阶段随机变换（旋转，缩放和平移）CNN的特征图。这可以防止CNN模型中训练图像的特定旋转、缩放和平移级别的复杂依赖性。相反，每个卷积核学习检测一个特征，该特征通常有助于产生变换不变的答案，因为它的输入特征图的变换级别组合多种多样。通过这种方式，我们不需要对优化过程和训练图像进行任何额外的训练监督或修改。我们发现，随机变换在许多基准任务上提供了CNN的显着改进，包括小规模图像识别，大规模图像识别和图像检索。该代码可在https://github.com/jasonustc/caffe-multigpu/tree/TICNN上获得。
2019-11-28 cs.CV cs.LG eess.IV
A matter of attitude: Focusing on positive and active gradients to boost saliency maps
Ericsson（爱立信）；Comillas Pontifical University（科米利亚斯主教大学）
本文提出通过同时考虑正确类别与其他类别的梯度符号和影响来增强显著性图，从而更准确地识别CNN真正关注的像素并预测遮挡或修改这些像素对分类结果的影响。
2023-09-22 cs.AI cs.LG
MeetSum: Transforming Meeting Transcript Summarization using Transformers!
University of Waterloo（滑铁卢大学）
由于可用于训练神经网络模型的标记数据量有限，因此从会议记录创建抽象摘要已被证明是具有挑战性的。此外，基于transformer的架构已被证明在总结新闻数据方面击败了最先进的模型。在本文中，我们利用一个基于转换器的指针生成器网络来生成会议记录的摘要。该模型使用两个LSTM作为编码器和解码器，一个指针网络从输入的文本中复制单词，一个生成器网络生成词汇表外的单词（因此使摘要抽象）。此外，使用覆盖机制来避免所生成的摘要中的单词重复。首先，我们证明了在新闻摘要数据集上训练模型，并使用零样本学习在会议数据集上测试它，比在AMI会议数据集上训练它产生更好的结果。其次，我们证明了首先在域外数据（如CNN-Dailymail数据集）上训练该模型，然后在AMI会议数据集上进行微调，能够显着提高模型的性能。我们在AMI数据集的测试集上测试了我们的模型，并报告了生成的摘要的ROUGE-2评分，以与以前的文献进行比较。我们还报告了我们的摘要的事实得分，因为它是抽象摘要的更好基准，因为ROUGE-2得分仅限于测量单词重叠。我们表明，我们的改进模型是能够提高以前的模型至少5个ROUGE-2分数，这是一个实质性的改进。此外，对我们的模型生成的摘要的定性分析表明，这些摘要是人类可读的，并且确实从成绩单中捕获了大部分重要信息。
2021-08-13 cs.CL cs.LG
Inertial Sensor Data To Image Encoding For Human Action Recognition
卷积神经网络（CNN）是计算机视觉领域中成功的深度学习模型。为了最大限度地发挥CNN模型在惯性传感器数据人体动作识别中的优势，本文采用4种空间域方法将惯性传感器数据转换为活动图像，并将其应用于一种新的融合框架中。这四种类型的活动图像是信号图像（SI），Gramian角场（GAF）图像，马尔可夫转移场（MTF）图像和递归图（RP）图像。此外，为了创建一个多模态融合框架，并利用活动图像，我们使每种类型的活动图像的多模态卷积与两个空间域滤波器：Prewitt滤波器和High-boost滤波器。Resnet-18是一种CNN模型，用于从多模态中学习深度特征。从每个ReNet的最后一个池层中提取学习特征，然后通过基于典型相关的融合（CCF）进行融合，以提高人体动作识别的准确性。这些高度信息化的特征被用作多类支持向量机（SVM）的输入。三个公开的惯性数据集上的实验结果表明，所提出的方法优于当前国家的最先进的。
2021-05-28 cs.CV cs.HC cs.LG
A hybrid deep learning framework for integrated segmentation and registration: evaluation on longitudinal white matter tract changes
Northeastern University（东北大学）；Erasmus MC（伊拉斯姆斯医学中心）；Delft University of Technology（代尔夫特理工大学）
为了准确分析纵向成像研究中解剖结构的变化，需要在多个时间点上进行一致的分割。现有的解决方案通常涉及独立的配准和分割组件。时间点之间的配准被用作后续时间点中的分割的先验或在公共空间中执行分割。在这项工作中，我们提出了一种新的混合卷积神经网络（CNN），它将分割和注册集成到一个单一的过程。我们假设联合优化导致这两项任务的性能提高。混合CNN通过最小化由四个不同项组成的综合损失函数、测量分割精度、配准图像之间的相似性、变形场平滑度和分割一致性来训练。我们应用这种方法来分割白质束，描述功能分组轴突纤维，使用N=8045纵向脑MRI数据的3249个人。所提出的方法进行了比较，两个多级管道使用两个现有的分割方法与传统的变形配准算法相结合。此外，我们分别评估了分割和配准联合优化的附加值。混合CNN比多级管道产生了更高的准确性，一致性和可重复性，并且速度快了几个数量级。因此，我们希望它可以作为一种新的工具，以支持临床和流行病学分析，了解随着时间的推移大脑微观结构的变化。
2019-08-26 cs.CV cs.LG eess.IV
Caching as an Image Characterization Problem using Deep Convolutional Neural Networks
King's College London（伦敦国王学院）
本文提出将缓存优化问题转化为灰度图像，利用卷积神经网络预测最优缓存位置，相比随机贪婪算法性能提升超400%，实现实时高质量决策。
2020-04-01 cs.LG cs.NI cs.SI
Understanding when spatial transformer networks do not support invariance, and what to do about it
KTH Royal Institute of Technology（瑞典皇家理工学院）
该研究指出空间变换网络（STNs）变换CNN特征图时无法支持不变性并会降低分类准确率，提出与分类网络共享参数的深层定位网络架构以提升复杂数据集分类精度，还探究了定位网络复杂度与迭代图像对齐的相互作用。
2021-05-18 cs.CV cs.LG
B-cosification: Transforming Deep Neural Networks to be Inherently Interpretable
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；RTG Neuroexplicit Models of Language, Vision, and Action（RTG语言、视觉与行动的神经显式模型研究组）；Kyutai
本文提出 B-cosification 方法，将现有预训练深度神经网络转化为内在可解释模型，在保持甚至提升分类性能与零样本能力的同时大幅降低训练成本。
2025-01-24 cs.AI cs.CV cs.LG
Sampling Matters: The Effect of ECG Frequency on Deep Learning-Based Atrial Fibrillation Detection
Oslo Metropolitan University, Norway（奥斯陆 Metropolitan 大学，挪威）；University of Copenhagen, Denmark（哥本哈根大学，丹麦）；SimulaMet, Norway（SimulaMet，挪威）
研究探讨了ECG采样频率对深度学习模型性能的影响，发现混合CNN-LSTM模型在中等频率下表现最佳，而CNN模型在高频率下性能下降，表明需考虑采样频率对临床可靠性的影响。
2026-04-06 cs.AI cs.LG eess.SP
Detecting Attacks on IoT Devices using Featureless 1D-CNN
University of Delaware（特拉华大学）
在过去，深度学习的推广帮助我们解决了网络安全领域的恶意软件识别和异常检测等挑战。然而，尽管它很有效，但内存和处理能力的稀缺使得在物联网（IoT）设备中执行这些任务变得困难。本研究通过贬低机器学习技术中对特征工程和后续处理的需求，找到了一种摆脱这一瓶颈的简单方法。在这项研究中，我们引入了一个无障碍的机器学习过程来执行异常检测。它使用未处理的数据包字节流作为训练数据。无障碍机器学习实现了对网络流量的低成本和低存储器时间序列分析。它得益于消除了对主题专家的大量投资和特征工程所需的时间。
2021-09-09 cs.CR cs.LG
Avoiding Overfitting: A Survey on Regularization Methods for Convolutional Neural Networks
Federal Institute of São Carlos - UFSCar（圣卡洛斯联邦学院）；São Paulo State University - UNESP（圣保罗州立大学）
使用卷积神经网络（CNN）已经显著改进了若干图像处理任务，例如图像分类和目标检测。与ResNet和EfficientNet一样，许多架构在创建时至少在一个数据集上取得了出色的结果。训练中的一个关键因素是网络的正则化，这可以防止结构过度拟合。这项工作分析了过去几年开发的几种正则化方法，显示了不同CNN模型的显着改进。这些工作被分为三个主要领域：第一个被称为“数据增强“，其中所有的技术都集中在执行输入数据的变化。第二种称为“内部变化”，旨在描述修改由神经网络或内核生成的特征图的过程。最后一个称为“标签”，涉及转换给定输入的标签。这项工作提出了两个主要区别与其他可用的调查有关正规化：（i）第一个关注的论文收集在手稿中，这是不超过五年，（ii）第二个区别是关于可重复性，即，这里提到的所有作品都在公共存储库中提供了代码，或者它们已经直接在一些框架中实现，例如TensorFlow或Torch。
2022-01-10 cs.CV cs.LG
GDP nowcasting with artificial neural networks: How much does long-term memory matter?
Budapest University of Technology and Economics（布达佩斯技术大学和经济学院）
本文研究了人工神经网络在GDP现在预测中的应用，发现1D CNN在预测准确性上表现最佳，尤其在包含疫情衰退期的评估中表现更优。
2025-01-04 cs.AI cs.LG econ.EM
Merging Subject Matter Expertise and Deep Convolutional Neural Network for State-Based Online Machine-Part Interaction Classification
University of Michigan（密歇根大学）
机器零件交互分类是信息物理系统（CPS）所需的关键能力，是智能制造（SM）的关键使能器。虽然以前的相关研究主要集中在时间序列分类，但变化点检测同样重要，因为它提供了机器行为变化的时间信息。在这项工作中，我们解决了点检测和时间序列分类与深度卷积神经网络（CNN）为基础的框架的机器部件的相互作用。该框架中的CNN利用两级编码器-分类器结构来实现CPS的高效特征表示和方便的部署定制。虽然是数据驱动的，但框架的设计和优化是由主题专家（SME）指导的。SME定义的有限状态机（FSM）被纳入框架，以防止间歇性的错误分类。在案例研究中，我们实现了框架，在铣床上进行机器零件交互分类，并使用测试数据集和部署模拟的性能进行评估。该实现在测试数据集上实现了0.946的平均F1分数，在部署模拟上实现了0.24秒的平均延迟。
2021-12-08 cs.LG cs.SY eess.SP
Unsupervised Domain Adaptation via CycleGAN for White Matter Hyperintensity Segmentation in Multicenter MR Images
Universidad de Buenos Aires（布宜诺斯艾利斯大学）；Universidad Nacional del Litoral（国立滨海大学）
磁共振图像中白质高信号的自动分割具有重要的临床和研究意义。这些病变的定量可作为中风、痴呆和死亡风险的预测因子。在过去的几年中，专门为生物医学图像分割定制的卷积神经网络（CNN）在这项任务中的表现优于所有以前的技术。然而，它们非常依赖数据，并且只有当训练和测试数据集之间的数据分布保持不变时才能保持良好的性能。当这样的分布改变但我们仍然旨在执行相同的任务时，我们会遇到域适应问题（例如，使用不同的MR机器或不同的采集参数用于训练和测试数据）。在这项工作中，我们探索使用周期一致性对抗网络（CycleGAN）对具有脑病变的多中心MR图像进行无监督域自适应。我们的目标是学习一个映射函数来转换域之间的体积MR图像，其特征在于不同的医疗中心和MR机器具有不同的品牌，型号和配置参数。我们的实验表明，CycleGAN允许我们减少MR域之间的Jensen-Shannon分歧，从而在没有标记数据的域上使用CNN模型进行自动分割。
2020-09-10 cs.CV cs.LG eess.IV
Automated airway segmentation by learning graphical structure
University College London（伦敦大学学院）
本课题在已有的卷积神经网络（CNN）和图神经网络（GNN）的基础上，提出了一种改进的气道分割方法。该方法起源于血管分割，但我们对其进行了改进，使新模型能够更好地处理计算机断层扫描（CT）数据集。目前的气道分割方法只考虑规则网格。无论详细模型是什么，包括三维CNN还是三个方向上的二维CNN，都没有考虑整体图结构。在该模型中，考虑了气道的邻域，结合了图的结构，与传统的CNN方法相比，改善了气道的分割。我们在胸部CT扫描上进行实验，其中地面真值分割标签是手动产生的。实验结果表明，与仅使用CNN的方法相比，CNN和GNN相结合的方法具有更好的性能，在大多数情况下可以检测到胸部CT扫描中的支气管。此外，我们提出的模型具有广泛的扩展性，因为该架构在其他数据集中实现类似目标时也是实用的。因此，国家的最先进的模式是非常重要的意义和高度适用于我们的日常生活。关键词：气道分割，卷积神经网络，图神经网络
2021-09-30 cs.CV cs.LG eess.IV
Decomposing 3D Neuroimaging into 2+1D Processing for Schizophrenia Recognition
Nanyang Technological University（南洋理工大学）；NTU Institute for Health Technologies（南洋理工大学健康技术研究所）；National University of Singapore（新加坡国立大学）；Yong Loo Lin School of Medicine（杨潞龄医学院）；Institute of Mental Health (IMH)（心理健康研究所（IMH））
深度学习已成功应用于识别自然图像和医学图像。然而，在识别3D神经成像数据方面仍然存在差距，特别是对于精神分裂症和抑郁症等精神疾病，这些疾病在特定切片中没有可见的变化。在这项研究中，我们建议通过2+1D框架处理3D数据，以便我们可以利用强大的深度2D卷积神经网络（CNN）网络，该网络在巨大的ImageNet数据集上进行预训练，用于3D神经成像识别。具体而言，磁共振成像（MRI）指标（灰质、白质和脑脊液）的3D体积根据相邻体素位置被分解为2D切片，并输入到在ImageNet上预训练的2D CNN模型中，以从三个视图（轴向、冠状和矢状）中提取特征图。由于激活模式稀疏地分布在特征图上，因此应用全局池化来去除冗余信息。提出了逐层卷积和逐层卷积来聚合2D CNN模型未处理的第三视图维度中的上下文信息。多尺度和多视角信息融合的最终预测。我们的方法优于手工制作的基于特征的机器学习，支持向量机（SVM）分类器和从头开始训练的3D CNN模型的深度特征方法，在公开的西北大学精神分裂症数据集上具有更好的交叉验证结果，并且结果在另一个独立的数据集上复制。
2022-11-22 cs.CV cs.LG eess.IV
Initialization Matters: Unraveling the Impact of Pre-Training on Federated Learning
Carnegie Mellon University（卡内基梅隆大学）；Google Research（谷歌研究院）
本文针对联邦学习中数据异构性问题，从理论层面分析预训练初始化的作用，引入对齐与未对齐滤波器概念，通过实验验证预训练能减少未对齐滤波器以提升模型测试性能。
2025-02-11 cs.DC cs.LG
An artificial neural network-based system for detecting machine failures using tiny sound data: A case study
STC Research Centre（STC研究中心）；Mid Sweden University（中瑞典大学）
为了倡导基于深度学习的机器故障检测系统的研究，我们提出了一个基于微小声音数据集的系统的案例研究。我们的案例研究调查了一个变分自编码器（VAE），用于增强来自Valmet AB的小钻声数据集。Valmet数据集包含134种声音，分为两类：“异常”和“正常”，记录自Valmet AB的钻孔机，Valmet AB是一家位于瑞典松兹瓦尔的公司，为生物燃料生产提供设备和工艺。使用深度学习模型来检测这样一个小的声音数据集上的失败训练通常是不成功的。我们采用了VAE，通过从原始声音合成新声音来增加微小数据集中的声音数量。通过将这些合成声音与原始声音相结合来创建增强数据集。我们使用通带频率为1000 Hz的高通滤波器和通带频率为22 \kern 0.16667 em 000 Hz的低通滤波器对增强数据集中的声音进行预处理，然后将其转换为Mel频谱图。然后使用这些Mel频谱图训练预训练的2D-CNN Alexnet。与使用原始的微小声音数据集来训练预训练的Alexnet相比，使用增强的声音数据集将CNN模型的分类结果提高了6.62%（在增强的数据集上训练时为94.12%，在原始数据集上训练时为87.5%）。
2022-09-23 cs.LG cs.SD eess.AS
