GreedyPixel: Fine-Grained Black-Box Adversarial Attack Via Greedy Algorithm
National Institute of Informatics(日本信息学研究所);University of Melbourne(墨尔本大学)
GreedyPixel通过贪心算法实现细粒度黑盒对抗攻击,在保持高精度和稀疏性的同时,有效提升对抗攻击的实用性。
2026-01-15 cs.CR cs.CV cs.LG
Measuring the Data Efficiency of Deep Learning Methods
Ruhr University Bochum(波鸿鲁尔大学)
在本文中,我们提出了一个新的实验协议,并使用它来基准测试两种深度学习算法,卷积神经网络(CNN)和分层信息保持基于图的慢特征分析(HiGSFA)的数据效率-性能作为训练集大小的函数,用于分类和迁移学习场景中的任务。这些算法在MNIST和Omniglot数据集的不同大小的子集上进行训练。HiGSFA优于标准的CNN网络,当模型在每个类别50和200个样本上进行MNIST分类训练时。在其他情况下,CNN表现更好。结果表明,在某些情况下,贪婪的局部最优自下而上学习与全局基于梯度的学习一样或更强大。
2019-07-03 cs.CV cs.LG stat.ML
Interpreting Convolutional Neural Networks Through Compression
University of California, Berkeley(加州大学伯克利分校)
卷积神经网络(CNN)在计算机视觉中的各种任务中实现了最先进的性能。然而,解释CNN仍然是一个挑战。这主要是由于这些网络中有大量的参数。在这里,我们研究了压缩,特别是修剪过滤器在CNN解释中的作用。我们利用我们最近提出的贪婪结构压缩方案,该方案在经过训练的CNN中修剪过滤器。在我们的压缩中,过滤器重要性指数被定义为修剪该过滤器后网络的分类精度降低(CAR)。然后基于CAR索引迭代地修剪滤波器。我们通过展示我们的算法修剪具有视觉冗余模式选择性的过滤器来证明CAR压缩CNN的可解释性。具体来说,我们展示了形状选择性过滤器对对象识别的重要性,而不是颜色选择性过滤器。在AlexNet中的前20个CAR修剪过滤器中,第一层中的17个和第二层中的14个是颜色选择过滤器。最后,我们引入了CAR重要性指数的一个变体,它量化了每个图像类对每个CNN过滤器的重要性。我们发现,最重要和最不重要的类标签提出了一个有意义的解释,每个过滤器是一致的可视化模式选择性的过滤器。
2017-11-07 cs.CV cs.LG stat.ML
Teaching CNNs to mimic Human Visual Cognitive Process & regularise Texture-Shape bias
DTSU Honda Innovation Lab(本田创新实验室)
针对CNN存在纹理偏差、忽略全局形状特征的问题,提出受心理学启发的CognitiveCNN架构及正则化方法,平衡多模态特征影响,提升目标识别的准确率、鲁棒性与可解释性。
2022-01-10 cs.AI cs.CV cs.LG
A Decoupled 3D Facial Shape Model by Adversarial Training
Inria(法国国家信息与自动化研究所);Univ. Grenoble Alpes(格勒诺布尔阿尔卑斯大学);CNRS(法国国家科学研究中心);University of Oxford(牛津大学)
数据驱动的生成3D人脸模型用于将面部形状数据压缩编码为有意义的参数表示。这些模型的一个理想特性是它们能够有效地解耦自然变异源,特别是身份和表达。虽然已经为此目的提出了因子分解表示,但它们仍然限制了它们可以捕获的可变性,并且在应用于诸如表达式传输之类的任务时可能会呈现建模工件。在这项工作中,我们探索了生成对抗网络的新方向,并表明它们有助于更好的人脸建模性能,特别是在解耦自然因素方面,同时还实现了更多样化的样本。为了训练模型,我们引入了一种新的架构,该架构将3D生成器与利用传统CNN的2D生成器相结合,其中两个组件通过几何映射层桥接。我们进一步提出了一个训练方案,辅助分类器的基础上,明确解开身份和表达属性。通过对标准人脸数据集的定量和定性结果,我们说明了我们的模型的好处,并证明它在解耦和多样性方面优于竞争对手的最先进的方法。
2019-09-07 cs.CV cs.LG
Locally Supervised Learning with Periodic Global Guidance
KAIST(韩国科学技术院)
局部监督学习旨在基于网络的每个解耦模块处的全局损失函数的局部估计来训练神经网络。通常将辅助网络附加到模块以基于贪婪局部损失来近似梯度更新。尽管在并行性和减少内存消耗方面具有优势,但这种训练范式严重降低了神经网络的泛化性能。在本文中,我们提出了周期性引导局部学习(PGL),它恢复的全局目标重复到局部损失的神经网络的训练,主要是为了提高模型的泛化能力。我们表明,一个简单的周期性的指导计划产生显着的性能增益,同时具有较低的内存占用。我们在各种数据集和网络上进行了大量的实验,以证明PGL的有效性,特别是在具有许多解耦模块的配置中。
2022-08-01 cs.LG
A Passive Similarity based CNN Filter Pruning for Efficient Acoustic Scene Classification
Centre for Vision, Speech;Signal Processing (CVSSP) University of Surrey, UK
我们提出了一种开发低复杂度卷积神经网络(CNN)用于声学场景分类(ASC)的方法。典型CNN的大尺寸和高计算复杂度是其在资源受限设备上部署的瓶颈。我们提出了一个被动过滤器修剪框架,其中CNN中的一些卷积过滤器被消除以产生压缩的CNN。我们的假设是,类似的过滤器产生类似的响应,并提供冗余的信息,允许这样的过滤器从网络中删除。为了识别相似滤波器,提出了一种基于余弦距离的贪婪算法。然后执行微调过程以恢复由于滤波器消除而损失的大部分性能。为了进行有效的微调,我们分析了性能如何随着微调训练样本数量的变化而变化。建议的框架进行实验评估上公开可用的DCASE 2021任务1A基线网络训练ASC。所提出的方法很简单,每次推理的计算量减少了27%,参数减少了25%,精度下降不到1%。
2022-03-29 cs.AI cs.CC cs.LG
CapsAttacks: Robust and Imperceptible Adversarial Attacks on Capsule Networks
Technische Universität Wien (TU Wien)(维也纳工业大学);Politecnico di Torino (PoliTo)(都灵理工大学)
胶囊网络保留了对象之间的层次空间关系,因此在执行图像分类等任务时,有可能超越传统卷积神经网络(CNN)的性能。大量的工作已经探索了CNN的对抗性例子,但它们在胶囊网络上的有效性还没有得到很好的研究。在我们的工作中,我们进行了分析,研究胶囊网络的弱点,对抗攻击。这些扰动被添加到测试输入中,对人类来说很小且难以察觉,但可以欺骗网络进行错误预测。我们提出了一个贪心算法,在黑盒攻击场景中自动生成有针对性的不可感知的对抗性示例。我们证明,这种攻击,当应用于德国交通标志识别基准(GTSRB),误导胶囊网络。此外,我们将相同类型的对抗攻击应用于5层CNN和9层CNN,并分析结果,与胶囊网络相比,研究它们行为的差异。
2019-05-24 cs.CR cs.CV cs.LG
KernelDNA: Dynamic Kernel Sharing via Decoupled Naive Adapters
Institute of Artificial Intelligence and Robotics(人工智能与机器人研究所)
针对现有动态卷积存在参数开销大、推理速度慢、难以联合优化动态注意力与静态核的问题,提出轻量插件KernelDNA,通过解耦的朴素适配器实现跨层动态核共享,在不改变标准卷积结构的前提下取得了动态卷积中最优的精度-效率平衡。
2025-11-16 cs.AI cs.CV cs.LG
Pruning Convolutional Neural Networks for Resource Efficient Inference
NVIDIA(英伟达)
我们提出了一种新的公式来修剪神经网络中的卷积核,以实现有效的推理。我们交错贪婪的基于标准的修剪与微调反向传播-一个计算效率高的过程,保持良好的泛化修剪网络。我们提出了一个新的标准,泰勒展开的基础上,近似修剪网络参数引起的成本函数的变化。我们专注于迁移学习,其中大型预训练网络适用于专门的任务。与其他标准相比,所提出的标准表现出优越的性能,例如内核权重或特征图激活的范数,用于在适应细粒度分类任务(Birds-200和Flowers-102)后仅依赖于一阶梯度信息来修剪大型CNN。我们还表明,修剪可以导致超过10倍的理论(5倍的实际)减少自适应3D卷积滤波器的准确性在一个小的下降,在一个经常性的手势分类。最后,我们展示了大规模ImageNet数据集的结果,以强调我们方法的灵活性。
2017-06-08 cs.LG stat.ML
Selective Growing Q-Networks (SGQN): An Analysis of Adaptive Action Grids in Decoupled Q-Learning
Albert-Ludwigs-Universität Freiburg(弗赖堡大学)
本文提出选择性增长Q网络(SGQN),在8个DMControl任务上表现优异,分析发现其性能并非源于自适应网格,关键因素为初始粗网格和ε-贪心选择,且对超参数不敏感。
2026-10-14 cs.AI cs.LG
Language Semantics Interpretation with an Interaction-based Recurrent Neural Networks
Columbia University(哥伦比亚大学)
文本分类是自然语言处理中的一项基本语言任务。各种序列模型都能做出很好的预测,但语言语义和预测结果之间缺乏联系。本文提出了一种新的影响分数(I-score),一个贪婪的搜索算法称为向后丢弃算法(BDA),和一个新的特征工程技术称为“匕首技术”。首先,本文提出了一种新的影响分数(I-score)检测和搜索文本文档中的重要语言语义,有助于在文本分类任务中做出良好的预测。接下来,提出了一种称为向后丢弃算法的贪婪搜索算法来处理数据集中的长期依赖关系。此外,本文提出了一种新的工程技术,称为“匕首技术”,充分保留解释变量和响应变量之间的关系。所提出的技术可以进一步推广到任何前馈人工神经网络(ANN)和卷积神经网络(CNN),以及任何神经网络。在互联网电影数据库(IMDB)上的一个实际应用中,所提出的方法被应用于提高预测性能,与其他流行的同行相比,如果I-评分和“匕首技术”没有实现的错误减少了81%。
2021-11-02 cs.CL cs.LG
Neural Decision Trees
Rice University(莱斯大学)
在本文中,我们提出了一个协同融合的神经网络和决策树(DT),我们称之为神经决策树(NDT)。NDT是一种决策树结构,其中每个分裂节点是一个独立的多层感知器,如果使用多个层,则允许斜决策函数或任意非线性决策函数。这样,每个MLP可以被看作树的一个节点。然后,我们表明,与这些单位之间的权重共享asumption,我们最终与散列神经网络(HNN),这是一个多层感知器与sigmoid激活函数的最后一层,而不是标准的softmax。然后,输出单元共同表示在特定区域中的概率。建议的框架允许全局优化,而不是贪婪的DT和微分w.r.t.所有参数和输入,允许轻松集成到任何可学习的管道中,例如在用于计算机视觉任务的CNN之后。我们还展示了HNN的建模能力,允许学习不相交区域的联合以进行最终聚类或分类,使其比需要线性可分性的标准softmax MLP更通用和强大,从而减少了对内层执行复杂数据转换的需求。最后,我们展示了监督,半监督和无监督任务的实验,并将结果与标准DT和MLP进行比较。
2017-03-06 cs.LG stat.ML
Exploiting Heterogeneity in Operational Neural Networks by Synaptic Plasticity
Qatar University(卡塔尔大学);Izmir University of Economics(伊兹密尔经济大学);Aarhus University(奥胡斯大学);Tampere University(坦佩雷大学)
最近提出的网络模型,操作神经网络(ONNs),可以推广传统的卷积神经网络(CNN),只有一个线性神经元模型是同质的。作为异构网络模型,ONN基于广义神经元模型,该广义神经元模型可以封装任何非线性算子集以提高多样性并以最小的网络复杂度和训练数据学习高度复杂和多模态的函数或空间。然而,在ONN中寻找最佳算子的默认搜索方法,即所谓的贪婪迭代搜索(GIS)方法,通常需要几个训练会话才能找到每层的单个算子集。这不仅在计算上要求很高,而且网络的异质性也受到限制,因为同一组运算符将用于每一层中的所有神经元。为了解决这一缺陷,并利用更高水平的异质性,在这项研究中,重点是基于突触可塑性范式,提出了生物神经元的基本学习理论,为网络的隐藏神经元搜索最佳可能的算子集。在训练期间,库中的每个运算符集可以通过它们的突触可塑性水平来评估,从最差到最好进行排名,然后可以使用在每个隐藏层处找到的排名最高的运算符集来配置精英ONN。在高度挑战性问题上的实验结果表明,即使只有很少的神经元和层,精英ONN也可以实现比基于GIS的ONN更好的学习性能,因此与CNN的性能差距进一步扩大。
2020-08-21 cs.LG cs.NE stat.ML
Differentiable Neural Architecture Learning for Efficient Neural Network Design
Jiangnan University(江南大学);University of Jinan(济南大学);University of Surrey(萨里大学)
随着深度卷积神经网络(CNN)的发展,自动化神经网络设计受到了越来越多的关注,尤其是涉及它们在嵌入式和移动平台上的部署。神经架构搜索(NAS)面临的最大问题之一是需要大量候选神经架构来进行训练,例如使用强化学习和进化优化算法,这需要巨大的计算成本。即使是最近的可微分神经架构搜索(DNAS)也基于学习的架构参数的概率分布对少量候选神经架构进行采样,以选择最终的神经架构。为了解决这个计算复杂性的问题,我们引入了一种新的\emph{architecture parameterisation}基于缩放sigmoid函数,并提出了一个通用的\emph{Differentiable Neural Architecture Learning}(DNAL)方法来优化神经网络结构,而不需要评估候选神经网络。具体来说,对于随机超网以及传统的CNN,我们构建了一个新的通道模块层,其架构组件由缩放的sigmoid函数控制。我们从头开始训练这些神经网络模型。将网络优化解耦为权值优化和结构优化。我们解决了非凸优化问题的神经结构的连续缩放sigmoid方法的收敛保证。大量的实验表明,我们的DNAL方法在神经结构搜索成本方面提供了卓越的性能。通过DNAL学习的最佳网络在准确性、模型大小和计算复杂性方面超过了在基准CIFAR-10和ImageNet-1 K数据集上使用最先进方法生成的网络。
2021-03-03 cs.LG
TASO: Time and Space Optimization for Memory-Constrained DNN Inference
Trinity College Dublin(都柏林圣三一学院);University of Edinburgh(爱丁堡大学)
卷积神经网络(CNN)用于许多嵌入式应用,从工业机器人和自动化系统到移动设备上的生物识别。最先进的分类通常是通过大型网络实现的,这些网络在内存和能源预算严格受限的移动和嵌入式设备上运行起来非常昂贵。我们提出了一种基于整数线性规划(ILP)的CNN模型的时域特定优化方法,用于选择原语操作来实现卷积层。我们通过以下方式优化执行时间和内存消耗之间的权衡:1)通过选择数据布局和原语操作来实现每一层,尝试最大限度地减少整个网络的执行时间; 2)分配适当的工作空间,反映每层内存占用的上限。这两种优化策略可用于在任何平台上运行任何CNN,并带有C编译器。我们在ARM Cortex-A15上对一系列流行的ImageNet神经架构(GoogleNet,AlexNet,VGG,ResNet和SqueezeNet)进行了评估,与基于贪心算法的原语选择相比,速度提高了8倍,与仅考虑推理时间的求解器相比,内存需求降低了2.2倍,同时仅牺牲了15%的推理时间。此外,我们的优化方法暴露了一系列的最佳点,不同的配置在帕累托边界的内存和延迟的权衡,这可以在任意的系统约束下使用。
2020-05-21 cs.LG stat.ML
Latent Adversarial Debiasing: Mitigating Collider Bias in Deep Neural Networks
University of Edinburgh(爱丁堡大学);Jagiellonian University(雅盖隆大学)
对撞机偏差是样本选择偏差的一种有害形式,神经网络无法处理。当由于训练数据收集过程,潜在的因果信号与其他混杂信号强烈相关时,这种偏差表现出来。在混淆信号易于学习的情况下,深度神经网络将锁定这一点,由此产生的模型将难以推广到野外测试场景。我们在这里认为,失败的原因是神经网络的深层结构和所使用的贪婪梯度驱动学习过程的结合-一个更喜欢容易计算的信号时,可用的。我们表明,即使在100%的训练数据中存在混杂信号,也可以通过使用潜在对抗性去偏(LAD)生成偏置解耦的训练数据来减轻这种情况。通过在这些对抗性示例上训练神经网络,我们可以提高它们在对撞机偏差设置中的泛化能力。实验显示了LAD在无标记去偏中的最新性能,在背景色MNIST上的增益为76.12%,在前地色MNIST上的增益为35.47%,在损坏的CIFAR-10上的增益为8.27%。
2020-11-19 cs.LG
Theoretical Compression Bounds for Wide Multilayer Perceptrons
MIT(麻省理工学院)
本文提出了一种随机贪心算法,用于宽多层感知机的剪枝和量化,证明了其在保持性能的同时实现网络压缩的理论界限。
2025-12-06 cs.LG math.ST stat.TH
Good Representation, Better Explanation: Role of Convolutional Neural Networks in Transformer-Based Remote Sensing Image Captioning
Department of Computer Science and Engineering(计算机科学与工程系);Indian Institute of Technology, Roorkee(印度理工学院拉胡尔分校);Department of Mechanical Engineering(机械工程系);Indian Institute of Technology, BHU(印度理工学院BHU分校);Department of Information Technology(信息技术系);National Institute of Technology, Srinagar(国家理工学院斯里 Nagar分校)
本文系统评估了十二种CNN编码器在基于Transformer的遥感图像描述中的表现,并结合数值聚类、人工评估和搜索策略分析,证明编码器选择对描述质量具有关键影响。
2025-07-03 cs.CV cs.LG
Self-Organized Operational Neural Networks with Generative Neurons
Qatar University(卡塔尔大学);Izmir University of Economics(伊兹密尔经济大学);Aarhus University(奥胡斯大学);Tampere University(坦佩雷大学)
最近提出了操作神经网络(ONN)以解决传统卷积神经网络(CNN)的众所周知的限制和缺点,诸如具有唯一线性神经元模型的网络同质性。ONN是具有广义神经元模型的异构网络,该广义神经元模型可以封装任何非线性算子集合以提高多样性并以最小的网络复杂度和训练数据学习高度复杂和多模态的函数或空间。然而,贪婪迭代搜索(GIS)方法,这是一种用于在ONN中找到最佳算子的搜索方法,需要许多训练会话才能找到每层的单个算子集。这不仅在计算上要求很高,而且网络的异质性也受到限制,因为同一组运算符将用于每一层中的所有神经元。此外,ONN的性能直接取决于所使用的算子集库,这引入了一定的性能降低的风险,特别是当特定任务所需的最佳算子集从库中缺失时。为了解决这些问题,并实现最终的异质性水平,以提高网络的多样性和计算效率,在这项研究中,我们提出了具有生成神经元的自组织ONNs(Self-ONNs),这些神经元能够在训练过程中适应(优化)每个连接的节点运算符。因此,Self-ONNs可以具有手头的学习问题所需的最大异质性水平。此外,这种能力避免了需要具有固定的运算符集合库和在库内的先前运算符搜索以便找到最佳可能的运算符集合。我们进一步制定了训练方法,通过Self-ONNs的操作层反向传播错误。
2020-04-24 cs.LG eess.SP stat.ML
Decouple Graph Neural Networks: Train Multiple Simple GNNs Simultaneously Instead of One
School of Artificial Intelligence, OPtics and ElectroNics (iOPEN), Northwestern Polytechnical University(西北工业大学光电与人工智能学院);Institute of Artificial Intelligence (TeleAI), China Telecom Corp Ltd(中国电信股份有限公司人工智能研究院)
针对GNN因节点依赖指数增长导致的训练低效问题,提出将其解耦为多个简单模块,结合前向与后向训练机制并行优化,理论上证明误差不累积,实验验证了方法的高效性与合理性能。
2024-04-21 cs.AI cs.LG