Exploring the Potentials of Spiking Neural Networks for Image Deraining
本文提出视觉泄漏积分神经元和多尺度模块，利用脉冲神经网络在低级视觉任务中实现高效去雨，以13%的能量消耗超越现有方法。
2026-01-18 cs.CV
Exploring the high dimensional geometry of HSI features
University of Maryland, College Park（马里兰大学帕克分校）；Courant Institute of Mathematical Sciences, New York University（纽约大学库朗数学科学研究所）
我们探索特征空间几何形状诱导的3-D傅立叶散射变换和深神经网络扩展属性配置文件上的四个标准的高光谱图像。我们研究的距离和角度的类的手段，类的可变性，以及它们的低维结构。将这些统计数据与原始特征进行比较，我们的结果提供了对这两种方法截然不同的特性的深入了解。我们还探索了与新观察到的神经崩溃的深度学习现象的联系。
2021-03-01 cs.CV
Exploring Active Learning for Label-Efficient Training of Semantic Neural Radiance Field
Institute for Infocomm Research (I 2 R), A*STAR, Singapore（信息通信研究所（I 2 R），A*STAR，新加坡）；Nanyang Technological University, Singapore（南洋理工大学，新加坡）
本文研究语义 NeRF 像素级标签昂贵的问题，系统比较主动学习的选择粒度与策略，并提出融合三维几何约束的样本选择方法，使标注成本较随机采样降低逾2倍。
2025-07-23 cs.CV
Latent hypernet: Exploring all Layers from Convolutional Neural Networks
Universidade Federal de Minas Gerais（米纳斯吉拉斯联邦大学）
由于卷积神经网络（ConvNets）能够同时学习特征和分类器来区分不同类别的活动，最近的工作采用ConvNets方法来执行基于可穿戴传感器的人类活动识别（HAR），从而允许去除昂贵的人工工作和专家知识。然而，这些方法的辨别能力主要受到组成网络的大量参数和可用于训练的样本数量减少的限制。受此启发，我们提出了一种准确而强大的方法，称为潜在超网络（LHN）。LHN使用来自早期层（hyper）的特征映射，并将它们单独投影到低维空间（latent）。然后，这些潜在特征被连接并呈现给分类器。为了证明LHN的鲁棒性和准确性，我们使用四种不同的网络架构在五个公开的HAR数据集的基础上可穿戴传感器，不同的采样率和活动的数量进行评估。我们的实验表明，所提出的LHN能够产生丰富的信息，改善了原始ConvNets的结果。此外，该方法优于现有的最先进的方法。
2018-11-16 cs.CV
Exploring Accurate 3D Phenotyping in Greenhouse through Neural Radiance Fields
Guangdong Academic of Agriculture Science（广东省农业科学院）；College of Engineering, South China Agriculture University（华南农业大学工程学院）；Department of Mechanical and Aerospace Engineering, Monash University（莫纳什大学机械与航空航天工程学院）
本研究利用神经辐射场（NeRF）实现温室辣椒植株的精确原位3D表型分析，实验显示其与三维扫描方法精度相当（平均距离误差0.865mm），且具有更好的可扩展性和鲁棒性。
2024-03-28 cs.CV
Exploring the Neural Algorithm of Artistic Style
École normale supérieure de Cachan（卡尚高等师范学院）
本文探讨了Leon A. Gatys，Alexander S. Ecker and Matthias Bethge（arXiv：1508.06576）.我们首先通过几个例子来展示建议样式空间的强大功能。然后，我们改变了不同的超参数和程序属性，这些属性在原始论文中没有讨论，其中包括使用的识别网络，梯度下降的起点以及划分风格和内容层的不同方法。我们还简要比较了一些现有的算法实现和使用的深度学习框架。为了进一步研究风格空间，我们尝试通过最大化一个Gram矩阵$\mathcal{G}_l$中的单个条目来生成合成图像，并观察到一些有趣的结果。接下来，我们尝试模拟从真实绘画中获得的Gram矩阵的稀疏度和强度分布，并生成更复杂的纹理。最后，我们提出了两个新的风格表示建立在网络的功能，并讨论如何可以用来实现本地和潜在的内容感知的风格转移。
2016-03-13 cs.CV
Exploring Seasonal Variability in the Context of Neural Radiance Fields for 3D Reconstruction on Satellite Imagery
Maxar International Sweden AB（马克萨尔国际瑞典公司）；AI Sweden（瑞典人工智能研究院）；Linköping University（林雪平大学）
本研究提出Planet-NeRF，通过月份嵌入向量扩展Sat-NeRF，以捕捉卫星影像中的季节变化，实验证明其在季节变化场景下优于现有模型。
2024-11-05 cs.CV
Exploring Temporal Differences in 3D Convolutional Neural Networks
IIT Gandhinagar（甘地讷格尔印度理工学院）
传统的3D卷积是计算昂贵的，内存密集型的，并且由于大量的参数，它们往往倾向于过拟合。另一方面，2D CNN比3D CNN计算成本更低，内存密集度更低，并且在图像分类和对象识别等应用中显示出显着的效果。然而，在以前的工作中，已经观察到它们在应用于时空输入时不如3D CNN。在这项工作中，我们提出了一个卷积块，它通过执行2D卷积来提取空间信息，并通过利用时间差来提取时间信息，即，在不同时间实例的空间信息的变化，使用简单的移位、减法和加法操作，而不利用任何可训练的参数。所提出的卷积块具有与大小为nxn的2D卷积核相同数量的参数，即n^2，并且具有比nxn xn 3D卷积核小n倍的参数。我们表明，当3D卷积核被建议的卷积块取代时，3D CNN的性能更好。我们在UCF101和ModelNet数据集上评估了所提出的卷积块。
2019-09-07 cs.CV
Exploring The Visual Feature Space for Multimodal Neural Decoding
University of Cambridge（剑桥大学）
针对现有脑解码缺乏细节的问题，提出零样本多模态解码方法，利用MLLM视觉特征空间，并构建MG-BrainDub基准，提升解码精度。
2025-05-21 cs.CV
NeuralDivergence: Exploring and Understanding Neural Networks by Comparing Activation Distributions
Georgia Institute of Technology（佐治亚理工学院）
随着深度神经网络越来越多地用于解决高风险问题，迫切需要了解其内部决策机制。可视化通过帮助解释复杂的深层神经网络来帮助解决这个问题。然而，当前的工具通常只支持单个数据实例，或者孤立地可视化层。我们介绍了NeuralDivergence，一个交互式可视化系统，它使用激活分布作为模型学习的高级摘要。NeuralDivergence使用户能够交互式地总结和比较跨层、类和实例的激活分布（例如，对抗攻击和良性图像对），帮助他们更好地理解神经网络模型。
2019-06-02 cs.CV cs.LG
Exploring Explainability Methods for Graph Neural Networks
IIT Gandhinagar（印度理工学院甘地纳加尔分校）
随着深度学习方法，特别是编码复杂互联信息的图神经网络在各种实际任务中的使用越来越多，在这种情况下需要解释性。在本文中，我们证明了流行的可解释性方法的适用性图注意力网络（GAT）的基于图形的超像素图像分类任务。我们评估了这些技术在三个不同数据集上的定性和定量性能，并描述了我们的研究结果。这些结果为GNN，特别是GAT中的可解释性概念提供了新的视角。
2022-11-03 cs.CV cs.LG
Exploring Randomly Wired Neural Networks for Image Recognition
Facebook AI Research (FAIR)（Facebook人工智能研究院（FAIR））
用于图像识别的神经网络已经通过大量的人工设计从简单的链状模型发展到具有多个布线路径的结构。ResNets和DenseNets的成功在很大程度上归功于他们创新的布线计划。目前，神经结构搜索（NAS）研究正在探索布线和操作类型的联合优化，然而，可能的布线的空间受到限制，尽管被搜索，但仍然由手动设计驱动。在本文中，我们通过随机连接的神经网络的镜头探索了一组更多样化的连接模式。为此，我们首先定义了随机网络生成器的概念，它封装了整个网络生成过程。封装提供了NAS和随机有线网络的统一视图。然后，我们使用三个经典的随机图模型来生成网络的随机连接图。结果令人惊讶：这些随机生成器的几种变体产生的网络实例在ImageNet基准测试中具有竞争力的准确性。这些结果表明，新的努力集中在设计更好的网络生成器可能会导致新的突破，探索更少的限制搜索空间与更多的空间，新颖的设计。
2019-04-08 cs.CV cs.LG
Expresso : A user-friendly GUI for Designing, Training and Exploring Convolutional Neural Networks
Supercomputer Education and Research Centre（超级计算机教育与研究中心）；Indian Institute of Science（印度科学学院）
为了给设计、训练和开发深度学习框架提供一个用户友好的界面，我们开发了Experiment，一个用Python编写的GUI工具。Experiment建立在Caffe之上，Caffe是一个开源的获奖框架，广泛用于开发卷积神经网络。Experiment提供了一个方便的向导式图形界面，引导用户完成各种常见场景-数据导入，深度网络的构建和训练，执行各种实验，分析和可视化这些实验的结果。Example的多线程特性支持并发执行和与上述场景相关的事件通知。Experiment中的GUI子组件和组件间接口在设计时考虑了可扩展性。我们相信Experiment的灵活性和易用性将为研究人员，新手和经验丰富的人，在他们与深度学习相关的探索中派上用场。
2015-10-18 cs.CV cs.NE
Exploring Polarimetric Properties Preservation during Reconstruction of PolSAR images using Complex-valued Convolutional Neural Networks
Université de Lorraine（洛林大学）；CentraleSupélec（中央超导学院）；CNRS（国家科学研究中心）；LORIA（洛林研究所）；Metz, France（法国梅斯）
本文提出复值卷积神经网络用于极化SAR图像重建，有效保持极化特性并提升SAR数据处理的物理建模能力。
2026-02-06 cs.CV eess.IV
Exploring the Design Space of Deep Convolutional Neural Networks at Large Scale
University of California, Berkeley（加州大学伯克利分校）
近年来，研究界发现，深度神经网络（DNN）和卷积神经网络（CNN）可以产生比以前所有解决广泛机器学习问题的解决方案更高的准确性。据我们所知，没有单一的CNN/DNN架构可以最佳地解决所有问题。相反，“正确的”CNN/DNN架构取决于手头的应用。CNN/DNN包括巨大的设计空间。定量地，我们发现CNN设计空间的一个小区域包含300亿个不同的CNN架构。在本论文中，我们开发了一种方法，使CNN的设计空间的系统探索。我们的方法包括以下四个主题。1.明智地选择基准和指标。2.快速训练CNN模型。3.定义和描述CNN设计空间。4.探索CNN架构的设计空间。综合起来，这四个主题构成了一个有效的方法，用于发现“正确的”CNN架构，以满足实际应用的需求。
2016-12-20 cs.CV cs.LG cs.NE
BSQ: Exploring Bit-Level Sparsity for Mixed-Precision Neural Network Quantization
Duke University（杜克大学）
混合精度量化可以潜在地实现深度神经网络的性能和压缩率之间的最佳折衷，因此已经被广泛研究。然而，它缺乏一个系统的方法来确定确切的量化方案。以前的方法要么只检查小的手动设计的搜索空间，要么利用繁琐的神经架构搜索来探索广阔的搜索空间。这些方法不能有效地导致最佳量化方案。本文从引入比特级稀疏性的角度提出了比特级稀疏量化（BSQ）来解决混合精度量化问题。我们考虑量化权重的每一位作为一个独立的可训练变量，并引入了一个可微的位稀疏正则化。BSQ可以在一组权值元素上引入全零位，实现动态精度降低，从而得到原模型的混合精度量化方案。我们的方法可以通过一个基于梯度的优化过程来探索完整的混合精度空间，只有一个超参数来权衡性能和压缩。与以前的方法相比，BSQ在CIFAR-10和ImageNet数据集上的各种模型架构上实现了更高的准确性和更高的比特减少。
2021-02-20 cs.CV cs.LG
Metric as Transform: Exploring beyond Affine Transform for Interpretable Neural Network
本文提出用度量变换替代仿射变换构建神经网络，在保持相近性能的同时提升可解释性，并基于局部字典网络实现对对抗样本的理解与拒绝。
2024-10-21 cs.CV cs.LG cs.NE
Exploring Structural Sparsity in Neural Image Compression
Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））；PengCheng Laboratory（鹏城实验室）
神经图像压缩已经达到或超过了传统的压缩方法（如JPEG、BPG、WebP）。然而，它们复杂的级联卷积层网络结构给实际部署带来了沉重的计算负担。本文探讨神经图像压缩网路中的结构稀疏性，以获得即时的加速，而不需任何专门的硬体设计或演算法。我们提出了一个简单的插件自适应二进制通道掩蔽（ABCM）来判断每个卷积通道的重要性，并在训练过程中引入稀疏性。在推理过程中，不重要的通道被修剪，以获得更苗条的网络和更少的计算。将该方法应用于三个不同熵模型的图像压缩神经网络中，实验结果表明，该方法在性能下降不明显的情况下，计算量减少了7倍，速度提高了3倍.
2022-03-11 cs.CV cs.LG eess.IV
Exploring The Spatial Reasoning Ability of Neural Models in Human IQ Tests
Korea University（高丽大学）；NAVER；KAIST（韩国科学技术院）
尽管神经模型在图像识别和问答等各种任务上表现出色，但只有少数研究测量了它们的推理能力。在这项工作中，我们专注于空间推理和探索神经模型的空间理解。首先，我们描述了以下两个空间推理智商测试：旋转和形状组成。使用定义良好的规则，我们构建了由各种复杂程度组成的数据集。我们在泛化方面设计了各种实验，并在新生成的数据集上评估了六种不同的基线模型。我们提供了一个分析的结果和影响模型的泛化能力的因素。此外，我们分析了神经模型如何解决视觉辅助空间推理测试。我们的发现将为理解机器以及机器与人类之间的差异提供有价值的见解。
2020-04-11 cs.AI cs.CV cs.LG
Exploring ensembles and uncertainty minimization in denoising networks
École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）
神经网络的发展极大地提高了各种计算机视觉任务的性能。在图像去噪领域，基于卷积神经网络的方法如DnCNN突破了经典方法的局限性，取得了较好的定量效果。然而，神经网络中存在的认知不确定性限制了其在去噪任务上性能的进一步提高。因此，我们开发和研究不同的解决方案，以最大限度地减少不确定性，并进一步提高噪声的去除。从集成学习的角度来看，我们从空间域和频域的角度对噪声图像进行操作，然后使用预先训练的去噪网络对它们进行去噪。我们提出了一个融合模型，由两个注意力模块，重点是分配适当的权重像素和通道。实验结果表明，我们的模型在常规预训练去噪网络的基线之上实现了更好的性能。
2021-01-24 cs.CV eess.IV
Exploring Novel Pooling Strategies for Edge Preserved Feature Maps in Convolutional Neural Networks
National Institute of Technology Trichy（特里奇国家理工学院）；Indian Institute of Technology Palakkad（帕拉卡德印度理工学院）
随着抗锯齿卷积神经网络（CNN）的引入，重新审视CNN中池化的方式已经有了一些复苏。抗混叠CNN的基本构建块是在池化操作之前应用高斯平滑，以减少由于混叠引起的失真，从而使CNN平移不变。基于小波的方法也被提出作为额外的噪声去除能力的可能性，并给出了有趣的结果，甚至分割任务。然而，所有提出的方法都是在假设高频成分是噪声的情况下完全去除高频成分。然而，通过去除高频分量，特征图中的边缘也被平滑。在这项工作中，一个详尽的分析的边缘保留池的分类，分割和自动编码器的选项。提出了两种新的池化方法，如拉普拉斯-高斯注意力级联（LGCA）池化和基于小波的近似细节系数注意力级联（WADCA）池化。结果表明，所提出的池化方法优于传统的池化以及模糊池化的分类，分割和自动编码器。
2021-10-17 cs.CV eess.IV
Exploring Deep Spiking Neural Networks for Automated Driving Applications
Valeo（法雷奥）；Heilbronn University（海尔布隆大学）
神经网络已成为自动驾驶中各种计算机视觉任务的标准模型，包括语义分割，运动目标检测，深度估计，视觉里程计等。常用的神经网络的主要类型是卷积（CNN）和递归（RNN）。尽管嵌入式处理器发展迅速，但功耗和成本仍然是一个瓶颈。脉冲神经网络（SNN）正逐步发展成为具有高效率潜力的低功耗事件驱动硬件架构。在本文中，我们探讨了深度脉冲神经网络（SNN）在自动驾驶应用中的作用。我们概述了SNN的进展，并讨论了它如何能够很好地适合自动驾驶应用。
2019-01-11 cs.CV cs.LG cs.NE
Exploring the Imposition of Synaptic Precision Restrictions For Evolutionary Synthesis of Deep Neural Networks
University of Waterloo（滑铁卢大学）
深度神经网络取得令人难以置信的成功的一个关键因素是大规模并行计算设备的显著增长，使研究人员能够大大增加深度神经网络的大小和深度，从而显著提高建模精度。虽然更深、更大或更复杂的深度神经网络已经显示出相当大的前景，但这种网络的计算复杂性是在资源匮乏的情况下利用的主要障碍。我们在进化的深度智能框架内探索了深度神经网络在形成有效的深度神经网络架构中的突触发生，其中引入了概率生成建模策略，以随机合成越来越高效且有效的后代深度神经网络，以概率的方式模仿遗传，随机突变和自然选择等进化过程。在这项研究中，我们主要探讨突触精度限制的施加及其对深度神经网络进化合成的影响，以合成更有效的网络架构，为资源匮乏的情况下量身定制。实验结果表明，突触效率（基于GoogLeNet的DetectNet降低了约10倍）和推理速度（基于GoogLeNet的DetectNet增加了> 5倍）得到了显着改善，同时保持了建模精度。
2017-07-01 cs.CV cs.LG cs.NE
Do Deep Neural Networks Forget Facial Action Units? -- Exploring the Effects of Transfer Learning in Health Related Facial Expression Recognition
Augsburg University（奥格斯堡大学）
在本文中，我们提出了一个过程，以调查的效果迁移学习的自动面部表情识别从情绪到痛苦。为此，我们首先训练一个VGG 16卷积神经网络来自动识别八种分类情绪。然后，我们连续微调该网络的较大部分，以学习自动疼痛识别任务的合适表示。随后，我们再次将这些微调的表示应用于情感识别的原始任务，以进一步研究模型之间的性能差异。在第二步中，我们使用逐层相关传播来分析模型的预测，这些预测以前被正确预测，但现在被错误分类。基于这种分析，我们依靠人类观察者的视觉检查来生成关于模型忘记了什么的假设。最后，我们利用概念嵌入分析方法对这些假设进行了定量检验。我们的研究结果表明，对于疼痛识别进行了充分微调的网络，确实对与表情识别相关但与疼痛识别无关的两个动作单位关注较少。
2022-03-16 cs.CV cs.LG
Exploring Behavior-Relevant and Disentangled Neural Dynamics with Generative Diffusion Models
Georgia Institute of Technology（佐治亚理工学院）
针对神经行为数据分析中解码模型缺乏行为编码细节的问题，提出BeNeDiff方法，通过行为感知潜变量模型识别解耦神经子空间，结合生成扩散模型合成行为视频解释潜因子动力学，在多会话数据集上验证了其高解耦性与重建质量。
2024-11-26 cs.CV cs.LG q-bio.NC
Exploring the role of Input and Output Layers of a Deep Neural Network in Adversarial Defense
深度神经网络是一种学习模型，在预测、计算机视觉、语言处理等多个领域都取得了最先进的性能。然而，研究表明，某些输入通常不会欺骗人类，但可能会完全误导模型。这些输入被称为对抗性输入。当这些模型用于现实世界的应用程序时，这些输入构成了高度的安全威胁。在这项工作中，我们分析了三种不同类型的全连接密集网络对很少测试的基于非梯度的对抗攻击的抵抗力。这些类是通过操作输入和输出层创建的。我们已经通过经验证明，由于网络的某些特性，它们对这些攻击具有很高的鲁棒性，并且可以用于微调其他模型，以增加对对抗攻击的防御。
2020-06-02 cs.CV cs.LG stat.ML
Exploring the Intersection between Neural Architecture Search and Continual Learning
Staffordshire University（斯塔福德郡大学）；Smarts Systems, AI and Cybersecurity Research Centre (SSAICS)（智能系统、人工智能与网络安全研究中心）
本文首次系统综述神经架构搜索与持续学习的交叉研究，提出并形式化持续自适应神经网络（CANNs）范式，为终身自主神经网络指明方向。
2023-06-15 cs.AI cs.CV cs.NE
All You Need is Beyond a Good Init: Exploring Better Solution for Training Extremely Deep Convolutional Neural Networks with Orthonormality and Modulation
Hikvision Research Institute（海康威视研究院）
深度神经网络很难训练，并且随着深度的增加，这种困境变得更糟。这个问题的本质在于反向传播误差的大小，它将导致梯度消失或爆炸现象。我们表明，一个变种的正则化，利用不同的滤波器组之间的正交性可以缓解这个问题。此外，我们设计了一个后向误差调制机制的基础上，两个连续的参数层之间的准等距假设。配备了这两种成分，我们提出了几种新的优化解决方案，可用于训练特定结构（Conv-BNReLU的重复三重模块）的极深卷积神经网络（CNN），而无需从头开始任何快捷方式/身份映射。实验表明，我们提出的解决方案可以在CIFAR-10和ImageNet数据集上实现44层和110层普通网络的明显改进。此外，我们可以成功地训练普通CNN，以匹配剩余的同行的性能。此外，我们提出了新的原则，设计网络结构的启示所引发的正交性。结合残差结构，我们在ImageNet数据集上实现了比较性能。
2017-04-10 cs.CV cs.LG cs.NE
Exploring Generative Physics Models with Scientific Priors in Inertial Confinement Fusion
Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）
由于现代神经网络在以数据驱动的方式建模高度复杂的非线性问题方面的有效性，人们对将现代神经网络用于科学应用非常感兴趣。然而，一个共同的挑战是验证神经网络预测的输出的科学可行性或有效性。这项工作提倡使用已知的科学约束作为一个镜头，以评估，探索和理解这种预测的问题，惯性约束聚变。
2019-10-03 cs.CV cs.LG physics.comp-ph
Exploring Compressed Image Representation as a Perceptual Proxy: A Study
National Taiwan University（国立台湾大学）
本文提出将图像压缩的分析变换与物体分类联合训练，证明压缩潜在表示可作为感知代理，在无需额外VGG网络的情况下有效预测人类感知距离并服务于多种图像任务。
2024-01-14 cs.CV cs.LG eess.IV
Exploring The Neural Burden In Pruned Models: An Insight Inspired By Neuroscience
University of Science and Technology of China（中国科学技术大学）；China Mobile(SuZhou)Software Technology Co.,Ltd.（中国移动（苏州）软件技术有限公司）
受神经科学启发，提出Neural Burden概念以解释训练期间剪枝导致的性能下降，并设计了一种通用且有效的方法来缓解该问题。
2024-07-27 cs.CV cs.LG cs.NE
Exploring Effective Mask Sampling Modeling for Neural Image Compression
针对神经图像压缩中通道冗余问题，提出含CMSM、LCMM、LCCM的新型预训练策略，可适配多种架构，在公开数据集上以更低复杂度实现有竞争力的压缩性能。
2023-06-09 cs.CV cs.MM eess.IV
Exploring possible vector systems for faster training of neural networks with preconfigured latent spaces
Joint Stock "Research and production company "Kryptonite"（Kryptonite 研究生产公司）
本文提出利用预定义的向量系统加速神经网络训练，通过配置潜在空间结构提升ImageNet大规模分类任务的训练效率。
2025-12-10 cs.AI cs.CV cs.LG
Exploring the pattern of Emotion in children with ASD as an early biomarker through Recurring-Convolution Neural Network (R-CNN)
Coimbatore Institute of Technology（哥印拜陀理工学院）；Steps Rehabilitation Center (I), Steps groups（Steps康复中心（I），Steps集团）
自闭症谱系障碍（ASD）被认为是各种职业治疗师的主要关注点。这种神经发育障碍的最大挑战在于分析和探索儿童早期发育阶段的各种症状。这种早期识别可以支持治疗师和临床医生提供适当的辅助支持，使儿童过上独立的生活。儿童所感知的面部表情和情绪可能有助于自闭症的早期干预。在这方面，本文实现了识别基本的面部表情和探索他们的情绪上的时变因素。通过将通过CNN识别的面部表情与由RNN形成的预测网络（称为RCNN-FER系统）相结合来分析情绪。本文采用R-CNN作为文本网络分析的情感预测方法，以提高准确性和性能，降低时间复杂度。这些论文证明，与简单的机器学习模型相比，它们在识别自闭症儿童的情绪方面具有更好的准确性，这些模型是为自闭症社会的这种识别而建立的。
2021-12-30 cs.AI cs.CV cs.LG
Exploring the Deep Feature Space of a Cell Classification Neural Network
University of Tokyo（东京大学）；University of Cambridge（剑桥大学）；National Chiao Tung University（国立交通大学）；Japan Science and Technology Agency（日本科学技术振兴机构）
在本文中，我们提出了用于可视化深度学习图像分类神经网络的特征空间的现代技术。这些技术被认为是在一个前馈网络的背景下训练分类低分辨率荧光图像的白细胞捕获使用光流成像。该模型有两个输出类，对应于两种不同的细胞类型，通常很难用眼睛区分。本文分为两大部分。第一种方法是通过降维技术（如t-SNE）来开发信息空间，用于将高维的pre-softmax层激活嵌入到二维平面中。第二部分通过优化来查看特征可视化，以生成代表网络学习特征的特征图像。使用和开发这些技术，我们使用聚类算法和特征图像可视化数据集中不同深度的类分离和结构;随着我们提升网络，跟踪特征复杂性的发展;并开始提取网络通过调制单通道特征图像与放大的神经元激活图来区分其最突出的部分而学习的特征。
2018-11-15 cs.CV cs.LG cs.NE
Exploring the Space of Black-box Attacks on Deep Neural Networks
Princeton University（普林斯顿大学）；University of California, Berkeley（加州大学伯克利分校）
到目前为止，现有的对深度神经网络（DNN）的黑盒攻击主要集中在可转移性上，即为本地训练模型生成的对抗性实例可以“转移”到攻击其他学习模型。在本文中，我们提出了新的梯度估计黑箱攻击的对手查询访问目标模型的类概率，这不依赖于可转移性。我们还提出了一些策略来解耦生成每个对抗样本所需的查询数量与输入的维度。我们的攻击的迭代变体在DNN上的有针对性和无针对性攻击的对抗成功率接近100%。我们进行了广泛的实验，对黑盒攻击进行了全面的比较评估，并表明所提出的梯度估计攻击优于我们在MNIST和CIFAR-10数据集上测试的所有基于可转移性的黑盒攻击，实现了与众所周知的最先进的白盒攻击相似的对抗成功率。我们还成功地将梯度估计攻击应用于Clarifai托管的真实内容审核分类器。此外，我们评估黑箱攻击对国家的最先进的防御。我们表明，梯度估计攻击是非常有效的，即使对这些防御。
2017-12-27 cs.CR cs.CV cs.LG
Exploring Architectural Ingredients of Adversarially Robust Deep Neural Networks
School of Computing and Information Systems, The University of Melbourne（墨尔本大学计算与信息系统学院）；Key Lab. of Machine Perception, School of Artificial Intelligence, Peking University（北京大学人工智能学院机器感知重点实验室）；Institute for Artificial Intelligence, Peking University（北京大学人工智能研究院）；University of California, Los Angeles（加州大学洛杉矶分校）；School of Computer Science, Fudan University（复旦大学计算机科学学院）
众所周知，深度神经网络（DNN）容易受到对抗攻击的攻击。已经提出了一系列的防御方法来训练对抗鲁棒的DNN，其中对抗训练已经证明了有希望的结果。然而，尽管对对抗训练有了初步的理解，但从架构的角度来看，什么样的配置可以带来更强大的DNN仍然不清楚。在本文中，我们通过全面调查网络宽度和深度对对抗训练DNN鲁棒性的影响来解决这一差距。具体来说，我们做了以下关键观察：1）更多的参数（更高的模型容量）并不一定有助于对抗鲁棒性; 2）在网络的最后阶段（最后一组块）减少容量实际上可以提高对抗鲁棒性; 3）在相同的参数预算下，存在对抗鲁棒性的最佳架构配置。我们还提供了一个理论分析，为什么这样的网络配置可以帮助鲁棒性。这些架构见解可以帮助设计对抗性强的DNN。代码可在\url{https://github.com/HanxunH/RobustWRN}上获得。
2022-01-23 cs.CV cs.LG stat.ML
Exploring Deep Neural Networks via Layer-Peeled Model: Minority Collapse in Imbalanced Training
Peking University（北京大学）；University of Pennsylvania（宾夕法尼亚大学）
在本文中，我们介绍了\textit{Layer-Peeled Model}，一个非凸但易于分析的优化程序，以更好地理解经过足够长时间训练的深度神经网络。顾名思义，这种新模型是通过将最顶层与神经网络的其余部分隔离开来，然后分别对网络的两个部分施加某些约束而得出的。我们证明了分层剥离模型虽然简单，但继承了训练有素的神经网络的许多特征，从而为解释和预测深度学习训练的常见经验模式提供了有效的工具。首先，在类平衡数据集上工作时，我们证明了该模型的任何解都形成了一个单纯形等角紧框架，这部分解释了最近发现的神经崩溃现象\cite{papyan2020prevalence}。更重要的是，当转向不平衡的情况时，我们对分层剥离模型的分析揭示了一个迄今为止未知的现象，我们称之为\textit{Minority Collapse}，它从根本上限制了深度学习模型在少数类上的性能。此外，我们使用分层剥离模型来深入了解如何减轻少数崩溃。有趣的是，这一现象首先由层剥离模型预测，然后由我们的计算实验证实。
2021-09-08 cs.CV cs.LG math.OC
Exploring explicit coarse-grained structure in artificial neural networks
College of Power and Energy Engineering, Harbin Engineering University（哈尔滨工程大学动力与能源工程学院）；Renmin University of China（中国人民大学）
本文提出在人工神经网络中显式引入层次化粗粒化结构，并通过 TaylorNet 与多级数据蒸馏验证其可提升可解释性、效率和分类性能。
2022-11-04 cond-mat.stat-mech cond-mat.str-el cs.CV
