Divide-and-Conquer the NAS puzzle in Resource Constrained Federated Learning Systems
Yale University（耶鲁大学）
提出DC-NAS分而治之方法，通过多样化采样和通道剪枝在联邦系统中高效进行神经架构搜索，以50%资源实现接近全规模NAS的精度。
2023-05-11 cs.AI cs.CV cs.LG
Reducing Inference Latency with Concurrent Architectures for Image Recognition
Georgia Institute of Technology（佐治亚理工学院）；Stony Brooks University（石溪大学）
满足现代深度学习架构的高计算需求对于实现低推理延迟具有挑战性。目前减少延迟的方法只增加了层内的并行性。这是因为体系结构通常捕获单链依赖性模式，该模式阻止了具有更高并发性的有效分发（即，在设备之间同时执行一个推理）。这种单链依赖性是如此普遍，甚至隐含偏见最近的神经结构搜索（NAS）的研究。在这篇富有远见的论文中，我们提请注意NAS的一个全新空间，它放松了单链依赖性，提供了更高的并发性和分发机会。为了定量地比较这些架构，我们提出了一个分数，封装的关键指标，如通信，并发性和负载均衡。此外，我们提出了一种新的生成器和转换块，与当前最先进的方法相比，它始终提供卓越的架构。最后，我们的初步结果表明，这些新的架构减少了推理延迟，值得更多的关注。
2020-11-13 cs.CV
Generalized Latency Performance Estimation for Once-For-All Neural Architecture Search
Georgia Institute of Technology（佐治亚理工学院）
神经架构搜索（NAS）通过简化定义搜索空间、搜索策略和性能估计策略的深度神经网络架构的手动开发，实现了自动化机器学习的可能性。为了解决卷积神经网络（CNN）模型的多平台部署需求，一次性（OFA）提出将训练和搜索解耦，以提供受限于各种精度-延迟权衡的子网络的一次性模型。我们发现，OFA的搜索的性能估计策略严重缺乏不同的硬件部署平台，由于单一的硬件延迟查找表，需要大量的时间和手动工作，以建立事先的普遍性。在这项工作中，我们展示了为神经网络架构构建延迟预测器的框架，以解决异构硬件支持的需求，并减少查找表的开销。我们介绍了两种泛化策略，包括使用在特定硬件和NAS搜索空间上训练的基础模型进行微调，以及GPU泛化，该GPU泛化根据GPU硬件参数（如核心数量，RAM大小和内存带宽）训练模型。有了这个，我们提供了一系列延迟预测模型，与ProxylessNAS相比，这些模型的RMSE损失降低了50%以上。我们还表明，使用这些延迟预测匹配的NAS性能的查找表基线的方法，如果不超过它在某些情况下。
2021-01-04 cs.CV cs.LG
RAM-NAS: Resource-aware Multiobjective Neural Architecture Search Method for Robot Vision Tasks
State Key Laboratory of Robotics and System, Harbin Institute of Technology（机器人系统国家重点实验室、哈尔滨工业大学）
提出RAM-NAS，一种资源感知多目标神经架构搜索方法，通过子网互蒸馏和延迟代理预测器，在ImageNet上达到76.7%-81.4%准确率，并降低机器人边缘硬件推理延迟。
2025-09-25 cs.CV cs.RO
NASH: Neural Architecture Search for Hardware-Optimized Machine Learning Models
Jilin University（吉林大学）；Delft University of Technology（代尔夫特理工大学）
针对机器学习算法需兼顾精度、吞吐量与延迟的需求，提出NASH神经架构搜索方法，含四种策略，在ImageNet上提升ResNet精度，集成FINN工具实现高吞吐量，优化精度与硬件利用率的权衡且代码开源。
2024-03-10 cs.AI cs.CV cs.LG
SqueezeNAS: Fast neural architecture search for faster semantic segmentation
DeepScale Inc.（DeepScale公司）
对于利用深度神经网络（DNN）的实时的应用，模型在目标任务上实现高准确性和在目标计算平台上实现低延迟推理是至关重要的。虽然神经架构搜索（NAS）已被有效地用于开发用于图像分类的低延迟网络，但使用NAS来优化用于其他视觉任务的DNN架构的努力相对较少。在这项工作中，我们提出了我们认为是第一个无代理的硬件感知搜索密集的语义分割为目标。通过这种方法，我们提高了Cityscapes语义分割数据集上延迟优化网络的最新准确性。我们经过延迟优化的小型SqueezeNAS网络在NVIDIA AGX Xavier上实现了68.02%的验证等级mIOU，推理时间不到35 ms。我们的延迟优化大型SqueezeNAS网络实现了73.62%的mIOU类，推理时间不到100 ms。我们证明，显着的性能增益是可能的，通过利用NAS找到网络优化的特定任务和推理硬件。我们还提出了详细的分析比较我们的网络，最近的国家的最先进的架构。
2019-08-08 cs.CV cs.LG
S3NAS: Fast NPU-aware Neural Architecture Search Methodology
Seoul National University（首尔大学）
随着卷积神经网络（CNN）在嵌入式设备中的应用领域不断增长，使用称为神经处理单元（NPU）的硬件CNN加速器来实现比CPU或GPU更高的性能功耗比变得流行。最近，自动神经架构搜索（NAS）作为默认技术出现，以找到比手动设计的图像分类架构具有更高精度的最先进的CNN架构。在本文中，我们提出了一种快速的NPU感知的NAS方法，称为S3 NAS，找到一个CNN架构具有更高的准确性比现有的在给定的延迟约束。它由三个步骤组成：超网设计，用于快速架构探索的单路径NAS和扩展。为了拓宽由阶段组成的超网结构的搜索空间，我们允许阶段具有不同数量的块，并且允许块具有不同内核大小的并行层。为了快速的神经结构搜索，我们采用了修改后的单路径NAS技术建议的超网结构。在这一步中，我们假设一个比减少搜索空间和搜索时间所需的更短的延迟约束。最后一步是在延迟约束内最大限度地扩展网络。为了准确的延迟估计，设计了一个分析延迟估计器，基于周期级NPU模拟器，该模拟器运行整个CNN，准确地考虑存储器访问开销。使用所提出的方法，我们能够使用TPUv 3在3小时内找到一个网络，在ImageNet上显示出82.72%的top-1准确率，延迟为11.66 ms。代码发布于https://github.com/cap-lab/S3NAS
2020-09-04 cs.CV cs.LG stat.ML
AOWS: Adaptive and optimal network width search with latency constraints
KU Leuven（鲁汶大学）；Amazon Go
神经架构搜索（NAS）方法旨在自动找到适合计算约束的新型CNN架构，同时在目标平台上保持良好的性能。我们介绍了一种新的高效的一次性NAS方法，以最佳的搜索通道数，给定的延迟限制在一个特定的硬件。我们首先表明，我们可以使用一个黑盒的方法来估计一个现实的延迟模型为特定的推理平台，而不需要低级别的访问推理计算。然后，我们设计了一个成对的MRF评分的任何信道配置和使用动态规划，以有效地解码的最佳性能的配置，产生一个最佳的解决方案的网络宽度搜索。最后，我们提出了一个自适应的通道配置采样方案，逐步专门的训练阶段的目标计算约束。ImageNet分类实验表明，我们的方法可以在不同的目标平台上找到适合资源约束的网络，同时提高了最先进的高效网络的准确性。
2020-05-21 cs.CV cs.LG
On Latency Predictors for Neural Architecture Search
Cornell University（康奈尔大学）
针对神经架构搜索中延迟预测器性能波动、评估不系统的问题，提出自动化划分的延迟预测任务集与通用预测器，经多维度研究后提出的端到端训练策略在多数任务上优于现有方法，还提升了硬件感知NAS的搜索效率。
2024-03-04 cs.AR cs.CV cs.LG
Towards Less Constrained Macro-Neural Architecture Search
Universidade da Beira Interior（贝拉内格罗大学）
使用神经架构搜索（NAS）发现的网络在各种任务中实现了最先进的性能，性能超过了人类设计的网络。然而，大多数NAS方法严重依赖于约束搜索的人类定义的假设：架构的外骨架，层数，参数选择和搜索空间。此外，公共搜索空间由可重复的模块（单元）组成，而不是通过设计整个架构（宏搜索）来充分探索架构的搜索空间。施加这样的限制需要深厚的人类专业知识，并将搜索限制在预定义的设置中。在本文中，我们提出了LCMNAS，一种方法，推动NAS的约束较少的搜索空间，通过执行宏搜索，而不依赖于预定义的算法或有界的搜索空间。LCMNAS为NAS管道引入了三个组件：i）利用关于公知架构的信息来基于具有隐藏属性的加权有向图自主地生成复杂搜索空间的方法，ii）从头开始生成完整架构的进化搜索策略，及iii）混合-一种性能评估方法，将初始化阶段的架构信息与较低的保真度评估相结合，以推断其可训练性和能力，模拟复杂函数。我们在13个不同的数据集上进行了实验，结果表明LCMNAS能够以最小的GPU计算量和最先进的结果生成基于细胞和宏的架构。此外，我们对不同NAS组件在基于小区和宏的设置中的重要性进行了广泛的研究。再现性代码在https://github.com/VascoLopes/LCMNAS上公开。
2023-01-06 cs.AI cs.CV cs.LG
Harmonic-NAS: Hardware-Aware Multimodal Neural Architecture Search on Resource-constrained Devices
Higher National School of Computer Science - ESI ex INI（国立高等计算机学院（ESI，前INI））；Université Polytechnique Hauts-de-France（上法兰西综合理工大学）；INSA Hauts-de-France（上法兰西国立应用科学学院）
提出硬件感知的 Harmonic-NAS 框架，通过两层方法联合优化单模态骨干与多模态融合策略及算子，在资源受限设备上显著提升准确率、延迟和能效。
2023-09-28 cs.CV cs.LG
Single-Path Mobile AutoML: Efficient ConvNet Design and NAS Hyperparameter Optimization
Carnegie Mellon University（卡内基梅隆大学）；Microsoft（微软）；Harbin Institute of Technology（哈尔滨工业大学）
本研究提出Single-Path NAS可微架构搜索方法，通过单路径过参数化卷积网络编码架构决策，将NAS搜索成本降至3小时内，在移动端延迟约束下取得ImageNet分类SOTA结果，并实现NAS超参数自动优化。
2019-07-01 cs.CV cs.LG stat.ML
POMONAG: Pareto-Optimal Many-Objective Neural Architecture Generator
Politecnico di Milano（米兰理工大学）
本文提出POMONAG，通过多目标扩散过程扩展DiffusionNAG，同时优化精度、参数量、MACs和推理延迟，生成超越现有方法的帕累托最优神经架构。
2024-09-30 cs.AI cs.CV cs.LG
FOX-NAS: Fast, On-device and Explainable Neural Architecture Search
National Yang Ming Chiao Tung University（国立阳明交通大学）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）
神经结构搜索可以发现性能良好的神经网络，One-Shot方法是目前流行的方法。One-Shot方法通常需要一个具有权重共享和预测架构性能的预测器的超网。然而，以前的方法需要花费大量的时间来生成性能预测器，因此效率低下。为此，我们提出了FOX-NAS，它包括基于模拟退火和多元回归的快速和可解释的预测。我们的方法是量化友好的，可以有效地部署到边缘。在不同硬件上的实验表明，FOX-NAS模型的性能优于其他一些流行的神经网络结构。例如，FOX-NAS与MobileNetV 2和EfficientNet-Lite 0的准确性相匹配，边缘CPU上的延迟分别减少了240%和40%。FOX-NAS是2020年低功耗计算机视觉挑战赛（LPCVC）DSP分类赛道的第三名。查看所有评估结果https://lpcv.ai/competitions/2020。搜索代码和预训练模型在https://github.com/great8nctu/FOX-NAS上发布。
2021-08-14 cs.CV cs.LG
SpaceEvo: Hardware-Friendly Search Space Design for Efficient INT8 Inference
Microsoft Research（微软研究院）；Microsoft（微软）；Shanghai Jiao Tong University（上海交通大学）
神经结构搜索（NAS）和量化的结合已被证明是成功的自动设计低浮点数INT 8量化神经网络（QNN）。然而，直接应用NAS来设计精确的QNN模型，在现实世界的设备上实现低延迟会导致性能低下。在这项工作中，我们发现差的INT 8延迟是由于量化不友好的问题：操作员和配置（例如，信道宽度）选择导致不同的量化效率，并可能减慢INT 8推断速度。为了解决这一挑战，我们提出了SpaceEvo，一个自动的方法为每个目标硬件设计一个专用的，量化友好的搜索空间。SpaceEvo的核心思想是自动搜索硬件首选的操作符和配置来构建搜索空间，由称为Q-T得分的度量来量化候选搜索空间的量化友好程度。我们进一步在我们发现的搜索空间上训练一个量化的超网，使搜索到的模型能够直接部署，而无需额外的重新训练或量化。我们发现的模型在各种延迟约束下建立了新的SOTA INT 8量化精度，在相同延迟下，ImageNet的精度比现有技术的CNN提高了10.1%。在各种边缘设备上进行的大量实验表明，SpaceEvo始终优于现有的手动设计的搜索空间，速度快2.5倍，同时达到相同的精度。
2023-03-15 cs.CV
FrostNet: Towards Quantization-Aware Network Architecture Search
Sogang University（西江大学）；NAVER Corporation（NAVER公司）
INT 8量化已经成为在边缘设备上部署卷积神经网络（CNN）以减少内存和计算资源使用的标准技术之一。通过分析现有的移动目标网络架构的量化性能，我们可以提出一个问题，网络架构的重要性，最佳的INT 8量化。在本文中，我们提出了一个新的网络架构搜索（NAS）过程，以找到一个网络，保证全精度（FLOAT 32）和量化（INT 8）的性能。首先，我们提出了关键但简单的优化方法，使量化感知训练（QAT）：浮点统计辅助（StatAssist）和随机梯度提升（GradBoost）。通过将基于梯度的NAS与StatAssist和GradBoost集成，我们发现了一个量化高效的网络构建块，Frost瓶颈。此外，我们使用Frost瓶颈作为硬件感知NAS的构建块，以获得量化效率高的网络FrostNets，与其他移动目标网络相比，它显示出更好的量化性能，同时保持有竞争力的FLOAT 32性能。我们的FrostNet比现有的CNN在量化时具有更高的识别准确率，由于更高的延迟减少率（平均65%）。
2020-11-30 cs.CV cs.LG stat.ML
FLASH: Fast Neural Architecture Search with Hardware Optimization
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；University of Wisconsin–Madison（威斯康星大学麦迪逊分校）
神经结构搜索（NAS）是一种设计高效、高性能深度神经网络（DNN）的技术。随着ML应用程序的性能需求不断增长，硬件加速器开始在DNN设计中发挥核心作用。这种趋势使得NAS对于大多数实际应用程序来说更加复杂和耗时。本文提出了FLASH，一种非常快速的NAS方法，可以在实际硬件平台上共同优化DNN的准确性和性能。作为主要的理论贡献，我们首先提出了NN度，这是一种量化具有跳跃连接的DNN的拓扑特征的分析度量（例如，DenseNets、ResNets、Wide-ResNets和MobileNets）。新提出的NN度允许我们在一秒钟内进行无训练NAS，并通过从具有超过630亿个配置的巨大搜索空间中训练25个样本来构建准确度预测器。其次，通过在目标硬件上执行推理，我们微调和验证我们的分析模型，以估计各种DNN架构的延迟，面积和能耗，同时执行标准ML数据集。第三，我们构建了一个分层算法的基础上单纯同源全局优化（SHGO）优化模型架构协同设计过程中，同时考虑目标硬件的面积，延迟和能耗。我们证明，相比国家的最先进的NAS方法，我们提出的分层SHGO为基础的算法，使超过四个数量级的加速（具体来说，所提出的算法的执行时间约为0.1秒）。最后，我们的实验评估表明，闪存可以轻松地转移到不同的硬件架构，从而使我们能够在不到3秒的时间内在Raspberry Pi-3B处理器上执行NAS。
2021-08-01 cs.CV cs.LG
Single-Path NAS: Designing Hardware-Efficient ConvNets in less than 4 Hours
Carnegie Mellon University（卡内基梅隆大学）；Microsoft（微软）；Harbin Institute of Technology（哈尔滨工业大学）
我们能否在移动终端的运行时间约束下自动设计具有最高图像分类精度的卷积网络（ConvNet）？神经架构搜索（NAS）通过自动化这个过程，彻底改变了硬件高效的ConvNets的设计。然而，NAS问题仍然具有挑战性，因为组合设计空间很大，导致搜索时间很长（至少200 GPU小时）。为了减轻这种复杂性，我们提出了单路径NAS，这是一种新颖的可区分NAS方法，用于在不到4小时的时间内设计硬件高效的ConvNets。我们的贡献如下：1.单路径搜索空间：与以前的可区分NAS方法相比，单路径NAS使用一个单路径过参数化ConvNet来使用共享卷积核参数对所有架构决策进行编码，从而大大减少了可训练参数的数量和搜索成本。2.硬件高效的ImageNet分类：单路径NAS在Pixel 1手机上以79 ms的延迟在ImageNet上实现了74.96%的top-1准确率，与具有类似约束（<80 ms）的NAS方法相比，这是最先进的准确率。3. NAS效率：单路径NAS搜索成本仅为8个epoch（30 TPU-小时），与之前的工作相比，速度快了5，000倍。4.复制：与所有最近的移动高效NAS方法不同，这些方法只发布预训练的模型，我们在https://github.com/dstamoulis/single-path-nas上开源了我们的整个代码库。
2019-04-05 cs.CV cs.LG stat.ML
Fast Hardware-Aware Neural Architecture Search
Microsoft Research Asia（微软亚洲研究院）；Tsinghua University（清华大学）
为大量硬件设计准确高效的卷积神经架构具有挑战性，因为硬件设计复杂多样。本文讨论了神经结构搜索（NAS）中的硬件多样性挑战。与以前的方法，应用搜索算法在一个小的，人类设计的搜索空间，而不考虑硬件的多样性，我们提出了HURRICANE，探讨了自动硬件感知搜索在一个更大的搜索空间和两个阶段的搜索算法，有效地生成定制的模型，为不同类型的硬件。在ImageNet上进行的大量实验表明，在三种类型的硬件上，在相同的延迟约束下，我们的算法优于最先进的硬件感知NAS方法。此外，所发现的架构比当前最先进的高效模型实现了更低的延迟和更高的准确性。值得注意的是，HURRICANE在ImageNet上实现了76.67%的top-1准确率，DSP的推理延迟仅为16.5 ms，分别比FBNet-iPhoneX高出3.47%的准确率和6.35倍的推理加速。对于VPU，我们实现了比Proxyless-mobile高0.53%的top-1精度，加速比为1.49倍。即使对于经过充分研究的移动CPU，我们也比FBNet-iPhoneX高出1.63%的top-1准确率，并且推理延迟相当。与SPOS相比，HURRICANE还减少了30.4%的培训时间。
2020-04-20 cs.CV cs.LG
HyT-NAS: Hybrid Transformers Neural Architecture Search for Edge Devices
Ecole Nationale Supérieure d’Informatique（国立高等计算机学院）；Université Polytechnique Hauts-de-France（上法兰西理工大学）
视觉Transformer使最近的基于注意力的深度学习（DL）架构在计算机视觉（CV）任务中取得了显著的成果。然而，由于需要大量的计算资源，这些架构很少在资源受限的平台上实现。目前的研究调查混合手工卷积为基础的和注意力为基础的CV任务，如图像分类和目标检测模型。在本文中，我们提出了HyT-NAS，一种高效的硬件感知神经架构搜索（HW-NAS），包括针对微型设备上的视觉任务的混合架构。HyT-NAS通过丰富搜索空间和增强搜索策略以及性能预测器来改进最先进的HW-NAS。我们的实验表明，HyT-NAS实现了类似的超卷，训练评估不到5倍。我们得到的架构优于MLPerf MobileNetV 1的6.3%的准确性提高与3.5倍的视觉唤醒词的参数少。
2023-03-28 cs.CV cs.LG
RC-DARTS: Resource Constrained Differentiable Architecture Search
Bytedance AI Lab（字节跳动人工智能实验室）；Google Inc.（谷歌公司）；National University of Singapore（新加坡国立大学）
最近的进展表明，神经架构搜索（NAS）方法能够找到最先进的图像分类深层架构。在本文中，我们考虑了资源受限的应用程序的一次性NAS问题。这个问题是非常感兴趣的，因为它是关键的，选择不同的架构，根据任务的复杂性时，资源是有限的。以前的技术要么对于一次性学习来说太慢，要么没有考虑资源约束。在本文中，我们提出了资源约束可微架构搜索（RC-DARTS）方法来学习架构，这些架构显着更小，更快，同时达到相当的准确性。具体来说，我们建议制定的RC-DARTS任务作为一个约束优化问题，通过添加资源约束。提出了一种迭代投影方法来求解给定的约束优化问题。我们还提出了一种多级搜索策略，使不同深度的层能够自适应地学习不同类型的神经架构。通过对Cifar 10和ImageNet数据集的广泛实验，我们证明了RC-DARTS方法可以学习轻量级神经架构，这些架构具有更小的模型大小和更低的计算复杂性，同时实现与最先进的方法相当或更好的性能。
2019-12-30 cs.CV cs.NE
RT-DNAS: Real-time Constrained Differentiable Neural Architecture Search for 3D Cardiac Cine MRI Segmentation
University of Notre Dame（圣母大学）；Guangdong Provincial People’s Hospital（广东省人民医院）；Zhejiang University（浙江大学）；University of New Mexico（新墨西哥大学）
电影磁共振成像（MRI）的时间帧的准确分割是各种实时MRI引导心脏介入治疗的关键步骤。为了实现快速准确的视觉辅助，对分割框架的最大延迟和最小吞吐量有严格的要求。这项任务中最先进的神经网络大多是手工制作的，以满足这些约束，同时实现高精度。另一方面，虽然现有文献已经证明了神经架构搜索（NAS）在自动识别各种医疗应用的最佳神经架构方面的能力，但它们大多以准确性为指导，有时具有计算复杂性，并且忽略了实时约束的重要性。一个主要的挑战是，这种约束是不可微的，因此与广泛使用的可微NAS框架不兼容。在本文中，我们提出了一种策略，直接处理实时约束的可区分的NAS框架RT-DNAS。在扩展的2017年MICCAI ACDC数据集上的实验表明，与最先进的手动和自动设计的架构相比，RT-DNAS能够在满足实时约束的同时以更高的准确性识别架构。
2022-06-13 cs.CV cs.LG eess.IV
HM-NAS: Efficient Neural Architecture Search via Hierarchical Masking
Michigan State University（密歇根州立大学）；AInnovation（旷视）
最近，在设计神经网络架构中使用自动方法（通常称为神经架构搜索（NAS））引起了相当大的关注。在这项工作中，我们提出了一个有效的NAS方法，命名为HM-NAS，推广现有的基于权重共享的NAS方法。现有的基于权重共享的NAS方法仍然采用手工设计的算法来生成架构候选。因此，架构候选者的空间被约束在所有可能架构的子集中，使得架构搜索结果次优。HM-NAS通过两项创新解决了这一限制。首先，HM-NAS结合了多级架构编码方案，以能够搜索更灵活的网络架构。其次，它放弃了手工设计的算法，并采用了一个分层掩蔽方案，自动学习和确定最佳架构。与最先进的基于权重共享的方法相比，HM-NAS能够实现更好的架构搜索性能和有竞争力的模型评估精度。没有手工设计的算法所施加的约束，我们搜索的网络包含更灵活和有意义的架构，现有的基于权重共享的NAS方法是无法发现的。
2019-09-07 cs.CV cs.LG stat.ML
ProxylessNAS: Direct Neural Architecture Search on Target Task and Hardware
Massachusetts Institute of Technology（麻省理工学院）
神经网络结构搜索（NAS）通过自动设计有效的神经网络结构而具有很大的影响。然而，传统NAS算法的禁止性计算需求（例如，$10^4$ GPU小时）使得\emph{directly}难以在大规模任务（例如，ImageNet）上搜索架构。差异化NAS可以通过网络架构的连续表示来降低GPU时间的成本，但存在GPU内存消耗高的问题（相对于网络架构呈线性增长）。候选集大小）。因此，他们需要利用~ \emph{proxy}任务，例如在较小的数据集上进行训练，或者只使用几个块进行学习，或者只训练几个epoch。这些在代理任务上优化的架构并不能保证在目标任务上是最优的。在本文中，我们提出了\emph{ProxylessNAS}，它可以\emph{directly}学习大规模目标任务和目标硬件平台的体系结构。我们解决了可区分NAS的高内存消耗问题，并将计算成本（GPU小时和GPU内存）降低到与常规训练相同的水平，同时仍然允许大的候选集。在CIFAR-10和ImageNet上的实验证明了直接性和专业化的有效性。在CIFAR-10上，该模型仅用5.7M个参数就实现了2.08%的测试误差，优于之前的最先进的AmoebaNet-B体系结构，同时使用的参数少了6个$\times$.在ImageNet上，我们的模型实现了比MobileNetV 2高3.1\%的top-1准确性，同时在测量的GPU延迟下快1.2 $…
2019-02-23 cs.CV cs.LG stat.ML
GOLD-NAS: Gradual, One-Level, Differentiable
Huawei Inc.（华为公司）；Tsinghua University（清华大学）；Tongji University（同济大学）
已有大量的神经结构搜索文献，但大多数现有的工作利用启发式规则，在很大程度上限制了搜索的灵活性。在本文中，我们首先放松这些手动设计的约束，并扩大搜索空间，包含更多的$10^{160}$候选人。在新的空间中，大多数现有的可微搜索方法可能会显着失败。然后，我们提出了一种新的算法命名为渐进的一级可微神经结构搜索（GOLD-NAS），它引入了一个可变的资源约束的一级优化，使弱运营商逐渐修剪出的超级网络。在标准的图像分类基准测试中，GOLD-NAS可以在单个搜索过程中找到一系列帕累托最优架构。大多数发现的架构以前从未被研究过，但它们在识别准确性和模型复杂性之间实现了很好的权衡。我们相信，新的空间和搜索算法可以提高可微NAS的搜索。
2020-07-07 cs.CV cs.LG cs.NE
Improving One-shot NAS by Suppressing the Posterior Fading
Brown University（布朗大学）；Sensetime Group Limited（商汤集团有限公司）；The University of Sydney（悉尼大学）
自动神经结构搜索（NAS）越来越受到关注。为了提高NAS的效率，以前的方法采用权重共享的方法，迫使所有的模型共享相同的权重集。然而，已经观察到，使用共享权重表现更好的模型在单独训练时不一定表现更好。在本文中，我们分析了现有的权重共享一杆NAS方法从贝叶斯的角度来看，并确定后验衰落问题，这损害了共享权重的有效性。为了缓解这个问题，我们提出了一个实用的方法来引导参数后验向其真实分布。此外，在搜索期间引入硬延迟约束，使得可以实现期望的延迟。由此产生的方法，即后验收敛NAS（PC-NAS），在ImageNet上的标准GPU延迟约束下实现了最先进的性能。在我们的小搜索空间中，我们的模型PC-NAS-S达到了76.8%的top-1准确率，比具有相同延迟的MobileNetV 2（1.4倍）高2.1%。当采用大搜索空间时，PC-NAS-L在11 ms内达到78.1%的top-1准确率。所发现的架构也可以很好地转移到其他计算机视觉应用，如目标检测和人员重新识别。
2019-10-06 cs.CV
Architecture Aware Latency Constrained Sparse Neural Networks
National Laboratory of Pattern Recognition, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所模式识别国家重点实验室）；School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院）
加速深度神经网络以满足特定的延迟约束对于它们在移动设备上的部署至关重要。在本文中，我们设计了一个架构感知的延迟约束稀疏（ALCS）框架修剪和加速CNN模型。考虑到现代移动计算架构，我们提出了单指令多数据（SIMD）结构的修剪，以及一种新的稀疏卷积算法的高效计算。此外，我们提出用分段线性插值估计稀疏模型的运行时间。整个延迟约束剪枝任务被表示为一个约束优化问题，可以用交替方向乘法（ADMM）有效地解决。大量的实验表明，我们的系统算法协同设计框架可以实现更好的帕累托前沿网络的准确性和延迟资源受限的移动设备。
2021-09-01 cs.CV
Real-Time, Low-Latency Surveillance Using Entropy-Based Adaptive Buffering and MobileNetV2 on Edge Devices
提出基于熵的自适应帧缓冲算法结合MobileNetV2，在边缘设备上实现低延迟（<50ms）高准确率（>92%）的视频监控系统，具有可扩展性和隐私合规性。
2025-06-14 cs.AI cs.CV
Deep Reinforcement Learning-driven Edge Offloading for Latency-constrained XR pipelines
City University of New York（纽约城市大学）
本文提出一种电池感知的边缘辅助XR系统执行管理框架，通过联合考虑执行位置、工作负载质量、延迟要求和电池动态，优化延迟与能耗的平衡，实验表明其能显著延长设备电池寿命并保持高延迟合规性。
2026-03-17 cs.CV
NAS-FPN: Learning Scalable Feature Pyramid Architecture for Object Detection
Google Brain（谷歌大脑）
用于目标检测的当前最先进的卷积架构是手动设计的。在这里，我们的目标是学习一个更好的结构特征金字塔网络的目标检测。我们采用神经结构搜索，发现一个新的特征金字塔结构，在一个新的可扩展的搜索空间覆盖所有的跨尺度连接。所发现的架构名为NAS-FPN，由自上而下和自下而上连接的组合组成，以跨尺度融合功能。NAS-FPN与RetinaNet框架中的各种骨干模型相结合，与最先进的目标检测模型相比，实现了更好的准确性和延迟权衡。与[32]中具有MobileNetV 2模型的最先进的SSDLite相比，NAS-FPN将移动检测准确度提高了2 AP，并达到了48.3 AP，这超过了Mask R-CNN [10]检测准确度，计算时间更少。
2019-04-16 cs.CV cs.LG
MnasFPN: Learning Latency-aware Pyramid Architecture for Object Detection on Mobile Devices
Google Research（谷歌研究院）
尽管在资源受限的环境中视觉任务的架构搜索取得了巨大的成功，但设备上目标检测架构的设计大多是手动的。少数自动搜索工作要么集中在非移动友好的搜索空间，要么不受设备延迟的指导。我们提出了MnasFPN，一个移动友好的搜索空间的检测头，并将其与延迟感知架构搜索，以产生高效的目标检测模型。当与MobileNetV 2主体配对时，学习的MnasFPN头在Pixel上以类似的延迟比MobileNetV 3 +SSDLite高出1.8 mAP。它也比NAS-FPNLite精确1.0 mAP，速度快10%。消融研究表明，大部分的性能增益来自创新的搜索空间。进一步的探索揭示了搜索空间设计和搜索算法之间的有趣耦合，并且MnasFPN搜索空间的复杂性可能处于局部最优。
2020-07-30 cs.CV
Latency-Constrained DNN Architecture Learning for Edge Systems using Zerorized Batch Normalization
School of Computer Science and Engineering（计算机科学与工程学院）；Nanyang Technological University（南洋理工大学）；HP-NTU Digital Manufacturing Corporate Lab（HP-NTU数字制造企业实验室）；Department of Computer Science（计算机科学系）；Norwegian University of Science and Technology（挪威科学技术大学）；HP Inc.（惠普公司）
针对边缘系统中深度学习应用的延迟问题，提出面向延迟的神经网络学习方法，引入延迟预测器，经实验验证该方法能在满足延迟约束时实现高精度，且在多个数据集和设备上有良好表现，还开源了框架。
2026-07-09 cs.CV cs.LG
Low Latency Visual Inertial Odometry with On-Sensor Accelerated Optical Flow for Resource-Constrained UAVs
ETH Zurich（苏黎世联邦理工学院）；University of Bologna（博洛尼亚大学）
针对资源受限无人机无法用高功耗处理器实现低延迟VIO的问题，提出用集成ASIC加速的光流传感器替换VINS-Mono的特征跟踪模块，显著降低延迟与计算负载，提升运行帧率。
2024-06-19 cs.CV eess.IV
