Creating Lightweight Object Detectors with Model Compression for Deployment on Edge Devices
NetEase Ltd.(网易公司)
为了实现部署在边缘设备上的轻量级对象检测器,本文提出了一种有效的模型压缩流水线。压缩流水线由主干的自动通道修剪、分支层的固定通道删除和引导学习的知识蒸馏组成。因此,Resnet 50-v1 d在ImageNet上自动修剪和微调,以获得紧凑的基础模型作为对象检测器的支柱。然后,轻量级的对象检测器实现与建议的压缩流水线。例如,创建了模型大小=16.3MB、FLOPS=2.31G和mAP=71.2的SSD-300,显示出比SSD-300-MobileNet更好的结果。
2019-05-06 cs.CV eess.IV
NeuCODEX: Edge-Cloud Co-Inference with Spike-Driven Compression and Dynamic Early-Exit
Centre for Sustainable Digital Technologies(可持续数字技术中心);Technological University Dublin(技术大学都柏林);Smart Network Innovation Lab(智能网络创新实验室);Huawei Ireland Research Center(华为爱尔兰研究中心)
NeuCODEX提出一种边缘-云协同推理架构,通过脉冲驱动压缩和动态早退机制联合优化时空冗余,在几乎不损失精度的情况下大幅降低数据传输、能耗和延迟。
2025-09-23 cs.CV
Task-Oriented Visual Feature Compression via Residual Vector Quantization for Device-Edge Multimodal Inference
Tsinghua University(清华大学);Beijing National Research Center for Information Science and Technology(北京信息科学与技术国家研究中心);China Telecom(中国电信);Institute of Artificial Intelligence (TeleAI), China Telecom(中国电信人工智能研究院(TeleAI))
针对设备-边缘多模态推理中视觉特征传输延迟高的问题,提出查询引导的任务导向特征压缩方法Q-TOFC,利用残差向量量化和查询相关聚合降低负载53.6%,同时保持任务性能。
2026-09-30 cs.CV
Edge-based Denoising Image Compression
Faculty of Science and Engineering, Hosei University(法政大学理工学部);KDDI Research, Inc.(KDDI研究所);RPTU Kaiserslautern-Landau(凯泽斯劳滕-兰道莱茵-普法尔茨技术大学);DFKI GmbH(德国人工智能研究中心)
针对深度学习图像压缩存在的重建清晰度低、学习效率差及传输数据丢失等问题,提出结合扩散模型去噪步骤、利用潜在空间子信息并引入边缘估计网络的新型压缩模型,在图像质量和压缩效率上表现更优或相当,鲁棒性更强。
2024-09-17 cs.CV eess.IV
HiRISE: High-Resolution Image Scaling for Edge ML via In-Sensor Compression and Selective ROI
University of South Carolina(南卡罗来纳大学);University of Nebraska–Lincoln(内布拉斯加大学林肯分校);New Jersey Institute of Technology(新泽西理工学院)
本文提出HiRISE系统,通过模拟传感器内图像缩放与选择性ROI能力,在边缘ML高分辨率图像处理中显著降低峰值内存需求,并实现最高17.7倍的数据传输与能耗降低。
2024-07-23 cs.CV
Edge AI: Evaluation of Model Compression Techniques for Convolutional Neural Networks
University of Bath(巴斯大学)
本文在CIFAR-10上评估ConvNeXt模型的结构化剪枝、非结构化剪枝和动态量化等压缩技术,结合OTOV3与动态量化实现规模缩减89.7%、参数和MACs缩减95%且准确率提升3.8%,并在边缘设备上验证了高准确率和低推理延迟。
2024-09-02 cs.AI cs.CV cs.LG
Adversarial Video Compression Guided by Soft Edge Detection
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
我们提出了一个使用条件生成对抗网络(GANs)的视频压缩框架。我们依赖于两个编码器:一种是部署标准视频编解码器,另一种是通过下采样流水线、新设计的软边缘检测器和新颖的无损压缩方案来生成低级映射。对于解码,我们使用标准视频解码器以及基于神经网络的解码器,该解码器使用条件GAN进行训练。最近的“深度”视频压缩方法需要多个视频来预训练生成网络以进行插值。与此之前的工作相比,我们的方案在从单个视频和相应的低级地图中获取的数量非常有限的关键帧对上训练生成解码器。经过训练的解码器依靠低级映射的指导产生重构帧,而不需要任何插值。对131个视频的实验表明,我们提出的基于GAN的压缩引擎在非常低的比特率下实现了比H.264或HEVC等主流标准编解码器更高质量的重建。
2018-11-26 cs.CV eess.IV
EdgeLDR: Quaternion Low-Displacement Rank Neural Networks for Edge-Efficient Deep Learning
Tufts University(塔夫茨大学);College of Staten Island, The City University of New York(纽约城市大学史泰登岛学院)
EdgeLDR通过结合四元数通道混合与块循环结构,实现边缘设备上的高效深度学习压缩,提升计算效率并保持精度。
2026-01-08 cs.CV
CDC: Classification Driven Compression for Bandwidth Efficient Edge-Cloud Collaborative Deep Learning
Imperial College London(帝国理工学院)
新兴的边缘云协作深度学习(DL)范式旨在提高实际DL实现在云带宽消耗、响应延迟和数据隐私保护方面的性能。专注于基于DNN的分类器的带宽高效的边缘云协作训练,我们提出了CDC,一个分类驱动压缩框架,可以减少带宽消耗,同时保持边缘云协作DL的分类准确性。具体来说,为了减少带宽消耗,对于资源有限的边缘服务器,我们开发了一个轻量级的自动编码器,具有分类指导,用于压缩和分类驱动的特征保留,这允许边缘只上传原始数据的潜在代码,以便在云上进行准确的全局训练。此外,我们设计了一个可调量化方案自适应追求带宽消耗和分类精度之间的权衡在不同的网络条件下,只有微调是需要快速的压缩比调整。大量的实验结果表明,与使用原始数据的DNN训练相比,CDC消耗的带宽减少了14.9倍,准确率损失不超过1.06%,与使用无指导的AE压缩数据的DNN训练相比,CDC引入了至少100%的准确率损失。
2020-05-04 cs.CV cs.DC cs.LG
Image Coding for Machines with Edge Information Learning Using Segment Anything
Graduate School of Fundamental Science and Engineering, Waseda University(早稻田大学基础科学与工程研究院);Waseda University(早稻田大学)
本文提出SA-ICM,利用Segment Anything生成的边缘信息训练图像压缩模型,仅编码物体边缘,在提升图像识别压缩性能的同时保护隐私,并扩展至视频压缩模型SA-NeRV。
2024-06-07 cs.CV
A novel centroid update approach for clustering-based superpixel methods and superpixel-based edge detection
China University of Geosciences(中国地质大学);City University of Hong Kong(香港城市大学);Tongji University(同济大学)
超像素在图像处理中有着广泛的应用。在超像素生成方法中,基于聚类的方法具有速度快、性能好的优点。然而,大多数基于聚类的超像素方法对噪声敏感。为了解决这些问题,本文首先分析了噪声的特性。然后,根据噪声的统计特性,提出了一种新的质心更新方法,以提高基于聚类的超像素方法的鲁棒性。此外,我们提出了一种新的基于超像素的边缘检测方法。在BSD500数据集上的实验表明,该方法可以显著提高基于聚类的超像素方法在噪声环境中的性能。此外,我们还表明,我们提出的边缘检测方法优于其他经典方法。
2020-05-23 cs.CV
Vision Transformers on the Edge: A Comprehensive Survey of Model Compression and Acceleration Strategies
Oakland University(奥克兰大学)
本综述针对视觉Transformer(ViTs)高计算复杂度导致边缘部署困难的问题,系统梳理了ViT的模型压缩技术、边缘推理软件工具及硬件加速策略,分析其准确率、效率与硬件适配性的权衡,指明边缘部署的挑战与研究方向。
2026-10-27 cs.AR cs.CV
Supervised Compression for Resource-Constrained Edge Computing Systems
University of California, Irvine(加州大学欧文分校)
人们对在低功耗设备上部署深度学习算法非常感兴趣,包括智能手机、无人机和医疗传感器。然而,全面的深度神经网络在能量和存储方面往往过于资源密集。因此,机器学习操作的大部分通常在边缘服务器上执行,在边缘服务器上压缩和传输数据。然而,压缩数据(如图像)会导致传输与监督任务无关的信息。另一种流行的方法是在设备和服务器之间分割深层网络,同时压缩中间功能。然而,到目前为止,这种分割计算策略由于其对特征压缩的低效方法而几乎没有优于上述朴素数据压缩基线。本文采用了知识蒸馏和神经图像压缩的思想,以更有效地压缩中间特征表示。我们的监督压缩方法使用教师模型和学生模型,具有随机瓶颈和可学习的熵编码先验(熵学生)。我们将我们的方法与三个视觉任务中的各种神经图像和特征压缩基线进行了比较,发现它在保持更小的端到端延迟的同时实现了更好的监督率失真性能。我们还表明,学习的特征表示可以调整为多个下游任务。
2021-10-22 cs.CV cs.LG
Feature Compression for Rate Constrained Object Detection on the Edge
New York University Tandon School of Engineering(纽约大学坦登工程学院)
计算机视觉的最新进展导致人们对在移动设备上部署视觉分析模型的兴趣越来越大。然而,大多数移动设备的计算能力有限,这使得它们无法运行大规模的视觉分析神经网络。解决这个问题的一种新兴方法是将这些神经网络的计算卸载到边缘服务器上的计算资源。高效的计算卸载需要优化多个目标之间的权衡,包括压缩数据速率、分析性能和计算速度。在这项工作中,我们考虑了一个“分裂计算”系统来卸载YOLO对象检测模型的一部分计算。我们提出了一种可学习的特征压缩方法来压缩中间的YOLO特征,具有轻量级的计算。我们训练特征压缩和解压缩模块以及YOLO模型,以在速率约束下优化目标检测精度。与在移动端应用标准图像压缩或学习图像压缩并在边缘执行图像解压缩和YOLO的基线方法相比,所提出的系统在低到中等速率范围内实现了更高的检测精度。此外,所提出的系统在仅具有CPU的移动终端上需要显著更低的计算时间。
2022-04-15 cs.CV cs.DC eess.IV
Image Segmentation, Compression and Reconstruction from Edge Distribution Estimation with Random Field and Random Cluster Theories
该研究利用随机场和随机簇理论估计图像最小有界区域及强度分布,提出仅需略多于半数像素即可最坏情况下重建图像的压缩方法,并结合定制深度信念网络实现无监督对象分割、检测与定位。
2023-04-26 cs.CV eess.IV
DNN-Driven Compressive Offloading for Edge-Assisted Semantic Video Segmentation
Huazhong University of Science and Technology(华中科技大学);Essex University(埃塞克斯大学);Hong Kong University of Science and Technology(香港科技大学)
深度学习在语义分割方面表现出了令人印象深刻的性能,但对于资源受限的移动设备来说,它仍然负担不起。虽然卸载计算任务是有希望的,但高流量需求压倒了有限的带宽。现有的压缩算法不适合语义分割,因为缺乏明显和集中的感兴趣区域(RoIs)迫使采用统一的压缩策略,导致压缩比或准确率低。本文介绍了STAC,一个DNN驱动的压缩方案为边缘辅助的语义视频分割量身定制。STAC是第一个利用DNN的梯度作为空间自适应压缩的空间灵敏度度量,并实现了卓越的压缩比和准确性。然而,使这种内容定制的压缩适应于视频是具有挑战性的。实际问题包括不同的空间敏感性和巨大的带宽消耗的压缩策略反馈和卸载。我们通过时空自适应方案来解决这些问题,该方案(1)将部分策略生成操作离线以减少通信负载,以及(2)通过密集的光流跨帧传播压缩策略和分割结果,并自适应地卸载关键帧以适应视频内容。我们在商用移动终端上实现了STAC。实验结果表明,STAC算法在保证精度的前提下,与现有算法相比,可以节省高达20.95%的带宽。
2022-03-28 cs.CV cs.MM cs.NI
Towards Live Video Analytics with On-Drone Deeper-yet-Compatible Compression
Purdue University(普渡大学)
在这项工作中,我们提出了DCC(Deeper-yet-Compatible Compression),这是一种基于现有编解码器的实时无人机边缘辅助视频分析技术。DCC解决了一个重要的技术问题,将流视频从无人机压缩到边缘,而不会牺牲在边缘执行的视频分析任务的准确性和及时性。DCC的灵感来自于这样一个事实,即并非流视频中的每一位都对视频分析具有同等价值,这为传统的分析无关视频编解码技术开辟了新的压缩空间。我们利用无人机特定的上下文和中间提示从目标检测追求自适应保真度需要保持分析质量。我们已经在一个车辆检测的示范应用中原型化了DCC,并在代表性场景中验证了其效率。DCC的传输量比基线方法减少了9.5倍,比最先进的方法减少了19-683%,检测精度相当。
2021-11-10 cs.CV cs.NI
Hardware-Aware YOLO Compression for Low-Power Edge AI on STM32U5 for Weeds Detection in Digital Agriculture
Maastricht University(马斯特里赫特大学)
针对传统除草方法的环境问题及精准除草的高功耗限制,提出基于STM32U5微控制器的硬件感知YOLOv8n压缩系统,通过剪枝、量化等技术实现低功耗实时杂草检测,每次推理能耗51.8mJ,可在功率受限农业环境部署。
2025-11-11 cs.AI cs.CV
Semantic Communication based on Generative AI: A New Approach to Image Compression and Edge Optimization
本文提出将生成式人工智能与语义通信相结合,利用生成对抗网络和去噪扩散概率模型实现语义保持的图像压缩,并基于信息瓶颈原理构建面向目标的边缘网络优化框架,以提升带宽效率和降低延迟。
2025-02-01 cs.AI cs.CV cs.LG
Group-aware Parameter-efficient Updating for Content-Adaptive Neural Video Compression
The University of Newcastle(纽卡斯尔大学);The University of Sydney(悉尼大学);Tencent AI Lab(腾讯AI实验室);The University of Hong Kong(香港大学)
本文提出分组感知参数高效更新(GPU)方法,通过基于块的GoP训练策略和轻量级适配器增量调优,解决神经视频压缩中误差累积和更新成本高的问题,在多个视频及医学图像基准上验证了其高效性和适应性。
2024-09-04 cs.CV eess.IV
Task-Oriented Feature Compression for Multimodal Understanding via Device-Edge Co-Inference
Institute of Artificial Intelligence (TeleAI) of China Telecom(中国电信人工智能研究所);School of Electronic and Information Engineering, Harbin Institute of Technology(哈尔滨工业大学电子与信息工程学院);Department of Electronic and Computer Engineering, Hong Kong University of Science and Technology(香港科技大学电子与计算机工程系);School of Software and Microelectronics, Peking University(北京大学软件与微电子学院)
针对边缘设备上多模态理解的高延迟问题,提出任务导向特征压缩(TOFC)方法,通过聚类和自适应熵模型在设备-边缘协同推理框架中减少视觉特征数量,在保持任务性能的同时显著降低传输开销与系统延迟。
2025-10-27 cs.CV eess.SP
Poster: Making Edge-assisted LiDAR Perceptions Robust to Lossy Point Cloud Compression
Georgia Institute of Technology(佐治亚理工学院);Ericsson Research(爱立信研究院)
本文提出一种基于深度梯度的LiDAR点云距离图像插值算法,有效减轻了边缘辅助感知中有损压缩导致的点云质量下降与感知性能损失。
2023-09-08 cs.CV cs.DC cs.MM
Task-Oriented Semantic Compression for Localization at the Network Edge
Hong Kong JC STEM Lab of Smart City(香港智慧城市JC STEM实验室);City University of Hong Kong(香港城市大学)
本文提出O-VIB框架,通过正交约束变分信息瓶颈编码器实现高效、精确的网络边缘定位,适用于带宽受限的移动平台。
2026-03-07 cs.CV cs.NI
Neural Compression and Filtering for Edge-assisted Real-time Object Detection in Challenged Networks
University of California, Irvine(加州大学欧文分校)
边缘计算范例将具有计算能力的设备(边缘服务器)放置在网络边缘,以帮助移动设备执行数据分析任务。直观地将计算密集型任务卸载到边缘服务器可以减少其执行时间。然而,将移动设备连接到边缘服务器的无线信道的不良条件可能会降低通过边缘卸载实现的总体捕获到输出延迟。在这里,我们专注于通过深度神经网络(DNN)支持远程目标检测的边缘计算,并开发一个框架来减少通过无线链路传输的数据量。我们提出的核心思想建立在最近将DNN分成部分的方法上-即头部和尾部模型-分别由移动终端和边缘服务器执行。然后,无线链路用于将头部模型的最后一层的输出传输到边缘服务器,而不是DNN输入。大多数先前的工作都集中在分类任务上,并保持DNN结构不变。在本文中,我们的重点是用于三种不同的目标检测任务的DNN,它们呈现出更加复杂的结构,并修改网络的架构:(i)通过在头部模型的早期层中引入瓶颈层来实现网络内压缩,以及(ii)使用卷积神经网络对不包含感兴趣对象的图片进行预过滤。结果表明,所提出的技术代表了一个有效的中间选项之间的局部和边缘计算的参数区域,这些极端点的解决方案无法提供令人满意的性能。代码和训练模型可在https://github.com/yoshitomo-matsubara/hnd-ghnd-object-detectors上获得。
2020-10-18 cs.CV cs.LG eess.IV
ButterflyViT: 354$\times$ Expert Compression for Edge Vision Transformers
Indian Institute of Information Technology, Nagpur(印度纳格浦信息科技学院)
ButterflyViT通过几何参数化实现354倍内存压缩,使边缘设备上高效运行视觉变换器。
2026-03-06 cs.AI cs.CV
SnapPix: Efficient-Coding--Inspired In-Sensor Compression for Edge Vision
University of Rochester(罗切斯特大学);Institute of Computing Technology, CAS(中国科学院计算技术研究所);Washington University in St. Louis(圣路易斯华盛顿大学);Shanghai Jiao Tong University(上海交通大学);Northeastern University(东北大学)
SnapPix 提出传感器与算法协同设计,利用高效编码理论学习编码曝光模式,在传感器模拟域内压缩像素,并通过轻量级硬件增强实现边缘视觉能耗降低高达15.4倍。
2025-04-06 cs.AI cs.CV
Distributed Radiance Fields for Edge Video Compression and Metaverse Integration in Autonomous Driving
Technical University of Košice(科希策技术大学);University of California, Irvine(加州大学伊维奇分校)
提出基于分布式辐射场和MEC网络的视频压缩方法,用于自动驾驶元宇宙的数字孪生更新,实现高达80%的数据节省并保持高质量重建。
2024-02-22 cs.CV cs.DC
EdgeSync: Accelerating Edge-Model Updates for Data Drift through Adaptive Continuous Learning
School of Computer Science and Technology, Xi'an Jiaotong University(西安交通大学计算机科学与技术学院);National Engineering Laboratory for Big Data Analytics, Xi'an Jiaotong University(西安交通大学大数据分析国家工程实验室)
EdgeSync通过结合时效性与推理结果的样本过滤和动态训练管理,加速边缘模型更新,在数据漂移下将精度提升约3.4%至10%。
2025-10-18 cs.AI cs.CV
Efficient CNN-LSTM based Image Captioning using Neural Network Compression
Carnegie Mellon University(卡内基梅隆大学)
现代神经网络在计算机视觉、自然语言处理和相关垂直领域的任务上实现了最先进的性能。然而,它们因其贪婪的内存和计算需求而臭名昭著,这进一步阻碍了它们在资源有限的边缘设备上的部署。为了实现边缘部署,研究人员开发了修剪和量化算法来压缩此类网络,而不会影响其效率。这种压缩算法在独立的CNN和RNN架构上进行了广泛的实验,而在这项工作中,我们提出了一种非传统的基于CNN-LSTM的图像描述模型的端到端压缩流水线。该模型使用VGG 16或ResNet 50作为flickr 8 k数据集上的编码器和LSTM解码器进行训练。然后,我们研究了不同的压缩架构对模型的影响,并设计了一个压缩架构,与未压缩的模型相比,模型大小减少了73.1%,推理时间减少了71.3%,BLEU得分增加了7.7%。
2020-12-17 cs.AI cs.CV
Towards Scalable IoT Deployment for Visual Anomaly Detection via Efficient Compression
University of Padova(帕多瓦大学)
本研究通过高效压缩技术,在受限的物联网环境中实现视觉异常检测的可扩展部署,显著减少推理时间的同时保持检测性能。
2025-07-28 cs.AI cs.CV
Neural Weight Step Video Compression
University of Strathclyde(思克莱德大学)
本研究探索基于神经网络权重的视频压缩可行性,设计实验测试CbMLP和卷积网络两种架构的压缩效果,提出神经权重步进技术将后续帧编码为低熵参数更新,将在高分辨率数据集上与现有方法对比验证性能。
2021-12-02 cs.CV cs.GR
Joint Device-Edge Inference over Wireless Links with Pruning
Imperial College London(伦敦帝国学院)
我们提出了一种联合特征压缩和传输方案,用于在无线网络边缘进行有效的推断。我们的目标是在边缘服务器上实现高效可靠的推理,假设边缘设备上的计算资源有限。以前的工作主要集中在特征压缩,忽略了信道编码的计算成本。我们结合了最近提出的深度联合信源信道编码(DeepJSCC)方案,并将其与旨在降低神经网络冗余复杂度的新型滤波器修剪策略相结合。我们评估了我们的分类任务的方法,并显示在边缘设备的端到端的可靠性和工作负载减少的改进结果。这是第一项将DeepJSCC与网络修剪相结合的工作,并将其应用于无线边缘的图像分类。
2020-10-20 cs.CV cs.IT cs.LG
Environmental Sound Classification on the Edge: A Pipeline for Deep Acoustic Networks on Extremely Resource-Constrained Devices
Monash University(莫纳什大学)
我们正在投入大量精力,为具有极端资源限制(内存、速度和缺乏GPU支持)的边缘设备提供最先进的分类和识别。在这里,我们展示了第一个用于声学识别的深度网络,它体积小,灵活且压缩友好,但在原始音频分类方面达到了最先进的性能。我们不是手工制作一次性解决方案,而是提出一个通用管道,通过压缩和量化将大型深度卷积网络自动转换为资源贫乏的边缘设备网络。在引入ACDNet后,它在ESC-10上产生了高于最先进的精度(96.65%),ESC-50(87.10%),UrbanSound8K(84.45%)和AudioEvent(92.57%),我们描述了压缩管道,并表明它使我们能够实现97.22%的大小减少和97.28%的FLOP减少,同时保持接近的状态,ART准确率分别为96.25%、83.65%、78.27%和89.69%。我们描述了一个成功的实现标准的现成的微控制器,并超越实验室基准,报告成功的测试在现实世界的数据集。
2022-09-20 cs.CV cs.LG cs.SD