Enhanced Mobile Computing Experience with Cloud Offloading
对提高移动终端性能的需求与对更长电池寿命的期望直接冲突。将计算卸载到多个设备是降低移动应用能耗和提高性能的有效方法。Android提供了创建移动应用程序的机制,但缺乏用于确定代码应在何处执行的本地调度系统。本文介绍了Jade,一个为Android应用程序添加复杂的能量感知计算卸载功能的系统。Jade监控设备和应用程序的状态,并自动决定代码应该在哪里执行。Jade通过适应Android和非Android设备的分布式网络中的工作负载变化、通信成本和能源状态来动态调整卸载策略。Jade通过提供易于使用的Jade API,最大限度地减少了开发人员构建具有计算卸载能力的应用程序的负担。评估表明,Jade可以有效降低移动应用平均功耗高达39%,同时提高应用性能。
2017-10-12 cs.DC
ChunkFlow: Communication-Aware Chunked Prefetching for Layerwise Offloading in Distributed Diffusion Transformer Inference
University of California, Merced(加州大学梅尔德分校);University of Chicago(芝加哥大学);Yotta Labs(Yotta实验室)
ChunkFlow通过通信感知分块预取优化分层卸载,减少GPU内存占用并提升推理效率,在不同工作负载下实现内存与延迟的可调平衡。
2026-05-11 cs.DC cs.LG
Energy-Aware Adaptive Offloading of Soft Real-Time Jobs in Mobile Edge Clouds
我们提出了一个模型,用于测量卸载软实时的【形】作业对多层云基础设施的影响。这些作业源自移动设备,卸载策略可以选择在本地、相邻设备、云服务器或基础设施云服务器中执行它们。在本规范中,我们提出了几种这样的卸载策略,其特征在于它们对云层的差异化使用,其目标是优化执行时间和/或能耗。我们使用Jay实现了该模型的一个实例,Jay是一种用于混合边缘云中自适应计算卸载的软件框架。该框架是模块化的,并允许模型和卸载策略被无缝地实施,同时提供工具来基于系统反馈做出明智的运行时卸载决策,即通过内置的系统分析器,该分析器收集每个参与设备或服务器的运行时信息,例如工作负载、能耗和可用带宽。结果表明,卸载策略的运行时条件敏感,可以有效地和动态地调整他们的卸载决策,以产生显着的收益,在他们的目标优化功能,即执行时间,能源消耗和履行的工作期限。
2021-06-02 cs.DC
Collaborative Satellite Computing through Adaptive DNN Task Splitting and Offloading
针对单星计算资源受限难以独立处理DNN任务的问题,提出一种协作卫星计算系统,通过负载均衡的自适应任务分割方案和基于遗传算法的自适应任务卸载方案,有效提升了任务处理效率、资源利用率并降低了延迟。
2024-05-20 cs.DC
Taming GPU Underutilization via Static Partitioning and Fine-grained CPU Offloading
KTH Royal Institute of Technology(皇家理工学院);William & Mary(威廉与玛丽学院)
本文通过静态分区和细粒度CPU卸载技术,减少GPU资源空置,提升系统吞吐量和能效,同时解决多实例GPU在HPC工作负载中的性能干扰问题。
2026-04-09 cs.DC
Computation Peer Offloading for Energy-Constrained Mobile Edge Computing in Small-Cell Networks
具有云计算功能的小型蜂窝基站(SBS)的(超)密集部署为普及移动边缘计算(MEC)铺平了道路,为各种新兴移动应用和物联网实现超低延迟和位置感知。为了处理网络中空间上不均匀的计算工作负载,通过工作负载对等体卸载的SBS之间的合作是必不可少的,以避免在过载的SBS的大的计算延迟,并提供高的服务质量的最终用户。然而,由于自私的SBS所有者承诺的有限的能量资源、系统动态的不确定性以及无线电接入和计算服务的共同供应,执行有效的对等卸载在小型小区网络中面临许多独特的挑战。本文开发了一种新的在线SBS对等卸载框架,称为OPEN,利用李雅普诺夫技术,以最大限度地提高长期系统性能,同时保持能源消耗的SBS低于个人的长期约束。OPEN在线工作,不需要有关未来系统动态的信息,但与具有完整未来信息的Oracle解决方案相比,提供了可证明接近最佳的性能。此外,本文还建立了一个新的节点卸载博弈模型,并以无政府状态的无政府代价分析了其均衡和效率损失,以深入理解节点卸载的策略行为,从而实现节点卸载决策的分散化和自治化。进行了大量的模拟,并表明SBS之间的对等卸载显着提高了边缘计算性能。
2018-05-25 cs.DC cs.GT
Joint D2D Collaboration and Task Offloading for Edge Computing: A Mean Field Graph Approach
移动边缘计算(MEC)有助于将计算卸载到边缘服务器,以及通过设备到设备(D2D)协作进行任务处理。现有的工作主要集中在集中式网络辅助卸载解决方案,这是不可扩展的场景涉及大量用户之间的协作。在本文中,我们提出了一个联合框架的分散D2D协作和高效的任务卸载的大人口MEC系统。具体来说,我们利用D2D协作的两种选择的力量,使用户能够以分散的方式相互帮助。由于短距离D2D通信和用户移动,我们制定了一个有限度和动态图的平均场模型来分析D2D协作的状态演化。我们得到了状态不动点的存在性、唯一性和收敛性,从而提供了一个易于处理的协作性能。为了补充这种D2D协作,我们进一步构建了一个Stackelberg游戏来模拟用户的任务卸载,其中边缘服务器是决定服务价格的领导者,而用户是做出卸载决策的追随者。通过将Stackelberg博弈嵌入到李雅普诺夫优化中,提出了一种在线卸载和定价方案,该方案可以同时优化服务器的服务效用和用户的系统成本。广泛的评估表明,我们的D2D协作可以通过$73.8\%$减轻用户的工作负载,任务卸载可以实现高能效。
2021-05-06 cs.DC
Neuro-Inspired Task Offloading in Edge-IoT Networks Using Spiking Neural Networks
Federal Institute Farroupilha(法拉鲁皮利亚联邦学院)
针对边缘物联网中资源受限和动态环境下的任务卸载问题,提出一种基于脉冲神经网络的实时节能任务编排框架,显著降低了延迟和能耗并提升了成功率。
2025-11-03 cs.DC
OASIS: Object-based Analytics Storage for Intelligent SQL Query Offloading in Scientific Tabular Workloads
针对现有支持计算的对象存储系统在输出格式灵活性、算子支持范围、深层存储层级优化上的不足,本文提出OASIS系统,实现灵活输出、复杂算子支持与动态路径选择,在HPC科学查询场景下较现有方案最高提升32.7%的性能。
2025-09-02 cs.DB cs.DC
MoA-Off: Adaptive Heterogeneous Modality-Aware Offloading with Edge-Cloud Collaboration for Efficient Multimodal LLM Inference
MoA-Off 提出异构模态感知模块与自适应边缘-云协同卸载策略,动态调度多模态大语言模型推理负载,在保持准确率的同时降低 30% 以上延迟和 30%-65% 资源开销。
2025-09-21 cs.DC
Spectrum-aware Multi-hop Task Routing in Vehicle-assisted Collaborative Edge Computing
本文针对车辆辅助多接入边缘计算中单跳卸载限制资源共享的问题,提出利用车辆形成数据传输网络实现多跳任务卸载,并设计基于强化学习的卸载方法以最大化聚合服务吞吐量,实验证明其性能优于现有基准方案。
2023-04-14 cs.DC
Execution Timing Control for Deterministic Task Offloading in the IoT-Edge-Cloud Continuum
Networked Systems Lab, Universidad Miguel Hernandez de Elche(埃尔切米格尔·埃尔南德斯大学网络系统实验室)
该研究针对物联网-边缘-云连续体中任务卸载的拥塞与资源利用问题,提出联合确定任务执行位置与时序的控制策略,显著提升了任务满意度并降低了资源消耗与执行时间。
2026-08-04 cs.DC cs.NI
MSAO: Adaptive Modality Sparsity-Aware Offloading with Edge-Cloud Collaboration for Efficient Multimodal LLM Inference
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);University of Science and Technology of China(中国科学技术大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出MSAO框架,通过边缘-云协作和模态稀疏性分析,降低多模态大语言模型推理的延迟和资源消耗,提升吞吐量。
2026-04-03 cs.DC
Online Learning for Offloading and Autoscaling in Renewable-Powered Mobile Edge Computing
移动边缘计算(也称为雾计算)最近已经出现,以使得能够在移动网络的边缘处对延迟敏感的应用进行\emph{in-situ}处理。然而,提供支持移动边缘计算的电网供电成本高昂,甚至不可行(在某些崎岖或欠发达地区),因此在越来越多的情况下,要求现场可再生能源作为主要甚至唯一的电源。尽管如此,可再生能源的高不稳定性和不可预测性使得在可再生能源驱动的移动边缘计算系统中向用户提供高服务质量非常具有挑战性。在本文中,我们解决了将可再生能源纳入移动边缘计算的挑战,并提出了一种有效的基于强化学习的资源管理算法,该算法实时学习动态工作负载卸载(到集中式云)和边缘服务器配置的最佳策略,以最大限度地降低长期系统成本(包括服务延迟和运营成本)。我们的在线学习算法使用(离线)值迭代和(在线)强化学习的分解,从而实现了学习率和运行时性能的显着改善相比,标准的强化学习算法,如Q学习。
2016-09-16 cs.DC
Green-aware Mobile Edge Computing for IoT: Challenges, Solutions and Future Directions
物联网(IoT)技术的发展使互联智能设备和移动应用程序快速增长。然而,由于有限的资源和有限的电池容量,在利用智能设备时存在瓶颈。移动边缘计算(MEC)提供了一个有吸引力的范例来应对这一挑战。在这项工作中,我们专注于物联网的MEC应用,并通过在云和边缘之间卸载工作负载来实现节能目标。在这方面,我们首先确定MEC中与能源相关的挑战。然后,我们提出了一个绿色意识的框架MEC解决能源相关的挑战,并提供了一个通用的模型制定的绿色MEC。我们还讨论了一些最先进的工作负载卸载方法,以实现绿色物联网,并从全面的角度对它们进行比较。最后,对MEC节能的未来研究方向进行了展望。
2020-09-08 cs.DC
Preemption Aware Task Scheduling for Priority and Deadline Constrained DNN Inference Task Offloading in Homogeneous Mobile-Edge Networks
本文提出一种抢占感知调度方法,通过两种调度算法和截止时间感知的抢占机制,在同构边缘网络中满足高优先级DNN推理任务的截止时间,实验表明可完成99%高优先级任务并提升3-8%的帧分类完成率。
2025-04-23 cs.DC
Heterogeneous Tasks Offloading in Vehicular Edge Computing: A Federated Meta Deep Reinforcement Learning Approach
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Chengdu Neusoft University(成都新soft大学)
本文提出了一种联邦元深度强化学习框架FedMAGS,用于解决车载边缘计算中异构任务卸载问题,通过图注意力网络捕捉DAG依赖关系,序列到序列策略生成结构化卸载决策,并利用联邦元学习实现跨分布式MEC服务器的快速适应。
2026-05-18 cs.DC cs.LG
To Offload or Not To Offload: Model-driven Comparison of Edge-native and On-device Processing In the Era of Accelerators
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);DEVCOM Army Research Lab(美军研发司令部陆军研究实验室)
本文通过模型驱动比较,分析了在加速器时代本地处理与边缘卸载的性能差异,提出了可解释的闭合形式方程以指导自适应卸载决策。
2026-02-06 cs.DC
Double-Edge-Assisted Computation Offloading and Resource Allocation for Space-Air-Marine Integrated Networks
Information Science and Technology College, Dalian Maritime University(大连海事大学信息科学技术学院);Dalian Neusoft University of Information(大连东软信息学院)
本文提出一种双边辅助计算卸载与资源分配方案,用于空天海一体化网络中的能量高效计算任务处理。
2025-12-03 cs.DC cs.IT math.IT
Edge-Oriented Orchestration of Energy Services Using Graph-Driven Swarm Intelligence
Technical University of Cluj-Napoca(克卢日-纳波卡工业大学);ENSIIE & SAMOVAR(法国埃夫里国立高等信息技术与工业学院及SAMOVAR实验室)
本文提出一种图驱动群体智能框架,用于智能电网中边缘-雾-云基础设施的分布式能源服务编排,通过高效拓扑探索和任务分配算法实现低延迟服务迁移与数据互操作性。
2026-04-14 cs.DC
An MLIR pipeline for offloading Fortran to FPGAs via OpenMP
EPCC, The University of Edinburgh(爱丁堡大学 EPCC)
针对摩尔定律放缓下FPGA加速HPC工作负载的需求,首次在MLIR中实现通过OpenMP target指令将选择性代码卸载到FPGA的方案,结合OpenMP与HLS方言提供可移植编译流程,支持MLIR兼容前端,减少开发工作量并展示生态系统组合性优势。
2025-11-11 cs.DC cs.PL
Accuracy vs Performance: An abstraction model for deadline constrained offloading at the mobile-edge
Munster Technological University(芒斯特理工大学)
针对移动边缘DNN卸载的低延迟deadline约束需求,提出带轻量网络状态表示的调度算法,经树莓派垃圾分类场景验证,高负载下性能更优,资源稀缺时可提升任务吞吐量。
2025-10-02 cs.DC cs.NI
A Primer on RecoNIC: RDMA-enabled Compute Offloading on SmartNIC
本文介绍开源 FPGA SmartNIC 平台 RecoNIC,通过共享 RDMA 卸载引擎和可编程计算块降低数据复制开销,支持高吞吐、低延迟的近网络计算。
2023-12-11 cs.DC
Real-Time High-Resolution Pedestrian Detection in Crowded Scenes via Parallel Edge Offloading
Sun Yat-sen University(中山大学)
为了在监控系统中识别密集和小尺寸的行人,高分辨率摄像机被广泛部署,其中高分辨率图像被捕获并交付给现成的行人检测模型。然而,由于高分辨率带来的高计算密集型工作量,资源受限的摄像机无法提供实时的准确的推断。为了解决这个问题,我们提出了Hode,一个卸载的视频分析框架,利用多个边缘节点在附近,以加快行人检测与高分辨率的输入。具体来说,Hode可以智能地将高分辨率图像分割成相应的区域,然后将它们卸载到分布式边缘节点,以并行执行行人检测。一个时空流过滤方法的设计,使上下文感知的区域划分,以及基于DRL的调度算法,允许异构边缘节点之间的准确性感知的负载平衡。使用真实原型的广泛评估结果表明,Hode可以实现高达2.01%的加速比,精度损失非常轻微。
2023-01-20 cs.AI cs.DC cs.NI
QECO: A QoE-Oriented Computation Offloading Algorithm based on Deep Reinforcement Learning for Mobile Edge Computing
Department of Computer Engineering, Sharif University of Technology(计算机工程系,谢赫拉特夫大学);Department of Electrical Engineering, Sharif University of Technology(电气工程系,谢赫拉特夫大学)
针对移动边缘计算中动态环境下的计算卸载问题,提出基于深度强化学习的分布式QECO算法,以最大化用户长期体验质量,实验显示任务完成数提升14.4%,QoE提升37.1%。
2025-09-25 cs.DC cs.LG cs.NI
FleXR: A System Enabling Flexibly Distributed Extended Reality
本文提出分布式流处理系统FleXR,通过灵活分布XR功能管道解决商用设备卸载问题,在四种场景评估中实现端到端延迟降低50%、吞吐量提升3.9倍。
2023-07-28 cs.DC cs.MM
Taming Latency-Memory Trade-Off in MoE-Based LLM Serving via Fine-Grained Expert Offloading
Stevens Institute of Technology(史蒂文斯理工学院);Rice University(Rice大学);University of Waterloo(多伦多大学);Rutgers University(罗格斯大学)
针对基于MoE的大语言模型服务中粗粒度专家卸载存在的延迟与内存权衡问题,提出细粒度专家卸载系统FineMoE,利用专家选择模式和输入语义指导卸载决策,显著降低推理延迟并提升专家命中率。
2025-10-04 cs.AI cs.DC cs.LG
LA-IMR: Latency-Aware, Predictive In-Memory Routing and Proactive Autoscaling for Tail-Latency-Sensitive Cloud Robotics
Umeå University(于默奥大学)
针对混合云边基础设施中突发请求导致的尾延迟问题,提出LA-IMR控制层,通过利用率驱动的延迟模型、事件调度、副本自动缩放和边到云卸载,将P99延迟降低高达20.7%。
2026-07-15 cs.DC
AVEC: Accelerator Virtualization in Cloud-Edge Computing for Deep Learning Libraries
边缘计算提供了一个独特的优势,即利用位于网络边缘的资源上的计算能力来运行相对较弱的用户设备的工作负载。这是通过将计算密集型工作负载(例如深度学习)从用户设备卸载到边缘来实现的。使用边缘减少了应用程序的整体通信延迟,因为工作负载可以在更靠近用户设备上生成数据的地方进行处理,而不是将它们发送到地理上遥远的云。专用硬件加速器,如云边缘网络中可用的图形处理单元(GPU),可以增强从设备卸载到边缘的计算密集型工作负载的性能。促进这一点所需的底层方法是GPU的虚拟化。因此,本文着手研究GPU加速器虚拟化在云边缘环境中提高深度学习工作负载性能的潜力。AVEC加速器虚拟化框架的建议,招致最小的开销,不需要源代码修改的工作负载。AVEC拦截对设备上GPU的本地调用,并将其无缝转发到边缘资源。AVEC的可行性在现实世界的应用程序上得到了证明,即使用Caffe深度学习库的OpenPose。据观察,在基于实验室的实验测试台上,AVEC提供了高达7.48倍的加速,尽管由于数据传输而产生的通信开销。
2021-03-08 cs.DC cs.NI
CoEdge: Cooperative DNN Inference with Adaptive Workload Partitioning over Heterogeneous Edge Devices
Sun Yat-sen University(中山大学);University of Nevada, Reno(内华达大学里诺分校);Arizona State University(亚利桑那州立大学)
人工智能的最新进展已经推动了网络边缘的智能应用,例如灵巧家庭、智能工厂和智能城市。为了在资源受限的边缘设备上部署计算密集型深度神经网络(DNN),传统方法依赖于将工作负载卸载到远程云或在本地优化终端设备的计算。然而,云辅助的方法受到不可靠和延迟显著的广域网,和本地计算方法受到限制的计算能力。协同执行机制为实现高性能边缘智能提供了一种新的范式,近年来引起了越来越多的研究兴趣。在本文中,我们提出了CoEdge,这是一个分布式DNN计算系统,可以在异构边缘设备上协调协作DNN推理。CoEdge利用边缘的可用计算和通信资源,并根据设备的计算能力和网络条件动态划分DNN推理工作负载。基于实际原型的实验结果表明,CoEdge算法在推理延迟接近的情况下,比现有算法具有更好的节能效果,对4种广泛采用的CNN模型,其能耗降低幅度可达25.5%~66.9%.
2020-12-06 cs.CV cs.DC cs.NI
Update for Decisions, Not Freshness: Goal-Oriented Status Updating and Selective Offloading at the Network Edge
该研究针对边缘计算环境中状态更新与任务决策的异步问题,提出CoSMO框架,通过协作式强化学习实现语义状态管理与任务卸载的协同,显著提升了任务准时完成率和容量感知决策准确率。
2026-09-02 cs.DC cs.MA cs.NI
Cost-effective Machine Learning Inference Offload for Edge Computing
边缘计算越来越重要,因为会产生大量数据。这给将所有数据传输到远程数据中心和云带来了挑战,在那里可以处理和分析这些数据。另一方面,如果能够缓解设备功能、连接性和异构性等挑战,则利用边缘数据对于提供数据驱动和基于机器学习的应用程序至关重要。机器学习应用是非常计算密集型的,并且需要处理大量数据。然而,边缘设备通常在计算资源、电力、存储和网络连接方面受到资源约束。因此,限制了它们有效和准确地运行最先进的深度神经网络(DNN)模型的潜力,这些模型变得越来越大,越来越复杂。本文提出了一种新的卸载机制,利用安装基地的本地(边缘)计算资源。所提出的机制允许边缘设备将繁重的计算密集型工作负载卸载到边缘节点,而不是使用远程云。我们的卸载机制已经过原型设计,并使用最先进的人和目标检测DNN模型进行了测试,用于移动机器人和视频监控应用。在准确性和延迟方面,与基于云的卸载策略相比,性能显示出显着的增益。
2020-12-07 cs.DC cs.LG cs.RO
Distributed Ledger Technologies for Managing Heterogenous Computing Systems at the Edge
物联网(IoT)设备(从基本传感器到强大的嵌入式计算机)的使用越来越多,推动了对更接近这些设备的信息处理和存储解决方案的需求。边缘计算已被确立为开发物联网解决方案的标准架构,因为它可以通过在信息生产和消费的地方附近部署必要的计算能力来优化依赖云服务的系统的工作负载和容量。然而,随着网络规模的扩大,达成共识成为一项越来越具有挑战性的任务。分布式账本技术(DLT)可以被描述为包含加密技术的分布式数据库网络,可以用来实现参与者之间的共识。近年来,由于区块链的普及,DLT获得了吸引力,区块链是最知名的实现类型。通过透明和可追踪的交易实现的可靠性和信任是将物联网和DLT结合在一起的其他关键概念。我们提出了一个概念验证系统的设计,开发和实验,该系统使用DLT智能合约来有效地选择边缘节点来卸载计算任务。特别是,我们将智能合约中的网络性能指标与Hyperledger区块链集成在一起,以优化动态连接解决方案下的计算卸载。所提出的方法可以适用于不同的拓扑结构和不同的连接方式的网络。我们的研究结果表明,区块链智能合约适用于各种工业用例。
2022-11-14 cs.DC
Edge-as-a-Service: Towards Distributed Cloud Architectures
我们提出了一个边缘即服务(EaaS)平台,用于实现分布式云架构并将网络边缘集成到计算生态系统中。EaaS平台的基础是(i)一个轻量级的发现协议,用于识别边缘节点并使其在计算环境中公开访问,以及(ii)一个可扩展的资源配置机制,用于将工作负载从云卸载到边缘,以服务多个用户请求。我们在一个在线游戏用例上验证了EaaS的可行性,以突出在我们的云边缘平台上托管的应用程序的QoS的改进。在这个平台上,我们展示了(i)低于6%的低开销,(ii)减少了高达95%的云数据流量,(iii)最大限度地减少了40%-60%的应用程序延迟。
2017-10-27 cs.DC
Armada: A Robust Latency-Sensitive Edge Cloud in Heterogeneous Edge-Dense Environments
边缘计算通过利用数据邻近性并将延迟敏感和计算密集型工作负载卸载到附近的边缘服务器来实现大量新兴边缘应用程序。然而,由于有限的接入点边缘站点和受限的弹性,在广域环境中大规模支持边缘应用用户带来了挑战。在本文中,我们介绍了Armada:一个密集分布的边缘云基础设施,它探索了在异构环境中使用专用和志愿者资源为地理分布的用户提供服务。我们描述了轻量级的Armada架构和优化技术,包括性能感知的边缘选择,边缘上的自动扩展和负载均衡,容错和原位数据访问。我们在真实世界的志愿者环境和模拟平台上评估了Armada,以展示常见的边缘应用程序,即实时目标检测和人脸识别,可以轻松地部署在Armada上,以低延迟的方式为分布式用户提供大规模服务。
2021-11-23 cs.DC
Trustworthy Edge Computing through Blockchains
边缘计算最近吸引了很多研究兴趣,因为通过将许多工作负载从远程数据中心卸载到附近的边缘节点来提高性能。尽管如此,这种新兴模式的一个公开挑战在于边缘节点和终端设备上的潜在安全问题,例如,传感器和控制器。本文提出了一种合作协议,即DEAN,跨边缘节点,以防止数据操纵,并允许公平的数据共享与快速恢复有限的存储,计算和网络容量的资源约束下。具体而言,DEAN利用配备三个独立核心组件的并行机制,有效地实现低资源消耗,同时允许边缘节点上的安全并行块处理。我们已经实现了一个基于DEAN的系统原型,并通过与三种流行的区块链实现(以太坊,Parity和Hyperledger Fabric)进行比较,实验验证了其有效性。实验结果表明,该系统原型对任意故障具有很高的恢复能力,在大多数情况下,可信节点的百分比远高于所需的50%.基于DEAN的区块链实现在性能方面优于最先进的区块链系统,在1,000个节点上具有高达$25\times$的更高吞吐量和更低的$18\times$延迟。
2020-05-15 cs.DC
From LLM Inference to Agentic Workloads: Characterization and Implications for Serving Systems
Hong Kong University of Science and Technology(香港科技大学);Alibaba Group(阿里巴巴集团);Bytedance(字节跳动)
本文提出AgentSysBench基准套件,分析智能体工作负载与传统LLM服务的6项差异,据此开展的4项设计探索可实现延迟降低、效率提升、内存减少及冗余调用节省等效果。
2026-08-18 cs.AI cs.DC cs.MA
FedFly: Towards Migration in Edge-based Distributed Federated Learning
University of St Andrews(圣安德鲁斯大学);Queen’s University Belfast(贝尔法斯特女王大学);Rakuten Mobile(乐天移动)
联邦学习(FL)是一种隐私保护的分布式机器学习技术,它在训练模型的同时将设备上生成的所有原始数据保存在本地。由于设备可能是资源受限的,因此可以使用卸载来通过将计算工作负载从设备转移到边缘服务器来提高FL性能。然而,由于移动性,参与FL的设备可能会在训练期间离开网络,并且需要连接到不同的边缘服务器。这是具有挑战性的,因为从边缘服务器卸载的计算需要迁移。根据这一论断,我们提出了FedFly,据我们所知,这是在FL训练期间设备在边缘服务器之间移动时迁移深度神经网络(DNN)的第一项工作。我们在CIFAR10数据集上的经验结果,包括平衡和不平衡的数据分布,支持我们的说法,即当设备在完成50%的训练后移动时,FedFly可以减少多达33%的训练时间,当90%的培训完成时,与国家相比,FedFly的最多两秒的开销可以忽略不计,并且不会影响准确性。最后,我们强调了一些开放的研究问题,以进一步调查。FedFly可以从https://github.com/qub-blesson/FedFly下载。
2022-07-14 cs.DC cs.LG
Rethinking Inference Placement for Deep Learning across Edge and Cloud Platforms: A Multi-Objective Optimization Perspective and Future Directions
本文从多目标优化视角综述了跨边缘与云平台的深度学习推理放置方法,权衡推理延迟、数据隐私和资源成本,并指出未来研究方向。
2025-10-27 cs.AI cs.DC cs.PF
Towards Resilience: Slice-Driven Orchestration of Mobile IoMT in 6G-Edge-Continuum
Centre for Wireless Communications(无线通信中心);University of Oulu(奥卢大学)
针对6G-边缘连续体中移动IoMT编排的资源与动态适配问题,提出集成5G网络切片等技术的自适应框架,经SimPy仿真验证可提升服务部署效率并改善IoMT服务性能。
2026-10-14 cs.AI cs.DC cs.NI
Socially Trusted Collaborative Edge Computing in Ultra Dense Networks
具有云计算能力的小型小区基站(SBS)被认为是边缘计算(EC)的关键推动者,其为各种新兴的移动应用和物联网提供超低延迟和位置感知。然而,由于单个SBS的计算资源有限,当其过载有过量的计算工作量时,向其用户提供高质量的计算服务面临着重大挑战。在本文中,我们提出了SBS之间的协作边缘计算,通过形成SBS联盟来共享计算资源,从而在边缘系统中容纳更多的计算工作量,并减少对远程云的依赖。针对小小区边缘系统中无线接入和计算服务的联合提供、合作激励以及潜在的安全风险等新挑战,提出了一种基于联盟博弈理论的SBS联盟形成算法.为了解决这些挑战,所提出的方法(1)通过利用SBS的超密集部署来允许在用户-SBS关联阶段和SBS对等卸载阶段的协作,(2)开发基于支付的激励机制,该激励机制实现按比例公平的效用划分以形成稳定的SBS联盟,以及(3)建立社会信任网络以管理由于协作而引起的SBS之间的安全风险。在实际场景中进行了系统的模拟,以评估所提出的方法的有效性和性能,这表明可以实现巨大的边缘计算性能的改善。
2017-05-11 cs.DC cs.GT
Gleam: Adaptive Network-Efficient CUDA API Remoting for Cross-Device GPU Sharing over LANs
Shanghai Jiao Tong University(上海交通大学);Lenovo Information Products (Shenzhen) Ltd(联想信息产品(深圳)有限公司);Lenovo (Beijing) Ltd(联想(北京)有限公司)
研究旨在实现局域网内跨设备GPU共享以促进AI推理,提出Gleam框架,通过自动模型权重缓存、异步执行、设计运行时任务调度器及确保上下文一致性等方法,提升API远程调用效率和系统吞吐量,性能优于现有基线。
2026-07-28 cs.DC cs.LG
Edge Robotics: Edge-Computing-Accelerated Multi-Robot Simultaneous Localization and Mapping
School of Computer Science and Engineering, Sun Yat-sen University(中山大学计算机科学与工程学院)
随着智能机器人在各个领域的广泛渗透,机器人技术中的同时定位与地图构建(SLAM)技术越来越受到关注。然而,由于SLAM的密集图形计算和机器人有限的计算能力之间的性能矛盾,在多个机器人上协作SLAM仍然具有挑战性。虽然传统的解决方案求助于强大的云服务器作为外部计算提供商,但我们通过实际测量表明,数据卸载中的显着通信开销阻止了其对实际部署的实用性。为了应对这些挑战,本文将新兴的边缘计算范式推广到多机器人SLAM中,并提出了RecSLAM,这是一种多机器人激光SLAM系统,专注于在机器人-边缘-云架构下加速地图构建过程。与传统的多机器人SLAM不同,RecSLAM开发了一种分层地图融合技术,将机器人的原始数据引导到边缘服务器进行实时融合,然后发送到云端进行全局融合。为了优化整体流水线,引入了一种高效的多机器人SLAM协同处理框架,自适应地优化机器人到边缘的卸载,以适应异构边缘资源条件,同时确保边缘服务器之间的工作负载平衡。广泛的评估表明,RecSLAM可以实现高达39%的处理延迟减少比最先进的。此外,概念验证原型的开发和部署在真实场景中,以证明其有效性。
2022-01-24 cs.AI cs.DC cs.NI
Accelerating AIGC Services with Latent Action Diffusion Scheduling in Edge Networks
BNU-HKBU United International College(北师港浸会联合国际学院);Hong Kong Baptist University(香港浸会大学);Institute of Artificial Intelligence and Future Networks, Beijing Normal University(北京师范大学人工智能与未来网络研究院)
针对边缘网络中AIGC服务高延迟问题,提出基于潜在动作扩散的任务调度方法LAD-TS及原型系统DEdgeAI,通过结合扩散模型与强化学习优化多服务器间的卸载决策,实现最高29.18%的延迟降低。
2026-11-10 cs.DC cs.LG
Priority-based Fair Scheduling in Edge Computing
调度在边缘计算中很重要。与云相比,边缘资源受到硬件限制,无法支持工作负载驱动的基础设施扩展。因此,边缘的资源分配和调度需要全新的视角。现有的边缘调度研究假设所有需要的资源,只要一个作业请求的可用性。本文挑战了这一假设,因为并非所有来自云服务器的作业请求都可以在边缘节点上调度。因此,保证客户端之间的公平性(云服务器卸载作业),同时考虑作业的优先级成为一项关键任务。本文提出了四种调度技术,第一种是一个天真的先来先服务的策略,并进一步提出了三种策略,即客户端公平,优先级公平,和混合帐户的公平客户端和作业优先级。在三种不同的情况下,即平等的,随机的,高斯作业分布的目标平台上的评估。实验研究突出了较低的开销和分配的边缘节点上的调度作业相比,天真的策略。结果证实了混合策略的优越性能,并展示了边缘计算公平竞争的可行性。
2020-01-24 cs.DC cs.NI
Edge-Based QoS-Aware Adaptive Task Placement: A Closed-Loop Control in Multi-Robot Systems
Deakin University(德肯大学);RMIT University(皇家墨尔本理工大学);Zhejiang University(浙江大学);Swinburne University of Technology(西姆伯恩理工大学)
提出一种QoS感知的自适应任务放置(ATP)控制器,通过多指标成本评分和闭环控制,在共享边缘节点上动态切换任务放置,以降低尾延迟和截止时间违规。
2026-07-28 cs.DC cs.NI cs.OS