Network Edge Inference for Large Language Models: Principles, Techniques, and Opportunities
Queen Mary University of London(伦敦大学玛丽女王学院);Xidian University(西安电子科技大学);Southeast University(东南大学);Kyung Hee University(庆熙大学);Nanyang Technological University(南洋理工大学)
本文探讨了大型语言模型在边缘网络中的推断挑战,综述了系统架构、模型优化与资源管理等最新进展,旨在提升边缘环境下的LLM性能。
2026-04-24 cs.DC
Reinventing High Performance Computing: Challenges and Opportunities
计算世界正处于快速转型期,目前由智能手机和云服务主导,这对先进科学计算的未来产生了深远的影响。简而言之,高性能计算(HPC)正处于一个重要的转折点。在过去的60年里,世界上最快的超级计算机几乎都是在美国生产的,用于国家实验室的科学研究。变革即将来临。虽然成本现在已经超出了美国政府对先进计算的资助范围,但日本和中国现在是由政府授权资助的定制HPC系统的领导者。与此同时,全球半导体短缺和围绕制造设施的政治斗争影响着每个人。然而,另一个可能更深刻的根本性变化已经发生。主要的云计算供应商已经投资于大规模系统的全球网络,使当今的HPC系统相形见绌。在人工智能计算需求的推动下,这些云系统越来越多地使用定制半导体构建,从而降低了传统计算供应商的财务杠杆。这些云系统正在打破游戏和计算机视觉的障碍,重塑我们对科学计算本质的看法。构建下一代领先的HPC系统需要重新思考许多基础和历史方法,包括端到端协同设计、定制硬件配置和封装、大规模原型设计(如30年前常见的那样)以及与占主导地位的计算生态系统公司、智能手机和云计算供应商的合作伙伴关系。
2022-03-04 cs.DC
Heterogeneous FPGA+GPU Embedded Systems: Challenges and Opportunities
边缘计算范式已经出现,以处理云计算问题,例如可扩展性,安全性和低响应时间等。这种新的计算趋势严重依赖于无处不在的边缘嵌入式系统。性能和能耗是设计此类系统时应考虑的两个主要因素。本文从性能和能耗两个方面研究了由嵌入式FPGA和GPU(作为加速器)组成的异构嵌入式系统为应用提供的机遇和挑战。我们研究三个设计,建模和调度的挑战,在整个文件。我们还提出了三种技术来应对这三个挑战。将所提出的技术应用于图像直方图、密集矩阵-向量乘法和稀疏矩阵-向量乘法三个应用,当FPGA和GPU并行执行相应的应用时,性能和能耗分别提高了1.79倍和2.29倍。
2019-01-25 cs.DC
When Services Computing Meets Blockchain: Challenges and Opportunities
服务计算可以通过封装各种计算基础设施来提供一个高层次的抽象来支持不同的应用。虽然服务计算极大地提高了开发人员的生产力,但它面临着三个主要挑战:隐私和安全风险,信息孤岛以及定价机制和激励。区块链的最新进展为解决服务计算的挑战带来了机遇,因为它内置了加密和数字签名方案,分散特征和内在激励机制。在本文中,我们提出了一项调查,调查区块链与服务计算的集成。区块链与服务计算的结合主要体现在两个方面:i)区块链可以潜在地解决服务计算的关键挑战; ii)服务计算也可以促进区块链的发展。特别是,我们将当前基于区块链的服务计算文献分为五种类型:服务创建,服务发现,服务推荐,服务组合和服务仲裁。此外,我们概括了区块链即服务(BaaS)架构,并总结了具有代表性的BaaS平台。此外,我们还概述了基于区块链的服务计算和BaaS的开放问题。
2020-12-08 cs.CR cs.DC
Rethinking High Performance Computing Platforms: Challenges, Opportunities and Recommendations
一类新的第二代高性能计算应用具有异构性、动态性和数据密集性的特性,其需求扩展到应用部署、资源分配、控制和I/O调度。当前的生产HPC平台模型和策略无法满足这些要求。这导致新的计算方法和工具的机会、生产力和创新的损失。它还降低了平台提供商的有效系统利用率,因为在应用程序空间中实现了无监督的解决方案和流氓资源管理策略。在本文中,我们批判性地讨论了占主导地位的HPC平台模型,并描述了第二代应用程序,因为它的不对称的资源视图,接口和软件部署策略所带来的挑战。我们提出了一个扩展的,更对称和以应用程序为中心的平台模型,增加了分散部署,内省,双向控制和信息流和更全面的资源调度。我们描述cHPC:基于Linux容器(LXC)的非中断实现的早期原型。它可以与现有的批处理排队系统一起运行,并公开一个对称平台API,而不会干扰现有的应用程序和使用模式。我们认为我们的方法是HPC平台发展的一个可行的、渐进的下一步,使应用程序和平台提供商都受益。为了进一步证明这一点,我们为未来的研究和实验评估制定了路线图。
2017-02-27 cs.DC
Realizing Edge Marketplaces: Challenges and Opportunities
网络的边缘有可能托管服务,以支持各种用户应用程序,从数据预处理,图像和视频渲染,交互式游戏到自动驾驶汽车和建筑环境中的嵌入式系统。然而,托管这些服务的计算和数据资源,以及与这些服务交互的参与者,具有间歇性的可用性和访问配置文件,为必须依赖它们的用户应用程序引入了重大风险。本文研究了边缘市场的发展,它能够支持多个提供商在网络边缘提供服务,并使需求供应影响这样一个市场的运作。弹性、成本、服务服务质量和体验将随后使这样的市场能够随着时间的推移而调整其服务。本文还介绍了分布式账本技术(如区块链)如何提供一种有前途的方法来支持这样一个市场的运作,并规范其行为(如欧洲的GDPR)和运营。两个应用场景为讨论这样的市场将如何运作和在实践中使用提供了背景。
2018-12-04 cs.DC
Hybrid Serverless Computing: Opportunities and Challenges
近年来,由于易于部署,有吸引力的按使用付费定价和透明的水平自动扩展,无服务器计算的采用激增。与此同时,基础设施的进步,如5G网络的出现和连接到互联网(称为物联网(IoT))的设备的爆炸式增长,以及限制计算和数据发生的新应用程序需求,将使云计算的范围从传统的数据中心扩展到混合云。疫情导致的数字化转型加速了劳动力的变化,并刺激了人工智能的进一步采用,预计将加速,新兴的混合云市场可能扩大到超过万亿美元。在混合云环境中,在无服务器租户的推动下,将越来越需要专注于为使用分布式平台(包括公共云、私有云和边缘系统)的应用程序构建者实现高效工作。在本章中,我们将探讨无服务器计算可以扩展到何种程度,以成为混合无服务器计算。
2022-09-14 cs.DC cs.SE
Revenue Maximization Approaches in IaaS Clouds: Research Challenges and Opportunities
创收是任何企业的主要关注点,特别是在云计算中,提供商和消费者之间没有直接的互动。云计算是当今企业的新兴核心,然而,其与传统市场的复杂性(例如,安装和迁移)是主要挑战。它赚得更多,但需要模范的表现和营销技能。近年来,云计算已经成为提供桌面服务的成功范例。预计到2023年将投资超过3310亿美元,同样,预计将有510亿台设备连接到云。基础设施即服务(IaaS)提供物理资源(例如,计算、内存、存储和网络)作为VM实例。在本文中,主要的收入因素被归类为SLA和惩罚管理,资源可扩展性,客户满意度和管理,资源利用和供应,成本和价格管理,广告和拍卖。这些参数进行了详细的研究,并发现了新的动力学研究人员在该领域的云。
2020-04-24 cs.DC
Supporting UAVs with Edge Computing: A Review of Opportunities and Challenges
本文系统综述了边缘计算辅助无人机的研究现状,指出边缘服务器可提升任务完成速度、能效和可靠性,并梳理了关键应用领域与挑战。
2023-10-18 cs.DC eess.SP
Genetic-based optimization in Fog Computing: current trends and research opportunities
雾计算是一种新的计算范式,它源于减少物联网(IoT)中网络使用和延迟的需求。雾可以被认为是云层和物联网用户之间的连续体,允许在网络基础设施设备中执行应用程序或存储/处理数据。雾设备的异构性和更广泛的分布是云和雾基础设施之间的主要区别。基于遗传的优化通常用于分布式系统;然而,雾计算的差异化特征需要新的设计,研究和实验。在基于遗传的雾资源优化领域的研究不断增加,在这一领域缺乏以前的分析,鼓励我们提出一个全面的,详尽的,系统的审查最新的研究工作。研究和分析了雾中的资源优化技术,特别强调了基于遗传的解决方案及其特点和设计方案。我们定义了雾基础设施中优化范围的分类,并使用此优化分类法对本次调查中的70篇论文进行分类。随后,根据遗传优化设计对论文进行了评估。最后,本文概述了每项调查工作的优点和局限性。在此基础上,提出了今后的研究方向。我们的结论是,需要更多的研究工作,以解决当前的挑战,在数据管理,工作流调度和服务放置。此外,仍然有改进的设计和部署的并行和混合遗传算法,利用和适应,雾域的异构性和分布式功能的空间。
2022-05-13 cs.DC
Mobile Edge Cloud: Opportunities and Challenges
移动边缘云是物联网和灵巧家庭、智能视频监控等网络物理系统应用的新兴技术。在灵巧家庭中,部署各种传感器以监测家庭环境和个人的生理健康。传感器收集的数据被发送到应用程序,在应用程序中,许多用于情感和情绪检测、活动识别和情况管理的算法被应用于提供医疗保健和紧急相关服务,并管理家中的资源。这些算法的执行需要大量的计算和存储资源。为了解决这个问题,传统的方法是将收集的数据发送到互联网云上的应用程序。这种方法具有几个问题,例如高通信延迟、通信能耗和到核心网络的不必要的数据流量。为了克服传统的基于云的方法的缺点,提出了一种称为移动边缘云的新系统。在移动边缘云中,通过无线局域网互连的多个移动设备和固定设备被组合在一起,在家庭等本地物理区域创建小型云基础设施。与传统的移动分布式计算系统相比,移动边缘云由于其异构的计算环境、异构的动态网络环境、节点的移动性以及有限的电池电量而带来了一些复杂的挑战。与物联网和网络物理系统应用相关的实时要求使这个问题更具挑战性。在本文中,我们描述了与移动边缘云系统的设计和开发相关的应用和挑战,并提出了一种基于跨层设计方法的架构,以实现有效的决策。
2018-11-03 cs.DC
PI-Edge: A Low-Power Edge Computing System for Real-Time Autonomous Driving Services
为了在经济实惠的嵌入式系统上同时实现多个自动驾驶服务,我们设计并实现了π-Edge,这是一个用于自动驾驶机器人和车辆的完整边缘计算框架。本文的贡献有三个方面:首先,我们开发了一个运行时层,以充分利用低功耗边缘计算系统的异构计算资源;其次,我们开发了一个极其轻量级的操作系统,以管理多个自动驾驶服务及其通信;第三,我们开发了一个边缘云协调器,以动态地将任务卸载到云端,以优化客户端系统的能耗。据我们所知,这是第一个完整的自动驾驶汽车边缘计算系统。此外,我们成功地在Nvidia Jetson上实现了π-Edge,并证明我们可以成功地支持多种自动驾驶服务,仅需11 W的功耗,从而证明了所提出的π-Edge系统的有效性。
2018-12-29 cs.DC
Modeling and Simulation of Scalable Cloud Computing Environments and the CloudSim Toolkit: Challenges and Opportunities
云计算旨在为下一代数据中心提供动力,并使应用程序服务提供商能够根据用户QoS(服务质量)要求租用数据中心功能以部署应用程序。云应用程序具有不同的组成、配置和部署要求。在云计算环境中,针对不同的应用和服务模型,在不同的负载、能量性能(功耗、散热)和系统规模下,对资源分配策略和应用调度算法的性能进行量化是一个具有挑战性的问题。为了简化这一过程,在本文中,我们提出CloudSim:一个可扩展的仿真工具包,使建模和模拟的云计算环境。CloudSim工具包支持在数据中心的模拟节点上建模和创建一个或多个虚拟机(VM)、作业及其到合适VM的映射。它还允许模拟多个数据中心,以研究虚拟机迁移的联合和相关策略,从而实现应用程序的可靠性和自动扩展。
2009-07-28 cs.DC cs.NI
Proactive Autoscaling for Edge Computing Systems with Kubernetes
随着物联网和5G技术的出现,边缘计算范式正在发挥越来越重要的作用,具有更好的可用性,延迟控制和性能。然而,现有的边缘计算应用程序自动扩展工具无法有效利用边缘系统的异构资源,从而留下了性能改进的空间。在这项工作中,我们提出了一个用于Kubernetes上边缘计算应用程序的主动Pod自动缩放器(PPA)。所提出的PPA能够使用多个用户定义/定制的指标提前预测工作负载,并相应地向上和向下扩展边缘计算应用程序。PPA进一步在示例CPU密集型边缘计算应用程序上进行优化和评估。可以得出结论,所提出的PPA在资源利用效率和应用程序性能方面都优于Kubernetes的默认pod自动缩放器。文章还强调了未来可能对拟议的PPA进行的改进。
2021-12-19 cs.DC
Optimal Edge User Allocation in Edge Computing with Variable Sized Vector Bin Packing
在移动边缘计算中,边缘服务器在地理上分布在靠近最终用户的基站周围,以提供高度可访问和高效的计算能力和服务。在移动边缘计算环境中,服务提供商可以在租用的边缘服务器上部署其服务,以减少分配给那些边缘服务器的其最终用户所经历的端到端服务延迟。最佳部署必须最大化分配的最终用户数量,最小化租用的边缘服务器数量,同时确保最终用户所需的服务质量。在本文中,我们将边缘用户分配(EUA)问题建模为装箱问题,并介绍了一种基于词典目标规划技术的新型最佳方法来解决EUA问题。我们已经进行了三个系列的实验,以评估所提出的方法对两个有代表性的基线方法。实验结果表明,我们的方法显着优于其他两种方法。
2019-04-11 cs.DC
Resource Management in Fog/Edge Computing: A Survey
与使用远程和集中的云数据中心资源相反,在网络边缘采用分散的资源来处理更靠近用户设备(例如智能手机和平板电脑)的数据是即将到来的计算范例,称为雾/边缘计算。与云相比,雾/边缘资源通常是资源受限的、异构的和动态的,从而使资源管理成为需要解决的重要挑战。本文回顾了早在1991年的出版物,其中85%的出版物在2013-2018年之间,以识别和分类雾/边缘计算中管理资源的架构,基础设施和底层算法。
2018-09-30 cs.DC
A Review on Edge Analytics: Issues, Challenges, Opportunities, Promises, Future Directions, and Applications
National Institute of Technology Silchar(锡尔查尔国家理工学院);Ericsson(爱立信)
边缘技术旨在将云资源(特别是计算、存储和网络)带到边缘设备附近,即,生产和消费数据的智能设备。将计算和应用嵌入到边缘设备中,导致边缘技术中出现了两个新概念,即边缘计算和边缘分析。边缘分析使用一些技术或算法来分析边缘设备生成的数据。随着边缘分析的出现,边缘设备已经成为一个完整的集合。目前,边缘分析无法为分析技术的执行提供全面支持。边缘设备无法执行先进和复杂的分析算法,受到各种限制,如有限的电源,小内存大小,有限的资源等,本文旨在提供关于边缘分析的详细讨论。明确解释边缘技术的三个概念,即边缘设备,边缘计算和边缘分析,以及它们的问题。此外,本文还讨论了边缘分析的实施,以解决零售、农业、工业和医疗保健等各个领域的许多问题。此外,本文还对最新边缘分析的研究论文进行了严格的回顾,以探讨存在的问题,新出现的挑战,研究机会及其方向和应用。
2021-07-01 cs.AI cs.DB cs.DC
Interactive and Urgent HPC: Challenges and Opportunities
本文综述交互式与紧急 HPC 的发展现状,探讨其策略、技术与工艺进一步融入 HPC 生态系统所面临的挑战和机遇。
2024-01-25 cs.DC
DHT-based Edge and Fog Computing Systems: Infrastructures and Applications
为了支持延迟要求低于云数据中心所能提供的新出现的应用程序,边缘和雾计算范式已经兴起。在这样的系统中,实时即时数据被处理得更靠近网络边缘,而不是远程数据中心。随着边缘和雾计算系统的发展,基于分布式哈希表(DHT)的新型高效解决方案应运而生,并在系统设计中发挥着关键作用。已经提出了几种基于DHT的解决方案,以增强边缘和雾计算基础设施的可扩展性和效率,或者实现特定于应用程序的功能,例如任务和资源管理。本文首次从基础设施和应用的角度对边缘和雾计算系统中最先进的基于DHT的架构进行了全面研究。此外,本文详细介绍了开放的问题,并讨论了未来的研究方向,基于DHT的边缘和雾计算系统。
2022-11-10 cs.DC
Edge Computing in the Dark: Leveraging Contextual-Combinatorial Bandit and Coded Computing
随着边缘计算能力的最新发展,利用边缘云进行事件驱动和时间敏感计算的情况显著增加。然而,大规模边缘计算网络可能会受到不可预测和不可靠的计算资源的严重影响,这可能导致服务质量的高度可变性。因此,设计有效的任务调度策略以保证服务质量和计算查询的及时性是至关重要的。在本文中,我们研究了在未知的边缘云网络上的计算卸载的问题与一系列及时的计算作业。受MapReduce计算范式的启发,我们假设每个计算作业都可以划分为在边缘处理的较小Map函数,并且在从边缘节点收集Map结果之后在用户处计算Reduce函数。我们将每个边缘设备的服务质量(在截止日期内将结果返回给用户的成功概率)建模为上下文(影响边缘设备的因素的集合)的函数。用户决定要卸载到每个设备的计算,目标是在给定的最后期限内接收一组可恢复的计算结果。我们的目标是在黑暗中设计一个高效的边缘计算策略,而不需要了解每个设备的上下文或计算能力。通过利用\emph{coded computing}框架,以解决计算中的故障或掉队者,我们制定了这个问题,使用上下文组合多武装土匪(CC-MAB),并旨在最大化的累积预期奖励。我们提出了一个在线学习策略称为\emph{online coded edge computing policy},可证明达到渐进最优性能的遗憾损失相比,建议CC-MAB问题的最佳离线政策。
2021-03-04 cs.DC
Proceedings of the 2015 International Workshop on the Lustre Ecosystem: Challenges and Opportunities
Lustre并行文件系统作为管理大规模存储资源的有效系统,已被高性能计算(HPC)中心广泛采用。Lustre通过并行化文件系统客户端和存储目标上的I/O,实现了前所未有的聚合性能。如今,世界上10台最快的超级计算机中有7台使用Lustre进行高性能存储。到目前为止,Lustre的开发一直专注于提高大规模科学工作负载的性能和可扩展性。特别是,大规模的检查点存储和检索,其特点是来自协调并行客户端的突发I/O,一直是过去十年来Lustre开发的主要驱动力。随着超大规模计算和大数据计算的出现,许多HPC中心都看到用户对运行各种工作负载的兴趣越来越大,这对Lustre提出了新的要求。2015年3月,“光泽生态系统:挑战与机遇”国际研讨会在马里兰州安纳波利斯市的安纳波利斯州长卡尔弗特故居历史酒店举行。本研讨会系列旨在帮助探索Lustre的性能和灵活性方面的改进,以支持各种应用程序工作负载。2015年的研讨会是首届研讨会,其目标是就与增强Lustre的各种应用相关的开放性挑战、必要的技术进步以及对Lustre生态系统的相关影响展开讨论。研讨会计划包括一天的教程和一天的技术论文演示。
2015-06-17 cs.DC
A Dynamic Distributed Scheduler for Computing on the Edge
本文提出一种持续感知边缘计算环境状态的动态分布式调度器,通过实时调度异构任务以满足延迟、隐私等应用约束,并在真实AI应用评估中优于现有方法。
2023-08-13 cs.DC
Revisiting the Arguments for Edge Computing Research
本文认为,低延迟、高带宽、设备激增、可持续的数字基础设施以及数据隐私和主权继续推动边缘计算研究的需求,尽管其最初的概念是在十多年前制定的。
2021-06-23 cs.DC
EdgeKeeper: Resilient and Lightweight Coordination for Mobile Edge Computing Systems
移动边缘计算(MEC)已经获得了第一响应者和战术团队的极大兴趣,主要是因为他们可以在与云的连接不存在或有限时使用手持移动设备来形成计算集群(用于计算任务,如面部/场景识别,虚拟辅助)。第一响应者或战术环境中的高用户移动性使得MEC具有挑战性,因为无线链路观察到显著的波动。典型的基于云的协调(例如,边缘计算任务所需的基于ZooKeeper的服务发现和协调,设备命名,安全性)无法在这些环境中工作。驱动的弹性和轻量级的协调服务的需要,在本文中,我们设计和实现\ek提供云协调MEC系统。它为分布式边缘计算应用提供命名、网络管理、应用协调和安全性。它在设备之间维护边缘集群,并智能地将其数据存储在一组副本上,以防止节点故障和断开连接。我们为Android和Linux平台提供EdgeKeeper的全系统实现。我们已经将EdgeKeeper与现有MEC应用程序集成,并在现场急救人员进行的广域搜索和救援行动中进行了真实世界的性能评估,这证明它是轻量级的,适合移动设备。
2022-04-23 cs.DC
Proactive and Reactive Autoscaling Techniques for Edge Computing
The University of Melbourne(墨尔本大学)
针对边缘计算中微服务架构需满足严格SLA但现有自动扩缩容算法存在性能与配置复杂性问题,本章概述边缘计算架构并探讨用于满足SLA的扩缩容算法研究及其优缺点。
2025-10-11 cs.DC
A Time-driven Data Placement Strategy for a Scientific Workflow Combining Edge Computing and Cloud Computing
与传统的分布式计算环境(如网格)相比,云计算提供了一种更具成本效益的方式来部署科学工作流。科学工作流的每个任务都需要多个大型数据集,这些数据集位于来自云计算环境的不同数据中心,导致严重的数据传输延迟。边缘计算降低了数据传输延迟,支持科学工作流私有数据集的固定存储方式,但其存储容量存在瓶颈。如何结合边缘计算和云计算的优势,合理安排科学工作流程的数据布局,优化不同数据中心之间的数据传输时间,是一个挑战。传统的数据布局策略在给定的节点数下保持负载均衡,导致数据传输时间较长。提出了一种基于遗传算法算子的自适应离散粒子群优化算法(GA-DPSO),用于优化科学工作流中的数据传输时间。该方法考虑了边缘计算和云计算相结合的数据放置特征。此外,还考虑了边缘节点带宽、边缘节点数量、边缘节点存储容量等因素对传输时延的影响。采用遗传算法的交叉算子和变异算子,避免了传统粒子群算法的早熟收敛,增强了种群进化的多样性,有效减少了数据传输时间。实验结果表明,基于GA-DPSO的数据放置策略能够有效减少边缘计算和云计算相结合的工作流执行过程中的数据传输时间。
2019-01-24 cs.DC
Distributed and Managed: Research Challenges and Opportunities of the Next Generation Cyber-Physical Systems
网络物理系统越来越依赖于分布式计算平台,其中感测、计算、致动和通信资源由众多应用共享。这种“网络物理云计算平台”提出了新的挑战,因为该系统是由移动嵌入式设备构建的,本质上是分布式的,并且通常受到模块之间高度波动的连接的影响。为这些系统构建软件提出了许多传统云计算中不存在的挑战。必须在不影响性能的情况下有效管理受限资源和应用程序隔离。必须以可验证的方式满足自主故障管理和实时性能要求。支持多个最终用户也是至关重要和具有挑战性的,这些最终用户的各种软件应用程序对计算和通信资源的需求不断变化,同时在不同的安全级别和不同的安全域中运行。本文提出的解决方案是基于一个分层的体系结构,包括一个新的操作系统,中间件层,和组件结构的应用程序。组件模型促进了从模块化和可重用组件构建软件应用程序,这些组件部署在分布式系统中,并且仅通过定义良好的机制进行交互。创建应用程序和执行系统集成的复杂性通过使用特定领域的模型驱动的开发过程来减轻,该过程依赖于特定领域的建模语言及其附带的图形建模工具,用于合成基础设施代码的软件生成器,以及广泛使用基于模型的分析进行验证和确认。
2017-09-30 cs.DC
Online Learning for Offloading and Autoscaling in Renewable-Powered Mobile Edge Computing
移动边缘计算(也称为雾计算)最近已经出现,以使得能够在移动网络的边缘处对延迟敏感的应用进行\emph{in-situ}处理。然而,提供支持移动边缘计算的电网供电成本高昂,甚至不可行(在某些崎岖或欠发达地区),因此在越来越多的情况下,要求现场可再生能源作为主要甚至唯一的电源。尽管如此,可再生能源的高不稳定性和不可预测性使得在可再生能源驱动的移动边缘计算系统中向用户提供高服务质量非常具有挑战性。在本文中,我们解决了将可再生能源纳入移动边缘计算的挑战,并提出了一种有效的基于强化学习的资源管理算法,该算法实时学习动态工作负载卸载(到集中式云)和边缘服务器配置的最佳策略,以最大限度地降低长期系统成本(包括服务延迟和运营成本)。我们的在线学习算法使用(离线)值迭代和(在线)强化学习的分解,从而实现了学习率和运行时性能的显着改善相比,标准的强化学习算法,如Q学习。
2016-09-16 cs.DC
Dependability in Edge Computing
边缘计算是将计算资源放置在互联网的边缘,靠近设备和信息源的实践。这就像CPU上的缓存一样,增加了带宽并减少了应用程序的延迟,但可能会以可靠性和容量为代价。这是因为这些边缘设备通常不像集中式服务器级云资源那样维护良好、可靠、强大或健壮。本文探讨了边缘计算领域的可靠性和部署挑战,当今技术可以解决哪些方面,以及哪些方面需要新的解决方案。解决的第一个问题是故障,包括硬故障(崩溃、挂起等)和软(与性能相关的)和实时约束违反。在这个领域,边缘计算通过减少端到端延迟来增强实时系统容量。然而,就像缓存未命中一样,过载或故障的边缘计算机可能会导致延迟超出可容忍的限度。其次,分散管理和设备篡改可能导致信任链和安全或隐私侵犯。身份验证、访问控制和分布式入侵检测技术必须从当前的云部署中扩展,并且需要针对边缘生态系统进行定制。第三个问题涉及在通常资源受限的边缘设备中处理多租户,以及需要标准化以允许跨供应商产品的互操作性。我们探讨了这三个广泛问题中的每一个的关键挑战,因为它们与边缘计算的可靠性有关,然后假设在这一领域有希望的工作途径。
2017-10-11 cs.DC
A Review of Quantum Cybersecurity: Threats, Risks and Opportunities
量子计算的前景并不是加速传统计算,而是为某些类别的问题提供指数优势,例如对网络安全具有深远的影响。随着量子计算机的出现和发展,网络空间安全在不久的将来肯定会成为互联网最关键的问题。相反,先进的量子技术有望改变网络安全。本研究旨在综合有关量子网络安全的基础和基础研究,这些研究可以作为基于系统研究的关键网络安全问题的威胁和解决方案。我们对当前最先进的量子计算和网络安全进行了全面、说明性的描述,并提出了迄今为止提出的方法。量子计算网络安全的研究结果表明,量子计算可以用于改善网络安全威胁,同时它对网络安全构成了最意想不到的威胁。这项系统调查的重点和深度不仅为量子和网络安全从业者和研究人员提供了有关该领域当前趋势的综合知识体系,而且还为该领域的进一步研究奠定了基础。
2022-07-07 cs.CR cs.DC
Blockchain for Edge of Things: Applications, Opportunities, and Challenges
近年来,区块链网络在加密货币以外的许多研究领域引起了人们的极大关注,其中之一就是通过边缘计算和物联网(IoT)的结合实现的边缘物联网(EoT)。在这种情况下,具有去中心化、不变性和可追溯性等独特功能的区块链网络有可能以更高的安全级别重塑和改造传统的EoT系统。特别是,区块链和EoT的融合导致了一种新的范式,称为BEoT,被认为是未来服务和应用的有前途的推动者。在本文中,我们对BEoT技术的最新发展进行了最新的回顾,并发现其在许多应用领域中的巨大机遇。我们通过提供区块链和EoT的最新介绍以及它们的最新进展来开始我们的调查。随后,我们讨论了BEoT在智能交通、智能城市、智能医疗、灵巧家庭和智能电网等广泛工业应用中的应用。讨论和分析了BEoT范式中的安全挑战,以及访问认证、数据隐私保护、攻击检测和信任管理等关键服务。最后,一些关键的研究挑战和未来的方向也突出了煽动在这个有前途的领域进一步研究。
2021-10-11 cs.CR cs.DC
Opportunities in a Federated Cloud Marketplace
最近的测量研究表明,有大规模分布式托管和计算基础设施部署在互联网上。这样的基础设施包括大型数据中心和组织的计算集群。当空闲时,这些资源可以随时为本地用户服务。这些用户可以是希望访问诸如远程桌面或CPU/带宽密集型活动之类的服务的智能手机或平板电脑用户。特别是,当他们可能有很高的延迟来访问,或者可能根本无法访问集中式云提供商时。然而,今天,没有一个全球市场可以让可用资源的卖家和买家进行交易。亚马逊和其他云基础设施最近推出的市场受到其自身基础设施的网络足迹以及目标国家和地区此类服务的可用性的限制。在本文中,我们讨论了联合云市场的潜力,在这个市场中,许多资源(包括存储、计算和网络带宽)的卖家和买家可以自由交易。这个生态系统可以通过充当服务水平监视器和拍卖者的经纪人进行监管。最后,我们讨论了这个领域的挑战和机遇。
2014-05-08 cs.DC cs.NI
Towards Edge General Intelligence via Large Language Models: Opportunities and Challenges
the University of Hong Kong(香港大学);Simon Fraser University(西蒙菲莎大学);McGill University(麦吉尔大学)
本综述探讨大型语言模型赋能的边缘通用智能(EGI),将其划分为集中式、混合式和去中心化三种体系,评估了边缘设备上小型语言模型的性能,为该领域发展奠定基础。
2025-03-06 cs.AI cs.DC cs.NI
Edge Computing: A Comprehensive Survey of Current Initiatives and a Roadmap for a Sustainable Edge Computing Development
边缘计算是一种新的分布式云计算模式,其中计算和存储能力被推到网络的拓扑边缘。然而,不同的倡议促进了各种标准和实施。在边缘计算参考架构模型的引导下,通过探索性内容分析来分析当前的举措。提供两个主要的贡献领域,我们提出,第一,目前的举措是如何表征,第二,可持续边缘计算的路线图可持续发展的三个方面,边缘计算的四个交叉关注。调查结果表明,大多数举措是国际组织的软件开发项目,目前的重要分支是电信和工业部门,最解决的是网络虚拟化层。该路线图揭示了边缘计算与可持续发展相关的许多机会和风险;例如可再生能源的使用,偏见,新的商业模式,能源消耗的增加和减少,响应能力,监控和可追溯性。
2019-12-18 cs.DC eess.SP
A Survey on Edge Computing Systems and Tools
在物联网和5G通信愿景的推动下,边缘计算系统在网络边缘整合计算、存储和网络资源,提供计算基础设施,使开发人员能够快速开发和部署边缘应用。目前边缘计算系统在工业界和学术界都受到了广泛的关注。为了探索新的研究机会,并帮助用户为特定应用选择合适的边缘计算系统,本调查报告全面概述了现有的边缘计算系统,并介绍了代表性项目。根据它们的适用性,对开源工具进行了比较。最后,我们强调了边缘计算系统的能效和深度学习优化。本调查还研究了分析和设计边缘计算系统的开放问题。
2019-11-07 cs.DC cs.NI
Applications of Auction and Mechanism Design in Edge Computing: A Survey
边缘计算作为一种有前途的技术,提供了更低的延迟,更有效的传输和更快的数据处理速度,因为边缘服务器更接近用户设备。每个资源有限的边缘服务器都可以从附近的用户设备卸载延迟敏感和计算密集型任务。然而,边缘计算面临着诸如资源分配、能耗、安全和隐私问题等挑战,拍卖机制可以很好地表征边缘计算中上述约束下边缘服务器和用户设备之间的双向交互。已有的研究表明,拍卖和机制设计方法在保证边缘服务器和用户设备相互满意的同时实现最优分配策略方面表现突出,特别是在资源稀缺的场景中。在本文中,我们介绍了最近在边缘计算中应用拍卖方法的研究的全面调查。首先,简要概述了边缘计算,包括三种常见的边缘计算范式,即,云计算、雾计算和移动边缘计算。然后,我们介绍了边缘计算系统中常用的拍卖方案的基本原理和背景。然后,提供了基于拍卖的方法应用于边缘计算的全面调查,这是由不同的拍卖方法分类。最后,几个开放的挑战和有前途的研究方向进行了讨论。
2021-05-08 cs.DC cs.GT
Smart Contract-based Computing ResourcesTrading in Edge Computing
近年来,出现了一种新兴趋势,即一些计算服务正在从云移动到网络边缘。与云计算相比,边缘计算可以提供响应更快、费用更低、安全性更高的服务。接近边缘的大量闲置计算资源也增强了边缘服务的部署。边缘计算为人们提供了一个积极加入计算资源市场的绝佳机会,而不是使用一些主要提供商的云服务。然而,边缘计算也有一些我们必须克服的关键障碍。在本文中,我们设计了一个边缘计算服务平台,可以接收和分发计算资源的最终用户在一个分散的方式。在没有集中式交易控制的情况下,我们提出了一种新的基于分层智能合约的去中心化技术来建立用户之间的交易信任,并提供灵活的智能合约接口来满足用户的需求。我们的系统还考虑并解决了各种安全和隐私的挑战时,利用加密和分布式访问控制机制。我们实现了我们的系统,并进行了广泛的实验,以显示我们所提出的系统的可行性和有效性。
2020-06-29 cs.CR cs.DC
HeteroMosaic: Exposing and Exploiting Heterogeneous Execution Opportunities for Energy-Efficient Edge LLM Inference
UIUC(伊利诺伊大学厄巴纳-香槟分校);Advanced Micro Devices, Inc.(超威半导体公司)
研究针对边缘大语言模型推理中异构资源利用不足问题,提出HeteroMosaic框架。通过异构屋顶线模型确定组合iGPU和NPU执行的时机,分解推理为微批次并进行跟踪引导协同优化。在多平台评估中取得显著加速和能耗降低,性能优于现有方案。
2026-07-28 cs.AR cs.DC
GENIO: Synergizing Edge Computing with Optical Network Infrastructures
提出GENIO平台,将边缘计算集成到现有PON基础设施中,通过增强中心局的计算和存储资源,使电信运营商能利用现有网络作为分布式边缘计算架构,仿真验证了其可行性与优于传统架构的性能。
2025-02-19 cs.DC cs.NI
Edge AI Inference in Heterogeneous Constrained Computing: Feasibility and Opportunities
University of Helsinki(赫尔辛基大学);Ericsson(爱立信);Purdue University(普渡大学)
本文针对边缘AI推理中设备异构带来的集成协同难题,梳理了适配硬件多样性的框架需求,提出不降低服务质量的性能优化策略,并明确了该领域的挑战与机遇。
2023-10-27 cs.AI cs.AR cs.DC
Edge AIBench: Towards Comprehensive End-to-end Edge Computing Benchmarking
在边缘计算场景中,不同层上的数据分布和工作负载协作是性能、隐私和安全问题的严重问题。因此,对于边缘计算基准测试,我们必须采取端到端的观点,考虑所有三个层:客户端设备,边缘计算层和云服务器。不幸的是,以前的工作忽略了这一最重要的一点。本文介绍了BenchCouncil在边缘AI基准测试上的协调工作,名为Edge AIBench。总体而言,Edge AIBench模拟了四种典型的应用场景:ICU患者监护仪,监控摄像头,灵巧家庭和自动驾驶汽车,重点关注三个层面的数据分发和工作负载协作。Edge AIBench是开源AIBench项目的一部分,可从http://www.benchcouncil.org/AIBench/index.html公开获取。我们还使用联邦学习框架构建了一个边缘计算测试平台,以解决性能、隐私和安全问题。
2019-08-06 cs.DC cs.PF
Edge Intelligence: The Confluence of Edge Computing and Artificial Intelligence
随着通信技术的快速发展和移动设备的大量使用,一种全新的计算模式--边缘计算(Edge Computing)正在兴起。与此同时,随着深度学习的突破和硬件架构的许多改进,人工智能(AI)应用正在蓬勃发展。在网络边缘产生的数十亿数据字节对数据处理和结构优化提出了巨大的需求。因此,存在着将边缘计算和人工智能相结合的强烈需求,这催生了边缘智能。在本文中,我们将边缘智能分为边缘AI(Intelligence-enabled Edge Computing)和边缘AI(人工智能on Edge)。前者侧重于借助流行和有效的AI技术为边缘计算中的关键问题提供更优化的解决方案,而后者则研究如何执行构建AI模型的整个过程,即,模型训练和推理,在边缘。本文从更广阔的视角对这一新的跨学科领域进行了深入的探讨。它讨论了核心概念和研究路线图,这应该为边缘智能未来潜在的研究举措提供必要的背景。
2020-02-10 cs.DC cs.NI
Software Defined Edge Computing for Distributed Management and Scalable Control in IoT Multinetworks
最近,边缘计算已经成为支持物联网多网络中移动访问的一个有前途的范例。然而,异构无线通信方案的共存给此类网络中的移动性管理和接入控制带来了新的挑战。为了保持其计算连续性,软件定义网络(SDN)架构可以应用于分布式边缘网络,其为移动性管理提供一致的框架并为访问控制创建安全机制。在本文中,我们首先回顾了最先进的SDN技术及其在边缘计算中的应用。特别是,我们强调了与边缘计算环境中SDN的移动性管理和访问控制相关的突出问题。我们还介绍了一些有效的解决方案,这些问题,通过提出现实世界的测试床实验,原型和数值分析采用基于SDN的边缘计算范例的物联网多网络。
2021-04-06 cs.DC cs.NI
Leveraging User-Diversity in Energy-Efficient Edge-Facilitated Collaborative Fog Computing
受设备上协作神经网络推理等应用的启发,这项工作研究了边缘促进的协作雾计算-其中边缘设备相互协作并与网络边缘协作以完成处理任务-以增强单个边缘设备的计算能力,同时优化协作以提高能效。协作计算使用Map-Reduce分布式计算框架建模,包括由通信阶段分开的两轮计算。考虑到边缘设备在计算和通信能力方面的多样性,计算负载在边缘设备之间进行了最佳分配。此外,边缘设备的本地参数(如CPU时钟频率和RF发射功率)也针对能效进行了优化。相应的优化问题可以被证明是凸的,最优性条件可以通过拉格朗日对偶理论得到。一个注水式的解释分配给每个边缘设备的计算负载的大小。数值实验表明,所提出的最佳协同计算方案的好处比其他各种计划在几个方面。最值得注意的是,所提出的方案表现出成功处理较重计算和/或较小延迟的概率增加,以及高达两个数量级的能效增益。这两项改进都来自于该方案最佳利用边缘设备多样性的能力。
2020-10-21 cs.DC eess.SP
EdgeBench: A Workflow-based Benchmark for Edge Computing
边缘计算已经被开发为出于隐私、成本和服务质量(QoS)原因而利用多层资源。边缘工作负载具有数据驱动和延迟敏感的特点。正因为如此,边缘系统已经发展成为异构和分布式的。边缘工作负载和边缘系统的独特特性激发了EdgeBench,这是一个基于工作流的基准测试,旨在提供探索边缘工作负载和边缘系统的完整设计空间的能力。EdgeBench既可定制又具有代表性。它允许用户自定义边缘工作负载的工作流逻辑、数据存储后端以及各个工作流阶段到不同计算层的分布。为了说明EdgeBench的可用性,我们还实现了两个代表性的边缘工作流,一个是视频分析工作流,另一个是物联网中心工作流,代表了两种不同但常见的边缘工作负载。这两个工作流都使用EdgeBench报告的工作流级别和功能级别指标进行评估,以说明边缘系统和边缘工作负载的性能瓶颈。
2020-10-27 cs.DC cs.PF
IoTSim-Edge: A Simulation Framework for Modeling the Behaviour of IoT and Edge Computing Environments
本文提出了一种新的模拟器IoTSim-Edge,它可以捕获异构物联网和边缘计算基础设施的行为,并允许用户以简单和可配置的方式测试其基础设施和框架。IoTSim-Edge扩展了CloudSim的功能,以整合边缘和物联网设备的不同功能。使用三个测试案例描述了IoTSim-Edge的有效性。结果显示了IoTSim-Edge在应用组合、面向电池的建模、异构协议建模和移动性建模以及物联网应用的资源配置方面的不同能力。
2019-10-07 cs.DC cs.PL
Edge Computing and Dynamic Vision Sensing for Low Delay Access to Visual Medical Information
提出了一种利用边缘计算和动态视觉传感(DVS)技术降低可视和非可视病历传输延迟的新方法。仿真结果表明,该方案可以减少89.15%至93.23%的传输延迟。分析了边缘设备可以服务的最大患者数量。
2017-11-10 cs.DC eess.IV
Accelerator Virtualization in Fog Computing: Moving From the Cloud to the Edge
云上的硬件加速器可用于增强分析。下一代云的目标是使用加速器将增强的分析功能更接近网络边缘的用户设备,通过最小化端到端延迟和响应时间来提高服务质量。在包括云、边缘和用户设备的多层层次结构中利用云边缘连续体处的资源的集体计算模型被称为雾计算。本文确定了使加速器在边缘可访问的挑战和机遇。雾架构的整体视图是在这一领域进行有意义的研究的关键。
2018-10-14 cs.DC cs.NI
Federated Learning Challenges and Opportunities: An Outlook
Alexa AI, Amazon(亚马逊Alexa人工智能部门)
联邦学习(FL)已被开发为一个有前途的框架,以利用边缘设备的资源,增强客户的隐私,遵守法规,并降低开发成本。虽然已经开发了许多方法和应用程序的FL,实际FL系统的几个关键挑战仍然没有解决。本文对外语的发展进行了展望,归纳为外语的五个新兴方向,即算法基础、个性化、硬件和安全约束、终身学习和非标准数据。我们独特的观点得到了边缘设备大规模联邦系统的实际观察的支持。
2022-02-01 cs.AI cs.DC cs.LG
EdgeFaaS: A Function-based Framework for Edge Computing
Arizona State University(亚利桑那州立大学)
针对边缘计算资源异构且分布带来的挑战,提出EdgeFaaS框架,通过函数和存储虚拟化抽象资源并提供虚拟接口。在真实测试平台上对视频分析等三个工作流实现与评估,展示其可用性,让用户能灵活探索工作流在分布式异构资源上的部署配置及权衡。
2026-07-17 cs.AI cs.DC
Performance Evaluation of Serverless Edge Computing for Machine Learning Applications
智能医疗、自动驾驶汽车和智能城市等下一代技术需要新的方法来处理物联网(IoT)设备产生的网络流量,以及高效的编程模型来部署机器学习技术。无服务器边缘计算是一种新兴的计算范式,它融合了边缘计算和无服务器计算这两种最新技术,可以解决这些挑战。然而,很少有工作来探索这种技术的能力和性能。本文使用流行的开源框架,即Kubeless,OpenFaaS,Fission和funcX,对无服务器边缘计算系统进行了全面的性能分析。实验考虑了不同的程序设计语言、工作负载和并发用户的数量。机器学习工作负载已被用于评估系统在不同工作条件下的性能,以提供对最佳实践的见解。评估结果揭示了无服务器边缘计算当前面临的一些挑战,以及这项新兴技术在机器学习应用中的开放研究机会。
2022-10-19 cs.DC cs.PF
EdgeBench: Benchmarking Edge Computing Platforms
边缘计算的新兴趋势已经导致一些云提供商发布了自己的平台,用于在网络的“边缘”执行计算。我们比较了两个这样的平台,Amazon AWS Greengrass和Microsoft Azure IoT Edge,使用了一个包含一套性能指标的新基准。我们还将边缘框架的性能与其各自云生态系统中的纯云实现进行了比较。Amazon AWS Greengrass和Azure IoT Edge使用不同的底层技术,边缘Lambda函数与容器,因此我们还详细介绍了可供开发人员使用的平台功能。我们的研究表明,这两种边缘平台都提供了相当的性能,但在边缘应用程序中使用的关键类型的工作负载方面存在重要差异。最后,我们讨论了当前部署这些平台时面临的几个问题和挑战。
2018-11-14 cs.DC cs.NI
Delay-Optimal Distributed Edge Computing in Wireless Edge Networks
分布式边缘计算(DEC)通过将边缘计算与并行计算相结合,利用边缘网络中的分布式设备并行执行计算,可以大幅降低服务延迟。在本文中,我们探讨DEC,利用分布式边缘设备连接的无线网络来执行计算任务卸载从终端设备。特别是,我们研究的基本问题,最大限度地减少执行分布式算法的计算任务的延迟。首先,我们建立了一些最优通信调度策略的结构特性。然后,给出了这些属性,我们的最优计算分配策略,它可以找到一个有效的算法。其次,基于最优计算分配,我们描述了一些特殊情况下的通信的最优调度顺序,并开发了一个有效的算法与有限的逼近比,以找到它的一般情况。最后,基于最优的计算分配和通信调度,我们进一步证明了在某些特殊情况下,可以有效地找到最优的设备选择。我们的研究结果提供了一些有用的见解,最佳的计算通信协同设计。我们使用模拟的理论研究结果的性能进行评估。
2020-02-07 cs.DC cs.NI
A Distributed Virtual Network Function Placement Approach in Satellite Edge and Cloud Computing
卫星边缘计算已成为为偏远地区的物联网设备提供计算服务的一种很有前途的方式,这些地区不在地面网络的覆盖范围内,但由于卫星资源的限制,它不适合大规模的物联网设备。云计算可以为物联网设备提供足够的可用资源,但由于网络延迟高,无法满足延迟敏感型用户的服务需求。协作边缘和云计算是通过结合边缘和云计算的优势,为众多物联网设备提供灵活的服务。研究了协同卫星边缘和云计算环境下,以最小化卫星网络带宽使用率和服务端到端延迟为目标的虚拟网络功能(VNF)配置问题.我们制定的VNF布局问题作为一个整数非线性规划问题,并提出了一个分布式VNF布局(D-VNFP)算法来解决它,因为VNF布局问题是NP-难的。通过实验验证了该算法的有效性。实验结果表明,该算法在解决卫星边缘和云计算环境下的VNF布局问题时,性能优于已有的Greedy和Viterbi算法.
2021-04-06 cs.DC cs.NI