Engineering and Experimentally Benchmarking a Serverless Edge Computing System
由于容器化的最新进展,无服务器边缘计算模型正在接近现实。边缘无服务器有望实现具有快速自动扩展机制的低延迟应用程序,所有这些应用程序都运行在异构和资源受限的设备上。在这项工作中,我们设计和实验基准无服务器边缘计算系统架构。我们为无服务器应用部署了一个分散的边缘计算平台,仅使用开源软件提供处理,存储和通信功能,在异构资源上运行(例如,虚拟机、树莓派或裸机服务器等)。为了实现这一目标,我们提供了一个基于Nebula网络不可知技术的覆盖网络,在私有或公共网络上运行,并使用K3提供硬件抽象。我们基准系统的响应时间,吞吐量和可扩展性,使用不同的硬件设备通过公共互联网连接。结果表明,虽然无服务器在异构设备上是可行的,但在受限设备(如Raspberry Pis)上表现出良好的性能,但在确定计算能力和网络特征时缺乏支持,在边缘环境中有很大的改进空间。
2021-05-11 cs.NI
A Primal-Dual-Based Power Control Approach for Capacitated Edge Servers
无线电波的强度随着传播距离的增加而迅速衰减,边缘服务器的天线需要更多的功率来形成更大的信号覆盖区域。因此,应该控制边缘服务器的功率,以降低能耗。此外,具有容量受限资源的边缘服务器仅为有限数量的用户提供服务,以确保服务质量(QoS)。我们为每个边缘服务器的天线设置信号发射功率,形成信号盘,确保边缘服务器信号覆盖所有用户,最大限度地降低系统总功率。这种情况是一个典型的几何集合覆盖问题,即使是没有容量限制的简单情况也是NP难问题。在本文中,我们提出了一个原始-对偶算法,并获得了$m$ -近似结果。通过仿真实验,将该算法与其他两种算法进行了比较.结果表明,该算法在多项式时间内获得了接近最优值的结果。
2022-10-12 cs.NI
Towards Optimal Serverless Function Scaling in Edge Computing Network
针对边缘设备分布式特性导致的无服务器函数扩展难题,提出基于半马尔可夫决策过程(SMDP)的理论模型将其转化为决策问题求解,验证了其在边缘计算网络及真实场景中的有效性与最优性。
2023-05-23 cs.NI
Topic Allocation Method on Edge Servers for Latency-sensitive Notification Service
实时通知对于社会服务和智能交通系统(ITS)的重要性日益增加。作为发布/订阅系统的一个高级版本,已提出了在边缘服务器上对发布消息进行假脱机和处理以实现数据驱动的智能通知的预处理-处理-订阅系统。在本文中,我们提出了一个系统,允许在多个边缘服务器上管理一个主题,以便在发布者附近处理消息,即使发布者分布在广阔的区域。在地理上分布的服务器上复制消息可以立即通知相邻的订阅者。但是,重复的消息假脱机可能会导致资源耗尽。我们准备了一个正式的模型,我们的搜索过程订阅系统和制定的主题分配为边缘服务器的资源约束下的优化问题。由于优化问题是NP难的,我们提出了利用本地性和客户端之间观察到的pub/sub关系来有效地使用边缘服务器资源的算法。我们的性能评估表明,我们的方法减少了延迟交付通知和有效性的战略利用客户端之间的关系。
2021-03-19 cs.NI
A Load-Balanced Call Admission Controller for IMS Cloud Computing
网络功能虚拟化提供了设计、部署和管理网络服务的机会。它利用在高容量服务器、交换机和存储硬件上运行的云计算虚拟化服务来虚拟化网络功能。虚拟化技术可以用在IP多媒体子系统(IMS)云计算中以开发不同的联网功能(例如,负载均衡和呼叫准入控制)。IMS网络信令通过会话发起协议(SIP)发生。一个悬而未决的问题是当SIP服务器缺乏足够的CPU和内存资源来处理所有消息时发生的过载控制。本文提出了一种用于云托管SIP服务器的虚拟负载平衡呼叫接纳控制器(VLB-CAC)。VLB-CAC确定最佳呼叫接纳速率和已接纳呼叫的信令路径,以及SIP服务器的CPU和内存资源的最佳分配。这个最优解是通过一个新的线性规划模型导出的。该模型需要SIP服务器的一些关键信息作为输入。此外,VLB-CAC配备了自动定标器,以克服资源限制。所提出的方案是实现在智能应用程序的虚拟基础设施(SAVI),作为一个虚拟的测试平台。数值和实验结果的评估表明所提出的工作的效率。
2017-09-29 cs.NI
Context-aware Container Orchestration in Serverless Edge Computing
针对边缘网络异构资源下无服务器工作负载动态分配难的问题,提出上下文感知学习框架联合编排无线带宽与计算资源,大幅缩短收敛时间且端到端延迟与现有最优水平相当。
2024-08-14 cs.NI
ISA-Based Trusted Network Functions And Server Applications In The Untrusted Cloud
如今,企业在云中广泛部署网络功能(NF)和服务器应用程序。然而,敏感数据的处理和可信执行不能安全地部署在不可信云中。云提供商本身可能会意外泄露私人信息(例如,由于配置错误)或流氓用户可以利用供应商系统的漏洞来破坏执行完整性,对内部企业和客户数据的机密性构成威胁。在本文中,我们确定了(i)可应用可信执行的NF和服务器应用用例的数量,(ii)损害每个用例的私有数据和执行完整性的资产和影响,以及(iii)我们利用英特尔的Software Guard Extensions(SGX)架构为基于云的NF和服务器应用设计可信执行环境(TEE)。我们将SGX与数据平面开发工具包(DPDK)相结合,针对多种应用场景(针对普通和加密流量的第2层帧和第3层数据包处理、流量负载平衡和后端服务器处理)对我们的TEE进行原型设计和评估。我们的结果表明,涉及普通流量的NF可以实现几乎原生的性能(例如,对于64字节帧的第3层转发,每秒约2200万个数据包),而涉及加密流量和服务器处理的NF仍然可以实现有竞争力的性能(例如,对于64字节帧,服务器处理速度约为每秒1200万个数据包)。
2018-02-20 cs.CR cs.NI
Scaling Serverless Functions in Edge Networks: A Reinforcement Learning Approach
针对边缘网络中无服务器函数自动扩展与资源分配难题,提出基于强化学习的方法,仿真表明其优于传统启发式算法,延迟性能提升达50%。
2023-05-22 cs.NI
Scaling Performance of Serverless Edge Networking
本文通过真实测试平台实验,研究节点间延迟对分布式无服务器应用吞吐量的影响,比较单站点与多站点边缘网络部署的 Knative/Kubernetes 应用性能,揭示多站点在低处理时间下吞吐量减半、其他情况下显著提升的规律。
2023-10-27 cs.NI
On Reliability-Aware Server Consolidation in Cloud Datacenters
在过去的几年中,数据中心(DC)的能源消耗已经成为技术世界中的一个重要问题。使用虚拟化和虚拟机(VM)实时迁移的服务器整合允许云DC提高资源利用率,从而提高能效。为了节省能源,整合技术试图关闭空闲的服务器,而由于工作负载的波动,这些离线服务器应该被打开,以支持增加的资源需求。这些重复的开关周期可能影响硬件的可靠性和服务器的磨损,从而增加维护和更换成本。在本文中,我们提出了一个整体的数学模型,可靠性意识的服务器整合的目标是最大限度地减少总DC成本,包括能源和可靠性成本。事实上,我们尝试以可靠性感知的方式最小化活动PM和机架的数量。我们将该问题表示为一个NP完全形式的混合线性规划模型。最后,我们评估我们的方法在不同的情况下,使用广泛的数值MATLAB模拟的性能。
2017-09-01 cs.DC cs.NI
A Tale of Frozen Clouds: Quantifying the Impact of Algorithmic Complexity Vulnerabilities in Popular Web Servers
计算机复杂性漏洞是一类安全问题,使攻击者能够触发某些算法的最坏情况复杂性。此类漏洞可用于部署低容量、非对称、基于CPU的拒绝服务(DoS)攻击。以前的工作推测,这些漏洞在某些Web服务器(如Node.js)中比在传统服务器(如Apache)中更危险。我们认为,最重要的是了解情况是否确实如此,或者是否有办法利用各种部署战略来弥补这些问题。为此,我们研究了流行的Web服务器对基于CPU的拒绝服务攻击的弹性在四个主要的云平台在现实的部署条件下。我们发现,不同的Web服务器对攻击的反应确实存在显着差异。然而,我们的研究结果表明了一个比以前认为的更微妙的情况:虽然基于事件的系统在某些情况下往往能更快地从DoS中恢复,但它们的整体性能下降也最严重。尽管如此,在某些设置中,Apache的性能比基于事件的系统更差,并且存在云平台,其中所有考虑的服务器都严重暴露于攻击。我们还发现,开发人员可以通过增加并行运行的服务器实例的数量来增强其服务器对基于CPU的DoS攻击的抵抗能力。这反过来又会导致操作成本增加或在非DoS条件下性能略有下降。
2022-11-21 cs.CR cs.NI
Performance Optimization for Edge-Cloud Serverless Platforms via Dynamic Task Placement
我们提出了一个使用动态任务放置的无服务器边缘云平台性能优化框架。我们专注于智能边缘设备的应用,例如智能相机或扬声器,这些设备需要对输入数据执行实时到接近实时的处理任务。我们的框架允许用户为每个应用程序任务指定成本和延迟要求,并且对于每个输入,它确定是在边缘设备上还是在云中执行任务。此外,对于云执行,框架识别满足性能目标所需的容器资源配置。我们使用从AWS Lambda和AWS Greengrass中的无服务器应用程序收集的测量结果在模拟中评估了我们的框架。此外,我们已经实现了在这些相同平台上运行的框架原型。在我们的原型实验中,我们的模型可以预测平均端到端延迟,误差小于6%,与仅边缘执行相比,我们在端到端延迟方面获得了近三个数量级的减少。
2020-05-19 cs.DC cs.NI
Towards the Forensic Identification and Investigation of Cloud Hosted Servers through Noninvasive Wiretaps
在进行现代网络犯罪调查时,通常需要从位于托管提供商基于云的数据中心的计算机系统收集证据。在调查无法依赖托管服务提供商的合作或无法提供文件的情况下,调查人员往往会发现,在众多服务器中确定哪一个是值得关注的服务器是困难的,而且非常耗时。为了解决识别这些服务器的问题,本文提出了一种快速可靠地识别这些云托管计算机系统的新方法。在概述的方法中,提出了一种由嵌入式计算机与基于以太网的通信的不可检测的拦截方法相结合组成的手持设备。该设备进行了测试和评估,并提供了一个讨论其有用性在确定感兴趣的服务器的调查。
2015-10-02 cs.CR cs.DC cs.NI
Cloud BI: Future of Business Intelligence in the Cloud
云计算由于其相对于自托管IT基础设施的明显优势,正逐渐在企业中流行起来。商业智能(BI)是一个高度资源密集型的系统,需要大规模的并行处理和大量的存储容量来托管数据仓库。在自托管环境中,人们担心BI最终将面临资源短缺的情况,因为公司不可能不断增加资源来托管数据仓库的无休止扩展和对底层网络的在线分析处理(OLAP)需求。云计算为商业智能的未来前景带来了新的希望。然而,BI将如何在云上实施,流量和需求概况将如何?这项研究试图回答这些关于将BI带到云端的关键问题。借助OPNET上的模拟演示了BI的云托管,该模拟包括一个云模型,其中多个OLAP应用程序服务器在托管关系数据库的服务器阵列上应用并行查询负载。仿真结果反映了云上数据库服务器真正的、可扩展的并行处理能够有效地处理云计算上的OLAP应用需求。因此,BI设计人员需要计划在大规模并行数据库服务器上运行的高度分区的数据库,其中每个服务器托管至少一个服务于OLAP需求的底层数据库分区。
2019-01-23 cs.DC cs.NI
Client-Edge-Cloud Hierarchical Federated Learning
The Hong Kong University of Science and Technology(香港科技大学);The Hong Kong Polytechnic University(香港理工大学);Peng Cheng Laboratory(鹏城实验室)
联邦学习是一个协作机器学习框架,用于训练深度学习模型,而无需访问客户的私有数据。以前的工作假设一个中央参数服务器在云或边缘。云服务器可以访问更多的数据,但通信开销过大,延迟时间长,而边缘服务器与客户端的通信效率更高。为了结合它们的优点,我们提出了一个客户端-边缘-云分层联邦学习系统,支持HierFAVG算法,允许多个边缘服务器执行部分模型聚合。通过这种方式,可以更快地训练模型,并且可以实现更好的通信-计算权衡。收敛性分析提供HierFAVG和关键参数的影响也进行了研究,从而导致定性的设计准则。实证实验验证了分析,并证明了这种层次结构的好处,在不同的数据分布场景。特别是,它表明,通过引入中间边缘服务器,模型训练时间和终端设备的能耗可以同时减少相比,基于云的联邦学习。
2019-10-31 cs.LG cs.NI
Swarm Behavior of Intelligent Cloud
在本文中,主要目的是展示群体智能的权力,在基于云的场景。整个云网络的服务器端网络已经配置了异构环境。在所提出的系统中,不同类型的服务器被用来管理有用的各种气氛。采用了群体智能来提高整个系统网络的性能。网络服务器端的特定位置将由群体智能概念选择,以访问所需的元素。灵活性、鲁棒性和自组织性是群体智能的主要特征,在设计系统环境时需要考虑这些因素。
2012-03-07 cs.DC cs.NI
HyperNAT: Scaling Up Network AddressTranslation with SmartNICs for Clouds
网络地址转换(NAT)是云网关中的基本功能。随着云租户引入的流量和流量数量的增加,NAT网关需要在服务器集群上实现。我们建议扩大网关服务器,这可以减少服务器的数量,从而减少资本支出和运营支出。我们设计了HyperNAT,它利用智能路由器来提高服务器的处理能力。在HyperNAT中,NAT功能分布在多个NAT上,并相应地划分和分配流空间。HyperNAT通过将规则克隆到一个连接的两个方向的数据路径上,克服了一个连接的两个方向上的数据包需要由相同的NAT规则(称为双向一致性,TDC)处理的挑战。我们对HyperNAT的实现和评估表明,HyperNAT能够以较低的开销有效地扩展云网关。
2021-11-16 cs.DC cs.NI
Transmission Failure Analysis of Multi-Protection Routing in Data Center Networks with Heterogeneous Edge-Core Servers
最近提出的RCube网络是一种基于立方体的以服务器为中心的数据中心网络(DCN),包括两种类型的异构服务器,称为核心服务器和边缘服务器。值得注意的是,它将后者作为备份服务器来处理服务器故障,从而实现高可用性。本文首先指出RCube适合作为边缘计算DCN的候选拓扑。核心服务器和边缘服务器之间根据应用程序的计算和即时响应的需求分为三种传输类型。然后,我们采用保护路由来分析RCube DCN的传输失败。不同于传统的保护路由只能容忍单个链路或节点故障,我们使用多保护路由方案,以提高容错能力。为了在网络中配置保护路由,根据Tapolcai的建议,我们需要构建两个完全独立的生成树(CIST)。RCube的逻辑图表示为$L$ - $RCube(n,m,k)$,是一个具有递归结构的网络。每个基本构建元素由$n$核心服务器和$m$边缘服务器组成,其中顺序$k$是在结构中应用的递归的数量。在本文中,我们提供了算法来构建$\min\{n,\lfloor(n+m)/2\rfloor\}$ CIST在$L$为$n+m\geqslant 4$和$n>1$。通过多个CST的组合,我们可以配置所需的多重保护路由。在我们的模拟中,我们为RCube DCN配置了多达10个保护路由。据我们所知,在过去的研究中,最多有三个保护路由在其他网络结构中发展。最后,我们总结了一些关键的分析观点的DCN与异构边缘核心服务器的传输效…
2021-05-24 cs.DC cs.NI
KiSS: A Novel Container Size-Aware Memory Management Policy for Serverless in Edge-Cloud Continuum
针对边缘无服务器冷启动与资源利用低效问题,本文提出静态容器尺寸感知策略 KiSS,按容器规模和调用特征分区管理内存,实验显示冷启动降低60%、函数丢弃降低56.5%。
2025-02-18 cs.DC cs.ET cs.NI
Strategic Server Deployment under Uncertainty in Mobile Edge Computing
本文提出了一种在不确定性环境下优化移动边缘计算服务器部署的随机双层优化方法,通过子模函数近似和贪心算法实现高效部署,实验表明其在计算效率和通信效率上提升达55%。
2025-12-14 cs.DC cs.NI
Risk-Aware and Stable Edge Server Selection Under Network Latency SLOs
University of Applied Sciences and Arts(应用科学与艺术学院)
本文提出了一种轻量且可解释的动态边缘服务器选择框架,通过考虑尾部风险和切换稳定性,降低超时率并减少切换频率。
2026-04-23 cs.DC cs.NI
Dynamic Edge Server Selection in Time-Varying Environments: A Reliability-Aware Predictive Approach
University of Applied Sciences and Arts, Dortmund(多特蒙德应用科学艺术大学)
针对多服务器边缘架构中动态网络拥塞导致的服务器选择难题,提出融合延迟预测、可靠性与滞后切换的轻量级MO-HAN方法,在降低延迟的同时减少近50%切换次数,适用于资源受限设备。
2025-11-13 cs.DC cs.NI
PM-Dedup: Secure Deduplication with Partial Migration from Cloud to Edge Servers
本文提出PM-Dedup方法,将部分重复数据删除检查与所有权证明任务从云端迁移到边缘服务器的可信执行环境中,以降低延迟和网络及云端开销,同时保障云存储中加密数据重复数据删除的安全性。
2025-01-04 cs.CR cs.NI
Service Capacity Enhanced Task Offloading and Resource Allocation in Multi-Server Edge Computing Environment
边缘计算环境具有多个边缘服务器和多个服务客户端。在这种环境中,移动服务提供商可以将客户端侧计算任务从服务客户端的设备卸载到边缘服务器上,以减少客户端所经历的服务延迟和功耗。尚未妥善解决的一个关键问题是如何分配边缘计算资源以实现两个优化目标:1)最小化由服务延迟和服务客户端所经历的功耗衡量的服务成本;以及2)最大化由可以长期卸载其计算任务的服务客户端的数量衡量的服务容量。本文将这一长期问题归结为一个随机优化问题,并采用基于李雅普诺夫优化的在线算法求解。这个NP难问题被分解成三个子问题,然后用一套技术来解决。实验结果表明,我们的方法显着优于两个基线方法。
2019-03-12 cs.DC cs.NI
HierTrain: Fast Hierarchical Edge AI Learning with Hybrid Parallelism in Mobile-Edge-Cloud Computing
Sun Yat-sen University(中山大学)
如今,深度神经网络(DNN)是许多新兴边缘AI应用的核心推动力。训练DNN的传统方法通常在中央服务器或云中心实现,用于集中式学习,由于大量数据样本从设备传输到远程云,这通常是耗时且需要资源的。为了克服这些缺点,我们考虑在移动边缘云计算(MECC)范式上加速DNN的学习过程。在本文中,我们提出了HierTrain,一个分层的边缘AI学习框架,它有效地将DNN训练任务部署在分层的MECC架构上。我们开发了一种新的\textit{hybrid parallelism}方法,这是HierTrain的关键,可以在边缘设备,边缘服务器和云中心三个级别上自适应地分配DNN模型层和数据样本。然后,我们制定了在层粒度和样本粒度上调度DNN训练任务的问题。解决这个优化问题使我们能够实现最小的训练时间。我们进一步实现了一个由边缘设备、边缘服务器和云服务器组成的硬件原型,并在其上进行了大量的实验。实验结果表明,HierTrain与基于云的分层训练方法相比,可以实现高达6.9倍的加速比。
2020-03-22 cs.DC cs.LG cs.NI