On the Complexity of Reachability Properties in Serverless Function Scheduling
本文提出亲和性感知的调度语言aAPP,形式化其语义并研究可达性检查复杂性:无亲和性时为线性,有亲和性时为PSpace完全。
2024-07-19 cs.DC
ESG: Pipeline-Conscious Efficient Scheduling of DNN Workflows on Serverless Platforms with Shareable GPUs
本文提出ESG调度算法,将可共享GPU作为一阶因素,结合A*搜索与双刃剪枝技术及基于支配者的SLO分布,解决无服务器平台上DNN工作流调度空间急剧扩大的问题,显著提升SLO命中率并降低成本。
2024-04-25 cs.DC
Scale: Deep Reinforcement Learning for Container Scheduling in Serverless Edge Computing
Nottingham Trent University(诺丁汉特伦特大学);Loughborough University(拉夫堡大学);University of Bologna(博洛尼亚大学);TU Wien(维也纳工业大学);University of Oregon(俄勒冈大学)
本文提出Scale框架,通过深度强化学习优化容器调度与资源分配,在动态负载下平衡系统稳定性和性能,实验证明其在决策效率和资源利用率方面优于整数线性规划求解器。
2026-05-15 cs.DC
In Serverless, OS Scheduler Choice Costs Money: A Hybrid Scheduling Approach for Cheaper FaaS
针对 Linux 默认 CFS 调度器导致 serverless 高并发工作负载成本增加高达 10 倍的问题,提出一种混合两级调度方法,短时函数以无抢占 FIFO 执行,长时函数交由 CFS,显著降低用户成本且无提供商开销。
2024-11-13 cs.DC
Serverless platform driven CPU loadbalancing
Indiana University Bloomington(印第安纳大学布鲁明顿分校)
该研究提出基于SchedExt(SCX)的无服务器平台驱动CPU负载均衡框架,通过自定义Linux调度器优化任务放置,8域配置可降能耗15%、减延迟最高50%,兼顾能效与性能。
2026-08-07 cs.DC
Energy Efficient Scheduling for Serverless Systems
针对无服务器FaaS系统应用执行能耗未被充分研究的问题,提出结合实时与历史数据、采用新型DVFS技术的节能调度器,在满足性能需求的同时降低能耗,并经本地集群真实负载实验验证有效。
2024-10-09 cs.DC
Affinity-aware Serverless Function Scheduling
本文提出aAPP语言扩展,在FaaS层面实现亲和性感知调度,并在Apache OpenWhisk上验证其能提升性能且无额外开销。
2025-01-23 cs.DC
Hiku: Pull-Based Scheduling for Serverless Computing
本文提出Hiku拉取式调度算法,通过让空闲工作节点主动请求任务来解耦节点选择与任务分配,在开源FaaS平台上显著改善高并发下的响应延迟、冷启动频率、吞吐量和负载均衡。
2025-07-04 cs.DC cs.PF
GreenCourier: Carbon-Aware Scheduling for Serverless Functions
GreenCourier 提出一种碳感知的无服务器函数跨区域调度框架,结合 Kubernetes 与 Knative 及实时碳数据源,实验显示每次函数调用碳排放平均降低 13.25%。
2023-10-31 cs.DC cs.SE
In Search of a Fast and Efficient Serverless DAG Engine
Python编写的数据分析应用程序可以建模为并编译为基于有向无环图(DAG)的工作流,其中节点是细粒度任务,边是任务依赖关系。这种分析工作流作业越来越多地以具有大扇出的短、细粒度任务为特征。这些特性使它们非常适合一种新的云计算模型,称为无服务器计算或功能即服务(FaaS),近年来已变得流行。无服务器计算平台的自动扩展特性可以适应短任务和突发工作负载,而无服务器计算提供商的按使用付费计费模式可以降低短任务的成本。在本文中,我们深入研究了无服务器计算中的DAG调度问题空间。我们确定并评估了一组技术,使DAG服务器感知。这些技术已经在Wukong中实现,Wukong是一个无服务器的DAG调度器,与AWS Lambda相协调。Wukong通过静态和动态调度的组合提供分散式调度。我们提出了一个实证研究的结果,悟空是适用于一系列的微基准和现实世界的DAG应用程序。结果证明了Wukong在最大限度地减少AWS Lambda引入的性能开销方面的有效性-与服务器DAG调度程序相比,Wukong实现了具有竞争力的性能,同时在更大规模下将实际DAG作业的性能提高了3.1倍。
2019-10-15 cs.DC
Metronome: Differentiated Delay Scheduling for Serverless Functions
Metronome通过预测机制优化无服务器函数的延迟调度,减少执行时间并确保SLA合规。
2025-12-05 cs.DC cs.SE
Serverless Computing for Scientific Applications
本文探讨了无服务器计算在科学应用中的现状,分析了其优势与问题,提出了面向科学的架构,并展望了未来趋势。
2023-09-04 cs.DC
Adaptive Event Dispatching in Serverless Computing Infrastructures
无服务器计算是一种新兴的云服务模式。它目前正成为托管计算从能力受限的机器虚拟化和微服务向效用计算演进的下一步。术语“无服务器”已经成为基于云的事件驱动分布式应用程序的完全资源透明部署模型的同义词。这项工作研究了自适应事件调度如何提高无服务器平台的资源效率,并提供了一种新的方法,可以更好地扩展和适应平台的资源消耗的实际需求。
2019-01-10 cs.DC
Wukong: A Scalable and Locality-Enhanced Framework for Serverless Parallel Computing
无服务器计算越来越多地用于并行计算,传统上这些计算是作为有状态应用程序实现的。执行复杂的、突发并行的、有向无环图(DAG)作业对无服务器执行框架构成了重大挑战,这需要以高吞吐量快速扩展和调度任务,同时最大限度地减少任务之间的数据移动。我们证明,对于无服务器并行计算,分散式调度使调度能够分布在Lambda执行器上,这些执行器可以并行调度任务,并带来多种好处,包括增强数据本地性,减少网络I/O,自动资源弹性和提高成本效益。我们描述了我们新的无服务器并行框架Wukong在AWS Lambda上的实现和部署。我们表明,Wukong实现了近乎理想的可扩展性,执行并行计算作业的速度高达68.17倍,将网络I/O减少了多个数量级,并与numpywren相比实现了92.96%的租户端成本节省。
2020-10-14 cs.DC
Making Serverless Computing Extensible: A Case Study of Serverless Data Analytics
本文提出可扩展的无服务器计算设计原则,并在 Proteus 系统中通过决策工作流抽象实现,允许开发者定制控制面行为以优化数据分析性能并支持细粒度资源共享。
2025-07-16 cs.DC
Interim Report on Adaptive Event Dispatching in Serverless Computing Infrastructures
无服务器计算是分布式计算系统中一种新兴的服务模型。该术语捕获基于云的事件驱动的分布式应用程序设计,并源于其完全资源透明的部署模型,即无服务器。本文认为自适应事件调度可以通过考虑局部性和依赖性来提高当前无服务器平台的资源效率。Hendrickson等人也制定了这些设计说明,它确定了“无服务器负载均衡器必须在考虑会话、代码和数据局部性的同时做出低延迟决策”的要求。这份中期报告调查了这一新兴趋势的经济重要性,并断言现有的无服务器平台仍然没有针对数据本地化进行优化,而分布式计算研究中的各种调度方法已被证明可以提高资源效率。
2019-01-09 cs.DC
Skedulix: Hybrid Cloud Scheduling for Cost-Efficient Execution of Serverless Applications
我们提出了一个框架,用于在混合公共-私有云上调度多功能无服务器应用程序。一组无服务器作业作为批处理输入,目标是在混合平台上调度功能执行,以最大限度地降低公共云使用的成本,同时在指定的截止日期前完成所有作业。由于这个调度问题是NP-难的,我们提出了一个贪心算法,动态地确定每个功能执行的顺序和位置,使用功能执行时间和网络延迟的预测模型。我们提出了一个原型实现我们的框架,使用AWS Lambda和OpenFaaS,分别为公共云和私有云。我们在现场实验中使用计算和I/O繁重的无服务器应用程序的混合来评估我们的原型。我们的研究结果表明,我们的框架可以实现加速批处理的方法,只使用私有云的1.92倍,在40.5%的成本,只使用公共云的方法。
2020-06-05 cs.DC cs.NI
A Survey on Serverless Computing
互联网加速了数字媒体、医疗保健和军事等多个领域的增长。此外,互联网是建立在允许客户端与服务器通信的原则上的。然而,无服务器计算就是这样一个试图摆脱这种范式的领域。事件驱动的计算服务允许用户使用容量配置和按价值付费的计费模式构建更敏捷的应用程序。本文正式介绍了无服务器计算领域的研究贡献。
2021-06-27 cs.DC
A Review of Deep Reinforcement Learning in Serverless Computing: Function Scheduling and Resource Auto-Scaling
Martel Innovate(马特尔创新公司);Telefonica(西班牙电信公司)
本文综述了深度强化学习(DRL)在无服务器计算中函数调度与资源自动扩缩容的应用,表明DRL能有效提升效率,并指出了仿真环境、冷启动等挑战及多智能体强化学习等未来方向。
2023-10-05 cs.AI cs.DC cs.LG
Serverless Computing: Current Trends and Open Problems
无服务器计算已经成为部署应用程序和服务的新的引人注目的范例。它代表了云编程模型、抽象和平台的发展,证明了云技术的成熟和广泛采用。在本章中,我们调查了来自工业界、学术界和开源项目的现有无服务器平台,确定了关键特征和用例,并描述了技术挑战和开放问题。
2017-06-10 cs.DC
Serverless Computing: Architecture, Concepts, and Applications
本文系统梳理无服务器计算的架构、概念、优缺点、实现环境与行业应用,探讨其与其他技术融合应对数据管理等挑战的路径,研判未来趋势,全面呈现该技术的潜力与局限。
2025-01-16 cs.DC
BeeFlow: Behavior Tree-based Serverless Workflow Modeling and Scheduling for Resource-Constrained Edge Clusters
Sun Yat-sen University(中山大学)
针对边缘集群中无服务器工作流调度表达力不足和资源争用问题,提出基于行为树的建模与调度系统BeeFlow,在边缘和云测试平台分别实现3.2倍和2.5倍加速。
2023-08-31 cs.DC cs.NI cs.RO
Towards Seamless Serverless Computing Across an Edge-Cloud Continuum
本文基于 Knative 构建支持边缘-云无缝部署的无服务器平台,提出边缘编排与动态卸载策略,实验证明其可降低延迟并提升吞吐量。
2024-01-04 cs.DC
The Serverless Computing Survey: A Technical Primer for Design Architecture
云基础设施的发展激发了云原生计算的出现。作为部署微服务最有前途的架构,无服务器计算近年来在工业界和学术界引起了越来越多的关注。由于其固有的可扩展性和灵活性,无服务器计算对于不断增长的互联网服务变得越来越有吸引力和普及。尽管云原生社区的发展势头良好,但现有的挑战和妥协仍然需要更先进的研究和解决方案来进一步探索无服务器计算模型的潜力。作为对这一知识的贡献,本文通过将架构解耦为四个堆栈层来调查和阐述无服务器环境中的研究领域:虚拟化,封装,系统演示和系统协调。受安全模型的启发,我们强调了这些工作在每一层的关键影响和限制,并提出了未来无服务器计算领域的潜在挑战的建议。
2022-01-03 cs.DC
Status of Serverless Computing and Function-as-a-Service(FaaS) in Industry and Research
本白皮书总结了2017年6月5日举行的2017年第一届无服务器计算国际研讨会(WoSC)期间提出的问题,特别是在研讨会结束时的小组讨论和相关讨论中提出的问题。我们还包括来自主题演讲和提交的论文的评论。最后的术语表(第8节)定义了本报告中使用的许多技术术语。
2017-08-27 cs.DC
A Holistic View on Resource Management in Serverless Computing Environments: Taxonomy and Future Directions
近年来,无服务器计算已成为云应用程序的一个有吸引力的部署选项。这种计算模型的独特功能包括快速自动扩展、强大的隔离、细粒度的计费选项以及访问自主处理资源管理决策的大规模服务生态系统。由于这些特征,这种模型也越来越多地被探索用于地理分布的边缘和雾计算网络中的部署。计算资源的有效管理一直受到研究人员的关注。由于需要自动化资源配置、分配、调度、监控和扩展的整个过程,因此需要专门关注无服务器模式下的资源管理。在这篇文章中,我们确定了覆盖无服务器环境中资源管理更广泛概念的主要方面,并提出了影响这些方面的元素分类,包括系统设计,工作负载属性和利益相关者期望的特征。我们全面了解跨边缘、雾和云计算网络部署的无服务器环境。我们还分析了现有的作品,讨论使用这种分类的无服务器资源管理方面。本文进一步确定了文献中的差距,并强调了未来的研究方向,以提高这种计算模型的能力。
2021-06-01 cs.DC
FaaSdom: A Benchmark Suite for Serverless Computing
无服务器计算已成为云提供商的主要趋势。通过无服务器计算,开发人员将管理服务器的任务完全委托给云提供商,动态分配所需的资源,以及处理可用性和容错问题。这样,开发人员可以只关注其软件的应用程序逻辑,然后在云中部署和完全管理。尽管它越来越受欢迎,但关于当前可用的无服务器平台上可实现的实际系统性能知之甚少。具体来说,以独立于语言或运行时的方式对这样的系统进行基准测试是很麻烦的。相反,人们必须采取全面的应用程序部署,以便在多个方面(包括性能和经济成本)对最方便的解决方案做出明智的决定。FaaSdom是无服务器计算平台基准套件的模块化架构和概念验证实现。它目前支持当前主流的无服务器云提供商(即,AWS、Azure、Google、IBM)、大量基准测试和各种实现语言。该套件完全自动化此类测试的部署,执行和清理,提供有关无服务器应用程序所观察到的性能的见解(包括历史)。FaaSdom还集成了一个模型来估计跨支持的提供商部署的预算成本。FaaSdom是开源的,可在https://github.com/bschitter/benchmark-suite-serverless-computing上获得。
2020-06-05 cs.DC
Energy-Aware Scheduling for Serverless LLM Serving on Shared GPUs
University of Pittsburgh(匹兹堡大学);HPE Labs(惠普企业实验室)
针对无服务器LLM服务中多模型共享GPU带来的能耗优化难题,提出Festina系统,通过协同请求放置、SM分区和GPU工作点调整,在满足TTFT/TBT SLO前提下,实现集群能耗降低高达56%。
2026-10-13 cs.DC
Towards Energy-Efficient Serverless Computing with Hardware Isolation
针对无服务器计算能耗高的问题,提出用每函数独立处理器的硬件隔离替代软件隔离,实现按需耗能,初步评估显示能耗开销降低90.63%。
2025-10-09 cs.DC
Supporting Multi-Cloud in Serverless Computing
无服务器计算是一种广泛采用的云执行模型,由功能即服务(FaaS)和后端即服务(BaaS)产品组成。抽象级别的提高使得供应商锁定成为无服务器计算所固有的,这比以前的云模式引起了更多的关注。多云无服务器是一种很有前途的新兴方法,可以防止供应商锁定,但必须克服多种挑战才能发挥其潜力。首先,我们需要了解每个FaaS提供商的性能和成本。其次,在部署多云工作流之前,必须提出多云架构。然后,特定于域的无服务器产品必须集成到多云架构中,以提高性能或节省成本。此外,处理来自多个提供商的无服务器产品具有挑战性。最后,我们需要为无服务器多云提供工作负载可移植性支持。在本文中,我们提出了一个跨无服务器产品的多云库。我们开发了终端分析系统(EAS),以支持公共FaaS提供商在性能和成本方面的比较。此外,我们还设计了具有特定领域无服务器产品的概念验证多云架构,以缓解数据重力等问题。最后,我们在这些架构上部署工作负载,以评估几个公共FaaS产品。
2023-03-26 cs.DC
Demystifying Serverless Costs on Public Platforms: Bridging Billing, Architecture, and OS Scheduling
该研究自上而下贯通计费模型、服务架构与 OS 调度,量化公共 Serverless 平台计费资源最高达实际消耗 4.35 倍,并揭示隐藏成本驱动因素。
2025-09-26 cs.DC cs.OS cs.PF
Intel Optane DCPMM and Serverless Computing
本报告介绍1)我们如何在内存模式下使用英特尔Optane DCPMM。我们调查的可扩展性的应用程序在一个单一的Optane机器上,使用子图计数作为内存密集型图的问题。我们使用各种输入图和子模板大小进行测试,以确定其在不同内存和CPU负载下的性能,以及使用MPI在单个节点Optane上与集群中的分布式节点集进行性能比较。2)我们研究了无服务器计算中的端到端执行延迟,并研究了冷启动的并发函数执行。在未来的工作中,我们将证明持久内存机器可以显着改善无服务器计算中的并发函数调用,包括Amazon Lambda,Microsoft Azure Functions,Google Cloud Functions和IBM Cloud Functions(Apache OpenWhisk)。
2021-09-22 cs.DC
Serverless Computing: Behind the Scenes of Major Platforms
无服务器计算为应用程序开发提供了一个事件驱动的按需付费框架。一个关键的卖点是没有后端服务器管理的概念,允许开发人员专注于应用程序功能。这是通过严格抽象的底层架构的功能running.We检查底层架构和报告的性能无服务器功能,以及它们是如何受到某些因素,如内存分配和干扰引起的负载由其他用户在平台上。具体而言,我们专注于四大平台的无服务器产品:AWS Lambda,Google Cloud Functions,Microsoft Azure Functions和IBM Cloud Functions。在本文中,我们观察和这些平台之间的对比,在他们的方法,以共同的问题“冷启动”,我们设计了一种方法来揭示底层架构无服务器功能执行,我们调查的影响,从负载在平台上超过一个月的时间跨度。
2020-12-10 cs.DC
Taming Cold Starts: Proactive Serverless Scheduling with Model Predictive Control
Umeå University(于默奥大学);Elastisys AB(Elastisys公司)
本文提出基于模型预测控制的无服务器调度框架,通过预测调用和优化容器预热,有效缓解冷启动问题,降低尾延迟并减少资源消耗。
2026-01-13 cs.DC cs.PF
CASA: A Framework for SLO and Carbon-Aware Autoscaling and Scheduling in Serverless Cloud Computing
本文提出CASA框架,在无服务器云集群中同时考虑碳足迹和SLO约束进行容器调度与自动伸缩,实验表明其碳足迹最多降低2.6倍、SLO违反率最多降低1.4倍。
2024-08-31 cs.DC cs.PF
Costless: Optimizing Cost of Serverless Computing through Function Fusion and Placement
无服务器计算最近被几个应用程序大量采用,特别是物联网(IoT)应用程序。在无服务器计算中,用户不必部署和管理专用的虚拟机,而是能够部署单独的功能,并且只需支付代码实际执行的时间。然而,由于无服务器平台相对较新,它们具有完全不同的定价模型,这取决于内存,持续时间和功能序列/工作流的执行次数。在本文中,我们提出了一种优化AWS Lambda中无服务器应用程序价格的算法。我们首先描述了影响无服务器应用程序价格的因素,包括:(1)融合一系列功能,(2)跨边缘和云资源拆分功能,以及(3)为每个功能分配内存。然后,我们提出了一个有效的算法来探索不同的功能融合放置解决方案,并找到解决方案,优化应用程序的价格,同时保持在一定的阈值下的延迟。我们对图像处理工作流程的研究结果表明,该算法可以找到优化价格超过35%-57%的解决方案,而延迟仅增加5%-15%。我们还表明,我们的算法可以找到非平凡的内存配置,降低延迟和价格。
2018-11-23 cs.DC
Cost Control and Efficiency Optimization in Maintainability Implementation of Wireless Sensor Networks based on Serverless Computing
无线传感器网络经过几十年的发展,在性能、功耗、拥塞控制等方面都取得了很好的成绩。然而,在无线传感器网络的生存周期中,存在设备生命周期成本估算不准确、工程开发高度耦合、软硬件资源利用率低等问题。因此,我们首先提出了基于无服务器计算的无线传感器网络可维护性实现的概念视图。可维护性实现是指在配置、试制、调试、批量生产、部署、运营、维护等阶段,满足无线传感器网络产品以较高概率消耗最少资源的能力。在此基础上,讨论了在无线传感器网络软件功能层实现无服务器计算,将设备操作和功能开发解耦,极大地提高了资源的重用性,排除了硬件干扰。从可维护性和成本控制的角度来看,无服务器计算的概念可以用于构建WSN平台,该平台可以支持数据汇集和数据管理的功能开发,这些功能可以通过前期支出从探索中受益,从而显著降低设计,制造和运营成本。最后,结合现有技术和智慧城市场景,给出了面向无服务器计算的无线传感器网络平台的设计思路,并进行了案例分析。
2022-10-28 cs.DC
FaaSTube: Optimizing GPU-oriented Data Transfer for Serverless Computing
针对无服务器机器学习推理中现有数据传递方案依赖主机内存导致I/O开销高的问题,提出FaaSTube系统,通过GPU内存池直接交换数据、细粒度带宽共享与弹性内存池,大幅降低端到端延迟并提升吞吐量。
2024-11-04 cs.DC
Evaluating Serverless Architecture for Big Data Enterprise Applications
在本文中,我们研究了使用云原生原语执行大规模数据处理的无服务器计算。
2021-10-26 cs.DC
SeBS: A Serverless Benchmark Suite for Function-as-a-Service Computing
功能即服务(FaaS)是云服务未来最有前途的方向之一,无服务器功能已立即成为构建可扩展且具有成本效益的微服务和应用程序的新中间件。然而,快速发展的技术阻碍了可重复性,缺乏标准化的基准测试套件导致无服务器研究中使用临时解决方案和微基准测试,进一步使研究解决方案的荟萃分析和比较复杂化。为了应对这一挑战,我们提出了Serverless Benchmark Suite:第一个FaaS计算基准,系统地覆盖了广泛的云资源和应用程序。我们的基准测试包括代表性工作负载的规范,伴随的实现和评估基础设施,以及促进可重复性和可解释性的评估方法。我们证明了FaaS执行环境的抽象模型可以确保我们的基准测试适用于多个商业提供商,如AWS,Azure和Google Cloud。我们的工作设施无服务器系统的实验评估,并提供了一个标准化的,可靠的和不断发展的评估方法的性能,效率,可扩展性和可靠性的中间件FaaS平台。
2021-07-02 cs.DC
HyperDrive: Scheduling Serverless Functions in the Edge-Cloud-Space 3D Continuum
HyperDrive提出面向边缘-云-空间三维连续体的SLO感知无服务器函数调度器,综合考虑LEO卫星移动性、散热与电池约束,在野火灾害响应场景中实现比最佳基线低71%的网络延迟。
2024-10-21 cs.DC
Improving Robustness of Heterogeneous Serverless Computing Systems Via Probabilistic Task Pruning
基于云的无服务器计算是一种越来越流行的计算模式。在这种模式下,不同的服务有不同的计算需求,这证明部署不一致的异构计算(HC)系统来有效地处理它们是合理的。在不一致的HC系统中,给定服务所需的每个任务可能在每种类型的机器上表现出不同的执行时间。一个理想的资源分配系统必须意识到执行时间的这种不确定性,并对它们具有鲁棒性,从而满足用户的服务质量(QoS)要求。这项研究的目的是最大限度地提高HC系统的鲁棒性,用于提供无服务器计算系统,特别是当系统被超额认购。我们的策略,以最大限度地提高鲁棒性是开发一个任务修剪机制,可以添加到现有的任务映射算法,而不改变它们。修剪满足其最后期限的概率较低的任务提高了其他任务满足其最后期限的可能性,从而提高了系统的鲁棒性和整体QoS。为了评估修剪机制的影响,我们研究它的异构和同构计算系统的各种配置。评估结果表明,系统的鲁棒性有相当大的改善(高达35%)。
2019-05-11 cs.DC
Towards Fast Setup and High Throughput of GPU Serverless Computing
针对GPU无服务器计算中粗粒度管理导致的设置时间长和吞吐量低的问题,提出SAGE框架,通过并行化函数设置和共享内存管理机制,显著缩短函数持续时间并提升函数密度。
2024-04-23 cs.DC
GreenWhisk: Emission-Aware Computing for Serverless Platform
本文提出基于Apache OpenWhisk的碳感知无服务器平台GreenWhisk,通过并网/离网两种模式和碳感知负载均衡算法,在不显著影响性能的前提下降低函数执行的碳足迹。
2024-09-04 cs.DC
Jiagu: Optimizing Serverless Computing Resource Utilization with Harmonized Efficiency and Practicability
针对无服务器平台资源利用率与实用性难兼顾的问题,提出 Jiagu,通过预决策调度和双阶段扩缩容提升部署密度并降低调度与冷启动开销。
2024-03-01 cs.DC
Serverless Platforms on the Edge: A Performance Analysis
物联网(IoT)的指数级增长引发了新一轮边缘计算浪潮,因为需要在边缘处理数据,更接近数据产生的地方,并试图摆脱以云为中心的架构。这为减少延迟和解决数据隐私问题以及降低公共云成本提供了机会。无服务器计算模型提供了一个潜在的解决方案,其事件驱动架构可以减少对不断运行的服务器的需求,并将后端服务转换为使用模型。该模型在具有不同工作负载和有限资源的边缘计算环境中具有吸引力的前景。此外,它在网络边缘的设置承诺减少与它通信的边缘设备的延迟,并消除了管理底层基础设施的需要。在本书的这一章中,首先,我们介绍了无服务器边缘计算的新概念,然后,我们分析了多个无服务器平台的性能,即OpenFaaS,AWS Greengrass,Apache OpenWhisk,当设置在边缘的单板计算机(SBC)上时,并将其与公共云无服务器产品,即AWS Lambda和Azure Functions进行比较,来推断无服务器架构在网络边缘的适用性。这些无服务器平台建立在一个Raspberry Pis集群上,我们通过模拟不同类型的边缘工作负载来评估它们的性能。评估结果表明,OpenFaaS在SBC边缘计算基础设施上实现了最低的响应时间,而无服务器云产品最可靠,成功率最高。
2021-11-12 cs.DC
ServerMix: Tradeoffs and Challenges of Serverless Data Analytics
无服务器计算今天已经变得非常流行,因为它在很大程度上简化了云编程。开发人员不再需要担心配置或操作服务器,他们只需为代码运行时使用的计算资源付费。这种新的云模式非常适合许多应用程序,研究人员已经开始研究无服务器计算用于数据分析的可行性。不幸的是,今天的无服务器计算存在重要的限制,使得它很难支持各种分析工作负载。本文首先分析了当今无服务器计算模型的三个基本权衡及其与数据分析的关系。它研究了如何通过放松分解,隔离和简单的调度来提高整体计算性能,但代价是模型的基本方面,如弹性,安全性或亚秒级激活。这些权衡的结果是,分析应用程序最终可能会拥抱由无服务器和有服务器组件组成的混合系统,我们在本文中称之为Servermix。我们将回顾现有的相关工作,以表明大多数应用程序实际上可以归类为Servermix。最后,本文将介绍CloudButton研究项目管理这些权衡的主要挑战。
2019-07-26 cs.DC
Cold Start Latency in Serverless Computing: A Systematic Review, Taxonomy, and Future Directions
本文系统综述无服务器计算中的冷启动延迟问题,提出详细分类法并梳理缓存、应用级优化及AI/ML等缓解技术,分析其对服务质量的影响,并指出未来研究方向。
2024-10-23 cs.DC
CloudSimSC: A Toolkit for Modeling and Simulation of Serverless Computing Environments
本文提出CloudSimSC,一个基于CloudSim的模块化无服务器计算仿真工具,通过在架构、函数调度与扩展方面引入灵活性并支持监控指标推导,解决了现有仿真器缺乏通用性的问题。
2023-09-19 cs.DC
Faasm: Lightweight Isolation for Efficient Stateful Serverless Computing
无服务器计算非常适合大数据处理,因为它可以快速、廉价地扩展到数千个并行功能。现有的无服务器平台将函数隔离在短暂的无状态容器中,防止它们直接共享内存。这迫使用户重复复制和序列化数据,增加了不必要的性能和资源成本。我们认为需要一种新的轻量级隔离方法,它支持在函数之间直接共享内存,并减少资源开销。我们介绍Faaslets,一个新的高性能无服务器计算的隔离抽象。Faaslet使用WebAssembly提供的软件故障隔离(SFI)隔离已执行函数的内存,同时允许同一地址空间中的函数之间共享内存区域。因此,当函数位于同一台机器上时,Faaslet可以避免昂贵的数据移动。我们的Faaslets运行时Faasm使用标准Linux cgroups隔离其他资源,例如CPU和网络,并为网络,文件系统访问和动态加载提供低级POSIX主机接口。为了减少初始化时间,Faasm从已经初始化的快照中恢复Faaslet。我们将Faasm与标准的基于容器的平台进行了比较,结果表明,在训练机器学习模型时,它以10倍的内存实现了2倍的速度提升;为了服务于机器学习推理,Faasm将吞吐量提高了一倍,并将尾部延迟降低了90%。
2020-06-19 cs.DC
SimFaaS: A Performance Simulator for Serverless Computing Platforms
为无服务器平台(即FaaS平台)开发准确且可扩展的性能模型是一项非常具有挑战性的任务。此外,在真正的无服务器平台上进行实施和实验既昂贵又耗时。然而,目前还没有全面的模拟工具或框架来代替真实的平台。因此,在本文中,我们提出了一个模拟平台,称为SimFaaS,它可以帮助无服务器应用程序开发人员开发优化的功能即服务应用程序的成本和性能方面填补了这一空白。另一方面,FaaS提供商可以利用SimFaaS来定制他们的平台,使其具有工作负载感知能力,从而可以同时提高利润和服务质量。此外,无服务器平台提供商可以以及时且经济高效的方式评估SimFaaS上的新设计、实现和部署。SimFaaS是开源的,有良好的文档记录,并且公开可用,使其易于使用和扩展,以便在未来纳入更多的用例场景。此外,它为性能工程师提供了一套工具,可以计算无服务器平台内部状态的几个特征,否则很难(大多数情况下是不可能)从真实平台中提取。我们展示了SimFaaS如何促进基本性能指标的预测,如平均响应时间,冷启动的概率,以及反映无服务器计算提供商所产生的基础设施成本的实例的平均数量。我们通过比较预测结果与Amazon AWS Lambda的真实跟踪来评估SimFaaS的准确性和适用性。
2021-02-17 cs.DC
Towards Serverless Optimization with In-place Scaling
本研究探索Kubernetes v1.27的原地扩缩容特性,以优化无服务器计算,实验表明相比传统冷策略,请求延迟降低1.16至18.15倍。
2023-11-16 cs.DC
Caching Aided Multi-Tenant Serverless Computing
本文提出缓存辅助的多租户无服务器计算框架 FaasCamp,通过多层暖池、跨租户安全共享和机器学习缓存替换策略缓解冷启动问题,实验证明其能以最小开销超越现有平台。
2024-08-01 cs.DC
Pagurus: Eliminating Cold Startup in Serverless Computing with Inter-Action Container Sharing
无服务器计算通过容器在云租户之间提供细粒度的资源共享。每个函数调用(动作)都在一个单独的容器中运行。当用户函数没有已经启动的容器时,必须为其创建一个新的容器。然而,容器的冷启动时间长导致动作的响应延迟长。我们的调查表明,一些用户操作的容器共享大部分的软件包。如果一个需要新容器的动作可以从其他动作中“移除”一个类似的热容器,那么就可以消除长时间的冷启动。基于上述发现,我们提出了Pagurus,一个运行时容器管理系统,用于消除无服务器计算中的冷启动。Pagurus由每个动作的动作间容器调度器和动作内容器调度器组成。交互操作容器调度器在操作之间调度共享容器。内部操作容器调度器处理容器生命周期的管理。我们的实验结果表明,Pagurus有效地消除了耗时的容器冷启动。Pagurus可以在10ms内开始运行一个动作,即使没有热容器。
2021-08-25 cs.DC