Hiku: Pull-Based Scheduling for Serverless Computing
本文提出Hiku拉取式调度算法,通过让空闲工作节点主动请求任务来解耦节点选择与任务分配,在开源FaaS平台上显著改善高并发下的响应延迟、冷启动频率、吞吐量和负载均衡。
2025-07-04 cs.DC cs.PF
Making Serverless Computing Extensible: A Case Study of Serverless Data Analytics
本文提出可扩展的无服务器计算设计原则,并在 Proteus 系统中通过决策工作流抽象实现,允许开发者定制控制面行为以优化数据分析性能并支持细粒度资源共享。
2025-07-16 cs.DC
Interim Report on Adaptive Event Dispatching in Serverless Computing Infrastructures
无服务器计算是分布式计算系统中一种新兴的服务模型。该术语捕获基于云的事件驱动的分布式应用程序设计,并源于其完全资源透明的部署模型,即无服务器。本文认为自适应事件调度可以通过考虑局部性和依赖性来提高当前无服务器平台的资源效率。Hendrickson等人也制定了这些设计说明,它确定了“无服务器负载均衡器必须在考虑会话、代码和数据局部性的同时做出低延迟决策”的要求。这份中期报告调查了这一新兴趋势的经济重要性,并断言现有的无服务器平台仍然没有针对数据本地化进行优化,而分布式计算研究中的各种调度方法已被证明可以提高资源效率。
2019-01-09 cs.DC
A Survey on Serverless Computing
互联网加速了数字媒体、医疗保健和军事等多个领域的增长。此外,互联网是建立在允许客户端与服务器通信的原则上的。然而,无服务器计算就是这样一个试图摆脱这种范式的领域。事件驱动的计算服务允许用户使用容量配置和按价值付费的计费模式构建更敏捷的应用程序。本文正式介绍了无服务器计算领域的研究贡献。
2021-06-27 cs.DC
Serverless Computing: Current Trends and Open Problems
无服务器计算已经成为部署应用程序和服务的新的引人注目的范例。它代表了云编程模型、抽象和平台的发展,证明了云技术的成熟和广泛采用。在本章中,我们调查了来自工业界、学术界和开源项目的现有无服务器平台,确定了关键特征和用例,并描述了技术挑战和开放问题。
2017-06-10 cs.DC
Serverless Computing: Architecture, Concepts, and Applications
本文系统梳理无服务器计算的架构、概念、优缺点、实现环境与行业应用,探讨其与其他技术融合应对数据管理等挑战的路径,研判未来趋势,全面呈现该技术的潜力与局限。
2025-01-16 cs.DC
Towards Seamless Serverless Computing Across an Edge-Cloud Continuum
本文基于 Knative 构建支持边缘-云无缝部署的无服务器平台,提出边缘编排与动态卸载策略,实验证明其可降低延迟并提升吞吐量。
2024-01-04 cs.DC
The Serverless Computing Survey: A Technical Primer for Design Architecture
云基础设施的发展激发了云原生计算的出现。作为部署微服务最有前途的架构,无服务器计算近年来在工业界和学术界引起了越来越多的关注。由于其固有的可扩展性和灵活性,无服务器计算对于不断增长的互联网服务变得越来越有吸引力和普及。尽管云原生社区的发展势头良好,但现有的挑战和妥协仍然需要更先进的研究和解决方案来进一步探索无服务器计算模型的潜力。作为对这一知识的贡献,本文通过将架构解耦为四个堆栈层来调查和阐述无服务器环境中的研究领域:虚拟化,封装,系统演示和系统协调。受安全模型的启发,我们强调了这些工作在每一层的关键影响和限制,并提出了未来无服务器计算领域的潜在挑战的建议。
2022-01-03 cs.DC
Status of Serverless Computing and Function-as-a-Service(FaaS) in Industry and Research
本白皮书总结了2017年6月5日举行的2017年第一届无服务器计算国际研讨会(WoSC)期间提出的问题,特别是在研讨会结束时的小组讨论和相关讨论中提出的问题。我们还包括来自主题演讲和提交的论文的评论。最后的术语表(第8节)定义了本报告中使用的许多技术术语。
2017-08-27 cs.DC
A Holistic View on Resource Management in Serverless Computing Environments: Taxonomy and Future Directions
近年来,无服务器计算已成为云应用程序的一个有吸引力的部署选项。这种计算模型的独特功能包括快速自动扩展、强大的隔离、细粒度的计费选项以及访问自主处理资源管理决策的大规模服务生态系统。由于这些特征,这种模型也越来越多地被探索用于地理分布的边缘和雾计算网络中的部署。计算资源的有效管理一直受到研究人员的关注。由于需要自动化资源配置、分配、调度、监控和扩展的整个过程,因此需要专门关注无服务器模式下的资源管理。在这篇文章中,我们确定了覆盖无服务器环境中资源管理更广泛概念的主要方面,并提出了影响这些方面的元素分类,包括系统设计,工作负载属性和利益相关者期望的特征。我们全面了解跨边缘、雾和云计算网络部署的无服务器环境。我们还分析了现有的作品,讨论使用这种分类的无服务器资源管理方面。本文进一步确定了文献中的差距,并强调了未来的研究方向,以提高这种计算模型的能力。
2021-06-01 cs.DC
FaaSdom: A Benchmark Suite for Serverless Computing
无服务器计算已成为云提供商的主要趋势。通过无服务器计算,开发人员将管理服务器的任务完全委托给云提供商,动态分配所需的资源,以及处理可用性和容错问题。这样,开发人员可以只关注其软件的应用程序逻辑,然后在云中部署和完全管理。尽管它越来越受欢迎,但关于当前可用的无服务器平台上可实现的实际系统性能知之甚少。具体来说,以独立于语言或运行时的方式对这样的系统进行基准测试是很麻烦的。相反,人们必须采取全面的应用程序部署,以便在多个方面(包括性能和经济成本)对最方便的解决方案做出明智的决定。FaaSdom是无服务器计算平台基准套件的模块化架构和概念验证实现。它目前支持当前主流的无服务器云提供商(即,AWS、Azure、Google、IBM)、大量基准测试和各种实现语言。该套件完全自动化此类测试的部署,执行和清理,提供有关无服务器应用程序所观察到的性能的见解(包括历史)。FaaSdom还集成了一个模型来估计跨支持的提供商部署的预算成本。FaaSdom是开源的,可在https://github.com/bschitter/benchmark-suite-serverless-computing上获得。
2020-06-05 cs.DC
EcoLife: Carbon-Aware Serverless Function Scheduling for Sustainable Computing
本文提出ECOLIFE,首个协同优化碳足迹与性能的碳感知无服务器函数调度器,通过智能利用多代硬件并扩展粒子群优化算法,在保证高性能的同时有效降低碳足迹。
2024-10-16 cs.DC
Towards Energy-Efficient Serverless Computing with Hardware Isolation
针对无服务器计算能耗高的问题,提出用每函数独立处理器的硬件隔离替代软件隔离,实现按需耗能,初步评估显示能耗开销降低90.63%。
2025-10-09 cs.DC
Supporting Multi-Cloud in Serverless Computing
无服务器计算是一种广泛采用的云执行模型,由功能即服务(FaaS)和后端即服务(BaaS)产品组成。抽象级别的提高使得供应商锁定成为无服务器计算所固有的,这比以前的云模式引起了更多的关注。多云无服务器是一种很有前途的新兴方法,可以防止供应商锁定,但必须克服多种挑战才能发挥其潜力。首先,我们需要了解每个FaaS提供商的性能和成本。其次,在部署多云工作流之前,必须提出多云架构。然后,特定于域的无服务器产品必须集成到多云架构中,以提高性能或节省成本。此外,处理来自多个提供商的无服务器产品具有挑战性。最后,我们需要为无服务器多云提供工作负载可移植性支持。在本文中,我们提出了一个跨无服务器产品的多云库。我们开发了终端分析系统(EAS),以支持公共FaaS提供商在性能和成本方面的比较。此外,我们还设计了具有特定领域无服务器产品的概念验证多云架构,以缓解数据重力等问题。最后,我们在这些架构上部署工作负载,以评估几个公共FaaS产品。
2023-03-26 cs.DC
Serverless Platforms on the Edge: A Performance Analysis
物联网(IoT)的指数级增长引发了新一轮边缘计算浪潮,因为需要在边缘处理数据,更接近数据产生的地方,并试图摆脱以云为中心的架构。这为减少延迟和解决数据隐私问题以及降低公共云成本提供了机会。无服务器计算模型提供了一个潜在的解决方案,其事件驱动架构可以减少对不断运行的服务器的需求,并将后端服务转换为使用模型。该模型在具有不同工作负载和有限资源的边缘计算环境中具有吸引力的前景。此外,它在网络边缘的设置承诺减少与它通信的边缘设备的延迟,并消除了管理底层基础设施的需要。在本书的这一章中,首先,我们介绍了无服务器边缘计算的新概念,然后,我们分析了多个无服务器平台的性能,即OpenFaaS,AWS Greengrass,Apache OpenWhisk,当设置在边缘的单板计算机(SBC)上时,并将其与公共云无服务器产品,即AWS Lambda和Azure Functions进行比较,来推断无服务器架构在网络边缘的适用性。这些无服务器平台建立在一个Raspberry Pis集群上,我们通过模拟不同类型的边缘工作负载来评估它们的性能。评估结果表明,OpenFaaS在SBC边缘计算基础设施上实现了最低的响应时间,而无服务器云产品最可靠,成功率最高。
2021-11-12 cs.DC
Serverless Computing: One Step Forward, Two Steps Back
无服务器计算提供了以自动缩放、按需付费的方式对云进行编程的可能性。在本文中,我们解决了第一代无服务器计算的关键差距,这使得其自动扩展潜力与现代计算的主导趋势不一致:特别是以数据为中心和分布式计算,但也包括开源和定制硬件。总而言之,这些差距使得当前的无服务器产品不适合云创新,特别是数据系统创新。除了指出当前无服务器架构的一些主要不足之外,我们还提出了一系列我们认为必须满足的挑战,以释放云计算的巨大潜力-其存储容量和数百万个核心-应该为创新开发人员提供。
2018-12-10 cs.DB cs.DC
Wukong: A Scalable and Locality-Enhanced Framework for Serverless Parallel Computing
无服务器计算越来越多地用于并行计算,传统上这些计算是作为有状态应用程序实现的。执行复杂的、突发并行的、有向无环图(DAG)作业对无服务器执行框架构成了重大挑战,这需要以高吞吐量快速扩展和调度任务,同时最大限度地减少任务之间的数据移动。我们证明,对于无服务器并行计算,分散式调度使调度能够分布在Lambda执行器上,这些执行器可以并行调度任务,并带来多种好处,包括增强数据本地性,减少网络I/O,自动资源弹性和提高成本效益。我们描述了我们新的无服务器并行框架Wukong在AWS Lambda上的实现和部署。我们表明,Wukong实现了近乎理想的可扩展性,执行并行计算作业的速度高达68.17倍,将网络I/O减少了多个数量级,并与numpywren相比实现了92.96%的租户端成本节省。
2020-10-14 cs.DC
Reliable Transactions in Serverless-Edge Architecture
现代边缘应用程序需要新的解决方案,其中边缘应用程序不必依赖于单个云提供商(无法在每个边缘设备附近)或专用边缘服务器(无法扩展为云)来处理计算密集型任务。最近的计算哲学,天空计算,建议让每个用户能够选择可用的云提供商。在本文中,我们介绍了我们的无服务器边缘协同设计,它扩展了天空计算的愿景。在我们的无服务器边缘协同设计中,我们希望边缘设备能够协作并产生所需数量的无服务器功能。这提出了几个关键挑战:(1)这种协作将如何进行,(2)如果某些边缘设备受到损害,以及(3)如果选定的云提供商是恶意的,该怎么办。因此,我们设计了ServerlessBFT,这是第一个保证边缘设备和无服务器功能之间的拜占庭容错(BFT)事务流的协议。我们在我们的无服务器边缘协同设计上提供了一个详尽的攻击及其解决方案列表。此外,我们广泛的基准我们的架构上的各种参数。
2022-08-27 cs.DB cs.DC
Universal Workers: A Vision for Eliminating Cold Starts in Serverless Computing
Technische Universität Berlin(柏林工业大学);Fraunhofer Institute for Open Communication Systems (FOKUS)(弗劳恩霍夫开放通信系统研究所)
针对无服务器计算的冷启动问题,提出基于请求偏态分布的通用工作器方案,通过局部性组与三级缓存近似实现,旨在构建更高效可扩展的FaaS平台。
2025-09-11 cs.DC cs.PF
Function Delivery Network: Extending Serverless Computing for Heterogeneous Platforms
无服务器计算在亚马逊的Lambda平台推出后迅速发展。功能即服务(FaaS)是无服务器计算的关键推动因素,它允许将应用程序分解为在FaaS平台上执行的简单独立功能。FaaS平台负责将资源部署和促进功能。当今的一些云应用程序分布在异构的连接计算资源上,并且在其结构和资源需求方面具有高度动态性。然而,FaaS平台仅限于同构集群和同构功能,并且在调度之前不考虑功能的数据访问行为。我们引入了一个扩展的FaaS异构集群和支持异构功能,通过网络的分布式异构目标平台称为功能交付网络(FDN)。目标平台是同构节点集群和其上的FaaS平台的组合。FDN提供功能交付即服务(FDaaS),将功能交付到正确的目标平台。我们展示的机会,如不同的目标平台的特点,多个目标平台之间的协作执行的可能性,以及本地化的数据,FDN提供在实现两个目标:服务水平目标(SLO)的要求和能源效率时,通过评估超过五个分布式目标平台调度功能使用FDNInspector,我们开发的分布式目标平台的基准测试工具。与高端目标平台上的调度相比,我们评估中的边缘目标平台上的调度功能将总体能耗降低了17倍,而不违反SLO要求。
2021-02-03 cs.DC cs.PF
MLProxy: SLA-Aware Reverse Proxy for Machine Learning Inference Serving on Serverless Computing Platforms
University of Alberta(阿尔伯塔大学);York University(约克大学)
在云上提供机器学习推理工作负载在生产层面仍然是一项具有挑战性的任务。由于批量配置、资源配置和可变到达过程之间的复杂交互,在优化基础设施成本的同时满足SLA要求的推理工作负载的最佳配置是非常复杂的。近年来,无服务器计算已经出现,可以自动执行大多数基础设施管理任务。IBM已经揭示了改善机器学习服务工作负载的响应时间和成本效益的潜力。然而,它还没有得到无服务器计算平台的开箱即用支持。我们的实验表明,对于各种机器学习工作负载,通过减少每个请求的处理开销,可极大地提高系统的效率。在这项工作中,我们提出了MLProxy,一个自适应的反向代理,以支持高效的机器学习服务工作负载的无服务器计算系统。MLProxy支持自适应服务器,以确保SLA合规性,同时优化无服务器成本。我们在Knative上进行了严格的实验,以证明MLProxy的有效性。我们发现,MLProxy可以将无服务器部署的成本降低高达92%,同时将SLA违规减少高达99%,这可以在最先进的模型服务框架中推广。
2022-02-23 cs.AI cs.DC cs.LG
Intel Optane DCPMM and Serverless Computing
本报告介绍1)我们如何在内存模式下使用英特尔Optane DCPMM。我们调查的可扩展性的应用程序在一个单一的Optane机器上,使用子图计数作为内存密集型图的问题。我们使用各种输入图和子模板大小进行测试,以确定其在不同内存和CPU负载下的性能,以及使用MPI在单个节点Optane上与集群中的分布式节点集进行性能比较。2)我们研究了无服务器计算中的端到端执行延迟,并研究了冷启动的并发函数执行。在未来的工作中,我们将证明持久内存机器可以显着改善无服务器计算中的并发函数调用,包括Amazon Lambda,Microsoft Azure Functions,Google Cloud Functions和IBM Cloud Functions(Apache OpenWhisk)。
2021-09-22 cs.DC
LaSS: Running Latency Sensitive Serverless Computations at the Edge
无服务器计算已经成为在云中运行短期计算的新范例。由于其处理物联网工作负载的能力,人们对在边缘运行无服务器功能非常感兴趣。然而,边缘的约束性质和工作负载的延迟敏感性质导致无服务器平台面临许多挑战。在本文中,我们介绍了LaSS,一个使用模型驱动方法在边缘资源上运行延迟敏感的无服务器计算的平台。LaSS使用基于原则的方法来确定每个托管功能的适当分配,并根据工作负载动态自动缩放分配的资源。LaSS使用公平共享分配方法来保证在存在过载的情况下向每个功能分配最小的资源。此外,它利用基于容器收缩和终止的资源回收方法,将资源从过度配置的功能重新分配到配置不足的功能。我们在OpenWhisk无服务器边缘集群上实现了我们方法的原型,并进行了详细的实验评估。我们的研究结果表明,LaSS可以准确地预测高度动态工作负载下无服务器功能所需的资源,并在数百毫秒内重新配置容器容量,同时保持公平的份额分配保证。
2021-04-29 cs.DC
Serverless Computing: Behind the Scenes of Major Platforms
无服务器计算为应用程序开发提供了一个事件驱动的按需付费框架。一个关键的卖点是没有后端服务器管理的概念,允许开发人员专注于应用程序功能。这是通过严格抽象的底层架构的功能running.We检查底层架构和报告的性能无服务器功能,以及它们是如何受到某些因素,如内存分配和干扰引起的负载由其他用户在平台上。具体而言,我们专注于四大平台的无服务器产品:AWS Lambda,Google Cloud Functions,Microsoft Azure Functions和IBM Cloud Functions。在本文中,我们观察和这些平台之间的对比,在他们的方法,以共同的问题“冷启动”,我们设计了一种方法来揭示底层架构无服务器功能执行,我们调查的影响,从负载在平台上超过一个月的时间跨度。
2020-12-10 cs.DC
Performance Modeling of Metric-Based Serverless Computing Platforms
University of Alberta(阿尔伯塔大学);York University(约克大学)
分析性能模型在确保服务部署的服务质量和成本在不同的条件和工作负载下保持理想方面是非常有效的。虽然已经为云计算中的先前范例提出了各种分析性能模型,但是无服务器计算缺乏可以为开发人员提供性能保证的这样的模型。此外,大多数无服务器计算平台仍然需要开发人员的输入来指定其部署的配置,这可能会影响其部署的性能和成本,而不会向他们提供任何直接和即时的反馈。在以前的研究中,我们建立了这样的性能模型,用于按请求缩放的无服务器计算平台的稳态和瞬态分析(例如,AWS Lambda、Azure Functions、Google Cloud Functions),可以为开发人员提供有关服务质量和部署成本的即时反馈。在这项工作中,我们的目标是为无服务器计算平台的最新趋势开发分析性能模型,这些平台使用并发值和每秒请求的速率进行自动缩放决策。这种无服务器计算平台的示例是Knative和Google Cloud Run(由Google管理的Knative服务)。提出的性能模型可以帮助开发人员和提供商预测不同配置的部署的性能和成本,这可以帮助他们调整配置以获得最佳结果。我们通过在Knative上进行的大量真实实验验证了所提出的性能模型的适用性和准确性,并表明我们的性能模型能够以最少的数据汇集量准确地预测给定工作负载的稳态特性。
2022-02-23 cs.DC cs.LG cs.NI
Costless: Optimizing Cost of Serverless Computing through Function Fusion and Placement
无服务器计算最近被几个应用程序大量采用,特别是物联网(IoT)应用程序。在无服务器计算中,用户不必部署和管理专用的虚拟机,而是能够部署单独的功能,并且只需支付代码实际执行的时间。然而,由于无服务器平台相对较新,它们具有完全不同的定价模型,这取决于内存,持续时间和功能序列/工作流的执行次数。在本文中,我们提出了一种优化AWS Lambda中无服务器应用程序价格的算法。我们首先描述了影响无服务器应用程序价格的因素,包括:(1)融合一系列功能,(2)跨边缘和云资源拆分功能,以及(3)为每个功能分配内存。然后,我们提出了一个有效的算法来探索不同的功能融合放置解决方案,并找到解决方案,优化应用程序的价格,同时保持在一定的阈值下的延迟。我们对图像处理工作流程的研究结果表明,该算法可以找到优化价格超过35%-57%的解决方案,而延迟仅增加5%-15%。我们还表明,我们的算法可以找到非平凡的内存配置,降低延迟和价格。
2018-11-23 cs.DC
Towards Persistent Memory based Stateful Serverless Computing for Big Data Applications
本文提出Marvel架构,通过内存缓存和PMEM支持HDFS存储,解决无服务器平台有状态执行和I/O瓶颈,使大数据应用执行时间最多减少86.6%。
2023-09-08 cs.DC cs.PF
CWASI: A WebAssembly Runtime Shim for Inter-function Communication in the Serverless Edge-Cloud Continuum
本文提出CWASI,一种符合WebAssembly OCI标准的运行时垫片,通过基于函数局部性的三模式通信模型优化同驻无服务器函数间的数据交换,将通信延迟最多降低95%,吞吐量最多提升30倍。
2025-04-30 cs.DC
Hybrid Serverless Computing: Opportunities and Challenges
近年来,由于易于部署,有吸引力的按使用付费定价和透明的水平自动扩展,无服务器计算的采用激增。与此同时,基础设施的进步,如5G网络的出现和连接到互联网(称为物联网(IoT))的设备的爆炸式增长,以及限制计算和数据发生的新应用程序需求,将使云计算的范围从传统的数据中心扩展到混合云。疫情导致的数字化转型加速了劳动力的变化,并刺激了人工智能的进一步采用,预计将加速,新兴的混合云市场可能扩大到超过万亿美元。在混合云环境中,在无服务器租户的推动下,将越来越需要专注于为使用分布式平台(包括公共云、私有云和边缘系统)的应用程序构建者实现高效工作。在本章中,我们将探讨无服务器计算可以扩展到何种程度,以成为混合无服务器计算。
2022-09-14 cs.DC cs.SE
High-Performance Serverless Computing: A Systematic Literature Review on Serverless for HPC, AI, and Big Data
Department of Computer Science, University of Pisa(帕尔米斯大学计算机科学系);ISTI – National Research Council(国家研究理事会ISTI)
本文系统综述了122篇论文,提出八个研究方向和九个用例领域,分析了服务器less计算在HPC、AI和大数据中的应用趋势和合作网络。
2026-01-14 cs.DC cs.LG
The server is dead, long live the server: Rise of Serverless Computing, Overview of Current State and Future Trends in Research and Industry
无服务器计算--一种用于部署应用程序和服务的新兴云原生范例--代表了云应用程序开发、编程模型、抽象和平台的发展。它承诺真正的按需付费计费(毫秒级粒度),不会浪费资源,并通过要求开发人员将所有操作复杂性和可扩展性委托给云提供商来降低开发人员的门槛。实现这些承诺是以限制功能为代价的。在本文中,我们概述了无服务器计算,它的发展,一般架构,关键特性和用例,使其成为应用程序开发的一个有吸引力的选择。基于在一系列有组织的无服务器计算研讨会(WoSC)期间与学者和行业专家的讨论,我们还确定了技术挑战和开放问题。
2019-06-07 cs.DC cs.SE
Cost Control and Efficiency Optimization in Maintainability Implementation of Wireless Sensor Networks based on Serverless Computing
无线传感器网络经过几十年的发展,在性能、功耗、拥塞控制等方面都取得了很好的成绩。然而,在无线传感器网络的生存周期中,存在设备生命周期成本估算不准确、工程开发高度耦合、软硬件资源利用率低等问题。因此,我们首先提出了基于无服务器计算的无线传感器网络可维护性实现的概念视图。可维护性实现是指在配置、试制、调试、批量生产、部署、运营、维护等阶段,满足无线传感器网络产品以较高概率消耗最少资源的能力。在此基础上,讨论了在无线传感器网络软件功能层实现无服务器计算,将设备操作和功能开发解耦,极大地提高了资源的重用性,排除了硬件干扰。从可维护性和成本控制的角度来看,无服务器计算的概念可以用于构建WSN平台,该平台可以支持数据汇集和数据管理的功能开发,这些功能可以通过前期支出从探索中受益,从而显著降低设计,制造和运营成本。最后,结合现有技术和智慧城市场景,给出了面向无服务器计算的无线传感器网络平台的设计思路,并进行了案例分析。
2022-10-28 cs.DC
FaaSTube: Optimizing GPU-oriented Data Transfer for Serverless Computing
针对无服务器机器学习推理中现有数据传递方案依赖主机内存导致I/O开销高的问题,提出FaaSTube系统,通过GPU内存池直接交换数据、细粒度带宽共享与弹性内存池,大幅降低端到端延迟并提升吞吐量。
2024-11-04 cs.DC
Evaluating Serverless Architecture for Big Data Enterprise Applications
在本文中,我们研究了使用云原生原语执行大规模数据处理的无服务器计算。
2021-10-26 cs.DC
SeBS: A Serverless Benchmark Suite for Function-as-a-Service Computing
功能即服务(FaaS)是云服务未来最有前途的方向之一,无服务器功能已立即成为构建可扩展且具有成本效益的微服务和应用程序的新中间件。然而,快速发展的技术阻碍了可重复性,缺乏标准化的基准测试套件导致无服务器研究中使用临时解决方案和微基准测试,进一步使研究解决方案的荟萃分析和比较复杂化。为了应对这一挑战,我们提出了Serverless Benchmark Suite:第一个FaaS计算基准,系统地覆盖了广泛的云资源和应用程序。我们的基准测试包括代表性工作负载的规范,伴随的实现和评估基础设施,以及促进可重复性和可解释性的评估方法。我们证明了FaaS执行环境的抽象模型可以确保我们的基准测试适用于多个商业提供商,如AWS,Azure和Google Cloud。我们的工作设施无服务器系统的实验评估,并提供了一个标准化的,可靠的和不断发展的评估方法的性能,效率,可扩展性和可靠性的中间件FaaS平台。
2021-07-02 cs.DC
Improving Robustness of Heterogeneous Serverless Computing Systems Via Probabilistic Task Pruning
基于云的无服务器计算是一种越来越流行的计算模式。在这种模式下,不同的服务有不同的计算需求,这证明部署不一致的异构计算(HC)系统来有效地处理它们是合理的。在不一致的HC系统中,给定服务所需的每个任务可能在每种类型的机器上表现出不同的执行时间。一个理想的资源分配系统必须意识到执行时间的这种不确定性,并对它们具有鲁棒性,从而满足用户的服务质量(QoS)要求。这项研究的目的是最大限度地提高HC系统的鲁棒性,用于提供无服务器计算系统,特别是当系统被超额认购。我们的策略,以最大限度地提高鲁棒性是开发一个任务修剪机制,可以添加到现有的任务映射算法,而不改变它们。修剪满足其最后期限的概率较低的任务提高了其他任务满足其最后期限的可能性,从而提高了系统的鲁棒性和整体QoS。为了评估修剪机制的影响,我们研究它的异构和同构计算系统的各种配置。评估结果表明,系统的鲁棒性有相当大的改善(高达35%)。
2019-05-11 cs.DC
Towards Fast Setup and High Throughput of GPU Serverless Computing
针对GPU无服务器计算中粗粒度管理导致的设置时间长和吞吐量低的问题,提出SAGE框架,通过并行化函数设置和共享内存管理机制,显著缩短函数持续时间并提升函数密度。
2024-04-23 cs.DC
In Search of a Fast and Efficient Serverless DAG Engine
Python编写的数据分析应用程序可以建模为并编译为基于有向无环图(DAG)的工作流,其中节点是细粒度任务,边是任务依赖关系。这种分析工作流作业越来越多地以具有大扇出的短、细粒度任务为特征。这些特性使它们非常适合一种新的云计算模型,称为无服务器计算或功能即服务(FaaS),近年来已变得流行。无服务器计算平台的自动扩展特性可以适应短任务和突发工作负载,而无服务器计算提供商的按使用付费计费模式可以降低短任务的成本。在本文中,我们深入研究了无服务器计算中的DAG调度问题空间。我们确定并评估了一组技术,使DAG服务器感知。这些技术已经在Wukong中实现,Wukong是一个无服务器的DAG调度器,与AWS Lambda相协调。Wukong通过静态和动态调度的组合提供分散式调度。我们提出了一个实证研究的结果,悟空是适用于一系列的微基准和现实世界的DAG应用程序。结果证明了Wukong在最大限度地减少AWS Lambda引入的性能开销方面的有效性-与服务器DAG调度程序相比,Wukong实现了具有竞争力的性能,同时在更大规模下将实际DAG作业的性能提高了3.1倍。
2019-10-15 cs.DC
GreenWhisk: Emission-Aware Computing for Serverless Platform
本文提出基于Apache OpenWhisk的碳感知无服务器平台GreenWhisk,通过并网/离网两种模式和碳感知负载均衡算法,在不显著影响性能的前提下降低函数执行的碳足迹。
2024-09-04 cs.DC
Dependency-aware Resource Allocation for Serverless Functions at the Edge
本文提出NEPTUNE+,一种边缘无服务器函数的依赖感知CPU核心分配方案,通过扩展NEPTUNE框架引入考虑函数依赖关系的理论模型与控制算法,实验证明其可减少高达42%的核心分配。
2023-09-22 cs.DC
Efficient Serverless Function Scheduling at the Network Edge
本文针对资源受限网络边缘的无服务器函数调度问题,提出基于函数权重的增强型最短函数优先(ESFF)算法,通过选择性初始化实例和动态替换函数来减少冷启动延迟并适应动态负载,仿真验证其显著优于现有基线方法。
2023-10-31 cs.DC
Scale: Deep Reinforcement Learning for Container Scheduling in Serverless Edge Computing
Nottingham Trent University(诺丁汉特伦特大学);Loughborough University(拉夫堡大学);University of Bologna(博洛尼亚大学);TU Wien(维也纳工业大学);University of Oregon(俄勒冈大学)
本文提出Scale框架,通过深度强化学习优化容器调度与资源分配,在动态负载下平衡系统稳定性和性能,实验证明其在决策效率和资源利用率方面优于整数线性规划求解器。
2026-05-15 cs.DC
Serverless Applications: Why, When, and How?
无服务器计算在效率和易用性方面表现出良好的前景。然而,关于“为什么这么多公司采用无服务器?”','什么时候适合无服务器应用程序?和“目前如何实现无服务器应用程序?为了解决这些问题,我们分析了来自开源项目、工业来源、学术文献和科学计算的89个无服务器应用程序--这是迄今为止最广泛的研究。
2020-09-18 cs.DC cs.SE
ServerMix: Tradeoffs and Challenges of Serverless Data Analytics
无服务器计算今天已经变得非常流行,因为它在很大程度上简化了云编程。开发人员不再需要担心配置或操作服务器,他们只需为代码运行时使用的计算资源付费。这种新的云模式非常适合许多应用程序,研究人员已经开始研究无服务器计算用于数据分析的可行性。不幸的是,今天的无服务器计算存在重要的限制,使得它很难支持各种分析工作负载。本文首先分析了当今无服务器计算模型的三个基本权衡及其与数据分析的关系。它研究了如何通过放松分解,隔离和简单的调度来提高整体计算性能,但代价是模型的基本方面,如弹性,安全性或亚秒级激活。这些权衡的结果是,分析应用程序最终可能会拥抱由无服务器和有服务器组件组成的混合系统,我们在本文中称之为Servermix。我们将回顾现有的相关工作,以表明大多数应用程序实际上可以归类为Servermix。最后,本文将介绍CloudButton研究项目管理这些权衡的主要挑战。
2019-07-26 cs.DC
Cold Start Latency in Serverless Computing: A Systematic Review, Taxonomy, and Future Directions
本文系统综述无服务器计算中的冷启动延迟问题,提出详细分类法并梳理缓存、应用级优化及AI/ML等缓解技术,分析其对服务质量的影响,并指出未来研究方向。
2024-10-23 cs.DC
CloudSimSC: A Toolkit for Modeling and Simulation of Serverless Computing Environments
本文提出CloudSimSC,一个基于CloudSim的模块化无服务器计算仿真工具,通过在架构、函数调度与扩展方面引入灵活性并支持监控指标推导,解决了现有仿真器缺乏通用性的问题。
2023-09-19 cs.DC
Faasm: Lightweight Isolation for Efficient Stateful Serverless Computing
无服务器计算非常适合大数据处理,因为它可以快速、廉价地扩展到数千个并行功能。现有的无服务器平台将函数隔离在短暂的无状态容器中,防止它们直接共享内存。这迫使用户重复复制和序列化数据,增加了不必要的性能和资源成本。我们认为需要一种新的轻量级隔离方法,它支持在函数之间直接共享内存,并减少资源开销。我们介绍Faaslets,一个新的高性能无服务器计算的隔离抽象。Faaslet使用WebAssembly提供的软件故障隔离(SFI)隔离已执行函数的内存,同时允许同一地址空间中的函数之间共享内存区域。因此,当函数位于同一台机器上时,Faaslet可以避免昂贵的数据移动。我们的Faaslets运行时Faasm使用标准Linux cgroups隔离其他资源,例如CPU和网络,并为网络,文件系统访问和动态加载提供低级POSIX主机接口。为了减少初始化时间,Faasm从已经初始化的快照中恢复Faaslet。我们将Faasm与标准的基于容器的平台进行了比较,结果表明,在训练机器学习模型时,它以10倍的内存实现了2倍的速度提升;为了服务于机器学习推理,Faasm将吞吐量提高了一倍,并将尾部延迟降低了90%。
2020-06-19 cs.DC
Distributed Double Machine Learning with a Serverless Architecture
University of Hamburg(汉堡大学)
本文探讨了双机器学习的无服务器云计算。基于重复交叉拟合,双机器学习特别适合利用无服务器计算可实现的高水平并行性。它允许获得快速的按需估计,而无需额外的云维护工作。我们提供了一个原型Python实现\texttt{DoubleML-Serverless},用于使用无服务器计算平台AWS Lambda估计双机器学习模型,并通过分析估计时间和成本的案例研究来展示其实用性。
2021-02-24 cs.DC cs.LG stat.ML
SimFaaS: A Performance Simulator for Serverless Computing Platforms
为无服务器平台(即FaaS平台)开发准确且可扩展的性能模型是一项非常具有挑战性的任务。此外,在真正的无服务器平台上进行实施和实验既昂贵又耗时。然而,目前还没有全面的模拟工具或框架来代替真实的平台。因此,在本文中,我们提出了一个模拟平台,称为SimFaaS,它可以帮助无服务器应用程序开发人员开发优化的功能即服务应用程序的成本和性能方面填补了这一空白。另一方面,FaaS提供商可以利用SimFaaS来定制他们的平台,使其具有工作负载感知能力,从而可以同时提高利润和服务质量。此外,无服务器平台提供商可以以及时且经济高效的方式评估SimFaaS上的新设计、实现和部署。SimFaaS是开源的,有良好的文档记录,并且公开可用,使其易于使用和扩展,以便在未来纳入更多的用例场景。此外,它为性能工程师提供了一套工具,可以计算无服务器平台内部状态的几个特征,否则很难(大多数情况下是不可能)从真实平台中提取。我们展示了SimFaaS如何促进基本性能指标的预测,如平均响应时间,冷启动的概率,以及反映无服务器计算提供商所产生的基础设施成本的实例的平均数量。我们通过比较预测结果与Amazon AWS Lambda的真实跟踪来评估SimFaaS的准确性和适用性。
2021-02-17 cs.DC
A FaaS File System for Serverless Computing
具有云功能的无服务器计算正在迅速获得采用,但其对状态管理的有限支持限制了程序员。我们为云函数引入了一个共享文件系统。它提供了熟悉的POSIX语义,同时利用云功能的独特方面来实现传统共享文件系统无法提供的可扩展性和性能。我们利用云函数的函数粒度容错模型,使用本地状态乐观地继续进行,并且知道如果提交后无法协调缓存读取或锁活动,我们可以重新启动。云函数的边界提供了隐式的提交和回滚点,使我们能够灵活地使用事务处理技术,而无需更改编程模型或API。这允许各种基于服务器的有状态应用程序受益于无服务器计算的简单性和可扩展性,通常只需很少或根本不需要修改。
2020-09-16 cs.DC cs.OS
A Fault-Tolerance Shim for Serverless Computing
近年来,无服务器计算越来越受欢迎,越来越多的应用程序构建在功能即服务(FaaS)平台上。默认情况下,FaaS平台支持基于重试的容错,但这对于修改共享状态的程序来说是不够的,因为它们可能在失败的情况下无意中持久化部分更新集。为了应对这一挑战,我们希望FaaS应用程序所做的更新具有原子可见性。在本文中,我们提出了AFT,原子容错垫片无服务器应用程序。AFT介于商品FaaS平台和存储引擎之间,并通过强制执行读取原子隔离保证来确保更新的原子可见性。AFT支持新的协议,以保证无服务器设置中的读取原子隔离。我们证明,AFT相对于现有的存储引擎引入了最小的开销,并且可以平滑地扩展到每秒数千个请求,同时防止了大量的一致性异常。
2020-03-12 cs.DB cs.DC
Green or Fast? Learning to Balance Cold Starts and Idle Carbon in Serverless Computing
Department of Computer Science William \& Mary Williamsburg, VA, USA;Department of Computer Science University of Thessaly Volos, Greece
LACE-RL通过深度强化学习在无服务器计算中平衡冷启动延迟与碳排放,实现更高效的资源管理和更优的延迟-碳贸易平衡。
2026-02-27 cs.AI cs.DC cs.PF
GoldFish: Serverless Actors with Short-Term Memory State for the Edge-Cloud Continuum
针对无服务器 actor 依赖远程状态管理导致的性能与成本问题,本文提出短期有状态生命周期与新型调用模型,并实现基于 WebAssembly 的 GoldFish 平台,显著降低延迟、提升吞吐。
2024-12-03 cs.DC
A Review of Deep Reinforcement Learning in Serverless Computing: Function Scheduling and Resource Auto-Scaling
Martel Innovate(马特尔创新公司);Telefonica(西班牙电信公司)
本文综述了深度强化学习(DRL)在无服务器计算中函数调度与资源自动扩缩容的应用,表明DRL能有效提升效率,并指出了仿真环境、冷启动等挑战及多智能体强化学习等未来方向。
2023-10-05 cs.AI cs.DC cs.LG