Serverless Computing: Architecture, Concepts, and Applications
本文系统梳理无服务器计算的架构、概念、优缺点、实现环境与行业应用,探讨其与其他技术融合应对数据管理等挑战的路径,研判未来趋势,全面呈现该技术的潜力与局限。
2025-01-16 cs.DC
Towards Seamless Serverless Computing Across an Edge-Cloud Continuum
本文基于 Knative 构建支持边缘-云无缝部署的无服务器平台,提出边缘编排与动态卸载策略,实验证明其可降低延迟并提升吞吐量。
2024-01-04 cs.DC
The Serverless Computing Survey: A Technical Primer for Design Architecture
云基础设施的发展激发了云原生计算的出现。作为部署微服务最有前途的架构,无服务器计算近年来在工业界和学术界引起了越来越多的关注。由于其固有的可扩展性和灵活性,无服务器计算对于不断增长的互联网服务变得越来越有吸引力和普及。尽管云原生社区的发展势头良好,但现有的挑战和妥协仍然需要更先进的研究和解决方案来进一步探索无服务器计算模型的潜力。作为对这一知识的贡献,本文通过将架构解耦为四个堆栈层来调查和阐述无服务器环境中的研究领域:虚拟化,封装,系统演示和系统协调。受安全模型的启发,我们强调了这些工作在每一层的关键影响和限制,并提出了未来无服务器计算领域的潜在挑战的建议。
2022-01-03 cs.DC
Status of Serverless Computing and Function-as-a-Service(FaaS) in Industry and Research
本白皮书总结了2017年6月5日举行的2017年第一届无服务器计算国际研讨会(WoSC)期间提出的问题,特别是在研讨会结束时的小组讨论和相关讨论中提出的问题。我们还包括来自主题演讲和提交的论文的评论。最后的术语表(第8节)定义了本报告中使用的许多技术术语。
2017-08-27 cs.DC
A Holistic View on Resource Management in Serverless Computing Environments: Taxonomy and Future Directions
近年来,无服务器计算已成为云应用程序的一个有吸引力的部署选项。这种计算模型的独特功能包括快速自动扩展、强大的隔离、细粒度的计费选项以及访问自主处理资源管理决策的大规模服务生态系统。由于这些特征,这种模型也越来越多地被探索用于地理分布的边缘和雾计算网络中的部署。计算资源的有效管理一直受到研究人员的关注。由于需要自动化资源配置、分配、调度、监控和扩展的整个过程,因此需要专门关注无服务器模式下的资源管理。在这篇文章中,我们确定了覆盖无服务器环境中资源管理更广泛概念的主要方面,并提出了影响这些方面的元素分类,包括系统设计,工作负载属性和利益相关者期望的特征。我们全面了解跨边缘、雾和云计算网络部署的无服务器环境。我们还分析了现有的作品,讨论使用这种分类的无服务器资源管理方面。本文进一步确定了文献中的差距,并强调了未来的研究方向,以提高这种计算模型的能力。
2021-06-01 cs.DC
FaaSdom: A Benchmark Suite for Serverless Computing
无服务器计算已成为云提供商的主要趋势。通过无服务器计算,开发人员将管理服务器的任务完全委托给云提供商,动态分配所需的资源,以及处理可用性和容错问题。这样,开发人员可以只关注其软件的应用程序逻辑,然后在云中部署和完全管理。尽管它越来越受欢迎,但关于当前可用的无服务器平台上可实现的实际系统性能知之甚少。具体来说,以独立于语言或运行时的方式对这样的系统进行基准测试是很麻烦的。相反,人们必须采取全面的应用程序部署,以便在多个方面(包括性能和经济成本)对最方便的解决方案做出明智的决定。FaaSdom是无服务器计算平台基准套件的模块化架构和概念验证实现。它目前支持当前主流的无服务器云提供商(即,AWS、Azure、Google、IBM)、大量基准测试和各种实现语言。该套件完全自动化此类测试的部署,执行和清理,提供有关无服务器应用程序所观察到的性能的见解(包括历史)。FaaSdom还集成了一个模型来估计跨支持的提供商部署的预算成本。FaaSdom是开源的,可在https://github.com/bschitter/benchmark-suite-serverless-computing上获得。
2020-06-05 cs.DC
EcoLife: Carbon-Aware Serverless Function Scheduling for Sustainable Computing
本文提出ECOLIFE,首个协同优化碳足迹与性能的碳感知无服务器函数调度器,通过智能利用多代硬件并扩展粒子群优化算法,在保证高性能的同时有效降低碳足迹。
2024-10-16 cs.DC
Towards Energy-Efficient Serverless Computing with Hardware Isolation
针对无服务器计算能耗高的问题,提出用每函数独立处理器的硬件隔离替代软件隔离,实现按需耗能,初步评估显示能耗开销降低90.63%。
2025-10-09 cs.DC
Supporting Multi-Cloud in Serverless Computing
无服务器计算是一种广泛采用的云执行模型,由功能即服务(FaaS)和后端即服务(BaaS)产品组成。抽象级别的提高使得供应商锁定成为无服务器计算所固有的,这比以前的云模式引起了更多的关注。多云无服务器是一种很有前途的新兴方法,可以防止供应商锁定,但必须克服多种挑战才能发挥其潜力。首先,我们需要了解每个FaaS提供商的性能和成本。其次,在部署多云工作流之前,必须提出多云架构。然后,特定于域的无服务器产品必须集成到多云架构中,以提高性能或节省成本。此外,处理来自多个提供商的无服务器产品具有挑战性。最后,我们需要为无服务器多云提供工作负载可移植性支持。在本文中,我们提出了一个跨无服务器产品的多云库。我们开发了终端分析系统(EAS),以支持公共FaaS提供商在性能和成本方面的比较。此外,我们还设计了具有特定领域无服务器产品的概念验证多云架构,以缓解数据重力等问题。最后,我们在这些架构上部署工作负载,以评估几个公共FaaS产品。
2023-03-26 cs.DC
Wukong: A Scalable and Locality-Enhanced Framework for Serverless Parallel Computing
无服务器计算越来越多地用于并行计算,传统上这些计算是作为有状态应用程序实现的。执行复杂的、突发并行的、有向无环图(DAG)作业对无服务器执行框架构成了重大挑战,这需要以高吞吐量快速扩展和调度任务,同时最大限度地减少任务之间的数据移动。我们证明,对于无服务器并行计算,分散式调度使调度能够分布在Lambda执行器上,这些执行器可以并行调度任务,并带来多种好处,包括增强数据本地性,减少网络I/O,自动资源弹性和提高成本效益。我们描述了我们新的无服务器并行框架Wukong在AWS Lambda上的实现和部署。我们表明,Wukong实现了近乎理想的可扩展性,执行并行计算作业的速度高达68.17倍,将网络I/O减少了多个数量级,并与numpywren相比实现了92.96%的租户端成本节省。
2020-10-14 cs.DC
Intel Optane DCPMM and Serverless Computing
本报告介绍1)我们如何在内存模式下使用英特尔Optane DCPMM。我们调查的可扩展性的应用程序在一个单一的Optane机器上,使用子图计数作为内存密集型图的问题。我们使用各种输入图和子模板大小进行测试,以确定其在不同内存和CPU负载下的性能,以及使用MPI在单个节点Optane上与集群中的分布式节点集进行性能比较。2)我们研究了无服务器计算中的端到端执行延迟,并研究了冷启动的并发函数执行。在未来的工作中,我们将证明持久内存机器可以显着改善无服务器计算中的并发函数调用,包括Amazon Lambda,Microsoft Azure Functions,Google Cloud Functions和IBM Cloud Functions(Apache OpenWhisk)。
2021-09-22 cs.DC
Serverless Computing: Behind the Scenes of Major Platforms
无服务器计算为应用程序开发提供了一个事件驱动的按需付费框架。一个关键的卖点是没有后端服务器管理的概念,允许开发人员专注于应用程序功能。这是通过严格抽象的底层架构的功能running.We检查底层架构和报告的性能无服务器功能,以及它们是如何受到某些因素,如内存分配和干扰引起的负载由其他用户在平台上。具体而言,我们专注于四大平台的无服务器产品:AWS Lambda,Google Cloud Functions,Microsoft Azure Functions和IBM Cloud Functions。在本文中,我们观察和这些平台之间的对比,在他们的方法,以共同的问题“冷启动”,我们设计了一种方法来揭示底层架构无服务器功能执行,我们调查的影响,从负载在平台上超过一个月的时间跨度。
2020-12-10 cs.DC
Costless: Optimizing Cost of Serverless Computing through Function Fusion and Placement
无服务器计算最近被几个应用程序大量采用,特别是物联网(IoT)应用程序。在无服务器计算中,用户不必部署和管理专用的虚拟机,而是能够部署单独的功能,并且只需支付代码实际执行的时间。然而,由于无服务器平台相对较新,它们具有完全不同的定价模型,这取决于内存,持续时间和功能序列/工作流的执行次数。在本文中,我们提出了一种优化AWS Lambda中无服务器应用程序价格的算法。我们首先描述了影响无服务器应用程序价格的因素,包括:(1)融合一系列功能,(2)跨边缘和云资源拆分功能,以及(3)为每个功能分配内存。然后,我们提出了一个有效的算法来探索不同的功能融合放置解决方案,并找到解决方案,优化应用程序的价格,同时保持在一定的阈值下的延迟。我们对图像处理工作流程的研究结果表明,该算法可以找到优化价格超过35%-57%的解决方案,而延迟仅增加5%-15%。我们还表明,我们的算法可以找到非平凡的内存配置,降低延迟和价格。
2018-11-23 cs.DC
Software Resource Disaggregation for HPC with Serverless Computing
本文提出利用无服务器计算范式实现HPC软件资源解聚,通过面向HPC的FaaS将函数部署在未充分利用的节点上,在保持接近原生性能的同时提高超级计算机空闲核心和加速器的利用率。
2024-07-26 cs.DC
Cost Control and Efficiency Optimization in Maintainability Implementation of Wireless Sensor Networks based on Serverless Computing
无线传感器网络经过几十年的发展,在性能、功耗、拥塞控制等方面都取得了很好的成绩。然而,在无线传感器网络的生存周期中,存在设备生命周期成本估算不准确、工程开发高度耦合、软硬件资源利用率低等问题。因此,我们首先提出了基于无服务器计算的无线传感器网络可维护性实现的概念视图。可维护性实现是指在配置、试制、调试、批量生产、部署、运营、维护等阶段,满足无线传感器网络产品以较高概率消耗最少资源的能力。在此基础上,讨论了在无线传感器网络软件功能层实现无服务器计算,将设备操作和功能开发解耦,极大地提高了资源的重用性,排除了硬件干扰。从可维护性和成本控制的角度来看,无服务器计算的概念可以用于构建WSN平台,该平台可以支持数据汇集和数据管理的功能开发,这些功能可以通过前期支出从探索中受益,从而显著降低设计,制造和运营成本。最后,结合现有技术和智慧城市场景,给出了面向无服务器计算的无线传感器网络平台的设计思路,并进行了案例分析。
2022-10-28 cs.DC
FaaSTube: Optimizing GPU-oriented Data Transfer for Serverless Computing
针对无服务器机器学习推理中现有数据传递方案依赖主机内存导致I/O开销高的问题,提出FaaSTube系统,通过GPU内存池直接交换数据、细粒度带宽共享与弹性内存池,大幅降低端到端延迟并提升吞吐量。
2024-11-04 cs.DC
Evaluating Serverless Architecture for Big Data Enterprise Applications
在本文中,我们研究了使用云原生原语执行大规模数据处理的无服务器计算。
2021-10-26 cs.DC
SeBS: A Serverless Benchmark Suite for Function-as-a-Service Computing
功能即服务(FaaS)是云服务未来最有前途的方向之一,无服务器功能已立即成为构建可扩展且具有成本效益的微服务和应用程序的新中间件。然而,快速发展的技术阻碍了可重复性,缺乏标准化的基准测试套件导致无服务器研究中使用临时解决方案和微基准测试,进一步使研究解决方案的荟萃分析和比较复杂化。为了应对这一挑战,我们提出了Serverless Benchmark Suite:第一个FaaS计算基准,系统地覆盖了广泛的云资源和应用程序。我们的基准测试包括代表性工作负载的规范,伴随的实现和评估基础设施,以及促进可重复性和可解释性的评估方法。我们证明了FaaS执行环境的抽象模型可以确保我们的基准测试适用于多个商业提供商,如AWS,Azure和Google Cloud。我们的工作设施无服务器系统的实验评估,并提供了一个标准化的,可靠的和不断发展的评估方法的性能,效率,可扩展性和可靠性的中间件FaaS平台。
2021-07-02 cs.DC
Improving Robustness of Heterogeneous Serverless Computing Systems Via Probabilistic Task Pruning
基于云的无服务器计算是一种越来越流行的计算模式。在这种模式下,不同的服务有不同的计算需求,这证明部署不一致的异构计算(HC)系统来有效地处理它们是合理的。在不一致的HC系统中,给定服务所需的每个任务可能在每种类型的机器上表现出不同的执行时间。一个理想的资源分配系统必须意识到执行时间的这种不确定性,并对它们具有鲁棒性,从而满足用户的服务质量(QoS)要求。这项研究的目的是最大限度地提高HC系统的鲁棒性,用于提供无服务器计算系统,特别是当系统被超额认购。我们的策略,以最大限度地提高鲁棒性是开发一个任务修剪机制,可以添加到现有的任务映射算法,而不改变它们。修剪满足其最后期限的概率较低的任务提高了其他任务满足其最后期限的可能性,从而提高了系统的鲁棒性和整体QoS。为了评估修剪机制的影响,我们研究它的异构和同构计算系统的各种配置。评估结果表明,系统的鲁棒性有相当大的改善(高达35%)。
2019-05-11 cs.DC
Towards Fast Setup and High Throughput of GPU Serverless Computing
针对GPU无服务器计算中粗粒度管理导致的设置时间长和吞吐量低的问题,提出SAGE框架,通过并行化函数设置和共享内存管理机制,显著缩短函数持续时间并提升函数密度。
2024-04-23 cs.DC
In Search of a Fast and Efficient Serverless DAG Engine
Python编写的数据分析应用程序可以建模为并编译为基于有向无环图(DAG)的工作流,其中节点是细粒度任务,边是任务依赖关系。这种分析工作流作业越来越多地以具有大扇出的短、细粒度任务为特征。这些特性使它们非常适合一种新的云计算模型,称为无服务器计算或功能即服务(FaaS),近年来已变得流行。无服务器计算平台的自动扩展特性可以适应短任务和突发工作负载,而无服务器计算提供商的按使用付费计费模式可以降低短任务的成本。在本文中,我们深入研究了无服务器计算中的DAG调度问题空间。我们确定并评估了一组技术,使DAG服务器感知。这些技术已经在Wukong中实现,Wukong是一个无服务器的DAG调度器,与AWS Lambda相协调。Wukong通过静态和动态调度的组合提供分散式调度。我们提出了一个实证研究的结果,悟空是适用于一系列的微基准和现实世界的DAG应用程序。结果证明了Wukong在最大限度地减少AWS Lambda引入的性能开销方面的有效性-与服务器DAG调度程序相比,Wukong实现了具有竞争力的性能,同时在更大规模下将实际DAG作业的性能提高了3.1倍。
2019-10-15 cs.DC
GreenWhisk: Emission-Aware Computing for Serverless Platform
本文提出基于Apache OpenWhisk的碳感知无服务器平台GreenWhisk,通过并网/离网两种模式和碳感知负载均衡算法,在不显著影响性能的前提下降低函数执行的碳足迹。
2024-09-04 cs.DC
Serverless Platforms on the Edge: A Performance Analysis
物联网(IoT)的指数级增长引发了新一轮边缘计算浪潮,因为需要在边缘处理数据,更接近数据产生的地方,并试图摆脱以云为中心的架构。这为减少延迟和解决数据隐私问题以及降低公共云成本提供了机会。无服务器计算模型提供了一个潜在的解决方案,其事件驱动架构可以减少对不断运行的服务器的需求,并将后端服务转换为使用模型。该模型在具有不同工作负载和有限资源的边缘计算环境中具有吸引力的前景。此外,它在网络边缘的设置承诺减少与它通信的边缘设备的延迟,并消除了管理底层基础设施的需要。在本书的这一章中,首先,我们介绍了无服务器边缘计算的新概念,然后,我们分析了多个无服务器平台的性能,即OpenFaaS,AWS Greengrass,Apache OpenWhisk,当设置在边缘的单板计算机(SBC)上时,并将其与公共云无服务器产品,即AWS Lambda和Azure Functions进行比较,来推断无服务器架构在网络边缘的适用性。这些无服务器平台建立在一个Raspberry Pis集群上,我们通过模拟不同类型的边缘工作负载来评估它们的性能。评估结果表明,OpenFaaS在SBC边缘计算基础设施上实现了最低的响应时间,而无服务器云产品最可靠,成功率最高。
2021-11-12 cs.DC
Scale: Deep Reinforcement Learning for Container Scheduling in Serverless Edge Computing
Nottingham Trent University(诺丁汉特伦特大学);Loughborough University(拉夫堡大学);University of Bologna(博洛尼亚大学);TU Wien(维也纳工业大学);University of Oregon(俄勒冈大学)
本文提出Scale框架,通过深度强化学习优化容器调度与资源分配,在动态负载下平衡系统稳定性和性能,实验证明其在决策效率和资源利用率方面优于整数线性规划求解器。
2026-05-15 cs.DC
ServerMix: Tradeoffs and Challenges of Serverless Data Analytics
无服务器计算今天已经变得非常流行,因为它在很大程度上简化了云编程。开发人员不再需要担心配置或操作服务器,他们只需为代码运行时使用的计算资源付费。这种新的云模式非常适合许多应用程序,研究人员已经开始研究无服务器计算用于数据分析的可行性。不幸的是,今天的无服务器计算存在重要的限制,使得它很难支持各种分析工作负载。本文首先分析了当今无服务器计算模型的三个基本权衡及其与数据分析的关系。它研究了如何通过放松分解,隔离和简单的调度来提高整体计算性能,但代价是模型的基本方面,如弹性,安全性或亚秒级激活。这些权衡的结果是,分析应用程序最终可能会拥抱由无服务器和有服务器组件组成的混合系统,我们在本文中称之为Servermix。我们将回顾现有的相关工作,以表明大多数应用程序实际上可以归类为Servermix。最后,本文将介绍CloudButton研究项目管理这些权衡的主要挑战。
2019-07-26 cs.DC
Cold Start Latency in Serverless Computing: A Systematic Review, Taxonomy, and Future Directions
本文系统综述无服务器计算中的冷启动延迟问题,提出详细分类法并梳理缓存、应用级优化及AI/ML等缓解技术,分析其对服务质量的影响,并指出未来研究方向。
2024-10-23 cs.DC
CloudSimSC: A Toolkit for Modeling and Simulation of Serverless Computing Environments
本文提出CloudSimSC,一个基于CloudSim的模块化无服务器计算仿真工具,通过在架构、函数调度与扩展方面引入灵活性并支持监控指标推导,解决了现有仿真器缺乏通用性的问题。
2023-09-19 cs.DC
Faasm: Lightweight Isolation for Efficient Stateful Serverless Computing
无服务器计算非常适合大数据处理,因为它可以快速、廉价地扩展到数千个并行功能。现有的无服务器平台将函数隔离在短暂的无状态容器中,防止它们直接共享内存。这迫使用户重复复制和序列化数据,增加了不必要的性能和资源成本。我们认为需要一种新的轻量级隔离方法,它支持在函数之间直接共享内存,并减少资源开销。我们介绍Faaslets,一个新的高性能无服务器计算的隔离抽象。Faaslet使用WebAssembly提供的软件故障隔离(SFI)隔离已执行函数的内存,同时允许同一地址空间中的函数之间共享内存区域。因此,当函数位于同一台机器上时,Faaslet可以避免昂贵的数据移动。我们的Faaslets运行时Faasm使用标准Linux cgroups隔离其他资源,例如CPU和网络,并为网络,文件系统访问和动态加载提供低级POSIX主机接口。为了减少初始化时间,Faasm从已经初始化的快照中恢复Faaslet。我们将Faasm与标准的基于容器的平台进行了比较,结果表明,在训练机器学习模型时,它以10倍的内存实现了2倍的速度提升;为了服务于机器学习推理,Faasm将吞吐量提高了一倍,并将尾部延迟降低了90%。
2020-06-19 cs.DC
SimFaaS: A Performance Simulator for Serverless Computing Platforms
为无服务器平台(即FaaS平台)开发准确且可扩展的性能模型是一项非常具有挑战性的任务。此外,在真正的无服务器平台上进行实施和实验既昂贵又耗时。然而,目前还没有全面的模拟工具或框架来代替真实的平台。因此,在本文中,我们提出了一个模拟平台,称为SimFaaS,它可以帮助无服务器应用程序开发人员开发优化的功能即服务应用程序的成本和性能方面填补了这一空白。另一方面,FaaS提供商可以利用SimFaaS来定制他们的平台,使其具有工作负载感知能力,从而可以同时提高利润和服务质量。此外,无服务器平台提供商可以以及时且经济高效的方式评估SimFaaS上的新设计、实现和部署。SimFaaS是开源的,有良好的文档记录,并且公开可用,使其易于使用和扩展,以便在未来纳入更多的用例场景。此外,它为性能工程师提供了一套工具,可以计算无服务器平台内部状态的几个特征,否则很难(大多数情况下是不可能)从真实平台中提取。我们展示了SimFaaS如何促进基本性能指标的预测,如平均响应时间,冷启动的概率,以及反映无服务器计算提供商所产生的基础设施成本的实例的平均数量。我们通过比较预测结果与Amazon AWS Lambda的真实跟踪来评估SimFaaS的准确性和适用性。
2021-02-17 cs.DC
Towards Serverless Optimization with In-place Scaling
本研究探索Kubernetes v1.27的原地扩缩容特性,以优化无服务器计算,实验表明相比传统冷策略,请求延迟降低1.16至18.15倍。
2023-11-16 cs.DC
Caching Aided Multi-Tenant Serverless Computing
本文提出缓存辅助的多租户无服务器计算框架 FaasCamp,通过多层暖池、跨租户安全共享和机器学习缓存替换策略缓解冷启动问题,实验证明其能以最小开销超越现有平台。
2024-08-01 cs.DC
Pagurus: Eliminating Cold Startup in Serverless Computing with Inter-Action Container Sharing
无服务器计算通过容器在云租户之间提供细粒度的资源共享。每个函数调用(动作)都在一个单独的容器中运行。当用户函数没有已经启动的容器时,必须为其创建一个新的容器。然而,容器的冷启动时间长导致动作的响应延迟长。我们的调查表明,一些用户操作的容器共享大部分的软件包。如果一个需要新容器的动作可以从其他动作中“移除”一个类似的热容器,那么就可以消除长时间的冷启动。基于上述发现,我们提出了Pagurus,一个运行时容器管理系统,用于消除无服务器计算中的冷启动。Pagurus由每个动作的动作间容器调度器和动作内容器调度器组成。交互操作容器调度器在操作之间调度共享容器。内部操作容器调度器处理容器生命周期的管理。我们的实验结果表明,Pagurus有效地消除了耗时的容器冷启动。Pagurus可以在10ms内开始运行一个动作,即使没有热容器。
2021-08-25 cs.DC
Hardless: A Generalized Serverless Compute Architecture for Hardware Processing Accelerators
越来越多地使用为特定应用定制的硬件处理加速器,例如用于图像识别的视觉处理单元(VPU),进一步增加了开发人员的配置、开发和管理开销。开发人员已经成功地使用全自动弹性云服务(如无服务器计算)来应对这些额外的工作,并缩短在CPU上运行的应用程序的开发周期。不幸的是,目前的云解决方案还没有为需要硬件加速的应用程序提供这些简化。然而,随着专用硬件加速的发展不断提供性能和成本改进,在云中实现易用性将变得越来越重要。在本文中,我们提出了Hardless的初步设计和实现,Hardless是一种可扩展的通用无服务器计算架构,可以支持任意硬件加速器的工作负载。我们展示了Hardless如何跨不同的商用硬件加速器扩展,并使用当今无服务器计算中常见的相同执行和编程模型支持各种工作负载。
2022-08-05 cs.DC
Serverless Computing: One Step Forward, Two Steps Back
无服务器计算提供了以自动缩放、按需付费的方式对云进行编程的可能性。在本文中,我们解决了第一代无服务器计算的关键差距,这使得其自动扩展潜力与现代计算的主导趋势不一致:特别是以数据为中心和分布式计算,但也包括开源和定制硬件。总而言之,这些差距使得当前的无服务器产品不适合云创新,特别是数据系统创新。除了指出当前无服务器架构的一些主要不足之外,我们还提出了一系列我们认为必须满足的挑战,以释放云计算的巨大潜力-其存储容量和数百万个核心-应该为创新开发人员提供。
2018-12-10 cs.DB cs.DC
Optimizing simultaneous autoscaling for serverless cloud computing
本文针对无服务器云计算中的自动扩缩容问题,提出基于流体近似模型和分离连续线性规划的优化控制策略,显著降低失败请求和响应时间。
2023-10-29 cs.DC
Practical Scheduling for Real-World Serverless Computing
无服务器计算由于其提供的易用性和成本效益而快速增长。然而,功能调度,无服务器系统的关键组成部分,一直被忽视。在本文中,我们采用第一原理方法来设计一个调度器,以满足在实际部署中看到的无服务器功能的独特特性。我们首先创建一个分类的调度策略沿三个维度。接下来,我们使用模拟来探索Azure函数的14天跟踪中的函数特征的调度策略空间,并得出结论,对于常见的执行时间分布和负载范围,经常使用的功能(如后期绑定和随机负载均衡)是次优的。我们使用这些见解来设计Hermes,这是一个具有三个关键特征的无服务器功能调度器。首先,为了避免由于高函数执行时间可变性而导致的头端阻塞,Hermes使用早期绑定和处理器共享的组合来在各个工作机器上进行调度。第二,Hermes使用混合负载均衡方法,在低负载时改进整合,同时在高负载时采用最小负载平衡来保持高性能。第三,Hermes是负载和本地感知的,与纯基于负载的策略相比,减少了冷启动的次数。我们为Apache OpenWhisk实现了Hermes,并证明了,对于在Azure和其他真实世界跟踪中观察到的函数模式,与现有策略相比,它可以降低高达85%的函数速度,提高60%的吞吐量。
2021-11-14 cs.DC
FaaSKeeper: Learning from Building Serverless Services with ZooKeeper as an Example
本文提出FaaSKeeper,即基于无服务器函数和云原生服务构建的ZooKeeper无服务器变体,在保持相同一致性保证和接口的同时,将不频繁工作负载下的成本降低110-719倍。
2024-05-01 cs.DC
Silent Failures in Stateless Systems: Rethinking Anomaly Detection for Serverless Computing
本文系统梳理 serverless 无状态、短生命周期与可观测性受限带来的异常检测难题及威胁类型,并提出融合多源数据、实时轻量、隐私保护和边云自适应的下一代检测框架研究议程。
2025-08-29 cs.DC
Litmus: Fair Pricing for Serverless Computing
本文针对无服务器计算中系统拥塞导致租户性能下降却仍需支付更高费用的问题,提出Litmus定价模型,通过轻量级Litmus测试监测机器状态并提供基于拥塞程度的折扣,实验表明其价格与理想价格平均仅差0.2%。
2024-08-01 cs.DC
Servo: Increasing the Scalability of Modifiable Virtual Environments Using Serverless Computing -- Extended Technical Report
针对可修改虚拟环境(MVE)的独特扩展挑战,本研究设计了无服务器后端架构Servo,经AWS和Azure平台实验验证,其单实例支持玩家数达40至140名,显著优于现有方案,且已开源。
2023-04-28 cs.DC
A Serverless Engine for High Energy Physics Distributed Analysis
欧洲核子研究中心的大型强子对撞机(LHC)在过去十年中为高能物理(HEP)领域产生了前所未有的数据量。对分析这些数据感兴趣的科学合作通常需要超出单个机器的计算能力。这个问题已经解决了传统的分布式环境中运行的分析,使用有状态的,管理的批处理计算系统。虽然这种方法到目前为止是有效的,但目前对该领域未来计算需求的估计提出了大规模的挑战。这种管理方法可能不是解决这些问题的唯一可行方法,无服务器架构可以提供一种有趣的替代方案,以实现更大的扩展潜力。这项工作描述了一种通过分布式无服务器计算引擎运行真正的HEP科学应用程序的新方法。该引擎基于ROOT(一种成熟的HEP数据分析软件)构建,并将其计算分发到Amazon Web Services Lambda Serverless Platform上的大型并发执行池。由于开发的工具,物理学家能够访问存储在CERN的数据集(也包括那些受限制访问策略限制的数据集),并在其典型环境之外的远程基础设施上处理它。在运行时监控无服务器功能的分析,以收集数据和计算密集型工作负载的性能指标。
2022-06-02 cs.DC
Code once, Run Green: Automated Green Code Translation in Serverless Computing
本研究提出ReFaaS,利用大语言模型在无服务器平台自动将函数翻译为节能语言,可降低调用能耗达70%,并指出四项关键研究挑战以长期缓解能源债务。
2025-09-26 cs.DC
Torpor: GPU-Enabled Serverless Computing for Low-Latency, Resource-Efficient Inference
针对现有无服务器平台缺乏高效GPU支持的问题,提出Torpor平台,通过延迟绑定、模型交换及多种优化技术实现GPU高效共享,试点部署为用户和平台分别降低70%和65%的GPU配置成本。
2025-07-08 cs.DC
Performance Evaluation of Serverless Edge Computing for Machine Learning Applications
智能医疗、自动驾驶汽车和智能城市等下一代技术需要新的方法来处理物联网(IoT)设备产生的网络流量,以及高效的编程模型来部署机器学习技术。无服务器边缘计算是一种新兴的计算范式,它融合了边缘计算和无服务器计算这两种最新技术,可以解决这些挑战。然而,很少有工作来探索这种技术的能力和性能。本文使用流行的开源框架,即Kubeless,OpenFaaS,Fission和funcX,对无服务器边缘计算系统进行了全面的性能分析。实验考虑了不同的程序设计语言、工作负载和并发用户的数量。机器学习工作负载已被用于评估系统在不同工作条件下的性能,以提供对最佳实践的见解。评估结果揭示了无服务器边缘计算当前面临的一些挑战,以及这项新兴技术在机器学习应用中的开放研究机会。
2022-10-19 cs.DC cs.PF
Serving deep learning models in a serverless platform
无服务器计算已经成为开发和部署各种基于事件的云应用程序的引人注目的范例。与此同时,云计算提供商和企业公司正在大量采用机器学习和人工智能,以使自己与众不同,或为客户提供增值服务。在这项工作中,我们评估了无服务器计算环境的适用性大型神经网络模型的推理。我们的实验评估是使用MxNet深度学习框架在AWS Lambda环境上执行的。我们的实验结果表明,虽然推理延迟可以在可接受的范围内,但由于冷启动而导致的较长延迟可能会扭曲延迟分布,从而有可能违反更严格的SLA。
2018-02-09 cs.DC
MLLess: Achieving Cost Efficiency in Serverless Machine Learning Training
功能即服务(FaaS)已经引起了人们对如何“驯服”无服务器计算以实现特定于领域的用例(例如数据密集型应用程序和机器学习(ML))的兴趣。最近,已经实现了几个用于训练ML模型的系统。当然,这些研究文章是朝着正确方向迈出的重要一步。然而,它们并没有完全回答无服务器机器学习训练何时比传统的“服务器”计算更具成本效益的问题。为了帮助实现这一目标,我们提出了MLLess,这是一个基于FaaS的ML培训原型,构建在IBM Cloud Functions之上。为了提高成本效益,MLLess针对无服务器计算的特点实现了两个创新的优化:一方面,重要性过滤器,使间接通信更有效,另一方面,扩展自动调谐器,通过受益于FaaS次秒计费模型(通常为每100毫秒)来降低成本。我们的研究结果证明,对于稀疏ML模型,MLLess可以比serverful ML系统快15倍,并且具有更低的成本,这些模型表现出快速收敛,例如稀疏逻辑回归和矩阵分解。此外,我们的研究结果表明,MLLess可以很容易地扩展到越来越大的无服务器工人队伍。
2022-06-12 cs.DC
Efficient Serverless Function Scheduling at the Network Edge
本文针对资源受限网络边缘的无服务器函数调度问题,提出基于函数权重的增强型最短函数优先(ESFF)算法,通过选择性初始化实例和动态替换函数来减少冷启动延迟并适应动态负载,仿真验证其显著优于现有基线方法。
2023-10-31 cs.DC
Following the Data, Not the Function: Rethinking Function Orchestration in Serverless Computing
Serverless applications are typically composed of function workflows in which multiple short-lived functions are triggered to exchange data in response to events or state changes. Current serverless platforms coordinate and trigger functions by following high-level invocation dependencies but are oblivious to the underlying data exchanges between functions. This design is neither efficient nor easy to use in orchestrating complex workflows -- developers often have to manage complex function interactions by themselves, with customized implementation and unsatisfactory performance. In this paper…
2022-09-29 cs.DC
Hybrid Serverless Computing: Opportunities and Challenges
近年来,由于易于部署,有吸引力的按使用付费定价和透明的水平自动扩展,无服务器计算的采用激增。与此同时,基础设施的进步,如5G网络的出现和连接到互联网(称为物联网(IoT))的设备的爆炸式增长,以及限制计算和数据发生的新应用程序需求,将使云计算的范围从传统的数据中心扩展到混合云。疫情导致的数字化转型加速了劳动力的变化,并刺激了人工智能的进一步采用,预计将加速,新兴的混合云市场可能扩大到超过万亿美元。在混合云环境中,在无服务器租户的推动下,将越来越需要专注于为使用分布式平台(包括公共云、私有云和边缘系统)的应用程序构建者实现高效工作。在本章中,我们将探讨无服务器计算可以扩展到何种程度,以成为混合无服务器计算。
2022-09-14 cs.DC cs.SE
High-Performance Serverless Computing: A Systematic Literature Review on Serverless for HPC, AI, and Big Data
Department of Computer Science, University of Pisa(帕尔米斯大学计算机科学系);ISTI – National Research Council(国家研究理事会ISTI)
本文系统综述了122篇论文,提出八个研究方向和九个用例领域,分析了服务器less计算在HPC、AI和大数据中的应用趋势和合作网络。
2026-01-14 cs.DC cs.LG
Serverless Approach to Sensitivity Analysis of Computational Models
本文提出将无服务器计算作为HPC的替代方案用于计算模型的VVUQ,通过扩展EasyVVUQ库构建CloudVVUQ,并在计算医学应用中验证了其可扩展性。
2023-04-17 cs.DC
The server is dead, long live the server: Rise of Serverless Computing, Overview of Current State and Future Trends in Research and Industry
无服务器计算--一种用于部署应用程序和服务的新兴云原生范例--代表了云应用程序开发、编程模型、抽象和平台的发展。它承诺真正的按需付费计费(毫秒级粒度),不会浪费资源,并通过要求开发人员将所有操作复杂性和可扩展性委托给云提供商来降低开发人员的门槛。实现这些承诺是以限制功能为代价的。在本文中,我们概述了无服务器计算,它的发展,一般架构,关键特性和用例,使其成为应用程序开发的一个有吸引力的选择。基于在一系列有组织的无服务器计算研讨会(WoSC)期间与学者和行业专家的讨论,我们还确定了技术挑战和开放问题。
2019-06-07 cs.DC cs.SE
Trabant: A Serverless Architecture for Multi-Tenant Orbital Edge Computing
Trabant提出一种基于FaaS和时移计算的无服务器多租户轨道边缘计算架构,使共享卫星支持租户自定义在轨数据处理,并通过原型与真实遥测数据验证其能显著降低任务规划开销、提升可扩展性与效率。
2025-04-11 cs.DC
Zenix: Efficient Execution of Bulky Serverless Applications
针对大型无服务器应用在现有以函数为中心模型下的资源浪费与性能开销问题,本文提出以资源为中心的模型并实现 Zenix 平台,可显著降低资源消耗并提升性能。
2024-05-12 cs.DC