CloudSimSC: A Toolkit for Modeling and Simulation of Serverless Computing Environments
本文提出CloudSimSC,一个基于CloudSim的模块化无服务器计算仿真工具,通过在架构、函数调度与扩展方面引入灵活性并支持监控指标推导,解决了现有仿真器缺乏通用性的问题。
2023-09-19 cs.DC
Serverless Architecture for Bulk Email Management
发送大量电子邮件可能是乏味的考虑免费服务不包括批量电子邮件和付费服务可能是昂贵的,不容易定制。用于基本电子邮件服务的传统电子邮件客户端无法在大量电子邮件中用于目标人群或将信息传播给同意的个人。本文提出了一种无服务器架构来解决这些问题,通过使用来自Amazon Web Services(AWS)API的一个这样的产品,可以很容易地被软件架构师选择的服务所取代。这些约束有助于使用可以满足无服务器后端的大部分需求的组件来构建架构,并将其扩展到移动通知,一次性密码(OTP)系统或其他通信方式等场景,以最大限度地减少单点故障,并减少对物理服务器的依赖,以便在云中提供类似的解决方案。对所提出的架构进行测试,以找出发送各种数量的电子邮件所花费的时间,并了解它如何影响成本。该架构是成功的,能够发送多封电子邮件在一个快速和单一的调用,并已证明了更高水平的可扩展性相比,传统的方法。
2021-12-13 cs.DC
Reinforcement Learning-Based Dynamic Management of Structured Parallel Farm Skeletons on Serverless Platforms
Institute of Information Science and Technologies (ISTI), National Research Council of Italy (CNR)(信息科学与技术研究所(ISTI),意大利国家科研理事会(CNR));Department of Computer Science, University of Pisa(计算机科学系,比萨大学);Department of AI, Data and Decision Sciences, LUISS University(人工智能、数据与决策科学系,卢伊斯大学)
本文提出基于强化学习的无服务器平台结构并行农场骨架动态管理框架,通过AI驱动的动态扩展提升性能与容错性,有效应对平台限制。
2026-02-06 cs.DC cs.LG
Serverless Computing: Architecture, Concepts, and Applications
本文系统梳理无服务器计算的架构、概念、优缺点、实现环境与行业应用,探讨其与其他技术融合应对数据管理等挑战的路径,研判未来趋势,全面呈现该技术的潜力与局限。
2025-01-16 cs.DC
Fifer: Tackling Underutilization in the Serverless Era
数据中心正在见证基于微服务的应用程序采用无服务器功能的快速增长。这些微服务中的绝大多数通常跨度不到一秒,具有严格的SLO要求,并根据应用程序的要求链接在一起。上述特征引入了一系列新的挑战,特别是在容器配置和管理方面,因为在无服务器平台中采用的最先进的资源管理框架倾向于关注基于微服务的应用程序,类似于传统的单片应用程序。因此,这些框架遭受微服务不可知的调度和巨大的容器过度供应,特别是在工作负载波动期间,从而导致资源利用率低下。在这项工作中,我们使用Kubernetes和Brigade无服务器框架管理的多节点集群上的各种工作负载来量化上述缺点。为了解决这些问题,我们提出了\emph{Fifer} -一个自适应资源管理框架,以有效地管理无服务器平台上的功能链。其关键思想是使\emph{Fifer}(i)通过使用功能感知的容器缩放和智能请求调度来有效地将作业装箱到更少的容器,从而使其具有利用率意识;(ii)同时,通过主动生成容器以避免冷启动,从而使其符合SLO,从而最小化整体响应延迟。结合这些优势,与无服务器平台采用的最先进的路由器相比,\emph{Fifer}将容器利用率和集群范围的能耗分别提高了4倍和31%,而不会影响SLO。
2020-08-28 cs.DC
KiSS: A Novel Container Size-Aware Memory Management Policy for Serverless in Edge-Cloud Continuum
针对边缘无服务器冷启动与资源利用低效问题,本文提出静态容器尺寸感知策略 KiSS,按容器规模和调用特征分区管理内存,实验显示冷启动降低60%、函数丢弃降低56.5%。
2025-02-18 cs.DC cs.ET cs.NI
A Review of Serverless Use Cases and their Characteristics
无服务器计算范式为云应用程序提供了许多理想的属性-低成本、细粒度部署和免管理操作。因此,这种模式经历了快速增长:目前存在数十个无服务器平台,所有全球云提供商都托管无服务器操作。为了帮助调整现有平台,指导新的无服务器方法的设计,并从整体上帮助理解这种模式,在这项工作中,我们提出了一个长期的,全面的努力,以识别,收集和表征89个无服务器用例。我们调查的用例,来源于白色和灰色文献,并从咨询专家在科学计算等领域。我们使用24个特征来研究每个用例,包括一般方面,但也包括工作负载,应用程序和需求。当用例使用工作流时,我们进一步分析它们的特征。总的来说,我们希望我们的研究对学术界和工业界都有帮助,并鼓励社区进一步分享和交流他们的用例。这篇文章也作为SPEC技术报告出现:https://research.spec.org/fileadmin/user_upload/documents/rg_cloud/endorsed_publications/SPEC_RG_2020_Serverless_Usecases.pdf这篇文章可以提交同行评审出版。
2021-01-28 cs.DC cs.SE
gFaaS: Enabling Generic Functions in Serverless Computing
针对FaaS平台锁定、部署参数和接口差异问题,本文提出gFaaS框架,支持多语言通用函数跨平台无修改部署,并验证其性能接近原生函数。
2024-01-18 cs.DC cs.SE
Kotless: a Serverless Framework for Kotlin
Web开发的最新趋势表明,人们对无服务器应用程序越来越感兴趣,即按需利用云服务提供的计算资源而不需要传统的服务器管理的应用程序。这种方法可以实现更好的资源管理,同时具有可扩展性、可靠性和成本效益。然而,它带来了许多组织和技术上的困难,这些困难源于应用程序和云基础设施之间的交互,例如,必须设置重新上传更新文件的重复任务。在本文中,我们介绍了Kotless-一个Kotlin无服务器框架。Kotless是一个与云无关的工具包,通过将部署的应用程序交织到云基础设施中并自动生成必要的部署代码来解决这些问题。这使开发人员不必花费时间集成和管理他们的应用程序,而不是开发它们。Kotless已经证明了它的能力,并已被用于开发几个已经投入生产的无服务器应用程序。它的源代码可以在https://github.com/JetBrains/kotless上找到,工具演示可以在www.example.com上找到v = IMSakPN13TY
2021-05-21 cs.DC
Cosmos: A Cost Model for Serverless Workflows in the 3D Compute Continuum
本文提出Cosmos成本与性能权衡模型,用于分析3D计算连续体中无服务器工作流的成本驱动因素,并在AWS和GCP上验证了其在数据与计算密集型任务中的成本分类与量化效果。
2025-04-30 cs.DC
Towards Fast Setup and High Throughput of GPU Serverless Computing
针对GPU无服务器计算中粗粒度管理导致的设置时间长和吞吐量低的问题,提出SAGE框架,通过并行化函数设置和共享内存管理机制,显著缩短函数持续时间并提升函数密度。
2024-04-23 cs.DC
Performance Characterization and Modeling of Serverless and HPC Streaming Applications
实验在环计算(EILC)需要支持多种类型的处理和在动态范围内管理异构基础设施:从边缘到云和HPC以及中间资源。无服务器是一种新兴的服务,它将高级中间件服务(如用于管理任务的分布式执行引擎)与低级基础设施相结合。它提供了可用性和可伸缩性的潜力,但增加了管理异构和动态资源的复杂性。作为回应,我们扩展了Pilot-Streaming以支持无服务器平台。Pilot-Streaming为HPC、云和无服务器的资源管理提供了统一的抽象,并独立于应用程序工作负载分配资源容器,从而无需编写特定于资源的代码。了解流应用程序和基础设施的性能和扩展特性是EILC面临的另一个挑战。StreamInsight可深入了解流媒体应用程序和基础设施的性能、选择、配置和扩展行为。StreamInsight的基础是通用的可伸缩性定律,它允许准确量化流应用程序的可伸缩性属性。通过在HPC和AWS Lambda上的实验,我们证明了StreamInsight为各种应用程序特性提供了准确的模型,例如,机器学习模型大小和资源配置。
2019-09-13 cs.DC
On the Serverless Nature of Blockchains and Smart Contracts
虽然历史上术语无服务器也用于对等系统的上下文中,但它更经常与开发云原生应用程序的架构风格相关联。从开发人员的角度来看,无服务器架构允许减少管理工作,因为应用程序是使用提供商管理的组件组成的,例如,数据库即服务(DBaaS)和功能即服务(FaaS)产品。区块链是分布式系统,旨在实现涉及多个不受信任方的协作场景。区块链的去中心化点对点性质似乎使其在无服务器架构中考虑变得有趣,因为资源分配和管理任务不需要由用户执行。此外,考虑到其确保交易不变性和促进负责任的交互的有用特性,区块链可能会增强无服务器架构的整体保证和能力。因此,在这项工作中,我们分析了区块链技术和智能合约如何适应无服务器环境,并推导出一组场景,在这些场景中,它们在无服务器架构中充当不同的组件类型。此外,我们还制定了在这些场景中成功使用区块链和智能合约所必须满足的实施要求。最后,我们调查现有的技术,使这些方案,并分析其准备和适用性,以满足制定的要求。
2020-11-24 cs.CR cs.DC
Cicada: A Pipeline-Efficient Approach to Serverless Inference with Decoupled Management
本文提出 Cicada 流水线优化框架,通过 MiniLoader、WeightDecoupler 和 Priority-Aware Scheduler 三种机制解决 Serverless ML 推理中的冷启动和流水线停顿问题,显著降低端到端推理延迟并提升流水线利用率。
2025-06-28 cs.DC
Understanding Open Source Serverless Platforms: Design Considerations and Performance
无服务器计算越来越受欢迎,因为它承诺降低成本,并为不需要专注于服务器管理的用户提供便利。这导致了许多专有和开源无服务器解决方案的可用性。我们试图了解无服务器计算的性能如何取决于一些设计问题,使用几个流行的开源无服务器平台。我们确定了影响不同开源无服务器平台性能(吞吐量和延迟)的特性。此外,我们观察到,仅仅基于资源(CPU和内存)或基于工作负载(每秒请求(RPS)或并发请求)的自动扩展不足以满足无服务器平台的需求。
2019-12-13 cs.DC cs.PF
Serverless Computing: Behind the Scenes of Major Platforms
无服务器计算为应用程序开发提供了一个事件驱动的按需付费框架。一个关键的卖点是没有后端服务器管理的概念,允许开发人员专注于应用程序功能。这是通过严格抽象的底层架构的功能running.We检查底层架构和报告的性能无服务器功能,以及它们是如何受到某些因素,如内存分配和干扰引起的负载由其他用户在平台上。具体而言,我们专注于四大平台的无服务器产品:AWS Lambda,Google Cloud Functions,Microsoft Azure Functions和IBM Cloud Functions。在本文中,我们观察和这些平台之间的对比,在他们的方法,以共同的问题“冷启动”,我们设计了一种方法来揭示底层架构无服务器功能执行,我们调查的影响,从负载在平台上超过一个月的时间跨度。
2020-12-10 cs.DC
Application-Platform Co-Design for Serverless Data Processing
“应用平台协同设计”是指响应于不断变化的应用需求而创建新平台的现象,随后由于新平台的出现(以及具体情况、限制)而改变应用设计和开发,因此再次创建新的应用和平台需求。这种应用程序和平台(重新)设计的连续过程描述了工程和管理责任,以不断评估任何给定平台的应用程序适合性和平台特定的应用程序设计,并考虑新的或进化的平台开发项目,由于不断发展和变化的应用程序需求。在本文中,我们在无服务器计算和(大)数据处理需求的背景下研究这种现象,从而为无服务器数据处理(SDP)的应用程序平台协同设计。我们对最先进的功能即服务(FaaS)平台进行了分析,揭示了流行平台之间的几个配置,部署,执行和测量差异。这些差异表明已经在进行的平台(重新)设计过程导致更专业的无服务器平台和新的、特定于平台的应用程序设计挑战。我们讨论了使用无服务器模型的应用程序的数据处理需求,并在应用程序层面上提出了常见的初始(和不受欢迎的)解决方案,为创建新的SDP平台提供了额外的论据。我们提出了关键的SDP需求和可能的新平台增强,但确定了工程方法和工具的需求,以更好地指导应用程序平台协同设计。我们认为,要适当注意的现象,持续的应用程序平台的协同设计,以更好地预测和控制未来的平台和应用程序的发展。
2021-10-29 cs.DC cs.SE
Scalable and Cost-Efficient ML Inference: Parallel Batch Processing with Serverless Functions
Oakland University(奥克兰大学)
针对有限资源环境下批处理的可扩展性与资源管理挑战,本文提出将单体流程分解为并行无服务器函数的方法,经DistilBERT模型与IMDb数据集的情感分析案例验证,该方法可在成本不变的情况下将执行时间减少95%以上,提升大规模机器学习推理的效率与经济性。
2025-01-30 cs.DC cs.LG
Migrating from Microservices to Serverless: An IoT Platform Case Study
微服务架构是当今开发云应用程序的常见选择,因为每个微服务都可以独立修改,替换和扩展。因此,应用程序开发和操作云基础设施被捆绑在一起,现在通常称为DevOps。然而,随着无服务器计算模式的日益普及及其几个优势,如无基础设施管理,按使用付费的计费策略和按需细粒度自动缩放,人们对利用FaaS和无服务器CaaS技术重构基于微服务的应用程序越来越感兴趣。为此,我们将复杂的物联网平台应用程序迁移到OpenWhisk(OW)和Google Cloud Run(GCR)上。我们全面评估了不同部署策略的性能,即,Google Kubernetes Engine(GKE)-使用不同负载测试场景的IoT平台的标准、OW和GCR。从我们的实验结果表明,虽然GKE标准执行最好的大多数情况下,GCR总是更便宜的wrt成本。
2022-10-09 cs.DC cs.PF cs.SE
Energy Efficiency Support for Software Defined Networks: a Serverless Computing Approach
针对物联网等应用的网络资源高效管理需求,本文首次在能源感知环境中实现基于无服务器函数的模块化SDN,通过FaaS按需部署网络功能,经实验验证可显著提升能效并降低成本。
2024-09-17 cs.DC
Databelt: A Continuous Data Path for Serverless Workflows in the 3D Compute Continuum
针对3D计算连续体中无服务器函数因网络拓扑动态变化导致的高延迟状态访问问题,提出Databelt框架,通过SLO感知状态传播和状态融合机制,减少执行时间达66%、提升吞吐量50%并降低存储操作延迟20%。
2025-08-26 cs.DC
CWASI: A WebAssembly Runtime Shim for Inter-function Communication in the Serverless Edge-Cloud Continuum
本文提出CWASI,一种符合WebAssembly OCI标准的运行时垫片,通过基于函数局部性的三模式通信模型优化同驻无服务器函数间的数据交换,将通信延迟最多降低95%,吞吐量最多提升30倍。
2025-04-30 cs.DC
On the Complexity of Reachability Properties in Serverless Function Scheduling
本文提出亲和性感知的调度语言aAPP,形式化其语义并研究可达性检查复杂性:无亲和性时为线性,有亲和性时为PSpace完全。
2024-07-19 cs.DC
BARISTA: Efficient and Scalable Serverless Serving System for Deep Learning Prediction Services
Vanderbilt University(范德堡大学)
预训练的深度学习模型越来越多地用于提供各种计算密集型预测分析服务,如健身跟踪、语音和图像识别。深度学习模型的无状态和高度并行化的性质使其非常适合无服务器计算范式。然而,由于动态工作负载和具有部署和管理成本的各种可用资源配置,为这些服务做出有效的资源管理决策是一个难题。为了应对这些挑战,我们提出了一个分布式的、可扩展的深度学习预测服务系统Barista,并做出了以下贡献。首先,我们提出了一种快速有效的方法,通过识别各种趋势来预测工作负载。其次,我们制定了一个优化问题,以最大限度地减少总成本,同时确保有限的预测延迟与合理的准确性。第三,我们提出了一个有效的启发式,以确定合适的计算资源配置。第四,我们提出了一个智能代理分配和管理计算资源的水平和垂直缩放,以保持所需的预测延迟。最后,使用具有代表性的现实世界的城市交通服务的工作负载,我们展示和验证的Barista的能力。
2019-04-11 cs.DC cs.LG
Object as a Service: Simplifying Cloud-Native Development through Serverless Object Abstraction
本文提出Object as a Service(OaaS)范式及Oparaca平台,以云对象统一封装数据与函数,支持访问控制、继承和数据流语义,实验表明其开销微小且提升可扩展性与易用性。
2025-10-20 cs.DC cs.OS cs.SE
Roadrunner: Accelerating Data Delivery to WebAssembly-Based Serverless Functions
提出Roadrunner,一种sidecar shim,通过近零拷贝和免序列化技术加速基于WebAssembly的无服务器函数间数据传输,显著降低延迟并大幅提升吞吐量。
2025-10-25 cs.DC
TOSCAdata: Modelling data pipeline applications in TOSCA
无服务器平台允许客户有效地使用云资源,并为所使用的资源的确切数量支付费用。许多专用的开源和商业云数据管理工具可用于处理大量数据。由于缺乏成熟和稳定的标准,这种现代云数据管理工具还不够成熟,无法将通用云应用程序与无服务器平台集成。TOSCA(Topology and Distraction Specification for Cloud Applications)是最流行和最成熟的标准之一,主要关注应用和服务的可移植性以及通用云应用组件的自动化管理。本文提出了TOSCA标准的扩展,TOSCAdata,专注于基于数据管道的云应用程序的建模。保持现代数据管道云应用的需求,TOSCAdata提供了许多TOSCA模型,这些模型可独立部署,可扩展,可重用,同时以管道方式有效处理数据的流动和转换。我们还展示了建议TOSCAdata模型的适用性,以基于Web的云应用程序的背景下,旅游推广作为一个用例场景。
2021-12-20 cs.DC cs.SE
Scale: Deep Reinforcement Learning for Container Scheduling in Serverless Edge Computing
Nottingham Trent University(诺丁汉特伦特大学);Loughborough University(拉夫堡大学);University of Bologna(博洛尼亚大学);TU Wien(维也纳工业大学);University of Oregon(俄勒冈大学)
本文提出Scale框架,通过深度强化学习优化容器调度与资源分配,在动态负载下平衡系统稳定性和性能,实验证明其在决策效率和资源利用率方面优于整数线性规划求解器。
2026-05-15 cs.DC
Deep Reinforcement Learning (DRL)-based Methods for Serverless Stream Processing Engines: A Vision, Architectural Elements, and Future Directions
本文提出利用深度强化学习(DRL)将流处理引擎转变为自我管理的无服务器解决方案,以解决现有流管理系统需人工持续调优配置和部署环境的难题,从而提升生产力、应用性能并降低运营成本。
2024-02-27 cs.DC
Odyssey: An End-to-End System for Pareto-Optimal Serverless Query Processing
针对现有无服务器数据分析依赖预设或人工构建查询计划、计划空间大且成本性能差异显著的问题,提出集成查询规划、成本模型与执行引擎的Odyssey系统,通过剪枝启发式与新型搜索算法生成帕累托最优计划,实验证明其成本与延迟预测准确,性能优于AWS Athena。
2025-10-29 cs.DB cs.DC
LIFL: A Lightweight, Event-driven Serverless Platform for Federated Learning
University of California, Riverside(加州大学河滨分校);Cisco Research(思科研究院)
针对现有联邦学习系统资源利用效率低、管理缺乏弹性的问题,提出轻量级事件驱动无服务器平台LIFL,通过eBPF代理、共享内存处理等技术,显著提升大规模联邦学习的资源效率与聚合速度。
2024-05-05 cs.DC cs.LG
Affinity-aware Serverless Function Scheduling
本文提出aAPP语言扩展,在FaaS层面实现亲和性感知调度,并在Apache OpenWhisk上验证其能提升性能且无额外开销。
2025-01-23 cs.DC
Archipelago: A Scalable Low-Latency Serverless Platform
越来越多地使用微服务来构建Web应用程序,刺激了功能即服务(FaaS)或无服务器计算平台的快速增长。虽然FaaS简化了应用程序开发人员的配置和扩展,但它在资源管理方面带来了新的挑战,需要由云提供商来处理。我们对流行的无服务器工作负载的分析表明,编译器需要处理非常短暂的功能,具有不可预测的到达模式,并且需要昂贵的沙箱设置。在多租户集群中运行大量这样的功能的挑战使得现有的调度框架不适合。我们介绍了Archipelago,这是一个在多租户无服务器设置中实现低延迟请求执行的平台。Archipelago将每个应用程序视为功能的DAG,并且每个DAG都与延迟期限相关联。Archipelago通过以下方式实现其每DAG请求延迟目标:(1)将给定集群划分为多个较小的工作者池,并将每个池与半全局调度器(SGS)相关联,(2)在每个SGS内使用等待时间感知调度器以及主动沙箱分配来减少开销,以及(3)使用负载均衡层来将对不同DAG的请求路由到适当的SGS,并自动缩放每个DAG的SGS数量。我们的测试结果表明,Archipelago满足超过99%的实际应用程序请求工作负载的延迟期限,并将尾部延迟减少到最先进的无服务器平台的36倍。
2019-11-22 cs.DC
Tutorial: Object as a Service (OaaS) Serverless Cloud Computing Paradigm
本文提出 Object-as-a-Service (OaaS) 无服务器范式,通过封装应用逻辑、数据和非功能需求简化云原生开发,并基于开源平台 Oparaca 提供概念设计与应用部署教程。
2024-07-24 cs.DC
Torpor: GPU-Enabled Serverless Computing for Low-Latency, Resource-Efficient Inference
针对现有无服务器平台缺乏高效GPU支持的问题,提出Torpor平台,通过延迟绑定、模型交换及多种优化技术实现GPU高效共享,试点部署为用户和平台分别降低70%和65%的GPU配置成本。
2025-07-08 cs.DC
MLProxy: SLA-Aware Reverse Proxy for Machine Learning Inference Serving on Serverless Computing Platforms
University of Alberta(阿尔伯塔大学);York University(约克大学)
在云上提供机器学习推理工作负载在生产层面仍然是一项具有挑战性的任务。由于批量配置、资源配置和可变到达过程之间的复杂交互,在优化基础设施成本的同时满足SLA要求的推理工作负载的最佳配置是非常复杂的。近年来,无服务器计算已经出现,可以自动执行大多数基础设施管理任务。IBM已经揭示了改善机器学习服务工作负载的响应时间和成本效益的潜力。然而,它还没有得到无服务器计算平台的开箱即用支持。我们的实验表明,对于各种机器学习工作负载,通过减少每个请求的处理开销,可极大地提高系统的效率。在这项工作中,我们提出了MLProxy,一个自适应的反向代理,以支持高效的机器学习服务工作负载的无服务器计算系统。MLProxy支持自适应服务器,以确保SLA合规性,同时优化无服务器成本。我们在Knative上进行了严格的实验,以证明MLProxy的有效性。我们发现,MLProxy可以将无服务器部署的成本降低高达92%,同时将SLA违规减少高达99%,这可以在最先进的模型服务框架中推广。
2022-02-23 cs.AI cs.DC cs.LG
Optimizing simultaneous autoscaling for serverless cloud computing
本文针对无服务器云计算中的自动扩缩容问题,提出基于流体近似模型和分离连续线性规划的优化控制策略,显著降低失败请求和响应时间。
2023-10-29 cs.DC
Serverless Data Science -- Are We There Yet? A Case Study of Model Serving
National University of Singapore(新加坡国立大学);Singapore University of Technology and Design(新加坡科技设计大学);Beijing Institute of Technology(北京理工大学)
机器学习(ML)是现代数据科学应用的重要组成部分。数据科学家今天必须管理端到端的ML生存周期,其中包括模型训练和模型服务,后者是必不可少的,因为它使他们的作品可供最终用户使用。模型服务系统要求高性能、低成本和易于管理。云提供商已经提供了模型服务选择,包括托管服务和自租服务器。最近,无服务器计算,其优点包括高弹性和细粒度的成本模型,为模型服务带来了另一种选择。我们在本文中的目标是研究无服务器作为主流模型服务平台的可行性。为此,我们首先针对Amazon Web Service和Google Cloud Platform上的其他模型服务系统,对无服务器的性能和成本进行了全面评估。我们发现无服务器的性能优于许多基于云的替代方案。此外,在某些设置下,它甚至可以实现比基于GPU的系统更好的性能。接下来,我们介绍了无服务器模型服务的设计空间,它包括多个维度,包括云平台,服务运行时和其他功能特定的参数。对于每个维度,我们分析了不同选择的影响,并为数据科学家提供了更好地利用无服务器模型服务的建议。最后,我们讨论了建立一个更实用的无服务器模型服务系统的挑战和机遇。
2022-03-01 cs.AI cs.DB cs.DC
FedLess: Secure and Scalable Federated Learning Using Serverless Computing
Technische Universität München(慕尼黑工业大学)
传统的以云为中心的深度学习(DL)方法需要在中央服务器上收集和处理训练数据,这在医疗保健等隐私敏感领域通常具有挑战性。为此,一个新的学习范式称为联邦学习(FL)已被提出,带来了DL的潜力,这些领域,同时解决隐私和数据所有权问题。FL使远程客户端能够学习共享的ML模型,同时将数据保持在本地。然而,传统的FL系统面临着几个挑战,例如可扩展性,复杂的基础设施管理,以及由于空闲客户端而浪费的计算和产生的成本。FL系统的这些挑战与无服务器计算和功能即服务(FaaS)平台旨在解决的核心问题密切相关。这些优势包括快速的可扩展性、无需基础设施管理、空闲客户端自动缩放到零,以及按使用付费的计费模式。为此,我们提出了一个新的系统和框架,无服务器FL,称为FedLess。我们的系统支持多个商业和自托管FaaS提供商,可以部署在云中,机构数据中心的内部部署和边缘设备上。据我们所知,我们是第一个在异构FaaS提供商的大型结构中启用FL的公司,同时提供安全性和差分隐私等重要功能。我们通过全面的实验证明,使用我们的系统可以轻松地成功训练DNN,用于多达200个客户端功能的不同任务。此外,我们通过与传统FL系统进行比较,证明了我们的方法的实际可行性,并表明它可以更便宜,更节省资源。
2021-11-05 cs.CR cs.DC cs.LG
Taming Cold Starts: Proactive Serverless Scheduling with Model Predictive Control
Umeå University(于默奥大学);Elastisys AB(Elastisys公司)
本文提出基于模型预测控制的无服务器调度框架,通过预测调用和优化容器预热,有效缓解冷启动问题,降低尾延迟并减少资源消耗。
2026-01-13 cs.DC cs.PF
KUBEDIRECT: Unleashing the Full Power of the Cluster Manager for Serverless Computing
Peking University(北京大学)
KUBEDIRECT通过直接消息传递提升FaaS集群管理效率,兼容Kubernetes并减少服务延迟。
2026-01-27 cs.DC
PixelsDB: Serverless and NL-Aided Data Analytics with Flexible Service Levels and Prices
Renmin University of China(中国人民大学);EPFL(洛桑联邦理工学院)
本文提出开源数据分析系统PixelsDB,通过微调语言模型驱动的自然语言界面生成SQL,结合无服务器查询引擎与灵活SLA定价机制,帮助非专家用户高效探索数据并提升系统可用性。
2024-12-23 cs.AI cs.DB cs.DC
Saarthi: An End-to-End Intelligent Platform for Optimising Distributed Serverless Workloads
Saarthi是一个端到端无服务器框架,通过输入感知的资源预测、智能请求编排、容错冗余和多目标ILP优化,在OpenFaaS上实现1.45倍吞吐量提升和1.84倍成本降低。
2025-11-10 cs.DC
Training Heterogeneous Client Models using Knowledge Distillation in Serverless Federated Learning
Technische Universität München(慕尼黑工业大学);Huawei Technologies(华为技术有限公司)
针对无服务器联邦学习中客户端模型异构性挑战,本文利用知识蒸馏技术优化FedMD和FedDF的无服务器工作流,实验表明优化后的无服务器FedDF在鲁棒性、速度和成本上均优于FedMD。
2024-02-11 cs.AI cs.DC cs.LG
Kumo: A Security-Focused Serverless Cloud Simulator
University of California, Davis(加州大学戴维斯分校);George Mason University(乔治梅森大学);Rochester Institute of Technology(罗切斯特理工学院)
Kumo通过模拟调度和资源共享决策,提供可控的可重复分析安全风险,揭示调度选择对共置攻击的影响及DoS行为的系统因素。
2026-03-20 cs.CR cs.DC
Cloudburst: Stateful Functions-as-a-Service
功能即服务(FaaS)平台和“无服务器”云计算正变得越来越流行。当前的FaaS产品针对的是执行最少I/O和通信的无状态功能。我们认为,无服务器计算的好处可以扩展到更广泛的应用程序和算法。我们介绍了Cloudburst的设计和实现,Cloudburst是一个有状态的FaaS平台,它提供了熟悉的Python编程和低延迟的可变状态和通信,同时保持了无服务器计算的自动扩展优势。Cloudburst通过利用Anna(一个自动缩放的键值存储)来实现这一点,用于状态共享和覆盖路由,并结合与函数执行器位于同一位置的可变缓存来实现数据本地化。性能缓存一致性成为该架构中的一个关键挑战。为此,Cloudburst提供了一个网格封装状态和分布式会话一致性的新定义和协议的组合。对基准测试和各种应用程序的实证结果表明,Cloudburst使有状态功能变得实用,将当前FaaS平台的状态管理开销降低了几个数量级,同时还提高了无服务器一致性的最新水平。
2020-07-24 cs.DC
Fog Function: Serverless Fog Computing for Data Intensive IoT Services
雾计算可以通过将计算从云移动到边缘设备来支持具有快速响应时间和低带宽使用的物联网服务。然而,现有的雾计算框架具有有限的灵活性,以支持动态服务组合与面向数据的方法。FaaS(Function-as-a-Service)是一种很有前途的雾计算编程模型,可以增强灵活性,但目前基于事件或主题的功能触发设计以及数据管理和功能执行的分离导致数据密集型物联网服务效率低下。为了实现灵活性和效率,我们提出了一个以数据为中心的编程模型,称为雾函数,并介绍了其底层的编排机制,利用三种类型的上下文:数据上下文,系统上下文和使用上下文。此外,我们还展示了一个智能停车的具体用例,其中Fog Function允许服务开发人员轻松地对其服务逻辑进行建模,与静态服务拓扑相比,减少了学习工作量。我们的性能评估结果表明,雾功能可以扩展到数百个雾节点。雾功能可以通过云功能节省95%的内部数据流量来提高系统效率,并且可以通过边缘功能减少30%的服务延迟。
2019-07-18 cs.DC
Design and Implementation of a Serverless MapReduce Framework for Scalable Data Pipelines
National and Kapodistrian University of Athens(雅典国立卡波迪斯特里阿斯大学)
提出一个基于Kubernetes和Knative的事件驱动MapReduce框架,集成Apache Kafka和Redis,实现物流数据的实时处理与可扩展性。
2026-05-28 cs.DC
Hydra: Virtualized Multi-Language Runtime for High-Density Serverless Platforms
Hydra 提出虚拟化多语言运行时与共置感知平台设计,通过预分配实例缓存和沙箱快照机制减少冷启动,显著提升函数密度并降低内存占用与延迟。
2025-07-22 cs.DC cs.PL
Ermes: a Stateful Serverless Platform for the Edge-to-Cloud Continuum
Politecnico di Milano(米兰理工大学)
Ermes是一个将有状态管理集成到FaaS的分布式平台,通过联合映射集合与函数及细粒度一致性选择,减少边缘到云连续体中的延迟。
2026-09-17 cs.DC
Object as a Service (OaaS): Enabling Object Abstraction in Serverless Clouds
针对FaaS在数据管理和工作流方面的不足,提出对象即服务(OaaS)抽象,封装数据与函数,支持数据流编程,原型评估显示低开销、高可扩展性。
2023-09-05 cs.DC cs.PL cs.SE
Optimizing OpenFaaS on Kubernetes: Comparative Analysis of Language Runtimes and Cluster Distributions
Department of Computer Engineering, University of Mazandaran(马赞德兰大学计算机工程系)
本文比较了不同Kubernetes集群和语言运行时对OpenFaaS性能的影响,发现Go语言在吞吐量和CPU使用上表现最佳,K3s和Kubeadm集群性能突出。
2026-10-30 cs.DC cs.PF cs.SE
SnapShare: Isolation-Preserving Deduplication for Serverless Snapshots
NTU Singapore(南洋理工大学);Instituto Superior Técnico, University of Lisbon(里斯本大学高等技术学院);AWS(亚马逊云服务);INESC-ID, Instituto Superior Técnico, University of Lisbon(里斯本大学高等技术学院信息通信系统研究所)
SnapShare是一种无服务器快照管理系统,通过协同设计存储与缓存,在保留敏感数据隔离的前提下对可共享基础设施重复数据删除,可降低请求减速、存储需求与缓存占用并缩短延迟。
2026-10-12 cs.DC
A Serverless Cloud-Fog Platform for DNN-Based Video Analytics with Incremental Learning
Nanyang Technological University(南洋理工大学);Wuhan University(武汉大学);Nanjing University of Science and Technology(南京理工大学);K&C Technologies Solutions(K&C技术解决方案公司)
基于DNN的视频分析已经授权了许多新的应用(例如,自动零售)。同时,雾设备的激增为开发人员提供了更多的设计选择,以提高性能并节省成本。据我们所知,本文提出了第一个无服务器系统,该系统充分利用了客户端-雾-云协同作用,以更好地服务于基于DNN的视频分析。具体而言,该系统旨在实现两个目标:1)通过明智地管理部署在客户端、雾和云环境中的计算和带宽资源,在较低带宽使用和较短往返时间(RTT)的约束下提供最佳分析结果。2)将开发人员从繁琐的管理和操作任务中解放出来,包括DNN部署,云和雾的资源管理。为此,我们实现了一个整体的云雾系统,称为VPaaS(视频平台即服务)。VPaaS采用无服务器计算,使开发人员能够通过简单地编程一组功能(例如,模型推理),然后通过精心设计的模块协调这些模块来处理视频。为了节省带宽并减少RTT,VPaaS提供了一种新的视频流协议,该协议仅将低质量视频发送到云。部署在云端的最先进(SOTA)DNN可以识别需要在雾端进一步处理的视频帧区域。在雾端,这些区域中的错误识别标签可以使用轻量级DNN模型进行校正。为了解决数据漂移问题,我们将有限的人类反馈纳入系统中以验证结果,并采用增量学习来不断改进我们的系统。评估表明,VPaaS优于几种SOTA系统:它保持了高准确性,同时将带宽使用量减少了21%,RTT减少了62.5%,云货币成本减少了50%。
2021-02-05 cs.AI cs.DC