Fifer: Tackling Underutilization in the Serverless Era
数据中心正在见证基于微服务的应用程序采用无服务器功能的快速增长。这些微服务中的绝大多数通常跨度不到一秒,具有严格的SLO要求,并根据应用程序的要求链接在一起。上述特征引入了一系列新的挑战,特别是在容器配置和管理方面,因为在无服务器平台中采用的最先进的资源管理框架倾向于关注基于微服务的应用程序,类似于传统的单片应用程序。因此,这些框架遭受微服务不可知的调度和巨大的容器过度供应,特别是在工作负载波动期间,从而导致资源利用率低下。在这项工作中,我们使用Kubernetes和Brigade无服务器框架管理的多节点集群上的各种工作负载来量化上述缺点。为了解决这些问题,我们提出了\emph{Fifer} -一个自适应资源管理框架,以有效地管理无服务器平台上的功能链。其关键思想是使\emph{Fifer}(i)通过使用功能感知的容器缩放和智能请求调度来有效地将作业装箱到更少的容器,从而使其具有利用率意识;(ii)同时,通过主动生成容器以避免冷启动,从而使其符合SLO,从而最小化整体响应延迟。结合这些优势,与无服务器平台采用的最先进的路由器相比,\emph{Fifer}将容器利用率和集群范围的能耗分别提高了4倍和31%,而不会影响SLO。
2020-08-28 cs.DC
Optimizing Intra-Container Communication with Memory Protection Keys: A Novel Approach to Secure and Efficient Microservice Interaction
本文提出 MPKLink,利用 Intel MPK 与共享内存访问控制降低容器内微服务 IPC 开销,并验证其相对 REST、gRPC 的性能优势及容器编排集成能力。
2025-05-04 cs.DC cs.ET cs.NI
Artifact for Service-Level Energy Modeling and Experimentation for Cloud-Native Microservices
Technische Universität Berlin(柏林工业大学)
GOXN是一款用于云原生微服务的服务级能耗实验工具,通过量化计算、网络和存储能耗,揭示了排除网络和存储对能耗估算的影响。
2026-01-23 cs.DC
DQN-Scheduler: A Multi-Objective Optimization Framework for Scheduling Microservices in Cloud Computing
The University of Western Australia(西澳大利亚大学)
本文提出DQN-Scheduler,一种基于强化学习的多目标优化框架,用于云环境中微服务调度,同时优化资源利用率、负载均衡、延迟、可靠性和可用性,实验证明其优于基准算法。
2026-09-15 cs.DC
Navigating the Docker Ecosystem: A Comprehensive Taxonomy and Survey
本文针对Docker容器技术提出了一种全面的容器架构分类法,通过综述现有文献,分析了Docker架构方法的异同,并指出了未来需要进一步研究的领域。
2024-01-03 cs.DC
SpotKube: Cost-Optimal Microservices Deployment with Cluster Autoscaling and Spot Pricing
SpotKube是一个基于Kubernetes的开源方案,利用遗传算法和竞价定价动态扩缩微服务集群,在保障性能的同时实现公有云部署成本最优。
2025-02-07 cs.DC
An Experimental Study on Microservices based Edge Computing Platforms
物联网(IoT)的快速技术进步使智慧城市的蓝图变得可行,通过整合异构的云/雾/边缘计算范例,在我们的城市和社区中协作提供各种智能服务。由于具有细粒度和松耦合等吸引人的特性,微服务架构已被提出来在大规模分布式物联网系统中提供可扩展和可扩展的服务。最近的研究基于云计算环境下的场景对微服务之间的性能干扰进行了评估和分析。然而,考虑到边缘设备(如计算消耗和网络容量)的限制,它们对于物联网应用并不全面。本文研究了边缘计算平台上的多种微服务部署策略。微服务作为Docker容器开发,全面的实验结果展示了微服务在基准场景上运行的性能和干扰。
2020-04-06 cs.DC
Performance Modeling of Microservice Platforms
微服务架构已经改变了开发人员在当今云计算中心构建和部署应用程序的方式。这种新方法提供了更高的可伸缩性、灵活性、可扩展性和性能,同时降低了整个软件开发生存周期的复杂性。云资源利用率的提高也有利于微服务提供商。各种微服务平台已经出现,通过实现持续集成和交付来促进容器化服务的DevOps。微服务平台以无缝的方式在公共/私有云基础设施提供的虚拟机或物理机上部署应用程序容器。在本文中,我们通过结合所有层的细节(即,微观和宏观层)。为此,我们首先在Amazon EC2云之上构建一个微服务平台,然后利用它来开发一个全面的性能模型,以便为大规模的微服务平台执行假设分析和容量规划。换句话说,所提出的性能模型提供了一种系统化的方法,通过分析微服务平台和后端宏服务基础设施的配置性能来测量微服务平台的弹性。
2020-10-03 cs.DC cs.PF cs.SE
On-Demand Virtual Research Environments using Microservices
科学应用的计算需求不断增加。云计算的出现实现了按需资源分配。然而,仅仅依靠基础设施作为一种服务并不能达到科学界所要求的灵活程度。在这里,我们提出了一种面向微服务的方法,其中科学应用程序作为软件容器在分布式编排平台中运行,称为按需虚拟研究环境。该方法与供应商无关,我们提供支持主要云提供商的开源实现,提供科学管道的可扩展管理。我们证明了我们的方法在生命科学应用中的适用性和可扩展性,但该方法是通用的,可以应用于其他科学领域。
2019-05-10 cs.DC
Distributed Redundant Placement for Microservice-based Applications at the Edge
多访问边缘计算(MEC)作为一种将计算和通信资源从云推到网络边缘以提供服务和执行计算的有前途的范例正在蓬勃发展。通过容器技术,内存占用小的移动设备可以运行基于复合微服务的应用程序,而无需耗时的主干。边缘服务布局是MEC从理论走向实践的重要环节。然而,目前最先进的研究没有充分考虑到服务的复合属性。此外,尽管Kubernetes具有一定的修复容器故障的能力,但由于边缘站点的异构性和可变性,无法确保高可用性。针对这些问题,提出了一种分布式冗余布局框架SAA-RP和一种基于遗传算法的服务器选择(GASS)算法,用于具有顺序组合结构的微服务应用。我们在考虑微服务请求的不确定性的情况下制定了一个随机优化问题,然后为每个微服务决定如何部署它,有多少实例以及将它们放置在哪些边缘站点上。基准策略在两种情况下实现,分别是允许冗余和不允许冗余。基于真实世界数据集的数值结果验证了GASS显著优于所有基准策略。
2020-05-19 cs.DC cs.SE
MicroFog: A Framework for Scalable Placement of Microservices-based IoT Applications in Federated Fog Environments
微服务架构(MSA)在开发大规模物联网应用程序以部署在分布式和资源受限的雾计算环境中方面正在迅速普及。作为一种云原生应用架构,微服务的真正力量来自于其松散耦合、可独立部署和可扩展的性质,从而实现跨联合雾和云集群的分布式放置和动态组合。因此,有必要开发新的微服务放置算法,利用这些微服务特性来提高应用程序的性能。然而,现有的雾计算框架由于在多个领域存在不足而缺乏对集成此类放置策略的支持,包括跨多雾多云环境的MSA应用放置和部署,跨多个分布式集群的动态微服务组合,框架的可扩展性,对部署异构微服务应用的支持等。为此,我们设计并实现了MicroFog,一个雾计算框架,提供一个可扩展的、易于配置的控制引擎,该引擎在联合的雾环境中执行布局算法和部署应用程序。此外,MicroFog提供了对容器编排和动态微服务组合的充分抽象。该框架使用多个用例进行评估。结果表明,MicroFog是一个可扩展、可扩展且易于配置的框架,可以集成和评估新的放置策略,以便在多雾多云环境中部署基于微服务的应用程序。我们集成了多个微服务放置策略,以展示MicroFog支持水平缩放放置的能力,从而将应用程序服务的响应时间减少了54%。
2023-02-14 cs.DC
Bunk8s: Enabling Easy Integration Testing of Microservices in Kubernetes
微服务架构是当今云应用程序的常见选择,因为每个微服务都可以独立修改,替换和扩展。然而,微服务应用程序的复杂性需要自动化测试,重点是服务之间的交互。虽然这可以通过端到端测试来实现,但它们容易出错,脆弱,编写成本高,运行耗时,并且需要部署整个应用程序。集成测试是端到端测试的替代方案,因为它们的测试范围较小,并且需要部署的服务数量明显较少。在云中部署微服务应用程序的事实标准是容器,Kubernetes是使用最广泛的容器编排平台。为了支持Kubernetes中微服务的集成测试,存在Octopus,Istio和Jenkins等工具。然而,这些工具中的每一个要么缺乏关键的功能,要么在引入项目时导致工具环境的复杂性和增长的大幅增加。为此,我们提出了\emph{Bunk8s},这是一种用于Kubernetes中微服务应用程序集成测试的工具,它克服了这些现有工具的局限性。\emph{Bunk8s}独立于用于编写集成测试的测试框架,独立于所使用的CI/CD基础结构,并支持测试结果发布。\url{https://www.youtube.com/watch?v=e8wbS25O4Bo}提供了一个演示我们工具功能的视频。
2022-07-14 cs.DC cs.SE
iBrownout: An Integrated Approach for Managing Energy and Brownout in Container-based Clouds
云计算数据中心的能耗问题一直是众多研究者关注的焦点,而云计算能耗巨大的原因之一在于计算资源的低效利用。除了能源消耗,数据中心的另一个挑战是意外负载,这导致了过载和性能下降。与整个数据中心过载时无法正常工作的VM整合和动态电压频率缩放相比,通过动态停用应用程序可选组件(也被称为容器/微服务),brownout已被证明是一种有前途的技术,可以处理过载和能耗。在这项工作中,我们提出了一种集成的方法来管理基于容器的云数据中心的能源消耗和停电。\color{black}我们还评估了我们提出的调度策略与真实的痕迹在一个原型系统。实验结果表明,在保证服务质量的前提下,该方法比不采用节能技术的方法、掉电超订方法和自动缩放方法分别降低了约40%、20%和10%的能耗。
2018-03-22 cs.DC
TraDE: Network and Traffic-aware Adaptive Scheduling for Microservices Under Dynamics
TraDE是一种面向微服务的网络和流量感知自适应调度框架,通过自适应重新部署微服务实例来提升性能并满足服务质量要求。
2025-10-24 cs.DC cs.NI cs.PF
Stateless Snowflake: A Cloud-Agnostic Distributed ID Generator Using Network-Derived Identity
无状态雪花通过容器网络属性生成唯一ID,无需中心协调,实现云无关和无限制横向扩展。
2025-12-12 cs.DC
Contention-Aware Microservice Deployment in Collaborative Mobile Edge Networks
针对协作移动边缘网络中微服务资源争用被忽视导致服务质量下降的问题,本文提出CAMD算法,通过子问题分解与启发式迭代优化实现多应用微服务部署,在低时延响应与整体处理效率之间取得平衡,并通过实验验证其优越性。
2025-01-02 cs.DC cs.NI
Lifting the Fog of Uncertainties: Dynamic Resource Orchestration for the Containerized Cloud
针对容器化云的配置不确定性,本文提出基于 Contextual Bandit 的 Drone 动态资源编排框架,自适应调参以兼顾性能与成本,并通过次线性遗憾理论和实验验证其收益。
2023-09-29 cs.DC
Predicting Resource Consumption of Kubernetes Container Systems using Resource Models
本文提出用Real-Time ABS构建Kubernetes资源模型,基于小规模部署数据模拟大规模高负载场景,以预测容器系统资源消耗并支持部署方案比较。
2023-05-12 cs.DC cs.SE
Interference-Aware Cross-Application Placement: A Multi-Objective Optimization Approach for Microservice Clusters
Hasso Plattner Institute(哈索·普拉特纳研究所)
针对微服务集群中跨应用干扰问题,提出基于因果效应的时空数据结构,结合多目标优化器Optuna进行服务部署优化,显著降低干扰并提升响应性能。
2026-06-25 cs.DC
Collective Autoscaling for Cloud Microservices
随着云应用程序从单体转向松散耦合的微服务,应用程序开发人员必须决定有多少计算资源(例如,复制容器的数量)分配给应用程序中的每个微服务。这一决定会影响(1)应用程序开发人员的美元成本和(2)应用程序用户感知的端到端延迟。如今,当每个微服务的CPU或内存利用率超过可配置的阈值时,通过添加VM来独立地自动扩展各个微服务。然而,应用程序用户的端到端延迟包括在多个微服务上花费的时间,每个微服务可能需要不同数量的VM来实现整体端到端延迟。我们提出了COLA,一个基于微服务的应用程序的自动缩放器,它将VM集体分配给微服务,其全球目标是最小化美元成本,同时将端到端应用程序延迟保持在给定目标下。使用5个开源应用程序,我们将COLA与几种利用率和基于机器学习的自动缩放器进行了比较。我们在Google Kubernetes Engine(GKE)上的不同计算设置中评估COLA,其中用户管理计算资源,GKE标准,以及云提供商管理计算基础设施的新操作模式,GKE Autopilot。COLA在63个工作负载中的53个上达到了预期的中位或尾部延迟目标,与下一个最便宜的自动定标器相比,平均成本降低了19.3%。COLA是这53种工作负载中48种最具成本效益的自动扩展策略。使用COLA管理集群节省的成本使COLA在几天内就能支付培训费用。在较小的应用程序中,我们可以彻底搜索微服务配置,我们发现COLA在90%的情…
2022-08-07 cs.DC cs.SY eess.SY
Optimal Configuration of API Resources in Cloud Native Computing
KU Leuven(荷语鲁汶大学)
本文提出通过前期筛选和贝叶斯优化,在云原生计算中优化微服务的资源配置,以提升性能并平衡采样成本与最优配置的差距。
2025-12-29 cs.DC cs.PF
Evaluation of Docker Containers for Scientific Workloads in the Cloud
HPC社区正在积极研究和评估工具,以支持在基于云的环境中执行科学应用程序。在各种技术中,容器最近变得越来越重要,因为与全面虚拟化相比,它们具有更好的性能,支持微服务和DevOps,并与工作流和编排工具无缝配合。Docker目前是容器化技术的领导者,因为它提供了低开销,灵活性,应用程序的可移植性和可重复性。Singularity是另一个有趣的容器解决方案,因为它是专门为科学应用而设计的。对容器技术进行性能和功能分析,以了解它们对每个应用程序和目标执行环境的适用性,这一点很重要。本文介绍了(1)Docker和Singularity在Chameleon云中的裸金属节点上的性能评估;(2)Docker容器可以通过RDMA通信与InfiniBand硬件映射的机制;(3)分析并行工作负载到容器的映射元素,以便使用容器就绪的编排工具进行最佳资源管理。我们的实验针对应用程序开发人员,以便他们能够在选择适合云基础设施上HPC工作负载的容器技术和方法方面做出明智的决定。我们的性能分析表明,基于Docker和Singularity的容器的科学工作负载可以实现接近原生的性能。Singularity专为HPC工作负载而设计。然而,Docker在云中的使用仍然优于Singularity,因为它提供了覆盖网络和一种直观的方式来运行MPI应用程序,每个等级一个容器,以进行细粒度的资源分配。
2019-05-21 cs.DC cs.PF
kube-volttron: Rearchitecting the VOLTTRON Building Energy Management System for Cloud Native Deployment
管理建筑环境的能源消耗是灵活负荷和脱碳的重要来源,使建筑管理者和公用事业公司能够安排消耗,以避免昂贵的需求费用和电网发电碳排放最高的高峰时间。建筑物能源管理的一个关键技术组成部分是建筑物能源管理系统。Eclipse VOLTTRON是一个支持建筑能源管理的传统软件平台。它是为美国能源部(DOE)在太平洋西北国家实验室(PNNL)开发的,用Python编写,基于单片构建-配置-运行-就地系统架构,早于云原生架构概念。然而,软件架构是组件化的,可以预期模块化容器化应用程序,软件代理处理数据存储,Web访问以及通过特定的物联网协议(如BACnet和Modbus)与物联网设备通信等功能。代理之间通过消息总线进行通信。本文描述了一个概念验证原型,将VOLTTRON重新架构为适合在Kubernetes云原生容器编排平台上部署的微服务集合。代理被打包在可再分发的容器中,这些容器执行特定的功能,并且可以在部署时进行配置。部署架构由单个Kubernetes集群组成,其中包含一个中央节点,名义上位于基于云的虚拟机中,其中包含数据库代理的微服务(称为“历史记录器”)和用于服务运行的网站代理,以及在建筑物中的站点上运行的网关节点,其中包含IoT协议特定代理的微服务处理去往和来自设备的控制和数据汇集,并将信息传回中央节点。
2023-02-27 cs.CY cs.DC cs.SE
Towards Secure Management of Edge-Cloud IoT Microservices using Policy as Code
本文针对边缘-云多域环境中物联网微服务管理缺乏细粒度安全控制的问题,提出基于策略即代码的架构框架,利用控制平面动态配置云原生技术执行安全策略,并通过原型验证其有效性。
2024-06-28 cs.CR cs.DC cs.SE
RobotKube: Orchestrating Large-Scale Cooperative Multi-Robot Systems with Kubernetes and ROS
RWTH Aachen University(亚琛工业大学)
本文提出 RobotKube,结合 Kubernetes 与 ROS,实现大规模协作多机器人 CPS 中容器化微服务的自动部署、扩展、监测与数据管理,并通过可复现用例验证。
2023-08-14 cs.DC cs.RO cs.SE
Elascale: Autoscaling and Monitoring as a Service
自动可扩展性已经成为云软件系统的一个明显特征,包括但不限于大数据和物联网应用。云应用程序提供商现在可以完全控制其应用程序的微服务和宏服务;虚拟机和容器可以在运行时按需配置或取消配置。Elascale致力于根据工作负载和整个应用程序堆栈内部状态的变化来调整微观/宏观资源。Elascale利用Elasticsearch堆栈收集、分析和存储性能指标。然后,Elascale使用其默认的缩放引擎来弹性地适应托管应用程序。可扩展性通过Elascale中的提供程序,模式,插件和策略元素来保证,通过这些元素,可以为各种技术,基础设施和软件堆栈设计和实施灵活的可扩展性算法,包括反应式和主动式技术。在本文中,我们介绍了Elascale的架构和初始实现;将利用一个实例为通用物联网应用程序添加自动可扩展性。由于对目标软件系统的零依赖性,Elascale可以为任何类型的云软件系统提供自动可扩展性和监控即服务。
2017-11-08 cs.DC