WAE: Workload Automation Engine for CDN-specialized Container Orchestration
内容分发网络(CDN)已经成为一种引人注目的技术,即使在高客户端请求下也能提供高效和可扩展的Web服务。然而,这导致了最小的部署成本和强大的服务在重负载之间的困境。为了解决这个问题,我们提出了CDN自动化引擎(WAE),它可以为CDN提供商提供最低成本的动态资源管理,自动扩展和快速服务部署。我们的模块化设计使用一种算法来计算虚拟CDN功能的最佳分配,例如流媒体,渐进式交付和负载均衡器。特别是,我们研究了土耳其Medianova CDN公司的真实CDN数据。我们还使用Docker容器化作为底层系统。结果显示,我们的容器化设计将延迟和部署成本分别降低了45%和66%。此外,我们获得了大约20%的CPU效率和35%的网络利用率。
2020-11-19 cs.NI
A Time Series Forecasting Approach to Minimize Cold Start Time in Cloud-Serverless Platform
无服务器计算是一个流行词,在技术领域以及开发人员和企业中经常使用。使用无服务器的功能即服务(FaaS)模型,可以轻松地将应用程序部署到云中并在几天内上线,这有助于开发人员专注于其核心业务逻辑和后端流程,例如管理基础设施,应用程序的扩展,软件的更新和其他依赖关系由云服务提供商处理。无服务器计算的一个特性是能够将容器扩展到零,这会导致一个称为冷启动的问题。具有挑战性的部分是在不消耗额外资源的情况下减少冷启动延迟。本文利用经典的时间序列预测模型SARIMA(Seasonal Auto Regressive Integrated Moving Average)来预测请求到达的时间,并相应地增加或减少所需容器的数量,以最大限度地减少资源浪费,从而减少函数的启动时间。最后,我们实现了PBA(基于预测的自动缩放器),并将其与kubernetes内置的默认HPA(水平Pod自动缩放器)进行了比较。结果表明,PBA的性能比默认HPA好得多,同时减少了资源的浪费。
2022-06-30 cs.NI
Engineering and Experimentally Benchmarking a Serverless Edge Computing System
由于容器化的最新进展,无服务器边缘计算模型正在接近现实。边缘无服务器有望实现具有快速自动扩展机制的低延迟应用程序,所有这些应用程序都运行在异构和资源受限的设备上。在这项工作中,我们设计和实验基准无服务器边缘计算系统架构。我们为无服务器应用部署了一个分散的边缘计算平台,仅使用开源软件提供处理,存储和通信功能,在异构资源上运行(例如,虚拟机、树莓派或裸机服务器等)。为了实现这一目标,我们提供了一个基于Nebula网络不可知技术的覆盖网络,在私有或公共网络上运行,并使用K3提供硬件抽象。我们基准系统的响应时间,吞吐量和可扩展性,使用不同的硬件设备通过公共互联网连接。结果表明,虽然无服务器在异构设备上是可行的,但在受限设备(如Raspberry Pis)上表现出良好的性能,但在确定计算能力和网络特征时缺乏支持,在边缘环境中有很大的改进空间。
2021-05-11 cs.NI
Towards Optimal Serverless Function Scaling in Edge Computing Network
针对边缘设备分布式特性导致的无服务器函数扩展难题,提出基于半马尔可夫决策过程(SMDP)的理论模型将其转化为决策问题求解,验证了其在边缘计算网络及真实场景中的有效性与最优性。
2023-05-23 cs.NI
Enabling 5G QoS configuration capabilities for IoT applications on container orchestration platform
本文提出基于Linux fwmark和CNI插件的Kubernetes原生方案,将覆盖网络QoS信息非侵入式传递至5G底层网络,并通过定位与建图应用验证可行性。
2024-03-08 cs.ET cs.NI
Towards Scalable Federated Container Orchestration: The CODECO Approach
fortiss GmbH(fortiss有限公司);Red Hat(红帽);IBM Research Europe - Zurich(IBM欧洲苏黎世研究中心);Siemens AG(西门子股份公司);i2CAT Foundation(i2CAT基金会);Telefónica(西班牙电信);Intracom Telecom(Intracom电信);Democritus University of Thrace / Athena Research Center(色雷斯德谟克利特大学/雅典研究中心);Universidad Politécnica de Madrid(马德里理工大学);University of Piraeus Research Centre(比雷埃夫斯大学研究中心);Netcompany;Universidad Carlos III de Madrid(马德里卡洛斯三世大学)
CODECO通过联邦编排框架实现可扩展的容器编排,结合语义模型、分区联邦和AI辅助决策,支持异构基础设施和多提供者操作。
2026-01-19 cs.DC cs.ET cs.NI
Scaling Serverless Functions in Edge Networks: A Reinforcement Learning Approach
针对边缘网络中无服务器函数自动扩展与资源分配难题,提出基于强化学习的方法,仿真表明其优于传统启发式算法,延迟性能提升达50%。
2023-05-22 cs.NI
Cost Optimization for Serverless Edge Computing with Budget Constraints using Deep Reinforcement Learning
针对无服务器边缘计算中预算约束下的成本优化问题,提出基于强化学习的在线调度算法,在1.03因子内逼近ILP最优解,且决策时间降低5个数量级。
2025-01-23 cs.NI
QoS-Aware Resource Management for Multi-phase Serverless Workflows with Aquatope
多阶段无服务器应用程序,即,具有许多计算和I/O阶段的工作流正日益成为FaaS平台的代表。尽管这些应用程序在细粒度可扩展性和模块化开发方面具有优势,但与以前的简单无服务器功能相比,这些应用程序在很大程度上会受到次优性能,资源效率低下和高成本的影响。我们提出了Aquatope,一个QoS和不确定性感知的资源调度器,用于端到端的无服务器工作流,考虑到FaaS平台中存在的固有不确定性,并提高了性能的可预测性和资源效率。Aquatope使用一组可扩展且经过验证的贝叶斯模型来在函数调用之前创建预热容器,并以函数粒度分配适当的资源,以满足复杂工作流的端到端QoS,同时最大限度地降低资源成本。在各种分析和交互式多阶段无服务器工作负载中,Aquatope的性能明显优于以前的系统,将QoS违规减少了5倍,平均成本降低了34%,与其他QoS会议方法相比,成本高达52%。
2022-12-28 cs.DC cs.NI
Intent-Based Orchestration for Application Relocation in a 5G Cloud-native Platform
移动网络运营商对成本效益的需求正在推动5G及以上网络走向高度灵活和敏捷的部署,以适应动态和资源受限的场景,同时满足无数用户网络利益相关者的需求。在这种情况下,我们认为基于配备端到端监控功能的云原生部署的零接触编排方案提供了成为候选解决方案所需的技术组合。该演示建立在具有空中传输的端到端云原生5G实验平台之上,展示了动态编排如何重新定位基于容器的最终用户应用程序,以满足基于意图的需求。因此,我们提供了一个实验验证,以展示该平台如何实现所需的灵活和敏捷的5G部署。
2022-11-21 cs.NI
Uncoordinated Access to Serverless Computing in MEC Systems for IoT
针对边缘计算中客户端到边缘节点的分配问题,提出无协调访问方法,让设备机会主义地利用异构边缘节点,在极低复杂度下有效利用网络资源,仅付出微小计算负载和延迟代价。
2025-03-01 cs.NI
Performance Optimization for Edge-Cloud Serverless Platforms via Dynamic Task Placement
我们提出了一个使用动态任务放置的无服务器边缘云平台性能优化框架。我们专注于智能边缘设备的应用,例如智能相机或扬声器,这些设备需要对输入数据执行实时到接近实时的处理任务。我们的框架允许用户为每个应用程序任务指定成本和延迟要求,并且对于每个输入,它确定是在边缘设备上还是在云中执行任务。此外,对于云执行,框架识别满足性能目标所需的容器资源配置。我们使用从AWS Lambda和AWS Greengrass中的无服务器应用程序收集的测量结果在模拟中评估了我们的框架。此外,我们已经实现了在这些相同平台上运行的框架原型。在我们的原型实验中,我们的模型可以预测平均端到端延迟,误差小于6%,与仅边缘执行相比,我们在端到端延迟方面获得了近三个数量级的减少。
2020-05-19 cs.DC cs.NI
On Optimal Placement of Hybrid Service Function Chains (SFCs) of Virtual Machines and Containers in a Generic Edge-Cloud Continuum
传统上,网络功能虚拟化(NFV)已经被实现为以虚拟网络功能(VNF)的形式在虚拟机(VM)上运行。最近,所谓的无服务器计算在云计算中获得了吸引力,提供了利用容器化技术部署服务的功能即服务(FaaS)平台。与基于VM的VNF相比,资源通常是保留的并持续运行,FaaS可以只是实现小功能的代码子集,允许事件驱动的按需实例化。因此,基于混合VM容器的服务功能链(SFC)是NFV架构的自然演进。我们从互联网服务提供商(ISP)的角度研究了混合SFC的最佳放置的新问题,从而可以在通用边缘和云连续体中的VM或容器上实例化VNF。为此,我们提出了一个混合线性规划模型以及一个启发式解决方案来解决这个优化问题,该问题考虑了运营商网络中特定VM和容器部署所特有的三个目标:在边缘维护服务器的运营成本,将VNF放置在第三方云提供商中的成本以及在违反SLA协议时应用的惩罚成本。我们还提出了两个阶段的优化过程来分析VNF的复制和迁移对性能的影响。该模型可用于突出虚拟机和容器的组合可以从货币成本的角度提供最大好处的场景。
2020-07-08 cs.NI
TSoR: TCP Socket over RDMA Container Network for Cloud Native Computing
本文提出TSoR,一种基于RDMA的容器网络解决方案,通过拦截系统调用实现透明加速,兼容Kubernetes编排系统,并设计高性能网络栈传输TCP流量,使现有容器化应用在无需修改代码的情况下获得高达2.3倍的吞吐量提升和64%的延迟降低。
2023-05-18 cs.DC cs.NI
BeeFlow: Behavior Tree-based Serverless Workflow Modeling and Scheduling for Resource-Constrained Edge Clusters
Sun Yat-sen University(中山大学)
针对边缘集群中无服务器工作流调度表达力不足和资源争用问题,提出基于行为树的建模与调度系统BeeFlow,在边缘和云测试平台分别实现3.2倍和2.5倍加速。
2023-08-31 cs.DC cs.NI cs.RO
NetO-App: A Network Orchestration Application for Centralized Network Management in Small Business Networks
软件定义网络(SDN)正在重塑网络模式。先前的研究表明,SDN比传统网络具有优势,因为它分离了控制和数据平面,通过网络自动化和可编程性带来更大的灵活性。与服务提供商网络一样,小型企业网络需要灵活性来扩展、部署和自我修复由云操作系统、虚拟机、容器、供应商网络设备和虚拟网络功能(VNF)组成的网络基础设施;然而,随着SDN在行业中的发展,开发SDN架构以满足小型企业网络需求的研究有限。这项研究提出了一种网络架构,可以抽象,编排,并根据小型企业的网络需求的规模配置。我们的研究结果表明,所提出的架构提供了增强的网络管理和操作时,结合网络编排应用程序(NetO-App)在这项研究中开发的。NetO-App协调网络策略,自动化配置更改,并管理园区网络基础设施之间的内部和外部通信。
2018-08-04 cs.NI
Towards Organic 6G Networks: Virtualization and Live Migration of Core Network Functions
在工业4.0的背景下,越来越多的移动用例出现在工业工厂车间。这些用例对各种量化要求提出了很高的要求,例如延迟、可用性等。此外,还出现了灵活性等质量要求。由于虚拟化技术是新用例所需的灵活性的关键推动因素,并且在6G解决有机网络问题的过程中,我们在本文中研究了容器虚拟化技术。我们专注于容器技术,因为与虚拟机等硬件虚拟化相比,操作系统级虚拟化具有多种优势。因此,我们讨论了基于容器的虚拟化的几个方面,例如,选择合适的网络驱动程序和编排工具,相对于最重要的5GC功能。此外,功能具有不同的定量或定性要求,这取决于它们是无状态的还是有状态的,以及特定功能是位于控制平面还是用户平面。因此,我们还分析了上述5GC功能的实时迁移概念,并根据定义良好的指标(如迁移时间和流程停机时间)对其进行评估。
2021-10-25 cs.NI
A CODECO Case Study and Initial Validation for Edge Orchestration of Autonomous Mobile Robots
fortiss - research Institute of the Free State of Bavaria associated with the Technical University of Munich (TUM)(拜恩施研究所以及慕尼黑技术大学)
本文通过案例研究比较CODECO与Kubernetes在自主移动机器人边缘编排中的性能,发现CODECO在CPU消耗和通信稳定性方面表现更优,但伴随内存开销和生命周期延迟的增加。
2025-11-11 cs.ET cs.NI cs.RO
Disruption-aware Microservice Re-orchestration for Cost-efficient Multi-cloud Deployments
针对多云环境中微服务重新编排导致的服务中断和成本问题,提出多目标整数线性规划及启发式算法,集成于K8s调度器,在保证QoS的同时显著降低部署成本和服务中断。
2025-09-09 cs.NI
Performance Evaluation of Kubernetes Networking Approaches across Constraint Edge Environments
本文在不同K8s环境中对多种CNI插件进行定性和定量性能评估,纳入边缘轻量级实现,发现轻量级发行版上的插件部署未必改善CPU、内存或吞吐量等资源利用。
2024-01-15 cs.NI
Multitenant Containers as a Service (CaaS) for Clouds and Edge Clouds
针对云和边缘云中CaaS多租户隔离开销大的问题,提出原生多租户框架,租户共享集群,通过节点级切片实现隔离与定制,已开源并用于EdgeNet。
2023-04-21 cs.DC cs.NI
Checkpointing and Migration of IoT Edge Functions
无服务器和功能即服务(FaaS)模式目前在云提供商中流行,现在越来越多地应用于网络边缘和物联网(IoT)设备。好处包括减少通信延迟,减少网络流量和增加数据处理的隐私。然而,存在挑战,因为物联网设备具有有限的资源来运行多个同时的容器化功能,并且FaaS通常不支持长时间运行的功能。我们的实现利用Docker和CRIU来执行检查点和挂起长时间运行的阻塞函数。结果显示,检查点比常规Docker暂停稍慢,但它节省了内存,并允许在物联网设备上运行更多长时间运行的函数。此外,生成的检查点文件很小,因此它们适合于实时迁移和备份有状态功能,从而提高系统的可用性和可靠性。
2021-03-21 cs.NI
Adaptive Services Function Chain Orchestration For Digital Health Twin Use Cases: Heuristic-boosted Q-Learning Approach
University of Amsterdam(阿姆斯特丹大学)
本文提出启发式增强的 Q-Learning 自适应 SFC 编排框架,依据数据共享政策、性能需求与资源状态动态部署 VNF 和路由,服务数字健康孪生场景。
2023-04-25 cs.CR cs.LG cs.NI
KuberneTSN: a Deterministic Overlay Network for Time-Sensitive Containerized Environments
针对容器化环境时间敏感通信的网络支持不足问题,提出基于Kubernetes的覆盖网络方案KuberneTSN,通过内核旁路与符合TSN标准的用户空间调度器实现确定性通信,实验证明其达到裸机性能并优于Flannel。
2023-02-16 cs.DC cs.NI