Graph-PHPA: Graph-based Proactive Horizontal Pod Autoscaling for Microservices using LSTM-GNN
Dublin City University(都柏林城市大学)
基于微服务的架构已经成为云原生应用程序的主流。随着越来越多的应用程序每天部署在云平台上利用这种架构,需要更多的研究工作来了解如何应用不同的策略来有效地管理各种云资源。大量的研究已经部署了自动资源分配算法,使用反应式和主动式自动缩放策略。然而,目前的算法在从微服务的架构和部署环境中捕获微服务的重要特征方面的效率仍然存在差距,例如,缺乏对图形依赖的考虑。为了应对这一挑战,我们提出了Graph-PHPA,这是一种基于图的主动水平pod自动缩放策略,用于利用长短期记忆(LSTM)和基于图神经网络(GNN)的预测方法将云资源分配给微服务。我们使用部署在专用测试环境中的Bookinfo微服务来评估Graph-PHPA的性能,其中实时工作负载是根据真实的数据集生成的。我们通过将Graph-PHPA与Kubernetes中基于规则的资源分配方案作为基线进行比较来证明其有效性。大量的实验已经实施,我们的结果表明,我们提出的方法在资源节约的反应式基于规则的基线算法在不同的测试场景中的优越性。
2022-09-06 cs.DC cs.LG
DRPC: Distributed Reinforcement Learning Approach for Scalable Resource Provisioning in Container-based Clusters
针对微服务集群集中式自动扩缩容的可扩展性难题,提出基于双延迟深度确定性策略梯度的分布式资源供给方法DRPC,相较前沿方法可降低15%平均响应时间、减少24%失败请求,提升集群可扩展性。
2024-07-14 cs.DC
Collective Autoscaling for Cloud Microservices
随着云应用程序从单体转向松散耦合的微服务,应用程序开发人员必须决定有多少计算资源(例如,复制容器的数量)分配给应用程序中的每个微服务。这一决定会影响(1)应用程序开发人员的美元成本和(2)应用程序用户感知的端到端延迟。如今,当每个微服务的CPU或内存利用率超过可配置的阈值时,通过添加VM来独立地自动扩展各个微服务。然而,应用程序用户的端到端延迟包括在多个微服务上花费的时间,每个微服务可能需要不同数量的VM来实现整体端到端延迟。我们提出了COLA,一个基于微服务的应用程序的自动缩放器,它将VM集体分配给微服务,其全球目标是最小化美元成本,同时将端到端应用程序延迟保持在给定目标下。使用5个开源应用程序,我们将COLA与几种利用率和基于机器学习的自动缩放器进行了比较。我们在Google Kubernetes Engine(GKE)上的不同计算设置中评估COLA,其中用户管理计算资源,GKE标准,以及云提供商管理计算基础设施的新操作模式,GKE Autopilot。COLA在63个工作负载中的53个上达到了预期的中位或尾部延迟目标,与下一个最便宜的自动定标器相比,平均成本降低了19.3%。COLA是这53种工作负载中48种最具成本效益的自动扩展策略。使用COLA管理集群节省的成本使COLA在几天内就能支付培训费用。在较小的应用程序中,我们可以彻底搜索微服务配置,我们发现COLA在90%的情…
2022-08-07 cs.DC cs.SY eess.SY
Optimal and Automated Deployment for Microservices
微服务是高度模块化和可扩展的面向服务的架构。它们支持自动化部署实践,如持续部署和自动扩展。在本文中,我们将这些实践形式化,并表明自动化部署-在一般情况下被证明是不可判定的-在算法上可用于微服务。我们的关键假设是,微服务的配置生命周期分为两个阶段:(i)创建,这需要与已经可用的微服务建立初始连接,以及(ii)随后与其他微服务绑定/解除绑定。为了说明我们的方法的适用性,我们实现了一个自动优化部署工具和计算部署计划的一个现实的微服务架构,在抽象行为规范(ABS)语言建模。
2019-01-28 cs.DC
Adaptive Management of Microservices in Dynamic Computing Environments: A Taxonomy and Future Directions
The University of Melbourne(墨尔本大学)
本文探讨动态环境中微服务的自适应管理,通过分类和评估展示现有系统在动态建模和评估中的不足,并提出未来研究方向,如跨层协调和安全学习控制。
2026-04-28 cs.DC
Proactive and Reactive Autoscaling Techniques for Edge Computing
针对边缘计算中微服务架构需满足严格SLA但现有自动扩缩容算法存在性能与配置复杂性问题,本章概述边缘计算架构并探讨用于满足SLA的扩缩容算法研究及其优缺点。
2025-10-11 cs.DC
An SLO Driven and Cost-Aware Autoscaling Framework for Kubernetes
East West Bank(West East Bank);NTT Data(NTT数据);Albertsons(阿尔伯森斯)
本文提出一种基于SLO和成本的Kubernetes自动扩展框架,通过整合多信号和轻量级需求预测,有效减少SLO违规时间、提升扩展响应速度并降低成本。
2025-12-29 cs.DC cs.SE
A proactive autoscaling and energy-efficient VM allocation framework using online multi-resource neural network for cloud data center
这项工作提出了一个节能的资源供应和分配框架,以满足未来应用程序的动态需求。云用户资源需求的频繁变化导致了过度功耗、资源浪费、性能和服务质量下降的问题。所提出的框架通过精确地将应用程序的预测资源需求与VM的资源容量相匹配来解决这些挑战,从而将整个负载整合到最少数量的节能物理机器上。所提出的工作的三个连续的贡献是:在线多资源前馈神经网络,以预测未来的应用程序的多个资源需求同时;自动缩放的虚拟机的基础上预测的资源需求的聚类;分配的缩放的虚拟机上的节能PM。该集成方法连续优化资源利用率,节省能源,并自动适应未来应用资源需求的变化。建议的框架进行了评估,使用基准谷歌集群数据集的真实工作负载跟踪和不同的场景,包括节能的VM放置与资源预测,VMP没有资源预测和自动缩放,最佳VMP与自动缩放的基础上,实际资源利用率进行比较。观察到的结果表明,所提出的集成方法实现了接近最佳的性能对最佳的VMP和优于其余的VMP在节省功率和资源利用率分别高达88.5%和21.12%。与传统的单输入单输出前馈神经网络预测器相比,OM-FNN预测器具有更高的预测精度、更小的时间和空间复杂度。
2022-12-04 cs.DC
Experimentally Evaluating the Resource Efficiency of Big Data Autoscaling
本文通过实验评估了Spark等大数据系统自动扩展的资源效率,发现其相比静态资源分配无显著优势,并指出节点大小和内存CPU比率的非弹性是根本局限。
2025-01-24 cs.DC
Analytically-Driven Resource Management for Cloud-Native Microservices
Cornell University(康奈尔大学);Microsoft Research(微软研究院);MIT(麻省理工学院)
提出轻量级云原生微服务资源管理系统Ursa,通过分析模型分解SLA并映射资源分配,相比ML方法大幅缩短数据收集时间、提升控制平面速度,并降低SLA违规率与CPU分配。
2024-01-05 cs.AI cs.DC
ADApt: Edge Device Anomaly Detection and Microservice Replica Prediction
本文提出ADApt框架,通过监控边缘设备、检测资源异常并利用梯度提升回归预测微服务副本数量,有效缓解资源过度利用瓶颈,将设备CPU利用率降低14%-28%。
2025-03-25 cs.DC
Practice of Alibaba Cloud on Elastic Resource Provisioning for Large-scale Microservices Cluster
针对大规模微服务集群资源供给难题,本文分析阿里集群特征,提出结合主动与反应式调度的优化算法,在保障延迟的同时将资源利用率提升10-15%。
2023-08-29 cs.DC
Self-Adaptive Trade-off Decision Making for Autoscaling Cloud-Based Services
云中的弹性通常通过按需自动缩放来实现。在这种情况下,目标是优化基于云的服务的服务质量(QoS)和成本目标。然而,困难在于这些目标,例如,吞吐量和成本,可以自然地冲突,并且基于云的服务的QoS经常由于云中的共享基础设施而受到干扰。因此,在云中进行自动缩放的动态和有效的权衡决策是必要的,但具有挑战性。特别是,要实现良好的折衷就更难了,在这种情况下,决策在很大程度上改善了大多数目标,同时对其他目标造成相对较小的退化。在本文中,我们提出了一个自适应的决策方法,在云中的自动缩放。它能够自适应地产生自动缩放决策,从而在没有大量人为干预的情况下实现良好的折衷。我们利用蚁群启发的多目标优化来搜索和优化权衡决策,然后通过妥协优势来过滤结果,这是一种在权衡中提取具有平衡改进的决策的机制。我们实验比较我们的方法,以四个国家的最先进的自动缩放方法:规则,启发式,随机和多目标遗传算法为基础的解决方案。结果表明,我们的方法比其他方法更有效,包括更好的权衡质量和更小的违反要求。
2016-08-21 cs.DC cs.SE
Kuksa*: Self-Adaptive Microservices in Automotive Systems
在普适动态环境中,车辆连接到其他对象以发送操作数据并接收更新,使得车辆应用可以按需向用户提供服务。汽车系统应该是自适应的,因此它们可以根据不断变化的操作条件做出实时决策。新兴的现代解决方案,如微服务,可以提高自适应能力,并确保许多领域的高质量性能。我们采用了一个名为Eclipse Kuksa的真实汽车平台,提出了一个基于微服务架构的框架,以增强汽车系统运行时数据分析的自适应能力。为了评估设计的解决方案,我们在汽车实验室环境中进行了一项实验,我们的解决方案作为基于微服务的适配引擎实现,并与其他Eclipse Kuksa组件集成。我们的研究结果表明,设计权衡每个微服务和整个系统的质量需求的满足水平的重要性,在运行时的自适应系统的最佳性能。
2021-01-10 cs.DC
ADASCALE: An Adaptive Scaling and Placement Framework for Microservices Under Dynamics
The University of Melbourne(墨尔本大学)
研究云边缘环境下微服务面临的多维度动态问题,提出ADASCALE框架,通过MAPE循环联合扩展和放置微服务副本,经实验验证能满足SLO目标,有效提升延迟和吞吐量。
2026-07-20 cs.DC cs.NI
Placement of Microservices-based IoT Applications in Fog Computing: A Taxonomy and Future Directions
本文提出了雾计算环境中基于微服务的物联网应用部署的全面分类法,分析了部署问题的主要方面、相关工作及研究空白,并探讨了未来研究方向。
2023-02-14 cs.DC
Multi-dimensional Autoscaling of Processing Services: A Comparison of Agent-based Methods
Distributed Systems Group, TU Wien(维也纳技术大学分布式系统组);DISL, ICREA | Universitat Pompeu Fabra(庞培法布拉大学)
本文提出一种多维基于代理的自动扩展框架,比较了四种代理方法在边缘计算中的性能,验证了多维自动扩展的可行性。
2026-01-12 cs.AI cs.DC cs.ET
MicroIntent: Intent-Based Placement Strategy for Microservice Application in the Compute Continuum Using LLMs
Western Sydney University(西悉尼大学);Federal Institute of Education, Science and Technology Sul-Riograndense (IFSUL)(南里奥格兰德联邦教育、科学和技术学院)
本文提出MicroIntent架构,利用大语言模型将用户自然语言意图转化为低级别SLO,以指导计算连续体中的微服务放置,并通过原型验证其可行性。
2026-09-09 cs.DC
Optimal Configuration of API Resources in Cloud Native Computing
KU Leuven(荷语鲁汶大学)
本文提出通过前期筛选和贝叶斯优化,在云原生计算中优化微服务的资源配置,以提升性能并平衡采样成本与最优配置的差距。
2025-12-29 cs.DC cs.PF
AHPA: Adaptive Horizontal Pod Autoscaling Systems on Alibaba Cloud Container Service for Kubernetes
DAMO Academy, Alibaba Group(阿里巴巴集团达摩院);Alibaba Cloud, Alibaba Group(阿里巴巴集团阿里云)
Kubernetes现有的应用实例资源分配策略无法根据业务需求动态调整,在波动时会造成巨大的资源浪费。此外,新的云服务的出现提出了更高的资源管理要求。本文讨论了阿里云容器服务中的水平POD资源管理,并采用了一个新部署的AI算法框架AHPA --自适应水平POD自动缩放系统。基于一个强大的分解预测算法和性能训练模型,AHPA提供了一个最佳的POD数量调整计划,可以减少POD资源,并保持业务稳定。这套系统自2021年4月部署以来,已拓展到物流、社交网络、AI音视频、电商等多个客户场景,与以往算法相比,AHPA解决了弹性滞后问题,CPU使用率提升10%,资源成本降低20%以上。此外,AHPA可以根据预测的业务量自动进行灵活规划,无需人工干预,大幅节省运维成本。
2023-03-07 cs.DC cs.LG cs.SY
LEISA: A Scalable Microservice-based System for Efficient Livestock Data Sharing
本文提出LEISA,一种基于云微服务的牲畜事件信息共享架构,通过RESTful API和消息代理实现跨利益相关者的高效、可靠、可扩展的数据共享与互操作。
2025-01-02 cs.DC
MSARS: A Meta-Learning and Reinforcement Learning Framework for SLO Resource Allocation and Adaptive Scaling for Microservices
本文提出MSARS框架,结合元学习与强化学习,利用图卷积网络和改进的TD3模型实现微服务SLO资源的快速分配与自适应扩展,在适应时间、违规率和资源成本上均优于现有算法。
2024-09-23 cs.DC
AutoTune: Improving End-to-end Performance and Resource Efficiency for Microservice Applications
大多数大型Web规模的应用程序现在都是通过组合微服务集合(从几个到100个或1000个)来构建的。运营商需要决定为每个微服务分配多少资源,这些分配可能会对应用程序性能产生很大影响。手动确定既具有成本效益又满足性能要求的分配是一项挑战,即使对于经验丰富的操作员也是如此。在本文中,我们提出了AutoTune,一个端到端的工具,自动最大限度地减少资源利用率,同时保持良好的应用程序性能。
2021-06-29 cs.DC cs.PF
Fifer: Tackling Underutilization in the Serverless Era
数据中心正在见证基于微服务的应用程序采用无服务器功能的快速增长。这些微服务中的绝大多数通常跨度不到一秒,具有严格的SLO要求,并根据应用程序的要求链接在一起。上述特征引入了一系列新的挑战,特别是在容器配置和管理方面,因为在无服务器平台中采用的最先进的资源管理框架倾向于关注基于微服务的应用程序,类似于传统的单片应用程序。因此,这些框架遭受微服务不可知的调度和巨大的容器过度供应,特别是在工作负载波动期间,从而导致资源利用率低下。在这项工作中,我们使用Kubernetes和Brigade无服务器框架管理的多节点集群上的各种工作负载来量化上述缺点。为了解决这些问题,我们提出了\emph{Fifer} -一个自适应资源管理框架,以有效地管理无服务器平台上的功能链。其关键思想是使\emph{Fifer}(i)通过使用功能感知的容器缩放和智能请求调度来有效地将作业装箱到更少的容器,从而使其具有利用率意识;(ii)同时,通过主动生成容器以避免冷启动,从而使其符合SLO,从而最小化整体响应延迟。结合这些优势,与无服务器平台采用的最先进的路由器相比,\emph{Fifer}将容器利用率和集群范围的能耗分别提高了4倍和31%,而不会影响SLO。
2020-08-28 cs.DC
Energy-Efficient Resource Management in Microservices-based Fog and Edge Computing: State-of-the-Art and Future Directions
University of Sargodha(萨戈达大学);University of Surrey(萨里大学);University of Kurdistan(库尔德斯坦大学);The University of Melbourne(墨尔本大学)
本文综述了基于微服务的雾和边缘计算中最新的节能资源管理策略,识别了现有研究中的挑战,并提出了利用AI、量子计算和无服务器计算等技术的未来研究方向。
2025-11-18 cs.DC
Interference-Aware Cross-Application Placement: A Multi-Objective Optimization Approach for Microservice Clusters
Hasso Plattner Institute(哈索·普拉特纳研究所)
针对微服务集群中跨应用干扰问题,提出基于因果效应的时空数据结构,结合多目标优化器Optuna进行服务部署优化,显著降低干扰并提升响应性能。
2026-06-25 cs.DC
INFaaS: A Model-less and Managed Inference Serving System
Stanford University(斯坦福大学)
尽管在机器学习推理服务方面已有工作,但易用性和成本效率在大规模上仍然面临挑战。开发人员必须手动搜索数千个模型变体-已经训练的模型的版本,这些版本在硬件,资源占用,延迟,成本和准确性方面有所不同-以满足不同的应用程序需求。由于需求、查询负载和应用程序本身会随着时间的推移而发展,因此需要为每个推理查询动态地做出这些决策,以避免通过简单的自动缩放产生过多的成本。为了避免在模型变量的大而复杂的权衡空间中导航,开发人员经常在查询中修复一个变量,并在负载增加时复制它。然而,考虑到云中变体和硬件平台的多样性,缺乏对权衡空间的理解可能会给开发人员带来巨大的成本。本文介绍了INFaaS,分布式推理服务的管理和无模型系统,开发人员只需指定其应用程序的性能和准确性要求,而不需要为每个查询指定一个特定的模型变量。INFaaS生成模型变量,并代表开发人员有效地导航模型变量的大权衡空间,以满足特定于应用程序的目标:(a)对于每个查询,它选择一个模型,硬件架构和模型优化,(b)它将VM级水平自动缩放与模型级自动缩放相结合,其中多个不同的模型变量用于在每台机器内服务查询。与AWS EC2上最先进的推理服务系统相比,通过利用不同的变体并跨模型共享硬件资源,INFaaS实现了1.3倍的吞吐量,违反延迟目标的频率降低了1.6倍,并节省了高达21.6倍的成本(平均为8.5倍)。
2020-12-15 cs.DC cs.LG
Whole Slide Image to DICOM Conversion as Event-Driven Cloud Infrastructure
医学数字成像和通信(DICOM)规范越来越多地被数字病理学采用,以促进数据标准化和互操作性。将专有文件格式高效转换为DICOM标准格式是机构采用DICOM的关键要求,这是确保与现有扫描仪、显微镜和数据档案兼容所必需的。在这里,我们提出了一个用于DICOM转换的云计算架构,利用Google Cloud中无服务器计算环境中托管的事件驱动微服务框架,以实现从单个图像到机构规模数据集的有效DICOM转换。在我们的实验中,采用基于微服务的方法,相对于并行和串行处理,大大减少了处理一批图像的运行时间。这项工作证明了设计可扩展系统以实现企业级采用数字病理工作流程的重要性,并提供了使用微服务架构实现高效DICOM转换的蓝图。
2022-03-25 cs.DC
Balancing Microservices and Monolithic Architectures
探讨企业软件团队在单体与微服务架构间的选择,分析两者技术利弊及对多方面影响,讨论团队依多种因素评估架构方法的方式。
2026-07-07 cs.DC cs.SE
Reclaimer: A Reinforcement Learning Approach to Dynamic Resource Allocation for Cloud Microservices
Ohio University(俄亥俄大学);University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校);Intel(英特尔)
本文提出Reclaimer深度强化学习模型,通过动态感知微服务运行时变化,在满足QoS前提下最小化CPU核心分配,实验表明其资源节省效果显著优于现有方案。
2023-04-17 cs.DC cs.LG
An Architectural Approach to Creating a Cloud Application for Developing Microservices
云计算是一种新的范式,为新的方法和标准铺平了道路。架构风格正在不断发展,以响应云的需求。近年来,微服务已成为可扩展、快速发展的云应用程序的首选架构风格。微服务的采用损害了越来越多被淘汰的单一结构,这是业务架构中最重要的发展之一。云原生架构使微服务系统部署更具生产力,适应性和成本效益。无论如何,许多公司已经开始从一种类型的架构过渡到另一种类型的架构,尽管这仍然处于早期阶段。本文的主要目的是更好地了解如何通过开发云应用程序来设计微服务,以及当前的微服务趋势,微服务研究的原因,新兴标准和未来的研究差距。软件工程的研究人员和从业人员可以使用这些数据来了解SOA和云计算的最新发展。
2022-10-07 cs.DC cs.NI
Comparison of Microservice Call Rate Predictions for Replication in the Cloud
Alpen-Adria-Universität Klagenfurt(阿尔卑斯-亚得里亚大学克拉根福分校);Azad University, Science and Research Branch, Tehran(阿扎德大学德黑兰科学与研究分校);SINTEF AS(挪威SINTEF公司);OsloMet - Oslo Metropolitan University(奥斯陆城市大学)
比较LR、MLP和GBR三种机器学习模型在阿里巴巴微服务轨迹上预测微服务调用率以估计可扩展性需求的表现,发现GBR在误差上更优且预测副本数接近实际值。
2023-10-29 cs.AI cs.DC cs.LG
A Kubernetes Controller for Managing the Availability of Elastic Microservice Based Stateful Applications
微服务的架构风格近年来越来越受欢迎。在这种架构风格中,小型和松散耦合的模块被独立部署和扩展,以组成云原生应用程序。运营商级服务提供商正在将其遗留应用程序迁移到运行在Kubernetes上的基于微服务的架构,Kubernetes是一个用于编排基于容器化微服务的应用程序的开源平台。然而,在这种迁移中,服务可用性仍然是一个问题。服务可用性以服务配置时间的百分比来衡量。高可用性(HA)是指服务至少在99.999%的时间内可用。在本文中,我们确定了使用Kubernetes部署基于有状态微服务的应用程序的可能架构,并从其为托管应用程序提供的可用性角度评估Kubernetes。我们的实验结果表明,Kubernetes的修复动作不能满足HA要求,在某些情况下不能保证服务恢复。因此,我们提出了一个HA状态控制器,它与Kubernetes集成,并允许应用程序状态复制和自动服务重定向到健康的微服务实例,除了Kubernetes的修复操作之外,还支持服务恢复。基于实验,我们评估我们的解决方案,并从可用性和扩展开销的角度比较不同的架构。我们的调查结果表明,我们的解决方案可以将基于状态微服务的应用程序的恢复时间提高50%。
2020-12-28 cs.DC cs.SE
A Document-based Knowledge Discovery with Microservices Architecture
Universität der Bundeswehr München(慕尼黑联邦国防军大学)
本文提出一种基于微服务架构的知识发现方法,涵盖关键词提取、文档相似度计算、自然语言查询及本体半自动学习等,以应对数字化数据“知识贫乏”问题,并已在德国专利局扩展应用。
2024-06-13 cs.CL cs.DC cs.DL
iAnomaly: A Toolkit for Generating Performance Anomaly Datasets in Edge-Cloud Integrated Computing Environments
针对边缘计算中性能异常数据集缺失的问题,提出全系统仿真器iAnomaly,可自动生成带标签的正常与异常数据,并发布覆盖多种微服务物联网应用、含多种异常的公开数据集。
2024-11-05 cs.DC
Benchmarking scalability of stream processing frameworks deployed as microservices in the cloud
本文通过740余小时Kubernetes实验,系统基准测试了五种主流流处理框架在云端微服务部署下的可扩展性,发现各框架近似线性扩展但资源需求差异显著,且无绝对最优框架,排名取决于用例,Apache Beam抽象层资源开销显著更高。
2023-10-17 cs.DC cs.SE
STaleX: A Spatiotemporal-Aware Adaptive Auto-scaling Framework for Microservices
University of Waterloo(滑铁卢大学)
本文提出面向微服务的自适应自动扩缩容框架STaleX,结合控制理论、机器学习与启发式方法,利用时空特征动态调整加权PID控制器,有效减少SLO违规,相比传统HPA方法资源使用量降低26.9%。
2025-01-30 cs.DC cs.LG cs.SE
Fog Computing: Survey of Trends, Architectures, Requirements, and Research Directions
像物联网(IoT)这样的新兴技术需要延迟感知计算来进行实时应用处理。在物联网环境中,连接的事物会产生大量的数据,这些数据通常被称为大数据。由于云计算范例的按需服务和可扩展性特征,从IoT设备生成的数据通常在云基础设施中处理。然而,对于某些物联网应用程序,特别是对时间敏感的应用程序来说,专门在云上处理物联网应用程序请求并不是一个有效的解决方案。为了解决这个问题,提出了位于云和物联网设备之间的雾计算。通常,在雾计算环境中,IoT设备连接到雾设备。这些雾设备位于用户附近,负责中间计算和存储。雾计算研究仍处于起步阶段,仍然需要对雾基础设施,平台和应用程序的需求进行基于分类的调查。本文首先对雾计算进行了概述,回顾了雾计算的定义、研究趋势以及雾计算与云计算的技术差异。然后,我们研究了许多提出的雾计算架构,并详细描述了这些架构的组件。由此,将定义每个组件的角色,这将有助于雾计算的部署。其次,通过考虑雾计算范式的要求,提出了雾计算的分类。我们还讨论了现有的研究工作和差距,在资源分配和调度,容错,仿真工具,和基于雾的微服务。最后,针对目前研究工作的局限性,我们提出了一些开放性的问题,这将决定未来的研究方向。
2018-07-03 cs.DC
Cost-Efficient Orchestration of Containers in Clouds: A Vision, Architectural Elements, and Future Directions
本文提出了一个架构框架,在云环境中的容器的有效编排。它围绕资源调度和重新调度策略以及自动缩放算法,使创建弹性虚拟集群。通过这种方式,所提出的框架使得能够在封装在容器中的不同客户端应用之间共享计算环境,包括Web服务、离线分析作业和后端预处理任务。所设计的资源管理算法和策略将提高可用虚拟资源的利用率,以降低提供商的运营成本,同时满足各种类型的应用程序的资源需求。所提出的算法将考虑以前被其他解决方案忽略的因素,包括1)获取资源的定价模型,2)应用程序的容错性,以及3)运行应用程序的QoS要求,如Web服务的延迟和吞吐量以及分析和预处理作业的截止日期。建议的解决方案将通过开发一个基于现有容器编排平台的原型平台进行评估。
2018-07-10 cs.DC
Hook-in Privacy Techniques for gRPC-based Microservice Communication
针对 gRPC 缺乏高级隐私机制的问题,本文利用 gRPC interceptor 构建可配置、可扩展的原生隐私拦截方案,支持数据最小化与目的限制,并通过外卖场景和初步评估验证其可行性。
2024-04-08 cs.CR cs.CY cs.DC
SealOS+: A Sealos-based Approach for Adaptive Resource Optimization Under Dynamic Workloads for Securities Trading System
本文提出SealOS+,基于Sealos融合深度强化学习调度、三级缓存和LSTM负载预测,有效解决证券交易系统微服务架构下的资源调度低效与高延迟问题,显著提升系统性能与可靠性。
2025-05-29 cs.DC
Intelligent resource prediction for SAP HANA continuous integration build workloads
SAP SE(SAP公司);Technical University of Berlin(柏林工业大学);SAP Labs Korea(SAP韩国研究院)
本文通过分析30万次历史构建执行数据,提出基于LightGBM-XGBoost的量化回归集成模型,实现SAP HANA持续集成构建工作负载的智能资源预测,减少内存浪费并提升集群利用率。
2026-08-11 cs.DC
Integration of Neuromorphic AI in Event-Driven Distributed Digitized Systems: Concepts and Research Directions
网络物理系统和工业物联网的复杂性和数据生成率不断提高,这要求在互联网资源受限的边缘相应增加人工智能功能。与此同时,数字计算和深度学习的资源需求正以不可持续的方式呈指数级增长。弥合这一差距的一种可能的方法是采用资源高效的大脑启发的“神经形态”处理和传感设备,其使用事件驱动的、异步的、动态的神经突触元件,具有用于分布式处理和机器学习的共位存储器。然而,由于神经形态系统是从根本上不同于传统的冯诺依曼计算机和时钟驱动的传感器系统,几个挑战提出了大规模采用和集成的神经形态设备到现有的分布式数字计算基础设施。在这里,我们描述了当前的类脑计算的景观,重点是集成带来的挑战的特点。基于这种分析,我们提出了一个基于微服务的神经形态系统集成框架,包括一个神经形态系统代理,它提供了系统的分布式系统中所需的虚拟化和通信功能,结合声明式编程方法提供工程过程抽象。我们还提出了概念,可以作为实现这个框架的基础,并确定进一步的研究方向,使大规模的系统集成的neuromorphic设备。
2022-10-20 cs.DC cs.ET cs.NE