EdgeMatrix: A Resource-Redefined Scheduling Framework for SLA-Guaranteed Multi-Tier Edge-Cloud Computing Systems
提出多层边缘云计算框架EdgeMatrix,通过NMAC算法重定义物理资源并设计双时间尺度多任务机制解决服务编排与请求分发问题,在保障SLA优先级的同时使系统吞吐量提升36.7%。
2023-08-01 cs.DC
Uptime-Optimized Cloud Architecture as a Brokered Service
企业工作负载通常需要一个可扩展的服务水平协议(SLA),如果出现延误,则会受到合同惩罚。通常,策略是引入临时HA(高可用性)机制作为响应。我们调查过的已实现解决方案并没有将其可用性模型数学映射到所需的SLA和任何预期的惩罚性支出。在我们观察到的大多数客户案例中,这要么导致了一个过度设计的解决方案,其冗余超过了所需的冗余,要么导致了一个不适当的解决方案,可能会在合同中规定的系统SLA上滑动。在本文中,我们提出了一个由模型支持的框架,以自动确定具有最小TCO(总拥有成本)的HA启用解决方案,对于给定的SLA和滑点惩罚。我们试图确定,我们的工作最好是作为一个代理服务来实现,该服务推荐一个优化运行时间的云架构。
2022-05-11 cs.DC
An Approach for the Automation of IaaS Cloud Upgrade
基础设施即服务(IaaS)云提供商通过服务水平协议(SLA)向每个租户承诺,该服务水平协议指示承诺条款,例如IaaS云服务的可用性水平。提供此IaaS云服务的不同资源可能需要在其生命周期中多次升级;这些升级可能会影响IaaS层提供的服务。这可能会违反对租户的SLA,并导致惩罚,因为它们会影响依赖于IaaS的租户服务。因此,正确处理SLA方面的升级非常重要。IaaS云系统的升级继承了集群系统的所有挑战,并面临其他特定于云的挑战,例如弹性带来的大小和动态性。在本文中,我们提出了一种新的方法,在SLA约束(如可用性和弹性)下自动升级IaaS云系统。在这种方法中,识别、调度适合每个升级请求的升级方法和操作,并基于基础设施组件的供应商描述、租户SLA和系统状态以迭代方式自动应用。所提出的方法允许在正在进行的升级过程中提出新的升级请求,这使得它适合于持续交付。此外,它还通过本地化的重试和撤消操作自动处理升级操作的失败。
2021-03-23 cs.DC
Service Level Agreements and Security SLA: A Comprehensive Survey
University of Milan(米兰大学);University of Pavia(帕维亚大学);University of Alberta(阿尔伯塔大学);Systems Research Institute, Polish Academy of Sciences(波兰科学院系统研究所);Istinye University(伊斯提耶大学)
本文综述了SLA管理的最新发展,重点探讨了SecSLA的安全性和隐私保护,提出新的分类标准,填补了现有综述与最新文献之间的差距。
2024-01-31 cs.CR cs.DC
Analysis of SLA Compliance in the Cloud -- An Automated, Model-based Approach
服务水平协议(SLA)通常用于指定云服务提供商和客户之间的质量属性。违反SLA可能导致高额处罚。为了让服务部署之前的SLA合规性分析,我们在本文中描述了一种方法,SLA感知部署的云服务,并说明其工作流程通过案例研究。该方法基于形式化模型,结合静态分析工具和生成的运行时监视器。因此,它非常适合将软件开发与信息技术运营(DevOps)相结合的方法。
2019-08-27 cs.DC cs.SE
Intelligent Resource Allocation Technique For Desktop-as-a-Service in Cloud Environment
桌面即服务云计算的特点是用户可以访问他们的桌面,并可以在远程服务器上的虚拟桌面中执行应用程序。资源管理和资源利用在桌面即服务(云计算)领域中最为重要;然而,以最有效的方式处理大量客户端构成了重要的挑战。特别是决定在一台服务器上处理多少客户端,以及每次在哪里执行用户应用程序非常重要。这是因为我们必须确保最大的资源利用率以及用户数据机密性、客户满意度、可扩展性、最低服务级别协议(SLA)违规等。将太多用户分配到一台服务器会导致客户不满,而分配太少则会导致更高的投资成本。因此,我们也考虑到这两种情况。我们研究不同的方面,以优化资源使用和客户满意度。在本文中,我们提出了智能资源分配(IRA)技术,确保上述参数,如最小的SLA违规。为此,根据SLA因素为用户请求分配优先级,以保持其机密性。本文的研究结果表明,通过将IRA技术应用于现有的超订机制,将提高系统的性能,显着减少SLA违规。
2014-04-29 cs.DC
Performance Analysis of QoS-Differentiated Pricing in Cloud Computing: An Analytical Approach
IaaS服务设计的一个基本目标是实现用户友好和具有成本效益的服务访问,同时实现高资源效率以实现收入最大化。QoS差异化是实现这一设计目标的一个重要透镜。在本文中,我们提出了第一个分析QoS差异化的资源管理和定价架构的云计算上下文中,在这里,云服务提供商(CSP)提供了一个组合的SLA。为了最大限度地提高CSP的收入,我们解决两个技术问题:(1)如何设置SLA价格,以指导用户的SLA最适合他们的需求,和(2)确定多少服务器应该分配给每个SLA,哪些用户和他们的工作有多少被接纳为服务。我们提出了最佳方案,共同确定SLA为基础的价格和执行容量规划在多项式时间。我们的定价模式在客户端保持了高可用性。与标准的基于使用的定价方案相比,数值结果表明,该计划可以提高收入的五倍增加。
2018-03-24 cs.DC
The Gridbus Toolkit for Service Oriented Grid and Utility Computing: An Overview and Status Report
网格旨在利用自治分布式实体合作产生的协同效应。网格合作产生的协同效应包括共享、交换、选择和聚合地理上分布的资源,如计算机、数据库、软件和科学仪器,以解决科学、工程和商业中的大规模问题。为了使这种合作可持续,参与者需要有经济激励。因此,“激励”机制应被视为网格体系结构的关键设计参数之一。在这篇文章中,我们提出了一个开源的网格工具包,称为Gridbus,其体系结构是从根本上驱动的网格经济的需求的概述和状态。网格总线技术为计算网格和数据网格提供服务,为新兴的电子科学和电子商务应用提供动力。
2004-04-13 cs.DC
An SLA-based Advisor for Placement of HPC Jobs on Hybrid Clouds
一些科学和工业应用需要高性能计算(HPC)资源来处理和/或模拟复杂的模型。不久前,公司、研究机构和大学还习惯于购买和维护本地计算机集群;但最近,云计算已成为HPC应用程序子集的替代方案。这给最终用户带来了挑战,他们必须决定在哪里运行他们的作业:在本地集群上还是突发到远程云服务提供商。虽然目前对HPC云的研究主要集中在比较内部部署集群与云资源的性能,但我们在现有工作的基础上,引入了一项咨询服务,以帮助用户在考虑混合云的资源成本、性能和可用性的权衡后做出这一决定。我们使用基于全波形反演的地震处理应用程序的真实测试台评估了我们的服务;全波形反演是石油和天然气行业和地震预测中地震学家使用的技术。我们还讨论了如何将Advisor用于其他应用程序,并强调了构建此服务以降低成本和周转时间的主要经验教训。
2015-07-20 cs.DC
SLA-Oriented Resource Provisioning for Cloud Computing: Challenges, Architecture, and Solutions
云计算系统承诺为全球用户提供面向订阅的企业级计算服务。随着向大量用户提供服务的需求增加,他们需要为用户提供差异化服务,并满足他们的质量期望。数据中心中现有的资源管理系统尚未支持面向服务水平协议(SLA)的资源分配,并且因此需要增强以实现云计算和效用计算。此外,还没有完成将客户驱动的服务管理、计算风险管理和自主资源管理共同合并到基于市场的资源管理系统中以瞄准云计算的快速变化的企业需求的工作。本文介绍了面向SLA的资源管理的愿景、挑战和架构元素。建议的架构支持基于市场的配置策略和虚拟化技术的集成,以灵活地将资源分配给应用程序。从我们的工作原型系统的性能结果表明,在云中基于SLA的资源提供的可行性和有效性。
2012-01-22 cs.DC cs.NI
InterCloud: Utility-Oriented Federation of Cloud Computing Environments for Scaling of Application Services
云计算提供商已经在互联网上的不同地理位置设置了多个数据中心,以便最佳地满足其全球客户的需求。然而,现有系统不支持用于在不同的基于云的数据中心之间动态地协调负载分布以便确定用于托管应用服务的最佳位置以实现合理的QoS水平的机制和策略。此外,云计算提供商不能预测消费其服务的用户的地理分布,因此负载协调必须自动发生,并且服务的分布必须响应于负载的变化而变化。为了解决这个问题,我们提倡创建联邦云计算环境(InterCloud),以促进应用服务的及时、机会和可扩展的供应,在可变的工作负载、资源和网络条件下始终如一地实现QoS目标。总体目标是创建一个支持动态扩展或收缩功能(VM、服务、存储和数据库)的计算环境,以处理服务需求的突然变化。本文介绍了面向实用程序的云计算环境联邦的InterCloud的愿景、挑战和架构元素。建议的InterCloud环境支持跨多个供应商云的应用程序扩展。我们已经验证了我们的方法进行了一系列严格的性能评估研究,使用CloudSim工具包。结果表明,联邦云计算模型具有巨大的潜力,因为它提供了显着的性能增益方面的响应时间和成本节约动态工作负载的情况下。
2010-03-20 cs.DC
The TAAROA Project Specification
自从引入以来,网格计算范式在科学和工业领域都得到了广泛的采用。网格计算范例的主要优点是能够以透明的方式共享和协调属于不同机构域的多个异构和大规模分布式资源。其局限性之一是缺乏执行服务的设施。事实上,网格计算在传统上一直被用于运行计算密集型或数据密集型应用程序。服务与这类应用程序的不同之处在于,它通常等待来自客户端的请求并回复有用的信息;此外,服务通常受到一些预定义的约束,称为服务级别协议(SLA),包括时间和性能限制。在本文中,我们提出了TAAROA中间件,软件系统,试图扩展传统的目标的网格计算范例,包括服务的概念。它试图通过使用虚拟化技术来实现其目标。通过抽象计算机的硬件和软件资源,虚拟化为TAAROA带来了两个重要的好处:(1)服务运行时环境的封装,以及(2)通过迁移工具,将服务从运行它的计算机移动到另一台计算机的可能性,这有望降低违反某些SLA约束的风险。在当前版本的TAAROA中间件中,没有明确的机制来实现相关SLA定义的服务级别;这意味着实际上TAAROA只能提供尽力而为的服务。
2018-12-23 cs.DC
MORPHOSYS: Efficient Colocation of QoS-Constrained Workloads in the Cloud
在IaaS云等托管环境中,通常通过使用服务水平协议(SLA)来保证理想的应用程序性能,该协议指定必须分配用于正常操作的最小部分资源容量。在单个主机上任意托管具有不同SLA的应用程序可能会导致主机资源的低效利用。在本文中,我们提出,周期性的资源分配和消费模型被用于更细粒度的SLA的表达。我们提出的SLA模型具有显著的特点,它具有灵活性,使IaaS提供商能够安全地将SLA从一种形式转换为另一种形式,以实现更高效的托管。为了实现这一目标,我们提出了MorphoSys:一个服务框架,允许操纵SLA,以实现高效的工作负载托管。我们提出的结果,从广泛的跟踪驱动的模拟托管视频点播服务器在云环境中。结果表明,使用MorphoSys可以显著减少资源浪费(高达60%)。
2019-12-02 cs.DC
SLA-Aware Multiple Migration Planning and Scheduling in SDN-NFV-enabled Clouds
在支持软件定义网络(SDN)的云数据中心中,实时迁移是用于云服务中的虚拟机(VM)和服务功能链(SFC)中的虚拟网络功能(VNF)的重新分配的关键方法。使用实时迁移方法,云提供商可以在不中断用户服务的情况下解决其动态资源管理和容错目标。然而,在云数据中心中,以任意顺序执行多个实时迁移可能导致服务降级。因此,有效的迁移规划对于减少实时迁移开销的影响至关重要。此外,为了防止服务质量(QoS)降级和违反服务水平协议(SLA),有必要为具有各种紧急性的不同实时迁移请求设置优先级。在本文中,我们提出了SLARQs,一组算法,组成的最后期限感知的多迁移分组算法和在线迁移调度,以确定VM/VNF迁移的顺序。实验结果表明,该方法在合理的算法运行时间下,可以有效地减少截止期错过次数,并在总迁移时间、平均执行时间、停机时间和传输数据量等方面与逐个调度和两种最先进的算法相比,具有良好的迁移性能.我们还评估和分析多迁移规划和调度的QoS和能源消耗的影响。
2021-01-24 cs.DC cs.NI
SLA Violation Prediction In Cloud Computing: A Machine Learning Perspective
Université de Montréal(蒙特利尔大学)
服务水平协议(SLA)是云系统的重要组成部分,以确保为客户提供最大的服务可用性。如果违反SLA,供应商必须支付罚款。在本文中,我们探讨了两个机器学习模型:朴素贝叶斯和随机森林分类器来预测SLA违规。由于SLA违规在现实世界中是罕见的事件(约0.2%),因此分类任务变得更具挑战性。为了克服这些挑战,我们使用了几种重采样方法。我们发现,随机森林与SMOTE-ENN重采样有最好的性能与其他方法的准确率为99.88%,F_1得分为0.9980。
2016-11-30 cs.DC cs.LG
EdgeMatrix: A Resources Redefined Edge-Cloud System for Prioritized Services
边缘云系统有潜力结合异构设备的优势,真正实现无处不在的计算。然而,复杂的网络环境给服务提供商提供服务等级协议(SLA)优先级的保证带来了多资源异构、资源竞争和网络系统动态性等内在挑战。在本文中,我们设计了一个框架的边缘云系统,即EdgeMatrix,以最大限度地提高吞吐量,同时保证各种SLA优先级。首先,EdgeMatrix引入了网络化多智能体Actor-Critic(NMAC)算法,将物理资源重新定义为逻辑上隔离的资源组合,即,资源细胞。然后,我们使用聚类算法将具有相似特征的细胞分组为各种集合,即,资源通道,对于不同的通道可以提供不同的SLA保证。此外,设计了一种多任务机制来解决边缘云集群间的联合服务编排和请求分发(JSORD)问题,较传统方法大大减少了运行时间。为了确保稳定性,EdgeMatrix采用了两个时间尺度的框架,即,在大的时间尺度上协调资源和服务,并且在小的时间尺度上分派请求。基于真实痕迹的实验结果验证了EdgeMatrix在复杂网络环境下能够提高系统吞吐量,减少SLA违规,并比传统方法显著降低运行时间。
2022-03-20 cs.DC cs.NI
LIBRA: An Economical Hybrid Approach for Cloud Applications with Strict SLAs
功能即服务(FaaS)最近出现,与云结构即服务(IaaS)相比,它可以降低运行云应用程序的部署成本。FaaS遵循无服务器的“即用即付”计算模型;它的每单位执行时间成本较高,但通常应用程序功能的配置时间较短(启动延迟)。IaaS需要配置虚拟机,而虚拟机通常会遭受更长的冷启动延迟,从而导致更高的排队延迟和更高的请求丢弃率。我们提出了LIBRA,这是一种平衡(混合)方法,它利用基于VM的资源和无服务器资源来有效地管理应用程序的云资源。LIBRA密切监控应用程序需求,并提供适当的VM和无服务器资源,以最大限度地降低运行成本并满足服务级别协议。与最新技术不同,LIBRA不仅隐藏了VM冷启动延迟,从而通过利用无服务器减少了响应时间,而且还将低速率突发部分的需求定向到无服务器,这样做比启动新VM的成本更低。我们在模拟环境中以及AWS商业云上对LIBRA进行了真实跟踪评估。我们的研究结果表明,LIBRA优于其他资源配置政策,包括最近的混合方法- LIBRA实现了85%以上的SLA违规减少和高达53%的成本节约。
2021-04-12 cs.DC
IoT Monitoring with Blockchain: Generating Smart Contracts from Service Level Agreements
针对物联网服务监控中SLA违规证据易被篡改的信任问题,本研究开发了一个Java库,能根据给定SLA自动生成智能合约,结合区块链技术实现无可辩驳的违规监控,并在远程患者监控模拟场景中达到100%的捕获成功率。
2024-08-23 cs.CR cs.DC cs.ET
GreenNFV: Energy-Efficient Network Function Virtualization with Service Level Agreement Constraints
本文提出GreenNFV框架,利用深度强化学习优化NFV资源参数,在满足SLA约束下实现高吞吐量和低能耗,分别提升吞吐量至4.4倍和3倍,能耗降低50%。
2023-10-17 cs.DC cs.NI
From SLA to vendor-neutral metrics: An intelligent knowledge-based approach for multi-cloud SLA-based broker
Madrid Open University(马德里开放大学);Jordan University of Science and Technology(约旦科技大学)
本文提出基于智能知识系统的方法,自动将多云环境中的高层SLA翻译为供应商中立指标,解决提供商锁定问题,并通过IaaS和PaaS用例验证其有效性。
2025-10-24 cs.DC
Swarm Network-as-a-Service (SNaaS)
King Abdullah University of Science and Technology (KAUST)(阿卜杜拉国王科技大学)
本文提出SNaaS框架,利用无人机提供按需连接,通过SLA保证服务质量,设计了服务导向架构和三种编排策略,实验表明其在负载和蜂群规模增加时表现更优。
2026-05-13 cs.DC cs.NI
EdgeMORE: Improving Resource Allocation with Multiple Options from Tenants
在边缘计算(EC)的范式下,网络运营商(NO)在网络边缘部署计算资源,并让第三方服务提供商(SP)作为租户在其上运行。除了由于计算节点的邻近而对SP和最终用户具有明显的优势之外,NO旨在分配边缘资源以增加其自身的效用,包括节省带宽,降低运营成本,为其用户提供QoE等。然而,尽管竞争边缘资源的第三方服务的数量预计将急剧增长,但由于物理限制,部署的资源无法相应增加。因此,尽管电子商务有其局限性,但仍需要明智的战略来充分挖掘其潜力。为此,我们建议利用服务适应性,这是迄今为止主要被忽视的一个维度:每个服务都可以适应NO分配给它的资源量,平衡在边缘执行的服务计算部分并依赖于远程服务器,例如,云计算,其余的。我们提出了EdgeMORE,一个资源分配策略,SP表示他们的能力,以适应不同的资源约束,通过声明不同的配置下,他们能够运行,指定所需的资源和提供给NO的效用。NO然后选择每个SP最方便的选项,以最大限度地提高总效用。我们将EdgeMORE形式化为一个线性规划。我们通过模拟表明,EdgeMORE大大提高了EC实用程序的标准,其中没有多个选项运行服务是允许的。
2019-11-06 cs.DC
Tetris: An SLA-aware Application Placement Strategy in the Edge-Cloud Continuum
Institute of Computing, Federal University of Bahia(巴伊亚联邦大学计算学院)
提出感知 SLA 的应用放置策略 Tetris,利用启发式算法在边缘与云间分发计算服务,相比基线减少约 76% 的 SLA 违规,有效提升用户 QoS。
2025-10-31 cs.DC cs.NI
SC-Share: Performance Driven Resource Sharing Markets for the Small Cloud
小规模云(SC)在高峰需求期间经常遭受资源不足,导致无法满足服务水平协议(SLA),从而导致客户流失。解决这一问题的一种方法是让一组自主供应链以成本诱导的合作方式在它们之间共享资源,从而增加它们的个体能力(在需要时),而不必大量投资于更多的资源。(在此上下文中)一个中心问题是如何正确地共享资源(价格),以实现有利可图的服务,同时保持客户SLA。为了解决这个问题,在本文中,我们提出了SC共享框架,它利用两个相互作用的模型:(一)一个随机的性能模型,估计在给定的SLA要求下实现的性能特征,和(ii)一个基于市场的博弈论模型,(如经验所示)收敛到有效的资源共享决策在市场均衡。我们的研究结果包括广泛的评价,说明了所提出的框架的实用性。
2017-08-07 cs.DC
SLA-Driven Load Scheduling in Multi-Tier Cloud Computing: Financial Impact Considerations
云服务提供商努力为客户端作业提供高服务质量(QoS)。这些工作在计算和服务水平协议(SLA)义务方面各不相同,在容忍延迟和违反SLA方面也各不相同。作业调度通过分配适当的资源来执行客户端作业,在服务云需求中起着关键作用。对这些作业的响应由云提供商在多层云计算环境上进行优化。通常,多层环境的复杂性和动态性会给满足此类需求带来困难,因为层相互依赖,这反过来又会使层转换的瓶颈在后续层中升级。然而,现有的方法的优化过程中产生单层驱动的时间表,不采用的SLA违反在执行客户端作业的差异影响。此外,在层级别上优化的调度对在后续层中制定的调度的性能的影响往往被忽略,导致在多层级别上测量时的性能低于最佳性能。因此,未能履行工作义务会招致SLA惩罚,惩罚的形式通常是经济补偿,或者是失去对所提供服务不满意的客户的未来利益和动机。在本文中,提出了一种调度和分配的方法来制定时间表,占SLA违规处罚的差异影响,从而产生的时间表,是最佳的财务业绩。队列虚拟化方案的目的是促进制定最佳的时间表在云环境的层和多层级别。由于调度问题是NP难的,生物启发的方法,提出了以减轻寻找最优调度的复杂性。
2021-11-05 cs.DC cs.NI cs.PF
Analytically-Driven Resource Management for Cloud-Native Microservices
Cornell University(康奈尔大学);Microsoft Research(微软研究院);MIT(麻省理工学院)
提出轻量级云原生微服务资源管理系统Ursa,通过分析模型分解SLA并映射资源分配,相比ML方法大幅缩短数据收集时间、提升控制平面速度,并降低SLA违规率与CPU分配。
2024-01-05 cs.AI cs.DC
A Graph Neural Networks based Framework for Topology-Aware Proactive SLA Management in a Latency Critical NFV Application Use-case
Walton Institute for Information and Communication Systems Science, South East Technological University(东南理工大学沃尔顿信息与通信系统科学研究所);South East Technological University(东南理工大学)
5G和6 G的推出的最新进展已经导致了经由灵活和软件化的通信网络的网络功能虚拟化(NFV)使能范例来交付的一系列新的延迟关键应用的出现。电信、智能电网、虚拟现实(VR)、工业4.0、自动驾驶汽车等不断发展的垂直行业受到低延迟和高可靠性愿景的推动,服务提供商和最终用户在有效弥合服务质量(QoS)约束方面存在很大差距。在这项工作中,我们希望通过提出一个积极的SLA管理框架,利用图神经网络(GNN)和深度强化学习(DRL)来平衡效率和可靠性之间的权衡,来解决延迟关键型服务的过度配置问题。总结我们的主要贡献:1)我们组成了一个基于图的时空多变量时间序列预测模型,在多输出场景中具有多个时间步预测,在用例上比现有的基线最新模型提高了74.62%的性能;以及2)我们利用用例的实际SLA定义来实现动态的SLA感知监督,以使用DRL扩展策略管理。
2022-11-10 cs.DC cs.LG cs.NI
ModiPick: SLA-aware Accuracy Optimization For Mobile Deep Inference
移动应用越来越多地利用复杂的深度学习模型来提供功能,例如,图像识别,其需要高预测精度。这样的模型可能是计算和内存密集型的,即使是对于较新的移动设备,因此通常托管在功能强大的远程服务器上。然而,目前基于云的推理服务采用静态模型选择方法,这可能是次优的满足应用SLA(服务水平协议),因为它们不能考虑固有的动态移动环境。我们介绍了一种基于云的技术,称为ModiPick,动态选择最合适的模型,为每个推理请求,并适应其选择,以匹配不同的SLA和执行时间预算所造成的可变的移动环境。ModiPick的核心思想是在运行时使用托管深度学习模型池进行推理速度和准确性的权衡。因此,ModiPick屏蔽了不可预测的推理时间预算,因此满足SLA目标,同时提高了移动网络约束内的准确性。我们通过基于原型系统的实验和模拟来评估ModiPick。我们表明,ModiPick实现了与贪婪方法相当的推理准确性,同时将SLA依从性提高了88.5%。
2019-09-04 cs.DC cs.PF
Power Efficient Resource Allocation for Clouds Using Ant Colony Framework
云计算是快速发展的技术之一。它为托管在其上的应用程序提供所需的可扩展资源。随着基于云的服务变得更加动态,资源配置变得更具挑战性。本文考虑了QoS约束的资源分配问题,在给定的SLA性能要求下,客户愿意将其应用程序托管在供应商的云上,如吞吐量和响应时间。由于托管应用程序的数据中心消耗大量能源并导致巨大的运营成本,因此降低能耗和运营成本的解决方案越来越重要。在这项工作中,我们提出了一个能源效率的机制,分配云资源的应用程序,而不违反给定的服务水平协议(SLA)使用蚁群框架。
2011-02-13 cs.DC
SLA Management in Reconfigurable Multi-Agent RAG: A Systems Approach to Question Answering
Yext, Inc.(Yext公司)
提出一种面向真实问答应用的多智能体RAG系统方法,通过将答案质量、成本和延迟等非功能性需求映射为系统级参数并动态重新编排,有效平衡性能与资源利用率,满足多样SLA要求。
2025-04-28 cs.AI cs.CL cs.DC
A Survey on Bilateral Multi-Round Cloud-SLA Negotiation Strategies
本文综述了交易云资源的多轮双边SLA协商策略,分析了现有研究的趋势、差距与形式化方法,并提出了促进工业界实施该策略的建议。
2025-07-09 cs.DC cs.GT
QoS-SLA-Aware Adaptive Genetic Algorithm for Multi-Request Offloading in Integrated Edge-Cloud Computing in Internet of Vehicles
United Arab Emirates University(阿联酋大学)
车载自组织网络车联网是一项新兴技术,可实现智能城市应用的开发,重点是改善交通安全、交通效率和整体驾驶体验。这些应用程序有严格的要求,详见服务水平协议。由于车辆具有有限的计算和存储能力,因此应用请求被卸载到集成的边缘云计算系统上。现有的卸载解决方案集中于在执行时间方面优化应用的服务质量(QoS),并且遵守单个SLA约束。他们没有考虑重叠多请求处理的影响,也没有考虑车辆速度变化的影响。提出了一种新的人工智能QoS-SLA-aware自适应遗传算法(QoS-SLA-AGA)来优化异构边缘云计算系统中多请求卸载的应用程序执行时间,该算法考虑了处理多请求重叠和动态车辆速度的影响。建议的遗传算法集成了一个自适应的惩罚函数来同化SLA的延迟,处理时间,截止日期,CPU和内存的要求的约束。数值实验和分析比较我们的QoS-SLA-AGA随机卸载,和基线基于遗传的方法。结果表明,QoS-SLA-AGA执行请求的速度平均比随机卸载方法快1.22倍,SLA违规减少59.9%。相比之下,基于基因的基线方法将请求的性能提高了1.14倍,SLA违规增加了19.8%。
2022-03-01 cs.AI cs.DC cs.NA
Dynamic Resource Allocation in the Cloud with Near-Optimal Efficiency
云计算激发了人们对新消费模型下的资源分配问题的新兴趣。一个共同的目标是在具有不同需求模式以及不同服务质量要求的不同用户之间共享资源,例如CPU或I/O带宽。为了确保这些服务需求,云产品通常在提供商和用户之间提供服务水平协议(SLA)。SLA指定用户有权使用的资源量。在许多云环境中,提供商希望在高利用率下操作资源,同时尊重各个SLA。在这两个目标之间通常存在折衷;例如,可以通过将资源从空闲用户转移到“清道夫”工作负载来提高利用率,但存在前者随后再次变为活动的风险。我们研究这个基本的权衡,制定一个资源分配模型,捕捉云计算系统的基本属性,包括SLA,高度有限的反馈系统的状态,可变和不可预测的输入序列。我们的主要结果是一个简单而实用的算法,实现上述两个目标的性能接近最优。首先,即使与全知的离线动态优化相比,我们也保证了资源的近乎最佳利用。其次,我们同时满足所有单个SLA,误差很小。主要的算法工具是一个乘性的权重更新算法,和一个原始-对偶参数,以获得其保证。我们还提供了真实数据的数值验证,以证明我们的算法在实际应用中的性能。
2021-01-26 cs.DC cs.DS cs.GT
PixelsDB: Serverless and NL-Aided Data Analytics with Flexible Service Levels and Prices
Renmin University of China(中国人民大学);EPFL(洛桑联邦理工学院)
本文提出开源数据分析系统PixelsDB,通过微调语言模型驱动的自然语言界面生成SQL,结合无服务器查询引擎与灵活SLA定价机制,帮助非专家用户高效探索数据并提升系统可用性。
2024-12-23 cs.AI cs.DB cs.DC
Utility-based Resource Allocation and Pricing for Serverless Computing
无服务器计算平台目前依赖于静态的基本定价方案,不反映客户反馈。从总效用的角度来看,这导致了显著的低效率。作为增长最快的云服务之一,无服务器计算提供了一个机会,通过将基于市场的定价和资源分配策略纳入其中,更好地为用户和提供商服务。借助效用函数来模拟客户的延迟敏感性,我们提出了一种新的调度器来分配无服务器计算的资源。由此产生的资源分配方案是最优的,因为它最大化了整个系统中所有用户的总效用,从而最大化了社会福利。我们的方法产生了一个自然的动态定价方案,通过解决其对偶形式的优化问题。我们进一步开发的反馈机制,允许云提供商收敛到最佳的资源分配,即使用户的公用事业是私有的,未知的服务提供商。模拟表明,我们的方法可以跟踪市场需求,并实现显着更高的社会福利(或,相当于,为客户节省成本)相比,现有的计划。
2022-01-24 cs.DC cs.GT
ERCache: An Efficient and Reliable Caching Framework for Large-Scale User Representations in Meta's Ads System
Meta Platforms, Inc.(元平台公司)
针对大规模广告推荐中用户表征推理算力消耗大、SLA要求高的问题,提出分类缓存框架ERCache,通过定制化缓存策略平衡三者关系,已在Meta落地并显著节省算力。
2024-10-09 cs.AI cs.DC cs.IR
A Link Generator for Increasing the Utility of OpenAPI-to-GraphQL Translations
标准化接口是当今分布式系统的连接纽带,便于访问云中的数据服务。REST API在过去几年中一直很流行,尽管存在一些问题,如资源的过度和不足。GraphQL的采用速度很快,通过使用静态类型的查询来解决这些问题。然而,按照新的模式重新开发服务的成本很高。因此,已经提出了几种从REST到GraphQL的连续迁移方法,其中许多方法利用了OpenAPI服务描述。在这篇文章中,我们提出了我们的经验评估结果的APIs.guru目录,并确定几个模式翻译的挑战。其中包括GraphQL中表达能力较低的模式类型,以及OpenAPI中缺少有关相关资源的Meta信息。为此,我们开发了开源的链接生成器,它可以分析OpenAPI文档并自动添加链接以提高翻译实用性。这从根本上使APIs.guru目录中约34%的API受益。我们的发现和工具支持有助于正在进行的关于将REST API迁移到GraphQL的讨论,并为开发人员提供对常见陷阱的宝贵见解,以减少API转换期间的摩擦。
2020-05-18 cs.DB cs.DC cs.SE
BCEdge: SLO-Aware DNN Inference Services with Adaptive Batching on Edge Platforms
Harbin Institute of Technology(哈尔滨工业大学)
针对边缘平台多DNN模型推理的高吞吐低延迟及SLO保障需求,提出基于最大熵DRL的BCEdge调度框架,通过协同优化批大小与并发模型数提升效用,性能优于现有方案。
2023-05-01 cs.DC cs.LG cs.OS