Patience-aware Scheduling for Cloud Services: Freeing Users from the Chains of Boredom
云计算中的服务请求的调度传统上集中于减少服务前等待,通常称为等待时间。然而,在某些条件下,例如峰值负载,并不总是能够向所有用户提供合理的响应时间。这项工作探讨了这样一个事实,即不同的用户可能有自己的容忍度或耐心的响应延迟。我们引入调度策略,产生更好的分配计划的优先级从用户谁希望收到的结果更早,并推迟那些谁是更宽容的响应延迟的服务工作的请求。我们的分析结果表明,用户的耐心的行为起着关键作用,在评估调度技术,我们的计算评估表明,在峰值负载下,新的算法通常提供更好的用户体验比传统的FIFO策略。
2013-08-19 cs.DC
Function-as-a-Service Benchmarking Framework
云服务提供商以“即服务”的形式交付其产品,这些产品通常按抽象级别进行分类。这种方法隐藏了实现细节,只向用户显示功能。然而,问题是很难衡量云服务的性能,因为它们的行为就像黑匣子。特别是对于功能即服务,这更加困难,因为它通过设计完全隐藏了用户的服务器和基础设施管理。Cloud Service Prodivers通常会限制Cloud Functions的最大代码大小、内存和运行时间。然而,用户需要澄清是否需要更多的资源来提供高质量的服务。在这方面,我们提出了一个新的功能即服务基准测试工具,它允许用户评估云功能的性能的架构设计。此外,该框架的能力进行了测试,在一个隔离的平台上与特定的工作负载。结果表明,用户能够深入了解功能即服务环境。这反过来又允许用户识别可能减慢或加快云功能性能的因素。
2019-05-28 cs.DC cs.PF
PDMA: Probabilistic Service Migration Approach for Delay-aware and Mobility-aware Mobile Edge Computing
作为5G时代的关键技术,移动边缘计算(MEC)近年来发展迅速。MEC旨在减少移动用户的业务延迟,同时减轻核心网的处理压力。MEC可以看作是云计算在用户端的延伸,可以部署边缘服务器并将计算资源更接近移动用户,提供更高效的交互。然而,由于用户的动态移动性,用户与边缘服务器之间的距离将动态地改变,这可能导致服务质量(QoS)的波动。因此,当移动用户在MEC环境中移动时,需要某些方法来调度部署在边缘服务器上的服务以确保用户体验。在本文中,我们在MEC场景中的服务调度模型,并提出了一种基于简洁的概率方法的延迟感知和移动性感知的服务管理方法。该方法具有较低的计算复杂性,能有效降低业务延迟和迁移成本。此外,我们利用多个现实数据集进行实验,并使用iFogSim来评估算法的性能。实验结果表明,该方法可以优化服务延迟性能,在高峰时段与基线相比,服务延迟性能提高了8%~ 20%,迁移成本降低了75%以上.
2021-06-10 cs.DC
Edge User Allocation with Dynamic Quality of Service
在边缘计算中,边缘服务器被放置在终端用户附近。应用程序供应商可以将其服务部署在边缘服务器上,以减少其应用程序用户所经历的网络延迟。边缘用户分配(EUA)问题向服务提供商提出了挑战,其目标是最大化在边缘服务器上具有租用的计算资源的分配的应用用户的数量,同时确保其固定的服务质量(QoS),分配给应用程序用户的计算资源量。在本文中,我们向前迈出了一步,考虑应用程序用户的动态QoS水平,这概括了EUA问题,但进一步复杂化,把它变成一个动态QoS EUA问题。这为应用程序用户提供了灵活的体验质量(QoE)级别。我们提出了一个最佳的方法来找到一个解决方案,最大限度地提高应用程序用户的整体QoE。我们还提出了一个启发式的方法,快速找到次优的解决方案,大规模的动态QoS EUA问题的实例。在真实世界的数据集上进行实验,以证明我们的方法对基线方法和最先进的方法的有效性和效率。
2019-07-26 cs.DC
Cloud Infrastructure Service Management - A Review
新的计算时代称为云计算,允许用户随时随地通过Internet动态访问云服务。云由数据和资源组成;云服务包括基于用户需求通过互联网在互联网上交付软件、基础设施、应用程序和存储。简而言之,云计算是一种商业和经济模式,允许用户利用高端计算和存储,而在他们的终端上使用最少的基础设施。云有三种服务模式,即云软件即服务(SaaS)、云平台即服务(PaaS)和云计算结构即服务(IaaS)。本文深入讨论了云基础设施服务管理。
2012-05-30 cs.DC
Optimal Edge User Allocation in Edge Computing with Variable Sized Vector Bin Packing
在移动边缘计算中,边缘服务器在地理上分布在靠近最终用户的基站周围,以提供高度可访问和高效的计算能力和服务。在移动边缘计算环境中,服务提供商可以在租用的边缘服务器上部署其服务,以减少分配给那些边缘服务器的其最终用户所经历的端到端服务延迟。最佳部署必须最大化分配的最终用户数量,最小化租用的边缘服务器数量,同时确保最终用户所需的服务质量。在本文中,我们将边缘用户分配(EUA)问题建模为装箱问题,并介绍了一种基于词典目标规划技术的新型最佳方法来解决EUA问题。我们已经进行了三个系列的实验,以评估所提出的方法对两个有代表性的基线方法。实验结果表明,我们的方法显着优于其他两种方法。
2019-04-11 cs.DC
Same Same, but Different: A Descriptive Differentiation of Intra-cloud Iaas Services
云计算的用户有太多的选择,即使是在一个提供商提供的服务中。因此,许多用户仅基于描述来选择云服务。我们调查的程度,这样的策略是最佳的。在这项定量研究中,我们调查了2家主要IaaS提供商的服务。我们使用2个有代表性的应用程序来获得一周中7天和一天中不同时间的纵向观察结果,总计超过14,000次执行。我们提供的IaaS服务内提供的性能的显着变化的证据,要求经纪人使用自动化和自适应的决策过程与手段,将表达用户的约束。
2018-02-10 cs.DC
Performance Measurement of Cloud Computing Services
云计算如今已经作为新技术和新商业模式不断发展。从分布式技术的角度来看,云计算最像基于Web或Web服务的客户端-服务器服务,但它使用虚拟资源来执行。目前,云计算依赖于使用弹性虚拟机和使用网络进行数据交换。我们进行了一个实验设置,以衡量云计算客户收到的服务质量。通过创建在云计算基础设施中运行的HTTP服务完成的实验性设置。我们有兴趣了解增加用户数量对用户收到的平均质量的影响。用户接收的质量由两个参数组成的平均响应时间和请求超时的数量。本研究的实验结果表明,增加用户的数量增加了平均响应时间。同样,请求超时的数量随着用户数量的增加而增加。这意味着用户所接受的服务质量也在下降。我们发现用户数量对服务质量的影响不再是线性趋势。本文的研究结果可作为网络运营商在执行服务时的参考模型,其中一定数量的用户,以获得最优的服务质量。
2012-05-08 cs.DC cs.NI cs.PF
Simulation and Optimization of Content Delivery Networks considering User Profiles and Preferences of Internet Service Providers
内容分发网络(Content Delivery Network,CDN)是一个动态复杂的服务系统。它会给互联网服务提供商(ISP)的网络基础设施带来大量流量。通常情况下,CDN提供商和ISP都在努力寻找一种有效而适当的合作方式,以实现互利。这一挑战是推动最终用户的服务质量(QoS)的关键。我们的模型,模拟和优化的CDN的行为,以提供合作的解决方案,并提高QoS。为此,我们确定了合理的服务器位置,平衡了服务器数量,提高了用户对服务器的分配。这些方面影响运行时间效果,如服务器上的缓存、响应时间和特定链接上的网络负载。特别是,用户请求历史和配置文件被认为是提高整体性能。由于我们考虑多个目标,我们的目标是提供一套不同的帕累托最优解,使用基于仿真的优化。
2020-05-28 cs.DC cs.NI cs.SY
Software as a Service - Common Service Bus (SAAS-CSB)
软件即服务(SaaS)是一种云计算的形式,它将用户从硬件、软件安装和管理的关注中解放出来。它是一种新兴的商业模式,通过基于Web的技术将软件应用程序交付给用户。软件供应商有不同的需求,SaaS应用程序通常支持这些需求。由唯一客户在单个实例中使用的各种应用程序称为多租户。当用户将数据从多个应用程序发送到多个目的地,以及由于使用单个CSB而从多个应用程序发送到单个目的地时,会出现服务延迟。这个问题可以通过使用多个CSB概念来克服,因此多个CSB可以有效地将它们的数据同时发送到多个接收器。多个云由SaaS-CSB门户监控和管理。SaaS-CSB Portal的想法是为用户提供一个单一的玻璃窗格,以消费和管理来自任何云的任何服务。因此,SaaS-CSB应用程序允许公司节省IT成本和宝贵的时间。
2013-07-12 cs.DC cs.SE
A Framework for Allocating Server Time to Spot and On-demand Services in Cloud Computing
云计算通过在用户需要时方便他们访问计算能力来为用户提供价值。一种方法是在共享服务器上提供按需服务和现场服务。前者允许用户以固定价格按需访问服务器,用户占用服务器的时间不同。后者允许用户通过动态定价来竞标剩余的未占用时段;然而,如果没有适当的设计,这些时段可能会任意小,因为按需用户随机到达。这也是Amazon Elastic Cloud Compute目前采用的服务模式。在本文中,我们提供了第一个完整的框架,用于在按需服务和现货服务之间共享服务器的时间,同时优化现货实例的定价。它保证了按需用户可以快速获得服务,而现场用户可以稳定地使用服务器一个适当的时间,一旦接受,这是一个关键的功能,使按需和现场服务访问。模拟结果表明,通过用现货市场补充按需市场,云提供商可以将收入提高高达464.7%。该框架是根据在实际环境中满足的假设而设计的。这是一个新的工具,云运营商可以使用它来量化混合点和按需服务的优势,最终在自己的基础设施中运营这种服务模式。
2019-09-01 cs.DC cs.GT cs.PF
Market-Oriented Online Bi-Objective Service Scheduling for Pleasingly Parallel Jobs with Variable Resources in Cloud Environments
本文从提供作业执行服务的SaaS(Software-as-as-Service)供应商的角度,研究了云环境下具有可变资源的并行作业的面向市场的在线双目标服务调度问题.在云中调度SaaS服务的主要过程是:SaaS提供商从IaaS提供商购买云实例,以调度最终用户的作业并向用户收取相应的费用。这个问题有几个特殊的功能,如面向作业的最终用户,令人愉快的并行作业与软期限约束,在线设置,和可变数量的资源。为了最大限度地提高收入和用户满意度,我们设计了一个在线算法,SaaS提供商以最佳方式购买IaaS实例和调度令人愉快的并行作业。该算法可以在多项式运行时间内实现竞争目标。理论分析和基于真实世界的谷歌工作跟踪以及合成数据集的仿真验证了我们的算法的有效性和效率。
2021-02-17 cs.DC
Meeting QoS of Users in a Edge to Cloud Platform via Optimally Placing Services and Scheduling Tasks
本文研究了在三层边缘到云平台上,用户请求必须在一定期限内得到满足时的服务放置和任务调度问题。对时间敏感的应用程序(例如,增强现实、游戏、实时视频分析)具有必须满足的严格约束。在多个可能的计算中心的情况下,解决这些请求的“地点”和“时间”在满足其最后期限时变得至关重要。我们将满足用户的最后期限同时最小化边缘到云服务提供商的总成本的问题表述为线性规划(ILP)问题。我们展示了这个问题的NP-硬度,并提出了两个基于局部与全局尺度上的决策的算法。我们改变了用户数量、QoS约束以及远程云和小云(边缘云)之间的成本差异,并对每种情况运行多个Monte-Carlo运行。我们的仿真结果表明,所提出的算法在降低复杂度的同时,性能接近最优。
2019-08-13 cs.DC cs.NI
Investigating Decision Support Techniques for Automating Cloud Service Selection
云基础设施服务的指南针稳步前进,让用户陷入选择的痛苦之中。为了能够从大量的可能性中选择最佳的服务组合,用户必须考虑复杂的依赖关系和异构的标准集。因此,我们提出了一个博士论文的建议,调查智能决策支持系统选择基于云的基础设施服务(如存储,网络,CPU)。
2012-10-10 cs.DC
Location Privacy in Mobile Edge Clouds: A Chaff-based Approach
在本文中,我们考虑移动边缘云(MEC)中的用户位置隐私。MEC是部署在网络边缘的小型云,以提供接近移动用户的云服务,并且已经提出了许多解决方案,通过迁移服务以跟随其用户来最大化服务本地化。然而,用户和他的服务的协同定位意味着观察MEC之间的服务迁移的网络窃听者可以将用户定位到一个MEC覆盖区域,该MEC覆盖区域可以相当小(例如,毫微微小区)。我们考虑使用箔条服务来抵御这样的窃听者,重点是控制箔条的策略。假设窃听者进行最大似然(ML)检测,我们认为这两个启发式策略,模仿用户的移动性和优化策略,旨在最大限度地减少检测或跟踪精度。我们表明,一个单一的箔条控制的最佳策略或其在线变化可以驱动窃听者的跟踪精度为零时,用户的移动性是足够的随机。我们进一步提出了扩展的策略,利用随机化防御先进的窃听者知道的战略。我们的解决方案的有效性是通过合成和跟踪驱动的模拟验证。
2017-09-10 cs.DC
Multitier Service Migration Framework Based on Mobility Prediction in Mobile Edge Computing
本文针对移动边缘计算中用户移动导致的服务中断问题,提出一种基于地图数据且无需用户轨迹先验知识的在线移动性预测方法,并构建多层服务迁移框架以最小化中断时间并减少冗余流量。
2024-02-21 cs.DC cs.NI
Reliable Messaging to Millions of Users with MigratoryData
基于Web的通知服务被大量企业用于有选择地向客户分发实时更新,遵循发布/订阅(pub/sub)模型。典型的部署可能涉及数百万期望订购和交付保证以及低延迟的订户。通知服务必须是垂直和水平可伸缩的,并采用复制来提供可靠的服务。我们报告我们的经验建设和运营MigratoryData,一个高度可扩展的通知服务。我们将讨论MigratoryData客户的典型需求,并描述该服务的体系结构和设计,重点是可伸缩性和容错。我们的评估表明,MigratoryData能够处理数百万个并发连接,并支持可靠的通知服务,即使服务器故障和网络断开。
2017-12-28 cs.DC cs.SE
Experimental Validation of User Experience-focused Dynamic Onboard Service Orchestration for Software Defined Vehicles
本文通过专用测试台实验验证了一种面向SDV的动态车载服务编排算法,该算法在保证混合关键性QoS的同时最大化用户体验,证实了其工业可行性。
2024-09-30 cs.DC cs.NI cs.SE
Leveraging the Power of Prediction: Predictive Service Placement for Latency-Sensitive Mobile Edge Computing
移动边缘计算(MEC)正在兴起,以支持移动网络边缘的延迟敏感型5G应用。当用户在多个MEC节点之间不规则地移动时,如何动态地迁移其服务以维持服务性能(即,用户感知的延迟)出现。然而,频繁的服务迁移会显著增加运营成本,导致提高性能和降低成本之间的矛盾。为了解决这些错位的目标,本文研究了长期成本预算约束下的移动边缘服务放置的性能优化。它具有挑战性,因为预算涉及未来的不确定信息(例如,用户移动性)。为了克服这一困难,我们致力于利用预测的力量,并倡导预测服务放置与预测不久的将来的信息。利用双时标李雅普诺夫优化方法,提出了一种基于帧设计的T时隙预测服务放置(PSP)算法,该算法结合了用户移动性预测。我们从理论上描述了PSP的性能界限。此外,我们提出了一个新的权重调整方案,在每帧命名为PSP-WU队列利用历史队列信息,大大减少了队列的长度,同时提高了用户感知的延迟质量。严格的理论分析和广泛的评估,使用现实的数据跟踪表明所提出的预测方案的优越性能。
2020-06-17 cs.DC cs.NI cs.SI