Geographical Load Balancing across Green Datacenters
“地理负载均衡“是一种用于降低分布在不同地面位置的数据中心的能源成本的策略。在本文中，我们专注于负载均衡之间的可再生能源供电的微型电子商务中心。我们通过一个马尔可夫链模型的优先级的可再生能源是目前可用的调度工作的问题。没有找到一个方便的封闭形式的解决方案所产生的链，我们使用平均场技术来推导出一个渐近近似模型，而不是被证明有一个非常简单和直观的稳态解。证明后，使用理论和离散事件仿真结果，系统性能收敛到渐近模型的数量不断增加的constituters，我们利用简单的封闭形式模型的解决方案，调查各种系统参数之间的关系和权衡。
2016-12-12 cs.PF
Load balancing with heterogeneous schedulers
负载均衡是网络服务器群或库存路由问题中的常用方法。在这样的系统中的一个重要问题是确定传入的请求应该被路由到的服务器，以优化给定的性能标准。在本文中，我们假设服务器的调度纪律是异构的。更确切地说，服务器实现属于有限处理器共享（LPS- $d$）调度规程类的调度规程。在LPS-$d$下，最多可以同时提供$d$作业，因此，包括作为特殊情况的先到先服务（$d=1$）和处理器共享（$d=\infty$）.为了获得有效的算法，我们将上述负载平衡框架建模为多臂不安分的强盗问题。使用松弛技术，作为第一次开发的开创性工作的惠特尔，我们推导出惠特尔的指数政策的一般成本函数，并获得一个封闭形式的表达式惠特尔指数的稳态分布。通过数值计算，我们研究了两种不同的性能标准：线性成本标准和成本标准，依赖于吞吐量的第一和第二时刻的Whittle的索引的性能。我们的研究结果表明，\emph{(i)}惠特尔的索引策略的结构可以强烈地依赖于在服务器中实现的调度纪律，即，$d$ Whittle的索引策略明显优于标准的调度规则，如加入最短队列（JSQ）、加入最短预期队列（JSEW）和随机服务器分配（RSA）。
2018-10-17 cs.PF
Network Load Balancing Methods: Experimental Comparisons and Improvement
负载均衡算法在需要将工作负载分布在多个资源（如多处理器系统中的核、分布式计算中的计算机以及网络链路）上的系统中起着关键作用。在本文中，我们研究和评估四个负载均衡方法：随机，轮循，最短队列，最短队列与陈旧的负载信息。我们建立了一个仿真模型，并比较了系统的平均延迟的负载均衡方法。我们还提供了一种改进的最短队列与陈旧的负载信息负载均衡的方法。本文还提出了改进的性能分析。
2017-10-18 cs.DC cs.PF
Evaluating load balancing policies for performance and energy-efficiency
如今，越来越多的困难计算在具有挑战性的领域，如天气预报，石油和天然气勘探和密码分析。许多这样的计算可以使用具有大量服务器的计算机集群来实现。然后，通过所谓的负载均衡策略，将传入的计算请求分布在服务器上，以确保最佳性能。此外，能够在低工作负载期间关闭一些服务器，可以降低能耗。因此，负载均衡形成了性能和能耗之间的折衷，尽管是间接的。在本文中，我们引入了负载平衡策略的语法，以便根据相关标准（包括服务器中排队的作业数量、服务器的电源状态以及服务器电源状态之间的转换延迟）为每个请求动态选择服务器。为了评估许多策略，我们实现了两个负载均衡器：（i）iDSL，用于评估面向服务的系统的语言和工具链，以及（ii）AnyLogic中的模拟框架。两种实现都成功地验证了结果的比较。
2016-10-26 cs.DC cs.PF
Utility maximizing load balancing policies
本文针对异构服务器池系统，推导平稳状态下平均归一化聚合效用的上界，提出两种达到该上界的负载均衡策略，并刻画其在大规模场景下的瞬态与稳态行为。
2024-02-10 cs.PF math.PR
Optimal Load Balancing in Bipartite Graphs
云平台中的应用激发了对作业服务器约束和服务器异构性下的高效负载均衡的研究。在本文中，我们研究了负载均衡的二分图，其中左节点对应的作业类型和右节点对应的服务器，与每一个边缘表示的作业类型可以由一个服务器。因此，边表示局部约束，即，每个作业只能在包含某些数据和/或机器学习（ML）模型的服务器上提供。该系统中的服务器可以具有不同的服务速率。在此设置中，我们调查了两个名为Join-the-Fastest-of-the-Shortest-Queue（JFSQ）和Join-the-Fastest-of-the-Idle-Queue（JFIQ）的策略的性能，这两个策略是Join-the-Shortest-Queue和Join-the-Idle-Queue的简单变体，其中关系被打破以支持最快的服务器。在“良好连通”图的条件下，我们证明了JFSQ和JFIQ是渐近最优的平均响应时间时，服务器的数量趋于无穷大。除了渐近最优性，我们还获得了有限大小系统的平均响应时间的上界。我们进一步表明，良好的连通性条件可以满足随机二部图的建设与相对稀疏的连接。
2020-08-20 cs.PF math.PR
Scalable Load Balancing Algorithms in Networked Systems
大规模网络系统的一个根本挑战，即，数据中心和云网络的最大优点是使用最少的瞬时状态信息将任务分发到服务器池，同时提供出色的延迟性能。在这篇论文中，我们设计和分析负载平衡算法，旨在实现一个高效的任务分配，优化服务器的利用率，并最大限度地减少通信开销。
2018-09-06 cs.PF math.PR
Communication-Aware Diffusion Load Balancing for Persistently Interacting Objects
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出一种基于扩散的分布式负载平衡方法，针对通信密集型应用中的负载不均问题，通过通信图优化跨节点通信并有效分配负载，同时提出算法变体以应对通信模式不可用的情况，并在模拟和粒子-细胞基准测试中进行验证。
2026-03-24 cs.DC cs.PF
Modelling Load Balancing and Carrier Aggregation in Mobile Networks
在本文中，我们研究了多载波移动网络的性能。具体而言，我们分析了两个载波间负载均衡方案的流级性能和载波聚合（CA）产生的增益。CA是HSPA+和LTE-A网络最重要的功能之一;它允许多个运营商同时为设备提供服务。我们提出了两个负载均衡方案，即加入最快队列（JFQ）和容量均衡（VB），允许CA和非CA用户的流量分布在聚合载波。然后，我们通过分析建模来评估这些方案的性能。我们表明，所提出的计划实现准理想的负载均衡。我们还调查了CA和非CA用户在同一个小区的混合流量的影响，并表明性能几乎是不敏感的流量组合。
2014-02-03 cs.NI cs.PF
Distributed dynamic load balancing for task parallel programming
在本文中，我们推导和研究的方法，动态负载平衡的分布式任务并行应用软件。负载均衡策略是基于任务迁移的。忙进程将其就绪任务队列的一部分导出到空闲进程。空闲-忙碌的进程对通过随机搜索过程找到彼此，该过程在几个步骤内以高概率成功。我们评估的负载均衡的方法块Cholesky分解实现，并观察到在所选的测试用例的顺序上的5\%的执行时间减少。
2018-01-14 cs.DC cs.MS cs.PF
Hybrid load balancing method with failover capability in server cluster using SDN
本文针对服务器集群传统负载均衡的不足，提出一种基于SDN的混合负载均衡方法，通过二分搜索改进DWRS算法并结合快速故障转移组表与SELECT组表，以提升负载均衡性能和故障转移能力。
2023-07-09 cs.AR cs.CR cs.DC
Analysis of Load Balancing in Large Heterogeneous Processor Sharing Systems
当系统中服务器数量较多且服务器具有异构服务率时，我们分析了多服务器处理器共享系统的随机动态负载均衡方案。特别是，我们专注于经典的两个负载均衡计划的权力和它的一个变种，其中一个新到达的工作被分配到服务器之间的两个随机选择的服务器具有最小的瞬时拉格朗日阴影成本。服务器上的瞬时拉格朗日影子成本由服务器上未完成作业的数量与服务器容量的比率给出。两种不同的分析方法，提出了每个方案。对于指数工作长度分布，使用平均场方法进行分析，对于更一般的工作长度分布，假设渐近独立性进行分析。对于这两种方案，都找到了计算工件平均逗留时间的解析表达式。建立了该方案对工件长度分布类型的渐近不敏感性。数值结果验证了理论结果，并表明，不同于均匀的情况下，本文考虑的两个类型的计划的权力可能并不总是导致更好的行为方面的平均逗留时间的工作。
2015-02-09 cs.DC cs.PF math.OC
An Efficient Load Balancing Method for Tree Algorithms
如今，随着处理器数量的指数级增长，多处理成为主流。因此，负载均衡是高效执行并行算法的关键操作。在本文中，我们考虑的基本类树为基础的算法是出了名的不规则，很难负载平衡与现有的静态技术。我们提出了一种混合负载均衡方法，使用统计随机抽样估计树的深度和节点数分布均匀划分输入树的效用。为了进行初始性能研究，我们在英特尔至强融核加速器系统上实施了该方法。我们分别考虑了由Fibonacci和不平衡（有偏）随机生成树表示的规则和不规则不平衡树上的树遍历操作。结果表明，可扩展的性能高达60个物理处理器的加速器，以及外推128个处理器的情况下。
2017-09-30 cs.DC cs.PF
Modeling and Predicting DNS Server Load
DNS依赖于缓存来确保高可扩展性和良好的性能。在优化缓存时，TTL调整提供了一种在查询负载和TTL相关性能（如数据一致性、负载均衡、迁移时间等）之间进行平衡的方法。为了获得所需的平衡，TTL调整取决于在备选TTL下对查询负载的预测。提出了一种DNS服务器负载模型，该模型采用统一的聚合缓存模型，简化了客户端请求及其缓存建模的复杂性。使用该模型开发了一种预测DNS服务器负载的方法。预测方法完全基于权威服务器的单边测量或观察。该方法不依赖于大量的多点测量，也不依赖于分布式测量设施，最适合DNS权威运营商。所提出的模型和预测方法通过大量的仿真验证。最后，进行全局敏感性分析，以评估测量不确定性或误差对预测的影响。
2016-06-30 cs.NI cs.PF
Load Balancing in Compute Clusters with Delayed Feedback
Technische Universität Darmstadt（达姆施塔特工业大学）
负载均衡作为一个基本问题出现，是许多计算和通信系统的规模和操作的基础，例如数据中心集群中的作业路由、多路径通信、大数据和分布式系统。在本质上，决策代理映射每个到达的作业到一个可能的异构服务器，同时瞄准一个优化目标，如负载均衡，低平均延迟或低丢失率。在这里找到最佳负载均衡策略的一个主要困难是代理仅部分地观察其决策的影响，例如，通过延迟的服务工作的确认。在本文中，我们提供了一个部分可观察（PO）模型，捕获的负载均衡决定在有限的信息下的延迟应答的并行缓冲系统。我们提出了一个模拟模型，这个PO系统找到一个负载均衡政策，在实时使用可扩展的蒙特卡罗树搜索算法。我们数值上表明，由此产生的政策优于其他有限的信息负载均衡策略，如变种加入最多的观察，并具有可比的性能，如全信息策略：加入最短队列，加入最短队列（d）和最短预期延迟。最后，我们表明，我们的方法可以优化的实时并行处理通过使用Kaggle提供的网络数据。
2022-10-11 cs.AI cs.DC cs.LG
Evaluating Load Balancing Performance in Distributed Storage with Redundancy
为了促进负载均衡，分布式系统冗余地存储数据。我们评估的负载均衡性能的存储方案中，每个对象存储在$d$不同的节点，每个节点存储相同数量的对象。在我们的模型中，为对象提供的负载是从具有固定累积值的所有负载向量中随机均匀采样的。我们发现，在一个系统中的$n$节点的负载平衡改善与$d$成倍只要$d = o\left(\log(n)\right)$，并提高指数一次$d = Θ\left(\log(n)\right)$。我们表明，负载平衡以同样的方式提高与$d$时，服务选择创建与异或的$r$对象，而不是对象副本。在这样的冗余方案中，存储开销通过$r$成倍地减少。但是，恢复对象需要从$r$节点下载内容。与此同时，负载平衡以$r$的方式增加。我们表示系统的负载平衡方面的最大间距或最大的$d$连续间距之间的有序统计的均匀随机变量。利用这种联系和最大$d$ -间距的极限结果，我们得到了我们的主要结果。
2021-01-23 cs.IT cs.PF math.IT
Benchmarking Hashing Algorithms for Load Balancing in a Distributed Database Environment
现代高负载应用程序使用多个数据库实例存储数据。这样的架构需要数据一致性，并且确保数据在节点之间的均匀分布非常重要。负载均衡用于实现这些目标。哈希是几乎所有负载均衡系统的支柱。自从经典的一致性哈希算法被引入以来，许多算法都是为了这个目的而设计的。负载均衡器的目的之一是确保存储集群的可伸缩性。在节点添加或删除过程中，尽可能少地传输数据记录对于整个系统的性能至关重要。负载平衡器哈希算法对此过程的影响最大。在本文中，我们实验评估几个哈希算法用于负载均衡，进行模拟和真实的系统实验。为了评估算法的性能，我们已经开发了一个基准套件的基础上Unidata MDM~--一个可扩展的工具包，各种主数据管理（MDM）的应用程序。为了评估，我们采用了三个标准--均匀性的生产分布，移动记录的数量，和计算速度。根据我们的实验结果，我们创建了一个表，其中每个算法都根据上述标准进行了评估。
2022-11-01 cs.DB cs.DC cs.DS
Asymptotically Optimal Load Balancing in Large-scale Heterogeneous Systems with Multiple Dispatchers
本文研究了具有多个调度器的大规模异构系统的负载均衡问题。我们介绍了一个通用的框架，称为本地估计驱动（LED）。在这个框架下，每个调度器保持本地（可能过时）的估计队列长度的所有服务器，和调度决策是纯粹基于这些本地估计。通过调度员和服务器之间不频繁的通信更新本地估计。我们推导出充分条件，LED政策，以实现吞吐量最优和延迟最优，分别在繁忙的交通。这些条件直接意味着延迟最优的许多以前的本地内存为基础的政策在繁忙的交通。此外，研究结果使我们能够设计新的延迟优化策略的异构系统与多个调度。最后，重流量延迟最优的LED框架直接解决了最近的一个公开问题，如何设计最佳的负载均衡计划使用延迟的信息。
2020-02-20 cs.DC cs.PF math.PR
Multi-GPU SNN Simulation with Static Load Balancing
FORTH - ICS（希腊研究与技术基金会计算机科学研究所）；CSD - UOC（克里特大学计算机科学系）
我们提出了一个SNN模拟器，可扩展到数百万个神经元，数十亿个突触和8个GPU。这是通过1）新颖的高速缓存感知尖峰传输算法2）模型并行多GPU分布方案和3）静态但非常有效的负载均衡策略实现的。该模拟器还具有易于使用的API和创建自定义模型的能力。我们比较建议的模拟器对两个国家的最先进的一系列基准，使用三个完善的模型。我们发现，我们的模拟器更快，消耗更少的内存，并与GPU的数量线性扩展。
2021-04-22 cs.DC cs.LG cs.NE
