首页/论文/1809.02018

arXiv 1809.020182018-09-06math.PRcs.PF

网络系统中可扩展的负载均衡算法

Scalable Load Balancing Algorithms in Networked Systems

Debankur Mukherjee

备注：: Ph.D. thesis

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

摘要英文摘要相关论文

摘要：

大规模网络系统的一个根本挑战，即，数据中心和云网络的最大优点是使用最少的瞬时状态信息将任务分发到服务器池，同时提供出色的延迟性能。在这篇论文中，我们设计和分析负载平衡算法，旨在实现一个高效的任务分配，优化服务器的利用率，并最大限度地减少通信开销。

英文摘要：

A fundamental challenge in large-scale networked systems viz., data centers and cloud networks is to distribute tasks to a pool of servers, using minimal instantaneous state information, while providing excellent delay performance. In this thesis we design and analyze load balancing algorithms that aim to achieve a highly efficient distribution of tasks, optimize server utilization, and minimize communication overhead.

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

阅读原文

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

本文内容

摘要英文摘要相关论文

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

继续探索

相关论文

网络系统中可扩展的负载平衡：最新进展综述

Scalable load balancing in networked systems: A survey of recent advances

基本的负载平衡场景涉及单个调度程序，其中任务到达后必须立即转发到其中一个$N$单服务器队列。我们讨论了可扩展的负载均衡方案，提供了良好的延迟性能时，$N$增长大，但只需要最小的实现开销的最新进展。加入最短队列（JSQ）产生消失的延迟随着$N$变大，如在一个集中的排队安排，但涉及一个禁止的通信负担。相比之下，将传入任务分配给随机均匀选择的$d$服务器中具有最短队列的服务器的$d$或JSQ（$d$）方案需要很少的通信，但是导致恒定的延迟。为了研究延迟性能和实现开销之间的根本权衡，我们考虑JSQ（$d(N)$）计划的多样性参数$d(N)$取决于$N$和调查什么样的增长率的$d(N)$需要渐近匹配的最佳JSQ性能流体和扩散尺度。随机耦合技术和随机过程限制在建立渐近最优性方面发挥了重要作用。我们演示了这种方法如何结转到无限服务器设置，有限的缓冲区，多个调度器，服务器上安排的图形拓扑结构，和基于令牌的负载平衡，包括流行的加入空闲队列（JIQ）计划。通过这种方式，我们提供了该领域许多最新进展的广泛概述。本调查扩展了ICM 2018（arXiv：1712.08555）上的简短综述。

2021-11-04cs.PFmath.PR

网络系统中可扩展的负载均衡：普适性与随机耦合方法

Scalable Load Balancing in Networked Systems: Universality Properties and Stochastic Coupling Methods

我们提出了一个可扩展的负载均衡算法，提供了良好的延迟性能在大规模的系统，但只需要最小的实现开销的概述。针对广泛的受众，本文首先介绍了基本的负载均衡方案，包括一个单一的调度程序，任务到达，必须立即转发到$N$单服务器队列之一。一类流行的负载均衡算法是所谓的$d$或JSQ（$d$）策略的幂，其中传入任务被分配给随机均匀选择的$d$服务器中具有最短队列的服务器。这个类包括加入最短队列（JSQ）策略作为特殊情况（$d = N$），它具有强随机最优性，并且对于任何固定的次临界负载，当$N$变大时，产生的平均等待时间会消失。然而，JSQ策略的名义上的实现在大规模部署中涉及禁止的通信负担。相反，随机分配策略（$d = 1$）不需要任何通信开销，但是平均等待时间保持恒定，因为对于任何固定的正负载，$N$变大。为了研究性能和实现开销之间的基本权衡，我们考虑了一个渐进的制度，其中$d(N)$依赖于$N$。我们调查什么样的增长率的$d(N)$是需要匹配的性能JSQ政策的流体和扩散规模。结果表明，JSQ（$d(N)$）策略的渐近性对$d(N)$的精确增长率不敏感，只要后者足够快，这意味着JSQ策略的最优性可以渐近地保持，同时显著地减少通信开销.我们还展示了如何通过所谓的加入空闲队列方案，利用调度器上的内存，进一步减少通信开销。

2017-12-22cs.PFmath.PR

效用最大化的负载均衡策略

Utility maximizing load balancing policies

本文针对异构服务器池系统，推导平稳状态下平均归一化聚合效用的上界，提出两种达到该上界的负载均衡策略，并刻画其在大规模场景下的瞬态与稳态行为。

2024-02-10cs.PFmath.PR

大规模系统中负载均衡原理的均场分析

Mean-field analysis of load balancing principles in large scale systems

本文提出一个均场数学框架，用于分析大规模异构服务器集群中 JSQ 等负载均衡原理的瞬态与稳态极限，并比较作业系统时间等性能指标。

2023-07-10math.PR

大规模异构多调度系统中的渐近最优负载均衡

Asymptotically Optimal Load Balancing in Large-scale Heterogeneous Systems with Multiple Dispatchers

本文研究了具有多个调度器的大规模异构系统的负载均衡问题。我们介绍了一个通用的框架，称为本地估计驱动（LED）。在这个框架下，每个调度器保持本地（可能过时）的估计队列长度的所有服务器，和调度决策是纯粹基于这些本地估计。通过调度员和服务器之间不频繁的通信更新本地估计。我们推导出充分条件，LED政策，以实现吞吐量最优和延迟最优，分别在繁忙的交通。这些条件直接意味着延迟最优的许多以前的本地内存为基础的政策在繁忙的交通。此外，研究结果使我们能够设计新的延迟优化策略的异构系统与多个调度。最后，重流量延迟最优的LED框架直接解决了最近的一个公开问题，如何设计最佳的负载均衡计划使用延迟的信息。

2020-02-20cs.DCcs.PFmath.PR

基于秩的随机微分包含与负载平衡模型的扩散极限

Rank-based stochastic differential inclusions and diffusion limits for a load balancing model

本文将负载平衡模型在重负载下的扩散极限从指数服务时间推广至有限二阶矩情形，提出了基于秩的随机微分包含作为核心工具。

2024-09-23math.PR

更多相关论文收起更多论文

亚半Whitt区负载平衡算法的简单稳态分析

A Simple Steady-State Analysis of Load Balancing Algorithms in the Sub-Halfin-Whitt Regime

本文研究了一类多服务器（$N$服务器）系统的负载平衡算法，该算法假设缓冲区大小为$b-1$（即服务器最多只能有一个作业在服务，队列中最多有$b-1$作业）.我们专注于负载均衡算法在高负荷服务制度，使系统的负载是$λ= 1 - N^{-α}$为$0<α<0.5,$，我们称之为亚Halfin-Whitt制度（$α=0.5$是所谓的Halfin-Whitt制度）的稳态性能。我们建立了一个充分条件，在此条件下，一个传入的作业被路由到一个空闲的服务器的概率是渐近的。满足该条件的负载均衡算法包括加入最短队列（JSQ）、空闲一优先（I1 F）、加入空闲队列（JIQ）和具有$d=N^α\log N$的$d$选择幂（Po $d$）。主要结果的证明是基于Stein方法的框架。一个关键的贡献是使用一个简单的生成器近似的基础上状态空间崩溃。

2018-04-08math.PR

非齐次负载平衡系统中d次幂选择的最优性

Throughput and Delay Optimality of Power-of-d Choices in Inhomogeneous Load Balancing Systems

众所周知，幂次选择路由算法在同构服务器的负载均衡系统中最大化吞吐量并且是重流量最优的。但是，如果服务器是异构的，吞吐量最优性一般不成立。我们发现充要条件的功率D的选择时，服务器是异构的吞吐量最优，我们证明了几乎相同的条件足以显示大流量最优。此外，我们推广的充分条件的吞吐量最优的路由策略更大的类。

2020-11-04math.PR

（几乎）完美的离散迭代负载均衡

(Almost) Perfect Discrete Iterative Load Balancing

University of Hamburg, Germany（汉堡大学）；University of Salzburg, Austria（萨尔茨堡大学）；Durham University, U.K.（杜伦大学）；Technical University of Hamburg, Germany（汉堡工业大学）；Darmstadt University of Applied Sciences, Germany（达姆施塔特应用科学大学）；University of Cambridge, U.K.（剑桥大学）

本文针对任意图上的离散迭代负载均衡，提出一类通用匹配均衡方案，证明其能以高概率在渐近匹配连续谱界的轮数内达到差异度3，优于先前结果且适用于任意图。

2025-10-17cs.DCmath.PR

非退化减速机制中的负载平衡

Load Balancing in the Non-Degenerate Slowdown Regime

我们分析加入最短的队列在当代缩放制度称为非退化减速制度。加入最短队列（Join-the-Shortest-Queue，JSQ）是一种经典的多服务器并行排队系统负载均衡策略。并行服务器并行系统定期分析和尺寸的扩散近似实现的Halfin-Whitt缩放制度。然而，当作业必须在到达时被分派到服务器时，我们提倡非退化减速机制（NDS）来比较不同的负载平衡规则。在本文中，我们确定了新的扩散近似和时标分离，提供了深入了解JSQ的性能。我们计算的价格合理调度工作到服务器，并证明这是在15%（在NDS制度）的规则，可能操纵服务器之间的工作。我们还比较了我们的JSQ政策的结果与NDS近似的许多现代负载平衡政策，如空闲队列优先和权力的$d$ -选择的政策，作为低信息代理的JSQ政策。我们的分析使我们能够构建新的规则，具有相同的性能JSQ，但需要更少的通信开销比2-选择的幂。

2018-02-12math.PR

D次幂负载平衡下多台并行服务器的收敛性

Convergence properties of many parallel servers under power-of-D load balancing

我们考虑一个系统的N个队列与分散的负载平衡，如电源的D战略（其中D可能取决于N）和通用调度纪律。为了测量队列的依赖性，我们使用祖先家族，这是一种来自相互作用粒子系统的技术。依赖于该分析，我们证明了定量估计的队列相关性意味着传播的混沌系统与马尔可夫到达和一般的服务时间分布。这解决了Bramsom et.在[*]中关于处理器共享策略情况下服务器的渐近独立性。然后，我们继续证明渐近不敏感性的平稳制度的调度纪律，并获得收敛速度估计轻尾服务分布。[*] M.布拉姆森，Y. LU和B.王晓刚，随机负载均衡下的排队系统的渐近独立性，71：247-292，2012.

2018-09-14math.PR

Coxian- $2$分布式服务时间负载均衡的稳态分析

Steady-State Analysis of Load Balancing with Coxian-$2$ Distributed Service Times

研究了多服务器（$N$服务器）系统的负载平衡问题。每个服务器都有一个大小为$b-1,$的缓冲区，并且在缓冲区中最多只能有一个作业在服务中，并且最多只能有$b-1$作业。工件的服务时间服从Coxian-2分布。我们专注于负载均衡策略在高负荷服务制度，使系统的归一化负载是$λ= 1 - N^{-α}$为$0<α<0.5.$的稳态性能。我们确定了一组策略，实现渐近零等待。该策略集包括几个经典的策略，例如加入最短队列（JSQ）、加入空闲队列（JIQ）、空闲一优先（I1 F）和具有$d=O(N^α\log N)$的$d$选择幂（Po $d$）。主要结果的证明是基于Stein方法和状态空间坍缩。本文的一个关键技术贡献是迭代状态空间崩溃的方法，导致一个简单的发电机近似时，应用斯坦的方法。

2021-02-17math.PR

任意图上的动态平均负载均衡

Dynamic Averaging Load Balancing on Arbitrary Graphs

本文研究一般图上的动态平均负载均衡。我们考虑无限的时间和动态过程，在每一步新的负载项目被分配到随机选择的节点。选择一个匹配，并在该匹配的边缘上平均负载。我们分析了载荷项不可分的离散情形，而且我们的结果也可以推广到载荷项可以任意分割的连续情形。对于匹配的选择，我们考虑三种不同的模型，随机匹配的线性大小，随机匹配只包含单个边缘，和确定性序列的匹配覆盖整个图形。我们限制差异，其定义为最大和最小负载之间的差异。我们的研究结果涵盖了广泛的图形类，据我们所知，我们的分析是离散和动态平均负载均衡过程的第一个结果。作为我们的主要技术贡献，我们开发了一个漂移的结果，使我们能够应用技术的基础上，在一个电气网络的有效电阻的动态负载均衡的设置。

2023-02-23cs.DCcs.DSmath.PR

异构服务器集群中的负载均衡：基于产品形式的集群模型

Load Balancing in Heterogeneous Server Clusters: Insights From a Product-Form Queueing Model

有效地利用数据中心中的服务器需要性能分析方法，不仅要考虑需求的随机性，还要考虑服务器的异构性。虽然最近的几项工作证明了最优结果的异构性意识的变体的经典负载平衡算法在多服务器制度，我们仍然缺乏一个基本的理解有限大小的系统的性能上的异质性的影响。在本文中，我们考虑了一个负载平衡算法，导致产品形式的共享模型，因此，即使服务器的数量是有限的，可以准确地分析。我们开发了新的分析方法，利用其产品形式的平稳分布，以了解服务器的速度和缓冲区长度对性能的联合影响。这些分析结果得到了涵盖各种情景的数值评估的支持和补充。

2021-09-02cs.NImath.PR

超图中的负载平衡

Load Balancing in Hypergraphs

考虑一个可数顶点集上的简单局部有限超图，其中每条边表示一个负载单位，该负载应分布在定义该边的顶点之间。如果负载不能从一个顶点移动到另一个承载较少负载的顶点，则负载分配称为平衡。我们分析了负载均衡分配的性质。我们将有限超图的平衡性概念推广到Benjamini和Schramm（2001）以及Aldous和Steele（2004）的局部弱极限。为了做到这一点，我们定义了一个概念的单模超图，可以被认为是一个扩展的单模图。我们给出了一个变分公式的平衡负载分布，特别是，我们刻画了它的特殊情况下的单模超图Galton Watson过程。在一定条件下证明了最大载荷的收敛性。我们的工作是对Anantharam和Salez（2016）超图的扩展，该超图考虑了图中的负载平衡，旨在更全面地解决Hajek（1990）的问题。

2017-10-01cs.ITmath.ITmath.OC

任意网络拓扑上随机负载均衡的紧界

Tight Bounds for Randomized Load Balancing on Arbitrary Network Topologies

我们考虑网络中负载项（令牌）的平衡问题。从一个任意的负载分布开始，我们允许节点在每一轮中与它们的邻居交换令牌。我们的目标是实现一个分布，其中所有节点都具有几乎相同数量的令牌。对于连续的情况下，令牌是任意可分的，大多数负载均衡计划对应于马尔可夫链，其收敛性是相当好理解的频谱间隙。然而，在许多应用程序中，加载项不能被任意划分，我们需要处理负载由不可分割的令牌组成的离散情况。由于其舍入误差，这种离散化需要非线性行为，这使得这种分析比连续情况下困难得多。我们研究了几个随机协议，不同的通信模型在离散的情况下。作为我们的主要结果，我们证明了，对于匹配模型中的任何规则网络，所有节点都具有相同的负载，直到连续情况下所需的相同轮数（渐近）中的加性常数。这推广和加强了以前的最佳结果，这只适用于扩展图，并证明了离散和连续的情况下几乎没有区别。我们的研究结果也提供了一个积极的答案，以及离散负载均衡可以近似（连续）马尔可夫链，这已经提出了许多研究人员的问题。

2014-11-10cs.DCcs.DMcs.DS