Pull-based load distribution among heterogeneous parallel servers: the case of multiple routers
该模型是一个服务系统,由几个大型服务器池组成。服务器处理速度和缓冲区大小(可能是有限的,也可能是无限的)取决于池。输入的客户流在固定数量的路由器之间平均分配,路由器必须在客户到达时立即将其分配给服务器。我们考虑一个渐进的制度,其中客户的总到达率和游泳池的大小规模到无穷大的同时,成比例的缩放参数$n$,而路由器的数量保持不变。我们定义并研究了在[11]中为单路由器模型引入的基于拉式的客户分配(路由)算法PSTK的多路由器推广。在Paddle算法下,当服务器空闲时,它向随机均匀选择的路由器发送“拉消息”;每个路由器独立操作-它根据随机均匀选择的可用(在该路由器处)拉消息将到达的客户分配给服务器,如果有的话,或者分配给整个系统中随机均匀选择的服务器,否则。在马尔可夫假设下(Poisson到达过程和独立指数分布的服务需求),在次临界系统负载下,证明了PSTK的渐近最优性:当$n\to\infty$时,到达的顾客遇到阻塞或等待的稳态概率为零.此外,Pingdom的路由器-服务器消息交换率极低,为每个客户一条消息。这些结果推广了文献[11]中的一些单路由器结果。
2016-08-03 math.PR
Large-scale heterogeneous service systems with general packing constraints
被认为是一个服务系统与多种类型的客户,到达根据泊松过程。该系统是异构的,因为服务器也可以是多种类型。每个客户都有一个独立的指数分布的服务时间,其平均值由其类型决定。可以将多个客户(可能是不同类型的客户)放置到一个服务器中进行服务,这取决于服务器类型的“打包”约束。不同客户的服务时间是独立的,即使由同一服务器同时提供服务。大规模的渐近制度被认为是这样的客户到达率增长到无穷大。我们考虑模型的两个变体。对于{ \em infinite-server}模型,我们证明了{ \em Greedy Random}(GRAND)算法在最小化稳态时被占用服务器的加权(按类型)数意义下的渐近最优性. (This GRAND的版本推广了[15]中介绍的同构系统,所有服务器都是相同类型的。然后,我们介绍了一个自然扩张的GRAND算法的{ \em有限服务器}系统的阻塞。假设系统负载为亚临界,证明了大系统平衡点的存在性、唯一性和局部稳定性,使得系统不发生阻塞。这一结果有力地表明了一个猜想,即在大规模极限下,该算法下的稳态阻塞概率为零。
2016-05-18 math.PR
Asymptotic optimality of a greedy randomized algorithm in a large-scale service system with general packing constraints
我们考虑一个服务系统模型,主要是由虚拟机的有效分配的问题,在网络云中的物理主机,使占用主机的数量最小化。有多种类型的到达客户,其中客户的平均服务时间取决于其类型。服务器的数量是无限的。可以将多个客户放置到一个服务器中进行服务,但要遵守一般的“打包”约束。不同客户的服务时间是独立的,即使由同一服务器同时提供服务。每个新到达的客户被立即放置以进行服务,或者放置到已经服务于其他客户的服务器中(只要不违反打包约束),或者放置到空闲的服务器中。服务完成后,每个客户离开其服务器和系统。我们提出了一个非常简单,易于实现的客户安置算法,称为贪婪随机(GRAND)。它将每个到达的客户随机均匀地放置到一个已经占用的服务器(受包装限制)或所谓的零服务器之一,零服务器是指定为新到达者提供的空服务器。GRAND的一个实例,称为GRAND($aZ$),其中$a\ge 0$是一个参数,使得在任何给定时间$t$的零服务器的数量是$aZ(t)$,其中$Z(t)$是系统中的当前客户总数。我们证明了GRAND($aZ$)与$a>0$是渐近最优的,因为客户到达率增长到无穷大和$a\to 0$,在这个意义上,最小化在稳定状态下占用的服务器的总数。此外,我们通过仿真研究了GRAND的各种版本,并观察了收敛速度和稳态性能对零服务器数量的依赖关系。
2014-05-22 math.PR
Ergodicity of an SPDE Associated with a Many-Server Queue
我们考虑所谓的GI/GI/N排队网络,其中具有独立和相同分布的服务时间的作业流根据更新过程到达由$N$相同的服务器以先来先服务的方式服务的公共队列。我们引入了一个两个组件的无限维马尔可夫过程,作为该网络的扩散模型,在该制度的服务器的数量趋于无穷大和网络上的负载规模为$1 - βN^{-1/2}+ o(N^{-1/2})$的一些$β> 0$。在适当的假设下,我们将此过程刻画为一对随机发展方程的唯一解,这对随机发展方程由正射线上的一个实值伊藤方程和一个随机偏微分方程组成,它们通过一个非线性边界条件耦合在一起.我们构造了一个渐近(等价)耦合来证明这个马尔可夫过程具有唯一的不变分布。这个不变分布在一篇配套论文[1]中被证明是GI/GI/N网络的适当缩放和居中的平稳分布序列的极限,从而解决了(对于大类服务分布)Halfin和Whitt在1981年提出的一个公开问题。这里介绍的方法更普遍适用于更广泛的网络分析。
2017-12-04 math.PR
Pull-based load distribution in large-scale heterogeneous service systems
该模型的动机是大规模基于云的数据处理系统中的负载分布问题。我们考虑一个异构的服务系统,由多个大型服务器池。池的不同之处在于它们的服务器可以具有不同的处理速度和/或不同的缓冲区大小(可以是有限的或无限的)。我们研究了一个渐近制度,其中客户到达率和游泳池的规模同时无穷大,比例的一些缩放参数$n$。到达的客户由“路由器”根据{ \em pull-based}算法(称为PALG)分配到服务器。在该算法下,每个服务器在空闲时向路由器发送“拉消息”;路由器根据随机选择的可用拉消息将到达的客户分配给服务器,如果有的话,或者分配给随机服务器,否则。假设系统负荷为亚临界,证明了Pests的渐近最优性。也就是说,当系统规模为$n\to\infty$时,到达的顾客经历阻塞或等待的稳态概率为零。我们还描述了一些推广的模型和Pestrian算法,其中的渐近最优性仍然成立。
2015-06-10 math.PR
Law of Large Numbers Limits for Many Server Queues
本文考虑了一个多服务器的排队系统,一般分布的服务时间以到达的顺序进入服务。该系统的动态表示在一个过程中,描述了系统中的客户总数,以及一个测量值的过程,跟踪服务的客户的年龄。在服务时间分布的温和假设下,当服务器的数量趋于无穷大时,这对过程的大数定律(或流体)极限成立。极限的特点是唯一的解决方案,一对耦合的积分方程,承认一个相当明确的表示。作为推论,还得到了其他几个感兴趣的泛函,如等待时间的流体极限。此外,在时间均匀的设置,流体极限收敛到其平衡。在此过程中,得到了一些独立的结果,包括一个连续映射的结果和流体极限的极大性。研究这些系统的动机是,它们是作为计算机数据系统和呼叫中心的模型出现的。
2007-08-07 math.AP math.PR
Tightness of stationary distributions of a flexible-server system in the Halfin-Whitt asymptotic regime
我们考虑一个大规模的灵活的服务系统,两个大的服务器池和两种类型的客户。池1中的服务器只能为类型1的客户提供服务,而池2中的服务器是灵活的-它们可以为类型1和2提供服务。(This这就是所谓的“N系统”。“我们的结果也适用于更一般的系统。客户的服务率取决于其类型和服务的池。我们研究了一个优先服务规程,其中类型2在池2中具有优先级,并且类型1偏好池1。我们认为Halfin-Whitt渐近制度,其中客户的到达率和每个池中的服务器的数量增加到无穷大的比例缩放参数$n$,而整体系统容量超过其负载的$O(\sqrt{n})$。对于这个系统,我们证明了紧密的扩散尺度的平稳分布。我们的方法依赖于一个单一的共同的李雅普诺夫函数$G^{(n)}(x)$,取决于参数$n$和定义在整个状态空间作为一个功能的{ \em漂移为基础的流体限制}(DFL)。具体来说,是$G^{(n)}(x)=\int_0^\infty g(y^{(n)}(t)) dt$,其中$y^{(n)}(\cdot)$是从$x$开始的DFL,而$g(\cdot)$是到原点的“距离”。(所有$n$的$g(\cdot)$相同)。分析的关键部分是对DFL和函数$G^{(n)}(x)$的(一阶和二阶)导数的研究。该方法以及分析的许多部分都是相当通用的,并且可能具有独立的兴趣。
2014-12-22 math.PR
Diffusion scale tightness of invariant distributions of a large-scale flexible service system
考虑了一个具有多个客户类别和多个服务器池的大规模服务系统,其平均服务时间同时依赖于客户类别和服务器池。允许的活动(路由选择)形成一棵树(在图中,顶点既是客户类又是服务器池)。我们研究了系统在[17]中引入的{ \em叶活动优先级}(Leaf Activity Priority)策略下的行为。渐近制度被认为是,在每个池中的客户和服务器的数量的到达率趋于无穷大的比例缩放参数$r$,而整个系统的负载仍然严格的亚临界。我们证明了紧密的扩散缩放(集中在平衡点和缩小$r^{-1/2}$)不变的分布。由此得到一个极限互换结果:扩散标度不变分布的极限等于极限扩散过程的不变分布.
2014-03-27 math.OC math.PR
A queueing system with on-demand servers: local stability of fluid limits
我们研究一个系统,其中随机流动的客户服务的服务器(称为代理)邀请按需。每个被邀请的代理在随机时间之后到达系统;在每个服务完成之后,代理以一些固定的概率返回系统或离开系统。客户和/或代理可能是不耐烦的,也就是说,当在队列中等待时,他们以一定的速率(其可以是零)离开系统。我们考虑了基于队列长度的反馈方案,该方案根据客户和代理的队列长度及其变化来控制待处理的代理邀请的数量。基本目标是最小化客户和座席的等待时间。我们建立了系统的过程中的流体限制在渐近制度的客户到达率趋于无穷大。我们使用切换线性系的机械和常见的二次李雅普诺夫函数,以接近所需的平衡点的流体极限的稳定性,并推导出各种充分的局部稳定性条件。对于我们的模型,我们推测,局部稳定性实际上是足够的全局稳定性的流体限制,这一猜想的有效性支持的数值和模拟实验。当局部稳定性条件不成立时,仿真结果表明该方案具有良好的整体性能。
2017-05-04 math.PR
Steady-state analysis of shortest expected delay routing
我们考虑一个由两个不同的指数服务器组成的排队系统,其中每个服务器都有自己的专用队列,并服务于该队列中的客户FCFS。顾客按照泊松过程到达并加入承诺最短期望延迟的队列,这对于具有不同服务器的系统是一种自然且接近最优的策略。该系统可以被建模为象限内的非齐次随机游动。通过扩展补偿方法的边界,我们证明了这种随机游动的平衡分布可以表示为一系列的乘积形式,可以递归地确定。由此产生的系列表达式是直接服从数值计算,它也提供了洞察的渐近行为的平衡概率的状态坐标之一趋于无穷大。
2016-03-14 math.PR
A Note on Load Balancing in Many-Server Heavy-Traffic Regime
在这篇文章中,我们应用Stein的方法来分析一般的负载平衡方案在多服务器的高负荷服务制度的性能。特别地,考虑$N$服务器的负载平衡系统,并且到达率到容量区域的距离由具有$α> 1$的$N^{1-α}$给出。我们感兴趣的性能$N$下的一大类政策无穷大。我们建立不同的渐近在不同的标度和条件。具体地说,(i)如果二阶矩随$N$线性增加,系数为$σ_a^2$和$ν_s^2$,则对于任何$α> 4$,由$N^{-α}$缩放的总队列长度的分布收敛于具有平均值$\frac{σ_a^2 + ν_s^2}{2}$的指数随机变量。(3)如果二阶矩随$N$二次增加,系数为$\tildeσ_a^2$和$\tildeν_s^2$,则对于任何$α> 3$,由$N^{-α-1}$缩放的队列长度和的分布收敛于平均值为$\frac{\tildeσ_a^2 + \tildeν_s^2}{2}$的指数随机变量。这两个结果是简单的应用程序,我们以前开发的框架斯坦的方法在\cite{zhou2020note}的高负荷服务分析。
2020-04-27 cs.DC math.PR
An infinite server system with general packing constraints
我们考虑一个服务系统模型,主要是由虚拟机的有效分配的问题,在网络云中的物理主机,使占用主机的数量最小化。有多个不同类型客户的输入流,客户的平均服务时间取决于其类型。有无限数量的服务器。服务器打包{ \em configuration}是向量$k=\{k_i\}$,其中$k_i$是服务器“包含”的$i$类型客户的数量。必须遵守打包约束,即允许一组固定的有限配置$k$。不同客户的服务时间是独立的;在服务完成后,每个客户离开其服务器和系统。每个新到达的客户都被立即放置以供服务;它可以被放置到已经为其他客户服务的服务器中(只要不违反打包约束),或者放置到空闲的服务器中。我们考虑一个简单的吝啬的实时算法,称为{ \em贪婪},它试图最小化增量的目标函数$\sum_k X_k^{1+α}$,$α>0$,所造成的每个新的分配;这里$X_k$是服务器的数量配置$k$。(When $α$很小,$\sum_k X_k^{1+α}$近似于占用服务器的总数$\sum_k X_k$。)我们的主要结果表明,贪婪算法的某些版本是{ \em渐近最优},在这个意义上最小化$\sum_k X_k^{1+α}$在静止状态下,作为输入流量增长到无穷大。我们还表明,在特殊的情况下,当一组允许的配置是由{ \em向量包装}约束,贪婪算法可以与{ \em聚合配置},而不是确切的配置$k$,从而降低计算复杂性,同时保持渐近最优性…
2012-06-01 math.OC math.PR
Fluid limits of many-server queues with reneging
本文考虑了一个多服务器的排队系统,一般分布的服务时间和I.I.D.,一般分布的耐心时间以到达的顺序进入服务,并且如果可能进入服务之前的时间超过耐心时间,则放弃队列。该系统的动态表示在一对测量值的过程,一个跟踪的等待时间的客户在队列中,另一个跟踪的时间量,每个客户被服务已在服务。在温和的假设下,基本上只需要服务和退出分布具有密度,因为到达率和服务器的数量都趋于无穷大,这对过程的大数定律(或流体)极限成立。的限制被证明是唯一的解决方案的一对耦合的确定性积分方程,承认一个明确的表示。此外,还建立虚拟等待时间过程的流体极限。本文扩展了Kaspi和Ramanan以前的工作,分析了模型中没有食言。一个强大的动机,了解性能的存在,食言产生的呼叫中心的模型。
2010-11-12 math.PR
Many-server diffusion limits for $G/Ph/n+GI$ queues
研究了服务时间服从阶段型分布且允许顾客放弃的多服务台排队系统的多服务台极限。第一组极限定理是临界加载$G/Ph/n+GI$队列,其中耐心时间是独立的,并遵循一般分布相同。下一个极限定理是过载的$G/ Ph/n+M$队列,其中的耐心时间分布被限制为指数。我们证明了一对扩散标度的总客户计数和服务器分配过程,适当的中心,收敛于分布的连续马尔可夫过程的服务器的数量$n$趋于无穷大。在过载情况下,极限是一个多维扩散过程,在临界载荷情况下,极限是一个扩散过程的简单变换。当队列是临界负载时,我们的扩散极限推广了Puhalskii和Reiman(2000)关于没有顾客放弃的$GI/Ph/n$队列的结果。当队列过载时,扩散限制提供了对流动限制的细化,并且它推广了Whitt(2004)对于具有指数服务时间分布的$M/M/n/+M$队列的结果。本文采用的证明技术是创新的。首先,一个扰动系统被证明是等价于原系统。接下来,在流体和扩散缩放中采用两个贴图。这些映射允许一个证明极限定理通过应用标准的连续映射定理和标准的随机时间变化定理。
2010-11-09 math.PR
Analysis of Multiserver Retrial Queueing System: A Martingale Approach and an Algorithm of Solution
本文研究了一个具有$m$服务器的多服务器重试系统。到达过程是一个具有严格平稳遍历增量的点过程。到达系统的客户占用其中一个空闲服务器。如果到达时所有服务器都忙,那么客户进入辅助队列,轨道,并在一段随机时间后重试越来越多,以占用服务器。每个客户的服务时间是具有参数$μ_1$的指数分布的随机变量。重试之间的时间以每个客户的参数$μ_2$呈指数分布。利用鞅方法,本文提供了一个分析这个系统。本文建立了稳定性条件,研究了极限链长分布随$μ_2$增大到无穷大的行为。作为$μ_2\to\infty$,本文还证明了适当的服务器长度分布的收敛到相关的“通常”的多服务器排队系统没有重试。给出了与重试系统的极限链长分布相关的方程组的数值解算法。
2005-11-06 math.PR
The supermarket model with arrival rate tending to one
在超级市场模型中,存在$n$队列,每个队列都有一个服务器。顾客到达服从泊松过程,到达率为$λn$,其中$λ= λ(n) \in (0,1)$。到达后,客户随机均匀地选择$d=d(n)$服务器,并加入所选服务器中负载最小的服务器的队列。服务时间是独立的指数分布的随机变量,平均值约为1。在本文中,我们分析了超市模型的行为在一个政权,$λ(n)$趋于~1,$d(n)$趋于无穷大,$n \to \infty$。对于合适的三元组$(n,d,λ)$,我们确定了一个子集${\cal N}$的状态空间的过程中保持了很长一段时间的平衡。我们进一步表明,该过程是迅速混合时,开始在${\cal N}$,并给出边界的速度混合更一般的初始条件。
2012-01-26 math.CO math.PR
Tightness of invariant distributions of a large-scale flexible service system under a priority discipline
我们考虑大规模的服务系统,多个客户类和多个服务器池;到达间隔和服务时间呈指数分布,平均服务时间取决于客户类和服务器池。假设允许的活动(路由选择)形成一棵树(在图中,顶点既是客户类又是服务器池)。我们研究了叶活动优先级(LAP)策略下系统的行为,该策略按照树叶顺序“消除”的顺序为活动分配静态优先级。我们认为系统的缩放限制的到达率的客户和服务器的数量在每个池中趋于无穷大的比例缩放参数r,而整个系统的负载仍然严格的亚临界。通过参数r对系统进行索引,我们证明了:(a)对于所有充分大的r,系统在非线性约束下是随机稳定的;(b)对于所有$ε> 0$,不变分布族在尺度$r^{1/2 + ε}$上是紧的. (More精确地说,以平衡点为中心并按$r^{-(1/2 + ε)}$比例缩小的不变分布序列是紧的。)
2012-09-07 math.PR
Critically loaded queueing models that are throughput suboptimal
本文介绍并分析了多服务器排队系统在高负荷服务下的吞吐量次优性概念。所考虑的排队模型有多个客户类别,由有限集$\mathcal{I}$索引,以及异构的指数服务器。服务器被动态地选择来服务客户,并且缓冲区可用于等待被服务的客户。到达速率和服务器的数量以这样的方式按比例增加,即表示系统中的类$i$客户的数量的过程$i\in\mathcal{I}$围绕静态流体模型波动,该静态流体模型被假设为在标准意义上是临界负载的。同时,流体模型被假定为吞吐量次优。粗略地说,这意味着可以分配服务器,以便实现大于总到达速率的总处理速率。我们发现,存在一个动态的控制策略,是有效的,在以下强意义上的排队模型:在此政策下,对于每一个有限的$T$,措施的时间之前,$T$,在至少有一个客户是在缓冲区,收敛到零的概率的到达率和服务器的数量趋于无穷大。为了证明我们的主要结果,我们提供了一个吞吐量次优的缓冲站图的属性方面的表征。
2009-06-12 math.PR
Necessity of Future Information in Admission Control
我们研究了预测信息的必要性,在一类排队接纳控制问题,其中系统管理员被允许转移传入的工作到一个固定的速度,以尽量减少排队延迟所经历的接纳工作。Spencer等人(2014)表明,通过以前瞻窗口的形式访问未来信息,可以显着改善系统的延迟性能,在此期间,可以显示未来到达和服务的时间。他们证明,虽然在繁忙的交通状况下,最优在线策略下的延迟发散到无穷大,但它可以通过利用未来的信息来保持有界。然而,Spencer等人(2014)的分流政策要求在繁忙的交通状况下,前瞻窗口的长度以非平凡的速度增长到无穷大,并且在未来信息较少的情况下是否仍然可以实现实质性的性能改善仍然是开放的。我们在很大程度上解决了这个问题,方法是建立一个渐近紧的下界,确定需要多少未来信息才能实现卓越的性能,这与Spencer et al.(2014)的上界相匹配,直到常数乘法因子。因此,我们的研究结果表明,系统的大流量延迟性能是高度敏感的未来可用的信息量。我们的证明是基于分析一定的游览概率的输入样本路径,并利用政策的分流决策和随后的服务器空闲,这可能是独立的利益相关的动态资源分配问题之间的连接。
2015-06-13 cs.NI cs.PF math.PR
Measure-valued fluid limits for partial service queues with correlated patience and service times
Universidad ORT Uruguay(乌拉圭ORT大学)
该研究针对具有相关耐心与服务时间、允许服务抢占和弃权的多服务器队列,推导了其测度值流体极限,证明解收敛到闭式不动点,聚焦于实用的抢占式LCFS策略。
2026-08-26 math.PR
Invariance principle and McKean-Vlasov limit for randomized load balancing in heavy traffic
研究重交通下含部分幂次选择策略的随机负载均衡系统,在服务器数与重交通参数渐近增长的临界负载下,建立扩散归一化队列长度经验测度的流体极限,并证明两种初值假设下的不变性原理,得到McKean-Vlasov SDE极限及混沌传播性质。
2024-04-14 math.PR
A service system with randomly behaving on-demand agents
我们考虑一个服务系统,其中代理(或服务器)被邀请按需。顾客到达时是一个泊松过程,并加入顾客队列。客户服务时间是i.i.d.指数增长智能体的行为在两个方面是随机的。首先,他们可以被邀请到系统外,并在随机时间后加入代理队列。第二,在服务完成后,它们有一定的概率重新加入代理队列,否则就离开系统。我们的目标是设计一个实时自适应代理邀请计划,保持客户和代理队列/等待时间小。我们研究了一个自适应的计划,它控制的数量待定的代理邀请,基于状态反馈。我们研究了系统过程中的流体限制,在渐近制度的客户到达率趋于无穷大。流体极限轨迹具有复杂的行为-有两个域,它们遵循不同的常微分方程,和一个“反射”边界。我们使用切换线性系的机械和常见的二次李雅普诺夫函数,以接近所需的平衡点(零队列)的流体极限的稳定性。我们得到充分的局部稳定性条件的流体限制。我们推测,对于我们的模型,局部稳定性实际上是足够的全局稳定性的流体限制,这一猜想的有效性支持的数值模拟实验。当局部稳定性条件成立时,仿真结果表明该方案具有良好的整体性能。
2016-03-10 math.PR
Service Rate Control in Queues with Abandonments
该研究针对带不耐烦客户的马尔可夫单服务器队列,构建含两类奖励机制与服务率成本的模型,证明无限缓冲时最优服务率策略单调,有限缓冲时未必单调,开发高效策略迭代算法,利用最优服务率的收敛性优化数值计算。
2026-07-30 math.OC math.PR
Mean field limits of large Jackson networks in heavy traffic
Viterbi Faculty of Electrical & Computer Engineering Technion(以色列理工学院电子与计算机工程维特比学院)
研究开放Jackson网络在重流量条件下的均场极限,通过耦合和去耦构造证明队列长度和累积空闲过程的混沌传播,极限由非线性反射布朗运动描述。
2026-05-31 math.PR
A Heavy Traffic Theory of Matching Queues
Industrial and Operations Engineering, University of Michigan(密歇根大学工业与运营工程系);Industrial and Systems Engineering, Georgia Institute of Technology(佐治亚理工学院工业与系统工程系)
研究在线匹配平台中匹配队列,通过渐近状态下控制趋于零的两种方式,对应三种状态产生相变,低控制成本为延迟驱动状态,高控制成本为成本驱动状态,中间为混合状态,用变换方法推广获结果。
2026-07-09 math.PR
Heavy-traffic limit of stationary distributions of a state-dependent queue
Tokai University(东海大学);Tokyo University of Science(东京理科大学);National Defense Academy of Japan(日本防卫大学校)
本文研究了具有状态依赖性的单服务器队列的重负荷极限,探讨了其稳定性及平稳分布的极限性质,提出了密度条件并证明了多级队列的解具有闭形式。
2026-04-10 math.OC math.PR