On the Performance of Large Loss Systems with Adaptive Multiserver Jobs
本文研究自适应多服务器作业在丢失系统中的最优分配，证明当抽样子集大小k(n)=ω(n^α)时，可实现与全系统访问相同的渐近性能，包括零阻塞和最大加速。
2023-08-31 cs.PF math.PR
MDS coding is better than replication for job completion times
在一个多服务器系统中，如果调度器不能查询作业的状态，那么怎样才能获得比随机分配作业更好的性能呢？最近提出了一种复制策略，其中每个到达作业的$d$副本被发送到随机选择的服务器。作业的完成时间是其任何副本的服务首次完成的时间。完成后，从其他队列中删除作业的冗余副本，以免系统负担过重。对于数字作业，其中要服务的对象可以代数操作，并且对于输出是其输入的线性函数的服务器，在这里我们考虑一种替代策略：最大距离可分离（MDS）代码。对于到达的每一批$n$数字作业，在实数或大的有限域上创建$n+m$线性组合，并且每个编码作业被发送到随机服务器。批量完成时间是第一次提供$n+m$编码作业中的任何$n$，因为可以通过高斯消除来恢复对$n$原始作业的评估。如果冗余作业可以从队列中删除批量完成，我们建立，为了得到改善的响应时间性能发送$d$副本的每个$n$作业通过复制策略，与MDS方法，它足以发送$n+d$作业。也就是说，虽然复制是乘法的，但MDS是线性的。
2019-12-08 cs.PF math.PR
On Universal Scaling of Distributed Queues under Load Balancing
本文研究了具有分布式队列的多服务器系统中负载平衡算法的稳态性能。系统具有$N$服务器，并且每个服务器维护具有缓冲器大小$b-1,$的本地队列，即服务器最多可以保持一个作业在服务中并且队列中最多可以保持$b-1$作业。同一队列中的作业按照先进先出（FIFO）顺序提供服务。系统在高流量状态下运行，使得每个服务器的工作负载对于$0.5\leq α<1.$为$λ= 1 - N^{-α}$。我们确定一组算法，使得稳态队列具有以下通用缩放，其中{ \em通用}意味着它适用于任何$α\in[0.5,1)$：（i）繁忙服务器的数量是$λN-o(1);$，以及（ii）具有两个作业的服务器的数量（一个在服务中，一个在队列中）是$O(N^α\log N);$，以及（iii）具有多于两个作业的服务器的数量是$O\left(\frac{1}{N^{r(1-α)-1}}\right),$，其中$r$可以是独立于$N.$的任何正整数。最短队列（JSQ）、空闲一优先（I1 F）和$d$选择的幂（Po $d$）与$d\geq N^α\log^2 N.$我们进一步论证了这样的算法的等待时间接近最优顺序。
2019-12-26 math.PR
A Model of Job Parallelism for Latency Reduction in Large-Scale Systems
在多个处理核心并行处理计算密集型作业在许多现实世界的应用中是必不可少的。在本文中，我们考虑了一个理想化的模型，作业并行，其中一个作业可以同时由$d$不同的服务器。当$d$服务器完成的工作总量等于作业大小时，就认为作业已完成。研究了并行性对工件平均延迟的影响。具体来说，我们分析了一个系统组成的$n$并行处理器共享服务器中的作业到达根据泊松过程的速率$n λ$（$λ<1$）和每个作业带来了一个指数分布的单位平均工作量。作业到达后，会随机均匀地选择$d$服务器，并同时加入所有选定的服务器。我们通过平均场分析表明，对于固定的$d \geq 2$和大的$n$，服务器的平均占用率是$O(\log (1/(1-λ)))$作为$λ\to 1$相比，$d=1$的$O(1/(1-λ))$平均占用率。因此，我们得到了一个指数级的减少，通过并行作业的响应时间。我们取得了重大进展，严格证明平均场分析。
2022-07-20 cs.PF math.PR
A 2$\times$2 random switching model and its dual risk model
在这篇文章中，一个特殊的情况下，M/G/2-队列被认为是两个服务器暴露于两种类型的工作，分布在服务器之间通过一个随机开关。在该模型中，确定了两个单服务器/两个服务器一起/一个（未指定）服务器的工作负载缓冲区阻塞概率的渐近行为。因此，人们必须区分工作是重尾还是轻尾。通过所研究的M/G/2-排队的对偶风险模型，得到了不同破产概率的渐近性态。
2020-12-01 math.PR
Analysis of Load Balancing in Large Heterogeneous Processor Sharing Systems
当系统中服务器数量较多且服务器具有异构服务率时，我们分析了多服务器处理器共享系统的随机动态负载均衡方案。特别是，我们专注于经典的两个负载均衡计划的权力和它的一个变种，其中一个新到达的工作被分配到服务器之间的两个随机选择的服务器具有最小的瞬时拉格朗日阴影成本。服务器上的瞬时拉格朗日影子成本由服务器上未完成作业的数量与服务器容量的比率给出。两种不同的分析方法，提出了每个方案。对于指数工作长度分布，使用平均场方法进行分析，对于更一般的工作长度分布，假设渐近独立性进行分析。对于这两种方案，都找到了计算工件平均逗留时间的解析表达式。建立了该方案对工件长度分布类型的渐近不敏感性。数值结果验证了理论结果，并表明，不同于均匀的情况下，本文考虑的两个类型的计划的权力可能并不总是导致更好的行为方面的平均逗留时间的工作。
2015-02-09 cs.DC cs.PF math.OC
Sharp Waiting-Time Bounds for Multiserver Jobs
本文研究多服务器作业在重负载扩展机制下的延迟性能，建立平均等待时间的尖锐上下界，刻画FCFS策略的精确阶，并证明最小需求优先（SNF）策略可达到所有策略的下界。
2023-04-13 cs.PF math.PR
Near Delay-Optimal Scheduling of Batch Jobs in Multi-Server Systems
针对 NBU 服务时间下多服务器并行批处理作业调度，本文证明 FUT、EDD 和 FCFS 三种低复杂度策略对三类延迟指标具有随机序意义下的近最优性，并给出常数或两倍性能界。
2023-09-28 cs.NI math.OC math.PR
Approximate performance analysis of generalized join the shortest queue routing
在本文中，我们提出了一个高度准确的近似性能分析的异构服务器系统的处理器共享服务的纪律和一般的作业大小分布下的广义加入最短队列（GJSQ）路由协议。GJSQ路由协议是众所周知的加入最短队列路由策略的自然扩张，该策略除了考虑每个服务器上的作业数量之外，还考虑了不相同的服务速率。这里感兴趣的性能度量是每个服务器上作业数量的平衡分布以及平均值和标准差。我们表明，后者的指标是近不敏感的工作规模分布模拟实验。通过应用一个单一的队列近似，我们每个服务器作为一个单一的服务器队列与状态相关的到达过程，独立于系统中的其他服务器，并推导出在服务器上的工作数量的分布。这些依赖于状态的到达率旨在捕获原始系统中服务器之间的固有相关性，并以一种相当非典型的方式表现。
2015-11-23 math.PR
Stability of Parallel Server Systems
在研究并行服务器系统的基本问题是，找到和分析“好”的路由策略到达服务器的工作。众所周知，如果关于工作负载过程的全部信息可用于中央调度器，则将作业分配给具有最小工作负载的服务器的{ \em加入最短工作负载}（JSW）策略是最优分配策略，因为它最大化服务器利用率，并且因此最小化逗留时间。当信息仅关于每个服务器的作业数量而不是关于它们的服务需求时，{ \em加入最短队列}（JSQ）策略是有效的分派策略。如果没有关于系统状态的信息，则需要采用其他调度策略，例如$d$的幂路由策略，其中每个到达的作业加入随机均匀采样的$d \ge 1$队列中的最短队列。（在后一种策略下，该系统被称为{ \em超市模型}。）在本文中，我们研究了并行服务器系统的稳定性问题，假设路由错误发生，到达可能会被路由到“错误”（而不是最小的）队列的正概率。我们表明，即使采用“非空闲”的调度策略，新来的总是路由到一个空闲的服务器下，如果有任何可用的，系统的性能可以比下的政策，选择一个服务器均匀随机差得多。更具体地说，我们证明，通常的交通强度$ρ< 1$不保证系统是稳定的。
2019-04-23 math.PR
Job Allocation in Large-Scale Service Systems with Affinity Relations
我们考虑在服务系统的工作和服务器之间的亲和力关系的负载平衡。具体地，到达的作业可以从与该作业相关联的特定选择中分配给快速的主服务器，或者分配给辅助服务器以较慢的速率处理。这样的作业-服务器亲和关系可以基于地理邻近性或云场景中的数据局部性来对网络拓扑进行建模。我们引入了负载平衡方案，将作业分配给主服务器（如果可用），否则分配给辅助服务器。一种新的耦合结构的开发，以获得稳定性条件和性能界限，使用耦合技术。我们还对对称模型实例进行了流体极限分析，揭示了模型参数和负载平衡性能之间的微妙相互作用。
2018-12-27 math.PR
Parallel queues with synchronization
出于对当今大规模并行计算能力日益增长的兴趣，我们分析了一个排队网络，其中有许多并行服务器，作业根据泊松过程到达。每个作业在到达时被分成几个部分，这些部分被随机路由到网络中的特定服务器，而没有关于服务器的各个队列的状态的集中信息。该系统的主要特点是，作业的不同部分必须以同步的方式启动它们的服务。此外，该系统在FCFS的基础上运行。同步和服务规则在服务器之间产生阻塞和空闲，这通过工作的并行化获得的快速服务时间来补偿。我们分析了稳态等待时间分布下的许多服务器的限制，并提供确切的尾部渐近，这些渐近推广著名的Cramér-Lundberg近似的单服务器队列。
2015-07-16 math.PR
The generalized join the shortest orbit queue system: Stability, exact tail asymptotics and stationary approximations
我们介绍了\textit{generalized join the shortest queue model with retrials}和两个无限容量的轨道队列。三个独立的Poisson作业流（即一个\textit{smart}和两个\textit{dedicated}流）流入最多可容纳一个作业的单台服务系统。发现服务器被占用的到达作业被路由到轨道，如下所示：来自\textit{smart}流的阻塞作业被路由到最短轨道队列，并且在平局的情况下，它们随机选择一个轨道。来自\textit{dedicated}流的阻塞作业被直接路由到其轨道。轨道作业以不同的重试率重试与服务器连接，即，异构轨道队列这种系统的应用中发现的无线合作网络的建模。我们感兴趣的是这个模型的平稳分布的渐近行为，只要系统是稳定的。更确切地说，我们调查的条件下，最小轨道队列长度的尾部渐近是完全几何。此外，我们应用启发式渐近方法来获得近似的稳态联合轨道长度分布。给出了数值算例，结果表明渐近分析和启发式方法所得结果是一致的。
2021-11-25 cs.PF math.PR
On the Control of Fork-Join Networks
作业的处理顺序地和并行地发生的网络在许多应用领域中是普遍的，例如计算机系统、医疗保健、制造和项目管理。作业的并行处理引起的同步约束，可以是一个主要的原因作业延迟。与只具有顺序作业处理的前馈排队网络相比，具有同步约束的网络的逼近和控制较少被理解。一个著名的建模框架是fork-join处理网络，在这个框架中，同步约束非常重要。我们的目标是找到调度规则fork-join处理网络与多个作业类型，其中有第一个fork操作，然后可以并行执行的活动，然后加入操作。困难在于，一些可以并行执行的活动需要共享资源。我们解决的调度问题，共享服务器（即，哪种类型的工作优先级每次服务器变得可用）时，该服务器是在高负荷服务，并证明了一个渐近最优的结果。
2016-06-14 math.PR
Large Deviations Optimal Scheduling of Closed Queueing Networks
研究了工件数固定的封闭排队网络中动态调度控制的设计问题。每次服务器变得可用时，控制器在选择从中服务作业的缓冲区方面具有（有限的）灵活性。如果在任何兼容的缓冲区中没有可用的作业，则服务器空闲。如果作业被提供，它将重新定位到“目的地”缓冲区。我们研究如何通过大偏差分析来最大化稳态吞吐量。我们提出了一个家庭的简单的状态依赖的政策，称为缩放最大权重（SMW）的政策，动态管理网络中的工作分布。我们证明，在一个完整的资源池条件下（类似于霍尔的婚姻定理的条件），任何SMW政策导致指数衰减的吞吐量-损失率的工作数量扩展到无穷大。此外，有一个SMW的政策，实现最佳的损失指数之间的所有调度政策，我们分析指定此政策的服务率和路由概率。最佳SMW策略在结构性供应不足的服务器附近保持高作业水平。我们的方法也适用于开放的网络设置，并导致指数最优的政策。
2022-10-14 math.OC math.PR
Functional central limit theorems for Markov-modulated infinite-server systems
本文研究了马尔可夫调制的M/M/ $\infty$队列，重点研究了系统中作业数的相关结构。主要结果描述了系统的渐近行为下的一个特定的缩放模型参数的功能中心极限定理。更具体地说，依赖于鞅中心极限定理，这一结果是成立的，覆盖的情况下，到达率由一个因素$N$和$N^α$的背景过程的转移率加快，一些$α>0$。结果揭示了一个有趣的二分法，$α>1$和$α<1$分别具有关键不同的行为。的限制高斯过程，这是Ornstein-Uhlenbeck型，明确确定，它是根据明确的结果的平均值，方差和协方差的系统中的工作数量。
2016-01-12 math.PR
Load Balancing with Individually Heterogeneous Servers
The University of Edinburgh（爱丁堡大学）；University of Warwick（华威大学）
研究具有个体异构服务器的系统中JSQ负载均衡策略的扩散极限，基于测度值过程开发框架统一分析，确定区分不同平局决胜规则性能的关键对象，找到渐近最优的平局决胜规则并通过耦合比较证明结果。
2026-07-16 math.OC math.PR
Asymptotic Optimality of the Speed-Aware Join-the-Shortest-Queue in the Halfin-Whitt Regime for Heterogeneous Systems
本文证明速度感知最短队列（SA-JSQ）策略在Halfin-Whitt流量机制下对异构服务器系统具有渐近最优性，通过马尔可夫过程弱收敛到二维反射OU过程、Stein方法及耦合论证，证明其在稳态下渐近最小化扩散尺度化的作业总数和等待作业数。
2024-10-21 cs.PF math.PR
Balancing Independent and Collaborative Service
Cornell University（康奈尔大学）
本文研究了一种两种类型服务器排队系统，提出基于阈值结构的启发式方法，用于平衡独立与协作服务，实验证明其在高队列长度下具有较高的准确性和鲁棒性。
2026-01-20 cs.SY eess.SY math.OC
Admission and routing of soft real-time jobs to multiclusters: Design and comparison of index policies
出于对时间敏感的电子服务应用程序，我们考虑设计有效的政策，在马尔可夫模型的动态控制的准入和路由的一个单一的类的实时事务的多个异构集群的Web服务器，每个都有自己的队列和服务器池。事务具有响应时间截止日期，如果错过了后者，则会一直持续到完成。每作业拒绝和截止日期错过罚款。由于计算最优策略是棘手的，我们的目标是设计接近最优的启发式政策，是易于处理的大规模系统。制定了四项政策：静态最优Bernoulli分裂（BS）策略和三种索引策略，分别基于单独最优（IO）行为、一步策略改进（PI）和不安分强盗（RB）独立性。计算研究表明，PI是最好的这样的政策，始终接近最优。在纯路由情况下，PI和RB策略都接近最优。
2022-07-26 math.OC math.PR
A Stochastic Reliability Model of a Server under a Random Workload
到任何服务器的流量很少是恒定的。此外，每个服务请求所带来的工作负载通常是事先未知的，并且每个请求可能会给服务器带来不同的工作负载。Cha和Lee（2011）提出了一个可靠性模型，其中每个请求带来相同且恒定的工作负载。在本文中，我们推广的模型，允许请求带来一个未知的随机压力的服务器。作业通过非齐次泊松过程到达服务器。服务时间是随机的，每一个作业都给服务器的故障率增加一个随机压力Hj ~ H，直到作业完成。导出了这种服务器的生存函数和服务器的效率。
2015-11-13 math.PR
Stability of JSQ in queues with general server-job class compatibilities
我们考虑泊松流的指数分布的工作到达超图的队列的每个边缘。在到达时，传入作业被根到对应顶点中的最短队列。这推广了许多已知的模型，如幂d负载平衡和JSQ（加入最短队列）上的通用图。我们提供了一个通用的条件，该模型的稳定性。我们表明，一些图形拓扑结构导致的能力损失，这意味着更多的限制性稳定条件比，例如，完全图。
2020-03-10 math.PR
Heavy-Traffic Optimality of a Stochastic Network under Utility-Maximizing Resource Control
我们研究了一个随机网络，由一组服务器处理多个类别的工作。每个作业类别在处理时需要并发占用多个服务器，并且每个服务器在作业类别之间以领先的处理器共享机制共享。服务能力的分配是一种实时控制机制：在每个网络状态中，控制是对使一般效用函数最大化的最优化问题的解决方案。而这种资源控制优化在"贪婪“的方式，相对于每个状态，我们建立其渐近最优性方面（a）推导的流体和扩散限制的网络在此控制下，和（b）确定一个费用函数，是最小化的扩散限制，随着一个表征的所谓的不动点状态的网络。
2006-01-05 math.OC math.PR
Approximate Formulas for Characteristics of Multichannel LIFO Preemptive-Resume Priority Queueing System
本文研究了一个具有Poisson输入和任意服务时间分布的多通道抢占-恢复优先级调度系统。具有相同优先级的作业按照后进先出原则进行服务。如果在作业到达的时刻，所有服务器都忙，并且至少一个服务器忙于不高于到达作业的优先级的作业的服务，则作业的服务被抢占，使得被抢占的作业的优先级从服务中的作业的优先级中最低。被抢占作业的服务稍后恢复。本文给出了给定优先级工件的逗留时间的近似计算公式以及系统的一些其它特性。
2022-06-18 math.PR
Separation of timescales in a two-layered network
我们调查了一个计算机网络，包括两层发生在，例如，应用服务器。第一层包含了多服务器节点网络中的作业到达，我们将其建模为多服务器Jackson网络。在第二层，这些节点上的活动服务器现在充当由公共CPU服务的客户。我们的主要结果表明，分离的时间尺度在高负荷服务：随机性的主要来源发生在（聚合）CPU层，不同类型的节点之间的相互作用在其他层收敛到一个不动点在一个更快的时间尺度，这也产生了一个状态空间崩溃属性。除了这些基本的见解，我们还获得了一个明确的近似的联合法律的系统中的工作，这是可证明的准确的重载系统和执行数值以及中等负荷系统的数量。所得到的结果可以应用于线程池尺寸在应用服务器中的模型，而该技术似乎适用于其他分层系统。
2014-04-28 cs.PF math.PR
Sensitivity of Mean-Field Fluctuations in Erlang loss models with randomized routing
在本文中，我们研究了一个大型系统的$N$服务器，每个容量处理最多$C$同时作业和传入的作业路由到一个服务器，如果它具有最低的占用率之间的$d$（出N）随机选择的服务器。假定路由到没有空位的服务器的作业被阻止并丢失。这样的随机化策略被称为JSQ（d）（加入$d$之外的最短队列）策略。在假设工件到达是一个具有$Nλ^{(N)}$速率的泊松过程，其中$λ^{(N)}=σ-\fracβ{\sqrt{N}}$，$σ\in\mb{R}_+$和$β\in\mb{R}$，当服务时间分布为指数分布时，我们建立了波动过程在瞬态和稳态区域的泛函中心极限定理（FCLTs）.特别是，我们证明了极限是一个Ornstein-Uhlenbeck过程，其均值和方差取决于所考虑的模型的平均场。使用这一点，我们得到的阻塞概率的近似大$N$，在那里我们可以精确地估计一阶近似的精度。
2021-01-16 cs.PF math.PR
Power-of-$d$-Choices with Memory: Fluid Limit and Optimality
本文提出带本地记忆的$d$选择幂负载均衡算法，证明其在系统负载满足条件时具有渐近最优性，不满足时队列长度有严格上界，量化了记忆对随机负载均衡的性能提升作用。
2019-04-23 cs.PF math.PR
Approximations and Optimal Control for State-dependent Limited Processor Sharing Queues
本文研究了服务速率依赖于占用服务器作业数的处理器共享服务器的近似与控制，提出基于重交通扩散分析的近优控制策略，通过构造状态依赖的处理器共享服务器序列获得漂移函数，并通过数值算法解决动态并发限制控制问题。
2014-08-30 cs.SY eess.SY math.OC
Near-Optimal Stochastic Bin-Packing in Large Service Systems with Time-Varying Item Sizes
本文针对服务系统中作业资源需求时变的问题，提出 JRS 分派策略，通过服务器独立评估接受作业来平衡吞吐量与容量超限风险，并在大规模到达率下实现 O(√r) 的加性最优性差距，改进了现有结果。
2023-10-30 cs.PF math.PR
Comparison of the FCFS and PS discipline in Redundancy Systems
我们认为最高指挥官。具有$N$并行服务器的冗余系统，其中传入作业立即复制到随机统一选择的$d$服务器（无需替换）。作业在第一个副本完成后立即结束服务，之后所有剩余的副本都将被放弃。我们比较了先来先服务（FCFS）和处理器共享（PS）的纪律的稳定性条件，尾部行为的延迟和预期的延迟的基础上的性能。
2021-03-24 cs.PF math.PR
