TAOT: Topology-Aware Optimal Transport for Dynamic Expert Replica Placement in MoE Training
Baidu, Inc.（百度公司）
针对MoE训练中动态路由引发的负载不平衡问题，提出TAOT拓扑感知最优传输方法，可实现1.43倍训练加速，平衡质量优异且通信成本降幅最高达74%。
2026-08-05 cs.DC
Accelerating MoE Training through Expert Placement and Replica Coordination
School of Computer Science and Technology, Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳）计算机科学与技术学院）；Hong Kong University of Science and Technology（香港科技大学）
PlaceMoE通过联合优化专家布局与令牌-副本映射，结合梯度同步与注意力反向传播重叠技术，在32-GPU和64-NPU集群上，使MoE模型训练的A2A通信提速最高6.94倍、端到端训练提速1.74-2.33倍，优于VeOmni框架。
2026-10-14 cs.DC
Algorithms for Optimal Replica Placement Under Correlated Failure in Hierarchical Failure Domains
在数据中心，数据复制是用于确保客户数据可用性的主要方法。为了避免相关故障，云存储基础设施提供商使用树来对分层故障域进行建模，并且避免将大量数据副本放置在同一故障域内（即，在树的同一分支上）。典型的最佳实践确保副本分布在故障域，但相对较少的是已知的关于分布数据副本的优化算法。使用一个层次模型，我们回答如何跨故障域的副本最佳分配。我们制定了一个新的优化问题，在数据中心的副本放置。作为我们的问题的一部分，我们正式和解释一个新的标准，优化副本的位置。我们的总体目标是选择相关故障禁用尽可能少的副本的位置。我们提供了两个优化算法的依赖模型表示的树。我们首先提出了一个$O(n + ρ\log ρ)$时间动态规划算法放置$ρ$副本的一个单一的文件上的叶子（代表服务器）的树与$n$顶点。接下来我们考虑放置$m$数据块的副本的问题，其中每个块可能具有不同的复制因子。对于这个问题，我们给出了一个精确的算法，它运行在多项式时间时的偏斜，最大和最小的数据块之间的副本数量的差异，是常数。
2017-04-20 cs.DC cs.DM cs.DS
Data Placement and Replica Selection for Improving Co-location in Distributed Environments
在许多应用领域中，对大规模数据分析的需求不断增加，导致分布式数据管理系统的数量急剧增加，包括并行关系数据库和支持MapReduce等替代框架的系统。因此，对稀缺的数据中心资源（如网络带宽）的竞争日益增加;此外，为计算设备供电的能量需求也急剧增长。正如我们经验表明，通过在大量机器上分散数据来增加执行并行性可以实现减少查询延迟的预期目标，但在大多数情况下，可能会显着增加总资源和能源消耗。然而，对于许多分析工作负载，最小化查询延迟通常并不重要;在这种情况下，我们认为我们应该专注于最小化平均查询跨度，即，通过将经常一起访问的数据项托管在一起，参与处理查询的平均机器数量。在这项工作中，我们利用的事实，大多数分布式环境需要使用复制的容错，我们设计的工作负载驱动的副本选择和放置算法，试图尽量减少平均查询跨度。我们建模的历史查询工作量跟踪一组数据项的超图，并制定和分析的问题，通过绘制连接到几个研究良好的图论概念的副本放置。我们开发了一系列的算法来决定哪些数据项进行复制，以及在哪里放置副本。我们通过展示一系列合成和真实工作负载的结果来展示我们提出的方法的有效性。我们的实验表明，仔细的数据放置和复制可以显着减少平均查询跨度，从而显着减少资源消耗。
2013-02-18 cs.DB cs.DC
Locality, Latency and Spatial-Aware Data Placement Strategies at the Edge
本文针对边缘计算中的海量数据放置问题，利用数据放置框架比较了基于距离、延迟和空间感知的策略，发现基于空间感知的策略能提供与基于延迟策略相当且优于基于距离策略的服务质量。
2023-04-07 cs.DC
Energy Metrics for Edge Microservice Request Placement Strategies
本文研究边缘微服务请求放置的能量优化问题，将问题建模为旅行购买者问题并提出整数线性规划方法，通过仿真证明采用总体能量与边际能量两种不同度量会产生不同的放置策略，并分析了影响差异程度的参数。
2025-03-12 cs.DC
PrefixPlace: Provable Prefix Key-Value Placement for Large Language Model Serving under Heterogeneous Compute and Transfer Costs
The University of Melbourne（墨尔本大学）
针对异构计算与传输成本下LLM前缀KV放置的次优问题，提出PrefixPlace规划器，其性能接近最优且效率高，可提升RAG等场景的成本节省效果。
2026-08-04 cs.DC
Generalized Data Placement Strategies for Racetrack Memories
针对赛道存储器中现有数据放置策略跨架构次优的问题，提出结合存储架构、时序与活跃性信息的通用启发式及遗传算法方法，显著减少移位并提升性能、降低能耗。
2019-12-07 cs.DC
Optimizing API Gateway Placement in Multi-Cloud Kubernetes
针对多云Kubernetes集群的API网关部署，本文提出MILP模型与贪心算法，权衡成本、资源与延迟，贪心算法加速比高且成本接近最优，但部分场景无法满足延迟要求。
2026-08-28 cs.DC
QoS-Aware Resource Placement for LEO Satellite Edge Computing
随着提供全球宽带互联网接入的大型LEO卫星通信网络的出现，出现了在LEO网络内提供边缘计算资源的兴趣。LEO Edge承诺为全球客户端和物联网设备提供低延迟，高带宽的计算和存储资源访问，而无论其地理位置如何。目前的建议假设在每个LEO卫星上都有计算资源或服务副本，这需要大量的前期投资，并可能导致过度供应。为了有效地实施和使用LEO边缘，需要用于服务器和服务放置的方法，这些方法有助于选择卫星的最佳子集作为服务器或服务副本位置。在本文中，我们将展示如何利用LEO卫星网络的独特拓扑结构，将现有的研究资源放置在一个二维环面可以应用到这个问题。此外，我们扩展了现有的离散资源放置方法，允许放置QoS约束。在拟议的低轨卫星通信网络的模拟中，我们展示了QoS如何取决于轨道参数，我们提出的方法可以考虑到这些影响，现有的方法不能。
2022-02-25 cs.DC cs.NI
On Optimizing Replica Migration in Distributed Cloud Storage Systems
随着大规模互联网服务和大数据的广泛采用，云已经成为满足不断增长的存储需求的理想环境，这要归功于其看似无限的容量，高可用性和更快的访问时间。在这种情况下，数据复制被吹捧为提高数据可用性和减少访问时间的最终解决方案。然而，副本放置系统通常需要随着时间的推移在数据中心之间和数据中心内迁移和创建大量的数据副本，在网络负载和可用性方面产生了很大的开销。本文提出了一种有效的分布式云存储迁移方案CRANE。CRANE通过有效地管理地理分布式基础设施中的副本创建来补充任何副本放置算法，通过（1）最小化将数据复制到新副本位置所需的时间，（2）避免网络拥塞，以及（3）确保数据的最小可用性。我们的研究结果表明，与swift（用于管理数据存储的OpenStack项目）相比，CRANE能够最大限度地减少高达30%的副本创建时间和25%的数据中心间网络流量，同时确保数据的最低可用性。
2015-09-04 cs.DC cs.NI
Sea: A lightweight data-placement library for Big Data scientific computing
最近大量的开放科学数据促使科学计算从计算密集型向数据密集型转变。虽然存在许多大数据框架，可以最大限度地降低数据传输的成本，但很少有科学应用程序集成这些框架或采用数据放置策略来降低成本。科学应用程序通常依赖于成熟的命令行工具，这些工具需要完整的重新配置才能整合现有的框架。我们开发Sea是为了实现在HPC集群上执行的科学应用程序的数据放置策略，而无需重新编写工作流。Sea利用GNU C库拦截来拦截应用程序进行的符合POSIX的文件系统调用。我们设计了一个性能模型，并评估了Sea在处理代表性神经成像数据集（Big Brain）的合成数据密集型应用程序上的性能。我们的研究结果表明，海显着提高性能，高达3 $\times$的一个因素。
2022-07-04 cs.DC
Placement Semantics for Distributed Deep Learning: A Systematic Framework for Analyzing Parallelism Strategies
Adobe Inc（Adobe公司）
本文提出放置语义框架，通过分析不同并行策略在设备上的状态放置方式，统一了多种分布式训练方法，实现了对内存和通信成本的准确预测。
2026-01-05 cs.AI cs.DC
ML-based Adaptive Prefetching and Data Placement for US HEP Systems
针对美国高能物理系统缓存策略缺乏自适应性的问题，本文提出基于LSTM和CatboostRegressor的小时级缓存使用量与文件级访问预测方法，实现智能预取与数据放置，并计划在WRENCH模拟器中验证。
2025-04-23 cs.DC
ADASCALE: An Adaptive Scaling and Placement Framework for Microservices Under Dynamics
The University of Melbourne（墨尔本大学）
研究云边缘环境下微服务面临的多维度动态问题，提出ADASCALE框架，通过MAPE循环联合扩展和放置微服务副本，经实验验证能满足SLO目标，有效提升延迟和吞吐量。
2026-07-20 cs.DC cs.NI
Synthesizing Optimal Parallelism Placement and Reduction Strategies on Hierarchical Systems for Deep Learning
University of Cambridge（剑桥大学）；DeepMind
我们提出了一种新的表征的映射到分层加速器系统的多个并行形式（例如，数据和模型并行）是层次意识，大大减少了空间的软件到硬件的映射。我们通过实验验证了这些映射对全归约性能的实质性影响（高达448倍）。我们提供了一个新的语法指导的程序合成框架，能够分解减少一个或多个并行轴的集体序列的层次结构和映射感知的方式。对于69%的并行放置和用户请求的减少，我们的框架合成的程序在不同的GPU层次结构上进行评估时，性能优于默认的所有减少实现（最大2.04倍，平均1.27倍）。我们补充了我们的合成工具，模拟器超过90%的前10名的准确性，因此减少了对合成结果进行大量评估以确定一小部分最佳程序和映射的需要。
2021-11-16 cs.DC cs.LG cs.PL
Energy-aware Distributed Microservice Request Placement at the Edge
本文研究边缘微服务架构下的去中心化请求放置问题，将其建模为旅行购买者问题并提出整数线性规划公式，旨在满足延迟要求的同时最小化能耗，发现不同能耗指标会导致不同的放置决策与节能策略。
2024-08-25 cs.DC
Multi-objective application placement in fog computing using graph neural network-based reinforcement learning
Universitat de les Illes Balears（巴利阿里群岛大学）
本文提出利用图神经网络强化学习解决雾计算中应用部署的多目标优化问题，通过实时训练模型优化服务依赖关系，实验显示其在毫秒级内获得与遗传算法相当的Pareto集结果。
2026-05-14 cs.DC
Synergy via Redundancy: Adaptive Replication Strategies and Fundamental Limits
多服务器系统的最大可能吞吐量（或作业完成速率）通常是各个服务器的服务速率之和。最近的工作表明，启动多个副本的作业，并取消他们尽快完成一个副本可以提高吞吐量，特别是当服务时间分布有很大的变化。这意味着冗余实际上可以在服务器之间创建协同效应，使得它们的总体吞吐量大于单个服务器的总和。这项工作的目的是找到的基本限制的吞吐量的提升所取得的作业复制和最佳的复制政策，以实现it.While大多数以前的作品考虑前期复制政策，我们扩大了一套可能的政策，延迟推出的副本。最佳自适应复制策略的搜索可以制定为一个马尔可夫决策过程，使用它，我们提出了两个近视复制策略，MaxRate和AdaRep，自适应复制作业。为了量化这些和其他政策的最优性差距，我们推导出的服务能力的上限，这提供了基本的限制吞吐量的冗余系统。
2020-12-25 cs.DC cs.IT math.IT
Conflict-Free Replicated Data Types for Neural Network Model Merging: A Two-Layer Architecture Enabling CRDT-Compliant Model Merging Across 26 Strategies
Independent researcher（独立研究者）
本文提出了一种双层架构CRDTMergeState，通过将任何融合策略封装在CRDT兼容层中，解决了26种神经网络融合策略在分布式操作中无法满足交换律、结合律和幂等律的结构性问题，实现了强最终一致性。
2026-05-16 cs.AI cs.DC cs.LG
Shared KV Caching for Replicated 27B Inference: Correctness Failures and Performance Boundaries
UNSW Sydney（悉尼新南威尔士大学）
本研究通过工程案例验证共享KV缓存的正确性修复，并测量27B推理副本间延迟，发现交替放置可显著降低首令牌时间，而固定放置收益甚微。
2026-09-15 cs.DC cs.LG cs.PF
Optimal Content Placement for Peer-to-Peer Video-on-Demand Systems
在本文中，我们解决的问题，内容放置在对等系统中，以最大限度地利用对等点的上行链路带宽资源的目标。我们考虑系统性能下的多用户渐近。我们区分两种情况下，即“分布式服务器网络”（DSN）的请求是外源的系统，和“纯P2P网络”（PP2PN）的请求来自同行本身。对于这两种情况下，我们认为损失网络模型的性能，并确定渐近最优的内容放置策略的情况下，有限的内容目录。然后，我们转向另一种“大目录”的规模与同行人口的目录大小的规模。根据这种扩展，我们建立了每个对等体的存储空间必须无限增长，如果带宽利用率是最大化的。一个特定的随机图模型的属性有关的系统性能，然后，我们确定了一个内容放置策略和请求接受的政策，共同最大限度地提高带宽利用率，每个对等存储空间无限增长，虽然任意缓慢，与系统的大小。
2011-08-17 cs.DC cs.NI cs.PF
NEST: Network- and Memory-Aware Device Placement For Distributed Deep Learning
Georgia Institute of Technology（佐治亚理工学院）；University of Washington（华盛顿大学）
提出NEST框架，通过结构化动态规划统一模型并行、拓扑建模和内存可行性，在多种硬件和网络上实现高达2.43倍的吞吐量提升。
2026-05-24 cs.DC cs.LG stat.ML
