OpenCluster: A Flexible Distributed Computing Framework for Astronomical Data Processing
现代天文望远镜产生的数据量非常大,而且还在迅速增长。然而,目前的高性能数据处理架构/框架并不适合天文学家,因为它们的局限性和编程困难。因此,在本文中,我们提出了OpenCluster,一个开源的分布式计算框架,以支持快速发展的高性能处理管道的天文大数据。我们首先详细介绍了OpenCluster的设计原则和实现,并提出了由框架促进的API。然后,我们展示了一个案例,其中OpenCluster是用来解决复杂的数据处理问题,开发一个管道的明根图超宽光谱射电日像仪。最后,我们提出了我们的OpenCluster性能评估。总的来说,OpenCluster不仅提供了高容错性和简单的编程接口,而且还提供了一种灵活的方法来扩展交互实体的数量。OpenCluster提供了一个易于集成的分布式计算框架,可快速开发高性能的天文望远镜数据处理系统,并大大降低软件开发费用。
2017-01-18 astro-ph.IM cs.DC
Flexible Paxos: Quorum intersection revisited
分布式共识是现代分布式系统的组成部分。广泛采用的Paxos算法使用两个阶段,每个阶段都需要多数同意,以可靠地达成共识。在本文中,我们证明了Paxos,这是许多生产系统的基础,是保守的。具体来说,我们观察到Paxos的每个阶段都可能使用不相交的法定人数。多数法定人数是不必要的,因为交叉只需要跨阶段。使用这种削弱的要求,在原来的配方,我们提出了灵活的Paxos,它概括了Paxos算法,提供灵活的法定人数。我们表明,灵活的Paxos是安全的,高效的,易于利用现有的分布式系统。最后,我们讨论了这一结果的广泛影响。例子包括当接受者的数量是偶数时,通过将第二阶段法定人数的大小减少一个来提高可用性,以及利用小的不相交的第二阶段法定人数来加速稳态。
2016-08-24 cs.DC
Flexible Scheduling of Distributed Analytic Applications
这项工作解决了调度用户定义的分析应用程序,我们定义为高层次的组合框架,它们的组件,以及必要的逻辑进行工作的问题。我们应用程序定义中的关键思想是区分组件的类别,包括刚性和弹性类型:前者是应用程序取得进展所需的,后者有助于减少执行时间。我们发现,调度这样的应用程序的问题提出了新的挑战,现有的方法解决效率低下。因此,我们提出了一种新的,灵活的启发式调度分析应用程序的设计和评估,其目的是在高系统的响应能力,通过有效地分配资源。我们的算法使用跟踪驱动的模拟进行评估,大规模的真实系统跟踪:我们灵活的调度程序优于基线方法在各种指标,包括应用程序的周转时间,和资源分配效率。我们还提出了一个成熟的系统,我们称之为佐伊,它结合了本文提出的想法的设计和评估,并报告具体的改进,在效率和性能方面,相对于我们的系统的前几代。
2016-12-07 cs.DC
Edge-PRUNE: Flexible Distributed Deep Learning Inference
低资源端点设备和边缘服务器之间的协作深度学习推理在过去几年中受到了极大的研究兴趣。这种计算分区可以帮助减少端点设备能耗并改善延迟,但同样重要的是,还有助于保护敏感数据的隐私。本文描述了Edge-PRUNE,一个灵活但轻量级的计算框架,用于在边缘服务器和一个或多个客户端设备之间分发机器学习推理。与以前的方法相比,Edge-PRUNE基于正式的并行计算模型,并且对机器学习训练框架是不可知的,同时为利用深度学习加速器(如嵌入式GPU)提供广泛的支持。本文的实验部分通过两个异构端点设备和一个边缘服务器上的图像分类和对象跟踪应用程序,通过无线和物理连接演示了Edge-PRUNE的使用和性能。例如,通过协作推理,基于SSD-Mobilenet的对象跟踪的端点设备推理时间加快了5.8倍。
2022-04-27 cs.DC
Flexible Distributed Particle Filtering for the Internet of Things via Aggregate Computing
提出基于聚合计算的场分布式粒子滤波方法,通过解耦滤波逻辑与协调策略,实现融合中心、测量函数和信息传播等维度的灵活定制,在统一框架下权衡精度、通信开销与鲁棒性。
2026-06-18 cs.DC
Distributed Flexible Nonlinear Tensor Factorization
Purdue University(普渡大学);Lawrence Berkeley Lab(劳伦斯伯克利实验室);Yahoo! Research(雅虎研究院);University of Electronic Science and Technology of China(电子科技大学);University of Cambridge(剑桥大学)
张量分解是分析多向数据的有力工具。与传统的多线性方法相比,非线性张量分解模型能够捕捉数据中更复杂的关系。然而,它们是计算昂贵的,并且在极端数据稀疏的情况下可能遭受严重的学习偏差。为了克服这些限制,在本文中,我们提出了一个分布式的,灵活的非线性张量分解模型。我们的模型可以有效地避免现有TGP公式中Kronecker乘积的昂贵计算和结构限制,允许选择张量条目的任意子集来进行训练。与此同时,我们推导出一个易于处理和紧密的变分证据下界(ELBO),使高度解耦,并行计算和高质量的推理。在此基础上,提出了一种MapReduce框架下的分布式推理算法,该算法不需要键值,能够充分利用SPARK等快速MapReduce系统中的内存缓存机制.实验结果充分证明了我们的方法在预测性能和计算效率方面的优势。此外,我们的方法显示了一个有前途的潜力,在应用程序的点击率(CTR)预测在线广告。
2016-05-22 cs.AI cs.DC cs.LG
Tessel: Boosting Distributed Execution of Large DNN Models via Flexible Schedule Search
University of Science and Technology of China(中国科学技术大学);Microsoft Research(微软研究院)
本文提出自动化系统 Tessel,通过利用高效调度中重复模式的洞察并采用两阶段方法,为分布式 DNN 训练和推理搜索高效调度,显著提升了性能并实现了高达 5.5 倍训练加速和 38% 推理延迟降低。
2023-11-26 cs.AI cs.DC
XDMA: A Distributed, Extensible DMA Architecture for Layout-Flexible Data Movements in Heterogeneous Multi-Accelerator SoCs
针对异构加速器间数据传输的布局转换开销与互连利用率低的问题,提出分布式可扩展DMA架构XDMA,通过硬件地址生成器、配置与传输分离及灵活插件,实现高链路利用率,面积开销低且显著提升系统性能。
2025-08-11 cs.AR cs.DC
MXNet: A Flexible and Efficient Machine Learning Library for Heterogeneous Distributed Systems
U. Washington(华盛顿大学);CMU(卡内基梅隆大学);Stanford(斯坦福大学);NUS(新加坡国立大学);TuSimple(图森未来);NYU(纽约大学);Microsoft(微软);U. Alberta(阿尔伯塔大学);MIT(麻省理工学院);NYU Shanghai(上海纽约大学)
MXNet是一个多语言机器学习(ML)库,用于简化ML算法的开发,特别是深度神经网络。嵌入在宿主语言中,它混合了声明性符号表达式和命令式张量计算。它提供自动微分来导出梯度。MXNet具有计算和内存效率,可在各种异构系统上运行,从移动设备到分布式GPU集群。本文描述了MXNet的API设计和系统实现,并解释了如何以统一的方式处理符号表达式和张量运算的嵌入。我们的初步实验表明,使用多个GPU机器的大规模深度神经网络应用程序的结果很有希望。
2015-12-03 cs.DC cs.LG cs.MS
High-Performance Sorting-Based k-mer Counting in Distributed Memory with Flexible Hybrid Parallelism
针对现有分布式内存k-mer计数方法缓存效率低、内存消耗高、并行灵活性不足的问题,提出基于排序的HySortK计数器,通过优化通信与混合并行实现性能提升与内存降低,并验证了实际集成效果。
2024-07-10 cs.DC q-bio.GN
DeFT: Mitigating Data Dependencies for Flexible Communication Scheduling in Distributed Training
针对分布式数据并行训练中通信调度现有方案的三大缺陷,提出DeFT方案,将调度转化为多背包问题,通过延迟更新等技术发掘重叠机会并保障精度,实验验证其在多基准上实现显著加速。
2025-03-21 cs.DC
Flexible Session Management in a Distributed Environment
分布式系统使用的许多安全通信库,如SSL、TLS和SSL,都无法明确区分身份验证层、会话层和通信层。本文介绍了Condor高吞吐量计算软件所使用的安全通信库CEDAR,并指出CEDAR将这些层分离后对分布式计算系统的好处。无论使用哪种身份验证方法,CEDAR都会建立一个安全的会话密钥,该密钥可以灵活地用于多种功能。我们演示了如何分层的安全会话方法可以避免往返和网络身份验证中固有的延迟。创建不同的会话管理层允许通过将会话委托给系统中的其他组件来优化以提高可伸缩性。此会话委派创建了一个信任链,可减少建立安全连接的开销,并支持集中实施系统范围的安全策略。此外,基于UDP数据报的安全信道经常被现有的库忽视,我们展示了CEDAR的结构如何适应这一点。作为这项工作的效用的一个例子,我们展示了如何使用委托的安全会话和其他技术固有的CEDAR的架构,使美国CMS,以满足其可扩展性的要求,在大规模的部署秃鹰,广域网系统。
2010-11-02 cs.DC
Universal Checkpointing: A Flexible and Efficient Distributed Checkpointing System for Large-Scale DNN Training with Reconfigurable Parallelis
UIUC(伊利诺伊大学香槟分校);Microsoft(微软);Snowflake
本文提出通用检查点系统UCP,通过将检查点结构与并行策略和硬件配置解耦,并设计基于模式的重配置流水线,实现大规模DNN训练中灵活高效的并行策略重配置,显著提升训练对动态硬件环境的适应能力。
2025-07-04 cs.DC cs.LG
Fast and Flexible Spiking Network Simulations on Massively Distributed On-Chip Memory Accelerators
Jülich Research Centre(于利希研究中心);RWTH Aachen University(亚琛工业大学)
本研究针对脉冲神经网络模拟速度不足的问题,提出基于分组的映射与通信策略,在Graphcore IPU上实现皮质微电路22.7倍生物实时速度,为神经元模拟提供通用加速策略。
2026-10-13 cs.DC cs.PF
MESH: A Flexible Distributed Hypergraph Processing System
随着大型在线社交网络的快速增长,分析大规模社会结构和行为的能力变得至关重要,这导致了一些可扩展的图处理系统的开发。然而,在现实中,社交互动不仅发生在图模型中的成对个体之间,而且发生在多用户组的上下文中。研究表明,这种群体动态可以通过更一般的超图模型更好地建模,从而需要构建可扩展的超图处理系统。在本文中,我们提出了MESH,一个灵活的分布式框架可扩展超图处理。MESH提供了一个易于使用和表达的应用程序编程接口,自然扩展了许多流行的图形处理系统中常见的顶点模型。我们的框架提供了一个灵活的实现基础上的底层图处理系统,并使不同的设计选择的关键实现问题的分区超图表示。我们在Apache Spark中流行的GraphX图形处理框架之上实现了MESH。使用各种真实的数据集和在本地8节点集群以及65节点Amazon AWS测试平台上进行的实验,我们证明了MESH提供了基于数据和应用程序特征的灵活性,以及集群大小的可扩展性。我们进一步表明,它在性能上与基于Spark的另一个超图处理系统HyperX具有竞争力,同时提供了一个更简单的实现(需要少5倍的代码行),从而表明简单性和灵活性不需要以性能为代价。
2019-05-10 cs.DC
FLCD: A Flexible Low Complexity Design of Coded Distributed Computing
我们提出了一种灵活的低复杂度编码分布式计算(CDC)设计(FLCD),并在Amazon Elastic Compute Cloud(Amazon EC2)上进行了实证评估。CDC可以通过交易增加的map计算来加快MapReduce计算,以减少通信负载和洗牌时间。FLCD的一个主要新颖之处是利用设计自由度来定义映射和简化函数,以开发渐近齐次系统,从而在一般MapReduce框架下支持不同的中间值(IV)大小。与具有恒定IV大小的现有设计相比,FLCD在适应网络参数方面提供了更大的灵活性,并且通过需要更少的输入文件和混洗组来显著降低实现复杂性。FLCD方案是第一个提出的低复杂度CDC设计,可以在具有任意数量节点和计算负载的网络上运行。我们通过在Amazon EC2集群上执行TeraSort算法来对FLCD进行实证评估。这是第一次,CDC洗牌时间的理论预测验证的经验评估。评估结果表明,与传统的未编码MapReduce相比,速度提高了2.0到4.24倍,总时间减少了12%到52%,并且与现有的CDC方案相比,操作网络参数范围更广。
2020-08-13 cs.DC cs.IT cs.PF
Open Source Vizier: Distributed Infrastructure and API for Reliable and Flexible Blackbox Optimization
Google Research(谷歌研究院)
Vizier是Google事实上的黑盒和超参数优化服务,优化了Google一些最大的产品和研究工作。为了在调整数千个用户的关键系统的规模上运行,Google Vizier解决了关键的设计挑战,提供了多种不同的功能,同时保持了完全的容错性。在本文中,我们介绍了开源(OSS)Vizier,一个独立的基于Python的黑盒优化和研究接口,基于谷歌内部的Vizier基础设施和框架。OSS Vizier提供了一个能够定义和解决各种优化问题的API,包括多度量、早期停止、迁移学习和条件搜索。此外,它被设计成一个分布式系统,确保可靠性,并允许多个并行评估用户的目标函数。灵活的基于RPC的基础设施允许用户从任何语言编写的二进制文件访问OSS Vizier。OSS Vizier还提供了一个后端(“Pythia”)API,为算法作者提供了一种将新算法与核心OSS Vizier系统接口的方法。开放源码软件Vizier可在https://github.com/google/vizier上查阅。
2023-01-10 cs.DC cs.LG stat.ML
Barycentric Coded Distributed Computing with Flexible Recovery Threshold for Collaborative Mobile Edge Computing
本文提出基于重心有理插值的近似编码分布式计算方案,解决现有方案恢复阈值固定和编码极点问题,实现任意结果解码、数值稳定及无极点编解码,并集成BRI梯度编码算法加速训练,实验证明其在等待时间和精度上优于现有方案。
2025-09-11 cs.DC
SLFS: a Flexible, Low-Cost Distributed File System Using Serverless Designs
Northeastern University(东北大学)
针对传统分布式文件系统资源利用率低、弹性不足的问题,提出基于无服务器函数的SLFS系统,通过键值存储和短生命周期多线程设计,实现毫秒级弹性伸缩,在S3等后端上降低成本63%-68%。
2026-07-03 cs.DC
FloatSOM: GPU-Accelerated, Distributed, Topology-Flexible Self-Organizing Maps
John Curtin School of Medical Research, Australian National University(澳大利亚国立大学约翰·库廷医学研究学院);Department of Information Technology and Electrical Engineering, ETH Zürich(苏黎世联邦理工学院信息科技与电气工程系);Mathematical Data Science Centre, Australian National University(澳大利亚国立大学数学数据科学中心);Walter and Eliza Hall Institute(沃尔特和伊丽莎白·霍尔研究所)
FloatSOM通过多GPU执行、内存盘流式传输和新型拓扑结构,提升了大规模自组织映射的性能与效率,降低量化误差并实现高吞吐量分布式训练。
2026-04-29 cs.DC cs.LG
GraphTheta: A Distributed Graph Neural Network Learning System With Flexible Training Strategy
Ant Group(蚂蚁集团);Fudan University(复旦大学);Guangzhou University(广州大学);Zhejiang University(浙江大学);Tsinghua University(清华大学)
图神经网络(GNNs)已被证明是一个强大的工具,用于分析非欧几里德图数据。然而,缺乏有效的分布式图学习系统严重阻碍了GNN的应用,特别是当图很大并且GNN相对较深时。在这里,我们提出了GraphTheta,第一个分布式和可扩展的图形学习系统建立在以顶点为中心的分布式图形处理与神经网络运营商实现为用户定义的功能。该系统支持多种训练策略,并在低内存的分布式(虚拟)机器上实现高效和可扩展的大图学习。为了方便图卷积,GraphTheta提出了一种新的图学习抽象NN-TGAR,以弥合图处理和图深度学习之间的差距。提出了一种分布式图引擎来进行混合并行执行的随机梯度下降优化,并支持一种新的集群批量训练策略。我们使用几个数据集来评估GraphTheta,这些数据集的网络大小从小到大。实验结果表明,GraphTheta可以很好地扩展到1,024名员工,用于在具有14亿个节点和41亿条属性边的行业规模支付宝数据集上训练内部开发的GNN,其中每个CPU虚拟机(dockers)的内存较小(5个)。$\sim$ 12 GB)。此外,GraphTheta可以通过高达$2.02\times$的性能优于DistDGL,具有更好的可扩展性,并且GraphLearn可以高达$30.56\times$。至于模型的准确性,GraphTheta能够学习与现有框架一样好的GNN。据我们所知,这项工作提出了文献中最大的边缘属性…
2023-01-17 cs.DC cs.LG
DASH: A C++ PGAS Library for Distributed Data Structures and Parallel Algorithms
我们提出了DASH,一个C++模板库,提供分布式数据结构和并行算法,并实现了编译器免费PGAS(分区全局地址空间)的方法。DASH提供了许多生产力和性能功能,例如全局视图数据结构、对所有者计算模型的有效支持、灵活的多维数据分布方案以及与STL(标准模板库)算法的互操作性。DASH还具有并行目标机器的灵活表示,并允许通过团队的概念利用几个分层组织的本地级别。我们在许多基准应用程序上评估DASH,并使用MPI双侧模型将科学代理应用程序移植到DASH。我们发现DASH提供了出色的生产力和性能,并展示了高达9800个核心的可扩展性。
2016-10-05 cs.DC
Online Distributed Scheduling on a Fault-prone Parallel System
我们考虑一个并行系统的$m$相同的机器容易发生不可预测的崩溃和重新启动,试图应付不断到来的任务要执行。任务具有不同的计算要求(即,处理时间或大小)。任务的流程、大小以及机器的崩溃和重启都被假设为由对手控制。然后,我们重点研究了在线分布式算法的任务的有效调度。我们使用竞争分析,考虑作为效率度量的完成负载,即,已完成任务的聚合大小。我们首先提出了最佳的完成负载竞争力算法时,可以注入的对手的不同的任务大小的数量是有界的。(It众所周知,如果没有限制,竞争力是无法实现的。我们首先考虑只有两种不同的任务大小,然后进行$k$不同的,在这两种情况下,最佳的完成负载的竞争力可以实现。然后,我们考虑有某种形式的资源增加的可能性,允许调度算法运行加速$s \geq 1$。在这种情况下,我们表明,所有的工作保存调度算法的竞争力可以通过使用足够大的加速比增加。
2016-03-18 cs.DC
Holonic Learning: A Flexible Agent-based Distributed Machine Learning Framework
Purdue University(普渡大学)
本文提出基于整子概念的分布式隐私保护学习框架 HoL,并通过加权聚合变体 HoloAvg 在 MNISt 的 IID/Non-IID 设置下验证其收敛性与竞争力。
2023-12-29 cs.AI cs.DC cs.LG
Communication-Aware Model Distributed Inference via Latent Representation Compression
University of Illinois Chicago(伊利诺伊大学芝加哥分校);Northeastern University(东北大学);The Ohio State University(俄亥俄州立大学)
针对资源受限边缘环境中的分布式模型推理,提出通过潜在表示压缩优化精度与通信成本权衡的框架,并采用闭式解、凸优化及随机对偶下降算法,满足延迟约束并验证有效性。
2026-09-28 cs.DC
RAFDA: A Policy-Aware Middleware Supporting the Flexible Separation of Application Logic from Distribution
由于中间件技术强加的固定分布策略,它们通常限制对象类在分布式应用程序中的使用方式。这些策略渗透到使用现有中间件系统开发的应用程序中,并强制对应用程序级语义进行不自然的编码。例如,应用程序员不能直接控制地址空间间参数传递语义。语义由应用程序的分布拓扑固定,这在设计周期的早期就决定了。这会导致应用程序在发布更改时变得脆弱。本文探讨的技术,提供控制的范围内的地址空间通信暴露给程序员,以帮助分布式应用程序的创建,维护和发展。所描述的系统允许应用程序中的任意对象被动态地暴露以供远程访问,从而允许编写应用程序而不考虑分发。程序员可以根据需要隐藏或暴露应用程序的分布式特性,允许在设计周期后期甚至动态地决定对象放置和分布边界。地址空间间参数传递语义也可以独立于对象实现并在设计周期中的不同时间决定,同样可能迟至运行时。此外,传输策略可以在每类、每方法或每参数的基础上定义,从而最大化可塑性。这种灵活性在开发新的分布式应用程序以及为现有应用程序创建管理和监视基础设施方面具有实用性。
2010-06-18 cs.DC
Torrent: A Distributed DMA for Efficient and Flexible Point-to-Multipoint Data Movement
Torrent提出一种分布式DMA架构,通过链式写入机制实现高效灵活的点对多点数据传输,相比传统组播方案在性能、灵活性和可扩展性上表现更优。
2025-12-19 cs.AR cs.DC
Making Systems More Robust with Flexible RPC Lookup
现代分布式系统在任何地方都使用名称。像Challow和ZooKeeper这样的Lockservice提供了一种有效的机制,可以将应用程序名称映射到服务器实例,但是正确使用它们需要大量容易出错的样板代码。应用程序员经常尝试编写包装器来抽象这种逻辑,但事实证明,有一种更通用、更简单的方法来处理这个问题。我们表明,通过扩展RPC库的现有名称解析功能,我们可以消除对这种恼人的样板代码的需要,同时使我们的服务更加健壮。
2013-03-11 cs.DC
FLUPS -- a flexible and performant massively parallel Fourier transform library
大规模并行傅立叶变换广泛应用于计算科学,特别是涉及无界泊松问题的计算流体动力学。在实践中,后者通常是最耗时的操作,因为其不可避免的所有对所有的通信模式。原始的flups库通过为无界泊松问题的连续解决方案量身定制的分布式傅立叶变换的实现来解决这个问题。然而,所提出的实现缺乏灵活性,因为它只支持以单元格为中心的数据布局,并具有一个普通的通信策略。这项工作沿着两个方向扩展了图书馆。首先,flups实现一般化,以支持以节点为中心的数据布局。其次,提供了三种不同的方法来处理通信:一种是所有对所有,两种是依赖于手动打包和MPI_Datatype通过网络进行通信的非阻塞实现。所提出的软件对无界,半无界和周期域的解析解进行了验证。的方法的性能进行比较,accFFT,另一个分布式FFT实现,使用周期性的情况下。最后,每个实现的性能指标进行了分析和详细的各种顶级欧洲设施高达49,152个核心。这项工作带来了一个完全生产就绪和高性能的分布式FFT库,具有所有可能类型的FFT和数据布局的灵活性。该代码可以在BSD-3许可证下在github.com/vortexlab-uclouvain/flups上获得。
2023-03-21 cs.DC physics.comp-ph
From Quantity to Quality: Massive Molecular Dynamics Simulation of Nanostructures under Plastic Deformation in Desktop and Service Grid Distributed Computing Infrastructure
基于高性能分布式计算的BOINC和EDGE桥技术的分布式计算基础设施(DCI)用于将序列分子动力学(MD)应用程序移植到具有桌面网格(DG)和服务网格(SG)的DCI的并行版本。测量了工作DG-SG DCI的实际度量,并且测量了主机性能的正态分布以及其他特征的对数正态分布的符号。(CPU、RAM、通过对大量铝纳米晶的大规模分子动力学模拟实验,验证了基于DG-SG DCI的分子动力学模拟的可行性和高效性($\sim10^2$ - $10^3$)。统计分析(Kolmogorov-Smirnov检验,矩分析,和自举分析)的缺陷密度分布在纳米晶体的系综已经表明,塑性变形模式的变化是由缺陷密度分布类型的质的变化超过系综的纳米晶体。一些限制(波动的性能、不可预测的资源可用性等)概述了典型DG-SG DCI的基本结构,并展示了其高效率、高加速比和低成本的优点。在DG DCI上部署允许从众多配置的模拟$\it{quantity}$中获得新的科学$\it{quality}$,方法是利用足够的计算能力在更短的时间内在更广泛的物理参数(配置)中进行MD模拟。
2014-04-23 cond-mat.mtrl-sci cs.CE cs.DC
Straggler Mitigation in Distributed Matrix Multiplication: Fundamental Limits and Optimal Coding
我们考虑的问题,大量的矩阵乘法,这是许多数据分析应用程序的基础,在一个大规模的分布式系统,包括一组工作节点。我们针对掉队者的延迟性能瓶颈,这是由于等待最慢的节点(或掉队者)完成其任务的不可预测的延迟。我们提出了一种新的编码策略,命名为\emph{entangled polynomial code},用于设计工作节点处的中间计算,以最小化恢复阈值(即,我们需要等待的工人数量,以计算最终的输出)。我们证明了纠缠多项式码在几种情况下的最优性,并表明它提供了有序的改进,比传统的计划,减少掉队。此外,我们描述了最佳恢复阈值之间的所有线性编码策略的$2$的一个因素内使用\emph{bilinear complexity},通过开发一个改进版本的纠缠多项式码。特别是,虽然评估双线性复杂性是一个众所周知的具有挑战性的问题,我们表明,线性编码策略的最佳恢复阈值可以近似在这个基本量的$2$的一个因素。另一方面,改进版本的纠缠多项式码,使进一步和有序减少恢复阈值,相比其基本版本。最后,我们表明,本文中开发的技术也可以扩展到其他几个问题,如编码卷积和容错计算,导致紧的特征。
2020-04-09 cs.DC cs.IT math.IT
Distributed Consistent Network Updates in SDNs: Local Verification for Global Guarantees
虽然SDN能够实现更灵活和自适应的网络操作,但(逻辑上)集中式重新配置会引入开销和延迟,这可能会限制网络的反应能力。本文提出了一种更加分布式的方法,在这种方法中,一致的网络更新是由交换机和路由器直接在数据平面上实现的。特别是,我们的方法利用了本地证明标签系统的概念,它允许数据平面元素在本地检查网络属性,我们表明这足以获得全局网络保证。我们展示了我们的方法,考虑三个基本的用例,并分析其性能和容错方面的好处。
2019-08-27 cs.DC cs.NI
Robust Asynchronous and Network-Independent Cooperative Learning
我们考虑通过分布式非贝叶斯学习的合作学习模型,其中代理网络试图共同商定一个假设,最好地描述了一个序列的本地可用的观察。最近提出的弱通信网络模型的基础上,我们提出了一个强大的合作学习规则,允许异步通信,消息延迟,不可预测的消息丢失,节点之间的直接通信。我们表明,我们提出的学习动力学保证网络中的所有代理将有一个渐近指数衰减的信念上的错误的假设,这表明所有代理的信念将集中在最佳假设。数值实验提供了一些网络设置的证据。
2020-10-20 cs.DC cs.MA cs.SI