A LOCAL View of the Polynomial Hierarchy
该研究将经典计算复杂性方法拓展至分布式LOCAL模型,构建分布式多项式谱系并推广核心复杂性定理,证明该谱系无限,还提出用量词交替衡量问题局部性的新工具。
2025-09-04 cs.CC cs.DC cs.FL
Cache-Conscious Run-time Decomposition of Data Parallel Computations
多核架构的特点是高速缓存存储器的复杂层次结构,具有多个级别和大小。根据特定存储层次结构的特性来充分地分解应用程序是一项繁琐的任务,其可以获得显著的性能增益。当前最先进的内存层次感知并行计算将这一努力委托给程序员,要求他对并行编程和计算机体系结构都有深入的了解。在本文中,我们提出了这些内存层次结构相关的关注转移到运行时间系统,然后负责分配计算的数据在目标存储层次结构。我们评估我们的方法从性能的角度来看,它对常见的缓存忽略数据分解策略进行比较。
2015-11-19 cs.DC
AMECOS: A Modular Event-based Framework for Concurrent Object Specification
本文提出AMECOS模块化框架,用对象事件序列规约并发对象交互,分离合法性与一致性问题,并用于规约寄存器、共识等对象及证明共识不可能性。
2024-11-20 cs.DC
Distributed Computation of the Conditional PCRLB for Quantized Decentralized Particle Filters
条件后验Cramer-Rao下界(PCRLB)是一种有效的传感器资源管理准则,适用于大规模、地理分布的传感器网络。用于PCRLB(dPCRLB)的分布式计算的现有算法是基于原始观测,导致对估计机制的显著通信开销。这封信推导出分布式计算技术,用于确定量化的,分散的传感器网络(CQ/dPCRLB)的条件dPCRLB。CQ/dPCRLB的解析表达式推导,这是特别有用的粒子滤波为基础的估计。CQ/dPCRLB的准确性进行了比较,其集中对应通过蒙特卡洛模拟。
2013-07-20 cs.DC
Distributed anonymous function computation in information fusion and multiagent systems
我们提出了一个模型,确定性分布函数计算的网络相同的和匿名的节点,有界的计算和存储能力,不与网络的规模。我们的目标是描述可以在这个模型中计算的函数类。在我们的主要结果中,我们展示了一类不可计算的函数,并证明了这类函数之外的每一个函数至少可以被近似。以分布式方式计算平均值的问题在我们的发展中起着核心作用。
2009-07-28 cs.DC
Linearizable Implementations Do Not Suffice for Randomized Distributed Computation
线性化是算法设计者的黄金标准,用于从使用相同对象的原子版本的相应算法的正确性推断使用实现的共享对象的分布式算法的正确性。我们表明,线性化不足以达到这个目的时,过程可以利用随机化,我们讨论了存在的替代正确性条件。
2011-09-20 cs.DC
Parallel and distributed Gröbner bases computation in JAS
本文研究了多核计算节点的分布式并行计算机上的并行格罗布纳基算法。总结了三种不同的格罗布纳基实现:共享内存并行、纯分布内存并行和分布内存与共享内存相结合的并行。最后一种算法称为分布式混合算法,在主节点和工作节点之间只使用一个控制通信信道,并将多项式保存在节点上的共享内存中。多项式在单独的分布式数据结构中被异步传输到算法的控制流。实现是通用的,适用于所有实现的(精确)字段。我们提出了新的性能测量和讨论的算法的性能。
2010-07-30 cs.DC
A state of a dynamic computational structure distributed in an environment: a model and its corollaries
目前,人们对由底层规则计算环境组成的计算模型以及建立在它们之上的分布式计算结构有着极大的兴趣。这种模型的例子是细胞自动机,空间计算和时空晶体学。对于任何计算模型,定义不同但相关的计算结构的功能等价是很自然的。在有限自动机理论中,这种等价的一个例子是自动机同态,特别是自动机同构。如果我们继续坚持有限自动机理论,一个基本的问题出现了,什么是分布式计算结构的状态。本工作致力于具体解决这个问题。
2010-07-22 cs.DC cs.FL
Distributed Abstraction Algorithm for Online Predicate Detection
分析分布式计算是一个困难的问题,一般由于组合爆炸的状态空间的大小与系统中的进程的数量。通过抽象计算,可以避免不必要的探索。计算切片是一种针对给定谓词抽象分布式计算的方法。我们关注的是常规谓词,这是一个谓词家族,涵盖了大量用于运行时验证的常用谓词。现有的计算切片算法本质上是集中式的,其中单个进程负责以离线或在线方式计算切片。在本文中,我们提出了一个分布式的在线算法计算片的分布式计算的一个定期谓词。我们的算法在整个系统中分配工作和存储需求,从而降低了每个进程的空间和计算复杂性。此外,对于合取谓词,我们的算法还减少了每个进程的消息负载。
2013-06-04 cs.DC
1st International Workshop on Distributed Evolutionary Computation in Informal Environments
IWDECIE研讨会的在线会议记录,于2011年6月5日在新奥尔良举行。研讨会的重点是非传统的生物启发算法及其概念的影响。
2011-06-02 cs.DC cs.ET cs.NE
SpDISTAL: Compiling Distributed Sparse Tensor Computations
我们介绍SpDISTAL,稀疏张量代数的编译器,目标是分布式系统。SpDISTAL结合了张量代数表达式、稀疏数据结构、数据分布和计算分布的单独描述。因此,它使得稀疏张量代数表达式的分布式执行具有各种各样的稀疏数据结构和数据分布。SpDISTAL作为一个C++库实现,目标是基于任务的分布式运行时系统,可以为具有多核CPU和多个GPU的节点生成代码。SpDISTAL生成的分布式代码可以与特定稀疏张量代数表达式的手写分布式函数竞争性能,并且性能优于基于一般解释的系统一到两个数量级。
2022-07-28 cs.DC cs.PL
SerPyTor: A distributed context-aware computational graph execution framework for durable execution
本文提出 SerPyTor,一个轻量级、上下文感知的分布式计算图执行框架,以低设置开销和快速执行速度解决 Spark 集群在受限场景中上下文传播的不足。
2023-04-15 cs.DC
D-iteration based asynchronous distributed computation
Alcatel-Lucent Bell Labs(阿尔卡特-朗讯贝尔实验室)
本文通过简单示例解释D-迭代方法如何用于高效的异步分布式计算。
2012-02-14 cs.DC cs.NA math.NA
Making Asynchronous Distributed Computations Robust to Noise
我们考虑的问题,使分布式计算鲁棒噪声,特别是最坏的情况下(对抗)腐败的消息。我们给出了一个通用的分布式交互式编码方案,它模拟任何异步分布式协议,同时容忍所有消息的$Θ(1/n)$部分的最佳腐败,同时在通信复杂性中引起$O(n\log^2 n)$的适度爆破。我们的结果是第一个完全分布式的交互式编码方案,其中的通信网络的拓扑结构是不知道在事先。以前的工作需要一个协调节点连接到网络中的所有其他节点,或者假设一个同步网络,其中所有节点都已经知道网络的完整拓扑结构。
2017-02-23 cs.DC cs.DS
Communication Lower Bounds for Distributed-Memory Computations
我们给出了下限的通信复杂性需要解决几个计算问题,在分布式存储器并行机,即标准矩阵乘法,模板计算,比较排序,和快速傅立叶变换。我们重新审视的假设下,得出前面的结果,并提供新的下限,使用弱得多,适当的假设。我们的边界依赖于一个温和的假设工作分布,并加强以前的结果,需要计算之间的处理器平衡,或特定的初始分布的输入数据,或处理器的本地存储器的大小上界。
2013-09-20 cs.DC cs.DS
Strategies for Development of a Distributed Framework for Computational Sciences
本文讨论了一些通用的方法来开发基于网格的框架,使工作流程的建立,包括现有的软件在计算科学领域。我们强调的主要要求,解决了发展这样的框架。在网格环境中,方便的计算软件之间的互操作性的一些策略已经显示。提出了基于UML的工作流图形化描述工具。
2011-06-18 cs.DC physics.comp-ph
Distributed Parallelization of xPU Stencil Computations in Julia
我们提出了一种简单的方法,用于基于模板的xPU应用程序在规则交错网格上的分布式并行化,该网格在包ImplicitGlobalGrid.jl中实例化。该方法允许利用远程直接内存访问,并在数千个GPU上实现接近理想的实际应用程序的弱扩展。通信成本很容易隐藏在计算背后。
2022-11-28 cs.DC physics.comp-ph physics.geo-ph
Encoding and Node Choices in Transversal Fault-Tolerant Distributed Quantum Computations: An Initial Study
School of Information Technology, Deakin University(迪肯大学信息技术学院)
本研究比较了双变量自行车编码和节点选择对横向容错分布式量子计算的影响,指出仅减少纠缠比特消耗并非最佳标准,并展示了特定编码可实现并发逻辑操作。
2026-09-30 cs.DC quant-ph
Fully distributed PageRank computation with exponential convergence
Engineering Division of NYU Abu Dhabi(纽约大学阿布扎比分校工程学院)
本文提出一种完全分布式算法用于计算PageRank向量,该算法受匹配追踪启发,具有完全分布式实现、期望收敛性及指数收敛率和低存储需求(每个页面仅需两个标量值)的特点,并通过实验验证了这些发现。
2018-10-22 cs.DC cs.SY eess.SY
Byzantine-Resilient Distributed Computation via Task Replication and Local Computations
本文针对拜占庭工作节点下的分布式计算问题,提出基于任务复制与最小化本地计算的协议,并给出循环分配的闭式性能结果及通信效率改进方案。
2025-07-21 cs.DC cs.IT math.IT
Distributed computation of homology using harmonics
提出了一种计算单纯复形第一同调的分布式算法。这类算法在传感器网络的拓扑分析中非常有用,如其覆盖特性。我们采用生成树计算代数1-圈的基础,然后使用谐波有效地确定可收缩和同源的循环。该算法的计算复杂性为$O(|P|^ω)$,其中$|P|$远小于边数,$ω$为矩阵矩阵的阶的复杂度阶数。对于几何图形,我们使用模拟表明,$|P|$是非常接近的第一个贝蒂数。
2013-06-05 cs.DC math.AT
Computation Offloading in Beyond 5G Networks: A Distributed Learning Framework and Applications
VTT Technical Research Centre of Finland(芬兰VTT技术研究中心);University of Electro-Communications(电气通信大学);Shizuoka University(静冈大学);University of Windsor(温莎大学);National Institute of Informatics(国立信息学研究所)
面对无线通信与多址边缘计算融合的趋势,研究了超五代网络中的计算卸载问题。为了解决MEC系统中的不确定性和有限资源共享所带来的技术挑战,我们将计算卸载问题表示为多代理马尔可夫决策过程,并提出了一个分布式学习框架。我们提出了一个案例研究的计算卸载资源编排展示潜力的在线分布式强化学习算法开发的框架下。实验结果表明,我们的学习算法优于基准资源编排算法。此外,我们概述了值得深入研究的研究方向,以尽量减少时间成本,这是一个主要的实际问题,防止建议的分布式学习框架的实施。
2020-07-15 cs.DC cs.LG
A Fundamental Tradeoff between Computation and Communication in Distributed Computing
我们如何以最佳方式交换额外的计算能力,以减少分布式计算中的通信负载?我们通过描述分布式计算中计算和通信之间的基本权衡来回答这个问题,即,两者成反比。更具体地说,一般的分布式计算框架,被认为是由常用的结构,如MapReduce,其中的整体计算被分解成计算一组“映射”和“减少”功能分布在多个计算节点。提出了一种名为“编码分布式计算“(CDC)的编码方案,以证明将Map函数的计算负载增加$r$的因子(即,在$r$仔细选择的节点处评估每一函数)可产生新颖的编码机会,所述编码机会将通信负载减少相同因子。还提供了一个信息理论上的通信负载的下限,它匹配的CDC计划实现的通信负载。结果,准确地描述了分布式计算中的最优计算-通信权衡。最后,CDC的编码技术应用于Hadoop TeraSort基准开发一种新的CodedTeraSort算法,这是经验证明,以加快整体作业执行的$1.97\times$ - $3.39\times$,为典型的设置感兴趣。
2017-09-23 cs.DC cs.IT math.IT
Distributed Computations with Layered Resolution
现代计算繁重的应用程序通常对时间敏感,需要分布式策略来加速它们。另一方面,分布式计算在实际应用中也遇到了工作速度慢的瓶颈。分布式编码计算是一种有吸引力的解决方案,它增加了冗余,使得分布式计算的子集足以获得最终结果。然而,最终结果仍然要么在期望的时间内获得要么没有获得,并且对于后者,所花费的资源被浪费。在本文中,我们引入了分层分辨率分布式编码计算的新概念,使得从工人的集体结果中获得最终结果的分辨率较低-在比最终结果更早的阶段。这一创新使得更有效的基于截止日期的系统成为可能,因为即使计算作业因时间而终止,也可以发布最终结果的近似版本。根据我们的理论和实证结果,平均执行延迟的第一个决议是显着小于一个最终决议。此外,满足最后期限的概率是第一个解决方案的最后解决方案几乎总是超过最后期限,降低了没有分层的系统的成功率。
2022-08-02 cs.DC cs.IT math.IT
Distributed Gradient Descent with Coded Partial Gradient Computations
Imperial College London(帝国理工学院);University of Maryland(马里兰大学)
编码计算技术在分布式计算中提供了对离散服务器的鲁棒性,但具有以下限制:首先,它们增加了解码复杂度。其次,它们忽略了由分散的服务器执行的计算;并且它们通常被设计为恢复完整的梯度,因此不能在梯度的准确性和每次迭代完成时间之间提供平衡。在这里,我们介绍了一种混合的方法,称为编码的部分梯度计算(CPGC),从编码和未编码的计算方案的优点,并减少了计算时间和解码的复杂性。
2018-11-22 cs.DC cs.IT cs.LG
Combating Computational Heterogeneity in Large-Scale Distributed Computing via Work Exchange
由于数据密集型的大规模应用,分布式计算系统已经获得了显着的最近的兴趣,由于他们的能力,在大量的商品节点上运行这样的任务,在一个时间有效的方式。对时间效率产生不利影响的主要瓶颈之一是分布式节点的计算异构性,通常由于最慢的工人而限制任务完成时间。在本文中,我们首先提出了一个下界的期望计算时间的基础上的工作守恒原理。然后,我们提出了我们的工作交换的方法来解决延迟问题,其中速度较快的工人可以重新分配额外的剩余计算,这些计算最初分配给速度较慢的工人。我们提出了两种变化的工作交换方法:a)当计算的异质性知识是已知的先验;和b)当异质性是未知的,估计在一个在线的方式分配任务的分布式工人。作为一个基线,我们还提出并分析了使用优化的最大距离可分离(MDS)编码的分布式计算方案在异构节点。仿真结果还比较了所提出的方法的工作交换,基线MDS编码方案和下界通过工作守恒原理。我们表明,工作交换计划实现的计算时间,这是非常接近的下限,有限的协调和通信开销,即使当有关的异质性水平的知识是不可用的。
2017-11-22 cs.DC cs.IT math.IT
Hierarchical Federated Learning for Networked AI: From Communication Saving to Architecture-Aware Design
Department of Electrical Engineering, Chalmers University of Technology(查尔姆斯理工大学电子工程系);Centre for Wireless Communications, University of Oulu(奥卢大学无线通信中心);Department of Electrical Engineering, Yale University(耶鲁大学电子工程系)
本文提出分层联邦学习应被视为网络化AI的架构感知设计框架,探讨了架构参数、分层优化分解和通信实现三个维度,强调收敛性依赖于架构选择。
2026-05-01 cs.DC cs.IT cs.LG
Consensus-Based Distributed Computation of Link-Based Network Metrics
平均共识算法在分布式计算系统中有着广泛的应用。在分布式计算系统中,所有节点仅通过与其本地邻居交换信息就其初始状态的平均值达成一致。在这封信中,我们将研究基于链路的网络度量,这些度量是在网络中的链路上定义的成对节点属性的多项式函数。与基于节点的平均一致性不同,这种基于链路的度量依赖于节点属性的分布和底层网络拓扑。我们提出了一个通用的算法,使用加权平均共识协议的分布式计算基于链路的网络度量,并提供收敛条件和收敛速度分析。
2021-01-04 cs.DC cs.SI eess.SP
Distributed computation of persistent homology
持久同源性是一个流行的和强大的工具,用于捕获数据的拓扑特征。计算持久同源性的算法的进步已经大大减少了计算时间-只要算法不耗尽可用的内存。最近提出的并行方法持久性计算共享内存系统,我们证明了一个简单的适应标准的减少算法导致分布式系统的一个变种。我们的算法设计确保数据分布在节点上,没有冗余;这允许计算比单个机器大得多的实例。此外,我们观察到,并行至少补偿了节点之间的通信所造成的开销,并且与顺序甚至并行共享内存算法相比,通常甚至加快了计算速度。在我们的实验中,我们能够在一个具有32个节点的集群上,使用每个节点不到10GB的内存,在几秒钟内计算出具有超过10亿(10^9)个元素的过滤的持久同源性。
2013-10-02 cs.CG cs.DC math.AT
Distributed Computation of Wasserstein Barycenters over Networks
提出了一种新的\cu{class-optimal}算法,用于网络上Wasserstein重心的分布式计算.假设图中的每个节点都有一个概率分布,我们证明了每个节点都可以通过使用符合图的拓扑结构的局部相互作用到达网络中所有分布的重心。我们提供了一个估计所需的最小数量的通信轮所提出的方法,以实现任意的相对精度在无向固定网络的解决方案的最优性和所有代理之间的共识。
2018-09-20 cs.DC cs.MA math.OC