Topological Characterization of Consensus in Distributed Systems
本文用点集拓扑完整刻画分布式系统中共识的可解性,提出故障感知拓扑,并解释现有算法与不可能性结果,建立强弱有效性条件的一般等价性。
2024-08-21 cs.DC
Scheduling in distributed systems: A cloud computing perspective
调度本质上是一个决策过程,它通过确定活动在可用资源集上的执行顺序来实现多个活动之间的资源共享。分布式系统的出现给计算机系统的调度带来了新的挑战,包括集群、网格和最近的云。另一方面,过多的研究,使它很难为新人的研究人员理解不同的调度问题和文献中提出的策略之间的关系,这阻碍了新的和相关的研究途径的识别。在本文中,我们介绍了分布式系统中的调度问题的分类,提出了一个分类法,结合最近的发展,特别是那些在云计算。我们回顾了调度文献,以证实分类和分析的兴趣,在不同的分支提出的分类。最后,我们确定相关的未来方向,在分布式系统的调度。
2019-01-10 cs.DC cs.DS
Motivating Workers in Federated Learning: A Stackelberg Game Perspective
由于训练数据的大规模,分布式学习方法,如联邦学习最近得到了关注。然而,分布式学习的收敛速度受到异构工人的性能。在本文中,我们考虑了一种激励机制,工人,以减轻延迟完成每一批。我们解析地得到了一个Stackelberg对策的均衡解。我们的数值结果表明,在预算有限的情况下,模型所有者应该明智地决定工人的数量,因为工人数量提供的多样性和完成训练的延迟之间存在权衡。
2019-08-06 cs.DC
Distributed Monitoring of Topological Events via Homology
拓扑事件检测允许通过关注网络中随时间发生的局部变化来进行同源性的分布式计算。在本文中,一个模型的拓扑事件的监测动态变化的区域将开发。区域近似为传感器网络通信图的连通分量,将同调计算简化为图同调。Betti数差与循环相邻环一起用于分类拓扑事件类型。重点在于正确检测非增量(即,多个同时发生的)事件和必要的区域更新过程。事件前后网络状态之间的网络数量差异从事件节点传播到网络区域,允许独立于更新消息到达顺序的区域的无冲突更新。
2019-01-14 cs.DC math.AT
An Equivariance Theorem with Applications to Renaming (Preliminary Version)
在重命名问题中,分布式系统中的每个进程都从一个大的名称空间中获得一个唯一的名称,并且这些进程必须相互协调以从一个小得多的名称空间中选择唯一的名称。我们表明,在异步分布式系统中的重命名的可解性的下界可以制定为一个纯粹的拓扑问题,从拓扑磁盘的拓扑环的等变链映射的存在。证明这种映射的不存在意味着在几个相关的计算模型中不存在分布式重命名算法。
2011-02-24 cs.DC
A Generalized Look at Federated Learning: Survey and Perspectives
联邦学习(FL)是指一种分布式机器学习框架,涉及从多个分散的边缘客户端学习,而无需共享本地数据集。这种分布式策略可以防止数据泄漏,并支持设备上的训练,因为它可以根据本地模型更新来更新全局模型。尽管FL提供了一些优势,包括数据隐私和可扩展性,但它也带来了挑战,例如联邦网络中数据的统计和系统异构性,通信瓶颈,隐私和安全问题。本调查包含了对以前的工作,研究和实验的系统总结,并提出了一系列应用和用例的FL的可能性列表。除此之外,实施FL的各种挑战和围绕相应的挑战有希望的方向。
2023-03-26 cs.DC
Grand Perspective: Load Shedding in Distributed CEP Applications
针对分布式多算子 CEP 的过载瓶颈,论文利用 CEP 定制选择率函数与线性规划动态配置负载丢弃,在合成与真实数据上实现及时处理和输出质量最优。
2023-09-29 cs.DC
Distributed Training of Deep Learning Models: A Taxonomic Perspective
BOSS ZhiPin Career Science Lab (CSL)(BOSS直聘职业科学实验室(CSL));La Trobe University(拉筹伯大学)
分布式深度学习系统(DDLS)通过利用集群的分布式资源来训练深度神经网络模型。DDLS的开发人员需要做出许多决策,以便在所选环境中有效地处理其特定工作负载。基于GPU的深度学习的出现、数据集和深度神经网络模型的不断增长以及集群环境中存在的带宽限制要求DDLS的开发人员进行创新,以便快速训练高质量的模型。比较DDLS并排是困难的,因为他们广泛的功能列表和架构的偏差。我们的目标是通过分析与训练深度学习模型相关的一般属性,以及如何将这些工作负载分布在集群中以实现协作模型训练,来揭示在独立机器集群中训练深度神经网络时的基本原理。因此,我们提供了一个概述的不同的技术,所使用的当代DDLS和讨论他们的影响和培训过程中的影响。为了概念化和比较DDLS,我们将不同的技术分为几类,从而建立了分布式深度学习系统的分类。
2020-07-08 cs.DC cs.LG
A Distributed Computing Perspective of Unconditionally Secure Information Transmission in Russian Cards Problems
考虑了$A$通过被窃听者$C$偷听到的公共通告向$B$秘密发送信息的问题。为了通过确定性协议来实现这一点,它们的输入必须是相关的。相关输入使用一副牌来表示。存在公知的签名$(a,b,c)$,其中$n = a + b + c + r$和$A$得到一副$n$卡中的$a$卡,$B$得到$b$卡,而$C$得到$c$卡。使用确定性协议,$A$根据她的手来决定其通告。利用编码理论、Johnson图和加法数论中的技术,从分布式计算理论出发,分析了$A$需要发送的信息量,同时防止$C$学习到一手牌.在一个极端,即广义的俄罗斯牌问题中,$B$希望学习$A$的所有牌,而在另一个极端,$B$希望学习$A$的牌。
2020-09-28 cs.CR cs.DC cs.DM
Cops and Lethal Robber on Rings: A Distributed Perspective
Indian Institute of Technology Ropar(印度技术研究所罗帕尔分校)
本文在分布式设置中引入可杀死警察的致命强盗,定义警察与致命强盗问题,证明环上n名警察不足,并提出需n+⌊log n⌋+4名警察的算法。
2026-09-09 cs.DC
Characterizing Topological Assumptions of Distributed Algorithms in Dynamic Networks
除了时间或消息数量的复杂性之外,分析分布式算法的一种常见方法是查看它们对底层网络的假设。我们从网络动力学的角度来研究这个问题。特别是,我们要问的是,如何严格证明网络演化的给定属性对于给定算法是必要的或充分的。本文的主要贡献是提出了在这个方向上的两个现有的工具相结合:本地计算的图形relabelings,和不断发展的图形。这样的组合可以表达网络动态的细粒度属性,然后在精确的、相互交织的级别上检查这些属性对执行的影响。我们通过对三个简单算法的分析来说明这个框架的使用,然后讨论这项工作的一般含义,其中包括(i)根据拓扑要求比较分布式算法的可能性,(ii)基于这些要求的动态网络的正式层次结构,以及(iii)我们的框架引起的机械化的潜力,我们相信这为动态网络中的自动分析和决策支持打开了一扇大门。
2014-05-01 cs.DC cs.NI
Communication Pattern Logic: Epistemic and Topological Views
提出通信模式逻辑,通过更新Kripke模型和单纯复形研究通信可能失败时的分布式全信息协议,证明集体互模拟性在模型更新中得以保持且不同语义对应。
2023-08-01 cs.DC cs.MA
Local Problems on Trees from the Perspectives of Distributed Algorithms, Finitary Factors, and Descriptive Combinatorics
我们研究了分布局部算法,iid过程的有限因子,和描述性组合学在正则树的上下文中的联系。我们扩展了Borel确定性技术的标记来自描述组合学,并使其适应分布式计算领域。使用这种技术,我们证明了确定性的分布式$Ω(\log n)$轮下界的问题,从一个自然类的同态问题。有趣的是,这些下界似乎超出了强大的轮消除技术负责所有实质性的地方下界的最后几年目前达到。我们的关键技术成分是一个新的ID图技术,我们希望是独立的利益。证明了局部问题存在Baire可测着色当且仅当它存在具有局部复杂性的局部算法$O(\log n)$,推广了Bernshteyn的Baire可测着色分类.证明的一个关键成分是一个新的和简单的表征,可以解决$O(\log n)$轮的本地问题。我们补充这一结果,显示分离的复杂性类分布计算,有限因素,和描述性组合。最值得注意的是,这类问题,允许一个分布式算法与sublogarithmic随机局部复杂性是无法比拟的一类问题的Borel解决方案。我们希望我们的处理将有助于将所有三个视角视为共同的定域性理论的一部分,其中我们遵循[Bernshteyn-arXiv 2004.04905]的富有洞察力的论文。
2021-06-03 cs.DC cs.DS math.CO
Accelerating Distributed Optimization: A Primal-Dual Perspective on Local Steps
Argonne National Laboratory(阿贡国家实验室);Wayne State University(韦恩州立大学)
在分布式机器学习中,跨具有不同数据分布的多个代理的有效训练提出了重大挑战。即使使用集中式协调器,实现最佳通信复杂性的当前算法通常需要大的小批量或在梯度复杂性上妥协。在这项工作中,我们解决了强凸,凸和非凸目标的集中和分散设置。我们首先证明了一个基本的原始-对偶方法,(加速)梯度上升多随机梯度下降(GA-MSGD),适用于分布式优化的拉格朗日固有地包含本地更新,因为运行随机梯度下降的原始变量的内部循环不需要间智能体通信。值得注意的是,对于强凸目标,(加速)GA-MSGD在通信轮次中实现线性收敛,尽管拉格朗日仅在对偶变量中是线性的。这是由于对偶变量被限制在耦合矩阵的跨度上的结构性质,使得对偶问题是强凹的。当与Catalyst框架集成时,我们的方法在各种设置中实现了接近最佳的通信复杂性,而不需要小批量。
2024-08-11 cs.DC cs.LG math.OC
Critical Analysis of Middleware Architectures for Large Scale Distributed Systems
分布式计算正日益被视为大规模分布式系统(LSDS)的下一个发展阶段。然而,大规模资源共享的愿景在许多领域还没有成为现实-网格计算是一个不断发展的计算领域,其中标准和技术仍在开发中,以实现这一新的范例。因此,在本文中,我们分析了目前的发展中间件工具LSDS,从多个角度:架构,应用和市场研究。对于每一个角度,我们感兴趣的是正在进行的项目中使用的相关技术,现有的产品或服务以及有用的设计问题。最后,基于这种方法,我们得出了一些结论,在这方面的未来研究方向。
2009-10-15 cs.DC cs.NI
Distributed Optimization: Convergence Conditions from a Dynamical System Perspective
ACCESS Linnaeus Centre, School of Electrical Engineering, Royal Institute of Technology(林奈中心电气工程学院,皇家理工学院)
本文从动力系统角度研究分布式优化问题,证明局部目标函数解集非空交集是全局最优一致性的关键条件,并针对固定图和时变图分别给出控制律设计。
2012-10-24 cs.DC cs.SY eess.SY
Distributed Learning as a Service: The Developer's Perspective
National and Kapodistrian University of Athens(雅典国立卡波季斯特里安大学)
本文从开发者视角展示分布式学习即服务(DLaaS),通过管理仪表板声明式启用差分隐私、分割学习、分层聚合和知识蒸馏,无需修改客户端代码,并在智能家居唤醒词任务上验证完整服务生命周期,实现实时设备端检测。
2026-09-28 cs.DC cs.LG cs.NI
GLC actors, artificial chemical connectomes, topological issues and knots
基于图形lambda演算,我们提出了一个基于Hewitt Actor模型的异步分布式计算模型的实现方案,以及如何将λ演算与纽结代数学相结合的研究思路.
2013-12-16 cs.DC math.GT math.LO