Distributed Algorithm for Collision Avoidance at Road Intersections in the Presence of Communication Failures
Chalmers University of Technology(查尔姆斯理工大学)
本文提出一种分布式算法,用于在存在通信故障时实现自动驾驶车辆在交叉口的安全避碰,确保安全性和活锁性,并在实际数据中验证了交叉延迟的轻微增加。
2017-01-10 cs.DC cs.NI cs.SY
CORE: Augmenting Regenerating-Coding-Based Recovery for Single and Concurrent Failures in Distributed Storage Systems
数据可用性在分布式存储系统中至关重要,特别是当节点故障在现实生活中普遍存在时。一个关键的要求是在恢复故障节点的丢失或不可用数据时,最大限度地减少节点之间传输的数据量。本文探讨了基于再生码的恢复解决方案,该方案可提供容错存储和最小恢复带宽。现有的最优再生码是针对单节点故障设计的。我们建立了一个系统称为CORE,它增强了现有的最佳再生代码,以支持一般数量的故障,包括单一和并发故障。我们从理论上表明,CORE实现了最小可能的恢复带宽在大多数情况下。我们实现了CORE,并在Hadoop HDFS集群测试床上评估了我们的原型,该集群测试床最多有20个存储节点。我们证明,我们的CORE原型符合我们的理论研究结果,并实现恢复带宽节省相比,传统的恢复方法的基础上纠删码。
2013-06-06 cs.DC
A thought experiment on Quantum Mechanics and Distributed Failure Detection
当前分布式系统中最大的问题之一是一台机器试图及时确定另一台机器的活性。不幸的是,故障机器所表现出的症状也可能是其他原因的结果,例如,一种过载的机器或网络,它丢失了信息,使得在机器恢复之前不可能确定地检测到机器故障。这是一个很好理解的问题,也是一个导致大量研究失败嫌疑人的问题:因为不可能检测到失败,所以最好的办法就是怀疑失败并相应地编程。然而,一台机器的怀疑可能与另一台机器的怀疑不同;因此,这些算法花费了相当大的努力来确保所有可用机器之间的一致性,以确定谁是怀疑失败的机器。本文描述了一个关于量子力学如何用于提供故障检测器的思想实验,该故障检测器保证提供关于机器活性的准确和即时信息,无论涉及的距离如何。
2003-09-15 cs.DC
A Knowledge-Theoretic Analysis of Uniform Distributed Coordination and Failure Detectors
结果表明,在精确意义上,如果不可靠,但公平的通信系统中的故障进程的数量没有限制,可以达到均匀分布协调(UDC)当且仅当系统有完美的故障检测器。这一结果被推广到的情况下,有一个边界t上的故障进程的数量。它表明,某种类型的广义故障检测器是必要的,并足以实现UDC的上下文中最多t故障进程。推理过程的知识,其他过程是错误的,在分析中起着关键作用。
2004-02-05 cs.DC
Measures of Fault Tolerance in Distributed Simulated Annealing
在本文中,我们研究了不同的措施,容错在分布式模拟退火过程。在分布式系统上用模拟退火算法进行优化容易出现各种各样的失败。分析了模拟退火算法及其在分布式平台上的体系结构和潜在的失效原因。我们研究的宽容的分布式系统的优化任务的行为。我们提出了可能的方法来克服故障,实现容错的分布式模拟退火过程。我们还研究了模拟退火在MapReduce系统中的实现,以及防止在达到全局最优时失败的可能方法。本文将有益于那些谁有兴趣在实现一个大规模的分布式模拟退火优化问题的工业或学术兴趣。我们建议使用混合容差技术来优化效率和可用性之间的权衡。
2012-12-30 cs.DC
Distributed Algorithms for Computing Alternate Paths Avoiding Failed Nodes and Links
最近一项表征计算机网络中故障的研究表明,瞬时单元件(节点/链路)故障是像Internet这样的大型通信网络中的主要故障。因此,在发生故障时全局重新计算路由路径不会有回报,因为发生故障的元件恢复得相当快,并且需要丢弃重新计算的路由路径。在本文中,我们提出了第一个分布式算法,计算一些“主动恢复计划”处理瞬态故障所需的备用路径。我们的算法计算路径,避免一个失败的节点,并提供了一个替代路径的特定目的地从上游邻居的失败节点。通过微小的修改,我们可以让算法计算出避免失败链路的备用路径。据我们所知,所有以前提出的算法计算备用路径是集中的,需要完整的信息的网络图作为输入的算法。
2008-11-09 cs.DC cs.DS cs.NI
A Dynamic Weighting Strategy to Mitigate Worker Node Failure in Distributed Deep Learning
Lehigh University(里海大学)
针对分布式深度学习系统的节点故障等挑战,研究EASGD、AdaHessian等优化技术,提出动态加权策略缓解故障掉队节点问题,经多组实验验证可提升训练收敛速度与测试性能。
2024-09-14 cs.DC cs.LG
A Coverage-Aware Distributed k-Connectivity Maintenance Algorithm for Arbitrarily Large k in Mobile Sensor Networks
移动传感器网络是移动机器人技术与无线传感器网络相互作用的产物。MSN可以部署在恶劣的环境中,其中某些节点的故障可以将MSN划分为断开的网段或减少覆盖区域。一个k-连通网络可以容忍至少k-1个任意节点失效而不失去连通性。在这项研究中,我们提出了一个覆盖感知分布式k-连通性维护(恢复)算法,产生最小成本的运动后,节点故障,以保持一个持久的k值受覆盖保护标准的活动节点。该算法接受一个覆盖保存率(作为覆盖和运动之间的权衡参数),并根据该值促进所生成的运动的覆盖。大量的仿真和测试床实验表明,该算法恢复k-连通性比现有的恢复算法更有效。此外,我们的算法可以用来保持k-连接,而不会牺牲覆盖范围,显着。
2021-04-06 cs.DC cs.NI
Consensus analysis of random sub-graphs for distributed filtering with link failures
本文针对链路故障下的分布式滤波,结合广播Push-Sum算法与递归一致性滤波器,基于随机拉普拉斯矩阵和随机子图分析其稳定性,刻画收敛速度与最小一致性步数,并用数值仿真验证。
2023-05-08 cs.DC cs.SY eess.SY
Distributed Storage Codes through Hadamard Designs
在采用纠删编码的分布式存储系统中,出现了使在故障之后精确地重新生成存储节点所需的总{ \it修复带宽}最小化的问题。此修复带宽取决于存储代码的结构和用于恢复丢失数据的修复策略。最小化它需要在修复期间使用干涉对齐(IA)的概念将不需要的数据在尽可能小的空间中对齐。这里,给出了Cadambe { \it et al.}提供了线索,完善IA的情况下,我们结合阿达玛矩阵的基本性质,构建一个新的存储代码具有良好的修复性能。具体来说,我们建立一个明确的$(k+2,k)$存储代码在$\mathbb{GF}(3)$,其单个系统节点故障可以修复与带宽完全匹配的理论最小值。此外,单个奇偶校验节点故障的修复最多生成与任何系统节点故障相同的修复带宽。我们的代码可以容忍任何单节点故障和任何涉及最多一个系统故障的故障对。
2011-06-08 cs.DC cs.IT cs.NI
Event-based Failure Prediction in Distributed Business Processes
传统上,业务流程管理的研究重点是集中的和组织内的流程。然而,今天的业务流程越来越分散,偏离了集中式布局,因此需要新的方法来检测和响应不可预见的事件,如流程运行时发生的错误。在本文中,我们将演示如何在业务流程中使用基于事件的故障预测。这种方法允许利用传统的业务流程管理系统和基于事件的系统的最佳效果。我们的方法采用机器学习技术,并考虑各种类型的事件。我们评估我们的解决方案使用两个业务流程数据集,其中一个来自现实世界的事件日志,并表明,我们能够检测错误和预测故障,具有很高的准确性。
2018-01-09 cs.DC cs.SE
RCanopus: Making Canopus Resilient to Failures and Byzantine Faults
分布式共识是许多分布式系统(包括分布式数据库和区块链)的关键推动因素。Canopus是一个可扩展的分布式共识协议,它确保系统中的活动节点就有序的操作序列(称为事务)达成一致。与大多数先前的共识协议不同,老人星不依赖于单一的领导者。相反,它使用虚拟树覆盖进行消息分发,以限制过度订阅链接的网络流量。它利用机架内和网络结构内的硬件冗余来降低协议复杂性和通信开销。这些设计决策使Canopus能够支持大型部署,而不会显着降低性能。现有的Canopus协议在面对节点和通信故障时具有弹性,但其重点主要是性能,因此不能很好地响应其他类型的故障。例如,单个服务器机架的故障会导致所有活动节点停止。该协议也是开放的拜占庭节点的攻击,这可能会导致不同的活节点,以不同的交易顺序结束协议。在本文中,我们描述RCanopus('resilent Canopus'),它扩展了Canopus以增加活性,即允许活节点在可能的情况下取得进展,尽管有许多类型的失败。这要求RCanopus能够准确地检测故障并从故障中恢复,尽管使用了不可靠的故障检测器,并且能够容忍拜占庭攻击。第二,RCanopus保证安全,也就是说,在拜占庭攻击和网络分区的存在下,交易顺序的活节点之间的协议。
2019-06-16 cs.DC cs.NI cs.PF
Failure-tolerant Distributed Learning for Anomaly Detection in Wireless Networks
The University of Melbourne(墨尔本大学);Northrop Grumman Corporation(诺斯罗普·格鲁曼公司)
对分布式技术的分析通常集中在其效率上,而不考虑其鲁棒性(或缺乏鲁棒性)。当设备或中央服务器可能发生故障时,这种考虑尤其重要,这可能会削弱分布式系统。当这种故障出现在无线通信网络中时,它们使用/提供的重要服务(如异常检测)可能无法操作,并且可能导致一连串的安全问题。在本文中,我们提出了一种新的方法来解决这些风险相结合的平面和星形拓扑结构,结合两者的性能和可靠性的好处。我们把这种方法称为“Tol-FL”,因为它与联邦学习技术相比具有更高的容错性。我们的方法既限制了设备故障风险,又在考虑客户端和服务器故障的一系列现实设置中,在异常检测AUROC方面比以前的方法高出8%,同时降低了通信成本。该性能表明Tol-FL是一种非常适合用于异常检测的分布式模型训练的方法,特别是在无线网络领域。
2023-03-23 cs.AI cs.DC cs.LG
CXL Shared Memory Programming: Barely Distributed and Almost Persistent
本文首次定义了基于 CXL 的共享内存故障模型,区分数据与进程故障,并提出针对性的处理方法,以应对 CXL 特有的易失性和低延迟挑战。
2024-07-17 cs.DC
A Graphical Interactive Debugger for Distributed Systems
设计和调试分布式系统是出了名的困难。分布式系统的正确性很大程度上取决于其对故障场景的处理。导致bug的事件序列可能很长很复杂,并且可能包括消息重新排序和失败。在单节点系统上,交互式调试器支持单步执行程序,但它们缺乏轻松模拟故障场景和控制消息传递顺序的能力。Oddity是一个用于分布式系统的图形化交互式调试器。它将传统的逐步调试的力量-细粒度的控制和程序执行时的观察-带到了分布式系统中。它还支持探索性测试,在这种测试中,工程师检查和干扰系统的行为,以便更好地理解它,也许没有特定的bug。程序员可以直接控制消息和故障交织。Oddity支持时间旅行,允许开发人员在单个调试会话中探索系统的多个分支执行。最重要的是,Oddity鼓励分布式系统思考:分布式系统应该围绕消息丢失和节点故障的确定性进行开发,而不是假设正常情况并将故障处理作为事后的想法。研究生和本科生在两个分布式系统课程中使用Oddity。使用跟踪和定性调查表明,学生发现Oddity对调试和探索性测试都很有用。
2018-06-13 cs.DC cs.SE
Communication-efficient distributed eigenspace estimation with arbitrary node failures
Cornell University(康奈尔大学)
我们开发了一个特征空间估计算法的分布式环境中的任意节点故障,计算节点的一个子集可以返回结构上有效的,但在其他方面任意选择的响应。值得注意的是,这种设置包含了分布式计算和数据收集环境中出现的几种重要场景,例如沉默/软错误,某些节点的异常值或损坏的数据,以及对抗性响应。我们的估计器建立在最近提出的非鲁棒估计器的性能,并匹配到添加剂$\tilde{O}(σ\sqrtα)$错误,其中$σ^2$是现有估计器的方差和$α$是损坏节点的分数。
2022-05-31 cs.DC cs.LG cs.NA
FLAC: A Robust Failure-Aware Atomic Commit Protocol for Distributed Transactions
National University of Singapore(新加坡国立大学);Beijing Institute of Technology(北京理工大学);Zhejiang University(浙江大学)
在分布式事务处理中,原子提交协议(ACP)被用来保证数据库的一致性。随着商用计算节点和网络的使用,诸如系统崩溃和网络分区之类的故障是常见的。因此,重要的是ACP动态地适应操作条件以提高效率,同时确保数据库的一致性。现有的ACP通常假设稳定的操作条件,因此,它们要么不可推广到不同的环境,要么在实践中很慢。在本文中,我们提出了一种新颖而实用的ACP,称为故障感知原子提交(FLAC)。本质上,FLAC包括三个协议,它们是专门为三种不同的环境设计的:(i)没有故障发生,(ii)参与节点可能崩溃,但没有延迟连接,或(iii)崩溃的节点和延迟连接都可能发生。它将这些环境建模为无故障、崩溃故障和网络故障鲁棒性级别。在其操作期间,FLAC可以监控是否发生任何故障,并使用鲁棒性级别状态机动态切换以操作最合适的协议,该状态机的参数通过强化学习进行微调。因此,它提高了响应时间和吞吐量,并有效地处理分布在Internet上可能发生崩溃和网络故障的节点。我们在一个基于GooglePercolator的分布式事务键值存储系统中实现了FLAC,并通过实际工作负载的微观基准测试和宏观基准测试对其性能进行了评估。结果表明,与现有的ACP相比,FLAC实现了高达2.22倍的吞吐量提高和2.82倍的延迟加速。
2023-03-02 cs.AI cs.DB cs.DC
Failure-Resilient Distributed Inference with Model Compression over Heterogeneous Edge Devices
School of Computer Science (National Pilot Software Engineering School), Beijing University of Posts and Telecommunications (BUPT)(北京邮电大学计算机学院(国家示范性软件学院));Frontier Research Center, Peng Cheng Laboratory(鹏城实验室前沿研究中心);School of Electronic Engineering, Beijing University of Posts and Telecommunications (BUPT)(北京邮电大学电子工程学院)
针对异构边缘IoT设备分布式推理的故障与延迟挑战,提出基于知识蒸馏和冗余分组的RoCoIn鲁棒推理机制,可兼顾故障弹性与低延迟推理性能。
2024-06-20 cs.AI cs.DC
When Log Parsing Removes What Matters: Detecting Failures in Distributed GPU Workloads
University of Toronto(多伦多大学)
该研究推出GF-Bench框架与数据集,评估多种日志分析方法在分布式GPU工作负载故障检测中的表现,发现通用日志解析会丢失关键上下文,而原始日志结合LogPrompt可实现高检测精度但成本更高。
2026-10-30 cs.AI cs.DC cs.LG
RoBuSt: A Crash-Failure-Resistant Distributed Storage System
在这项工作中,我们提出了第一个分布式存储系统,该系统可证明对自适应对手发出的崩溃故障具有鲁棒性,即,对于每一批请求,对手可以基于整个系统状态来决定哪些服务器对于该批请求将是不可用的。尽管多达$γn^{1/\log\log n}$崩溃的服务器,$γ>0$常数和$n$表示服务器的数量,我们的系统可以正确地处理任何一批查找和写入请求(与最多的多对数数量的请求发出在每个非崩溃的服务器)在最多的多对数数量的通信轮,与最多的多对数时间和工作在每个服务器和只有对数的存储开销。我们的系统基于Eikel和Scheideler(SPAA 2013)之前的工作,他们提出了IRIS,这是一种分布式信息系统,可证明对于相同类型的崩溃故障具有强大的鲁棒性。但是,IRIS只能提供查找请求。处理查找和写入请求需要对IRIS的设计进行重大更改。
2015-02-23 cs.DC cs.DS
Combining Federated and Active Learning for Communication-efficient Distributed Failure Prediction in Aeronautics
Zodiac Inflight Innovations;SAMOVAR, Télécom SudParis, Institut Polytechnique de Paris(SAMOVAR、南巴黎电信学院、巴黎理工学院)
近年来,机器学习已被证明是实现工业系统故障预测的有用方法。然而,运行学习算法所需的高计算资源是其广泛应用的障碍。分布式学习的子领域提供了一个解决这个问题的方法,它允许使用远程资源,但代价是在应用程序中引入通信成本,这并不总是可以接受的。在本文中,我们提出了一种分布式学习方法,能够优化计算和通信资源的使用,通过集中式架构实现出色的学习模型性能。为了实现这一目标,我们提出了一种新的集中式分布式学习算法,它依赖于主动学习和联邦学习的学习范式,提供了一种通信效率高的方法,提供了客户端和中央服务器上的模型精度的保证。我们在一个公共基准上评估了这种方法,结果表明,尽管有额外的限制,它在精度方面的性能非常接近非分布式学习的最先进的性能水平。
2020-01-21 cs.AI cs.DC
Limiting Lamport Exposure to Distant Failures in Globally-Managed Distributed Systems
全球化计算基础设施提供了全球管理的对象和服务的便利性和弹性,但缺乏本地化基础设施(如私有云)提供的对远程故障的弹性。然而,为远程故障提供全局管理和弹性,为配置服务提出了一个基本问题:如何在不依赖于全球化状态的情况下,在全球化基础设施中发现可能迁移的、强一致的服务/对象?Limix是解决这个问题的第一个元数据配置服务。通过Limix,全局强一致性数据平面服务和对象通过确保任何对象的确定性,强一致性元数据始终被限制在与对象本身相同的区域而与远程灰色故障绝缘。Limix保证了可用性边界:任何用户都可以继续访问对位于$Δ$之外的用户重要的任何强一致的对象,与$Δ$的小倍数之外的故障绝缘。我们构建了一个基于CockroachDB的Limix元数据服务。我们在类似互联网的网络和AWS上使用真实的跟踪驱动工作负载进行的实验表明,Limix支持全局管理,并显著提高了最先进的可用性。
2022-07-15 cs.DC
Distributed Constructions of Dual-Failure Fault-Tolerant Distance Preservers
容错距离图(Fault tolerant distance gravers)是在边或顶点失效的情况下保持给定顶点对之间距离的稀疏子图。到目前为止,这些结构主要是从一个集中的观点来研究的。尽管事实上,容错的分布式网络的主要动机是容易出错的性质,不太知道这些结构的分布式计算方面。在本文中,我们提出了分布式算法,用于构建容错距离转换器和$+2$添加剂的spectrometer是弹性的,最多\emph{two edge}故障。在我们的工作之前,已知的唯一非平凡构造是[Ghaffari和Parter SPAA'16]的\emph{single}故障和\emph{single source}设置。我们的主要技术贡献是一个分布式算法计算距离的距离w.r.t.源顶点的子集$S$,对两个边缘故障有弹性。输出结构包含每个$s \in S$和每个$e_1,e_2 \in G$的BFS树$BFS(s,G \setminus \{e_1,e_2\})$。这种结构的分布式构造是基于边缘拥塞(通过同时运行多个BFS树形成)和输出子图的稀疏性之间的微妙平衡。没有子线性轮算法构建这些结构之前已经知道。
2020-10-04 cs.DC cs.DS
Cooperative Repair of Multiple Node Failures in Distributed Storage Systems
针对分布式存储系统中的多节点故障修复问题,设计了协作再生码。相对于原始的修复模型,再生代码,这是用于修复的单节点故障,新的节点之间的数据交换是可以实现的。已知的是,利用协作修复可以进一步减小修复带宽。目前,在文献中,我们有一个明确的建设精确修复合作码实现所有参数对应的最小带宽点。本文给出了这种合作再生码的一个稍微广义和更灵活的版本。对于最小的存储再生与合作,我们提出了一个明确的代码结构,可以联合修复任何数量的系统存储节点。
2016-07-28 cs.DC cs.IT math.IT
Failure Detectors in Homonymous Distributed Systems (with an Application to Consensus)
本文讨论的共识问题,在homecycle分布式系统中的进程容易崩溃故障,并没有初始的系统成员的知识(“homecycle”的意思是,几个进程可能有相同的标识符)。首先定义了适合于这些系统的新的故障检测器类别。其中,引入了类HΩ和H,它们分别是类Ω和类的同胚对应。(回想一下,对<Ω,Ω>定义了解决共识的最弱故障检测器。然后,本文展示了如何在没有成员知识的同名系统中实现HΩ和HΣ(在不同的同步要求下)。最后,提出了两个算法,使用这些故障检测器来解决共识homemandem异步系统中,没有初始知识的成员。一种算法使用<HΩ,H Ω>解决共识,而另一种算法只使用HΩ,但需要大多数正确的过程。观察到具有唯一标识符的系统和匿名系统是homemandatory系统的极端情况,由此得出所有这些结果也适用于这些系统。有趣的是,新的故障检测器类HΩ可以部分同步实现,而为匿名系统定义的类似类AΩ不能实现(即使在同步系统中)。因此,这篇论文为我们提供了第一个证据,证明在匿名系统中,只有部分同步(以及大多数正确的过程)才能解决共识问题。
2011-11-27 cs.DC cs.DS
LUMEN: Coordinated Failure Recovery for Distributed LLM Serving
The Chinese University of Hong Kong(香港中文大学);Northwestern Polytechnical University(西北工业大学);University of Science and Technology of China(中国科学技术大学)
针对分布式LLM服务中工作节点故障导致KV缓存丢失和请求重算的问题,提出LUMEN系统,通过负载感知的协调恢复策略(检查点放置、中断请求分配、容量恢复)显著提升服务与恢复时间。
2026-06-17 cs.DC
Khaos: Dynamically Optimizing Checkpointing for Dependable Distributed Stream Processing
分布式流处理系统正在成为大数据处理平台越来越重要的一部分,因为用户越来越依赖于它们提供快速访问新结果的能力。因此,根据这些结果及时做出决策取决于系统容忍故障的能力。通常,这些系统通过实现检查点和回滚恢复来实现容错和从部分故障中自动恢复的能力。然而,由于在这些分布式环境中发生部分故障的统计概率以及作业预期操作的工作负载的可变性,静态配置通常不能以低开销满足服务质量约束。在本文中,我们提出了Khaos,一种新的方法,它利用虚拟云自动化技术的并行处理功能,用于分布式流处理作业中容错配置的自动运行时优化。我们的方法采用了三个后续阶段,借用混沌工程的原则:建立稳定状态的处理条件,进行实验,以更好地了解系统如何执行故障,并使用这些知识,不断减少服务质量违规。我们与Apache Flink一起实现了Khaos原型,并通过实验证明了它的有用性。
2023-01-26 cs.DC
'Mutual Watch-dog Networking': Distributed Awareness of Faults and Critical Events in Petascale/Exascale systems
许多瓦片系统需要应用技术来增加组件弹性并控制FIT(时间故障)率。当扩展到千万亿次规模系统时,由于组件数量过多,FIT率可能变得不可接受,需要更系统的对策。因此,故障感知能力,即检测和收集关于故障和关键事件的信息的能力,是大规模分布式体系结构必须提供的必要特征,以便应用系统性容错技术。在这种情况下,LO |FA| MO方法是一种通过实现相互看门狗机制并保证以无单点故障的方式进行故障检测来获得系统故障感知的方法。本文档以技术报告的形式包含有关此方法的规范和实现细节。
2013-07-02 cs.DC cs.NI
SHORTSTACK: Distributed, Fault-tolerant, Oblivious Data Access
本文针对云服务中集中式代理在故障环境下破坏不经意数据访问安全的问题,提出分布式代理架构SHORTSTACK,在被动持久攻击者可任意迫使有界数量代理故障的模型下形式化证明并实验验证其安全性与近线性扩展性能。
2022-06-08 cs.CR cs.DC cs.NI
Renaissance: A Self-Stabilizing Distributed SDN Control Plane using In-band Communications
通过引入可编程性、自动化验证和创新的调试工具,软件定义网络(SDN)已准备好满足当今通信网络日益严格的可靠性要求。然而,容错SDN的设计仍然是一个开放的挑战。本文认为,通过镜头的自稳定可靠的SDN的设计-一个非常强大的容错概念。特别是,我们开发了一个带内和分布式控制平面的SDN,文艺复兴时期,容忍各种故障的算法。我们的自稳定算法确保在发生任意故障后,(i)每个无故障的SDN控制器可以在有限的通信延迟内到达任何交换机(或另一个控制器)(在存在有限数量的故障的情况下),以及(ii)每个交换机由控制器管理。我们通过严格的最坏情况分析以及原型实现(基于OVS和Floodlight以及Mininet)来评估Renaissance。
2022-03-29 cs.DC cs.DS cs.NI
ByRDiE: Byzantine-resilient distributed coordinate descent for decentralized learning
Rutgers University–New Brunswick(罗格斯大学新布朗斯维克分校)
分布式机器学习算法使得能够从分布在网络上的数据集学习模型,而无需在集中位置收集数据。虽然在无故障网络的假设下已经开发出了高效的分布式算法,但在现实世界中经常会发生使这些算法无法正常工作的故障。本文重点研究分布式算法中最难防范的拜占庭故障问题。虽然拜占庭容错有着丰富的历史,但现有的工作并没有转化为在完全分布式(也称为分散式)设置中进行高维学习的有效和实用的算法。在本文中,一个算法称为拜占庭弹性分布式坐标下降(ByRDiE)的开发和分析,使分布式学习中存在拜占庭故障。理论分析(凸设置)和数值实验(凸和非凸设置)突出了其有用的高维分布式学习拜占庭故障的存在。
2019-07-05 cs.DC cs.LG math.OC
A Dual Digraph Approach for Leaderless Atomic Broadcast (Extended Version)
许多分布式系统工作在一个公共的共享状态;在这样的系统中,分布式协议是必要的一致性。随着服务器数量的增加,这些系统变得更容易受到单服务器故障的影响,从而增加了容错的相关性。原子广播使容错分布式协议,但它是昂贵的解决。大多数实用的算法需要对每个广播消息进行线性工作。AllAccuur--一种无领导的方法--通过稀疏的弹性覆盖网络连接服务器来减少工作量;然而,这种弹性需要冗余,限制了工作量的减少。在本文中,我们提出了一种原子广播算法AllAccuur+,它解除了这一限制:在没有故障的间隔期间,它通过使用无冗余的覆盖网络实现了最小的工作。当发生故障时,它会通过切换到弹性覆盖网络自动恢复。在我们对非故障场景的性能评估中,AllConcur+实现了与AllGather(一种非容错分布式协议算法)相当的吞吐量,并且在吞吐量和延迟方面都优于AllConcur、LCR和Libpaxos。此外,我们对故障场景的评估表明,AllAccuur+的预期性能对于偶尔的故障是稳健的。因此,对于实际用例,在没有故障的间隔期间利用无冗余分布式协议可以显著提高性能。
2019-12-12 cs.DC
CONTINUER: Maintaining Distributed DNN Services During Edge Failures
Queen’s University Belfast(贝尔法斯特女王大学);University of St Andrews(圣安德鲁斯大学)
跨边缘节点划分和部署深度神经网络(DNN)可以用于满足应用的性能目标。然而,单个节点的故障可能导致连锁故障,这将对服务的交付产生不利影响,并将导致无法实现特定目标。这些故障的影响需要在运行时最小化。本文研究了三种技术,即重新划分、提前退出和跳过连接。当边缘节点发生故障时,重新分区技术将重新分区和重新部署DNN,从而避免故障节点。早期退出技术提供了在故障节点之前退出(早期)的请求。跳过连接技术通过跳过故障节点来动态路由请求。本文将利用准确性、端到端延迟和停机时间方面的权衡,在边缘节点发生故障时,根据用户定义的目标(准确性、延迟和停机时间阈值)选择最佳技术。为此,开发了Continuer。该框架的两个关键活动是在使用分布式DNN技术时估计准确性和延迟,并选择最佳技术。在基于实验室的实验测试平台上证明,CONTINUER在使用这些技术时估计准确度和延迟,平均误差分别不超过0.28%和13.06%,并选择合适的技术,其开销不超过16.82毫秒,准确度高达99.86%。
2022-04-25 cs.DC cs.LG
Rational Uniform Consensus with General Omission Failures
系统故障(如崩溃故障、拜占庭故障等)通常被认为是造成分布式共识不一致性的常见原因,并得到了广泛的研究。事实上,在分布式系统中,理性主体的策略操作对于达成共识是不可忽视的。在本文中,我们扩展了共识的博弈论分析,并设计了一个算法的理性一致的共识一般遗漏失败的假设下,控制过程的理性代理和偏好的共识。与崩溃Agent不同,遗漏失效Agent可能会崩溃,或者在应该发送或接收消息的时候遗漏,这导致检测失效Agent的困难。通过结合链路两端代理可能出现的故障,将遗漏故障模型转化为链路状态模型,使故障检测成为可能。通过分析具有n个代理的分布式系统中的消息传递机制,其中t个代理可能发生遗漏故障,给出了无故障代理之间就状态达成一致所需的消息传递时间的上界,以及验证消息的消息链机制.然后证明了当n>2t+1,失效模式和初始偏好是盲的(随机性假设)时,我们的理性一致共识是一个纳什均衡。因此,代理人可能没有动机偏离共识。我们的研究从博弈论的角度加强了遗漏失败的共识的可靠性。
2022-08-16 cs.DC cs.GT
Distributed Computing in the Asynchronous LOCAL model
在分布式网络计算的框架下,局部性研究的主要模型之一是分布式网络模型。然而,该模型受到了相关的批评,包括所有节点同时唤醒、按锁定步骤执行并且无故障的事实。我们表明,放宽这些假设在一定程度上不会损害本地计算。特别是,我们表明,对于任何建设任务$T$相关的本地可检查的标签(LCL),如果$T$是可解的$t$轮在异步模型中,然后$T$仍然可解的$O(t)$轮在异步模型中。这改进了Castañeda等人[SSS 2016]的结果,该结果仅限于对环进行3-着色。更一般地说,本文的主要贡献是表明,也许令人惊讶的是,在计算中的冗余和故障不限制的功率的冗余模型,只要通信保持同步和无故障。
2019-12-06 cs.DC
An Algorithm for Tolerating Crash Failures in Distributed Systems
在ESPRIT项目28620“TIRAN”(用于嵌入式应用的可定制的容错框架)的框架中,正在设计错误检测、隔离和恢复组件的工具集,以用作编排应用级容错的基本手段。这些工具将被用作独立的组件或作为分布式应用程序的外围组件,我们称之为“骨干”。主干将在用户应用程序的后台运行。它的目标包括:(1)收集和维护由TIRAN组件(如看门狗定时器、陷阱处理程序)或在内核或驱动程序级别工作的外部检测服务产生的错误检测信息;(2)在错误恢复时间使用这些信息。特别地,与错误检测和故障屏蔽相关的那些TIRAN工具将把它们的推断转发到主干,主干又将利用该信息来协调错误恢复,向与错误隔离和恢复相关的那些工具请求恢复和重新配置动作。显然,这种方法的关键点是保证主干本身能够容忍内部和外部故障。在这篇文章中,我们描述的手段之一,用于TIRAN骨干,以实现这一目标:一个分布式算法,用于容忍崩溃故障所引发的故障,影响最多的,但一个组件的骨干或最多的,但一个节点的系统。我们称之为相互猜疑算法。
2016-01-16 cs.DC
Flag Aggregator: Scalable Distributed Training under Failures and Augmented Losses using Convex Optimization
University of Illinois Chicago(伊利诺伊大学芝加哥分校)
本文提出Flag Aggregator方法,将分布式训练中的聚合问题形式化为基于Beta密度的最大似然估计,并通过凸优化迭代最小二乘求解,显著提升了拜占庭故障下聚合器的鲁棒性、通信效率与准确性。
2023-09-25 cs.DC cs.LG
SlimEdge: Performance and Device Aware Distributed DNN Deployment on Resource-Constrained Edge Hardware
Amrita Vishwa Vidyapeetham(阿姆里塔印度教学院);Intel Corporation(英特尔公司);Indian Institute of Science(印度科学研究院);Analog Devices, Inc.(模拟器件公司);Birla Institute of Technology and Science-Pilani, Dubai Campus(比拉技术科学学院-迪拜校区)
SlimEdge通过结构化模型剪枝和多目标优化框架,在资源受限边缘硬件上实现高效分布式DNN部署,提升性能和故障容忍性。
2026-02-15 cs.CV cs.DC
Invited Paper: Failure is (literally) an Option: Atomic Commitment vs Optionality in Decentralized Finance
基于区块链的去中心化金融的许多方面都可以理解为经典分布式计算的扩展。在本文中,我们跟踪两个相互关联的概念:失败和容错的演变。在经典的分布式计算中,未能完成多方协议通常归因于硬件故障。容错协议是通过将系统回滚到较早的一致状态来响应此类故障的协议。在拜占庭故障的情况下,故障可能是攻击的结果,容错协议是确保攻击者将受到惩罚并补偿受害者的协议。然而,在现代去中心化金融中,未能完成协议可以被认为是一种合法的选择,而不是违法行为。容错协议确保提供期权的一方不能反悔,并且购买期权的一方向提供方提供公平的补偿(以费用的形式)。我们概述了这些协议的演变,从两阶段提交开始,到定时哈希锁定的智能合约结束。
2021-09-24 cs.DC
Distributed Computability in Byzantine Asynchronous Systems
在这项工作中,我们扩展了基于拓扑的异步崩溃故障分布式系统的可计算性的特征异步拜占庭系统的方法。我们给出了第一个定理的必要和充分条件,以解决任意任务的对手选择错误的进程在异步拜占庭系统。在我们的对抗公式中,非故障过程的输出仅受非故障过程的输入的约束。对于无色任务,分布式问题的一个重要子类,一般的结果减少到一个优雅的模型,有效地捕捉进程的数量之间的关系,故障的数量,以及任务的单纯复合体的拓扑结构。
2014-06-10 cs.DC
A Feature Engineering Approach for Business Impact-Oriented Failure Detection in Distributed Instant Payment Systems
Directorate General for Information Technology, Bank of Italy(意大利银行信息科技总局);Department of Computer Science, University of Salerno(萨勒诺大学计算机科学系)
针对分布式即时支付系统,提出基于ISO 20022消息处理时间的特征工程方法,结合异常检测实现早期故障定位与业务影响解释,经TIPS系统验证有效,显著减少调查时间。
2025-08-07 cs.AI cs.DC cs.LG
A distributed service for on demand end to end optical circuits
在本文中,我们提出了一个系统,用于监测和控制动态网络电路内的USLHCNet网络。该分布式服务系统几乎实时地提供所有电路的完整拓扑信息、资源分配和使用、计费、自动检测链路和网络设备中的故障、生成警报并具有采取自动动作的功能。该系统是基于MonALISA框架开发的,它提供了一个强大的监控和面向服务的架构,没有单点故障。
2011-06-28 cs.DC
Fault-Tolerant Distributed Directories
分布式目录是图$G$上的覆盖数据结构,有助于访问共享令牌$t$。该目录支持三种操作:发布(用于通告令牌)、查找(用于读取令牌的内容)和移动(用于获得对令牌的独占更新访问)。该目录是建立在一个分层分区的图形使用弱或强集群。主要机制是维护目录路径,该路径从层次结构中的根结点开始,指向令牌的当前所有者。在文献中,有已知的基于层次图结构的目录算法,但他们都没有考虑故障。给定一个分层分区,我们考虑$f$边缘故障对分布式目录的功能和性能的影响。边缘故障可能会导致集群分裂为多达$f+1$连接的组件,并增加层次结构中的级别数量。为了在故障后恢复分层分区,我们在集群及其连接组件中维护生成树。如果$G$保持连接,我们表明,每一级的目录路径是扩大只有一个因素$f$。我们还表明,在最坏的情况下,发布和查找操作的性能受到影响的一个因素$f$的消息的复杂性。移动操作的消息复杂性增加了$f$因子和层次结构中的附加层的数量。
2023-02-16 cs.DC
Lattice Aggregation in Distributed Verification under Crash and Byzantine Failures
Posgrado en Ciencia e Ingeniería de la Computación, Universidad Nacional Autónoma de México(墨西哥国立自治大学计算机科学与工程研究生项目);Department of Computer Science and Engineering, Michigan State University(密歇根州立大学计算机科学工程系);Instituto de Matemáticas, Universidad Nacional Autónoma de México(墨西哥国立自治大学数学研究所)
提出c-格聚合问题,用于崩溃和拜占庭故障下的分布式验证,通过冗余参数x建立可解性阈值,并给出匹配算法。
2026-06-15 cs.DC
On the Performance and Convergence of Distributed Stream Processing via Approximate Fault Tolerance
容错对于分布式流处理系统是至关重要的,然而实现无差错的容错通常会引起大量的性能开销。我们提出了AF流,分布式流处理系统,解决了性能和准确性之间的权衡容错。AF-Stream建立在一个称为近似容错的概念上,其思想是通过自适应地发布备份来减轻备份开销,同时确保故障时的错误与理论保证有一定的界限。具体来说,AF-Stream允许用户指定状态分歧和非备份流项目丢失的界限。它仅在达到界限时发出状态和项备份。我们的AF流设计提供了一个可扩展的编程模型,将一般的流算法,以及出口只有几个阈值参数配置近似容错。此外,我们正式证明,AF流保留高算法特定的流算法的准确性,特别是在线学习的收敛保证。实验表明,AF-Stream在各种流算法下都能保持较高的性能(与无容错相比)和多次故障后的高准确率(与无故障相比)。
2019-08-12 cs.DC
A Utilization Model for Optimization of Checkpoint Intervals in Distributed Stream Processing Systems
最先进的分布式流处理系统,如Apache Flink和Storm,最近包括检查点,为有状态应用程序提供容错。这是一个必要的可能性,因为这些系统的头部到Exascale政权,显然是更有效的比复制状态大小的增长。然而,当前的系统使用检查点间隔的标称值,其指示假设大约每19天1次故障,其没有考虑检查点过程的突出方面,也没有考虑系统规模,这可能容易导致低效的系统操作。为了解决这个缺点,我们提供了一个严格的推导利用率-总时间的一部分,可供系统做有用的工作-,其中包括检查点间隔,故障率,检查点成本,故障检测和重启成本,深度的系统拓扑结构和消息延迟。我们的模型产生了一个优雅的表达式的利用率,并提供了一个最佳的检查点间隔给定这些参数,有趣的是,它只依赖于检查点的成本和故障率。我们通过使用Apache Flink进行实验来确认我们模型的准确性和有效性,在每种情况下,我们都可以提高系统利用率,特别是随着系统大小的增加。我们的模型提供了一个坚实的理论基础,更详细的检查点方法的分析和优化。
2019-11-27 cs.DC
Efficient Byzantine-Resilient Stochastic Gradient Desce
分布式学习经常遭受拜占庭失败,并且已经有许多研究拜占庭失败下的分布式随机优化问题的工作,其中只有一部分工人,而不是分布式学习系统中的所有工人,在每次迭代时计算随机梯度。这些方法虽然在拜占庭故障下是可行的,但具有次优收敛速度或高计算成本的缺点。为此,我们提出了一个新的拜占庭弹性随机梯度下降算法(简称BrSGD),这是可证明的强大对拜占庭故障。BrSGD同时获得了最优的统计性能和高效的计算。特别是,BrSGD可以实现强凸损失函数的阶最优统计出错率。BrSGD的计算复杂度为O(md),其中d是模型维数,m是机器数。实验结果表明,BrSGD可以获得竞争力的结果相比,非拜占庭机器的有效性和收敛性。
2021-08-15 cs.DC
Misconfiguration prevention and error cause detection for distributed-cloud applications
针对分布式云应用启动参数配置错误问题,提出基于 schema 的配置验证与支持版本差异检测的配置版本控制机制,以预防不合规配置并在故障发生时定位诱因。
2024-10-26 cs.DC
Distributed Allocation and Resource Scheduling Algorithms Resilient to Link Failure
针对链路故障、丢包、时延和间歇连通问题,提出基于图论与网络渗流理论的弹性分布式资源分配算法,保证全程可行、鲁棒收敛并在一致连通网络下达到最优。
2025-10-21 cs.DC cs.MA cs.SY
The failure tolerance of mechatronic software systems to random and targeted attacks
University of Sydney(悉尼大学);Oregon State University(俄勒冈州立大学)
本文通过复杂网络方法研究机电软件系统在硬件和/或软件故障下的容错性,发现介数中心性攻击对系统鲁棒性影响最大,且设计架构并不比随机架构更容错。
2013-09-27 cs.DC cs.SE cs.SY
Partial Product Updates for Agents of Detectable Failure and Logical Obstruction to Task Solvability
本文提出部分积更新概念以扩展原逻辑方法,使其能应用于非纯单纯复形建模的任务,从而证明在智能体故障可检测的分布式环境中任务(如共识任务)的不可解性。
2023-06-26 cs.DC cs.LO
A Hybrid Communication Approach for Metadata Exchange in Geo-Distributed Fog Environments
针对地理分布式雾计算中元数据交换缺乏地理感知和容错能力的问题,本文提出混合层次化与P2P通信的HFCS系统,并通过仿真验证其在集群节点分布下具有更优的任务完成性能。
2024-02-26 cs.DC
Extending and Implementing the Self-adaptive Virtual Processor for Distributed Memory Architectures
未来的众核架构很可能具有分布式内存组织,并且需要细粒度的并发管理才能有效地使用。自适应虚拟处理器(SVP)是一个抽象的并发编程模型,可以提供这一点,但该模型及其当前的实现假设一个单一的地址空间共享内存。我们调查和扩展SVP处理分布式环境,并讨论了原型SVP实现透明地支持执行异构分布式内存集群通过TCP/IP连接,同时保留原始的SVP编程模型。
2011-04-19 cs.DC
TFR-GNN: Topology- and Fault-Aware Graph Neural Scheduling for Heterogeneous Distributed Computing Systems
University of California, Los Angeles(加州大学洛杉矶分校);New York University(纽约大学);University of Utah(犹他大学)
针对异构系统调度中故障影响,提出TFR-GNN图神经网络调度器,结合拓扑与故障感知,蒸馏容错预言机,显著降低预期完工时间并泛化至大规模工作流。
2026-09-10 cs.DC