Amortized Asynchronous Byzantine Reliable Broadcast with Optimal Resilience
National University of Singapore(新加坡国立大学)
提出一种随机异步模型下的拜占庭可靠广播协议,通过平摊技术实现最优弹性和渐近最优通信复杂度,并证明完全异步网络中无法存在基于采样委员会的最优弹性协议。
2026-05-29 cs.DC
Byzantine Agreement in Polynomial Time with Near-Optimal Resilience
自20世纪80年代初以来,人们已经知道,完全信息异步模型中的拜占庭协议不可能针对甚至一个崩溃故障确定性地解决[FLP85],但它可以以概率1解决[Ben83],即使是针对控制所有消息的调度并破坏$f<n/3$播放器的对手[Bra87]。[Ben83,Bra87]的主要缺点是,每当$f=Θ(n)$出现时,它们都会在预期的$2^{Θ(n)}$回合中终止。King和Saia [KS16,KS18(arXiv:1812.10169)]开发了一种多项式协议(多项式轮,多项式计算),它对$f < (1.14\times 10^{-9})n$拜占庭故障具有弹性。他们协议中的新想法是通过分析这些玩家在多轮比赛中产生的随机变量的偏差来检测并将可能是坏玩家的联盟列入黑名单。在这项工作中,我们设计了一个简单的集体抛硬币协议,这样,如果任何联盟的错误球员反复不遵守协议,那么他们最终将被检测到的两个简单的统计测试之一。使用这种硬币翻转协议,我们解决拜占庭协议在一个多项式轮数,即使在存在高达$f<n/4$拜占庭故障。这接近最大故障数的$f<n/3$上限[BT85、FLM86、LSP82]。
2022-02-27 cs.DC
DuoBFT: Resilience vs. Performance Trade-off in Byzantine Fault Tolerance
本文提出了DuoBFT,拜占庭容错协议,使用可信组件提供提交决策的混合故障模型,除了提交决策的BFT模型。通过这样做,它使客户端能够为其命令选择响应故障模型。在内部,DuoBFT在混合模型和拜占庭模型下提交每个客户端命令,但由于混合提交比BFT提交需要更少的通信步骤,并且使用更小的法定人数,因此客户端可以从混合模型中的低延迟提交中受益。DuoBFT使用通用的视图更改协议来处理两种故障模型。为了实现这一目标,我们启用了一个概念,称为灵活的法定人数在混合故障模型中,通过重新审视混合协议中的法定人数交集要求。灵活的法定人数技术使得能够具有与BFT视图改变法定人数相同大小的混合视图改变法定人数。这为在单个统一协议中有效地组合两种故障模型铺平了道路。我们对广域部署的评估表明,DuoBFT可以在不牺牲吞吐量的情况下提供比现有协议低30%延迟的混合提交。就绝对值而言,DuoBFT在地理上复制的部署中提供低于200毫秒的延迟。
2022-02-08 cs.DC
Why Canonical Rounds Fail for Optimal Byzantine Resilience
Technion(以色列理工学院);Texas A&M University(德克萨斯农工大学)
本文指出标准异步轮次抽象与拜占庭环境下的最优容错相冲突,证明在3f < n ≤ 5f时,随机化标准轮次算法无法实现有限期望轮次的共识,且通信封闭变体无法解决共识问题。
2026-05-09 cs.DC
Differential Privacy and Byzantine Resilience in SGD: Do They Add Up?
Ecole Polytechnique Fédérale de Lausanne (EPFL)(洛桑联邦理工学院)
本文讨论了在机器学习(ML)中将拜占庭弹性与隐私相结合的问题。具体而言,我们研究了著名的随机梯度下降(SGD)学习算法的分布式实现是否可行,同时具有差分隐私(DP)和$(α,f)$ -拜占庭弹性。据我们所知,这是第一个从理论角度解决这个问题的工作。我们分析的一个关键发现是,这两个(看似)正交问题的经典方法是不相容的。更确切地说,我们表明,这些技术的直接组合使得所得到的SGD算法的保证不利地依赖于ML模型的参数数量,使得大型模型的训练实际上是不可行的。我们通过对公开数据集的数值实验验证了我们的理论结果;表明同时确保DP和拜占庭弹性是不切实际的。
2021-06-24 cs.CR cs.DC cs.LG
Revisiting Asynchronous Fault Tolerant Computation with Optimal Resilience
Fischer、Lynch和Paterson的著名结果是异步容错计算的基本下界:任何1-崩溃弹性异步协议必须有一些(可能测量为零)不终止的概率。1994年,Ben-Or,Kelmer和Rabin发表了一个不太为人所知的异步容错计算的下界的证明草图:如果$n\le 4t$,那么任何t-弹性的异步可验证秘密共享协议必须有一些非零的不终止概率。我们的主要贡献是重新审视这个下限,并提供了一个严格的和更一般的证明。我们的第二个贡献是展示如何避免这个下限。我们提供了一个具有最佳弹性的协议,该协议几乎肯定会终止强大的通用硬币功能。使用这个新的原语,我们提供了一个几乎肯定终止协议的最佳弹性异步拜占庭协议,具有一个新的公平有效性属性。据我们所知,这是第一个异步拜占庭协议的公平有效性的信息理论设置。
2020-07-31 cs.DC
Chasing the Speed of Light: Low-Latency Planetary-Scale Adaptive Byzantine Consensus
本文提出 Mercury,一种通过双重弹性阈值和紧凑法定人数自主优化拜占庭共识延迟的方法,在保持最优弹性和安全性的前提下,将行星级网络的交易最终性延迟降至 0.4 秒以内,达到类 PBFT 协议的一半,接近理论最优链路性能。
2024-09-30 cs.DC
Impact of Network Topology on Byzantine Resilience in Decentralized Federated Learning
Michigan State University(密歇根州立大学)
本文评估最先进拜占庭鲁棒聚合方法在复杂大规模去中心化FL拓扑中的表现,发现其在非全连接网络中缺乏韧性,并强调需发展拓扑感知聚合方案。
2024-07-06 cs.DC cs.LG
On the Byzantine-Resilience of Distillation-Based Federated Learning
Zuse Institute Berlin(柏林朱瑟研究所);Technische Universität Berlin(柏林工业大学)
本文研究基于知识蒸馏的联邦学习在拜占庭客户端攻击下的韧性,提出两种新攻击、一种防御方法及攻击混淆框架。
2025-03-17 cs.AI cs.DC cs.LG
Byzantine Agreement with Optimal Resilience via Statistical Fraud Detection
自20世纪80年代中期以来,人们已经知道,拜占庭协议可以以概率1异步解决,即使是对一个无所不知的,计算无限的对手,可以自适应\emph{corrupt}到$f<n/3$各方。此外,该问题在$f\geq n/3$损坏的情况下无法解决。然而,Bracha的1984年协议以指数预期延迟$2^{Θ(n)}$为代价实现了$f<n/3$弹性,在这个模型中,$f=\lfloor (n-1)/3 \rfloor$损坏的界限从未得到改善。在本文中,我们证明了拜占庭协议的异步,充分的信息模型可以解决的概率为1对自适应对手,可以腐败$f<n/3$各方,而只会引起多项式延迟的概率很高。我们的协议遵循早期的多项式延迟协议的国王和Saia和黄,佩蒂,朱,其中有次优的弹性,即$f \approx n/10^9$和$f<n/4$,分别。韧性$f=(n-1)/3$是独一无二的困难,因为这是拜占庭式和诚实的球员的影响力大致相等的点。我们解决的核心技术问题是设计一个集体抛硬币协议,最终让我们抛硬币得到明确的结果。一开始,拜占庭玩家的影响力太强大了,无法克服,他们基本上可以随意修复硬币的行为。我们保证,在执行了多项式次数的硬币翻转协议之后,要么(a)拜占庭玩家无法修复硬币的行为(从而结束游戏),要么(b)我们可以将玩家“列入黑名单”,这样拜占庭玩家的黑名单率至少与好玩家的黑名单率一样大。列入黑名单的标准是基于欺诈检测的简…
2022-06-30 cs.DC cs.DS math.ST
Perfect Privacy for Discriminator-Based Byzantine-Resilient Federated Learning
School of Computation, Information and Technology(计算、信息与技术学院)
针对联邦学习的隐私与安全挑战,提出ByITFL和LoByITFL两种方案,结合判别器、拉格朗日编码计算等技术,在保障拜占庭弹性的同时实现信息论级隐私,各有通信成本与部署条件的权衡,并提供理论与实验验证。
2025-06-16 cs.DC cs.IT cs.LG
Optimal Communication Complexity of Authenticated Byzantine Agreement
拜占庭协议(Byzantine Agreement,BA)是分布式计算中最基本的问题之一,其通信复杂性是一个重要的效率度量。由于Dolev和Reischuk给出的一个下界,在最坏的情况下,二次通信对于BA是必要的。Berman等人已经证明,该下限对于使用$f < n/3$的未认证设置是紧的,但是对于使用$n/3 \le f < n/2$的认证设置仍然存在相当大的差距。本文提供了两个结果,以缩小这一差距。两种协议都具有二次通信复杂性,并且在弹性和假设方面具有不同的权衡。第一个协议实现了$f < n/2$的最佳弹性,但需要一个可信的阈值签名设置。第二个协议在标准PKI模型中实现了接近最优的弹性$f \le (1/2 - \varepsilon)n$。
2021-01-29 cs.CR cs.DC
Resilient Byzantine Agreement with Predictions
TU Berlin(柏林技术大学);Weizenbaum Institute(魏泽恩堡研究所);HU Berlin(柏林洪堡大学)
本文研究了在有预测器辅助下解决拜占庭共识问题,通过算法容错性和预测器准确度的权衡分析,提出在非认证和认证设置下容忍不同数量故障节点的算法及不可能性结果。
2026-05-19 cs.AI cs.DC
Flexible Byzantine Fault Tolerance
本文介绍了灵活的BFT,围绕两个支柱,更强的弹性和多样性的BFT共识解决方案设计的新方法。第一个支柱,更强的弹性,涉及一个新的断层模型,称为活的,但腐败的断层。存活但损坏的副本可以任意地偏离协议以试图破坏协议的安全性。但是,如果它们不能破坏安全性,它们就不会试图阻止协议的活动性。将活跃但损坏的故障组合到模型中,Flexible BFT比纯拜占庭故障模型更能适应更高的损坏级别。第二个支柱,多样性,设计共识解决方案,其协议记录用于在不同的信念下绘制不同的提交决策。通过这种分离,相同的灵活BFT解决方案支持同步和异步信念,以及拜占庭和存活但损坏的故障的不同弹性阈值组合。在技术层面上,Flexible BFT使用两个新想法实现了上述结果。首先,它介绍了一个同步BFT协议,其中只有提交步骤需要知道网络延迟的界限,因此副本执行协议没有任何同步的假设。其次,它引入了一个概念,称为灵活的拜占庭法定人数解剖不同的法定人数在现有的共识协议中的作用。
2019-05-30 cs.CR cs.DC
Fixing by Mixing: A Recipe for Optimal Byzantine ML under Heterogeneity
拜占庭机器学习(ML)旨在确保分布式学习算法对行为不端(或拜占庭)机器的弹性。虽然这个问题得到了极大的关注,以前的作品往往假设由机器所持有的数据是同质的,这在实际设置中很少是真的。数据异构性使拜占庭ML更具挑战性,因为拜占庭机器几乎无法与非拜占庭离群值区分开来。已经提出了一些解决方案来解决这个问题,但这些方案提供了次优的概率保证,并且在实践中效果不佳。本文缩小了理论差距,实现了最优性,并得出了良好的实证结果。事实上,我们展示了如何通过一个强大的机制,我们称之为最近邻混合(NNM),自动调整(同质)拜占庭ML的现有解决方案,以适应异构环境,该机制增强了任何标准的鲁棒分布式梯度下降变体,以在异构环境下产生最佳的拜占庭弹性。我们获得了类似的保证(在预期中)通过插入NNM的分布式随机重球方法,一个实用的替代分布式梯度下降。我们获得的经验结果显着优于最先进的拜占庭ML解决方案。
2023-02-03 cs.DC cs.LG
Simple Gradecast Based Algorithms
Gradecast是Feldman和Micali提出的一种简单的三轮算法。目前的工作提出了一个非常简单的算法,利用Gradecast实现拜占庭协议。两个小的变化,所提出的算法导致改进的算法,解决近似协议问题和多共识问题。Fekete提出了一种最优近似协议算法,该算法支持1/4n个拜占庭节点,消息复杂度为O(n ^k),其中n为节点数,k为轮数。我们对近似协议问题的解决方案是最优的,简单的,并将消息复杂度降低到O(k * n^3),同时支持多达1/3 n个拜占庭节点。多共识最早由Bar-Noy等人提出,它由l个拜占庭共识的连续执行组成。Bar-Noy等人,假设所有节点同时启动每个共识实例,这一属性无法通过提前停止来保证。我们的解决方案更简单,保持轮复杂度最优,允许提前停止,并且不需要同步启动共识实例。
2010-09-29 cs.DC
Generalized Byzantine-tolerant SGD
在一般拜占庭失效模型下,提出了三个新的分布式同步随机梯度下降~(SGD)鲁棒聚集规则。在参数服务器(PS)结构中,攻击者可以任意操纵服务器与工作者之间的数据传输。我们证明了这些聚合规则的拜占庭弹性属性。实证分析表明,所提出的技术优于当前的方法,为现实的用例和拜占庭攻击的情况下。
2018-03-23 cs.DC stat.ML
Escaping Saddle Points in Distributed Newton's Method with Communication Efficiency and Byzantine Resilience
UCSD(加州大学圣迭戈分校);UMass Amherst(马萨诸塞大学阿默斯特分校);UC Berkeley(加州大学伯克利分校)
在大规模分布式学习框架(如联邦学习)中,非凸优化的鞍点避免问题具有相当大的挑战性,特别是在拜占庭工人存在的情况下。\cite{nest}中著名的正则化牛顿法是在标准集中式(非分布式)设置中避免鞍点的最优雅的方法之一。在本文中,我们扩展的正则化牛顿方法的分布式框架,同时解决一些实际的挑战,如通信瓶颈和拜占庭攻击。注意,在拜占庭机器存在的情况下,鞍点避免的问题变得更加关键,因为流氓机器可能在损失函数的鞍点附近创建\emph{fake local minima},也称为鞍点攻击。作为一个二阶算法,我们的迭代复杂度比一阶算法低得多。此外,我们使用压缩(或稀疏化)技术,如$δ$ -近似压缩通信效率。我们获得了理论保证,我们提出的计划下的几个设置,包括近似(二次采样)梯度和海森。此外,我们使用标准数据集和几种类型的拜占庭攻击的实验验证了我们的理论研究结果,并获得了改进的$25\%$相对于一阶方法的迭代复杂度。
2021-12-25 cs.DC cs.LG math.OC
Quantum Byzantine Agreement Against Full-information Adversary
本文提出从经典私有信道拜占庭协议到量子全信息模型的归约方法,在保持弹性、轮复杂度和通信复杂度的同时,将异步拜占庭协议的轮复杂度从经典下界 Ω(n) 降至 O(1),展示了量子协议应对全信息敌手的优势。
2024-09-03 cs.DC quant-ph
Byzantine Fault Tolerance of Regenerating Codes
近年来,出现了大量为网络存储系统定制的编码技术。在这些新时代的以存储为中心的编码中,网络编码启发的再生码是最多产的研究。已经投入了大量的努力来理解存储和带宽使用的基本可实现的权衡,以在存在不同故障模型的情况下保持冗余,展示了相对于传统纠删编码技术的重新生成代码的功效。然而,为了在开放和对抗性环境中的实际可用性,正如在对等系统中的典型情况一样,我们不仅需要对擦除的弹性,而且还需要对(对抗性)错误的弹性。在本文中,我们研究了广义再生码(支持多修复,使用新人之间的合作)在两类拜占庭节点,相对良性的自私(非合作)的节点,以及更积极的,恶意的污染节点的存在下的弹性。我们给出了再生代码的弹性能力的上限,并表明协作修复的优势,可以变成有害的拜占庭节点的存在。我们进一步展示了系统机制可以与再生代码相结合,以减轻流氓节点的影响。
2011-06-12 cs.CR cs.DC
Dandelion: multiplexing Byzantine agreements to unlock blockchain performance
众所周知,无需许可的区块链协议消耗了大量的计算能力,并且在交易确认的延迟和信心之间进行权衡。最近提出的Algorand区块链协议采用拜占庭协议,并显示出秒级的交易确认延迟。其对拒绝服务和Sybil攻击的强大恢复能力以及较低的计算能力使其成为跨行业分散经济和商业生态系统的有力候选者。然而,Algorand的吞吐量仍然远远不能满足这些应用的要求。在本文中,我们授权Algorand的协议,通过复用其拜占庭协议,以提高性能。在具有多达一万个节点的广域网上的实验表明,与原始Algorand协议相比,吞吐量增加了4倍。
2021-04-30 cs.DC
Not a COINcidence: Sub-Quadratic Asynchronous Byzantine Agreement WHP
King和Saia是第一个在同步系统中打破拜占庭协议的二次词复杂度界限的人,Algorand以接近最优的弹性打破了这个界限(首先是在同步模型中,然后是最终同步)。然而,异步次二次拜占庭协议的问题仍然悬而未决。据我们所知,我们是第一个肯定回答这个问题的。我们解决方案的一个关键组成部分是基于VRF的共享硬币算法。第二个基本要素是基于VRF的委员会抽样,我们正式化,并利用异步模型的第一次。我们的算法针对延迟自适应对手,它不能执行事后删除,但完全控制拜占庭进程和有关前几轮通信的全部信息。使用委员会抽样和我们的共享硬币,我们以高概率解决拜占庭协议,字复杂度为$\widetilde{O}(n)$,$O(1)$预期时间,打破了异步拜占庭协议的$O(n^2)$位障碍。
2020-08-03 cs.DC
Phocas: dimensional Byzantine-resilient stochastic gradient descent
在一般拜占庭失效模型下,提出了一种新的分布式同步随机梯度下降SGD鲁棒聚集规则。在参数服务器(PS)结构中,攻击者可以任意操纵服务器与工作者之间的数据传输。我们证明了拜占庭的弹性建议的聚合规则。实证分析表明,所提出的技术优于当前的方法,为现实的用例和拜占庭攻击的情况下。
2018-05-23 cs.DC stat.ML
Utilizing Redundancy in Cost Functions for Resilience in Distributed Optimization and Learning
Georgetown University(乔治城大学)
本文研究了基于服务器架构的弹性分布式优化和随机机器学习问题。该系统包括服务器和多个代理,其中每个代理具有本地成本函数。代理与服务器协作以找到它们的聚合成本函数的最小值。我们考虑的情况下,当一些代理可能是异步和/或拜占庭故障。在这种情况下,分布式梯度下降(DGD)的经典算法变得无效。我们的目标是设计技术,提高效率的DGD与拜占庭式的失败。要做到这一点,我们首先提出了一种方法来模拟代理的成本函数的通用概念的$(f, \,r; ε)$冗余,其中$f$和$r$是参数的拜占庭故障和冗余,分别和$ε$表征代理的成本函数之间的接近度。这使我们能够量化代理成本函数之间存在的冗余水平,对于任何给定的分布式优化问题。我们从理论和经验上证明了我们提出的冗余模型在提高DGD针对异步和拜占庭代理的鲁棒性方面的优点,以及它们对分布式随机梯度下降(D-SGD)的扩展,以实现具有异步和拜占庭代理的鲁棒分布式机器学习。
2021-10-21 cs.DC cs.LG
Byzantine-Resilient Federated Learning at Edge
Shandong University(山东大学);University of Chinese Academy of Sciences(中国科学院大学);University of California, Los Angeles(加利福尼亚大学洛杉矶分校);City University of Hong Kong(香港城市大学)
拜占庭弹性和通信效率在边缘联邦学习中的重要性引起了人们的极大关注。然而,大多数现有的算法可能会失败时,处理现实世界中的不规则数据的行为在重尾的方式。为了解决这个问题,我们研究了边缘联邦学习的随机凸和非凸优化问题,并展示了如何处理重尾数据,同时保持拜占庭弹性,通信效率和最佳统计出错率。具体来说,我们首先提出了一个拜占庭弹性分布式梯度下降算法,可以处理重尾数据,同时在标准假设下收敛。为了减少通信开销,我们进一步提出了另一种算法,采用梯度压缩技术,以节省在学习过程中的通信成本。理论分析表明,我们的算法实现了订单最优的统计出错率拜占庭设备的存在。最后,我们在合成和真实世界的数据集上进行了广泛的实验,以验证我们的算法的有效性。
2023-03-18 cs.AI cs.DC
Half a Century of Distributed Byzantine Fault-Tolerant Consensus: Design Principles and Evolutionary Pathways
本文系统梳理了半个世纪以来分布式拜占庭容错共识的历史演进与设计原则,涵盖PBFT、SMR、部分同步/异步协议及DAG共识等关键进展,并展望无线与区块链场景下的未来研究方向。
2025-05-10 cs.DC
Predictions Can Only Help! Communication Efficient Byzantine Agreement with Predictions
ETH Zürich, Switzerland(苏黎世联邦理工学院);École Polytechnique Fédérale de Lausanne, Switzerland(洛桑联邦理工学院);National University of Singapore, Singapore(新加坡国立大学)
本文提出一种通信效率更高的拜占庭协议,通过预测减少通信量,无需传统Ω(f)轮次下界,实现最优轮次复杂度。
2026-08-19 cs.DC
Hard Shell, Reliable Core: Improving Resilience in Replicated Systems with Selective Hybridization
本文提出ShellFT框架,利用微复制实现选择性混合化,允许自由选择复制逻辑中需拜占庭容错的部分,相比传统方法降低多样化成本超70%。
2025-08-13 cs.DC
Beyond One Third Byzantine Failures
拜占庭协议问题需要一组$n$进程对发送器发送的值达成一致,尽管$b$进程的子集以任意(即拜占庭)方式行为并且向系统中的所有进程发送损坏的消息。众所周知,该问题在(最终)同步消息传递分布式系统中有解当且仅当拜占庭子集中的进程数小于进程总数的三分之一,即当且仅当$n > 3b+1$。其余的进程应该是正确的:它们永远不应该偏离分配给它们的算法并发送损坏的消息。但如果他们仍然这样做呢?我们在本文中表明,它是可能的解决拜占庭协议,即使超出$ b$($< n/3 $)拜占庭进程,其他一些进程也发送损坏的消息,只要他们不发送给所有。更具体地说,我们推广了经典的拜占庭模型,并认为拜占庭故障可能是部分的。在每个通信步骤中,某些进程可能会将损坏的消息发送到进程的子集。这个进程子集--可能会向其发送损坏的消息--可能会随着时间的推移而改变。我们计算的确切数量的进程,可以提交这样的故障,除了那些提交经典的拜占庭故障,同时仍然解决拜占庭协议。我们提出了一个相应的拜占庭协议算法,并证明了其最优性,给出弹性和复杂性的界限。
2015-11-25 cs.DC
Toward Optimal-Complexity Hash-Based Asynchronous MVBA with Optimal Resilience
Category Labs;a16z Crypto Research(a16z 加密研究);Columbia University(哥伦比亚大学)
本文提出Reducer协议,在保持HMVBA最优复杂度的同时提升容错能力至t<1/4n,并进一步提出Reducer++协议,容忍t<(1/3-ε)n的适应性故障,采用随机预言模型确保终止性。
2026-05-13 cs.DC
Byzantine Machine Learning Made Easy by Resilient Averaging of Momentums
École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)
拜占庭式的弹性成为分布式机器学习社区中的一个突出话题。从本质上讲,目标是增强分布式优化算法,如分布式SGD,以保证收敛,尽管存在一些行为不端(也称为,{ \em Byzantine})工人。虽然已经提出了无数的技术来解决这个问题,但该领域可以说是建立在脆弱的基础上。这些技术很难证明是正确的,并且依赖于(a)非常不现实的假设,即,在实践中经常被违反,以及(b)异质性,即,使得难以比较方法。我们提出了\emph{RESAM (RESilient Averaging of Momentums)},一个统一的框架,使它简单地建立最佳的拜占庭弹性,只依赖于标准的机器学习假设。我们的框架主要由两个操作符组成:服务器端的\emph{resilient averaging}和工作端的\emph{distributed momentum}。我们证明了一个一般定理,说明分布式SGD下RESAM的收敛性。有趣的是,证明和比较许多现有技术的收敛性成为我们定理的直接推论,而无需采取严格的假设。我们还提出了RESAM的实际意义的实证评估。
2022-05-24 cs.DC cs.LG
Byzantine-Tolerant Machine Learning
École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)
现代机器学习中使用的数据的增长、对可扩展性的需求以及模型的复杂性要求分布式实现。然而,到目前为止,分布式机器学习框架在很大程度上忽略了任意(即,拜占庭)失败。在本文中,我们研究了拜占庭故障的鲁棒性在基本水平的随机梯度下降(SGD),大多数机器学习算法的心脏。假设一组$n$工作者,其中$f$是拜占庭的,我们问SGD的鲁棒性如何,而不限制维度,也不限制参数空间的大小。我们首先表明,没有梯度下降更新规则的基础上提出的工人(即,目前的方法)的向量的线性组合容忍一个单一的拜占庭失败。然后,我们制定了一个弹性的更新规则捕捉的基本要求,以保证收敛,尽管$f$拜占庭工人。最后,我们提出了Krum,一个更新规则,满足上述的弹性属性。对于$d$维学习问题,Krum的时间复杂度为$O(n^2 \cdot (d + \log n))$ .
2017-03-08 cs.DC cs.LG cs.NE
Round and Resilience-Optimal Approximate Agreement on Trees and Block Graphs
University of Freiburg(弗赖堡大学);Lucerne University of Applied Sciences and Arts(卢塞恩应用科学与艺术大学);Humboldt University of Berlin(柏林洪堡大学)
针对树和块图上的同步拜占庭容错近似一致问题,提出轮次复杂度为O(log D(T)/log log D(T))的最优弹性协议,并证明下界Ω(log D(G)/(log log D(G)+log((n+t)/t))),确立渐近最优性。
2026-07-03 cs.DC
RAPTEE: Leveraging trusted execution environments for Byzantine-tolerant peer sampling services
对等采样是分布式系统中用于覆盖管理和信息传播的第一级抽象。对等点采样的目标是不断地构建和刷新动态的、大规模的分布式系统的完整成员的局部视图。在对手控制下的恶意节点可能旨在在正确节点的视图中被过度表示,从而增加它们对基于对等采样构建的协议的正确操作的影响。最先进的拜占庭弹性对等采样协议减少了这种偏见,只要拜占庭不是过度存在。本文研究了在考虑到一小部分可信节点可以运行代码时,对等采样服务的弹性所带来的好处,这些代码的真实性和完整性可以在可信执行环境中进行评估,特别是英特尔的软件防护扩展技术(SGX)。我们提出了RAPTEE,协议,建立和利用可信的八卦为基础的通信,阻碍对手的能力,以增加其系统范围内的代表性的所有节点的意见。我们将RAPTEE应用于BRAHMS,这是迄今为止最具弹性的对等采样协议。10,000个节点的实验表明,只有1%的支持SGX的设备,RAPTEE可以在系统包含10%的拜占庭节点时,将诚实节点中拜占庭ID的比例降低17%。此外,RAPTEE的安全保证即使在存在强大的攻击者试图识别可信节点和注入视图中毒的可信节点的情况下也能保持。
2022-03-08 cs.DC
Solon: Communication-efficient Byzantine-resilient Distributed Training via Redundant Gradients
Stanford University(斯坦福大学);University of Pennsylvania(宾夕法尼亚大学);University of Wisconsin(威斯康星大学)
在分布式模型训练中提供拜占庭弹性的需求越来越大。现有的鲁棒分布式学习算法主要关注于在参数服务器上开发复杂的鲁棒聚集器,而对通信开销和鲁棒性的平衡关注较少。在本文中,我们提出了梭伦,一个算法框架,利用梯度冗余,同时提供通信效率和拜占庭鲁棒性。我们的理论分析表明,计算负载,通信成本和拜占庭鲁棒性之间的基本权衡。我们还开发了一个具体的算法,以实现最佳的权衡,借用编码理论和稀疏恢复的想法。在各种数据集上的实验表明,Solon在现有方法上提供了显着的加速,以达到相同的精度,比Bulyan快10倍以上,比Draco快80%。我们还表明,精心设计的拜占庭攻击打破Signum和Bulyan,但不影响梭伦的成功收敛。
2021-10-09 cs.DC cs.LG
Byzantine Generalized Lattice Agreement
研究了异步系统中的格一致性问题。在LA中,每个过程从预定的网格中提出元素$e$,并且必须决定网格的元素$e'$,使得$e \leq e'$。此外,不同过程的决定必须是可比较的(没有两个过程可以决定两个元素$e$和$e'$,使得$(e \not\leq e') \land (e' \not\leq e)$)。已经表明,广义LA(即,LA提出和决定值序列的版本)可用于构建具有可交换更新操作的复制状态机(RSM)。LA和广义LA的主要优点是它们可以在容易崩溃的异步系统中解决(这不是标准共识的情况)。在本文中,我们假设拜占庭失败。我们提出了等待直到安全(WTS)算法LA,我们表明,它的弹性$f \leq (n-1)/3$拜占庭是最佳的。然后,我们推广WTS得到一个广义LA算法,即GWTS。我们使用GWTS来建立一个可交换更新的响应空间模型。我们的RSM在异步系统中工作,并容忍$f \leq (n-1)/3$恶意实体。我们所有的算法都使用认证信道的最小假设。当更强大的公共签名可用时,我们讨论如何提高我们的结果的消息复杂度(从二次到线性,当$f={\cal O}(1)$)。据我们所知,这是第一篇提出拜占庭LA解决方案的论文,适用于任何可能的晶格,这是第一个工作提出了拜占庭宽容RSM建立在它的基础上。
2020-02-13 cs.DC
AUPE: Collaborative byzantine fault-tolerant peer-sampling
University of Bordeaux, Bordeaux-INP, CNRS-LaBRI(波尔多大学,波尔多国立理工学院,法国国家科学研究中心-拉布里实验室)
AUPE提出首个协作式拜占庭容错对等采样协议,利用可信节点消除偏差,在10,000节点模拟中优于现有方案,即使面对26%恶意节点仍保持近乎完美韧性。
2026-09-17 cs.DC
The Contest Between Simplicity and Efficiency in Asynchronous Byzantine Agreement
在费舍尔、林奇和帕特森对只有一次失败的aynestry模型中的确定性共识协议的决定性不可能性结果之后,Ben-Or和Bracha证明了这个问题可以用随机性来解决,即使是拜占庭式的失败。这两种协议都是自然和直观的验证,Bracha的实现了最佳的弹性。然而,这些协议的预期运行时间通常是指数的。最近,Kapron,Kempe,King,Saia和Sanwalani提出了第一个在异步,全信息模型中运行的高效Byzantine协议算法,在多对数时间内运行。他们的算法是蒙特卡罗算法,与Ben-Or和Bracha的拉斯维加斯算法的简单结构截然不同。在本文中,我们开始调查的问题:在何种程度上是必要的这种偏离?有没有一种更简单直观的拉斯维加斯协议,可以在预期的多项式时间内运行?我们将表明,指数运行时间的Ben-Or和Bracha的算法不仅仅是他们的具体细节的意外,而是一个不可避免的后果,他们的一般对称性和轮结构。我们定义了一个自然类的“完全对称轮协议”解决拜占庭协议在异步设置,并表明,任何这样的协议可以强制运行在预期的指数时间由对手在全信息模型。我们假设对手控制$t$拜占庭处理器的$t = cn$,其中$c$是一个任意的正常数$< 1/3$。我们认为我们的结果是朝着确定在这种情况下多项式时间算法所需的复杂性水平迈出的一步,也是寻找新的有效算法的指导。
2011-07-07 cs.DC
Efficient counting with optimal resilience
考虑$n$节点的完整通信网络,其中节点接收公共时钟脉冲。我们研究的同步$c$计数问题:给定任何起始状态和$f$故障节点的任意行为,任务是最终有所有正确的节点标记的脉冲与增加值模$c$在协议。因此,我们正在考虑的算法是自我稳定,尽管拜占庭式的失败。在这项工作中,我们给出了新的算法的同步计数问题,(1)是确定性的,(2)具有最佳的弹性,(3)有一个线性稳定时间在$f$(渐近最优),(4)使用少量的状态,因此,(5)通信的比特数少,每轮。以前的算法要么诉诸随机化,使用大量状态并需要高通信带宽,要么具有次优的弹性。特别是,我们实现了确定性算法的状态复杂度和消息大小的指数改善。此外,我们提出了两种互补的方法,用于减少在稳定期间和稳定后通信的位数。
2017-05-18 cs.DC
XFT: Practical Fault Tolerance Beyond Crashes
尽管经过多年的深入研究,拜占庭容错(BFT)系统尚未在实践中采用。这是由于与崩溃容错(CFT)相比,BFT在资源、协议复杂性和性能方面的额外成本。BFT的这种开销来自于这样的假设:强大的对手不仅可以完全控制拜占庭式的故障机器,而且同时还可以完全控制整个网络的消息传递时间表,从而有效地诱导通信异步并随意划分其他正确的机器。然而,对许多从业者来说,这种强烈的攻击似乎无关紧要。在本文中,我们介绍了交叉容错或XFT,一种新的方法来建立可靠和安全的分布式系统,并将其应用到经典的状态机复制(SMR)问题。简而言之,XFT SMR协议提供了广泛使用的异步CFT SMR协议(如Paxos和Raft)的可靠性保证,但也容忍拜占庭故障与网络冗余的组合,只要大多数副本是正确的并同步通信。这允许以CFT的价格(在实践中已经支付)开发XFT系统,但具有比CFT更强的弹性-有时甚至比BFT本身更强。作为XFT的展示,我们展示了第一个XFT SMR协议XPaxos,并将其部署在地理复制设置中。虽然它在没有额外资源成本的情况下提供了比CFT SMR更强的弹性,但XPaxos的性能与最先进的CFT协议相匹配。
2016-11-08 cs.DC
Byzantine Approximate Agreement on Graphs
考虑一个带有$n$处理器的分布式系统,其中$f$可能是拜占庭式故障。在近似一致任务中,每个处理器$i$接收输入值$x_i$,并且必须决定输出值$y_i$,使得-输出值在非故障处理器的输入值的凸包中,-输出值在彼此的距离$d$内。传统上,假设这些值来自$m$维欧几里德空间,其中$m \ge 1$ .在这项工作中,我们研究的任务在一个离散的设置,输入值与一些结构表达为一个图形。也就是说,输入值是有限图$G$的顶点,并且目标是输出在$G$中彼此的距离$d$内但仍保持在输入值的图诱导凸包中的顶点。对于$d=0$,任务简化为共识,并且在异步系统中即使有单个崩溃故障也不能用确定性算法来解决。对于任何$d \ge 1$,我们表明,该任务是可解的异步系统时,$G$是弦和$n > (ω+1)f$,其中$ω$是团数的$G$。此外,我们给出了第一个拜占庭容忍算法的一个变种格协议。对于同步系统,我们展示了严格的弹性界限,这些和相关的任务在一个大类的组合结构的确切变体。
2019-11-19 cs.DC
Towards Optimal Synchronous Counting
考虑$n$节点的完整通信网络,其中节点接收公共时钟脉冲。我们研究的同步$c$计数问题:给定任何起始状态和$f$故障节点的任意行为,任务是最终有所有正确的节点计数模$c$的协议。因此,我们正在考虑的算法是自稳定的,尽管拜占庭式的失败。在这项工作中,我们给出了新的算法的同步计数问题,(1)是确定性的,(2)在$f$线性稳定时间,(3)使用少量的状态,(4)实现几乎最佳的弹性。以前的算法要么诉诸随机化,使用大量的状态,或具有较差的弹性。特别是,我们实现了确定性算法的空间复杂度的指数改善,同时仍然实现线性稳定时间和几乎线性的弹性。
2015-03-23 cs.DC
Communication Complexity of Byzantine Agreement, Revisited
随着拜占庭协议(BA)在大规模去中心化加密货币中的应用,一个越来越重要的问题是设计具有改进的通信复杂性的BA协议。一些现有的作品已经展示了如何在{ \it adaptive}对手下实现次二次BA。有趣的是,它们都对攻击者的适应性做了一个共同的放松,即如果一个诚实的节点发送了一条消息,然后在某轮中被破坏,对手{ \it不能删除已经发送的消息} -此后我们说这样的对手不能执行“事后删除”。相比之下,文献中的许多(超)二次BA协议可以容忍事后删除。在本文中,我们首先证明,不允许事后删除是必要的子二次通信BA。接下来,我们展示了新的次二次二进制BA结构(当然,假设没有事后删除),在标准密码假设和公钥基础设施(PKI)的同步和部分同步设置下,实现了接近最佳的弹性和预期的常数轮。相比之下,所有已知的次二次协议都做出了额外的强假设,例如随机预言或诚实节点从内存中删除秘密的能力,即使有这些强假设,也没有先前的工作可以实现上述属性。最后,我们表明,一些设置假设是必要的,实现次二次多播为基础的BA。
2020-02-15 cs.DC
LIFT: Byzantine Resilient Hub-Sampling
Sorbonne University(索邦大学)
LIFT通过引入加密安全的伪随机数生成器,提高了Elevator在拜占庭攻击下的鲁棒性,使其能够承受高达10%的拜占庭节点攻击。
2026-01-28 cs.CR cs.DC
Juggernaut: Efficient Crypto-Agnostic Byzantine Agreement
研究密码学无关拜占庭协议,提出编译器将认证与信息论设置下的协议转换为在密码学被攻破时仍具回退安全性的协议,改进了比特复杂度并保持认证设置下的效率。
2024-10-15 cs.CR cs.DC
Prioritized-MVBA: A New Approach to Design an Optimal Asynchronous Byzantine Agreement Protocol
优先级-MVBA协议通过引入委员会和ABBA协议,实现了在异步网络中容忍最多⌊n/3⌋拜占庭故障的最优MVBA协议设计。
2025-11-19 cs.DC
Optimal byzantine resilient convergence in oblivious robot networks
Université Pierre et Marie Curie - Paris 6(巴黎第六大学(皮埃尔和玛丽·居里大学));CNRS(法国国家科学研究中心)
给定一组具有任意初始位置且在全局坐标系上没有一致性的机器人,收敛要求所有机器人渐近地接近完全相同但事先未知的位置。机器人是健忘的--它们不记得过去的计算--并且被允许在一维空间中移动。此外,机器人不能直接通信,而是只能通过视觉传感器获取系统相关信息。我们绘制了机器人网络中的收敛问题和分布式\emph{approximate agreement}问题(需要正确的过程来决定,对于一些常数$ε$,值距离$ε$和初始建议值的范围内)之间的连接。令人惊讶的是,即使规范相似,机器人网络中的收敛实现也需要对同步和拜占庭弹性进行特定的假设。更详细地说,我们证明了移动机器人收敛的充分必要条件,尽管它们的子集是拜占庭式的(即它们可以表现出任意行为)。此外,我们提出了一个确定性的机器人网络的收敛算法,并分析其正确性和复杂性,在各种同步设置。所提出的算法容忍f拜占庭机器人(2f+1)大小的机器人网络在完全同步网络,(3f+1)大小的半同步网络。这些界限是最佳的一类谨慎的算法,保证正确的机器人总是正确的机器人的位置范围内移动。
2009-05-25 cs.DC cs.RO
COOL Is Optimal in Error-Free Asynchronous Byzantine Agreement
本文提出了 COOL 协议的自适应变体 OciorACOOL,在异步环境下实现了无错误且信息论安全的拜占庭协议,保持了最优通信复杂度、常数轮通信和最优弹性假设。
2025-10-31 cs.CR cs.DC cs.IT
Make Every Word Count: Adaptive BA with Fewer Words
本文针对实际常见故障较少的运行场景,提出了首个通信复杂度为 $O(n(f+1))$ 的 Byzantine Broadcast 算法,以及具有强一致性的 BA 最优弹性算法,在无故障时实现线性通信复杂度。
2024-01-10 cs.DC
MiB: Asynchronous BFT with More Replicas
最先进的异步拜占庭容错(BFT)协议,如HoneyBadgerBFT,BEAT和Dumbo,已经显示出与部分同步BFT协议相当的性能。本文研究了异步BFT的两个实用方向。首先,虽然所有这些异步BFT协议都假设具有3f+1个副本的最佳弹性(其中f是拜占庭副本数量的上限),但有趣的是,如果放松弹性水平,是否可能有更有效的协议。其次,这些最近的BFT协议评估其性能下的无故障的情况下。目前还不清楚这些协议在故障和攻击期间是否确实表现良好。本工作首先研究异步BFT次优弹性使用5f+1和7f+1副本。我们提出了MiB,一个新的和高效的异步BFT框架,使用新的分布式系统结构作为构建块。MiB由两个主要的BFT实例和五个其他变体组成。作为另一个贡献,我们系统地设计实验异步BFT协议的故障,并评估其性能在各种故障情况下。我们报告有趣的发现,显示异步BFT确实在各种故障情况下始终表现良好。特别是,通过在Amazon EC2上使用140个副本的五大洲部署,我们发现MiB实例比异步BFT实例具有更低的延迟和更高的吞吐量。
2021-08-21 cs.CR cs.DC
Collaborative Learning in the Jungle (Decentralized, Byzantine, Heterogeneous, Asynchronous and Nonconvex Learning)
École Polytechnique(巴黎综合理工学院);EPFL(洛桑联邦理工学院)
我们研究拜占庭协作学习,其中$n$节点寻求从彼此的本地数据中集体学习。数据分布可以从一个节点到另一个节点而变化。没有任何节点是可信的,并且$f < n$节点可以任意行为。我们证明了合作学习等价于一种新的协议形式,我们称之为平均协议。在这个问题中,每个节点都从一个初始向量开始,并试图近似地同意一个共同的向量,这个向量接近诚实节点的初始向量的平均值。我们提出了两个异步的解决方案,平均协议,我们证明每个最佳根据一些维度。第一,基于最小直径平均,需要$ n \geq 6f+1$,但实现渐近最佳可能的平均常数的乘法常数。第二种方法基于可靠广播和坐标修剪均值,实现了最佳拜占庭弹性,即,$n \geq 3f+1$。这些算法中的每一个都导出了一个最优的拜占庭协作学习协议。特别是,我们的等价性产生了新的不可能性定理,任何协作学习算法可以在对抗和异构环境中实现。
2021-12-01 cs.DC cs.LG stat.ML
Byzantine-Resilient Stochastic Gradient Descent for Distributed Learning: A Lipschitz-Inspired Coordinate-wise Median Approach
Iowa State University(爱荷华州立大学)
在这项工作中,我们考虑分布式学习中基于随机梯度下降(SGD)的分布式算法的弹性与潜在的拜占庭攻击者,谁可以发送任意信息到参数服务器,以破坏训练过程。为此,我们提出了一个新的Lipschitz启发的坐标明智的中位数方法(LICM-SGD),以减轻拜占庭攻击。我们证明了我们的LICM-SGD算法可以抵抗多达一半的拜占庭攻击者,同时在非凸设置中几乎肯定会收敛到一个固定区域。此外,我们的LICM-SGD方法不需要关于攻击者数量和Lipschitz常数的任何信息,这使得它对实际实现具有吸引力。此外,我们的LICM-SGD方法享有最佳的$O(md)$计算时间复杂度的意义上,时间复杂度是相同的标准SGD下没有攻击。我们进行了大量的实验,以表明我们的LICM-SGD算法在使用MNIST和CIFAR-10数据集训练多类逻辑回归和卷积神经网络方面始终优于现有方法。在我们的实验中,LICM-SGD还实现了更快的运行时间,这要归功于它的低计算时间复杂度。
2019-09-10 cs.DC cs.LG stat.ML
Byzantine Agreement, Broadcast and State Machine Replication with Near-optimal Good-case Latency
本文研究了同步认证环境下拜占庭协议、广播和状态机复制的\textit{good-case latency}问题。好情况延迟度量捕获当所有非故障方具有相同输入时(或在BB/SMR中,当发送者/领导者没有故障时)达成协议所需的时间。前面的结果意味着一个下限,表明任何拜占庭协议或广播协议容忍超过$n/3$故障必须有一个良好的情况下至少$Δ$的延迟,其中$Δ$是假设的最大消息延迟边界。我们的第一个结果是我们称之为$1Δ$的一系列协议,它们具有接近最优的良好情况延迟。我们提出了一个协议$1Δ$-BA,解决了拜占庭协议的同步和认证设置与接近最佳的好的情况下的延迟$Δ+2δ$和最佳的弹性$f<n/2$,其中$δ$是实际的(未知的)延迟界。然后,我们扩展我们的协议,并提出了$1Δ$-BB和$1Δ$-SMR拜占庭容错广播和状态机复制,分别在相同的设置和相同的好情况下的延迟$Δ+2δ$和$f<n/2$容错。我们的$1Δ$-SMR上限改善了当前最佳解决方案Sync HotStuff(每个命令获得$2Δ$的良好情况延迟)与$Δ$的良好情况延迟下限之间的差距。最后,我们调查较弱的同步设置的概念,并说明如何通过这些模型的$1Δ$方法。
2020-12-19 cs.CR cs.DC
From Symmetric to Asymmetric Asynchronous Byzantine Consensus
本文针对异步拜占庭共识,将 Mostéfaoui 等人的最优随机化无签名协议从对称信任模型推广到非对称信任模型,通过修正协议缺陷并利用非对称法定人数,实现了具有主观信任和常数期望运行时间的最优共识协议。
2021-06-04 cs.DC