Toward Adaptive Causal Consistency for Replicated Data Stores
键值存储的因果一致性有两个主要要求:(1)如果一个版本的某些依赖项不可见,则不要使其可见,因为它可能会在未来违反因果一致性;(2)尽快使版本可见,以便客户端拥有最新的信息(在可行的范围内)。这两个要求相互冲突。提供因果一致性(或因果违反的检测)的现有键值存储在这些要求之间的权衡中利用静态方法。根据选择,它帮助一些应用程序并惩罚一些应用程序。我们提出了一种替代方案,其中系统提供了一组跟踪组和检查组。这允许应用程序选择最适合该应用程序的设置。此外,这些组可以根据应用需求动态更改。
2018-03-22 cs.DC
Probabilistically Bounded Staleness for Practical Partial Quorums
数据存储区复制会导致操作延迟和数据一致性之间的根本权衡。在本文中,我们研究这种权衡的情况下,法定人数复制的数据存储。在部分或非严格仲裁复制下,数据存储在回答查询之前等待来自副本子集的响应,而不保证读取和写入副本集相交。在实际部署中,这些配置只提供基本的最终一致性保证,对返回的数据的最近性没有限制。然而,有趣的是,部分法定人数通常对从业者来说“足够好”,因为它们具有潜在的好处。在这项工作中,我们解释了为什么部分法定人数在实践中是经常可以接受的,分析他们返回的数据的陈旧性和他们提供的延迟好处。我们引入概率有界陈旧性(PBS)的一致性,它提供了预期的界限陈旧的版本和挂钟时间。我们得出一个封闭形式的解决方案版本陈旧,以及模型实时陈旧的代表性发电机风格的系统下,互联网规模的生产工作负载。使用PBS,我们衡量延迟一致性权衡部分定额系统。我们定量地展示了最终一致的系统如何在几十毫秒内频繁地返回一致的数据,同时提供显着的延迟优势。
2012-04-26 cs.DB cs.DC
Harmonia: Near-Linear Scalability for Replicated Storage with In-Network Conflict Detection
分布式存储采用复制来屏蔽故障并提高可用性。然而,这些系统通常表现出一致性和性能之间的硬权衡。确保一致性会引入协调开销,因此系统吞吐量不会随副本数量而变化。我们提出了Harmonia,一个复制的存储架构,利用新一代可编程交换机的能力,通过提供接近线性的可扩展性,而不牺牲一致性,以避免这种权衡。为了实现这一目标,Harmonia检测网络中的读写冲突,这使得任何副本都可以为没有挂起写入的对象提供读取服务。Harmonia以线路速率实现此功能,因此不会带来性能开销。我们已经在一个由Barefoot Tofino交换机连接的商品服务器集群上实现了Harmonia的原型,并将其与Redis集成。我们证明了我们的方法的一般性,通过支持各种复制协议,包括主备份,链复制,Viewstamped复制和NOPaxos。实验结果表明,Harmonia将这些协议的吞吐量提高了10倍,复制因子为10,提供了接近线性的可扩展性,达到了我们测试平台的极限。
2019-04-18 cs.DC
Conflict-Aware Replicated Data Types
我们引入了可感知复制数据类型(CARD)。CARD比无冗余的复制数据类型(CRDT)更有表现力,因为它们支持可能相互冲突的操作。引入冲突操作通常带来在至少一些执行中阻塞操作的需要,导致编程和关于正确性的推理的困难,以及实现中的潜在低效率。CARD的突出方面是,它们允许与CRDT相比的编程和推理,同时允许冲突的算法推理,以便仅在必要时阻止操作。关键思想是要有一种语言,允许将每个操作与一个称为{ \em consistency guard}的两状态谓词相关联,该谓词将正在执行操作的副本的状态与全局状态(从不计算)相关联。一致性防护装置有三个优点。首先,开发操作的程序员只需要选择一个一致性保护,说明操作将依赖于什么。特别是,他们不需要考虑操作与其他操作的冲突。这允许纯粹的{ \em模块化推理}。其次,我们表明,一致性保护允许降低复杂性的推理需要证明不变量,持有卡操作执行。原因是一致性保护允许将关于操作之间的并发性的推理减少为纯粹的{ \em顺序推理}。第三,操作之间的冲突可以通过检查一个操作的效果是否保持另一个操作的一致性保护来算法地推断。
2018-09-26 cs.DC
Timestamps for Partial Replication
利用向量时间戳维护分布式共享存储系统中的因果一致性已经受到理论和实践的广泛关注。然而,大多数以前的文献集中在完整复制,其中每个数据存储在所有副本中,由于数据量的增加,这可能是不可伸缩的。在这份报告中,我们研究如何实现因果一致性的部分复制系统,其中每个副本可能存储不同的数据集。提出了一种基于向量时间戳的因果依赖跟踪算法。我们的算法在时间戳大小方面的成本随着副本共享数据的方式以及每个客户端访问的副本集的函数而变化。我们还建立了我们的算法与以前的工作完全复制之间的连接。
2016-12-26 cs.DC
A framework to reason about consistency and atomicity guarantees in a sparsely-connected, partially-replicated peer-to-peer system
DittoLive Inc.(DittoLive公司)
本文提出IntersectionAtomicity和IntersectionCC模型,用于解决稀疏连接、部分复制对等系统中的一致性和原子性保证问题。
2026-03-04 cs.DC
"Reduction of Monetary Cost in Cloud Storage System by Using Extended Strict Timed Causal Consistency"
云存储系统已经被引入为组织和最终用户提供可扩展的、安全的、可靠的和高度可用的数据存储环境。因此,服务提供商应该在地理范围内增长。因此,广泛的存储服务供应需要复制机制。复制对云存储施加了许多成本,包括同步、通信、存储等,复制品之间的成本。此外,副本之间的同步过程是云存储中的主要挑战。因此,一致性可以定义为副本之间的协调。在本文中,我们提出了一个扩展的严格时间因果一致性,增加了考虑的货币成本和违反的云存储系统中的数量,并称之为扩展的严格时间因果一致性。我们提出的支持单调读,读你写,单调写,写跟随读,模型考虑到用户的操作之间的因果关系,在客户端。此外,它支持服务器端的定时因果关系。我们采用了Cassandra云数据库,支持各种不同的数据,如所有,一个,法定人数等,我们的方法在降低陈旧率,违规的严重程度,和货币成本相比,所有,一个,法定人数,因果关系。
2020-09-04 cs.DC
Observable atomic consistency for CvRDTs
分布式系统的开发要求开发人员在一致性、可用性和分区容差之间取得平衡。在最终一致的系统中,为了减少并发控制,广泛使用了无冗余复制数据类型(CRDT)。然而,由于缺乏一致的非单调操作,CRDT的使用可能是困难的。在本文中,我们提出了一个新的一致性协议,可观察原子一致性协议(OACP)。OACP支持强一致性的原则性放松,以提高特定场景中的性能。OACP结合了可合并数据类型(具体而言,是聚合复制数据类型)和可靠的全顺序广播的优点,以提供随需应变的强一致性。通过提供可观察的原子一致性,OACP避免了相关协议的异常。我们提供了一个分布式的,基于Akka的OACP集群实现,Akka是一个广泛使用的基于角色的中间件。我们的实验评估表明,OACP可以减少副本之间的协调相比,其他协议提供原子的一致性,在几个基准。我们的研究结果还表明,OACP通过可合并的数据类型获得可用性,并提供可接受的延迟,以实现强一致性。
2018-06-18 cs.DC
Integrity-Enhancing Replica Coordination for Byzantine Fault Tolerant Systems
强副本一致性通常通过编写确定性应用程序或使用各种机制来呈现副本确定性来实现。有大量的工作是关于如何在良性故障模型下使副本具有确定性。然而,当副本可能会受到恶意故障,以前的大部分工作不再有效。此外,副本的确定性通常被认为是有害的,从安全的角度来看,对于许多应用程序,它们的完整性很大程度上取决于它们的一些内部操作的随机性。这就需要新的方法来实现副本的一致性,同时保持副本的随机性。在本文中,我们提出了两个这样的方法。一种是基于拜占庭协议,另一种是基于阈值抛硬币。每种方法都有其优点和缺点。我们比较了这两种方法的性能,并概述了各自的最佳使用场景。
2008-03-11 cs.DC
PaRiS: Causally Consistent Transactions with Non-blocking Reads and Partial Replication
地理复制数据平台是若干大规模在线服务的骨干。事务因果一致性(transmittance Causal Consistency,TCC)是构建此类平台的一个有吸引力的一致性级别。TCC避免了最终一致性的许多异常,避免了强一致性的同步成本,并支持交互式读写事务。部分复制是构建地理复制平台的另一个有吸引力的设计选择,因为它增加了存储容量并降低了更新传播成本。本文介绍了PaRiS,第一TCC系统,支持部分复制,实现非阻塞并行读操作,其延迟是至关重要的性能读取密集型应用程序。PaRiS依赖于一种新的协议来跟踪依赖关系,称为通用稳定时间(UST)。通过一个轻量级的后台gossip进程,UST识别系统中每个DC安装的数据快照。因此,事务可以一致地从任何复制站点中的任何服务器上的这样的快照读取,而不必阻塞。此外,PaRiS只需要一个时间戳来跟踪依赖关系和定义事务快照,从而实现资源效率和可扩展性。我们在由多达10个复制站点组成的大规模AWS部署上评估PaRiS。我们表明,PaRiS的规模以及DC和分区的数量,同时能够处理更大的数据集比现有的解决方案,假设完全复制。我们还展示了非阻塞读取与阻塞替代方案相比的性能提升(对于以读取为主的工作负载,吞吐量提高高达1.47倍,延迟降低5.91倍;对于写入繁重的工作负载,吞吐量提高高达1.46倍,延迟降低20.56倍)。
2019-02-25 cs.DC
Hermes: a Fast, Fault-Tolerant and Linearizable Replication Protocol
当今的数据中心应用程序由负责提供可用性、一致性和性能的数据存储区支撑。为了在出现故障时实现高可用性,这些数据存储区跨多个节点复制数据。这是在可靠的复制协议的帮助下完成的,该协议负责即使在发生故障时也保持副本的强一致性。强一致性优于不能保证客户端直观行为的弱一致性模型。此外,为了满足实时延迟的高需求,数据存储必须提供高吞吐量和低延迟。这项工作介绍了Hermes,一个基于广播的可靠的复制协议,在内存中的数据存储,提供高吞吐量和低延迟,使本地读取和完全并发的快速写入在所有副本。Hermes将逻辑时间戳与缓存一致性启发的无效结合起来,以保证线性化,避免在集中排序点进行写入序列化,在每个副本本地解决写入冲突(从而确保写入永远不会中止),并通过可重放写入提供容错。我们在支持RDMA的可靠路由器上实现了Hermes,其中包含5个副本,这表明Hermes在所有写入比率上都能实现比最先进的基于RDMA的可靠协议(ZAB和CRAQ)更高的吞吐量,同时还显著降低了尾部延迟。在5%写入时,Hermes的尾部延迟比CRAQ和ZAB低3.6倍。
2020-01-27 cs.DC
Verifying Strong Eventual Consistency in Distributed Systems
数据复制用于分布式系统中,以维护网络中多台计算机之间的共享数据的最新副本。然而,尽管经过几十年的研究,在复制系统中实现一致性的算法仍然知之甚少。事实上,许多已发表的算法后来都被证明是不正确的,甚至有些算法还附带了所谓的机械化正确性证明。在这项工作中,我们专注于无重复数据类型(CRDTs),一类算法,提供了强大的最终一致性保证复制数据的正确性。我们在Isabelle/HOL交互式证明助手中开发了一个模块化的可重用框架,用于验证CRDT算法的正确性。我们通过在我们的形式化中包括网络模型,并证明我们的定理在所有可能的网络行为中成立,避免了在这一领域困扰以前的机械化证明的正确性问题。我们的公理化网络模型是一个标准的抽象,准确地反映了现实世界的计算机网络的行为。此外,我们确定了一个抽象的收敛定理,顺序关系的属性,它提供了一个正式的定义强最终一致性。然后,我们得到了第一个机器检查的正确性定理三个具体的CRDTs:复制的可增长数组,观察删除集,和一个增量递减计数器。我们发现,我们的框架是高度可重用的,在几个小时内开发后两个CRDT的正确性证明,并与相对较少的CRDT特定的代码。
2017-08-29 cs.DC
Coordination-free Collaborative Replication based on Operational Transformation
本研究提出无协调协作复制方法CCR,基于操作转换思路优化,无需显式协调消息,解决了OT依赖服务器协调、CRDT行为反直觉及消息低效的问题,为分布式P2P系统的协作数据共享提供更实用的一致性方案。
2024-12-15 cs.DC cs.PL
HistMSO: A Logic for Reasoning about Consistency Models with MONA
Institut Polytechnique de Paris(巴黎理工学院);Université Côte d’Azur, CNRS, I3S(蔚蓝海岸大学,法国国家科学研究中心,I3S研究所)
本文提出HistMSO逻辑,用于推理复制数据系统的一致性模型,展示了其能表达42种一致性模型中的39种,并利用MONA工具进行自动推理。
2026-04-03 cs.DC cs.FL cs.LO
Extending Eventually Consistent Cloud Databases for Enforcing Numeric Invariants
地理复制数据库通常在最终一致性原则下运行,以在简单的键/值存储抽象上提供高可用性和低延迟。最近,有些公司采用了可交换的数据类型,以便为特殊用途的数据类型(如计数器)提供无缝协调。尽管如此,无法在所有副本中强制执行数值不变量仍然是依赖于最终一致性存储的有限保证的关键缺点。我们提出了一种新的复制数据类型,称为有界计数器,它增加了对数值不变量的支持,最终一致的地理复制数据库。我们以Riak为例,描述了如何在现有云存储之上实现这一点,而无需修改它们。我们的方法适应托管交易的想法,设计一个分散,容错和快速的解决方案。我们的评估表明,更低的延迟和更好的可扩展性比传统的方法,使用强一致性,以强制执行数值不变,从而减轻一致性和可用性之间的紧张关系。
2015-03-31 cs.DC
An optimized conflict-free replicated set
复制数据的最终一致性支持并发更新,减少延迟并提高容错,但放弃了强一致性。因此,若干云计算平台实现最终一致的数据类型。集合是一个广泛而有用的抽象,许多复制集合设计已经被提出。我们提出了一个推理抽象,置换等价,系统化的并发类型的预期并发语义的表征。在此框架下,我们提出了一个现有的无冲突复制数据类型,观察删除集。此外,为了减少元数据的大小,我们提出了一个新的优化,以避免墓碑。这种方法可以转换为其他数据类型,如地图,图形或序列。
2012-10-11 cs.DC cs.DS
Consistency models in distributed systems: A survey on definitions, disciplines, challenges and applications
复制机制解决了大数据的一些挑战,如数据持久性,数据访问和容错。然而,复制本身产生了另一个挑战,即分布式系统中的一致性。可伸缩性和可用性是分布式系统中复制所依据的具有挑战性的标准,而分布式系统本身需要一致性。分布式计算系统中的一致性问题已经在三个不同的应用领域得到了应用,如系统体系结构、分布式数据库和分布式系统。一致性模型根据其适用性可从强到弱排序。我们的目标是提出一个新的观点,不同的一致性模型在分布式系统中使用。本研究提出两种不同类别的一致性模型。最初,一致性模型被分为三组:以数据为中心的模型、以客户端为中心的模型和混合模型。每一个,然后分为三个子类的传统,扩展,和新颖的一致性模型。因此,概念和过程用数学术语表示,引入这些术语是为了在没有实现的情况下呈现我们的模型的行为。此外,我们还调查了一致性方面的不同挑战,即,可用性、可伸缩性、安全性、容错、延迟、违规和陈旧,其中后两个,即违规和陈旧,在一致性和权衡平衡方面起着最关键的作用。最后,研究了每种一致性模型的贡献程度以及分布式系统中对它们的需求。
2019-02-08 cs.DC
Monotonic Prefix Consistency in Distributed Systems
我们研究分布式系统中的数据一致性问题。具体来说,我们考虑一个分布式系统,它在多个站点复制其数据,这是容易分区,并假设是可用的(在这个意义上,查询总是最终回答)。在这样的设置中,不可能实现强一致性,其中系统的所有副本同步地应用每个操作。然而,许多较弱的一致性标准,允许更多的行为比强一致性,在可用的分布式系统中实现。我们专注于确定可以在容忍分区的收敛且可用的分布式系统中实现的最强一致性标准。我们专注于对象的操作集可以分为更新和查询。我们表明,没有比单调前缀一致性(MPC)更强的标准可以实现。
2018-07-21 cs.DC
Minimizing Content Staleness in Dynamo-Style Replicated Storage Systems
数据存储系统中的一致性要求任何读操作返回内容的最新写入版本。在复制存储系统中,一致性是以大规模读写操作造成的延迟为代价的。许多具有低延迟要求的应用容忍数据陈旧,以便提供高可用性和低操作延迟。使用年龄的信息作为陈旧性度量,我们研究了一个数据更新系统,其中实时内容更新复制和存储在一个Dynamo风格的基于仲裁的分布式系统。源将更新发送到系统中的所有节点,并等待来自最早节点子集(称为写仲裁)的应答。感兴趣的客户端从另一组节点(定义为读仲裁)获取更新。我们分析了不同的写仲裁大小在复制存储的陈旧延迟权衡。对于较大的写入仲裁,瞬时读取更有可能获得源写入的最新更新。但是,随着写入仲裁大小的增加,写入系统的内容的年龄更有可能变得陈旧。对于移位指数分布的写延迟,我们推导出年龄优化的写仲裁大小,该大小平衡了读取最新更新的可能性和由源写入的最新更新的新鲜度。
2018-04-02 cs.DB cs.DC cs.NI
Continuous Partial Quorums for Consistency-Latency Tuning in Distributed NoSQL Storage Systems
NoSQL存储系统被Web应用程序广泛使用,当对可扩展性的需求超过对事务的需求时,NoSQL存储系统为传统数据库提供了一个有吸引力的替代方案。这些系统中的一些系统提供基于法定人数的复制,并向应用程序开发人员提供多个客户端“一致性级别”的选择,这些级别确定通过读取和写入访问的副本的数量,这进而影响客户端应用程序观察到的延迟和一致性。由于使用一个固定的组合的读写一致性水平为一个给定的应用程序只提供了有限数量的离散选项,我们调查的技术,允许更细粒度的调整的一致性延迟权衡,可能需要支持基于一致性的服务水平协议(SLA)。我们提出了一种新的技术称为\emph{continuous partial quorums}(CPQ),分配的一致性水平上的每一个操作的基础上,通过选择两个选项之间随机,如最终和强一致性,与可调的概率。我们使用Apache Cassandra实验评估我们的技术,并证明它优于人为延迟操作的替代调优技术。
2015-10-01 cs.DC
Tunable Causal Consistency: Specification and Implementation
为了实现高可用性和低延迟,分布式数据存储通常在多个站点(称为副本)地理上复制数据。然而,这引入了数据一致性问题。由于存在网络分区时一致性、可用性和延迟之间的基本权衡,不存在一刀切的一致性模型。为了满足不同应用程序的需求,许多流行的数据存储提供了可调的一致性,允许客户端指定每个操作的一致性级别。在本文中,我们提出了可调因果一致性(TCC)。它允许客户端从众所周知的四个会话保证中为每个操作选择所需的会话保证,即,读你的写,单调的读,单调的写,写跟随着读。具体来说,我们首先提出了一个形式化的规范TCC的扩展(可见,ar)的框架最初提出的Burckhardt等人。然后,我们设计了一个TCC协议,并开发了一个原型分布式键值存储称为TCCSTORE。我们在阿里云上评估TCCSTORE。对于所有工作负载,延迟小于38 ms,吞吐量高达每秒约2800次操作。我们还表明,TCC实现更好的性能比因果一致性,并需要一个可以忽略不计的开销时,与最终的一致性。
2022-11-07 cs.DC
Wait-free Replicated Data Types and Fair Reconciliation
Télécom Paris, Institut Polytechnique de Paris, France(巴黎电信学院,巴黎理工学院);Université Paris-Saclay, CEA, List, France(巴黎萨克雷大学,法国原子能和替代能源委员会,List实验室)
该研究针对无等待复制数据类型面临的操作重排序与客户端饥饿问题,提出基于DAG的通用框架及对应协调函数,实现带稳定性和公平性的最终状态机复制。
2026-08-21 cs.DC
Fisheye Consistency: Keeping Data in Synch in a Georeplicated World
在过去的三十年里,许多复制数据的一致性条件已经提出并实施。这类条件的常见例子包括线性化(或原子性)、顺序一致性、因果一致性和最终一致性。这些一致性条件通常独立于操纵复制数据的计算实体(节点)来定义;即,它们没有考虑计算实体如何彼此链接或地理分布。为了解决这个问题,作为第一个贡献,本文介绍了计算节点之间的邻近图的概念。如果两个节点在这个图中连接,它们的操作必须满足强一致性条件,而其他节点调用的操作允许满足较弱的条件。第二个贡献是使用这样一个图,提供一个通用的方法到同一系统的数据一致性条件的杂交。我们说明了这种方法的顺序一致性和因果一致性,并提出了一个模型,其中所有的数据操作是因果一致的,而邻近图中的相邻进程的操作是顺序一致的。本文的第三个贡献是设计和证明了一个分布式算法的基础上,这个邻近图,它结合了顺序一致性和因果一致性(由此产生的条件被称为鱼眼一致性)。在这样做的文件不仅扩展了域的一致性条件,但提供了一个通用的可证明的正确的解决方案,直接关系到现代georplicated系统。
2015-10-22 cs.DC
Distributed Quantum Proofs for Replicated Data
本文解决了$\textit{checking}$的问题,即在网络的几个节点上复制的大数据集的所有副本是相同的。副本可能位于远程节点的事实阻止了系统在本地验证它们的相等性,即,通过使每个节点仅咨询其附近的节点。另一方面,仍然可以将$\textit{certificates}$分配给节点,使得可以在本地实现对副本的一致性的验证。然而,我们发现,由于数据集是大的,经典的认证机制,包括分布式梅林-阿瑟协议,不能保证良好的完整性和健全性,同时,除非他们使用非常大的证书。本文的主要结果是一个分布式的$\textit{quantum}$梅林-阿瑟协议,使节点集体检查副本的一致性,基于小证书,并在一个单一的一轮邻居之间的消息交换,短消息。特别地,证书大小在数据集的大小上是对数的,这给出了比经典认证机制更大的指数优势。
2020-11-17 cs.DC quant-ph
CRDTs: Consistency without concurrency control
CRDT是一种数据类型,其操作在并发时可交换。CRDT的副本最终会收敛,而不需要任何复杂的并发控制。作为存在性证明,我们展示了一个非平凡的CRDT:一个名为Treedoc的共享编辑缓冲区。我们概述了Treedoc的设计,实现和性能。我们讨论如何CRDT的概念可以推广,其局限性。
2009-07-06 cs.DC
On Mixing Eventual and Strong Consistency: Acute Cloud Types
在这篇文章中,我们将研究混合了最终一致性和强一致性的分布式系统的性质。我们通过急性云类型(ACTs),抽象类似于无冲突复制数据类型(CRDTs),默认情况下工作在一个高度可用的,最终一致的方式,但也具有强一致的操作,需要全球协议的任务正式这样的系统。与其他混合一致性解决方案不同,ACT可以依赖于高效的基于法定人数的协议,例如Paxos。因此,ACT优雅地容忍机器和网络故障,也用于强一致的操作。我们正式研究ACTs和证明的现象,既不存在于纯粹的最终一致的,也不强一致的系统。特别是,我们确定临时操作重新排序,这意味着临时副本之间的相对顺序,客户端请求被执行的分歧。如果不小心处理,这种现象可能会导致不希望的异常,包括循环因果关系。我们证明了一个不可能的结果,该结果表明,临时操作重新排序是不可避免的混合一致性系统具有足够复杂的语义。我们的结果是惊人的,因为它表明,明显加强系统的语义(通过引入强一致的操作到最终一致的系统)的结果在最终一致的操作的保证减弱。
2021-01-14 cs.DC
Algorithms for Replica Placement in High-Availability Storage
提出了一种新的因果失效模型,并用于解决数据中心中的一个新的副本放置问题。该模型将系统组件之间的依赖关系描述为有向图。副本放置被定义为这样的图中的顶点的子集。形式化和解释了优化副本放置的标准。在这项工作中,优化的目标是避免选择放置在一个单一的故障事件可能会消灭多个副本。利用该准则,给出了依赖模型为树的情况下的快速算法。本文的主要贡献是一个$O(n + ρ\log ρ)$动态规划算法放置$ρ$副本的树与$n$顶点。该算法具有一个有趣的性质,即在每个阶段只需要递归地考虑两个子问题。文中还简要介绍了一个$O(n^2 ρ)$贪心算法。
2015-05-22 cs.DC cs.DS
2P-BFT-Log: 2-Phase Single-Author Append-Only Log for Adversarial Environments
本文提出 2P-BFT-Log,一种两阶段复制仅追加日志,通过最终检测恶意分叉并提供不可否认证据,在对抗环境中实现最终一致性,支持廉价的检测与修复范式。
2023-07-28 cs.DC
Resilient Cloud-based Replication with Low Latency
在地理复制环境中容忍拜占庭故障的现有方法需要系统在广域链路上执行复杂的协议协议,因此通常与高响应时间相关联。在本文中,我们使用Spider解决这个问题,Spider是一种用于地理分布式系统的弹性复制架构,它利用当今公共云基础设施的可用性特征来最大限度地降低复杂性并减少延迟。Spider将系统建模为松散耦合的副本组的集合,其成员托管在不同的云提供的故障域中(即,可用区)。这种结构化组织可以通过将副本组放置在靠近客户端的位置来实现较低的响应时间,同时仍然允许组的副本通过短距离链路进行交互。为了处理强一致性所需的组间通信,Spider使用了一个可靠的组到组的消息通道,具有先进先出语义和内置的流控制,大大简化了系统设计。
2020-09-21 cs.DC
An Efficient Approach to Move Elements in a Distributed Geo-Replicated Tree
复制树数据结构广泛应用于协同应用和分布式文件系统中,客户端经常在其中执行移动操作。在不同副本的本地移动操作可能是安全的。但是,远程移动操作可能不安全。当客户端在不同的副本上同时执行任意移动操作时,可能会导致各种错误,使此操作难以实现。以前的工作揭示了错误,如数据复制和循环复制树。在本文中,我们提出了一个有效的算法来执行移动操作的分布式复制树,同时确保最终的一致性。所提出的技术主要涉及有效地解决冲突,不需要副本之间的交互,并与网络分区。我们使用的最后写赢语义的冲突解决方案的基础上,全球唯一的时间戳的操作。所提出的解决方案只需要一个补偿操作,以避免在应用移动操作时形成循环。在三个不同大陆的Microsoft Azure标准实例上的地理复制设置中,所提出的方法实现了68.19 $\times$的有效加速比。
2022-03-19 cs.DC
Pure Operation-Based Replicated Data Types
为服务于世界各地的客户而设计的分布式系统通常利用地理复制来实现低延迟和高可用性。无冗余复制的数据类型(CRDT)允许设计可预测的多主机复制,并支持允许暂时发散的副本的最终一致性。CRDT有两种类型:基于状态的,其中状态在本地改变并被运送和合并到其他副本中;基于操作的,其中操作在本地发出并可靠地因果广播到所有其他副本。然而,基于操作的CRDT的标准定义是非常广泛的,甚至允许发送完整的状态,从而强加存储和传播开销,以及模糊与基于状态的CRDT的区别。我们引入了纯基于操作的CRDT,它只能向其他副本发送操作,与基于状态的CRDT有明显的区别。具有可交换操作的数据类型可以使用标准可靠因果传递被平凡地实现为纯基于操作的CRDT;而具有非可交换操作的数据类型使用PO-Log(操作的部分有序日志)并利用扩展API来实现,即,一个标记的因果稳定广播(TCSB),它在传递时提供额外的因果关系信息,并在稍后通知传递的消息何时变得因果稳定,从而允许进一步的PO日志压缩。该框架说明了一个目录的纯操作为基础的规范,经典的CRDTs,包括计数器,多值寄存器,添加胜和删除胜集。
2017-10-12 cs.DB cs.DC cs.DS
Data Replication Meets Function Scheduling in the Edge-Cloud Continuum
Politecnico di Milano(米兰理工大学)
研究边缘-云连续体中函数调度与数据放置的联合优化问题,提出全局视图和聚合视图两种启发式方法,实验表明数据放置比函数调度影响更大。
2026-07-15 cs.DC
Brief Announcement: Update Consistency in Partitionable Systems
数据复制对于保证Internet等大规模系统上的大规模分布式应用的可靠性、可用性和容错性至关重要。然而,这些系统倾向于划分,根据Brewer的CAP定理[1],这使得不可能使用像原子性这样的强一致性标准。最终一致性[2]指当参与者停止更新时,所有副本最终收敛到一个共同的状态。然而,它无法完全指定共享对象,并且需要额外的非直观和易出错的分布式规范技术,必须考虑所有可能的并发更新历史来指定此公共状态[3]。这种方法可能会导致规范与实现本身一样复杂,但它受到一个更严重问题的限制。对象的并发规范使用并发事件的概念。在消息传递系统中,两个事件是并发的,如果它们由不同的进程强制执行,并且每个进程在收到另一个进程的通知消息之前强制执行它的事件。换句话说,并发的概念取决于对象的实现,而不是它的规范。因此,如果不显式跟踪进程交换的消息,最终用户可能不知道两个事件是否并发。规范应该独立于它所实现的系统。我们认为,一个对象应该完全由两个方面来指定:它的抽象数据类型,它表征了它的顺序执行,以及一个一致性标准,它定义了它在分布式环境中应该如何表现。顺序规范不仅有助于消除意图问题,还允许使用经过充分研究和理解的语言和自动机概念。这使得应用为顺序系统开发的所有工具成为可能,从使用结构和类的简单定义到模型检验和形式化验证等最先进的技术。最终一致性(EC)不对收敛状态施加约束,很少依赖于顺序规范。例如,忽略所有更新…
2015-01-09 cs.DC
Algorithms for Timed Consistency Models
分布式系统中的主要挑战之一是及时地在复制的数据之间建立一致性。虽然已经广泛地研究了事件的一致性排序,但是达到一致性状态的时间跨度大多被认为是所选择的一致性模型的效果,而不是被认为是参数本身。本文认为,这是可能的,以保证及时一致的操作。更新之后,云和所有连接的客户端将在定义的时间上限内与更新保持一致,或者更新将被返回。本文提出了相应的算法和协议能够产生这样全面的时间一致性,概念上提出的托雷斯-罗哈斯等人。该解决方案为企业客户提供了更高水平的可预测性和可调整性。关于执行的时间确定性使云成为时间关键型或任务关键型应用程序的更具吸引力的工具,这些应用程序担心云环境中强一致性的可用性较差。
2013-10-27 cs.DB cs.DC cs.DS
Spider: A BFT Architecture for Geo-Replicated Cloud Services
针对地理复制系统中传统BFT协议响应延迟高的问题,提出Spider模块化BFT架构,通过云区域内多副本组就近部署和新型带流控的FIFO消息通道抽象,同时降低系统复杂度与通信延迟。
2024-05-18 cs.DC
On Consistency of Operational Transformation Approach
École Polytechnique de Montréal(蒙特利尔高等理工学院);INRIA Grand-Est and Nancy-Université(法国国家信息与自动化研究所大东部分所和南锡大学)
本文通过控制器合成技术证明,对于仅包含插入和删除操作的基本签名,操作变换函数无法同时满足保证收敛所需的TP1和TP2两个性质。
2013-02-14 cs.DC cs.SY eess.SY
CausalSpartanX: Causal Consistency and Non-Blocking Read-Only Transactions
因果一致性是一种中间一致性模型,即使在存在网络分区的情况下,也可以与高可用性和性能要求一起实现。在分区数据存储的上下文中,已经表明使用时间戳的隐式依赖性跟踪比显式依赖性跟踪更有效。现有的基于时间的解决方案依赖于紧密同步的单调心理时钟。这些要求使得当前的协议容易受到时钟异常的影响。在本文中,我们提出了一个新的基于时间的算法,CauseSpartanX,而不是物理时钟,利用混合逻辑时钟(HLC)。我们表明,使用HLC,没有任何开销,我们使系统对物理时钟异常的鲁棒性。这种改进在查询放大的上下文中更加显着,其中单个查询会导致多个GET/PUT操作。我们还表明,与现有的基于时间的方法相比,CauseSpartanX降低了给定数据项的可见性延迟。反过来,这减少了协作应用程序的完成时间,其中访问两个不同副本的两个客户端编辑数据存储的相同项。CauseSpartanX还提供因果一致的分布式只读事务。CauseSpartanX只读事务是非阻塞的,只需要客户端和服务器之间的一轮通信。此外,与事务无关的分区的速度降低不会影响事务的性能。与以前的协议一样,CauseSpartanX假设给定的客户端不会访问多个副本。我们表明,在网络分区的存在下,这种假设(在其他几个作品)是必不可少的,如果要提供因果一致性,以及立即提供本地更新。
2018-12-18 cs.DC
Replication-Aware Placement of Functions and Data in the Edge-Cloud Continuum
Politecnico di Milano(米兰理工大学)
针对边缘-云连续体中的FaaS,提出BLP模型与拓扑感知贪心启发式,联合调度函数与数据放置并考虑复制一致性,以最小化客户端延迟,实现近最优且计算高效。
2026-09-17 cs.DC
FogStore: Toward a Distributed Data Store for Fog Computing
有状态应用和虚拟化网络功能(VNF)可以从状态外部化中受益,以提高其可靠性、可扩展性和互操作性。为了保持和共享外部化的状态,分布式数据存储(DDS)是一个强大的工具,允许在一致性,可用性和分区容差的传统权衡管理。随着雾计算和边缘计算的出现,有状态应用程序和VNF从数据中心推向网络边缘。这对为云数据中心部署量身定制的DDS提出了新的挑战。在本文中,我们提出了两个新的设计目标的DDS是专门为雾计算:(1)雾感知副本放置,(2)上下文敏感的差分一致性。为了在现有DDS的基础上实现这些设计目标,我们提出了FogStore系统。FogStore透明地管理副本放置和一致性管理中所需的调整,以便现有的DDS可以插入系统。为了展示FogStore的好处,我们使用Yahoo Cloud Serving Benchmark进行了一系列评估。
2017-09-22 cs.DC
Data Freshness in Leader-Based Replicated Storage
基于领导者的数据复制通过对领导者节点的顺序写入来提高高可用性分布式存储系统中的一致性。在领导者提交写入之后,跟随者节点通过多播机制写入,并且仅保证最终一致。与年龄的信息(AoI)作为新鲜度度量,我们的特点是领导者的数量如何影响的新鲜度的数据检索的瞬时读取查询。特别是,我们推导出的平均年龄的读取查询的领导者写时间的确定性模型和追随者写时间的概率模型。我们得到一个封闭形式的表达式为指数分布的追随者写作时间的平均年龄。我们的数值计算结果表明,根据两组节点的写操作的相对速度,存在一个最佳的领导者的数量,最大限度地减少检索到的数据的平均年龄,这个数字的增加作为领导者的相对速度的增加。
2020-05-15 cs.DB cs.DC cs.IT
Asynchronous Reconfiguration with Byzantine Failures
复制的服务天生容易出现故障和安全漏洞。因此,在一个长期运行的系统中,维护一个重新配置机制,用正确的副本替换错误的副本是必不可少的。一个重要的挑战是在不影响复制数据的可用性和一致性的情况下实现重新配置:即使在更新服务副本集时,客户端也应该能够获得正确的服务。在本文中,我们解决的问题,在拜占庭故障的存在下重新配置:错误的副本或客户端可能会任意偏离其预期的行为。我们描述了一种通用的技术,用于构建异步和拜占庭容错可重构对象:客户端可以操纵对象数据和问题的重新配置调用,而不达成共识,对当前的配置。在前向安全数字签名的帮助下,我们的解决方案确保被取代的和可能受到损害的配置是无害的,慢速客户端不会被愚弄到读取陈旧的数据,拜占庭客户端不会通过重新配置请求淹没系统而导致拒绝服务。我们的方法是模块化的,基于动态拜占庭格协议抽象,我们讨论了如何扩展它,使拜占庭容错实现的一大类可重构复制服务。
2021-10-19 cs.DC
UniStore: A fault-tolerant marriage of causal and strong consistency (extended version)
现代在线服务依赖于跨地理分布的数据中心复制其数据的数据存储。在此类数据存储中提供强一致性会导致高延迟,并使系统容易受到网络分区的影响。放松一致性的替代方案违反了关键的正确性属性。一种折衷办法是允许多个一致性级别在数据存储中共存。在本文中,我们提出了UniStore,第一个容错和可扩展的数据存储,结合因果关系和强一致性。我们在UniStore中解决的关键挑战是在数据中心故障的情况下保持活跃性:如果强事务依赖于后来因故障而丢失的因果事务,则可能会受到影响。UniStore确保这种情况不会发生,同时仅在必要时为因果交易支付耐久性成本。我们使用微基准测试和示例应用程序评估Amazon EC2上的UniStore。我们的研究结果表明,UniStore有效地和可扩展地结合了因果关系和强一致性。
2021-07-29 cs.DC
Training Through Failure: Effects of Data Consistency in Parallel Machine Learning Training
Stanford(斯坦福大学);Google(谷歌公司)
本文研究并行机器学习训练中故障时的数据一致性策略,提出无状态参数服务器方法,使工作节点在服务器宕机时继续生成梯度更新,实验表明该方法在故障情况下准确率可提高10%,且成本与标准检查点方法相当。
2024-06-08 cs.AI cs.DC