SCADS: Scale-Independent Storage for Social Computing Applications
Facebook、Flickr和Yelp等协作Web应用程序为存储和查询大量数据提出了新的挑战。由于用户和开发人员更关注性能，而不是单副本一致性或执行ad-hoc查询的能力，因此存在一个专门为宽松的一致性和预计算查询量身定制的高度可扩展系统的机会。Web 2.0开发模型要求能够快速部署新功能并随着用户数量自动扩展。已经有许多成功的分布式键值存储，但到目前为止，没有一个提供像SQL那样丰富的查询语言。我们提出了一个新的体系结构，SCADS，允许开发人员声明状态应用程序特定的一致性要求，利用效用计算，以提供成本效益的规模扩大和缩小，并将使用机器学习模型来预测性能问题，并预测执行前的新查询的资源需求。
2009-09-09 cs.DB cs.DC
Data Backup System with No Impact on Business Processing Utilizing Storage and Container Technologies
针对企业数据备份易引发系统减速或停机、多资源场景下异步复制易损坏备份数据的问题，研究结合一致性组技术与容器平台算子，集成存储和容器技术构建演示系统，实现无业务影响的可靠备份。
2024-09-11 cs.DB cs.DC
SwitchDelta: Asynchronous Metadata Updating for Distributed Storage with In-Network Data Visibility
Tsinghua University（清华大学）；Nanjing University（南京大学）；Huawei Technologies Co., Ltd.（华为技术有限公司）
SwitchDelta通过在交换机中缓冲元数据更新，提升分布式存储系统在写密集型负载下的性能，减少延迟并提高吞吐量。
2025-11-25 cs.DB cs.DC
Secured Data Consistency and Storage Way in Untrusted Cloud using Server Management Algorithm
这是非常具有挑战性的一部分，以保持安全的所有所需的数据，需要在许多应用程序中的用户在云中。将我们的数据存储在云中可能并不完全可信。由于客户端没有所有存储数据的副本，因此必须依赖云服务提供商。但是动态数据操作、Read-Solomon和验证令牌构造方法并没有告诉我们云上数据添加前后服务器分配空间的总存储容量。因此，我们必须引入一个新的建议系统的有效的存储测量和空间比较算法与时间管理测量总分配的存储区域之前和之后的数据插入云。因此，通过使用我们提出的方案，之前和之后的存储数据的值或权重是由客户端在云存储区域中的指定时间内准确测量的。在这里我们还提出了服务器故障情况下的多服务器恢复点。当服务器发生故障时，通过该方案可以在云服务器中自动恢复数据。我们提出的方案有效地检查空间的外包数据，以保持完整性。在这里，TPA不一定具有审计用户数据的授权。
2011-11-10 cs.DC
Secure Consistency Verification for Untrusted Cloud Storage by Public Blockchains
这项工作提出了ContractData，一种基于区块链的安全协议，用于验证相互不信任的云提供商和客户端之间的存储一致性。与现有的协议不同，ContractData将日志审计独特地委托给区块链，并且在降低客户端成本和降低客户端可用性要求方面具有优势，从而适用于具有移动和Web客户端的现代场景。ContractManager从客户端和云服务器收集日志，并通过交叉检查日志来验证一致性。通过这种方式，它不仅可以检测到来自恶意客户端和服务器伪造日志的攻击，而且还能够减轻这些攻击并从它们中恢复系统。此外，我们还设计了针对Contractor的新攻击，利用真实区块链系统中的各种限制（例如，写不可用，区块链分叉，合约竞争条件）。我们分析和加固的安全性的ContractUNK协议对建议的新的攻击。为了评估成本，我们在Ethereum/Solidity上构建了一个Contractor的功能原型。通过在私有和公共以太坊测试网上的实验，我们广泛地评估了与现有的基于客户端的日志审计工作相比，Contractor的成本。实验结果表明，该方法可以扩展到数百个客户端，节省客户端成本超过一个数量级。
2019-07-29 cs.CR cs.DC
Harmonia: Near-Linear Scalability for Replicated Storage with In-Network Conflict Detection
分布式存储采用复制来屏蔽故障并提高可用性。然而，这些系统通常表现出一致性和性能之间的硬权衡。确保一致性会引入协调开销，因此系统吞吐量不会随副本数量而变化。我们提出了Harmonia，一个复制的存储架构，利用新一代可编程交换机的能力，通过提供接近线性的可扩展性，而不牺牲一致性，以避免这种权衡。为了实现这一目标，Harmonia检测网络中的读写冲突，这使得任何副本都可以为没有挂起写入的对象提供读取服务。Harmonia以线路速率实现此功能，因此不会带来性能开销。我们已经在一个由Barefoot Tofino交换机连接的商品服务器集群上实现了Harmonia的原型，并将其与Redis集成。我们证明了我们的方法的一般性，通过支持各种复制协议，包括主备份，链复制，Viewstamped复制和NOPaxos。实验结果表明，Harmonia将这些协议的吞吐量提高了10倍，复制因子为10，提供了接近线性的可扩展性，达到了我们测试平台的极限。
2019-04-18 cs.DC
On the energy efficiency of client-centric data consistency management under random read/write access to Big Data with Apache HBase
2010年，数据中心的总能源费用估计为115亿美元，专家估计，典型数据中心的能源成本每五年翻一番。另一方面，计算的发展已经开始落后于存储的进步，成为未来数据增长的瓶颈，数据增长已经接近Exascale级别。我们调查的数据吞吐量和能源足迹之间的关系在一个大型存储集群，其目标是正式作为一个指标，反映一致性和能源之间的交易。采用以客户端为中心的一致性方法，同时尊重ACID属性的案例研究（Apache HBase）所选择的柱状存储，我们提出的系统的能源消耗所涉及的因素，以及经验教训，以支持进一步设计的节能集群规模的存储系统。
2016-11-30 cs.DC cs.PF
Survey the storage systems used in HPC and BDA ecosystems
HPC和BDA生态系统的发展要求更好地了解存储系统，以规划有效的解决方案。为了使应用程序更有效地访问数据进行计算，HPC和BDA生态系统采用不同的存储系统。每种存储系统都有其优点和缺点。因此，分别探讨HPC和BDA中使用的存储系统是值得和有趣的。此外，了解这样的存储系统如何大规模地处理数据一致性和容错也是很有意义的。在本文中，我们调查了四个存储系统Lustre，Ceph，HDFS和CockroachDB。Lustre和HDFS是HPC和BDA生态系统中最重要的文件系统。Ceph是一个即将推出的文件系统，正在被超级计算机使用。CockroachDB基于NewSQL系统，这是一种在行业中用于BDA应用程序的技术。这项研究有助于我们了解这些存储系统的底层架构以及用于创建它们的构建块。还概述了用于数据存储、数据访问、数据一致性、容错和故障恢复的协议和机制。比较研究将帮助系统设计人员了解这些存储系统的关键功能和架构目标，以选择更好的存储系统解决方案。
2021-12-23 cs.DC
A Robust Fault-Tolerant and Scalable Cluster-wide Deduplication for Shared-Nothing Storage Systems
在分布式存储系统中，已经大量地采用分布式存储来提高空间效率。传统的去重研究忽略了无共享分布式存储系统的设计要求，如无中心元数据瓶颈、可扩展性和存储重新平衡。此外，去重引入事务性改变，其在系统故障的情况下易于出错，从而导致数据和去重元数据的不一致。在本文中，我们提出了一个强大的，容错和可扩展的集群范围内的重复数据删除，可以消除重复的副本在整个集群。我们设计了一个分布式的重复数据删除元数据分片，它保证了性能的可扩展性，同时保留了无共享存储系统的设计约束。块和去重元数据的放置基于块的内容指纹在群集范围内进行。为了保证事务一致性和垃圾识别，我们采用了基于标志的异步一致性机制。我们在Ceph上实现了建议的重复数据删除。评估结果表明，高磁盘空间节省最小的性能下降，以及在突然的服务器故障的情况下，高鲁棒性。
2018-03-21 cs.DC
Don't Trust the Cloud, Verify: Integrity and Consistency for Cloud Object Stores
云服务已经将远程计算变成了一种商品，并实现了方便的在线协作。但是，它们要求客户端在保密性、完整性和可用性方面完全信任服务提供者。为了减少这种依赖性，本文介绍了一种协议，用于验证的完整性和一致性的云对象存储（VICOS），它使一组相互信任的客户端检测数据的完整性和一致性违规的云对象存储服务。它的目标是多个客户端在远程存储在可能行为不端的服务上的数据上进行合作的服务。与以前的协议相比，VICOS加强了fork-linearizability的一致性概念，支持大多数操作的无等待客户端语义，并减少了计算和通信开销。VICOS以通用的方式基于任何经过认证的数据结构。此外，它的操作覆盖了云对象存储的分层名称空间，支持真实世界的接口，而不仅仅是简单的抽象。已经实现了一个与商品云存储服务的键值存储接口一起工作的VICOS原型，并且评估表明了其与现有系统相比的优势。
2016-09-02 cs.CR cs.DC
Toward a Principled Framework for Benchmarking Consistency
大规模键值存储系统为了可靠性而牺牲了一致性（即，分区容限和可用性），以及性能（即，等待时间）。这样的系统提供了最终的一致性，到目前为止，在实际系统中很难量化。考虑到最终一致的系统的许多实现和部署（例如，NoSQL系统），已经尝试凭经验测量这种一致性，但它们存在重要的缺点。例如，最先进的一致性基准只能以有限的方式对系统进行测试，并破坏工作量，这限制了它们的准确性。在本文中，我们采取的立场是，一致性基准应该描绘一个全面的图片之间的关系，所考虑的存储系统，工作负载，故障模式，并观察到的一致性客户端。为了说明我们的观点，我们首先调查之前的努力，以量化最终的一致性。然后，我们提出了一个基准测试技术，克服了现有技术的缺点，以衡量客户端所观察到的一致性，因为他们正在考虑执行的工作负载。这种方法是通用的，并且对被测系统的干扰最小。作为概念证明，我们在Cassandra上演示了这个工具。
2012-11-20 cs.DC
Inversion-based Measurement of Data Consistency for Read/Write Registers
分布式存储服务的提供者和消费者都受益于一致性违规严重性的量化。然而，现有的方法无法捕捉到一个典型的违规模式-操作之间的混乱与理想的强原子执行。这种混乱经常出现在基于分布式存储服务的互联网应用中，例如即时消息。为此，我们使用一个置换中的逆相对于全序置换来度量数据的一致性。提出了$i$ -原子性模型，并提出了一种受限历史类型的（伪）多项式验证算法.验证算法的基本思想是对具有小于$i$逆的置换进行蛮力搜索，这需要指数代价。从应用场景中提取合理的假设，可以利用修剪的搜索空间，这产生了一个有效的多项式验证算法。
2019-02-18 cs.DC
Minimizing Content Staleness in Dynamo-Style Replicated Storage Systems
数据存储系统中的一致性要求任何读操作返回内容的最新写入版本。在复制存储系统中，一致性是以大规模读写操作造成的延迟为代价的。许多具有低延迟要求的应用容忍数据陈旧，以便提供高可用性和低操作延迟。使用年龄的信息作为陈旧性度量，我们研究了一个数据更新系统，其中实时内容更新复制和存储在一个Dynamo风格的基于仲裁的分布式系统。源将更新发送到系统中的所有节点，并等待来自最早节点子集（称为写仲裁）的应答。感兴趣的客户端从另一组节点（定义为读仲裁）获取更新。我们分析了不同的写仲裁大小在复制存储的陈旧延迟权衡。对于较大的写入仲裁，瞬时读取更有可能获得源写入的最新更新。但是，随着写入仲裁大小的增加，写入系统的内容的年龄更有可能变得陈旧。对于移位指数分布的写延迟，我们推导出年龄优化的写仲裁大小，该大小平衡了读取最新更新的可能性和由源写入的最新更新的新鲜度。
2018-04-02 cs.DB cs.DC cs.NI
Performance Comparison of DAOS and Lustre for Object Data Storage Approaches
高性能对象存储是一种新兴技术，它在HPC存储领域提供了一种替代解决方案，有可能解决传统分布式POSIX文件系统中由于过度的一致性保证和元数据规定性而存在的长期可扩展性问题。在本文中，我们评估的性能存储对象的数据在一个标准的文件系统，其中的配置和访问机制尚未优化对象的访问行为，并比较和调查使用对象存储系统的好处。虽然这种方法没有以标准的方式利用文件系统，但这项工作使我们能够调查底层存储技术性能是否比文件系统或对象存储提供的软件接口和基础设施更重要或更不重要。
2022-11-16 cs.DC
Comments on CausalEC: A Causally Consistent Data Storage Algorithm Based on Cross-Object Erasure Coding
本文指出Cadambe和Lyu 2021提出的基于跨对象纠删码的因果一致性算法CausalEC，与Lyu等人2018年开发的算法本质上是相同的。
2023-05-22 cs.DC cs.IT math.IT
Latency Bounding by Trading off Consistency in NoSQL Store: A Staging and Stepwise Approach
延迟是用户满意度的关键服务因素。在分布式和复制的场景中，一致性与操作延迟是一种折衷关系。现有的NoSQL存储可以保证强或弱的一致性，但没有一个能提供基于响应延迟的最佳一致性。在本文中，我们介绍了dConssandra，一个NoSQL存储，使用户能够指定数据访问操作的延迟范围。dConssandra通过牺牲副本一致性来动态限制数据访问延迟。dConssandra基于Cassandra。与Cassandra的实现相比，dConsandra有一个分阶段的复制策略，支持按需同步或异步复制。通过权衡一致性来限制延迟的主要思想是将复制过程分解为微小的步骤，并通过仅执行这些步骤的子集来限制延迟。dConssandra还实现了一个不同的内存存储架构来支持上述功能。dConsandra在实际集群上的实验结果表明：（1）实际响应延迟受给定延迟约束的限制;（2）更大的写入延迟边界导致读取最新值的延迟更低;（3）更大的读取延迟边界导致返回最近写入的值。
2012-12-05 cs.DB cs.DC
OptCon: An Adaptable SLA-Aware Consistency Tuning Framework for Quorum-based Stores
采用基于法定人数的复制的分布式数据存储的用户需要为每个存储操作选择合适的以客户端为中心的一致性设置。上述匹配选择难以推理，因为它需要仔细考虑延迟和陈旧之间的权衡，即，结果有多陈旧。对于一个给定的操作的延迟和陈旧性取决于以客户为中心的一致性设置应用，以及动态参数，如当前的工作负载和网络condition.We提出OptCon，一种新的基于机器学习的预测框架，可以自动选择以客户为中心的一致性设置在用户指定的延迟和陈旧性阈值的服务水平协议（SLA）。在给定的SLA下，OptCon预测匹配的以客户端为中心的一致性设置，即，它足够弱以满足等待时间阈值，同时足够强以满足陈旧阈值。虽然手动调整的一致性设置保持固定，除非显式重新配置，OptCon调整一致性设置在每个操作的基础上，关于不断变化的工作负载和网络状态。使用决策树学习，OptCon产生0.14交叉验证误差预测匹配一致性设置下的延迟和陈旧阈值在SLA中。我们通过实验证明，OptCon至少与任何手动选择的一致性设置一样有效，可以适应不同用例的SLA阈值。我们还表明，OptCon适应工作负载的变化，而给定的手动选择的固定的一致性设置满足SLA只为一个特征的工作负载。
2016-03-25 cs.DC
Nezha: A Key-Value Separated Distributed Store with Optimized Raft Integration
School of Artificial Intelligence, Nanchang University（南昌大学人工智能学院）；School of Mathematics and Computer Sciences, Nanchang University（南昌大学数学与计算机科学学院）
Nezha通过键值分离与优化Raft集成，提升分布式存储在强一致性下的吞吐量性能
2026-03-10 cs.DB cs.DC
Just-Right Consistency: reconciling availability and safety
根据CAP定理，分布式数据存储系统可以保证分区下的一致性（CP）或分区下的可用性（AP），但不能同时保证两者。这导致了CP数据库和AP数据库之间的分裂，CP数据库中的更新是同步的，AP数据库中的更新是异步的。然而，没有内在的理由将所有更新都等同对待：简单地说，系统应该尽可能可用，并且同步到足以使应用程序正确。基于以下见解，我们提供了一种原则性的正确一致性方法来设计此类应用程序，协调正确性与可用性和性能：（i）无重复数据类型（CRDTs）数据模型以直观和原则性的方式支持异步更新。(ii)涉及联合或相互排序更新的不变量与AP兼容，并且可以由transmittance Causal Consistency（transmittance Causal consistency）保证，transmittance causal consistency是不损害可用性的最强一致性模型。关于其余的“CAP敏感”不变量：（iii）对于有界计数器的常见模式，我们提供了被证明正确且有效的封装数据类型;（iv）在一般情况下，静态分析可以识别何时不需要同步以确保正确性。我们的Antidote云数据库系统支持CRDTs、事务因果一致性和有界计数器数据类型。支持工具通过静态分析和CAP敏感不变量的证明来帮助设计应用程序。该系统支持工业级应用程序，并已在几个地理分布数据中心的数百台服务器上进行了实验测试。
2018-01-19 cs.DB cs.DC
Erasure-Coded Byzantine Storage with Separate Metadata
虽然已经引入了许多分布式存储协议，但在可用性、一致性、容错性、存储复杂性和所支持的并发级别方面结合最强属性的解决方案一直难以实现。结合这些特性是困难的，特别是如果所得到的解决方案需要是有效的，并招致低成本。我们提出了AWE，这是多写器多读器读/写存储对象的第一个擦除编码分布式实现，同时：（1）异步，（2）无等待，（3）原子，（4）健忘，（即，其中数据节点存储有界数目的值）和（5）使用最优数目的节点的拜占庭容错（BFT）。此外，AWE是高效的，因为它不使用公钥密码学，并且需要仅支持读和写的数据节点，从而进一步降低了分布式存储解决方案的部署和所有权成本。值得注意的是，AWE将元数据与$k$-外-$n$擦除编码片段分开存储。这使得AWE成为第一个BFT协议，它使用尽可能少的$2t+k$数据节点来容忍任何$k \ge 1$的$t$拜占庭节点。
2014-02-20 cs.DC
Distributed Versioned Object Storage -- Alternatives at the OSD layer (Poster Extended Abstract)
存储数据项的多个版本的能力是一种强大的基本功能，它有着广泛的用途：关系数据库、事务内存、版本控制系统等等。但是，每个实现都使用一种非常特殊的版本控制形式，这种形式是针对所讨论的域定制的，并且对用户隐藏。在我们正在进行的项目中，我们正在审查和分析不同领域中版本控制的多种用途，目标是确定提供通用分布式多版本对象存储服务所需的基本组件，并定义如何定制这些组件以满足不同的需求。有了这个原语，新的服务可以利用多版本化来简化开发，并提供特定的一致性保证来解决特定的用例。这项工作提出了早期的结果，量化在本地存储层实现版本控制的权衡。
2014-06-14 cs.DC
Statistical Validity and Consistency of Big Data Analytics: A General Framework
信息学和技术进步引发了大量数据的产生，其管理和分析具有不同的复杂性。大数据分析是揭示数据隐藏的方面并从中进行推理的实践。尽管通过高效的算法和系统开发，大数据的存储、检索和管理似乎是可能的，但鉴于其特定的特点，统计一致性问题仍然需要解决。由于大数据不符合标准分析，我们需要适当修改现有的统计理论和工具。在这里，我们提出了一个通用的统计框架和大数据分析的算法原则，以确保结论的统计准确性。拟议的框架有可能推动大数据分析朝着正确的方向发展。这里提出的划分-重复方法足够广泛，可以涵盖所有实际的数据分析问题。
2018-03-29 cs.DB cs.DC stat.ME
Data Freshness in Leader-Based Replicated Storage
基于领导者的数据复制通过对领导者节点的顺序写入来提高高可用性分布式存储系统中的一致性。在领导者提交写入之后，跟随者节点通过多播机制写入，并且仅保证最终一致。与年龄的信息（AoI）作为新鲜度度量，我们的特点是领导者的数量如何影响的新鲜度的数据检索的瞬时读取查询。特别是，我们推导出的平均年龄的读取查询的领导者写时间的确定性模型和追随者写时间的概率模型。我们得到一个封闭形式的表达式为指数分布的追随者写作时间的平均年龄。我们的数值计算结果表明，根据两组节点的写操作的相对速度，存在一个最佳的领导者的数量，最大限度地减少检索到的数据的平均年龄，这个数字的增加作为领导者的相对速度的增加。
2020-05-15 cs.DB cs.DC cs.IT
Keeping CALM: When Distributed Consistency is Easy
现代分布式系统中的一个关键问题是在保持语义一致的同时避免协调成本。直到最近，对于何时实际上需要协调的问题还没有答案。在本文中，我们提出了一个非正式的介绍CALM定理，它回答了这个问题，正是从传统的存储一致性考虑程序的属性。CALM是“一致性作为逻辑单调性”的首字母缩写。CALM定理表明，具有一致的、无协调的分布式实现的程序正是可以用单调逻辑表示的程序。这一理论结果对分布式应用程序的开发人员具有实际意义。我们展示了如何CALM提供了一个建设性的应用级对应传统的“系统”的智慧，如CAP定理显然是负面的结果。我们还讨论了单调思维影响分布式系统设计的方式，以及新的程序设计语言设计和工具如何帮助开发人员编写一致的、无协调的代码。
2019-01-26 cs.DB cs.DC cs.PL
EdgeKV: Decentralized, scalable, and consistent storage for the edge
边缘计算使计算更接近数据，数据更接近用户，以克服云计算的高延迟通信。边缘存储允许高速数据访问，从而支持自动驾驶和智能电网等领域的延迟敏感型应用程序。然而，一些分布式服务通常是为云设计的，并且由于边缘的分布式和异构性及其有限的资源，构建一个高效的边缘支持存储系统是具有挑战性的。在本文中，我们提出了EdgeKV，这是一种为网络边缘设计的分散式存储系统。EdgeKV提供快速可靠的存储，利用具有强大一致性保证的数据复制。通过位置透明和基于接口的设计，EdgeKV可以扩展边缘节点的异构系统。我们在Golang中实现了EdgeKV模块的原型，并在Grid'5000测试平台上的边缘和云设置中对其进行了评估。我们使用Yahoo！Cloud Serving Benchmark（YCSB）分析系统在实际工作负载下的性能。我们的评估结果表明，EdgeKV优于云存储设置与本地和全局数据访问的平均写响应时间和吞吐量的提高26%和19%，在相同的设置下分别。我们的评估还表明，EdgeKV可以随着客户端的数量而扩展，而不会牺牲性能。最后，我们讨论了使用EdgeKV而不是集中式云来利用边缘资源时的能效改进。
2020-06-28 cs.DC
Search on Secondary Attributes in Geo-Distributed Systems
在大数据时代，越来越多的应用需要实时查询和分析大量不断更新的数据。作为响应，云规模存储系统可以扩展其接口，该接口允许对主键码的快速查找，具有基于非主要属性检索数据的能力。然而，需要快速摄取内容并使其立即可搜索，同时支持低延迟，高吞吐量的查询评估，以及现代存储系统的地理分布性质和弱一致性保证，对索引和搜索系统的实现提出了几个挑战。我们提出了我们的早期工作的索引和查询处理系统的设计和实现，使实时查询存储在地理分布的，弱一致的存储系统中的数据的二级属性。
2018-01-09 cs.DC
A Unified, Practical, and Understandable Model of Non-transactional Consistency Levels in Distributed Replication
本文提出统一且实用的SOP模型，以排序概念定义分布式复制中的非事务性一致性级别，并实现Jepsen集成检查器验证四种常见级别。
2025-05-26 cs.DC
Learnings from an Under the Hood Analysis of an Object Storage Node IO Stack
传统的对象存储建立在传统的OS存储堆栈之上，其中I/O请求通常通过多个庞大且冗余的层进行传输。随着存储子系统对性能、一致性和容错性要求的不断提高，对象管理的复杂性急剧增加。简单地说，在I/O数据路径中会遇到更多的中间层，每个传递层都添加了自己的语法和语义。从而增加了请求处理的开销。在本文中，通过对对象存储节点进行全面的底层分析，我们描述了对象存储（和用户应用程序）工作负载对OS I/O堆栈的影响及其对底层对象存储设备（OSD）的后续影响。我们观察到，基于操作系统的I/O存储堆栈的传统体系结构与复杂的数据管理策略相结合，导致终端存储设备能够提供的性能与其在生产环境中实际提供的性能之间不匹配。因此，开发更快的存储设备所带来的好处往往是无效的。这些问题在高度并发和多路复用的云环境中变得更加突出。由于对象管理的相关问题和OS I/O软件栈的漏洞，我们讨论了一类新的存储设备，被称为对象驱动器的潜力。Samsung Key-Value SSD（KV-SSD）[1]和Seagate Kinetic Drive [2]是对象驱动器的经典工业实现，其中主机数据管理功能可以卸载到存储设备。这导致了整个存储堆栈的简化。基于我们的分析，我们相信对象驱动器可以减轻对象存储的数据管理的高负担，与传统的操作系统（OS）堆栈相比节省20-38%的时间。
2022-07-05 cs.AR cs.DB cs.DC
Assise: Performance and Availability via NVM Colocation in a Distributed File System
极低延迟持久内存模块（PMM）的采用颠覆了长期建立的分散式文件系统访问模型。相反，通过将计算和PMM存储放在同一位置，我们可以为应用程序提供更高的I/O性能、亚秒级的应用程序故障转移和强一致性。为了证明这一点，我们构建了基于持久性、复制一致性协议的Assise分布式文件系统，用于管理一组服务器托管的PMM，作为应用程序和较慢的分散存储（如SSD）之间的快速、崩溃可恢复的缓存。与分散式文件系统不同，Assise通过尽可能在共置的PMM上执行IO来最大限度地提高所有文件IO的局部性，并通过在IO操作粒度（而不是固定的块大小）上保持一致性来最大限度地减少一致性开销。我们将Assise与Ceph/Bluestore、NFS和Octopus在具有英特尔Optane DC PMM和SSD的群集上进行了比较，用于常见的云应用程序和基准测试，例如LevelDB、Postfix和FileBench。我们发现，Assise将写入延迟提高了22倍，吞吐量提高了56倍，故障转移时间提高了103倍，并且比同类产品的扩展能力提高了6倍，同时提供了更强的一致性语义。Assise承诺将以1.5倍的速度打破MinuteSort世界纪录。
2020-06-02 cs.DC cs.OS
Characterizing and Adapting the Consistency-Latency Tradeoff in Distributed Key-value Stores
CAP定理是适用于分布式存储系统的基本结果。在本文中，我们首先提出并证明了两个类CAP不可能定理。为了说明这些定理，我们提出了概率模型来描述CAP定理的三个重要元素：一致性（C），可用性或延迟（A）和分区容差（P）。这些定理显示了无法实现的包络，即，这三个模型的参数的组合使得它们不可能一起实现。接下来，我们提出了一类称为PCAP的系统的设计，其性能接近我们的定理所描述的包络。此外，这些系统允许在单个数据中心上运行的应用程序指定延迟SLA或一致性SLA。PCAP系统自动适应，实时和不断变化的网络条件下，以满足SLA，同时优化其他C/A指标。我们将PCAP合并到两个流行的键值存储中- Apache Cassandra和Riak。我们的实验与这两个部署，在现实的工作负载下，显示PCAP系统令人满意地满足SLA，并执行接近可实现的信封。我们还将PCAP从单个数据中心扩展到多个地理分布的数据中心。
2016-01-23 cs.DC
Distributed Transactional Systems Cannot Be Fast
我们证明，没有完全事务性的系统可以提供快速读事务（包括只读的，被认为是最常见的在实践中）。具体来说，为了实现快速读事务，系统必须放弃对写多个对象的事务的支持。我们证明了因果一致的分布式存储系统的不可能结果，即，它们不需要确保任何强形式的一致性。因此，我们的结果也适用于任何确保一致性水平强于因果一致性的系统，例如，严格的可串行性。不可能的结果甚至适用于只存储两个对象的系统（并且支持至少两个服务器和至少四个客户端）。它也适用于部分复制的系统。我们的结果证明了最先进的分布式事务系统的设计选择，并坚持认为，系统设计人员不应该把更多的精力来设计功能齐全的系统，既支持快速读取事务，并确保因果关系或任何更强形式的一致性。
2019-04-10 cs.DC
Extending Eventually Consistent Cloud Databases for Enforcing Numeric Invariants
地理复制数据库通常在最终一致性原则下运行，以在简单的键/值存储抽象上提供高可用性和低延迟。最近，有些公司采用了可交换的数据类型，以便为特殊用途的数据类型（如计数器）提供无缝协调。尽管如此，无法在所有副本中强制执行数值不变量仍然是依赖于最终一致性存储的有限保证的关键缺点。我们提出了一种新的复制数据类型，称为有界计数器，它增加了对数值不变量的支持，最终一致的地理复制数据库。我们以Riak为例，描述了如何在现有云存储之上实现这一点，而无需修改它们。我们的方法适应托管交易的想法，设计一个分散，容错和快速的解决方案。我们的评估表明，更低的延迟和更好的可扩展性比传统的方法，使用强一致性，以强制执行数值不变，从而减轻一致性和可用性之间的紧张关系。
2015-03-31 cs.DC
Walrus: An Efficient Decentralized Storage Network
Mysten Labs；UCL（伦敦大学学院）
Walrus 通过 RedStuff 擦除编码和多阶段任期变更协议，解决了去中心化存储中复制开销、恢复效率与安全性的平衡问题，实现了高安全性和可用性的高效存储系统。
2026-08-11 cs.CR cs.DC
Quality-of-Data for Consistency Levels in Geo-replicated Cloud Data Stores
云计算最近已经成为向个人和公司提供对远程计算和存储基础设施的访问的关键技术。为了实现高可用且高性能的服务，云数据存储依赖于数据复制。然而，提供复制带来了一致性问题。考虑到数据在多个地理上分布的数据中心中复制，并且为了满足分布式应用程序日益增长的需求，许多云数据存储采用最终一致性，因此允许在低延迟下运行数据密集型操作。这是以数据陈旧为代价的。在本文中，我们基于一组灵活的数据语义来优先考虑数据复制，这些语义最适合所有类型的大数据应用程序，避免在网络断开或分区的大时间段内使网络和系统过载。因此，我们将这些数据语义集成到知名NoSQL数据存储的核心架构中（例如，HBase），它利用三维向量场模型（关于及时性、未决更新的数量和发散界限）以按需方式选择性地向应用程序提供数据。这通过向更新的优先级也不同的不同应用（诸如社交网络或电子商务站点）提供多个所需的一致性级别来增强了前一一致性模型。此外，我们将模型实现到HBase中，允许在逻辑批处理中对更新进行标记和原子分组，类似于事务，确保更新在传播时的原子更改和正确性。
2014-10-12 cs.DC
Distributed Transactions: Dissecting the Nightmare
许多分布式存储系统都是事务性的，并且大量的工作都致力于优化其性能，特别是只读事务的性能，这被认为是实践中最常见的。然而，到目前为止所获得的结果是相当令人失望的，一些设计决策似乎是人为的。本文通过证明事务存储系统的内在局限性来解释这种情况，即使是那些不需要确保强一致性而只需要因果关系的系统。我们首先考虑一般的存储系统，其中有些事务是只读的，有些还涉及写操作。我们表明，即使是只读事务也不能“快”：它们的操作不能在寻找对象的客户端和存储对象的服务器之间的一次往返消息交换中执行。然后，我们考虑所有事务都是只读的系统（如今天有时实现的），即，更新作为事务之外的单独操作来执行。在这种情况下，只读事务确实可以“快速”，但我们证明它们需要“可见”。它们会导致服务器上的固有更新，这反过来又会影响其整体性能。
2018-03-16 cs.DC
Chunk Content is not Enough: Chunk-Context Aware Resemblance Detection for Deduplication Delta Compression
随着云存储的日益普及，删除用户之间的重复数据对于服务提供商降低成本变得越来越重要。数据相似性检测是近年来出现的一种检测相似性之间冗余的新技术。它从每个块内容中提取特征，并将相似度高的块作为去除冗余的候选。然而，流行的相似性方法，如“N-变换”和“精细”，只使用块数据的特征提取。对数据块的微小修改可能会严重恶化其相似性检测的能力。在本文中，我们提出了一种新的块上下文感知相似性检测算法，称为CARD，以减轻这个问题。CARD引入了基于BP神经网络的组块上下文感知模型，并采用了基于N个子组块瓦片的初始特征提取策略。它有效地将每个数据块内容的内部结构与上下文信息结合起来进行特征提取，显著降低了数据块微小变化的影响。为了评估其性能，我们实现了CARD原型，并使用真实世界的数据集进行了广泛的实验。结果表明，CARD可以检测到高达75.03%的冗余数据和加速相似性检测操作的5.6到17.8倍的速度相比，国家的最先进的相似性检测方法。
2021-06-02 cs.DC
Self-Repairing Disk Arrays
随着磁存储器价格的持续下降，更换故障磁盘的成本越来越多地由服务呼叫本身的成本主导。我们建议通过构建包含足够备用磁盘的磁盘阵列来消除这些调用，这些磁盘阵列在其整个生命周期中无需任何人为干预即可运行。为了评估这种方法的可行性，我们模拟了二维磁盘阵列的行为与n个奇偶校验磁盘和n（n-1）/2数据磁盘下现实的故障和修复的假设。我们的结论是，拥有n（n+1）/2个备用磁盘足以实现99.999%的概率在四年内不丢失数据。我们观察到，RAID 6级组织无法达到相同的目标，需要RAID条带可以容忍三重磁盘故障。
2015-01-02 cs.DC
CausalEC: A Causally Consistent Data Storage Algorithm based on Cross-Object Erasure Coding
首次提出基于跨对象纠删码的因果一致性数据存储算法CausalEC，在异步系统中通过任意线性纠删码实现本地写操作与非阻塞读操作，兼顾活性、容错性与存储效率。
2023-05-20 cs.DC cs.IT math.IT
Alpha Entanglement Codes: Practical Erasure Codes to Archive Data in Unreliable Environments
使用消费级磁盘驱动器和分布式对等系统的数据中心是不可靠的环境，无法在没有足够冗余的情况下归档数据。大多数冗余方案对于长期提供高可用性、持久性和完整性并不完全有效。我们提出了阿尔法纠缠码，一种机制，创建一个虚拟层的高度互连的存储设备，在大规模存储系统中传播冗余信息。我们的动机是设计具有高容错能力的灵活实用的擦除码，以提高数据的持久性和可用性，即使在灾难性的情况下也是如此。通过灵活和实用，我们的意思是代码设置可以适应未来的需求和实际实现，并在安全性，资源使用和性能之间进行合理的权衡。代码有三个参数。Alpha会线性增加存储开销，但会以指数方式增加恢复数据的可能路径。另外两个参数甚至在不需要额外存储的情况下进一步提高了容错性。因此，纠缠存储系统可以提供高可用性，持久性和额外的完整性：更难以不可检测地修改数据。我们评估了几种冗余方案在不可靠环境中的性能，并表明α纠缠码是灵活和实用的代码。值得注意的是，它们在代码局部性方面表现出色，因此，它们降低了修复成本，并减少了对可用性差的存储位置的依赖。我们的解决方案在许多灾难恢复场景中优于Reed-Solomon码。
2018-10-06 cs.CR cs.DC cs.IT
