Capacity and Security of Heterogeneous Distributed Storage Systems
研究了异构分布式存储系统在修复动态下的容量问题。这些系统的示例包括对等存储云、无线和互联网缓存系统。异构系统中的节点可以具有不同的存储容量和不同的修复带宽。我们给出了系统容量的上下界。这些界限取决于每个节点的平均资源,或对节点特性的详细知识。此外,我们研究的情况下,节点可能会受到窃听,并给出了系统的保密能力的界限。我们的研究结果的一个含义是,对称修复最大化一个同质系统的容量,这证明了在文献中广泛使用的模型。
2012-11-02 cs.DC cs.IT cs.NI
A Distributed Data Collection Algorithm for Wireless Sensor Networks with Persistent Storage Nodes
提出了一种分布式数据汇集算法,用于无线传感器网络获取信息的准确存储转发。该算法不依赖于传感器网络的拓扑结构,路由表,或传感器节点的地理位置,而是利用均匀分布的存储节点。分析和仿真结果表明,该算法可以通过查询任意小的存储节点集,以很高的概率精确收集到传感器节点所传播的数据。
2010-11-11 cs.IT cs.NI math.IT
Taming Tail Latency for Erasure-coded, Distributed Storage Systems
分布式存储系统在响应时间上易受长尾效应的影响。在Bing、Facebook和Amazon等现代在线存储系统中,服务延迟的长尾特别值得关注。其中第99.9百分位响应时间是比平均值差的数量级。由于纠删码作为一种流行的技术出现,以实现分布式存储中的高数据可靠性,同时获得空间效率,驯服尾部延迟仍然是一个开放的问题,由于缺乏数学模型来分析这样的系统。为此,我们提出了一个框架,用于量化和优化尾部延迟擦除编码存储系统。特别是,我们推导出上界尾延迟在封闭的形式为任意服务时间分布和异构文件。基于该模型,我们制定了一个优化问题,以共同最大限度地减少加权延迟尾概率的所有文件在服务器上的文件的位置,并选择服务器访问所请求的文件。使用高效的交替优化算法来解决非凸问题。数值结果表明,擦除编码的存储系统与现实的工作负载的尾部延迟显着减少。
2017-03-24 cs.DC cs.IT cs.NI
A realistic distributed storage system that minimizes data storage and repair bandwidth
在实际的分布式存储环境中,存储节点通常放置在机架中,机架是一种用于容纳电子设备的金属支架。已知机架内的节点之间的通信(带宽)成本远低于不同机架内的节点之间的通信(带宽)成本。本文提出了一种新的模型,其中存储节点被放置在两个机架上,并进行了分析。在此模型中,存储节点具有不同的修复成本来修复节点,这取决于它们放置的机架。示出了阈值函数,其最小化每个节点的存储数据量和重新生成故障节点所需的带宽。该阈值函数概括了来自先前分布式存储模型的阈值函数。将该阈值函数得到的折衷曲线与以前的模型得到的折衷曲线进行比较,结果表明,该新模型在维修成本方面优于以前的模型。
2013-01-08 cs.DC cs.IT math.IT
Self-Repairing Codes for Distributed Storage - A Projective Geometric Construction
自修复代码(SRC)是为满足分布式网络存储的编码需求而设计的代码:它们不仅允许即使在存在节点故障的情况下也能恢复存储的数据,而且还提供了一种修复机制,可以联系两个活动节点来重新生成故障节点的数据。在本文中,我们提出了一个新的自修复码的例子,基于来自射影几何的蔓延的建设。我们研究他们的一些属性,以证明这些代码的分布式网络存储的适用性。
2011-05-02 cs.DC cs.IT math.IT
Distributed Storage Codes through Hadamard Designs
在采用纠删编码的分布式存储系统中,出现了使在故障之后精确地重新生成存储节点所需的总{ \it修复带宽}最小化的问题。此修复带宽取决于存储代码的结构和用于恢复丢失数据的修复策略。最小化它需要在修复期间使用干涉对齐(IA)的概念将不需要的数据在尽可能小的空间中对齐。这里,给出了Cadambe { \it et al.}提供了线索,完善IA的情况下,我们结合阿达玛矩阵的基本性质,构建一个新的存储代码具有良好的修复性能。具体来说,我们建立一个明确的$(k+2,k)$存储代码在$\mathbb{GF}(3)$,其单个系统节点故障可以修复与带宽完全匹配的理论最小值。此外,单个奇偶校验节点故障的修复最多生成与任何系统节点故障相同的修复带宽。我们的代码可以容忍任何单节点故障和任何涉及最多一个系统故障的故障对。
2011-06-08 cs.DC cs.IT cs.NI
An Overview of Codes Tailor-made for Better Repairability in Networked Distributed Storage Systems
当今社会产生的数字数据量不断增加,需要更好的存储解决方案。本调查着眼于专门为分布式网络存储系统的需求而设计的新一代编码技术,试图在存储空间效率、容错和维护开销之间达到最佳折衷。四个家庭的代码量身定制的分布式设置,即-金字塔,层次,再生和自修复代码-在高层次上,强调这些代码背后的主要思想,并讨论其利弊,最后与它们之间的定量比较。这项调查故意排除了代码的技术细节,也没有提供众多作品的详尽摘要。相反,它通过展示分布式存储解决方案编码技术进步的全貌,以广泛受众易于访问的方式概述了主要代码家族。
2013-01-30 cs.DC cs.IT math.IT
Decentralized Erasure Codes for Distributed Networked Storage
我们考虑的问题,构建一个擦除码存储在网络上的数据源是分布式的。具体来说,我们假设有n个存储节点,内存有限,k<n个源生成数据。我们需要一个数据收集器,它可以出现在网络中的任何地方,可以查询任何k个存储节点,并能够检索数据。我们介绍分散擦除码,这是一个特定的随机结构的启发网络编码随机二分图的线性代码。我们发现,分散擦除码是最佳稀疏,并导致降低通信,存储和计算成本的随机线性编码。
2006-06-12 cs.IT cs.NI math.IT
Symmetry in Distributed Storage Systems
最大流外边界是通过重新生成代码来实现的,用于功能修复分布式存储系统。然而,分布式存储系统的精确修复能力是一个悬而未决的问题。本文给出了精确修理分布式存储系统的线性规划界。给出了随机变量集的对称集的概念,建立了对称集上随机变量子集的联合熵的等式。提出了一种适用于精确修复分布式存储系统的级联编码方案,并证明了对于任何精确修复分布式存储系统,级联编码方案都足以达到任意的容许速率。给出了由级联方案引起的随机变量的某些联合熵的等价性。这些联合熵等式是简化线性规划界和获得精确修复分布式存储系统更强逆解的新工具。
2013-05-15 cs.IT math.IT
Exact Minimum-Repair-Bandwidth Cooperative Regenerating Codes for Distributed Storage Systems
为了提供高的数据可靠性,分布式存储系统将具有冗余的数据分散到多个存储节点。再生码是一种新的纠删码,它引入冗余以提高分布式存储中数据修复的性能。大多数关于代码再生的研究都集中在单次故障恢复上,但在大型存储网络中,同时发生两个或多个节点故障的情况并不少见。为了利用机会,同时修复多个故障节点,合作修复机制,在这个意义上,要修复的节点之间可以交换数据,进行了研究。导出了合作修复的修复带宽的一个下界,并构造了一组与此下界相匹配的精确合作再生码。
2011-06-01 cs.DC cs.IT math.IT
Storage and Repair Bandwidth Tradeoff for Distributed Storage Systems with Clusters and Separate Nodes
节点存储和修复带宽之间的最佳折衷是分布式存储系统(DSS)的一个重要问题。对于具有集群的现实DSS,在修复故障节点时,从集群内节点下载更多数据比从跨集群节点下载更多数据更有效。因此,区分簇内和跨簇的修复带宽是有意义的。对于集群DSS的权衡已被认为是与特殊的修复假设,其中所有的活节点被用来修复故障节点。在本文中,我们研究了更一般的存储/修复参数下的集群DSS的最佳权衡。此外,再生代码的建设策略,实现点的最佳折衷曲线提出了集群DSS与特定参数作为一个数值例子。此外,分散节点的影响的权衡也被认为是具有集群和分散的节点的DSS。
2018-03-13 cs.DC cs.IT math.IT
New Repair strategy of Hadamard Minimum Storage Regenerating Code for Distributed Storage System
新提出的$(k+2,k)$ Hadamard最小存储再生(MSR)码是第一类对所有单节点故障具有最佳修复性能的高速存储码。在本文中,我们提出了一种新的简单的修复策略,它可以大大减少计算量的节点修复相比,原来的。
2013-12-18 cs.IT math.IT
Synchronizing Edits in Distributed Storage Networks
我们考虑的问题,在分布式存储网络的编辑模型下,包括删除和插入的数据同步。我们提出了两个修改MDS,再生和本地可修复的代码,允许更新的奇偶校验值进行一轮的通信在低比特率和使用小的存储开销。我们的主要贡献是新的协议同步热和半静态数据和协议的数据重复数据删除应用程序,基于中间置换,范德蒙和柯西矩阵编码。
2014-09-04 cs.DC cs.IT math.IT
Distributed Storage Systems based on Equidistant Subspace Codes
提出了基于等距等维码的分布式存储系统。这些等距码基于Plücker嵌入,这在修复和重建算法中至关重要。这些系统具有一些有用的特性,如高故障恢复能力,最小带宽,低存储,简单的代数修复和重建算法,良好的局部性,以及与小字段的兼容性。
2014-06-24 cs.IT math.IT
New Codes and Inner Bounds for Exact Repair in Distributed Storage Systems
本文研究了分布式存储系统中存储和修复带宽之间的精确修复折衷问题。我们给出了新的内部界限的权衡区域,并提供代码的建设,实现这些界限。
2014-02-11 cs.IT math.IT
Tail Index for a Distributed Storage System with Pareto File Size Distribution
分布式存储系统通常采用纠删码来实现高数据可靠性,同时获得空间效率。已知这样的存储系统在响应时间中易受长尾影响。已经表明,在Bing、Facebook和Amazon等现代在线应用程序中,延迟的长尾是特别值得关注的,其中$99.9$第百分位数响应时间比平均值差几个数量级。驯服尾部等待时间在擦除编码存储系统中是非常具有挑战性的,因为量化尾部等待时间(即,$x$(任意$x\in[0,1]$的第百分位延迟)是一个长期存在的公开问题。在本文中,我们提出了一个数学模型来量化任意擦除编码存储系统的服务延迟{ \em tail index},通过表征延迟分布尾部的渐近行为。当文件大小有一个重尾分布,我们发现尾指数,定义为指数在延迟尾概率减小到零,在封闭形式,并进一步表明,一个家庭的概率调度算法是(渐近)最佳的,因为他们能够实现确切的尾指数。
2017-08-03 cs.DC cs.IT cs.NI
A realistic distributed storage system: the rack model
在实际的分布式存储环境中,存储节点通常放置在机架中,机架是一种用于容纳电子设备的金属支架。已知的是,在同一机架中的节点之间的通信(带宽)成本比在不同机架中的节点之间的通信(带宽)成本低得多。本文提出了一种新的模型,其中存储节点被放置在两个机架上,并进行了分析。此外,两个机架模型被推广到任何数量的机架。在此模型中,存储节点具有不同的维修成本,具体取决于它们放置的机架。示出了阈值函数,其最小化每个节点的存储数据量和重新生成故障节点所需的带宽。这个阈值函数概括了以前的分布式存储模型。将该阈值函数得到的折衷曲线与以前的模型得到的折衷曲线进行比较,结果表明,该新模型在维修成本方面优于以前的模型。
2013-02-22 cs.DC cs.IT math.IT
On the Delay-Storage Trade-off in Content Download from Coded Distributed Storage Systems
在本文中,我们研究如何在分布式存储编码减少预期的下载时间,除了提供可靠性对磁盘故障。预期的下载时间减少了,因为当内容文件被编码以增加冗余并分布在多个磁盘上时,仅读取磁盘的子集就足以重建内容。对于相同的总存储量,编码比简单的复制更好地利用了存储的多样性,因此提供了更快的下载。我们使用一种新的fork-join排队框架来模拟多个用户同时请求内容,并推导出预期下载时间的界限。我们的系统模型和结果是一个新的一般化的fork-join系统,研究排队论文献。我们的研究结果表明,预期的下载时间和存储空间的量之间的基本权衡。这种权衡可以用于设计满足内容传递的延迟约束所需的冗余量。
2013-12-18 cs.DC cs.IT cs.PF
Optimal Caching for Low Latency in Distributed Coded Storage Systems
纠删码被广泛认为是一种以低存储成本提高数据可靠性的有前途的解决方案。然而,在现代地理分布式存储系统中,纠删码可能导致高数据访问延迟,因为它们需要从多个远程存储节点检索数据。这阻碍了纠删码在数据密集型应用中的广泛应用。本文提出了新的缓存方案,以实现低延迟的分布式编码存储系统。基于Amazon Simple Storage Service的实验证实了延迟与数据检索的物理距离之间的正相关性。使用平均数据访问延迟作为性能指标来量化缓存的好处。假设未来的数据流行度和网络延迟信息是可用的,离线缓存方案,提出了找到最佳的缓存解决方案。在最优方案的指导下,根据实时的测量数据流行度和网络延迟信息,提出了一种在线缓存方案。实验结果表明,在线方案可以很好地逼近最优方案,大大降低了计算复杂度。
2020-12-05 cs.IT cs.NI math.IT
Broadcast Repair for Wireless Distributed Storage Systems
在无线分布式存储系统中,存储节点之间通过无线信道连接,这些无线信道本质上是广播信道。本文利用这一独特的功能,设计了一个有效的修复机制,称为广播修复,无线分布式存储系统的多节点故障。由于无线信道通常是带宽有限的,我们提倡一种新的措施修复性能称为修复传输带宽,它衡量的平均数量的数据包传输的帮助节点每个失败的节点。得到了存储量和修复传输带宽之间的基本折衷。结果表明,广播修复在存储效率和修复传输带宽方面优于多节点故障有线分布式存储系统的基本修复方法--合作修复,从而得到更好的折衷曲线.
2016-03-01 cs.IT math.IT
On a Duality Between Recoverable Distributed Storage and Index Coding
在本文中,我们介绍了一个模型的单故障本地可恢复的分布式存储系统。这个模型似乎引起了一个问题,似乎双重的研究良好的索引编码问题。本文建立了模型的最优索引码和最优分布存储码的维数之间的关系。我们还展示了向量码的一些扩展。
2014-03-10 cs.IT math.IT
Network Coding for Energy-Efficient Distributed Storage System in Wireless Sensor Networks
提出了一种基于网络编码的无线传感器网络分布式存储系统节能方案,主要解决两个问题:一是考虑无线传感器网络中有效的分布式存储技术;二是研究如何利用较少的资源修复失效存储节点中的数据。对于第一个问题,我们提出了一种方法来获得一个稀疏的生成矩阵来构造网络码,并证明了这个稀疏的生成矩阵是稀疏的。受益于稀疏生成矩阵,实现分布式存储所需的能量消耗减少。对于第二个问题,我们设计了一种基于网络编码的迭代修复方法,该方法充分利用了网络编码理论中在中间结点重新编码的思想。受益于重新编码,数据修复所需的能量消耗显著降低。此外,我们提供了一个明确的下限字段大小所需的该计划,这意味着该计划可以工作在一个非常小的字段和所需的计算开销的编码是非常低的。仿真结果表明,该方案一方面可以降低无线传感器网络中实现分布式存储系统所需的总能耗,另一方面也可以均衡网络的能耗。
2013-04-05 cs.IT cs.NI math.IT
Breaking the Storage-Bandwidth Tradeoff in Distributed Storage with Quantum Entanglement
University of Maryland, College Park(马里兰大学帕克分校)
本文利用量子纠缠在分布式存储中实现存储和带宽的同步最小化,突破经典存储-带宽权衡限制。
2026-01-15 cs.DC cs.IT cs.NI
Tradeoff for Heterogeneous Distributed Storage Systems between Storage and Repair Cost
本文研究了具有灵活重构度的异构分布式存储系统,系统中的每个节点具有动态的修复带宽和动态的存储容量。具体地,数据收集器可以使用系统中的一些任意节点在时间$t$重构文件,并且对于节点故障,系统可以由一些任意节点集合修复。使用$min$ - $cut$界限,我们研究了存储和修复成本之间的基本权衡我们的模型的异构DSS。特别地,该问题被表述为双目标优化线性规划问题。对于任意的DSS,计算得到的$min$ - $cut$界是紧的.
2015-03-08 cs.IT math.IT
Distributed Storage Schemes over Unidirectional Ring Networks
本文研究了单向环形网络上的分布式存储问题。提出了一个重构带宽的下限,以恢复所有原始数据为每个用户,它是可实现的任意参数。如果一个分布式存储方案能够达到这个下限,并且每个用户都是平等的,我们称之为最优重构分布式存储方案(ORDSS)。此外,一个失败的存储节点在ORDSSes的修复问题正在考虑中,并为每个存储节点的修复带宽上的一个严格的下界。特别是,我们指出的事实,对于任何ORDSS,每个存储节点可以修复修复带宽达到下限与平等。此外,我们提出了一个有效的方法来构建任意参数的欧氏分割的概念。最后,我们用一个例子来描述上述方法。
2014-01-21 cs.IT math.IT
A Storage-Computation-Communication Tradeoff for Distributed Computing
本文研究了分布式计算系统,其中计算被分成“映射”和“减少”功能。提出了一种新的编码方案,称为分布式计算和编码通信(D3 C),并分析了其通信负载与可用存储空间和待计算中间值数目(IVA)的关系。对于给定的存储空间,D3 C实现了最小可能的通信负载,而与Li等人相比,需要计算的IVA数量更少。的编码分布式计算(CDC)方案。更一般地说,我们的方案可以在存储空间和要计算的IVA数量之间灵活地进行权衡。然后针对任何给定的折衷来分析通信负载。
2020-01-21 cs.IT math.IT
Scalable constructions of fractional repetition codes in distributed storage systems
在使用商用硬件构建的分布式存储系统中,为了确保系统的可靠性,需要具有数据冗余。在这样的系统中,通常还期望能够快速修复故障的存储节点。我们考虑一个计划-介绍了El Rouayheb和Ramchandran-它使用组合块设计,以设计存储系统,使有效的(和准确的)节点修复。在这项工作中,我们调查的系统中,节点的大小可能远远大于复制度,并明确提供算法来构建这些存储设计。我们的设计,这是相关的射影几何,是基于建设的二分笼图(周长6)和相互正交的拉丁广场的概念。通过这些结构,我们可以保证所得到的设计需要最少数量的存储节点给定的参数,并可以进一步表明,这些系统可以很容易地扩展,而不需要频繁的重新配置。
2011-09-30 cs.DC cs.IT math.IT
Capacity of Clustered Distributed Storage
提出了一种新的反映分布式存储集群结构的系统模型,用于研究故障存储节点修复的带宽需求。具有多个机架/磁盘或存储设备的本地网络(例如传感器网络)的大型数据中心是所建议的集群模型的良好应用。在涉及集群存储结构的实际场景中,使用驻留在其他集群中的完整节点来修复存储节点比基于来自集群内节点的信息来恢复节点更消耗带宽。因此,在分布式存储建模中区分集群内修复带宽和跨集群修复带宽是很重要的。所建议的模型的容量作为分布式存储系统的基本资源,即存储容量,集群内修复带宽和跨集群修复带宽的函数。在容量表达式的基础上,分析了实现可靠存储的所需资源的可行集合。它表明,跨集群流量可以最小化为零(即,集群内本地修复成为可能)。此外,跨集群流量和集群内流量之间的权衡观察到足够大的存储容量。
2017-02-13 cs.IT math.IT
Capacity bounds for distributed storage
分布式存储系统的主要目标之一是使用大量$N$的不可靠存储节点在长持续时间内可靠地存储大量源数据,每个不可靠存储节点具有$c$位的存储容量。存储节点随时间随机失效,并被初始化为零的相等容量的节点替换,因此位以一定速率$E$擦除。为了维持源数据的可恢复性,修复器以速率$R$通过网络从节点连续地读取数据,并且基于所读取的数据生成数据并将数据写入节点。分布式存储源数据容量是可以长时间可靠存储的最大源数据量。证明了随着$N$和$R$的增长,分布式存储源数据容量渐近地接近$\left(1-\frac{E}{2 \cdot R}\right) \cdot N \cdot c$.这个等式表达了网络流量和存储开销之间的基本权衡,以可靠地存储源数据。
2018-04-11 cs.IT math.IT
Node Repair for Distributed Storage Systems over Fading Channels
分布式存储系统和相关的存储代码可以有效地存储大量数据,同时确保在节点故障的情况下可检索数据。这种系统的研究,特别是有限域上存储码的设计,假设节点通信的物理信道是无差错的。例如,在无线存储系统中,情况并非总是如此。我们研究了分布式存储系统中节点修复期间子数据包被错误修复的概率,其中节点通过AWGN或Rayleigh衰落信道进行通信。渐近概率(SNR的增加),一个节点被错误地修复示出完全由DSS的修复局部性和无线信道的符号出错率确定。最后,我们提出了一些设计标准的物理层编码在这种情况下,并使用它来计算最佳旋转QAM星座用于无线分布式存储系统。
2014-09-25 cs.IT math.IT
Cooperative Network Coding for Distributed Storage using Base Stations with Link Constraints
在这项工作中,我们考虑了一种新的分布式数据存储/缓存的情况下,在蜂窝环境中,多个节点可能会失败/离开在同一时间。为了保持目标可靠性,我们允许在分配在一组分层中的基站的帮助下合作再生丢失的节点。由于这种分层结构,从每个基站下载的符号具有不同的成本,同时连接蜂窝系统的节点和基站的链路容量也是有限的。在这个更实际和一般的情况下,我们提出了修复带宽成本和每个节点的存储空间之间的基本权衡。特别有趣的工作点是最小存储以及带宽成本点在这个权衡曲线。我们为这些操作点提供了每个节点的相应带宽(成本)和存储空间的封闭式表达式。最后,我们提供了一个显式的最佳代码结构的最小存储再生点为一组给定的系统参数。
2021-05-05 cs.IT cs.NI math.IT
Raptor Codes Based Distributed Storage Algorithms for Wireless Sensor Networks
本文研究了一个大规模无线传感器网络中的分布式存储问题,该网络中的$n$节点之间$k$获取(感知)独立的数据.目标是在整个网络中传播所获取的信息,使得每个$n$传感器存储一个可能编码的分组,并且对于一些小的$ε>0$,可以稍后以计算简单的方式从任何$(1+ε)k$节点恢复原始$k$数据分组。我们提出了两个基于Raptor码的分布式存储算法来解决这个问题。在第一种算法中,所有传感器都具有$n$和$k$的知识。在第二种情况下,我们假设没有传感器具有这样的全局信息。
2009-03-03 cs.DS cs.IT cs.NI
Storage, Computation, and Communication: A Fundamental Tradeoff in Distributed Computing
我们考虑一个类似MapReduce的分布式计算系统。我们推导出一个下界的通信成本为任何给定的存储和计算成本。这个下限与我们最近提出的可实现的界限相匹配。其结果是,我们完全表征的存储,计算和通信之间的最佳权衡。我们的结果推广了Li等人的前一个结果,也考虑了计算的中间值的数量。
2020-01-21 cs.IT math.IT
On Distributed Storage Allocations of Large Files for Maximum Service Rate
在分布式存储系统中分配(冗余)文件块会影响重要的性能指标,例如文件恢复的概率、数据下载时间或给定数据访问模型下的系统服务速率。本文研究了在存储数据量较大且下载时间不可忽略的情况下的服务速率。我们专注于准统一的存储分配,并提供了两种常见的数据访问模型的服务率分析。我们发现,根据不同的系统参数的最优分配。在下载时间不随数据大小缩放的假设下,情况并非如此,其中最小扩展分配先前被发现是普遍最优的。
2018-08-08 cs.DC cs.IT math.IT
Distributed Storage over Unidirectional Ring Networks
本文研究了单向环形网络上的分布式存储问题,其存储节点构成一个有向环,数据沿同一方向传输。原始数据被分布存储在这些节点上。每个用户只能连接一个存储节点来下载全部数据。给出了每个用户恢复原始数据所需的重构带宽的一个下界,该下界对于任意参数都是可实现的。如果一个分布式存储方案能够达到这个下限,并且每个用户都是平等的,我们称之为最优重构分布式存储方案(ORDSS)。此外,一个失败的存储节点在ORDSSes的修复问题正在考虑和修复带宽上的一个紧的下界。特别是,我们指出的事实,对于任何的ORDSS,每个存储节点可以修复修复带宽达到下限与平等。此外,我们提出了两种结构的任意参数的ordss,称为MDS建设和ED建设,分别。特别是,ED构造,通过使用欧几里德划分的概念,是更有效的,通过我们的详细分析。
2014-04-14 cs.IT math.IT
On Heterogeneous Regenerating Codes and Capacity of Distributed Storage Systems
异构分布式存储系统(DSS)接近于现实世界中的数据存储应用。互联网缓存系统和对等存储云就是这样的DSS的例子。在这项工作中,我们计算这样的系统,每个节点存储不同数量的数据包,每个具有不同的修复带宽(节点可以通过接触一组特定的节点修复)的容量公式。研究了这种异构DSS的存储和修复带宽之间的权衡曲线。通过对容量公式的分析,在曲线上得到了新的最小带宽再生点和最小存储再生点。结果表明,在某些情况下,这些都优于同质DSS。
2014-02-16 cs.IT math.IT
Cooperative Repair of Multiple Node Failures in Distributed Storage Systems
针对分布式存储系统中的多节点故障修复问题,设计了协作再生码。相对于原始的修复模型,再生代码,这是用于修复的单节点故障,新的节点之间的数据交换是可以实现的。已知的是,利用协作修复可以进一步减小修复带宽。目前,在文献中,我们有一个明确的建设精确修复合作码实现所有参数对应的最小带宽点。本文给出了这种合作再生码的一个稍微广义和更灵活的版本。对于最小的存储再生与合作,我们提出了一个明确的代码结构,可以联合修复任何数量的系统存储节点。
2016-07-28 cs.DC cs.IT math.IT
Expected Recovery Time in DNA-based Distributed Storage Systems
Technion—Israel Institute of Technology(以色列理工学院);Nanyang Technological University(南洋理工大学)
本文研究了基于DNA的分布式存储系统中数据在容器故障时的预期恢复时间,通过分析擦除纠正码和彩票收集问题的广义版本,探讨了数据恢复的效率与鲁棒性。
2026-02-07 cs.IT math.IT
Capacity of Distributed Storage Systems with Clusters and Separate Nodes
在分布式存储系统中,节点存储和修复带宽之间的最优折衷是设计分布式编码策略以保证大规模数据可靠性的重要问题。DSS的能力作为一个功能的节点存储和修复带宽参数,特征的权衡。有很多工作在DSS与集群(机架),其中修复带宽从集群内和跨集群是有区别的。然而,在现实的DSS中,分离节点也是普遍存在的,但对具有集群和分离节点的DSS(CSN-DSS)的研究还不够。在本文中,我们制定了一个单独的节点的CSN-DSS的容量首次修复一个单独的节点的带宽是跨集群。因此,节点存储和修复带宽之间的最佳权衡推导出并与集群DSS相比。基于该折衷构造了重新生成的代码实例。此外,增加一个单独的节点的影响进行了理论分析和制定。我们证明了当每个集群包含R个节点,并且任意k个节点都足以恢复原始文件(MDS属性)时,如果R| k,否则减小容量。
2019-01-10 cs.DC cs.IT math.IT
Capacity of Wireless Distributed Storage Systems with Broadcast Repair
在无线分布式存储系统中,存储节点之间通过无线信道连接,这些无线信道本质上是广播信道。本文利用这一独特的功能,设计了一个有效的修复机制,称为广播修复,无线分布式存储系统中存在的多个节点的故障。由于无线传输的广播性质,我们提倡一种新的措施修复性能称为修复传输带宽。修复带宽测量的是新节点替换故障节点时下载的平均数据包数量,而修复传输带宽测量的是每个故障节点上辅助节点传输的平均数据包数量。通过将存储系统建模为多播网络,并分析相应信息流图的最小割,对具有广播修复的无线分布式存储系统的存储容量进行了基础性研究。存储效率和修复传输带宽之间的基本权衡也得到功能修复。广播修复的性能进行了比较分析和数值与合作修复,有线分布式存储系统的多节点故障的基本修复方法。虽然合作修复是基于允许新来者交换数据包的想法,但广播修复是基于允许帮助者同时向所有新来者广播数据包的想法。我们发现,广播修复优于合作修复,提供了更好的存储效率和修复传输带宽之间的权衡。
2017-07-06 cs.IT math.IT
Secure Determinant Codes for Distributed Storage Systems
研究了以$(n,k=d,d,\ell)$为参数的分布式存储系统信息论安全精确修复再生码。我们考虑分布式存储系统的$n$节点,其中的原始数据可以从任何子集的$k=d$节点恢复,和任何节点的内容可以从任何$d$助手节点检索。此外,我们考虑两个保密约束,即,类型I,其中的消息仍然是安全的,对窃听者访问的任何子集的内容多达$\ell$节点,和类型II,其中的消息仍然是安全的,对窃听者谁可以观察到传入的修复数据从所有可能的节点到一个固定的,但未知的子集多达$\ell$受损的节点。本文提出了两类安全的行列式码,它们分别适用于第一类和第二类保密约束。每一个建议的代码可以被设计为每个节点的存储容量和修复带宽的任何系统参数的范围。它们导致了两个可实现的保密权衡,即类型I和类型II安全性。
2022-12-30 cs.CR cs.DC cs.IT
Robust Dynamic Coded Distributed Storage with Partially Storage Constrained Servers
School of Artificial Intelligence, Beijing University of Posts and Telecommunications(北京邮电大学人工智能学院)
针对N台服务器中S台存储容量限制为消息大小1/K_c的部分存储受限场景,本工作基于已有逆命题和可达性方案提出新逆命题与编码设计,完全刻画了鲁棒动态编码分布式存储的基本极限。
2025-11-11 cs.IT math.IT
Multi-Version Coding - An Information Theoretic Perspective of Consistent Distributed Storage
在分布式存储系统到分布式计算的应用和键值存储的实现中,以下属性(通常在计算机科学和工程中被称为一致性)是重要的要求:随着存储的数据改变,数据的最新版本必须可由连接到存储系统的客户端访问。为了研究一致性分布式存储系统的存储代价,本文引入了一种信息论的多版本编码方法。多版本编码的特征在于消息的ν个全序版本和具有n个服务器的存储系统。在每个服务器处,接收并编码对应于v个版本的任意子集的值。对于存储系统中的c服务器的任何子集,与c服务器中的最新公共版本或根据总排序的更高版本相对应的值需要是可解码的。通过线性编码和一个相反的结果,表明该结构是近似紧的,提供了一个可实现的多版本码的结构。相反的含义是,在存储成本方面,为了确保分布式存储系统的一致性,存在不可避免的代价。
2015-10-19 cs.IT math.IT
Private Information Retrieval in Distributed Storage Systems Using an Arbitrary Linear Code
我们提出了一个信息理论的私人信息检索(PIR)计划的分布式存储系统中的数据存储使用的线性系统码的速率$R > 1/2$。该方案概括了PIR计划存储的数据使用最大距离可分离的代码最近提出的Tajeddine和El Rouayheb的情况下,一个间谍节点。我们进一步提出了一种算法,以优化隐私的通信价格(cPoP)使用的结构的底层线性代码。作为一个例子,我们将所提出的算法应用到几个分布式存储代码,表明cPoP可以显着减少利用分布式存储代码的结构。
2017-05-30 cs.IT math.IT
Codes for distributed storage from 3-regular graphs
本文认为,分布式存储系统(DSS)从图论的角度来看。通过将一个3-正则图分解为P4路,构造了一个决策支持系统。路径表示DSS的磁盘,图的边充当存储块。我们从一个相关的图中推导出DSS的性质,并证明了它们的最优性。
2016-09-30 cs.IT math.CO math.IT
Space-Time Storage Codes for Wireless Distributed Storage Systems
分布式存储系统(DSS)最近获得了很大的兴趣,这要归功于与单设备存储相比的健壮性和可扩展性。大多数相关研究都只关注网络层。与此同时,用户的数量,例如,对等(P2P)和设备到设备(D2D)网络以及基于邻近的服务正在快速增长,并且用户的移动性被认为越来越重要。与现有文献相比,这激发了对无线分布式存储系统的物理层功能的研究。在本文中,我们采取的第一步保护存储修复传输的物理层错误时,传输发生在衰落信道。为此,我们引入了时空存储代码的概念,将网络层和物理层功能的各个方面结合在一起,从而实现跨层鲁棒性。它还指出,现有的空时码是太复杂的存储网络中使用时,所涉及的助手的数量大于接收天线的数量在新人或数据收集器,因此创建一个不太复杂的传输协议的要求。
2014-04-26 cs.IT math.IT
Multi-Rack Distributed Data Storage Networks
分布式存储网络中的大多数工作都假设一个简单的网络模型,其中包含一组相同的存储节点,节点之间具有相同的通信成本。在本文中,我们考虑了一个现实的多机架分布式数据存储网络,并提出了一个代码设计框架,这个模型。考虑到机架内的数据传输成本较低,我们的代码构造方法能够通过仅使用同一机架中幸存的节点来本地修复同一机架内的节点故障。然而,在严重故障模式的情况下,当幸存节点的信息内容不足以修复故障时,其他机架将参与修复过程。通过采用我们的多机架存储代码的标准,我们建立了一个线性规划约束的代码的大小,以最大限度地提高码率。
2019-03-08 cs.IT math.IT
A Fundamental Tradeoff Among Storage, Computation, and Communication for Distributed Computing over Star Network
编码分布式计算通过利用分布式计算中的编码技术,充分利用冗余的存储和计算资源,可以减轻通信负载。本文研究了星型拓扑网络上的MapReduce类型的分布式计算框架,其中所有工作者通过一个公共接入点交换信息。存储的文件(存储负载),计算的中间值(计算负载)和在上行链路和下行链路(通信负载)中发送的比特之间的最佳权衡的特征。提出了一种编码计算方案来实现Pareto最优折衷曲面,接入点只需在接收信号之间进行简单的链式编码,并给出了与该曲面匹配的信息理论界。
2023-01-10 cs.IT math.IT
Decentralized Minimum-Cost Repair for Distributed Storage Systems
已经出现了许多用于分布式存储系统的应用,无线传感器网络或云存储。由于无线传感器网络中的存储节点具有有限的电池,因此找到具有最优传输成本的修复方案(例如,能源)。最优费用修理最近已被集中研究。然而,集中式控制机制可能不可用或者非常昂贵。对于这些场景,研究分散设置中的最优成本修复是很有趣的。我们制定的最佳成本修复凸优化问题的网络凸传输成本。然后,我们使用原始和对偶分解的方法来解耦的子问题进行局部求解。因此,每个幸存的节点,与其他节点合作,可以使其传输成本最小化,从而使全局成本最小化。我们进一步研究了算法的最优性和收敛性。最后,我们讨论了码的构造和确定域的大小,以找到可行的网络码在我们的方法。
2013-01-30 cs.DC cs.IT math.IT
Non-homogeneous distributed storage systems
本文描述了一种非同构分布式存储系统,其中存在一个超级节点,该超级节点具有比其他存储节点更大的存储容量和更高的可靠性和可用性。我们提出了三个分布式存储方案的基础上(k+2; k)的最大距离可分离(MDS)码和非MDS码的效率,这样的非同质DSS的修复效率和数据可用性。我们的计划达到最佳带宽(k+1/2)(M/k)时,修复1节点故障,但只需要四分之一的最小所需的文件大小,并可以与一个较小的字段大小,导致显着降低复杂性比传统的同构DSS。此外,与非MDS码,我们的计划可以实现更小的修复带宽的M/2k。最后,我们表明,我们的计划可以增加10%的数据可用性比传统的同质DSS计划。
2012-08-10 cs.IT math.IT
Coded Caching with Distributed Storage
内容分发网络存储分布在多个服务器上的信息,以便在节点或磁盘故障的情况下平衡负载并避免不可恢复的损失。编码缓存已被证明是一种有用的技术,它可以通过在终端用户处预取流行内容并对传输进行编码来降低峰值流量速率,使得不同的用户可以从同一分组中提取不同的信息。一方面,分布式存储限制了将来自不同服务器的内容组合到单个消息中的能力,导致编码缓存方案的性能损失。但是,另一方面,存在于分布式存储系统中的固有冗余可以通过并行来提高这些方案的性能。本文设计了一个方案相结合的分布式存储的内容在多个服务器和一个有效的编码缓存算法交付给用户。该方案被证明是降低峰值传输速率低于国家的最先进的算法。
2016-11-20 cs.IT math.IT
Capacity of Clustered Distributed Storage
提出了一种新的反映分布式存储集群结构的系统模型,研究了存储节点故障时存储开销和修复带宽之间的相互作用。具有多个机架/磁盘或存储设备的本地网络(例如传感器网络)的大型数据中心是所建议的集群模型的良好应用。在涉及集群存储结构的实际场景中,使用驻留在其他集群中的完整节点来修复存储节点比基于来自集群内节点的信息来恢复节点更消耗带宽。因此,在分布式存储建模中区分集群内修复带宽和跨集群修复带宽是很重要的。该模型的容量是分布式存储系统基本资源的函数,即节点存储容量、簇内修复带宽和跨簇修复带宽。容量被证明是渐近等价于一个单调递减函数的集群数量,存储节点的数量增加没有限制。基于容量表达式,在一个封闭的形式的解决方案,使可靠的存储所需的资源的可行的集合。具体地,示出了跨集群流量可以被最小化为零(即,集群内本地修复成为可能)。将具有零跨簇通信量的网络编码方案定义为簇内可修码,它是一类已有的局部可修码。
2018-05-01 cs.IT math.IT
Distributed Storage Allocations for Neighborhood-based Data Access
我们介绍了一个基于邻域的数据访问模型的分布式编码存储分配。存储节点连接在一个通用网络中,数据在本地访问:用户访问随机选择的存储节点,随后查询其邻域以恢复数据对象。我们的目标是找到一个最佳的分配,最大限度地减少整体存储预算,同时确保恢复概率为1。我们发现,这个问题减少到寻找分数支配集的底层网络。此外,我们开发了一个完全分布式的算法,每个存储节点只与它的邻居进行通信,以找到它的最佳存储分配。该算法是基于最近提出的邻近中心方法-一种有效的对偶分解加速对偶梯度法的基础上。我们表明,我们的算法实现了$(1+ε)$ -近似比在$O(d_{\mathrm{max}}^{3/2}/ε)$迭代和每个节点的通信,其中$d_{\mathrm{max}}$是跨节点的最大程度。仿真结果表明了该算法的有效性。
2014-11-11 cs.IT math.IT
GDSP: A Graphical Perspective on the Distributed Storage Systems
经典的分布式存储问题可以用一个k-一致{ \it complete}超图来建模,其中顶点表示服务器,超边表示用户.因此,每个超边缘应该能够恢复完整的文件只使用与之相关的顶点的记忆。本文认为这个问题的推广{ \it任意}超图和多个文件的情况下,每个用户只感兴趣的一个,我们将称为图形分布式存储问题(GDSP)的问题。具体而言,我们取得的进展,在分析的最小存储代码的两个主要的子问题的GDSP扩展的经典模型在两个独立的方向:的情况下,任意图与多个文件,和一个任意的超图与一个文件。
2017-02-15 cs.IT math.IT