Fundamental Limits of Coded Caching: Improved Delivery Rate-Cache Capacity Trade-off
一个集中式编码缓存系统,包括一个服务器提供N个流行的文件,每个大小F位,K个用户通过一个无错误的共享链接,被认为是。假设每个用户都配备有具有容量MF位的本地高速缓存存储器,并且内容可以在低流量时段内主动地高速缓存到这些高速缓存中;然而,无需了解用户需求。在流量高峰期,每个用户从服务器请求单个文件。目标是在所有用户需求组合中,最小化服务器在共享链路上传输的比特数(称为传输速率)。提出了一种新的缓存容量为M=(N-1)/K的编码缓存方案。当K > N >= 3时,该方案比文献中已有的编码缓存方案具有更小的传输速率。此外,我们认为,所提出的方案的交付率是在一个常数乘法因子2的最佳交付率的缓存容量1/K <= M <=(N-1)/K,当K > N >= 3。
2016-12-13 cs.IT math.IT
Combinatorial Multi-Access Coded Caching: Improved Rate-Memory Trade-off with Coded Placement
本文针对组合多接入编码缓存问题,提出两种基于MDS码编码放置的缓存方案,分别在高内存和低内存区域优于未编码放置最优方案,并推导信息论下界证明其最优性或常数因子近似最优。
2024-01-17 cs.IT math.IT
Improved Converses and Gap Results for Coded Caching
改进的下界的平均值和最坏情况下的速率内存权衡的Maddah-Ali&Niesen编码的缓存方案。对于任意数量的用户和文件以及任意的缓存大小,在最坏情况下,精确的速率-内存折衷与新的下限之间的乘法差距小于2.315,在平均情况下小于2.507。
2020-01-21 cs.IT math.IT
The Exact Load-Memory Tradeoff of Multi-Access Coded Caching With Combinatorial Topology
最近,Muralidhar等人提出了一种新颖的多访问系统模型,其中每个用户以遵循组合网络的众所周知的组合拓扑的方式连接到多个缓存。对于这种多访问拓扑,同一作者提出了一种可实现的方案,即使在非常适度的缓存资源下,也能获得前所未有的编码增益。在本文中,我们确定了这种具有特殊潜力的多路访问设置的基本限制,提供了一个信息理论的逆,该逆与Muralidhar等人的内界一起建立,在未编码预取下的确切最佳性能。
2022-02-07 cs.IT math.IT
An Improved Lower Bound for Multi-Access Coded Caching
被认为是与$N$文件,$K$用户和$K$高速缓存,其中每个用户都可以访问$L$相邻的高速缓存的方式,编码的高速缓存问题的多访问变体。基于割集的最优速率-存储器权衡的多访问编码缓存(MACC)计划的下限。此外,一个改进的下界上的最佳速率存储器权衡的MACC计划推导出使用非割集参数。改进的下界比以前已知的相同设置的下界更紧。
2022-01-22 cs.IT math.IT
A Storage-Computation-Communication Tradeoff for Distributed Computing
本文研究了分布式计算系统,其中计算被分成“映射”和“减少”功能。提出了一种新的编码方案,称为分布式计算和编码通信(D3 C),并分析了其通信负载与可用存储空间和待计算中间值数目(IVA)的关系。对于给定的存储空间,D3 C实现了最小可能的通信负载,而与Li等人相比,需要计算的IVA数量更少。的编码分布式计算(CDC)方案。更一般地说,我们的方案可以在存储空间和要计算的IVA数量之间灵活地进行权衡。然后针对任何给定的折衷来分析通信负载。
2020-01-21 cs.IT math.IT
Improved Characterization of the Memory-Rate Tradeoff for Demand-Private Coded Caching With Multiple Demands
School of Information Science and Engineering, Southeast University(东南大学信息科学与工程学院);National Mobile Communications Research Laboratory, Southeast University(东南大学移动通信国家重点实验室)
研究在隐私约束下实现按需编码缓存,提出新方案以处理任意数量的文件和用户,通过非隐私方案转换并证明方案在因子6内最优。
2026-10-06 cs.IT math.IT
A Non-Orthogonal Distributed Space-Time Coded Protocol Part II-Code Construction and DM-G Tradeoff
这是两部分系列论文的第二部分。本文针对第一部分提出的广义非正交放大转发(GNAF)协议,提出了一种新的基于坐标交织正交设计(CIOD)的分布式空时码族的构造方法,从而降低了目的端的最大似然(ML)译码复杂度。此外,它建立了最近提出的Toeplitz空时码,以及空时分组码(STBC)的循环划分代数可以在GNAF协议中使用。最后,GNAF协议的最佳分集复用增益(DM-G)的折衷的下界的建立,它表明,这个界渐近地接近发射分集界的中继的数量和信道使用的数量的增加。
2006-10-29 cs.IT math.IT
Performance-Complexity-Latency Trade-offs of Concatenated RS-SDBCH Codes
本文研究AWGN信道下码率0.88的级联RS-SDBCH码在PAM4调制中的性能、复杂度与延迟权衡,并给出相关曲线。
2024-10-21 cs.IT math.IT
On the Optimal Memory-Load Tradeoff of Coded Caching for Location-Based Content
在无线边缘节点进行缓存是提高空间和频谱效率的一种有效方法,可以减轻网络中与内容相关的流量。最初由Maddah-Ali和Niesen引入的编码缓存通过同时传输对多个用户有用的多播消息来显著加快通信效率。大多数编码缓存的工作都是基于这样的假设,即每个用户都可以请求库中的所有内容。然而,在许多应用中,用户仅对取决于其位置的有限的内容集感兴趣。出于这些考虑,本文阐述了具有边缘缓存节点的基于位置的内容的编码缓存问题。所考虑的问题包括具有对基于$N$位置的文件(例如,高清地图)、位于不同区域的$K$边缘缓存节点和$K$用户(即,车辆),其中每一个都在一个高速缓存节点的服务区域中,并且可以以可忽略的成本检索该高速缓存节点的高速缓存内容。根据位置的不同,每个用户仅从库的位置相关子集中请求文件。目的是最大限度地减少最差情况下的载荷。对于这种新的编码缓存问题,我们提出了一个高度非平凡的逆约束下未编码的缓存放置,这表明一个简单的可实现的计划是最佳的未编码的缓存放置。此外,还证明了该方案在$3$因子内是一般阶最优的.最后,我们将基于位置的内容的编码缓存问题扩展到最初由Hachem等人提出的多路访问编码缓存拓扑,其中每个用户连接到最近的高速缓存节点$L$。当$L \geq 2$时,我们描述了最坏情况下负载的精确最优性。
2022-03-17 cs.IT math.IT
Subpacketization-Rate Trade-off in Multi-Antenna Coded Caching
编码高速缓存可以通过将编码数据块多播波束成形到仔细选择的用户组并使用用户高速缓存中的现有文件片段来解码每个用户处的期望文件而应用于无线多天线通信中。然而,一个文件应该被分割成的数据包的数量(称为子包化)随着网络规模呈指数级增长。我们提供了一个新的方案,它使子分组化的水平,根据基本的网络参数,如天线和用户数之间的一组预定义的值自由选择。一个简单的效率指数也提出了在不同的子分组化水平的性能指标。数值例子表明,较大的子分组通常会导致更好的效率指数和更高的对称速率,而较小的子分组会导致可达速率的显着损失。这实现了更高效的缓存方案,适合于可用的计算和功率资源。
2019-05-10 cs.IT cs.NI math.IT
A Unified Coding Framework for Distributed Computing with Straggling Servers
通过对一些线性计算任务在“计算延迟”和“通信负载”之间进行权衡,提出了一种适用于离散服务器的分布式计算的统一编码框架。我们表明,[1]-[3]的编码方案重复中间计算以创建编码多播机会以减少通信负载,[4],[5]的编码方案生成冗余中间计算以对抗离散服务器可以被视为所提出的框架的特殊实例,通过考虑这种权衡的两个极端:从而分别最小化通信负载或计算等待时间。此外,通过所提出的编码框架实现的延迟-负载折衷允许在该折衷上的任何点处系统地操作以执行分布式计算任务。我们还证明了延迟负载的权衡,这是一个恒定的乘法差距内实现的权衡在两个端点的信息理论下限。
2016-09-06 cs.DC cs.IT math.IT
Diversity, Coding, and Multiplexing Trade-Off of Network-Coded Cooperative Wireless Networks
本文研究了网络编码协作分集系统在实际通信约束条件下的性能。更具体地说,我们调查的分集,编码和复用增益之间的相互作用时,中继节点不充当专用的中继器,只转发数据包发送的源,但他们试图追求自己的利益,转发包含网络编码版本的接收和自己的数据包。我们提供了一个非常准确的分析的平均比特错误概率(ABEP)的两个网络拓扑结构与三个和四个节点,当实际的通信约束,即,考虑中继器处的错误解码和所有无线链路上的衰落。进一步研究了分集和编码增益,指出了协作和二进制网络编码的优缺点。我们的研究结果表明,通过NC引入的吞吐量增加是抵消了多样性和编码增益的损失。它示出,既没有编码,也没有分集增益的源节点时,中继转发网络编码版本的接收和自己的数据。与文献中的其他结果相比,结论是,二进制NC似乎是更有用的中继节点只代表源节点,并不混合自己的数据包接收的。分析推导和调查结果证实通过广泛的蒙特卡罗模拟。
2012-03-12 cs.IT math.IT
Computer-aided Characterization of Fundamental Limits of Coded Caching with Linear Coding
University of Illinois Chicago(伊利诺伊大学芝加哥分校);Politecnico di Milano(米兰理工大学)
本文提出一种计算机辅助框架,用于在线性编码约束下表征缓存系统的根本极限,并证明了某些内存-负载权衡点的最优性。
2025-11-24 cs.IT math.IT
Compressed Coded Distributed Computing
通信开销是大规模分布式计算系统中的主要性能瓶颈之一,特别是对于机器学习应用。传统上,压缩技术用于通过尽可能多地组合相同计算任务的中间结果来减少通信的负荷。最近,通过编码的分布式计算(CDC)的发展,已经表明,可以实现跨不同计算任务的中间结果的编码机会,以进一步减少通信负载。我们提出了一个新的方案,命名为压缩编码分布式计算(简称压缩CDC),它联合利用上述两种技术(即,组合相同计算的中间结果并对不同计算的中间结果进行编码)以显著地减少在机器学习中普遍存在的具有最终阶段中的中间结果的线性聚集(约简)的计算的通信负载(例如,分布式训练算法,其中部分梯度被分布式地计算,然后在最后阶段被平均)。具体地,压缩CDC首先压缩/组合用于单个计算的若干中间结果,然后利用多个这样的组合分组来创建同时对多个计算有用的编码多播分组。我们的特点,可实现的压缩CDC的通信负载,并表明,它大大优于合并方法和CDC计划。
2018-05-05 cs.DC cs.IT math.IT
New optimal trade-off point for coded caching systems with limited cache size
本文为缓存大小受限的编码缓存系统提出一种基于线性编码放置和三阶段传输的最优可实现方案,并证明其在特定参数范围内达到最优负载。
2024-06-10 cs.IT math.IT
Correlation-Aware Distributed Caching and Coded Delivery
高速缓存辅助编码多播利用边信息在无线边缘高速缓存,以有效地服务于多个组播需求,通过共同的多播传输,导致负载减少,是成比例的聚合高速缓存大小。然而,用户消费的内容的日益不可预测和个性化的性质对现有的基于缓存的解决方案的效率提出了挑战,在现有的基于缓存的解决方案中,仅探索精确的内容重用。本文将高速缓存辅助编码组播问题推广到一个源压缩与分布式边信息的问题,特别是占内容文件之间的相关性。它示出了如何在缓存和交付阶段的联合文件压缩可以提供超出现有方案实现的负载减少。这是通过一个基本的速率-内存权衡的下限,以及相关性感知可实现的方案,显着优于最先进的相关性不知道的解决方案,同时接近限制速率-内存权衡。
2016-09-19 cs.IT math.IT
Lifting Constructions of PDAs for Coded Caching with Linear Subpacketization
编码缓存是一种利用多播和编码机会在缓存网络中实现更好的速率-内存权衡的技术。编码缓存中的一个关键参数是子包化,即文件为了编码而被分割成的部分的数量。原始的Maddah-Ali-Niesen方案在子分组化时具有随着用户数量呈指数增长的阶最优速率。相比之下,使用放置交付阵列(PDA)设计的编码缓存中的放置和交付方案可以具有线性子分组化,并在速率上具有惩罚。在这项工作中,我们提出了几个建设有效的PDA,通过提升,其中一个基地PDA是扩大取代每个条目由另一个PDA。通过提出并使用Blackburn兼容PDA的概念,我们提供了多个提升结构,增加编码增益。我们比较了构建的编码缓存方案与其他现有的计划,适度高数量的用户,并表明所提出的建设是通用的,并实现了良好的速率-内存权衡在低subpacketizations。
2022-04-05 cs.IT math.IT
Cascaded Coded Distributed Computing on Heterogeneous Networks
Li等人在2015年提出的编码分布式计算(CDC)提供了一种有效的方法来交易计算能力,以减少MapReduce等一般分布式计算框架中的通信负载。对于更一般的级联CDC,在$r$节点处重复Map计算,以显著减少负责计算$Q$ Reduce函数的节点之间的通信负载$s$时间。虽然提出了一种可实现的级联CDC方案,但它仅适用于同构网络,其中每个计算节点的存储,计算负载和通信负载是相同的。在本文中,我们提出了一种新的组合设计,在异构网络中的节点有不同的存储和计算能力,它可以解决这个限制。我们提供了一个分析表征的计算通信权衡,并表明它是最佳的一个常数因子内,可以优于国家的最先进的同质计划。
2019-01-23 cs.IT math.IT
Generalized Multivariate Polynomial Codes for Distributed Matrix-Matrix Multiplication
本文提出两种支持任意矩阵划分的多元多项式编码方案,用于分布式矩阵-矩阵乘法,在计算时延与通信成本之间取得比单变量方案更优的权衡。
2024-11-22 cs.IT math.IT
A Fundamental Tradeoff Among Storage, Computation, and Communication for Distributed Computing over Star Network
编码分布式计算通过利用分布式计算中的编码技术,充分利用冗余的存储和计算资源,可以减轻通信负载。本文研究了星型拓扑网络上的MapReduce类型的分布式计算框架,其中所有工作者通过一个公共接入点交换信息。存储的文件(存储负载),计算的中间值(计算负载)和在上行链路和下行链路(通信负载)中发送的比特之间的最佳权衡的特征。提出了一种编码计算方案来实现Pareto最优折衷曲面,接入点只需在接收信号之间进行简单的链式编码,并给出了与该曲面匹配的信息理论界。
2023-01-10 cs.IT math.IT
A Coded Caching Scheme with Linear Sub-packetization and its Application to Multi-Access Coded Caching
针对集中式编码缓存系统中子分组数随用户数呈指数增长的问题,提出了一种新的编码缓存方案,该方案受对称相邻连续边信息索引编码问题的启发.该计划有一个放置策略,其中所需的子数据包的数量只与用户的数量线性增长,没有限制的文件大小,和一个交付政策,这是即时解码。此外,新的交付计划中的多访问编码缓存设置的应用进行了研究,并在该方向上的一些结果。特别是,在多路访问设置中,对于最优速率-存储器权衡特性可用的情况下,它示出了新的交付方案实现最优或接近最优速率。
2020-09-23 cs.IT math.IT
Multi-Server Coded Caching
在本文中,我们考虑多个缓存启用客户端连接到多个服务器通过中间网络。我们设计了几个拓扑感知的编码策略,这样的网络。基于中间网络的拓扑丰富性和内部节点的编码操作类型,我们定义了三类网络,即专用网络、灵活网络和线性网络。对于每一类,我们提出了一个可实现的编码方案,分析其编码延迟,并与信息论的下界进行了比较。对于灵活的网络,我们表明,我们的计划是为了最佳的编码延迟,有趣的是,最佳的记忆延迟曲线在某些制度。在一般情况下,我们的研究结果表明,在网络中有多个服务器的情况下,网络拓扑类型可以被利用,以减少服务延迟。
2015-03-01 cs.IT math.IT
On the Optimality of Coded Distributed Computing for Ring Networks
ShanghaiTech University(上海科技大学);Guangxi Normal University(广西师范大学);Huazhong University of Science and Technology(华中科技大学);University of Science and Technology Beijing(北京科技大学)
该研究提出了一种基于环形网络的编码分布式计算方案,通过利用环形拓扑和冗余计算,优化通信负载和广播距离的权衡,证明在环形网络中冗余计算可减少通信负载,而广播距离可提升效率。
2026-03-05 cs.IT math.IT
On the Delay-Storage Trade-off in Content Download from Coded Distributed Storage Systems
在本文中,我们研究如何在分布式存储编码减少预期的下载时间,除了提供可靠性对磁盘故障。预期的下载时间减少了,因为当内容文件被编码以增加冗余并分布在多个磁盘上时,仅读取磁盘的子集就足以重建内容。对于相同的总存储量,编码比简单的复制更好地利用了存储的多样性,因此提供了更快的下载。我们使用一种新的fork-join排队框架来模拟多个用户同时请求内容,并推导出预期下载时间的界限。我们的系统模型和结果是一个新的一般化的fork-join系统,研究排队论文献。我们的研究结果表明,预期的下载时间和存储空间的量之间的基本权衡。这种权衡可以用于设计满足内容传递的延迟约束所需的冗余量。
2013-12-18 cs.DC cs.IT cs.PF
Coded Distributed Computing with Heterogeneous Function Assignments
编码分布式计算(CDC)是由Li等人提出的。是在MapReduce框架中用计算负载交换通信负载的有效技术。CDC通过在$r$计算节点处复制映射计算以产生多播机会来实现最优折衷,使得在混洗阶段中同时服务$r$节点。然而,在一般情况下,国家的最先进的CDC计划主要是专为同构网络,其中的计算节点被假定为具有相同的存储,计算和通信能力。在这项工作中,我们探索了两种新的方法,异构CDC设计。首先,我们研究CDC计划,多个,协作同构计算网络上运行。其次,我们允许异构功能分配在CDC设计,其中节点被分配不同数量的减少功能。最后,我们提出了一个可扩展的异构CDC计划,其中$r-1$节点同时在洗牌阶段。在比较的国家的最先进的同质CDC计划具有同等的计算负载,我们发现我们新提出的异构CDC计划在某些情况下有一个较小的通信负载。
2019-03-01 cs.IT math.IT
Generalized Lagrange Coded Computing: A Flexible Computation-Communication Tradeoff for Resilient, Secure, and Private Computation
Southwest Jiaotong University(西南交通大学);Southeast University(东南大学);The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))
针对分布式计算中任意多元多项式评估,提出广义拉格朗日编码计算(GLCC)码,同时实现弹性、安全和隐私,并较LCC码在训练时间上加速达2.5-3.9倍。
2024-11-06 cs.IT cs.LG math.IT
New Order-Optimal Decentralized Coded Caching Schemes with Good Performance in the Finite File Size Regime
Maddah-Ali和Niesen提出了一种基于独立随机内容放置的分散编码缓存方案,并已被证明在文件大小达到无穷大时实现了顺序最优的内存负载权衡。然后,Shanmugam等人相继表明,在文件大小有限的实际操作制度中,这种方案产生的负载增益要小得多。在本文中,我们提出了一个分散的随机编码缓存方案和一个部分分散的顺序编码缓存方案,在内容放置阶段具有不同的协调要求。建议的内容放置和交付方法的目的是确保丰富的编码组播的机会,在内容交付阶段时,文件大小是有限的。我们首先分析了这两个计划的负载,并表明顺序计划优于随机计划在有限的文件大小制度。我们还表明,我们提出的方案优于Maddah-Ali-Niesen和Shanmugam等人。的分散计划有限的文件大小,当用户数量足够大。然后,我们表明,我们的计划实现了相同的内存负载权衡Maddah-Ali-Niesen的分散计划时,文件大小趋于无穷大,因此也是为了最优的。最后,我们分析了这两种方案的负载增益,并描述了相应的所需的文件大小。
2017-01-10 cs.IT math.IT
A Fundamental Storage-Communication Tradeoff for Distributed Computing with Straggling Nodes
用于分布式计算的放置交付阵列(Comp-PDA)最近被提出作为用于为类MapReduce系统构造通用计算方案的框架。在这项工作中,我们将这一概念扩展到具有离散节点的系统,即,涉及其中节点的子集不能在适当的时间内完成所分配的MAP计算的系统。与以往的大多数工作,专注于计算线性函数,我们的结果是通用的,适用于任意映射和减少功能。我们的贡献如下。首先,我们展示了如何构建一个通用的编码计算方案MapReduce类系统与离散节点从任何给定的Comp-PDA。我们还描述了所产生的方案的Comp-PDA参数的存储和通信负载。然后,我们证明了一个信息理论的逆界的存储通信(SC)的折衷实现的通用计算计划离散节点。我们表明,信息理论界匹配的编码计算方案与离散节点对应的Maddah-Ali和Niesen(MAN)PDA,即,到描述Maddah-Ali和Niesen的编码缓存方案的Comp-PDA。有趣的是,相同的Comp-PDA(MAN-PDA)对于任何数量的离散节点都是最优的,这意味着最优编码计算方案的映射阶段不需要适应系统中离散节点的数量。我们最后证明,虽然点,完全躺在基本的SC权衡不能实现与Comp-PDA,需要更少的文件数量比MAN-PDA,这是可能的一些点,靠近SC的权衡。对于后面的这些点,所请求的文件数量的减少可以是系统节点数量的指数。
2020-04-27 cs.IT math.IT
Heterogeneous Coded Distributed Computing: Joint Design of File Allocation and Function Assignment
研究了异构MapReduce计算系统中计算与通信的折衷问题,其中每个分布式节点具有不同的计算能力.我们首先获得一个可实现的通信负载为任何给定的计算负载和任何给定的功能分配在每个节点。建议的文件分配策略有两个步骤:首先,输入文件被划分成不相交的批次,每个可能具有不同的大小和计算的一个不同的节点,然后,每个节点计算额外的文件从其非计算文件根据其冗余计算能力。在Shuffle阶段中,由于不同节点之间的重复文件分配,利用了编码的多播机会。在此基础上,我们进一步提出了计算感知和混洗感知的函数分配。我们证明,通过使用适当的功能分配,我们可实现的通信负载为任何给定的计算负载是在一个恒定的乘法间隙内的最佳等效均匀系统具有相同的平均计算负载。数值结果表明,我们的方案与洗牌意识的功能分配实现了更好的计算-通信权衡比现有的作品在某些情况下。
2019-08-19 cs.IT math.IT
Coded Caching for Heterogeneous Systems: An Optimization Perspective
在高速缓存辅助网络中,服务器在低流量期间在用户处填充高速缓存存储器,以便在高峰流量时间期间减少递送负载。反过来,在服务器上的传递负载和用户处的缓存大小之间存在基本的权衡。在本文中,我们研究这种权衡在多播网络中的服务器连接到用户具有不平等的缓存大小和用户的数量小于或等于库文件的数量。我们提出了集中式未编码的位置和线性交付计划,通过求解线性规划进行优化。此外,我们推导出一个下限的交付内存的权衡与未编码的位置,占高速缓存大小的异质性。我们明确地描述这种权衡的情况下,三个最终用户,以及任意数量的最终用户时,在用户的总内存大小是小的,当它是大的。接下来,我们考虑一个系统,其中服务器通过不同容量的速率受限链路连接到用户,并且服务器根据总缓存预算分配用户的缓存大小。我们的特点是最佳的缓存大小,最大限度地减少交付完成时间与未编码的放置和线性交付。特别是,最佳的内存分配之间的平衡分配较大的高速缓存大小的用户与低容量的链接和统一的内存分配。
2019-03-13 cs.IT math.IT
Distributed and Private Coded Matrix Computation with Flexible Communication Load
张量运算,如矩阵乘法,是大规模机器学习应用的核心。对于用户驱动的任务,这些操作可以在分布式计算平台上执行,其中主服务器位于用户侧,并且云中的多个工作者并行操作。对于分布式平台,最近已经表明,对输入数据矩阵进行编码可以减少计算延迟,从而在恢复阈值和通信负载之间进行权衡。在本文中,我们施加额外的安全约束的数据矩阵,并假设工人可以合谋窃听这些数据矩阵的内容。具体来说,我们引入了一类新的安全代码,称为安全广义PolyDot码,概括了以前发表的非安全版本的矩阵乘法这些代码。这些代码扩展了国家的最先进的,允许一个灵活的恢复阈值和通信负载之间的权衡为一个固定的最大数目的串通工人。
2019-01-23 cs.IT math.IT
Fundamental Limits of Coded Caching with Fixed Subpacketization
Key Lab of Education Blockchain and Intelligent Technology, Ministry of Education(教育部教育区块链与智能技术重点实验室);Guangxi Key Lab of Multi-source Information Mining & Security, Guangxi Normal University(广西师范大学多源信息挖掘与安全重点实验室);School of Science, Guilin University of Aerospace Technology(桂林航天工业学院理学院);School of Information Science and Technology, ShanghaiTech University(上海科技大学信息科学与技术学院)
本文针对固定子分包化水平下的编码缓存,提出传输负载的通用下界,并证明分区方案可实现最优速率-子分包化权衡。
2025-10-25 cs.IT math.IT
Rate-Distortion-Memory Trade-offs in Heterogeneous Caching Networks
无线边缘的缓存可用于满足对高清无线视频流日益增长的需求。通过将流行内容预取到无线接入点或最终用户设备的内存中,可以在本地服务请求,从而减轻昂贵回程的压力。此外,使用网络编码允许通过共同编码的多播传输同时服务不同的高速缓存未命中,从而导致与传统递送方案相比显著更大的负载减少。大多数先前的作品只是将视频内容视为用户想要完全下载的固定大小的文件。这项工作的动机是这样一个事实,即视频可以以可伸缩的方式编码,解码视频质量取决于用户顺序接收的层的数量。使用高斯源模型,缓存和编码的交付方法被设计成最小化在速率受限的缓存网络中的最终用户设备处的平方误差失真。该框架非常通用,并考虑了异构缓存大小,视频流行度和用户文件播放质量。作为解决方案的一部分,提出了一种新的分散式方案,用于预先设定的用户失真目标的有损缓存辅助交付,该方案进一步将现有文献推广到具有文件异构性的设置。
2019-12-01 cs.IT math.IT
Topological Coded Distributed Computing
本文考虑了最初由Li等人提出的类似MapReduce的编码分布式计算框架,其在分布式计算服务器交换其计算的中间值时使用编码技术,以便减少总业务负载。他们的原始模型服务器通过允许广播传输的无错误公共通信总线连接。然而,这种假设是实践中的主要限制之一,因为实际的云计算网络拓扑比简单的单个总线涉及更多。我们建立了一个拓扑编码的分布式计算问题,其中分布式服务器之间通过交换网络进行通信。通过使用一种特殊的胖树拓扑结构,称为t元胖树由Al-Fares等人提出的,它可以由一些廉价的交换机,我们提出了一种编码的分布式计算方案,以实现最小的最大链路通信负载定义为所有链路上的最大负载。
2020-04-09 cs.IT math.IT
A Fundamental Tradeoff between Computation and Communication in Distributed Computing
我们如何以最佳方式交换额外的计算能力,以减少分布式计算中的通信负载?我们通过描述分布式计算中计算和通信之间的基本权衡来回答这个问题,即,两者成反比。更具体地说,一般的分布式计算框架,被认为是由常用的结构,如MapReduce,其中的整体计算被分解成计算一组“映射”和“减少”功能分布在多个计算节点。提出了一种名为“编码分布式计算“(CDC)的编码方案,以证明将Map函数的计算负载增加$r$的因子(即,在$r$仔细选择的节点处评估每一函数)可产生新颖的编码机会,所述编码机会将通信负载减少相同因子。还提供了一个信息理论上的通信负载的下限,它匹配的CDC计划实现的通信负载。结果,准确地描述了分布式计算中的最优计算-通信权衡。最后,CDC的编码技术应用于Hadoop TeraSort基准开发一种新的CodedTeraSort算法,这是经验证明,以加快整体作业执行的$1.97\times$ - $3.39\times$,为典型的设置感兴趣。
2017-09-23 cs.DC cs.IT math.IT
Secure Coded Distributed Computing
本文研究分布式计算模型的安全数据混洗与安全编码计算问题,设计了确保中间值机密性的方法,并建立了通信与计算负载权衡的可达极限。
2024-04-26 cs.IT math.IT
A New Combinatorial Design of Coded Distributed Computing
Li等人在2015年提出的编码分布式计算是一种在MapReduce等一般分布式计算框架中交易计算能力以减少通信负载的有效方法。特别地,Li等人示出了将映射阶段中的计算负载增加$r$的因子可以创建编码的多播机会,以将缩减阶段中的通信负载减少相同的因子。然而,在实践中有两大局限性。首先,当计算节点的数量变大时,它需要指数级数量的输入文件(数据批)。其次,它迫使每个$s$计算节点计算一个Map函数,这导致需要大量的Map函数来实现所承诺的增益。在本文中,我们试图克服这两个限制,提出了一种新的编码分布式计算方法的基础上组合设计。我们证明,当计算节点的数量变得很大时,1)所提出的方法需要的输入文件的数量呈指数级减少; 2)所需的Map函数的数量也呈指数级减少。同时,所得到的计算-通信权衡保持乘法增益相比,传统的未编码的单播,并实现了信息理论的下界不对称的一些系统参数。
2018-02-12 cs.DC cs.IT math.IT
Rate-Memory Trade-off for Multi-access Coded Caching with Uncoded Placement
我们研究了一个多访问变体的流行的编码缓存框架,它包括一个中央服务器的目录的$N$文件,$K$缓存有限的内存$M$,和$K$用户,这样每个用户都可以访问$L$连续的缓存与循环环绕,并请求一个文件从中央服务器的目录。服务器通过在共享的无错误链路上传输大小为$R$的消息来协助文件传递,目标是表征最佳的速率-内存权衡。Hachem等人先前研究了这种设置,其中导出了可实现的速率和信息理论下限。然而,它们之间的乘法差距被证明与访问程度$L$成线性比例,因此无法建立顺序最优性。最近的一系列工作已经使用了一个自然的映射的编码缓存的问题,以著名的索引编码的问题,以获得更严格的表征的最佳速率-内存权衡的额外假设下,高速缓存存储未编码的内容。我们遵循类似的策略的多访问框架,并提供新的界限的最佳速率-内存权衡$R^*(M)$在所有未编码的布局政策。特别是,我们推导出一个新的可实现的速率为任何$L \ge 1$和一个新的下限,它适用于任何未编码的布局策略和$L \ge K/2$。然后,我们建立了新的可实现的速率和下限之间的(乘法)差距是最多$2$独立的所有参数,从而建立了一个顺序最优的表征$R^*(M)$的任何$L\ge K/2$。这是一个显着的改进,以前已知的差距的结果,虽然在未编码的放置政策的限制。最后,我们还描述了$R^*(M)$的几个特殊情况。
2020-03-07 cs.DC cs.IR cs.IT
On Optimal Load-Memory Tradeoff of Cache-Aided Scalar Linear Function Retrieval
编码缓存有可能通过利用终端用户设备中可用的廉价且丰富的存储来大大减少网络流量,从而在交付阶段创造多播机会。在Maddah-Ali和Niesen(MAN)的开创性工作中,制定了共享链接编码缓存问题,其中每个用户需要一个文件(即,单个文件检索)。本文将MAN问题推广到允许用户请求文件的标量线性函数。本文提出了一种新的编码交付计划,基于MAN未编码的缓存放置,被证明允许解码的文件(在任意有限域)的任意标量线性函数。有趣的是,相当令人惊讶的是,它表明,高速缓存辅助标量线性函数检索的负载取决于所需的线性独立函数的数量,类似于高速缓存辅助的单文件检索问题,其中负载取决于不同的文件请求的数量。所提出的方案是最佳的约束下的未编码的缓存放置,在最坏情况下的负载,否则在一个因素2。本文的主要思想可以扩展到所有的场景,原来的城域网方案已经扩展到,包括需求私有和/或设备到设备的设置。
2020-01-10 cs.IT math.IT
Coded Caching Schemes with Reduced Subpacketization from Linear Block Codes
编码缓存是一种技术,推广传统的缓存,并承诺在缓存网络流量显着减少。然而,基本的编码缓存方案要求服务器中托管的每个文件被划分为大量(即,子分组化级别)。从实际的角度来看,这是有问题的,因为这意味着先前的方案仅在文件的大小非常大时才适用。在这项工作中,我们提出了编码缓存方案的基础上组合结构称为可解析设计。这些结构可以以自然的方式从线性分组码中获得,线性分组码的生成矩阵具有一定的秩性质。我们得到几个方案的子分组化水平大大低于基本方案的成本增加的速率。取决于系统参数,我们的方法允许我们在子分组化级别与速率权衡的各个点上操作。
2018-02-19 cs.IT math.IT
Cascaded Coded Distributed Computing Schemes Based on Placement Delivery Arrays
Li { \it et al}.在MapReduce等通用分布式计算框架中,引入了编码的分布式计算(CDC)方案来降低通信负载。他们还提出了级联CDC方案,其中每个输出函数被多次计算,并证明了这种方案实现了计算负载和通信负载之间的基本权衡。然而,当计算节点的数量变大时,这些方案需要指数数量的输入文件和输出函数。本文利用布局传递阵列(PDAs)的结构,构造了无限多类级联CDC方案。我们还证明了在所有新方案中输出函数的数目只是计算节点数目的一个因子,并且在我们的新方案中输入文件的数目远小于Li { \it et al}导出的CDC方案中的输入文件的数目.
2021-11-24 cs.IT math.IT
A New Combinatorial Coded Design for Heterogeneous Distributed Computing
Li等人在2015年提出的编码分布式计算(CDC)提供了一种有效的方法来交易计算能力,以减少MapReduce和Spark等一般分布式计算框架中的通信负载。特别地,将映射阶段中的计算负载增加因子r可以创建编码的多播机会,以将混洗阶段中的通信负载减少相同的因子。然而,CDC方案是为同构设置而设计的,其中计算节点上的存储、计算负载和通信负载是相同的。此外,它需要一个指数级的大量输入文件(数据批次),减少功能和多播组相对于节点的数量,以实现承诺的收益。我们提出了一种新的CDC方法的基础上的组合设计,它适应异构网络的节点具有不同的存储和计算能力,解决了CDC的局限性。此外,所提出的方法需要一个指数级更少的输入文件的数量相比,李等人提出的原始CDC计划。同时,由此产生的计算通信权衡保持乘法增益相比,传统的未编码单播和渐近实现李等人提出的最佳性能。
2020-07-21 cs.DC cs.IT math.IT
On Coded Caching Systems with Offline Users
编码缓存是一种利用用户本地缓存的内容来减少网络高峰时间通信负载的技术。与未编码的缓存方案相比,编码缓存实现了显着的性能增益,因此是一种有前途的技术,以提高未来网络的性能。在由Maddah-Ali和Niesen(MAN)引入的原始模型中,服务器存储多个文件,并通过无错误的共享链接连接到多个缓存辅助用户;一旦本地缓存被填满,所有用户都将其需求发送到服务器,服务器就可以开始发送编码的组播消息以满足所有用户的需求。原始MAN模型的一个实际限制是,如果服务器没有接收到所有用户的请求,它会停止,这是异步编码缓存的极限情况下,当一些用户的请求到达无限延迟。在本文中,我们正式定义了一个编码缓存系统,其中一些用户是离线的。我们提出了可实现的和相反的界限,这种新的设置,并显示在哪些条件下,他们满足,从而提供了一个最佳的解决方案,当他们在一个恒定的乘法差距两个。有趣的是,当可以显示最优性时,最优的负载-内存权衡只取决于活动用户的数量,而不是用户的总数(活动加离线)。
2022-02-02 cs.IT math.IT
An Improved Multi-access Coded Caching with Uncoded Placement
在这项工作中,我们考虑一个轻微的变化,众所周知的编码缓存问题,称为多访问编码缓存问题,其中每个用户都可以访问$z$相邻的高速缓存在循环环绕的方式。针对这一问题,我们提出了一种在未编码布局约束下的布局和投递方案。我们的工作是B. Serbetci,E. Parrinello和P. Elia。更准确地说,当我们的计划是专门为$z=\frac{K-1}{K γ}$,对于任何$K γ$,其中$K$是用户的数量和$γ$是归一化的缓存大小,我们表明,我们的结果与他们的结果一致。我们表明,在这项工作中考虑的情况下,我们的方案优于K. S. Reddy和N. Karamchandani,除了该文件中考虑的一些特殊情况。我们还表明,对于$z= K-1$,我们的计划达到了最佳的传输速率。
2021-02-12 cs.IT math.IT
Rate-Memory Trade-off for the Two-User Broadcast Caching Network with Correlated Sources
本文研究了具有两个接收者和两个文件的网络中缓存的基本限制,该网络由具有任意联合分布的两分量离散无记忆源产生。每个接收器都配备了相同容量的高速缓存,并且所请求的文件通过共享的无错误广播链路传递。首先,提供了最佳峰值速率-存储器权衡的下限。然后,为了利用库文件之间的相关性来减轻共享链路上的负载,提出了一种两步相关性感知的缓存辅助编码多播(CACM)方案。第一步骤使用Gray-Wyner信源编码来通过一个公共描述和两个私有描述来表示库,使得第二不知道相关性的多请求CACM步骤可以利用出现的附加编码多播机会。结果表明,所提出的两步方案实现的速率匹配的一个显着的内存制度的下限,它是在所有其他内存值的条件熵的一半。
2017-05-12 cs.IT math.IT
Coded Distributed Computing with Partial Recovery
Imperial College London(帝国理工学院);University of Maryland(马里兰大学)
编码计算技术提供了对分布式计算中分散的工作者的鲁棒性。然而,大多数现有的计划需要精确的离散行为的规定,并忽略离散工人进行的计算。此外,这些方案通常被设计为准确地恢复期望的计算结果,而在许多机器学习和迭代优化算法中,已知更快的近似解导致总体收敛时间的改善。在本文中,我们首先介绍了一种新的编码矩阵向量乘法方案,称为编码计算与部分恢复(CCPR),它受益于编码和未编码的计算方案的优点,并通过允许的准确性和计算速度之间的权衡,降低了计算时间和解码的复杂度。然后,我们提出了一个编码的通信方案与部分恢复,其中的工作人员计算的子任务的结果被编码之前进行通信,将这种方法扩展到更一般的计算任务的分布式实现。一个大型线性回归任务的数值模拟证实了所提出的分布式计算方案与部分恢复的计算精度和延迟之间的权衡方面的好处。
2021-12-06 cs.DC cs.IT cs.LG
Coded MapReduce
MapReduce是一个常用的框架,用于在分布式服务器集群上执行数据密集型作业。我们介绍了MapReduce的一个变体实现,即“编码MapReduce”,以大大减少MapReduce的洗牌阶段的服务器间通信负载,从而加快其执行。提出的编码MapReduce利用不同服务器上数据块的重复映射,在洗牌阶段创造编码机会,以便更有效地在服务器之间交换(键,值)对。我们证明,编码MapReduce可以削减总的服务器间的通信负载的乘法因子,线性增长的系统中的服务器的数量,它实现了最小的通信负载在一个恒定的乘法因子。我们还分析了编码MapReduce的“计算负载”和“通信负载”之间的权衡。
2015-12-05 cs.DC cs.IT math.IT
Coded Gradient Aggregation: A Tradeoff Between Communication Costs at Edge Nodes and at Helper Nodes
在边缘/客户端节点处生成的数据量的增加以及隐私问题导致了在边缘处的学习,其中计算在边缘设备处执行并且被传送到中心节点以用于更新模型。边缘节点具有低带宽并且可能仅间歇地可用。在网络中存在帮助边缘节点与服务器通信的帮助节点。边缘节点将局部梯度传送到帮助节点,帮助节点在可能的聚合之后将这些消息中继到中心节点。最近,提出了使用重复码和最大距离可分离(MDS)码的方案,分别称为对齐MDS编码(AMC)方案和对齐重复编码(ARC)方案。据观察,在AMC方案中,边缘节点和辅助节点之间的通信是最佳的,但辅助节点和主节点之间的通信成本增加。得到了主节点和助手节点之间通信开销的上界。在本文中,在边缘节点和帮助节点的通信成本之间的权衡建立金字塔码,一个著名的本地可修复代码类的帮助。在帮助节点和边缘节点的通信成本的确切特征。使用所开发的技术,在助手节点的确切的通信成本可以计算方案使用MDS码。最后,我们为现有的AMC和ARC方案提供了两种改进的聚合策略,在不改变任何代码参数的情况下,显著降低了助手的通信成本。
2021-05-06 cs.DC cs.IT math.IT
Balancing Privacy and Robustness in Coded Computing Under Profiled Workers
Indian Institute of Technology Delhi(印度德里理工学院)
本文研究了在NS-LCC框架中如何通过优化索引分配平衡隐私与鲁棒性,提出了一种低复杂度的贪心策略以近似最优平衡。
2026-01-26 cs.IT math.IT
Random Sampling for Distributed Coded Matrix Multiplication
矩阵乘法是在各种应用(包括机器学习)中出现的大规模计算的基本构建块。最近,人们对使用编码来加速分布式矩阵乘法产生了很大的兴趣,分布式矩阵乘法对离散者(即,可以执行较慢计算的机器)。在许多情况下,代替精确计算,近似矩阵乘法,即,允许容许误差也是足够的。这种近似方案利用随机化技术来加速计算过程。在本文中,我们发起了近似编码矩阵乘法的研究,并调查随机化和编码提供的联合协同作用。具体来说,我们提出了两个编码的随机采样方案,使用(a)代码,以实现所需的恢复阈值和(b)随机采样,以获得近似的矩阵乘法。针对一类编码矩阵乘法方案,研究了恢复门限与通过随机抽样获得的近似误差之间的折衷关系。
2019-05-16 cs.IT math.IT stat.ML
Coded Computation Against Distributed Straggling Channel Decoders in the Cloud for Gaussian Uplink Channels
研究了云无线接入网络(CRAN)架构的上行链路,其中在云处的解码发生在分布式解码处理器处。为了减轻云中离散解码器的影响,云在将接收到的帧分发给解码处理器之前,通过线性码对接收到的帧进行重新编码。针对高斯信道,假设在用户端使用格码,推导了最大用户速率,使得所有服务器都能可靠地恢复与云端所用线性码对应的消息的线性组合。此外,开发了作为解码延迟的函数的帧出错率(FER)的两个分析上界,以便量化云的线性码在FER和云处的解码延迟之间的权衡方面的性能。
2018-07-12 cs.IT math.IT
User Activity Detection via Group Testing and Coded Computation
受组测试算法和编码计算范式的启发,我们提出并分析了一种新的多址接入方案,用于检测大规模网络中的活跃用户。该方案包括一个简单的随机检测算法,使用计算编码的中间步骤计算逻辑析取函数的多址接入信道(MAC)。首先,我们表明,给定一个有效的MAC码的析取计算的算法需要$O(k \log (\frac{N}{k }))$决策步骤检测$k$活跃用户的$N+k$用户。随后,我们提出了一个简单的次优代码的MAC类与任意变化的亚高斯噪声,均匀地需要$O (k \log (N) \max \{ \log k , \log \log N \} )$信道用于解决活动检测问题。这表明,即使在存在噪声的情况下,有效检测活跃用户也是可能的。我们的方法表明,问题的真正关键在于构造有效的代码来计算MAC上的析取。
2017-01-23 cs.IT math.IT
Successive Approximation Coding for Distributed Matrix Multiplication
编码分布式计算是近年来提出的一种用于减轻离散节点对分布式计算的影响的计算方法。本文将近似计算与编码计算相结合,进一步提高计算速度。我们提出了逐次逼近编码(SAC)技术,实现了准确性和速度之间的权衡,允许的分布式计算系统产生的近似,随着时间的推移增加的准确性。如果有足够数量的计算节点完成了它们的任务,SAC会准确地恢复所需的计算。我们从理论上为我们的SAC技术提供了设计指导方针,数值计算表明,SAC实现了更好的精度-速度的权衡与以前的方法相比。
2022-01-10 cs.DC cs.IT math.IT