Secure Coded Distributed Computing
本文研究分布式计算模型的安全数据混洗与安全编码计算问题,设计了确保中间值机密性的方法,并建立了通信与计算负载权衡的可达极限。
2024-04-26 cs.IT math.IT
A Pliable Index Coding Approach to Data Shuffling
在分布式计算系统中,如何利用索引编码来提高通信效率,特别是在迭代计算中的数据混洗,是近年来出现的一个很有前途的研究领域。在本文中,我们认为柔韧的索引编码可以提供一个更有效的数据洗牌框架,因为它可以更好地利用许多可能的洗牌选择,以减少传输的数量。我们从理论上分析了柔性索引编码下的数据洗牌约束,并设计了一个分层的数据洗牌方案,使用柔性编码作为一个组件。我们发现$O(ns/m)$比索引编码更有优势,其中$ns/m$是缓存消息的工作者的平均数量,$m$、$n$和$s$分别是消息、工作者和缓存大小的数量。
2018-05-03 cs.IT math.IT
Fundamental Limits of Decentralized Data Shuffling
训练数据在不同计算节点(工作者)之间的数据混洗已被确定为提高现代大规模机器学习算法的统计性能的核心要素。数据混洗通常被认为是在这样的系统中,由于沉重的通信负载的最重要的瓶颈之一。在主-工架构下(主节点可以访问整个数据集,只允许主节点和工节点之间的通信),最近已经证明编码可以大大减少通信负载。这项工作考虑了一种不同的通信范式,称为分散的数据洗牌,其中工人被允许通过共享链路相互通信。分散式数据洗牌问题有两个阶段:工人在数据洗牌阶段相互通信,然后工人在存储阶段更新其存储的内容。主要挑战是通过考虑工人存储的不对称性(即,基于问题设置,工作者被限制在他们的存储器中存储不同的文件),以便表征该问题的基本限制。对于未编码存储的情况(即,每个工作者直接存储数据集的比特的子集),本文提出了相反的和可实现的边界(基于分布式干扰对准和分布式干扰覆盖策略),其在彼此的3/2的因子内。对于大存储容量或系统中最多四个工作者,在未编码存储的约束下,所提出的方案也是完全最优的。
2020-01-14 cs.IT math.IT
Speeding Up Distributed Machine Learning Using Codes
School of Electrical Engineering, KAIST(韩国科学技术院电气工程学院);Department of Electrical Engineering and Computer Sciences, University of California, Berkeley(加利福尼亚大学伯克利分校电气工程与计算机科学系);Department of Electrical and Computer Engineering, University of California, Santa Barbara(加利福尼亚大学圣巴巴拉分校电气与计算机工程系);Department of Electrical and Computer Engineering, University of Wisconsin-Madison(威斯康星大学麦迪逊分校电气与计算机工程系);Fellow, IEEE(IEEE会士(注:此为职称,非机构,按要求不提取))
编码被广泛用于许多工程应用中,以提供对噪声的鲁棒性。在大规模系统中,有几种类型的噪声会影响分布式机器学习算法的性能--离散节点、系统故障或通信瓶颈--但在代码、机器学习和分布式系统之间几乎没有交互作用。在这项工作中,我们提供的理论见解如何编码的解决方案可以实现显着的收益相比,未编码的。我们专注于分布式学习算法的两个最基本的构建块:矩阵乘法和数据洗牌。对于矩阵乘法,我们使用代码来减轻落伍者的影响,并表明,如果同质工人的数量是$n$,每个子任务的运行时间有一个指数尾,编码计算可以加快分布式矩阵乘法的一个因素的$\log n$。对于数据洗牌,我们使用代码来减少通信瓶颈,利用多余的存储。我们表明,当一个恒定的分数$α$的数据矩阵可以被缓存在每个工人,和$n$是工人的数量,\emph{coded shuffling}减少了通信成本的一个因素$(α+ \frac{1}{n})γ(n)$相比,未编码的洗牌,其中$γ(n)$是单播$n$消息的$n$用户多播一个共同的消息(相同大小)的$n$用户的成本的比率。例如,如果向$n$用户多播消息与向一个用户单播消息一样便宜,则使用$γ(n) \simeq n$。我们也提供了实验结果,证实了我们的编码算法的理论收益。
2018-01-29 cs.DC cs.IT cs.LG
Design and Optimization of Heterogeneous Coded Distributed Computing with Nonuniform File Popularity
本文针对文件流行度非均匀的异构编码分布式计算,提出文件放置与嵌套编码混洗联合优化方案,并设计低复杂度的双文件组近似方法及压缩CDC方案以降低混洗负载。
2024-10-19 cs.IT math.IT
On Heterogeneous Coded Distributed Computing
我们考虑最近提出的编码分布式计算(CDC)的框架,利用精心设计的冗余计算,使编码的机会,大大减少了通信负载的分布式计算。我们将此框架推广到异构系统,其中计算集群中的不同节点可以具有不同的存储(或处理)能力。我们提供了信息理论上的最佳数据集的位置和编码数据洗牌计划,最大限度地减少了3个节点的集群中的通信负载。对于具有$K>3$节点的集群,我们提供了一个算法描述,以将我们的编码思想推广到更大的网络。
2017-09-01 cs.DC cs.IT math.IT
An Umbrella Converse for Data Exchange: Applied to Caching, Computing, and Shuffling
具有存储和通信能力的多个节点之间的数据交换问题模拟了几个当前的多用户通信问题,如编码缓存,数据洗牌,编码计算等,在这样的问题的目标是设计通信方案,完成所需的数据交换节点之间的最佳(最小)量的通信负载。在这项工作中,我们提出了一个逆这样一个一般的数据交换问题。相反的表达式仅取决于在不同的节点子集之间移动的比特数,并且不假设关于问题中的参数的任何进一步的具体情况。特定的问题公式,如编码缓存,编码数据洗牌,编码分布式计算,可以被看作是这种通用的数据交换问题的实例。应用我们的通用转换,我们能够有效地恢复已知的重要转换,在这些配方。此外,对于一个通用的编码缓存问题与异构缓存大小的客户端有或没有一个中央服务器,我们得到了一个新的一般逆,其中包含一些现有的结果。最后,我们涉及到一个“集中”的版本,我们的约束到已知的广义独立数约束在索引编码,并讨论我们的约束的紧密性在这种情况下。
2021-06-08 cs.IT math.IT
Optimal Coding Scheme and Resource Allocation for Distributed Computation with Limited Resources
分布式计算系统的中心问题是如何最优地分配计算和存储资源以及设计数据重排策略,使得用于计算和数据重排的总执行时间最小化。当计算、存储和通信资源有限时,这是极其关键的。在本文中,我们研究的资源分配和编码方案的MapReduce型框架的资源有限。特别是,我们专注于编码分布式计算(CDC)的方法提出的李等。首先,我们扩展了Yu等人提出的非对称CDC(ACDC)方案。级联的情况下,每个输出函数是由多个服务器计算。然后,我们证明了CDC或ACDC是否更好取决于系统参数(例如,计算服务器的数量)和任务参数(例如,输入文件的数量),这意味着CDC和ACDC都不是最佳的。通过合并CDC和ACDC的思想,我们提出了一个混合方案,并证明了它可以严格优于CDC和ACDC。此外,我们推导出一个信息论逆命题,表明对于使用一种弱对称Reduce分配的MapReduce任务,其中包括CDC和ACDC的Reduce分配作为特殊情况,具有相应资源分配策略的混合方案是最优的,即,对于任意数量的计算服务器和存储存储器,实现最小执行时间。
2021-02-02 cs.DC cs.IT math.IT
Improved Latency-Communication Trade-Off for Map-Shuffle-Reduce Systems with Stragglers
在根据映射-混洗-归约框架操作的分布式计算系统中,在存储之前对数据进行编码对于减少由分散的服务器引起的等待时间以及减少混洗阶段中的服务器间通信负载都是有用的。在先前的工作中,提出了一个级联编码方案的矩阵乘法任务。在该方案中,外层的最大距离可分离(MDS)码用于纠正由掉队者引起的擦除,而内层的重复码用于通过编码多播提高混洗阶段的通信效率。在这项工作中,它表明,它是可以利用重复编码,以增加外MDS码的速率,从而增加在洗牌阶段的多播机会所创建的冗余。因此,所提出的方法被示出为改善在最佳已知的延迟通信开销权衡。
2018-08-21 cs.IT math.IT
Locality-Aware Hybrid Coded MapReduce for Server-Rack Architecture
MapReduce是一种广泛用于分布式计算的框架。在作业的Map阶段和Reduce阶段之间的数据洗牌涉及跨服务器的大量数据传输,这反过来又导致作业完成时间的增加。最近,已经提出了编码MapReduce,以节省数据重排中产生的通信成本。这是通过在多个服务器上重复Map任务来创建用于混洗的编码多播机会来实现的。我们考虑了一个服务器机架架构的MapReduce,在这个架构中,建议将总的通信成本分为两个:机架内通信成本和跨机架通信成本。已经注意到,跨机架数据传输操作速度较低相比,机架内的数据传输,我们提出了一个方案,称为混合编码MapReduce的结果,在较低的跨机架通信比编码MapReduce的成本增加机架内的通信。此外,我们提出的问题,分配地图任务的服务器,以最大限度地提高数据的局部性的框架中的混合编码MapReduce作为一个约束整数优化问题。我们通过模拟表明,通过使用优化的解决方案来分配地图任务到服务器的数据局部性可以大大提高。
2017-08-22 cs.DC cs.IT math.IT
Coded MapReduce
MapReduce是一个常用的框架,用于在分布式服务器集群上执行数据密集型作业。我们介绍了MapReduce的一个变体实现,即“编码MapReduce”,以大大减少MapReduce的洗牌阶段的服务器间通信负载,从而加快其执行。提出的编码MapReduce利用不同服务器上数据块的重复映射,在洗牌阶段创造编码机会,以便更有效地在服务器之间交换(键,值)对。我们证明,编码MapReduce可以削减总的服务器间的通信负载的乘法因子,线性增长的系统中的服务器的数量,它实现了最小的通信负载在一个恒定的乘法因子。我们还分析了编码MapReduce的“计算负载”和“通信负载”之间的权衡。
2015-12-05 cs.DC cs.IT math.IT
Approximate Gradient Coding for Heterogeneous Nodes
在分布式机器学习(DML)中,训练数据分布在多个工作节点上以并行执行底层训练。影响DML算法性能的一个主要问题是离散点的存在。这些节点在执行其任务时非常慢,这导致存储在其中的训练数据的利用率不足。为此,梯度编码通过在数据中添加足够的冗余来减轻掉队者的影响。梯度编码和其他掉队者缓解方案假设工作者节点的掉队者行为是相同的。然而,我们在Amazon AWS集群上的实验表明,情况并非如此,我们看到迭代中的落伍行为存在相关性。为了模拟这一点,我们引入了一个异构的掉队者模型,节点分为两类,慢和活跃。为了更好地利用存储在慢节点的训练数据,我们修改了现有的梯度编码方案与工人之间的训练数据洗牌。我们的研究结果(模拟和云实验)表明显着的改善与现有的计划洗牌。我们进行理论分析,证明其效用的建议模型。
2021-05-13 cs.IT math.IT
Coded Federated Computing in Wireless Networks with Straggling Devices and Imperfect CSI
分布式计算平台通常假定处理器之间的可靠和专用连接的可用性。这项工作考虑了一种替代方案,相关的无线数据中心和联邦学习,其中的分布式处理器,一般不同的编码数据上操作,通过共享的无线信道通过全双工传输访问连接。该研究考虑了无线和计算损伤,包括干扰,不完美的信道状态信息和离散的处理器,它假设了一个映射-洗牌-减少编码的计算范式。系统的总延迟,作为计算和通信延迟的总和,研究了不同的洗牌策略,揭示了分布式计算,编码和合作或协调传输之间的相互作用。
2019-01-16 cs.IT math.IT
How to Optimally Allocate Resources for Coded Distributed Computing?
今天的数据中心拥有丰富的计算资源,托管由多达数万或数十万台机器组成的服务器集群。为了在数据中心上执行复杂的计算任务,很自然地将计算分布在许多节点上以利用并行处理。然而,随着我们分配越来越多的计算资源到一个计算任务,并进一步分布计算,大量的(部分)计算数据必须在节点之间的计算任务的连续阶段之间移动,因此通信负载可能成为瓶颈。本文研究了分布式计算中计算资源的优化分配问题,目标是使分布式计算中计算和通信两个阶段的总执行时间最小。特别是,我们认为一个通用的MapReduce型分布式计算框架,其中的计算被分解成三个阶段:\emph{Map},\emph{Shuffle},和\emph{Reduce}。我们专注于最近提出的\emph{Coded Distributed Computing}方法MapReduce和研究在这个框架中的计算资源的最优分配。对于所有的问题参数值,我们的特点,应用于分布式处理的服务器的最佳数量,提供的地图和减少任务的最佳位置,并提出了一个最佳的编码数据洗牌计划,以尽量减少总的执行时间。为了证明所提出的方案的最优性,我们首先推导出一个匹配的信息论逆的执行时间,然后我们证明,在所有可能的资源分配计划,实现最小的执行时间,我们所提出的方案使用的服务器的数量正好是最少的。
2017-02-23 cs.DC cs.IT math.IT
Distributed Computing with Heterogeneous Communication Constraints: The Worst-Case Computation Load and Proof by Contradiction
我们考虑一个分布式计算框架,其中分布式节点具有不同的通信能力,由数据中心和移动边缘计算系统中的异构网络驱动。该框架遵循MapReduce的结构,由Map计算阶段、Shuffle阶段和Reduce计算阶段组成。洗牌阶段允许分布式节点交换中间值,在不同节点的异构通信瓶颈(异构通信负载约束)的存在下。对于这种设置,我们的特点是最小的总计算负载和最小的最坏情况下的计算负载在某些情况下,在异构通信负载的约束。虽然总计算负载取决于所有节点的计算负载的总和,但最坏情况的计算负载取决于具有最重作业的节点的计算负载。我们展示了一个有趣的见解,在某些情况下,最小总计算负载和最小最坏情况下的计算负载之间存在权衡,在这个意义上,两者不能同时实现。在文件分配和数据混洗方面进行了细致的设计,提出了可并行性方案。在割集界之外,利用反证法提出了一个新的逆命题。对于一般情况下,我们确定了两个极端的制度,在这两个方案的编码和编码方案是最优的,分别。
2019-08-18 cs.IT math.IT
Latency Analysis of Coded Computation Schemes over Wireless Networks
大规模分布式计算系统面临着两个主要的瓶颈,限制其可扩展性:离散延迟所造成的计算时间在不同的工作节点和通信瓶颈所造成的数据在网络中的许多节点洗牌。最近,它已被证明,代码可以提供克服这些瓶颈的显着收益。特别是,最佳的编码方案,以最大限度地减少线性函数的分布式计算的延迟和减轻的影响,提出了一个有线网络,其中的工人可以同时发送消息到一个主节点没有干扰。在本文中,我们专注于编码计算的问题,在一个无线的主-工人设置与离散的工人,只有一个工人可以传输其本地计算的结果回到主的时间。我们考虑3个渐近制度(由通信和计算时间如何与工人的数量缩放确定),并精确地描述了分布式算法的总运行时间和最佳编码策略在每个政权。特别是,对于制度的实际利益的分布式计算算法的计算和通信时间是可比的,我们表明,总的运行时间接近一个简单的下限,计算和通信,并证明编码方案比未编码的计划快$Θ(\log(n))$倍。
2017-06-30 cs.IT math.IT
Leveraging Coding Techniques for Speeding up Distributed Computing
利用MapReduce等分布式计算框架的大规模集群通常处理PB级或更高级别的数据。数据量之大使单台计算机无法处理这些数据。这些方法的原理是将整个作业划分为在不同服务器上执行的较小任务;这称为映射阶段。这之后是数据洗牌阶段,其中适当的数据在服务器之间交换。最后一个所谓的reduce阶段,完成计算。一个潜在的方法,在以前的工作中探索减少整体执行时间是在计算和通信之间的自然权衡。具体来说,这个想法是运行放置在明智选择的服务器上的地图任务的冗余副本。混洗阶段利用节点的位置并利用编码传输。这种方法的主要缺点是,它需要将原始作业拆分为多个地图任务,这些任务在系统参数中呈指数级增长。这是有问题的,因为我们证明,拆分作业太细,实际上会对整体执行时间产生不利影响。在这项工作中,我们表明,可以同时获得低通信负载,同时确保工作不需要被分割得太细。我们的方法揭示了这个问题和一类称为可分解设计的组合结构之间的深刻关系。可解析设计的适当解释可以允许开发编码的分布式计算方案,其中分裂水平指数地低于先前的工作。我们提出了一个广为人知的分布式算法,即TeraSort亚马逊EC2集群上获得的实验结果。我们获得了超过4.69 $\times$的基线方法和超过2.6 $\times$的最新技术水平的加速比的改善。
2018-02-08 cs.IT math.IT
Information-theoretically Secure Regenerating Codes for Distributed Storage
再生码是用于分布式存储网络的一类码,其提供数据的可靠性和可用性,并且还执行有效的节点修复。分布式存储网络的另一个重要方面是其安全性。在本文中,我们考虑一个威胁模型,窃听者可以访问存储在存储节点的一个子集中的数据,也可能,在修复某些节点的数据下载。我们提供了明确的再生码,实现信息理论的保密能力,在这种情况下的建设。
2011-07-26 cs.DC cs.IT cs.NI
Distributed High Dimensional Information Theoretical Image Registration via Random Projections
Eötvös Loránd University(厄特沃什·罗兰大学)
信息论度量,如熵、互信息和各种发散,在图像配准应用中表现出鲁棒性。然而,这些量的估计在高维中是计算密集型的。另一方面,从样本点的成对距离的一致估计是可能的,这适合于基于随机投影(RP)的低维嵌入。我们通过一个简单的集成方法来适应RP技术来完成这项任务。据我们所知,这是第一个分布式的,RP基于信息理论的图像配准方法。数值算例表明了该方法的有效性。
2012-10-02 cs.IT cs.LG math.IT
Rate-Distortion Theoretic Bounds on Generalization Error for Distributed Learning
Paris Research Center, Huawei Technologies France(华为技术法国巴黎研究中心);Université Paris-Est(巴黎东大学)
在本文中,我们使用率失真理论的工具,建立新的统计分布式学习算法的泛化误差的上界。具体地,存在$K$客户端,其单独选择的模型由中央服务器聚合。边界取决于每个客户端的算法的可压缩性,同时保持其他客户端的算法不被压缩,并且利用每个本地模型中的小变化仅以$1/K$的因子改变聚合模型的事实。采用Sefidgaran等人最近提出的方法,并且将其适当地扩展到分布式设置,这使得能够实现更小的速率失真项,所述速率失真项被示出为转换成更紧的泛化界。然后将该边界应用于分布式支持向量机(SVM),表明分布式设置的泛化误差衰减速度比集中式设置快,其因子为$\mathcal{O}(\log(K)/\sqrt{K})$。这一发现也得到了实验验证。对于多轮联邦学习设置,每个客户端都使用随机梯度Langevin动态(SGLD),也得到了类似的结论。
2022-11-22 cs.IT cs.LG math.IT
Multi-Version Coding - An Information Theoretic Perspective of Consistent Distributed Storage
在分布式存储系统到分布式计算的应用和键值存储的实现中,以下属性(通常在计算机科学和工程中被称为一致性)是重要的要求:随着存储的数据改变,数据的最新版本必须可由连接到存储系统的客户端访问。为了研究一致性分布式存储系统的存储代价,本文引入了一种信息论的多版本编码方法。多版本编码的特征在于消息的ν个全序版本和具有n个服务器的存储系统。在每个服务器处,接收并编码对应于v个版本的任意子集的值。对于存储系统中的c服务器的任何子集,与c服务器中的最新公共版本或根据总排序的更高版本相对应的值需要是可解码的。通过线性编码和一个相反的结果,表明该结构是近似紧的,提供了一个可实现的多版本码的结构。相反的含义是,在存储成本方面,为了确保分布式存储系统的一致性,存在不可避免的代价。
2015-10-19 cs.IT math.IT
On the information-theoretic structure of distributed measurements
测量设备的内部结构取决于它的组件是什么以及它们是如何组织的,决定了它如何对其输入进行分类。本文提出了一种几何方法来研究的内部结构的测量分布式系统,如概率元胞自动机。它构造质量,一个家庭的部分适当定义的预层,其元素对应于测量的分布式系统的所有子系统。使用质量,我们量化(i)的测量所产生的信息;(ii)在何种程度上的测量是上下文相关的;(iii)测量是否可分解成独立的子测量,这是相当于上下文依赖。最后,我们表明,只有不可分解的测量比他们的子测量的总和更翔实。
2012-07-31 cs.DC cs.IT cs.NE
Game theoretic aspects of distributed spectral coordination with application to DSL networks
在本文中,我们使用博弈论的技术来研究分布式频谱管理问题中的合作价值。我们发现,著名的迭代注水算法是受囚徒困境,因此可以导致严重退化的干扰信道环境中的可实现的速率区域。我们还提供了一个简单的两个频段近远的情况下,我们能够提供封闭形式的严格限制的固定利润迭代注水(FM-IWF)和动态频分复用(DFDM)方法的速率区域进行了彻底的分析。这是唯一的情况下,这样的解析表达式是已知的,所有以前的研究只包括模拟结果的速率区域。然后,我们提出了一种替代算法,该算法的IWF算法在近远的情况下,DSL接入网络相关的一些缺点。我们还提供了实验分析的基础上测量的DSL信道的两种算法,以及集中的最佳频谱管理。
2006-02-06 cs.IT math.IT
The Secure Storage Capacity of a DNA Wiretap Channel Model
在本文中,我们提出了一种策略,使基于DNA的数据存储信息理论上是安全的,通过使用窃听信道编码。这促使我们扩展Shomorony和Heckel(2021)的混洗采样信道模型,以包括窃听器。我们的主要结果是我们的DNA窃听通道模型,这是数据可以存储在一个池的DNA分子,以便可靠地检索由授权方(鲍勃)的最大速率的安全存储容量的表征,同时确保未经授权的一方(夏娃)从她的观察几乎没有得到任何信息。此外,我们的可扩展性证明表明,基于索引的窃听信道编码方案是最佳的。
2022-11-24 cs.IT math.IT
When Is Distributed Nonlinear Aggregation Private? Optimality and Information-Theoretical Bounds
Aalborg University(奥尔堡大学);Netherlands Defence Academy(荷兰皇家军事学院);Delft University of Technology(代尔夫特理工大学)
本文提出了一种统一的信息论框架,用于分析分布式非线性聚合的隐私泄露问题,通过理论分析和实验验证,得出了最优隐私保障界限及网络拓扑和参数对泄露的影响。
2026-01-19 cs.IT eess.SP math.IT
Distributed Power Control in Interference Channels with QoS Constraints and RF Energy Harvesting: A Game-Theoretic Approach
本文提出了一种新的分布式功率控制方案的基于功率分裂的干扰信道(IFC)与同时无线信息和功率传输(SWIPT)。所考虑的IFC由多个源-目的地对组成。每个目的地将其接收到的信号分成两部分,分别用于信息解码和能量收集(EH)。每对调整其发射功率和功率分配比,以满足其相应目的地的信号干扰噪声比(SINR)和EH约束。为了表征合理的行为的源-目的地对,我们制定了一个非合作的游戏所考虑的系统,其中每一对被建模为一个战略球员,其目的是最大限度地减少自己的发射功率下的SINR和EH的限制在目的地。我们得到了一个充分必要条件的存在性和唯一性的纳什均衡(NE)制定的游戏。首先推导出各局中人的最佳对策,然后迭代求解网元。数值结果表明,所提出的博弈论的方法可以达到接近最优的性能在不同的SINR和EH的约束。
2016-02-20 cs.IT math.IT
Asymptotically Optimal Distributed Channel Allocation: a Competitive Game-Theoretic Approach
本文研究了频率选择性干扰信道下大型网络中的分布式信道分配问题。性能通过可实现速率的加权和来衡量。首先,我们提出了一个自然的非合作博弈理论制定这个问题。结果表明,当干扰足够强时,该博弈的纯无政府状态无政府代价以高概率趋近无穷大,且存在渐近递增的最差均衡点.然后,我们提出了一种新的非合作M频率选择性干扰博弈(M-FSIG),其中用户限制他们的效用,使其大于零,只有他们的M个最佳信道,并为他们平等。我们表明,M-FSIG表现出,具有很高的概率,越来越多的最佳纯纳什均衡,没有坏的均衡。因此,无政府状态的纯粹无政府代价在任何干预体制中都有可能收敛为一。为了利用这些结果在算法上,我们提出了一个修改后的Fictionary Play算法,可以分布式实现。我们进行了模拟,证明其快速收敛到纯纳什均衡。
2016-03-12 cs.GT cs.IT math.IT
Distributed Game Theoretic Optimization and Management of Multichannel ALOHA Networks
研究了多信道ALOHA网络中的分布式速率最大化问题。首先,我们研究了约束分布式速率最大化问题,其中用户速率受到总传输概率约束。我们提出了一个最佳响应算法,每个用户更新其策略,以增加其速率根据信道状态信息和当前的信道利用率。我们证明了该算法的收敛到一个纳什均衡在同构和异构网络使用潜在的游戏理论。的最佳响应动态的性能进行了分析和比较,一个简单的传输方案,其中用户传输的信道具有最高的无冲突效用。然后,我们考虑的情况下,用户不受传输概率约束。不确定条件下的分布式速率最大化被认为是实现效率和用户之间的公平性。我们提出了一个分布式的计划,用户调整他们的传输概率,以最大限度地提高他们的速率,根据当前的网络状态,同时保持所需的信道上的负载。我们表明,我们的方法在实现用户之间的纳什讨价还价的解决方案中起着重要的作用。顺序和并行算法,提出了以分布式的方式实现目标的解决方案。理论和仿真结果都证明了算法的有效性。
2015-05-22 cs.GT cs.IT cs.NI
An Information-theoretic Method for Collaborative Distributed Learning with Limited Communication
在本文中,我们研究了分布式学习框架下的信息传输问题,其中每个工作节点只允许传输一个$m$维统计,以改善学习结果的目标节点。具体而言,我们评估相应的预期人群风险(EPR)的制度下的大样本量。我们证明了性能可以提高,因为传输的统计数据有助于估计下的EPR范数矩阵测量的均方误差的基础分布。因此,所发送的统计对应于该矩阵的本征向量,并且期望的传输在统计中分配这些本征向量,使得EPR最小。此外,我们提供了单节点和两个节点的传输所需的统计分析解决方案,其中的几何解释给出解释的特征向量的选择。对于一般情况,提出了一种基于节点划分的高效分配算法。
2022-05-26 cs.IT eess.SP math.IT
Information-theoretically Secure Erasure Codes for Distributed Storage
分布式存储系统中的修复操作可能会将数据暴露给被动窃听者或主动攻击者的恶意行为,这可能对系统的安全性有害。本文提出了擦除码和修复算法,以确保在存在被动窃听者和主动对手的数据的安全性,同时保持系统的高可用性,可靠性和效率。我们的代码是最佳的,因为它们满足以前提出的下限的存储,网络带宽和可靠性的要求范围广泛的系统参数。因此,我们的研究结果建立这样的系统的能力。我们的代码,从积极的对手的安全提供了一个额外的吸引人的功能“按需安全”,所需的安全级别可以单独选择每个实例的修复,我们的算法保持最佳同时为所有可能的水平。本文还提供了必要和充分条件,管理任何(不安全)的代码转换成一个提供按需安全。
2015-08-16 cs.CR cs.IT math.IT
Weighted Centroid Algorithm for Estimating Primary User Location: Theoretical Analysis and Distributed Implementation
关于主发射机位置的信息对于实现认知无线电网络中的几个关键功能至关重要,包括改进的时空感知、智能位置感知路由以及辅助频谱策略执行。与其他非交互式定位算法相比,加权质心定位(WCL)算法仅利用接收信号强度信息,易于实现,对传播环境的变化具有鲁棒性。在本文中,我们提出了第一个理论框架WCL性能分析的节点密度,节点位置,阴影方差,相关距离和传感器节点定位的不准确性参数化的定位误差分布。使用这种分析,我们量化的鲁棒性的WCL各种物理条件,并提供设计指导方针,如节点的位置和间距,WCL的实际部署。我们还提出了一种高能效的方法,通过分布式基于集群的算法实现WCL,实现了与集中式对应的准确性。
2011-05-09 cs.IT cs.NI cs.PF
Robustness in Wireless Distributed Learning: An Information-Theoretic Analysis
本文通过信息论方法推导无线分布式学习中信道失真导致的任务性能损失上界,定义任务感知ε-容量,并提出鲁棒训练框架以在保证推理性能的同时实现高鲁棒性和高传输速率。
2025-07-08 cs.IT eess.SP math.IT
Sheaf-Theoretic Causal Emergence for Resilience Analysis in Distributed Systems
提出融合属性图、图上流动模拟与层论因果涌现的框架,通过有效信息比较宏微观因果效力,以识别分布式系统中的韧性涌现结构。
2025-03-18 cs.DM cs.IT cs.SE