Locality-Aware Hybrid Coded MapReduce for Server-Rack Architecture
MapReduce是一种广泛用于分布式计算的框架。在作业的Map阶段和Reduce阶段之间的数据洗牌涉及跨服务器的大量数据传输,这反过来又导致作业完成时间的增加。最近,已经提出了编码MapReduce,以节省数据重排中产生的通信成本。这是通过在多个服务器上重复Map任务来创建用于混洗的编码多播机会来实现的。我们考虑了一个服务器机架架构的MapReduce,在这个架构中,建议将总的通信成本分为两个:机架内通信成本和跨机架通信成本。已经注意到,跨机架数据传输操作速度较低相比,机架内的数据传输,我们提出了一个方案,称为混合编码MapReduce的结果,在较低的跨机架通信比编码MapReduce的成本增加机架内的通信。此外,我们提出的问题,分配地图任务的服务器,以最大限度地提高数据的局部性的框架中的混合编码MapReduce作为一个约束整数优化问题。我们通过模拟表明,通过使用优化的解决方案来分配地图任务到服务器的数据局部性可以大大提高。
2017-08-22 cs.DC cs.IT math.IT
Storage, Computation, and Communication: A Fundamental Tradeoff in Distributed Computing
我们考虑一个类似MapReduce的分布式计算系统。我们推导出一个下界的通信成本为任何给定的存储和计算成本。这个下限与我们最近提出的可实现的界限相匹配。其结果是,我们完全表征的存储,计算和通信之间的最佳权衡。我们的结果推广了Li等人的前一个结果,也考虑了计算的中间值的数量。
2020-01-21 cs.IT math.IT
FLCD: A Flexible Low Complexity Design of Coded Distributed Computing
我们提出了一种灵活的低复杂度编码分布式计算(CDC)设计(FLCD),并在Amazon Elastic Compute Cloud(Amazon EC2)上进行了实证评估。CDC可以通过交易增加的map计算来加快MapReduce计算,以减少通信负载和洗牌时间。FLCD的一个主要新颖之处是利用设计自由度来定义映射和简化函数,以开发渐近齐次系统,从而在一般MapReduce框架下支持不同的中间值(IV)大小。与具有恒定IV大小的现有设计相比,FLCD在适应网络参数方面提供了更大的灵活性,并且通过需要更少的输入文件和混洗组来显著降低实现复杂性。FLCD方案是第一个提出的低复杂度CDC设计,可以在具有任意数量节点和计算负载的网络上运行。我们通过在Amazon EC2集群上执行TeraSort算法来对FLCD进行实证评估。这是第一次,CDC洗牌时间的理论预测验证的经验评估。评估结果表明,与传统的未编码MapReduce相比,速度提高了2.0到4.24倍,总时间减少了12%到52%,并且与现有的CDC方案相比,操作网络参数范围更广。
2020-08-13 cs.DC cs.IT cs.PF
CAMR: Coded Aggregated MapReduce
Iowa State University(爱荷华州立大学)
在MapReduce类系统上执行的许多大数据算法都有一个洗牌阶段,这个阶段通常主导着整个作业的执行时间。最近的工作已经证明了方案中的洗牌阶段的通信负载可以权衡的地图阶段的计算负载。在这项工作中,我们专注于一类分布式算法,广泛用于深度学习,其中可以组合相同任务的中间计算。即使现有技术显著地减少了通信负载,它们也需要在系统参数中呈指数增长的作业数量。这种限制是至关重要的,并且可能会随着算法的扩展而减少负载增益。我们提出了一个新的方案,实现了相同的负载,同时确保了工作的数量以及数据集需要分割成的子文件的数量保持较小。
2021-10-30 cs.DC cs.IT cs.LG
A Fundamental Tradeoff Among Storage, Computation, and Communication for Distributed Computing over Star Network
编码分布式计算通过利用分布式计算中的编码技术,充分利用冗余的存储和计算资源,可以减轻通信负载。本文研究了星型拓扑网络上的MapReduce类型的分布式计算框架,其中所有工作者通过一个公共接入点交换信息。存储的文件(存储负载),计算的中间值(计算负载)和在上行链路和下行链路(通信负载)中发送的比特之间的最佳权衡的特征。提出了一种编码计算方案来实现Pareto最优折衷曲面,接入点只需在接收信号之间进行简单的链式编码,并给出了与该曲面匹配的信息理论界。
2023-01-10 cs.IT math.IT
Privacy-Preserving Secret Shared Computations using MapReduce
数据外包允许数据所有者将其数据保存在\emph{untrusted}云中,而这些云无法确保数据和/或计算的隐私。MapReduce是一个用于分布式容错数据处理的有用框架,它是为\emph{trusted}私有云开发的。本文提出了基于Shamir的秘密共享方案的数据外包算法,以及在使用MapReduce作为底层编程模型的同时执行隐私保护SQL查询的算法,例如计数,选择(包括范围选择),投影和连接。我们提出的算法防止对手知道数据库或查询,同时也防止输出大小和访问模式的攻击。有趣的是,我们的算法不涉及数据库所有者,它只创建和分发秘密共享一次,在回答任何查询,因此,数据库所有者也不能学习查询。逻辑和实验,我们评估以下参数的算法的效率:(\textit{i})的通信轮数(用户和服务器之间),(\textit{ii})的比特流的总量(用户和服务器之间),和(\textit{iii})在用户和服务器的计算负载。\B
2019-08-06 cs.CR cs.DB cs.DC
Topological Coded Distributed Computing
本文考虑了最初由Li等人提出的类似MapReduce的编码分布式计算框架,其在分布式计算服务器交换其计算的中间值时使用编码技术,以便减少总业务负载。他们的原始模型服务器通过允许广播传输的无错误公共通信总线连接。然而,这种假设是实践中的主要限制之一,因为实际的云计算网络拓扑比简单的单个总线涉及更多。我们建立了一个拓扑编码的分布式计算问题,其中分布式服务器之间通过交换网络进行通信。通过使用一种特殊的胖树拓扑结构,称为t元胖树由Al-Fares等人提出的,它可以由一些廉价的交换机,我们提出了一种编码的分布式计算方案,以实现最小的最大链路通信负载定义为所有链路上的最大负载。
2020-04-09 cs.IT math.IT
Broadcast Repair for Wireless Distributed Storage Systems
在无线分布式存储系统中,存储节点之间通过无线信道连接,这些无线信道本质上是广播信道。本文利用这一独特的功能,设计了一个有效的修复机制,称为广播修复,无线分布式存储系统的多节点故障。由于无线信道通常是带宽有限的,我们提倡一种新的措施修复性能称为修复传输带宽,它衡量的平均数量的数据包传输的帮助节点每个失败的节点。得到了存储量和修复传输带宽之间的基本折衷。结果表明,广播修复在存储效率和修复传输带宽方面优于多节点故障有线分布式存储系统的基本修复方法--合作修复,从而得到更好的折衷曲线.
2016-03-01 cs.IT math.IT
Cascaded Coded Distributed Computing Schemes Based on Placement Delivery Arrays
Li { \it et al}.在MapReduce等通用分布式计算框架中,引入了编码的分布式计算(CDC)方案来降低通信负载。他们还提出了级联CDC方案,其中每个输出函数被多次计算,并证明了这种方案实现了计算负载和通信负载之间的基本权衡。然而,当计算节点的数量变大时,这些方案需要指数数量的输入文件和输出函数。本文利用布局传递阵列(PDAs)的结构,构造了无限多类级联CDC方案。我们还证明了在所有新方案中输出函数的数目只是计算节点数目的一个因子,并且在我们的新方案中输入文件的数目远小于Li { \it et al}导出的CDC方案中的输入文件的数目.
2021-11-24 cs.IT math.IT
Optimal Coding Scheme and Resource Allocation for Distributed Computation with Limited Resources
分布式计算系统的中心问题是如何最优地分配计算和存储资源以及设计数据重排策略,使得用于计算和数据重排的总执行时间最小化。当计算、存储和通信资源有限时,这是极其关键的。在本文中,我们研究的资源分配和编码方案的MapReduce型框架的资源有限。特别是,我们专注于编码分布式计算(CDC)的方法提出的李等。首先,我们扩展了Yu等人提出的非对称CDC(ACDC)方案。级联的情况下,每个输出函数是由多个服务器计算。然后,我们证明了CDC或ACDC是否更好取决于系统参数(例如,计算服务器的数量)和任务参数(例如,输入文件的数量),这意味着CDC和ACDC都不是最佳的。通过合并CDC和ACDC的思想,我们提出了一个混合方案,并证明了它可以严格优于CDC和ACDC。此外,我们推导出一个信息论逆命题,表明对于使用一种弱对称Reduce分配的MapReduce任务,其中包括CDC和ACDC的Reduce分配作为特殊情况,具有相应资源分配策略的混合方案是最优的,即,对于任意数量的计算服务器和存储存储器,实现最小执行时间。
2021-02-02 cs.DC cs.IT math.IT
Distributed Compressed Estimation for Wireless Sensor Networks Based on Compressive Sensing
本文提出了一种基于压缩感知技术的稀疏信号和系统的分布式压缩估计方法。该方案由压缩和解压缩模块的启发压缩感知执行分布式压缩估计。文中还提出了一种测量矩阵优化的设计方法和算法,进一步提高了分布式压缩估计算法的性能。无线传感器网络的仿真结果表明,所提出的方案和算法的收敛速度和均方误差性能方面的优势。
2015-02-03 cs.IT math.IT
Cascaded Coded Distributed Computing on Heterogeneous Networks
Li等人在2015年提出的编码分布式计算(CDC)提供了一种有效的方法来交易计算能力,以减少MapReduce等一般分布式计算框架中的通信负载。对于更一般的级联CDC,在$r$节点处重复Map计算,以显著减少负责计算$Q$ Reduce函数的节点之间的通信负载$s$时间。虽然提出了一种可实现的级联CDC方案,但它仅适用于同构网络,其中每个计算节点的存储,计算负载和通信负载是相同的。在本文中,我们提出了一种新的组合设计,在异构网络中的节点有不同的存储和计算能力,它可以解决这个限制。我们提供了一个分析表征的计算通信权衡,并表明它是最佳的一个常数因子内,可以优于国家的最先进的同质计划。
2019-01-23 cs.IT math.IT
Distributed Multi-User Wireless Charging Power Allocation
无线充电使便携式设备能够永久拔下电源。由于其传输功率低、传输效率低,与无线通信网络中的数据传输相比,它需要更长的时隙来对用户进行计费。此外,每个用户的需求的紧迫性需要考虑的功率分配。因此,新的算法是必不可少的无线功率分配在多用户无线充电网络。在本文中,这个问题被制定为一个静态的非合作博弈。研究表明,存在唯一的纳什均衡,即无线充电网络的静态。提出了一种分布式功率分配算法来计算博弈的纳什均衡。本文的主要结果包括严格的分布式功率分配算法的分析。该算法被证明是收敛到纳什均衡的游戏与指数收敛速度的任意初始值同步调度。此外,分布式算法也是收敛的通信延迟和数据包丢失的异步调度保证。数值仿真证明了分析的正确性,并证明了算法的快速收敛性和对同步调度的鲁棒性。
2018-01-21 cs.IT math.IT
How to Optimally Allocate Resources for Coded Distributed Computing?
今天的数据中心拥有丰富的计算资源,托管由多达数万或数十万台机器组成的服务器集群。为了在数据中心上执行复杂的计算任务,很自然地将计算分布在许多节点上以利用并行处理。然而,随着我们分配越来越多的计算资源到一个计算任务,并进一步分布计算,大量的(部分)计算数据必须在节点之间的计算任务的连续阶段之间移动,因此通信负载可能成为瓶颈。本文研究了分布式计算中计算资源的优化分配问题,目标是使分布式计算中计算和通信两个阶段的总执行时间最小。特别是,我们认为一个通用的MapReduce型分布式计算框架,其中的计算被分解成三个阶段:\emph{Map},\emph{Shuffle},和\emph{Reduce}。我们专注于最近提出的\emph{Coded Distributed Computing}方法MapReduce和研究在这个框架中的计算资源的最优分配。对于所有的问题参数值,我们的特点,应用于分布式处理的服务器的最佳数量,提供的地图和减少任务的最佳位置,并提出了一个最佳的编码数据洗牌计划,以尽量减少总的执行时间。为了证明所提出的方案的最优性,我们首先推导出一个匹配的信息论逆的执行时间,然后我们证明,在所有可能的资源分配计划,实现最小的执行时间,我们所提出的方案使用的服务器的数量正好是最少的。
2017-02-23 cs.DC cs.IT math.IT
Energy Efficiency of Distributed Signal Processing in Wireless Networks: A Cross-Layer Analysis
为了满足日益增长的移动数据需求,未来的无线网络将配备有大量的接入点(AP)。除了对能源消耗的重要影响外,致密化的趋势要求开发分散和可持续的无线电资源管理技术。了解信号处理操作的分布如何影响无线网络的能源效率至关重要。在本文中,我们提供了一个跨层的框架,以评估和比较无线网络的能量效率下的信号处理负载的不同水平的分布:(i)混合,其中的信号处理操作是共享节点和AP之间,(ii)集中,其中的信号处理是完全实现在AP,(iii)完全分布式,其中的所有操作都由节点执行。我们发现,在实际的无线网络中,混合信号处理表现出显着的能源效率增益集中和完全分布式的方法。
2015-10-20 cs.IT math.IT
Location-Aided Fast Distributed Consensus in Wireless Networks
现有的工作分布式共识探索线性迭代的基础上可逆马尔可夫链,这有助于缓慢收敛的算法。已经观察到,通过克服可逆链的扩散行为,从可逆链提升的某些不可逆链比原始链混合得快得多。本文研究了提升马尔可夫链加速分布式共识的思想,提出了一种无线网络中的位置辅助分布式平均(LADA)算法,利用节点的粗略位置信息构造不可逆链,以利于分布式计算和协同处理.首先,两个一般的伪算法来说明通过链提升的分布平均的概念。这些伪算法,然后分别实例化通过一个网格网络上的LADA算法,和一个一般的无线网络。对于一个$k\times k$网格网络,所提出的LADA算法实现了$O(k\log(ε^{-1}))$的$ε$平均时间。基于该算法,在传输距离为$r$的无线网络中,通过集中式算法可以得到$O(r^{-1}\log(ε^{-1}))$的$ε$平均时间。随后,我们提出了一个完全分布式的LADA算法的无线网络,它只利用邻居的方向信息来构建不可逆链。结果表明,这种分布式LADA算法实现了相同的缩放定律的平均时间集中式计划。最后,我们提出了一个基于集群的LADA(C-LADA)算法,它不需要中央协调,提供了额外的好处,降低消息的复杂性相比,分布式LADA算法。
2009-03-23 cs.IT math.IT
A Fundamental Storage-Communication Tradeoff for Distributed Computing with Straggling Nodes
用于分布式计算的放置交付阵列(Comp-PDA)最近被提出作为用于为类MapReduce系统构造通用计算方案的框架。在这项工作中,我们将这一概念扩展到具有离散节点的系统,即,涉及其中节点的子集不能在适当的时间内完成所分配的MAP计算的系统。与以往的大多数工作,专注于计算线性函数,我们的结果是通用的,适用于任意映射和减少功能。我们的贡献如下。首先,我们展示了如何构建一个通用的编码计算方案MapReduce类系统与离散节点从任何给定的Comp-PDA。我们还描述了所产生的方案的Comp-PDA参数的存储和通信负载。然后,我们证明了一个信息理论的逆界的存储通信(SC)的折衷实现的通用计算计划离散节点。我们表明,信息理论界匹配的编码计算方案与离散节点对应的Maddah-Ali和Niesen(MAN)PDA,即,到描述Maddah-Ali和Niesen的编码缓存方案的Comp-PDA。有趣的是,相同的Comp-PDA(MAN-PDA)对于任何数量的离散节点都是最优的,这意味着最优编码计算方案的映射阶段不需要适应系统中离散节点的数量。我们最后证明,虽然点,完全躺在基本的SC权衡不能实现与Comp-PDA,需要更少的文件数量比MAN-PDA,这是可能的一些点,靠近SC的权衡。对于后面的这些点,所请求的文件数量的减少可以是系统节点数量的指数。
2020-04-27 cs.IT math.IT
MDS-Coded Distributed Caching for Low Delay Wireless Content Delivery
我们研究使用最大距离可分离(MDS)码缓存流行的内容,以减少无线内容传输的下载延迟。特别是,我们考虑一个蜂窝系统中的设备漫游在一个细胞根据泊松随机过程。流行内容使用MDS代码被缓存在有限数量的移动设备中,并且可以使用设备到设备通信从移动设备下载。我们推导出一个解析表达式的延迟从无线网络中下载的内容,并显示使用MDS码的分布式缓存可以显着降低下载延迟的情况下,内容总是从基站下载和未编码的分布式缓存的情况下。
2017-01-05 cs.IT math.IT
Communication vs Distributed Computation: an alternative trade-off curve
在本文中,我们重新审视了[1]中在MapReduce框架内研究的通信与分布式计算的权衡。上述工作中的一个隐含假设是,每个服务器对存储在其内存中的所有文件执行所有可能的计算。我们的初步观察是,如果服务器只能计算它们需要的中间值,那么存储约束并不直接意味着计算约束。我们研究这是如何影响通信计算的权衡,并建议权衡与预定的存储约束进行研究。然后,我们继续研究服务器需要执行计算密集型任务的情况,并且可能没有足够的时间来执行[1]中方案所需的所有计算。给定一个阈值,限制了计算负载,我们得出了一个下界的相关通信负载,并提出了一个启发式的计划,在某些情况下,实现了下界。
2017-05-24 cs.IT math.IT
Capacity of Wireless Distributed Storage Systems with Broadcast Repair
在无线分布式存储系统中,存储节点之间通过无线信道连接,这些无线信道本质上是广播信道。本文利用这一独特的功能,设计了一个有效的修复机制,称为广播修复,无线分布式存储系统中存在的多个节点的故障。由于无线传输的广播性质,我们提倡一种新的措施修复性能称为修复传输带宽。修复带宽测量的是新节点替换故障节点时下载的平均数据包数量,而修复传输带宽测量的是每个故障节点上辅助节点传输的平均数据包数量。通过将存储系统建模为多播网络,并分析相应信息流图的最小割,对具有广播修复的无线分布式存储系统的存储容量进行了基础性研究。存储效率和修复传输带宽之间的基本权衡也得到功能修复。广播修复的性能进行了比较分析和数值与合作修复,有线分布式存储系统的多节点故障的基本修复方法。虽然合作修复是基于允许新来者交换数据包的想法,但广播修复是基于允许帮助者同时向所有新来者广播数据包的想法。我们发现,广播修复优于合作修复,提供了更好的存储效率和修复传输带宽之间的权衡。
2017-07-06 cs.IT math.IT
Asymptotic Spectral Efficiency of the Uplink in Spatially Distributed Wireless Networks With Multi-Antenna Base Stations
一个代表性的上行链路的一个给定的长度,在干扰有限的,空间分布的无线网络与六边形小区,简单的功率控制,和多天线线性最小均方误差接收器的频谱效率被发现接近一个渐近线的基站天线N和无线节点的数量趋于无穷大。面积平均频谱效率的代表性的链接(平均的空间基站和移动分布),泊松分布的基站的近似值,也提供。对于大的N,在干扰受限的制度,面积平均频谱效率主要是N的乘积与基站与无线节点密度的比率的比率的函数,这表明可以通过线性增加基站天线的数量和基站与无线节点的相对密度的乘积来扩展这样的网络,无线节点密度。结果是有用的无线系统的设计人员与高小区间干扰,因为它提供了简单的表达式作为有形的系统参数,如基站和无线节点密度,和天线的数量的函数的频谱效率。这些结果是结合无限随机矩阵理论和随机几何导出的。
2013-02-20 cs.IT math.IT
Distributed SIR-Aware Scheduling in Large-Scale Wireless Networks
原则上,主动调度和路由可以极大地增加分散式无线网络的吞吐量,但为了实用,它们必须在少量及时的边信息的情况下这样做。在本文中,我们提出了低开销的分布式机会调度(DOS)的三种技术,并精确地确定其对整体网络中断概率和传输容量(TC)的影响。第一种是分布式信道感知调度(DCAS),第二种是分布式信道感知调度(DIAS),第三种是对这两种调度的概括和组合,称为分布式信道感知调度(DICAS)。一个贡献是确定最佳信道和干扰阈值,给定的隔离发射机应该估计和应用时,调度自己的传输。使用该阈值,量化并比较每种技术的精确网络范围增益。我们的结论是考虑在接收机的干扰消除,并找到它提高了多少中断概率。
2011-07-20 cs.IT math.IT
Perturbation-based Distributed Beamforming for Wireless Relay Networks
本文研究了半双工放大转发中继无线网络中的分布式波束形成技术。现有的方案优化波束成形权值的基础上的假设,信道状态信息(CSI)是可用的中继。我们建议使用自适应波束形成的基础上确定性扰动和有限的反馈(1位)从目的地到中继,以避免CSI在中继。两个可扩展的扰动计划被认为是实际的实施方面得到解决。仿真结果表明,所提出的技术接近最佳性能,并在时变环境中具有令人满意的跟踪性能。
2008-09-30 cs.IT math.IT
MDS-Coded Distributed Storage for Low Delay Wireless Content Delivery
我们解决了使用最大距离可分离(MDS)码的分布式存储(DS),使高效的内容在无线网络中的交付。内容被存储在多个移动设备中,并且可以使用设备到设备通信从移动设备检索,或者可替换地,从基站(BS)检索。在网络可靠性状态周期性恢复的假设下,我们推导出了下载延迟的解析表达式。我们的分析表明,MDS编码的DS可以显着减少下载时间的参考方案,内容总是从BS下载。
2016-08-29 cs.IT math.IT
Distributed Source Localization in Wireless Underground Sensor Networks
节点定位在无线地下传感器网络(WUSNs)的许多实际应用中起着重要作用,例如确定地震震中、地下爆炸和矿井中的微震事件的位置。由于地下环境中不利的信道特性,在无线传感器网络中获取到达时间差(TDOA)测量比地面无线传感器网络更困难。鲁棒中国剩余定理(RCRT)已被证明是解决无线传感器网络中相位模糊问题和频率估计问题的有效工具。本文利用RCRT对WUSS网络中的TDOA或距离差进行鲁棒估计,从而提高了WUSS网络的测距精度。在获得距离差后,提出了一种基于扩散策略的分布式源定位算法,在满足定位精度要求的同时降低了通信开销。仿真结果验证了所提方法的有效性。
2011-12-17 cs.IT math.IT
Adaptive Link Selection Strategies for Distributed Estimation in Wireless Sensor Networks
在这项工作中,我们提出了自适应链路选择策略的分布式估计扩散型无线网络。我们开发了一个基于穷举搜索的链路选择算法和一个稀疏启发的链路选择算法,可以利用网络的拓扑结构与低质量的链接。在基于穷举搜索的算法中,我们选择导致特定节点的最小超额均方误差(EMSE)的邻居集合。在稀疏启发链路选择算法中,引入凸正则化设计了一种稀疏启发链路选择算法。所提出的算法有能力装备扩散型无线网络,并显着提高其性能。仿真结果表明,与现有算法相比,所提算法具有更低的EMSE值和更好的收敛速度,显著提高了网络性能。
2014-01-15 cs.IT math.IT
On some distributed scheduling algorithms for wireless networks with hypergraph interference models
结果表明,超图干扰模型下的无线自组织网络中的最大调度算法的性能可以进一步远离最优比以前已知的。这种分布式的,贪婪的调度算法的确切的最坏情况下的性能进行了分析。
2021-02-02 cs.IT cs.NI math.IT
A Distributed Data Collection Algorithm for Wireless Sensor Networks with Persistent Storage Nodes
提出了一种分布式数据汇集算法,用于无线传感器网络获取信息的准确存储转发。该算法不依赖于传感器网络的拓扑结构,路由表,或传感器节点的地理位置,而是利用均匀分布的存储节点。分析和仿真结果表明,该算法可以通过查询任意小的存储节点集,以很高的概率精确收集到传感器节点所传播的数据。
2010-11-11 cs.IT cs.NI math.IT
Distributed Low-Rank Estimation Based on Joint Iterative Optimization in Wireless Sensor Networks
University of York(约克大学);PUC-Rio(里约热内卢天主教大学);Princeton University(普林斯顿大学)
提出了一种新的分布式降秩算法和一种自适应分布式估计算法。建议的分布式方案是基于一个变换,在网络的每个代理进行降维,然后由一个降维参数向量。提出了一种分布式降秩联合迭代估计算法,与现有技术相比,该算法能够显著降低通信开销,提高估计性能。仿真结果表明,所提出的策略在收敛速度和均方误差性能方面的优势。
2014-11-05 cs.IT cs.LG math.IT
Wireless Federated Distillation for Distributed Edge Learning with Heterogeneous Data
Korea Advanced Institute of Science and Technology(韩国科学技术院);King’s College London(伦敦国王学院)
用于分布式机器学习的协作训练方法通常假设无噪声和理想的通信信道。这项工作研究了无线通信链路的存在所带来的机遇和挑战。我们特别考虑无线实现的联邦学习(FL)和联邦蒸馏(FD),以及一种新的混合联邦蒸馏(HFD)计划。这两个数字实现的基础上单独的源信道编码和空中计算实现的基础上联合源信道编码提出和评估高斯多址信道。
2019-07-05 cs.IT cs.LG math.IT
Distributed Learning in Wireless Networks: Recent Progress and Future Challenges
Princeton University(普林斯顿大学);Imperial College London(帝国理工学院);The University of Hong Kong(香港大学);Virginia Tech(弗吉尼亚理工大学);University of Oulu(奥卢大学);Ericsson Research(爱立信研究院)
下一代无线网络将使许多机器学习(ML)工具和应用程序能够有效地分析边缘设备收集的各种类型的数据,以实现推理、自治和决策目的。然而,由于资源限制、延迟限制和隐私挑战,边缘设备无法将其整个收集的数据集卸载到云服务器,以集中训练其ML模型或进行推理。为了克服这些挑战,分布式学习和推理技术被提出作为一种手段,使边缘设备能够在没有原始数据交换的情况下协作训练ML模型,从而减少通信开销和延迟,并提高数据隐私。然而,在无线网络上部署分布式学习面临若干挑战,包括不确定的无线环境、有限的无线资源(例如,发射功率和无线电频谱)以及硬件资源。本文全面研究了如何在无线边缘网络上高效地部署分布式学习。我们提出了一个详细的概述几个新兴的分布式学习范式,包括联邦学习,联邦蒸馏,分布式推理,和多智能体强化学习。对于每个学习框架,我们首先介绍了在无线网络上部署它的动机。然后,我们提出了一个详细的文献回顾,其有效的部署使用的通信技术。然后,我们介绍了一个说明性的例子来展示如何优化无线网络,以提高其性能。最后,我们介绍了未来的研究机会。简而言之,本文提供了一套关于如何在现实世界的无线通信网络上部署广泛的分布式学习框架的整体指导方针。
2021-04-05 cs.IT cs.LG math.IT
Exploiting Interference for Efficient Distributed Computation in Cluster-based Wireless Sensor Networks
本文提出了一些新的想法,如何提高共识算法在分布式无线传感器网络的性能,当考虑通信成本。特别感兴趣的是共识算法,利用无线信道的广播属性,以提高收敛速度方面的性能。为此,我们提出了一种新的基于聚类的共识算法,利用干扰计算,同时减少网络中的能量消耗。由此产生的优化问题是一个半定的程序,它可以离线解决系统启动之前。
2014-09-03 cs.DC cs.IT math.IT
Iterative Power Control for Wireless Networks with Distributed Reconfigurable Intelligent Surfaces
可重构智能表面(RIS)是一种新的范例,通过明智的部署和对齐,可以实现更有利的传播环境和更好的无线网络设计。因此,它们可以为下一代无线系统提供许多潜在的好处,包括改善覆盖范围,更好的干扰管理甚至安全性。在本文中,我们考虑一个上行链路的下一代无线系统,每个用户的协助与RIS。我们研究了这种分布式RIS辅助无线网络中的上行链路功率控制问题。具体来说,我们的目标是最小化总上行链路发射功率的所有用户受到每个用户的可靠通信要求在基站的功率,接收机滤波器和RIS相位矩阵的联合设计。我们提出了一种迭代功率控制算法,结合逐次凸逼近技术来解决非凸相位约束的问题。数值结果表明,分布式RIS援助导致上行链路功率节省时,直接链路是弱的。
2022-12-02 cs.IT eess.SP math.IT
Distributed Learning in Wireless Sensor Networks
在无线传感器网络等应用中的分布式或分散式检测和估计问题通常被认为是在参数模型的框架中,其中对自然的统计描述进行了强有力的假设。在某些应用中,这样的假设是有道理的,从这些模型设计的系统显示出希望。然而,在其他情况下,先验知识充其量是模糊的,将这种知识转化为统计模型是不可取的。应用程序,如这些铺平了道路,分布式检测和估计的非参数研究。在本文中,我们回顾了作者最近的工作,其中一些基本模型的分布式学习被认为是。这些模型符合非参数统计学经典工作的精神,适用于无线传感器网络。
2005-03-26 cs.IT cs.LG math.IT
Distributed Scheduling Algorithms for Optimizing Information Freshness in Wireless Networks
信息年龄(AoI)测量自在源处生成最后一个接收到的信息包以来所经过的时间。本文研究了在时变信道和成对干扰约束条件下,无线网络中单跳流的AoI最小化问题。我们认为简单,但广泛的,类的分布式调度策略,其中传输尝试在每个链路上有一定的尝试概率。我们得到了一个有趣的最佳尝试概率和最佳的AoI的链接之间的关系,及其相邻的链接。然后,我们证明了最佳尝试概率可以通过求解凸优化问题来计算,这可以分布式完成。
2018-03-17 cs.IT cs.NI math.IT
A Distributed Merge and Split Algorithm for Fair Cooperation in Wireless Networks
本文介绍了一种新的概念,从联盟博弈论,它允许动态形成的无线节点之间的联盟。构造了一种简单的分布式联盟形成合并与分裂算法。该算法被应用于研究虚拟MIMO编队的单天线发射机之间的合作所产生的增益。我们的目标是找到一个最终的发射机联盟结构,允许合作用户,以最大限度地提高他们的效用,同时占联盟形成的成本。通过这种新颖的博弈理论框架,无线网络发射机能够自组织,形成一个结构化的网络组成的不相交的稳定联盟。仿真结果表明,该算法可以提高平均单个用户效用26.4%,并能应对分布式用户的移动性。
2008-02-15 cs.GT cs.IT math.IT
A Low-Cost Robust Distributed Linearly Constrained Beamformer for Wireless Acoustic Sensor Networks with Arbitrary Topology
我们提出了一种新的鲁棒分布式线性约束波束形成器,它利用一组线性等式约束,以减少交叉功率谱密度矩阵的块对角形式。所提出的波束形成器具有方便的目标函数,可用于任意分布式网络拓扑,同时具有与集中式实现相同的性能。此外,新的优化问题是强大的相对声学传递函数(RATF)估计误差和目标活动检测(SAR)的错误。两种变体的建议波束形成器的多麦克风语音增强的无线声传感器网络的背景下,并进行评估,并与其他国家的最先进的分布式波束形成器的通信成本和鲁棒性的RATF估计误差和干扰误差。
2018-05-04 cs.IT eess.SP math.IT
Massively Distributed Antenna Systems with Non-Ideal Optical Fiber Front-hauls: A Promising Technology for 6G Wireless Communication Systems
采用大规模分布式天线使无线接入点(RAP)更接近用户,从而实现积极的频谱重用,可以弥合未来无线系统中稀缺的频谱资源和极高的连接密度之间的差距。示例包括云无线电接入网络(C-RAN)、超密集网络(UDN)和无小区大规模多输入多输出(MIMO)系统。这些系统通常以光纤-无线通信(FWC)的形式设计,其中分布式天线或RAP通过光前传连接到中央单元(CU)。大量密集部署的天线或RAP需要广泛的光学前传基础设施。因此,光前传网络的成本、复杂性和功耗可能主导整个系统的性能。本文提供了一个概述和展望的架构,建模,设计和性能的大规模分布式天线系统与非理想的光学前回。光前传和无线接入链路之间的复杂交互需要通过联合利用其独特特性来优化光域和无线域的设计。它表明,与模拟射频光纤(RFoF)链路的系统优于其基带光纤(BBoF)或中频光纤(IFoF)的系统具有较短的光纤长度和更多的RAP,这都是未来的无线通信系统所需的属性。
2020-08-18 cs.IT eess.SP math.IT
Multi-Agent Reinforcement Learning in Wireless Distributed Networks for 6G
本文系统综述了面向6G的MARL辅助无线分布式网络,分析其数学背景、网络结构、MARL方法分类、关键挑战及与信息瓶颈、镜像学习等新兴技术的结合,并展望未来研究方向。
2025-02-09 cs.IT cs.SY eess.SY
Raptor Codes Based Distributed Storage Algorithms for Wireless Sensor Networks
本文研究了一个大规模无线传感器网络中的分布式存储问题,该网络中的$n$节点之间$k$获取(感知)独立的数据.目标是在整个网络中传播所获取的信息,使得每个$n$传感器存储一个可能编码的分组,并且对于一些小的$ε>0$,可以稍后以计算简单的方式从任何$(1+ε)k$节点恢复原始$k$数据分组。我们提出了两个基于Raptor码的分布式存储算法来解决这个问题。在第一种算法中,所有传感器都具有$n$和$k$的知识。在第二种情况下,我们假设没有传感器具有这样的全局信息。
2009-03-03 cs.DS cs.IT cs.NI
Distributed Consensus in Wireless Networks with Probabilistic Broadcast Scheduling
我们认为在无线网络中的分布式平均共识部分通信,以减少在每一次迭代/轮的传输次数。考虑到无线信道的广播性质,我们提出了一种概率的方法,调度一个子集的节点广播信息到他们的邻居在每一轮。我们比较了几个探试法分配节点广播概率下的固定数量的每轮传输。此外,我们引入了一个预补偿方法来纠正共识值和初始值的平均值之间的偏差,并建议我们的设计可能的扩展。我们的研究结果是特别相关的开发通信效率的共识协议在无线环境中有限的频率/时间资源。
2023-01-27 cs.IT cs.MA cs.SY
Distributed Cross-Layer Optimization in Wireless Networks: A Second-Order Approach
针对无线网络中分布式跨层优化收敛慢的问题,提出基于牛顿法的二阶算法,通过推导闭式Hessian逆和分布式迭代矩阵分裂方案,实现二次收敛速率。
2013-02-16 cs.DC cs.IT cs.NI