Slack Squeeze Coded Computing for Adaptive Straggler Mitigation
在当今基于云的平台中执行分布式计算时，计算节点之间的执行速度差异会显着降低性能并产生瓶颈，如掉队者。编码计算技术利用编码理论来注入计算冗余并减轻分布式计算中的掉队者。在本文中，我们提出了一个动态的工作负载分配策略的编码计算称为松弛挤压编码计算（$S^2C^2$）。$S^2C^2$挤压计算松弛（即，开销），其通过根据所有快节点和慢节点的速度有效地为它们分配工作并且不需要重新分发数据来构建到编码的计算框架中。我们实现了一个基于LSTM的速度预测算法来预测计算节点的速度。我们评估$S^2C^2$的线性代数算法，梯度下降，图排名，图过滤算法。我们证明了19%至39%的总计算延迟减少使用$S^2C^2$相比，作业复制和编码计算。我们进一步展示了如何$S^2C^2$可以应用到矩阵向量乘法之外。
2019-08-31 cs.DC cs.IT math.IT
A New Combinatorial Design of Coded Distributed Computing
Li等人在2015年提出的编码分布式计算是一种在MapReduce等一般分布式计算框架中交易计算能力以减少通信负载的有效方法。特别地，Li等人示出了将映射阶段中的计算负载增加$r$的因子可以创建编码的多播机会，以将缩减阶段中的通信负载减少相同的因子。然而，在实践中有两大局限性。首先，当计算节点的数量变大时，它需要指数级数量的输入文件（数据批）。其次，它迫使每个$s$计算节点计算一个Map函数，这导致需要大量的Map函数来实现所承诺的增益。在本文中，我们试图克服这两个限制，提出了一种新的编码分布式计算方法的基础上组合设计。我们证明，当计算节点的数量变得很大时，1）所提出的方法需要的输入文件的数量呈指数级减少; 2）所需的Map函数的数量也呈指数级减少。同时，所得到的计算-通信权衡保持乘法增益相比，传统的未编码的单播，并实现了信息理论的下界不对称的一些系统参数。
2018-02-12 cs.DC cs.IT math.IT
Decoding and Computing Algorithms for Linear Superposition LDPC Coded Systems
本文研究线性叠加系统，其中叠加信号的所有分量都用一个相同的二进制低密度奇偶校验码（LDPC）进行编码。
2019-09-20 cs.IT math.IT
Multilevel Binary Polar-Coded Modulation Achieving the Capacity of Asymmetric Channels
研究了一种仅使用二进制极化码和Honda Yamamoto概率成形的多级编码调制方案。该计划是实现离散无记忆通道的容量与输入字母的基数的2的幂。有限长度实现的性能进行比较，极性编码的概率幅度整形和恒定成分分布匹配。
2022-06-13 cs.IT math.IT
List-Decodable Coded Computing: Breaking the Adversarial Toleration Barrier
University of Michigan（密歇根大学）；University of Southern California（南加州大学）
我们考虑编码计算的问题，其中计算任务在对抗性工人存在的情况下以分布式方式执行。我们提出了一些技术来打破以前在编码计算中已知的对抗性容忍阈值障碍。更具体地说，我们利用列表解码技术折叠里德-所罗门码，并提出了新的算法来恢复正确的码字使用边信息。在编码计算设置中，我们展示了主节点如何执行某些精心设计的额外计算以获得边信息。与每个工作人员完成的计算相比，计算这些辅助信息的工作量可以忽略不计。然后利用该边信息来修剪列表解码器的输出，并唯一地恢复真实结果。我们进一步提出了折叠拉格朗日编码计算（FLCC），将开发的技术到一个特定的编码计算设置。我们的研究结果表明，FLCC优于LCC，打破了可以容忍的对手数量的障碍。特别地，FLCC中的相应阈值与LCC相比渐进地提高了两倍。
2021-08-19 cs.DC cs.IT cs.LG
Trellis-Coded Quantization Based on Maximum-Hamming-Distance Binary Codes
网格编码量化的大多数设计方法利用网格编码量化与网格编码调制的二元性，并使用相同的卷积码来标记网格分支。这封信提出了一种替代方法，而不是利用最大汉明距离卷积码。建议的源代码被证明是具有竞争力的最好的文献中相同的计算复杂性。
2007-12-20 cs.IT math.IT
A New Combinatorial Coded Design for Heterogeneous Distributed Computing
Li等人在2015年提出的编码分布式计算（CDC）提供了一种有效的方法来交易计算能力，以减少MapReduce和Spark等一般分布式计算框架中的通信负载。特别地，将映射阶段中的计算负载增加因子r可以创建编码的多播机会，以将混洗阶段中的通信负载减少相同的因子。然而，CDC方案是为同构设置而设计的，其中计算节点上的存储、计算负载和通信负载是相同的。此外，它需要一个指数级的大量输入文件（数据批次），减少功能和多播组相对于节点的数量，以实现承诺的收益。我们提出了一种新的CDC方法的基础上的组合设计，它适应异构网络的节点具有不同的存储和计算能力，解决了CDC的局限性。此外，所提出的方法需要一个指数级更少的输入文件的数量相比，李等人提出的原始CDC计划。同时，由此产生的计算通信权衡保持乘法增益相比，传统的未编码单播和渐近实现李等人提出的最佳性能。
2020-07-21 cs.DC cs.IT math.IT
Coded Distributed Computing with Pre-set Assignments of Data and Output Functions
针对数据与输出函数预设的分布式计算系统，提出OSCT和FSCT两种编码传输方案，通过分簇多轮编码最大化多播增益，并给出最优性充分条件，降低通信负载。
2025-01-08 cs.DC cs.IT math.IT
Coded Federated Computing in Wireless Networks with Straggling Devices and Imperfect CSI
分布式计算平台通常假定处理器之间的可靠和专用连接的可用性。这项工作考虑了一种替代方案，相关的无线数据中心和联邦学习，其中的分布式处理器，一般不同的编码数据上操作，通过共享的无线信道通过全双工传输访问连接。该研究考虑了无线和计算损伤，包括干扰，不完美的信道状态信息和离散的处理器，它假设了一个映射-洗牌-减少编码的计算范式。系统的总延迟，作为计算和通信延迟的总和，研究了不同的洗牌策略，揭示了分布式计算，编码和合作或协调传输之间的相互作用。
2019-01-16 cs.IT math.IT
Compressed Coded Distributed Computing
通信开销是大规模分布式计算系统中的主要性能瓶颈之一，特别是对于机器学习应用。传统上，压缩技术用于通过尽可能多地组合相同计算任务的中间结果来减少通信的负荷。最近，通过编码的分布式计算（CDC）的发展，已经表明，可以实现跨不同计算任务的中间结果的编码机会，以进一步减少通信负载。我们提出了一个新的方案，命名为压缩编码分布式计算（简称压缩CDC），它联合利用上述两种技术（即，组合相同计算的中间结果并对不同计算的中间结果进行编码）以显著地减少在机器学习中普遍存在的具有最终阶段中的中间结果的线性聚集（约简）的计算的通信负载（例如，分布式训练算法，其中部分梯度被分布式地计算，然后在最后阶段被平均）。具体地，压缩CDC首先压缩/组合用于单个计算的若干中间结果，然后利用多个这样的组合分组来创建同时对多个计算有用的编码多播分组。我们的特点，可实现的压缩CDC的通信负载，并表明，它大大优于合并方法和CDC计划。
2018-05-05 cs.DC cs.IT math.IT
Topological Coded Distributed Computing
本文考虑了最初由Li等人提出的类似MapReduce的编码分布式计算框架，其在分布式计算服务器交换其计算的中间值时使用编码技术，以便减少总业务负载。他们的原始模型服务器通过允许广播传输的无错误公共通信总线连接。然而，这种假设是实践中的主要限制之一，因为实际的云计算网络拓扑比简单的单个总线涉及更多。我们建立了一个拓扑编码的分布式计算问题，其中分布式服务器之间通过交换网络进行通信。通过使用一种特殊的胖树拓扑结构，称为t元胖树由Al-Fares等人提出的，它可以由一些廉价的交换机，我们提出了一种编码的分布式计算方案，以实现最小的最大链路通信负载定义为所有链路上的最大负载。
2020-04-09 cs.IT math.IT
Polar Coded Computing: The Role of the Scaling Exponent
我们考虑使用极化码的编码分布式计算的问题。编码计算系统的平均执行时间与Soleymani，Jamali和Mahdavifar最近的工作中通过二进制擦除信道传输的错误概率有关，其中研究了二进制线性码的性能。在本文中，我们专注于极化码，并揭示了平均执行时间和代码族的标度指数$μ$之间的联系。标度指数已经成为极化码的有限长度表征中的中心对象，并且它捕获了容量的收敛速度。特别地，我们表明（i）极化码的归一化平均执行时间与最优MDS码的归一化平均执行时间之间的差距是$O(n^{-1/μ})$，以及（ii）通过考虑具有大内核的极化码，该上限可以被改进为大致$O(n^{-1/2})$。我们推测，这些界限可以提高到$O(n^{-2/μ})$和$O(n^{-1})$，分别，并提供了一个启发式的参数，以及支持这一观点的数值证据。
2022-02-01 cs.DC cs.IT math.IT
Heterogeneous Computation Assignments in Coded Elastic Computing
我们研究了异构编码弹性计算（CEC）网络的最优设计，其中机器具有不同的相对计算速度。Yang介绍的CEC { \it et al.}是一个框架，它减轻了弹性事件的影响，其中机器加入和离开网络。使用最大距离可分离（MDS）代码将一组数据分布在存储受限的机器之间，使得特定大小的机器的任何子集都可以执行所需的计算。这种设计消除了在每个弹性事件之后重新分发数据的需要。在这项工作中，我们开发了一个过程中的任意异构计算网络，通过定义一个最佳的计算负载，或分配给每台机器的计算数量，以尽量减少整体计算时间。然后，我们提出了一个算法来定义一个特定的计算分配之间的机器，利用MDS代码，并满足最佳的计算负载。
2020-01-12 cs.DC cs.IT math.IT
Novel Constructions for Computation and Communication Trade-offs in Private Coded Distributed Computing
Indian Institute of Technology, Kanpur（坎普尔印度理工学院）；TU Dortmund（多特蒙德工业大学）；Linköping University（林雪平大学）
本文提出了一种新的隐私保护分布式计算模型，通过扩展PDA框架探讨计算与通信的权衡，利用优化策略缓解隐私带来的通信开销。
2026-01-12 cs.IT math.IT
A Unified Coding Framework for Distributed Computing with Straggling Servers
通过对一些线性计算任务在“计算延迟”和“通信负载”之间进行权衡，提出了一种适用于离散服务器的分布式计算的统一编码框架。我们表明，[1]-[3]的编码方案重复中间计算以创建编码多播机会以减少通信负载，[4]，[5]的编码方案生成冗余中间计算以对抗离散服务器可以被视为所提出的框架的特殊实例，通过考虑这种权衡的两个极端：从而分别最小化通信负载或计算等待时间。此外，通过所提出的编码框架实现的延迟-负载折衷允许在该折衷上的任何点处系统地操作以执行分布式计算任务。我们还证明了延迟负载的权衡，这是一个恒定的乘法差距内实现的权衡在两个端点的信息理论下限。
2016-09-06 cs.DC cs.IT math.IT
Basis-Spline Assisted Coded Computing: Strategies and Error Bounds
Indian Institute of Technology Delhi（印度德里理工学院）；International Institute of Information Technology, Hyderabad（印度海得拉巴国际信息技术学院）
本文提出基于三次B-样条插值的编码计算框架，通过利用B-样条的局部支持和光滑性提升稳定性与精度，优于伯鲁特方法。
2026-01-19 cs.IT math.IT
How to Optimally Allocate Resources for Coded Distributed Computing?
今天的数据中心拥有丰富的计算资源，托管由多达数万或数十万台机器组成的服务器集群。为了在数据中心上执行复杂的计算任务，很自然地将计算分布在许多节点上以利用并行处理。然而，随着我们分配越来越多的计算资源到一个计算任务，并进一步分布计算，大量的（部分）计算数据必须在节点之间的计算任务的连续阶段之间移动，因此通信负载可能成为瓶颈。本文研究了分布式计算中计算资源的优化分配问题，目标是使分布式计算中计算和通信两个阶段的总执行时间最小。特别是，我们认为一个通用的MapReduce型分布式计算框架，其中的计算被分解成三个阶段：\emph{Map}，\emph{Shuffle}，和\emph{Reduce}。我们专注于最近提出的\emph{Coded Distributed Computing}方法MapReduce和研究在这个框架中的计算资源的最优分配。对于所有的问题参数值，我们的特点，应用于分布式处理的服务器的最佳数量，提供的地图和减少任务的最佳位置，并提出了一个最佳的编码数据洗牌计划，以尽量减少总的执行时间。为了证明所提出的方案的最优性，我们首先推导出一个匹配的信息论逆的执行时间，然后我们证明，在所有可能的资源分配计划，实现最小的执行时间，我们所提出的方案使用的服务器的数量正好是最少的。
2017-02-23 cs.DC cs.IT math.IT
Mobile Communications, Computing and Caching Resources Optimization for Coded Caching with Device Computing
边缘缓存和计算被认为是解决无线频谱紧缩问题的有效方法。在本文中，我们设计了一个通用的编码缓存与设备计算策略的内容计算，例如，虚拟现实（VR）渲染，以在每个移动终端的缓存容量和能量约束以及每个任务的最大可容忍延迟约束的情况下最小化平均传输带宽。关键使能器是因为编码数据和存储数据都可以是计算之前或之后的数据，所以所提出的方案具有对应于不同带宽要求的许多边缘计算和缓存路径。因此，我们制定了一个联合编码缓存和计算优化问题，以决定是否移动设备缓存输入数据或输出数据，哪些任务要编码缓存和哪些任务本地计算。该优化问题是一个0-1非凸非光滑规划问题，可以分解为计算规划和编码缓存规划。利用交替方向乘子法（ADMM）证明了计算规划问题的收敛性，并得到了一个稳定点。对于编码缓存编程，我们设计了一个低复杂度的算法，以获得一个可接受的解决方案。数值结果表明，该方案提供了一个显着的带宽节省充分利用移动设备的缓存和计算能力。
2020-02-14 cs.IT eess.SP math.IT
Non-Binary Polar Coded System for the Two-User Multiple-Access Channel
本文提出了一种适用于两用户多址接入信道（MAC）的非二进制极化码。为了从GF（q）中选择合适的参数作为生成矩阵，详细研究了不同核因子的非二进制极化码的误出错率（BER）性能。此外，详细介绍了两用户MAC中非二进制极化码的逐次抵消译码。仿真结果表明，核因子的选择对块出错率（BLER）性能有显著影响;在双用户MAC中，非二进制极化码比二进制极化码具有更好的BLER性能。
2021-11-06 cs.IT math.IT
Coded FFT and Its Communication Overhead
我们提出了一种编码计算策略，并检查编码计算算法的通信成本，使分布式快速傅立叶变换（FFT）在计算过程中的错误有弹性。本文将最大距离可分码（MDS）应用于一种广泛使用的并行FFT转置算法。在未编码的分布式FFT算法中，最昂贵的步骤是单个“全对全”通信。我们比较这与通信开销的编码在我们的编码FFT算法。我们表明，通过使用一个系统的MDS码，编码的通信开销是可以忽略不计的通信成本相比，在一个未编码的FFT实现，如果奇偶校验节点的数量是最多$o(\log K)$，其中$K$是系统节点的数量。
2018-05-24 cs.DC cs.IT math.IT
Parallel Bit Interleaved Coded Modulation
提出了一种新的比特交织编码调制（BICM）。在新的方案中，称为并行BICM，L相同的二进制码并行使用映射器，一个新提出的有限长度交织器和二进制抖动信号。与以前的方法相反，该方案不依赖于理想的无限长交织器的任何假设。在无记忆信道上，证明了新方案等价于二进制无记忆信道。因此，该方案使人们能够使用为该二进制信道设计的简单二进制码来容易地设计编码调制方案。基于二进制码在二进制信道上的性能，对编码调制方案的整体性能进行了分析评估。从信息论的角度分析了新方案，其中考虑了容量，错误指数和信道色散。该方案的容量与BICM容量相同。该方案的误差指数与最近提出的BICM失配解码指数分析进行了数值比较。
2010-08-17 cs.IT math.IT
Coded Computing Meets Quantum Circuit Simulation: Coded Parallel Tensor Network Contraction Algorithm
针对并行张量网络收缩算法易受节点故障影响的问题，本文首次将编码计算引入该算法，提出2节点编码与超边编码两种方案，分别提升量子模拟的容错增益与通用性。
2024-05-22 cs.IT math.IT
Cascaded Coded Distributed Computing on Heterogeneous Networks
Li等人在2015年提出的编码分布式计算（CDC）提供了一种有效的方法来交易计算能力，以减少MapReduce等一般分布式计算框架中的通信负载。对于更一般的级联CDC，在$r$节点处重复Map计算，以显著减少负责计算$Q$ Reduce函数的节点之间的通信负载$s$时间。虽然提出了一种可实现的级联CDC方案，但它仅适用于同构网络，其中每个计算节点的存储，计算负载和通信负载是相同的。在本文中，我们提出了一种新的组合设计，在异构网络中的节点有不同的存储和计算能力，它可以解决这个限制。我们提供了一个分析表征的计算通信权衡，并表明它是最佳的一个常数因子内，可以优于国家的最先进的同质计划。
2019-01-23 cs.IT math.IT
Near Capacity Approaching for Large MIMO Systems by Non-Binary LDPC Codes with MMSE Detection
本文研究了非二进制LDPC码在具有大量低功率天线的空间复用MIMO系统中的应用。我们证明，这种大的MIMO系统结合低复杂度MMSE检测器和非二进制LDPC码可以实现低误码率在接近MIMO容量。新提出的非二进制LDPC编码系统的性能也优于现有文献中已知的其他编码大型MIMO系统。例如，具有600个发射/接收天线的非二进制LDPC编码的BPSK-MIMO系统在距离容量3.4dB内执行，而最公知的turbo编码系统在距离容量约9.4dB处操作。基于本文提供的仿真结果，所提出的非二进制LDPC编码的大型MIMO系统能够在低比特出错率下支持超高频谱效率。
2012-03-05 cs.IT math.IT
Coded Computing for Half-Duplex Wireless Distributed Computing Systems via Interference Alignment
针对半双工无线分布式计算中的通信瓶颈，提出编码并行计算（CPC）方案，利用编码多播与干扰对齐降低归一化交付时间（NDT），并在乘法差距3内达到阶最优。
2023-10-24 cs.IT math.IT
Cascaded Coded Distributed Computing Schemes Based on Placement Delivery Arrays
Li { \it et al}.在MapReduce等通用分布式计算框架中，引入了编码的分布式计算（CDC）方案来降低通信负载。他们还提出了级联CDC方案，其中每个输出函数被多次计算，并证明了这种方案实现了计算负载和通信负载之间的基本权衡。然而，当计算节点的数量变大时，这些方案需要指数数量的输入文件和输出函数。本文利用布局传递阵列（PDAs）的结构，构造了无限多类级联CDC方案。我们还证明了在所有新方案中输出函数的数目只是计算节点数目的一个因子，并且在我们的新方案中输入文件的数目远小于Li { \it et al}导出的CDC方案中的输入文件的数目.
2021-11-24 cs.IT math.IT
Secure Coded Distributed Computing
本文研究分布式计算模型的安全数据混洗与安全编码计算问题，设计了确保中间值机密性的方法，并建立了通信与计算负载权衡的可达极限。
2024-04-26 cs.IT math.IT
Uncoded Storage Coded Transmission Elastic Computing with Straggler Tolerance in Heterogeneous Systems
针对异构速度、存储约束及掉队者问题，提出USCTEC组合优化框架及启发式算法，以降低矩阵-矩阵乘法的期望计算时间并减少存储开销。
2024-01-22 cs.DC cs.IT math.IT
NeRCC: Nested-Regression Coded Computing for Resilient Distributed Prediction Serving Systems
University of Minnesota（明尼苏达大学）
NeRCC提出一种三层嵌套回归编码计算框架，通过联合优化正则化项解决编码与解码回归的关联，在多种模型和数据集上抗掉队者性能优于现有方法达23%。
2024-02-08 cs.DC cs.IT cs.LG
Ultra Low Complexity Soft Output Detector for Non-Binary LDPC Coded Large MIMO Systems
MIMO系统容量的理论结果表明，天线数目越多，传输速率越高。这使得具有数百个天线的MIMO系统非常有吸引力，但是阻碍这种大维度MIMO系统实际实现的主要问题之一是MIMO检测器的高复杂度。本文提出了一种新的基于匹配滤波的软输出MIMO检测器，该检测器可应用于采用非二进制LDPC码编码的大型MIMO系统。该检测器的每比特复杂度仅为低复杂度软输出MMSE检测器的0.28%，并且仅与天线数成线性关系。此外，具有小信息长度800比特的编码性能与相关联的MIMO容量在4.2dB内。
2012-04-18 cs.IT math.IT
Wireless MapReduce Arrays for Coded Distributed Computing
针对现有编码无线MapReduce分布式计算方案需输入文件数随节点数指数增长的问题，提出基于无线MapReduce阵列的方案，在文件数与节点数同量级时实现同等最优性能。
2024-06-22 cs.DC cs.IT math.IT
Manifold-Aware General Coded Computing for Straggler-Resilient Distributed Computing
University of Minnesota, Twin Cities（明尼苏达大学双城分校）
本文针对现有编码计算未利用数据内在结构的问题，提出流形感知通用编码策略，在神经网络推理和高维多项式评估实验中，该策略可显著降低抗掉队节点场景下的均方恢复误差。
2026-09-02 cs.IT cs.LG math.IT
Generalized Fractional Repetition Codes for Binary Coded Computations
本文提出数值稳定的广义二进制分数重复梯度编码，支持异构服务器、近似平衡生成矩阵与低复杂度解码，并将其扩展为两类不同权衡的编码矩阵乘法方案。
2025-01-12 cs.IT cs.NA math.IT
Multilevel-Coded Pulse-Position Modulation for Covert Communications over Binary-Input Discrete Memoryless Channels
我们开发了一种低复杂度的编码方案来实现二进制输入离散无记忆信道（BI-DMC）上的隐蔽通信。我们通过引入非线性脉冲位置调制（PPM）和多级编码（MLC）的使用，规避了不可能的秘密通信与线性码。我们发现，MLC-PPM计划具有许多吸引人的属性，特别是，在一个给定的索引级别的信道保持不变的水平的数量增加，这使得人们可以使用家庭的信道容量和信道分辨率实现代码具体实例化的隐蔽通信计划。
2018-11-23 cs.IT math.IT
On Securing Berrut Approximated Coded Computing Through Discrete Cosine Transforms
本文针对Berrut近似编码计算缺乏安全性研究的问题，提出安全Berrut近似编码计算（SBACC），通过新的评估点选择使离散余弦变换码具备纠错能力，并推导精度界限以权衡纠错能力与计算精度。
2025-07-02 cs.IT math.IT
Berrut Approximated Coded Computing: Straggler Resistance Beyond Polynomial Computing
Sharif University of Technology（谢里夫理工大学）
利用分布式学习训练具有大数据集的复杂模型的主要挑战之一是如何处理离散效应。作为一种解决方案，最近已经提出了编码计算，以有效地增加冗余的计算任务。在这种技术中，编码是跨数据集使用的，并且计算是在编码数据上完成的，使得具有一定大小的工作节点的任意子集的结果足以恢复最终结果。这些方法的主要挑战是（1）它们仅限于多项式函数计算，（2）我们需要等待的服务器子集的大小随着数据集大小和模型复杂性（多项式的次数）的乘法而增长，这可能非常大，（3）它们在实数上的计算在数值上不稳定。在本文中，我们提出了Berrut近似编码计算（BACC），作为一种替代方法，这是不限于多项式函数计算。此外，主节点可以使用可用工作节点的任意子集的结果来近似计算最终结果。该近似方法被证明是数值稳定的低计算复杂性。此外，近似的准确性建立在理论上，并验证了在不同的设置，如分布式学习问题的仿真结果。特别地，BACC用于在服务器集群上训练深度神经网络，其在收敛速率方面优于重复计算（重复编码）。
2021-11-01 cs.DC cs.IT cs.LG
Coded Fourier Transform
University of Southern California（南加州大学）；Nokia Bell Labs（诺基亚贝尔实验室）
我们考虑计算高维向量的傅立叶变换的问题，分布在一个由主节点和多个工作节点组成的机器集群上，其中工作节点只能存储和处理一小部分输入。我们表明，通过利用傅里叶变换运算的代数结构和利用编码理论的概念，可以有效地处理离散效应。特别是，我们提出了一种计算策略，命名为编码FFT，它实现了最佳的恢复阈值，定义为主节点需要等待的工人的最小数量，以计算输出。这是第一个代码，实现了最佳的鲁棒性方面的容忍离散或故障计算傅立叶变换。此外，编码FFT的重建过程可以映射到MDS解码，这可以有效地解决。此外，我们扩展编码FFT的设置，包括计算一般的$n$维傅立叶变换，并提供这些设置的最佳计算策略。
2017-10-17 cs.DC cs.IT cs.LG
Robust Berrut-Approximated Coded Computing via Discrete Cosine Transforms
Indian Institute of Technology Delhi（印度德里理工学院）
研究针对编码计算中BACC对拜占庭工作节点鲁棒性不足的问题，提出RBACC框架，通过引入新评估点建立与DCT码联系实现错误定位和纠错，推导误差上界并制定优化问题，实验证明该框架能有效减轻相关问题并提高重建精度。
2026-07-27 cs.IT math.IT
Coded Iterative Computing using Substitute Decoding
在本文中，我们提出了一种新的编码计算技术称为“替代解码”一般迭代分布式计算任务。在本文的第一部分中，我们使用PageRank作为一个简单的例子来说明替代解码可以使幂迭代计算稀疏矩阵上的PageRank对分布式系统中的擦除具有鲁棒性。对于这些稀疏矩阵，具有密集生成器矩阵的代码可以显著增加存储成本，并且优选具有低密度生成器矩阵（LDGM）的代码。令人惊讶的是，我们通过理论分析和仿真表明，当使用替代解码，编码迭代计算与极低密度的代码（2或3个非零在每行的生成矩阵）可以实现几乎相同的收敛速度无噪声技术，尽管差的纠错能力的LDGM码。在论文的第二部分，我们讨论了替代解码在解决线性系统和PageRank之外的应用。这些应用包括（1）计算特征向量，（2）计算截断奇异值分解（SVD），以及（3）梯度下降。这些例子表明，替代译码算法有着广泛的应用。
2018-05-15 cs.IT math.IT
Coded Distributed Computing with Partial Recovery
Imperial College London（帝国理工学院）；University of Maryland（马里兰大学）
编码计算技术提供了对分布式计算中分散的工作者的鲁棒性。然而，大多数现有的计划需要精确的离散行为的规定，并忽略离散工人进行的计算。此外，这些方案通常被设计为准确地恢复期望的计算结果，而在许多机器学习和迭代优化算法中，已知更快的近似解导致总体收敛时间的改善。在本文中，我们首先介绍了一种新的编码矩阵向量乘法方案，称为编码计算与部分恢复（CCPR），它受益于编码和未编码的计算方案的优点，并通过允许的准确性和计算速度之间的权衡，降低了计算时间和解码的复杂度。然后，我们提出了一个编码的通信方案与部分恢复，其中的工作人员计算的子任务的结果被编码之前进行通信，将这种方法扩展到更一般的计算任务的分布式实现。一个大型线性回归任务的数值模拟证实了所提出的分布式计算方案与部分恢复的计算精度和延迟之间的权衡方面的好处。
2021-12-06 cs.DC cs.IT cs.LG
Adaptive Verifiable Coded Computing: Towards Fast, Secure and Private Distributed Machine Learning
University of Southern California（南加州大学）
提出自适应可验证编码计算（AVCC）框架，通过解耦拜占庭节点检测与落后节点容忍，动态调整编码方案，在分布式逻辑回归中实现最高7.6倍加速和12.1%精度提升。
2022-03-22 cs.CR cs.DC cs.IT
Communication-Aware Computing for Edge Processing
我们考虑移动边缘计算问题，其中移动用户将其计算任务卸载到计算节点（例如，基站）。边缘节点计算所请求的函数，并经由无线链路将计算结果传送给用户。对于这个问题，我们提出了一个通用编码边缘计算（UCEC）计划的线性函数，同时最大限度地减少计算的负载在边缘节点，并最大限度地提高物理层的通信效率对移动用户。在所提出的UCEC方案中，边缘节点创建用户的编码输入，从这些输入中计算编码输出结果。然后，边缘节点利用计算的编码结果来创建在每个用户处的空中对所有干扰信号进行零强制的通信消息。具体地说，所提出的方案是通用的，因为在边缘节点处执行的编码计算在从边缘节点到用户的通信过程中不注意信道状态。
2017-06-22 cs.IT math.IT
On Optimal Batch Size in Coded Computing
本文研究编码计算系统中冗余级别与批量大小对作业执行时间的影响，并提出了联合优化两者的方法以最小化预期完成时间。
2025-05-09 cs.DC cs.IT cs.PF
Multiple-Function Approximated Coded Computing: Constructions and Error Bounds
Indian Institute of Technology Delhi（印度德里理工学院）；Nanyang Technological University（南洋理工大学）；Technical University of Denmark（丹麦技术大学）
本研究针对模拟域单轮多函数计算的开放问题，将LCC的多函数计算方法扩展至BACC场景，提出基于贝鲁特基函数的构造，其相对误差低于现有方法。
2026-10-21 cs.IT math.IT
Coded Distributed Computing over Packet Erasure Channels
编码计算是一种在分布式计算系统中提供冗余以加速大规模任务的框架。虽然大多数现有的作品假设在一个主-工人设置的无差错的情况下，链路故障是常见的，在当前的有线/无线网络。通过将主节点和工作节点之间的链路建模为数据包擦除通道，研究了链路失效情况下编码分布式计算中的掉队者问题。当主机未能检测到接收到的信号时，每个工作者都需要重新传输，这增加了完成任务的总运行时间。我们首先调查预期的整体运行时间在此设置中使用（n; k）最大距离可分离（MDS）代码。我们得到的上下限的延迟在封闭的形式和指导方针，设计MDS码取决于数据包的擦除概率。最后，我们考虑一个设置中的重传次数是有限的，由于带宽的约束。通过制定有关延迟，传输带宽和成功计算的概率的实际优化问题，我们得到可实现的性能曲线作为数据包擦除概率的函数。
2019-01-11 cs.IT math.IT
Coded Distributed Computing with Heterogeneous Function Assignments
编码分布式计算（CDC）是由Li等人提出的。是在MapReduce框架中用计算负载交换通信负载的有效技术。CDC通过在$r$计算节点处复制映射计算以产生多播机会来实现最优折衷，使得在混洗阶段中同时服务$r$节点。然而，在一般情况下，国家的最先进的CDC计划主要是专为同构网络，其中的计算节点被假定为具有相同的存储，计算和通信能力。在这项工作中，我们探索了两种新的方法，异构CDC设计。首先，我们研究CDC计划，多个，协作同构计算网络上运行。其次，我们允许异构功能分配在CDC设计，其中节点被分配不同数量的减少功能。最后，我们提出了一个可扩展的异构CDC计划，其中$r-1$节点同时在洗牌阶段。在比较的国家的最先进的同质CDC计划具有同等的计算负载，我们发现我们新提出的异构CDC计划在某些情况下有一个较小的通信负载。
2019-03-01 cs.IT math.IT
A Combinatorial Design for Cascaded Coded Distributed Computing on General Networks
编码理论的方法已经发展到显着减少现代分布式计算系统中的通信负载。特别地，Li等人提出的编码分布式计算（CDC）可以有效地交换计算资源以减少MapReduce类计算系统中的通信负载。对于更一般的级联CDC，在r个节点处重复Map计算，以显著减少负责计算Q Reduce函数s次的节点之间的通信负载。在本文中，我们提出了一种新的低复杂度的级联CDC的组合设计，1）确定输入文件和输出函数的分配，2）需要显着较少的输入文件和输出函数的数量，和3）操作在异构网络中的节点具有不同的存储和计算能力。我们提供了一个分析表征的计算-通信的权衡，从我们所提出的方案可以优于国家的最先进的计划由李等人提出的同构网络。此外，当网络是异构的，我们表明，所提出的方案的性能可以优于其同类。此外，该方案是最佳的信息理论的逆界的一个常数的因素，同时固定的输入文件和输出功能的分配。
2020-08-02 cs.CC cs.DC cs.IT
Coded Computing and Cooperative Transmission for Wireless Distributed Matrix Multiplication
考虑多小区移动边缘计算网络，其中每个用户希望计算用户生成的数据矩阵与网络存储的矩阵的乘积。这是通过输入上传、边缘节点（EN）处的分布式计算和输出下载的任务卸载来完成的。任务卸载可能遭受长延迟，因为在一些EN处的服务器可能由于随机计算时间而分散，并且无线信道可能经历严重的衰落和干扰。本文的目的是调查之间的相互作用上传，计算和下载延迟在卸载过程中的高信噪比政权从信息论的角度来看。提出了一种基于级联编码计算和协调和合作的干扰管理在上行链路和下行链路的策略，并证明是近似最优的足够大的上传时间。通过在上行链路传输中投入更多的时间，该策略在EN处创建数据冗余，这可以通过启用编码计算的使用来减少计算时间，以及通过发射机协作来减少下载时间。此外，该策略允许以计算时间换取下载时间。数值例子表明，该策略可以改善现有的计划，显着减少端到端的执行时间。
2021-01-18 cs.IT math.IT
Flexible Coded Distributed Convolution Computing for Enhanced Straggler Resilience and Numerical Stability in Distributed CNNs
College of Computer Science, Chongqing University（重庆大学计算机学院）；School of Electrical Engineering, Korea University（韩国大学电气工程学院）；School of Electronic Information and Communications, Huazhong University of Science and Technology（华中科技大学电子信息与通信学院）；City University of Hong Kong（香港城市大学）
本文提出FCDCC框架，通过CRME扩展和两种编码分区策略实现张量卷积的线性分解与编码冗余，增强分布式CNN的掉队者韧性和数值稳定性，并验证了其高效性与可扩展性。
2025-09-07 cs.AI cs.CV cs.DC
Heterogeneous Coded Computation across Heterogeneous Workers
编码的分布式计算框架使得大规模机器学习（ML）模型能够以分布式方式有效地训练，同时减轻掉队者效应。在这项工作中，我们考虑一个多任务分配问题的编码分布式计算系统中，多个主，每个不同的矩阵乘法任务，分配计算任务的工人与异构计算能力。专用和概率工人分配模型被认为是，目标是最小化所有计算的平均完成时间。针对专用工人分配问题，提出了贪心算法，并基于拉格朗日乘子法推导出相应的最优负载分配。对于概率分配问题，采用逐次凸逼近法求解非凸优化问题。仿真结果表明，所提出的算法的完成时间比未编码的方案减少了80%，比不平衡编码方案减少了49%。
2019-05-19 cs.IT math.IT
Stream Iterative Distributed Coded Computing for Learning Applications in Heterogeneous Systems
为了提高学习应用的效用并使机器学习解决方案对于复杂应用可行，需要大量的繁重计算。因此，它是必不可少的委托计算之间的几个工人，这带来了重大的挑战，应付延迟和故障所造成的系统的异质性和不确定性。特别是，最小化从到达到交付的端到端作业顺序执行延迟，对于现实世界的延迟敏感的应用程序是非常重要的。在本文中，对于计算的每个工作迭代在一个随机异构的分布式系统中的工人在他们的计算和通信能力不同，我们提出了一种新的联合调度编码框架，最佳地分裂工人之间的编码计算负荷。这缩短了工作进程的响应时间之间的差距，并且对于最大化资源利用率至关重要。为了进一步减少有序执行延迟，我们还将冗余计算在分布式计算作业的每次迭代中。我们的仿真结果表明，使用所提出的解决方案获得的延迟是显着低于均匀分裂，这是无视系统的异质性，事实上，是非常接近一个理想的下限只是通过引入一小部分的冗余计算。
2022-04-27 cs.DC cs.IT math.IT
Coded Computing for Fault-Tolerant Parallel QR Decomposition
本文提出一种容错并行QR分解算法，将编码计算融入并行Gram-Schmidt方法，构建满足后正交化条件的校验和生成矩阵，并提出达到最小校验和下界的节点内系统MDS编码策略，以极低开销实现容错。
2023-11-20 cs.DC cs.IT cs.SY
Coded Computing for Master-Aided Distributed Computing Systems
我们考虑一个MapReduce类型的任务运行在一个分布式计算模型，该模型由分布在网络边缘的${K}$边缘计算节点和一个主节点，协助边缘节点计算输出函数。主节点和边缘节点，都配备了一些存储器和计算能力，通过多播网络连接。我们分别定义了顺序实现（所有节点顺序发送符号）和并行实现（主节点可以在边缘节点的传输期间发送符号）在传输期间花费的通信时间。提出了一种混合编码的分布式计算方案，将系统分为两个子系统，其中第一个子系统采用了李松泽\emph{et al.}提出的编码分布式计算（CDC）策略，第二个子系统采用了一种新的主辅助CDC策略。我们证明了这个方案是最优的，即，实现了顺序和并行实现的最小通信时间，并在总通信时间、计算负载和主节点的存储容量之间建立{ \emph{optimal} }信息理论折衷。它表明，将主节点与存储和计算能力相结合可以进一步减少通信时间。对于顺序实现，我们推导出两个子系统之间的近似最优文件分配，这表明主节点应该映射尽可能多的文件，以实现更小的通信时间。对于并行实现，如果主节点的存储和计算能力足够大（不需要存储和映射所有文件），那么所提出的方案最多需要1/2的系统的最小通信时间没有主节点的帮助。
2020-10-21 cs.IT math.IT
Balancing Privacy and Robustness in Coded Computing Under Profiled Workers
Indian Institute of Technology Delhi（印度德里理工学院）
本文研究了在NS-LCC框架中如何通过优化索引分配平衡隐私与鲁棒性，提出了一种低复杂度的贪心策略以近似最优平衡。
2026-01-26 cs.IT math.IT
