On the Optimal Recovery Threshold of Coded Matrix Multiplication
我们为分布式矩阵-矩阵乘积提供了新的编码计算策略，其在恢复阈值方面优于最近的“多项式码”构造，即，成功工人的数量。当每个矩阵的第$m$个部分可以存储在每个工作节点中时，多项式代码需要$m^2$成功的工作者，而我们的MatDot代码只需要$2m-1$成功的工作者，尽管从每个工作者到融合节点的通信成本更高。我们还提供了一个系统的MatDot码的建设。此外，我们提出了“PolyDot”编码，插值多项式代码和MatDot代码之间的权衡通信成本和恢复阈值。最后，我们展示了一个编码技术乘以$n$矩阵（$n \geq 3$）应用MatDot和PolyDot编码的想法。
2018-05-16 cs.DC cs.IT math.IT
CodedSketch: A Coding Scheme for Distributed Computation of Approximated Matrix Multiplication
在本文中，我们提出了CodedSketch，作为一个分布式的抗离散计划来计算两个大规模矩阵的乘法近似。目标是降低恢复阈值，恢复阈值定义为我们需要等待才能恢复最终结果的工作节点的总数。为了利用仅需要近似结果的事实，在降低恢复阈值时，需要某些种类的预压缩。然而，压缩固有地涉及一些随机性，这将丢失矩阵的结构。另一方面，考虑矩阵的结构是降低恢复阈值的关键。在CodedSketch中，我们在第一个矩阵的行和第二个矩阵的列上使用count--sketch作为基于哈希的压缩方案，并在第一个矩阵的列和第二个矩阵的行上使用结构化多项式代码。这种安排使我们能够利用两者的增益来降低恢复阈值。为了提高计算精度，需要多个独立的计算草图。这种独立性使我们能够从理论上表征结果的准确性，并建立所提出的方案实现的恢复阈值。为了保证输出中的结果计数-草图的独立性，同时保持其恢复阈值上的成本最小，我们使用另一层结构化代码。
2021-02-12 cs.DC cs.IT math.IT
Wireless Distributed Matrix-Vector Multiplication using Over-the-Air Computation and Analog Coding
本文提出一种基于空中计算（OTA）的分布式矩阵-向量乘法方法，通过列划分实现负载均衡并提升系统可扩展性，同时引入模拟编码方案，在减少无线电资源需求下达到与传统编码乘法方案相当的性能。
2024-02-17 cs.DC cs.IT cs.SY
Fast Xor-based Erasure Coding based on Polynomial Ring Transforms
MDS纠删码软件实现的复杂度主要取决于有限域运算实现的效率。本文提出了一种降低有限域乘法复杂度的方法，即利用域与环之间的快速变换在环上进行乘法运算。我们表明，移动到一个环降低了操作的复杂性。然后，我们表明，这种结构允许使用简单的调度，以减少操作的数量。
2017-06-13 cs.IT math.IT
Factored LT and Factored Raptor Codes for Large-Scale Distributed Matrix Multiplication
我们提出了两种编码方案的分散矩阵乘法的存在下的离散。这些编码方案是LT码和Raptor码对分布式矩阵乘法的适应，并且被称为\emph{factored LT (FLT) codes}和\emph{factored Raptor (FR) codes}。从经验上讲，我们表明，FLT码有接近最佳的恢复阈值时，工人节点的数量是非常大的，FR码有很好的恢复阈值，而工人节点的数量是适度的大。与乘积码相比，FLT和FR码具有更好的恢复阈值，并且与多项式码相比，预期它们具有更好的数值稳定性，同时它们也可以用低复杂度的解码算法来解码。
2019-07-25 cs.IT math.IT
Rateless Codes for Near-Perfect Load Balancing in Distributed Matrix-Vector Multiplication
大规模机器学习和数据采掘应用需要计算机系统执行需要跨多个节点并行化的大量矩阵-向量和矩阵-矩阵乘法运算。离散节点的存在--不可预测地减慢或失败的计算节点--是这种分布式计算中的主要瓶颈。理想的负载均衡策略是将更多任务动态分配给更快的节点，需要了解或监控节点速度以及快速移动数据的能力。最近提出的固定速率擦除编码策略可以处理不可预测的节点减速，但他们忽略了离散节点所做的部分工作，从而导致大量的冗余计算。我们提出了一个\emph{rateless fountain coding}策略，实现了两全其美-我们证明了它的延迟是渐近等于理想的负载均衡，它执行渐近零冗余计算。我们的想法是创建矩阵的$m$行的线性组合，并将这些编码的行分配给不同的工作节点。只要节点共同完成略多于$m$的行向量乘积，就可以解码原始矩阵向量乘积。我们在三个计算环境中进行实验：本地并行计算，Amazon EC2和Amazon Lambda，这表明无比率编码与未编码方案相比可以提供尽可能多的$3\times$速度。
2019-10-30 cs.DC cs.IT math.IT
Secure Private and Adaptive Matrix Multiplication Beyond the Singleton Bound
本文研究了分布式矩阵-矩阵乘法的安全保密码的设计问题。主服务器拥有两个私有矩阵，并雇佣工作节点来帮助计算它们的乘积。矩阵应该保持信息-理论上对工人来说是私有的。有些worker是恶意的，会将损坏的结果返回给master。我们设计了一个框架，以防止恶意工作者在私有矩阵矩阵乘法。其主要思想是小心使用Freivalds算法来检测错误的矩阵乘法。我们的主要目标是将这个安全框架应用于具有自适应速率的方案。自适应方案将工作器划分为簇，从而在以解码复杂度换取效率方面提供灵活性。我们的新方案，SRPM 3，提供了一个计算效率高的安全检查每个集群，检测一个或多个恶意工作者的存在与高概率。额外的每个工作人员检查用于识别恶意节点。SRPM 3可以容忍任意数量的恶意工作人员的存在。我们提供了理论保证的复杂性的安全检查和仿真结果，漏检率以及完整性检查所需的时间。
2022-02-14 cs.DC cs.IT math.IT
Generalized Fractional Repetition Codes for Binary Coded Computations
本文提出数值稳定的广义二进制分数重复梯度编码，支持异构服务器、近似平衡生成矩阵与低复杂度解码，并将其扩展为两类不同权衡的编码矩阵乘法方案。
2025-01-12 cs.IT cs.NA math.IT
Multivariate Polynomial Codes for Efficient Matrix Chain Multiplication in Distributed Systems
Centre Tecnològic de Telecomunicacions de Catalunya (CTTC/CERCA)（加泰罗尼亚电信技术中心）
本文提出多变量多项式码用于分布式系统中的矩阵链乘法，通过减少存储开销来平衡计算与存储效率。
2026-01-13 cs.DC cs.IT math.IT
Random Sampling for Distributed Coded Matrix Multiplication
矩阵乘法是在各种应用（包括机器学习）中出现的大规模计算的基本构建块。最近，人们对使用编码来加速分布式矩阵乘法产生了很大的兴趣，分布式矩阵乘法对离散者（即，可以执行较慢计算的机器）。在许多情况下，代替精确计算，近似矩阵乘法，即，允许容许误差也是足够的。这种近似方案利用随机化技术来加速计算过程。在本文中，我们发起了近似编码矩阵乘法的研究，并调查随机化和编码提供的联合协同作用。具体来说，我们提出了两个编码的随机采样方案，使用（a）代码，以实现所需的恢复阈值和（b）随机采样，以获得近似的矩阵乘法。针对一类编码矩阵乘法方案，研究了恢复门限与通过随机抽样获得的近似误差之间的折衷关系。
2019-05-16 cs.IT math.IT stat.ML
Straggler Mitigation through Unequal Error Protection for Distributed Matrix Multiplication
大规模机器学习和数据采掘方法通常将计算分布在多个代理上以并行处理。计算所需的时间在代理的影响，本地资源的可用性引起的“掉队者问题”，其中的计算结果是由无响应的代理举行。对于这个问题，可以使用矩阵子块的线性编码来引入对离散的弹性。参数服务器（PS）利用信道码并将矩阵分发给工作器以进行乘法。然后，它使用在给定的截止日期收到的计算结果来产生所需矩阵乘法的近似值。在本文中，我们建议采用不等错误保护（UEP）码，以减轻掉队的问题。每个子块的弹性水平根据其范数来选择，因为具有较大范数的块对矩阵乘法的结果具有较高的影响。我们验证了我们的计划的有效性，理论和数值计算。我们推导了使用随机线性码的UEP性能的理论表征，并将其与等错误保护的情况进行了比较。我们还将所提出的编码策略应用于深度神经网络（DNN）训练中的反向传播步骤的计算，为此我们研究了精度和计算所需时间之间的基本权衡。
2021-03-19 cs.DC cs.IT math.IT
Generalized Multivariate Polynomial Codes for Distributed Matrix-Matrix Multiplication
本文提出两种支持任意矩阵划分的多元多项式编码方案，用于分布式矩阵-矩阵乘法，在计算时延与通信成本之间取得比单变量方案更优的权衡。
2024-11-22 cs.IT math.IT
Hierarchical Coded Matrix Multiplication
工作速度慢的节点，称为落伍者，可以大大降低分布式计算的速度。编码矩阵乘法是最近引入的一种技术，它可以实现大型矩阵的抗离散分布式乘法。一个关键的属性是，完成时间只取决于一组最快的工人完成的工作，而最慢的工人完成的工作被完全忽略。本文的动机是观察到，在现实世界的商业云计算系统，如亚马逊的弹性计算云（EC2）之间的区别快和慢节点往往是一个软的。因此，如果我们也能利用掉队者完成的工作，我们可能会实现可观的性能增益。为了实现这样的增益，在本文中，我们使用分层编码的思想（Ferdinand和Draper，IEEE Int. Symp. Inf. Theory，2018）.我们将整个矩阵乘法任务分解成一个层次结构的异构大小的子任务。完成每个子任务的责任由所有工人分担，每个子任务（通常）具有不同的复杂性。分层分解的动机是认识到更多的工人将完成第一个子任务，而不是第二个（或第三个，第四个等）。连接到纠错编码，因此较早的子任务可以被设计为比较晚的子任务具有更高的速率。通过这种分层设计，我们的方案利用了落后者完成的工作，而不是忽略它，即使这个数量比最快的工人完成的要少得多。我们的数值计算表明，我们的方法实现了60%的预期完成时间的改进，广泛研究的统计模型的计算速度，在亚马逊EC2上，增益为35%。
2019-07-20 cs.DC cs.IT math.IT
Adaptive Coding for Two-Way Lossy Source-Channel Communication
提出了一种自适应联合信源-信道编码（JSCC）方案，用于在失真受限的离散无记忆双向信道上传输相关信源。所提出的JSCC方案利用先前发送和接收的信道信号以及源的相关性来促进终端之间的协调。它表明，自适应方案严格包含先前的有损编码方法的双向同时传输，并产生一个新的自适应分离的源信道编码的结果。最后给出了两个例子来说明该方案的优越性。
2020-08-12 cs.IT math.IT
Extended Subspace Error Localization for Rate-Adaptive Distributed Source Coding
提出了一种基于离散傅立叶变换（DFT）码的速率自适应分布式信源编码（DSC）方法。删余DFT码可用于实现码率自适应信源编码，但由于子空间误差定位性能严重下降，即使在适度删余后，其性能也很差。所提出的基于子空间的错误定位扩展和改进了现有的一个，基于额外的伴随式，自然是适合于速率自适应分布式信源编码架构。
2013-06-27 cs.IT math.IT
Worst-Case Optimal Adaptive Prefix Coding
关于自适应前缀编码的一个常见抱怨是它比静态前缀编码慢得多。Karpinski和Nekrich最近在解决这个问题上迈出了重要的一步：他们给出了一种自适应香农编码算法，该算法在（O（1））摊销时间内对每个字符进行编码，并在（O（\log H））摊销时间内对其进行解码，其中$H$是输入字符串$s$的经验熵。为了比较，Gagie的自适应Shannon编码器以及Knuth和Vitter的自适应Huffman编码器都对每个字符使用（θ（H））摊销时间。在本文中，我们给出了一个自适应香农编码器，编码和解码每个字符在（O（1））的最坏情况下的时间。与先前的两个自适应香农编码器一样，我们将$s$存储在至多（（H +1）|s| + o（|s|））个位中。我们还表明，这种编码长度是最坏情况下最优的低阶项。
2008-12-17 cs.IT math.IT
Adaptive Private Distributed Matrix Multiplication
我们考虑的问题，设计代码与灵活的速率（称为无比率码），私人分布式矩阵矩阵乘法。主服务器拥有两个私有矩阵$\mathbf{A}$和$\mathbf{B}$，并雇用工作节点来帮助计算它们的乘法。矩阵应该保持信息-理论上对工人来说是私有的。具有固定速率的代码要求主节点将任务分配给工作节点，然后等待预定数量的工作节点完成分配的任务。任务的大小，也就是方案的速率，取决于master等待的worker的数量。我们设计了一个无比率的私有矩阵-矩阵乘法方案，称为RPM 3。与固定费率方案相比，我们的方案固定了任务的大小，并允许主机向工人发送多个任务。主机不断发送任务和接收结果，直到它可以解码乘法;使该方案灵活，适应异构环境。尽管导致一个较小的速率比已知的离散容忍计划，RPM 3提供了一个较小的平均等待时间的主人，通过利用工人的异质性。研究了两种不同的工人服务时间模型下的等待时间。我们提供了这两种模式下的平均等待时间的上限。此外，我们提供了工人依赖的固定服务时间模型下的平均等待时间的下限。
2021-01-14 cs.IT math.IT
Secure network coding with adaptive and active attack
本文回顾了自适应和主动攻击下安全网络编码的研究成果，重点聚焦于单跳中继网络和单播中继网络两种典型模型。
2024-01-07 cs.IT math.IT
Energy Efficient Adaptive Network Coding Schemes for Satellite Communications
在本文中，我们提出了新的能量有效的自适应网络编码和调制方案的时变信道。我们评估这样的计划下一个现实的信道模型，开放区域的环境和地球静止轨道（GEO）卫星。非自适应网络编码和自适应速率有效的网络编码方案的时变信道相比，我们表明，我们提出的方案，通过物理层的意识，可以被设计成只有当一个目标的服务质量服务质量（QoS）是实现传输。因此，这种方案可以提供显著的节能。
2017-04-16 cs.IT math.IT
Coded Matrix Multiplication on a Group-Based Model
编码分布式计算被认为是一种很有前途的技术，它使大规模系统对“掉队”的工人具有鲁棒性。然而，用于分布式计算的反映真实世界计算服务器的集群或分组结构的实用系统模型还不可用。不同服务器之间的计算能力和带宽能力的巨大差异也没有得到适当的建模。我们建议一个基于组的模型，以反映实际情况，并制定了适当的编码方案，这个模型。建议的代码，称为组代码，采用并行编码的每个组。我们表明，建议的编码方案可以渐近实现最佳的计算时间在制度的无限n，工人的数量。虽然理论分析是在渐近状态下进行的，但数值结果也表明，对于任何有限但相当大的n，所建议的方案实现了接近最优的计算时间。此外，我们证明了建议的方案的解码复杂度显着降低了并行解码的优点。
2019-01-16 cs.IT math.IT
Adaptive Network Coding Schemes for Satellite Communications
在本文中，我们提出了两个新的物理层感知的自适应网络编码和编码调制方案的时变信道。所提出的方案已被应用到不同的卫星通信场景与不同的往返时间（RTT）。相比自适应网络编码，和经典的非自适应网络编码方案的时变信道，作为基准，所提出的方案表明，自适应的数据包传输的信道变化和相应的擦除的基础上允许显着的增益吞吐量，延迟和能源效率。我们揭示了能源效率和延迟吞吐量增益之间的权衡，表明保守的自适应方法，有利于更少的传输下高擦除，可能会导致更高的延迟和更少的吞吐量增益相比，非保守的方法，有利于更多的传输占高擦除。
2017-04-15 cs.IT math.IT
Cuboid Partitioning for Hierarchical Coded Matrix Multiplication
编码矩阵乘法是一种在分布式计算系统中实现大型矩阵的抗离散乘法的技术。在本文中，我们首先提出了一个概念性的框架来表示编码矩阵乘法作为一个长方体分割问题的处理器之间的分工。这个框架使我们能够统一现有的方法和激励新的技术。在这个框架的基础上，我们将分层编码的思想（Ferdinand & Draper，2018）应用于编码矩阵乘法。我们开发的分层方案能够利用所有处理器（快速和慢速）完成的工作，而不是忽略慢速处理器，即使掉队者完成的工作量远远小于最快的工人完成的工作量。在Amazon EC2上，与非分层方案相比，我们的平均完成时间提高了37%。
2019-07-20 cs.IT math.IT
Optimized Rate-Adaptive Protograph-Based LDPC Codes for Source Coding with Side Information
本文研究了在译码端带有边信息的信源编码问题，也称为Slepian-Wolf信源编码方案。在该编码方案的实际应用中，源和辅助信息之间的统计关系可以从一个数据传输到另一个数据传输而变化，并且需要根据当前统计关系来适配编码速率。在本文中，我们提出了一种新的基于LDPC码的Slepian-Wolf信源编码方案的码率自适应码构造。所提出的码设计方法允许在所有考虑的速率下优化码度分布，同时在所有速率下最小化奇偶检验矩阵中的短周期的量。仿真结果表明，该方法大大降低了信源编码率相比，标准的LDPCA解决方案。
2018-08-20 cs.IT math.IT
Adaptive Coding for Two-Way Wiretap Channel under Strong Secrecy
本文针对双向窃听信道的强保密需求，提出两种自适应编码方案，推导了不同保密约束下的保密容量域内界，并证明满足条件独立条件的信道在联合保密约束下仍可实现正传输速率。
2024-06-24 cs.IT math.IT
$ε$-Approximate Coded Matrix Multiplication is Nearly Twice as Efficient as Exact Multiplication
我们从近似恢复的角度研究编码的分布式矩阵乘法。我们考虑一个系统的$P$计算节点，其中每个节点存储$1/m$的每个被乘数通过线性编码。我们的主要结果表明，矩阵积可以恢复与$ε$相对误差从任何$P$节点的$m$为任何$ε> 0$。我们通过仔细专业化的MatDot码-一类矩阵乘法码以前开发的背景下，精确恢复（$ε=0$），得到这个结果。由于先前的结果表明，MatDot代码实现最佳的精确恢复阈值的一类线性编码方案，我们的研究结果表明，允许温和的近似导致系统的效率几乎是精确重建的两倍。作为一个额外的贡献，我们开发了一个优化框架的基础上交替最小化，使新的代码的近似矩阵乘法的发现。
2021-05-05 cs.IT math.IT
Performance Analysis of Adaptive Physical Layer Network Coding for Wireless Two-way Relaying
分析了物理层网络编码双向中继方案的调制方案，该方案采用两个阶段：多址（MA）阶段和广播（BC）阶段。这是由小池秋野等。根据信道条件自适应地改变在中继站处使用的网络编码映射大大降低了在MA阶段期间在中继站处发生的多址干扰的影响。取决于在端节点处使用的信号集，对于被称为奇异衰落状态的有限数量的信道衰落状态发生深度衰落。奇异衰落状态分为以下两类：由于信道中断而引起的并且其有害影响不能通过自适应网络编码来减轻的奇异衰落状态被称为\textit{non-removable singular fade states}。由于信号集的选择而发生的并且其有害影响可以通过适当选择自适应网络编码映射来消除的那些被称为\textit{removable}奇异衰落状态。在本文中，我们推导出一个上界的平均端到端的符号出错率（SER），有和没有自适应网络编码在中继，莱斯衰落的情况下。结果表明，在没有自适应网络编码的情况下，在高信噪比（SNR）下，对端到端SER的贡献来自以下错误事件，这些错误事件落为$\text{SNR}^{-1}$：与可移除奇异衰落状态相关联的错误事件，与不可移除奇异衰落状态相关联的错误事件以及BC阶段期间的错误事件。相反，对于自适应网络编码方案，与对平均端到端SER有贡献的可移除奇异衰落状态相关联的错误事件作为$\text{SNR}^{-2}$而下降，并且结果，自适应网络编码方案提供了优于不…
2012-03-26 cs.IT math.IT
Fast Operations on Linearized Polynomials and their Applications in Coding Theory
本文考虑线性化多项式运算的快速算法。提出了一种新的斜多项式乘法算法（线性化多项式的推广），该算法在多项式阶$s$上具有次二次复杂度，与基础域扩张阶$m$无关.我们表明，我们的乘法算法比所有已知的快时，$s \leq m$。使用Caruso和Le Borgne（2017）的结果，这立即意味着对于任意多项式次数$s$的线性化多项式的次二次除法算法。此外，我们提出了次二次复杂度的$q$变换，多点评价，计算最小子空间多项式，插值，其实现至少是二次之前的算法。使用新的快速算法的$q$变换，我们展示了如何在有限域上的矩阵乘法可以通过乘以线性多项式的程度最多$s=m$，如果一个椭圆正常的基础上的扩展程度$m$存在，提供了一个下界的成本后一个问题。最后，它示出了如何新的快速操作的线性化多项式导致的第一错误和擦除译码算法的Gabidulin码次二次复杂度。
2017-07-11 cs.IT cs.SC math.IT
Orthonormal Matrix Codebook Design for Adaptive Transform Coding
该研究提出一种基于分块平稳模型、结合块坐标下降与Stiefel流形映射的正交变换矩阵码本设计算法，可高效求解带正交约束的优化问题，在H265帧间预测残差上的实验验证了其优于标准DCT非自适应编码。
2022-02-24 cs.IT math.IT
Adaptive Gradient Coding
本文主要研究分布式学习系统中分散学习者的影响。不同于现有的结果设计为一个固定数量的离散，我们开发了一个新的计划，称为自适应梯度编码（AGC）与灵活的宽容的各种数量的离散。我们的计划给出了一个最佳的权衡之间的计算负载，离散宽容和通信成本。特别地，它允许根据实际环境中的离散者的实时数量来最小化通信成本。使用Python和mpi4py包在Amazon EC2集群上实现验证了在几种情况下的灵活性。
2021-10-19 cs.IT math.IT
Network Coding Based on Byte-wise Circular Shift and Integer Addition
将一类特殊的伽罗瓦环的乘法运算通过循环卷积实现，并将其应用于网络码的构造。所涉及的基本操作是逐字节移位和以2的幂为模的整数加法。这两种方法都可以在微处理器中有效地执行。文末给出了如何将这一思想应用于数组编码的实例。
2020-05-15 cs.IT math.IT
Sparse Random Khatri-Rao Product Codes for Distributed Matrix Multiplication
我们介绍了两个推广的范例，使用随机Khatri-Rao产品（RKRP）代码的分布式矩阵乘法。本文首先介绍了一类具有稀疏生成矩阵的稀疏随机Khatri-Rao乘积码。当输入矩阵稀疏时，SRKRP码比RKRP码具有更低的编码、计算和通信成本，同时它们表现出与其他现有技术方案相似的数值稳定性。我们实证研究的概率之间的关系的生成矩阵（仅限于一组非离散）的随机选择的SRKRP码是秩亏和各种参数的编码方案，包括稀疏度的生成矩阵和非离散的数量。其次，我们表明，如果主节点可以执行一个非常小的数量的矩阵产品的计算，除了由工人进行的计算，故障概率可以大大提高。
2022-05-12 cs.DC cs.IT math.IT
Worst-case optimal adaptive alphabetic prefix-free coding
该研究提出了一种在特定条件下最优的自适应字母表前缀码算法，实现了时间复杂度和压缩性能的最坏情况最优。
2026-01-07 cs.DS cs.IT math.IT
Grid-like Error-Correcting Codes for Matrix Multiplication with Better Correcting Capability
本文提出一种基于网格结构编码的矩阵乘法纠错框架，可确定性纠正三个矩阵中最多两个错误符号，可靠性达100%，GPU开销仅24%，显著提升分布式训练容错性。
2025-08-06 cs.IT math.IT
Adaptive Randomized Distributed Space-Time Coding in Cooperative MIMO Relay Systems
提出了一种适用于两跳协作MIMO网络的自适应随机分布式空时编码（DSTC）方案和算法。线性最小均方误差（MMSE）接收机和放大和转发（AF）的合作策略。在所提出的DSTC方案中，通过反馈信道获得的随机化矩阵被用来在中继节点处对空时编码矩阵进行变换。设计了线性MMSE表达式来计算自适应随机化矩阵和线性接收滤波器的参数。本文还提出了一种计算自适应随机化矩阵参数的随机梯度算法，降低了计算复杂性。我们还推导出了一个合作的MIMO系统采用随机空时编码方案的错误概率的上限。仿真结果表明，所提出的算法获得显着的性能增益相比，现有的DSTC计划。
2013-03-17 cs.IT math.IT
Adaptive Coding for Information Freshness in a Two-user Broadcast Erasure Channel
在本文中，我们调查的影响，在两个用户的广播符号擦除信道反馈的信息年龄（AoI）的编码。我们假设每个更新由$K$符号组成，并且源能够在每个时隙中广播一个符号。由于随机信道噪声，每个用户处的预期符号将根据独立同分布（i.i.d.）伯努利过程如果用户积累了足够的信息并成功解码了更新的$K$符号，则用户能够成功解码更新。假设在每个符号传输后，在源端的反馈信息是完美的，我们的目标是设计一个自适应编码方案，以实现在两个用户小的AoI。我们提出了一种新的编码方案，明智地结合符号从不同的更新在一起，并分析在两个用户的AOI。与基线贪婪方案相比，所提出的自适应编码方案在不损害强用户处的AoI的情况下，将弱用户处的AoI提高了几个数量级。
2019-05-01 cs.IT math.IT
Two-Way Source-Channel Coding
提出了一种自适应有损联合信源-信道编码（JSCC）方案，用于在两端离散无记忆双向信道（DM-TWC）上发送相关信源。其主要思想是通过自适应编码机制耦合终端的独立操作，该机制可以减轻由同时信道传输引起的交叉干扰，并同时利用信源的相关性来减少端到端重构失真。我们的自适应JSCC方案不仅包含现有的有损编码方法的双向同时通信，但也提高了它们的性能。此外，我们推导出我们的双向有损传输问题的外边界，并建立在一些特殊的设置完整的JSCC定理。在这些特殊情况下，一种非自适应的分离信源-信道编码（SSCC）方案获得了最佳性能，从而简化了信源-信道通信系统的设计。
2020-06-26 cs.IT math.IT
Prediction of Large Alphabet Processes and Its Application to Adaptive Source Coding
考虑了由具有未知统计量的离散源产生的序列$x_1,x_2,...$的预测问题。每个字母$x_{t+1}$仅使用关于单词$x_1x_2... x_t$的信息来预测。实际上，该问题是一个备受关注的经典问题。它的历史可以追溯到拉普拉斯。我们解决的问题，每个$x_i$属于一些大（甚至无限）的字母表。提出了一种方法，其精度大于已知的算法，其中精度估计的Kullback-Leibler发散。结果可以很容易地转换为有关自适应编码的结果。
2005-04-21 cs.IT math.IT
Polynomial Codes: an Optimal Design for High-Dimensional Coded Matrix Multiplication
我们考虑一个大规模的矩阵乘法问题，其中的计算是使用一个主节点和多个工人节点，其中每个工人可以存储部分的输入矩阵的分布式系统进行的。我们提出了一种计算策略，利用编码理论的思想来设计中间计算的工人节点，以有效地处理离散的工人。所提出的策略，命名为\emph{polynomial codes}，达到最佳的恢复阈值，定义为最小数量的工人，主需要等待，以计算输出。此外，通过利用多项式代码的代数结构，我们可以将最终输出的重构问题映射为多项式插值问题，从而可以有效地解决。多项式代码在恢复阈值方面提供了对现有技术的逐阶改进，并且在几个其他度量方面也是最佳的。此外，我们将此代码扩展到分布式卷积，并显示其顺序最优性。
2018-01-24 cs.DC cs.IT math.IT
Adaptive Delay-Tolerant Distributed Space-Time Coding Based on Adjustable Code Matrices for Cooperative MIMO Relaying Systems
针对两跳协作MIMO网络，提出了一种利用反馈的自适应时延容忍分布式空时编码（DSTC）方案。最大似然（ML）接收机和可调码矩阵被认为是受功率约束的解码和转发（DF）合作策略。在所提出的延迟容忍DSTC方案中，中继节点采用可调的编码矩阵对空时编码矩阵进行变换。最小二乘（LS）算法被开发成具有降低的计算复杂性以调整码的参数。仿真结果表明，所提出的算法获得显着的性能增益和解决的延迟问题，合作MIMO系统相比，现有的延迟容忍DSTC计划。
2014-05-19 cs.IT math.IT
Quantization of KLT Matrices via GMRF Modeling of Image Blocks for Adaptive Transform Coding
针对图像前向自适应变换编码的码本构建难题，提出基于带非对称Neumann边界条件的GMRF模型的KLT矩阵量化方法，将高维正交矩阵量化简化为低维向量量化，还提出最大化高码率变换编码增益的GMRF参数估计方法，并探究其在可变块大小自适应变换编码中的应用。
2024-06-24 cs.IT math.IT
Private and Rateless Adaptive Coded Matrix-Vector Multiplication
边缘计算正在成为一种新的范式，允许在网络边缘附近处理数据，数据通常在网络边缘生成和收集。这使得在物联网（IoT）等应用中的边缘进行关键计算成为可能，其中越来越多的设备（传感器、摄像头、健康监测设备等）收集需要通过具有严格可靠性、安全性和延迟限制的计算密集型算法处理的数据。我们的关键工具是编码计算理论，该理论主张通过采用纠删码将计算密集型任务中的数据混合，并将这些任务卸载到其他设备上进行计算。编码计算由于其可靠性高、延迟小、通信成本低等优点，近年来受到越来越多的关注。在本文中，我们开发了一种用于分布式矩阵向量乘法的私有和无速率自适应编码计算（PRAC）算法，考虑到（i）物联网应用和设备的隐私要求，以及（ii）边缘设备的异构和时变资源。我们表明，PRAC优于已知的安全编码计算方法时，资源是异构的。我们提供的PRAC的性能和它的比较基线的理论保证。此外，我们证实了我们的理论结果，通过模拟和基于Android的智能手机上实现。
2019-09-27 cs.IT math.IT
Robust Improvement of the Age of Information by Adaptive Packet Coding
我们考虑了一个无线通信网络与自适应计划，以选择要接纳的数据包的数量和编码的每次传输，并表征信息的及时性。对于网络的擦除通道和离散时间，我们提供封闭形式的表达式的平均和峰值年龄的信息（AoI）的功能准入控制和自适应编码参数，反馈延迟，和最大可行的端到端的速率，取决于信道条件和网络拓扑结构。这些新的结果指导系统设计的鲁棒性改进的AoI时，传输时间敏感信息的拓扑结构和信道的变化。我们说明了使用自适应数据包编码的好处，以提高信息的及时性，通过表征网络性能的AOI以及它的关系，以吞吐量（在目的地成功解码的数据包的速率）和每包延迟。我们表明，显着的AoI性能增益，可以获得相比，未编码的情况下，这些增益是强大的网络变化的信道条件和网络拓扑结构的变化。
2021-03-09 cs.IT math.IT
Adaptive Distributed Space-Time Coding in Cooperative MIMO Relaying Systems using Limited Feedback
针对两跳协作MIMO网络，提出了一种自适应随机分布式空时编码（DSTC）方案。线性最小均方误差（MMSE）接收机滤波器和随机矩阵的功率约束被认为是与放大和转发（AF）的合作策略。在所提出的DSTC方案中，通过反馈信道获得的随机化矩阵被用来在中继节点处对空时编码矩阵进行变换。考虑了有限反馈和反馈误差的影响。设计了线性MMSE表达式来计算自适应随机化矩阵和线性接收滤波器的参数。本文还提出了一种降低计算复杂性的随机梯度算法。仿真结果表明，所提出的算法获得显着的性能增益相比，现有的DSTC计划。
2013-03-17 cs.IT math.IT
Pattern Coding Meets Censoring: (almost) Adaptive Coding on Countable Alphabets
自适应编码面临以下问题：给定一个源类集合，使得集合中的每个类都具有非平凡的极大极小冗余率，我们能否设计一个对集合中的每个类都渐近极大极小的编码？特别是，当集合中的类的联合上没有通用代码时，自适应编码是有意义的。在本文中，我们处理类源在一个无限的字母表，其特征在于由一个控制包络。我们提供了渐近等价的冗余信封类享受定期变化的属性。最后，我们构建了一个计算效率高的在线前缀码，交织的编码的所谓的模式的消息和编码的字典中发现的符号。该代码被证明是自适应的，在一个$\log\log n$的因素，定期变化的信封类的集合。该代码比前面描述的竞争者更简单，冗余更少。与以前的尝试相比，它还涵盖了缓慢变化的包络类的全部范围。
2016-09-01 cs.IT math.IT math.ST
Universally Decodable Matrices for Distributed Matrix-Vector Multiplication
编码计算是一个新兴的研究领域，它利用擦除编码的概念来减轻分布式计算集群中的掉队者（慢节点）的影响，特别是对于矩阵计算问题。在这项工作中，我们提出了一类分布式矩阵向量乘法计划，是基于代码的Rosenbloom-Tsfasman度量和普遍可解码的矩阵。我们的计划考虑到固有的计算顺序内的工人节点。特别是，它们使我们能够有效地利用由掉队者执行的部分计算（这是许多以前的作品所缺乏的功能）。我们的工作的另一个主要贡献是这些代码的同伴矩阵为基础的嵌入，使我们能够获得稀疏和数值稳定的计划手头的问题。实验结果证实了我们的技术的有效性。
2019-01-30 cs.IT math.IT
Small-Sample Inferred Adaptive Recoding for Batched Network Coding
批处理网络编码是一种低复杂度的网络编码方案，适用于无反馈多跳无线分组网络传输中的丢包问题。要传输的数据被编码成批，其中每个批由几个编码的数据包组成。与传统的转发策略不同，中间网络节点必须进行重新编码，通过限制在同一批内的网络编码操作生成重新编码的数据包。自适应重编码是一种通过优化每批重编码数据包的数量来适应数据包丢失波动的技术，以提高吞吐量。输入等级分布是关于到达节点的批次的一条信息，需要应用自适应重新编码。然而，这种分布在实践中并不是预先知道的，因为输入链路的信道条件可能会不时地改变。另一方面，为了充分利用自适应重编码的潜力，我们需要对这种分布有一个很好的估计。换句话说，我们需要从一些样本中猜测这个分布，以便我们可以尽快应用自适应重新编码。在本文中，我们提出了一个分布鲁棒优化的自适应重编码与小样本推断预测的输入秩分布。我们开发了一种算法，以有效地解决这个优化的理论保证，我们的优化的性能将构成高概率的最佳吞吐量的置信下限的支持。
2021-06-15 cs.IT math.IT
Non-adaptive and two-stage coding over the Z-channel
在本文中，我们开发了新的编码策略的Z通道。特别是，我们看看两阶段编码的情况。在这种情况下，编码器使用无噪声反馈一次，并基于通道的先前部分输出来调整进一步的编码策略。尽管如此，开发的代码改进了已知的结果与完整的反馈小的长度和1错误。两阶段策略的一个工具是为非自适应码开发一个新的最优性条件。
2022-09-08 cs.IT math.CO math.IT
Adaptive Modulation and Coding and Cooperative ARQ in a Cognitive Radio System
针对共享频谱环境下的次用户，提出了一种自适应调制编码（AMC）和协作自动重传请求（C-ARQ）的联合跨层设计方案。首先，基于信道的统计描述，给出了平均频谱效率（SE）和平均丢包率（PLR）的封闭表达式。然后，设计跨层方案，以最大化平均SE，同时保持平均PLR在规定的水平之下。首先建立了一个优化问题，并找到了次优解：获得了次系统信道的目标分组出错率（PER），并基于目标PER推导出相应的次优AMC速率自适应策略，最后给出了该方案的平均SE和平均PLR性能。
2017-09-12 cs.IT math.IT
Deep Learning-Based Adaptive Joint Source-Channel Coding using Hypernetworks
本文提出Hyper-AJSCC，利用内存高效的超网络参数化实现信道自适应DJSCC，能以更少参数无缝兼容现有DJSCC网络，并在信道适应性和内存效率上优于现有基线。
2024-01-20 cs.IT math.IT
Regenerative and Adaptive schemes Based on Network Coding for Wireless Relay Network
无线通信技术的发展给中继网络带来了新的机遇和挑战，为了提高系统的性能，在中继节点采用解调网络编码（Demodulate-NetworkCoding，DM-NC）方案，直接对接收信号进行解映射，然后将其转发到目的节点。仿真分析表明，该算法的性能优于模拟数控算法。此外，量化-解码-NC方案（QDF-NC）已被引入。仿真结果表明，QDF-NC的性能优于模拟NC。模拟了analogNC和QDF-NC之间的切换，以研究中继节点处的延迟和功耗降低。
2012-06-28 cs.IT math.IT
A Unified Coded Deep Neural Network Training Strategy Based on Generalized PolyDot Codes for Matrix Multiplication
Carnegie Mellon University（卡内基梅隆大学）；Simon Fraser University（西蒙弗雷泽大学）
本文有两个贡献。首先，我们提出了一种新的编码矩阵乘法技术，称为广义PolyDot码，现有的方法编码矩阵乘法存储和通信的限制下的进步。该技术使用“垃圾对齐”，即，对齐编码计算中不是期望输出的一部分的计算。广义PolyDot码是Polynomial码和MatDot码之间的桥梁，在恢复阈值和通信成本之间进行权衡。其次，我们证明了广义PolyDot可用于在易出现软错误的不可靠节点上训练大型深度神经网络（DNN）。这需要我们解决三个额外的挑战：（i）在每次迭代时对DNN的每一层中的权重矩阵进行编码的开销过大;（ii）训练期间的非线性操作，这与线性编码不兼容;以及（iii）不假设存在无错误的主节点，要求我们构建一个完全分散的实现，而没有任何“单点故障”。“我们允许所有主要的DNN训练步骤，即矩阵乘法，非线性激活，Hadamard乘积和更新步骤以及编码/解码都是容易出错的。我们考虑的情况下，小批量大小$B=1$，以及$B>1$，分别利用编码矩阵向量产品，矩阵矩阵产品。在软错误下的DNN训练问题也激发了一个有趣的概率错误模型，在该模型下，实数$(P,Q)$ MDS码被示出以概率$1$校正$P-Q-1$错误，与更传统的对抗性错误模型的$\lfloor \frac{P-Q}{2} \rfloor$相比。我们还表明，我们提出的策略可以提供无限的增益在容错竞争的复制策略和初步的MDS代码为基础的策略，这些…
2018-11-27 cs.DC cs.IT cs.LG
When Feedback Empowers the Uplink: Integrating Adaptive Coding with Wireless Power Transfer
提出FACET框架，通过将自适应反馈编码与无线能量传输相结合，利用反馈编码饱和效应设计双用途反馈机制，在公平约束下最小化最坏情况净能耗，使设备寿命相比传统架构提高近三倍。
2025-05-28 cs.IT eess.SP math.IT
Joint Adaptive Modulation-Coding and Cooperative ARQ for Wireless Relay Networks
本文提出了一种跨层的方法，联合设计自适应调制和编码（AMC）的物理层和协作截断自动重传请求（ARQ）协议的数据链路层。首先，我们推导出一个精确的封闭形式的频谱效率的联合AMC合作ARQ计划的表达。为了最大化该系统性能指标，我们优化了直接满足数据链路层规定的分组丢失率约束的AMC方案。结果表明，采用协作ARQ作为重传策略，与物理层仅采用AMC的系统相比，显著提高了系统的频谱效率。此外，建议的自适应速率协作ARQ方案优于固定速率对应时，在源和中继的传输模式选择的基础上的信道统计。这反过来量化了无线中继网络中AMC和ARQ的联合设计所实现的可能增益。
2008-11-26 cs.IT math.IT
Simple rate-adaptive LDPC coding for quantum key distribution
量子密钥分发（QKD）虽然源于量子理论的发展，但实际的QKD系统的实现过程涉及到大量的经典过程，如密钥协调和隐私放大，即后处理。后处理是实现高速量子密钥分配系统的关键环节，也是实现高速量子密钥分配系统的瓶颈。低密度奇偶校验（LDPC）由于其在处理吞吐量方面的良好性能，正成为克服瓶颈的一种很有前途的方法。在这篇文章中，我们提出并模拟了一个易于实现，但有效的速率自适应LDPC编码的和解方法，不同于以前提出的打孔和缩短为基础的方法。我们也给出了一个措施，选择最佳的LDPC参数，我们的速率自适应方法，根据错误率。
2015-05-24 cs.IT math.IT quant-ph
