Equivalence perspectives in communication, source-channel connections and universal source-channel separation
从操作的角度来理解信源和信道编码之间的关系。这是基于一个问题直接减少到另一个使用随机编码(因此共同的随机性),但与所有以前的工作,不涉及任何功能计算,特别是,没有互信息计算。然后,这个结果被用来证明一个通用的信源信道分离定理的速率失真的背景下,普遍性是在一个复合的“一般通道的意义。''
2009-11-19 cs.IT math.IT
Joint Sensing and Communication over Memoryless Broadcast Channels
被认为是一个无记忆的状态相关的广播信道(BC),其中的发射机希望传达两个私人消息,同时通过广义反馈估计各自的状态,两个接收机。该模型是由联合雷达和通信系统驱动的,其中雷达和数据应用共享相同的频带。对于i.i.d.状态序列,我们表征的容量失真权衡区。对于一般的BC,我们提供的capacitydistortion区域的内部和外部边界,以及一个充分条件时,它等于产品的容量区域和可实现的失真的集合。有趣的是,所提出的协同设计显着优于传统的方法,分裂的资源用于传感或通信。
2020-11-06 cs.IT math.IT
Optimal algorithms for universal random number generation from finite memory sources
我们研究随机数发生器(RNG),无论是在固定到可变长度(FVR)和可变到固定长度(VFR)制度,在一个通用的设置,其中输入是一个有限的内存源的任意顺序和未知参数,任意输入和输出(有限)字母大小。应用类型的方法,我们表征基本上是唯一的最佳通用RNG,最大化预期输出(分别,最小化预期输入)的长度在FVR(分别,VFR)的情况下。对于FVR情形,所研究的RNG是Elias格式的推广,而对于VFR情形,所研究的一般格式是新的。我们精确地表征,直到一个附加常数,相应的预期长度,其中包括二阶项类似于那些遇到的通用数据压缩和通用模拟。此外,在FVR的情况下,我们还考虑了一个“两次通用”的设置,其中输入源的马尔可夫阶k也是未知的。
2014-12-06 cs.IT math.IT
Memory-Assisted Universal Source Coding
在许多实际情况下,如存储数据和互联网流量的压缩,出现了从一个图书馆的几个小到中等长度的序列,从类似的背景下的序列的通用压缩的问题。在这种情况下,通常需要单独压缩和重新编码每个序列。然而,各个序列的通用压缩遭受显著的冗余开销。在本文中,我们的目的是回答是否有一个内存单元在中间可以导致一个基本的增益在通用压缩。我们在由服务器节点$S$、中继节点$R$(即,存储器单元)和客户端节点$C$。我们假设服务器$S$希望将序列$x^n$发送到客户端$C$,该客户端从未与服务器进行过任何先前的通信,因此不能记忆源上下文。然而,$R$先前已经与$S$通信以将先前序列从$S$转发到除$C$之外的客户端,因此,$R$已经存储了与$S$共享的上下文$y^m$。注意,如果中继节点不存在,则源可能将通用压缩应用于$x^n$并发送到$C$,而在$R$处存储的上下文的存在可能减少$S$ - $R$链路中的通信开销。在本文中,我们调查的基本增益的上下文记忆在存储器辅助的通用压缩序列$x^n$在传统的通用信源编码的记忆辅助信源编码的增益提供了一个下界。
2012-01-10 cs.IT math.IT
Joint State Sensing and Communication: Optimal Tradeoff for a Memoryless Case
考虑一种通信设置,其中发射机希望同时感测其信道状态并向接收机传送消息。在发射机处通过广义反馈(即,在发射机处观察到的严格因果信道输出)来估计状态。该方案的动机是一个联合雷达和通信系统,其中雷达和数据应用共享相同的频带。对于具有i.i.d.状态序列,我们表征的容量失真权衡,定义为最佳可实现的速率,低于该速率的消息可以可靠地传送,同时满足一些失真约束的状态感测。提出了一种优化输入概率分布的迭代算法。例子表明,联合传感和通信相比,基于分离的方法的好处。
2018-05-15 cs.IT math.IT
Universal communication part I: modulo additive channels
在一个输出是输入的未知(可能是随机的)函数的信道上,可以获得哪些通信速率,该输入可以在没有先验模型的情况下随时间任意变化?遵循由Lempel和Ziv定义的序列的有限状态可压缩性的精神,对于这样的信道,“容量”被定义为设计者可实现的最高速率,该设计者知道在所有时间输入和输出之间确实存在的特定关系,但被约束为使用没有反馈的固定有限长度块通信方案,即在每个块上使用相同的编码器和解码器。在模加性信道的情况下,其中输出序列是通过将未知的单独序列模加到输入序列而获得的,该容量由噪声序列的有限状态可压缩性的函数上界。一个通用的通信方案与反馈,达到这种能力普遍,没有先验知识的噪声序列,提出。
2013-03-20 cs.IT math.IT
Universal Polarization for Processes with Memory
针对带记忆信道与过程的通用编码问题,提出通用极化变换,证明满足非周期不可约隐马尔可夫记忆及遗忘性时极化成立,并给出隐马尔可夫过程遗忘性的充分条件。
2024-09-12 cs.IT math.IT
Universal secure rank-metric coding schemes with optimal communication overheads
我们研究的问题,减少通信开销从嘈杂的窃听信道或存储系统中的数据被编码为一个矩阵,当更多的列(或其线性组合)可用。我们提出了它的应用程序,以减少通信开销的通用安全线性网络编码和安全的分布式存储与交叉错误和擦除,并在存在一个窃听器。我们的主要贡献是一种方法来转换编码方案的基础上线性秩度量码,具有一定的属性,以计划较低的通信开销。通过将该方法应用于Gabidulin码对,当$ n \leq m $分别为$ n $和$ m $为列数和行数时,我们得到了具有最优信息率和最优秩纠错能力的编码方案,并且具有普遍最优的通信开销.此外,我们的方法可以适用于其他家庭的最大秩距离码时,$ n > m $。该方法的缺点通常是扩展了数据包的长度,但在一些实际情况下是免费的。
2017-08-25 cs.IT math.IT
Fundamental Limits of Bistatic Integrated Sensing and Communications over Memoryless Relay Channels
Hangzhou Dianzi University(杭州电子科技大学);Zhejiang University(浙江大学);University of Newcastle(纽卡斯尔大学);The Ohio State University(俄亥俄州立大学)
本文研究了双工集成感知与通信在无记忆中继信道中的基本限制,提出混合-部分解码-压缩转发方案,通过容量-失真函数分析通信与感知的权衡,并展示了集成设计的优势。
2026-03-04 cs.IT math.IT
Learning with Finite Memory for Machine Type Communication
机器类型设备(MTD)将成为物联网(IoT)系统的核心。这种系统中的一个关键挑战是在具有有限存储器和计算能力的小型MTD之间共享网络资源。本文提出了一种新的学习\emph{with finite memory}框架,使MTD能够有效地学习彼此的消息状态,从而适当地调整它们的传输参数。特别是,物联网系统中的MTD可以传输延迟容忍,周期性的消息和关键报警消息进行了研究。对于该模型,分析了关键警报消息的指数增长延迟的特征以及物联网中所提出的学习框架的收敛性。仿真结果表明,关键报警消息的延迟显着减少到$94\%$,具有非常小的内存需求。研究结果还表明,所提出的学习与有限的记忆框架是非常有效的,在减轻学习的限制因素,阻止适当的学习程序。
2016-10-06 cs.IT math.IT
Network Compression: Memory-Assisted Universal Coding of Sources with Correlated Parameters
在本文中,我们提出了{ \em分布式网络压缩通过内存}。我们考虑两个空间分离的源相关的未知源参数。我们希望研究来自源之一的长度为$n$的序列的通用压缩,假设解码器可以访问(即,存储)来自另一个源的长度为$m$的序列。在这种设置中,相关性不是由来自两个源的两个输出的逐符号依赖性引起的(如Slepian-Wolf设置中那样)。相反,这两个序列是相关的,因为它们源自具有\emph{unknown}相关参数的两个源。手头的压缩问题的有限长度性质需要考虑几乎无损信源编码的概念,其中编码引起的错误概率$p_e(n)$随着序列长度$n$增长到无穷大而消失。我们得到的几乎无损码的冗余时,解码器可以访问的随机存储器的长度$m$序列长度$n$和允许的错误概率$p_e(n)$的函数。我们的研究结果表明,通过内存的分布式网络压缩有可能显着改善传统的端到端的压缩时,足够大的内存从以前的通信可供解码器。
2012-10-08 cs.IT math.IT
Communication efficient and strongly secure secret sharing schemes based on algebraic geometry codes
Bitar等人和Huang等人独立地得到了具有最优和通用通信开销的秘密共享方案,但是它们的构造需要一个大小为q > n的有限域,其中n是共享数,并且不提供强安全性。在这项工作中,我们给出了一个一般的框架来构造通信高效的秘密共享计划的嵌套线性码序列的基础上,它允许使用特别是代数几何码,并允许获得强安全和通信高效的计划。使用这个框架,我们得到:1)对于任意长n和固定有限域,具有普适的接近最优的通信开销的方案,2)首次构造了具有普适的最优通信开销和最优强安全性的方案(对于有限的长度),特别是具有完美方案的组件方面的安全性优点和斜坡方案的安全性和存储效率,(3)对于任意大的长度n和固定的有限域,具有通用的接近最优的通信开销和接近最优的强安全性。
2018-02-19 cs.IT math.IT
On the Universality of Sequential Slotted Amplify and Forward Strategy in Cooperative Communications
虽然协作通信具有许多优点,并有望在未来的无线网络中发挥重要作用,但仍有许多挑战尚未解决。先前的研究已经针对协作多址接入信道(CMA)、协作多中继信道(CMR)和协作广播信道(CBC)提出了不同的中继策略。然而,缺乏一个统一的战略,这是普遍最佳的这三个经典的渠道模型。顺序时隙放大转发(SSAF)策略先前被提出来实现最佳的分集和复用折衷(DMT)的CMR。本文将SSAF策略的应用推广到CBC和CMA,并证明了SSAF策略对CBC和CMA的最优性。对于CBC,提出了一种CBC-SSAF策略,当协作用户数较多时,该策略能够渐近地达到DMT上界。对于CMA,提出了一种CMA-SSAF策略,该策略在任意协作用户数的情况下都能精确地达到DMT上界。这样,SSAF策略被证明是普遍最优的所有这三个经典的信道模型,并有很大的潜力,为无线协作网络提供普遍的最优性。
2010-06-08 cs.IT math.IT
A Decision Theoretic Framework for Real-Time Communication
我们考虑一个通信系统中,马尔可夫源的输出编码和解码的\emph{real-time}由一个有限的存储器接收机,和失真的措施不容忍延迟。我们的目标是选择设计,即实时的【形】编码,解码和存储器更新策略,最大限度地减少总的预期失真措施。这是一个具有非经典信息结构的动态团队问题[Witsenhausen:1971]。我们使用[Teneketzis:2004]的结构结果来开发有限和无限水平问题的序列分解。因此,我们得到了一个系统的方法,用于确定联合最佳的编码解码和存储器更新策略的实时的【形】点对点通信系统。
2005-11-06 cs.IT math.IT
Communication in the Presence of a State-Aware Adversary
我们研究通信系统的状态依赖的信道中存在一个恶意的状态感知干扰对手。通道具有无记忆状态,具有底层分布。敌方在信道中引入干扰信号。状态序列对于编码器和对手都是非因果已知的。采用随机变化信道(AVC)方法,我们考虑两种设置,即,离散无记忆Gel'fand-Pinsker(GP)AVC和加性白高斯脏纸(DP)AVC。我们确定的随机编码能力的两个AVC下的最大错误概率的标准。类似于其他随机编码设置,我们表明,即使在平均错误概率标准下的容量是相同的。即使与非因果关系的知识的状态,我们证明了状态感知对手不能影响率比当它采用一个无记忆的策略,只依赖于瞬时状态。因此,AVC容量特性给出的能力最差的无记忆信道的状态,诱导对手采用这种无记忆干扰策略。对于DP-AVC,进一步表明,在无记忆干扰策略中,没有比完全无视状态知识的无记忆高斯干扰策略更影响通信的了。因此,DP-AVC的容量等于具有两个独立的加性高斯白噪声源的标准AWGN信道的容量,即,信道噪声和干扰噪声。
2017-08-31 cs.IT math.IT
Universal Communication over Arbitrarily Varying Channels
我们考虑的问题,普遍沟通的一个未知的和任意变化的信道,使用反馈。本文的重点是确定的输入行为,特别是,先验分布,这是用来随机生成的码书。我们提出的问题,设置先验的顺序通用预测问题,试图接近一个给定的目标速率,这取决于未知的信道序列。主要结果是,对于一个未知的,任意序列的无记忆通道组成的通道,有一个系统,使用反馈和共同的随机性,渐近达到,具有高概率,时间平均的信道的容量,普遍为每个序列的信道。虽然假设没有信道序列的先验知识,但是对于在相同字母表上定义的每个无记忆AVC,所实现的速率满足或超过传统的任意变化信道(AVC)容量,并且因此系统普遍地获得随机码AVC容量,而不知道AVC参数。我们提出的系统结合了无比率编码与一个通用的预测方案的前。我们提出了粗略的上限的利率,可以实现在这种设置和下限的冗余。
2012-02-02 cs.IT math.IT
On Joint Communication and Channel Discrimination
我们考虑一个基本的通信和传感设置,包括一个发射器,一个接收器和一个传感器。发射机通过离散无记忆信道向接收机发送编码序列,接收机对解码序列感兴趣。另一方面,传感器通过两个可能的离散无记忆通道之一拾取传输序列的噪声版本。传感器知道传输的序列并希望区分两个可能的通道,即在给定输入的情况下识别生成输出的通道。我们研究了通信和传感之间的权衡在渐近制度,捕获的编码率对在传感器的歧视误差指数的接收器。我们描述了一般离散无记忆信道的输入成本约束的最佳速率指数权衡。
2022-05-10 cs.IT math.IT
PAC Learnability for Reliable Communication over Discrete Memoryless Channels
针对未知离散无记忆信道,提出基于PAC学习理论的数据驱动方法,通过虚拟样本算法选择解码度量和码率,实现接近信道互信息的可靠通信,证明DMCs的PAC可学习性。
2024-04-22 cs.IT math.IT
Architecture for communication with a fidelity criterion in unknown networks
我们证明,为了沟通独立的来源(这是单播问题)在不同的失真水平在一个未知的介质中的各种用户之间,这是足够的考虑源-信道分离为基础的架构:架构首先压缩的来源,然后通过可靠的通信在未知的介质中相应的失真水平。我们将独立信源在网络上的普遍率失真通信问题简化为网络上的普遍可靠通信问题。这是一种简化论的观点。我们没有解决网络中的可靠通信问题。
2011-01-21 cs.IT math.IT
AirFL-Mem: Improving Communication-Learning Trade-Off by Long-Term Memory
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));The Hong Kong University of Science and Technology(香港科技大学)
本文提出AirFL-Mem方案,通过引入长期记忆机制缓解空中联邦学习中的深度衰落问题,理论证明其收敛速率与理想通信下的FedAvg相同,并基于理论结果优化了瑞利衰落下的功率控制截断阈值。
2023-10-28 cs.IT cs.LG math.IT
Receivers for Diffusion-Based Molecular Communication: Exploiting Memory and Sampling Rate
在本文中,一个基于扩散的分子通信信道之间的两个纳米机器被认为是。的内存量对性能的影响的特点,并提出了一个简单的内存有限的解码器,其性能被证明是接近的最好的可能想象的解码器(没有任何限制的计算复杂性或其功能形式),使用Genie辅助上界。这种效应是专门为分子浓度漂移键控的情况下,它表明,一个四位的内存实现了几乎相同的性能无限的内存。然后,一般类的阈值解码器被认为是不是最佳的泊松信道的记忆,除非信噪比高于指定的值在文件中。另一贡献是示出了接收机以高于传输速率的速率采样,即,多读系统,可以显著提高性能。该系统的相关决策规则被示出为在每个符号间隔期间的样本的加权和。利用鞍点近似法分析了系统的性能。过采样系数为3时,性能增益最佳。
2014-05-02 cs.IT math.IT physics.bio-ph
Memory-Assisted Universal Compression of Network Flows
近年来,互联网流量中大量冗余的存在促使了网络中冗余消除技术的发展。这些技术通常基于分组级冗余消除(RE)或内容中心网络(CCN)。然而,这些技术不能利用子分组冗余。此外,诸如端到端通用压缩解决方案的其他替代技术在互联网业务上也不会表现良好,因为这样的技术需要无限长度的业务来有效地去除冗余。本文提出了一种内存辅助的通用压缩技术,具有显着的承诺,减少网络中的流量。建议的工作是基于这样的观察,如果一个源被压缩,并通过网络发送,相关的通用代码需要大量的开销在传输中,由于有限长度的流量。然而,中间结点可以学习源统计,并且这可以用于降低描述源统计的成本,从而降低这种业务的传输开销。本文提出了两种基于记忆辅助的信息源通用无损压缩算法(基于统计的和基于字典的)。这些计划是普遍的意义上,他们不需要任何先验知识的交通的统计分布。我们证明了这两种算法的有效性,并使用真正的互联网痕迹的记忆增益的特点。此外,我们将这些压缩方案应用到互联网的幂律图,并解决压缩流的路由问题。
2012-03-30 cs.IT cs.NI math.IT
Contextual Memory-Enhanced Source Coding for Low-SNR Communications
College of Information Science and Electronic Engineering(信息科学与电子工程学院)
本文提出一种内存增强的信源编码方案,通过内部化上下文模式提升信源编码的鲁棒性,减少残余信道错误对解码的影响,实验验证其有效性。
2026-08-26 cs.IT cs.LG math.IT
A Memory-Based Reinforcement Learning Approach to Integrated Sensing and Communication
Princeton University(普林斯顿大学);Technion(以色列理工学院)
针对有记忆点到点 ISAC 系统的在线容量—失真折中,提出基于有向信息奖励和 DDPG 的深度强化学习波形优化方法,证明利用无界状态与信道记忆可显著提升性能。
2024-12-02 cs.IT cs.LG math.IT
Memory effects can make the transmission capability of a communication channel uncomputable
大多数通信信道都受到噪声的影响。信息论的目标之一是在信息的传输中增加冗余,使信息可靠地传输,并且通过信道传输的信息量尽可能大。可靠传输的最大速率称为容量。如果信道不保留其过去的记忆,则容量由简单的优化问题给出,并且可以有效地计算。具有记忆的通道的情况不太清楚。在这里,我们表明,通道与内存的容量不能计算精度1/5。我们的结果保持,即使我们考虑一个最简单的家庭这样的渠道-信息稳定的有限状态机渠道-,限制输入和输出的通道分别为4和1位,并允许6位的内存。
2018-03-20 cs.CC cs.FL cs.IT
CoCo-Fed: A Unified Framework for Memory- and Communication-Efficient Federated Learning at the Wireless Edge
研究针对O-RAN架构中大规模神经网络部署的瓶颈,提出CoCo-Fed框架,通过本地梯度双维下投影及全局正交子空间叠加传输协议,统一内存与通信效率,理论证明其收敛性,模拟显示在相关任务中优于基线。
2026-07-27 cs.AI cs.IT math.IT
A Universal Framework of Superimposed RIS-Phase Modulation for MISO Communication
为了充分利用可重构智能表面(RIS)所带来的额外维度,信息论最近提出,在RIS相位上调制信息能够以增加的通信速率发送额外的信息。在本文中,我们提出了一种新的叠加RIS相位调制(SRPM)方案,通过叠加信息承载相位偏移,以传统的优化RIS相位来传输额外的消息。建议的SRPM被解释为RIS相位调制的通用框架。理论上的联合界的平均比特出错率(ABER)的建议SRPM也推导出与最大似然(ML)检测。对于所有参数设置,分集阶数被表征为0.5,这对于确定相位调制参数的最佳选择是有用的。此外,我们发现,增加一倍的RIS反射元件或发射天线的数量相当于一个3 dB的增量在SRPM的发射功率。数值结果表明,SRPM的有效性,并显示它实现了更多的比特比现有的方案的可靠通信。
2022-11-20 cs.IT eess.SP math.IT
A universal tradeoff between power, precision and speed in physical communication
最大限度地提高通信速度和精度,同时最大限度地降低功耗是一个基本的工程设计目标。此外,生物系统使用知之甚少的物理设计原理实现了惊人的速度,精度和功率效率。强大的理论,如信息论和热力学,并没有对功率、精度和速度提供一般性的限制。在这里,我们超越了这些经典理论,证明精度和速度的乘积普遍受到任何动态比信号快的物理通信信道中的功耗的限制。此外,我们的推导涉及摩擦和信息几何之间的一种新的连接。这些结果可能会产生洞察通信设备的工程设计和生物信号系统的结构和功能。
2016-03-24 cond-mat.stat-mech cs.IT math.IT
Memory Is Communication: The Frontier Between Remembering and Signaling
Alberta Machine Intelligence Institute, University of Alberta(阿尔伯塔大学阿尔伯塔机器智能研究所);Network for Applied Technology(应用技术网络)
该研究探讨受资源限制的智能体如何分配记忆与通信预算以优化决策,提出记忆-信号边界概念,通过参考博弈实验验证了从历史中获更大损失降幅可减少同伴通信的假设。
2026-08-19 cs.AI cs.CL cs.IT