Probabilistic Shaping for the AWGN Channel
在本报告中,我们研究了具有固定信号星座的加性高斯白噪声信道上的通信。我们测量我们可以通过这个信道发送多少信息,以及如何通过改变输入概率分布来提高通信速率。更确切地说,我们研究了从麦克斯韦-玻尔兹曼分布,Blahut-Arimoto算法和约束版本的Blahut-Arimoto算法获得的互信息。我们强调的事实,麦克斯韦-玻尔兹曼分布不是最佳的。我们还观察到,Blahut-Arimoto算法没有给我们最好的互信息超过SNR。为了获得固定SNR的最佳分布,我们必须实现Blahut-Arimoto算法的约束版本。
2023-02-16 cs.IT math.IT
Bregman-divergence-based Arimoto-Blahut algorithm
本文将广义Arimoto-Blahut算法推广到Bregman散度系统,提出免最小化迭代算法,并应用于经典与量子率失真理论中最优条件分布的数值推导。
2025-03-09 cs.IT math.IT math.OC
Blahut-Arimoto Algorithm and Code Design for Action-Dependent Source Coding Problems
在解码器处具有动作相关边信息的信源编码问题最近被引入到对资源受限系统中的数据采集进行建模。本文提出了一种求解该问题的率失真代价函数的有效算法,并给出了收敛性证明。此外,提出了基于多路复用的两级代码设计,其中第一级对动作进行编码,第二级由经典Wyner-Ziv码阵列组成,每个动作对应一个码。基于LDGM码和消息传递设计了具体的编解码策略。通过数值例子,所提出的代码设计,以实现性能接近的率失真成本函数所规定的下限。
2013-01-25 cs.IT math.IT
On a Proof of the Convergence Speed of a Second-order Recurrence Formula in the Arimoto-Blahut Algorithm
在[8](Nakagawa等人,IEEE Trans. IT,2021),我们研究了Arimoto-Blahut算法的收敛速度。在[8]中,通过关注由Arimoto-Blahut算法的定义函数的Taylor展开式的一阶和二阶项组成的二阶非线性递推公式,分析了阶$O(1/N)$的收敛性。然而,在[8]中,无穷多个不等式被假定为一个“猜想”,并基于该猜想给出了证明。本文给出了一类信道矩阵的阶$O(1/N)$的收敛性的一个证明,而不需要假设猜想。证明的正确性将通过几个数值例子得到证实。
2022-09-11 cs.IT cs.NA math.IT
A Bregman Proximal Perspective on Classical and Quantum Blahut-Arimoto Algorithms
本文从 Bregman 近端视角统一解释经典与量子 Blahut-Arimoto 算法,证明其为镜像下降的特殊实例,并利用相对光滑性和强凸性恢复收敛速率,进而将该框架推广到能量约束信道容量、率失真函数及纠缠相对熵近似等问题。
2024-06-07 cs.IT math.IT math.OC
Gaussian Arimoto-Blahut Algorithm for Capacity Region Calculation of Gaussian Vector Broadcast Channels
Xi’an Jiaotong University(西安交通大学);Xidian University(西安电子科技大学);The Chinese University of Hong Kong(香港中文大学)
本文提出高斯阿里莫-布拉胡算法用于计算高斯向量广播信道的容量区域,通过投影和交替更新方法实现参数自由的高效计算。
2025-12-26 cs.IT math.IT
A Blahut-Arimoto Type Algorithm for Computing Classical-Quantum Channel Capacity
基于Arimoto在1978年的工作,我们提出了一种计算具有有限输入字母表和有限维输出的离散无记忆经典量子信道容量的迭代算法,我们称之为经典量子信道的Blahut-Arimoto算法,并考虑了输入代价约束.我们表明,达到$\varepsilon$的准确性,该算法的迭代复杂度是上界的$\frac{\log n\log\varepsilon}{\varepsilon}$,其中$n$是输入字母表的大小。特别地,当输出状态$\{ρ_x\}_{x\in \mathcal{X}}$在复矩阵空间中线性无关时,算法具有几何收敛性。我们还表明,该算法达到了$\varepsilon$精确的解决方案的复杂性$O(\frac{m^3\log n\log\varepsilon}{\varepsilon})$,和$O(m^3\log\varepsilon\log_{(1-δ)}\frac{\varepsilon}{D(p^*||p^{N_0})})$在特殊情况下,其中$m$是输出维数和$D(p^*||p^{N_0})$是两个分布的相对熵和$δ$是一个正数。
2019-04-25 cs.IT math.IT quant-ph
Finite-Temperature de Bruijn Identities: Fisher Information as the Spectral Gap of Blahut--Arimoto Dynamics
本文通过 Blahut-Arimoto 动力学的谱理论,发现 Fisher 信息与谱隙的关系,推导出有限温度 de Bruijn 恒等式,将经典恒等式推广到有限温度情形。
2026-06-02 cs.IT math.IT
Translation Symmetry, Fisher Information, and the Entropy Power Inequality in Blahut--Arimoto Geometry
Southeast University(东南大学)
本文发现Blahut-Arimoto率失真优化有限温度几何中一个未识别的结构,通过配分恒等式证明Fisher信息等于平移模式的Rayleigh商,从而给出熵功率不等式的几何解释。
2026-06-04 cs.IT math.IT
Relaxation Kernel, Spectral Dissipation, and Global Convergence of Blahut--Arimoto Dynamics
School of Economics and Management, Southeast University(东南大学经济管理学院)
本文通过引入松弛核G,建立了连续和离散时间Blahut-Arimoto动力学的谱理论,证明了自由能的精确χ²-耗散恒等式,揭示了离散迭代的Lyapunov耗散谱分解,并给出了全局收敛的两阶段机制及KL收敛因子的显式表达式。
2026-05-30 cs.IT math.IT
Conditions for Global Optimality in Quantum Arimoto-Blahut Algorithms
The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));International Quantum Academy (SIQA)(国际量子科学院);Nagoya University(名古屋大学)
本文为量子 Arimoto-Blahut 算法建立了全局最优性的充要条件,提出基于方向导数的后验证书,并验证其有效性。
2026-09-10 cs.IT math.IT math.OC
Vector Flows and the Capacity of a Discrete Memoryless Channel
本文提出一种基于连续时间动力系统的新方法计算离散无记忆信道容量,作为Blahut-Arimoto算法的连续时间版本,并借助博弈论类比设计模拟电路硬件实现。
2023-12-27 cs.IT math.IT
Méthode du point proximal: principe et applications aux algorithmes itératifs
本文回顾了近点法。我们研究了两个迭代算法:Blahut-Arimoto算法计算任意离散无记忆信道的容量,作为一个例子的迭代算法与概率密度估计和比特交织编码调制(BICM-ID)的迭代解码。对于这些迭代算法,我们采用的近点法,它允许新的解释,提高收敛速度。
2010-01-12 cs.IT math.IT
Scalar Gaussian Wiretap Channel with Peak Amplitude Constraint: Numerical Computation of the Optimal Input Distribution
本文研究了一个标量高斯窃听信道,而不是平均输入功率的约束,我们认为输入的峰值幅度约束。我们的目标是获得洞察的安全能力和安全能力实现分布的结构。本文利用最新的理论进展的结构的security-capacity-achieving分布,本文开发了一个数值程序的基础上,梯度上升算法和一个版本的Blahut-Arimoto算法,计算security-capacity和security-achieving的输入和输出分布。
2021-11-22 cs.IT math.IT
DeepDIVE: Optimizing Input-Constrained Distributions for Composite DNA Storage via Multinomial Channel
针对多项式信道在有限输入支撑集约束下优化达容输入分布的挑战,提出基于M-DAB算法并集成变分自编码器的DeepDIVE算法,实现DNA存储系统中输入分布位置与权重的交替优化。
2025-01-25 cs.IT eess.SP math.IT
M-DAB: An Input-Distribution Optimization Algorithm for Composite DNA Storage by the Multinomial Channel
本文针对复合DNA存储的多项式信道,提出M-DAB算法以优化输入分布达到信道容量,并发现容量随支撑集大小的标度律。
2023-09-29 cs.IT math.IT
Critical Slowing Down Near Topological Transitions in Rate-Distortion Problems
该研究针对率失真问题中最优表示的拓扑转变临界点,分析Arimoto-Blahut交替投影算法的收敛特性,发现其存在临界慢化现象,为机器学习与数据压缩领域提供理论与实践参考。
2021-05-09 cs.IT math.IT
Extended AB Algorithms for Bistatic Integrated Sensing and Communications Systems
本文提出扩展的Arimoto-Blahut算法,通过引入辅助变量将非凸失真约束转化为线性约束,解决了双站ISAC系统中率失真折中的计算难题,数值结果验证了其有效性。
2025-08-11 cs.IT math.IT
Beamforming Design with Fast Convergence for IRS-Aided Full-Duplex Communication
本文研究了智能反射面(IRS)辅助全双工(FD)通信系统的波束形成优化问题。具体来说,我们最大限度地提高双向传输的总速率,通过联合优化发射波束成形和IRS反射的波束成形。提出了一种快速收敛的交替算法来解决该问题。在该算法的每次迭代中,发射波束形成和IRS反射波束形成的解分别以半封闭形式和封闭形式获得。与现有的基于Arimoto-Blahut算法的方法相比,该方法具有更快的收敛速度和更低的计算复杂性,但性能几乎相同。
2020-08-02 cs.IT eess.SP math.IT
Poisson Noise Channel with Dark Current: Numerical Computation of the Optimal Input Distribution
本文考虑了离散时间泊松噪声信道,用于模拟直接检测接收的脉冲幅度调制光通信。本文的目标是获得洞察的容量和结构的容量实现下的信道分布的振幅约束$\mathsf{A}$和在暗电流$λ$的存在下。利用最近的理论进展的能力实现分布的结构,本文开发了一个数值算法,基于梯度上升和Blahut-Arimoto算法,计算的能力和能力实现分布。该算法用于执行广泛的数值模拟的各种制度的$\mathsf{A}$和$λ$。
2021-11-22 cs.IT math.IT
Capacity and Achievable Rates of Fading Few-mode MIMO IM/DD Optical Fiber Channels
Technical University of Denmark(丹麦技术大学)
研究了空间路径强度调制直接检测(IM/DD)的多输入多输出(MIMO)光纤信道。空间维度表示用于传输的多个模式,并且它们之间的串扰起源于复用器和解复用器,这是偏振相关的,因此是时变的。从自由空间IM/DD MIMO信道的上限适应光纤的情况下,星座约束容量的建设性估计使用Blahut-Arimoto算法。然后提出了一种自动编码器,以优化实际的MIMO传输的预编码器和检测器,假设在发射机的信道分布知识。预编码器被示出为是鲁棒的信道中的变化。
2022-01-27 cs.IT cs.LG math.IT
Channel Coding and Source Coding with Increased Partial Side Information
设(S1,i,S2,i),按照i.i.d分布p(s1,s2),i = 1,2,. . .可以是无记忆的、相关的部分边信息序列。在这项工作中,我们研究信道编码和信源编码的问题,其中的部分边信息(S1,S2)是在编码器和解码器,分别,此外,无论是编码器的或解码器的边信息增加了有限速率的描述其他的部分边信息。我们推导出六种特殊情况下的信道编码和信源编码的问题,我们表征的容量和率失真函数的不同情况。我们提出了一个二元之间的信道容量和率失真的情况下,我们研究。为了找到我们的信道容量和率失真问题的数值解,我们使用Blahut-Arimoto算法和凸优化工具。作为我们的工作的副产品,我们发现了一个紧的下限Wyner-Ziv解决方案制定其拉格朗日对偶作为一个几何规划。文献中以前的结果提供了一个几何规划公式,这只是一个下限,但不一定紧。最后,我们提供了几个例子对应的信道容量和率失真的情况下,我们提出。
2013-04-11 cs.IT math.IT
A Mirror-Descent Algorithm for Computing the Petz-Rényi Capacity of Classical-Quantum Channels
National Taiwan University(国立台湾大学);National Center for Theoretical Sciences(国家理论科学中心);Hon Hai (Foxconn) Quantum Computing Center(鸿海(富士康)量子计算中心)
本文提出了一种基于镜像下降算法的计算经典-量子信道Petz-Rényi容量的方法,证明了其在熵几何上的全局亚线性收敛性和局部线性收敛性。
2026-01-15 cs.IT math.IT math.OC
Information Rates of ASK-Based Molecular Communication in Fluid Media
本文研究了流体介质中分子通信的容量,其中信息被编码在一个时隙中传输的分子数(幅移键控)。分子的传播受随机布朗运动的支配,并且通信通常受到符号间干扰(ISI)的影响。我们首先考虑ISI可以忽略不计的情况,并分析所得到的离散无记忆分子通道的容量和每单位成本的容量以及可能的实际约束的效果,例如每次传输的峰值和/或平均传输分子数的限制。在一个受约束的峰值分子发射的情况下,我们表明,随着时隙持续时间的增加,实现每个通道使用的容量从二进制输入转换到离散的均匀分布的输入分布。在本文中,我们还分析了ISI的影响。最重要的是,我们占的相关性,ISI引起信道输出符号之间。我们推导出一个上限和两个下限的能力,在这种情况下。使用扩展的Blahut-Arimoto算法得到的输入分布,我们最大限度地提高了下界。我们的结果表明,在很宽的参数值范围内,边界是接近的。
2015-11-22 cs.IT math.IT
Computing Capacity-Cost Functions for Continuous Channels in Wasserstein Space
本文研究连续信道的容量-代价函数计算问题,通过将Wasserstein距离引入Blahut-Arimoto算法的近端项,提出了一种基于Wasserstein梯度下降的迭代算法,并统一应用于率失真函数的计算。
2025-03-02 cs.IT eess.SP math.IT
Estimating Rate-Distortion Functions Using the Energy-Based Model
本文提出基于能量模型的率失真函数估计框架,利用 RD 对偶与自由能的联系,仅训练单个网络并以 MCMC 避免归一化计算,实现高维 RD 估计及最优条件分布重构。
2025-07-25 cs.IT math.IT
A Convergent Primal-Dual Algorithm for Computing Rate-Distortion-Perception Functions
本文通过放松重建分布约束并提出一种具有可证明收敛保证的原始-对偶算法,首次为率-失真-感知函数计算建立了严格的O(1/n)收敛速率,弥补了理论空白并取得有竞争力的实证性能。
2025-08-19 cs.IT math.IT
Bregman divergence based em algorithm and its application to classical and quantum rate distortion theory
本文在 Bregman 散度框架下提出通用 em 算法,证明其收敛性与速度,并用于直接求解经典及量子率失真理论中代价约束下的互信息最小化问题。
2022-05-05 cs.IT math.IT quant-ph
Algorithms for Computing the Petz-Augustin Capacity
National Taiwan University(国立台湾大学);Center for Quantum Science and Engineering, National Taiwan University(国立台湾大学量子科学与工程中心)
本文提出计算Petz-Augustin容量的算法,通过两层方法结合熵镜像下降和固定点算法,实现非渐近收敛保证。
2026-01-10 cs.IT math.IT math.OC
Towards Empirical Sandwich Bounds on the Rate-Distortion Function
UC Irvine(加州大学欧文分校)
率失真(R-D)函数是信息论中的一个重要量,它描述了在满足保真度要求的前提下,任何压缩算法对数据源的压缩程度的基本极限。随着研究人员不断提高压缩性能,建立给定数据源的R-D函数不仅具有科学意义,而且还揭示了改进压缩算法的可能空间。以前关于这个问题的工作依赖于对数据源的分布假设(Gibson,2017)或仅适用于离散数据(Blahut,1972; Arimoto,1972)。相比之下,本文首次尝试了一种算法,用于计算一般(不一定是离散的)源的R-D函数,只需要i.i.d.。数据样本。我们在远远超出任何已知方法的可行性的设置中估计了各种人工和真实世界数据源的R-D三明治界限,并阐明了神经数据压缩的最优性(Ballé等人,2021年; Yang等人,2022年)。我们对自然图像的R-D上限表明,在各种比特率下,最先进的图像压缩方法的PSNR至少有一个dB的理论空间。我们的数据和代码可以在https://github.com/mandt-lab/empirical-RD-sandwich上找到。
2022-03-11 cs.IT cs.LG math.IT
Efficient Computation of the Quantum Rate-Distortion Function
针对量子率失真函数缺乏高效高精度算法的问题,本文利用对称性约简简化纠缠辅助优化,并提出具有次线性收敛保证的非精确镜像下降算法,首次实现多量子比特情形的数值计算。
2024-04-03 cs.IT math.IT math.OC
Fundamental Limitation of Semantic Communications: Neural Estimation for Rate-Distortion
Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Future Network of Intelligence Institute(未来智联网络研究院);University of Hong Kong(香港大学);Beijing University of Posts and Telecommunications(北京邮电大学);State Key Laboratory of Networking and Switching Technology(网络与交换技术国家重点实验室)
本文研究离散无记忆信道上语义通信的基本限制,采用语义率失真函数分析压缩率与失真关系,提出基于神经网络的方法和Blahut-Arimoto算法估计SRDF,并通过实验验证有效性。
2024-01-02 cs.IT cs.LG eess.SP
Estimating the Rate-Distortion Function by Wasserstein Gradient Descent
University of California, Irvine(加利福尼亚大学尔湾分校);ETH Zurich(苏黎世联邦理工学院);Columbia University(哥伦比亚大学)
本文提出用Wasserstein梯度下降从最优传输视角估计率失真函数,通过移动粒子学习最优再现分布支撑集,并证明其局部收敛性及样本复杂度,在低速率源上以更少调参和计算获得与神经网络方法相当或更紧的界。
2023-10-29 cs.IT cs.LG math.IT
A Sequential Computation Algorithm for the Center of the Smallest Enclosing Ball
本文提出一种基于Arimoto-Blahut算法概念的序列计算算法,用于求解$d$维欧几里得空间中$n$个点的最小包围球(SEB)中心的重心坐标,具有计算公式简单且实用性强的优点。
2025-05-31 cs.IT math.IT
A Constrained BA Algorithm for Rate-Distortion and Distortion-Rate Functions
Tsinghua University(清华大学);Yangtze Delta Region Institute (Huzhou), University of Electronic Science and Technology of China(电子科技大学长三角研究院(湖州));Huawei Technologies Co. Ltd.(华为技术有限公司);University of Science and Technology of China(中国科学技术大学)
本文改进 Blahut-Arimoto 算法,通过 Newton 求根动态更新乘子,直接计算给定失真下的 RD 及 DR 函数,并证明其 O(1/n) 收敛率与运算复杂度,实验显示显著加速。
2024-01-18 cs.IT cs.LG math.IT