Squeezing the Arimoto-Blahut algorithm for faster convergence
Yaming Yu
Arimoto-Blahut算法计算的离散无记忆信道的容量被重新审视。所谓的“挤压”策略用于设计保持其简单性和单调收敛特性的算法，但具有可证明的更好的收敛速度。
The Arimoto--Blahut algorithm for computing the capacity of a discrete memoryless channel is revisited. A so-called ``squeezing'' strategy is used to design algorithms that preserve its simplicity and monotonic convergence properties, but have provably better rates of convergence.
机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。
继续探索
Analysis of the Convergence Speed of the Arimoto-Blahut Algorithm by the Second Order Recurrence Formula
本文研究了Arimoto-Blahut算法的收敛速度。对于许多信道矩阵，收敛是指数的，但对于某些信道矩阵，它比指数慢。通过对Arimoto-Blahut算法定义函数的泰勒展开式的分析，明确了算法指数收敛或慢收敛的条件。对慢收敛的分析是本文的新内容。基于分析，我们将比较的Arimoto-Blahut算法的收敛速度数值与我们的定理中得到的几个信道矩阵的值。本文的目的是一个完整的理解的Arimoto-Blahut算法的收敛速度。
Geometrical interpretation and improvements of the Blahut-Arimoto's algorithm
本文首先回顾了Blahut Arimoto算法计算任意离散无记忆信道的容量，作为一个例子的迭代算法与概率密度估计。然后，这个算法的几何解释的基础上投影到线性和指数家庭的概率。最后，这种理解还允许提出将Blahut-Arimoto算法编写为真正的邻近点算法。结果表明，与初始算法相比，以及与其他改进版本相比，相应版本具有改进的收敛速度。
Improved Capacity Upper Bounds for the Deletion Channel using a Parallelized Blahut-Arimoto Algorithm
本文通过GPU并行化优化Blahut-Arimoto算法，改进了二进制删除信道的容量上限，证明当删除概率d≥0.64时，容量不超过0.3578(1-d)
Extension of the Blahut-Arimoto algorithm for maximizing directed information
我们扩展了Blahut-Arimoto算法最大化梅西的有向信息。该算法可用于估计具有延迟反馈的信道的容量，其中反馈是输出的确定性函数。为了做到这一点，我们应用来自常规Blahut-Arimoto算法的思想，即，交替最大化程序，解决我们的新问题。我们提供了收敛到最优值的上界和下界序列。我们在本文中的主要见解是，为了找到因果条件概率质量函数（PMF）上的有向信息的最大值，可以使用反向索引时间最大化与交替最大化过程相结合。我们给出了一个详细的描述的算法，它的复杂性，所需的内存，和几个数值例子。
Bregman-divergence-based Arimoto-Blahut algorithm
本文将广义Arimoto-Blahut算法推广到Bregman散度系统，提出免最小化迭代算法，并应用于经典与量子率失真理论中最优条件分布的数值推导。
A Generalization of Blahut-Arimoto Algorithm to Compute Rate-Distortion Regions of Multiterminal Source Coding Under Logarithmic Loss
在本文中，我们提出了迭代算法，数值计算率失真区域的两个问题：两编码器多端信源编码问题和首席执行官（CEO）问题，这两个问题都是在对数损失失真测度下的.由于这些模型与分布式信息瓶颈方法有着明确的联系，所提出的算法可以在各种应用中找到用处，例如聚类，模式识别和学习。我们通过一些数值例子说明我们的算法的效率。
On a Proof of the Convergence Speed of a Second-order Recurrence Formula in the Arimoto-Blahut Algorithm
在[8]（Nakagawa等人，IEEE Trans. IT，2021），我们研究了Arimoto-Blahut算法的收敛速度。在[8]中，通过关注由Arimoto-Blahut算法的定义函数的Taylor展开式的一阶和二阶项组成的二阶非线性递推公式，分析了阶$O(1/N)$的收敛性。然而，在[8]中，无穷多个不等式被假定为一个“猜想”，并基于该猜想给出了证明。本文给出了一类信道矩阵的阶$O(1/N)$的收敛性的一个证明，而不需要假设猜想。证明的正确性将通过几个数值例子得到证实。
Probabilistic Shaping for the AWGN Channel
在本报告中，我们研究了具有固定信号星座的加性高斯白噪声信道上的通信。我们测量我们可以通过这个信道发送多少信息，以及如何通过改变输入概率分布来提高通信速率。更确切地说，我们研究了从麦克斯韦-玻尔兹曼分布，Blahut-Arimoto算法和约束版本的Blahut-Arimoto算法获得的互信息。我们强调的事实，麦克斯韦-玻尔兹曼分布不是最佳的。我们还观察到，Blahut-Arimoto算法没有给我们最好的互信息超过SNR。为了获得固定SNR的最佳分布，我们必须实现Blahut-Arimoto算法的约束版本。
A Bregman Proximal Perspective on Classical and Quantum Blahut-Arimoto Algorithms
本文从 Bregman 近端视角统一解释经典与量子 Blahut-Arimoto 算法，证明其为镜像下降的特殊实例，并利用相对光滑性和强凸性恢复收敛速率，进而将该框架推广到能量约束信道容量、率失真函数及纠缠相对熵近似等问题。
Revisit the Arimoto-Blahut algorithm: New Analysis with Approximation
本文重新分析Arimoto-Blahut算法的收敛速率，证明对任意足够小的ε>0，收敛到ε-最优解的速率为逆指数O(log(m)/c^t)，并据此推导出容量精确计算的新结果。
A Blahut-Arimoto Type Algorithm for Computing Classical-Quantum Channel Capacity
基于Arimoto在1978年的工作，我们提出了一种计算具有有限输入字母表和有限维输出的离散无记忆经典量子信道容量的迭代算法，我们称之为经典量子信道的Blahut-Arimoto算法，并考虑了输入代价约束.我们表明，达到$\varepsilon$的准确性，该算法的迭代复杂度是上界的$\frac{\log n\log\varepsilon}{\varepsilon}$，其中$n$是输入字母表的大小。特别地，当输出状态$\{ρ_x\}_{x\in \mathcal{X}}$在复矩阵空间中线性无关时，算法具有几何收敛性。我们还表明，该算法达到了$\varepsilon$精确的解决方案的复杂性$O(\frac{m^3\log n\log\varepsilon}{\varepsilon})$，和$O(m^3\log\varepsilon\log_{(1-δ)}\frac{\varepsilon}{D(p^*||p^{N_0})})$在特殊情况下，其中$m$是输出维数和$D(p^*||p^{N_0})$是两个分布的相对熵和$δ$是一个正数。
Blahut-Arimoto Algorithm and Code Design for Action-Dependent Source Coding Problems
在解码器处具有动作相关边信息的信源编码问题最近被引入到对资源受限系统中的数据采集进行建模。本文提出了一种求解该问题的率失真代价函数的有效算法，并给出了收敛性证明。此外，提出了基于多路复用的两级代码设计，其中第一级对动作进行编码，第二级由经典Wyner-Ziv码阵列组成，每个动作对应一个码。基于LDGM码和消息传递设计了具体的编解码策略。通过数值例子，所提出的代码设计，以实现性能接近的率失真成本函数所规定的下限。
Gaussian Arimoto-Blahut Algorithm for Capacity Region Calculation of Gaussian Vector Broadcast Channels
本文提出高斯阿里莫-布拉胡算法用于计算高斯向量广播信道的容量区域，通过投影和交替更新方法实现参数自由的高效计算。
Conditions for Global Optimality in Quantum Arimoto-Blahut Algorithms
本文为量子 Arimoto-Blahut 算法建立了全局最优性的充要条件，提出基于方向导数的后验证书，并验证其有效性。
Finite-Temperature de Bruijn Identities: Fisher Information as the Spectral Gap of Blahut--Arimoto Dynamics
本文通过 Blahut-Arimoto 动力学的谱理论，发现 Fisher 信息与谱隙的关系，推导出有限温度 de Bruijn 恒等式，将经典恒等式推广到有限温度情形。
Translation Symmetry, Fisher Information, and the Entropy Power Inequality in Blahut--Arimoto Geometry
本文发现Blahut-Arimoto率失真优化有限温度几何中一个未识别的结构，通过配分恒等式证明Fisher信息等于平移模式的Rayleigh商，从而给出熵功率不等式的几何解释。
Relaxation Kernel, Spectral Dissipation, and Global Convergence of Blahut--Arimoto Dynamics
本文通过引入松弛核G，建立了连续和离散时间Blahut-Arimoto动力学的谱理论，证明了自由能的精确χ²-耗散恒等式，揭示了离散迭代的Lyapunov耗散谱分解，并给出了全局收敛的两阶段机制及KL收敛因子的显式表达式。
Vector Flows and the Capacity of a Discrete Memoryless Channel
本文提出一种基于连续时间动力系统的新方法计算离散无记忆信道容量，作为Blahut-Arimoto算法的连续时间版本，并借助博弈论类比设计模拟电路硬件实现。
Méthode du point proximal: principe et applications aux algorithmes itératifs
本文回顾了近点法。我们研究了两个迭代算法：Blahut-Arimoto算法计算任意离散无记忆信道的容量，作为一个例子的迭代算法与概率密度估计和比特交织编码调制（BICM-ID）的迭代解码。对于这些迭代算法，我们采用的近点法，它允许新的解释，提高收敛速度。
Computing the optimal error exponential function for fixed-length lossy coding in discrete memoryless sources
针对定长有损源编码中 Marton 误差指数因率失真函数关于 P 非凸而难以计算的问题，本文提出与其逆函数精确匹配的参数化表示，并结合 Arimoto 算法与非凸参数优化求得最优分布。
DeepDIVE: Optimizing Input-Constrained Distributions for Composite DNA Storage via Multinomial Channel
针对多项式信道在有限输入支撑集约束下优化达容输入分布的挑战，提出基于M-DAB算法并集成变分自编码器的DeepDIVE算法，实现DNA存储系统中输入分布位置与权重的交替优化。
Scalar Gaussian Wiretap Channel with Peak Amplitude Constraint: Numerical Computation of the Optimal Input Distribution
本文研究了一个标量高斯窃听信道，而不是平均输入功率的约束，我们认为输入的峰值幅度约束。我们的目标是获得洞察的安全能力和安全能力实现分布的结构。本文利用最新的理论进展的结构的security-capacity-achieving分布，本文开发了一个数值程序的基础上，梯度上升算法和一个版本的Blahut-Arimoto算法，计算security-capacity和security-achieving的输入和输出分布。
M-DAB: An Input-Distribution Optimization Algorithm for Composite DNA Storage by the Multinomial Channel
本文针对复合DNA存储的多项式信道，提出M-DAB算法以优化输入分布达到信道容量，并发现容量随支撑集大小的标度律。
Beamforming Design with Fast Convergence for IRS-Aided Full-Duplex Communication
本文研究了智能反射面（IRS）辅助全双工（FD）通信系统的波束形成优化问题。具体来说，我们最大限度地提高双向传输的总速率，通过联合优化发射波束成形和IRS反射的波束成形。提出了一种快速收敛的交替算法来解决该问题。在该算法的每次迭代中，发射波束形成和IRS反射波束形成的解分别以半封闭形式和封闭形式获得。与现有的基于Arimoto-Blahut算法的方法相比，该方法具有更快的收敛速度和更低的计算复杂性，但性能几乎相同。
Poisson Noise Channel with Dark Current: Numerical Computation of the Optimal Input Distribution
本文考虑了离散时间泊松噪声信道，用于模拟直接检测接收的脉冲幅度调制光通信。本文的目标是获得洞察的容量和结构的容量实现下的信道分布的振幅约束$\mathsf{A}$和在暗电流$λ$的存在下。利用最近的理论进展的能力实现分布的结构，本文开发了一个数值算法，基于梯度上升和Blahut-Arimoto算法，计算的能力和能力实现分布。该算法用于执行广泛的数值模拟的各种制度的$\mathsf{A}$和$λ$。
A Mirror-Descent Algorithm for Computing the Petz-Rényi Capacity of Classical-Quantum Channels
本文提出了一种基于镜像下降算法的计算经典-量子信道Petz-Rényi容量的方法，证明了其在熵几何上的全局亚线性收敛性和局部线性收敛性。
Computing Capacity-Cost Functions for Continuous Channels in Wasserstein Space
本文研究连续信道的容量-代价函数计算问题，通过将Wasserstein距离引入Blahut-Arimoto算法的近端项，提出了一种基于Wasserstein梯度下降的迭代算法，并统一应用于率失真函数的计算。
A Convergent Primal-Dual Algorithm for Computing Rate-Distortion-Perception Functions
本文通过放松重建分布约束并提出一种具有可证明收敛保证的原始-对偶算法，首次为率-失真-感知函数计算建立了严格的O(1/n)收敛速率，弥补了理论空白并取得有竞争力的实证性能。
Algorithms for Computing the Petz-Augustin Capacity
本文提出计算Petz-Augustin容量的算法，通过两层方法结合熵镜像下降和固定点算法，实现非渐近收敛保证。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈
发表机构由 AI 从论文文本抽取，如发现错误，欢迎反馈修正建议。