Improved Capacity Upper Bounds for the Deletion Channel using a Parallelized Blahut-Arimoto Algorithm
Instituto Superior Técnico, Universidade de Lisboa(里斯本技术学院,里斯本大学);Instituto de Telecomunicações and Departamento de Matemática, Instituto Superior Técnico, Universidade de Lisboa(电信研究所与数学系,里斯本技术学院,里斯本大学)
本文通过GPU并行化优化Blahut-Arimoto算法,改进了二进制删除信道的容量上限,证明当删除概率d≥0.64时,容量不超过0.3578(1-d)
2026-04-07 cs.IT math.IT
Squeezing the Arimoto-Blahut algorithm for faster convergence
Arimoto-Blahut算法计算的离散无记忆信道的容量被重新审视。所谓的“挤压”策略用于设计保持其简单性和单调收敛特性的算法,但具有可证明的更好的收敛速度。
2009-06-21 cs.IT math.IT stat.CO
A Generalization of Blahut-Arimoto Algorithm to Compute Rate-Distortion Regions of Multiterminal Source Coding Under Logarithmic Loss
在本文中,我们提出了迭代算法,数值计算率失真区域的两个问题:两编码器多端信源编码问题和首席执行官(CEO)问题,这两个问题都是在对数损失失真测度下的.由于这些模型与分布式信息瓶颈方法有着明确的联系,所提出的算法可以在各种应用中找到用处,例如聚类,模式识别和学习。我们通过一些数值例子说明我们的算法的效率。
2017-08-24 cs.IT math.IT
Revisit the Arimoto-Blahut algorithm: New Analysis with Approximation
本文重新分析Arimoto-Blahut算法的收敛速率,证明对任意足够小的ε>0,收敛到ε-最优解的速率为逆指数O(log(m)/c^t),并据此推导出容量精确计算的新结果。
2025-07-20 cs.IT math.IT
Probabilistic Shaping for the AWGN Channel
在本报告中,我们研究了具有固定信号星座的加性高斯白噪声信道上的通信。我们测量我们可以通过这个信道发送多少信息,以及如何通过改变输入概率分布来提高通信速率。更确切地说,我们研究了从麦克斯韦-玻尔兹曼分布,Blahut-Arimoto算法和约束版本的Blahut-Arimoto算法获得的互信息。我们强调的事实,麦克斯韦-玻尔兹曼分布不是最佳的。我们还观察到,Blahut-Arimoto算法没有给我们最好的互信息超过SNR。为了获得固定SNR的最佳分布,我们必须实现Blahut-Arimoto算法的约束版本。
2023-02-16 cs.IT math.IT
Bregman-divergence-based Arimoto-Blahut algorithm
本文将广义Arimoto-Blahut算法推广到Bregman散度系统,提出免最小化迭代算法,并应用于经典与量子率失真理论中最优条件分布的数值推导。
2025-03-09 cs.IT math.IT math.OC
Blahut-Arimoto Algorithm and Code Design for Action-Dependent Source Coding Problems
在解码器处具有动作相关边信息的信源编码问题最近被引入到对资源受限系统中的数据采集进行建模。本文提出了一种求解该问题的率失真代价函数的有效算法,并给出了收敛性证明。此外,提出了基于多路复用的两级代码设计,其中第一级对动作进行编码,第二级由经典Wyner-Ziv码阵列组成,每个动作对应一个码。基于LDGM码和消息传递设计了具体的编解码策略。通过数值例子,所提出的代码设计,以实现性能接近的率失真成本函数所规定的下限。
2013-01-25 cs.IT math.IT
A Blahut-Arimoto Type Algorithm for Computing Classical-Quantum Channel Capacity
基于Arimoto在1978年的工作,我们提出了一种计算具有有限输入字母表和有限维输出的离散无记忆经典量子信道容量的迭代算法,我们称之为经典量子信道的Blahut-Arimoto算法,并考虑了输入代价约束.我们表明,达到$\varepsilon$的准确性,该算法的迭代复杂度是上界的$\frac{\log n\log\varepsilon}{\varepsilon}$,其中$n$是输入字母表的大小。特别地,当输出状态$\{ρ_x\}_{x\in \mathcal{X}}$在复矩阵空间中线性无关时,算法具有几何收敛性。我们还表明,该算法达到了$\varepsilon$精确的解决方案的复杂性$O(\frac{m^3\log n\log\varepsilon}{\varepsilon})$,和$O(m^3\log\varepsilon\log_{(1-δ)}\frac{\varepsilon}{D(p^*||p^{N_0})})$在特殊情况下,其中$m$是输出维数和$D(p^*||p^{N_0})$是两个分布的相对熵和$δ$是一个正数。
2019-04-25 cs.IT math.IT quant-ph
Gaussian Arimoto-Blahut Algorithm for Capacity Region Calculation of Gaussian Vector Broadcast Channels
Xi’an Jiaotong University(西安交通大学);Xidian University(西安电子科技大学);The Chinese University of Hong Kong(香港中文大学)
本文提出高斯阿里莫-布拉胡算法用于计算高斯向量广播信道的容量区域,通过投影和交替更新方法实现参数自由的高效计算。
2025-12-26 cs.IT math.IT
On a Proof of the Convergence Speed of a Second-order Recurrence Formula in the Arimoto-Blahut Algorithm
在[8](Nakagawa等人,IEEE Trans. IT,2021),我们研究了Arimoto-Blahut算法的收敛速度。在[8]中,通过关注由Arimoto-Blahut算法的定义函数的Taylor展开式的一阶和二阶项组成的二阶非线性递推公式,分析了阶$O(1/N)$的收敛性。然而,在[8]中,无穷多个不等式被假定为一个“猜想”,并基于该猜想给出了证明。本文给出了一类信道矩阵的阶$O(1/N)$的收敛性的一个证明,而不需要假设猜想。证明的正确性将通过几个数值例子得到证实。
2022-09-11 cs.IT cs.NA math.IT
A Bregman Proximal Perspective on Classical and Quantum Blahut-Arimoto Algorithms
本文从 Bregman 近端视角统一解释经典与量子 Blahut-Arimoto 算法,证明其为镜像下降的特殊实例,并利用相对光滑性和强凸性恢复收敛速率,进而将该框架推广到能量约束信道容量、率失真函数及纠缠相对熵近似等问题。
2024-06-07 cs.IT math.IT math.OC
Translation Symmetry, Fisher Information, and the Entropy Power Inequality in Blahut--Arimoto Geometry
Southeast University(东南大学)
本文发现Blahut-Arimoto率失真优化有限温度几何中一个未识别的结构,通过配分恒等式证明Fisher信息等于平移模式的Rayleigh商,从而给出熵功率不等式的几何解释。
2026-06-04 cs.IT math.IT
Iterative minimization algorithm on a mixture family
本文推广了源于Arimoto-Blahut算法的迭代最小化算法,证明含近似迭代情形的收敛定理,并将其用于改进em算法及求解信息论问题。
2023-12-31 cs.IT math.IT
Conditions for Global Optimality in Quantum Arimoto-Blahut Algorithms
The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));International Quantum Academy (SIQA)(国际量子科学院);Nagoya University(名古屋大学)
本文为量子 Arimoto-Blahut 算法建立了全局最优性的充要条件,提出基于方向导数的后验证书,并验证其有效性。
2026-09-10 cs.IT math.IT math.OC
Algorithm Families for Computing Information-Theoretic Forms of Strong Converse Exponents in Channel Coding and Lossy Source Coding
离散无记忆信道的误差指数用两种形式表示。一个是Gallager的表达与一个积极的斜率参数和其他Csiszar和Korner的信息理论表示使用的互信息和相对熵。它们在外观上不同,现有的方法来证明他们的协议是不基本的,因为它们需要评估的KKT条件,最佳分配必须满足。类似地,强逆指数有两种类型的表达式。它们分别是具有负斜率参数的Arimoto表达式和Dueck和Korner的信息论表达式。本文的目的是澄清两种表示指数的方法之间的关系,即,表示使用斜率参数和那些使用信息理论量,从算法的角度计算指数。Arimoto的算法是基于斜率参数的表达式,而作者的算法和Tridenski和Zamir的算法是基于Dueck和Korner的信息论表达式。最近提出了一个算法族,其中包括上述两个算法的特殊情况。本文阐明了Tridenski和Zamir算法的收敛性证明了Arimoto和Dueck及Korner指数的匹配。我们讨论了另一个家庭的算法,并使用其中使用的代理目标函数,证明了两个表达式的误差指数相吻合。在此证明中不需要评估KKT条件。然后讨论了有损信源编码中错误和正确译码概率指数的计算。定义了一种新的计算信源编码强逆指数的算法族。算法族中的一个成员的收敛性意味着强逆指数的两个表达式的匹配。
2022-11-04 cs.IT math.IT
Finite-Temperature de Bruijn Identities: Fisher Information as the Spectral Gap of Blahut--Arimoto Dynamics
本文通过 Blahut-Arimoto 动力学的谱理论,发现 Fisher 信息与谱隙的关系,推导出有限温度 de Bruijn 恒等式,将经典恒等式推广到有限温度情形。
2026-06-02 cs.IT math.IT
Méthode du point proximal: principe et applications aux algorithmes itératifs
本文回顾了近点法。我们研究了两个迭代算法:Blahut-Arimoto算法计算任意离散无记忆信道的容量,作为一个例子的迭代算法与概率密度估计和比特交织编码调制(BICM-ID)的迭代解码。对于这些迭代算法,我们采用的近点法,它允许新的解释,提高收敛速度。
2010-01-12 cs.IT math.IT
An Algorithm for Computing the Stratonovich's Value of Information
我们提出了一种算法,用于计算Stratonovich的信息值(VoI),可以被视为一个模拟的失真率函数。我们构造了一个交替优化算法的VoI下的一般信息泄漏约束,并推导出收敛条件。此外,我们还讨论了在特定的信息泄漏约束下计算VoI的算法,如香农的互信息(MI),$f$泄漏,Arimoto的MI,Sibson的MI和Csiszar的MI。
2022-05-08 cs.IT math.IT
Vector Flows and the Capacity of a Discrete Memoryless Channel
本文提出一种基于连续时间动力系统的新方法计算离散无记忆信道容量,作为Blahut-Arimoto算法的连续时间版本,并借助博弈论类比设计模拟电路硬件实现。
2023-12-27 cs.IT math.IT
Improved Upper and Lower Bounds on the Capacity of the Binary Deletion Channel
本文针对二进制删除信道,通过降低Blahut-Arimoto算法的空间复杂度改进上界至0.3745(1-d),并利用其扩展优化游程分布,将下界提升至0.1221(1-d)。
2023-05-11 cs.IT math.IT
A New Algorithm for Computing $α$-Capacity
针对 $\alpha>1$ 时 $\alpha$-容量等价于正确译码指数的计算问题,本文基于 Augustin--Csiszár 互信息变分刻画提出新的交替优化算法,并通过数值算例比较其与现有算法的收敛性能。
2024-05-12 cs.IT math.IT
M-DAB: An Input-Distribution Optimization Algorithm for Composite DNA Storage by the Multinomial Channel
本文针对复合DNA存储的多项式信道,提出M-DAB算法以优化输入分布达到信道容量,并发现容量随支撑集大小的标度律。
2023-09-29 cs.IT math.IT
Scalar Gaussian Wiretap Channel with Peak Amplitude Constraint: Numerical Computation of the Optimal Input Distribution
本文研究了一个标量高斯窃听信道,而不是平均输入功率的约束,我们认为输入的峰值幅度约束。我们的目标是获得洞察的安全能力和安全能力实现分布的结构。本文利用最新的理论进展的结构的security-capacity-achieving分布,本文开发了一个数值程序的基础上,梯度上升算法和一个版本的Blahut-Arimoto算法,计算security-capacity和security-achieving的输入和输出分布。
2021-11-22 cs.IT math.IT
DeepDIVE: Optimizing Input-Constrained Distributions for Composite DNA Storage via Multinomial Channel
针对多项式信道在有限输入支撑集约束下优化达容输入分布的挑战,提出基于M-DAB算法并集成变分自编码器的DeepDIVE算法,实现DNA存储系统中输入分布位置与权重的交替优化。
2025-01-25 cs.IT eess.SP math.IT
Alternating Optimization Approach for Computing $α$-Mutual Information and $α$-Capacity
本研究基于反向信道的变分表征,提出了计算 $α$-互信息和 $α$-容量的交替优化算法,并证明了基于 Sibson MI 表征的算法收敛速度最快。
2025-04-30 cs.IT math.IT
Variational Equalities of Directed Information and Applications
本文引入了两个有向信息的变分等式,它们类似于Blahut-Arimoto算法(BAA)中的互信息的变分等式。随后,我们引入了非预期的率失真函数(RDF)${R}^{na}_{0,n}(D)$定义通过在[1]中引入的有向信息,我们建立了它的等价性Gorbunov-Pinsker的非预期的$ε$-熵$R^{\varepsilon}_{0,n}(D)$。通过引用某些结果,我们首先建立了${R}^{na}_{0,n}(D)$的无穷再生分布的存在性,然后给出了它在平稳情形下的隐式形式.最后,利用变分不等式和最优再生分布的封闭形式给出了计算${R}^{na}_{0,n}(D)$的算法.
2013-05-16 cs.IT math.IT
Poisson Noise Channel with Dark Current: Numerical Computation of the Optimal Input Distribution
本文考虑了离散时间泊松噪声信道,用于模拟直接检测接收的脉冲幅度调制光通信。本文的目标是获得洞察的容量和结构的容量实现下的信道分布的振幅约束$\mathsf{A}$和在暗电流$λ$的存在下。利用最近的理论进展的能力实现分布的结构,本文开发了一个数值算法,基于梯度上升和Blahut-Arimoto算法,计算的能力和能力实现分布。该算法用于执行广泛的数值模拟的各种制度的$\mathsf{A}$和$λ$。
2021-11-22 cs.IT math.IT
Transfer-Entropy-Regularized Markov Decision Processes
考虑转移熵正则化的马尔可夫决策过程(TERMDP)框架,其中经典状态相关成本与从状态随机过程到控制随机过程的转移熵的加权和最小化。虽然TERMDP一般被制定为非凸的最优化问题,我们推导出一个解析的必要最优性条件表示为一个有限集的非线性方程,基于此迭代的向前向后的计算过程类似的Arimoto-Blahut算法。结果表明,该算法产生的序列的每一个极限点都是TERMDP的平稳点。在网络控制系统理论和非平衡态热力学的背景下讨论了TERMDP的应用。所提出的算法被应用到一个信息约束的迷宫导航问题,从而我们研究如何定性地改变信息的价格的最优决策polices。
2020-05-27 cs.IT math.IT math.OC
A Variational Characterization of $H$-Mutual Information and its Application to Computing $H$-Capacity
该研究提出$H$-互信息的变分表征,并基于此设计交替优化算法以计算$H$-容量,拓展了这类广义信息泄露度量的计算方法。
2024-06-20 cs.IT math.IT
Bounds on the Capacity of ASK Molecular Communication Channels with ISI
目前已有几篇关于将加性逆高斯噪声(AIGN)模型用于分子通信信道中随机渡越时间的研究。随机性总是会导致MC中的符号间干扰(ISI),这是一个很大程度上被忽略或简化的问题。在本文中,我们推导出一个上限和两个下限的MC基于幅度移键控(ASK)存在ISI。对Blahut-Arimoto算法~(BAA)进行了改进,使其能求出传输符号的输入分布,以最大化下界。我们的结果表明,在宽的参数值的界限是接近的。
2015-08-29 cs.ET cs.IT math.IT
Finite-Support Capacity-Approaching Distributions for AWGN Channels
在本文中,动态分配Blahut-Arimoto(DAB)算法识别具有小基数的有限支持概率质量函数(PMF),其实现幅度受限(AC)加性高斯白噪声(AWGN)信道的容量,或接近功率受限(PC)AWGN信道的容量小于1%。虽然众所周知连续高斯PDF是PC-AWGN信道的理论容量实现分布,但DAB识别具有小基数的PMF,出于实际目的,在性能上无法区分。我们扩展了Ozarow和Wyner的结果,该结果需要$2^{C+1}$的星座基数来接近容量C到整形损耗内。由DAB发现的PMF接近容量,基本上没有整形损失,星座基数为$2^{C+1.2}$。对于AC-AWGN信道,DAB表征了最小基数有限支持容量实现PMF的演变。
2020-05-30 cs.IT math.IT
Channel input adaptation via natural type selection
我们考虑一个独立于通道的解码器,这是i.i.d.随机码的最大互信息解码器是什么常数组成码。我们表明,这种解码器的结果完全相同的i.i.d.随机编码误差指数和几乎相同的正确解码指数对于给定的码本分布作为最大似然解码器。我们提出了一种算法,用于计算的最佳正确解码指数的通道无关的解码器上的相应表达式进行操作。所提出的算法有两个版本:计算在一个固定的速度和一个固定的斜率。该算法的固定斜率版本提出了一种替代Arimoto算法计算的随机编码指数函数在正确的解码制度。计算算法的固定速率版本转化为随机迭代算法,以适应i.i.d.码本分配到一个离散的无记忆的信道在大的块长度的限制。适配方案使用i.i.d.利用信道独立解码器进行随机编码,并且依赖于每个发送块的一位反馈。假设通信本身以恒定速率$R$可靠。在迭代结束时,如果$R + Δ$小于信道容量,则对于解码置信度$Δ> 0$的某个预定参数,所得到的码本分布保证对于低于$R + Δ$的所有速率的可靠通信。
2018-11-04 cs.IT math.IT
A Mirror-Descent Algorithm for Computing the Petz-Rényi Capacity of Classical-Quantum Channels
National Taiwan University(国立台湾大学);National Center for Theoretical Sciences(国家理论科学中心);Hon Hai (Foxconn) Quantum Computing Center(鸿海(富士康)量子计算中心)
本文提出了一种基于镜像下降算法的计算经典-量子信道Petz-Rényi容量的方法,证明了其在熵几何上的全局亚线性收敛性和局部线性收敛性。
2026-01-15 cs.IT math.IT math.OC
Information Bottleneck Revisited: Posterior Probability Perspective with Optimal Transport
针对信息瓶颈问题中BA算法仅能求解严格凹IB曲线的局限,该研究从后验概率视角推导熵正则化最优传输模型,用交替优化和推广的Sinkhorn算法求解,经数值实验验证了有效性与高效性。
2023-08-22 cs.IT math.IT
Integrated Sensing and Communication: Rate-Distortion Fundamental Limits of State Estimator
Peking University(北京大学);National Computer Network Emergency Response Technical Team/Coordination Center of China(国家计算机网络应急技术处理协调中心)
本文提出了一种改进的Blahut-Arimoto算法,用于求解SDMC模型中传感性能的率-失真函数,并定义了容量-率-失真权衡区域,统一了通信与传感的信息论结果。
2026-01-13 cs.IT math.IT
Bregman divergence based em algorithm and its application to classical and quantum rate distortion theory
本文在 Bregman 散度框架下提出通用 em 算法,证明其收敛性与速度,并用于直接求解经典及量子率失真理论中代价约束下的互信息最小化问题。
2022-05-05 cs.IT math.IT quant-ph
Capacity and Achievable Rates of Fading Few-mode MIMO IM/DD Optical Fiber Channels
Technical University of Denmark(丹麦技术大学)
研究了空间路径强度调制直接检测(IM/DD)的多输入多输出(MIMO)光纤信道。空间维度表示用于传输的多个模式,并且它们之间的串扰起源于复用器和解复用器,这是偏振相关的,因此是时变的。从自由空间IM/DD MIMO信道的上限适应光纤的情况下,星座约束容量的建设性估计使用Blahut-Arimoto算法。然后提出了一种自动编码器,以优化实际的MIMO传输的预编码器和检测器,假设在发射机的信道分布知识。预编码器被示出为是鲁棒的信道中的变化。
2022-01-27 cs.IT cs.LG math.IT
Adaptive Privacy of Sequential Data Releases Under Collusion
University of Oxford(牛津大学)
研究序列数据发布在合谋情况下的隐私-效用权衡问题,提出新问题并制定自适应算法,利用期望失真和互信息量化效用与隐私,实验表明算法能减少合谋下累积泄漏且扩展到机器学习应用。
2026-07-13 cs.IT math.IT
Computing Capacity-Cost Functions for Continuous Channels in Wasserstein Space
本文研究连续信道的容量-代价函数计算问题,通过将Wasserstein距离引入Blahut-Arimoto算法的近端项,提出了一种基于Wasserstein梯度下降的迭代算法,并统一应用于率失真函数的计算。
2025-03-02 cs.IT eess.SP math.IT
Parameter Estimation of Mutual Information Maximized Channels
Oregon State University(俄勒冈州立大学)
研究在传输端选择输入分布以最大化互信息时,如何估计离散无记忆通道参数及容量达到的输入分布。提出两种基于Blahut-Arimoto条件的高效算法,实验证明其能准确恢复真实参数和分布。
2026-05-12 cs.IT eess.SP math.IT
Capacities and Optimal Input Distributions for Particle-Intensity Channels
这项工作介绍了粒子强度通道(PIC)作为分子通信系统的模型,并表征了容量限制以及此类通道的最佳(容量实现)输入分布的特性。在PIC中,发送器基于颗粒释放的概率以给定持续时间的符号对信息进行编码,并且接收器基于在符号间隔期间检测到的颗粒的数量对消息进行检测和解码。在该通道中,发射器可能无法精确控制颗粒释放的概率,并且接收器可能无法检测到到达的所有颗粒。我们使用一个泛化的二项通道模型,并表明该通道的容量实现输入分布总是有质量点在粒子释放的概率为零和一。为了找到实现能力的输入分布,我们开发了一个有效的算法,我们称之为动态分配Blahut-Arimoto(DAB)。对于扩散粒子输运,我们还推导出条件下,输入两个质量点是实现容量。
2020-05-20 cs.IT math.IT
Channel Coding and Source Coding with Increased Partial Side Information
设(S1,i,S2,i),按照i.i.d分布p(s1,s2),i = 1,2,. . .可以是无记忆的、相关的部分边信息序列。在这项工作中,我们研究信道编码和信源编码的问题,其中的部分边信息(S1,S2)是在编码器和解码器,分别,此外,无论是编码器的或解码器的边信息增加了有限速率的描述其他的部分边信息。我们推导出六种特殊情况下的信道编码和信源编码的问题,我们表征的容量和率失真函数的不同情况。我们提出了一个二元之间的信道容量和率失真的情况下,我们研究。为了找到我们的信道容量和率失真问题的数值解,我们使用Blahut-Arimoto算法和凸优化工具。作为我们的工作的副产品,我们发现了一个紧的下限Wyner-Ziv解决方案制定其拉格朗日对偶作为一个几何规划。文献中以前的结果提供了一个几何规划公式,这只是一个下限,但不一定紧。最后,我们提供了几个例子对应的信道容量和率失真的情况下,我们提出。
2013-04-11 cs.IT math.IT
Algorithms for Computing the Petz-Augustin Capacity
National Taiwan University(国立台湾大学);Center for Quantum Science and Engineering, National Taiwan University(国立台湾大学量子科学与工程中心)
本文提出计算Petz-Augustin容量的算法,通过两层方法结合熵镜像下降和固定点算法,实现非渐近收敛保证。
2026-01-10 cs.IT math.IT math.OC
On Capacity and Capacity per Unit Cost of Gaussian Multiple Access Channel with Peak Power Constraints
研究了峰值功率约束下高斯多址信道的容量和单位容量开销。我们首先设计了一种基于Blahut-Arimoto算法的方法来数值优化和率并量化相应的输入分布。结果表明,在相同的峰值功率约束的情况下,具有较高信噪比的用户将具有对称的对映输入分布的所有值的噪声方差。接下来,我们分析推导出并表征了在具有小峰值功率约束的情况下的容量的可实现速率区域,这与在某种情况下的容量相吻合。每单位成本的容量在低功率状态中是令人感兴趣的,并且是节能通信中的目标性能度量。在这项工作中,我们推导出的单位成本的加性白高斯信道和GMAC的峰值功率约束的容量。结果表明,在GMAC的情况下,每单位成本的容量是使用对映信令的两个用户,是独立的用户速率比。我们的特点,得到的容量和容量每单位成本与峰值功率约束的详细和具体的对比,平均功率约束的设置优化传输策略。
2015-02-22 cs.IT math.IT
Information Rates of ASK-Based Molecular Communication in Fluid Media
本文研究了流体介质中分子通信的容量,其中信息被编码在一个时隙中传输的分子数(幅移键控)。分子的传播受随机布朗运动的支配,并且通信通常受到符号间干扰(ISI)的影响。我们首先考虑ISI可以忽略不计的情况,并分析所得到的离散无记忆分子通道的容量和每单位成本的容量以及可能的实际约束的效果,例如每次传输的峰值和/或平均传输分子数的限制。在一个受约束的峰值分子发射的情况下,我们表明,随着时隙持续时间的增加,实现每个通道使用的容量从二进制输入转换到离散的均匀分布的输入分布。在本文中,我们还分析了ISI的影响。最重要的是,我们占的相关性,ISI引起信道输出符号之间。我们推导出一个上限和两个下限的能力,在这种情况下。使用扩展的Blahut-Arimoto算法得到的输入分布,我们最大限度地提高了下界。我们的结果表明,在很宽的参数值范围内,边界是接近的。
2015-11-22 cs.IT math.IT
On the Joint Source-Channel Coding Error Exponent for Discrete Memoryless Systems: Computation and Comparison with Separate Coding
研究了由离散无记忆信源和离散无记忆信道组成的通信系统的联合信源-信道编码(JSCC)误差指数E_J的Csiszar界的计算.我们提供了这些界限的等价表达式,并推导出明确的公式,达到界限的速度。这些等价表示可以很容易地计算任意源通道对通过Arimoto的算法。当信道的分布满足对称性时,边界允许封闭形式的参数表达式。然后,我们使用我们的结果提供了一个系统的JSCC误差指数E_J和串联编码误差指数E_T之间的比较,这适用于如果源和信道分别编码。证明了E_T <= E_J <= 2E_T。我们建立了E_J > E_T和E_J = 2 E_T的条件。数值例子表明,对于许多源-通道对,E_J接近于2E_T。对于在加性高斯白噪声信道和具有有限输出量化的瑞利衰落信道上传输的二进制源,该增益转化为大于2dB的功率节省。最后,我们研究了在汉明失真测度下有损JSCC误差指数的计算。
2006-01-04 cs.IT math.IT
Efficient Computation of the Quantum Rate-Distortion Function
针对量子率失真函数缺乏高效高精度算法的问题,本文利用对称性约简简化纠缠辅助优化,并提出具有次线性收敛保证的非精确镜像下降算法,首次实现多量子比特情形的数值计算。
2024-04-03 cs.IT math.IT math.OC
Interference Cancellation Information Geometry Approach for Massive MIMO Channel Estimation
本文提出用于大规模MIMO信道估计的干扰消除信息几何方法,通过构造与MMSE估计同均值的修正形式并利用BSCM和FFT降低复杂度,在保持相近性能的同时实现低复杂度估计。
2024-07-01 cs.IT math.IT
Phase Retrieval via Polytope Optimization: Geometry, Phase Transitions, and New Algorithms
我们研究基于多面体优化方法求解二次方程组的算法。我们的工作的灵感来自最近提出的凸制定的相位恢复问题,估计未知信号通过求解一个简单的线性规划从测量构造的多面体。我们提出了一个尖锐的特征的高维几何的上述多面体高斯测量下。这种特性使我们能够获得渐近精确的性能保证PhaseMax,这也揭示了相变现象相对于其样本的复杂性。此外,从我们的分析中获得的几何见解导致一个新的非凸制定的相位恢复问题和相应的迭代算法,我们称之为PhaseLamp。我们表明,这种新的算法具有优越的恢复性能比原来的PhaseMax方法。最后,作为通过多面体优化执行相位检索的主题的另一个变化,我们提出了一个加权版本的PhaseLamp,并证明,通过数值模拟,它优于几个国家的最先进的算法下通用高斯测量以及更现实的傅立叶型测量相位检索应用中出现的。
2018-05-24 cs.IT math.IT
Attaining Sudan's decoding radius with no genus penalty for algebraic geometry codes
本文提出了一种纠错能力超过码设计距离一半的代数几何码的译码算法。该算法融合了代数几何代码的幂错误定位对算法和Ehrhard所使用的技术,以便将这些代码校正到设计距离的一半。该算法的译码半径达到了Sudan算法的译码半径,且不受曲线亏格的影响。
2021-03-23 cs.IT math.AG math.IT
The EM Algorithm in Information Geometry
该论文以低门槛方式讲解 EM 算法与信息几何,结合黎曼几何、投影计算及深度学习应用,并给出 Python 示例与实现。
2024-05-01 cs.IT math.HO math.IT
New Results on the DMC Capacity and Renyi's Divergence
本文的工作是“沃尔什频谱分析及其在密码学中的应用”项目的一部分。该项目启动了寻找最大(和/或显着大)沃尔什系数以及随机抽样的未知分布的索引位置的研究。该问题的提出在密码学和通信领域具有重要意义。2015年初,Yi JANET Lu首次构造了新的虚信道转移矩阵,并将香农信道编码问题引入统计密码分析。传统方法无法计算的传输矩阵的信道容量首次成为研究热点。对于一些离散无记忆信道(DMC),它是已知的,容量可以解析计算,在一般情况下,没有封闭形式的解决方案。这项工作是关于在新的设置信道容量的分析结果。我们研究了Blahut-Arimoto算法(历史上给出了第一个数值解)和$N\times M$过渡矩阵的最新结果[Sutter et al'2014]。对于$ε$近似(即,近似解的期望绝对精度),前者具有计算复杂性$ O(MN^2 \log N/ε) $,而后者具有复杂度$ O(M^2N\sqrt{\log N}/ε) $。研究了Renyi的$1/2$度发散度与广义$1/2$度信道容量之间的关系。
2017-08-03 cs.CR cs.IT math.IT
Duality and decoding of linearized Algebraic Geometry codes
CNRS, Mathematical Institute of Bordeaux, University of Bordeaux(法国国家科学研究中心,波尔多大学数学研究所);Mathematical Institute of Bordeaux, University of Bordeaux(波尔多大学数学研究所)
本文提出了一种多项式时间解码算法,用于解码线性化代数几何码,并证明其对偶码与自身在余代数上相同。
2026-03-12 cs.IT math.AG math.IT
Information geometry of operator scaling
矩阵标度是一个经典的问题,有着广泛的应用。从经典信息几何的观点来看,矩阵缩放的Sinkhorn算法被解释为交替e投影。近年来,在数学和计算机科学的各个领域中,出现了一种将矩阵标度推广到完全正映射的算子标度,Sinkhorn算法也被推广到算子标度。本文从量子信息几何的观点出发,通过完全正映射的Choi表示,研究了算子Sinkhorn算法。算子Sinkhorn算法与对称对数导数度量的交替e-投影相一致,该度量是与量子估值理论相关的量子态空间上的黎曼度量.利用正定锥上不同的信息几何结构,还提出了其它类型的交替e-投影算法。
2021-01-25 cs.IT math-ph math.IT