On the Outage Capacity of Correlated Multiple-Path MIMO Channels
多天线阵列在发射和接收中的使用已经被证明显著地增加了无线通信系统的吞吐量。因此，人们对表征现实相关信道的互信息的遍历平均值产生了相当大的兴趣。在这里，提出了一种方法，提供了解析表达式，不仅为平均值，但也较高的累积矩的分布的互信息的零均值高斯（多输入多输出）MIMO信道与最一般的多径协方差矩阵时，在接收机的信道是已知的。这些信道包括多抽头延迟路径，以及具有不能被写为克罗内克积的协方差矩阵的一般信道，诸如在发射机和接收机端具有一般相关性的双极化天线阵列。的数学方法是正式有效的大天线数量，在该限制中，它示出了所有较高的累积矩的分布，比前两个规模为零。因此，确认了互信息的分布趋向于高斯分布，这使得能够计算中断容量。这些结果是相当准确的，即使在几个天线的情况下，这使得这种方法适用于现实情况。
2005-09-28 cs.IT math.IT
Asymptotic Capacity and Optimal Precoding Strategy of Multi-Level Precode & Forward in Correlated Channels
我们分析了一个多级MIMO中继系统，其中多天线发射机通过几个中继级将数据发送到多天线接收机，也配备了多个天线。假设在每一跳中的相关衰落，每个中继接收由前一级发送的信号的衰落版本，对接收到的信号执行预编码并将其重传到下一级。使用自由概率理论，并假设在中继级的噪声功率-但不是在接收机-是可以忽略不计的，一个封闭形式的表达的端到端的渐近瞬时互信息推导出在所有级别的天线的数量以相同的速率增长大。这个渐近表达式被证明是独立的信道实现，只依赖于信道统计，也作为渐近值的端到端的平均互信息。我们还提供了最大化渐近互信息的预编码矩阵的最佳奇异向量：由预编码矩阵的奇异向量表示的最佳发送方向在信道相关矩阵的特征向量上对齐，因此它们可以仅使用信道矩阵的已知统计来确定，并且不依赖于特定的信道实现。
2008-03-07 cs.IT math.IT
Mutual information in nonlinear communication channel. Preliminary analytical results in large SNR and small nonlinearity limit
将微扰理论应用于加性高斯噪声下非线性薛定谔方程（NLSE）描述的非线性通信信道的互信息的路径积分表示，分析了大信噪比（$\mathrm{SNR}$）和小非线性下互信息的解析表达式.我们对非线性参数中的互信息的所有可能的修正进行了分类，并证明了在最终的结果中，$\mathrm{SNR}$项中的所有奇异性都消失了。分析结果还表明，对$\mathrm{SNR}$中首阶互信息的Shannon贡献的修正是非线性参数平方的阶数.在进一步的研究中，我们概述了这些修正的计算方法。
2016-08-18 cs.IT math.IT
Semantic Communication as a Signaling Game with Correlated Knowledge Bases
语义通信（SC）超越了技术通信，在技术通信中，给定的比特或符号序列（通常称为信息）在嘈杂的信道上可靠地传输，而不管其含义如何。在供应链中，传递信息的意义变得很重要，这需要发送者和接收者之间通过他们的知识库达成某种协议。从这个意义上说，SC与信号游戏密切相关，其中发送者采取行动向接收者发送传达信息的信号，而接收者可以解释信号并相应地选择响应。本文基于信号博弈建立了供应链模型，并利用互信息来刻画供应链的性能。此外，我们表明，条件互信息之间的通信方的知识库的实例起着至关重要的作用，在提高性能的SC。
2022-09-01 cs.IT math.IT
Dictator Functions Maximize Mutual Information
令$(\mathbf X, \mathbf Y)$表示两个任意相关的Rademacher随机变量$(X, Y)$的$n$独立同分布副本。证明了不等式$I(f(\mathbf X); g(\mathbf Y)) \le I(X; Y)$对任意两个布尔函数$f,g \colon \{-1,1\}^n \to \{-1,1\}$（$I(\cdot; \cdot)$表示互信息）成立.我们进一步表明，平等一般只实现了独裁者的功能$f(\mathbf x)=\pm g(\mathbf x)=\pm x_i$，$i \in \{1,2,\dots,n\}$。
2018-02-01 cs.IT math.IT math.PR
On Finite-Time Mutual Information
Shannon-Hartley定理可以在信号观测时间无限长的情况下精确计算信道容量。然而，有限时间互信息的计算，这仍然是未知的，是必不可少的指导实际通信系统的设计。本文研究了有限时间观测窗内两个相关高斯过程之间的互信息。我们首先推导出有限时间互信息通过提供一个极限表达式。然后，我们数值计算的互信息在一个单一的有限时间窗口。我们发现，在有限的时间窗口内，每秒传输的比特数可以超过整个时间轴上平均的互信息，这被称为双平均现象。进一步，利用迹类算子的Mercer展开，推导了典型信号自相关情形下的有限时间互信息公式，揭示了有限时间互信息问题与算子理论之间的联系.最后，我们解析地证明了在这种典型情况下的平均值的存在性，并证明了它与香农容量的兼容性。
2022-04-24 cs.IT math.IT
Testing (Conditional) Mutual Information
本文研究互信息与条件互信息检验的样本复杂度，给出区分条件独立与条件依赖所需样本数的上界并证明其在若干参数区域紧致，同时提出模拟弱相关样本的新方法和可处理相关样本的等价性检验估计器。
2025-06-04 cs.DS cs.IT math.IT
Calculation of mutual information for nonlinear communication channel at large SNR
使用路径积分技术，我们研究的互信息的通信信道建模的非线性薛定谔方程加性高斯噪声。非线性薛定谔方程是非线性物理学的基本模型之一，它有着广泛的应用，包括光纤通信--互联网的支柱。在大信噪比（$\mathrm{SNR}$）下，我们通过路径积分来表示互信息，这便于非线性的微扰展开。在小噪声和小非线性的限制下，我们解析地导出了信道的互信息的第一非零非线性校正。
2016-07-05 cs.IT math.IT
Comments on "Broadcast Channels with Arbitrarily Correlated Sources"
广播信道容量区域的Marton-Gelfand-Pinsker内界由Han-Costa扩展到包括任意相关源，其中容量区域由可容许源区域代替。汉科斯塔的主要论点是正确的，但不幸的是，作者忽略了一个不等式在其推导。校正区域和省略的不平等的情况下，有时承认的来源是不允许的。
2009-01-02 cs.IT math.IT
Capacity and Character Expansions: Moment generating function and other exact results for MIMO correlated channels
我们应用一个有前途的新方法，从李群的表示领域来计算酉群上的积分，这对多天线通信很重要。为了证明这种技术的力量和简单性，我们首先重新推导出一些结果，最近在无线信息论的社会中使用，只使用几个简单的步骤。特别是，我们得到的联合概率分布矩阵GG* 的特征值，与G的半相关高斯随机矩阵或高斯随机矩阵与非零均值（和G* 其厄密共轭）。然后，这些联合概率分布函数可以用于计算两端具有多个天线的高斯信道的互信息的矩生成函数，其中高斯信道具有其信道矩阵G的该概率分布。然后，我们转向以前未解决的问题，计算的矩生成函数的互信息的MIMO（多输入多输出）信道，这是相关的接收机和发射机。由该矩母函数得到了互信息的各态历经平均，并研究了中断概率。这些方法可以应用于许多其他问题。作为一个特殊的例子，我们研究了酉编码的MIMO系统的空时传输，我们推导出接收信号的分布时，在发射端的信道矩阵相关。
2005-09-27 cond-mat.mes-hall cond-mat.stat-mech cs.IT
Communication Requirements for Generating Correlated Random Variables
两个熟悉的概念的相关性被重新发现作为极端的工作点，用于模拟离散无记忆通道，其中通道输出仅基于通道输入的描述而生成。Wyner的“公共信息”与所需的最低描述率相吻合。然而，当独立于输入的公共随机性是可用的，必要的描述率减少到香农的互信息。这项工作的特点之间的最佳权衡的数量共同使用的随机性和所需的描述率。
2008-05-01 cs.GT cs.IT math.IT
Correlated-PCA: Principal Components' Analysis when Data and Noise are Correlated
Iowa State University（爱荷华州立大学）
给定一个观测数据矩阵，主成分分析（PCA）计算包含其大部分变异性的少量正交方向。可以证明精确的PCA解决方案已经使用了很长时间。然而，据我们所知，所有现有的理论保证都假设数据和破坏性噪声是相互独立的，或者至少是不相关的。这在实践中经常有效，但并不总是有效。在本文中，我们研究的PCA问题中的数据和噪声可以相关的设置。这种噪声通常也被称为“数据相关噪声”。我们得到了一个正确的结果为标准的特征值分解（EVD）为基础的解决方案PCA在简单的假设下的数据噪声相关性。我们还开发和分析了EVD，集群EVD，提高EVD在某些制度的泛化。
2016-11-02 cs.IT cs.LG math.IT
On the Effectiveness of Hybrid Mutual Information Estimation
University of Amsterdam（阿姆斯特丹大学）
本文提出统一判别式与生成式方法的变分界及混合互信息估计框架，并用轻量 PQ 降低估计方差，在高维高斯和自由粒子随机过程上验证其更优。
2023-06-02 cs.IT cs.LG math.IT
Mutual Information-Based Planning for Informative Windowed Forecasting of Continuous-Time Linear Systems
KAIST（韩国科学技术院）
本文提出基于互信息的传感资源规划方法，用于降低目标量的预测不确定性，适用于连续时间线性系统。通过扩展平滑方法，处理更一般的验证实体——未来有限时间窗口内的连续变量序列，并通过条件独立结构和固定间隔平滑公式进行量化。
2013-08-01 cs.IT cs.SY eess.SY
Inference of forex and stock-index financial networks based on the normalised mutual information rate
在本文中，我们研究的数据从金融市场使用的信息理论工具，我们称之为归一化的互信息率，并展示如何使用它来推断的基本网络结构的相互关系的外汇汇率和股票指数的14个国家的全球和欧盟。我们首先提出的数学方法，并讨论其计算方面，然后将其应用到人工数据从混沌动力学和相关的随机变量。接下来，我们应用该方法来推断金融数据的网络结构。特别是，我们研究并揭示了各种外币汇率和股票指数之间的相互关系，在两个独立的网络，我们还进行了分析，以确定其结构特性。我们的研究结果表明，两者都是小世界网络共享相似的属性，但也有明显的差异，在反导性。最后，从经济学的角度进行了讨论，进一步支持了15个经济体之间的一致关系。
2017-10-05 cs.IT math.DS math.IT
Precoding-Oriented CSI Feedback Design with Mutual Information Regularized VQ-VAE
Department of ECE, Rutgers University（电子工程系，罗格斯大学）；Nokia Bell Labs（诺基亚贝尔实验室）
本文提出一种基于VQ-VAE的面向预编码的CSI反馈框架，结合信息论正则化，实现高效CSI压缩与高系统性能。
2026-01-22 cs.AI cs.IT eess.IV
