Conditional Entropies of k-Deletion/Insertion Channels
本文研究 k-删除/插入信道的输入与输出熵，证明固定游程数序列中偏斜分布最小化熵、均衡分布最大化熵，并证实交替序列在 1-删除信道及常数序列在 2-删除信道中的极值猜想。
2025-06-02 cs.IT math.IT
Entropy and relative entropy from information-theoretic principles
我们引入了一个公理化的方法熵和相对熵，只依赖于最小的信息理论公理，即单调性下混合和数据处理，以及产品分布的可加性。我们发现这些公理诱导了足够的结构来建立概率单形内部的连续性以及有意义的上界和下界，例如，我们发现每一个相对熵必须位于$0$阶和$\infty$阶的Rényi发散之间。我们进一步显示了简单的条件，这种相对熵的正定性和相对王牌的一个变种的特征。我们的主要结果是一对一的熵和相对熵之间的对应关系。
2021-05-05 cs.IT math.IT quant-ph
Analysis of Remaining Uncertainties and Exponents under Various Conditional Rényi Entropies
在本文中，我们分析了渐近的归一化剩余不确定性的源时，它的压缩或散列版本和相关的边信息被观察到。对于这个系统，通常被称为Slepian-Wolf信源编码，我们建立了信源的最佳（最小）压缩率，以确保剩余的不确定性消失。我们还研究了指数衰减率的剩余不确定性为零时，率是以上的最佳压缩率。在我们的研究中，我们考虑了各种类型的随机通用哈希函数。而不是使用传统的香农信息测量剩余的不确定性，我们这样做使用两种形式的条件雷尼熵。在其他技术中，我们采用新的一杆界限和时刻的类型类枚举方法，这些评价。我们证明了这些渐近结果是Slepian-Wolf问题在最大\emph{a posteriori}（MAP）译码下的强逆指数和误差指数的推广.
2016-05-31 cs.CR cs.IT math.IT
Strong Converse Exponent of Quantum State Merging
RWTH Aachen University（亚琛工业大学）；Imperial College London（帝国理工学院）；National Taiwan University（台湾大学）；National Center for Theoretical Sciences（国家理论科学中心）；Hon Hai (Foxconn) Quantum Computing Center（鸿海（富士康）量子计算中心）；University of Copenhagen（哥本哈根大学）；National University of Singapore（新加坡国立大学）；Centre for Quantum Technologies（量子技术中心）
该研究确定了量子态合并纠缠成本的强逆指数，推导了纯化距离下部分平滑条件极小熵的强逆指数，明确了其与不同条件Rényi熵的关联。
2026-08-28 cs.IT math.IT quant-ph
On quantum Renyi entropies: a new generalization and some properties
Renyi熵构成了一个信息测度族，它推广了著名的香农熵，继承了它的许多性质。它们以无条件熵和条件熵、相对熵或互信息的形式出现，并在信息论及其他领域有许多应用。各种广义的Renyi熵的量子设置已被提出，最显着的Petz的准熵和Renner的条件最小，最大和碰撞熵。在这里，我们认为以前的量子扩展是不相容的，因此不能令人满意。我们提出了一个新的量子广义的家庭Renyi熵，其中包含冯诺伊曼熵，最小熵，碰撞熵和最大熵的特殊情况，从而涵盖了大多数量子熵在今天使用。我们展示了这个定义的几个自然属性，包括数据处理不等式，对偶关系和熵的不确定性关系。
2014-01-27 cs.IT math-ph math.IT
Sharp Continuity of Petz and Sandwiched Rényi Conditional Entropies
National Taiwan University（国立台湾大学）；Hon Hai (Foxconn) Quantum Computing Center（鸿海（富士康）量子计算中心）；National Center for Theoretical Sciences（国家理论科学中心）
该研究确定了阶数在[1/2,1)区间的优化Petz与夹层Rényi条件熵的迹距离严格连续模，给出可达上界，验证其极限与已有量子条件熵连续界一致，通过线性化、Schmidt秩支配等方法完成证明。
2026-08-06 cs.IT math-ph math.IT
A remark on conditional entropy
本文证明序列条件熵几乎时间反演不变，仅相差由前向与后向模型决定的小常数因子，并据此提出量化可学习性的数值及控制数据集分布偏移的方法。
2024-03-26 cs.IT math.IT
A Comparison of Empirical Tree Entropies
而对于字符串，高阶经验熵是标准的熵度量，过去已经提出了几种不同的树的经验熵概念，特别是标签熵，度熵，后两者的条件版本，以及树的经验熵（这里称为标签-形状熵）。在本文中，我们进行了系统的比较，这些熵的措施。我们支持我们的理论研究与真正的XML数据的实验结果。
2020-06-01 cs.IT math.CO math.IT
Change the coefficients of conditional entropies in extensivity
玻尔兹曼-吉布斯熵是概率测度空间上的泛函。当一个状态空间是可数的时，Boltzmann-Gibbs熵的一个特征由Shannon-Khinchin公理给出，该公理包括连续性、极大性、可扩张性和可扩展性。在这四个性质中，外延性以各种方式被推广。泛函的可拓性被解释为这样的性质，即对于在$\mathbb{N}$中取多个值的任何随机变量$(X,Y)$，在$(X,Y)$的联合定律处的泛函的值与在$X$的定律处的泛函的值之间的差与在给定$X=n$的$Y$的条件定律处的值与由每个事件$X=n$的概率给出的系数的线性组合一致。通过用事件$X=n$的概率的幂代替系数而获得的扩展性的概括提供了Tsallis熵的表征。在本文中，我们首先证明了不可能用事件$X=n$的概率的非幂函数来代替系数。然后对一般泛函，估计了在联合律$(X,Y)$下的值与在联合律$X$下的值之间的差.
2020-11-17 cs.IT math-ph math.IT
Decision Problems in Information Theory
熵的约束被认为是信息论的定律。尽管对它们的发现的追求一直是信息论研究的中心主题，但熵的约束的算法方面仍然在很大程度上未被探索。在这里，我们开始调查的决策问题的熵的约束，将几个不同的问题到各级的算术层次。我们在几乎熵函数的有效性检验方面得到了如下结果：第一，由单调布尔公式产生的布尔信息约束的有效性是共递归可判定的;第二，“紧”条件信息约束的有效性是在$Π^0_3$中.此外，在一定的约束条件下，“有松弛”的条件信息约束的有效性在$Σ^0_2$中，且包含max的信息不等式约束的有效性与不包含max的信息不等式约束的有效性是图灵等价的.我们还证明了条件独立语句的经典蕴涵问题是共递归可解的。
2020-04-27 cs.CC cs.IT math.IT
The conditional entropy power inequality for quantum additive noise channels
证明了量子加性噪声信道的量子条件熵幂不等式。这个不等式下界的量子条件熵的输出的加性噪声信道的输入状态和噪声的量子条件熵时，它们是有条件地独立的内存。我们还表明，这个条件熵功率不等式是最优的，在这个意义上，我们可以通过选择一个合适的序列的高斯输入状态渐近实现平等。我们应用条件熵功率不等式找到一个数组的信息理论的不平等的条件熵，这是类似的不平等已经建立在无条件的设置。此外，我们还基于熵幂不等式给出了量子Ornstein-Uhlenbeck半群收敛速度的一个简单证明。
2018-12-04 cs.IT math-ph math.IT
On the Non-robustness of Essentially Conditional Information Inequalities
我们证明了两个关于Shannon熵的基本条件线性不等式（包括Zhang-Yeung'97条件不等式）对渐近熵点不成立。这意味着这些不等式在很强的意义上是非稳健的。这一结果提出了问题的意义，这些不等式和它们的使用在面向实践的应用程序的有效性。
2012-07-23 cs.IT math.IT math.PR
Tight uniform continuity bounds for quantum entropies: conditional entropy, relative entropy distance and energy constraints
我们提出了一束量子熵的连续性边界，大致分为两类：第一，严格分析的Alicki-Fannes连续性边界的条件冯诺伊曼熵，几乎达到最好的可能形式，只依赖于系统的尺寸和跟踪状态的距离。几乎相同的证明可以用来从状态或正算子的凸集导出相对熵距离的类似连续性界。作为应用，我们给出了新的证明，与更严格的界限，渐近连续性的相对熵的纠缠，$E_R$，其正规化$E_R^\infty$，以及纠缠的形成，$E_F$。使用一种新的“量子耦合”的密度算子，这可能是独立的利益，我们将后者扩展到一个渐进连续性约束的正规化纠缠的形成，又名纠缠成本，$E_C=E_F^\infty$。第二，在能量约束下，无穷维系统中冯诺伊曼熵和条件熵的类似连续性界限，最重要的是多量子谐振子系统。虽然没有能量限制，熵是不连续的，但众所周知，它在有界能量的状态下是连续的。然而，似乎还不知道这方面的定量说明。在这里，在对哈密顿量的一些正则性假设下，我们非常直观地发现，给定能量下的吉布斯熵在有限维Fannes不等式中大致扮演了希尔伯特空间维数的角色。
2016-01-12 cs.IT math-ph math.IT
Generalised Entropies and Metric-Invariant Optimal Countermeasures for Information Leakage under Symmetric Constraints
我们介绍了一种新的广义熵和条件熵，从文献中的大多数定义可以推导出的特殊情况。在这个框架内，我们研究的问题，设计对策的信息泄漏。特别是，我们寻求度量不变的解决方案，即，它们对于用于量化泄漏的熵的选择是鲁棒的。这个问题可以被建模为从系统到对手的信息通道，而对策可以被看作是修改这个通道，以最大限度地减少输出揭示的输入信息量。我们的主要结果是完全解决问题的高度对称的设计约束下，可以产生相同的输出的输入数量是上限。我们的证明是建设性的，最佳渠道和最小泄漏的封闭形式。
2018-11-23 cs.IT math.IT
Constant conditional entropy and related hypotheses
University of California at Santa Barbara（加州大学圣巴巴拉分校）
恒定熵率（条件熵必须随着序列长度的增加而保持恒定）和均匀信息密度（条件概率必须随着序列长度的增加而保持恒定）是两个信息论原则，它们被认为是各种语言现象的基础。在这里，我们修改这些原则的预测，以希尔伯格定律的缩放条件熵的语言和相关法律。我们发现，恒定熵率（CER）和均匀信息密度（UID）的两种解释，全UID和强UID，不符合这些法律。强UID意味着CER，但反过来则不正确。全UID，UID的一种特殊情况，导致完全不切实际的昂贵的不相关序列。我们的结论是CER及其特殊情况下是不完整的假设条件熵的缩放。
2013-05-23 cond-mat.stat-mech cs.CL cs.IT
Asymptotic behaviour of weighted differential entropies in a Bayesian problem
我们考虑一个贝叶斯问题的成功概率估计的一系列条件独立的试验与二进制的结果。研究了$n$条件独立试验后$x$成功的后验概率密度函数微分熵的渐近行为，当$n \to \infty$ .结果表明，在适当的归一化后，$x \sim n$和$x$ $\sim n^β$（$0<β<1$）的极限分布为高斯分布，标准化RV的微分熵收敛于标准高斯随机变量的微分熵.当$x$或$n-x$为常数时，微分熵的极限分布不是高斯分布，但仍能显式地求出微分熵的渐近性。然后假设人们有兴趣知道硬币是否公平，并且对于大的$n$，对真实频率感兴趣。为此，当需要强调频率$γ$时，使用在\cite{Belis1968}中引入的加权微分熵的概念。结果表明，所建议的形式的权重并不改变香农熵、Renyi熵、Tsallis熵和Fisher熵的渐近形式，但改变了常数。加权Fisher信息中的主项被改变为某个常数，该常数取决于真实频率与我们想要强调的值之间的距离。第三部分给出了Rao-Cramér不等式、Bhattacharyya不等式和Kullback不等式的加权形式。该结果被应用于上述贝叶斯问题。对于一类特殊的权函数，得到了这些不等式的渐近形式。
2015-07-29 cs.IT math.IT math.ST
A Neural Difference-of-Entropies Estimator for Mutual Information
CAMaCS, University of Warwick（沃里克大学CAMaCS中心）；Mathematics Institute, University of Warwick（沃里克大学数学学院）
本文提出一种基于归一化流和块自回归结构的神经熵差互信息估计器，在高维基准任务上改善了偏差-方差权衡。
2025-10-23 cs.IT cs.LG math.IT
Conditional Information Inequalities for Entropic and Almost Entropic Points
我们研究条件线性信息不等式，即，香农熵的线性不等式，适用于熵满足某些线性约束的分布。证明了某些条件信息不等式不能推广到任何无条件线性不等式。这些条件不等式中的一些对几乎熵点成立，而另一些则不成立。我们还讨论了Kolmogorov复杂性的条件信息不等式的一些对应形式。
2013-08-16 cs.DM cs.IT math.IT
The conditional Entropy Power Inequality for bosonic quantum systems
证明了高斯量子系统的条件熵幂不等式。这个基本不等式确定了分束器输出的最小量子条件冯诺依曼熵或所有输入状态之间的压缩的最小量子条件冯诺依曼熵，其中两个输入在给定存储器的情况下是有条件独立的，并且具有给定的量子条件熵。我们还证明了，对于两个输入的量子条件熵的任何一对值，由条件熵幂不等式给出的输出的量子条件熵的最小值是由一个合适的量子高斯输入态序列渐近实现的。我们的条件熵幂不等式的证明是基于量子条件Fisher信息的一个新的Stam不等式和热半群演化下量子条件熵的普适渐近行为的确定。分束器和压缩是量子光学的核心元件，可以模拟电磁信号的衰减、放大和噪声。这个条件熵幂不等式在量子信息和量子密码学中有着重要的意义。在它的许多可能的应用程序有一个新的不确定性关系的条件Wehrl熵的证明。
2018-01-04 cs.IT math-ph math.IT
Subsethood Measures of Spatial Granules
University of Regina（里贾纳大学）
本文提出空间粒子框架，通过粗细关系分层，定义子集度与超集度的公理体系，推广为条件粒度与精细度度量，并证明其满足十二公理，为结构问题求解提供新模型。
2023-09-06 cs.AI cs.IT math.IT
Differential Entropy of the Conditional Expectation under Additive Gaussian Noise
条件均值是一个基本而重要的量，其应用包括估计理论和率失真理论。它也是出了名的难以使用。本文在有限方差输入信号和加性高斯噪声的情况下，建立了条件均值的微分熵的新界。主要结果是一个新的下界的输入信号和噪声观测的微分熵。主要结果也被推广到矢量高斯信道和自然指数族。各种其他属性，如上界，渐近，泰勒级数展开，并连接到Fisher信息。讨论了该下界在远程信源编码和CEO问题中的两个应用。
2022-08-11 cs.IT eess.SP math.IT
The Entropy of Conditional Markov Trajectories
为了量化具有固定初始和最终状态的马尔可夫轨迹的随机性，Ekroot和Cover提出了不可约有限状态马尔可夫链轨迹熵的封闭形式表达式。许多应用，包括研究图上的随机游动，需要计算一组中间状态条件下的马尔可夫轨迹的熵。然而，Ekroot和Cover的表达式不允许计算这个量。在本文中，我们提出了一种方法来计算熵的条件马尔可夫轨迹，通过原始马尔可夫链到马尔可夫链，表现出所需的条件分布的轨迹的变换。此外，我们表示的马尔可夫轨迹的熵-一个全球性的量-作为一个线性组合的局部熵与马尔可夫链状态。
2013-05-14 cs.IT math.IT stat.AP
Swiveled Rényi entropies
本文介绍了“旋转Renyi熵”作为[Berta et al.，A 91，022333（2015）]。旋转的Renyi熵与Berta等人先前的提议的区别在于，它有一个额外的自由度：相对于特定固定基（旋转体）的酉旋转的优化。这个额外的自由度的结果是旋转的Renyi熵是有序的，这是Renyi熵族的一个重要性质。然而，旋转的Renyi熵在$α=1$处通常是不连续的，并且不收敛到作为$α\rightarrow1$的极限中的基于冯诺伊曼熵的度量，而是从上方和下方将它们界定。特定的变体简化为已知的Renyi熵，例如Renyi相对熵或夹层Renyi相对熵，但也导致有序Renyi条件互信息和相对熵差的有序Renyi推广。熵不等式的改进，如量子相对熵的单调性和强次可加性，作为旋转Renyi熵的上述性质的结果。由于在$α=1$缺乏收敛性，目前还不清楚旋转Renyi熵在单次信息理论中是否有用，因此目前的贡献代表了朝着这一目标的部分进展。
2016-02-18 cond-mat.stat-mech cs.IT hep-th
Several Representations of $α$-Mutual Information and Interpretations as Privacy Leakage Measures
本文基于Rényi散度和条件Rényi熵，提出了$α$-互信息的新表示，并利用广义均值和增益函数解释其作为隐私泄露度量的意义，同时提出满足条件化降低熵的新型条件Rényi熵。
2025-04-30 cs.IT math.IT
Rényi generalizations of quantum information measures
诸如熵和互信息的量子信息测量在物理学中找到应用，例如，作为相关性度量。推广这些措施的基础上的Rényi熵，预计将扩大其应用范围。我们对任何由冯诺伊曼熵与从集合{-1，0，1}中选择的系数的线性组合组成的量子信息测度规定了Rényi推广。作为例子，我们描述了Rényi推广的条件量子互信息，一些量子多体信息的措施，和拓扑纠缠熵。其中，我们讨论了Rényi条件量子互信息的各种性质，并简述了一些潜在的应用。我们猜想所提出的Rényi条件量子互信息在Rényi参数上是单调增加的，并在某些特殊情况下证明了这个猜想.
2015-02-27 cs.IT hep-th math-ph
Randomness extraction via a quantum generalization of the conditional collision entropy
随机提取边信息是从给定的源中提取几乎均匀地以边信息为条件的密钥的技术。本文提供了对量子边信息的随机性提取，其可提取的密钥长度由碰撞熵的量子概括给出，其被平滑和调节不同于现有方案中的方式。基于碰撞熵不是次可加的这一事实，引入了关于附加边信息的优化，并证明了其是渐近最优的。一般状态的下界表示为两个无条件熵之间的差异，其评估减少到两个状态，这是整个状态和边信息的边缘状态的特征值问题。
2019-11-08 cs.IT math.IT quant-ph
Entropy under disintegrations
本文考虑任意可测空间上概率测度关于给定的$σ$ -有限参考测度绝对连续的微分熵。我们的渐近均分财产在这种一般情况下，结果是民间传说的一部分，但我们的介绍在一定程度上是新颖的。然后，我们研究了一个一般框架下，这样的熵满足链规则：措施的解体。在这种情况下，我们给出了条件熵的渐近解释。最后，我们将所得结果应用于典型关系中的Haar测度.
2021-07-09 cs.IT math.IT math.PR
Optimal quantum networks and one-shot entropies
我们发展了一种半定规划方法来优化量子网络，包括因果网络和因果结构不确定的网络。我们的方法适用于广泛的一类性能指标，定义操作方面的交互式测试设置的验证。我们表明，最佳性能等于一个最大的相对熵，它量化的信息量的测试。在此基础上，我们将条件最小熵的概念从量子态推广到量子因果网络。优化方法说明了在一些应用程序中，包括反演，电荷共轭，和控制一个未知的单一的动态。在非因果设置，我们展示了一个证明的原则应用程序的最大化的非因果量子游戏中的获胜概率。
2016-09-06 cs.IT cs.NI math-ph
Tight relations and equivalences between smooth relative entropies
RIKEN Hakubi Research Team, RIKEN Pioneering Research Institute (PRI) and RIKEN Center for Quantum Computing (RQC)（理化学研究所白兔研究团队、理学前驱性研究机构和理中心量子计算）；Scuola Normale Superiore（比萨高等师范学院）；QuSoft；Korteweg–de Vries Institute for Mathematics, University of Amsterdam（阿姆斯特丹大学科特维格-德弗里斯数学研究所）；Institute for Theoretical Physics, University of Amsterdam（阿姆斯特丹大学理论物理研究所）；Department of Applied Mathematics and Theoretical Physics, Centre for Mathematical Sciences, University of Cambridge（剑桥大学数学科学中心应用数学与理论物理系）
本文研究了光滑相对熵之间的关系与等价性，通过改进Datta和Renner的引理，建立了更精确的界和对偶关系，从而完善了光滑max相对熵与假设检验相对熵之间的紧密联系。
2026-04-03 cs.IT math-ph math.IT
A chain rule for the quantum relative entropy
经典相对熵的链式法则确保了多体系统上概率分布之间的相对熵可以被分解为各个系统上适当选择的条件分布的相对熵的和。在这里，我们证明了一个类似的链规则不等式的量子相对熵的通道相对熵。新的链式规则使我们能够解决一个开放的问题，在渐近量子信道歧视的背景下：令人惊讶的是，自适应协议不能提高非自适应策略相比，非对称信道歧视的错误率。此外，我们给出了量子信道的例子，表明通道相对熵在张量积下是不可加的。
2019-09-12 cs.IT math.IT quant-ph
On Variational Expressions for Quantum Relative Entropies
量子态之间的距离度量（如迹线距离和保真度）可以自然地通过在可以从相应的量子态获得的所有测量统计上优化经典距离度量来定义。与此相反，佩茨指出，当状态不对易时，测量的相对熵（定义为投影测量统计上的Kullback-Leibler散度的最大化）严格小于Umegaki的量子相对熵。我们以两种方式扩展这个结果。首先，我们证明了Petz的结论仍然成立，如果我们允许一般的正算子值的措施。其次，我们将结果推广到Renyi相对熵，并证明了对于非对易态，夹心Renyi相对熵严格大于$α\in (\frac12, \infty)$的测量Renyi相对熵，并且严格小于$α\in [0,\frac12)$。后一种说法为$α< \frac12$的夹层Renyi相对熵的数据处理不等式提供了反例。我们的主要工具是一个新的变分表达式测量Renyi相对熵，我们进一步利用它来表明，量子条件互信息的某些下界是超加性的。
2017-11-08 cs.IT math-ph math.IT
On the Polarization of Rényi Entropy
现有的极化理论主要关注Shannon信息测度，如Shannon熵和互信息，以及一些相关的测度，如Bhattacharyya参数。在这项工作中，我们将极化理论扩展到更一般的信息测度，即雷尼熵。我们的研究表明，在不同阶数的条件Rényi熵下，同一个合成子信道可能呈现相反的极值状态。这一结果揭示了更多的微观尺度上的极化现象（概率对），而不是在平均尺度上的见解。
2019-07-15 cs.IT math.IT
Differential Entropy Rate Characterisations of Long Range Dependent Processes
微分熵率是连续值随机过程的一个有趣的量。LRD过程的许多性质的收敛速度比基于传统过程（例如马尔可夫过程）的直觉所预期的要慢。熵率也是这样吗？在本文中，我们考虑具有幂律衰减的自相关函数的随机过程的微分熵率的性质。我们发现，幂律衰减过程具有相似的自相关和谱密度函数，分数高斯噪声和ARFIMA（0，d，0），有不同的熵特性，特别是负相关的参数化。然后给出了平稳高斯过程的过去与未来之间的互信息与微分过剩熵之间的等价关系，指出该量的有限性是长程相关与短程相关之间的边界。最后，我们分析了条件熵到微分熵率的收敛性，证明了对于短程依赖过程，条件熵到微分熵率的收敛速度是$O(n^{-1})$阶，而对于长程依赖过程，条件熵到微分熵率的收敛速度较慢，并且与Hurst参数有关.
2021-10-30 cs.IT math.IT math.PR
Continuity of entropies via integral representations
本文利用Frenkel的量子相对熵积分表示推导出维度无关的半连续性关系，并据此解决了多个量子信息连续性猜想，改进了量子容量与纠缠成本估计。
2024-10-03 cs.IT math-ph math.IT
Maximal Leakage of Masked Implementations Using Mrs. Gerber's Lemma for Min-Entropy
本文针对任意阶掩码实现，利用最大泄漏和条件最小熵，通过主化不等式推广了有限阿贝尔群中的 Mrs. Gerber 引理，为侧信道攻击成功概率提供上界。
2023-05-10 cs.CR cs.IT math.IT
Convergence of Conditional Entropy for Long Range Dependent Markov Chains
本文研究马氏链条件熵到熵率的收敛性。某些统计量的长期依赖的过程，如样本平均值，收敛是缓慢的。在Carpio和Daley \cite{carpio2007long}中已经表明，$n$阶跃转移概率向平稳分布的收敛是缓慢的，而没有量化收敛速率。我们证明，缓慢的收敛也适用于收敛到信息理论的措施，熵率，通过显示的收敛速度是等价的$n$步转移概率的收敛速度的平稳分布，这是相当于马尔可夫链混合时间问题。然后，我们量化这个收敛速度，并表明它是$O(n^{2H-2})$，其中$n$是马尔可夫链的步数和$H$是赫斯特参数。最后，我们表明，由于这种缓慢的收敛，过去和未来之间的互信息是无限的，当且仅当马尔可夫链是长程相关的。这是一个离散的模拟特性，已被证明为其他长期依赖的过程。
2021-10-28 cs.IT math.IT math.PR
Optimized quantum f-divergences
量子相对熵是两个量子态的可分辨性的量度，并且它是量子信息理论中的统一概念：许多信息度量，如熵、条件熵、互信息和纠缠度量，都可以从中实现。因此，人们对推广这一概念以进一步理解其最基本的属性产生了广泛的兴趣，其中之一是数据处理的不平等。Petz的量子f-发散是量子相对熵的一种推广，它也导致了其他的相对熵，如Petz-Renyi相对熵。在这篇文章中，我介绍了优化的量子f-发散量子相对熵的相关推广。我证明了它满足数据处理不等式，证明的方法依赖于运营商詹森不等式，类似于Petz的原始方法。有趣的是，夹在中间的Renyi相对熵是优化f-发散的特殊例子。因此，这种方法的一个好处是，现在有一个单一的，统一的方法来建立的Petz-Renyi和三明治Renyi相对熵的数据处理不等式，为它是已知的持有的参数的全部范围。
2021-03-31 cs.IT math-ph math.IT
On lower semicontinuity of the quantum conditional mutual information and its corollaries
众所周知，量子互信息及其条件版本在局域信道下不会增加。本文证明了最近建立的量子条件互信息的下连续性蕴涵（实际上等价于）局部通道下量子（条件）互信息损失的下连续性，该损失被认为是复合系统的所有状态集与所有局部通道集（具有强收敛性）的笛卡尔积的函数。这个属性的一些应用被认为是。得到了无限维两体和多体系统中量子互信息和压缩纠缠的新的连续性条件。特别地，证明了任意可数不可分解可分态的有限边缘熵的多体压缩纠缠等于零。特殊的连续性性质的量子测量的信息增益与和没有量子边信息的建立，可以被视为这些量的鲁棒性（稳定性）w.r.t.测量和测量状态的扰动。
2020-01-23 cs.IT math-ph math.IT
Active Trajectory Estimation for Partially Observed Markov Decision Processes via Conditional Entropy
在本文中，我们考虑的问题，控制部分可观察的马尔可夫决策过程（POMDP），以积极估计其状态轨迹在一个固定的水平线与最小的不确定性。我们提出了一种新的主动平滑问题，其目标是直接最小化平滑熵，即条件熵的（联合）状态轨迹分布的关注在固定区间贝叶斯平滑。我们的配方与以前的积极的方法，最小化的条件熵的贝叶斯滤波器提供的（边际）状态估计的总和。通过建立一种新的形式的平滑熵的POMDP的信念（或信息）状态，我们表明，我们的主动平滑问题可以重新表述为一个（完全观察到的）马尔可夫决策过程的价值函数，是凹的信念状态。的值函数的插值是特别重要的，因为它使我们的主动平滑问题的近似解使用分段线性函数近似与标准POMDP求解器。我们说明了我们的主动平滑问题的近似解决方案在模拟和比较其性能的替代方法的基础上最小化边际状态估计的不确定性。
2021-04-04 cs.IT cs.SY eess.SY
Rényi squashed entanglement, discord, and relative entropy differences
在[Berta等人，J. Math.Phys.56，022205（2015）]，我们最近提出了$ABC$上三重态的条件量子互信息的Renyi推广（其中$C$是条件系统），它们被证明满足一些对原始量成立的性质，例如非负性，对偶性，以及相对于系统$B$上的局部运算的单调性（将其保留为开放以表明Renyi量相对于系统$A$上的局部运算是单调的）。在此，我们定义了基于Renyi条件量子互信息的Renyi压缩纠缠和Renyi量子不和谐，并详细研究了这些量。假设Renyi条件量子互信息对于$A$和$B$两个系统的局域操作都是单调的，我们证明了Renyi压缩纠缠和Renyi量子不协调满足各自的原始冯诺伊曼熵基量的许多性质.在我们之前的工作中[Berta等人，Phys.Rev.A91，022333（2015）]中，我们还详细描述了获得任何量子信息测度的Renyi推广的过程，该量子信息测度等于具有从集合$\{-1,0,1\}$中选择的系数的冯诺伊曼熵的线性组合。在这里，我们将这个过程扩展到包括相对熵的差异。利用推广的过程和Renyi推广在Renyi参数下的单调性，我们讨论了诸如相对熵的单调性、相对熵的联合凸性和Holevo界等著名不等式的潜在余项.
2015-09-18 cs.IT math-ph math.IT
Information In The Non-Stationary Case
Strong等人（1998年）的“直接法”等信息估计方法通过估计响应的边际熵和条件熵之间的差异，避开了估计响应和刺激的联合分布的难题。虽然这是一种有效的估计策略，但它诱使从业者忽视刺激的作用和互信息的意义。我们在这里表明，随着试验次数的无限增加，边际熵的直接（或"插件“）估计收敛（概率为1）到响应的时间平均条件分布的熵，条件熵的直接估计收敛到响应的条件分布的时间平均熵。在响应和刺激的联合平稳性和遍历性下，这些量的差收敛到互信息。当刺激是确定性的或非平稳的信息的直接估计不再估计互信息，这是不再有意义的，但它仍然是一个跨时间的响应分布的可变性的措施。
2008-07-18 cs.IT math.IT q-bio.NC
Explicit Entropic Constructions for Coverage, Facility Location, and Graph Cuts
The University of Texas at Dallas（德克萨斯大学达拉斯分校）
本文通过显式熵构造证明了实践中常用的子模函数如覆盖、设施选址和图割目标可精确表示为香农熵，建立了组合信息度量与经典信息论的联系。
2026-01-19 cs.IT math.CO math.IT
Optimized quantum f-divergences and data processing
量子相对熵是两个量子态的可分辨性的量度，并且它是量子信息理论中的统一概念：许多信息度量，如熵、条件熵、互信息和纠缠度量都可以从它实现。因此，人们对推广这个概念以进一步理解它最基本的性质产生了广泛的兴趣，其中之一是数据处理的不平等。Petz的量子f-散度是量子相对熵的一个推广，它也导致了其他的相对熵，如Petz-Renyi相对熵。在本文中，我介绍了优化的量子f-散度作为量子相对熵的相关推广。我证明了它满足数据处理不等式，证明的方法依赖于运营商詹森不等式，类似于Petz的原始方法。有趣的是，夹在中间的Renyi相对熵是优化f-发散的特殊例子。因此，本文的一个好处是，现在有一个单一的，统一的方法来建立的Petz-雷尼和三明治雷尼相对熵的数据处理不等式，为整个范围内的参数，它是已知的持有。本文讨论了优化f-散度的其他方面，如经典情况，经典-量子情况，以及如何构造优化f-信息测度。
2018-07-24 cs.IT hep-th math-ph
Conditional channel entropy sets fundamental limits on thermodynamic quantum information processing
International Institute of Information Technology Hyderabad（印度信息科技海德拉巴学院）
研究双向量子信道在存在侧信道作为记忆时的热力学资源理论，通过条件信道熵刻画信道蒸馏和模拟的最优单次速率，并证明渐近可逆性。
2026-06-24 cond-mat.other cs.IT hep-th
Inevitability of knowing less than nothing
本文通过基于热力学第二定律和熵可加性的两条公设，证明所有合理的量子条件熵定义对某些纠缠态都必然取负值，从而论证量子世界中“知晓少于无知”的不可避免性。
2024-11-14 cs.IT math-ph math.IT
