首页/论文/0906.1244

arXiv 0906.12442009-06-06cs.ITmath.IT

广义Pinsker不等式

Generalised Pinsker Inequalities

Mark D. Reid, Robert C. Williamson

备注：: 21 pages, 3 figures, accepted to COLT 2009

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

摘要英文摘要相关论文

摘要：

我们概括了经典的Pinsker不等式，其中涉及变分发散Kullback-Liebler分歧在两种方式：我们认为任意f-发散的地方KL分歧，我们假设知识的一个序列的值的广义变分发散。然后，我们开发了一个最好的可能的不等式，这种双重推广的情况。专门我们的结果，经典的情况下，提供了一个新的和紧密的明确的界限KL变分发散（解决问题的Vajda约40年前）。该解决方案依赖于通过积分表示利用学习问题的分歧和贝叶斯风险之间的联系。

英文摘要：

We generalise the classical Pinsker inequality which relates variational divergence to Kullback-Liebler divergence in two ways: we consider arbitrary f-divergences in place of KL divergence, and we assume knowledge of a sequence of values of generalised variational divergences. We then develop a best possible inequality for this doubly generalised situation. Specialising our result to the classical case provides a new and tight explicit bound relating KL to variational divergence (solving a problem posed by Vajda some 40 years ago). The solution relies on exploiting a connection between divergences and the Bayes risk of a learning problem via an integral representation.

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

阅读原文

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

本文内容

摘要英文摘要相关论文

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

继续探索

相关论文

关于反向Pinsker不等式的一个注记

A Note on Reverse Pinsker Inequalities

一个简单的方法，以提供最佳的变分界$f$ -发散与可能的限制相对信息极值。已知的结果被改进或被证明是最优的特殊情况。

2019-02-03cs.ITmath.IT

关于Pinsker型不等式和Csiszar的f-发散第一部分：二阶和四阶不等式

On Pinsker's Type Inequalities and Csiszar's f-divergences. Part I: Second and Fourth-Order Inequalities

本文研究了$f$上的$f$ -发散$D_f$满足$D_f \geq c_f V^2$或$D_f \geq c_{2,f} V^2 + c_{4,f} V^4$的条件，其中$V$表示变分距离，系数$c_f$，$c_{2,f}$和$c_{4,f}$是{ \em best possible}.因此，我们获得了许多著名的距离和发散措施的$V$方面的下界。例如，令$D_{(α)} (P,Q) = [α(α-1)]^{-1} [\int q^α p^{1-α} d μ-1]$和${\cal I}_α(P,Q) = (α-1)^{-1} \log [\int p^αq^{1-α} d μ]$分别是{ \em类型的相对信息}（$1-α$）和{ \em Rényi的顺序信息增益} $α$。我们表明，$D_{(α)} \geq {1/2} V^2 + {1/72} (α+1)(2-α) V^4$无论何时$-1 \leq α\leq 2$，$α\not= 0,1$和${\cal I}_α = \fracα{2} V^2 + {1/36} α(1 + 5 α- 5 α^2) V^4$ $0 < α< 1$。Pinsker不等式$D \geq {1/2} V^2$及其扩展$D \geq {1/2} V^2 + {1/36} V^4$是其中每一个的特殊情况。

2006-04-18cs.ITmath.IT

用Stein离散密度方法求解局部Pinsker不等式

Local Pinsker inequalities via Stein's discrete density approach

Pinsker不等式指出两个随机变量$X$和$Y$之间的相对熵$d_{\mathrm{KL}}(X, Y)$支配$X$和$Y$之间的全变差距离$d_{\mathrm{TV}}(X,Y)$的平方。本文引入离散分布$X$和$Y$之间的广义Fisher信息距离$\mathcal{J}(X, Y)$，并证明它们也支配全变差距离的平方。为此，我们介绍了一个一般的离散斯坦算子，我们证明了一个有用的协方差身份。我们用几个例子来说明我们的方法。只要文献中有竞争者的不等式，我们的常数至少是一样好的，在某些情况下，更好。

2013-05-23cs.ITmath.ITmath.PR

关于反向Pinsker不等式

On Reverse Pinsker Inequalities

新的上界的相对熵推导出作为总变化距离的函数。一个界限是Verdú对一般概率测度的一个不等式的改进。第二个界限提高了由Csiszár和Talata的不等式的紧密性，用于定义在公共有限集上的任意概率测度。后一个结果被进一步推广，对于有限集上的概率测度，得到了任意非负阶（包括$\infty$）的Rényi散度作为总变差距离的函数的上界. Verdú关于总变差距离的另一个下界，用相对信息的分布来表示，被收紧，并且在一定条件下得到。这些改进的效果举例说明。

2015-04-13cs.ITmath.ITmath.PR

$f$ -发散不等式

$f$-divergence Inequalities

本文发展了系统的方法来获得$f$ -发散不等式，处理对概率措施定义在任意字母。功能支配是这样一种方法，其中特别强调的是找到最好的可能常数上界的比率$f$ -分歧。用于导出$f$ -发散之间的界限的另一种方法依赖于矩不等式和几何凸性性质，这导致相对熵和巴塔查里亚距离在$χ^2$发散方面的严格界限。各种各样的界限举行有界性假设的相对信息。特别注意的是，总变差距离和它的关系，相对信息和相对熵，包括“反向平斯克不等式”，以及$E_γ$分歧，它概括了总变差距离。对这种$f$ -发散推广了Pinsker不等式，得到了一个联系相对熵和相对信息谱的不等式.积分表达式的Rényi分歧的相对信息谱的推导，导致界的Rényi分歧的变分距离或相对熵。

2016-12-04cs.ITmath.ITmath.PR

广义拟-$\varepsilon$-邻域内分布间f-散度的界

Bounds on f-Divergences between Distributions within Generalized Quasi-$\varepsilon$-Neighborhood

本文在广义拟-$\varepsilon_{(M,m)}$-邻域框架内建立了概率测度间f-散度的可计算界，通过统一刻画局部分布邻近性、推广一阶可微散度分类及提供更紧的反向Pinsker不等式，在拟合优度检验渐近分析中展现出效力。

2025-08-10cs.ITmath.IT

更多相关论文收起更多论文

通过插值的Rényi散度不等式及其在广义熵不确定关系中的应用

Rényi divergence inequalities via interpolation, with applications to generalised entropic uncertainty relations

我们研究量子雷尼熵量，特别是那些来自“三明治”的分歧。这种发散是雷尼提出的量子相对熵的几种概括之一。我们可以根据这种分歧定义量子条件熵和互信息的雷尼推广，它们继承了许多理想的性质。然而，这些量缺乏香农和冯诺依曼对应量的一些方便结构。我们试图弥合这一差距，建立发散不等式的有效组合Rényi秩序复制链和分解规则的香农和冯诺伊曼熵。虽然弱一般，这些不等式恢复等价时，雷尼参数趋于一。为此，我们提出了Rényi互信息分解规则，Rényi条件熵三方链规则和更一般的二分比较的一种新方法。这些结果的推导依赖于一个新的复杂的插值方法一般空间的线性算子。这些新的比较使我们能够使用到目前为止只适用于香农和冯诺伊曼熵熵的技术。因此，我们可以直接应用它们来推导雷尼熵的不确定关系。因此，我们建立了一个家庭的Rényi信息排斥关系，并提供进一步的推广和改进，这个和其他已知的关系，包括Rényi二分不确定性关系。

2021-06-19cs.ITmath.ITquant-ph

通过$f_α$-散度的收缩分析任意通道的隐私放大界限

Bounds on the privacy amplification of arbitrary channels via the contraction of $f_α$-divergence

Inria Saclay（法国国家信息与自动化研究所萨克莱中心）

通过分析$f_α$-散度的收缩行为，研究任意通道的隐私放大界限，并提出改进的Pinsker不等式，展示稀疏通道在隐私放大中的有效性。

2025-11-25cs.ITmath.IT

散度不等式及其在遍历理论中的应用

Divergence Inequalities with Applications in Ergodic Theory

本文为二次可微的 $f$-散度提出了基于 $χ^{2}$-散度的一般界限，刻画了时齐 Markov 链的收缩速率与混合时间，并将结果扩展至量子信息论中的 Petz $f$-散度。

2025-04-01cs.ITmath.ITquant-ph

原始通道在量子f-分歧度下的紧收缩率

Tight Contraction Rates for Primitive Channels under Quantum $f$-Divergences

School of Computing National University of Singapore Singapore 117417, Singapore；Computer Engineering \& Centre for Quantum Technologies National University of Singapore Singapore 117543, Singapore；Centre for Quantum Technologies National University of Singapore Singapore 117543, Singapore

本文研究了量子f-分歧度下的原始通道收缩率，证明了局部反 Pinsker 不等式，并建立了收缩率上界与SDPI常数的关系，进一步通过量子-detailed balance条件得出界紧致性条件，应用于Petz等f-分歧度，获得新结果。

2026-05-07cs.ITmath.ITquant-ph