Beyond Hoeffding and Chernoff: Trading conclusiveness for advantages in quantum hypothesis testing
Cornell University(康奈尔大学);RIKEN Pioneering Research Institute (PRI)(理化学研究所先锋研究本部);RIKEN Center for Quantum Computing (RQC)(理化学研究所量子计算中心)
本研究通过允许不明确结果的概率,超越了传统量子假设检验中的误差指数限制,提供了更优的性能和更稳健的改进。
2025-12-09 cs.IT math-ph math.IT
Discriminating quantum states: the multiple Chernoff distance
我们考虑多量子假设$\{ρ_1^{\otimes n},\ldots,ρ_r^{\otimes n}\}$的检验问题,其中给定任意先验分布,每个$r$假设都是量子态的$n$拷贝.已知平均错误概率$P_e$以指数方式衰减到零,即$P_e=\exp\{-ξn+o(n)\}$。然而,除了$r=2$的情况之外,该误差指数$ξ$通常是未知的。本文通过证明Nussbaum和Szkovia猜想,解决了长期以来的公开问题,即确定上述误差指数,即$ξ=\min_{i\neq j}C(ρ_i,ρ_j)$。这个等式的右边称为多量子距离,而$C(ρ_i,ρ_j):=\max_{0\leq s\leq 1}\{-\log\operatorname{Tr}ρ_i^sρ_j^{1-s}\}$先前已被确定为检验两个假设($ρ_i^{\otimes n}$与$ρ_j^{\otimes n}$)的最佳误差指数。我们的证明的主要成分是一个新的上限的平均错误概率,用于测试一个有限维的合奏,但在其他方面一般,量子态。这个上限,直到一个状态依赖的因素,匹配的多个状态的推广努斯鲍姆和Szkoenia的下限。专门的情况下,$r=2$,我们给出了一个替代的证明,证明了二进制假设的Brackoff距离,这最初是由Audenaert等人证明。
2016-07-19 cs.IT math-ph math.IT
Distributed Detection over Random Networks: Large Deviations Performance Analysis
我们研究了大偏差性能,即,随机网络上分布式检测算法的错误概率的指数衰减率。在每个时间步长$k$,每个传感器:1)将其决策变量与邻居的决策变量进行平均;以及2)在运行中考虑其新的观测。我们发现,分布式检测表现出“相变”的行为。当网络信息流的速率(平均化的速度)高于阈值时,则分布式检测渐进地等价于最优集中式检测,即,分布式检测的错误概率的指数衰减率等于DADFF信息。当信息流的速率低于阈值时,分布式检测仅实现了一小部分的Wuff信息速率;我们将此可实现的速率量化为信息流的网络速率的函数。仿真例子证明了我们的理论研究结果的行为分布检测随机网络。
2010-12-21 cs.IT math.IT
A doubly composite Chernoff-Stein lemma and its applications
Scuola Normale Superiore(高等师范学校)
该研究建立了适用于双重复合且真正相关假设的一般Chernoff-Stein引理,通过改进的逐符号模糊化技术证明,并给出Stein指数的单字母公式及约束de Finetti约化等应用。
2025-10-07 cs.IT math-ph math.IT
Optimal Regret Exponents for Bayesian Statistical Decision Problems
School of Electrical Engineering, Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院电气工程学院)
研究有限状态有限动作贝叶斯统计决策问题,通过最小化不相容状态子集上的多元Chernoff信息,给出了任意损失函数下最优遗憾的精确指数,并首次得到列表假设检验的精确指数。
2026-06-08 cs.IT math.IT math.ST
Improved MDL Estimators Using Fiber Bundle of Local Exponential Families for Non-exponential Families
National Institute of Information and Communications Technology(日本国立信息通信技术研究所);Yale University(耶鲁大学);Kyushu University(九州大学)
本文针对非指数族场景,提出基于局部指数族纤维丛的两段编码改进MDL估计器,其遗憾值接近极小极大遗憾值,可给出风险与损失的紧上界,且适用于混合族这类典型非指数族。
2023-11-07 cs.IT cs.LG math.IT
A note on Onicescu's informational energy and correlation coefficient in exponential families
Onicescu的信息能量是一个衡量随机变量不确定性的正数量。但与香农熵相反,当随机性降低时,信息能量增加。当概率分布属于指数族时,我们给出了Onicescu信息能及其相关系数的封闭式公式。我们展示了如何实例化几个常见的指数族的通用公式。
2022-02-05 cs.IT math.IT
On Rényi and Tsallis entropies and divergences for exponential families
Sony Computer Science Laboratories, Inc.(索尼计算机科学实验室公司);École Polytechnique(巴黎综合理工学院);University of Antilles-Guyane(安的列斯-圭亚那大学)
统计学中许多常见的概率分布,如高斯分布、多项分布、贝塔分布或伽玛分布,都可以在指数族的统一框架下进行研究。在本文中,我们证明了属于同一指数族的分布的Rényi和Tsallis发散都允许一个通用的封闭形式的表达式。此外,我们表明,雷尼和Tsallis熵也可以计算在封闭形式的子族,包括高斯或指数分布,等等。
2011-05-17 cs.IT cs.LG math.IT
A closed-form expression for the Sharma-Mittal entropy of exponential families
Sharma-Mittal熵推广了著名的Shannon熵、Rényi熵和Tsallis熵。本文给出了任意指数族分布的Sharma-Mittal熵和相对熵的封闭公式。本文给出了多元高斯分布情形下的公式,并讨论了它的估计。
2011-12-19 cs.IT math.IT
Characterization of Exponential Families of Lumpable Stochastic Matrices
Tokyo University of Agriculture and Technology(东京农工大学)
本文研究了可简化转移矩阵构成指数族的条件,提出了一种基于维度的高效验证方法。
2025-11-26 cs.IT math.IT math.PR
Chentsov's theorem for exponential families
Chentsov定理将统计模型上的Fisher信息度量刻画为在充分统计量下唯一不变的黎曼度量。这意味着每个统计模型都自然地配备了一个几何形状,因此Chentsov定理解释了为什么许多统计特性可以用几何术语来描述。然而,尽管是统计学的基础定理之一,但陈佐夫定理以前只在非常有限的设置或相对较强的正则性和不变性假设下被证明。因此,我们证明了一个版本的这个定理的重要情况下,指数家庭。特别是,我们将Fisher信息度量作为指数族及其衍生族上唯一的黎曼度量(直到重新标度),该指数族及其衍生族在独立同分布扩展和规范充分统计量下不变。我们的方法是基于中心极限定理,所以它给出了一个统一的证明离散和连续的指数族,它是比以前的方法较少的技术。
2017-05-22 cs.IT math.DG math.IT
Likelihood Ratio Exponential Families
USC Information Sciences Institute(南加州大学信息科学研究所);Sony CSL(索尼计算机科学实验室);University of Toronto(多伦多大学);Vector Institute(向量研究所)
指数族在机器学习和统计物理学中是众所周知的,因为最大熵分布受到一组观察到的约束,而几何混合路径在MCMC方法中很常见,例如退火重要性采样。结合这两个想法,最近的工作已经解释了几何混合路径作为一个指数族的分布来分析热力学变分目标(TVO)。我们扩展这些似然比指数的家庭,包括率失真(RD)优化,信息瓶颈(IB)的方法,并结合RD和IB最近的率失真分类方法的解决方案。这为通过指数族的共轭对偶和假设检验来理解这些方法提供了一个通用的数学框架。此外,我们收集现有的结果,以提供一个变分表示中间RD或TVO分布作为一个最小化的期望KL分歧。该解决方案也对应于使用似然比检验和奈曼皮尔逊引理的大小功率权衡。在热力学积分界限,如TVO,我们确定的中间分布,其预期的充分的统计匹配的日志分配函数。
2021-01-15 cs.IT cs.LG math.IT
Divergences induced by dual subtractive and divisive normalizations of exponential families and their convex deformations
Sony Computer Science Laboratories Inc(索尼计算机科学实验室公司)
本文研究指数族在减式与除式归一化下诱导的散度关系,证明未归一化密度的α-散度等价于配分函数诱导的缩放α-偏斜Jensen散度,并利用比较凸性构造凸变形下的对偶平坦空间。
2024-01-18 cs.IT cs.LG math.IT
Statistical Inference and Exact Saddle Point Approximations
统计推断可以遵循频率论方法,或者可以遵循贝叶斯方法,或者可以使用最小描述长度原则(MDL)。我们的目标是确定这些不同的统计推断方法一致的情况。证明了对于指数族,MDL和贝叶斯推论一致的充要条件是共轭指数族的重整化鞍点逼近是精确的。对于一维指数族,唯一具有精确重整化鞍点近似的族是高斯位置族、Gamma族和逆高斯族。它们是高斯位置族、Gamma族和泊松指数族的共轭族。前两个家族是自共轭的,这意味着只有对于前两个家族,贝叶斯方法与频率论方法是一致的。在更高的维度中,有更多的例子。
2018-05-06 cs.IT math.IT math.ST
Exponential families from a single KL identity
Scientific Consultant(科学顾问)
本文通过一个简单的指数族KL差恒等式,推导出多项经典结果,包括三点恒等式、I投影定理、对数分区函数的凸性等,无需复杂推导。
2026-04-30 cs.IT cs.LG math.IT
SMML estimators for exponential families with continuous sufficient statistics
最小信息长度原则是一个信息论准则,它将数据压缩与统计推断联系起来。本文研究了$d$维指数族具有连续充分统计量的严格最小消息长度(SMML)估计,对所有$d \ge 1$ . SMML估计的分区示出由凸多面体(即凸多边形时,$d=2$),可以明确地描述的断言和编码概率。虽然这个结果是已知的,我们给出了一个新的证明的基础上变分法,这种方法给出了一些有趣的新的不等式SMML估计。我们也使用这个结果来构建一个SMML估计的$2$维正态随机变量与已知的方差和一个正常的前其均值。
2014-03-21 cs.IT math.IT math.ST
Weight distributions of several families of 3-weight binary linear codes
低权线性码在组合设计、秘密共享、关联方案、认证码和强正则图中有着广泛的应用。本文首先纠正了关于指数和$\sum_{x\in \mathbb{F}_{2^{e}}}χ_1\left(ax^{2^α+1}+bx\right).$的一个错误结果,然后利用这个指数和构造了几类具有$3$ -重量的二元线性码,并确定了它们的重量分布.此外,它们中的大多数可以用于秘密共享方案。
2020-09-18 cs.IT math.IT math.NT
Families of locally separated Hamilton paths
我们将K的下界提高了一个指数因子Orner和Muzi关于n个顶点的完全图中任意两条路的并的度为4的最大Hamilton路族的基数的结果。改进是通过一个显式的结构,而以前的界限是由一个贪婪算法。我们解决了一个类似的问题,排列到一个指数因子。
2015-05-04 cs.IT math.CO math.IT