On generalized Cramér-Rao inequalities, generalized Fisher informations and characterizations of generalized q-Gaussian distributions
本文在非广延统计和估计理论的背景下讨论Cramér-Rao不等式。它给出了广义q-高斯分布的特征,并介绍了广义版本的Fisher信息。本文的主要贡献是:(i)导出了参数估计的新的推广的Cramér-Rao不等式,其中包括估计误差的一般q-矩,(ii)导出了广义q-高斯分布饱和的Cramér-Rao不等式,(iii)广义Fisher信息的定义,(iv)某些已有结果的证明和解释,最后,(五)提出新的估算方法。
2012-06-04 cond-mat.stat-mech cs.IT math-ph
On some interrelations of generalized $q$-entropies and a generalized Fisher information, including a Cramér-Rao inequality
在这次交流中,我们描述了广义$q$ -熵和广义版本的Fisher信息之间的一些相互关系。在信息论中,de Bruijn恒等式将Fisher信息和熵的导数联系起来。我们表明,这个身份可以扩展到广义版本的熵和Fisher信息。更准确地说,广义Fisher信息自然地出现在Tsallis熵的导数的表达式中。这种广义Fisher信息也出现作为一个特殊的情况下,广义Fisher信息的估计问题。事实上,我们在这里得到一个新的Cramér-Rao不等式的参数估计,其中涉及到一个广义形式的Fisher信息。作为一种特殊情况,这种广义Fisher信息简化为标准Fisher信息。在平移参数的情况下,一般的Cramér-Rao不等式导致一个不等式的分布是饱和的广义$q$ -高斯分布。这些广义$q$ -高斯在物理和数学的几个领域都很重要。他们被称为最大化的$q$熵受到力矩约束。Cramér-Rao不等式证明了广义$q$ -Gaussians也能使矩固定的分布间的广义Fisher信息最小化.类似地,广义$q$ -高斯分布也使具有给定$q$ -熵的分布之间的广义Fisher信息最小化。
2013-05-27 cond-mat.other cs.IT math.IT
On Closed-Form Expressions for the Fisher-Rao Distance
本综述收集了离散和连续概率分布的Fisher-Rao距离闭式表达式,以统一语言呈现,并揭示了负多项式分布与双曲模型的关系,补充了新例子及椭圆分布的标准形式。
2024-09-07 cs.IT math.DG math.IT
Cramér-Rao-type Bound and Stam's Inequality for Discrete Random Variables
连续随机变量的方差和熵功率分别通过Cramér-Rao界和Stam不等式由Fisher信息的倒数下界。本文引入了离散随机变量的Fisher信息,导出了离散随机变量的Cramér-Rao型界和离散Stam不等式.
2019-05-19 cs.IT math.IT math.PR
Entropic Isoperimetric and Cramér--Rao Inequalities for Rényi--Fisher Information
本文定义热流下的Rényi–Fisher信息,建立尖锐Rényi熵等周与广义Cramér–Rao不等式,并给出含缩放因子的Rényi熵功率不等式。
2025-06-11 cs.IT math.IT math.PR
Group invariance of $f$-divergences and the Fisher--Rao distance
Sony Computer Science Laboratories Inc.(索尼计算机科学实验室有限公司);Department of Mathematics, Faculty of Science, Shizuoka University(静冈大学理学部数学系)
研究群作用下统计模型对称性对分布比较的影响,证明$f$-散度在变换模型下具有群不变性,并应用于多维位置-尺度族,表明Fisher-Rao距离也有相同约化。
2026-06-25 cs.IT math.IT math.ST
On the philosophy of Cramér-Rao-Bhattacharya Inequalities in Quantum Statistics
对于有限能级量子系统的任意参数态族,我们将Fisher映射空间联系起来,并引入Cramér-Rao-Bhattacharya张量和Fisher信息形式的自然概念。这使我们抽象的Cramér-Rao-Bhattacharya下界的协方差阵的任何有限数量的参数函数的无偏估计。包括一些说明性的例子。在各种模技术假设下,我们的方法可应用于无限能级量子系统以及Borel空间上的古典概率分布的参数族。
2009-07-13 cs.IT math.IT math.PR
Cramer-Rao Bound for Arbitrarily Constrained Sets
Univ. Pompeu Fabra(庞培法布拉大学)
本文提出了一种适用于任意约束集的卡迈克-劳埃德界,统一了现有结果并提供了受约束估计器最小均方误差的表征框架。
2026-01-27 cs.IT eess.SP math.IT
Generalized Fisher-Darmois-Koopman-Pitman Theorem and Rao-Blackwell Type Estimators for Power-Law Distributions
本文将充分性推广至基于距离的稳健似然,刻画具有固定维充分统计量的幂律分布族,给出最小充分统计量,并建立 Rao-Blackwell 型定理及 Cramér-Rao 型下界。
2024-02-28 cs.IT math.IT math.PR
On Voronoi diagrams and dual Delaunay complexes on the information-geometric Cauchy manifolds
Sony Computer Science Laboratories, Inc(索尼计算机科学实验室公司)
从信息几何的观点出发,通过考虑Fisher-Rao距离、Kullback-Leibler发散、卡方发散以及与Fisher-Rao曲线几何的共形平坦化有关的Tsallis二次熵的平坦发散,研究了有限柯西分布及其对偶复形的沃罗诺伊图.我们证明了Fisher-Rao距离的沃罗诺伊图、卡方发散和Kullback-Leibler发散在相应的Cauchy位置尺度参数下都与双曲Voronoi图重合,并且对偶Cauchy双曲Delaunay复形与Cauchy双曲沃罗诺伊图是Fisher正交的.对偶沃罗诺伊图与对偶正/反向平坦发散的关系相当于对偶Bregman沃罗诺伊图,它们的对偶复形是正则三角剖分。原始Bregman-Tsallis沃罗诺伊图对应于双曲沃罗诺伊图,对偶Bregman-Tsallis沃罗诺伊图与普通欧氏沃罗诺伊图重合。此外,我们证明了柯西分布之间的Kullback-Leibler散度的平方根产生一个度量距离,该距离对于柯西尺度族是希尔伯特的。
2020-06-18 cs.CG cs.IT cs.LG
A Family of Bayesian Cramér-Rao Bounds, and Consequences for Log-Concave Priors
在最小正则性假设下,我们建立了一个家庭的信息理论贝叶斯Cramér-Rao界,索引的概率措施,满足对数Sobolev不等式。这个族包括已知的贝叶斯克拉美-拉奥界(或van Trees不等式)作为特例,以及由于Efroimovich而不太广为人知的熵改进。对于对数凹先验的设置,我们得到了贝叶斯Cramér-Rao界,它对任何(可能有偏)估计都成立,并且与van Trees不等式不同,它不依赖于先验的Fisher信息。
2019-02-22 cs.IT math.IT
Hermite-Gaussian model for quantum states
为了在信息几何的背景下描述量子态,我们提出了一个推广的高斯模型,我们称之为厄米-高斯模型。我们得到了该模型的Fisher-Rao度规和标量曲率,并给出了它与一维量子谐振子的关系。此外,利用该模型我们刻画了量子谐振子的一些态的失效。我们发现,对于哈密顿量的本征态、本征态的混合以及本征态的偶或奇叠加,相关的Fisher-Rao度规是对角的。
2018-11-03 cs.IT math-ph math.IT
Information geometric analysis of phase transitions in complex patterns: the case of the Gray-Scott reaction-diffusion model
信息几何中的Fisher-Rao度规与经典统计力学中的相变现象有关。一些研究建议扩展信息几何的使用,以研究复杂系统中更一般的相变。然而,目前尚不清楚Fisher-Rao度量是否确实检测到这些更普遍的转变,特别是在缺乏统计模型的情况下。本文利用Fisher信息研究了Gray-Scott反应扩散模型中模式间的跃迁。我们描述了系统的概率密度函数,代表斑点的大小分布的模式,并计算其Fisher信息相对于改变两个速率参数的基础模型。我们非参数地估计分布,因此我们不假设任何统计模型。由此产生的Fisher图可以被解释为不同模式的相位图。具有高Fisher信息的线可以被认为是具有相似特征的模式出现的参数空间区域之间的边界。这些高Fisher信息的线可以被解释为复杂图案之间的相变。
2016-01-04 cond-mat.stat-mech cs.IT math.IT
Limits on Parameter Estimation of Quantum Channels
本论文的目的是建立一个理论框架来研究量子信道的参数估计。我们研究的任务,估计未知参数编码在一个通道中的顺序设置。顺序策略是多次使用通道的最常用方法。我们的目标是建立估计误差的下界(称为Cramer-Rao界)。我们开发的边界是普遍适用的;即,它们适用于所有允许的量子动力学。我们考虑使用催化剂,以提高功率的信道估计策略。这被称为摊销。用于参数估计的信道功率由其Fisher信息确定。因此,我们研究了催化剂量子态可以通过定义摊销的Fisher信息来增强信道的Fisher信息。我们建立我们的界限证明,对于某些Fisher信息量,催化剂状态不提高性能的顺序估计协议相比,并行的。专业术语称之为摊销崩溃。我们使用它来建立边界时,估计一个参数,或同时多个参数。我们的边界普遍适用,我们也把它们作为优化问题。对于单参数情形,我们利用对称对数导数(SLD)Fisher信息和右对数导数(RLD)Fisher信息建立了一般量子信道的界。同时估计多个参数的任务比单参数情况更复杂,因为Cramer-Rao界采用矩阵不等式的形式。我们建立了一个标量Cramer-Rao界的多参数信道估计使用RLD Fisher信息。对于单参数和多参数估计,我们提供了一个不去的条件,所谓的海森堡标度使用我们的RLD为基础的界限。
2022-01-05 cs.IT math-ph math.IT
Extended inequalities for weighted Renyi entropy involving generalized Gaussian densities
本文对加权Renyi熵进行了分析,导出了加权情形下的几个不等式。利用所提出的$α$阶广义导子和($α$ ; p)阶加权Fisher信息,给出了矩熵、Fisher信息和Cramer-Rao不等式在广义高斯密度下的推广形式.
2015-10-15 cs.IT math.IT math.PR
Accelerated Information Gradient flow
我们提出了一个框架Nesterov的加速梯度流在概率空间设计有效的平均场马尔可夫链蒙特卡罗(MCMC)算法的贝叶斯逆问题。本文考虑了四种信息度量的例子,包括Fisher-Rao度量、Wasserstein-2度量、Kalman-Wasserstein度量和Stein度量。对于Fisher-Rao和Wasserstein-2度量,我们证明了加速梯度流的收敛性质。在实现中,我们提出了一个采样有效的离散时间算法的Wasserstein-2,Kalman-Wasserstein和Stein加速梯度流与重新启动技术。我们还制定了一个核带宽选择方法,学习密度的对数梯度从布朗运动样本。数值实验,包括贝叶斯逻辑斯谛回归和贝叶斯神经网络,表明所提出的方法相比,国家的最先进的算法的强度。
2022-06-23 cs.IT math.IT math.OC
A Generalized Cramér-Rao Bound Using Information Geometry
本文将 Eguchi 理论用于 BHHJ 散度以构造 Riemannian 度量,并沿用 Amari-Nagaoka 几何方法推广 CRLB,为稳健估计提供新的理论界。
2025-07-28 cs.IT math.IT math.ST
On a (β,q)-generalized Fisher information and inequalities involving q-Gaussian distributions
在本文中,我们想提请注意一个可能的广义Fisher信息,适合在非广延热统计的形式主义。这种广义Fisher信息被定义为$\mathbb{R}^{n}.$上的密度。正如最大Rényi或Tsallis熵服从椭圆矩约束是广义q-高斯,我们证明了广义Fisher信息的最小化也导致广义q-高斯。这就产生了一个广义的Cramér-Rao不等式。此外,我们表明,广义Fisher信息自然弹出一个简单的不等式,连接广义熵,广义Fisher信息和椭圆矩。最后,给出了一个推广的Stam不等式.在这一系列结果中,极值函数是广义q-高斯函数。因此,这些结果补充了经典的广义q-高斯的特征,并引入了广义Fisher信息作为一种新的信息测度在非广延热统计。
2013-01-17 cond-mat.stat-mech cs.IT math-ph
Cramér-Rao Lower Bounds Arising from Generalized Csiszár Divergences
本文研究了广义Csiszár $f$ -发散族的概率分布几何。相对$α$ -熵是这个家族的一员,它也是信息论中相对熵的Rényi模拟,在统计学中被称为对数或投影功率发散。我们应用江口的理论推导出Fisher信息度量和对偶仿射连接所产生的这些广义发散函数。这使我们能够得到一个更广泛适用的克拉美-拉奥不等式,它为潜在参数概率分布的护送估计量的方差提供了一个下界。然后,我们扩展Amari-Nagaoka的双平坦结构的指数和混合模型的其他分布相对于上述广义度量。我们表明,这些配方使我们找到无偏和有效的估计护送模型。最后,我们比较了我们的工作与以前的结果,来自非信息几何框架的广义Cramér-Rao不等式。
2020-05-24 cs.IT eess.SP math.IT
An Interpretation of the Moore-Penrose Generalized Inverse of a Singular Fisher Information Matrix
证明了在非贝叶斯参数估计问题中,如果Fisher信息矩阵是奇异的,则未知参数的无偏估计不存在。Cramer-Rao界(CRB),一个流行的工具来下界的无偏估计的方差,似乎不适用于这种情况。本文证明了奇异矩阵的Moore-Penrose广义逆可以解释为在所有最小约束函数的选择中方差最小的CRB。这一结果保证了当矩阵奇异时,应用矩阵的Moore-Penrose广义逆作为协方差下界的逻辑正确性.此外,该结果可作为约束函数和无偏估计联合设计的性能界。
2012-08-06 cs.IT math.IT math.ST
Quantum Information Entropies for the $\ell$-state Pöschl-Teller-type potential
本文得到了任意$\ell$的Pöschl-Teller型势的位置-动量不确定性和一些不确定关系。得到了$r^{-2}$、$r^{2}$和$p^{2}$的径向期望值,由此证明了海森堡不确定原理对所考虑的势模型成立. Fisher信息,然后获得,它是观察到的Fisher信息为基础的不确定性关系和Cramer-Rao不等式保持这个偶数的权力潜力。显示了一些数值和图形结果。
2014-09-25 cs.IT math.IT quant-ph
Optimal and Robust Waveform Design for MIMO-OFDM Channel Sensing: A Cramér-Rao Bound Perspective
无线信道感知是集成感知和通信(ISAC)的关键推动因素之一,它有助于通信网络了解周围环境。在这项工作中,我们认为MIMO-OFDM系统,并旨在设计最佳和强大的波形,准确的信道参数估计给定的OFDM资源分配。首先推导了Fisher信息矩阵,并通过最大化Fisher信息矩阵的对数行列式来制定波形设计问题。然后,我们考虑参数的不确定性和状态的随机优化问题的鲁棒设计。我们提出了黎曼精确罚光滑法(REPMS)及其随机版本SREPMS来解决约束非凸问题。在模拟中,我们表明,REPMS产生可比的结果半定松弛(SDR),但具有更短的运行时间。最后,使用SREMPS设计的鲁棒波形进行了研究,并显示出在信道扰动下具有良好的性能。
2023-01-25 cs.IT eess.SP math.IT
Ensuring Privacy with Constrained Additive Noise by Minimizing Fisher Information
University of Melbourne(墨尔本大学);KTH Royal Institute of Technology(瑞典皇家理工学院)
本文研究了在受限加性噪声下如何响应线性或非线性查询以保护数据库中个体条目的隐私,通过最小化Fisher信息矩阵的迹来提升隐私保护,并与差分隐私方法进行比较。
2018-08-28 cs.IT cs.SY eess.SY
Estimation-Prediction Tradeoff in Causal Probabilistic Temporal Graphs
Aniq Ur Rahman
针对概率时序图中预测误差与模型不确定性混淆的问题,提出因果框架生成具有瞬态边和真实因果结构的时序图,推导Cramér-Rao界验证参数估计误差与不可约预测损失之间的权衡。
2026-07-13 cs.IT cs.LG cs.MA
The Fisher metric as a metric on the cotangent bundle
本文将 Fisher 度量诱导的余切丛度量定义为 Fisher 余度量,利用余切向量与随机变量的对应直接刻画其与方差/协方差的关系,并证明其 Markov 不变性定理。
2025-10-04 cs.IT math.DG math.IT