Fisher information and the central limit theorem
本文建立了独立同分布和的相对Fisher信息距离到正态分布类的Edgester-type展开式。满足矩条件的随机变量。利用卷积中Fisher信息的性质研究了中心极限定理的有效性。
2012-04-30 math.PR math.ST stat.TH
Holonomic Gradient Descent for the Fisher-Bingham Distribution on the $d$-dimensional Sphere
我们提出了一个加速版本的完整梯度下降，并将其应用于计算的最大似然估计（MLE）的Fisher-Bingham分布的$d$维球。我们推导出一个Pfweian系统（可积连接）和一个与归一化常数相关的级数展开式，并给出了误差估计。这些使我们能够解决一些MLE问题的尺寸$d=7$与指定的精度。
2013-06-22 math.ST stat.TH
The Fisher Geometry and Geodesics of the Multivariate Normals, without Differential Geometry
本文综述多元正态分布的 Fisher 几何，用协方差诱导曲率的直观视角统一已知闭式特例、介绍一般近似与数值测地线方法，并解释退火和 Wasserstein 路径。
2023-06-02 math.ST stat.CO stat.TH
On asymptotic normality of sequential LS-estimates of unstable autoregressive processes
对于不稳定自回归AR（p）模型中未知参数的估计，本文提出了一种由观测Fisher信息矩阵的迹定义特殊停时的序贯最小二乘估计.序列最小二乘估计的极限分布是正常的参数向量躺在里面的稳定区域和它的边界的某些部分，在对比普通的最小二乘估计。序列最小二乘估计的渐近正态性是由观测Fisher信息矩阵的一个新性质提供的，该性质在AR（p）过程的稳定区域内和其边界部分都成立。导出了系统停时的渐近分布。
2008-10-06 math.ST stat.TH
One-parameter generalised Fisher information matrix: One random variable
对于单随机变量的情形，我们提出了广义Fisher信息或Fisher信息的单参数扩展类。这种新形式的Fisher信息是从标准Fisher信息和变分原理之间的有趣联系以及拉格朗日量的非唯一性得到的。还导出了推广的Cramér-Rao不等式。有趣的是，除了标准的Fisher信息之外，整个Fisher信息层次结构都不遵循可加性规则。从两参数Kullback-Leibler散度出发，得到了完整的Fisher信息序列。此外，对于单随机变量但参数多估计的情况，该思想可直接推广到单参数广义Fisher信息矩阵的求法。给出了Fisher信息矩阵的层次结构。通过正态分布研究了层次中前两个矩阵的几何意义。有趣的一点是，这前两个Fisher矩阵在正态分布的同一统计流形上给出了不同的曲率性质。
2022-08-24 math-ph math.MP math.ST
Skew-symmetric distributions and Fisher information: The double sin of the skew-normal
Hallin和Ley [Bernoulli 18（2012）747-763]研究并充分表征了斜对称分布的单变量和多变量族中的Fisher奇异现象。本文提出了一个精细的分析（单变量）的问题，奇异性可以或多或少严重，诱导$n^{1/4}$（“简单的奇异性”），$n^{1/6}$（“双奇异性”），或$n^{1/8}$（“三奇异性”）的偏度参数的一致性率。然而，我们表明，简单的奇异性（产生$n^{1/4}$一致率），如果任何奇异性，是规则，在这个意义上，双和三重奇异性是可能的广义斜正规族。我们还表明，高阶奇点，导致比$n^{1/8}$率差，不能发生。根据奇异性的程度，我们的分析还提出了一个简单的重新参数化，提供了一种替代所谓的中心参数化提出，在特定情况下的斜正常和斜$t$家庭，由Azzalini [Scand. J. Stat. 12（1985）171-178]、Arellano-Valle和Azzalini [J. Multivariate Anal. 113（2013）73-90]，以及DiCiccio和Monti [Quaderni di Statistica 13（2011）1-21]。
2014-07-09 math.PR math.ST stat.TH
Ergodicity and mixing bounds for the Fisher-Snedecor diffusion
我们考虑Fisher-Snedecor扩散，即具有Fisher-Snedecor不变分布的Kolmogorov-Pearson扩散。在非平稳设置中，我们给出了明确的定量率各自的有限维分布的收敛速度的固定的Fisher-Snedecor扩散，并为$β$混合系数的扩散。作为应用，我们证明了Fisher-Snedecor扩散的可加泛函的大数定律和中心极限定理，并构造了该扩散参数的$P$ -相合和渐近正态估计.
2013-12-17 math.ST stat.TH
Relative Performance of Fisher Information in Interval Estimation
最大似然估计及其相应的置信区域常用于统计推断。在实际应用中，人们通常根据最大似然估计（最大似然估计）的渐近正态分布，在给定的样本数据下，利用Fisher信息构造近似置信区域。两种常见的Fisher信息矩阵（FIM，用于多变量参数）是观测的对数似然函数（负对数似然函数的黑塞矩阵）和期望的对数似然函数（观测对数似然函数的期望）。本文证明了在一定条件下，在均方误差（MSE）准则下，极大似然估计中各元素对期望误差的近似置信区间至少与对观测误差的近似一样精确。
2021-07-09 math.ST stat.TH
Properties of using Fisher information gain for Bayesian design of experiments
贝叶斯决策理论的方法设计的实验涉及指定一个设计（所有可控变量的值），以最大限度地提高预期的效用函数（预期的响应和参数的分布）。对于大多数常见的效用函数，期望效用很少以封闭形式可用，并且需要计算上昂贵的近似，然后需要在所有可能的设计的空间上最大化。这阻碍了贝叶斯方法在实际应用中找到试验设计。然而，最近，一个新的实用程序称为费舍尔信息增益已被提出。由此产生的预期Fisher信息增益降低到Fisher信息矩阵的迹的先验期望。由于Fisher信息通常以封闭形式提供，这显著简化了最优设计的近似和随后的识别。在本文中，它表明，指数族模型，最大化的预期Fisher信息增益是等价于最大化的一个替代的目标函数在降维空间，简化甚至进一步识别的最优设计。然而，如果该函数没有足够的全局最大值，则使预期Fisher信息增益最大化的设计会导致不可识别性。
2021-09-23 math.ST stat.TH
Two-sample Behrens--Fisher problems for high-dimensional data: a normal reference F-type test
高维数据的均值向量的相等性检验问题在文献中得到了深入的研究。然而，大多数现有的测试施加强假设的基础组协方差阵，这可能不满足或很难在实践中检查。本文提出并研究了高维数据两样本Behrens-Fisher问题的F-型检验。当两个样本是正态分布的，当原假设是有效的，建议的F-型检验统计量被证明是一个F-型混合，两个独立的卡方型混合的比例。在一定的正则性条件和原假设下，证明了所提出的F-型检验统计量和上述F-型混合统计量具有相同的正态和非正态限.然后证明了用F型混合物的零分布来近似所提出的F型检验统计量的零分布是合理的，从而得到所谓的正态参考F型检验。由于F-型混合物是两个独立的卡方型混合物的比例，我们采用Welch-Satterthwaite卡方近似的分布的分子和分母的F-型混合物，导致在近似F-分布的自由度可以一致地估计从数据。建立了所提出的F型检验的渐近功效。进行了两个模拟研究，他们表明，在尺寸控制方面，建议的F型测试优于现有的两个竞争对手。最后，通过一个实际数据实例说明了所提出的F型检验方法。
2022-12-27 math.ST stat.CO stat.TH
Holonomic gradient method for distribution function of a weighted sum of noncentral chi-square random variables
本文应用完整梯度法计算独立非中心卡方随机变量加权和的分布函数。它是多元正态随机向量长度平方的分布函数。我们把这个分布看作是Fisher-Bingham分布的归一化常数在单位球面上的积分，并利用Fisher-Bingham分布的偏微分方程。
2015-08-30 math.ST stat.TH
On Closed-Form Expressions for the Fisher-Rao Distance
本综述收集了离散和连续概率分布的Fisher-Rao距离闭式表达式，以统一语言呈现，并揭示了负多项式分布与双曲模型的关系，补充了新例子及椭圆分布的标准形式。
2024-09-07 cs.IT math.DG math.IT
Uniform moment bounds of Fisher's information with applications to time series
本文建立了Fisher信息矩阵的逆矩阵在参数空间上的一致矩界。这个结果，然后应用于开发的（非线性）随机回归模型的归一化最小二乘估计的矩界。使用时间序列模型说明这些结果的有用性。特别地，得到了自回归滑动平均模型中最小二乘预报器均方预报误差的渐近表达式。该渐近表达式为某些模型选择准则提供了坚实的理论基础。
2012-11-21 math.ST stat.TH
Fisher Information in Group-Type Models
在L_2-可微性的证明中，中心分布的Lebesgue密度往往从一开始就被假定。推广Huber[81]的定理4.2，我们证明了在光滑参数群模型类中，这些密度实际上是模型的有限Fisher信息的结果，只要使用后者的适当表示。证明使用了k维绝对连续性和弱可微性的概念。作为这个定理适用的例子，我们列出了一些模型，包括相关模型和一般的多变量位置和规模模型。作为这种方法的结果，我们表明，在（多变量）位置尺度模型，有限的Fisher信息，这里定义的实际上是等价于L_2-可微性和对数似然扩展给局部渐近正态性的模型。推广了Huber关于Fisher信息极小的存在唯一性的证明，得到了中心分布F的任意弱闭集上极小的存在性。如果除了类似于Huber[81]的假设之外，变换的某种可识别性条件成立，则我们得到极小元的唯一性。这个可识别性条件在多变量位置尺度模型中得到了满足。
2010-05-06 math.ST stat.TH
Bounds smaller than the Fisher information for generalized linear models
在本文中，我们提出了一个参数空间增强方法，是基于"故意"引入一个伪滋扰参数到广义线性模型的方差减少的目的。我们首先考虑范数等于1的参数。通过在待估计模型中引入伪冗余参数，使得额外的估计是渐近正态的，更重要的是，它与渐近达到Fisher/拟Fisher信息的估计是非正相关的。因此，所得到的估计是渐近的，具有比Fisher/准Fisher信息更小的方差-协方差阵。对于一般情况下，参数的范数不一定等于1，两阶段拟似然程序分别估计的标量和方向的参数。极限方差-协方差矩阵的迹一般小于或等于Fisher/拟Fisher信息的迹。我们还讨论了新方法的优点和缺点，以及可能的扩展。由于这种参数空间扩充的方法是通用的，因此可以容易地扩展以处理例如聚类数据和相关数据以及其他模型。
2010-07-21 math.ST stat.ME stat.TH
Relative Performance of Expected and Observed Fisher Information in Covariance Estimation for Maximum Likelihood Estimates
极大似然估计是统计推断中的一种常用方法。作为评价最大似然估计（MLE）精度的一种方法，MLE的协方差阵的计算在实际中有着重要的意义。标准统计理论表明，归一化的MLE是渐近正态分布的，协方差阵是未知参数处Fisher信息矩阵的倒数。最大似然估计的协方差的两个常用估计是观测到的协方差的倒数（与负对数似然的逆Hessian相同）和期望协方差的倒数（与逆Hessian相同）。观察到的和预期的两个参数都在MLE处从样本数据中进行评估。在这篇论文中，我们证明了，在合理的条件下，类似于标准的MLE条件下，逆期望的预测优于逆观测的预测下的均方误差准则。具体地说，在渐近意义上，逆期望误差（在MLE处评估）相对于真实协方差阵的均方误差并不比逆观测误差（在MLE处评估）更大。这一结果与普遍接受的结果不同，这些结果显示出对观察到的α的偏好。在本文中，我们提出了理论推导，导致上述结论。我们还提出了三个不同的问题，以支持理论结果的数值研究。本论文还包括两个附录的主题相关的随机系统。第一个附录讨论了同时扰动随机逼近（SPSA）算法的最优扰动分布。第二个附录考虑了当封闭形式无法达到时计算FIM的蒙特卡罗方法。
2013-05-05 math.ST stat.TH
Fisher Information and Differentiability for $r$-Largest Generalized Extreme-Value Models
Chonnam National University（全南国立大学）
该研究针对rGEV模型，证明其二次平均可微性阈值与块极大值一致，推导了Fisher信息性质，发现使用5个最大次序统计量可显著降低重尾情形下的参数估计标准误差。
2026-10-14 math.ST stat.ME stat.TH
Möbius transport on spheres
Universidad Carlos III de Madrid（马德里卡洛斯三世大学）；Institute of Statistical Mathematics（统计数学研究所）
该研究将默比乌斯变换与球面最优传输关联，推广出广义默比乌斯变换，构建的相关分布在古地磁方向和短周期彗星轨道建模中性能优于现有模型。
2026-08-03 math.ST stat.ME stat.TH
A Robertson-type Uncertainty Principle and Quantum Fisher Information
设$A_1,...,A_N$是复自伴矩阵，$ρ$是密度矩阵。Robertson不确定原理$$ det (Cov_ρ(A_h,A_j)) \geq det (- \frac{i}{2} Tr (ρ[A_h,A_j])) $$给出了量子广义协方差的一个关于量子化子$ [A_h,A_j]$的界。右侧矩阵是反对称的，因此在奇数情形$N=2m+1$中，界限是平凡的（等于零）。令$f$是任意归一化对称算子单调函数，并令$<\cdot, \cdot >_{ρ,f}$是相关的量子费舍尔信息。本文证明了不等式$$ det (Cov_ρ(A_h,A_j)) \geq det (\frac{f(0)}{2} < i[ρ, A_h],i[ρ,A_j] >_{ρ,f}) $$，它给出了任何$N \in {\mathbb N}$的一个非平凡界，并使用了分解子$[ρ,A_h]$ .
2007-07-09 math-ph math.MP math.ST
Fisher information in quantum statistics
Braunstein和Caves（1994）建议使用Helstrom的{ \em量子信息}数来定义一个有意义的度量，度量是关于一个给定量子系统的所有可能态的集合。他们指出，量子信息只不过是量子系统测量中的最大费雪信息，在所有可能的测量中最大化。结合这一事实和经典的统计结果，他们认为量子信息决定了渐近最优的速率，在这个速率下，可以基于对给定量子系统的$n$相同副本的任意测量来区分某些光滑曲线上的相邻状态。我们表明，最大限度地提高费舍尔信息的测量通常取决于真实的，未知的，量子系统的状态。我们关闭由此产生的漏洞的论点表明，一个仍然可以实现相同的，最佳的，率的可扩展性，由两个阶段的自适应测量程序。当我们考虑状态不在光滑曲线上，而是在高维流形上时，情况变得复杂得多。我们表明，“邻近状态的可测量性”的概念强烈依赖于测量资源允许自己，并进一步规范手头的任务。量子信息矩阵似乎不再扮演核心角色。
2000-02-23 math.ST quant-ph stat.TH
Ultimate limit on learning non-Markovian behavior: Fisher information rate and excess information
Beyond Institute for Theoretical Science（超越理论科学研究所）
该研究推导了从时间序列学习随机过程参数的基本极限，给出非马尔可夫过程下Fisher信息率的闭式解及模型方差下界，揭示信息率收敛的弛豫时间尺度与熵率的一致性。
2023-10-06 cs.LG math.ST physics.data-an
A volume inequality for quantum Fisher information and the uncertainty principle
设$A_1,...,A_N$为复自伴矩阵，$ρ$为密度矩阵。Robertson不确定原理$$ det(Cov_ρ(A_h,A_j)) \geq det(- \frac{i}{2} Tr(ρ[A_h,A_j])) $$给出了量子广义协方差的一个关于量子化子$[A_h,A_j]$的界。右侧矩阵是反对称的，因此在奇数情形$N=2m+1$中，界限是平凡的（等于零）。令$f$是任意归一化对称算子单调函数，并令$<\cdot, \cdot >_{ρ,f}$是相关的量子费舍尔信息。本文猜想一个不等式$$ det (Cov_ρ(A_h,A_j)) \geq det (\frac{f(0)}{2} < i[ρ, A_h],i[ρ,A_j] >_{ρ,f}) $$，它利用$i[ρ, A_h]$给出了任意自然数$N$的一个非平凡界。这个不等式已在$N=1,2$情形下得到证明.本文证明了实矩阵N=3的情况。
2007-06-06 math-ph math.MP math.ST
