An inverse Sanov theorem for exponential families
我们证明了大偏差原则（LDP）的后验分布所产生的子族的全指数家庭，允许错误指定的模型。此外，由所谓的逆Sanov定理（见例如Ganesh和O 'Connell 1999和2000）的动机，我们证明了相应的最大似然估计的LDP，我们研究率函数之间的关系。在我们的设置中，即使在非错误指定的情况下，一般来说，后验分布和最大似然估计的率函数是交换参数的Kullback-Leibler发散也是不正确的。
2022-06-16 math.PR math.ST stat.TH
Maximum likelihood estimation for discrete exponential families and random graphs
我们刻画了离散指数族极大似然估计的存在性。我们的标准是简单的应用，因为我们在各种设置，最显着的指数模型的随机图。作为应用，我们指出了独立同分布样本的极大似然估计以高概率存在的大小。
2021-02-21 math.CO math.PR math.ST
Shrinkage Estimation for the Diagonal Multivariate Exponential Families
研究了一类协协方差阵的对角元是均值参数的某个二次函数的多元分布均值参数的收缩估计。这类分布包括对角多元自然指数族。我们提出了两类半参数收缩估计的均值和相应的风险构造无偏估计。我们建立了这些收缩估计的渐近一致性和收敛速度下的平方误差损失的$n$，样本量，和$p$，尺寸，趋于无穷大。接下来，我们将这些结果专门用于对角多元自然指数族，这些自然指数族已被分类为由正态分布、泊松分布、伽玛分布、多项式分布、负多项式分布和混合分布组成。我们建立了我们的估计的一致性，在正常的，伽玛，负多项式的情况下，条件是$p n^{-1/3} (\log{n})^{4/3} \to 0$，并在泊松和多项式的情况下，如果$p n^{-1/2} \to 0$，作为$n,p \to \infty$。模拟研究提供了我们的估计的性能进行评估，我们说明，在伽马和泊松的情况下，我们的估计实现比最大似然估计的风险更低，从而证明了我们的估计的优越性，在最大似然估计。
2022-07-01 math.ST stat.TH
Statistical Inference and Exact Saddle Point Approximations
统计推断可以遵循频率论方法，或者可以遵循贝叶斯方法，或者可以使用最小描述长度原则（MDL）。我们的目标是确定这些不同的统计推断方法一致的情况。证明了对于指数族，MDL和贝叶斯推论一致的充要条件是共轭指数族的重整化鞍点逼近是精确的。对于一维指数族，唯一具有精确重整化鞍点近似的族是高斯位置族、Gamma族和逆高斯族。它们是高斯位置族、Gamma族和泊松指数族的共轭族。前两个家族是自共轭的，这意味着只有对于前两个家族，贝叶斯方法与频率论方法是一致的。在更高的维度中，有更多的例子。
2018-05-06 cs.IT math.IT math.ST
Locally associated graphical models and mixed convex exponential families
多元总正性的概念已被证明在金融和心理学中是有用的，但在其他应用中可能过于局限。在本文中，我们提出了一个概念的局部关联，其中高度连接的组件在一个图形模型是积极的关联，并研究其性质。我们的主要动机来自基因表达数据，其中图形模型已成为一种流行的探索工具。该模型的实例，我们称之为混合凸指数家庭，我们表明，混合双似然估计具有简单的确切性质，这样的家庭以及渐近性质类似的极大似然估计。我们进一步放宽了积极性假设，惩罚负的偏相关性，我们称之为积极的图形套索。最后，我们开发了一个基于块坐标下降的GOLAZO算法，该算法适用于图形模型中出现的一些优化过程，包括上述估计问题。我们得到的结果存在的最佳这类问题。
2022-02-09 math.ST stat.ME stat.TH
Chentsov's theorem for exponential families
Chentsov定理将统计模型上的Fisher信息度量刻画为在充分统计量下唯一不变的黎曼度量。这意味着每个统计模型都自然地配备了一个几何形状，因此Chentsov定理解释了为什么许多统计特性可以用几何术语来描述。然而，尽管是统计学的基础定理之一，但陈佐夫定理以前只在非常有限的设置或相对较强的正则性和不变性假设下被证明。因此，我们证明了一个版本的这个定理的重要情况下，指数家庭。特别是，我们将Fisher信息度量作为指数族及其衍生族上唯一的黎曼度量（直到重新标度），该指数族及其衍生族在独立同分布扩展和规范充分统计量下不变。我们的方法是基于中心极限定理，所以它给出了一个统一的证明离散和连续的指数族，它是比以前的方法较少的技术。
2017-05-22 cs.IT math.DG math.IT
Inference on a class of exponential families on permutations
本文研究排列上包含Mallows模型的指数族，证明了自然参数伪似然估计量的渐近正态性并构建置信区间，同时证明MLE的一致性，且在原点处两者渐近方差相同。
2023-04-08 math.PR math.ST stat.TH
Estimation in Functional Regression for General Exponential Families
研究了一类指数族模型，其标准参数被指定为未知的无穷维斜率函数的线性泛函。建立了斜率函数估计的最优极小极大收敛速度。通过参数的约束极大似然估计构造了达到最优速率的估计量，参数的维数随着样本量的增加而增加。受Le Cam的渐近等价理论的启发，我们使用了一个度量变化的参数来消除指数族模型的非线性所引起的偏差。
2011-08-17 math.FA math.PR math.ST
Estimation in functional regression for general exponential families
研究了一类指数族模型，其标准参数被指定为未知的无穷维斜率函数的线性泛函。建立了斜率函数估计的最优极小极大收敛速度。通过参数的约束极大似然估计构造了达到最优速率的估计量，参数的维数随着样本量的增加而增加。受Le Cam的渐近等价理论的启发，我们采用了测度变化的方法来消除指数族模型的非线性所引起的偏差。
2013-02-13 math.PR math.ST stat.ME
SMML estimators for exponential families with continuous sufficient statistics
最小信息长度原则是一个信息论准则，它将数据压缩与统计推断联系起来。本文研究了$d$维指数族具有连续充分统计量的严格最小消息长度（SMML）估计，对所有$d \ge 1$ . SMML估计的分区示出由凸多面体（即凸多边形时，$d=2$），可以明确地描述的断言和编码概率。虽然这个结果是已知的，我们给出了一个新的证明的基础上变分法，这种方法给出了一些有趣的新的不等式SMML估计。我们也使用这个结果来构建一个SMML估计的$2$维正态随机变量与已知的方差和一个正常的前其均值。
2014-03-21 cs.IT math.IT math.ST
On the Geometry of Discrete Exponential Families with Application to Exponential Random Graph Models
对用于分析网络数据的统计模型的兴趣激增，并且对指数随机图（ERG）模型类的兴趣相当大，特别是与计算最大似然估计的困难有关。与这些困难相关的问题涉及到离散指数族的更广泛的结构。本文分两部分重新审视这一问题。首先研究了$k$维指数分布族在离散基测度和多面体凸支撑$\mathrm{P}$下的闭包。我们表明，正常风扇的$\mathrm{P}$是一个几何对象，在推导相应的扩展指数族的统计和几何性质中起着根本性的作用。我们讨论了它的相关性极大似然估计，无论是从理论和计算的角度来看。其次，我们将我们的结果应用到ERG模型的分析。特别是，通过一个详细的例子，我们提供了一些特性的ERG模型，特别是某些行为的ERG模型被称为退化。
2008-12-30 stat.ML
Minimum divergence estimators, maximum likelihood and exponential families
本文证明了参数模型中两个分布之间散度的对偶表示公式。由此产生的参数的发散估计。这些估计量不使用任何分组或平滑。证明了在任意正则指数族上，所有的可微发散都导出了参数的相同估计，这就是极大似然估计。
2011-08-20 stat.ME
Estimating Densities with Non-Parametric Exponential Families
Purdue University（普渡大学）
我们提出了一种新的方法，密度估计与指数家庭的情况下，真密度可能不属于所选择的家庭。我们的方法增加了充分统计量的功能，旨在积累概率质量的观察点附近，从而在一个非参数模型类似于核密度估计。我们表明，在温和的条件下，所得到的模型只使用充分统计量，如果密度是在所选择的指数族，渐近，它近似的密度以外的所选择的指数族。使用所提出的方法，我们修改了指数随机图模型，通常用于建模小尺寸的图形分布，以解决众所周知的问题模型退化。
2012-09-06 cs.LG stat.ML
Likelihood Ratio Exponential Families
USC Information Sciences Institute（南加州大学信息科学研究所）；Sony CSL（索尼计算机科学实验室）；University of Toronto（多伦多大学）；Vector Institute（向量研究所）
指数族在机器学习和统计物理学中是众所周知的，因为最大熵分布受到一组观察到的约束，而几何混合路径在MCMC方法中很常见，例如退火重要性采样。结合这两个想法，最近的工作已经解释了几何混合路径作为一个指数族的分布来分析热力学变分目标（TVO）。我们扩展这些似然比指数的家庭，包括率失真（RD）优化，信息瓶颈（IB）的方法，并结合RD和IB最近的率失真分类方法的解决方案。这为通过指数族的共轭对偶和假设检验来理解这些方法提供了一个通用的数学框架。此外，我们收集现有的结果，以提供一个变分表示中间RD或TVO分布作为一个最小化的期望KL分歧。该解决方案也对应于使用似然比检验和奈曼皮尔逊引理的大小功率权衡。在热力学积分界限，如TVO，我们确定的中间分布，其预期的充分的统计匹配的日志分配函数。
2021-01-15 cs.IT cs.LG math.IT
Distributed Estimation, Information Loss and Exponential Families
以最少的通信从多个数据存储库中分布式学习概率模型越来越重要。我们研究了一个简单的通信有效的学习框架，首先计算本地最大似然估计（MLE）的基础上的数据子集，然后结合本地MLE，以实现最佳的近似全局MLE给定的整个数据集。我们研究了这个框架的统计特性，表明效率损失与全局设置相比，与底层分布族偏离全指数族的程度有关，与Fisher，Rao和Efron的信息损失理论相联系。我们表明，“全指数族”代表的错误率的下限的任意组合的本地MLE，并实现了KL-发散为基础的组合方法，但不是由一个更常见的线性组合方法。我们还研究了这两种方法的经验性质，表明KL方法在实际环境中的性能显着优于线性组合，如模型误指定，非凸性和异构数据分区等问题。
2014-10-09 stat.ML
Iterative Scaling in Curved Exponential Families
本文提出了一种广义迭代比例拟合方法，可用于一般对数线性模型中一类特殊模型的极大似然估计。这类模型称为关系模型，适用于不一定具有笛卡尔乘积结构且可能不包含整体效应的多变量离散样本空间。当应用于细胞概率时，没有总体效应的模型是弯曲指数族，并且充分统计量的值仅在比例常数下由MLE再现。本文表明，迭代比例拟合，广义迭代尺度和改进的迭代尺度，不适用于这类模型。这里提出的算法是基于迭代Bregman投影。作为副产品，乘法参数的估计也得到了。
2014-03-29 stat.CO stat.ME
Semiparametric Exponential Families for Heavy-Tailed Data
我们提出了一个半参数方法来拟合一个重尾人口的尾巴，从人口中的一个相对较小的样本和一个较大的样本从相关的背景人口。我们使用一个强大的充分统计量极值理论的动机，作为一个指数倾斜的小样本的尾巴观察到的大样本的尾巴。特别是，我们的方法诱导估计的小人口的平均值，我们给出了理论和经验证据表明，这种估计优于不使用背景样本的方法。我们在模拟和Facebook进行的大型对照实验的数据上证明了与竞争方法相比的显著效率提高。
2014-10-19 stat.ME
Noise-Calibrated Inference from Differentially Private Sufficient Statistics in Exponential Families
Department of Biostatistics, Vanderbilt University Medical Center（生物统计学系，范德比尔特大学医学中心）
本文提出通过发布差分隐私充分统计量并进行噪声校准推断，解决DP数据发布中的校准问题，提供理论支持和实际应用验证。
2026-03-02 cs.LG stat.ML
Targeted Maximum Likelihood Estimation using Exponential Families
目标极大似然估计（TMLE）是半参数和非参数模型参数估计的一种常用方法。TMLE的每次迭代涉及拟合以感兴趣的参数为目标的参数子模型。我们研究使用指数族来定义参数子模型。TMLE的这种实现给出了一种估计非参数模型中任何光滑参数的一般方法。该方法的计算优点在于TMLE的每次迭代涉及指数族中的参数的估计，这是凸优化问题，对于该凸优化问题存在实现可靠且计算高效的方法的软件。我们说明了三个估计问题的方法，涉及的结果随机缺失的平均值，中位数回归模型的参数，和连续曝光的因果关系，分别。我们进行了一个模拟研究，比较不同的选择参数子模型，集中在这些问题的第一个。据我们所知，这是第一次研究调查的鲁棒性TMLE不同规格的参数子模型。我们发现，子模型的选择可以有一个重要的影响有限样本中的估计的行为。
2014-06-02 stat.ME
Statistical Inference for Bayesian Risk Minimization via Exponentially Tilted Empirical Likelihood
著名的Bernstein von-Mises定理确保了当模型被正确指定时，贝叶斯后验的可信区域被很好地校准，在频率论意义上，随着数据的积累，它们的覆盖概率趋于标称值。然而，众所周知，当模型被错误指定或仅部分指定时，这种传统的贝叶斯框架缺乏鲁棒性，例如在分位数回归、基于风险最小化的监督/无监督学习和稳健估计中。为了克服这个困难，我们提出了一个新的贝叶斯推理方法，取代（错误指定或部分指定）的似然与适当的指数倾斜的经验似然加上正则化项。我们的代理经验似然精心构造使用的一阶最优性条件的经验风险最小化的矩条件。我们表明，贝叶斯后验组合这种替代经验似然和先验是渐近接近的正态分布集中在经验风险最小化的协方差阵采取适当的三明治形式。因此，所得到的贝叶斯可信区域被自动校准，以提供有效的不确定性量化。在计算上，所提出的方法可以很容易地实现马尔可夫链蒙特卡罗采样算法。我们的数值结果表明，所提出的方法往往比现有的国家的最先进的竞争对手更准确。
2021-09-16 stat.ME
On a method to construct exponential families by representation theory
RIKEN Center for Advanced Intelligence Project（理化学研究所先进智能项目中心）；Keio University（庆应义塾大学）；The University of Tokyo（东京大学）
指数族在信息几何中占有重要地位。在arXiv：1811.01394中，我们介绍了一种从一对$(V,v_0)$在齐次空间$G/H$上构造指数族$\mathcal{P}=\{p_θ\}_{θ\inΘ}$的方法。这里，$V$是$G$的表示，而$v_0$是$V$中的$H$固定载体.那么下面的问题自然会出现：（Q1）什么时候对应$θ\mapsto p_θ$是内射的？(Q2)什么时候不同的对$(V,v_0)$和$(V',v_0')$生成相同的族？在本文中，我们回答了这两个问题（定理1和2）。此外，在第3节中，我们考虑了在$\mathbb{R}^2$上具有某种表示的情况$(G,H)=(\mathbb{R}_{>0}, \{1\})$。然后，我们看到由我们的方法得到的家庭本质上是广义逆高斯分布（GIG）。
2019-07-06 cs.LG math.RT stat.ML
Lost in Retraining: Roaming the Parameter Space of Exponential Families Under Closed-Loop Learning
Kavli Institute for Systems Neuroscience, NTNU, Trondheim, Norway；ICTP- International Centre for Theoretical Physics, Trieste, Italy；Department of Mathematics, King's College London, London, UK
本文研究指数族模型在闭环学习下的参数演化，证明最大似然估计导致收敛到放大初始偏差的吸收态，但通过最大后验估计或正则化可避免此结果。
2025-07-09 cond-mat.dis-nn cs.LG physics.data-an
Approximation Operators, Exponential, q-Exponential, and Free Exponential Families
使用逼近论中开发的技术，我们构建的例子，指数家庭的无限可分的法律，可以被视为变形的正常，伽玛，和泊松指数家庭。用一个q-微分方程代替逼近论中的微分方程，定义了q-指数族，并证明了当|q| <1时所有具有二次方差函数的q-指数族.我们详细讨论了q=0的情形，它与测度的自由测度卷积有关。最后，我们简要地考虑q>1的情况和其他相关的推广。
2005-12-11 math.ST stat.TH
Dropout Regularization in Extended Generalized Linear Models based on Double Exponential Families
University of Hamburg（汉堡大学）；National University of Singapore（新加坡国立大学）；Technische Universität Dortmund（多特蒙德工业大学）；Research Center Trustworthy Data Science and Security（可信数据科学与安全研究中心）
本文研究基于双指数族的扩展广义线性模型中的Dropout正则化，理论证明其偏好稀有重要特征，并应用于B样条自适应平滑，实验表明优于惩罚最大似然方法。
2024-07-28 cs.LG stat.ML
Optimally approximating exponential families
本文研究有限集上的指数族$\mathcal{E}$，使得任意概率分布与$\mathcal{E}$的信息散度$D(P\|\mathcal{E})$受某个常数$D>0$限制.具有低的$D$值的特定类别的低维指数族可以从状态空间的分区获得。主要结果涉及这些分区指数族的最优性性质。详细研究了$D=\log(2)$的指数族。这种情况是特殊的，因为如果$D<\log(2)$，则$\mathcal{E}$包含具有完全支持的所有概率测度。
2011-11-02 math.ST stat.TH
Applications of Structural Statistics: Geometric Inference in Exponential Families
指数族包括一大类统计模型和参数族，如正态分布、二项分布、Γ分布或指数分布。因此，它的概率分布的形式表示诱导一个有限的内在结构，这似乎是一个双平坦的统计流形。相反，可以证明，任何由正则Bregman发散给出的对偶平坦统计流形唯一地诱导出正则指数族，使得指数族可以-在某些限制下-被视为对偶平坦统计流形的普适表示。本文从结构分层学的角度，对甘利俊一关于指数族的内禀结构的开创性工作进行了评述。
2020-06-20 math.ST stat.TH
Equivalence on exponential families as Hessian manifolds and classification of exponential families of order 1 with constant Hessian sectional curvature
Tokai University（东海大学）；The University of Tokyo（东京大学）
本文在指数族上定义等价关系，证明其等价于诱导Hessian流形同构，并分类具有常Hessian截面曲率的一阶指数族，其分类与Morris的NEF-QVF分类一致。
2026-09-15 math.DG math.ST stat.TH
Bivariate natural exponential families with quadratic diagonal of the variance function
我们刻画了二元自然指数族的对角线的方差函数的形式\[ \textrm{diag} V(m_1,m_2)=\left(Am_1^2+am_1+bm_2+e,Am_2^2+cm_1+dm_2+f\right), \]与$A<0$和$a,\ldots,f\in\mathbb{R}$。问题的解决依赖于找到的条件下，一个特定的参数家庭的功能组成的拉普拉斯变换的一些概率测度。
2015-04-20 math.ST stat.TH
Local mixture models of exponential families
指数族是参数建模理论的主力。它们受欢迎的一个原因是它们的相关推理理论，无论从理论还是计算的角度来看，都非常清晰。这套工具可以以自然和可解释的方式丰富的一种方式是通过混合。本文发展了局部混合模型的思想，并将其应用于指数族。这表明，高度可解释性和灵活的模型，其结果有足够的结构，以保持有吸引力的指数族的推理性质。特别地，证明了似然的识别、参数正交性和对数相关性的结果。
2007-09-04 math.ST stat.TH
Free Exponential Families as Kernel Families
自由指数族以前曾作为q-指数族的一个特例被引入。我们表明，自由指数家庭也出现从一个类似的过程中定义的指数家庭使用的Cauchy-Stieltjes内核，而不是指数内核。我们使用这种方法来重新推导出几个已知的结果，并进一步研究与指数家庭和生殖指数模型的相似之处。
2009-04-28 math.OA math.PR math.ST
Support Sets in Exponential Families and Oriented Matroid Theory
一个离散指数族的封闭性由一个有限的方程组来描述，该方程组对应于一个潜在的定向拟阵的回路。这些方程类似于代数统计中使用的方程，尽管它们在一般情况下不需要是多项式。这种描述允许在指数族的封闭中的可能的支持集的组合研究。如果两个指数族诱导相同的定向拟阵，则它们的闭包具有相同的支撑集。此外，正上回路给出了指数族闭包的参数化。
2011-09-16 math.ST stat.TH
Aggregation by exponential weighting, sharp PAC-Bayesian bounds and sparsity
研究了确定性设计回归模型中平方损失下的聚集问题。我们得到尖锐的PAC贝叶斯风险界定义通过指数权重的聚集，在一般假设下的分布误差和聚集的功能。然后，我们应用这些结果来推导稀疏预言不等式。
2013-03-22 math.ST stat.TH
Bayesian estimation of a competing risk model based on Weibull and exponential distributions under right censored data
本文研究了基于Weibull分布递减故障率和指数分布常数故障率的竞争风险模型在右删失数据下未知参数的似然估计。
2021-01-10 math.ST stat.TH
Both necessary and sufficient conditions for Bayesian exponential consistency
在过去的十年中，贝叶斯非参数过程的渐近理论有了显著的发展。指数一致性在这方面发挥了重要作用。已知$f_0$在先验的Kullback-Leibler支持下的条件不能保证后验的指数一致性。许多作者得到了后验的指数相合性的额外充分条件，例如，参见Schwartz（1965），Barron，Schervish and Wasserman（1999），Ghosal，Ghosh and Ramamoorthi（1999），Walker（2004），Xing and Ranneby（2008）。然而，由于Kullback-Leibler支持条件，很少知道的充要条件和充分条件。本文给出了一类既有充要条件。作为结果，我们得到了一个简单的贝叶斯指数一致性的充分条件，这是弱于以前的充分条件。
2008-12-05 math.ST stat.TH
Unbiased estimation in one-parameter exponential families for the inverse of the natural parameter with extensions
本文研究单参数连续指数族中自然参数倒数的无偏估计，给出多类模型应用，并推广至负幂及完全单调函数的估计。
2025-07-24 math.ST stat.TH
Bayes Extended Estimators for Curved Exponential Families
贝叶斯预测密度具有复杂的表示形式，除了在有限的情况下，不属于任何有限维统计模型。在本文中，我们介绍了它的简单的近似表示利用其投影到一个有限维指数族。当模型属于曲线指数族时，它的理论性质与贝叶斯预测密度的理论性质相似。它还表明，投影渐近一致的插件密度与后验均值的期望参数的指数族，我们称之为贝叶斯扩展估计。信息几何对应表明贝叶斯预测密度可以表示为无穷维指数族的后验均值。通过数值模拟证明了该近似的Kullback-Leibler风险性能，并表明随着指数族维数的增加，期望参数的后验均值逼近贝叶斯预测密度。它还表明，近似投影到一个指数家庭的合理规模是实际上有利的风险性能和计算成本。
2020-10-29 math.ST stat.TH
A note on the geometry of the MAP partition in Conjugate Exponential Bayesian Mixture Models
本文研究了贝叶斯混合模型中最大后验概率（MAP）划分的几何性质，其中成分分布和基分布都是从共轭指数族中选取的。我们证明，在这种情况下，集群分离的轮廓线的线性泛函的充分统计量。作为一个特定的例子，我们描述了贝叶斯混合正态分布与正态-逆-Wishart之前的组件的平均值和协方差，其中集群在任何MAP分区分离的二次曲面。结合Rajkowski（2018）的结果，其中证明了具有固定分量协方差阵的贝叶斯混合模型中聚类的线性可分性，它给出了Fisher判别分析（LDA和QDA）几何特性的很好的贝叶斯模拟。
2019-06-24 math.ST stat.TH
Cumulative distribution functions for the five simplest natural exponential families
设$X_a$的分布属于集中在非负整数上的自然指数族，且满足$\E(z^{X_a})=f(az)/f(a)$ .假设$\Pr(X_a\leq k)$有$c_k\int_a ^{\infty}u^kμ(du)$的形式，对于某个数$c_k$和某个正测度$μ,$，它们都独立于$a.$。接下来，我们研究了连续分布的一个类似性质，我们发现它是满足的，当且仅当家庭是高斯或伽玛。最终，证明依赖于这样的事实，即只有Moebius函数保持交比，\textsc{Keywords:}二项分布，泊松和负二项分布。高斯分布和伽玛分布。莫比乌斯变换。交叉比率。
2018-07-30 math.ST stat.TH
Estimators, escort probabilities, and phi-exponential families in statistical physics
将Cramer和Rao的下界推广到两个概率分布族，其中一个族是护送到另一个族的.这个界对于某些族是最优的，在本文中称为φ指数。对它们的二元结构进行了探讨。
2004-02-04 math-ph math.MP math.ST
Nonparametric regression in exponential families
非参数回归理论中的大多数结果都是针对加性噪声的情况而得到的。在这样的设置中，许多平滑技术，包括小波阈值方法已被开发，并显示出高度自适应。在本文中，我们考虑指数族中的非参数回归，主要集中在具有二次方差函数的自然指数族，其中包括，例如，泊松回归，二项式回归和伽玛回归。本文提出了一种统一的方法，利用均值匹配方差稳定化变换，将指数族中相对复杂的非参数回归问题转化为标准的同方差高斯回归问题。然后，原则上任何好的非参数高斯回归程序都可以应用于转换后的数据。为了说明我们的一般方法，在本文中，我们使用小波块阈值构造的回归函数的最终估计。这些程序很容易实施。估计的理论和数值性质进行了研究。估计享有高度的自适应性和空间自适应性与近最佳的渐近性能在广泛的Besov空间。估计器在数值上也表现良好。
2010-10-19 math.ST stat.TH
Exponential two-armed bandit problem
研究了收益服从指数分布密度的指数型双臂强盗问题。我们发展了贝叶斯方法，并给出了确定贝叶斯策略和贝叶斯风险的递归方程。在控制时域趋于无穷大的极限情形下，得到了“闭分布”区域内的二阶偏微分方程。并与高斯双臂强盗模型进行了比较。事实证明，指数型和高斯型双臂强盗在极限情况下具有相同的描述。由于高斯双臂强盗描述了批处理，这意味着在指数双臂强盗的情况下，批处理与一个接一个的最佳处理相比不会扩大贝叶斯风险，因为处理的数据项的总数趋于无穷大。
2019-08-15 math.ST stat.TH
A method to construct exponential families by representation theory
RIKEN Center for Advanced Intelligence Project（理化学研究所先进智能项目中心）；The University of Tokyo（东京大学）
本文用表示论给出了一种系统地构造“好”指数族的方法。更准确地说，我们考虑齐性空间$G/H$作为一个样本空间，并通过使用$G$的表示来构造变换群$G$下的指数族不变量。该方法生成广泛使用的指数族，如正常，伽玛，伯努利，分类，Wishart，冯米塞斯，费舍尔-宾汉和双曲面分布。
2022-10-13 cs.LG math.PR math.ST
General dependence structures for some models based on exponential families with quadratic variance functions
我们描述了一个过程，介绍一般的依赖结构的一组随机变量。这些包括顺序- $q$移动平均型结构，以及季节，周期，空间和时空依赖性。不变的边缘分布可以是任何与具有二次方差函数的指数族共轭的族。依赖性是通过一组合适的潜变量诱导的，其条件分布反映了此类指数族的贝叶斯共轭分析中的抽样分布。我们得到严格平稳性作为一个特殊情况。
2021-10-14 math.ST stat.ME stat.TH
Wishart exponential families on cones related to An graphs
设G = An是高斯特征中最近邻相互作用的图形模型所对应的图形。本文研究了凸锥QG和PG上Wishart分布的自然指数族（NEF），其中PG是具有强制零点的正定实对称矩阵的锥，QG是PG的对偶锥.我们构造的Wishart NEF包含了Lauritzen（1996）和Letac and Massam（2007）在基于可分解图模型中所考虑的Wishart分布.然而，我们的方法是不同的，并允许我们研究的基本对象ofWishartNEF锥QG和PG。我们确定Riesz措施产生Wishartindex家庭QG和PG，我们给这些Riesz措施和指数家庭的二次建设。研究了均值、逆均值、协方差、方差函数及高阶矩，给出了它们的显式表达式。
2017-02-14 math.PR math.ST stat.TH
Posteriors, conjugacy, and exponential families for completely random measures
我们演示了如何计算后验一般CRM为基础的先验和似然贝叶斯非参数模型。我们进一步展示了如何表示贝叶斯非参数先验作为一个序列的有限提请使用大小偏置的方法-以及如何表示完整的贝叶斯非参数模型通过有限的边际。出于共轭先验的基础上指数族表示的可能性，我们引入了一个概念的指数族标准物质，我们称之为指数标准物质。这种结构使我们能够指定自动贝叶斯非参数共轭先验指数CRM似然。我们证明，我们的指数标准物质允许特别简单的配方贝叶斯非参数模型的大小偏置和边际表示。一路上，我们证明了伽玛过程是一个共轭先验的泊松似然过程和β素数过程是一个共轭先验的过程，我们称之为赔率伯努利过程。我们提供了一个大小偏置的伽玛过程和伽玛过程的边缘表示加上泊松似然过程。
2016-04-22 math.ST stat.ME stat.TH
Laws of thermodynamics for exponential families
本文将热力学定律推广到一般指数族，通过最大熵与统计力学框架连接学习问题，为功、热、热力学循环及能量均分提供统计学对应，并用于量化分布偏移。
2025-01-03 cond-mat.stat-mech cs.LG math.ST
Characterization of Exponential Families of Lumpable Stochastic Matrices
本文研究了可简化转移矩阵构成指数族的条件，提出了一种基于维度的高效验证方法。
2025-11-26 cs.IT math.IT math.PR
Optimal variable acceptance sampling plan for exponential distribution using Bayesian estimate under Type I hybrid censoring
本文针对指数寿命产品在I型混合截尾下，提出基于贝叶斯估计的变量验收抽样方案，通过平方误差损失和Linex损失函数优化检验成本，实验表明其期望成本显著低于传统最大似然估计方案。
2023-11-28 math.ST stat.TH
Objective Bayesian analysis for the generalized exponential distribution
本文针对广义指数分布提出基于独立 Jeffreys 先验的客观贝叶斯推断，验证后验适定性，并通过广义均匀比抽样算法进行高效后验推断，模拟和真实数据验证了方法表现。
2023-09-23 math.ST stat.ME stat.TH
Increasing hazard rate of mixtures for natural exponential families
危险率在各个领域发挥着重要作用，例如，可靠性理论、生存分析、生物统计学、排队论和精算学。分布的混合也是一个很大的优势，在这样的地区，因为大多数人口的组成部分确实是异质的。在这项研究中，我们提出了一个充分条件的混合物的两个元素的同一自然指数族（NEF）有一个增加的危险率。然后，我们将这个条件应用到一些经典的NEF的具有二次或三次方差函数（VF）和其他。特别注意的是专门用于双曲余弦NEF具有二次VF，Ressel NEF具有三次VF和库默尔分布的2型NEF。这种充分条件的应用是相当复杂和麻烦的，特别是当应用于后三个NEF时。然后需要各种引理和命题来验证这些NEF的这个条件。
2010-04-24 math.ST stat.TH
Can we trust Bayesian uncertainty quantification from Gaussian process priors with squared exponential covariance kernel?
研究了具有平方指数协方差核的高斯过程先验的可信集的频率覆盖性质。首先，我们表明，通过选择缩放超参数使用最大边际似然估计（略有修改）平方指数协方差内核的相应的可信集将提供过度自信，误导性的不确定性声明的一个大的，有代表性的子类的功能参数的背景下的高斯白噪声模型。然后我们证明了，无论是用对数因子爆破可信集，还是用对数项修正极大边际似然估计，在一定的附加约束下，都可以得到可靠的不确定性陈述和可信集的自适应大小。最后，我们证明了一个数值研究，推导出的负面和正面的结果超出了高斯白噪声模型的非参数回归和分类模型的小样本量以及。
2019-04-02 math.ST stat.TH
Mixture decompositions of exponential families using a decomposition of their sample spaces
我们研究的问题，找到最小的$m$，使每个元素的指数家庭可以被写入的混合物的$m$元素的另一个指数家庭。我们提出了一种基于相应凸支撑多面体的面格的覆盖和填充以及编码理论的结果的方法。我们表明，$m=q^{N-1}$是最小的数，任何分布的$N$ $q$ -ary变量可以写为混合物的$m$独立$q$ -ary变量。此外，我们表明，任何分布的$N$二进制变量是一个混合物的$m = 2^{N-(k+1)}(1+ 1/(2^k-1))$元素的$k$相互作用指数家庭。
2013-02-25 math.ST stat.ML stat.TH
The RKHS Approach to Minimum Variance Estimation Revisited: Variance Bounds, Sufficient Statistics, and Exponential Families
再生核希尔伯特空间（RKHS）的数学理论为最小方差估计（MVE）问题提供了强有力的工具。在这里，我们扩展了经典的RKHS为基础的分析MVE在几个方向。我们开发了一个几何公式的五个已知的下界的估计方差（Barankin界，Cramer-Rao界，约束Cramer-Rao界，Bhattacharyya界，Hammersley-Chapman-Robbins界）的正交投影到一个子空间的RKHS与一个给定的MVE问题。我们表明，在温和的条件下，Barankin界（估计方差的最紧可能的下界）是参数向量的下连续函数。我们还表明，RKHS与MVE问题保持不变，如果观察是由一个充分统计量取代。最后，对于符合指数型分布族的MVE问题，我们推导出新的封闭形式的估计方差的下界，并表明，减少参数集的最小可实现的方差不变。
2013-11-26 math.ST stat.TH
Convergence and asymptotic normality of variational Bayesian approximations for exponential family models with missing values
研究了缺失值指数族模型变分Bayes逼近的性质。证明了当样本量变大时，变分贝叶斯估计的迭代算法以概率1局部收敛于真值。证明了变分后验分布是渐近正态的。
2012-07-11 math.ST stat.CO stat.ME
