Support Sets in Exponential Families and Oriented Matroid Theory
一个离散指数族的封闭性由一个有限的方程组来描述，该方程组对应于一个潜在的定向拟阵的回路。这些方程类似于代数统计中使用的方程，尽管它们在一般情况下不需要是多项式。这种描述允许在指数族的封闭中的可能的支持集的组合研究。如果两个指数族诱导相同的定向拟阵，则它们的闭包具有相同的支撑集。此外，正上回路给出了指数族闭包的参数化。
2011-09-16 math.ST stat.TH
Unbiased estimation in one-parameter exponential families for the inverse of the natural parameter with extensions
本文研究单参数连续指数族中自然参数倒数的无偏估计，给出多类模型应用，并推广至负幂及完全单调函数的估计。
2025-07-24 math.ST stat.TH
Bayes Extended Estimators for Curved Exponential Families
贝叶斯预测密度具有复杂的表示形式，除了在有限的情况下，不属于任何有限维统计模型。在本文中，我们介绍了它的简单的近似表示利用其投影到一个有限维指数族。当模型属于曲线指数族时，它的理论性质与贝叶斯预测密度的理论性质相似。它还表明，投影渐近一致的插件密度与后验均值的期望参数的指数族，我们称之为贝叶斯扩展估计。信息几何对应表明贝叶斯预测密度可以表示为无穷维指数族的后验均值。通过数值模拟证明了该近似的Kullback-Leibler风险性能，并表明随着指数族维数的增加，期望参数的后验均值逼近贝叶斯预测密度。它还表明，近似投影到一个指数家庭的合理规模是实际上有利的风险性能和计算成本。
2020-10-29 math.ST stat.TH
Cumulative distribution functions for the five simplest natural exponential families
设$X_a$的分布属于集中在非负整数上的自然指数族，且满足$\E(z^{X_a})=f(az)/f(a)$ .假设$\Pr(X_a\leq k)$有$c_k\int_a ^{\infty}u^kμ(du)$的形式，对于某个数$c_k$和某个正测度$μ,$，它们都独立于$a.$。接下来，我们研究了连续分布的一个类似性质，我们发现它是满足的，当且仅当家庭是高斯或伽玛。最终，证明依赖于这样的事实，即只有Moebius函数保持交比，\textsc{Keywords:}二项分布，泊松和负二项分布。高斯分布和伽玛分布。莫比乌斯变换。交叉比率。
2018-07-30 math.ST stat.TH
Linear Estimating Equations for Exponential Families with Application to Gaussian Linear Concentration Models
在许多分布族中，极大似然估计是难以处理的，因为进入似然函数的密度的归一化常数不容易获得。Hyvärinen（2005）的评分匹配估计量提供了一种不需要该归一化常数的替代方案。对于指数族，相应的估计方程变为线性。分数匹配估计是一致的，渐近正态分布的这种模式，虽然不一定有效。高斯线性浓度模型就是这类模型的例子。对于在协方差中也是线性的线性浓度模型，我们证明了分数匹配估计量与最大似然估计量相同，因此在这种情况下它也是有效的。高斯图形模型和图形模型的对称形式特别有趣的线性浓度模型的子类，我们调查的分数匹配估计这种情况下的潜在用途。
2014-06-12 math.ST stat.TH
Estimators, escort probabilities, and phi-exponential families in statistical physics
将Cramer和Rao的下界推广到两个概率分布族，其中一个族是护送到另一个族的.这个界对于某些族是最优的，在本文中称为φ指数。对它们的二元结构进行了探讨。
2004-02-04 math-ph math.MP math.ST
G-Exponential Families through Probability Coordinates
该研究提出基于概率坐标图构造G-指数族的概率几何方法，其充分统计量有界、估计器鲁棒，通过柯西坐标图示例和蒙特卡洛研究验证了其估计性能。
2026-09-04 math.ST stat.TH
Context-sensitive hypothesis-testing and exponential families
本文提出基于样本字符串值的“加权”统计推断概念，将其应用于假设检验与指数族分析，并推广了标准统计中的经典不等式与散度。
2024-07-30 math.ST stat.TH
Nonparametric regression in exponential families
非参数回归理论中的大多数结果都是针对加性噪声的情况而得到的。在这样的设置中，许多平滑技术，包括小波阈值方法已被开发，并显示出高度自适应。在本文中，我们考虑指数族中的非参数回归，主要集中在具有二次方差函数的自然指数族，其中包括，例如，泊松回归，二项式回归和伽玛回归。本文提出了一种统一的方法，利用均值匹配方差稳定化变换，将指数族中相对复杂的非参数回归问题转化为标准的同方差高斯回归问题。然后，原则上任何好的非参数高斯回归程序都可以应用于转换后的数据。为了说明我们的一般方法，在本文中，我们使用小波块阈值构造的回归函数的最终估计。这些程序很容易实施。估计的理论和数值性质进行了研究。估计享有高度的自适应性和空间自适应性与近最佳的渐近性能在广泛的Besov空间。估计器在数值上也表现良好。
2010-10-19 math.ST stat.TH
Maximum likelihood estimators uniformly minimize distribution variance among distribution unbiased estimators in exponential families
我们采用无参数分布估计框架，其中估计量是广义过程，并利用Kullback-Leibler（KL）散度作为损失函数。Wu和Vos [J. Statist.计划推论142（2012）1525-1536]表明，当从i.i.d.样本被看作是一个广义过程，当估计量是一个实值随机变量时，估计量的KL风险以与均方误差分解平行的方式分解。在本文中，我们探讨如何条件版本的分布期望（$E^{\dagger}$）可以定义，使分布版本的Rao-Blackwell定理成立。我们定义了分布期望和方差（$V^{\dagger}$），也提供了一个分解的KL风险指数和混合物的家庭。对于指数族，我们证明了最大似然估计（视为一个广义过程）是分布无偏的，是唯一的均匀最小分布方差无偏（UMV $^{\dagger}$ U）估计。此外，我们表明，MLE是强大的对模型规格，如果真的分布不属于指数族，MLE是UMV $^{\dagger}$ U的KL投影的真的分布到指数族提供这两个分布有相同的期望的典型统计量。为了让估计值以外的指数家庭，我们包括KL投影的结果，并定义一个扩展的投影，以适应不存在的MLE的离散样本空间的家庭。提供了说明性的例子。
2015-09-18 math.ST stat.TH
A method to construct exponential families by representation theory
RIKEN Center for Advanced Intelligence Project（理化学研究所先进智能项目中心）；The University of Tokyo（东京大学）
本文用表示论给出了一种系统地构造“好”指数族的方法。更准确地说，我们考虑齐性空间$G/H$作为一个样本空间，并通过使用$G$的表示来构造变换群$G$下的指数族不变量。该方法生成广泛使用的指数族，如正常，伽玛，伯努利，分类，Wishart，冯米塞斯，费舍尔-宾汉和双曲面分布。
2022-10-13 cs.LG math.PR math.ST
Infinitely imbalanced binomial regression and deformed exponential families
如果二进制响应趋于无穷不平衡，则已知逻辑斯谛回归模型收敛到泊松点过程模型。在本文中，这一现象是普遍的，在一个广泛的一类链接函数的二项式回归。证明依赖于极值理论。对于logit、probit和互补log-log连接函数，点过程的强度测度成为指数族。对于其他一些链接函数，变形指数族出现。提出了Poisson点过程模型的惩罚极大似然估计。
2013-04-21 math.ST stat.ML stat.TH
Total positivity in exponential families with application to binary variables
我们研究指数族的分布是多变量全正的2阶（MTP 2），表明这些是凸指数族，并推导出存在的条件的极大似然估计。MTP2分布的二次指数族包含有吸引力的高斯图形模型和铁磁伊辛模型作为特例。我们表明，这些是通过相交的规范参数与多面体锥的面对应的条件独立关系的空间定义的。因此，MTP2作为二次指数族的隐式正则化子，并导致估计的图模型的稀疏性。我们证明了极大似然估计（MLE）在一个MTP 2二进制指数家庭存在的当且仅当两个符号模式$(1,-1)$和$(-1,1)$表示在样本中的每对变量，特别是，这意味着MLE可能存在与$n=d$的意见，在形成鲜明对比，不受限制的二进制指数家庭的$2^d$的意见是必需的。最后，我们提供了一种新的和全局收敛的算法来计算MLE的MTP2伊辛模型类似于迭代比例缩放，并将其应用于分析的数据从两个心理疾病。
2020-07-26 math.ST stat.ME stat.TH
General dependence structures for some models based on exponential families with quadratic variance functions
我们描述了一个过程，介绍一般的依赖结构的一组随机变量。这些包括顺序- $q$移动平均型结构，以及季节，周期，空间和时空依赖性。不变的边缘分布可以是任何与具有二次方差函数的指数族共轭的族。依赖性是通过一组合适的潜变量诱导的，其条件分布反映了此类指数族的贝叶斯共轭分析中的抽样分布。我们得到严格平稳性作为一个特殊情况。
2021-10-14 math.ST stat.ME stat.TH
Wishart exponential families on cones related to An graphs
设G = An是高斯特征中最近邻相互作用的图形模型所对应的图形。本文研究了凸锥QG和PG上Wishart分布的自然指数族（NEF），其中PG是具有强制零点的正定实对称矩阵的锥，QG是PG的对偶锥.我们构造的Wishart NEF包含了Lauritzen（1996）和Letac and Massam（2007）在基于可分解图模型中所考虑的Wishart分布.然而，我们的方法是不同的，并允许我们研究的基本对象ofWishartNEF锥QG和PG。我们确定Riesz措施产生Wishartindex家庭QG和PG，我们给这些Riesz措施和指数家庭的二次建设。研究了均值、逆均值、协方差、方差函数及高阶矩，给出了它们的显式表达式。
2017-02-14 math.PR math.ST stat.TH
An inverse Sanov theorem for exponential families
我们证明了大偏差原则（LDP）的后验分布所产生的子族的全指数家庭，允许错误指定的模型。此外，由所谓的逆Sanov定理（见例如Ganesh和O 'Connell 1999和2000）的动机，我们证明了相应的最大似然估计的LDP，我们研究率函数之间的关系。在我们的设置中，即使在非错误指定的情况下，一般来说，后验分布和最大似然估计的率函数是交换参数的Kullback-Leibler发散也是不正确的。
2022-06-16 math.PR math.ST stat.TH
Maximum likelihood estimation for discrete exponential families and random graphs
我们刻画了离散指数族极大似然估计的存在性。我们的标准是简单的应用，因为我们在各种设置，最显着的指数模型的随机图。作为应用，我们指出了独立同分布样本的极大似然估计以高概率存在的大小。
2021-02-21 math.CO math.PR math.ST
Shrinkage Estimation for the Diagonal Multivariate Exponential Families
研究了一类协协方差阵的对角元是均值参数的某个二次函数的多元分布均值参数的收缩估计。这类分布包括对角多元自然指数族。我们提出了两类半参数收缩估计的均值和相应的风险构造无偏估计。我们建立了这些收缩估计的渐近一致性和收敛速度下的平方误差损失的$n$，样本量，和$p$，尺寸，趋于无穷大。接下来，我们将这些结果专门用于对角多元自然指数族，这些自然指数族已被分类为由正态分布、泊松分布、伽玛分布、多项式分布、负多项式分布和混合分布组成。我们建立了我们的估计的一致性，在正常的，伽玛，负多项式的情况下，条件是$p n^{-1/3} (\log{n})^{4/3} \to 0$，并在泊松和多项式的情况下，如果$p n^{-1/2} \to 0$，作为$n,p \to \infty$。模拟研究提供了我们的估计的性能进行评估，我们说明，在伽马和泊松的情况下，我们的估计实现比最大似然估计的风险更低，从而证明了我们的估计的优越性，在最大似然估计。
2022-07-01 math.ST stat.TH
Laws of thermodynamics for exponential families
本文将热力学定律推广到一般指数族，通过最大熵与统计力学框架连接学习问题，为功、热、热力学循环及能量均分提供统计学对应，并用于量化分布偏移。
2025-01-03 cond-mat.stat-mech cs.LG math.ST
Characterization of Exponential Families of Lumpable Stochastic Matrices
Tokyo University of Agriculture and Technology（东京农工大学）
本文研究了可简化转移矩阵构成指数族的条件，提出了一种基于维度的高效验证方法。
2025-11-26 cs.IT math.IT math.PR
Increasing hazard rate of mixtures for natural exponential families
危险率在各个领域发挥着重要作用，例如，可靠性理论、生存分析、生物统计学、排队论和精算学。分布的混合也是一个很大的优势，在这样的地区，因为大多数人口的组成部分确实是异质的。在这项研究中，我们提出了一个充分条件的混合物的两个元素的同一自然指数族（NEF）有一个增加的危险率。然后，我们将这个条件应用到一些经典的NEF的具有二次或三次方差函数（VF）和其他。特别注意的是专门用于双曲余弦NEF具有二次VF，Ressel NEF具有三次VF和库默尔分布的2型NEF。这种充分条件的应用是相当复杂和麻烦的，特别是当应用于后三个NEF时。然后需要各种引理和命题来验证这些NEF的这个条件。
2010-04-24 math.ST stat.TH
Posteriors, conjugacy, and exponential families for completely random measures
我们演示了如何计算后验一般CRM为基础的先验和似然贝叶斯非参数模型。我们进一步展示了如何表示贝叶斯非参数先验作为一个序列的有限提请使用大小偏置的方法-以及如何表示完整的贝叶斯非参数模型通过有限的边际。出于共轭先验的基础上指数族表示的可能性，我们引入了一个概念的指数族标准物质，我们称之为指数标准物质。这种结构使我们能够指定自动贝叶斯非参数共轭先验指数CRM似然。我们证明，我们的指数标准物质允许特别简单的配方贝叶斯非参数模型的大小偏置和边际表示。一路上，我们证明了伽玛过程是一个共轭先验的泊松似然过程和β素数过程是一个共轭先验的过程，我们称之为赔率伯努利过程。我们提供了一个大小偏置的伽玛过程和伽玛过程的边缘表示加上泊松似然过程。
2016-04-22 math.ST stat.ME stat.TH
Mixture decompositions of exponential families using a decomposition of their sample spaces
我们研究的问题，找到最小的$m$，使每个元素的指数家庭可以被写入的混合物的$m$元素的另一个指数家庭。我们提出了一种基于相应凸支撑多面体的面格的覆盖和填充以及编码理论的结果的方法。我们表明，$m=q^{N-1}$是最小的数，任何分布的$N$ $q$ -ary变量可以写为混合物的$m$独立$q$ -ary变量。此外，我们表明，任何分布的$N$二进制变量是一个混合物的$m = 2^{N-(k+1)}(1+ 1/(2^k-1))$元素的$k$相互作用指数家庭。
2013-02-25 math.ST stat.ML stat.TH
The RKHS Approach to Minimum Variance Estimation Revisited: Variance Bounds, Sufficient Statistics, and Exponential Families
再生核希尔伯特空间（RKHS）的数学理论为最小方差估计（MVE）问题提供了强有力的工具。在这里，我们扩展了经典的RKHS为基础的分析MVE在几个方向。我们开发了一个几何公式的五个已知的下界的估计方差（Barankin界，Cramer-Rao界，约束Cramer-Rao界，Bhattacharyya界，Hammersley-Chapman-Robbins界）的正交投影到一个子空间的RKHS与一个给定的MVE问题。我们表明，在温和的条件下，Barankin界（估计方差的最紧可能的下界）是参数向量的下连续函数。我们还表明，RKHS与MVE问题保持不变，如果观察是由一个充分统计量取代。最后，对于符合指数型分布族的MVE问题，我们推导出新的封闭形式的估计方差的下界，并表明，减少参数集的最小可实现的方差不变。
2013-11-26 math.ST stat.TH
Translations in the exponential Orlicz space with Gaussian weight
研究了非参数指数族上基于高斯参考密度的指数Orlicz空间平移的连续性。
2017-08-31 math.ST stat.TH
Optimal E-Values for Exponential Families: the Simple Case
研究复合多元指数族原假设下简单 e-变量的存在性，提出基于协方差矩阵关系的统一定理，证明其期望对数最优性，并应用于线性回归、k-样本检验等场景。
2025-04-01 math.ST stat.ME stat.TH
Computationally efficient likelihood inference in exponential families when the maximum likelihood estimator does not exist
在正则全指数族中，不需要传统意义上的极大似然估计。然而，极大似然估计可能存在于指数族的完备化中。现有的算法，寻找最大似然估计在完成解决许多线性规划，他们是缓慢的小问题和太慢的大问题。我们提供了新的，快速的，可扩展的方法来寻找MLE在指数族的完成。这种方法是基于传统的最大似然计算接近，在某种意义上说，找到MLE在完成的指数家庭。这些传统的计算构造了一个正则参数值的似然极大化序列，该序列在似然函数上上升，直到它们满足收敛准则。在这种情况下，极大似然估计的不存在性是由于指数族的正则统计量的退化，正则统计量在其支持的边界上。在这个边界和Fisher信息矩阵的零特征向量之间存在对应关系。Fisher信息沿似然极大化序列的收敛是由累积量生成函数（CGF）沿似然极大化序列的收敛而来的，给出了CGF收敛的条件。当完井中存在极大似然估计时，这允许为均值参数构建必要的单侧置信区间。我们在正文中的三个例子和附录中的三个附加例子上展示了我们的方法。我们表明，当极大似然估计存在于指数族的完成中时，我们的方法提供了比现有技术快得多的统计推断。
2020-11-25 math.ST stat.TH
Likelihood Inference in Exponential Families and Directions of Recession
当全指数族中不存在最大似然估计时，该估计可能存在于该族的Barndorff-Nielsen完备化中。利用R语言提供的程序包rcdd，提出了一种求解重复线性规划完备化问题最大似然估计的实用算法，并以两个广义线性模型为例进行了说明.当原假设的极大似然估计为完备时，模型比较的似然比检验与通常情况几乎没有变化。只有自由度需要调整。当最大似然估计位于完备时，置信区间的变化比通常情况大得多。自然参数的最大似然估计可以被认为在某个方向上趋于无穷大，我们称之为一般的衰退回收方向。我们提出了一个新的单侧置信区间，它表示自然参数可能多么接近无穷大。这映射到平均值的单侧置信区间，显示它们与支持边界的接近程度。
2009-01-05 math.ST stat.TH
Locally associated graphical models and mixed convex exponential families
多元总正性的概念已被证明在金融和心理学中是有用的，但在其他应用中可能过于局限。在本文中，我们提出了一个概念的局部关联，其中高度连接的组件在一个图形模型是积极的关联，并研究其性质。我们的主要动机来自基因表达数据，其中图形模型已成为一种流行的探索工具。该模型的实例，我们称之为混合凸指数家庭，我们表明，混合双似然估计具有简单的确切性质，这样的家庭以及渐近性质类似的极大似然估计。我们进一步放宽了积极性假设，惩罚负的偏相关性，我们称之为积极的图形套索。最后，我们开发了一个基于块坐标下降的GOLAZO算法，该算法适用于图形模型中出现的一些优化过程，包括上述估计问题。我们得到的结果存在的最佳这类问题。
2022-02-09 math.ST stat.ME stat.TH
Dispersion Models for Extremes
我们提出了自然指数族和指数离差模型的极值模拟，并引入斜率函数作为方差函数的模拟。二次和幂斜率函数的集合表征了著名的家族，例如Rayleigh、Gumbel、幂、Pareto、logistic、负指数、Weibull和Fréchet。本文给出了一个关于斜率函数的收敛定理，利用这个定理，我们可以用渐近性的形式来表示极端色散模型的经典极值收敛结果。主要思想是探索位置族和自然指数族之间的相似之处，以及卷积和最小运算之间的相似之处。
2007-12-28 math.ST stat.ME stat.TH
Chentsov's theorem for exponential families
Chentsov定理将统计模型上的Fisher信息度量刻画为在充分统计量下唯一不变的黎曼度量。这意味着每个统计模型都自然地配备了一个几何形状，因此Chentsov定理解释了为什么许多统计特性可以用几何术语来描述。然而，尽管是统计学的基础定理之一，但陈佐夫定理以前只在非常有限的设置或相对较强的正则性和不变性假设下被证明。因此，我们证明了一个版本的这个定理的重要情况下，指数家庭。特别是，我们将Fisher信息度量作为指数族及其衍生族上唯一的黎曼度量（直到重新标度），该指数族及其衍生族在独立同分布扩展和规范充分统计量下不变。我们的方法是基于中心极限定理，所以它给出了一个统一的证明离散和连续的指数族，它是比以前的方法较少的技术。
2017-05-22 cs.IT math.DG math.IT
Convergence rates for Bayesian density estimation of infinite-dimensional exponential families
我们研究了密度估计问题的后验分布收敛速率，其特征在于在周期Sobolev类的光滑参数p.后验预期密度提供了一个非参数估计过程，达到最佳的极小极大收敛速率下Hellinger损失，如果后验分布达到最佳的速度在某些均匀性类。感兴趣的密度类上的先验由对数密度的三角级数展开的系数上的先验引起。我们表明，当p是已知的，后验分布的高斯先验达到最佳的速度提供了前方差足够迅速地死去。对于混合正态分布，假设指数族维数上的混合权重由指数递减序列下界。为了避免使用无限基地，我们开发的先验，切断了一系列的样本大小相关的截断点。当平滑度是未知的，一个有限的混合正常的先验索引的平滑参数，这也被分配一个先验，产生最佳的速率。一种速率自适应估计器。
2007-08-01 math.ST stat.TH
Inference on a class of exponential families on permutations
本文研究排列上包含Mallows模型的指数族，证明了自然参数伪似然估计量的渐近正态性并构建置信区间，同时证明MLE的一致性，且在原点处两者渐近方差相同。
2023-04-08 math.PR math.ST stat.TH
Estimation in Functional Regression for General Exponential Families
研究了一类指数族模型，其标准参数被指定为未知的无穷维斜率函数的线性泛函。建立了斜率函数估计的最优极小极大收敛速度。通过参数的约束极大似然估计构造了达到最优速率的估计量，参数的维数随着样本量的增加而增加。受Le Cam的渐近等价理论的启发，我们使用了一个度量变化的参数来消除指数族模型的非线性所引起的偏差。
2011-08-17 math.FA math.PR math.ST
E-values for k-Sample Tests With Exponential Families
本文开发了用于检验指数族k样本是否同分布的多种GRO e-变量，比较了其理论增长率，发现小效应下各变量表现相似，且特定分布下存在重合现象。
2024-01-08 math.ST stat.ME stat.TH
Estimation in functional regression for general exponential families
研究了一类指数族模型，其标准参数被指定为未知的无穷维斜率函数的线性泛函。建立了斜率函数估计的最优极小极大收敛速度。通过参数的约束极大似然估计构造了达到最优速率的估计量，参数的维数随着样本量的增加而增加。受Le Cam的渐近等价理论的启发，我们采用了测度变化的方法来消除指数族模型的非线性所引起的偏差。
2013-02-13 math.PR math.ST stat.ME
Statistical Inference and Exact Saddle Point Approximations
统计推断可以遵循频率论方法，或者可以遵循贝叶斯方法，或者可以使用最小描述长度原则（MDL）。我们的目标是确定这些不同的统计推断方法一致的情况。证明了对于指数族，MDL和贝叶斯推论一致的充要条件是共轭指数族的重整化鞍点逼近是精确的。对于一维指数族，唯一具有精确重整化鞍点近似的族是高斯位置族、Gamma族和逆高斯族。它们是高斯位置族、Gamma族和泊松指数族的共轭族。前两个家族是自共轭的，这意味着只有对于前两个家族，贝叶斯方法与频率论方法是一致的。在更高的维度中，有更多的例子。
2018-05-06 cs.IT math.IT math.ST
One-sided Cauchy-Stieltjes Kernel Families
本文继续研究一个核族，它使用Cauchy-Stieltjes核代替指数族理论中著名的指数核。我们扩展的理论，以涵盖生成措施的支持，是无界的一边。我们说明了需要这样的扩展表明，三次伪方差函数对应于自由无限可分的法律没有第一时刻。我们还确定域的手段，推进柯西-Stieltjes内核家庭的理解，也为companies支持的生成措施。
2010-07-29 math.PR math.ST stat.TH
Simple Cubic Variance Functions on $\R^n$, Part one
本文研究了在$\R^n$上三次立方方差函数的自然指数族分类问题。
2025-12-22 math.ST stat.TH
SMML estimators for exponential families with continuous sufficient statistics
最小信息长度原则是一个信息论准则，它将数据压缩与统计推断联系起来。本文研究了$d$维指数族具有连续充分统计量的严格最小消息长度（SMML）估计，对所有$d \ge 1$ . SMML估计的分区示出由凸多面体（即凸多边形时，$d=2$），可以明确地描述的断言和编码概率。虽然这个结果是已知的，我们给出了一个新的证明的基础上变分法，这种方法给出了一些有趣的新的不等式SMML估计。我们也使用这个结果来构建一个SMML估计的$2$维正态随机变量与已知的方差和一个正常的前其均值。
2014-03-21 cs.IT math.IT math.ST
Generalized Einstein Laurent polynomials, Toric Kähler-Einstein Rigidity, and Finite Exponential Families
Kspectra Research Inc.（Kspectra研究院）
本文研究正有限指数和对数满足广义爱因斯坦方程的条件，分类了二元洛朗多项式，证明了环面Kähler-Einstein流形的刚性，并刻画了有限指数族，解决了相关猜想。
2026-09-17 math.CV math.DG math.ST
Estimating a regression function in exponential families by model selection
设$X_{1}=(W_{1},Y_{1}),\ldots,X_{n}=(W_{n},Y_{n})$是独立随机变量的$n$对。我们假设，对于每个$i\in\{1,\ldots,n\}$，给定$W_{i}$的$Y_{i}$的条件分布属于具有参数${\boldsymbolγ}^{\star}(W_{i})\in{\mathbb{R}}$的单参数指数族，或者至少足够接近这种形式的分布。本论文的目的是估计这些条件分布的基础上的观察${\boldsymbol{X}}=(X_{1},\ldots,X_{n})$，这样做，我们提出了一个模型选择过程，连同非渐近风险界的估计相对于海林格型距离。当${\boldsymbolγ}^{\star}$确实存在时，该过程允许获得适应于大范围各向异性Besov空间的${\boldsymbolγ}^{\star}$的估计器$\widehat{\boldsymbolγ}$。当${\boldsymbolγ}^{\star}$具有一般的加性或多指标结构时，我们构造了合适的模型，并证明了基于这种模型的估计方法可以避免维数灾难。此外，我们考虑了ReLU神经网络的模型选择问题，并提供了一个例子，其中基于神经网络的估计比经典模型具有更快的收敛速度。最后，我们应用这个过程来解决指数族中的变量选择问题。本文中的证明依赖于几个函数集合的VC维的边界，这些函数可以是独立的。
2022-03-13 math.ST stat.AP stat.TH
Deriving Lehmer and Hölder means as maximum weighted likelihood estimates for the multivariate exponential family
Université de Sherbrooke（谢布鲁克大学）
本文将 Lehmer 和 Hölder 均值族与加权最大似然估计的联系从一元指数族推广到多元指数族，为这些均值族提供概率解释并拓展其应用。
2024-05-02 cs.LG math.ST stat.TH
Variations on two-parameter families of forecasting functions: seasonal/nonseasonal Models, comparison to the exponential smoothing and ARIMA models, and applications to stock market data
我们介绍了24个双参数家庭先进的时间序列预测功能，使用一种新的和非参数的方法。我们还介绍了供电的概念，并推导出非季节性和季节性模型的例子在教育，销售，金融和经济。我们比较我们的24个模型的性能，霍尔特-温特斯和ARIMA模型的非季节性和季节性时间序列。我们特别表明，我们的模型不仅不需要分解成趋势，季节性和随机成分的季节性时间序列，但也导致大幅降低绝对误差和更高数量的预测比霍尔特-温特斯和ARIMA模型。最后，我们使用标准普尔500指数467家公司的五年股票市场数据，应用并比较了我们的24个模型的性能。
2022-07-13 math.ST q-fin.ST stat.ME
Flexible mean field variational inference using mixtures of non-overlapping exponential families
Stanford University（斯坦福大学）
稀疏模型是跨不同领域的许多应用程序所期望的，因为它们可以执行自动变量选择，帮助可解释性，并提供正则化。然而，当在贝叶斯框架中拟合稀疏模型时，除了最简单的情况之外，在所有情况下都难以解析地获得感兴趣的参数的后验分布。因此，从业者必须依赖于抽样算法，如马尔可夫链蒙特卡罗或变分方法，以获得一个近似的后验。平均场变分推理是一个特别简单和流行的框架，往往是服从解析推导的封闭形式的参数更新。当模型中的所有分布都是指数族的成员并且条件共轭时，通常可以手工导出优化方案。然而，我表明，使用标准的平均场变分推理可能无法产生合理的结果与稀疏诱导先验模型，如穗和板。幸运的是，这样的病态行为可以补救，因为我表明，混合指数族分布与非重叠的支持形成一个指数族。特别地，扩散指数族和在零处的点质量的任何混合以模型稀疏性形成指数族。此外，这些分布的特定选择保持条件共轭性。我用两个应用程序来激励这些结果：一个来自统计遗传学，它与广义最小二乘法有联系，在回归系数上有一个尖峰和厚板;和稀疏概率主成分分析。这里提出的理论结果是广泛适用于这两个例子之外。
2020-10-14 cs.LG math.ST stat.ML
Posterior contraction rates in Sobolev norms and Bayesian derivative estimation for infinite-dimensional exponential families
University of Pavia（帕维亚大学）；University of Turin（都灵大学）；Collegio Carlo Alberto, Turin（都灵卡洛阿尔贝托学院）
该研究针对无穷维指数族，基于Wasserstein距离的新方法，证明匹配光滑度的先验可实现Sobolev范数下的极小极大最优后验收缩率，并在三类场景中验证了该理论的有效性。
2026-10-06 math.ST stat.ML stat.TH
Posterior Inference in Curved Exponential Families under Increasing Dimensions
本文研究了增维情形下曲线指数族后验推理的大样本性质。曲线结构产生于对模型施加的各种限制，例如力矩限制，并且在计量经济学和数据分析的其他分支中起着基础作用。我们建立的条件下，后验分布是近似正常的，这反过来又意味着各种良好的性能的估计和推理程序的基础上的后验。在这个过程中，我们还利用测度的集中性，对以往关于指数族在增维下的结果进行了改进。我们还讨论了各种应用程序的高维版本的经典计量经济学模型，包括多项式模型与矩的限制，看似无关的回归方程，和单结构方程模型。在我们的分析中，参数维数和矩的数量都随着样本量的增加而增加。
2014-04-23 econ.EM math.PR math.ST
Rank Verification for Exponential Families
许多统计实验涉及比较多个人口群体。例如，民意调查可能会询问几位政治候选人中哪一位获得最多的支持;社会科学调查可能会报告对一个问题的几种回答中最常见的;或者，临床试验可能会比较几种治疗条件下的二元患者结果，以确定最有效的治疗方法。在噪声实验中观察到“赢家”（观察到的最大响应）后，很自然地会问，候选人、调查响应或治疗是否实际上是“最佳”（随机最大响应）。本文讨论了秩检验问题--检验数据中发现的排序是否反映了总体秩的事后显著性检验。对于指数族模型，我们证明了在温和的条件下，比较前两个观测值（即，比较“优胜者”和“亚军”）是对优胜者是否真正是最好的有效测试。我们扩展我们的分析，以提供同样简单的程序，以获得较低的置信区间之间的差距获胜的人口和其他人，并验证排名超过第一。
2017-07-03 math.ST stat.ME stat.TH
Geometric ergodicity for families of homogeneous Markov chains
本文给出了齐次马氏过程族的遍历定理的偏差的非渐近指数上界。我们找到了参数族上几何一致遍历的几个充分条件。我们将这个性质应用于遍历扩散过程的非渐近非参数估计问题。
2012-05-08 math.PR math.ST stat.TH
Simultaneous best linear invariant prediction of future order statistics for location-scale and scale families and associated optimality properties
在本文中，我们首先基于一组早期观察到的有序统计量推导出未观察到的未来顺序统计量的边缘最佳线性不变预测因子（BLIP）的显式表达式。然后，我们推导出两个未来的顺序统计量的联合BLIP，并证明了联合预测是跟踪有效的，以及确定性有效的线性不变预测。更一般地说，BLIPs具有完全的均方预测误差矩阵的优势性质的类中的所有线性不变预测的两个未来不可观察的顺序统计量。最后，这些结果被扩展到任何$\ell$未来顺序统计量的同时BLIP的情况下。规模和位置-规模分布族都被认为是结果发展的父分布。
2021-11-25 math.ST stat.AP stat.TH
Discrete mixture representations of parametric distribution families: geometry and statistics
我们调查的存在性和性质的离散混合表示$P_θ=\sum_{i\in E} w_θ(i) \, Q_i$为一个给定的家庭$P_θ$，$θ\inΘ$，概率测度。非中心卡方分布提供了一个经典的例子。我们得到了问题的存在性结果以及几何和统计方面的结果，后者包括Fisher信息损失、Rao-Blackwellization、渐近有效性和混合概率的非参数极大似然估计.
2022-06-22 math.PR math.ST stat.TH
Generalized SURE for Exponential Families: Applications to Regularization
Stein的无偏风险估计（SURE）是由Stein为独立同分布（iid）高斯模型提出的，目的是为了获得主导最小二乘（LS）的估计。近年来，SURE准则已被用于各种去噪问题，用于选择正则化参数，使均方误差（MSE）的估计最小化。然而，它的使用一直局限于iid的情况下，排除了许多重要的应用。在本文中，我们首先推导出一个SURE对应的一般，不一定iid分布的指数家庭。这使得SURE设计技术能够扩展到更广泛的一类问题。基于这种推广，我们提出了一种新的方法来选择正则化参数的惩罚LS估计。然后，我们证明了其优越的性能比传统的广义交叉验证方法和差异方法的背景下，图像去模糊和反卷积。SURE技术也可用于设计估算，而无需预先定义其结构。然而，允许太多的自由参数会损害所得到的估计的性能。为了解决这个固有的权衡，我们提出了一个正规化的SURE目标。基于这个设计标准，我们推导出一个小波去噪策略，它在精神上类似于标准的软阈值方法，但可以导致改进的MSE性能。
2008-04-21 math.ST stat.ME stat.TH
Multidimensional multiscale scanning in Exponential Families: Limit theory and statistical consequences
我们考虑在$d$ -维独立随机变量$\{Y_i\}_{i \in \left\{1,...,n\right\}^d}$域中发现异常的问题，每个独立随机变量都按照一维自然指数族$\mathcal F = \left\{F_θ\right\}_{θ\inΘ}$分布。给定某个基线参数$θ_0 \inΘ$，使用局部似然比检验来扫描该场，以从（大的）给定区域系统$\mathcal{R}$中检测对于某些$i \in R$具有$θ_i \neq θ_0$的那些区域$R \subset \left\{1,...,n\right\}^d$。我们提供了一个统一的方法，控制整体家庭明智的错误（FWER），使错误的检测在给定的错误率。我们的方法的基础是一个高斯近似的基本多尺度检验统计量的分布与显式的收敛速度。由此得到了一个独立的弱极限定理，它可以看作是对非同分布数据的广义弱不变原理。此外，我们给出了一个渐近展开的程序的权力，这产生极大极小最优的高斯观测的情况下。
2019-03-24 math.PR math.ST stat.ME
Hypothesis testing with low-degree polynomials in the Morris class of exponential families
低次多项式算法分析是预测假设检验问题计算阈值的一种新方法。当前用于这种分析的技术的一个限制是它们对伯努利和高斯分布的限制。我们扩大这一范围的可能性，通过执行低程度的分析的假设检验的莫里斯类指数家庭，高斯，泊松，伽玛，二项，负二项，广义双曲正割分布的统一处理。然后，我们给出了几个算法的应用。1.在通过指数族观察随机信号的模型中，低次多项式的成功或失败取决于$z$分数重叠，即$z$分数向量相对于信号的两个独立副本的零分布的内积。2.在相同的模型中，用低次多项式进行的测试表现出通道单调性：根据描述方差如何依赖于指数族中的均值的标量参数，上述分布允许通过假设检验的计算成本进行总排序。3.在具有特定非高斯噪声分布的尖峰矩阵模型中，除非允许各个矩阵项中具有任意大次数的多项式，否则低阶预测是不正确的。这表明，Ding，Hopkins和Steurer（2020）最近针对具有重尾噪声的尖峰矩阵模型提出的自避免行走及其变体的多项式求和对于该模型来说是次优的。因此，低次多项式似乎提供了鲁棒性和针对特定模型进行微调的强大性能之间的权衡，并且可能会遇到需要算法首先检查输入然后使用一些中间计算来从几个推理子例程中选择一个的问题。
2020-11-07 cs.DS math.PR math.ST
