Non-Data-Splitting Estimator Selection for Regression in Exponential Families
针对指数族回归函数$\bsg^{*}$的估计问题，提出一种不依赖数据分割、交叉验证等方法的非数据分割估计器选择方法，给出所选估计器的非渐近风险界并验证其在变点检测中的实际性能。
2025-02-11 stat.ME
Targeted Maximum Likelihood Estimation using Exponential Families
目标极大似然估计（TMLE）是半参数和非参数模型参数估计的一种常用方法。TMLE的每次迭代涉及拟合以感兴趣的参数为目标的参数子模型。我们研究使用指数族来定义参数子模型。TMLE的这种实现给出了一种估计非参数模型中任何光滑参数的一般方法。该方法的计算优点在于TMLE的每次迭代涉及指数族中的参数的估计，这是凸优化问题，对于该凸优化问题存在实现可靠且计算高效的方法的软件。我们说明了三个估计问题的方法，涉及的结果随机缺失的平均值，中位数回归模型的参数，和连续曝光的因果关系，分别。我们进行了一个模拟研究，比较不同的选择参数子模型，集中在这些问题的第一个。据我们所知，这是第一次研究调查的鲁棒性TMLE不同规格的参数子模型。我们发现，子模型的选择可以有一个重要的影响有限样本中的估计的行为。
2014-06-02 stat.ME
Small Area Estimation with Spatially Varying Natural Exponential Families
两阶段分层模型已广泛用于小面积估计，以产生面积平均值的间接估计。当区域被互换处理并且模型参数被假定为在所有区域上是相同的时，我们可能会在存在空间异质性的情况下失去效率。为了克服这个问题，我们考虑了一个两阶段的区域水平模型的基础上自然指数族的空间变化的模型参数。我们采用地理加权回归方法来估计变参数，并提出了一个新的面积平均值的经验贝叶斯估计。本文还讨论了相关问题，包括均方误差估计、基准估计和非抽样区估计。所提出的方法的性能进行评估，通过模拟和应用程序的两个数据集。
2020-01-09 stat.ME
Closed-form solutions for parameter estimation in exponential families based on maximum a posteriori equations
针对指数族参数估计，本文利用 MAP 方程推导闭式估计量；模拟显示其精度随样本量提升，性能媲美传统 MAP 与 ML，且无需数值优化。
2025-05-15 stat.ME
E-Values for Exponential Families: the General Case
本文分析复合指数族零假设的常见e变量和e过程，刻画RIPr先验，建立RIPr与COND e变量的等价条件，确定四种e统计量的e功效，发现COND e变量的e功效显著优于UI。
2025-08-26 stat.ME
Gibbs Sampling, Exponential Families and Orthogonal Polynomials
我们给出了家庭的例子，其中广泛使用的吉布斯采样器的平稳收敛率急剧。这些例子涉及标准指数族及其共轭先验。在每种情况下，过渡算子是显式对角化与经典的正交多项式作为本征函数。
2008-08-28 math.CA stat.ME
Total positivity in exponential families with application to binary variables
我们研究指数族的分布是多变量全正的2阶（MTP 2），表明这些是凸指数族，并推导出存在的条件的极大似然估计。MTP2分布的二次指数族包含有吸引力的高斯图形模型和铁磁伊辛模型作为特例。我们表明，这些是通过相交的规范参数与多面体锥的面对应的条件独立关系的空间定义的。因此，MTP2作为二次指数族的隐式正则化子，并导致估计的图模型的稀疏性。我们证明了极大似然估计（MLE）在一个MTP 2二进制指数家庭存在的当且仅当两个符号模式$(1,-1)$和$(-1,1)$表示在样本中的每对变量，特别是，这意味着MLE可能存在与$n=d$的意见，在形成鲜明对比，不受限制的二进制指数家庭的$2^d$的意见是必需的。最后，我们提供了一种新的和全局收敛的算法来计算MLE的MTP2伊辛模型类似于迭代比例缩放，并将其应用于分析的数据从两个心理疾病。
2020-07-26 math.ST stat.ME stat.TH
General dependence structures for some models based on exponential families with quadratic variance functions
我们描述了一个过程，介绍一般的依赖结构的一组随机变量。这些包括顺序- $q$移动平均型结构，以及季节，周期，空间和时空依赖性。不变的边缘分布可以是任何与具有二次方差函数的指数族共轭的族。依赖性是通过一组合适的潜变量诱导的，其条件分布反映了此类指数族的贝叶斯共轭分析中的抽样分布。我们得到严格平稳性作为一个特殊情况。
2021-10-14 math.ST stat.ME stat.TH
Designing dose finding studies with an active control for exponential families
在最近的一篇论文中，Dette等人（2014年）介绍了采用主动控制的剂量确定研究的最佳设计问题。这些作者集中于具有正态分布误差（已知方差）的回归模型和确定最佳设计以估计最小剂量的问题，该最小剂量可实现与主动控制相同的处理效应。本文从更广泛的角度讨论了主动控制剂量研究的设计问题。特别是，我们认为一般类的最优性准则和模型所产生的指数家庭，这是经常使用的分析计数数据。我们调查在何种情况下，最佳设计的剂量fnding研究，包括安慰剂可以用来获得最佳设计的研究与积极的控制。最优设计构造的几种情况下，从不同的分布假设所产生的差异进行了详细研究。特别是，我们的研究结果是适用于构建最佳的试验设计，分析主动控制剂量fnding研究与离散数据，我们说明了新的最佳设计的效率与最近的两个例子，从我们的咨询项目。
2014-10-31 stat.ME
Design and performance evaluation in Kiefer-Weiss problems when sampling from discrete exponential families
本文在序贯统计分析的框架内讨论假设检验问题。主要研究Kiefer-Weiss问题中抽样方案的优化设计和性能评价。对于服从离散指数族的观测值，本文给出了修正Kiefer-Weiss问题中的最优设计算法，并得到了评价其性能、计算操作特征函数、平均样本量及一些相关特征的公式。这些公式涵盖，作为一个特殊的情况下，序贯概率比检验（SPRT）和它们的截断版本，以及最佳有限时域序贯检验。在此基础上，我们提出了一种构造最优测试及其性能评价的方法，用于原Kiefer-Weiss问题。所有算法都是以R编程语言的函数实现的，可以从{ \tt https：//github.com/tosinabase/Kiefer-Weiss}下载，其中二项分布、泊松分布和负二项分布的函数都很容易获得。最后，我们进行数值比较的Kiefer-Weiss解决方案与SPRT和固定样本容量测试具有相同的水平的错误概率。
2022-04-02 stat.ME
Iterative Scaling in Curved Exponential Families
本文提出了一种广义迭代比例拟合方法，可用于一般对数线性模型中一类特殊模型的极大似然估计。这类模型称为关系模型，适用于不一定具有笛卡尔乘积结构且可能不包含整体效应的多变量离散样本空间。当应用于细胞概率时，没有总体效应的模型是弯曲指数族，并且充分统计量的值仅在比例常数下由MLE再现。本文表明，迭代比例拟合，广义迭代尺度和改进的迭代尺度，不适用于这类模型。这里提出的算法是基于迭代Bregman投影。作为副产品，乘法参数的估计也得到了。
2014-03-29 stat.CO stat.ME
Differential Density Analysis in Single-Cell Genomics Using Specially Designed Exponential Families
针对单细胞RNA测序数据的组间表达比较需求，提出基于特制指数族的无模型密度估计推断框架，可实现密度估计、可视化与差异检验，经模拟和真实数据集验证，误差控制更优且能发现传统方法遗漏的基因。
2025-10-28 stat.ME
Posteriors, conjugacy, and exponential families for completely random measures
我们演示了如何计算后验一般CRM为基础的先验和似然贝叶斯非参数模型。我们进一步展示了如何表示贝叶斯非参数先验作为一个序列的有限提请使用大小偏置的方法-以及如何表示完整的贝叶斯非参数模型通过有限的边际。出于共轭先验的基础上指数族表示的可能性，我们引入了一个概念的指数族标准物质，我们称之为指数标准物质。这种结构使我们能够指定自动贝叶斯非参数共轭先验指数CRM似然。我们证明，我们的指数标准物质允许特别简单的配方贝叶斯非参数模型的大小偏置和边际表示。一路上，我们证明了伽玛过程是一个共轭先验的泊松似然过程和β素数过程是一个共轭先验的过程，我们称之为赔率伯努利过程。我们提供了一个大小偏置的伽玛过程和伽玛过程的边缘表示加上泊松似然过程。
2016-04-22 math.ST stat.ME stat.TH
Optimal E-Values for Exponential Families: the Simple Case
研究复合多元指数族原假设下简单 e-变量的存在性，提出基于协方差矩阵关系的统一定理，证明其期望对数最优性，并应用于线性回归、k-样本检验等场景。
2025-04-01 math.ST stat.ME stat.TH
Locally associated graphical models and mixed convex exponential families
多元总正性的概念已被证明在金融和心理学中是有用的，但在其他应用中可能过于局限。在本文中，我们提出了一个概念的局部关联，其中高度连接的组件在一个图形模型是积极的关联，并研究其性质。我们的主要动机来自基因表达数据，其中图形模型已成为一种流行的探索工具。该模型的实例，我们称之为混合凸指数家庭，我们表明，混合双似然估计具有简单的确切性质，这样的家庭以及渐近性质类似的极大似然估计。我们进一步放宽了积极性假设，惩罚负的偏相关性，我们称之为积极的图形套索。最后，我们开发了一个基于块坐标下降的GOLAZO算法，该算法适用于图形模型中出现的一些优化过程，包括上述估计问题。我们得到的结果存在的最佳这类问题。
2022-02-09 math.ST stat.ME stat.TH
Estimation in functional regression for general exponential families
研究了一类指数族模型，其标准参数被指定为未知的无穷维斜率函数的线性泛函。建立了斜率函数估计的最优极小极大收敛速度。通过参数的约束极大似然估计构造了达到最优速率的估计量，参数的维数随着样本量的增加而增加。受Le Cam的渐近等价理论的启发，我们采用了测度变化的方法来消除指数族模型的非线性所引起的偏差。
2013-02-13 math.PR math.ST stat.ME
Dispersion Models for Extremes
我们提出了自然指数族和指数离差模型的极值模拟，并引入斜率函数作为方差函数的模拟。二次和幂斜率函数的集合表征了著名的家族，例如Rayleigh、Gumbel、幂、Pareto、logistic、负指数、Weibull和Fréchet。本文给出了一个关于斜率函数的收敛定理，利用这个定理，我们可以用渐近性的形式来表示极端色散模型的经典极值收敛结果。主要思想是探索位置族和自然指数族之间的相似之处，以及卷积和最小运算之间的相似之处。
2007-12-28 math.ST stat.ME stat.TH
E-values for k-Sample Tests With Exponential Families
本文开发了用于检验指数族k样本是否同分布的多种GRO e-变量，比较了其理论增长率，发现小效应下各变量表现相似，且特定分布下存在重合现象。
2024-01-08 math.ST stat.ME stat.TH
Posterior Inference in Curved Exponential Families under Increasing Dimensions
本文研究了增维情形下曲线指数族后验推理的大样本性质。曲线结构产生于对模型施加的各种限制，例如力矩限制，并且在计量经济学和数据分析的其他分支中起着基础作用。我们建立的条件下，后验分布是近似正常的，这反过来又意味着各种良好的性能的估计和推理程序的基础上的后验。在这个过程中，我们还利用测度的集中性，对以往关于指数族在增维下的结果进行了改进。我们还讨论了各种应用程序的高维版本的经典计量经济学模型，包括多项式模型与矩的限制，看似无关的回归方程，和单结构方程模型。在我们的分析中，参数维数和矩的数量都随着样本量的增加而增加。
2014-04-23 econ.EM math.PR math.ST
Score Matched Neural Exponential Families for Likelihood-Free Inference
贝叶斯似然自由推断（LFI）方法允许通过依赖于模型模拟来获得具有难处理似然的随机模型的后验分布。在近似贝叶斯计算（ABC）中，一种流行的LFI方法，汇总统计量被用来减少数据的维度。ABC算法自适应地根据观察量调整模拟，以便从近似后验中采样，其形式取决于所选择的统计量。在这项工作中，我们引入了一种新的方法来学习ABC统计：我们首先从模型中独立地生成参数模拟对，然后，我们使用分数匹配来训练一个神经条件指数族来近似似然。指数族是具有固定大小充分统计量的最大类分布;因此，我们在ABC中使用它们，这在直观上很吸引人，并且具有最先进的性能。与此同时，我们将我们的似然近似插入MCMC中，用于双重棘手的分布以绘制后验样本。我们可以对任何数量的观测重复这一过程，而无需额外的模型模拟，其性能与相关方法相当。我们验证我们的方法与已知的可能性和一个大的多维时间序列模型的玩具模型。
2022-01-31 stat.ME stat.ML
Variations on two-parameter families of forecasting functions: seasonal/nonseasonal Models, comparison to the exponential smoothing and ARIMA models, and applications to stock market data
我们介绍了24个双参数家庭先进的时间序列预测功能，使用一种新的和非参数的方法。我们还介绍了供电的概念，并推导出非季节性和季节性模型的例子在教育，销售，金融和经济。我们比较我们的24个模型的性能，霍尔特-温特斯和ARIMA模型的非季节性和季节性时间序列。我们特别表明，我们的模型不仅不需要分解成趋势，季节性和随机成分的季节性时间序列，但也导致大幅降低绝对误差和更高数量的预测比霍尔特-温特斯和ARIMA模型。最后，我们使用标准普尔500指数467家公司的五年股票市场数据，应用并比较了我们的24个模型的性能。
2022-07-13 math.ST q-fin.ST stat.ME
Rank Verification for Exponential Families
许多统计实验涉及比较多个人口群体。例如，民意调查可能会询问几位政治候选人中哪一位获得最多的支持;社会科学调查可能会报告对一个问题的几种回答中最常见的;或者，临床试验可能会比较几种治疗条件下的二元患者结果，以确定最有效的治疗方法。在噪声实验中观察到“赢家”（观察到的最大响应）后，很自然地会问，候选人、调查响应或治疗是否实际上是“最佳”（随机最大响应）。本文讨论了秩检验问题--检验数据中发现的排序是否反映了总体秩的事后显著性检验。对于指数族模型，我们证明了在温和的条件下，比较前两个观测值（即，比较“优胜者”和“亚军”）是对优胜者是否真正是最好的有效测试。我们扩展我们的分析，以提供同样简单的程序，以获得较低的置信区间之间的差距获胜的人口和其他人，并验证排名超过第一。
2017-07-03 math.ST stat.ME stat.TH
Efficient and principled score estimation with Nyström kernel exponential families
Gatsby Computational Neuroscience Unit, University College London（伦敦大学学院盖茨比计算神经科学组）
我们提出了一种快速的方法与统计保证学习指数族密度模型的自然参数是在再生核希尔伯特空间，可能是无限维的。该模型通过拟合对数密度的导数（分数）来学习，从而避免了计算归一化常数的需要。我们的方法提高了计算效率的早期解决方案，通过使用低秩，Nyström样的解决方案。新的解决方案保留了满秩解决方案的一致性和收敛速度（完全在Fisher距离，几乎在其他距离），保证了成本和存储减少的程度。我们评估的方法在实验中的密度估计和自适应哈密顿蒙特卡罗采样器的建设。与使用去噪自动编码器的现有得分学习方法相比，我们的估计器在估计得分时根据经验更具数据效率，运行速度更快，并且参数更少（可以以原则和可解释的方式进行调整），此外还提供统计保证。
2021-01-14 cs.LG stat.ME stat.ML
Multidimensional multiscale scanning in Exponential Families: Limit theory and statistical consequences
我们考虑在$d$ -维独立随机变量$\{Y_i\}_{i \in \left\{1,...,n\right\}^d}$域中发现异常的问题，每个独立随机变量都按照一维自然指数族$\mathcal F = \left\{F_θ\right\}_{θ\inΘ}$分布。给定某个基线参数$θ_0 \inΘ$，使用局部似然比检验来扫描该场，以从（大的）给定区域系统$\mathcal{R}$中检测对于某些$i \in R$具有$θ_i \neq θ_0$的那些区域$R \subset \left\{1,...,n\right\}^d$。我们提供了一个统一的方法，控制整体家庭明智的错误（FWER），使错误的检测在给定的错误率。我们的方法的基础是一个高斯近似的基本多尺度检验统计量的分布与显式的收敛速度。由此得到了一个独立的弱极限定理，它可以看作是对非同分布数据的广义弱不变原理。此外，我们给出了一个渐近展开的程序的权力，这产生极大极小最优的高斯观测的情况下。
2019-03-24 math.PR math.ST stat.ME
Generalized SURE for Exponential Families: Applications to Regularization
Stein的无偏风险估计（SURE）是由Stein为独立同分布（iid）高斯模型提出的，目的是为了获得主导最小二乘（LS）的估计。近年来，SURE准则已被用于各种去噪问题，用于选择正则化参数，使均方误差（MSE）的估计最小化。然而，它的使用一直局限于iid的情况下，排除了许多重要的应用。在本文中，我们首先推导出一个SURE对应的一般，不一定iid分布的指数家庭。这使得SURE设计技术能够扩展到更广泛的一类问题。基于这种推广，我们提出了一种新的方法来选择正则化参数的惩罚LS估计。然后，我们证明了其优越的性能比传统的广义交叉验证方法和差异方法的背景下，图像去模糊和反卷积。SURE技术也可用于设计估算，而无需预先定义其结构。然而，允许太多的自由参数会损害所得到的估计的性能。为了解决这个固有的权衡，我们提出了一个正规化的SURE目标。基于这个设计标准，我们推导出一个小波去噪策略，它在精神上类似于标准的软阈值方法，但可以导致改进的MSE性能。
2008-04-21 math.ST stat.ME stat.TH
Identifiable Markov Switching Models with Instantaneous Effects and Exponential Families
University of Amsterdam（阿姆斯特丹大学）
针对非平稳时间序列，提出在指数族噪声下具有瞬时效应的马尔可夫切换模型的可识别性理论，并开发FlowMSM框架用于检测隐状态和恢复因果结构。
2026-06-15 cs.LG stat.ME stat.ML
New exponential dispersion models for count data -- the ABM and LM classes
在他们关于三次方差函数的基本论文中，Letac和Mora（The Annals of Statistics，1990）提出了一个系统的，严格的和全面的关于实数线上自然指数族的研究，他们通过方差函数和均值参数化来表征。他们提出了一个部分，由于某种原因一直没有注意到。本节讨论与非负整数集合上的计数分布的自然指数族相关的方差函数的构造，并允许找到相应的生成测度。由于指数扩散模型是建立在自然指数族的基础上的，本文在它们的基础上引入了两类新的指数扩散模型。对于这些类，这是与简单的方差函数，我们得到他们的均值参数化和相关的生成措施。我们还证明了它们具有一些令人满意的性质。这两个类被证明是过度分散和零膨胀的升序，使它们成为竞争力的统计模型，在使用，统计和精算建模。据我们所知，我们在本文中提出的计数分布类，还没有介绍或讨论之前的文献。为了表明我们的类可以作为那些在使用中的竞争统计模型（例如，泊松，负二项），我们包括一个真实数据的数值例子。在这个例子中，我们比较了我们的类与相关竞争模型的性能。
2021-02-03 math.ST stat.CO stat.ME
