Moment-type estimators for a weighted exponential family
本文为加权指数族提出闭式矩型估计量,并利用自助法构造偏差缩减版本,蒙特卡洛模拟验证了其良好表现。
2024-09-03 stat.ME
Novel closed-form point estimators for a weighted exponential family derived from likelihood equations
本文提出加权指数族的闭式点估计,并用自助法降低偏差,蒙特卡罗模拟验证其有效性。
2024-05-25 stat.ME
Analysis of Partially Observed Networks via Exponential-family Random Network Models
指数族随机网络(ERN)模型规定了网络和节点特性的二进制联合表示。这类模型允许将节点特性建模为随机过程,扩展了网络建模的指数族方法的范围和现实性。在本文中,我们开发了一个理论的推理ERN模型时,只有一部分的网络进行观察,以及特定的方法,缺失数据,包括不可重复的机制,基于网络的抽样设计和潜在的类模型。特别是,我们认为通过接触者追踪收集的数据对传染病流行病学和公共卫生相当重要。
2013-03-05 stat.ME
Two stage design for estimating the product of means with cost in the case of the exponential family
研究了在贝叶斯框架下,单参数指数族中独立总体均值乘积的估计问题。我们给出了一个随机设计,它从总体Pi中分配mi个观测值,使得与平方误差损失和单位观测值成本相关的贝叶斯风险尽可能小。该设计是渐近最优的。
2012-06-04 stat.ME
Closed-form estimators for an exponential family derived from likelihood equations
University of Brasília(巴西利亚大学)
本文从似然方程推导指数族分布的闭式估计量,并给出其Bootstrap偏差缩减版本,通过蒙特卡洛模拟验证了有效性。
2026-06-23 stat.ME
A simple and efficient profile likelihood for semiparametric exponential family
Ning等人(2017)提出的半参数指数族是参数指数族在非参数基测度函数情况下的扩展。这样的分布族在高维数据分析等领域具有潜在的应用价值。然而,实现半参数效率的方法还没有在现有的文献中提出。本文提出了一种剖面似然估计方法,可以有效地估计参数函数和非参数函数。由于在轮廓似然估计过程中采用了最不利曲线,因此成功地实现了半参数效率,并显著降低了估计偏差。此外,通过充分利用半参数指数族的结构信息,得到了最不利曲线的估计量的显式表达式。它确保了新提出的轮廓似然可以实现,并且计算简单。仿真研究表明,我们的建议是比现有的方法更好的大多数情况下研究,是强大的不同的模型条件。
2017-11-30 stat.ME
$e$PCA: High Dimensional Exponential Family PCA
许多应用,如光子限制成像和基因组学,涉及大型数据集的指数族分布的噪声条目。估计无噪声分布的协方差结构和主成分是一个有趣的问题。主成分分析(PCA)是用于此设置的标准方法,当噪声为非高斯时,该方法可能效率低下。提出了一种新的指数族分布主成分分析方法$e$ PCA(exponential family PCA)。$e$ PCA可用于大数据矩阵的降维和去噪。$e$ PCA涉及新的协方差阵估计量的特征分解,该估计量使用矩计算、收缩和随机矩阵理论以简单且确定性的方式构造。我们提供了一些理论上的理由,我们的估计,包括有限样本收敛速度,和高维度的Marchenko-Pastur定律。在模拟以及XFEL和SNP数据分析中,$e$ PCA优于PCA和指数族的各种PCA替代方案。一个开放源码的实现是可用的。
2017-03-06 stat.ME
Graphical models with marginals in the exponential family
本文提出一种三层层级模型作为超马尔可夫法则,使具有二次方差函数的指数族边缘分布的图模型成为可能,并采用贝叶斯方法进行参数推断,通过模拟与真实数据分析验证了其实用性。
2025-04-29 stat.ME
Exponential-family Random Network Models
随机图中节点间的连接被认为是随机变量,在社会科学中具有广泛的应用。指数族随机图模型(ERGM)已被证明是描述复杂社会现象的一类有用的模型。我们还通过将节点属性建模为随机变量来推广ERGM,从而创建完整网络的随机模型,我们称之为指数族随机网络模型(ERNM)。我们演示了如何在这个框架允许一个新的公式,在网络数据的逻辑斯谛回归。我们开发了基于似然性的推理模型和MCMC算法来实现它。这个新的模型公式被用来分析来自国家青少年健康的长期研究的同伴社会网络。我们对物质使用和友谊关系之间的关系进行建模,并展示了结果与网络数据上标准使用的逻辑斯谛回归的不同。
2012-08-01 stat.ME
Asymptotic adjustments of Pearson residuals in exponential family nonlinear models
在这项工作中,我们定义了一组校正皮尔逊残差连续指数族非线性模型,具有相同的分布作为真正的皮尔逊残差的顺序$\mathcal{O}(n^{-1})$,其中$n$是样本量。此外,我们还介绍了一个新的修改的皮尔逊残差,我们称之为PCA皮尔逊残差,这是近似不相关的。这些PCA残差即使对于广义线性模型也是新的。数值结果表明,PCA残差近似正态分布,从而改进了Simas和Cordeiro(2009)的先前结果。这些数值结果还表明,修正后的Pearson残差近似遵循与真实残差相同的分布,这相对于Pearson残差是一个相当大的改进,也扩展了Cordeiro和Simas(2009)以前的工作。
2016-07-27 stat.ME
Adaptive Basis Selection for Exponential Family Smoothing Splines with Application in Joint Modeling of Multiple Sequencing Samples
第二代测序技术已经取代了基于芯片的技术,成为基因组学和表观基因组学分析的默认方法。第二代测序技术可并行测序数千万个DNA/cDNA片段。在将所得序列(短读段)映射到基因组之后,得到沿着基因组的短读段计数的序列。在这些短读段计数中有效提取信号是测序技术成功的关键。非参数方法,特别是平滑样条,已被广泛用于建模和处理单测序样品。然而,多个第二代测序样本的非参数联合建模由于计算成本而仍然缺乏。在这篇文章中,我们开发了一种自适应的基础选择方法,用于高效计算指数族平滑样条来建模多个第二代测序样本。我们的自适应基选择给出了平滑样条的稀疏近似,产生了更低维的有效模型空间,用于更可扩展的计算。渐近分析表明,有效的模型空间是丰富的,足以保留数据的本质特征。此外,通过自适应基选择计算的指数族平滑样条模型具有良好的统计特性,例如,收敛速度与全基指数族光滑样条相同。通过模拟研究和两个第二代测序数据的例子证明了经验性能。
2017-02-07 stat.ME
A note on Bayesian logistic regression for spatial exponential family Gibbs point processes
近年来,指数族Gibbs空间点过程的逻辑斯谛回归推理方法被提出.我们将它与二次切向变分逼近技术相结合,导出了一种新的贝叶斯空间点模式分析方法。该技术进行了详细描述,并证明了数值例子。
2014-11-03 stat.ME stat.OT
Adjusting for Network Size and Composition Effects in Exponential-Family Random Graph Models
指数族随机图模型(ERGM)提供了一种原则性的方法来建模和模拟人类社交网络中常见的特征,例如同质性倾向和朋友的朋友三重闭合。我们发现,没有调整,ERGMs保持密度网络大小的增加。密度不变性通常不适用于社交网络。我们建议一个简单的修改的基础上的偏移,而不是保持平均度,并适应网络组成的变化渐近。我们证明,这种方法允许ERGMs被应用到自我中心的采样数据的重要情况。我们分析了国家健康和社会生活调查(NHSLS)的数据。
2010-12-27 stat.ME
A New Count Model Generated from Mixed Poisson Transmuted Exponential Family with an application to Health Care Data
本文引入了一种新的混合泊松分布。该分布是利用混合过程得到的,其中泊松分布为混合分布,嬗变指数分布为混合分布。研究了该模型的单峰性、矩、过色散、泰勒级数展开等分布性质。利用矩量法、矩量法和比例法以及极大似然估计对参数进行估计,并通过数据拟合实验,说明其优于现有的一些分布。此外,精算应用的背景下,总索赔分配进行了讨论。最后,我们讨论了一个计数回归模型的基础上提出的分布和它的有用性,一些建立良好的模型。
2015-09-18 stat.ME
On the role of the overall effect in exponential families
本文比较了在增加或去除归一化常数(或总体效应)时离散概率分布的指数族。当样本空间是不完全笛卡尔积或当它非常大时,后者的设置,其中指数族是弯曲的,是特别相关的,使得计算负担是显着的。整体效应的存在或缺乏对指数族的性质具有根本影响。当添加整体效应时,该族成为包含曲线族的最小正则指数族。该程序涉及代数几何中讨论的非齐次品种的均匀化,其中的统计解释是作为样本空间的扩充。当包括或移除整体效应时,导出核基表示中的变化。几何形状的最大似然估计,也允许零观察频率,与和没有整体效果,和各种算法进行了比较。细胞生物学的一个例子说明了结果的重要性,表明常规地包括整体效应会导致研究人员预期的模型中没有的估计值。
2017-09-01 stat.ME
Bayesian Hierarchical Models with Conjugate Full-Conditional Distributions for Dependent Data from the Natural Exponential Family
我们介绍了一种贝叶斯方法,用于分析(可能)高维相关数据,这些数据根据自然指数分布家族的成员分布。这个问题需要广泛的方法进步,因为联合建模高维相关数据会导致所谓的“大n问题”。当允许非高斯数据模型时,“大n问题”的计算复杂性进一步加剧,就像这里的情况一样。因此,我们开发了新的计算效率的分布理论,这种设置。特别地,我们引入了“共轭多元分布”,这是由Diaconis和Ylvisaker(1979)中引入的单变量分布所激发的。此外,我们提供了大量的理论和方法的发展,包括:条件分布的结果,与多元正态分布,共轭先验分布的渐近关系,并充分条件分布的吉布斯采样器。为了证明所提出的方法的广泛适用性,我们提供了两个模拟研究和三个应用程序的基础上流行病学数据集,联邦统计数据集,和环境数据集,分别。
2019-04-17 stat.ME
A parallel algorithm for penalized learning of the multivariate exponential family from data of mixed types
研究了多元指数族分布惩罚估计的计算有效性。这些分布包括马尔可夫随机场等与混合型变量(如二进制和连续)作为特殊情况下的利益。模型参数的估计通过最大化的伪似然增广凸惩罚。估计量是一致的。考虑到世界上的多核计算机,一个计算效率高的并行牛顿-拉夫森算法的数值评估的估计,其收敛的条件。量化包括将参数向量划分为子向量,这些子向量被同时估计并且随后被聚合以形成原始参数的估计。这种方法也可以使其他高维估计的有效数值评估。所提出的估计和算法的性能进行评估和比较,在模拟研究。最后,本文的结论与说明所提出的方法在重建的条件独立网络的数据的综合组学研究。
2020-12-25 stat.ME
Estimation of Kullback-Leibler losses for noisy recovery problems within the exponential family
我们解决的问题估计Kullback-Leibler损失,而不是平方损失的恢复问题中的噪声分布在指数家庭。受Stein无偏风险估计器(SURE)的启发,我们展示了这些损失可以无偏估计或估计有控制的偏差的条件。在应用中的图像去噪和变量选择与Gamma和泊松噪声的参数选择问题的模拟说明的Kullback-Leibler损失和建议的估计的兴趣。
2017-08-21 stat.AP stat.ME
Discrete Exponential-Family Models for Multivariate Binary Outcomes
收集烟草和酒精使用等多结果数据的研究越来越普遍。原则上,多结局研究调查结局之间的相关性,包括因果联系和/或联合分布。虽然有许多研究多变量结局的方法,但在规模和解释方面仍然存在重大局限性。在这里,我们介绍了一个基于离散二进制结果的指数族的模型,该模型以计算高效的方式为多个二进制结果的假设检验提供了一个灵活的框架。
2022-11-02 stat.CO stat.ME
Estimation in exponential family Regression based on linked data contaminated by mismatch error
识别多个文件中的匹配记录可能是一项具有挑战性且容易出错的任务。链接错误可能会严重影响后续基于结果链接文件的统计分析。最近的几篇论文从“断样本问题”和“置换数据”的角度研究了后连锁线性回归分析,其中响应变量在一个文件中,协变量在第二个文件中。在本文中,我们提出了一个扩展这条线的研究指数的家庭反应的假设一个小到中等数量的错配。提出了一种基于观测特定的偏移来考虑潜在的失配和$\ell_1$惩罚的方法,并讨论了其统计特性。我们还提出了充分条件,如果回归参数是已知的,协变量和响应之间的正确对应关系的恢复。所提出的方法相比,既定的基线,即Lahiri-Larsen和钱伯斯的方法,理论和经验的基础上合成和真实的数据。结果表明,这些方法可以实现实质性的改进,即使只有有限的信息的链接过程。
2020-10-26 stat.ME
Flexible Principal Component Analysis for Exponential Family Distributions
传统的主成分分析(PCA)在高维数据分析中是众所周知的,但它要求用具有连续观测值的矩阵来表示数据。为了克服这些局限性,提出了一种指数族分布的柔性主成分分析(FPCA)方法。我们的目标是确保它可以实现到任意形状的区域,无论是计数或连续观察。FPCA方法是在广义线性模型的框架下发展起来的。它为FPCA提供了统计模型,而不局限于数据的矩阵表示。提出了一种极大似然方法,当主成分(PC)的数量是已知的,以获得分解。这自然会导致惩罚似然方法来确定PC的数量时,它是未知的。针对缺失数据问题进行了改进,并与以往的缺失数据主成分分析方法进行了比较。仿真研究表明,FPCA的性能始终优于其竞争对手。该应用程序使用所提出的方法分别在正态分布和泊松分布下降低图像的任意形状子区域的维数和COVID-19的全球传播模式。
2021-08-16 stat.ME
Efficient subsampling for exponential family models
提出一种基于最优设计的两阶段子采样算法,利用密度聚类近似设计空间并确定最优设计,通过矩阵距离选取剩余样本,适用于包括高秩Fisher信息在内的指数族回归模型。
2024-03-18 stat.ME
The curved exponential family of a staged tree
阶段树模型是贝叶斯网络的离散推广。我们表明,这些形式弯曲的指数家庭,并获得其自然参数,充分统计量,和累积生成函数作为其图形表示的功能。我们给出了必要和充分的图形标准进行分类定期子家庭和讨论模型选择的影响。
2022-01-28 math.ST stat.ME stat.TH
Convergence and asymptotic normality of variational Bayesian approximations for exponential family models with missing values
研究了缺失值指数族模型变分Bayes逼近的性质。证明了当样本量变大时,变分贝叶斯估计的迭代算法以概率1局部收敛于真值。证明了变分后验分布是渐近正态的。
2012-07-11 math.ST stat.CO stat.ME
On the Identifiability of Mixed Ordinal and Exponential Family Causal DAGs under Linear Parametric Models
University of Southern California(南加州大学)
本文研究线性参数模型中混合有序与指数族节点间因果边的方向可识别性,证明在有序节点至少三类别且指数族节点至少三支撑点条件下,边方向可由联合分布唯一识别,并通过实验验证了理论。
2026-09-17 cs.LG math.ST stat.ME
Exponential-Family Random Graph Models for Rank-Order Relational Data
排名顺序关系数据,其中每个行动者根据某种标准对其他行动者进行排名,通常来自判断的社会计量测量(例如,自我报告的人际互动)或偏好(例如,相对喜欢)。我们提出了一类指数族模型的秩序关系数据,并推导出一类新的充分统计量,这类数据,假设不超过内主题序数属性。应用MCMC MLE这个家庭,使我们能够估计各种合理的机制,在横截面的情况下,等级结构的影响,并模拟这种结构随着时间的推移的演变。我们应用这个框架来模拟熟人过程中的相对喜欢判断的演变,并对技术教育项目成员之间的人际互动的相对量进行回忆。
2015-06-20 stat.AP stat.ME
Mixtures of Multivariate Power Exponential Distributions
引入了多元幂指数分布混合分布的扩展族。虽然拟合重尾和偏度最近在基于模型的聚类文献中受到了广泛关注,但我们研究了可以处理不同尾重和峰值数据的分布的使用。一个家庭的简约模型,提出了使用特征分解的尺度矩阵。提出了一种广义的期望最大化算法,该算法结合了基于最小化-最大化方法的凸优化和基于Stiefel流形上加速线搜索算法的优化.最后,使用玩具和基准数据说明了这一系列模型的实用性。
2015-06-12 stat.CO stat.ME
Learning deep kernels for exponential family densities
University College London(伦敦大学学院)
核指数族是一类丰富的分布,可以通过得分匹配有效地拟合并具有统计保证。然而,需要选择先验的简单内核,如高斯,限制了它的实际适用性。我们提供了一种学习由深度网络参数化的内核的方案,该方案可以找到数据几何形状的复杂位置相关局部特征。这给出了一类非常丰富的密度模型,能够在中等维度的问题上拟合复杂的结构。与通过极大似然拟合的深度密度模型相比,我们的方法提供了一组互补的优势和权衡:在实证研究中,前者可以产生更高的似然,而后者可以更好地估计对数密度的梯度,即描述分布形状的分数。
2021-01-14 cs.LG stat.ME stat.ML
$e^{\text{RPCA}}$: Robust Principal Component Analysis for Exponential Family Distributions
本文提出e^{RPCA}方法,将鲁棒主成分分析扩展到指数族分布,并设计交替方向乘子法优化算法,在钢板缺陷检测和亚特兰大犯罪监测中验证了其有效性。
2023-10-30 stat.AP stat.ME stat.ML
A General Framework for Empirical Bayes Estimation in Discrete Linear Exponential Family
本文提出离散线性指数族中基于RKHS表示与凸规划的非参数经验贝叶斯框架,统一处理常规及缩放平方误差损失下的复合估计,并通过理论与实验证明其优越性。
2019-10-20 math.ST stat.ME stat.TH
Learning Exponential Family Graphical Models with Latent Variables using Regularized Conditional Likelihood
ETH Zürich(苏黎世联邦理工学院);University of Wisconsin, Madison(威斯康星大学麦迪逊分校);Caltech(加州理工学院)
如果观测变量受潜在变量的影响,那么将图形模型拟合到给定样本观测的随机变量的集合是一项具有挑战性的任务,潜在变量可能会在观测变量之间引起显著的混淆统计依赖性。提出了一种新的基于正则化条件似然的凸松弛隐变量图模型框架,其中隐变量上观测变量的条件分布由指数族图模型给出.与以前提出的通过表征观测变量的边缘分布进行的易处理的方法相比,我们的方法适用于更广泛的设置,因为它不需要关于潜变量的特定形式的分布的知识,并且可以专门用于产生易处理的方法来解决观测数据没有很好地建模为高斯的问题。我们证明了我们的框架的实用性和灵活性,通过一系列的数值实验合成以及真实的数据。
2020-10-19 cs.LG math.OC stat.ME
Bregman Power k-Means for Clustering Exponential Family Data
Duke University(杜克大学);University of California, Berkeley(加州大学伯克利分校)
基于中心的聚类算法的最新进展是通过隐式退火,使用一系列的广义均值来对抗差的局部最小值。这些方法是劳埃德著名的$k$ -均值算法的变体,并且最适合于球形聚类,例如来自高斯数据的那些聚类。在本文中,我们桥这些算法的进步,经典的工作硬聚类下Bregman分歧,享受双射指数族分布,因此非常适合聚类对象所产生的广泛的数据生成机制。Bregman分歧的优雅特性使我们能够在一个简单而透明的算法中保持封闭形式的更新,并且还为建立有限样本边界带来了新的理论论据,这些边界放宽了现有技术中的有界支持假设。此外,我们考虑了对模拟实验和降雨数据的案例研究进行的全面实证分析,发现所提出的方法在各种非高斯数据设置中优于现有的对等方法。
2022-06-22 cs.LG math.ST stat.ME
Optimal E-Values for Exponential Families: the Simple Case
研究复合多元指数族原假设下简单 e-变量的存在性,提出基于协方差矩阵关系的统一定理,证明其期望对数最优性,并应用于线性回归、k-样本检验等场景。
2025-04-01 math.ST stat.ME stat.TH
A Constant-per-Iteration Likelihood Ratio Test for Online Changepoint Detection for Exponential Family Models
基于似然比检验的在线变点检测算法已被证明具有优良的统计特性。然而,简单的在线实现在计算上是不可行的,因为在时间$T$,它涉及考虑用于改变的$O(T)$可能位置。最近,已经引入了FOCuS算法来检测高斯数据中的均值变化,该算法将每次迭代的成本降低到$O(\log T)$。这通过使用修剪思想是可能的,修剪思想将需要在时间$T$处考虑的变点位置的集合减少到大约$\log T$。我们表明,如果一个人希望执行一个不同的单参数指数族模型的似然比检验,那么完全相同的修剪规则可以使用,并再次只需要考虑大约$\log T$位置在迭代$T$。此外,我们展示了如何自适应地执行算法的最大化步骤,这样我们只需要在这些可能的位置的一个小子集上最大化检验统计量。实证结果表明,所产生的在线算法,它可以检测到各种模型下的变化,具有恒定的每次迭代的平均成本。
2023-02-09 stat.CO stat.ME stat.ML
Piecewise monotone estimation in one-parameter exponential family
本研究针对单参数指数族提出分段单调参数序列的估计方法,基于修改的PAVA算法利用自然与期望参数对偶性,并通过信息准则选择正则化参数,模拟验证其数据驱动检测变点能力,应用于谱估计、因果推断及ODE求解器误差量化。
2023-12-22 cs.NA math.NA math.ST
Isotonic Mechanism for Exponential Family Estimation in Machine Learning Peer Review
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);University of Pennsylvania(宾夕法尼亚大学);Princeton University(普林斯顿大学)
本文将保序机制扩展到指数族分布,利用作者指定的投稿排名增强机器学习会议同行评审,证明了该机制的激励相容性和估计优越性,并通过ICML 2023数据验证了其效果。
2025-02-11 cs.GT cs.LG econ.TH
Model-Based Clustering of Time-Evolving Networks through Temporal Exponential-Family Random Graph Models
动态网络是描述时变复杂系统的通用语言,离散时间网络模型为各种应用提供了一种新兴的统计技术。在时变网络中检测社团结构是一个基础性的研究问题。然而,由于时间演化网络的社区建模的显着的计算挑战和困难,在目前的文献中,有效地发现社区的时间演化网络几乎没有进展。在这项工作中,我们提出了一种新的基于模型的聚类框架的时间演化网络的基础上离散时间指数族随机图模型。为了选择社区的数目,我们使用条件似然来构造一个有效的模型选择准则。此外,我们提出了一个有效的变分期望最大化(EM)算法,找到近似的最大似然估计的网络参数和混合比例。通过使用变分方法和最小化-最大化(MM)技术,我们的方法具有吸引力的大规模时间演化网络的可扩展性。我们的方法的力量是证明在模拟研究和实证应用国际贸易网络和合作网络的一个大型美国研究型大学。
2017-12-20 cs.SI stat.AP stat.CO