Parametric convergence rate of some nonparametric estimators in mixtures of power series distributions
本文研究无穷支撑幂级数分布混合的估计问题，证明NPMLE的Hellinger距离收敛速度及对数因子最优性，构建基于NPMLE的两类达到参数化收敛速度的估计量，通过模拟与真实数据验证性能，并比较两类自助法构建置信区间的表现。
2025-07-31 math.ST stat.TH
Translations in the exponential Orlicz space with Gaussian weight
研究了非参数指数族上基于高斯参考密度的指数Orlicz空间平移的连续性。
2017-08-31 math.ST stat.TH
Adaptive Convergence Rates of a Dirichlet Process Mixture of Multivariate Normals
结果表明，一个简单的Dirichlet过程混合的多元常态提供贝叶斯密度估计与自适应后收敛速度。为此，一种新的非参数混合密度的筛子进行了探索，并证明了其率适应性的各种光滑类的密度在任意维。这种筛的建设，预计将提供一个实质性的技术进步，在研究贝叶斯非参数混合模型的基础上，棒断裂先验。
2011-11-17 math.ST stat.ME stat.TH
Parameter recovery in two-component contamination mixtures: the $\mathbb{L}^2$ strategy
本文考虑一类参数密度污染模型。我们用的是一个身份证样本。具有共同密度$f^\star =(1-λ^\star) ϕ+ λ^\star ϕ(.-μ^\star)$的数据，其中假定形状$ϕ$是已知的。我们建立了混合参数估计的最优收敛速度$(λ^\star,μ^\star)$。特别是，我们证明了经典的参数率$1/\sqrt{n}$不能达到时，这些参数中的至少一个被允许倾向于$0$与$n$。
2018-11-21 math.ST stat.TH
Estimation of the Number of Components of Non-Parametric Multivariate Finite Mixture Models
本文提出了一种新的K-变量非参数有限混合模型中分量个数的估计（用$M$表示），其中分析者对独立的$K\geq2$变量进行了重复观测，给出了一个支持的未观测变量.在一个温和的假设下，观察到的和潜在的变量的联合分布，我们证明了一个积分算子$T$，这是从数据中确定的，有秩等于$M$。使用这种观察，以及奇异值在扰动下是稳定的这一事实，我们提出的$M$的估计量是基于阈值规则的，该规则基本上计算大于数据驱动阈值的$T$的相合估计量的奇异值的数量。我们证明了我们的估计$M$是一致的，并建立非渐近的结果，提供有限样本性能保证我们的估计。我们提出了一个蒙特卡罗研究表明，我们的估计量表现良好的中等规模的样本。
2020-07-05 math.ST stat.ME stat.TH
On learning parametric-output HMMs
Ben-Gurion University（本-古里安大学）；Weizmann Institute of Science（魏茨曼科学研究所）
我们提出了一种新的方法来学习隐马尔可夫模型的输出分布根据一个参数的家庭。这是通过{\em解耦}学习任务分为两个步骤来完成的：首先估计输出参数，然后估计隐藏状态转移概率。第一步通过将混合模型拟合到输出平稳分布来完成。给定混合模型的参数，第二步被公式化为一个容易求解的凸二次规划的解。我们对估计的转移概率进行了误差分析，并表明它们对混合参数估计中的小扰动具有鲁棒性。最后，我们支持我们的分析与一些令人鼓舞的实证结果。
2013-02-25 cs.LG math.ST stat.ML
Parameter identifiability in a class of random graph mixture models
证明了一类随机图混合模型参数的可辨识性。这些模型的特征在于将图节点集划分为潜在（不可观察）组。当以被连接的节点的组为条件时，节点之间的连接性是独立的随机变量。在二进制随机图的情况下，其中边存在或不存在，这些模型被称为随机块模型，并已广泛用于社会科学，最近，在生物学中。他们的推广加权随机图，无论是在参数或非参数的形式，也在许多领域的兴趣。尽管广泛的应用，参数识别问题，这样的模型涉及，以前只在文献中被触及。我们在这里对这个问题进行彻底的调查。我们的工作也有后果的参数估计。特别是，由弗兰克和Harary提出的估计程序的二进制联系模型在这篇文章中被重新审视。
2010-06-04 math.ST stat.TH
On mean and/or variance mixtures of normal distributions
参数分布是统计学的重要组成部分。现在有大量的文献对不同的迷人配方的灵活分配。我们对这些分布的一小部分进行了选择性的简要概述，重点关注通过使用某些缩放变量缩放（多元）正态分布的均值和/或协方差阵获得的分布。也就是说，我们考虑了正态分布的均值混合、方差混合和均值-方差混合分布族。它的基本性质，一些值得注意的特殊/限制的情况下，和参数估计方法也被描述。
2020-05-14 math.ST stat.TH
Inference for mixtures of symmetric distributions
本文讨论了当混合组分是对称的且来自同一位置族时，有限混合模型的参数估计问题。我们把这些混合物称为半参数，因为除了对称性之外，没有对组分分布的参数形式进行额外的假设。由于对称分布的类是如此广泛，参数的可识别性是在这些混合的主要问题。我们提出了有限混合模型的可辨识性的概念，我们称之为k-可辨识性，其中k表示混合模型中组分的个数。当k=2或3时，给出了对称分量位置混合的k-可识别性的充分条件。本文提出了一种新的基于距离的方法来估计k-可辨识模型中的位置参数和混合参数，并证明了估计量的强相合性和渐近正态性.在L_2-距离的特殊情况下，我们证明了我们的估计推广了Hodges-Lehmann估计.我们讨论了这些程序的数值实现，以及经验估计的组件分布，在两个组件的情况下。与假设正态分量的极大似然估计相比，我们的方法在分量真正态的情况下产生稍高的标准误差估计，但在分量重尾的情况下显著优于正态方法.
2007-08-03 math.ST stat.TH
Generalized maximum likelihood estimation of the mean of parameters of mixtures, with applications to sampling
设$f(y|θ), \; θ\in Ω$为参数族，$η(θ)$为给定函数，$G$为未知混合分布。期望基于独立观测$Y_1,...,Y_n$来估计$E_G (η(θ))\equiv η_G$，其中$Y_i \sim f(y|θ_i)$和$θ_i \sim G$是iid。我们探讨这个问题的广义极大似然估计（GMLE）。这些估计的一些基本性质和表示。特别地，我们对Kiefer和Wolfowitz（1956）的弱收敛结果提出了一个新的观点，并对$θ_1,...,θ_n$是{\it固定}参数的相应设置提出了启示。我们还涉及到上述问题，估计$η_G$，平方损失下的非参数经验贝叶斯估计。本文介绍了广义极大似然估计在抽样问题中的应用。GMLE的性能表现在模拟和通过一个真实的数据例子。
2022-07-28 math.ST stat.TH
Mixture representations of noncentral distributions
对于实数线上的任何对称分布$μ$，我们可以将非中心分布的参数族关联为$(X+δ)^2$、$δ\not=0$的分布，其中$X$是具有分布$μ$的随机变量。如果$μ$是标准正态分布，则出现经典情况，导致非中心卡方分布。众所周知，这些可以写成具有奇数自由度的中心卡方分布的泊松混合。我们得到这样的混合表示的逻辑斯谛分布和双曲正割分布。我们还推导出卡方分布的替代表示，并将这些表示的泊松家庭。虽然这些问题起源于参数统计，但它们也出现在广义第二Ray-Knight定理的背景下，该定理将高斯过程和马尔可夫过程的局部时间联系起来。
2022-06-21 math.PR math.ST stat.TH
Non Parametric Hidden Markov Models with Finite State Space: Posterior Concentration Rates
具有有限状态空间的非参数隐马尔可夫模型的使用在实践中蓬勃发展，而在这个框架中已知的理论保证很少。在这里，我们研究这些模型的贝叶斯框架中的渐近保证。在一个一般定理中，我们得到了连续观测值的联合边缘密度关于$L_1$ -范数的后验集中率。我们将这个定理应用到两种情况，并得到极大极小集中率。我们考虑离散观测的发射分布分布的Dirichlet过程和连续观测的发射分布分布的Dirichlet过程混合高斯分布。
2015-11-27 math.ST stat.TH
Identifiability of Nonparametric Mixture Models and Bayes Optimal Clustering
出于数据聚类中的问题，我们建立一般条件下，家庭的非参数混合模型是可识别的，通过引入一个新的框架，涉及聚类过拟合\emph{parametric}（即误指定）混合模型。这些可识别性条件概括了文献中的现有条件，并且足够灵活以包括例如高斯混合物的混合物。在最近的文献中估计非参数混合，我们允许一般的非参数混合成分，而不是施加规律性假设的基础混合措施。作为我们的主要应用程序，我们将这些结果应用到基于分区的聚类，将贝叶斯最优分区的概念从经典的基于参数模型的聚类推广到非参数设置。此外，这个框架是建设性的，使它产生一个实用的算法学习识别的混合物，这是通过几个例子说明了真实的数据。在分析中的关键概念设备是凸的，度量几何的概率测度的度量空间和连接到Wasserstein收敛的混合措施。其结果是一个灵活的框架，非参数聚类与正式的一致性保证。
2020-02-18 cs.AI cs.LG math.ST
Fast computation and theoretical guarantees for the NPMLE in exponential family mixtures
University of Toronto（多伦多大学）
提出数据压缩策略将NPMLE计算中似然评估成本降至样本量的多对数阶，并证明一类近似NPMLE的边际密度估计达到近乎参数收敛速度。
2026-06-15 math.ST stat.CO stat.TH
Flexible Bayesian Product Mixture Models for Vector Autoregressions
贝叶斯非参数方法的基础上Dirichlet过程混合物已经看到了巨大的成功，在各个领域，并呼吁能够借用信息的聚类样本共享相同的参数。然而，这样的方法可能面临的障碍，在异构设置中，对象被期望仅沿轴的子集聚类，或样本的集群共享仅相同参数的子集。我们克服了这样的局限性，通过开发一类新的产品的Dirichlet过程的位置规模的混合物，使独立的聚类在多个尺度，从而导致不同程度的信息共享样本。首先，我们开发了独立的多元数据的方法。随后，我们将其推广到多变量时间序列数据的框架下的多主题向量自回归（VAR）模型，这是我们的主要重点，超越参数单主题VAR模型。我们建立后验一致性和开发有效的后验计算的实施。涉及VAR模型的大量数值研究显示出在估计、聚类和特征选择准确性方面优于竞争方法的明显优势。我们对人类连接组项目的静息状态fMRI分析揭示了不同智力群体之间的生物学可解释的连接差异，而另一个空气污染应用则说明了与其他方法相比更高的预测准确性。
2022-07-01 math.ST stat.ME stat.TH
A Bayesian approach to learning mixtures of nonparametric components
University of Michigan–Ann Arbor（密歇根大学安娜堡分校）；University of Texas at Dallas（德克萨斯大学达拉斯分校）；AT&T Data Science and AI Research（AT&T数据科学与人工智能研究）
本文提出了一种基于贝叶斯非参数方法的学习框架，用于处理非参数混合成分的有限混合模型，通过高效的MCMC算法实现对复杂概率分布的高效学习。
2026-03-04 math.ST stat.CO stat.ME
A Nonparametric Maximum Likelihood Approach to Mixture of Regression
针对混合线性回归模型，提出完全非参数极大似然估计量（NPMLE），在已知 $σ$ 且 $G^*$ 具有紧支撑时达到近参数速率，并实现基于后验的个体化系数推断。
2025-06-27 math.ST stat.ME stat.TH
Gaussian mixtures and non-parametric likelihoods through the lens of statistical mechanics
National University of Singapore（新加坡国立大学）；University of California, Berkeley（加州大学伯克利分校）
本文从统计力学视角研究高斯混合模型与非参数最大似然估计，提出NPMLE的稳定性保证，涵盖KL散度界及近似解的优化问题，揭示其与统计力学中混沌和多谷现象的联系。
2026-07-09 cond-mat.dis-nn cond-mat.stat-mech math.PR
Clustering Via Finite Nonparametric ICA Mixture Models
我们提出了一个扩展的非参数多元有限混合模型，放弃了标准的条件独立性假设，并纳入独立成分分析（ICA）结构代替。我们制定了一个目标函数的惩罚平滑Kullback-Leibler距离，并介绍了非线性平滑优化最小化独立成分分析（NSMM-ICA）算法来优化这个函数和估计模型参数。我们已经实现了这个算法的一个实用版本，它利用FastICA算法，在R包icamix。我们使用无监督学习和图像处理中的几个应用程序来说明这种新方法。
2018-09-10 math.ST stat.ME stat.TH
Evidence estimation in finite and infinite mixture models and applications
对于有限和无限混合模型，估计模型证据或数据的边际似然性是一项非常困难的任务，我们在这里重新审视了最近文献中提倡的不同Monte Carlo技术，以及基于Geyer（1994）反向逻辑斯谛回归技术，Chib（1995）算法和序贯蒙特卡罗（SMC）的新方法。应用程序很多。特别是，测试有限混合模型中的组分数量或针对给定数据集的有限混合模型的拟合长期以来一直是并且仍然是非常感兴趣的问题，尽管还没有完全令人满意的解决方案。已知使用贝叶斯因子来找到有限混合模型中的正确分量数K提供了一致的过程。此外，我们建立的贝叶斯因子的一致性进行比较时，对非参数的“强可识别的”狄利克雷过程混合（Dirichlet Process Mixture）模型的参数族的有限混合物。
2022-05-11 math.ST stat.CO stat.TH
