Identifying Mixtures of Mixtures Using Bayesian Estimation
在基于模型的聚类中使用有限混合的正态分布允许捕获非高斯数据聚类。然而，从正常分量中识别聚类是具有挑战性的，并且通常通过对模型施加约束或通过使用后处理过程来实现。在贝叶斯框架内，我们提出了一种不同的方法，基于稀疏有限混合物，以实现可识别性。我们指定了一个分层的先验，其中超参数是精心选择的，这样它们就可以反映目标的集群结构。此外，该先验允许使用标准MCMC采样方法来估计模型。结合解决标签切换问题并导致识别模型的后处理方法，我们的方法允许同时（1）确定聚类的数量，（2）使用有限的法线混合以半参数方式灵活地近似聚类分布，以及（3）识别特定于聚类的参数并对观察结果进行分类。所提出的方法是说明在两个模拟研究和基准数据集。
2016-06-20 stat.ME
Consistency of Variational Bayes Inference for Estimation and Model Selection in Mixtures
混合模型广泛应用于贝叶斯统计和机器学习，特别是在计算生物学，自然语言处理和许多其他领域。变分推理是一种通过优化算法来近似难以处理的后验的技术，在处理混合物等复杂模型时，在实践中非常流行。本文的贡献是双重的。首先，我们研究了后验变分逼近的集中性，这对于一般的混合物仍然是一个开放的问题，我们得到了一致性和收敛速度。我们还解决了模型选择的组件的数量的问题：我们研究的方法已经在实践中使用，其中包括在最大限度地提高数值标准（证据下界）。我们证明了这种策略确实会导致强预言不等式。我们说明我们的理论结果的应用高斯和多项式混合物。
2018-08-12 math.ST stat.CO stat.ME
Estimation of Parameters in DNA Mixture Analysis
在Cowell等人（2007年）中，使用Γ分布对电泳图中的峰大小进行建模，提出了用于分析混合痕量DNA的贝叶斯网络。结果表明，该分析对方差因子的选择敏感，因此应适用于分析的任何新迹线。在本文中，我们讨论如何方差参数可以估计极大似然，以实现这一点。来自每个贡献者的DNA的未知比例可以类似地通过极大似然联合方差参数来估计。此外，我们讨论了如何将先验知识的参数在贝叶斯分析。建议的估计方法说明通过几个例子的应用程序计算证据价值的个案工作和混合反卷积。
2013-06-20 stat.ME
Direct Estimation for Commonly Used Pattern-Mixture Models in Clinical Trials
针对临床试验中非不可忽略缺失数据下常用模式混合模型传统实现方式的方差估计难题，本文提出高效直接似然估计分析框架及简约临界点分析，经模拟验证估计一致，并通过2型糖尿病临床试验数据证实实用性。
2024-10-09 stat.ME
Jeffreys priors for mixture estimation: properties and alternatives
虽然Jeffreys先验通常对于混合分布的参数是定义良好的，但它们并不以封闭形式提供。此外，他们往往是不适当的先验。因此，它们从未被用来推断混合参数。研究了Jeffreys先验在几种混合情况下的实现及其性质。结果表明，相关的后验分布往往是不适当的。然而，Jeffreys先验的混合物的权重有条件的参数的混合物组件将被证明具有相对于组件的数量的保守性的属性，在过拟合的混合物的情况下，它可以被用作默认的先验在这种情况下。
2017-12-12 math.ST stat.ME stat.TH
GALILEO: A Generalized Low-Entropy Mixture Model
JHU Applied Physics Laboratory（约翰霍普金斯大学应用物理实验室）
本文提出了一种新的方法来生成具有分类属性的数据的混合模型。这种方法的关键是在分类空间中基于熵的密度度量和从具有许多组件的初始状态退火高熵/低密度组件。使用基于熵的密度对低密度组件进行修剪，使GALILEO能够始终找到高质量的集群和相同的最佳集群数量。GALILEO在一系列通常用于分类聚类基准的测试数据集上显示出了有希望的结果。我们证明了GALILEO的缩放在数据集中的记录数量上是线性的，使得该方法适用于非常大的分类数据集。
2017-08-24 cs.DS cs.LG math.PR
Randomized Mixture Models for Probability Density Approximation and Estimation
随机神经网络（NN）是传统NN的一种有趣的替代方案，更多地用于数据建模。随机向量函数链接（RVFL）网络是一种成熟的、理论基础良好的随机学习模型。RVFL网络的一个关键理论结果是，平均而言，它们几乎可以肯定地为连续映射提供了通用近似。我们专门和修改这个结果，并表明RFVL网络可以提供功能的近似，收敛于库尔贝克-莱布勒散度，当目标函数是一个概率密度函数。扩展的近似结果，我们证明了RFVL网络导致一个简单的随机混合模型（MM）的建设密度估计从随机数据。给出了随机MM的极大似然估计的期望最大化（EM）算法，证明了期望最大化算法的全局收敛性和极大似然估计的相容性.一组模拟研究提供了经验证据对我们的近似和密度估计的结果。
2018-04-23 stat.CO
Bayesian Nonparametric Functional Mixture Estimation for Time-Series Data, With Application to Estimation of State Employment Totals
美国劳工统计局使用来自当前人口调查（CPS）的每月各州就业总数作为关键输入，以制定各州各县的就业估计。然而，按州分列的每月CPS总数表达了高水平的波动性，这损害了为各县组成的估计结果的准确性。典型的小面积估计模型通过借用调查月份的信息来产生去噪的州一级就业估计，但假设按州时间序列的集合之间的独立性，由于其基本经济的相似性，通常会违反这一点。我们构造了高斯过程和高斯马尔可夫随随机场替代功能的先验规范，每一个在一个混合的多元高斯分布的Dirichlet过程（DP）的混合措施，其协方差或精度矩阵的参数。我们的DP混合函数模型允许数据同时估计月份之间和状态之间的依赖性。我们的模型的一个特点是，分配给同一聚类的那些函数是从具有相同协方差参数的分布中提取的，因此它们是相似的，但不必完全相同。我们比较了我们的两个替代品的合成数据的性能，并将其应用到恢复去噪，由国家CPS就业总量的数据从$2000-2013$。
2015-08-03 stat.ME
Bayesian model averaging via mixture model estimation
基于Kaniav等人提出的假设检验的混合模型方法，提出了一种新的贝叶斯模型平均（BMA）和选择方法，2014.继承这种方法的良好特性，它扩展了BMA的情况下，不适当的先验选择的参数是共同的所有候选模型。从算法的角度来看，我们的方法包括从所有候选模型的单数据混合物的后验分布中采样，由其先验概率加权。我们证明了这个后验分布等于所有候选模型的“贝叶斯模型平均”后验分布，由它们的后验概率加权。从这个BMA后验样本，每个模型的后验概率的一个简单的蒙特卡罗估计，以及每个模型的后验分布下的期望的重要性抽样估计。
2018-08-01 stat.ME
Comparison of Bayesian Nonparametric Density Estimation Methods
在本文中，我们提出了一个非参数贝叶斯方法的Lindsey和惩罚高斯混合方法。我们比较这些方法与Dirichlet过程混合模型。我们的方法是一个贝叶斯非参数方法，而不仅仅是基于一个参数家庭的概率分布。因此，拟合的模型对模型误指定更稳健。此外，与贝叶斯方法，我们有我们感兴趣的参数的整个后验分布，它可以概括为通过可信区间，平均值，中位数，标准差，分位数等林赛，惩罚高斯混合物，和狄利克雷过程混合物的方法进行审查。通过马尔可夫链蒙特卡罗（MCMC）方法进行估计。惩罚高斯混合方法通过哈密顿蒙特卡罗（HMC）实现。我们表明，在一定的正则条件下，随着n的增加，后验分布的权重收敛到一个正态分布。仿真结果和数据分析报告。
2020-11-27 stat.ME
Bayesian Covariance Matrix Estimation using a Mixture of Decomposable Graphical Models
贝叶斯方法用于估计高斯数据的协方差阵。从高斯图形模型和模型选择的想法被用来构建一个先验的协方差阵，是一个混合在所有可分解的图。对于该先验，每个图大小的概率由用户指定，并且相同大小的图被分配相同的概率。大多数以前的方法假设所有的图都是同样可能的。我们的经验表明，分配相等的概率在图形大小的先验优于分配相等的概率在所有图形的先验，无论是在识别正确的可分解图，并在更有效地估计的协方差阵。
2007-06-09 stat.ME
Consistent Estimation of Identifiable Nonparametric Mixture Models from Grouped Observations
University of Michigan（密歇根大学）；Technische Universität Berlin（柏林工业大学）
最近的研究已经建立了有限混合模型从分组观测中可识别的充分条件。这些条件允许混合成分是非参数的，并且具有大量（甚至全部）重叠。这项工作提出了一种算法，一致地估计任何可识别的混合模型从分组的意见。我们的分析利用了一个预言不等式的加权核密度估计组上的分布，以及一个一般的结果表明，一致的估计组上的分布意味着一致的估计混合成分。一个实际的实施提供了成对的观察，该方法表现出优于现有的方法，特别是当混合成分重叠显着。
2020-06-12 cs.LG math.ST stat.ML
Brown's loss function and estimation of the scale parameter and the entropy in scale mixture models with unknown location
University of Patras（帕特雷大学）
该研究针对含未知位置的尺度混合模型，采用Kubokawa方法推导尺度参数σ的改进估计量，进而得到熵的改进估计量，并将结果应用于多元t分布等尺度混合模型。
2026-10-12 math.ST stat.TH
Evidence estimation in finite and infinite mixture models and applications
对于有限和无限混合模型，估计模型证据或数据的边际似然性是一项非常困难的任务，我们在这里重新审视了最近文献中提倡的不同Monte Carlo技术，以及基于Geyer（1994）反向逻辑斯谛回归技术，Chib（1995）算法和序贯蒙特卡罗（SMC）的新方法。应用程序很多。特别是，测试有限混合模型中的组分数量或针对给定数据集的有限混合模型的拟合长期以来一直是并且仍然是非常感兴趣的问题，尽管还没有完全令人满意的解决方案。已知使用贝叶斯因子来找到有限混合模型中的正确分量数K提供了一致的过程。此外，我们建立的贝叶斯因子的一致性进行比较时，对非参数的“强可识别的”狄利克雷过程混合（Dirichlet Process Mixture）模型的参数族的有限混合物。
2022-05-11 math.ST stat.CO stat.TH
Adaptive density estimation based on a mixture of Gammas
考虑了正半线上可能无界密度的贝叶斯密度估计问题。我们提出了一个分层贝叶斯估计的基础上的伽玛混合先验，可以被看作是一个位置的混合。我们研究了基于这种混合的贝叶斯密度估计的收敛速度。我们构造了局部Hölder密度的近似，以及它们对无界密度的扩展，使其成为Γ分布的连续混合，从而得到了有限混合密度的近似。然后，这些结果被用来获得后验浓度率，与先验的基础上，这些混合模型。率是极小极大（最多对数n项），因为先验是独立的平滑率是自适应的平滑。
2017-09-16 math.ST stat.TH
Bayesian estimation and prediction for certain mixtures
对于两个庞大的家庭的混合分布和一个给定的先验，我们提供了统一的表示后验和预测分布。模型的应用包括标记为Kibble型，非中心卡方和F分布，分布的$R^2$在多元回归，方差混合正态分布，混合物的位置-规模指数分布，包括多变量Lomax分布的伽玛Γ分布的二元混合物。重点也放在分析表示和现有的分布和几个hypergometric函数的一个或两个变量的主机的关系。
2020-09-07 math.ST stat.TH
Stochastic Algorithm For Parameter Estimation For Dense Deformable Template Mixture Model
概率变形模板模型估计是计算机视觉和计算解剖学概率图谱领域的一种新方法。Allassonnière、Amit和Trouvé在[1]中给出了第一个将变异性建模为隐藏随机变量的连贯统计框架，其采用了简单和混合的可变形模板模型。文[2]中引入了一种相容的随机算法来解决文[1]中所遇到的在噪声存在下单组分模型的估计算法的收敛性问题。我们建议在这里继续在这个方向上使用一些“SAEM样”算法近似的MAP估计在一般的贝叶斯设置的混合变形模板模型。我们还证明了该算法的收敛性对一个临界点的惩罚可能性的意见，并说明这与手写数字图像。
2009-01-16 math.ST stat.CO stat.TH
Bayesian estimation of dynamic weights in Gaussian mixture models
本文提出了一种推广的高斯混合模型，其中混合权重被允许表现为一个未知的时间函数。该模型能够成功地捕获数据的特征，如模拟和真实数据集所示。它可以用于聚类、变点和过程控制等研究。为了估计混合权重函数，本文提出了两种新的多项式模型的贝叶斯非线性动态估计方法，该方法可以推广到其他多项式非线性动态模型的估计问题。其中一种方法，这里称为分量Metropolis-Hastings算法，将梅特罗波利斯-黑斯廷斯算法应用于状态方程的每个局部水平分量。它更具有一般性，可用于观测方程和状态方程非线性连接的任何情况。另一种方法往往更快，但专门应用于二进制数据（使用probit链接函数）。这些估计方法的性能，在所提出的动态高斯混合模型的背景下，通过模拟数据集进行评估。此外，一个应用程序的阵列比较基因组杂交（aCGH）数据集从胶质母细胞瘤癌症说明了我们的建议，突出了该方法检测染色体畸变的能力。
2022-09-08 stat.AP stat.ME
Posterior asymptotics of nonparametric location-scale mixtures for multivariate density estimation
密度估计是贝叶斯非参数估计最成功的应用之一。特别是，Dirichlet过程混合的法线是密度估计的黄金标准，其渐近性质已被广泛研究，特别是在单变量的情况下。然而，实践者和目前的理论文献之间存在差距。到目前为止，后验渐近结果在多变量的情况下，仅适用于位置混合的高斯内核与独立的前共同的协方差阵，而在实践中，以及从概念的角度来看，位置-尺度混合往往是可取的。在本文中，我们解决后验一致性，这样的一般混合模型，通过适应收敛速度的结果，结合了通常的低熵，高质量的筛选方法与适当的可求和条件。具体来说，我们建立一致性的Dirichlet过程混合高斯内核与各种事先规格的协方差阵。后收敛速度也进行了讨论。
2015-07-01 math.ST stat.TH
A semi-parametric estimation for max-mixture spatial processes
我们提出了一个半参数估计过程，以估计参数的最大混合模型和最大稳定模型（逆最大稳定模型）作为替代的复合似然。一个很好的估计所提出的估计需要的依赖措施，以检测所有的依赖结构的模型，特别是在处理最大混合模型。我们通过使用F-madogram克服了这一挑战。半参数估计是基于准最小二乘法，通过最小化理论F-madogram和经验之间的平方差。我们通过模拟研究评估了这种估计的性能。结果表明，平均而言，估计是执行良好的，虽然在某些情况下，它遇到了一些困难。我们应用我们的估计程序来模拟东澳大利亚的每日风暴。
2017-12-05 math.PR math.ST stat.TH
Scalable Expectation Estimation with Subtractive Mixture Models
本文提出基于减法混合模型差分表示的无偏重要性采样估计器$\Delta\text{Ex}$，避免直接采样，实现高维期望估计，实验证明其估计质量与自回归采样相当且速度更快，并初步探索了安全提议的构建。
2025-03-27 cs.LG stat.CO stat.ML
MixEst: An Estimation Toolbox for Mixture Models
University of Tehran（德黑兰大学）
混合模型是一种功能强大的统计模型，在从密度估计到聚类和分类的许多应用中使用。在处理混合模型时，有许多问题是实验者应该意识到并需要解决的。MixEst工具箱是一个功能强大且用户友好的MATLAB软件包，它实现了几种最先进的方法来解决这些问题。此外，MixEst提供了使用流形优化来拟合密度模型的可能性，这是该工具箱特有的功能。MixEst简化了混合模型在统计模型和应用程序中的使用和集成。为了开发新密度的混合模型，用户只需要为该统计分布提供一些函数，工具箱就可以处理与混合模型有关的所有问题。MixEst可在visionlab.ut.ac.ir/mixest上获得，并且有完整的文档，并根据GPL许可。
2015-07-22 cs.LG stat.ML
Theoretical Grounding for Estimation in Conditional Independence Multivariate Finite Mixture Models
对于条件独立的多元有限混合模型的非参数估计，我们提出了一种新的基于惩罚光滑Kullback-Leibler距离的目标函数的形式.非线性平滑优化最小化（NSMM）算法就是从这个角度推导出来的。利用一种新的投影-乘法算子得到了NSMM算法的一个简洁的表示，发现了算法的一个更精确的单调性，并首次证明了主要最优化问题解的存在性.
2015-10-28 math.ST stat.TH
Renyi and Shannon Entropies of Finite Mixtures of Multivariate Skew t-distributions
Shannon和Renyi熵是数据集中不确定性的定量度量。它们是由Renyi在熵理论的背景下发展起来的。这些措施已在多元t分布的情况下进行了研究。我们将这些工具推广到多元斜t分布类，然后推广到更多的多元斜t分布有限混合族。特别地，利用广义Holder不等式和多项式定理的一些性质，我们得到了这类族的熵的上界和下界。可以计算这些熵的近似值。此外，通过逼近，利用Lp空间的一些不等式和性质，给出了Renyi熵的一个渐近表达式.最后，我们给出了一个实际数据的例子来说明所考虑的混合模型的熵的行为。
2019-01-29 math.ST stat.TH
Full Model Estimation for Non-Parametric Multivariate Finite Mixture Models
本文研究非参数有限混合模型的全模型估计问题。它提出了一种用于选择分量的数量和判别变量的子集（即，在混合成分之间具有不同分布的变量子集）。所提出的方法考虑了离散化的每个变量到B箱和惩罚所产生的对数似然。考虑到当样本量趋于无穷大时，仓数趋于无穷大，我们证明了在适当选择惩罚项的情况下，我们对模型的估计（用于聚类的相关变量的子集和分量数）是一致的.模拟和基准数据说明了我们的建议的兴趣。
2021-12-10 math.ST stat.TH
Parameter Estimation in Gaussian Mixture Models with Malicious Noise, without Balanced Mixing Coefficients
我们考虑在一个2-高斯混合，这是不平衡的，被破坏的任意分布的噪声的两个高斯估计的平均值的问题。我们提出了一个强大的算法来估计的参数，连同上界的估计是正确的，所需的样本数，其中的界限参数化的尺寸，混合系数的比率，一个措施的分离的两个高斯，相关的马哈拉诺比斯距离，和条件数的协方差阵。从理论上讲，这是第一个样本复杂度的结果，不平衡的混合破坏对抗性噪声。在实践中，我们的算法优于香草期望最大化（EM）算法的估计误差。
2017-11-21 cs.CC cs.DS math.ST
Singularity structures and impacts on parameter estimation in finite mixtures of distributions
统计模型的奇异性是指模型参数空间的元素，它使相应的Fisher信息矩阵退化。对于这些点，最大似然估计和标准贝叶斯过程等估计技术不允许根$n$参数收敛速率。提出了有限混合物参数空间奇异性结构的一般识别框架，并研究了有限混合物的奇异性结构对紧参数空间上极大似然估计的极小极大下界和收敛速度的影响.我们的研究明确了模型奇异性，参数估计收敛速度和极小极大下界之间的深层联系，以及连续分布混合物的参数空间的代数几何。应用该理论建立了有限混合斜正态分布的参数估计的具体收敛速度。这种丰富且日益流行的混合模型表现出一系列非常复杂的渐进行为，迄今为止文献中尚未报道过这些行为。
2019-07-23 math.ST stat.ML stat.TH
Adaptive Bayesian multivariate density estimation with Dirichlet mixtures
我们表明，率自适应的多变量密度估计可以使用贝叶斯方法的基础上正常内核的协方差阵参数的先验分布的Dirichlet混合物。我们推导出充分条件的事先说明，保证收敛到一个真正的密度的速度是最佳的极小极大的平滑类的真正的密度属于。假设没有平滑度的先验知识。的充分条件示出持有的Dirichlet位置混合的法线之前的高斯基测量和逆Wishart之前的协方差阵参数。局部Hölder光滑类和它们的各向异性扩展。我们的研究涉及到几个技术创新，包括尖锐的逼近可微多元密度正常的混合物和一个新的筛子上的空间，这种密度。
2013-03-19 math.ST stat.TH
Improving Variational Autoencoder Estimation from Incomplete Data with Mixture Variational Families
University of Edinburgh（爱丁堡大学）；School of Informatics（信息学院）
针对不完整数据下VAE估计中后验复杂度增加的问题，提出基于有限变分混合和插补变分混合的两种策略，并通过实验证明其能有效提升估计准确性。
2024-06-27 cs.LG stat.ML
Learning mixtures of spherical Gaussians: moment methods and spectral decompositions
Microsoft Research New England（新英格兰微软研究院）
这项工作提供了一个计算效率和统计上一致的基于矩的估计混合球高斯。在分量均值处于一般位置的条件下，一个简单的谱分解技术从低阶可观测矩得到一致的参数估计，而不需要以前计算效率高的估计过程所需的额外的最小分离假设。因此，计算和信息理论的障碍，以有效的估计混合模型时，混合物的成分，一般的位置和球形协方差的手段被排除。一些连接作出估计问题有关的独立成分分析。
2012-10-28 cs.LG stat.ML
A Stochastic-Geometrical Framework for Object Pose Estimation based on Mixture Models Avoiding the Correspondence Problem
Munich University of Applied Sciences（慕尼黑应用科学大学）
针对刚性目标姿态估计难题，提出基于混合模型的随机几何框架，无需求解特征点对应关系且适配多视图随机依赖，经多场景仿真验证可实现精准鲁棒的姿态估计。
2024-06-03 cs.CV stat.AP
Variational Approach for Efficient KL Divergence Estimation in Dirichlet Mixture Models
LMU Munich（慕尼黑大学）
提出变分闭式解高效估计狄利克雷混合模型中的KL散度，显著提升计算效率与准确性，优于蒙特卡洛方法，促进组合数据聚类分析。
2024-03-18 cs.LG math.ST stat.ML
Scalable Estimation of Dirichlet Process Mixture Models on Distributed Data
The Chinese University of Hong Kong（香港中文大学）
我们考虑的狄利克雷过程混合模型（DPMM）在分布式环境中，数据分布在多个计算节点的估计。贝叶斯非参数模型（如DPMM）的一个关键优势是，它们允许根据需要动态引入新组件。然而，这给分布式评估带来了一个重要的挑战--如何有效地和一致地处理新的组件。为了解决这个问题，我们提出了一种新的估计方法，它允许新的组件本地创建在各个计算节点。将通过概率合并方案确定和合并对应于同一集群的组件。这样，我们可以保持估计的一致性与非常低的通信成本。在大规模真实数据集上的实验表明，该方法在不影响混合性能的前提下，能够在分布式和异步环境下实现较高的可扩展性。
2017-09-19 cs.LG stat.ML
Robust Estimation in Finite Mixture Models
本文针对有限混合模型提出稳健估计方法，建立非渐近偏差界与参数风险界，并设计数据驱动的成分数与模型选择程序，所得估计量满足 oracle 型不等式。
2021-07-01 math.ST stat.TH
Bayesian estimation of optical constants using mixtures of Gaussian process experts
Aalto University（阿尔托大学）；KTH Royal Institute of Technology（瑞典皇家理工学院）；LUT University（拉彭兰塔-拉赫蒂理工大学）
本文提出利用高斯过程专家混合建模吸收光谱测量，通过灵活的统计模型实现插值与外推，并结合Kramers-Kronig关系估计复折射率。同时统计建模锚点以考虑测量误差，自动选择外推测量点。
2026-03-27 physics.data-an stat.AP
Bayesian estimation of finite mixtures of Tobit models
本文提出一种结合Gibbs抽样与数据增广的MCMC贝叶斯方法来估计Tobit模型有限混合，模拟与应用表明其在删失不可忽略时能提供改变结果的额外灵活性。
2024-11-14 econ.EM stat.AP
Estimation of Non-Normalized Mixture Models and Clustering Using Deep Representation
The University of Tokyo（东京大学）；University College London（伦敦大学学院）；University of Helsinki（赫尔辛基大学）
我们开发了一个通用的方法来估计有限的混合非归一化模型。这里，非归一化模型被定义为具有难以处理的归一化常数的参数分布。现有的方法估计非归一化模型，而不计算归一化常数不适用于混合模型，因为它们包含一个以上的棘手的归一化常数。所提出的方法是通过扩展噪声对比估计（NCE），估计非归一化模型之间的观测数据和一些人为产生的噪声进行区分。我们还提出了一个扩展的NCE与多个噪声分布。然后，基于观察，传统的分类学习与神经网络是隐含地假设一个指数族作为一个生成模型，我们介绍了一种方法，通过估计一个指数族中的分布的有限混合聚类未标记的数据。该混合模型的估计是通过建议的NCE扩展来实现的，其中神经网络的训练数据被用作噪声。因此，所提出的方法提供了一种能够利用深度表示的概率原则聚类方法。使用深度神经网络进行图像聚类的应用给出了有希望的结果。
2018-05-19 cs.LG stat.ML
Optimal Bayesian estimation of Gaussian mixtures with growing number of components
本文研究了有限混料模型的贝叶斯估计问题，在一般情形下，模型中组分的个数是未知的，并且允许随样本量增长。假设成分数量不断增加是很自然的，因为样本中存在的异质性程度可能会增加，并且随着样本量的增加，可能会出现新的成分，从而可以充分灵活地模拟数据的复杂性。然而，这将导致一个高维模型，这对估计提出了很大的挑战。我们首次将样本量依赖先验的思想引入贝叶斯模型，并建立了一些重要的理论结果。我们首先表明，在温和的条件下的先验，后验分布集中在真正的混合分布在一个接近最佳的速度相对于Wasserstein距离。在真实混合分布的分离条件下，我们进一步证明了可以实现更好的自适应收敛速度，并且可以一致地估计分量的数量。此外，我们得到了最佳的收敛速度的高阶混合模型的组件的数量发散任意快。此外，我们提出了一个简单的配方使用狄利克雷过程（DP）的混合物之前估计有限混合模型，并提供理论保证。特别是，我们提供了一种新的解决方案，采用DP混合模型中的集群数量作为有限混合模型中的组件数量的估计。仿真研究和实际数据的应用表明，我们的方法的效用。
2022-03-17 math.ST stat.TH
Constrained Mixture Models for Asset Returns Modelling
资产收益率分布的估计对于确定最优交易策略至关重要。在本文中，我们描述的约束混合模型，基于混合的伽马和高斯分布，提供一个准确的描述价格趋势是明确的积极，消极或范围，同时占重尾和高峰度。该模型估计的期望最大化框架和模型阶估计也尊重模型的约束。
2011-03-14 q-fin.TR stat.ML
Adaptive Bayesian density estimation using Pitman-Yor or normalized inverse-Gaussian process kernel mixtures
我们考虑贝叶斯非参数密度估计使用Pitman-Yor或归一化逆高斯过程核混合作为密度的先验分布。该程序是从频率论的角度进行研究。使用棒打破皮特曼-约尔过程或表达的有限维分布的归一化逆高斯过程，我们证明了，当数据是从一个无限光滑的密度重复，后验分布集中在任何收缩$L^p$ -范数球，$1\leq p\leq\infty$，周围的采样密度在\emph{nearly parametric}率，对数因子。由此产生的分层贝叶斯过程，与一个固定的前，因此示出是自适应的采样密度的平滑度的无限。
2013-02-13 math.ST stat.TH
Finite Mixture Model of Nonparametric Density Estimation using Sampling Importance Resampling for Persistence Landscape
Allameh Tabatabai University（阿拉梅·塔巴塔拜大学）
考虑到持久性景观在参数化曲线上的产生和采样结构，存在一个随机过程，对于给定的数据集，持久性景观的有限混合模型（FMMPL）可以提供更好的描述。本文提出了一种非参数的方法来计算在持久性景观的综合均方误差（IMSE）。因此，FMMPL比另一种方法更准确。提出了采样重要性响应（SIR），较好地描述了参数化曲线中的重要标志点。结果，提供了更高的准确性和更低的空间复杂性比简单的采样选择的地标。
2018-11-17 cs.LG stat.ML
On semi-supervised estimation using exponential tilt mixture models
Rutgers University（罗格斯大学）；New York University（纽约大学）
本研究针对半监督二元分类，提出基于指数倾斜混合模型的非参数似然估计方法，推导其渐近性质，证明在随机与分层抽样下比监督逻辑回归更高效，并统一了与半参数效率理论的关系，模拟验证了理论结果。
2023-11-14 cs.LG stat.ML
Estimation of Gaussian mixtures in small sample studies using $l_1$ penalization
医学和生态学中的许多实验可以方便地用有限高斯混合模型建模，但面临着处理小数据集的问题。我们提出了一个强大的版本的估计的基础上自回归和稀疏促进惩罚，以估计高斯混合在这种情况下的组件。给出了惩罚期望最大化算法的空间交替形式，并证明了其聚类点满足Karush-Kuhn-Tucker条件.蒙特卡罗实验，以比较我们的方法和标准的极大似然估计得到的结果。特别是，我们的估计被认为比极大似然估计更好地执行。
2014-10-08 stat.CO stat.ME
Improved EM for Mixture Proportions with Applications to Nonparametric ML Estimation for Censored Data
改进的EM策略，基于有效的数据增强的想法（孟和van Dyk 1997，1998），提出了混合比例的ML估计。由此产生的算法继承了EM的简单性，易于实现，单调收敛特性，但有相当大的提高速度。由于传统的EM往往是缓慢的，当存在一个大的重叠之间的混合成分，我们可以提高速度，而不牺牲简单性或稳定性，如果我们可以重新制定的问题，以减少重叠的量。为此，我们提出了简单的“挤压”策略。此外，对于高维问题，如计算非参数MLE的分布函数与删失数据，传统EM的一个自然和有效的补救措施是增加交换步骤（基于改进的EM）之间的相邻的混合成分，重叠是最严重的。理论考虑表明，当仔细实现时，由此产生的EM类型算法是全局收敛的。模拟和真实数据的例子表明，在现实情况下的速度显着提高。
2010-02-18 stat.CO stat.ME
Unsupervised Mixture Estimation via Approximate Maximum Likelihood based on the Cramér - von Mises distance
针对重尾混合分布因归一化常数难以处理导致极大似然估计困难的问题，提出采用 Cramér - von Mises 距离的近似极大似然混合估计法，结合标准极大似然确定先验边界的混合程序，显著提升了估计效果。
2023-04-10 stat.CO stat.ME
Assessing uncertainty in Gaussian mixtures-based entropy estimation
本文针对基于高斯混合的熵估计，提出用加权似然 bootstrap 量化不确定性，并通过 Dirichlet 权重与中心化百分位区间提升覆盖率。
2025-05-15 stat.ME
Copula Density Estimation by Finite Mixture of Parametric Copula Densities
本文提出了一种基于异质参数Copula密度有限混合的Copula密度估计方法。更具体地说，混合成分是Clayton，Frank，Gumbel，T和正常copula密度，它们能够分别捕获下尾，强中心，上尾，重尾和对称椭圆依赖。模型参数的估计采用约束极大似然问题的邻域点算法。将该算法与常用的期望最大化算法进行了比较。仿真和实际数据的应用表明，该方法是有效的建模复杂的数据依赖超过两个或三个维度。
2019-06-22 stat.AP stat.CO stat.ME
Adaptive Independent Metropolis-Hastings by Fast Estimation of Mixtures of Normals
我们构建了一个自适应独立的大都会黑斯廷斯采样器，使用混合的法线作为建议分布。为了充分利用自适应采样的潜力，我们的算法经常更新法线的混合，从链的早期开始。该算法是建立在速度和可靠性，其采样性能进行评估与真实和模拟的例子。我们的文章概述了自适应采样保持的条件，并给出了一个容易获得的证明，即在这些条件下，采样方案生成收敛到目标分布的迭代。
2008-01-11 stat.AP stat.CO stat.ME
Semiparametric Estimation of Symmetric Mixture Models with Monotone and Log-Concave Densities
在这篇文章中，我们重新讨论了混合模型的拟合问题，假设混合成分是对称的和对数凹的。为此，我们首先研究了单调对数凹概率密度的非参数极大似然估计。通过遵循Rujiach（2006）的论点，我们证明了NPMLE关于支撑内部的紧子集上确界范数是一致相容的。为了拟合混合模型，我们提出了一个半参数EM（SEM）算法，它可以适用于其他半参数混合模型。在我们的数值实验中，我们将我们的算法与Balabdaoui和Doss（2014）以及模拟和真实世界数据集上的其他混合模型进行了比较。
2018-02-27 stat.ME
Maximum Likelihood Estimation of a Semiparametric Two-component Mixture Model using Log-concave Approximation
受生物科学中发现差异表达基因研究的启发，本文研究了一个已知成分的半参数两成分混合模型。假设未知组分的密度是对数凹的，它包含一个非常广泛的密度族，我们提出了一个半参数极大似然估计，并提出了一个计算它的期望最大化算法，我们的新估计方法同时找到混合比例和未知组分的分布。我们建立了半参数混合模型的可辨识性，并证明了估计的存在性和相合性。我们进一步比较我们的估计与现有的几个估计，通过模拟研究，并将我们的方法应用到两个真实的数据集，从生物科学和天文学。
2019-03-27 stat.AP stat.CO stat.ME
A semiparametric mixture method for local false discovery rate estimation
我们提出了一个半参数混合模型来估计局部错误发现率在多重检验问题。该方法的两个支柱是Efron的经验零原理和对数凹密度估计的替代分布。与现有的方法相比，我们的方法可以很容易地扩展到高维。仿真结果表明，我们的方法优于其他现有的方法，我们说明了它的使用通过天文学和微阵列的案例研究。
2016-04-14 stat.ME
Maximum Likelihood Estimation for Finite Mixtures of Canonical Fundamental Skew t-Distributions: the Unification of the Unrestricted and Restricted Skew t-Mixture Models
在本文中，我们提出了一个算法的拟合的位置-尺度变量的典型的基本偏t（CFUST）分布，一个超类的限制和无限制的偏t分布。近年来，人们提出了几种不同版本的多元偏态$t$（MST）模型，以及各种EM型参数估计算法。这些配方采用了限制或不受限制的表征其MST密度。在本文中，我们研究了这些发展的自然推广，采用CFUST分布作为参数族的组件分布，并指出，限制和无限制的特征可以统一在这个一般的配方。我们表明，期望最大化算法的精确实现可以实现CFUST分布和混合的分布，并提出了一些新的分析结果的条件期望参与的E-步骤。
2014-01-31 stat.ME
Income inequality estimation with gamma mixtures
University of Brasília（巴西利亚大学）；Federal University of Pelotas（佩洛塔斯联邦大学）
研究伽马分布有限混合下第m个基尼指数估计，推导其闭式表达式及估计器渐近性质，通过蒙特卡罗研究考察不同速率混合下性能，与其他估计器比较，并通过收入数据集分析说明方法。
2026-07-08 stat.ME
Density estimation for compositional data using nonparametric mixtures
针对成分数据在单纯形边界附近变换偏差大的问题，提出非参数狄利克雷混合密度估计框架，避免变换并处理边界值，模拟和真实数据表明其优于现有方法。
2025-10-08 stat.ME
