An Adaptive Covariance Parameterization Technique for the Ensemble Gaussian Mixture Filter
集合高斯混合滤波器结合了高斯混合模型的简单性和强大性以及粒子滤波器的可证明收敛性和强大性。集合高斯混合滤波器的质量很大程度上取决于每个高斯混合中协方差阵的选择。本文基于样本协方差阵的参数化估计,将集合高斯混合滤波器扩展到协方差的自适应选择。通过使用期望最大化算法,以在线方式计算协方差阵参数的最优选择。对Lorenz '63方程的数值实验表明,该方法收敛于粒子滤波中已知的经典结果。进一步的数值试验结果表明,该方法比标准的EnGMF和其他经典的数据同化算法具有更好的性能。
2022-12-20 cs.NA math.NA math.OC
Minimum Mean Square Error Estimation Under Gaussian Mixture Statistics
本文研究了当x和n独立且服从高斯混合分布时,给定观测值y = Hx+n,x的最小均方误差(MMSE)估计. GM分布的引入,代表了对更为常见和简单的高斯信号和高斯噪声情况的推广。我们提出了必要的理论基础,并推导出x的MMSE估计的封闭形式。此外,我们还给出了其均方误差(MSE)的上界和下界。这些界限是通过蒙特卡罗模拟验证。
2011-08-17 math.ST stat.TH
$K$-Means and Gaussian Mixture Modeling with a Separation Constraint
我们考虑的问题,聚类与$K$ -均值和高斯混合模型的约束下,在实值数据的上下文中的中心之间的分离。我们首先提出了一种动态规划方法来解决中心分离约束下的$K$ -均值问题(Wang and Song,2011)。在拟合高斯混合模型的背景下,我们提出了一个期望最大化算法,其中包括这样的约束。分离约束可以帮助正则化聚类算法的输出,我们提供了模拟和真实数据的例子来说明这一点。
2023-01-21 stat.CO
Particle Filtering and Gaussian Mixtures -- On a Localized Mixture Coefficients Particle Filter (LMCPF) for global NWP
在一个全球数值天气预报(NWP)模式框架下,研究了将单个粒子的高斯不确定性引入到局部自适应粒子滤波器(LAPF)同化步骤中的问题。我们得到的先验分布的混合基函数的本地表示。在同化步骤中,滤波器计算各个权重系数和新的粒子位置。它可以被视为LAPF和高斯混合滤波器的局部版本的组合,即,局部混合系数粒子滤波器(LMCPF)。在这里,我们调查的可行性LMCPF在一个全球性的操作框架,并评估先验和后验分布和观察之间的关系。我们的模拟是在一个标准的操作前的实验设置与完整的全球观测系统,52公里的全球分辨率和$10^6$模型变量。计算了同化步骤中粒子运动的统计量。混合方法能够处理先验分布和观测位置之间的差异,在现实世界的框架,并拉粒子对观察在一个更好的方式比纯LAPF。这表明,在粒子滤波器框架中,使用高斯不确定性可以是提高分析和预测质量的重要工具。
2022-06-15 stat.AP
Mean regression for (0,1) responses via beta scale mixtures
University of Pretoria(比勒陀利亚大学);University of the Witwatersrand(威特沃特斯兰德大学)
本文提出beta尺度混合模型,用于更灵活地建模(0,1)响应,通过引入混合随机变量控制尾部行为,提升skewness和kurtosis的适应性,在模拟和真实数据上验证了其优于传统方法的性能。
2026-02-09 stat.ME
Negative Binomial Process Count and Mixture Modeling
在负二项(NB)过程下,计数和混合建模的看似不相交的问题被统一起来。一个伽玛过程的泊松过程,其归一化提供了一个随机的概率测度的混合建模和其边缘化导致一个NB过程的计数建模的速率测量建模。从NB过程中提取的数据由泊松分布的有限数量的不同原子组成,每个原子与对数分布的数据样本数量相关联。我们揭示了各种计数和混合建模分布之间的关系,并构建了一个连接NB和中国餐厅餐桌分布的泊松对数二元分布。的模型的基本属性的开发,我们得到有效的贝叶斯推断。研究表明,通过增广和归一化,NB过程和γ-NB过程可分别化为Dirichlet过程和分层Dirichlet过程.这些关系突出了NB过程的理论、结构和计算优势。还构造了具有不同共享机制的各种NB过程,包括beta-几何、beta-NB、marked-beta-NB、marked-gamma-NB和零膨胀NB过程。这些模型被应用到主题建模,与现有的算法泊松因子分析下的连接。算例结果表明了同时推断NB色散和概率参数的重要性。
2013-10-13 stat.ME stat.ML
Small Area Estimation of Inequality Measures using Mixtures of Beta
本文提出基于Beta混合的贝叶斯层次小区域模型,用于估计基尼、泰尔和Atkinson等不平等指标,在EU-SILC数据上优于标准Beta回归,并推导了近似方差函数。
2023-09-15 stat.AP stat.ME
Spatial Covariance Constraints for Gaussian Mixture Models
University of British Columbia Okanagan Campus(不列颠哥伦比亚大学奥肯那根校区)
本文提出了一种高斯混合模型的空间协方差约束方法,通过减少自由参数数量提升模型效率,并通过模拟和实验验证其有效性。
2026-01-12 stat.ME stat.ML
Scalable and optimal Bayesian inference for sparse covariance matrices via screened beta-mixture prior
本文提出一种结合连续收缩先验与筛选过程的可扩展贝叶斯方法,用于稀疏协方差矩阵估计,解决了“大p,小n”高维问题,并具备确定筛选性质与最优收敛速率。
2023-11-21 stat.ME
Salient Bayesian Clustering for Proportional Data via a Multivariate Beta Mixture Model
Harvard T.H. Chan School of Public Health(哈佛陈曾熙公共卫生学院)
针对社区SDoH比例数据聚类中无关变量干扰的问题,提出嵌入特征显著性的贝叶斯多元Beta混合模型SAMBA-Mix,提升聚类准确性并识别关键决定因素。
2026-09-16 stat.ME
A novel family of beta mixture models for the differential analysis of DNA methylation data: an application to prostate cancer
针对DNA甲基化数据转换导致生物学解释性降低的问题,提出一类beta混合模型(BMMs),通过基于模型的聚类和期望最大化算法直接在未转换数据上识别差异甲基化CpG位点,并在前列腺癌应用中验证了其揭示生物学见解的实用性。
2024-11-15 stat.ME
A Latent Gaussian Mixture Model for Clustering Longitudinal Data
有限混合模型已经成为一种流行的聚类工具。在其他用途中,它们已被应用于聚类纵向数据和聚类高维数据。在后一种情况下,有时使用潜在高斯混合模型。虽然已经有大量的工作,聚类使用潜在变量和聚类纵向数据,分别,一直是一个缺乏的工作,结合这些功能。在扩展的混合公因子分析模型的基础上,提出了一种多时间点纵向数据聚类方法。期望最大化算法的一种变体用于参数估计,贝叶斯信息准则用于模型选择。使用真实和模拟数据的方法来说明。
2018-04-13 stat.ME stat.ML
The Beta-Mixture Shrinkage Prior for Sparse Covariances with Posterior Minimax Rates
稀疏协方差阵的统计推断对于揭示大型多元数据集的相关结构至关重要,但缺乏可扩展的和理论支持的贝叶斯方法。在本文中,我们提出了β-混合收缩先验,计算效率比尖峰和板坯先验,稀疏协方差阵,并建立其在高维设置的极大极小最优性。建议的先验由β混合收缩和伽马先验的非对角和对角条目,分别。为了保证所得到的协方差阵的正定性,我们进一步将先验的支持度限制在正定矩阵的子空间中。在Frobenius范数下,我们得到了诱导后验估计的后验收敛速度,并建立了稀疏协方差阵的极大极小下界。本文所考虑的极小极大下界的稀疏协方差阵类由非零非对角元素的个数控制,比文献中出现的稀疏协方差矩阵类具有更直观的吸引力.除非真的协方差阵是非常稀疏的,否则所得到的后验收敛速度与极大极小下界一致。在模拟研究中,我们表明,所提出的方法是计算效率比竞争对手,同时实现可比的性能。基于两个真实数据集的收缩先验的优点证明。
2021-01-12 math.ST stat.ME stat.TH
Consistent Bayesian Sparsity Selection for High-dimensional Gaussian DAG Models with Multiplicative and Beta-mixture Priors
高维多元数据的协方差阵估计是现代统计学中一个具有挑战性的重要问题。在本文中,我们专注于高维高斯DAG模型,稀疏性诱导的逆协方差阵的Cholesky因子L。在最近的工作中,([Cao,Khare和Ghosh,2019]),我们为分层贝叶斯DAG模型建立了高维稀疏选择一致性,其中Erdos-Renyi先验被放置在Cholesky因子L中的稀疏模式上,并且DAG-Wishart先验被放置在产生的非零Cholesky条目上。在本文中,我们显着改进和扩展这项工作,(a)考虑更多样化和有效的先验的稀疏模式在L中,即β-混合先验和乘法先验,(b)建立稀疏选择一致性显着放宽条件下的p,和真实模型的稀疏模式。我们通过数值模拟证明了我们的理论结果的有效性,并使用进一步的模拟来证明我们的稀疏性选择方法与现有的最先进的方法,包括频率论和贝叶斯方法在各种设置中具有竞争力。
2019-03-08 math.ST stat.ME stat.TH
Finite mixture of skewed sub-Gaussian stable distributions
Gonbad Kavous University(贡巴德卡武斯大学)
我们提出了有限混合偏亚高斯稳定分布。利用期望最大化算法计算有限混合模型参数的极大似然估计。所提出的模型包含正态和偏态正态分布的有限混合。由于所提出的模型的尾部甚至比学生的t分布,它可以被用来作为一个强大的模型,鲁棒的基于模型的聚类。通过对仿真数据和两组真实数据的聚类分析,验证了该模型的有效性。
2022-05-27 cs.LG stat.ME stat.ML
Bayesian inference of Gaussian mixture models with noninformative priors
本文讨论混合高斯分布的贝叶斯推断。一种新的配方的混合模型,其中包括先验约束,每个高斯分量总是分配一个最小数量的数据点。这使得非信息性的不适当的先验,如Jeffreys之前被放置在组件参数上。我们证明了在指定一个标准的高斯混合模型的先验所涉及的困难,并展示了如何新的模型可以用来克服这些。MCMC方法给出了有效的采样从这个模型的后验。
2014-05-19 stat.ME
Generalized Univariate Distributions and a New Asymmetric Laplace Model
这项工作提供了一个调查的一般类的分布产生的混合物的β随机变量。我们提供了一个广泛的文献综述,关于通过逆CDF变换生成新的分布。特别是,我们考虑了beta生成和Kumaraswamy生成的分布族。我们提供了一个简短的总结,他们的每个家庭的分布。我们还提出了一个新的非对称混合分布,这是一个替代beta生成的分布。我们提供了这类新的拉普拉斯模型产生的分布的基本性质。我们还讨论了这个新的斜广义拉普拉斯模型的参数估计问题。
2020-05-11 stat.ME
Bayesian Wasserstein Repulsive Gaussian Mixture Models
本文提出贝叶斯Wasserstein排斥高斯混合模型,基于Wasserstein距离促进聚类分离,并在非参数密度估计框架内建立后验收缩率,验证了其有效性。
2025-04-30 stat.ME
Variational Inference and Sparsity in High-Dimensional Deep Gaussian Mixture Models
本文针对高维深度高斯混合模型拟合困难的问题,提出使用稀疏先验进行贝叶斯推断,并开发了一种可扩展的自然梯度变分推断算法,通过过拟合混合实现高效的架构选择,有效提升了高维数据的聚类效果。
2021-09-01 stat.ME
Model Selection for Gaussian Mixture Models
本文讨论了有限混合模型中的一个重要问题,即混合组分数的选择。提出了一种新的惩罚似然方法用于有限多元高斯混合模型的模型选择。所提出的方法被证明是统计上一致的,在确定的组件的数量。提出了一种改进的期望最大化算法,它可以同时选择混合分量的个数和估计混合权重,即混合概率和高斯分布的未知参数。仿真和实际数据分析,以说明所提出的方法的性能。
2013-01-16 math.ST stat.ME stat.ML
Bayesian mixture modeling using a mixture of finite mixtures with normalized inverse Gaussian weights
Hiroshima University(广岛大学)
研究贝叶斯混合模型中成分数量未知的情况,提出基于归一化逆高斯权重的MFM方法,通过引入潜在变量用块吉布斯采样计算后验,经数值实验和实际数据示例验证性能,还考虑了对动态MFM的扩展。
2026-07-09 stat.ME
Pearson chi^2-divergence Approach to Gaussian Mixture Reduction and its Application to Gaussian-sum Filter and Smoother
高斯混合分布在各种统计问题中是重要的。特别地,它被用于非高斯噪声输入的线性状态空间模型的高斯和滤波器和平滑器。然而,为了使这种方法实用,需要一种有效的方法来减少高斯分量的数量。本文给出了皮尔逊卡方散度的一个封闭表达式,它可以应用于高斯分量序贯约化中两个高斯分量对的确定.通过一维和二维分布模型的数值例子,将表明,在大多数情况下,所提出的标准几乎等同于Kullback-Libler发散,计算成本高的数值积分是必要的。应用高斯和滤波和平滑。
2020-01-03 stat.ME
A transformation-based approach to Gaussian mixture density estimation for bounded data
有限混合高斯分布提供了一个灵活的半参数方法的密度估计时,被调查的变量没有边界。然而,在实际应用中,变量可能是部分有界的(例如取非负值)或完全有界的(例如取单位区间内的值)。在这种情况下,标准高斯有限混合模型将非零密度分配给任何可能的值,甚至分配给定义变量的范围之外的值,因此导致严重的偏差。在本文中,我们提出了一种基于变换的方法高斯混合建模的情况下,有界变量。基本思想是不对原始数据而是对适当变换的数据进行密度估计。然后,原始数据的密度可以通过改变变量来获得。变换参数和高斯混合的参数联合估计的期望最大化(EM)算法。部分和完全有界数据的方法,说明使用模拟数据和真实数据的应用程序。
2018-12-13 stat.ME
A Wasserstein-type Distance for Gaussian Mixtures on Vector Bundles with Applications to Shape Analysis
本文提出向量丛上高斯混合的Wasserstein型距离,建立可识别性理论与最优耦合刻画,并应用于形状空间比较及纳米颗粒制造过程的变点检测。
2023-11-28 stat.ME
Improving Inference of Gaussian Mixtures Using Auxiliary Variables
将一个低维问题扩展到高维空间,然后投影回来通常是有益的。本文在有限混合模型的背景下严格研究了这一观点,即如何通过使用辅助变量来改进混合模型的推理。尽管大量的文献在混合模型和一些经验的例子,有没有以前的工作,给出了一般的理论理由,包括辅助变量的混合模型,即使在特殊情况下。我们提供了一个理论基础,比较推断的混合多元模型与相应的推断边际单变量混合模型。几种特殊情况下的分析结果建立。我们发现,正确分配混合成员的概率和信息数的主要结果的手段,在一个双变量模型与两个高斯混合物一般大于在每个单变量模型。在一系列的情况下,包括错误指定的模型,进行模拟,以检查改进。该方法在生态学和因果推断中的两个实际应用说明。
2014-11-07 stat.ME
A mixture autoregressive model based on Gaussian and Student's $t$-distributions
University of Helsinki(赫尔辛基大学)
本文提出一种结合高斯和学生t分布的混合自回归模型,用于建模包含条件同方差和异方差模式的序列,并通过美国利率差数据验证其有效性。
2020-05-22 econ.EM math.ST stat.ME
Flexible Mixture Modeling with the Polynomial Gaussian Cluster-Weighted Model
在混合建模框架下,本文提出了多项式高斯聚类加权模型(CWM)。它扩展了线性高斯CWM,二元数据,在一个双重的方式。首先,通过考虑多项式回归,它允许混合成分中可能的非线性依赖性。其次,它不限于用于基于模型的聚类,仅在最一般的基于模型的分类框架中进行上下文化。使用期望最大化算法导出极大似然参数估计,并使用贝叶斯信息准则(BIC)和综合完全似然(ICL)进行模型选择。本文还研究了多项式高斯CWM的成分隶属度的后验概率与其它已建立的相关混合模型的成分隶属度的后验概率相一致的条件,对于这些模型,多项式高斯CWM应用于本文所考虑的人工数据和真实数据时,都显示出优良的聚类和分类结果。
2012-07-04 stat.CO stat.ME
Estimating Gaussian mixtures using sparse polynomial moment systems
本文利用多面体几何研究高斯混合模型的矩可识别性,证明一般高斯k-混合模型可由前3k+2个矩识别,并提出路径数随维度线性增长的同伦算法用于高维参数恢复。
2024-06-10 math.AG math.ST stat.ME