Lognormal and Gamma Mixed Negative Binomial Regression
Duke University（杜克大学）
在计数的回归分析中，由于缺乏简单有效的后验计算算法，使得贝叶斯方法显得缺乏吸引力，从而发展不足。我们提出了一个对数正态和伽马混合负二项（NB）回归模型计数，并提出了有效的封闭形式贝叶斯推断，不同于传统的泊松模型，所提出的方法有两个自由参数，包括两种不同的随机效应，并允许将先验信息，如稀疏性的回归系数。通过在NB离散参数r上放置一个Γ分布先验，并将对数正态分布先验与NB概率参数p的logit相联系，得到了有效的吉布斯抽样和变分贝叶斯推断.封闭形式的更新是通过利用条件共轭通过复合泊松表示和Polya-Γ分布为基础的数据增强方法。建议的贝叶斯推断可以实现常规，同时很容易推广到更复杂的设置，涉及多元依赖结构。最后用实例说明了算法的有效性。
2012-06-27 cs.LG stat.AP stat.ME
Gaussian Parsimonious Clustering Models with Covariates and a Noise Component
我们考虑基于模型的聚类方法的连续，相关的数据，占外部信息的混合型固定协变量的存在下，提出了MoEClust套件的模型。这些模型允许协变量的不同子集通过将混合物的参数建模为协变量的函数来影响组分重量和/或组分密度。一个熟悉的范围内的约束特征分解参数的组件协方差阵也容纳。因此，本文讨论了等价的目标，包括协变量的高斯简约聚类模型，并将简约协方差结构的高斯混合专家框架的所有特殊情况下。MoEClust模型在单变量和多变量数据集的应用中从这两个角度都表现出显着的改进。新的扩展，包括一个统一的噪声组件捕获离群值，并解决期望最大化算法的初始化，模型选择，和可视化的结果也提出了。
2021-07-13 stat.ME
Cluster weighted models with multivariate skewed distributions for functional data
MacEwan University（麦考文大学）；Indian Institute of Technology Kanpur（坎普尔印度理工学院）
该研究提出funWeightClustSkew聚类方法，基于函数线性回归模型混合体与三种偏态多元分布，遵循funHDDC框架扩展聚类加权模型至函数数据，构建EM算法估计参数，在模拟数据和空气质量数据集上验证了性能。
2025-04-17 cs.LG stat.ME stat.ML
Parsimonious mixtures of multivariate contaminated normal distributions
多元污染正态分布的混合开发基于模型的聚类。除了经典的正常的混合物的参数，我们的污染的混合物，对于每个集群，一个参数控制温和的离群值的比例和一个指定的污染程度。至关重要的是，这些参数不必事先指定，为我们的方法增加了灵活性。通过分量协方差阵的特征分解引入了简约性，并给出了所有成员可识别的充分条件。一个期望条件最大化算法概述了参数估计和各种实施问题进行了讨论。使用一个大规模的模拟研究，所提出的方法的行为进行了研究和比较，以及建立有限的混合物。这个新的家庭的模型的性能也说明了人工和真实的数据。
2016-05-19 stat.CO stat.ME
MMM: Clustering Multivariate Longitudinal Mixed-type Data
Univ Lyon, Univ Lyon 2, ERIC（里昂大学、里昂第二大学、ERIC）
提出MMM模型，通过矩阵多元正态分布混合在潜在维度聚类多元纵向混合型数据，同时建模异质性与时间依赖，无需条件独立假设。
2025-09-15 cs.LG stat.ME stat.ML
On the modelling of multivariate counts with Cox processes and dependent shot noise intensities
在本文中，我们开发了一种方法来建模和估计几个，依赖计数过程，使用粒度数据。具体来说，我们开发了一个多变量Cox过程与散粒噪声强度共同建模计数（如保险索赔）的到达过程。利用Lévy Copula函数将多变量散粒噪声强度过程连接起来，引入了相关结构.总的来说，我们的方法允许（i）每个业务线内的过度分散和自相关性;（ii）涉及时变、已知协变量的现实特征;以及（iii）过程之间的简约依赖性，而不需要同时的主要（例如事故）事件。明确纳入随时间变化的，已知的协变量可以适应真实数据的特性，从而促进在实践中的实施。在保险方面，这些可能是保单数量随时间的变化，以及季节性模式和趋势，这可以解释多个索赔流程之间的一些关系（依赖性），或者至少有助于梳理这些关系。最后，我们开发了一个过滤算法的基础上的可逆跳马尔可夫链蒙特卡罗（RJMCMC）方法来估计潜在的随机强度和说明模型校准使用真实数据从AUSI数据集。
2020-12-03 q-fin.RM stat.AP
Variational inference for probabilistic Poisson PCA
许多应用领域，如生态学或基因组学必须处理多元非高斯观测。一个典型的例子是在一系列地点联合观察一组物种各自的丰度，旨在了解这些物种之间的共同变异。高斯设置提供了一种规范的方式来建模这种依赖关系，但通常不适用。在这里，我们考虑多元指数家庭的框架，我们介绍了一个通用的模型与多元高斯潜变量。我们表明，近似极大似然推理可以通过一个变分算法，梯度下降很容易适用。我们表明，这种设置使我们能够考虑协变量和偏移量。然后，我们专注于泊松对数正态模型的情况下，社区生态。我们证明了我们的算法对微生物生态学数据集的效率。我们说明了会计的协变量的影响，以更好地了解物种之间的相互作用的重要性。
2018-04-30 stat.ME
Vector Vine Copula Models for Multivariate Longitudinal Data
Melbourne Business School, University of Melbourne（墨尔本商学院，墨尔本大学）
本文提出向量可绘制藤（VD-vine）连接函数模型，将传统藤扩展到向量节点以处理多元纵向数据的非高斯边际和非线性序列依赖，通过递归条件传输实现高效推断，并在模拟和八波澳大利亚面板数据中验证了其预测优势。
2026-09-18 econ.EM stat.ME
Modal clustering on PPGMMGA projection subspace
PPGMMGA是一种投影寻踪（PP）算法，旨在检测和可视化多变量数据中的聚类结构。该算法采用高斯混合模型拟合得到的负熵作为PP指标进行密度估计，并利用遗传算法进行优化。由于PPGMMGA算法是专门为可视化目的引入的降维技术，因此未明确提供聚类成员。本文提出了一种模态聚类方法，用于估计投影数据点的聚类。特别地，采用模态期望最大化算法来估计对应于使用简约高斯估计的基础密度的投影子空间中的局部最大值的模式。然后根据所识别的模式的吸引域对数据点进行聚类。仿真和真实数据进行了讨论，以说明所提出的方法和评估的聚类性能。
2021-10-21 stat.CO stat.ME
Four-Moment Approximations and Fast $p$-Values for BHEP Tests of Multivariate Normality
Karlsruhe Institute of Technology (KIT)（卡尔斯鲁厄理工学院）
本文推导了BHEP多元正态性检验极限分布的第四累积量，并基于前四阶矩构造Johnson和Pearson近似，实现了无需特征值计算的快速精确$p$值计算。
2026-09-29 math.ST stat.TH
Parsimonious Mixtures of Matrix Variate Bilinear Factor Analyzers
多年来，数据已经变得越来越高维，这促使对降维技术的需求增加。这对于聚类（无监督分类）以及半监督和监督分类可能尤其如此。在文献中已经提出了许多方法用于双向（多变量）数据，并且最近已经提出了用于三向（矩阵变量）数据的方法。一种这样的方法是混合矩阵变量双线性因子分析器（MMVBFA）模型。在这里，我们提出了总共64个简约的MMVBFA模型。模拟和真实数据用于说明。
2019-11-20 stat.CO stat.ME
Sloshing in the LNG shipping industry: risk modelling through multivariate heavy-tail analysis
在液化天然气（LNG）运输工业中，晃动现象可导致船舶的罐中出现非常高的压力。从风险评估的角度来看，建立模型或估计同时发生这种极端压力的概率问题现在至关重要。在本文中，重尾模型，广泛使用的保守的方法来进行风险评估和相应的最坏情况下的风险分析，应用到晃动的研究。考虑了多变量重尾分布，通过装有d >1传感器的小型仿形油箱研究了晃动压力。当试图拟合这种非参数统计模型时，人们自然会面临维数现象所固有的计算问题。本文的主要目的是通过引入一种新的方法来克服这一障碍。对于d维重尾分布，极值依赖的结构完全由角测度表征，角测度是一个在Rd中具有正正交的球面相交处的正测度。随着d的增加，变量之间的相互极值依赖性变得难以评估。基于谱聚类方法，我们在这里展示了如何低维近似的角度measure.The非参数方法提出的模型晃动已成功地应用于压力数据。由此得到的简约表示证明是非常方便的模拟多变量重尾分布，允许实施蒙特卡洛模拟计划估计故障概率。除了确认其性能的人工数据，该方法已实施的一个真正的数据集，专门收集的风险评估晃荡在液化天然气运输业。
2013-11-29 math.ST stat.TH
Cluster weighted models for functional data
本文提出 funWeightClust 方法，将聚类加权模型扩展到函数型数据，并通过 EM 算法估计参数，在模拟与基准数据上优于 funHDDC 等现有方法，成功应用于埃德蒙顿交通模式分析。
2025-03-07 stat.ME stat.ML
A covariance regression model
经典回归分析将响应变量的期望值与解释变量的线性组合联系起来。在这篇文章中，我们提出了一个协方差回归模型，参数化的协方差阵的多元响应向量作为一个简约的二次函数的解释变量。该方法类似于均值回归模型，也类似于因子分析模型，其中因子载荷取决于解释变量。使用随机效应表示，模型的参数估计是直接使用EM算法或MCMC近似通过吉布斯抽样。所提出的方法提供了一个简单而灵活的表示异方差水平的解释变量，提高了估计的平均函数，并给出更好的校准预测区域相比，同方差模型。
2011-02-28 stat.ME
First-order multivariate integer-valued autoregressive model with multivariate mixture distributions
本文提出一阶多元整数值自回归模型以灵活刻画多元整数值时间序列的相关结构，建立平稳性与遍历性，并基于EM算法进行参数估计，通过模拟和真实犯罪数据验证了模型优势。
2023-11-30 stat.CO stat.ME
A Multivariate Graphical Stochastic Volatility Model
高斯图形模型（GGM）是一种流行的工具，用于将稀疏性纳入联合多元分布。G-Wishart分布是满足一般GGM约束的精度矩阵的共轭先验，已经存在了十多年。然而，由于缺乏一个直接采样器，它的使用已被限制在分层贝叶斯上下文中，降级的混合GGM类主要涉及标准高斯似然的情况。然而，最近的工作，已经开发出的方法，耦合模型和参数的移动，首先通过可逆的跳跃方法，后来直接评估条件贝叶斯因子和随后的rescue。此外，已经提出了避免先前归一化常数计算的方法-这是一个严重的瓶颈和数值不稳定性的来源。我们回顾和澄清这些发展，然后提出一个新的方法GGM比较，融合了许多最近的主题。理论发展和计算时序实验揭示了一种算法，具有有限的计算需求，并显着提高了现有方法的计算时间。最后，我们开发了一个简约的多元随机波动模型，嵌入GGM的不确定性在一个更大的层次框架。该方法被证明是能够适应极端波动的市场波动在2008年经历了雷曼兄弟公司倒闭后，提供了相当大的改善后验预测分布校准。
2012-05-12 stat.CO
Variational inference for sparse network reconstruction from count data
在多元统计中，寻找直接交互作用的问题可以被表述为网络推理或网络重构的问题，高斯图模型（GGM）为这个问题提供了一个规范的框架。不幸的是，高斯假设不适用于在基因组学，社会科学或生态学等领域遇到的计数数据。为了规避这种限制，最先进的方法使用两步策略，首先将计数转换为伪高斯观测，然后应用来自GGM推断的丰富文献的基于（部分）相关性的方法。我们采取不同的立场，依靠一个潜在的模型，我们直接建模计数的泊松分布的条件是潜在的（隐藏的）高斯相关变量。在这个多变量泊松对数正态模型中，依赖结构完全被潜在层捕获。该参数模型能够解释协变量对计数的影响。为了执行网络推理，我们在潜在高斯向量的逆协方差阵上添加稀疏诱导约束。与通常的高斯设置，惩罚的可能性一般是不听话的，而不是我们诉诸于变分近似似然最大化的方法。相应的优化问题是通过交替梯度上升的变分参数和图形的协方差阵上的拉索步骤。我们表明，我们的方法是非常有竞争力的，与现有的方法模拟启发从微生物数据。然后，我们说明了三个不同的数据集如何通过偏移和整合外部协变量（这在现有文献中大多是从来没有做过）的采样努力会计大幅改变推断网络的拓扑结构。
2018-06-08 stat.ME
Analytical Quantile Solution for the S-distribution, Random Number Generation and Statistical Data Modeling
选择特定的统计分布很少是一个简单的问题。一种策略是测试不同的分布（正态分布、对数正态分布、威布尔分布等），以及选择对观测数据提供最佳拟合并且最简约的一个。或者，人们可以根据理论参数进行选择，并简单地将相应的参数与观察到的数据拟合。在任何一种情况下，不同的分布都可以给出类似的结果，并提供几乎相等的结果。当目标是描述给定变量的分布趋势时，模型选择可能会更加复杂。在这些情况下，形状和偏度的变化很难用单一的分布形式来表示。作为使用复杂的分布族作为数据模型的替代方案，S分布[{ \sc Voit，E.O.（1992）Biom.J. 7：855-878]提供了高度灵活的数学形式，其中密度被定义为累积的函数。除了代表众所周知的分布，S分布提供了无限的新的可能性，不符合已知的经典分布。在本文中，我们得到了一个解析解的分位数方程，高度简化了使用的S-分布。我们展示了这种解决方案在不同应用中的实用性。在对S-分布在参数空间中的不同定性行为进行分类之后，我们展示了如何获得满足特定约束的不同S-分布。一个有趣的例子是得到满足P（X <= X_c）=0的分布的可能性。然后，我们表明，分位数的解决方案，有利于使用S-分布在蒙特卡洛实验通过生成的随机样本。最后，我们将展示如何将S分布拟合到实际数据中，以便将所得分布用作它们的统计模型。
2019-10-11 math.ST stat.TH
Finite Mixtures of Multivariate Poisson-Log Normal Factor Analyzers for Clustering Count Data
本文提出基于协方差约束的多元泊松-对数正态因子分析器混合模型，用于计数数据聚类，通过变分推断估计参数，在RNA测序数据上表现良好。
2023-11-13 stat.CO stat.ME stat.ML
Clustering Multivariate Data using Factor Analytic Bayesian Mixtures with an Unknown Number of Components
最近的工作过拟合贝叶斯混合分布提供了一个强大的框架，使用潜在的高斯模型，类似于因子分析模型的聚类多变量数据。过拟合混合模型提供的灵活性产生了一个简单而有效的方法，以估计未知数量的集群和模型参数的马尔可夫链蒙特卡罗（MCMC）抽样。本研究通过考虑一组8个参数化扩展了这种方法，从而产生了每个聚类的协方差阵的简约表示。为了近似地从过拟合混合物的后验分布中采样，实现了与先前的并行回火方案相结合的Gibbs采样器。根据贝叶斯信息准则选择参数化和因子数。与标签切换相关的可识别性问题通过使用等价类代表算法对模拟输出进行后处理来处理。贡献的方法和软件进行了演示和比较，类似的模型估计使用期望最大化算法的模拟和真实的数据集。该软件可在https://CRAN.R-project.org/package=fabMix上在线获得。
2019-06-02 stat.CO stat.ME
Efficient Bayesian Multivariate Surface Regression
在统计文献中，选择加性样条模型中固定节点位置的方法已经相当成熟。虽然这些方法中的大多数原则上可直接扩展到非加性表面模型，但由于维数灾难，特别是当存在多个协变量时，它们在该设置中不太可能成功。我们提出了一个多元高斯响应的回归模型，它结合了添加剂样条和交互式样条，以及一个高效的MCMC算法，共同更新所有的结的位置。我们使用收缩先验来避免过拟合，对于模型的添加剂和表面部分使用不同的估计收缩因子，并且对于不同的响应变量使用不同的收缩参数。这使得模型能够以一种简约的方式适应数据不同部分的不同程度的非线性。模拟数据和应用程序，以坚定的杠杆数据表明，该方法是计算效率高，并允许自由估计结的位置可以提供一个显着的改善样本外的预测性能。
2012-10-04 stat.AP stat.CO stat.ME
Penalized Clustering of Large Scale Functional Data with Multiple Covariates
在这篇文章中，我们提出了一个惩罚聚类方法的大规模数据与多协变量通过功能数据的方法。在所提出的方法中，响应和协变量通过非参数多元函数（固定效应）连接在一起，这在建模各种函数特征（如跳跃点、分支和周期性）方面具有很大的灵活性。函数方差分析被用来进一步分解多变量函数在一个再生核希尔伯特空间，并提供相关的主效应和相互作用的概念。使用简约的随机效应来捕获各种相关性结构。混合效应模型被嵌套在一个一般的混合模型下，其中函数数据的异质性的特点。我们提出了一个惩罚亨德森的似然方法的模型拟合和设计拒绝控制的期望最大化算法的估计。我们的方法通过广义交叉验证来选择平滑参数。此外，贝叶斯置信区间被用来衡量聚类的不确定性。仿真研究和实际数据的例子，调查所提出的方法的经验性能。开源代码在R包MFDA中提供。
2008-01-16 stat.CO stat.ME
Fast and Accurate Variational Inference for Models with Many Latent Variables
通常使用具有大量潜变量的模型来充分利用大数据或复杂数据中的信息。然而，它们可能难以使用标准方法来估计，并且变分推断方法是流行的替代方法。这些方法成功的关键是选择目标密度的近似值，该近似值是准确的、易处理的并且可以使用优化方法快速校准。当存在许多潜在变量时，大多数现有的选择可能不准确或校准缓慢。在这里，我们提出了一个家庭的易于处理的变分近似，更准确，更快地校准这种情况下。它结合了一个简约的参数近似的参数后验，与确切的条件后验的潜变量。我们推导出一个简化的表达式的重新参数化梯度的变分下界，这是有效的优化算法用于实现变分估计的主要成分。要做到这一点，只需要能够从潜变量的条件后验精确或近似地生成，而不是计算其密度。我们用两个复杂的当代计量经济学的例子来说明。第一个是美国宏观经济变量的非线性多变量状态空间模型。第二个是随机系数托比特模型，应用于一项市场研究中的大型消费者小组中的2万人的200万笔销售额。在这两种情况下，我们表明，我们的近似家庭是相当准确的平均场或结构高斯近似，比马尔可夫链蒙特卡罗和更快。最后，我们展示了如何实现数据子采样的变分推断我们的近似，这可以导致进一步减少计算时间。补充材料中包含实现我们示例方法的MATLAB代码。
2021-04-18 econ.EM stat.ME
Filtrated Common Functional Principal Components for Multivariate Functional data
局部场电位（LFP）是测量来自人类或动物大脑中植入的四极的局部皮质区域中的电活动的信号。LFP信号是在跨皮层表面上的贴片植入的多个四极处观察到的曲线。因此，它们可以被视为多组功能数据，其中从一个四极管跨时间历元收集的轨迹被视为一组功能。在许多情况下，多四极管LFP轨迹包含全局变化模式（由于信号同步，其对所有组共同共享）和孤立变化模式（仅对组的小子集共同）两者，并且这种结构对于这种数据的分析是非常有用的。因此，本文的一个目标是开发一个有效的程序，能够捕获和量化的全球和孤立的功能。我们提出了一种新的树结构的功能主成分（filt-fPC）分析，通过有限维功能表示-特别是通过过滤。所提出的filt-fPC方法的主要优点是能够以灵活的“多分辨率”方式提取多个组（或四极体）共有的组分，并且同时保留不同四极体的特异性个体组分。所提出的filt-fPC方法是高度数据驱动的，并且不需要“地面实况”模型预规范，使其成为分析复杂的多组功能数据的合适方法。此外，filt-fPC方法能够产生具有正交基函数的多组函数数据的简约、可解释且高效的低维表示。在这里，建议的filt-fPCA方法研究的冲击（诱导中风）对大鼠大脑的同步结构的影响。
2022-11-26 stat.CO stat.ME
Variable Selection for Latent Class Analysis with Application to Low Back Pain Diagnosis
确定与腰痛疾病相关的最相关临床标准可能有助于评估疼痛的性质，从而有效地告知患者评估和治疗。关于腰痛的数据可以是分类性质的，以检查表的形式，其中每个项目表示存在或不存在临床状况。潜在类别分析是一种基于模型的聚类方法，用于多变量分类响应，可应用于此类数据，用于疼痛类型的初步诊断。在这项工作中，我们提出了一个变量选择方法，潜在的类分析适用于选择最有用的变量，在检测组结构的数据。该方法是基于两个不同的模型的比较，并允许丢弃那些没有组信息的变量和那些变量携带相同的信息作为已经选定的。我们考虑一个交换逐步算法，在每一步的模型进行比较，通过近似其贝叶斯因子。该方法适用于选择的临床标准最有用的聚类患者在不同的类别。它被证明是执行一个简约的变量选择，并给出聚类性能相比，基于专家的分类的患者分为三类的疼痛。
2018-02-05 stat.AP stat.CO stat.ME
