Functional principal component analysis as an alternative to mixed-effect models for describing sparse repeated measures in presence of missing data
本研究提出用非参数的函数主成分分析(FPCA)替代混合效应模型处理稀疏重复测量纵向数据,验证其在不同缺失机制下的稳健性,并应用于痴呆前认知轨迹分析,揭示了确诊前认知下降的加速特征。
2024-07-10 stat.ME
Bayesian linear mixed models using Stan: A tutorial for psychologists, linguists, and cognitive scientists
随着R软件包nlme和lme 4的出现,线性混合模型(Linear mixed models,LMM)已经广泛应用于心理学、语言学和认知科学等实验驱动的领域。本教程使用概率编程语言Stan在贝叶斯框架中提供了一个实用的介绍。我们选择Stan(而不是WinBUGS或JAGS),因为它提供了一个优雅且可扩展的框架,用于在大多数Lebron标准应用程序中拟合模型。我们让读者轻松适应日益复杂的LIFE,首先使用两个条件的重复测量自定进度的阅读研究,其次是一个更复杂的$2\times 2$重复测量析因设计,可以推广到更复杂的设计。
2015-06-20 stat.ME
Double Machine Learning for Partially Linear Mixed-Effects Models with Repeated Measurements
提出基于双重机器学习的半线性混合效应模型估计方法,通过非参数回归调整变量,实现固定效应的半参数有效估计,并在模拟与HIV数据中验证了优越性。
2022-02-03 math.ST stat.ME stat.ML
A Latent Gaussian Process Model with Application to Monitoring Clinical Trials
在许多临床试验中,治疗需要重复应用,因为疾病在长时间缓解后经常复发(例如,35周)。大多数统计学研究集中在总体试验设计上,如样本量和功效计算,或集中在试验完成后的数据分析上。在提高试验监测效率方面做得很少,例如因无效而提前终止试验。这种试验监测所面临的挑战主要是由于需要对患者的重复结果进行适当建模。我们提出了一个贝叶斯试验监测计划的临床试验重复和潜在的循环二进制结果。我们构建了一个潜在的高斯过程(LGP)模型离散的纵向数据在这些试验。LGP描述了引起观察到的纵向二元结果的潜在过程。研究了该模型的后验一致性。后验推理采用混合蒙特卡罗算法。在各种临床场景下进行模拟研究,并根据现实生活中的试验报告了一个案例研究。
2014-03-31 stat.ME
Missing Value Imputation for Mixed Data via Gaussian Copula
缺失数据插补是许多数据分析流程的第一个关键步骤。对于混合数据集,包括真实、布尔和有序数据,挑战最大,其中用于插补的标准技术无法进行基本的健全性检查:例如,插补值可能不遵循与数据相同的分布。本文提出了一种新的半参数算法来填补缺失值,没有调整参数。该算法将混合数据建模为高斯copula。该模型可以拟合连续变量的任意边缘,并且可以处理具有许多水平的有序变量,包括布尔变量作为特殊情况。本文提出了一种有效的近似期望最大化算法,用于估计不完全混合数据的copula参数。由此产生的模型揭示了变量之间的统计关联。几个合成和真实数据集上的实验结果表明,我们提出的算法的优越性国家的最先进的混合数据的插补算法。
2020-06-16 stat.ME
Model-based clustering of Gaussian copulas for mixed data
混合数据的聚类是一个具有挑战性的问题。在概率框架中,主要的困难是由于缺乏这种数据的传统分布。在本文中,我们建议实现混合数据聚类与高斯copula混合模型,因为copula,特别是高斯的,是强大的工具,很容易建模的多元变量的分布。实际上,考虑到连续、整数和有序变量的混合(因此都具有累积分布函数),该copula混合模型定义了类似于高斯混合的分量内依赖性,因此具有经典相关性含义。同时,它保留了与连续、整数和有序特征相关联的标准边缘,即高斯分布、泊松分布和有序多项分布。作为一个有趣的副产品,建议的混合模型推广了许多著名的,也提供了基于参数的可视化工具。在实践层面上,保留了贝叶斯推断,并使用Metropolis-within-Gibbs采样器实现。模拟和真实数据集上的实验最终说明了混合数据的模型的预期优势:灵活和有意义的参数化与可视化功能相结合。
2015-09-29 stat.ME
Compositionally-warped additive mixed modeling for a wide variety of non-Gaussian spatial data
随着地理信息系统的发展,非高斯空间数据集变得越来越大,越来越多样化。本研究开发了一个快速灵活的非高斯回归,特别是空间/时空建模的一般框架。开发的模型,被称为成分翘曲的加性混合模型(CAMM),结合了添加剂混合模型(AMM)和成分翘曲的高斯过程建模各种各样的非高斯连续数据,包括空间和其他影响。建议的CAMM的一个具体的优点是,它不需要显式的数据分布假设不同于现有的AMM。蒙特卡罗实验表明,CAMM的估计精度和计算效率的建模非高斯数据,包括厚尾和/或偏态分布。最后,将该模型应用于犯罪数据,以检验回归分析和预测的实证性能。结果表明,CAMM提供了直观合理的系数估计,并在预测精度方面优于AMM。CAMM被证明是一个快速和灵活的模型,有可能涵盖各种非高斯数据建模。所提出的方法是在R包spmoran中实现的。
2021-06-22 stat.ME
Bayesian Nonlinear Models for Repeated Measurement Data: An Overview, Implementation, and Applications
非线性混合效应模型已成为一个标准的分析平台,当数据是在连续和重复测量的受试者从一个感兴趣的人口的形式,而受试者的时间曲线通常遵循非线性趋势。虽然非线性混合效应模型的频率论分析有着悠久的历史,但直到20世纪80年代末,模型的贝叶斯分析才受到相对较少的关注,主要是由于贝叶斯计算的耗时性。自20世纪90年代初以来,贝叶斯模型方法开始出现,以利用计算能力的快速发展,最近,由于(1)量化参数估计的不确定性的优越性,(2)将先验知识结合到模型中的实用性,(3)将先验知识引入到模型中,(4)将先验知识引入到模型中,(5)将先验知识引入到模型中。以及(3)灵活性,以准确地匹配来自不同工业和学术领域的日益复杂的科学研究。这篇综述文章概述了非线性混合效应模型的建模策略,以实现贝叶斯方法,从设计一个科学问题的现实生活中的问题,以实际计算。
2022-03-02 stat.CO stat.ME
An Efficient Two-Dimensional Functional Mixed-Effect Model Framework for Repeatedly Measured Functional Data
本文针对可穿戴设备重复测量的函数型数据提出二维函数型混合效应模型(2dFMM)及快速三阶段估计方法,并用于揭示青少年身体活动与心理健康的日内和日间动态关联。
2024-09-05 stat.AP stat.ME
CoMET: A Compressed Bayesian Mixed-Effects Model for High-Dimensional Tensors
The University of Iowa(爱荷华大学);University of Florida(佛罗里达大学)
CoMET是一种用于高维张量数据的压缩贝叶斯混合效应模型,通过结构化随机投影和低秩分解实现高效计算与预测。
2026-02-22 stat.ME
Reference-based sensitivity analysis for repeated count outcomes using negative binomial margins and a Gaussian copula
Cytel Inc.(Cytel公司);University of the Free State(自由州大学);KU Leuven(荷语鲁汶大学);Stellenbosch University(斯泰伦博斯大学);Utrecht University(乌得勒支大学)
本研究提出基于高斯copula和负二项边缘分布的参考-based多重插补方法,用于纵向计数结果,通过模拟和实例验证了其在敏感性分析中的有效性。
2026-09-29 stat.ME
Mixed Effects Envelope Models
当随着时间的推移重复收集多个度量时,响应之间通常存在冗余。包络方法是近年来提出的一种在不损失信息的情况下对多变量响应进行降维的方法。它比标准的最小二乘估计器具有更高的效率。本文将包络方法推广到具有非平衡设计和时变预测变量的纵向数据混合效应模型。我们表明,我们的模型提供了更有效的估计比混合效应模型中的标准估计。在模拟和控制糖尿病心血管风险行动(ACCORD)研究中观察到所提出的方法比标准混合效应模型估计的准确性和效率提高。
2021-03-24 stat.ME
Geodesic Mixed Effects Models for Repeatedly Observed/Longitudinal Random Objects
本文针对度量空间中复杂纵向随机对象提出测地混合效应回归,以测地线刻画均值轨迹并用Fréchet回归恢复路径及建模协变量效应,证明了估计量的渐近收敛性。
2023-07-11 math.ST stat.ME stat.TH
Probabilistic Missing Value Imputation for Mixed Categorical and Ordered Data
许多真实世界的数据集包含缺失条目和混合数据类型,包括分类和有序(例如连续和有序)变量。由于许多数据分析管道需要完整的数据,因此有必要对缺失的条目进行插补,但这对于混合数据来说尤其具有挑战性。提出了一种基于扩展高斯Copula模型的概率填补方法,该模型支持单重填补和多重插补。该方法使用潜在高斯分布对混合分类和有序数据进行建模。分类变量的无序特征显式建模使用argmax算子。该方法对数据边缘没有任何假设,也不需要调整任何超参数。在合成数据集和真实数据集上的实验结果表明,对于混合数据中的分类变量和有序变量,扩展高斯Copula的插补性能优于当前最先进的插补方法。
2022-10-13 stat.ME
Bayesian Quantile-Based Joint Modelling of Repeated Measurement and Time-to-Event data, with an Application to Lung Function Decline and Time to Infection in Patients with Cystic Fibrosis
背景资料:重复测量和事件发生时间数据联合建模的最广泛使用的方法是将重复测量的线性高斯随机效应模型与事件发生时间结果的对数高斯脆弱性模型相结合,通过随机效应和对数脆弱性之间的某种形式的相关结构将两者联系起来。在这种方法中,假设协变量影响重复测量数据的平均响应曲线。目标:有些应用程序提出了本结构无法涵盖的实质性问题。例如,囊性纤维化(CF)研究中的一个重要问题是了解患者的肺功能轨迹对其获得各种感染的风险的影响,以及这在肺功能分布的不同分位数下如何变化。研究方法:出于这个问题,我们开发了一个联合分位数建模框架,在本文中与相关的马尔可夫链蒙特卡罗算法的贝叶斯推断。结果:从共同关节模型到分位数回归的转换成功,并应用于来自英国的CF数据。该方法有助于检测不同分位数中肺功能下降与感染发作之间关系的总体差异。结论:不考虑特殊异方差结构的联合建模在某些研究问题中是不够的,需要向均值以外的模型扩展。
2016-09-09 stat.ME
Semiparametric imputation using latent sparse conditional Gaussian mixtures for multivariate mixed outcomes
本文提出了一种灵活的贝叶斯方法,多重插补使用条件高斯混合。我们引入了新的收缩先验的协变量依赖的混合比例的混合模型,自动选择合适的数量的组件中使用的插补步骤。我们通过马尔可夫链蒙特卡罗方法开发了一种用于后验计算和多重插补的高效采样算法。所提出的方法可以很容易地扩展到的情况下,数据不仅包含连续变量,但也离散变量,如二进制和计数值。我们还提出了近似贝叶斯推断的损失函数定义的参数的基础上的后验预测分布的缺失观测,通过扩展基于Bootstrap的贝叶斯推断的完整数据。所提出的方法是通过模拟和真实数据的数值研究证明。
2022-08-16 stat.ME
Laplace Approximations for Mixed-Effects and Gaussian Process Quantile Regression
ETH Zurich(苏黎世联邦理工学院);Lucerne University of Applied Sciences and Arts(卢塞恩应用科学与艺术大学)
本文提出了一种适用于混合效应和高斯过程分位数回归的拉普拉斯近似方法,通过分析信息和预期损失的曲率来克服非对称拉普拉斯似然下的计算障碍,提高了计算效率和准确性。
2026-08-20 stat.ME
Manifold-Constrained Gaussian Processes for Inference of Mixed-effects Ordinary Differential Equations with Application to Pharmacokinetics
本文提出了一种在贝叶斯框架下扩展的流形约束高斯过程方法,用于推断混合效应常微分方程模型,解决了药代动力学建模中受试者层面不确定性量化缺失的问题,并在模拟和HIV联合治疗真实数据中验证了其快速准确的推断能力。
2025-06-27 stat.ME
A unified approach to outlier identification for mixed-type continuous/ordinal data
Imperial College London(帝国理工学院);University of Bologna(博洛尼亚大学)
提出一种针对连续和有序变量混合数据集的异常值识别方法,基于稳健最小协方差行列式估计和潜在高斯模型,实现高检测率和低误报率。
2026-11-04 stat.ME
Multilevel latent Gaussian process model for mixed discrete and continuous multivariate response data
我们提出了一个混合有序和连续多元数据的贝叶斯模型来评估一个潜在的空间高斯过程。我们提出的模型可以用于在许多情况下,在努力量化一个不可观察的连续测量观察到的混合连续和离散的多变量响应。在我们的例子中,潜在的,或不可观察的测量是湿地条件。虽然在每个位置的模型产生的潜在的湿地条件变量的预测值不持有任何内在的价值,湿地条件值的相对大小的兴趣。此外,通过在模型中包含点参考协变量,我们能够在新位置对潜在随机变量和多变量响应进行预测。最后,该模型生成与未观察到的潜在随机场相关的多变量响应的秩。这是一个重要的结果,因为它使我们能够确定哪些响应变量与潜变量最密切相关。我们的方法提供了一种替代传统的指数的基础上最好的专业判断,经常使用的生态学。我们应用我们的模型来评估在科罗拉多州的北普拉特河和格兰德河流域的湿地条件。该模型有利于在多个地点的湿地条件的比较,并在现场测量的重要性排名。
2013-03-23 stat.ME
On trend and its derivatives estimation in repeated time series with subordinated long-range dependent errors
对于时间上规则分布的数据集,有很多方法可以使用,并且这些方法的性质得到了广泛的研究。对于具有复杂相关结构的不规则时态数据集,尽管这类数据集广泛存在,但对受测量误差影响的数据集的研究较少。本文研究了在测量误差相关和不规则采样间隔下,核函数平滑器对趋势及其导数的平滑性能。假设误差过程是服从高斯长记忆过程,具有变化的边缘分布。导出了趋势及其导数估计量的泛函中心极限定理,并讨论了带宽选择问题。
2018-03-14 stat.ME
Penalized EM algorithm and copula skeptic graphical models for inferring networks for mixed variables
本文研究了高斯copula图模型中稀疏精度矩阵的估计方法,对连续变量、二元变量、计数变量和离散序变量的网络进行重构。我们提出两种方法:$\ell_1$用Monte Carlo期望最大化算法(copula EM glasso)惩罚扩展秩似然,用copula Gaussian图模型的成对copula估计惩罚copula怀疑。所提出的方法有助于推断网络所产生的非正态和混合变量。我们通过对乳腺癌基因组和临床数据以及玉米遗传学数据的模拟研究和分析来证明我们的方法的性能。
2014-01-21 stat.ME
Regularising Generalised Linear Mixed Models with an autoregressive random effect
我们在面板数据(在不同时间点对多个个体进行测量)的背景下讨论了广义线性混合模型(GLMM)的期望最大化(EM)算法的正则化版本。使用解释变量集X和两个随机效应,通过GLMM对随机响应y建模。第一个引入了个体内部的依赖性,而第二个体现了所有个体共享的序列相关的时间特异性效应。假设X中的变量很多且冗余,因此回归需要正则化。在这种情况下,我们首先提出了一个L2惩罚的期望最大化算法,然后监督组件为基础的正则化期望最大化算法作为替代。
2019-08-09 stat.ME
Improved prediction of extreme random effects in joint models: WRaPs
Ghent University(根特大学)
针对联合模型中极端随机效应预测的回归均值问题,提出加权随机效应预测器(WRaPs),通过最小化加权平方预测误差来改善尾部估计,并在贝叶斯框架下提供解析解和MCMC计算方案。
2026-06-18 stat.ME
Inference in Gaussian state-space models with mixed effects for multiple epidemic dynamics
根据现有数据估计流行病的控制参数是一项重大挑战。除了通常的问题(数据往往不完整和嘈杂),同一性质的流行病可能会在几个地方或在不同时期观察到。由此产生的流行病之间可能的变异性很少得到明确考虑。在这里,我们建议通过一个独特的模型,将每个流行病的随机表示,并从噪声和部分观测联合估计其参数来处理多种流行病。通过建立在以前的工作,高斯状态空间模型扩展到一个模型的混合效应的参数同时描述几种流行病及其观察过程。通过将SAEM算法与卡尔曼滤波相结合,提出了一种合适的推理方法。利用SIR仿真数据研究了其性能。我们的方法优于单独处理每个数据集的推理方法。SEIR流感疫情在法国几年来使用的发病率数据的应用程序也进行了,提出了一个新版本的过滤算法。参数估计强调了流感季节之间在传播和病例报告方面不可忽略的变异性。我们的研究的主要贡献是严格和明确的帐户之间的多个疫情之间的变异性,无论是从建模和推理的观点。
2021-09-17 stat.ME
Scale mixture of skew-normal linear mixed models with within-subject serial dependence
在纵向研究中,随着时间的推移收集重复测量,因此它们往往是连续相关的。在本文中,我们考虑了由Lachos等人(2010)引入的偏态正态/独立线性混合模型的扩展,其中误差项具有依赖结构,例如阻尼指数相关或p阶自回归相关。当连续重复测量序列相关时,所提出的模型提供了同时捕获偏态和重尾效应的灵活性。对于这个鲁棒模型,我们提出了一个有效的EM型算法计算参数的极大似然估计和观察到的信息矩阵解析推导出占标准误。该方法是通过应用程序来说明精神分裂症的数据和几个模拟研究。所提出的算法和方法在新的R包skewlmm中实现。
2020-08-12 math.ST stat.ME stat.TH
Bayesian Inference for Gaussian Mixed Graph Models
我们引入先验和算法来执行贝叶斯推断的高斯模型定义的非循环有向混合图。这类图由有向边和双向边组成,是条件独立的表示,它在边缘化下是封闭的,并且自然地从允许不可测量的混杂的因果模型中产生。给出了这种模型的蒙特卡罗方法和变分近似。我们的贝叶斯推断算法允许评估几个感兴趣的数量的后验分布,包括因果关系的影响,不能单独从数据中识别,但可以推断出信息先验知识的混淆。
2012-06-27 cs.AI stat.ME
Progression models for repeated measures: Estimating novel treatment effects in progressive diseases
重复测量的混合模型(MMRM)在临床试验结果分析中是普遍存在的。然而,这些模型中固定效应结构的线性在很大程度上限制了其用于估计处理效应(定义为结局量表上效应的线性组合)。在某些情况下,处理效应的替代量化可能更合适。例如,在进行性疾病中,人们可能希望估计药物是否具有累积效应,从而导致随着时间的推移而增加疗效,或者是否减缓疾病的时间进展。本文介绍了一类非线性混合效应模型,称为重复测量的进展模型(PMRM),基于MMRM的分类时间参数化的连续时间扩展,能够估计新类型的处理效应,包括减缓或延迟疾病的时间进展的措施。与处理效应的常规估计值相比,其中单位与结局量表的单位匹配(例如,认知量表上的2分获益),基于时间的处理效应可以提供更好的可解释性和临床意义(例如,认知下降进展延迟6个月)。PMRM类别包括常规使用的MMRM和用于纵向数据分析的相关模型,以及作为特殊情况的先前提出的疾病进展模型的变体。PMRM框架的潜力说明了使用模拟和历史数据,从阿尔茨海默病的临床试验与不同类型的人工模拟处理效应。与传统模型相比,它表明,PMRM可以提供显着增加的功率来检测疾病修饰处理效应的好处是随着治疗持续时间的增加。
2022-08-29 stat.AP stat.ME
Bayesian Gaussian Copula Factor Models for Mixed Data
高斯因子模型已被证明是非常有用的吝啬特征的依赖性在多变量数据。有丰富的文献,他们的扩展到混合的分类和连续变量,使用潜在的高斯变量或通过广义的潜在特质模型commodating测量指数家庭。然而,当推广到非高斯测量变量时,潜在变量通常会影响依赖结构和边缘分布的形式,使解释复杂化并引入伪影。为了解决这个问题,我们提出了一类新的贝叶斯高斯copula因子模型,解耦的潜在因素的边缘分布。基于扩展秩似然的边缘的半参数规范产生简单的实现和大量的计算增益,对于扩展到高维应用程序至关重要。我们提供了新的理论和经验的理由使用这种可能性在贝叶斯推断。我们提出了新的默认先验的因素加载和开发有效的参数扩展吉布斯抽样后验计算。该方法通过模拟评估,并应用于政治科学的数据集。本文中的方法在R包bfa中实现。
2013-01-07 stat.AP stat.ME
Identifiable factor analysis for mixed continuous and binary variables based on the Gaussian-Grassmann distribution
Faculty of Science, Yamagata University(山形大学理学部)
本文提出了一种基于高斯-格拉索分布的混合连续和二元变量因子分析方法,通过范数约束确保模型可识别,并在真实和合成数据上验证了其有效性与相关性可重复性优势。
2025-12-11 physics.data-an stat.ME
Approximation Methods for Mixed Models with Probit Link Functions
我们研究了一个大类的混合模型的概率连接函数,包括混合版本的二项式模型,多项式模型,广义生存模型的近似方法。这类模型是特殊的,因为边缘似然可以表示为高斯加权积分或多元高斯累积密度函数。后一种方法是唯一的概率单位链接函数模型,并已提出了复杂的,混合效应模型的参数估计。然而,还没有研究哪种情况下哪种形式更可取。我们的模拟和数据示例表明,这两种形式一般都不是优选的,并指导何时近似累积密度函数,何时近似高斯加权积分,以及在后者的情况下,在大量方法中使用哪种通用方法。
2021-10-27 stat.CO stat.ME
Skew-elliptical copula based mixed models for non-Gaussian longitudinal data with application to an HIV-AIDS study
针对非高斯纵向数据,提出基于偏椭圆Copula的混合模型,同时处理边际不对称性、个体差异和非标准时间依赖,并用IFM估计,在HIV CD4数据上验证有效性。
2025-05-26 stat.AP stat.ME
Bayesian Bootstrap based Gaussian Copula Model for Mixed Data with High Missing Rates
本文提出贝叶斯自助法高斯Copula模型BBGC,通过量化边缘分布不确定性并支持混合数据类型,在高缺失率下优于现有插补方法。
2025-07-22 stat.AP stat.ME
Uncertainty quantification for mixed membership in multilayer networks with degree heterogeneity using Gaussian variational inference
Indiana University(印第安纳大学);University of Central Florida(中佛罗里达大学)
本文提出了一种基于高斯变分推断的框架,用于在具有度异质性的多层网络中量化混合成员的不确定性,通过谱辅助似然和随机梯度下降实现高效推断,并在机场网络中验证了其有效性。
2025-12-09 math.ST stat.CO stat.ME
MAP Clustering under the Gaussian Mixture Model via Mixed Integer Nonlinear Optimization
Department of Mathematics and Statistics, University of Massachusetts Amherst, USA(马萨诸塞大学阿默斯特分校数学与统计系,美国);Data Science Program, Worcester Polytechnic Institute, USA(伍斯特理工学院数据科学项目,美国);Data Science Program and Foisie Business School, Worcester Polytechnic Institute, USA(伍斯特理工学院数据科学项目和福西商学院,美国)
提出了一种求解高斯混合模型下最大后验(MAP)聚类问题的全局优化方法,该方法将MAP聚类问题转化为混合整数非线性优化问题(MINLP),既能容纳边约束,又能保持MAP聚类问题的组合结构.我们近似MINLP通过混合整数二次规划(MIQP)变换,提高计算方面,同时保证$ε$ -全局最优。我们的方法的一个重要好处是显式量化的次优的程度,通过最优差距,途中找到全局最优的MAP聚类。数值实验比较我们的方法与其他方法表明,我们的方法找到了一个更好的解决方案比标准的聚类方法。最后,我们聚类一个真正的乳腺癌基因表达数据集,将内在的亚型信息,诱导的约束大大提高了计算性能,并产生更多的连贯性和生物逻辑上有意义的集群。
2020-03-17 cs.LG math.OC stat.ME
Identifiability of Covariance Kernels in the Gaussian Process Regression Model
高斯过程回归(GPR)模型是一种流行的非参数回归模型。在探地雷达中,回归函数的特征,如不同程度的平滑性和周期性,通过组合各种协方差核来建模,这些协方差核被认为是对某些效应的建模。协方差核具有通过EM算法或马尔可夫链蒙特卡罗估计的未知参数。估计的参数是推断回归函数特征的关键,但这些参数的可辨识性尚未得到研究。本文证明了两种径向基混合核探地雷达和径向基与周期混合核探地雷达中协方差核参数的可辨识性。我们还提供了一些例子,在这种混合内核GPR的不可识别的情况下。
2021-11-18 math.ST stat.ME stat.TH
Efficient Algorithms for Estimating the Parameters of Mixed Linear Regression Models
Splunk(斯邦克);University of Southern California(南加州大学)
混合线性回归(MLR)模型是用于使用线性模型的混合来对非线性分布进行建模的最典型的统计工具之一。当MLR模型中的加性噪声为高斯噪声时,EM算法是MLR参数极大似然估计的一种常用算法。然而,当噪声是非高斯的,期望最大化算法的步骤可能没有封闭形式的更新规则,这使得期望最大化算法不切实际。本文研究了加性噪声为非高斯分布时MLR模型参数的极大似然估计。特别是,我们考虑的情况下,噪声具有拉普拉斯分布,我们首先表明,与高斯的情况下,所得到的子问题的期望最大化算法在这种情况下不具有封闭形式的更新规则,从而防止我们使用EM在这种情况下。针对这一问题,提出了一种基于交替方向乘子法(ADMM)和期望最大化算法思想相结合的新算法。数值实验表明,在非高斯噪声情况下,该方法在统计精度和计算时间上均优于期望最大化算法。
2021-05-12 cs.LG math.OC stat.ME