Single-cell gene regulatory network analysis for mixed cell populations with applications to COVID-19 single cell data
基因调控网络(Gene regulatory network,GRN)是指活细胞中基因之间通过调控相互作用而形成的复杂网络。在本文中,我们考虑基于单细胞RNA测序(scRNA-seq)数据推断单细胞中的GRNs。在scRNA-seq中,单细胞通常来自混合群体,并且它们的细胞身份是未知的。单细胞GRN分析的常见做法是首先对细胞进行聚类,并分别推断每个聚类的GRN。然而,这两步过程忽略了聚类步骤中的不确定性,从而可能导致网络的不准确估计。为了解决这个问题,我们提出通过混合多变量泊松对数正态(MPLN)分布来建模scRNA-seq。MPLN的精度矩阵是不同细胞类型的GRN,并且可以通过最大化MPLN的lasso-penalized对数似然来联合估计。我们表明,MPLN模型是可识别的,由此产生的惩罚对数似然估计是一致的。为了避免难以优化的MPLN的对数似然,我们开发了一种算法称为VMPLN变分推理方法的基础上。综合模拟和真实scRNA-seq数据分析表明,VMPLN的性能优于最先进的单细胞GRN方法。
2022-05-23 q-bio.MN stat.ME
A SAEM Algorithm for Fused Lasso Penalized Non Linear Mixed Effect Models: Application to Group Comparison in Pharmacokinetic
非线性混合效应模型是分析群体药代动力学等领域非线性纵向数据的经典工具。观测组通常通过引入组隶属关系作为二元协变量与组中陈述的参考组进行比较。这种方法相对有限,因为它只允许将参考群体与其他群体进行比较。在这项工作中,我们建议使用惩罚似然方法来比较各组。组由相同的结构模型描述,但具有组特定的参数。似然性受到融合套索罚分的惩罚,该罚分在固定效应和随机效应方差的组间差异上引入稀疏性。提出了一种惩罚随机逼近期望最大化算法,并将其与交替方向法乘法器耦合求解最大化步骤。一个广泛的模拟研究说明了这种算法的性能时,比较两个以上的群体。然后将该方法应用于两项药代动力学药物相互作用试验的真实数据。
2017-09-27 stat.CO stat.ME
A Latent Trajectory Analysis for Multivariate Outcomes with Mixed-Scale: Application to Alzheimer's Disease Neuroimaging Initiative
Department of Biostatistics, Boston University School of Public Health(波士顿大学公共卫生学院生物统计系)
本研究提出针对混合尺度多元纵向结局的新型潜在轨迹模型,结合期望最大化算法,将其应用于ADNI研究,以识别动态亚组、揭示预后指标,支持个体化治疗规划。
2026-08-10 stat.ME
Model Based Clustering for Mixed Data: clustMD
一个基于模型的聚类过程的混合型数据,clustMD,开发使用的潜变量模型。它提出了一个潜在的变量,下面的混合高斯分布,产生混合型的观测数据。观测数据可以是连续、二元、有序或名义变量的任何组合。clustMD采用了一个简约的协方差结构的潜在变量,导致一套六个聚类模型的复杂性不同,并提供了一个优雅的和统一的方法来聚类混合数据。期望最大化(EM)算法用于估计clustMD;在存在标称数据的情况下,需要蒙特卡罗期望最大化算法。clustMD模型通过聚类模拟的混合型数据和前列腺癌患者来说明,在这些患者上已经记录了混合数据。
2015-11-05 stat.ME
Stochastic Proximal Gradient Algorithms for Penalized Mixed Models
出于惩罚似然最大化在复杂的模型中,我们研究的优化问题,既不是函数优化,也不是它的梯度有一个明确的表达,但它的梯度可以近似的蒙特卡罗技术。我们提出了一种新的算法的基础上的随机逼近的邻近梯度(PG)算法。这种新的算法,命名为随机逼近PG(SAPG)是随机梯度下降步骤的组合,粗略地说,该步骤计算沿着迭代的过去梯度的平滑逼近,以及邻近步骤。讨论了随机梯度下降算法中步长和蒙特卡罗批量的选择。我们的收敛性结果涵盖了有偏和无偏蒙特卡罗近似的情况。虽然蒙特卡罗-PG的收敛性分析已经在文献中得到了解决(参见Atchadé等人[2016]),但SAPG的收敛性分析是新的。作为一个简单的例子,在线性混合效应模型上对这两种算法进行了比较。一个更具挑战性的应用提出了在高维非线性混合效应模型的药代动力学数据集,包括基因组协变量。据我们所知,我们的工作提供了第一个收敛结果的数值方法,旨在解决惩罚极大似然的非线性混合效应模型。
2017-09-27 stat.CO stat.ME
Inference for generalized additive mixed models via penalized marginal likelihood
针对广义加性混合模型中拉普拉斯近似在平滑参数估计上精度不足的问题,提出一种基于惩罚边际似然的新估计策略,以获得具有正确统计性质的估计。
2025-04-14 stat.ME
Fast selection of nonlinear mixed effect models using penalized likelihood
非线性混合效应模型是一种隐变量模型,在药物计量学等领域有着广泛的应用。在这样的模型中,隐变量的分布特征可以通过包括几个参数来指定,例如必须选择的协变量或相关性。药物基因组学的最新发展带来了平均/高维问题的非线性混合效应建模领域的标准协变量选择技术,如逐步方法是不太适合。提出了使用惩罚似然法选择协变量和相关参数的方法。惩罚似然问题的解决使用随机邻近梯度算法,以避免内外迭代。使用分量自适应梯度步长提高了邻近梯度算法的收敛速度。使用模拟的实际实施和调整的近端梯度算法进行了探讨。正则化参数的校准是通过使用粒子群优化(零阶优化过程)最小化贝叶斯信息准则来执行的。热重启和并行化的使用使得计算时间显著减少。与传统的网格搜索策略相比,所提出的方法的性能进行了探索,使用模拟数据。最后,提供了两个药代动力学研究的实际数据的应用程序,一个研究抗纤维蛋白溶解和其他研究抗生素。
2021-10-17 stat.CO stat.ME
Parameter-Expanded ECME Algorithms for Logistic and Penalized Logistic Regression
本文提出了一种用于逻辑回归的参数扩展ECME算法,通过引入额外隐参数最大化惩罚对数似然,在保持单调性和更新简单性的同时大幅提升计算效率,并验证了其在高维问题中的优越性。
2023-04-08 stat.CO
A comparison of some criteria for states selection in the latent Markov model for longitudinal data
本文比较了不同的选择准则来选择纵向数据的多变量隐马尔可夫模型的隐状态数。该模型是基于一个潜在的马尔可夫链来表示一组个体的潜在特征随时间的演变。然后,假设在不同情况下观察到的响应变量是条件独立的,给出了这个链。该模型的极大似然是通过一个期望最大化算法的基础上进行的前向-后向递归,这是众所周知的隐马尔可夫文献的时间序列。我们在比较中考虑的选择标准是基于最大对数似然的惩罚版本或属于每个潜在状态的后验概率,即给定观测数据的潜在状态的条件概率。一个蒙特卡罗模拟研究表明,指数的对数似然为基础的信息标准执行一般更好地相对于那些提到的分类为基础的标准。这是由于后者倾向于低估潜在状态的真实数量,特别是在单变量的情况下。
2012-12-03 stat.ME
Estimating Functional Linear Mixed-Effects Regression Models
函数线性模型是研究标量/函数响应变量与标量/函数协变量之间关系的常用工具。当重复测量可用于多个受试者时,我们将此模型推广到功能线性混合效应模型。每个受试者都有一个单独的截距和斜率函数,而共享共同的总体截距和斜率函数。该模型在允许斜率随机效应随时间变化的意义上是灵活的。我们提出了一种惩罚样条光滑方法来估计总体和随机斜率函数。提出了一种基于REML的期望最大化算法来估计随机效应和数据噪声的方差参数。仿真研究表明,我们的估计方法提供了一个精确的估计功能线性混合效应模型的有限样本。通过研究24小时二氧化氮对日最大臭氧浓度的影响以及日温度对年降水量的影响,证明了函数线性混合效应模型。
2016-01-06 stat.ME
Cross-Validation in Penalized Linear Mixed Models: Addressing Common Implementation Pitfalls
针对惩罚线性混合模型处理相关高维数据时直接沿用独立数据调参方法的问题,本文提出正确的交叉验证实现以规避常见陷阱,并以证明、模拟和真实数据验证其有效性。
2025-03-18 stat.ME
A Penalized Multi-trait Mixed Model for Association Mapping in Pedigree-based GWAS
在全基因组关联研究(GWAS)中,惩罚效应是识别与性状相关的遗传标记的重要方法,而混合模型在解释样本间复杂的依赖结构方面取得了成功。因此,惩罚线性混合模型是一种结合惩罚方法和线性混合模型优点的工具。在这项研究中,GWAS与多个高度相关的性状进行了分析。对于多个数量性状高度相关的GWAS,使用性状进行分析不可避免地丢失了多个性状之间的一些重要信息。我们提出了一个惩罚MTMM,惩罚多变量线性混合模型,允许两个性状内和性状间方差分量同时为多个性状。提出的惩罚MTMM使用AI-REML方法估计方差分量,并同时使用组MCP和稀疏组MCP进行变量选择和点估计。使用最佳线性无偏预测器(BLUP)来寻找预测值,并使用预测值与其相应观测值之间的Pearson相关性来评估预测性能。通过仿真研究,评估了该方法的预测和选择性能,并与单性状惩罚LMM进行了比较。我们将所提出的方法应用于遗传分析研讨会(GAW)18的GWAS数据。
2013-05-19 stat.ME
glmmPen: High Dimensional Penalized Generalized Linear Mixed Models
针对高维场景下GLMM固定与随机效应联合选择的难题,提出R包glmmPen,采用基于MCECM算法的惩罚GLMM框架,支持多种分布与惩罚函数,仿真及癌症研究应用验证了其有效性。
2024-04-16 stat.CO stat.ME
Deep Probabilistic Spatial Modeling for Multivariate Mixed-Type Responses
Texas A&M University(德克萨斯农工大学);University of California San Francisco(加州大学旧金山分校);Kyungpook National University(庆北国立大学);Baylor University(贝勒大学)
本文提出MultiDeepGP框架,用于空间设置中多变量混合类型响应的联合建模,通过深度潜在表示捕捉空间依赖性,并实现高效的不确定性量化。
2026-03-07 stat.ME
Maximum softly-penalized likelihood for mixed effects logistic regression
已知在具有混合效应的逻辑斯谛回归中的极大似然估计经常导致在参数空间的边界上的估计。此类估计值包括固定效应的无限值和奇异或无限方差分量,可能会对数值估计过程和推断造成严重破坏。我们在对数似然函数或其近似值中引入了适当缩放的加性惩罚,该函数通过不含随机效应的模型的Jeffreys不变先验惩罚固定效应,并通过负Huber损失函数的组合惩罚方差分量。由此产生的最大惩罚似然估计位于内部的参数空间。适当的惩罚尺度保证惩罚足够软,以保持极大似然估计所期望的最佳渐近性质,即一致性,渐近正态性和Cramér-Rao效率。我们选择的惩罚和比例因子在模型参数(如对比度)的线性变换下保持了固定效应估计值的等方差。最大软惩罚似然竞争的方法相比,两个真实数据的例子,并通过全面的模拟研究,说明其优越的有限样本性能。
2023-02-02 stat.ME
Penalized generalized linear mixed models for longitudinal outcomes in genetic association studies
本研究提出lasso惩罚混合模型,用于遗传关联研究中的纵向结果,能处理多个随机效应,模拟和实证显示其识别因果预测因子精度更高,并应用于儿童行为预测。
2025-01-19 stat.AP stat.ME
Deep Discrete Encoders: Identifiable Deep Generative Models for Rich Data with Discrete Latent Layers
Department of Statistics, Columbia University(哥伦比亚大学统计系)
针对深度生成模型不可识别和不可解释的问题,提出具有二元潜层的深度离散编码器(DDE),通过可识别性条件和谱初始化加惩罚EM算法,实现层次主题建模、图像表示学习和响应时间建模。
2025-08-06 cs.LG stat.ME stat.ML
A parallel algorithm for penalized learning of the multivariate exponential family from data of mixed types
研究了多元指数族分布惩罚估计的计算有效性。这些分布包括马尔可夫随机场等与混合型变量(如二进制和连续)作为特殊情况下的利益。模型参数的估计通过最大化的伪似然增广凸惩罚。估计量是一致的。考虑到世界上的多核计算机,一个计算效率高的并行牛顿-拉夫森算法的数值评估的估计,其收敛的条件。量化包括将参数向量划分为子向量,这些子向量被同时估计并且随后被聚合以形成原始参数的估计。这种方法也可以使其他高维估计的有效数值评估。所提出的估计和算法的性能进行评估和比较,在模拟研究。最后,本文的结论与说明所提出的方法在重建的条件独立网络的数据的综合组学研究。
2020-12-25 stat.ME
Efficient Penalized Generalized Linear Mixed Models for Variable Selection and Genetic Risk Prediction in High-Dimensional Data
稀疏正则化回归方法现在被广泛用于全基因组关联研究(GWAS),以解决限制发现潜在重要预测因子的多重检验负担。线性混合模型(Linear mixed models,简称LMM)是一种有效的替代主成分(principal components,简称PC)调整的方法。然而,它们在二元性状GWAS中的使用依赖于无效的假设,即残差方差不依赖于估计的回归系数。此外,Lemp使用响应的协方差阵的单个谱分解,这在广义线性混合模型(GLemp)中不再可能。我们介绍了一种新的方法,称为pglmm,一个惩罚GLMM,允许同时选择遗传标记和估计其影响,占个体间的相关性和二进制性质的性状。我们开发了一种基于PQL估计的计算效率高的算法,该算法允许在高维二进制性状GWAS(~ 300,000 SNP)上缩放正则化混合模型。我们通过模拟结果表明,惩罚LMM和逻辑斯谛回归与PC调整未能正确选择重要的预测因子和/或预测精度下降的二元响应时,相关性矩阵的维数是高的pglmm相比。此外,我们通过分析英国生物银行数据中的两个多基因二元性状证明,我们的方法可以实现更高的预测性能,同时也选择了比稀疏正则化逻辑套索与PC调整更少的预测因子。我们的方法可以作为Julia包PenalizedGLMM. jl使用。
2022-06-24 stat.AP stat.ME
Penalized mixed models to adjust for batch effects and unobserved confounding in high dimensional regression
University of Iowa(爱荷华大学)
针对高维回归中的未观测混杂与批次效应,提出可分离量化信号、偏差和变异的框架,并通过系统模拟比较 LASSO、PC-LASSO 与 PLMM,发现 PLMM 总体最稳健。
2025-10-03 stat.ME
Matrix-free Penalized Spline Smoothing with Multiple Covariates
本文研究了惩罚样条的高维光顺方法及其数值计算。如果在三个或更多协变量上进行平滑,则经典张量积样条基在其维度上爆炸,从而使估计达到其数值极限。Siebenborn和Wagner(2019)最近的一种方法通过提出无矩阵计算来规避存储成本高的实现,该方法允许平滑多个协变量。我们在这里扩展他们的方法,通过链接惩罚平滑和贝叶斯公式作为混合模型,它提供了一个矩阵的平滑参数的计算,以避免使用高计算交叉验证。此外,我们将展示如何将这些想法扩展到广义回归模型。扩展的方法适用于遥感卫星数据与空间平滑相结合。
2021-01-15 stat.CO stat.ME
Efficient computation of high-dimensional penalized piecewise constant hazard random effects models
本文针对高维数据中比例风险混合效应模型计算复杂的问题,提出用分段常数风险混合效应生存模型进行近似,采用改进的MCECM算法同时进行固定和随机效应的变量选择,并引入因子模型分解以扩展至更大维度,在模拟和胰腺癌基因数据中验证了方法效用。
2025-04-01 stat.CO stat.ME
Non-linear, Sparse Dimensionality Reduction via Path Lasso Penalized Autoencoders
University of Gothenburg(哥德堡大学);Chalmers University of Technology(查尔姆斯理工大学)
高维数据集通常通过构建潜在的低维空间来分析和探索,这使得方便的可视化和有效的预测建模或聚类成为可能。对于复杂的数据结构,像PCA这样的线性降维技术可能不够灵活,无法实现低维表示。非线性降维技术,如核PCA和自动编码器,遭受损失的可解释性,因为每个潜在变量是依赖于所有的输入尺寸。为了解决这个限制,我们在这里提出了路径套索惩罚自动编码器。这种结构化正则化通过惩罚从输入到潜在变量的编码器的每条路径来增强可解释性,从而限制每个潜在维度中表示多少输入变量。我们的算法使用组套索惩罚和非负矩阵分解来构建稀疏的,非线性的潜在表示。我们比较路径套索正则化的自动编码器PCA,稀疏PCA,自动编码器和稀疏自动编码器的真实和模拟数据集。我们表明,该算法表现出低得多的重建误差比稀疏PCA和参数明智的套索正则化低维表示的自编码器。此外,路径套索表示提供了更准确的重建匹配,即保留原始空间和重建空间中的对象之间的相对距离。
2021-10-20 cs.LG stat.ME
Penalized Copula Mixed Models for Intercompany Loss Reserving and Risk Capital
McMaster University(麦克马斯特大学)
该研究针对公司间损失准备金问题,提出惩罚性Copula混合模型,结合混合效应边际模型与特定公司Copula依赖参数,经迭代两阶段程序估计,用改进自助程序获预测分布,实验表明其能稳定分解未付损失、降低预测变异性并减少风险资本。
2026-07-17 stat.AP stat.ME
Dealing with separation problem in hidden Markov models with covariates based on a penalized maximum likelihood approach
本文提出惩罚最大似然方法解决带协变量隐马尔可夫模型中的潜在状态分离问题,并通过交叉验证联合选择隐藏状态数与惩罚强度,在模拟和脊髓麻醉低血压纵向数据中验证了其估计精度与模型潜力。
2025-07-03 stat.ME
p-PSO: A Penalized Particle Swarm Optimization Technique for Finding D-Optimal Designs with Mixed Factors in Generalized Linear Models
Icahn School of Medicine at Mount Sinai(伊坎医学院);University of Georgia(佐治亚大学)
提出一种新的惩罚粒子群优化方法p-PSO,通过通用惩罚公式解决广义线性模型中混合因子D-最优设计问题,高效且可直接使用现成PSO算法。
2026-06-16 cs.LG stat.ME
Penalized Clustering of Large Scale Functional Data with Multiple Covariates
在这篇文章中,我们提出了一个惩罚聚类方法的大规模数据与多协变量通过功能数据的方法。在所提出的方法中,响应和协变量通过非参数多元函数(固定效应)连接在一起,这在建模各种函数特征(如跳跃点、分支和周期性)方面具有很大的灵活性。函数方差分析被用来进一步分解多变量函数在一个再生核希尔伯特空间,并提供相关的主效应和相互作用的概念。使用简约的随机效应来捕获各种相关性结构。混合效应模型被嵌套在一个一般的混合模型下,其中函数数据的异质性的特点。我们提出了一个惩罚亨德森的似然方法的模型拟合和设计拒绝控制的期望最大化算法的估计。我们的方法通过广义交叉验证来选择平滑参数。此外,贝叶斯置信区间被用来衡量聚类的不确定性。仿真研究和实际数据的例子,调查所提出的方法的经验性能。开源代码在R包MFDA中提供。
2008-01-16 stat.CO stat.ME
latentcor: An R Package for estimating latent correlations from mixed data types
我们提出了'latentcor',一个R包的相关性估计数据与混合变量类型。混合变量类型,包括连续、二进制、有序、零膨胀或截断数据,在许多科学领域都是常规收集的。准确估计这些变量之间的相关性通常是统计分析工作流程中的第一个关键步骤。Pearson相关性作为默认选择不适合混合数据类型,因为违反了基本的正态性假设。另一方面,半参数潜在高斯copula模型的概念提供了一种统一的方法来估计混合数据类型之间的相关性。R包'latentcor'包含这些模型的全面列表,能够估计任何连续/二进制/三进制/零膨胀(截断)变量类型之间的相关性。底层实现利用快速多线性插值方案,有效选择插值网格点,从而使封装占用较小的内存,而不会影响估计精度。这使得潜在的相关性估计很容易用于现代高通量数据分析。
2021-08-20 stat.CO stat.ME
Estimation for High-Dimensional Linear Mixed-Effects Models Using $\ell_1$-Penalization
我们提出了一个$\ell_1$惩罚估计程序的高维线性混合效应模型。该模型是有用的,只要有一个分组结构之间的高维观测,即聚类数据。我们证明了一个一致性和一个预言的最优性结果,我们开发了一个算法,可证明的数值收敛。此外,我们证明了模拟和真实的高维数据集上的方法的性能。
2010-11-25 stat.CO stat.ME
Adaptive Penalized Doubly Robust Regression for Longitudinal Data
Wisdom Lake Academy of Pharmacy, Xi’an Jiaotong-Liverpool University(西交利物浦大学智慧药学院)
本文提出了一种双重适应性稳健回归方法,用于纵向数据中的稳健估计和变量选择,通过结合稳健拟合、双重适应性权重和折叠凹惩罚,提高了估计精度和预测稳定性。
2026-02-25 math.ST stat.AP stat.CO
Penalized regression calibration: a method for the prediction of survival outcomes using complex longitudinal and high-dimensional data
纵向和高维测量在生物医学研究中变得越来越普遍。然而,目前缺少使用纵向和高维协变量预测生存结局的方法。在这篇文章中,我们提出了惩罚回归校准(PRC),一种方法,可以用来预测生存在这种情况下。PRC包括三个建模步骤:首先,通过多变量混合效应模型的规范,纵向预测所描述的轨迹进行灵活的建模。其次,从拟合的混合模型中推导出纵向轨迹的特定于对象的摘要。第三,在惩罚Cox模型中,使用受试者特异性总结作为协变量预测至事件结局的时间。为了确保适当的内部验证的拟合PRC模型,我们还开发了一个集群引导乐观校正程序,允许纠正乐观偏见的明显措施的预测性。PRC和CBOCP是在CRAN提供的R包中实现的。通过模拟研究PRC的行为后,我们得出结论,说明PRC的应用程序的数据从一项观察性研究,涉及患者受杜氏肌营养不良症,其中的目标是预测时间的损失amphetamine使用纵向血液生物标志物。
2021-09-29 stat.AP stat.CO stat.ME
Estimation of extended mixed models using latent classes and latent processes: the R package lcmm
R包lcmm提供了一系列函数来估计基于线性混合模型理论的统计模型。它包括高斯纵向结局(hlme)、曲线和有序单变量纵向结局(lcmm)和曲线多变量结局(multlcmm)的混合模型和潜在类混合模型的估计,以及(高斯或曲线)纵向结局和可能左截尾右删失并在竞争环境中定义的至事件时间的联合潜在类混合模型(Jointlcmm)的估计。极大似然估计器使用修改的Marquardt算法获得严格的收敛准则的基础上的参数和似然稳定性,和负的二阶导数。该软件包还提供各种拟合后功能,包括拟合优度分析、分类、绘图、预测轨迹、事件的个体动态预测和预测准确性评估。本文构成了配套文件包通过介绍每个家庭的模型,估计技术,一些实施细节,并通过一个数据集的认知老化的例子。
2016-01-24 stat.CO stat.ME
Recovering Unobserved Network Links from Aggregated Relational Data: Bayesian Latent Surface Modeling and Penalized Regression
本文通过共同观测映射比较潜在几何与正则化网络估计量,用于从聚合关系数据恢复未观测链接,发现矩阵估计器在边排序上更优,几何估计器在概率生成上更准。
2026-09-10 econ.EM stat.AP stat.ME
Mining the Factor Zoo: Estimation of Latent Factor Models with Sufficient Proxies
North Carolina State University(北卡罗来纳州立大学);Hong Kong University of Science and Technology(香港科技大学)
潜在因子模型估计通常依赖于使用领域知识来手动挑选几个观察到的协变量作为因子代理,或者纯粹进行多变量分析,例如主成分分析。然而,前一种方法可能会受到偏见,而后者不能纳入额外的信息。我们建议桥接这两种方法,同时允许因子代理的数量发散,从而使潜在因子模型估计鲁棒性,灵活性和统计上更准确。作为奖励,因子的数量也允许增长。在我们的方法的核心是一个惩罚降秩回归结合信息。为了进一步处理重尾数据,提出了一种计算上具有吸引力的惩罚鲁棒降秩回归方法。与基准相比,我们建立了更快的收敛速度。大量的模拟和真实的例子来说明的优势。
2023-01-03 cs.LG stat.ME
Laplace approximation for fast Bayesian inference in generalized additive models based on penalized regression splines
广义可加模型(GAM)是一种成熟的统计工具,用于对协变量与假设具有指数族条件分布的响应之间的复杂非线性关系进行建模。在这篇文章中,P-样条和拉普拉斯近似耦合的灵活和快速的近似贝叶斯推断的GAM。建议的拉普拉斯-P-样条模型有助于开发一种新的方法来探索后验惩罚空间,通过考虑一个确定性的基于网格的策略或马尔可夫链采样器,根据预测中的平滑加法项的数量。我们的方法的优点是依赖于封闭形式的分析表达式的梯度和Hessian的近似后验惩罚向量,这使得能够构建准确的后验逐点和可信的集合估计的潜在字段变量在一个相对较低的计算预算,即使是大量的光滑的附加组件。基于简单的高斯近似的条件潜在字段后验,建议的方法具有良好的统计特性。通过不同的模拟场景,拉普拉斯P样条模型的性能得到证实,并在两个真实数据集上说明了该方法。
2020-03-16 stat.ME
cvxoptdes: convex optimal experiment design in R
Open Analytics;Johnson & Johnson Statistics and Decision Sciences(强生统计与决策科学)
该研究开发了R语言的cvxoptdes包,提供统一框架,仅用开源求解器即可针对多种模型完成凸最优实验设计与在线响应优化,支持多种设计类型及增广,便于序列设计增广。
2026-10-14 stat.CO stat.ME
Tensor decomposition with generalized lasso penalties
我们提出了一种惩罚张量分解(PTD)的方法,估计多路数据中平滑变化的潜在因素。这概括了现有的工作稀疏张量分解和惩罚矩阵分解,在回归和平滑问题的广义套索平行的方式。我们的方法提出了许多不平凡的挑战,在建模和计算的交叉点,这是详细研究。提出了一种求解(PTD)问题的有效坐标优化算法,并给出了其收敛性质。该方法适用于模拟数据和真实数据在得克萨斯州的流感住院治疗。这些结果表明,我们的惩罚张量分解可以提供现有的方法进行分析,表现出平滑的空间或时间特征的多路数据的重大改进。
2016-05-13 stat.CO stat.ME stat.ML
High Dimensional Classification through $\ell_0$-Penalized Empirical Risk Minimization
我们考虑了一个高维的二进制分类问题,并构建了一个分类过程,通过最大限度地减少经验误分类的风险与惩罚的数量上选择的功能。我们推导出非渐近概率界的估计稀疏性以及过度的误分类风险。特别是,我们表明,我们的方法产生一个稀疏的解决方案,其l0-范数可以任意接近真正的稀疏性与高概率,并获得超额误分类风险的收敛速度。所提出的程序是通过混合整数线性规划的方法来实现的。它的数值性能说明在蒙特卡罗实验。
2018-11-23 econ.EM stat.ME stat.ML
Bayesian low-rank latent-cluster regression for mixed health outcomes
University of Central Florida(中佛罗里达大学)
本文提出一种贝叶斯潜变量聚类降维回归模型,用于处理高维健康和监测研究中的多重相关结果和潜在异质性,通过低秩系数矩阵实现聚类、降维和可解释性。
2026-05-12 stat.CO stat.ME
Learning Attribute Patterns in High-Dimensional Structured Latent Attribute Models
结构化潜属性模型(Structured Latent Attribute Models,SLAM)是一类特殊的离散潜变量模型,广泛应用于社会科学和生物科学领域。本文考虑了从潜在的高维配置的潜在属性的SLAM学习显着的属性模式的问题。我们解决了理论上的可识别性问题,提出了一种惩罚似然方法的属性模式的选择,并进一步建立选择一致性在这样一个过拟合SLAM与发散的潜在模式的数量。仿真研究和两个真实的教育评估数据集说明了所提出的方法的良好性能。
2019-06-06 stat.ME stat.ML
CoMET: A Compressed Bayesian Mixed-Effects Model for High-Dimensional Tensors
The University of Iowa(爱荷华大学);University of Florida(佛罗里达大学)
CoMET是一种用于高维张量数据的压缩贝叶斯混合效应模型,通过结构化随机投影和低秩分解实现高效计算与预测。
2026-02-22 stat.ME
Fast computation of latent correlations
潜在高斯copula模型提供了一种强大的手段来执行多视图数据集成,因为这些模型可以通过潜在高斯相关性无缝地表达混合变量类型(二进制,连续,零膨胀)之间的依赖关系。然而,这些潜在的相关性的估计,来在相当大的计算成本,阻止了这些模型的高维数据的常规使用。在这里,我们提出了一种新的计算方法,通过混合多线性插值和优化方案估计潜在的相关性。我们的方法加快了几个数量级的当前最先进的计算,从而允许快速计算的潜在高斯copula模型,即使当变量的数量$p$是大的。我们提供了理论保证我们的数值方案的近似误差,并支持其模拟和真实世界的数据的优异性能。我们说明了我们的方法在高维稀疏定量和相对丰度微生物组数据以及癌症基因组图谱项目的多视图数据上的实际优势。我们的方法在R包mixedCCA中实现,可在https://github.com/irinagain/mixedCCA上获得。
2020-11-04 stat.CO stat.ME
Large covariance matrix estimation via penalized log-det heuristics
本文提出一种结合核范数与 $\ell_{1}$-范数惩罚的 log-det 启发式框架用于估计大协方差矩阵,利用近端梯度算法单步高概率恢复协方差分量、潜在秩与残差稀疏模式,并建立误差界与可识别性条件,改进了现有文献。
2025-05-05 math.ST stat.ME stat.TH
Flexible Bayesian Modeling of Counts: Constructing Penalized Complexity Priors
许多数据,特别是在医学和疾病绘图方面的数据都是有价值的。事实上,在计数数据的过度或过度分散的问题不信任的经典泊松模型的性能。针对这一问题,本文提出了一种新的贝叶斯结构可加回归模型,称为gamma计数,在离散建模方面具有足够的灵活性。在模型参数上设置方便的先验分布是贝叶斯统计中的一个重要问题,它表征了我们的不确定性参数的性质。依赖于最近提出的一类惩罚复杂性先验,从一组一般的建设原则的动机,我们推导出先验结构。该模型可以表示为一个隐高斯模型,因此,我们可以使用集成嵌套拉普拉斯近似方法进行快速计算。我们调查所提出的方法模拟研究。对不同的征用先验分布进行了检验,以提供合理的敏感性分析。为了解释所提出的模型的适用性,我们分析了两个真实世界的数据集相关的喉癌死亡率在德国和手球冠军联赛。
2021-05-18 stat.AP stat.ME
Inference in High Dimensions with the Penalized Score Test
近年来,关于惩罚回归技术(如套索)的变量选择一致性的理论有了相当大的发展。然而,在量化这些选择程序中的不确定性方面的工作相对较少。在本文中,我们提出了一种新的方法,在高维推理使用的分数测试的基础上惩罚回归。在这个测试中,我们对除了单个特征之外的所有特征执行结果的惩罚回归,并测试残差与保留特征的相关性。此过程依次应用于每个特征。有趣的是,当使用$\ell_1$惩罚时,套索的稀疏模式正好对应于基于所提出的测试的决策。此外,当使用$\ell_2$罚分时,该测试精确地对应于混合效应模型中的得分测试,其中除了一个特征之外的所有特征的效应都被假设为随机的。我们制定的假设被测试的每个功能,在简单的线性回归和多个线性回归的所有功能的零假设之间的妥协,并制定一些著名的处罚参考分布。我们还研究了真实和模拟数据的测试行为。
2014-05-19 stat.ME stat.ML
Penalized Variable Selection for Multi-center Competing Risks Data
我们考虑多中心数据竞争风险回归中的变量选择。我们的研究是由已故供体肾移植,从受体将经历移植失败,死亡与功能移植(DWFG),或移植物存活的动机。DWFG的发生排除了移植物失效的发生,因此是一种竞争风险。移植中心内的数据可能由于潜在的中心效应而相关,例如不同的患者人群、手术技术和患者管理。比例子分布风险(PSH)模型经常用于竞争风险数据的回归分析。它的两个扩展,分层和边际PSH模型,可以应用于多中心数据,以考虑中心效应。在本文中,我们提出了两个模型的惩罚策略,主要是选择重要的变量和估计它们的影响,而中心内的相关性作为一个滋扰。仿真结果表明,所提出的方法具有良好的性能和计算效率。通过对器官共享联合网络的数据进行分析,进一步评估了这一点。
2016-10-19 stat.ME
Bayesian Compressed Mixed-Effects Models
本文提出压缩混合效应模型,通过随机投影降低随机效应协方差维度并结合收缩先验与折叠吉布斯采样,在预测、区间覆盖和固定效应选择上优于现有方法。
2025-07-22 stat.CO stat.ME
A latent variable model with mixed binary and continuous response variables
我们提出了一种方法来获得最大似然估计在一个模型中的连续和二元的结果。左和右删失观测的组合也自然地在这个框架中建模。该模型和估计过程已在R软件包lava.tobit中实现。大脑成像和个性数据的预测变量的测量误差处理在一个潜在的变量框架的方法被证明。模拟研究进行比较的小样本性质的极大似然估计与有限的信息估计。
2015-07-05 stat.ME
Penalized Poisson model for network meta-analysis of individual patient time-to-event data
网络荟萃分析(NMA)允许将来自一组随机临床试验的直接和间接证据相结合。使用个体患者数据(IPD)执行NMA被认为是“金标准”方法,因为它提供了基于汇总数据的NMA的几个优势。例如,它允许执行协变量或协变量-治疗相互作用的高级建模。IPD NMA中的一个重要问题是在解释不一致性、协变量、协变量与治疗相互作用或治疗对至事件发生时间数据的影响不成比例的术语中选择有影响的参数。该问题尚未在文献中进行深入研究,特别是未针对至事件发生时间数据进行研究。一个主要的困难是共同考虑试验间异质性,这可能对选择过程产生重大影响。惩罚广义混合效应模型的使用是一种解决方案,但现有的实现方式有几个缺点和一个重要的计算成本,排除了它们用于复杂的IPD NMA。在这篇文章中,我们提出了一个惩罚泊松回归模型来执行时间到事件数据的IPD NMA。它仅基于固定效应参数,这比使用随机效应提高了其计算成本。它可以很容易地实现使用现有的惩罚回归包。计算机代码共享以供执行。这些方法应用于模拟数据,以说明在选择过程中考虑试验异质性的重要性。最后,将其应用于鼻咽癌放化疗总生存期的IPD NMA。
2021-10-19 stat.ME
Penalized Principal Component Analysis for Large-dimension Factor Model with Group Pursuit
针对大维近似因子模型的潜在分组结构,提出融合PPCA与层次聚类、信息准则相结合的分组追踪方法,并证明估计一致性及聚类后效率提升。
2025-03-15 stat.ME
Multilevel latent Gaussian process model for mixed discrete and continuous multivariate response data
我们提出了一个混合有序和连续多元数据的贝叶斯模型来评估一个潜在的空间高斯过程。我们提出的模型可以用于在许多情况下,在努力量化一个不可观察的连续测量观察到的混合连续和离散的多变量响应。在我们的例子中,潜在的,或不可观察的测量是湿地条件。虽然在每个位置的模型产生的潜在的湿地条件变量的预测值不持有任何内在的价值,湿地条件值的相对大小的兴趣。此外,通过在模型中包含点参考协变量,我们能够在新位置对潜在随机变量和多变量响应进行预测。最后,该模型生成与未观察到的潜在随机场相关的多变量响应的秩。这是一个重要的结果,因为它使我们能够确定哪些响应变量与潜变量最密切相关。我们的方法提供了一种替代传统的指数的基础上最好的专业判断,经常使用的生态学。我们应用我们的模型来评估在科罗拉多州的北普拉特河和格兰德河流域的湿地条件。该模型有利于在多个地点的湿地条件的比较,并在现场测量的重要性排名。
2013-03-23 stat.ME
An Approximate Restricted Likelihood Ratio Test for Variance Components in Generalized Linear Mixed Models
广义线性混合模型(GLSII)用于对具有固定效应和随机效应组合的指数家族的响应进行建模。对于广义似然估计中的方差分量,我们提出了一种近似的限制性似然比检验,对惩罚拟似然估计中的工作响应进行检验.这提供了标准化响应方面的假设检验,允许将现有检验方法应用于线性混合模型。我们的测试是灵活的,计算效率高,并优于几个竞争对手。我们说明了所提出的方法与广泛的模拟研究和两个数据应用程序的实用性。提供了一个R包。
2019-06-07 stat.ME
Integrating complex selection rules into the latent overlapping group Lasso for constructing coherent prediction models
本文提出将复杂选择规则数学化并通过潜在重叠组Lasso整合到变量选择中的结构化方法,用于构建可解释且准确的一致性预测模型,并在高血压合并房颤患者口服抗凝药后大出血风险预测中验证了其有效性。
2024-01-16 stat.AP stat.ME
Longitudinal modeling of age-dependent latent traits with generalized additive latent and mixed models
我们提出了广义加性潜伏和混合模型(GALASTIC)的聚类数据的响应和潜变量依赖于观测变量顺利分析。提出了一种可扩展的极大似然估计算法,利用拉普拉斯近似,稀疏矩阵计算,自动微分。混合响应类型、异方差性和交叉随机效应自然被纳入框架。开发的模型的动机是在认知神经科学中的应用,并提出了两个案例研究。首先,我们展示了GALASTIC如何共同模拟情节记忆,工作记忆和速度/执行功能的复杂寿命轨迹,分别由加利福尼亚语言学习测试(CVLT),数字广度测试和Stroop测试测量。接下来,我们研究了社会经济地位对大脑结构的影响,使用教育和收入数据以及通过磁共振成像估计的海马体积。通过将半参数估计与潜在变量建模相结合,GALASTIC可以更真实地表示大脑和认知在整个生命周期中的变化,同时从测量项目中估计潜在特征。模拟实验表明,即使在中等样本量的情况下,模型估计值也是准确的。
2023-02-02 stat.AP stat.ME