Tensor Graphical Lasso (TeraLasso)
本文介绍了一种多路张量推广的双图套索(BiGLasso),它使用一个双向稀疏克罗内克和多变量正态模型的精度矩阵,简约地模型的基础上的笛卡尔积图的矩阵变量数据的条件依赖关系。我们称这种推广为{ \bf Te}或g{ \bf}物理Lasso(TeraLasso)。我们使用理论和实例证明,TeraLasso模型可以从非常有限的高维变量的数据样本中准确和可扩展地估计,这些变量具有多向坐标,如空间,时间和重复。统计一致性和统计收敛率分别为精度矩阵的BiGLasso和TeraLasso估计量及其支持(非稀疏)集的估计量。我们提出了一个可扩展的复合梯度下降算法,并分析了计算的收敛速度,表明复合梯度下降算法是保证以几何速度收敛到TeraLasso目标函数的全局最小值。最后,我们使用气象数据集的模拟和实验数据来说明TeraLasso,表明我们可以准确地估计精度矩阵,并从高维复杂数据集中恢复有意义的条件依赖图。
2019-09-23 stat.ME
Graphical lasso for extremes
Erasmus University Rotterdam(伊拉斯姆斯大学鹿特丹)
本文研究高维多元向量尾部区域稀疏依赖结构的估计,通过嵌入Hüsler-Reiss分布的极值图模型进行建模,提出极值图拉索方法以估计尾部依赖的稀疏性,并通过模拟和实际数据验证其一致性与准确性。
2026-04-14 math.ST stat.ME stat.TH
Multi-omics network reconstruction with collaborative graphical lasso
Wageningen University and Research(瓦赫宁根大学与研究)
本文提出协同图拉索方法,通过整合多组学数据提升网络推断能力,并引入XStARS进行超参数调节,验证了其在生物相互作用识别中的有效性。
2026-01-27 q-bio.MN stat.ME
Statistical Downscaling of Model Projections with Multivariate Basis Graphical Lasso
我们描述了一种改进的统计降尺度方法,地球科学应用使用多元基图形套索(BGL)。我们证明了我们的方法使用的海洋表面温度(SST)预测CMIP 6地球系统模型,这有直接的应用程序的珊瑚礁漂白的几十年预测研究的案例研究。我们发现,BGL降尺度方法是计算上易于处理的大数据集,和均方预测误差约为8%,低于目前最先进的基于插值的统计降尺度方法。最后,不像大多数目前可用的方法,BGL降尺度产生不确定性估计。我们的新方法可以适用于任何模型输出变量,相应的高分辨率观测数据。
2022-01-31 stat.AP stat.ME
Learning Gaussian Graphical Models Using Discriminated Hub Graphical Lasso
在Hub Graphical Lasso(HGL)的基础上,提出了一种基于先验信息的判别式Hub Graphical Lasso(DHGL)方法。我们在两种情况下应用这种新方法:已知枢纽和不知道枢纽。然后,我们比较DHGL与HGL使用几个性能指标。当一些枢纽已知时,我们总是可以通过DHGL比HGL更好地估计精度矩阵。在不知道枢纽节点的情况下,我们使用图形Lasso(GL)来提供枢纽节点的信息,发现在给定正确的先验信息时,DHGL的性能总是优于HGL,而在先验信息错误时,DHGL的性能几乎不会退化。
2017-05-17 stat.ML
Fused graphical lasso for brain networks with symmetries
神经影像学是神经科学的一个不断发展的领域,致力于产生数据,目标是捕捉人脑的过程和动态。我们考虑的问题推断的大脑连接网络的时间依赖性功能磁共振成像(fMRI)扫描。为此,我们提出了对称的图形套索,惩罚似然方法与融合型惩罚函数,考虑到明确的自然对称结构的大脑。对称图形套索允许人们同时学习网络结构和两个半球的对称性。我们实现了一个交替方向的乘子算法来解决相应的凸优化问题。此外,我们应用我们的方法来估计两个受试者的大脑网络,一个健康,另一个受精神障碍的影响,并比较它们的对称结构。该方法适用于一旦时间依赖性功能磁共振成像数据的特点已占,我们比较不同的去趋势技术对估计的大脑网络分析的影响。
2021-05-27 stat.AP stat.ME
The Sylvester Graphical Lasso (SyGlasso)
University of Michigan(密歇根大学)
本文介绍了Sylvester图形套索(SyGlasso),它可以捕获张量值数据中存在的多路依赖关系。该模型基于定义生成模型的Sylvester方程。所提出的模型补充了张量图形套索(Greenewald等人,2019),其通过提供可生成且可解释的替代Kronecker和模型来对逆协方差阵施加Kronecker和模型。采用逐点回归方法估计变量之间的条件独立关系。建立了该方法的统计收敛性,并提供了实证研究,以证明有意义的条件依赖图的恢复。我们将SyGlasso应用于脑电图(EEG)研究,以比较酒精和非酒精受试者的大脑连接。我们证明了我们的模型可以同时估计大脑的连接性和时间依赖性。
2020-02-01 cs.LG stat.ME stat.ML
Adaptive testing for the graphical lasso
我们考虑在逆协方差阵估计的图形套索设置的显着性检验。我们提出了一个简单的检验统计量,基于图套索路径中节点的一个子序列,我们证明了这个统计量具有指数渐近零分布,在原假设下,该模型包含真正的连接组件。虽然零分布是渐近的,我们通过模拟表明,它提供了一个接近真实的分布在合理的样本量。因此,测试提供了一个简单的,易于处理的测试的意义,新的边缘,因为他们被引入到模型。最后,我们展示了我们的结果和其他正则化回归结果之间的联系,以及我们的结果扩展到其他基于相关阵的方法,如单链聚类。
2013-07-22 math.ST stat.ME stat.TH
Compositional Graphical Lasso Resolves the Impact of Parasitic Infection on Gut Microbial Interaction Networks in a Zebrafish Model
了解微生物如何相互作用是揭示微生物在宿主或环境中发挥的潜在作用以及将微生物鉴定为可能改变宿主或环境的试剂的关键。例如,了解微生物相互作用如何与寄生虫感染相关,可以帮助解决寄生虫感染的潜在药物或诊断测试。为了揭示微生物之间的相互作用,现有的工具通常依赖于图形模型来推断微生物丰度的条件依赖性,以表示它们之间的相互作用。然而,目前的方法不能同时考虑微生物组数据固有的离散性、组成性和异质性。因此,我们建立了一个新的方法,称为“合成图形套索”现有的工具,将上述特点明确的图形模型。我们说明了在各种模拟场景下,并在基准研究,塔拉海洋项目的组成图形套索目前的方法的优势。此外,我们提出了我们的结果从斑马鱼寄生虫感染研究的数据集的分析。我们的方法确定感染和未感染的个人之间的相互作用程度的变化为三个类群,发光杆菌属,芽杆菌属,少杆菌属,这是由其他方法反向预测。进一步调查这些方法特定类群的相互作用的变化,揭示了它们的生物相容性。特别是,我们推测发光杆菌和芽杆菌在斑马鱼肠道中的潜在致病作用,以及少杆菌的潜在益生作用。总的来说,我们的分析表明,组成图形套索提供了一种准确解决微生物群之间相互作用的强大手段,从而可以推动新的生物学发现。
2022-07-03 stat.AP stat.ME
Existence and optimisation of the partial correlation graphical lasso
针对偏相关图形套索(PCGLASSO)的非凸优化计算难题,证明其在样本量小于维度时估计量存在,提出交替算法并推出首个公开R实现,在中等维度下计算效率具竞争力。
2025-10-29 stat.CO stat.ME
Thresholded Adaptive Validation: Tuning the Graphical Lasso for Graph Recovery
Ruhr University Bochum(波鸿鲁尔大学)
许多机器学习算法都被公式化为正则化优化问题,但它们的性能取决于一个正则化参数,该参数需要根据手头的每个应用进行校准。在本文中,我们提出了一个通用的校准计划正则化优化问题,并将其应用到图形套索,这是一种方法的高斯图形建模。该方案配备了理论保证,并激励阈值流水线,可以提高图恢复。此外,在正则化路径上最多需要一个线搜索,校准方案在计算上比基于重新搜索的竞争方案更有效。最后,我们在模拟中表明,我们的方法可以大大提高其他方法的图恢复。
2021-03-30 cs.LG stat.ME stat.ML
The Influence Function of Graphical Lasso Estimators
精度矩阵是多元分析中一个重要的研究对象,它描述了一组变量之间的条件线性依赖关系。稀疏估计程序的精度矩阵,如图形套索(Glasso)获得普及,因为它们有助于解释,从而分离的变量对是有条件的依赖从那些是独立的(给定所有其他变量)。然而,Glasso缺乏对离群值的鲁棒性。为了克服这个问题,通常应用鲁棒插件程序,其中Glasso是从鲁棒协方差估计而不是样本协方差计算的,从而提供针对离群值的保护。本文从理论上研究了这类估计,推导并比较了它们的影响函数、灵敏度曲线和渐近方差。
2023-03-08 math.ST stat.ME stat.TH
Graphical Elastic Net and Target Matrices: Fast Algorithms and Software for Sparse Precision Matrix Estimation
我们考虑估计无向高斯图模型和逆协方差在高维的情况下,惩罚相应的精度矩阵。虽然已经研究了精度矩阵的单个$L_1$(图形套索)和$L_2$(图形脊)惩罚,但我们提出了两者的组合,产生弹性网类型的惩罚。我们通过允许精度矩阵包含对角目标矩阵来实现额外的灵活性。我们概括了现有的算法的图形套索,并提供相应的软件与一个有效的实现,以方便使用的从业者。我们的软件从许多现有的图形套索软件包中借用了计算上有利的部分,从而实现了整体快速(更快)的实施,同时也带来了更大的方法灵活性。
2021-01-06 stat.CO stat.ME
Two New Algorithms for Solving Covariance Graphical Lasso Based on Coordinate Descent and ECM
协方差图形套索对协方差阵的元素应用套索惩罚。该方法不仅能产生协方差阵的稀疏估计,而且能通过在协方差阵中生成零点来发现边缘独立结构。我们提出并探索两个新的算法解决协方差图形套索问题。我们的新算法是基于坐标下降和ECM。我们表明,这两个算法比Bien和Tibshirani(2011)的唯一现有的竞争算法在简单性,速度和稳定性方面更有吸引力。我们还讨论了算法的收敛性。
2012-05-18 stat.CO stat.ML
Exact covariance thresholding into connected components for large-scale Graphical Lasso
我们考虑稀疏逆协方差正则化问题或具有正则化参数$ρ$的图形套索。假设通过在$ρ$处对样本协方差阵的条目进行阈值化而形成的协方差图被分解成连通分量。我们表明,阈值协方差图诱导的顶点划分是完全相等的估计浓度图诱导。这个简单的规则,当被用作现有算法的包装时,会带来巨大的性能提升。对于大值的$ρ$,我们的建议分裂成较小的易处理的问题,一个大的图形套索问题,使之有可能解决,否则不可行的大规模图形套索问题。
2011-09-15 stat.CO stat.ML
Adaptive Lasso for High Dimensional Regression and Gaussian Graphical Modeling
我们证明了两阶段自适应Lasso过程(Zou,2006)对于线性和高斯图模型中的高维模型选择是一致的。我们的一致性条件比以前的工作中所完成的条件覆盖了更一般的情况:我们证明了限制特征值条件(Bickel等人,2008)对于稀疏结构估计也是足够的。
2009-03-13 math.ST stat.ML stat.TH
Maximum likelihood thresholds of Gaussian graphical models and graphical lasso
本研究针对高维高斯图模型,考察用 graphical lasso 在 n 个样本上选择并拟合模型时,n 达到对应图最大似然阈值的概率,并通过计算实验给出结果。
2023-12-05 math.ST stat.ML stat.TH
ADMM Algorithm for Graphical Lasso with an $\ell_{\infty}$ Element-wise Norm Constraint
我们考虑了在精度矩阵上附加$\ell_{\infty}$元素范数约束的图套索问题。这个问题在诸如\citep{Janzamin-12}中的高维协方差分解中有应用。我们提出了一个ADMM算法来解决这个问题。我们还使用了一个连续的策略上的惩罚参数有一个快速实现的算法。
2013-11-28 cs.LG math.OC stat.ML
StabJGL: a stability approach to sparsity and similarity selection in multiple network reconstruction
针对高维组学数据中联合图形套索参数选择不佳的问题,提出结合模型稳定性与似然相似性选择的stabJGL方法,提升多网络重建性能并发现新关联。
2023-06-20 stat.ME
Implicit Differentiation for Hyperparameter Tuning the Weighted Graphical Lasso
Univ Lyon, Ens Lyon, UCBL, CNRS, Inria, LIP(里昂大学、里昂高等师范学院、里昂第一大学、法国国家科学研究中心、法国国家信息与自动化研究所、里昂并行计算实验室)
本文提出基于一阶方法求解双层优化的框架与算法,用于调优加权 Graphical Lasso 超参数,并推导其解对正则化超参数的 Jacobian。
2023-07-05 cs.LG math.OC stat.ML
Regularized Estimation of Piecewise Constant Gaussian Graphical Models: The Group-Fused Graphical Lasso
分段常数高斯图模型的时间演化精度矩阵编码了多变量时间序列的动态条件依赖结构。传统上,图形模型是在假设数据是从生成分布中相同提取的情况下估计的。引入稀疏性和稀疏差分诱导先验,我们放松这些假设,并提出了一种新的正则化M-估计,共同估计的图形和变点结构。由此产生的估计拥有的能力,因此有利于稀疏依赖结构和/或平滑地演变的图形结构,根据需要。此外,我们的方法扩展了目前的方法,允许估计的变化点,在系统中的多个依赖关系分组。提出了一种有效的结构估计算法。我们研究的经验恢复性能在一个合成的设置。分组变点估计的定性效果,然后证明通过应用该方法在两个现实世界的数据集。
2017-10-31 stat.CO stat.ME stat.ML
Efficient proximal gradient algorithms for joint graphical lasso
我们考虑从稀疏数据中学习无向图模型。虽然已经提出了几种有效的算法,图形套索(GL),交替方向法的乘法器(ADMM)是主要的方法,采取有关联合图形套索(JGL)。我们提出了近端梯度程序,有和没有一个回溯选项的JGL。这些程序是一阶的,相对简单,子问题的解决有效地在封闭的形式。进一步证明了JGL问题解的有界性和算法中的迭代次数。数值结果表明,所提出的算法可以达到较高的精度和准确度,其效率是竞争的最先进的算法。
2021-07-16 math.OC stat.ML
Thresholded Graphical Lasso Adjusts for Latent Variables: Application to Functional Neural Connectivity
Rice University(莱斯大学);Baylor College of Medicine(贝勒医学院)
在神经科学中,研究人员试图从大规模的神经记录或成像中揭示神经元的连通性;人们经常使用图形模型选择和估计技术来实现这一目的。但是,现有的技术只能记录一小部分神经元,这导致了在存在大量潜在变量的情况下图选择的挑战性问题。Anglasekaran et al.(2012)提出了一个凸规划来解决这个问题,从计算和统计的角度提出了挑战。为了解决这个问题,我们提出了一个非常简单的解决方案:将硬阈值算子应用于现有的图选择方法。概念上简单,计算上有吸引力,我们证明,阈值的图形套索,邻域选择,或CLIME估计具有优越的理论特性,在图形选择的一致性,以及更强的实证结果比现有的方法的潜在变量图形模型问题。我们还证明了我们的方法的适用性,通过神经科学案例研究钙成像数据来估计功能性神经连接。
2021-04-13 cs.LG stat.ME stat.ML
Robust Gaussian Graphical Modeling with the Trimmed Graphical Lasso
高斯图形模型(GGM)是研究网络结构的常用工具。然而,许多现代应用,如基因网络发现和社会互动分析,往往涉及高维噪声数据与离群值或重尾比高斯分布。在本文中,我们提出了修剪图形套索的稳健估计的稀疏GGM。我们的方法通过隐式修剪机制来防止离群值,该机制类似于用于线性回归的流行的最小二乘修剪方法。我们提供了一个严格的统计分析,我们的估计在高维设置。相比之下,现有的方法用于鲁棒稀疏GGM估计缺乏统计保证。我们的理论结果得到了仿真和真实基因表达数据实验的补充,进一步证明了我们的方法的价值。
2015-10-28 stat.ML
Modeling massive highly-multivariate nonstationary spatial data with the basis graphical lasso
Rutgers University(罗格斯大学);University of Colorado Boulder(科罗拉多大学博尔德分校);Colorado School of Mines(科罗拉多矿业学院)
本文提出基图拉斯索框架,将多尺度基函数与高斯图模型结合,以线性复杂度对高维非平稳空间过程建模,并在含40个空间过程的大型气候集合上验证了方法。
2021-06-09 cs.LG stat.ME stat.ML
Exact Hybrid Covariance Thresholding for Joint Graphical Lasso
Toyota Technological Institute at Chicago(芝加哥丰田理工学院);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文考虑了从由不同类组成的$p$维数据集中估计多个相关高斯图模型的问题。我们的工作是基于制定这个问题作为组图形套索。本文提出了一种新的混合协方差阈值算法,可以有效地识别零元素的精度矩阵和分裂一个大的联合图形套索问题分解成小的子问题。我们的混合协方差阈值方法优于现有的统一阈值方法,因为我们的方法可以使用不同的划分方案将每个类别的精度矩阵拆分,从而将组图形套索拆分为更小的子问题,每个子问题都可以非常快速地解决。此外,本文建立了我们的混合协方差阈值算法的必要条件和充分条件。我们的阈值方法的优越性能进行了深入的分析,并通过模拟数据和真实的基因表达数据的几个实验说明。
2015-06-18 cs.AI cs.LG stat.ML
The Functional Graphical Lasso
针对高维稀疏的希尔伯特空间随机元素,提出无限维图形套索方法,无需截断,证明模型选择一致性,适用于任意观测机制。
2023-06-23 math.ST stat.ME stat.TH
Generalized information criterion for model selection in penalized graphical models
基于Kulback-Leibler散度,在Konishi和Kitagawa提出的广义信息准则的基础上,给出了一个估计模型与真实模型之间相对有向距离的估计.该估计可用于惩罚高斯copula图模型的模型选择。使用这种估计是不可行的高维情况下。然而,我们得到了一个有效的方法来计算这个估计是可行的后一类问题。此外,该估计器通常适用于几种惩罚,如套索,自适应套索和平滑剪切绝对偏差惩罚。仿真结果表明,该方法执行类似的KL oracle估计,它也提高了BIC性能方面的支持恢复的图。具体来说,我们比较我们的方法与赤池信息准则,贝叶斯信息准则和交叉验证带,稀疏和密集的网络结构。
2014-03-05 stat.ME
Entropy Adjusted Graphical Lasso for Sparse Precision Matrix Estimation
本文针对高维稀疏精度矩阵估计中传统收缩惩罚未显式处理不确定性的问题,提出在 Graphical Lasso 中加入对数行列式惩罚的熵调整方法,并在模拟与真实数据上验证其指标优势。
2025-01-09 stat.CO stat.ME
Tree-based Node Aggregation in Sparse Graphical Models
高维图形模型通常使用正则化来估计,其目的是减少网络中的边数。在这项工作中,我们展示了如何通过聚合图形模型的节点来生成更简单的网络。我们开发了一种新的凸正则化方法,称为树聚合图形套索或标签套索,估计图形模型,边缘稀疏和节点聚合。通过利用树形式的边信息以数据驱动的方式执行聚合,该边信息编码节点相似性并促进对所得聚合节点的解释。我们提供了一个有效的实现的标签套索,通过使用局部自适应交替方向方法的乘数,并说明我们的建议的实际优势,在模拟和金融和生物学中的应用。
2021-01-29 econ.EM stat.ME stat.ML
Anomaly Detection via Graphical Lasso
Worcester Polytechnic Institute(伍斯特理工学院)
异常和离群值在真实世界的数据中很常见,它们可能来自许多来源,例如传感器故障。因此,异常检测对于分析异常本身和清理数据以进一步分析其周围结构都是重要的。尽管如此,异常的精确定义是重要的自动检测,在这里,我们从检测稀疏的潜在影响嵌入在大量的噪声数据的角度来处理这些问题。基于标准图形拉索的技术可以基于随机变量的样本协方差阵来识别随机变量集合的条件依赖结构。但是,经典图形Lasso对样本协方差阵中的离群值敏感。特别地,样本协方差阵中的几个离群值可以破坏其逆矩阵的稀疏性。因此,我们提出了一种新的优化问题,在精神上类似于鲁棒主成分分析(RPCA)和分裂的样本协方差阵$M$分为两个部分,$M=F+S$,其中$F$是清洁的样本协方差,其逆是稀疏的,可计算的图形套索,和$S$包含离群值在$M$。我们通过在经典的图形套索中添加额外的$ \ell_1$惩罚来完成这种分解,并将其命名为“鲁棒图形套索(Rglasso)"。此外,我们提出了一个交替方向乘法(ADMM)的解决方案的优化问题,规模大的未知数。我们在真实和合成数据集上评估我们的算法,获得可解释的结果,并在准确性和速度方面优于标准的鲁棒最小协方差行列式(MCD)方法和鲁棒主成分分析(RPCA)。
2018-11-10 cs.LG stat.ML
Regularised Canonical Correlation Analysis: graphical lasso, biplots and beyond
针对现有正则化CCA结构假设难验证、生物数据适配性差等问题,本文提出基于Graphical Lasso的新型CCA估计器,并配套EDA场景下的模型评估解释框架,经实验验证性能优异。
2025-11-16 math.ST stat.AP stat.ME
A Flexible, Scalable and Efficient Algorithmic Framework for Primal Graphical Lasso
我们提出了一个可扩展的,有效的和统计动机的计算框架图形套索(弗里德曼等人,2007年b)-一个协方差正则化框架,在过去几年中得到了统计界的极大关注。现有的算法在扩展到大于1000的维度时有困难。我们的建议显着提高了国家的最先进的中等规模的问题和优雅的规模更大的问题,其他算法变得实际上是不可行的。这需要一些关键的新想法。我们在原始问题上操作,并使用块坐标方法的微妙变化,从而大大降低了数量级的计算复杂性。我们提供了严格的理论保证,我们的算法的收敛性和复杂性,并通过实验证明我们的建议的有效性。我们相信,我们的框架扩展了图形套索的适用性,大规模的现代应用程序,如生物信息学,协同过滤和社交网络,等等。
2011-10-25 stat.ML
Identifying Network Hubs with the Partial Correlation Graphical LASSO
University of Wrocław(弗罗茨瓦夫大学);Warsaw University of Technology(华沙理工大学);Lund University(隆德大学)
本文研究了部分相关性图LASSO的统计和计算性质,提出了一种尺度不变的irrepresentability条件,并证明其对模型选择的一致性,同时开发了高效的计算算法。
2026-05-08 math.OC math.ST stat.TH
A Graphical Comparison of Screening Designs using Support Recovery Probabilities
针对筛选设计模拟比较中的可重复性问题,提出基于筛选概率的图形化方法,通过沿惩罚回归求解路径评估设计,规避调整参数,实现更可靠的设计比较。
2023-11-21 stat.ME
From Graphical Lasso to Atomic Norms: High-Dimensional Pattern Recovery
Univ Angers(昂热大学);Wrocław University of Science and Technology(弗罗茨瓦夫科技大学);Warsaw University of Technology(华沙理工大学);Tokai University(东海大学)
该研究将高维精度矩阵模式恢复分析从$\u2113_1$惩罚扩展到通用原子范数惩罚,改进原始-对偶见证方法,提出广义不可表示条件,得到更紧的理论界与统一的模型选择一致性视角。
2026-10-14 math.ST stat.TH
Distributionally Robust Formulation and Model Selection for the Graphical Lasso
University of California, Santa Barbara(加州大学圣巴巴拉分校)
建立在最近的框架分布鲁棒优化,我们考虑估计的逆协方差阵的多元数据。我们提供了一个新的概念Wasserstein模糊集专门针对这个估计问题,导致一个易于处理的一类正规化估计。特殊情况包括高斯数据的惩罚似然估计,特别是图形套索估计。作为该公式的结果,Wasserstein模糊度集的半径与估计问题中的正则化参数直接相关。使用这种关系,估计过程的鲁棒性水平可以被示出为对应于模糊度集合包含具有总体协方差的分布的置信水平。此外,我们的配方的一个独特的功能是,半径可以表示为一个普通的样本协方差阵的函数的封闭形式。利用这一发现,我们开发了一个简单的算法来确定图形套索的正则化参数,只使用自举的样本协方差阵,这意味着计算昂贵的图形套索算法的重复评估是没有必要的。或者,如果使用现成的方法(如交叉验证),则分布鲁棒公式也可以量化相应估计量的鲁棒性。最后,我们数值研究得到的正则化准则和分析的鲁棒性的其他自动调整程序在实践中使用。
2019-10-05 cs.LG math.ST stat.ML
Convergence Properties of Kronecker Graphical Lasso Algorithms
本文研究了独立同分布协方差估计的Kronecker图套索算法的迭代收敛性。稀疏Kronecker乘积协方差模型下的高斯随机样本及均方误差收敛速度。KGlasso模型,最初被Allen称为转置正则化协方差模型[“Transposable regularized covariance models with an application to缺失数据imputation,”Ann. Appl. Statist.,第4卷,第2期,第100页。764-790,2010],在每个Kronecker因子上实现一对$\ell_1$惩罚以在协方差估计器中强制稀疏性。KGlasso算法推广了由Yuan和Lin [”模型选择和高斯图形模型中的估计”,Biometrika,第94卷,第100页]引入的Glasso。19-35,2007]和Banerjee [”模型选择through sparse极大似然估计for multivariate Gaussian or binary data,”J. Mach.学习.结果:第9卷,第100页。485-516,2008年3月],以估计具有Kronecker乘积形式的协方差。它还推广了Dutilleul的未惩罚ML触发器(FF)算法[“The MLE algorithm for the matrix正态分布,”J. Statist. Comput.同时,第64卷,…
2013-11-01 stat.ME stat.ML
Unifying Sparse Estimation of Precision and Covariance Matrices
StataCorp LLC(Stata公司)
本文提出一种基于精度矩阵最后一列新参数化的块坐标下降算法,将正则化对数似然分解为两个凸函数,实现与DP-GLasso相当的稀疏精度矩阵估计性能。
2026-10-28 stat.CO stat.ML
Spike-and-Slab Meets LASSO: A Review of the Spike-and-Slab LASSO
在过去的几十年中,高维数据集已经变得无处不在,通常具有比观测值更多的协变量。在频率论环境中,惩罚似然方法是高维数据中变量选择和估计的最流行方法。在贝叶斯框架中,尖峰和厚板方法通常用作高维建模的概率构造。在线性回归的背景下,Rockova和George(2018)引入了尖峰和平板LASSO(SSL),这是一种基于先验的方法,它提供了惩罚似然LASSO和贝叶斯点质量尖峰和平板公式之间的连续性。自成立以来,钉板LASSO已扩展到各种环境,包括广义线性模型、因子分析、图形模型和非参数回归。本文的目的是调查周围的景观钉和板LASSO方法。首先,我们阐明了吸引力的性质和计算的易处理性的SSL先验在高维。然后,我们回顾SSL的方法发展,并概述了几个理论发展。我们说明了模拟和真实数据集的方法。
2021-05-08 stat.ME
Estimating the False Discovery Rate of Variable Selection
University of California, Berkeley(加州大学伯克利分校);Stanford University(斯坦福大学)
本文提出了一种通用的虚发现率估计方法,用于评估变量选择过程中的预测误差与变量选择准确性之间的权衡。
2026-02-24 stat.ME
The Graphical Lasso: New Insights and Alternatives
Stanford University(斯坦福大学)
图形套索\citep{FHT2007a}是一种用于学习无向高斯图形模型中的结构的算法,使用$\ell_1$正则化来控制精度矩阵${\BΘ}={\BΣ}^{-1}$ \citep{BGA2008,yuan_lin_07}中的零点数量。{ \texttt R}软件包\GL \ \citep{FHT2007a}很受欢迎,速度很快,允许用户针对不同的调优参数值高效地构建模型路径。\GL \的收敛可能很棘手;收敛的精度矩阵可能不是估计的协方差的倒数,并且偶尔会在热启动时无法收敛。在本文中,我们解释了这种行为,并提出了新的算法,似乎优于\GL。通过研究“正规方程”,我们看到,\GL \是解决的{ \em对偶}的图形套索惩罚的可能性,通过块坐标上升;一个结果,也可以在\cite{BGA2008}。在该对偶中,估计的目标是协方差矩阵$\BΣ$,而不是精度矩阵$\BΘ$。我们提出了类似的原始算法\PGL \和\DPGL,也通过块坐标下降,其中$\BΘ$是优化目标。我们研究所有这些算法,特别是不同的方法来解决他们的坐标子问题。我们得出结论,从几个角度来看,\DPGL \更优越。
2012-08-07 cs.LG stat.ML
Segmentation Analysis in Human Centric Cyber-Physical Systems using Graphical Lasso
UC Berkeley(加州大学伯克利分校)
广义游戏化框架作为一种智能基础设施的形式引入,有可能通过利用人在环战略来提高可持续性和能源效率。拟议的框架使一个以人为中心的网络物理系统使用一个接口,让建筑管理人员与居住者进行互动。该界面是专为居住者行为整合支持学习他们的偏好资源除了了解如何改变偏好的外部刺激,如物理控制,时间或激励措施的功能。针对智能化、自主化的激励设计,提出了一种高尚的统计学习算法,对乘员的能源使用行为进行分段。我们应用所提出的算法,图形套索,能源使用数据的占用者,以获得功能的相关性-依赖关系。分割分析的结果表明不同的能源使用行为的特征集群。特征--人类决策的特征因素是可以解释的。
2019-01-17 cs.LG stat.AP stat.ML
The Graphical Horseshoe Estimator for Inverse Covariance Matrices
利用马蹄先验,我们提出了高维多元正态数据逆协方差阵的一种新的估计。建议的图形马蹄估计有吸引力的性质相比,其他流行的估计,如图形套索和图形平滑剪切绝对偏差(SCAD)。最突出的好处是,当真正的逆协方差阵是稀疏的,图形马蹄提供的估计与真正的抽样分布的信息偏差很小。在一定条件下,图马蹄先验下的后验均值也可以几乎无偏。除了这些理论结果,我们还提供了一个完整的吉布斯采样器实现我们的估计。MATLAB代码可以从github下载,网址是http://github.com/liyf1988/GHS。图形马蹄估计器相比,有利的现有技术在模拟和人类基因网络数据分析。
2019-01-06 stat.ME
A Stepwise Approach for High-Dimensional Gaussian Graphical Models
我们提出了一个逐步的方法来估计高维高斯图模型。我们利用偏相关系数和预测误差分布之间的关系,并根据节点的最佳线性预测器的预测误差之间的Pearson相关系数来参数化模型。我们提出了一种新的逐步算法检测的条件相关变量对。我们表明,该算法优于现有的方法,如图形套索和CLIME在模拟研究和现实生活中的应用。在我们的比较中,我们报告了不同的性能指标,这些指标着眼于恢复的图形的不同理想功能,并考虑了几种模型设置。
2018-08-17 stat.ME
Local Neighborhood Fusion in Locally Constant Gaussian Graphical Models
在本文中,我们渗透和扩展了Honorio等人(2009)引入的图形模型中的局部恒定性概念。我们提出了邻域融合套索,一种在高维图形模型中利用局部信息进行模型选择的方法。我们的方法是基于节点回归(Meinshausen-Bühlmann,2006)的思想的扩展,通过添加融合惩罚。我们提出了一个快速的数值算法,我们的方法,并提供理论和数值证据的事实,我们的方法优于相关的方法,忽略了局部性信息。我们进一步研究我们提出的方法的兼容性问题,并推导出二次预测误差和$l_1$ -估计系数的界。
2014-10-31 stat.ME
On the Lasso for Graphical Continuous Lyapunov Models
本文研究图形连续Lyapunov模型中基于Lasso的模型选择,发现不可表示性条件难以满足,但数值实验表明即使理论条件不满足,Lasso仍能恢复漂移矩阵结构且对模型误设鲁棒。
2023-11-15 math.ST stat.TH
A note on the lack of symmetry in the graphical lasso
图形套索(glasso)是一种广泛使用的估计稀疏逆协方差阵的快速算法。glasso解决了L1惩罚极大似然问题,并可作为CRAN上的R库使用。glasso的输出是一个正则化的协方差阵估计稀疏逆协方差阵估计,不仅可以识别图形模型,还可以作为多变量过程(如PCA、LDA、MANOVA等)的中间输入。glasso确实产生了一个协方差阵估计,它解决了L1惩罚优化问题的双重意义上,然而,在此优化后产生逆协方差阵估计的方法是不精确的,可能会产生不对称的估计。当应用的L1正则化的量很小时,这个问题会加剧,如果真正的底层逆协方差阵不是稀疏的,则更有可能发生这种情况。缺乏对称性可能会产生潜在的后果。首先,它意味着协方差和逆协方差估计不是彼此的数值逆,第二,不对称可能导致负的或复杂的特征值,从而使许多可能依赖于逆协方差估计的多变量过程不可用。我们展示这个问题,解释其原因,并提出可能的补救措施。
2012-07-23 stat.CO stat.ML
On the application of Gaussian graphical models to paired data problems
研究高斯图模型在配对数据中的应用,提出融合图形套索惩罚学习两个相依图及跨图关联结构,并提供ADMM算法与R包,应用于癌症基因组学比较。
2024-10-11 stat.AP stat.CO stat.ME
Stability Selection
结构估计,如变量选择,图形建模或聚类分析是众所周知的困难,特别是对于高维数据。我们引入稳定性选择。它基于子采样结合(高维)选择算法。因此,该方法是非常通用的,并且具有非常广泛的适用性。稳定性选择提供了有限的样本控制的错误发现的一些错误率,因此一个透明的原则,选择适当数量的正则化结构估计。如果应用稳定性选择,则对于一系列选择方法,变量选择和结构估计显著改善。我们证明了随机Lasso的稳定性选择将是变量选择一致的,即使违反了原始Lasso方法一致性所需的必要条件。我们证明了稳定性选择变量选择和高斯图形建模,使用真实和模拟数据。
2009-05-16 stat.ME
Fused Multiple Graphical Lasso
Arizona State University(亚利桑那州立大学);University of Minnesota(明尼苏达大学)
在本文中,我们考虑的问题,同时估计多个图形模型使用融合套索惩罚,这鼓励相邻的图共享相似的结构。一个鼓舞人心的例子是使用神经成像数据分析阿尔茨海默病的大脑网络。具体而言,我们可能希望估计正常对照(NC)的脑网络,轻度认知障碍(MCI)患者的脑网络,以及阿尔茨海默病患者(AD)的脑网络。我们期望NC和MCI的两个大脑网络共享共同的结构,但彼此不相同; MCI和AD的两个大脑网络也是如此。所提出的配方可以使用二阶方法求解。我们的主要技术贡献是建立了图可分解的充分必要条件。基于这个关键属性,提出了一个简单的筛选规则,它分解成小的子图,并允许多个独立的(小)子图的有效估计,大大降低了计算成本。我们在合成数据和真实数据上进行了实验,我们的结果证明了所提出的方法的有效性和效率。
2013-12-31 cs.LG stat.ML
Factorial graphical lasso for dynamic networks
动态网络模型描述了越来越多的重要科学过程,从细胞生物学和流行病学到社会学和金融学。动态网络的许多方面都需要考虑统计因素。在本文中,我们专注于确定网络结构。估计动态网络是一项困难的任务,因为系统中涉及的组件数量非常大。因此,要估计的参数的数量大于观测的数量。然而,许多网络的一个特点是它们是稀疏的。例如,基因的分子结构使得与其他成分的相互作用成为一个高度结构化的过程,因此是稀疏的。惩罚高斯图模型已被用于估计稀疏网络。然而,文献集中在静态网络,缺乏具体的时间约束。我们提出了一个结构化的高斯动态图形模型,其中结构可以由特定的时间动态,已知的存在或不存在的链接和块等式约束的参数。因此,要估计的参数的数量减少,并且可以调整包括网络的识别的估计的准确性。在这里,我们表明,约束优化问题可以解决利用一个有效的求解器,logdetPPA,在凸优化。此外,模型选择方法检查推断网络的灵敏度。最后,合成和实际数据说明所提出的方法。
2012-05-13 math.ST stat.AP stat.CO
Dependence Modeling in Ultra High Dimensions with Vine Copulas and the Graphical Lasso
为了对高维数据进行建模,高斯方法被广泛使用,因为它们通过对数据施加强假设而保持易于处理并且产生简约模型。藤蔓copula是更灵活的结合任意边缘分布和(条件)二元copula。然而,这种适应性是伴随着急剧增加的计算工作,随着维数的增加。本文提出的方法克服了这一负担,使第一步到超高维非高斯依赖建模使用分而治之的方法。首先,我们应用高斯方法将数据集分割成可行的小子集,其次,在其上应用简约和灵活的藤蔓连接。最后,我们将它们整合为一个联合模型。我们提供的数值结果表明,我们的方法在中等尺寸的可行性,并展示其能力,估计超高维非高斯依赖模型在数千个维度。
2017-09-15 stat.ML
Discovering Graphical Granger Causality Using the Truncating Lasso Penalty
生物系统的组成部分相互作用,以执行重要的细胞功能。这些信息可用于改善估计和推断,并获得对潜在细胞机制的更好见解。因此,发现基因间的调控相互作用是系统生物学中的一个重要问题。随着时间的推移,全基因组表达数据提供了一个机会,以确定基因的表达水平如何受到其他基因转录水平变化的影响,因此可以用来发现基因之间的调控相互作用。在本文中,我们提出了一种新的惩罚方法,称为截断套索,估计因果关系的时间过程基因表达数据。该惩罚函数能正确地确定潜在时间序列的阶数,提高了Lasso型估计器的性能。此外,由此产生的估计提供了关于转录因子的激活与其对受调控基因的影响之间的时滞的信息。我们提供了一个有效的算法估计模型参数,并表明,该方法可以始终发现因果关系的大$p$,小$n$设置。所提出的模型的性能进行了评估有利的模拟,以及真正的,数据的例子。所提出的截断套索方法在R包grangerTlasso中实现,并且可在http://www.stat.lsa.umich.edu/~shojaie上获得。
2010-07-03 q-bio.MN stat.ML