A Bayesian Approach to Sparse plus Low rank Network Identification
研究了用稀疏动态贝叶斯网络模型对多元时间序列进行建模的问题。这种结构转化为稀疏加低秩模型。在本文中,我们提出了一个高斯回归方法来识别这样的模型。
2015-09-26 math.OC stat.ML
Bayesian Analysis of Multivariate Matched Proportions with Sparse Response
针对多元匹配比例数据的稀疏响应导致现有非贝叶斯方法方差低估等问题,提出基于贝叶斯probit模型的三种分析方法,其中结合贝叶斯FPCA的多元分析性能更优,且在精神障碍儿童照护体系数据再分析中获得了新洞见。
2022-11-07 stat.ME
Semiparametric imputation using latent sparse conditional Gaussian mixtures for multivariate mixed outcomes
本文提出了一种灵活的贝叶斯方法,多重插补使用条件高斯混合。我们引入了新的收缩先验的协变量依赖的混合比例的混合模型,自动选择合适的数量的组件中使用的插补步骤。我们通过马尔可夫链蒙特卡罗方法开发了一种用于后验计算和多重插补的高效采样算法。所提出的方法可以很容易地扩展到的情况下,数据不仅包含连续变量,但也离散变量,如二进制和计数值。我们还提出了近似贝叶斯推断的损失函数定义的参数的基础上的后验预测分布的缺失观测,通过扩展基于Bootstrap的贝叶斯推断的完整数据。所提出的方法是通过模拟和真实数据的数值研究证明。
2022-08-16 stat.ME
High-Dimensional Multivariate Posterior Consistency Under Global-Local Shrinkage Priors
本文研究了带有$p$回归变量和$q$响应变量的经典多元线性回归模型的稀疏贝叶斯估计。在单响应$y$的单变量贝叶斯线性回归中,收缩先验可以表示为正态密度的尺度混合,用于获得系数的稀疏估计。在本文中,我们扩展使用这些先验的多变量的情况下,估计一个$p \times q$系数矩阵$\mathbf{B}$。我们推导出贝叶斯多元线性回归框架下的后验一致性的充分条件,并证明我们的方法实现后验一致性,即使当$p>n$,甚至当$p$增长与样本量的近指数率。我们推导出一个有效的吉布斯抽样算法,并提供了一个全面的R包称为MBSP的实施。最后,我们通过仿真和数据分析表明,我们的模型具有良好的有限样本性能。
2018-04-16 stat.ME
Two-Step Mixed-Type Multivariate Bayesian Sparse Variable Selection with Shrinkage Priors
提出一种使用收缩先验的混合类型多元回归贝叶斯框架,通过新颖的两步变量选择方法,在 $p$ 相对 $n$ 呈指数增长时实现后验收缩,并具备确定筛选性质。
2024-12-19 math.ST stat.TH
Bayesian analysis of multivariate stochastic volatility with skew distribution
提出了具有斜分布的多变量随机波动率模型。利用Cholesky随机波动模型,将具有杠杆效应的单变量随机波动过程和广义双曲斜t分布嵌入到具有时变相关性的多变量分析中.贝叶斯先验工作允许这种方法提供简约的斜结构,并很容易扩展到高维问题。每日股票收益的分析说明。实证结果表明,时变相关性和稀疏偏斜结构有助于提高预测性能和VaR预测。
2012-12-20 stat.AP stat.ME
Multivariate Varying-Coefficient BART with Graphical Horseshoe Priors
University of Wisconsin–Madison(威斯康星大学麦迪逊分校)
提出多变量变系数BART框架,用独立BART集成建模非线性系数曲面,图形马蹄先验捕捉残差稀疏依赖,并证明后验收缩率。
2026-06-27 math.ST stat.ME stat.ML
Identifiable Deep Generative Models via Sparse Decoding
Columbia University(哥伦比亚大学);Mila - Quebec AI Institute(米拉-魁北克人工智能研究所);Université de Montréal(蒙特利尔大学);University of Michigan(密歇根大学)
针对高维数据无监督表示学习问题,提出稀疏变分自动编码器(sparse VAE),通过稀疏解码使每个观测特征仅依赖少量潜在因子,证明其模型可识别性,且在模拟与真实数据上恢复有意义潜在因子并具更小保留数据重建误差。
2022-02-17 cs.LG stat.ME stat.ML
Bayesian Matrix-Valued Graphs for Context-Dependent Multivariate Relationships
本文提出贝叶斯矩阵值图(BMVG)框架,用SPD矩阵建模边权重,通过黎曼几何量化上下文相关的多元关系变化,在天气和基因数据中验证了其有效性和可解释性。
2026-09-09 cs.LG stat.ME
Sparse Bayesian vector autoregressions in huge dimensions
我们建立了一个具有多维随机波动率的贝叶斯向量自回归(VAR)模型,该模型能够处理大量的多维信息集。引入三个功能,以允许可靠的估计模型。首先,我们假设VAR中的简化形式误差具有因子随机波动率结构,允许有条件的逐方程估计。其次,我们应用最近开发的全局-局部收缩先验的VAR系数治愈灾难的维度。第三,我们利用最近的创新,有效地从高维多变量高斯分布采样。这使得基于模拟的完全贝叶斯推断可行的维数是大的,但时间序列长度是中等。我们展示了我们的方法在广泛的模拟研究的优点,并将该模型应用于美国的宏观经济数据,以评估其预测能力。
2019-12-04 econ.EM stat.AP stat.CO
Generalized Sparse Precision Matrix Selection for Fitting Multivariate Gaussian Random Fields to Large Data Sets
我们提出了一种基于稀疏精度矩阵选择(SPS)算法估计多变量二阶平稳高斯随机场(GRF)模型的新方法,该算法由Davanloo等人(2015)提出,用于估计标量GRF模型。建立估计的响应间协方差阵和基础空间相关函数的估计参数的理论收敛速率。使用模拟和真实数据集的数值测试验证了我们的理论研究结果。数据分割用于处理大型数据集。
2017-07-06 stat.ML
Bayesian inference for general Gaussian graphical models with application to multivariate lattice data
我们介绍了有效的马尔可夫链蒙特卡罗方法的推断和模型确定的多元和矩阵变量高斯图形模型。我们的框架是基于G-Wishart先验的精度矩阵与图,可以是可分解或不可分解的。我们扩展我们的抽样算法,一类新的条件自回归模型的稀疏估计在多元格数据,特别强调空间数据的分析。这些模型在估计跨结果的相关性结构和空间相关性结构方面具有很大的灵活性,从而允许自适应平滑和空间自相关参数。我们的方法使用模拟和现实世界的例子,包括癌症死亡率监测的应用程序进行说明。
2010-05-21 stat.ME
Sparse Representation of Multivariate Extremes with Applications to Anomaly Ranking
极值在异常检测中起着特殊的作用。除了推断和模拟目的之外,从极值理论(EVT)借用的概率工具(例如角度测量)也可以用于设计用于异常检测/排序的新颖的统计学习方法。本文提出了一种新的算法的基础上,多变量极值理论学习如何排名的观察在一个高维空间的“异常”的程度。该过程依赖于原始的降维技术在极端域,可能会产生一个稀疏的表示的多元极端,并允许洞察其依赖结构,逃避灾难的维度。我们在这里提出的无监督方法的表示输出可以与任何针对非极端数据的异常检测技术相结合。由于它与维度呈线性关系,并且在数据中几乎呈线性关系(O(dn log n)),因此它适合于大规模问题。本文中的方法是新颖的,EVT从来没有在异常检测领域的多元版本中使用。说明性的实验结果提供了强有力的经验证据,我们的方法的相关性。
2016-03-31 stat.ML
Joint estimation of sparse multivariate regression and conditional graphical models
University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
多元回归模型是对经典的一元回归模型的自然推广,用于拟合多个响应.在本文中,我们提出了一个高维多元条件回归模型,用于构造多元回归系数矩阵的稀疏估计,该矩阵考虑了多个响应之间的依赖结构。所提出的方法分解成一系列的惩罚条件对数似然的协变量和其他响应的条件下的每个响应的多元回归问题。它允许同时估计稀疏回归系数矩阵和稀疏逆协方差阵。针对协变量的发散维度和响应数量建立了渐进选择一致性和正态性。所提出的方法的有效性也证明了在各种模拟的例子,以及应用程序的多形性胶质母细胞瘤癌症数据。
2013-06-19 cs.LG stat.ML
Sparse and low-rank multivariate Hawkes processes
我们考虑的问题,揭示隐含的网络结构的节点交互(如用户在社交网络中的交互),仅基于高频时间戳。我们的推断是基于最小化的最小二乘损失与多变量霍克斯模型,惩罚由$\ell_1$和跟踪规范的相互作用张量。我们提供了这个问题的第一个理论分析,其中包括稀疏性和低秩诱导惩罚。这一结果涉及到一个新的数据驱动的集中不等式的矩阵鞅在连续时间的可观测方差,这是一个结果的独立利益和广泛的可能的应用,因为它扩展到矩阵鞅以前的结果仅限于标量的情况下。我们的分析的结果是急剧调整的$\ell_1$和跟踪规范惩罚的建设,这导致了数据驱动的缩放的可变性的信息提供给每个用户。数值实验表明,通过使用这种数据驱动的惩罚取得了显着的改善。
2020-02-24 stat.ML
Sparse Multivariate Factor Regression
我们考虑的问题,多元回归中的相关预测可以共享不同的反应。我们提出了一种算法,该算法将系数矩阵分解为一个长矩阵和一个宽矩阵的产品,与弹性网罚款前者和$\ell_1$罚款后者。第一个矩阵将预测因子线性转换为一组潜在因子,第二个矩阵对这些因子的响应进行回归。我们的算法同时进行降维和系数估计,并自动估计的潜在因素的数量从数据。我们的公式导致了一个非凸优化问题,尽管它可以灵活地施加有效的低维结构,但很难甚至不可能在合理的时间内精确求解。我们指定一个优化算法的基础上交替最小化与三个不同的更新集来解决这个非凸问题,并提供其收敛性和最优性的理论结果。最后,我们通过模拟和真实数据的实验证明了我们的算法的有效性。
2016-02-29 stat.ML
Learning Sparse Graphs for Prediction and Filtering of Multivariate Data Processes
我们使用底层图模型解决多变量数据过程的预测问题。我们开发了一种方法,学习稀疏的部分相关图的调谐免费和计算效率的方式。具体来说,图结构是递归学习的,而不需要交叉验证或参数调整,通过建立在一个超参数的自由框架。我们的方法不需要图是无向的,也适应不同的噪声水平在不同的node.Experiments使用真实世界的数据集表明,所提出的方法提供了显着的性能增益的预测,在与这些数据集经常相关的图相比。
2018-11-15 stat.CO stat.ML
Multivariate Convolutional Sparse Coding with Low Rank Tensor
Ecole Normale Supérieure de Cachan(卡尚高等师范学院);CNRS(法国国家科学研究中心);Université Paris-Saclay(巴黎-萨克雷大学);Université Paris 13(巴黎第十三大学)
本文介绍了一种新的多元卷积稀疏编码的基础上张量代数的一般模型,同时执行元素的稀疏性和低秩的激活张量。通过使用CP分解,该模型实现了多变量信号的显著更有效的编码-特别是在高阶/维数设置中-从而产生更好的性能。我们证明,我们的模型是密切相关的Kruskal张量回归问题,提供有趣的理论保证,我们的设置。在此基础上,提出了一种基于交替优化的高效优化算法来求解该模型。最后,我们评估我们的算法与大范围的实验,突出其优点和局限性。
2019-08-09 cs.LG stat.ML
Multivariate regression modeling in integrative analysis via sparse regularization
本文提出一种基于稀疏正则化的整合分析多元回归建模方法,利用交替方向乘子法实现变量与组选择,并通过模拟和污水处理微生物数据验证其优于单一数据集分析。
2023-04-15 stat.ME stat.ML
Conditional Sparse Coding and Grouped Multivariate Regression
Carnegie Mellon University(卡内基梅隆大学);University of Chicago(芝加哥大学)
我们研究的问题,多元回归的数据是自然分组,回归矩阵是估计为每组。我们提出了一种方法,在该方法中,低秩参数矩阵的字典估计跨组,和字典元素的稀疏线性组合估计在每个组内形成一个模型。我们将该方法称为条件稀疏编码,因为它是以协变量向量X为条件的响应向量Y的编码过程。这种方法捕获跨组的共享信息,同时适应每个组内的结构。它利用了在计算机视觉和计算神经科学中成功开发的稀疏编码背后的相同直觉。我们提出了一种算法的条件稀疏编码,分析其理论性质的预测精度,并提出了模拟和脑成像实验的结果,比较新技术,以减少秩回归。
2012-06-27 cs.LG stat.ML
Identifiable Representation and Model Learning for Latent Dynamic Systems
Beijing Institute of Control Engineering(北京控制工程研究所)
本文研究潜在动态系统的可辨识表示与模型学习,利用受可控规范型启发的稀疏、输入依赖归纳偏置,证明稀疏输入矩阵下线性及仿射非线性系统可辨识到缩放和简单变换。
2024-12-04 cs.LG cs.SY eess.SY
Sparse partial least squares for on-line variable selection in multivariate data streams
在本文中,我们提出了一个计算效率高的算法在线变量选择的多元回归问题,涉及高维数据流。该算法递归地提取偏最小二乘解的所有潜在因素,并为每个因素选择最重要的变量。这是通过只有一个稀疏奇异值分解,可以有效地更新在线和自适应的方式。基于人工数据流的仿真结果表明,该算法是能够选择重要的变量在动态设置中的相关结构之间的观察流是由一些隐藏的组件和每个变量的重要性随时间变化。我们还报告了我们的算法的应用程序的多变量版本的“增强型指数跟踪”的问题,使用金融数据流。该应用程序包括执行在线资产配置,目标是同时超越两个基准指数。
2009-02-08 stat.ME stat.ML
Identifiable Phenotyping using Constrained Non-Negative Matrix Factorization
The University of Texas at Austin(德克萨斯大学奥斯汀分校);New York University(纽约大学)
这项工作提出了一种新的算法,用于使用电子健康记录(EHR)的临床记录自动和同时对多种共同发生的医疗状况(也称为合并症)进行表型分析。一个基本的潜在因素估计技术的非负矩阵分解(NMF)增强域特定的约束,以获得稀疏的潜在因素,锚定到一组固定的慢性疾病。所提出的锚定机制确保潜在因素和目标合并症之间的一对一可识别和可解释的映射。临床专家对经验结果的定性评估表明,所提出的模型在预测30天死亡率的同时学习了临床可解释的表型。所提出的方法可以很容易地适用于各种医疗机构的任何非负EHR数据。
2016-09-20 cs.LG stat.ML
Sparse Approximate Solutions to Max-Plus Equations with Application to Multivariate Convex Regression
National Technical University of Athens(雅典国家技术大学);University of Pennsylvania(宾夕法尼亚大学)
在这项工作中,我们研究的问题,找到近似,最小支撑集,解决矩阵最大-加方程,我们称之为稀疏近似解。我们展示了如何可以有效地获得这样的解决方案,并在多项式时间的任何$\ell_p$近似误差。基于这些结果,我们提出了一种新的方法,凸多元函数的分段线性拟合,最优性保证的模型参数和近似最小数量的仿射区域。
2020-12-21 cs.LG math.OC math.RA
Graph-Dictionary Signal Model for Sparse Representations of Multivariate Data
LTS4, EPFL, Lausanne, Switzerland(瑞士洛桑联邦理工学院LTS4实验室)
本文提出图词典信号模型,通过图结构描述多变量数据中的关系,利用稀疏组合的图原子进行信号重构,优于现有基线方法。
2026-01-08 cs.LG stat.ML
Detecting Nonlinear Causality in Multivariate Time Series with Sparse Additive Models
提出了一种利用稀疏加性模型(SpAM)检测多维离散时间序列中非线性因果关系的非参数方法。我们发现,当输入到SpAM是一个$β$混合时间序列,该模型可以拟合的线性组合的一组B-样条基,然后解决一组套索型优化问题的非凸正则化的每个未知函数。理论上,我们刻画了所提出的稀疏估计在函数估计和模型选择中的预言统计性质。数值上,我们提出了一个有效的路径迭代收缩阈值算法(PISTA),驯服的非凸性,并保证线性收敛到所需的稀疏估计的高概率。
2018-04-26 cs.LG stat.ME stat.ML
Localized Sparse Principal Component Analysis of Multivariate Time Series in Frequency Domain
Department of Biostatistics & Bioinformatics, Emory University(埃默里大学生物统计与生物信息学系);University of Pittsburgh(匹兹堡大学)
本文提出一种在频域中对高维时间序列进行可解释主成分分析的方法,通过开发高效的频域序列算法,实现稀疏局部化的主成分估计,用于理解精神分裂症患者的神经机制。
2026-03-18 stat.ME stat.ML
Dynamic Multivariate Functional Data Modeling via Sparse Subspace Learning
National University of Singapore(新加坡国立大学);Arizona State University(亚利桑那州立大学);Samsung Electronics(三星电子);Georgia Institute of Technology(佐治亚理工学院)
来自复杂系统的多元函数数据自然是高维的,并且具有复杂的互相关结构。数据结构的复杂性可以被观察为:(1)一些函数与相似的特征强烈相关,而另一些函数可能与非常不同的特征几乎没有互相关;以及(2)互相关结构也可能由于系统演化而随时间变化。针对这一问题,本文提出了一种基于动态子空间学习的多元函数数据建模方法。特别地,我们考虑不同的函数来自不同的子空间,并且只有相同子空间的函数彼此具有互相关。子空间可以通过将问题重新格式化为稀疏回归来自动制定和学习。通过允许但规则化随时间的回归变化,我们可以描述互相关动态。该模型可以有效地估计的快速迭代收缩阈值算法(FISTA),每个子空间的特征可以使用光滑的多通道功能PCA提取。数值研究和案例研究表明,所提出的方法的效率和适用性。
2018-04-11 cs.LG stat.ML
Quasi-parametric rates for Sparse Multivariate Functional Principal Components Analysis
本文给出了多元随机过程第一主成分估计的非渐近结果。我们首先定义多元情形下的协方差函数和协方差算子。然后我们定义一个投影算子。该运算符可以被视为在功能数据分析上下文中从原始数据的重建步骤。接下来,我们表明,本征元素可以表示为一个优化问题的解决方案,我们介绍了LASSO变量的优化问题和相关的插件估计。最后,我们评估估计的准确性。我们建立了一个极小极大下界的均方重构误差的特征元素,这证明了该程序有一个最佳的方差在极小极大意义下。
2022-12-19 math.ST stat.ME stat.ML
Sparse Linear Dynamical System with Its Application in Multivariate Clinical Time Series
University of Pittsburgh(匹兹堡大学)
线性动态系统(LDS)是一个优雅的建模和学习多变量时间序列的数学框架。然而,一般来说,很难设置其隐藏状态空间的维数。少量的隐藏状态可能无法模拟时间序列的复杂性,而大量的隐藏状态可能导致过拟合。在本文中,我们研究的方法,施加一个$\ell_1$正则化的LDS模型的转移矩阵,以减轻选择最佳数量的隐藏状态的问题。我们将一个广义的梯度下降方法到最大后验概率(MAP)的框架,并使用期望最大化(EM)迭代实现稀疏的LDS模型的过渡矩阵。我们表明,我们的稀疏线性动态系统(SLDS)提高了预测性能相比,普通LDS的多变量临床时间序列数据集。
2013-12-03 cs.AI cs.LG stat.ML
Multivariate functional group sparse regression: functional predictor selection
在本文中,我们提出了方法的功能预测选择和光滑的功能系数估计同时在标量函数回归问题下的高维多元函数数据设置。特别是,我们开发了两种方法的功能组稀疏回归下的一般希尔伯特空间的无限维。我们证明了算法的收敛性和一致性的估计和选择(预言性质)在无限维Hilbert空间。仿真研究表明,该方法在函数系数的选择和估计方面都是有效的。功能磁共振成像(fMRI)的应用揭示了人类大脑中与ADHD和智商相关的区域。
2021-07-08 math.ST q-bio.NC stat.AP
A least-squares method for sparse low rank approximation of multivariate functions
Ecole Centrale Nantes, Université de Nantes, GeM UMR CNRS 6183(南特中央理工学院,南特大学,GeM UMR CNRS 6183);Department of Applied Mathematics and Modeling, Airbus Group(空中客车集团应用数学与建模系)
本文提出一种基于离散最小二乘的低秩近似方法,用于从随机无噪声观测中近似多变量函数,通过引入稀疏诱导正则化技术,利用交叉验证选择最优正则化参数和秩,验证该算法在少次数评估下近似多变量函数的能力。
2014-07-09 cs.NA math.NA stat.ML
Structured and sparse partial least squares coherence for multivariate cortico-muscular analysis
Tsinghua University(清华大学)
本文提出ssPLSC算法,通过结构化和稀疏方法提升皮层-肌肉分析的通用性和可解释性,尤其在样本有限和噪声高时表现优异。
2025-06-15 cs.LG stat.AP stat.ML
Multi-SpaCE: Multi-Objective Subsequence-based Sparse Counterfactual Explanations for Multivariate Time Series Classification
Multi-SpaCE是一种用于多变量时间序列分类的多目标反事实解释方法,通过NSGA-II算法平衡多个目标,确保有效性并提供灵活的解决方案。
2025-06-10 cs.LG cs.NE stat.ML
Dynamic Gaussian Mixture based Deep Generative Model For Robust Forecasting on Sparse Multivariate Time Series
NEC Laboratories America(美国 NEC 实验室)
稀疏多变量时间序列(MTS)预测的目的是建立模型的预测未来值的时间序列,其不完整的过去,这是非常重要的许多新兴的应用。然而,大多数现有的方法单独处理MTS,并且不利用MTS的动态分布,导致当稀疏度高时的次优结果。为了解决这一挑战,我们提出了一种新的生成模型,它跟踪潜在集群的过渡,而不是孤立的特征表示,以实现鲁棒的建模。它的特点是由一个新设计的动态高斯混合分布,它捕获的动态聚类结构,并用于发射时间序列。生成模型由神经网络参数化。一个结构化的推理网络也被设计为使归纳分析。进一步引入门控机制来动态调整高斯混合分布。大量的实验结果在各种现实生活中的数据集证明了我们的方法的有效性。
2021-03-03 cs.AI cs.LG stat.ML
Sparse Causal Discovery in Multivariate Time Series
我们的目标是在多变量时间序列中估计因果相互作用。使用向量自回归(VAR)模型,这些可以基于属于相应时滞实例的非零系数来定义。由于在大多数情况下,假设一个简约的因果关系结构,因果发现的一个有前途的方法包括拟合VAR模型与额外的稀疏促进正则化。沿着这条线,我们在这里提出,稀疏性应强制属于每对时间序列的系数的子组,因为因果关系的缺乏需要所有时滞的系数共同变为零。这种行为可以通过l1-l2范数正则化回归来实现,最近已经提出了一种有效的活动集求解器。我们的方法被证明优于标准方法在恢复模拟因果关系图。结果与第二种使用多重统计检验的新方法相当。
2009-01-15 stat.AP stat.ME stat.ML
Multivariate Convolutional Sparse Coding for Electromagnetic Brain Signals
LTCI, Télécom ParisTech, Université Paris-Saclay(LTCI,巴黎高等电信学院,巴黎萨克雷大学);INRIA, Université Paris Saclay(法国国家信息与自动化研究所,巴黎萨克雷大学)
神经活动的频率特异性模式传统上被解释为持续的节律振荡,并且与认知机制如注意、高级视觉处理或运动控制相关。虽然已知α波(8-12 Hz)非常类似于短正弦曲线,并且因此通过傅立叶分析或小波变换来揭示,但是存在一个不断发展的争论,即电磁神经信号由更复杂的波形组成,这些波形不能通过线性滤波器和传统信号表示来分析。在本文中,我们建议使用多变量卷积稀疏编码(CSC)算法来学习这些记录的专用表示。应用于脑电图(EEG)或脑磁图(MEG)数据,该方法不仅能够学习典型的时间波形,而且还能够学习相关的空间模式,因此可以在大脑中定位它们的起源。我们的算法是基于交替最小化和贪婪的坐标下降求解器,导致国家的最先进的运行时间长的时间序列。为了证明这种方法的影响,我们将其应用于MEG数据,并表明它能够恢复生物文物。更值得注意的是,我们的方法还揭示了非正弦μ形模式的存在,以及它们与躯体感觉皮层相关的地形图。
2018-05-26 cs.LG eess.SP stat.ML
Identifiability of Sparse Causal Effects using Instrumental Variables
本文研究工具变量下稀疏线性因果模型的可识别性,提出图形准则与spaceIV估计器,并证明其一致性及在不可识别时恢复部分因果父节点的能力。
2024-10-18 math.ST stat.ME stat.ML
Low-Rank and Structured Sparse Tensor Decomposition for Anomaly Detection in Multivariate Functional Data
Georgia Institute of Technology(佐治亚理工学院)
针对多元函数数据异常检测,提出ES-CP和FG-Lasso两种无监督稀疏张量分解方法,通过低秩CP分解和结构化稀疏惩罚,在模拟与锻造案例中显著提升检测与定位性能。
2026-10-07 cs.LG stat.AP stat.CO
Sparse multi-view matrix factorisation: a multivariate approach to multiple tissue comparisons
群体中的基因表达水平在不同组织间差异很大。这种异质性是由遗传变异性和环境因素引起的,预计与疾病的发展有关。丰富的实验数据现在能够识别跨组织共享的基因表达谱的特征,以及那些组织特异性的特征。虽然目前大多数研究关注的是通过比较组织间的平均表达谱来表征差异表达,但也认为组织间基因表达差异的显著差异也可能与对组织发育和功能重要的分子机制相关。我们提出了一种稀疏多视图矩阵分解(sMVMF)算法,以联合分析多个组织中的基因表达测量,其中每个组织提供了不同的“视图”的基本生物体。所提出的方法可以被解释为主成分分析的扩展,因为它提供了将每个组织中的总样本方差分解为两个分量之和的方法:一个捕获跨组织共享的方差,另一个分离组织特异性方差。sMVMF已用于联合建模三种组织(脂肪、皮肤和LCL)中的mRNA表达谱,这些组织可用于大型且表型良好的双胞胎队列TwinsUK。使用sMVMF,我们能够根据基因的变异模式是否特定于每个组织来优先考虑基因。此外,利用DNA甲基化图谱,我们提供了支持性证据,即脂肪特异性基因表达模式可能是由表观遗传效应驱动的。
2015-06-25 stat.AP stat.ML
LLmFPCA-detect: LLM-powered Multivariate Functional PCA for Anomaly Detection in Sparse Longitudinal Texts
H. Milton Stewart School of Industrial and Systems Engineering, Georgia Institute of Technology(乔治亚理工学院H.Milton Stewart工业与系统工程学院);AT&T Chief Data Office(AT&T首席数据办公室);Department of Data Sciences and Operations, Marshall School of Business, University of Southern California(南加州大学马歇尔商学院数据科学与运营学院)
LLmFPCA-detect结合大语言模型和功能主成分分析,用于稀疏纵向文本中的异常检测和模式推断,提升预测性能。
2025-12-16 cs.LG stat.ML
Hierarchical Data Reduction and Learning
Tufts University(塔夫茨大学)
本文描述了一种用于生成多变量数据集稀疏表示的分层学习策略。层次结构产生于近似空间考虑在连续更细的尺度。与近似的误差泛函的稳定性,收敛性和行为的详细分析,以及一组精心挑选的应用程序。结果表明,该方法作为合成(单变量和多变量)和真实数据集(地理空间和数值模型结果)的数据减少机制的性能。所产生的稀疏表示有效地重建数据,并最大限度地减少预测误差。
2019-10-22 cs.LG stat.ML
Topological regularization with information filtering networks
UCL(伦敦大学学院);London School of Economics(伦敦政治经济学院)
介绍了一种利用信息过滤网络进行拓扑正则化的方法。该方法可直接应用于协方差选择问题,为线性和非线性多变量概率分布(如椭圆和广义双曲族)的稀疏概率建模提供了一种工具。它也可以直接实现为$L_0$ -范数正则化多元共线性回归。在本文中,我详细描述了一个应用程序的稀疏建模与多元学生t。一个特定的$L_0$范数正则化的期望最大化似然最大化过程,提出了这种稀疏的学生t的情况下。从股票价格日志回报和人工生成的数据的真实数据的例子证明了这种方法的适用性,性能和潜力。
2021-10-30 cs.LG stat.ML
A Two-Stage Approach to Multivariate Linear Regression with Sparsely Mismatched Data
George Mason University(乔治梅森大学);Baidu Research(百度研究院);U.S. Census Bureau(美国人口普查局)
线性回归中的一个默认假设是(响应,预测)对对应于相同的观察单位。最近的一系列工作已经研究了违反这一假设的情况,如“未标记的感知和未知置换回归”。在本文中,我们研究了多个响应变量的设置和不匹配的概念,概括排列,以允许丢失的匹配以及一对多的匹配。一个两阶段的方法提出的假设下,大多数对正确匹配。在第一阶段中,通过将失配处理为污染来估计回归参数,随后通过匹配的基本变体来估计广义置换。该方法是计算方便,并配备了有利的统计保证。具体而言,它表明,置换恢复的条件变得相当不严格的响应$m$每次观察的数量增加。特别是,对于$m = Ω(\log n)$,所需信噪比不再取决于样本量$n$。合成和真实数据的数值结果支持我们的分析的主要结果。
2020-06-28 cs.IT cs.LG math.IT
Bayesian Sparse Regression for Mixed Multi-Responses with Application to Runtime Metrics Prediction in Fog Manufacturing
Fog制造可以通过分布式Fog计算单元大大增强传统制造系统,这些计算单元由不同工业互联网架构下的预测计算工作负载卸载方法管理。已知的是,预测卸载方法高度依赖于运行时性能度量的准确预测和不确定性量化,其包含多变量混合型响应(即,连续、计数、二进制)。在这项工作中,我们提出了一个贝叶斯稀疏回归多变量混合响应,以提高预测的运行时性能指标,并使统计推断。所提出的方法同时考虑了组和个体变量的选择,以联合建模的混合类型的运行时性能指标。多个响应之间的条件依赖性通过使用精度矩阵的图形模型来描述,其中使用尖峰和厚板先验来实现图形的稀疏估计。该方法不仅实现了准确的预测,而且通过对模型参数和预测结果的统计推断,使预测模型更具有可解释性。仿真研究和一个实际的例子在雾制造进行,以证明所提出的模型的优点。
2022-10-11 stat.ME stat.ML