Exploring elastic net and multivariate regression
当涉及到具有大量预测因子的数据集时,通常使用PCA或FA等变量减少技术。本文采用介于LASSO法和岭回归法之间的弹性网作为变量归约技术,然后用多元回归进行进一步分析。具体来说,一个杂乱的数据集被用来展示如何使用上述方法将其“整理”并分解为合理的子集。
2016-07-22 stat.ME
Discussion of "Multivariate Bayesian Logistic Regression for Analysis of Clinical Trial Safety Issues" by W. DuMouchel
W.“用于临床试验安全性问题分析的多变量贝叶斯逻辑斯谛回归”讨论。DuMouchel [arXiv:1210.0385].
2012-10-02 stat.ME
A Regression Tree Method for Longitudinal and Clustered Data with Multivariate Responses
RE-EM树是一种基于树的方法,它结合了回归树和线性混合效应模型,用于建模单变量响应纵向或聚类数据。本文采用De'Ath [2002]提出的多元回归树方法,将RE-EM树方法推广到多元响应数据。多元RE-EM树方法估计由多个响应同时驱动的总体水平单树结构和每个响应变量的对象水平随机效应,其中响应变量之间和关联的随机效应之间均允许相关性。通过仿真研究,我们验证了多元RE-EM树的优势,使用多个单变量RE-EM树和多元回归树。我们应用多元RE-EM树分析一个真实的数据集,包含多维的非金融特征的贫困的不同国家的反应,和各种潜在的原因,贫困的预测。
2023-02-28 stat.ME
Discussion of "Multivariate Bayesian Logistic Regression for Analysis of Clinical Trial Safety Issues" by W. DuMouchel
W.“用于临床试验安全性问题分析的多变量贝叶斯逻辑斯谛回归”讨论。DuMouchel [arXiv:1210.0385].
2012-10-02 stat.ME
Bootstrapping for multivariate linear regression models
多元线性回归模型是研究多个响应变量和多个预测变量之间关系的重要工具。主要的兴趣是关于未知的回归系数矩阵的推断。我们提出多元自助技术作为一种手段,使未知的回归系数矩阵的推断。这些自举技术是Freedman(1981)中开发的技术的扩展,其仅适用于单变量响应。对多元线性回归模型的扩展是在没有证明的情况下进行的。我们形式化的扩展,并证明其有效性。一个真实的数据例子和两个模拟数据的例子,提供了一些有限的样本验证我们的理论结果。
2017-09-12 math.ST stat.ME stat.TH
Convex Reparameterization and Self-Concordant Algorithms for Multivariate Regression with Covariance Estimation
School of Statistics, University of Minnesota Twin Cities(明尼苏达大学双城分校统计学院);Department of Applied Mathematics & Statistics, Stony Brook University(石溪大学应用数学与统计系)
该研究提出结合协方差估计的多元回归的凸重参数化方法,证明其缩放高斯损失为标准自协调,推导两种算法,模拟及蛋白质表达应用显示其预测误差相近且稠密精度矩阵时速度显著提升。
2026-08-20 stat.CO stat.ME
Bayesian Multivariate Density-Density Regression
本文提出一种基于切片Wasserstein距离和广义贝叶斯框架的可扩展多元密度-密度回归方法,利用MALA进行后验推断,并证明了后验一致性,在模拟和单细胞数据上展现出优于传统方法的预测性能。
2025-09-22 stat.AP stat.CO stat.ME
Multivariate Lévy Adaptive B-Spline Regression
Sookmyung Women’s University(淑明女子大学);Seoul National University(首尔国立大学)
本研究提出MLABS模型,通过贝叶斯非参数方法捕捉多变量函数的非线性等特征,开发适配的MCMC算法,经模拟与真实数据验证,其预测性能优且计算成本低。
2026-10-15 stat.CO stat.ME
Indirect multivariate response linear regression
我们提出了一类新的估计的多元响应线性回归系数矩阵,利用假设的响应和预测有一个联合的多元正态分布。这使得我们能够通过对逆回归的参数进行收缩估计,或者通过给定响应的预测因子的条件分布来间接估计回归系数矩阵。我们建立了一个收敛速度界估计在我们的类,我们研究了两个例子。第一示例估计器利用逆回归的系数矩阵是稀疏的假设。第二示例估计器利用逆回归的系数矩阵是秩亏的假设。这些估计不需要流行的假设,即前向回归系数矩阵是稀疏的或具有小的Frobenius范数。使用模拟研究,我们表明,我们的例子估计优于一些数据生成模型的相关竞争对手。
2015-07-16 stat.ME
Goodness-of-fit testing the error distribution in multivariate indirect regression
本文提出了一个多元间接回归模型误差分布的拟合优度检验。检验统计量基于标准化残差的经验过程的Khmaladze变换。该拟合优度检验在收敛的根n速率下是一致的,并且该检验可以保持针对以根n速率收敛到零的局部替代的功效。
2018-12-06 stat.ME
Multivariate Functional Regression via Nested Reduced-Rank Regularization
本文提出了一种嵌套降秩回归(NRRR)方法,用于拟合具有多元函数响应和预测因子的回归模型,以实现定制的降维并便于解释/可视化所得到的函数模型。我们的方法是基于一个两级的低秩结构上的功能回归表面。一个全球低秩结构识别一小组潜在的主要功能反应和预测驱动的潜在回归关联。然后,局部低秩结构控制主要功能反应和预测因子之间关联的复杂性和平滑性。通过基扩展方法,函数问题归结为一个有趣的集成矩阵近似任务,其中集成低秩矩阵的块或子矩阵共享一些公共的行空间和/或列空间。提出了一种保证收敛的迭代算法。我们建立的一致性NRRR,并通过非渐近分析表明,它可以实现至少一个可比的误差率的降秩回归。仿真研究证明了NRRR的有效性。我们将NRRR应用于电力需求问题,将每日电力消耗的轨迹与每日温度的轨迹联系起来。
2020-03-10 stat.ME stat.ML
A likelihood-based approach for multivariate categorical response regression in high dimensions
本文提出了一种惩罚似然方法来拟合二元分类反应回归模型。我们的方法允许从业者估计哪些预测因子是不相关的,哪些预测因子只影响双变量响应的边缘分布,哪些预测因子影响边缘分布和对数优势比。为了计算我们的估计量,我们提出了一个有效的一阶算法,我们将其扩展到一些受试者只有一个响应变量测量的设置,即,半监督设置。我们推导出一个渐近误差界,说明了我们的估计在高维设置的性能。推广到多元分类响应回归模型的建议。最后,模拟研究和泛癌症风险预测中的应用表明,我们的方法在可解释性和预测精度方面的有用性。实现所提出的方法的R包可在github.com/ajmolstad/BvCategorical下载。
2022-01-23 stat.CO stat.ME
Simultaneous Confidence Tubes for Comparison of Several Multivariate Linear Regression Models
在过去的60多年里,关于多重比较和同时推理的研究大多是针对几个总体均值的比较。Spurrier(1999)似乎是第一个使用同时置信带研究几个简单线性回归线的多重比较的人。本文将Liu等(2004)利用联合置信带对几个单变量线性回归模型进行有限比较的工作推广到利用联合置信管对几个多元线性回归模型进行有限比较。我们展示了如何同时置信管可以构建允许多个多元线性回归模型的比较,比目前的假设检验方法更翔实的推论。用实例说明了这些方法。
2020-05-20 stat.ME
Calibrated Multivariate Regression with Localized PIT Mappings
National University of Singapore(新加坡国立大学);University of Brasília(巴西利亚大学);University of New South Wales(新南威尔士大学);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
本文提出一种新颖的后验校准方法,通过构建边际概率积分变换向量与观测空间的局部映射,解决潜在不规范模型的多元校准问题,适用于连续、离散和混合响应。
2024-09-17 stat.ME stat.ML
Mixed-type multivariate response regression with covariance estimation
当响应向量的元素是混合类型的,例如一些连续的和一些离散的,我们提出了一种新的方法,用于多变量响应回归和协方差估计。我们的方法是基于一个模型,假设可观察的混合型响应向量是连接到一个潜在的多元正态响应线性回归通过一个链接函数。我们探讨了该模型的性质,并表明其参数是可识别的合理条件下。我们不施加任何参数限制的协方差的潜正常比其他的正定性,从而避免假设不可观察的变量,这可能是难以验证的实践。为了适应这种普遍性,我们提出了一种新的算法近似极大似然估计,工程"现成的"与许多不同的组合的响应类型,以及规模的响应向量的维度。我们的方法通常给出更好的预测和参数估计比拟合不同的响应类型的单独的模型,并允许近似似然比测试的相关假设,如响应的独立性。所提出的方法的实用性说明在模拟和一个生物医学和一个基因组数据的例子。
2022-03-03 stat.CO stat.ME
Unified Operator Framework for Functional and Multivariate Regression
Auburn University(奥本大学)
本文提出一个统一的算子框架,通过一般测度定义的积分算子,统一了标量、多变量和函数回归。研究显示,传统回归模型作为不同输入输出测度下的特殊情形出现,且离散表示在测度细化时收敛于连续算子。
2026-05-11 stat.ME
A Note on the Asymptotic Properties of the GLS Estimator in Multivariate Regression with Heteroskedastic and Autocorrelated Errors
本文针对误差存在异方差与自相关的多元回归,分析GLS估计量的渐近性质,推导线性约束检验的Wald统计量,并证明其稳健性。
2025-03-18 econ.EM q-fin.ST stat.ME
COVID-19 mortality analysis from soft-data multivariate curve regression and machine learning
提出了一种基于周期曲线对数回归和多元时间序列空间残差相关分析的多目标时空预测方法。具体而言,平均二次损失函数最小化的框架内的三角回归。而在我们随后的空间残差相关分析中,最大化的可能性使我们能够计算贝叶斯多变量时间序列软数据框架中的后验模式。所提出的方法适用于分析自2020年3月8日至2020年5月13日影响西班牙社区的第一波COVID-19死亡率。基于随机k折交叉验证、自举置信区间和概率密度估计,与机器学习(ML)回归进行了实证比较研究。该实证分析还研究了ML回归模型在硬数据和软数据框架中的性能。结果可以外推到其他计数,国家和后COVID-19波。
2021-03-27 cs.LG stat.AP stat.ME
Bayesian nonparametric multivariate convex regression
在经济学、运筹学和强化学习等许多应用中,经常需要估计受凸性约束的多元回归函数f。例如,在顺序决策过程中,在最优后续决策下的状态值可以已知为凸或凹。我们提出了一种新的贝叶斯非参数多元方法的基础上表征未知的回归函数的最大值的随机收集的未知超平面。该规范在凸函数空间上诱导了具有Kullback-Leibler意义上的大支持的先验,同时也导致了强后验一致性。虽然我们假设f定义在R^p上,但我们证明了当f实际上是一个d维线性子空间映射到R时,该模型在经验L2范数下的收敛速度为log(n)^{-1} n^{-1/(d+2)}.我们设计了一个有效的可逆跳MCMC算法的后验计算,并通过应用价值函数逼近的方法来证明。
2011-09-01 math.OC stat.ME stat.ML
Multivariate Smoothing via the Fourier Integral Theorem and Fourier Kernel
从傅里叶积分定理出发,给出了多元函数的自然蒙特卡罗估计,包括密度、混合密度、转移密度、回归函数,以及多元密度函数的模式搜索(模式回归).收敛速率被建立,并且在许多情况下,提供优于当前标准估计器的速率,诸如基于核的那些,包括核密度估计器和核回归函数。数值例子。
2020-12-28 math.ST stat.ME stat.ML
Linear shrinkage for predicting responses in large-scale multivariate linear regression
我们提出了一种新的预测方法的多变量线性回归问题的特征数量小于样本量,但结果的数量是非常大的。许多流行的程序,如惩罚回归程序,需要参数调整,这是计算上无法在这样的大规模问题。我们采取了不同的方法,从同步估计问题的想法,执行普通的最小二乘参数估计线性收缩的动机。我们的方法是非常计算效率和调谐自由。我们表明,它可以渐近优于普通最小二乘,而无需对真实回归系数进行任何结构假设,并说明其在模拟和单细胞RNA-seq数据分析中的良好性能。
2021-04-18 stat.ME
Multivariate and regression models for directional data based on projected Pólya trees
本文提出基于投影Pólya树的方向数据贝叶斯非参数模型,并定义方向-方向及线性-方向回归模型,通过模拟和真实数据验证性能。
2023-10-11 stat.ME
Nonparametric Multivariate L1-median Regression Estimation with Functional Covariates
当协变量取值于无穷维空间时,本文提出了多元条件分布的L1-中位数的非参数估计。多变量情况更适合于同时预测随机变量向量的分量,而不是分别预测它们中的每一个。在利用著名的Nadarya-Waston估计量估计条件L1-median函数时,我们证明了该估计量的强相合性和渐近正态性。我们还提出了一些模拟,并提供如何建立条件con?多元L1-中位数回归的置信椭圆。对化学计量实际数据进行了数值研究,比较了协变量X为曲线,X为随机向量时多元L1-中位数回归与边际中位数回归向量的异同。
2013-04-16 math.ST stat.ME stat.TH
Convex Optimization Methods for Dimension Reduction and Coefficient Estimation in Multivariate Linear Regression
本文研究了多元线性回归迹模正则化最小二乘估计的凸优化方法。最近由Yuan等人[22]提出的所谓的因子估计和选择(FES)方法同时进行参数估计和因子选择,并且已被证明在大样本和有限样本中都具有良好的特性。然而,由于高维数和迹范数约束,计算估计在实践中可能非常具有挑战性。在本文中,我们探索了Nesterov平滑方法[20]和内点方法的一种变体,用于计算惩罚最小二乘估计。然后使用一组随机生成的实例比较这些方法的性能。我们表明Nesterov平滑方法的变体[20]通常大大优于SDPT3版本4.0(beta)[19]中实现的内点方法。此外,前一种方法的内存效率要高得多。
2009-04-04 stat.CO stat.ME
Local-Polynomial Estimation for Multivariate Regression Discontinuity Designs
Institute of Economic Research Hitotsubashi University(一桥大学经济研究所);Graduate School of Economics and Management, Tohoku University(东北大学经济管理学院);Center for Spatial Information Science, The University of Tokyo(东京大学空间信息科学中心)
本文提出了一种多变量回归不连续设计的局部线性估计方法,用于捕捉边界处的异质性治疗效应,并在实证研究中展示了其更小的误差和更短的置信区间。
2026-01-23 econ.EM stat.AP stat.ME
Bayesian Nonparametric Modeling for Multivariate Ordinal Regression
通常假设单变量或多变量有序响应来自潜在连续参数分布,协变量效应线性进入。本文介绍了一种单变量和多变量有序回归的贝叶斯非参数建模方法,该方法基于潜响应和协变量的联合分布的混合建模。建模框架可以高度灵活地推断有序回归关系,避免协变量效应中的线性或加性假设。在标准参数有序回归模型中,计算挑战来自于可识别性约束和需要非标准推理技术的参数估计。非参数模型的一个关键特征是它实现了推理的灵活性,同时避免了这些困难。特别是,我们建立了充分支持的非参数混合模型下的固定截止点,通过离散化的潜在连续响应与顺序响应。通过应用到两个数据集的计量经济学,一个例子,涉及臭氧浓度的回归关系,和多评价协议问题的建模方法的实际效用说明。
2016-09-20 stat.ME
Distributional Random Forests: Heterogeneity Adjustment and Multivariate Distributional Regression
ETH Zürich(苏黎世联邦理工学院)
随机森林(Breiman,2001)是一个成功的和广泛使用的回归和分类算法。它的吸引力和多功能性的部分原因是它在训练数据上(隐式)构建了一个核型加权函数,它也可以用于原始均值估计之外的目标。我们提出了一种新的森林结构的多变量响应的联合条件分布的基础上,独立的估计目标和数据模型。它使用了一种新的分裂准则的基础上MMD分布度量,这是适合于检测多元分布的异质性。诱导的权重定义了完整条件分布的估计,这反过来又可以用于任意和潜在的复杂目标的兴趣。该方法是非常通用和方便使用,因为我们说明了广泛的例子。代码可以作为Python和R包drf提供。
2022-10-12 cs.LG stat.ME stat.ML
Regression Copulas for Multivariate Responses
本文提出基于协变量空间 copula 过程与 horseshoe 先验多元扩展的回归 copula 分布模型,并通过电价预测和无似然推断验证其多元建模与边际校准优势。
2024-03-05 stat.ME
Tree-Values: selective inference for regression trees
我们考虑对分类和回归树(CART)的输出进行推断[Breiman等人,1984]算法。一种不考虑树是从数据中估计出来的这一事实的朴素推理方法将无法实现标准保证,例如类型1错误率控制和标称覆盖率。因此,我们提出了一个选择性的推理框架进行推理的拟合CART树。简而言之,我们的条件是树是从数据中估计出来的。我们提出了一个测试的平均响应之间的差异对终端节点控制的选择性类型1的错误率,和一个置信区间内的平均响应在一个单一的终端节点,达到标称的选择性覆盖。提供了计算必要条件集的有效算法。我们将这些方法应用于模拟和涉及部分控制干预措施和热量摄入之间的关联的数据集。
2022-10-17 stat.ME stat.ML
An explicit mean-covariance parameterization for multivariate response linear regression
我们开发了一种新的方法来拟合多变量响应线性回归模型,该模型利用了回归系数矩阵和误差协方差阵之间的参数联系。具体来说,我们假设多元误差随机向量中的条目之间的相关性与其对应的回归系数矩阵列之间的角度的余弦成比例,因此随着两个回归系数矩阵列之间的角度减小,对应误差之间的相关性增大。我们强调两种模型下,这种参数化出现:潜变量降秩回归模型和变量误差回归模型。我们提出了一种新的非凸加权残差平方和准则,利用这种参数化,并承认一类新的惩罚估计。该优化算法采用加速近端梯度下降算法求解。我们的方法用于研究在NCI-60细胞系上测量的microRNA表达和癌症药物活性之间的关联。实现我们的方法MCMVR的R包可以在github.com/ajmolstad/MCMVR上获得。
2021-12-08 stat.ME
Cholesky-based multivariate Gaussian regression
提出用 Cholesky 分解参数化协方差矩阵的多元高斯分布回归,保证任意维度正定并支持滞后稀疏约束,在人工数据和10维温度概率预报中验证有效。
2021-10-27 stat.CO stat.ME
Nonparametric multivariate regression estimation for circular responses
本文研究了具有圆响应的回归函数的非参数估计和R_d值预测量。局部多项式型估计的建议和研究。导出了它们的渐近偏差和方差的表达式,并给出了选择渐近局部最优带宽矩阵的准则。有限样本的行为,建议的估计评估通过模拟和他们的表现也说明了一个真实的数据集。
2020-04-13 stat.ME
Groupwise Predictor Envelope Models for Multivariate Linear Regression
The Institute of Statistical Mathematics(统计数学研究所);Graduate School of Mathematics, Kyushu University(九州大学大学院数理学府);Faculty of Mathematics, Kyushu University(九州大学数学部)
针对组间回归关系存在差异的多元线性回归场景,提出分组预测器包络模型,其渐近效率优于分组拟合的方法,模拟研究验证了该理论优势。
2026-08-26 stat.ME
Multivariate convex regression with adaptive partitioning
我们提出了一种新的,非参数方法的多元回归受凸或凸约束的响应函数。凸性约束在经济学、统计学、运筹学、金融工程和优化中很常见,但目前还没有一种多变量方法可以计算超过几百个观测值。我们介绍了凸自适应分区(CAP),它创建一个全局凸回归模型从局部线性估计适合自适应选择的协变量分区。CAP计算效率高,与当前方法形成鲜明对比。最流行的方法是最小二乘估计,其计算复杂度为$\mathcal{O}(n^3)$。我们证明了CAP的计算复杂度为$\mathcal{O}(n \log(n)\log(\log(n)))$,并给出了一致性结果。将CAP应用于价值函数逼近,对具有大量标的资产的美式一篮子期权进行定价。
2011-11-13 stat.ME
Bayesian Variable Selection in Multivariate Regression Under Collinearity in the Design Matrix
本文研究贝叶斯多元线性回归变量选择,揭示非对角误差协方差在弱信号、高相关和小样本场景下会损害估计,并提出分离估计均值与协方差的两步法及对角协方差补充分析。
2025-07-23 stat.CO stat.ME
Joint estimation of conditional quantiles in multivariate linear regression models. An application to financial distress
本文提出了一种最大似然方法来联合估计线性回归框架中多元响应变量的边缘条件分位数。我们考虑了Kotz等人(2001)提出的多元非对称Laplace分布的一个轻微的重新参数化,并利用其位置-尺度混合表示来实现一个新的估计模型参数的期望最大化算法。其思想是将非对称拉普拉斯分布和众所周知的单变量分位数回归模型之间的联系扩展到多变量环境,即当涉及多变量因变量时。该方法考虑了多个响应之间的关联,并研究响应和解释变量之间的关系如何在响应的边际条件分布的不同分位数之间变化。一个惩罚版本的期望最大化算法也提出了解决问题的变量选择。我们的方法的有效性进行了分析,在模拟研究中,我们还提供证据的效率增益所提出的方法相比,通过单独的单变量分位数回归估计。一个真正的数据应用程序,最后提出了研究的主要决定因素,在一个样本的意大利企业的财务困境。
2018-08-03 stat.ME
Sparse Multivariate Linear Regression with Strongly Associated Response Variables
针对回归系数矩阵稀疏且误差协方差矩阵稠密的多元线性回归问题,提出基于等相关误差协方差假设的新方法及高维近似方法,并利用高斯验证似然近似进行调参,实验证明其优越性及对模型误设的稳健性。
2025-08-12 stat.ME
High Dimensional Analysis of Variance in Multivariate Linear Regression
本文对多元线性回归中的高维方差分析进行了系统的理论研究,其中维数和系数个数都随样本量的增加而增加。我们提出了一个新的\emph{U} ~型检验统计量来检验线性假设,并在相当温和的矩假设下建立了高维高斯近似结果。我们的一般框架和理论可以应用于处理经典的单向多元方差分析和非参数单向MANOVA高维。为了在实际中实现检验过程,我们引入了基于样本分裂的误差协方差二阶矩估计,并讨论了它的性质。模拟研究表明,我们提出的测试优于一些现有的测试在各种设置。
2023-01-10 stat.ME
Multivariate distance matrix regression for a manifold-valued response variable
在本文中,我们提出了使用测地距离结合多元距离矩阵回归,称为几何MDMR,作为一个强大的第一步分析方法,流形值数据。流形值数据越来越频繁地出现在从地震分析到大脑模式分析的文献中。考虑这些数据的结构会增加分析的复杂性,但可以根据数据获得更多可解释的结果。为了测试几何MDMR,我们开发了一种方法来模拟功能连接矩阵的fMRI数据进行模拟研究,这表明我们的方法优于目前的标准,在fMRI分析。
2022-02-11 stat.ME
Recursive bias estimation for multivariate regression smoothers
本文提出了一种实用而简单的完全非参数多元平滑方法,它适用于真实回归函数的基本平滑性。我们的估计是很容易计算的连续应用现有的基础平滑(而不需要选择一个最佳的平滑参数),如薄板样条或内核平滑。对于小维度(3 < d < 8)和中等样本量(n < 800),所得平滑器具有比基础平滑器或竞争结构约束模型(GAM)更好的样本外预测能力。此外,我们的估计仍然是有用的,当(d> 10),据我们所知,没有其他自适应完全非参数回归估计是可用的,没有约束的假设,如加性。在一个真实的例子,波士顿住房数据,我们的方法减少了20%的样本预测误差。CRAN提供了一个R软件包ibr,用R语言实现了所提出的多变量非参数方法。
2011-06-07 stat.ME
Testing axial symmetry in multivariate location-scale linear regression
Charles University(查理大学);The Czech Academy of Sciences, Institute of Information Theory and Automation(捷克科学院信息与自动化研究所)
提出基于积分秩得分的检验方法,用于多元线性异方差回归中条件轴向对称性的检验,推导渐近分布,并通过模拟和实际数据验证。
2026-06-11 math.ST stat.ME stat.TH
A Computational Framework for Multivariate Convex Regression and its Variants
研究了多元凸回归函数的非参数最小二乘估计。作为具有$O(n^2)$线性约束($n$是样本量)的二次规划的解给出的LSE对于大型问题是难以计算的。利用问题的具体结构,我们提出了一个可扩展的算法框架的基础上增广拉格朗日方法来计算LSE。我们开发了一种新的方法来获得光滑的凸逼近拟合(分段仿射)凸LSE和提供正式的边界上的质量近似。当样本的数量不是太大相比,预测的维度,我们提出了一个正则化计划- Lipschitz凸回归-我们约束的次梯度的范数,并研究所获得的LSE的收敛速度。我们的算法框架是简单和灵活的,可以很容易地适应处理变量:非减/非增凸/凹(有或没有Lipschitz界)函数的估计。我们进行数值研究,说明所提出的算法的可扩展性。
2015-09-28 math.OC stat.CO stat.ME
Functional regression with multivariate responses
Georgia State University(佐治亚州立大学)
本文提出了一种具有多元响应的功能回归方法,通过同时平滑稀疏惩罚提升预测精度,适用于大规模功能预测变量场景。
2026-02-02 stat.ME
Multivariate functional group sparse regression: functional predictor selection
在本文中,我们提出了方法的功能预测选择和光滑的功能系数估计同时在标量函数回归问题下的高维多元函数数据设置。特别是,我们开发了两种方法的功能组稀疏回归下的一般希尔伯特空间的无限维。我们证明了算法的收敛性和一致性的估计和选择(预言性质)在无限维Hilbert空间。仿真研究表明,该方法在函数系数的选择和估计方面都是有效的。功能磁共振成像(fMRI)的应用揭示了人类大脑中与ADHD和智商相关的区域。
2021-07-08 math.ST q-bio.NC stat.AP
Fréchet regression of multivariate distributions with nonparanormal transport
University of Michigan(密歇根大学)
本文提出了一种基于非参数化传输度量的多元分布弗雷歇回归方法,用于处理多变量分布响应的回归问题,解决了计算和统计挑战,并通过模拟和实际数据验证了方法的有效性。
2026-08-24 math.ST stat.ME stat.ML
Bias correction in a multivariate normal regression model with general parameterization
本文给出了一般参数化下多元正态模型的偏差校正格式。在该模型中,均值向量和协方差阵共享相同的参数。它包括许多重要的回归模型在文献中作为特殊情况,如(非)线性回归,误差变量模型,等等。此外,异方差的情况下,也可以在我们的框架内进行研究。本文导出了模型参数的最大似然估计的二阶偏差的一般表达式,并证明了用普通的加权最小二乘回归总是可以得到二阶偏差的.我们启发这样的一般表达式与变量误差模型,并进行了一些模拟,以验证性能的校正估计。仿真结果表明,偏差校正方案产生接近无偏估计量。我们还提出了一个经验说明。
2009-01-16 stat.ME
A Bayesian Zero-Inflated Dirichlet-Multinomial Regression Model for Multivariate Compositional Count Data
狄利克雷多项分布在现代统计方法学的发展和应用中起着基础性的作用。最近,DM分布及其变体已被广泛用于对组学研究中由高通量测序技术产生的多变量计数数据进行建模,这是由于其能够适应数据的组成结构以及过度分散。DM分布的一个主要限制是它无法处理通常在实践中发现的可能会导致推断偏差的多余零。为了填补这一空白,我们提出了一种新的贝叶斯零膨胀DM模型的多变量组成计数数据与多余的零。然后,我们将我们的方法扩展到回归设置,并嵌入稀疏诱导先验来执行高维协变量空间的变量选择。在整个过程中,建模决策是为了提高可伸缩性,而不牺牲可解释性或强加限制性假设。广泛的模拟和应用程序的人类肠道微生物组数据集的性能比较所提出的方法,现有的方法。我们提供了一个附带的R包,其中包含一个用户友好的小插曲,可以将我们的方法应用于其他数据集。
2023-02-23 stat.AP stat.CO stat.ME
M-quantile regression for multivariate longitudinal data: analysis of the Millennium Cohort Study data
本文提出了一个M-分位数回归模型,用于分析多变量、连续、纵向数据。M-分位数回归代表了标准回归模型的一种有吸引力的替代方法,因为它结合了分位数的稳健性和预期回归的效率,提供了响应变量分布的完整图像。离散的,个体特异性的,随机参数被用来解释在不同时间记录的相同响应内的依赖性和在给定时间在相同样品单元上观察到的不同响应之间的关联。在线性预测器中还引入了合适的参数化,以考虑单个特定随机参数与观测协变量向量之间可能的依赖性,即考虑某些协变量的内隐性。提出了一种扩展的期望最大化算法,在极大似然方法下得到模型参数估计。该模型适用于分析的优势和困难的问卷分数在英国的千年队列研究。
2017-05-08 stat.ME
Hybrid principal component analysis in multivariate allometric regression
Kyushu University(九州大学);Keio University(庆应义塾大学)
针对异速数据中小特征值接近导致的不稳定性,提出混合主成分分析估计量渐近正态性,并基于几何统计量检验回归方向与主成分方向的平行性,应用于龟壳数据验证性别间异速关系。
2026-07-01 stat.ME
Bayesian Multivariate Quantile Regression with alternative Time-varying Volatility Specifications
本文提出一种贝叶斯多元分位数回归方法,通过引入随机波动率和GARCH过程刻画能源大宗商品的时变波动率,并结合分位数评分加权模型组合提升尾部预测性能。
2024-08-07 econ.EM stat.ME
Inference in High-dimensional Multivariate Response Regression with Hidden Variables
本文研究了隐变量存在时多元响应线性回归的回归系数阵的推断问题。提出了一种构造系数矩阵元素的置信区间的新方法。我们的方法首先利用多变量性质的响应,通过估计和调整隐藏的影响,构建一个初始估计的系数矩阵。通过进一步部署一个低维投影过程,以减少在前一步中的正则化引入的偏差,提出了一个改进的估计,并证明是渐近正态的。所得估计量的渐近方差是由封闭形式的表达式导出的,并且可以一致估计。此外,我们提出了一个测试程序的存在隐藏的影响,并提供其理论依据。我们的程序和他们的分析是有效的,即使当特征维数和响应的数量超过样本量。我们的结果通过广泛的模拟和真实数据分析得到进一步支持。
2022-01-20 stat.ME
Multivariate functional responses low rank regression with an application to brain imaging data
本文提出了一个含有可能的高维功能反应和标量协变量的多元功能反应低秩回归模型。通过在一组筛基上展开斜率函数,将基系数重构为矩阵。为了估计这些系数,我们提出了一个有效的程序,使用核范数正则化。我们还推导出我们的估计误差界,并使用模拟评估我们的方法。我们进一步将我们的方法应用于人类连接组计划神经成像数据,使用各种临床协变量来预测皮质表面运动任务诱发的功能磁共振成像信号,以说明我们的结果的有用性。
2020-10-08 stat.AP stat.ME
Matrix-Variate Regression Model for Multivariate Spatio-Temporal Data
本文提出一种矩阵变量回归模型,利用Kronecker积可分离协方差结构高效建模多元时空数据,并通过模拟和巴西农牧业生产数据验证了其参数恢复能力和实际应用价值。
2025-11-06 stat.ME
Chain graph models of multivariate regression type for categorical data
本文讨论一类由多元回归链图马尔可夫性定义的分类变量链图模型。首先,这些模型的局部独立集被证明是马尔可夫等价于最近在文献中定义的链图模型。接下来,我们提供了一个参数化的基础上的序列的广义线性模型与多元逻辑链接函数,捕捉所有的独立约束,在任何这种链图模型。
2011-07-13 math.ST stat.ME stat.TH