A Dirichlet Process Functional Approach to Heteroscedastic-Consistent Covariance Estimation
混合Dirichlet过程(MDP)在概率测度空间上定义了一个灵活的先验分布。本文证明了普通最小二乘(OLS)估计作为MDP后验分布的一个函数,其后验均值由加权最小二乘(WLS)给出,后验协方差阵由(加权)异方差相合三明治估计给出。这是根据一对自助分布近似的后验,使用波利亚瓮计划。此外,当MDP先验基线分布被指定为独立概率测度的乘积时,该WLS解决方案提供了一种新型的广义岭回归估计器,即使当协变量的数量超过样本量时,该估计器也可以处理多共线性或奇异设计矩阵,并且将不相关协变量的系数估计值缩小到零,从而对非线性回归有用。此外,这种MDP/OLS功能方法可以扩展到用于分析异方差一致的因果效应大小在一系列隐藏偏倚上的敏感性的方法,这些偏倚是由于缺失的协变量从回归中省略而引起的,并且更普遍地扩展到效应振动分析。通过模拟和真实数据集的分析说明了该方法。总体而言,本研究建立了Dirichlet过程功能推断、自助法、一致夹心协方差估计、岭收缩回归、WLS和敏感性分析之间的新联系,以提供对推断平均依赖响应有用的回归方法。
2016-06-11 stat.ME
Mean and Covariance Estimation for Functional Snippets
我们考虑估计的平均值和协方差函数的功能片段,这是短段的功能可能会观察到不规则的一个单独的特定的子区间,这是远远短于整个研究间隔。函数片段的协方差函数的估计是具有挑战性的,因为协方差结构的远非对角区域的信息完全缺失。我们通过将协方差函数分解为方差函数分量和相关函数分量来解决这个困难。方差函数可以有效地估计非参数化,而相关部分的参数化建模,可能与越来越多的参数,以处理丢失的信息在远非对角区域。理论分析和数值模拟都表明这种混合策略是有效的。此外,我们还提出了一种新的测量误差方差的估计量,并分析了它的渐近性质。这个估计器是需要从噪声测量的方差函数的估计。
2020-06-05 stat.ME
Estimating High-dimensional Covariance and Precision Matrices under General Missing Dependence
完全观测数据的样本协方差阵$\boldsymbol{S}$是多种多元统计过程中的关键统计量,例如结构化协方差/精度矩阵估计、主成分分析和均值向量相等性检验。然而,当数据被部分观测时,来自可用数据的样本协方差阵存在偏差,并且不能提供有效的多变量程序。为了纠正偏差,一个简单的调整方法称为逆概率加权(IPW)已在以前的研究中使用,产生的IPW估计。估计量在缺失数据上下文中扮演$\boldsymbol{S}$的角色,因此可以将其插入现成的多变量程序。然而,IPW估计量的理论性质(例如浓度)仅在非常简单的缺失结构下建立;每个样本的每个变量都独立地以相等的概率缺失。研究了在一般缺失相依下部分观测时IPW估计量的偏差。我们证明了最佳收敛速度$O_p(\sqrt{\log p / n})$的IPW估计的基础上的元素明智的最大范数。我们也得到类似的偏差结果,即使当隐式假设(已知的平均值和/或缺失概率)放松。最优速率在估计精度矩阵时尤其重要,因为“元定理”声称IPW估计器的速率控制所得到的精度矩阵估计器的速率。在模拟研究中,我们讨论了IPW估计的非正半定性,并将该估计与具有实际意义的插补方法进行了比较。
2021-04-17 math.ST stat.ME stat.TH
Handling cellwise outliers by sparse regression and robust covariance
提出结合 lasso 回归、逐步截断和 EM 式检测—插补的 cellHandler 方法,用于逐单元异常值检测与稳健协方差估计。
2020-12-07 stat.CO stat.ME
Multivariate regression with missing response data for modelling regional DNA methylation QTLs
针对多元模型识别DNA甲基化遗传调控因子(mQTLs)时亚硫酸氢盐测序缺失数据的问题,提出missoNet凸估计框架,避免插补偏差,联合估计回归系数与精度矩阵,理论和实验均证明其在预测、稀疏性恢复及真实mQTL分析中优于现有方法。
2025-07-08 stat.ME
Covariance Assisted Multivariate Penalized Additive Regression (CoMPAdRe)
提出CoMPAdRe方法,通过联合估计响应间稀疏残差结构,同时选择和估计具有相关误差的多元稀疏加性模型中的零、线性和非线性效应,提升变量选择准确性与估计效率,并应用于乳腺癌通路蛋白质表达数据。
2023-11-18 stat.ME
Penalized Sparse Covariance Regression with High Dimensional Covariates
针对高维预测变量下的协方差回归问题,提出稀疏协方差回归方法,结合Lasso及折叠凹惩罚(SCAD和MCP)进行变量选择与系数估计,推导非渐近误差界并证实神谕性质,经模拟与中国股市数据验证有效。
2024-10-05 stat.AP stat.ME
variable selection and missing data imputation in categorical genomic data analysis by integrated ridge regression and random forest
全基因组关联研究(GWAS)所获得的基因组数据往往是大规模的,而且是不完整的。其不完备性的一种特殊形式是具有不可解释的缺失机制的缺失值。基因组数据的内在复杂性提出了显着的挑战,在开发一个公正的和翔实的程序表型-基因型关联分析的统计变量选择方法。在本文中,我们开发了一个连贯的分类表型-基因型关联分析的程序,在GWAS数据中的缺失值与不可解释的缺失机制的存在下,通过整合最先进的方法,随机森林的变量选择,加权岭回归与期望最大化算法的缺失数据填补,和线性统计假设检验确定缺失机制。两个模拟的GWAS被用来验证所提出的程序的性能。该程序,然后应用于分析一个真实的数据集,从乳腺癌GWAS。
2021-11-10 stat.AP stat.ME
Mixed-type multivariate response regression with covariance estimation
当响应向量的元素是混合类型的,例如一些连续的和一些离散的,我们提出了一种新的方法,用于多变量响应回归和协方差估计。我们的方法是基于一个模型,假设可观察的混合型响应向量是连接到一个潜在的多元正态响应线性回归通过一个链接函数。我们探讨了该模型的性质,并表明其参数是可识别的合理条件下。我们不施加任何参数限制的协方差的潜正常比其他的正定性,从而避免假设不可观察的变量,这可能是难以验证的实践。为了适应这种普遍性,我们提出了一种新的算法近似极大似然估计,工程"现成的"与许多不同的组合的响应类型,以及规模的响应向量的维度。我们的方法通常给出更好的预测和参数估计比拟合不同的响应类型的单独的模型,并允许近似似然比测试的相关假设,如响应的独立性。所提出的方法的实用性说明在模拟和一个生物医学和一个基因组数据的例子。
2022-03-03 stat.CO stat.ME
Covariance Matrix Estimation with Non Uniform and Data Dependent Missing Observations
本文研究缺失数据下的协方差估计问题。我们考虑缺失数据机制,可以独立于数据,或具有随时间变化的依赖性。此外,观测变量可能具有任意(非均匀)和相关的观测概率。对于每一种机制,我们构造了一个无偏估计,并得到了他们的估计误差的期望值的运营商范数的界限。我们的界限是等价的,常数和对数的因素,国家的艺术界完整和统一的缺失的意见。此外,对于更一般的非一致和依赖的情况下,建议的界限是新的或改进以前的结果。我们的误差估计依赖于我们称之为标度有效秩的量,标度有效秩将有效秩推广到缺失观测值。本文所研究的所有估计量都具有相同的渐近收敛速度(直到对数因子)。
2021-06-16 math.ST stat.TH
Covariance Estimation under Missing Observations and $L_4-L_2$ Moment Equivalence
本文针对元素随机缺失的独立同分布样本,在$L_4-L_2$矩等价条件下提出首个关于缺失概率$p$最优的协方差估计量,并在$p=1$时恢复经典最优收敛速率。
2024-06-14 math.PR math.ST stat.TH
Convex Reparameterization and Self-Concordant Algorithms for Multivariate Regression with Covariance Estimation
School of Statistics, University of Minnesota Twin Cities(明尼苏达大学双城分校统计学院);Department of Applied Mathematics & Statistics, Stony Brook University(石溪大学应用数学与统计系)
该研究提出结合协方差估计的多元回归的凸重参数化方法,证明其缩放高斯损失为标准自协调,推导两种算法,模拟及蛋白质表达应用显示其预测误差相近且稠密精度矩阵时速度显著提升。
2026-08-20 stat.CO stat.ME
Robust covariance estimation with missing values and cell-wise contamination
针对含缺失值和逐单元污染的数据集协方差估计难题,提出无需插补的无偏协方差估计量,结合异常值检测处理高维低秩场景污染,理论与实验均验证其优于现有方法。
2023-11-10 math.ST stat.TH
Bayesian Variable Selection in Multivariate Regression Under Collinearity in the Design Matrix
本文研究贝叶斯多元线性回归变量选择,揭示非对角误差协方差在弱信号、高相关和小样本场景下会损害估计,并提出分离估计均值与协方差的两步法及对角协方差补充分析。
2025-07-23 stat.CO stat.ME
Robust Variable Selection for High-dimensional Regression with Missing Data and Measurement Errors
针对缺失数据和测量误差导致的数据分布混乱问题,提出带调节参数的指数损失函数,结合逆概率加权、加性误差模型与Atan惩罚实现稳健变量选择,经模拟与乳腺癌数据验证有效。
2025-06-29 stat.ME stat.ML
Regularized Parameter Estimation in Mixed Model Trace Regression
提出混合模型迹回归MMTR,结合lasso、低秩Kronecker协方差结构与group lasso秩选择,并通过稳定EM算法估计参数,在模拟和图像数据上表现优异。
2025-03-18 stat.CO stat.ME
Inference in pseudo-observation-based regression using (biased) covariance estimation and naive bootstrapping
Institute of Statistics, RWTH Aachen University(亚琛工业大学统计研究所);Department of Public Health - Department of Biostatistics, Aarhus University(奥胡斯大学公共卫生学院-生物统计系)
本文提出基于伪观测回归的推断方法,通过改进的协方差估计和学生化方法提高检验精度,解决了传统方法的一致性问题。
2026-01-22 math.ST stat.ME stat.TH
Towards Self-Supervised Covariance Estimation in Deep Heteroscedastic Regression
EPFL(洛桑联邦理工学院);IIT Bombay(印度理工学院孟买分校);SDSC(瑞士数据科学中心)
本文研究深度异方差回归中的自监督协方差估计,提出可稳定优化的2-Wasserstein上界及邻域伪标签算法,在合成与真实数据上实现更低成本且准确的建模。
2025-02-14 cs.AI cs.LG stat.ML
Multifidelity Covariance Estimation via Regression on the Manifold of Symmetric Positive Definite Matrices
Center for Computational Science and Engineering, MIT(麻省理工学院计算科学与工程中心);Courant Institute of Mathematical Sciences, NYU(纽约大学柯朗数学科学研究院)
本文提出一种基于对称正定矩阵流形回归的多保真度协方差估计器MRMF,兼具正定性与最大似然性质,并在实验中显著降低估计误差。
2024-09-05 cs.LG cs.NA math.NA
Meta-Learning with Generalized Ridge Regression: High-dimensional Asymptotics, Optimality and Hyper-covariance Estimation
University of California, Davis(加利福尼亚大学戴维斯分校);Indian Statistical Institute, Kolkata(印度统计研究所(加尔各答))
本文在高维随机效应线性模型下研究基于广义岭回归的元学习,证明权重矩阵取随机系数协方差矩阵的逆时预测风险最优,并提出可高效计算的逆协方差估计量,提升新任务泛化性能。
2024-03-27 cs.LG math.ST stat.ML
Algorithms for Heavy-Tailed Statistics: Regression, Covariance Estimation, and Beyond
我们研究有效的算法,线性回归和协方差估计的高斯假设的情况下,对样本的基本分布,而不是假设只有有限多的时刻。我们专注于需要多少样本来进行高精度和指数良好的成功概率的估计和回归。对于协方差估计,线性回归,和其他几个问题,估计器最近被构造与样本的复杂性和错误匹配率是可能的,当潜在的分布是高斯,但这些估计器的算法需要指数时间。我们缩小了多项式时间估计的高斯和重尾设置之间的差距:1。一种多项式时间估计器,其从具有协方差$Σ$的随机向量$X \in R^d$中获取$n$样本,并产生$\hatΣ$,使得在谱范数中,$\|\hatΣ - Σ\|_2 \leq \tilde{O}(d^{3/4}/\sqrt{n})$ w. p. $1-2^{-d}$。信息理论上的最优误差界是$\tilde{O}(\sqrt{d/n})$ ;以前的多项式时间算法方法停留在$\tilde{O}(d/\sqrt{n})$。2.一种多项式时间算法,其采用$n$对$(X_i,Y_i)$进行采样,其中$Y_i = \langle u,X_i \rangle + \varepsilon_i$并产生$\hat{u}$,使得对于任何$n \geq d^{3/2} \log(d)^{O(1)}$,损失$\|u - \hat{u}\|^2 \leq O(d/n)$ w. p. $1-2^{-d}$。这种(信息理论上最优的)错误是通过任何…
2019-12-23 cs.DS math.ST stat.TH
A multilevel framework for sparse optimization with application to inverse covariance estimation and logistic regression
University of British Columbia(不列颠哥伦比亚大学);Intel Labs(英特尔实验室);Technion—Israel Institute of Technology(以色列理工学院)
本文提出一种多级框架高效解决l1正则化稀疏优化问题,应用于逆协方差估计和逻辑回归,通过分层问题加速优化过程,提升大规模数据处理效率。
2016-07-01 cs.NA math.NA math.OC
High Dimensional Robust Sparse Regression
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
我们提供了一种新的-据我们所知,第一-高维稀疏回归算法的解释和/或响应变量的腐败的常数部分。我们的算法恢复真正的稀疏参数与次线性样本的复杂性,在存在一个恒定的分数的任意腐败。我们的主要贡献是一个强大的变种迭代硬持票。利用这一点,我们提供了精确的估计:当稀疏回归中的协方差矩阵是恒等的时,我们的误差保证接近信息理论最优。然后,我们处理未知结构协方差矩阵的鲁棒稀疏回归。我们提出了一种滤波算法,它包括一种新的随机离群值去除技术的强大的稀疏均值估计,可能是在其本身的权利感兴趣的:滤波算法是足够灵活的处理未知的协方差。此外,它是有序更有效的计算比椭球算法。使用次线性样本复杂度,我们的算法实现了最佳已知(和第一)的错误保证。我们证明了大规模稀疏回归问题的有效性与任意腐败。
2019-05-29 cs.LG math.ST stat.ML
Genetic Regression Analysis of Human Brain Connectivity Using an Efficient Estimator of Genetic Covariance
该研究提出了一种高效遗传协方差估计方法,用于分析人类脑连接的遗传回归,发现功能性连接在遗传层面可中等程度预测,但观测数据中不可直接预测。
2025-12-09 stat.AP
A Nodewise Regression Approach to Estimating Large Portfolios
本文研究了高维投资组合的方差、权重和风险的大样本性质,其中超额资产收益率的协方差阵的逆矩阵是用一种称为逐点回归的方法估计的。逐节点回归使用Tibshirani(1994)的最小绝对收缩和选择算子(Lasso)为逆协方差阵提供直接估计器,以估计稀疏精度矩阵的项。我们证明了全局极小值方差投资组合和Markowitz均值-方差投资组合的方差、权重和风险在资产比观测值多的情况下是一致估计的。我们表明,经验,nodewise回归为基础的方法相比,因子模型和收缩方法表现良好。
2019-10-15 math.ST stat.TH
Online Covariance Estimation in Averaged SGD: Improved Batch-Mean Rates and Minimax Optimality via Trajectory Regression
H. Milton Stewart School of Industrial;Systems Engineering, Georgia Institute of Technology e1,e2
本文研究了Polyak-Ruppert平均随机梯度下降的在线协方差矩阵估计,改进了批量均值收敛速率并实现了最小最大最优性,通过轨迹回归方法分解误差并建立下限。
2026-04-12 cs.LG math.ST stat.TH
Covariance-on-Covariance Regression
本文介绍了一种协方差-协方差回归模型。假设在结果协方差阵和预测因子协方差阵上存在(至少)一对线性投影,使得对数线性模型链接投影空间中的方差以及感兴趣的附加协变量。一个普通的最小二乘类型的估计,提出了同时识别的投影和估计模型系数。在正则条件下,所提出的估计量是渐近相合的。通过仿真研究表明,所提出的方法优于现有的方法的性能。应用于人类连接组项目衰老研究中收集的数据,所提出的方法识别了三对大脑网络,其中静息状态网络内的功能连接性预测了相应任务状态网络内的功能连接性。这三个网络分别对应于全局信号网络、任务相关网络和任务无关网络。这些发现与现有的大脑功能知识相一致。
2022-12-19 stat.ME
Reducing Subspace Models for Large-Scale Covariance Regression
我们开发了一个包络模型联合均值和协方差回归在大$p$,小$n$设置。与现有的包络方法相比,通过合并协方差结构的估计来提高均值估计,我们专注于通过合并均值水平差异的信息来识别协方差异质性。我们使用蒙特卡罗期望最大化算法来识别一个低维子空间,该子空间解释了作为协变量的函数的均值和协方差的差异,然后使用MCMC来估计推断的低维子空间上的后验不确定性。我们证明了我们的模型的效用,激励应用程序上的代谢组学老化。我们还提供了R代码,可用于开发和测试响应包络模型的其他概括。
2020-10-01 stat.ME
A covariance regression model
经典回归分析将响应变量的期望值与解释变量的线性组合联系起来。在这篇文章中,我们提出了一个协方差回归模型,参数化的协方差阵的多元响应向量作为一个简约的二次函数的解释变量。该方法类似于均值回归模型,也类似于因子分析模型,其中因子载荷取决于解释变量。使用随机效应表示,模型的参数估计是直接使用EM算法或MCMC近似通过吉布斯抽样。所提出的方法提供了一个简单而灵活的表示异方差水平的解释变量,提高了估计的平均函数,并给出更好的校准预测区域相比,同方差模型。
2011-02-28 stat.ME
Partial Functional Linear Quantile Regression for Neuroimaging Data Analysis
提出了一种基于偏分位数协方差技术的函数线性分位数回归模型的预测方法,并提出了一种简单的偏分位数回归(SIMPQR)算法,以有效地提取用于估计函数系数的偏分位数回归(PQR)基.我们进一步扩展我们的偏分位数协方差技术的功能复合分位数回归(CQR)定义偏复合分位数协方差。有三个主要贡献。(1)我们通过线性分位数回归定义两个标量变量之间的偏分位数协方差。我们通过顺序最大化函数协变量的响应和投影之间的偏分位数协方差来计算PQR基。(2)为了有效地提取PQR基,我们开发了一种类似于简单偏最小二乘(SIMPLS)的SIMPQR算法。(3)在同方差的假设下,我们将我们的技术扩展到偏复合分位数协方差,并用它来寻找偏复合分位数回归(PCQR)的基础。然后对SIMPQR算法进行修改,得到SIMPCQR算法。两个仿真研究表明,我们所提出的方法的优越性。用我们提出的方法对ADHD-200样本和ADNI样本的两个实际数据进行了分析。
2015-11-02 stat.ME
An Empirical Bayes Jackknife Regression Framework for Covariance Matrix Estimation
本文将协方差矩阵估计构建为复合决策问题,提出结合刀切技术与机器学习回归的算法,在不依赖数据分布假设下逼近最优决策规则,实验表明其性能达到或超越现有最先进方法。
2025-03-03 stat.ME
Weighted empirical likelihood for quantile regression with nonignorable missing covariates
本文提出了协变量不可分离的分位数回归模型中回归参数的经验似然加权估计。建议的估计是计算简单,实现半参数效率,如果完全观察到的变量的缺失概率被正确指定。理论上量化了所提出的估计器相对于完整案例分析估计器的效率增益,并通过仿真和真实数据应用进行了说明。
2017-10-07 stat.ME
Longitudinal regression of covariance matrix outcomes
在这项研究中,纵向回归模型的协方差阵的结果。该建议认为,多层次的广义线性模型回归协方差阵(随时间变化)的预测。该模型同时识别协方差矩阵中的协变量相关成分,估计回归系数,并估计协方差阵中的受试者内变异。通过最大化(近似的)分层似然函数,分别给出了低维和高维情形下的最优估计,并证明了该估计是渐近相合的,其中所提出的估计在低维情形下是最有效的,在高维情形下是单位矩阵和样本协方差阵的所有线性组合中的一致最小二次损失.通过大量的仿真研究,所提出的方法取得了良好的性能,识别协变量相关的组件和估计模型参数。应用于阿尔茨海默病神经成像倡议(ADNI)的纵向静息状态fMRI数据集,所提出的方法识别大脑网络,证明男性和女性之间的差异,在不同的疾病阶段。研究结果与AD的现有知识一致,并且该方法提高了横断面数据分析的统计功效。
2022-02-09 stat.ME
Efficient estimation of the error distribution function in heteroskedastic nonparametric regression with missing data
本文提出了一种基于残差的经验分布函数来估计响应随机缺失的异方差非参数回归的误差分布函数,并证明了这种估计是渐近最精确的.
2016-10-27 stat.ME
Nonparametric Regression and Error Covariance Function Estimation -- Beyond Short-Range Dependence
针对非参数回归中误差相关性衰减缓慢的问题,提出特殊核函数与带宽选择步骤及误差协方差函数非参数估计,在理论和模拟中均获显著改进并验证了实际应用价值。
2025-04-27 stat.ME
Principal Regression for High Dimensional Covariance Matrices
本文提出了一种以多个高维协方差阵为结果的广义线性回归方法。提出了通过最大化伪似然估计模型参数。当数据为高维时,由于样本协方差阵秩亏,正态似然函数是不适定的。因此,一个良好的条件线性收缩估计的协方差阵的介绍。对于多个协方差阵,提出了收缩系数在矩阵间是公共的。理论研究表明,在单位矩阵和样本协方差阵的所有线性组合中,所提出的协方差矩阵估计量是渐近一致最小二次损失的最优估计量.在正则条件下,所提出的模型参数估计是相合的。所提出的方法比现有的方法的优越性能,通过仿真研究说明。实施从阿尔茨海默病神经影像学倡议获得的静息状态功能磁共振成像研究,提出的方法确定了一个大脑网络,其中功能连接与载脂蛋白E $\varepsilon$ 4显著相关,载脂蛋白E 4是阿尔茨海默病的一个强遗传标记。
2020-07-24 stat.ME
An explicit mean-covariance parameterization for multivariate response linear regression
我们开发了一种新的方法来拟合多变量响应线性回归模型,该模型利用了回归系数矩阵和误差协方差阵之间的参数联系。具体来说,我们假设多元误差随机向量中的条目之间的相关性与其对应的回归系数矩阵列之间的角度的余弦成比例,因此随着两个回归系数矩阵列之间的角度减小,对应误差之间的相关性增大。我们强调两种模型下,这种参数化出现:潜变量降秩回归模型和变量误差回归模型。我们提出了一种新的非凸加权残差平方和准则,利用这种参数化,并承认一类新的惩罚估计。该优化算法采用加速近端梯度下降算法求解。我们的方法用于研究在NCI-60细胞系上测量的microRNA表达和癌症药物活性之间的关联。实现我们的方法MCMVR的R包可以在github.com/ajmolstad/MCMVR上获得。
2021-12-08 stat.ME
Partially Observed Functional Data: The Case of Systematically Missing Parts
利用微积分的基本定理,提出了部分观测函数数据的均值和协方差函数的新估计。新的估计允许一致的估计的平均值和协方差函数下的具体违反完全随机缺失的假设。可以使用顺序多重假设检验程序来检验估计程序的要求。一个广泛的模拟研究比较了新的估计与经典的估计,从文献中不同的缺失数据的情况。所提出的方法是出于实际问题,估计在德国控制储备市场的平均价格曲线。在这个拍卖市场中,价格曲线只能部分观察到,潜在的缺失数据机制取决于系统的交易策略,这显然违反了完全随机缺失的假设。与经典的估计相比,新的估计导致有用的估计的均值和协方差函数。补充材料在网上提供。
2018-07-30 stat.ME
Cox regression analysis with missing covariates via multiple imputation
我们考虑估计Cox回归的情况,其中一些协变量可能缺失,并且存在可能预测缺失协变量的额外信息(包括观察到的事件时间、删失指标和完全观察到的协变量)。我们建议使用两个工作回归模型:一个用于预测缺失协变量,另一个用于预测缺失概率。对于每个缺失协变量观察值,这两个工作模型用于定义最近邻插补集。然后使用该数据集对缺失观测值的协变量值进行非参数插补。插补完成后,对多重插补数据集进行Cox回归,以估计回归系数。在一个模拟研究中,我们比较了非参数多重插补方法与增广逆概率加权(AIPW)方法,它直接将两个工作模型的Cox回归估计。我们表明,所有的方法都可以减少偏见,由于不可验证的缺失机制。所提出的非参数插补方法对两个工作模型中的任何一个的错误设定具有鲁棒性,并且对两个工作模型的链接函数的错误设定具有鲁棒性。相比之下,AIPW方法对两个工作模型的链接函数的错误指定不具有鲁棒性,并且对选择概率敏感。我们将这些方法应用于监测,流行病学和最终结果(SEER)计划的乳腺癌数据集。
2017-10-12 stat.ME
High-dimensional covariance regression with application to co-expression QTL detection
本文提出一种稀疏协方差回归框架,将协方差矩阵建模为受试者水平协变量的函数,用于检测基因共表达是否随遗传变异变化,并采用块坐标下降算法估计参数,通过实验验证其有效性。
2025-05-26 stat.ME
Testing the parametric form of the conditional variance in regressions based on distance covariance
本文提出了一种新的检验方法,用于检验非线性非参数回归模型中基于距离协方差的条件方差的参数形式。继承了距离协方差的优良性质,我们的检验在实践中非常容易实现,并且受协变量维数的影响较小。在原假设和备择假设下,研究了检验统计量的渐近性质。我们表明,建议的测试是一致的,对任何替代品,并可以检测本地的替代品收敛到原假设的参数率1/根(n)在非线性和非参数设置。由于检验统计量的极限零分布是难以处理的,我们提出了一种残差自助法来近似极限零分布。模拟研究,以评估有限样本的性能所提出的测试。我们还将建议的测试应用到一个真实的数据集进行说明。
2022-05-18 stat.ME
Regression-based covariance functions for nonstationary spatial modeling
在许多涉及空间参考数据的环境应用中,观测数量和位置的限制激发了对实用且高效的空间插值或克里金模型的需求。连续索引空间数据模型的一个关键组成部分是协方差函数,传统上假定它属于固定模型的参数类。然而,平稳性很少是一个现实的假设。替代的方法,更适当地模拟非平稳环境过程中存在的往往涉及高维参数空间,这导致模型拟合和可解释性的困难。为了克服这个问题,我们建立在不断增长的文献协变量驱动的非平稳空间建模。使用过程卷积技术,我们提出了一个贝叶斯模型的连续索引的空间数据的基础上灵活的参数协方差回归结构的卷积核协方差阵。由此产生的模型是一个简约的内核过程的表示,我们探索隐含的模型,包括所产生的非平稳协方差函数和解释的好处,在内核参数的描述属性。此外,我们证明,我们的模型提供了一个实际的平衡之间的固定和高度参数化的非平稳空间协方差函数,在实践中没有很好地执行。我们说明我们的方法,通过分析年降水量数据。
2015-02-04 stat.ME
Simultaneous confidence bands for nonparametric regression with partially missing covariates
本文考虑了协变量随机缺失的非参数回归的基于逆选择概率的加权局部线性估计。导出了估计量与真实回归函数之间的最大偏差的渐近分布,并构造了渐近精确的同时置信带。回归函数的估计被证明是oracally有效的意义上说,它是一致的不可区分的,当选择概率是已知的。有限样本性能通过模拟研究,支持我们的渐近理论。通过对加拿大2010/2011年青年学生调查数据集的分析,证明了所提出的方法。
2020-02-28 stat.ME
A Regression-based Approach to Robust Estimation and Inference for Genetic Covariance
本文提出统一的基于回归的遗传协方差稳健估计与推断框架,证明模型错误设定下的渐近稳健性,并通过模拟和远交小鼠GWAS分析验证其效果。
2023-10-04 stat.ME
Nonparametric modal regression with missing response observations
针对响应变量存在缺失观测值的问题,本文调整了非参数众数回归工具,通过广泛模拟研究考察多种插补方法,并用实际数据示例验证了其有效性。
2025-04-07 stat.ME
Bayesian estimation of covariate assisted principal regression for brain functional connectivity
本文提出CAP回归的贝叶斯重新表述,通过将协方差矩阵映射至切空间利用欧几里得几何进行后验推断,在统一框架内实现参数联合估计与不确定性量化,并应用于脑功能连接性分析。
2024-08-29 stat.ME
Minimax D-optimal designs for multivariate regression models with multi-factors
在多响应回归模型中,误差协方差阵在实际中是永远不知道的。因此,需要对误差协方差阵的可能误指定具有鲁棒性的最优设计。在本文中,我们近似的误差协方差矩阵的协方差阵的邻域,以定义极小极大D-最优设计,这是对小偏离假设的误差协方差阵的稳健。众所周知,与稳健设计相关的优化问题是非凸的,这使得它具有挑战性的分析或数值构造稳健设计,即使是单响应回归模型。我们证明了极小极大D-最优设计的目标函数是两个凸函数的差。这使我们开发了一个灵活的算法来计算极小极大D-最优设计,它可以应用于任何多响应模型的离散设计空间。我们还得到了一些理论结果的极小极大D-最优设计,包括规模不变性和反射对称性。
2019-10-02 stat.ME
Robust location estimators in regression models with covariates and responses missing at random
本文讨论了一般回归模型中响应变量和部分协变量均存在缺失数据时的稳健边际估计问题。目标是通过$M-$函数给出的边缘位置参数。为了得到稳健的Fisher-相合估计量,考虑适当定义的边缘分布函数估计量.这些估计量通过假设随机缺失条件避免了缺失值引起的偏倚。三种方法被认为是估计的边缘分布函数,它允许获得的$M-$的位置感兴趣:众所周知的逆概率加权,卷积为基础的方法,利用回归模型和增强的逆概率加权程序,防止误指定。在不同的缺失模型下,包括干净样本和污染样本,通过数值研究比较了稳健估计和经典估计。我们说明了非线性模型下的估计行为。一个真实的数据集进行了分析。
2020-05-07 stat.ME
A new approach to Cholesky-based covariance regularization in high dimensions
在本文中,我们提出了对协方差阵的Cholesky因子的新回归解释,与众所周知的逆协方差的Cholesky因子的回归解释相反,这导致了一类新的适用于高维问题的正则化协方差估计量。通过这种回归解释正则化协方差的Cholesky因子总是得到正定估计量。特别地,可以以与Bickel和Levina(2008 b)提出的流行的带状估计相同的计算成本获得协方差阵的正定带状估计,其不能保证是正定的。本文还建立了协方差阵及其逆矩阵的带状Cholesky因子与带状约束下的约束极大似然估计之间的理论联系,并在仿真和声纳数据实例中比较了几种方法的数值性能。
2009-03-03 stat.ME
Sparse multivariate regression with missing values and its application to the prediction of material properties
在材料科学和工程领域,统计分析和机器学习技术最近已被用于从试验设计预测多种材料性质。这些材料特性对应于多元回归模型中的响应变量。本研究采用惩罚极大似然法估计模型参数,包括响应变量的回归系数和协方差阵。特别是,我们采用$l_1$ -正则化来实现响应变量的回归系数和逆协方差阵的稀疏估计。在某些情况下,由于难以收集有关材料特性的数据,响应变量中可能存在相对大量的缺失值。一种在有缺失值的情况下提高预测精度的方法,将响应变量之间的相关结构并入统计模型中。期望和最大化算法的构造,使应用程序的数据集与缺失值的响应。我们将我们提出的方法应用于由22种材料特性组成的真实数据。
2021-03-17 stat.ME
A covariate-dependent Cholesky decomposition for high-dimensional covariance regression
Baylor University(贝勒大学);Goizueta Business School, Emory University(埃默里大学戈伊泽塔商学院)
本文提出一种新的变系数序列回归框架,通过修改Cholesky分解来建模协变量依赖的正定协方差矩阵,同时引入联合稀疏结构以处理高维数据。
2026-04-08 stat.ME
Bayesian Hierarchical Spatial Regression Models for Spatial Data in the Presence of Missing Covariates with Applications
在许多应用中,勘测数据是从不同地区的不同勘测中心收集的。在某些情况下,响应变量完全被观察到,而协变量有缺失值。在本文中,我们提出了一个联合空间回归模型的响应变量和缺失的协变量通过一系列的一维条件空间回归模型。我们进一步构建了缺失协变量数据机制的联合空间模型。所提出的模型的性质进行了检查和马尔可夫链蒙特卡罗抽样算法是用来从后验分布的样本。此外,贝叶斯模型的比较标准,修改的偏差信息准则(mDIC)和修改的对数的伪边际似然比(mLPML),被开发来评估空间回归模型的空间数据的拟合。进行了广泛的模拟研究,以检查所提出的方法的经验性能。我们进一步应用所提出的方法来分析一个真实的数据集,从中国健康与营养调查(CHNS)在2011年进行。
2020-07-05 stat.ME
Robust low-rank covariance matrix estimation with a general pattern of missing values
本文研究了不完全数据下的抗差协方差阵估计问题。经典的统计估计方法通常建立在高斯假设的基础上,而现有的稳健估计方法假设非结构化的信号模型。前者在真实世界的数据集中可能是不准确的,其中异质性导致重尾分布,而后者不能从通常的低秩信号结构中获益。利用这两个世界的优势,一个协方差阵估计程序设计的鲁棒(混合缩放高斯)低秩模型,利用期望最大化算法内的离散数据似然函数。它还被设计为处理缺失值的一般模式。所提出的方法首先验证模拟数据集。然后,它的分类和聚类应用的兴趣进行评估,在两个真正的数据集与缺失值,其中包括多光谱和高光谱时间序列。
2021-11-23 eess.SP stat.ME
Variable Selection for Additive Partial Linear Quantile Regression with Missing Covariates
标准分位数回归模型假设在感兴趣的分位数处存在线性关系,并且观察到所有变量。我们通过考虑部分线性模型来放松这些假设,同时允许缺失线性协变量。为了处理由缺失数据引起的潜在偏差,我们提出了一个加权的目标函数,使用逆概率加权。我们的工作检查估计使用参数和非参数估计的缺失概率。对于存在缺失数据的线性项的变量选择,我们考虑使用非凸惩罚MCP或SCAD的惩罚和加权目标函数。在标准条件下,我们证明了惩罚估计的Oracle属性,包括情况下,$p>>n$。理论上的挑战包括处理缺失数据和部分线性模型,同时使用非光滑损失函数和非凸罚函数。使用蒙特卡罗模拟和我们的方法进行评估的方法的性能被施加到模型的时间量清醒的患者离开康复中心。
2016-06-04 stat.ME