Testing for Heteroscedasticity in High-dimensional Regressions
检验误差的异方差性是高维回归中的一个主要挑战,其中协变量的数量与样本量相比很大。传统的程序,如白色和Breusch-Pagan测试通常遭受低尺寸和功率。本文提出了两种新的基于标准OLS残差的检验方法。利用随机Haar正交矩阵理论,得到了当自由度趋于无穷大时,两个检验统计量在零点下的渐近正态性。这包括经典的低维设置,其中变量的数量是固定的,而样本量趋于无穷大,以及比例高维设置,其中这些维度按比例增长到无穷大。因此,这些程序在应用中提供了广泛的维度覆盖。据我们所知,这是第一个程序在文献中检验异方差是有效的中,高维回归。我们提出的测试现有的方法的优越性证明了广泛的模拟和一些真实的数据分析以及。
2017-10-13 stat.ME
Hybrid Quantile Regression Estimation for Time Series Models with Conditional Heteroscedasticity
金融时间序列的条件分位数估计对于风险管理和金融领域的许多其他应用是必不可少的。众所周知,金融时间序列具有条件异方差性。在众多的条件异方差模型中,广义自回归条件异方差(GARCH)过程是最流行和最有影响力的一个。到目前为止,可行的分位数回归方法,这项任务已被限制到一个变种的Gestival模型,线性Gestival模型,由于其易于处理的条件分位数结构。本文考虑了广泛使用的Gestival模型。一个易于实现的混合条件分位数估计程序开发的基础上,一个简单的,但非平凡的变换。所提出的估计量和统计量的渐近性质的推导,这有利于相应的推论。为了近似的渐近分布的分位数回归估计,我们引入了一个混合的自举过程,其中一个耗时的优化被替换为样本平均。此外,基于残差分位数自相关函数的诊断工具被构造来检查拟合的条件分位数的充分性。仿真实验进行了评估所提出的方法的有限样本性能。的条件分位数估计和推理工具的有用性的良好性能进一步说明了实证应用。
2016-10-24 stat.ME
Minimax wavelet estimation for multisample heteroscedastic non-parametric regression
研究了从多采样噪声曲线中估计基线信号的问题。本文考虑了功能性混合效应模型,假设功能性固定效应属于Besov类。这个框架允许我们对可能表现出强烈不规则性的曲线进行建模,例如峰值或跳跃。提供了$L_2$极小极大风险的下限,以及极小极大比率的上限,该上限是通过构建函数固定效应的小波估计量推导出来的。我们的工作构成了多样本非参数回归的第一个理论结果。我们的方法说明了现实的模拟数据集以及实验数据。
2015-11-14 stat.ME
Heteroscedastic BART Using Multiplicative Regression Trees
贝叶斯加性回归树(Bayesian Additive Regression Trees,BART)作为一种灵活的、可扩展的非参数回归方法,在解决现代应用统计学问题中得到了越来越广泛的应用。对于处理大型和复杂的非线性响应面的从业者来说,它的优点包括无矩阵公式和不需要预先指定限制回归基础。虽然在拟合均值方面灵活,但BART受到其对恒定方差误差模型的依赖的限制。这种同方差假设在许多应用中是不现实的。缓解这一限制,我们提出了HBART,一个非参数异方差的阐述BART。在BART,平均函数建模与树的总和,其中每一个确定一个添加剂的平均值的贡献。在HBART中,方差函数进一步用树的乘积建模,每个树确定对方差的乘法贡献。与均值模型一样,这种灵活的多维方差模型是完全非参数的,不需要预先指定限制基础。此外,通过这种增强,HBART可以深入了解预测因子与均值和方差的潜在关系。HBART的实际实施与揭示新的诊断图展示了二手车价格,渔获物生产和酒精消费的模拟和真实数据。
2018-07-09 stat.ME
Laplace approximation and the natural gradient for Gaussian process regression with the heteroscedastic Student-t model
本文考虑用Laplace方法对Student-t概率模型的位置和尺度参数进行高斯过程(GP)回归的近似推断。这允许数据的均值和方差作为协变量的函数而变化,具有吸引人的特征,即学生t模型已被广泛用作鲁棒数据分析的有用工具。对于具有Student-t概率模型的GP回归,近似推断的挑战在于后验分布的分析困难性和对数似然函数的不确定性。我们提出了自然梯度适应的估计过程中,主要依赖于学生-t模型自然具有正交参数化的位置和尺度参数的属性。由于该模型的这一特殊性质,我们还引入了另一种拉普拉斯近似,通过使用费舍尔信息矩阵代替负对数似然函数的Hessian矩阵。根据实验,当与传统的拉普拉斯近似相比时,这种替代近似提供非常相似的后验近似和预测性能。我们还比较了这两种拉普拉斯近似与蒙特卡罗马尔可夫链(MCMC)方法。此外,我们比较了我们的异方差Student-t模型和GP回归与异方差高斯模型。我们还讨论了我们的方法可以提高推理算法的情况下,假设的数据的概率模型不是对数凹的。
2017-12-23 stat.ME
A Dirichlet Process Functional Approach to Heteroscedastic-Consistent Covariance Estimation
混合Dirichlet过程(MDP)在概率测度空间上定义了一个灵活的先验分布。本文证明了普通最小二乘(OLS)估计作为MDP后验分布的一个函数,其后验均值由加权最小二乘(WLS)给出,后验协方差阵由(加权)异方差相合三明治估计给出。这是根据一对自助分布近似的后验,使用波利亚瓮计划。此外,当MDP先验基线分布被指定为独立概率测度的乘积时,该WLS解决方案提供了一种新型的广义岭回归估计器,即使当协变量的数量超过样本量时,该估计器也可以处理多共线性或奇异设计矩阵,并且将不相关协变量的系数估计值缩小到零,从而对非线性回归有用。此外,这种MDP/OLS功能方法可以扩展到用于分析异方差一致的因果效应大小在一系列隐藏偏倚上的敏感性的方法,这些偏倚是由于缺失的协变量从回归中省略而引起的,并且更普遍地扩展到效应振动分析。通过模拟和真实数据集的分析说明了该方法。总体而言,本研究建立了Dirichlet过程功能推断、自助法、一致夹心协方差估计、岭收缩回归、WLS和敏感性分析之间的新联系,以提供对推断平均依赖响应有用的回归方法。
2016-06-11 stat.ME
Scalable regression calibration approaches to correcting measurement error in multi-level generalized functional linear regression models with heteroscedastic measurement errors
针对多层广义函数线性回归模型中纵向函数曲线的异方差测量误差,提出两种基于两阶段可扩展回归校准的纠偏方法,模拟和实证均优于现有估计器。
2024-04-20 stat.ME
A longest run test for heteroscedasticity in univariate regression model
本文的范围是介绍一个测试,使检测异方差单变量回归模型。该测试是简单的计算和非常普遍的,因为没有假设的规律性的响应函数或正态性的错误。仿真结果表明,我们的测试公平以及其他不太一般的非参数检验。
2010-03-22 math.ST stat.ME stat.TH
A Copula-Based Regression Framework for Enhanced Prediction under Heteroscedasticity
Postgraduate Institute of Science, University of Peradeniya(佩拉德尼亚大学研究生科学学院);Department of Computer Science and Statistics, University of Peradeniya(佩拉德尼亚大学计算机科学与统计系)
研究针对实际数据中常出现的异方差问题,提出基于Copula的回归框架,无需严格分布假设,通过模拟研究和真实数据应用对比其他模型,证明该框架能有效处理异方差数据,提升预测准确性。
2026-09-02 stat.CO stat.ME
Precise Asymptotics for Dense High-Dimensional Huber Regression under Heteroscedasticity
University of Manchester(曼彻斯特大学);University of Cambridge(剑桥大学);Johns Hopkins University(约翰斯·霍普金斯大学)
该研究在异方差高维线性模型下,采用矩阵近似消息传递(AMP)框架推导了Huber估计量的精确渐近经验分布刻画,构建了中心位移检验并通过模拟验证其性能。
2026-10-16 math.ST stat.ME stat.TH
Heteroscedastic stratified two-way EC models of single equations and SUR systems
面板数据估计中的一个相关问题是异方差性,这通常发生在样本很大且单个单位大小不同的情况下。此外,许多现有的面板数据集在本质上是不平衡的,因为磨损或增生,微观计量经济学模型应用于面板数据往往是多方程模型。本文研究了非平衡面板数据下单方程和带交叉方程约束的似不相关回归(SUR)系统的异方差分层双向误差分量(EC)模型的广义最小二乘估计.所导出的单方程和SUR系统的异方差估计提高了估计效率。
2017-08-07 stat.ME
A Heteroscedastic Bayesian Generalized Logistic Regression Model with Application to Scaling Problems
针对幂律尺度建模中常用方法假设正态分布与固定方差易产生偏差的问题,提出贝叶斯广义逻辑回归框架,结合GLD处理偏态与异方差,用MCMC求解,经COVID-19数据验证效果更优且具普适性。
2024-01-25 stat.ME
Quantifying predictive uncertainty of aphasia severity in stroke patients with sparse heteroscedastic Bayesian high-dimensional regression
针对高维稀疏回归同方差假设违背的问题,提出H-PROBE算法估计异方差模型,用神经影像预测卒中患者AQ并量化不确定性,在不牺牲覆盖率下缩窄预测区间,临床与统计性能均优于现有方法。
2024-07-13 stat.ME stat.ML
Slope heuristics and V-Fold model selection in heteroscedastic regression using strongly localized bases
我们研究了在异方差随机设计回归背景下,所谓的斜率统计学,$V$ -折叠交叉验证和$V$ -折叠惩罚模型选择的最优性。我们考虑一类新的线性模型,我们称之为强局部化的基础和推广直方图,分段多项式和紧支撑小波。我们推导出了证明斜率优化的渐近最优性的尖锐预言不等式--当最优惩罚形状已知时--和$V$ -fold惩罚。此外,$V$ -折叠交叉验证似乎是次优的固定值的$V$,因为它恢复渐近的oracle从样本量等于$1-V^{-1}$的原始数据量的学习。我们的研究结果是基于真正的集中不平等的真实和经验的超额风险是独立的利益。我们在我们的实验中表现出良好的行为的斜率线性小波模型的选择。此外,$V$ -倍数交叉验证和$V$ -倍数惩罚具有相当的效率。
2017-03-15 math.ST stat.ME stat.TH
Enhancing reliability in prediction intervals using point forecasters: Heteroscedastic Quantile Regression and Width-Adaptive Conformal Inference
Universidad Politécnica de Madrid(马德里理工大学);Escuela Técnica Superior de Ingenieros Industriales(高等工业工程学院);Laboratorio de Estadística(统计实验室)
针对时间序列预测区间构建难题,提出结合异方差分位数回归与宽度自适应共形推断的方法,兼顾理论覆盖率与宽度自适应,经合成及真实电价数据验证,在有效性、效率及实用性上表现优异。
2025-01-17 cs.LG stat.ME stat.ML
Bayesian kernel machine regression for heteroscedastic health outcome data
本文针对环境流行病学中BKMR模型误差项恒定方差假设不成立的问题,开发了异方差HBKMR方法,通过贝叶斯分层方差模型更新健康效应估计,并在两项真实金属暴露案例中显著提升了模型拟合度。
2025-05-29 stat.AP stat.ME
Heteroscedastic semiparametric transformation models: estimation and testing for validity
本文考虑一个异方差变换模型,其中变换属于参数单调变换族,回归和方差函数是非参数建模的,误差与多维协变量无关。在这个模型中,我们首先考虑模型未知分量的估计,即变换参数、回归和方差函数以及误差的分布。我们证明了所提出的估计量的渐近正态性。其次,我们对模型的有效性进行了检验,并在原假设下建立了检验统计量的极限分布。提出了一种Bootstrap方法来近似检验的临界值。最后,我们进行了模拟研究,以验证所提出的估计和测试的小样本行为。
2014-11-27 math.ST stat.ME stat.TH
H-AddiVortes: Heteroscedastic (Bayesian) Additive Voronoi Tessellations
提出贝叶斯非参数 Heteroscedastic AddiVortes 模型,用自适应 Voronoi 镶嵌的均值求和与方差乘积结构实现异方差回归和不确定性量化。
2025-03-17 stat.CO stat.ME stat.ML
Heteroscedastic Double Bayesian Elastic Net
School of Mathematics and Statistics, The University of Melbourne(墨尔本大学数学与统计学院)
本文提出异方差双贝叶斯弹性网(HDBEN),通过分层贝叶斯先验联合建模均值和log方差,在高维异方差场景下实现稀疏估计与变量选择,并证明其后验收缩、选择一致性及渐近正态性。
2025-02-04 cs.AI stat.ME stat.ML
Three-group variance-ratio tests for heteroscedasticity in linear regression: an exact null distribution and an outlier-resistant version
Alexandria University(亚历山大大学)
提出一种线性回归异方差性检验方法,通过排序分组比较误差尺度,精确零分布且抗离群值,在多种模拟设置中功效优于现有检验,并支持沿时间变化的方差检测。
2026-10-02 stat.AP stat.ME
Inference for high-dimensional linear expectile regression with de-biased method
本文针对高维线性期望分位数回归的推断问题,将期望分位数损失转化为加权最小二乘形式,采用去偏策略构建Wald型检验,并给出广义Hessian矩阵伪逆的一致估计,模拟和真实数据验证了方法在同方差与异方差场景下的有效性。
2024-01-14 stat.ME
Generalized Matrix Decomposition Regression: Estimation and Inference for Two-way Structured Data
本文研究了双向结构化数据的高维回归问题。为了估计高维系数向量,我们提出了广义矩阵分解回归(GMDR),以有效地利用行和列结构上的任何辅助信息。GMDR将主成分回归(PCR)扩展到双向结构化数据,但与PCR不同的是,GMDR选择最能预测结果的成分,从而实现更准确的预测。对于个别变量的回归系数的推断,我们提出了广义矩阵分解推断(GMDI),一个一般的高维推理框架,一个大家庭的估计,包括建议GMDR估计。GMDI为相关辅助行和列结构的建模提供了更大的灵活性。因此,GMDI不要求真实的回归系数是稀疏的;它还允许相关和异方差观测。我们在第一类错误率和功效方面研究了GMDI的理论特性,并证明了GMDR和GMDI在模拟研究和应用于人体微生物组数据方面的有效性。
2023-02-16 stat.ME
A lack-of-fit test for quantile regression models with high-dimensional covariates
提出一种适用于高维协变量的分位数回归模型拟合优度检验,基于残差线性投影累积和,采用野生自助法近似临界值,模拟和实例验证了其良好性能。
2015-02-20 stat.ME
Optimal designs for comparing regression models with correlated observations
我们考虑了有效的统计推断的问题,比较两个回归曲线估计从两个样本的相关测量。基于连续时间模型中最佳线性无偏估计量对的随机积分表示,构造了有限样本量下有效的线性无偏估计量对及其相应的最优设计.这一对最小化了估计曲线之间差异的置信带宽度。因此,我们在文献中提供的相关观测的情况下,扩展的结果,并提供了一个易于实施和有效的解决方案。通过数值例子说明了使用这样的估计与相应的最优设计的回归模型的比较对的优点。
2016-01-28 stat.ME
A Simple Lack-of-Fit Test for Regression Models
一个简单的测试,提出了一个给定的完全指定的响应函数对未指定的一般替代品的情况下,一元回归的正确性检查。基于残差图的常用诊断工具是有用的,但启发式的。我们引入一个正式的统计测试补充图形分析。从技术上讲,检验统计量是候选回归函数连续高估或低估的有序(相对于协变量)观测序列的最大长度。请注意,测试过程可以处理异方差误差和没有重复。给出了在原假设和一类备择假设下计算检验统计量精确分布的递推公式。
2010-04-25 math.ST stat.ME stat.TH
Testing axial symmetry in multivariate location-scale linear regression
Charles University(查理大学);The Czech Academy of Sciences, Institute of Information Theory and Automation(捷克科学院信息与自动化研究所)
提出基于积分秩得分的检验方法,用于多元线性异方差回归中条件轴向对称性的检验,推导渐近分布,并通过模拟和实际数据验证。
2026-06-11 math.ST stat.ME stat.TH