Functional Linear Regression for Partially Observed Functional Data
在函数线性回归模型中,人们提出并研究了许多方法来估计斜率函数,同时在整个区域内观察函数预测。然而,工作的功能线性回归模型与部分观察到的轨迹受到较少的关注。在本文中,为了填补文献空白,我们考虑的情况下,个别功能预测可能只观察到的域的一部分。根据函数预测器中是否存在测量误差,提出了两种方法,一种是基于轨迹观测部分的线性泛函,另一种是使用条件主成分得分。我们建立了这两种方法的渐近性质。有限样本仿真进行验证其性能。分析了阿尔茨海默病神经影像学倡议(ADNI)研究的弥散张量成像(DTI)数据。
2021-12-17 stat.ME
Nearly Semiparametric Efficient Estimation of Quantile Regression
分位数回归作为最小二乘回归的一种有竞争力的替代方法,在分析异质数据时得到了广泛的应用。对于单分位数水平$τ$的分位数回归模型,半参数有效估计的主要困难是参数有效值的不可得性和条件密度估计。本文利用最不利子模型技术,分别推导了线性分位数回归模型在$(0,1)$中的单分位数水平、多分位数水平和所有分位数水平下的半参数有效得分.我们的主要发现是对多个分位数水平下的分位数回归模型的回归系数的一步(近似)半参数有效估计,它具有以下优点:它可以被看作是一种在多个/其他分位数上汇集信息以提高效率的最佳方法;由于所研究的分位数回归模型的性质,通过插入初始估计量,条件密度估计是直接的。在正则条件下,证明了所得到的估计达到了相应的半参数有效性下界。包括模拟和一个例子的儿童出生体重的数值研究证实,所提出的估计导致更高的效率相比,Koenker-Bassett分位数回归估计的所有分位数的利益。
2017-05-26 stat.ME
Explanation of multicollinearity using the decomposition theorem of ordinary linear regression models
在多元线性回归模型中,分解定理的代数公式用几何学解释了一元回归系数和偏回归系数之间的关系。结果表明,一元回归系数可按最小二乘法分解为各自的偏回归系数。利用分解定理分析了复共线性。研究还表明,重要解释变量的偏回归系数不显著是一种样本现象,但符号期望偏离的原因可能是被解释变量与解释变量之间的总体结构或样本选择的结果。目前诊断多重共线性的一些方法只考虑了解释变量之间的相关性,因此这些方法基本上是不可靠的,在没有区分原因之前,处理多重共线性是盲目的。样本量的增加可以帮助识别多重共线性的原因,差分法可以起到辅助作用。
2021-04-30 stat.ME
Semiparametric copula-based quantile regression for semicontinuous outcomes with application to healthcare data
Department of Mathematics and Statistics, University of Windsor(温莎大学数学与统计系)
本文提出了一种半参数化copula基础的两阶段分位数回归框架,用于分析具有零点质量和连续正部分的半连续结果,通过copula条件分布链接发生和幅度过程,展示非线性依赖和协变量效应的灵活性,且在非线性依赖和显著零膨胀情况下优于logistic/线性回归。
2026-03-14 stat.ME
Variable Selection for Additive Partial Linear Quantile Regression with Missing Covariates
标准分位数回归模型假设在感兴趣的分位数处存在线性关系,并且观察到所有变量。我们通过考虑部分线性模型来放松这些假设,同时允许缺失线性协变量。为了处理由缺失数据引起的潜在偏差,我们提出了一个加权的目标函数,使用逆概率加权。我们的工作检查估计使用参数和非参数估计的缺失概率。对于存在缺失数据的线性项的变量选择,我们考虑使用非凸惩罚MCP或SCAD的惩罚和加权目标函数。在标准条件下,我们证明了惩罚估计的Oracle属性,包括情况下,$p>>n$。理论上的挑战包括处理缺失数据和部分线性模型,同时使用非光滑损失函数和非凸罚函数。使用蒙特卡罗模拟和我们的方法进行评估的方法的性能被施加到模型的时间量清醒的患者离开康复中心。
2016-06-04 stat.ME
Partially-shared Imaging Regression on Integrating Heterogeneous Brain-Cognition Associations across Alzheimer's Diagnoses
University of California, Los Angeles(加州大学洛杉矶分校);Carnegie Mellon University(卡内基梅隆大学);Shanghai University of Finance and Economics(上海财经大学);University of California, Santa Barbara(加州大学圣塔芭芭拉分校)
本文提出PAIR模型,通过部分共享结构整合异质脑认知关联,揭示不同诊断组脑认知路径的显著异质性。
2026-04-30 stat.ME
Semiparametric Mixture Regression with Unspecified Error Distributions
在混合线性回归模型的拟合中,传统的方法是采用正态假设来建立误差模型,然后用极大似然估计来估计回归参数。如果违反了正常假设,则此程序无效。为了放松误差分布的正态假设,从而降低建模偏差,我们提出了具有未知误差分布的半参数混合线性回归模型。在比已有结果更弱的条件下,我们建立了一个更一般的可辨识性结果,构造了一类新的估计量,并建立了它们的渐近性质。这些渐近结果也适用于许多现有的半参数混合回归估计的渐近性质仍然未知,由于在获得它们的固有困难。利用模拟研究,我们证明了所提出的估计的优越性超过极大似然估计时,违反了正常的错误假设和可比性时,错误是正常的。对2017年新收集的马传染性贫血病毒数据进行分析,以说明新估计量的有效性。
2018-11-02 stat.ME
Predictor-dependent shrinkage for linear regression via partial factor modeling
在预测变量多于观测值的预测问题中,有时使用联合概率模型$π(Y,X)$而不是纯条件模型$π(Y \mid X)$会有所帮助,其中$Y$是标量响应变量,$X$是预测变量的向量。这种方法的动机是,在许多情况下,边缘预测分布$π(X)$可以提供有用的信息,参数值的条件回归。然而,在非常轻微的误指定下,这种边缘分布也会导致条件推理误入歧途。在这里,我们在线性因子模型的背景下探索这些想法,以了解它们如何在熟悉的环境中发挥作用。由此产生的贝叶斯模型在真实和模拟数据的各种协方差结构中表现良好。
2010-11-16 stat.ME
Tests for ultrahigh-dimensional partially linear regression models
本文针对超高维部分线性回归模型,利用机器学习估计冗余函数并构造二次型检验统计量,提出功效增强程序以提升在稀疏和稠密备择下的检验功效,同时保证渐近控制第一类错误。
2023-04-15 stat.ME
Semiparametric Copula Quantile Regression for Complete or Censored Data
当面对多元协变量时,一般的半参数回归技术可以提出灵活的模型,这些模型不受维数灾难的影响。在这项工作中,半参数Copula为基础的估计条件分位数完全或右删失数据进行了研究。在精神上,该方法扩展了Noh et al.(2013)和Noh et al.(2015)的近期工作,因为主要思想在于根据多变量copula和边缘分布适当定义分位数回归。事先估计后者和简单的插件导致一个容易实现的估计表示,无论上下文中有或没有审查,作为一个加权分位数的观察到的响应变量。此外,与文献中的初始建议相反,研究了多变量Copula密度的半参数估计方案,其动机是纯参数方法的可能缺点,并由回归上下文驱动。由此得到的分位数回归估计具有在分位数水平上自动单调的有价值的性质,并且在经典的正则条件下得到了完全数据和删失数据的渐近正态性。最后,数值例子以及实际数据的应用,以说明所提出的方法的有效性和有限样本性能。
2016-03-24 stat.ME
Function-on-function partial quantile regression
In this paper, a functional partial quantile regression approach, a quantile regression analog of the functional partial least squares regression, is proposed to estimate the function-on-function linear quantile regression model. A partial quantile covariance function is first used to extract the functional partial quantile regression basis functions. The extracted basis functions are then used to obtain the functional partial quantile regression components and estimate the final model. In our proposal, the functional forms of the discretely observed random variables are first constructed via …
2021-09-13 stat.AP stat.CO stat.ME
Semi-parametric bulk and tail regression using spline-based neural networks
University of Arkansas(阿肯色大学);University of Edinburgh(爱丁堡大学)
本文提出SPQRx,结合样条神经网络与混合GP分布,实现半参数化密度回归,以可靠处理重尾数据的尾部外推。
2026-02-25 stat.ME
PLS Generalized Linear Regression and Kernel Multilogit Algorithm (KMA) for Microarray Data Classification
本文将Bastien等人(2005)提出的偏最小二乘广义线性回归(PLSGLR)与逻辑斯谛回归和线性判别分析相结合,得到偏最小二乘广义线性回归-逻辑斯谛回归模型(PLSGLR-log)和偏最小二乘广义线性回归-线性判别分析模型(PLSGLRDA)。这两种分类方法,然后与经典的方法,如k-近邻(KNN),线性判别分析(LDA),偏最小二乘判别分析(PLSDA),岭偏最小二乘(RPLS),和支持向量机(SVM)进行比较。此外,我们实现了Dalmau等人的核多对数算法(KMA)。(2015)并将其性能与其他分类器进行了比较。结果表明,对于未经预处理和预处理的数据,KMA具有最低的分类错误率。
2019-06-19 stat.CO stat.ME
Statistical inference for partially shape-constrained function-on-scalar linear regression models
本文针对部分形状约束的函数型标量线性回归模型,提出基于核与样条方法的复合假设检验框架,通过度量约束与无约束拟合的 $L^2$ 距离进行推断,并从理论和数值上验证了检验的一致性与实用性。
2025-05-08 stat.ME
Semiparametric model averaging for high-dimensional quantile regression with nonignorable nonresponse
针对不可忽略缺失下的高维分位数回归,提出半参数模型平均方法,通过缺失机制估计与候选模型加权实现渐近最优。
2025-08-30 stat.ME
Bayesian Ordinal Quantile Regression with a Partially Collapsed Gibbs Sampler
与标准线性回归不同,分位数回归将协变量与条件响应分布之间的关系作为一个整体捕获,而不仅仅是协变量与条件响应的期望值之间的关系。然而,虽然连续变量和某些形式的离散数据有成熟的分位数回归方法,但顺序变量没有被广泛接受的方法,尽管它们在许多医学背景下很重要。在这项工作中,我们描述了两个现有的顺序分位数回归方法,并证明他们的弱点。然后,我们提出了一种新的方法,贝叶斯有序分位数回归与部分塌陷吉布斯抽样(BORPS)。我们显示出优越的结果,使用BORPS与现有的方法上的一组广泛的模拟。我们通过将BORPS应用于脆弱家庭和儿童福祉研究数据来进一步说明我们方法的好处,以区分男女之间与青春期提前的联系。软件可在GitHub.com/igrabski/borps上获得。
2019-11-16 q-bio.QM stat.ME
Fast Partial Quantile Regression
Universidad Carlos III de Madrid(马德里卡洛斯三世大学);uc3m-Santander Big Data Institute(uc3m-桑坦德大数据研究所);Universitat Politècnica de València(瓦伦西亚理工大学)
研究将多元PLS扩展到分位数回归框架,提出快速偏分位数回归(fPQR)方法,通过理论公式实现稳健降维,经模拟实验和实际数据集验证其性能。
2026-07-14 stat.CO stat.ME
Identifiability and improper solutions in the probabilistic partial least squares regression with unique variance
Yamagata University(山形大学)
本文提出通过规范约束解决概率PLS回归中的不恰当解和不可识别性问题,并通过实验验证其有效性。
2025-12-05 physics.data-an stat.ME
kNN estimation in semi-functional partial linear regression with missing responses at random
Universidade da Coruña(拉科鲁尼亚大学);Centro de Investigación en Tecnologías de la Información y las Comunicaciones (CITIC)(信息与通信技术研究中心);Universidad Carlos III de Madrid(马德里卡洛斯三世大学)
针对响应随机缺失的半函数部分线性回归模型,提出三种基于k近邻的估计量用于向量参数和非参数算子,并得到渐近性质。
2026-06-23 math.ST stat.ME stat.TH
Estimation of Partially Linear Regression Model under Partial Consistency Property
本文利用高维统计建模的最新理论成果,提出了一种无模型但计算简单的方法来估计部分线性模型$Y=Xβ+g(Z)+\varepsilon$。受部分一致性现象的启发,我们建议通过附带参数来建模$g(Z)$。通过对$Z$的支持度进行划分,采用简单的局部平均值来估计响应面。所提出的方法旨在取得平衡的计算负担和效率的估计,同时最大限度地减少模型偏差。在计算上,这种方法只涉及最小二乘法。我们证明,给定$g(Z)$的不一致估计量,可以以很小的效率代价获得部分线性模型的参数分量$β$的根$n$相合估计量。此外,在$β$估计的条件下,$g(Z)$的最优估计,然后可以得到使用经典的非参数方法。考虑了$β$的统计推断问题和$g(Z)$的两种群非参数检验问题。我们的结果表明,检验统计量的行为是令人满意的。为了评估我们的方法与其他方法相比的性能,进行了三个模拟研究和一个真实的数据集出生体重的危险因素进行了分析。
2014-01-09 stat.CO stat.ME
Partial heteroscedastic deconvolution estimation in nonparametric regression
本文提出了一种非参数回归中处理部分异方差测量误差的核估计方法,证明其在合适条件下具有最优收敛速率,并通过模拟验证了其有效性。
2026-01-28 math.ST stat.TH
A two-part finite mixture quantile regression model for semi-continuous longitudinal data
本文针对半连续纵向数据建立了一个两部分有限混合分位数回归模型。所提出的方法允许异质性来源,影响模型的二进制响应变量,也影响积极的结果的分布。正如分位数回归文献中常见的那样,对模型参数的估计和推断基于非对称拉普拉斯分布。通过期望最大化算法获得最大似然估计,而无需对随机效应分布进行参数假设。此外,惩罚版本的期望最大化算法的变量选择的问题。所提出的统计方法应用于著名的兰德健康保险实验数据集,进一步了解其经验行为。
2020-10-23 stat.AP stat.ME
A robust partial least squares approach for function-on-function regression
函数-函数线性回归模型的响应和预测变量均由随机曲线组成,已成为研究函数响应和函数预测变量之间关系的一般框架。现有的方法来估计模型参数可能是敏感的离群观察,常见的经验应用。此外,这些方法可能会受到这些观测的严重影响,导致不期望的估计和预测结果。为了提高函数-函数线性回归模型在异常值存在时的预测精度,提出了一种基于迭代加权简单偏最小二乘的稳健估计方法.所提出的方法的性能是基于用于估计函数对函数线性回归模型的偏最小二乘分量的数量。因此,通过数据驱动的误差准则来确定最佳组件数量。通过几个蒙特卡罗实验和经验数据分析,所提出的方法的有限样本性能进行了研究。此外,一个非参数的自助方法被应用到构建逐点预测区间的响应函数。与现有的一些方法的结果进行了比较,以说明所提出的方法可能获得的改进。
2021-11-01 stat.AP stat.CO stat.ME
Stochastic Search for Semiparametric Linear Regression Models
本文介绍和分析了Beran和Millar(1987)关于线性回归模型参数估计的随机搜索方法。其想法是生成参数空间的随机有限子集,该子集将自动包含非常接近未知真参数的点。该过程的动机来自Duembgen,Samworth和Schuhmacher(2011)关于对数凹误差分布回归模型的最新工作。
2011-10-10 math.ST stat.ME stat.TH
Improved estimation via model selection method for semimartingale regressions based on discrete data
研究了半鞅噪声下连续时间回归模型中观测到的周期函数的鲁棒自适应非参数估计问题。
2020-05-23 math.PR math.ST stat.TH
Linear regression with partially mismatched data: local search with theoretical guarantees
线性回归是统计学及相关领域的基本建模工具。在本文中,我们研究了线性回归的一个重要变种,其中预测响应对是部分失配的。我们使用一个优化配方,同时学习潜在的回归系数和对应的不匹配的排列。问题的组合结构导致计算挑战。我们提出并研究了一个简单的贪婪局部搜索算法,这个最优化问题,享有强有力的理论保证和吸引人的计算性能。我们证明,在一个适当的缩放比例的不匹配对的数量相比,样本的样本个数和功能,并对问题数据的某些假设,我们的局部搜索算法收敛到一个接近最优解的线性速率。特别地,在无噪声的情况下,我们的算法以线性收敛速率收敛到全局最优解。在此基础上,我们证明了参数估计误差的一个上界。我们还提出了一个近似的本地搜索步骤,使我们能够将我们的方法扩展到更大的实例。我们进行数值实验,以收集进一步的见解,我们的理论结果,并显示有前途的性能增益相比,现有的方法。
2022-10-31 math.OC stat.CO stat.ME
Semismooth Newton Coordinate Descent Algorithm for Elastic-Net Penalized Huber Loss Regression and Quantile Regression
本文提出了一种半光滑牛顿坐标下降算法(SNCD),用于高维环境下的弹性网惩罚Huber损失回归和分位数回归。与现有的坐标下降型算法不同,SNCD在每次迭代中同时更新每个回归系数及其相应的次梯度。它结合了坐标下降和半光滑牛顿算法的优点,有效地解决了维数和非光滑性带来的计算挑战。我们建立了算法的收敛性。此外,我们提出了一个自适应版本的“强规则”筛选预测,以获得额外的效率。通过数值实验,我们证明了该算法是非常有效的,可扩展到超高的维度。我们通过一个真实的数据示例来说明该应用程序。
2016-05-20 stat.CO stat.ML
Testing Conditional Independence via Quantile Regression Based Partial Copulas
部分copula提供了一种方法,用于描述两个随机变量$X$和$Y$之间的依赖关系,条件是第三个随机向量$Z$的非参数残差$U_1$和$U_2$。本文将偏copula与基于分位数回归的非参数残差估计方法相结合,提出了一种条件独立性的非参数检验方法。我们考虑一个基于广义相关的检验统计量之间的$U_1$和$U_2$,并推导出其大样本性质下的一致性假设的分位数回归过程。我们通过模拟研究表明,所得到的测试是健全的复杂的数据生成分布。此外,在所考虑的示例中,该测试在水平和功效方面与其他最先进的条件独立性测试具有竞争力,并且在$X$和$Y$(给定$Z$)的条件方差异质性的情况下具有优越的功效。
2021-04-29 math.ST stat.TH
SPQR: An R Package for Semi-Parametric Density and Quantile Regression
我们开发了一个R包SPQR,它实现了Xu和Reich(2021)中的半参数分位数回归(SPQR)方法。该方法首先使用单调样条拟合灵活的密度回归模型,其权重使用人工神经网络建模为数据相关函数。随后,条件密度和分位数过程的估计都可以得到。与许多假设线性模型的分位数回归方法不同,SPQR允许协变量和响应分布之间的几乎任何关系,包括非线性效应和不同分位数水平上的不同效应。为了提高SPQR的可解释性和透明度,Apley和Zhu(2020)开发的模型不可知统计用于估计和可视化协变量效应及其对分位数函数的相对重要性。在本文中,我们将详细介绍如何在SPQR中实现此框架,并通过模拟和真实数据示例说明如何在实践中使用此包。
2022-10-26 stat.CO stat.ME stat.ML
Robust semiparametric inference for polytomous logistic regression with complex survey design
分析复杂调查方案(如分层或整群抽样)的多分类响应在一些社会经济学应用中非常重要。本文给出了多分类逻辑斯谛回归模型的一类最小拟加权密度幂离估计。这个家庭的半参数估计是一个强大的推广的最大拟加权似然估计,利用流行的密度功率发散措施的优势。相应地,还导出了设计效应的鲁棒估计。利用新的估计量对回归系数进行了一般线性假设的稳健检验。理论上研究了它们的渐近分布和鲁棒性,并通过数值算例和广泛的蒙特卡罗研究进行了经验验证。
2019-04-03 math.ST stat.AP stat.ME
Estimation of population-level summaries in general semiparametric repeated measures regression models
本文考虑了一个广泛的家庭半参数重复测量回归模型,其中的主要兴趣是估计人口水平的数量,如均值,方差,概率等,我们的框架的例子包括集群/纵向数据的广义线性模型,等等。我们推导出插件的基于核的估计的人口水平的数量,并得出其渐近分布。一个例子,涉及估计的生存功能的血红蛋白措施在肯尼亚血红蛋白研究数据来证明我们的方法。
2008-05-15 math.ST stat.ME stat.TH
Semiparametric count data regression for self-reported mental health
“在过去的30天里,你有多少天精神不好?“对这个问题的回答衡量了自我报告的心理健康状况,并且可以与国家健康和营养检查调查(NHANES)中的重要协变量联系起来。然而,这些计数变量提出了主要的分布挑战:数据过度分散,零膨胀,以30为界,并以5天和7天为增量堆积。为了应对这些挑战,我们设计了计数数据回归的半参数估计和推理框架。数据生成过程是通过同时变换和舍入(STAR)潜高斯回归模型来定义的。变换估计非参数化和舍入算子,确保正确的离散和有界数据的支持。极大似然估计量使用期望最大化算法计算,该算法与可通过最小二乘法估计的任何连续数据模型兼容。STAR回归包括渐近假设检验和置信区间,通过信息标准进行变量选择,以及定制诊断。仿真研究验证了该框架的实用性。STAR被部署来研究与自我报告的心理健康相关的因素,并与现有的计数数据回归模型相比,在拟合优度方面有了实质性的改善。
2021-10-13 stat.AP stat.ME stat.ML
Semiparametric logistic regression with unknown sizes, and its application to bioassays
具有未知大小的逻辑斯谛回归在生物和医学科学中有许多重要的应用。文献中关于这个问题的模型都是参数模型。提出了一个半参数回归模型。该模型包含由于尺寸变化引起的过度分散,并允许一般的剂量-反应关系。期望条件最大化算法提供了最大化的对数似然。Bootstrap方法可用于构造回归系数的置信区间。仿真研究所提出的模型的行为。两个实际的例子进行了研究所提出的模型。
2006-09-20 math.ST stat.TH
Average Marginal Effects in One-Step Partially Linear Instrumental Regressions
CREST, CNRS, Ecole polytechnique, Groupe ENSAE-ENSAI, ENSAE Paris, Institut Polytechnique de Paris(CREST, 法国国家科学研究中心, 巴黎综合理工学院, ENSAE-ENSAI小组, 巴黎高等统计与行政学院, 巴黎理工学院);University of Exeter and CREST(埃克塞特大学和 CREST)
本文提出了一种基于再生核希尔伯特空间的方法,用于估计和检验部分线性工具回归中的平均边际效应,通过单一正则化参数实现一致性与渐近正态性,并利用贝叶斯抽样法进行推断。
2026-04-13 econ.EM math.ST stat.TH
Maximum likelihood estimation in a partially observed stratified regression model with censored data
分层比例强度模型通过允许研究人群的不同组具有不同的基线强度函数来概括Cox比例强度模型。本文考虑了当样本中某些个体的阶层变量不可观测时,该模型的估计问题。在这种情况下,我们构造了分层模型参数的非参数极大似然估计,并建立了它们的相合性和渐近正态性。也得到了极限方差的一致估计。
2008-05-06 math.ST stat.TH
On estimation and prediction in a spatial semi-functional linear regression model
我们解决了估计和预测在非访问站点的空间半功能线性回归模型的衍生物,结合了一个功能的线性模型与非参数回归之一。参数部分由矩量法估计,另一部分由局部线性估计器估计。我们建立了所得到的估计量和预测量的收敛速度。一个模拟研究和应用在非访问站点的臭氧污染预测提出来说明我们的结果。
2022-11-19 math.ST stat.TH
Semiparametric Penalized Spline Regression
本文利用参数方法和非参数惩罚样条方法的混合技巧,提出了一种新的半参数回归估计。真实回归函数的整体形状由参数部分捕获,而其残差由非参数部分一致地估计。建立了半参数估计的渐近理论,证明了半参数估计的渐近性依赖于非参数惩罚样条估计的渐近性以及真实回归函数与参数部分之间的差异.作为渐近性的自然关联应用,讨论了参数模型选择的一些准则。数值实验表明,所提出的估计比现有的基于核的半参数估计和完全非参数估计性能更好,所提出的准则对于选择合理的参数模型也是有效的.
2012-02-16 math.ST stat.TH
Generalized Method of Moments Estimator Based On Semiparametric Quantile Regression Imputation
在这篇文章中,我们考虑一种插补方法来处理基于半参数分位数回归估计的缺失响应值。在所提出的方法中,缺失的响应值生成使用估计的条件分位数回归函数在给定的协变量值。我们采用广义矩量法估计的参数定义通过一个一般的估计方程。我们证明了所提出的估计,它结合了半参数分位数回归插补和广义矩方法,具有竞争优势,对一些最广泛使用的参数和非参数插补估计。证明了估计量的相合性和渐近正态性,并给出了方差估计。有限的模拟研究和实证研究的结果,显示所提出的方法的充分性。
2014-04-11 math.ST stat.TH
Optimal bandwidth selection for semi-recursive kernel regression estimators
本文提出了一种由随机逼近算法定义的回归函数半递归核估计带宽的自动选择方法。我们表明,使用选定的带宽和一些特殊的步长,建议的半递归估计将是非常有竞争力的非递归的估计误差,但更好的计算成本。我们通过模拟研究和真实数据集证实了这些理论结果。
2016-07-04 math.ST stat.TH
Testing linearity in semi-functional partially linear regression models
提出了半函数部分线性回归模型线性检验的Kolmogorov-Smirnov型统计量和Cramér-von Mises型统计量.我们的检验统计量是基于一个残差标记的经验过程索引的随机投影的功能协变量,这是能够规避“灾难的维数”所带来的功能协变量。建立了零值、固定替代和局部替代序列以$n^{1/2}$速率收敛于零值的检验统计量的渐近性质。一个简单的野生引导程序建议估计的临界值,需要进行测试在实际应用中。从一个广泛的模拟研究的结果表明,我们的测试表现相当不错,在有限的samples.Finally,我们将我们的测试Tecator和AEMET数据集,以检查是否线性的假设是由这些数据集支持。
2022-12-01 math.ST stat.TH
Semiparametric regression estimation using noisy nonlinear non invertible functions of the observations
本文研究了一类半参数回归模型,其中观测值为带噪声的非线性不可逆函数。我们专注于纯方位跟踪的应用。我们首先研究了最小二乘估计,并在较弱的假设下证明了它的相合性和渐近正态性。研究了半参数似然过程,证明了模型的局部渐近正态性。这允许定义有效的Fisher信息作为正则估计量的渐近方差的下界,并证明参数似然估计量是正则的且渐近有效的。模拟来说明我们的结果。
2008-12-16 math.ST stat.TH
Neural Networks for Partially Linear Quantile Regression
深度学习在各种应用中取得了巨大的成功,但它在分位数回归中的应用仍然很少。深度学习方法的一个主要优势是它可以以比非参数平滑方法更简洁的方式灵活地对复杂数据进行建模。然而,尽管深度学习在预测方面带来了突破,但由于具有数百万参数的多层结构的黑箱性质,它往往缺乏可解释性,因此它不太适合统计推断。在本文中,我们利用深度学习的优势将其应用于分位数回归,目标是产生可解释的结果并执行统计推断。我们通过采用基于部分线性分位数回归模型的半参数方法来实现这一点,其中统计推断的主要兴趣协变量线性建模,所有其他协变量通过深度神经网络非参数建模。除了新的方法,我们提供了理论证明所提出的模型,建立根$n$一致性和渐近正态性的参数系数估计和极小极大最优收敛速度的神经非参数函数估计。在几个模拟和真实数据的例子中,我们提出的模型根据经验产生了优于各种替代方法的估计和更准确的预测。
2021-06-11 math.ST stat.TH
Estimation in semiparametric spatial regression
在过去的几十年里,非参数方法在时间序列和回归中非常流行,但在空间模型中没有这样的发展。一个相当明显的原因是维度灾难。对于网格上的空间数据,在给定其最近邻的情况下评估条件均值值需要四维非参数回归。本文提出了一种半参数空间回归方法来避免这个问题。在半参数空间回归的基础上,提出了一种将边缘积分技术与局部线性核估计相结合的估计方法。在较弱的条件下建立了渐近分布。建立了与一维回归情况相同的收敛速度。经典的Mercer和Hall小麦数据集的方法的应用程序,并指出,一个方向分量似乎是非线性的,这在早期的分析中被忽视。
2006-08-02 math.ST stat.TH
Estimating spatial quantile regression with functional coefficients: A robust semiparametric framework
本文考虑空间数据半参数变系数分位数回归的一种估计。一个通用的强大的框架,对待分位数回归空间数据的自然半参数的方式。利用局部线性逼近,给出了未知函数系数函数的局部M-估计,并在弱空间混合条件下建立了其渐近分布.土壤数据集的应用证明了有趣的发现,超越传统的分析。
2014-02-05 math.ST stat.TH
Strong consistency of kernel estimator in a semiparametric regression model
与Li \cite{sir}引入的半参数回归模型相关的有效降维(EDR)空间的估计是基于给定响应的预测因子向量的条件期望的协方差阵$Λ$的估计。Zhu和Fang提出了基于核方法的$Λ$的估计量\cite{Asymptotics},并在一定条件下得到了$\sqrt{n}\left(\widehatΛ_n-Λ\right)$的渐近分布为$n\rightarrow +\infty$ .本文在一定条件下得到了$\widehatΛ_n$到$Λ$的几乎必然收敛,即$n\rightarrow +\infty$ .
2018-11-06 math.ST stat.TH
Efficient robust nonparametric estimation in a semimartingale regression model
研究了由分布未知的一般平方可积〔的〕半鞅给出的具有相依扰动的连续时间回归模型中周期函数的稳健估计问题。这种噪声的一个例子是带有Lévy过程从属子的非高斯Ornstein-Uhlenbeck过程,它被用来模拟具有跳跃的金融Black-Scholes型市场。提出了一种基于加权最小二乘估计的自适应模型选择方法。在噪声分布的一般矩条件下,得到了鲁棒风险的尖锐的非渐近预言不等式,证明了模型选择过程的鲁棒有效性.
2010-10-16 math.ST stat.TH
A Robbins-Monro procedure for estimation in semiparametric regression models
本文讨论半参数回归模型中位移的参数估计和回归函数的非参数估计。我们实现了一个非常有效和易于处理的Robbins-Monro过程。一方面,我们提出了一个类似于Robbins-Monro的随机算法,以估计移位参数。对回归函数的初步评估对于估计偏移参数是不必要的。另一方面,我们利用递归Nadaraya-Watson估计的回归函数的估计。该核估计器考虑了移位参数的先前估计。我们建立了Robbins-Monro和Nadaraya-Watson估计量的几乎必然收敛。我们的估计的渐近正态性也被提供。最后,我们说明了我们的半参数估计过程模拟和真实数据。
2012-06-04 math.PR math.ST stat.TH
Nonparametric estimation in a semimartingale regression model. Part 2. Robust asymptotic efficiency
本文证明了作者在第一部分中提出的模型选择方法的渐近有效性。为此,我们引入了鲁棒风险的上确界的二次风险在广泛的一类观测分布。得到了鲁棒风险的渐近上界和下界。证明了该方法的渐近有效性。找到了Pinsker常数。
2009-09-17 math.ST stat.TH
Efficient semiparametric estimation in time-varying regression models
研究了具有时变系数、相依回归变量和相依误差的线性回归模型的半参数推断问题。这个问题最近被Zhang和Wu(2012)在函数相关测度下考虑,由于简约原因或用于测试线性回归模型中某些系数的稳定性,这个问题很有趣。在本文中,我们提出了一个不同的程序估计非时变参数的速率根n,在Robinson(1988)介绍的方法的精神,部分线性模型。当模型中的误差是鞅差时,这种方法可以得到比Zhang和Wu(2012)中考虑的方法更有效的估计。对于具有条件高斯误差和外生协变量的时变AR过程,我们从适用于三角阵列的卷积定理中导出了有效信息矩阵的概念。对于独立但非同分布的高斯误差,我们构造了一个半参数意义下的渐近有效估计。
2017-07-17 math.ST stat.TH
Lanczos Approximations for the Speedup of Kernel Partial Least Squares Regression
核偏最小二乘(KPLS)计算拟合的运行时间是样本数量的二次方。然而,获得灵敏度测量作为用于模型选择的自由度或用于更详细分析的置信区间的必要性需要三次运行时间,因此构成了现实世界数据分析中的计算瓶颈。我们提出了一种新的算法KPLS不仅计算(a)的配合,但也(b)其近似自由度和(c)在二次运行时的误差条。该算法利用核PLS和Lanczos算法之间的密切联系来近似对称矩阵的特征值,并使用这种近似来计算二次运行时的核矩阵的功率的迹。
2009-02-19 stat.ML
Panel semiparametric quantile regression neural network for electricity consumption forecasting
Institute of Statistics and Data Science, Nanjing Audit University(南京审计大学统计与数据科学学院)
在长期深化改革开放的过程中,我国电力工业取得了巨大成就。然而,由于我国区域经济、社会和自然条件复杂,电力资源分布不均,造成我国部分地区缺电。因此,需要建立一个可靠的电力预测模型。在此基础上,本文将人工神经网络与半参数分位数回归相结合,提出了一种面板半参数分位数回归神经网络(PSQRNN)。PSQRNN可以探索变量之间潜在的线性和非线性关系,解释未观察到的省级异质性,同时保持参数模型的可解释性。将惩罚分位数回归与LASSO、岭回归和反向传播算法相结合训练PSQRNN。为了评估预测精度,基于3种情景对1999 - 2018年中国各省用电量进行了实证分析。结果表明,PSQRNN模型在考虑经济和气候因素的情况下,能够更好地预测电力消费量。最后,通过预测,给出了未来$5$年(2019-2023年)中国各省用电量。
2021-03-01 cs.LG econ.EM stat.ML
Real-time semiparametric regression
我们开发了实时执行半参数回归分析的算法,数据在收集时进行处理,并通过现代电信技术立即提供。我们的半参数回归的定义是相当广泛的,包括,作为特殊情况下,广义线性混合模型,广义可加模型,地质统计模型,小波非参数回归模型及其各种组合。快速更新回归拟合是通过将半参数回归耦合到贝叶斯分层模型或等价的图形模型框架中并采用在线平均场变分思想来实现的。本文所附的一个网站realtime-semiparametric-regression.net说明了不断获得股票市场、房地产和航空公司数据的方法。基于日益普遍的流数据源的灵活实时分析将受益匪浅。
2013-02-06 stat.ME
Orthogonalized Design Matrices Speed-ups of Bayesian Semiparametric Regression
University of Technology Sydney(悉尼科技大学)
研究如何用正交设计矩阵加速贝叶斯半参数回归,通过预循环重新表述模型,在列维度上使计算量大幅减少,实现约5到60倍加速。
2026-07-13 stat.ME
Variable Selection in Bayesian Semiparametric Regression Models
本文扩展了现有的用于高斯过程回归中变量选择的贝叶斯方法,以选择空间相关结构中的回归项和活动协变量。然后,我们使用估计的后验概率通过交叉验证在相对较少的模式之间进行选择,从而提高预测。
2014-12-31 stat.ME