Kink estimation in stochastic regression with dependent errors and predictors
本文研究了两个具有不同长程相依（LRD）结构的随机设计模型中回归函数μ的一阶导数跳跃点（简称扭结）位置的估计。该方法是基于零交叉技术，并利用高阶内核。估计量收敛速率取决于依赖程度和回归函数μ的光滑度。在其中一个模型中，收敛速度与采用i.i.d.的固定设计方案中扭结估计的最小最大速率相同。错误，这表明该方法在极大极小意义上是最优的。
2010-03-08 math.ST stat.TH
Censored quantile regression processes under dependence and penalization
我们考虑相依数据结构下截尾数据的分位数回归过程，并推导出这些过程的统一Bahadur表示。我们还考虑了分位数回归模型中参数的维数很大的情况。它表明，传统的惩罚估计，如自适应套索产量次优率，如果分位数回归系数过零。新的惩罚技术的介绍，能够处理特定的问题，删失数据和产量估计的最佳速率。与大多数文献不同的是，渐近分析不需要独立观测的假设，而是基于相当弱的假设，这对许多种相关数据都是满意的。
2013-06-12 math.ST stat.ME stat.TH
Model selection for high-dimensional linear regression with dependent observations
National Tsing Hua University（国立清华大学）
研究了正交贪婪算法（OGA）在具有相依观测的高维回归模型中的预测能力。在各种稀疏性条件下，得到了OGA预测误差的收敛速度。为了防止OGA的过拟合，我们引入了一个高维赤池的信息准则（HDAIC）来确定OGA的迭代次数。这项工作的一个关键贡献是表明，OGA，与HDAIC结合使用，可以实现最佳的收敛速度，而不需要知道底层的高维模型是多么稀疏。
2019-06-18 cs.LG math.ST stat.ML
Adaptive estimation in regression models for weakly dependent data and explanatory variable with known density
本文研究弱相依解释变量且密度已知时的回归函数估计，提出基于Goldenshluger-Lepski带宽选择的核估计数据驱动方法，证明其满足oracle型不等式且在Hölder类上自适应，并通过无监督学习和模拟验证性能。
2025-07-15 math.ST stat.TH
Least square estimators in linear regression models under negatively superadditive dependent random observations
本文研究了基于随机观测的线性回归模型中最小二乘估计的渐近性质。我们提供了温和的假设的时刻和依赖结构的随机间隔的观察和残差下的估计是强一致的。特别是，我们考虑的观察实例是负超加性相互依赖的，而对于残差，我们只是假设它们是由一些连续函数产生的。此外，我们证明了收敛速率是成比例的采样率$N$，我们补充我们的研究结果与模拟研究提供的见解有限的样本属性。
2021-10-06 math.PR math.ST stat.TH
A Quantile Regression Model for Failure-Time Data with Time-Dependent Covariates
由于生存数据随着时间的推移而发生，因此我们希望考虑的重要协变量通常也会随着时间的推移而变化。这些协变量称为时间依赖性协变量。分位数回归允许协变量随分位数变化，从而为生存数据提供灵活的建模。本文提出了一种新的含有时间依赖协变量的分位数回归模型，用于分析右删失下的生存数据。我们的简单估计技术假设存在工具变量。此外，我们提出了Robins和Rotnitzky（1992）意义下的双稳健估计。估计的渐近性质进行了严格的研究。通过模拟研究证明了煤样的性质。使用斯坦福心脏移植数据集证明了所提出的方法的实用性。
2014-04-30 stat.ME
The noise level in linear regression with dependent data
University of Pennsylvania（宾夕法尼亚大学）；Google Research（谷歌研究院）
本文在无可实现性假设下，为β-混合相依数据的随机设计线性回归推导了上界，恢复了中心极限定理预测的噪声水平，并在中等偏差区域实现尖锐结果且不受混合时间因子影响。
2023-10-27 cs.LG math.ST stat.ML
Wavelet regression in random design with heteroscedastic dependent errors
本文研究了具有异方差相关噪声和随机设计的非参数回归模型中的函数估计。翘曲小波非线性逼近的自适应特性研究了在广泛的Besov尺度，$f\in\mathcal{B}^s_{π,r}$，并为各种$L^p$误差措施。我们考虑误差分布与长程相关参数$α,0<α\leq1$异方差建模与设计相关的功能$σ$。我们规定了一种调整范式，在该范式下，扭曲小波估计以极小极大收敛率的速率实现部分或完全自适应结果。对于$p>2$，可以看出，根据$s,p,π$和$α$的相对值，存在三个速率阶段，即密集、稀疏和长程相关阶段。此外，我们表明，长范围的依赖性不起作用的形状估计$f-\int f$。最后用数值例子说明了该理论。
2009-09-02 math.ST stat.TH
A Generative High Quantile Homogeneity Test Using Bahadur Representation for Heteroskedastic High Quantile Regression of Tail Dependent Time Series
Tsinghua University（清华大学）；University of Georgia（佐治亚大学）
本文提出一种生成高分位数同质性检验方法，用于检验解释变量对响应变量不同高分位数的影响是否一致，通过Bahadur表示理论解决非线性高分位数回归估计问题。
2026-05-11 math.ST stat.TH
Nonparametric Poisson regression from independent and weakly dependent observations by model selection
本文考虑非参数Poisson回归问题，其中整数值响应$Y$是带参数$λ(X)$的Poisson随机变量的实现.目的是在随机设计框架中根据独立或弱相关观察值$(X_1,Y_1),\ldots,(X_n,Y_n)$估计功能参数$λ$。首先，我们确定有限维子空间上的投影估计的风险上界在温和的条件。在Sobolev椭球的情况下，得到的收敛速度是最佳的。本文的主要部分致力于通过模型选择构造$λ$的自适应投影估计。我们分两步进行：首先，我们假设$\Vert λ\Vert_\infty$的上界是已知的。在此假设下，我们构造了一个自适应估计器，其维数参数被定义为惩罚对比度准则的最小值。其次，我们用$\Vert λ\Vert_\infty$的适当插件估计器替换$\Vert λ\Vert_\infty$的已知上界。由此产生的自适应估计，以达到最小最大的最佳速率的一个额外的对数因子在独立的和弱相关的设置。适当的泊松点过程的浓度不等式证明的一个重要组成部分。我们通过一个简短的模拟研究来说明我们的理论研究结果，并指出未来研究的方向。
2018-05-11 math.ST stat.TH
Towards Data-Algorithm Dependent Generalization: a Case Study on Overparameterized Linear Regression
IIIS, Tsinghua University（清华大学交叉信息研究院）；Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）；Shanghai Qi Zhi Institute（上海期智研究院）
本文研究过参数化线性回归的泛化问题，提出数据-算法兼容性概念，通过分析依赖数据的训练轨迹证明考虑早停迭代可在更弱限制下保证泛化。
2023-11-21 cs.LG math.ST stat.ML
Errors-in-variables regression for dependent data with estimated error covariance matrix: To prewhiten or not?
Guanghua School of Management, Peking University（北京大学光华管理学院）；Center for Statistical Science, Peking University（北京大学统计科学中心）；Department of Statistics and Data Science, Tsinghua University（清华大学统计学与数据科学系）
本文研究了在高维误差协方差矩阵下，变量误差回归模型的统计推断，比较了预白化和非预白化估计器的效率和计算成本。
2026-05-07 stat.AP
Deep regression learning from dependent observations with minimum error entropy principle
Institut Camille Jordan, Université Jean Monnet（让·莫内大学卡米尔·乔丹研究所）；THEMA, CY Cergy Paris Université（巴黎中央理工-高教大学THEMA）
本文提出基于最小误差熵原理的深度神经网络方法，用于强混合观测的非参数回归，通过建立上界证明了该方法在Hölder函数类中的最优收敛速率。
2026-03-11 cs.LG math.ST stat.ML
Kernel regression for cause-specific hazard models with time-dependent coefficients
竞争风险数据在现代生物医学研究中广泛存在。在过去的二十年中，特定原因危害模型经常被用来处理竞争风险数据。目前还没有研究核似然方法的原因特定的风险模型与时变系数。我们提出了使用局部部分对数似然方法的非参数时变系数估计。仿真研究表明，我们提出的非参数核估计器具有良好的性能，在假设有限的样本设置。最后，我们应用所提出的方法来分析糖尿病透析研究与竞争的死亡原因。
2021-09-11 stat.ME
Predictor-dependent shrinkage for linear regression via partial factor modeling
在预测变量多于观测值的预测问题中，有时使用联合概率模型$π(Y,X)$而不是纯条件模型$π(Y \mid X)$会有所帮助，其中$Y$是标量响应变量，$X$是预测变量的向量。这种方法的动机是，在许多情况下，边缘预测分布$π(X)$可以提供有用的信息，参数值的条件回归。然而，在非常轻微的误指定下，这种边缘分布也会导致条件推理误入歧途。在这里，我们在线性因子模型的背景下探索这些想法，以了解它们如何在熟悉的环境中发挥作用。由此产生的贝叶斯模型在真实和模拟数据的各种协方差结构中表现良好。
2010-11-16 stat.ME
Estimation of a functional single index model with dependent errors and unknown error density
研究了具有相依误差的泛函单指标模型的误差密度估计问题。在自回归误差结构下，利用贝叶斯方法同时估计核形式误差密度和回归函数的带宽。对于回归函数和误差密度的估计，实证研究表明，函数单指数模型给出了改进的估计和预测精度比任何非参数函数回归考虑。此外，误差密度的估计有助于构造响应变量的预测区间。
2018-10-19 stat.AP
Asymptotic normality of kernel estimates in a regression model for random fields
当误差由一个相依随机变量组成的域给出时，我们在固定设计下建立了回归估计的渐近正态性。该结果适用于鞅差或强混合随机场。在此基础上，还提出了一种可用于图像分析的统计检验方法。
2009-07-09 math.ST stat.TH
Regression analysis of multiplicative hazards model with time-dependent coefficient for sparse longitudinal covariates
针对间歇观测纵向协变量下时变系数乘性风险模型，提出核加权方法实现系数函数无偏估计并建立渐近正态性与同时置信带，模拟和ADNI数据验证了方法性能。
2025-03-12 stat.ME
Weighted least squares estimation by multivariate-dependent weights for linear regression models
Southwest Jiaotong University（西南交通大学）
本文提出一种基于多元依赖权重的加权最小二乘估计方法，用于改善多元线性回归模型中异方差性问题的估计精度和预测性能。
2026-01-15 stat.ME
Efficient semiparametric estimation in time-varying regression models
研究了具有时变系数、相依回归变量和相依误差的线性回归模型的半参数推断问题。这个问题最近被Zhang和Wu（2012）在函数相关测度下考虑，由于简约原因或用于测试线性回归模型中某些系数的稳定性，这个问题很有趣。在本文中，我们提出了一个不同的程序估计非时变参数的速率根n，在Robinson（1988）介绍的方法的精神，部分线性模型。当模型中的误差是鞅差时，这种方法可以得到比Zhang和Wu（2012）中考虑的方法更有效的估计。对于具有条件高斯误差和外生协变量的时变AR过程，我们从适用于三角阵列的卷积定理中导出了有效信息矩阵的概念。对于独立但非同分布的高斯误差，我们构造了一个半参数意义下的渐近有效估计。
2017-07-17 math.ST stat.TH
Dimension reduction in spatial regression with kernel SAVE method
我们考虑平滑版本的切片平均方差估计（SAVE）降维方法处理空间相关的数据，是一个强混合随机场场的意见。我们提出了兴趣矩阵和有效降维（EDR）空间的核估计，并证明了它们的一致性。
2019-09-22 math.ST stat.TH
Quantile regression under dependent censoring with unknown association
针对生存数据右删失中相依性假设不符实际的问题，本文首次结合参数copula模型与增广非对称拉普拉斯分布构建分位数回归模型，证明参数性质并通过模拟与肝移植数据验证其性能。
2024-10-07 math.ST stat.TH
Invariance principles for linear processes with application to isotonic regression
本文证明了极大不等式，并研究了由相关新息生成的线性过程部分和的泛函中心极限定理。由于一般的权重，这些过程可以表现出长程相关性和极限分布是一个分数布朗运动。证明是基于新的近似的线性过程与鞅差的创新。然后将结果应用于研究当误差过程是（可能依赖于长程）时间序列时保序回归的估计量。
2011-03-18 math.PR math.ST stat.TH
Covariate-dependent Nonparametric $g$-modeling for regression via infinite Mixture-of-Expertizing class
The Institute of Statistical Mathematics（统计科学研究所）
本文提出一种协变量依赖的非参数 $g$-建模回归框架，通过无限混合专家类实现 NPMLE，自动确定专家数量，并证明其 Lipschitz 连续性与门函数逼近能力，在合成和真实数据上验证了有效性。
2026-10-07 stat.ME
The consistency of estimator under fixed design regression model with NQD errors
本文基于NQD样本，研究了固定设计非参数回归模型，其中误差为两两NQD随机误差，设计点固定，函数未知。引入非参数加权估计并研究其相合性。作为特例，得到了模型加权核估计的相合性结果。这将以前关于独立随机误差和相关随机误差的工作推广到NQD情形。
2013-12-03 math.ST stat.TH
Inference for Large Scale Regression Models with Dependent Errors
针对大规模相依误差、长程依赖与缺失数据下回归推断难题，提出并证明GMWMX方法的统计性质，兼具可扩展性、稳定性与有效性。
2024-09-08 stat.AP stat.CO stat.ME
Nonparametric regression estimation for random fields in a fixed-design
研究了固定设计下，误差由相依随机变量组成的非参数回归估计。得到了核估计一致收敛的充分条件。这些估计量能达到最优的一致收敛性速度，且结果适用于一大类随机场，其中包括鞅差随机场和混合随机场.
2005-02-04 math.PR math.ST stat.TH
Statistical Estimation from Dependent Data
MIT（麻省理工学院）；GOOGLE RESEARCH（谷歌研究院）；Microsoft Research（微软研究院）
我们考虑一个一般的统计估计问题，其中不同观测的二进制标签不是独立的，而是依赖于它们的特征向量，捕获设置，例如这些观测是在空间域、时间域或社交网络上收集的，这会引起依赖性。我们用马尔可夫随机场的语言对这些依赖关系进行建模，重要的是，允许这些依赖关系是实质性的，即不要假设捕获这些依赖关系的马尔可夫随机场处于高温状态。作为我们的主要贡献，我们提供了算法和统计上有效的估计率为这个模型，给出了几个实例，我们的界限在逻辑回归，稀疏逻辑回归，和神经网络设置依赖的数据。我们的估计保证遵循新的结果估计参数（即外部字段和相互作用强度）的伊辛模型从{ \em单一}样本。{We在真实的网络数据上评估我们的估计方法，表明它优于忽略依赖关系的标准回归方法，跨越三个文本分类数据集：Cora，Citeseer和Pubmed。
2021-07-20 cs.LG math.ST stat.ML
Asymptotics of Linear Regression with Linearly Dependent Data
University of Pennsylvania（宾夕法尼亚大学）
本文针对非高斯线性相关数据的高维线性回归场景，证明高斯普适性定理并通过不动点方程刻画估计误差，分析相关数据下的最优正则化等问题，仿真验证了理论预测。
2024-12-07 cs.LG cs.SY eess.SY
Attribute Efficient Linear Regression with Data-Dependent Sampling
Weizmann Institute of Science（魏茨曼科学研究所）
在本文中，我们分析了预算的学习设置，其中学习者只能选择和观察每个训练样本的属性的一个小子集。我们开发了有效的算法岭和套索线性回归，它利用了一种新的数据相关的采样方案的数据的几何形状。当学习者具有关于属性的二阶矩的先验知识时，可以精确地计算最优采样概率，并且导致针对超过现有技术的超额风险的数据依赖的改进因子，其可以与$O(\sqrt{d})$一样大，其中$d$是问题的维度。此外，在合理的假设下，我们的算法可以使用更少的属性比全信息算法，这是预算学习设置中的主要问题。据我们所知，这些是第一个能够在我们的环境中这样做的算法。如果没有这样的先验知识，我们开发了一个简单的估计技术，给出了足够的训练样本量，实现类似的改进。我们补充我们的理论分析与实验的几个数据集，支持我们的主张。
2014-10-23 cs.LG stat.ML
Minimax Additive Regression under Unknown Dependent Designs
Université de Toulouse（图卢兹大学）；EDF R&D（法国电力公司研发部）；ANITI（图卢兹人工智能与自然智能研究所）
研究未知相依设计下加性回归的极小极大速率，提出耦合光滑类与阈值化最小二乘估计，证明未知密度可达已知密度速率或由密度正则性决定。
2026-10-06 cs.LG stat.ML
Inference with Randomized Regression Trees
本文提出随机回归树（RRT）方法，通过在回归树增益函数中添加高斯噪声，实现数据依赖模型的统计推断，具有高预测精度和强大的推断能力。
2025-12-16 stat.ME
Bootstrap inference in factor-augmented regressions with weak factors
Center for Data Science, Waseda University（早稻田大学数据科学中心）；Department of Economics and Related Studies, University of York（约克大学经济与相关研究系）；Graduate School of Economics and Management, Tohoku University（东北大学经济管理学院）
针对因子增广回归模型估计量分布近似问题，提出更高效的bootstrap算法，采用两种数据依赖旋转矩阵及纯信号依赖旋转矩阵证明其渐近有效性，实验验证性能优于现有方法。
2026-10-15 econ.EM stat.ME
Adaptive deep nonparametric regression from dependent data under covariate shift
Université Jean Monnet, ICJ UMR5208, CNRS, Ecole Centrale de Lyon, INSA Lyon, Universite Claude Bernard Lyon 1（里昂 Jean Monnet 大学，ICJ UMR5208，国家科学研究中心，里昂中央理工大学，里昂国家理工学校，里昂大学 Claude Bernard 1）
研究协变量转移下基于相关数据的深度非参数回归，提出稀疏惩罚深度神经网络（SPDNN）估计器，当密度比未知时经两步预训练，在Hölder光滑函数类中建立其非渐近误差界，能自适应达到最优收敛速率。
2026-07-23 cs.LG stat.ML
Approximation Bounds for Recurrent Neural Networks with Application to Regression
Wuhan University（武汉大学）；University of Hong Kong（香港大学）；The Hong Kong University of Science and Technology（香港科技大学）
该研究推导了深度ReLU循环神经网络对依赖过去的Hölder光滑函数的近似误差上界，将其应用于回归问题得到经验风险最小化器预测误差的非渐近上界，该界在两类数据假设下达极小极大最优速率，为RNN性能提供统计保证。
2025-10-05 cs.LG stat.ML
Adaptive Non-parametric Estimation of Mean and Autocovariance in Regression with Dependent Errors
考虑了可分解为光滑均值函数和平稳自相关噪声过程的高斯过程，提出了一种同时估计这类过程均值和自协方差函数的全自动非参数方法。我们的经验贝叶斯方法是数据驱动的，数值效率高，并允许构建均值函数的置信集。性能在模拟和实际数据分析中得到证明。该方法在本文附带的R包eBsc中实现。
2021-08-18 math.ST stat.AP stat.ME
Doubly-Unlinked Regression for Dependent Data
Johns Hopkins University（约翰斯·霍普金斯大学）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）；Texas A&M University（德克萨斯农工大学）
本文研究了在依赖数据中同时丢失变量对应关系的回归问题，提出双重解离回归模型，通过块结构排列模型开发REPAIR方法，实现高效估计。
2026-03-19 math.ST stat.ME stat.TH
Adaptive Huber Regression on Markov-dependent Data
高维线性回归是近二十年来统计学界研究的热点。为了便于理论分析，经典方法通常假设观测值独立，误差为亚高斯分布。然而，这两种方法都不包含很多真实的高维时间序列数据。最近[Sun，Zhou，Fan，2019，J. Amer. Stat.助理，在出版]提出了自适应Huber回归（AHR），以解决重尾错误的问题。他们发现，Huber损失的鲁棒化参数应适应于重尾误差的样本量、维数和矩。我们在垂直方向上取得进展，并证明AHR依赖的观察。具体来说，我们考虑一个重要的依赖结构-马尔可夫依赖。我们的研究结果表明，马尔可夫依赖性影响的自适应的鲁棒参数和回归系数的估计的方式，样本量应被折扣的一个因素取决于潜在的马尔可夫链的谱间隙。
2019-09-23 math.ST stat.ME stat.TH
Confidence bands for multivariate and time dependent inverse regression models
构造了具有卷积型算子的逆回归模型中多元回归函数的一致渐近置信带。利用强逼近方法和一个关于增集系上平稳高斯场上确界的极限定理得到了这些结果。作为一个具体的应用，获得了卷积型逆回归模型中的不定常回归函数$f_t(x)$（$x\in \mathbb {R}^d,t\in \mathbb {R}$）的渐近置信带。最后，我们证明了我们提出的方法在模拟研究和应用程序的椭圆星系NGC5017的光度分布估计的实际可行性。据作者所知，本文的结果是第一个提供了统一的置信带多元非参数函数估计反问题。
2015-04-07 math.ST stat.ME stat.TH
Consistency of the recursive nonparametric regression estimation for dependent functional data
本文考虑了回归函数的递归估计，其中解释变量在某个函数空间中取值。我们证明了这种估计的几乎必然收敛相关的功能数据。此外，我们得到的估计类的平均二次误差。在强混合条件下，我们的结果具有速率和渐近界。
2013-04-18 math.ST stat.TH
Adaptive estimation of an additive regression function from weakly dependent data
考虑了观测值相依的$d$维非参数可加回归模型.利用边缘积分技术和小波方法，我们提出了一种新的自适应估计的一个组成部分的加性回归函数。在Besov球上的$\mathbb{L}_2$风险下，通过极大极小方法研究了它的渐近性质.我们证明了它达到了一个尖锐收敛速率，这变成一个标准的一元回归估计问题的$\iid$的情况下获得。
2012-08-06 math.ST stat.TH
Machine Learning Panel Data Regressions with Heavy-tailed Dependent Data: Theory and Application
本文介绍了结构化机器学习回归的重尾相关的面板数据可能在不同的频率采样。我们专注于稀疏群LASSO正则化。这种类型的正则化可以利用混合频率时间序列面板数据结构并提高估计的质量。我们得到了合并和固定效应稀疏组LASSO面板数据估计的预言不等式，认识到金融和经济数据可以有胖尾巴。为此，我们利用一个新的N-Nagaev浓度不等式的面板数据组成的重尾$τ$混合过程。
2021-11-22 econ.EM math.ST stat.AP
Non-parametric Regression for Spatially Dependent Data with Wavelets
研究了随机场的非参数回归估计。数据满足一定的强混合条件，并定义在定期$N$维晶格结构。我们表现出一致性，并获得收敛速度。在某些情况下，这些速率对对数因子取模是最优的。作为应用，我们用不一定是各向同性的多维小波估计了回归函数。我们用concliques的概念在可平面图上模拟了随机场（cf. Kaiser等人[2012]）在估计过程的数值示例中。
2018-07-04 math.ST stat.TH
On LSE in regression model for long-range dependent random fields on spheres
本文研究了球面上观测的长程相依随机场回归模型中最小二乘估计的渐近性质。最小二乘估计可以作为长程相关随机场的加权泛函给出。已知在这种情况下，极限可以是非高斯的。我们得到了估计量的极限分布和相应的收敛速率。结果是在相当一般的假设下得到的随机场。进行了模拟研究，以支持理论研究结果。
2019-05-22 math.PR math.ST stat.TH
Regularized Nonlinear Regression with Dependent Errors and its Application to a Biomechanical Model
针对生物力学模型中非线性函数参数估计与选择问题，提出改进的惩罚加权最小二乘估计器，可处理乘性或加性时间相关误差，模拟与实证均优于现有方法。
2023-10-11 math.ST stat.ME stat.TH
Regression from Dependent Observations
MIT（麻省理工学院）；SUTD（新加坡科技设计大学）
标准线性和逻辑回归模型假设响应变量是独立的，但与其对应的协变量向量具有相同的线性关系。然而，假设响应变量是独立的，这太强了。在许多应用中，这些响应是在网络的节点上或某个空间或时间域上收集的，并且是相关的。金融和气象应用中的例子比比皆是，依赖性通过同伴效应自然地出现在社交网络中。因此，具有相关响应的回归在统计学和经济学文献中受到了很多关注，但除非可以从这些模型中收集相关响应向量的多个独立样本，否则没有强一致性结果。当响应变量依赖于网络时，我们提出了线性和逻辑回归模型的计算和统计有效方法。给定一个网络线性或逻辑回归模型的样本，在温和的假设下，我们证明了恢复系数向量和依赖强度的强一致性结果，恢复独立观测下的标准回归率。我们使用投影梯度下降的负对数似然，或负对数伪似然，并建立他们的强凸性和一致性，使用浓度的测量依赖随机变量。
2019-10-08 cs.LG math.ST stat.ML
Variable selection in multivariate regression model for spatially dependent data
本文研究空间网格数据下多变量线性回归模型的变量选择问题，提出基于双参数准则的估计量，证明其一致性，并通过模拟验证有限样本表现。
2023-05-22 math.ST stat.TH
Asymptotics of nonparametric L-1 regression models with dependent data
本文研究了多个受试者相依数据的非参数回归模型中位置和尺度函数的最小绝对偏差或中位数分位数估计的渐近性质。根据一般的依赖结构，允许纵向数据和一些空间相关的数据，我们建立统一的Bahadur表示建议的中位数分位数估计。获得的Bahadur表示为估计的渐进行为提供了深入的见解。我们的主要理论发展是基于通过耦合论证研究核加权经验过程的连续模。预测数据用于说明。
2014-07-04 math.ST stat.TH
Estimation of a regression function from dependent data by over-parametrized deep neural networks learned by gradient descent
Technische Universität Darmstadt（达姆施塔特工业大学）；Concordia University（康考迪亚大学）
本文针对指数β混合相依数据，提出用梯度下降学习的带logistic激活函数的过参数化深度神经网络估计回归函数，其收敛速率在设计集中于低维流形时依赖于流形维度而非设计维度。
2026-08-27 math.ST stat.TH
Neural network model for imprecise regression with interval dependent variables
本文提出了一种计算上可行的方法来计算严格的区间广义回归分析的输出变量的认知不确定性的界限。新的迭代方法使用机器学习算法将不精确的回归模型拟合到由区间而不是点值组成的数据。该方法是基于一个单层的区间神经网络，可以训练产生的区间预测。它寻求最佳模型的参数，最大限度地减少因变量的实际和预测区间值之间的均方误差，使用一阶基于梯度的优化和区间分析计算来模拟数据的测量不精确性。多层神经网络的一个额外的扩展。我们认为解释变量是精确的点值，但测量的相关值的特征在于区间界限没有任何概率信息。所提出的迭代方法估计的期望区域，这是一个信封的所有可能的精确回归线获得的普通回归分析的基础上的任何配置的实值点从各自的y-区间和它们的x-值的下限和上限。
2022-10-24 math.ST physics.data-an stat.TH
Strong consistency of the local linear estimator for a generalized regression function with dependent functional data
Federal University of Rio Grande（里奥格兰德联邦大学）；Mathematics and Statistics Institute - Universidade Federal do Rio Grande do Sul（南里奥格兰德联邦大学数学与统计学院）
本文研究了在依赖函数数据下局部线性估计器的强一致性，通过模拟验证了其在预测准确性上的优势。
2026-03-05 math.ST stat.TH
Likelihood approach for marginal proportional hazards regression in the presence of dependent censoring
在许多公共卫生问题中，一个重要的目标是确定某些治疗/干预对整个人群失败风险的影响。边际比例风险回归模型经常被用来分析这种影响。当相依删失被许多辅助协变量解释时，我们利用两个工作模型来压缩高维协变量以实现降维。然后通过在筛空间上最大化一个伪似然函数得到处理效果的估计量。当两个工作模型中的任何一个是正确的时，这样的估计是一致的且渐近正态的;此外，当两个工作模型都是正确的时，其渐近方差与半参数效率界相同。
2005-05-27 math.ST stat.TH
Consistent Regression using Data-Dependent Coverings
在本文中，我们介绍了一种新的方法来产生可解释的回归函数估计。这个想法是基于所谓的数据依赖覆盖。其目的是从数据中提取覆盖的特征空间，而不是分区。估计器预测覆盖生成的分区的单元上的经验条件期望。因此，这样的估计器具有与数据相关的划分算法所产生的估计器相同的形式。我们给出了保证一致性的充分条件，避免了以往文献中出现的胞腔收缩的充分条件。这样做，我们减少了覆盖元素的数量。我们表明，这种覆盖是可解释的，覆盖的每个元素被标记为重要或不重要。一致性的证明是基于对条件期望的经验估计误差的控制，这本身就很有趣。
2021-01-26 math.ST stat.ML stat.TH
Optimal selection of sample-size dependent common subsets of covariates for multi-task regression prediction
分析师被给予由不同大小的回归数据集$D_j$组成的训练集，这些数据集根据一些$G_j$，$j=1,\ldots,\cal J$分布，其中分布$G_j$被假设为形成由一些公共源生成的随机样本。特别是，$D_j$有一组共同的协变量，它们都被标记。分析员使用训练集选择协变量的子集，用${P}^*(n)$表示，其作用如下所述。我们考虑的多任务问题如下：给定多个随机标记的数据集（可能在训练集中或不在训练集中）大小为$n_k$、$k=1,\ldots,K$的$D_{J_k}$，分别估计每个数据集协变量子集上的回归系数${P}^*(n_k)$，然后预测未来的因变量给定其协变量。当然，$D_{J_k}$的大样本量$n_k$允许更大的协变量子集，并且需要所选协变量子集的大小对$n_k$的依赖性，以实现良好的预测并避免过拟合。子集选择是出了名的困难和计算要求高，并且需要大量的样本;在训练集中一起使用所有回归数据集相当于在适当的假设下借用力量进行更好的选择。此外，对具有给定样本大小的所有回归使用公共子集简化并简化了数据收集，并且避免了必须为每个预测任务选择和使用不同的子集。当预测的相关协变量对于不同的回归是共同的，而模型的系数在不同的回归之间可能会有所不同时，我们的方法是有效的。
2021-09-05 math.ST stat.TH
