On quantile residuals in beta regression
Beta回归通常用于对假设开放区间（0，1）上的值的因变量与一组预测变量之间的关系进行建模。贝塔回归中的一个重要挑战是找到分布很好地近似于标准正态分布的残差。之前的两个作品比较了beta回归中的残差，但作者没有包括分位数残差。利用蒙特卡罗模拟技术，研究了Beta回归中某些残差在几种情形下的行为。总体而言，结果表明，在大多数情况下，分位数残差的分布比其他残差更接近标准正态分布。三个应用说明了分位数残差的有效性。
2017-04-10 stat.ME
A residual for outlier identification in zero adjusted regression models
零调整回归模型用于拟合在零处离散且在正实数的某个间隔处连续的变量。这些模型中的诊断分析通常使用随机分位数残差进行，这对于检查零调整回归模型的总体充分性非常有用。然而，它可能无法识别一些离群值。在这项工作中，我们介绍了零调整回归模型中的异常识别残差。蒙特卡罗模拟的研究和应用表明，这里介绍的残差具有良好的性能，并检测离群值，不确定的随机分位数残差。
2018-12-18 stat.ME
Improved residuals for linear regression models under heteroskedasticity of unknown form
在这项工作中，我们介绍了一个新的残差正常的线性模型，适用于我们正在处理的情况下，异方差未知形式，他们是指由主成分分析（PCA）残差。这些残差是通过对普通残差进行线性变换，并对协方差阵的异方差相合估计量进行谱分析而得到的。由此产生的残差是独立的，正态分布。这些残差提供了一种简单的方法来检查正态线性回归模型的几个假设，以及模型的适当性。由于它们是独立的和正态分布的，人们可以将独立随机变量的几个结果直接应用于这些残差。最后，我们提供了一个应用程序，以说明我们的残差的有用性。
2017-08-31 stat.ME
Modeling sign concordance of quantile regression residuals with multiple outcomes
分位数回归允许描述标量响应变量的分位数如何取决于一组预测因子。由于缺乏多元分位数的唯一定义，将分位数回归扩展到多元响应有些复杂。在本文中，我们描述了一个简单的方法，基于一个两步的过程：在第一步中，分位数回归分别适用于每个响应;在第二步中，残差的符号的联合分布通过多项式回归建模。所描述的方法不需要分位数的多维定义，并且可以用于捕获多变量响应的重要特征并评估协变量对相关结构的影响。我们应用所提出的方法来分析两个不同的数据集。
2021-04-21 stat.ME
A Robust Adaptive Modified Maximum Likelihood Estimator for the Linear Regression Model
在线性回归中，如果误差服从正态分布，则最小二乘（LS）估计具有一定的最优性。这一假设在实践中经常被违反，部分原因是数据离群值。稳健估计可以很好地解决这一问题，因此在实际中得到了广泛的应用。回归稳健估计的一个例子是自适应修正极大似然（AMML）估计（Donmez，2010）。然而，它们对$x$离群值（所谓的杠杆点）不稳健。在这项研究中，我们提出了一个新的回归估计，通过采用适当的加权方案的AMML估计方法。由此产生的估计被称为鲁棒AMML（RAMML），因为它不仅对y离群值是鲁棒的，而且对x离群值是鲁棒的。通过仿真研究，比较了RAMML估计与MM、最小截尾平方（LTS）和S。结果表明，根据均方误差（MSE）准则，RAMML估计在大多数情况下是优选的。两个数据集从文献中也进行了分析，以显示RAMML估计方法的实施。
2020-06-30 stat.ME
Wild Residual Bootstrap Inference for Penalized Quantile Regression with Heteroscedastic Errors
本文考虑一类异方差回归模型，其中某些回归系数为零，但不知道哪些为零。惩罚分位数回归是分析这类数据的一种有效方法。通过允许不同的协变量与不同分位数水平的条件分位数函数建模相关，它提供了比均值回归更完整的响应变量条件分布的图像。现有的惩罚分位数回归的工作主要集中在点估计。虽然Bootstrap方法最近被证明是有效的惩罚平均回归的推断，他们不直接适用于惩罚分位数回归与异方差误差。我们证明了未惩罚分位数回归的一个野生残差自举过程对于逼近具有自适应$L_1$惩罚的分位数回归估计的分布是渐近有效的，并且一个修改的版本可以用来逼近$L_1$惩罚的分位数回归估计的分布.新方法不需要估计未知的误差密度函数。我们建立一致性，证明有限样本的性能，并说明了一个真实的数据例子的应用程序。
2018-07-20 stat.ME
Weighted least squares regression with the best robustness and high computability
提出一种按残差大小指数降权的新加权最小二乘回归方法，兼具最高崩溃点稳健性、高于LTS的效率，并用一阶和二阶方法实现快速计算。
2023-12-08 stat.ME
Assessment of Regression Models with Discrete Outcomes Using Quasi-Empirical Residual Distribution Functions
对于离散结果的回归模型，对模型的充分性做出明智的决策一直是一个突出的问题。这些结果的标准评估工具（例如偏差残差）通常显示出与假设模式的较大差异，即使在真实模型下也是如此，并且不提供信息，特别是当数据高度离散时（例如二进制）。为了填补这一空白，我们提出了一个准经验残差分布函数一般离散（如序数和计数）的结果，作为替代的经验Cox-Snell残差分布函数。我们提出的评估工具是一种原则性的方法，不需要向数据中注入噪声。当至少有一个连续的协变量是可用的，我们渐近地表明，所提出的函数一致收敛到正确指定的模型下的身份函数，即使具有高度离散的结果。通过模拟研究，我们实证表明，拟议的准经验残差分布函数优于常用的各种模型评估任务的残差，因为它是接近真实模型下的假设模式，并显着偏离此模式下的模型误指定，因此是一个有效的评估工具。
2021-03-24 stat.ME
Scalable Resampling in Massive Generalized Linear Models via Subsampled Residual Bootstrap
针对海量数据下残差Bootstrap计算效率低的问题，提出适用于广义线性模型的可扩展子采样残差Bootstrap（SRB）算法，证明了其与经典方法具有相同的理论保证且计算更快，并通过模拟和真实数据验证了其性能。
2024-09-26 stat.ME
The Importance of Scale for Spatial-Confounding Bias and Precision of Spatial Regression Estimators
回归模型中的残差通常是空间相关的。突出的例子包括为了解污染物对健康的慢性影响而进行的环境流行病学研究。我认为残差空间结构的影响的偏差和精度的回归系数，开发一个简单的框架，在其中理解的关键问题，并得出翔实的分析结果。当未测量的混杂因素将空间结构引入残差时，具有空间随机效应的回归模型和密切相关的模型（如克里金法和惩罚样条）会出现偏差，即使残差方差分量已知。分析和模拟结果表明，偏差如何取决于协变量和残差的空间尺度：只有当协变量的变化小于未测量混杂的尺度时，才能通过拟合空间模型来减少偏差。我还讨论了如何规模的残差和协变量影响效率和不确定性估计时，残差是独立的协变量。在黑碳颗粒物空气污染和出生体重之间的关联的应用中，控制大规模的空间变化似乎减少了来自未测量的混杂因素的偏差，同时增加了估计的污染影响的不确定性。
2010-11-04 stat.ME
Quantile Residual Lifetime Regression for Multivariate Failure Time Data
Nanyang Technological University（南洋理工大学）；University of Pittsburgh（匹兹堡大学）；National Institutes of Health/National Cancer Institute（美国国立卫生研究院/美国国家癌症研究所）
针对多元失效时间数据，提出边际半参数分位数剩余寿命回归模型，通过无偏估计方程估计参数，并给出三种方差估计方法，模拟和实例验证了方法的有效性。
2026-07-03 stat.ME
Efficiently estimating the error distribution in nonparametric regression with responses missing at random
本文考虑了具有多元协变量和响应随机随机缺失的非参数回归模型。我们估计的回归函数与局部多项式平滑。残差为基础的经验分布函数，只使用完整的情况下，即残差，实际上可以从数据中构建，被证明是有效的意义上的Hájek和Le Cam。在证明中，我们得出，更一般地说，有效的影响函数估计任意线性泛函的误差分布，这涵盖了分布函数作为一种特殊情况。我们还表明，完整的情况下基于残差的经验分布函数承认一个功能中心极限定理。最后，本文进行了一个小型模拟研究，调查了完整案例基于残差的经验分布函数的性能。
2016-10-26 stat.ME
Residual Importance Weighted Transfer Learning For High-dimensional Linear Regression
提出残差重要性加权迁移学习（RIW-TL）方法，通过基于残差的一维密度知识进行重要性加权，克服高维密度估计的维度灾难，实现比LASSO和Trans-Lasso更快的速率和更有效的样本使用。
2024-01-03 stat.ME
Residual-on-Residual Regression as a Tool for Effect Estimation in Observational Data
Emory University（埃默里大学）；University of Pittsburgh（匹兹堡大学）
提出残差对残差回归方法，通过拟合结局和暴露的混杂调整模型，再用普通最小二乘回归结局残差对暴露残差，估计部分线性模型中的暴露效应，在弱正向性违反时比AIPW和TMLE更稳定。
2026-07-01 stat.AP stat.ME
Global simulation envelopes for diagnostic plots in regression models
残差图通常用于询问回归模型的假设，但解释它们需要了解当假设得到满足时预期会有多大的抽样变异。在本文中，我们建议在残差图上构建围绕数据（或围绕拟合数据的趋势）的全局包络，利用最新的进展，通过模拟构建围绕函数的全局包络。虽然所提出的工具主要是作为一个图形化的援助，他们可以被解释为模型假设的正式测试，这使得他们的属性通过模拟实验的研究。我们考虑了三种模型情景--拟合线性模型、广义线性模型或广义线性混合模型--并探讨了围绕分位数-分位数图上的数据或围绕残差与拟合图或尺度-位置图上的趋势线构建的全局模拟包络检验的功效。在检测违反分布和线性假设方面，全球包络测试优于常用的假设测试。可免费获得的\texttt{R}软件（\texttt{ecostats::plotenvelope}）可将这些工具应用于具有\texttt{simulate}、\texttt{residuals}和\texttt{predict}函数方法的任何拟合模型。
2022-10-24 stat.ME
Singular ridge regression with homoscedastic residuals: generalization error with estimated parameters
本文描述了有限样本岭回归估计的条件分布特性，并使用该结果来评估总的回归和泛化误差，包括在参数估计时所犯的不准确性。文中给出了这些误差的显式计算公式。与其他经典的参考文献在此设置，我们的结果发生在一个完全奇异的设置，不假设存在一个解决方案的非正则化回归问题。作为交换，我们对正则化回归残差调用条件同方差假设，这在我们的发展中至关重要。
2016-05-29 stat.ME stat.ML
Sample-split REGression SREG: A robust estimator for high-dimensional survey data
本文提出SREG估计量，通过K折交叉拟合消除高维辅助变量下的偏差，证明其渐近正态性和一致性，验证了简单随机、分层和拒绝性采样下的条件波动假设。
2026-04-08 stat.ME
GAUGER: Generalized Regression Adjustment via Graph-Weighted Exposure-Level Residualization for Design-Based Inference Under Interference
Adobe Research（Adobe研究院）；UC Berkeley（加州大学伯克利分校）
针对干扰下因果效应估计问题，提出GAUGER框架，采用两步法，先利用强预测模型学习结果模式，再用图加权暴露水平残差化校准，所得估计器一致且方差可减，数值研究显示其比现有方法效率更高。
2026-07-24 stat.ME
Evaluation of transplant benefits with the U.S. Scientific Registry of Transplant Recipients by semiparametric regression of mean residual life
提出半参数平均剩余寿命模型，量化肾移植获益，优先受益最大患者，并揭示不同群体获益不平等。
2023-10-17 stat.ME
Extension of Wald-Wolfowitz Runs Test for Regression Validity Testing with Repeated Measures of Independent Variable
本研究将Wald-Wolfowitz游程检验扩展至自变量重复测量的场景，通过随机置换残差序列执行检验，避免数据点丢失和加权不均，保持检验灵敏度与等效性。
2025-10-07 stat.ME
Regularization parameter selection in indirect regression by residual based bootstrap
基于残差的分析通常被认为是统计方法学的基石。对于一个特殊的情况下，间接回归，我们调查的残差为基础的经验分布函数，并提供了一个统一的扩展，这也是渐近最精确的估计。这项调查自然会导致一个完全的数据驱动的技术来选择我们的间接回归函数估计中使用的正则化参数。由此产生的方法是基于模型残差的平滑引导。仿真研究证明了我们的方法的有效性。
2018-02-28 math.ST stat.ME stat.TH
Penalized Maximum Tangent Likelihood Estimation and Robust Variable Selection
本文介绍了一类新的均值回归估计--惩罚最大正切似然估计--用于高维回归估计和变量选择。我们首先解释的关键成分，最大正切似然估计（MTE）的动机，并建立其渐近性质。我们进一步提出了一个惩罚的MTE变量选择，并证明了它是$\sqrt{n}$ -一致的，享有的oracle属性。所提出的估计类包括惩罚$\ell_2$距离、惩罚指数平方损失、惩罚最小二乘和惩罚最小二乘作为特例，可以看作是最小Kullback-Leibler距离估计和最小$\ell_2$距离估计的混合.此外，我们认为提出的估计类下的高维设置时，变量的数量$d$可以指数增长的样本量$n$，并表明，整个类的估计（包括上述特殊情况）可以达到最佳的收敛速度的顺序为$\sqrt{\ln(d)/n}$。最后，仿真研究和实际数据分析证明了惩罚MTE的优点。
2017-08-21 stat.ME
Spatial autocorrelation approaches to testing residuals from least squares regression
在统计学中，Durbin-Watson检验常用于检测最小二乘回归分析中残差序列相关性的存在。然而，Durbin-Watson统计量仅适用于有序时间或空间序列。如果变量包括来自空间随机抽样的横截面数据，则Durbin-Watson统计量将无效，因为Durbin-Watson统计量的值取决于数据点排列的顺序。基于空间自相关的思想，本文提出了两种新的检验基于空间样本的最小二乘回归残差序列相关性的统计量。通过类比新形式的莫兰指数，自相关系数被定义为标准化的残差向量和归一化的空间权重矩阵。然后，类比的Durbin-Watson统计量，序列相关指数的构造。作为案例，将这两个统计量应用于中国29个地区的空间样本。这些结果表明，新的空间自相关模型可以用来检验回归分析残差的序列相关性。在实际应用中，新的统计量可以弥补Durbin-Watson检验的不足。
2015-03-15 physics.soc-ph stat.ME
Starshaped Mean Residual Life Models for Non-Monotonic Survival Data: A Bayesian PMRL Regression Framework with Applications to Teacher Retention
Mississippi State University（密西西比州立大学）
本文提出了一种适用于非单调危险模式生存数据的星形平均残余寿命（SMEL）框架，通过贝叶斯PMRL回归方法，展示了在教师留任问题中的应用，该方法在处理复杂时间动态方面具有优势。
2026-05-17 stat.ME
Efficient estimation of the error distribution function in heteroskedastic nonparametric regression with missing data
本文提出了一种基于残差的经验分布函数来估计响应随机缺失的异方差非参数回归的误差分布函数，并证明了这种估计是渐近最精确的.
2016-10-27 stat.ME
Detecting heteroskedasticity in nonparametric regression using weighted empirical processes
如果处理不当，异方差误差会导致不准确的统计结论。本文介绍了多协变量非参数回归模型的异方差检验。它是基于一个合适的残差为基础的经验分布函数。使用局部多项式平滑构造残差。我们的检验统计量涉及一个检测函数，它可以通过利用检测函数和模型误差之间的独立-依赖结构来验证异方差性，即我们不需要方差函数的特定模型。该过程是渐近分布自由：从它不依赖于未知参数的推断。它是一致的参数（根-n）收敛速度。我们的结果被扩展到缺失响应的情况下，并与模拟说明。
2018-02-20 stat.ME
Model diagnostics for censored regression via randomized survival probabilities
正态回归中的残差用于评估模型的拟合优度（GOF）并发现改进模型的方向。然而，在截尾回归中缺少具有特征参考分布的残差。在本文中，我们提出了诊断删失回归与归一化随机生存概率（RSP）。RSP的核心思想是用一个介于0和截尾时间的生存概率之间的均匀随机数来代替截尾时间的生存概率。我们证明了在真实模型下，在真实生成参数下，RSP在$(0,1)$上总是均匀分布的。因此，我们可以用正态分位数函数将RSP转换成正态分布的残差。我们将这种残差称为归一化RSP（NRSP残差）。我们进行了模拟研究，调查的大小和权力的统计检验的基础上NRSP残差检测不正确的选择分布族和协变量的非线性效应。我们的模拟研究表明，虽然用NRSP残差的GOF测试不如传统的GOF测试方法强大，但基于NRSP残差的非线性测试在检测非线性方面具有显着更高的功率。我们还将这些模型诊断方法与乳腺癌无复发时间数据集进行了比较。结果表明，NRSP残差诊断成功地捕获了数据集中的微妙的非线性关系，这是没有检测到的图形诊断与CS残差和现有的GOF测试。
2022-01-01 stat.CO stat.ME
Model diagnostics of discrete data regression: a unifying framework using functional residuals
模型诊断是回归分析中不可缺少的组成部分，但在广义线性模型的标准教科书中没有很好地解决。缺乏阐述是因为当结果数据是离散的时，经典方法（例如，Pearson/偏差残差分析和拟合优度检验）在模型诊断和治疗中的效用有限。本文建立了一个新的离散数据回归模型诊断框架。与文献定义的单值量作为残差不同，我们建议使用函数作为载体来保留残差信息。在离散性的存在下，我们表明，这样的功能残差是适当的总结残差的随机性，不能被捕获的模型的结构部分。我们建立了它的理论性质，这导致了新的诊断工具，包括功能残差与协变量图和功能到功能（Fn-Fn）图的创新。我们的数值研究表明，这些工具的使用可以揭示各种模型的误设定，如不正确地包括高阶项，解释变量，相互作用效应，色散参数，或零膨胀组件。作为副产品，功能残差产生了Liu-Zhang的替代残差，主要用于有序数据的累积链接模型（Liu和Zhang，2018，JASA）。作为一个一般概念，它大大拓宽了诊断范围，因为它适用于几乎所有的二进制，序数和计数数据的参数模型，所有在一个统一的诊断方案。
2022-07-09 econ.EM stat.ME
The shooting S-estimator for robust regression
针对最小二乘法对异常值不稳健及传统S-estimation降权完整观测导致信息丢失的问题，提出shooting S-estimator，结合坐标下降算法与简单S-regression，在丧失回归等变性代价下实现对逐分量污染的稳健性。
2015-06-03 stat.ME
A class of bootstrap based residuals for compositional data
针对成分数据回归模型缺乏标准正态多元残差的问题，提出一类基于自助法的渐近标准正态残差，经模拟验证小样本下近似良好，并在识别模型误设和睡眠阶段应用中表现优越。
2024-03-20 stat.CO stat.ME
Nonlinear Regression with Residuals: Causal Estimation with Time-varying Treatments and Covariates
针对时变处理与协变量下标准回归调整因果估计不一致的问题，提出带共线性调整的回归估计量，属于参数化g-formula，将带残差回归拓展至多种非线性模型，估计一致且易实现。
2024-03-10 stat.CO stat.ME
Bayesian nonparametric mean residual life regression
针对概率框架下平均剩余寿命回归推断方法有限的问题，提出基于Dirichlet过程混合的贝叶斯非参数回归方法，扩展纳入组间依赖，开发后验推断方法，经模拟和右删失生存数据验证有效。
2024-01-24 stat.AP stat.ME
Double Probability Integral Transform Residuals for Regression Models with Discrete Outcomes
本文针对离散结果回归模型评估中传统残差不服从正态分布的问题，提出基于双重概率积分变换的新型残差，并开发有序曲线作为补充工具，通过理论与模拟证明其优于常用残差。
2024-01-04 stat.AP stat.ME
Forbidden Knowledge and Specialized Training: A Versatile Solution for the Two Main Sources of Overfitting in Linear Regression
线性回归中的过拟合分为两个主要原因。首先，估计量的公式包括关于训练观测残差的“禁止知识”，并且当部署在样本外时，它失去了这一优势。第二，估计器有“专门的训练”，使其特别能够解释运动的预测是特质的训练样本。一个样本外的对应物被引入到流行的“杠杆”训练观察的重要性的措施。提出了一种新的方法来预测部署时的样本外拟合，当预测因子的值是已知的，但真正的结果变量是不。在蒙特卡罗模拟和使用MRI脑部扫描的经验应用中，所提出的估计器针对平均样本外情况执行预测残差平方和（PRESS），并且与PRESS不同，还在不同的测试样本中一致地执行，即使是那些与训练集有很大不同的测试样本。
2022-09-23 stat.ME
Semiparametric regression of mean residual life with censoring and covariate dimension reduction
提出了一类新的截尾数据下的平均剩余寿命半参数回归模型。模型，使我们能够估计预期的剩余生存时间和推广常用的平均剩余寿命模型，也进行协变量降维。使用半参数文献中的几何方法和生存数据的鞅性质，我们提出了一个灵活的推理过程，放松了平均剩余寿命对协变量的依赖性的参数假设，以及病人活了多久。我们证明了协变量效应的估计是根$n$一致的，渐近正态的，半参数有效的。在未指定平均剩余寿命函数下，给出了一个预测给定受试者剩余寿命的非参数估计，并建立了该估计的根$n$相合性和渐近正态性性.数值实验表明了所提出的估计器的可行性。我们应用该方法来分析一个国家的肾移植数据集，以进一步证明该工作的实用性。
2020-11-08 math.ST stat.ME stat.TH
Bootstrap of residual processes in regression: to smooth or not to smooth ?
本文考虑一个位置模型，其形式为$Y = m(X) + \varepsilon$，其中$m(\cdot)$是未知回归函数，误差$\varepsilon$与$p$维协变量$X$和$E(\varepsilon)=0$无关.注射了。数据$(X_1,Y_1),\ldots,(X_n,Y_n)$和给定函数$m(\cdot)$的估计量$\hat m(\cdot)$（其可以是参数的或非参数的性质），我们通过残差$Y_i-\hat m(X_i)$、$i=1,\ldots,n$的经验分布来估计误差项$\varepsilon$的分布。为了近似这个估计量的分布，Koul和Lahiri（1994）和Neumeyer（2008，2009）提出了bootstrap程序，基于在绘制bootstrap样本之前或之后平滑残差。到目前为止，它一直是一个开放的问题，是否一个经典的非光滑残差自助是渐近有效的在这种情况下。本文解决了这个公开问题，并证明了非光滑残差自举是相容的。我们通过模拟来说明这一理论结果，该模拟显示了这种自举过程对于各种模型、测试程序和样本量的准确性。
2017-12-07 math.ST stat.ME stat.TH
Kernel Regression for Spatial and Spatio-Temporal Residual Risk: Application to School Shootings in the Contiguous United States
University of Otago（奥塔哥大学）
提出一种正交化核回归框架，在二元半参数模型中嵌入残差风险曲面，用于区分背景异质性与超额风险，并应用于2000-2024年美国本土959起校园枪击事件分析，发现学校规模、中学和高中风险更高，且调整协变量后残差风险仍集中在美国中东部走廊。
2026-08-04 stat.AP stat.ME
Sequentially Updated Residuals and Detection of Stationary Errors in Polynomial Regression Models
时间序列是表现为随机游动还是平稳过程的问题是一个重要而微妙的问题，特别是在金融统计、计量经济学和工程学中。研究了多项式回归模型中误差项不再表现为随机游动而是表现为平稳过程的序贯检测问题。我们提供了由控制图给出的监控过程的渐近分布理论，即，停时，其与根据顺序更新的残差计算的公知单位根检验统计量相关。本文给出了相应随机过程的泛函中心极限定理，它蕴涵了控制图的中心极限定理。有限样本的性质进行了研究模拟研究。
2010-01-12 math.PR math.ST stat.ME
Inference for function-on-function regression: central limit theorem and residual bootstrap
Kent State University（肯特州立大学）
本文研究了函数-函数回归模型的渐近推断，通过基于函数主成分分析的估计器，改进了中心极限定理并引入残差自助法以提升置信区间校准，通过数值实验验证了其优越性。
2026-03-12 math.ST stat.ME stat.TH
Restricted nonlinear shrinkage of high-dimensional residual covariance matrices in multivariate regressions
Persian Gulf University（波斯湾大学）；Ferdowsi University of Mashhad（马什哈德 Ferdowsi 大学）
研究非正态模型的非线性收缩协方差估计，提出无边际非线性收缩估计器MENS，给出其经验谱分布收敛性及渐近最优性，建立相变，通过模拟和回测证实理论，展示其在高维配置和决策中的实用价值。
2026-07-29 math.ST stat.ME stat.TH
Diagnostics for Regression Models with Semicontinuous Outcomes
针对半连续数据在零处的点质量导致标准诊断工具失效的问题，提出一种适用于一般回归模型的新残差方法，其收敛于均匀分布以检测模型误设，并可评估预测分布，已通过医疗支出数据验证。
2024-01-12 stat.AP stat.ME
Goodness of fit of logistic models for random graphs
逻辑斯谛回归是一种自然而简单的工具，可以用来理解协变量如何解释二元网络的拓扑结构。一旦模型拟合，从业者对回归的拟合优度感兴趣，以检查协变量是否足以解释网络的整个拓扑结构，如果不足以解释，则分析残差结构。为了解决这个问题，我们引入了一个通用的模型，结合逻辑斯谛回归与面向网络的残差项。这个剩余项采用W-图的图子函数的形式。使用变分贝叶斯框架，我们推断的残差graphon平均一系列的块常数函数。这种方法允许我们定义一个通用的拟合优度标准，它对应于残差图子为常数的后验概率。玩具数据进行实验，以评估该程序的准确性。从社会科学和生态学的几个网络进行了研究，以说明所提出的方法。
2017-01-06 stat.CO stat.ME
Model Checking for Regressions Based on Weighted Residual Processes with Diverging Number of Predictors
Center for Data Science, Zhejiang University（浙江大学数据科学中心）；College of Finance and Statistics, Hunan University（湖南大学金融与统计学院）
本文提出基于加权残差过程的检验方法，用于高维回归模型参数形式的检验，在预测变量数量发散时保持显著性水平并有效检测局部替代假设。
2026-07-22 math.ST stat.ME stat.TH
A Residual Bootstrap for High-Dimensional Regression with Near Low-Rank Designs
本文研究了高维线性回归中的残差自助法。具体来说，我们分析了线性对比$c^{\top} (\hatβ_ρ-β)$的分布近似，其中$\hatβ_ρ$是一个岭回归估计。当通过最小二乘法估计回归系数时，经典的结果表明RB始终近似于对比定律，只要$p\ll n$，其中设计矩阵的大小为$n\times p$。到目前为止，相对较少的工作已经考虑到如何在线性模型中的附加结构可以扩展RB的有效性的设置，其中$p/n\asymp 1$。在这种情况下，我们提出了一个版本的RB，重新采样从岭回归获得的残差。我们对设计矩阵的主要结构假设是，它几乎是低秩的-在这个意义上，它的奇异值根据幂律曲线衰减。在一些额外的技术假设下，我们推导出一个简单的标准，以确保RB始终近似于给定对比度的规律。然后，我们将此结果专门用于研究平均响应值$X_i^{\top} β$的置信区间，其中$X_i^{\top}$是设计的第$i$行。更准确地说，我们表明，有条件的高斯设计与近低秩结构，RB同时逼近所有的法律$X_i^{\top}(\hatβ_ρ-β)$，$i=1,\dots,n$。这个结果也是值得注意的，因为它没有对$β$施加稀疏性假设。此外，由于我们的一致性结果制定的Malows（Kantorovich）度量，限制分布的存在是不必要的。
2016-07-04 math.ST stat.ME stat.ML
Residual permutation test for regression coefficient testing
针对高维线性模型回归系数检验问题，提出残差置换检验（RPT）方法，通过投影残差构造检验，在$p<n/2$时实现有限样本水平有效性，对重尾噪声具有渐近功效且信号要求达极小化极大最优速率。
2025-05-03 math.ST stat.ME stat.TH
A New Formula for Faster Computation of the K-Fold Cross-Validation and Good Regularisation Parameter Values in Ridge Regression
本文提出新定理和更新公式，无需重拟合即可精确计算K折交叉验证残差，并给出快速近似策略及PRESS统计量估计方法，有效提升岭回归和Tikhonov回归的正则化参数选择效率。
2024-02-08 stat.AP stat.CO stat.ME
Robust Boosting for Regression Problems
梯度提升算法使用"基本学习者“的线性组合来构建回归预测器。Boosting还提供了一种获得鲁棒非参数回归估计的方法，该方法可扩展到具有许多解释变量的应用程序。鲁棒提升算法基于两阶段方法，类似于针对鲁棒线性回归所做的：它首先最小化鲁棒残差尺度估计器，然后通过优化有界损失函数来改进它。与以前的鲁棒提升建议不同，这种方法不需要在每次提升迭代中计算ad-hoc残差尺度估计器。由于这种鲁棒增强算法中涉及的损失函数通常是非凸的，因此需要可靠的初始化步骤，例如L1回归树，其计算速度也很快。一个强大的变量的重要性测量也可以通过一个置换过程计算。彻底的模拟研究和几个数据分析表明，当没有非典型的观察，鲁棒的提升方法的作品以及标准的梯度提升平方损失。此外，当数据包含离群值时，鲁棒提升估计器在预测误差和变量选择精度方面优于替代方案。
2020-08-07 stat.ME stat.ML
COVID-19 mortality analysis from soft-data multivariate curve regression and machine learning
提出了一种基于周期曲线对数回归和多元时间序列空间残差相关分析的多目标时空预测方法。具体而言，平均二次损失函数最小化的框架内的三角回归。而在我们随后的空间残差相关分析中，最大化的可能性使我们能够计算贝叶斯多变量时间序列软数据框架中的后验模式。所提出的方法适用于分析自2020年3月8日至2020年5月13日影响西班牙社区的第一波COVID-19死亡率。基于随机k折交叉验证、自举置信区间和概率密度估计，与机器学习（ML）回归进行了实证比较研究。该实证分析还研究了ML回归模型在硬数据和软数据框架中的性能。结果可以外推到其他计数，国家和后COVID-19波。
2021-03-27 cs.LG stat.AP stat.ME
Approximate Residual Balancing: De-Biased Inference of Average Treatment Effects in High Dimensions
在许多情况下，研究人员对估计平均处理效应感兴趣，并愿意依赖于无混淆假设，这要求处理分配与处理前变量的随机条件一样好。如果分析中包含大量治疗前变量，则无混淆假设通常更合理，但这可能会恶化标准方法估计处理效应的性能。在本文中，我们开发了一种方法去偏惩罚回归调整，允许稀疏回归方法，如套索被用于sqrt{n}-一致的推断平均处理效应在高维线性模型。鉴于线性，我们不需要假设治疗倾向是可估计的，或者平均处理效应是结果模型参数的稀疏对比。相反，除了用于使结果模型上的套索回归在1-范数误差下一致的标准假设之外，我们只需要重叠，即，倾向得分均匀地远离0和1。在程序上，我们的方法结合了平衡权重与正则化回归调整。
2018-01-31 econ.EM math.ST stat.ME
U-centering as subset ANOVA: edge regression and higher-order theory
Department of Statistics, Texas A&M University（德克萨斯农工大学统计系）
该研究提出高阶U中心化方法，将其解释为ANOVA残差化，可快速无偏估计距离协方差等的高阶统计量，提升了计算效率并得到经典Hoeffding方差分量估计量。
2026-11-06 math.ST stat.ME stat.TH
Debiased Regression for Root-N-Consistent Conditional Mean Estimation
针对非参数回归估计器缺乏√n一致性和渐近正态性保证的问题，提出一种去偏技术，通过添加偏差校正项扩展一步估计器，理论证明其满足√n一致性和渐近正态性，且保持无模型特性，能提高估计精度并简化置信区间构建。
2024-11-25 cs.LG econ.EM math.ST
