Confidence intervals in regression centred on the SCAD estimator
考虑一个线性回归模型。Fan和Li(2001)描述了回归参数向量的平滑裁剪绝对偏差(SCAD)点估计。为了深入了解这个估计器的属性,他们考虑了一个正交设计矩阵,并专注于这个向量的指定分量的估计。他们表明,SCAD点估计有三个有吸引力的性质。我们回答这个问题:在多大程度上可以区间估计,集中在SCAD估计,有类似的吸引力的属性?
2012-05-30 math.ST stat.TH
Confidence Intervals for High-Dimensional Linear Regression: Minimax Rates and Adaptivity
置信集在统计推断中起着基础性的作用。本文考虑随机设计下高维线性回归的置信区间。我们首先建立了在给定稀疏参数的Oracle环境下,对于置信区间,极小极大期望长度的收敛速度。然后,重点是适应稀疏的置信区间的建设的问题。理想情况下,自适应置信区间的长度应该自动调整到未知回归向量的稀疏性,同时保持预先指定的覆盖概率。它示出,这样的目标是在一般情况下是无法实现的,除了当稀疏参数被限制到一个小区域的置信区间具有通常的参数率的最佳长度。进一步证明了自适应性的缺乏不是由于极小极大框架的保守性,而是从根本上由准确学习偏差的困难造成的。
2015-11-27 math.ST stat.TH
Leave-one-out prediction intervals in linear regression models with many variables
我们研究了基于留一法残差的线性回归模型的预测区间,其中解释变量的数量与样本量相比可能很大。我们建立了一致的渐近有效性(条件的训练样本)的建议的间隔在最小的假设下的未知误差分布和高维设计。我们的区间是通用的意义上说,他们是有效的一个大类的线性预测用于获得一个点的预测,如强大的M-估计,詹姆斯-斯坦型估计和惩罚估计,如LASSO。这些结果表明,尽管存在严重的问题的restrial程序的推断上的未知参数,留一法可以成功地应用,以获得可靠的预测推理,即使在高维。
2016-02-18 math.ST stat.TH
Neural network model for imprecise regression with interval dependent variables
本文提出了一种计算上可行的方法来计算严格的区间广义回归分析的输出变量的认知不确定性的界限。新的迭代方法使用机器学习算法将不精确的回归模型拟合到由区间而不是点值组成的数据。该方法是基于一个单层的区间神经网络,可以训练产生的区间预测。它寻求最佳模型的参数,最大限度地减少因变量的实际和预测区间值之间的均方误差,使用一阶基于梯度的优化和区间分析计算来模拟数据的测量不精确性。多层神经网络的一个额外的扩展。我们认为解释变量是精确的点值,但测量的相关值的特征在于区间界限没有任何概率信息。所提出的迭代方法估计的期望区域,这是一个信封的所有可能的精确回归线获得的普通回归分析的基础上的任何配置的实值点从各自的y-区间和它们的x-值的下限和上限。
2022-10-24 math.ST physics.data-an stat.TH
Prediction intervals with controlled length in the heteroscedastic Gaussian regression
我们解决了异方差高斯回归中建立预测区间的问题。为了保证输出的可解释性,我们专注于具有约束预期长度的预测区间。在这个框架中,我们得到了一个封闭的形式表达的最佳预测区间,允许开发一个数据驱动的预测区间的基础上插件。该算法的构造基于两个样本,一个标记,另一个未标记。在温和的条件下,我们表明,我们的程序是渐近的最佳预测区间的预期长度和差错率。特别地,对期望长度的控制是无分布的。我们还得到了光滑和Tsybakov噪声条件下的收敛速度。我们进行了数值分析,表现出良好的性能,我们的方法。它还表明,即使有少量的未标记的数据,我们的方法是非常有效的,在执行长度约束。
2022-09-08 math.ST stat.TH
Selective Confidence Intervals for Martingale Regression Model
本文考虑了鞅回归模型(特别是时间序列模型)在变量选择后系数的置信区间的构造问题。虽然构建置信区间是统计分析中的常见做法,但由于所选模型的数据依赖性以及所选和未选变量之间的相关性,因此在我们的框架中构建置信区间具有挑战性。我们首先介绍了所选系数的估计,并证明了它在观测值相依且误差异方差的鞅回归模型下是相容的。然后,我们使用的估计与reservation方法一起构建置信区间。我们的模拟结果表明,我们的方法优于其他现有的方法在各种数据结构。
2020-05-18 math.ST stat.OT stat.TH
Simple and Honest Confidence Intervals in Nonparametric Regression
本文考虑了基于核估计或局部多项式估计的非参数回归中,对一个标量参数(如回归不连续性参数)构造诚实置信区间的问题.为了确保我们的CI是诚实的,我们使用的临界值考虑了CI所基于的估计量的可能偏差。我们表明,这种方法导致CI比传统CI更有效,通过欠平滑或减去偏差的估计来实现覆盖。我们给出了使用不同的内核尖锐的效率界,并推导出最佳的带宽构造诚实的CI。我们表明,使用的带宽,最大均方误差最小化的结果,在CI,几乎是有效的,在这种情况下,临界值仅取决于收敛速度。对于收敛率为$n^{-2/5}$的常见情况,95% CI的适当临界值为2.18,而不是通常的临界值1.96。我们说明我们的结果在蒙特卡罗分析和实证应用。
2019-08-28 math.ST stat.AP stat.TH
Adaptive confidence intervals for regression functions under shape constraints
在单调性和凸性的形状约束下,构造了回归函数的自适应置信区间。一个自然的基准建立在一个给定的函数的最小期望长度的置信区间的分析量,局部连续模。这个界限不仅取决于函数,而且还取决于假定的函数类。这些基准测试表明,构造的置信区间具有接近每个单独函数的最小预期长度,同时保持类内函数的给定覆盖概率。这样的自适应性比大参数空间集合上的自适应极小极大性强得多。
2013-05-24 math.ST stat.TH
Coverage Error Optimal Confidence Intervals for Local Polynomial Regression
研究随机抽样下非参数局部多项式回归方法的高阶推断性质。我们证明了Edgeworth展开的$t$统计和覆盖误差扩展的区间估计,(i)保持一致的数据生成过程中,(ii)允许统一的内核,(iii)覆盖估计的回归函数的衍生物。高阶展开式的项及其相关速率作为样本大小和带宽序列的函数,取决于总体回归函数的平滑度、推理过程所利用的平滑度以及评估点是否在支持的内部或边界上。我们证明了稳健的偏差校正置信区间在所有情况下都具有最快的覆盖误差衰减率,并且我们使用我们的结果来提供新颖的推理最优带宽选择器。主要的方法学结果在配套的\textsf{R}和\textsf{Stata}软件包中实现。
2021-07-23 econ.EM math.ST stat.TH
Confidence intervals in monotone regression
本文为单调回归函数构建了基于平滑最小二乘估计器(SLSE)的一致自助法置信区间,推导其渐近分布,比较多种估计器效果,提出自动带宽选择方法,并修正了先前研究的错误。
2023-05-22 math.ST stat.TH
Confidence intervals for nonparametric regression
我们证明和讨论的概率非渐近界的成本与一般损失函数的回归计划从Rademacher理论的角度来看,和最优相对于平均$L^{2}$ -距离的基本条件期望的最小二乘回归结果从Vapnik-Chervonenkis理论的角度。结果如下分析涉及独立的,但可能是非平稳的训练样本,并可以扩展,在某种程度上,我们解释和说明,相关的情况下,训练样本表现出依赖性。
2022-03-20 math.PR math.ST stat.ML
A comparison of Bayesian and frequentist interval estimators in regression that utilize uncertain prior information
考虑一个具有回归参数β和正态分布误差的线性回归模型。假设感兴趣的参数是theta = a^T beta,其中a是指定的向量。定义参数tau = c^T beta - t,其中c和t是指定的,并且a和c是线性无关的。还假设我们有不确定的先验信息tau = 0。Kabaila和Giri,2009年,JSPI,描述了一种新的频率论1-alpha置信区间的θ,利用这种不确定的先验信息。我们比较这个置信区间与贝叶斯1-alpha等尾和最短的可信区间θ,从先验密度τ是一个混合的矩形“板”和狄拉克δ函数“尖峰”,结合非信息先验密度的模型的其他参数。我们表明,这些频率和贝叶斯区间估计依赖于数据在非常不同的方式。我们还考虑了这种先验分布,导致贝叶斯和频率区间估计更大的相似性的一些密切的变化。尽管如此,正如我们所展示的,这些区间估计量之间仍然存在很大的差异。
2014-01-14 math.ST stat.ME stat.TH
On confidence intervals in regression that utilize uncertain prior information about a vector parameter
考虑具有n维响应向量、p维回归参数β和独立正态分布误差的线性回归模型。假设感兴趣的参数是theta = a^T beta,其中a是指定的向量。定义s维参数向量tau=C^T beta-t,其中指定C和t。还假设我们有不确定的先验信息tau=0。我们对theta的频率论置信区间的部分评估是比值(该置信区间的预期长度)/(标准1-alpha置信区间的预期长度),即该区间的缩放预期长度。如果(a)当tau=0时,该区间的缩放预期长度显著小于1,(b)缩放预期长度的最大值不太大,以及(c)当数据恰好与先验信息强烈矛盾时,该置信区间恢复为标准的1-alpha置信区间,则我们说θ的1-alpha置信区间利用了这种不确定的先验信息。设hat{Theta}=a^T hat{beta}和hat{tau}=C^T hat{beta}-t,其中hat{beta}是beta的最小二乘估计量。我们考虑E((hat{tau}-tau)(hat{Theta}-theta))=0的特殊情况,因此hat{Theta}和hat{tau}是独立的。我们提出了一个新的1-alpha置信区间θ,利用不确定的先验信息,tau=0。下面的问题是用来说明这个新的置信区间的应用。考虑2^3析因试验,重复1次。假设感兴趣的参数θ是主效应的指定线性组合。假设三因子交互作用为零。还假设我们有不确定的先验信息,所有的双因子相互作用都是零。…
2013-04-25 math.ST stat.TH
On-line predictive linear regression
我们考虑在线预测版本的标准问题的线性回归,其目标是预测每个连续的响应,给出相应的解释变量和所有以前的观察。我们主要对预测区间感兴趣,而不是点预测。线性回归分析中预测区间的标准处理有两个缺点:(1)经典的预测区间保证了误差概率等于名义显着性水平均值,但这一性质本身并不意味着误差的长期频率接近均值;(2)它不适合于复杂系统的预测,因为它假设观测的数量超过参数的数量。我们状态的一般结果表明,在在线协议的经典预测区间的错误频率不等于标称显着性水平,统计波动。我们还描述了替代的回归模型,其中信息的预测区间,可以发现之前的观测数量超过参数的数量。其中一个模型只假设观测值是独立同分布的,在机器学习中很流行,但在回归的统计理论中却没有得到充分的利用。
2011-11-21 math.ST stat.TH
Asymptotically Efficient Estimation of Weighted Average Derivatives with an Interval Censored Variable
本文研究了在结果变量或回归变量为区间值的情况下,条件位置泛函(包括条件均值和条件分位数)的加权平均导数的识别和估计.在Manski和Tamer(2002)研究区间数据均值回归的非参数界的基础上,我们刻画了回归函数的加权平均导数集。由于加权平均导数不依赖于回归函数的参数规格,因此所识别的集合定义明确,无需任何参数假设。在一般条件下,所识别的集合是紧的和凸的,因此承认其支撑函数的特征。利用这一特征,我们推导出当结果变量为区间值时支撑函数的半参数效率界。我们通过构造一个有效的估计的支撑函数的情况下,区间删失的均值回归说明有效的估计。
2013-12-20 math.ST stat.ME stat.TH
Standard LSParameter Estimators Ensure Finite Convergence Time for Linear Regression Equations Under an Interval Excitation Assumption
本文阐明在区间激励条件下,标准最小二乘估计器能使线性回归方程参数在满足该条件所需时长内有限收敛。
2025-06-09 cs.SY eess.SY math.ST
Confidence Bands for the Logistic and Probit Regression Models Over Intervals
本文给出了当预测变量被限制在给定区间内时,logistic和probit回归模型的双侧和单侧同时双曲带的构造方法。基于最大似然估计的渐近性质构造频带。过去的文章已经考虑过为logistic模型建立双侧渐近置信带,例如Piegorsch和Casella(1988)。然而,由Piegorsch和Casella给出的置信带是保守的,在一个单一的区间限制下,它是在这篇文章中示出的,他们的频带可以锐化使用这里提出的方法。此外,在文献中还没有出现构建logistic模型单侧置信带的方法,也没有在预测变量的有限范围内为概率单位模型构建置信带的工作。本文提供了计算这些区域中的临界点的方法。
2016-04-05 math.ST stat.ME stat.TH
Coverage of Credible Intervals in Bayesian Multivariate Isotonic Regression
我们考虑非参数多元保序回归问题,其中的回归函数被假定为非递减的关于每个预测。我们的目标是构造一个贝叶斯可信区间的函数值在一个给定的内点与确保有限的频率覆盖。我们对非限制阶跃函数赋予先验,但通过从非限制函数空间到多元单调函数空间的“浸入映射”,利用诱导后验测度进行推理.这允许保持后验采样的自然共轭性。使用的自然沉浸图是通过距离的投影,但在本上下文中,发现块等化图更有用。使用诱导的“浸入后验”度量代替原始后验来进行推理的方法提供了贝叶斯范式的有用扩展,特别是当模型空间受到某些复杂关系的限制时。我们建立了一个关键的弱收敛结果的后验分布的功能在一个点上的一些功能的多指标高斯过程,导致的表达式的限制覆盖的贝叶斯可信区间。类似于最近的一个结果,单变量单调函数,我们发现,限制覆盖率略高于可信度,在光滑问题中观察到的现象相反。有趣的是,可信度和限制覆盖率之间的关系不涉及任何未知参数。因此,通过重新校准过程,我们可以通过选择一个合适的可信度水平小于的目标覆盖率,从而得到一个预定的渐近覆盖率,从而也缩短了可信区间。
2022-11-22 math.ST stat.TH
Statistical Inference on Panel Data Models: A Kernel Ridge Regression Method
在核岭回归框架下提出了交互固定效应面板数据模型的统计推断方法,与传统的筛法相比,该方法不需要选择基函数和截断参数,模型复杂性由一个连续的正则化参数控制,该参数可以通过广义交叉验证自动选择.基于经验过程理论和泛函分析工具,我们得到了非均匀背景下估计量的联合渐近分布。这些联合渐近的结果,然后使用构造置信区间的回归平均值和预测区间的未来的观察,都是第一个可证明的有效区间在文献中。在齐次背景下,得到了函数估计的边缘渐近正态性。仿真和实际数据分析证明了该方法的优越性。
2017-03-08 math.ST stat.TH
Maximum Likelihood Estimation for Semiparametric Regression Models with Interval-Censored Multi-State Data
区间删失多状态数据出现在许多慢性疾病的研究中,其中受试者的健康状况可以由有限数量的疾病状态来表征,并且任何两个状态之间的转换仅已知发生在较宽的时间间隔内。我们通过具有随机效应的半参数比例强度模型来描述潜在的时间相关协变量对多状态过程的影响。本文采用一般区间删失下的非参数极大似然估计(NPMLE),提出了一种稳定的期望最大化(EM)算法。我们证明了所得到的参数估计是一致的,有限维分量是渐近正态的,其协方差阵达到半参数有效界,并且可以通过轮廓似然一致估计。此外,我们通过广泛的模拟研究表明,所提出的数值和推理程序在现实环境中表现良好。最后,我们提供了一个主要的流行病学队列研究的应用程序。
2022-09-16 math.ST stat.ME stat.TH
Is distribution-free inference possible for binary regression?
对于一个二进制标签响应的回归问题,我们研究了构造置信区间的标签概率条件的功能的问题。在我们没有任何关于潜在分布的信息的情况下,我们理想地希望提供无分布的置信区间--也就是说,在没有对数据分布的假设的情况下有效。我们的研究结果建立了一个明确的下界的任何分布自由的置信区间的长度,并构建了一个程序,可以近似实现这个长度。特别是,这个下界与样本量无关,并且适用于所有没有点质量的分布,这意味着任何分布自由程序都不可能适应分布中的任何类型的特殊结构。
2020-10-07 math.ST stat.TH
Confidence Sets Based on Penalized Maximum Likelihood Estimators in Gaussian Regression
基于惩罚的最大似然估计,如LASSO,自适应LASSO,和硬阈值的置信区间进行了分析。在已知方差的情况下,有限样本覆盖性质,这样的间隔被确定,它表明,对称的间隔是最短的。基于硬阈值估计的最短间隔的长度大于基于自适应LASSO的最短间隔的长度,其大于基于LASSO的最短间隔的长度,其进而大于基于最大似然估计的标准间隔。在惩罚估计量被调整为具有“稀疏性”的情况下,基于这些估计量的区间比标准区间大数量级。此外,一个简单的渐近置信区间的建设在“稀疏”的情况下,也适用于平滑剪切绝对偏差估计,进行了讨论。已知方差的情况下的结果进行到未知方差的情况下,在适当的渐近意义。
2010-02-01 math.ST stat.ME stat.ML
The coverage probabililty of confidence intervals in regression after a preliminary F test
考虑一个线性回归模型,其中回归参数beta=(beta_1,.,beta_p)和独立正态误差。假设感兴趣的参数是theta = a^T beta,其中a是指定的。定义s维参数向量tau = C^T beta - t,其中指定C和t。假设我们对原假设H_0:tau = 0和备择假设H_1:tau不等于0进行初步F检验。通常的统计实践是使用相同的数据,基于所选模型已先验地提供给我们(作为真实模型)的假设,然后构建具有标称覆盖率1-α的theta的置信区间。我们称之为θ的朴素1-alpha置信区间。这个假设是错误的,它可能导致这个置信区间的最小覆盖概率远低于1-alpha,使其完全不充分。我们的目标是计算这个最小覆盖概率。很容易找到这个置信区间的覆盖概率的表达式,它是s+1维的多重积分。然而,我们推导出一个新的优雅和计算方便的公式,这个覆盖概率。对于s=2,这个公式是一个三重积分和一个二重积分的和,对于所有s>2,这个公式是一个四重积分和一个二重积分的和。这使得计算朴素置信区间的最小覆盖概率变得容易,而不管s有多大。这个公式的一个非常重要的实际应用是协方差分析。在这种情况下,τ可以被定义为使得H_0表达“平行性”的假设。应用统计学家通常建议对这一假设进行初步的F检验。我们说明了我们的公式的应用与现实生活中的协方差数据集的分析和初步的F检验的“平行性”。我们表明,天真的0.95置信区间具有…
2010-03-11 math.ST stat.TH
Accuracy Assessment for High-dimensional Linear Regression
本文考虑随机设计下高维线性回归中估计量$\ell_q$损失的点估计和区间估计。我们建立了估计$\ell_{q}$损失的Minimax率和回归向量的率最优估计的$\ell_{q}$损失的Minimax期望置信区间长度,包括常用的估计,如Lasso,scaled Lasso,square-root Lasso和Dantzig Lasso。还研究了$\ell_{q}$损失的置信区间的自适应性。研究了同一性设计协方差阵和已知噪声水平的设置以及未知设计协方差阵和未知噪声水平的设置。结果显示,使用$1\le q <2$估计$\ell_2$损失和$\ell_q$损失之间以及两种设置之间存在有趣且显著的差异。新的技术工具的开发,以建立率急剧下降的最小最大估计误差和预期长度的最小和自适应置信区间的$\ell_q$损失。损失估计与传统的参数估计的一个显著区别在于,损失估计的约束条件是回归向量估计量的性能,而下界则是估计其$\ell_q$损失的难度。本文中开发的技术工具也可以是独立的兴趣。
2016-09-24 math.ST stat.TH
Model-free Bootstrap and Conformal Prediction in Regression: Conditionality, Conjecture Testing, and Pertinent Prediction Intervals
本文通过理论与数值实验比较回归中的 Model-free Bootstrap 和 conformal prediction,分析条件覆盖率,扩展预测区间切题性,并提出猜想检验及单侧保形分数。
2025-05-16 math.ST stat.ME stat.TH
Confidence intervals for high-dimensional Cox models
在协变量数可能大于样本量的高维Cox比例风险回归模型中,构造回归系数的置信区间。我们的去偏估计量构造类似于Zhang and Zhang(2014)和van de Geer et al.(2014),但时间相关协变量和删失风险集引入了相当多的额外挑战。我们的理论结果,这提供了条件下,我们的置信区间是渐近有效的,支持广泛的数值实验。
2018-03-03 math.ST stat.ME stat.TH
Nonparametric Quantile Regression: Non-Crossing Constraints and Conformal Prediction
The Hong Kong Polytechnic University(香港理工大学);The Chinese University of Hong Kong(香港中文大学)
我们提出了一种非参数分位数回归方法,使用深度神经网络与整流线性单位罚函数,以避免分位数交叉。该罚函数在多维非参数分位数回归中对非交叉约束的处理是可行的。我们建立了所提出的非参数分位数回归函数估计的超额风险的非渐近上界。我们的误差界达到最佳的极小极大收敛速度的持有人类,和前因子的误差界多项式依赖于预测的维度,而不是指数。基于提出的非交叉惩罚深度分位数回归,我们构造了完全适应异质性的共形预测区间。在合理的条件下,建议的预测区间具有良好的性能,在有效性和准确性。我们还推导出了所提出的非交叉共形预测区间和理论预言区间之间的长度差的非渐近上界。数值实验,包括模拟研究和实际数据的例子来证明所提出的方法的有效性。
2022-10-18 cs.LG math.ST stat.ML
Confidence intervals for multiple isotonic regression and other monotone models
本文考虑多元保序回归模型中逐点置信区间的构造问题。最近,[HZ 19]获得了该模型中所谓的块max-min和min-max估计量[FLN 17]的逐点极限分布理论,但由于极限分布中的滋扰参数涉及真实回归函数的多个未知偏导数,因此推断仍然是一个困难的问题。在本文中,我们表明,这个困难的滋扰参数可以有效地消除利用信息超出点估计的块最大最小和最小最大估计。形式上,让$\hat{u}(x_0)$(分别$\hat{v}(x_0)$)是最大化左下角(分别为最小化块中的顶点max-min(分别为最小-最大)估计器,并且$\hat{f}_n$是块最大-最小和最小-最大估计器的平均值。如果$f_0$的所有(一阶)偏导数在$x_0$处都是非零的,则以下关键极限分布理论成立:$$ \sqrt{n_{\hat{u},\hat{v}}(x_0)}\big(\hat{f}_n(x_0)-f_0(x_0)\big)\rightsquigarrow σ\cdot \mathbb{L}_{1_d}. $$这里$n_{\hat{u},\hat{v}}(x_0)$是块$[\hat{u}(x_0),\hat{v}(x_0)]$中设计点的数量,$σ$是误差的标准差,而$\mathbb{L}_{1_d}$是没有多余参数的通用极限分布。这立即产生具有渐近精确置信水平和oracle长度的$f_0(x_0)$的置信区间。值得注意的…
2020-09-30 math.ST stat.ME stat.TH
A Simple and Adaptive Confidence Interval when Nuisance Parameters Satisfy an Inequality
National University of Singapore(新加坡国立大学)
研究在干扰参数满足不等式时的置信区间问题,提出简单自适应的不等式约束置信区间(IICI),无需模拟和调参,具自适应性,一致有效且长度(弱)短于普通置信区间,通过线性回归和工具变量回归实证验证。
2026-08-11 econ.EM math.ST stat.TH
On-line predictive linear regression
我们考虑在线预测版本的标准问题的线性回归,其目标是预测每个连续的响应,给出相应的解释变量和所有以前的观察。线性回归分析中的标准预测处理有两个缺点:(1)经典的预测区间保证了误差概率等于名义显着性水平$\varepsilon$,但这一性质本身并不意味着长期误差频率接近于$\varepsilon$ ;(2)它不适合于复杂系统的预测,因为它假设观测的数量超过参数的数量。我们状态的一般结果表明,在在线协议的经典预测区间的错误频率不等于标称显着性水平,统计波动。我们还描述了替代的回归模型,其中信息的预测区间,可以发现之前的观测数量超过参数的数量。其中一个模型只假设观测值是独立同分布的,在机器学习中很流行,但在回归的统计理论中却没有得到充分的利用。
2009-06-17 math.ST stat.TH
Confidence Sets Based on Thresholding Estimators in High-Dimensional Gaussian Regression Models
我们研究了线性回归模型中基于硬阈值、软阈值和自适应软阈值的置信区间,其中回归变量$k$的数量可能取决于样本量$n$并随样本量而发散。除了已知的误差方差的情况下,我们定义和研究版本的估计误差方差是未知的。在已知方差的情况下,我们提供了一个精确的分析,这样的区间在有限样本的覆盖特性。我们表明,这些区间总是大于基于最小二乘估计的标准区间。渐近地,基于阈值估计的区间更大,甚至由一个数量级时,估计量进行调整,以执行一致的变量选择。对于未知方差的情况下,我们提供了非平凡的下界的覆盖概率在有限的样本和进行渐近分析,从已知方差的情况下的结果可以被证明进行渐近,如果自由度的数量$n-k$趋于无穷快的阈值参数。
2014-08-05 math.ST stat.ME stat.ML
Change-point in stochastic design regression and the bootstrap
在本文中,我们研究了不同的bootstrap程序的一致性,以构建置信区间(CI)的唯一跳跃间断(变点),否则光滑的回归函数在随机设计设置。这个问题表现出非标准的渐近性,我们认为,在回归的标准引导程序未能提供有效的置信区间的变点。我们提出了一个版本的平滑引导,说明其显着的有限样本性能在我们的模拟研究,并证明了该程序的一致性。$n$引导程序中的$m$也被认为是一致的。我们还提供了充分条件的任何引导程序是一致的,在这种情况下。
2011-01-05 math.ST stat.ME stat.TH
Valid and Efficient Split Conformal Regression for Time Series
University of Chicago(芝加哥大学);Illinois Institute of Technology(伊利诺伊理工学院)
本文针对时间序列分割保形回归,引入函数依赖度量替代混合条件,首次同时建立非渐近覆盖保证与区间长度准确性,并证明长记忆下校准长度收敛快于中心估计。
2026-09-29 math.ST stat.ML stat.TH
Robust Confidence Intervals in High-Dimensional Left-Censored Regression
本文研究了高维左删失回归的稳健置信区间。I型截尾回归模型在实践中非常常见,其中竞争事件使感兴趣的变量不可观察。然而,为完全观测数据开发的技术并不直接适用于删失观测。在本文中,我们开发的平滑估计方程,增强去偏方法,使所得的估计是自适应删失,是更强大的误指定的误差分布。本文提出了一类统一的稳健估计,包括Mallow、Schweppe和Hill-Ryan的一步估计。在超高维的设置,其中的维度可以指数增长的样本量,我们表明,只要初步估计比$n^{-1/4}$收敛快,一步估计继承渐近分布的完全迭代版本。此外,我们表明,Bahadur表示的残差的大小匹配的简单线性模型,$s^{3/4 } (\log (p \vee n))^{3/4} / n^{1/4}$ -也就是说,删失的影响渐近消失。仿真结果表明,该方法对删失水平和误差分布的不对称性具有自适应性,并且在误差分布为对称分布时不损失效率。最后,我们将所开发的方法应用于与HIV-1研究相关的MAQC-II存储库的真实数据集。
2016-09-22 math.ST stat.ME stat.ML
Interpretable Deep Regression Models with Interval-Censored Failure Time Data
School of Mathematics, Jilin University(吉林大学数学学院);School of Economics and Statistics, Guangzhou University(广州大学经济与统计学院);Department of Statistics, Chinese University of Hong Kong(香港中文大学统计系);School of Data Science, Fudan University(复旦大学数据科学学院)
本文提出一种针对区间删失数据的可解释深度回归框架,结合参数化关键效应与DNN非线性效应,采用筛极大似然和EM算法,实现最优收敛并在模拟和真实数据中优于现有方法。
2025-03-25 cs.LG math.ST stat.ML
Nonparametric Regression, Confidence Regions and Regularization
本文对单位区间上的非参数回归问题给出了一个统一的处理方法。它是基于一个普遍的,诚实的和非渐近的置信区域,这是由一组线性不等式,涉及在设计点的功能值定义。兴趣通常集中在该区域中的某些最简单的函数上,其中简单性可以根据形状(局部极值的数量,凸性/曲率的间隔)或光滑性(导数的界限)或两者的组合来定义。一旦确定了某种形式的正则化,就可以使用置信区域来提供诚实的非渐近置信界限,其信息量较少,但在概念上简单得多。
2007-11-05 math.ST stat.ME stat.TH
Can we have it all? Non-asymptotically valid and asymptotically exact confidence intervals for expectations and linear regressions
本文提出在矩条件下构造兼具非渐近有效性与渐近精确性的置信区间,并将其应用于标量期望和OLS系数线性组合,通过扩大经典CLT置信区间实现有限样本保证。
2025-07-23 econ.EM math.ST stat.TH
Jump Interval-Learning for Individualized Decision Making
University of California Irvine(加州大学欧文分校);London School of Economics and Political Science(伦敦政治经济学院);North Carolina State University(北卡罗来纳州立大学)
个体化决策规则(Individualized Decision Rule,IDR)是一种决策函数,根据观察到的特征为每个个体分配给定的治疗。文献中的大多数现有作品都考虑了二元或多元治疗方案的设置。在本文中,我们专注于连续治疗设置,并提出了一个跳跃间隔学习开发一个个性化的区间值决策规则(I2 DR),最大限度地提高预期的结果。与推荐单一治疗的IDR不同,拟议的I2 DR为每个人提供了一个治疗选择的间隔,使其在实践中更灵活。为了获得最佳I2 DR,我们的跳跃间隔学习方法通过跳跃惩罚回归估计给定治疗和协变量的结果的条件平均值,并基于估计的结果回归函数获得相应的最佳I2 DR。允许回归变量为线性以进行清晰解释,或为深度神经网络以模拟复杂的治疗-协变量相互作用。为了实现跳跃区间学习,我们开发了一种基于动态规划的搜索算法,有效地计算结果回归函数。当结果回归函数是治疗空间上的分段或连续函数时,建立所得I2 DR的统计特性。我们进一步开发了一个程序来推断(估计)最优策略下的平均结果。广泛的模拟和实际数据应用华法林的研究进行了证明建议的I2 DR的经验有效性。
2023-01-29 cs.LG math.ST stat.ME
Improved confidence intervals for nonlinear mixed-effects and nonparametric regression models
本文针对非线性混合效应模型提出基于随机效应的条件推断框架,给出偏差校正的随机效应预测子与置信区间,并推广至部分随机效应无数据关联的情形,显著提升了条件覆盖率。
2024-01-27 math.ST stat.ME stat.TH
A comparison of some conformal quantile regression methods
我们比较了最近提出的两种方法,它们结合了共形推理和分位数回归的思想,以在样本交换下产生局部自适应和边缘有效的预测区间(Romano等人,2019; Kivaranovic等人,2019年)。首先,我们证明了这两种方法是渐近有效的大样本下,在一些额外的假设。然后,我们比较他们的经验模拟和真实数据。我们的研究结果表明,Romano et al.(2019)中的方法通常在有限样本中产生更紧密的预测区间。最后,我们讨论了如何通过固定用于训练和一致化的观测的相对比例来调整这些过程。
2019-09-12 math.ST stat.ME stat.ML
On Robust Empirical Likelihood for Nonparametric Regression with Application to Regression Discontinuity Designs
University of Sydney Business School(悉尼大学商学院);Institute of Statistics and Big Data, Renmin University of China(中国人民大学统计与大数据研究院);School of Mathematics, Renmin University of China(中国人民大学数学学院);Faculty of Business and Economics, The University of Hong Kong(香港大学工商管理学院)
本文提出稳健经验似然方法,解决非参数回归与断点回归设计中偏差校正经验似然推广的难题,该方法无需额外估计步骤,模拟与真实数据应用均验证其性能优于现有方法。
2026-07-30 econ.EM math.ST stat.ME