Equivariant Variance Estimation for Multiple Change-point Model
本文针对多变点模型提出等变方差估计框架,刻画了等变无偏二次方差估计器的集合,并建立了相应的极小极大理论。
2023-11-16 math.ST stat.ME stat.TH
Flexible results for quadratic forms with applications to variance components estimation
本文给出了二次型的一致浓度界和有限样本多元正态逼近结果,并讨论了线性随机效应模型中方差分量估计的一些应用。随机效应模型和方差分量估计是统计学中的经典问题,有着完善的渐近理论。然而,我们的有限样本结果二次型提供了额外的灵活性,可以轻松分析非标准设置中的随机效应模型,这在现代应用中变得越来越重要(例如基因组学)。例如,除了在经典的线性随机效应模型中推导出新的方差分量估计量的非渐近界之外,我们还在具有相关随机效应的线性模型中给出了方差分量估计量的浓度界。我们的一般浓度界是Hanson-Wright不等式的统一版本。本文中的主要正规近似结果是使用Reinert和Röllin(2009)的嵌入技术和多元Stein的可交换对方法导出的。
2015-09-15 math.ST stat.TH
Local Whittle estimation of high-dimensional long-run variance and precision matrices
这项工作开发的非渐近理论估计的长期方差矩阵及其逆,所谓的精度矩阵,为高维时间序列的依赖结构,包括长期依赖的一般假设下。估计涉及收缩技术,阈值和惩罚版本的经典多元本地Whittle估计。结果确保一致的估计,在一个双渐近制度的组件时间序列的数量允许增长的样本量,只要真正的模型参数是稀疏的。关键技术结果是真实模型参数周围长期方差矩阵的局部Whittle估计的集中不等式。特别是,它同时处理进入底层模型的记忆参数的估计。提出了新的算法所考虑的程序,并提供了模拟研究和数据应用。
2022-12-28 math.ST stat.TH
Riemannian Optimization for Variance Estimation in Linear Mixed Models
University of Trier(特里尔大学)
线性混合模型中随机效应协方差阵的正定性约束使得许多经典的非线性优化算法难以参数估计。我们采取了一个全新的观点,在线性混合模型的参数估计,利用内在的几何参数空间。我们将残差极大似然估计问题表示为黎曼流形上的优化问题。在此基础上,通过黎曼梯度和黎曼海森矩阵给出了问题的几何高阶信息。在此基础上,我们测试我们的方法与黎曼优化算法数值。与现有方法相比,我们的方法产生了更高质量的方差参数估计。
2022-12-18 cs.LG stat.CO stat.ME
Efficient estimation of partially linear additive Cox models and variance estimation under shape restrictions
本文针对右删失数据提出带形状约束的可加部分线性Cox模型,证明其形状约束最大偏似然估计量的理论性质,提出数据拆分方差估计法,实验验证该方法在模型误设或风险非光滑时更具优势。
2024-07-09 math.ST stat.TH
Variance estimation in nonparametric regression via the difference sequence method
考虑一个均值函数和方差函数均未知的高斯非参数回归问题。本文给出了方差函数的一类基于差分的核估计。最佳的收敛速度是均匀的广泛的功能类和带宽的充分特点,渐近正态性也成立。我们还表明,适当的渐近公式,我们的估计达到极大极小率。
2007-12-06 math.ST stat.TH
Online estimation of the asymptotic variance for averaged stochastic gradient algorithms
随机梯度算法由于能够在高维空间中高效、在线地处理大样本数据而受到越来越多的研究。本文首先在一般希尔伯特空间中对这些估计及其平均形式建立了一个中心极限定理。此外,由于具有渐近正态性的估计往往是不可用的估计的渐近方差,我们引入了一个新的递归算法估计这最后一个,我们建立了几乎必然的收敛速率,以及它的收敛速率在二次均值。最后给出了估计逻辑斯谛回归参数和估计几何分位数的两个例子。
2017-10-16 math.ST stat.TH
Jackknife variance estimation for common mean estimators under ordered variances and general two-sample statistics
具有共同均值但可能不同的有序方差的样本出现在各个领域,例如实验室间实验、现场研究或传感器数据分析。有序方差下的共同均值估计量通常采用随机权重,这取决于样本均值和无偏方差估计量。当样本估计量与序约束一致或不一致时,它们采取不同的形式,这使得甚至基本的分析(例如估计其方差)变得复杂。我们建议使用折刀,其一致性是建立一般光滑的两样本统计引起的连续Gâteux或Fréchet可微泛函,更一般地说,渐近线性两样本统计,使我们能够研究一大类常见的均值估计。进一步证明了所考虑的共同均值估计满足一个中心极限定理(CLT)。我们调查的准确性所产生的置信区间的模拟和说明的方法,通过分析几个数据集。
2019-01-29 math.ST stat.AP stat.TH
Effect of mean on variance function estimation in nonparametric regression
研究了非参数回归中方差函数的估计,并给出了极小极大收敛速率。我们特别感兴趣的是未知均值对方差函数估计的影响。我们的研究结果表明,与通常的做法相反,它是不可取的基础上的残差的方差函数的估计从最佳估计的平均值时,平均函数是不光滑的。相反,它是更可取的使用估计的平均值最小偏差。另一方面,当均值函数非常光滑时,我们的数值结果表明,基于残差的方法性能更好,但并不比基于一阶差分的估计量好。此外,我们的渐近结果还纠正了Hall和Carroll [J. Roy.中央集权主义者Soc.Ser.B51(1989)3- 14]。
2008-04-04 math.ST stat.TH
Adaptive thresholding for wavelet-based nonparametric heteroskedastic variance estimation on the sphere
Sapienza University of Rome(罗马第一大学);Côte d’Azur University(蔚蓝海岸大学);Centrale Méditerranée(地中海中央学院)
研究单位球面上空间变化的异方差函数非参数估计问题,提出基于局部球面框架、结合硬阈值协议和样本分割方案的全数据驱动多分辨率估计器,证明其在标准损失函数下达到极小极大最优收敛率,有空间适应性,在多领域有潜在应用。
2026-07-15 math.ST stat.TH
Prediction and estimation of random variables with infinite mean or variance
在本文中,我们提出了一个随机变量的最优预测,具有无穷的均值或无穷的方差。该方法包括变换随机变量,使得变换后的变量具有有限均值和有限方差。所提出的预测量是一个广义的算术平均,它类似于效用理论中的确定性价格的概念。通常,变换由双射的参数族组成,在这种情况下,可以选择参数以最小化变换坐标中的预测误差。研究了该预测量估计量的统计性质,给出了估计量的置信区间。使用模拟和真实数据的程序的性能进行说明。
2023-03-26 math.ST stat.ME stat.TH
Semiparametric estimation in the normal variance-mean mixture model
本文研究半参数方差均值混合模型参数的统计推断问题。这类混合物最近在统计和金融建模中变得相当流行。我们设计了一个半参数估计程序,首先估计的平均值的基础正态分布,然后恢复非参数的密度相应的混合分布。我们说明了我们的程序模拟和真实数据的性能。
2017-05-22 stat.OT
Kernel entropy estimation for long memory linear processes with infinite variance
设$X=\{X_n: n\in\mathbb{N}\}$是在$α$ -稳定律$(0<α<2)$吸引区域中具有新息的长记忆线性过程.假设线性过程$X$具有有界概率密度函数$f(x)$。然后,在一定条件下,利用核估计器\[ T_n(h_n)=\frac{2}{n(n-1)h_n}\sum_{1\leq j<i\leq n}K\left(\frac{X_i-X_j}{h_n}\right). \],研究了二次泛函$\int_{\mathbb{R}} f^2(x) \,dx$的估计问题.并对具有对称$α$ -稳定新息的长记忆线性过程进行了模拟研究.
2022-10-07 math.PR math.ST stat.TH
Nonparametric estimation of genewise variance for microarray data
基因方差的估计源于微阵列数据分析中的两个重要应用:选择显著差异表达的基因和微阵列数据归一化的验证测试。我们通过引入一个双向非参数模型来解决这个问题,该模型是著名的Neyman-Scott模型的扩展,并且适用于微阵列数据之外。问题本身提出了有趣的挑战,因为冗余参数的数量与样本量成正比,并且当测量值相关时,如何估计方差函数并不明显。在这样一个高维非参数问题中,我们通过求解一个非线性方程组,提出了两个新的genewise方差函数的非参数估计和测量相关性的半参数估计。建立了它们的渐近正态性。有限样本性质证明了模拟研究。估计器还提高了用于检测统计差异表达基因的测试的能力。该方法是说明从微阵列质量控制(MAQC)项目的数据。
2010-11-10 math.ST stat.TH
MM Algorithms for Variance Components Models
方差分量估计和混合模型分析是统计学中的中心主题,在许多科学学科中都有应用。尽管一代又一代的统计学家和数值分析家做出了最大的努力,但方差分量模型的极大似然估计和限制极大似然估计仍然具有数值挑战性。基于最小化-最大化(MM)原理,提出了一种新的方差分量估计的迭代算法。MM算法实现起来很简单,在大数据问题上具有竞争力。该算法很容易扩展到更复杂的问题,如线性混合模型,多变量响应模型可能与缺失数据,最大后验估计,惩罚估计,广义估计方程(GEE)。我们建立的MM算法的全局收敛到一个KKT点,并证明,无论是数值和理论,它比经典期望最大化算法的收敛速度时,方差分量的数量大于2和所有的协方差阵是正定的。
2015-09-24 stat.CO stat.ME
Multivariate Density Estimation via Variance-Reduced Sketching
Committee on Computational and Applied Mathematics, University of Chicago(芝加哥大学计算与应用数学委员会);Department of Statistics, University of Chicago(芝加哥大学统计学系);Department of Applied and Computational Mathematics and Statistics, University of Notre Dame(南达科他大学应用与计算数学与统计学系)
本文提出名为 VRS 的新框架,将多元函数视为无限尺寸矩阵/张量并引入受数值线性代数启发的草图技术以降低方差,有效缓解了多元密度估计中的维度灾难,其性能显著优于现有神经网络与核方法。
2025-05-02 cs.LG cs.NA math.NA
Variance estimation in pseudo-expected estimating equations for missing data
缺失数据是生物医学研究中常见的挑战。这一事实,以及现代不断增长的数据集容量,使得具有缺失数据的计算效率分析问题具有至关重要的实际意义。用于处理缺失数据的一般计算有效的估计框架是伪期望估计方程(PEEE)方法。该方法适用于任何参数模型,其估计涉及一组估计方程(如似然评分方程)的求解。PEEE方法的一个关键限制是,目前没有封闭形式的方差估计,方差估计需要计算繁重的bootstrap方法。在这项工作中,我们解决的差距,并提供了一个封闭形式的方差估计,其计算可以显着快于自助方法。即使在辅助变量和不完整变量的错误指定模型下,我们的方差估计量也是一致的。仿真研究表明,我们的方差估计表现良好,其计算速度可以超过50倍的自助。我们提出的方差估计器的计算效率增益对于大型数据集或主要分析方法是计算密集型时至关重要。最后,PEEE方法与我们的方差估计一起被用来分析创伤性脑损伤患者不完整的电子健康记录数据。
2022-04-21 stat.ME
Network Structure and Biased Variance Estimation in Respondent Driven Sampling
本文探讨了被访者驱动抽样(RDS)中抽样方差估计的偏差问题。以前的RDS方法学工作集中在其有问题的假设和偏差和效率低下的人口平均估计。尽管如此,研究人员只给予轻微的关注,估计抽样方差RDS的主题,尽管方差估计的重要性,置信区间和假设检验的建设。在本文中,我们表明,RDS抽样方差的估计依赖于一个关键的假设,即网络是一阶马尔可夫(FOM)的因变量的利益。我们证明,通过直观的例子,数学概括,和计算实验,目前的RDS方差估计将总是低估RDS在不符合FOM假设的经验网络的人口抽样方差。对Facebook和Add Health的215个大学和学校网络的分析表明,我们分析的每个经验网络都违反了FOM假设,这些违反行为导致了抽样方差的RDS估计值存在很大偏差。我们提出并测试了两种替代方差估计,显示出一定的承诺,减少偏见,但也说明了估计抽样方差的限制,只有部分信息的底层人口社会网络。
2015-12-04 cs.SI stat.AP stat.ME
Practical considerations for sandwich variance estimation in two-stage regression settings
我们提出了一个实用的方法来计算三明治方差估计在两阶段回归模型设置。作为两阶段回归的一个激励性例子,我们考虑回归校准,一种用于解决协变量测量误差的流行方法。三明治方差方法很少应用于回归校准,尽管它需要比流行的方差估计方法,特别是自助法更少的计算时间。这可能是由于需要专门的统计编码。在实践中,通常应用具有Wald置信区间的简单自举方法,但是该方法可能产生达不到标称覆盖水平的置信区间。我们首先概述计算三明治方差估计量所需的步骤。然后,我们开发了一个方便的方法计算在R的三明治方差估计,它利用标准回归模型的输出和现有的R函数,并可以应用在一个简单的随机样本或复杂的调查设计的情况下。我们使用模拟研究的三明治的性能进行比较,两个数据设置的reserve方差方法。最后,我们进一步比较这两种方差估计方法的数据例子,从妇女健康倡议(WHI)和西班牙裔社区健康研究/拉丁美洲人研究(HCHS/SOL)。
2022-09-21 stat.AP stat.ME
Variance estimation for logistic regression in case-cohort studies
Schouten等提出的逻辑斯谛回归分析(Stat Med.1993;12:1733-1745)是目前病例-队列研究统计分析的标准方法,它能够从选定的子样本中有效估计风险比。Schouten等(1993)也提出了风险比估计量的标准误估计可以用稳健方差估计量来计算。然而,在这篇文章中,我们证明了鲁棒方差估计量不能解释病例和子队列样本的重复,并且通常具有一定的偏差,即,可能获得不准确的置信区间和P值。为了解决无效的统计推断问题,我们提供了一个替代的基于引导的有效方差估计。通过模拟研究,bootstrap方法始终提供更精确的置信区间相比,稳健方差方法提供的,同时保留足够的覆盖概率。传统的抗差方差估计存在一定的偏差,可能会得出不充分的结论。自助法是一种在实践中提供准确证据的有效方法。
2023-01-18 stat.AP stat.ME
Simulations for estimation of heterogeneity variance $τ^2$ in constant and inverse variance weights meta-analysis of log-odds-ratios
研究间方差的一些常用估计量$τ^2$基于Cochran $Q$统计量,用于检验Meta分析中的异质性。我们介绍了新的点和区间估计的$τ^2$的对数优势比。这些包括新的DerSimonian-Kacker型矩估计的基础上的一阶矩的$Q_F$,$Q$统计与有效样本量的权重,和新的中位数无偏估计量。我们通过模拟研究了$τ^2$的这些新估计量的偏倚和覆盖率,为了比较的目的,研究了一些基于具有逆方差权重的$Q$统计量的著名估计量的偏倚和覆盖率,$Q_{IV}$,例如Mandel-Paule,DerSimonian-Laird和限制最大似然估计量,以及基于Kulinskaya-Dollinger(2015)改进的$Q_{IV}$近似的估计量。
2022-08-01 stat.ME
Approximate Shapley value estimation using sampling without replacement and variance estimation via the new Symmetric bootstrap and the Doubled half bootstrap
本文提出改进KernelSHAP算法,通过无重复抽样和新自助法提升Shapley值估算精度。
2026-01-13 stat.ME
A new method for the estimation of variance matrix with prescribed zeros in nonlinear mixed effects models
当高斯随机效应的方差阵具有指定的零点模式(PPZ)时,提出了一种非线性混合效应模型的极大似然估计(MLE)的新方法.该方法包括耦合最近开发的迭代条件拟合(ICF)算法与期望最大化(EM)算法。它为任何样本量提供了正定估计,并且不依赖于PPZ的任何结构假设。它可以很容易地适应许多版本的EM。
2008-11-25 stat.ME
Skewing Methods for Variance-Stabilizing Local Linear Regression Estimation
众所周知,核回归估计量在一个域上不产生恒定的估计方差。为了纠正这个问题,Nishida和Kanazawa(2015)提出了局部线性(LL)回归估计的方差稳定(VS)局部变量带宽。相反,Choi和Hall(1998)提出了单变量LL估计的偏斜(SK)方法,并构造了一个LL估计和两个对称放置在LL估计两侧的SK估计的凸组合(凸组合(CC)估计),以消除其渐近偏差中的高阶项。为了在不使用VS局部可变带宽的情况下获得具有恒定估计方差的CC估计器,必须局部地确定凸组合中的权重以产生恒定估计方差。在这项研究中,我们比较了两种VS方法的性能CC估计,并找到加权方法可以优于VS带宽方法的方差稳定的程度方面的情况下。
2017-04-14 stat.ME
Particle approximation improvement of the joint smoothing distribution with on-the-fly variance estimation
粒子平滑器是广泛使用的算法,允许近似隐马尔可夫模型中的平滑分布。现有的算法通常遭受计算时间慢或退化。在本文中,我们提出了一种方法来改善任何一个线性复杂的粒子数。当迭代地应用于退化的过滤器平滑器,这种方法导致一种算法,原来优于现有的线性粒子平滑器的一个固定的计算时间。此外,相关的近似满足一个中心极限定理与接近最优的渐近方差,这是很容易估计,只有一个运行的算法。
2011-07-27 stat.ME
A bootstrap method for estimating bias and variance in statistical multispecies models using highly disparate data sets
多区域海洋生态系统的统计多物种模型使用各种数据来源,利用复合或加权似然函数估计参数,并提出相关的加权问题和如何获得方差估计数的问题。无论用于获得点估计的方法如何,都需要一种方法来进行方差估计。一个自举技术引入这种模型的不确定性的评估,考虑到固有的空间和时间的相关性的数据集,从而避免了许多模型规格的问题,这是通常转移到海森的方差估计程序的可能性估计程序的假设。该技术被证明在一个真实的数据集,并用于寻找估计偏差和不同的聚集水平的影响,在人口动态模型。
2012-02-15 stat.AP
Intrinsic minimum average variance estimation for sufficient dimension reduction with symmetric positive definite matrices and beyond
本文研究了响应值为对称正定矩阵的充分降维问题。我们提出的内在最小平均方差估计方法和内在外积梯度方法,充分利用响应所在的黎曼流形的几何结构。我们提出的算法,我们新开发的方法下的对数欧几里德度量和对数Cholesky度量。这两个度量中的每一个都与一个阿贝尔李群结构相关联,该结构将我们在流形上定义的模型转换为欧几里得模型。所提出的方法,然后进一步推广到一般的黎曼流形。我们建立了严格的渐近结果,包括收敛速度和渐近正态性。我们还开发了一个交叉验证算法的结构维度的估计与理论保证全面的模拟研究和应用程序的纽约出租车网络数据进行显示所提出的方法的优越性。
2023-02-25 stat.ME
Near-Optimal Mean Estimation with Unknown, Heteroskedastic Variances
本文针对未知异方差高斯数据的共同均值估计问题,提出一种直观高效且在信号子集模型下达到近最优误差的算法,将所需方差有界样本数从 Ω̃(n^{1/2}) 降至 Õ(n^{1/4}),并推广到多维情形。
2023-12-05 cs.DS math.ST stat.ML
Adaptive Estimation of Noise Variance and Matrix Estimation via USVT Algorithm
我们提出了一种方法来估计一个大的噪声矩阵的条目时,噪声的方差,$σ^2$,是未知的,而不把任何假设的秩的矩阵。我们考虑了由Gavish和Donoho \cite{Gavish}引入的$σ$的估计,并给出了其均方误差的一个上界.然后,在方差估计的基础上,我们使用Chatterjee \cite{Chatterjee}提出的通用奇异值保持(USVT)算法的改进版本来估计噪声矩阵。最后,我们给出了估计矩阵均方误差的一个上界。
2019-10-29 math.ST stat.TH
On F-Modelling based Empirical Bayes Estimation of Variances
本文考虑了在有样本方差的情况下,多元方差的经验Bayes估计问题.假设一个任意的方差先验,我们得到不同版本的贝叶斯估计使用不同的损失函数。对于一个特定的损失函数,得到的贝叶斯估计只依赖于样本方差的边际累积分布函数。当用经验分布函数代替它时,我们得到了一个经验贝叶斯版本,称为基于F-建模的经验贝叶斯方差估计。我们提供了这个估计的理论性质,并通过大量的模拟和实际数据分析进一步证明了它的优点。
2022-02-26 math.ST stat.TH
Smoothed functional average variance estimation for dimension reduction
基于密度核估计和回归核估计,提出了一种估计函数平均方差估计(FAVE)的方法,用于估计函数半参数回归模型的EDR空间.一致性的结果,然后建立的估计的利益运营商,和EDR空间的方向。仿真研究表明,所提出的方法以及传统的。
2018-11-21 math.ST stat.TH
Jackknife Variance Estimation for Hájek-Dominated Generalized U-Statistics
University of Wisconsin -- Madison(威斯康星大学麦迪逊分校)
针对一类广义U统计量,证明Jackknife方差估计量的比率相合性,并应用于两尺度分布最近邻回归估计器,在更弱条件下得到一致方差估计。
2026-06-15 math.ST stat.ML stat.TH
Variance-Aware Estimation of Kernel Mean Embedding
Waseda University(早稻田大学);ESSEC Business School(埃塞克商学院)
针对核均值嵌入(KME)的收敛速率问题,提出利用再生核希尔伯特空间方差信息加速收敛的方法,即使方差信息未知也可从数据中高效估计,还将结果扩展至平稳混合序列,在假设检验等场景验证效果。
2025-04-16 cs.LG math.ST stat.ML
Use of Auxiliary Information in Variance Estimation
在辅助特征的总体方差已知的情况下,给出了有限总体总体方差的一类比率型估计。推导了均方误差的渐近表达式,并与已有的一些估计量的均方误差进行了比较。进行了实证研究,以说明性能的构造估计比别人。
2013-09-02 math.ST stat.TH
Neyman Jackknife: Design-Based Variance Estimation for Causal Inference under Interference
Stanford University(斯坦福大学)
本文提出Neyman Jackknife框架,提供一种通用方法,用于在存在干扰的情况下保守估计因果推断中的变异数。该方法在经典设置中恢复与Neyman估计器和Newey-West HAC方差估计器相关的估计器,并通过数值实验表明其性能可与专门设计的基准方法相媲美。
2026-04-27 math.ST stat.ME stat.TH
The RKHS Approach to Minimum Variance Estimation Revisited: Variance Bounds, Sufficient Statistics, and Exponential Families
再生核希尔伯特空间(RKHS)的数学理论为最小方差估计(MVE)问题提供了强有力的工具。在这里,我们扩展了经典的RKHS为基础的分析MVE在几个方向。我们开发了一个几何公式的五个已知的下界的估计方差(Barankin界,Cramer-Rao界,约束Cramer-Rao界,Bhattacharyya界,Hammersley-Chapman-Robbins界)的正交投影到一个子空间的RKHS与一个给定的MVE问题。我们表明,在温和的条件下,Barankin界(估计方差的最紧可能的下界)是参数向量的下连续函数。我们还表明,RKHS与MVE问题保持不变,如果观察是由一个充分统计量取代。最后,对于符合指数型分布族的MVE问题,我们推导出新的封闭形式的估计方差的下界,并表明,减少参数集的最小可实现的方差不变。
2013-11-26 math.ST stat.TH
Asymptotic Moments Matching to Uniformly Minimum Variance Unbiased Estimation under Ewens Sampling Formula
Ewens抽样公式是与正整数的随机划分有关的分布。在本研究中,我们研究了分布下参数估计的非存在解问题。在此基础上,利用Ewens抽样公式,得到了一致最小方差无偏估计量的一阶矩和二阶矩匹配估计量。蒙特卡洛模拟研究进行评估的效率所产生的估计。
2021-05-24 math.ST stat.TH
Optimal variance estimation without estimating the mean function
本文研究了残差方差估计中的最小二乘估计。我们证明了配对观测值的均方差是渐近正态分布的。我们进一步证明,通过简单的最小二乘法,将这些配对观测值的均方差回归到配对协变量之间的平方距离上,得到的方差估计不仅渐近正态且根$n$相容,而且估计方差达到最优界.我们还证明了最小二乘估计的优势,与现有的方法相比,在二阶渐近性质。
2013-12-11 math.ST stat.TH
Mean and variance estimation in high-dimensional heteroscedastic models with non-convex penalties
尽管异方差(非常数样本方差)在统计数据集中很普遍,但在高维统计文献中,它在很大程度上被忽略了。最近,研究表明,Lasso可以适应异方差误差,只需进行微小的算法修改(Belloni等人,2012; Gautier and Tsybakov,2013).本文研究了高维稀疏参数下的线性均值模型和对数线性方差模型的异方差回归问题。在这项工作中,我们提出了估计方差后Lasso时尚,其次是加权最小二乘均值估计。这些步骤使用了Fan和Li(2001)中的非凸罚分,这使我们能够证明后Lasso方差和均值参数估计的预言性质。我们用实验来加强我们的理论发现。
2014-10-30 math.ST stat.ME stat.TH
Robust variance estimation and inference for causal effect estimation
我们考虑一个纵向数据结构,包括基线协变量、随时间变化的治疗变量、中间时间依赖协变量和可能的不定常结果。先前的研究表明,在这种情况下,使用经验影响函数估计渐近线性估计量的方差会导致反保守估计,并增加正违规的幅度,导致覆盖率差和不受控制的I型错误。在本文中,我们提出了两种替代方法估计这些估计量的方差:(i)一个强大的方法,直接针对的影响函数的方差作为一个反事实的平均结果,和(ii)一个非参数的自助方法,理论上是有效的,降低了计算成本,从而增加了在非参数设置使用复杂的机器学习算法的可行性。这些方法的性能进行了比较,经验影响函数在不同水平的积极违规和治疗效果大小的模拟。
2018-10-06 math.ST stat.ME stat.TH
Variance reduction for estimation of Shapley effects and adaptation to unknown input distribution
Shapley效应是全局敏感性指数:它们量化模型中每个输入变量对输出变量的影响。在这项工作中,我们提出了新的估计这些敏感性指数。当输入分布是已知的,我们调查已经存在的估计,并建议一个新的具有较低的方差。然后,当输入的分布是未知的,我们扩展这些估计。最后,我们给出了本文所研究的估计量的渐近性质。
2020-02-13 math.ST stat.TH
Variance Estimation and Confidence Intervals from High-dimensional Genome-wide Association Studies Through Misspecified Mixed Model Analysis
我们研究了全基因组关联研究(GWAS)误指定混合模型分析的遗传效应特征参数的方差估计和相关置信区间。以往的研究表明,尽管模型误指定,某些数量的遗传利益是可估计的,这些数量的相合估计量,可以得到使用限制极大似然(REML)方法下误指定的线性混合模型。然而,这样的REML估计的渐近方差是复杂的,并没有准备好被实现为实际使用。在本文中,我们开发了实用和计算方便的方法来估计这样的渐近方差和构建相关的置信区间。基于蒙特卡罗模拟和实际数据应用,对所提出的方法的性能进行了经验评估。
2021-01-17 math.ST stat.ME stat.TH
Adaptive variance function estimation in heteroscedastic nonparametric regression
本文研究了异方差非参数回归中自适应方差函数估计的小波阈值方法。一个数据驱动的估计器构造通过应用小波阈值的平方一阶差的观察。我们表明,方差函数估计是近最佳自适应平滑的均值和方差函数。估计器实现最佳的自适应收敛速率下的逐点平方误差同时在一个范围内的平滑类。该估计也是自适应在一个对数因子的极大极小风险下的全球平均集成平方误差在一个集合的空间非齐次函数类。数值实现和模拟结果进行了讨论。
2008-10-27 math.ST stat.TH
Consistent Estimation of Residual Variance with Random Forest Out-Of-Bag Errors
在回归模型中估计残差方差的问题在机器学习社区中受到的关注相对较少。然而,在许多实际应用中,估计是主要的兴趣,例如,作为构建预测区间的主要步骤。在这里,我们考虑这个问题的随机森林。其中,协变量和响应变量之间的函数关系通过后者的加权和来建模。然而,在树构造过程中构造的权重中涉及依赖结构,使得模型在数学分析中变得复杂。在L2-相容随机森林模型下,给出了基于随机森林的残差方差估计,并证明了它们的相合性。
2018-12-15 math.ST stat.TH
Generic Variance Bounds on Estimation and Prediction Errors in Time Series Analysis: An Entropy Perspective
KTH Royal Institute of Technology(瑞典皇家理工学院);Tokyo Institute of Technology(东京工业大学);New York University(纽约大学)
在本文中,我们通过信息论的方法,得到了时间序列分析中的估计和预测误差的方差的一般界。通常可以看出,误差界限由给定边信息或过去观测的待估计或预测的数据点的条件熵确定。此外,我们发现,为了达到渐近的预测误差界,必要和充分条件是“新息”是渐近白高斯。当仅限于高斯过程和一步预测时,我们的界被证明可以简化为线性预测理论中的Kolmogorov-Szegö公式和Wiener-Masani公式。
2021-05-11 cs.IT cs.LG eess.SP
Variance Estimation for Weighted Average Treatment Effects
本文针对观察性研究中加权平均处理效应的方差估计,提出后加权自助法并推广野自助法,以避免阳性违反、提高效率,并通过模拟和NHANES数据给出实用建议。
2025-09-10 math.ST stat.ME stat.TH
Simultaneous Bandwidths Determination for DK-HAC Estimators and Long-Run Variance Estimation in Nonparametric Settings
我们考虑双核异方差和自相关一致(DK-HAC)估计的数据相关的同时带宽的推导。除了对经典HAC估计的滞后自协方差进行通常的平滑外,DK-HAC估计还对时间方向进行平滑。我们得到的最佳带宽,共同最小化的全球渐近MSE标准和讨论之间的权衡偏差和方差平滑滞后自协方差和随着时间的推移。与Andrews(1991)的MSE结果不同,我们建立了非平稳性如何影响偏差-方差权衡。我们使用插件方法为DK-HAC估计器构建数据相关带宽,并将其与Casini(2021)的DK-HAC估计器进行比较,Casini(2021)使用从顺序MSE标准获得的数据相关带宽。前者在大小控制方面表现更好,特别是对于平稳和接近平稳的数据。最后,我们考虑长期方差估计,假设该序列是一个非参数估计的函数,而不是一个半参数估计,享有通常的T^(1/2)收敛速度。因此,我们也建立了一致的长期方差估计在非参数参数估计设置的有效性。
2021-02-26 econ.EM math.ST stat.TH
High-Dimensional Variance Estimation for the Generalized Regression Estimator
McGill University(麦吉尔大学)
研究调查抽样中高维情形下广义回归估计器的方差估计问题,推导常用方差估计器高维渐近偏差的新理论结果,证明在合适假设下交叉验证方差估计器自然渐近无偏。
2026-07-08 math.ST stat.ME stat.TH
Greedy Variance Estimation for the LASSO
最近的研究结果证明了LASSO算法和相关算法对噪声线性回归的极大极小最优性。然而,这些结果往往依赖于效率低下的方差估计器或比LASSO本身更慢的优化。我们提出了一个有效的估计噪声方差的高维线性回归,比LASSO更快,只需要$p$矩阵向量乘法。在设计矩阵满足约束等距性的条件下,证明了该估计具有良好的收敛速率。在实践中,我们的估计器可以非常好地扩展到高维,高度并行化,并且只会产生适度的偏差。
2019-03-14 cs.IT math.IT math.ST
Optimal shrinkage estimation of mean parameters in family of distributions with quadratic variance
本文讨论了一类具有二次方差函数的分布族中均值参数的同时推断问题。首先,我们引入了一类半参数/参数收缩估计,并建立其渐近最优性。两个具体的情况下,位置-尺度家庭和自然指数家庭的二次方差函数,然后详细研究。我们进行了全面的模拟研究,比较所提出的方法与现有的收缩估计的性能。我们还将该方法应用于实际数据,并取得了令人鼓舞的结果。
2016-03-30 math.ST stat.TH
Variance estimation and asymptotic confidence bands for the mean estimator of sampled functional data with high entropy unequal probability sampling designs
对于具有高熵的固定大小抽样设计,众所周知,Horvitz-Thompson估计量的方差可以通过Hájek公式近似。这种渐近方差近似的有趣之处在于它只涉及统计单元的一阶包含概率。当研究的变量是函数时,我们推广了这个方差公式,并证明了在一般的个体轨迹和抽样设计的规律性条件下,我们可以得到均值函数的Horvitz-Thompson估计的方差函数的一致收敛估计。给出了拒绝抽样法收敛到真方差函数的速度。我们推导出,在抽样设计的熵的条件下,它是可能的,通过模拟高斯过程的方差函数由哈耶克公式,建立的置信带的覆盖范围是渐近的期望的。最后,建议的方差估计的准确性进行评估,在一个星期内每半小时测量的电力消耗数据的样本。
2013-06-28 math.ST stat.TH
On The Variance of Schatten $p$-Norm Estimation with Gaussian Sketching Matrices
本文研究高斯随机向量下 Schatten $p$-范数估计的方差,针对 Kong 和 Valiant 提出的估计量给出方差计算方法,并得到比已有结果更紧的界。
2024-10-21 cs.NA math.NA math.PR
High dimensional matrix estimation with unknown variance of the noise
提出了一种新的估计高维矩阵的关键方法。假设我们观察到被噪声破坏的未知矩阵$A\_0$的一小组项或项的线性组合。我们提出了一种新的方法来估计$A\_0$,它不依赖于知识或噪声$σ$的标准差的估计。我们的估计达到,对数因子,最佳的收敛速度下的Frobenius风险,因此,具有相同的预测性能,如以前提出的估计依赖于知识的$σ$。我们的方法是基于一个凸优化问题的解决方案,这使得它的计算吸引力。
2015-01-31 math.ST stat.TH
Estimation of the long-run variance of nonlinear time series with an application to change point analysis
本文针对伯努利位移类非线性时间序列,建立了长期方差平滑周期图估计量的渐近正态性,并将其应用于均值变点与长程依赖性的区分检验,通过模拟验证了方法性能。
2025-05-08 math.ST stat.TH