Small Area Predictors with Dual Shrinkage of Means and Variances
本文研究了具有随机离差的Fay-Herriot型区域水平模型中的小区域估计问题,该模型模拟了抽样误差随区域变化的情况。由此产生的贝叶斯估计缩小了均值和方差,但需要数值计算来提供估计。本文提出了一种封闭形式的近似经验贝叶斯(AEB)估计。模型参数采用矩量法估计,AEB的均方误差采用单参数自助法估计。文中还给出了均方误差的基准估计量和二阶无偏估计量。
2015-07-29 stat.ME
Differentially Private Chi-Squared Hypothesis Testing: Goodness of Fit and Independence Testing
假设检验是一种有用的统计工具,用于根据总体样本确定是否应拒绝给定模型。样本数据可能包含有关个人的敏感信息,例如医疗信息。因此,重要的是要设计统计测试,以保证数据中受试者的隐私。在这项工作中,我们研究了假设检验受差异隐私,特别是卡方检验的拟合优度的多项式数据和两个分类变量之间的独立性。我们提出了新的测试适合的拟合优度和独立性测试,像经典版本可以用来确定是否一个给定的模型应该被拒绝或不,另外可以确保差分隐私。我们给出了基于蒙特卡罗的假设检验以及更严格遵循经典卡方拟合优度检验和皮尔逊卡方独立性检验的假设检验。至关重要的是,我们的测试考虑了注入的噪声的分布,以确保在确定显著性时的隐私。我们表明,这些测试可以用来实现所需的显着性水平,在鲜明的对比,直接应用经典的测试,以不同的私人列联表,这可能会导致广泛变化的显着性水平。此外,我们还研究了这些测试的统计功效。我们的经验表明,为了达到与经典非私人测试相同的功效水平,我们的新测试只需要相对适度地增加样本量。
2016-06-02 cs.CR math.ST stat.TH
Estimation of the $l_2$-norm and testing in sparse linear regression with unknown variance
本文研究了方差未知的稀疏线性回归的$l_2$ -范数和平方$l_2$ -范数的估计问题,以及在$l_2$分离的稀疏替代下回归参数为零的假设检验问题.我们建立了这三个问题的最优估计率(分别为检验率)。
2020-10-26 math.ST stat.TH
On estimation of the noise variance in high-dimensional linear models
考虑了线性回归模型中未知噪声方差的恢复问题。为了估计滋扰(一个向量的回归系数),我们使用一个家庭的谱正则的最大似然估计。噪声估计基于平方误差的自适应归一化。我们推导出所提出的方法的浓度的上界周围的理想估计(零滋扰的情况下)。
2017-11-25 math.ST stat.TH
USP: an independence test that improves on Pearson's chi-squared and the $G$-test
我们提出了$U$ -统计排列(USP)的独立性测试的背景下,显示在列联表中的离散数据。无论是皮尔逊的卡方检验的独立性,或$G$ -测试,通常用于此任务,但我们认为,这些测试有严重的缺陷,无论是在他们无法控制的大小测试,和他们的权力属性。相比之下,USP检验保证将所有样本量的检验量控制在标称水平,不存在小(或零)细胞计数问题,并且能够以最小方式检测违反独立性的分布。检验统计量是来自一个$U$统计量估计的自然人口的依赖措施,我们证明了这是唯一的最小方差无偏估计量的人口数量。USP检验的实际效用在模拟数据和真实数据上都得到了证明,在模拟数据上,USP检验的功效可以显著大于Pearson检验和$G$检验的功效。在R包装USP中实施USP检测。
2021-01-26 math.ST stat.AP stat.ME
Pearson's goodness-of-fit tests for sparse distributions
皮尔逊卡方检验广泛用于检验分类数据与给定离散分布函数之间的拟合优度。当分类数据集的数量,比如$k$,是一个固定的整数,皮尔逊卡方检验统计量在分布上收敛到一个卡方分布,当样本量$n$趋于无穷大时,自由度为$k-1$。在实际应用中,数字$k$经常随$n$变化,甚至可能比$n$大得多。利用鞅方法,证明了在相当一般的条件下,Pearson卡方检验统计量收敛于正态分布.我们还提出了一个新的检验统计量,这是更强大的卡方检验统计量的基础上,我们的模拟研究。一个真正的应用彩票数据来说明我们的方法。
2021-12-30 stat.ME
Confidence Intervals Based on the Modified Chi-Squared Distribution and its Applications in Medicine
University of Chicago Laboratory High School(芝加哥大学实验室高中);Department of Statistics and Data Science, College of Sciences, University of Central Florida(中佛罗里达大学理学院统计与数据科学系);Department of Statistics, College of Engineering and Computing(工程学院与计算机学院统计系)
本文针对临床研究中小样本量导致正态近似置信区间不准确的问题,提出基于二次型统计量的修正卡方分布方法,并给出适用样本量与比例建议,通过真实临床试验数据验证其能提高统计推断可靠性。
2025-11-09 stat.ME
Improving Pearson's chi-squared test: hypothesis testing of distributions -- optimally
针对皮尔逊卡方检验数据效率不高的问题,提出一种基于非凸优化的新检验器,达到$1+o(1)$最优样本复杂度,有望替代卡方检验。
2023-10-13 math.ST stat.TH
On the Phase Transition of Wilk's Phenomenon
Wilk定理为似然比检验提供了普适的卡方近似,广泛应用于许多科学假设检验问题。对于维数不断增加的现代数据集,研究人员发现传统的似然比检验统计量的Wilk现象经常失败。虽然新的近似已经提出了在高维设置,仍然缺乏一个明确的统计准则,关于如何选择之间的传统和新提出的近似,特别是对于中维数据。为了解决这个问题,我们开发的必要和充分的相位过渡条件的Wilk现象下流行的多元均值和协方差结构的测试。此外,我们提供了一个深入的分析卡方近似的准确性,推导出他们的渐近偏差。这些结果可能会提供有用的见解卡方近似在科学实践中的使用。
2020-08-13 math.ST stat.TH
Accurate distribution of X^{T}X with singular, idempotent variance-covariance matrix
假设X是一组样本统计量,它遵循特殊情况的中心极限定理,即:随着样本量n的增加,相应的分布变为多元正态分布,(每个X的)等于零并且具有幂等方差-协方差阵V。众所周知,X^{T}X具有(在相同的限制),卡方分布的自由度等于V的迹。在这篇文章中,我们将上述结果扩展到包括相应的(1/n)比例校正,使得新的近似实质上更准确,并将其适用范围扩展到小尺寸样本。
2014-11-20 math.ST stat.TH
Optimal heteroskedasticity testing in nonparametric regression
本文从极小极大视角研究非参数回归异方差检验问题,确立了不同光滑性假设与噪声条件下的精确极小极大分离率,并提出基于一阶平方差分的核统计量实现最优检验,揭示了噪声信息对一致检验的必要性。
2024-12-09 math.ST stat.ME stat.TH
The zero degree of freedom non-central chi squared distribution for ensemble postprocessing
本文提出将零点带点质量的零自由度非中心卡方分布用于 EMOS 集合降水后处理,实验表明其效果可与删失 GEV 和删失平移伽马分布相媲美。
2024-04-07 stat.AP
On the integrated mean squared error of wavelet density estimation for linear processes
设$\{X_n: n\in \N\}$是密度函数为$f(x)\in L^2(\R)$的线性过程.研究了$f(x)$的小波密度估计。在新息特征函数的某些正则条件下,基于线性过程中非零系数的个数,得到了密度估计的积分均方误差的Minimax最优收敛速度.所考虑的小波具有紧支集和二次连续可微。母小波消失矩的个数与线性过程中非零系数的个数和新息特征函数的衰减速率成正比。理论结果说明了模拟研究与创新高斯,柯西和卡方分布。
2022-11-17 math.ST stat.TH
Liu-type Negative Binomial Regression: A Comparison of Recent Estimators and Applications
本文给出了负二项回归模型的一个新的有偏估计,它是文献[12]中对线性模型提出的Liu型估计的推广。针对极大似然估计(MLE)在解释变量间存在多重共线性时方差膨胀的问题,提出了一种新的有偏估计,减小了MLE的方差,从而得到稳定的推断.此外,我们还通过矩阵均方误差均方误差(MMSE)准则对新估计与其他估计进行了理论上的比较。此外,一个蒙特卡罗模拟研究的目的是评估性能的估计的意义上的均方误差。最后,一个真实的数据应用程序来说明新的估计的好处。
2016-04-08 stat.ME
On the boundary properties of Bernstein estimators on the simplex
本文研究了$d$维单形的累积分布函数和密度函数的Bernstein估计的渐近性质(偏差、方差、均方误差).我们的结果推广了Leblanc(2012)的结果,他处理了$d=1$的情况,并补充了Ouimet(2021)在单形内部的结果。由于$d$维单纯形的“边”具有从$0$(顶点)直到$d - 1$(面),我们的核函数是多项式,偏差的渐近表达式,方差和均方误差并不像乘积那样是一维渐近性的直接扩展-型估计研究的几乎所有过去的作者在Bernstein估计或非对称核估计的背景下。这一点使得数学分析更加有趣。
2022-12-10 math.PR math.ST stat.TH
Asymptotic Distribution of the Score Test for Detecting Marks in Hawkes Processes
分数检验的原假设的渐近分布,标志不影响霍克斯标记的自激点过程的强度被证明是卡方。对于局部渐近功效,针对局部替代方案的分布也被建立为非中心卡方。这些渐近结果来自使用现有的渐近结果的似然估计的未标记的霍克斯过程模型的矩和遍历的马克过程和一个额外的均匀有界性假设,证明是真实的指数衰减霍克斯过程的温和的附加条件。
2019-04-30 math.ST stat.TH
Asymptotic Intermediate Efficiency of the Chi-square and Likelihood Ratio Goodness of Fit Tests
考虑了一个绝对连续分布对一组分组为等概率区间的观测值的拟合优度的检验问题,以及对一组逼近假设的备选方案序列的检验问题。我们的研究重点是由于Inglot(1999)的卡方和对数似然比检验的渐近中间效率(AIE)。假设组的数量随着观测的数量而增加。
2019-02-21 math.ST stat.TH
On the properties of distance covariance for categorical data: Robustness, sure screening, and approximate null distributions
针对卡方检验在大型稀疏列联表中统计功效低的问题,本文研究了分类变量distance covariance的稳健性、筛选强相合性及近似零分布,并通过模拟验证了其优越性。
2024-03-26 stat.ME
One-Bit Distributed Mean Estimation with Unknown Variance
Indian Institute of Technology Hyderabad(印度理工学院海得拉巴分校)
针对方差未知的分布式均值估计问题,提出简单非自适应和自适应协议,证明渐近正态性并推导均方误差界,通过下界证明自适应协议的最优性。
2026-06-24 cs.IT math.IT math.ST
Beyond Sin-Squared Error: Linear-Time Entrywise Uncertainty Quantification for Streaming PCA
University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文针对流式PCA中估计特征向量逐项不确定性量化缺失的问题,基于Oja算法推导了逐项Bernstein型集中界和中心极限定理,并提出一种利用中位数均值的子采样方差估计算法,在保证统计一致性的同时显著降低计算成本。
2025-07-20 cs.LG math.ST stat.ML
Change-point detection in variance-covariance matrix
The University of Hong Kong(香港大学);Keio University(庆应义塾大学);Riken-AIP(理化学研究所先进人工智能研究中心)
本文研究了在方差-协方差矩阵突变点位置估计和稀疏模式联合估计问题,采用分组融合LASSO和LASSO惩罚项,通过ADMM算法实现高效求解,并通过实验验证方法有效性。
2026-10-15 stat.ME
A Generalized Bias-Variance Decomposition for Bregman Divergences
针对偏差-方差分解通常仅适用于平方误差的局限,本文提出Bregman散度下的广义分解(与指数族极大似然估计相关),补充清晰独立推导、额外讨论及文献参考,便于教学与研究。
2025-11-11 cs.LG stat.ML
Effective Degrees of Freedom for Balanced Repeated Replication and Paired Jackknife Variance Estimates: A Unified Approach via Stratum Contrasts
本文通过层对比方法统一了BRR和Jackknife方差估计,推导了自由度估计公式并分析了两种方法的效率与适用性。
2026-03-12 stat.AP stat.ME
Optimal variance estimation without estimating the mean function
本文研究了残差方差估计中的最小二乘估计。我们证明了配对观测值的均方差是渐近正态分布的。我们进一步证明,通过简单的最小二乘法,将这些配对观测值的均方差回归到配对协变量之间的平方距离上,得到的方差估计不仅渐近正态且根$n$相容,而且估计方差达到最优界.我们还证明了最小二乘估计的优势,与现有的方法相比,在二阶渐近性质。
2013-12-11 math.ST stat.TH
Logarithmic Lambert $\mathrm{W}\times {\cal F}$ random variables for the family of chi-squared distributions and their applications
针对一类特殊的分布族,引入了一类对数Lambert W随机变量.特别是,我们的特征的对数-朗伯W随机变量卡方分布,自然出现在正常的随机变量的基于似然的推断。
2014-10-21 math.ST stat.TH
Seven proofs of the Pearson Chi-squared independence test and its graphical interpretation
本文重新审视了Pearson卡方独立性检验。在用现代符号呈现基本理论并展示新的推导证明方法后,我们描述了这个测试的创新和直观的图形演示。这不仅可以直观地解释测试,还可以测量我们接受或拒绝非独立性的原假设的程度
2018-09-03 math.ST stat.TH
Adaptive variance function estimation in heteroscedastic nonparametric regression
本文研究了异方差非参数回归中自适应方差函数估计的小波阈值方法。一个数据驱动的估计器构造通过应用小波阈值的平方一阶差的观察。我们表明,方差函数估计是近最佳自适应平滑的均值和方差函数。估计器实现最佳的自适应收敛速率下的逐点平方误差同时在一个范围内的平滑类。该估计也是自适应在一个对数因子的极大极小风险下的全球平均集成平方误差在一个集合的空间非齐次函数类。数值实现和模拟结果进行了讨论。
2008-10-27 math.ST stat.TH
Sliced Inverse Moment Regression Using Weighted Chi-Squared Tests for Dimension Reduction
本文提出了一种利用前两个逆矩进行回归降维的新方法。我们开发相应的加权卡方检验的回归维度。该方法考虑了切片逆回归(SIR)的线性组合,并使用一个新的候选矩阵,该矩阵被设计为恢复整个逆二阶矩子空间的方法。可以基于从维度检验导出的p值来选择最佳组合。理论上,该方法以及切片平均方差估计(SAVE)比SIR和主Hessian方向(pHd)更能够恢复完整的中心降维子空间。因此,它可以在理论水平上替代SIR、pHd、SAVE或它们的任何线性组合。仿真研究表明,所提出的方法可以有一致的更大的功率比SIR,pHd,和SAVE。
2013-08-24 math.ST stat.ME stat.TH
Information Divergence is more chi squared distributed than the chi squared statistics
为了检验拟合优度,使用卡方统计量或G统计量(信息散度)是非常流行的。渐近地,两者都是卡方分布,因此一个明显的问题是,这两个统计量中哪一个的分布最接近χ 2分布。令人惊讶的是,当只有一个自由度时,信息散度的分布似乎比卡方统计量更好地近似于χ 2分布。对于随机变量,我们引入了一个新的变换,将几个重要的分布转换成几乎是高斯分布的新的随机变量。对于二项分布和泊松分布,我们提出了一个关于它们的变换如何接近高斯分布的一般猜想。对泊松分布证明了该猜想。
2012-06-17 cs.IT math.IT math.ST
Adaptive Estimation of Noise Variance and Matrix Estimation via USVT Algorithm
我们提出了一种方法来估计一个大的噪声矩阵的条目时,噪声的方差,$σ^2$,是未知的,而不把任何假设的秩的矩阵。我们考虑了由Gavish和Donoho \cite{Gavish}引入的$σ$的估计,并给出了其均方误差的一个上界.然后,在方差估计的基础上,我们使用Chatterjee \cite{Chatterjee}提出的通用奇异值保持(USVT)算法的改进版本来估计噪声矩阵。最后,我们给出了估计矩阵均方误差的一个上界。
2019-10-29 math.ST stat.TH
A note on sum and difference of correlated chi-squared variables
导出了线性相关$χ^{2}$分布随机变量的和与差的近似分布。它表明,它们可以减少到方便的参数化伽玛和方差-Γ分布,分别。所提出的分布是非常灵活的,特别是其中之一的总和有直截了当的推广的情况下,涉及多个$χ^{2}$变量与不同的参数。结果迅速地扩展到具有共同尺度的伽马变量的每一个和以及具有共同形状和尺度的伽马变量之间的每一个差。对模拟数据进行了拟合检验,取得了显著的效果。所提出的近似方法对研究伽玛分布变量的研究人员特别有用。
2019-06-24 math.ST stat.ME stat.TH
Admissible Estimator of the Eigenvalues of Variance-Covariance Matrix for Multivariate Normal Distributions--Detailed Proof--
在尺度不变平方误差损失下,给出了多元正态分布的方差-协方差阵特征值的一个可容许估计。
2011-01-13 math.ST stat.TH
New Developments on the Non-Central Chi-Squared and Beta Distributions
通过新的方法得到了非中心卡方分布和非中心β分布的零点附近矩的新公式。前一种模型的混合表示和一个新的扩展的二项式的升阶乘是第一种方法的主要成分,而第二个铰链上的一个有趣的关系的条件独立性和一个简单的条件密度的后一个模型。然后,进行了模拟研究,以追求一个双重的目的:一方面提供数值验证推导的力矩公式,并讨论了新的公式比现有的另一方面的优势。
2021-07-14 math.ST stat.TH
Evidence for goodness of fit in Karl Pearson chi-squared statistics
卡方检验通常用于寻找与假设模型相反的证据,如果Karl Pearson统计量比较观察到的和预期的落在单元格内的观察值的数量不是很大,则该模型被接受。然而,如果真的需要拟合优度的证据,最好采用等效性检验方法,其中卡方统计量的小值是所需模型的证据。这种方法需要一个定义是什么意思的等效所需的模型,并提出了指导方针。然后,对非中心卡方分布的经典归一化变换进行单扩张,将这些值置于易于解释的校准尺度上,以作为证据。结果表明,证据可以区分正常和附近的模型,以及泊松和过分散模型之间。应用评价的随机数发生器和均匀性的数字圆周率。还提供了获得预期拟合优度证据所需的样本量。
2021-12-16 math.ST stat.TH
On the computation of moments of the partial non-central chi-squared distribution function
本文讨论了部分非中心χ 2分布函数(又称Nuttall Q函数)的矩所满足的性质以及计算这些矩的方法。纳托尔Q函数涉及不同领域的各种问题的研究,例如数字通信。
2013-06-07 math.CA math.PR math.ST
SVGD as a kernelized Wasserstein gradient flow of the chi-squared divergence
Massachusetts Institute of Technology(麻省理工学院)
Stein变分梯度下降(SVGD)是一种常用的采样算法,在最优输运几何中常被描述为Kullback-Leibler发散的核化梯度流。我们引入了一个新的视角,而不是SVGD的卡方发散的(核化)梯度流,我们显示,表现出强形式的均匀指数遍历条件下弱的庞加莱不等式。这种观点使我们提出了一种替代SVGD,称为拉普拉斯调整Wasserstein梯度下降(LAWGD),可以从与目标密度相关的拉普拉斯算子的谱分解实现。我们表明,LAWGD具有很强的收敛保证和良好的实用性能。
2020-06-03 cs.LG math.ST stat.TH
On the Existence of Uniformly Most Powerful Bayesian Tests With Application to Non-Central Chi-Squared Tests
一致最大功效贝叶斯检验(Uniformly Most Powerful Bayesian Test,UMBBT)是贝叶斯假设检验的一个客观类别,可以被认为是经典一致最大功效检验的贝叶斯对应。因为UMPBT的拒绝区域可以与经典一致最大功效检验(UMPT)的拒绝区域相匹配,所以UMPBT提供了用于校准贝叶斯证据阈值、贝叶斯因子、经典显着性水平和p值的机制。本文的目的是将UMPBT的应用扩展到指数族模型之外。具体来说,我们引入了充分条件的存在UMBBT的,并提出了一个统一的方法,他们的推导。我们的方法的一个重要应用是扩展UMBBT的测试卡方分布的非中心性参数是否为零。由此产生的测试具有广泛的适用性,提供默认的替代假设来计算贝叶斯因子,例如,皮尔逊卡方检验的拟合优度,独立性测试的列联表,和似然比,得分和沃尔德测试。
2019-11-06 math.ST stat.AP stat.TH
Analysis of variance, coefficient of determination and $F$-test for local polynomial regression
与经典线性回归模型的方差分析工具类似,本文提供了非参数局部多项式回归(LPR)的方差分析推断。一个令人惊讶的简单和准确的局部方差分析分解,并定义了一个局部R平方量来衡量的比例,局部变异解释拟合LPR。通过对局部方差分析进行积分得到了全局方差分析分解,并定义了全局R平方和对称投影矩阵。我们表明,建议的投影矩阵是渐近幂等和渐近正交的补充,自然导致一个$F$测试没有效果。一个副产品的结果是,基于局部线性回归的“投影”响应的渐近偏差是带宽的四次方。数值结果说明了建议的R平方和$F$ -测试的行为。方差分析方法也扩展到变系数模型。
2008-10-27 math.ST stat.TH
Pearson Chi-squared Conditional Randomization Test
University of Southern California(南加州大学)
本文提出利用协变量分布信息和观测独立同分布性质的 PCR 条件独立性检验,能以少量随机化得到高分辨率 p 值,并给出功效分析及无参数、稳健两种扩展。
2025-10-04 math.ST stat.ME stat.TH
A Characterization of Mean Squared Error for Estimator with Bagging
Walnut Algorithms(Walnut算法公司);Verisk AI(Verisk人工智能公司);Verisk Analytics(Verisk分析公司)
Bagging可以显著提高树或神经网络等不稳定机器学习算法的泛化性能。虽然Bagging在实践中得到了广泛的应用,并且许多实证研究已经探索了它的行为,但我们仍然对Bagging预测的理论性质知之甚少。在本文中,我们从理论上研究如何装袋方法可以减少均方误差(MSE)时,应用于统计估计。首先,我们证明了对于任何估计量,增加平均值中袋装估计量$N$的数量只能降低MSE。这个直观的结果,经验观察和文献中讨论,尚未得到严格的证明。其次,我们专注于方差的标准估计称为无偏样本方差,我们开发了一个精确的解析表达式的MSE估计与装袋。这使我们能够严格讨论装袋方法的迭代次数$N$和批量大小$m$。从这个表达式中,我们指出,只有当分布的峰度大于$\frac{3}{2}$时,方差估计量的MSE才能用装袋法降低。这一结果很重要,因为它表明,对于低峰度分布,装袋只能恶化统计预测的性能。最后,我们提出了一种新的通用算法,以高精度估计样本的方差。
2019-08-07 cs.LG math.ST stat.ML
The Benefit of Group Sparsity in Group Inference with De-biased Scaled Group Lasso
研究了高维线性回归中变量组的置信区域和近似卡方检验。当组的大小是小的,低维投影估计的个别系数可以直接用于构建有效的置信区域和p值的组。然而,现有的分析低维投影估计不直接进行卡方为基础的推断一个大的变量组,而不膨胀的样本量的一个因素的组大小。我们建议去偏一个缩放组拉索卡方为基础的统计推断潜在的非常大的变量组。我们证明了所提出的方法捕获组稀疏的好处在适当的条件下,统计推断的噪声水平和变量组,大和小。当群体规模较大时,这种益处尤其明显。
2016-02-21 math.ST stat.ME stat.TH
Optimal Posteriors for Chi-squared Divergence based PAC-Bayesian Bounds and Comparison with KL-divergence based Optimal Posteriors and Cross-Validation Procedure
我们调查最佳后验最近推出的\cite{begin2016pac}卡方发散PAC贝叶斯边界的性质,他们的分布,计算的可扩展性和测试集的性能。对于一个有限的分类器集,我们推导出三个距离函数的界限:KL-发散,线性和平方距离。最优后验权重与经验风险的偏差成比例,通常具有子集支持。对于均匀先验,在按这些风险排序的分类器子集上的后验中搜索就足够了。我们将线性距离的界最小化作为凸规划,并得到其最优后验的封闭形式的表达式。而平方距离问题在一定条件下是一个拟凸规划,KL-发散问题是一个非凸优化(一个凸函数的差)问题。为了计算这样的最佳后验,我们得到快速收敛的不动点(FP)方程。我们将这些方法应用于SVM正则化参数值的有限集,以产生具有紧边界的随机SVM。我们在各种UCI数据集上对我们的最佳后验和已知的基于KL发散的后验进行了全面的性能比较,这些数据集具有不同的风险值范围和方差等。基于卡方发散的后验具有较弱的边界和更差的测试误差,暗示了基于KL发散的后验的潜在正则化。我们的研究突出了发散函数对PAC-Bayesian分类器性能的影响。我们比较我们的随机分类器与基于交叉验证的确定性分类器。后者具有更好的测试误差,但我们的样本更稳健,具有可量化的泛化保证,并且计算速度更快。
2020-08-14 cs.LG math.ST stat.ML
Batch size selection for variance estimators in MCMC
我们考虑批量大小选择一般类的多元批量均值方差估计,这是计算上可行的高维马尔可夫链蒙特卡洛模拟。我们推导出这类估计量的渐近均方误差。此外,我们提出了一个参数技术估计最佳批量大小,并讨论有关的估计过程中的实际问题。向量自回归,贝叶斯逻辑斯谛回归,贝叶斯动态时空的例子说明了质量的估计过程中,建议的最佳批量优于当前的批量选择方法。
2019-07-17 math.ST stat.CO stat.TH
Robust Mean Estimation with the Bayesian Median of Means
样本均值通常用于聚合参数的不同无偏估计,产生无偏但可能高方差的最终估计。本文介绍了均值的贝叶斯中位数,这是一种在样本均值和中位数之间进行粗略插值的聚集规则,从而以偏倚为代价获得方差小得多的估计值。虽然该过程是非参数的,但其平方偏差相对于方差是渐近可忽略的,类似于最大似然估计。贝叶斯中位数的平均值是一致的,估计的偏差和$L_1$错误的浓度范围,以及一个快速的非随机近似算法。精确和近似程序的性能匹配的样本均值在低方差设置,并表现出更好的结果在高方差的情况下。在真实和模拟数据中,以及在重要性抽样、交叉验证和装袋等应用中,检验了经验性能。
2019-06-04 math.ST stat.ME stat.TH
Second-order unbiased naive estimator of mean squared error for EBLUP in small-area estimation
一个经验的最佳线性无偏预测(EBLUP)估计被用于小区域估计的有效推断。为了测量其不确定性,我们需要估计其均方误差(MSE),因为真实的MSE通常不能以封闭形式导出。“朴素MSE估计量”是可用于小区域推断的估计量之一,不太可能被选择,因为它没有达到所需的渐近性质,即二阶无偏性,尽管它保持了严格的正性和易处理性。因此,用户倾向于选择二阶无偏MSE估计。在本文中,我们寻求一个新的调整最大似然方法,以获得一个朴素的MSE估计,达到所需的渐近性质。为了得到这个结果,我们还揭示了模型方差参数的一般调整最大似然方法和二阶无偏、严格正、均方误差估计的一般函数形式之间的关系。我们还通过蒙特卡罗模拟研究比较了新方法与现有朴素估计的性能。结果表明,新方法弥补了与现有的朴素估计相关的低估。
2016-12-13 math.ST stat.ME stat.TH
Testing for the Important Components of Posterior Predictive Variance
我们给出了后验预测方差的分解,使用总方差和条件的一个有限维离散随机变量的法律。该随机变量总结了用于形成对未来结果的预测的建模的各种特征。然后,我们测试这个分解中哪些项足够小可以忽略。这使我们能够识别哪些离散随机变量对预测区间最重要。分解中的术语允许基于条件均值和方差的解释,并且类似于方差分析中经常使用的平方误差的Cochran定理分解中的术语。因此,在完全随机化设计中,建模特征被视为因子。在有多个分解的情况下,我们建议选择一个最小方差的最佳预测覆盖率。
2022-09-01 math.ST stat.AP stat.ME
On the integrated squared error of the linear wavelet density estimator
线性小波密度估计是基于独立同分布观测值的经验测度的小波投影。我们在这里研究的法律的重对数(LIL)和Berry-Esseen型定理。这些结果是在密度$f$上的不同假设下证明的,这些假设与卷积核(KDE)情况下类似结果所需的假设不同:而光滑性要求比KDE要低得多,需要黎曼可积性假设来计算渐近方差,这给出了LIL中的缩放常数。为了研究Berry-Esseen型定理,利用鞅CLT中的一个收敛速率结果.
2012-10-29 math.PR math.ST stat.TH
Diagnostic Tests for Non-causal Time Series with Infinite Variance
研究了非高斯稳定噪声下非因果自回归时间序列的拟合优度检验问题。为了对表现出尖锐尖峰或偶尔爆发的离群观测值的时间序列进行建模,假设非高斯稳定变量的指数小于2。在此条件下,新息变量不存在有限二阶矩。证明了截断残差的样本自相关函数是渐近正态的。非参数检验也进行了研究。残差或残差平方的秩相关性是渐近正态的。因此,各种各样的组合统计数据可用于模型评估。
2012-09-18 math.ST stat.TH
Estimating ordered variance of two scale mixture of normal distributions
Indian Institute of Technology Bhilai(印度理工学院比莱分校)
本文提出改进估计方法,用于估计两种正态分布尺度混合分布的有序方差,并在两种损失函数下验证了理论结果。
2026-01-27 math.ST stat.TH
Nonnegative mean squared prediction error estimation in small area estimation
近年来,由于其广泛的应用,特别是在政策制定决策中,小面积估计受到了极大的关注。小面积估计量直接样本量方差过大,需要构造具有低均方预测误差(MSPE)的模型估计量。MSPE的估计,特别是MSPE的偏差校正,在小区域估计研究中起着核心作用。在这篇文章中,提出了一种新的估计MSPE的偏差校正技术。结果表明,新的MSPE估计达到了相同水平的偏差校正现有的估计的基础上直接泰勒展开和刀切法。然而,不同于现有的方法,建议的估计MSPE总是非负的。此外,所提出的方法可以用于一般的两个水平的小区域模型,在每个水平的变量可以是离散的或连续的,特别是,是非正态的。
2006-04-04 math.ST stat.TH
Mixture representations of noncentral distributions
对于实数线上的任何对称分布$μ$,我们可以将非中心分布的参数族关联为$(X+δ)^2$、$δ\not=0$的分布,其中$X$是具有分布$μ$的随机变量。如果$μ$是标准正态分布,则出现经典情况,导致非中心卡方分布。众所周知,这些可以写成具有奇数自由度的中心卡方分布的泊松混合。我们得到这样的混合表示的逻辑斯谛分布和双曲正割分布。我们还推导出卡方分布的替代表示,并将这些表示的泊松家庭。虽然这些问题起源于参数统计,但它们也出现在广义第二Ray-Knight定理的背景下,该定理将高斯过程和马尔可夫过程的局部时间联系起来。
2022-06-21 math.PR math.ST stat.TH
Second order Stein: SURE for SURE and other applications in high-dimensional inference
Stein公式指出,对于梯度可积的函数$f$,形式为$z^\top f(z) - \text{div} f(z)$的随机变量是均值零。这里,$\text{div} f$是函数$f$的散度,而$z$是标准法向量。本文的目的是提出一个二阶Stein公式来描述所有函数$f(z)$的平方可积梯度的随机变量的方差,并证明该公式在各种应用中的有用性。在高斯序列模型中,Stein公式的一个结果是Stein无偏风险估计(SURE),这是对未知均值的几乎任何估计量$\hatμ$的均方风险的无偏估计。二阶Stein公式的第一个应用是SURE本身的无偏风险估计(SURE for SURE):无偏估计{提供}关于SURE与$\hatμ$的平方估计误差之间的平方距离的信息。SURE for SURE具有作为数据函数的简单形式,适用于具有平方可积梯度的所有$\hatμ$,例如Lasso和Elastic Net。除了SURE for SURE之外,还开发了以下应用:(1)当估计目标为均方误差时SURE风险的上界;(2)基于SURE的置信区域;(3)SURE调整估计所满足的Oracle不等式;(4)Lasso选择的模型大小方差的上界;(5)在Lasso和Elastic-Net中SURE的SURE显式表达式;(6)在线性模型中,一个通用的半参数方案,用于对未知$β$的低维投影的推断的可微初始估计量进行去偏,并在去偏…
2020-02-07 math.ST stat.TH
The Maximal Variance of Unilaterally Truncated Gaussian and Chi Distributions
Harvard University(哈佛大学);Harvard Medical School(哈佛医学院)
本研究证明了固定均值单侧截断高斯分布的方差上界为$(M-a)^2$,并给出缩放卡方分布方差的数值结果,为相关分布的方差边界分析提供理论与数值支持。
2025-11-14 math.ST stat.TH
Estimation of the variance of partial sums of dependent processes
研究了平稳随机过程$(X_k)_{k\geq 1}$的部分和的极限方差\[ σ^2=Var(X_1)+2 \sum_{k=2}^\infty Cov(X_1,X_k) \]的次抽样估计。我们建立了一个非重叠块恢复方法的$L_2$ -相容性。我们的结果适用于可以表示为泛函的强混合过程的过程。出于最近的应用程序的秩检验,我们还研究了系列$Var(F(X_1))+2 \sum_{k=2}^\infty Cov(F(X_1),F(X_k))$,其中$F$是分布函数的$X_1$的估计。仿真结果表明,建议的估计和均方误差的最佳规则的选择的分组长度的有用性。
2015-06-07 math.ST stat.TH