Universally Optimal Robustness-Efficiency Tradeoffs for a General Class of Minimum Divergence Estimators
Washington University in St. Louis(华盛顿大学圣路易斯分校);Duke University(杜克大学);Indian Statistical Institute(印度统计研究所)
研究在稳健统计中平衡估计器在理想条件下的效率及其在污染下的稳健性这一问题,通过研究广义α-β散度族明确帕累托前沿,给出最优调整参数,为稳健推断中最优散度选择问题提供理论解决方案。
2026-07-07 math.ST stat.TH
Divergence rates of Markov order estimators and their application to statistical estimation of stationary ergodic processes
有限字母表的平稳遍历过程估计的有限记忆过程从一个样本,一个n-长度的实现的过程,其中的记忆深度的估计过程也估计从样本使用惩罚最大似然(PML)。在连续率和非零性的假设下,得到了关于$\bar{d}$ -距离收敛速率,并给出了显式常数.结果需要分析不一定是有限记忆过程的PML Markov阶估计量的发散性。这个发散问题的研究更一般性的三个信息标准:贝叶斯信息标准与广义惩罚项产生的PML,和归一化的最大似然和Krichevsky-Trofimov码长度。得到了估计阶数的上下界上界。利用预言序估计的概念,将相容马尔可夫序估计的概念推广到无限记忆过程,并给出了PML马尔可夫序估计的广义相容性.
2013-07-24 math.ST stat.TH
Weighted sampling, Maximum Likelihood and minimum divergence estimators
本文研究了Sanov型大偏差概率下参数模型的极大似然。加权抽样下的参数模型的极大似然估计被证明与相对于权重分布定义的特定发散准则的最小化有关。由此产生的推理过程的一些属性; Bahadur效率的测试也被认为是在这种情况下。
2012-07-27 math.ST stat.ME stat.TH
Robust and Smooth Estimation of the Extreme Tail Index via Weighted Minimum Density Power Divergence
本文针对 Pareto 型分布尾指数,在密度幂散差中引入权重函数,提出兼具稳健性与平滑性的估计量类别,证明其一致性和渐近正态性,并通过模拟评估有限样本表现。
2025-07-24 math.ST stat.TH
A New Estimator of Kullback--Leibler Divergence via Shannon Entropy
Faculty of Science, Department of Statistics, Cumhuriyet University(居米舍特大学理学院统计学系);Department of Mathematics, Linköping University(林雪平大学数学系)
本文提出了一种基于香农熵的KL散度估计器,通过k近邻方法改进了KL散度估计,并通过蒙特卡罗实验验证了其在高维数据中优于传统正态性检验的性能。
2026-03-06 math.ST stat.TH
Nonparametric Estimation of Renyi Divergence and Friends
本文考虑连续分布之间$L_2$,Renyi- $α$和Tsallis- $α$分歧的非参数估计.我们的方法是构造两个密度的特定积分泛函的估计,并将其转化为发散估计。对于积分泛函,我们的估计是基于初步插件估计的校正。我们证明了当密度的光滑度$s$都至少为$d/4$时,这些估计达到了$n^{-1/2}$的参数收敛速度,其中$d$是维数。我们还推导出极大极小下界这个问题,确认$s > d/4$是必要的,以实现$n^{-1/2}$收敛速度。我们验证了我们的理论保证与一些模拟。
2014-05-12 math.ST stat.ML stat.TH
The Minimum S-Divergence Estimator under Continuous Models: The Basu-Lindsay Approach
基于统计分歧最小化的鲁棒推理已被证明是经典的基于最大似然的技术的有用的替代方案。最近,Ghosh等人(2013)提出了一种用于稳健统计推断的一般发散度量,称为S-发散族。Ghosh(2014)讨论了密度的离散模型的渐近性质。在本文中,我们建立了连续模型下的最小S-散度估计的渐近性质。在这里,我们使用Basu-Lindsay方法(1994)来平滑模型密度,与以前的方法不同,它避免了核带宽选择的许多复杂性。通过大量的模拟研究和真实数据的例子,说明了所得到的估计在效率和鲁棒性方面的性能。
2014-12-18 math.ST stat.AP stat.ME
Robust Wald-type tests for non-homogeneous observations based on minimum density power divergence estimator
研究了非同分布数据下的稳健假设检验问题。我们提出了Wald型检验的简单和复合假设的独立,但非齐次观测的基础上强大的最小密度功率发散估计的共同的基础参数。渐近和理论的鲁棒性所提出的测试进行了讨论。本文详细讨论了它在固定设计广义线性模型中一般线性假设检验问题中的应用,并对正态分布和泊松分布下的特殊情况作了具体的说明。
2017-07-07 math.ST stat.ME stat.TH
A Wald-type test statistic for testing linear hypothesis in logistic regression models based on minimum density power divergence estimator
本文对逻辑斯谛回归模型中的线性假设引入了经典Wald检验统计量的一个稳健版本,并研究了它的性质。我们在随机协变量的假设下研究这个问题,虽然也考虑了一些非随机协变量的想法。所考虑的检验族是基于最小密度幂离估计而不是基于最大似然估计,本文称之为Wald型检验统计量。得到了Wald型检验统计量的渐近分布,并研究了其稳健性.通过影响函数分析以及适当的实际例子,从理论上研究了测试的鲁棒性。理论上建立了Wald型检验的水平和功效对污染是稳定的,而经典Wald型检验在这种情况下失效。一些经典的例子,数值证实了理论的发展。最后通过仿真研究进一步验证了本文理论结果的正确性。
2016-09-23 math.ST stat.TH
A note on stochastic ordering of estimators of exponential reliability
最近Balakrishnan和Iliopoulos [安。Math.61(2009)]给出了极大似然估计(MLE)随机递增的充分条件。在本文中,我们研究的测试计划,没有考虑有,我们证明了这些计划的MLE也是随机有序的。我们也给出了一些应用程序的可靠性估计。
2011-10-26 math.ST stat.TH
Robust tests for log-logistic models based on minimum density power divergence estimators
针对对数-逻辑斯蒂分布经典Wald与Rao检验易受数据污染影响的问题,本文提出基于MDPDE的稳健Wald型和Rao型检验,推导简单与复合原假设下的表达式并通过模拟验证其优势。
2025-03-18 math.ST stat.TH
Characterization of Generalized Alpha-Beta Divergence and Associated Entropy Measures
Washington University in St. Louis(华盛顿大学圣路易斯分校);Duke University(杜克大学);Indian Statistical Institute(印度统计研究所)
探索α-β散度家族扩展得到广义α-β(GAB)散度超家族,给出其有效性条件与性质,讨论相关熵测度等,通过实例展示其在局部和全局稳健性间的平衡,为统计推断提供新工具。
2026-07-08 math.ST stat.TH
Minimum divergence estimators, maximum likelihood and exponential families
本文证明了参数模型中两个分布之间散度的对偶表示公式。由此产生的参数的发散估计。这些估计量不使用任何分组或平滑。证明了在任意正则指数族上,所有的可微发散都导出了参数的相同估计,这就是极大似然估计。
2011-08-20 stat.ME
Asymptotic breakdown point analysis of the minimum density power divergence estimator under independent non-homogeneous setups
本文将渐近崩溃点的概念扩展到独立非同质(INH)设置,推导了最小密度幂散度估计量(MDPDE)渐近崩溃点的理论下界,并通过固定设计回归模型和模拟研究证实了其全局可靠性。
2025-09-15 math.ST stat.ML stat.TH
A note on kernel density estimators with optimal bandwidths
University of Oslo(奥斯陆大学);University of Bath(巴斯大学)
本文研究了最优带宽核密度估计器的累积分布函数,证明其在样本量增加时几乎必然位于经验分布函数的置信区间外。
2026-03-31 math.ST stat.TH
Strongly Consistent of Kullback-Leibler Divergence Estimator and Tests for Model Selection Based on a Bias Reduced Kernel Density Estimator
本文研究了有偏约化核密度估计的强相合性,得到了强相合的库尔贝克-莱布勒散度(KLD)估计.作为应用,我们给出了模型选择的拟合优度检验和渐近标准正态检验。蒙特卡罗模拟表明了所提出的估计方法和统计检验的有效性。
2018-05-18 stat.ME
Minimax Optimal Estimators for Additive Scalar Functionals of Discrete Distributions
本文考虑$ϕ$的一个可加泛函的估计,定义为$θ(P;ϕ)=\sum_{i=1}^kϕ(p_i)$,由$n$ i.i.d.从离散分布$P=(p_1,...,p_k)$中抽取的随机样本,字母大小为$k$。对于可加泛函的估计问题,我们提出了一个极大极小最优估计。我们发现,极小极大最优率的特点是四阶导数的$ϕ$的发散速度,如果发散速度高。结果表明,如果$ϕ$的四阶导数的发散速度大于$p^{-4}$,则不存在相容估计。此外,如果$ϕ$的四阶导数的发散速度是$p^{4-α}$ for $α\in (0,1)$,则在通用乘法常数$\frac{k^2}{(n\ln n)^{2α}} + \frac{k^{2-2α}}{n}$内获得极小极大最优速率。
2017-12-07 cs.IT math.IT math.ST
Neural Estimation of Statistical Divergences
统计偏差(SD),量化了概率分布之间的差异,是统计推断和机器学习的基本组成部分。用于估计这些分歧的现代方法依赖于通过神经网络(NN)参数化经验变分形式并在参数空间上进行优化。这种神经估计器在实践中被大量使用,但相应的性能保证是部分的,需要进一步探索。我们建立了非渐近的绝对误差界的神经估计实现了一个浅NN,专注于四个流行的$\mathsf{f}$ -分歧- Kullback-Leibler,卡方,平方海灵格,和全变差。我们的分析依赖于非渐近函数逼近定理和工具,从经验过程理论来约束两个来源的误差:函数逼近和经验估计。的界限表征NN的大小和样本的样本个数方面的有效误差,并揭示缩放率,确保一致性。对于紧支撑分布,我们进一步证明了在适当的神经网络增长率下,上述前三个发散的神经网络估计是极小极大率最优的,达到了参数收敛速度。
2022-03-29 math.ST stat.ML stat.TH
Estimating divergence functionals and the likelihood ratio by convex risk minimization
我们开发和分析$M$ -估计方法的分歧泛函和似然比的两个概率分布。我们的方法是基于一个非渐近变分表征的$f$ -分歧,这使得估计分歧的问题,通过凸经验风险优化来解决。由此产生的估计是简单的实现,只需要标准的凸规划的解决方案。我们提出了这些估计的一致性和收敛性分析。仅在密度比的条件下,我们证明了我们的估计在一定的条件下可以获得最优的似然比和发散泛函的极小极大率。我们推导出一个有效的优化算法来计算我们的估计,并通过模拟说明其收敛性和实际可行性。
2009-04-22 cs.IT math.IT math.ST
Minimax Rate-Optimal Estimation of Divergences between Discrete Distributions
研究了整数$α\ge 1$离散分布间$α$ -发散的极小极大估计,其中包括Kullback-Leibler发散和$χ^2$ -发散作为特例.放弃通常的理论技巧,以获得独立性,我们构建了第一个极大极小率最优估计,不需要任何泊松化,样本分裂,或明确的近似多项式的建设。估计器使用一种混合的方法,解决了一个问题独立的线性规划的基础上矩匹配在非光滑政权,并适用于一个问题相关的偏差校正插件估计在光滑政权,与软决策边界这些政权之间。
2021-03-03 cs.IT math.IT math.ST
Tight MMSE Bounds for the AGN Channel Under KL Divergence Constraints on the Input Distribution
当输入分布被约束为ε-接近高斯参考分布的Kullback-Leibler发散时,推导出加性高斯噪声信道的最小均方误差的紧界。达到界限的分布被示出为高斯分布,其均值与参考分布的均值相同,并且其协方差阵通过矩阵方程系统被隐式地定义。达到上界的估计量被确定为一个最小最大最优估计量,该估计量对与假设先验的偏差具有鲁棒性。示出的下界提供了一个潜在的更紧密的替代Cramer-Rao界。这两个属性都说明了数值例子。
2018-04-26 math.ST stat.TH
A note on extreme values and kernel estimators of sample boundaries
在前一篇文章中,我们研究了二维有界集上边缘的核估计,它是基于Poisson点过程的极值。最初的文件“Geffroy J.(1964)Sur un problème d 'estimation géométrique.Publications de l' Institut de Staubique de l 'Université de Paris,XIII,191-200”关于这个主题的处理边界作为边界的支撑集的密度和点作为一个随机样本。Girard,S.和Jacob,P.(2004)极值和点过程边界的核估计.ESAIM:概率和统计,8,150-168”,我们能够从点过程情况推导出随机样本情况。本说明为此提供了一些基本说明,包括一种可能引起普遍兴趣的方法。
2012-08-31 math.ST stat.TH
Towards a better understanding of the dual representation of phi divergences
本文的目的是研究不同的估计程序的基础上$φ-$分歧。基于Fenchel-Legendre对偶的$φ-$发散的对偶表示是本文的主要研究内容。它提供了一种方法来估计$φ-$分歧的经验分布的一个简单的插件,没有任何平滑技术。所得估计量进行了深入的理论研究和模拟表明,所谓的最小$φ-$发散估计(MD $φ$ DE)一般是非鲁棒性和行为类似的极大似然估计。我们给出了一些参数支持非鲁棒性属性,并给出了如何修改经典方法的见解。基于对偶表示,提出了另一类$φ-$发散稳健估计.我们研究的一致性和鲁棒性的影响函数的角度来看,新的估计。在第二部分中,我们调用Basu-Lindsay方法近似$φ-$分歧,并提供这些方法之间的比较。所谓的双$φ-$分歧也进行了讨论,并与我们的新估计。所有这些方法的一个完整的模拟研究,以比较效率和鲁棒性的所有提到的估计对所谓的最小密度功率发散,显示令人鼓舞的结果,有利于我们的新一类的最小双$φ-$分歧。
2015-10-10 stat.ME
Robust estimators for the log-logistic model based on ranked set sampling
针对排序集抽样下的 log-logistic 分布,提出基于密度幂散度的形状与尺度参数稳健估计量,推导其渐近分布并通过模拟验证其抗污染性和效率竞争力。
2024-04-04 math.ST stat.TH
f-divergence estimation and two-sample homogeneity test under semiparametric density-ratio models
密度比由两个概率密度的比定义。研究了密度比的推断问题,并将半参数密度比估计应用于两样本齐性检验。在建议的测试程序中,两个概率密度之间的f-发散估计使用密度比估计。然后利用f-散度估计进行双样本齐性检验。在渐近方差意义下,我们得到了f-散度的最优估计,并研究了所提出的检验方法与现有的基于经验似然估计的score检验方法之间的关系.通过数值研究,我们说明了有限样本推理的渐近理论的充分性。
2010-10-24 stat.ML
On Estimating $L_2^2$ Divergence
我们给出了两个连续分布之间的$L_2^2$分歧的非参数估计的一个全面的理论刻画。我们首先约束我们的估计的收敛速度,表明它是$\sqrt{n}$一致的密度是足够光滑的。在这个光滑的制度,我们然后证明,我们的估计是渐近正态的,构造渐近置信区间,并建立一个Berry-Eschéen风格的不等式特征的收敛到正态的速度。我们还证明了该估计量是极小极大最优的。
2014-10-30 stat.ML
Estimators from Convex Geometries of the Simplex
TU Dortmund University(多特蒙德工业大学)
本文统一概率单纯形的多种几何结构,基于不同势函数推导对应估计量,补充Levi-Civita联系的估计量,还探讨Aitchison几何与Pal-Wong传输成本对称化的性质。
2026-10-16 math.ST stat.TH
Convergence of the Inexact Langevin Algorithm in KL Divergence with Application to Score-based Generative Models
Department of Statistics and Data Science, Yale University(耶鲁大学统计与数据科学系);Department of Computer Science, Yale University(耶鲁大学计算机科学系)
本文研究了在KL散度下近似兰格-恩算法的收敛性,基于分数生成模型的应用,提出了稳定偏置收敛保证,并探讨了如何获得可证明准确的分数估计器。
2026-03-28 cs.LG math.ST stat.TH
Generalized Wald-type Tests based on Minimum Density Power Divergence Estimators
在假设检验中,检验的稳健性是一个重要问题。通常,基于极大似然的测试在标准正则条件下是最有效的,但是即使在与假设条件的小偏差下,它们也是高度非鲁棒的。在本文中,我们提出了广义Wald型测试的基础上最小密度功率发散估计参数假设。该方法避免了非参数密度估计的使用和带宽的选择。效率和鲁棒性之间的权衡由调谐参数$β$控制。检验统计量的渐近分布是具有适当自由度的卡方分布。所提出的测试的性能进行了探讨,通过模拟和实际数据分析。
2015-03-07 stat.ME
Multivariate f-Divergence Estimation With Confidence
f-散度估计问题在机器学习、信息论和统计学领域中很重要。虽然存在几个非参数散度估计,相对较少的已知收敛性。特别是,即使对于那些估计的MSE收敛速度是已知的,渐近分布是未知的。我们建立了一个最近提出的合奏估计的f-发散两个分布之间的有限数量的样本的渐近正态性。该估计器具有O(1/T)的MSE收敛速度,易于实现,并且在高维情况下表现良好。该理论使我们能够执行基于发散的推理任务,例如基于经验样本测试分布对的相等性。我们实验验证我们的理论结果,并作为一个例子,使用它们来经验约束最佳可实现的分类错误。
2014-11-07 cs.IT math.IT stat.ML
Statistical Inference based on Bridge Divergences
M-估计提供了简单的稳健的替代极大似然估计。然而,大部分的鲁棒性文献,集中在位置,位置规模和回归估计的问题,而不是一般参数的估计。密度幂散度(DPD)和对数密度幂散度(LDPD)测度在一般参数模型中提供了两类竞争M-估计(由散度得到),其中MLE作为特例。在这些家庭中的每一个,估计的鲁棒性是通过密度功率下加权离群观测。这两个家庭已被证明是非常有用的工具,在该地区的鲁棒推理。然而,这两个族的最小距离估计之间的关系和层次尚未得到全面的研究或完全建立。给定一组特定的真实数据,如何从这两类分歧的并集中选择一个最优成员?在本文中,我们提出了一个广义家庭的分歧,将上述两个类,这个家庭提供了一个光滑的桥梁之间的DPD和LDPD措施。这个系列有助于澄清和解决DPD和LDPD的重要系列之间的关系的几个长期存在的问题,除了是一个重要的工具,在不同领域的统计推断在其本身的权利。
2017-06-18 stat.ME
A note on estimation of quarticity based on spot volatility
Institute for Financial Studies, Shandong University(山东大学金融研究院)
本文提出一种直观的四次矩估计方法,推导其中心极限定理,并比较其渐近方差与其他估计方法的差异。
2026-09-28 math.PR math.ST stat.TH
Divergence-based robust inference under proportional hazards model for one-shot device life-test
在本文中,我们发展了稳健估计和测试的一杆设备测试下的比例风险假设的基础上的分歧措施。通过详细的蒙特卡罗模拟研究和数值例子,开发的推理程序被证明是更强大的比经典的程序,基于极大似然估计。
2020-04-28 stat.AP
Robust semiparametric inference for polytomous logistic regression with complex survey design
分析复杂调查方案(如分层或整群抽样)的多分类响应在一些社会经济学应用中非常重要。本文给出了多分类逻辑斯谛回归模型的一类最小拟加权密度幂离估计。这个家庭的半参数估计是一个强大的推广的最大拟加权似然估计,利用流行的密度功率发散措施的优势。相应地,还导出了设计效应的鲁棒估计。利用新的估计量对回归系数进行了一般线性假设的稳健检验。理论上研究了它们的渐近分布和鲁棒性,并通过数值算例和广泛的蒙特卡罗研究进行了经验验证。
2019-04-03 math.ST stat.AP stat.ME
Uniform-in-bandwidth consistency for nonparametric estimation of divergence measures
我们提出了连续分布之间的发散测度的非参数估计。我们的方法是基于一个插件的核型估计的密度函数。我们给出了建议估计的带宽一致性的一致性。因此,还提供了其渐近100%置信区间。
2014-06-23 stat.ME
Minimax Optimal Estimation of KL Divergence for Continuous Distributions
从完全相同且独立分布的样本中估计Kullback-Leibler散度是一个重要的问题。一个简单而有效的估计是基于这些样本之间的k个最近邻距离。在本文中,我们分析了这种估计的偏差和方差的收敛速度。此外,我们推导出了极大极小均方误差的下界,并证明了kNN方法是渐近速率最优的。
2020-02-26 cs.IT math.IT stat.ML
Discriminating between two models based on Bregman divergence in small samples
最近在[1,2]中,Ali-Akbar Bromideh引入了库尔贝克-莱布勒散度(KLD)检验统计量来区分两个模型。研究发现,在小样本量的情况下,最小Kulback-Leibler散度比(RMKLD)比最大似然比(RML)更有效。本文的目的是推广Ali-Akbar Bromideh的工作,提出一种基于Bregman分歧的假设检验,以改进模型的选择过程。我们的方法与他不同。在观察了n个未知密度f的数据点后,我们首先测量偏差降低的核密度估计与第一个估计的候选模型之间的接近度。其次,在偏差减少的核密度估计和第二估计候选模型之间。在这两种情况下,使用Bregman散度(BD)和偏差降低的核估计量[3],重点是提高核密度估计量的收敛速度。因此,我们的模型选择检验程序基于模型选择检验统计量值与标准正态表中临界值的比较。我们建立了Bregman散度估计的渐近性质,并推导了幂函数的逼近式。多步MLE过程将用于估计模型的参数。我们解释了一个真实的数据集和数据生成过程(DGP)的BD的适用性。将使用蒙特卡罗模拟和数值分析来解释结果。
2017-09-29 stat.ME
On Semi-supervised Estimation of Discrete Distributions under f-divergences
该研究针对双变量联合概率质量函数的半监督估计问题,验证了单变量极小极大估计器组合在1≤p≤2的l^p_p损失及KL、χ²等多种f散度下的极小极大最优性,填补了相关研究空白。
2024-05-15 cs.IT math.IT math.ST
Divergence Measures Estimation and Its Asymptotic Normality Theory Using Wavelets Empirical Processes
本文给出了广义$ϕ$ -发散测度的渐近理论,其中包括最常见的发散测度:Renyi族和Tsallis族以及Kullback-Leibler测度.而不是使用Parzen非参数估计的概率密度函数的差异估计,我们使用小波的方法和几何的Besov空间。单侧和双侧统计检验以及对称化估计。在一般情况下得到了几乎处处收敛速度和渐近正态性定理,并对Renyi族和Tsallis族以及Kullback-Leibler测度进行了特殊化.结果的适用性通常的分布函数的地址。
2017-04-14 stat.ME
Influence Function Analysis of the Restricted Minimum Divergence Estimators : A General Form
最小散度估计已被证明是鲁棒推理领域的有用工具。使用经典的影响函数来衡量这种估计的鲁棒性。然而,在许多复杂的情况下,如使用发散检验复合假设,需要将估计量限制在参数空间的某个子空间中。这些限制最小散度估计的稳健性是非常重要的,以便有全面的鲁棒推理。在本文中,我们提供了一个全面的描述的鲁棒性的限制估计的影响函数的一般类密度为基础的分歧,以及他们的无限制版本。特别地,一些流行的最小散度估计的鲁棒性也被证明在某些通常的限制。因此,本文提供了一个一般框架的影响函数分析的一大类最小散度估计有或没有限制的参数。
2014-03-25 math.ST stat.TH
Inclusive KL Gradient Flows: Otto-Wasserstein, Fisher-Rao-Gaussian, and Local-Estimator Dynamics
Department of Mathematics, KTH Royal Institute of Technology(数学系,皇家理工学院)
建立统一的包含性KL推理梯度流和PDF框架,表明最大均值差异最小化可视为含近似梯度估计器的包含性KL推理,还开发了直接针对包含性KL散度的梯度流,为高斯变分推理提供基础。
2026-07-07 cs.LG math.OC stat.ML
Post Selection Inference with Incomplete Maximum Mean Discrepancy Estimator
测量两个分布之间的差异在机器学习和统计学中是必不可少的,并且具有各种应用,包括二进制分类,变点检测和双样本测试。此外,在大数据时代,设计可解释的、能够处理高维复杂数据的分歧度量变得非常重要。在本文中,我们提出了一个后选择推理(PSI)框架的分歧措施,它可以选择一组统计上显着的特征,区分两个分布。具体来说,我们采用了添加剂的最大均值差异(MMD)的功能,并介绍了一个一般的假设检验PSI。提出了一种新的基于不完全U-统计量的MMD估计器,该估计器具有渐近正态分布(在较弱的假设下),在PSI中具有较高的检测能力。通过合成和真实世界的特征选择实验,我们表明,该框架可以成功地检测统计上显着的功能。最后,我们提出了一个样本选择框架,用于分析生成对抗网络(GANs)家族中的不同成员。
2018-02-17 stat.ML
A note on the g and h control charts
在本说明中,我们将重新讨论$g$和$h$控制图,这两种控制图通常用于监控两次连续出现不合格之间的合格案例数。这些图表中的过程参数通常是未知的,通常采用极大似然估计和最小方差无偏估计量进行估计。然而,最小方差无偏估计量在质量工程文献中的应用一直是不恰当的。这一观察促使我们提供正确的最小方差无偏估计量,并研究这些估计量的理论和经验偏差。鉴于这些图表的基础上开发的基本假设,从过程中的样本应该是平衡的,这往往是不满意的,在许多实际应用中,我们提出了一种方法来构建这些图表与不平衡的样本。
2021-01-22 stat.AP
Approximating $f$-Divergences with Rank Statistics
Department of Mathematics, Technical University of Munich \& Munich Center for Machine Learning, Germany. The majority of the work was conducted while at the Institute of Mathematics at the Technical University of Berlin, Germany \& the Berlin Mathematical School.;Department of Signal Theory
提出一种基于秩统计量的 $f$-散度近似方法,通过直接处理秩分布避免显式密度比估计,并证明其单调性、下界性质及收敛速率,同时扩展到高维数据的切片版本。
2026-06-01 cs.LG stat.ML
A technical note on divergence of the Wald statistic
Wald检验统计量已被证明在某些条件下存在差异(Dufour et al,2013,2017)。本文将发散与多项式矩阵的特征值联系起来,并建立了发散率。
2019-06-13 math.ST stat.TH
Several Applications of Divergence Criteria in Continuous Families
本文讨论了四种基于假设分布和经验分布之间信息论分歧最小化的点估计。这些是由(i)Liese & Vajda(2006)和独立的Broniatowski & Keziou(2006)引入的,这里称为幂超发散估计,(ii)由Broniatowski & Keziou(2009)引入的,这里称为幂次发散估计,(iii)由Basu等人(1998)引入的,这里称为幂伪距离估计,以及(iv)Vajda(2008)在这里称为Renyi伪距离估计量。本文研究和比较了这些估计量的相合性和影响曲线等一般性质,并通过详细分析它们在正态分布位置和尺度估计中的应用来说明这些性质。
2009-11-04 math.ST stat.TH
Robust Nonparametric Two-Sample Tests via Mutual Information using Extended Bregman Divergence
Novartis AG(诺华公司)
本文提出基于扩展Bregman散度的互信息非参数两样本检验,具有稳健性和高渐近效率,通过模拟验证其在污染下的优越性能。
2026-02-03 stat.ME
Lecture Notes on High Dimensional Linear Regression
本讲义系统介绍了高维线性回归中关键估计量的理论性质与计算方法,适合深入理解机器学习统计理论的学生
2025-12-03 stat.CO stat.ME stat.ML
Technical Note: Targeted Maximum Likelihood Estimator for an ATE Standardized for New Target Population
本文提出一种 TMLE,用于在目标人群仅观测基线协变量且结局存在缺失或右删失时,将源人群的 ATE 标准化并迁移到新目标人群。
2025-01-10 stat.ME
Asymptotic Breakdown Point Analysis for a General Class of Minimum Divergence Estimators
本文推导了最小S-散度估计量(含最小DPD估计量)的渐近崩溃点下界,该下界与数据维度无关,证实了其在高维数据稳健推断中的实用性。
2025-02-14 math.ST stat.TH
Dual divergences estimation for censored survival data
研究了右删失数据下参数模型的基于对偶发散估计的抗差估计。我们给出了所提出的估计量的极限定律,并通过模拟研究检验了它们的渐近性质。
2011-06-14 math.ST stat.TH
Asymptotic Properties of Minimum S-Divergence Estimator for Discrete Models
基于最小化统计偏差的鲁棒推理已被证明是基于极大似然和相关方法的经典技术的有用替代方案。最近Ghosh et al.(2013)提出了一类广义的散度测度,即S-Divergence族,并通过一些数值例子讨论了它在稳健参数估计中的有用性。在本文中,我们研究了离散模型下所提出的最小S-散度估计量的渐近性质。
2014-06-25 math.ST stat.ME stat.TH
Robust parameter estimation of the log-logistic distribution based on density power divergence estimators
本文针对对数逻辑分布的尺度与形状参数提出MDPDE稳健估计,证明MLE为其特例且影响函数有界,并通过模拟显示其以轻微效率损失换取显著稳健性提升。
2023-12-05 math.ST stat.TH
On minimum Bregman divergence inference
本文提出了一类新的基于Bregman散度的最小散度估计。流行的密度幂发散(DPD)估计类是Bregman发散的一个子类。我们提出并研究了一类新的Bregman分歧,称为指数加权分歧(EWD)。与最小DPD估计量一样,最小EWD估计量被认为是M估计量。这种特性是有用的,同时讨论的渐近行为以及这类估计的鲁棒性。这两个类的性能进行比较-无论是通过模拟,以及通过现实生活中的例子。我们开发了一个估计过程,不仅为独立和均匀的数据,但也为非均匀的数据。一般测试的参数假设的基础上的Bregman分歧也被认为是。我们建立了我们提出的检验统计量的渐近零分布,并探讨其行为时,应用于实际数据。新的EWD分歧产生的推理程序似乎是有竞争力的或更好的,比DPD为基础的程序。
2020-08-16 math.ST stat.ME stat.TH