Local Differential Privacy Is Equivalent to Contraction of $E_γ$-Divergence
Harvard University（哈佛大学）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
研究了随机隐私机制的局部差分隐私（LDP）保证.我们首先表明，LDP约束可以等价地投在收缩系数的$E_γ$发散。然后，我们使用这个等价的公式来表示LDP保证的隐私机制的任意$f$ -分歧的收缩系数。当结合标准的估计理论工具（如Le Cam和Fano的逆方法），这一结果使我们能够研究隐私和效用之间的权衡在几个测试和极大极小和贝叶斯估计问题。
2021-02-02 cs.IT cs.LG math.IT
On Bayesian Estimation via Divergences
在本说明中，我们介绍了一种新的方法，贝叶斯推理通过使用$ϕ$ -分歧和对偶技术。建立了估计的渐近律。
2011-12-26 math.ST stat.ME stat.TH
On default priors for robust Bayesian estimation with divergences
本文提出了基于分歧的抗野值贝叶斯估计的客观先验。最小$γ$ -散度估计是众所周知的工作，以及对严重污染的估计。近年来，基于分歧的准后验分布的稳健贝叶斯方法也被提出。在客观贝叶斯框架下，在这种准后验分布下，违约先验分布的选择是一个重要问题。本文基于$γ$ -散度，给出了准后验分布下参考先验和矩匹配先验的一些性质。特别是，我们表明，所提出的先验近似鲁棒的污染分布的条件下，不假设任何条件的污染率。一些模拟研究也被提出。
2020-12-18 stat.ME
Uniform-in-bandwidth consistency for nonparametric estimation of divergence measures
我们提出了连续分布之间的发散测度的非参数估计。我们的方法是基于一个插件的核型估计的密度函数。我们给出了建议估计的带宽一致性的一致性。因此，还提供了其渐近100%置信区间。
2014-06-23 stat.ME
A simulation study of semiparametric estimation in copula models based on minimum Alpha-Divergence
本文的目的是介绍两种估计copula参数的半参数方法。这些方法是基于最小α-散度之间的非参数估计copula密度使用局部似然概率单位变换方法和一个真正的copula密度函数。一个蒙特卡罗研究进行测量这些方法的性能的基础上，海林格距离和奈曼分歧的特殊情况下，阿尔法发散。仿真结果进行了比较，最大伪李克图（MPL）估计作为一种传统的估计方法，在著名的二元Copula模型。这些结果表明，基于最小伪Hellinger距离估计的方法在小样本量和弱相关性的情况下具有良好的性能。将参数估计方法应用于水文学中的一个实际数据集。
2020-09-11 stat.ME stat.OT
Weighted cumulative past inaccuracy and Kullback-Leibler divergence based on extropy: properties, estimation, and applications
National Institute of Technology Rourkela（印度国家技术学院劳尔基分校）
该研究基于超熵提出WCPEI、WCPED等加权度量指标，推导其理论性质与非参数估计方法，通过模拟验证估计量表现，并将其应用于均匀性检验与图像像素强度分布分析。
2026-08-14 math.ST stat.ME stat.TH
Dual $ϕ$-divergences estimation in normal models
研究了正态位置模型下由$ϕ$ -发散的对偶表示得到的一类稳健估计。这类估计的成员进行了比较，发现他们是有效的真实模型，并提供了一个有吸引力的替代极大似然，在鲁棒性。
2011-08-15 stat.AP stat.CO stat.ME
Minimum ϕ-divergence estimation in constrained latent class models for binary data
本文的主要目的是介绍和研究二进制项的潜在类模型中最小散度估计作为极大似然估计的替代的行为。正如下面将变得清楚的那样，最小散度估计量是极大似然估计量的自然扩展。研究了二元数据隐类模型最小散度估计的渐近性质.最后，为了比较这些新的估计量与极大似然估计量在样本量不足以应用渐近结果时的效率和稳健性，我们进行了模拟研究。
2014-05-31 stat.ME
$β$-Divergence loss for the kernel density estimation with bias reduced
尽管非参数核密度估计是目前探索性数据分析中的标准方法，但如何评价估计的质量以及选择何种带宽是最佳的，仍存在很大的争议。本文研究了带偏差减少的核密度估计中最重要的带宽选择方法，特别是正态参考法、最小二乘交叉验证法、有偏交叉验证法和$β$ -散度损失法。描述了方法并给出了表达式。我们将在模拟数据上比较这些不同的带宽选择器。作为真实数据的示例，我们将在示例1和示例2中使用人均CO2计量经济数据集
2019-03-25 stat.ME
Direct Debiased Machine Learning via Bregman Divergence Minimization
本文提出一个直接去偏机器学习框架，通过最小化 Bregman 散度统一了 Riesz 回归、协变量平衡、TMLE 和密度比估计，有效消除机器学习代入识别方程时的第一阶段偏差。
2025-10-30 cs.LG econ.EM math.ST
Divergence-based Robust Generalised Bayesian Inference for Directional Data via von Mises-Fisher models
School of Data Science, Meisei University（明成大学数据科学学院）；RIKEN Center for Brain Science（理化学研究所脑科学中心）；School of Business Administration, Meiji University（明治大学商学院）；Department of Information Sciences, Tokyo University of Science（东京科学技术大学信息科学系）
本文提出基于密度幂发散和γ-发散的贝叶斯推断方法，用于稳健估计方向数据的参数，通过模拟和真实数据验证其有效性。
2025-12-24 math.ST stat.CO stat.ME
Divergence Measures Estimation and Its Asymptotic Normality Theory Using Wavelets Empirical Processes
本文给出了广义$ϕ$ -发散测度的渐近理论，其中包括最常见的发散测度：Renyi族和Tsallis族以及Kullback-Leibler测度.而不是使用Parzen非参数估计的概率密度函数的差异估计，我们使用小波的方法和几何的Besov空间。单侧和双侧统计检验以及对称化估计。在一般情况下得到了几乎处处收敛速度和渐近正态性定理，并对Renyi族和Tsallis族以及Kullback-Leibler测度进行了特殊化.结果的适用性通常的分布函数的地址。
2017-04-14 stat.ME
Robust minimum divergence estimation in a spatial Poisson point process
针对物种分布建模中似然分析因模型错误设定而不稳健的问题，提出一种基于泊松点过程新散度的稳健估计方法，通过对对数似然方程加权减轻异质观测影响，提升了预测性能。
2023-06-30 stat.ME
Bayesian estimation of the Kullback-Leibler divergence for categorical sytems using mixtures of Dirichlet priors
本文提出基于狄利克雷先验混合的贝叶斯方法估计Kullback-Leibler散度，并扩展至平方Hellinger散度，在类别多和散度值高时优于其他估计技术。
2023-07-09 cs.IT math.IT physics.data-an
Robust Empirical Bayes Small Area Estimation with Density Power Divergence
一个两阶段的正常层次模型称为费伊-赫里奥特模型和经验贝叶斯估计被广泛用于提供间接和基于模型的估计手段在小面积。然而，当假设的正态分布被错误指定时，经验贝叶斯估计的性能可能很差。在这篇文章中，我们提出了一个简单的修改，通过使用密度功率发散，并提出了一个新的鲁棒经验贝叶斯小区域估计。基于模型参数鲁棒估计的渐近性质，推导出了估计量的均方误差和估计的均方误差。我们调查所提出的方法，通过模拟和应用调查数据的数值性能。
2019-08-23 stat.ME
Estimation for conditional moment models based on martingale difference divergence
针对条件矩模型估计问题，提出基于鞅差散度（MDD）的估计方法，采用不可积权重函数提升效率，通过两阶段流程解决截距参数识别问题，推导其渐近性质并通过模拟与实例验证有效性。
2024-04-17 econ.EM stat.ME
Minimum Density Power Divergence Estimation for the Generalized Exponential Distribution
针对降雨数据中的异常值问题，本文采用最小密度幂散度估计（MDPDE）方法估计广义指数分布参数，推导了估计方程与渐近分布，并通过影响函数和相对效率分析及模拟与真实数据验证，表明其稳健性和高效性优于现有方法。
2024-02-07 stat.ME
The B-Exponential Divergence and its Generalizations with Applications to Parametric Estimation
本文在Bregman散度的基础上提出了一类新的最小散度估计，其中定义的凸函数具有指数性质。这些估计避免了使用中间核密度的必要性，其中许多估计也具有很强的鲁棒性。它进一步表明，所提出的方法可以扩展到构建一类广义估计方程，其中所得到的估计池包括各种各样的最小散度估计和范围从高度鲁棒的调整参数的选择的基础上充分有效。所有得到的估计量都是M-估计量，其中定义函数明确使用参数模型的形式。这些估计的性质进行了详细讨论，理论结果证实了模拟和真实数据的例子。据观察，在许多情况下，从上述广义类的某些鲁棒估计提供更好的鲁棒性和效率之间的妥协相比，现有的标准。
2018-10-27 stat.ME
Beta Diffusion
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
提出Beta扩散，一种结合去掩蔽与去噪的乘性生成模型，适用于有限范围数据，并利用KL散度上界（KLUBs）优化，实验验证其有效性。
2023-12-25 cs.AI cs.LG stat.CO
Inequality Constrained Minimum Density Power Divergence Estimation in Panel Count Data
本文针对面板计数数据提出一种受不等式约束的稳健最小密度幂散度估计方法，采用序列凸规划求解，并研究其渐近性质，通过调谐参数平衡稳健性与效率，模拟和实例验证了方法的有效性。
2025-10-07 stat.AP stat.ME
Estimation of parametric and semiparametric mixture models using phi-divergences
混合模型的研究构成了统计学研究的一个大领域。在这项工作的第一部分中，我们提出了φ发散和现有的方法，产生强大的估计。我们对所谓的φ-发散的对偶公式更感兴趣。我们建立了一个新的鲁棒估计基于这个公式。我们研究了它的渐近性质，并给出了数值模拟数据与现有的方法进行比较。我们还介绍了一个近似点算法，其目的是计算基于发散的估计。我们给出了该算法的一些收敛性质，并在理论和仿真例子上说明了它们。在本文的第二部分中，我们建立了一个新的结构的两组分混合模型，其中一个组分是未知的。新的方法允许将事先的线性信息，如力矩类型和L-矩约束的未知组件。我们研究所提出的估计量的渐近性质。几个模拟数据的实验结果示出了新的方法的优点和增益，使用先验信息相比，现有的方法，不包括任何先验信息，除了对未知组件的对称性假设。
2016-11-24 stat.ME
Robust Independent Component Analysis via Minimum Divergence Estimation
独立成分分析（ICA）已被证明在许多应用中是有用的。然而，大多数ICA方法是敏感的数据污染和离群值。在这篇文章中，我们介绍了一个通用的最小U-发散ICA框架，其中包括一些标准的ICA方法作为特殊情况。在U族中，我们进一步关注伽马发散，由于其理想的超鲁棒性，这给出了所提出的方法gamma-ICA。严格研究了γ-ICA一致性的统计特性和技术条件。在极限情况下，它导致的MLE-ICA的一致性的一个必要和充分条件。这个充分必要条件比文献中已知的条件弱。由于ICA中感兴趣的参数是一个正交矩阵，因此本文引入了一种基于特殊正交群上梯度流的几何算法来实现gamma-ICA。此外，一个数据驱动的伽玛值，这是实现gamma-ICA的关键选择，开发。与标准ICA方法相比，gamma-ICA的性能，特别是鲁棒性，通过使用模拟数据和图像数据的实验研究证明。
2012-10-20 stat.ME
Adaptive LASSO Penalized Minimum Density Power Divergence Estimation through Least Squares Approximation: Application to Bone Mineral Density Data from the SWAN Study
Indian Institute of Technology (Indian School of Mines)（印度理工学院（印度矿业学院））
针对线性混合效应面板数据模型对污染和协变量敏感的问题，提出基于最小二乘近似的自适应LASSO惩罚DPD估计方法，兼具稳健性与计算效率，模拟和SWAN骨密度数据验证了其优势。
2026-09-29 stat.AP stat.ME
Empirical Survival Jensen-Shannon Divergence as a Goodness-of-Fit Measure for Maximum Likelihood Estimation and Curve Fitting
决定系数称为$R^2$，通常用作拟合线性模型的拟合优度标准。在拟合非线性模型时，$R^2$有些争议，尽管它可以根据具体情况进行推广，以处理特定模型，如logistic模型。假设我们使用极大似然估计方法将参数分布拟合到数据集。测量拟合参数的拟合优度的一般方法是使用非参数测量来比较包括原始数据的经验分布和拟合模型。特别是，为了这个目的，我们提出了生存詹森-香农发散（$SJS$）和它的经验对应（${\cal E}SJS$）作为一个度量，这是有界的，是一个自然的概括詹森-香农发散。我们证明，通过一个简单的程序，利用${\cal E}SJS$，它可以被用作极大似然估计或曲线拟合的一部分，作为一个衡量拟合优度，包括建设一个置信区间的拟合参数分布。此外，我们用模拟数据和三个经验数据集证明了所提出方法的有效性。
2019-06-04 physics.data-an q-fin.ST stat.ME
Change-Point Detection in Time-Series Data by Relative Density-Ratio Estimation
Tokyo Institute of Technology（东京工业大学）；NTT Communication Science Laboratories（NTT通信科学实验室）；National Institute of Informatics (NII)（国立信息学研究所）；European Bioinformatics Institute (EBI)（欧洲生物信息研究所）
变点检测的目的是发现隐藏在时间序列数据背后的属性突变。在本文中，我们提出了一种新的统计变点检测算法的基础上非参数的分歧估计之间的时间序列样本从两个回顾段。我们的方法使用相对皮尔逊散度作为散度度量，它是准确和有效的估计方法的直接密度比估计。通过对人工和真实世界的数据集，包括人类活动传感，语音和Twitter消息的实验，我们证明了所提出的方法的实用性。
2013-01-16 cs.LG stat.ME stat.ML
Robust Estimation of Polychoric Correlation for Complex Survey Designs Using Minimum Divergence Methods
George Mason University（乔治梅森大学）
针对调查数据污染问题，提出基于Hellinger距离和负指数差异的鲁棒多分格相关估计器，结合Horvitz-Thompson调整频率，并引入惩罚岭和Lasso变体，理论证明一致性和渐近正态性，模拟实验展示不同污染场景下的性能优势。
2026-06-26 stat.ME
Minimum Density Power Divergence Estimation for the Gamma Distribution with Applications to Robust Rainfall Modeling
Indian Institute of Technology Kanpur（坎普尔印度理工学院）
研究针对降雨数据建模，基于最小密度功率散度估计器（MDPDE）开发双参数伽马分布的稳健估计框架，推导估计方程，建立理论性质并通过模拟和实例分析其性能，该方法在稳健性和效率间取得平衡。
2026-07-07 stat.AP stat.ME
Robust Genomic Prediction and Heritability Estimation using Density Power Divergence
本文提出一种基于最小密度幂散度估计器（MDPDE）的稳健统计框架，结合一阶段与两阶段线性混合模型进行基因组预测与遗传力估计，在数据污染下表现出优于现有方法的稳健性与准确性。
2024-11-14 q-bio.GN stat.AP stat.ME
