On the Equivalence of f-Divergence Balls and Density Bands in Robust Detection
本文讨论了两个复合假设的极小极大最优统计检验问题，其中每个假设由一个非参数不确定性的可行分布集定义。证明了对于每一对f-发散球型的不确定性集，都可以构造一对密度带型的不确定性集，这一对密度带型的不确定性集是等价的，因为它允许同一对最不利分布.这一结果意味着稳健性测试下的$f$发散球的不确定性，这通常是唯一的最小最大的单样本情况下，也是固定的样本量最小最大最优相对于等效密度带的不确定性集。
2018-04-16 math.ST stat.TH
Asymptotic minimax risk of predictive density estimation for non-parametric regression
本文研究了非参数回归模型中未来观测值的预测密度估计问题。密度估计Kullback-Leibler发散下进行评估，我们的重点是在高斯误差的情况下建立极小极大风险的精确渐近性。我们推导出了高斯先验下贝叶斯预测密度之间的极小极大风险的收敛速度和常数，并证明了这种极小极大风险与所有密度估计之间的极小极大风险是渐近等价的。
2010-10-11 math.ST stat.TH
Robust Inference Using the Exponential-Polynomial Divergence
基于密度的最小发散程序代表参数统计推断中的流行技术。它们结合了强大的鲁棒性和高（有时是全）渐近有效性。在基于密度的最小距离方法中，基于Bregman散度的方法具有一个吸引人的特性，即散度的经验公式不需要使用任何非参数平滑技术，如核密度估计。基于密度功率发散（DPD）的方法代表了这一研究领域的当前标准。在本文中，我们将提出一个更广义的分歧，包括DPD作为一个特殊的情况下，并产生几个新的选项，提供更好的鲁棒性和效率之间的妥协。
2020-12-21 stat.ME
Nonparametric Estimation of Renyi Divergence and Friends
本文考虑连续分布之间$L_2$，Renyi- $α$和Tsallis- $α$分歧的非参数估计.我们的方法是构造两个密度的特定积分泛函的估计，并将其转化为发散估计。对于积分泛函，我们的估计是基于初步插件估计的校正。我们证明了当密度的光滑度$s$都至少为$d/4$时，这些估计达到了$n^{-1/2}$的参数收敛速度，其中$d$是维数。我们还推导出极大极小下界这个问题，确认$s > d/4$是必要的，以实现$n^{-1/2}$收敛速度。我们验证了我们的理论保证与一些模拟。
2014-05-12 math.ST stat.ML stat.TH
Minimum divergence estimators, maximum likelihood and exponential families
本文证明了参数模型中两个分布之间散度的对偶表示公式。由此产生的参数的发散估计。这些估计量不使用任何分组或平滑。证明了在任意正则指数族上，所有的可微发散都导出了参数的相同估计，这就是极大似然估计。
2011-08-20 stat.ME
Projection Theorems of Divergences and Likelihood Maximization Methods
发散的投影定理使我们能够找到一个发散在一个特定的统计模型上的反向投影，作为一个发散在一个不同的但更“简单”的统计模型上的正向投影，这反过来又导致求解一个线性方程组。发散的反向投影与稳健统计中的极大似然估计及其变体等各种估计方法密切相关。我们考虑了鲁棒统计中广泛使用的三个参数型发散族的投影定理，即Rényi发散（或Cressie-Reed幂发散）、密度幂发散和相对$α$ -熵（或对数密度幂发散）.我们从通常的似然最大化方法和充分性原则探讨这些投影定理。特别地，我们证明了用各自发散的投影定理和直接求解相应的估计方程来解决估计问题的等价性。我们还导出了密度幂发散的投影定理。
2017-06-16 cs.IT math.IT math.PR
Divergences and Duality for Estimation and Test under Moment Condition Models
我们介绍了通过散度最小化模型满足线性约束与未知参数的估计和测试程序。这些程序扩展了经验似然（EL）方法，并与广义经验似然方法具有共同的特征。本文讨论了符号有限测度集上概率分布的发散投影的存在性和特征。我们给出了这类估计和检验统计量的对偶性的一个精确刻画，并利用它在零假设和替换或误设下导出了它们的极限分布（包括EL估计和EL比统计量）.推导出幂函数的近似值以及样本量，以确保给定替代方案的所需功效。
2011-11-11 math.ST stat.TH
Divergences Test Statistics for Discretely Observed Diffusion Processes
在本文中，我们建议使用$ϕ$ -分歧作为检验统计量，以验证简单的假设，一维参数扩散过程$\de X_t = b(X_t, θ)\de t + σ(X_t, θ)\de W_t$，从离散观测$\{X_{t_i}, i=0, ..., n\}$与$t_i = iΔ_n$，$i=0, 1, >..., n$，下的渐近计划$Δ_n\to0$，$nΔ_n\to\infty$和$nΔ_n^2\to 0$。$ϕ$ -分歧类是一个很广的类，它包括了Kullback-Leibler，Rényi，幂和$α$ -分歧等几个特殊的成员.我们基于$ϕ$ -分歧导出了检验统计量的渐近分布。根据$ϕ$的规律性，极限定律采取不同的形式。这些收敛性不同于独立同分布随机变量的经典结果。数值分析被用来显示小样本性质的检验统计量的估计水平和权力的测试。
2008-08-06 math.PR math.ST stat.AP
Ricci curvature for parametric statistics via optimal transport
我们详细阐述了参数化统计模型的里奇曲率下界的概念。在洛特-斯特鲁姆-维拉尼的开创性思想之后，我们基于Wasserstein统计流形中Kullback-Leibler散度的测地凸性定义了这个概念，Wasserstein统计流形是一个具有Wasserstein度量张量结构的概率分布流形。在这些定义中，里奇曲率与信息几何和Wasserstein几何都有关。这些定义使我们能够制定的收敛速度的Wasserstein梯度流和信息功能的不等式在参数空间的界限。我们讨论了指数族模型的里奇曲率下界和收敛速度的例子。
2020-12-31 cs.IT math.IT math.ST
Empirical non-parametric estimation of the Fisher Information
费舍尔信息矩阵是统计信号处理中的一个基本概念。该函数依赖于概率分布，假设它属于一个光滑的参数族。传统的估计概率密度的方法需要估计概率分布函数（PDF）或其参数以及其梯度或Hessian。然而，在许多实际情况下，数据的PDF是未知的，但统计人员可以访问任何参数值的观察样本。在这里，我们提出了一种方法，估计直接从采样数据，不需要知识的基础PDF的。该方法基于参数空间局部邻域上的$f$ -散度的非参数估计以及$f$ -散度的曲率与散度之间的关系。因此，我们获得了FIM的经验估计量，该估计量不需要密度估计并且是渐进一致的。我们经验评估我们的方法使用两个实验的有效性。
2014-11-16 cs.IT math.IT stat.CO
A procedure for the change point problem in parametric models based on phi-divergence test-statistics
本文研究了一般参数分布族的变点问题。一个信息理论的程序开发，这是基于一般的分歧措施，用于测试的假设存在的变化。为了比较新的检验统计量的准确性，进行了模拟研究的特殊情况下的单变量离散模型。最后通过一个经典的变点算例说明了本文提出的方法。
2011-07-05 math.ST stat.TH
Robust Parametric Inference for Finite Markov Chains
我们考虑的问题，在一个参数有限马尔可夫链模型的统计推断和开发一个强大的估计参数定义的转移概率通过最小化一个合适的（经验）版本的流行的密度功率发散。基于一阶平稳马尔可夫链的长观测序列，定义了参数的最小密度幂离估计（MDPDE），并在适当的条件下严格推导了其渐近性质和鲁棒性质. MDPDE的性能说明了理论以及经验有限马尔可夫链模型的一些常见的例子。并结合两个马尔可夫链序列的参数比较，讨论了它在统计假设稳健性检验中的应用。对于多重马尔可夫链、高阶马尔可夫链和具有时间依赖转移概率的非平稳马尔可夫链，也简要讨论了MDPDE的几个扩展方向和相关的推论.最后，我们的建议被应用于分析企业信用评级迁移数据的三个国际市场。
2021-03-21 math.PR stat.ME
Information Theoretic Structure Learning with Confidence
Yale University（耶鲁大学）；University of Michigan（密歇根大学）
信息论的措施（如Kullback Liebler分歧和香农互信息）已被用于探索可能的非线性多元依赖在高维。如果假设这些依赖关系遵循马尔可夫因子图模型，则该探索过程称为结构发现。对于离散值样本，估计的信息分歧的参数类多项式模型导致结构发现方法的均方误差实现参数收敛率的样本大小的增长。然而，这种方法的一个天真的应用程序连续非参数多变量模型收敛得慢得多。在本文中，我们介绍了一种新的方法，非参数结构的发现，使用加权系综发散估计，实现参数收敛速度，并遵守渐近中心极限定理，有利于假设检验和其他类型的统计验证。
2016-09-13 cs.IT cs.LG math.IT
DUST: A Duality-Based Pruning Method For Exact Multiple Change-Point Detection
针对现有变点检测剪枝方法PELT和FPOP的局限，提出基于对偶性的DUST框架，通过评估对偶函数阈值剪枝候选变点，适用于任意维度参数模型，在保持精确性的同时显著提升计算效率。
2025-07-10 stat.CO stat.ME
The extended Bregman divergence and parametric estimation
在鲁棒推理领域，最小化数据密度和模型密度之间的统计距离已被证明是一种非常有用的技术。除了\cite{a}和\cite{b}的$ϕ$ -发散类之外，Bregman发散（\cite{c}）已被广泛用于此目的。然而，由于数据密度必须有一个线性的存在，在向量积项的Bregman分歧涉及的数据和模型的密度，几个有用的分歧不能捕捉到通常的Bregman形式。在这方面，我们提供了一个扩展的普通Bregman发散考虑指数的密度函数作为参数，而不是密度函数本身。我们证明，许多有用的分歧家庭，这不是通常Bregman分歧，可以容纳在这个扩展的描述。使用这个公式，人们可以开发许多新的家庭的分歧，这可能是有用的鲁棒推理。特别是，通过应用这个扩展，我们提出了新的类的GSB发散族。我们探讨了离散参数模型中最小GSB散度估计的适用性。仿真研究以及符合实际数据的例子来证明估计的性能，并证实理论发展。
2021-01-22 math.ST stat.TH
f-divergence estimation and two-sample homogeneity test under semiparametric density-ratio models
密度比由两个概率密度的比定义。研究了密度比的推断问题，并将半参数密度比估计应用于两样本齐性检验。在建议的测试程序中，两个概率密度之间的f-发散估计使用密度比估计。然后利用f-散度估计进行双样本齐性检验。在渐近方差意义下，我们得到了f-散度的最优估计，并研究了所提出的检验方法与现有的基于经验似然估计的score检验方法之间的关系.通过数值研究，我们说明了有限样本推理的渐近理论的充分性。
2010-10-24 stat.ML
Empirical Survival Jensen-Shannon Divergence as a Goodness-of-Fit Measure for Maximum Likelihood Estimation and Curve Fitting
决定系数称为$R^2$，通常用作拟合线性模型的拟合优度标准。在拟合非线性模型时，$R^2$有些争议，尽管它可以根据具体情况进行推广，以处理特定模型，如logistic模型。假设我们使用极大似然估计方法将参数分布拟合到数据集。测量拟合参数的拟合优度的一般方法是使用非参数测量来比较包括原始数据的经验分布和拟合模型。特别是，为了这个目的，我们提出了生存詹森-香农发散（$SJS$）和它的经验对应（${\cal E}SJS$）作为一个度量，这是有界的，是一个自然的概括詹森-香农发散。我们证明，通过一个简单的程序，利用${\cal E}SJS$，它可以被用作极大似然估计或曲线拟合的一部分，作为一个衡量拟合优度，包括建设一个置信区间的拟合参数分布。此外，我们用模拟数据和三个经验数据集证明了所提出方法的有效性。
2019-06-04 physics.data-an q-fin.ST stat.ME
On Unified Generalizations of Relative Jensen--Shannon and Arithmetic--Geometric Divergence Measures, and Their Properties
在本文中，我们将考虑一些非对称散度测度的参数推广。\textit{non-symmetric divergence measures}如：Kullback-Leibler \textit{relative information}、$χ^2-$ \textit{divergence}、\textit{relative J -- divergence}、\textit{relative Jensen -- Shannon divergence}和\textit{relative Arithmetic -- Geometric divergence}。所有考虑的推广都可以写成Csiszár的\textit{f-divergence}的特殊情况。通过对概率分布施加一些条件，本文的目的是发展这些测度的界及其参数推广。
2005-01-19 math.ST stat.TH
A Double Parametric Bootstrap Test for Topic Models
非负矩阵分解（NMF）是一种寻找数据潜在表示的技术。该方法已被应用于语料库构建主题模型。然而，NMF的可能性假设，这往往是违反了真实的文档语料库。我们提出了一个双参数bootstrap检验的库尔贝克-莱布勒散度和泊松极大似然估计的对偶的基础上评估适合的NMF为基础的主题模型。该测试正确地识别基于NMF方法的主题模型是否在模拟和真实数据中产生可靠的结果。
2017-11-21 stat.ML
Non-parametric latent modeling and network clustering
本文揭示了一种非参数的方法，潜在的和共潜在的双变量数据建模，交替最小化的库尔贝克-莱布勒散度（期望最大化算法）的完整的日志线性模型的基础上。对于分类数据，迭代算法生成列联表的行和列的软聚类。众所周知的结果是系统地重新审视，和一些变种可能是原来的。特别是，考虑方列联表诱导加权网络的聚类算法，不同于谱聚类或模块化最大化技术。此外，我们提出了一种适用于一般类型的HMM模型的联合聚类算法，不同于Baum-Welch算法。三个案例研究说明了这一理论。
2016-03-09 stat.ME
Inaccuracy and divergence measures based on survival extropy, their properties, and applications in testing and image analysis
该研究提出基于生存 extropy 的新型不准确度与散度度量及动态形式，解决现有度量不对称与范围受限问题，将其应用于图像分类、均匀分布拟合检验、指数分布刻画及失效时间数据分析，并验证了非参数估计量的性能。
2024-10-30 stat.AP
Parametric and Nonparametric Tests for Speckled Imagery
合成孔径雷达（SAR）作为一种远程成像方法具有举足轻重的作用。SAR图像是由相干光照射获得的，图像中存在相干斑噪声。这种污染的统计建模是很好地描述根据乘法模型和其隐含的G 0分布。SAR图像的理解和场景元素识别是该领域的一个重要目标。特别地，寻求可靠的图像对比工具。针对SAR图像对比度评价新工具的提出，研究了基于随机散度的SAR图像对比度评价新方法。我们提出了几个分歧的措施，专门为G 0分布的数据。我们还介绍了一个非参数的方法的基础上的Kolmogorov-Smirnov距离为G 0数据。我们设计和评估基于这些措施的测试，并根据其测试的大小和功率量化其性能。使用蒙特卡罗模拟，我们提出了一个稳健性分析的检验统计量和极大似然估计几个程度的创新污染。据确定，拟议的测试的基础上三角形和算术几何措施优于Kolmogorov-Smirnov方法。
2012-07-10 cs.GR stat.CO
Parametric dependence between random vectors via copula-based divergence measures
本文通过$Phi$ -分歧族提出了多组可能大小不同的随机变量之间基于Copula的依赖量化。为此目的提供了一个公理化的框架，之后，我们专注于绝对连续的设置假设Copula密度存在。我们考虑参数和半参数框架，讨论估计程序，并报告所提出的估计的渐近性质。特别是，我们首先集中在高斯copula方法产生明确的和有吸引力的依赖系数的特定选择的$Phi$，这是更适合估计。接下来，考虑一般参数copula族，特别注意嵌套的阿基米德copula，它是随机向量依赖建模的自然选择。通过实例说明了结果。模拟和现实世界的金融数据的应用程序也提供了。
2023-02-27 math.ST stat.ME stat.TH
A simulation study of semiparametric estimation in copula models based on minimum Alpha-Divergence
本文的目的是介绍两种估计copula参数的半参数方法。这些方法是基于最小α-散度之间的非参数估计copula密度使用局部似然概率单位变换方法和一个真正的copula密度函数。一个蒙特卡罗研究进行测量这些方法的性能的基础上，海林格距离和奈曼分歧的特殊情况下，阿尔法发散。仿真结果进行了比较，最大伪李克图（MPL）估计作为一种传统的估计方法，在著名的二元Copula模型。这些结果表明，基于最小伪Hellinger距离估计的方法在小样本量和弱相关性的情况下具有良好的性能。将参数估计方法应用于水文学中的一个实际数据集。
2020-09-11 stat.ME stat.OT
Towards a better understanding of the dual representation of phi divergences
本文的目的是研究不同的估计程序的基础上$φ-$分歧。基于Fenchel-Legendre对偶的$φ-$发散的对偶表示是本文的主要研究内容。它提供了一种方法来估计$φ-$分歧的经验分布的一个简单的插件，没有任何平滑技术。所得估计量进行了深入的理论研究和模拟表明，所谓的最小$φ-$发散估计（MD $φ$ DE）一般是非鲁棒性和行为类似的极大似然估计。我们给出了一些参数支持非鲁棒性属性，并给出了如何修改经典方法的见解。基于对偶表示，提出了另一类$φ-$发散稳健估计.我们研究的一致性和鲁棒性的影响函数的角度来看，新的估计。在第二部分中，我们调用Basu-Lindsay方法近似$φ-$分歧，并提供这些方法之间的比较。所谓的双$φ-$分歧也进行了讨论，并与我们的新估计。所有这些方法的一个完整的模拟研究，以比较效率和鲁棒性的所有提到的估计对所谓的最小密度功率发散，显示令人鼓舞的结果，有利于我们的新一类的最小双$φ-$分歧。
2015-10-10 stat.ME
Dual divergences estimation for censored survival data
研究了右删失数据下参数模型的基于对偶发散估计的抗差估计。我们给出了所提出的估计量的极限定律，并通过模拟研究检验了它们的渐近性质。
2011-06-14 math.ST stat.TH
On Bayesian Estimation via Divergences
在本说明中，我们介绍了一种新的方法，贝叶斯推理通过使用$ϕ$ -分歧和对偶技术。建立了估计的渐近律。
2011-12-26 math.ST stat.ME stat.TH
Some Generalized Information and Divergence Generating Functions: Properties, Estimation, Validation and Applications
该研究提出Rényi信息生成函数与Rényi散度信息生成函数，推导其性质与关联，给出两类估计量并通过仿真和真实数据验证其性能更优，还探索了其在系统不确定性度量、模型选择、混沌映射验证等场景的应用。
2025-02-24 math.ST stat.TH
Tsallis and Rényi deformations linked via a new $λ$-duality
察利斯熵和雷尼熵是彼此的单调变换，是著名的香农熵的变形。这些变形熵的最大化，在适当的约束下，导致$q$ -指数族，它在非广延统计物理，信息论和统计中有应用。在以往的信息几何研究中，$q$ -指数族是用经典的凸对偶和Bregman发散来分析的。本文证明了广义$λ$ -对偶（其中$λ= 1 - q$是常信息几何曲率）导致一个广义指数族，它与$q$ -指数族本质等价，并与Rényi熵和最优输运有着深刻的联系.使用这种广义凸对偶及其相关的对数发散，我们表明，我们的$λ$ -指数家庭满足的属性，平行和推广的指数家庭。在我们的框架下，Rényi熵和发散自然产生，我们给出了$q$ -指数族的Tsallis/Rényi熵极大化性质的一个新的证明.我们还引入了一个$λ$ -混合族，它可以看作是$λ$ -指数族的对偶，并将它与其它混合型族联系起来.最后，我们讨论了$λ$ -指数族和$λ$ -对数发散之间的对偶性，并研究了其统计后果。
2022-01-13 cs.IT math.IT math.PR
Divergence and Model Adequacy, A Semiparametric Case Study
本文研究矩约束下光滑半参数模型中基于散度推断的模型适配性条件，讨论散度选择并拓展参数推断范围，通过模拟验证了方法有效性。
2025-07-29 math.ST stat.TH
A new test procedure of independence in copula models via chi-square-divergence
我们引入了一个新的测试程序的框架下的参数copula未知边缘的独立性。该方法基本上是基于符号有限测度上$χ^2$ -发散的对偶表示。在原假设和备择假设下，研究了参数为内点和非检验统计量在简单极限分布和标准极限分布下的渐近性质.
2011-06-20 math.ST stat.TH
Optimization-centric cutting feedback for semiparametric models
National University of Singapore（新加坡国立大学）；Monash University（莫纳什大学）
本文提出一种以优化为中心的切割反馈方法，用于半参数模块推理，通过使用Rényi分歧而非Kullback-Leibler分歧提高鲁棒性，解决模型误标和先验-数据冲突问题。
2026-03-26 math.ST stat.CO stat.ME
Affine calculus for constrained minima of the Kullback-Leibler divergence
本文基于Amari对偶仿射信息几何的非参数版本，利用统计丛结构研究Kullback-Leibler散度的约束极小化计算，为均值场近似、对抗生成模型和变分贝叶斯等应用提供了简洁且具原则性的计算方法。
2025-04-04 math.ST stat.TH
New estimates and tests of independence in some copula models
利用$ϕ$ -发散和对偶技术，我们引入了新的估计和检验具有未知边际的Copula模型的独立性。当参数是参数空间的内值或边值时，得到了估计量和检验统计量的渐近律。仿真结果表明，选择$χ^2$ -发散在效率和鲁棒性方面具有良好的性能。
2011-06-21 math.ST stat.TH
Robust and Efficient Estimation in the Parametric Cox Regression Model under Random Censoring
Cox比例风险回归模型是分析截尾寿命变量与其他相关因素之间关系的常用工具。半参数Cox模型被广泛用于研究来自医学、生物学、可靠性研究等应用学科的不同类型的数据。如果适当指定，Cox回归模型的全参数版本可以产生更有效的参数估计，从而产生更好的洞察力。然而，现有的极大似然方法产生的推断下的全参数Cox回归模型是非常不稳健的数据污染，限制了它的实际应用。本文基于最小密度幂散度方法，给出了参数Cox回归模型的一种稳健估计方法。建议的最小密度功率发散估计被认为是产生高度稳健的估计数据污染下，只有轻微的损失，纯数据下的效率。此外，它们总是被认为比半参数Cox模型或其现有稳健版本下的基于似然的估计产生更精确的推断。我们还勾画了推导的渐近性质的估计，使用鞅的方法，并证明其鲁棒性理论上通过影响函数分析。通过仿真和一个实际数据例子说明了该建议的实用性和有效性。
2018-10-06 math.ST stat.ME stat.TH
Minimum divergence estimators, Maximum Likelihood and the generalized bootstrap
本文试图从经典的最大似然定义出发，为使用某些离散指数提供一个合理的解释，并将相应的基本推理原理应用于模型与数据的经验测度的某些扩展之间的指数最小化作为其自然扩张出现的情况。这导致了所谓的广义自举设置，其中最小发散推断似乎取代了最大似然估计。1动机和背景概率测度之间的差异被广泛用于统计和数据科学，以便在各种模型下进行推断，参数或半参数，甚至在非参数设置中。相应的方法扩展了似然范式，并在最小"距离"框架中插入了推理，这为在模型下或在误指定下得到的估计量和检验的性质提供了方便的描述。此外，它们为大量竞争性方法铺平了道路，这些方法允许在效率和鲁棒性之间进行权衡。已经提出了许多这样的分歧，其中一些来自经典统计学（如卡方），而另一些则起源于其他领域，如信息论。一些差异的度量涉及相应的概率测度的规律性，而另一些则似乎仅限于有限或可数空间上的度量，至少在将它们用作推理工具时是如此，此后在模型的元素必须面对数据集的情况下。在许多情况下，在特定背景下选择特定的差异度量是任意的，尽管由此得出的推断结论可能会相应地不同，尤其是在错误指定的情况下;然而，当目标是鲁棒性时，对这种方法的需求是明确的。
2020-11-03 math.ST stat.TH
Asymptotic analysis of covariance parameter estimation for Gaussian processes in the misspecified case
在高斯过程的协方差函数的参数估计中，经常会出现真实的协方差函数不属于用于估计的参数集的情况。这种情况称为错误指定的情况。在这种情况下，已经表明，对于观测点的不规则空间采样，交叉验证可以产生比最大似然比更小的预测误差。出于这一观察，我们提供了一个一般的渐近分析的误指定的情况下，独立和均匀分布的观察点。我们证明了最大似然估计渐近最小化Kullback-Leibler分歧，在错误指定的参数集，而交叉验证渐近最小化集成平方预测误差。在Monte Carlo模拟中，我们发现，最大似然法和交叉验证估计的协方差参数，以及相应的Kullback-Leibler分歧和综合平方预测误差，可以强烈对比。在一个更技术的层面上，我们提供了新的增加域的独立和均匀分布的观测点的渐近结果。
2015-11-12 math.ST stat.TH
Relative Density-Ratio Estimation for Robust Distribution Comparison
基于密度比的直接近似而不经过分子和分母密度的单独近似的发散估计已经成功地应用于涉及分布比较的机器学习任务，如离群值检测、迁移学习和两样本同质性检验。然而，由于密度比函数往往具有很大的波动性，在实际应用中，发散度的估计仍然是一个具有挑战性的任务。在本文中，我们建议使用相对分歧的分布比较，这涉及到相对密度比的近似。由于相对密度比总是比相应的普通密度比更平滑，我们提出的方法在非参数收敛速度方面是有利的。此外，我们表明，所提出的发散估计具有渐近方差独立的模型的复杂性下的参数设置，这意味着所提出的估计很难过拟合，即使与复杂的模型。通过实验，我们证明了所提出的方法的实用性。
2011-06-23 math.ST stat.ME stat.ML
A duality approach to the worst case value at risk for a sum of dependent random variables with known covariances
我们提出了一种方法来聚集的风险，这是基于估计的简单数量（如协方差）相关的向量的依赖随机变量，并避免使用参数家庭的copulae。我们的主要结果表明，该方法导致的最坏情况下的风险价值的相依随机变量之和的界限。它的证明适用于无穷维线性规划的对偶理论。
2009-12-09 math.PR math.ST q-fin.RM
Robust and Efficient Parameter Estimation for Discretely Observed Stochastic Processes
在各种实际情况下，我们遇到的随机过程中，可以有效地模拟一个适当的参数模型为后续的统计分析的数据。不幸的是，基于极大似然（ML）原理的最常见的估计和推断方法由于其众所周知的缺乏鲁棒性而容易受到与假设模型的微小偏差或数据污染的影响。由于替代的非参数程序往往失去显着的效率，在本文中，我们开发了一个强大的参数估计程序的离散观测数据的参数随机过程模型，利用良好的性能流行的密度功率发散措施的最小距离推断的框架。特别地，在这里我们定义了独立增量和马尔可夫过程的最小密度幂散度估计（MDPDE）。我们建立的渐近一致性和分布的结果，建议MDPDE在这些依赖的随机过程设置和说明他们的好处比通常的ML估计常见的例子，如泊松过程，漂移布朗运动和自回归模型。
2022-04-11 math.ST stat.ME stat.TH
Test for parameter change in the presence of outliers: the density power divergence based approach
本研究考虑了在异常值存在的情况下参数变化的检验问题。为此，我们提出了一个稳健的测试使用的目标函数的最小密度功率发散估计（MDPDE）的Basu等（Biometrika，1998），然后推导出其极限零分布。我们的测试程序可以自然地扩展到任何参数模型，MDPDE可以应用。为了说明这一点，我们将我们的测试程序应用于Gestival模型。我们通过仿真研究证明了所提出的测试的有效性和鲁棒性。在恒生指数的实际数据应用中，我们的测试定位了一些变化点，这些变化点是以前的测试，如分数测试和基于残差的CANUM测试所没有检测到的。
2020-03-03 math.ST stat.ME stat.TH
