Model-Based Clustering with Sequential Outlier Identification using the Distribution of Mahalanobis Distances
提出outlierMBC方法,通过迭代移除密度最低观测值并拟合高斯混合模型,利用马氏距离的Beta分布特性自动确定最优异常值数量,实现聚类与异常值识别,无需预设异常值分布或数量。
2025-06-27 stat.CO stat.ME
Test for parameter change in the presence of outliers: the density power divergence based approach
本研究考虑了在异常值存在的情况下参数变化的检验问题。为此,我们提出了一个稳健的测试使用的目标函数的最小密度功率发散估计(MDPDE)的Basu等(Biometrika,1998),然后推导出其极限零分布。我们的测试程序可以自然地扩展到任何参数模型,MDPDE可以应用。为了说明这一点,我们将我们的测试程序应用于Gestival模型。我们通过仿真研究证明了所提出的测试的有效性和鲁棒性。在恒生指数的实际数据应用中,我们的测试定位了一些变化点,这些变化点是以前的测试,如分数测试和基于残差的CANUM测试所没有检测到的。
2020-03-03 math.ST stat.ME stat.TH
Robustness against outliers in ordinal response model via divergence approach
本文研究了有序反应模型中的离群值问题。有序反应模型是以有序分类数据为反应变量的回归模型。“离群值”是指有序分类数据及其协变量的组合与其他对相比是异质的。虽然有序响应模型对于医学和社会科学等各个领域的数据分析都很重要,但众所周知,经常使用的具有probit、logit、log-log和互补log-log链接函数的极大似然方法受到异常值的强烈影响,当数据中可能存在异常值时,统计分析人员被迫限制他们的分析。针对这一问题,提出了两种鲁棒发散(密度-幂发散和$γ$ -发散)的推理方法。我们还推导出所提出的方法的影响函数,并显示条件的链接功能,他们是有界的和redendence。由于常用的链接函数满足这些条件,分析人员可以进行强大的和灵活的分析与我们的方法。此外,这是一个结果,进一步突出了我们的贡献,我们表明,在极大似然方法中的影响函数不具有递减的顺序响应模型中的任何链接函数。通过人工和两个真实数据的数值实验,我们表明,所提出的方法比极大似然方法在各种链接函数的数据中有和没有离群值。
2022-12-27 math.ST stat.ME stat.TH
Outlier detection at the parcel-level in wheat and rapeseed crops using multispectral and SAR time series
TerraNIS;University of Toulouse(图卢兹大学);IRIT-INP-ENSEEIHT;TéSA;IRIT-UPS
研究了基于无监督离群点检测技术的地块级作物生长异常检测问题。位于Beauce(法国)的油菜籽和小麦包裹进行实验验证。所提出的方法包括四个连续的步骤:1)预处理的合成孔径雷达(SAR)和多光谱图像获得使用哨兵-1和哨兵-2卫星,2)提取的SAR和多光谱像素级功能,3)计算的地块级功能使用分区统计和4)离群检测。分析和描述了可能影响所研究作物的不同类型的异常。研究了可能影响异常值检测结果的不同因素,特别关注Sentinel-1和Sentinel-2数据之间的协同作用。总的来说,最好的性能时,联合使用选择的哨兵-1和哨兵-2功能与隔离森林算法。选定的特征是Sentinel-1的VV和VH后向散射系数和Sentinel-2的5个植被指数(其中包括归一化差异植被指数和归一化差异水的两个变体)。当使用具有10%的离群值比率的这些特征时,检测到的真阳性的百分比(即,作物异常)等于油菜地块的94.1%和小麦地块的95.5%。
2021-03-05 cs.LG eess.IV stat.ML
Robustness of Bayesian ordinal response model against outliers via divergence approach
针对有序响应模型受异常值影响的问题,提出基于密度幂散度和γ-散度的一般后验方法,实现稳健贝叶斯推断,并通过实验验证其优于普通贝叶斯方法。
2023-05-12 math.ST stat.ME stat.TH
$γ$-ABC: Outlier-Robust Approximate Bayesian Computation Based on a Robust Divergence Estimator
The University of Tokyo(东京大学);RIKEN AIP(理化学研究所先进智能项目中心)
近似贝叶斯计算(ABC)是一种无似然性的推理方法,已在各种应用中采用。然而,如果数据差异度量选择不当,ABC可能对离群值敏感。在本文中,我们建议使用最近邻为基础的$γ$ -分歧估计作为数据差异的措施。我们表明,我们的估计具有一个合适的理论鲁棒性的属性称为降序属性。此外,我们的估计享有各种理想的属性,如高灵活性,渐近无偏性,几乎必然收敛,线性时间的计算复杂度。通过实验,我们证明了我们的方法实现了显着更高的鲁棒性比现有的差异措施。
2021-03-05 cs.LG stat.CO stat.ME
Robust Bayesian graphical modeling using $γ$-divergence
本文提出一种基于 $\gamma$-散度的稳健贝叶斯高斯图模型推断方法,通过贝叶斯图形套索实现后验稳健性,并开发了加权贝叶斯自助法高效计算算法。
2025-01-23 stat.ME
A robust RUV-testing procedure via gamma-divergence
差异表达基因的鉴定是现代生物医学研究中的一项重要内容。然而,在数据采集过程中不可避免地会出现不必要的变化,这可能会使检测结果严重偏差。建议在保留生物学变异的同时去除不需要的变异,以确保可靠的分析结果。去除不需要的变异(RUV)是最近提出的负控制基因的优点,为此目的。另一方面,在现代高通量遗传数据中,离群值的出现严重影响了RUV及其下游分析的性能。在这项工作中,我们提出了一个强大的RUV测试程序,通过伽玛发散。我们的方法的优点是双重的:(1)它不涉及任何建模的离群值分布,这是适用于各种情况下,(2)它是很容易实现的意义上,其鲁棒性是由一个单一的调整参数伽玛的伽玛发散,和数据驱动的标准来选择$γ$。在性别研究中,我们的方法可以成功地去除不需要的变异,并且能够识别比传统方法更多的DE基因。
2017-11-05 stat.ME
Multiple Outlier Detection in Samples with Exponential & Pareto Tails: Redeeming the Inward Approach & Detecting Dragon Kings
本文提出两种基于比率的稳健检验统计量MRS和SRS,重新引入内向顺序检验方法以降低掩蔽敏感性,无需复杂的I类错误控制,并在多个案例中验证其检测“龙王”异常事件的有效性。
2024-09-25 stat.ME
Robust estimation via $γ$-divergence for diffusion processes
Meisei University(明海大学);RIKEN Center for Brain Science(理化学研究所脑科学中心);Josai University(城西大学)
本文提出通过γ-散度方法对扩散过程中的异常值进行鲁棒估计,探讨了估计量的渐近性质和影响函数的有界性。
2026-03-05 math.ST stat.ME stat.TH
Robust Linear Mixed Models using Hierarchical Gamma-Divergence
针对线性混合模型对异常值敏感的问题,提出基于层次伽马散度的稳健估计与推断方法,通过自动降权异常值并开发可扩展算法,在重污染下仍具渐近控制性,模拟与艾滋病队列数据验证其优越性。
2025-03-27 stat.ME
On Selection Criteria for the Tuning Parameter in Robust Divergence
虽然诸如密度功率发散和$γ$发散之类的鲁棒发散有助于在存在离群值的情况下进行鲁棒统计推断,但是在经验法则中选择控制鲁棒程度的调谐参数,这可能导致低效的推断。在这里,我们提出了一个选择标准的基础上的Hyvarinen分数的渐近近似的非归一化模型定义的强大的分歧。建议的选择标准只需要一个假设的密度函数的一阶和二阶偏导数的观测,这可以很容易地计算,无论参数的数量。我们通过使用正态分布和正则化线性回归的数值研究证明了所提出的方法的实用性。
2021-06-22 stat.ME
Learning from multivariate discrete sequential data using a restricted Boltzmann machine model
Escuela Superior Politecnica del Litoral (ESPOL)(埃斯波莱大学(ESPOL))
受限玻尔兹曼机(RBM)是一种生成式神经网络模型,具有许多新颖的应用,如协同滤波和声学建模。成果管理制缺乏保持记忆的能力,因此不适合于动态数据建模,如时间序列分析。在本文中,我们解决这个问题,提出了p-RBM模型,一个推广的常规RBM模型,能够保留记忆的p过去的状态。我们进一步展示了如何使用对比散度对p-RBM模型进行训练,并在考虑NASDAQ-100指数的100只股票的股票市场方向预测问题上对我们的模型进行了测试。结果表明,p-RBM提供了有前途的预测潜力。
2018-04-28 cs.LG stat.ML
Divergence-based Robust Generalised Bayesian Inference for Directional Data via von Mises-Fisher models
School of Data Science, Meisei University(明成大学数据科学学院);RIKEN Center for Brain Science(理化学研究所脑科学中心);School of Business Administration, Meiji University(明治大学商学院);Department of Information Sciences, Tokyo University of Science(东京科学技术大学信息科学系)
本文提出基于密度幂发散和γ-发散的贝叶斯推断方法,用于稳健估计方向数据的参数,通过模拟和真实数据验证其有效性。
2025-12-24 math.ST stat.CO stat.ME
Robust inference methods of diagnostic test accuracy meta-analysis for influential outlying studies via density power divergence
The Graduate Institute for Advanced Studies, The Graduate University for Advanced Studies(高级研究研究生院,高级研究院);Human Biology Creation Hub, Deep Human Biology Learning, Eisai Co. Ltd.(人类生物学创造中心,深层人类生物学学习,卫材株式会社);Department of Interdisciplinary Statistical Mathematics, The Institute of Statistical Mathematics(交叉统计数学系,统计数学研究所);Institute of Medical Biometry and Statistics, Faculty of Medicine and Medical Center—University of Freiburg(医学生物统计学与统计研究所,医学院及医学中心——弗赖堡大学)
本文提出基于密度幂分歧的稳健推断方法,用于处理诊断测试准确性荟萃分析中的异常研究,通过调整估计函数减少偏差,提高统计效率。
2026-04-30 stat.AP stat.ME
Bayesian Outlier Detection for Matrix-variate Models
本文提出基于预测贝叶斯因子的序贯贝叶斯异常值检测框架,将单变量方法扩展至矩阵变量模型,并通过模拟及宏观经济、金融数据应用验证其准确、可扩展且支持在线检测。
2025-08-29 econ.EM stat.ME
Robust Bayesian Predictive Model Selection using Bregman Divergence
Harvard University(哈佛大学);University of Connecticut(康涅狄格大学)
针对基于对数得分的ELPD对异常值和尾部不匹配敏感的问题,提出基于Bregman散度的广义ELPD框架,通过β-散度族控制低密度观测影响,实现稳健模型选择。
2026-06-09 stat.ME
Sampling from density power divergence-based generalized posterior distribution via stochastic optimization
本文提出了一种基于随机优化的采样方法,用于高效处理高维数据中基于密度幂分歧的后验分布,适用于具有不可计算积分的参数模型。
2025-12-10 stat.ME
Robust Estimation in Generalised Linear Models : The Density Power Divergence Approach
广义线性模型(GLM)是分析生物学、社会学、农业、工程学等许多应用领域实际数据的重要工具,在这些应用领域中,响应变量与解释变量之间的关系可能不是线性的,或者在所有情况下分布可能不是正态的。然而,经常这样的真实数据包含大量的离群值的标准参数模型中使用的分析;在这种情况下,经典的极大似然估计可能无法产生合理的估计和相关的推断可能是不可靠的。本文对广义线性模型提出了一种稳健估计方法,该方法能在效率损失很小的情况下产生稳健估计。我们还将详细探讨广义线性模型的两种特殊情况--计数数据的泊松回归和二进制数据的逻辑斯谛回归--它们广泛应用于现实生活中的实验。我们还将通过几个有趣的数据例子来说明所提出的估计量的性能
2014-03-26 stat.ME
Adaptation of the Tuning Parameter in General Bayesian Inference with Robust Divergence
我们介绍了一种具有鲁棒发散的鲁棒贝叶斯估计方法(例如,密度功率发散或γ发散),由单个调谐参数索引。众所周知,稳健发散引起的后验密度给出了对离群值高度稳健的估计,如果调整参数是适当的,仔细选择。在贝叶斯框架中,找到最佳调优参数的一种方法是使用证据(边际似然)。然而,我们数值说明,密度功率发散诱导的证据不工作,以选择最佳的调谐参数,因为强大的分歧不被视为一个统计模型。为了克服这些问题,我们把鲁棒发散指数作为一个非归一化的统计模型,我们通过最小化Hyvarinen得分来估计调谐参数。我们还提供了自适应计算方法的基础上序贯蒙特卡罗(SMC)采样器,这使我们能够获得最佳的调谐参数和样本的后验分布同时。还提供了所提出的方法,通过模拟和应用到实际数据的经验性能。
2022-07-01 stat.CO stat.ME
Minimum Density Power Divergence Estimation for the Generalized Exponential Distribution
针对降雨数据中的异常值问题,本文采用最小密度幂散度估计(MDPDE)方法估计广义指数分布参数,推导了估计方程与渐近分布,并通过影响函数和相对效率分析及模拟与真实数据验证,表明其稳健性和高效性优于现有方法。
2024-02-07 stat.ME
Robust Variable Selection Criteria for the Penalized Regression
我们提出了一个强大的变量选择过程,使用基于发散的M-估计结合惩罚函数。它产生回归参数的稳健估计,同时选择重要的解释变量。基于估计方程的二次近似,构造了一种有效的算法。导出了回归系数的渐近分布和影响函数。基于Mallow的$C_p$统计量和Akaike信息准则(AIC)的模型选择方法在存在重尾误差或离群值的情况下往往表现出很差的性能。为了这个目的,我们引入了强大的版本,这些信息标准的基础上,我们提出的方法。仿真研究表明,鲁棒变量选择技术优于经典的基于似然的技术存在离群值。通过实际数据的分析,验证了该方法的有效性.
2019-12-29 stat.ME
Robust Tests for the Equality of Two Normal Means based on the Density Power Divergence
统计技术被用于科学的所有分支,以确定定量假设的可行性。统计技术在比较分析中最基本的应用之一是两个总体平均值相等的检验,通常在正态性假设下进行。例如,在医学研究中,我们经常需要比较两种不同的药物、治疗或先决条件对结果的影响。在这方面最常用的检验是双样本$t$ -均值相等检验,在方差相等的假设下进行。它是一个非常有用的工具,被各个学科的实践者广泛使用,并且在模型下具有许多最优性性质。然而,该测试有一个主要缺点;它对理想条件的偏差非常敏感,并且在模型错误指定和存在离群值的情况下可能表现得很糟糕。在本文中,我们提出了一个基于密度功率发散测度的双样本假设的稳健检验(Basu等人,1998年),并表明它可以是一个伟大的替代普通的两个样本$t$ -测试。本文严格地建立了所提出的检验的渐近性质,并通过模拟和实际数据分析探讨了它们的性能。
2014-11-25 stat.ME
Robust K-means Clustering using the Density Power Divergence Measure
Case Western Reserve University(凯斯西储大学);John Carroll University(约翰卡罗尔大学);The University of Texas at El Paso(德克萨斯大学埃尔帕索分校)
该研究提出MK-means DPD和DC-MK-means DPD两种鲁棒聚类方法,结合DPD测度与马氏距离,还提出两个鲁棒评估指标,在模拟数据和真实数据集上验证了其优于现有方法的性能。
2026-09-01 stat.AP stat.CO stat.ME
Minimizing robust density power-based divergences for general parametric density models
针对一般参数密度模型,提出随机方法最小化密度功率散度(DPD),避免显式积分,可扩展至γ-散度,并发布R包实现。
2024-02-08 stat.ME stat.ML
Robust estimation of polyserial correlation coefficients: A density power divergence approach
University of Zurich(苏黎世大学)
本文提出基于密度幂分歧的稳健估计方法,用于多项序相关系数的估计,该方法在保持高效率的同时提升了对异常值的鲁棒性。
2026-02-10 math.ST stat.AP stat.ME
Log predictive density score estimation in the presence of outliers
Department of Statistics, Stockholm University(斯德哥尔摩大学统计系)
本文指出标准蒙特卡洛估计LPDS在异常值下会严重偏差,提出用完整与训练数据对数边际似然之差估计LPDS,更高效且作为PSIS-LOO的更好后备方案。
2026-10-06 stat.CO stat.ME
Sequential Monte Carlo approximations of Wasserstein--Fisher--Rao gradient flows
ESOMAS, University of Turin(都灵大学);Collegio Carlo Alberto(卡洛阿尔贝托学院);School of Mathematics & Statistics, UNSW Sydney(新南威尔士大学悉尼数学与统计学院)
本文提出了一种基于Wasserstein-Fisher-Rao几何的序列蒙特卡罗算法,用于近似Kullback-Leibler散度的梯度流,并通过实证研究验证其有效性。
2026-02-10 cs.NA math.NA stat.CO
Robust Density Power Divergence Estimates for Panel Data Models
面板数据回归模型已成为社会科学、行为科学、环境科学和计量经济学等不同研究领域中应用最广泛的统计方法之一。然而,传统的基于最小二乘的技术经常被用于面板数据模型,容易受到数据污染或离群观测的不利影响,这可能导致有偏的和低效的估计和误导性的统计推断。在这项研究中,我们提出了一个最小密度功率发散估计程序面板数据回归模型与随机效应,以实现对离群值的鲁棒性。稳健性,以及所提出的估计的渐近性质,严格建立。所提出的方法的有限样本特性进行了研究,通过广泛的模拟研究和应用在阿曼的气候数据。我们的研究结果表明,所提出的估计表现出改善的性能比一些传统的和强大的方法存在的数据污染。
2021-08-05 math.ST stat.ME stat.TH
A Proximal Point Algorithm for Minimum Divergence Estimators with Application to Mixture Models
从发散准则(如$φ-$发散)导出的估计量通常比极大似然估计量更稳健。我们特别感兴趣的是所谓的MD $φ$ DE,一个估计建立使用的双重表示$φ$ -分歧。本文提出了一种迭代邻近点算法,它允许计算这样的估计。该算法通过其构造包含公知的期望最大化算法。我们的工作是基于\citep{Tseng}关于似然函数的论文。我们给出了该算法产生的序列的几个收敛性质,并通过放宽最近项的可识别性条件改进了已有的结果,该条件对于大多数混合模型是无法验证的,而对于非混合模型是很难验证的.由于收敛性分析使用的正则条件(连续性和可微性)的目标函数,它有一个上确形式,我们发现这是有用的,提出一些分析方法来研究这样的功能。这里再次讨论了期望最大化算法在高斯和威布尔混合的精神,我们的方法的收敛。仿真结果证实了我们的工作的有效性和鲁棒性对离群值的估计。
2016-06-12 stat.CO stat.ME
Relative Density-Ratio Estimation for Robust Distribution Comparison
基于密度比的直接近似而不经过分子和分母密度的单独近似的发散估计已经成功地应用于涉及分布比较的机器学习任务,如离群值检测、迁移学习和两样本同质性检验。然而,由于密度比函数往往具有很大的波动性,在实际应用中,发散度的估计仍然是一个具有挑战性的任务。在本文中,我们建议使用相对分歧的分布比较,这涉及到相对密度比的近似。由于相对密度比总是比相应的普通密度比更平滑,我们提出的方法在非参数收敛速度方面是有利的。此外,我们表明,所提出的发散估计具有渐近方差独立的模型的复杂性下的参数设置,这意味着所提出的估计很难过拟合,即使与复杂的模型。通过实验,我们证明了所提出的方法的实用性。
2011-06-23 math.ST stat.ME stat.ML
Minimum Density Power Divergence Estimation for the Gamma Distribution with Applications to Robust Rainfall Modeling
Indian Institute of Technology Kanpur(坎普尔印度理工学院)
研究针对降雨数据建模,基于最小密度功率散度估计器(MDPDE)开发双参数伽马分布的稳健估计框架,推导估计方程,建立理论性质并通过模拟和实例分析其性能,该方法在稳健性和效率间取得平衡。
2026-07-07 stat.AP stat.ME
A robust variable screening procedure for ultra-high dimensional data
在超高维回归问题中,变量的选择已成为一个重要的问题。在这种情况下,惩罚回归模型可能面临计算问题,并且可能需要对变量进行一些预先筛选。已经开发了许多用于此类预筛选的程序;其中,可靠的独立筛选(SIS)颇受欢迎。然而,SIS容易受到数据中的离群值的影响,特别是在小样本中,这可能导致错误的推断。在本文中,我们开发了一个新的强大的筛选程序。在密度功率发散(DPD)估计方法的基础上,提出了DPD-SIS及其扩展的迭代DPD-SIS。我们通过大量的模拟研究说明了这些方法的行为,并表明当数据中存在离群值时,它们优于原始SIS和其他鲁棒方法。我们证明了声称的鲁棒性,通过使用的影响函数,我们讨论了适当的选择的调谐参数$α$。最后,我们说明了它的使用一个小的数据集,从一个研究脂质代谢的调节。
2020-04-30 stat.AP stat.ME
Generalized Bayesian Filtering via Sequential Monte Carlo
University of Warwick(华威大学);The Alan Turing Institute(艾伦·图灵研究所)
我们引入了一个框架,在一般的状态空间隐马尔可夫模型(HHALGORY)的可能性误指定的推理。特别是,我们利用广义贝叶斯推断(GBI)的损失理论的角度来定义广义过滤递归的障碍,可以解决模型误指定下的推理问题。在这样做的过程中,我们到达的原则性程序,强大的推理对观察污染利用$β$分歧。通过序贯蒙特卡罗方法(SMC),其中大多数标准粒子方法及其相关的收敛结果,可以很容易地适应新的设置操作所提出的框架。我们将我们的方法应用于目标跟踪和高斯过程回归问题,并观察到标准滤波算法和其他鲁棒滤波器的性能改善。
2020-10-21 cs.LG stat.CO stat.ME
Almost optimal sequential tests of discrete composite hypotheses
我们考虑的问题,顺序测试一个简单的原假设与复合备择假设,由一个有限集的密度。本文研究了基于混合似然比统计量和加权广义似然比统计量阈值化的序贯检验。结果表明,这两个序贯检验有几个渐近最优性能的错误概率为零。首先,对于任何权重,它们在备择假设中的每个场景下在常数项内最小化预期样本量,并且在原假设下至少最小化到一阶。其次,对于先验分布的适当权重,它们在备择假设中的加权预期样本量在渐近可忽略项内最小化。第三,对于一个特定的先验分布,他们几乎是极小极大相对于预期的Kullback-Leibler分歧,直到停止。此外,基于高阶渐近展开的操作特性,我们提出了先验分布,导致一个强大的行为。最后,基于渐近分析以及模拟实验,我们认为,这两种测试具有相同的性能时,他们被设计为具有相同的权重。
2013-01-22 math.ST stat.ME stat.TH
Deterministic Fokker-Planck Transport -- With Applications to Sampling, Variational Inference, Kernel Mean Embeddings & Sequential Monte Carlo
FUB(柏林自由大学)
本文针对概率流 ODE 需评估不可处理当前密度的问题,分析核密度估计近似的缺陷,并提出将其转化为采样、变分推断、核均值嵌入和序贯 Monte Carlo 中优势的确定性 Fokker–Planck 输运方法。
2024-10-11 cs.LG cs.NA math.NA