Parametric Inference for Discretely Observed Subordinate Diffusions
从属扩散由具有独立Lévy从属子的时变扩散过程构成。这是一个丰富的马尔可夫跳过程族,它具有多种跳行为,并有许多应用。研究离散观测遍历从属扩散过程的参数推断问题。我们使用谱理论解决这些过程的可识别性问题,并提出了一个基于估计函数的两步估计过程。在第一步中,我们使用仅涉及扩散参数的估计函数。第二步,利用基于从属扩散特征值和特征函数的鞅估计函数估计Lévy从属子的参数,解决了加权矩阵的选取问题。当特征值对没有解析表达式时,我们采用高阶修正的常数扰动法进行数值计算,从而有效地计算出鞅估计函数。考虑到数值逼近的影响,建立了估计量的相合性和渐近正态性.通过数值例子,我们表明,我们的方法是计算和统计效率。建立了CBOE波动率指数VIX的从属扩散模型,该模型对数据拟合良好。
2017-06-28 math.ST stat.TH
Drift Estimation for Discretely Sampled SPDEs
研究了加性时空噪声驱动下分数阶随机热方程漂移系数的极大似然估计的渐近性质。考虑了谱域测量时随机偏微分方程的传统统计实验,与现有文献相比,研究了Fourier模数和时间均趋于无穷大时的极大似然(型)估计的渐近性质.在本文的第一部分中,我们考虑了通常的设置连续时间观测的傅里叶系数的解决方案,并证明了最大似然估计是一致的,渐近正常的和最佳的均方意义。在本文的第二部分中,我们研究的自然时间离散化的MLE,通过假设的第一个N傅立叶模式测量M时间网格点,均匀分布在时间间隔[0,T]。当N趋于无穷大和/或T,M趋于无穷大时,我们对所提出的估计量进行了严格的渐近分析.我们建立了N,M和T的增长率的充分条件,保证了这些估计的相合性和渐近正态性。
2019-04-24 math.PR math.ST stat.TH
Empirical phi-divergence test statistics in the logistic regression model
在本文中,我们应用分歧措施的经验似然适用于逻辑斯谛回归模型。我们定义了一个家庭的经验检验统计量的基础上的分歧措施,称为经验φ发散检验统计量,扩展了经验似然比检验。我们研究了这些经验检验统计量的渐近分布,证明了这类检验统计量的渐近分布是相同的,并且与经典的经验似然比似然比检验的渐近分布是相同的。接下来,我们研究了这个家族中成员的幂函数,表明本文中介绍的经验φ-发散检验在Fraser意义下是一致的。为了比较在这一新的家庭,在本文中第一次考虑的经验φ发散检验统计量的行为之间的差异,我们进行了模拟研究。
2021-12-02 math.ST stat.TH
The Logarithmic Super Divergence and Statistical Inference : Asymptotic Properties
基于分歧度量的统计推断有着悠久的历史。最近,Maji,Ghosh和Basu(2014)引入了一个一般的发散族,称为对数超发散族(LSD)。该家族作为对数幂发散(LPD)家族(例如,Renyi,1961)和Jones等人(2001)引入的对数密度幂散度(LDPD)家族。在本文中,我们描述的渐近性质的推理过程中产生的分歧离散模型。这些性质得到了真实数据实例的很好支持。
2014-06-09 math.ST stat.TH
The Logarithmic Super Divergence and its use in Statistical Inference
本文引入了一个新的发散超族,它在精神上类似于Ghosh等人(2013)引入的S-发散族。这个新的族用作包含对数幂发散族(Renyi,1961; Maji,Chakraborty和Basu 2014)和对数密度幂发散族(Jones等人,2001年,作为特例。这个新的家庭和相应的最小距离程序的各种属性进行了讨论,特别强调的鲁棒性问题,这些属性通过仿真研究证明。特别是该方法证明了一阶影响函数在评估相应的最小距离程序的鲁棒性方面的局限性。
2014-07-15 math.ST stat.AP stat.ME
Statistical estimation of the Kullback-Leibler divergence
对于密度为w.r.t.的R^d中的概率测度,给出了保证Kullback-Leibler散度的渐近无偏性和L^2-相合性的广泛条件。勒贝格测度。这些估计是通过两个独立的i.i.d.集合构造的。观测并涉及指定的k-最近邻统计量。特别地,所建立的结果对于R^d中任意两个高斯测度之间的Kullback-Leibler散度的估计都是有效的,且具有非退化的协方差阵.作为一个副产品,我们得到新的声明关于Kozachenko-Leonenko估计的香农微分熵。
2019-06-29 math.ST stat.TH
Change point analysis of an exponential model based on Phi-divergence test-statistics: simulated critical points case
最近Batsidis \textit{et al.}(2011)提出了一个新的基于发散测度的方法来检验指数总体中存在变点的假设。本文利用文中提出的新的检验统计量的渐近分布所得到的渐近临界点进行了模拟研究。本文的主要目的是使用模拟的临界点来研究Batsidis \textit{et al.}(2011)引用的论文中引入的检验统计量的行为。
2011-07-15 math.ST stat.TH
Projection Theorems of Divergences and Likelihood Maximization Methods
发散的投影定理使我们能够找到一个发散在一个特定的统计模型上的反向投影,作为一个发散在一个不同的但更“简单”的统计模型上的正向投影,这反过来又导致求解一个线性方程组。发散的反向投影与稳健统计中的极大似然估计及其变体等各种估计方法密切相关。我们考虑了鲁棒统计中广泛使用的三个参数型发散族的投影定理,即Rényi发散(或Cressie-Reed幂发散)、密度幂发散和相对$α$ -熵(或对数密度幂发散).我们从通常的似然最大化方法和充分性原则探讨这些投影定理。特别地,我们证明了用各自发散的投影定理和直接求解相应的估计方程来解决估计问题的等价性。我们还导出了密度幂发散的投影定理。
2017-06-16 cs.IT math.IT math.PR
Robust and Efficient Parameter Estimation for Discretely Observed Stochastic Processes
在各种实际情况下,我们遇到的随机过程中,可以有效地模拟一个适当的参数模型为后续的统计分析的数据。不幸的是,基于极大似然(ML)原理的最常见的估计和推断方法由于其众所周知的缺乏鲁棒性而容易受到与假设模型的微小偏差或数据污染的影响。由于替代的非参数程序往往失去显着的效率,在本文中,我们开发了一个强大的参数估计程序的离散观测数据的参数随机过程模型,利用良好的性能流行的密度功率发散措施的最小距离推断的框架。特别地,在这里我们定义了独立增量和马尔可夫过程的最小密度幂散度估计(MDPDE)。我们建立的渐近一致性和分布的结果,建议MDPDE在这些依赖的随机过程设置和说明他们的好处比通常的ML估计常见的例子,如泊松过程,漂移布朗运动和自回归模型。
2022-04-11 math.ST stat.ME stat.TH
A New Family of Divergences Originating from Model Adequacy Tests and Application to Robust Statistical Inference
最小散度方法是各种统计应用中的流行工具。我们认为管状模型充分性测试,并证明,在这个过程中产生的新的分歧是非常有用的强大的统计推断。特别是,我们表明,家庭的$S$ -分歧,可以选择开发使用管状模型充分性测试,进一步应用的范例产生一个更大的超家庭的分歧。我们描述了这个更大的类的属性及其在鲁棒推理中的潜在应用。一路上,失败的一阶影响函数分析,在捕捉这些程序的鲁棒性也成立。
2018-01-15 math.ST stat.ME stat.TH
Neural Estimation of Statistical Divergences
统计偏差(SD),量化了概率分布之间的差异,是统计推断和机器学习的基本组成部分。用于估计这些分歧的现代方法依赖于通过神经网络(NN)参数化经验变分形式并在参数空间上进行优化。这种神经估计器在实践中被大量使用,但相应的性能保证是部分的,需要进一步探索。我们建立了非渐近的绝对误差界的神经估计实现了一个浅NN,专注于四个流行的$\mathsf{f}$ -分歧- Kullback-Leibler,卡方,平方海灵格,和全变差。我们的分析依赖于非渐近函数逼近定理和工具,从经验过程理论来约束两个来源的误差:函数逼近和经验估计。的界限表征NN的大小和样本的样本个数方面的有效误差,并揭示缩放率,确保一致性。对于紧支撑分布,我们进一步证明了在适当的神经网络增长率下,上述前三个发散的神经网络估计是极小极大率最优的,达到了参数收敛速度。
2022-03-29 math.ST stat.ML stat.TH
Graph-based Composite Local Bregman Divergences on Discrete Sample Spaces
最常用的统计推断方法之一是最大似然估计(MLE)。最大似然估计需要计算统计模型中的归一化常数,这往往是棘手的。使用未归一化的统计模型并用其他评分规则替换可能性是规避这种高计算成本的好方法,其中评分规则测量模型与观察样本的拟合优度。评分规则与Bregman散度密切相关,Bregman散度是两个概率分布之间的差异度量。在本文中,目的是提供一个一般的框架,统计推断使用离散样本空间上的非规范化统计模型。评分规则的本地化版本是重要的,以获得计算效率的估计。我们发现,当地的评分规则有关的Bregman分歧的本地化版本。通过局部Bregman分歧,我们研究了局部评分规则的统计一致性。证明了一致性是由离散样本空间上邻域系统的结构决定的。此外,我们还展示了一种将局部评分规则应用于分类问题的方法。在数值实验中,我们研究了邻域系统与估计精度之间的关系。
2016-04-25 math.ST stat.TH
Characterization of Generalized Alpha-Beta Divergence and Associated Entropy Measures
Washington University in St. Louis(华盛顿大学圣路易斯分校);Duke University(杜克大学);Indian Statistical Institute(印度统计研究所)
探索α-β散度家族扩展得到广义α-β(GAB)散度超家族,给出其有效性条件与性质,讨论相关熵测度等,通过实例展示其在局部和全局稳健性间的平衡,为统计推断提供新工具。
2026-07-08 math.ST stat.TH
Characterizing the Functional Density Power Divergence Class
发散度量与统计推断、机器学习和信息论有着长期的联系。密度功率发散和相关的措施产生了许多有用的(和流行的)统计程序,它提供了一个很好的平衡模型效率,一方面和离群值的稳定性或鲁棒性。对数密度幂发散,一个特定的对数变换的密度幂发散,也已经非常成功地产生高效和稳定的推理程序,此外,它也导致了显着的演示应用在信息论。基于密度功率发散和对数密度功率发散(它们也分别被称为$β$ -发散和$γ$ -发散)的最小发散过程的成功使得寻找其他类似的发散是必要的和有意义的,这些发散可以以相同的精神作为密度功率发散的变换而获得。有了这个动机,我们寻找这样的密度功率发散的变换,这里称为功能密度功率发散类。本文的特点是这种功能密度功率发散类,从而确定了可用的发散措施,在这个结构中,可能会进一步探讨可能的应用在统计推断,机器学习和信息论。
2022-09-04 math.ST stat.TH
Density Power Downweighting and Robust Inference: Some New Strategies
目前,保持程序的稳健性几乎已成为统计数据分析的默认要求。由于效率的模型和鲁棒性下的模型的误指定往往是在冲突中,重要的是要选择这样的推理程序,提供这两个概念之间的最佳折衷。一些最小Bregman散度估计和相关的假设检验似乎能够在这方面做得很好,基于密度幂散度的程序提供了现有的标准。在本文中,我们提出了一个新的家庭的Bregman分歧,这是一个超家庭,包括密度幂发散。本文描述了从这个新的分歧家庭的推理程序,并提出了一个强有力的情况下,这个分歧家庭的效用在统计推断。
2019-10-27 math.ST stat.AP stat.TH
The Minimum S-Divergence Estimator under Continuous Models: The Basu-Lindsay Approach
基于统计分歧最小化的鲁棒推理已被证明是经典的基于最大似然的技术的有用的替代方案。最近,Ghosh等人(2013)提出了一种用于稳健统计推断的一般发散度量,称为S-发散族。Ghosh(2014)讨论了密度的离散模型的渐近性质。在本文中,我们建立了连续模型下的最小S-散度估计的渐近性质。在这里,我们使用Basu-Lindsay方法(1994)来平滑模型密度,与以前的方法不同,它避免了核带宽选择的许多复杂性。通过大量的模拟研究和真实数据的例子,说明了所得到的估计在效率和鲁棒性方面的性能。
2014-12-18 math.ST stat.AP stat.ME
Nonparametric change-point analysis of volatility
本工作发展了高频数据统计的变点方法。主要的兴趣是在波动的伊藤半鞅,后者被离散观察到在一个固定的时间范围。我们构造了一个最小最大最优检验来区分连续路径和包含波动跳跃的路径。这被嵌入到一个更一般的理论中,以推断波动的平滑性。在高频框架下,我们证明了检验统计量在极值分布假设下的弱收敛性。此外,我们开发的方法来推断分数波动过程的赫斯特参数的变化。仿真研究表明,在有限样本应用的实用价值。
2016-01-12 math.ST stat.TH
Nonparametric inference of gradual changes in the jump behaviour of time-continuous processes
在应用中,随机特征的性质通常是逐渐变化的,而不是突然变化的,也就是说:经过一段时间的恒定相位后,它们开始慢慢变化。在本文中,我们讨论了统计推断的检测和局部化的逐步变化的跳跃特征的离散观察伊藤半鞅。我们提出了一个新的措施的时间变化的跳跃行为的过程。相应的估计的统计不确定性进行了分析,推导出新的结果的弱收敛的序列经验尾积分过程和相应的乘子自助程序。
2017-04-13 math.ST stat.TH
Goodness-of-fit tests via phi-divergences
介绍并研究了基于$ϕ$ -发散性的统一的拟合优度检验族。新的检验统计量族$S_n(s)$包括Anderson-Darling统计量的上确界形式和Berk和Jones [Z.华什弗鲁Gebiete 47(1979)47- 59]作为特例(分别为$s=2$和$s=1$)。我们还介绍了新统计的积分版本。我们证明了Berk和Jones [Z.华什弗鲁Gebiete 47(1979)47- 59]和Wellner和Koltchinskii [高维概率III(2003)321- 332. Birkhäuser,Basel]的Berk-Jones统计量适用于整个统计量族$S_n(s)$和$s\in[-1,2]$。在幂行为方面,我们研究了固定方案下的检验统计量,并推广了Berk和Jones关于其统计量的“Poisson边界”现象。我们还推广了Donoho和Jin [Ann. Statistist. 32(2004)962--994],表明我们对$s\in[-1,2]$的所有新测试对于正常移位混合物替代物具有与Tukey的"更高临界“统计量和Berk-Jones统计量相同的"最优检测边界”。
2007-11-22 math.ST stat.TH
A Wald-type test statistic for testing linear hypothesis in logistic regression models based on minimum density power divergence estimator
本文对逻辑斯谛回归模型中的线性假设引入了经典Wald检验统计量的一个稳健版本,并研究了它的性质。我们在随机协变量的假设下研究这个问题,虽然也考虑了一些非随机协变量的想法。所考虑的检验族是基于最小密度幂离估计而不是基于最大似然估计,本文称之为Wald型检验统计量。得到了Wald型检验统计量的渐近分布,并研究了其稳健性.通过影响函数分析以及适当的实际例子,从理论上研究了测试的鲁棒性。理论上建立了Wald型检验的水平和功效对污染是稳定的,而经典Wald型检验在这种情况下失效。一些经典的例子,数值证实了理论的发展。最后通过仿真研究进一步验证了本文理论结果的正确性。
2016-09-23 math.ST stat.TH
Empirical phi-divergence test statistics for testing simple and composite null hypotheses
本文的主要目的是首先介绍一个新的家庭的经验检验统计量测试一个简单的原假设时,通过一组特定的无偏估计函数定义的参数向量。该检验统计量族基于两个概率向量之间的距离,其中第一概率向量通过使参数向量上的经验似然最大化而获得,并且第二向量在简单的原假设下从参数的固定向量定义。为此目的所考虑的距离是φ-发散度量。然后推导出该族检验统计量的渐进分布。所提出的方法是说明通过著名的数据Newcomb的测量光的通过时间。模拟研究进行比较其性能与经验的似然比检验时,置信区间构造的基础上,小样本量。结果表明,“经验修正的似然比检验统计量”是经验似然比检验统计量的一种有竞争力的替代方法,并且在数据中存在污染的情况下比经验似然比检验统计量更稳健.最后,我们提出了经验的Φ发散检验统计量测试复合原假设,并提出了一些渐近以及模拟结果,这些测试程序的性能进行评估。
2014-08-17 math.ST stat.ME stat.TH
Wald type and Phi-divergence based test-statistics for isotonic binomial proportions
本文针对独立二项随机变量的假设检验中涉及比例不等式约束的重要问题,引入并研究了新的检验统计量:基于Wald型和φ-散度的检验统计量。作为基于φ-散度的检验统计量的一种特殊情况,考虑了经典的似然比检验。给出了一个说明性的例子,并在广泛的模拟研究中分析了它们在小样本和中等样本量样本量下的性能。
2014-02-26 stat.ME
Testing Linear Operator Constraints in Functional Response Regression with Incomplete Response Functions
假设检验程序的开发,以评估线性算子约束的功能标量回归时,观察到不完整的功能反应。该方法能够在一个统一的框架内对函数回归系数的形状和其他方面进行统计推断,该框架包括三种不完全抽样情况:(i)部分观测的响应函数作为域的随机子区间上的曲线段;(ii)离散观测的函数响应具有附加测量误差;以及(iii)前两种情况的组合,其中部分观测的响应段被离散地观测,具有测量误差。后一种情况迄今为止几乎没有被探索过,尽管这种结构化数据在应用程序中越来越常见。对于统计推断,与约束空间的偏差通过集成$L^2$测量-来自约束和无约束模型空间的模型估计值之间的距离。建立了该检验方法的大样本性质,包括检验统计量的相合性、渐近分布和局部功效。有限样本功率和水平的建议测试进行了研究,在模拟研究,涵盖了各种情况。所提出的方法说明了美国肥胖流行率数据的应用程序,分析其随着时间的推移的趋势的功能形状,并在汽车人体工程学的研究运动分析。
2022-12-02 stat.ME
Divergence rates of Markov order estimators and their application to statistical estimation of stationary ergodic processes
有限字母表的平稳遍历过程估计的有限记忆过程从一个样本,一个n-长度的实现的过程,其中的记忆深度的估计过程也估计从样本使用惩罚最大似然(PML)。在连续率和非零性的假设下,得到了关于$\bar{d}$ -距离收敛速率,并给出了显式常数.结果需要分析不一定是有限记忆过程的PML Markov阶估计量的发散性。这个发散问题的研究更一般性的三个信息标准:贝叶斯信息标准与广义惩罚项产生的PML,和归一化的最大似然和Krichevsky-Trofimov码长度。得到了估计阶数的上下界上界。利用预言序估计的概念,将相容马尔可夫序估计的概念推广到无限记忆过程,并给出了PML马尔可夫序估计的广义相容性.
2013-07-24 math.ST stat.TH
Empirical phi-divergence test-statistics for the equalityof means of two populations
经验φ-发散检验统计量已被证明是一个有用的技术简单的原假设,以改善有限样本行为的经典似然比检验统计量,以及模型误设定问题,在这两种情况下的一个人口的问题。本文介绍了两个样本问题的方法。仿真研究表明,在这种情况下,新的检验统计量成为一个有竞争力的工具,相对于经典的z检验和似然比检验统计量。
2016-01-14 stat.ME
On the Robustness of a Divergence based Test of Simple Statistical Hypotheses
最流行的假设检验程序,似然比检验,是众所周知的,在许多实际情况下是高度非鲁棒的。Basu等人(2013 a)提供了一种基于密度功率发散的假设检验的替代稳健程序;然而,尽管作者直观地论证了后一种检验的稳健性,并对其进行了广泛的经验证实,但在这项工作中没有提出理论稳健性。在本文中,我们将考虑一类更一般的检验,它们形成了Basu等人(2013 a)描述的程序的超族。该超家族来源于Basu等人最近提出的$S$ -分歧类(2013 a)。在这方面,我们从理论上证明了新的一类测试的鲁棒性结果,并说明他们在正常的模型。Basu等人(2013 a)提议的所有理论鲁棒性都是我们结果的特例。
2014-11-28 math.ST stat.ME stat.TH
Statistical divergences in high-dimensional hypothesis testing and a modern technique for estimating them
本文提出利用统计散度量化高维数据总体分布与竞争模型的差异,并借助现代函数优化技术仅凭双分布样本估计散度,从而构建无需似然函数的双样本假设检验方法。
2024-08-01 hep-ex hep-ph math.ST
Robust tests for log-logistic models based on minimum density power divergence estimators
针对对数-逻辑斯蒂分布经典Wald与Rao检验易受数据污染影响的问题,本文提出基于MDPDE的稳健Wald型和Rao型检验,推导简单与复合原假设下的表达式并通过模拟验证其优势。
2025-03-18 math.ST stat.TH
A Unifying Framework for Some Directed Distances in Statistics
概率分布之间的基于密度的有向距离--特别称为发散--广泛用于统计学以及信息论、人工智能和机器学习的相邻研究领域。突出的例子是Kullback-Leibler信息距离(相对熵),例如与无所不在的极大似然估计方法密切相关,以及Pearson的卡方距离,例如用于著名的卡方拟合优度检验。另一条统计推断线是建立在基于分布函数的分歧上,例如Cramer-von Mises检验统计量和Anderson-Darling检验统计量的突出(加权版本),它们经常用于拟合优度调查;一些最近的方法处理(其他种类的)累积配对分歧和密切相关的概念。在本文中,我们提供了一个总体框架,其中特别涵盖了上述基于密度和基于分布函数的分歧的方法;分位数的相异分别其他统计泛函也将包括在内。从这个框架中,我们从结构上提取了许多经典的和最先进的(包括新的)程序。此外,我们推导出新的概念之间的依赖性随机变量,作为替代著名的互信息。还讨论了一些变分表示。
2022-03-02 cs.IT math.IT math.PR
Using the Sinkhorn divergence in permutation tests for the multivariate two-sample problem
为了使Wasserstein距离适用于大样本多变量非参数两样本问题,使其应用在计算上可行,考虑了基于与数据相关分区相关联的概率向量之间的Sinkhorn散度的置换检验.实施这些测试的不同方式进行评估,并建立在某些情况下的基本统计量的渐近分布。提出的统计进行了比较,在模拟的例子中,与席林的,在文献中可用的最好的非参数检验之一的测试。
2022-09-28 math.ST stat.ME stat.TH
Phi-divergence statistics for the likelihood ratio order: an approach based on log-linear models
当一些治疗根据有序分类变量的类别排序时(例如,副作用的程度),人们可能有兴趣知道治疗是否同样有效。一种方法是测试似然比顺序是否得到严格验证。推导了一种基于对数线性模型的统计推断方法,并提出了用于检验的φ-散度检验统计量。本文以对数线性模型为研究对象,建立了φ-散度检验统计量的渐近分布理论。一个说明性的例子激励的程序和模拟研究的小和中等的样本量表明,它是可能的,找到一个确切的大小更接近标称大小和更高的权力相比,经典的似然比的Φ发散检验统计量。
2014-02-21 stat.ME
Spectral statistics of high dimensional sample covariance matrix with unbounded population spectral norm
本文在谱范数发散的总体模型下,建立了高维样本协方差阵谱统计量的一些新的中心极限定理。该模型涵盖了作为特殊情况的发散尖峰种群模型。同时,尖峰特征值的数量可以是固定的或增长到无穷大。从我们的定理中可以看出,总体谱范数的发散对线性谱统计量的涨落的影响是变化无常的,取决于发散率。
2021-04-07 math.ST stat.TH
Simple simulation of diffusion bridges with application to likelihood inference for diffusions
为了对离散观测扩散模型进行统计推断,我们提出了近似和精确模拟扩散桥的简单方法。扩散桥模拟在扩散过程的似然和贝叶斯推理中起着基础性的作用。首先提出并研究了模拟近似扩散桥的简单方法。然后,这些近似的桥梁被用来作为一个容易实现的大都会黑斯廷斯算法,产生精确的扩散桥的建议。新方法利用了一维扩散的时间可逆性,适用于所有具有有限速度测度的一维扩散过程。新方法的一个优点是,简单的模拟方法,如米尔斯坦计划可以应用到桥梁模拟。与以前的桥模拟方法相比的另一个优点是,所提出的方法对于长间隔的扩散桥工作良好,因为该方法的计算复杂性与间隔的长度成线性关系。对于$ρ$混合扩散的近似方法被证明是特别准确的长时间间隔。在模拟研究中,我们调查的准确性和效率的近似方法,并比较它的精确模拟方法。在这项研究中,我们的方法提供了一个很好的近似分布的扩散桥的桥梁,可能会出现在应用程序中的统计推断。为了说明新方法的实用性,我们提出了一个EM算法的离散观测扩散过程。
2014-03-07 math.ST stat.TH
Local Asymptotic Mixed Normality via Transition Density Approximation and an Application to Ergodic Jump-Diffusion Processes
研究了局部渐近混合正态性的充分条件。我们削弱了Jeganathan(Sankhya Ser. A 1982)定理1中的充分条件,使它们可以应用于更广泛的统计模型,包括跳跃扩散模型。此外,我们还证明了由近似的转移密度函数生成的统计模型的局部渐近混合正态性对于原模型是隐含的。再加上密度近似的阈值技术,我们显示局部渐近正态性的离散观测跳跃扩散过程的漂移系数,扩散系数和跳跃结构的统计模型参数化。因此,在Shimizu和Yoshida(Stat.推理Stoch。过程2006)和Ogihara和Yoshida(Stat.推理Stoch。过程2011年)被证明是渐近有效的,在这个模型。此外,我们可以构造渐近一致最大功效检验的参数。
2021-05-01 math.ST stat.TH
Birth-death processes
许多重要的随机计数模型都可以写成一般的生灭过程。BDP是非负整数上的连续时间马尔可夫链,可以用来方便地参数化丰富的概率分布。虽然一般的BDP的理论性质是很好的理解,传统的统计工作对BDP一直局限于简单的线性(肯德尔)过程,这是在生态学和进化的应用。除了一些简单的情况下,它仍然不可能找到一个离散观察的BDP的可能性的解析表达式,和计算困难阻碍了统计推断工具的发展。但近年来,BDP理论与实际估计方法之间的差距已经缩小。现在有强大的方法来评估可能实现的BDP:有限时间转移,首次通过,平衡概率和分布的汇总统计量,通常出现在应用中。最近的工作还利用连续和离散观测的BDP之间的联系,推导出极大似然估计的期望最大化算法。对于以前难以处理的二元决策问题,基于可能性的推理比以前想象的要容易得多,并且类似于泊松回归的回归方法可以直接推导。在这篇综述中,我们概述了基本的数学理论的BDP和展示新的工具,统计推断使用的数据从BDP。我们给出了六个BDP的例子,并推导出期望最大化算法来拟合其参数的极大似然。我们展示了如何计算积分汇总统计量的分布,并给出了一个例子,应用到流行病的总成本。最后,我们提出了未来的创新方向,在这一类重要的随机过程。
2014-07-25 q-bio.PE stat.ME
Probabilistic models and statistics for electronic financial markets in the digital age
本文回顾了数字时代电子金融市场中离散观测半鞅统计的最新进展,聚焦跳跃检验、粗糙波动率和限价订单微观结构噪声三个主题,并提出了新的统计方法。
2024-06-11 math.ST q-fin.ST stat.TH
Limit distribution theory for $f$-Divergences
本文提出基于泛函delta方法的通用框架,推导四种主要$f$-散度的极限分布,并应用于高斯平滑散度的假设检验与差分隐私审计。
2023-10-12 cs.IT math.IT math.ST
Divergence functions in dually flat spaces and their properties
在统计学领域中,各种散度函数作为度量两个概率分布之间差异的量而被研究。在统计学中的微分几何方法(信息几何)中,对偶平坦空间起着关键作用。在对偶平坦空间中,存在对偶仿射坐标系和称为势的严格凸函数,并且很自然地引入了正则散度作为仿射坐标和势的函数。正则散度满足一个称为三角关系的关系表达式。这可以看作是余弦定理在欧几里得空间中的推广。在本文中,我们新引入了两种分歧。第一个散度是仿射坐标的函数,它与指数族或混合族的Jeffreys散度是一致的。对于这种分歧,我们表明,更多的关系方程和定理类似于欧几里德空间举行除了余弦定律。第二类发散是势函数,对于指数族,它们与Bhattacharyya距离一致;对于混合族,它们与Jensen-Shannon发散一致.我们得到了第一和第二分歧之间的一个不等式,并证明了该不等式是Lin不等式的推广。
2018-09-08 cs.IT math.DG math.IT
Approximating $f$-Divergences with Rank Statistics
Department of Mathematics, Technical University of Munich \& Munich Center for Machine Learning, Germany. The majority of the work was conducted while at the Institute of Mathematics at the Technical University of Berlin, Germany \& the Berlin Mathematical School.;Department of Signal Theory
提出一种基于秩统计量的 $f$-散度近似方法,通过直接处理秩分布避免显式密度比估计,并证明其单调性、下界性质及收敛速率,同时扩展到高维数据的切片版本。
2026-06-01 cs.LG stat.ML
Statistical Inference based on Bridge Divergences
M-估计提供了简单的稳健的替代极大似然估计。然而,大部分的鲁棒性文献,集中在位置,位置规模和回归估计的问题,而不是一般参数的估计。密度幂散度(DPD)和对数密度幂散度(LDPD)测度在一般参数模型中提供了两类竞争M-估计(由散度得到),其中MLE作为特例。在这些家庭中的每一个,估计的鲁棒性是通过密度功率下加权离群观测。这两个家庭已被证明是非常有用的工具,在该地区的鲁棒推理。然而,这两个族的最小距离估计之间的关系和层次尚未得到全面的研究或完全建立。给定一组特定的真实数据,如何从这两类分歧的并集中选择一个最优成员?在本文中,我们提出了一个广义家庭的分歧,将上述两个类,这个家庭提供了一个光滑的桥梁之间的DPD和LDPD措施。这个系列有助于澄清和解决DPD和LDPD的重要系列之间的关系的几个长期存在的问题,除了是一个重要的工具,在不同领域的统计推断在其本身的权利。
2017-06-18 stat.ME
Optimizing Variational Representations of Divergences and Accelerating their Statistical Estimation
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);Foundation for Research and Technology, Hellas(希腊研究与技术基金会)
高维概率分布之间的分歧和距离的变分表示在许多研究领域提供了重要的理论见解和实践优势。最近,它们作为一种用于训练概率模型和统计区分数据分布的易于处理且可扩展的方法在机器学习中受到欢迎。它们的优点包括:1)它们可以从数据中估计为统计平均值。2)这样的表示可以利用神经网络的能力来有效地近似函数空间中的最优解。然而,目前缺乏一种系统和实用的方法来提高这种变分公式的紧密性,并因此加速从数据中进行统计学习和估计。在这里,我们开发了这样一种方法,建立新的,更紧密的变分表示的分歧。我们的方法依赖于通过辅助优化问题构造的改进的目标泛函。此外,目标泛函的泛函海森的计算揭示了共同的最优变分解周围的局部曲率差异;这量化和排序了不同变分表示之间的紧密性增益。最后,利用神经网络优化的数值模拟表明,更紧密的表示可以在合成和真实数据集(超过1000个维度)中显著更快地学习和更准确地估计分歧,通常加速近一个数量级。
2022-03-23 cs.IT cs.LG math.IT
Parameter estimation for the discretely observed fractional Ornstein-Uhlenbeck process and the Yuima R package
本文对离散观测的分数阶Ornstein-Uhlenbeck过程的漂移、扩散系数和Hurst指数给出了相合的渐近高斯估计。对于漂移的估计,仅在1/2 < H < 3/4的情况下才得到结果。本文还提供了基于YUIMA包的R统计环境的现成软件。
2011-12-16 math.ST stat.CO stat.OT
Total variation distance for discretely observed Lévy processes: a Gaussian approximation of the small jumps
通常的做法是将Lévy过程的小跳跃视为维纳噪声,从而用高斯分布近似其边缘。然而,结果,允许量化的善良,这种近似根据给定的度量是罕见的。在本文中,我们阐明了当所选择的度量是全变差距离时会发生什么。这样的选择是由其统计解释的动机。如果两个统计模型之间的全变差距离收敛于零,则无法构建检验来区分这两个模型,因此从统计学上讲,这两个模型是等效的。本文对具有无穷Lévy测度的Lévy过程在全变差距离下的小跳的高斯近似进行了细致的分析。给出并讨论了Lévy过程小跳的$n$离散观测值与相应的高斯分布之间的全变差距离的非渐近界.作为一个副产品,新的上界的全变差距离的离散观测Lévy过程。用具体的例子说明了这一理论。
2019-04-02 math.PR math.ST stat.TH
Projections with logarithmic divergences
在信息几何中,广义指数族和曲率统计流形是近年来研究的热点。在本文中,我们考虑的统计流形诱导的对数$L^{(α)}$ -发散推广的Bregman分歧。已知这样的流形是具有常负截面曲率的对偶射影平坦的,并且与第二作者引入的广义指数族$\mathcal{F}^{(α)}$ -族密切相关。我们的主要结果构造了一个统计流形的对偶叶状,即,由原始和对偶自平行子流形组成的正交分解。这种分解,这可以很自然地解释为原始和对偶投影的对数发散,扩展了对偶叶理的对偶平坦流形研究的阿马里。作为一个应用,我们制定了一个新的$L^{(α)}$ -PCA问题,推广了指数族PCA。
2021-05-08 math.DG stat.ME
On divergences tests for composite hypotheses under composite likelihood
众所周知,在某些情况下,计算似然函数并不容易,因为数据集可能很大或者模型太复杂。在这种情况下,通过乘以变量的受试者的似然性得到的复合似然性可能是有用的。将经典的似然比检验统计量推广到复合似然框架中,作为解决复合似然背景下检验问题的一个过程。本文引入并研究了一类新的复合似然检验统计量:复合发散检验统计量,用于解决简单原假设或复合原假设的检验问题。为此,我们介绍和研究的限制最大合成似然估计的渐近分布。
2016-03-01 stat.ME
How to detect a biased sample using the Renyi divergence measure?
Cochin University of Science and Technology(科钦科学与技术大学)
研究如何用雷尼散度测度检测有偏样本,提出针对未删失和I型删失数据的统计检验方法,通过模拟得临界值,经功效研究与其他检验比较,并分析真实数据集,展示该方法检测长度偏差实用价值。
2026-07-22 stat.OT
Long range dependence spectral testing from discretely observed functional time series in manifolds
University of Granada(格拉纳达大学);University of Santiago de Compostela(圣地亚哥-德孔波斯特拉大学)
本文研究流形中离散观测的受污染函数型时间序列的长程依赖谱检验,分析该检验程序的渐近性质,拓展了原有完全观测数据下的检验框架。
2026-08-12 math.ST stat.TH
Robust Nonparametric Two-Sample Tests via Mutual Information using Extended Bregman Divergence
Novartis AG(诺华公司)
本文提出基于扩展Bregman散度的互信息非参数两样本检验,具有稳健性和高渐近效率,通过模拟验证其在污染下的优越性能。
2026-02-03 stat.ME
Risk Quadrangle and Robust Optimization Based on Extended $φ$-Divergence
该研究提出扩展φ-散度与扩展φ-散度四边形,将分布鲁棒优化整合进基础风险四边形框架,推导相关元素的原始与对偶表示,证明其可涵盖多种常见优化问题,并通过案例可视化内部最大化的最优解。
2024-12-10 math.OC stat.OT
Extreme Value Estimation for Discretely Sampled Continuous Processes
在极值统计的环境应用中,潜在的随机过程通常被建模为连续时间/空间中的最大稳定过程,或者被建模为这种最大稳定过程吸引区域中的过程。然而,在实践中,这些过程通常仅在离散点处观察到,并且必须诉诸插值来填充间隙。我们讨论了这样的插值对边际参数估计以及指数测度估计的影响。特别是,自然条件的观测计划的精细开发,确保渐近的内插估计量的行为以同样的方式使用充分观察到的连续过程的估计。
2018-02-09 math.ST stat.TH
Testing for jumps in a discretely observed process
我们提出了一个新的测试,以确定跳跃是否存在于资产收益率或其他离散采样过程。当采样间隔趋于0时,如果有跳跃,我们的检验统计量收敛到1,如果没有跳跃,则收敛到另一个确定的已知值(如2)。该检验对所有Itô半鞅都有效,既不依赖于过程的定律,也不依赖于它所解的方程的系数,不需要对这些系数进行初步估计,并且当存在跳跃时,该检验适用于跳跃是否具有有限或无限活动以及任意的Blumenthal-Getoor指数。最后,我们对模拟和资产收益率数据进行了测试。
2009-03-02 math.ST stat.TH
Theory of functional principal component analysis for discretely observed data
本文针对离散含噪观测数据,建立了特征分量数目发散情形下函数型主成分分析的统一扰动理论,给出特征函数上界、特征值渐近分布及收敛速率转变规律,并提出双重截断技术。
2024-04-02 math.ST stat.TH
Adaptive LASSO-type estimation for ergodic diffusion processes
LASSO是一种广泛使用的统计方法,用于同时估计和变量选择。近年来,许多作者从理论和应用的角度对该技术进行了分析。本文引入并研究了离散观测遍历扩散过程的自适应LASSO问题。我们证明了Oracle性质,并导出了LASSO估计量的渐近分布。我们的理论框架是基于随机场方法,它适用于更一般的家庭的定期统计实验的意义上的Algimov-Hasminskii(1981)。此外,我们进行了模拟和实际数据分析,提供了一些证据,这种方法的适用性。
2010-02-05 math.PR math.ST stat.AP
A technical note on divergence of the Wald statistic
Wald检验统计量已被证明在某些条件下存在差异(Dufour et al,2013,2017)。本文将发散与多项式矩阵的特征值联系起来,并建立了发散率。
2019-06-13 math.ST stat.TH