Accelerated Nonparametric Maximum Likelihood Density Deconvolution Using Bernstein Polynomial
提出了一种新的极大似然反卷积方法,用于在已知误差分布的可加测量误差模型中,利用特定β分布的有限混合的近似Bernstein型多项式模型,反卷积在已知紧支集上具有正下界的连续密度.采用变点检测方法选择最优模型度。基于$n$大小的污染样本,在广义正态误差分布满足的假设下,证明了当未知密度对$k>1$具有连续的$2k$阶导数时,均方误差的最优收敛速度为$k^{-1}\mathcal{O}(n^{-1+1/k}\log^3 n)$.仿真结果表明,该估计的小样本性能优于反卷积核密度估计。所提出的方法说明了一个实际的数据应用。
2018-01-26 stat.ME
Asymptotics of Nonparametric Estimation under General Non-monotone MAR Missingness: A Nonparametric Maximum Likelihood Approach
University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
本文针对非单调MAR缺失情形,采用筛极大似然方法建立非参数估计的收敛速率,将其应用于密度估计时,所得估计量经EM算法近似后,在模拟中表现与使用完整数据的核密度估计器相当。
2026-11-05 stat.ME
Boosting in Univariate Nonparametric Maximum Likelihood Estimation
Tsinghua University(清华大学)
非参数极大似然估计的目的是推断未知的密度分布,同时尽可能少的假设。为了减轻非参数数据拟合中的过度参数化,通常将平滑假设合并到估计中。本文提出了一种新的基于boosting的单变量非参数估计方法。通过非参数对数似然的二阶近似,推导出boosting算法。在Boosting算法中,高斯核和光滑样条被选为弱学习器,以满足光滑假设。仿真和实际数据实验证明了该方法的有效性。
2021-01-21 cs.LG eess.SP stat.ME
A Nonparametric Maximum Likelihood Approach for Partially Observed Cured Data with Left Truncation and Right-Censoring
在妊娠期观察性研究的自然流产(SAB)分析中出现部分观察到的治愈数据。与传统的治愈数据不同,这类数据有一个可观察到的“治愈”部分,即妇女没有自然流产。除右删失外,数据还进行左截断,因为女性可能在妊娠期间的任何时间进入或退出研究。左截断特别地在固化部分存在的情况下导致独特的偏差。本文研究了一类治愈率模型,并提出了一种条件非参数极大似然估计方法。为了解决计算的挑战,我们采用了一个期望最大化算法,利用“鬼副本”的数据,并推导出一个封闭形式的方差估计。在适当的假设下,我们证明了所得到的估计涉及一个无界的累积基线风险函数的一致性,以及渐近正态性。仿真结果进行了评估有限样本的性能。我们提出的激励SAB研究的分析,以说明我们的模型解决SAB的发生和时间的权力,在实践中现有的方法相比。
2016-08-31 stat.ME
Locally parametric nonparametric density estimation
University of Oslo(奥斯陆大学);The Open University(开放大学)
本文提出一种结合参数和非参数方法的密度估计器,通过局部核平滑似然函数估计真实密度的局部参数近似,改进了传统核方法的偏差和方差特性。
2026-04-20 stat.ME
Nonparametric estimation of a mixing distribution for a family of linear stochastic dynamical systems
本文给出了线性随机动力系统参数混合分布的非参数最大似然估计。这包括例如具有在状态向量、输入向量以及过程和测量噪声向量中为线性的过程和测量噪声的药代动力学群体模型。大多数混合分布的研究只考虑测量噪声。具有过程噪声的模型的优点在于,除了测量误差之外,还考虑了模型本身的不确定性。例如,对于确定性药代动力学模型,通常不包括剂量、给药时间和血液样本时间的误差。对于线性随机模型,我们使用线性Kalman-Bucy滤波来计算观测值的似然,然后使用非参数自适应网格算法来求混合分布的非参数最大似然估计.然后,我们使用的方向导数的估计混合分布,以表明发现的结果达到一个全球最大值。一个简单的例子,使用一个房室药代动力学线性随机模型。除了群体药代动力学,本研究还适用于经验贝叶斯估计。
2015-09-14 stat.ME
Nonparametric Regression, Confidence Regions and Regularization
本文对单位区间上的非参数回归问题给出了一个统一的处理方法。它是基于一个普遍的,诚实的和非渐近的置信区域,这是由一组线性不等式,涉及在设计点的功能值定义。兴趣通常集中在该区域中的某些最简单的函数上,其中简单性可以根据形状(局部极值的数量,凸性/曲率的间隔)或光滑性(导数的界限)或两者的组合来定义。一旦确定了某种形式的正则化,就可以使用置信区域来提供诚实的非渐近置信界限,其信息量较少,但在概念上简单得多。
2007-11-05 math.ST stat.ME stat.TH
Composite Likelihood Inference by Nonparametric Saddlepoint Tests
复合似然函数类为复杂统计模型的近似推理提供了一个灵活而强大的工具,当完全似然函数无法指定或无法计算时,可以使用它进行近似推理。然而,当考虑关于多维参数的假设检验时,复合似然方法的强度变暗,因为似然比、Wald和得分型检验统计量的有限样本行为与Godambe信息矩阵相关联。因此,Godambe信息的不准确估计转化为不准确的p值。在本文中,它是如何准确的推断,可以通过使用一个完全非参数鞍点检验统计量来自复合得分函数。所提出的统计量是渐近卡方分布的二阶相对误差,并不依赖于Godambe信息。通过仿真研究证明了该方法的有效性。
2013-06-23 math.ST stat.ME stat.TH
Minimax and Adaptive Inference in Nonparametric Function Estimation
自1956年Stein的开创性论文以来,收缩在参数和非参数推断中发挥了重要作用。本文讨论了非参数函数估计中的极大极小性和自适应极大极小性。三个相互关联的问题,函数估计下的整体集成平方误差,估计下逐点平方误差,和非参数置信区间,被认为是。收缩是极小极大理论和适应理论发展的关键。虽然这三个问题是紧密相连的,极小极大理论有一些相似之处,适应理论是惊人的不同。例如,与自适应点估计形成鲜明对比的是,在许多常见的设置中,不存在适应底层函数的未知平滑度的非参数置信区间。这些理论的简要说明。讨论了这些问题之间的联系和区别,并通过实例加以说明。
2012-03-22 stat.ME
Nonparametric generalized fiducial inference for survival functions under censoring
信念推断是费雪在20世纪30年代提出的一个有着悠久历史的理论,它有时会引起激烈的争论。然而,它的应用主要局限于相对简单的参数问题。在本文中,我们提出了可能是第一次的信念推断,由Hannig等人推广。(2016),系统地应用于右删失下的非参数生存函数的估计。我们发现,由此产生的信念分布产生了令人惊讶的良好的统计程序适用于一个样本和两个样本的问题。特别是,我们使用的生存函数的信念分布构造逐点和曲线置信区间的生存函数,并提出了基于曲线置信区间的测试。我们建立了一个功能性的Bernstein-von Mises定理,并在不同水平的删失情况下进行了全面的模拟研究。建议的基于基准的置信区间保持覆盖的情况下,渐近方法往往有很大的覆盖问题。此外,所提出的置信区间的平均长度通常短于保持覆盖率的竞争方法的长度。最后,在某些情况下,所提出的置信检验比各种类型的对数秩检验和超级对数秩检验更强大。我们说明了拟议的基准测试比较化疗与化疗联合放疗的数据,从局部不可切除的胃癌的治疗。
2018-03-24 stat.ME
Nonparametric maximum likelihood estimation under a likelihood ratio order
基于独立样本的两个单变量分布的比较是统计学中的一个基本问题,在各种科学学科中都有应用。在许多情况下,我们可以假设这两个分布是随机有序的,这意味着直观地说,来自一个分布的样本往往比来自另一个分布的样本大。在经济学、生物医学和其他领域中出现的一种随机序是似然比序,也称为密度比序,其中两个分布的密度函数之比是单调非递减的。本文在似然比阶下,导出并研究了个体分布及其密度比的非参数极大似然估计。我们的工作适用于离散分布,连续分布,和混合连续-离散分布。我们证明了在某些情况下的估计分布依分布收敛,我们说明了我们的结果,使用数值实验和分析的生物标志物预测细菌感染的儿童全身炎症反应综合征。
2021-07-07 math.ST stat.ME stat.TH
Nonparametric iterated-logarithm extensions of the sequential generalized likelihood ratio test
本文对一元分布均值的序贯广义似然比(GLR)检验和相应的时间一致置信序列进行了非参数推广。通过利用几何解释的GLR统计量,我们推导出一个简单的分析上界的概率,它超过任何预先指定的边界,这些是难以近似通过模拟由于无限地平线的测试和复合非参数零值考虑。使用时间一致的边界穿越不等式,我们进行了一个统一的非渐近分析的预期样本量的单侧和开放式测试的非参数类的分布(包括次高斯,次指数,次伽玛,指数家庭)。最后,我们提出了一个灵活而实用的方法来构建时间均匀的置信序列,很容易调整到均匀接近逐点的Bubloff界在任何目标时间间隔。
2021-05-14 math.ST stat.ME stat.TH
On nonparametric maximum likelihood for a class of stochastic inverse problems
建立了一类随机反问题的非参数极大似然估计的相合性。我们继续通过嵌入的框架到Pfanzagl有关混合物的早期结果的一般设置。
2004-11-23 math.ST stat.TH
Easy confidence interval formulas for network meta-analysis and adjustment of confidence intervals for a small number of studies
我们提出了简单的公式的置信区间的Wald统计量,似然比统计量,得分统计的网络荟萃分析。此外,我们还考虑了对少数研究的网络荟萃分析不能保持名义置信水平的担忧的解决方案。对于少量研究分析中的偏倚调整,Bartlett型调整是一种众所周知的方法。许多Bartlett型调整型方法都是基于极大似然估计量。然而,网络元分析往往使用限制极大似然估计,没有广泛讨论的Bartlett型调整。在本文中,我们提出了一个Bartlett型调整方法的Wald统计量,似然比统计量,得分统计量时,滋扰参数估计不仅极大似然方法,而且限制极大似然方法。此外,我们提出了一个高阶调整,通过应用自助方法的Bartlett型调整统计量。使用计算机模拟,我们确认调整后的置信区间保持在名义置信水平。此外,我们证实,置信区间的似然比检验的基础上的限制极大似然方法执行良好,无需进一步的自助调整。最后,我们证明了置信区间是调整实际的网络荟萃分析。
2022-01-10 stat.ME
Linear programming approach to nonparametric inference under shape restrictions: with an application to regression kink designs
我们开发了一种在形状约束下构建非参数回归函数置信带的新方法。该方法可以通过线性规划实现,因此在计算上具有吸引力。我们说明了我们所提出的方法与应用程序的回归折点设计(RKD)的用法。基于RKD的计量经济学分析由于非参数导数估计的收敛速度慢,经常会遇到置信区间较宽的问题。我们证明,经济模型和结构激励形状的限制,这反过来又有助于缩小置信区间的失业保险金对失业持续时间的因果关系的分析。
2021-02-12 econ.EM stat.ME
Robust analysis of second-leg home advantage in UEFA football through better nonparametric confidence intervals for binary regression functions
在国际足球比赛中,两回合淘汰赛是很常见的,每支球队都在主场进行一回合比赛,最后的结果取决于总比分。许多球员、教练和追随者似乎相信“第二回合主场作战”,即第二回合主场作战是有益的。这是一个比通常和公认的主场优势更复杂的影响,更难确定,以前的统计研究也没有证明其真实性。然而,鉴于当今国际足球比赛所涉及的资金数额,这种影响是否存在的问题是非常重要的。与以往的研究不同,本文从纯粹的非参数角度来解决这个问题,并给出了一个非常客观的答案,而不是基于任何特定的模型规范,这些模型规范可以将分析导向一个或另一个方向。在此过程中,本文回顾了比例的Wald置信区间的众所周知的缺点,提出了条件概率函数的新的非参数置信区间,重新审视了在非参数回归中建立置信区间时的偏差问题,并提供了一种新的基于Bootstrap的解决方案。新的时间间隔被用于对2009/10赛季至2014/15赛季欧洲冠军联赛和欧罗巴联赛的比赛结果数据进行仔细分析。一个轻微的“第二回合主场优势”得到证明。
2017-01-26 stat.AP stat.ME
Confidence sets in nonparametric calibration of exponential Lévy models
基于欧式期权的价格构造了指数Lévy模型非参数校准的置信区间和联合置信集.为此,我们在谱校准方法中证明了波动率,漂移,跳跃强度和Lévy密度在100多个点的估计的联合渐近正态性。
2013-09-19 math.ST q-fin.ST stat.TH
A New Approach to the Nonparametric Behrens-Fisher Problem with Compatible Confidence Intervals
本文针对非参数Behrens-Fisher问题提出一种基于Mann-Whitney效应方差比的新检验方法,能更有效控制第一类错误率,并构造了覆盖率更优的兼容置信区间。
2025-04-08 stat.ME
Nonparametric (smoothed) likelihood and integral equations
我们表明,有一个密切的联系理论的非参数(平滑)最大似然估计某些反问题和积分方程。区间删失和反卷积问题的估计说明了这一点。我们还讨论了这些模型中光滑泛函的极大似然估计的渐近有效性。
2013-08-10 math.FA math.ST stat.TH
Uniform-in-bandwidth consistency for nonparametric estimation of divergence measures
我们提出了连续分布之间的发散测度的非参数估计。我们的方法是基于一个插件的核型估计的密度函数。我们给出了建议估计的带宽一致性的一致性。因此,还提供了其渐近100%置信区间。
2014-06-23 stat.ME
Uniform confidence bands for nonparametric errors-in-variables regression
本文提出了一种构造预测变量受测量误差影响的非参数回归函数的均匀置信带的方法。我们允许测量误差的分布是未知的,但假设验证数据或重复测量的潜在预测变量的可用性。建议的置信带建立在反卷积核估计和一个新的应用程序的乘数自助法。我们建立了建议的置信带的渐近有效性。据我们所知,这是第一个文件,以获得渐近有效的一致置信带的非参数误差变量回归。
2019-06-13 math.ST stat.TH
Nonparametric identification and maximum likelihood estimation for hidden Markov model
研究有限状态隐马尔可夫模型的非参数辨识和极大似然估计。我们得到的参数识别以及马尔可夫链的顺序,如果转移概率矩阵有满秩和遍历,如果状态相关的分布都是不同的,但不一定是线性无关。在此基础上,发展了非参数极大似然估计理论。首先,我们证明了隐马尔可夫模型的渐近对比,Kullback-Leibler散度,确定了真正的参数向量非参数以及。其次,对于状态依赖密度的类,这是一个参数家庭的任意混合物,我们证明了非参数极大似然估计的一致性。这里,不需要假设混合分布的识别。数值特性的估计,以及非参数拟合优度拟合优度的模拟研究。
2015-09-30 math.ST stat.TH
Time-uniform, nonparametric, nonasymptotic confidence sequences
置信序列是在无限时间范围内一致有效的置信区间序列。我们的工作发展的置信度序列的宽度为零,与非渐近覆盖的非参数条件下的保证。我们绘制指数浓度的Cramér-Schiff方法,迭代对数(LIL)定律和序贯概率比检验之间的联系-我们的置信序列是第一个时间一致的扩展;提供第二个紧密的,非渐近的特征;并将第三个推广到非参数设置,包括次高斯和伯恩斯坦条件,自归一化过程和矩阵鞅。我们说明了我们的证明技术的一般性,通过推导出一个numerical-Bernstein界增长的LIL率,以及一个新的上LIL的随机矩阵的总和的最大特征值。最后,我们将我们的方法应用于协方差阵估计和Neyman-Rubin潜在结果模型下的样本平均治疗效果估计。
2022-08-06 math.PR math.ST stat.ME
Nonparametric Confidence Intervals for Generalized Lorenz Curve using Modified Empirical Likelihood
本文提出三种改进的经验似然方法构建广义Lorenz序的置信区间,证明其极限分布服从缩放卡方分布,并通过模拟和真实数据验证了方法的有效性。
2023-11-24 math.ST stat.ME stat.TH
Simultaneous confidence bands for nonparametric regression with functional data
我们考虑非参数回归的背景下,功能的数据,也就是说,当一个随机样本的功能是观察到一个细网格。我们得到一个功能渐近正态性的结果,允许建立同时置信带(SCB)的各种估计和推理任务。两个应用SCB程序的回归函数和拟合优度测试曲线回归模型提出。第一种方法在其他可用方法上提高了精度,而第二种方法可以检测参数化形状的局部偏离,而不是通常的拟合优度测试,仅跟踪全局偏离。SCB程序的数值研究和说明与语音数据集提供。
2010-07-20 math.ST stat.ME stat.TH
Bootstrap Confidence Intervals Using the Likelihood Ratio Test in Changepoint Detection
针对Bootstrap抽样下的似然比检验在变点检测中的功效问题,提出了一种基于Bootstrap置信区间长度的假设检验方法。假设误差为独立同分布的正态分布,利用Bootstrap方法,估计了变点抽样分布。此外,本研究描述了一种方法来估计无变点的数据集,形成零抽样分布。利用零抽样分布和估计的变点分布,可以在置信区间的长度上进行临界值和功效计算。
2020-11-07 stat.ME
Fletcher-Turek Model Averaged Profile Likelihood Confidence Intervals
我们评估了Fletcher和Turek(2011)在一个简单的情况下提出的模型平均轮廓似然置信区间,其中有两个线性回归模型,我们对它们进行平均。我们得到精确的表达式的覆盖范围和缩放的预期长度的间隔,并使用这些来计算这些数量在特定的情况下。我们发现,Fletcher-Turek置信区间可以有覆盖率远低于标称覆盖率和预期的长度大于标准的置信区间的覆盖率等于相同的最小覆盖率。在这些情况下,不幸的是,Fletcher-Turek置信区间并不比在模型选择后使用的标准置信区间更好,但忽略了模型选择过程。
2014-04-28 stat.ME
Computation of Two and Three Dimensional Confidence Regions with the Likelihood Ratio
与对数似然比的分布有关的渐近结果允许创建置信区域,该置信区域是置信区间的一般扩展。可以直观地显示二维和三维区域,以便同时描述感兴趣参数的合理区域。虽然最先进的统计教科书的推理讨论这些渐近置信区域,没有探索如何计算这些地区的图形的目的。本文演示了应用一个简单的三角恒等式来计算二维和三维置信区域,我们将笛卡尔坐标转换为我们所说的径向剖面对数似然。该方法适用于具有定义的似然函数的任何分布,因此它不限于特定的数据分布或模型范例。我们描述的方法,随着算法,遵循我们的方法的一个例子,并结束与检查的计算时间。
2015-11-14 stat.ME
Honest Confidence Sets in Nonparametric IV Regression and Other Ill-Posed Models
本文发展了计量经济学中一类非常普遍的不适定模型的推导方法,包括非参数工具变量回归,各种函数回归和密度反卷积。我们专注于使用Tikhonov正则化估计的感兴趣参数的均匀置信集,如Darolles,Fan,Florens和Renault(2011)。由于它是不可能的推理方法的基础上的中心极限定理,我们开发了两种替代方法依赖于浓度不等式和自助近似。我们表明,预期的直径和覆盖性能的结果集有统一的有效性,在一个大类的模型,即,构造的置信集是诚实的。蒙特卡罗实验表明,引入的置信集具有合理的宽度和覆盖性能。使用美国的数据,我们为各种商品的恩格尔曲线提供了统一的置信集。
2020-12-19 econ.EM math.ST stat.AP
Unified Rules of Renewable Weighted Sums for Various Online Updating Estimations
本文建立了流数据模型中各种在线更新估计的可更新加权和(RWS)统一框架。新定义的RWS为在线更新似然、在线更新损失函数、在线更新估计方程等奠定了基础,其思想直观、启发式,算法计算简单。本文选择非参数模型作为示例设置。RWS适用于各种类型的非参数估计,包括但不限于非参数似然、拟似然和最小二乘。此外,该方法和理论还可以推广到含参数和非参数函数的模型。证明了新估计量的估计相合性和渐近正态性,并得到了新估计量的预言性质。此外,这些属性总是得到满足,没有任何限制的数据批次的数量,这意味着新的方法是自适应的情况下,流数据集到达永久。仿真实验和实际数据分析的各种数值例子进一步说明了该方法的行为。
2020-08-20 stat.ME
New Confidence Intervals and Bias Comparisons Show that Maximum Likelihood Can Beat Multiple Imputation in Small Samples
在分析不完全数据时,使用多重插补(MI)还是全信息极大似然(ML)更好?在大样本情况下,ML显然更好,但在小样本情况下,ML的有用性受到限制,因为ML通常使用正态检验统计量和置信区间,这需要大样本。我们提出了小样本的基于t的ML置信区间,具有良好的覆盖率,并短于基于t的置信区间下MI。我们还表明,ML点估计是更少的偏见和更有效的比MI点估计在小样本的二元正态数据。使用我们新的置信区间,ML应优于MI,即使在小样本中,只要两种选择都可用。
2015-08-20 stat.ME
The nonparametric bootstrap for the current status model
证明了在当前状态模型中直接自举分布函数的非参数极大似然估计(MLE)会导致不一致的置信区间。然而,我们表明,自举的泛函的极大似然估计可以用来产生有效的间隔。为此,我们证明了自举极大似然估计在$L_p$ -距离中以正确的速率收敛。我们还讨论了应用这一结果的当前状态回归模型。
2017-09-20 stat.ME
Bi-log-concave distribution functions
定性形状约束下的分布函数F或密度f=F'的非参数统计为经典的参数或完全非参数方法提供了一种有趣的替代方法。我们通过考虑一个新的形状约束对这一领域做出了贡献:如果log(F)和log(1 - F)都是凹的,则称F是双对数凹的。许多通常考虑的分布与此约束兼容。例如,任何C.D.F.具有对数凹密度f = F'的F是双对数凹的。但与后一种约束相反,双对数正态分布允许多峰密度。我们提供了各种表征。结果表明,结合任何非参数的置信带F与新的形状约束导致实质性的改善,特别是在尾部。为了查明这一点,我们表明,这些置信带意味着非平凡的任意时刻和F的矩母函数的置信界限。
2016-10-28 stat.ME
Nonparametric Empirical Bayes Confidence Intervals
Northwestern University(西北大学)
本文提出非参数经验贝叶斯置信区间,用于正常均值模型中不可观测的个体效应,通过非参数先验构造置信区间,具有渐近精确性,尽管存在统计成本,但模拟显示其在非高斯先验下保持名义覆盖概率。
2026-05-08 econ.EM math.ST stat.ME
Uncertainty Quantification for High Dimensional Sparse Nonparametric Additive Models
在高维环境中的统计推断最近在文献中引起了极大的关注。然而,大多数已发表的工作集中在参数线性回归问题。本文考虑了这一问题的一个重要扩展:高维稀疏非参数可加模型的统计推断。为了更准确地说,本文开发了一种方法来构建一个概率密度函数的所有候选模型的集合。该方法还可以应用于构造各种感兴趣的量(例如噪声方差)的置信区间和加性函数的置信带。这种方法是使用一个广义的信念推断框架。结果表明,所提出的方法产生的结果享有正确的渐近频率论性质。从数值实验中得到的经验结果验证了这一理论主张。最后,该方法被应用到一个基因表达数据集,并发现了新的发现,大多数现有的方法的基础上参数线性模型未能观察到。
2019-11-13 stat.ME
Fast nonparametric near-maximum likelihood estimation of a mixing density
混合模型经常用于密度估计应用中,但估计混合分布的问题仍然是一个挑战。非参数极大似然产生离散的混合分布的估计,当真实的混合分布被认为具有平滑密度时,这些估计可能很难解释。在本文中,我们研究了一个算法,产生一个序列的光滑估计已被证明收敛到非参数极大似然估计。在这里,我们给出了这个猜想的严格证明,并提出了一个新的数据驱动的停止规则,产生光滑的近最大似然估计的混合密度,并模拟证明了质量的经验性能的估计。
2017-12-11 math.ST stat.CO stat.TH
An adaptation theory for nonparametric confidence intervals
提出了一种非参数自适应理论,用于构造线性泛函的置信区间。类间连续性模数捕获自适应置信区间的预期长度。尖锐的下界给出了预期的长度和有序的连续性模是用来构建自适应置信度的程序是在一个常数因子的下界。此外,还发展了非凸参数空间上的极大极小理论。
2005-03-29 math.ST stat.TH
Nonparametric Estimation for a Log-concave Distribution Function with Interval-censored Data
针对混合案例区间删失数据下的潜在事件时间估计问题,提出对数凹分布函数假设下的非参数极大似然方法,建立估计量性质并开发R包,相比现有方法更具灵活性与平衡性能。
2024-11-29 stat.CO stat.ME
Nonparametric likelihood-free inference with Jensen-Shannon divergence for simulator-based models with categorical output
Helsinki Institute of Information Technology (HIIT)(赫尔辛基信息技术研究所);University of Helsinki(赫尔辛基大学);University of Oslo(奥斯陆大学);Wellcome Sanger Institute(惠康桑格研究所);KTH Royal Institute of Technology(瑞典皇家理工学院)
基于模拟器的统计模型的无可能性推理最近在机器学习和统计社区都引起了极大的兴趣。这些研究领域的主要焦点是通过各种类型的蒙特卡罗采样算法或基于深度神经网络的代理模型来近似模型参数的后验分布。迄今为止,基于模拟器的模型的频率论推理受到的关注要少得多,尽管它特别适用于大数据应用,其中可能性的隐式渐近近似预计是准确的,并且可以利用计算效率高的策略。在这里,我们得出了一组理论结果,使估计,假设检验和置信区间的模型参数使用渐近性质的詹森-香农发散的建设。这样的渐近近似提供了一个快速的替代计算密集型的方法,可以是基于模拟器的模型的各种应用程序的吸引力。61
2022-05-26 cs.LG stat.ME
Nonparametric confidence intervals for monotone functions
研究了单调函数的非参数保序置信区间。在Banerjee和Wellner(2001)中,基于当前状态模型中限制和非限制极大似然估计的似然比检验,引入了逐点置信区间。我们将该方法推广到其他具有单调函数的模型的处理,并通过Banerjee和Wellner(2001)中结果的新证明以及构造单调密度的置信区间来证明我们的方法,对于单调密度,仍然需要发展理论。对于后一种模型,我们证明了在原假设下LR检验的极限分布与当前状态模型相同。我们比较的置信区间,这样得到的,与置信区间使用平滑的最大似然估计(SMLE),使用自举方法。“拉格朗日修改”累积和图,在这里开发的,是一个必不可少的工具,用于计算的限制MLE和置信区间的理论发展,LR测试的基础上。
2015-02-16 math.ST stat.TH
A Nonparametric, Mixed Effect, Maximum Likelihood Estimator for the Distribution of Random Parameters in Discrete-Time Abstract Parabolic Systems with Application to the Transdermal Transport of Alcohol
本文提出离散时间抽象抛物系统随机参数联合分布的非参数混合效应最大似然估计器,证明其存在性、一致性及有限维逼近收敛性,并用于酒精经皮转运数据的分布估计与不确定性量化。
2023-04-24 math.OC stat.ME
Confidence Diagram of Nonparametric Ranking for Uncertainty Assessment in Large Language Models Evaluation
Harvard Chan School of Public Health(哈佛陈曾熙公共卫生学院);Columbia University(哥伦比亚大学);Duke University(杜克大学);University of Miami(迈阿密大学)
本文针对大语言模型排序评估问题,提出基于非参数上下文排序的假设检验框架,并引入置信图概念以有向图形式刻画排序置信集,通过推广高斯乘子自助法证明其有效性,实验表明该方法能为不同医学领域中大语言模型的性能评估提供可靠洞见。
2025-02-10 cs.LG stat.ME stat.ML
Nonparametric Inference via Bootstrapping the Debiased Estimator
在本文中,我们提出了通过自举的去偏核密度估计(密度估计)和去偏局部多项式回归估计(回归分析)构造置信带。Calonico等人(2018 b)最近采用了使用去偏估计量的想法,通过显式估计随机变化来构建给定点处密度函数(和回归函数)的置信区间。我们扩展了他们的想法,使用去偏估计,并进一步提出了一个自举方法,同时构建置信带。这种改进方法的优点是,我们可以很容易地从传统的带宽选择器选择平滑带宽和置信带将是渐近有效的。我们证明了自举置信带的有效性,并将其推广到密度水平集和逆回归问题。仿真研究证实了建议的置信带/集的有效性。我们将我们的方法应用于天文数据集,以显示其适用性
2019-06-04 math.ST stat.ME stat.TH
Nonparametric regression on hidden phi-mixing variables: identifiability and consistency of a pseudo-likelihood based estimation procedure
本文概述了一个新的非参数估计过程的不可观测φ-混合过程。假设关于平稳隐藏状态(Xk)的唯一信息由过程(Yk)给出,其中Yk是f(Xk)的噪声观测。本文介绍了一种利用长度为b的观测值块来估计函数f和隐态分布的极大伪似然方法。在特殊情况下,b=1和b=2的模型的可辨识性进行了研究。建立了f的估计量和隐状态的分布的一致性,因为观测的数量增长到无穷大。
2015-08-26 math.ST stat.TH
Independent component analysis via nonparametric maximum likelihood estimation
独立成分分析(ICA)模型是一种非常流行的半参数模型,其中我们观察到随机向量$X = AS$的独立副本,其中$A$是非奇异矩阵,而$S$具有独立分量。本文提出了一种新的方法,利用非参数极大似然估计解混矩阵$W = A^{-1}$和$S$各分量的边缘分布。具体来说,我们研究的投影的经验分布的ICA分布具有对数凹边缘的子集。我们表明,从估计的分解矩阵的角度来看,它没有区别是否正确地指定的对数-ε。该方法进一步证明了理论结果和模拟研究。
2012-06-03 math.ST stat.TH
Nonparametric quasi-maximum likelihood estimation for Gaussian locally stationary processes
本文讨论高斯局部平稳过程的非参数极大似然估计。我们的非参数极大似然估计是通过最小化一类函数的频域似然来构造的。研究了所得估计量的渐近性质。结果取决于丰富的功能类。筛估计和整体估计。我们的研究结果适用于,特别是形状约束下的估计。作为一个例子,自回归模型拟合单调方差函数进行了详细讨论,包括算法的考虑。一个关键的技术工具是由函数索引的时变经验谱过程。对于这一过程,得到了一个Bernstein型指数不等式和一个中心极限定理.经验谱过程的这些结果是独立的利益。
2007-08-01 math.ST stat.TH
A Nonparametric Maximum Likelihood Approach to Mixture of Regression
针对混合线性回归模型,提出完全非参数极大似然估计量(NPMLE),在已知 $σ$ 且 $G^*$ 具有紧支撑时达到近参数速率,并实现基于后验的个体化系数推断。
2025-06-27 math.ST stat.ME stat.TH
Adaptive nonparametric confidence sets
我们构造了各种统计模型中希尔伯特空间值参数的诚实置信区域。置信集可以以任意自适应估计为中心,并且具有最佳适应于给定模型选择的直径。后一种调整必然在范围上受到限制。我们回顾了自适应置信区域的概念,并将自适应置信区域的直径的最佳比率与极小极大比率联系起来,用于测试和估计。应用包括有限正态均值模型、白噪声模型、密度估计和随机设计回归。
2006-05-17 math.ST stat.TH
Nonparametric Inference For Density Modes
Carnegie Mellon University(卡内基梅隆大学);University of Rome(罗马大学)
我们推导出非参数的置信区间的特征值的海森在模式的密度估计。这提供了关于模式的强度和形状的信息,也可以用作显著性检验。我们使用数据分裂的方法,其中使用数据的前半部分识别潜在模式,并使用数据的后半部分进行推断。为了得到特征值的有效置信集,我们使用基于基本对称多项式(ESP)变换的自举方法。这导致有效的自举置信集,而不管特征值中的任何多重性。我们还提出了一种新的带宽选择方法,即选择带宽,以最大化的显着模式的数量。我们通过例子表明,这种方法工作得很好。即使真实分布是奇异的,因此没有密度(在这种情况下,交叉验证选择零带宽),我们的方法也会选择合理的带宽。
2013-12-29 cs.LG stat.ME
Data-driven confidence bands for distributed nonparametric regression
WIAS Berlin(柏林应用分析与随机学研究所)
高斯过程回归和核岭回归是常用的非参数回归方法。不幸的是,他们遭受高计算复杂性,使他们不适用于现代的海量数据集。为此,已经提出了一些近似,其中一些允许分布式实现。其中之一是分而治之的方法,将数据分成若干分区,获得局部估计值,最后对它们进行平均。在本文中,我们提出了一种新的计算效率完全数据驱动的算法,量化这种方法的不确定性,产生频率主义$L_2$的置信带。我们严格证明了算法的有效性。本文的另一个贡献是平均估计量的最小最大最优高概率界,补充和推广了已知的风险界。
2020-06-08 cs.LG math.ST stat.ML
Confidence intervals for nonparametric regression
我们证明和讨论的概率非渐近界的成本与一般损失函数的回归计划从Rademacher理论的角度来看,和最优相对于平均$L^{2}$ -距离的基本条件期望的最小二乘回归结果从Vapnik-Chervonenkis理论的角度。结果如下分析涉及独立的,但可能是非平稳的训练样本,并可以扩展,在某种程度上,我们解释和说明,相关的情况下,训练样本表现出依赖性。
2022-03-20 math.PR math.ST stat.ML
Model-free Estimation of Latent Structure via Multiscale Nonparametric Maximum Likelihood
针对多元分布中潜结构难以识别估计的问题,提出无模型多尺度非参数最大似然方法,通过构建密度多尺度表示、数据驱动选模型及刻画渐近极限,设计有效聚类算法捕捉多种潜结构。
2025-04-15 math.ST stat.ME stat.ML
Properties of the Nonparametric Maximum Likelihood {ROC} Model with a Monotonic Likelihood Ratio
我们期望在感知信号检测实验中的一些观察者,如放射科医生,会做出理性的决定,因此这些观察者的评级有望形成凸ROC曲线。然而,测量和发布的曲线通常不是凸的。本文考察了Lloyd(2002)给出的ROC曲线的凸约束非参数极大似然估计。像Lloyd一样,我们使用池相邻Violator算法(PAVA)来构造凸曲线的估计。我们提出了一个直接的证明,这个估计是一个凸包的经验ROC曲线。该估计是简单的手工构造,并遵循Pesce等人的建议。(2010年)。在大量的实验条件下,我们研究了这种约束非参数极大似然估计(NPMLE)的性质。特别是,我们研究的行为下的曲线,这是经常被用来作为诊断性能的总结度量的面积。这种受约束的ROC估计量给出的曲线下面积(AUC)估计值相对于通常的经验AUC估计值偏高,但相对于潜在的连续真实AUC值可能偏差较小。约束ROC估计比通常的经验估计具有更低的方差。与以前的作者谁使用复杂的自举来估计方差的约束NPMLE,我们证明了标准的无偏估计量的方差工作以及估计方差的NPMLE AUC。
2013-01-31 stat.AP
Local quasi-likelihood with a parametric guide
广义线性模型和拟似然方法扩展了普通回归模型,以适应更一般的响应条件分布。非参数方法不需要明确的参数规格,并且所得到的模型完全由数据本身决定。然而,非参数估计方案通常具有较慢的收敛速度,例如Fan,Heckman和Wand [J. Amer. Statist. Assoc.90(1995)141- 150]。在这项工作中,我们提出了一个统一的家庭参数引导的非参数估计方案。这结合了参数和非参数方法的优点,使我们能够结合先验知识。渐近结果和数值模拟表明,我们的新的估计方案比原来的非参数对应的改善。
2009-11-20 math.ST stat.TH