Accurate inference in negative binomial regression
负二项回归通常用于分析过度分散的计数数据。对于小到中等的样本量,离散参数的极大似然估计量可能会受到显著偏倚的影响,这反过来又会影响对平均参数的推断。本文提出了负二项回归推理的基础上调整的得分函数,旨在减少均值和中位数的偏差。由此产生的估计方程是类似的那些可用于改进的推断在广义线性模型,特别是,可以解决使用一个适当的扩展迭代加权最小二乘。仿真研究表明,新方法的显着性能,这也被发现在许多情况下解决最大似然估计的数值问题。使用两个案例研究的方法进行说明和评估:一个埃姆斯saltinase检测数据集和癫痫发作的数据。基于调整后的分数的推断通常比明确的偏见纠正更可取。
2020-11-05 stat.ME
Modeling local predictive ability using power-transformed Gaussian processes
本研究提出基于幂变换的高斯过程模型,通过对数预测得分建模局部预测能力,引入立方根变换提升估计效率,还拓展至多输出场景,并应用于华盛顿特区日自行车使用量预测。
2024-10-06 stat.ME
Spectral domain likelihoods for Bayesian inference in time-varying parameter models
本文研究时变参数模型贝叶斯推断中频域似然近似的有限样本精度,通过三个模拟研究评估多种频域似然函数,并在鸡蛋价格数据上加以验证。
2024-11-21 stat.ME
Accurate Parametric Inference for Small Samples
我们概述了如何现代似然理论,它提供了基本上是准确的推论,在各种参数统计问题,可能会经常在实践中应用。虽然似然程序的基础上分析渐近近似,本文的重点不是理论,而是实施和应用。数值例子给出了逻辑斯谛回归,非线性模型和线性非正态模型,我们描述了这些类的第三个抽样方法。在逻辑斯谛回归的情况下,我们认为,近似往往比“精确”的程序,即使这些存在更合适。
2009-06-22 stat.ME
Vecchia Likelihood Approximation for Accurate and Fast Inference in Intractable Spatial Extremes Models
最大稳定的过程是最流行的高影响的空间极端事件的模型,因为它们出现的空间索引块最大值的唯一可能的限制。然而,这种模型的似然推断严重地受到维数灾难的影响,因为似然函数涉及到组合爆炸数目的术语。在本文中,我们建议使用Vecchia近似,它方便地将全联合密度分解为线性数量的低维条件密度项,基于精心选择的条件集,旨在改善和加速高维推理。理论渐近相对效率的高斯设置和模拟实验中的最大稳定设置显示出显着的效率增益和计算节省使用Vecchia似然近似方法相比,传统的复合似然。我们在整个红海的一千多个站点的极端海面温度数据的应用进一步证明了Vecchia似然近似拟合复杂模型的优越性,具有难以处理的似然性,提供比传统复合似然性更好的结果,并以更低的计算成本准确地捕获极值依赖结构。
2022-03-10 stat.ME
Robust and Accurate Inference via a Mixture of Gaussian and Student's t Errors
高斯测量误差假设,即,假设数据被观测到高斯噪声,在存在异常值的情况下,可能会使任何参数估计产生偏差。基于Student t分布的重尾误差假设有助于减少偏倚。然而,当大多数数据被正常观测时,如果将重尾假设均匀地应用于所有数据,则估计参数的效率可能较低。我们提出了一个混合误差假设,选择性地转换高斯误差到学生t误差根据潜在的离群指标,利用最好的高斯和学生t误差的参数估计,不仅可以是强大的,而且准确。使用模拟的医院分析数据和天文时间序列的亮度数据,我们证明了潜在的建议的混合误差假设,以准确地估计参数存在离群值。
2018-08-17 stat.ME
Fast and Accurate Estimation of Non-Nested Binomial Hierarchical Models Using Variational Inference
非线性层次模型在许多学科中都有广泛的应用。然而,在存在非嵌套效应和大型数据集的情况下进行推断是具有挑战性的,并且计算负担沉重。本文提供了两个贡献的可扩展性和准确的推理。首先,我推导了一个新的均值场变分算法,用于估计具有任意数量非嵌套随机效应的二项logistic分层模型。其次,我提出了“边际增强变分贝叶斯”(MAVB),通过贝叶斯后处理的步骤,进一步提高了初始近似。我证明了MAVB提供了一个保证改善的近似质量在低计算成本,并诱导依赖关系,假设由初始因式分解的假设。我运用这些技术的选民行为的研究,使用高维应用程序的流行的方法,多层次回归和后分层(MRP)。现有的估计需要几个小时,而提出的算法在几分钟内运行。即使在强因子分解假设下,后验均值也能很好地恢复。应用MAVB通过部分校正低估的方差进一步改进了近似。所提出的方法是在一个开放源码软件包中实现的。
2021-10-20 stat.ME
Small Sample Inference for Two-way Capture Recapture Experiments
本文提出基于广义Waring先验与超几何分布的贝叶斯方法,为Petersen捕获-再捕获模型构造种群规模可信区间,证明其在小样本下覆盖率优于名义水平且长度更短。
2024-02-28 math.ST stat.AP stat.ME
The Generalized Fisher Transformation: Finite-Sample Properties and Inference
York University(约克大学);Department of Economics, University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校经济学系)
研究广义Fisher变换(GFT)的有限样本性质,发现其坐标近似高斯、不相关且协方差几乎与相关矩阵无关,从而在有限样本中比传统方法提供更好的推断。
2026-06-15 econ.EM math.ST stat.ME
A simple recipe for making accurate parametric inference in finite sample
构造检验或置信区域来长期控制错误率可能是统计学中最重要的问题之一。然而,统计学中大多数方法的理论依据是渐进的。举个例子,自举法尽管简单且使用广泛,但它是一种渐近方法。一般来说,在有限样本中,没有关于推理过程的精确性的主张。在本文中,我们提出了一种替代的参数引导。我们设置了一般条件,从理论上证明了在有限样本下可以进行精确推理。
2019-01-20 math.ST stat.ME stat.TH
Flexible and Accurate Methods for Estimation and Inference of Gaussian Graphical Models with Applications
提出FLAG方法用于高斯图模型的估计与推断,通过随机效应模型与统计检验实现无需稀疏性假设的精度矩阵逐元素推断与图恢复,并支持多图联合估计,在模拟与真实数据中表现优异。
2023-06-30 stat.AP stat.ME
Variational Inference with Normalizing Flows
Google DeepMind(谷歌DeepMind)
近似后验分布的选择是变分推断的核心问题之一。变分推断的大多数应用采用简单的后验近似族,以允许有效的推理,集中在平均场或其他简单的结构化近似。这种限制有显着的影响,使用变分方法的推理质量。我们介绍了一种新的方法来指定灵活的,任意复杂的和可扩展的近似后验分布。我们的近似是通过归一化流构造的分布,通过应用一系列可逆变换将简单的初始密度变换为更复杂的密度,直到达到所需的复杂程度。我们使用这种观点规范化流发展类别的有限和无穷小流量,并提供了一个统一的观点,构建丰富的后验近似的方法。我们证明了具有更好地匹配真实后验的后验的理论优势,结合摊销变分方法的可扩展性,提供了变分推断的性能和适用性的明显改善。
2016-06-14 cs.AI cs.LG stat.CO
Local dimension reduction of summary statistics for likelihood-free inference
近似贝叶斯计算(ABC)和其他无似然推理方法在过去十年中得到了普及,因为它们允许对复杂模型进行严格的统计推断,而无需分析上易于处理的似然函数。使用ABC进行准确推断的一个关键组成部分是汇总统计量的选择,汇总统计量汇总数据中的信息,但同时应该是低维的以提高效率。已经引入了几种降维技术来从可能较大的候选摘要池中自动构建信息丰富的低维摘要。基于投影的方法基于从摘要到参数的简单函数关系的学习,被广泛使用并且通常表现良好,但是当不满足转换背后的假设时可能会失败。我们介绍了一个本地化策略,任何基于投影的降维方法,其中的转换估计在附近的观测数据,而不是整个空间。以前已经提出了本地化策略,但是本地邻域之外的转换摘要的性能没有得到保证。在我们的本地化方法中,转换在验证数据集上进行了验证和优化,确保了可靠的性能。我们证明了本地化版本的线性回归和偏最小二乘的估计精度的提高,为三个不同的模型的不同复杂性。
2019-06-20 stat.CO stat.ME
Just Identified Indirect Inference Estimator: Accurate Inference through Bias Correction
针对现代大数据与复杂模型下的估计偏差控制难题,提出基于JINI的参数模型估计推断方法,兼具构造简便性与强偏差校正能力,在高维及数据存在缺陷的场景下性能优异,且有完备理论支撑。
2023-10-09 math.ST stat.CO stat.ME
Inverting estimating equations for causal inference on quantiles
针对因果推断多聚焦均值、分位数信息利用不足的问题,提出基于逆估计方程的统一框架,将均值因果推断方法推广至分位数,推导了有效影响函数与估计量渐近性质,可复用现有均值因果推断结论拓展分位数因果分析。
2024-08-14 math.ST stat.ME stat.ML
Gaussian Prepivoting for Finite Population Causal Inference
在有限总体中,因果推断精确随机化检验可以针对尖锐零假设(即完全插补缺失的潜在结局的假设)构建。通常,对于弱空值,需要推断处理效果的样本平均值取特定值,而不指定受试者特定的处理效果。如果没有适当的护理,对尖锐的零假设有效的检验可能是反保守的,只有弱零假设成立,在实践中部署随机化检验时产生误解的风险。我们开发了一个通用的框架,统一模式的推理尖锐和弱空,其中一个单一的程序同时提供准确的推理尖锐空和渐近有效的推理弱空。为了做到这一点,我们采用随机化测试的基础上prepivoted的检验统计量,其中的检验统计量是第一次转换由一个适当构造的累积分布函数和它的随机化分布,假设尖锐的零,然后枚举。对于一大类常用的检验统计量,我们表明,预旋转可以通过采用基于样本的高斯测量的基础上适当构造的协方差估计的推进来完成。本质上,该方法列举了已知在弱空值下有效的大样本检验的P值的随机化分布(假设锐空值),并使用所得的随机化分布来执行推断。该方法的多功能性证明通过主机的例子,包括重新随机化设计和回归调整估计完全随机化设计。
2021-06-13 math.ST stat.ME stat.TH
An Accurate and Single-Communication Federated Inference Algorithm
Radboud University(拉德堡德大学);Saddle Point Science Europe(鞍点科学欧洲公司);Radboud university medical center(拉德堡德大学医学中心)
该研究针对跨机构联合分析的隐私与效率问题,提出基于三阶泰勒展开的单通信联邦推理算法,提升小样本场景下对数似然近似准确性,兼顾隐私、通信效率与可扩展性。
2026-08-28 math.ST stat.CO stat.ME
An accurate percentile method for parametric inference based on asymptotically biased estimators
针对参数推断中估计量可能渐近有偏的问题,提出隐式自举法,构建渐近有效且可达二阶精度的百分位置信区间,并在标准自举失效的三种情形下保持精确。
2024-09-19 math.ST stat.CO stat.ME
High-order Accurate Inference on Manifolds
Columbia University(哥伦比亚大学);Duke University(杜克大学)
本文提出了一种在黎曼流形上实现高阶精度推断的框架,通过二阶重新traction建立渐近性,适用于多种流形设置并验证了其有效性。
2026-01-31 cs.NA math.NA math.OC