Maximum likelihood recursive state estimation in state-space models: A new approach based on statistical analysis of incomplete data
本文回顾了Rauch等人(1965)的工作,并提出了一种新的递归极大似然粒子滤波方法。新方法是基于对系统不完全观测值的统计分析。引入了不完全观测/数据的评分函数和条件观测信息,并讨论了它们的分布性质。导出了不完全数据的得分函数和信息矩阵的一些恒等式。利用评分函数和观测信息矩阵给出了状态向量的极大似然估计。特别是,为了处理非线性状态空间,开发了一种序贯蒙特卡罗方法。它由EM-梯度-粒子滤波递归地给出,该EM-梯度-粒子滤波扩展了Lange(1995)的状态估计工作。为了推导状态估计误差的协方差阵,提出了观测信息矩阵的显式形式。它将Louis(1982)关于同一矩阵的一般公式推广到状态向量估计。在状态转移概率分布的Neumann边界条件下,该矩阵的逆与无偏状态估计器的估计误差的协方差阵的Cramer-Rao下界一致。在线性模型的情况下,该方法表明Kalman滤波器是一种完全有效的状态估计器,其估计误差的协方差阵满足Cramer-Rao下界。最后通过数值算例验证了主要结果。
2022-11-09 cs.IT cs.SY eess.SY
Bayesian and Maximum Likelihood Estimation for Gaussian Processes on an Incomplete Lattice
本文提出了一种新的方法来估计大格点上具有缺失值的平稳高斯过程的贝叶斯和极大似然参数估计。我们提出了一个MCMC方法的贝叶斯推断,和极大似然推理的蒙特卡罗期望最大化算法。我们的方法使用数据增广和循环嵌入的协方差阵,并提供精确的推断参数和缺失数据。使用模拟数据和应用卫星海洋表面温度在太平洋,我们表明,我们的方法提供了准确的推断尺寸高达512 × 512的格子,并优于两个流行的方法:复合似然和谱近似。
2014-02-18 stat.CO stat.ME
Scalable likelihood-based estimation and variable selection for the Cox model with incomplete covariates
针对含随机缺失协变量的Cox回归模型,本文开发了一种仅需一维积分的可扩展EM算法进行非参数极大似然估计,并扩展以容纳LASSO惩罚实现变量选择,在大规模模拟与癌症基因组研究中验证了其优势。
2024-10-15 stat.CO stat.ME
Likelihood Estimation with Incomplete Array Variate Observations
在处理以数组形式排列的高维数据时,缺失数据是一个重要的挑战。本文提出了由部分观测多向数据估计阵列变量正态概率模型参数的方法。本文提出的方法对多向数据的缺失数据填补、均值和协方差参数的估计是有用的。还定义了允许分离多向协方差效应的多向半参数混合效应模型,并推荐了一种有效的估计算法。我们提供模拟结果以及来自遗传学的真实数据来证明这些方法。
2015-01-05 math.ST stat.ME stat.ML
The AI&M Procedure for Learning from Incomplete Data
Aalborg Universitet(奥尔堡大学)
我们研究的方法参数学习不完整的数据,是随机缺失。基于似然性的方法则需要考虑所有可能的缺失机制的简档似然性的优化。优化此配置文件的可能性提出了两个主要的困难:多个(局部)最大值,其非常高维的参数空间。在本文中,提出了一种新的方法来优化的轮廓可能性,解决了第二个困难:在建议的AI&M(调整插补和最大化)过程中的优化是通过在数据完成的空间中的操作,而不是直接在参数空间的轮廓可能性。我们将AI&M方法应用于贝叶斯网络的参数学习。该方法进行了比较保守的推断,考虑到每个可能的数据完成,并对EM。结果表明,基于似然的推理仍然是可行的,在未知的缺失机制的情况下,保守的推理是不必要的弱。另一方面,我们的结果也提供了证据,期望最大化算法仍然是相当有效的数据时,不是随机缺失。
2012-06-27 cs.AI cs.LG stat.ME
Maximum Likelihood for Logistic Regression Model with Incomplete and Hybrid-Type Covariates
本文针对混合型协变量存在缺失时的逻辑回归参数估计问题,提出一种新的期望最大化算法,并通过模拟和实际应用验证其优于传统方法的准确性与可靠性。
2025-06-03 eess.SP stat.ME
Maximum likelihood smoothing estimation in state-space models: An incomplete-information based approach
Victoria University of Wellington(惠灵顿维多利亚大学)
本文回顾了Rauch(1963,et al.1965)的经典工作,提出了一种新的基于不完全信息/数据的随机状态空间系统的极大似然(ML)平滑估计方法。引入了不完全数据的评分函数和条件观测信息矩阵,建立了它们的分布恒等式。利用这些恒等式,给出了ML平滑器$\widehat{x}_{k\vert n}^s =\argmax_{x_k} \log f(x_k,\widehat{x}_{k+1\vert n}^s, y_{0:n}\vertθ)$,$k\leq n-1$.结果表明,ML平滑器比ML状态估计器$x_k$具有更好的对数似然性和更小的标准误差,并具有$\widehat{x}_{n\vert n}^s=\widehat{x}_n$ .递归估计的EM梯度粒子算法,扩展了工作的\cite{Lange} ML平滑估计。该算法有一个显式的迭代更新,缺乏(\cite{Ramadan})EM算法的平滑。一个序贯蒙特卡罗方法的评分函数和观察到的信息矩阵的估值。推导了估计误差协方差矩阵的递推公式,用于计算标准误差。在线性系统的情况下,该方法表明,Rauch-Tung-Striebel(RTS)平滑器是一个完全有效的平滑状态估计,其协方差矩阵符合Cramér-Rao下界,期望信息矩阵的逆。此外,RTS平滑器与具有较少协方差矩阵的卡尔曼滤波器一致。进行数值研究,确认的主要结果的准确性。
2023-03-29 cs.IT cs.LG cs.SY
Targeted maximum likelihood estimation for longitudinal two-stage designs with outcome subsampling
University of California, Berkeley(加州大学伯克利分校)
针对纵向两阶段设计中结局子抽样的因果参数估计问题,基于HIV相关死亡率研究中的重抽样设计。提出两种估计器,包括IPCW纵向TMLE及新LTMLE,通过模拟表明新方法可降低方差,还指出交叉拟合方差估计对有效推断很关键。
2026-07-07 stat.ME
Maximum a Posteriori Estimation of Dynamic Factor Models with Incomplete Data
本文给出了不完全数据动态因子模型参数的极大后验估计方法。我们通过以明尼苏达先验风格应用参数收缩,将Baiderbura & Modugno(2014)的极大似然期望最大化迭代扩展到惩罚对应方,同时考虑动态加载到变量上的因素。一个启发式的和自适应的收缩计划被认为是。该算法适用于任何任意模式的缺失数据,包括不同的出版日期,样本长度和频率。该方法在蒙特卡罗研究中进行了评估,一般表现良好,至少是极大似然。
2022-10-13 stat.CO stat.ME
Sparse estimation of parameter support sets for generalized vector autoregressions by resampling and model aggregation
针对离散多元时间序列稀疏似然模型,提出基于重采样和聚合 LASSO 子样本支撑集的算法,以估计广义向量自回归模型参数支撑集,在网络恢复和生态网络估计中表现优越。
2025-03-05 stat.ME
A Stochastic EM Algorithm with Sampling-Importance Resampling for Missing Data in Regression with Nonlinear Predictors
UCLA Department of Statistics & Data Science(加州大学洛杉矶分校统计与数据科学系)
针对非线性预测变量回归中的缺失数据问题,提出基于采样重要性重采样的随机EM算法(SIR-StEM),仅需似然成比例即可处理任意非线性变换,模拟显示低偏差且覆盖率接近名义水平。
2026-09-22 stat.ME
Penalized Likelihood Regression in Reproducing Kernel Hilbert Spaces with Randomized Covariate Data
经典的惩罚似然回归问题处理的情况下,独立的变量数据是确切已知的。然而,在实践中,观察具有不完整协变量信息的数据是常见的。我们关注的是一个非常重要的情况,其中一些观测值并不代表确切的协变量信息,而只是一个概率分布。在这种情况下,最大惩罚似然法仍然可以用来估计回归函数。我们首先证明了极大惩罚似然估计在一个温和的条件下存在。在计算中,我们提出了一个降维技术,以尽量减少惩罚的可能性,并推导出一个广义近似交叉验证(GACV)选择平滑参数。我们的方法被扩展到处理更复杂的不完全数据问题,如协变量测量误差和部分缺失的协变量。
2010-08-02 stat.AP stat.ME
Bootstrapping Clustered Data in R using lmeresampler
线性混合效应模型通常用于分析聚类数据结构。有许多包可以在R中拟合这些模型并进行基于可能性的推理。基于重采样的推理过程的实现更加有限。在本文中,我们介绍了lmeresampler软件包,用于通过lme4或nlme拟合自举嵌套线性混合效应模型。对于小样本量和分布假设失效时,Bootstrap估计允许偏倚校正、调整标准误和置信区间。我们还将说明如何使用引导程序重新启动来诊断这个模型类。此外,lmeresampler使得构造模型参数函数的区间估计变得容易。
2021-06-11 stat.CO stat.ME
Synthetic likelihood method for reaction network inference
我们提出了一种新的马尔可夫链蒙特卡罗(MCMC)方法的逆向工程的拓扑结构的随机反应网络,一个臭名昭著的挑战性的问题,是相关的许多现代研究领域,如发现基因调控网络或分析流行病的传播。该方法依赖于将原始时间序列轨迹投影到信息丰富的汇总统计数据上,并构建适当的合成似然函数来估计反应速率。由此产生的估计是一致的,在大容量的限制,并获得不采用复杂的调整策略和昂贵的rescue通常使用的似然自由MCMC和近似贝叶斯方法。为了说明运行时的改进,可以实现与我们的方法,我们提出了一个模拟研究推断率的随机动力系统所产生的密度依赖马尔可夫跳跃过程。然后,我们将该方法应用于两个真实的数据示例:来自斑马鱼实验的RNA-seq数据和来自英国Eyam的1665次鼠疫爆发的发病率数据。
2018-10-04 stat.ME
A penalized likelihood approach for robust estimation of isoform expression
超高通量转录组测序(RNA-Seq)使得能够在个体亚型水平上准确估计基因表达。然而,在测序和作图过程中引入的系统性偏差以及转录本注释数据库的不完整性可能导致异构体丰度的估计不可靠,并且在某些情况下高度不准确。本文介绍了一种惩罚似然方法来检测和纠正这种偏见,在一个强大的方式。我们的模型扩展了以前提出的通过引入偏差参数读取。一个L1惩罚用于选择非零偏置参数。我们介绍了一个有效的算法模型拟合和分析所提出的模型的统计特性。我们在模拟和真实数据集上的实验研究表明,该模型有潜力提高异构体特异性基因表达估计和识别不完全注释的基因模型。
2013-10-01 stat.ME
Neural Parameter Estimation with Incomplete Data
King Abdullah University of Science and Technology (KAUST)(阿卜杜拉国王科技大学);University of New South Wales(新南威尔士大学);University of Wollongong(伍伦贡大学)
本文提出基于蒙特卡洛EM算法的神经网络参数估计方法,以解决不完整数据下的统计推断问题,相较于传统掩码方法更具效率和鲁棒性。
2026-02-24 stat.ME stat.ML
Unified Method for Markov Chain Transition Model Estimation Using Incomplete Survey Data
未来老年人模型和相关的微观模拟被建模为马尔可夫链。这些模拟依赖于纵向调查数据来估计它们的过渡模型。调查数据的使用带来了一些数据不完整的问题,包括粗略和不规则的访谈间隔,从子样本收集数据,以及随着时间的推移调查的结构变化。采用期望最大化算法,建立了一种不完全数据下马尔可夫链转移模型的极大似然估计方法。该方法被证明是一个简化版本的未来老年人模型。
2017-07-09 stat.CO stat.ME
Gaussian orthogonal latent factor processes for large incomplete matrices of correlated data
我们引入高斯正交潜在因子过程的建模和预测大的相关数据。为了处理计算的挑战,我们首先分解的似然函数的高斯随机场与多维输入域的密度在正交分量与低维输入的乘积。连续时间卡尔曼滤波器的实现有效地计算似然函数,而无需进行近似。我们还证明了因子过程的后验分布是独立的,这是因子过程和正交因子载荷矩阵的先验独立性的结果。对于大样本量的研究,我们提出了一种灵活的方法来建模的平均值,我们推导出边缘后验分布,以解决可识别性问题,在这些参数的采样。模拟和实际数据的应用证实了这种方法的出色性能。
2021-11-27 stat.AP stat.CO stat.ME
Optimal quasi-Bayesian reduced rank regression with incomplete response
降秩回归的目的是将多个响应变量与多个预测变量联系起来。该模型非常受欢迎,特别是在生物统计学中,可以重复使用对个体的多个测量来预测多个输出。不幸的是,在这样的数据集中经常存在缺失数据,使得难以使用标准估计工具。本文研究了响应矩阵不完备的降秩回归问题。我们提出了一个准贝叶斯方法来解决这个问题,在这个意义上的可能性被取代的准可能性。我们给出了一个紧的预言不等式,证明了我们的方法是自适应的系数矩阵的秩。我们描述了一个朗之万蒙特卡罗算法的后验均值的计算。对合成数据和真实数据的数值比较表明,我们的方法是有竞争力的国家的最先进的,其中的排名是通过交叉验证,有时会导致改进。
2022-06-17 math.ST stat.CO stat.ME
Enhancing Statistical-Computational Balance in Uncertainty Quantification of Bagging: A Cheap Bootstrap Approach
Columbia University(哥伦比亚大学)
本文针对Bagging不确定性量化中覆盖有效性与计算成本难以平衡的问题,基于廉价自助法思想提出一种区间构造方法,该方法计算量远小于现有方法,在随机森林等实验中表现出可靠覆盖性能。
2026-10-14 stat.ME
The Lazy Bootstrap. A Fast Resampling Method for Evaluating Latent Class Model Fit
隐类模型是一种功能强大的无监督分类数据聚类算法。存在许多统计数据来测试潜在类模型的适合性。然而,传统的方法来评估这些拟合统计量并不总是有用的。渐近分布并不总是已知的,并且获得经验参考分布可能非常耗时。在本文中,我们提出了一个快速的resception计划,任何类型的模型拟合可以进行评估。我们在这里用潜在类模型来说明它,但该方法可以应用于任何情况。惰性引导方法背后的原理是指定一个统计量,该统计量捕获模型应该正确捕获的数据的特征。如果观察到的数据和模型生成的数据中的这些特征非常不同,我们可以假设模型不能产生观察到的数据。利用这种方法,我们实现了从贝叶斯框架测试的灵活性,而只需要最大似然估计。我们提供了一个逐步的算法,可以根据我们作为研究人员发现的重要特征来评估模型的拟合。在蒙特卡罗研究中,我们表明,该方法具有非常低的第一类错误,所有说明的统计。拒绝模型的功效主要取决于所使用的统计类型和样本量。我们将该方法应用于具有心肌梗死风险的临床亚组的经验数据集,并将结果直接与参数自举进行比较。我们的方法的结果是高度相似的参数自举得到的,而所需的计算不同的三个数量级,有利于我们的方法。
2018-01-29 stat.ME
Coupling of Particle Filters
粒子滤波器提供了难以处理的量的蒙特卡罗近似,例如状态空间模型中似然性的逐点评估。在许多情况下,当某些参数或输入变化时,感兴趣的是这些量的比较。为了方便这样的比较,我们介绍和研究的方法来耦合两个粒子滤波器在这样一种方式,两个底层粒子系统之间的相关性增加。动机源于经典的方差减少技术的正相关的两个估计。构造这种耦合的关键挑战来自于粒子滤波器的恢复步骤的不连续性。作为我们的第一个贡献,我们认为耦合reservation算法。在自举粒子滤波器中,它们提高了分数向量的有限差分估计的精度,并提高了用于参数推断的粒子边缘梅特罗波利斯-黑斯廷斯算法的性能。第二个贡献产生于使用这些耦合rescue计划内的条件粒子滤波器,允许平滑泛函的无偏估计量。其结果是一个新的平滑策略,平均的独立和无偏估计量,这允许1)直接并行化和2)准确的误差估计的建设。上述两种情况都不可能与现有的粒子平滑器。
2016-07-16 stat.CO stat.ME
Zero-Modified Poisson-Lindley distribution with applications in zero-inflated and zero-deflated count data
本文的主要目的是提出零膨胀Poisson-Lindley分布的一个推广,称为零修正Poisson-Lindley分布。零修正Poisson-Lindley方程的附加参数$π$在零放气/充气比例方面有一个自然的解释。使用似然方法处理推理。特别是在小样本和大样本下比较了分布参数的极大似然估计。我们还考虑了另一种基于Efron自举响应的偏差校正机制。该模型被应用到真实的数据集,并发现比其他竞争模型表现更好。
2018-11-27 stat.AP stat.CO stat.ME
Bias-Reduced Estimation of Structural Equation Models
King Abdullah University of Science and Technology(阿卜杜拉国王科技大学);Universiti Brunei Darussalam(文莱达鲁萨兰大学);Ghent University(根特大学);University of Warwick(华威大学)
本文提出基于减少偏差M估计框架(RBM)的结构方程模型估计方法,通过简化计算并提升鲁棒性,有效降低小样本下的估计偏差,同时保持统计性能。
2025-12-12 stat.CO stat.ME
Jackknife Empirical Likelihood Method for U Statistics Based on Multivariate Samples and its Applications
Indian Statistical Institute(印度统计研究所);Trinity College Dublin(都柏林三一学院)
本文提出了一种基于多元三样本U统计量的jackknife经验似然方法,用于构建参数的置信区间,通过蒙特卡洛实验验证其在覆盖概率和计算效率上的优越性。
2025-12-02 math.ST stat.ME stat.TH
Hankel--Christoffel--Nevai Screening for Bayesian Inverse Problems
University of Electronic Science and Technology of China(电子科技大学);Southwest Jiaotong University(西南交通大学)
提出 Hankel-Christoffel-Nevai 框架,利用似然加权矩矩阵和 Christoffel/Nevai 评分高效筛选贝叶斯反问题中的后验相关候选,并在非线性及 PDE 反问题中验证了计算节省。
2026-09-29 stat.CO stat.ME
An efficient and doubly robust empirical likelihood approach for estimating equations with missing data
本文考虑了当数据随机缺失时,由一般估计方程定义的参数的经验似然推断。现有的估计的效率关键取决于正确指定的条件期望的估计函数给定的随机观测值的观测分量。当条件期望没有被正确指定时,即使(缺失的)倾向函数被正确指定,估计的效率也会严重受损。我们提出了一个有效的估计,它具有双重鲁棒性,并且可以在估计方程的估计函数所生成的估计函数类内达到半参数有效界,如果正确指定倾向模型和回归模型(条件期望)。此外,如果正确地指定了倾向模型,但错误地指定了回归模型,所提出的估计仍然实现了半参数效率下界内更一般的估计函数类。仿真结果表明,所提出的估计是强大的对误设定的倾向模型或回归模型,并优于许多现有的竞争对手的意义上有较小的均方误差。此外,使用我们的方法进行统计推断,既不需要重采样,也不需要核平滑。一个真实数据的例子来说明所提出的方法。
2016-12-03 stat.ME
Hierarchical Aitchison-Silvey models for incomplete binary sample spaces
多元样本空间可以是不完全的笛卡尔积,当变量的类别的某些组合是不可能的。传统的对数线性模型,概括独立性和条件独立性,不适用于这种情况下,因为它们可能与不存在的细胞的正概率。为了描述不完备样本空间中的关联结构,本文发展了一类分层乘法模型,它是通过使某些非齐次广义优势比等于1来定义的,并以Aitchison和Silvey的名字命名.这些模型是弯曲的指数族,不包含整体效应,从代数的角度来看,是非齐次复曲面理想。从统计学和代数几何学的角度研究了这类模型与对数线性模型和拟对数线性模型的关系。讨论了最大似然估计的存在性及其性质,并给出了相应的算法。
2020-02-02 stat.ME
Linked factor analysis
University of Notre Dame(圣母大学)
本文提出关联因子分析(LINFA)框架,通过共同参数链接多个因子模型,解决不完整数据下的因子模型估计问题,并提供高效的算法和统计检验方法。
2026-02-23 stat.ME
Extreme deconvolution: Inferring complete distribution functions from noisy, heterogeneous and incomplete observations
我们推广了众所周知的混合物的高斯方法密度估计和随之而来的期望-最大化技术的混合物的极大似然参数的情况下,每个数据点携带一个单独的$d$维不确定性协方差,并具有独特的缺失数据属性。该算法重构所有样本共有的误差反卷积或“底层”分布函数,即使当各个数据点是来自不同分布的样本时,也是通过将底层分布与数据点的异方差不确定性分布进行卷积并投影出缺失数据方向来获得的。我们展示了如何这个基本算法可以扩展共轭先验的所有模型参数和“分裂和合并”的程序,旨在避免局部最大值的可能性。我们证明了完整的方法,将其应用到太阳附近的恒星从嘈杂的二维,横向速度测量依巴谷卫星的三维速度分布推断的问题。
2011-07-29 astro-ph.GA physics.data-an stat.AP
New Confidence Intervals and Bias Comparisons Show that Maximum Likelihood Can Beat Multiple Imputation in Small Samples
在分析不完全数据时,使用多重插补(MI)还是全信息极大似然(ML)更好?在大样本情况下,ML显然更好,但在小样本情况下,ML的有用性受到限制,因为ML通常使用正态检验统计量和置信区间,这需要大样本。我们提出了小样本的基于t的ML置信区间,具有良好的覆盖率,并短于基于t的置信区间下MI。我们还表明,ML点估计是更少的偏见和更有效的比MI点估计在小样本的二元正态数据。使用我们新的置信区间,ML应优于MI,即使在小样本中,只要两种选择都可用。
2015-08-20 stat.ME
Registration for Incomplete Non-Gaussian Functional Data
考虑相位变异性是函数数据分析中的一个关键挑战。为了将其与幅度变化分离,记录功能数据,即,它们观察到的域弹性变形,使得所得函数与模板函数对齐。目前,大多数可用的配准方法仅限于具有高斯噪声的完整和密集测量曲线的数据集。然而,许多真实世界的函数数据集不是高斯的,并且包含不完整的曲线,其中底层过程没有在其整个域上记录。在这项工作中,我们扩展和完善了一个框架,联合似然为基础的注册和潜在的高斯过程为基础的广义功能主成分分析,能够处理不完整的曲线。我们的方法是伴随着复杂的开源软件,允许其应用程序在不同的非高斯数据设置和公共代码库再现所有结果。我们注册的地震应用程序,包括空间索引,不完整的地面速度时间序列与一个高度不稳定的伽玛结构的数据。我们描述,实施和评估这种不完整的非高斯函数数据的方法,并将其与现有的例程进行比较。
2021-08-12 stat.ME
Score and Information for Recursive Exponential Models with Incomplete Data
Aalborg University(奥尔堡大学);Microsoft Research(微软研究院)
递归图模型通常是基于贝叶斯网络的概率专家系统统计建模的基础。本文定义了这些模型的一个版本,表示为递归指数模型,这已经演变的愿望,施加复杂的领域知识的局部片段的模型。除了由给定模型指定的结构知识之外,统计建模还可以包括关于模型中的参数值的专家意见。它示出了如何翻译成近似共轭先验分布的不精确的专家知识。基于可能不完整的数据,这些模型的得分和观察到的信息。这说明了传统得分和观测信息(作为对数似然的导数导出)以及后验得分和观测信息(作为对数后验分布的导数导出)。在整个文件的递归图形模型的专业化占一个简单的例子。
2013-02-06 cs.AI stat.ME
A fresh look at ignorability for likelihood inference
当数据不完整时,用于数据处理的随机向量Y与用于导致缺失数据的处理的二进制随机向量R一起被联合建模。我们回顾了R可以被忽略的条件,以得出关于Y分布的似然推断。Rubin(1976)和Kristan et.(2013)Statistist.科学,28:2 pp. 257- 268精确地模拟了完全数据方法,并指导研究者选择一个完全模型,其中随机缺失(MAR)和不同的参数保持不变,如果目标不是使用一个完全模型。另一种解释的可验证性潜伏在文献中考虑可验证的似然估计独立于任何模型的条件分布R给定Y。我们讨论的标准方法的缺点,并认为,替代提供了“正确”的条件,因为它对待的问题,其优点,而不是模仿的方法时,调查员拥有的所有数据。
2019-03-28 stat.ME
Exponentially Titled Empirical Distribution Function for Ranked Set Samples
研究了基于秩集抽样设计的连续随机变量的分布函数的非参数估计问题。我们提出了ET估计的DF,并使用它们来构建新的不平衡的排序集样本的恢复算法。我们探索所提出的算法的属性。对于一个假设检验问题的基础人口平均值,我们表明,自助测试的基础上的ET估计的DF是渐近正态的,并表现出一个小的偏差顺序$O(n^{-1})$。我们说明的方法和评估有限样本性能的算法下完美和不完美的排名计划,使用一个真实的数据集和几个蒙特卡罗模拟研究。我们比较的检验统计量的ET估计的基础上的经验似然估计的基础上的性能。
2015-06-21 math.ST stat.CO stat.ME
From Likelihood to Limit State: A Reliability-Inspired Framework for Bayesian Evidence Estimation and High-dimensional Sampling
本文提出一种基于结构可靠性估计的贝叶斯后验采样算法,将证据等价为失效概率积分并用子集模拟算法评估,在高维多模态问题中展现出优于现有算法的证据估计与后验采样性能。
2025-07-17 stat.ME
MIWAE: Deep Generative Modelling and Imputation of Incomplete Data
IT University of Copenhagen(哥本哈根信息技术大学)
本文研究了深层潜变量模型处理缺失数据的问题。首先,我们提出了一个简单的技术,训练DLVM时,训练集包含随机丢失的数据。我们的方法,称为MIWAE,是基于重要性加权自动编码器(IWAE),并最大限度地提高了一个潜在的紧密的下限的对数似然观测数据。与原IWAE算法相比,我们的算法不会因缺失数据而引起任何额外的计算开销。我们还开发了蒙特卡罗技术,使用DLVM训练的不完整的数据集上的单重和多重插补。我们通过在包含50%缺失像素的MNIST静态二进制化上训练卷积DLVM来说明我们的方法。利用多重插补,在这些不完整数字上训练的卷积网络具有与在完整数据上训练的卷积网络相似的测试性能。在各种连续和二进制数据集上,我们还表明MIWAE提供了准确的单插补,并且与最先进的方法相比具有很强的竞争力。
2019-02-04 cs.LG stat.ME stat.ML
Likelihoods for fixed rank nomination networks
许多收集社交网络数据的研究使用的调查方法会导致信息被审查、缺失或不完整。例如,流行的固定排名提名(FRN)计划,经常用于学校和企业的研究,要求研究参与者提名和排名最多的联系人或朋友,离开其他关系的存在不确定。然而,大多数统计模型都是根据完全可观察的二元网络来制定的。使用此类模型对FRN数据进行统计分析忽略了数据的删失和排序性质,可能导致误导性统计推断。为了研究这种可能性,我们将从完全二进制网络的可能性中获得的参数估计值与从FRN方案中获得的可能性进行比较,因此认识到数据的排名和删失性质。我们通过分析和模拟表明,二元似然性可以提供误导性的推断,至少对于某些模型参数,这些参数将网络关系与个体和个体对的特征联系起来。我们还比较了这些不同的可能性在几个青少年社交网络的数据分析。对于其中的一些网络,从二进制和FRN似然参数估计导致不同的结论,表明FRN数据分析的方法,占FRN调查设计的重要性。
2012-12-26 stat.ME
Valid standard errors for Bayesian quantile regression with clustered and independent data
针对贝叶斯分位数回归中AL似然置信区间覆盖率差的问题,提出使用无穷小刀切法标准误,适用于独立和聚类数据,并提供R包IJSE。
2024-12-24 stat.AP stat.ME
Compatible Imputation for Hierarchical Linear Models with Incomplete Data: Interaction Effects of Continuous and Categorical Covariates MAR
针对连续协变量C与分类协变量D存在交互效应的MAR不完全数据,提出兼容Gibbs采样器解决小样本下HLM贝叶斯估计问题,可直接从精确后验分布抽取参数与缺失值,提升估计性能。
2025-02-10 stat.ME
The Bias and Efficiency of Incomplete-Data Estimators in Small Univariate Normal Samples
分析缺失数据的广泛使用的方法在小样本中可能有偏差。为了理解这些偏差,我们详细评估了一个小的单变量正态样本的情况,随机缺失的值,使用数据最大似然(ML)或多重插补(MI)进行分析。我们评估两种类型的MI:通常的贝叶斯方法,我们称之为后验抽取(PD)插补,和一个很少使用的替代方法,我们称之为ML插补,其中值是有条件地插补ML估计。我们发现,数据挖掘ML是更有效的,具有较低的均方误差比任何类型的MI。在两种类型的MI之间,ML插补比PD插补更有效,ML插补在小样本中偏倚的可能性也较小。通过改变先验知识可以改善PD插补的偏倚和效率。
2013-06-20 math.ST stat.ME stat.TH
Bayesian Estimation of Hierarchical Linear Models from Incomplete Data: Cluster-Level Interaction Effects and Small Sample Sizes
针对小样本和部分观测数据下HLM的估计问题,提出一种直接从精确后验分布填补参数与缺失值的兼容Gibbs采样器,通过模拟证明其优于现有方法。
2025-01-31 stat.ME
Estimating Intractable Posterior Distributions through Gaussian Process regression and Metropolis-adjusted Langevin procedure
针对昂贵且含噪/不完整数据下的贝叶斯校准难题,提出用 Gaussian Process Regression 序贯代理对数似然并结合 Metropolis-Adjusted Langevin Algorithm 高效推断后验。
2025-06-16 stat.ME
Relational models for contingency tables
本文认为一般乘法模型的完整和不完整的列联表,推广对数线性和其他几个模型,是完全坐标自由。给出了这些模型下存在最大似然估计的充分条件,并证明了多项式和泊松似然之间的等价性当且仅当模型中存在整体效应时成立.如果不假设这样的效应,则模型变成曲线指数族,并且给出依赖于非齐次优势比的相关混合参数化。几个例子来说明这些模型的属性和使用。
2011-03-03 stat.ME
Variational Gibbs Inference for Statistical Model Estimation from Incomplete Data
University of Edinburgh(爱丁堡大学)
针对不完整数据导致标准变分推断需处理指数级条件分布的问题,本文提出通用的变分 Gibbs 推断(VGI),并在合成与真实任务上验证其可有效估计 VAE 和归一化流,性能媲美或超过专用方法。
2023-08-15 cs.LG stat.ME stat.ML
False Discovery Rates to Detect Signals from Incomplete Spatially Aggregated Data
有许多方法可以测试在完全观察到的高分辨率图像中是否存在空间信号。其中之一是一个强大的非参数程序称为增强错误发现率(EFDR)。EFDR的一个缺点是它需要在矩形空间域中的规则像素上定义数据。在这里,我们开发了一个EFDR程序可能不完整的数据定义的不规则的小区域。受统计学习的启发,我们使用条件模拟(CS)对可用数据进行条件化,并以其最佳分辨率多次模拟完整的矩形图像(例如M)。然后将EFDR应用于这些模拟中的每一个,得到信号的M个估计值和M个统计相关的p值。对这些估计值求平均会产生一个可能信号的单一组合估计值,但需要进行推断以确定是否真的存在信号。我们通过使用copula和复合似然将M个p值组合成单个p值来测试没有信号的原始原假设。如果没有信号的原假设被拒绝,我们使用组合估计。我们称之为EFDR-CS的新程序,为了证明其有效性,我们显示了模拟研究的结果;一个实验,我们在亚太地区的温度变化数据中引入聚合和不完整性;和应用程序,从中东,阿富汗和巴基斯坦西部地区的卫星遥感数据的总柱二氧化碳。
2020-10-18 stat.ME
Statistical inference for a stochastic generalized logistic differential equation
本文针对随机广义Logistic微分方程,利用最大似然法和二次变差过程估计三个未知参数,并证明估计量的强相合性,同时在完整与不完整数据情形下通过期望最大化算法进行验证。
2024-05-06 math.PR math.ST stat.ME
Handling Missingness and Censoring in Dirichlet Mixture Models
本文提出一种保留单纯形结构的狄利克雷混合模型似然方法,通过EM类算法同时完成参数估计与插补,经仿真及捕虏体、PM₂.₅真实数据验证,可有效处理成分数据的缺失与删失问题。
2026-07-31 stat.CO stat.ME
Sleep pattern profiling using a finite mixture of contaminated multivariate skew-normal distributions on incomplete data
University of Pretoria(比勒陀利亚大学);University of Catania(卡塔尼亚大学)
本文提出了一种基于受污染的多元偏正态分布有限混合模型的聚类方法,用于分析不完整数据中的睡眠模式,有效处理缺失值和异常值,提升聚类准确性和异常检测能力。
2025-12-13 stat.CO stat.ME