A Stochastic EM Algorithm with Sampling-Importance Resampling for Missing Data in Regression with Nonlinear Predictors
UCLA Department of Statistics & Data Science(加州大学洛杉矶分校统计与数据科学系)
针对非线性预测变量回归中的缺失数据问题,提出基于采样重要性重采样的随机EM算法(SIR-StEM),仅需似然成比例即可处理任意非线性变换,模拟显示低偏差且覆盖率接近名义水平。
2026-09-22 stat.ME
A stochastic second-order generalized estimating equations approach for estimating intraclass correlation coefficient in the presence of informative missing data
整群随机试验的设计和分析必须考虑同一群试验结果之间的相关性。当应用标准广义估计方程(GEE)时,即使在错误指定相关性结构的情况下,也可以一致地估计一阶(例如治疗)效应。在相关性感兴趣的设置中,可以通过二阶广义估计方程(GEE2)估计该量。我们建立在GEE2的设置缺失数据,我们将“二阶”逆概率加权(IPW)计划和“二阶”双鲁棒(DR)估计方程,防止部分模型误设定。我们强调,需要在这种情况下的缺失指标之间的相关性模型。此外,求解这些二阶方程的计算困难促使我们开发计算效率更高的算法来求解GEE 2,这减轻了对参数起始值的依赖,并提供比更广泛使用的确定性根更快、更高的收敛率求解方法。
2018-04-16 stat.ME
Construction and assessment of prediction rules for binary outcome in the presence of missing predictor data using multiple imputation: theoretical perspective and data-based evaluation
我们调查的问题,校准和评估的预测规则在预后设计时,缺失值存在于预测。我们的论文有两个关键目标,这是概括的。第一个是研究如何将预测规则的校准与使用多重插补相结合,以解释缺失的预测值。第二个目标是提出这样的方法,可以实现与当前的多重插补软件,同时允许无偏的预测评估,通过验证新的观察结果还没有。为了告知方法的定义,我们首先回顾了多重插补作为模型估计方法的理论背景,而不是纯粹的算法描述。我们特别对比应用多重插补进行参数(效应)估计和预测校准。基于这一审查,制定了两种方法,其中第二个利用经典的鲁宾规则的应用程序的参数估计,而第一种方法的平均概率从模型拟合单插补直接近似的预测密度为未来的观察。我们目前的实现使用当前的软件,允许验证或交叉验证的性能指标的估计,以及插补的缺失数据预测未来的数据,结果是根据定义,尚未观察到的。尽管所讨论的原则是普遍适用的,但我们始终将讨论限制在二元结果和逻辑斯谛回归上。我们提出了两个数据集作为我们的定期咨询实践的例子。结果表明,方法之间的准确性差异不大,但使用第一种方法时,校准概率的变化大幅减少。
2018-10-11 stat.ME
Analysis of Linked Files: A Missing Data Perspective
本文将记录关联视为缺失数据问题,系统梳理似然与贝叶斯、插补和加权三类关联文件分析方法,并通过模拟评估其假设、局限与性能。
2024-07-08 stat.AP stat.ME
Graphical Models for Processing Missing Data
本文综述了利用图形模型表示多元依赖关系的缺失数据研究的最新进展。我们首先从三个不同的角度来研究传统框架的局限性:\textit{transparency, estimability and testability}。然后,我们将展示如何基于图形模型的程序可以克服这些限制,并提供有意义的性能保证,即使数据是非随机缺失(MNAR)。特别是,我们确定的条件,保证一致的估计,在广泛的类别的缺失数据问题,并推导出实施这种估计的程序。最后,我们推导出可检验的影响,缺失数据模型在MAR(随机缺失)和MNAR类别。
2019-11-13 stat.ME
An exploration of sequential Bayesian variable selection -- A comment on García-Donato et al. (2025). "Model uncertainty and missing data: An objective Bayesian perspective"
Centrum Wiskunde & Informatica(数学与计算机科学中心)
本文针对含缺失数据的客观贝叶斯模型不确定性方法,提出在数据序贯累积场景下引入序贯模型置信集进行变量选择,以实现持续证据监测并稳定推断。
2025-09-30 math.ST stat.ME stat.TH
Invited Discussion of "Model Uncertainty and Missing Data: An Objective Bayesian Perspective" by Gonzalo García-Donato , María Eugenia Castellanos , Stefano Cabras Alicia Quirós , and Anabel Forte
Duke University(杜克大学)
文章从客观贝叶斯视角出发,提出一种在高斯回归框架下同时处理模型不确定性和缺失数据的方法,并探讨了填补$g$-先验与图模型模型选择的联系。
2025-12-02 math.ST stat.ME stat.OT
Estimating Treatment Effects with Missings Not At Random in the Estimand Framework using Causal Inference
Independent Researcher(独立研究者)
本文针对随机对照试验中非随机缺失问题,利用有向无环图和潜在响应变量建模缺失过程,提出无需填补即可无偏估计治疗效应的新方法,并证明平均条件对数优势比在充分调整混杂因素下对MNAR具有稳健性。
2025-11-08 stat.ME
Variational Inference for Stochastic Block Models from Sampled Data
本文讨论了网络抽样过程中的不可观测二对子和随机块模型(SBM)推理中的连续性问题。我们审查抽样设计,并恢复SBM的随机缺失(MAR)和非随机缺失(NMAR)条件。我们介绍了变量的变分期望最大化算法推断的SBM下的各种抽样设计(MAR和NMAR)都可作为一个R包。基于综合分类似然法推导了选择区组数和抽样设计的模型选择准则。我们调查的准确性和这些算法的适用范围与模拟。我们从人种学(种子循环网络)和生物学(蛋白质-蛋白质相互作用网络)两个方面探索了两个现实世界的网络,其中的解释在很大程度上取决于所考虑的抽样设计。
2019-01-09 stat.ME
kNNSampler: Stochastic Imputations for Recovering Missing Value Distributions
SAP Labs France(SAP法国实验室);EURECOM
kNNSampler通过随机采样最相似单元的观测响应来填补缺失值,能够估计缺失值的条件分布并用于多重填补。
2025-12-02 cs.LG math.ST stat.ME
Monotone Missing Data: A Blessing and a Curse
University of Jyvaskyla(于韦斯屈莱大学)
针对单调缺失数据在实际分析中被视为有利但在图形模型中影响全定律可识别性的问题,研究表明其虽能在部分图形结构下实现识别,却也会阻碍某些非单调场景的识别,强调了正确处理单调缺失的重要性。
2025-11-13 stat.ME
Analyzing trends in precipitation patterns using Hidden Markov model stochastic weather generators
我们开发了一个灵活的基于样条的贝叶斯隐马尔可夫模型随机天气发生器,统计模型日降水量随时间的推移,在个别地点的季节。该模型自然地考虑了缺失数据(被认为是随机缺失),避免了系统性缺失模式的潜在敏感性,或者在计算每日降水数据的指标时使用任意截止值来处理缺失。然后,拟合模型可用于推断降水行为的任意测量的趋势,通过缺失数据的多重插补,然后进行频率论分析,或通过贝叶斯后验预测分布的模拟。我们表明,该模型拟合数据很好,包括各种多日的特点,表示保真度的数据的自相关结构。使用三个站从美国西部,我们开发的案例研究中,我们评估降水的各个方面的趋势(如干旱期的长度和降水强度),发现只有有限的证据,在某些季节的趋势的基础上使用森的斜率作为一个非参数的措施的趋势。在未来的工作中,我们计划将该方法应用于选定区域的整套GHCN台站,以系统地评估趋势的证据。
2022-07-18 stat.AP stat.ME
When is $Y_{obs}$ missing and $Y_{mis}$ observed?
在不完整数据的统计建模中,缺失被编码为数据集Y和响应模式R之间的关系。将Y划分为观测分量和缺失分量通常表示为Yobs和Ymis。我们指出了这种符号的数学缺陷,它是由于Y和R之间的两个不同的数学关系没有被区分,(Yobs,Ymis,R),其中Yobs值总是被观察到,Ymis值总是缺失,以及缺失模式覆盖在Y的边缘分布上,表示为(Yobs,Ymis)。对于后者,Yobs和Ymis分别表示可观察数据和不可观察数据的混合。这种缺失模式在Y上的叠加在数学和元数学之间建立了联系,这违反了(Y,R)中编码的随机关系。此外,在理论上,需要同时根据不同的缺失模式来比较Y的分区。解决这些问题的一个简单方法是使用四个符号而不是两个,并使对缺失模式的依赖性显式化。我们解释这些问题和相关问题。
2019-04-16 stat.ME
Calibrated Bayes, for Statistics in General, and Missing Data in Particular
有人认为,校准贝叶斯(CB)的方法来统计推断利用的实力贝叶斯和频率论的方法来统计推断。在CB方法中,特定模型下的推理是贝叶斯的,但频率论方法对模型开发和模型检查很有用。在这篇文章中,CB方法概述。然后从CB的角度对缺失数据的贝叶斯方法进行了审查。贝叶斯方法的基本理论,以及密切相关的技术多重插补,进行了说明。然后,贝叶斯方法的正态模型的应用进行了说明,无论是单调和非单调缺失数据模式。序贯回归多元插补和惩罚样条倾向模型是放松分布假设的两种有用的方法。
2011-08-09 stat.ME
Discussion of "Causal and counterfactual views of missing data models" by Razieh Nabi, Rohit Bhattacharya, Ilya Shpitser, & James M. Robins
本文是对 Nabi 等人基于 m-DAG 和非参数独立性限制识别 MNAR 模型的讨论,延伸探讨因果推断工具、缺失数据与因果推断的结合问题及示例模型估计。
2025-06-16 stat.ME
Bayesian Data Augmentation for Partially Observed Stochastic Compartmental Models
确定性房室模型主要用于传染病建模,尽管随机模型被认为更现实,但由于缺失数据而难以估计。在本文中,我们提出了一种新的算法估计随机SIR/SEIR流行病模型的贝叶斯框架内,它可以很容易地扩展到更复杂的随机房室模型。具体来说,基于无穷小的条件独立性的模型的属性,我们能够找到一个建议分布的大都市算法,这是非常接近正确的后验分布。因此,而不是执行一个大都会步骤更新一个缺失数据点,在当前的基准马尔可夫链蒙特卡罗(MCMC)算法,我们能够扩展我们的建议,以整个失踪的观察。这极大地改进了MCMC方法,并使随机模型现在成为可行的建模选项。一些真实的数据插图和必要的数学理论支持我们的结果。
2022-06-17 stat.AP stat.CO stat.ME
On the Impossibility of Statistically Improving Empirical Optimization: A Second-Order Stochastic Dominance Perspective
当随机最优化中的基本概率分布仅通过数据观察时,已经研究了各种数据驱动的公式以获得近似最优解。我们表明,没有这样的配方可以,在某种意义上说,从理论上提高统计质量的经验优化得到的解决方案。我们通过证明任何数据驱动解决方案的最优性差距对Oracle最佳解决方案的一阶行为(包括偏差和方差)是由经验优化主导的二阶随机性来论证这一点,只要相对于底层分布保持适当的平滑性。我们证明了这种不可能的改进,在一系列的例子,包括正则化优化,分布鲁棒优化,参数优化和贝叶斯推广。我们还讨论了半参数统计推断和数据驱动的优化文献中的其他观点,我们的结果的连接。
2021-05-27 math.OC stat.ME
Bayes factors for partially observed stochastic epidemic models
研究了一类具有部分观测值的随机传染病模型的模型选择问题。我们主要关注的是贝叶斯因子的使用。虽然贝叶斯因子以前曾出现在流行病建模文献中,但它们可能很难计算,并且很少关注有关其效用的基本问题。在本文中,我们推导出完整的观察通过时间的贝叶斯因子的解析表达式,模型选择问题提出了实际的指导方针。我们扩展了计算贝叶斯因子的功率后验方法,以考虑缺失数据,并将这种方法应用于部分观察到的流行病。为了比较,我们还探讨了使用偏差信息标准的缺失数据的情况。该方法通过涉及模拟和真实数据的例子来说明。
2017-10-13 stat.CO stat.ME
Testing independence in the presence of missing data: high-dimensional case
University of Belgrade(贝尔格莱德大学)
本文提出两种改进的Kendall统计量方法,用于高维缺失数据下的独立性检验,通过理论和实证研究验证了方法的鲁棒性和适用性。
2026-04-24 math.ST stat.ME stat.TH
Surface data imputation with stochastic processes
本文提出用源自表面纹理模拟的随机过程(高斯过程)进行表面数据填补,通过整合先验知识并采用平稳与非平稳协方差结构,在真实车削轮廓数据上验证了该方法能在保持表面特征的同时有效填补缺失值。
2025-04-09 cond-mat.mtrl-sci eess.SP stat.ME
On an Extension of Stochastic Approximation EM Algorithm for Incomplete Data Problems
随机逼近EM(SAEM)算法是EM算法的一种随机逼近,是一种用于不完备数据模型推理的通用工具。在本文中,我们回顾了基本的期望最大化算法,然后特别关注EM的随机版本。为了构造SAEM,该算法将EM与随机逼近的变体相结合,该变体使用马尔可夫链蒙特卡罗来处理缺失数据。该算法以一般形式介绍,可用于广泛的问题。
2018-11-28 stat.CO stat.ME
Stochasticity and Practical Identifiability in Epidemic Models: A Monte Carlo Perspective
Department of Mathematics, University of Tennessee(田纳西大学数学系)
本文研究流行病模型的实际可辨识性,指出标准Monte Carlo的独立高斯噪声假设低估SIR模型的CTMC随机变异,并提出兼顾效率与真实噪声特征的混合模拟方法。
2025-09-30 q-bio.QM stat.ME
not-MIWAE: Deep Generative Modelling with Missing not at Random Data
Technical University of Denmark(丹麦技术大学);Inria(法国国家信息与自动化研究所);Laboratoire J.A. Dieudonné(迪厄多内实验室)
当缺失的过程依赖于缺失值本身时,需要显式建模并在进行基于似然性的推理时将其考虑在内。我们提出了一种方法,用于建立和拟合深度潜变量模型(DLVM)的情况下,缺失的过程是依赖于缺失数据。具体来说,深度神经网络使我们能够灵活地对给定数据的缺失模式的条件分布进行建模。这允许将关于缺失类型的先验信息(例如,自删失)并入模型中。我们的推理技术,基于重要性加权变分推断,涉及最大限度地降低联合可能性。通过在隐空间和数据空间中使用重新参数化技巧,得到了该界的随机梯度。我们在各种数据集和缺失模式上显示,明确地对缺失过程进行建模是非常宝贵的。
2021-03-18 cs.LG stat.ME stat.ML
High-Dimensional Conditionally Gaussian State Space Models with Missing Data
我们开发了一种有效的采样方法,用于处理条件高斯状态空间模型中的复杂缺失数据模式和大量缺失观测。两个重要的例子是具有不平衡数据集的动态因子模型和具有多个频率变量的大型贝叶斯VAR。所提出的方法的一个关键见解是,在观测数据的条件下,缺失数据的联合分布是高斯分布。此外,该条件分布的逆协方差或精度矩阵是稀疏的,并且可以利用这种特殊结构来大大加快计算。我们说明了使用两个实证应用程序的方法。第一个应用程序使用大型贝叶斯VAR将季度,月度和每周数据结合起来,以产生每周GDP估计值。在第二个应用程序中,我们提取潜在的因素,从不平衡的数据集,涉及超过100个月的变量,通过一个动态因子模型与随机波动。
2023-02-07 econ.EM stat.CO stat.ME
Sparse Linear Regression With Missing Data
Wisconsin Institutes for Discovery(威斯康星发现研究院);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本文提出了一种在有缺失数据的情况下进行稀疏回归的快速、准确的方法。底层统计模型封装了不完整数据矩阵的低维结构和回归系数的稀疏性,所提出的算法联合学习数据的低维结构和具有稀疏系数的线性回归器。建议的随机最优化方法,稀疏线性回归与缺失数据(SLRM),执行交替最小化过程和规模以及与问题的大小。大偏差不等式揭示了各种问题相关参数对学习回归量的预期平方损失的影响。在合成数据集和真实数据集上进行的大量仿真表明,SLRM在各种情况下都优于竞争算法。
2015-03-28 cs.LG stat.ME stat.ML
Active information, missing data and prevalence estimation
本文的主题是从主动信息的角度进行患病率估计。假设个人愿意接受疾病检测的意愿随着其症状的强度而增加,则接受检测的个人中的患病率有向上的偏差。由于检测偏倚而产生的主动信息量化了受检意愿与感染状态相关的程度。将不完全检验解释为缺失数据问题,缺失机制影响原始患病率估计的偏倚可以被去除的程度。当调整测试偏倚时,患病率的降低转化为偏倚校正引起的主动信息,与测试偏倚引起的主动信息符号相反。流行率和活跃信息估计是渐近正态的,也通过模拟说明了这种行为。
2022-06-10 cs.IT math.IT physics.data-an