Nonparametric imputation method for nonresponse in surveys
许多插补方法基于统计模型,该模型假设感兴趣的变量是辅助变量或协变量的函数的噪声观测。这种模型的错误设定可能导致严重的估计错误和误导性的结论。提出了一种新的基于感兴趣变量与辅助变量之间函数依赖关系的非参数估计的项目无应答插补方法。我们考虑使用平滑样条估计的加性模型框架内灵活地建立插补模型的情况下,多个辅助变量。我们的方法的性能进行评估,通过数值实验,涉及模拟和真实数据。
2017-02-06 stat.ME
Partial Replacement Imputation Estimation Method for Complex Missing Covariates in Additive Partially Linear Models
缺失数据是临床数据收集中常见的问题,给临床数据的统计分析带来困难。在这篇文章中,我们考虑的问题的框架下的半参数部分线性模型时,观测值的缺失与复杂的模式。如果可加部分线性模型的模型结构是正确的,我们提出了一种新的插补方法称为部分替换插补估计(PRIME),它可以克服部分线性模型中的不完整数据所带来的问题。此外,我们使用PRIME结合模型平均(PRME-MA)来解决部分线性模型中模型结构未知的问题。在模拟研究中,我们使用各种误差分布,样本量,缺失数据率,协变量相关性和噪声水平,PRIME在几乎所有情况下都优于其他方法。在正确模型结构未知的情况下,PRIME-MA具有令人满意的预测性能,但略差于PRIME。此外,我们对Pima印第安人糖尿病数据的影响因素进行了研究,结果表明,我们的方法比其他模型表现得更好。
2022-06-10 stat.ME
Unsupervised Imputation of Non-ignorably Missing Data Using Importance-Weighted Autoencoders
University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
近年来,深度学习(DL)方法的流行程度急剧增加。虽然它最初的成功是在图像数据的分类和操作中得到证明,但在生物医学科学中,DL方法的应用已经有了显着的增长。然而,在生物医学数据集中缺失数据的更大的普遍性和复杂性,DL方法提出了重大挑战。在这里,我们提供了一个正式的处理丢失的数据的上下文中的变分自编码器(VAE),一个流行的无监督DL架构,通常用于降维,插补和学习复杂数据的潜在表示。我们提出了一个新的VAE架构,NIMIWAE,这是第一个灵活的帐户在训练时输入功能的缺失的可识别和不可识别的模式。训练后,可以从缺失数据的近似后验分布中提取样本,用于多重插补,便于对高维不完整数据集进行下游分析。我们通过统计模拟证明,我们的方法优于现有的方法的无监督学习任务和插补精度。最后,我们总结了一个案例研究的EHR数据集有关12,000 ICU患者包含大量的诊断测量和临床结果,其中许多功能只是部分观察。
2022-06-17 cs.LG stat.AP
Latent-driven Imputation and Forecasting for partially observed Time Series (LIFTS)
Columbia University(哥伦比亚大学)
LIFTS提出潜变量驱动的概率框架,联合建模测量轨迹与观测掩码,通过前向-后向架构实现插补与预测,在PhysioNet 2019上优于现有方法且推断更快。
2026-10-27 stat.ME
Fast model-based clustering of partial records
Iowa State University(爱荷华州立大学)
部分记录的数据在许多应用中经常遇到,并且通常通过首先删除不完整的情况或具有缺失值的特征或通过估算缺失值来聚类,然后将聚类算法应用于所得到的改变的数据集。在这里,我们开发的聚类方法,通过基于模型的方法,使用边际密度的观测值,假设一个有限的混合模型的多元$t$分布。我们比较我们的近似算法,相应的充分期望最大化(EM)的方法,认为缺失值在不完整的数据集,并作出随机缺失(MAR)的假设,以及删除和插补方法。由于只利用观测值,我们的方法在计算上比插补或全EM更有效。仿真研究表明,我们的方法具有良好的恢复的真实集群分区相比,在各种缺失机制的情况下删除和填补,至少是竞争力与完整的EM方法,即使当MAR假设被违反。我们的方法证明了集群的伽玛射线暴的问题,并在https://github.com/emilygoren/MixtClust上实现。
2021-08-12 astro-ph.HE cs.LG stat.CO
Propensity score analysis with partially observed confounders: how should multiple imputation be used?
治疗加权逆概率(IPTW)是一种流行的基于倾向得分(PS)的方法,用于估计存在混杂偏倚风险的观察性研究中的因果效应。估计PS时的一个主要问题是存在部分观察到的协变量。多重插补(MI)是处理协变量缺失数据的自然方法,但其在PS背景下的使用提出了三个重要问题:(i)我们应该将鲁宾规则应用于IPTW处理效应估计还是PS估计本身?(ii)结果是否必须包括在插补模型中?(iii)在MI之后,我们应该如何估计IPTW估计量的方差?我们进行了一项模拟研究,重点是二元治疗对二元结局的影响,有三个混杂因素(其中两个部分观察)。我们使用MI和链式方程创建完整的数据集,并比较了三种组合结果的方法:组合处理效应估计值(MIte);组合插补数据集的PS(MIps);或组合PS参数并估计插补数据集平均协变量的PS(MIpar)。我们还比较了这些方法的性能完整的情况下(CC)分析和缺失模式(MP)的方法,使用不同的PS模型的每种模式的缺失。我们还实证研究了这3个MI估计的一致性。在随机缺失(MAR)机制下,CC和MP分析在估计边际处理效应时在大多数情况下存在偏倚,而MI方法在减少偏倚方面表现良好,只要结局纳入插补模型。然而,只有MIte是无偏的,在所有的研究方案和鲁宾的规则提供了良好的方差估计MIte。
2016-08-19 stat.ME
The Role of Congeniality in Multiple Imputation for Doubly Robust Causal Estimation
Wake Forest University(维克森林大学)
本文探讨了在双重稳健因果估计中,多重插补模型对混杂因素缺失数据的规范要求,强调了正确指定插补模型的重要性以避免偏倚。
2025-12-18 stat.AP stat.ME
Combining multiple imputation with raking of weights: An efficient and robust approach in the setting of nearly-true models
多重插补为我们提供了有效的估计在基于模型的方法处理缺失数据下的真实模型。同样众所周知的是,基于设计的估计器是稳健的方法,不需要对缺失数据进行精确建模;然而,它们可能效率低下。在任何应用环境中,都很难知道一个缺失数据模型是否足够好,以赢得偏倚-效率权衡。权重排序是一种依赖于从整个队列观察到的数据构建辅助变量的方法,然后使用该辅助变量来调整通常的Horvitz-Thompson估计量的权重。计算最优有效的排序估计量需要评估给定完整队列数据的有效分数的期望,这通常是不可行的。我们证明了多重插补(MI)作为一个实用的方法来计算一个耙估计,将是最佳的。我们比较常见的参数和半参数估计,包括标准的多重插补估计。我们发现,虽然估计,如半参数极大似然和MI估计,获得最佳性能下的真实模型,建议耙估计利用MI保持更好的鲁棒性,效率的权衡,即使在温和的模型误设定。我们还表明,标准的耙估计,没有MI,往往是有竞争力的最佳耙估计。我们证明了这些属性,通过几个数值例子,并提供了一个理论讨论的条件渐近优越的相对效率的建议耙估计。
2020-06-09 stat.ME
A Unified Inference Framework for Multiple Imputation Using Martingales
多重插补是处理缺失数据的常用方法。虽然Rubin的合并规则很简单,但标准的多重插补推断与常用的全样本估计量结合时是否一致还不清楚。本文对一类渐近线性全样本估计量建立了多重插补的统一鞅表示。这种表示调用了野生自助推断,以在插补模型的正确规范下提供一致的方差估计。作为一个激励性的应用,我们说明了所提出的方法来估计平均因果效应(ACE)与部分观察到的混杂因素在因果推断。我们的框架适用于渐近线性ACE估计,包括回归插补,加权和匹配估计。我们扩展到结果和混杂因素均受缺失影响的情况,以及数据非随机缺失的情况。
2023-01-02 stat.ME
A multiple imputation approach to distinguish curative from life-prolonging effects in the presence of missing covariates
本文针对协变量缺失的Cox比例风险治愈模型,提出基于多重插补和全条件指定的改进方法,分别对治愈概率和未治愈者生存建模,并在BO06骨肉瘤临床试验数据上验证其优于完整案例分析和全协变量分析。
2024-12-30 stat.ME
AI-Augmented Statistical Network Estimation with Proxy Gene Embeddings
The University of Hong Kong(香港大学);Carnegie Mellon University(卡内基梅隆大学)
研究利用现代生物医学基础模型提供的代理基因嵌入改善部分观察目标网络的潜在结构恢复,提出PLANE模型,结合两种信息源,经分析得出网络嵌入权重的最优选择,模拟等验证其能提升潜在恢复等效果。
2026-07-08 stat.ME
Self-Organizing Maps for Exploration of Partially Observed Data and Imputation of Missing Values
自组织映射是一种无监督的神经网络,广泛应用于化学计量学领域的数据可视化和聚类。计算自组织映射的经典Kohonen算法只适用于没有任何缺失值的完整数据。然而,在许多应用中,部分观测数据是常态。在本文中,我们提出了一个扩展的自组织映射到不完整的数据,通过一个新的标准,也定义了缺失值的估计。此外,适应Kohonen算法,命名为missSOM,提供计算这些自组织映射和估算缺失值。提供了一种有效的实现方式。模拟数据和化学数据集的数值实验说明了短的计算时间的missSOM和评估其性能的各种标准和比较的最先进的。
2023-02-13 math.ST stat.ME stat.TH
Calibrated regression estimation using empirical likelihood under data fusion
在经济和生物医学研究中,基于多个来源的信息进行数据分析是常见的。这种设置通常被称为数据融合问题,它不同于传统的缺失数据问题,因为没有观察到任何受试者的完整数据。当结果变量和协变量从两个不同的来源收集时,我们考虑回归分析。通过利用在两个数据集中观察到的共同变量,文献中提出了双重稳健估计程序,以防止可能的模型误指定。然而,他们只采用一个单一的倾向得分模型的数据融合过程和一个单一的插补模型的协变量在一个数据集。假设这两种模型在实践中都是正确的,这可能是有问题的。因此,我们提出了一种方法,校准多个倾向得分和插补模型,以获得更多的保护的基础上的经验似然方法。当这些模型中的任何一个被正确指定时,得到的估计量是一致的,并且对拟合的倾向得分的极值是稳健的。我们还建立了它的渐近正态性,并讨论了半参数估计的有效性。仿真研究表明,所提出的估计有显着的优势,现有的双重稳健估计,并组装美国家庭支出数据的例子用于说明。
2022-04-06 stat.ME
High-dimensional multiple imputation (HDMI) for partially observed confounders including natural language processing-derived auxiliary covariates
Kaiser Permanente Washington Health Research Institute(凯撒永久华盛顿健康研究所);Duke University School of Medicine(杜克大学医学院);US Food and Drug Administration(美国食品药品监督管理局);Harvard Medical School and Harvard Pilgrim Health Care Institute(哈佛医学院与哈佛朝圣者医疗保健研究所);Harvard Pilgrim Health Care Institute(哈佛朝圣者医疗保健研究所)
本文提出结合结构化与NLP衍生辅助协变量的高维多重插补HDMI,并通过plasmode模拟表明其可在缺失依赖未观测因素时降低治疗效应估计偏倚。
2024-05-17 cs.AI cs.LG stat.ME
Information Based Inference in Models with Set-Valued Predictions and Misspecification
Boston University(波士顿大学);Cornell University(康奈尔大学)
本文提出了一种基于信息的推断方法,用于不完整模型中部分识别参数的推断,该方法在模型正确规范和不规范的情况下都有效,并利用了Rao的得分统计量。
2026-02-23 econ.EM stat.ME
Three-phase generalized raking and multiple imputation estimators to address error-prone data
验证研究通常用于在具有易出错数据的环境中获得更可靠的信息。关于受试者子样本的验证数据可以与关于所有受试者的易出错数据一起使用,以改进估计。在实践中,可能需要一轮以上的数据验证,直接应用标准方法将验证数据结合到分析中可能会导致效率低下的估计,因为从中间验证步骤获得的信息只被部分考虑,甚至完全忽略。在本文中,我们提出了两个新的扩展多重插补和广义耙估计,充分利用所有可用的数据。我们通过模拟表明,将信息从中间步骤可以导致效率的大幅提高。这项工作的动机和说明在82 957名妇女感染艾滋病毒的避孕有效性的研究,其数据最初从电子病历中提取,其中4855人的图表进行了审查,随后1203也有一个电话采访,以验证关键的研究变量。
2022-05-03 stat.AP stat.ME
Simulation comparisons between Bayesian and de-biased estimators in low-rank matrix completion
Norwegian University of Science and Technology(挪威科技大学)
本文通过模拟比较了低秩矩阵补全中贝叶斯估计与去偏估计的性能,发现两者相当,但贝叶斯方法更稳定且在小样本下更优,并指出去偏置信区间覆盖率较低,需进一步理论研究。
2023-09-01 cs.LG stat.ML
Parameter estimation in nonlinear mixed effect models based on ordinary differential equations: an optimal control approach
提出了一种基于常微分方程的非线性混合效应模型(NLME-ODEs)的参数估计方法。这里提出的方法的目的是正则化的估计问题存在的模型误设定,实际的可识别性问题和未知的初始条件。为此,我们将估计量定义为成本函数的最小值,该成本函数包含了在总体水平上假设的模型与特定个体动态之间可能存在的差距。成本函数的计算导致制定和解决最优控制问题的主题水平。这种控制理论的方法允许绕过需要知道或估计每个主题的初始条件,它正则化的估计问题,在存在难以识别的参数。仿真结果表明,与极大似然方法相比,该方法在初始条件未知或参数辨识性差的情况下,无论有无模型误差,都能提高估计精度.我们结束这项工作的实际应用对埃博拉病毒疫苗接种后的抗体浓度数据来自1期试验。我们使用估计的模型差异,在主题水平上分析模型误设的存在。
2021-02-23 stat.ME
Semi-Supervised Quantile Estimation: Robust and Efficient Inference in High Dimensional Settings
针对半监督高维分位数估计场景,提出结合灵活插补策略与去偏步骤的半监督估计量,兼具鲁棒性与效率提升,理论与实验均验证其性能优势。
2024-08-14 math.ST stat.ME stat.ML
A Calibration Framework for Inference with Partially Observed Data
Iowa State University(爱荷华州立大学);Fujian Normal University(福建师范大学)
本文提出一种统一框架,基于广义熵校准加权估计在MAR机制下由一般估计方程定义的参数,通过数据自适应校准函数平衡约束和偏倚约束,实现双重鲁棒性和半参数效率。
2026-03-27 stat.ME
Causal Inference on Missing Exposure via Robust Estimation
针对暴露随机缺失下的因果推断问题,提出基于加权估计方程的IPW与三重稳健估计量,降低极端权重影响并防范模型误设。
2024-06-12 stat.ME
A generalization of moderated statistics to data adaptive semiparametric estimation in high-dimensional biology
高维生物数据的广泛可用性使得同时筛选许多生物特征成为计算生物学和相关科学的中心问题。虽然这些数据集的维度继续增长,但在测量基线混杂因素的健康研究中,从暴露模式中识别生物标志物的复杂性也在增长;此外,在避免模型错误指定的同时这样做仍然是一个仅部分解决的问题。有效的估计,能够将灵活的,数据自适应回归技术,在估计相关组件的数据生成分布提供了一个途径,以避免模型误指定;然而,在高维问题的背景下,需要同时估计的许多参数,标准方差估计已被证明是不稳定的,导致不可靠的第一类错误控制,即使在标准的多重检验校正。我们提出了一个一般的方法,适用于经验贝叶斯收缩的方差估计的一个家庭的有效的,渐近线性估计的人口干预的因果关系。我们的推广收缩为基础的方差估计增加了推理的稳定性,在高维设置,促进这些估计的应用程序派生非参数变量的重要性措施,在高维生物数据集适度的样本量。其结果是一种数据自适应方法,用于在有限样本的研究中稳健地揭示高维数据中的稳定因果关系。我们的广义方差估计评价对替代方差估计在数值实验中。在对吸烟表观遗传效应的观察性研究中的高维DNA甲基化数据的分析中证明了使用所提出的方法识别生物标志物。
2022-01-13 stat.ME
Robust estimation of polyserial correlation coefficients: A density power divergence approach
University of Zurich(苏黎世大学)
本文提出基于密度幂分歧的稳健估计方法,用于多项序相关系数的估计,该方法在保持高效率的同时提升了对异常值的鲁棒性。
2026-02-10 math.ST stat.AP stat.ME
Network Model-Assisted Inference from Respondent-Driven Sampling Data
响应者驱动抽样是一种通过社交网络上的链接追踪对难以接触的人群进行抽样的方法。从一个方便的样本开始,每个抽样的人都会得到一小部分唯一标识的优惠券,分发给目标人群的其他成员,使他们有资格参加研究。这可以是从许多种群中收集大量不同样本的有效手段。从这些数据中进行推断需要专门的技术,原因有二。与标准抽样设计不同,抽样过程部分超出了研究人员的控制,部分隐含定义。因此,通常不可能直接计算传统的基于设计的推理所需的采样权重。任何基于似然性的推理都需要对复杂的采样过程进行建模,通常从方便的样本开始。我们引入了一个模型辅助的方法,从而在一个基于设计的估计,利用工作模型的人口结构进行抽样。我们证明了新的估计量相比现有的估计量具有更好的性能,并且能够调整初始样本选择引起的偏差。我们提出了敏感性分析未知的人口规模和误设定的工作网络模型。我们开发了一个自助程序来计算不确定性的措施。我们应用该方法估计在乌克兰的注射毒品使用者(IDU)的人口中的艾滋病毒流行率,并展示它如何可以扩展到包括应用程序的特定信息。
2011-08-01 stat.ME
The Decaying Missing-at-Random Framework: Model Doubly Robust Causal Inference with Partially Labeled Data
本文提出衰减随机缺失框架及偏差减少半监督估计器,用于部分标记数据下处理效应的双稳健因果推断,同时解决标记偏差和组间不平衡,放宽稀疏性条件,并通过数值实验验证其有效性。
2025-04-21 math.ST stat.ME stat.ML
Semi-supervised Triply Robust Inductive Transfer Learning
本文提出STRIFLE方法,通过结合密度比模型和填补模型,在协变量偏移下整合源人群、目标人群及未标注数据,实现三重稳健的归纳迁移学习,并在糖尿病风险预测中验证其有效性。
2024-10-22 stat.ME
Radial Neighborhood Smoothing Recommender System
Department of Statistics and Bioinformatics and Computational Biology Program(统计学与生物信息学及计算生物学项目部);School of Mathematical Sciences and Center for Statistical Science(数学科学学院和统计科学中心)
提出径向邻域估计器(RNE),通过观测矩阵行列距离近似潜在空间距离并结合局部核回归平滑,提升推荐插补精度并缓解冷启动问题。
2025-07-14 cs.LG stat.AP stat.ME