variable selection and missing data imputation in categorical genomic data analysis by integrated ridge regression and random forest
全基因组关联研究(GWAS)所获得的基因组数据往往是大规模的,而且是不完整的。其不完备性的一种特殊形式是具有不可解释的缺失机制的缺失值。基因组数据的内在复杂性提出了显着的挑战,在开发一个公正的和翔实的程序表型-基因型关联分析的统计变量选择方法。在本文中,我们开发了一个连贯的分类表型-基因型关联分析的程序,在GWAS数据中的缺失值与不可解释的缺失机制的存在下,通过整合最先进的方法,随机森林的变量选择,加权岭回归与期望最大化算法的缺失数据填补,和线性统计假设检验确定缺失机制。两个模拟的GWAS被用来验证所提出的程序的性能。该程序,然后应用于分析一个真实的数据集,从乳腺癌GWAS。
2021-11-10 stat.AP stat.ME
Instability of inverse probability weighting methods and a remedy for non-ignorable missing data
本文揭示逆概率加权方法因需估计不稳定的矩母函数而存在不收敛和有偏问题,提出基于半参数结果模型和最大条件似然的替代方法,并通过理论、模拟及真实数据验证其优越性。
2025-07-23 stat.ME
Non-standard conditionally specified models for non-ignorable missing data
数据分析通常依赖于关于缺失机制的假设,这些假设导致观察到的数据与缺失数据。当数据非随机缺失时,关于缺失机制的直接假设以及关于观测数据和缺失数据分布的间接假设通常是不可检验的。我们探索一种方法,其中观测数据和缺失数据的联合分布通过非标准条件分布来指定。在这个公式中,它追溯到联合分布的因子分解,显然是由J.W. Tukey,关于条件因素的建模假设要么是可测试的,要么是为了结合关于手头问题的实质性知识而设计的,从而提供了一个可能真实的数据描述,包括缺失和观察到的数据。我们将Tukey的条件表示应用于指数族模型,并提出了这类模型的计算易处理的推理策略。我们使用高通量生物数据来说明这种方法的实用性,其中缺失数据不是随机随机缺失的。
2016-03-19 stat.ME
Identification Problem for The Analysis of Binary Data with Non-ignorable Missing
当缺失数据机制为NMAR或不可验证时,缺失本身就是重要信息,必须将其纳入可能性中,但需要引入其他参数进行估计。数据的不完整性和引入更多参数会导致识别问题。当响应变量为二进制时,由于二进制数据的信息较少,这成为一个更严重的问题,然而,没有方法来简单地验证是否识别出模式。因此,我们提供了一个新的必要和充分条件,可以很容易地检查模型的可识别性时,分析二进制数据的不可否认的缺失条件模型。这个条件可以给出模型具有可辨识性所需要的条件,也可以方便地检验模型的可辨识性。
2014-05-14 stat.ME
Simulation-based Sensitivity Analysis for Non-ignorable Missing Data
敏感性分析是处理缺失数据问题的常用方法,特别是对于不可重复的缺失数据。它分析了结论可能依赖于关于缺失数据的假设的敏感程度,例如缺失数据机制(MDM)。我们称之为在一定假设下的模型敏感性模型。为了使敏感性分析在实践中有用,我们需要定义一些简单和可解释的统计量来评估敏感性模型。然而,当缺失数据机制是非随机缺失(MNAR)时,评估是困难的。我们提出了一种新的方法,在本文中试图调查这些假设的基础上,最近邻(KNN)的距离模拟数据集从各种MNAR模型。该方法具有通用性,并已成功应用于多个具体模型的分析,包括有发表偏倚的Meta分析模型、不完全纵向数据的分析和有不可解释的缺失协变量的回归分析。
2015-01-23 stat.ME
Clustering Data with Nonignorable Missingness using Semi-Parametric Mixture Models
我们关注的是聚类连续数据集受到不可分割的缺失。我们进行聚类与特定的半参数混合,在给定的组件的条件独立的假设下。混合模型用于聚类,而不是用于估计全部变量(观察到的和未观察到的)的密度,因此我们不需要对成分分布进行其他假设,也不需要指定缺失机制。估计是通过最大限度地扩大平滑的可能性,允许遗漏。这种优化是通过一个优化-最小化算法。我们通过数值实验说明了我们的方法的相关性。在温和的假设下,我们证明了模型的可识别性,定义了观测数据的分布和算法的单调性。我们还提出了一个扩展的混合类型的数据,我们说明了一个真正的数据集的情况下,这种新方法。
2021-07-16 stat.ME
Receiver operating characteristic curve analysis with non-ignorable missing disease status
针对疾病状态存在不可忽略缺失的医疗数据,本文在逻辑回归框架下确立模型参数可识别性,提出似然估计方法获取模型参数、ROC曲线及AUC并推导其渐近分布,通过模拟验证方法性能并应用于实际数据集。
2024-11-26 stat.ME
Model-based estimation and imputation with torus missing values
University Giustino Fortunato(朱斯蒂诺·富尔纳托大学);Department of Mathematics, University of Trento(特伦托大学数学系)
针对p维环面多元圆形数据缺失问题,提出基于包裹椭圆对称分布族的EM算法进行参数估计与填补,通过蒙特卡洛模拟验证性能。
2026-11-05 stat.CO stat.ME
Robust semiparametric inference with missing data
具有缺失结果数据的经典半参数推断对观测数据的污染不具有鲁棒性,并且单个观测可以对感兴趣的参数的估计具有任意大的影响。当使用逆概率加权方法时,这种敏感性会加剧,这可能会使污染的观测值超重。我们引入逆概率加权,双稳健和结果回归估计的位置和尺度参数,这是强大的污染的意义上说,他们的影响函数是有界的。我们给出了渐近性质,并研究了有限样本行为。我们的模拟实验表明,污染可以更严重的威胁,推理的质量比模型误指定。我们的研究结果的一个有趣的方面是,辅助结果模型,用于调整的估计的可重复的缺失,也是有用的,以防止污染。我们还通过案例研究说明了如何通过加权方案实现对可识别缺失的调整和对污染的保护,这些方案可以进行对比以获得进一步的见解。
2018-10-05 stat.ME
Deeply-Learned Generalized Linear Models with Missing Data
University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
本文提出深度学习广义线性模型架构dlglm,可灵活处理训练时输入特征和响应中的可忽略与不可忽略缺失模式,并通过模拟和Bank Marketing案例验证其在MNAR缺失下优于现有方法。
2023-10-26 cs.LG stat.CO stat.ME
Doubly Robust Weighted Regression for Causal Inference under Confounder Missingness
University of Calgary(卡尔加里大学)
本文提出一种双重稳健的加权普通最小二乘估计方法,用于处理观测研究中缺失混杂变量的问题,通过引入倾向分数模型提升估计的稳健性与准确性。
2026-07-22 stat.ME
An IRT-based Model for Omitted and Not-reached Items
缺失是教育评价和心理测量中的常见现象。这一点不能随便忽视,如果处理不当,可能会威胁到测试的有效性。考虑到遗漏和未达到项目之间的差异,我们开发了一个基于IRT的模型来处理这些遗漏。在所提出的方法中,未达到的响应被捕获的累积缺失。此外,不可解释性归因于能力与人缺失特质之间的相关。证明了其项目参数在最大边际似然(MML)估计下的估计是相合的。我们进一步提出了一个贝叶斯估计过程中使用MCMC方法来估计所有的参数。仿真结果表明,在贝叶斯模型选择方面,该方法比列表删除法更好地恢复了模型参数,且不可分辨模型比可分辨模型更适合模拟的不可分辨无响应。最后,通过对国际学生评估项目(PISA)数据集的分析,进一步说明了该方法的应用。
2019-04-07 stat.ME
On missing label patterns in semi-supervised learning
我们研究基于模型的分类与部分标记的训练数据。在许多生物统计应用中,标签由专家手动分配,由于类别的不确定性,他们可能会留下一些未标记的观察结果。我们分析半监督学习作为一个缺失数据的问题,并确定的情况下,缺失的标签模式是不可识别的极大似然估计的目的。特别是,我们发现,分类难度和缺失的标签模式之间的关系意味着一个不可分割的缺失机制。我们检查了一些真实的数据集,并得出结论,丢失标签的模式与分类的难度有关。我们提出了一个联合建模策略,涉及观测数据和缺失标签机制,以解释系统性缺失标签。包含缺失标签机制的全似然推理可以提高参数估计的效率,提高分类精度。
2019-04-05 math.ST stat.ME stat.TH
A Comparative Evaluation of a Conditional Median-Based Bayesian Growth Curve Modeling Approach with Missing Data
针对纵向分析中缺失数据(尤其是非正态时)的挑战,本研究通过蒙特卡洛模拟比较评估基于条件中位数的贝叶斯增长曲线建模方法与现有方法,发现其在多种缺失场景下处理非正态数据更可靠。
2025-04-18 stat.AP stat.ME
IlocA: An algorithm to Cluster Cells and form Imputation Groups from a pair of Classification Variables
我们提出了新颖的自下而上的过程,以双向分类的方式将具有小频率计数的细胞聚集或聚类在一起,同时保持表中的依赖性。该过程是免费的。它根据独立的对数比值比将表中的单元格组合成聚类。我们使用这个过程来建立一组统计上有效和强大的插补单元,用于使用一对分类变量对连续变量的缺失值进行插补。该过程的一个很好的特点是它形成了相对于细胞响应平均值均匀的聚集组。通过一系列模拟研究,我们发现IlocA只将独立的细胞分组在一起,并且以一致和可信的方式进行分组。在插补缺失数据时,我们表明IlocAs生成接近最佳数量的插补单元。对于可验证的无应答,所得插补平均值通常准确。对于不可验证的缺失,结果与其他地方获得的结果一致。最后,我们用一个案例研究,应用我们的方法来估算缺失的建筑物能源性能数据
2023-02-23 stat.ME
Analysis of cohort stepped wedge cluster-randomized trials with non-ignorable dropout via joint modeling
本文提出纵向-生存联合建模方法,在闭合队列阶梯楔形 CRT 中处理死亡等信息性退出,并通过模拟和 ACT 试验再分析验证其性能。
2025-02-18 stat.ME
Adjusting for Participation Bias in Case-Control Genetic Association Studies for Rare Diseases
针对罕见病病例对照遗传关联研究中因基因型相关缺失导致的参与偏倚问题,提出可纳入协变量校正的估计方程方法,利用家系遗传信息补全缺失数据,经模拟验证性能后应用于乳腺癌家系病例对照研究。
2024-07-11 stat.ME
Full Law Identification In Graphical Models Of Missing Data: Completeness Results
Johns Hopkins University(约翰斯·霍普金斯大学)
缺失数据有可能影响在所有科学研究领域进行的分析,包括医疗保健、经济学和社会科学。几种方法无偏推理的存在下,非可分解的缺失依赖于指定的目标分布和其缺失过程作为一个概率分布,相对于一个有向非循环图的因式分解。在本文中,我们解决了长期存在的问题,在这类缺失数据分布中可识别的模型的特征。我们提供了第一个完整性的结果在这一领域的研究-必要和充分的图形条件下,完整的数据分布可以从观察到的数据分布恢复。然后,我们同时解决可能出现的问题,由于存在的缺失数据和未测量的混杂,通过扩展这些图形条件和证明的完整性,设置一些变量不仅是失踪,但完全未观察到的。
2020-08-31 cs.LG stat.ME
Robust Expectation-Maximization for Covariance Estimation in SIRV Models with Missing Data: Application to InSAR Time Series
École Militaire Polytechnique (EMP)(军事理工学院);CentraleSupélec, Université Paris-Saclay(中央理工-巴黎萨克雷大学);LASTIG, IGN Géodata Paris, Université Gustave Eiffel(LASTIG,IGN地理数据巴黎,巴黎东加尔文大学);LISTIC, Polytech Annecy-Chambéry, Université Savoie Mont Blanc(LISTIC,安纳西-尚贝里理工学院,萨瓦蒙布朗大学)
提出一种鲁棒期望最大化框架,用于缺失数据下尺度不变随机向量模型的协方差估计,通过逆伽马先验和数值鲁棒技术实现有效缺失值重建与去噪。
2026-06-23 eess.SP stat.ME
Bayesian nonparametric generative models for causal inference with missing at random covariates
我们提出了一个一般的贝叶斯非参数(BNP)的方法,因果推断在点处理设置。观察数据(结局、治疗和混杂因素)的联合分布使用富集Dirichlet过程建模。观测数据模型和因果假设的结合使我们能够识别任何类型的因果效应-差异,比率或分位数效应,无论是边缘还是针对感兴趣的亚群。所提出的BNP模型非常适合于因果推断问题,因为它不需要关于混杂因素分布的参数假设,并且自然地导致计算效率高的吉布斯抽样算法。通过对联合分布进行灵活建模,我们还能够在假设可验证的缺失情况下,对算法内的缺失协变量值进行插补(通过数据增强),从而无需创建单独的插补数据集。这种插补缺失协变量的方法具有额外的优势,可以保证插补模型和分析模型之间的一致性,并且由于我们使用BNP方法,因此避免了参数模型进行插补。使用模拟研究的方法的性能进行评估。该方法适用于人类免疫缺陷病毒/丙型肝炎病毒合并感染患者的队列研究数据。
2017-02-27 stat.ME
Just what the doctor ordered: An evaluation of provider preference-based Instrumental Variable methods in observational studies, with application for comparative effectiveness of type 2 diabetes therapy
本文通过模拟与2型糖尿病治疗案例,评估并提出基于医疗服务提供者处方偏好的工具变量构建方法,以适应不同数据条件并实现无偏因果效应估计。
2023-08-15 stat.ME