Generalized regression operator estimation for continuous time functional data processes with missing at random response
在本文中，我们感兴趣的非参数核估计的广义回归函数，包括条件累积分布和条件分位数函数，基于不完全样本$(X_t, Y_t, ζ_t)_{t\in \mathbb{ R}^+}$副本的连续时间平稳遍历过程$(X, Y, ζ)$。预测器$X$在某个无限维空间中赋值，而实值过程$Y$在$ζ= 1$时被观察到，并且在$ζ= 0$时缺失。建立了估计量的逐点相合性和一致相合性（含率），以及一个中心极限定理。还提供了条件偏差和渐近二次误差。本文还讨论了广义回归函数的渐近和自举置信区间。第一个模拟研究进行比较的离散时间的连续时间的估计。第二个模拟也进行了讨论的最佳采样网格在连续时间的情况下的选择。最后，值得注意的是，我们的结果是在遍历假设下陈述的，没有假设任何经典的混合条件。
2021-10-15 math.ST stat.ME stat.TH
Conformal Prediction for Dyadic Regression Under Complex Missingness
Washington University in Saint Louis（华盛顿大学圣路易斯分校）；University of Michigan（密歇根大学）
针对复杂缺失机制下的二元回归问题，提出共形预测框架，通过分布不变性条件替代可交换性，并利用双射论证处理随机子集样本，同时提出多种共形预测程序，包括图论加权方法，实现渐近条件有效性。
2026-09-17 math.ST stat.ME stat.ML
Simultaneous confidence bands for nonparametric regression with partially missing covariates
本文考虑了协变量随机缺失的非参数回归的基于逆选择概率的加权局部线性估计。导出了估计量与真实回归函数之间的最大偏差的渐近分布，并构造了渐近精确的同时置信带。回归函数的估计被证明是oracally有效的意义上说，它是一致的不可区分的，当选择概率是已知的。有限样本性能通过模拟研究，支持我们的渐近理论。通过对加拿大2010/2011年青年学生调查数据集的分析，证明了所提出的方法。
2020-02-28 stat.ME
Doubly robust target inference for generalized linear regression with completely missing covariates
School of Mathematics and Statistics, Huazhong University of Science and Technology（华中科技大学数学与统计学院）；Department of Statistics and Data Science, Tsinghua University（清华大学统计与数据科学系）
针对目标数据协变量完全缺失的广义线性回归，提出双重稳健迁移学习框架，结合重要性加权与插补，实现一致且有效的目标总体推断。
2026-09-22 math.ST stat.ME stat.ML
Variable Selection for Additive Partial Linear Quantile Regression with Missing Covariates
标准分位数回归模型假设在感兴趣的分位数处存在线性关系，并且观察到所有变量。我们通过考虑部分线性模型来放松这些假设，同时允许缺失线性协变量。为了处理由缺失数据引起的潜在偏差，我们提出了一个加权的目标函数，使用逆概率加权。我们的工作检查估计使用参数和非参数估计的缺失概率。对于存在缺失数据的线性项的变量选择，我们考虑使用非凸惩罚MCP或SCAD的惩罚和加权目标函数。在标准条件下，我们证明了惩罚估计的Oracle属性，包括情况下，$p>>n$。理论上的挑战包括处理缺失数据和部分线性模型，同时使用非光滑损失函数和非凸罚函数。使用蒙特卡罗模拟和我们的方法进行评估的方法的性能被施加到模型的时间量清醒的患者离开康复中心。
2016-06-04 stat.ME
LQD-RKHS-based distribution-to-distribution regression methodology for restoring the probability distributions of missing SHM data
数据丢失是结构健康监测中的一个关键问题。概率分布在许多应用中起着非常重要的作用。改进使用不完全样本进行的分布估计的质量是非常重要的。可以通过应用常规的缺失数据恢复方法来补偿缺失样本;然而，确保恢复的样本大致遵循真实缺失数据的潜在分布仍然是一个挑战。另一种策略涉及当样本丢失时，通过利用来自另一传感器的分布信息与使用分布回归技术的完整数据来直接恢复传感器的概率密度函数（PDF）;现有方法包括传统的分布到分布回归（DDR）和分布到翘曲函数回归（DWR）方法。由于PDF和翘曲函数的约束，这两种方法的回归函数估计的Nadaraya-Watson核估计精度相对较低。本文提出了一种新的间接分布到分布的回归方法，在功能数据分析的背景下，恢复丢失的SHM数据的分布。通过新提出的对数分位数密度（LQD）变换将PDF转换为Hilbert空间中的普通函数，在转换后的空间中通过基于再生核Hilbert空间（RKHS）理论构建的函数回归模型实现分布的回归，相应的结果通过逆LQD变换映射回密度空间。利用现场监测数据进行的试验结果表明，该方法在一般情况下的预测效果明显优于传统方法，但在外推情况下，该方法的预测效果不如分布-翘曲函数回归方法。
2018-12-08 stat.AP
A Unified Framework for Heterogeneity, Contamination, and Missing Data in Multivariate Regression
Rowan University（罗文大学）；San José State University（圣何塞州立大学）；University of Catania（卡塔尼亚大学）
本文提出统一框架，扩展CG-CWM模型以处理多元回归中的异质性、缺失与污染问题，通过ECM算法完成估计，经数值研究与实际数据验证性能。
2026-08-27 stat.ME
Robust location estimation with missing data
在缺失数据设置中，我们有一个样本，其中每个受试者i都观察到解释变量x_i的向量，而标量结果y_i在某些个体上偶然缺失。在这项工作中，我们提出了强大的估计分布的响应，假设随机缺失（MAR）数据，在半参数回归模型。我们的方法允许一致的估计的任何弱连续功能的响应的分布。特别是，强相合估计的任何连续的位置功能，如中位数或MM泛函，建议。回归模型的稳健拟合与位置泛函的稳健性质相结合，产生了用于估计位置参数的稳健配方。通过拟定程序的击穿点对耐用性进行量化。位置估计的渐近分布也来自。
2010-09-17 math.ST stat.TH
Generalized Method of Moments Estimator Based On Semiparametric Quantile Regression Imputation
在这篇文章中，我们考虑一种插补方法来处理基于半参数分位数回归估计的缺失响应值。在所提出的方法中，缺失的响应值生成使用估计的条件分位数回归函数在给定的协变量值。我们采用广义矩量法估计的参数定义通过一个一般的估计方程。我们证明了所提出的估计，它结合了半参数分位数回归插补和广义矩方法，具有竞争优势，对一些最广泛使用的参数和非参数插补估计。证明了估计量的相合性和渐近正态性，并给出了方差估计。有限的模拟研究和实证研究的结果，显示所提出的方法的充分性。
2014-04-11 math.ST stat.TH
Efficiently estimating the error distribution in nonparametric regression with responses missing at random
本文考虑了具有多元协变量和响应随机随机缺失的非参数回归模型。我们估计的回归函数与局部多项式平滑。残差为基础的经验分布函数，只使用完整的情况下，即残差，实际上可以从数据中构建，被证明是有效的意义上的Hájek和Le Cam。在证明中，我们得出，更一般地说，有效的影响函数估计任意线性泛函的误差分布，这涵盖了分布函数作为一种特殊情况。我们还表明，完整的情况下基于残差的经验分布函数承认一个功能中心极限定理。最后，本文进行了一个小型模拟研究，调查了完整案例基于残差的经验分布函数的性能。
2016-10-26 stat.ME
Probabilistic wind power forecasting resilient to missing values: an adaptive quantile regression approach
提出一种无需预处理或重训练的自适应分位数回归方法，通过特征提取和非交叉分位数神经网络模块适应数据缺失模式，在概率性风电预测中实现了最先进的连续排名概率分数。
2024-04-24 cs.SY eess.SY stat.AP
Semiparametric logistic regression for inference on relative vaccine efficacy in case-only studies with informative missingness
本文提出半参数逻辑回归方法，在仅病例研究中处理病毒株类型信息性缺失，利用目标最大似然估计和机器学习推断亚组特异性相对疫苗效力，并应用于ENSEMBLE COVID-19试验。
2025-03-11 stat.ME
Logistic Regression with Missing Covariates -- Parameter Estimation, Model Selection and Prediction within a Joint-Modeling Framework
逻辑斯谛回归是监督学习中常用的分类方法。令人惊讶的是，很少有解决方案用于在协变量中缺失值的情况下执行逻辑斯谛回归。我们提出了一个完整的方法的基础上随机逼近版本的EM算法做统计推断缺失值，包括估计的参数和方差，置信区间的推导和模型选择程序。我们还解决了缺少协变量数据的新观测（在测试集上）的预测问题。该方法是计算效率高，其良好的覆盖率和变量选择性能的模拟研究中，我们对比其性能与其他方法证明。例如，通过链式方程进行多重插补的流行方法可能导致估计值显示出比所提出的方法更大的有意义的偏差。然后，我们说明了从巴黎医院严重创伤患者的数据集上的方法来预测出血性休克的发生，早期可预防的死亡在严重创伤病例的主要原因。其目的是巩固目前的红旗程序，一个二元警报识别患者的严重出血的高风险。该方法在R包misaem中实现。
2019-08-07 stat.ME
Rate Optimal Estimation and Confidence Intervals for High-dimensional Regression with Missing Covariates
Carnegie Mellon University（卡内基梅隆大学）；University of Chicago（芝加哥大学）
虽然大多数高维统计学的理论文献都集中在涉及完全观测数据的设置上，但在实践中，缺失值和腐败的设置是常见的。考虑了稀疏高维线性回归模型中设计矩阵的协变量完全随机缺失完全随机缺失时的估计和构造置信区间的问题。我们分析了Dantzig选择器[9]的一个变体来估计回归模型，并使用去偏参数来构建分量置信区间。我们的第一个主要结果是建立上界的估计误差作为模型参数的函数（稀疏水平s，预期的分数观测协变量$ρ_*$，和测量的信号强度$\|β^*\|_2$）。我们发现，即使在一个理想化的设置，协变量被假定为完全随机缺失，有点令人惊讶的是，在完全观察到的设置相反，有一个二分法的依赖模型参数和更快的速度，如果随机设计的协方差阵是已知的。为了进一步研究这个问题，我们的第二个主要贡献是提供下限的估计误差表明，这种差异率是不可避免的极大极小意义上。然后，我们考虑的问题，高维推理存在缺失数据。我们构造和分析置信区间使用去偏估计。在存在缺失数据的情况下，由于去偏矩阵与导频估计器相关的事实，推断变得复杂，并且这需要设计新的估计器和新的分析。我们还补充了我们的数学研究与广泛的模拟合成和半合成的数据，显示我们的渐近预测有限的样本量的准确性。
2017-11-03 cs.LG stat.ME stat.ML
The More Data, the Better? Demystifying Deletion-Based Methods in Linear Regression with Missing Data
该研究对比了处理线性回归缺失数据的完整案例分析与可用案例分析两种删除方法，证明二者均渐近无偏，发现用更多数据的方法未必渐近效率更高，并通过模拟验证结论、澄清文献误读。
2020-10-26 stat.AP stat.ME
Linear Shrinkage Convexification of Penalized Linear Regression With Missing Data
针对含缺失数据的惩罚线性回归中协方差矩阵非正定、损失函数非凸的问题，提出线性收缩正定（LPD）修正方法，通过修改协方差矩阵实现凸化，理论证明其收敛性并在GDSC数据集验证了有效性。
2025-04-18 stat.ME
Imputation for High-Dimensional Linear Regression
我们研究了协变量中含有缺失项的高维回归。实践中的一个常见策略是用适当的替代品对缺失的条目进行\emph{impute}，然后执行标准统计程序，就好像协变量被完全观察到一样。最近关于这个问题的文献提出，而不是设计一个特定的，往往是复杂的或非凸的，算法的情况下，失踪的协变量。我们研究了一种更简单的方法，在这种方法中，我们用给定观测协变量的条件均值填充缺失项。我们表明，这种插补方案加上标准的现成程序，如LASSO和平方根LASSO保留了随机设计设置中的最小最大估计率，其中协变量是i.i.d.。亚高斯我们进一步表明，平方根LASSO保持\emph{pivotal}在此设置。通常情况下，条件期望不能精确计算，必须从数据中近似计算。我们研究了两种情况下，协变量要么遵循自回归（AR）过程，或联合高斯稀疏精度矩阵。我们提出了易于处理的估计的条件期望，然后通过LASSO进行线性回归，并显示在两种情况下相似的估计率。我们补充我们的理论结果与模拟合成和半合成的例子，不仅说明了我们的界限的清晰度，而且这种策略超出了我们的理论假设的更广泛的实用性。
2020-01-24 math.ST stat.ME stat.ML
Testing for linearity in scalar-on-function regression with responses missing at random
本文提出了带标量响应的函数线性模型在响应随机缺失时的拟合优度检验，基于标记经验过程和野自助法，比较三种函数斜率估计方法，发现插补法功效最高，并应用于西班牙气象数据检验。
2024-03-22 stat.ME
Identifiability in Unlinked Linear Regression: Some Results and Open Problems
本文研究无链接线性回归中回归参数的可识别性问题，回顾了协变量分量独立同分布时的已有结果，并在不同分布情形下给出了新的可识别性条件，同时建立了与独立成分分析的联系。
2025-07-20 math.ST stat.TH
On the Relation between Prediction and Imputation Accuracy under Missing Covariates
Technical University of Dortmund（多特蒙德工业大学）
在回归或分类问题中缺少协变量可能会禁止直接使用高级工具进行进一步分析。最近的研究已经意识到使用现代机器学习算法进行插补的趋势越来越大。这源于它们在不同的学习问题中表现出良好的预测精度的能力。在这项工作中，我们通过模拟分析之间的相互作用的插补精度和预测精度的回归学习问题与缺失的协变量时，机器学习为基础的方法，插补和预测使用。此外，我们还探讨了在预测环境中使用统计推断程序时的插补性能，例如（有效）预测区间的覆盖率。我们的分析是基于UCI机器学习库提供的经验数据集和广泛的模拟研究。
2021-12-09 cs.LG stat.AP stat.ME
Cellwise and Casewise Robust Multivariate Regression with Inference
KU Leuven（荷语鲁汶大学）
本文提出cellMR估计器，同时处理案例和单元异常值、缺失数据和高维性，引入cellBoot推断方法，提供稳健的置信区间。
2026-10-20 math.ST stat.ME stat.TH
Functional conditional volatility modeling with missing data: inference and application to energy commodities
针对异方差标量对函数回归模型的波动率非参数估计问题，提出仅用观测数据的简化估计量并分析其渐近性质，再用其插补缺失数据以提升估计效果，经模拟验证后应用于天然气日波动率建模。
2024-12-16 stat.ME
Semiparametric model averaging for high-dimensional quantile regression with nonignorable nonresponse
针对不可忽略缺失下的高维分位数回归，提出半参数模型平均方法，通过缺失机制估计与候选模型加权实现渐近最优。
2025-08-30 stat.ME
Nonparametric classification with missing data
本文针对缺失数据下的非参数分类问题，提出基于 anova 型正交分解的框架并推导出不依赖环境维数的 minimax 速率，同时设计 HAM 分类器，在至多多对数因子内达到该速率并通过数值实验验证其有效性。
2024-05-02 math.ST stat.ME stat.TH
Quantile regression for longitudinal data: unobserved heterogeneity and informative missingness
线性分位数回归模型旨在提供（条件）响应分布作为一组观察到的协变量的函数的详细且稳健的图像。纵向数据代表了这类模型的一个有趣的应用领域;由于其特有的特征，它们代表了一个实质性的挑战，因为需要扩展标准的横截面模型表示来处理这类数据。事实上，来自同一个统计单位的重复观察会带来依赖性问题;从条件的角度来看，这种依赖性可以归因于未观察到的个体特异性异质性来源。沿着这些路线，分位数回归模型最近已扩展到纵向，连续，响应的分析，通过时间常数或随时间变化的随机效应的依赖性建模。在这篇手稿中，我们介绍了一个一般的分位数回归模型的纵向，连续的，响应时变和时间常数的随机参数共同考虑。纵向设计的另一个特征是存在部分不完整的序列，这是由于一些个体在设计结束前离开研究。缺失数据处理可以产生可以关于纵向数据模型的参数提供信息的单元的选择。为了处理不可挽回的辍学的情况下，我们引入了一个模式混合版本的线性分位数隐马尔可夫模型，在那里我们占随时间变化的异质性和固定效应向量的变化，由于差分倾向留在研究。所提出的模型说明使用一个众所周知的基准数据集的纵向动态的CD 4细胞，并通过一个大规模的模拟研究，需要不同的分位数和完整的和部分完整的（即受辍学）的个人序列。
2015-07-29 stat.ME
Power analysis for a linear regression model when regressors are matrix sampled
多重矩阵抽样是一种调查方法技术，它随机选择一个相对较小的项目子集向调查受访者提供，以减轻受访者的负担。产生的数据是完全随机缺失的（MCAR），在线性回归和其他多元统计分析中应使用特殊的缺失数据技术。我们推导出回归参数估计值的渐近方差，使我们能够对通过多矩阵抽样设计获得的数据拟合的线性回归模型进行功效分析。这些想法是通过大五心理特质清单的一个变体来证明的。回归参数空间的探索表明，不稳定的样本量的要求，和大量的损失与矩阵采样回归的精度。非正态数据的模拟表明了半参数多重插补方案的优点。
2017-09-30 stat.ME stat.OT
Latent drop-out transitions in quantile regression
纵向数据的特征在于来自同一个体的观测值之间的相关性。从回归的角度来看，这种依赖性可以有效地归因于每个个体特有的未观察到的特征（协变量）。在此基础上，在广义线性模型的背景下，建立了具有时常数和时变结构的随机参数模型。在分位数回归框架中，基于随机参数的规范只是最近才被人们所关注。我们从Farcomeni（2012）关于纵向分位数隐马尔可夫模型的最新提议开始，并将其扩展到处理潜在的信息缺失数据机制。特别是，我们专注于单调缺失，这可能会导致选择偏差，因此，不可靠的推断模型参数。我们详细介绍了所提出的方法，通过重新分析一个众所周知的数据集的动态CD4细胞计数在HIV血清转换器，并通过模拟研究。
2015-09-04 stat.ME
An efficient and doubly robust empirical likelihood approach for estimating equations with missing data
本文考虑了当数据随机缺失时，由一般估计方程定义的参数的经验似然推断。现有的估计的效率关键取决于正确指定的条件期望的估计函数给定的随机观测值的观测分量。当条件期望没有被正确指定时，即使（缺失的）倾向函数被正确指定，估计的效率也会严重受损。我们提出了一个有效的估计，它具有双重鲁棒性，并且可以在估计方程的估计函数所生成的估计函数类内达到半参数有效界，如果正确指定倾向模型和回归模型（条件期望）。此外，如果正确地指定了倾向模型，但错误地指定了回归模型，所提出的估计仍然实现了半参数效率下界内更一般的估计函数类。仿真结果表明，所提出的估计是强大的对误设定的倾向模型或回归模型，并优于许多现有的竞争对手的意义上有较小的均方误差。此外，使用我们的方法进行统计推断，既不需要重采样，也不需要核平滑。一个真实数据的例子来说明所提出的方法。
2016-12-03 stat.ME
Conformal Prediction with Missing Values
Electricité De France R&D（法国电力公司研发部）；INRIA（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；École polytechnique（巴黎综合理工学院）；Institut Polytechnique de Paris（巴黎理工学院）；Technion - Israel Institute of Technology（以色列理工学院）
针对协变量缺失导致保形预测条件覆盖失效的问题，提出缺失数据增强的广义保形分位数回归框架，实现按缺失模式和逐点有效覆盖，并通过理论、线性模型及合成与重症监护数据验证。
2023-06-05 cs.LG stat.ML
Multistage Estimators for Missing Covariates and Incomplete Outcomes
我们研究多个缺失的协变量和部分观察到的反应的问题。我们开发了一个新的框架来处理复杂的缺失协变量的情况下，通过逆概率加权，回归调整，和一个乘法稳健的程序。我们将我们的框架应用于三个经典问题：来自生存分析的Cox模型、缺失响应和来自因果推断的二元处理。我们还讨论了如何处理这些情况下缺失的协变量，并开发相关的识别理论和渐近理论。我们将我们的程序应用于模拟和阿尔茨海默病数据集，并获得有意义的结果。
2021-11-03 stat.ME
Substantive-Model-Compatible Multiple Imputation for Cox Regression with a Diverging Number of Covariates
Department of Biostatistics, University of Michigan, Ann Arbor（密歇根大学生物统计系）
本文提出了一种半参数多重插补框架，用于处理具有发散维度的Cox回归中缺失协变量的问题，通过Cox模型似然贡献驱动的高维SMC-FCS过程进行插补，并结合拒绝采样和岭正则化后验抽样以保持模型兼容性，最终通过Rubin规则结合去偏估计器和插补内部方差估计进行推断。
2026-05-20 stat.ME
A Versatile Estimation Procedure without Estimating the Nonignorable Missingness Mechanism
我们认为，在回归设置的结果变量是受不可忽略的缺失和可识别性的估计问题是由阴影变量的方法来确保。我们提出了一个通用的估计过程中建模的缺失机制是完全绕过。我们表明，我们的估计是很容易实现的，我们推导出的估计的渐近理论。我们还研究了一些替代估计在不同的情况下。进行了全面的仿真研究，以证明有限样本的方法的性能。我们应用估计儿童的心理健康研究，以说明其有用性。
2019-07-08 stat.ME
Statistical Inference after Kernel Ridge Regression Imputation under item nonresponse
插补是处理缺失数据的常用技术。我们考虑一个非参数方法填补使用核岭回归技术，并提出一致的方差估计。建议的方差估计是基于一个线性化的方法，采用熵的方法来估计密度比。当在核岭回归插补中利用Sobolev空间时，建立了插补估计的根-n相合性，从而使我们能够发展所提出的方差估计。合成数据实验证实了我们的理论。
2021-01-29 stat.ME stat.ML
Multivariate Density Estimation with Missing Data
多元密度估计是统计学中的一种流行技术，具有广泛的应用，包括允许条件方差异方差的回归模型。当多变量向量中的一个或多个变量的观测值缺失时，估计问题变得更具挑战性。提出了一种灵活的混合类的核密度的张量积，它可以很容易地实现使用吉布斯抽样的插补方法，并显示出具有优越的性能相比，目前在文献中的一些crackiting插补方法。使用几个模拟的数据方案和应用程序，以夫妇的案例研究提供了数值说明。
2018-08-14 stat.ME
CEDAR: Communication Efficient Distributed Analysis for Regressions
电子健康记录（EHR）为推进精准医疗提供了巨大的希望，同时也带来了重大的分析挑战。特别是，由于政府法规和/或机构政策，EHR中的患者级数据通常无法在机构（数据源）之间共享。因此，人们对在不共享患者级数据的情况下在多个EHR数据库上进行分布式学习的兴趣越来越大。为了应对这些挑战，我们提出了一种新的通信有效的方法，聚合的局部最优估计，把问题变成一个缺失数据的问题。此外，我们建议将后验样本的远程站点，它可以提供部分信息的缺失量和提高效率的参数估计，同时具有差分隐私属性，从而降低信息泄露的风险。所提出的方法，不共享原始患者水平的数据，允许适当的统计推断，并可以容纳稀疏回归。我们提供了理论研究所提出的方法的渐近性质的统计推断以及差分隐私，并评估其性能的模拟和实际数据分析比较，最近开发的方法。
2022-07-01 stat.ME stat.ML
Prediction with Missing Data via Bayesian Additive Regression Trees
The Wharton School of the University of Pennsylvania（宾夕法尼亚大学沃顿商学院）
我们提出了一种方法，将缺失数据在非参数统计学习，而不需要填补。我们专注于一个基于树的方法，贝叶斯加法回归树（BART），增强了“Missingness Incorporated in Attributes”，最近提出的一种方法将missingness纳入决策树（Twala，2008）。这个过程利用了基于树的模型中的分区机制。仿真生成的模型和实际数据表明，我们提出的方法可以很好地预测复杂的失踪在随机和非失踪在随机模型，以及失踪本身影响响应的模型。我们的程序具有更高的预测性能，在许多情况下比竞争对手更稳定。我们还说明了巴士的能力，将缺失到不确定性区间，并检测缺失的模型拟合的影响。
2014-02-12 cs.LG stat.ML
What to Expect of Classifiers? Reasoning about Logistic Regression with Missing Features
University of California, Los Angeles（加州大学洛杉矶分校）
虽然判别分类器通常会产生很强的预测性能，但在预测时丢失特征值仍然是一个挑战。分类器可能不会表现出预期的某些方式下，取代缺失的值，因为他们固有的假设数据分布，他们是trainedon.In本文中，我们提出了一种新的框架，分类的例子与丢失的功能，通过计算预期的预测相对于一个功能分布。此外，我们使用几何编程来学习朴素贝叶斯分布，该分布嵌入给定的逻辑回归分类器，并可以有效地进行预期预测。实证评估表明，我们的模型在观察到所有特征的情况下实现了与逻辑回归相同的性能，并且在预测时间内特征丢失时优于标准插补技术。此外，我们证明了我们的方法可以用来生成逻辑回归分类的“充分解释”，通过删除不影响分类的功能。
2019-06-01 cs.AI cs.LG stat.ML
High-dimensional logistic regression with missing data: Imputation, regularization, and universality
University of Cambridge（剑桥大学）；Georgia Institute of Technology（佐治亚理工学院）；Stanford University（斯坦福大学）
本文研究含缺失或噪声协变量的高维ridge逻辑回归，精确刻画预测与估计误差并证明普适性，比较多种插补策略与Bayes最优性能。
2024-10-01 cs.LG math.ST stat.ML
Generalized Kernel Ridge Regression for Causal Inference with Missing-at-Random Sample Selection
MIT（麻省理工学院）
我提出了核岭回归估计的非参数剂量反应曲线和半参数处理效应的设置中，分析师有机会获得一个选定的样本，而不是一个随机样本，只有选择观察，观察的结果。我假设选择与随机一样好，条件是治疗和一组足够丰富的观察到的协变量，其中允许协变量引起治疗或由治疗引起-随机缺失（MAR）的扩展。我提出了估计的手段，增量和分布的反事实的结果与封闭形式的解决方案，在核矩阵运算，允许治疗和协变量是离散的或连续的，低，高，或无限维。对于连续治疗的情况下，我证明了一致的一致性与有限的采样率。对于离散处理的情况下，我证明根-n的一致性，高斯近似，和半参数效率。
2021-11-09 cs.LG econ.EM math.ST
Amortized Variational Inference for Logistic Regression with Missing Covariates
Lab. Traitement du signal, Ecole Militaire Polytechnique, BP 17 Bordj El Bahri, Algeria（信号处理实验室，军事理工大学，BP 17 Bordj El Bahri，阿尔及利亚）；Lab. d'Informatique de Grenoble, CNRS, France（格勒诺布尔信息实验室，法国国家科学研究中心，法国）；University of Paris Saclay, CNRS, CentraleSupelec, Laboratoire des signaux et systèmes, 91190, Gif-sur-Yvette, France（巴黎萨克雷大学，法国国家科学研究中心，中央超导电子学学院，信号与系统实验室，91190，法国）
本文提出AV-LR框架，通过结合概率生成模型和简化变分网络，实现对缺失协变量的逻辑回归，具有更高的效率和准确性。
2026-03-22 cs.LG eess.SP
Propensity score estimation using classification and regression trees in the presence of missing covariate data
Leiden University Medical Center（莱顿大学医学中心）
数据挖掘和机器学习技术，如分类和回归树（CART）代表了一个有前途的替代传统的逻辑斯谛回归的倾向得分估计。尽管不完整的数据排除了对所有受试者进行逻辑斯谛回归的拟合，但CART之所以吸引人，部分原因是某些实现允许将不完整的记录并入树拟合中，并为所有受试者提供倾向得分估计。基于理论上的考虑，我们认为，自动处理缺失数据的CART可能是不合适的。使用一系列模拟实验，我们检查了不同方法处理缺失协变量数据的性能;（i）将CART算法直接应用于（部分）不完整的数据，（ii）完整的案例分析，（iii）多重插补。评估了评估确认-结局效应\add{among the exposed}的偏倚、标准误、均方误差和覆盖率。将CART算法直接应用于不完整的数据会导致偏倚，即使在数据完全随机完全随机缺失的情况下也是如此。总体而言，多重插补后加CART的结果最佳。我们的研究表明，在CART中自动处理缺失数据可能会导致严重偏倚，并且作为解释缺失数据的一种手段，其性能并不优于多重插补。
2018-07-25 cs.LG stat.ML
Handling Missing Data in Probabilistic Regression Trees
Universidade Federal do Rio Grande do Sul（南里奥格兰德联邦大学）
本文扩展PRTree框架，提出三种处理缺失数据的策略，经多数据集验证，所提方法在缺失比例高时优于CART，且保留树模型的可解释性与灵活性。
2026-08-07 cs.LG stat.ML
Adaptive Optimization for Prediction with Missing Data
London Business School（伦敦商学院）
本文提出适应性线性回归模型，通过适应观测特征来提升缺失数据预测性能，实现联合插补与回归，提升非随机缺失数据下的预测精度。
2025-02-24 cs.LG stat.ML
Assumption-lean logistic regression with missing covariates
Georgia Institute of Technology（佐治亚理工学院）；University of Southern California（南加州大学）；University of Cambridge（剑桥大学）
针对协变量缺失的逻辑回归，提出基于新颖单调算子的随机逼近方法，在协变量分布未知的假设精简设置下实现参数速率信号恢复，并优于完整案例估计器。
2026-10-07 cs.IT cs.LG math.IT
A Tree Architecture of LSTM Networks for Sequential Regression with Missing Data
ASELSAN Research Center（ASELSAN研究中心）；Bilkent University（比尔肯特大学）；DataBoss A.S.（DataBoss公司）
我们研究了包含缺失样本的变长序列数据的回归，并引入了一种新的基于长短期记忆（LSTM）网络的树结构。在我们的架构中，我们采用了可变数量的LSTM网络，这些网络只使用序列中现有的输入，在树状架构中没有任何统计假设或对缺失数据的估算，这与之前的所有方法不同。特别是，我们通过基于一定数量的先前输入的“存在模式”选择这些LSTM网络的子集来合并缺失信息。从混合专家模型角度来看，我们训练不同的LSTM网络作为我们的专家，用于各种缺失模式，然后结合它们的输出来生成最终的预测。我们还提供了所提出的架构的计算复杂性分析，其与传统LSTM架构的序列长度的复杂性处于相同的数量级。我们的方法可以很容易地扩展到类似的结构，如GRU，RNN，如在论文中所述。在实验中，我们实现了显着的性能改善相对于国家的最先进的方法为知名的金融和现实生活中的数据集。
2020-05-22 cs.LG stat.ML
Bayesian Symbolic Regression for Missing Physics
Biosystems Department, KULeuven, Leuven, Belgium（比利时列日大学生物系统部门）
本文提出了一种基于贝叶斯的符号回归方法，用于从实验数据中学习缺失的物理规律，通过Reversible Jump Markov Chain Monte Carlo方法量化模型结构的不确定性。
2026-05-18 cs.LG stat.ML
Experimental Design for Missing Physics
Biosystems Department, KULeuven, Leuven, Belgium（布鲁塞尔鲁文大学生物系统系，比利时卢汶）；Faculty of Physics, University of Bucharest, Bucharest, Romania（布加勒斯特大学物理系，罗马尼亚布加勒斯特）
本文提出基于符号回归的序列实验设计方法，用于从数据中学习生物反应器中缺失的物理模型。
2026-03-21 cs.LG physics.comp-ph stat.ML
Calibration of prediction rules for life-time outcomes using prognostic Cox regression survival models and multiple imputations to account for missing predictor data with cross-validatory assessment
Leiden University Medical Center（莱顿大学医学中心）
在本文中，我们扩大了方法，在Mertens等。al（2020，Biometrical Journal）的研究，该研究受删失的影响，并且当插补用于解释缺失值时。我们考虑的问题，缺失值可能会发生在校准数据以及新的预测观测（验证）。我们关注的是考克斯模型。描述了在删失的生存建模中将插补与预测校准相结合的方法。交叉验证的应用进行了讨论。我们展示了结论如何广泛地证实了第一篇仅限于二元结果研究的论文。具体来说，预测平均似乎具有优越的统计特性，特别是较小的预测变化，而不是直接应用鲁宾的规则。当使用鲁宾的基于规则的方法时，讨论了处理基线危险的不同方法。
2021-05-04 cs.LG stat.AP stat.ME
HMLasso: Lasso with High Missing Rate
Toshiba Corporation（东芝公司）；The Institute of Statistical Mathematics（统计数学研究所）
稀疏回归（如Lasso）在处理高维数据方面取得了巨大的成功。然而，最大的实际问题之一是高维数据通常包含大量的缺失值。凸条件Lasso（CoCoLasso）算法被提出用于处理高维缺失数据，但在缺失数据较多时性能较差，缺失率高的问题尚未得到解决。本文提出了一种新的Lasso型回归方法。我们有效地将平均插补协方差，克服其固有的估计偏差。结果是根据缺失率对CoCoLasso进行最佳加权修改。我们从理论上和实验表明，我们提出的方法是非常有效的，即使有很多缺失值。
2019-06-19 cs.LG stat.ML
What's a good imputation to predict with missing values?
Université Paris-Saclay（巴黎萨克雷大学）；CNRS（法国国家科学研究中心）；IJCLab（直线加速器实验室）；Inria（法国国家信息与自动化研究所）；CEA（法国原子能和替代能源委员会）；Ecole Polytechnique（巴黎综合理工学院）；IP Paris（巴黎理工学院）
如何在有缺失值的数据上学习一个好的预测器？大多数努力集中在第一次插补，以及可能和第二次学习的完整的数据，以预测结果。然而，这种普遍的做法没有理论基础。在这里，我们表明，对于几乎所有的插补函数，一个强大的学习器的插补然后回归过程是贝叶斯最优的。这一结果适用于所有缺失值机制，与传统的统计结果相反，传统的统计结果需要随机缺失设置才能在概率建模中使用插补。此外，它意味着完美的条件填补是不需要良好的预测渐近。事实上，我们证明了在完全插补数据上，最好的回归函数通常是不连续的，这使得它很难学习。相反，精心设计插补以保持回归函数不变，只是将问题转移到学习不连续插补上。相反，我们建议，它是更容易学习插补和回归联合。我们提出了这样一个程序，适应NeuMiss，一个神经网络捕获的条件链接观察到的和未观察到的变量无论丢失值的模式。实验证明，联合填补和回归通过NeuMiss是优于各种两步程序在我们的实验中，有限数量的样本。
2021-11-30 cs.AI cs.LG stat.ML
FCMI: Feature Correlation based Missing Data Imputation
Galgotias University（加尔各答大学）
经过处理的数据是有洞察力的，而原始的数据是迟钝的。对数据可靠性的一个严重威胁是缺失值。这些数据会导致不准确的分析和错误的预测。我们提出了一种有效的技术来填补数据集的缺失值的基础上相关称为FCMI（基于特征相关缺失数据填补）。我们已经考虑了数据集属性的相关性，这是我们的中心思想。我们提出的算法挑选数据集的高度相关的属性，并使用这些属性来建立一个回归模型，其参数进行了优化，以保持数据集的相关性。在分类和回归数据集上进行的实验表明，所提出的插补技术优于现有的插补算法。
2021-06-26 cs.AI cs.LG
Conformal Calibration for Multi-Modal Regression with Missing Modalities
University of Lausanne（洛桑大学）；HEC Lausanne（洛桑高等商学院）；BegooAI（贝古人工智能公司）
针对多模态回归中模态缺失或分歧导致预测区间难校准的问题，提出感知模态的共形校准层，在多组实验中提升了区间性能，尤其在模态缺失时恢复了覆盖率。
2026-08-11 cs.LG stat.ME stat.ML
Semi-supervised learning for structured regression on partially observed attributed graphs
Temple University（天普大学）；University of Belgrade, Faculty of Organizational Sciences（贝尔格莱德大学组织科学学院）
条件概率图模型为具有复杂相关模式的时空数据集的结构化回归提供了一个强大的框架。然而，在现实生活中的应用中，很大一部分的观察往往是失踪，这可能会严重限制这些模型的代表性的权力。本文提出了一种边缘化高斯条件随机场（m-GCRF）结构回归模型，用于处理部分观测时间属性图中的缺失标签。该方法旨在使用标记和未标记的部分进行学习，并有效地预测图中的未来值。该方法甚至能够从历史上从未观察到响应变量的节点学习，这给许多可以处理缺失数据的最先进模型带来了问题。所提出的模型的特点是各种缺失机制的500合成图。新方法的好处也证明了一个具有挑战性的应用程序，预测降水的基础上，在一个时间图，跨越整个美国大陆的气候变量的部分观测。我们还表明，该方法可以通过积极减少气象站的数量来优化气候应用中的数据汇集的成本。在这些真实世界和合成数据集上的实验中，我们表明，所提出的模型始终比替代的半监督结构化模型更准确，以及使用插补来处理缺失值或完全忽略它们的模型。
2018-03-28 cs.LG stat.ML
Missing Features Reconstruction and Its Impact on Classification Accuracy
Faculty of Information Technology（信息技术学院）；Czech Technical University in Prague（捷克布拉格技术大学）
在现实世界的应用中，我们可能会遇到这样的情况，即必须使用经过良好训练的模型来从损坏的数据集进行预测。丢失或损坏的值所造成的损害可能是在单个实例的级别上，也可能是在整个功能的级别上。这两种情况都对模型在此类数据集上的可用性产生负面影响。本文重点研究了整个特征缺失的场景，可以将其理解为迁移学习的一个特定情况。我们的目的是通过实验研究不同的填补方法对几种分类模型性能的影响。与多层感知器（MLP）和梯度提升树（XGBT）等现代插补方法相比，传统方法（如k-NN，线性回归和MICE）的插补影响进行了研究。对于线性回归，MLP和XGBT，我们还提出了两种使用它们进行多特征插补的方法。实验在真实世界和人工数据集上进行，这些数据集具有连续特征，其中不同数量的特征（从一个特征到50%）缺失。结果表明，无论在何种条件下，MICE和线性回归通常都是良好的插补器。另一方面，MLP和XGBT的性能强烈依赖于数据集。在某些情况下，它们的性能是最好的，但更多的时候，它们的性能比MICE或线性回归差。
2019-11-09 cs.LG stat.ML
