Multi-task longitudinal forecasting with missing values on Alzheimer's Disease
Universidad Carlos III de Madrid（马德里卡洛斯三世大学）；University of Eastern Finland（东芬兰大学）
通常应用于痴呆预测的机器学习技术缺乏联合学习多个任务、处理时间依赖的异构数据和缺失值的能力。在本文中，我们提出了一个框架，使用最近提出的SHIBA模型，共同学习不同的任务上的纵向数据缺失值。该方法使用贝叶斯变分推断来填补缺失值，并结合多个视图的信息。通过这种方式，我们可以将来自不同时间点的不同数据视图组合在一个公共的潜在空间中，并学习每个时间点之间的关系，同时对多个输出变量进行建模和预测。我们应用这个模型来预测痴呆症的诊断，脑室容积和临床评分。结果表明，SSHIBA能够学习一个很好的填补缺失值和优于基线，同时预测三个不同的任务。
2022-01-13 cs.LG stat.ML
ClassiNet -- Predicting Missing Features for Short-Text Classification
短文本分类的基本问题是\emph{feature sparseness} --训练模型和待分类的测试实例之间缺少特征重叠。我们提出了\emph{ClassiNet} -一个网络的分类训练预测丢失的功能在一个给定的实例，以克服特征稀疏性问题。使用一组未标记的训练实例，我们首先学习二进制分类器作为特征预测器，用于预测特定特征是否出现在给定实例中。接下来，每个特征预测器被表示为ClassiNet中的顶点$v_i$，其中特征预测器和顶点之间存在一一对应关系。连接顶点$v_i$和顶点$v_j$的有向边$e_{ij}$的权重表示给定的$v_i$存在于实例中，$v_j$也存在于同一实例中的条件概率。我们表明，分类网络通过考虑特征之间的隐式同现来概括词同现图。我们从训练好的ClassiNet中提取了大量特征，以克服特征稀疏性。特别是，对于给定的实例$\vec{x}$，我们从ClassiNet中找到了在$\vec{x}$中没有出现的相似特征，并将这些特征附加到$\vec{x}$的表示中。此外，我们提出了一种基于图传播的方法来找到与给定的短文本间接相关的特征。我们在几个短文本分类的基准数据集上评估ClassiNet。我们的实验结果表明，通过使用ClassiNet，我们可以在统计上显着提高短文本分类任务的准确性，而无需使用任何外部资源，如词库来查找相关特征。
2018-04-14 cs.AI cs.CL cs.CV
MMAP: Multimodal Missing-Aware Pretraining for Longitudinal Alzheimer's Prediction
Imperial College London（伦敦帝国理工学院）；FAU Erlangen-Nürnberg（埃尔朗根-纽伦堡大学）；Rosalind Franklin Institute（罗莎琳德·富兰克林研究所）
针对医学数据中模态缺失和不完整表格数据问题，提出MMAP多模态缺失感知预训练方法，通过sigmoid对比学习与生成式重建及缺失令牌生成器学习图像-表格表征，在阿尔茨海默病纵向预测任务上优于强基线。
2026-11-05 cs.CV cs.LG
Marformer: A Transformer for Predicting Missing Data Distributions
Johns Hopkins University（约翰斯·霍普金斯大学）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Yale University（耶鲁大学）
Marformer是一种Transformer模型，可直接预测缺失变量的条件边际分布，在合成与真实缺失数据场景中，其性能优于或相当于经典方法，且速度快于生成式基线。
2026-10-09 cs.LG stat.ME
Predicting feature imputability in the absence of ground truth
Ulster University（阿尔斯特大学）；National University of Ireland Galway（爱尔兰国立大学戈尔韦分校）；Altnagelvin Area Hospital（阿尔特纳格尔文地区医院）；Western Health and Social Care Trust（西部健康与社会保健信托）
数据插补是处理缺失值的最常用方法，但在大多数实际应用中，可能会出现大量缺失数据，并且很难或不可能评估数据是否已准确插补（缺乏真值）。本文针对这些问题，提出了一个有效的和简单的主成分为基础的方法，以确定是否可以准确地填补个别数据功能-功能可归责性。特别是，我们建立了一个强大的主成分负荷和功能归咎之间的线性关系，即使在极端缺失和缺乏真值的存在。这项工作将有重要的影响，在实际的数据估算策略。
2020-07-14 cs.LG stat.ME
Predicting Effects, Missing Distributions: Evaluating LLMs as Human Behavior Simulators in Operations Management
Department of Industrial Engineering and Decision Analytics, Hong Kong University of Science and Technology（香港科技大学工业工程与决策分析系）
本文评估LLMs在运营管理中模拟人类行为的能力，通过九个实验发现LLMs能复制假设效应，但分布不匹配问题显著，轻量策略可缓解此问题。
2026-06-27 cs.AI cs.LG
OPTIMUS: Predicting Multivariate Outcomes in Alzheimer's Disease Using Multi-modal Data amidst Missing Values
University Lausanne Hospital (CHUV)（洛桑大学医院）；University of Lausanne (UNIL)（洛桑大学）；Zhejiang University（浙江大学）；Zhejiang University School of Medicine（浙江大学医学院）
本文提出模块化可解释框架OPTIMUS，通过模态特异插补、多模态预测建模与XAI，在缺失数据下识别AD多变量认知结局的神经及转录组生物标志物。
2025-03-14 cs.LG q-bio.NC
Accommodating Missing Modalities in Time-Continuous Multimodal Emotion Recognition
Orange Innovation（奥兰治创新公司）；Univ. Grenoble Alpes（格勒诺布尔大学）；CNRS（法国国家科学研究中心）；Grenoble INP（格勒诺布尔理工学院）；LIG（信息与信号处理实验室）
提出基于Transformer的架构，结合交叉与自注意力机制，在时间连续情感识别中处理缺失模态，在Ulm-TSST数据集上唤醒度与效价预测分别提升37%和30%。
2023-11-16 cs.AI cs.LG stat.ML
Predicting What You Already Know Helps: Provable Self-Supervised Learning
Princeton University（普林斯顿大学）；University of Texas at Austin（德克萨斯大学奥斯汀分校）
自监督表示学习解决了辅助预测任务（称为借口任务），而不需要标记数据来学习有用的语义表示。这些借口任务仅使用输入特征来创建，例如预测丢失的图像块，从上下文恢复图像的颜色通道，或预测文本中丢失的单词;然而，预测此\textit{known}信息有助于学习对下游预测任务有效的表示。我们建立了一种机制，利用某些{ \em重建为基础}的借口任务，保证学习一个良好的表示之间的统计连接。形式上，我们量化了借口任务的组件之间的近似独立性（以标签和潜在变量为条件）如何使我们能够通过在学习的表示之上训练线性层来学习可以解决下游任务的表示。我们证明了线性层即使对于复杂的地面真值函数类也会产生很小的近似误差，并且会大大降低标记样本的复杂度。接下来，我们展示了我们的方法的一个简单的修改导致非线性CCA，类似于流行的SimSiam算法，并显示类似的保证非线性CCA。
2021-11-14 cs.LG stat.ML
Link Prediction via Generalized Coupled Tensor Factorisation
University of Copenhagen（哥本哈根大学）
本研究涉及缺失链接预测问题：预测感兴趣的实体之间存在缺失连接的问题。我们使用表示为异构数据的关系数据集的耦合分析来解决链接预测，即，矩阵和高阶张量形式的数据集。我们建议使用基于张量因子分解模型的概率解释的方法，即，广义耦合张量因子分解，它可以使用不同的损失函数同时将一大类张量模型拟合到具有共同潜在因子的高阶张量/矩阵。数值实验表明，通过耦合因子分解对多源数据进行联合分析可以提高链接预测的性能，而正确选择损失函数和张量模型是准确预测缺失链接的关键。
2012-08-30 cs.LG
Predicting Brain Degeneration with a Multimodal Siamese Neural Network
LaRochelle University（拉罗谢尔大学）；Bordeaux University（波尔多大学）；Poitiers University（普瓦捷大学）
为了研究神经退行性疾病，对志愿者患者进行了纵向研究。在几个月到几年的时间里，他们定期进行医疗访问，从不同的方式获取数据，如生物样本，认知测试，结构和功能成像。这些变量是异质的，但它们都取决于患者的健康状况，这意味着所有模态之间可能存在未知的关系。一些信息可能是特定于某些模式的，其他信息可能是补充性的，而其他信息可能是多余的。有些数据也可能丢失。在这项工作中，我们提出了一个多模态学习的神经网络架构，能够使用两个时间点的成像和临床数据来预测神经退行性疾病的演变，并对缺失值具有鲁棒性。我们的多模态网络在57个受试者的测试集上实现了92.5%的准确率和0.978的AUC得分。我们还显示了多模态架构的优越性，与仅使用临床模态的模型相比，测试集受试者的临床测量中缺失值高达37.5%。
2020-11-02 cs.CV cs.LG eess.IV
A shallow neural model for relation prediction
Paderborn University（帕德博恩大学）
知识图谱补全是指预测缺失的三元组。大多数方法通过预测实体来实现这个目标，给定实体和关系。我们通过关系预测来预测缺失的三元组。为此，我们将关系预测问题框架为多标签分类问题，并提出了一个浅层神经模型（SHALLOM），该模型可以准确地从实体中推断出缺失的关系。SHALLOM类似于C-BOW，因为这两种方法都预测了给定周围标记（（s，o））的中心标记（p）。我们的实验表明，SHALTOM在FB 15 K-237和WN 18 RR上的性能优于最先进的方法，其裕度分别高达$3\%$和$8\%$（绝对值），同时在这些数据集上需要8分钟的最大训练时间。我们通过在{ \url{https://github.com/dice-group/Shallom}}提供包括培训和评估脚本在内的开源实施来确保结果的可重复性。
2021-01-22 cs.CL cs.LG
CovidLLM: A Robust Large Language Model with Missing Value Adaptation and Multi-Objective Learning Strategy for Predicting Disease Severity and Clinical Outcomes in COVID-19 Patients
School of Mathematics and Statistics, Xiamen University of Technology（厦门理工学院数学与统计学院）；School of Computer and Information Engineering, Xiamen University of Technology（厦门理工学院计算机与信息工程学院）；Tongji Medical College, Huazhong University of Science and Technology（华中科技大学同济医学院）
本文提出 CovidLLM，利用提示处理血液检验缺失值，并通过先预测严重程度、再预测临床结局的多目标微调策略提升 ChatGLM 在 COVID-19 预后任务中的表现。
2024-11-28 cs.AI cs.CL cs.LG
AI-Augmented Surveys: Leveraging Large Language Models and Surveys for Opinion Prediction
Department of Sociology（社会学系）；University of Chicago（芝加哥大学）；New York University（纽约大学）；Chicago, IL（伊利诺伊州芝加哥市）；New York, NY（纽约州纽约市）
本文提出了一种基于大型语言模型的框架，通过结合问题、受访者和调查时期的嵌入表示，预测重复横断面调查中缺失的响应，从而弥补传统调查在捕捉历史变化方面的不足。
2026-05-19 cs.AI cs.CL cs.LG
Auto-Fill: Learning to Predict Missing Values Accurately with Specialist Language Models
研究表格数据缺失值预测问题，提出自动填充方法，通过后训练三个针对不同能力的专业小语言模型并结合校准集成机制，相比现有推理模型在保证高精度的同时大幅降低成本。
2026-07-23 cs.AI cs.CL cs.DB
Predicting Remaining Useful Life using Time Series Embeddings based on Recurrent Neural Networks
TCS Research（塔塔咨询服务研究部）
我们考虑的问题，估计剩余使用寿命（RUL）的系统或机器的传感器数据。许多基于传感器数据的RUL估计方法都假设机器如何降级。此外，来自机器的传感器数据是嘈杂的，并且在许多实际设置中经常遭受缺失值。我们建议Embed-RUL：一种用于从传感器数据估计RUL的新方法，其不依赖于任何退化趋势假设，对噪声是鲁棒的，并且处理缺失值。Embed-RUL利用基于循环神经网络（RNN）的序列到序列模型来生成多变量时间序列序列的嵌入。嵌入正常和退化的机器往往是不同的，因此被发现是有用的RUL估计。我们表明，嵌入捕获的时间序列中的整体模式，同时过滤掉噪声，使嵌入的两台机器具有相似的操作行为是彼此接近，即使他们的传感器读数有显着和不同程度的噪声内容。我们在公开的涡扇发动机数据集和专有的真实世界数据集上进行实验，并证明Embed-RUL在几个指标上优于先前报道的最先进的技术。
2017-10-06 cs.LG
Collectively Embedding Multi-Relational Data for Predicting User Preferences
University of Washington（华盛顿大学）
矩阵分解作为一种基于协同过滤的推荐方法已经取得了令人难以置信的成功和广泛的应用。不幸的是，纳入额外的证据来源，特别是那些不完整和嘈杂的，是很难在这样的模型中实现，然而，往往是至关重要的，以获得进一步的收益的准确性。例如，应该利用来自评论、类别和属性的关于业务的附加信息来预测用户偏好，即使这些信息通常是不准确的并且是部分观察到的。而不是创建定制的方法，是特定于每种类型的证据，在本文中，我们提出了一个通用的方法，因式分解的关系数据，集体建模数据库中的所有关系。通过学习一组在所有关系中共享的嵌入，模型能够合并来自所有关系的观察信息，同时还预测所有感兴趣的关系。我们对多个亚马逊和Yelp数据集的评估表明，我们有效地利用了额外的信息来进行偏好预测，但此外，我们甚至为我们没有观察到任何评级或评论的冷启动业务和产品提供了准确的模型。我们还说明了该模型的能力，在填补缺失的信息和联合可视化的话，类别和属性因素。
2015-04-23 cs.IR cs.LG
HgbNet: predicting hemoglobin level/anemia degree from EHR data
University College London（伦敦大学学院）；Imperial College Healthcare NHS Trust（帝国理工学院医疗保健NHS信托）
本文提出HgbNet模型，通过NanDense层处理缺失值并结合注意力机制建模局部与全局时间不规则性，首次利用EHR数据实现血红蛋白水平和贫血程度的非侵入性预测，并在多个数据集上优于基线方法。
2024-01-22 cs.LG
Preparing Weather Data for Real-Time Building Energy Simulation
Politecnico di Milano（米兰理工大学）；University of New South Wales（新南威尔士大学）
本研究介绍一个量测气象资料品质控制的架构，包括异常侦测及填补缺失值。天气数据是建筑性能模拟的基本输入，其中异常值使结果有缺陷，而缺失数据导致模拟过程的意外终止。传统上，天气数据中的填充缺失值通过周期性或线性插值来执行。然而，当缺失值超过许多连续小时时，传统方法的准确性受到争议。这项研究展示了与其他监督学习方法相比，神经网络如何提高数据插补的准确性。该框架是通过预测失踪的温度和相对湿度数据的观测站点，通过在意大利米兰附近的气象站网络进行验证。结果表明，该方法可以方便的实时建筑模拟准确，快速的质量控制。
2020-11-19 cs.LG eess.SP stat.ML
Domain Adaptation under Missingness Shift
Carnegie Mellon University（卡内基梅隆大学）
本文提出缺失偏移下的域适应（DAMS）问题，证明缺失指示符可得时其可归约为协变量偏移，针对完全随机漏报且无缺失指示符的场景推导了四项理论结果，提出线性模型的解析调整方法，并通过实验验证了方法有效性。
2023-05-03 cs.LG stat.ML
Hierarchy exploitation to detect missing annotations on hierarchical multi-label classification
Pontificia Universidad Javeriana（哈维里亚那天主教大学）；KU Leuven（鲁汶大学）；imec（比利时微电子研究中心）
在过去十年中，基因组数据的可用性呈指数级增长，这主要是由于新测序技术的发展。基于从越来越多的基因组数据中提取的基因（和基因产物）之间的相互作用，许多研究都集中在识别基因和功能之间的关联上。虽然这些研究已经显示出巨大的希望，但用功能注释基因的问题仍然是一个公开的挑战。在这项工作中，我们提出了一种方法来检测分层多标签分类数据集的缺失注释。我们提出了一种方法，利用类层次结构计算聚合概率的路径类从叶子到根为每个实例。所提出的方法是在预测缺失基因功能注释的背景下提出的，其中这些聚合概率进一步用于选择一组注释以通过体内实验进行验证。在水稻品种Oriza sativa Japonica上的实验表明，将类的层次结构纳入方法中通常会提高预测性能，与文献中的竞争对手方法相比，我们提出的方法会产生更好的结果。
2022-07-13 cs.LG
Machine Learning Based Missing Values Imputation in Categorical Datasets
The University of Agriculture at Peshawar（白沙瓦农业大学）；Jashore University of Science and Technology（杰索尔科技大学）；Chung-Ang University（中央大学）
本研究针对分类数据集缺失值填补问题，构建基于ECOC框架的集成机器学习模型，经多数据集验证其性能优于单一模型，同时指出深度学习插补的现存障碍与未来研究方向。
2024-09-12 cs.LG
Time series kernel similarities for predicting Paroxysmal Atrial Fibrillation from ECGs
Università della Svizzera italiana（瑞士意大利语大学）；UiT the Arctic University of Norway（挪威北极大学）；TU Wien（维也纳技术大学）；University of Exeter（埃克塞特大学）
我们解决了分类心电图（ECG）信号的问题，目的是预测阵发性心房颤动（PAF）的发作。房颤是最常见的心律失常类型，但在许多情况下，PAF发作是无症状的。因此，为了帮助诊断PAF，重要的是设计检测和更重要的是预测PAF发作的程序。我们提出了一种预测PAF事件的方法，其第一步包括一个特征提取过程，表示每个ECG作为一个多变量的时间序列。接下来，我们设计了一个基于核相似性的多变量时间序列分类框架，能够处理缺失数据。我们考虑不同的方法来执行分类的多变量时间序列的原始空间中，并在嵌入空间中，定义的内核相似性度量。我们实现了与最先进的方法相媲美的分类精度，具有提前15分钟检测PAF发作的额外优势。
2018-04-04 cs.LG eess.SP stat.ML
Simultaneous Measurement Imputation and Outcome Prediction for Achilles Tendon Rupture Rehabilitation
KTH Royal Institute of Technology（KTH皇家理工学院）；Royal Military Academy（皇家军事学院）；Karolinska University Hospital（卡罗林斯卡大学医院）；Microsoft Research（微软研究院）
跟腱断裂是一种典型的软组织损伤。这种肌肉骨骼损伤后的康复仍然是一个长期的过程，结果非常多变。准确预测康复结果对于治疗决策支持至关重要。然而，由于从ATR患者记录的数据中的大量缺失条目以及测量和结果之间的复杂非线性关系，训练用于从治疗数据预测ATR康复结果的自动方法是具有挑战性的。在这项工作中，我们设计了一个端到端的概率框架，同时估算缺失的数据条目和预测康复结果。我们在现实生活中的ATR临床队列中评估我们的模型，并与各种基线进行比较。所提出的方法表明其明显优于传统的方法，通常在两个单独的阶段进行插补和预测。
2019-08-13 cs.LG q-bio.QM stat.ML
Hierarchical correlation reconstruction with missing data, for example for biology-inspired neuron
Jagiellonian University（雅盖隆大学）
机器学习通常需要从多维数据样本中建模密度，包括坐标之间的相关性。此外，我们经常会遇到丢失数据的情况：数据点可能会丢失某些坐标的值。本文采用快速参数密度估计方法：将密度建模为正交函数的线性组合，其中$L^2$优化表示给定函数的（独立）估计系数仅为该函数值样本的平均值。分层相关性重构首先使用每个单独坐标在数据样本中的所有出现来对每个单独坐标的概率密度进行建模，然后使用具有两个坐标的所有样本来添加来自独立建模的成对相关性的校正，等等，使用数据样本中经常减少的证据来独立地添加用于越来越多的变量的相关性。这种建模的多维密度的一个基本应用可以是缺失坐标的填补：通过将已知坐标插入密度，并为缺失坐标取期望值，甚至是它们的整个联合概率分布。与级联相关法相比，该方法在灵活性和准确性方面具有优势。它也可以用作人工神经元：最大化仅针对局部行为的预测能力-建模和预测局部连接。
2018-05-27 cs.LG stat.ML
Graph-based Forecasting with Missing Data through Spatiotemporal Downsampling
IDSIA USI-SUPSI（IDSIA USI-SUPSI（瑞士意大利语大学与瑞士应用科学大学联合机构））；Università della Svizzera italiana（瑞士意大利语大学）；Politecnico di Milano（米兰理工大学）；UiT the Arctic University of Norway（挪威北极大学）；NORCE, Norwegian Research Centre AS（NORCE挪威研究中心）
本文提出分层时空下采样方法，通过逐步粗化时间与空间并利用可解释注意力机制组合多尺度表示，有效解决缺失数据下的时空预测问题，在连续缺失场景中优于现有方法。
2024-06-08 cs.AI cs.LG
Predicting Traffic Congestion at Urban Intersections Using Data-Driven Modeling
针对城市交叉口交通拥堵问题，本研究利用含4800个交叉口的商用车行程记录数据集，结合27个基础特征与额外环境、地理特征，通过数据驱动建模开发预测模型，助力城市规划者预测交通热点与优化运营。
2024-11-27 cs.LG
Real Estate Attribute Prediction from Multiple Visual Modalities with Missing Data
St. Pölten University of Applied Sciences（圣珀尔滕应用科学大学）；Kufstein University of Applied Sciences（库夫施泰因应用科学大学）
房地产的评估和估价需要包含房地产信息的大型数据集。不幸的是，房地产数据库在实践中通常是稀疏的，即，并非每个属性的每个重要属性都可用。在本文中，我们研究了从视觉数据中预测高级房地产属性的潜力，特别是从两种视觉形式，即室内（室内）和室外（立面）照片。我们使用不同的多模态融合策略设计了三种模型，并针对三种不同的用例对其进行了评估。因此，一个特别的挑战是处理缺失的模态。我们评估不同的融合策略，目前的基线不同的预测任务，并发现，丰富的训练数据与额外的不完整的样本，可以导致预测精度的提高。此外，来自室内和室外照片的信息的融合导致Macro F1分数的性能提升高达5%。
2022-11-16 cs.AI cs.CV cs.LG
Imputation of Unknown Missingness in Sparse Electronic Health Records
本文提出了一种基于变换器的去噪神经网络，用于解决电子健康记录中未知缺失值的填补问题，提高了医疗代码去噪的准确性，并在医院再入院预测任务中取得了显著提升。
2026-02-24 cs.AI cs.LG
Predicting Seriousness of Injury in a Traffic Accident: A New Imbalanced Dataset and Benchmark
本文介绍了一个新的数据集，以评估机器学习算法在交通事故中的伤害严重性的预测性能。该数据集是通过聚合来自英国交通部的公开数据集创建的，这些数据集严重不平衡，缺失的属性有时接近整体数据维度的50%。本文介绍了数据分析管道，从公开的道路交通事故数据开始，以可能的伤害及其严重程度的预测因素结束。它通过MissForest模型解决了公共数据的巨大不完整性。本文还介绍了两种基线方法来创建损伤预测：监督人工神经网络和强化学习模型。该数据集可以潜在地刺激不平衡数据集上机器学习研究的各个方面，当研究人员在该领域测试更先进的学习算法时，这两种方法可以用作基线参考。
2022-05-20 cs.AI cs.LG
On the consistency of supervised learning with missing values
INRIA（法国国家信息与自动化研究所）；University of Montpellier（蒙彼利埃大学）；Williams College（威廉姆斯学院）；Sorbonne Université（索邦大学）；Université Paris Cité（巴黎西岱大学）；CNRS（法国国家科学研究中心）；Parietal project-team, INRIA Saclay（法国国家信息与自动化研究所萨克雷中心顶叶研究团队）
本文研究了含缺失值监督学习的一致性，证明常数填补和多重填补方法在预测中具有一致性，并推荐决策树使用“属性中包含缺失”方法以同时处理信息性和非信息性缺失值。
2024-03-21 cs.LG math.ST stat.ML
PROMISSING: Pruning Missing Values in Neural Networks
University Medical Center Utrecht（乌得勒支大学医学中心）；Donders Institute for Brain, Cognition and Behaviour（唐德斯大脑、认知与行为研究所）；Radboud University（拉德堡德大学）；Eindhoven University of Technology（埃因霍温理工大学）；Radboud University Medical Center（拉德堡德大学医学中心）；Utrecht University（乌得勒支大学）
虽然数据是机器学习模型的主要燃料，但它们经常会出现缺失值，特别是在现实世界中收集数据时。然而，许多现成的机器学习模型，包括人工神经网络模型，无法直接处理这些缺失值。因此，在学习和预测过程之前，额外的数据预处理和管理步骤（例如数据填补）是不可避免的。在这项研究中，我们提出了一个简单，直观而有效的方法修剪缺失值（PROMISSING）在学习和推理步骤中的神经网络。在这种方法中，不需要删除或估算缺失值;相反，缺失值被视为新的信息源（代表我们不知道的内容）。我们对模拟数据、几个分类和回归基准以及多模式临床数据集的实验表明，与各种插补技术相比，PROMISSING的预测性能相似。此外，我们的实验表明，使用PROMISSING技术训练的模型在面对具有许多未知数的不完整样本时，在预测中变得不那么果断。这一发现有望将机器学习模型从纯粹的预测机器推进到更现实的思考者，当面对不完整的信息来源时，他们也可以说“我不知道”。
2022-06-03 cs.AI cs.LG stat.ME
Latent Tensor Factorization with Nonlinear PID Control for Missing Data Recovery in Non-Intrusive Load Monitoring
College of Computer and Information Science, Southwest University（西南大学计算机与信息科学学院）
针对NILM缺失数据恢复中SGD-based LFT模型收敛慢的问题，提出结合非线性PID控制与PSO增益自适应的NPIL模型，在真实数据集上实现更快收敛和更高精度的缺失数据恢复。
2025-04-18 cs.LG
A Unified Comparison of User Modeling Techniques for Predicting Data Interaction and Detecting Exploration Bias
Washington University（华盛顿大学）
可视化分析社区已经提出了几种用户建模算法来捕获和分析用户的交互行为，以帮助用户进行数据探索和洞察生成。例如，一些可以检测探索偏差，而另一些可以预测用户将在交互发生之前与之交互的数据点。研究人员认为，这些算法可以帮助创建更智能的可视化分析工具。然而，社区缺乏对这些现有技术的严格评估和比较。因此，关于何时使用何种方法的指导有限。我们的论文试图通过比较和排名八个用户建模算法，根据他们的性能在一组不同的四个用户研究数据集，以填补这一空白。我们分析了探索偏差检测，数据交互预测和算法复杂性等措施。基于我们的研究结果，我们强调了分析用户交互和可视化起源的开放挑战和新方向。
2022-08-09 cs.HC cs.LG
SEGAN: semi-supervised learning approach for missing data imputation
College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院）；School of Software Technology, Zhejiang University（浙江大学软件学院）；Binjiang Institute of Zhejiang University（浙江大学滨江研究院）；China Academy of Space Technology（中国空间技术研究院）；Beijing Life Science Academy（北京生命科学研究院）；Zhengzhou Tobacco Research Institute of China National Tobacco Corporation（中国烟草总公司郑州烟草研究院）；Purdue University（普渡大学）；COSMOPlat IoT Technology Co.,Ltd.（卡奥斯物联科技有限公司）
本文提出半监督缺失数据插补模型SEGAN，通过生成器、判别器、分类器及缺失提示矩阵利用标签信息，理论证明其可学习真实数据分布，并在实验中较现有最优方法性能提升超3%。
2024-06-12 cs.LG
Contrastive Learning-based Imputation-Prediction Networks for In-hospital Mortality Risk Modeling using EHRs
Flinders University（弗林德斯大学）；Northwest A&F University（西北农林科技大学）；UNSW（新南威尔士大学）；RMIT University（皇家墨尔本理工大学）
针对EHR数据缺失和时间不规则导致的住院死亡率预测难题，提出融合图分析患者分层与对比学习的插补-预测网络，在两个真实数据集的插补和预测任务上均达SOTA。
2023-08-19 cs.LG
Explainable LightGBM Approach for Predicting Myocardial Infarction Mortality
University of São Paulo（圣保罗大学）
本文提出基于LightGBM和TreeSHAP的可解释方法预测心肌梗死死亡率，通过比较三种集成树模型及预处理影响，在无预处理时LightGBM取得91.2%的F1分数和91.8%的准确率，性能优于现有方法。
2024-04-23 cs.LG
When Pattern-by-Pattern Works: Theoretical and Empirical Insights for Logistic Models with Missing Values
Department of Statistics, University of Oxford, Oxford, United Kingdom（牛津大学统计学系）；INRIA PreMeDICaL, Institut Desbrest d’Épidémiologie et de Santé Publique (Idesp), University of Montpellier, Montpellier, France（INRIA PreMeDICaL、蒙彼利埃大学）；Sorbonne Université, Université Paris Cité, CNRS, Laboratoire de Probabilités, Statistique et Modélisation (LPSM), F-75005 Paris, France（索邦大学、巴黎城市大学、国家科学研究中心）
本文提出逐模式策略（PbP）用于逻辑模型中的缺失值处理，理论证明其在高斯模式混合模型下的有效性，并通过实验比较PbP与插补、EM方法在不同任务中的表现。
2026-02-02 cs.LG stat.ML
Predicting the Future is like Completing a Painting!
International University of Rabat（拉巴特国际大学）；College of Engineering and Architecture（工程与建筑学院）
这篇文章是一个相对于科学预测的更大的研究框架的介绍性工作。它是科学与科学哲学的混合体，因此我们可以称之为实验科学哲学。作为第一个结果，我们介绍了一种新的预测方法的基础上完成的图像，命名为预测方法的图像修补（FM 2 I）。事实上，时间序列预测被转换成完全基于图像和信号的处理程序。在将时间序列数据转换成其对应的图像之后，数据预测问题实质上变成图像修补问题，即，完成图像中缺失的数据。广泛的实验评估进行了使用由著名的M3竞争提出的大型数据集。结果表明，FM2I是一个有效的和强大的工具，时间序列预测。它在准确性方面取得了显著的效果，优于最好的M3预测方法。
2020-11-09 cs.AI cs.CV cs.LG
Imputing Missing Observations with Time Sliced Synthetic Minority Oversampling Technique
Institute for Systems Biology（系统生物学研究所）
我们提出了一种简单而新颖的时间序列插补技术，其目标是构建一个不规则的时间序列，在数据集中的每个样本都是均匀的。具体来说，我们固定了一个由观察时间的非重叠箱（称为“切片”）的中点定义的网格，并确保每个样本在给定时间具有所有特征的值。这允许一个既填补完全缺失的观察，以允许统一的时间序列分类在整个数据，并在特殊情况下，填补个别缺失的功能。要做到这一点，我们稍微概括了著名的类不平衡算法SMOTE \cite{smote}，允许组件明智的最近邻插值，保留相关性时，没有丢失的功能。我们可视化的方法在简化设置的2维非耦合谐振子。接下来，我们使用tSMOTE来训练具有逻辑回归的编码器/解码器长短期记忆（LSTM）模型，以预测和分类不同2D振荡器的不同轨迹。在说明了tSMOTE在此背景下的实用性之后，我们使用相同的架构在插补数据集上训练COVID-19疾病严重程度的临床模型。我们的实验表明，通过允许模型识别更广泛的患者轨迹类别，以及改进聚合分类模型，可以改进标准的平均值和中位数插补技术。
2022-01-14 cs.LG physics.bio-ph q-bio.QM
On What Depends the Robustness of Multi-source Models to Missing Data in Earth Observation?
University of Kaiserslautern-Landau (RPTU)（凯撒斯劳滕-兰道大学（RPTU））；German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心（DFKI））
本文评估了六种先进多源模型在单数据源缺失或仅单源可用时的预测性能，发现模型效果受任务性质、数据源互补性和模型设计影响，且某些数据源移除可能提升性能。
2025-03-25 cs.AI cs.CV cs.LG
Integrated Convolutional and Recurrent Neural Networks for Health Risk Prediction using Patient Journey Data with Many Missing Values
Flinders University（弗林德斯大学）；RMIT University（皇家墨尔本理工大学）；UC Davis（加州大学戴维斯分校）；Northwest A&F University（西北农林科技大学）；UNSW（新南威尔士大学）
近年来，使用电子健康记录（EHR）预测患者的健康风险引起了相当大的关注，特别是随着深度学习技术的发展。健康风险是指特定患者发生特定健康结果的概率。预测的风险可用于支持医疗保健专业人员的决策。EHR是结构化的患者旅程数据。每个患者旅程包含按时间顺序排列的一组临床事件，并且在每个临床事件内，存在一组临床/医疗活动。由于患者状况和治疗需求的变化，EHR患者旅程数据具有固有的高度缺失，其包含影响变量之间关系的重要信息，包括时间。现有的基于深度学习的模型在学习关系时为缺失值生成估算值。然而，EHR患者行程数据中的插补数据可能会扭曲原始EHR患者行程数据的临床意义，导致分类偏倚。本文提出了一种新的端到端的方法来建模EHR病人旅程数据集成卷积和循环神经网络。我们的模型可以捕获每个患者旅程中的长期和短期时间模式，并有效地处理EHR数据中的高度缺失，而无需生成任何插补数据。在两个真实数据集上使用该模型的广泛实验结果表明，与现有的最先进的基于插补的预测方法相比，该模型具有强大的性能和卓越的预测精度。
2022-11-14 cs.LG
Predicting Pairwise Relations with Neural Similarity Encoders
Technische Universität Berlin（柏林工业大学）；Korea University（高丽大学）；Max-Planck-Institut für Informatik（马克斯·普朗克信息学研究所）
矩阵分解是许多机器学习算法的核心，例如，降维（例如核PCA）或依赖于协同过滤的推荐系统。将矩阵的奇异值分解（SVD）理解为神经网络优化问题，使我们能够有效地分解大型矩阵，同时自然地处理给定矩阵中的缺失值。但最重要的是，它允许我们学习数据点的特征向量与包含有关其成对关系的信息的矩阵之间的连接。在本文中，我们介绍了一种新的神经网络架构，称为相似性编码器（SimEc），它的目的是同时分解一个给定的目标矩阵，同时也学习映射投影数据点的特征向量到一个保持相似性的嵌入空间。例如，这使得可以轻松计算新数据点的样本外解决方案。此外，我们证明了SimEc可以保持非度量相似性，甚至可以同时预测数据点之间的多个成对关系。
2019-01-09 cs.LG stat.ML
Enhancing PM2.5 Data Imputation and Prediction in Air Quality Monitoring Networks Using a KNN-SINDy Hybrid Model
Katy Taylor High School（凯蒂泰勒高中）；University of Texas（得克萨斯大学）；Washington University（华盛顿大学）
本研究提出KNN-SINDy混合模型，利用2016年训练数据插补空气质量监测网络中缺失的PM2.5数据，并与SI和KNN方法比较性能，以提升预测准确性。
2024-09-18 cs.LG
PRISM: Mitigating EHR Data Sparsity via Learning from Missing Feature Calibrated Prototype Patient Representations
Beihang University（北京航空航天大学）；Peking University（北京大学）；Tsinghua University（清华大学）；ETH Zürich（苏黎世联邦理工学院）；Zhongguancun Laboratory（中关村实验室）
PRISM通过原型表征间接插补数据，并引入特征置信度学习器和新的相似度度量，在多个EHR数据集上有效预测院内死亡率和30天再入院，缓解数据稀疏性。
2025-02-26 cs.AI cs.LG
Predicting Performance of Software Configurations: There is no Silver Bullet
University of Passau（帕绍大学）；Bauhaus-University Weimar（魏玛包豪斯大学）；Saarland University（萨尔大学）
许多软件系统提供配置选项来定制它们的功能和非功能属性（例如，性能）。通常，用户对（性能）最佳配置感兴趣，但由于缺少关于各个配置选项及其交互的影响的信息，因此很难找到它。在过去，各种监督机器学习技术已被用于预测所有配置的性能，并确定最佳配置。在文献中，有大量的机器学习技术和采样策略可供选择。不过，目前还不清楚它们在多大程度上影响预测准确性。我们进行了一项比较研究，在预测所有配置的性能时，考虑6种机器学习技术，18种采样策略和6种主题软件系统的平均预测精度。我们发现，学习技术和采样策略对预测精度有很大的影响。我们进一步观察到，一些学习技术（例如，随机森林）优于其它学习技术（例如，k-最近邻）。此外，由于预测准确度在很大程度上取决于主题系统，因此考虑到准确性和测量开销之间的权衡，不存在在所有情况下都是最佳的学习技术和采样策略的组合，这符合著名的无免费午餐定理。
2019-11-28 cs.LG cs.SE
A Critical Examination of RESCAL for Completion of Knowledge Bases with Transitive Relations
Johns Hopkins University（约翰斯·霍普金斯大学）
大型知识图中的链接预测最近受到了很多关注，因为它对于推断缺失的关系以及完善和改进噪声提取的知识图非常重要。多年来，许多机器学习研究人员已经提出了各种模型来预测知识库中缺失关系的存在。虽然所有以前的方法都给出了在选择数据集上表现出高性能的经验结果，但几乎没有以前的工作来理解知识库的属性与模型性能之间的联系。本文分析了RESCAL方法，证明了它不能对知识库中的非对称传递关系进行编码。
2016-05-16 cs.AI cs.DB cs.LG
Learning Cyclic Causal Models from Incomplete Data
Georgia Institute of Technology（佐治亚理工学院）
提出 MissNODAGS 框架，在加性噪声模型下结合 EM 交替进行缺失数据插补与可见数据期望对数似然最大化，以从含缺失的干预数据中学习循环因果图，并在合成及单细胞数据上验证性能提升。
2024-02-23 cs.AI cs.LG stat.ML
Deep Learning for Weather Forecasting: A CNN-LSTM Hybrid Model for Predicting Historical Temperature Data
Nanchang Institute of Science and Technology（南昌理工学院）；Columbia University In the City of New York（纽约市哥伦比亚大学）
本文提出一种 CNN-LSTM 混合模型，结合空间特征提取与时间依赖建模，以 MAE 为损失函数预测历史温度数据，显著提升精度与稳定性，并验证其在气候预测中的应用潜力。
2024-10-19 cs.DC cs.LG physics.ao-ph
Scalable Joint Models for Reliable Uncertainty-Aware Event Prediction
Johns Hopkins University（约翰斯·霍普金斯大学）；Lancaster University（兰卡斯特大学）
缺失数据和噪声观测对从不规则采样的多变量时间序列（纵向）数据可靠地预测事件提出了重大挑战。通常用于在事件预测之前完成数据的插补方法缺乏原则性机制来解释由于缺失而导致的不确定性。或者，最先进的联合建模技术可以用于联合建模的纵向和事件数据和计算事件概率的纵向观察的条件。然而，这些方法进行强参数假设，并且不容易扩展到具有许多观测值的多变量信号。我们提出的方法包括几个关键的创新。首先，我们开发了一个灵活的和可扩展的联合模型的基础上稀疏多输出高斯过程。与最先进的联合模型不同，该模型可以解释高度挑战性的结构，包括非高斯噪声，同时扩展到大数据。其次，我们推导出一个最优的政策，用于预测事件的分布估计的联合模型的事件发生。衍生的政策权衡延迟检测的成本与不正确的评估和弃权时，估计的事件概率不满足衍生的置信度标准作出决定。在一个大型数据集上的实验表明，该框架在事件预测方面明显优于最先进的技术。
2017-08-16 cs.AI cs.LG stat.ML
Risks of Using Non-verified Open Data: A case study on using Machine Learning techniques for predicting Pregnancy Outcomes in India
Microsoft（微软）
人工智能（AI）在过去的几年里有了很大的发展。虽然人工智能在零售和营销等领域的应用越来越普遍，但人工智能在解决发展中国家相关问题方面的应用仍然是一个新兴话题。特别是，在资源匮乏的环境中，人工智能应用仍然相对较新。在这样的环境中使用AI的范围很大。例如，研究人员已经开始探索人工智能应用，以减少贫困并提供广泛的关键公共服务。然而，尽管有许多有前途的用例，但在这些项目中必须克服许多与数据集相关的挑战。这些挑战通常表现为数据缺失、数据收集不正确和变量标签不正确等。因此，我们经常使用的数据并不能代表我们试图解决的问题。在本案例研究中，我们探讨了使用来自印度的开放数据集来预测重要健康结果的挑战。我们强调，在没有正确理解报告指标的情况下使用人工智能可能会导致错误的结论。
2019-10-21 cs.AI cs.LG stat.ML
Roughsets-based Approach for Predicting Battery Life in IoT
Vellore Institute of Technology（韦洛尔理工大学）；University of the Faroe Islands（法罗群岛大学）
物联网（IoT）和相关应用成功地为提高地球上生命的价值做出了贡献。先进的无线传感器网络及其革命性的计算能力使各种物联网应用成为下一个前沿，几乎触及生活的所有领域。随着这一巨大进步，能源优化也成为关注绿色技术的主要问题。本研究重点关注与海洋环境中物联网框架中电池寿命可持续性相关的预测。所使用的数据是从芝加哥区海滩收集的公开数据集。首先，用属性均值替换数据中的缺失值。随后，应用独热编码技术来实现数据的同质性，然后应用标准标量技术来规范化数据。然后，粗糙集理论用于特征提取，并将所得数据馈送到深度神经网络（DNN）模型中以获得优化的预测结果。然后将所提出的模型与最先进的机器学习模型进行比较，结果证明其优越性的基础上的性能指标，如均方误差，平均绝对误差，均方根误差，和测试方差得分。
2021-02-09 cs.LG eess.SP
Convolutional Complex Knowledge Graph Embeddings
Data Science Research Group, Paderborn University（帕德博恩大学数据科学研究中心）
在本文中，我们研究的问题，学习连续向量表示的知识图谱预测丢失的链接。我们提出了一种称为ConEx的新方法，该方法通过利用具有复值嵌入向量的Hermitian内积的2D卷积的组成来推断丢失的链接。我们在WN 18 RR，FB 15 K-237，KINSHIP和UMLS基准数据集上评估了ConEx对最先进方法的影响。我们的实验结果表明，ConEx在所有数据集上的链接预测任务上实现了优于RotatE，QuatE和TuckER等最先进方法的性能，同时需要至少8倍的参数。我们通过提供开源实现来确保我们的结果的可重复性，其中包括训练，评估脚本以及https://github.com/conex-kge/ConEx上的预训练模型。
2021-06-09 cs.CL cs.LG stat.ML
A Simple Baseline for Predicting Events with Auto-Regressive Tabular Transformers
University of Maryland（马里兰大学）；Capital One（第一资本金融公司）；Columbia University（哥伦比亚大学）
针对现有事件预测方法成本高、依赖特定场景等问题，提出基于标准自回归LLM风格Transformer的简单灵活基线，在主流数据集上性能更优，可用于多类表格数据任务。
2024-10-31 cs.CE cs.LG stat.ML
