Semi-supervised learning is a powerful technique for leveraging unlabeled data to improve machine learning models, but it can be affected by the presence of ``informative'' labels, which occur when some classes are more likely to be labeled than others. In the missing data literature, such labels are called missing not at random. In this paper, we propose a novel approach to address this issue by estimating the missing-data mechanism and using inverse propensity weighting to debias any SSL algorithm, including those using data augmentation. We also propose a likelihood ratio test to assess whether or not labels are indeed informative. Finally, we demonstrate the performance of the proposed methods on different datasets, in particular on two medical datasets for which we design pseudo-realistic missing data scenarios.
Informative missingness and its implications in semi-supervised learning
School of Mathematics and Physics, The University of Queensland, Australia（昆士兰大学数学与物理学院）；School of Statistics and Data Science, Guangdong University of Finance & Economics, China（广东财经大学统计与数据科学学院）；School of Mathematics and Computational Science/Hunan Key Laboratory for Computation and Simulation in Science and Engineering, Xiangtan University, China（湘潭大学数学与计算科学学院/湖南计算与工程模拟重点实验室）
On the consistency of supervised learning with missing values
INRIA（法国国家信息与自动化研究所）；University of Montpellier（蒙彼利埃大学）；Williams College（威廉姆斯学院）；Sorbonne Université（索邦大学）；Université Paris Cité（巴黎西岱大学）；CNRS（法国国家科学研究中心）；Parietal project-team, INRIA Saclay（法国国家信息与自动化研究所萨克雷中心顶叶研究团队）
Estimating Aggregate Properties In Relational Networks With Unobserved Data
UC Santa Cruz（加州大学圣克鲁兹分校）
聚合网络属性，如集群凝聚力和桥节点的数量，可以用来收集有关网络的社区结构，影响力的传播和网络故障的弹性的见解。当网络被完全观察时，有效地计算网络属性已经受到了极大的关注（Wasserman and Faust 1994; Cook and Holder 2006），但是当有缺失的数据属性时，计算聚合网络属性的问题却很少受到关注。计算具有缺失属性的网络的这些属性涉及在网络上执行推理。统计关系学习（SRL）和图神经网络（GNN）是两类非常适合于推断图中缺失属性的机器学习方法。在本文中，我们研究了这些方法的有效性，在估计网络上的缺失属性的聚集属性。我们比较了两种SRL方法和三种GNN。对于这些方法，我们使用MAP和均值等点估计来估计这些属性。对于基于SRL的方法，可以推断出一个联合分布的缺失属性，我们还估计这些属性的期望分布。为了计算概率软逻辑，我们研究的SRL方法之一，可追溯的期望，我们引入了一种新的采样框架。在实验评估中，使用三个基准数据集，我们表明，基于SRL的方法往往优于基于GNN的方法在计算聚合属性和预测精度。具体来说，我们表明，估计的总属性作为一个期望的联合分布优于点估计。
Time Series Cluster Kernel for Learning Similarities between Multivariate Time Series with Missing Data
UiT The Arctic University of Norway（挪威北极大学）；Universidad Rey Juan Carlos（胡安卡洛斯国王大学）
基于相似性的方法是时间序列分析的一个有前途的方向。然而，许多这样的方法依赖于参数调整，并且如果时间序列是多变量（MTS）的，由于属性之间的依赖性，或者时间序列包含缺失数据，则一些方法具有缺点。在本文中，我们提出了强大的\emph{time series cluster kernel}（TCK）核方法的背景下，解决这些挑战。所采取的方法利用了缺失数据处理属性的高斯混合模型（GMM）与信息先验分布增强。利用集成学习方法，以确保鲁棒性的参数相结合的聚类结果，许多GMM形成最终的核。我们评估的TCK合成和真实的数据，并比较其他国家的最先进的技术。实验结果表明，TCK是强大的参数选择，提供了竞争力的结果MTS没有缺失数据和突出的结果缺失数据。
Biosystems Department, KULeuven, Leuven, Belgium（布鲁塞尔鲁文大学生物系统系，比利时卢汶）；Faculty of Physics, University of Bucharest, Bucharest, Romania（布加勒斯特大学物理系，罗马尼亚布加勒斯特）
An Efficient Approach to Informative Feature Extraction from Multimodal Data
Tsinghua-Berkeley Shenzhen Institute, Tsinghua University（清华大学清华-伯克利深圳学院）；Tencent AI Lab（腾讯人工智能实验室）；Massachusetts Institute of Technology（麻省理工学院）；Tsinghua University（清华大学）；The University of Texas at Arlington（德克萨斯大学阿灵顿分校）
