Categorical encoders transform categorical features into numerical representations that are indispensable for a wide range of machine learning models. Existing encoder benchmark studies lack generalizability because of their limited choice of (1) encoders, (2) experimental factors, and (3) datasets. Additionally, inconsistencies arise from the adoption of varying aggregation strategies. This paper is the most comprehensive benchmark of categorical encoders to date, including an extensive evaluation of 32 configurations of encoders from diverse families, with 36 combinations of experimental factors, and on 50 datasets. The study shows the profound influence of dataset selection, experimental factors, and aggregation strategies on the benchmark's conclusions -- aspects disregarded in previous encoder benchmarks.
Quantile Encoder: Tackling High Cardinality Categorical Features in Regression Problems
University of Southampton（南安普顿大学）；Centre Recerca Matematica（数学研究中心）；Universitat Autonoma de Barcelona（巴塞罗那自治大学）；Universitat Ramon Llull（拉蒙·柳利大学）；ESADE（ESADE商学院）；Universitat de Barcelona（巴塞罗那大学）
IRTCI: Item Response Theory for Categorical Imputation
Northwestern University（西北大学）
大多数数据集都存在部分或完整的缺失值，这对测试数据的可用模型以及可以从数据中进行的任何统计推断具有下游限制。已设计了几种插补技术，用替代值替换缺失数据。各种方法对计算临床评分、模型构建和模型检验具有影响。这里展示的工作提供了一种基于项目反应理论（IRT）的分类插补的新方法，并将其与机器学习领域目前使用的几种方法进行了比较，包括k-最近邻（kNN），多重插补链式方程（MICE）和Amazon Web Services（AWS）深度学习方法Datawig。比较这些技术的分析进行了三个不同的数据集，代表序数，名义和二进制类别。对数据进行了修改，使其在数据缺失比例和缺失数据的系统化方面也有所不同。进行了两种不同的性能评估：重现缺失值的准确性和使用插补数据的预测性能。结果表明，新的方法，项目反应理论分类插补（IRTCI），表现相当不错，目前使用的方法相比，在许多情况下，优于他们中的几个。鉴于新方法的理论基础，以及用于确定缺失细胞类别归属的概率项的独特生成，IRTCI为当前方法提供了一种可行的替代方案。
A Model-Agnostic Algorithm for Bayes Error Determination in Binary Classification
TOELT llc（TOELT有限责任公司）；Politecnico di Torino（都灵理工大学）；IDSIA - Dalle Molle Institute for Artificial Intelligence, USI-SUPSI（USI-SUPSI达莱·莫勒人工智能研究所（IDSIA））；Zurich University of Applied Sciences（苏黎世应用科学大学）
