XNNTab -- Interpretable Neural Networks for Tabular Data using Sparse Autoencoders
Marburg University（马尔堡大学）
XNNTab结合神经网络的表达能力和可解释性，通过稀疏自编码器提取非线性特征并赋予人类可理解的概念，提升模型可解释性并优于传统可解释模型。
2026-03-27 cs.LG
DiffPrep: Differentiable Data Preprocessing Pipeline Search for Learning over Tabular Data
Georgia Institute of Technology（佐治亚理工学院）
针对现有AutoML框架预处理流水线搜索空间受限、需多次训练模型效率低的问题，提出DiffPrep方法，将离散不可微的搜索空间松弛为连续可微空间，仅需一次训练即可用梯度下降搜索最优预处理流水线，在18个真实表格数据集的15个上取得最优准确率，最高提升6.6个百分点。
2023-08-20 cs.DB cs.LG
Efficient Tabular Data Preprocessing of ML Pipelines
ETH Zurich（苏黎世联邦理工学院）
本文提出FPGA硬件加速器Piper用于表格数据预处理，解决CPU与GPU性能差距导致的瓶颈，在商业推荐系统训练中实现比128核CPU最高71.3倍加速。
2024-09-23 cs.AR cs.LG
Mambular: A Sequential Model for Tabular Deep Learning
BASF（巴斯夫）；LMU Munich（慕尼黑大学）；Clausthal University of Technology（克劳斯塔尔工业大学）
本文提出Mambular，一种基于自回归状态空间模型的表格数据序列处理方法，通过结构化状态空间层处理特征及其交互，显著提升性能，成为GBDT的有力替代方案。
2025-03-25 cs.LG
Towards Interpretable Deep Neural Networks for Tabular Data
Marburg University（马尔堡大学）
本文提出XNNTab架构，通过稀疏自编码器学习语义特征并赋予人类可解释性，实现表格数据预测的可解释性与高性能。
2026-03-26 cs.LG
TabSeq: A Framework for Deep Learning on Tabular Data via Sequential Ordering
West Virginia University（西弗吉尼亚大学）；University of South Carolina（南卡罗来纳大学）；Yale University School of Medicine（耶鲁大学医学院）
本文提出TabSeq框架，通过基于聚类的局部与全局特征顺序排序结合多头注意力和去噪自编码器，优化表格数据的深度学习性能，并在生物医学数据集上验证了其有效性。
2024-10-21 cs.AI cs.LG
Tabular Data: Is Deep Learning all you need?
Department of Computer Science University of Freiburg（计算机科学系弗赖堡大学）；Department of Computer Science Technical University of Nuremberg（计算机科学系纽伦堡技术大学）
针对表格数据任务中深度学习与经典方法缺乏公平全面对比的问题，该研究对17种前沿方法在68个数据集上基准测试，证实深度学习表现优于经典方法，呈现范式转变。
2025-10-05 cs.AI cs.LG
Automated Model Design using Gated Neuron Selection in Telecom
Ericsson Research（爱立信研究）；KTH Royal Institute of Technology（皇家理工学院）；Uppsala University（乌普萨拉大学）
TabGNS通过门控神经元选择方法，提升电信领域表格数据的预测性能，同时显著减少模型规模和搜索时间。
2026-02-11 cs.LG
A Data-Centric Perspective on Evaluating Machine Learning Models for Tabular Data
University of Mannheim（曼海姆大学）；University of Rostock（罗斯托克大学）
针对表格数据模型评估中过度标准化预处理的偏差问题，提出数据中心评估框架，发现针对特定数据集的特征工程会显著改变模型排名并降低模型选择重要性，强调表格数据需要特征工程并具有时间特征。
2024-12-18 cs.AI cs.LG
TabTune: A Unified Library for Inference and Fine-Tuning Tabular Foundation Models
Lexsi Labs（Lexsi实验室）
TabTune是一个统一库，通过单一接口标准化表格基础模型的完整工作流程，支持多种适应策略并提升评估一致性。
2025-12-02 cs.AI cs.LG
Tabular Data Generation using Binary Diffusion
University of Geneva（日内瓦大学）
针对表格数据生成中传统模型依赖复杂预处理或大模型的问题，提出无损二元变换方法与专为二元数据设计的Binary Diffusion模型，用异或运算处理噪声、二元交叉熵训练，在多个基准上性能超越SOTA且模型更小。
2024-10-28 cs.AI cs.LG
Synthetic Tabular Data Detection In the Wild
Orange Labs Lannion（奥兰治实验室朗尼翁分部）；Université de Rennes（雷恩大学）；CNRS（法国国家科学研究中心）；Inria（法国国家信息与自动化研究所）；IRISA UMR 6074（IRISA联合研究单位6074）
本研究针对不同表格间合成数据检测的挑战，提出了四种与表格无关的检测器结合简单预处理方案，发现在受限表格集合上跨表学习可行，但跨表迁移仍具挑战性，需更复杂的编码方案。
2025-03-03 cs.AI cs.DB cs.LG
Concurrent Neural Tree and Data Preprocessing AutoML for Image Classification
Institute for Clarity in Documentation（文档清晰度研究所）；Inria Paris-Rocquencourt（法国国家信息与自动化研究所巴黎-罗克库尔中心）；Rajiv Gandhi University（拉吉夫·甘地大学）；Tsinghua University（清华大学）；Palmer Research Laboratories（帕尔默研究实验室）；Georgia Institute of Technology（佐治亚理工学院）；Georgia Tech Research Institute（佐治亚理工研究院）
深度神经网络（DNN）是一种广泛用于各种机器学习问题的解决方案。然而，数据科学家通常需要投入大量的时间来预处理输入数据，测试不同的神经网络架构，并调整超参数以获得最佳性能。自动机器学习（autoML）方法自动搜索最佳神经网络的架构和超参数空间。然而，当前最新技术水平（SOTA）方法不包括用于操纵输入数据作为算法搜索空间的一部分的传统方法。我们适应进化多目标算法设计引擎（EMADE），多目标进化搜索框架的传统机器学习方法，执行神经结构搜索。我们还集成了EMADE的信号处理和图像处理原语。这些原语允许EMADE在摄取到同时进化的DNN之前操纵输入数据。我们表明，包括这些方法作为搜索空间的一部分，显示出潜在的CIFAR-10图像分类基准数据集上的性能提供的好处。
2022-05-25 cs.LG cs.NE
AutoML-Med: A Framework for Automated Machine Learning in Medical Tabular Data
DISIT\ Science Institute University of Piemonte Orientale Alessandria, Italy Email；DISS University of Piemonte Orientale Novara, Italy Email
AutoML-Med是一个自动化机器学习框架，通过LHS和PRCC优化预处理与模型组合，在医学表格数据上提升平衡准确率和灵敏度，尤其适用于稀疏和不平衡数据。
2025-08-04 cs.AI cs.LG
Tabular foundation models for robust calibration of near-infrared chemical sensing data
CIRAD（国际热带农业中心）；UMR AGAP Institut（AGAP研究所）；Université de Montpellier（蒙彼利埃大学）；INRAE（国家农业食品与环境研究机构）；Institut Agro（农业研究所）；LIRMM（蒙彼利埃大学LIRMM实验室）
本文研究了表格基础模型在近红外化学传感数据校准中的应用，通过对比不同模型在回归和分类任务中的表现，发现预处理优化的TabPFN在回归任务中表现最佳，而在分类任务中直接使用原始光谱的数据表现最优，同时指出在存在光谱异常值和外推样本时，传统化学计量学模型仍具竞争力。
2026-05-20 cs.LG eess.SP
Stochastic Perturbations of Tabular Features for Non-Deterministic Inference with Automunge
Automunge
众所周知，将高斯噪声注入训练特征具有正则化特性。本文考虑将噪声注入到数字或分类表格特征中传递给推理，这将推理转换为非确定性结果，并且可能与公平性考虑，对抗性示例保护或受益于非确定性的其他用例相关。我们提供了用于表格预处理的Automunge库作为实践的资源，其中包括在量子电路的支持下集成随机采样或熵播种的选项，代表了将量子算法引入经典学习的新方法。
2022-06-16 cs.LG
When Tabular Foundation Models Transfer Across Modalities: A Systematic Evaluation Across 95 Datasets, 7 Modalities, and Two Regimes
Telecom Paris, Institut Polytechnique de Paris（巴黎电信学院，巴黎理工学院）
本文提出一种结合等角紧框架预处理与表格基础模型的分类流水线，在跨模态数据上评估其性能，并证明其在速度与质量间取得良好平衡。
2026-06-01 cs.LG stat.ML
Tabular GANs for uneven distribution
Moscow Institute of Physics and Technology（莫斯科物理技术学院）
本文综述了三种主要范式下的表格数据生成方法，提出统一框架支持GAN、扩散模型和大语言模型，并通过实验验证框架在分布偏移下的有效性。
2026-04-08 cs.CV cs.LG
PORTAL: Scalable Tabular Foundation Models via Content-Specific Tokenization
SAP France（思爱普法国）；SAP SE（思爱普SE）
本文提出PORTAL框架，通过逐行预训练和内容特定分词，无需数据清洗即可处理多模态表格数据，并在分类和回归任务上达到最先进水平。
2024-10-17 cs.LG
AutoDiff: combining Auto-encoder and Diffusion model for tabular data synthesizing
UCLA（加利福尼亚大学洛杉矶分校）；Meta
本文提出AutoDiff，结合自编码器与扩散模型合成表格数据，解决异质特征问题，在15个数据集上验证了统计保真度和下游任务性能，并有效捕捉特征相关性。
2023-11-17 cs.AI cs.LG stat.ML
Tabular Numeric Stretch Transformation
Carnegie Mellon University（卡内基梅隆大学）
针对表格数值特征变换研究不足的问题，提出含无监督与有监督变体的拉伸变换框架，经38个数据集实验，其有监督变体性能优于所有基线，为表格深度学习提供新策略。
2026-08-11 cs.AI cs.LG
Small Language Models for Tabular Data
Guidehouse（导德豪斯）
监督式深度学习最常应用于大型且通常广泛策划的数据集上定义的困难问题。在这里，我们展示了深度表示学习的能力，通过将输入信息编码为每个输入字段由固定数量的字符组成的抽象序列，来解决小型和结构不良的表格数据集的分类和回归问题。我们发现，小模型有足够的能力，各种功能的近似，并达到记录分类基准精度。这样的模型显示，形成有用的嵌入的各种输入功能在其隐藏层，即使学习的任务并不明确要求这些功能的知识。这些模型也服从于输入属性，允许估计每个输入元素对模型输出的重要性，以及哪些输入特征有效地嵌入模型中。我们提出了一个概念验证的应用程序的小语言模型混合表格数据没有明确的功能工程，清洗，或预处理，依赖于模型来执行这些任务的一部分，表示学习过程。
2022-11-29 cs.LG
Squeezing Lemons with Hammers: An Evaluation of AutoML and Tabular Deep Learning for Data-Scarce Classification Applications
KI-Werkstatt, University of Applied Sciences Berlin（柏林应用科学大学KI工作室）；University of Applied Sciences Berlin（柏林应用科学大学）
针对小规模表格数据分类场景，该研究通过44个样本量≤500的数据集对比实验，发现L2正则化逻辑回归性能与主流AutoML框架、表格深度学习模型相当，建议数据稀缺的表格分类任务优先选用逻辑回归并给出选型最佳实践。
2024-05-13 cs.AI cs.LG
Closing the gap on tabular data with Fourier and Implicit Categorical Features
Bitdefender
本文通过傅里叶和隐式分类特征预处理技术，提升深度学习在表格数据上的性能，使其接近或超越XGBoost。
2026-02-26 cs.LG
Missing Data Infill with Automunge
Automunge
缺失数据是数据科学实践中的一个根本障碍。本文调查了Automunge开源python库平台中用于表格数据预处理的一些插补惯例，包括“ML填充”，其中自动ML模型从训练集的分区提取中训练目标特征。进行了一系列验证实验，以基准插补场景对下游模型性能，其中发现对于给定的基准集，在许多情况下，ML填充优于数字和分类目标特征，并且在其他插补场景的噪声分布内处于最小值。证据还表明，通过添加具有布尔整数标记的支撑柱来补充ML填充物，该布尔整数标记指示填充物的存在通常有利于下游模型性能。我们认为这些结果足以推荐默认为ML填充用于表格学习，并进一步推荐用支持列补充插补，支持列表示填充的存在，每个都可以在Automunge库中通过按钮操作准备。我们的贡献包括一个用于Python生态系统中表格学习的自动ML派生的缺失数据填补库，完全集成到一个具有广泛特征转换库的预处理平台中，具有一个新的生产友好实现，该实现将填补模型基于指定的训练集，以实现对额外数据的一致性。
2022-02-19 cs.LG
TransTab: Learning Transferable Tabular Transformers Across Tables
UIUC（伊利诺伊大学厄巴纳-香槟分校）
表格数据（或表格）是机器学习（ML）中使用最广泛的数据格式。然而，ML模型通常假设表结构在训练和测试中保持固定。在ML建模之前，需要进行大量的数据清理，以合并具有不同列的不同表。这种预处理通常会导致显著的数据浪费（例如，移除不匹配的柱和样品）。如何从具有部分重叠列的多个表中学习ML模型？如何随着时间的推移随着更多列变得可用而增量地更新ML模型？我们可以在多个不同的表上利用模型预训练吗？如何训练一个可以在看不见的表上进行预测的ML模型？为了回答所有这些问题，我们建议放宽固定的表结构，引入一个可转移的表格Transformer（transTab）的表。TransTab的目标是将每个样本（表中的一行）转换为可泛化的嵌入向量，然后应用堆栈Transformers进行特征编码。一种方法学见解是将列描述和表单元格组合起来作为门控Transformer模型的原始输入。另一个观点是引入监督和自我监督的预训练来提高模型性能。我们在不同的基准数据集和五个肿瘤学临床试验数据集上比较了TransTab与多种基线方法。总体而言，在监督学习、特征增量学习和迁移学习场景中，TransTab分别在12种方法中排名1.00、1.00、1.78;并且所提出的预训练平均比监督学习提高了2.3%的AUC。
2022-09-16 cs.AI cs.LG
Perturbation of Deep Autoencoder Weights for Model Compression and Classification of Tabular Data
Tennessee State University（田纳西州立大学）
完全连接的深度神经网络（DNN）通常包括冗余权重，导致过拟合和高内存需求。此外，DNN的性能经常受到表格数据分类中传统机器学习模型的挑战。在本文中，我们提出了DNN权重的周期性扰动（修剪和再生），特别是在深度自动编码器的自监督预训练阶段。在下游分类任务中，所提出的权重扰动策略在六个表格数据集中的四个中优于辍学学习。与dropout或我们的权重扰动例程相比，在相同的预训练阶段对权重进行L1或L2正则化会导致分类性能较差。与dropout学习不同，所提出的权重扰动例程还在六个表格数据集上实现了15%到40%的稀疏性，用于压缩深度预训练模型。我们的实验表明，当完全连接的DNN失败时，具有权重扰动或丢弃的预训练深度自动编码器可以在表格数据分类中优于传统的机器学习。然而，当表格数据集包含不相关的变量时，传统的机器学习模型似乎优于任何深度模型。因此，深度模型的成功可以归因于现实世界数据集中不可避免地存在相关变量。
2022-05-17 cs.AI cs.LG cs.NE
Advancing Tabular Stroke Modelling Through a Novel Hybrid Architecture and Feature-Selection Synergy
Department of Computer Science and Engineering, Leading University, Sylhet 3112, Bangladesh（计算机科学与工程系，领先大学，锡尔het 3112，孟加拉国）；DeepNet Research and Development Lab, Sylhet 3100, Bangladesh（深网研究与发展实验室，锡尔het 3100，孟加拉国）
本文提出了一种数据驱动且可解释的机器学习框架，利用十种常规获取的 demographics、生活方式和临床变量，通过详尽的探索性数据分析、数据预处理和特征选择，构建出一个准确率达到97.2%的中风风险评估模型，显著优于现有模型。
2025-05-18 cs.LG q-bio.QM stat.AP
PMLBmini: A Tabular Classification Benchmark Suite for Data-Scarce Applications
University of Applied Sciences Berlin（柏林应用科学大学）；KI-Werkstatt（KI工作室）
提出PMLBmini小样本表格分类基准，评估AutoML、深度网络与线性模型，发现先进方法常难超越逻辑回归基线，并指出其适用场景。
2024-09-03 cs.AI cs.LG
Autoencoder-based Attribute Noise Handling Method for Medical Data
Univ Lyon（里昂大学）；UCBL（里昂第一大学（克洛德·贝尔纳里昂第一大学））；CNRS（法国国家科学研究中心）；INSA Lyon（里昂国立应用科学学院）；LIRIS（里昂信息与图像系统实验室）
医疗数据集特别容易受到属性噪声的影响，即缺失和错误的值。已知属性噪声在很大程度上对学习性能有害。为了最大限度地提高未来的学习性能，在任何推理之前处理属性噪声是至关重要的。我们提出了一个简单的自动编码器为基础的预处理方法，可以纠正属性噪声损坏的混合类型的表格数据。目前没有其他方法可以处理表格数据中的属性噪声。我们的实验表明，我们的方法优于国家的最先进的插补方法和噪声校正方法在几个现实世界的医疗数据集。
2022-06-20 cs.AI cs.LG cs.NE
SynthEval: A Framework for Detailed Utility and Privacy Evaluation of Tabular Synthetic Data
本文提出开源框架SynthEval，通过兼顾分类与数值属性、无需特定预处理，并用统计与机器学习方法全面评估表格合成数据的保真度、效用与隐私风险。
2024-04-24 cs.LG cs.PF
Unreflected Use of Tabular Data Repositories Can Undermine Research Quality
University of Mannheim（曼海姆大学）；University of Freiburg（弗莱堡大学）；University of Rostock（罗斯托克大学）；ELLIS Institute Tübingen（埃利斯图宾根研究所）；PriorLabs（普里奥实验室）；Clausthal University of Technology（克劳斯塔尔工业大学）
本文指出不加反思地使用表格数据仓库可能损害研究质量，并以 OpenML 为例揭示次优模型选择、忽视强基线和不当预处理三类陷阱，进而探讨数据仓库如何防止不当使用并提升实证研究质量。
2025-03-12 cs.LG
AutoGluon-Tabular: Robust and Accurate AutoML for Structured Data
Amazon（亚马逊公司）
我们介绍AutoGluon-Tabular，这是一个开源的AutoML框架，只需要一行Python就可以在未处理的表格数据集（如CSV文件）上训练高度准确的机器学习模型。与现有的AutoML框架主要关注模型/超参数选择不同，AutoGluon-Tabular通过集成多个模型并将其堆叠在多个层中而获得成功。实验表明，我们的多层组合的许多模型提供了更好地利用分配的训练时间比寻找最好的。第二个贡献是对公共和商业AutoML平台的广泛评估，包括TPOT，H2O，AutoWEKA，Auto-sklearn，AutoGluon和Google AutoML Tables。对来自Kaggle和OpenML AutoML Benchmark的50个分类和回归任务的测试表明，AutoGluon更快，更强大，更准确。我们发现，AutoGluon的表现甚至往往优于所有竞争对手的事后诸葛亮组合。在两个流行的Kaggle竞赛中，AutoGluon在对原始数据进行了4小时的训练后，击败了99%的参与数据科学家。
2020-03-13 cs.LG stat.ML
JoLT: Joint Probabilistic Predictions on Tabular Data Using LLMs
University of Cambridge（剑桥大学）；University of Toronto（多伦多大学）；The Alan Turing Institute（艾伦·图灵研究所）；Vector Institute（向量研究所）；Microsoft Research Cambridge（微软研究院剑桥分部）
本文提出 JoLT，利用 LLM 的上下文学习与文本辅助信息直接定义多目标表格数据的联合概率分布，无需训练或预处理，并在少样本分类、回归及缺失值插补任务中表现优异。
2025-02-17 cs.LG stat.ML
Automatic Demonstration Selection for LLM-based Tabular Data Classification
Capital One
提出一种基于Spectral Graph Theory的算法，通过分析相似性图Laplacian特征值，结合数据分布、提示模板和LLM，自动确定表格数据ICL分类所需的最小示例数量。
2025-06-25 cs.AI cs.LG
An Explainable Gaussian Process Auto-encoder for Tabular Data
Electrical Engineering, Columbia University（哥伦比亚大学电子工程系）
针对高风险场景下黑盒模型的可解释需求，提出基于高斯过程的自动编码器反事实生成方法，搭配新型密度估计器与正则化率选择算法，可在表格数据上生成更多样的分布内反事实样本且更不易过拟合。
2025-08-31 cs.AI cs.LG
TabText: Language-Based Representations of Tabular Health Data for Predictive Modelling
Tandon School of Engineering（坦顿工程学院）；New York University（纽约大学）；Operations Research Center（运筹学中心）；Massachusetts Institute of Technology（麻省理工学院）；University of Wisconsin, Madison（威斯康星大学麦迪逊分校）；Foster School of Business（福斯特商学院）；University of Washington, Foster School of Business（华盛顿大学福斯特商学院）；Stern School of Business（斯特恩商学院）；Abdul Latif Jameel Clinic for Machine Learning in Health（阿卜杜勒拉赫曼·贾迈尔健康机器学习诊所）；Sloan School of Management（斯隆管理学院）
提出 TabText，将表格医疗记录转换为上下文语言并用 LLM 生成任务无关嵌入，在多医院 EMR 与 UCI 数据集上验证了预测性能和泛化能力。
2025-09-26 cs.LG
TabularARGN: A Flexible and Efficient Auto-Regressive Framework for Generating High-Fidelity Synthetic Data
MOSTLY AI
本文提出TabularARGN自回归生成框架，通过训练所有条件概率支持公平性生成、缺失填补和任意列条件生成，在保证高合成质量的同时显著降低训练与推理时间。
2025-02-06 cs.LG
Hybrid Autoencoders for Tabular Data: Leveraging Model-Based Augmentation in Low-Label Settings
Bar-Ilan University（巴伊兰大学）
本文提出一种混合自编码器，将神经编码器与OSDT编码器结合，通过基于模型的增强在低标签表格数据上实现一致的分类和回归性能提升。
2025-11-10 cs.AI cs.LG
Helix 1.0: An Open-Source Framework for Reproducible and Interpretable Machine Learning on Tabular Scientific Data
University of Nottingham（诺丁汉大学）；La Trobe University（拉筹伯大学）；Monash University（莫纳什大学）
本文介绍开源 Python 框架 Helix 1.0，通过模块化、可溯源与语言化解释界面，支持表格科学数据的可复现、可解释机器学习分析。
2025-07-23 cs.AI cs.LG
FairSHAP: Preprocessing for Fairness Through Attribution-Based Data Augmentation
Technical University of Denmark（技术大学）
FairSHAP通过基于属性的数据增强方法，提升机器学习模型的公平性，减少歧视风险并保持数据和模型准确性。
2026-02-21 cs.AI cs.CY cs.LG
Automated Model Selection for Tabular Data
College of Information and Computer Sciences（信息与计算机科学学院）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
本文提出自动化表格数据模型选择框架，包含基于优先级的随机网格搜索和贪婪搜索两种方法，以低成本纳入特征交互，实验验证了其有效性。
2024-05-29 cs.AI cs.LG
JarviX: A LLM No code Platform for Tabular Data Analysis and Optimization
University of Hamburg（汉堡大学）；Synergies Intelligent Systems, Inc.（Synergies智能系统公司）；Virginia Tech（弗吉尼亚理工大学）
本文提出JarviX，一个基于大型语言模型的无代码表格数据分析平台，通过自动生成洞察、可视化与解释并集成AutoML流程，实现数据分析与机器配置优化的自动化闭环。
2023-12-03 cs.AI cs.DB cs.LG
Privacy-Preserving Tabular Synthetic Data Generation Using TabularARGN
MOSTLY AI
针对传统匿名化技术无法充分保护隐私的问题，提出用于生成高质量表格数据的神经网络架构TabularARGN，通过基于离散化的自回归方法实现高保真与计算高效，并在统计相似性、机器学习效用、检测鲁棒性及抵御成员推理攻击上展现出有效的隐私与效用平衡。
2025-08-08 cs.LG
Pre-Hoc Predictions in AutoML: Leveraging LLMs to Enhance Model Selection and Benchmarking for Tabular datasets
IBM Research Europe（IBM欧洲研究院）；Trinity College Dublin（都柏林三一学院）；Technological University Dublin（都柏林技术大学）
本研究针对AutoML事后模型选择依赖穷举搜索、计算开销大的问题，结合传统模型与LLM智能体开展事前模型预筛选，在AutoGluon基准上验证可缩减搜索空间并选出最优模型。
2025-10-02 cs.AI cs.LG
More layers! End-to-end regression and uncertainty on tabular data with deep learning
Novosibirsk State University（新西伯利亚国立大学）；Huawei Novosibirsk Research Center（华为新西伯利亚研究中心）
本文试图分析深度学习对表格数据处理的有效性。决策树及其集成被认为是这一领域的主要方法，深度神经网络必须满足于计算机视觉等，但深度神经网络是一个用于构建基于梯度的层次表示的框架，这个关键特性应该能够提供对通用结构化（表格）数据的最佳处理，而不仅仅是图像矩阵和音频频谱图。这个问题是通过Yandex Shifts挑战中的天气预测轨道的棱镜来考虑的（换句话说，Yandex Shifts天气任务）。这个任务是经典表格数据回归问题的一个变体。它还涉及到另一个重要问题：机器学习中的泛化和不确定性。本文提出了一种端到端的算法来解决表格数据上的不确定性回归问题，该算法基于四种思想的组合：1）自规范化神经网络的深度集成，2）回归作为高斯目标误差分布的参数估计，3）分层多任务学习，以及4）简单的数据预处理。所提出的算法的三个修改分别形成了Yandex Shifts Weather挑战赛的前三名排行榜。本文认为，这种成功是由于深度学习算法的基本属性，并试图证明这一点。
2021-12-07 cs.LG
Agentic Search Spaces for Tabular Machine Learning
Yandex；HSE University（高等经济大学）
本研究探索LLM智能体为表格模型设计扩展HPO搜索空间，在45个数据集上平均提升0.6%性能，且无需额外调优成本，并提升TabArena基准Elo分数。
2026-09-16 cs.LG
Bag of Tricks for Multimodal AutoML with Image, Text, and Tabular Data
Amazon Web Services（亚马逊网络服务）；Tsinghua University（清华大学）
本文研究了多模态AutoML的最佳实践，构建了包含22个数据集的基准，系统评估了多模态融合、数据增强、表格转文本、跨模态对齐及缺失模态处理等设计选择，最终提炼出统一流程以实现稳健性能。
2024-12-19 cs.LG
TabPrep: Closing the Feature Engineering Gap in Tabular Benchmarks
University of Mannheim（曼海姆大学）；Prior Labs（普莱尔实验室）；AWS（亚马逊云科技）；Siemens（西门子）；University of Rostock（罗斯托克大学）；Technical University of Clausthal（克劳斯塔尔工业大学）
本文提出TabPrep，一个轻量级预处理流程，通过针对三种特定数据模式设计的特征生成器，系统性地进行特征工程，显著提升多种模型在表格基准测试中的性能。
2026-06-01 cs.LG
Diffusion-nested Auto-Regressive Synthesis of Heterogeneous Tabular Data
Broad Institute of MIT and Harvard（麻省理工学院与哈佛大学布罗德研究所）；University of Illinois Chicago（芝加哥伊利诺伊大学）
针对自回归模型难以处理异质表格数据及列排列不变性的问题，提出扩散嵌套自回归模型TabDAR，通过扩散模型参数化连续特征分布、带双向注意力的掩码Transformer支持任意列生成顺序，在10个数据集上多项指标显著优于现有最优方法。
2024-10-28 cs.LG
Exploring Transformer Placement in Variational Autoencoders for Tabular Data Generation
Faculty of Sciences, University of Porto（科学学院，波尔图大学）；Faculty of Engineering, University of Porto（工程学院，波尔图大学）
本文研究了在变分自编码器中部署变换器以生成表格数据的影响，发现变换器的位置会影响保真度与多样性的平衡，并在解码器中观察到线性关系。
2026-01-28 cs.AI cs.LG
In-Context Bias Propagation in LLM-Based Tabular Data Generation
Barcelona Supercomputing Center (BSC), Spain（巴塞罗那超级计算中心（BSC））；IBM Research Ireland（IBM爱尔兰研究）
本文研究了基于LLM的表格数据生成中上下文偏见的传播问题，揭示了轻微偏见可能导致全局统计扭曲，并提出了缓解策略以提高公平性。
2026-10-22 cs.LG
EGG-GAE: scalable graph neural networks for tabular data imputation
Sapienza University of Rome（罗马萨皮恩扎大学）
缺失数据插补（MDI）在处理跨多个领域的表格数据集时至关重要。自动编码器可以被训练来重建缺失值，而图自动编码器（GAE）在为给定实例输入新值时可以额外考虑数据集中的类似模式。然而，以前提出的GAE遭受可扩展性问题，需要用户定义模式之间的相似性度量，以预先建立图连接。在本文中，我们利用潜在图填补的最新进展，提出了一种新的边缘生成图自动编码器（EGG-GAE）的缺失数据填补，克服了这两个缺点。EGG-GAE处理随机采样的小批量输入数据（因此可以扩展到更大的数据集），并自动推断每个架构层的小批量之间的最佳连接性。我们还尝试了几种扩展，包括用于推理的集成策略和包含我们称之为原型节点的内容，在多个基准和基线上，在插补误差和最终下游准确性方面都获得了显着改进。
2022-10-19 cs.AI cs.LG
LightAutoDS-Tab: Multi-AutoML Agentic System for Tabular Data
Sber AI Lab（Sber AI实验室）；ITMO University（ITMO大学）
本文提出LightAutoDS-Tab多AutoML智能体系统，通过结合LLM代码生成与多个AutoML工具提升表格数据流水线设计的灵活性和鲁棒性，并在Kaggle任务上超越现有开源方案。
2025-07-17 cs.LG
