Between-Sample Relationship in Learning Tabular Data Using Graph and Attention Networks
Tennessee State University(田纳西州立大学)
本研究放宽表格数据样本独立同分布假设,首次用图神经网络和深度注意力模型纳入样本间关系学习表示,在多数据集上验证了该方法的性能优势,说明该假设对多数表格数据未必成立。
2023-06-11 cs.AI cs.LG
Tabular Diffusion based Actionable Counterfactual Explanations for Network Intrusion Detection
University of Western Ontario(西安大略大学)
针对网络入侵检测中黑箱模型解释难以转化为对策的问题,提出基于表格扩散的反事实解释框架,可高效生成最小、多样且可归纳为全局防御规则的可行动解释。
2025-07-23 cs.AI cs.LG
Tabular Diffusion Counterfactual Explanations
Electrical Engineering, Columbia University(哥伦比亚大学电气工程系)
针对现有扩散反事实解释多聚焦视觉领域的问题,本文提出面向表格数据类别特征的Gumbel-softmax近似引导反向扩散方法,推导理论界,实验证明其在多表格数据集上优于基线,可生成鲁棒真实的反事实解释。
2025-08-31 cs.LG
Real-Time Explanations for Tabular Foundation Models
Kunumi Institute(Kunumi研究所);Universidade Federal de Minas Gerais(米纳斯吉拉斯联邦大学)
本文提出ShapPFN,通过将Shapley值回归整合到架构中,实现预测与解释的单次前向传递,提升解释效率和质量。
2026-03-31 cs.LG
Multi-branch of Attention Yields Accurate Results for Tabular Data
Shanghai Warpdrive Technology Co.Ltd(上海威谱驱动科技有限公司)
针对表格数据特征异质性问题,本文提出MAYA框架,通过编码器中的多分支注意力机制和动态一致性约束协作学习,结合解码器交叉注意力,在表格分类与回归任务上取得了优于现有Transformer方法的性能。
2025-09-22 cs.AI cs.LG
TABCF: Counterfactual Explanations for Tabular Data Using a Transformer-Based VAE
Freie Universität Berlin(柏林自由大学);Universität der Bundeswehr München(慕尼黑联邦国防军大学)
本文提出TABCF方法,利用基于Transformer的VAE和Gumbel-Softmax detokenizer为表格数据生成反事实解释,克服了特征类型偏差问题并在五个金融数据集上优于现有方法。
2024-10-14 cs.AI cs.CY cs.LG
Harnessing LLMs Explanations to Boost Surrogate Models in Tabular Data Classification
Jilin University(吉林大学)
本文提出一种利用LLM生成解释来引导小型代理语言模型进行可解释表格预测的上下文学习框架,通过解释生成、演示选择和可解释预测三阶段设计,在多个表格数据集上实现平均准确率提升5.31%。
2025-05-09 cs.CL cs.LG
SG-XDEAT: Sparsity-Guided Cross-Dimensional and Cross-Encoding Attention with Target-Aware Conditioning in Tabular Learning
SG-XDEAT通过双流编码器联合建模原始与目标感知特征,结合跨维度/跨编码注意力及自适应稀疏机制过滤噪声,在表格学习基准上超越强基线。
2025-10-14 cs.AI cs.LG
FlowCF: Sparse Counterfactual Explanations for Mixed-Type Tabular Data using Flow Matching
Freie Universität Berlin(柏林自由大学);University of the Bundeswehr Munich(慕尼黑联邦国防军大学)
FlowCF提出一种基于流匹配的模型无关生成方法,通过混合流算子和门控网络优化稀疏传输,在六个基准数据集上实现数值特征稀疏性与邻近性的显著提升。
2026-10-07 cs.AI cs.LG
Concept-Based Explanations for Tabular Data
机器学习模型的可解释性一直是安全部署机器学习系统的重要研究领域。一种特殊的方法是将模型决策归因于人类可以理解的高级概念。然而,深度神经网络(DNN)的这种基于概念的可解释性主要是在图像域上研究的。在本文中,我们扩展TCAV,概念属性的方法,表格学习,提供了一个想法,如何定义概念的表格数据。在一个具有地面真理概念解释的合成数据集和一个真实世界的数据集上,我们展示了我们的方法在生成与人类直觉相匹配的可解释性结果方面的有效性。最重要的是,我们提出了一个基于TCAV的公平性概念,它量化了DNN的哪一层已经学习了导致模型预测偏差的表示。此外,我们实证证明TCAV为基础的公平性的一组公平的概念,人口均等的关系。
2022-09-13 cs.CV cs.LG
Orion-MSP: Multi-Scale Sparse Attention for Tabular In-Context Learning
Lexsi Labs(Lexsi实验室)
Orion-MSP通过多尺度特征处理、块稀疏注意力和Perceiver风格内存,解决了表格上下文学习中层次交互、二次方扩展和组件通信问题,在多个基准上达到或超越最先进性能。
2025-11-07 cs.AI cs.LG
Model-Based Counterfactual Explanations Incorporating Feature Space Attributes for Tabular Data
University of Electro-Communications(电气通信大学)
针对反事实解释计算成本高及表格数据分类变量扰动处理不足的问题,提出基于归一化流的高效方法FastDCFlow,结合TargetEncoding处理分类变量,在多项指标上优于现有方法并平衡反事实解释的权衡。
2024-04-20 cs.LG
SOMTab: Set-Order Mamba for Efficient Tabular In-Context Learning
Institute of Statistics and Big Data, Renmin University of China(中国人民大学统计与大数据研究院)
本文提出SOMTab架构,将表格上下文学习的表示构建与查询条件检索分离,结合DCH-TailMix合成先验,在接近Transformer模型性能的同时提升了效率。
2026-08-31 cs.AI cs.LG
Evaluating Local Explainability Metrics for Machine Learning Models on Tabular Data
GECAD, ISEP, Polytechnic of Porto(GECAD、ISEP、波尔图理工大学)
研究局部可解释性技术在复杂表格分类任务中的可信度,通过基准测试LIME、Kernel SHAP和特征消融技术,发现解释质量主要受数据集复杂性和特征分布影响,而非模型预测性能。
2026-06-16 cs.LG
The Standardization Trap: Certifying Joint Label Processing in Tabular Foundation Models
Ekimetrics
针对表格基础模型,提出两种仅依赖标准化标签预测的证书,证明其存在联合标签处理行为,且该行为随训练出现并由注意力机制主导。
2026-10-07 cs.AI cs.LG
A Framework and Benchmarking Study for Counterfactual Generating Methods on Tabular Data
反事实解释被认为是解释机器学习预测的有效方法。这种兴趣反映在一个相对年轻的文献,已经有几十个算法,旨在产生这样的解释。这些算法专注于发现如何修改特征以改变输出分类。然而,这个相当一般的目标可以通过不同的方式实现,这就需要一种方法来测试和基准这些算法。这项工作的贡献是多方面的:首先,一个大型的基准测试研究10算法的方法在22个表格数据集进行,使用9个相关的评估指标。其次,引入了一个新颖的,第一次的,框架来测试反事实生成算法。第三,一套客观的指标来评估和比较反事实的结果。最后,从基准测试结果中获得的见解表明,哪些方法在什么类型的数据集上获得最佳性能。这种基准研究和框架可以帮助从业者确定哪些技术和构建块最适合他们的上下文,并可以帮助研究人员设计和评估当前和未来的反事实生成算法。我们的研究结果表明,总的来说,没有一个最好的算法来生成反事实解释,因为性能高度依赖于与数据集,模型,分数和事实点特异性相关的属性。
2021-07-09 cs.AI cs.LG
HyConEx: Hypernetwork classifier with counterfactual explanations for tabular data
Faculty of Mathematics and Computer Science, Jagiellonian University(数学与计算机科学学院,杰兹维日大学);Wrocław University of Science and Technology(沃拉什大学技术学院);IDEAS Research Institute(IDEAS研究所)
HyConEx是一种基于深度超网络的表格数据分类器,能够生成反事实解释以解释模型决策并提升可解释性。
2026-03-10 cs.AI cs.LG
A Survey on Deep Tabular Learning
Texas State University(德克萨斯州立大学)
本综述回顾了深度学习在表格数据中的演进,涵盖从全连接网络到注意力机制、混合架构、图模型及扩散模型等先进方法,并指出了未来在可扩展性、泛化性和可解释性方面的研究方向。
2024-10-15 cs.AI cs.LG
Explanation Space: A New Perspective into Time Series Interpretability
University of California(加利福尼亚大学)
本文提出了一种简单有效的方法,使时域训练的时间序列模型能在五种新解释空间中应用现有XAI方法进行解释,无需修改模型或XAI方法,解决了时域特征难以直观呈现和基线值未定义的问题。
2025-04-03 cs.AI cs.LG
Looking Deeper into Tabular LIME
Laboratoire J. A. Dieudonné(J.A.迪厄多内实验室);Inria(法国国家信息与自动化研究所);Université Côte d’Azur(蔚蓝海岸大学);University of Tübingen(图宾根大学)
在本文中,我们对表格数据情况下LIME的默认实现进行了彻底的理论分析。我们证明,在大样本的限制,可解释的系数提供的表格石灰可以计算在一个明确的方式作为一个函数的算法参数和一些期望计算相关的黑盒模型。当要解释的函数具有一些很好的代数结构(线性,乘法或稀疏地依赖于坐标的子集)时,我们的分析为LIME提供的解释提供了有趣的见解。这些可以应用于一系列机器学习模型,包括高斯核或CART随机森林。作为一个例子,对于线性函数,我们表明,LIME具有理想的属性,提供的解释是成比例的函数的系数来解释,并忽略不使用的函数来解释坐标。对于基于分区的回归,另一方面,我们表明,LIME产生不希望的文物,可能会提供误导性的解释。
2022-07-18 cs.AI cs.LG stat.ML
MultiModalPFN: Extending Prior-Data Fitted Networks for Multimodal Tabular Learning
Samsung Electronics(三星电子);Seoul National University of Science and Technology(首尔科学技术大学)
本文提出MMPFN,通过引入多头门控MLP和跨注意力池化器,扩展TabPFN以处理表格和非表格模态,实验证明其在医疗和通用多模态数据集上优于现有方法。
2026-04-09 cs.AI cs.LG
Attention Augmented Convolutional Transformer for Tabular Time-series
Airt Research(Airt研究中心);Algebra University College(代数大学学院)
时间序列分类是工业数据科学中最常执行的任务之一,工业环境中最广泛使用的数据表示之一是表格表示。在这项工作中,我们提出了一种新的可扩展架构,用于从表格时间序列数据中学习表示,并随后执行下游任务,如时间序列分类。表示学习框架是端到端的,类似于语言建模中的Transformers(BERT)的双向编码器表示,但是,我们引入了适用于时间序列数据预训练的新掩蔽技术。此外,我们还使用了用Transformers增强的一维卷积,并探索了它们的有效性,因为时间序列数据集自然适合一维卷积。我们还提出了一种新的时间戳嵌入技术,这有助于处理在不同的时间粒度级别的周期性周期,和非周期性的趋势存在于时间序列数据。我们提出的模型是端到端的,可以处理分类和连续值输入,并且不需要对连续特征进行任何量化或编码。
2021-10-05 cs.AI cs.LG
SHAPNN: Shapley Value Regularized Tabular Neural Network
Samsung Display America Lab(三星显示美国实验室)
SHAPNN 提出一种用实时 Shapley 值正则化的深度表格神经网络,在无额外计算开销下提供解释并提升 AUROC、透明度与流式数据鲁棒性。
2023-09-15 cs.AI cs.LG
Explanations Go Linear: Post-hoc Explainability for Tabular Data with Interpretable Meta-Encoding
University of Pisa(比萨大学);ISTI-CNR(意大利国家研究委员会ISTI研究所);Scuola Normale Superiore - Pisa, Italy(比萨大学正常学院 - 意大利)
本文提出ILLUME框架,结合全局训练的替代模型与实例特定的线性变换,生成准确且高效的局部和全局解释,解决传统替代方法的局限性。
2026-03-18 cs.LG
SAINT: Improved Neural Networks for Tabular Data via Row Attention and Contrastive Pre-Training
University of Maryland, College Park(马里兰大学帕克分校);Capital One(第一资本金融公司)
表格数据支撑着机器学习的众多高影响力应用,从欺诈检测到基因组学和医疗保健。解决表格问题的经典方法,如梯度提升和随机森林,被从业者广泛使用。然而,最近的深度学习方法已经实现了与流行技术竞争的性能。我们设计了一种混合深度学习方法来解决表格数据问题。我们的方法SAINT对行和列都进行了关注,它包括一个增强的嵌入方法。我们还研究了一种新的对比自监督预训练方法,用于标签稀缺时。SAINT始终比以前的深度学习方法提高性能,在各种基准测试任务中,它的平均性能甚至超过了梯度提升方法,包括XGBoost,CatBoost和LightGBM。
2021-06-02 cs.AI cs.LG stat.ML
Orion-Bix: Bi-Axial Attention for Tabular In-Context Learning
Lexsi Labs(Lexsi实验室)
Orion-Bix通过双轴注意力与元学习方法,实现了高效且鲁棒的少样本表格学习,优于基线模型并在基准上表现优异。
2026-02-11 cs.AI cs.LG stat.ML
Attention Quantization for Tabular Foundation Models
Prior Labs
针对表格基础模型,提出FP8注意力量化策略,强调训练与测试行量化误差对齐,Triton内核实现1.7倍加速且精度无显著损失。
2026-09-14 cs.AI cs.LG
Integrating Feature Understandability into Feature Selection for Human-Centred Tabular Explanations
School of Computer Science and Information Technology, University College Cork(科克大学计算机科学与信息技术学院);Centre for Research Training in Artificial Intelligence, University College Cork(科克大学人工智能研究培训中心);Department of Methodology and Statistics, Tilburg University(蒂尔堡大学方法论与统计系);Insight Centre for Data Analytics, University College Cork(科克大学Insight数据分析中心)
本研究将特征可理解性整合到特征选择中,提出感知可理解性的特征选择算法,训练随机森林并结合SHAP评估,发现该方法可生成更易理解的解释且对分类性能影响极小。
2026-10-14 cs.AI cs.CY cs.HC
WISCA: A Consensus-Based Approach to Harmonizing Interpretability in Tabular Datasets
Universidad Católica de Murcia (UCAM)(穆尔西亚大学卡洛斯·穆尔西亚大学)
本文提出WISCA方法,通过整合类概率和归一化属性,统一不同可解释性算法的结果,提升解释可靠性。
2025-06-06 cs.AI cs.LG stat.ML
K-IPO: Kendall-constrained Importance Preserving Oversampling for Imbalanced Tabular Data
Department of Informatics and Telecommunications, University of Ioannina(约阿尼纳大学信息与电信系);Industrial Systems Institute, Athena Research Center(雅典娜研究中心工业系统研究所);Archimedes Unit, Athena Research Center(雅典娜研究中心阿基米德单位);Department of Computer Engineering and Informatics, University of Patras(帕特雷大学计算机工程与信息学系);Department of Mechanical Engineering and Aeronautics, University of Patras(帕特雷大学机械工程与航空系)
研究针对表格分类中过采样会扭曲特征重要性排名的问题,提出K-IPO框架,通过“生成然后选择”保留原始数据特征重要性排名,经实验评估,该方法在多方面表现出色,提升了预测性能且计算开销合理。
2026-07-21 cs.AI cs.LG
Benchmarking Attention for Tabular Foundation Models
SAP SE(SAP公司)
本研究针对表格基础模型中的二维注意力机制,建立了可复现基准,评估多种注意力后端在三种GPU上的性能,发现最优选择因行列注意力及硬件而异,为表格原生注意力优化奠定基础。
2026-10-12 cs.LG
Complexity-Budgeted, Interaction-Aware Interpretable Model for Tabular Data
Indian Institute of Management Ahmedabad(印度管理学院艾哈迈达巴德分校)
研究针对表格数据可解释分类器依赖稀疏特征易丢弃交互变量的问题,提出IAIML框架,通过自适应离散化等三种机制处理交互,实验表明其在多数据集上平均AUC与梯度提升模型相近,组件少,在特定数据集表现优,是紧凑且交互感知的框架。
2026-07-09 cs.AI cs.LG
Explainable AI for clinical and remote health applications: a survey on tabular and time series data
Institute for Informatics and Telematics (IIT), National Research Council of Italy (CNR)(意大利国家研究委员会(CNR)信息学与电信研究所(IIT))
如今,人工智能(AI)已成为医疗保健应用的基本组成部分,无论是临床还是远程,但性能最好的AI系统往往过于复杂,无法自我解释。可解释人工智能(XAI)技术被定义为揭示系统预测和决策背后的推理,在处理敏感和个人健康数据时,它们变得更加重要。值得注意的是,XAI并没有在不同的研究领域和数据类型中获得同样的关注,特别是在医疗保健领域。特别是,许多临床和远程健康应用程序分别基于表格和时间序列数据,XAI通常不分析这些数据类型,而计算机视觉和自然语言处理(NLP)是参考应用程序。为了概述最适合医疗保健领域表格和时间序列数据的XAI方法,本文对过去5年的文献进行了综述,说明了生成的解释类型以及为评估其相关性和质量所做的努力。具体而言,我们将临床验证、一致性评估、客观和标准化的质量评估以及以人为本的质量评估确定为关键特征,以确保为最终用户提供有效的解释。最后,我们强调了该领域的主要研究挑战以及现有XAI方法的局限性。
2022-09-14 cs.AI cs.LG
Fine-grained Attention in Hierarchical Transformers for Tabular Time-series
EURECOM(欧洲通信学院);Huawei Technologies(华为技术有限公司)
针对分层 Transformer 难以跨行列学习字段级模式的问题,本文提出 Fieldy,在行级与列级同时进行字段上下文化,并在公开表格时间序列任务上验证其可在不增加模型规模的情况下提升性能。
2024-08-02 cs.LG
Noise Immunity in In-Context Tabular Learning: An Empirical Robustness Analysis of TabPFN's Attention Mechanisms
Model Development Innovation, Risk Management TD Bank(TD银行风险管理模型开发创新部门)
本文通过实验证明TabPFN在存在无关预测器、相关特征组和标签噪声等条件下表现出高度鲁棒性,其预测性能和内部行为保持稳定。
2026-04-07 cs.AI cs.LG stat.ML
TabSwift: An Efficient Tabular Foundation Model with Row-Wise Attention
University of Science and Technology of China(中国科学技术大学)
提出TabSwift,通过门控注意力稳定和可学习注册令牌增强轻量级行注意力骨干,实现高效表格上下文学习,在保持竞争力的同时降低推理成本。
2026-06-05 cs.LG
Attention versus Contrastive Learning of Tabular Data -- A Data-centric Benchmarking
Tennessee State University(田纳西州立大学)
本文在28个表格数据集上对最先进的注意力与对比学习方法进行基准测试,发现结合样本间与特征间注意力可显著超越传统ML,混合策略在难分类数据上占优,而传统方法在易分类数据上更佳。
2024-01-08 cs.LG
Improving the Validity of Decision Trees as Explanations
Czech Technical University in Prague(布拉格捷克技术大学)
针对决策树叶节点准确率不均衡导致解释具有误导性的问题,提出通过最小化所有叶节点最大误分类误差训练浅层树以提供全局解释,并结合扩展模型使其性能媲美XGBoost。
2024-06-04 cs.AI cs.LG math.OC
Importance Scoring of Transformer Attention Heads in Learning Tabular Data
Tennessee State University(田纳西州立大学);Enosis Solutions(伊诺西斯解决方案公司);North Carolina Agricultural and Technical University(北卡罗来纳农工大学)
本研究针对表格数据学习,提出注意力头重要性评分方法,经40个数据集实验验证,可优化Transformer架构效率,相关代码已公开。
2026-08-28 cs.LG
TabFlex: Scaling Tabular Learning to Millions with Linear Attention
Microsoft(微软);University of Wisconsin-Madison(威斯康星大学麦迪逊分校);University of California San Francisco(加利福尼亚大学旧金山分校);Furiosa AI
TabFlex通过引入线性注意力机制替代二次复杂度自注意力,使表格分类模型能够高效扩展到百万级样本,并在效率上显著超越TabPFN和XGBoost等基线。
2025-06-05 cs.LG
TabNSA: Native Sparse Attention for Efficient Tabular Data Learning
TabNSA通过原生稀疏注意力与TabMixer结合,高效建模表格数据,优于现有深度学习模型,并通过LLM提升少样本学习能力。
2026-02-10 cs.LG
Density-Guided Robust Counterfactual Explanations on Tabular Data under Model Multiplicity
School of Computer Science and Engineering, Central South University, Changsha, China(计算机科学与工程学院,中南大学,长沙,中国)
提出DensityFlow生成框架,利用神经ODE和密度评分构建鲁棒反事实解释,避免低密度区域,并在模型多重性下保持有效性。
2026-05-29 cs.LG
Deep differentiable forest with sparse attention for the tabular data
Department of Electronic Science, Xiamen University(厦门大学电子科学系)
我们提出了一个一般的深可微森林的结构和它的稀疏注意力机制。可微森林兼有树和神经网络的优点。它的结构是一个简单的二叉树,易于使用和理解。它具有完全可微性,所有变量都是可学习的参数。采用基于梯度的优化方法对其进行训练,在深度CNN的训练中显示出强大的威力。我们发现并分析了可微森林中的注意力机制。也就是说,每个决定只取决于少数几个重要的特征,其他的则无关紧要。注意力总是稀疏的。在此基础上,我们通过数据感知初始化来提高其稀疏性。我们使用属性的重要性来初始化注意力权重。然后学习的权重比随机初始化的权重稀疏得多。通过对大规模表格数据集的实验表明,可微森林算法比GBDT算法具有更高的准确率。源代码可在https://github.com/closest-git/QuantumForest上获得
2020-02-29 cs.LG stat.ML
Multimodal synthesis of MRI and tabular data with diffusion in a joint latent space via cross-attention
Fraunhofer Institute for Digital Medicine MEVIS(弗劳恩霍夫数字医学研究所MEVIS);Leibniz Institute for Prevention Research and Epidemiology – BIPS(莱比锡预防研究与流行病学研究所 – BIPS);Faculty of Mathematics and Computer Science, University of Bremen(不莱梅大学数学与计算机科学学院);Faculty of Physics and Electrical Engineering, University of Bremen(不莱梅大学物理与电气工程学院)
本文提出了一种多模态潜在扩散模型,通过交叉注意力在共享潜在空间中联合生成MRI和临床表格数据,验证了在单一扩散框架中联合建模MRI和混合类型表格数据的可行性。
2026-10-14 cs.AI cs.CV cs.LG
Learning Model-Agnostic Counterfactual Explanations for Tabular Data
University of Tuebingen(图宾根大学);Schufa Holding AG(Schufa控股股份公司)
反事实解释可以通过识别对特征向量进行的最小变化来获得,以定性地影响预测;例如,从“贷款拒绝”到“授予”或从“心血管疾病的高风险”到“低风险”。以前的方法经常强调反事实应该很容易被人类解释,激励稀疏的解决方案,对特征向量的变化很少。然而,这些方法不能确保所产生的反事实是接近的(即,不是局部离群值)并且连接到具有相当大数据密度的区域(即,接近正确分类的观察),这两个要求被称为反事实的忠诚。当向个人提出确实可以实现的建议时,这些要求是基本的。我们的贡献是双重的。一方面,我们建议补充反事实质量测量目录[1],使用一个标准来量化某个反事实建议的难度。另一方面,从多方面的学习文献的想法,我们开发了一个框架,产生可达到的反事实。我们建议反事实的条件异构变分自编码器(C-CHVAE),以确定可达到的反事实,位于高数据密度的区域内。
2020-05-03 cs.LG stat.ML
Interpretable Graph Neural Networks for Tabular Data
KTH Royal Institute of Technology(瑞典皇家理工学院);École Polytechnique, Institut Polytechnique de Paris(巴黎综合理工学院,巴黎理工学院)
针对现有表格数据GNN模型的黑盒问题,提出可解释模型IGNNet,性能与XGBoost等前沿算法相当,且能无额外开销得到与真实Shapley值一致的解释。
2024-08-13 cs.AI cs.LG
Weight-Informed Self-Explaining Clustering for Mixed-Type Tabular Data
School of Computing, National University of Singapore(新加坡国立大学计算机学院);School of Intelligence Science and Engineering, Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳)智能科学与工程学院)
本文提出WISE框架,通过二进制编码与填充对齐异构特征,结合LOFO策略和两阶段加权聚类,提升混合类型表格数据的聚类质量和可解释性。
2026-04-07 cs.LG
Entity Linking in Tabular Data Needs the Right Attention
Heriot-Watt University(赫瑞-瓦特大学);Amazon Alexa(亚马逊Alexa)
理解表格数据的语义含义需要实体链接(EL),以便将每个单元格值与知识库(KB)中的真实实体相关联。在这项工作中,我们专注于端到端的解决方案EL的表格数据,不依赖于事实查找在目标KB。表格数据包含异构和稀疏的上下文,包括列标题、单元格值和表格标题。我们使用各种模型进行实验,为要链接的每个单元格值生成一个矢量表示。我们的研究结果表明,它是至关重要的,以适用于注意力机制以及注意力面具,使该模型可以只关注最相关的上下文,避免信息稀释。最相关的上下文包括:同行单元格、同列单元格、标题和标题。然而,对于这样一个复杂的模型,计算复杂性随着表格数据的大小成二次方地增长。我们通过引入表格实体链接精简版模型(TELL)来实现恒定的内存使用,该模型仅基于单元格的值、表头和表标题来生成单元格的矢量表示。TELL在维基百科表格上达到了80.8%的准确率,仅比最先进的二次内存使用模型低0.1%。
2022-07-05 cs.CL cs.DB cs.LG
Evaluating Explainable AI: Which Algorithmic Explanations Help Users Predict Model Behavior?
UNC Chapel Hill(北卡罗来纳大学教堂山分校)
近年来,解释机器学习模型的数学方法激增。我们进行了人类受试者测试,这是同类测试中的第一次,以隔离算法解释对模型可解释性,可模拟性的关键方面的影响,同时避免重要的混淆实验因素。当一个人可以根据新的输入预测其行为时,模型是可模拟的。通过文本和表格数据的两种模拟测试,我们评估了五种解释方法:(1)LIME,(2)锚,(3)决策边界,(4)原型模型,和(5)一个组合的方法,从每种方法的解释。在极少数情况下,发现方法有效性的明确证据:LIME提高了表格分类的可模拟性,我们的原型方法在反事实模拟测试中是有效的。我们也收集解释的主观评分,但我们没有发现评分可以预测解释的帮助程度。我们的研究结果提供了第一个可靠和全面的估计如何解释影响模拟性在各种解释方法和数据域。我们表明,(1)我们需要小心我们用来评估解释方法的指标,(2)目前的方法有很大的改进空间。我们所有的支持代码、数据和模型都可以在https://github.com/peterbhase/InterpretableNLP-ACL2020上公开获取。
2020-05-04 cs.AI cs.CL cs.LG
Not All Features Deserve Attention: Graph-Guided Dependency Learning for Tabular Data Generation with Language Models
Technical University of Munich(慕尼黑工业大学)
针对LLM生成表格数据时自注意力过度分散的问题,提出GraDe方法,通过图引导动态学习稀疏依赖,优先关键特征交互,在复杂数据集上性能提升达12%。
2025-09-08 cs.CL cs.LG
An Explainable Gaussian Process Auto-encoder for Tabular Data
Electrical Engineering, Columbia University(哥伦比亚大学电子工程系)
针对高风险场景下黑盒模型的可解释需求,提出基于高斯过程的自动编码器反事实生成方法,搭配新型密度估计器与正则化率选择算法,可在表格数据上生成更多样的分布内反事实样本且更不易过拟合。
2025-08-31 cs.AI cs.LG
ExplainerPFN: Towards tabular foundation models for model-free zero-shot feature importance estimations
INESC-ID;New York University(纽约大学)
本文提出ExplainerPFN,一种基于TabPFN的表格基础模型,通过预训练合成结构因果数据实现无模型零样本特征重要性估计,展示了其在真实和合成数据集上的竞争力。
2026-05-15 cs.AI cs.LG
A self-attention-based differentially private tabular GAN with high data utility
Fudan University(复旦大学)
针对GAN生成表格数据效果不佳及差分隐私导致效用下降的问题,提出基于自注意力的DP-SACTGAN框架,实验证明其能准确建模数据分布并满足差分隐私要求。
2023-12-20 cs.CR cs.DB cs.LG
CoDi: Co-evolving Contrastive Diffusion Models for Mixed-type Tabular Synthesis
Yonsei University(延世大学)
本文提出CoDi方法,通过两个互为条件且协同演化的扩散模型分别处理连续与离散变量,并引入对比学习与负采样强化二者关联,在11个数据集上验证了其在混合类型表格合成中的有效性。
2023-09-21 cs.AI cs.LG