Model-Based Counterfactual Explanations Incorporating Feature Space Attributes for Tabular Data
University of Electro-Communications（电气通信大学）
针对反事实解释计算成本高及表格数据分类变量扰动处理不足的问题，提出基于归一化流的高效方法FastDCFlow，结合TargetEncoding处理分类变量，在多项指标上优于现有方法并平衡反事实解释的权衡。
2024-04-20 cs.LG
Evaluating Local Explainability Metrics for Machine Learning Models on Tabular Data
GECAD, ISEP, Polytechnic of Porto（GECAD、ISEP、波尔图理工大学）
研究局部可解释性技术在复杂表格分类任务中的可信度，通过基准测试LIME、Kernel SHAP和特征消融技术，发现解释质量主要受数据集复杂性和特征分布影响，而非模型预测性能。
2026-06-16 cs.LG
Explanations Go Linear: Post-hoc Explainability for Tabular Data with Interpretable Meta-Encoding
University of Pisa（比萨大学）；ISTI-CNR（意大利国家研究委员会ISTI研究所）；Scuola Normale Superiore - Pisa, Italy（比萨大学正常学院 - 意大利）
本文提出ILLUME框架，结合全局训练的替代模型与实例特定的线性变换，生成准确且高效的局部和全局解释，解决传统替代方法的局限性。
2026-03-18 cs.LG
Attention-like feature explanation for tabular data
Peter the Great St.Petersburg Polytechnic University（彼得大帝圣彼得堡理工大学）
提出了一种利用表格数据对机器学习黑箱模型预测进行局部和全局解释的新方法。它被实现为一个称为AFEX（Attention-like Feature EXplanation）的系统，由两个主要部分组成。第一部分是一组单特征神经子网络，其目的是以形状函数的基的形式获得每个特征的特定表示。子网络使用具有可训练参数的快捷连接来提高网络性能。AFEX的第二部分产生特征的形状函数作为基础形状函数的加权和，其中通过使用类似注意力的机制来计算权重。AFEX基于对应于不同特征的形状函数的成对乘法来识别特征之间的成对交互。提出了一种改进的AFEX算法，并在其基础上增加了一个近似于黑箱模型的代理模型。AFEX只在整个数据集上进行一次端到端的训练，使得它不需要在解释阶段再次训练神经网络。模拟和实际数据的数值实验说明了AFEX。
2021-08-10 cs.AI cs.LG
CeFlow: A Robust and Efficient Counterfactual Explanation Framework for Tabular Data using Normalizing Flows
University of Technology Sydney（悉尼科技大学）；Curtin University（科廷大学）
反事实解释是可解释的机器学习的一种形式，它在样本上产生扰动以实现期望的结果。生成的样本可以作为指导最终用户如何通过改变样本来观察所需结果的说明。尽管提出了最先进的反事实解释方法以使用变分自编码器（VAE）来实现有希望的改进，但是它们遭受两个主要限制：1）反事实生成非常慢，这阻止了算法在交互式环境中部署; 2）由于变分自编码器的采样过程中的随机性，反事实解释算法产生不稳定的结果。在这项工作中，为了解决上述限制，我们设计了一个强大而有效的反事实解释框架，即CeFlow，它利用规范化流的混合类型的连续和分类的功能。数值实验表明，我们的技术相媲美的最先进的方法。我们在https://github.com/tridungduong16/fairCE.git上发布了我们的源代码，用于复制结果。
2023-03-26 cs.AI cs.LG
TABCF: Counterfactual Explanations for Tabular Data Using a Transformer-Based VAE
Freie Universität Berlin（柏林自由大学）；Universität der Bundeswehr München（慕尼黑联邦国防军大学）
本文提出TABCF方法，利用基于Transformer的VAE和Gumbel-Softmax detokenizer为表格数据生成反事实解释，克服了特征类型偏差问题并在五个金融数据集上优于现有方法。
2024-10-14 cs.AI cs.CY cs.LG
Tabular Diffusion based Actionable Counterfactual Explanations for Network Intrusion Detection
University of Western Ontario（西安大略大学）
针对网络入侵检测中黑箱模型解释难以转化为对策的问题，提出基于表格扩散的反事实解释框架，可高效生成最小、多样且可归纳为全局防御规则的可行动解释。
2025-07-23 cs.AI cs.LG
Integrating Feature Understandability into Feature Selection for Human-Centred Tabular Explanations
School of Computer Science and Information Technology, University College Cork（科克大学计算机科学与信息技术学院）；Centre for Research Training in Artificial Intelligence, University College Cork（科克大学人工智能研究培训中心）；Department of Methodology and Statistics, Tilburg University（蒂尔堡大学方法论与统计系）；Insight Centre for Data Analytics, University College Cork（科克大学Insight数据分析中心）
本研究将特征可理解性整合到特征选择中，提出感知可理解性的特征选择算法，训练随机森林并结合SHAP评估，发现该方法可生成更易理解的解释且对分类性能影响极小。
2026-10-14 cs.AI cs.CY cs.HC
Density-Guided Robust Counterfactual Explanations on Tabular Data under Model Multiplicity
School of Computer Science and Engineering, Central South University, Changsha, China（计算机科学与工程学院，中南大学，长沙，中国）
提出DensityFlow生成框架，利用神经ODE和密度评分构建鲁棒反事实解释，避免低密度区域，并在模型多重性下保持有效性。
2026-05-29 cs.LG
Looking Deeper into Tabular LIME
Laboratoire J. A. Dieudonné（J.A.迪厄多内实验室）；Inria（法国国家信息与自动化研究所）；Université Côte d’Azur（蔚蓝海岸大学）；University of Tübingen（图宾根大学）
在本文中，我们对表格数据情况下LIME的默认实现进行了彻底的理论分析。我们证明，在大样本的限制，可解释的系数提供的表格石灰可以计算在一个明确的方式作为一个函数的算法参数和一些期望计算相关的黑盒模型。当要解释的函数具有一些很好的代数结构（线性，乘法或稀疏地依赖于坐标的子集）时，我们的分析为LIME提供的解释提供了有趣的见解。这些可以应用于一系列机器学习模型，包括高斯核或CART随机森林。作为一个例子，对于线性函数，我们表明，LIME具有理想的属性，提供的解释是成比例的函数的系数来解释，并忽略不使用的函数来解释坐标。对于基于分区的回归，另一方面，我们表明，LIME产生不希望的文物，可能会提供误导性的解释。
2022-07-18 cs.AI cs.LG stat.ML
Multi-Layer Attention-Based Explainability via Transformers for Tabular Data
Northwestern University（西北大学）；Allstate Insurance Company（好事达保险公司）
提出面向图的表格数据Transformer多层注意力可解释性方法，将所有头与层的注意力矩阵映射为图结构，通过寻找最大概率路径识别高贡献特征组，并与主流方法比较验证质量。
2024-06-04 cs.AI cs.LG
Learning Model-Agnostic Counterfactual Explanations for Tabular Data
University of Tuebingen（图宾根大学）；Schufa Holding AG（Schufa控股股份公司）
反事实解释可以通过识别对特征向量进行的最小变化来获得，以定性地影响预测;例如，从“贷款拒绝”到“授予”或从“心血管疾病的高风险”到“低风险”。以前的方法经常强调反事实应该很容易被人类解释，激励稀疏的解决方案，对特征向量的变化很少。然而，这些方法不能确保所产生的反事实是接近的（即，不是局部离群值）并且连接到具有相当大数据密度的区域（即，接近正确分类的观察），这两个要求被称为反事实的忠诚。当向个人提出确实可以实现的建议时，这些要求是基本的。我们的贡献是双重的。一方面，我们建议补充反事实质量测量目录[1]，使用一个标准来量化某个反事实建议的难度。另一方面，从多方面的学习文献的想法，我们开发了一个框架，产生可达到的反事实。我们建议反事实的条件异构变分自编码器（C-CHVAE），以确定可达到的反事实，位于高数据密度的区域内。
2020-05-03 cs.LG stat.ML
Weight-Informed Self-Explaining Clustering for Mixed-Type Tabular Data
School of Computing, National University of Singapore（新加坡国立大学计算机学院）；School of Intelligence Science and Engineering, Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳）智能科学与工程学院）
本文提出WISE框架，通过二进制编码与填充对齐异构特征，结合LOFO策略和两阶段加权聚类，提升混合类型表格数据的聚类质量和可解释性。
2026-04-07 cs.LG
WISCA: A Consensus-Based Approach to Harmonizing Interpretability in Tabular Datasets
Universidad Católica de Murcia (UCAM)（穆尔西亚大学卡洛斯·穆尔西亚大学）
本文提出WISCA方法，通过整合类概率和归一化属性，统一不同可解释性算法的结果，提升解释可靠性。
2025-06-06 cs.AI cs.LG stat.ML
FlowCF: Sparse Counterfactual Explanations for Mixed-Type Tabular Data using Flow Matching
Freie Universität Berlin（柏林自由大学）；University of the Bundeswehr Munich（慕尼黑联邦国防军大学）
FlowCF提出一种基于流匹配的模型无关生成方法，通过混合流算子和门控网络优化稀疏传输，在六个基准数据集上实现数值特征稀疏性与邻近性的显著提升。
2026-10-07 cs.AI cs.LG
The Standardization Trap: Certifying Joint Label Processing in Tabular Foundation Models
Ekimetrics
针对表格基础模型，提出两种仅依赖标准化标签预测的证书，证明其存在联合标签处理行为，且该行为随训练出现并由注意力机制主导。
2026-10-07 cs.AI cs.LG
A Framework and Benchmarking Study for Counterfactual Generating Methods on Tabular Data
反事实解释被认为是解释机器学习预测的有效方法。这种兴趣反映在一个相对年轻的文献，已经有几十个算法，旨在产生这样的解释。这些算法专注于发现如何修改特征以改变输出分类。然而，这个相当一般的目标可以通过不同的方式实现，这就需要一种方法来测试和基准这些算法。这项工作的贡献是多方面的：首先，一个大型的基准测试研究10算法的方法在22个表格数据集进行，使用9个相关的评估指标。其次，引入了一个新颖的，第一次的，框架来测试反事实生成算法。第三，一套客观的指标来评估和比较反事实的结果。最后，从基准测试结果中获得的见解表明，哪些方法在什么类型的数据集上获得最佳性能。这种基准研究和框架可以帮助从业者确定哪些技术和构建块最适合他们的上下文，并可以帮助研究人员设计和评估当前和未来的反事实生成算法。我们的研究结果表明，总的来说，没有一个最好的算法来生成反事实解释，因为性能高度依赖于与数据集，模型，分数和事实点特异性相关的属性。
2021-07-09 cs.AI cs.LG
HyConEx: Hypernetwork classifier with counterfactual explanations for tabular data
Faculty of Mathematics and Computer Science, Jagiellonian University（数学与计算机科学学院，杰兹维日大学）；Wrocław University of Science and Technology（沃拉什大学技术学院）；IDEAS Research Institute（IDEAS研究所）
HyConEx是一种基于深度超网络的表格数据分类器，能够生成反事实解释以解释模型决策并提升可解释性。
2026-03-10 cs.AI cs.LG
Explanation Space: A New Perspective into Time Series Interpretability
University of California（加利福尼亚大学）
本文提出了一种简单有效的方法，使时域训练的时间序列模型能在五种新解释空间中应用现有XAI方法进行解释，无需修改模型或XAI方法，解决了时域特征难以直观呈现和基线值未定义的问题。
2025-04-03 cs.AI cs.LG
Open World Autoencoding Drift Detection with Novel Class Recognition in Tabular Non-stationary Data Streams
Department of Systems and Computer Networks（系统与计算机网络系）；wrocław University of Science and Technology（沃林大学科学与技术学院）
提出一种基于自编码器重构误差的无监督概念漂移检测方法，通过密度估计识别新类样本，利用镜像自编码器独立增量适应变化分布，在合成表格数据流上实验表明与当前最优方法竞争。
2026-05-28 cs.LG
SHAPNN: Shapley Value Regularized Tabular Neural Network
Samsung Display America Lab（三星显示美国实验室）
SHAPNN 提出一种用实时 Shapley 值正则化的深度表格神经网络，在无额外计算开销下提供解释并提升 AUROC、透明度与流式数据鲁棒性。
2023-09-15 cs.AI cs.LG
TabReason: A Reinforcement Learning-Enhanced Reasoning LLM for Explainable Tabular Data Prediction
RBC Borealis
本文提出TabReason方法，利用强化学习训练基于推理的LLM，通过自定义奖励函数引导模型在表格数据预测中兼顾准确性与可解释性。
2025-06-30 cs.LG
Interpretable Concept-Guided Polynomial Tabular Kolmogorov-Arnold Network for EEG-Based Mild Cognitive Impairment Detection
Computer Science Department, University of Kentucky（肯塔基大学计算机科学系）；Institute for Biomedical Informatics, University of Kentucky（肯塔基大学生物医学信息学研究所）
提出CPTabKAN模型，通过概念编码、二阶多项式交互和傅里叶参数化TabKAN分类器，在睡眠EEG数据上实现MCI检测，F1达0.9038。
2026-06-25 cs.AI cs.LG
Improving the Validity of Decision Trees as Explanations
Czech Technical University in Prague（布拉格捷克技术大学）
针对决策树叶节点准确率不均衡导致解释具有误导性的问题，提出通过最小化所有叶节点最大误分类误差训练浅层树以提供全局解释，并结合扩展模型使其性能媲美XGBoost。
2024-06-04 cs.AI cs.LG math.OC
K-IPO: Kendall-constrained Importance Preserving Oversampling for Imbalanced Tabular Data
Department of Informatics and Telecommunications, University of Ioannina（约阿尼纳大学信息与电信系）；Industrial Systems Institute, Athena Research Center（雅典娜研究中心工业系统研究所）；Archimedes Unit, Athena Research Center（雅典娜研究中心阿基米德单位）；Department of Computer Engineering and Informatics, University of Patras（帕特雷大学计算机工程与信息学系）；Department of Mechanical Engineering and Aeronautics, University of Patras（帕特雷大学机械工程与航空系）
研究针对表格分类中过采样会扭曲特征重要性排名的问题，提出K-IPO框架，通过“生成然后选择”保留原始数据特征重要性排名，经实验评估，该方法在多方面表现出色，提升了预测性能且计算开销合理。
2026-07-21 cs.AI cs.LG
Complexity-Budgeted, Interaction-Aware Interpretable Model for Tabular Data
Indian Institute of Management Ahmedabad（印度管理学院艾哈迈达巴德分校）
研究针对表格数据可解释分类器依赖稀疏特征易丢弃交互变量的问题，提出IAIML框架，通过自适应离散化等三种机制处理交互，实验表明其在多数据集上平均AUC与梯度提升模型相近，组件少，在特定数据集表现优，是紧凑且交互感知的框架。
2026-07-09 cs.AI cs.LG
PermuteAttack: Counterfactual Explanation of Machine Learning Credit Scorecards
Borealis AI（北极光人工智能研究院）；Royal Bank of Canada (RBC)（加拿大皇家银行）
本文是关于金融零售信用评分所采用的机器学习（ML）模型的验证和解释的新方向和方法的说明。我们提出的框架从人工智能（AI）安全和对抗性ML领域汲取了动力，在这些领域中，面对ML算法压倒性的复杂性，需要验证ML算法的性能，需要重新思考模型架构选择，敏感性分析和压力测试的传统概念。我们的观点是，当脱离人工智能安全领域时，对抗性扰动的现象具有纯粹的算法根源，并属于模型风险评估的范围。我们提出了一个模型的批评和解释框架的基础上对抗生成的反事实的例子，表格数据。在这种情况下，给定实例的反事实示例被定义为从估计数据分布中采样的合成生成的数据点，该估计数据分布被模型不同地处理。反事实示例可用于提供模型行为的黑盒实例级解释，以及研究输入空间中模型性能恶化的区域。对抗性示例生成算法在图像和自然语言处理（NLP）领域得到了广泛的研究。然而，大多数金融数据都是以表格形式出现的，在这类数据集上简单地应用现有技术会产生不切实际的样本。在本文中，我们提出了一个反事实的例子生成方法，能够处理表格数据，包括离散和分类变量。我们提出的算法使用了基于遗传算法的无梯度优化，因此适用于任何分类模型。
2020-08-28 cs.LG stat.ML
In Search of Grandmother Cells: Tracing Interpretable Neurons in Tabular Representations
KI-Werkstatt University of Applied Sciences Berlin（KI-Werkstatt应用科学大学柏林）
本文提出两种信息论度量，用于量化神经元对单一概念的显著性和选择性，并在表格基础模型TabPFN中发现部分神经元对高层概念具有统计显著的显著性。
2026-01-07 cs.AI cs.LG
Explainable AI for clinical and remote health applications: a survey on tabular and time series data
Institute for Informatics and Telematics (IIT), National Research Council of Italy (CNR)（意大利国家研究委员会（CNR）信息学与电信研究所（IIT））
如今，人工智能（AI）已成为医疗保健应用的基本组成部分，无论是临床还是远程，但性能最好的AI系统往往过于复杂，无法自我解释。可解释人工智能（XAI）技术被定义为揭示系统预测和决策背后的推理，在处理敏感和个人健康数据时，它们变得更加重要。值得注意的是，XAI并没有在不同的研究领域和数据类型中获得同样的关注，特别是在医疗保健领域。特别是，许多临床和远程健康应用程序分别基于表格和时间序列数据，XAI通常不分析这些数据类型，而计算机视觉和自然语言处理（NLP）是参考应用程序。为了概述最适合医疗保健领域表格和时间序列数据的XAI方法，本文对过去5年的文献进行了综述，说明了生成的解释类型以及为评估其相关性和质量所做的努力。具体而言，我们将临床验证、一致性评估、客观和标准化的质量评估以及以人为本的质量评估确定为关键特征，以确保为最终用户提供有效的解释。最后，我们强调了该领域的主要研究挑战以及现有XAI方法的局限性。
2022-09-14 cs.AI cs.LG
Using Causal Analysis for Conceptual Deep Learning Explanation
University of Pittsburgh（匹兹堡大学）；University of Pittsburgh School of Medicine（匹兹堡大学医学院）
模型的可解释性对于在医疗保健领域创建可信的机器学习模型至关重要。理想的解释类似于领域专家的决策过程，并使用对临床医生有意义的概念或术语来表达。为了提供这样的解释，我们首先将分类器的隐藏单元与临床相关概念相关联。我们利用伴随胸部X光图像的放射学报告来定义概念。我们使用线性稀疏逻辑回归发现概念和隐藏单元之间的稀疏关联。为了确保所确定的单元真正影响分类器的结果，我们采用因果推理文献中的工具，更具体地说，通过反事实干预进行调解分析。最后，我们构建了一个低深度的决策树，将所有发现的概念转化为一个简单的决策规则，表达给放射科医生。我们在一个大型胸部X射线数据集上评估了我们的方法，我们的模型产生了与临床知识一致的全局解释。
2021-07-10 cs.CV cs.LG
Evaluating Explainable AI: Which Algorithmic Explanations Help Users Predict Model Behavior?
UNC Chapel Hill（北卡罗来纳大学教堂山分校）
近年来，解释机器学习模型的数学方法激增。我们进行了人类受试者测试，这是同类测试中的第一次，以隔离算法解释对模型可解释性，可模拟性的关键方面的影响，同时避免重要的混淆实验因素。当一个人可以根据新的输入预测其行为时，模型是可模拟的。通过文本和表格数据的两种模拟测试，我们评估了五种解释方法：（1）LIME，（2）锚，（3）决策边界，（4）原型模型，和（5）一个组合的方法，从每种方法的解释。在极少数情况下，发现方法有效性的明确证据：LIME提高了表格分类的可模拟性，我们的原型方法在反事实模拟测试中是有效的。我们也收集解释的主观评分，但我们没有发现评分可以预测解释的帮助程度。我们的研究结果提供了第一个可靠和全面的估计如何解释影响模拟性在各种解释方法和数据域。我们表明，（1）我们需要小心我们用来评估解释方法的指标，（2）目前的方法有很大的改进空间。我们所有的支持代码、数据和模型都可以在https://github.com/peterbhase/InterpretableNLP-ACL2020上公开获取。
2020-05-04 cs.AI cs.CL cs.LG
MBExplainer: Multilevel bandit-based explanations for downstream models with augmented graph embeddings
Discover Financial Services Inc.（发现金融服务公司）
MBExplainer提出一种模型无关解释方法，通过多层级搜索和上下文赌博机，为结合图嵌入与表格特征的下游模型生成包含子图、节点特征和下游特征的三元组解释，并用Shapley值量化贡献。
2024-11-01 cs.AI cs.CE cs.LG
A Framework for Learning Ante-hoc Explainable Models via Concepts
IIT Hyderabad（印度理工学院海得拉巴分校）；IBM Research（IBM研究院）
自解释深度模型被设计为在训练期间隐式地学习基于潜在概念的解释，这消除了对任何事后解释生成技术的需求。在这项工作中，我们提出了一个这样的模型，它在任何基本网络的顶部附加一个解释生成模块，并联合训练整个模块，显示出高预测性能，并生成有意义的概念解释。我们的训练策略适用于无监督概念学习，与基线方法相比，参数空间要求要少得多。我们提出的模型还提供了利用概念的自我监督来提取更好的解释。然而，与最近提出的基于概念的可解释模型相比，通过完整的概念监督，我们实现了最佳的预测性能。我们报告的定性和定量结果与我们的方法，这表明更好的性能比最近提出的基于概念的可解释性方法。我们报告了两个数据集的详尽结果，没有地面实况概念，即，CIFAR 10，ImageNet和两个具有地面真实概念的数据集，即，AwA 2，CUB-200，以显示我们的方法对这两种情况的有效性。据我们所知，我们是第一个用大规模数据集（如ImageNet）显示结果的事前解释生成方法。
2021-11-30 cs.CV cs.LG
OPTIMUS-Prime: Minimal and Sufficient Concept Explanations for Deep Vision Models
Université de Lorraine（洛林大学）；CentraleSupélec Loria（中央超导Loria）；CNRS（国家科学研究中心）；Metz, France（法国梅斯）；Université de technologie de Compiègne UMR CNRS 7253 Heudiasyc（图卢兹技术大学UMR CNRS 7253 Heudiasyc）；France（法国）
提出OPTIMUS框架，基于主蕴含项理论生成视觉热图解释，满足充分性和最小性，提供形式化保证。
2026-06-05 cs.CV cs.LG
Disentangling Tabular Data Towards Better One-Class Anomaly Detection
Xi’an Jiaotong-Liverpool University（西交利物浦大学）；University of Liverpool（利物浦大学）；Duke Kunshan University（昆山杜克大学）
针对单类表格异常检测，提出解耦CorrSets的方法，以改进相关性学习，在20个数据集上平均提升AUC-PR 6.1%和AUC-ROC 2.1%。
2024-12-17 cs.AI cs.LG
Deep Generative Models, Synthetic Tabular Data, and Differential Privacy: An Overview and Synthesis
Queensland University of Technology（昆士兰科技大学）
该综述聚焦表格数据集场景，梳理了深度生成模型用于合成数据生成的最新进展，阐明其在隐私敏感数据场景的价值、优势与底层概念，分析了应用挑战，为相关研究者和从业者提供参考。
2023-08-27 cs.LG stat.AP stat.CO
VisTabNet: Adapting Vision Transformers for Tabular Data
Faculty of Mathematics and Computer Science, Jagiellonian University（数学与计算机科学学院，杰兹维日大学）
VisTabNet通过将表格数据投影为补丁嵌入，使预训练视觉变换器可处理表格数据，在小型数据集上优于传统方法和深度学习模型。
2025-04-25 cs.AI cs.CV cs.LG
An Attention-based Feature Memory Design for Energy-Efficient Continual Learning
Web Information Systems, EEMCS（网络信息系统、电子与机械工程科学系）
本文提出AttenMLP，通过注意力机制的特征记忆设计，实现对表格数据流连续学习的高效节能方案。
2026-02-05 cs.LG
TabKAN: Advancing Tabular Data Analysis using Kolmogorov-Arnold Network
Department of Computer Science, University of Kentucky（卡内基梅隆大学计算机科学系）；Independent Researcher（独立研究者）；Institute for Biomedical Informatics, University of Kentucky（生物医学信息学研究所）
TabKAN通过基于柯尔莫戈罗夫-阿诺尔德网络的框架，提升表格数据分析的性能和可解释性，优于传统和Transformer模型。
2025-12-08 cs.LG
Interpretable Graph Neural Networks for Tabular Data
KTH Royal Institute of Technology（瑞典皇家理工学院）；École Polytechnique, Institut Polytechnique de Paris（巴黎综合理工学院，巴黎理工学院）
针对现有表格数据GNN模型的黑盒问题，提出可解释模型IGNNet，性能与XGBoost等前沿算法相当，且能无额外开销得到与真实Shapley值一致的解释。
2024-08-13 cs.AI cs.LG
Federated Learning for Tabular Data using TabNet: A Vehicular Use-Case
Corporate Research and Development DENSO Automotive Deutschland GmbH（电装德国有限公司企业研发部）
本文首次将TabNet与联邦学习集成，用于车辆场景下对道路障碍物、不规则性及路面类型进行分类，并取得93.6%的最高测试准确率，同时论证了联邦学习对该数据集的适用性。
2024-05-03 cs.LG
Improving Compactness and Reducing Ambiguity of CFIRE Rule-Based Explanations
University of Bonn（波恩大学）；Lamarr Institute（拉马尔研究所）
本文提出了一种事后修剪策略，用于减少基于规则的解释的歧义并提升模型紧凑性，同时保持预测性能。
2026-01-07 cs.LG
Towards Automatic Concept-based Explanations
Stanford University（斯坦福大学）；Google Brain（谷歌大脑）
随着越来越多的机器学习（ML）模型被部署并广泛用于做出重要决策，可解释性已成为一个重要的研究课题。目前的大多数解释方法通过特征重要性分数来提供解释，该分数识别对每个输入重要的特征。然而，如何系统地总结和解释这样的每样本特征重要性分数本身是具有挑战性的。在这项工作中，我们提出了原则和必要的\emph{concept}为基础的解释，它超越了每个样本的功能，以确定更高层次的人类可理解的概念，适用于整个数据集。我们开发了一个新的算法，ACE，自动提取视觉概念。我们的系统实验表明，\alg发现的概念是人类有意义的，连贯的和重要的神经网络的预测。
2019-10-08 cs.CV cs.LG stat.ML
Unveiling the Role of Data Uncertainty in Tabular Deep Learning
HSE University（俄罗斯高等经济大学）；Yandex（Yandex公司）
本研究从数据不确定性视角解释表格深度学习方法的成功机制，剖析相关设计选择的隐性作用，形成统一认知并开发出更有效的数值特征嵌入，为该领域基础理解与技术发展提供方向。
2025-09-04 cs.LG
Explanation Bottleneck Models
NTT（日本电报电话公司）
针对概念瓶颈模型依赖预定义概念的局限，本文提出 XBMs，利用预训练视觉-语言模型生成自然语言解释并据此预测，通过任务损失与解码器蒸馏正则化兼顾性能与解释质量。
2025-02-18 cs.AI cs.CV cs.LG
An Explainable Gaussian Process Auto-encoder for Tabular Data
Electrical Engineering, Columbia University（哥伦比亚大学电子工程系）
针对高风险场景下黑盒模型的可解释需求，提出基于高斯过程的自动编码器反事实生成方法，搭配新型密度估计器与正则化率选择算法，可在表格数据上生成更多样的分布内反事实样本且更不易过拟合。
2025-08-31 cs.AI cs.LG
DEAL: Disentangle and Localize Concept-level Explanations for VLMs
University of Delaware（特拉华大学）
针对VLM细粒度概念解释纠缠和定位错误的问题，提出DEAL方法，通过鼓励概念级解释区分并与类别级解释一致，无需人工标注即可提升解释质量，并减少虚假相关性依赖以提高预测精度。
2024-07-19 cs.AI cs.CV cs.LG
Towards Ground Truth Explainability on Tabular Data
Center for Machine Learning, Capital One（第一资本机器学习中心）；Tandon School of Engineering, New York University（纽约大学坦登工程学院）；Center for Data Science, New York University（纽约大学数据科学中心）；Card Machine Learning and Technology, Capital One（第一资本卡片机器学习与技术部）
在数据科学中，使用合成数据进行方法开发、特征选择和特征工程有着悠久的历史。我们目前对合成数据的兴趣来自于最近对可解释性的研究。今天的数据集通常更大，更复杂-需要更少的可解释模型。在\textit{post hoc}可解释性的设置中，没有用于解释的真值。受最近解释图像分类器提供真值的工作的启发，我们提出了一个类似的解决方案，表格数据。使用copula，数据集所需统计属性的简明规范，用户可以使用受控数据集和实验来建立关于可解释性的直觉。目前的能力证明了三个用例：一维逻辑回归，信息特征的相关性的影响，冗余变量的相关性的影响。
2020-07-20 cs.LG stat.ML
ExplainerPFN: Towards tabular foundation models for model-free zero-shot feature importance estimations
INESC-ID；New York University（纽约大学）
本文提出ExplainerPFN，一种基于TabPFN的表格基础模型，通过预训练合成结构因果数据实现无模型零样本特征重要性估计，展示了其在真实和合成数据集上的竞争力。
2026-05-15 cs.AI cs.LG
Invertible Concept-based Explanations for CNN Models with Non-negative Concept Activation Vectors
The University of Melbourne（墨尔本大学）
用于计算机视觉的卷积神经网络（CNN）模型功能强大，但缺乏最基本形式的可解释性。在重要领域应用CNN时，这种缺陷仍然是一个关键挑战。通过近似线性模型的特征重要性的解释最近的工作已经从输入级特征（像素或片段）转移到概念激活向量（CAV）形式的中间层特征图的特征。CAV包含概念级信息，可以通过聚类学习。在这项工作中，我们重新考虑了Ghorbani等人的ACE算法，提出了一个可替代的可逆的基于概念的解释（ICE）框架，以克服其缺点。基于保真度（近似模型到目标模型）和可解释性（对人们有意义）的要求，我们设计了测量方法，并使用我们的框架评估了一系列矩阵分解方法。我们发现，从非负矩阵分解的非负概念激活向量（NCAV）的计算和人类受试者的实验的基础上，在可解释性和保真度提供卓越的性能。我们的框架为预训练的CNN模型提供了局部和全局概念级的解释。
2021-06-17 cs.AI cs.CV cs.LG
Graph Diffusion Counterfactual Explanation
Machine Learning Group（机器学习组）；TU Berlin（柏林技术大学）；BASLEARN-TU Berlin/BASF Joint Laboratory（柏林技术大学/巴斯夫联合实验室）
本文提出图扩散反事实解释框架，结合离散扩散模型和分类器无关引导，有效生成图数据的反事实解释。
2025-11-20 cs.LG
What will it take to generate fairness-preserving explanations?
Brown University（布朗大学）；Harvard University（哈佛大学）
在解释黑箱模型可能有用的情况下，黑箱的公平性往往也是一个相关的问题。然而，黑箱模型的公平性和对黑箱的解释行为之间的联系尚不清楚。我们专注于应用于表格数据集的解释，这表明解释不一定保持黑盒算法的公平性。换句话说，解释算法可能会忽略或模糊关键的相关属性，从而产生不正确或误导性的解释。更广泛地说，我们提出了未来的研究方向，以评估和生成解释，使它们从公平的角度提供信息和相关。
2021-06-24 cs.AI cs.CY cs.LG
XNNTab -- Interpretable Neural Networks for Tabular Data using Sparse Autoencoders
Marburg University（马尔堡大学）
XNNTab结合神经网络的表达能力和可解释性，通过稀疏自编码器提取非线性特征并赋予人类可理解的概念，提升模型可解释性并优于传统可解释模型。
2026-03-27 cs.LG
Beyond Attribution: Unified Concept-Level Explanations
School of Computer Science, Peking University, Beijing 100871, China（北京大学计算机科学学院）；Key Lab of High Confidence Software Technologies (Peking University), Ministry of Education（高可信软件技术重点实验室（北京大学））
UNCLE框架通过扩展局部模型无关方法，提供统一的概念层面解释，提升解释的忠实度和多样性。
2026-02-26 cs.LG
