Contextual Local Explanation for Black Box Classifiers
我们介绍了一种新的模型不可知的解释技术，它解释了任何分类器的预测称为CLE。CLE给出了一个忠实的和可解释的解释的预测，通过近似的模型局部使用一个可解释的模型。我们通过解释文本、表格和图像分类的不同模型来展示CLE的灵活性，并通过模拟用户实验来展示CLE的保真度。
2019-10-02 cs.LG stat.ML
Categorical Traffic Transformer: Interpretable and Diverse Behavior Prediction with Tokenized Latent
NVIDIA Research（英伟达研究院）；University of California, San Diego（加利福尼亚大学圣迭戈分校）；Stanford University（斯坦福大学）
本文提出Categorical Traffic Transformer（CTT），通过可解释的令牌化隐空间直接监督隐变量以避免模式坍缩，在提升预测精度的同时生成语义多样化的行为，并支持与LLM集成实现常识推理和零样本泛化。
2023-11-30 cs.CV cs.LG cs.RO
An interpretable semi-supervised classifier using two different strategies for amended self-labeling
Vrije Universiteit Brussel（布鲁塞尔自由大学）；Queens University Belfast（英国女王大学贝尔法斯特分校）
在某些机器学习应用程序的上下文中，获取数据实例是一个相对容易的过程，但标记它们可能会变得非常昂贵或繁琐。这样的场景会导致数据集具有很少的标记实例和大量的未标记实例。半监督分类技术在学习阶段结合标记和未标记的数据，以提高分类器的泛化能力。遗憾的是，大多数成功的半监督分类器不允许解释其结果，因此表现得像黑匣子。然而，有越来越多的问题领域中，专家需要一个清晰的理解决策过程。在本文中，我们报告了一个扩展的实验研究，提出了一个可解释的自标记灰盒分类器，使用黑盒子来估计缺失的类标签和白盒子来解释最终的预测。两种不同的方法来修改自标记过程进行了探讨：第一个基于黑盒的信心，后者的基础上从粗糙集理论的措施。扩展实验研究的结果支持我们的分类器的透明性和简单性的手段的可解释性，同时获得优越的预测率相比，在文献中报道的最先进的自标记分类器。
2020-07-20 cs.LG stat.ML
An Explainable Probabilistic Classifier for Categorical Data Inspired to Quantum Physics
Institute of Financial Analysis（金融分析研究所）；Université de Neuchâtel（纳沙泰尔大学）；Università degli Studi di Milano（米兰大学）
本文提出了稀疏张量分类器（STC），一个监督分类算法的分类数据的启发，在量子物理学的状态叠加的概念。通过将观测视为特征的叠加，我们在机器学习中引入了波粒二象性的概念，并提出了一个统一经典和量子概率的广义框架。我们表明，STC具有广泛的理想属性，大多数其他机器学习方法中没有，但它是在同一时间非常容易理解和使用。STC对结构化数据和文本分类的实证评估表明，与标准分类器和深度学习相比，我们的方法实现了最先进的性能，额外的好处是需要最少的数据预处理和超参数调整。此外，STC为单个实例和全局每个目标标签提供了其预测的本地解释。
2021-05-26 cs.AI cs.LG quant-ph
Conditional Autoregressors are Interpretable Classifiers
Australian National University（澳大利亚国立大学）
我们探索使用类条件自回归（CA）模型进行图像分类MNIST-10。自回归模型通过组合来自每个单独特征的概率来将概率分配给整个输入;因此CA所做的分类决策可以很容易地分解为每个输入特征的贡献。也就是说，CA本质上是局部可解释的。我们的实验表明，与标准分类器相比，天真地训练CA的准确率要差得多，但这是由于过度拟合而不是缺乏表达能力。使用来自标准分类器的知识蒸馏，可以训练学生CA以匹配教师的表现，同时仍然是可解释的。
2022-03-31 cs.LG
Statistical-Neural Interaction Networks for Interpretable Mixed-Type Data Imputation
Graduate School of Human Sciences, Waseda University（早稻田大学人类科学研究生院）；Faculty of Human Sciences, Waseda University（早稻田大学人类科学学院）
SNI通过结合统计先验和神经注意力实现可解释的混合类型数据填补，提供依赖诊断和权衡参数，优于部分基线方法。
2026-01-18 cs.LG stat.ML
Training speech emotion classifier without categorical annotations
Le Mans University（勒芒大学）；LIUM（勒芒大学计算机实验室）
情感表征有两种范式：范畴标注和连续空间中的维度描述。因此，情绪识别任务可以被视为分类或回归。本研究的主要目的是调查这两种表示之间的关系，并提出了一个分类管道，只使用尺寸标注。所提出的方法包含一个回归模型，该模型被训练来预测给定语音音频的维度表示中的连续值的向量。该模型的输出可以使用映射算法解释为情感类别。我们研究了三个特征提取器，三个神经网络架构和三个映射算法在两个不同语料库上的组合的性能。我们的研究表明，通过回归方法的分类的优点和局限性。
2022-10-14 cs.CL cs.HC cs.LG
IntroVAC: Introspective Variational Classifiers for Learning Interpretable Latent Subspaces
University of Padova（帕多瓦大学）
学习复杂数据的有用表示多年来一直是广泛研究的主题。随着深度神经网络的普及，变分自编码器获得了大量关注，因为它们基于编码器/解码器架构提供了数据分布的显式模型，该架构能够生成图像并在低维子空间中对其进行编码。然而，潜在的空间是不容易解释和生成能力显示出一些限制，因为图像通常看起来模糊，缺乏细节。在本文中，我们提出了内省变分分类器（IntroVAC），该模型通过利用来自附加标签的信息来学习可解释的潜在子空间，并通过对抗训练策略来提高图像质量。我们表明，IntroVAC能够学习潜在空间中有意义的方向，从而实现对图像属性的细粒度操作。我们在CelebA数据集上验证了我们的方法。
2020-09-14 cs.CV cs.LG stat.ML
A Deep Learning Interpretable Classifier for Diabetic Retinopathy Disease Grading
Universitat Rovira i Virgili（罗维拉-威尔吉利大学）
深度神经网络模型已被证明在图像分类任务中非常成功，也适用于医疗诊断，但其主要问题是缺乏可解释性。它们曾经作为直觉机器工作，具有很高的统计置信度，但无法对报告的结果给出可解释的解释。这些模型的参数数量庞大，很难从中推断出合理的解释。在本文中，我们提出了一种糖尿病视网膜病变可解释的分类器，能够将视网膜图像分类到不同的疾病严重程度，并通过为隐藏空间和输入空间中的每个点分配一个分数来解释其结果，以线性方式评估其对最终分类的贡献。生成的可视化地图可以由专家进行解释，以便将自己的知识与模型给出的解释进行比较。
2017-12-21 cs.CV cs.LG stat.ML
Efficient Parameter Estimation for Bayesian Network Classifiers using Hierarchical Linear Smoothing
Faculty of Information Technology Monash University（信息技术学院莫纳什大学）
提出一种基于对数线性回归的分层线性平滑参数估计方法，使贝叶斯网络分类器在分类数据上性能优于HDP平滑且速度快数个数量级，保持与随机森林相媲美的竞争力。
2025-05-29 cs.LG stat.ML
RandomSCM: interpretable ensembles of sparse classifiers tailored for omics data
Université Laval（拉瓦尔大学）；Element AI, a ServiceNow company（ServiceNow旗下Element AI公司）
背景：理解组学和表型之间的关系是精准医学的核心问题。代谢组学数据的高维性对学习算法的可扩展性和泛化能力提出了挑战。大多数学习算法不产生可解释的模型-方法：我们提出了一个集成的学习算法基于合取或析取的决策规则。结果：代谢组学数据的应用表明，它产生的模型具有很高的预测性能。模型的可解释性使得它们对于高维数据中的生物标志物发现和模式发现非常有用。
2022-08-11 cs.LG
Injecting Categorical Labels and Syntactic Information into Biomedical NER
KU Leuven（鲁汶大学）
本研究提出向生物医学NER模型注入类别标签与词性信息的两种方法，包括蕴含式序列分类注入和联合学习注入，实验证明该方法优于基于BERT的基线模型。
2023-11-06 cs.CL cs.IR cs.LG
A Unified and Fast Interpretable Model for Predictive Analytics
Renmin University of China（中国人民大学）；Microsoft Research Asia（微软亚洲研究院）；Southeast University（东南大学）；University of Science and Technology of China（中国科学技术大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
预测分析旨在构建机器学习模型来预测行为模式，并使用预测来指导决策。预测分析涉及人，因此优选机器学习模型是可解释的。在文献中，广义加性模型（GAM）是可解释性的标准。然而，由于现实世界中常见的一对多和多对一现象，现有的GAM在准确性和训练效率方面都存在局限性。在本文中，我们提出了FXAM（Fast and eXplainable Additive Model），这是一个用于预测分析的统一且快速的可解释模型。FXAM扩展了GAM的建模能力，为数值，分类和时间特征提供了统一的加性模型。FXAM进行了一种称为三阶段迭代（TSI）的新训练程序。TSI分别对应于对数值、分类和时间特征的学习。每个阶段通过固定其他阶段的参数来学习局部最优。我们设计了分类特征上的联合学习和时间特征上的部分学习，以实现高精度和训练效率。我们证明了TSI是保证收敛到全局最优。我们进一步提出了一套优化技术，以加快FXAM的训练算法，以满足交互式分析的需要。对不同数据集进行的全面评估验证了FXAM在训练速度以及建模分类和时间特征方面明显优于现有的GAM。在可解释性方面，我们在两个真实场景中将FXAM与典型的事后方法XGBoost+SHAP进行了比较，这显示了FXAM固有的预测分析可解释性的优越性。
2023-03-11 cs.LG
Simulating Biases for Interpretable Fairness in Offline and Online Classifiers
Faculdade de Engenharia da Universidade do Porto（葡萄牙波尔图大学工程学院）；Laboratory for Artificial Intelligence and Computer Science (LIACC)（人工智能与计算机科学实验室）
本文提出一个具有可控偏见注入的合成数据集生成框架，基于智能体模型模拟贷款申请中的系统性偏见，并采用二阶 Shapley 值技术解释缓解措施对分类器特征利用的影响，在离线和在线学习环境中验证了其有效性。
2025-07-14 cs.LG stat.ML
Density-based interpretable hypercube region partitioning for mixed numeric and categorical data
IBM Research（IBM研究院）
考虑一个结构化的特征数据集，比如$\{\textrm{SEX}, \textrm{INCOME}, \textrm{RACE}, \textrm{EXPERIENCE}\}$。用户可能想要知道特征空间中的观察集中在哪里，以及它在哪里是稀疏的或空的。大的稀疏或空区域的存在可以提供软或硬特征约束的领域知识（例如，什么是典型的收入范围，或者它可能不太可能有一个高收入与几年的工作经验）。此外，这些可以向用户建议，针对稀疏或空区域中的数据输入的机器学习（ML）模型预测可能是不可靠的。可解释区域是一个超矩形，例如$\{\textrm{RACE} \in\{\textrm{Black}, \textrm{White}\}\}\:\&$ $\{10 \leq \:\textrm{EXPERIENCE} \:\leq 13\}$，包含满足约束的所有观测;通常，此类区域由少量特征定义。我们的方法构造了一个基于观测密度的分区的观察到的特征空间在数据集中到这样的区域。它比其他方法有很多优点，因为它可以处理原始域中的混合类型（数值或分类）的特征，并且还可以分离出空区域。从可视化中可以看出，所得到的分区符合人眼可能识别的空间分组;因此，结果应该扩展到更高的维度。我们还展示了分区在其他数据分析任务中的一些应用，例如推断ML模型误差，测量高维密度变异性以及治疗效果的因果推断。这些应用中的许多应用通过分区区域的超矩…
2021-11-08 cs.LG stat.AP
Tree Space Prototypes: Another Look at Making Tree Ensembles Interpretable
Cornell University（康奈尔大学）
决策树的集合在许多问题上表现良好，但不可解释。在现有的方法，专注于解释功能和预测之间的关系的可解释性相比，我们提出了一种替代方法来解释树集成分类器的表面代表点为每个类-原型。我们为梯度提升树模型引入了新的距离，并提出了具有理论保证的新的自适应原型选择方法，可以灵活地在每个类中选择不同数量的原型。我们在随机森林和梯度提升树上展示了我们的方法，表明当用作最近原型分类器时，原型可以表现得与原始树集成一样好，甚至更好。在一项用户研究中，人类在使用原型时比使用Shapley值（一种流行的特征归因方法）时更善于预测树集成分类器的输出。因此，原型提出了一个可行的替代功能为基础的解释树合奏。
2020-08-25 cs.LG stat.ML
Interpretable Sequence Classification via Discrete Optimization
University of Toronto（多伦多大学）；Vector Institute（向量研究所）；Schwartz Reisman Institute for Technology and Society（施瓦茨·赖斯曼技术与社会研究所）
序列分类是在给定观测序列的情况下预测类别标签的任务。在医疗监控或入侵检测等许多应用中，早期分类对于及时干预至关重要。在这项工作中，我们学习序列分类器，有利于早期分类从不断变化的观察轨迹。虽然许多最先进的序列分类器是神经网络，特别是LSTM，但我们的分类器采用有限状态自动机的形式，并通过离散优化进行学习。我们的基于自动机的分类器是可解释的-支持解释，反事实推理和人在环修改-并且具有很强的经验性能。在一套目标识别和行为分类数据集上的实验表明，我们学习的基于自动机的分类器具有与基于LSTM的分类器相当的测试性能，并且具有可解释的额外优势。
2020-10-06 cs.AI cs.LG
Large scale modeling of antimicrobial resistance with interpretable classifiers
抗生素耐药性是一个重要的公共卫生问题，在世界范围内的医学实践中具有影响。从基因组序列中准确预测耐药表型，通过确定哪些抗生素可能在特定临床病例中有效，在促进更好地使用抗菌药物方面显示出巨大的希望。在医疗保健领域，这将允许为特定个体设计治疗计划，可能会为细菌感染患者带来更好的临床结果。在这项工作中，我们介绍了Drouin等人最近的工作。（2016）使用集合覆盖机器学习高度可解释的抗生素耐药性模型，并通过将其方法大规模应用于整个PATRIC数据库来补充它。我们报告了36个新数据集的预测结果，并介绍了Kover AMR平台，这是一个新的基于网络的工具，可以对生成的模型进行可视化和解释。
2016-12-03 cs.LG q-bio.GN stat.ML
Interpretable classifiers using rules and Bayesian analysis: Building a better stroke prediction model
Massachusetts Institute of Technology（麻省理工学院）；University of Washington（华盛顿大学）；Columbia University（哥伦比亚大学）
我们的目标是生成不仅准确，而且可由人类专家解释的预测模型。我们的模型是决策列表，其中包括一系列的如果...然后...语句（例如，如果是高血压，则是中风），其将高维、多变量特征空间离散化为一系列简单、易于解释的决策语句。我们引入了一个生成模型称为贝叶斯规则列表，产生一个后验分布可能的决策列表。它采用了一种新的先验结构，以鼓励稀疏。我们的实验表明，贝叶斯规则列表的预测精度与当前机器学习中的顶级预测算法相当。我们的方法是由个性化医疗的最新发展，并可用于产生高度准确和可解释的医疗评分系统的动机。我们通过产生CHADS $_2$评分的替代方案来证明这一点，该评分在临床实践中被积极用于估计房颤患者的卒中风险。我们的模型与CHADS $_2$一样可解释，但更准确。
2015-11-05 cs.LG stat.AP stat.ML
Interpretable Deep Neural Networks for Facial Expression and Dimensional Emotion Recognition in-the-wild
Imperial College London（帝国理工学院）
在这个项目中，我们创建了一个数据库，其中包含两种用于情感识别领域的注释：动作单元和效价唤醒，以尝试比只有一个模型获得更好的结果。该方法的独创性也基于用于执行情感预测的架构类型：分类生成对抗网络。由于其生成网络，这种双网络可以基于新数据集的图片生成图像，并由于其判别网络决定图像是假还是真，以及由于其分类性质而有助于预测动作单位和价唤醒的注释。GANs仅在动作单元模型上训练，然后仅在价唤醒模型上训练，然后在动作单元模型和价唤醒模型上训练，以测试不同的参数并了解它们的影响。GANs的生成和判别方面已经取得了有趣的结果。
2019-12-13 cs.CV cs.LG stat.ML
Integrating White and Black Box Techniques for Interpretable Machine Learning
Osaka Metropolitan University（大阪公立大学）
针对机器学习算法可解释性与性能难以兼顾的问题，提出一种集成分类器设计，用白盒模型处理简单输入、黑盒模型处理复杂输入，兼顾可解释性与性能。
2024-07-12 cs.LG
Interpretable Rule Discovery Through Bilevel Optimization of Split-Rules of Nonlinear Decision Trees for Classification Problems
Michigan State University（密歇根州立大学）
对于涉及设计，控制，其他实际目的的监督分类问题，用户不仅有兴趣找到一个高精度的分类器，但他们也要求得到的分类器是容易解释的。虽然分类器的可解释性的定义可以因情况而异，但在这里，通过人类可解释的分类器，我们将其限制为用简单的数学术语表示。作为一种新的方法，我们表示一个简单的数学规则，使用非线性决策树（NLDT）的组合分类器。树的每个条件（非终端）节点表示涉及特征的非线性数学规则（分裂规则），以便将给定条件节点中的数据集划分为两个不重叠的子集。这种划分旨在最小化结果子节点的不纯性。通过限制每个条件节点上的分裂规则结构和决策树的深度，保证了分类器的可解释性。在一个给定的条件节点的非线性分裂规则是使用进化的双层优化算法，而上层集中在到达一个可解释的结构的分裂规则，较低的水平实现最合适的权重（系数）的规则的各个组成部分，以最大限度地减少净杂质的两个子节点。所提出的算法的性能证明了一些控制测试问题，现有的基准问题，和工业问题。两个到500个特征问题的结果是令人鼓舞的，并开辟了进一步的范围，应用所提出的方法，更具有挑战性和复杂的分类任务。
2020-08-02 cs.LG cs.NE stat.ML
Interpretable Set Functions
Google Research（谷歌研究院）
我们建议学习灵活但可解释的函数，这些函数聚合一组可变长度的置换不变特征向量来预测标签。我们使用深度格型网络模型，因此我们可以构建模型结构以增强可解释性，并在输入和输出之间添加单调性约束。然后，我们使用所提出的集合函数来自动化从稀疏分类特征中提取密集的、可解释的特征，我们称之为语义特征引擎。在真实数据上的实验表明，所实现的精度类似于深度集或深度神经网络，并且更容易调试和理解。
2018-05-31 cs.AI cs.LG stat.ML
Interpretable classifiers for tabular data via discretization and feature selection
Tampere University（坦佩雷大学）
本文提出一种通过离散化和特征选择生成短布尔公式的方法，以构建可解释且准确的表格数据分类器，实验证明其准确率与随机森林等方法相当。
2024-09-18 cs.AI cs.LG cs.LO
Clinically Interpretable Biological Age Estimation Using CatBoost and SHAP with Continuous and Categorical Features from NHANES
Northern Center for Learning and Innovation（北部学习与创新中心）
该研究基于NHANES的异质性临床数据，采用CatBoost模型结合SHAP的自动化定量分析，实现了临床可解释的生物年龄估计，为生物衰老研究和精准健康提供了方法学基础。
2026-10-16 cs.LG stat.CO
iCaps: An Interpretable Classifier via Disentangled Capsule Networks
Seoul National University（首尔大学）
我们提出了一个可解释的胶囊网络，iCaps，用于图像分类。胶囊是嵌套在每一层中的一组神经元，最后一层中的一个被称为类胶囊，它是一个向量，其范数表示该类的预测概率。使用类胶囊，现有的胶囊网络已经提供了一定程度的可解释性。然而，有两个限制降低了它的可解释性：1）类胶囊也包括分类无关的信息，和2）由类胶囊重叠表示的实体。在这项工作中，我们使用一种新的类监督解纠缠算法和一个额外的正则化，分别解决这两个限制。通过对三个数据集的定量和定性评估，我们证明了所得到的分类器iCaps提供了一个预测，并在其背后提供了明确的理由，而没有性能下降。
2020-08-20 cs.CV cs.LG
Gradient-based adversarial attacks on categorical sequence models via traversing an embedded world
Skolkovo Institute of Science and Technology（斯科尔科沃科学技术研究院）
深度学习模型遭受一种称为对抗攻击的现象：我们可以对模型输入进行微小的更改，以欺骗特定示例的分类器。文献主要考虑对具有图像和其他结构化输入的模型的对抗攻击。然而，对分类序列的对抗攻击也可能是有害的。对分类序列形式的输入的成功攻击应该解决以下挑战：（1）目标函数的不可微性，（2）对初始序列变换的约束，以及（3）可能问题的多样性。我们使用两种黑盒对抗攻击来处理这些挑战。第一种方法采用蒙特卡罗方法，并允许在任何情况下使用，第二种方法使用模型和目标度量的连续松弛，从而允许使用最先进的方法进行对抗攻击，而无需额外的努力。货币交易、医疗欺诈和NLP数据集的结果表明，所提出的方法生成了合理的对抗序列，这些序列接近原始序列，但欺骗了机器学习模型。
2020-10-12 cs.LG stat.ML
Globally Interpretable Classifiers via Boolean Formulas with Dynamic Propositions
Tampere University（坦佩雷大学）
本文提出一种基于动态命题布尔公式和Answer Set Programming的方法，从表格数据中提取简短且直接人类可理解的分类器，在七个数据集上准确率与XGBoost和随机森林相似，但克服了黑盒缺陷。
2024-06-03 cs.AI cs.LG cs.LO
Interpretable Time Series Classification using All-Subsequence Learning and Symbolic Representations in Time and Frequency Domains
Insight Centre for Data Analytics（洞察数据分析中心）；University College Dublin（都柏林大学学院）
时间序列分类文献在过去十年中迅速扩展，每年都有许多新的分类方法出版。研究的重点大多集中在提高分类器的准确率和效率上，而其可解释性却受到一定程度的忽视。分类器的可解释性已成为许多应用领域的关键约束，2018年5月GDPR欧盟立法引入的“解释权”可能会进一步强调可解释的学习算法的重要性。在这项工作中，我们分析了最先进的时间序列分类，并提出了新的算法，旨在保持分类器的准确性和效率，但保持可解释性作为一个关键的设计约束。我们提出了新的时间序列分类算法，通过实现以下三个关键思想来推进最新技术水平：（1）符号近似的多分辨率：我们组合使用不同参数获得的符号表示;（2）多域表示：我们在时间上组合符号近似（例如，SAX）和频率（例如，SFA）结构域;（3）巨大的符号词空间的有效导航：我们采用名为SEQL的符号序列分类器，使其与多个域表示（例如，SAX-SEQL，SFA-SEQL），并使用其贪婪的特征选择策略来有效地过滤每个表示的最佳特征。我们发现，多分辨率多域线性分类器SAX-SFA-SEQL实现了与最先进的COTE集成和最近的深度学习方法（FCN）相似的准确性，但使用COTE或FCN所需时间的一小部分。我们讨论了我们提出的算法的准确性，效率和可解释性。为了进一步分析我们的分类器的可解释性方面，我们提出了一个生态基准的案例研究。
2018-08-12 cs.LG stat.ML
lgpr: An interpretable nonparametric method for inferring covariate effects from longitudinal data
Aalto University（阿尔托大学）
纵向研究设计对于研究疾病进展是必不可少的。然而，从纵向数据推断协变量效应需要可解释的方法，这些方法可以对复杂的协变量结构进行建模，并检测分类和连续协变量的非线性效应以及它们的相互作用。检测疾病影响的障碍在于，它们通常在疾病开始时间附近迅速发生，并且无法准确观察到该时间点。另一个挑战是，受试者之间的效应幅度可能是异质的。我们提出lGPR，一个广泛适用的和可解释的方法，非参数分析的纵向数据使用加性高斯过程。我们证明，它优于以前的方法，在确定相关的分类和连续的协变量在各种设置。此外，它还实现了重要的新功能，包括解释协变量效应的异质性、其时间不确定性以及不同类型生物医学数据的适当观察模型的能力。lgpr工具是作为一个全面和用户友好的R包实施的。LGPR可在jtimonen.github.io/lgpr-usage上获得，其具有文档、教程、测试数据和用于再现本文实验的代码。
2020-10-08 cs.LG q-bio.QM stat.ME
MAIRE -- A Model-Agnostic Interpretable Rule Extraction Procedure for Explaining Classifiers
Indian Institute of Technology Ropar（印度理工学院罗帕尔分校）
本文介绍了一种新的框架，用于提取模型无关的人类可解释的规则来解释分类器的输出。人类可解释的规则被定义为一个轴对齐的超长方体包含的实例，分类决策必须加以解释。所提出的过程找到最大（高\textit{coverage}）轴对齐的超立方体，使得超立方体中的高百分比的实例具有与被解释的实例（高\textit{precision}）相同的类标签。新的近似的覆盖范围和精度的措施方面的参数的超长方体的定义。使用基于梯度的优化器将它们最大化。的近似的质量进行了严格的理论分析和实验。启发式简化生成的解释，以实现更好的解释性和贪婪的选择算法，结合本地的解释，为覆盖了很大一部分的实例空间的模型创建全局解释也提出了。该框架是模型不可知的，可以应用于任何任意分类器和所有类型的属性（包括连续，有序和无序离散）。该框架的广泛适用性在来自不同领域（表格，文本和图像）的各种合成和真实世界的数据集上进行了验证。
2020-11-03 cs.AI cs.LG
Categorical Representation Learning and RG flow operators for algorithmic classifiers
Harvard University（哈佛大学）；University of Miami（迈阿密大学）；National Research University Higher School of Economics（国立研究型大学高等经济学院）；University of California San Diego（加州大学圣地亚哥分校）；QGNai INC.（QGNai公司）
在前两位作者的范畴表示学习（arXiv：2103.14770）的早期形式化之后，我们讨论了“基于RG流的范畴化器”的构造。借鉴量子场论中的重整化群流（RG）理论、全息对偶和双曲几何的思想，并将其与神经ODE相结合，我们构建了一个新的算法自然语言处理（NLP）架构，称为RG流分类器或简称RG分类器，它能够在所有层中进行数据分类和生成。我们将我们的算法平台应用于生物医学数据集，并展示了其在序列到功能映射领域的性能。特别是，我们将RG分类器应用于流感病毒的特定基因组序列，并展示了我们的技术如何能够从给定的基因组序列中提取信息，找到它们隐藏的对称性和主要特征，对它们进行分类，并使用训练数据对与新病毒集相关的新的合理生成序列进行随机预测，这些新病毒可以避免人类免疫系统。当前文章的内容是前两位作者最近提交的美国专利申请的一部分（美国专利申请号：63/313.504）。
2022-03-15 cond-mat.dis-nn cs.AI cs.LG
Personalized Interpretable Classification
School of Software, Dalian University of Technology（大连理工大学软件学院）；School of Software Engineering, Dalian University（大连大学软件工程学院）
该研究首次提出个性化可解释分类这一新数据挖掘问题，设计了PIC贪心算法及快速近似算法fPIC，实验证明其准确率达现有可解释分类器水平，在乳腺癌转移预测任务上表现更优。
2025-03-19 cs.LG
A novel method for extracting interpretable knowledge from a spiking neural classifier with time-varying synaptic weights
Nanyang Technological University（南洋理工大学）；Institute for Infocomm Research, Agency for Science, Technology and Research（科技研究局资讯通信研究院）；Indian Institute of Science（印度科学学院）
本文提出了一种新的方法，在MC-SEFRON分类器的信息解释。为了开发一种方法来提取存储在训练好的分类器中的知识，首先，将先前开发的二进制类SEFRON分类器扩展到处理多类问题。MC-SEFRON使用总体编码方案将实值输入数据编码为尖峰模式。MC-SEFRON使用与SEFRON相同的监督学习规则进行训练。在训练之后，所提出的方法通过将时域中的加权突触后电位映射到特征域作为特征强度函数（FSF）来提取存储在分类器中的给定类的知识。对应于每个输出类的一组FSF表示从分类器提取的知识。这种知识编码方法的推导，以保持在时域和特征域的分类之间的一致性。FSF的正确性定量测量直接使用FSF分类任务。对于给定的输入，每个FSF在输入值处被采样以获得对应的特征强度值（FSV）。然后，在分类期间使用针对每个类获得的聚合FSV来确定输出类标签。FSV还用于在分类任务期间解释预测。利用10个UCI数据集和MNIST数据集，证明了FSF的知识提取方法、解释和可靠性。研究结果表明，对于UCI数据集和MNIST数据集，直接使用FSF的分类精度与MC-SEFRON的分类精度的平均差异仅为0.9%和0.1%左右。这清楚地表明，由FSF表示的知识具有可接受的可靠性，并且使用分类器的知识的分类的可解释性已被证明是合理的。
2019-02-28 cs.LG cs.NE stat.ML
Explaining the Predictions of Any Image Classifier via Decision Trees
Lenovo Research（联想研究院）；University of Chinese Academy of Sciences（中国科学院大学）
尽管深度学习模型对人工智能（AI）的重大进展做出了突出贡献，但大多数仍然是黑箱，其推理过程和预测结果的可解释性非常弱。可解释性不仅是人工智能与社会之间的门户，也是检测模型缺陷和数据偏差的强大工具。局部可解释模型不可知解释（LIME）是最近的一种方法，它使用可解释模型来形成对单个预测结果的局部解释。LIME的当前实现采用线性回归作为其可解释函数。然而，由于受到限制并且通常过度简化关系，线性模型在特征和预测结果之间存在非线性关联和相互作用的情况下失败。本文实现了一种基于决策树的LIME方法，该方法使用决策树模型来形成局部忠实于原始模型的可解释表示。Tree-LIME方法可以捕获数据中特征之间的非线性相互作用，并创建合理的解释。各种实验表明，Tree-LIME对多个黑盒模型的解释在可理解性、保真度和效率方面可以实现更可靠的性能。
2020-02-10 cs.AI cs.LG stat.ML
Efficient Learning of Interpretable Classification Rules
National University of Singapore（新加坡国立大学）
机器学习在医疗、法律和交通等各种安全关键领域的应用中已经变得无所不在。在这些领域，机器学习提供的高风险决策要求研究人员设计可解释的模型，其中预测是人类可以理解的。在可解释的机器学习中，基于规则的分类器在通过包括输入特征的一组规则来表示决策边界方面特别有效。基于规则的分类器的可解释性通常与规则的大小有关，其中较小的规则被认为更具可解释性。为了学习这样的分类器，暴力直接方法是考虑一个优化问题，该问题试图学习具有接近最大准确度的最小分类规则。由于其组合性质，该优化问题在计算上是棘手的，因此，该问题在大型数据集中不可扩展。为此，在本文中，我们研究的准确性，可解释性和可扩展性的学习规则为基础的分类之间的三角关系。本文的贡献是一个可解释的学习框架IMLI，这是基于最大可满足性（MaxSAT）的综合分类规则表达的命题逻辑。尽管MaxSAT解决方案在过去十年中取得了进展，但基于MaxSAT的简单解决方案无法扩展。因此，我们将一个有效的增量学习技术内的MaxSAT配方，通过集成小批量学习和迭代规则学习。在我们的实验中，IMLI在预测准确性、可解释性和可扩展性之间实现了最佳平衡。作为一个应用程序，我们部署IMLI在学习流行的可解释的分类器，如决策列表和决策集。
2022-08-30 cs.AI cs.LG
MCPNet: An Interpretable Classifier via Multi-Level Concept Prototypes
National Yang Ming Chiao Tung University（国立阳明交通大学）；NVIDIA Research（英伟达研究院）
提出内在可解释模型MCPNet，利用CKA损失和能量加权PCA机制自主跨多级特征图学习概念原型，并通过CCD损失对齐原型分布进行分类，在保持准确率的同时提供全面多级解释并提升少样本泛化能力。
2024-04-23 cs.CV cs.LG
Interpretable and Fair Mechanisms for Abstaining Classifiers
University of Antwerp（安特卫普大学）；Scuola Normale Superiore（比萨高等师范学校）
针对弃权分类器仅为多数群体减少错误导致群体性能差异增大且现有方法缺乏可解释性的问题，本文提出IFAC算法，基于不确定性和不公平性拒绝预测，减少非拒绝数据的群体差异，通过规则公平性检查和情境测试实现透明流程，助力人类决策。
2025-04-14 cs.AI cs.LG
Spatial Action Unit Cues for Interpretable Deep Facial Expression Recognition
ÉTS（ÉTS（蒙特利尔工程学院））；Concordia Univ.（康考迪亚大学）；Montreal Behavioural Medicine Centre（蒙特利尔行为医学中心）
本文提出一种将空间动作单元线索显式纳入深度分类器训练的新策略，通过约束空间层特征与AU热图相关，在不降低分类性能的前提下提升面部表情识别模型的可解释性。
2024-10-01 cs.CV cs.LG
Deformable ProtoPNet: An Interpretable Image Classifier Using Deformable Prototypes
University of Maine（缅因大学）；Duke University（杜克大学）
本文提出Deformable ProtoPNet，通过引入空间灵活的可变形原型部件来捕捉姿态变化和上下文，在保持基于案例推理可解释性的同时提升了图像分类准确性和解释丰富性。
2024-05-02 cs.AI cs.CV cs.LG
An Online Learning Algorithm for a Neuro-Fuzzy Classifier with Mixed-Attribute Data
University of Technology Sydney（悉尼科技大学）；Advanced Analytics Institute（高级分析研究所）；Faculty of Engineering and Information Technology（工程与信息技术学院）
广义模糊最小最大神经网络（GFMMNN）是一种用于数据分类的有效神经模糊系统。然而，其原始学习算法的缺点之一是无法处理和学习混合属性数据。虽然分类特征编码方法可以与GFMMNN学习算法一起使用，但它们表现出许多缺点。文献中提出的其他方法不适合在线学习，因为它们需要在学习阶段可用的整个训练数据。随着流数据的数量和速度在许多应用领域中的快速变化，越来越多地要求所构建的模型能够实时学习和适应连续的数据变化，而不需要对其进行全面的重新训练或访问历史数据。提出了一种GFMMNN的扩展在线学习算法。该方法可以处理具有连续和分类特征的数据集。大量的实验证实了优越的和稳定的分类性能相比，其他相关的学习算法的GFMM模型的方法。
2020-09-30 cs.LG cs.NE stat.ML
Exploring Neural Ordinary Differential Equations as Interpretable Healthcare classifiers
Columbia University（哥伦比亚大学）
针对深度学习黑盒决策在医疗等领域引发的信任问题，本研究提出基于神经常微分方程（NODEs）的可解释文本分类架构，兼顾深度学习的预测能力与模型透明度。
2025-03-05 cs.AI cs.LG
Visualisation and knowledge discovery from interpretable models
Bernoulli Institute, University of Groningen（格罗宁根大学伯努利研究所）；School of Computer Science, University of Birmingham（伯明翰大学计算机学院）
越来越多影响人类生活的部门正在使用机器学习（ML）工具。因此，了解其工作机制并评估其决策公平性的需求变得至关重要，从而迎来了可解释AI（XAI）时代。在这篇文章中，我们介绍了一些本质上可解释的模型，除了从数据集中提取知识和关于问题之外，这些模型还能够处理缺失值。这些模型还能够可视化分类器和决策边界：它们是学习矢量量化的基于角度的变体。我们已经在一个合成数据集和一个真实世界的数据集（来自UCI存储库的心脏病数据集）上演示了该算法。新开发的分类器有助于研究UCI数据集作为多类问题的复杂性。开发的分类器的性能与文献中报道的数据集，具有额外的可解释性的值，当数据集被视为一个二进制类的问题。
2020-05-08 cs.AI cs.CV cs.LG
Interpretable Deep Learning Classifier by Detection of Prototypical Parts on Kidney Stones Images
Tecnologico de Monterrey（蒙特雷理工学院）；CHU Nancy（南锡大学中心医院）；Université de Lorraine（洛林大学）
确定肾结石的类型可以让泌尿科医生确定其形成原因，改善适当治疗的早期处方，以减少未来的复发。然而，目前，相关的离体诊断（称为形态构成分析，MCA）是耗时的、昂贵的，并且需要大量的经验，因为它需要高度依赖于操作者的视觉分析组件。最近，已经开发了用于体内内窥镜结石识别的机器学习方法。浅层方法已被证明是可靠的和可解释的，但表现出低准确性，而基于深度学习的方法产生高准确性，但无法解释。然而，高风险决策需要可理解的计算机辅助诊断（CAD），以根据合理的证据提出行动方案，而不仅仅是规定一个。在这里，我们研究的手段，学习部分原型（PP），使可解释的模型。我们的建议提出了一个肾结石斑块图像的分类，并提供了类似的方式上使用的MCA方法的解释。
2022-06-02 cs.AI cs.CV cs.LG
A Robust Prototype-Based Network with Interpretable RBF Classifier Foundations
针对深度原型网络（PBNs）的可解释性缺陷，提出组件分类（CBC）扩展模型，证明其鲁棒性并推导优化损失，实证显示该模型在基准上精度先进，解决可解释性问题且浅层变体优于其他浅层PBN。
2025-04-17 cs.AI cs.CV cs.LG
From Physics-Based Models to Predictive Digital Twins via Interpretable Machine Learning
University of Texas at Austin（德克萨斯大学奥斯汀分校）；Oden Institute for Computational Engineering and Sciences（奥登计算工程与科学研究所）
这项工作开发了一种方法，用于从代表各种资产状态的基于物理的模型库中创建数据驱动的数字孪生。使用可解释的机器学习更新数字孪生。具体来说，我们使用最优树-最近开发的可扩展的机器学习方法-训练一个可解释的数据驱动的分类器。分类器的训练数据使用由基于物理的模型库求解的模拟场景离线生成。这些数据可以使用实验数据或其他历史数据进一步扩充。在操作中，分类器使用来自资产的观测数据来推断模型库中的哪些基于物理的模型是更新的数字孪生的最佳候选。该方法通过为12英尺翼展的无人机开发结构数字孪生来演示。这个数字孪生模型是从一系列结构状态下车辆的降阶模型库中构建的。数据驱动的数字孪生会根据结构损坏或退化动态更新，并使飞机能够相应地重新规划安全任务。在这种情况下，我们研究的最佳树分类器的性能，并展示了如何解释它们的可解释性，使稀疏传感器测量的结构评估，并通知最佳传感器的位置。
2020-04-28 cs.CE cs.LG
A Robust Interpretable Deep Learning Classifier for Heart Anomaly Detection Without Segmentation
Queensland University of Technology（昆士兰科技大学）；M3DICINE Pty Ltd（M3DICINE私人有限公司）
传统上，异常心音分类被框定为三阶段过程。第一阶段涉及分割心音图以检测基本心音;之后提取特征并进行分类。该领域的一些研究人员认为分割步骤是一个不必要的计算负担，而其他人则将其作为特征提取的优先步骤。当比较在分析之前分割心音的研究与忽略这一步骤的研究所达到的准确度时，是否在特征提取之前分割心音的问题仍然是开放的。在这项研究中，我们明确地检查心音分割的重要性，作为一个事先步骤的心音分类，然后寻求应用所获得的见解，提出一个强大的分类器异常心音检测。此外，认识到医疗领域对可解释的人工智能（AI）模型的迫切需求，我们还揭示了分类器使用模型解释技术学习的隐藏表示。实验结果表明，分割在异常心音分类中起着至关重要的作用。我们的新分类器也被证明是鲁棒的，稳定的，最重要的是，可解释的，在广泛使用的PhysioNet数据集上的准确率几乎为100%。
2020-09-29 cs.LG cs.SD eess.AS
Learning Variational Word Masks to Improve the Interpretability of Neural Text Classifiers
University of Virginia（弗吉尼亚大学）
为了构建一个可解释的神经文本分类器，大多数先前的工作都集中在设计内在可解释的模型或找到忠实的解释。提高模型可解释性的新工作刚刚开始，许多现有的方法需要先验信息或人工注释作为训练中的额外输入。为了解决这一限制，我们提出了变分词掩码（VMASK）方法来自动学习特定于任务的重要词，并减少与分类无关的信息，从而最终提高模型预测的可解释性。在七个基准文本分类数据集上使用三个神经文本分类器（CNN，LSTM和BERT）对所提出的方法进行了评估。实验表明，VMASK在提高模型预测精度和可解释性方面是有效的。
2020-11-19 cs.CL cs.LG
Metabolomic Biomarker Discovery for ADHD Diagnosis Using Interpretable Machine Learning
Digital Technology Research Center, National Research Council Canada（加拿大国家研究理事会数字技术研究中心）；Biomedical Science and Hematology Departments, College of Medicine and Health Sciences, Sultan Qaboos University（苏丹奥曼穆萨特大学医学院与健康科学学院生物医学科学与血液科）
本研究利用可解释机器学习结合代谢组学，发现14种代谢物标志物，用于ADHD的客观诊断，揭示多巴胺能神经传递和氨基酸代谢机制。
2026-02-24 cs.LG
Interpretable Diabetic Retinopathy Diagnosis based on Biomarker Activation Map
提出基于生成对抗学习的BAM框架，通过两个U形生成器构建差异图，突出分类器利用的DR病理特征，实现可解释的自动诊断。
2023-06-26 cs.CV cs.LG eess.IV
Interpretable Machine Learning Classifiers for Brain Tumour Survival Prediction
Centre for Addiction and Mental Health（成瘾与心理健康中心）；University of Edinburgh（爱丁堡大学）；Royal Infirmary of Edinburgh（爱丁堡皇家医院）
由于肿瘤行为和治疗反应的异质性，预测诊断为脑肿瘤的患者的生存率具有挑战性。更好的预后估计将支持治疗计划和患者支持。机器学习的进步为临床预测模型的发展提供了信息，但它们与临床实践的整合几乎不存在。其中一个原因是模型缺乏可解释性。在本文中，我们使用一个新的脑肿瘤数据集比较两个可解释的规则列表模型对流行的机器学习方法的脑肿瘤生存预测。所有模型都使用标准性能指标进行定量评估。还对规则列表的可解释性和临床实用性进行了定性评估。黑盒机器学习模型的可解释性评估使用两个事后解释技术，石灰和SHAP。我们的结果表明，黑盒模型仅略微优于规则列表。我们证明了规则列表算法产生了与临床专业知识相一致的简单决策列表。相比之下，事后可解释性方法应用于黑箱模型可能会产生不可靠的解释本地模型的预测。模型的可解释性对于理解预测性能的差异和整合到临床实践中至关重要。
2021-06-17 cs.AI cs.LG
Interpretable multiclass classification by MDL-based rule lists
Leiden University（莱顿大学）
最近，可解释分类器受到了数据采掘界越来越多的关注，因为它们本质上比更复杂的分类器更容易理解和解释。可解释的分类模型的示例包括决策树、规则集和规则列表。学习这样的模型通常涉及优化超参数，这通常需要大量的数据，并可能导致相对较大的模型。在本文中，我们考虑的问题，学习紧凑而准确的概率规则列表的多类分类。具体来说，我们提出了一种新的形式化的基础上概率规则列表和最小描述长度（MDL）的原则。这导致了几乎无参数的模型选择，自然允许权衡模型复杂性与拟合优度，从而有效地避免了过度拟合和超参数调整的需要。最后，我们介绍了Classy算法，该算法根据所提出的标准，greetly发现规则列表。我们的经验表明，Classy选择的小概率规则列表在预测性能和可解释性的结合方面优于最先进的分类器。我们表明，Classy是不敏感的唯一参数，即，候选集，以及训练集上的压缩与分类性能相关，验证了我们基于MDL的选择标准。
2019-10-31 cs.AI cs.LG stat.ML
Modeling GRNs with a Probabilistic Categorical Framework
Tokyo City University（东京市大学）；Sichuan University（四川大学）；XiChang University（西昌大学）
本文提出PC-GRN框架，结合范畴论、贝叶斯类型化Petri网、GFlowNet和HyperNetwork，直接从数据学习基因调控网络结构与参数的后验分布，实现严格且可解释的不确定性建模。
2025-08-16 cs.LG math.CT q-bio.MN
Generating Interpretable Counterfactual Explanations By Implicit Minimisation of Epistemic and Aleatoric Uncertainties
University of Oxford（牛津大学）；Accenture Labs（埃森哲实验室）
反事实解释（CE）是一种实用的工具，用于演示为什么机器学习分类器会做出特定的决策。为了使CE有用，重要的是它们易于用户解释。用于生成可解释的CE的现有方法依赖于辅助生成模型，其可能不适合于复杂数据集，并且引起工程开销。我们介绍了一种简单而快速的方法，用于在白盒设置中生成可解释的CE，而无需辅助模型，通过使用分类器的预测不确定性。我们的实验表明，我们提出的算法产生更多的可解释的CE，根据IM1分数，比现有的方法。此外，我们的方法使我们能够估计CE的不确定性，这可能是重要的安全关键型应用程序，如在医疗领域。
2021-03-16 cs.LG stat.AP
