Extracting Lexical Features from Dialects via Interpretable Dialect Classifiers
Duke University（杜克大学）；George Mason University（乔治梅森大学）；University of Washington（华盛顿大学）
本文提出一种利用可解释方言分类器提取方言区分性词汇特征的新方法，无需专家知识即可在普通话、意大利语和低地撒克逊语上成功识别导致方言变化的关键词汇特征。
2024-03-23 cs.AI cs.CL
Interpretable classifiers for tabular data via discretization and feature selection
Tampere University（坦佩雷大学）
本文提出一种通过离散化和特征选择生成短布尔公式的方法，以构建可解释且准确的表格数据分类器，实验证明其准确率与随机森林等方法相当。
2024-09-18 cs.AI cs.LG cs.LO
MAIRE -- A Model-Agnostic Interpretable Rule Extraction Procedure for Explaining Classifiers
Indian Institute of Technology Ropar（印度理工学院罗帕尔分校）
本文介绍了一种新的框架，用于提取模型无关的人类可解释的规则来解释分类器的输出。人类可解释的规则被定义为一个轴对齐的超长方体包含的实例，分类决策必须加以解释。所提出的过程找到最大（高\textit{coverage}）轴对齐的超立方体，使得超立方体中的高百分比的实例具有与被解释的实例（高\textit{precision}）相同的类标签。新的近似的覆盖范围和精度的措施方面的参数的超长方体的定义。使用基于梯度的优化器将它们最大化。的近似的质量进行了严格的理论分析和实验。启发式简化生成的解释，以实现更好的解释性和贪婪的选择算法，结合本地的解释，为覆盖了很大一部分的实例空间的模型创建全局解释也提出了。该框架是模型不可知的，可以应用于任何任意分类器和所有类型的属性（包括连续，有序和无序离散）。该框架的广泛适用性在来自不同领域（表格，文本和图像）的各种合成和真实世界的数据集上进行了验证。
2020-11-03 cs.AI cs.LG
The Co-12 Recipe for Evaluating Interpretable Part-Prototype Image Classifiers
University of Twente（特文特大学）；University of Duisburg-Essen（杜伊斯堡-埃森大学）；University of Marburg（马尔堡大学）
本文基于Co-12属性，综述了可解释部件原型图像分类器的解释质量评估方法，揭示了研究空白，并提供了速查表以推动该领域发展。
2023-07-26 cs.AI cs.CV
DANLIP: Deep Autoregressive Networks for Locally Interpretable Probabilistic Forecasting
Toronto Metropolitan University（多伦多都会大学）；University of Toronto（多伦多大学）
尽管基于神经网络的时间序列预测方法具有高性能，但解释其预测的固有挑战限制了其在某些应用领域的适用性。由于难以确定这种黑箱方法的输入和输出之间的因果关系，它们很少被采用在法律和医学领域，其中结果的可靠性和可解释性可能是必不可少的。在本文中，我们提出了\model，这是一种新颖的基于深度学习的概率时间序列预测架构，本质上是可解释的。我们使用多个数据集和性能指标进行实验，并根据经验表明，我们的模型不仅是可解释的，而且还提供了与最先进的概率时间序列预测方法相当的性能。此外，我们表明，解释的参数的随机过程的兴趣可以提供有用的见解到几个应用领域。
2023-01-05 cs.AI cs.LG stat.ML
Efficient Learning of Interpretable Classification Rules
National University of Singapore（新加坡国立大学）
机器学习在医疗、法律和交通等各种安全关键领域的应用中已经变得无所不在。在这些领域，机器学习提供的高风险决策要求研究人员设计可解释的模型，其中预测是人类可以理解的。在可解释的机器学习中，基于规则的分类器在通过包括输入特征的一组规则来表示决策边界方面特别有效。基于规则的分类器的可解释性通常与规则的大小有关，其中较小的规则被认为更具可解释性。为了学习这样的分类器，暴力直接方法是考虑一个优化问题，该问题试图学习具有接近最大准确度的最小分类规则。由于其组合性质，该优化问题在计算上是棘手的，因此，该问题在大型数据集中不可扩展。为此，在本文中，我们研究的准确性，可解释性和可扩展性的学习规则为基础的分类之间的三角关系。本文的贡献是一个可解释的学习框架IMLI，这是基于最大可满足性（MaxSAT）的综合分类规则表达的命题逻辑。尽管MaxSAT解决方案在过去十年中取得了进展，但基于MaxSAT的简单解决方案无法扩展。因此，我们将一个有效的增量学习技术内的MaxSAT配方，通过集成小批量学习和迭代规则学习。在我们的实验中，IMLI在预测准确性、可解释性和可扩展性之间实现了最佳平衡。作为一个应用程序，我们部署IMLI在学习流行的可解释的分类器，如决策列表和决策集。
2022-08-30 cs.AI cs.LG
Evolving Interpretable Visual Classifiers with Large Language Models
Columbia University（哥伦比亚大学）
针对CLIP等视觉-语言模型可解释性差、难适配专业细粒度场景的问题，提出基于大语言模型上下文学习的进化搜索算法，迭代变异属性概念瓶颈，构建可解释细粒度分类器，在多个数据集上显著优于有类别名特权信息的基线。
2024-04-15 cs.AI cs.CV
Interpretable and Fair Mechanisms for Abstaining Classifiers
University of Antwerp（安特卫普大学）；Scuola Normale Superiore（比萨高等师范学校）
针对弃权分类器仅为多数群体减少错误导致群体性能差异增大且现有方法缺乏可解释性的问题，本文提出IFAC算法，基于不确定性和不公平性拒绝预测，减少非拒绝数据的群体差异，通过规则公平性检查和情境测试实现透明流程，助力人类决策。
2025-04-14 cs.AI cs.LG
Understanding and Mitigating Classification Errors Through Interpretable Token Patterns
Cornell University（康奈尔大学）；Harvard University（哈佛大学）；Saarland University（萨尔大学）；CISPA（CISPA亥姆霍兹信息安全中心）
提出基于最小描述长度原则的Premise方法，通过发现区分正确与错误预测的token模式，为NLP分类器提供全局可解释的系统性错误描述，并在高度不平衡数据上有效恢复真实情况。
2023-11-18 cs.AI cs.CL
Committee-Based Sample Selection for Probabilistic Classifiers
Jerusalem College of Technology, Machon Lev（耶路撒冷理工学院（马洪莱夫））；Bar-Ilan University（巴伊兰大学）
在许多现实世界的学习任务中，获取足够数量的标记样本进行训练是昂贵的。本文研究了通过“样本选择”来降低标注成本的方法。在这种方法中，在训练过程中，学习程序会检查许多未标记的示例，并只选择在每个阶段信息量最大的示例进行标记。这就避免了对那些几乎没有新信息的例子进行冗余标记。我们的工作遵循以前的研究查询委员会，扩展基于委员会的范例的概率分类的上下文中。我们描述了一个家庭的经验方法，以委员会为基础的样本选择概率分类模型，通过测量几个模型变量之间的分歧程度来评估一个例子的信息量。这些变量（委员会）是从迄今为止标记的训练集条件下的概率分布中随机抽取的。该方法被应用到现实世界的随机词性标注的自然语言处理任务。我们发现，该方法的所有变体都实现了注释成本的显着降低，尽管它们的计算效率不同。特别是，最简单的变体，一个两个成员的委员会，没有参数调整，给出了很好的结果。我们还表明，样本的选择产生了显着减少所使用的标签的模型的大小。
2011-06-01 cs.AI
Exploring Neural Ordinary Differential Equations as Interpretable Healthcare classifiers
Columbia University（哥伦比亚大学）
针对深度学习黑盒决策在医疗等领域引发的信任问题，本研究提出基于神经常微分方程（NODEs）的可解释文本分类架构，兼顾深度学习的预测能力与模型透明度。
2025-03-05 cs.AI cs.LG
Deformable ProtoPNet: An Interpretable Image Classifier Using Deformable Prototypes
University of Maine（缅因大学）；Duke University（杜克大学）
本文提出Deformable ProtoPNet，通过引入空间灵活的可变形原型部件来捕捉姿态变化和上下文，在保持基于案例推理可解释性的同时提升了图像分类准确性和解释丰富性。
2024-05-02 cs.AI cs.CV cs.LG
Probabilistic Dataset Reconstruction from Interpretable Models
LAAS-CNRS, Université de Toulouse, CNRS, INSA（法国国家科学研究中心 Toulouse 应用科学学院、图卢兹大学、法国国家科学研究中心）；École de Technologie Supérieure（高等技术学院）；Université du Québec à Montréal（蒙特利尔魁北克大学）
本文提出通用概率重建框架，从决策树、规则列表等可解释模型量化训练数据泄露，并证明重建不确定性可高效计算。
2024-04-03 cs.AI cs.IT math.IT
Probabilistic SVM/GMM Classifier for Speaker-Independent Vowel Recognition in Continues Speech
Amirkabir University of Technology（阿米尔卡比尔理工大学）；Sharif University of Technology（谢里夫理工大学）
本文讨论了波斯语元音的自动识别问题。目前的工作重点是新的统计方法识别元音作为音节的基本单位。首先描述了一个元音检测系统，然后简要讨论了如何将检测到的元音输入到识别单元。在模式识别中，支持向量机（SVM）作为判别分类器和高斯混合模型（GMM）作为生成模型分类器是两种最流行的技术。当前最先进的系统试图将它们结合在一起，以实现更大的分类能力并提高识别系统的性能。该研究的主要思想是将概率支持向量机和传统的GMM模式分类相结合，并结合语音的一些特征，如带通能量，以获得更好的分类率。这个想法已被解析制定和测试的FarsDat基于元音识别系统。结果显示，识别准确率有了不可思议的提高。测试已经进行了各种建议的元音识别算法和结果进行了比较。
2008-12-12 cs.AI cs.MM
Probabilistic Neural-symbolic Models for Interpretable Visual Question Answering
Facebook AI Research（脸书人工智能研究院）；Georgia Tech（佐治亚理工学院）
我们提出了一类新的概率神经符号模型，具有符号功能程序作为一个潜在的，随机变量。实例化的背景下，视觉问答，我们的概率公式提供了两个关键的概念优势，比以前的神经符号模型VQA。首先，我们的模型生成的程序更容易理解，而需要较少的教学实例。其次，我们表明，一个可以提出反事实的情况下，该模型，探测其信念的程序，可能导致一个指定的答案给定的图像。我们在CLEVR和SHAPES数据集上的结果验证了我们的假设，表明该模型即使在低数据状态下也能获得更好的程序（和答案）预测准确性，并允许人们探索推理的连贯性和一致性。
2019-06-27 cs.AI cs.CV cs.LG
DICE: Discrete Interpretable Comparative Evaluation with Probabilistic Scoring for Retrieval-Augmented Generation
School of Computer Science and Technology（计算机科学与技术学院）；Huazhong University of Science and Technology（华中科技大学）
DICE提出一种基于概率评分的两阶段框架，提升RAG评估的可解释性和稳健性，通过透明判断和系统性错误诊断，实现高效且可信的评估。
2025-12-27 cs.AI cs.IR
Interpretable Deep Learning Classifier by Detection of Prototypical Parts on Kidney Stones Images
Tecnologico de Monterrey（蒙特雷理工学院）；CHU Nancy（南锡大学中心医院）；Université de Lorraine（洛林大学）
确定肾结石的类型可以让泌尿科医生确定其形成原因，改善适当治疗的早期处方，以减少未来的复发。然而，目前，相关的离体诊断（称为形态构成分析，MCA）是耗时的、昂贵的，并且需要大量的经验，因为它需要高度依赖于操作者的视觉分析组件。最近，已经开发了用于体内内窥镜结石识别的机器学习方法。浅层方法已被证明是可靠的和可解释的，但表现出低准确性，而基于深度学习的方法产生高准确性，但无法解释。然而，高风险决策需要可理解的计算机辅助诊断（CAD），以根据合理的证据提出行动方案，而不仅仅是规定一个。在这里，我们研究的手段，学习部分原型（PP），使可解释的模型。我们的建议提出了一个肾结石斑块图像的分类，并提供了类似的方式上使用的MCA方法的解释。
2022-06-02 cs.AI cs.CV cs.LG
Probabilistic Invariant Learning with Randomized Linear Classifiers
Vector Institute（向量研究所）；Technion（以色列理工学院）；University of Toronto（多伦多大学）
本文提出 Randomized Linear Classifiers（RLCs），以概率形式的通用逼近与不变性降低资源需求，并为集合、图和球面数据构造可证明的概率不变分类器。
2023-09-28 cs.AI cs.LG
A Robust Prototype-Based Network with Interpretable RBF Classifier Foundations
针对深度原型网络（PBNs）的可解释性缺陷，提出组件分类（CBC）扩展模型，证明其鲁棒性并推导优化损失，实证显示该模型在基准上精度先进，解决可解释性问题且浅层变体优于其他浅层PBN。
2025-04-17 cs.AI cs.CV cs.LG
Neural Probabilistic Circuits: Enabling Compositional and Interpretable Predictions through Logical Reasoning
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；College of William and Mary（威廉与玛丽学院）
提出神经概率电路（NPC），通过属性识别与概率电路逻辑推理实现组合式可解释预测，三阶段训练，理论误差有界，在四个基准上性能媲美黑盒模型且可解释性更强。
2025-01-20 cs.AI cs.LG
Interpretable Machine Learning Classifiers for Brain Tumour Survival Prediction
Centre for Addiction and Mental Health（成瘾与心理健康中心）；University of Edinburgh（爱丁堡大学）；Royal Infirmary of Edinburgh（爱丁堡皇家医院）
由于肿瘤行为和治疗反应的异质性，预测诊断为脑肿瘤的患者的生存率具有挑战性。更好的预后估计将支持治疗计划和患者支持。机器学习的进步为临床预测模型的发展提供了信息，但它们与临床实践的整合几乎不存在。其中一个原因是模型缺乏可解释性。在本文中，我们使用一个新的脑肿瘤数据集比较两个可解释的规则列表模型对流行的机器学习方法的脑肿瘤生存预测。所有模型都使用标准性能指标进行定量评估。还对规则列表的可解释性和临床实用性进行了定性评估。黑盒机器学习模型的可解释性评估使用两个事后解释技术，石灰和SHAP。我们的结果表明，黑盒模型仅略微优于规则列表。我们证明了规则列表算法产生了与临床专业知识相一致的简单决策列表。相比之下，事后可解释性方法应用于黑箱模型可能会产生不可靠的解释本地模型的预测。模型的可解释性对于理解预测性能的差异和整合到临床实践中至关重要。
2021-06-17 cs.AI cs.LG
Towards Automation of Knowledge Understanding: An Approach for Probabilistic Generative Classifiers
BMW Group（宝马集团）；University of Kassel（卡塞尔大学）；Aalto University（阿尔托大学）
在经过数据选择、预处理、转换和特征提取之后，知识提取并不是数据采掘过程的最后一步。因此，有必要了解这些知识，以便有效地应用它。到目前为止，还缺乏支持这一重要步骤的适当技术。这部分是由于对知识的评估往往是高度主观的，例如，关于新颖性或实用性等方面。这些方面取决于数据挖掘器的特定知识和要求。然而，有一些方面是客观的，可以采取适当的措施。在这篇文章中，我们专注于分类问题，并使用概率生成分类器的基础上，混合密度模型，是非常常见的数据采掘应用。我们定义了客观的措施来评估这些分类器中包含的规则的信息量，独特性，重要性，歧视性，代表性，不确定性和可验证性。这些度量不仅支持数据挖掘器基于这样的分类器评估数据采掘过程的结果。正如我们将在示例性案例研究中看到的，它们也可用于改进数据采掘过程本身或支持提取的知识的后续应用。
2016-05-20 cs.AI cs.LG
An Explainable Probabilistic Classifier for Categorical Data Inspired to Quantum Physics
Institute of Financial Analysis（金融分析研究所）；Université de Neuchâtel（纳沙泰尔大学）；Università degli Studi di Milano（米兰大学）
本文提出了稀疏张量分类器（STC），一个监督分类算法的分类数据的启发，在量子物理学的状态叠加的概念。通过将观测视为特征的叠加，我们在机器学习中引入了波粒二象性的概念，并提出了一个统一经典和量子概率的广义框架。我们表明，STC具有广泛的理想属性，大多数其他机器学习方法中没有，但它是在同一时间非常容易理解和使用。STC对结构化数据和文本分类的实证评估表明，与标准分类器和深度学习相比，我们的方法实现了最先进的性能，额外的好处是需要最少的数据预处理和超参数调整。此外，STC为单个实例和全局每个目标标签提供了其预测的本地解释。
2021-05-26 cs.AI cs.LG quant-ph
Interpretable Probabilistic Medical Image Segmentation via Gaussian Process with Explicit Modelling of Annotation Bias and Variability
University College London（伦敦大学学院）；Queen Mary University of London（伦敦玛丽女王大学）；University of Oxford（牛津大学）；University College London Hospitals NHS Trust（伦敦大学学院医院NHS信托基金会）；Imperial College Healthcare（帝国理工学院医疗保健）
提出基于随机变分高斯过程的logit空间概率分割框架，显式分解为图像相关参考分布和标注者特定扰动，提高不确定性校准并保持分割精度。
2026-06-23 cs.AI cs.CV
Selective Probabilistic Classifier Based on Hypothesis Testing
Tampere University（坦佩雷大学）；Visy Oy（维西公司）
在本文中，我们提出了一个简单而有效的方法来处理违反封闭世界假设的分类器。以前的工作往往适用于阈值的分类分数或损失函数拒绝违反假设的输入。然而，这些方法不能实现安全应用中所需的低假阳性率（FPR）。该方法是一种基于概率网络假设检验的拒绝选项。使用概率网络，可以估计结果的分布，而不是单个输出。该方法通过对每个类别的均值和标准差进行Z检验，估计网络确定性的统计显著性，并剔除不确定输出。所提出的方法进行了实验与不同配置的COCO和CIFAR数据集。所提出的方法的性能进行比较与Softmax响应，这是一个已知的最高性能的方法。结果表明，与替代方案相比，所提出的方法可以实现更广泛的操作范围并覆盖更低的FPR。
2021-05-11 cs.AI cs.CV cs.LG
A probabilistic methodology for multilabel classification
Royal Holloway, University of London（伦敦大学皇家霍洛威学院）；Universidad de Granada（格拉纳达大学）
多标签分类是机器学习的一个相对较新的子领域。与经典的方法不同，在多标签分类中，实例仅被标记为一个类别，选择任意数量的类别来标记实例。由于问题的复杂性（解决方案是指数数量的备选方案之一），经常使用一种非常常见的解决方案（二进制方法），为每个类别学习一个二进制分类器，然后将它们组合起来。这种解决方案中的假设是不现实的，在这项工作中，我们给出了一些例子，其中所有标签的决策都不是独立的，因此，监督方法应该学习类别之间的现有关系，以更好地进行分类。因此，我们在这里展示了一种通用的方法，可以提高由一组独立的概率二进制分类器获得的结果，通过使用一个组合程序与分类器训练的标签的同现。我们在三个不同的标记文档标准语料库（Reuters-21578、Ohsumed-23和RCV 1）中进行了详尽的实验，当使用我们的方法时，在三个概率基础分类器中，所有这些都出现了显着的改进。
2013-02-28 cs.AI cs.LG
An Interpretable Probabilistic Approach for Demystifying Black-box Predictive Models
Queensland University of Technology（昆士兰科技大学）
使用复杂的机器学习模型进行关键决策面临着一个挑战，这些模型通常被用作“黑匣子”。这导致了对可解释的机器学习的兴趣增加，其中事后解释提供了用于生成复杂学习模型的解释的有用机制。在本文中，我们提出了一种新的方法，支持扩展框架的贝叶斯网络生成事后解释的黑箱预测模型。该框架支持提取贝叶斯网络作为特定预测的黑盒模型的近似。与现有的事后解释方法相比，我们的方法的贡献是三倍。首先，提取的贝叶斯网络，作为一个概率图模型，不仅可以提供解释什么输入功能，而且为什么这些功能有助于预测。其次，对于具有许多特征的复杂决策问题，可以从提取的贝叶斯网络生成马尔可夫毯，以提供对直接有助于预测的那些输入特征的集中视图的解释。第三，提取的贝叶斯网络能够识别四种不同的规则，这些规则可以告知决策者预测的置信水平，从而帮助决策者评估通过黑盒模型学习的预测的可靠性。我们实现了所提出的方法，将其应用于两个著名的公共数据集的背景下，并分析了结果，这是在一个开源存储库中提供。
2020-07-21 cs.AI cs.LG
Mimic: An adaptive algorithm for multivariate time series classification
Washington State University（华盛顿州立大学）
时间序列数据是有价值的，但往往是不可理解的。在金融、医疗保健和其他关键应用程序中获得对时间序列分类器的信任可能依赖于创建可解释的模型。研究人员以前被迫在缺乏预测能力的可解释方法和缺乏透明度的深度学习方法之间做出决定。在本文中，我们提出了一种新的模仿算法，保留了最强分类器的预测精度，同时引入可解释性。Mimic反映了现有多变量时间序列分类器的学习方法，同时产生一个视觉表示，增强了用户对学习模型的理解。在26个时间序列数据集上的实验支持了Mimic视觉上和准确地模仿各种时间序列分类器的能力。
2021-11-08 cs.AI cs.LG
PASS: Probabilistic Agentic Supernet Sampling for Interpretable and Adaptive Chest X-Ray Reasoning
PASS通过概率代理超网采样实现可解释、自适应和多模态的胸片推理，提升医疗AI的安全性和效率。
2025-12-19 cs.AI cs.LG
Seeing and hearing what has not been said; A multimodal client behavior classifier in Motivational Interviewing with interpretable fusion
CNRS（法国国家科学研究中心）；Sorbonne University（索邦大学）；Bordeaux University（波尔多大学）
针对动机访谈中来访者话语的MISC分类问题，提出融合文本、韵律、面部与身体特征的多模态可解释分类器，并基于AnnoMI标注识别关键模态。
2023-09-27 cs.AI cs.CL cs.LG
Coaxing Confidences from an Old Friend: Probabilistic Classifications from Transformation Rule Lists
基于转换的学习已经成功地用于解决许多自然语言处理问题。它有许多积极的特点，但一个缺点是，它不提供类成员概率的估计。在本文中，我们提出了一种新的方法，从基于转换的规则列表分类器获得类成员概率。三个实验测量的建模精度和交叉熵的概率分类器上看不见的数据和程度，从分类器的输出概率可以用来估计其分类决策的置信度。这些实验的结果表明，对于文本组块的任务，由这种技术产生的估计比由最先进的决策树产生的估计信息量更大。
2001-04-27 cs.AI cs.CL
Estimating Accuracy from Unlabeled Data: A Probabilistic Logic Approach
Carnegie Mellon University（卡内基梅隆大学）；Microsoft Research（微软研究院）
我们提出了一种有效的方法来估计分类器的准确性，只使用未标记的数据。我们考虑一个设置多个分类问题，目标类可能是通过逻辑约束绑在一起。例如，一组类可能是互斥的，这意味着一个数据实例最多只能属于其中一个类。所提出的方法是基于直觉：（i）当分类器同意时，它们更有可能是正确的，以及（ii）当分类器做出违反约束的预测时，至少有一个分类器必须出错。在四个真实世界的数据集上进行的实验，仅使用未标记的数据，产生的准确度估计值与真实准确度相差不到百分之几。我们的模型在估计精度和组合多个分类器输出方面也优于现有的最先进的解决方案。结果强调了逻辑约束在估计精度中的效用，从而验证了我们的直觉。
2017-05-19 cs.AI cs.LG stat.ML
Tell me why: Visual foundation models as self-explainable classifiers
University of Geneva（日内瓦大学）；Geneva University Hospitals（日内瓦大学医院）；National University of Singapore（新加坡国立大学）
本研究提出ProtoFM，通过冻结视觉基础模型并训练轻量原型头部，实现高效且忠实自解释的分类，性能与可解释性均优于现有模型。
2025-02-26 cs.AI cs.CV cs.LG
Explaining the Predictions of Any Image Classifier via Decision Trees
Lenovo Research（联想研究院）；University of Chinese Academy of Sciences（中国科学院大学）
尽管深度学习模型对人工智能（AI）的重大进展做出了突出贡献，但大多数仍然是黑箱，其推理过程和预测结果的可解释性非常弱。可解释性不仅是人工智能与社会之间的门户，也是检测模型缺陷和数据偏差的强大工具。局部可解释模型不可知解释（LIME）是最近的一种方法，它使用可解释模型来形成对单个预测结果的局部解释。LIME的当前实现采用线性回归作为其可解释函数。然而，由于受到限制并且通常过度简化关系，线性模型在特征和预测结果之间存在非线性关联和相互作用的情况下失败。本文实现了一种基于决策树的LIME方法，该方法使用决策树模型来形成局部忠实于原始模型的可解释表示。Tree-LIME方法可以捕获数据中特征之间的非线性相互作用，并创建合理的解释。各种实验表明，Tree-LIME对多个黑盒模型的解释在可理解性、保真度和效率方面可以实现更可靠的性能。
2020-02-10 cs.AI cs.LG stat.ML
Probabilistic Zero-shot Classification with Semantic Rankings
The Ohio State University（俄亥俄州立大学）
在本文中，我们提出了一个非度量排名为基础的表示语义相似性，允许自然聚合的语义信息从多个异构源。我们将基于排名的表示应用于零样本学习问题，并提出了确定性和概率性的zero-shot分类器，可以从预先训练的分类器中构建，而无需重新训练。我们在两个大型的真实世界图像数据集上展示了它们的优势。特别是，我们表明，聚合不同来源的语义信息，包括众包，导致更准确的分类。
2015-02-27 cs.AI cs.CV cs.LG
How Simple Can It Get? From Interpretable Equations to Readable Rules for Financial Decision Making
University of Amsterdam（阿姆斯特丹大学）
针对金融领域可解释分类器可读性差的问题，本文提出从单方程可解释分类器逐步简化为可读规则的方法，经四组金融数据集验证，该方法可在损失较小的情况下生成有效规则，且部分损失可从原始模型预判。
2026-08-11 cs.AI cs.LG
Coding LLMs Can Be Harnessed to Learn Interpretable Models from Data
Carnegie Mellon University（卡内基梅隆大学）
本文提出一种调控机制，通过提示编码类LLM生成规则集的下一条规则，在表格和文本数据上学习可解释模型，表现优于现有方法，还引入了新的编码基准。
2026-10-14 cs.AI cs.LG
ProBoost: a Boosting Method for Probabilistic Classifiers
Interactive Technologies Institute（交互技术研究所）；University of Madeira（马德拉大学）；Instituto de Telecomunicações（电信研究所）
本研究提出面向概率分类器的新型boosting算法ProBoost，通过样本认知不确定性调整训练权重/采样策略并构建加权集成，在MNIST数据集上仅用4个弱学习器即可实现准确率等指标超12%的相对提升。
2022-09-04 cs.AI cs.LG stat.ML
An Overview of Prototype Formulations for Interpretable Deep Learning
Intuitive Robots Lab, Karlsruhe Institute of Technology, Karlsruhe, Germany（直观机器人实验室，卡尔斯鲁厄理工学院，卡尔斯鲁厄，德国）
本文提出HyperPG，一种基于超球面的原型表示方法，在多个数据集上证明其优于传统欧几里得方法，且在简化训练方案下仍能保持竞争力。
2026-01-07 cs.AI cs.CV cs.LG
Visualisation and knowledge discovery from interpretable models
Bernoulli Institute, University of Groningen（格罗宁根大学伯努利研究所）；School of Computer Science, University of Birmingham（伯明翰大学计算机学院）
越来越多影响人类生活的部门正在使用机器学习（ML）工具。因此，了解其工作机制并评估其决策公平性的需求变得至关重要，从而迎来了可解释AI（XAI）时代。在这篇文章中，我们介绍了一些本质上可解释的模型，除了从数据集中提取知识和关于问题之外，这些模型还能够处理缺失值。这些模型还能够可视化分类器和决策边界：它们是学习矢量量化的基于角度的变体。我们已经在一个合成数据集和一个真实世界的数据集（来自UCI存储库的心脏病数据集）上演示了该算法。新开发的分类器有助于研究UCI数据集作为多类问题的复杂性。开发的分类器的性能与文献中报道的数据集，具有额外的可解释性的值，当数据集被视为一个二进制类的问题。
2020-05-08 cs.AI cs.CV cs.LG
Assisting clinical practice with fuzzy probabilistic decision trees
Eindhoven University of Technology（埃因霍温理工大学）；University of Milano-Bicocca（米兰比可卡大学）；Bicocca Bioinformatics, Biostatistics and Bioimaging (B4) research center（比可卡生物信息学、生物统计学与生物成像（B4）研究中心）；University of Milan-Bicocca（米兰比可卡大学）；IRCCS Fondazione San Gerardo dei Tintori（IRCCS圣杰拉尔多·德伊·廷托里基金会）；IRCCS—Azienda Ospedaliero-Universitaria di Bologna（IRCCS博洛尼亚大学医院）；Alma Mater Studiorum University of Bologna（博洛尼亚大学）；Ca’ Foscari University of Venice（威尼斯大学）；University of Cambridge（剑桥大学）
本研究提出结合概率树与模糊逻辑的可解释FPT模型，通过不确定性估计与反事实分析降低误诊率，在甲状腺结节分类和肾病进展预测场景验证了其临床辅助价值。
2023-04-26 cs.AI cs.LG q-bio.QM
A Time-Aware Bag-of-Receptive-Fields for Interpretable Irregular Time Series Classification
University of Pisa（比萨大学）；ISTI-CNR（意大利国家研究委员会信息科学与技术研究所）
本研究扩展BORF至不规则时间序列，提出时间加权归一化方案，保持线性复杂度，在PYRREGULAR数据集上达到竞争性能并提供可解释性。
2026-10-01 cs.AI cs.LG
Measuring the Novelty of Natural Language Text Using the Conjunctive Clauses of a Tsetlin Machine Text Classifier
University of Agder（阿格德尔大学）
大多数有监督的文本分类方法都假设一个封闭的世界，在训练时，所有的类都存在于数据中。这种假设可能会导致在操作过程中出现不可预测的行为，无论何时出现新的、以前看不见的类。尽管基于深度学习的方法最近已被用于新颖性检测，但由于其黑箱性质，它们的解释具有挑战性。本文讨论了\emph{interpretable}开放世界文本分类，其中训练的分类器必须处理新的类在操作过程中。为此，我们扩展了最近推出的Tsetlin机（TM）与新颖的评分机制。该机制使用TM的合取子句来衡量文本与训练数据所覆盖的类匹配的程度。我们证明，条款提供了一个简洁的可解释的描述已知的主题，我们的评分机制，使人们有可能辨别新的主题从已知的。从经验上讲，我们基于TM的方法在五个数据集中的三个数据集上优于其他七个新颖性检测方案，并且在其余数据集上表现第二和第三好，并且具有可解释的基于命题逻辑的表示的额外好处。
2020-11-17 cs.AI cs.CL cs.LG
Interpretable multiclass classification by MDL-based rule lists
Leiden University（莱顿大学）
最近，可解释分类器受到了数据采掘界越来越多的关注，因为它们本质上比更复杂的分类器更容易理解和解释。可解释的分类模型的示例包括决策树、规则集和规则列表。学习这样的模型通常涉及优化超参数，这通常需要大量的数据，并可能导致相对较大的模型。在本文中，我们考虑的问题，学习紧凑而准确的概率规则列表的多类分类。具体来说，我们提出了一种新的形式化的基础上概率规则列表和最小描述长度（MDL）的原则。这导致了几乎无参数的模型选择，自然允许权衡模型复杂性与拟合优度，从而有效地避免了过度拟合和超参数调整的需要。最后，我们介绍了Classy算法，该算法根据所提出的标准，greetly发现规则列表。我们的经验表明，Classy选择的小概率规则列表在预测性能和可解释性的结合方面优于最先进的分类器。我们表明，Classy是不敏感的唯一参数，即，候选集，以及训练集上的压缩与分类性能相关，验证了我们基于MDL的选择标准。
2019-10-31 cs.AI cs.LG stat.ML
On Computing Probabilistic Abductive Explanations
University of Toulouse（图卢兹大学）；Monash University（莫纳什大学）；VMware Research（威睿研究部）；UPS（图卢兹第三大学）；IRIT（图卢兹信息学研究所）；CNRS（法国国家科学研究中心）
最广泛研究的可解释人工智能（XAI）方法是不健全的。这是众所周知的模型不可知解释方法的情况，也是基于显着图的方法的情况。一个解决方案是考虑内在的可解释性，它不会表现出不合理的缺点。不幸的是，内在的可解释性可能会显示出笨拙的解释冗余。形式可解释性代表了这些非严格方法的替代方案，其中一个例子是PI解释。不幸的是，PI解释也表现出重要的缺点，其中最明显的可以说是它们的大小。最近，人们已经观察到，PI解释的（绝对）严谨性可以通过计算所谓的相关集来换取较小的解释大小。给定一个正的δ，一个特征集S是δ相关的，如果当S中的特征固定时，得到目标类的概率超过δ。然而，即使是非常简单的分类器，计算相关的功能集的复杂性是禁止的，与决策问题是NPPP-完全的基于电路的分类器。与早期的负面结果相比，本文探讨了实用的方法来计算相关集的一些广泛使用的分类器，包括决策树（DT），朴素贝叶斯分类器（NBCs），和几个家庭的分类器从命题语言。此外，该文件表明，在实践中，这些家庭的分类，相关的集合很容易计算。此外，实验证实，简洁的相关功能集，可以得到考虑的分类器的家庭。
2022-12-12 cs.AI cs.LG
Generative method for aerodynamic optimization based on classifier-free guided denoising diffusion probabilistic model
School of Management, Hefei University of Technology（合肥工业大学管理学院）
本文提出基于无分类器引导去噪扩散概率模型（CDDPM）的翼型逆向设计框架，通过捕捉性能指标相关性并生成压力系数分布，相比Wasserstein生成对抗网络方法精度提升33.6%，并结合全局优化与主动学习策略提供合理的性能指标组合。
2025-03-10 cs.AI cs.LG
Aligning Cellular Sheaves with Classifier Attention for Interpretable Weakly-Supervised Pathology Localization
Turocrates AI Private Limited（Turocrates AI私有有限公司）
针对弱监督全切片图像分类中注意力图定位不准确的问题，提出结合细胞层与注意力机制的一致性训练方法，在Camelyon16上实现补丁级AUC 0.940，并提升注意力AUC从0.717至0.953。
2026-05-24 cs.AI cs.CV
Bayesian Classifier Fusion with an Explicit Model of Correlation
TU Darmstadt（达姆施塔特工业大学）；Frankfurt Institute for Advanced Studies（法兰克福高等研究院）；Goethe University Frankfurt（法兰克福歌德大学）
将多个分类器或专家的输出组合成单个概率分类是机器学习中的基本任务，具有从分类器融合到专家意见池的广泛应用。在这里，我们提出了一个分层贝叶斯模型的概率分类器融合的基础上，一个新的相关Dirichlet分布。该分布明确地对边缘狄利克雷分布的随机向量之间的正相关性进行建模，从而允许对基础分类器或专家之间的相关性进行明确建模。所提出的模型自然容纳经典的独立意见池和其他独立的融合算法的特殊情况。它是由不确定性减少和正确性的合成和真实世界的数据集融合评估。我们表明，由于不确定性降低的融合分类器的性能的变化可以是贝叶斯最优的，即使是高度相关的基础分类器。
2021-11-22 cs.AI cs.LG stat.ML
Which Style Makes Me Attractive? Interpretable Control Discovery and Counterfactual Explanation on StyleGAN
JD Technology（京东科技）；Tsinghua University（清华大学）
GAN中语义上分离的潜在子空间为图像生成提供了丰富的可解释控制。本文包括使用StyleGAN2的人脸生成场景中的语义潜在子空间分析的两个贡献。首先，我们提出了一种新的方法来解开潜在子空间语义利用现有的人脸分析模型，例如，面部解析器和面部界标检测器。这些模型提供了构建具有非常具体和可解释的语义含义的各种标准的灵活性（例如，改变面部形状或改变肤色）以限制潜在子空间解纠缠。利用所构造的准则可以发现以前未知的丰富的潜空间控制。其次，我们提出了一个新的视角来解释CNN分类器的行为，通过在我们发现的可解释的潜在子空间中生成反事实。这种解释有助于揭示分类器是否按预期学习语义。在不同解纠缠准则下的实验结果表明了该方法的有效性。我们相信这种方法有助于CNN的图像处理和反事实解释。代码可在\url{https://github.com/prclibo/ice}上获得。
2022-01-24 cs.AI cs.CV cs.LG
Towards Interpretable Hate Speech Detection using Large Language Model-extracted Rationales
School of Computing and Augmented Intelligence（计算与增强智能学院）；Arizona State University（亚利桑那州立大学）
本文提出用 LLM 从文本中提取理据特征来训练仇恨言论分类器，在多个英文社交媒体数据集上兼顾可解释性与检测性能。
2024-05-08 cs.AI cs.CL cs.LG
"Why Should I Trust You?": Explaining the Predictions of Any Classifier
University of Washington（华盛顿大学）
尽管被广泛采用，但机器学习模型仍然主要是黑箱。然而，了解预测背后的原因对于评估信任非常重要，如果一个人计划根据预测采取行动，或者选择是否部署新模型，这是至关重要的。这种理解还提供了对模型的洞察，可以用来将不可信的模型或预测转换为可信的模型或预测。在这项工作中，我们提出了LIME，一种新的解释技术，通过在预测周围局部学习可解释的模型，以可解释和忠实的方式解释任何分类器的预测。我们还提出了一种解释模型的方法，通过以非冗余的方式呈现代表性的个人预测及其解释，将任务框架为子模块优化问题。我们通过解释文本（例如随机森林）和图像分类（例如神经网络）的不同模型来展示这些方法的灵活性。我们通过新的实验，模拟和人类受试者，在各种需要信任的情况下显示解释的效用：决定是否应该信任预测，在模型之间进行选择，改进不值得信任的分类器，并确定为什么分类器不应该被信任。
2016-08-09 cs.AI cs.LG stat.ML
Information Lattice Learning as Probabilistic Graphical Model Structure Learning
Kocree, Inc.（Kocree公司）；AI Innovation Institute, Stony Brook University（石溪大学人工智能创新研究所）
将信息格学习（ILL）解释为概率图模型结构学习，通过投影到分区格上学习可解释规则，并建立与最大熵和因子图的联系。
2026-06-19 cs.AI cs.LG eess.SP
LIBRE: Learning Interpretable Boolean Rule Ensembles
EURECOM（欧洲通信研究院）
我们提出了一种新的方法- LIBRE -学习一个可解释的分类器，它体现为一组布尔规则。LIBRE使用一个自下而上的弱学习器集合，对随机的特征子集进行操作，这允许学习规则，即使在不平衡的环境中也能很好地概括看不见的数据。弱学习器与一个简单的并集相结合，使得最终的集成也是可解释的。实验结果表明，LIBRE有效地达到正确的平衡之间的预测精度，这是有竞争力的黑箱方法，和可解释性，这往往是优于替代方法从文献中。
2019-11-15 cs.AI cs.LG stat.ML
Nonparametric Probabilistic Regression with Coarse Learners
Numeristical
概率回归是指以特征为条件预测目标的全概率密度函数。我们提出了一个非参数的方法来解决这个问题，它结合了基础分类器（通常是梯度提升森林）训练的目标值的不同粗化。通过结合这些分类器和平均所得密度，我们能够计算精确的条件密度与密度的形状或形式的最小假设。我们结合这种方法与结构化的交叉熵损失函数，用于正则化和平滑所产生的密度。从这些密度计算出的预测区间在实践中具有很高的保真度。此外，在特定的观测中检查这些密度的性质可以提供有价值的见解。我们在各种数据集上演示了这种方法，并显示出具有竞争力的性能，特别是在较大的数据集上。
2022-10-28 cs.AI cs.LG stat.ME
