Identifying Decision Points for Safe and Interpretable Reinforcement Learning in Hypotension Treatment
Harvard University（哈佛大学）；Massachusetts Institute of Technology（麻省理工学院）；Massachusetts General Hospital（麻省总医院）
许多批处理RL健康应用程序首先将时间离散化为固定的时间间隔。然而，这种离散化既失去了分辨率，又迫使在每个（潜在的精细）间隔进行策略计算。在这项工作中，我们开发了一个新的框架，将连续的轨迹压缩成几个可解释的决策点-批量数据支持多个备选方案的地方。我们应用我们的方法从一组肥胖患者数据集创建推荐。我们减少了状态空间，从而加快了规划速度，并允许临床专家轻松检查。
2021-01-09 cs.LG
Interpretable Rules for Online Failure Prediction: A Case Study on the Metro do Porto dataset
Lamarr Institute for Machine Learning and Artificial Intelligence, TU Dortmund University（拉马尔机器学习与人工智能研究所，多特蒙德工业大学）；Faculty of Economics - University of Porto（波尔图大学经济学院）
针对波尔图地铁列车故障预测中深度学习模型解释性不足的问题，提出一种基于可解释特征的在线规则解释方法，在MetroPT2数据集上生成简单规则，仅用3个传感器即可预测故障，提升解释性。
2025-02-11 cs.LG
Using Decision Trees for Interpretable Supervised Clustering
University of Amsterdam（阿姆斯特丹大学）；Brest State Technical University（布列斯特国立技术大学）
针对带标签数据中类别一致且可解释的高密度簇发现问题，提出利用决策树分类器迭代提取簇并优化节点选择的监督聚类方法。
2023-07-16 cs.LG
Learning Ensembles of Interpretable Simple Structure
Iowa State University（爱荷华州立大学）
提出自底向上的简单结构识别算法，将数据划分为可解释子组以最小化特征交互，在子组内训练简单模型，提高可解释性与预测精度，为透明决策支持提供框架。
2025-02-26 cs.LG
Interpretable Quantile Regression by Optimal Decision Trees
Euranova（埃鲁诺瓦）；Université Catholique de Louvain（列日天主大学）
本文提出一种新的方法，通过最优决策树学习完整条件分布预测，无需假设分布，并提供可解释的预测结果，同时保持算法效率。
2026-04-22 cs.LG
POETREE: Interpretable Policy Learning with Adaptive Decision Trees
ETH AI Center（ETH人工智能中心）；ETH Zürich（苏黎世联邦理工学院）；MPI for Intelligent Systems（马克斯·普朗克智能系统研究所）；University of Cambridge（剑桥大学）；Cambridge Centre for AI in Medicine（剑桥人工智能医学中心）；The Alan Turing Institute（艾伦·图灵研究所）
根据观察到的行为建立人类决策模型对于更好地理解、诊断和支持临床护理等现实政策至关重要。由于既定的策略学习方法仍然侧重于模仿绩效，它们无法解释演示的决策过程。通过决策树进行策略提取（POETREE）是一种用于可解释策略学习的新框架，与完全离线和部分可观察的临床决策环境兼容-并基于患者的观察和病史构建确定医生行为的概率树策略。完全可微的树架构在优化期间递增地增长，以使其复杂性适应建模任务，并通过递归学习患者历史的表示，从而产生随着时间的推移适应患者信息的决策树策略。这种策略学习方法在理解、量化和评估观察到的行为以及准确复制方面，都优于真实和合成医疗数据集的最新技术水平，并有可能改善未来的决策支持系统。
2022-09-30 cs.LG
Using Decision Tree as Local Interpretable Model in Autoencoder-based LIME
Amirkabir University of Technology（阿米尔卡比尔理工大学）；Persian Gulf University（波斯湾大学）
如今，深度神经网络由于其高精度的结果而被用于许多领域。然而，它们被认为是“黑匣子”，意味着它们对人类来说是无法解释的。另一方面，在医疗、经济和自动驾驶汽车等任务中，用户希望模型具有可解释性，以决定他们是否可以信任这些结果。在这项工作中，我们提出了一个修改后的版本的自动编码器为基础的方法，称为ALIME的本地可解释性。ALIME本身的灵感来自于一个著名的方法，称为局部可解释模型不可知解释（LIME）。LIME通过在实例周围生成新数据并训练局部线性可解释模型来生成单个实例级解释。ALIME使用自动编码器来衡量样本周围的新数据。然而，ALIME使用线性模型作为本地训练的可解释模型，就像LIME一样。本文提出了一种新的方法，它使用一个决策树代替线性模型，作为可解释的模型。我们评估所提出的模型的情况下，稳定性，局部保真度和可解释性不同的数据集。实验结果表明，与ALIME相比，该算法在稳定性和局部保真度方面有显著的提高，在可解释性方面有明显的改善。
2022-04-07 cs.LG
Better Short than Greedy: Interpretable Models through Optimal Rule Boosting
Monash University（莫纳什大学）
规则集成旨在提供预测准确性和模型可解释性之间的有用权衡。然而，当前规则集成方法的短视和随机搜索组件可能会损害这一目标：它们通常需要比必要的更多的规则来达到一定的准确性水平，或者甚至完全无法准确地建模实际上可以用几个规则很好地描述的分布。在这里，我们提出了一种新的方法，旨在适应规则集合的最大预测能力为一个给定的合奏大小（从而模型的可理解性）。特别是，我们提出了一个有效的分支定界算法，最佳地解决了流行的二阶梯度提升框架的每规则的目标函数。我们的主要观点是，提升目标可以在覆盖数据点数量的线性时间内紧密受限。随着一个额外的新的修剪技术相关的规则冗余，这导致了一个计算上可行的方法，提高最佳规则，我们证明了在广泛的共同基准问题，始终优于预测性能的提升贪婪的规则。
2021-01-21 cs.LG
Modular Clinical Decision Support Networks (MoDN) -- Updatable, Interpretable, and Portable Predictions for Evolving Clinical Environments
Ecole Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）
数据驱动的临床决策支持系统（CDSS）有可能通过个性化的概率指导来改善和简化护理。然而，所需数据的大小需要从类似的CDSS中进行协作学习，这些CDSS通常是不可共享或不完全互操作的（IIO），这意味着它们的特征集并不完全重叠。我们提出了模块化临床决策支持网络（MoDN），它允许跨IIO数据集进行灵活的、隐私保护的学习，同时为临床医生提供可解释的、连续的预测反馈。MoDN是一种由特定特征的神经网络模块组成的新型决策树。它创建了患者的动态个性化表示，并可以对诊断进行多种预测，在咨询的每个步骤都可以更新。模块化设计允许它将训练更新划分为特定功能，并在IIO数据集之间协作学习，而无需共享任何数据。
2022-11-12 cs.LG
Interpretable clustering via optimal multi-way decision trees
Graduate School of Science and Technology, University of Tsukuba（科学技术研究生院，东京大学）；Institute of Systems and Information Engineering, University of Tsukuba（系统与信息工程研究所，东京大学）
本文提出基于最优多方式分割决策树的可解释聚类方法，通过整合一维K均值算法实现灵活分支，提升聚类准确性和可解释性。
2026-08-24 cs.LG
(Sometimes) Less is More: Mitigating the Complexity of Rule-based Representation for Interpretable Classification
本文提出了一种基于逻辑神经网络的方法，通过可微的 $L_0$ 正则化近似来减少概念规则集的复杂性，同时保持其性能，并与随机二值化方法进行比较。
2025-09-26 cs.LG
Explaining Kernel Clustering via Decision Trees
Technical University of Munich（慕尼黑工业大学）；Amazon Research（亚马逊研究院）
本文研究可解释核聚类，提出用决策树逼近核k-means诱导的划分，并通过合适的特征选择在保持可解释性的同时不牺牲逼近保证。
2024-02-15 cs.LG
Concise and interpretable multi-label rule sets
Aalto University（阿尔托大学）；KTH Royal Institute of Technology（KTH皇家理工学院）
多标签分类正变得越来越普遍，但并没有太多的注意已经支付给解释性。在本文中，我们开发了一个多标签分类器，可以表示为一组简洁的简单的“如果，然后”规则，因此，它提供了更好的解释性相比，黑盒模型。值得注意的是，我们的方法是能够找到一个小的相关模式，导致准确的多标签分类，而现有的基于规则的分类是短视的，浪费在搜索规则，需要大量的规则，以达到高精度。特别是，我们制定的问题，选择多标签的规则，以最大限度地提高目标函数，它不仅考虑到歧视能力的标签，但也多样性。考虑多样性有助于避免冗余，从而控制解决方案集中的规则数量。为了解决上述最大化问题，我们提出了一个2-近似算法，它依赖于一种新的技术，以采样高质量的规则。除了我们的理论分析，我们提供了一个彻底的实验评估，这表明，我们的方法提供了一个权衡之间的预测性能和可解释性，这是无与伦比的在以前的工作。
2022-11-07 cs.LG
Interpretable Fuzzy Rule-Based Regression Extension for Ex-Fuzzy Library
研究针对安全关键等领域机器学习模型需可解释性的问题，为Ex-Fuzzy库提出回归扩展，采用基于模糊C均值聚类的目标感知分区初始化策略，在十个数据集上评估，高斯分区表现优，提供了透明且有竞争力的黑盒回归替代方案。
2026-07-23 cs.LG
From Latent Biomarkers to Clinical Rules: Embedding-Guided Rule Mining and Attribution-Based Translation for Interpretable Tabular Learning
提出一种四步流水线，在FT-Transformer潜在空间挖掘规则并翻译为临床特征，在六个数据集上多数优于原始特征规则，但高性能潜在规则翻译后可能性能下降。
2026-09-22 cs.LG
Interpretable GOHR Agents via Sparse Autoencoders
Rutgers University（罗格斯大学）；The University of Hong Kong（香港大学）
研究针对隐藏规则游戏中Transformer智能体的可解释性，通过在其决策令牌嵌入上训练稀疏自编码器，在双规则任务中恢复结构，单个维度对应可解释策略，为解释智能体行为提供方法。
2026-07-30 cs.LG
Models That Are Interpretable But Not Transparent
Duke University（杜克大学）；UNC-Chapel Hill（北卡罗来纳大学教堂山分校）
针对高风险应用中模型可解释性与专有性冲突的问题，提出FaithfulDefense方法，基于最大集合覆盖公式生成完全可信但最小化决策边界泄露的解释。
2025-02-26 cs.LG
Learning Locally Interpretable Rule Ensemble
Fujitsu Ltd.（富士通有限公司）
本文提出一种局部可解释性概念及相应正则化器，通过坐标下降与局部搜索算法学习规则集成，在不降低准确性的前提下用更少规则解释单个预测。
2023-06-20 cs.LG stat.ML
Finding Rule-Interpretable Non-Negative Data Representation
University of Zagreb（萨格勒布大学）；University of Eastern Finland（东芬兰大学）
提出一种融合规则描述与NMF优势的方法，通过输入非负数据和规则生成低维非负表示，提升潜在因子的可解释性并支持聚焦嵌入。
2025-02-03 cs.LG
Interpretable Decision Trees Through MaxSAT
Universitat de Lleida（莱里达大学）
我们提出了一种方法来提高机器学习（ML）决策树（DT）的准确性和可解释性的权衡。特别是，我们应用最大可满足性技术来计算最小纯DT（MPDT）。我们改进了以前方法的运行时间，并表明这些MPDT可以优于使用ML框架sklearn生成的DT的准确性。
2022-07-14 cs.AI cs.LG
Learning Interpretable Musical Compositional Rules and Traces
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
纵观音乐史，理论家们已经确定并记录了可解释的规则，这些规则捕捉了作曲家的决定。这篇论文提出了这样一个问题：“机器能像音乐理论家一样工作吗？它介绍了MUS-ROVER，一个自动从符号音乐中发现规则的自学习系统。MUS-ROVER通过$n$ -gram模型执行特征学习，以提取组成规则-在所得特征上的统计模式。我们评估MUS-ROVER巴赫的（SATB）合唱，证明它可以恢复已知的规则，以及确定新的，特征模式，以供进一步研究。我们将讨论如何提取的规则可以用于机器和人类组成。
2016-06-17 cs.LG stat.ML
Efficient Learning of Interpretable Classification Rules
National University of Singapore（新加坡国立大学）
机器学习在医疗、法律和交通等各种安全关键领域的应用中已经变得无所不在。在这些领域，机器学习提供的高风险决策要求研究人员设计可解释的模型，其中预测是人类可以理解的。在可解释的机器学习中，基于规则的分类器在通过包括输入特征的一组规则来表示决策边界方面特别有效。基于规则的分类器的可解释性通常与规则的大小有关，其中较小的规则被认为更具可解释性。为了学习这样的分类器，暴力直接方法是考虑一个优化问题，该问题试图学习具有接近最大准确度的最小分类规则。由于其组合性质，该优化问题在计算上是棘手的，因此，该问题在大型数据集中不可扩展。为此，在本文中，我们研究的准确性，可解释性和可扩展性的学习规则为基础的分类之间的三角关系。本文的贡献是一个可解释的学习框架IMLI，这是基于最大可满足性（MaxSAT）的综合分类规则表达的命题逻辑。尽管MaxSAT解决方案在过去十年中取得了进展，但基于MaxSAT的简单解决方案无法扩展。因此，我们将一个有效的增量学习技术内的MaxSAT配方，通过集成小批量学习和迭代规则学习。在我们的实验中，IMLI在预测准确性、可解释性和可扩展性之间实现了最佳平衡。作为一个应用程序，我们部署IMLI在学习流行的可解释的分类器，如决策列表和决策集。
2022-08-30 cs.AI cs.LG
R2IF: Aligning Reasoning with Decisions via Composite Rewards for Interpretable LLM Function Calling
Shanghai Key Laboratory of Trustworthy Computing, East China Normal University, Shanghai, China（上海可信计算实验室，华东师范大学，上海，中国）；Huazhong University of Science and Technology（华中科技大学）；Nanyang Technological University（南洋理工大学）
提出R2IF框架，通过复合奖励（格式/正确性约束、思维链有效性奖励和规范-修改-价值奖励）和GRPO优化，对齐推理过程与工具调用决策，在BFCL/ACEBench上提升函数调用准确性和可解释性。
2026-06-02 cs.LG
SAFRAN: An interpretable, rule-based link prediction method outperforming embedding models
Medical University of Vienna（维也纳医科大学）；University Mannheim（曼海姆大学）
基于神经嵌入的机器学习模型已经显示出预测知识图谱中新链接的前景。不幸的是，它们的实际效用由于缺乏可解释性而减少。最近，完全可解释的，基于规则的算法AnyBURL在许多通用链接预测基准测试中产生了非常有竞争力的结果。然而，目前的方法聚合预测多个规则的影响冗余。我们通过引入SAFRAN规则应用程序框架来改进AnyBURL，该框架使用一种称为非冗余Noisy-OR的新聚合方法，该方法在聚合之前检测和聚类冗余规则。在已建立的通用基准FB 15 K-237、WN 18 RR和YAGO 3 -10上，赛峰提供了完全可解释的链接预测的最新结果。此外，它超过了FB 15 K-237和WN 18 RR上多个已建立的基于嵌入的算法的结果，并缩小了YAGO 3 -10上基于规则和基于嵌入的算法之间的差距。
2021-09-16 cs.AI cs.LG
An Interpretable Loan Credit Evaluation Method Based on Rule Representation Learner
Southwest University（西南大学）；BaiHang Intelligent Data Technology Institute（百行智能数据技术研究院）
针对高风险领域模型可解释性问题，提出基于 RRL 的内在可解释贷款信用评估方法，性能优于决策树且接近黑盒模型，并验证了事后解释方法的不可靠性。
2023-04-03 cs.LG
A Logical-Rule Autoencoder for Interpretable Recommendations
Department of Computer Science, George Mason University（乔治梅森大学计算机科学系）
本文提出一种可解释的推荐自编码器，通过可学习的逻辑规则层实现决策过程的透明性，实验表明其在推荐性能和可解释性上优于传统方法。
2026-04-05 cs.IR cs.LG
LIBRE: Learning Interpretable Boolean Rule Ensembles
EURECOM（欧洲通信研究院）
我们提出了一种新的方法- LIBRE -学习一个可解释的分类器，它体现为一组布尔规则。LIBRE使用一个自下而上的弱学习器集合，对随机的特征子集进行操作，这允许学习规则，即使在不平衡的环境中也能很好地概括看不见的数据。弱学习器与一个简单的并集相结合，使得最终的集成也是可解释的。实验结果表明，LIBRE有效地达到正确的平衡之间的预测精度，这是有竞争力的黑箱方法，和可解释性，这往往是优于替代方法从文献中。
2019-11-15 cs.AI cs.LG stat.ML
Learning Fair Rule Lists
Université du Québec à Montréal（蒙特利尔魁北克大学）；LAAS-CNRS（法国国家科学研究中心自动化、计算机工程与信号实验室）；Université de Toulouse（图卢兹大学）
随着黑箱模型在高风险决策系统中的普遍使用，对公平和可解释模型的需求正在增加。虽然已经表明，可解释的模型可以在几个关键领域的黑箱模型一样准确，现有的公平分类技术，可解释的设计往往显示较差的准确性/公平性权衡与他们的非可解释的同行。在本文中，我们提出了FairCORELS，一个公平的分类技术解释的设计，其目标是学习公平的规则列表。我们的解决方案是一个多目标的变体CORELS，分支定界算法学习规则列表，支持几个统计公平的概念。这类措施的例子包括统计上的均等、机会均等和机会均等。FairCORELS在真实世界数据集上的实证评估表明，它优于最先进的公平分类技术，这些技术通过设计可解释，同时与不可解释的技术竞争。
2020-02-18 cs.LG stat.ML
FIRE: An Optimization Approach for Fast Interpretable Rule Extraction
Massachusetts Institute of Technology（麻省理工学院）
本研究提出基于优化的FIRE框架，通过融合正则化与非凸稀疏惩罚从树集成提取可解释规则集，搭配专用块坐标下降求解器提速最高40倍，性能优于现有规则集成算法。
2023-06-12 cs.LG stat.ML
LearnAD: Learning Interpretable Rules for Brain Networks in Alzheimer's Disease Classification
Department of Computing（计算系）；Imperial College London（伦敦帝国学院）；School of Public Health（公共卫生学院）
LearnAD通过学习可解释的规则，实现了在阿尔茨海默病分类中识别脑网络的高可解释性方法。
2025-12-30 cs.AI cs.LG
Iterative Bounding MDPs: Learning Interpretable Policies via Non-Interpretable Methods
Carnegie Mellon University（卡内基梅隆大学）
当前在可解释强化学习中的工作通常以状态空间上的决策树的形式产生策略。这些策略可用于正式的安全验证、代理行为预测和重要功能的手动检查。然而，现有的方法在训练之后拟合决策树，或者使用与新的学习技术（诸如使用神经网络的那些学习技术）不兼容的定制学习过程。为了解决这个问题，我们提出了一种新的马尔可夫决策过程（MDP）类型的学习决策树政策：迭代边界MDP（IBMDP）。IBMDP是围绕基本MDP构建的，因此在使用与方法无关的掩码过程时，保证每个IBMDP策略对应于基本MDP的决策树策略。由于这种决策树等价性，在训练期间可以使用任何函数近似器，包括神经网络，同时产生用于基本MDP的决策树策略。我们提出了所需的掩蔽过程，以及修改后的值更新步骤，允许IBMDP使用现有的算法来解决。我们应用这个过程来产生最近的强化学习方法的IBMDP变体。我们的经验表明，我们的方法的好处，通过解决IBMDP产生决策树政策的基础MDP。
2021-02-25 cs.AI cs.LG
Locally Interpretable Individualized Treatment Rules for Black-Box Decision Models
Department of Epidemiology & Biostatistics, Memorial Sloan Kettering Cancer Center（流行病学与生物统计学系，纪念斯隆-凯特琳癌症中心）
本文提出LI-ITR方法，结合灵活机器学习模型与局部可解释近似，实现可解释的个性化治疗规则，用于医疗决策优化。
2026-02-12 cs.AI cs.LG stat.ME
Evolutionary learning of interpretable decision trees
University of Trento（特伦托大学）
在过去的十年中，强化学习技术在几项任务中取得了人类水平的表现。然而，近年来，对可解释性的需求出现了：我们希望能够理解一个系统是如何工作的，以及其决策背后的原因。我们不仅需要可解释性来评估生产系统的安全性，还需要它来提取关于未知问题的知识。虽然确实存在一些针对强化学习优化决策树的技术，但它们通常采用贪心算法，或者不利用环境给出的奖励。这意味着这些技术很容易陷入局部最优。在这项工作中，我们提出了一种新的方法来解释强化学习，使用决策树。我们提出了一个两级优化方案，结合了进化算法的优点与Q学习的优点。通过这种方式，我们将问题分解为两个子问题：找到状态空间的有意义和有用的分解的问题，以及将动作与每个状态相关联的问题。我们在三个著名的强化学习基准测试中测试了所提出的方法，在性能和可解释性方面，它与最先进的方法相比具有竞争力。最后，我们进行了消融研究，证实使用两级优化方案在非平凡环境中的性能相对于单层优化技术有所提高。
2021-04-21 cs.LG
Interpretable Two-level Boolean Rule Learning for Classification
Massachusetts Institute of Technology（麻省理工学院）；IBM Thomas J. Watson Research Center（IBM托马斯·J·沃森研究中心）
作为对可解释的机器学习研究的贡献，我们开发了一种新的优化框架，用于学习精确和稀疏的两级布尔规则。我们考虑合取范式（AND-of-OR）和析取范式（OR-of-AND）中的规则。提出了一个原则性的目标函数，贸易分类的准确性和可解释性，其中我们使用汉明损失来表征准确性和稀疏性来表征可解释性。我们提出了有效的程序来优化这些目标的基础上线性规划（LP）松弛，块坐标下降，交替最小化。实验表明，我们的新算法提供了很好的准确性和可解释性之间的权衡。
2016-06-18 cs.LG stat.ML
Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead
Duke University（杜克大学）
黑盒机器学习模型目前正用于整个社会的高风险决策，在医疗保健、刑事司法和其他领域造成问题。人们希望创建解释这些黑盒模型的方法可以缓解其中的一些问题，但是试图\textit{explain}黑盒模型，而不是首先创建\textit{interpretable}模型，很可能会延续不良做法，并可能对社会造成灾难性的危害。有一条前进的道路-设计出内在可解释的模型。这份手稿澄清了解释黑盒和使用固有的可解释模型之间的鸿沟，概述了在高风险决策中应避免可解释黑盒的几个关键原因，确定了可解释机器学习的挑战，并提供了几个示例应用程序，其中可解释模型可能会在刑事司法，医疗保健和计算机视觉中取代黑盒模型。
2019-09-22 cs.LG stat.ML
MCA-based Rule Mining Enables Interpretable Inference in Clinical Psychiatry
BlackThorn Therapeutics（黑刺李治疗公司）
为临床医疗应用开发可解释的机器学习模型有可能改变我们理解、治疗并最终治愈许多医学领域疾病和病症的方式。这些模型不仅可以作为预测和估计的来源，还可以作为临床医生和研究人员从数据中揭示新知识的发现工具。患者信息的高维度（例如，表型、基因型和病史）、缺乏客观测量以及患者群体的异质性通常在实践中为临床精神病学开发可解释的机器学习模型时产生重大挑战。在本文中，我们采取了这样的可解释的模型的发展的一步。首先，通过开发一种新的分类规则挖掘方法的基础上，多变量对应分析（MCA）能够处理大量的功能数据集，第二，通过应用这种方法来建立transdiagnosis贝叶斯规则列表模型，以筛选精神疾病使用联盟的神经精神表型组学数据集。我们表明，对于具有50个特征的数据集，我们的方法不仅比最先进的规则挖掘技术快至少100倍，而且在多个基准数据集上提供了可解释性和可比的预测准确性。
2018-12-16 cs.LG stat.ML
Transcoder-based Circuit Analysis for Interpretable Single-Cell Foundation Models
The University of Tokyo（东京大学）；The University of Tokyo Hospital（东京大学医院）
本文在单细胞基础模型cell2sentence上训练转码器以提取内部决策电路，证明所发现的电路对应真实生物学机制，从而提升scFM的可解释性。
2025-09-18 cs.LG
MAVIPER: Learning Decision Tree Policies for Interpretable Multi-Agent Reinforcement Learning
Carnegie Mellon University（卡内基梅隆大学）；Shanghai Jiao Tong University（上海交通大学）；Army Research Lab（陆军研究实验室）；University of California, Riverside（加州大学河滨分校）
多智能体强化学习（MARL）的许多最新突破需要使用深度神经网络，这对人类专家来说是一个解释和理解的挑战。另一方面，现有的可解释的强化学习（RL）的工作已经显示出从神经网络中提取更多的可解释的基于决策树的策略的希望，但仅在单代理设置。为了填补这一空白，我们提出了第一套算法，从用MARL训练的神经网络中提取可解释的决策树策略。第一个算法，IVIPER，扩展VIPER，最近的方法单代理可解释的RL，多代理设置。我们证明了IVIPER学习高质量的决策树政策，为每个代理。为了更好地捕捉代理之间的协调，我们提出了一种新的集中式决策树训练算法，MAVIPER。MAVIPER通过使用预期的树预测其他代理的行为来共同增长每个代理的树，并使用resception来关注对其与其他代理的交互至关重要的状态。我们表明，这两种算法通常优于基线和MAVIPER训练的代理实现更好的协调性能比IVIPER训练的代理在三个不同的多代理粒子世界环境。
2022-07-11 cs.LG cs.MA
Learning Hyperplane Tree: A Piecewise Linear and Fully Interpretable Decision-making Framework
Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））；University of Alberta（阿尔伯塔大学）
本研究提出新型可解释树模型学习超平面树（LHT），通过超平面连续划分数据、结合最小二乘拟合与模糊逻辑的分段线性隶属函数分类，在多公开数据集分类任务上优于SOTA树模型，且具备高度可解释性。
2025-01-15 cs.LG
What is Interpretable? Using Machine Learning to Design Interpretable Decision-Support Systems
University of Oxford（牛津大学）；University at Buffalo（布法罗大学）
最近在机器学习（ML）可解释性方面的努力集中在创建解释黑盒ML模型的方法上。然而，这些方法依赖于简单近似的假设，如线性模型或决策树，本质上是人类可解释的，这还没有经过经验检验。此外，过去的努力只集中在理解上，而忽略了探索说服非技术专家（如临床医生）在实践中使用ML模型所需的信任组件。在本文中，我们认为强化学习（RL）可以用来学习不同用户可以解释的内容，从而建立他们对ML模型的信任。为了验证这个想法，我们首先训练一个神经网络，为心力衰竭患者提供风险评估。然后，我们围绕神经网络模型设计了一个基于RL的临床决策支持系统（DSS），该系统可以从与用户的交互中学习。我们进行了一项实验，涉及来自三个不同国家的多个机构的不同临床医生。我们的研究结果表明，ML专家无法准确预测哪些系统输出将最大限度地提高临床医生对底层神经网络模型的信心，并提出了其他发现，这些发现对ML可解释性的未来研究和ML在医学中的使用具有广泛的影响。
2019-06-11 cs.LG stat.ML
Scalable Rule-Based Representation Learning for Interpretable Classification
Tsinghua University（清华大学）；East China Normal University（华东师范大学）
基于规则的模型，例如，决策树以其透明的内部结构和良好的模型表达能力被广泛应用于对模型可解释性要求较高的场景中。然而，基于规则的模型很难优化，特别是在大数据集上，由于其离散的参数和结构。通常使用包围方法和模糊/软规则来提高性能，但它们牺牲了模型的可解释性。为了获得良好的可扩展性和可解释性，我们提出了一种新的分类器，命名为基于规则的表示学习器（RRL），自动学习可解释的非模糊规则的数据表示和分类。为了有效地训练不可微RRL，我们将其投影到连续空间，并提出了一种新的训练方法，称为梯度嫁接，可以直接优化离散模型使用梯度下降。为了提高RRL的可扩展性，并使其能够端到端地离散化连续特征，还设计了一种改进的逻辑激活函数设计。在9个小数据集和4个大数据集上的详尽实验表明，RRL优于竞争性可解释方法，并且可以很容易地进行调整，以在不同场景下获得分类精度和模型复杂度之间的权衡。我们的代码可在https://github.com/12wang3/rrl上获得。
2021-09-30 cs.AI cs.LG
Interpretable Machine Learning for Self-Service High-Risk Decision-Making
Central Washington University（中央华盛顿大学）
本文通过一般线坐标（GLC）的视觉知识发现，可解释的机器学习。超块作为可解释的数据集单元和一般线坐标的概念相结合，以创建一个可视化的自助机器学习模型。提出了DSC1和DSC2无损多维坐标系。DSC1和DSC2可以使用图形构造算法将多个数据集属性映射到单个二维（X，Y）笛卡尔平面。超块分析用于确定视觉上吸引人的数据集属性顺序并减少线遮挡。结果表明，超块可以推广决策树规则，一系列的DSC1或DSC2图可以可视化一棵决策树。DSC1和DSC2图在UCI ML存储库的基准数据集上进行了测试。它们允许对数据进行视觉分类。此外，还发现了超块杂质区域，并用于建立数据集分割，突出最坏情况下模型准确性的上限估计，以指导高风险决策的模型选择。DSC1和DSC2的主要优点是它们的高度可解释性。它们允许领域专家通过视觉模式发现来控制或建立新的机器学习模型。
2022-05-09 cs.GR cs.LG
Extracting Interpretable Concept-Based Decision Trees from CNNs
University of Southern California（南加州大学）
为了更深入地了解卷积神经网络（CNN）如何对人类可理解的概念进行推理，我们提出了一种从隐藏层激活中推断标记概念数据并通过浅层决策树解释概念的方法。决策树可以提供关于模型认为哪些概念重要的信息，以及提供对概念如何彼此交互的理解。实验表明，所提取的决策树能够准确地表示原始CNN的分类在低树深度，从而鼓励人类在回路中的歧视性概念的理解。
2019-06-16 cs.LG stat.ML
A Fast Interpretable Fuzzy Tree Learner
School of Computer Science（计算机科学学院）；Electronic Engineering University of Essex Colchester, United Kingdom（埃塞克斯大学电子工程学院伦敦郡，英国）；Department of Mathematics Slovak Academy of Sciences Bratislava, Slovakia（数学系斯洛伐克科学院布拉迪斯拉发，斯洛伐克）
本文提出了一种结合贪心算法和模糊逻辑的快速可解释模糊树学习器，以提高计算效率和可解释性。
2025-12-12 cs.LG cs.SC
Concept Tree: High-Level Representation of Variables for More Interpretable Surrogate Decision Trees
AXA（安盛集团）；OECD（经济合作与发展组织）；Sorbonne Universite（索邦大学）；CNRS（法国国家科学研究中心）；Polish Academy of Science（波兰科学院）
在高维表格数据集上训练的黑盒预测器的可解释的代理人在相关变量存在的情况下很难生成可理解的解释。我们提出了一个模型不可知的可解释的代理，提供全球和本地的黑盒分类器的解释，以解决这个问题。我们引入的概念，直观的变量，要么是由一个领域的专家定义或自动发现使用相关系数分组的想法。概念被嵌入到一个代理决策树，以提高其可理解性。第一个实验FRED-MD，一个宏观经济数据库，134个变量，显示在人类的可解释性的改善，而准确性和保真度的代理模型被保留。
2019-06-04 cs.LG stat.ML
Scalable and interpretable rule-based link prediction for large heterogeneous knowledge graphs
Medical University of Vienna（维也纳医科大学）；University Mannheim（曼海姆大学）
基于神经嵌入的机器学习模型已经显示出预测生物医学知识图谱中新链接的前景。不幸的是，它们的实际效用由于缺乏可解释性而减少。最近，完全可解释的，基于规则的算法AnyBURL在许多通用链接预测基准测试中产生了极具竞争力的结果。然而，它的适用性复杂的生物医学知识基础上的大规模预测任务是有限的推理时间长，并与聚合预测的多个规则的困难。我们通过引入SAFRAN规则应用框架来改进AnyBURL，该框架通过可扩展的聚类算法聚合规则。在已建立的通用基准FB 15 K-237和大规模生物医学基准OpenBioLink上，赛峰提供了完全可解释的链接预测的最新结果。此外，它超过了FB 15 K-237上多个已建立的基于嵌入的算法的结果，并缩小了OpenBioLink上基于规则和基于嵌入的算法之间的差距。我们还表明，赛峰智能推理系统将推理速度提高了两个数量级。
2020-12-10 cs.AI cs.IR cs.LG
Optimization Methods for Interpretable Differentiable Decision Trees in Reinforcement Learning
Georgia Institute of Technology（佐治亚理工学院）；University of Toronto（多伦多大学）；MIT Lincoln Laboratory（麻省理工学院林肯实验室）
决策树因其易用性和可解释性而在机器学习中无处不在。然而，这些模型通常不用于强化学习，因为它们不能通过随机梯度下降在线更新。我们克服了这一限制，允许在整个树，提高样本的复杂性，提供可解释的政策提取梯度更新。首先，我们包括政策梯度学习的需要，通过检查梯度下降的性质可微决策树的理论动机。其次，我们证明了我们的方法在所有领域都等同于或优于神经网络，并且可以在线学习离散的决策树，其平均奖励比批量训练的决策树高出7倍。第三，我们进行了一项用户研究，以量化决策树，规则列表和神经网络的可解释性与统计上显着的结果（$p < 0.001$）。
2020-06-25 cs.LG stat.ML
MIXRTs: Toward Interpretable Multi-Agent Reinforcement Learning via Mixing Recurrent Soft Decision Trees
Nanjing University（南京大学）
针对多智能体强化学习黑盒模型不可解释且现有可解释方法性能弱的问题，提出MIXRTs架构，利用循环软决策树显式表示决策过程并结合价值分解框架进行信用分配，在复杂任务中实现了高性能与可解释性。
2025-03-04 cs.LG cs.MA
Learning Qualitatively Diverse and Interpretable Rules for Classification
Harvard University（哈佛大学）
人们越来越有兴趣开发精确的模型，也可以解释给人类。不幸的是，如果某些数据集存在多个不同但准确的模型，当前的机器学习方法不太可能找到它们：标准技术可能会恢复一个组合它们的复杂模型。在这项工作中，我们介绍了一种方法来识别一个数据集的不同但准确的模型的最大集合。我们的经验表明，在数据支持多个准确的分类器的情况下，我们倾向于恢复更简单，更可解释的分类器，而不是更复杂的。
2018-07-19 cs.LG stat.ML
Interpretable Two-level Boolean Rule Learning for Classification
Massachusetts Institute of Technology（麻省理工学院）；IBM Thomas J. Watson Research Center（IBM托马斯·J·沃森研究中心）
本文提出了一种基于合取范式（CNF，即AND-of-OR）或析取范式（DNF，即OR-of-AND）的两级布尔规则的学习算法，旨在实现分类精度和规则简单性之间的良好平衡。提出了两种提法。第一种是整数规划，其目标函数是错误总数和规则中使用的特征总数的组合。我们推广了以前提出的线性规划（LP）松弛从一级到两级的规则。第二个公式取代0-1的分类误差与汉明距离从当前的两级规则的最接近的规则，正确分类的样本。基于这第二个配方，块坐标下降和交替最小化算法的开发。实验结果表明，两级规则的建模能力明显优于一级规则，基于汉明距离公式的两种算法总体上优于其他两级规则学习方法.一个建议的方法来二进制化任何分数值的LP松弛的最佳解决方案也被证明是有效的。
2015-11-23 cs.AI cs.LG
Effective and interpretable dispatching rules for dynamic job shops via guided empirical learning
INESC TEC（INESC TEC（葡萄牙系统与计算机工程研究所））；Faculdade de Engenharia, Universidade do Porto（波尔图大学工程学院）
工业4.0的出现使生产系统更加灵活，也更加动态。在这些设置中，调度通常需要通过调度规则实时调整。虽然直到90年代才取得了实质性的进展，但这些规则的执行仍然相当有限。机器学习文献正在开发各种方法来改进它们，但由此产生的规则很难解释，并且不能很好地概括各种设置。本文是将机器学习与领域问题推理相结合进行调度的第一次主要尝试。这个想法包括使用后者获得的见解来指导前者的实证研究。我们的假设是，这种指导的经验学习过程应该导致调度规则是有效的和可解释的，以及概括到不同的实例类。我们测试我们的方法在经典的动态车间调度问题最小化拖期，这是最好的研究调度问题之一。尽管如此，结果表明，我们的方法能够找到新的最先进的规则，显着优于现有的文献在绝大多数情况下，从宽松到紧张的到期日，从低利用率的条件拥挤的商店。总体而言，平均改善率为19%。此外，这些规则是紧凑的，可解释的，并且可以很好地推广到极端的，看不见的场景。
2021-09-07 cs.AI cs.LG
GENESIM: genetic extraction of a single, interpretable model
Ghent University - imec, IDLab（根特大学 - imec, IDLab）
通过决策树归纳技术获得的模型具有很好的可解释性，但它们容易出现过拟合，从而导致预测性能低下。包围盒技术能够达到更高的精度。然而，这是以失去结果模型的可解释性为代价的。这使得集成技术在决策支持而不是决策制定至关重要的应用中不切实际。为了弥补这一差距，我们提出了GENESIM算法，通过使用遗传算法将决策树的集合转换为具有增强预测性能的单个决策树。我们比较GENESIM流行的决策树归纳和集成技术，使用12个公开的数据集。结果表明，GENESIM实现了更好的预测性能比决策树归纳技术和集成技术在同一数量级的预测性能在大多数这些数据集。此外，GENESIM产生的模型具有非常低的复杂性，使其非常可解释，与集成技术相比。
2016-11-17 cs.LG stat.ML
Augmented Fairness: An Interpretable Model Augmenting Decision-Makers' Fairness
University of Iowa（爱荷华大学）；University of Texas at Austin（得克萨斯大学奥斯汀分校）
我们提出了一种模型不可知的方法，用于减轻黑盒决策者，特别是人类决策者的预测偏差。我们的方法在特征空间中检测黑盒决策者有偏见的地方，并用一些简短的决策规则代替它，充当“公平代理”。基于规则的代理模型在两个目标下训练，预测性能和公平性。我们的模型侧重于一个设置，在实践中是常见的，但不同于其他文献的公平性。我们只能黑盒访问模型，并且在预算约束下只能查询有限的真标签集。我们制定了一个多目标优化建立一个代理模型，我们同时优化预测性能和偏差。为了训练模型，我们提出了一种新的训练算法，结合非支配排序遗传算法与主动学习。我们在公共数据集上测试我们的模型，在那里我们模拟各种有偏见的“黑盒”分类器（决策者），并将我们的方法应用于可解释的增强公平性。
2020-11-17 cs.HC cs.LG
Optimal Decision Trees For Interpretable Clustering with Constraints (Extended Version)
University of Toronto（多伦多大学）；Vector Institute（向量研究所）
本文提出首个基于SAT的带约束可解释聚类框架，利用决策树在满足聚类约束的同时提供强理论保证，并揭示了可解释性与约束满足之间的权衡。
2023-05-16 cs.AI cs.LG
