Model-Level GNN Explanations via Rule-to-Graph Readout for Logit Reconstruction
University of Victoria（维多利亚大学）；University of Alberta（阿尔伯塔大学）；LSU ATHENA Lab（路易斯安那州立大学ATHENA实验室）；University of Toronto（多伦多大学）
本文提出基于规则的图神经网络解释框架，通过规则级读取重建logit，实现全局解释与子图接地，提升预测一致性并加快速度。
2026-05-11 cs.AI cs.LG
Effects of Locality and Rule Language on Explanations for Knowledge Graph Embeddings
Inria（法国国家信息与自动化研究所）；Univ. Rennes（雷恩大学）；CNRS（法国国家科学研究中心）；Irisa（雷恩信息与自动化系统研究所）
知识图谱（KG）是许多AI相关任务（如推理或问答）的关键工具。这反过来又推动了幼儿园链接预测的研究，即从现有知识中预测缺失关系的任务。基于KG嵌入的解决方案在这方面已经显示出了有希望的结果。不利的一面是，这些方法通常无法解释它们的预测。虽然一些工作已经提出计算基于嵌入的链接预测器的事后规则解释，但这些努力大多采用具有无界原子的规则，例如，·In（x，y）=> residence（x，y），在全局范围内学习，即，整个KG。这些作品都没有考虑到具有有界原子的规则的影响，例如国籍（x，英格兰）=>说话（x，英语），或者从KG的区域学习的影响，即，本地范围。因此，我们研究这些因素对基于规则的解释嵌入为基础的链接预测的质量的影响。我们的研究结果表明，更具体的规则和局部范围可以提高解释的准确性。此外，这些规则可以提供关于用于链接预测的KG嵌入的内部工作的进一步见解。
2023-02-14 cs.AI cs.LG
Explanation-Aware Experience Replay in Rule-Dense Environments
University of Bologna（博洛尼亚大学）；University of Cambridge（剑桥大学）
人类环境通常由明确而复杂的规则集来调节。将强化学习（RL）代理集成到这样的环境中，可以促进学习机制的发展，这些学习机制在规则密集和异常充斥的环境中表现良好，例如在受管制的道路上进行自动驾驶。在本文中，我们提出了一种组织经验的方法，通过分区的经验缓冲区成集群标记的每解释的基础上。我们提出了与模块化规则集和9个学习任务兼容的离散和连续导航环境。对于具有可解释规则集的环境，我们将基于规则的解释转换为基于案例的解释，方法是将状态转换分配到标有解释的聚类中。这使我们能够以课程和任务为导向的方式进行体验，专注于事件的稀有性，重要性和意义。我们把这个概念称为解释-意识（XA）。我们执行XA体验重放（XAER）与集群内和集群间的优先级，并引入XA兼容版本的DQN，TD 3和SAC。与传统的优先体验重放基线相比，这些算法的XA版本的性能始终优于传统的优先体验重放基线，这表明解释工程可以用于替代具有可解释功能的环境的奖励工程。
2021-12-16 cs.AI cs.LG cs.RO
Measurably Stronger Explanation Reliability via Model Canonization
Fraunhofer Heinrich Hertz Institute（弗劳恩霍夫海因里希·赫兹研究所）
虽然基于规则的归因方法已被证明可用于为深度神经网络提供本地解释，但解释现代和更多样化的网络架构在生成可信解释方面产生了新的挑战，因为所建立的规则集可能不足以或不适用于新的网络结构。作为上述问题的一个优雅的解决方案，最近引入了网络经典化。该过程利用了基于规则的属性的实现依赖性，并将模型重构为功能相同的替代设计，其中可以应用已建立的属性规则。然而，封圣的想法和它的有用性迄今为止只被定性地探讨。在这项工作中，我们定量验证了网络规范化对VGG-16和ResNet 18模型的基于规则的属性的有益影响，从而扩展了当前获得可靠的神经网络解释的最佳实践。
2022-02-14 cs.AI cs.LG
On Trustworthy Rule-Based Models and Explanations
LAAS-CNRS, Université de Toulouse, CNRS, INSA Toulouse, France（法国图卢兹大学、CNRS、INSA图卢兹分校）；Universitat de Lleida（莱里达大学）；ICREA & University of Lleida（ICREA与莱里达大学）
本文研究了基于规则的机器学习模型在解释预测时存在的不良方面（如负重叠和冗余），开发了分析算法，并证明现有广泛使用的工具会诱导出具有不良方面的规则集。
2025-07-10 cs.AI cs.LG cs.LO
Explaining Predictions by Characteristic Rules
KTH Royal Institute of Technology（瑞典皇家理工学院）
本文提出名为CEGA的新型预测解释技术，通过关联规则挖掘将标准局部解释生成的多个解释聚合为特征规则，实验表明该方法在保真度与复杂度之间实现了更优的权衡。
2024-05-31 cs.AI cs.LG
CFIRE: A General Method for Combining Local Explanations
University of Bonn（波恩大学）；Lamarr Institute for Machine Learning and Artificial Intelligence（拉马尔机器学习与人工智能研究所）；Fraunhofer IAIS（弗劳恩霍夫智能分析与信息系统研究所）
提出CFIRE算法，通过结合XAI与闭频繁项集挖掘从局部解释生成全局决策规则，解决解释器分歧问题，在14个数据集近700个模型上展现高鲁棒性、精确度与效率。
2025-04-01 cs.LG
Global Graph Counterfactual Explanation: A Subgraph Mapping Approach
University of Virginia（弗吉尼亚大学）；Case Western Reserve University（凯斯西储大学）；JP Morgan Chase & Co.（摩根大通公司）；University of Georgia（佐治亚大学）
针对局部图反事实解释信息过载、忽视跨图关系的问题，提出GlobalGCE，通过学习子图映射规则生成全局反事实解释，并设计生成器与自编码器提升规则生成效果。
2024-10-25 cs.LG
Rule-Bottleneck Reinforcement Learning: Joint Explanation and Decision Optimization for Resource Allocation with Language Agents
Harvard John A. Paulson School of Engineering and Applied Sciences（哈佛大学约翰·A·保尔森工程与应用科学学院）；Harvard T.H. Chan School of Public Health（哈佛大学陈曾熙公共卫生学院）；Google DeepMind（谷歌DeepMind）
针对深度RL策略缺乏透明度、语言智能体决策有效性不足的问题，提出RBRL框架，联合优化决策与解释，在真实场景中性能媲美深度RL且效率优于LLM微调，解释质量获提升。
2025-02-15 cs.AI cs.LG
From Abductive Explanations to Global Logical Rules for Node Classification in SGCs
本研究针对SGC节点分类任务，提出以最小溯因解释为中间表示的逻辑框架，可提取紧凑且高保真的全局逻辑规则。
2026-08-19 cs.AI cs.LG cs.LO
CGXplain: Rule-Based Deep Neural Network Explanations Using Dual Linear Programs
University of Cambridge（剑桥大学）
本文提出CGX分解式解释方法，利用对偶线性规划从DNN隐藏表示中提取规则，在保证稳定性与对齐性的同时将规则集缩小80%以上。
2023-04-11 cs.AI cs.LG
MAnchors: Memorization-Based Acceleration of Anchors via Rule Reuse and Transformation
School of Computer Science, Peking University, Beijing, China（北京大学计算机科学学院）；Key Lab of High Confidence Software Technologies(Peking University), Ministry of Education, Beijing, China（高可信软件技术重点实验室（北京大学））
MAnchors通过规则重用和转换基于记忆的方法加速锚点，减少解释生成时间并保持保真度和可解释性。
2026-07-20 cs.AI cs.LG
Rule2Text: Natural Language Explanation of Logical Rules in Knowledge Graphs
University of Texas at Arlington（德克萨斯理工大学）
针对知识图谱逻辑规则难被人类理解的问题，本研究探索用大语言模型生成其自然语言解释，提取多数据集规则并检验多种提示策略，经评估验证了方法的有效性，相关资源已公开。
2025-07-31 cs.AI cs.CL cs.LG
PARs: Predicate-based Association Rules for Efficient and Accurate Model-Agnostic Anomaly Explanation
Siemens Technology China（西门子中国技术）
针对现有异常检测研究重检测轻解释的问题，提出基于谓词的关联规则PARs模型无关异常解释方法，经用户研究和多基准实验验证，其解释更易被用户理解，且计算效率与准确性优于现有先进方法。
2023-12-18 cs.AI cs.IR cs.LG
LIMREF: Local Interpretable Model Agnostic Rule-based Explanations for Forecasting, with an Application to Electricity Smart Meter Data
Monash University（莫纳什大学）
准确的电力需求预测在可持续电力系统中起着至关重要的作用。为了更好地做出决策，特别是针对最终用户的需求灵活性，不仅需要提供准确的预测，还需要提供可理解和可操作的预测。为了提供准确的预测，跨时间序列训练的全局预测模型（GFM）最近在许多需求预测竞赛和实际应用中显示出优于单变量预测方法的结果。我们的目标是填补全球预测方法的准确性和可解释性之间的差距。为了解释全球模型预测，我们提出了本地可解释模型不可知的基于规则的预测解释（LIMREF），一个本地解释器框架，为特定的预测产生k-最优的影响规则，考虑全球预测模型作为一个黑盒模型，在模型不可知的方式。它提供了不同类型的规则来解释全局模型的预测和反事实规则，这些规则为潜在的变化提供了可操作的见解，以获得给定实例的不同输出。我们使用大规模的电力需求数据集进行实验，这些数据集具有温度和日历效应等外生特征。在这里，我们评估质量的解释所产生的LIMREF框架在定性和定量方面，如准确性，保真度和可理解性和基准对其他本地解释者。
2022-02-15 cs.AI cs.LG
Consistent Sufficient Explanations and Minimal Local Rules for explaining regression and classification models
LaMME（LaMME实验室）；University Paris Saclay（巴黎萨克雷大学）；Stellantis（斯泰兰蒂斯）；ENSIIE（法国国立高等工业工程学院）；Quantmetry（Quantmetry公司）
为了解释任何模型的决策，我们扩展了概率充分假设（P-SE）的概念。对于每个实例，该方法选择足以以高概率产生相同预测的特征的最小子集，同时去除其他特征。P-SE的关键是计算保持相同预测的条件概率。因此，我们引入了一个准确和快速的估计，通过随机森林的任何数据$(\boldsymbol{X}, Y)$，并通过其一致性的理论分析，显示其效率。因此，我们将P-SE扩展到回归问题。此外，我们处理非离散特征，而不需要学习$\boldsymbol{X}$的分布，也不需要进行预测的模型。最后，我们介绍了基于P-SE的回归/分类的基于局部规则的解释，并将我们的方法与其他可解释的AI方法进行了比较。这些方法在\url{www.github.com/salimamoukou/acv00}上作为Python包提供。
2022-10-14 cs.LG stat.ML
BELLATREX: Building Explanations through a LocaLly AccuraTe Rule EXtractor
KU Leuven（鲁汶大学）；imec（比利时微电子研究中心）
树集成算法，如随机森林，是一种有效的机器学习方法，因其灵活性、高性能和对过拟合的鲁棒性而流行。然而，由于多个学习器被组合，它们不像单个决策树那样可解释。在这项工作中，我们提出了一种新的方法，即通过LocalLy AccuraTe规则提取器（Bellatrex）建立解释，并且能够解释森林预测对于一个给定的测试实例，只有几个不同的规则。从随机森林生成的决策树开始，我们的方法1）预先选择用于进行预测的规则子集，2）创建此类规则的向量表示，3）将它们投影到低维空间，4）对此类表示进行聚类，以从每个聚类中选择一条规则来解释实例预测。我们在89个真实世界的数据集上测试了Bellatrex的有效性，并证明了我们的方法对于二进制分类，回归，多标签分类和事件时间任务的有效性。据我们所知，这是第一次一个可解释性工具箱可以在同一个框架内处理所有这些任务。我们还表明，我们提取的代理模型可以近似相应的集成模型在所有考虑的任务的性能，而选择只有少数树木从整个森林。我们还表明，我们提出的方法大大优于其他可解释的方法在预测性能。
2023-01-06 cs.AI cs.LG
Causality by Abstraction: Symbolic Rule Learning in Multivariate Timeseries with Large Language Models
Arizona State University（亚利桑那州立大学）
ruleXplain利用大语言模型提取多变量时间序列中的因果规则，通过生成反事实输入轨迹和闭环细化确保规则的可验证性和有效性。
2026-02-19 cs.LG
Metafeatures-based Rule-Extraction for Classifiers on Behavioral and Textual Data
University of Antwerp（安特卫普大学）；INSEAD（欧洲工商管理学院）
基于行为和文本数据的机器学习模型可以产生高度准确的预测模型，但通常很难解释。规则提取技术已经被提出来将复杂的“黑箱”模型的期望预测准确性与全局可解释性相结合。然而，在高维稀疏数据的背景下，其中许多特征与预测相关，规则提取可能具有挑战性，因为用许多规则替换黑盒模型会再次给用户留下无法理解的解释。为了解决这个问题，我们开发和测试的规则提取方法的基础上更高层次，稀疏的元特征。我们分析的一个关键发现是，基于元特征的解释更好地模仿了黑箱预测模型的行为，这是通过解释的保真度来衡量的。
2021-03-04 cs.AI cs.LG
Unveiling Latent Causal Rules: A Temporal Point Process Approach for Abnormal Event Explanation
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））
本文提出一种基于时间点过程与EM算法的方法，自动发现“如果-那么”因果规则，用于解释医疗等高风险系统中的异常事件，并在合成与真实数据上验证了其准确性与有效性。
2024-03-19 cs.AI cs.LG
Learning Post-Hoc Causal Explanations for Recommendation
Rutgers University（罗格斯大学）；Renmin University of China（中国人民大学）
最先进的推荐系统具有生成高质量推荐的能力，但由于使用黑盒预测模型，通常不能向人类提供直观的解释。缺乏透明度突出了提高推荐系统的可解释性的至关重要性。在本文中，我们建议从用户交互历史中提取因果规则作为黑盒顺序推荐机制的事后解释，同时保持推荐模型的预测准确性。我们的方法首先获得反事实的例子与援助的扰动模型，然后提取个性化的因果关系的推荐模型，通过因果规则挖掘算法。在几个最先进的顺序推荐模型和真实数据集上进行了实验，以验证我们的模型在生成因果解释方面的性能。同时，我们从质量和可信度两个方面对所发现的因果解释进行了评价，结果表明，与传统的关联规则相比，因果规则能够为黑盒推荐模型的行为提供个性化的、更有效的解释。
2021-02-23 cs.AI cs.IR cs.LG
Local Universal Explainer (LUX) -- a rule-based explainer with factual, counterfactual and visual explanations
Mark Kac Center for Complex Systems Research（马克·卡茨复杂系统研究中心）
本文提出基于规则的 LUX 解释器，利用斜向决策树、高密度真实数据簇与 SHAP 引导采样，统一生成事实、反事实和可视化解释，并在多数据集上优于现有方法。
2024-09-09 cs.AI cs.LG
Rule induction for global explanation of trained models
Computational Linguistics & Psycholinguistics Research Center（计算语言学与心理语言学研究中心）；University of Antwerp（安特卫普大学）
了解训练网络的行为并为其输出找到解释对于提高网络的性能和泛化能力以及确保自动化系统的信任非常重要。以前已经提出了几种方法来通过分析训练的网络来识别和可视化最重要的特征。然而，在大多数情况下，不同特征和类之间的关系丢失了。我们提出了一种技术，以诱导集合的if-then-else规则，捕捉这些关系，以全局解释网络的预测。我们首先计算训练好的网络中特征的重要性。然后，我们用这些特征重要性得分来衡量原始输入，简化转换后的输入空间，最后拟合一个规则归纳模型来解释模型预测。我们发现，输出的规则集可以解释的预测神经网络训练的4类文本分类从20个新闻组数据集的宏观平均F分数为0.80。我们在https://github.com/clips/interpret_with_rules上提供代码。
2018-08-29 cs.CL cs.LG stat.ML
Prolog-based agnostic explanation module for structured pattern classification
Tilburg University（蒂尔堡大学）；Warsaw University of Technology（华沙理工大学）；University of Miami（迈阿密大学）
本文提出了一个基于Prolog的推理模块，以产生反事实的解释给出的预测计算的黑盒分类器。所提出的符号推理模块还可以使用地面实况标签而不是预测标签来解决假设查询。总的来说，我们的方法包括四个定义明确的阶段，可以应用于任何结构化模式分类问题。首先，我们对给定的数据集进行预处理，通过插补缺失值和归一化数值特征。其次，我们将数字特征转换为符号的模糊聚类，使提取的模糊聚类映射到一个有序的预定义的符号集。第三，我们使用标称值、预定义符号、决策类和置信度值将实例编码为Prolog规则。第四，我们使用模糊粗糙集理论来计算每个Prolog规则的整体置信度，以处理将数值量转换为符号所带来的不确定性。这一步带来了一个新的相似性函数的额外的理论贡献，以比较先前定义的Prolog规则，涉及置信度值。最后，我们实现了一个聊天机器人作为人类和基于Prolog的推理模块之间的代理，以解决自然语言查询并生成反事实解释。在使用合成数据集的数值模拟过程中，我们研究了当使用不同的模糊算子和相似性函数时，我们的系统的性能。最后，我们将使用不同的用例来说明我们的推理模块是如何工作的。
2022-11-18 cs.LG
User Driven Model Adjustment via Boolean Rule Explanations
IBM Research（IBM研究院）
人工智能解决方案在很大程度上依赖于输入训练数据的质量和准确性，然而，训练数据可能并不总是完全反映最新的策略环境，或者可能缺少业务逻辑。可解释性的进步为用户提供了与机器学习预测的可解释进行交互的可能性，以便注入更准确地反映系统当前现实的修改或约束。在本文中，我们提出了一种解决方案，该解决方案利用ML模型的预测能力，同时允许用户指定对决策边界的修改。我们的交互式叠加方法实现了这一目标，而不需要模型重新训练，使其适用于需要即时更改决策的系统。我们证明了用户反馈规则可以与ML预测分层，以提供即时的变化，从而支持使用更少的数据进行学习。
2022-03-28 cs.AI cs.HC cs.LG
GnnXemplar: Exemplars to Explanations -- Natural Language Rules for Global GNN Interpretability
Dept. of CSE, IIT Delhi（印度德里理工学院计算机科学与工程系）；Fujitsu Research of India, Bangalore（印度班加罗尔富士通印度研究机构）；Dept. of CSE and Yardi ScAI, IIT Delhi（印度德里理工学院计算机科学与工程系）
针对GNN全局解释方法在大规模真实场景中效果不佳的问题，提出受样例理论启发的GnnXemplar，通过选择代表性样例并结合LLM生成自然语言规则实现全局解释，在保真度、扩展性和可解释性上均优于现有方法。
2025-10-29 cs.LG cs.SI
Beyond Topological Self-Explainable GNNs: A Formal Explainability Perspective
DISI, University of Trento, Trento, Italy（特伦托大学DISI学院，意大利特伦托）
本文形式化分析了自解释图神经网络（SE-GNNs）的局限性，并提出双通道图神经网络，集成白盒规则提取器与标准SE-GNN，自适应结合以恢复简洁规则并提升性能。
2025-06-25 cs.LG
Information-theoretic Evolution of Model Agnostic Global Explanations
Adobe Systems（Adobe系统公司）；Adobe Systems Noida Uttar Pradesh India（印度北方邦诺伊达的Adobe系统公司）
通过人类可解释的规则来解释黑盒机器学习模型的行为是一个重要的研究领域。最近的工作集中在局部解释模型行为，即特定的预测以及视觉，自然语言，强化学习和数据科学等领域的全球性。我们提出了一种新的模型不可知方法，该方法可以导出规则来全局解释在数值和/或分类数据上训练的分类模型的行为。我们的方法建立在现有的局部模型解释方法之上，提取解释模型行为的特定实例的重要条件，然后通过进化算法优化基于信息论的适应度函数，以构建解释全局模型行为的规则。我们展示了我们的方法如何在各种数据集上优于现有的方法。此外，我们还引入了一个参数来评估分布偏移情景下的解释质量。该参数评估解释如何预测先前未见过的数据分布的模型行为。我们展示了现有的解释模型的方法在全球范围内缺乏分布鲁棒性。最后，我们展示了如何通过将分布样本添加到用于学习解释的数据集来提高解释的质量，从而提高鲁棒性。我们论文中使用的所有数据集都是开放的，公开可用的。我们的方法已部署在领先的数字营销产品套件中。
2021-05-14 cs.LG
Towards consistency of rule-based explainer and black box model -- fusion of rule induction and XAI-based feature importance
Silesian University of Technology（西里西亚工业大学）
提出一种融合规则归纳与XAI特征重要性的方法，确保基于规则的替代模型与黑盒模型在决策和关键属性上保持一致，并在30个数据集上验证了其有效性。
2024-07-16 cs.AI cs.LG
Collaborative Streaming Anomaly Detection with Interactive Explanations and Ensemble Consensus
GECAD, ISEP, Polytechnic of Porto（波尔图理工学院，ISEP，GECAD）；SISTRADE Software Consulting（SISTRADE软件咨询公司）
该系统通过异构检测器加权共识与替代模型解释，将人类分析师纳入决策循环，在工业数据流上实现稳健异常检测与可操作交互。
2026-09-22 cs.LG
Attention-like feature explanation for tabular data
Peter the Great St.Petersburg Polytechnic University（彼得大帝圣彼得堡理工大学）
提出了一种利用表格数据对机器学习黑箱模型预测进行局部和全局解释的新方法。它被实现为一个称为AFEX（Attention-like Feature EXplanation）的系统，由两个主要部分组成。第一部分是一组单特征神经子网络，其目的是以形状函数的基的形式获得每个特征的特定表示。子网络使用具有可训练参数的快捷连接来提高网络性能。AFEX的第二部分产生特征的形状函数作为基础形状函数的加权和，其中通过使用类似注意力的机制来计算权重。AFEX基于对应于不同特征的形状函数的成对乘法来识别特征之间的成对交互。提出了一种改进的AFEX算法，并在其基础上增加了一个近似于黑箱模型的代理模型。AFEX只在整个数据集上进行一次端到端的训练，使得它不需要在解释阶段再次训练神经网络。模拟和实际数据的数值实验说明了AFEX。
2021-08-10 cs.AI cs.LG
Tabular Diffusion based Actionable Counterfactual Explanations for Network Intrusion Detection
University of Western Ontario（西安大略大学）
针对网络入侵检测中黑箱模型解释难以转化为对策的问题，提出基于表格扩散的反事实解释框架，可高效生成最小、多样且可归纳为全局防御规则的可行动解释。
2025-07-23 cs.AI cs.LG
ExMo: Explainable AI Model using Inverse Frequency Decision Rules
OneSpan（OneSpan公司）
在本文中，我们提出了一种新的方法来计算决策规则，建立一个更准确的解释机器学习模型，表示为ExMo。ExMo可解释的机器学习模型由一系列IF.然后...在条件中包含决策规则的语句。这样，ExMo自然会使用触发的决策规则为预测提供解释。ExMo使用一种新的方法，使用词频-逆文档频率（TF-IDF）特征从训练数据中提取决策规则。使用TF-IDF，提取与每个类更相关的特征值的决策规则。因此，ExMo获得的决策规则可以区分积极和消极的类比现有的贝叶斯规则列表（BRL）算法中使用的决策规则，使用频繁模式挖掘方法。本文还表明，ExMo学习一个比BRL更好的定性模型。此外，ExMo还证明了可以以人性化的方式提供文本解释，以便非专家用户可以轻松理解解释。我们在几个不同大小的数据集上验证了ExMo，以评估其有效性。对现实世界欺诈检测应用程序的实验验证表明，ExMo的准确度比BRL高20%，并且达到了与深度学习模型相似的准确度。
2022-05-20 cs.AI cs.LG
eXpath: Explaining Knowledge Graph Link Prediction with Ontological Closed Path Rules
School of Computer Science, Beihang University（北京航空航天大学计算机学院）
针对知识图谱链接预测的可解释性问题，提出集成关系路径与本体闭合路径规则的eXpath框架，提升解释效率与效果，实验显示解释质量提升约20%、时间减少61.4%，还可融合其他方法。
2024-12-06 cs.AI cs.DB cs.IR
EXP-CAM: Explanation Generation and Circuit Discovery Using Classifier Activation Matching
EXP-CAM通过分类器激活匹配生成最小且忠实的图像解释，揭示模型内部计算机制。
2025-11-28 cs.LG
Distilling neural networks into skipgram-level decision lists
Computational Linguistics and Psycholinguistics Research Center (CLiPS)（计算语言学与心理语言学研究中心（CLiPS））；University of Antwerp（安特卫普大学）；School of Computing and Information Systems, University of Melbourne（墨尔本大学计算与信息系统学院）
以往关于递归神经网络解释的研究主要集中在寻找网络最重要输入段作为解释的方法上。在这种情况下，这些输入片段相互结合以形成解释性模式的方式仍然未知。为了克服这一点，以前的一些工作试图在数据中找到解释神经输出的模式（称为规则）。然而，它们的解释往往对模型参数不敏感，这限制了文本解释的可扩展性。为了克服这些限制，我们提出了一个管道，通过skipgram上的决策列表（也称为规则）来解释RNN。为了评估解释，我们创建了一个合成的脓毒症识别数据集，并将我们的技术应用于其他临床和情感分析数据集。我们发现，我们的技术持续实现高解释保真度和定性可解释的规则。
2020-05-18 cs.CL cs.LG stat.ML
Eclectic Rule Extraction for Explainability of Deep Neural Network based Intrusion Detection Systems
Mississippi State University（密西西比州立大学）；U.S Army Engineer Research and Development Center（美国陆军工程兵研究与发展中心）
本文提出一种混合X-IDS架构，利用折衷规则提取作为黑盒深度神经网络的白盒代理解释器，在UNSW-NB15和CIC-IDS-2017数据集上以99.9%准确率生成可解释且可信的规则集，平衡了可扩展性与可信度。
2024-01-18 cs.AI cs.CR cs.LG
Sound Logical Explanations for Mean Aggregation Graph Neural Networks
Department of Computer Science University of Oxford（计算机科学系牛津大学）
针对均值聚合GNN可解释性研究缺失的问题，本文研究非负权重均值聚合GNN（MAGNN），证明其适配的可靠单调规则类别，提出可解释其预测的一阶逻辑片段，实验验证该方法性能达标且可生成有效解释、暴露模型问题。
2025-10-27 cs.AI cs.LG cs.LO
Pando: Do Interpretability Methods Work When Models Won't Explain Themselves?
Carnegie Mellon University（卡内基梅隆大学）
Pando通过引入解释轴，评估模型在不同解释情况下的表现，发现当解释可靠时，黑盒方法表现优异；当解释缺失或误导时，梯度归因和RelP方法效果更佳。
2026-04-13 cs.AI cs.LG
MAIRE -- A Model-Agnostic Interpretable Rule Extraction Procedure for Explaining Classifiers
Indian Institute of Technology Ropar（印度理工学院罗帕尔分校）
本文介绍了一种新的框架，用于提取模型无关的人类可解释的规则来解释分类器的输出。人类可解释的规则被定义为一个轴对齐的超长方体包含的实例，分类决策必须加以解释。所提出的过程找到最大（高\textit{coverage}）轴对齐的超立方体，使得超立方体中的高百分比的实例具有与被解释的实例（高\textit{precision}）相同的类标签。新的近似的覆盖范围和精度的措施方面的参数的超长方体的定义。使用基于梯度的优化器将它们最大化。的近似的质量进行了严格的理论分析和实验。启发式简化生成的解释，以实现更好的解释性和贪婪的选择算法，结合本地的解释，为覆盖了很大一部分的实例空间的模型创建全局解释也提出了。该框架是模型不可知的，可以应用于任何任意分类器和所有类型的属性（包括连续，有序和无序离散）。该框架的广泛适用性在来自不同领域（表格，文本和图像）的各种合成和真实世界的数据集上进行了验证。
2020-11-03 cs.AI cs.LG
Fairwashing: the risk of rationalization
Université du Québec à Montréal（魁北克大学蒙特利尔分校）；RIKEN Center for Advanced Intelligence Project（理化学研究所先进智能项目中心）；ENSTA ParisTech（国立高等先进技术学院巴黎高科）；Osaka University（大阪大学）；UdeM（蒙特利尔大学）；MILA（蒙特利尔学习算法研究所）
黑箱解释是解释机器学习模型如何产生结果的问题，该模型的内部逻辑对审计人员是隐藏的，通常是复杂的。目前解决这一问题的方法有模型解释、结果解释和模型检验。虽然这些技术可以通过提供可解释性而受益，但它们可以以负面的方式用于执行公平洗涤，我们将其定义为促进机器学习模型尊重某些道德价值观的错误感知。特别是，我们证明，它是可能的，系统合理化的决策，由一个不公平的黑箱模型使用模型的解释，以及结果的解释方法与给定的公平性度量。我们的解决方案，LaundryML，是基于正则化规则列表枚举算法，其目标是寻找公平的规则列表近似不公平的黑盒模型。我们在真实世界数据集上训练的黑盒模型上实证评估了我们的合理化技术，并表明可以获得对黑盒模型具有高保真度的规则列表，同时大大减少不公平。
2019-05-15 cs.LG stat.ML
IT2CFNN: An Interval Type-2 Correlation-Aware Fuzzy Neural Network to Construct Non-Separable Fuzzy Rules with Uncertain and Adaptive Shapes for Nonlinear Function Approximation
Shahid Beheshti University（沙希德·贝赫什提大学）
本文提出了一种新的区间二型模糊神经网络，它能够构造形状自适应的不可分模糊规则。为了反映不确定性，模糊集的形状被认为是不确定的。因此，提出了一种新的区间二型模糊集的形式，基于一般的高斯模型，能够构建不同的形状（包括三角形，钟形，梯形）。考虑到输入变量之间的相互作用，输入向量被转换到新的特征空间与不相关的变量适当的定义每个模糊规则。接下来，新的功能被馈送到模糊化层使用建议的区间类型2模糊集自适应形状。从而，区间型2不可分离的模糊规则，形成适当的形状，考虑到局部变量的相互作用和不确定性。对于类型约简，每个模糊规则的上下点火强度的贡献被分别自适应地选择。为了训练网络的不同参数，采用了Levenberg-Marquadt优化方法。该方法的性能进行了研究，清洁和噪声数据集显示的能力，考虑的不确定性。此外，所提出的范例，成功地应用于现实世界的时间序列预测，回归问题，和非线性系统辨识。根据实验结果，我们提出的模型的性能优于其他方法具有更简约的结构。
2021-12-21 cs.AI cs.LG
DISCO: DISCovering Overfittings as Causal Rules for Text Classification Models
DISCO通过因果规则发现文本分类模型的过拟合，以100%检测率识别训练数据中的捷径，并导致模型性能下降18.8%，优于现有方法。
2024-11-07 cs.AI cs.CL cs.LG
Can Language Models Explain Their Own Classification Behavior?
University of Oxford（牛津大学）
该研究构建了ArticulateRules少样本规则分类数据集，探究大语言模型能否对自身分类行为给出可信解释，发现不同模型阐明准确率差异大，GPT-3即便微调仍难以阐明多数规则。
2024-05-13 cs.AI cs.LG
Prediction Rule Reshaping
Some University（某大学）；Another University（另一所大学）
提出了两种高维形状约束回归和分类方法。这些方法重塑预先训练的预测规则，以满足单调性和凸性等形状约束。第一种方法可以应用于任何预先训练的预测规则，而第二种方法专门处理随机森林。在这两种情况下，开发了有效的算法来计算估计，并进行实验，以证明其性能的四个数据集。我们发现，重塑方法强制形状约束，而不影响预测精度。
2018-05-16 cs.LG stat.ML
From Explanation to Action: An End-to-End Human-in-the-loop Framework for Anomaly Reasoning and Management
Carnegie Mellon University（卡内基梅隆大学）；Capital One（第一资本金融公司）
本文提出ALARM端到端人在回路框架，支持从无监督异常检测、解释到通过设计新规则采取行动的完整挖掘周期，弥补了自主检测在现实高风险场景中难以落地的不足。
2023-04-06 cs.HC cs.LG
Learning Invariant Rules from Data for Interpretable Anomaly Detection
Siemens AG（西门子股份公司）；Tsinghua University（清华大学）
在异常检测的研究领域中，经常开发新颖且有前途的方法。然而，大多数现有的研究只专注于检测任务，忽略了底层模型的可解释性以及它们的检测结果。然而，异常解释，其目的是提供为什么特定的数据实例被识别为异常的解释，是在许多现实世界的应用中同样重要的任务。在这项工作中，我们提出了一个新的框架，协同几个机器学习和数据采掘技术，自动学习不变的规则，在给定的数据集中始终满足。学习的不变规则可以在推理阶段提供异常检测结果的明确解释，因此对于后续的异常报告决策非常有用。此外，我们的实证评估表明，所提出的方法也可以实现相当的，甚至更好的性能方面的AUC和部分AUC的公共基准数据集在各个应用领域相比，最先进的异常检测模型。
2023-01-13 cs.AI cs.LG
How Proper Scoring Rules Shape LLM Forecasting
Lightning Rod Labs（闪电杆实验室）；INSEAD（欧洲工商管理学院）；School of Arts & Sciences, University of Pennsylvania（宾夕法尼亚大学文理学院）
本文研究了5种恰当评分规则作为训练目标对LLM预测的影响，发现不同规则训练的模型在校准、概率使用等方面有差异，Brier训练模型表现最优。
2026-09-11 cs.AI cs.LG
Feature Responsiveness Scores: Model-Agnostic Explanations for Recourse
UC San Diego（加州大学圣地亚哥分校）；Haverford College（哈弗福德学院）
本文提出基于特征响应性的模型无关解释方法，用于提升高风险决策场景中预测结果的可救济性。
2025-12-29 cs.LG stat.ML
Enriching Visual with Verbal Explanations for Relational Concepts -- Combining LIME with Aleph
University of Bamberg（班贝格大学）
随着深度学习应用越来越多，对解释的需求也越来越大。视觉解释提供了关于图像的哪些部分与分类器的决策相关的信息。然而，突出显示图像部分（例如，眼睛）不能捕获类的特定特征值的相关性（例如，眼睛睁得大大的）。此外，突出显示不能传达分类是仅仅取决于部分的存在还是取决于它们之间的特定空间关系。因此，我们提出了一种方法，能够解释一个分类器的决策方面的逻辑规则获得的归纳逻辑程序设计系统Aleph。Aleph所需的示例和背景知识基于解释生成方法LIME。我们展示了我们的方法与图像的blocksworld域。首先，我们表明，我们的方法是能够确定一个单一的关系作为重要的解释性结构。之后，我们提出了更复杂的塔的关系概念。最后，我们展示了如何生成的关系规则可以显式地与输入图像相关，从而产生更丰富的解释。
2019-10-04 cs.AI cs.CV cs.LG
Logical Expressivity and Explanations for Monotonic GNNs with Scoring Functions
Department of Compute Science, University of Oxford（牛津大学计算机科学系）；Department of Computer Science, Royal Holloway, University of London（伦敦大学皇家霍洛威学院计算机科学系）
针对GNNs在知识图谱链接预测中缺乏可解释性的问题，本文提出带评分函数的单调GNNs方法，可提取可靠Datalog规则解释预测，刻画表达能力，在基准测试中表现良好且生成大量可靠规则。
2025-08-14 cs.AI cs.LG cs.LO
Self-explaining deep models with logic rule reasoning
KAIST（韩国科学技术院）；IBS（基础科学研究院）；Microsoft Research Asia（微软亚洲研究院）
我们提出了SELOR，这是一个框架，用于将自我解释能力集成到给定的深度模型中，以实现高预测性能和人类精度。所谓“人类精度”，我们指的是人类同意模型为其预测提供的原因的程度。人为精度影响用户信任，并允许用户与模型密切合作。我们证明，逻辑规则的解释自然满足人类的精度与良好的预测性能所需的表达能力。然后，我们说明了如何使一个深模型预测和解释的逻辑规则。我们的方法不需要预定义的逻辑规则集或人工注释，并且可以以可区分的方式使用广泛使用的深度学习模块有效且容易地学习。大量的实验表明，我们的方法给出的解释更接近人类的决策逻辑比其他方法，同时保持深度学习模型的性能。
2022-10-18 cs.AI cs.LG cs.LO
Comparing Feature Importance and Rule Extraction for Interpretability on Text Data
Université Côte d'Azur（坎特伯雷大学）；Inria（法国国家信息与自动化技术研究院）；CNRS（法国国家科学研究中心）；LJAD（LJAD研究所）；France（法国）
针对文本数据任务中机器学习可解释性需求，本文对比了特征重要性计算和逻辑规则提取两类局部可解释方法，发现即使在简单模型上不同方法的解释也存在意外差异，并提出了量化该差异的解释比较新方法。
2022-07-04 cs.AI cs.CL cs.LG
Symb-xMIL: Symbolic Explanations for Multiple Instance Learning in Digital Pathology
Berlin Institute for the Foundations of Learning and Data（柏林学习与数据基础研究院）；Machine Learning Group, Technische Universität Berlin（柏林技术大学机器学习组）；Institute of Pathology, Charité Universitätsmedizin（查理研究所病理学部）；Berlin Institute of Health at Charité – Universitätsmedizin Berlin, BIH Biomedical Innovation Academy, BIH Charité Digital Clinician Scientist Program（柏林查理医学研究院健康研究所、BIH生物医学创新学院、BIH查理数字临床科学家项目）；Institute of Pathology, Ludwig Maximilian University of Munich（慕尼黑路德维希-马克西米利安大学病理学部）；Division of Translational Medical Oncology, DKFZ（转化医学肿瘤学部，德国有机化学研究所）；German Cancer Consortium (DKTK), partner site Munich, a partnership between DKFZ and Ludwig-Maximilians-Universität München (LMU)（德国癌症联盟（DKTK），慕尼黑合作伙伴站点，由DKFZ和路德维希-马克西米利安-慕尼黑大学（LMU）组成）；Department of Artificial Intelligence, Korea University（韩国大学人工智能系）；Max-Planck Institute for Informatics, Saarbrücken, Germany（马克斯·普朗克信息学院，萨尔布吕肯，德国）；Department of Chemistry, Chemical Physics Theory Group, University of Toronto（多伦多大学化学系，化学物理理论组）；Vector Institute for Artificial Intelligence, Toronto, Canada（多伦多人工智能矢量研究所）；Acceleration Consortium, University of Toronto（多伦多大学加速联盟）
提出Symb-xMIL框架，通过量化模型行为与可读决策规则（逻辑关系）的对齐程度，为多实例学习提供结构化的符号解释，并在合成和真实病理数据上验证其有效性。
2026-06-05 cs.CV cs.LG
