arXiv cs/05040572005-04-13cs.NEcs.AI

基于神经网络的诊断规则提取

Diagnostic Rule Extraction Using Neural Networks

Vitaly Schetinin, Anatoly Brazhnikov

摘要：

神经网络已经在医生可以收集的不完整集合上进行了训练。经过训练的神经网络已经正确地对所有呈现的实例进行了分类。为编码定量变量而输入的区间数等于2。在训练好的神经网络中，特征的数量以及神经元和层的数量是最小的。经过训练的神经网络被充分地表示为一组更易于理解和理解的逻辑公式。这些公式作为综合征，可以很容易地制成表格，并表示为医生通常使用的诊断表。决策规则提供了医生感兴趣的信心评估。临床研究表明，由符号规则产生的不可知论决定与医生的结论一致。

英文摘要：

The neural networks have trained on incomplete sets that a doctor could collect. Trained neural networks have correctly classified all the presented instances. The number of intervals entered for encoding the quantitative variables is equal two. The number of features as well as the number of neurons and layers in trained neural networks was minimal. Trained neural networks are adequately represented as a set of logical formulas that more comprehensible and easy-to-understand. These formulas are as the syndrome-complexes, which may be easily tabulated and represented as a diagnostic table that the doctors usually use. Decision rules provide the evaluations of their confidence in which interested a doctor. Conducted clinical researches have shown that iagnostic decisions produced by symbolic rules have coincided with the doctor's conclusions.

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

阅读原文

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

本文内容

摘要英文摘要相关论文

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

继续探索

相关论文

TokEye: 通过离线自监督学习快速提取波动时间序列信号：从融合诊断到生物声学

A general extractor for coherent patterns across time-frequency measurements

TokEye通过离线自监督学习从多种传感器数据中快速提取波动时间序列信号，用于等离子体波动测量与实时控制。

2026-10-30cs.AIeess.SPphysics.plasm-ph

从神经网络中折衷地提取命题规则

Eclectic Extraction of Propositional Rules from Neural Networks

American International University-Bangladesh（孟加拉国国际大学）

人工神经网络是监督学习中最流行的算法之一。然而，神经网络有一个众所周知的缺点，即它是一个“黑箱”学习器，用户无法理解。这种透明度的缺乏使得它不适合许多高风险的任务，如医疗诊断，需要一个合理的理由作出决定。规则提取方法试图通过从经过训练的网络中提取可理解的规则来抑制这种限制。许多这样的提取算法已经开发了多年，具有各自的优点和缺点。它们根据使用网络内部模型的方法大致分为三类。折衷方法是结合其他方法以获得更高性能的混合算法。在本文中，我们提出了一个折衷的方法称为HERETIC。我们的算法使用归纳决策树学习结合信息的神经网络结构提取逻辑规则。实验和理论分析表明，HERETIC算法在速度和性能上都有较大的提高.

2011-10-02cs.AIcs.CVcs.LG

深度神经网络的高效分解规则提取

Efficient Decompositional Rule Extraction for Deep Neural Networks

University of Cambridge（剑桥大学）

近年来，通过提取近似其决策边界的基于规则的模型，在提高深度神经网络（DNN）的可解释性和可调试性方面进行了大量工作。然而，当前的DNN规则提取方法在提取规则时考虑了DNN的潜在空间，称为分解算法，要么局限于单层DNN，要么随着DNN或数据的大小增长而难以处理。在本文中，我们通过引入ECLAIRE来解决这些限制，ECLAIRE是一种新型的多项式时间规则提取算法，能够扩展到大型DNN架构和大型训练数据集。我们评估了ECLAIRE在各种各样的任务，从乳腺癌预后到粒子检测，并表明它始终提取更准确和更容易理解的规则集比目前最先进的方法，同时使用数量级更少的计算资源。我们通过开源的REMIX库（https：//github.com/mateoespinosa/remix）提供了所有的方法，包括一个规则集可视化界面。

2021-11-24cs.AIcs.LG

基于卷积规则的二进制神经网络规则提取及其模型验证

Rule Extraction from Binary Neural Networks with Convolutional Rules for Model Validation

TU Kaiserslautern（凯泽斯劳滕工业大学）；University of Mainz（美因茨大学）；Johannes Gutenberg University of Mainz（约翰内斯·古腾堡大学美因茨分校）；TU Darmstadt（达姆施塔特工业大学）

大多数深度神经网络被认为是黑匣子，这意味着它们的输出很难解释。相比之下，逻辑表达式被认为是更容易理解的，因为它们使用的符号在语义上接近自然语言，而不是分布式表示。然而，对于诸如图像的高维输入数据，各个符号（即，像素）不容易解释。我们引入了一阶卷积规则的概念，这是可以使用卷积神经网络（CNN）提取的逻辑规则，其复杂度取决于卷积滤波器的大小，而不是输入的维数。我们的方法是基于随机局部搜索的二进制神经网络的规则提取。我们展示了如何提取规则，不一定是短的，但输入的特点，易于可视化。我们的实验表明，所提出的方法是能够建模的神经网络的功能，而在同一时间产生可解释的逻辑规则。

2020-12-15cs.AIcs.LG

集成特征选择和规则提取的自适应神经模糊系统在高维分类问题中的应用

An Adaptive Neuro-Fuzzy System with Integrated Feature Selection and Rule Extraction for High-Dimensional Classification Problems

China University of Petroleum (East China)（中国石油大学（华东））；Indian Statistical Institute（印度统计研究所）

模糊或神经模糊系统的一个主要限制是它们无法处理高维数据集。这主要是由于使用了T范数，特别是乘积或最小值（或它的较软版本）。因此，几乎没有任何工作处理维度超过一百左右的数据集。在这里，我们提出了一个神经模糊的框架，可以处理数据集的维度甚至超过7000！在这种情况下，我们提出了一个自适应softmin（Ada-softmin），有效地克服了现有的模糊系统在处理高维问题时出现的"数值下溢”和"假最小值”的缺点。我们称之为自适应Takagi-Sugeno-Kang（AdaTSK）模糊系统。然后，我们装备的AdaTSK系统进行特征选择和规则提取在一个集成的方式。在这种情况下，一个新的门函数被引入，并嵌入在随后的部分，它可以确定有用的功能和规则，在两个连续的学习阶段。与传统的模糊规则库，我们设计了一个增强的模糊规则库（En-FRB），它保持足够的规则，但不增长的规则数量与维度，通常发生的模糊神经网络。集成的特征选择和规则提取AdaTSK（FSRE-AdaTSK）系统包括三个连续的阶段：（i）特征选择，（ii）规则提取，和（iii）微调。FSRE-AdaTSK的有效性证明了19个数据集，其中5个是在超过2000的维度，包括两个维度大于7000。这可能是第一次模糊系统实现的分类涉及超过7000个输入功能。

2022-01-10cs.AIcs.LG

基于深度神经网络入侵检测系统可解释性的折衷规则提取

Eclectic Rule Extraction for Explainability of Deep Neural Network based Intrusion Detection Systems

Mississippi State University（密西西比州立大学）；U.S Army Engineer Research and Development Center（美国陆军工程兵研究与发展中心）

本文提出一种混合X-IDS架构，利用折衷规则提取作为黑盒深度神经网络的白盒代理解释器，在UNSW-NB15和CIC-IDS-2017数据集上以99.9%准确率生成可解释且可信的规则集，平衡了可扩展性与可信度。

2024-01-18cs.AIcs.CRcs.LG

更多相关论文收起更多论文

贝叶斯网络相互匹配生成图链及基于遗传算法的贝叶斯网络规则提取

Generating Graphical Chain by Mutual Matching of Bayesian Network and Extracted Rules of Bayesian Network Using Genetic Algorithm

Isfahan University of Technology（伊斯法罕理工大学）

随着科学技术的发展，对有用信息的分析和提取的需求越来越大。贝叶斯网络包含来自数据和专家的知识，可以用于决策过程，但它们不容易理解，因此使用了规则提取方法，但它们具有较高的计算成本。为了克服这个问题，我们使用遗传算法从贝叶斯网络中提取规则。然后将提取的规则与贝叶斯网络进行相互匹配，生成图链。这个图形链可以显示导致目标的事件序列，这可以帮助决策过程。在小型网络上的实验结果表明，该方法具有可比的结果与暴力方法，具有显着更高的计算成本。

2014-12-15cs.AI

Łukasiewicz 神经网络扩展：用于可解释规则提取的残差架构与结晶策略

Łukasiewicz Neural Networks Extended: Residual Architectures and Crystallization Strategies for Interpretable Rule Extraction

本文通过残差连接将Łukasiewicz神经网络扩展到任意深度，并分析三种结晶策略，实现可解释的符号规则提取。

2026-09-29cs.AIcs.LG

基于表示学习的可解释的反应堆系统诊断方法

Representation Learning based and Interpretable Reactor System Diagnosis Using Denoising Padded Autoencoder

Nuclear Power Institute of China（中国核动力研究设计院）

随着第三代核反应堆的大规模建设，使用深度学习（DL）技术快速有效地诊断可能的事故是一种流行趋势。为了克服以前使用深度学习理论诊断反应堆事故的常见问题，本文提出了一种诊断过程，确保对噪声和受损数据的鲁棒性，并且是可解释的。首先，提出了一种新的去噪填充自动编码器（DPAE）的监测数据的表示提取，与表示提取器仍然有效的干扰数据的信噪比高达25.0和监测数据丢失高达40.0%。其次，提出了一种诊断框架，使用DPAE编码器提取表示，然后进行浅层统计学习算法，并在干扰数据集上测试了这种逐步诊断方法，与端到端诊断方法相比，分类和回归任务评估指标分别高出41.8%和80.8%。最后，提出了一种基于SHAP和特征消融的分层解释算法，分析了输入监测参数的重要性，验证了高重要性参数的有效性。研究结果为在高安全要求的场景下构建鲁棒性和可解释性的反应堆异常智能诊断系统提供了参考方法。

2022-09-23cs.AIcs.SYeess.SP

人工神经网络中符号规则的提取

Extraction of Symbolic Rules from Artificial Neural Networks

虽然反向传播ANN通常比决策树更好地预测模式分类问题，但它们通常被视为黑盒，即，它们的预测不能解释为决策树的预测。在许多应用中，希望从训练的ANN中提取知识，以便用户更好地理解网络如何解决问题。提出并实现了一种新的规则提取算法--人工神经网络规则提取算法（REANN）。一个标准的三层前馈人工神经网络是该算法的基础。提出了一种四阶段的反向传播学习算法。通过将所提取的规则与由其他方法生成的符号规则进行比较来支持所提取的规则的显式性。提取的规则与其他方法相比，在规则的数量，规则的平均条件数，和预测精度。对乳腺癌、虹膜、糖尿病、季节分类等典型分类问题的实验结果表明，该方法具有较好的泛化能力.

2010-09-23cs.NE

企业违约预测模型中的进化规则提取

Evolutionary Rule Extraction from Corporate Default Prediction Models

Department of Management, Università Politecnica delle Marche（波兰马克西米利亚那大学管理学院）；HES-SO Valais-Wallis（瓦莱-达菲大学）；University of Extremadura（埃斯特拉马杜拉大学）

本研究提出DEXiRE-EVO进化规则提取框架，结合多目标优化与CIU可解释性方法，从机器学习违约预测模型中提取经济意义明确的规则，兼顾预测性能与可解释性。

2026-05-28cs.AIcs.NE

长短期记忆网络规则的自动提取

Automatic Rule Extraction from Long Short Term Memory Networks

UC Berkeley（加州大学伯克利分校）；Facebook AI Research（Facebook人工智能研究院）

虽然深度学习模型已被证明在解决自然语言处理中的问题方面是有效的，但它们得出结论的机制往往不清楚。因此，这些模型通常被视为黑箱，无法洞察潜在的学习模式。在本文中，我们考虑了长短期记忆网络（LSTM），并展示了一种新的方法，用于跟踪给定输出的LSTM输入的重要性。通过识别一致的重要模式的话，我们能够提炼出最先进的LSTM的情感分析和问答到一组代表性的短语。然后，通过使用提取的短语来构建一个简单的、基于规则的分类器来定量验证这种表示，该分类器近似于LSTM的输出。

2017-02-24cs.AIcs.CLcs.NE

对用于记忆存储和原型提取的局部赫布学习规则进行基准测试

Benchmarking local Hebbian learning rules for memory storage and prototype extraction

KTH Royal Institute of Technology, EECS（皇家理工学院）；Stockholm University, Dept. of Mathematics（斯德哥尔摩大学）；KEIM-Institute, Albstadt-Sigmaringen University, Germany（KEIM研究所，阿尔布施塔特-西格马林根大学，德国）；Digital Futures, KTH Royal Institute of Technology, Stockholm（数字未来，皇家理工学院，斯德哥尔摩）

本文对比了七种赫布学习规则在记忆存储、原型提取和数据相关性敏感性方面的性能，发现贝叶斯-赫布学习规则在多种条件下表现最佳。

2026-05-01cs.LGcs.NE

基于人工神经网络的规则提取

Rule Extraction using Artificial Neural Networks

人工神经网络已成功地应用于各种商业应用问题，包括分类和回归。虽然反向传播神经网络通常比决策树更好地预测模式分类问题，但它们通常被认为是黑箱，即，它们的预测不像决策树的预测那样可解释。在许多应用中，希望从训练好的神经网络中提取知识，以便用户能够更好地理解解决方案。本文提出了一种从人工神经网络中提取规则的有效算法。我们使用两阶段训练算法进行反向传播学习。在第一阶段，通过基于网络对训练数据的性能一个接一个地添加节点，以建设性的方式自动确定网络的隐藏节点的数量。在第二阶段，网络的相关输入设备的数量确定使用修剪算法。修剪过程试图从网络中消除尽可能多的连接。在训练过程中区分数据的相关和不相关属性。相关的内容将被保留，其他内容将自动丢弃。从具有少量连接和节点的简化网络中，我们可以很容易地使用所提出的算法提取符号规则。对神经网络中几个基准问题的实验结果表明，该方法具有良好的泛化能力。

2010-09-25cs.NE

REx：一个高效的规则生成器

REx: An Efficient Rule Generator

本文描述了一种从人工神经网络（ANN）中产生符号规则的有效算法REx。从自动知识获取到数据采掘和人工神经网络规则提取，许多领域都在寻求分类规则。这是因为分类规则具有一些吸引人的特征。它们是明确的，可理解的，领域专家可验证的，并且可以修改，扩展和传递模块知识。REx利用数据中的一阶信息，并为一个类的规则找到最短的充分条件，该规则可以将其与其他类的模式区分开来。它可以产生简洁和完善的规则，在这个意义上说，出错率的规则是不差于在原始数据中发现的不一致率。规则提取算法REx的一个重要特性是它的递归性质。它们是简洁的，可理解的，顺序不敏感，不涉及任何权重值。对乳腺癌、虹膜、季节、高尔夫球等多个基准分类问题的实验结果表明，该方法具有较好的泛化能力.

2010-09-25cs.NE

改进的模型降阶与分数阶PIλDμ控制器调谐，用于基于遗传编程的解析规则提取

Improved Model Reduction and Tuning of Fractional Order PIλDμ Controllers for Analytical Rule Extraction with Genetic Programming

Jadavpur University（贾达普大学）；Bhabha Atomic Research Centre（巴哈原子研究中心）

本文提出一种基于遗传算法在奈奎斯特平面上的次优模型降阶新方法，并结合时域最优调谐，通过遗传编程从高阶过程数据中提取PID和分数阶PIλDμ控制器的解析调谐规则，实现了性能与复杂度的权衡。

2012-02-25cs.NEcs.SYeess.SY

网页价格提取：最新进展与自适应无浏览器实现

Web Price Extraction: State of the Art and an Adaptive Browserless Implementation

University of Zaragoza（萨拉戈萨大学）

本文针对网页价格提取任务，提出一种自适应无浏览器价格提取系统，通过结合HTML片段化、多维度规则及贝叶斯、遗传算法优化，提升了准确率并降低了处理时间，可作为低计算成本的有竞争力方案。

2026-09-02cs.IRcs.LGcs.NE

通过可训练神经网络的修剪从经验数据中生成显式知识

Generation of Explicit Knowledge from Empirical Data through Pruning of Trainable Neural Networks

本文提出了一种从数据中提取显性知识的通用技术。其主要思想是：1）最大限度地降低网络复杂度（不仅去除神经元或突触，而且去除所有不必要的元件和信号，并降低元件的复杂性），2）采用可调的、灵活的修剪工艺（修剪序列不应预先确定-用户应该有可能以他自己的方式修剪网络以便实现用于提取期望类型和形式的规则的期望网络结构），以及3）不是以预定的而是以任何期望的形式提取规则。讨论了网络结构和训练过程中的一些考虑和注意事项，以及当前开发的剪枝技术和规则提取算法的适用性。这项技术由我们开发了10多年，使我们能够创建数十个基于知识的专家系统。在本文中，我们提出了一个广义的三步技术提取显式知识的经验数据。

2003-07-03cond-matcs.NEphysics.data-an