Learning Interpretable Differentiable Logic Networks for Time-Series Classification
Department of Electrical and Computer Engineering, Princeton University（普林斯顿大学电气与计算机工程系）
首次将兼具准确性、可解释性和计算效率的可微分逻辑网络（DLNs）应用于单变量时间序列分类，通过Catch22和TSFresh特征表示转换序列，整合训练配置到超参数搜索空间，在51个基准上验证其核心优势。
2026-10-06 cs.LG
Guided by Stars: Interpretable Concept Learning Over Time Series via Temporal Logic Semantics
Università degli Studi di Trieste（特里埃斯特大学）
本文提出神经符号框架STELLE，通过将时间序列嵌入时序逻辑概念空间，在分类的同时提供局部与全局可解释性，并在多个基准上验证了其准确性与解释的忠实性。
2025-11-06 cs.LG
A Universal Logic Operator for Interpretable Deep Convolution Networks
University of Malaya（马来亚大学）；JD.COM American Technologies（京东美国科技公司）
用概率/模糊逻辑运算来解释神经网络计算由于其简单性和高可解释性而引起了人们的广泛关注。不同的逻辑运算符，如AND，OR和XOR的选择产生了另一个维度的网络优化，在本文中，我们研究了开放的问题，学习一个通用的逻辑运算符，而无需手动规定任何逻辑运算。沿着这个探索有见地的观察提供了一个新的逻辑解释深卷积网络。
2019-01-20 cs.LG stat.ML
Interpretable Fault Diagnosis of Rolling Element Bearings with Temporal Logic Neural Network
Nanyang Technological University（南洋理工大学）；University of California, Davis（加州大学戴维斯分校）
基于机器学习的方法在机械故障诊断中已经取得了成功的应用。然而，这些方法存在的主要限制是它们作为黑盒操作，并且通常不可解释。本文提出了一种新的神经网络结构--时序逻辑神经网络（TLNN），网络的神经元是逻辑命题。更重要的是，网络可以被描述和解释为加权信号时序逻辑。TLNN不仅保持了传统神经元网络的优良特性，而且用形式语言对自身进行了形式化解释。实验结果表明，该神经网络能够获得高精度的故障诊断结果，具有良好的计算效率。此外，神经元网络内嵌的形式语言可以对决策过程提供解释，从而实现可解释的故障诊断。
2022-04-19 cs.AI cs.LG
Models That Are Interpretable But Not Transparent
Duke University（杜克大学）；UNC-Chapel Hill（北卡罗来纳大学教堂山分校）
针对高风险应用中模型可解释性与专有性冲突的问题，提出FaithfulDefense方法，基于最大集合覆盖公式生成完全可信但最小化决策边界泄露的解释。
2025-02-26 cs.LG
A Logical-Rule Autoencoder for Interpretable Recommendations
Department of Computer Science, George Mason University（乔治梅森大学计算机科学系）
本文提出一种可解释的推荐自编码器，通过可学习的逻辑规则层实现决策过程的透明性，实验表明其在推荐性能和可解释性上优于传统方法。
2026-04-05 cs.IR cs.LG
Neural Logic Reinforcement Learning
University of Liverpool（利物浦大学）
深度强化学习（DRL）在多项任务中取得了重大突破。然而，大多数DRL算法遭受的问题，泛化的学习策略，这使得学习性能在很大程度上受到影响，即使是轻微的修改的训练环境。除此之外，深度神经网络的使用使得学习到的策略难以解释。为了解决这两个问题，我们提出了一种新的算法命名为神经逻辑强化学习（NLRL）表示的强化学习的政策，一阶逻辑。NLRL基于策略梯度方法和可微归纳逻辑程序设计，在监督任务的可解释性和可推广性方面表现出显着的优势。在悬崖行走和块操作任务上进行的大量实验表明，NLRL可以诱导可解释的策略，实现接近最优的性能，同时对不同初始状态和问题大小的环境表现出良好的通用性。
2019-07-10 cs.LG
Neuro-symbolic Models for Interpretable Time Series Classification using Temporal Logic Description
Rensselaer Polytechnic Institute（伦斯勒理工学院）；IBM T.J. Watson Research Center（IBM托马斯·J·沃森研究中心）；IBM Research（IBM研究院）
现有的时间序列分类模型大多缺乏可解释性，难以检验。可解释的机器学习模型可以帮助发现数据中的模式，并为领域专家提供易于理解的见解。在这项研究中，我们提出了神经符号时间序列分类（NSTSC），一个神经符号模型，利用信号时序逻辑（STL）和神经网络（NN）完成TSC任务，使用多视图数据表示，并表示该模型作为一个人类可读的，可解释的公式。在NSTSC中，每个神经元都链接到一个符号表达式，即，STL（sub）公式。因此，NSTSC的输出可以解释为类似于自然语言的STL公式，描述隐藏在数据中的时间和逻辑关系。我们提出了一个基于NSTSC的分类器，采用决策树的方法来学习公式结构，完成多类TSC任务。所提出的wSTL平滑激活函数允许以端到端的方式学习模型。我们在来自小鼠的真实伤口愈合数据集和来自UCR时间序列库的基准数据集上测试NSTSC，证明NSTSC实现了与最先进模型相当的性能。此外，NSTSC可以生成与领域知识相匹配的可解释公式。
2022-09-15 cs.AI cs.LG
FF-NSL: Feed-Forward Neural-Symbolic Learner
IBM Research Europe（IBM欧洲研究院）；Imperial College London（伦敦帝国理工学院）；ILASP Limited（ILASP有限公司）；ICREA-Universitat Pompeu Fabra（ICREA-庞培法布拉大学）
基于逻辑的机器学习旨在以数据高效的方式学习一般的可解释知识。但是，标记数据必须以结构化的逻辑形式指定。为了解决这个问题，我们提出了一个神经符号学习框架，称为前馈神经符号学习器（FFNSL），集成了一个基于逻辑的机器学习系统，能够从嘈杂的例子中学习，神经网络，以便从标记的非结构化数据中学习可解释的知识。我们证明了FFNSL的一般性的四个神经符号分类问题，不同的预训练的神经网络模型和基于逻辑的机器学习系统集成学习可解释的知识，从图像序列。我们通过使用受分布变化影响的图像来评估我们的框架的鲁棒性，预先训练的神经网络可能会错误地预测并且具有高置信度。我们分析了这些变化对学习知识和运行时性能的准确性的影响，将FFNSL与基于树的纯神经方法进行比较。我们的实验结果表明，FFNSL通过用更少的例子学习更准确和可解释的知识，优于基线。
2023-01-05 cs.LG
Iterative Rule Extension for Logic Analysis of Data: an MILP-based heuristic to derive interpretable binary classification from large datasets
Tilburg University（蒂尔堡大学）
数据驱动的决策正在迅速普及，这得益于不断增加的可用数据量，以及可以识别线性输入输出关系之外的模型的开发。与此同时，对可解释的预测和分类方法的需求也在增加，因为这既提高了我们对这些模型的信任，也增加了我们可以从数据中提取的信息量。这种可解释性的一个重要方面是获得由多个合理的输入-输出关系构成的灵敏度-特异性权衡的洞察力。这些通常显示在受试者工作特征（ROC）曲线中。这些发展结合起来导致需要一种方法，可以从大数据中抽象出复杂但可解释的输入-输出关系，即包含大量样本和样本特征的数据。选言范式（DNF）中的布尔短语非常适合以可理解的方式解释非线性输入输出关系。混合整数线性规划（MILP）可以用来从二进制数据中提取这些布尔短语，尽管其计算复杂性限制了对大型数据集的分析。这项工作提出了IRELAND，一种算法，允许从多达10，000个样本和样本特征的数据中提取DNF中的布尔短语。结果表明，对于大型数据集，IRELAND的性能优于当前最先进的技术，并且可以为当前模型耗尽内存或需要过多运行时间的数据集找到解决方案。此外，爱尔兰通过建设，可以有效地计算敏感性-特异性权衡曲线，从而进一步了解基本的投入-产出关系。
2021-10-25 cs.LG
Interpretable Classification via a Rule Network with Selective Logical Operators
George Mason University（乔治梅森大学）
本文提出了一种利用选择性逻辑运算符的规则网络(RNS)，通过自适应选择AND/OR操作提升分类性能，实验显示其在13个数据集上优于25种现有方法。
2026-04-02 cs.AI cs.LG
Neural Logic Networks for Interpretable Classification
National Institute of Informatics, Tokyo（东京国立信息学研究所）
本文提出神经逻辑网络，通过AND/OR操作实现可解释分类，引入NOT操作和偏置以考虑未观测数据，提出新的IF-THEN规则结构和改进的学习算法，提升布尔网络发现性能并在医疗工业领域实现可解释规则学习。
2026-06-26 cs.AI cs.LG cs.LO
BlackBoxToBlueprint: Extracting Interpretable Logic from Legacy Systems using Reinforcement Learning and Counterfactual Analysis
IIIT Hyderabad
本文提出BlackBoxToBlueprint流水线，用强化学习探索黑盒遗留系统的决策边界，结合反事实状态转移、K-Means聚类和决策树提取可解释规则，并在三类虚拟系统上验证了其有效性。
2025-06-30 cs.AI cs.LG
Logic Constrained Pointer Networks for Interpretable Textual Similarity
Amazon（亚马逊）；Flipkart（弗利普卡特）；Indian Institute of Technology, Kharagpur（印度理工学院卡拉格普尔分校）
系统地发现文本中的语义关系是自然语言处理中一个重要且广泛研究的领域，具有各种任务，例如蕴涵，语义相似性等。通过子序列比对的可分解性已经被提出作为使模型更具可解释性的一种方式。我们研究的问题，对齐组件的句子导致一个可解释的模型，语义文本相似性。在本文中，我们介绍了一种新的指针网络为基础的模型与哨兵门控功能，以调整组成块，这是表示使用BERT。我们用一个损失函数改进了这个基础模型，以同等地惩罚两个句子中的不对齐，确保对齐是双向的。最后，为了用结构化的外部知识来指导网络，我们引入了基于ConceptNet和语法知识的一阶逻辑约束。该模型在SemEval基准数据集上的F1得分分别为97.73和96.32，与现有解决方案相比有很大的改进。源代码可在https://github.com/manishb89/interpretable_sentence_similarity上获得
2020-07-15 cs.CL cs.LG
(Sometimes) Less is More: Mitigating the Complexity of Rule-based Representation for Interpretable Classification
本文提出了一种基于逻辑神经网络的方法，通过可微的 $L_0$ 正则化近似来减少概念规则集的复杂性，同时保持其性能，并与随机二值化方法进行比较。
2025-09-26 cs.LG
Logical Distillation of Graph Neural Networks
TU Wien（维也纳工业大学）
提出基于C2逻辑扩展的决策树模型，从GNN中蒸馏可解释分类器，在多种架构上达到相近准确率，且在C2可表达的真实标签下优于GNN。
2024-08-21 cs.AI cs.LG
Interpretable Apprenticeship Learning with Temporal Logic Specifications
本文提出通过多目标优化从MDP中的行为轨迹推断LTL规范，采用违反成本概念设计状态和动作基于的目标函数，并通过遗传算法在简单领域验证方法有效性。
2017-10-28 cs.AI cs.LG cs.SY
Interpretable and Explainable Logical Policies via Neurally Guided Symbolic Abstraction
Technical University of Darmstadt（达姆施塔特工业大学）；National Research Center for Applied Cybersecurity（国家应用网络安全研究中心）；Eindhoven University of Technology（埃因霍温理工大学）；Hessian Center for AI (hessian.AI)（黑森人工智能中心）；German Research Center for AI (DFKI)（德国人工智能研究中心）
本文提出NUDGE框架，通过神经引导的可微逻辑规则搜索，构建兼具可解释性与可说明性的策略，其性能优于纯神经网络且适应不同环境规模。
2023-10-25 cs.AI cs.CL cs.LG
EEG-GMACN: Interpretable EEG Graph Mutual Attention Convolutional Network
Coventry University（考文垂大学）；Institute for Infocomm Research, A*STAR（新加坡科技研究局信息通信研究所）
提出EEG-GMACN模型，通过引入逆图权重模块和互注意力机制提升EEG分析的可解释性与临床可信度，并采用可信度校准评估预测不确定性。
2024-12-15 cs.LG eess.SP
Beyond Neural Networks: Symbolic Reasoning over Wavelet Logic Graph Signals
UC Berkeley, School of Information（伯克利大学信息学院）
本研究提出基于图拉普拉斯小波变换的非神经学习框架，通过谱域多尺度滤波、非线性收缩与符号DSL实现图任务，性能媲美轻量级GNN且更透明高效，为图学习提供可解释的深度架构替代方案。
2025-07-27 cs.LG
Three Pathways to Neurosymbolic Reinforcement Learning with Interpretable Model and Policy Networks
National Renewable Energy Lab（国家可再生能源实验室）
本文提出三种途径在强化学习中实现可微且可解释的模型与策略，揭示逻辑与学习的权衡及开放问题。
2024-02-07 cs.AI cs.LG
Making Logic Learnable With Neural Networks
RWTH Aachen University（亚琛工业大学）；Yale University（耶鲁大学）；Glasgow Royal Infirmary（格拉斯哥皇家医院）
虽然神经网络擅长从训练样本中学习未指定的函数，但它们不能直接在硬件中实现，并且通常不可解释或形式上可验证。另一方面，逻辑电路是可实现的、可验证的和可解释的，但不能以可推广的方式从训练数据中学习。我们提出了一种新的逻辑学习流水线，结合了神经网络和逻辑电路的优点。我们的流水线首先在分类任务上训练一个神经网络，然后将其首先转换为随机森林，然后转换为AND-Inverter逻辑。我们表明，我们的流水线保持更高的准确性比天真的翻译逻辑，并尽量减少逻辑，使其更可解释，并降低了硬件成本。我们在一个基于生物医学数据训练的网络上展示了我们的管道的实用性。这种方法可以应用于患者护理，提供风险分层和指导临床决策。
2020-06-07 cs.AI cs.LG stat.ML
Learning Signal Temporal Logic through Neural Network for Interpretable Classification
Boston University（波士顿大学）；Lehigh University（理海大学）
本文提出一个可解释的神经符号框架，利用 STL 约束神经网络计算图搜索，并设计新函数提升稳健性与精确度，从而高效学习紧凑的 STL 公式实现时间序列数据分类。
2023-06-30 cs.FL cs.LG
Neural Probabilistic Circuits: Enabling Compositional and Interpretable Predictions through Logical Reasoning
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；College of William and Mary（威廉与玛丽学院）
提出神经概率电路（NPC），通过属性识别与概率电路逻辑推理实现组合式可解释预测，三阶段训练，理论误差有界，在四个基准上性能媲美黑盒模型且可解释性更强。
2025-01-20 cs.AI cs.LG
Interpretable Graph Convolutional Network of Multi-Modality Brain Imaging for Alzheimer's Disease Diagnosis
Lehigh University（里海大学）；University of Pennsylvania（宾夕法尼亚大学）
识别与特定神经系统疾病相关的脑区域对于生物标志物和诊断研究非常重要。在本文中，我们提出了一个可解释的图卷积网络（GCN）框架，用于使用多模态脑成像数据对阿尔茨海默病（AD）进行识别和分类。具体来说，我们扩展了梯度类激活映射（Grad-CAM）技术，以量化GCN从大脑连接模式中识别出的最具鉴别力的特征。然后，我们利用它们来找到签名感兴趣的区域（ROI），通过检测健康对照（HC），轻度认知障碍（MCI）和AD组的区域之间的特征差异。我们在ADNI数据库上进行了实验，使用了三种模式的成像数据，包括VBM-MRI，FDG-PET和AV45-PET，并表明通过我们的方法学习的ROI特征对于提高临床评分预测和疾病状态识别的性能是有效的。它还成功地鉴定了与AD和MCI相关的生物标志物。
2022-04-27 cs.CV cs.LG eess.IV
Logic-based AI for Interpretable Board Game Winner Prediction with Tsetlin Machine
University of Agder（阿格德大学）；University of Amsterdam（阿姆斯特丹大学）；PwC Switzerland（普华永道瑞士）
Hex是一个回合制的双人连接游戏，具有高分支因子，使游戏随着棋盘大小的增加而变得任意复杂。因此，玩Hex的顶级算法依赖于使用神经网络对棋盘位置的准确评估。然而，当用户想要理解所做预测背后的推理时，神经网络有限的可解释性是有问题的。在本文中，我们建议使用命题逻辑表达式来描述输赢棋盘游戏的立场，促进精确的视觉解释。我们采用Tsetlin机器（TM）从以前玩过的游戏中学习这些表达式，描述棋子必须位于或不位于棋盘位置才能强大。在$6\times6$板上进行的大量实验将我们基于TM的解决方案与流行的机器学习算法（如XGBoost、InterpretML、决策树和神经网络）进行了比较，考虑了$2$到$22$移动的各种板配置。平均而言，TM测试精度为$92.1\%$，优于所有其他评估算法。我们进一步展示了全球的逻辑表达式的解释，并将它们映射到特定的棋盘游戏配置，以调查当地的可解释性。我们相信，由此产生的可解释性为准确的辅助AI和人类-AI协作以及更复杂的预测任务奠定了基础。
2022-03-08 cs.AI cs.LG
Factor Graph-based Interpretable Neural Networks
Dalian University of Technology（大连理工大学）；Jilin University（吉林大学）；RMIT University（皇家墨尔本理工大学）
本文提出 AGAIN，利用因子图表达解释与类别间的逻辑规则，并在推理时交互式纠正不合逻辑的解释，从而在未知扰动下生成可理解解释。
2025-02-20 cs.AI cs.LG
A Comparative Study of Neurosymbolic AI Approaches to Interpretable Logical Reasoning
Raffles Institution（拉夫斯学院）
本研究比较了神经符号AI中整合与混合两种方法，发现混合方法（如LLM-SS）在通用逻辑推理上更具可解释性和优势，并提出了一个模块化、模型无关的通用框架。
2025-08-05 cs.AI cs.CL cs.LG
Quantum-Logic Tsetlin Machines: Interpretable Quantum Machine Learning with Commuting Projector Clauses
Fractal Analytics（分形分析公司）
该研究提出量子逻辑Tsetlin机（QL-TM），将Tsetlin子句学习与量子逻辑关联，经实验验证其在合适语境下可恢复有物理意义的子句，不涉及量子优势宣称。
2026-08-20 cs.LG cs.LO quant-ph
NEURO-DRAM: a 3D recurrent visual attention model for interpretable neuroimaging classification
King’s College London（伦敦国王学院）；University College London（伦敦大学学院）；King’s College Hospital（国王学院医院）
深度学习作为一种从结构磁共振图像诊断精神和神经疾病的手段，正在引起神经成像界的极大兴趣。然而，研究人员倾向于采用针对传统计算机视觉任务优化的架构，而不是设计针对神经成像数据定制的网络。我们通过引入NEURO-DRAM来解决这个问题，这是一种为神经成像分类量身定制的3D循环视觉注意力模型。该模型包括一个代理，通过强化学习训练，学习导航通过体积图像，选择性地参加最丰富的区域为给定的任务。当应用于阿尔茨海默病预测时，NEURODRAM在样本外数据集上实现了最先进的分类精度，显著优于基线卷积神经网络。当进一步应用于预测哪些轻度认知障碍患者将在两年内被诊断患有阿尔茨海默病的任务时，该模型在没有额外训练的情况下达到了最先进的准确性。令人鼓舞的是，代理学习，没有明确的指示，搜索策略与阿尔茨海默病的标准化放射学标志一致，这表明了一条自动生物标志物发现的路线，用于更少了解的疾病。
2019-10-18 cs.LG stat.ML
A Scalable, Interpretable, Verifiable & Differentiable Logic Gate Convolutional Neural Network Architecture From Truth Tables
Nanyang Technological University（南洋理工大学）；National University of Singapore（新加坡国立大学）
我们提出了$\mathcal{T}$ Ruth $\mathcal{T}$ able net（$\mathcal{TT}$ net），一种新的卷积神经网络（CNN）架构，通过设计，解决了可解释性，形式化验证和逻辑门转换的开放挑战。$\mathcal{TT}$网络是使用CNN的过滤器构建的，这些过滤器相当于易处理的真值表，我们称之为学习真值表（LTT）块。LTT块的对偶形式允许使用梯度下降轻松训练真值表，并使这些CNN易于解释、验证和推断。具体而言，$\mathcal{TT}$网是一种深度CNN模型，在训练后转换之后，可以自动表示为布尔决策树的总和，或表示为析取/合取范式（DNF/CNF）公式的总和，或表示为紧凑的布尔逻辑电路。我们证明了$\mathcal{TT}$网在多个数据集上的有效性和可扩展性，与最先进的方法相比，具有与决策树相当的可解释性，快速完整/健全的形式化验证和可扩展的逻辑门表示。我们相信这项工作代表了使CNN在现实世界的关键应用中更加透明和值得信赖的一步。
2023-02-02 cs.AI cs.FL cs.LG
Exploiting Hybrid Policy in Reinforcement Learning for Interpretable Temporal Logic Manipulation
University of Science and Technology of China（中国科学技术大学）；Chongqing University（重庆大学）；Hunan University（湖南大学）
本文提出时序逻辑引导的混合策略框架HyTL，通过LTL编码任务规范并结合三层决策结构，提升长时程机器人操作的采样效率、性能与可解释性。
2024-12-29 cs.AI cs.LG cs.RO
AxBERT: An Interpretable Chinese Spelling Correction Method Driven by Associative Knowledge Network
Jiangsu Key Laboratory of Media Design and Software Technology（江苏省媒体设计与软件技术重点实验室）
针对深度学习模型不可解释性限制文本纠错应用的问题，提出可解释中文拼写纠错模型AxBERT，通过构建并对齐联想知识网络与翻译器矩阵调节BERT注意力，在SIGHAN数据集上实现了高精度与良好可解释性。
2025-03-04 cs.CL cs.LG
Logic Sketch Prompting (LSP): A Deterministic and Interpretable Prompting Method
University of Pennsylvania（宾夕法尼亚大学）
逻辑草图提示（LSP）通过引入类型变量、确定性条件评估器和规则验证器，提升了大语言模型在需要严格规则遵守、确定性和可审计性任务中的性能和可解释性。
2025-12-24 cs.AI cs.LG cs.LO
Learning Interpretable Models in the Property Specification Language
Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所）；Ben-Gurion University（本-古里安大学）
我们解决的问题，学习人类可解释的描述一个复杂的系统，从一组有限的积极和消极的例子，其行为。在这方面的最新工作，它侧重于线性时序逻辑（LTL）表示的描述，我们开发了一个学习算法的公式在IEEE标准时序逻辑PSL（属性规约语言）。我们的工作是出于这样一个事实，即许多自然属性，如事件发生在每第n个时间点，不能在LTL中表示，而它很容易在PSL中表示这样的属性。此外，PSL中的公式比LTL中的公式更简洁，更容易解释（由于在PSL公式中使用了正则表达式）。我们的学习算法建立在现有的学习LTL公式的算法之上。粗略地说，我们的算法减少了学习任务的命题逻辑中的约束满足问题，然后使用SAT求解器搜索一个解决方案，在一个增量的方式。我们已经实现了我们的算法，并进行了比较研究所提出的方法和现有的LTL学习算法。我们的研究结果说明了所提出的方法的有效性，从例子中提供简洁的人类可解释的描述。
2020-02-10 cs.LG cs.LO stat.ML
NSL: Hybrid Interpretable Learning From Noisy Raw Data
IBM Research Europe（IBM欧洲研究院）；Imperial College London（帝国理工学院）；Army Research Laboratory（美国陆军研究实验室）
归纳逻辑程序设计（ILP）系统利用现有的背景知识以数据高效的方式学习通用的、可解释的规则。然而，当前的ILP系统要求以结构化逻辑格式指定训练样本。神经网络从非结构化数据中学习，尽管它们的学习模型可能难以解释，并且在运行时容易受到数据扰动的影响。本文介绍了一种混合神经符号学习框架，称为NSL，学习可解释的规则标记的非结构化数据。NSL将用于特征提取的预训练神经网络与FastLAS相结合，FastLAS是最先进的ILP系统，用于在答案集语义下进行规则学习。由神经组件提取的特征定义标记示例的结构化上下文，并且神经预测的置信度确定示例的噪声水平。使用FastLAS的评分功能，NSL搜索简短，可解释的规则，概括了这样的嘈杂的例子。我们使用MNIST数据集作为原始数据来评估我们的命题和一阶分类任务框架。具体来说，我们证明了NSL能够从扰动的MNIST数据中学习鲁棒的规则，并且与神经网络和随机森林基线相比，NSL能够达到相当或更高的准确性，同时具有更普遍的可解释性。
2021-06-25 cs.AI cs.LG
Neuro-Symbolic Reinforcement Learning with First-Order Logic
IBM Research（IBM研究院）
深度强化学习（RL）方法在收敛之前通常需要多次试验，并且不提供训练策略的直接可解释性。为了实现快速收敛和可解释的策略在强化学习，我们提出了一种新的基于文本的游戏强化学习方法与最近的神经符号框架称为逻辑神经网络，它可以学习符号和可解释的规则在其可微网络。该方法首先从文本观察和外部词义网络（ConceptNet）中提取一阶逻辑事实，然后在网络中用可直接解释的逻辑算子训练策略。我们的实验结果表明，在TextWorld基准测试中，使用该方法进行RL训练的收敛速度明显快于其他最先进的神经符号方法。
2021-10-21 cs.AI cs.CL cs.LG
Knowledge, Rules and Their Embeddings: Two Paths towards Neuro-Symbolic JEPA
本文提出双向神经符号框架RiJEPA，通过能量约束和多模态双编码架构注入归纳偏置，重塑表示流形，实现几何逻辑盆地；并通过连续可微逻辑替代离散规则，实现连续规则发现，提升生成与推理能力。
2026-02-25 cs.LG
Learning Accurate and Interpretable Decision Rule Sets from Neural Networks
University of California San Diego（加州大学圣迭戈分校）
本文提出了一种新的范式，用于学习一组独立的逻辑规则的析取范式作为一个可解释的分类模型。我们认为学习一个可解释的决策规则集的问题是训练一个神经网络在一个特定的，但非常简单的两层架构。第一层中的每个神经元在训练后直接映射到可解释的“若-则”规则，第二层中的输出神经元直接映射到第一层规则的析取以形成决策规则集。我们在第一个规则层中对神经元的表示使我们能够在决策规则中对特征的正关联和负关联进行编码。可以利用最先进的神经网络训练方法来学习高度准确的分类模型。此外，我们提出了一种基于稀疏性的正则化方法，以平衡分类精度和简单性之间的派生规则。我们的实验结果表明，我们的方法可以产生更准确的决策规则集比其他国家的最先进的规则-学习算法具有更好的准确性和简单性的权衡。此外，与随机森林和全精度深度神经网络等不可解释的黑箱机器学习方法相比，我们的方法可以轻松找到具有可比预测性能的可解释决策规则集。
2021-03-12 cs.LG
Learning Reliable Logical Rules with SATNet
University of Toronto（多伦多大学）；Vector Institute（向量研究所）；Shanghai Jiao Tong Univeristy（上海交通大学）；Mila（米拉研究所）
针对SATNet学习的权重不可解释的问题，提出“最大等式”方法将其转换为加权MaxSAT逻辑规则，结合验证技术实现了高可靠性，且规则与真实规则功能等价。
2023-10-03 cs.AI cs.LG
Inferring Temporal Logic Properties from Data using Boosted Decision Trees
Boston University（波士顿大学）；Lehigh University（理海大学）
许多自主系统，如机器人和自动驾驶汽车，涉及复杂环境中的实时决策，并需要从有限的数据中预测未来的结果。此外，为了安全和值得信赖的共存，它们的决定越来越需要对人类进行解释。本文是基于可解释学习的机器人控制的第一步。我们引入了一种新的学习问题，称为增量公式和预测学习，从时间序列数据生成具有时态逻辑结构的二进制分类器。分类器表示为对信号时序逻辑（STL）的公式和预测他们的满意度。增量属性提供对随时间揭示的前缀信号的标签的预测。我们提出了一个提升的决策树算法，利用弱，但计算成本低，学习者，以提高预测和运行时性能。我们的算法的有效性和分类精度进行了评估，对驾驶和海军监视的案例研究。
2021-05-24 cs.FL cs.LG cs.RO
Unsupervised Grounding of Plannable First-Order Logic Representation from Images
IBM Research（IBM研究）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）
最近，在强化学习社区中，人们对获取环境的关系结构越来越感兴趣。然而，由此产生的“关系”不是离散的，逻辑谓词兼容的符号推理，如经典的规划或目标识别。与此同时，Latplan（Asai and Fukunaga 2018）弥合了深度学习感知系统和符号经典规划器之间的差距。该系统的一个关键组成部分是一个称为状态自动编码器（SAE）的神经网络，它将基于图像的输入编码为与经典规划兼容的命题表示。为了两全其美，我们提出了一阶状态自动编码器，这是一种无监督的架构，用于为一阶逻辑谓词和事实奠定基础。每个谓词通过获取可解释的参数并返回一个命题值来建模对象之间的关系。在使用8-Puzzle和照片般逼真的Blocksworld环境的实验中，我们表明：（1）所得到的谓词捕获了可解释的关系（例如空间），（2）它们有助于获得环境的紧凑，抽象模型，最后，（3）所得到的模型与符号经典规划兼容。
2019-03-27 cs.AI cs.LG
Interpretable Classification of Time-Series Data using Efficient Enumerative Techniques
University of Southern California（南加州大学）；University of California, Berkeley（加州大学伯克利分校）；Decyphir, Inc（Decyphir公司）
自动驾驶汽车、可穿戴设备和航空电子系统等网络物理系统应用会产生大量的时间序列数据。设计人员经常寻找工具来帮助对数据进行分类和归类。针对时间序列数据的传统机器学习技术提供了几种解决方案来解决这些问题;然而，这些算法训练的工件通常缺乏可解释性。另一方面，时序逻辑，如信号时序逻辑（STL）已成功地用于形式化方法社区作为规范的时间序列行为。在这项工作中，我们提出了一种新的技术来自动学习时序逻辑公式，能够聚类和分类的实值时间序列数据。以前从数据中学习STL公式的工作要么假设用户给出一个公式模板，要么假设STL的一些特殊片段，以便以系统的方式探索公式结构。在我们的技术中，我们放松了这些假设，并提供了一种方法来系统地探索所有STL公式的空间。由于所有STL公式的空间非常大，并且包含许多语义等价的公式，我们提出了一种技术来精确地修剪所考虑的公式空间。最后，我们说明了我们的技术，从汽车，交通和医疗保健领域的各种案例研究。
2019-07-24 cs.LG stat.ML
Pooling Regularized Graph Neural Network for fMRI Biomarker Analysis
Yale University（耶鲁大学）；Yale School of Medicine（耶鲁大学医学院）；Facebook AI Research（Facebook人工智能研究院）
了解某些大脑区域如何与特定的神经系统疾病相关一直是神经影像学研究的重要领域。识别显著区域的一种有前途的方法是使用图神经网络（GNN），其可用于分析图结构化数据，例如由功能磁共振成像（fMRI）构建的脑网络。我们提出了一个可解释的GNN框架，该框架具有新的显著区域选择机制，以确定与疾病相关的神经脑生物标志物。具体来说，我们设计了新的正则化池化层，突出突出感兴趣的突出区域（ROI），以便我们可以推断哪些ROI是重要的，以确定某种疾病的基础上，由池化层计算的节点池得分。我们提出的框架，池正则化GNN（PR-GNN），鼓励合理的投资回报率选择，并提供灵活性，以保持无论是个人或团体级别的模式。我们将PR-GNN框架应用于Biopoint自闭症谱系障碍（ASD）fMRI数据集。我们研究了超参数的不同选择，并表明PR-GNN在分类精度方面优于基线方法。显著的ROI检测结果显示与先前的ASD神经成像衍生的生物标志物高度一致。
2020-07-29 cs.CV cs.LG stat.ML
GLANCE: Graph Logic Attention Network with Cluster Enhancement for Heterophilous Graph Representation Learning
University of Kent, UK（英国肯特大学）；University of Cambridge, UK（英国剑桥大学）；Durham University, UK（杜ham大学）；University of Oxford, UK（英国牛津大学）
针对异配图中邻居聚合噪声和高阶结构利用不足的问题，提出融合逻辑推理、注意力边剪枝与自适应聚类的 GLANCE 框架，并在多个基准上验证其竞争力与可解释性。
2025-09-29 cs.AI cs.LG
Neural DNF-MT: A Neuro-symbolic Approach for Learning Interpretable and Editable Policies
Imperial College London（伦敦帝国学院）；University College London（伦敦大学学院）
本文提出神经DNF-MT，一种结合深度强化学习与逻辑程序的神经符号方法，实现端到端学习可解释且可编辑的策略，性能媲美黑盒方法。
2025-04-23 cs.AI cs.LG cs.LO
Improving the Evaluation of Generative Models with Fuzzy Logic
Hasso Plattner Institute（哈索·普拉特纳研究所）
客观和可解释的指标来评估当前的人工智能系统是非常重要的，不仅要分析这些系统的当前状态，而且要客观地衡量未来的进展。在这项工作中，我们专注于图像生成任务的评价。我们提出了一种新的方法，称为模糊拓扑影响（FTI），确定的质量和多样性的图像集使用拓扑表示结合模糊逻辑。与现有的评估方法相比，FTI在评估对噪声、模式丢弃和模式发明的灵敏度的多个实验中表现出更好和更稳定的性能。
2020-02-03 cs.CV cs.LG
Interpretable Concept-Based Memory Reasoning
KU Leuven（鲁汶大学）；Universita’ della Svizzera Italiana（瑞士意大利大学）；University of Cambridge（剑桥大学）；Scuola Normale Superiore（高等师范学院）；Politecnico di Torino（都灵理工大学）；University of Siena（锡耶纳大学）
针对现有概念瓶颈模型任务预测器不完全可解释的问题，提出基于概念的记忆推理器（CMR），通过神经选择机制和符号评估建模任务预测，实现高准确性与可验证性。
2024-11-15 cs.AI cs.LG
Tackling Shortcut Learning in Deep Neural Networks: An Iterative Approach with Interpretable Models
Boston University（波士顿大学）；University of Pittsburgh（匹兹堡大学）；MetaAI（Meta人工智能研究院）
本文提出一种迭代方法，通过从黑盒模型中划分可解释专家混合模型（MoIE）并用一阶逻辑检测捷径，再结合元数据归一化（MDN）微调消除捷径，在不损失准确性的前提下缓解深度神经网络的捷径学习问题。
2023-07-07 cs.CV cs.LG
ANDRE: An Attention-based Neuro-symbolic Differentiable Rule Extractor for Inductive Logic Programming
Dept. of Mechanical and Aerospace Engineering, George Washington University, USA（机械与航空航天工程系，乔治华盛顿大学）；Dept. of Mechanical Engineering Sciences, University of Surrey, UK（机械工程科学系，萨里大学）
提出ANDRE框架，通过注意力驱动的可微逻辑算子优化连续规则空间，实现从概率数据中学习一阶逻辑规则，在噪声环境下保持鲁棒性和可解释性。
2026-05-31 cs.AI cs.LG cs.LO
Towards Semantic Communication Protocols: A Probabilistic Logic Perspective
Yonsei University（延世大学）；Deakin University（迪肯大学）；Inha University（仁荷大学）；Oulu University（奥卢大学）
经典的媒体访问控制（MAC）协议是可解释的，但其任务不可知的控制信令消息（CM）是不适合新兴的关键任务的应用。相比之下，基于神经网络（NN）的协议模型（NPM）学习生成特定于任务的CM，但它们的原理和影响缺乏可解释性。为了填补这一空白，在这篇文章中，我们提出了，第一次，一个语义协议模型（SPM）构造的NPM转换成一个可解释的符号图写的概率逻辑程序设计语言（ProbLog）。这种转换是可行的，提取和合并常见的CM和它们的连接，同时将NPM作为CM生成器。通过大量的模拟，我们证实，SPM紧密接近其原始的NPM，而只占用0.02%的内存。通过利用其可解释性和内存效率，我们展示了几个SPM启用的应用程序，如SPM的碰撞避免重新配置，以及比较不同的SPM通过语义熵计算和存储多个SPM，以应付非静态环境。
2022-07-08 cs.AI cs.IT cs.LG
Rule Extraction from Binary Neural Networks with Convolutional Rules for Model Validation
TU Kaiserslautern（凯泽斯劳滕工业大学）；University of Mainz（美因茨大学）；Johannes Gutenberg University of Mainz（约翰内斯·古腾堡大学美因茨分校）；TU Darmstadt（达姆施塔特工业大学）
大多数深度神经网络被认为是黑匣子，这意味着它们的输出很难解释。相比之下，逻辑表达式被认为是更容易理解的，因为它们使用的符号在语义上接近自然语言，而不是分布式表示。然而，对于诸如图像的高维输入数据，各个符号（即，像素）不容易解释。我们引入了一阶卷积规则的概念，这是可以使用卷积神经网络（CNN）提取的逻辑规则，其复杂度取决于卷积滤波器的大小，而不是输入的维数。我们的方法是基于随机局部搜索的二进制神经网络的规则提取。我们展示了如何提取规则，不一定是短的，但输入的特点，易于可视化。我们的实验表明，所提出的方法是能够建模的神经网络的功能，而在同一时间产生可解释的逻辑规则。
2020-12-15 cs.AI cs.LG
Neural Reasoning Networks: Efficient Interpretable Neural Networks With Automatic Textual Explanations
IBM（IBM公司）；Centaur AI Institutue（半人马人工智能研究所）
针对表格数据分类的可解释性问题，提出神经符号架构NRN及其训练算法R-NRN，在保持与先进方法相当性能的同时显著降低参数量并加速训练，且能生成更短、更准确的文本解释。
2024-10-10 cs.AI cs.LG
Interpretable Machine Learning: Fundamental Principles and 10 Grand Challenges
Duke University（杜克大学）；University of Maine（缅因大学）
机器学习（ML）中的可解释性对于高风险决策和故障排除至关重要。在这项工作中，我们为可解释的ML提供了基本原则，并消除了淡化这一关键主题重要性的常见误解。我们还确定了可解释机器学习的10个技术挑战领域，并提供了每个问题的历史和背景。这些问题中有些是经典的重要问题，有些是最近几年出现的问题。这些问题是：（1）优化稀疏逻辑模型，如决策树;（2）优化评分系统;（3）将约束放入广义加法模型中，以鼓励稀疏性和更好的可解释性;（4）现代基于案例的推理，包括神经网络和因果推理的匹配;（5）神经网络的完全监督解纠缠;（6）神经网络的完全或甚至部分无监督解纠缠;（7）数据可视化的简化;（8）可以结合物理和其他生成或因果约束的机器学习模型;（9）良好模型的“罗生门集”的表征;（10）可解释的强化学习。本调查适合作为对可解释机器学习感兴趣的统计学家和计算机科学家的起点。
2021-07-10 cs.LG stat.ML
