Time-Warping Invariant Quantum Recurrent Neural Networks via Quantum-Classical Adaptive Gating
Eindhoven University of Technology（埃因霍温理工大学）；King’s College London（伦敦国王学院）；University of Florence（佛罗伦萨大学）；INFN（意大利国家核物理研究所）；DeepMind（深度思维）
该研究提出时间扭曲不变量子循环神经网络TWI-QRNN，通过量子-经典自适应门控实现时序输入输出的时间扭曲不变性，经原理推导与实验验证了其在经典/量子动力学场景的有效性。
2023-06-09 cs.IT cs.LG math.IT
NeuralLog: a Neural Logic Language
Universidade do Porto（波尔图大学）
需要考虑具有实值属性的对象之间的关系的应用领域变得更加重要。在本文中，我们提出了NeuralLog，一阶逻辑语言，编译成一个神经网络。NeuralLog的主要目标是连接逻辑编程和深度学习，允许将这两个领域的进步结合起来，以获得更好的机器学习模型。NeuralLog的主要优点是：允许将神经网络定义为逻辑程序;并且能够处理数值属性和函数。我们将NeuralLog与使用一阶逻辑构建神经网络的两个不同系统进行了比较。我们还表明，NeuralLog可以学习链接预测和分类任务，使用与比较系统相同的理论，在四个数据集的ROC曲线下面积方面取得了更好的结果：Cora和UWCSE用于链接预测; Yelp和PAKDD 15用于分类;以及WordNet数据集中链接预测的可比结果。
2021-05-04 cs.LG
Neural Implicit Morphing of Face Images
Institute of Systems and Robotics, University of Coimbra（科英布拉大学系统与机器人研究所）；Institute of Pure and Applied Mathematics（纯数学与应用数学研究所）；Tecgraf, Pontifical Catholic University of Rio de Janeiro（里约热内卢天主教大学Tecgraf研究所）；Portuguese Mint and Official Printing Office（葡萄牙铸币与官方印刷局）
本文提出利用基于坐标的神经网络表示人脸图像的扭曲与混合，通过结合经典能量泛函实现时间依赖的连续形变，在图像质量和形变检测上与现有方法具竞争力。
2024-06-13 cs.CV cs.LG
WarPGNN: A Parametric Thermal Warpage Analysis Framework with Physics-aware Graph Neural Network
Department of Electrical and Computer Engineering（电气与计算机工程系）
提出WarPGNN框架，利用图神经网络从芯片布局图快速预测热翘曲，实现超过205倍加速，误差仅1.26%，并具有强迁移能力。
2026-06-23 cs.AR cs.LG cs.SY
Graph Warp Module: an Auxiliary Module for Boosting the Power of Graph Neural Networks in Molecular Graph Analysis
Preferred Networks, Inc.（首选网络公司）
图神经网络（GNN）是一种流行的化学分子分析体系结构，在材料科学和医学领域有着广泛的应用。然而，目前为分子分析开发的GNN系列并不适合训练集，它们的性能也不能很好地与网络的复杂性相匹配。在本文中，我们提出了一个附加到GNN的辅助模块，可以在不妨碍原始GNN架构的情况下提高模型的表示能力。我们的辅助模块可以连接到各种各样的GNN上，包括那些在生化应用中常用的GNN。通过我们的辅助架构，实践中使用的许多GNN的性能得到了更一致的提高，在流行的分子图数据集上实现了最先进的性能。
2019-05-24 cs.LG stat.ML
WarpPINN: Cine-MR image registration with physics-informed neural networks
University of Bath（巴斯大学）；Pontificia Universidad Católica de Valparaíso（瓦尔帕莱索天主大学）；Millennium Institute for Intelligent Healthcare Engineering（千年智能医疗工程研究所）；Pontificia Universidad Católica de Chile（智利天主大学）
本文提出物理信息神经网络WarpPINN，通过强度相似性、超弹性正则化、雅可比惩罚和傅里叶特征实现电影MRI心脏配准与应变估计，并在合成及15名健康志愿者数据上超越现有方法。
2022-11-22 cs.CV cs.LG eess.IV
Can recurrent neural networks warp time?
Laboratoire de Recherche en Informatique（计算机研究实验室）；Facebook Artificial Intelligence Research（Facebook人工智能研究院）；Université Paris Sud（巴黎南大学）
成功的递归模型，如长短期记忆（LSTM）和门控递归单元（GRU）使用专门的门控机制。从经验上讲，这些模型已经被发现可以改善中长期时间依赖性的学习，并有助于解决梯度消失问题。我们证明了循环模型中的可学习门形式上对输入数据中的一般时间变换提供了准不变性。我们从一个简单的公理方法中恢复了部分LSTM架构。这一结果导致了一种新的方式初始化的栅极偏置在LSTM和GRU。实验表明，这种新的计时初始化大大提高了学习的长期依赖关系，以最小的实现工作。
2018-03-23 cs.LG cs.NE stat.ML
Transfer Learning for Dead Fuel Moisture Prediction Using Time-Warping Recurrent Neural Networks
Department of Mathematical and Statistical Sciences, University of Colorado Denver, Colorado（数学与统计科学系，科罗拉多大学丹佛分校，科罗拉多）；Department of Meteorology and Climate Science, Wildfire Interdisciplinary Research Center, San Jose State University, San Jose, California（气象与气候科学系，野火跨学科研究中心，圣何塞州立大学，圣何塞，加利福尼亚）
本文提出了一种时间拉伸迁移学习方法，利用LSTM层对递归神经网络的动态进行时间拉伸，以在不同燃料含湿量类别间实现任务迁移。通过预训练10小时燃料含湿量数据来预测1小时、100小时和1000小时燃料含湿量，利用奥克拉荷马州地标性现场研究数据验证方法。
2026-05-08 cs.LG stat.AP
Reinforcement Learning for Scalable Logic Optimization with Graph Neural Networks
Huawei Technologies, Zurich Research Center（华为技术有限公司苏黎世研究中心）
逻辑优化是一个NP难问题，通常通过手工设计的算法来解决。我们建议将图卷积网络与强化学习和一种新颖的可扩展节点嵌入方法相结合，以学习哪些局部变换应该应用于逻辑图。我们表明，这种方法在较小的电路上实现了与ABC相似的尺寸减小，并且在较大的随机图上优于它1.5- 1.75倍。
2021-05-04 cs.LG
Bridging Neural Networks and Dynamic Time Warping for Adaptive Time Series Classification
University of Southern California（南加州大学）；Florida International University（佛罗里达国际大学）
本研究提出一种结合神经网络与动态时间规整（DTW）的可训练模型，通过动态长度缩短算法将DTW转化为等效循环神经网络，在保持可解释性的同时，有效解决了时间序列分类中冷启动场景与资源丰富场景的适应性问题。
2025-07-13 cs.AI cs.LG
Neural Logic Reinforcement Learning
University of Liverpool（利物浦大学）
深度强化学习（DRL）在多项任务中取得了重大突破。然而，大多数DRL算法遭受的问题，泛化的学习策略，这使得学习性能在很大程度上受到影响，即使是轻微的修改的训练环境。除此之外，深度神经网络的使用使得学习到的策略难以解释。为了解决这两个问题，我们提出了一种新的算法命名为神经逻辑强化学习（NLRL）表示的强化学习的政策，一阶逻辑。NLRL基于策略梯度方法和可微归纳逻辑程序设计，在监督任务的可解释性和可推广性方面表现出显着的优势。在悬崖行走和块操作任务上进行的大量实验表明，NLRL可以诱导可解释的策略，实现接近最优的性能，同时对不同初始状态和问题大小的环境表现出良好的通用性。
2019-07-10 cs.LG
Weight-Space Linear Recurrent Neural Networks
University of Bristol（布里斯托大学）；University of Maryland（马里兰大学）
WARP通过权重空间学习与线性递归结合，重新定义序列建模，实验证明其在多个任务中表现优异，具备高效适应和物理先验整合能力。
2026-03-02 cs.LG
WarpPINN-fibers: improved cardiac strain estimation from cine-MR with physics-informed neural networks
Millennium Institute for Intelligent Healthcare Engineering, iHEALTH；Department of Mechanical；Metallurgical Engineering, School of Engineering, Pontificia Universidad Cat\'olica de Chile, Santiago, Chile；Institute for Biological；Medical Engineering, Schools of Engineering, Medicine
本文提出WarpPINN-fibers，一种结合纤维信息的物理信息神经网络，用于从电影MRI准确估计心脏应变，通过超弹性模型和纤维拉伸惩罚改进变形场预测，并在基准上优于现有方法。
2025-09-10 cs.LG eess.IV physics.med-ph
LogicXGNN: Grounded Logical Rules for Explaining Graph Neural Networks
University of Toronto（多伦多大学）
LogicXGNN通过构建逻辑规则提升图神经网络解释的可信度和可解释性，提出数据驱动的 fidelity 指标并显著提升解释质量。
2026-03-16 cs.LG
Dynamic Time Warping as a New Evaluation for Dst Forecast with Machine Learning
KU Leuven（鲁汶大学）；Centre for mathematical Plasma Astrophysics（数学等离子体天体物理学中心）
基于神经网络和机器学习的模型在空间物理学中越来越受欢迎。特别是利用神经网络模型对地磁指数进行预测，正成为一个热门的研究领域。这些模型的评估指标，如均方根误差（RMSE）和皮尔逊相关系数。然而，这些经典指标有时无法捕捉关键行为。为了显示缺乏经典指标的地方，我们训练了一个神经网络，使用长短期记忆网络，在原始时间$t$预测扰动风暴时间指数，预测范围为1至6小时，在OMNIWeb数据上训练。检查模型的结果与相关系数和RMSE表明，性能与最新出版物。然而，视觉检查表明，神经网络做出的预测与持久性模型的行为相似。在这项工作中，提出了一种新的方法来衡量两个时间序列是否在时间上相互移动，如持久性模型输出与观察。新的措施，基于动态时间弯曲，是能够识别的持久性模型的结果，并在确认神经网络的输出的视觉观察显示有前途的结果。最后，探讨了不同的方法来训练神经网络，以消除持久性行为的结果。
2020-06-08 cs.LG stat.ML
Animating Through Warping: an Efficient Method for High-Quality Facial Expression Animation
Huawei Technologies Canada Co. Ltd.（华为技术加拿大有限公司）
深度神经网络的进步已经大大改善了在不进行3D域操作的情况下对静止图像进行动画的艺术。然而，由于存储器限制、训练困难和缺乏高分辨率（HD）训练数据集，现有技术只能动画化小图像（通常不大于512 × 512），这显著降低了它们在电影制作和交互系统中的应用潜力。HD图像可以通过将高频残差添加到由神经网络产生的低分辨率结果中来生成的想法的启发，我们提出了一种新的框架，称为Animating Through Warping（ATW），以实现HD图像的高效动画。具体来说，该框架由两个模块组成，一个新的两阶段神经网络生成器和一个新的后处理模块，称为通过扭曲动画（ATW）。它只需要在小图像上训练生成器，并且可以对任何大小的图像进行推理。在推理过程中，HD输入图像被分解为低分辨率分量（128 x128）及其相应的高频残差。生成器预测低分辨率结果以及将输入面扭曲到期望状态的运动场（例如，表达式类别或动作单元）。最后，ResWarp模块基于运动场扭曲残差，并添加扭曲的残差以从原始上采样的低分辨率结果生成最终HD结果。实验结果表明，该方法在生成高分辨率动画方面是有效的。我们提出的框架成功地动画了4K面部图像，这是以前的神经模型从未实现过的。此外，我们的方法一般保证生成的动画的时间一致性。源代码将公开提供。
2020-08-01 cs.CV cs.LG eess.IV
Modal Logical Neural Networks for Financial AI
Lawrence Berkeley National Lab（伯克利国家实验室）
本文提出模态逻辑神经网络，结合模态语义与神经网络，解决金融AI中深度学习与符号逻辑的矛盾，通过监管护栏、市场压力测试等应用提升合规性与鲁棒性。
2026-03-12 cs.LG
DTW-Merge: A Novel Data Augmentation Technique for Time Series Classification
Sharif University of Technology（谢里夫理工大学）
近年来，神经网络在各种应用中取得了巨大的成功。训练深度神经网络的主要挑战是缺乏足够的数据来提高模型的泛化能力和避免过拟合。其中一个解决方案是生成新的训练样本。提出了一种基于动态时间规整的时间序列数据增强方法。该方法的灵感来自于两个时间序列的扭曲部分具有相似的时间属性的概念，因此，在两个序列之间交换它们会生成一个新的训练样本。所提出的方法随机选择一个元素的最佳扭曲路径，然后交换对齐在一起的段。利用最近引入的ResNet来利用所提出的方法，揭示了2018年UCR时间序列分类存档的改进结果。通过采用加权类激活映射（Grad-CAM）和多维尺度（MDS），我们表明，我们的方法提取更多的判别特征的时间序列。
2021-08-21 cs.LG
NEUROLOGIC: From Neural Representations to Interpretable Logic Rules
NEUROLOGIC提出从深度神经网络任意层神经表征直接提取可解释逻辑规则的新框架，支持丰富逻辑结构与人类先验知识，在Transformer情感分析上验证了有效性与可扩展性。
2025-10-15 cs.LG
MobileNVC: Real-time 1080p Neural Video Compression on a Mobile Device
Qualcomm AI Research（高通人工智能研究院）
提出首个移动设备上实时解码1080p YUV420视频的神经编解码器，通过块运动补偿与整数量化及并行流水线，实现高达48%的BD-rate节省和10倍MAC减少。
2023-11-15 cs.CV cs.LG eess.IV
Neural logic programs and neural nets
Vienna University of Technology（维也纳工业大学）
该研究聚焦神经符号整合问题，定义布尔神经网络的回答集语义，从基本原理引入一类神经逻辑程序并证明二者等价，为神经符号融合提供理论支撑。
2024-06-13 cs.AI cs.LG cs.LO
Standard Neural Computation Alone Is Insufficient for Logical Intelligence
Inha University（仁荷大学）
本文指出标准神经计算缺乏逻辑推理所需的结构性保证，提出将可微逻辑运算嵌入神经架构的逻辑神经单元（LNUs），以实现AI从归纳学习向逻辑推理的范式转变。
2025-02-04 cs.AI cs.LG
Continuous Modal Logical Neural Networks: Modal Reasoning via Stochastic Accessibility
Lawrence Berkeley National Laboratory（伯克利劳伦斯国家实验室）
本文提出连续模态逻辑神经网络，通过随机可及性实现模态推理，结合逻辑公式指导神经网络生成符合逻辑属性的解决方案。
2026-03-04 cs.LG cs.LO
Learning Algorithms via Neural Logic Networks
Georgia Institute of Technology（佐治亚理工学院）
提出了一种基于布尔逻辑代数的深度神经网络（DNN）学习方法。我们首先介绍了布尔系统的基本可微算子，如合取、析取和异或，并展示了如何将这些初等算子以一种简单而有意义的方式组合起来形成神经逻辑网络（NLN）。我们研究了所提出的NLN框架在学习布尔函数和离散算法任务中的有效性。我们证明，与MLP方法中的隐式学习相比，所提出的神经逻辑网络可以显式地学习可以由人类验证和解释的逻辑函数。特别是，我们提出了一个新的框架，学习的归纳逻辑程序设计（ILP）的问题，利用显式表示的权力NLN。我们表明，建议的神经ILP求解器是能够的壮举，如谓词发明和递归，并可以优于目前最先进的神经ILP求解器使用各种基准任务，如十进制加法和乘法，排序有序列表。
2019-04-02 cs.AI cs.LG
Neural Markov Logic Networks
Department of Computer Science（计算机科学系）；KU Leuven（鲁汶大学）；Faculty of Electrical Engineering（电气工程学院）；Czech Technical University in Prague（捷克布拉格理工大学）
我们介绍神经马尔可夫逻辑网络（NMLNs），这是一个借鉴马尔可夫逻辑思想的统计关系学习系统。像马尔可夫逻辑网络（MLN）一样，NMLN是一种指数族模型，用于对可能世界上的分布进行建模，但与MLN不同的是，它们不依赖于显式指定的一阶逻辑规则。相反，NMLN学习这些规则的隐式表示，作为神经网络，它充当关系结构片段上的潜在函数。与许多神经符号方法类似，NMLN可以利用常数的嵌入，但与它们不同的是，NMLN在没有常数的情况下也能很好地工作。这对于在非传导性环境中进行预测是极其重要的。我们展示了NMLNs在知识库完成，三重分类和生成分子（图）数据方面的潜力。
2020-10-22 cs.LG stat.ML
Lecture Notes on Verifying Graph Neural Networks
ENS de Lyon（里昂高等师范学院）
本文回顾了图神经网络与多种逻辑的联系，提出了一种包含线性不等式中计数模态的模态逻辑以解决图神经网络验证任务，并给出了基于tableau方法扩展的可满足性算法。
2025-10-13 cs.LG cs.LO
Feature Extraction Functions for Neural Logic Rule Learning
Deakin University（迪肯大学）
将符号人类知识与神经网络相结合，提供了对输出的基于规则的事前解释。在本文中，我们提出的特征提取功能集成人类知识抽象为逻辑规则的预测行为的神经网络。这些功能被实现为编程功能，其将可应用的领域知识表示为一组逻辑指令，并且提供输入数据上的独立特征的修改的分布。与其他现有的神经逻辑方法不同，这些函数的编程性质意味着它们不需要任何特殊的数学编码，这使得我们的方法在本质上非常通用和灵活。我们说明了我们的情感分类方法的性能，并将我们的结果与使用两个基线获得的结果进行比较。
2021-04-11 cs.AI cs.LG
Interpretable Fault Diagnosis of Rolling Element Bearings with Temporal Logic Neural Network
Nanyang Technological University（南洋理工大学）；University of California, Davis（加州大学戴维斯分校）
基于机器学习的方法在机械故障诊断中已经取得了成功的应用。然而，这些方法存在的主要限制是它们作为黑盒操作，并且通常不可解释。本文提出了一种新的神经网络结构--时序逻辑神经网络（TLNN），网络的神经元是逻辑命题。更重要的是，网络可以被描述和解释为加权信号时序逻辑。TLNN不仅保持了传统神经元网络的优良特性，而且用形式语言对自身进行了形式化解释。实验结果表明，该神经网络能够获得高精度的故障诊断结果，具有良好的计算效率。此外，神经元网络内嵌的形式语言可以对决策过程提供解释，从而实现可解释的故障诊断。
2022-04-19 cs.AI cs.LG
Neural Logic Networks
Tsinghua University（清华大学）；Rutgers University（罗格斯大学）
近年来，深度神经网络在许多研究领域取得了巨大的成功。大多数神经网络设计背后的基本思想是从数据中学习相似模式进行预测和推理，缺乏逻辑推理能力。然而，逻辑推理的具体能力对许多理论和实践问题至关重要。在本文中，我们提出了神经逻辑网络（NLN），这是一个动态的神经架构，根据输入的逻辑表达式建立计算图。它学习基本的逻辑运算作为神经模块，并通过网络进行命题逻辑推理进行推理。模拟数据的实验表明，NLN在求解逻辑方程方面取得了显着的性能。对真实数据的进一步实验表明，NLN在协同过滤和个性化推荐任务方面显着优于最先进的模型。
2019-10-17 cs.AI cs.LG cs.NE
Neural Logic Machines
Tsinghua University（清华大学）；Google Inc.（谷歌公司）；ByteDance Inc.（字节跳动公司）
我们提出了神经逻辑机（NLM），一个神经符号架构的归纳学习和逻辑推理。NLM利用神经网络的能力--作为函数逼近器，和逻辑编程--作为具有属性、关系、逻辑连接词和量词的对象的符号处理器。在小规模任务（例如对短数组进行排序）上进行训练后，NLM可以恢复提升的规则，并推广到大规模任务（例如对长数组进行排序）。在我们的实验中，NLM在许多任务中实现了完美的泛化，从家庭树和一般图形的关系推理任务，到决策任务，包括排序数组，寻找最短路径，以及玩积木世界。这些任务中的大多数是很难单独用神经网络或归纳逻辑程序设计来完成的。
2019-04-26 cs.AI cs.LG stat.ML
Dynamic Time Warp Convolutional Networks
在处理时间序列的情况下，可以公平地假设，促使动态时间扭曲算法开发的相同类型的变形也可以在1-D卷积层中的点积（“卷积”）的计算中相关。在这项工作中，提出了一种方法，用于调整卷积滤波器和输入，其中它们是本地的相位利用类似于动态时间扭曲的算法。所提出的方法能够嵌入时间序列的非参数扭曲，以直接在深度网络中增加相似性，并且可以扩展标准1-D卷积层的泛化能力和容量，其中输入中存在局部顺序变形。实验结果表明，所提出的方法超过或匹配的标准1-D卷积层的最大精度达到了一些时间序列分类任务。此外，不同的超参数设置的影响进行了研究，给出了不同的数据集和结果支持以前的工作所做的DTW参数值的选择有关的结论。所提出的层可以与其他典型层自由集成，以组成使用标准随机梯度下降训练的任意架构的深度人工神经网络。
2019-11-05 cs.LG stat.ML
Efficient Probabilistic Logic Reasoning with Graph Neural Networks
Georgia Institute of Technology（佐治亚理工学院）；Siemens Corporate Technology（西门子企业技术部）；University of Illinois at Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）；Ant Financial（蚂蚁金服）
马尔可夫逻辑网络（MLN）巧妙地结合了逻辑规则和概率图模型，可以用来解决许多知识图谱问题。然而，MLN中的推理是计算密集型的，使得MLN的工业规模应用非常困难。近年来，图神经网络（GNNs）已经成为解决大规模图问题的有效工具。尽管如此，GNN并没有明确地将先验逻辑规则纳入模型中，并且可能需要许多标记的示例用于目标任务。在本文中，我们探索了MLN和GNN的结合，并使用图神经网络的变分推理MLN。我们提出了一个GNN变体，名为GNGNGNN，它在表示能力和模型的简单性之间取得了很好的平衡。我们在几个基准数据集上的大量实验表明，BEGGNN导致有效和高效的概率逻辑推理。
2020-02-04 cs.AI cs.LG
Evaluating Relaxations of Logic for Neural Networks: A Comprehensive Study
University of Utah（犹他大学）
符号知识可以为训练神经模型提供关键的归纳偏差，特别是在低数据状态下。一个成功的策略，将这些知识包括放松逻辑语句到次微分损失的优化。在本文中，我们研究的问题，如何最好地放松逻辑表达式，代表标记的例子和知识的问题，我们专注于次可微的t-范数松弛的逻辑。我们提出的理论和经验标准，表征放松将在各种情况下表现最好。在我们的理论研究的目标，保持重言式，Lukasiewicz t-范数表现最好。然而，在我们对文本组块和数字识别任务的实证分析中，乘积t范数具有最佳的预测性能。我们分析了这种明显的差异，并总结了一系列通过逻辑定义损失函数的最佳实践。
2021-07-28 cs.AI cs.LG
Neural Guided Constraint Logic Programming for Program Synthesis
University of Toronto（多伦多大学）；Vector Institute（向量研究所）；University of Alabama at Birmingham（阿拉巴马大学伯明翰分校）；Uber ATG（优步先进技术集团）
使用示例输入/输出来综合程序是人工智能中的经典问题。我们提出了一种方法来解决编程的例子（PBE）的问题，通过使用神经模型来指导搜索的约束逻辑编程系统称为miniKanren。至关重要的是，神经模型使用miniKanren的内部表示作为输入; miniKanren将PBE问题表示为由所提供的示例施加的递归约束。我们探讨了递归神经网络和图神经网络模型。我们提供了一个修改后的miniKanren，可由外部代理驱动，可在https://github.com/xuexue/neuralkanren上获得。我们表明，我们的神经引导的方法，使用约束可以合成程序更快地在许多情况下，重要的是，可以推广到更大的问题。
2018-10-26 cs.LG stat.ML
Logical Distillation of Graph Neural Networks
TU Wien（维也纳工业大学）
提出基于C2逻辑扩展的决策树模型，从GNN中蒸馏可解释分类器，在多种架构上达到相近准确率，且在C2可表达的真实标签下优于GNN。
2024-08-21 cs.AI cs.LG
Neural Logic Rule Layers
South Westfalia University of Applied Science（西南威斯特伐利亚应用科学大学）
尽管近年来取得了巨大的成功，但深度神经网络（DNN）主要是黑箱，通过网络运行获得的结果难以理解和解释。与例如决策树或贝叶斯分类器相比，DNN具有较差的可解释性，其中我们通过可解释性来理解，即人类可以容易地导出由网络建模的关系。为人类提供可解释性的一种合理方式是逻辑规则。在本文中，我们提出了神经逻辑规则层（NLRL），它能够表示任意逻辑规则的合取和析取范式。在一层中使用不同的NLRL，并相应地堆叠不同的层，我们能够表示任意复杂的规则所产生的神经网络架构。NLRL是端到端可训练的，允许直接从可用数据集学习逻辑规则。实验表明，NLRL增强的神经网络可以学习建模任意复杂的逻辑和执行算术运算的输入值。
2019-07-01 cs.AI cs.LG stat.ML
Artificial neural networks and fuzzy logic for recognizing alphabet characters and mathematical symbols
Politecnico di Torino（都灵理工大学）；University of Turin（都灵大学）；Istituto Superiore Mario Boella（马里奥·博埃拉高等研究院）
光学字符识别软件（OCR）是获取无障碍文本的重要工具。我们建议使用人工神经网络（ANN），以开发模式识别算法能够识别正常的文本和公式。我们提出了一个原始的反向传播算法的改进。此外，我们描述了一种新的图像分割算法，利用模糊逻辑分离触摸字符。
2016-07-06 cs.LG cs.NE
Neural Network for Weighted Signal Temporal Logic
在本文中，我们提出了一个神经符号框架称为加权信号时序逻辑神经网络（wSTL-NN），结合了神经网络和时序逻辑的特点。加权信号时态逻辑（wSTL）公式是由使用逻辑和时态运算符组合的子公式递归组成的。定义了wSTL的定量语义，使得具有较高权重的子公式的定量满意度对整个wSTL公式的定量满意度具有更大的影响。在wSTL-NN中，每个神经元对应于wSTL子公式，其输出对应于公式的定量满足。我们使用wSTL-NN来表示wSTL公式作为特征来分类时间序列数据。STL特征比经典方法中使用的特征更易于解释。wSTL-NN是端到端可微的，这允许使用反向传播来学习wSTL公式。为了减少权重的数量，我们引入了两种技术来稀疏化wSTL-NN。我们将我们的框架应用于占用检测时间序列数据集，以学习预测办公室占用状态的分类器。
2021-04-08 cs.LG cs.NE
Making Logic Learnable With Neural Networks
RWTH Aachen University（亚琛工业大学）；Yale University（耶鲁大学）；Glasgow Royal Infirmary（格拉斯哥皇家医院）
虽然神经网络擅长从训练样本中学习未指定的函数，但它们不能直接在硬件中实现，并且通常不可解释或形式上可验证。另一方面，逻辑电路是可实现的、可验证的和可解释的，但不能以可推广的方式从训练数据中学习。我们提出了一种新的逻辑学习流水线，结合了神经网络和逻辑电路的优点。我们的流水线首先在分类任务上训练一个神经网络，然后将其首先转换为随机森林，然后转换为AND-Inverter逻辑。我们表明，我们的流水线保持更高的准确性比天真的翻译逻辑，并尽量减少逻辑，使其更可解释，并降低了硬件成本。我们在一个基于生物医学数据训练的网络上展示了我们的管道的实用性。这种方法可以应用于患者护理，提供风险分层和指导临床决策。
2020-06-07 cs.AI cs.LG stat.ML
A Logical Neural Network Structure With More Direct Mapping From Logical Relations
Taiyuan University of Technology（太原理工大学）
逻辑关系广泛存在于人类活动中。人类利用它们根据各种条件进行判断和决策，这些条件以\emph{if-then}规则的形式体现出来。作为一种重要的认知智能，它是将逻辑关系正确地表示和存储到计算机系统中，以便进行自动判断和决策的前提，尤其是对于医疗诊断这样的高危领域。然而，目前的数值型人工神经网络（Artificial神经网络，ANN）模型只擅长图像识别等感知智能，而不擅长逻辑表示等认知智能，这阻碍了ANN的进一步应用。虽然在这一研究领域取得了一些进展，但最近的工作仍然存在缺点，因为这些逻辑ANN模型的结构仍然没有更直接地映射到逻辑关系，这将导致无法从其网络结构中读取相应的逻辑关系。因此，为了更好地用神经网络结构来表示逻辑关系，并从其中读出逻辑关系，本文提出了一种新的逻辑ANN模型，根据逻辑表示的要求设计了新的逻辑神经元和逻辑连接。与近年来的逻辑神经网络模型相比，该逻辑神经网络模型采用更直接的映射方法，与逻辑关系的对应更加清晰，可以根据网络结构的连接模式读出逻辑关系。此外，使用更少的神经元。
2021-06-22 cs.AI cs.LG cs.NE
Digital Metabolism: Decoupling Logic from Facts via Regenerative Unlearning -- Towards a Pure Neural Logic Core
本文提出'数字代谢'假说，通过再生反学习解耦逻辑与事实，实现纯神经逻辑核心，提升模型推理能力并减少幻觉。
2026-01-15 cs.AI cs.LG
The Logic of Graph Neural Networks
RWTH Aachen University（亚琛工业大学）
图神经网络（GNN）是用于图上的机器学习问题的深度学习架构。最近已经表明，GNN的表达能力可以通过组合Weisfeiler-Leman算法和有限变量计数逻辑来精确表征。这种对应关系甚至导致了新的高阶GNN，对应于更高维度的WL算法。本文的目的是解释GNN的这些描述性特征。
2022-01-09 cs.AI cs.LG cs.LO
Can recursive neural tensor networks learn logical reasoning?
Stanford University（斯坦福大学）
递归神经网络模型及其伴随的单词向量表示在一系列语义日益复杂的任务中取得了成功，但几乎没有人知道它们准确捕捉解释或推理所需的语言意义方面的能力。为了评估这一点，我训练了一个递归模型，在一个新的语料库上构建了短句逻辑推理的例子，比如从"一些狗走路"或"一些猫走路"推断"一些动物走路"，假设狗和猫是动物。该模型学习的表示，以及推广到新类型的推理模式，在所有，但少数情况下，结果是有希望的学习表示模型捕捉逻辑推理的能力。
2014-02-15 cs.CL cs.LG
Extracting Formulae in Many-Valued Logic from Deep Neural Networks
ETH Zurich（苏黎世联邦理工学院）；Lagrange Mathematics and Computing Research Center（拉格朗日数学与计算研究中心）
本文将深度ReLU网络视为Łukasiewicz多值逻辑的电路对应物，提出一种适用于实值权重的MV逻辑公式提取算法，从而可从训练后的深度网络中获取可解释的逻辑公式。
2025-03-06 cs.AI cs.LG cs.LO
Slice and Explain: Logic-Based Explanations for Neural Networks through Domain Slicing
Instituto Federal do Ceará (IFCE)（巴西塞阿拉联邦大学）
本文通过领域切片方法提高神经网络解释的效率和可扩展性，提供基于逻辑的解释生成方案。
2026-02-25 cs.LG cs.LO
Harnessing Deep Neural Networks with Logic Rules
School of Computer Science, Carnegie Mellon University（卡内基梅隆大学计算机科学学院）
将深度神经网络与结构化逻辑规则相结合是期望的，以利用灵活性并减少神经模型的不可解释性。我们提出了一个能够增强各种类型的神经网络（例如，CNN和RNN）与声明性一阶逻辑规则。具体来说，我们开发了一种迭代蒸馏方法，将逻辑规则的结构化信息转换为神经网络的权重。我们将框架部署在用于情感分析的CNN和用于命名实体识别的RNN上。通过一些高度直观的规则，我们获得了实质性的改进，并实现了最先进的或与以前性能最好的系统相当的结果。
2020-08-08 cs.AI cs.CL cs.LG
Bound Propagation meets Constraint Simplification: Improving Logic-based XAI for Neural Networks
Department of Computer Science, Instituto Federal do Ceará (IFCE)（计算机科学系，巴西塞阿拉联邦大学（IFCE））
本文通过结合边界传播与约束简化，显著提升了基于逻辑的神经网络可解释性方法的效率，减少了高达89.26%的解释时间。
2026-03-02 cs.LG cs.LO
Neuro-Symbolic Inductive Logic Programming with Logical Neural Networks
IBM Research（IBM研究院）
神经符号归纳逻辑程序设计的最新工作已经导致了有前途的方法，可以从嘈杂的，真实世界的数据中学习解释规则。虽然一些建议近似的逻辑运算符与可微运算符从模糊或实值逻辑是无参数的，从而减少了他们的能力，以适应数据，其他方法只是松散的逻辑，使其难以解释学习的“规则”。在本文中，我们提出了学习规则与最近提出的逻辑神经网络（LNN）。与其他神经网络相比，LNN提供了与经典布尔逻辑的强连接，从而允许精确解释学习的规则，同时包含可以使用基于梯度的优化来训练的参数，以有效地拟合数据。我们将LNN扩展到一阶逻辑中的归纳规则。我们对标准基准测试任务的实验证实，LNN规则具有高度的可解释性，并且由于其灵活的参数化，可以达到相当或更高的精度。
2021-12-06 cs.AI cs.LG cs.LO
Recursive Neural Networks Can Learn Logical Semantics
Stanford（斯坦福大学）
用于句子意义的树结构递归神经网络（TreeRNNs）在许多应用中都取得了成功，但它们学习的固定长度表示是否能够支持像逻辑推理这样要求苛刻的任务仍然是一个悬而未决的问题。我们通过评估两个这样的模型--普通TreeRNN和树结构神经张量网络（TreeRNTNs）--是否可以正确地学习识别逻辑关系，如使用这些表示的蕴涵和矛盾。在我们的第一组实验中，我们从逻辑语法中生成人工数据，并使用它来评估模型学习处理基本关系推理、递归结构和量化的能力。然后，我们在更自然的SICK挑战数据上评估模型。这两个模型在SICK数据上表现出竞争力，并且在模拟数据的所有三个实验中都具有很好的泛化能力，这表明它们可以学习自然语言中逻辑推理的合适表示。
2015-05-14 cs.CL cs.LG cs.NE
Injecting Logical Constraints into Neural Networks via Straight-Through Estimators
Arizona State University（亚利桑那州立大学）；Samsung Research, Samsung Electronics Co.（三星电子株式会社三星研究院）
本文提出利用直通估计器将离散逻辑约束表示为损失函数并注入神经网络训练，在GPU和批训练下显著提升可扩展性，适用于MLP、CNN和GNN，可减少对标注数据的依赖。
2023-07-10 cs.AI cs.LG cs.NE
Neural Logic Analogy Learning
Rutgers University（罗格斯大学）
字母串类比是一个重要的类比学习任务，对人类来说似乎很容易，但对机器来说却很有挑战性。当前解决字母串类比问题的主要思想是设计启发式规则来提取类比结构和构造类比映射。然而，一个关键的问题是，很难建立一个全面和详尽的类比结构，可以充分描述类比的微妙之处。这个问题使得目前的方法无法处理复杂的字母串类比问题。在本文中，我们提出了神经逻辑类比学习（Noan），这是一个动态的神经结构驱动的可微逻辑推理来解决类比问题。每个类比问题都被转换成由逻辑变量和基本逻辑运算（AND，OR和NOT）组成的逻辑表达式。更具体地说，Noan将逻辑变量学习为向量嵌入，并将每个逻辑运算学习为神经模块。该模型将神经网络与逻辑推理相结合，构建计算图，捕捉输入字符串的内部逻辑结构。然后，类比学习问题变成逻辑表达式的真/假评估问题。实验表明，我们基于机器学习的Noan方法在标准字母串类比基准数据集上的性能优于最先进的方法。
2022-04-08 cs.AI cs.CL cs.IR
A Logic-Driven Framework for Consistency of Neural Models
University of Utah（犹他大学）
虽然神经模型在个体预测上显示出惊人的准确性，但它们的内部信念在不同的例子中可能不一致。在本文中，我们形式化这种不一致的预测误差的推广。我们提出了一个学习框架，用于使用逻辑规则来约束模型，以使其远离不一致。我们的框架可以利用标记和未标记的例子，并直接与现成的学习计划，而无需模型重新设计兼容。我们在自然语言推理上实例化了我们的框架，实验表明，执行逻辑中规定的不变量可以帮助神经模型的预测准确和一致。
2019-09-13 cs.AI cs.CL cs.LG
Logical Neural Networks
IBM Research（IBM研究院）
我们提出了一个新的框架，无缝地提供神经网络（学习）和符号逻辑（知识和推理）的关键属性。在加权实值逻辑中，每个神经元都有一个公式的组成部分，产生一个高度可解释的解纠缠表示。推理是全方位的，而不是集中在预定义的目标变量，并对应于逻辑推理，包括经典的一阶逻辑定理证明作为一个特例。该模型是端到端可微的，学习最小化了一个新的损失函数，捕获逻辑矛盾，产生弹性不一致的知识。它还通过维护真值的边界来实现开放世界假设，这些真值可以具有概率语义，从而对不完整的知识产生弹性。
2020-06-23 cs.AI cs.LG cs.LO
Can Graph Neural Networks Help Logic Reasoning?
Georgia Tech（佐治亚理工学院）；Siemens（西门子）；UIUC（伊利诺伊大学厄巴纳-香槟分校）；Ant Financial（蚂蚁金服）
有效地结合逻辑推理和概率推理一直是机器学习的长期目标：前者具有利用小训练数据进行概括的能力，而后者提供了处理噪声数据的原则框架。然而，现有的方法结合两个世界的最佳典型的计算密集型。在本文中，我们专注于马尔可夫逻辑网络，并探讨使用图神经网络（GNNs）表示概率逻辑推理。从我们的分析中可以看出，GNN的表示能力不足以完成这样的任务。相反，我们提出了一个更具表达力的变体，称为MAGNN，它可以执行有效的概率逻辑推理，同时能够扩展到大量的实体。我们通过几个基准数据集证明了BEGGNN具有将概率逻辑推理推进到下一阶段的潜力。
2019-09-20 cs.LG cs.LO stat.ML
