Inductive logic programming at 30: a new introduction
University of Oxford(牛津大学);TU Delft(代尔夫特理工大学)
归纳逻辑程序设计(ILP)是机器学习的一种形式。ILP的目标是归纳出一个假设(一组逻辑规则)来概括训练样本。随着ILP的30岁生日,我们为该领域提供了一个新的介绍。我们介绍了必要的逻辑符号和主要的学习设置;描述了ILP系统的构建模块;比较了几个系统的几个维度;描述了四个系统(Aleph,TILDE,ASPAL和Metagol);突出重点应用领域;最后,总结了当前的限制和未来研究的方向。
2022-03-22 cs.AI cs.LG
Formal Verification of Piece-Wise Linear Feed-Forward Neural Networks
University of Bremen(不来梅大学);DFKI GmbH(德国人工智能研究中心)
提出了一种验证前馈神经网络的方法,其中所有节点具有分段线性激活函数。这种网络通常用于深度学习,并且已被证明很难验证现代可满足性模理论(SMT)和整数线性规划(ILP)求解器。我们的方法的出发点是将整体网络行为的全局线性近似添加到验证问题中,这有助于对网络行为进行类似SMT的推理。我们提出了一个专门的验证算法,采用这种近似在搜索过程中,它推断出额外的节点相位的非线性节点在网络中的部分节点相位分配,类似于经典的SAT求解中的单位传播。我们还展示了如何从搜索过程中执行的分析步骤的结果中推断出额外的冲突条款和安全节点夹具。碰撞避免和手写数字识别的案例研究所产生的方法进行评估。
2017-08-02 cs.AI cs.LG cs.LO
Inductive logic programming at 30
University of Oxford(牛津大学);KU Leuven(鲁汶大学);Imperial College London(伦敦帝国理工学院)
归纳逻辑程序设计(ILP)是一种基于逻辑的机器学习。目标是归纳出一个假设(一个逻辑程序),概括给定的训练样本。在ILP 30岁之际,我们回顾了过去十年的研究。我们专注于(i)新的元级搜索方法,(ii)学习递归程序的技术,(iii)谓词发明的新方法,以及(iv)使用不同的技术。最后,我们讨论了目前的ILP的局限性和未来的研究方向。
2021-09-22 cs.AI cs.LG
Preprocessing in Inductive Logic Programming
Linacre College University of Oxford(牛津大学李纳克尔学院)
归纳逻辑程序设计是一种机器学习,其中逻辑程序从示例中学习。这种学习通常相对于作为逻辑程序提供的某些背景知识发生。本文介绍了底层预处理,一种在ILP系统必须考虑的程序上生成初始约束的方法。底层预处理将逆蕴涵的思想应用于现代ILP系统。逆蕴涵是Progol引入的一种有影响力的早期ILP方法。本文还提出了$\bot$ -Popper,它是现代ILP系统Popper的底层预处理的一个实现.实验表明,底层预处理可以减少ILP系统在困难问题上的学习时间。当问题中的背景知识量很大时,这种减少可能特别显著。
2021-12-21 cs.AI cs.LG cs.LO
Stable Marriage Problems with Ties and Incomplete Preferences: An Empirical Comparison of ASP, SAT, ILP, CP, and Local Search Methods
Sabanci University(萨班哲大学)
本文研究带平局和不完全偏好的稳定婚姻问题(SMTI)的三种优化变体,实证比较ASP、CP、ILP及局部搜索等求解方法,并针对SMTI实例比较ASP与SAT的性能。
2026-09-23 cs.AI
Towards Probabilistic Inductive Logic Programming with Neurosymbolic Inference and Relaxation
TNO(荷兰应用科学研究组织)
针对传统ILP无法处理概率背景知识的问题,提出Propper框架,结合神经符号推理、连续假设选择标准(BCE)和约束松弛(NoisyCombo),能从极少示例中学习并优于现有模型。
2024-09-20 cs.AI cs.LG
Parallel Constraint-Driven Inductive Logic Programming
University of Oxford(牛津大学);University of Cambridge(剑桥大学)
多核机器无处不在。然而,大多数归纳逻辑程序设计(ILP)方法仅使用单个核,这严重限制了它们的可扩展性。为了解决这个问题,我们引入了基于约束驱动的ILP并行技术,其目标是积累约束来限制假设空间。我们在两个领域(程序合成和归纳一般的游戏)的实验表明,(一)并行化可以大大减少学习时间,和(ii)工人的沟通(即共享约束)是很重要的良好的性能。
2021-09-15 cs.AI cs.LG
The ILASP system for Inductive Learning of Answer Set Programs
ILASP Limited(ILASP有限公司);Imperial College London(帝国理工学院)
归纳逻辑程序设计(ILP)的目标是学习一个程序,该程序在一些预先存在的背景知识的上下文中解释一组示例。直到最近,大多数关于ILP的研究都是针对学习Prolog程序的。我们自己的ILASP系统学习答案集程序,包括正常规则,选择规则和硬约束和弱约束。学习这种表达程序大大拓宽了ILP的适用性;例如,使偏好学习,学习常识知识,包括默认和异常,以及学习非确定性理论。在本文中,我们首先给ILASP的学习框架和它的能力的一般概述。其次是ILASP系统的演变的全面总结,提出了每个版本的优点和缺点,特别强调可扩展性。
2020-05-02 cs.AI cs.LG
An Open Challenge for Inductive Link Prediction on Knowledge Graphs
Mila(米拉研究所);McGill University(麦吉尔大学);LMU Munich(慕尼黑大学);Harvard Medical School(哈佛医学院)
在知识图谱(KG)上的表示学习中的新兴趋势超越了在固定的已知实体集合上的转导链接预测任务,而倾向于归纳任务,该归纳任务意味着在一个图上进行训练并在具有未知实体的新图上执行推理。在归纳设置中,节点特征通常不可用,并且训练浅实体嵌入矩阵是没有意义的,因为它们不能在推理时与看不见的实体一起使用。尽管人们对归纳表示学习方法的兴趣越来越大,但还没有足够的基准来评估归纳学习方法。在这项工作中,我们介绍了ILPC 2022,KG归纳链接预测的一个新的开放的挑战。为此,我们基于Wikidata构建了两个新的数据集,其中包含各种大小的训练和推理图,比现有的归纳基准大得多。我们还提供了两个强大的基线,利用最近提出的归纳方法。我们希望这个挑战有助于简化社区在归纳图表示学习领域的工作。ILPC 2022遵循评估公平性和可重复性的最佳实践,可在https://github.com/pykeen/ilpc2022上获得。
2022-04-18 cs.AI cs.LG
Inductive Logic Boosting
Nanjing University(南京大学)
近年来,人们对概率逻辑编程(PLP)和统计关系学习(SRL)模型的兴趣激增,这些模型将逻辑与概率相结合。这些系统的结构学习是归纳逻辑程序设计(ILP)和统计学习(SL)的交叉领域。然而,ILP不能处理概率,SL不能建模关系假设。集成这两个机器学习框架的最大挑战是如何仅从对接地逻辑原子的观察来估计逻辑子句的概率。现有的联合概率建模方法将子句表示为图模型,文字表示为图模型中的顶点,这种模型仍然过于复杂,只能用伪似然来近似。我们提出了归纳逻辑提升框架,将关系数据集转换为基于特征的数据集,通过提升Problog规则树来归纳逻辑规则,放松伪似然的独立性约束。在基准数据集上的实验结果表明,ILP学习规则的AUC-PR和AUC-ROC值高于当前最先进的SRL方法。
2014-02-25 cs.AI cs.LG
Turning 30: New Ideas in Inductive Logic Programming
University of Oxford(牛津大学);KU Leuven(鲁汶大学);Imperial College London(帝国理工学院)
对最先进的机器学习的常见批评包括泛化能力差、缺乏可解释性以及需要大量训练数据。我们调查最近的工作在归纳逻辑程序设计(ILP),一种形式的机器学习,诱导逻辑程序从数据,这表明在解决这些限制的承诺。我们专注于学习递归程序,概括从几个例子,从手工制作的背景知识,\emph{learning}背景知识的转变,并使用不同的技术,特别是答案集编程和神经网络的新方法。随着ILP接近30,我们还讨论了未来的研究方向。
2020-04-22 cs.AI cs.LG
Incremental Learning of Event Definitions with Inductive Logic Programming
National Center for Scientific Research “Demokritos”(“德谟克利特”国家科学研究中心);National University of Athens(雅典国立大学);University of Piraeus(比雷埃夫斯大学)
事件识别系统依赖于事件定义的适当设计的知识库来及时推断事件的发生。这种知识的手动开发是一项繁琐且容易出错的任务,因此基于事件的应用程序可以受益于自动化知识构建技术,例如归纳逻辑程序设计(ILP),其将机器学习与一阶逻辑的声明性和形式语义相结合。然而,学习时态逻辑形式主义,这通常是利用基于逻辑的事件识别系统是一个具有挑战性的任务,大多数ILP系统不能完全承担。此外,基于事件的数据通常是大量的,并且是在不同的时间和不同的情况下收集的。理想情况下,从时态数据中学习的系统应该能够以增量模式运行,也就是说,在面对新证据时修改先前构建的知识。大多数ILP系统都是批量学习者,在这个意义上,为了解释新的证据,他们别无选择,只能忘记过去的知识,从头开始学习。考虑到ILP固有的复杂性增加和现实生活中的时态数据量,这导致算法的可扩展性差。在这项工作中,我们提出了一个增量的方法,学习和修改基于事件的知识,在事件演算程序的形式。所提出的算法依赖于溯因-归纳学习,并包括一个可扩展的条款细化方法,基于压缩总结的条款覆盖的例子流。我们提出了一个实证评估我们的方法对真实的和合成数据从活动识别和城市交通应用。
2014-11-22 cs.AI cs.LG
Inductive Logic Programming via Differentiable Deep Neural Logic Networks
Georgia Institute of Technology(佐治亚理工学院)
提出了一种新的范式,通过深度递归神经网络解决归纳逻辑程序设计(ILP)问题。这个建议的ILP求解器的设计基础上,通过正向链接的演绎微分实现。与以往的大多数方法不同,本文通过引入一种新的可微神经逻辑(dNL)网络,直接学习符号逻辑谓词规则,而不是使用一些限制性规则模板搜索可能的一阶逻辑规则空间。所提出的dNL网络能够以显式的方式有效地学习和表示布尔函数。我们表明,建议的dNL-ILP求解器支持理想的功能,如递归和谓词发明。此外,我们研究了所提出的ILP求解器在涉及基准关系数据集的分类任务中的性能。特别是,我们表明,我们提出的方法在Mutagenesis,Cora和IMDB数据集的分类任务中优于最先进的ILP求解器。
2019-06-08 cs.AI cs.LO
ANDRE: An Attention-based Neuro-symbolic Differentiable Rule Extractor for Inductive Logic Programming
Dept. of Mechanical and Aerospace Engineering, George Washington University, USA(机械与航空航天工程系,乔治华盛顿大学);Dept. of Mechanical Engineering Sciences, University of Surrey, UK(机械工程科学系,萨里大学)
提出ANDRE框架,通过注意力驱动的可微逻辑算子优化连续规则空间,实现从概率数据中学习一阶逻辑规则,在噪声环境下保持鲁棒性和可解释性。
2026-05-31 cs.AI cs.LG cs.LO
Temporal Inductive Logic Reasoning over Hypergraphs
Georgia Institute of Technology(佐治亚理工学院);Cisco(思科公司)
本文提出时序归纳逻辑推理方法TILR,通过多起点随机B游走和路径一致性算法在时序超图上学习逻辑规则,并发布两个新基准数据集,实验证明其推理能力优于多种强基线。
2024-05-05 cs.AI cs.LG cs.LO
Conflict-driven Inductive Logic Programming
ILASP Limited(ILASP有限公司)
归纳逻辑程序设计(ILP)的目标是学习一个解释一组示例的程序。直到最近,大多数关于ILP的研究都是针对学习Prolog程序的。ILASP系统学习答案集程序(ASP)。学习这种表达程序大大拓宽了ILP的适用性;例如,使偏好学习,学习常识知识,包括默认和异常,以及学习非确定性理论。ILASP的早期版本可以被认为是元级ILP方法,它将学习任务编码为逻辑程序,并将搜索委托给ASP求解器。最近,ILASP已经转向一种新的方法,受到冲突驱动的SAT和ASP求解器的启发。该方法的基本思想,称为迭代驱动的ILP(CDILP),是迭代交错搜索的假设与生成的约束,解释为什么当前的假设不包括一个特定的例子。这些覆盖范围限制允许ILASP不仅排除当前假设,而且排除不满足覆盖范围限制的整个假设类别。本文形式化的CDILP方法,并提出了ILASP 3和ILASP 4系统的CDILP,这被证明是更可扩展的比以前的ILASP系统,特别是在存在噪声。逻辑程序设计理论与实践(TPLP)
2022-01-14 cs.AI
Learn to Explain Efficiently via Neural Logic Inductive Learning
Georgia Institute of Technology(佐治亚理工学院)
做出可解释和自我解释的决策的能力对于开发负责任的机器学习系统至关重要。本文在归纳逻辑程序设计(ILP)的范围内研究了解释问题的学习。我们提出了神经逻辑归纳学习(NLIL),一个有效的可微ILP框架,学习一阶逻辑规则,可以解释数据中的模式。在实验中,与最先进的方法相比,我们发现NLIL可以搜索x10倍长的规则,同时保持x3倍的速度。我们还表明,NLIL可以扩展到大型图像数据集,即视觉基因组,1M实体。
2020-02-18 cs.AI
Symbolic AI for XAI: Evaluating LFIT Inductive Programming for Fair and Explainable Automatic Recruitment
Universidad Autonoma de Madrid(马德里自治大学);Laboratoire des Sciences du Numérique de Nantes(南特数字科学实验室);National Institute of Informatics(国立信息学研究所)
机器学习方法与法医学、电子健康、招聘和电子学习等领域的生物识别和个人信息处理的相关性越来越大。在这些领域,对基于机器学习方法构建的系统的白盒(人类可读)解释可能变得至关重要。归纳逻辑程序设计(ILP)是符号人工智能的一个子领域,旨在自动学习关于数据处理的声明性理论。从解释转换中学习(LFIT)是一种ILP技术,可以学习与给定黑盒系统等价的命题逻辑理论(在某些条件下)。目前的工作迈出了第一步,通过检查LFIT在特定AI应用场景中的可行性,将准确的声明性解释纳入经典机器学习的一般方法:基于机器学习方法生成的自动工具的公平招聘,用于对包含软生物特征信息(性别和种族)的简历进行排名。我们展示了LFIT对这个特定问题的表现力,并提出了一个可适用于其他领域的方案。
2020-12-01 cs.AI cs.LG
Differentiable Inductive Logic Programming in High-Dimensional Space
Czech Academy of Sciences Institute of Computer Science(捷克科学院计算机科学研究所);University of Innsbruck(因斯布鲁克大学);University of Melbourne(墨尔本大学)
本文扩展 δILP,利用高维梯度下降实现大规模谓词发明,使可微归纳逻辑程序设计能在不预设解结构的情况下解决现有神经符号 ILP 系统无法完成的任务。
2025-01-08 cs.AI cs.LO
Improving the Efficiency of Inductive Logic Programming Through the Use of Query Packs
Katholieke Universiteit Leuven(天主教鲁汶大学);PharmaDM(法玛迪姆公司)
归纳逻辑程序设计或关系学习是机器学习或数据采掘的强大范例。然而,为了使ILP变得实际有用,ILP系统的效率必须大幅提高。为此,引入了查询包的概念:它构建了类似查询的集合。此外,描述了用于执行这样的查询包的机制。复杂性分析表明,相当大的效率提高,可以通过使用这种查询包执行机制。这一主张是支持的实证结果,通过将支持查询包执行两个现有的学习系统。
2011-06-09 cs.AI
Improving Scalability of Inductive Logic Programming via Pruning and Best-Effort Optimisation
Sabanci University(萨班哲大学);Marmara University(马尔马拉大学)
归纳逻辑程序设计(ILP)通过学习包括给定搜索空间的背景知识和约束的一组规则的假设来组合基于规则的和统计的人工智能方法。我们专注于扩展的XHAIL算法的ILP,这是基于答案集编程,我们评估我们的扩展使用自然语言处理应用程序的句子组块。在处理自然语言方面,ILP可以满足我们日常使用语言方式的不断变化。同时,ILP不需要大量的训练样本,如其他统计方法,并产生可解释的结果,这意味着一组规则,可以分析和调整,如果必要的。作为贡献,我们扩展了XHAIL(i)假设泛化算法中的修剪机制,可以从更大的数据集学习,(ii)使用最近开发的优化方法更好地使用现代求解器技术,以及(iii)允许使用次优结果的时间预算。我们使用最近SemEval比赛的三个数据集来评估这些改进。结果表明,我们的改进允许在更大的数据集上学习,其结果与相同任务的最先进系统具有相似的质量。此外,我们比较了在数据集上获得的假设,以了解每个数据集的结构。
2017-06-16 cs.AI
Learning Onto-Relational Rules with Inductive Logic Programming
规则补充和扩展了语义Web上的本体。我们将这些规则称为本体关系,因为它们结合了基于DL的本体语言和支持逻辑编程和演绎数据库传统内的关系数据模型的知识表示形式。规则编写是一项要求非常高的知识工程任务,可以通过应用机器学习算法来部分自动化。在这一章中,我们将展示归纳逻辑程序设计(ILP),诞生于机器学习和逻辑程序设计的交叉点,并被认为是关系学习的主要方法,可以适应本体关系学习。为了说明,我们提供了一个具体的本体关系学习解决方案的问题,学习基于规则的定义DL概念和角色与ILP的细节。
2012-10-29 cs.AI cs.DB cs.LG
Post-Proceedings of the First International Workshop on Learning and Nonmonotonic Reasoning
知识表示与推理和机器学习是人工智能的两个重要领域。非单调逻辑程序设计(NMLP)和回答集程序设计(ASP)为常识知识的表示和推理提供了形式语言,实现了人工智能中的声明式问题求解。另一方面,归纳逻辑程序设计(ILP)在逻辑程序设计中实现了机器学习,为归纳学习提供了形式化的背景,并将其应用于关系学习和数据采掘等领域。一般来说,NMLP和ASP实现了非单调推理,但缺乏学习能力。相反,ILP实现了归纳学习,而大多数技术都是在经典单调逻辑下发展起来的。在这种背景下,一些研究者试图将各种技术结合到非单调ILP中。这样的组合将引入一个学习机制的程序,并将利用新的应用程序的NMLP侧,而在ILP侧,它将扩展的表示语言,使我们能够使用现有的求解器。学习和非单调推理之间的交叉也可以发生在诸如使用答案集求解器用于ILP、在运行答案集求解器时加速学习、学习动作理论、学习动力系统中的转换规则、溯因学习、学习具有抑制的生物网络以及涉及默认和否定的应用中。该研讨会是首次尝试提供一个公开论坛,以确定问题和讨论具有互补专长的研究人员之间可能的合作。该研讨会于2013年9月15日在西班牙Corunna举行。这篇论文集包含五篇技术论文(六篇被接受的论文中的五篇)和Luc De Raedt邀请演讲的摘要。
2013-11-19 cs.AI cs.LG cs.LO
Inductive Learning for Possibilistic Logic Programs Under Stable Models
Multi-dimensional data perception and intelligent recognition Chongqing Engineering Research Center, Chongqing University of Arts and Sciences, Chongqing, 402160, China(重庆艺术科技大学智能识别多维数据感知工程研究中心);College of Computer Science and Technology, Guizhou University, Guiyang, 550025, China(贵州大学计算机科学与技术学院);State Key Laboratory of Public Big Data(公共大数据国家重点实验室);Key Laboratory of Advanced Medical Imaging(先进医学影像重点实验室);Institute for Artificial Intelligence, Guizhou University, Guiyang, 550025, China(贵州大学人工智能研究所);School of Information and Communication Technology, Griffith University, QLD 4111, Australia(格里菲斯大学信息与通信技术学院)
本文提出了一种基于稳定模型的可能逻辑程序归纳学习方法,通过定义归纳任务并设计算法,实现了从背景程序和示例中提取可能逻辑程序的功能。
2025-10-08 cs.AI
Predicate Invention by Learning From Failures
University of Oxford(牛津大学)
发现新的高级概念是人类AI所需的最重要步骤之一。在归纳逻辑程序设计(ILP)中,发现新的高级概念被称为谓词发明(PI)。虽然被视为至关重要的成立以来的ILP,PI是出了名的困难,大多数ILP系统不支持it.In本文中,我们介绍POPPI,一个ILP系统,制定PI问题作为一个答案集编程问题。我们的实验表明,(i)PI可以大大提高学习性能时,有用的,(ii)PI是不是太昂贵时,不必要的,和(iii)POPPI可以大大优于现有的ILP系统。
2021-04-29 cs.AI
Inductive Logic Programming in Databases: from Datalog to DL+log
Università degli Studi di Bari(巴里大学)
在本文中,我们解决了一个问题,已经引起了数据库社区的注意,随着语义Web的出现,即本体论(和它们所传达的语义)如何帮助解决典型的数据库问题的问题,通过更好地了解KR方面相关的数据库。特别是,我们调查这个问题,从ILP的角度考虑两个数据库的问题,(i)的定义的意见和(ii)的定义的约束,为数据库的模式表示也通过本体。两者都可以重新表述为ILP问题,并可以受益于KR框架DL+log的表达和演绎能力。我们通过实例说明了应用场景。关键词:归纳逻辑程序设计,关系数据库,本体,描述逻辑,混合知识表示和推理系统。逻辑程序设计理论与实践(Theory and Practice of Logic Programming,TPLP)
2010-03-12 cs.AI cs.DB cs.LG
SkILL - a Stochastic Inductive Logic Learner
CRACS & INESC TEC(CRACS与INESC TEC);Faculty of Sciences, University of Porto(波尔图大学理学院)
概率归纳逻辑程序设计(PILP)是统计关系学习的一个相对未开发的领域,它扩展了经典的归纳逻辑程序设计(ILP).这项工作介绍了SkILL,一个随机归纳逻辑学习器,它采用概率注释数据并产生一阶逻辑理论。医学和生物信息学等多个领域的数据具有固有的不确定性,可用于生成更接近现实的模型。SkILL不仅可以使用这种类型的概率数据从数据库中提取非平凡的知识,而且还通过引入新颖的、高效的和有效的搜索策略来指导PILP环境中的搜索来解决效率问题。SkILL的能力在三个不同的数据集中得到证明:(i)用于验证系统的合成玩具示例,(ii)众所周知的生物代谢应用的概率适应,以及(iii)乳腺癌领域的真实世界医学数据集。结果表明,SkILL可以执行以及一个确定性的ILP学习者,同时也能够纳入概率知识,否则不会被考虑。
2015-06-02 cs.AI
Program Synthesis using Inductive Logic Programming for the Abstraction and Reasoning Corpus
INESCTEC-FCUP
针对 ARC 对强泛化与推理的挑战,本文提出以手工对象中心 DSL 作为背景知识、用 ILP 从少量网格示例合成逻辑程序的系统,并验证其可解决多种不同推理任务。
2024-05-10 cs.AI cs.LG cs.PL
Hypothesis Generation via LLM-Automated Language Bias for ILP
本文提出通过LLM自动设计语言偏见,结合ILP求解器生成可解释的逻辑规则,提升假设生成的性能和鲁棒性。
2026-01-19 cs.AI
From Circuit Evidence to Mechanistic Theory: An Inductive Logic Approach
Department of Computer Science, University of Manchester(曼彻斯特大学计算机科学系);Idiap Research Institute(Idiap研究机构);CRUK National Biomarker Centre, University of Manchester(曼彻斯特大学癌症研究联盟国家生物标志物中心)
本文提出了一种基于归纳逻辑的方法,通过将电路解释视为归纳理论构建,为累积的机制科学提供形式化基础设施。该方法通过因果功能签名和建筑签名,明确机制主张,并在不同模型规模之间实现可移植性。
2026-05-20 cs.AI cs.LG cs.LO
Self-Supervised Inductive Logic Programming
Poker通过自监督学习方法,在无负例情况下自动生成正负例,提升归纳逻辑编程的性能。
2026-03-04 cs.AI cs.LG
SPILDL: A Scalable and Parallel Inductive Learner in Description Logic
King Saud University(沙特国王大学)
本文提出面向描述逻辑的可扩展并行归纳学习器 SPILDL,支持 $\mathcal{ALCQI}^{\mathcal{(D)}}$ 与字符串属性,并结合共享内存、分布式内存及 CPU+GPU 评估,最高实现约 560 倍加速。
2024-12-01 cs.AI cs.DC cs.DS
Learning large logic programs by going beyond entailment
University of Oxford(牛津大学);KU Leuven(鲁汶大学)
归纳逻辑程序设计(ILP)的一个主要挑战是学习大型程序。我们认为,现有系统的一个关键限制是,他们使用蕴涵来指导假设搜索。这种方法是有限的,因为蕴涵是一个二元决策:一个假设要么需要一个例子,要么不需要,没有中间位置。为了解决这个问题,我们超越了蕴涵,并使用\emph{example-dependent}损失函数来指导搜索,其中假设可以部分覆盖一个例子。我们实现了我们的想法在Brute,一个新的ILP系统,它使用最好的优先搜索,由一个例子相关的损失函数的指导下,逐步建立程序。我们在三个不同的程序合成领域(机器人规划,字符串转换和ASCII艺术)的实验表明,Brute可以大大优于现有的ILP系统,无论是在预测精度和学习时间,可以学习的程序比最先进的系统大20倍。
2020-04-22 cs.AI cs.LG
Best-Effort Inductive Logic Programming via Fine-grained Cost-based Hypothesis Generation
Technische Universität Wien(维也纳技术大学);Marmara University(马尔马拉大学);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院);Sabanci University(萨班哲大学)
本文介绍了参加第一届归纳逻辑程序设计(ILP)竞赛的计算机系统。它基于Answer Set Programming(ASP)。假设空间生成的ASP编码:给定一组表示模式偏差的事实和一组成本配置参数,该编码的每个答案集表示一个规则,该规则被认为是用于找到需要给定示例的假设。与使用规则体的长度作为规则复杂性度量的最新方法相比,我们的方法允许对假设候选规则的形状进行更细粒度的规范。系统迭代地增加规则成本限制,从而增加搜索空间,直到找到合适的假设。该系统搜索一个假设,需要一个单一的例子,利用ASP编码从XHAIL中使用的编码派生。我们用ILP竞赛的开发和测试集进行实验。为了比较,我们还适应了ILASP系统处理竞争的情况下。实验结果表明,假设搜索空间的代价参数是在有限的资源范围内找到竞争实例的假设的重要因素。
2018-02-23 cs.AI cs.LG cs.LO
Efficient rule induction by ignoring pointless rules
本文提出了一种通过忽略无用规则来提升归纳逻辑编程效率的方法,实验表明该方法在多个领域显著减少了学习时间并保持了预测准确性。
2026-01-23 cs.AI
Explaining Weather Bulletins via ILP
该研究基于FastLAS2框架,从模拟气象数据和气象公报提取数据生成ILP示例,进而推断解释性假设,能解释人类专家发布的天气预报及背后原理,方法通用,可用于不同地区的气象公报。
2026-07-24 cs.AI cs.LG cs.SC
Learning Algorithms via Neural Logic Networks
Georgia Institute of Technology(佐治亚理工学院)
提出了一种基于布尔逻辑代数的深度神经网络(DNN)学习方法。我们首先介绍了布尔系统的基本可微算子,如合取、析取和异或,并展示了如何将这些初等算子以一种简单而有意义的方式组合起来形成神经逻辑网络(NLN)。我们研究了所提出的NLN框架在学习布尔函数和离散算法任务中的有效性。我们证明,与MLP方法中的隐式学习相比,所提出的神经逻辑网络可以显式地学习可以由人类验证和解释的逻辑函数。特别是,我们提出了一个新的框架,学习的归纳逻辑程序设计(ILP)的问题,利用显式表示的权力NLN。我们表明,建议的神经ILP求解器是能够的壮举,如谓词发明和递归,并可以优于目前最先进的神经ILP求解器使用各种基准任务,如十进制加法和乘法,排序有序列表。
2019-04-02 cs.AI cs.LG
AutoSpec: Safety Rule Evolution for LLM Agents via Inductive Logic Programming
Zhejiang University of Technology(浙江工业大学)
提出AutoSpec框架,利用归纳逻辑编程引导的CEGIS自动演化专家定义的安全规则,平衡精确率和召回率,在代码执行和具身智能体领域将F1提升至0.98和0.93,减少高达94%的误报。
2026-07-08 cs.AI cs.CR cs.SE
Forgetting to learn logic programs
University of Oxford(牛津大学)
大多数程序归纳方法需要预定义的、通常是手工设计的背景知识(BK)。为了克服这一限制,我们探索通过多任务学习自动获取BK的方法。在这种方法中,学习者将学习过的程序添加到其BK中,以便可以重用它们来帮助学习其他程序。为了提高学习性能,我们探索遗忘的想法,学习者可以另外从其BK中删除程序。我们认为遗忘在归纳逻辑程序设计(ILP)设置。我们发现,遗忘可以显着降低假设空间的大小和样本的复杂性的ILP学习。我们介绍Forgetgol,一个支持遗忘的多任务ILP学习器。我们实验性地比较了Forgetgol与记住或忘记一切的方法。我们的实验结果表明,Forgetgol在从超过10,000个任务中学习时优于其他方法。
2019-11-15 cs.AI cs.LG cs.LO
Can LLM Aid in Solving Constraints with Inductive Definitions?
本文提出一种神经符号方法,利用大语言模型生成辅助引理,提升求解涉及归纳定义的约束的能力,实验表明其在证明任务上的有效性。
2026-03-12 cs.AI cs.LO
Learning logic programs by discovering where not to search
University of Oxford(牛津大学)
归纳逻辑程序设计(ILP)的目标是寻找一个概括训练样本和背景知识(BK)的假设。为了提高性能,我们引入了一种方法,在搜索假设之前,首先发现不搜索的地方。我们使用给定的BK来发现对假设的约束,例如一个数不能既是偶数又是奇数。我们使用的约束引导约束驱动的ILP系统。我们在多个领域(包括程序合成和游戏)的实验表明,我们的方法可以(i)大大减少学习时间高达97%,和(ii)规模的域与数百万的事实。
2022-12-05 cs.AI cs.LG cs.LO
Neuro-Logic Lifelong Learning
针对神经符号AI中现有ILP研究多聚焦单任务网络设计、缺乏序列问题学习范式探索的问题,本文提出可复用前期任务逻辑规则的神经逻辑终身学习框架,通过实验验证了该范式的可行性与优势。
2025-11-16 cs.AI cs.LG
AI Reasoning Systems: PAC and Applied Methods
学习和逻辑是不同的和显着的预测方法。机器学习已经经历了普及的激增,因为它对噪声具有鲁棒性并实现了高性能;然而,ML在知识转移和外推方面遇到了许多问题。相比之下,逻辑很容易理解,逻辑规则很容易在系统之间链接和转移;然而,归纳逻辑对噪声很脆弱。然后,我们探讨了将学习与归纳逻辑结合到AI推理系统中的前提。具体来说,我们总结了PAC学习(概念图,鲁棒逻辑,知识注入)和深度学习(DSRL,$\partial$ ILP,DeepLogic)的发现,通过再现易处理性的证明,以伪代码呈现算法,突出显示结果,并在领域之间进行合成。最后,我们通过结合上面列出的模块和一系列未解决的(可能难以解决的)问题,提出了集成模型的建议。
2018-07-09 cs.AI cs.LG
Online Learning of Event Definitions
National Kapodistrian University of Athens(雅典国立卡波季斯特里安大学);University of Piraeus(比雷埃夫斯大学);National Center for Scientific Research “Demokritos”(德谟克利特国家科学研究中心)
用于符号事件识别的系统使用一阶规则形式的一组事件定义来及时推断事件的发生。事件演算是一种时态逻辑,已被用作事件识别应用程序的基础,通过归纳逻辑程序设计(ILP)提供与机器学习的直接连接。我们提出了一个用于事件演算理论在线学习的ILP系统。为了允许单遍学习策略,我们使用Hoeffding界来评估输入流的子集上的子句。在学习过程中,我们采用了事件演算公理的解耦方案,允许孤立地学习每个子句。此外,我们使用溯因-归纳逻辑程序设计技术来处理未观察到的目标谓词。我们评估我们的方法上的活动识别应用程序,并比较它的一些批处理学习技术。我们得到的结果相当的预测精度与显着的加速训练时间。我们还优于手工制作的规则,并与只能在无噪声数据集上操作的健全增量学习器的性能相匹配。本文件正在考虑被TPLP接受。
2016-07-30 cs.AI cs.LG
Honey, I shrunk the hypothesis space (through logical preprocessing)
ELLIS Institute(ELLIS研究所);University of Helsinki(赫尔辛基大学);Czech Academy of Sciences Institute of Computer Science(捷克科学院计算机科学研究所);Dynatrace Research(Dynatrace研究)
本文提出通过逻辑预处理缩小假设空间,利用背景知识去除不可能的规则,提升ILP系统的学习效率和预测精度。
2026-05-15 cs.AI cs.LG
ADVENT: LLM-Driven Automatic Predicate Invention for ILP
Department of Information Management(信息管理系);National Sun Yat-Sen University(国立成功大学)
提出ADVENT机制,利用大语言模型生成候选谓词并通过Prolog验证迭代优化,实现自动谓词发明,在扑克牌数据集上显著提升ILP成功率并支持跨任务知识复用。
2026-07-03 cs.AI cs.CL cs.LO
Neuro Symbolic Reasoning for Planning: Counterexample Guided Inductive Synthesis using Large Language Models and Satisfiability Solving
Florida International University(佛罗里达国际大学);SRI International(SRI国际(斯坦福国际研究院));United States Military Academy(美国军事学院(西点军校));University of Colorado Boulder(科罗拉多大学博尔德分校);University of Central Florida(中佛罗里达大学);Vanderbilt University(范德堡大学)
本文提出 LLM 与 SMT 求解器迭代交互的神经符号框架,通过反例反馈修正规划综合结果,并在积木规划任务中验证其可生成可证明正确的解。
2023-09-28 cs.AI cs.LO
Generalisation Through Negation and Predicate Invention
本文提出结合否定与谓词发明的归纳逻辑编程方法NOPI,通过学习全称量化体部变量规则提升少样本泛化能力,实验显示提高预测准确性和学习效率。
2023-12-27 cs.AI
Refinement Type Directed Search for Meta-Interpretive-Learning of Higher-Order Logic Programs
University of Oxford(牛津大学);St. John’s College(圣约翰学院)
在归纳逻辑程序设计(ILP)社区中的程序合成问题通常被视为无类型的。我们考虑了用户提供的类型对背景知识的好处。在元解释学习(MIL)框架的基础上,我们证明了类型检查能够修剪程序的大部分假设空间。引入多态类型检查的MIL方法逻辑程序合成验证强有力的理论和实验结果,显示了立方减少的搜索空间和合成时间的大小,在类型化的背景谓词的数量。此外,我们能够推断多态类型的合成条款和整个程序。另一个进步是开发了一种在ILP中利用精化类型的方法。在这里,我们表明,进一步修剪的搜索空间可以实现,虽然SMT解决用于细化类型检查来
2021-02-18 cs.AI cs.LO
Learning First-Order Rules with Differentiable Logic Program Semantics
Peking University(北京大学);National Institute of Informatics(国立信息学研究所);Guangzhou University(广州大学)
从关系事实中学习一阶逻辑程序(LP),从而产生对数据的直观见解是神经符号研究中的一个具有挑战性的课题。本文提出了一种新的可微归纳逻辑程序设计(ILP)模型,称为可微一阶规则学习器(DFOL),它通过搜索LP的可解释矩阵表示,从关系事实中找到正确的LP。这些可解释的矩阵被认为是神经网络(NN)中的可训练张量。神经网络是根据LP的可微语义设计的。具体来说,我们首先采用了一种新的命题化方法,将事实转移到NN可读的向量对表示解释对。我们取代了直接后果运营商与NN约束函数组成的代数运算和S形的激活函数。我们映射到NN约束函数的符号前向链格式的LP子符号向量表示的原子之间的操作。通过应用梯度下降,神经网络的训练好的参数可以解码成精确的符号LP在前向链逻辑格式。我们证明了DFOL可以在几个标准的ILP数据集,知识库和概率关系事实上执行,并优于几个著名的可微ILP模型。实验结果表明,DFOL是一个精确的,鲁棒的,可扩展的,计算成本低的可微ILP模型。
2022-04-28 cs.AI
Distributed Online Learning of Event Definitions
National Center for Scientific Research “Demokritos”(“德谟克利特”国家科学研究中心);University of Piraeus(比雷埃夫斯大学)
基于逻辑的事件识别系统使用一阶规则形式的一组事件定义来及时推断事件的发生。事件演算是一种时态逻辑,已被用作事件识别应用程序的基础,通过归纳逻辑程序设计(ILP)提供与机器学习的直接连接。OLED是最近提出的ILP系统,它以事件演算理论的形式学习事件定义,在数据流上进行单次传递。在这项工作中,我们提出了一个版本的OLED,允许分布式,在线学习。我们在基准活动识别数据集上评估了我们的方法,并表明我们可以显着减少训练时间,在处理节点之间交换最少的信息。
2017-05-05 cs.AI
Reason Popper-ly: Patching In-Context Reasoning with Inductive Logic Programming
Vanderbilt University(范德堡大学)
研究针对思维链提示中间步骤逻辑不合理问题,提出Reason Popper-ly框架,用归纳逻辑编程学习规则作在线验证器校正步骤,在CLUTRR基准测试中提升了模型准确率,还产生细粒度错误分类法,优于完全外部符号管道。
2026-07-28 cs.AI cs.LO cs.SC
Explainable and Trustworthy Traffic Sign Detection for Safe Autonomous Driving: An Inductive Logic Programming Approach
University of Surrey(萨里大学)
针对DNN交通标志检测易受对抗攻击的问题,提出基于归纳逻辑编程(ILP)的停车标志检测方法,利用形状、颜色等高级特征提升鲁棒性与可解释性,实验证明其能抵御PR2和AdvCam攻击且需极少训练数据。
2023-08-30 cs.AI cs.CV cs.LO
Inductive Learning of Declarative Domain-Specific Heuristics for ASP
Siemens AG Österreich(西门子奥地利公司)
本文提出利用归纳逻辑编程从最优答案集示例中自动学习ASP领域特定声明式启发式,实验证明该方法能提升大规模难题的求解性能与解质量。
2023-08-30 cs.AI