The goal of Inductive Logic Programming (ILP) is to learn a program that explains a set of examples in the context of some pre-existing background knowledge. Until recently, most research on ILP targeted learning Prolog programs. Our own ILASP system instead learns Answer Set Programs, including normal rules, choice rules and hard and weak constraints. Learning such expressive programs widens the applicability of ILP considerably; for example, enabling preference learning, learning common-sense knowledge, including defaults and exceptions, and learning non-deterministic theories. In this paper, we first give a general overview of ILASP's learning framework and its capabilities. This is followed by a comprehensive summary of the evolution of the ILASP system, presenting the strengths and weaknesses of each version, with a particular emphasis on scalability.
Explaining Neural Networks in Preference Learning: a Post-hoc Inductive Logic Programming Approach
Department of Information Engineering, Computer Science and Mathematics, University of L'Aquila, Italy(意大利拉奎拉大学信息工程、计算机科学与数学系);Department of Life, Health and Environmental Sciences, University of L'Aquila, Italy(意大利拉奎拉大学生命、健康与环境科学系);Department of Electrical Engineering and Information Technologies, University of Naples, Italy(意大利那不勒斯大学电气工程与信息技术系);Ethos Group, Department of Human Sciences, University of Verona, Italy(意大利维罗纳大学人文科学系Ethos研究组)
Best-Effort Inductive Logic Programming via Fine-grained Cost-based Hypothesis Generation
Technische Universität Wien(维也纳技术大学);Marmara University(马尔马拉大学);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院);Sabanci University(萨班哲大学)
本文介绍了参加第一届归纳逻辑程序设计(ILP)竞赛的计算机系统。它基于Answer Set Programming(ASP)。假设空间生成的ASP编码:给定一组表示模式偏差的事实和一组成本配置参数,该编码的每个答案集表示一个规则,该规则被认为是用于找到需要给定示例的假设。与使用规则体的长度作为规则复杂性度量的最新方法相比,我们的方法允许对假设候选规则的形状进行更细粒度的规范。系统迭代地增加规则成本限制,从而增加搜索空间,直到找到合适的假设。该系统搜索一个假设,需要一个单一的例子,利用ASP编码从XHAIL中使用的编码派生。我们用ILP竞赛的开发和测试集进行实验。为了比较,我们还适应了ILASP系统处理竞争的情况下。实验结果表明,假设搜索空间的代价参数是在有限的资源范围内找到竞争实例的假设的重要因素。
Meta-Knowledge Transfer for Inductive Knowledge Graph Embedding
Zhejiang University(浙江大学);Huawei Technologies Co., Ltd.(华为技术有限公司);State Key Laboratory of Media Convergence Production Technology and Systems(媒体融合生产技术与系统国家重点实验室);ZJU-Hangzhou Global Scientific and Technological Innovation Center(浙江大学杭州国际科创中心);Alibaba-Zhejiang University Joint Institute of Frontier Technologies(阿里巴巴-浙江大学前沿技术联合研究院)
Post-Proceedings of the First International Workshop on Learning and Nonmonotonic Reasoning
知识表示与推理和机器学习是人工智能的两个重要领域。非单调逻辑程序设计(NMLP)和回答集程序设计(ASP)为常识知识的表示和推理提供了形式语言,实现了人工智能中的声明式问题求解。另一方面,归纳逻辑程序设计(ILP)在逻辑程序设计中实现了机器学习,为归纳学习提供了形式化的背景,并将其应用于关系学习和数据采掘等领域。一般来说,NMLP和ASP实现了非单调推理,但缺乏学习能力。相反,ILP实现了归纳学习,而大多数技术都是在经典单调逻辑下发展起来的。在这种背景下,一些研究者试图将各种技术结合到非单调ILP中。这样的组合将引入一个学习机制的程序,并将利用新的应用程序的NMLP侧,而在ILP侧,它将扩展的表示语言,使我们能够使用现有的求解器。学习和非单调推理之间的交叉也可以发生在诸如使用答案集求解器用于ILP、在运行答案集求解器时加速学习、学习动作理论、学习动力系统中的转换规则、溯因学习、学习具有抑制的生物网络以及涉及默认和否定的应用中。该研讨会是首次尝试提供一个公开论坛,以确定问题和讨论具有互补专长的研究人员之间可能的合作。该研讨会于2013年9月15日在西班牙Corunna举行。这篇论文集包含五篇技术论文(六篇被接受的论文中的五篇)和Luc De Raedt邀请演讲的摘要。
Inductive Learning for Possibilistic Logic Programs Under Stable Models
Multi-dimensional data perception and intelligent recognition Chongqing Engineering Research Center, Chongqing University of Arts and Sciences, Chongqing, 402160, China(重庆艺术科技大学智能识别多维数据感知工程研究中心);College of Computer Science and Technology, Guizhou University, Guiyang, 550025, China(贵州大学计算机科学与技术学院);State Key Laboratory of Public Big Data(公共大数据国家重点实验室);Key Laboratory of Advanced Medical Imaging(先进医学影像重点实验室);Institute for Artificial Intelligence, Guizhou University, Guiyang, 550025, China(贵州大学人工智能研究所);School of Information and Communication Technology, Griffith University, QLD 4111, Australia(格里菲斯大学信息与通信技术学院)
Differentiable Satisfiability and Differentiable Answer Set Programming for Sampling-Based Multi-Model Optimization
National University of Ireland, Galway(爱尔兰国立高威大学)
本文提出了一种求解多模型优化问题的可微可满足性和可微答案集编程算法(Differentiable Satisfiability and Differentiable Answer Set Programming,简称SAT/ASP)。模型(答案集或满足真值分配)使用一种新的SAT/ASP求解方法,该方法使用基于梯度下降的分支机制进行采样。采样继续进行,直到用户定义的多模型成本函数的值达到给定阈值。作为我们的方法的主要用例,我们提出了分布感知模型采样和表达但可扩展的概率逻辑编程。作为我们的主要算法方法,微分SAT/ASP,我们介绍了一个增强的国家的最先进的CDNL/CDCL算法SAT/ASP解决。此外,我们提出了替代算法,使用未经修改的ASP求解器(Clingo/扣)和映射的优化任务,以传统的答案集优化或使用所谓的传播。我们还报告了开源软件DelSAT,我们的主要算法的最近原型实现,以及初步实验结果,这些结果表明,DelSAT的性能,当应用于概率逻辑推理的用例时,与马尔可夫逻辑网络(MLN)推理性能相当,尽管与MLN相比具有有利的特性,例如表达归纳定义的能力,以及在所有情况下直接将概率作为权重的能力。我们的实验还表明,我们的主要算法是非常优越的性能相比,所提出的替代方法,减少了一个共同的情况下,一般的问题,定期SAT/ASP。
Università degli Studi di Genova(热那亚大学);Università degli Studi di Sassari(萨萨里大学);Università della Calabria(卡拉布里亚大学)
答案集编程(ASP)是一种真正的声明式编程范式,在非单调推理和逻辑编程领域提出,最近已在许多应用中使用。因此,开发高效的ASP系统至关重要。考虑到改进ASP的求解方法的任务,有两种常用的方法来实现这一目标:$(i)$扩展最先进的技术和ASP求解器,或$(ii)$从头开始设计一个新的ASP求解器。这些趋势的替代方案是建立在最先进的求解器之上,并应用机器学习技术来自动选择“最好的”可用求解器。在本文中,我们追求这后一个方向。我们首先定义了一组便宜的计算句法功能,表征ASP程序的几个方面。然后,我们应用分类方法,给定{ \sl training}集中的实例的特征和求解器在这些实例上的性能,归纳学习算法选择策略以应用于{ \sl test}集。我们报告了一些实验的结果,考虑到求解器和不同的训练和测试集的情况下,从提交给“系统跟踪”的第三届ASP竞赛。我们的分析表明,通过将机器学习技术应用于ASP求解,可以获得非常稳健的性能:与第三届ASP竞赛的任何求解器相比,我们的方法可以解决更多的实例。(To逻辑程序设计理论与实践(Theory and Practice of Logic Programming,TPLP)
MIRAGE: Evaluating and Explaining Inductive Reasoning Process in Language Models
School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所)
Reasoning Can Hurt the Inductive Abilities of Large Language Models
School of Information Sciences University of Illinois at Urbana-Champaign(信息科学学院伊利诺伊大学厄巴纳-香槟分校);Computer Science and Engineering HKUST(计算机科学与工程香港科技大学);Research Scientist, Intel Labs(英特尔实验室研究员);School of Information Sciences University of Illinois Urbana-Champaign(信息科学学院伊利诺伊大学厄巴纳-香槟分校)
StaR-KVQA: Structured Reasoning Traces for Implicit-Knowledge Visual Question Answering
Ant International, Ant Group(蚂蚁集团国际部,蚂蚁集团);School of Computer Science and Technology, University of Science and Technology of China(中国科学技术大学计算机科学与技术学院);School of Computing and Information Systems, Singapore Management University(新加坡管理学院计算与信息系统学院);Anhui Provincial Key Laboratory of High Performance Computing(安徽省高性能计算重点实验室)