Relational Abstractions for Generalized Reinforcement Learning on Symbolic Problems
School of Computing and Augmented Intelligence(计算与增强智能学院);Arizona State University(亚利桑那州立大学)
符号状态空间问题中的强化学习具有挑战性,因为需要长时间的推理。本文提出了一种新的方法,利用关系抽象结合深度学习来学习此类问题的可推广的Q函数。学习的Q函数可以有效地转移到具有不同对象名称和对象数量的相关问题,从而具有完全不同的状态空间。我们表明,学习广义Q函数可以用于zero-shot转移到相关的问题,没有明确的,手工编码的课程。对一系列问题的实证评估表明,我们的方法有利于有效的zero-shot转移的学习知识,包含许多对象的更大的问题实例。
2022-04-27 cs.AI cs.LG
Modeling Content and Context with Deep Relational Learning
Purdue University(普渡大学)
为现实的自然语言任务构建模型需要处理长文本并考虑复杂的结构依赖关系。神经-符号表示作为一种将符号方法的推理能力与神经网络的表达能力相结合的方式而出现。然而,大多数现有的神经和符号表征相结合的框架已被设计为经典的关系学习任务,工作在一个宇宙的符号实体和关系。在本文中,我们提出了DRaiL,一个开源的声明性框架,用于指定深关系模型,旨在支持各种NLP方案。我们的框架支持与表达性语言编码器轻松集成,并提供了一个接口来研究表示,推理和学习之间的相互作用。
2020-10-20 cs.AI cs.CL
Symbolic Querying of Vector Spaces: Probabilistic Databases Meets Relational Embeddings
University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
我们提出了统一的技术,从概率数据库和关系嵌入模型的目标执行复杂的查询不完整和不确定的数据。我们形式化的概率数据库模型,所有的查询。这使我们能够利用来自概率数据库的丰富的理论和算法文献来解决问题。虽然这种形式化可以与任何关系嵌入模型一起使用,但缺乏定义良好的联合概率分布会导致简单的查询问题变得难以证明。考虑到这一点,我们引入\TO,一个关系嵌入模型,旨在成为一个易于处理的概率数据库,利用典型的嵌入假设的概率框架。使用一个原则,高效的推理算法,可以从它的定义,我们经验证明,\TOs是一个有效的和一般的模型,这些查询任务。
2020-06-27 cs.AI cs.DB
A Variability-Based Framework for Interpretable Naming in Formal and Relational Concept Analysis
LIRMM, Univ. Montpellier, CNRS(法国国家科学研究中心蒙彼利埃大学计算机科学、机器人及微电子实验室);CIRAD, UPR AIDA(法国农业国际合作研究发展中心AIDA研究单元);AIDA, CIRAD, Univ. Montpellier(法国农业国际合作研究发展中心AIDA研究单元,蒙彼利埃大学);INRAE - UMR TETIS - Territoires, Environnement(法国国家农业、食品与环境研究院TETIS联合研究单元)
针对形式概念分析和关系概念分析中概念命名缺乏可解释性的问题,提出一种基于可变性的LLM辅助命名框架,通过控制信息源生成可读名称,并在披萨店数据集上验证其有效性。
2026-06-07 cs.AI
Relational reasoning and generalization using non-symbolic neural networks
Stanford University(斯坦福大学)
平等(身份)的概念是简单和普遍存在的,使其成为一个关键的案例研究更广泛的问题表示支持抽象的关系推理。以前的研究表明,神经网络不是人类关系推理的合适模型,因为它们不能表示数学上的同一性,即最基本的平等形式。我们重新讨论这个问题。在我们的实验中,我们使用任意表示和在单独的任务上预先训练的表示来评估平等的样本外泛化,以使它们具有结构。我们发现神经网络能够学习(1)基本等式(数学恒等式),(2)仅使用正训练实例的序列等式问题(学习ABA模式序列),以及(3)仅使用基本等式训练实例的复杂分层等式问题(“零射击”泛化)。在后两种情况下,我们的模型执行先前工作中提出的任务,以划分人类独特的符号能力。这些结果表明,符号推理的基本方面可以从数据驱动的非符号学习过程中出现。
2022-05-01 cs.AI cs.CL cs.LG
Quantifying Relational Exploration in Cultural Heritage Knowledge Graphs with LLMs: A Neuro-Symbolic Approach
Arab American University(阿拉伯美国大学)
提出结合LLM解释生成与趣味性量化框架的神经符号方法,在WCH-LOD上显著提升文化遗产知识图谱关系探索的性能与解释质量。
2025-01-11 cs.AI
A Novel Neural-symbolic System under Statistical Relational Learning
Jilin University(吉林大学);Griffith University(格里菲斯大学)
提出基于统计关系学习的神经符号框架NSF-SRL,结合深度学习与符号推理,提升性能、泛化与可解释性,为通用AI研究树立新标准。
2025-02-22 cs.AI cs.CV
Learning Neuro-Symbolic Relational Transition Models for Bilevel Planning
MIT Computer Science and Artificial Intelligence Laboratory(麻省理工学院计算机科学与人工智能实验室)
在机器人领域,学习和规划由于连续的状态空间、连续的动作空间和长的任务范围而变得复杂。在这项工作中,我们用神经符号关系转换模型(NSRT)来解决这些挑战,NSRT是一类新型的模型,它具有数据学习效率,与强大的机器人规划方法兼容,并可在对象上推广。NSRT具有符号和神经组件,实现了双层规划方案,其中外循环中的符号AI规划指导内环中的神经模型的连续规划。在四个机器人规划领域的实验表明,NSRT可以在数十或数百次训练后学习,然后用于快速规划新任务,这些任务需要多达60个动作,涉及的对象比训练期间看到的要多得多。视频:https://tinyurl.com/chitnis-nsrts
2022-06-30 cs.AI cs.LG cs.RO
Neural-Symbolic Relational Reasoning on Graph Models: Effective Link Inference and Computation from Knowledge Bases
Institute of Informatics, UFRGS(UFRGS信息学院);City, University of London(伦敦大学城市学院)
神经符号模型的最新发展和日益增长的兴趣表明,混合方法可以为人工智能提供更丰富的模型。有效的关系学习和推理方法的整合是这一方向的关键挑战之一,因为神经学习和符号推理提供了互补的特征,有利于人工智能系统的开发。知识图谱上的关系标注或链接预测已经成为基于深度学习的自然语言处理研究的主要问题之一。此外,利用神经符号技术的其他领域也可能从这种研究努力中受益。在知识图谱中,已经有几种努力从现有事实中识别缺失的事实。两条研究路线试图通过考虑连接两个实体的所有已知事实或连接它们的几条事实路径来预测它们之间的知识关系。我们提出了一个神经符号图神经网络,它适用于学习所有的路径喂养的模型与嵌入的最小子集的知识图谱包含这样的路径。通过学习生成对应于词嵌入的实体和事实的表示,我们展示了如何端到端地训练模型来解码这些表示并以多任务方法推断实体之间的关系。我们的贡献是双重的:一个神经符号的方法,利用大型图的关系推理的分辨率,我们也证明了这种神经符号模型比基于路径的方法更有效
2020-05-05 cs.AI cs.LG stat.ML
Symbolic Relational Deep Reinforcement Learning based on Graph Neural Networks and Autoregressive Policy Decomposition
Czech Technical University in Prague(布拉格捷克技术大学);Artificial Intelligence Center, Department of Computer Science, Faculty of Electrical Engineering(电气工程学院计算机科学系人工智能中心)
针对关系型强化学习中状态与动作空间可变、难用定长表示适配现有方法的问题,提出基于图神经网络和自回归策略分解的无领域依赖深度RL框架,在多领域验证了适用性与跨规模零样本泛化能力。
2023-08-25 cs.AI cs.LG
Geometric Relational Embeddings
Universität Stuttgart(斯图加特大学);Institut für Künstliche Intelligenz (KI) der Universität Stuttgart(斯图加特大学人工智能研究所)
针对向量表示难以捕捉关系数据复杂符号属性的问题,提出几何关系嵌入范式,通过多种模型捕捉网络、知识图谱及本体中的复杂结构、逻辑约束与高阶结构,有效保留数据的离散符号特性。
2024-09-18 cs.AI cs.LG cs.SI
Relational Reasoning Networks
KU Leuven(鲁汶大学);University of Siena(锡耶纳大学);Scuola Normale Superiore(比萨高等师范学校)
针对现有神经符号方法难以兼顾不确定性处理与可扩展性的问题,提出能在潜空间执行关系推理的端到端模型R2N,通过额外计算结构处理高阶关系,可适配纯符号或异构任务,在多实验设置下达到SOTA效果。
2025-01-15 cs.AI cs.LG
LARS-VSA: A Vector Symbolic Architecture For Learning with Abstract Rules
Georgia Institute of Technology(佐治亚理工学院)
本文提出LARS-VSA架构,利用超维计算和关系瓶颈策略构建组合式神经符号系统,通过高维注意力机制实现高效抽象规则学习,在多个数据集上达到更优或相当的准确率且效率显著提升。
2024-05-23 cs.AI cs.LG
Optimal quadratic binding for relational reasoning in vector symbolic neural architectures
Harvard University(哈佛大学);Hebrew University(希伯来大学)
绑定操作是许多认知过程的基础,如认知地图形成,关系推理和语言理解。在这些过程中,两种不同的模态,如位置和对象,事件及其上下文线索,以及单词及其角色,需要绑定在一起,但对潜在的神经机制知之甚少。以前的作品介绍了一个绑定模型的基础上二次函数的绑定对,其次是多个对的向量求和。基于这个框架,我们解决以下问题:哪些类的二次矩阵是最佳的解码关系结构?结果的精确度是多少?我们引入了一类新的绑定矩阵的基础上的八元数代数,一个八维的复数扩展的矩阵表示。我们表明,这些矩阵使一个更准确的解绑比以前已知的方法时,少量的对。此外,结合算子的数值优化收敛于这种八元数结合。我们还表明,当有大量的绑定对,但是,随机二次绑定执行以及八元数和以前提出的绑定方法。因此,这项研究提供了新的见解,在大脑中的绑定操作的潜在神经机制。
2022-04-14 cs.AI q-bio.NC
From Real World to Logic and Back: Learning Generalizable Relational Concepts For Long Horizon Robot Planning
针对机器人有限经验泛化能力弱、难迁移到未见环境长时程任务的问题,提出首个从少量无标注原始演示自主学习符号化关系概念与逻辑世界模型的框架,实现零样本复杂任务泛化,性能媲美手工设计模型,可处理18倍于训练的物体数量,推动可解释可泛化机器人规划系统发展。
2025-10-03 cs.AI cs.RO
Learning Probabilistic Logic Programs with Functional Gradient Guided Language Models
Technische Universität Darmstadt(达姆施塔特工业大学);The University of Texas at Dallas(德克萨斯大学达拉斯分校);AT&T CDO(AT&T首席数字官办公室);Oregon state University(俄勒冈州立大学)
提出神经符号框架grasp,将关系结构学习转化为函数梯度提升,用LLM处理难的内部搜索,在Tox21等四个基准上优于多种基线,生成可解释带权规则集成。
2026-10-09 cs.AI
GRAIL: Autonomous Concept Grounding for Neuro-Symbolic Reinforcement Learning
Technical University of Darmstadt(达姆施塔特技术大学);Google Intrinsic(谷歌内在);German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心(DFKI));Centre for Cognitive Science, TU Darmstadt(达姆施塔特技术大学认知科学中心)
GRAIL通过环境交互自主 grounding 关系概念,利用大语言模型提供弱监督,提升在稀疏奖励和概念对齐问题中的性能,实验显示其在Atari游戏中表现优异。
2026-04-18 cs.AI cs.LG
Graph Neural Networks Meet Neural-Symbolic Computing: A Survey and Perspective
UFRGS(里约热内卢联邦大学);City, University of London(伦敦城市大学);University of Siena(锡耶纳大学);Université Côte d’Azur(蔚蓝海岸大学);Rice University(莱斯大学)
神经符号计算现在已经成为学术和工业研究实验室感兴趣的主题。图神经网络在关系和符号领域有着广泛的应用,在组合优化、约束满足、关系推理等科学领域有着广泛的应用。一般来说,需要改进人工智能系统的可解释性,可解释性和信任度,这需要有原则的方法,正如神经符号计算所建议的那样。在本文中,我们回顾了使用GNN作为神经符号计算模型的最新技术。这包括GNN在几个领域的应用,以及它与神经符号计算当前发展的关系。
2021-06-12 cs.AI cs.CL cs.LG
Solving Relational MDPs with Exogenous Events and Additive Rewards
Cycorp Inc.(Cycorp公司);Tufts University(塔夫茨大学);Oregon State University(俄勒冈州立大学)
我们形式化一个简单而自然的子类服务域的关系规划问题,以对象为中心,独立的外源事件和附加奖励捕获,例如,库存控制问题。针对这一子类,我们提出了一个新的符号规划算法,这是第一个算法,具有明确的性能保证关系MDP与外源事件。特别是,在某些技术条件下,我们的规划算法提供了一个单调的最优价值函数的下限。为了支持该算法,我们提出了新的评估和减少技术的广义一阶决策图,一个知识表示的实值函数关系世界状态。我们的规划算法使用一组焦点状态,作为训练集,简化和近似的符号解决方案,因此可以看到执行学习规划。初步的实验评估证明了我们的方法的有效性。
2013-06-27 cs.AI cs.LG
Symbolic Network: Generalized Neural Policies for Relational MDPs
Indian Institute of Technology Delhi(印度理工学院德里分校)
关系马尔可夫决策过程(Relational Markov Decision Process,RMDP)是一种一阶表示方法,用于表示单个概率规划域的所有实例,其中对象的数量可能是无限的。RMDPs的早期工作输出了广义(独立于实例)的一阶策略或价值函数,作为一种同时解决域的所有实例的方法。不幸的是,由于在这些策略或价值函数中使用的表示空间的固有限制,这类工作取得了有限的成功。神经模型是否可以通过轻松地表示更复杂的广义策略来提供缺失的环节,从而使它们对给定域的所有实例都有效?我们提出了SymNet,第一个神经方法来解决RMDPs的概率规划语言的RMDPs。SymNet使用来自域的训练实例为Rounds域训练一组共享参数。对于每个实例,SymNet首先将其转换为实例图,然后使用关系神经模型来计算节点嵌入。然后,它将每个地面动作作为一阶动作符号和与动作相关的节点嵌入的函数进行评分。给定来自同一域的新测试实例,具有预训练参数的SymNet架构会对每个地面动作进行评分并选择最佳动作。这可以在单个前向传递中完成,而无需对测试实例进行任何重新训练,从而隐式地表示整个域的神经广义策略。我们在IPPC的九个Rendezvous域上的实验表明,SymNet策略明显优于随机策略,有时甚至比从头开始训练最先进的深度反应策略更有效。
2020-06-29 cs.AI cs.LG stat.ML
Learning Generalized Relational Heuristic Networks for Model-Agnostic Planning
Arizona State University(亚利桑那州立大学)
计算目标导向行为对于设计高效的AI系统至关重要。由于规划的计算复杂性,目前的方法主要依赖于手工编码的符号动作模型和手工编码的数学函数生成器的效率。对于这样的问题,学习的数学方法已经具有有限的实用性,因为它们难以应用于具有与训练数据中的那些显著不同的对象和对象量的问题。本文开发了一种新的方法,在没有符号动作模型的情况下,使用深度神经网络学习广义语义,该深度神经网络利用输入谓词词汇,但对对象名称和数量不可知。它使用抽象的状态表示来促进数据高效,可推广的学习。一系列基准领域的实证评估表明,与以前的方法相比,用这种方法计算的广义动力学可以很容易地转移到不同的对象和对象的数量远远大于那些在训练数据的问题。
2020-10-20 cs.AI cs.LG
Knowledge Enhanced Neural Networks for relational domains
Fondazione Bruno Kessler(布鲁诺·凯塞勒基金会)
在最近的过去,对神经符号积分框架的兴趣越来越大,即,结合联结主义和符号方法的混合系统,以获得两个世界的最佳效果。在这项工作中,我们专注于一个特定的方法,KENN(知识增强神经网络),神经符号架构,注入到一个神经网络的顶部添加一个剩余层,修改相应的知识的初始预测的先验逻辑知识。在这种策略的优点中,包括子句权重,代表子句强度的可学习参数,这意味着模型可以学习每个规则对最终预测的影响。作为一种特殊情况,如果训练数据与约束相矛盾,KENN会学习忽略它,使系统对错误知识的存在具有鲁棒性。在本文中,我们提出了一个扩展的KENN的关系数据。KENN的主要优势之一在于其可扩展性,这要归功于对通过堆叠多个逻辑层获得的规则之间的依赖关系的灵活处理。我们的实验表明,这种策略的有效性。结果表明,KENN能够提高底层神经网络的性能,获得更好的或相当的精度方面的其他两个相关的方法,结合学习与逻辑,需要显着更少的时间学习。
2022-05-31 cs.AI cs.LG cs.LO
Probabilistic Relational Planning with First Order Decision Diagrams
Oregon State University(俄勒冈州立大学);Tufts University(塔夫茨大学)
动态规划算法已成功地应用于命题随机规划问题,通过使用紧凑的表示,特别是代数决策图,捕捉域动态和价值函数。符号动态规划的工作提升了这些想法,一阶逻辑使用几种表示方案。最近的工作介绍了一阶变量的决策图(FODD),并开发了一个值迭代算法,这种表示。本文开发了几个改进的FODD算法,使该方法的实用。这些包括,新的减少运营商,减少的大小表示,几个加速技术,和技术的值近似。在此基础上,提出了一个求解相关随机规划问题的规划系统FODD-Planner。该系统在几个领域进行了评估,包括最近的国际规划竞赛的问题,并显示出与顶级系统的竞争力。这是第一次证明这种方法的可行性,它表明,通过紧凑的表示抽象是一个很有前途的方法随机规划。
2014-01-16 cs.AI
Learning Symbolic Models of Stochastic Domains
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室)
在这篇文章中,我们的目标是开发能够在复杂世界中学习行动的代理。我们开发了一个概率,关系规划规则表示,companion模型嘈杂,不确定的动作效果,并显示如何有效地学习这些规则。通过在简单的规划域和一个三维模拟块世界与现实的物理实验,我们证明了这种学习算法允许代理有效地模拟世界动态。
2011-10-10 cs.AI cs.LG
Relational Semantic Reasoning on 3D Scene Graphs for Open World Interactive Object Search
University of Freiburg(弗赖堡大学);Toyota Motor Europe(丰田欧洲公司)
提出SCOUT方法,通过从LLM蒸馏的关系探索启发式直接搜索3D场景图,实现高效开放世界交互式物体搜索,性能匹配LLM且计算高效。
2026-05-27 cs.AI cs.RO
LLM-Augmented Symbolic NLU System for More Reliable Continuous Causal Statement Interpretation
Department of Computer Science, McCormick School of Engineering;Applied Science, \ University, Evanston, IL 60208
本文提出一种混合方法,结合LLM的广泛覆盖与符号NLU的结构化表示,用于从常识科学文本中提取和解释数量及因果规律,实验表明该方法显著优于仅符号流程。
2025-10-22 cs.AI cs.CL
A Neuro-Symbolic Framework for Reasoning under Perceptual Uncertainty: Bridging Continuous Perception and Discrete Symbolic Planning
The University of Hong Kong(香港大学);Guangzhou College of Commerce(广州商学院)
针对AI系统中连续感知与离散符号推理的连接挑战,提出一种神经符号框架,通过概率符号状态提取与不确定性感知规划器实现感知到规划的不确定性建模与传播,在桌面机器人操纵任务中取得优于POMDP基线的性能,且具通用性。
2025-11-18 cs.AI
DeepGraphLog for Layered Neurosymbolic AI
Örebro University, Sweden(奥雷布罗大学);University of Antwerp, Belgium(安特卫普大学)
DeepGraphLog扩展ProbLog引入图神经谓词,支持任意顺序的多层神经符号推理,以图表示符号信息,克服DeepProbLog局限,在规划、知识图谱补全和GNN表达力任务中展现优势。
2025-09-09 cs.AI
Systematic Relational Reasoning With Epistemic Graph Neural Networks
Cardiff University(卡迪夫大学)
针对图神经网络系统性推理能力不足的问题,提出认知图神经网络(EpiGNN),以认知状态作为节点嵌入并相应实现消息传递,在需要系统性推理的链接预测任务上达到最先进性能,并能在多路径聚合的新基准上准确推理。
2025-02-27 cs.AI cs.LG
Learning First-Order Symbolic Representations for Planning from the Structure of the State Space
Universidad Simón Bolívar(西蒙·玻利瓦尔大学);ICREA(加泰罗尼亚高等研究院);Universitat Pompeu Fabra(庞培法布拉大学)
开发灵活的人工智能系统的主要障碍之一是基于数据的学习者和基于模型的求解者之间的分裂。求解器,如经典的规划是非常灵活的,可以处理各种问题的实例和目标,但需要一阶的符号模型。另一方面,基于数据的学习器是鲁棒的,但不产生这样的表示。在这项工作中,我们解决这个分裂,显示如何使用的规划者的一阶符号表示可以从非符号输入,编码的状态空间的结构。表示学习问题被公式化为在一个共同但未知的一阶域上推断规划实例的问题,该一阶域解释了所观察到的状态空间的结构。这意味着推断出一个完整的一阶表示(即一般动作模式,关系符号和对象),它解释了观察到的状态空间结构。推理问题被转换为两级组合搜索,其中外层搜索一小组超参数的值,内层通过SAT求解,搜索一阶符号模型。该框架产生一般和正确的一阶表示的标准问题,如夹具,Blocksworld,和河内输入图编码的平面状态空间结构的一个实例。
2020-02-20 cs.AI
Visual Perceptual to Conceptual First-Order Rule Learning Networks
Zhongguancun Academy(中关村学院);Vienna University of Technology (TU Wien)(维也纳技术大学);National Institute of Informatics(国立信息学研究所)
本文提出γILP框架,通过图像常量替换到规则结构归纳的可微流程,解决图像数据中无标签学习规则及自动发明谓词的问题,实验证明其在符号关系数据和图像数据上均表现优异。
2026-04-09 cs.AI cs.LG
A Neuro-Symbolic Approach for Probabilistic Reasoning on Graph Data
Aalborg University(奥尔堡大学);University of Trento(特伦托大学)
本文提出神经符号框架,将GNNs集成到RBNs中,结合二者优势。开发两种集成实现及MAP推理方法,通过节点分类转换和环境规划问题展示通用性,引入新基准数据集,为图数据处理带来新方法,提升多样任务性能。
2026-07-20 cs.AI
Improving Scene Graph Classification by Exploiting Knowledge from Texts
Ludwig Maximilian University of Munich(路德维希·马克西米利安慕尼黑大学)
训练场景图分类模型需要大量带注释的图像数据。同时,场景图表示可以用来自文本或知识图谱的符号数据建模的关系知识。虽然图像注释需要大量的劳动力,但收集自然场景的文本描述需要较少的努力。在这项工作中,我们调查文本场景描述是否可以取代带注释的图像数据。为此,我们采用了一个场景图分类框架,不仅从注释图像,而且从符号数据进行训练。在我们的体系结构中,符号实体首先映射到其对应的基于图像的表示,然后送入关系推理管道。即使知识的结构化形式,如知识图谱中的形式,并不总是可用的,我们可以使用基于transformer的语言模型从非结构化文本中生成它。我们表明,通过使用从文本中提取的知识微调分类管道,我们可以在场景图分类中获得约8倍的准确结果,在对象分类中获得约3倍的准确结果,在谓词分类中获得约1.5倍的准确结果,而监督基线只有1%的注释图像。
2021-10-08 cs.AI cs.CV
Generalization to Novel Objects using Prior Relational Knowledge
Intel AI Lab(英特尔人工智能实验室)
为了解决新环境中的任务,包括在训练过程中看不见的对象,代理必须推理有关这些对象及其关系的先验信息。我们介绍了之前的知识图谱网络,一个架构相结合的先验信息,结构作为一个知识图谱,与一个符号解析的视觉场景,并证明这种方法是能够适用于新的对象,而基线算法失败的学习关系。消融实验表明,代理地面的知识图谱关系的语义相关的行为。在推箱子游戏和更复杂的吃豆人环境中,我们的网络也比基线更有效,在5- 10倍的剧集中达到相同的性能。一旦用我们的方法训练了代理,我们就可以通过以语义上有意义的方式修改知识图谱来操纵代理行为。这些结果表明,我们的网络提供了一个框架,代理的原因结构化知识图谱,同时仍然利用梯度为基础的学习方法。
2019-09-20 cs.AI cs.CL
Embodied Active Learning of Relational State Abstractions for Bilevel Planning
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室)
提出具身主动学习范式,通过在线专家查询学习谓词解释,用于机器人双层规划,在三个环境中优于六个基线,提升样本效率。
2023-06-19 cs.AI cs.LG cs.RO
From Symbolic to Natural-Language Relations: Rethinking Knowledge Graph Construction in the Era of Large Language Models
Walmart Global Tech(沃尔玛全球科技)
本文探讨在大语言模型时代,知识图谱构建应从符号关系转向自然语言关系描述,提出混合设计原则以实现更灵活的关系表示。
2026-01-14 cs.AI cs.CL
kLog: A Language for Logical and Relational Learning with Kernels
Università degli Studi di Firenze(佛罗伦萨大学);KU Leuven(鲁汶大学);Albert-Ludwigs-Universität(阿尔伯特-路德维希大学)
我们介绍kLog,一种新的统计关系学习方法。与标准方法不同,kLog不直接表示概率分布。它更像是一种在表达性逻辑和关系表示上执行基于内核的学习的语言。kLog允许用户以声明的方式指定学习问题。它建立在简单但强大的概念上:从解释中学习,实体/关系数据建模,逻辑编程和演绎数据库。内核对丰富表示的访问是通过一种我们称为图形化的技术来进行的:关系表示首先被转换成一个图-特别是一个接地的实体/关系图。随后,图核的选择定义特征空间。kLog支持混合的数字和符号数据,以及以Prolog或Datalog程序形式存在的背景知识,如归纳逻辑程序设计系统。kLog框架可以应用于处理使统计关系学习如此流行的相同范围的任务,包括分类,回归,多任务学习和集体分类。我们还报告了经验比较,表明kLog可以更准确,或者在相同的精度水平下比Tilde和Alchemy快得多。kLog是GPL v3许可的,可在http://klog.dinfo.unifi.it上获得,并附有教程。
2014-07-28 cs.AI cs.LG cs.PL
Learning Symbolic Operators for Task and Motion Planning
MIT(麻省理工学院)
混合状态和动作空间中的机器人规划问题可以通过集成任务和运动规划器(TAMP)来解决,该规划器处理运动级决策和任务级计划可行性之间的复杂交互。TAMP方法依赖于特定于域的符号运算符来指导任务级搜索,从而使规划高效。在这项工作中,我们形式化和研究的TAMP算子学习的问题。这项研究的核心是认为运营商定义了一个域的过渡模型的有损抽象。然后,我们提出了一个自下而上的关系学习方法的运营商学习,并显示如何学习运营商可以用于规划在TAMP系统。在实验中,我们提供了三个领域的结果,包括长期的机器人规划任务。我们发现我们的方法大大优于几个基线,包括最近文献中的三个基于图神经网络的无模型方法。视频:https://youtu.be/iVfpX9BpBRo代码:https://git.io/JCT0g
2021-07-15 cs.AI cs.LG cs.RO
PO-PDDL: Learning Symbolic POMDPs from Visual Demonstrations for Robot Planning Under Uncertainty
Shanghai Jiao Tong University(上海交通大学);Shanghai Innovation Institute(上海创新研究院)
提出PO-PDDL符号化POMDP框架,通过从机器人执行视频中重建潜在状态轨迹、识别部分可观测性并学习随机转移与观测模型,实现不确定性下的鲁棒任务规划。
2026-08-21 cs.AI cs.RO
Neuro-Symbolic Scene Graph Conditioning for Synthetic Image Dataset Generation
Politecnico di Milano(米兰理工大学)
针对合成数据训练模型性能不足的问题,提出用神经符号场景图条件生成方法提升合成图像数据质量,用于数据集增强可显著提升场景图生成模型的召回率指标,为缓解数据稀缺提供新路径。
2025-03-21 cs.AI cs.CV cs.LG
Graph Learning for Numeric Planning
LAAS-CNRS(法国国家科学研究中心LAAS实验室);University of Toulouse(图卢兹大学);The Australian National University(澳大利亚国立大学)
本文提出面向数值规划的新型图核与启发式学习优化方法,实验表明其比图神经网络更高效、泛化更好,并可媲美领域无关规划器。
2025-01-07 cs.AI
Unsupervised Grounding of Plannable First-Order Logic Representation from Images
IBM Research(IBM研究);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室)
最近,在强化学习社区中,人们对获取环境的关系结构越来越感兴趣。然而,由此产生的“关系”不是离散的,逻辑谓词兼容的符号推理,如经典的规划或目标识别。与此同时,Latplan(Asai and Fukunaga 2018)弥合了深度学习感知系统和符号经典规划器之间的差距。该系统的一个关键组成部分是一个称为状态自动编码器(SAE)的神经网络,它将基于图像的输入编码为与经典规划兼容的命题表示。为了两全其美,我们提出了一阶状态自动编码器,这是一种无监督的架构,用于为一阶逻辑谓词和事实奠定基础。每个谓词通过获取可解释的参数并返回一个命题值来建模对象之间的关系。在使用8-Puzzle和照片般逼真的Blocksworld环境的实验中,我们表明:(1)所得到的谓词捕获了可解释的关系(例如空间),(2)它们有助于获得环境的紧凑,抽象模型,最后,(3)所得到的模型与符号经典规划兼容。
2019-03-27 cs.AI cs.LG
FireGNN: Neuro-Symbolic Graph Neural Networks with Trainable Fuzzy Rules for Interpretable Medical Image Classification
Imperial College London(伦敦帝国学院)
提出FireGNN,将可训练模糊规则融入图神经网络,利用拓扑描述符实现可解释的医学图像分类,在多个基准上性能优异。
2025-10-09 cs.AI cs.CV cs.LG
Multitask Learning on Graph Neural Networks: Learning Multiple Graph Centrality Measures with a Unified Network
Institute of Informatics, UFRGS(UFRGS信息学研究所)
将深度学习应用于符号领域仍然是一项积极的研究工作。图神经网络(GNN)由经过训练的神经模块组成,这些神经模块可以在运行时以不同的拓扑结构排列,是解决关系问题的合理替代方案,这些问题适合于图形表示。在本文中,我们证明了GNN能够进行多任务学习,这可以通过训练模型来改进一组多维嵌入$\in \mathbb{R}^d$并通过在管道末端连接MLP将其解码为多个输出来自然地实施。我们证明了多任务学习能力的模型在相关的关系问题估计网络中心性措施,主要集中在生产排名的基础上,这些措施,即顶点$v_1$更中心比顶点$v_2$给定中心性$c$?然后,我们表明,一个GNN可以训练开发一个\emph{lingua franca}的顶点嵌入,所有相关信息的任何训练中心性措施可以解码。该模型实现了$89\%$的随机实例的测试数据集上的精度高达128顶点,并概括到更大的问题大小。该模型还显示,以获得合理的准确性与高达4k顶点的真实世界的实例的数据集,大大超过了最大的实例,该模型的训练($n=128$)的大小。最后,我们相信我们的贡献证明了GNN在符号领域的潜力,特别是在关系学习中。
2019-11-28 cs.AI cs.LG cs.NE
Logic Tensor Networks
Sony Computer Science Laboratories Inc(索尼计算机科学实验室公司);Sony AI Inc(索尼人工智能公司);City, University of London(伦敦大学城市学院);Fondazione Bruno Kessler(布鲁诺·凯斯勒基金会)
人工智能代理需要从周围环境中学习,并对所学到的知识进行推理,以便做出决策。虽然从数据中学习的最新技术通常使用子符号分布式表示,但推理通常在更高的抽象级别上使用一阶逻辑语言进行知识表示是有用的。因此,将符号AI和神经计算结合到神经符号系统中的尝试正在增加。在本文中,我们提出了逻辑张量网络(LTN),这是一种神经符号形式主义和计算模型,通过引入称为Real Logic的多值、端到端可微分一阶逻辑作为深度学习的表示语言来支持学习和推理。我们表明,LTN提供了一个统一的语言规范和计算的几个AI任务,如数据聚类,多标签分类,关系学习,查询回答,半监督学习,回归和嵌入学习。我们使用TensorFlow 2通过一些简单的示例来实现和说明上述每个任务。关键词:神经符号人工智能,深度学习和推理,多值逻辑。
2021-12-23 cs.AI cs.LG
Enhancing Embedding Representations of Biomedical Data using Logic Knowledge
University of Siena(锡耶纳大学)
知识图谱嵌入(KGE)已经成为一种非常流行的模型,专门设计用于处理本体和图结构数据,因为它们可以隐式地编码潜在空间中实体和关系之间的统计依赖关系。KGE技术对于生物医学领域特别有效,在生物医学领域中,处理生物和化学对象之间的复杂相互作用的大知识图谱是非常常见的。最近在文献中,PharmKG数据集已被提出作为最具挑战性的知识图谱生物医学基准之一,具有基因,疾病和化学品之间的数十万个关系事实。尽管KGE可以扩展到非常大的关系域,但它们通常无法表示事实之间更复杂的关系依赖关系,如逻辑规则,这可能是复杂实验环境中的基础。在本文中,我们利用逻辑规则来增强嵌入表示的KGE的PharmKG数据集。为此,我们采用了关系推理网络(R2N),最近提出的神经符号的方法显示出可喜的成果知识图谱完成任务。R2N使用可用的逻辑规则来构建一个神经架构,在KGE潜在表示上进行推理。在实验中,我们表明,我们的方法能够显着改善PharmKG数据集的当前最先进水平。最后,我们提供了一个消融研究实验比较的效果,根据不同的选择标准和不同的考虑规则的数量的替代规则集。
2023-03-23 cs.AI cs.LG q-bio.QM
Large Language Models as symbolic DNA of cultural dynamics
Human Energy(人类能源);San Francisco VA Medical Center(旧金山退伍军人医疗中心);University of California, San Francisco(加州大学旧金山分校);University of California, Berkeley(加州大学伯克利分校)
本文将大型语言模型概念化为人类文化动态的符号DNA,通过分析压缩、解压缩、外化和递归四个特征,论证其作为外化信息基底保存文化规律并通过人类重新解释催化创造过程,从而定位其为促进文化可进化性和自我反思的工具。
2025-06-20 cs.AI cs.CL cs.CY
Is Neuro-Symbolic AI Meeting its Promise in Natural Language Processing? A Structured Review
Technological University Dublin(都柏林理工大学);SFI Centre for Research Training in Machine Learning(爱尔兰科学基金会机器学习研究培训中心)
神经符号人工智能(NeSy)的倡导者声称,将深度学习与符号推理相结合将导致比任何一种范式本身都更强大的人工智能。尽管深度学习取得了成功,但人们普遍认为,即使是我们最好的深度学习系统也不擅长抽象推理。由于推理与语言有着千丝万缕的联系,因此自然语言处理(NLP)将是NeSy的一个特别合适的候选者。我们进行了结构化审查的研究,实现了NLP的NeSy,目的是回答的问题,是否NeSy确实是满足其承诺:推理,分布外泛化,可解释性,学习和推理小数据,并可转移到新的领域。我们研究了知识表示的影响,如规则和语义网络,语言结构和关系结构,以及是否隐式或显式推理有助于更高的承诺分数。我们发现,将逻辑编译到神经网络中的系统会导致最多的NeSy目标得到满足,而其他因素,如知识表示或神经架构类型,与目标的满足没有明显的相关性。我们发现在如何定义推理方面存在许多差异,特别是与人类水平的推理有关,这影响了关于模型架构的决策,并导致研究结论并不总是一致的。因此,我们主张采取更有条理的方法来应用人类推理理论,并制定适当的基准,我们希望这可以导致更好地了解该领域的进展。我们在GitHub上提供我们的数据和代码以供进一步分析。
2022-06-30 cs.AI cs.CL cs.LG
RPG-AE: Neuro-Symbolic Graph Autoencoders with Rare Pattern Mining for Provenance-Based Anomaly Detection
New York University, NYUAD, Computer Science Department, Division of Science(纽约大学、NYUAD、计算机科学系、科学学院)
RPG-AE通过结合图自编码器与罕见模式挖掘,提升基于溯源的异常检测效果和可解释性。
2026-02-15 cs.AI cs.CR cs.LG
Disentangling Long-Term Memory via Latent Neuro-Symbolic Reasoning
Tencent Youtu Lab(腾讯优图实验室);Zhejiang Key Laboratory of Industrial Intelligence and Digital Twin, EIT, Ningbo, China(浙江省工业智能与数字孪生重点实验室);Department of Computing, The Hong Kong Polytechnic University, Hong Kong, China(香港理工大学计算学系);Shenzhen Loop Area Institute, Shenzhen, China(深圳市环区研究所)
本文提出LGM神经符号框架,通过潜在图构建与稀疏自编码器解缠长期记忆,实现查询感知的个性化推理,在基准上显著超越现有方法。
2026-09-21 cs.AI cs.CL cs.LG
Enhancing Small Language Models Reasoning through Knowledge Graph Grounding
Institute of Informatics and Telecommunications, National Center for Scientific Research “Demokritos(信息与电信研究所,国家科学研究中心“德谟克利特”)
研究利用神经符号智能框架增强小型语言模型推理能力,通过特定工具调用转变模型,在两种场景下评估,发现虽提示提升性能,但受提取瓶颈等限制,还存在“干扰效应”,刻画了挑战并提供迭代验证路线图。
2026-07-17 cs.AI cs.LG
A logical re-conception of neural networks: Hamiltonian bitwise part-whole architecture
Dartmouth College(达特茅斯学院)
本文提出了一种基于哈密顿量的位部分整体架构,通过低精度算术实现关系编码,生成具有符号计算特征的表示,能处理标准神经网络任务并提升高层次语义表示能力。
2026-02-04 cs.AI cs.LG cs.NE
Grounding Vision and Language to 3D Masks for Long-Horizon Box Rearrangement
本文提出RAMP-3D模型,通过3D遮罩的序列预测实现长周期3D箱子整理任务,优于2D VLM基线,证明基于遮罩的反应策略在长周期规划中的潜力。
2026-03-24 cs.AI cs.RO
Hilbert-Geo: Solving Solid Geometric Problems by Neural-Symbolic Reasoning
Xi’an Jiaotong-Liverpool University(西安交通大学利物浦大学);Ricoh Software Research Center Beijing Co.,Ltd(Ricoh 软件研究中心北京有限公司)
提出Hilbert-Geo框架和Parse2Reason方法,利用条件描述语言和定理库实现立体几何问题的严格推理,在SolidFGeo2k和MathVerse-Solid上达到SOTA性能。
2026-06-18 cs.AI cs.CL cs.CV