SYNAPSE: Neuro-Symbolic Visual Thought-to-Text Decoding via Topological Semantic Denoising
School of Information University of Texas at Austin(信息学院德克萨斯大学奥斯汀分校)
提出SYNAPSE框架,利用常识图结构和潜在样本进行推理时符号正则化,稳定脑电到文本解码中的语义生成,无需微调大语言模型。
2026-09-01 cs.LG
Gram-Space: Structure-Preserving Codebook Compression for Memory-Efficient Neuro-Symbolic AI
University of California Riverside(加州大学河滨分校)
本文提出Gram-Space压缩框架,通过格拉姆-施密特正交化保留VSA所需点积结构,可降低神经符号AI模型GPU内存使用与推理延迟,提升硬件利用率。
2026-08-04 cs.LG
Probing the Latent World: Emergent Discrete Symbols and Physical Structure in Latent Representations
PARRAWA AI(PARRAWA人工智能)
本文提出AIM框架,通过被动量化探针探测V-JEPA 2潜在表示中的离散符号序列,揭示潜在空间的紧凑性及结构化符号 manifold 的可发现性。
2026-03-20 cs.AI cs.CV cs.LG
NeuroSynt: A Neuro-symbolic Portfolio Solver for Reactive Synthesis
Stanford University(斯坦福大学);CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心);X, the moonshot factory(X,登月工厂)
本研究提出神经符号组合求解器框架NeuroSynt,通过无缝集成神经与符号方法、搭配模型检验器保障可靠性,可扩展集成新方法,实验证明其能提升反应式综合求解性能并在SYNTCOMP基准中实现新突破。
2024-01-29 cs.LG cs.LO
Neuro-Symbolic Artificial Intelligence: Current Trends
Kansas State University(堪萨斯州立大学)
神经符号人工智能--符号方法与基于人工神经网络的方法的结合--有着悠久的历史。在这篇文章中,我们提供了一个结构化的概述目前的趋势,通过分类最近的出版物从关键会议。这篇文章的目的是作为一个方便的起点,研究一般性的主题。
2021-05-14 cs.AI cs.LG
Neuro-Symbolic Continual Learning: Knowledge, Reasoning Shortcuts and Concept Rehearsal
University of Trento(特伦托大学);University of Pisa(比萨大学);University of Modena and Reggio Emilia(摩德纳-雷焦艾米利亚大学)
针对神经符号持续学习中现有方法易灾难性遗忘、易出现推理捷径的问题,提出概念级持续学习策略COOL,在三个新基准上实现了其他策略无法达到的持续高性能。
2023-12-19 cs.AI cs.LG
Neuro-symbolic Neurodegenerative Disease Modeling as Probabilistic Programmed Deep Kernels
Latent Sciences
我们提出了一种概率编程深度内核学习方法,用于神经退行性疾病的个性化预测建模。我们的分析考虑了一系列神经和符号机器学习方法,我们评估了这些方法的预测性能和重要的医疗AI属性,如可解释性、不确定性推理、数据效率和利用领域知识。我们的贝叶斯方法将高斯过程的灵活性与神经网络的结构能力相结合,以模拟生物标志物的进展,而不需要临床标签进行训练。我们对阿尔茨海默病的预测问题进行了评估,在预测神经退行性疾病的准确性和及时性方面都超过了深度学习,并且具有贝叶斯非参数和概率编程的实际优势。
2021-01-12 cs.LG stat.ML
NeuroShield: A Neuro-Symbolic Framework for Adversarial Robustness
University of Illinois Chicago(伊利诺伊大学香槟分校);Department of Electrical and Computer Engineering(电气与计算机工程系);Department of Computer Science(计算机科学系)
NeuroShield通过整合符号规则监督提升深度神经网络的对抗鲁棒性和可解释性,其方法在对抗攻击测试中表现出显著优势。
2026-01-19 cs.ET cs.LG
pix2rule: End-to-end Neuro-symbolic Rule Learning
Imperial College London, United Kingdom(伦敦帝国理工学院)
人类有能力将低级视觉输入与高级符号推理无缝结合起来,通常以识别对象,学习它们之间的关系和应用规则的形式。神经符号系统的目标是为视觉处理和抽象推理分别带来一个统一的方法,以连接主义和逻辑为基础的原则。本文提出了一种完整的神经符号方法,用于将图像处理为对象,以端到端的方式学习关系和逻辑规则。主要贡献是深度学习架构中的可区分层,可以通过修剪和阈值化来提取符号关系和规则。我们评估我们的模型使用两个数据集:子图同构任务的符号规则学习和图像分类域的复合关系的学习对象,关系和规则。我们证明了我们的模型超越了最先进的符号学习器,并且优于深度关系神经网络架构。
2022-02-28 cs.AI cs.LG
Neuro-Symbolic Decoding of Neural Activity
Columbia University(哥伦比亚大学);Stanford University(斯坦福大学)
NEURONA通过结合符号推理与fMRI基础,提升神经活动解码的准确性和泛化能力。
2026-02-22 cs.AI cs.LG q-bio.NC
Neuro-Symbolic Generative Art: A Preliminary Study
Adobe(奥多比公司);Georgia Tech(佐治亚理工学院);Facebook AI Research(Facebook人工智能研究院)
生成艺术方法有两类:神经的,其中训练深度模型以从数据分布中生成样本,以及符号或算法的,其中艺术家设计主要参数,并且自治系统在这些约束内生成样本。在这项工作中,我们提出了一个新的混合流派:神经符号生成艺术。作为初步研究,我们训练生成的深度神经网络的样本从符号的方法。我们通过人类研究表明,受试者发现最终的文物和创造过程中使用我们的神经符号的方法比符号的方法更有创造力的时间分别为61%和82%。
2020-07-04 cs.AI cs.CV cs.LG
Neuro-Symbolic VQA: A review from the perspective of AGI desiderata
人工智能和机器学习领域的最终目标是通用人工智能(AGI);尽管这样的系统仍然是科幻小说,但各种模型都展示了AGI的各个方面。在这项工作中,我们期待在神经符号(NS)的方法,视觉问答(VQA)的角度AGI desiderata。我们看到这些系统如何很好地满足这些需求,以及这些需求如何经常将科学家拉向相反的方向。我希望通过这项工作,我们可以通过讨论这些系统的属性及其未来扩展的潜力来调整基准上的模型评估。
2021-04-13 cs.CV cs.LG
A Neuro-vector-symbolic Architecture for Solving Raven's Progressive Matrices
IBM Research – Zurich(IBM苏黎世研究院);ETH Zürich(苏黎世联邦理工学院)
无论是深度神经网络还是符号人工智能,都没有达到人类所表达的那种智能。这主要是因为神经网络无法分解联合表示以获得不同的对象(所谓的绑定问题),而符号人工智能则遭受详尽的规则搜索等问题。这两个问题在神经符号人工智能中仍然很突出,其目的是将两种范式中的最佳结合起来。在这里,我们表明,这两个问题可以解决我们提出的神经矢量符号架构(NVSA),利用其强大的运营商的高维分布式表示,作为一个共同的语言之间的神经网络和符号AI。NVSA的有效性通过求解Raven渐进矩阵数据集来证明。与最先进的深度神经网络和神经符号方法相比,NVSA的端到端训练在RAVEN数据集中达到了87.7%的平均准确率,在I-RAVEN数据集中达到了88.1%的新记录。此外,与神经符号方法中的符号推理相比,NVSA的概率推理在分布式表示上具有更便宜的操作,快了两个数量级。我们的代码可在https://github.com/IBM/neuro-vector-symbolic-architectures上获得。
2023-03-03 cs.AI cs.CV cs.LG
Neuro-symbolic Action Masking for Deep Reinforcement Learning
Utrecht University(乌得勒支大学)
NSAM通过自动学习符号模型与深度策略优化结合,提升深度强化学习的样本效率并减少约束违规。
2026-02-11 cs.AI cs.LG
neuROSym: Deployment and Evaluation of a ROS-based Neuro-Symbolic Model for Human Motion Prediction
School of Computer Science, University of Lincoln(林肯大学计算机科学学院);Dept. of Information Engineering, University of Padua(帕多瓦大学信息工程系)
本文提出基于 ROS 的 neuROSym 软件包,将 NeuroSyM 神经符号运动预测架构部署到 TIAGo 机器人,并在线对比 SGAN,验证其在准确率和运行时上的总体优势。
2024-06-24 cs.LG cs.RO
Neuro-Symbolic AI: Explainability, Challenges, and Future Trends
Texas Tech University(德克萨斯理工大学)
针对神经网络可解释性不足的问题,本文基于191项神经符号AI研究提出五类可解释性分类法,分析三大挑战,并为未来研究提出建议。
2024-11-07 cs.AI cs.LG
Advanced Weakly-Supervised Formula Exploration for Neuro-Symbolic Mathematical Reasoning
The University of Tokyo(东京大学)
针对神经符号推理中中间标签难获取且大模型生成指令不可靠的问题,提出利用问题输入与最终输出的弱监督来探索中间标签的高级方法,并在 Mathematics 数据集上验证了其有效性。
2025-02-02 cs.AI cs.LG
Softened Symbol Grounding for Neuro-symbolic Systems
Nanjing University(南京大学);Birkbeck, University of London(伦敦大学伯克贝克学院)
本文提出软化符号接地框架,通过 Boltzmann 分布建模、结合 projection 与 SMT solvers 的 MCMC 采样及退火机制,统一神经训练与符号推理,并在三类任务上突破现有方法边界。
2024-03-01 cs.AI cs.LG
Neuro-Symbolic Artificial Intelligence: Towards Improving the Reasoning Abilities of Large Language Models
National Key Laboratory for Novel Software Technology, Nanjing University, China(国家新型软件技术重点实验室,南京大学,中国);School of Artificial Intelligence, Nanjing University, China(人工智能学院,南京大学,中国);School of Intelligence Science and Technology, Nanjing University, China(智能科学与技术学院,南京大学,中国)
本文系统综述了利用神经符号方法提升大语言模型推理能力的最新进展,从Symbolic->LLM、LLM->Symbolic和LLM+Symbolic三个视角梳理方法,并讨论关键挑战与未来方向。
2025-08-19 cs.AI cs.LG
Neuro-Symbolic Reasoning Shortcuts: Mitigation Strategies and their Limitations
University of Trento(特伦托大学);University of Pisa(比萨大学)
神经符号预测器学习从子符号输入到更高级别概念的映射,然后对这个中间表示进行(概率)逻辑推理。这种设置在与符号先验知识的一致性方面提供了明显的优势,并且通常被认为提供了可解释性的好处,因为-凭借遵守知识-所学习的概念可以被人类利益相关者更好地理解。然而,最近的研究表明,这种设置受到推理捷径的影响,从而通过利用具有非预期语义的概念来实现高准确性,从而产生差的分布性能并损害可解释性。在这篇简短的论文中,我们建立了推理捷径和最优的损失函数之间的正式联系,并确定推理捷径可能出现的情况。在此基础上,我们讨论了自然缓解策略,如重建和概念监督的局限性。
2023-03-22 cs.AI cs.LG
Bridging the Gap: Representation Spaces in Neuro-Symbolic AI
Texas Tech University(德克萨斯理工大学)
本文通过四级分类框架分析191项研究,定义表示空间、信息模态、符号逻辑及协作策略,并详析46项研究,旨在弥合神经符号AI的表示差异。
2024-11-07 cs.AI cs.LG
Semantic Probabilistic Layers for Neuro-Symbolic Learning
UCLA(加州大学洛杉矶分校);University of Trento(特伦托大学);University of Edinburgh(爱丁堡大学)
我们为结构化输出预测(SOP)设计了一个预测层,它可以插入任何神经网络,保证其预测与一组预定义的符号约束一致。我们的语义概率层(SPL)可以在结构化的输出空间上对复杂的相关性和硬约束进行建模,同时通过最大似然进行端到端学习。SPL以一种干净和模块化的方式将精确的概率推理与逻辑推理相结合,学习复杂的分布并将其支持限制在约束的解决方案上。因此,他们可以忠实地,有效地,模型复杂的SOP任务超出了替代神经符号的方法。我们的经验表明,SPL优于这些竞争对手在具有挑战性的SOP任务,包括分层多标签分类,寻路和偏好学习的准确性,同时保持完美的约束满足。
2022-06-01 cs.AI cs.LG
Conceptual Views of Neural Networks: A Framework for Neuro-Symbolic Analysis
本文提出概念视角框架,用于解释神经网络,通过实验展示其在模型比较和规则学习中的有效性。
2026-03-15 cs.AI cs.CV cs.LG
Semantic Strengthening of Neuro-Symbolic Learning
最近提出了许多神经符号方法,其目标通常是将符号知识添加到神经网络的输出层。理想情况下,这种损失最大化了神经网络的预测满足基础域的概率。不幸的是,这种类型的概率推理通常在计算上是不可行的。因此,神经符号的方法通常诉诸于模糊近似的概率目标,牺牲声音的概率语义,或采样是很少可行的。我们首先假设约束分解以网络学习的特征为条件来处理这个问题。我们迭代地加强我们的近似,恢复之间的依赖关系的约束最负责降低近似的质量。这对应于计算以网络的学习特征为条件的约束对之间的互信息,并且可以被解释为两个分布的梯度对齐程度的度量。我们将展示如何有效地计算易处理的电路。我们在三个任务上测试我们的方法:预测魔兽争霸中的最小成本路径,预测最小成本完美匹配,以及解决数独难题,观察到它在基线上有所改进,同时避开了棘手问题。
2023-02-28 cs.AI cs.LG
Neuro-Symbolic Hierarchical Rule Induction
Shanghai Jiao Tong University(上海交通大学)
提出了一种有效的可解释神经符号模型来解决归纳逻辑程序设计(ILP)问题。在这个模型中,它是建立在一组元规则组织在一个层次结构,一阶规则是通过学习嵌入匹配的事实和身体谓词的元规则。为了实例化它,我们专门设计了一组富有表达力的通用元规则,并证明它们会生成Horn子句的结果片段。在训练过程中,我们注入一个受控的\pw{Gumbel}噪声,以避免局部最优值,并采用可解释性正则化项,以进一步引导收敛到可解释的规则。我们根据经验验证了我们的模型对各种任务(ILP,视觉基因组,强化学习)对几个国家的最先进的方法。
2021-12-26 cs.AI cs.LG
Using Meta-Knowledge Mined from Identifiers to Improve Intent Recognition in Neuro-Symbolic Algorithms
IBM Research - Brazil(IBM巴西研究院)
在本文中,我们将探讨使用嵌入在意图标识符的元知识,以提高会话系统中的意图识别。正如对数千个现实世界聊天机器人的分析以及对专业聊天机器人策展人的采访所证明的那样,开发人员和领域专家倾向于通过使用原型分类来识别聊天机器人意图来组织聊天机器人意图集,即,元知识连接不同意图之间共享的高级符号概念。通过使用神经符号算法,能够将这样的原型分类法,以扩大意图表示,我们表明,这种挖掘的元知识可以提高意图识别的准确性。在一个包含数百个专业聊天机器人的意图和示例话语的数据集中,当我们应用这些算法时,与没有元知识的相同算法的基线相比,我们看到近三分之一的聊天机器人的相等出错率(EER)提高了10%以上。事实证明,元知识在检测范围外的话语时更加相关,在大约一半的聊天机器人中,错误接受率(FAR)降低了20%以上。实验表明,这样的符号元知识结构可以有效地挖掘和使用的神经符号算法,显然是通过纳入学习过程中的更高层次的结构的问题正在解决。基于这些结果,我们还讨论了如何使用挖掘的元知识可以是神经符号算法的知识获取的挑战的答案。
2020-12-16 cs.CL cs.LG
Neuro-Symbolic Traders: Assessing the Wisdom of AI Crowds in Markets
Simudyne Limited(Simudyne有限公司)
本文提出神经符号交易者,利用视觉-语言模型和随机微分方程建模资产价值,在虚拟市场中测试其对价格动态的影响,发现会导致价格抑制并威胁市场稳定性。
2024-10-18 cs.LG q-fin.CP
Neuro-Symbolic Imitation Learning: Discovering Symbolic Abstractions for Skill Learning
Intelligent Autonomous Systems, TU Darmstadt, Germany(图腾达姆施塔特大学智能自主系统研究所);German Research Center for AI, Germany(德国人工智能研究中心);Hessian Centre for Artificial Intelligence, Germany(黑森州人工智能中心);Honda Research Institute EU, Germany(本田欧洲研究院)
本文提出一种神经符号模仿学习框架,通过学习符号表示将任务分解为子任务并利用符号规划生成抽象计划,进而学习神经技能将其转化为机器人命令,在模拟环境中提升了数据效率、泛化能力和可解释性。
2025-11-03 cs.AI cs.LG cs.RO
Learning Neuro-Symbolic Skills for Bilevel Planning
MIT Computer Science and Artificial Intelligence Laboratory(麻省理工学院计算机科学与人工智能实验室)
在机器人环境中,决策具有连续的以对象为中心的状态,连续的动作,长视野和稀疏反馈。分层方法,如任务和运动规划(TAMP),通过将决策分解为两个或更多个抽象级别来解决这些挑战。在给出演示和符号谓词的环境中,之前的工作已经展示了如何使用手动设计的参数化策略学习TAMP的符号运算符和神经采样器。我们的主要贡献是学习参数化的政策,结合运营商和采样器的方法。这些组件被打包成模块化的神经符号技能,并与搜索然后采样的TAMP一起排序,以解决新的任务。在四个机器人领域的实验中,我们证明了我们的方法-神经符号技能的双层规划-可以解决各种不同初始状态,目标和对象的任务,优于六个基线和消融。视频:https://youtu.be/PbFZP8rPuGg代码:https://tinyurl.com/skill-learning
2022-10-12 cs.AI cs.LG cs.RO
Neuro-symbolic Models for Interpretable Time Series Classification using Temporal Logic Description
Rensselaer Polytechnic Institute(伦斯勒理工学院);IBM T.J. Watson Research Center(IBM托马斯·J·沃森研究中心);IBM Research(IBM研究院)
现有的时间序列分类模型大多缺乏可解释性,难以检验。可解释的机器学习模型可以帮助发现数据中的模式,并为领域专家提供易于理解的见解。在这项研究中,我们提出了神经符号时间序列分类(NSTSC),一个神经符号模型,利用信号时序逻辑(STL)和神经网络(NN)完成TSC任务,使用多视图数据表示,并表示该模型作为一个人类可读的,可解释的公式。在NSTSC中,每个神经元都链接到一个符号表达式,即,STL(sub)公式。因此,NSTSC的输出可以解释为类似于自然语言的STL公式,描述隐藏在数据中的时间和逻辑关系。我们提出了一个基于NSTSC的分类器,采用决策树的方法来学习公式结构,完成多类TSC任务。所提出的wSTL平滑激活函数允许以端到端的方式学习模型。我们在来自小鼠的真实伤口愈合数据集和来自UCR时间序列库的基准数据集上测试NSTSC,证明NSTSC实现了与最先进模型相当的性能。此外,NSTSC可以生成与领域知识相匹配的可解释公式。
2022-09-15 cs.AI cs.LG
A Learnability Analysis on Neuro-Symbolic Learning
National Key Laboratory for Novel Software Technology, Nanjing University(南京大学计算机软件新技术国家重点实验室);School of Artificial Intelligence, Nanjing University(南京大学人工智能学院)
该研究分析混合系统中神经符号任务的可学习性,提出用导出约束满足问题的解的唯一性判定可学习性,建立可学习任务的误差界并分析通用任务的渐近误差,为可学习性判定与算法设计提供理论支撑。
2025-03-21 cs.AI cs.LG
Deciphering Raw Data in Neuro-Symbolic Learning with Provable Guarantees
Nanjing University(南京大学)
本文提出一种刻画知识库监督信号的新方法并建立可学习性判定准则,首次从理论上解释神经符号混合系统何时成功或失败,并通过基准实验验证其有效性。
2024-01-23 cs.AI cs.LG
SJEPA: Learning Elegant Latent Dynamics with Hybrid Symbolic-Neural Predictors
SJEPA是一种无重构的JEPA框架,结合符号定律与神经修正学习简洁潜在动力学,在受控摆实验中展现更优性能,揭示了多目标间的可控权衡。
2026-08-06 cs.AI cs.LG
The Role of Foundation Models in Neuro-Symbolic Learning and Reasoning
IBM Research Europe(IBM欧洲研究院);Imperial College London(伦敦帝国学院);ILASP Limited(ILASP有限公司);ICREA-Universitat Pompeu Fabra(ICREA-庞培法布拉大学)
本文提出NeSyGPT架构,利用基础模型提取符号特征并学习答案集程序,提升神经符号推理的性能与可扩展性,同时减少标注和人工工程。
2024-02-02 cs.AI cs.LG
Neuro-Symbolic Learning for Galois Groups: Unveiling Probabilistic Trends in Polynomials
Oakland University(奥克兰大学)
本文提出神经符号方法,结合神经网络与符号推理分类多项式伽罗瓦群,在53,972个六次多项式上发现新分布趋势,优于纯数值方法,为计算代数与概率猜想奠定基础。
2025-02-28 cs.AI cs.LG
Neuro-Symbolic Bi-Directional Translation -- Deep Learning Explainability for Climate Tipping Point Research
Johns Hopkins University Applied Physics Laboratory(约翰斯·霍普金斯大学应用物理实验室);Johns Hopkins University(约翰斯·霍普金斯大学)
本文提出神经符号双向翻译方法NS-QAPT,通过编码器-解码器架构连接气候科学家与深度学习模型,实现气候临界点发现的可解释性,并在AMOC崩溃案例中展示初步成果。
2023-06-19 cs.AI cs.LG
Neuro-Symbolic Scene Graph Conditioning for Synthetic Image Dataset Generation
Politecnico di Milano(米兰理工大学)
针对合成数据训练模型性能不足的问题,提出用神经符号场景图条件生成方法提升合成图像数据质量,用于数据集增强可显著提升场景图生成模型的召回率指标,为缓解数据稀缺提供新路径。
2025-03-21 cs.AI cs.CV cs.LG
Neuro-Symbolic Reinforcement Learning with First-Order Logic
IBM Research(IBM研究院)
深度强化学习(RL)方法在收敛之前通常需要多次试验,并且不提供训练策略的直接可解释性。为了实现快速收敛和可解释的策略在强化学习,我们提出了一种新的基于文本的游戏强化学习方法与最近的神经符号框架称为逻辑神经网络,它可以学习符号和可解释的规则在其可微网络。该方法首先从文本观察和外部词义网络(ConceptNet)中提取一阶逻辑事实,然后在网络中用可直接解释的逻辑算子训练策略。我们的实验结果表明,在TextWorld基准测试中,使用该方法进行RL训练的收敛速度明显快于其他最先进的神经符号方法。
2021-10-21 cs.AI cs.CL cs.LG
Neuro-symbolic Learning Yielding Logical Constraints
State Key Lab of Novel Software Technology, Nanjing University(南京大学计算机软件新技术国家重点实验室);University of Toronto(多伦多大学);Birkbeck, University of London(伦敦大学伯贝克学院)
针对神经符号系统难以端到端学习的问题,提出融合神经网络训练、符号接地与逻辑约束综合的框架,通过凸差分规划、基数约束和信赖域方法实现精确高效学习。
2024-10-28 cs.AI cs.LG
Ontology-Guided Neuro-Symbolic Inference: Grounding Language Models with Mathematical Domain Knowledge
Advanced Institute for Artificial Intelligence (AI2)(人工智能研究院)
本研究通过引入形式化数学本体,提升语言模型在数学推理任务中的可靠性,验证了神经符号方法在增强形式化 grounding 方面的潜力与挑战。
2026-09-02 cs.AI cs.LG cs.SC
Scalable and Efficient Joint Spiking Embedding Predictive Architecture for Large-Scale Dynamic Graphs
Sun Yat-sen University(中山大学)
针对现实世界动态图标记数据稀缺问题,提出SG-JEPA架构,通过沿时间维度划分节点并利用脉冲神经元编码,学习相互预测的嵌入,在节点分类任务中性能优于判别基线,且训练效率和内存可扩展性高。
2026-07-22 cs.LG cs.NE
Neuro-Symbolic AI: An Emerging Class of AI Workloads and their Characterization
The University of Texas at Austin(德克萨斯大学奥斯汀分校);The University of Texas at San Antonio(德克萨斯大学圣安东尼奥分校)
神经符号人工智能是人工智能研究的一个新领域,它试图将传统的基于规则的人工智能方法与现代深度学习技术相结合。神经符号模型已经证明了在图像和视频推理等领域优于最先进的深度学习模型的能力。它们还被证明可以获得高精度,而训练数据比传统模型少得多。由于该领域的出现和发表的结果相对稀疏,这些模型的性能特点没有得到很好的理解。在本文中,我们描述和分析了三个最近的神经符号模型的性能特点。我们发现,由于复杂的控制流和低操作强度的操作,如标量乘法和张量加法,符号模型具有较低的潜在并行性比传统的神经模型。然而,在它们明显可分离的情况下,计算的神经方面支配着符号部分。我们还发现,数据移动构成了一个潜在的瓶颈,就像在许多ML工作负载中一样。
2021-09-13 cs.AI cs.LG cs.NE
Deep Explainable Relational Reinforcement Learning: A Neuro-Symbolic Approach
Örebro University(厄勒布鲁大学);KU Leuven(鲁汶大学)
本文提出神经符号框架 DERRL,将符号规划的关系表示、约束与深度学习结合,提取逻辑规则形式的可解释策略,并在多种环境中验证其可迁移与泛化能力。
2023-07-14 cs.AI cs.LG
Learning Neuro-Symbolic Relational Transition Models for Bilevel Planning
MIT Computer Science and Artificial Intelligence Laboratory(麻省理工学院计算机科学与人工智能实验室)
在机器人领域,学习和规划由于连续的状态空间、连续的动作空间和长的任务范围而变得复杂。在这项工作中,我们用神经符号关系转换模型(NSRT)来解决这些挑战,NSRT是一类新型的模型,它具有数据学习效率,与强大的机器人规划方法兼容,并可在对象上推广。NSRT具有符号和神经组件,实现了双层规划方案,其中外循环中的符号AI规划指导内环中的神经模型的连续规划。在四个机器人规划领域的实验表明,NSRT可以在数十或数百次训练后学习,然后用于快速规划新任务,这些任务需要多达60个动作,涉及的对象比训练期间看到的要多得多。视频:https://tinyurl.com/chitnis-nsrts
2022-06-30 cs.AI cs.LG cs.RO
Neuro-symbolic Meta Reinforcement Learning for Trading
APPCAIR, BITS Pilani K.K. Birla Goa Campus(BITS Pilani K.K. Birla Goa校区APPCAIR);TCS Research(塔塔咨询服务研究部);IIT Delhi(印度理工学院德里分校)
我们在金融市场中的短期(如日)交易模型作为一个连续的决策问题的不确定性下,与不断的概念漂移增加的复杂性。因此,我们通过RL2算法采用Meta强化学习。人们还知道,人类交易者经常依赖于价格序列中频繁出现的符号模式。我们采用逻辑程序归纳来发现频繁出现的符号模式,以及最近,并探讨使用这些功能是否提高了我们的Meta强化学习算法的性能。我们报告了在真实数据上的实验,表明元RL比香草RL更好,并且也受益于学习的符号特征。
2023-01-15 cs.AI cs.LG cs.LO
Formal Explanations for Neuro-Symbolic AI
Monash University(莫纳什大学)
本文针对神经符号AI系统行为难以解释的问题,提出一种基于形式化溯因解释的分层解释方法,先解释符号组件以确定需解释的神经输入子集,再独立解释各神经输入,实验证明其在解释规模、时间、训练效率和模型大小等方面优于纯神经系统。
2024-10-18 cs.AI cs.LG cs.LO
Neuro-Symbolic Verification of Deep Neural Networks
Max Planck Institute for Software Systems(马克斯·普朗克软件系统研究所);TU Darmstadt(达姆施塔特工业大学)
形式化验证已成为确保深度神经网络安全性和可靠性的有力手段。然而,目前的验证工具仅限于少数属性,这些属性可以表示为网络输入和输出的一阶约束。虽然对抗鲁棒性和公平性属于这一类,但许多现实世界的属性(例如,“自动驾驶车辆必须在停车标志前停车”)仍然在现有验证技术的范围之外。为了减轻这种严重的实际限制,我们引入了一种新的框架来验证神经网络,命名为神经符号验证。其关键思想是使用神经网络作为逻辑规范的一部分,从而能够验证各种复杂的真实世界属性,包括上面的属性。此外,我们演示了如何神经符号验证可以实现现有的验证基础设施之上的神经网络,使我们的框架很容易访问的研究人员和从业者一样。
2022-03-02 cs.AI cs.LG cs.LO
Reduced Implication-bias Logic Loss for Neuro-Symbolic Learning
Nanjing University(南京大学)
本文针对神经符号学习中模糊逻辑算子引起的蕴含偏差,提出减少蕴含偏差的逻辑损失(RILL),通过转换损失函数提升性能,尤其在知识库不完整和标注数据不足时表现更稳健。
2023-09-25 cs.AI cs.LG cs.LO
A Neuro-Symbolic Framework for Answering Graph Pattern Queries in Knowledge Graphs
University of Antwerp(安特卫普大学);Vrije Universiteit Amsterdam(阿姆斯特丹自由大学);Elsevier(爱思唯尔);Universidad Católica de Chile(智利天主教大学);CENIA Chile(智利CENIA机构);Inst. for Math. and Comp. Eng.(数学与计算工程研究所);IMFD Chile(智利IMFD机构)
提出一种神经符号框架,通过近似方案支持在不完整知识图谱上回答包含循环和存在量词的任意图模式查询,在多数据集上表现具竞争力并扩展了现有模型能力。
2024-06-05 cs.AI cs.DB cs.LG
Unlocking the Potential of Generative AI through Neuro-Symbolic Architectures: Benefits and Limitations
ICB UMR 6303 CNRS(ICB UMR 6303 法国国家科学研究中心);Université Marie et Louis Pasteur(玛丽和路易·巴斯德大学);UTBM(贝尔福-蒙贝利亚尔技术大学);Université Bourgogne Europe(勃艮第欧洲大学);Institut universitaire de France (IUF)(法国大学研究院)
本文系统研究神经符号人工智能(NSAI)架构,分析其整合神经与符号组件的方法及与当代AI技术的对齐情况,通过综合评估揭示各架构优劣势,发现Neuro > Symbolic < Neuro模型表现最优,为生成式AI发展提供参考。
2025-02-16 cs.AI cs.LG cs.SC
Knowledge-enhanced Neuro-Symbolic AI for Cybersecurity and Privacy
University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校);Mississippi State University(密西西比州立大学)
本文探讨神经符号AI结合神经网络与知识图谱,以解决网络安全与隐私领域中对可解释性和安全性的需求,使AI系统能在复杂环境中实现高准确性与专家可理解的推理。
2023-07-25 cs.AI cs.CR cs.CY
Learning Evolved Combinatorial Symbols with a Neuro-symbolic Generative Model
Massachusetts Institute of Technology(麻省理工学院)
人类有能力从有限的数据中快速理解丰富的组合概念。在这里,我们调查这种能力的背景下,听觉信号,这已经演变成一个文化传播实验,研究语言中组合结构的出现。我们提出了一个神经符号生成模型,它结合了以前概念学习方法的优点。我们的模型在神经网络方法上进行快速推理,同时仍然保留了结构化生成方法中有限数据的可解释性和泛化性。该模型在分类上优于纯粹基于神经网络的方法,如针对地面实况和人类实验分类偏好两者评估的,并且还产生观察到的信号的优异再现。我们的研究结果表明,灵活的组合神经符号架构的能力,在原始感知领域的人类一样的泛化,并提供了一个步骤,发展精确的计算模型的归纳偏见在语言进化。
2021-04-16 cs.AI cs.CL cs.LG
NeSTR: A Neuro-Symbolic Abductive Framework for Temporal Reasoning in Large Language Models
National Key Laboratory of Big Data and Decision(大数据与决策国家重点实验室)
NeSTR通过结合符号表示与反思推理,提升大语言模型在复杂时间约束下的推理能力。
2025-12-08 cs.AI cs.CL cs.LG
A Neuro-Symbolic Method for Solving Differential and Functional Equations
University of Waterloo(滑铁卢大学)
当神经网络用于求解微分方程时,它们通常以黑盒函数的形式产生解,这些解在数学上不能直接解释。我们介绍了一种生成符号表达式来求解微分方程的方法,同时利用深度学习训练方法。与现有的方法不同,我们的系统不需要学习符号数学的语言模型,使其可扩展,紧凑,易于适应各种任务和配置。作为该方法的一部分,我们提出了一种新的神经结构,用于学习数学表达式,以优化可定制的目标。该系统的目的是总是返回一个有效的符号公式,生成一个有用的近似时,一个精确的解析解微分方程是不是或不能找到。我们通过例子演示了我们的方法可以应用于一些微分方程,往往获得符号近似是有用的或有见地的。此外,我们展示了如何可以毫不费力地推广到其他数学任务,包括积分和函数方程的符号解决方案的系统。
2020-11-04 cs.AI cs.LG cs.SC