Neural-Symbolic Integration for Interactive Learning and Conceptual Grounding
City, University of London(伦敦大学城市学院)
我们提出了神经-符号积分的抽象概念解释和互动学习。神经符号积分和解释允许用户和领域专家了解大型神经模型的数据驱动决策过程。使用符号逻辑语言查询模型。然后,与用户的交互使用可以被提取到模型架构中的基于逻辑的约束来确认或拒绝神经模型的修订。该方法使用逻辑张量网络框架和概念激活向量来说明,并应用于卷积神经网络。
2022-01-17 cs.AI cs.LG
Transformers to Predict the Applicability of Symbolic Integration Routines
Coventry University(考文垂大学);Maplesoft(Maplesoft公司)
针对计算机代数系统中符号积分方法选择的优化问题,本文训练transformer预测积分方法的适用性,其性能优于现有人工启发式规则,准确率最高提升30%、精确率最高提升70%,且推理时间可忽略,还可通过层集成梯度方法解释决策以支撑后续优化。
2024-10-31 cs.LG cs.SC
Effective Integration of Symbolic and Connectionist Approaches through a Hybrid Representation
IBM Research, Brazil(IBM研究院巴西分部)
在本文中,我们提出了我们的立场neuralsymbolic整合策略,主张有利于混合表示,以促进有效的整合。这种描述从根本上不同于其他描述,因为它的实体旨在表示一般的AI模型,允许描述非符号和符号知识,以及它们与相应处理器之间的集成。此外,实体还支持表示工作流,利用可追溯性来跟踪应用于模型及其相关实体的每个更改(例如,数据或概念)。
2019-12-18 cs.AI cs.LG
DomiKnowS: A Library for Integration of Symbolic Domain Knowledge in Deep Learning
Michigan State University(密歇根州立大学);Sichuan University(四川大学);Florida Institute for Human and Machine Cognition(佛罗里达人类与机器认知研究所)
我们展示了一个用于在深度学习架构中集成领域知识的库。使用这个库,数据的结构通过图形声明以符号形式表示,并且可以将输出或潜在变量的逻辑约束无缝添加到深度模型中。领域知识可以明确定义,这提高了模型的可解释性,以及在低数据状态下的性能和泛化能力。已经引入了几种用于符号和子符号模型的这种集成的方法;然而,没有库来促进以通用方式进行这种集成的编程,同时可以使用各种底层算法。我们的图书馆旨在简化编程,这样的集成在训练和推理阶段,同时分离的知识表示从学习算法。我们展示了各种NLP基准任务及其他。该框架可在Github(https://github.com/HLR/DomiKnowS)上公开获取。
2021-08-27 cs.AI cs.CL cs.LG
Bayesian-Symbolic Integration for Uncertainty-Aware Parking Prediction
School of Information Technology, Deakin University(迪肯大学信息技术学院);Centre for Future Transport and Cities, Coventry University(考文垂大学未来交通与城市中心)
本文提出一种松耦合神经符号框架,结合贝叶斯神经网络与符号推理提升不确定环境下的预测鲁棒性,通过两种混合策略在真实数据中验证,结果表明混合方法优于纯符号推理,并在所有预测窗口中超越LSTM和BNN基线。
2026-03-28 cs.AI cs.LG
Tree-Based Deep Learning for Ranking Symbolic Integration Algorithms
Coventry University(科文特大学)
针对符号不定积分算法选择效率低的问题,提出基于树的深度学习两阶段架构,先识别适用方法再按输出复杂度排序,在保留测试集上达近90%准确率并优于Maple内置选择器。
2025-08-08 cs.LG cs.SC
VecLSTM: Trajectory Data Processing and Management for Activity Recognition through LSTM Vectorization and Database Integration
University of Washington(华盛顿大学)
本文提出VecLSTM框架,通过向量化层优化LSTM处理效率并集成到MySQL中,在146万余条轨迹样本上取得85.47%测试准确率,训练时间减少26.2%。
2024-09-28 cs.AI cs.DB cs.LG
Neural-Symbolic Integration with Evolvable Policies
CYENS Centre of Excellence(CYENS卓越中心);Open University of Cyprus(塞浦路斯开放大学)
本文提出了一种通过进化过程同时学习非可微符号策略和神经网络权重的神经符号整合框架,实现了在无领域专家知识时的有效策略学习。
2026-01-08 cs.LG cs.NE
A computational framework for physics-informed symbolic regression with straightforward integration of domain knowledge
Tel Aviv University(特拉维夫大学);University College London(伦敦大学学院)
发现一个有意义的符号表达式来解释实验数据是许多科学领域的一个基本挑战。我们提出了一个新的,开源的计算框架,称为科学家机器方程检测器(SciMED),它集成了科学学科的智慧在科学家的循环方法,与国家的最先进的符号回归(SR)方法。SciMED将基于遗传算法的包装器选择方法与自动机器学习和两级SR方法相结合。我们测试SciMED的五种配置的沉降球,有和没有空气动力学非线性阻力,并在测量中有过多的噪音。我们表明,SciMED是足够强大的数据中发现正确的物理意义的符号表达式,并展示了领域知识的整合如何提高其性能。我们的研究结果表明更好的性能,这些任务比国家的最先进的SR软件包,即使在没有知识的情况下是集成的。此外,我们演示了SciMED如何提醒用户可能丢失的功能,不像大多数当前的SR系统。
2023-01-23 cs.CE cs.HC cs.IR
Neural-Symbolic Integration: A Compositional Perspective
Samsung Research(三星研究院);Open University of Cyprus(塞浦路斯开放大学);Research Center on Interactive Media, Smart Systems, and Emerging Technologies(互动媒体、智能系统与新兴技术研究中心)
尽管神经符号框架的发展取得了重大进展,但如何以\emph{compositional}的方式整合神经系统和符号系统的问题仍然是开放的。我们的工作旨在填补这一空白,将这两个系统视为黑盒子,作为模块集成到一个单一的体系结构中,而不对它们的内部结构和语义进行假设。相反,我们只期望每个模块公开某些方法来访问模块实现的函数:符号模块公开一个演绎方法来计算给定输入的函数输出,以及一个溯因方法来计算给定输出的函数输入;神经模块暴露用于在给定输入上计算函数的输出的演绎方法,以及在给定输入输出训练实例的情况下更新函数的归纳方法。然后,我们能够证明,一个符号模块--只要暴露演绎和溯因方法,就可以选择任何语法和语义--可以干净地与神经模块集成,并促进后者的有效训练,实现超过以前工作的经验性能。
2020-10-22 cs.AI cs.LG
An LSTM-Based Chord Generation System Using Chroma Histogram Representations
University of Oslo(奥斯陆大学)
本文提出基于 LSTM 并以色度直方图表示训练的和弦生成系统,可在低维表示下产生和声更丰富且具终止关系的自然音和弦,适合有限实时应用。
2024-05-08 cs.LG cs.SD eess.AS
Simple and Effective Transfer Learning for Neuro-Symbolic Integration
Fondazione Bruno Kessler(布鲁诺·凯塞勒基金会);TU Wien(维也纳工业大学)
针对神经符号集成方法收敛慢、复杂感知任务学习难等问题,提出先预训练神经模型再迁移感知部分权重的训练策略,在多种SOTA方法和数据集上实现了性能的持续提升。
2024-07-15 cs.AI cs.LG
Differentiable Tree Operations Promote Compositional Generalization
Johns Hopkins University(约翰斯·霍普金斯大学);Mila(米拉研究所);Université de Montreal(蒙特利尔大学);University of Edinburgh(爱丁堡大学);Microsoft Research(微软研究院)
本文提出可微树解释器与DTM架构,将离散树操作转为可微张量计算并端到端学习操作序列,在合成语义解析和语言生成的分布外组合泛化上达到100%,显著优于现有基线且保持可解释性。
2023-06-01 cs.CL cs.LG
Dual Embodied-Symbolic Concept Representations for Deep Learning
IBM(IBM(国际商业机器公司))
基于认知神经科学的最新研究结果,我们主张使用双层次模型进行概念表征:具体层次由面向概念的特征表征组成,符号层次由概念图组成。概念表示是模态特定的,并且在特征空间中以特征向量的形式存在。另一方面,符号概念表示是非模态的和语言特定的,并且以词/知识图嵌入概念/知识空间的形式存在。人类的概念系统包括具体的表征和符号表征,它们通常相互作用以驱动概念处理。因此,我们进一步提倡使用双重符号化概念表示进行深度学习。为了证明它们的使用和价值,我们讨论了两个重要的用例:用于Few-Shot类增量学习的符号化知识蒸馏,以及用于图像-文本匹配的符号化融合表示。双符号概念表示是深度学习和符号AI集成的基础。我们讨论了两个重要的例子,这种集成:场景图生成与知识图桥接,和多模态知识图谱。
2022-03-01 cs.AI cs.LG
Integration of LSTM Networks in Random Forest Algorithms for Stock Market Trading Predictions
Centro de Investigación Operativa, Universidad Miguel Hernández(运营研究中心,米格尔·赫尔内兹大学)
本文提出将LSTM网络与随机森林结合,利用基本面和技术变量提升股票市场交易预测性能。
2025-11-20 cs.AI cs.LG q-fin.CP
NeuroSynt: A Neuro-symbolic Portfolio Solver for Reactive Synthesis
Stanford University(斯坦福大学);CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心);X, the moonshot factory(X,登月工厂)
本研究提出神经符号组合求解器框架NeuroSynt,通过无缝集成神经与符号方法、搭配模型检验器保障可靠性,可扩展集成新方法,实验证明其能提升反应式综合求解性能并在SYNTCOMP基准中实现新突破。
2024-01-29 cs.LG cs.LO
Pretrained Language Models are Symbolic Mathematics Solvers too!
Sharif University of Technology(谢里夫理工大学);University of Tartu(塔尔图大学);University of South Carolina(南卡罗来纳大学)
解决符号数学一直是人类智慧的舞台,需要组合推理和递归。然而,最近的研究表明,像Transformers这样的大规模语言模型是通用的,并且令人惊讶的是,它可以作为序列到序列的任务来训练,以解决复杂的数学方程。这些大型的Transformer模型需要大量的训练数据来推广到看不见的符号数学问题。在本文中,我们提出了一种解决符号任务的有效方法,首先通过语言翻译预训练Transformer模型,然后微调预训练的Transformer模型来解决符号数学的下游任务。我们使用我们的预训练模型在集成任务上实现了相当的准确性,同时使用了大约$1.5$数量级的训练样本,相对于最先进的符号数学深度学习。与积分相比,微分方程任务的测试准确度要低得多,因为它们需要更高阶的递归,而这些递归在语言翻译中是不存在的。我们从Anna Karenina Principle(AKP)中提出了预训练语言模型的泛化性。我们用不同的语言翻译对模型进行预训练。我们的研究结果表明,在解决符号数学任务的语言偏见。最后,我们研究了微调模型对分布偏移的符号数学任务的鲁棒性,并且我们的方法在函数集成的分布偏移场景中具有更好的推广性。
2023-03-14 cs.CL cs.LG stat.ML
Knowledge Integration for Physics-informed Symbolic Regression Using Pre-trained Large Language Models
Department of Computing Jonkoping University(乔恩考普大学计算机系);Department of Information Science University of Haifa(海法大学信息科学系)
针对物理启发符号回归依赖人工特征工程、适配性有限的问题,提出将预训练大语言模型融入符号回归损失函数的方法,经多算法多模型多物理场景验证,可提升方程重建效果与抗噪鲁棒性,且提示工程可进一步优化性能。
2025-09-03 cs.AI cs.IR cs.LG
Visual Categorization Across Minds and Models: Cognitive Analysis of Human Labeling and Neuro-Symbolic Integration
Georgia Institute of Technology(佐治亚理工学院)
本文通过对比人类与AI在低分辨率图像标注中的表现,探讨了认知策略与神经符号整合方法的异同,旨在推动更可解释和认知对齐的AI系统发展。
2025-12-10 cs.AI cs.CV cs.LG
Symbol Grounding Association in Multimodal Sequences with Missing Elements
TU Kaiserslautern(凯泽斯劳滕工业大学);German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心)
在本文中,我们扩展了一个符号关联框架,能够处理多模态序列中丢失的元素。这项工作的一般范围是对象词映射的象征性协会,因为它发生在婴儿的语言发展。换句话说,相同抽象概念的两个不同表示可以在两个方向上关联。这个场景一直是人工智能、心理学和神经科学的兴趣所在。在这项工作中,我们扩展了最近的多模态序列(视觉和音频)的方法,也应付在一个或两个模式的缺失元素。我们的方法使用两个并行的长短期记忆(LSTM)的学习规则的基础上EM算法。它通过动态时间规整(DTW)对齐两个LSTM输出。我们建议包括一个额外的步骤,用于与最大运算的组合,以利用两个序列之间的公共元素。背后的动机是,组合充当条件选择器,用于从两个LSTM中选择最佳表示。我们在以下情况下评估了拟议的扩展:一种模式(视觉或听觉)中的缺失元素和两种模式(视觉和声音)中的缺失元素。我们的扩展的性能比原始模型达到了更好的结果,并且与在每个模态中训练的单个LSTM的结果相似。
2017-12-07 cs.CL cs.CV cs.LG
Integration of Neural Network-Based Symbolic Regression in Deep Learning for Scientific Discovery
Massachusetts Institute of Technology(麻省理工学院);University of Zagreb(萨格勒布大学)
符号回归是一种强大的技术,可以发现描述数据的分析方程,这可以导致训练数据集之外的可解释模型和泛化性。相比之下,神经网络在图像识别和自然语言处理任务上已经达到了惊人的准确度,但通常被视为难以解释的黑箱模型,并且通常推断不佳。在这里,我们使用一种基于神经网络的符号回归架构,称为方程式学习器(EQL)网络,并将其与其他深度学习架构集成,以便整个系统可以通过反向传播进行端到端训练。为了证明这种系统的功能,我们研究了它们在几个基本不同的任务上的性能。首先,我们证明了神经网络可以执行符号回归并学习几个函数的形式。接下来,我们提出了一个MNIST算术任务,其中神经网络的一个单独部分提取数字。最后,我们展示了预测的动态系统,其中一个未知的参数是通过编码器提取。我们发现,与基于标准神经网络的架构相比,基于EQL的架构可以在训练数据集之外进行很好的外推,为深度学习在科学探索和发现中的应用铺平了道路。
2020-08-13 cs.LG cs.NE physics.data-an
An Improved CNN-LSTM Based Intrusion Detection System for IoT Networks
University of Engineering and Technology, Lahore(拉合尔工程与技术大学)
提出一种结合多类分类、数据集集成和时间特征学习的改进CNN-LSTM入侵检测模型,在物联网网络上达到约97%的准确率。
2026-06-04 cs.AI cs.CR cs.LG
Logically Consistent Language Models via Neuro-Symbolic Integration
University of Trento(特伦托大学);University of Edinburgh(爱丁堡大学)
针对LLM易生成非事实信息且推理时自相矛盾的问题,提出基于神经符号推理的损失函数,使模型与外部事实和规则保持逻辑一致,提升自洽性,支持多约束组合,并增强对未见事实知识的系统外推能力。
2024-09-09 cs.AI cs.CL cs.LG
A Probabilistic Neuro-symbolic Layer for Algebraic Constraint Satisfaction
School of Informatics, University of Edinburgh, UK(爱丁堡大学信息学院);DiSI, University of Trento, Italy(特伦托大学迪西研究所)
针对安全关键场景下神经模型难以满足复杂代数约束的问题,提出可无缝嵌入神经架构、可通过最大似然训练的概率代数层PAL,实现非凸代数约束的可靠满足与高效精确的符号积分重归一化。
2025-06-16 cs.LG
Embodied-Symbolic Contrastive Graph Self-Supervised Learning for Molecular Graphs
IBM
双符号概念表示是深度学习和符号AI集成的基础。我们讨论了使用双重符号化概念表示的分子图表示学习,特别是与基于范例的对比自监督学习(SSL)。具体化表示从分子图中学习,符号表示从相应的化学知识图谱(KG)中学习。我们使用化学KG增强分子图与符号(语义)知识,并生成其增强分子图。我们将分子图及其语义增强的分子图视为同一语义类的范例,并在基于范例的对比SSL中将这些对用作正对。
2022-05-13 cs.LG
Better Feature Integration for Named Entity Recognition
Singapore University of Technology and Design(新加坡科技设计大学);DAMO Academy, Alibaba Group(阿里巴巴达摩院);ByteDance(字节跳动)
它已被证明,命名实体识别(NER)可以受益于纳入依赖树捕获的长距离结构化信息。我们认为这是因为两种类型的特征-线性序列捕获的上下文信息和依赖树捕获的结构化信息可以相互补充。然而,现有的方法主要集中在堆叠LSTM和图神经网络(如图卷积网络(GCN))以构建改进的NER模型,其中两种类型的特征之间的确切交互机制不是很清楚,并且性能增益似乎并不显着。在这项工作中,我们提出了一个简单而强大的解决方案,将这两种类型的功能与我们的Synagized-LSTM(Syn-LSTM)结合起来,它清楚地捕捉了这两种类型的功能如何相互作用。我们在四种语言的几个标准数据集上进行了广泛的实验。结果表明,该模型实现了更好的性能比以前的方法,而需要更少的参数。我们的进一步分析表明,与强基线相比,我们的模型可以捕获更长的依赖关系。
2021-04-12 cs.CL cs.LG
Combining Symbolic Expressions and Black-box Function Evaluations in Neural Programs
University of California(加利福尼亚大学);California Institute of Technology(加州理工学院)
神经编程涉及训练神经网络从数据中学习程序、数学或逻辑。以往的工作未能取得良好的泛化性能,特别是在问题和程序的高复杂性或大型域。这是因为它们主要依赖于不捕获程序结构的黑盒函数评估,或者依赖于获得昂贵的详细执行跟踪,因此训练数据对所考虑的域的覆盖率很差。我们提出了一个新的框架,利用黑盒功能评估,结合符号表达式,定义给定的功能之间的关系。我们采用树LSTM将符号表达式树的结构。我们对函数求值数据中的数字使用树编码,基于它们的十进制表示。我们提出了一个评估基准,这个任务,以证明我们提出的模型结合了符号推理和功能评估在一个富有成效的方式,在我们的实验中获得高精度。我们的框架更好地推广到更高深度的表达式,并能够用有效的补全来填充偏方程。
2018-04-26 cs.AI cs.LG stat.ML
From Basic Affordances to Symbolic Thought: A Computational Phylogenesis of Biological Intelligence
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出多位谓词和结构映射是除动态绑定外实现基本符号思维的最低要求,并通过17项通用模拟验证该假设,为理解人类符号推理及发展生物启发人工智能提供依据。
2025-08-20 cs.AI cs.LG cs.NE
A Neuro-Symbolic System for Interpretable Multimodal Physiological Signals Integration in Human Fatigue Detection
School of Computer Science and Electronic Engineering(计算机科学与电子工程学院);University of Essex(埃塞克斯大学)
本文提出一种神经符号系统,通过注意力编码器整合可解释的生理概念,结合可微近似推理规则,提升疲劳检测的准确性和可解释性。
2026-03-25 cs.HC cs.LG
Logic of Hypotheses: from Zero to Full Knowledge in Neurosymbolic Integration
University of Padua(帕多瓦大学);Fondazione Bruno Kessler(布鲁诺·科斯勒基金会);University of Bozen-Bolzano(博赞-博尔扎诺大学)
本文提出LoH语言,结合数据驱动规则学习与符号先验和专家知识,实现神经符号整合的灵活统一,并通过模糊逻辑实现可微计算图编译。
2026-05-15 cs.AI cs.LG cs.LO
Explainable Diagnosis Prediction through Neuro-Symbolic Integration
McWilliams School of Biomedical Informatics, The University of Texas Health Science Center(德克萨斯大学休斯顿健康科学中心麦克威廉姆斯生物医学信息学院);Mayo Clinic(梅奥诊所)
本文提出基于 Logical Neural Networks 的神经符号诊断预测模型,利用带可学习阈值的逻辑规则融合医学知识,在糖尿病预测中提升准确率、AUROC 与可解释性。
2025-01-07 cs.AI cs.LG
Efficient LSTM Training with Eligibility Traces
University of Tübingen(图宾根大学)
训练递归神经网络主要通过时间反向传播(BPTT)来实现。然而,从生物学和计算的角度来看,该算法不是最佳解决方案。一个更有效的和生物学上合理的替代BPTT是e-prop。我们调查的适用性e-prop的长短期记忆(LSTM),监督和强化学习(RL)的任务。我们表明,e-prop是一个合适的优化算法LSTM通过比较它的两个基准监督学习的BPTT。这证明了e-prop即使对于几百个时间步的长序列问题也可以实现学习。我们介绍的扩展,提高性能的电子道具,这可以部分地应用到其他网络架构。在这些扩展的帮助下,我们表明,在某些条件下,电子道具可以优于BPTT的两个基准之一,监督学习。最后,我们提供了在深度递归Q学习领域中将e-prop集成到RL的概念证明。
2022-09-30 cs.LG
Enhancing streamflow forecast and extracting insights using long-short term memory networks with data integration at continental scales
Pennsylvania State University(宾夕法尼亚州立大学);Stanford University(斯坦福大学)
最近的观测与不同的时间表和类型(移动平均,快照,或定期间隔)可以帮助改善径流预测,但它是具有挑战性的有效整合。基于长短期记忆(LSTM)径流模型,我们测试了多个版本的灵活程序,我们称之为数据集成(DI),以利用最近的流量测量来改善预测。DI直接或通过卷积神经网络(CNN)单元接受滞后输入。DI普遍将径流预报性能提升到前所未有的水平,达到创纪录的大陆尺度中值Nash-Sutcliffe效率系数值0.86。整合移动平均流量,最近几天的流量,甚至是前一个日历月的平均流量都可以改善每日预报。直接使用滞后观测值作为输入在性能上与使用CNN单元相当。重要的是,我们获得了有关水文过程影响LSTM和DI性能的宝贵见解。在应用DI之前,基础LSTM模型在山区或积雪为主的地区工作得很好,但在排放量低的地区(由于降水量低或降水能量同步性高)和年际储存变化大的地区工作得不太好。DI是最有益的高流量自相关的地区:它大大减少了基流偏差地下水为主的西部盆地,也提高了动态地表水存储,如草原坑洼或五大湖地区的盆地峰值预测。然而,即使是DI也不能提升具有一天闪光峰值的高干旱盆地。尽管存在这种限制,但由于其性能、自动化、效率和灵活性,基于深度学习的预测范式有很大的希望。
2020-05-05 cs.LG stat.ML
Towards Data-and Knowledge-Driven Artificial Intelligence: A Survey on Neuro-Symbolic Computing
College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院)
本文系统综述了神经符号计算(NeSy)的发展历史、关键驱动因素、方法分类、应用与基准评测,并展望未来方向,旨在推动数据与知识驱动的人工智能发展。
2024-10-03 cs.AI cs.CV cs.LG
Neuro-symbolic Empowered Denoising Diffusion Probabilistic Models for Real-time Anomaly Detection in Industry 4.0
University of Verona(维罗纳大学);Polytechnic of Turin(都灵理工大学);University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
针对工业4.0系统异常检测难度高的问题,提出融合工业本体的神经符号扩散模型,并通过随机傅里叶特征蒸馏实现嵌入式部署,用于实时异常预测,为首创性方案。
2023-07-18 cs.LG
Deep learning algorithm for data-driven simulation of noisy dynamical system
IBM T.J. Watson Research Center(IBM托马斯·J·沃森研究中心)
我们提出了一个深度学习模型DE-LSTM,用于模拟具有潜在非线性动力学的随机过程。深度学习模型旨在通过数值离散化来近似随机过程的概率密度函数,底层的非线性动力学由长短期记忆(LSTM)网络建模。结果表明,当使用数值离散化,函数估计问题可以解决的多标签分类问题。提出了一种惩罚最大对数似然方法,在概率分布的预测中施加平滑条件。我们证明了概率分布的时间演化可以通过LSTM内部状态的跃迁概率的高维积分来计算。提出了一种近似高维积分的Monte Carlo算法。通过使用Ornstein-Uhlenbeck过程和非线性动力系统的噪声观察、Mackey-Glass时间序列和强迫Van der Pol振子,深入研究了DE-LSTM的行为。结果表明,DE-LSTM可以很好地预测概率分布,而无需假设随机过程的任何分布特性。对于Mackey-Glass时间序列的多步预测,预测不确定性(由95%置信区间表示)首先增长,然后随着系统的演化动态调整,而在强迫Van der Pol振荡器的模拟中,即使对于3,000步预测,预测不确定性也不会随时间增长。
2018-09-05 cs.LG physics.comp-ph physics.data-an
Knowledge Integration Strategies in Autonomous Vehicle Prediction and Planning: A Comprehensive Survey
Freie Universität Berlin(柏林自由大学);Continental Automotive Technologies GmbH(大陆汽车技术有限公司);Fraunhofer FOKUS Berlin(弗劳恩霍夫研究所柏林)
本综述系统梳理自动驾驶轨迹预测与规划中的知识集成方法,分类分析符号到神经符号架构,并指出可解释AI、形式化验证及混合方法等未来趋势。
2025-05-22 cs.AI cs.LG
SMLP: Symbolic Machine Learning Prover (User Manual)
Intel(英特尔);The University of Manchester(曼彻斯特大学)
本手册介绍开源工具SMLP,它结合符号推理、概率统计方法与各类求解器,可基于csv格式数据对ML模型表示的系统做带约束的探索优化,已应用于英特尔硬件设计,正推进专用NN求解器集成。
2024-05-16 cs.AI cs.LG cs.LO
A Semantic Loss Function for Deep Learning with Symbolic Knowledge
University of California, Los Angeles(加州大学洛杉矶分校);Peking University(北京大学)
本文开发了一种在深度学习中使用符号知识的新方法。从第一原理出发,我们推导出一个语义损失函数,它在神经输出向量和逻辑约束之间架起桥梁。这个损失函数捕获神经网络在多大程度上接近于满足其输出的约束。实验结果表明,该方法能有效地指导学习者在半监督多类分类问题上取得(接近)最新水平的分类结果。此外,它显著提高了神经网络预测结构化对象(如排名和路径)的能力。这些离散的概念非常难以学习,并且受益于深度学习和符号推理方法的紧密集成。
2018-06-08 cs.AI cs.LG cs.LO
Neural logic programs and neural nets
Vienna University of Technology(维也纳工业大学)
该研究聚焦神经符号整合问题,定义布尔神经网络的回答集语义,从基本原理引入一类神经逻辑程序并证明二者等价,为神经符号融合提供理论支撑。
2024-06-13 cs.AI cs.LG cs.LO
Discrete, compositional, and symbolic representations through attractor dynamics
Princeton University(普林斯顿大学);Mila(米拉研究所);Université de Montréal(蒙特利尔大学);University of Edinburgh(爱丁堡大学);Stanford University(斯坦福大学)
针对符号与次符号过程集成依赖人为假设的问题,提出一种结合吸引子动力学与符号表示的神经随机动力系统模型,通过无监督学习将连续空间划分为离散符号序列,实现了反映输入与编码互信息的统一认知建模框架。
2024-09-26 cs.AI cs.LG