Approximate Dynamic Programming with Neural Networks in Linear Discrete Action Spaces
CWI(荷兰数学与计算机科学研究学会);TU Delft(代尔夫特理工大学)
运筹学的现实问题通常是高维的和组合的。线性规划通常用于制定和有效地解决这些大型决策问题。然而,在多周期决策问题中,我们必须经常计算当前决策对应的期望下游值。当应用随机方法来近似这些值时,线性规划对于设计价值函数近似(VFA)变得有限制。特别是,多项式VFA的手动设计具有挑战性。本文提出了一种综合的方法来解决复杂的优化问题,重点是在运筹学领域的应用。它开发了一种混合解决方案的方法,结合线性规划和神经网络的一部分,近似动态规划。我们提出的解决方法将神经网络VFA嵌入到线性决策问题中,结合了神经网络的非线性表达能力和求解线性规划的效率。作为概念的证明,我们进行数值实验的运输问题。神经网络VFA始终优于多项式VFA,具有有限的设计和调整工作。
2019-02-26 cs.LG stat.ML
Neural Stochastic Dual Dynamic Programming
Google(谷歌)
随机对偶动态规划(SDDP)是一种求解多阶段随机优化问题的先进方法,广泛应用于实际过程优化任务的建模。不幸的是,SDDP有一个最坏情况下的复杂性,指数级的决策变量的数量,这严重限制了适用性,只有低维的问题。为了克服这一限制,我们通过引入一个可训练的神经模型来扩展SDDP,该神经模型学习将问题实例映射到内在低维空间内的分段线性价值函数,该函数专门用于与基础SDDP求解器进行交互,从而可以加速新实例的优化性能。所提出的神经随机对偶动态规划($ν$ -SDDP)通过解决连续的问题不断自我改进。实证研究表明,$ν$ -SDDP可以显着降低问题求解成本,而不牺牲解决方案的质量比竞争对手,如SDDP和强化学习算法,在一系列的合成和现实世界的过程优化问题。
2021-12-01 cs.LG stat.ML
Neural Task Programming: Learning to Generalize Across Hierarchical Tasks
Stanford Vision & Learning Lab(斯坦福视觉与学习实验室);CS, Caltech(加州理工学院计算机科学系)
在这项工作中,我们提出了一种新的机器人学习框架,称为神经任务编程(NTP),它的桥梁的想法,少样本学习从示范和神经程序归纳。NTP将任务规范(例如,任务的视频演示)并递归地将其分解为更精细的子任务规范。这些规范被馈送到分层神经程序,其中底层程序是与环境交互的可调用子例程。我们验证我们的方法在三个机器人操作任务。NTP在表现出层次结构和组成结构的顺序任务中实现了很强的泛化。实验结果表明,NTP能够很好地泛化到长度不断增加、拓扑结构可变和目标不断变化的不可见任务。
2018-03-14 cs.AI cs.LG cs.RO
Training Quantized Neural Networks to Global Optimality via Semidefinite Programming
Stanford University(斯坦福大学)
神经网络(NN)在机器学习的许多任务中都非常成功。神经网络权重的量化由于其对能量效率、推理时间和硬件部署的影响而成为一个重要的课题。虽然后训练量化是很好的研究,训练最佳量化神经网络涉及组合非凸优化问题,似乎难以解决。在这项工作中,我们引入了一个凸优化策略,训练量化的神经网络与多项式激活。我们的方法利用了最近文献中的两层神经网络中的隐藏凸性,半定提升和Grothendieck恒等式。令人惊讶的是,我们表明,某些量化的神经网络问题可以解决的全局最优多项式时间的所有相关参数,通过半定松弛。我们提出的数值例子来说明我们的方法的有效性。
2021-05-05 cs.LG stat.ML
Sampling Prediction-Matching Examples in Neural Networks: A Probabilistic Programming Approach
Massachusetts Institute of Technology(麻省理工学院)
虽然神经网络模型表现出令人印象深刻的性能,但我们并不确切了解这些黑盒模型如何进行单独的预测。这个缺点导致了大量的研究致力于了解这些模型的鲁棒性,可解释性和泛化能力等领域。在本文中,我们考虑的问题,探索预测水平集的分类使用概率规划。我们将预测水平集定义为一组示例,对于这些示例,预测器相对于某个任意数据分布具有相同的指定预测置信度。值得注意的是,我们基于采样的方法不需要分类器是可微的,使其与任意分类器兼容。作为一个具体的实例,如果我们将分类器视为一个神经网络,将数据分布视为训练数据的分布,我们可以获得将导致神经网络进行指定预测的示例。我们证明了这种技术与实验上的合成数据集和MNIST。分类中的这种水平集可以促进人类对分类行为的理解。
2020-01-09 cs.LG stat.ML
Deep Policy Dynamic Programming for Vehicle Routing Problems
University of Amsterdam(阿姆斯特丹大学);ORTEC
路由问题是一类有着广泛应用的组合优化问题。最近,已经提出了端到端的深度学习方法来学习这些问题的近似解算法。相比之下,经典的动态规划(DP)算法保证最优解,但规模与问题的大小。我们提出了深度策略动态规划(DPDP),其目的是结合学习神经网络与DP算法的优势。DPDP使用从深度神经网络导出的策略对DP状态空间进行优先级排序和限制,该深度神经网络被训练为从示例解决方案预测边缘。我们评估我们的框架上的旅行商问题(TSP),车辆路径问题(VRP)和TSP与时间窗口(TSPTW),并表明,神经政策提高了性能(限制)DP算法,使他们有竞争力的强有力的替代品,如LKH,同时也优于大多数其他的“神经方法”解决TSP,VRP和TSPTW与100个节点。
2021-12-02 cs.LG stat.ML
Experimental Demonstration of an Optical Neural PDE Solver via On-Chip PINN Training
Hewlett Packard Labs, Hewlett Packard Enterprise(慧与企业惠普实验室);University of California, Santa Barbara(加州大学圣巴巴拉分校)
本文实验演示了一种光学神经PDE求解器,利用物理信息神经网络在光子芯片上进行免反向传播训练,为解决偏微分方程提供了新方法。
2025-01-01 cs.AR cs.LG physics.optics
DP-Net: Dynamic Programming Guided Deep Neural Network Compression
Tsinghua University(清华大学);Beijing University of Technology(北京工业大学);Case Western Reserve University(凯斯西储大学);BNRist((无常见中文名,保留英文));Dept. Computer Science & Tech., Tsinghua University(清华大学计算机科学与技术系);Beijing Engineering Research Center for IoT Software and Systems, Beijing University of Technology(北京工业大学物联网软件与系统北京市工程研究中心);Department of Electrical Engineering and Computer Science, Case Western Reserve University(凯斯西储大学电气工程与计算机科学系)
在这项工作中,我们提出了一个有效的方案(称为DP-网络),用于压缩深度神经网络(DNN)。它包括一个新的动态规划(DP)为基础的算法,以获得最佳的解决方案的权重量化和优化过程训练集群友好的DNN。实验表明,DP-Net允许比最先进的同行更大的压缩,同时保持准确性。Wide ResNet上最大的77倍压缩比是通过将DP-Net与其他压缩技术相结合来实现的。此外,DP-Net被扩展用于压缩具有可忽略精度损失的鲁棒DNN模型。最后,在FPGA上设计了一个自定义的加速器来加速DP-Net的推理计算。
2020-03-21 cs.LG stat.ML
Optimal Control Theoretic Neural Optimizer: From Backpropagation to Dynamic Programming
FAIR, Meta(FAIR、Meta);the School of Aerospace Engineering, Georgia Institute of Technology(航空航天工程学院、佐治亚理工学院);Apple MLR
本文提出最优控制理论神经优化器(OCNOpt),利用反向传播与动态规划的算法相似性,通过高阶Bellman方程展开实现高效鲁棒的深度网络优化,支持逐层反馈和连续时间模型训练。
2025-10-15 cs.LG stat.ML
Inference Compilation and Universal Probabilistic Programming
University of Oxford(牛津大学)
我们介绍了一种使用深度神经网络来摊销通用概率程序设计语言引起的模型族中的推理成本的方法,建立了一个结合概率编程和深度学习方法优势的框架。我们称我们所做的是“编译推理”,因为我们的方法将以通用程序设计语言编写的概率程序形式的推理问题的指称规范转换为以神经网络规约语言表示的训练过的神经网络。当在测试时,该神经网络被馈送观测数据并被执行时,它在由概率程序指定的原始模型中执行近似推理。我们的训练目标和学习过程的目的是让训练后的神经网络被用来作为一个顺序重要性采样推理机的建议分布。我们说明了我们在混合模型和验证码求解上的方法,并显示了推理效率的显着加速。
2017-03-02 cs.AI cs.LG stat.ML
Neural Task Graphs: Generalizing to Unseen Tasks from a Single Video Demonstration
Stanford University(斯坦福大学)
我们的目标是生成一个策略来完成一个看不见的任务,只需要一个视频演示的任务在一个给定的域。我们假设,要成功地推广到看不见的复杂任务,从一个单一的视频演示,有必要明确地将任务的组成结构到模型。为此,我们提出了神经任务图(NTG)网络,它使用共轭任务图作为中间表示模块化的视频演示和派生的政策。我们的经验表明,NTG在两个复杂的任务上实现了任务间的泛化:BulletPhysics中的块堆叠和AI 2-THOR中的对象收集。NTG通过视觉输入提高了数据效率,并在不需要密集分层监督的情况下实现了强大的泛化能力。我们进一步表明,类似的性能趋势时,适用于现实世界的数据。我们表明,NTG可以有效地预测JIGSAWS手术数据集上的任务结构,并推广到看不见的任务。
2019-03-06 cs.AI cs.CV cs.LG
A Capsule-unified Framework of Deep Neural Networks for Graphical Programming
College of Computer Science(计算机学院);Faculty of Information Technology(信息技术学院);Beijing University of Technology(北京工业大学)
最近,深度学习的发展产生了大量的深度神经网络。如何统一地描述这些网络成为一个重要的问题。本文首先给出了神经网络的数学定义,给出了神经网络的有向图表示,并证明了连通有向无环图的诱导网络的生成定理。然后,利用胶囊的概念对神经网络进行扩展,建立了一个胶囊统一的深度学习框架,包括胶囊的数学定义、胶囊网络的诱导模型和用于训练胶囊网络的通用反向传播算法。最后,我们讨论了潜在的应用框架的图形编程与标准的图形符号的胶囊,神经元和连接。
2019-03-13 cs.LG
Neural Task Success Classifiers for Robotic Manipulation from Few Real Demonstrations
University of Lincoln(林肯大学);Lincoln Institute for Agri-Food Technology(林肯农业食品技术研究所)
机器人从少量的演示中学习新的操作任务在不同的领域越来越多地被要求。评估动作质量的分类器模型可以预测任务的成功完成,智能代理可以使用该模型进行动作选择。本文提出了一种新的分类器,学习分类任务完成只有从几个示范。我们对不同的神经分类器进行了全面的比较,例如基于全连接的,基于全卷积的,基于序列2序列的和基于领域自适应的分类。我们还提出了一个新的数据集,包括五个机器人操作任务,这是公开的。我们使用我们的数据集和MIME数据集比较了我们的新分类器和现有模型的性能。结果表明,领域自适应和基于时间的功能,提高成功的预测。我们的新模型,即具有领域自适应和时序特征的全卷积神经网络,在两个数据集中的任务中实现了97.3%和95.5%的平均分类准确率,而没有领域自适应和时序特征的最先进的分类器分别仅实现了82.4%和90.3%。
2021-07-01 cs.AI cs.LG cs.RO
Pre-training Neural Networks with Human Demonstrations for Deep Reinforcement Learning
Washington State University(华盛顿州立大学)
深度强化学习(deep RL)通过使用深度神经网络作为其函数逼近器并直接从原始图像学习,在复杂的顺序任务中实现了卓越的性能。使用原始图像的一个缺点是,除了学习策略之外,深度RL还必须从原始图像中学习状态特征表示。因此,深度RL可能需要大量的训练时间和数据才能达到合理的性能,这使得在现实世界的应用中很难使用深度RL,特别是当数据昂贵时。在这项工作中,我们通过解决深度RL试图解决的一半问题来加快训练速度-学习特征。我们的方法是通过使用一小部分人类演示,通过监督学习预训练深度RL网络的隐藏层来学习一些重要特征。我们使用深度Q网络(DQN)和异步优势演员-评论家(A3 C)算法对Atari 2600游戏Pong,Freeway和Beamrider进行经验评估。我们的研究结果表明:1)以监督学习方式使用人类演示进行预训练,相对于DQN中的原始预训练而言,在发现特征方面更好,以及2)使用预训练模型初始化深度RL网络,即使在从少量人类演示进行预训练时,也能显著改善训练时间。
2019-04-06 cs.AI cs.LG
Performance of a Markovian neural network versus dynamic programming on a fishing control problem
Princeton University(普林斯顿大学);Sorbonne Université(索邦大学)
捕捞配额令人不快,但有效地控制了捕鱼场的生产力。一个流行的模型有一个生物量的随机微分方程,在这个方程上可以使用随机动态规划或Hamilton-Jacobi-Bellman算法来找到随机控制-捕捞限额。我们比较了动态规划与神经网络的解决方案,它保留了马尔可夫性的解决方案。将该方法推广到一个相似的多种群模型,以检验其在高维下的鲁棒性。
2021-09-14 cs.LG math.OC
Principled Deep Neural Network Training through Linear Programming
Columbia University(哥伦比亚大学);Universidad de O’Higgins(奥希金斯大学);Zuse Institute Berlin(柏林祖斯研究所)
深度学习最近受到了广泛关注,因为训练算法取得了令人印象深刻的经验表现。因此,需要更好地从理论上理解这些问题,近年来变得更加明显。在这项工作中,使用一个统一的框架,我们表明,存在一个多面体,同时编码所有可能的深度神经网络训练问题,可以产生一个给定的架构,激活函数,损失函数,和样本大小。值得注意的是,多面体表示的大小仅线性地依赖于样本大小,并且不太可能更好地依赖于其他几个网络参数(假设$P\neq NP$)。此外,我们使用我们的多面体表示,以获得新的和更好的计算复杂性的结果,为训练问题的知名神经网络架构。我们的研究结果提供了一个新的视角,通过多面体理论的镜头训练问题,并揭示了一个强大的结构所产生的这些问题。
2022-03-01 cs.LG math.OC stat.ML
Supervised Bayesian Specification Inference from Demonstrations
CSAIL, MIT(麻省理工学院计算机科学与人工智能实验室);Lockheed Martin Corporation(洛克希德·马丁公司)
在观察任务演示时,人类学徒能够在获得实际执行任务的专业知识之前很久就确定给定任务是否正确执行。先前的研究示教学习(LfD)未能捕捉到这个概念的任务的执行的可接受性,同时,时序逻辑提供了一个灵活的语言来表达任务规范。受此启发,我们提出贝叶斯规范推理,推理任务规范作为一个时间逻辑公式的概率模型。我们结合概率编程的方法来定义我们的先验,以及一个独立于域的似然函数来实现基于采样的推理。我们证明了我们的模型推断规格的有效性,超过90%的相似性之间观察到的推断规格和地面真理,无论是在合成域和在现实世界的表设置任务。
2021-07-06 cs.AI cs.LG cs.RO
Convolutional Neural Networks over Tree Structures for Programming Language Processing
Peking University(北京大学);Stanford University(斯坦福大学)
程序设计语言处理(类似于自然语言处理)是软件工程领域的研究热点,也引起了人工智能界越来越多的关注。然而,不同于自然语言句子,程序包含丰富、明确和复杂的结构信息。因此,传统的NLP模型可能不适合程序。在本文中,我们提出了一种新的基于树的卷积神经网络(TBCNN)的程序设计语言处理,其中卷积核的设计程序的抽象语法树,以捕捉结构信息。TBCNN是一个通用的架构程序设计语言处理,我们的实验表明,它的有效性在两个不同的程序分析任务:根据功能分类程序,并检测某些模式的代码片段。TBCNN优于基线方法,包括几个NLP神经模型。
2015-12-08 cs.LG cs.NE cs.SE
Safety Verification and Robustness Analysis of Neural Networks via Quadratic Constraints and Semidefinite Programming
University of Pennsylvania(宾夕法尼亚大学)
证明神经网络对输入不确定性和对抗性攻击的安全性或鲁棒性是安全机器学习和控制领域的一个新兴挑战。为了提供这样的保证,当神经网络的输入在有界集内变化时,必须能够限制神经网络的输出。在本文中,我们提出了一个半定规划(SDP)框架来解决这个问题的前馈神经网络与一般的激活函数和输入不确定性集。我们的主要思想是抽象激活函数的各种属性(例如,单调性、有界斜率、有界值和跨层重复)与二次约束的形式主义。然后,我们分析了抽象网络的安全性通过S-过程和半定规划。我们的框架跨越保守性和计算效率之间的权衡,并适用于安全验证以外的问题。我们通过各种大小的数值问题实例来评估我们的方法的性能。
2021-09-15 cs.LG math.OC
A Mixed-Integer Programming Approach to Training Dense Neural Networks
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
人工神经网络(ANN)是广泛应用于各种现实世界分类任务的机器学习模型。然而,训练ANN非常耗时,并且生成的模型需要大量内存来部署。为了训练更简约的人工神经网络,我们提出了一种新的混合整数规划(MIP)制定训练全连接人工神经网络。我们的公式可以解释二进制和整流线性单元(ReLU)激活,以及对数似然损失的使用。我们目前的数值实验比较我们的MIP为基础的方法对现有的方法,并表明,我们能够实现竞争力的样本性能与更简约的模型。
2022-06-23 cs.LG math.OC
Uncertainty Aware Learning from Demonstrations in Multiple Contexts using Bayesian Neural Networks
McGill University(麦吉尔大学);University of Amsterdam(阿姆斯特丹大学)
环境的多样性是一个关键的挑战,导致学习机器人控制器失败,由于训练和评估条件之间的差异。通过各种条件下的演示进行培训可以减轻-但不能完全防止-此类故障。诸如神经网络的学习控制器通常不具有允许诊断训练和测试条件之间的偏移的不确定性的概念,并且可能进行干预。在这项工作中,我们建议使用贝叶斯神经网络,它有这样一个概念的不确定性。我们表明,可以利用不确定性来一致地检测高维模拟和真实机器人领域中的情况,其中学习控制器的性能将低于标准杆。此外,我们表明,这样一个基于不确定性的解决方案,允许作出明智的决定,何时调用回退策略。一种回退策略是请求更多数据。我们的经验表明,只有在请求时才提供数据,从而提高数据效率。
2019-03-13 cs.LG cs.RO
Guiding Genetic Programming with Graph Neural Networks
Poznan University of Technology(波兹南理工大学)
针对遗传规划中适应度函数信息利用不足的问题,提出EvoNUDGE方法,利用图神经网络从符号回归问题中提取额外知识生成子程序库,以初始化种群并引导搜索,实验证明其显著优于传统遗传规划和纯神经变体。
2024-11-03 cs.AI cs.LG cs.NE
Cartesian Genetic Programming Approach for Designing Convolutional Neural Networks
AGH University of Krakow(克拉科夫AGH大学);Systems Research Institute, Polish Academy of Sciences(波兰科学院系统研究所);University of Technology Sydney(悉尼科技大学);Óbuda University(奥布达大学)
本研究提出一种基于笛卡尔遗传规划(CGP)的神经架构搜索(NAS)方法,仅通过突变操作自动设计卷积神经网络(CNNs),以替代耗时易错的人工设计,初步实验结果证明了该方法的有效性。
2024-10-13 cs.AI cs.LG cs.NE
Neuro-Symbolic Constraint Programming for Structured Prediction
Criteo;University of Trento(特伦托大学)
我们提出了Nester,一种将神经网络注入约束结构预测器的方法。神经网络的工作是计算与输入数据兼容但不一定满足约束的初始原始预测。然后,结构化预测器使用约束求解器来构建结构,该约束求解器根据硬约束和软约束来组装和校正原始预测。在这样做时,Nester利用了它的两个组件的特性:神经网络从低级数据中学习复杂的表示,而约束编程组件则对预测任务的高级属性进行推理。整个架构可以以端到端的方式进行训练。手写体方程识别的实证评估表明,Nester实现了更好的性能比两个神经网络和约束结构化预测自己,特别是当训练样本是稀缺的,而扩展到更复杂的问题比其他神经编程方法。Nester被证明对于减少问题的语义级别的错误特别有用,这对于神经网络架构来说特别具有挑战性。
2021-03-31 cs.LG
Neural Network Verification is a Programming Language Challenge
University of Manchester(曼彻斯特大学);University of Western Australia(西澳大利亚大学);Atomic Energy and Alternative Energies Commission(原子能与替代能源委员会);Hebrew University of Jerusalem(耶路撒冷希伯来大学);Vanderbilt University(范德堡大学);Southampton University(南安普顿大学);Amherst College(阿默斯特学院)
本文指出神经网络验证不仅是算法问题,更是编程语言挑战,提出将其挑战表述为编程语言挑战并给出未来解决方案。
2025-01-30 cs.LG cs.LO cs.PL
Symbolic Regression via Neural-Guided Genetic Programming Population Seeding
Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
符号回归是识别符合黑箱过程的观测输出的数学表达式的过程。这是一个离散优化问题,通常被认为是NP-难的。解决该问题的现有方法包括神经引导搜索(例如,使用强化学习)和遗传编程。在这项工作中,我们介绍了一种混合神经引导/遗传编程的方法,符号回归和其他组合优化问题。我们提出了一个神经元引导的组件用于种子的随机重启遗传编程组件的起始人口,逐渐学习更好的起始人口。在一些常见的基准测试任务中,从数据集中恢复底层表达式,我们的方法比最近发布的使用相同实验设置的最佳模型多恢复65%的表达式。我们证明,在不依赖神经引导组件的情况下运行许多代遗传编程,对于符号回归来说,比两者耦合更强的替代公式表现得更好。最后,我们引入了一组新的22个符号回归基准问题,其难度比现有基准更高。源代码在www.github.com/brendenpetersen/deep-symbolic-optimization上提供。
2021-11-17 cs.AI cs.LG cs.NE
Neural Dynamic Programming for Musical Self Similarity
CSIRO Data61(联邦科学与工业研究组织 Data61);The Australian National University(澳大利亚国立大学);Data to Decisions CRC(数据决策合作研究中心)
我们提出了一个专门为符号音乐设计的神经序列模型。该模型是基于一个学习编辑距离机制,概括了一个经典的递归从计算机科学,导致神经动态程序。通过学习它们之间的转换来检测重复的基序。我们表示所产生的计算依赖使用一种新的数据结构,编辑树,这种观点认为,自然的近似,提供我们的立方时间算法的规模。我们证明了我们的模型在真实和合成数据,在所有情况下,它优于一个强大的堆栈长短期记忆基准。
2018-08-29 cs.AI cs.LG
A Mixed Integer Programming Approach for Verifying Properties of Binarized Neural Networks
Stanford University(斯坦福大学)
近年来,人们提出了许多验证神经网络输入输出特性的方法。然而,现有的算法不能很好地扩展到大型网络。模型压缩领域的最新工作研究了二进制神经网络(BNN),其参数和激活是二进制的。与全精度对应物相比,BNN的性能往往会略有下降,但它们更容易验证。本文提出了一个简单的混合整数规划公式的BNN验证,利用网络结构。我们通过验证MNIST数据集和飞机防撞控制器上训练的BNN的属性来证明我们的方法。我们比较我们的方法对国家的最先进的验证算法的全精度神经网络的运行时间。结果表明,训练BNN的难度可能值得我们的验证算法实现的运行时间减少。
2022-03-11 cs.AI cs.LG
Learning Social Navigation from Demonstrations with Conditional Neural Processes
Bogazici University(博阿齐奇大学)
提出基于 Conditional Neural Processes 的数据驱动社会导航架构,从演示中学习全局与局部控制器,并借助深度预测在分布外情形切换反应式控制,减少个人空间侵犯。
2022-12-26 cs.LG cs.RO
Conditional Neural Expert Processes for Learning Movement Primitives from Demonstration
Bogazici University(博阿齐奇大学)
提出条件神经专家过程 CNEP,无需模态标签即可将多模态演示分配给专家网络,在多模态数据集和真实机器人任务上优于多种 LfD 基线,并支持在线适应与可解释的专家选择。
2024-07-06 cs.LG cs.RO
Shape-morphing programming of soft materials on complex geometries via neural operator
College of Mechanical and Electrical Engineering, Nanjing University of Aeronautics and Astronautics(南京航空航天大学机械与电子工程学院);Université Sorbonne Paris Nord(巴黎 Sorbonne 大学);School of Mechanical and Power Engineering, Nanjing Tech University(南京理工大学机械与 power 工程学院);Department of Production Engineering, KTH Royal Institute of Technology(皇家理工学院生产工程系)
通过S2NO神经算子实现复杂几何上软材料的高保真形状变形编程,结合进化算法优化体素级材料分布,提升变形设计的多样性和效率。
2026-01-31 cs.LG
Deep Molecular Programming: A Natural Implementation of Binary-Weight ReLU Neural Networks
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
将计算嵌入到与传统电子学不兼容的分子环境中,有望在合成生物学、医学、纳米纤维等领域产生广泛的影响。一个关键的挑战在于开发分子计算的编程范式,这些范式与底层的化学硬件保持一致,并且不试图硬塞不合适的电子学范式。我们发现了一类流行的神经网络(二进制权重ReLU,又名BinaryConnect)和一类对反应速率绝对鲁棒的耦合化学反应之间惊人的紧密联系。速率无关化学计算的鲁棒性使其成为生物工程实现的一个有前途的目标。我们展示了如何使用有根据的深度学习优化技术在计算机中训练的BinaryConnect神经网络,可以编译为等效的化学反应网络,提供一种新的分子编程范式。我们说明了这样的翻译上的范式IRIS和MNIST数据集。对于化学计算的预期应用,我们进一步使用我们的方法来生成一个化学反应网络,该网络可以根据基因表达水平区分不同的病毒类型。我们的工作为神经网络和分子编程社区之间的丰富知识转移奠定了基础。
2020-06-30 cs.ET cs.LG cs.NE
An Integer Programming Approach to Deep Neural Networks with Binary Activation Functions
RWTH Aachen University(亚琛工业大学);African Institute for Mathematical Sciences(非洲数学科学研究所);Stellenbosch University(斯泰伦博斯大学)
我们研究了具有二元激活函数(BDNN)的深度神经网络,即激活函数只有两个状态。我们表明,BDNN可以重新制定为一个混合整数线性规划,可以解决经典的整数规划求解器的全局最优性。此外,一个启发式求解算法,我们研究了数据不确定性下的模型,采用两阶段的鲁棒优化方法。我们在随机和真实数据集上实现了我们的方法,并表明BDNN的启发式版本在乳腺癌威斯康星数据集上的表现优于经典的深度神经网络,而在随机数据上的表现更差。
2020-08-07 cs.LG cs.NE math.OC
NeurASP: Embracing Neural Networks into Answer Set Programming
Arizona State University(亚利桑那州立大学);Samsung Research(三星研究院)
本文提出 NeurASP 框架,将神经网络输出作为回答集程序原子事实的概率分布,从而贯通符号推理与亚符号感知,并支持利用 ASP 规则约束改进神经网络训练。
2023-07-15 cs.AI cs.LG cs.SC
Neural Task Synthesis for Visual Programming
Max Planck Institute for Software Systems(马克斯·普朗克软件系统研究所)
本文提出神经符号方法NeurTaskSyn,结合模仿学习与强化学习,自动合成符合指定编程概念和视觉约束的视觉编程任务,并在Code.org和CodeHS的参考任务上验证了有效性。
2024-01-14 cs.AI cs.CL cs.CY
A Unified View of SDP-based Neural Network Verification through Completely Positive Programming
Stanford University(斯坦福大学);MIT(麻省理工学院)
确保神经网络的输入-输出关系符合规定的操作规范是将这些网络部署在安全关键应用中的关键推动因素。基于半定规划(SDP)的ReLU网络验证方法将这个问题转化为最优化问题,其中任何此类公式的准确性反映了神经网络计算如何表示的保真度水平,以及棘手约束的放松。虽然文献包含了在保持可处理性的同时改进SDP公式的紧密性的许多进展,但相对较少的工作致力于另一个极端,即,如何在SDP松弛之前最准确地捕获原始验证问题。在这项工作中,我们开发了一个精确的,凸的验证公式作为一个完全积极的程序(CPP),并提供分析表明,我们的公式是最小的-任何约束的去除从根本上歪曲了神经网络计算。我们利用我们的配方提供了一个统一的观点,现有的方法,并在某些情况下观察到的大弛豫间隙的来源给予洞察力。
2022-03-06 cs.LG math.OC
GDLNN: Marriage of Programming Language and Neural Networks for Accurate and Easy-to-Explain Graph Classification
LG CNS(LG CNS公司);Daegu Gyeongbuk Institute of Science and Technology(大邱庆北科学技术院)
本研究提出新型图分类架构GDLNN,结合领域特定语言GDL与神经网络,通过可解释的GDL层生成图表示,在多数基准数据集上精度优于主流GNN方法,且兼具高质量可解释性与低综合成本。
2025-10-01 cs.CL cs.LG
Making Neural Programming Architectures Generalize via Recursion
University of California, Berkeley(加州大学伯克利分校)
从经验上讲,试图从数据中学习程序的神经网络表现出较差的泛化能力。此外,传统上很难推理出这些模型的行为超出了一定的输入复杂性水平。为了解决这些问题,我们提出用一个关键的抽象来增强神经架构:递归。作为一个应用程序,我们实现了递归神经程序员解释器框架上的四个任务:小学加法,冒泡排序,拓扑排序和快速排序。我们表现出优越的推广性和可解释性与少量的训练数据。递归将问题分成更小的部分,并大大减少了每个神经网络组件的域,使其易于证明整个系统行为的保证。我们的经验表明,为了使神经架构能够鲁棒地学习程序语义,有必要引入递归这样的概念。
2017-04-21 cs.LG cs.NE cs.PL
Neural Probabilistic Logic Programming in Discrete-Continuous Domains
KU Leuven(鲁汶大学);Örebro University(厄勒布鲁大学)
神经符号人工智能(NeSy)允许神经网络以逻辑的形式利用符号背景知识。它已被证明有助于在有限的数据制度的学习,并促进外的分布数据的推断。ProbabilityNeSy专注于将神经网络与逻辑和概率理论相结合,这还允许在不确定性下进行学习。当前概率NeSy系统(诸如DeepProbLog)的主要限制是它们对有限概率分布的限制,即,离散随机变量相比之下,深度概率编程(DPP)在建模和优化连续概率分布方面表现出色。因此,我们引入DeepSeaProbLog,一种神经概率逻辑程序设计语言,将DPP技术纳入NeSy。这样做的结果在逻辑约束下的离散和连续概率分布的推理和学习的支持。我们的主要贡献是:1)DeepSeaProbLog的语义及其相应的推理算法,2)一个经过验证的渐近无偏学习算法,以及3)一系列的实验,说明了我们的方法的多功能性。
2023-03-14 cs.AI cs.LG cs.LO
Molecular Design Based on Artificial Neural Networks, Integer Programming and Grid Neighbor Search
Kyoto University(京都大学)
最近提出了一种新的框架,用于使用人工神经网络和混合整数线性规划来设计具有期望化学性质的化合物的分子结构。在该框架中,具有目标化学值的化学图被推断为混合整数线性规划的可行解,该混合整数线性规划表示预测函数和对图的结构的其他要求。本文提出了一种通过在搜索空间中搜索输出化学图的邻域来生成混合整数线性规划的其它可行解的方法。该程序在框架中作为一个新的构建块合并。我们的计算实验的结果表明,所提出的方法可以产生额外的数量的新的化学图与多达50个非氢原子。
2021-08-23 cs.LG physics.chem-ph
Dynamic Programming Encoding for Subword Segmentation in Neural Machine Translation
Monash University(莫纳什大学);Google Research(谷歌研究院)
本文介绍了一种新的分词算法--动态规划编码(DPE)。我们认为输出句子的子词切分是一个潜在的变量,应该被边缘化的学习和推理。提出了一种特征-子字混合变换器Transformer,它能实现精确的对数边缘似然估计和精确的MAP推理,以最大后验概率找到目标分割。DPE使用轻量级的混合字符-子字转换器Transformer作为预处理并行数据的方法,以便使用动态规划对输出语句进行分段。机器翻译的实验结果表明,DPE是有效的分割输出的句子,可以结合BPE辍学源句子的随机分割。DPE实现了比BPE平均提高0.9 BLEU(Sennrich等人,2016),BLEU比BPE脱落平均改善0.55(Provilkov等人,2019)在几个WMT数据集上,包括英语<=>(德语,罗马尼亚语,爱沙尼亚语,芬兰语,匈牙利语)。
2020-08-01 cs.CL cs.LG
Reach-SDP: Reachability Analysis of Closed-Loop Systems with Neural Network Controllers via Semidefinite Programming
University of Pennsylvania(宾夕法尼亚大学)
在闭环控制系统中使用神经网络来提高性能和降低在线实现的计算成本已引起越来越多的兴趣。然而,由于神经网络的非线性和组合结构,为这些系统提供安全性和稳定性保证具有挑战性。本文提出了一种新的前向可达性分析方法,用于线性时变神经网络反馈互联系统的安全验证。我们的技术方法依赖于抽象的非线性激活函数的二次约束,这导致外逼近的前向可达集的闭环系统。我们表明,我们可以计算这些近似可达集使用半定规划。我们在四旋翼示例中说明了我们的方法,在该示例中,我们首先通过深度神经网络近似非线性模型预测控制器,然后应用我们的分析工具来证明闭环系统的有限时间可达性和约束满足。
2020-04-16 cs.LG cs.SY eess.SY
Autoselection of the Ensemble of Convolutional Neural Networks with Second-Order Cone Programming
Bahcesehir University(巴耶塞特大学)
包围盒技术在机器学习和工程问题中经常遇到,因为该方法结合了不同的模型并产生最优的预测解。集成概念可以适用于深度学习模型,以提供鲁棒性和可靠性。由于深度学习中模型的增长,使用集成修剪对于处理计算复杂性非常重要。因此,本研究提出了一种数学模型,该模型修剪了由不同深度和层组成的卷积神经网络(CNN)的集合,同时使用稀疏二阶圆锥优化模型最大化准确性和多样性。该模型在CIFAR-10、CIFAR-100和MNIST数据集上进行了测试,结果令人满意,同时显著降低了模型的复杂性。
2023-02-12 cs.LG math.OC
ICNN-enhanced 2SP: Leveraging input convex neural networks for solving two-stage stochastic programming
Department of Mathematics and Systems Analysis, School of Science, Aalto University(数学与系统分析系,艾尔沃大学);DTU Management, Technical University of Denmark(丹麦技术大学管理学院);Department of Mathematics, KTH Royal Institute of Technology(数学系,皇家理工学院)
本文提出ICNN增强的2SP方法,利用输入凸神经网络在凸两阶段随机规划中实现线性规划表示,避免传统混合整数规划的整数变量需求,提高计算效率并保持解质量。
2026-09-30 cs.LG math.OC
DDPNOpt: Differential Dynamic Programming Neural Optimizer
Georgia Institute of Technology(佐治亚理工学院)
深度神经网络(DNN)训练作为一个非线性动力系统的最优控制问题,最近受到了相当大的关注,但算法的发展仍然相对有限。在这项工作中,我们沿着这条线进行了尝试,从轨迹优化的角度重新制定的训练过程。我们首先表明,大多数广泛使用的DNN训练算法可以链接到差分动态规划(DDP),一个著名的二阶方法植根于近似动态规划。在这方面,我们提出了一类新的优化器,DDP神经优化器(DDPNOpt),用于训练前馈和卷积网络。DDPNOpt具有逐层反馈策略,可以提高收敛性并降低对超参数的敏感性。它在收敛性和复杂性方面优于其他最优控制启发的训练方法,并且与最先进的一阶和二阶方法相比具有竞争力。我们还观察到DDPNOpt在防止梯度消失方面具有令人惊讶的益处。我们的工作开辟了新的途径,原则算法设计的基础上的最优控制理论。
2021-05-08 cs.LG cs.NE math.OC
Fast semidefinite programming with feedforward neural networks
University of Geneva(日内瓦大学);ICFO - Institut de Ciencies Fotoniques(光子科学研究所);The Barcelona Institute of Science and Technology(巴塞罗那科学技术学院)
半定规划是一个重要的优化问题,经常用于时间敏感的应用。虽然它们可以在多项式时间内求解,但实际上它们可能太慢而无法用于在线,即实时应用程序。在这里,我们提出解决可行性半定规划的人工神经网络。给定优化约束作为输入,神经网络输出优化参数的值,使得对于任务的原始公式和对偶公式都满足约束。我们训练网络,而不必完全解决半定规划,甚至一次,从而避免了可能耗时的任务,必须生成许多训练样本与传统的求解器。只有当原始模型和对偶模型都不能提供可行解时,神经网络方法才是不确定的。否则,我们总是获得一个证书,保证排除误报。我们研究的性能的方法上的层次结构的量子信息任务,Navascués-Pironio-Acín层次结构应用到贝尔的情况。我们证明,经过训练的神经网络提供了相当的准确性,同时与传统的求解器相比,速度提高了几个数量级。
2020-11-12 cs.LG quant-ph
BIPNN: Learning to Solve Binary Integer Programming via Hypergraph Neural Networks
Changchun University of Science and Technology, China(长春理工大学);Huawei Technologies Co. Ltd China(华为技术有限公司)
提出BIPNN无监督学习框架,利用超图神经网络将非线性二元整数规划转化为多项式损失函数,通过GPU加速和连续退火训练流水线实现端到端高效求解,显著降低训练成本并生成高质量离散解。
2025-05-27 cs.AI cs.LG
On Integer Programming for the Binarized Neural Network Verification Problem
针对二值化神经网络验证的整数规划因大M约束整数间隙难求解的问题,提出多分类线性目标构造与利用网络递归结构生成有效不等式两种技术,可在有限时间内验证更大范围输入扰动下的BNN鲁棒性。
2025-10-01 cs.LG math.OC
From virtual demonstration to real-world manipulation using LSTM and MDN
University of Central Florida(中佛罗里达大学)
帮助残疾人或老年人的机器人必须执行复杂的操作任务,并且必须适应家庭环境和用户的偏好。示教学习是一个很有前途的选择,它允许非技术用户教机器人不同的任务。然而,在残疾用户的家庭环境中收集演示是耗时的,破坏用户的舒适度,并且提出了安全挑战。期望在虚拟环境中执行演示。在本文中,我们描述了一个具有挑战性的问题,从虚拟演示的物理机器人的行为转移的解决方案。虚拟演示用于训练基于深度神经网络的控制器,其使用长短期记忆(LSTM)递归神经网络来生成轨迹。训练过程使用混合密度网络(MDN)来计算适合演示的多模态性质的误差信号。在虚拟环境中学习的控制器被转移到物理机器人(Rethink Robotics Baxter)。一个现成的视觉组件用于替代模拟中可用的几何知识,一个逆运动学模块用于使Baxter制定轨迹。我们的实验研究验证了本文的三个贡献:(1)从虚拟演示中学习的控制器可以用于在物理机器人上成功执行操作任务,(2)LSTM+MDN架构选择优于其他选择,例如使用前馈网络和基于均方误差的训练信号,以及(3)在训练集中允许不完美的演示也允许控制器学习如何校正其操纵错误。
2017-11-22 cs.AI cs.LG cs.RO
Neuro-Symbolic Inductive Logic Programming with Logical Neural Networks
IBM Research(IBM研究院)
神经符号归纳逻辑程序设计的最新工作已经导致了有前途的方法,可以从嘈杂的,真实世界的数据中学习解释规则。虽然一些建议近似的逻辑运算符与可微运算符从模糊或实值逻辑是无参数的,从而减少了他们的能力,以适应数据,其他方法只是松散的逻辑,使其难以解释学习的“规则”。在本文中,我们提出了学习规则与最近提出的逻辑神经网络(LNN)。与其他神经网络相比,LNN提供了与经典布尔逻辑的强连接,从而允许精确解释学习的规则,同时包含可以使用基于梯度的优化来训练的参数,以有效地拟合数据。我们将LNN扩展到一阶逻辑中的归纳规则。我们对标准基准测试任务的实验证实,LNN规则具有高度的可解释性,并且由于其灵活的参数化,可以达到相当或更高的精度。
2021-12-06 cs.AI cs.LG cs.LO
Learning Stable Manoeuvres in Quadruped Robots from Expert Demonstrations
Indian Institute of Technology-Madras(印度理工学院马德拉斯分校);Indian Institute of Science(印度科学理工学院)
随着对四足机器人发展的研究加快步伐,正在探索基于学习的技术来开发这种机器人的运动控制器。一个关键问题是以稳定的方式生成连续变化的目标线速度和角速度的腿轨迹。在本文中,我们提出了一个双管齐下的方法来解决这个问题。首先,训练多个更简单的策略来生成目标速度和转弯半径的离散集合的轨迹。然后使用更高级别的神经网络来增强这些策略,以处理所学习的轨迹之间的过渡。具体来说,我们开发了一个基于神经网络的过滤器,该过滤器接收目标速度、半径并将其转换为新的命令,从而能够平滑过渡到新的轨迹。这种转变是通过从专家演示中学习来实现的。这一点的应用是将新手用户的输入转换为专家用户的输入,从而确保稳定的操纵,而不管用户的经验如何。与标准神经网络架构相比,训练我们提出的架构需要更少的专家演示。最后,我们证明实验这些结果在内部四足Stoch 2。
2020-07-28 cs.AI cs.LG cs.RO
Object-oriented Neural Programming (OONP) for Document Understanding
Tsinghua University(清华大学);Beijing Innovation Center for Future Chip, Tsinghua University(清华大学北京未来芯片创新中心)
我们提出了面向对象的神经编程(OONP),在特定领域的语义解析文件的框架。基本上,OONP读取文档并将其解析为预先设计的面向对象的数据结构(本文中称为本体),该数据结构反映文档的特定于领域的语义。OONP解析器将语义解析建模为决策过程:基于神经网络的阅读器依次遍历文档,在此过程中,它构建并更新中间本体,以总结其对所涵盖文本的部分理解。OONP支持一系列丰富的操作(包括符号和可微分)来组成本体,以及各种各样的形式(包括符号和可微分)来表示状态和文档。OONP解析器可以用不同形式和强度的监督来训练,包括监督学习(SL)、强化学习(RL)以及两者的混合。我们对合成和真实世界的文档解析任务的实验表明,OONP可以学习处理相当复杂的本体与训练数据的适度大小。
2018-07-25 cs.AI cs.CL cs.LG
DexTrack: Towards Generalizable Neural Tracking Control for Dexterous Manipulation from Human References
Tsinghua University(清华大学);Shanghai Qi Zhi Institute(上海期智研究院);Shanghai AI Laboratory(上海人工智能实验室);UC San Diego(加利福尼亚大学圣迭戈分校)
针对从人类参考开发灵巧操作可泛化神经跟踪控制器的挑战,提出收集大规模机器人跟踪演示并结合强化学习、模仿学习和同伦优化的方法,提升控制器性能与泛化性,在仿真和现实中取得优于基线的结果。
2025-02-13 cs.AI cs.CV cs.LG
Probabilistic Verification and Reachability Analysis of Neural Networks via Semidefinite Programming
University of Pennsylvania(宾夕法尼亚大学)
量化神经网络的鲁棒性或验证其对输入不确定性或对抗性攻击的安全性已成为学习系统的重要研究领域。大多数结果集中在最坏的情况下,神经网络的输入在一个范数有界的不确定性集内扰动。在本文中,我们考虑一个概率设置,其中的不确定性是随机的,已知的前两个时刻。在这种情况下,我们讨论了两个相关的问题:(i)概率安全验证,其中的目标是找到违反安全规范的概率的上限;和(ii)置信椭圆估计,其中给定神经网络输入的置信椭圆,我们的目标是计算输出的置信椭圆。由于非线性激励函数的存在,这两个问题很难精确求解。为了简化分析,我们的主要思想是抽象的非线性激活函数的仿射和二次约束的组合,他们施加在他们的输入输出对。然后,我们表明,安全的抽象网络,这是足够的原始网络的安全性,可以使用半定规划分析。我们用数值实验说明了我们的方法的性能。
2019-10-09 cs.LG cs.SY eess.SY