Scalable Planning with Deep Neural Network Learned Transition Models
University of Toronto(多伦多大学);Vector Institute for Artificial Intelligence(Vector人工智能研究所);Monash University(莫纳什大学)
在许多现实世界中的规划问题的因素,混合离散和连续的状态和动作空间,如水库控制,供暖通风,空调,和导航域,这是很难获得一个复杂的非线性动力学模型,管理状态的演变。然而,现代传感器的普遍存在使我们能够从这些复杂系统中的每一个收集大量数据,并建立其状态转换的精确的非线性深度神经网络模型。但控制任务仍然存在一个主要问题-我们如何使用深度网络学习的过渡模型进行规划,而不诉诸蒙特卡罗树搜索和其他黑盒过渡模型技术,这些技术忽略了模型结构,并且不容易扩展到混合离散和连续域?在本文中,我们介绍了两种类型的非线性规划方法,可以利用深度神经网络学习的过渡模型:混合深度MILP规划器(HD-MILP-Plan)和Tensorflow规划器(TF-Plan)。在HD-MILP-Plan中,我们观察到,深度网络的整流线性单元传递函数不仅允许模型学习的更快收敛,而且还允许将深度网络转换模型直接编译为混合线性规划编码。此外,我们还确定了HD-MILP-Plan的深度网络特定优化,这些优化可以提高基本编码的性能,并表明我们可以根据学习到的深度网络进行最佳规划。在TF-Plan中,我们利用自动微分工具和基于GPU的计算的效率,将纯连续规划问题的子类编码为递归神经网络,并通过反向传播直接优化动作。我们比较了这两个计划,并表明TF-计划是能够近似的最佳计划发现HD-MILP-Plan在更少的计算时间…
2020-07-15 cs.AI cs.LG
Chinese Poetry Generation with Planning based Neural Network
University of Science and Technology of China(中国科学技术大学);Baidu Inc.(百度公司)
中文诗歌自动生成是自然语言处理中一个极具挑战性的课题。在本文中,我们提出了一种新的两阶段的诗歌生成方法,首先计划的子主题的诗歌,根据用户的写作意图,然后生成每一行的诗歌顺序,使用修改后的递归神经网络编码器-解码器框架。所提出的基于规划的方法可以确保生成的诗歌是连贯的,语义上与用户的意图一致。综合评价与人类的判断表明,我们提出的方法优于国家的最先进的诗歌生成方法和诗歌的质量在某种程度上与人类诗人。
2016-12-07 cs.AI cs.CL
Goal Recognition as a Deep Learning Task: the GRNet Approach
University of Huddersfield(哈德斯菲尔德大学)
在自动规划中,从观察的轨迹中识别代理的目标是具有许多应用的重要任务。目标识别的最新方法依赖于规划技术的应用,这需要域动作和初始域状态的模型(例如,在PDDL中)。我们研究了另一种方法,目标识别制定为由机器学习解决的分类任务。我们的方法称为GRNet,主要目的是通过学习如何在给定的域中解决目标识别,使目标识别更准确,更快。给定由一组命题和一组动作名称指定的规划域,域中的目标分类实例由递归神经网络(RNN)求解。RNN的运行处理观察到的动作的跟踪,以计算每个域命题是代理目标的一部分的可能性,对于正在考虑的问题实例。然后,这些预测被聚合以选择候选目标之一。作为训练后的RNN的输入所需的唯一信息是动作标签的踪迹,每个标签仅指示观察到的动作的名称。实验分析证实,\our在目标分类准确性和运行时间方面都取得了良好的性能,从而获得了更好的性能一个国家的最先进的目标识别系统在考虑的基准。
2022-10-25 cs.AI cs.LG
Workload Prediction of Business Processes -- An Approach Based on Process Mining and Recurrent Neural Networks
Data Analytics Group, Haute Ecole Arc Ingénierie HES-SO, University of Applied Sciences Western Switzerland(瑞士西部应用科学大学西部应用科学大学阿尔科工程学院数据分析组)
工业机器的互联性和数字化的最新进展,即工业4.0,为新的分析技术铺平了道路。事实上,与生产相关的数据的可用性和丰富性使新的数据驱动方法成为可能。在本文中,我们提出了一个过程挖掘方法增强了人工智能,(1)重建的历史工作量的公司和(2)预测的工作量使用神经网络。我们的方法依赖于日志,表示与制造相关的业务流程的历史。这些日志用于量化供应和需求,并输入到一个递归神经网络模型中,以预测客户订单。然后,根据跟踪频率和活动相似性等标准,使用重放机制从历史记录中对满足这些订单的相应活动进行采样。该方法的评估和说明是在Heraeus Materials SA的行政流程上进行的。一年测试集上的工作负载预测在一周的预测中达到了19%的MAPE分数。该案例研究表明了一个合理的准确性,并证实了一个很好的了解历史的工作量结合明确的预测是非常有助于支持管理决策,并可以降低成本与更好的资源规划在中期一级。
2020-02-14 cs.AI cs.DB cs.LG
Urban Crowdsensing using Social Media: An Empirical Study on Transformer and Recurrent Neural Networks
Singapore University of Technology and Design(新加坡科技设计大学)
城市规划的一个重要方面是了解不同位置的人群水平,这通常需要使用物理传感器。这样的传感器在大规模实施时可能是昂贵且耗时的。为了解决这个问题,我们利用公开的社交媒体数据集,并将其作为两个城市感知问题的基础,即事件检测和人群水平预测。这项工作的一个主要贡献是我们从Twitter和Flickr收集的数据集,以及地面实况事件。我们用两种初步的监督学习方法证明了这个数据集的有用性:首先,一系列神经网络模型来确定社交媒体帖子是否与事件相关,其次是一个回归模型,使用社交媒体帖子计数来预测实际人群水平。我们讨论这些任务的初步结果,并强调一些挑战。
2020-12-05 cs.AI cs.SI
Learning Algorithmic Solutions to Symbolic Planning Tasks with a Neural Computer Architecture
Technische Universität Darmstadt(达姆施塔特工业大学);Universität zu Lübeck(吕贝克大学);Max-Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
智能行为的一个关键特征是学习抽象策略的能力,这些策略可以转移到不熟悉的问题上。因此,我们提出了一种新的架构,基于内存增强网络,这是现代计算机的冯诺依曼和哈佛架构的启发。这种架构能够在强化学习环境中通过演化策略学习抽象算法解决方案。应用于推箱子,滑块拼图和机器人操作任务,我们表明,该架构可以学习算法的解决方案具有很强的泛化和抽象:扩展到任意任务配置和复杂性,并独立于数据表示和任务域。
2020-06-03 cs.AI cs.LG cs.NE
Towards Bio-Inspired Robotic Trajectory Planning via Self-Supervised RNN
Faculty of Mathematics, Physics and Informatics, Comenius University Bratislava(数学、物理与信息学系,科门尼乌斯大学布拉迪斯拉发分校);Department of Informatics, University of Hamburg(信息学系,汉堡大学)
本文提出一种基于循环架构的仿生自监督轨迹规划方法,仅利用成对正逆向运动学模型学习生成机械臂轨迹,为复杂操作任务的自适应规划提供新思路。
2025-09-16 cs.AI cs.LG cs.RO
Feature Selective Small Object Detection via Knowledge-based Recurrent Attentive Neural Network
目前,深度神经网络在一般目标检测中的表现与人类相当甚至超越人类。然而,由于深度学习本身的局限性,特征像素所占比例小,以及模糊和遮挡的发生,复杂场景中小目标的检测仍然是一个悬而未决的问题。但我们不能否认,实时、准确的目标检测是自动感知以及后续基于感知的自动驾驶决策和规划任务的基础。针对自动驾驶场景中小目标的特点,提出了一种基于领域知识、直觉经验和特征选择的KB-RANN方法。它可以集中在图像特征的特定部分,然后它试图强调这些特征的重要性,并加强他们的学习参数。在KITTI和COCO数据集上的对比实验表明,该方法在速度和准确率上都取得了可观的效果,并通过重要特征的自选择和方法的不断增强,提高了小目标检测的效果,并将其应用于自主研发的自动驾驶汽车中。
2019-04-20 cs.AI cs.CV
ARDDQN: Attention Recurrent Double Deep Q-Network for UAV Coverage Path Planning and Data Harvesting
Indian Institute of Technology Patna(印度理工学院巴特那分校)
针对无人机覆盖路径规划与数据采集需求,提出融合注意力机制、LSTM和DDQN的ARDDQN模型,采用结构化环境地图适配大场景,实验验证其在数据收集率等参数上表现最优。
2024-05-17 cs.AI cs.LG
An investigation of model-free planning
DeepMind(深度思维)
强化学习(RL)领域正面临着越来越多的具有组合复杂性的挑战。对于RL代理来说,要解决这些挑战,它必须能够有效地进行规划。先前的工作通常利用环境的显式模型,结合特定的规划算法(如树搜索)。最近,已经提出了一种新的方法族,其通过经由函数逼近器(诸如树结构神经网络)中的归纳偏置提供用于规划的结构来学习如何规划,该函数逼近器由无模型RL算法进行端到端训练。在本文中,我们走得更远,并以经验证明,一个完全无模型的方法,没有特殊的结构超出标准的神经网络组件,如卷积网络和LSTM,可以学习表现出许多典型的特征与基于模型的规划。我们衡量我们的代理在规划方面的有效性,它的能力,概括在一个组合和不可逆的状态空间,它的数据效率,以及它的能力,利用额外的思考时间。我们发现,我们的代理人有许多特点,人们可能会期望在规划算法中找到。此外,它超过了最先进的挑战组合域,如推箱子,并优于其他无模型的方法,利用强归纳偏见的规划。
2019-05-20 cs.AI cs.LG stat.ML
A Differentiable Loss Function for Learning Heuristics in A*
Czech Technical University in Prague(布拉格捷克理工大学)
由深度神经网络实现的A* 算法的启发式函数的优化通常通过最小化目标值的成本估计的平方根损失来完成。本文认为,这并不一定会导致更快的搜索A* 算法,因为它的执行依赖于相对值,而不是绝对值。作为缓解措施,我们提出了L* 损失,它限制了A* 搜索中过度扩展状态的数量。L* 损失,当用于最先进的深度神经网络的优化,以在迷宫域(如推箱子和具有传送的迷宫)中进行自动规划时,显著提高了已解决问题的比例、已建立计划的质量,并将扩展状态的数量减少到约50%
2022-09-12 cs.AI cs.LG
Cogito, Ergo Ludo: An Agent that Learns to Play by Reasoning and Planning
Tencent(腾讯);Wuhan University(武汉大学)
本文提出 CEL 智能体架构,利用 LLM 在交互后归纳环境规则并总结战略战术手册,从而仅凭稀疏奖励掌握多种网格世界游戏。
2025-09-29 cs.AI cs.LG
Comparative study of Financial Time Series Prediction by Artificial Neural Network with Gradient Descent Learning
金融预测是信号处理问题的一个例子,由于小样本、高噪声、非平稳性和非线性,而股票市场价格的快速预测对于企业的战略规划是非常重要的,本研究的目的是建立一个比较预测模型,前馈多层人工神经网络,用于金融时间序列预测的递归时间延迟神经网络。这项研究是在GoogleFinance提供的历史股票价格数据集的帮助下开发的。为了开发这种预测模型,采用了具有梯度下降学习的反向传播方法。最后,神经网络,学习与所述算法被发现是熟练的预测非平稳噪声金融时间序列。
2012-01-31 cs.AI cs.NE
CAVEAT: Recurrent Multimodal Diffusion Planning for Mapless Aerial Exploration
University of Twente(特文特大学);Politecnico di Milano(米兰理工大学);Sapienza University of Rome(罗马大学)
CAVEAT提出一种基于循环内部状态和多模态观测的扩散策略,无需全局地图即可生成探索航点,并在仿真和真实无人机上验证了其有效性。
2026-09-09 cs.LG cs.RO
Gated Path Planning Networks
Carnegie Mellon University(卡内基梅隆大学)
价值迭代网络(VIN)是有效的可微分路径规划模块,可由代理用于执行导航,同时仍然保持整个架构的端到端可微分性。尽管它们的有效性,但它们有几个缺点,包括训练不稳定性,随机种子敏感性和其他优化问题。在这项工作中,我们将VIN重新构建为递归卷积网络,这表明VIN将递归卷积与非常规的最大池激活相结合。从这个角度来看,我们认为,标准的门控经常性更新方程可以潜在地缓解优化问题的VIN。由此产生的架构,我们称之为门控路径规划网络,显示出经验优于VIN的各种指标,如学习速度,超参数灵敏度,迭代次数,甚至泛化。此外,我们表明,这种性能差距是一致的,在不同的迷宫过渡类型,迷宫的大小,甚至显示成功的一个具有挑战性的3D环境中,规划者只提供第一人称RGB图像。
2018-06-17 cs.AI cs.LG cs.RO
Enhancing Personalized Bladder Cancer Treatment Through Reinforcement Learning: A Recurrent Patient State Transition Decision Support Framework
研究针对膀胱癌复发性疾病治疗需个性化决策的问题,提出集成预测状态转换建模、马尔可夫决策过程和深度Q网络强化学习环境的框架,能动态制定治疗计划,经评估效果良好,凸显其作为个性化膀胱癌治疗规划决策支持框架的潜力。
2026-07-21 cs.LG
FIRM-WM: State-factorized factual-interventional recurrent modeling for reward-free visual planning
Saint Petersburg State University(圣彼得堡国立大学);Shenzhen Kaihong Digital Industry Development Co., Ltd.(深圳开鸿数字产业发展有限公司);Chinese Academy of Sciences (CAS) – Shenzhen Institute of Advanced Technology(中国科学院深圳先进技术研究院);Harbin Institute of Technology(哈尔滨工业大学);Chongqing Research Institute of HIT(哈尔滨工业大学重庆研究院)
FIRM-WM通过状态分解和公共重置干预分支,解决无奖励视觉规划中目标可比性与历史依赖动态的冲突,在多个基准上超越LeWM并降低规划时间。
2026-09-22 cs.LG
Deep Recurrent Learning Through Long Short Term Memory and TOPSIS
本文将云ERP采用建模为深度递归神经网络问题,提出结合LSTM与TOPSIS的分类排序算法来识别采用特征,并通过参考模型验证和用户定性调查形成关键采用因素假设。
2024-03-19 cs.AI cs.LG cs.SE
Intrinsic Motivation and Mental Replay enable Efficient Online Adaptation in Stochastic Recurrent Networks
Technische Universität Darmstadt(达姆施塔特工业大学);Max-Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Universität zu Lübeck(吕贝克大学)
自主机器人需要与未知、非结构化和不断变化的环境进行交互,不断面临新的挑战。因此,持续在线适应终身学习和样本效率机制的需求,以适应环境,约束,任务或机器人本身的变化至关重要。在这项工作中,我们提出了一个新的框架,概率在线运动规划与在线适应的基础上,生物启发的随机递归神经网络。通过使用模仿内在动机信号的学习信号,加上心理重放策略来强化经验,随机递归网络可以从很少的物理交互中学习,并在几秒钟内适应新的环境。我们在拟人KUKA LWR手臂上评估了我们的在线规划和自适应框架。快速在线自适应通过从少量物理交互中有效地学习未知的工作空间约束,同时遵循给定的路径点来实现。
2018-10-23 cs.AI cs.LG cs.RO
Designing a Recurrent Neural Network to Learn a Motion Planner for High-Dimensional Inputs
University of California, Berkeley(加州大学伯克利分校)
机器学习在自动驾驶行业的使用推动了最近的一些进步。特别是,在感知和预测堆栈中使用大型深度学习模型已经证明是非常成功的,但仍然缺乏关于在规划堆栈中使用机器学习的重要文献。规划堆栈的当前技术水平通常依赖于快速约束优化或基于规则的方法。这两种技术都未能解决大量的基本问题,这些问题将允许车辆更类似于人类驾驶员的操作。在本文中,我们试图设计一个基本的深度学习系统来解决这个问题。此外,本文的主要目标是展示机器学习在自动驾驶汽车(AV)规划堆栈中的潜在用途,并为正在进行的和未来的研究提供基线工作。
2022-05-10 cs.LG cs.RO
Towards biologically plausible Dreaming and Planning in recurrent spiking networks
INFN(意大利国家核物理研究所);Istiuto Superiore di Sanità(意大利高等卫生研究院)
针对强化学习数据需求高且世界模型方法生物学合理性不足的问题,提出由智能体和模型组成的双模块循环脉冲网络,通过在线做梦或规划显著提升学习,并便于神经形态硬件实现。
2023-06-08 cs.LG q-bio.NC
Reinforcement Learning via Recurrent Convolutional Neural Networks
IIT Guwahati(印度理工学院古瓦哈提分校)
深度强化学习使得能够在部分可观察的环境中学习复杂任务的策略,而无需显式地学习任务的底层模型。虽然这种无模型方法取得了相当大的性能,他们往往忽略了任务的结构。为了更好地利用这种固有结构,我们使用递归卷积神经网络(RCNN)对强化学习(RL)问题进行了自然表示。我们定义了3个这样的RCNN,它们的前向传递执行有效的值迭代,在部分可观察的环境中传播状态的信念,并分别选择最佳动作。通过这些RCNN的反向传播梯度允许系统显式学习与底层MDP相关的转换模型和奖励函数,作为经典的基于模型的RL的优雅替代方案。我们评估所提出的算法在仿真中,考虑到机器人规划问题。我们证明了我们的框架能够降低重新规划的成本,学习准确的MDP模型,并最终使用学习的模型重新规划以实现接近最优的政策。
2017-01-09 cs.AI cs.LG
MPC-Inspired Neural Network Policies for Sequential Decision Making
Georgia Institute of Technology(佐治亚理工学院);Autonomous Control and Decisions Lab(自主控制与决策实验室)
在本文中,我们研究了使用MPC启发的神经网络政策的顺序决策。我们介绍了一个扩展的Dagger算法训练这样的政策,并显示他们如何提高训练性能和泛化能力。我们利用这个扩展来展示复杂的规划策略架构在连续状态和动作空间中的可扩展和有效的训练。我们提供了一个广泛的比较神经网络政策考虑前馈政策,经常性的政策,经常性的政策与规划结构的启发路径积分控制框架。我们的研究结果表明,MPC型的经常性政策有更好的鲁棒性干扰和建模误差。
2018-03-14 cs.LG
Dynamic Graph Convolutional Recurrent Network for Traffic Prediction: Benchmark and Solution
National University of Defense Technology(国防科技大学)
交通预测是智能交通系统的基石。准确的交通预测对于智慧城市的应用至关重要,即,智能交通管理和城市规划。虽然提出了各种时空建模方法,但它们忽略了道路网络上位置之间相关性的动态特性。同时,大多数基于递归神经网络(RNN)的作品由于其递归操作而效率不够。此外,在相同数据集上的不同方法之间严重缺乏公平的比较。为了解决上述挑战,在本文中,我们提出了一种新的流量预测框架,命名为动态图卷积递归网络(DGCRN)。在DGCRN中,超网络被设计为利用和提取节点属性的动态特征,而动态过滤器的参数在每个时间步生成。我们过滤节点嵌入,然后使用它们来生成动态图,该动态图与预定义的静态图集成。据我们所知,我们是第一个采用生成方法来建模动态图的精细拓扑结构在每个时间步。此外,为了提高效率和性能,我们采用了DGCRN的训练策略,通过限制解码器在前向和后向传播过程中的迭代次数。最后,一个可重复的标准化基准和一个全新的代表性的交通数据集开放的公平比较和进一步的研究。在三个数据集上的大量实验表明,我们的模型始终优于15个基线。
2021-05-03 cs.AI cs.LG
On Learning to Think: Algorithmic Information Theory for Novel Combinations of Reinforcement Learning Controllers and Recurrent Neural World Models
The Swiss AI Lab(瑞士人工智能实验室);Istituto Dalle Molle di Studi sull’Intelligenza Artificiale (IDSIA)(达勒·莫勒人工智能研究所(IDSIA));Università della Svizzera italiana (USI)(瑞士意大利语区大学(USI));Scuola universitaria professionale della Svizzera italiana (SUPSI)(瑞士意大利语区应用科学与艺术大学(SUPSI))
研究了部分可观测环境下的强化学习(RL)问题。2013年,我们的大型RL递归神经网络(RNN)从头开始学习,从高维视频输入中驾驶模拟汽车。然而,真正的大脑在许多方面都更强大。特别是,他们学习了一个最初未知环境的预测模型,并以某种方式将其用于抽象(例如,分层)规划与推理。在算法信息论的指导下,我们描述了基于RNN的人工智能(RNNAI),旨在做同样的事情。这样的RNNAI可以在永无止境的任务序列上进行训练,其中一些任务由用户提供,其他任务则由RNNAI自己以一种好奇、有趣的方式发明,以改进其基于RNN的世界模型。与我们之前基于RNN的RL机器(可追溯到1990年)不同,RNNAI学会主动查询其模型,以进行抽象推理、规划和决策,本质上是“学习思考”。“这份报告的基本思想可以应用于许多其他情况,其中一个类似RNN的系统利用另一个系统的算法信息内容。它们摘自2014年秋季提交的一份拨款申请,还解释了“镜像神经元”等概念。“实验结果将在单独的论文中描述。
2015-11-30 cs.AI cs.LG cs.NE
Learning recurrent dynamics in spiking networks
Laboratory of Biological Modeling, NIDDK/NIH(美国国立糖尿病、消化系统疾病和肾病研究所(NIDDK)/美国国立卫生研究院(NIH)生物建模实验室)
参与学习和执行任务的神经元的尖峰活动表现出复杂的时空动态。虽然递归网络模型的输出可以学习执行各种任务,但学习后出现的递归动态的可能范围仍然未知。在这里,我们表明,修改经常性的连接与递归最小二乘算法提供了足够的灵活性,突触和尖峰速率动态尖峰网络产生广泛的时空活动。我们应用该训练方法来学习任意的放电模式,稳定平衡网络的不规则尖峰活动,并再现参与运动规划和运动的皮层神经元的异质尖峰速率模式。我们确定了成功学习的充分条件,描述了两种类型的学习错误,并评估了网络容量。我们的研究结果表明,突触耦合的周期性尖峰网络具有巨大的计算能力,可以支持大脑中的各种活动模式。
2018-08-18 cs.AI cs.LG cs.NE
Recurrent Auto-Encoders for Enhanced Deep Reinforcement Learning in Wilderness Search and Rescue Planning
Autonomous Systems And Connectivity Research Division, University of Glasgow(格拉斯哥大学自治系统与连接研究部门)
针对荒野搜索救援的大面积区域问题,提出循环自编码器与深度强化学习结合的方法,有效提升信息利用与学习效率,SAC算法性能最佳,参数和训练时间大幅减少。
2025-02-26 cs.LG cs.SY eess.SY
Dynamic Environment Prediction in Urban Scenes using Recurrent Representation Learning
Stanford University(斯坦福大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
自动驾驶面临的一个关键挑战是在具有动态障碍物(如行人、骑自行车者和其他车辆)的混乱城市环境中进行安全的轨迹规划。对未来环境的可靠预测,包括动态代理的行为,将允许规划算法主动生成轨迹以响应快速变化的环境。我们提出了一个新的框架,预测未来的占用状态的本地环境周围的自主智能体通过学习的运动模型占用网格数据使用神经网络。我们利用网格数据的时间结构,利用卷积长短期记忆网络的形式的PredNet架构。该方法在KITTI数据集上进行了验证,并表现出比基线方法更高的准确性和更好的预测能力。
2019-08-18 cs.CV cs.LG cs.RO
Integrating Algorithmic Planning and Deep Learning for Partially Observable Navigation
NUS Graduate School for Integrative Sciences and Engineering(新加坡国立大学综合科学与工程研究生院)
我们建议采取一种新的方法来设计机器人系统,其中一个更大的系统的每个构建块表示为一个可微的程序,即一个深神经网络。这种表示允许以原则性的方式集成算法规划和深度学习,从而结合了无模型和基于模型的方法的优点。我们将所提出的方法应用于具有挑战性的部分可观察机器人导航任务。机器人必须在以前看不见的3D环境中导航到目标,而不知道其初始位置,而是依赖于2D楼层地图和机载摄像头的视觉观察。我们介绍了导航网络(NavNets),它在一个端到端的可训练递归神经网络中编码状态估计、规划和行动。在初步的模拟实验中,我们成功地训练了导航网络,以解决具有挑战性的部分可观测导航任务。
2018-07-17 cs.AI cs.LG cs.RO
Graph Neural Network Based Action Ranking for Planning
Oregon State University(俄勒冈州立大学)
提出一种基于图神经网络和门控循环单元的动作排序方法,学习局部一致的排序以生成关系型策略,在更大规划问题上实现更好的泛化并提升成功率和计划质量。
2025-10-24 cs.LG
Neural Path Planning: Fixed Time, Near-Optimal Path Generation via Oracle Imitation
University of California, San Diego(加州大学圣地亚哥分校)
快速有效的路径生成对于机器人在复杂环境中的操作至关重要。这个运动规划问题通常在机器人的致动或配置空间中执行,其中流行的寻路方法(诸如A*、RRT*)随着维度增加或空间变得更加杂乱和复杂而变得在计算上以指数方式昂贵。另一方面,如果要先验地保存连接配置空间中的所有位置对的整个路径集合,则将非常快地耗尽存储器。在这项工作中,我们介绍了一种新的方法,通过使用步进神经网络的方法,称为OracleNet的静态环境中产生快速和最佳的运动计划。OracleNet使用递归神经网络以迭代的方式确定端到端轨迹,以紧凑的形式隐式地生成性能损失最小的最佳运动计划。该算法在实现上是简单的,同时在单个迭代的端到端推出中始终生成接近最优的路径。在实践中,不管配置空间复杂度如何,OracleNet通常具有固定时间的执行,同时在复杂环境和更高维度中优于流行的路径查找算法
2019-04-25 cs.AI cs.LG cs.RO
Auto-conditioned Recurrent Mixture Density Networks for Learning Generalizable Robot Skills
University of Southern California(南加利福尼亚大学)
辅助人类的个人机器人必须执行复杂的操作任务,这些任务通常难以在传统的运动规划管道中指定,其中必须满足多个目标并考虑高层上下文。示教学习(LfD)提供了一种很有前途的方法来学习这些复杂的操作技能,即使从非技术用户。然而,它是具有挑战性的,现有的LfD方法,有效地学习技能,可以推广到任务规范,不包括示范。在本文中,我们介绍了一个状态转换模型(STM),通过模仿专家行为的运动产生关节空间轨迹。给出了一些演示,我们在真实的机器人实验中表明,学习的STM可以快速概括到看不见的任务,并合成比专家轨迹具有更长时间范围的运动。与传统的运动规划器相比,我们的方法使机器人能够从高级指令完成复杂的行为,而无需费力的手工设计规划目标,同时能够适应技能执行过程中不断变化的目标。结合轨迹优化器,我们的STM可以构建一个高质量的轨迹骨架,可以进一步提高平滑度和精度。结合一个学习的逆动力学模型,我们还提出了STM被用作一个高层次的计划的结果。我们实验的视频可以在https://youtu.be/85DX9Ojq-90上获得
2019-03-20 cs.LG cs.RO
A Long Short-Term Memory Recurrent Neural Network Framework for Network Traffic Matrix Prediction
LIP6 / UPMC(巴黎第六大学计算机科学实验室 / 皮埃尔和玛丽·居里大学)
网络流量矩阵(TM)预测被定义为从以前的和实现的网络流量数据估计未来的网络流量的问题。它广泛应用于网络规划、资源管理和网络安全等领域。长短期记忆(LSTM)是一种特定的循环神经网络(RNN)架构,非常适合从经验中学习,以分类,处理和预测具有未知大小时滞的时间序列。LSTM已经被证明比传统的RNN更准确地建模时间序列及其长期依赖性。在本文中,我们提出了一个LSTM RNN框架,用于预测大型网络中的短期和长期流量矩阵(TM)。通过在GEANT网络的真实数据上验证我们的框架,我们证明了我们的LSTM模型收敛速度很快,并且对于相对较小的模型提供了最先进的TM预测性能。
2017-06-08 cs.LG cs.NI
Learning Queuing Networks by Recurrent Neural Networks
IMT School for Advanced Studies Lucca(卢卡高等研究院)
众所周知,在实践中建立分析性能模型是困难的,因为它需要相当程度的基础数学熟练。在本文中,我们提出了一种机器学习方法,从数据中获得性能模型。我们专注于排队网络,关键是利用一个紧凑的常微分方程系统的平均动态的确定性近似。我们将这些方程编码成一个递归神经网络,其权重可以直接与模型参数相关。这允许神经网络的可解释结构,其可以从系统测量中训练以产生白盒参数化模型,其可以用于预测目的,诸如假设分析和容量规划。使用合成模型以及负载平衡系统的真实案例研究,我们展示了我们的技术在产生具有高预测能力的模型方面的有效性。
2020-02-25 cs.LG cs.PF cs.SE
Multi-Step Prediction of Occupancy Grid Maps with Recurrent Neural Networks
Huawei Noah’s Ark(华为诺亚方舟实验室)
我们研究了自动驾驶汽车的可驾驶空间的多步预测,以占用网格地图(OGM)为代表。我们的动机是,准确的可驾驶空间的多步预测可以有效地改善路径规划和导航,从而在自动驾驶中实现安全,舒适和最佳的路径。我们训练各种递归神经网络(RNN)的基础架构上的OGM序列从KITTI数据集。结果表明,使用我们提出的差异学习方法,结合运动相关的功能,在最先进的预测精度显着提高。我们删除了egomotion从OGM序列转换成一个共同的帧。虽然在变换后的序列中,KITTI数据集严重偏向于静态对象,但通过学习后续OGM之间的差异,我们提出的方法可以对静态和移动对象进行准确的预测。
2019-01-22 cs.CV cs.LG cs.RO
An Attention-based Recurrent Convolutional Network for Vehicle Taillight Recognition
Toyota Research Institute(丰田研究院)
汽车尾灯识别是自动驾驶的一个重要应用,特别是对汽车的意图预测和自我车辆的轨迹规划。在这项工作中,我们提出了一个端到端的深度学习框架,以识别尾灯,即后方转向和刹车信号,从图像序列。所提出的方法从卷积神经网络(CNN)开始提取空间特征,然后应用长短期记忆网络(LSTM)来学习时间依赖性。此外,我们在空间和时间域中集成了注意力模型,其中注意力模型学习选择性地关注空间和时间特征。我们的方法在UC Merced车辆后方信号数据集的准确性方面能够超越最先进的技术水平,证明了注意力模型对车辆尾灯识别的有效性。
2019-06-09 cs.CV cs.LG
KARNet: Kalman Filter Augmented Recurrent Neural Network for Learning World Models in Autonomous Driving Tasks
Georgia Institute of Technology(佐治亚理工学院);Ford Motor Company(福特汽车公司)
提出KARNet,一种卡尔曼滤波增强循环神经网络架构,仅用前置摄像头图像学习交通流潜在表示,结合车辆物理先验知识显著提升了模仿与强化学习在自动驾驶任务中的性能。
2023-05-24 cs.LG cs.RO
Recurrent Multi-Graph Neural Networks for Travel Cost Prediction
Aalborg University(奥尔堡大学)
在城市规划中经常使用出发地-目的地(OD)矩阵,其中城市被划分为区域,并且OD矩阵中的元素(i,j)记录成本(例如,行驶时间、燃料消耗或行驶速度)。在本文中,我们将一天划分为多个区间,例如,96个15分钟的间隔,每个间隔与OD矩阵相关联,该矩阵表示间隔中的成本;我们考虑稀疏和随机OD矩阵,其中元素表示随机但不确定的成本,并且由于两个区域之间缺乏数据,一些元素缺失。我们解决了稀疏,随机OD矩阵预测问题。给定一个稀疏的历史OD矩阵序列,我们的目标是预测没有空元素的未来OD矩阵。我们提出了一个通用的学习框架来解决这个问题,通过矩阵分解和两个图卷积神经网络处理稀疏矩阵,并通过递归神经网络捕获时间动态。使用两个不同国家的出租车数据集的实证研究验证了所提出的框架的有效性。
2018-11-13 cs.LG stat.ML
Deep Visual Reasoning: Learning to Predict Action Sequences for Task and Motion Planning from an Initial Scene Image
University of Stuttgart(斯图加特大学);Max-Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);TU Berlin(柏林工业大学)
在本文中,我们提出了一种深度卷积递归神经网络,它可以从初始场景图像中预测任务和运动规划(TAMP)的动作序列。典型的TAMP问题通过将符号、离散级(例如一阶逻辑)上的推理与连续运动规划(例如非线性轨迹优化)相结合来形式化。由于可能的离散动作序列的巨大组合复杂性,必须解决大量的优化/运动规划问题以找到解决方案,这限制了这些方法的可扩展性。为了规避这种组合的复杂性,我们开发了一个神经网络,根据场景的初始图像,直接预测有前途的离散动作序列,理想情况下,只有一个运动规划问题必须得到解决,找到一个解决方案,以整体TAMP问题。一个关键的方面是,我们的方法可以推广到具有许多不同数量的对象的场景,尽管一次只训练两个对象。这可以通过将图像中的场景对象编码为神经网络的输入而不是固定的特征向量来实现。结果表明,运行时的几个数量级的改进。视频:https://youtu.be/i8yyEbbvoEk
2020-06-09 cs.AI cs.CV cs.LG
EPG-MGCN: Ego-Planning Guided Multi-Graph Convolutional Network for Heterogeneous Agent Trajectory Prediction
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
为了在复杂的交通环境中安全驾驶,自动驾驶车辆需要准确预测附近异构交通代理的未来轨迹(即,车辆、行人、骑自行车者等)。由于交互的性质,人类驾驶员习惯于推断如果他们要执行不同的操纵,未来的情况会变成什么样。为了充分利用相互作用的影响,本文提出了一种自我规划引导的多图卷积网络(EPG-MGCN)预测的轨迹异构代理使用的历史轨迹信息和自我车辆的未来规划信息。EPG-MGCN首先通过采用四个图拓扑来对社交交互进行建模,即,距离图、可见性图、规划图和类别图。然后,本车辆的规划信息由规划图和随后的规划引导预测模块两者编码,以减少轨迹预测中的不确定性。最后,一个特定类别的门控递归单元(CS-GRU)的编码器-解码器的设计,以产生未来的轨迹为每个特定类型的代理。我们的网络在两个真实世界的轨迹数据集上进行了评估:ApolloScape和NGSIM。实验结果表明,所提出的EPG-MGCN实现国家的最先进的性能相比,现有的方法。
2023-03-29 cs.CV cs.LG cs.RO
Setup of a Recurrent Neural Network as a Body Model for Solving Inverse and Forward Kinematics as well as Dynamics for a Redundant Manipulator
Bielefeld University(比勒费尔德大学)
我们可以假设,自己身体的内部模型是基本的、进化早期的表征,因为它存在于整个动物王国。这样的功能模型,一方面,在运动控制中是需要的,例如解决目标导向运动中的逆运动学或动态任务或弹道运动中的正向任务。另一方面,这种模型在认知任务中被招募,如提前计划或观察同种动物的行动。在这里,我们提出了一个功能性的内部身体模型,是基于多个计算的原则。第一次这样的模型是完全实现在一个循环神经网络作为必要的规范化步骤集成到神经模型本身。其次,对模型进行了动态扩展。它示出了神经网络如何解决一系列逆任务。此外,新兴的表示在转换层进行了分析,显示了一种形式的原型人口编码的地方或方向细胞。
2019-04-12 cs.LG cs.RO stat.ML
TPRNN: A Top-Down Pyramidal Recurrent Neural Network for Time Series Forecasting
Zhejiang University(浙江大学)
针对时间序列的多尺度建模难题,本文提出 TPRNN,通过金字塔子序列与自顶向下的多尺度信息交互实现先进预测性能。
2023-12-11 cs.LG cs.NE
Spatial-temporal recurrent reinforcement learning for autonomous ships
Technische Universität Dresden(德累斯顿工业大学);Center for Scalable Data Analytics and Artificial Intelligence (ScaDS.AI)(可扩展数据分析与人工智能中心(ScaDS.AI))
本文提出一种时空循环神经网络深度Q网络架构,用于自主船舶避碰,可处理任意数量目标船并应对部分可观测性,结合新碰撞风险度量和COLREG规则奖励,在单船和多船场景中验证优于传统方法。
2023-05-15 cs.LG cs.RO
Mining Topological Dependencies of Recurrent Congestion in Road Networks
L3S Research Center(L3S研究中心);Leibniz University Hannover(莱布尼茨汉诺威大学);University of Bonn(波恩大学)
发现城市道路网络中导致经常性拥堵(RC)模式的时空依赖性对于许多现实世界的应用至关重要,包括城市规划和公共交通服务的调度。虽然大多数现有的研究调查RC现象的时间模式,道路网络拓扑结构对RC的影响往往被忽视。本文提出了ST-发现算法,一种新的无监督时空数据采掘算法,有利于有效的数据驱动的发现RC依赖的道路网络拓扑结构,使用现实世界的交通数据。我们的因素定期重现的交通现象,如高峰时间,主要是由白天引起的,通过建模和系统地利用时间交通负荷异常值。我们提出了一种算法,首先构造连通子图的道路网络的基础上的交通速度离群值。其次,该算法识别子图对,指示其交通负荷行为的时空相关性,以识别道路网络内的拓扑依赖性。最后,我们根据我们的算法确定的依赖分数对识别出的子图对进行排名。我们的实验结果表明,ST发现可以有效地揭示城市道路网络的拓扑依赖性。
2021-07-20 cs.CY cs.LG
Activity-aware Human Mobility Prediction with Hierarchical Graph Attention Recurrent Network
The University of Hong Kong(香港大学);The Hong Kong Polytechnic University(香港理工大学)
本文提出层次图注意力循环网络HGARN,通过层次图注意力模块、历史增强置信度标签和时间模块联合建模时间-活动-位置依赖,在回访与探索场景下显著提升人类移动性预测性能。
2024-12-31 cs.LG
Semi-Supervised Hierarchical Recurrent Graph Neural Network for City-Wide Parking Availability Prediction
University of Science and Technology of China(中国科学技术大学);Baidu Research(百度研究院);Rutgers University(罗格斯大学)
预测城市范围内停车可用性的能力对于停车诱导和信息(PGI)系统的成功开发至关重要。事实上,有效预测城市范围内的停车可用性可以提高停车效率,帮助城市规划,并最终缓解城市拥堵。然而,由于三个主要挑战,预测全市范围的停车可用性是一项重要的任务:1)停车场之间的非欧几里德空间自相关,2)停车场内部和之间的动态时间自相关,以及3)从实时传感器(例如,摄像头、超声波传感器和GPS)。为此,我们提出了半监督分层递归图神经网络(SHARE)预测全市范围内的停车可用性。具体来说,我们首先提出了一个层次图卷积结构来模拟停车场之间的非欧空间自相关。沿着这条线,上下文图卷积块和软聚类图卷积块分别提出了捕获停车场之间的局部和全局空间依赖性。此外,我们采用了一个递归神经网络,将动态的时间依赖性的停车场。此外,我们提出了一个停车位可用性近似模块,估计失踪的实时停车位可用性从空间和时间域。最后,在两个真实数据集上的实验表明,SHARE的预测性能优于七个最先进的基线。
2019-11-24 cs.LG eess.SP stat.ML
A hybrid transformer and attention based recurrent neural network for robust and interpretable sentiment analysis of tweets
Khulna University of Engineering & Technology (KUET)(库尔纳工程技术大学);Advanced Machine Intelligence Research (AMIR) Lab(高级机器智能研究实验室);American International University-Bangladesh(孟加拉国美国国际大学);Chowagiken Corp.(Chowagiken公司);University of Asia Pacific(亚太大学);University of Aizu(会津大学)
针对现有情感分析模型在语言多样性、泛化性和可解释性上的不足,提出融合Transformer、注意力机制与BiLSTM的TRABSA框架,在多数据集上达94%准确率,结合SHAP和LIME提升可解释性,可助力疫情资源管理。
2024-11-02 cs.CL cs.LG
Development and Evaluation of Recurrent Neural Network based Models for Hourly Traffic Volume and AADT Prediction
Clemson University(克莱姆森大学);West Virginia University(西弗吉尼亚大学)
高分辨率的小时交通量预测是交通规划的基础。传统上,自动交通记录仪(ATR)用于收集每小时的流量数据。这些大型数据集是以长期时间依赖性和缺失值为特征的时间序列数据。关于时间依赖性,所有道路都具有季节性变化的特征,根据变化的原因,季节性变化可以是每周、每月或每年。对于时间序列中的缺失数据,传统的时间序列预测模型在季节变化的影响下表现不佳。为了解决这一问题,本研究开发了基于循环神经网络的时间序列多步预测模型。简单的RNN,门控递归单元(GRU)和长短期记忆(LSTM)单元用于开发模型并评估其性能。有两种方法用于解决缺失值问题:掩蔽和插补,结合RNN模型。然后使用六种不同的插补算法来确定最佳模型。分析表明,LSTM模型的性能优于简单的RNN和GRU模型,插补在预测未来交通量方面的性能优于掩蔽。基于92个ATR的分析,LSTM-中位数模型被认为是所有情景下小时交通量和AADT预测的最佳模型,小时交通量预测的平均RMSE为274,MAPE为18.91%,AADT预测的平均RMSE为824,MAPE为2.10%。
2018-11-26 cs.LG stat.AP
Risk-Averse MPC via Visual-Inertial Input and Recurrent Networks for Online Collision Avoidance
University of California, Los Angeles(加利福尼亚大学洛杉矶分校);UCLA Vision Lab(加州大学洛杉矶分校视觉实验室);Robotics and Mechanisms Laboratory(机器人与机械实验室);Laboratory for Embedded Machines and Ubiquitous Robots(嵌入式机器与普适机器人实验室)
在本文中,我们提出了一个在线路径规划架构,扩展了模型预测控制(MPC)制定考虑未来的位置不确定性,通过混乱的环境中更安全的导航。我们的算法结合了一个目标检测流水线与递归神经网络(RNN),推断通过我们的MPC的有限时间范围的每一步的状态估计的协方差。RNN模型是在一个数据集上训练的,该数据集包括通过最先进的视觉-惯性测距框架从相机图像和惯性测量单元(IMU)读数生成的机器人和地标姿态。为了检测和提取物体位置以避免,我们使用定制训练的卷积神经网络模型结合特征提取器来检索附近障碍物的3D质心和半径边界。我们的方法的鲁棒性在复杂的四足机器人动力学上得到了验证,并且可以普遍应用于大多数机器人平台,展示了可以规划快速和无碰撞路径的自主行为。
2020-07-28 cs.CV cs.LG cs.RO
Active Screening for Recurrent Diseases: A Reinforcement Learning Approach
Harvard University(哈佛大学)
主动筛查是控制结核病和流感等复发性传染病传播的常用方法。在这种方法中,卫生工作者定期选择一部分人群进行筛查。然而,由于卫生工作者人数有限,在任何特定时间段内只能访问一小部分人口。鉴于该疾病的复发性和迅速传播,目标是在很长一段时间内尽量减少感染人数。主动筛选可以被形式化为在人及其连接的网络上的顺序组合优化。这种形式化的主要计算挑战来自于i)问题的组合性质,ii)顺序规划的需要和iii)群体传染性状态的不确定性。以往的工作,积极筛选未能扩展到大的时间范围,同时充分考虑到当前干预措施的未来效果。在本文中,我们提出了一种新的基于深度Q网络(DQN)的强化学习(RL)方法,其中有几个创新的适应性设计,以解决上述挑战。首先,我们使用图卷积网络(GCN)来表示利用底层接触网络的节点相关性的Q函数。其次,为了避免在每个时间段内求解一个组合优化问题,我们将节点集选择分解为一个子决策序列,并进一步设计了一个两级RL框架,以分层的方式解决问题。最后,为了加快RL的缓慢收敛,这是由奖励稀疏引起的,我们将课程学习的思想纳入我们的分层RL方法。我们在几个现实世界的网络上评估我们的RL算法。
2021-04-19 cs.LG cs.MA
Learning, Planning, and Control in a Monolithic Neural Event Inference Architecture
Cognitive Modeling Group Computer Science Department University of Tübingen(图宾根大学认知建模组计算机科学系)
该研究提出了一种单体神经事件推理架构REPRISE,通过学习动态系统的时序事件预测模型,结合回顾和前瞻推理,实现对传感器运动动态的高效预测与控制。
2019-05-02 cs.AI cs.LG cs.SY
Predicting Vehicle Behaviors Over An Extended Horizon Using Behavior Interaction Network
Hong Kong University of Science and Technology(香港科技大学);DJI Technology Co., Ltd.(大疆创新科技有限公司)
预测交通参与者的可能行为是自动驾驶车辆的基本能力。许多行为检测和机动识别方法只有非常有限的预测范围,这使得规划的时间和空间不足。为了避免不令人满意的反应性决策,在规划中计算长期的未来回报至关重要,这需要扩展预测范围。在本文中,我们发现,在一个扩展的地平线上的车辆行为的线索,可以在车辆的相互作用,这使得人们有可能预测某种行为的可能性,即使在没有任何明确的机动模式。我们采用递归神经网络(RNN)的观察编码,并在此基础上,我们提出了一种新的车辆行为交互网络(VBIN),捕捉车辆的相互作用,从隐藏的状态和连接特征的每个相互作用对。我们的方法的输出是多个行为类的概率似然,这与遥远未来的多模态和不确定性相匹配。我们的方法对两个国家的最先进的方法和另外两个基线方法的公开可用的真实公路数据集的系统比较,表明我们的方法具有优越的精度和先进的交互建模能力。
2019-06-03 cs.LG cs.RO