Temporal Logic Specification-Conditioned Decision Transformer for Offline Safe Reinforcement Learning
Boston University(波士顿大学)
针对离线安全强化学习在复杂时序逻辑任务中的不足,提出时序逻辑规范条件化Decision Transformer(SDT)框架,结合STL表达力与DT序列建模能力,在DSRL基准上实现了更安全、高奖励的策略学习。
2025-01-24 cs.AI cs.LG
Compositional Reinforcement Learning from Logical Specifications
University of Pennsylvania(宾夕法尼亚大学)
我们研究的问题,学习控制策略的复杂任务的逻辑规范。最近的方法从给定的规范自动生成奖励函数,并使用合适的强化学习算法来学习使预期奖励最大化的策略。然而,这些方法对于需要高级别规划的复杂任务的扩展性很差。在这项工作中,我们开发了一种组合学习方法,称为DiRL,它将高级规划和强化学习交织在一起。首先,DiRL将规范编码为抽象图;直观地说,图的顶点和边分别对应于状态空间的区域和更简单的子任务。然后,我们的方法结合了强化学习,在Dijkstra风格的规划算法中为每条边(子任务)学习神经网络策略,以计算图中的高级计划。一组具有连续状态和动作空间的具有挑战性的控制基准上的所提出的方法的评估表明,它优于最先进的基线。
2021-12-27 cs.AI cs.LG
Do It for HER: First-Order Temporal Logic Reward Specification in Reinforcement Learning (Extended Version)
DEIB, Politecnico di Milano(博洛尼亚工程学院,米兰理工大学);Politecnico di Milano(米兰理工大学);INESC-ID/Instituto Superior Técnico Universidade de Lisboa(里斯本大学超级学院/葡萄牙信息科学与技术研究所);Dipartimento di Informatica Università degli Studi di Milano(米兰大学信息学院)
本文提出了一种基于LTLfMT的一阶时间逻辑奖励规范框架,结合奖励机和HER解决奖励稀疏性问题,适用于连续控制任务。
2026-02-05 cs.AI cs.LG cs.LO
Reinforcement Learning of Control Policy for Linear Temporal Logic Specifications Using Limit-Deterministic Generalized Büchi Automata
Osaka University(大阪大学)
这封信提出了一种新的强化学习方法的控制策略的合成满足控制规范描述的线性时序逻辑公式。我们假设被控系统是由一个马尔可夫决策过程(MDP)。我们将规范转换为一个有限确定性的广义Büchi自动机(LDGBA)与几个接受集,接受所有满足公式的无限序列。LDGBA被扩充,以便它明确地记录对接受集的先前访问。我们取一个增强的LDGBA和MDP的乘积,在此基础上定义一个奖励函数。只要状态转换在接受集合中,并且在一定数量的步骤中没有被访问,代理就会获得奖励。因此,稀疏的奖励是放松和接受集之间的最佳循环学习。我们表明,所提出的方法可以学习最优的政策时,折扣因子是足够接近。
2020-03-26 cs.AI cs.LG cs.LO
Optimization-based Task and Motion Planning under Signal Temporal Logic Specifications using Logic Network Flow
George W. Woodruff School of Mechanical Engineering, Georgia Institute of Technology(佐治亚理工学院机械工程学院);Georgia Institute of Technology(佐治亚理工学院);School of Electrical and Computer Engineering, Georgia Institute of Technology(佐治亚理工学院电气与计算机工程学院)
针对信号时序逻辑规范下的任务与运动规划问题,提出Logic Network Flow框架,将时序谓词编码为网络流边约束,实现更紧凸松弛,在多机器人规划案例中计算效率优于传统Logic Tree方法。
2025-09-30 cs.FL cs.RO
Footstep Planning with Encoded Linear Temporal Logic Specifications
本文提出了一种将线性时态逻辑(LTL)规范编码为混合二次约束二次规划(MIQCQP)足迹规划器的方法。我们建议将LTL规范集成到规划器中,不仅有利于无障碍区域之间的安全和理想的运动,而且还为接触规划中的高级推理提供了丰富的语言。在一个二维环境中的足迹规划器满足编码LTL规范的模拟证明了这项研究的结果。
2020-08-31 cs.RO
Elaborating on Learned Demonstrations with Temporal Logic Specifications
University of Edinburgh(爱丁堡大学)
大多数当前用于从演示示教学习的方法假设仅这些演示就足以学习底层任务。这通常是不正确的,特别是如果存在原始演示中没有的额外安全规范。在本文中,我们允许专家详细说明他们原来的演示与额外的规范信息,使用线性时序逻辑(LTL)。我们的系统将LTL规格转换为可微损失。然后,这种损失用于学习满足底层规范的动态移动原语,同时保持接近原始演示。此外,通过利用对抗性训练,我们的系统学习在看不见的输入上鲁棒地满足给定的LTL规范,而不仅仅是在训练中看到的输入。我们表明,我们的方法是足够的表达工作在各种常见的运动规范模式,如避障,巡逻,保持稳定,速度限制。此外,我们表明,我们的系统可以修改一个基础演示与复杂的规范,逐步组成多个简单的规范。我们还实现了我们的系统上的PR-2机器人演示如何可以开始与初始(次优)演示,然后交互式地提高任务的成功,包括额外的规范执行我们的可微LTL损失。
2020-05-22 cs.LG cs.RO stat.ML
Motion Planning with Safety Constraints and High-Level Task Specifications
University of California, Merced(加州大学默塞德分校)
我们提出了一种方法来解决规划问题,涉及在不可预测的环境中的顺序决策,同时完成一个高层次的任务规范表示使用线性时序逻辑的形式主义。我们的方法通过引入修剪步骤来改进现有技术,该修剪步骤在保持正确性的同时显着减少计算最优策略所需的时间。我们的理论贡献是再加上模拟证实所提出的方法的价值。
2015-06-14 cs.RO
Control of Mobile Robots Using Barrier Functions Under Temporal Logic Specifications
Georgia Institute of Technology(佐治亚理工学院)
在本文中,我们提出了一个框架,移动机器人的时间逻辑规范使用障碍函数的控制。复杂的任务规范可以方便地使用线性时序逻辑编码。特别是,我们考虑一个片段的线性时序逻辑,其中包括一个机器人系统的运动规划规范的一大类。控制屏障功能最近已经成为一种方便的工具,以保证系统的可达性和安全性。此外,它们可以被编码为二次规划中的仿射约束。本文提出了一个将时态逻辑中的用户自定义规范转换为基于障碍函数的二次规划序列的全自动框架。此外,为了减轻不可行的情况下,我们提出的方法组成的障碍功能,以及基于优先级的控制方法,以保证控制器的可行性。我们证明了所提出的控制器合成的系统轨迹满足给定的规格。机器人仿真和实验结果提供除了理论框架。
2020-03-29 cs.RO
Arithmetic-Geometric Mean Robustness for Control from Signal Temporal Logic Specifications
Boston University(波士顿大学);Massachusetts Institute of Technology(麻省理工学院)
我们提出了一个新的基于平均的鲁棒性得分信号时序逻辑(STL)和STL约束下的动态系统的最优控制的框架。通过对不同时间点的不同规格或子公式的得分进行平均,我们的新定义突出了满意度的频率,以及每个规格在每个时间点得到满足的稳健程度。我们表明,这个定义提供了一个更好的分数如何满足规范。它的有用性,在监测和控制综合问题,通过案例研究说明。
2019-03-12 cs.RO
LTL-D*: Incrementally Optimal Replanning for Feasible and Infeasible Tasks in Linear Temporal Logic Specifications
Institute for Robotics and Intelligent Machines, Georgia Institute of Technology(佐治亚理工学院机器人与智能机器研究所);Lockheed Martin Corporation(洛克希德·马丁公司)
本文提出LTL-D*增量重规划算法,结合D* Lite与自动机距离度量,在动态环境中以最小违反LTL规范的方式实现最优重规划,并在导航仿真中验证计算效率提升两个数量级。
2024-04-01 cs.FL cs.RO
Efficient Dynamic Shielding for Parametric Safety Specifications
University of California, Irvine(加州大学尔湾分校);IMDEA Software Institute(IMDEA软件研究所)
本文针对参数化安全规范提出动态防护机制,其离线设计耗时数分钟,在线适配速度较暴力重新计算方法快最多5倍,可用于未知区域机器人导航以应对安全规范的动态变化。
2026-08-19 cs.AI cs.LG cs.LO
Online Modifications for Event-based Signal Temporal Logic Specifications
Cornell University(康奈尔大学)
本文提出一种语法与控制综合框架,支持在执行过程中在线修改基于事件的信号时序逻辑(STL)规范,允许用户应对违规、环境变化等动态调整机器人任务,并在无法修改时提供反馈与替代方案。
2023-03-31 cs.RO
Automaton-Guided Control Synthesis for Signal Temporal Logic Specifications
University of Colorado Boulder(科罗拉多大学博尔德分校)
本文提出了一种基于信号时序逻辑(STL)规范的连续动力系统控制综合算法框架。我们提出了一种新的算法,以获得一个时间划分的有限自动机从STL规范,并介绍了一个多层的框架,利用这个自动机引导基于采样的搜索树在空间和时间。我们的方法是能够合成一个控制器的非线性动力学和多项式谓词功能。我们证明了我们的算法的正确性和概率完备性,并说明了我们的框架的效率和有效性的几个案例研究。我们的研究结果显示了一个数量级的加速比最先进的。
2022-10-04 cs.FL cs.RO cs.SY
Correct-by-Construction Behavior Tree Synthesis from Signal Temporal Logic Specifications with Application to Robotic Missions
研究从信号时序逻辑规范合成构建正确的行为树,通过将工作空间建模为定时转换系统并抽象为区域图,引入增强状态空间,利用分层定点算法计算获胜集,证明正确性并推导复杂度界限,经仿真和实验验证了方法的有效性和可部署性。
2026-07-22 cs.RO
Automated Formation Control Synthesis from Temporal Logic Specifications
Eindhoven University of Technology(埃因霍温理工大学)
本文针对多机器人集群在结构化环境中执行时序逻辑规范任务的问题,提出一种具备安全性与收敛性保证的控制器综合框架,可自主切换编队并应对环境事件,并通过多四旋翼导航仿真验证其有效性。
2023-09-15 cs.RO cs.SY eess.SY
Automated Task Updates of Temporal Logic Specifications for Heterogeneous Robots
Cornell University(康奈尔大学)
给定一个异构组的机器人执行一个复杂的任务,表示在线性时序逻辑,和一组新的任务,我们定义的任务更新问题,并提出了一个框架,自动更新个别机器人任务的现有任务和能力。我们的启发式,令牌为基础的,冲突解决任务分配算法产生一个接近最优的分配新的任务。我们证明了我们的方法的可扩展性,通过模拟多机器人任务。
2022-04-18 cs.RO
Optimal Control Synthesis with Relaxed Global Temporal Logic Specifications for Homogeneous Multi-robot Teams
Lehigh University(利哈伊大学)
本文研究同构多机器人团队在全局时序逻辑规约不可行时的控制综合问题,提出结合加权有限状态编辑系统与MILP的优化方法,在捕获松弛代价的同时避免状态空间爆炸,高效实现任务松弛与控制综合。
2024-06-03 cs.RO
RRT* Based Optimal Trajectory Generation with Linear Temporal Logic Specifications under Kinodynamic Constraints
Centre for Cyber-Physical Systems, IISc(印度科学学院网络物理系统中心)
提出一种基于RRT*的轨迹生成方法,结合LTL鲁棒性度量与运动约束,通过递归成本函数平衡可行性与逻辑正确性,经仿真和实验验证,适用于复杂真实场景。
2024-11-09 cs.RO cs.SY eess.SY
Automatic Trajectory Synthesis for Real-Time Temporal Logic
University of Notre Dame(圣母大学)
许多安全关键型系统必须在保证安全性和正确性的情况下实现高级任务规范。最近的进展已经取得了这一目标,通过控制器的时序逻辑规范的合成。然而,现有的方法仅限于相对简短和简单的规格。此外,现有的方法要么考虑一些事先离散化的状态空间,只处理一个凸的时间逻辑片段,或不证明完整。我们提出了一个可扩展的,可证明完整的算法,合成连续的轨迹,以满足非凸\gls*{rtl}规范。我们分离离散任务规划和连续运动规划的飞行和利用高效的布尔可满足性(SAT)和\gls*{lp}求解器找到动态可行的轨迹,满足非凸\gls*{rtl}规格的高维系统。所提出的设计算法被证明是健全和完整的,仿真结果表明我们的方法的可扩展性。
2020-09-14 cs.FL cs.RO cs.SY
Multi-Robot Task Planning under Individual and Collaborative Temporal Logic Specifications
Zhejiang University(浙江大学)
本文研究了多机器人任务协调问题,其中每个机器人都有一个私有的时态逻辑任务规范,同时还必须共同满足一个全局给定的协作时态逻辑任务规范。为了有效地生成可行的和优化的任务执行计划的机器人,我们提出了一个分层的多机器人的时间任务规划框架,在该框架中,一个中央服务器分配的协作任务的机器人,然后单独的机器人可以独立地合成他们的任务执行计划在一个分散的方式。此外,我们提出了一个执行计划调整机制,允许机器人迭代修改他们的执行计划,通过隐私保护的智能体通信,以提高预期的实际执行性能,减少等待时间的机器人合作。分析了该方法的正确性和有效性,并通过大量的仿真实验进行了验证。
2021-08-27 cs.RO
Towards Declarative Safety Rules for Perception Specification Architectures
University of Southern Denmark(南丹麦大学)
与其他蓝领领域相比,农业的死亡人数很高,此外,农村地区人口减少导致劳动力减少。这些问题导致人们更加重视提高农业效率和实行农业自主。田间机器人是一个越来越有前途的机器人分支,目标是实现农业全自动化。然而,安全性方面依赖于安全标准,这限制了现实世界的适用性。在本文中,我们提出了一个视觉管道与功能安全标准的分析,以提出解决方案,如何确定系统按要求运行。基于分析,我们展示了一种简单的机制,用于验证视觉管道是否正常工作,从而提高整个系统的安全性。
2016-01-12 cs.CY cs.RO
Scenario-Based Compositional Statistical Model Checking for Safety Specifications
University of California, Berkeley(加州大学伯克利分校)
针对安全关键系统中组合场景验证成本高的问题,提出基于场景的组合式统计模型检验框架,通过分解场景与规范、独立验证及重要性采样和核密度估计组合结果,实现高效准确验证并降低模拟成本。
2026-10-06 cs.AI cs.LO cs.RO
NL2SpaTiaL: Generating Geometric Spatio-Temporal Logic Specifications from Natural Language for Manipulation Tasks
University of California, Riverside(加州大学河滨分校);Lehigh University(莱恩大学)
本文提出NL2SpaTiaL框架,通过生成层次化逻辑树实现自然语言到时空逻辑规范的高效转换,解决了传统方法在深度嵌套下的性能问题,验证了结构化方法在操作任务验证中的有效性。
2026-03-24 cs.RO
Exact Smooth Reformulations for Trajectory Optimization Under Signal Temporal Logic Specifications
Division of Robotics, Perception and Learning, School of Electrical Engineering and Computer Science, KTH Royal Institute of Technology(机器人、感知与学习 division,电气工程与计算机科学学院,皇家理工学院)
本文针对信号时序逻辑规范下的运动规划问题,提出一种基于max/min算子精确重构的轨迹优化方法,实现无近似误差的可微求解,并通过数值仿真验证其有效性与实用性。
2025-11-10 cs.RO
Negotiating the Probabilistic Satisfaction of Temporal Logic Motion Specifications
Boston University(波士顿大学)
我们提出了一种人为监督的随机Dubins车辆的控制合成方法,使得满足概率计算树逻辑(PCTL)在一组环境属性的片段中作为公式给出的规格的概率最大化。在一些温和的假设下,我们构造了一个有限的近似的形式的树结构的马尔可夫决策过程(MDP)的车辆的运动。我们引入了一个有效的算法,它利用树结构的MDP,合成的控制策略,最大限度地提高满意度的概率。对于建议的PCTL片段,我们定义的规格更新规则,保证增加(或减少)的满意度概率。我们引入了一个增量算法,用于合成一个更新的MDP控制策略,重用初始解决方案。可以使用规则来更新初始规范,直到主管对更新的规范和相应的满意概率都满意为止。我们提出了这种方法的离线和在线应用。
2013-07-11 cs.RO
Decomposition-based Hierarchical Task Allocation and Planning for Multi-Robots under Hierarchical Temporal Logic Specifications
Robotics Institute, Carnegie Mellon University(卡内基梅隆大学机器人研究所);College of Control Science and Engineering, Zhejiang University(浙江大学控制科学与工程学院)
针对复杂时序逻辑规范下的多机器人任务分配与规划问题,提出基于分解的分层框架,通过原子子任务分解、任务网络构建及混合整数线性规划分配,在导航和操作仿真中实现更优解和更短运行时间。
2024-05-23 cs.AI cs.RO
Flow-Based Synthesis of Reactive Tests for Discrete Decision-Making Systems with Temporal Logic Specifications
California Institute of Technology(加州理工学院);Brown University(布朗大学)
针对自主系统复杂规范测试设计难的问题,提出基于流的反应式测试综合方法,结合自动机理论与MILP生成最小限制的测试策略,经仿真和四足机器人实验验证有效。
2024-04-15 cs.FL cs.RO cs.SY
Automated Testing with Temporal Logic Specifications for Robotic Controllers using Adaptive Experiment Design
University of Edinburgh(爱丁堡大学)
许多机器人控制场景涉及评估系统对任务规范的鲁棒性。如果控制器或环境由具有未知动态的“黑盒”组件组成,则我们不能依赖于形式化验证来评估我们的系统。如果环境空间与实验成本相比很大,则通过穷举测试来评估鲁棒性通常也是不可行的。鉴于有限的预算,我们提供了一种方法来选择实验输入,使最大的洞察系统的性能对给定的规格跨域。通过结合信号时序逻辑的平滑鲁棒性度量和自适应实验设计技术,我们的方法通过逐步构建规范鲁棒性的代理模型来选择信息量最大的实验输入。然后,该模型将下一个实验选择在预测误差或不确定性较高的区域。我们的实验表明,这种自适应实验设计技术的结果在样本有效的描述系统的鲁棒性。此外,我们展示了如何使用通过实验设计过程建立的模型来评估数据驱动控制系统在域转移下的行为。
2022-02-22 cs.RO
STeP: Signal Temporal Logic for Precise Specifications for Action Generation with Vision Language Models
University of Maryland(马里兰大学)
针对视觉语言动作模型缺乏可解释性及难以遵循精确自然语言指令的问题,提出用信号时序逻辑(STL)连接高级语言理解与低级机器人执行的分层框架,经实验验证该框架能提高语言条件下机器人规划的精度、可靠性和可解释性。
2026-09-29 cs.RO
Hierarchical Multi-robot Strategies Synthesis and Optimization under Individual and Collaborative Temporal Logic Specifications
College of Electrical Engineering, Zhejiang University(浙江大学电气工程学院)
针对需满足个体与协作线性时序逻辑规范的多机器人时序任务规划问题,提出含任务分解分配、初始策略综合及分布式迭代调整的分层框架,经仿真验证具备良好可扩展性与优化效率。
2021-10-21 cs.RO
Clinical Pathways as Safety Specifications for Physical AI in Hospital Wards
研究针对医院病房物理人工智能系统的安全挑战,提出将临床路径作为安全规范,构建集成多种组件的概念性机器人架构,用运行时安全监视器结合多种方法识别安全违规,助力护理人员并为安全物理人工智能做贡献。
2026-07-23 cs.CY cs.RO
Qualitative Analysis of POMDPs with Temporal Logic Specifications for Robotics Applications
IST Austria (Institute of Science and Technology Austria)(奥地利科学技术研究所);Indian Institute of Technology, Bombay(印度理工学院孟买分校)
我们认为部分可观察马尔可夫决策过程(POMDPs),这是一个标准的框架,机器人应用程序来模拟现实世界中存在的不确定性,与时间逻辑规范。线性时间时序逻辑(LTL)中的所有时序逻辑规范都可以表示为奇偶目标。我们研究的定性分析问题POMDPs奇偶目标,要求是否有一个控制器(政策),以确保目标持有概率1(几乎肯定)。虽然定性分析POMDPs与奇偶校验目标是不可判定的,最近的结果表明,当限制到有限的内存政策的问题是EXPTIME完成。虽然这个问题在理论上是棘手的,我们提出了一个实用的方法来解决定性分析问题。我们设计了几种算法来处理指数复杂度,并在机器人应用程序的一些著名POMDP示例上使用了我们的实现。我们的研究结果提供了第一个实用的方法来解决定性分析的机器人运动规划与LTL属性存在的不确定性。
2015-02-18 cs.LO cs.RO
Scalable Integrated Task and Motion Planning from Signal Temporal Logic Specifications
University of Notre Dame(圣母大学)
本文提出了一种可扩展且可证明完整的算法,直接合成连续轨迹以满足非凸的信号时序逻辑规范,通过分离离散任务规划和连续运动规划,并利用高效的求解器找到高维系统中满足非凸STL规范的动态可行轨迹。
2018-10-20 cs.RO cs.SY eess.SY
Automating Bird Diverter Installation through Multi-Aerial Robots and Signal Temporal Logic Specifications
University of Seville(塞维利亚大学);Czech Technical University in Prague(布拉格捷克理工大学)
本文提出一种基于信号时序逻辑的多旋翼机队驱鸟器安装运动规划方法,通过事件重规划和能量最小化处理故障并节省飞行时间,仿真与现场实验验证了其有效性。
2023-09-19 cs.RO
MT* : Multi-Robot Path Planning for Temporal Logic Specifications
SAP Labs, India(思爱普实验室(印度));IIT Kanpur, India(印度坎普尔理工学院)
我们解决的路径规划问题,一队机器人满足一个复杂的高层次的任务规范的形式的线性时序逻辑(LTL)公式。针对此问题的最新方法采用自动机理论的模型检验技术来解决此问题。这种方法涉及计算的产品图的Buchi自动机产生的LTL规范和一个联合过渡系统,它捕获的集体运动的机器人,然后使用Dijkstra的最短路径算法计算的最短路径。我们提出MT*,算法,减少了计算负担,为多机器人系统产生这样的计划显着。我们的方法生成一个简化版本的产品图,而不计算完整的联合过渡系统,这是计算昂贵的。然后,它将完整的任务规范划分给参与的机器人,并独立地生成各个机器人的轨迹。我们的方法在计算时间方面比最先进的方法有很大的加速,与最先进的方法不同,它可以很好地随机器人的数量和工作空间的大小而扩展
2021-03-04 cs.RO
Control of Noisy Differential-Drive Vehicles from Time-Bounded Temporal Logic Specifications
Boston University(波士顿大学)
我们解决的问题,控制一个嘈杂的差分驱动移动机器人,使满足规格的概率作为一个有界线性时序逻辑(BLTL)公式在一组属性在环境中的区域被最大化。我们假设车辆可以在已知的环境地图中确定其精确的初始位置。然而,受实际限制的启发,我们假设车辆配备有噪声致动器,并且在其在环境中的运动期间,它只能使用有限精度的增量编码器来测量其车轮的角速度。假设运动的持续时间是有限的,我们将测量映射到马尔可夫决策过程(MDP)。我们使用最近的统计模型检验(SMC)的结果,以获得一个MDP控制策略,最大限度地提高满意的概率。我们翻译这个政策的车辆反馈控制策略,并表明,在环境中的车辆满足规格的概率是有界的,从下面的概率满足规格上的MDP。我们说明我们的方法与模拟和实验结果。
2013-01-12 cs.RO
Motion Planning Under Temporal Logic Specifications In Semantically Unknown Environments
Department of Electrical and Computer Engineering, Northeastern University(电气与计算机工程系,东北大学)
本文针对语义标签概率未知的环境,提出一种基于乘积自动机与值迭代在线重规划的自动机理论方法,用于实现scLTL时空逻辑任务,并通过理论与实验验证其有效性。
2025-11-05 cs.RO
Safe Planning through Incremental Decomposition of Signal Temporal Logic Specifications
Carnegie Mellon University(卡内基梅隆大学);Pennsylvania State University(宾夕法尼亚州立大学)
本文提出通过时间分解信号时态逻辑规范为可达性和不变性约束并顺序调度,以提升轨迹规划效率,在线性和非线性系统上优于现有方法。
2024-03-19 cs.LO cs.RO cs.SY
An MILP Approach for Real-time Optimal Controller Synthesis with Metric Temporal Logic Specifications
Rensselaer Polytechnic Institute(伦斯勒理工学院)
本文提出一种混合整数线性规划方法,用于在动态环境中实时合成满足度量时序逻辑规范的控制器,通过优化性能指标确保系统行为正确。
2016-03-08 cs.RO cs.SY eess.SY
Model-based Reinforcement Learning from Signal Temporal Logic Specifications
University of Southern California(南加州大学)
基于强化学习(RL)的技术正越来越多地用于设计机器人系统的控制策略。RL从根本上依赖于基于状态的奖励函数来编码机器人的期望行为,而不好的奖励函数容易被学习代理利用,导致在最好的情况下不受欢迎的行为,在最坏的情况下非常危险。另一方面,为复杂任务设计好的奖励函数是一个具有挑战性的问题。在本文中,我们建议表达所需的高层次的机器人行为使用正式的规约语言称为信号时序逻辑(STL)作为替代奖励/成本函数。我们使用STL规范结合基于模型的学习来设计模型预测控制器,试图在有限的时间范围内优化STL规范的满意度。所提出的算法经验评估的机器人系统,如拾取和放置机械臂,和自适应巡航控制自动驾驶汽车的模拟。
2020-11-10 cs.AI cs.RO cs.SY
Power Line Inspection Tasks with Multi-Aerial Robot Systems via Signal Temporal Logic Specifications
Czech Technical University in Prague(布拉格捷克理工大学);ENEA(意大利国家新技术、能源与可持续经济发展署)
本文提出了一种基于信号时序逻辑(STL)规范的电力线检测任务的四旋翼机群的可行和受限轨迹计算框架。规划器允许制定复杂的任务,避免障碍物,并在执行计划任务时保持无人机之间的安全距离。设置一个优化问题,以生成满足这些规范的最佳策略,并考虑车辆的约束。此外,事件触发的重规划器被提出来应对不可预见的事件和外部干扰。能量最小化项也被认为是隐含地节省四旋翼电池寿命,同时执行任务。MATLAB数值仿真和实验结果表明了该方法的有效性和可行性,并证明了其在实际应用中的可行性。
2023-02-09 cs.MA cs.RO
Specification mining and automated task planning for autonomous robots based on a graph-based spatial temporal logic
University of Notre Dame(圣母大学)
我们的目标是使自主机器人能够从演示视频中学习新技能,并使用这些新学到的技能来完成重要的高级任务。开发这种自主机器人的目标涉及到知识表示、规范挖掘和自动任务规划。对于知识表示,我们使用基于图的时空逻辑(GSTL)来捕获演示视频所演示的相关技能的时空信息。我们设计了一个规范挖掘算法,通过归纳构造空间项和时间公式,从演示视频中生成一组参数化的GSTL公式。从规范挖掘得到的参数化GSTL公式作为域理论,用于自主机器人的自动任务规划。提出了一种基于GSTL的自动任务规划方法,其中提出者用于生成有序动作,验证者用于生成可执行的任务计划。文中以表格设置为例说明了本文的主要思想。
2020-07-16 cs.AI cs.RO cs.SY
Safe Reinforcement Learning with Probabilistic Guarantees Satisfying Temporal Logic Specifications in Continuous Action Spaces
Technical University of Munich(慕尼黑工业大学);California Institute of Technology(加州理工学院)
针对连续动作空间中RL缺乏安全保证的问题,提出“概率验证—RL性能优化—再验证”的三步安全RL流程,并在动态障碍规避任务中验证其可兼顾高效学习与时序逻辑概率安全。
2023-09-28 cs.RO cs.SY eess.SY
Control Synthesis using Signal Temporal Logic Specifications with Integral and Derivative Predicates
University of Minnesota(明尼苏达大学)
在许多应用中,信号的积分和导数携带有价值的信息(例如,在时间窗口上的累积成功、变化率)。在本文中,我们扩展了信号时序逻辑(STL)的表达能力,通过引入谓词,可以定义丰富的属性相关的积分和导数的信号。对于控制合成,新的谓词被编码成混合整数线性不等式,并用于制定一个混合整数线性规划,以找到一个轨迹,满足STL规范。我们讨论了使用新的谓词的好处,并说明他们在一个案例研究中显示的影响,新的谓词上的轨迹的自主机器人。
2021-03-26 cs.RO cs.SY eess.SY
Safe reinforcement learning for probabilistic reachability and safety specifications: A Lyapunov-based approach
Seoul National University(首尔国立大学)
机器人和自主系统中的新兴应用,如自动驾驶和机器人手术,通常涉及关键的安全约束,即使有关系统模型的信息有限,也必须满足这些约束。在这方面,我们提出了一个无模型的安全规范方法,学习安全操作的最大概率,通过仔细结合概率可达性分析和安全强化学习(RL)。我们的方法构造了一个关于安全策略的李雅普诺夫函数来约束每个策略改进阶段。其结果是,它产生了一系列的安全策略,确定安全操作的范围,称为安全集,单调扩展,并逐渐收敛。我们还开发了一个有效的安全的探索计划,加快了未检查状态的安全性识别过程。利用李雅普诺夫屏蔽,我们的方法调节的探索性政策,以避免危险状态的高置信度。为了处理高维系统,我们通过引入拉格朗日松弛技术来进一步扩展我们的方法到深度RL,以建立一个易于处理的actor-critic算法。我们的方法的经验表现证明,通过连续控制基准问题,如达到任务的平面机器人手臂。
2020-02-24 cs.AI cs.RO cs.SY
Tractable Reinforcement Learning for Full Class of Signal Temporal Logic Specifications Using Spatiotemporal Tube Reward
Centre for Cyber-Physical Systems, IISc(印度科学研究所网络物理系统中心)
本文提出一种时间感知的强化学习框架,利用时空管几何特性将全类信号时序逻辑规范映射为时变边界,训练软演员-评论家智能体,在满足输入约束下实现无历史、计算高效的连续控制策略。
2026-09-24 cs.RO cs.SY eess.SY
Differentially Private Controller Synthesis With Metric Temporal Logic Specifications
Oden Institute for Computational Engineering and Sciences, University of Texas, Austin(奥斯汀德克萨斯大学奥登计算工程与科学研究所);University of Florida(佛罗里达大学)
隐私是一个重要的问题,在各种多智能体系统中,从代理收集的数据是敏感的。我们提出了一个差分私人控制器合成方法的多智能体系统受到高层次的规格表示度量时序逻辑(MTL)。我们考虑这样一种设置,每个代理通过一组本地集线器将数据发送到云(计算站),云负责计算代理的控制输入。具体地,每个代理添加隐私噪声(例如,高斯噪声)在与本地集线器共享它们之前,在时间上逐点地到其自己的输出。每个本地集线器运行卡尔曼滤波器来估计相应代理的状态,并定期将这种状态估计发送到云。云根据MTL规范计算每个代理的最佳输入。在保证每个代理的差分隐私,控制器也合成,以确保概率保证满足MTL specification.We提供了一个实现所提出的方法的仿真案例研究与两个车轮上的机器人作为代理。
2019-09-29 cs.RO cs.SY eess.SY