Semi-Autonomous Formalization of the Vlasov-Maxwell-Landau Equilibrium
University of Washington(华盛顿大学)
本文展示了一个完整的Lean 4形式化,用于Vlasov-Maxwell-Landau系统中的平衡特性描述,通过AI辅助数学研究流程,结合AI推理模型、编码工具和专业证明器,实现了高效的形式化验证。
2026-03-31 cs.AI math.AP math.LO
Agent Behavioral Contracts: Formal Specification and Runtime Enforcement for Reliable Autonomous AI Agents
Accenture(埃森哲)
本文提出智能体行为契约框架,通过形式化规范和运行时执行,提升自主AI智能体的可靠性与行为可控性。
2026-02-25 cs.AI cs.MA cs.SE
Proceedings First Workshop on Formal Verification of Autonomous Vehicles
International Conference on integrated Formal Methods(国际形式化方法会议);EPTCS(电子程序技术报告)
本文集聚焦自动驾驶车辆的形式验证,汇集了形式验证领域研究人员及控制理论、机器人学等领域的专家,探讨验证技术在自动驾驶开发中的应用。
2017-09-07 cs.AI cs.SY eess.SY
Proceedings Second Workshop on Formal Methods for Autonomous Systems
自治系统是高度复杂的,对形式化方法的应用提出了独特的挑战。自主系统在没有人为干预的情况下运行,并且通常嵌入在机器人系统中,以便它们可以与现实世界进行交互。因此,它们表现出安全关键,网络物理,混合和实时系统的属性。FMAS的目标是汇集正在使用正式方法解决自治系统独特挑战的领先研究人员,以展示最近和正在进行的工作。我们感兴趣的是使用形式化方法来指定,建模或验证自主或机器人系统;全部或部分。我们也有兴趣在成功的工业应用和潜在的未来方向,这种新兴的应用正式的方法。
2020-12-02 cs.AI cs.LO cs.RO
Proceedings Third Workshop on Formal Methods for Autonomous Systems
自治系统是高度复杂的,对形式化方法的应用提出了独特的挑战。自主系统在没有人为干预的情况下运行,并且通常嵌入在机器人系统中,以便它们可以与现实世界进行交互。因此,它们表现出安全关键,网络物理,混合和实时系统的属性。本EPTCS卷包含第三次自治系统形式化方法研讨会(FMAS 2021)的会议记录,该研讨会于2021年10月21日和22日举行。与之前的研讨会一样,FMAS 2021是一个在线的独立活动,以适应持续的COVID-19限制。尽管这带来了挑战,但我们决心在前两次FMAS研讨会成功的基础上再接再厉。FMAS的目标是汇集正在使用正式方法解决自治系统独特挑战的领先研究人员,以展示最近和正在进行的工作。我们感兴趣的是使用形式化的方法来指定,建模或验证自主和/或机器人系统;全部或部分。我们也有兴趣在成功的工业应用和潜在的未来方向,这种新兴的应用正式的方法。
2021-10-22 cs.AI cs.LO cs.RO
Proceedings Sixth International Workshop on Formal Methods for Autonomous Systems
本卷收录第六届自主系统形式化方法国际研讨会(FMAS 2024)的论文,该会于2024年11月11日至13日与iFM'24在曼彻斯特大学联合举办。
2024-11-20 cs.AI cs.LO cs.RO
Towards Integrating Formal Verification of Autonomous Robots with Battery Prognostics and Health Management
Heriot-Watt University(赫瑞-瓦特大学);University of Liverpool(利物浦大学)
电池是自主机器人的关键部件。它的性能限制了机器人的安全性和可靠性。与液体燃料不同,电池作为一种化学装置,具有复杂的特征,包括(i)连续充电时容量衰减;(ii)在给定功率需求下,随着荷电状态(SOC)下降,放电率增加。现有的形式化验证研究的自主机器人,考虑能源的限制,形式化的能源组成部分,在一个通用的方式,这样的电池功能被忽略。在本文中,我们建立了一个无人机(UAV)检查任务的风电场和通过概率模型检验在PRISM显示(i)如何电池的功能可能会影响验证结果显着在实际情况下;和(ii)如何电池的功能,连同动态环境和电池安全策略,共同影响验证结果。潜在的解决方案,明确集成电池性能和健康管理(PHM)与自主机器人的形式化验证也进行了讨论,以激励未来的工作。
2019-08-22 cs.AI cs.RO cs.SY
Proceedings Fourth International Workshop on Formal Methods for Autonomous Systems (FMAS) and Fourth International Workshop on Automated and verifiable Software sYstem DEvelopment (ASYDE)
本EPTCS卷包含第四届自治系统形式化方法国际研讨会(FMAS 2022)和第四届自动化和可验证软件系统开发国际研讨会(ASYDE 2022)的联合会议记录,该研讨会于2022年9月26日和27日举行。FMAS 2022和ASYDE 2022与第20届软件工程和形式化方法国际会议(SEFM'22)在柏林洪堡大学联合举行。对于FMAS,今年的研讨会是我们在两个版本的FMAS完全在线后,由于COVID-19的限制,我们重新亲自出席。我们还热衷于确保FMAS 2022仍然方便无法旅行的人访问,因此研讨会促进了远程演示和出席。FMAS的目标是汇集正在使用正式方法来解决自治系统所带来的独特挑战的领先研究人员,分享他们最近和正在进行的工作。自治系统是高度复杂的,对形式化方法的应用提出了独特的挑战。自主系统在没有人为干预的情况下运行,并且通常嵌入在机器人系统中,以便它们可以与现实世界进行交互。因此,它们表现出安全关键,网络物理,混合和实时系统的属性。我们感兴趣的工作,使用正式的方法来指定,建模,或验证自主和/或机器人系统;在整体或部分。我们也有兴趣在成功的工业应用和潜在的方向,这种新兴的应用正式的方法。
2022-09-27 cs.AI cs.LO cs.RO
Computational Irreducibility as the Foundation of Agency: A Formal Model Connecting Undecidability to Autonomous Behavior in Complex Systems
Tehran, Iran(伊朗德黑兰)
本文提出正式模型证明真正自主系统的未来行为具有不可判定性与计算不可预测性,基于计算不可约性区分自主与非自主系统,为人工智能和自由意志等领域提供理论基础。
2025-06-11 cs.AI cs.CC cs.IT
Proceedings Seventh International Workshop on Formal Methods for Autonomous Systems
EPTCS
本文介绍第七届自主系统形式化方法国际研讨会(FMAS 2025)的论文集,该研讨会与iFM'25同地举办,收到16篇多国投稿,反映社区对其7年网络的认可及发展潜力。
2025-11-17 cs.AI cs.LO cs.RO
Open Challenges in the Formal Verification of Autonomous Driving
University of Modena and Reggio Emilia(摩德纳与雷焦艾米利亚大学)
本文通过真实自动驾驶系统案例,分析异构组件集成带来的认证难题,并探讨形式化验证方法如何保障系统可靠性与安全性。
2024-11-21 cs.AI cs.DC cs.RO
Formal Verification of End-to-End Learning in Cyber-Physical Systems: Progress and Challenges
MIT-IBM Watson AI Lab(MIT-IBM沃森人工智能实验室);IBM Research(IBM研究院);Massachusetts Institute of Technology(麻省理工学院)
自动驾驶系统--如自动驾驶汽车、自动驾驶无人机和自动化列车--必须有强大的安全保障。在过去的十年中,基于形式化方法的技术在为大型软件系统(包括操作系统内核、加密协议和无人机控制软件)提供强正确性保证方面取得了一些成功。这些成功表明,通过构造正式的、计算机检查的正确性证明来确保自治系统的安全性是可能的。本文确定了现有的形式化验证技术的三个假设,解释了这些假设如何限制验证在自治系统中的适用性,并总结了初步工作,以提高形式化验证提供的证据的强度。
2020-06-15 cs.AI cs.LG cs.SE
Formal Safety Guarantees for Autonomous Vehicles using Barrier Certificates
本文提出一种结合屏障证书与时间到碰撞度量的形式验证安全框架,通过SMT求解器和自适应控制机制,提升自动驾驶车辆的安全性和可解释性。
2026-01-08 cs.AI cs.RO cs.SE
Proceedings Fifth International Workshop on Formal Methods for Autonomous Systems
本论文集收录FMAS 2023研讨会成果,该会议聚焦自主系统形式化建模与验证,共收到25篇投稿并录用15篇论文,投稿量连续三年增长,彰显其学术影响力。
2023-11-15 cs.AI cs.RO
Specula: Scaling formal specifications for autonomous model checking of system code
Nanjing University(南京大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Microsoft Research Asia(微软亚洲研究院);University of British Columbia(不列颠哥伦比亚大学)
Specula利用大语言模型编码代理为系统代码生成形式规范,通过自我进化循环解决LLM技术局限,实现自主模型检查,应用于48个开源项目发现众多错误,消除形式方法应用障碍,助力系统代码验证。
2026-08-04 cs.AI cs.DC cs.OS
Bayesian Epistemology with Weighted Authority: A Formal Architecture for Truth-Promoting Autonomous Scientific Reasoning
Department of Computer Science University of Exeter(计算机科学系埃克塞特大学)
针对科学文献爆炸超越认知处理能力的问题,提出加权权威贝叶斯认识论(BEWA)架构,通过贝叶斯推断、矛盾处理等机制,实现促进真理的机器科学推理。
2025-06-19 cs.AI cs.CL cs.DB
Autonomous Robotic Swarms: A Corroborative Approach for Verification and Validation
University of Bristol(布里斯托尔大学);The University of Manchester(曼彻斯特大学)
针对自主机器人集群涌现行为的安全保证难题,提出一种结合宏观形式化建模、低保真与高保真仿真及真实机器人实验的印证式验证与确认方法,以增强证据可信度。
2025-02-28 cs.AI cs.RO
Watchdogs and Oracles: Runtime Verification Meets Large Language Models for Autonomous Systems
University of Modena and Reggio Emilia(摩德纳和雷吉奥艾米利亚大学)
针对自主系统安全保障难题,提出运行时验证(RV)与大型语言模型(LLMs)的共生集成方案:RV为LLMs提供护栏,LLMs扩展RV能力,以提升自主系统的可信度与安全性。
2025-11-18 cs.AI cs.LO cs.SE
Scalable and Interpretable Verification of Image-based Neural Network Controllers for Autonomous Vehicles
Clemson University(克莱姆森大学)
针对自动驾驶基于图像的神经网络控制器面临高维输入、计算低效和黑盒不可解释问题,提出SEVIN框架,利用VAE潜空间与凸多面体实现可扩展、可解释的形式化和鲁棒性验证。
2025-03-17 cs.AI cs.LG cs.SY
Formal Verification of Neural Network Controlled Autonomous Systems
Department of Electrical;Computer Engineering University of Maryland, College Park
本文研究了如何形式验证配备神经网络控制器的自主机器人在LiDAR图像处理中安全性的核心问题,通过构建有限状态抽象并利用可达性分析计算安全的初始条件,提出了一种多项式时间算法来分区工作空间并计算对应的仿射成像函数,同时利用SMC编码分析神经网络行为,通过数值模拟验证了算法的效率。
2018-10-31 cs.AI cs.RO cs.SY
AIBA: An AI Model for Behavior Arbitration in Autonomous Driving
Transilvania University of Brasov(布拉索夫特兰西瓦尼亚大学);Elektrobit Automotive(易特驰汽车);Széchenyi István University of Gyõr(杰尔塞切尼·伊什特万大学)
在动态变化的交通中驾驶对于自动驾驶汽车来说是一项极具挑战性的任务,尤其是在拥挤的城市道路上。无人驾驶汽车的人工智能(AI)系统必须能够在不同的驾驶策略之间进行仲裁,以便根据可理解的交通场景模型正确规划汽车的路径。提出了一种用于自动驾驶的人工智能行为仲裁算法。该方法被称为AIBA(AI行为仲裁),分为两个阶段:(i)人类驾驶场景描述和理解以及(ii)形式化建模。场景的描述是通过模仿人类认知模型来实现的,而建模部分是基于一种近似于人类驾驶员理解过程的形式化表示。形式化表示的优点是系统的功能安全性可以通过分析来推断。该算法的性能进行了评估虚拟试驾(VTD),一个全面的交通模拟器,并在GridSim,车辆运动学引擎的原型。
2019-11-07 cs.AI cs.RO
$\forall$uto$\exists$val: Autonomous Assessment of LLMs in Formal Synthesis and Interpretation Tasks
School of Computing and Augmented Intelligence(计算与增强智能学院);Arizona State University(亚利桑那州立大学)
本文提出$\forall$uto$\exists$val,利用上下文无关文法动态生成分布外数据,结合形式验证器进行闭环测试,自主评估LLM在形式语法与自然语言互译任务中的能力,实验表明现有SOTA模型难以胜任。
2024-07-22 cs.AI cs.CL
Towards Formal Fault Injection for Safety Assessment of Automated Systems
RISE Research Institutes of Sweden(瑞典研究院)
本文提出形式化故障注入,融合形式化方法与故障注入技术,以增强自主系统的可靠性与安全性评估。
2023-11-16 cs.AI
Using Formal Models, Safety Shields and Certified Control to Validate AI-Based Train Systems
Heinrich Heine University Düsseldorf(杜塞尔多夫海因里希·海涅大学)
本文提出一种两层方法,结合B方法形式化分析与运行时证书检查器,在ProB中集成演示器对基于AI的自主列车进行运行时监控、验证和统计验证,以检测AI及证书检查器的潜在漏洞。
2024-11-21 cs.AI cs.CV cs.LO
ATA: A Neuro-Symbolic Approach to Implement Autonomous and Trustworthy Agents
Otera Austria(奥特拉奥地利)
本文提出神经符号框架 ATA,通过离线构建可人工验证的符号知识库、在线由符号引擎决策,在复杂推理任务中实现确定性、稳定性与抗提示注入的可信自主智能体。
2025-10-18 cs.AI cs.CL
Assumption Generation for the Verification of Learning-Enabled Autonomous Systems
KBR(KBR公司);NASA Ames(美国国家航空航天局艾姆斯研究中心);Carnegie Mellon University(卡内基梅隆大学);Boeing Research and Technology(波音研究与技术公司)
针对学习型自主系统安全验证难题,提出假设-保证式组合方法,自动合成最弱 DNN 行为假设,用于运行时监控和训练测试规范挖掘,并在自主飞机感知案例中验证。
2023-05-27 cs.AI cs.LG
Dual Formulation for Chance Constrained Stochastic Shortest Path with Application to Autonomous Vehicle Behavior Planning
Khalifa University(哈利法大学)
自动驾驶车辆面临的问题是优化后续机动的预期性能,同时限制与周围动态障碍物碰撞的风险。这些障碍物,如代理车辆,往往表现出随机过渡,应及时和安全的方式。约束随机最短路径问题(C-SSP)是在随机环境中,在某些类型的操作约束下规划的一种形式。虽然C-SSP允许在规划问题中指定约束,但它不允许限制约束违反的概率,这在安全关键应用中是期望的。这项工作的第一个贡献是一个确切的整数线性规划制定的机会约束SSP(CC-SSP),达到确定性的政策。其次,随机舍入过程中提出的随机政策。第三,我们证明了CC-SSP形式主义可以推广到跨越多个时间步长的约束。评估结果表明,我们的方法在基准问题相比,现有的方法是有用的。
2023-02-25 cs.AI
Verification for Machine Learning, Autonomy, and Neural Networks Survey
本调查概述了自主系统的验证技术,重点是安全关键的自主网络物理系统(CPS)及其子组件。CPS中的自主性是通过人工智能(AI)和机器学习(ML)的最新进展来实现的,这些进步通过诸如深度神经网络(DNN)之类的方法来实现,这些方法嵌入在所谓的学习使能组件(LEC)中,完成从分类到控制的任务。最近,形式化方法和形式化验证社区已经开发出方法来表征这些LEC中的行为,最终目标是形式化验证LEC的规范,本文对这些方法进行了综述。
2018-10-03 cs.AI cs.LG