ObliVul: Alert-Conditioned Safety Obligation Modeling and Bidirectional Counterfactual Validation for Code Vulnerability Detection
Taiyuan University of Technology（太原理工大学）
本研究针对代码漏洞检测中静态分析产生大量警报难以筛选的问题，提出ObliVul框架，通过安全义务建模与双向反事实验证提升漏洞检测的准确性，减少误报。
2026-10-09 cs.SE
An LLM-driven Scenario Generation Pipeline Using an Extended Scenic DSL for Autonomous Driving Safety Validation
School of Computing, Macquarie University（麦考瑞大学计算学院）
本文提出基于扩展Scenic DSL和LLM的场景生成流水线，实现高精度自动驾驶安全验证。
2026-02-24 cs.SE
Design and Validation of Safety Cruise Control System for Automobiles
鉴于最近全世界人口的巨大增长，车辆也大量和不受控制地增长，因此在很大程度上增加了道路事故的数量。作为对上述问题的解决方案的替代，我们的系统尝试使用同步程序设计语言来减轻相同的问题。其目的是开发一种安全碰撞警告系统，该系统将解决追尾碰撞问题，并在威胁处于非常高的水平时接管车辆的控制。根据环境条件进行调整也是该系统的一个突出特点。安全系统向驾驶员提供警告，以帮助避免与其他车辆追尾碰撞。最初，系统提供低级别警报，并且随着威胁的严重性增加，警告或警报的级别也上升。在最高威胁等级下，系统进入巡航控制模式，其中系统通过控制发动机节气门并且如果允许的话通过控制车辆的制动系统来控制车辆的速度。我们关注这个坠机区域，因为它在坠机相关死亡人数中所占的比例非常高。为了证明该系统的可行性，鲁棒性和可靠性，我们还证明了系统的一些属性，使用时序逻辑以及在ESTEREL的参考实现。为了支持这一点，我们已经正式验证了系统的各种属性及其证明。
2011-11-07 cs.SE
State of the Art Study of the Safety Argumentation Frameworks for Automated Driving System Safety
汽车行业正在经历从辅助驾驶到高度自动化驾驶的转变。自动驾驶系统（ADS）验证的新概念包括从“基于技术”的方法转变为“基于场景”的评估。ADS的安全验证和型式认证过程被视为当今汽车行业面临的最大挑战。考虑到各种现有的白皮书、标准化活动和监管方法，制造商仍然在努力选择与其安全管理体系和安全文化保持一致的最佳实践。向前迈出的一步将是实施一个协调一致的全球安全保证计划，该计划符合相关法规、法律、标准，并反映当地规则。今天，许多社区（监管机构，地方当局，工业企业持有人）致力于安全论证的概念验证框架，以解决这个问题。不幸的是，仍然没有一个明确的方法和一套安全指标来衡量ADS的安全性达成共识。本总结报告的目的是促进对有关车辆安全可用方法和途径、工程框架、基于发动机的评估过程以及供应商和技术中立的安全论证方法和工具的文献进行全面审查和分析。
2023-01-31 cs.SE
JTA: Joint Testability Architecture for Scenario-Based Validation of Safety-Critical Software
Beihang University（北京航空航天大学）
该研究提出JTA架构，将场景、测试系统与被测系统整合分析，通过多维度表征验证能力并引入相关方法，经ArduPilot失效保护验证示例分析，为安全关键软件场景化验证提供架构基础。
2026-08-07 cs.RO cs.SE
Talk is Cheap, Logic is Hard: Benchmarking LLMs on Post-Condition Formalization
Utrecht University（乌得勒支大学）；Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）
本文研究LLMs生成程序预条件和后条件形式化的能力，评估24种先进模型在40个任务数据集上的表现，发现LLMs在预条件形式化上表现优于后条件，但所有模型均无法正确完成所有任务，需通过良好测试集提升可靠性。
2026-03-17 cs.SE
Model-Based Software Engineering and Ada: Synergy for the Development of Safety-Critical Systems
在本文中，我们概述了一个软件开发过程的安全关键系统，旨在结合一些特定的优势，基于模型的开发与程序设计语言的开发使用的安全关键的Ada子集。基于模型的软件开发和基于模型的测试用例生成技术与代码生成技术和工具相结合，为系统本身及其测试用例提供从模型到代码的转换。这允许开发人员将面向领域的基于模型的技术与基于源代码的验证技术相结合，以符合安全关键软件开发标准，如航空电子标准RTCA/DO-178 B。我们介绍了AutoFocus和Validator建模和验证工具集，并概述了其用于建模，测试用例生成和代码生成的组合方法，这是进一步说明了一个简化的前沿航空航天模型内置的容错。
2002-01-26 cs.SE
Triggering Conditions Analysis and Use Case for Validation of ADAS/ADS Functions
汽车领域的安全性是一个众所周知的话题，在过去的几年里一直在不断发展。在每个功能中添加更先进组件的新系统的复杂性开辟了必须从安全角度涵盖的新趋势。在这种情况下，不仅要涵盖规范和要求，还要涵盖车辆环境的所有相关信息。其中许多尚未得到充分的界定或考虑。在这种情况下，预期功能的安全性（SOTIF）似乎可以确保系统在由于技术缺陷或用户误用而失败时的安全性。必须识别ADAS/ADS功能的潜在不安全性，以发现可能导致这些未知场景的潜在触发条件，这些场景可能会影响危险行为。本出版物的主要目标是定义一个用例，以识别这些触发条件，这些触发条件已应用于我们自主开发的移动硬件在环（HiL）平台中实现的防撞功能。
2023-01-31 cs.SE
On the validation of complex systems operating in open contexts
近年来，在公共环境中运行的高度自动化系统，如道路车辆的自动驾驶，乘客穿梭系统和移动机器人，已经出现了热潮。这些系统，在非结构化的，公共的现实世界的环境（操作设计域可以被描述为开放的上下文）本身承担着严重的安全风险。严重的安全风险、必要的技术系统的复杂性、操作设计领域的开放性以及监管形势对汽车行业构成了根本性的挑战。在过去的几年中，已经提出了许多不同的自动驾驶功能验证方法。然而，尽管部分宣布为验证挑战的解决方案，但许多受好评的方法都留下了关键部分。为了说明的贡献，以及个人的方法和提供策略的“可行的”验证和批准这样的系统的局限性，本文的第一部分给出了一个分析的基本挑战，有效的设计和操作复杂的自治系统在开放的背景下运行。在第二部分中，我们正式的问题陈述，并提供迭代开发和验证的算法。在最后一部分，我们给出了一个高层次的概述，一个实用的，整体的开发过程，我们称之为系统的，基于系统视图的方法来验证（简称sys 2 val）和评论的贡献，从ISO 26262和ISO/PAS 21448（SOTIF）的当前状态。
2019-01-22 cs.SE
Significant acceleration of development by automating quality assurance of a medical particle accelerator safety system using a formal language driven test stand
在Paul Scherrer研究所的质子治疗中心，癌症患者使用固定光束线进行治疗，并分别在两个机架中治疗眼部和非眼部恶性肿瘤。为了安装第三台机架，开发了一个新的患者安全系统（PaSS），并按顺序推出，以更新现有区域。PaSS的目的是在任何子系统检测到危险情况时中断治疗。为了确保正确的治疗输送，该系统需要进行彻底的测试，作为定期质量保证（QA）协议的一部分，以及在任何升级后。在传统安全系统中，单元测试需要大量使用资源：除了QA射束时间外，实验室每个区域的工作时间为两周。为了显著缩短时间，基于PXI机箱开发了一个用于单元测试的自动化PaSS测试台，该测试台具有几乎无限的IO，可以在1 MHz下同步激励或采样。它可以使用适配器连接每种类型的接口来模拟设施的其余部分。有了它，PaSS可以在任意条件下进行测试。一个基于VHDL的形式语言的开发来描述刺激，预期的行为和具体的测量，解释的LabView运行时环境。本文描述了用于新PaSS的单元测试和QA发布测试的工具和方法。它展示了自动化和形式化如何使测试覆盖率的增加成为可能，同时显着减少了实验室测试时间和设施的光束使用。
2018-06-23 cs.SE
Automated Formalization of Probabilistic Requirements from Structured Natural Language
KBR Inc.（KBR公司）；NASA Ames Research Center（美国国家航空航天局艾姆斯研究中心）；The University of Manchester（曼彻斯特大学）；University of York（约克大学）；RTX Technology Research Center（RTX技术研究中心）
本文提出了一种自动方法，将结构化自然语言中的概率性要求转换为概率时序逻辑公式，以提升自主和适应性系统的形式化分析效率与准确性。
2025-12-15 cs.FL cs.PL cs.SE
Facing ADAS validation complexity with usage oriented testing
验证高级驾驶辅助系统（ADAS）是一个战略问题，因为此类系统在汽车领域变得越来越普遍。ADAS为驾驶者带来额外的舒适性，这已经成为一个卖点。但是，这些功能虽然有用，但不得影响车辆的一般安全性，这是制造商的责任。目前有相当数量的ADAS基于视觉系统，障碍物检测和行人检测等应用已成为自动紧急制动等功能的重要组成部分。随着新的Euro NCAP协议的到来，这些维护和保护道路使用者的系统变得更加重要。因此，ADAS功能的稳健性和可靠性不容忽视，汽车制造商需要有工具来确保在其车辆上运行的ADAS功能以最大的安全性运行。此外，这些系统的复杂性，以及与基于图像传感器的功能使用情况相关的几乎无限数量的参数组合，促使我们考虑测试优化方法和工具标准，以支持ADAS系统的设计和验证阶段。使用当前方法进行验证所需的资源使其实际上越来越不适应新的主动安全功能，这引起了非常强的可靠性要求。如今，为了测试基于摄像头的ADAS，测试车辆配备了这些系统，并进行长时间的驾驶，可以持续数年。这些测试用于确认功能的使用，并验证其对规范中描述的要求的响应，而不考虑功能安全标准ISO26262。
2016-02-22 cs.CY cs.SE
A Formal-Methods Approach to Provide Evidence in Automated-Driving Safety Cases
本文提出用形式化方法为自动驾驶安全案例提供数学证据，证明功能安全需求向反馈回路组件的正确分解，并以可证明的形式化模型作为组件需求，减少评审、测试及数据与验证成本。
2022-10-13 cs.SE cs.SY eess.SY
Simulation-based Safety Assurance for an AVP System incorporating Learning-Enabled Components
DENSO AUTOMOTIVE Deutschland GmbH（电装汽车德国有限公司）
针对含学习赋能组件的AD/ADAS安全保障难题，本文依托FOCETA项目的AVP用例，提出一种基于仿真的开发平台，可在持续工程循环中完成安全关键型学习赋能系统的验证与确认。
2023-09-28 cs.AI cs.SE
Information model for model driven safety requirements management of complex systems
本文的目的是提出一个严格的和完整的设计框架的复杂系统的基础上系统工程（SE）的原则。SE标准EIA-632用于指导该方法。在这个框架内，提出了两个方面。第一个是系统工程过程中安全需求与管理的集成。其目的是帮助设计师和工程师管理复杂系统的安全性。第二个方面涉及通过定义信息模型的模型驱动设计。该模型基于SysML（系统建模语言），以解决需求定义及其对解决方案和验证与确认（V&V）元素的可追溯性。
2012-12-18 cs.PF cs.SE
APIKS: A Modular ROS2 Framework for Rapid Prototyping and Validation of Automated Driving Systems
本文提出APIKS，一个基于ROS2的模块化框架，用于自动驾驶系统快速原型开发与验证，并通过施工区辅助系统用例展示其有效性。
2025-02-27 cs.SE cs.SY eess.SY
VeriGuard: Enhancing LLM Agent Safety via Verified Code Generation
Google Cloud AI Research（谷歌云人工智能研究）；Google DeepMind（谷歌DeepMind）
VeriGuard通过双阶段架构（离线验证策略与在线动作监控）为LLM智能体提供形式化安全保证，确保行为符合规范，提升可信度。
2025-10-03 cs.AI cs.CR cs.SE
Early Validation of High-level Requirements on Cyber-Physical Systems
针对安全关键型网络物理系统（CPS）高层需求早期验证问题，提出将需求转换为事件演算并利用无接地s(CASP)等ASP求解器推理的方法，相关初步成果已被ICLP'24接收。
2025-02-13 cs.LO cs.SE
Intersection focused Situation Coverage-based Verification and Validation Framework for Autonomous Vehicles Implemented in CARLA
University of York（约克大学）；Boston University（波士顿大学）
自动驾驶汽车（AV），即自动驾驶汽车在安全关键领域运行，因为自动驾驶软件中的错误可能导致巨大的损失。从统计数据来看，道路交叉口是自动驾驶汽车运营设计领域（ODD）的一部分，具有最高的事故率。因此，测试自动驾驶汽车在道路交叉口的限制，并确保其在道路交叉口的安全性是相关的，因此，本文的重点。我们提出了一个基于情况覆盖率（SitCov）的AV测试框架，用于AV的验证与确认（V&V）和安全保证，该框架是在一个名为CARLA的开源AV模拟器中开发的。SitCov的自动驾驶测试框架的重点是在不同的环境和交叉口配置情况下的道路交叉口上的车辆与车辆的交互，使用情况覆盖标准的自动测试套件生成的自动驾驶汽车的安全保证。我们已经开发了一个本体的交叉情况，并使用它来生成一个情况超空间，即，从本体论中产生的所有可能情况的空间。为了评估我们的SitCov AV测试框架，我们在自我AV中植入了多个故障，并比较了基于情况覆盖和随机情况生成。我们发现，这两种生成方法触发的种子故障数量大致相同，但基于情况覆盖的生成告诉我们更多关于我们的自我AV的自动驾驶算法的弱点，特别是在边缘情况下。我们的代码是公开的在线，任何人都可以使用我们的SitCov AV测试框架，并使用它或进一步建立在它之上。本文的目的是有助于V&V和AV的开发领域，不仅从理论的角度来看，而且从开源软件贡献的角度来看，并发布一个灵活/有效的工具V&V和AV…
2022-01-25 cs.AI cs.MA cs.RO
Design and Validation of Learning Aware HMI For Learning-Enabled Increasingly Autonomous Systems
本研究提出支持学习的日益自主系统（LEIAS）架构，通过Soar认知架构融合符号逻辑与强化学习，结合多传感器可靠性评估与飞行员偏好学习，在XPlane仿真中验证了其提升人机协作与操作安全性的有效性。
2025-01-30 cs.ET cs.HC cs.SE
Towards Formal Fault Tree Analysis using Theorem Proving
National University of Sciences and Technology (NUST)（国立科技大学）
故障树分析（FTA）是一种可靠性分析技术，已被广泛用于预测许多复杂工程系统的可靠性、可用性和安全性。传统上，这些基于FTA的分析是使用纸笔证明方法或计算机模拟完成的，由于其固有的局限性，这些方法不能确定绝对正确性。作为一种补充方法，我们建议使用高阶逻辑定理证明器HOL 4进行基于FTA的安全关键系统的故障分析的准确性是一个迫切需要的分析。特别是，本文提出了一个高阶逻辑形式化的通用故障树门，即，与、或、与非、或非、异或和非的失效概率表达式的形式化验证。此外，我们已经正式验证了通用的概率包含-排除原则，这是进行任何给定系统的基于FTA的故障分析的最重要的要求之一。为了说明的目的，我们进行基于FTA的故障分析的太阳能电池阵，这是用来作为东方红3号（DFH-3）卫星的主要电源。
2015-05-08 cs.AI cs.LO cs.SE
