Resolute: An Assurance Case Language for Architecture Models
关于复杂系统的安全性、可靠性和正确性的论证通常以保证案例的形式进行。保证案例是一种结构化的论证，通常用图形界面表示，它呈现并支持关于系统行为的声明。论证可以结合不同种类的证据来证明其顶级主张。虽然保证案例提供了系统正确性的某种程度的保证，但它们缺乏形式化方法通常提供的证明的严格性。此外，在开发过程中模型结构的变化可能会导致设计与其保证案例之间的不一致。我们的解决方案是一个自动生成保证案例的框架，它基于1）在架构设计语言中指定的系统模型，2）我们开发的一组用特定领域语言表达的逻辑规则，以及3）在模型上运行的其他形式分析的结果。我们认为，这些自动生成的保证案例的严谨性超过了传统的保证案例参数，因为它们更正式的逻辑基础和直接连接到架构模型。
2014-09-16 cs.SE
New Opportunities for Integrated Formal Methods
University of York（约克大学）
形式化方法为研究软件工程基础提供了方法，并且在改进当前可靠性保证实践方面具有很高的潜力。在这篇文章中，我们总结了已知的正式方法的优点和缺点。从机器人和自主系统（RAS）的保证的角度来看，我们强调了集成的正式方法的新机会，并确定了采用这种方法的威胁。基于这些机会和威胁，我们制定了一个议程的基础和实证研究的综合正式的方法，并成功地转移验证的研究RAS保证。此外，我们概述了我们对这一议程的有益成果的期望。
2019-11-05 cs.CY cs.RO cs.SE
Assurance Case Development for Evolving Software Product Lines: A Formal Approach
本文提出一种形式化方法，用于演化软件产品线的提升保证案例开发与回归分析，支持感知变异性的AC语言、基于模板的开发提升及SPL演化影响分析，并提供了基于模型的工具与医疗设备应用实例。
2025-11-04 cs.SE
High-Assurance Separation Kernels: A Survey on Formal Methods
分离内核提供时间/空间分离和受控信息流到其托管应用程序。引入它们是为了将分区中的应用程序分析与内核本身的分析分离开来。已经开发了超过20种分离核的实现，并广泛应用于关键领域，例如，航空电子/航天、军事/国防和医疗设备。形式化方法是由分离核的安全/安全认证所强制要求的，并且自从这个概念出现以来就一直在进行。然而，这一领域缺乏一个调查，系统地研究，比较和分析相关工作。另一方面，通过形式化方法得到的高可信度分离核仍然面临着巨大的挑战。本文首先提出了一个分析框架，阐明了分离核的功能，实现，性质和标准，以及形式化方法应用。基于所提出的分析框架，分类设计根据形式化方法的应用，功能和分离核的属性。然后对文献中的研究工作进行分类和综述。根据分析框架，对相关工作进行了全面的分析和讨论。最后，指出了规范瓶颈、多核和并发、全形式化验证自动化等四个方面的挑战及其可能的技术发展方向。
2017-01-06 cs.SE
Automatic Instantiation of Assurance Cases from Patterns Using Large Language Models
本研究针对保证案例模式实例化依赖人工、易出错的问题，用基于谓词的规则形式化保证案例模式，利用GPT-4o、GPT-4 Turbo实现自动实例化，发现其可生成符合模式的案例但仍逊于专家，提出半自动方案更实用。
2024-10-07 cs.SE
I came, I saw, I certified: some perspectives on the safety assurance of cyber-physical systems
York University（约克大学）；Ecole de Technologie Supérieure（高等技术学院）；University of Fraser Valley（菲沙河谷大学）
本文针对信息物理系统运行故障风险高、需监管认证的需求，分析了保障案例构建的关键方向及相关挑战，并提出了潜在研究方向，以支撑系统安全保障与消费者认可。
2024-01-30 cs.AI cs.SE
PLACIDUS: Engineering Product Lines of Rigorous Assurance Cases
针对软件产品线中单独构建保证用例不可行的问题，提出整合形式化方法的PLACIDUS方法，定义感知可变性的AC语言并基于Lean形式化语义，配套Eclipse工具，经医疗设备产品线验证可行。
2024-07-14 cs.SE
ACCESS: Assurance Case Centric Engineering of Safety-critical Systems
University of Cambridge（剑桥大学）；University of Lancaster（兰卡斯特大学）；University of York（约克大学）；Dalian University of Technology（大连理工大学）；D-RisQ Ltd.（D-RisQ有限公司）
本文提出ACCESS方法，通过模型驱动的保证案例支持安全关键系统的发展，实现开发和运行时的自动评估，并通过自主水下车辆案例验证。
2024-04-16 cs.SE
Correctness, confidence, and context: Framing software assurance in the AI age
Carnegie Mellon University（卡内基梅隆大学）
探讨软件工程中正确性相关挑战，指出传统方法与生成式人工智能在软件保障上的差异，呼吁系统思考保障技术，做出明智选择。
2026-07-17 cs.SE
Model-Driven Development of High-Assurance Active Medical Devices
先进的医疗设备利用嵌入式软件的优势，由于这种系统的关键性质，嵌入式软件的开发受到标准化和认证制度的严格要求的约束。本文介绍了一个正在进行的项目的初步结果和经验教训，重点是开发一个软件控制的安全关键型有源医疗器械（AMD）的子系统的正式模型，负责肾脏替代治疗。标准和法规强烈推荐使用形式化方法开发AMD，并推动了本文应用的Event-B和Rodin等相关方法和工具的最新进展。预计提出的模型开发方法和规范的高置信度的医疗系统将有助于仍然稀疏的经验基础，可在正式的方法和软件工程的科学和从业者社区的处置。
2017-06-20 cs.SE
A causal model of safety assurance for machine learning
Fraunhofer Institute for Cognitive Systems（弗劳恩霍夫认知系统研究所）
本文提出了一个框架的基础上的因果模型的安全，有效的安全保证情况下，基于ML的应用程序可以建立。在这样做的过程中，我们建立在安全工程的既定原则以及以前为ML构建保证参数的工作基础上。本文定义了四类安全案例证据和一种结构化分析方法，在这种方法中，这些证据可以有效地结合起来。在适当的情况下，这些贡献的抽象形式化被用来说明他们评估的因果关系，他们的贡献的安全性论点和理想的属性的证据。根据拟议的框架，在这一领域的进展进行了重新评估，并提出了一套未来的研究方向，以便在这一领域取得切实进展。
2022-08-09 cs.LG cs.RO cs.SE
Making Embodied AI Reliable: A Community Agenda from Testing to Formal Verification
University of Waterloo（滑铁卢大学）；Universityinceton University（普林斯顿大学）
本文基于AAAI'26 Bridge Program讨论，提出通过集成测试、形式验证和运行时保证的神经符号方法，解决具身AI在开放世界中的生命周期可靠性问题。
2026-06-02 cs.RO cs.SE
Significant acceleration of development by automating quality assurance of a medical particle accelerator safety system using a formal language driven test stand
在Paul Scherrer研究所的质子治疗中心，癌症患者使用固定光束线进行治疗，并分别在两个机架中治疗眼部和非眼部恶性肿瘤。为了安装第三台机架，开发了一个新的患者安全系统（PaSS），并按顺序推出，以更新现有区域。PaSS的目的是在任何子系统检测到危险情况时中断治疗。为了确保正确的治疗输送，该系统需要进行彻底的测试，作为定期质量保证（QA）协议的一部分，以及在任何升级后。在传统安全系统中，单元测试需要大量使用资源：除了QA射束时间外，实验室每个区域的工作时间为两周。为了显著缩短时间，基于PXI机箱开发了一个用于单元测试的自动化PaSS测试台，该测试台具有几乎无限的IO，可以在1 MHz下同步激励或采样。它可以使用适配器连接每种类型的接口来模拟设施的其余部分。有了它，PaSS可以在任意条件下进行测试。一个基于VHDL的形式语言的开发来描述刺激，预期的行为和具体的测量，解释的LabView运行时环境。本文描述了用于新PaSS的单元测试和QA发布测试的工具和方法。它展示了自动化和形式化如何使测试覆盖率的增加成为可能，同时显着减少了实验室测试时间和设施的光束使用。
2018-06-23 cs.SE
Reconciling Safety Measurement and Dynamic Assurance
本文提出将安全性能测量关联到安全案例核心制品的动态保证框架，并通过航空自主滑行示例说明指标推导与风险评估修订。
2024-05-30 cs.SE
Towards Identifying and closing Gaps in Assurance of autonomous Road vehicleS -- a collection of Technical Notes Part 2
本报告介绍和概述了在“识别和缩小自动驾驶汽车保证差距”（Towards Identifying and Closing Gap in Assurance of Autonomous Road Vehicles，Tigars）项目中编制的技术专题说明（TTN）。这些说明旨在支持自动驾驶汽车的开发和评估。第1部分涉及：保证-概述和问题，弹性和安全要求，开放系统视角和ML系统的形式化验证和静态分析。本报告是第2部分，讨论：模拟和动态测试，深度和多样性防御，安全信息安全分析，标准和指南。
2020-02-28 cs.RO cs.SE cs.SY
Towards Assurance Closure in AI-Native Large-Scale Agile Software Development
Ericsson（爱立信）；Blekinge Institute of Technology（布莱金厄理工学院）
针对AI原生大规模敏捷软件开发中保证推理机器可操作的缺口，提出基于共享语义保证层的高层架构及六项对应能力，以实现保证闭合。
2026-08-10 cs.AI cs.SE
Towards Continuous Assurance Case Creation for ADS with the Evidential Tool Bus
fortiss GmbH（福蒂斯有限公司）；Technische Universität München（慕尼黑工业大学）；DENSO AUTOMOTIVE Deutschland GmbH（电装汽车德国有限公司）
本文提出利用 ETB 工具集成框架将预定义保证案例模式形式化为可处理工作流，并在工业级自动代客泊车系统上验证其可持续生成和维护安全保证证据。
2024-03-04 cs.LG cs.SE
Towards Identifying and closing Gaps in Assurance of autonomous Road vehicleS -- a collection of Technical Notes Part 1
本报告介绍和概述了在“识别和缩小自动驾驶汽车保证差距”（Towards Identifying and Closing Gap in Assurance of Autonomous Road Vehicles，Tigars）项目中编制的技术专题说明（TTN）。这些说明旨在支持自动驾驶汽车的开发和评估。第1部分涉及：保证-概述和问题，弹性和安全要求，开放系统视角和ML系统的形式化验证和静态分析。第2部分：模拟和动态测试，深度和多样性防御，安全信息安全分析，标准和指南。
2020-02-28 cs.LG cs.RO cs.SE
Search-Based Metamorphic Testing of Vision-Language Models in Autonomous Underwater Robotic Software
Simula Research Laboratory（Simula 研究实验室）；Oslo Metropolitan University（奥斯陆都市大学）；Mondragon University（蒙德拉贡大学）；National Institute of Informatics（国立情报学研究所）；Group Research and Development, DNV AS（DNV AS 集团研发部）
提出基于搜索的蜕变测试方法MetaVLM，通过最小图像变换揭示水下场景中VLM的失败，评估BLIP和CLIP，为AUR软件质量保证提供经验。
2026-09-16 cs.SE
Towards A Catalogue of Requirement Patterns for Space Robotic Missions
University of Manchester（曼彻斯特大学）
针对空间机器人任务需求难以形式化验证的问题，本文验证现有机器人规范模式在空间任务的适用性，构建空间任务需求语料库，新增5种需求模式及相关变体并完成专家评估。
2025-11-18 cs.FL cs.LO cs.RO
Technical-Report: Automating Recoverability Proofs for Cyber-Physical Systems with Runtime Assurance Architectures
本文形式化RTA保护下CPS的决策采样时间充分性与时间有界可恢复性问题，并通过集成Maude与Z3的模SMT符号重写自动生成恢复证明。
2023-04-23 cs.LO cs.SE
How to Formally Model Human in Collaborative Robotics
McMaster University（麦克马斯特大学）
人-机器人协作是机器人技术发展的一个新趋势，它促进了人类和机器人在共同的环境中的共存与合作。人类和机器人之间的物理接近和互动，加上人类行为的不确定性，可能导致人类受伤的意外情况。因此，安全性是HRC应用的优先事项。通过正式建模和验证技术进行安全分析可以大大避免危险后果，但前提是HRC系统的模型是全面和现实的，这需要合理的人类行为模型。本文探讨了最先进的解决方案，为人类建模，并讨论哪些是适合人权高专办的情况。
2020-12-03 cs.FL cs.RO cs.SE
Adapting Quality Assurance to Adaptive Systems: The Scenario Coevolution Paradigm
从正式和实际的分析，我们确定了新的挑战，自适应系统的质量保证过程中。当解决这些问题时，在软件工程过程中花费在各种任务上的努力自然会重新分配。我们认为，所有与测试相关的步骤都需要具有自适应性，以匹配自适应被测系统的能力。否则，自适应系统的行为可能会避开传统的质量保证变体。因此，我们提出了情景协同进化的范式，它描述了一个池的测试用例和其他约束系统的行为，并行发展（部分自主）的行为在被测系统的发展。场景协同进化提供了一个简单的结构，组织自适应测试，允许人为控制和自主干预，支持软件工程的自适应系统的程序以及技术水平。
2019-02-13 cs.SE
Assurance of Distributed Algorithms and Systems: Runtime Checking of Safety and Liveness
本文提出了一个通用的框架和方法，在一个高层次的分布式算法的完整的编程和检查，在伪代码语言，但精确指定和直接执行，在正式的规约语言和实用的程序设计语言，分别。检查框架，以及分布式算法的编写和它们的安全性和活性属性的规范，使用DistAlgo，一种用于分布式算法的高级语言。我们给出了一个完整的可执行规范的检查框架，一个完整的例子算法和例子的安全性和活性属性。
2020-12-24 cs.DC cs.SE
Robotics and Integrated Formal Methods: Necessity meets Opportunity
University of Liverpool（利物浦大学）
机器人系统是多维实体，结合了硬件和软件，严重依赖于与现实世界的交互，并受其影响。它们可以分为嵌入式、网络物理、实时、混合、自适应甚至自主系统，典型的机器人系统可能包含所有这些方面。开发和验证这些系统变体的技术通常是非常不同的。这一点，再加上机器人系统的复杂性，使我们认为，不同的正式技术必须集成，以开发，验证，并提供认证证据，机器人系统。此外，我们提出了快速发展的机器人领域作为一个理想的催化剂，为一体化的形式化方法研究的进步，有助于推动该领域在新的和令人兴奋的方向和大规模的，动态的，复杂的系统的发展。
2018-09-03 cs.RO cs.SE
A Summary of Formal Specification and Verification of Autonomous Robotic Systems
自主机器人系统是复杂的，混合的，通常是安全关键的;这使得它们的形式化规范和验证具有独特的挑战性。虽然通常使用，但单独的测试和模拟不足以确保自主机器人的正确性，或为自主机器人的认证提供足够的证据。自主机器人的形式化方法在文献中得到了一些关注，但没有资源提供当前的概述。这篇简短的论文总结了Luckcuck 2019的贡献，该论文调查了自主机器人正式规范和验证的最新技术。
2019-11-25 cs.SE
LLMs as Judges: Toward The Automatic Review of GSN-compliant Assurance Cases
本文提出利用LLM-as-a-judge范式和基于谓词的规则形式化审查标准，实现符合GSN的保证案例自动审查，实验表明DeepSeek-R1表现最佳但仍需人工完善。
2025-11-04 cs.SE
Evaluating the Effectiveness of GPT-4 Turbo in Creating Defeaters for Assurance Cases
本研究针对保证案例反驳项识别任务，提出利用GPT-4 Turbo自动识别采用排除论证符号形式化的保证案例中的反驳项的方法，初步评估显示模型精通该符号体系且可生成多类反驳项。
2024-01-31 cs.SE
PROSKILL: A formal skill language for acting in robotics
LAAS-CNRS（LAAS-CNRS（法国国家科学研究中心自动化与系统分析实验室））；Université de Toulouse（图卢兹大学）
针对自主机器人行动模块的技能编程需求，提出形式化技能语言PROSKILL，可映射为形式化模型以实现离线验证、运行时验证与直接执行，并用无人机勘测任务验证了有效性。
2025-02-21 cs.RO cs.SE
Formal requirement and architecture specifications of a multi-agent robotic system
多智能体机器人系统的规范工程中最具挑战性的任务之一是正式指定和架构的系统，特别是作为一个多智能体机器人系统是并发的并发处理，往往有动态的环境。形式化的需求和体系结构规范以及从抽象到具体概念的逐步细化在系统的形式化中起着重要作用。本文提出了正式的需求和架构规范方面的一种方法，支持分析方面的功能以及非功能属性逐步细化从抽象到具体的规范和正式的架构定义。这些正式的规范已被举例说明的案例研究。随着形式化规范技术的日益成熟，我们构建正确的复杂多智能体机器人系统的能力也在迅速增长。
2015-01-21 cs.MA cs.SE
Quantitative Assurance and Synthesis of Controllers from Activity Diagrams
本文提出面向 UML 活动图的全自动定量验证与控制器综合框架，实现到 PRISM 的语义转换及 QASCAD 工具，并通过医院机器人案例和六个文献示例验证其有效性。
2024-02-29 cs.FL cs.LO cs.SE
Operationalising Artificial Intelligence Bills of Materials (AIBOMs) for Verifiable AI Provenance and Lifecycle Assurance
本文提出了一种扩展CycloneDX标准的AIBOM框架，用于捕捉AI特定的溯源、模型血统和披露元数据，通过结构化架构工程、密码学验证和智能体驱动自动化，实现可验证的软件溯源，展示了98.7%的可重复性保真度、96.2%的漏洞匹配精度和63%的手动监督减少，验证了自动化溯源保证和可重复AI生命周期验证的可行性。
2026-03-17 cs.AI cs.CR cs.LG
Testing and Verification of Quantum Compilers through Assurance Contracts and Evidence
City University of Science and Information Technology (CUSIT)（城市科学与技术大学）；National University of Computer and Emerging Sciences (FAST-NUCES)（国立计算机与新兴科学大学）
本综述整合量子编译器测试与验证方法，提出基于保障契约和证据的审计框架，通过失败案例和实例区分方法适用性，强调回归架构需受控评估。
2026-10-16 cs.ET cs.SE
An Agentic RAG and Evaluation Framework for Assurance Case Generation: Industrial Use Case for the EU Cyber Resilience Act Compliance
Simula Research Laboratory（Simula 研究实验室）；TECNALIA；Catalink Limited（Catalink 有限公司）
该研究提出基于智能RAG的保障案例生成与评估框架，通过案例研究验证其可自动化欧盟网络弹性法案合规评定，减少人工并提升证据可追溯性。
2026-08-21 cs.SE
Runtime Verification and Field-based Testing for ROS-based Robotic Systems
Chalmers University of Technology（查尔姆斯理工大学）；Gran Sasso Science Institute (GSSI)（格兰萨索科学研究所）；University of Brasilia（巴西利亚大学）；Ruhr University Bochum（波鸿鲁尔大学）；University of Gothenburg（哥德堡大学）
本文针对ROS机器人系统，通过文献综述、仓库挖掘和问卷验证，提出20条指南（8条面向开发者，12条面向QA团队），以支持运行时验证和现场测试，填补架构指导空白。
2024-08-21 cs.RO cs.SE
Formal Modelling and Analysis of a Self-Adaptive Robotic System
University of Oslo（奥斯陆大学）；ISTI–CNR（意大利国家研究委员会信息科学与技术研究所）；University of Turin（都灵大学）
本文使用特征感知概率模型检验器 ProFeat 对用于管道检测的自主水下航行器进行形式化建模，将其建模为特征配置系统族和动态切换控制层，以分析概率奖励与安全性性质。
2024-01-15 cs.LO cs.RO cs.SE
Towards Compositional Verification for Modular Robotic Systems
The University of Manchester（曼彻斯特大学）
模块化机器人系统的软件工程是一项具有挑战性的任务，然而，验证所开发的组件是否都能单独和整体地表现出其独特的挑战。特别是，模块化机器人系统中的不同组件通常需要不同的验证技术，以确保它们按预期运行。当使用各种技术和形式主义验证单个组件时，很难确保整个系统的一致性。本文讨论了如何使用组合验证来集成应用于模块化机器人软件的各种验证技术，使用捕获每个组件的假设和保证的一阶逻辑（FOL）合同。然后，这些契约可以用于指导各个组件的验证，无论是通过测试还是使用正式方法。我们提供了一个说明性的例子，用于远程检查的自主机器人。我们还讨论了定义与每个组件相关的验证置信度的方法。
2020-12-03 cs.LO cs.RO cs.SE
Contribution to the Formal Specification and Verification of a Multi-Agent Robotic System
IRISA（法国国家信息与自动化研究所布列塔尼大西洋分部）；University of South Brittany（南布列塔尼大学）；The Islamia University of Bahawalpur（巴哈瓦尔布尔伊斯兰大学）
重要的是要有多智能体机器人系统规范，以确保正确性，安全性和活性。由于这些系统具有并发性，并且通常具有动态环境，因此这些系统的形式化规范和验证以及从抽象到具体概念的逐步细化在系统正确性中起着重要作用。形式化验证用于系统空间的详尽调查，从而确保排除行为中未检测到的故障。我们构建系统的子组件，基于软件体系结构的增量。挑战是开发一个安全的多智能体机器人系统，更具体地说，以确保安全性和活性的正确性。基于模型检测的形式化规约具有灵活性强、语法具体等特点，对多智能体机器人系统的正确性起着至关重要的作用。由于这类系统具有高并发性，且大多数情况下是动态的，因此形式化地验证其安全性和活性是非常重要的。我们已经考虑了一个案例研究的多智能体机器人系统的仓库之间的股票运输，以证明我们的正式方法。我们提出的开发方法允许在规范定义期间进行形式化验证。开发过程分为需求规范、验证规范、体系结构规范和实现四个主要阶段。
2015-10-02 cs.AI cs.MA cs.SE
Automatically Building Machine-Checked Assurance Cases from C Codebases to Requirements
Zhejiang University（浙江大学）；University of Oxford（牛津大学）；The Chinese University of Hong Kong（香港中文大学）；Xidian University（西安电子科技大学）
本文提出CCV框架，利用LLM辅助构建机器检查的保证案例，通过接口协议和模块化证明验证C代码库满足需求，在六个基准上验证299个函数，人工工作量低。
2026-10-01 cs.PL cs.SE
Assessing Vision-Language Models for Perception in Autonomous Underwater Robotic Software
Simula Research Laboratory（Simula研究实验室）；Oslo Metropolitan University（奥斯陆城市大学）；Mondragon University（蒙德拉贡大学）；National Institute of Informatics（国立信息学研究所）；Det norske Veritas (DNV)（挪威船级社（DNV））
本文评估了视觉-语言模型在自主水下机器人软件中的感知性能，通过计算性能和不确定性来指导软件工程师选择合适的模型。
2026-03-29 cs.RO cs.SE
OntoGSN: An Ontology-Based Framework for Semantic Management and Extension of Assurance Cases
fortiss research institute（fortiss研究机构）；Mälardalen University（马尔默达伦大学）
OntoGSN通过本体和中间件实现保障案例的语义管理和扩展，提供知识表示和查询功能，并在对抗鲁棒性保障中展示实用性。
2025-12-19 cs.AI cs.SE
DesCert: Design for Certification
DARPA软件自动快速认证（ARCOS）计划的目标是“自动评估软件保证证据，使认证机构能够快速确定系统风险是可接受的。“作为该计划的一部分，DesCert项目侧重于保证驱动的新软件开发。DesCert团队由SRI International、Honeywell Research和华盛顿大学组成。我们已经采用了一种正式的，基于工具的方法来构建软件工件，这些工件得到了严格的证据支持。DesCert工作流将证据生成集成到设计过程中，该过程从需求捕获和分析到将高级软件需求分解为具有断言合同的架构属性和软件组件，以及可以动态和静态分析的软件。所生成的证据是通过一个保证本体和集成到RACK知识库。
2022-03-29 cs.SE
Formalism of Requirements for Safety-Critical Software: Where Does the Benefit Come From?
安全和保证标准通常依赖于这样的原则，即通过更正式地表达需求，可以最大限度地减少需求错误。尽管大量的案例研究表明，将以前非正式的需求形式化的行为会发现需求错误，但这一原则实际上只是一个假设。在形式化和更好的要求之间的一种工业上有说服力的因果关系还有待建立。我们描述了多个相互竞争的解释这一假设，在精度水平，重新制定，专业知识，努力和自动化，通常与正式的要求。然后，我们提出了一个实验来区分这些解释，但不一定排除它们都不正确的可能性。
2014-04-27 cs.SE
Model Checking Probabilistic Real-Time Properties for Service-Oriented Systems with Service Level Agreements
服务质量属性的保证是面向服务的软件工程的一个重要方面。所谓的服务级别协议（SLA）的表示法，例如Web服务级别协议（WSLA）语言，提供了正式的语法来指定服务提供商和客户之间的（具有法律约束力的）合同方面的此类保证。另一方面，用于验证概率实时的【形】行为的形式化方法已经达到了一定的表达能力和效率水平，可以将其应用于现实世界的场景中。本文建议采用最近引入的区间概率时间自动机（IPTA）模型来对面向服务系统的QoS属性进行形式化验证。具体来说，我们表明，IPTA与概率时间自动机（PTA）相比，能够直接捕获SLA中指定的保证。IPTA分析中的一个特殊挑战是，它们的朴素语义通常会产生无限的状态集和无限分支的转换。然而，使用符号表示，IPTA可以进行分析，而有效。我们已经开发了第一个实现的IPTA模型检查器扩展的PRISM工具，并表明，模型检验IPTA是只稍微贵于模型检验可比PTA。
2011-11-14 cs.LO cs.PF cs.SE
Validation Obligations: A Novel Approach to Check Compliance between Requirements and their Formal Specification
传统上，从业者主要将形式化方法用于质量保证过程的一半：验证（我们构建的软件正确吗？）。另一半--验证（我们是否构建了正确的软件？）--相对来说，很少受到关注。虽然验证是基于精化的形式化方法的核心，其中每个新的精化步骤必须保留其抽象模型的所有属性，但验证通常被推迟到开发的最新阶段，此时模型可以自动执行。因此，在需求或其解释中的错误被发现得太晚了：通常在开发过程的最后。在本文中，我们提出了一种新的方法来检查符合性的需求和他们的正式细化为基础的规范在早期阶段的发展。我们提出的方法--“验证义务”--基于一个简单的想法，即验证和验证都是系统所有细化步骤的组成部分。
2021-02-11 cs.FL cs.SE
Toward Pre-Deployment Assurance for Enterprise AI Agents: Ontology-Grounded Simulation and Trust Certification
Golden Gate University（金门大学）；Data, Digital & IT, Novartis Healthcare Pvt. Ltd.（数据、数字与IT，诺华健康护理私人有限公司）
提出一种基于本体的验证框架，通过本体驱动的场景生成和信任证书，实现企业AI代理在部署前的自动化监管合规与安全认证。
2026-06-04 cs.AI cs.LG cs.SE
AgentGuard: Runtime Verification of AI Agents
JetBrains Research, The Netherlands（JetBrains研究院，荷兰）
针对自主智能体行为不可预测、传统验证失效的问题，本文提出 AgentGuard 运行时验证框架，通过 I/O 事件抽象、在线学习 MDP 与概率模型检查实现动态定量保证。
2025-09-28 cs.AI cs.SE
Implementation of the Collision Avoidance System for DO-178C Compliance
本文以无人机避撞系统为案例，结合Alloy、SPIN、Simulink Embedded Coder和LDRA等形式化与自动化工具，展示了实现DO-178C等级B合规的完整开发与验证方法。
2025-09-20 cs.SE
Towards Risk Modeling for Collaborative AI
Faculty of Computer Science, Free University of Bozen-Bolzano（波尔扎诺自由大学计算机学院）；University of Innsbruck（因斯布鲁克大学）；Fraunhofer Italia Research（弗劳恩霍夫意大利研究院）；Fondazione Bruno Kessler (FBK)（布鲁诺·凯塞勒基金会）
协作人工智能系统旨在与人类在共享空间中合作，以实现共同目标。由于接触可能会伤害人类，因此这种设置会造成潜在的危险情况。因此，构建此类系统并强有力地保证符合特定于需求领域的标准和法规是最重要的。当这些系统依赖于机器学习组件而不是自上而下的基于规则的AI时，与实现这一目标相关的挑战变得更加严峻。在本文中，我们介绍了一种为协作AI系统量身定制的风险建模方法。风险模型包括目标、风险事件和可能使人类暴露于危险的领域特定指标。然后，利用风险模型来驱动保证方法，这些保证方法通过从运行时证据中提取的洞察力反过来为风险模型提供信息。我们设想的方法是通过在工业4.0领域的一个正在运行的例子来描述的，在这个例子中，一个机器人手臂被赋予了一个视觉感知组件，用机器学习来实现，与人类操作员合作执行与生产相关的任务。
2021-03-12 cs.AI cs.SE
Run-Time Risk Mitigation in Automated Vehicles: A Model for Studying Preparatory Steps
Faculty of Informatics（信息学院）；Technical University of Munich（慕尼黑技术大学）
本文研究自动驾驶车辆运行时的风险缓解，通过模型分析驾驶过程及控制回路，识别潜在危害并提出缓解措施，为安全控制器的自动化合成提供方法。
2017-09-08 cs.RO cs.SE cs.SY
AssureCode: Structured Justification for Trustworthy Agentic Coding
University of Toronto（多伦多大学）；McGill University（麦吉尔大学）
本研究提出AssureCode方法，将结构化论证引入AI辅助软件开发，以生成可验证的论证依据，提升AI生成代码的正确性保障能力。
2026-10-22 cs.SE
Integrating Formal Verification and Simulation-based Assertion Checking in a Corroborative V&V Process
自动驾驶汽车（Automated Vehicles，简称AV）在交通领域正迅速成熟。然而，AV设计问题的复杂性是这样的，没有一种技术足以提供关键属性，如安全性，可靠性或可信度的充分验证。在这篇愿景论文中，提出了一种空间交通逻辑和基于代理的验证方法与验证方法相结合的方法，该方法使用断言检查模拟。我们概述了如何将各自的方法集成到一个名为“确证验证与确认”（V&V）的方法框架中。确证验证与确认框架为AV确定了三个不同的验证和确认级别（形式化验证、基于模拟的测试、真实世界实验）并指定了这些级别之间的联系和证据。我们定义了必须在过程、系统模型和需求模型之间建立的正式关系的规范，这些关系是来自正式设计验证和基于模拟的测试的证据，以相互证实并增强验证和确认的保证信心。
2022-08-10 cs.SE
Learning-Infused Formal Reasoning: From Contract Synthesis to Artifact Reuse and Formal Semantics
Department of Computer Science（计算机科学系）
提出将形式化方法与人工智能融合的长期研究愿景，通过自动化合约合成、语义工件复用和精化理论，构建知识驱动的验证生态系统，加速未来保障。
2026-06-17 cs.AI cs.SE
Trust Is Not a Score: Runtime Assurance Contracts for High-Risk AI Agents
Cherkasy State Business College（切尔卡瑟国立商学院）；State Scientific Research Institute of Armament and Military Equipment Testing and Certification（国家武器装备与军事装备试验认证科学研究所）；healthPrecision
针对高风险AI智能体在关键任务中证据与权限脱节的问题，提出运行时保障契约（RAC），通过强制门禁和证据记录约束行动，经故障注入实验验证其优于纯分数规则。
2026-10-19 cs.AI cs.CY cs.SE
