arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~
arXiv 2602.14987cs.LO
收藏

学习鲁棒的马尔可夫模型以实现安全运行时监控

Learning Robust Markov Models for Safe Runtime Monitoring

Chalmers University of Technology and University of Gothenburg(查尔姆斯理工大学和哥德堡大学);Radboud University(拉德堡德大学)

Antonina Skurka, Luko van der Maas, Sebastian Junges, Hazem Torfah

AI总结:

本文提出了一种基于模型的方法,利用区间隐马尔可夫模型学习鲁棒的运行时监控器,以提高自主系统安全性的保障水平。

摘要:

我们提出了一种基于模型的方法,用于学习鲁棒的运行时监控器,以确保自主系统的安全性。运行时监控器在通过观察系统行为并预测潜在的安全违规来提高保证水平方面起着至关重要的作用。在我们的方法中,我们提出使用区间隐马尔可夫模型(iHMMs)来捕捉系统的(随机)行为。监控器然后利用所学的iHMM来推导潜在安全违规的风险估计。本文做出了三个关键贡献:(1)它提供了学习鲁棒运行时监控器问题的形式化;(2)引入了一个新的框架,该框架使用符合性测试为基础的细化来学习具有收敛保证的鲁棒iHMMs;(3)提出了一个高效的监控算法,用于计算iHMMs上的风险估计。我们的实证结果展示了使用我们方法学习的监控器的有效性,特别是在与仅依赖收集数据而没有访问系统模型的无模型监控方法相比时。

英文摘要:

We present a model-based approach to learning robust runtime monitors for autonomous systems. Runtime monitors play a crucial role in raising the level of assurance by observing system behavior and predicting potential safety violations. In our approach, we propose to capture a system's (stochastic) behavior using interval Hidden Markov Models (iHMMs). The monitor then uses this learned iHMM to derive risk estimates for potential safety violations. The paper makes three key contributions: (1) it provides a formalization of the problem of learning robust runtime monitors, (2) introduces a novel framework that uses conformance-testing-based refinement for learning robust iHMMs with convergence guarantees, and (3) presents an efficient monitoring algorithm for computing risk estimates over iHMMs. Our empirical results demonstrate the efficacy of monitors learned using our approach, particularly when compared to model-free monitoring approaches that rely solely on collected data without access to a system model.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑