arXivDaily arXiv每日学术速递 周一至周五更新
arXiv 2503.04744cs.CYcs.AI
收藏

安全案例:前沿AI安全的一种可扩展方法

Safety Cases: A Scalable Approach to Frontier AI Safety

Benjamin Hilton, Marie Davidsen Buhl, Tomek Korbak, Geoffrey Irving

AI总结:

本文提出将安全案例方法引入前沿AI安全治理,论证其有助于履行前沿AI安全承诺,并梳理了方法论、实施与技术细节方面的开放研究问题。

摘要:

安全案例——即在给定情境下对系统安全性作出的清晰、可评估的论证——是各行业中广泛使用的技术,用于向决策者(如董事会、客户、第三方)表明系统是安全的。本文阐述了前沿AI开发者为何以及如何也可能希望使用安全案例。我们随后论证,编写和审查安全案例将极大地有助于履行许多前沿AI安全承诺。最后,我们概述了关于安全案例的方法论、实施和技术细节方面的开放研究问题。

英文摘要:

Safety cases - clear, assessable arguments for the safety of a system in a given context - are a widely-used technique across various industries for showing a decision-maker (e.g. boards, customers, third parties) that a system is safe. In this paper, we cover how and why frontier AI developers might also want to use safety cases. We then argue that writing and reviewing safety cases would substantially assist in the fulfilment of many of the Frontier AI Safety Commitments. Finally, we outline open research questions on the methodology, implementation, and technical details of safety cases.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑