arXiv 2406.178642024-06-25cs.CYcs.AI

AI风险分类解码（AIR 2024）：从政府法规到企业政策

AI Risk Categorization Decoded (AIR 2024): From Government Regulations to Corporate Policies

Virginia Tech（弗吉尼亚理工大学）；Stanford University（斯坦福大学）；Harvard University（哈佛大学）；Lapis Labs（拉皮斯实验室）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；Northeastern University（东北大学）；University of California, Berkeley（加利福尼亚大学伯克利分校）；University of Chicago（芝加哥大学）

Yi Zeng, Kevin Klyman, Andy Zhou, Yu Yang, Minzhou Pan, Ruoxi Jia, Dawn Song, Percy Liang, Bo Li

阅读 PDF

arXiv 页面 ↗HTML 原文 ↗

AI总结：

本文提出了一套全面的AI风险分类体系，基于8项政府政策和16项企业政策，识别出314个风险类别并组织为四层结构，旨在为生成式AI安全评估建立统一语言，促进跨部门信息共享与风险缓解最佳实践。

摘要：

我们提出了一套全面的AI风险分类体系，该体系源自欧盟、美国和中国的8项政府政策以及全球16项企业政策，朝着为生成式AI安全评估建立统一语言迈出了重要一步。我们识别出314个独立的风险类别，并将其组织成四层分类体系。在最高层级上，该分类体系涵盖系统与运营风险、内容安全风险、社会风险以及法律与权利风险。该分类体系建立了对风险的各种描述和方法之间的联系，突出了公共与私营部门风险概念之间的重叠与差异。通过提供这一统一框架，我们旨在通过跨部门信息共享以及推广生成式AI模型和系统风险缓解的最佳实践，推进AI安全。

英文摘要：

We present a comprehensive AI risk taxonomy derived from eight government policies from the European Union, United States, and China and 16 company policies worldwide, making a significant step towards establishing a unified language for generative AI safety evaluation. We identify 314 unique risk categories organized into a four-tiered taxonomy. At the highest level, this taxonomy encompasses System & Operational Risks, Content Safety Risks, Societal Risks, and Legal & Rights Risks. The taxonomy establishes connections between various descriptions and approaches to risk, highlighting the overlaps and discrepancies between public and private sector conceptions of risk. By providing this unified framework, we aim to advance AI safety through information sharing across sectors and the promotion of best practices in risk mitigation for generative AI models and systems.

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。