调整网络安全框架以管理前沿AI风险：一种深度防御方法
Adapting cybersecurity frameworks to manage frontier AI risks: A defense-in-depth approach
AI总结：
针对前沿AI风险的复杂威胁格局，研究梳理功能法、生命周期法、威胁导向法三类风险管理方法，建议开发者与政策制定者先依托现有框架采用功能法，同时搭建配套的生命周期模型与威胁数据库以完善深度防御体系。
摘要：
前沿AI开发领域复杂且不断演变的威胁格局，需要采用多层级的风险管理方法（即“深度防御”）。通过梳理网络安全与AI相关框架，我们提出三种有助于识别AI相关风险管理工作缺口的方法。第一种是功能法，明确风险管理方案应覆盖的核心活动类别（即“功能”），例如NIST网络安全框架（CSF）与AI风险管理框架（AI RMF）便采用该思路。第二种是生命周期法，将安全保障活动贯穿模型开发生命周期各阶段，DevSecOps与OECD AI生命周期框架均属此类。第三种是威胁导向法，识别恶意行为者使用的战术、技术与程序（TTPs），对应MITRE ATT&CK与MITRE ATLAS数据库的构建逻辑。我们建议前沿AI开发者与政策制定者先采用功能法——目前已有NIST AI RMF及其他补充指南可依托，同时也应构建细化的前沿AI生命周期模型与威胁导向的TTP数据库，为后续风险管理工作提供支撑。
英文摘要：
The complex and evolving threat landscape of frontier AI development requires a multi-layered approach to risk management ("defense-in-depth"). By reviewing cybersecurity and AI frameworks, we outline three approaches that can help identify gaps in the management of AI-related risks. First, a functional approach identifies essential categories of activities ("functions") that a risk management approach should cover, as in the NIST Cybersecurity Framework (CSF) and AI Risk Management Framework (AI RMF). Second, a lifecycle approach instead assigns safety and security activities across the model development lifecycle, as in DevSecOps and the OECD AI lifecycle framework. Third, a threat-based approach identifies tactics, techniques, and procedures (TTPs) used by malicious actors, as in the MITRE ATT&CK and MITRE ATLAS databases. We recommend that frontier AI developers and policymakers begin by adopting the functional approach, given the existence of the NIST AI RMF and other supplementary guides, but also establish a detailed frontier AI lifecycle model and threat-based TTP databases for future use.
机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。
