限制前沿人工智能的国际协议：目标与退出
International Agreements to Limit Frontier AI: Objectives and Exit
浏览论文内容
中文总结 AI 辅助
研究限制人工智能发展的国际协议，通过调查现有协议，明确适当条件属性并列出可能条件，建议设定固定时间段，由新组织规定发展条件，特殊情况可退出，以此说明相关协议的考虑因素。
中文摘要 AI 辅助
限制人工智能发展的国际协议对于减轻人工智能风险可能至关重要。然而，尚不清楚哪些条件应决定何时放宽限制措施。我们调查了现有国际协议，概述了适当条件应满足的属性，列出了可能的条件，并在一个示例场景中给出了建议。我们建议设定一个固定时间段，在此期间开始时成立的新组织规定人工智能何时可以安全发展的条件，在特殊情况下有可能退出。我们希望说明在限制人工智能的国际协议中可能会涉及的考虑因素。
英文摘要
An international agreement to limit AI development could be crucial to mitigate risks from AI. However, it remains unclear which conditions should determine when the limiting measures are relaxed. We survey existing international agreements, outline what properties appropriate conditions should satisfy, list possible conditions, and finally give a recommendation in an example scenario. We recommend a fixed time period after which a new organization established at the start of the period specifies conditions that address when AI development can be safely conducted, with a possibility of withdrawal in extraordinary circumstances. We hope to illustrate the considerations that would likely go into an international agreement to limit AI.
发表机构
- ETH Zürich, Zurich, Switzerland（苏黎世联邦理工学院）
- Harvard University, Cambridge, United States（哈佛大学）
- MATS Research, Berkeley, United States（MATS研究）
机构由 AI 辅助整理，请以论文原文为准。
