Qualcomm（高通）

Open Challenges in Multi-Agent Security: Towards Secure Systems of Interacting AI Agents

多智能体安全中的开放挑战：迈向交互式AI智能体的安全系统

Christian Schroeder de Witt, Klaudia Krawiecka, Igor Krawczuk, Ben Hagag, William L. Anderson, Peter Belcak, Ben Bucknall, Xiaohong Cai, Ayush Chopra, Doron Cohen, Ron F. Del Rosario, Andis Draguns, Annie Gray, Keren Katz, Vasilios Mavroudis, Jaron Mink, Sumeet Ramesh Motwani, Jonathan Petit, Leif-Sebastian Rembeck, Chandler Smith, John Sotiropoulos, Steven Young, Sarah Scheffler, Mary Llewellyn

机构 * Oxford Witt Lab, University of Oxford（牛津Witt实验室，牛津大学） ； Department of Engineering Science, University of Oxford（牛津大学工程科学系） ； Association for Computing Machinery (ACM)（计算机协会（ACM）） ； Independent（独立） ； MATS Research（MATS研究） ； CyLab Security & Privacy Institute, Carnegie Mellon University（CyLab安全与隐私研究所，卡内基梅隆大学） ； Qualcomm Inc.（高通公司） ； Oxford Martin AI Governance Initiative（牛津马丁人工智能治理倡议） ； Carnegie Mellon University（卡内基梅隆大学） ； MIT Media Lab（麻省理工媒体实验室） ； SAP SE（SAP德国分公司） ； OWASP GenAI Security Project - Agentic Security Initiative（OWASP生成式AI安全项目-代理安全倡议） ； Contramont Research（Contramont研究） ； The Alan Turing Institute（艾伦·图灵研究所） ； Department of Economics, New York University（纽约大学经济系） ； Zenity（Zenity公司） ； King’s College London（伦敦国王学院） ； Arizona State University（亚利桑那州立大学） ； Torr Vision Group, University of Oxford（托尔视觉组，牛津大学） ； Deep Cyber Ltd（Deep Cyber有限公司） 纠错

AI总结 本文探讨多智能体交互带来的安全挑战，提出多智能体安全新领域，旨在解决智能体间及与人类、机构的交互中出现的安全问题，分析安全与效用、安全与安全之间的权衡。